Q&A

  • float 계산오류
단순한 float 형 빼기 계산입니다.

오라클 디비에서 읽어온 값으로 초기값을 계속 빼나가서

결국 '0' 을 만드는 단순한 로직인데

watch list 로 보면 값이 정확한데 Showmessage로 잡아보면

602.000000006 이라는 이상한 값이 나와버립니다.

옆사람 말로는 예전에 델파이실수 계산 버그에 대한 신문기사를 본적이 있다고

하는데 이런 버그가 있는것인지요.



1  COMMENTS
  • Profile
    아폴론 2001.01.20 23:06
    박준홍 wrote:

    > 단순한 float 형 빼기 계산입니다.

    > 오라클 디비에서 읽어온 값으로 초기값을 계속 빼나가서

    > 결국 '0' 을 만드는 단순한 로직인데

    > watch list 로 보면 값이 정확한데 Showmessage로 잡아보면

    > 602.000000006 이라는 이상한 값이 나와버립니다.

    > 옆사람 말로는 예전에 델파이실수 계산 버그에 대한 신문기사를 본적이 있다고

    > 하는데 이런 버그가 있는것인지요.



    아닐것입니다. 초기화를 시키고 변수를 Double로 하고 계산하면 정확한 답을

    줄 텐데. 소스를 안보고 무어라 말 할 수 없을것 같군요.

    >