안녕하세요. 최용일입니다.



가장 오차가 많은것이 실수계산인데요. 다음과 같이 80x87 Control Word를 셋팅하고



사용해보세요. 유효숫자는 소수점 한자리입니다.



procedure Set80x87ControlWord (const CtrlWord: Word); assembler;

var

TempWord: Word;

asm

mov [TempWord], ax

fldcw [TempWord] // Load 80x87 Control Word

end;



var

R: Real; // Single, Double, Extended형 사용, Currency형은 효과 없음.

begin

Set80x87ControlWord($1072);

R := 1250000 / 30*18;



// Format('%.18F', [R]); ==> R = 749999.971050192896000000 (소수점 18자리까지)

// Real, Single, Double, Extended형 특성상 소수점 한자리 이하는 믿을게 못됩니다.

// Currency형은 소수점 네째자리까지가 유효숫자입니다.



end;



^^ 항상 즐코하세요.



조복기 wrote:

>

> 안녕하세요~

> 간단한 문제같으면서도 해결방법이 생각나지 않아 질문을 올립니다..

>

> 1,250,000 / 30 * 18 을 했을경우 제대로 계산했을때에는

> 749,999.999999...로 나와야 되는게 정상입니다.

> trunc및 int등으로 절사를 무지(?) 애써봐도 나오는값은 745,000이더군여..

>

> 윈도우계산기등에서 계산했을경우에도 마찬가지로

> 745,000 이 나옵니다..

>

> 과연 이값을 749,999 로 나오게하는방법은 없는지 답변 부탁드립니다..

> 간단한것 같으면서도..애매하네요..

역시...고수님은 다르시군요.

전 소스를 보고도 무시기 소리인지 잘 파악이 안됩니다. 늦은시간 최용일님이 올려주신 답변을 보고 테스트를 해봤습니다. 정말 정확히 값이 나옵니다. 조복기님덕에 저두 좋은 가르침 받고 갑니다.

항상 질문올려주신분들을 위해 답변 아끼시지 않으시는 모습. 늘 좋은 인상으로 남습니다.

그럼... 항상 좋은하루하루 되세요. 꾸뻑



최용일 wrote:

> 안녕하세요. 최용일입니다.

>

> 가장 오차가 많은것이 실수계산인데요. 다음과 같이 80x87 Control Word를 셋팅하고

>

> 사용해보세요. 유효숫자는 소수점 한자리입니다.

>

> procedure Set80x87ControlWord (const CtrlWord: Word); assembler;

> var

> TempWord: Word;

> asm

> mov [TempWord], ax

> fldcw [TempWord] // Load 80x87 Control Word

> end;

>

> var

> R: Real; // Single, Double, Extended형 사용, Currency형은 효과 없음.

> begin

> Set80x87ControlWord($1072);

> R := 1250000 / 30*18;

>

> // Format('%.18F', [R]); ==> R = 749999.971050192896000000 (소수점 18자리까지)

> // Real, Single, Double, Extended형 특성상 소수점 한자리 이하는 믿을게 못됩니다.

> // Currency형은 소수점 네째자리까지가 유효숫자입니다.

>

> end;

>

> ^^ 항상 즐코하세요.

>

> 조복기 wrote:

> >

> > 안녕하세요~

> > 간단한 문제같으면서도 해결방법이 생각나지 않아 질문을 올립니다..

> >

> > 1,250,000 / 30 * 18 을 했을경우 제대로 계산했을때에는

> > 749,999.999999...로 나와야 되는게 정상입니다.

> > trunc및 int등으로 절사를 무지(?) 애써봐도 나오는값은 745,000이더군여..

> >

> > 윈도우계산기등에서 계산했을경우에도 마찬가지로

> > 745,000 이 나옵니다..

> >

> > 과연 이값을 749,999 로 나오게하는방법은 없는지 답변 부탁드립니다..

> > 간단한것 같으면서도..애매하네요..

조복기 wrote:

>

> 안녕하세요~

> 간단한 문제같으면서도 해결방법이 생각나지 않아 질문을 올립니다..

>

> 1,250,000 / 30 * 18 을 했을경우 제대로 계산했을때에는

> 749,999.999999...로 나와야 되는게 정상입니다.

> trunc및 int등으로 절사를 무지(?) 애써봐도 나오는값은 745,000이더군여..

>

> 윈도우계산기등에서 계산했을경우에도 마찬가지로

> 745,000 이 나옵니다..

>

> 과연 이값을 749,999 로 나오게하는방법은 없는지 답변 부탁드립니다..

> 간단한것 같으면서도..애매하네요..



우선 위의 계산식에서 749,999 가 나오도록은 했는데....맞는방법인지는 장담할수가 없습니다. 음... 좀 창피한데요. 우선 위의 식만가지고 했을경우에는

(trunc(1250000/30*1000)*18)/1000;

이렇게 해봤거든요. 음.... 처음식에서 1250000/30에서 벌써 소숫점 자리가 버려지는것을 1000을 곱해서 다음식까지 소숫점밑에자리 숫자를 가지고 간 다음 18을 곱하니까..... 나오기는 나오는데요. 다른것은 테스트를 안해봐서 잘 모르겠습니다. 틀린것 같지만 조복기님께서 보시고 혹시나 도움이 되셨으면 해서요. 이로인해서 더 좋은 방법이 생각나실지도 모르쟎아요. 그럼 저두 알려주세요. 그럼..이만..

안녕하세요..형호님^^

제도 하도 한델에 오질않아서 자주못