Q&A 게시판

cancel
Showing results for 
Search instead for 
Did you mean: 

상하한치값 비교 버그인가요??

Solved!
Go to solution

상하한치 값 비교를 하기위해 짰는데 위에 불리언이 왜 FALSE인지 모르겠습니다.

 

버그.png캡처.PNG

0 Kudos
Message 1 of 8
(338 Views)

함수에서 마우스오른쪽누르고 도움말 보시면 다음과 같이 적혀있습니다. 

하위 리미트 값을 범위 내에 포함합니다.

상위 리미트 값은 범위 내에 포함되지 않습니다.

 

X와 상위 리미트가 같으면 거짓 X와 하위 리미트가 같으면 참을 반환합니다.

0 Kudos
Message 2 of 8
(323 Views)

위의 그림을 보시면 아시겠지만 저 함수는 상위리미트 포함 상태입니다.

상위리미트를 포함하지 않으면 위쪽 마름모가 빈칸으로 표시됩니다

0 Kudos
Message 3 of 8
(318 Views)

캡처.PNG캡처2.PNG

0 Kudos
Message 4 of 8
(317 Views)

참고로 0.78이란 저 값에서만 동작이 제대로 안되고 다른 값은 잘 됩니다.

0 Kudos
Message 5 of 8
(303 Views)
Solution
Accepted by topic author Danieeeeeeeeeeeel

부동 소수점 오류로 생각됩니다.

입력 값들을 배정도(DBL)에서 고정 소수점(FXP) 타입으로 변경하여 진행하시면 원하는 결과를 확인하실 수 있습니다.

0 Kudos
Message 6 of 8
(298 Views)

오류 맞는거겠죠?

단정도랑 고정소수점하면 된더라구요

이래가지고 배정도 소수점을 믿고 쓸 수 있을지 모르겠습니다.

0 Kudos
Message 7 of 8
(293 Views)

부동 소수점과 고정 소수점의  특성에 맞게 사용하시면 될 것 같습니다.

해당 내용과 같은 오류가 발생 될 수 있기 때문에 실수형 연산에서의 등호 사용시 주의가 필요합니다.

0 Kudos
Message 8 of 8
(291 Views)