NI製品ディスカッション

キャンセル
次の結果を表示 
次の代わりに検索 
もしかして: 

特定の値で失敗する'自作'ステップ値生成関数

いえいえ、普通はこんな下の桁まで気にする必要はないのですが・・・

いかんせん、浮動小数点での「イコール」や「比較」「切り捨て・切り上げ等」が厳密すぎて、イコールはLSBまで全bit一致しないとイコールにしてくれないし(ベタ打ちと計算経由ではLSB側が一致しないのが当たり前なのに)、切り捨て等も、理屈上は切り捨てられないはずなのに極僅か達していないだけで一気に下の値に切り捨てられる・・・という、厳密すぎるためにミクロがマクロに伝搬するかのような現象に悩まされるものでして、面倒でもそういうところを気にした書き方をしないといけないケースが、、、

言語レベルで、普通のダイヤグラムの書き方のままで、ある許容差以内はOKとするような仕組みがあるといいのですが。

メッセージ11/11
370件の閲覧回数