2008-09-21から1日間の記事一覧

浮動小数点を比較する

Perl › 数値 › 浮動小数点の比較 コンピュータは内部的には2進数を使って演算しているので、2進数で表現できない小数については計算の過程で誤差が生まれます。2進数の演算の過程で発生した誤差の影響を無視するためには、ある有効桁で数値を丸めて比較する…