2007年6月 2日(土) 23時54分19秒 [コンピュータ]

0.01を100回足すと値はいくつ？（JavaScript版）

0.01を100回足すと値はいくらになるか？
算数で考えれば当然答えは 1 になるわけですけども。JavaScriptで行ってみましたら、結果は以下のようになりました。

• Internet Explorerでは 1.0000000000000006
• Firefox と Opera では 1.0000000000000007

余計な値がちょっと付いてます。
では、100回加算するのではなく、100をかけるとどうなるか？つまり、0.01×100を計算するとどうなるか。これは、IEでもFirefox・Operaでも1になりました。
しかし。
0.01×35 だと答えは 0.35000000000000003 になりました。
なんと、0.35 になりません。余計な端数が付いてます。(^_^;)

気になったので、0.01を1回～100回加算する計算と、0.01×1～100の計算をJavaScriptで実行してみました。その結果は下表の通り。なかなかおもしろいです。(^_^;)

かけ算の方が、概ね数学での答えに近いですが、一部で余計な端数が出てしまっていますねー。
0.01を10回加算した値が、IEでもFirefoxでもOperaでも 0.09999999999999999 なのがちょっと驚き。(^_^;)

◆PHPとExcelの丸め方（＠Okumura's Blog）

…のコメント欄に

10進で有限小数でも2進で無限小数になるので0.01を100回加えても1にならなかったりするわけですが

とあったので試したくなって実験してみました。
そういえば、昔々、大学の実習でもこういうことやりましたっけねー。C言語とかのプログラミング言語だったか、それともExcelみたいなソフトウェア上だったかは忘れましたが。

ちなみに、Windows上のPerlで計算してみましたら、0.01を100回足すと答えは 1 でした。（でも、99回足すと 0.990000000000001 でしたけどね。^^;）