23時54分19秒 [コンピュータ]
0.01を100回足すと値はいくらになるか？
算数で考えれば当然答えは 1 になるわけですけども。JavaScriptで行ってみましたら、結果は以下のようになりました。
余計な値がちょっと付いてます。
では、100回加算するのではなく、100をかけるとどうなるか？つまり、0.01×100を計算するとどうなるか。これは、IEでもFirefox・Operaでも1になりました。
しかし。
0.01×35 だと答えは 0.35000000000000003 になりました。
なんと、0.35 になりません。余計な端数が付いてます。(^_^;)
気になったので、0.01を1回～100回加算する計算と、0.01×1～100の計算をJavaScriptで実行してみました。その結果は下表の通り。なかなかおもしろいです。(^_^;)
| 回数 | 加算の計算結果 （0.01をn回加算） | 比較 | 乗算の計算結果 （0.01×回数） |
|---|
かけ算の方が、概ね数学での答えに近いですが、一部で余計な端数が出てしまっていますねー。
0.01を10回加算した値が、IEでもFirefoxでもOperaでも 0.09999999999999999 なのがちょっと驚き。(^_^;)
◆PHPとExcelの丸め方（＠Okumura's Blog）
…のコメント欄に
10進で有限小数でも2進で無限小数になるので0.01を100回加えても1にならなかったりするわけですが
とあったので試したくなって実験してみました。
そういえば、昔々、大学の実習でもこういうことやりましたっけねー。C言語とかのプログラミング言語だったか、それともExcelみたいなソフトウェア上だったかは忘れましたが。
ちなみに、Windows上のPerlで計算してみましたら、0.01を100回足すと答えは 1 でした。（でも、99回足すと 0.990000000000001 でしたけどね。^^;）
この日記へのコメントはお気軽に！ コメント数:3件
Caffeinさん、こんにちは。
本読んで下さってどうもありがとうございます。(^_^)
ちなみに、JavaとJavaScriptは名前は似ていますが全く異なるものでして、上記で使っているのはJavaScriptです。
もし何か参考書を探そうと思われている場合は、「Java」と「JavaScript」を混同しないようご注意下さい。(^_^;)
とりあえず、「JavaScript」でおもしろそうな本を探されると良いと思います。
投稿者 にしし : 2007年06月08日 02:07
これは浮動小数点の有効桁数の問題ですね。
浮動小数点の有効桁数 で検索してみると，原因が分かるとおもいますよ（＾＾
投稿者 さとーし : 2007年11月14日 17:51
コメント数： 3件
はじめまして（＾＾
最近パソコンをはじめたばかりの初心者です
こちらには「プロ顔負けのホームページ作成術」を
拝読させていただいたご縁でまいりました
ちょうどＪａｖａにも興味を持ち始めていた時でしたので
参考になりましたｗ
少しの記述で表現できるＪａｖａは不思議ですね
投稿者 Caffein : 2007年06月04日 18:18