にしし ふぁくとりー(西村文宏 個人サイト)

Presented by Nishishi via Movable Type. Last Updated: 2015/09/22. 13:22:12.

0.01を100回足すと値はいくつ?(JavaScript版)

0.01を100回足すと値はいくらになるか?
算数で考えれば当然答えは 1 になるわけですけども。JavaScriptで行ってみましたら、結果は以下のようになりました。

  • Internet Explorerでは 1.0000000000000006
  • Firefox と Opera では 1.0000000000000007

余計な値がちょっと付いてます。
では、100回加算するのではなく、100をかけるとどうなるか?つまり、0.01×100を計算するとどうなるか。これは、IEでもFirefox・Operaでも1になりました。
しかし。
0.01×35 だと答えは 0.35000000000000003 になりました。
なんと、0.35 になりません。余計な端数が付いてます。(^_^;)

気になったので、0.01を1回~100回加算する計算と、0.01×1~100の計算をJavaScriptで実行してみました。その結果は下表の通り。なかなかおもしろいです。(^_^;)

回数加算の計算結果
(0.01をn回加算)
比較乗算の計算結果
(0.01×回数)

かけ算の方が、概ね数学での答えに近いですが、一部で余計な端数が出てしまっていますねー。
0.01を10回加算した値が、IEでもFirefoxでもOperaでも 0.09999999999999999 なのがちょっと驚き。(^_^;)

PHPとExcelの丸め方(@Okumura's Blog)

…のコメント欄に

10進で有限小数でも2進で無限小数になるので0.01を100回加えても1にならなかったりするわけですが

とあったので試したくなって実験してみました。
そういえば、昔々、大学の実習でもこういうことやりましたっけねー。C言語とかのプログラミング言語だったか、それともExcelみたいなソフトウェア上だったかは忘れましたが。

ちなみに、Windows上のPerlで計算してみましたら、0.01を100回足すと答えは 1 でした。(でも、99回足すと 0.990000000000001 でしたけどね。^^;)

コメント

はじめまして(^^
最近パソコンをはじめたばかりの初心者です
こちらには「プロ顔負けのホームページ作成術」を
拝読させていただいたご縁でまいりました
ちょうどJavaにも興味を持ち始めていた時でしたので
参考になりましたw
少しの記述で表現できるJavaは不思議ですね

投稿者 Caffein : 2007年06月04日 18:18

Caffeinさん、こんにちは。
本読んで下さってどうもありがとうございます。(^_^)

ちなみに、JavaとJavaScriptは名前は似ていますが全く異なるものでして、上記で使っているのはJavaScriptです。
もし何か参考書を探そうと思われている場合は、「Java」と「JavaScript」を混同しないようご注意下さい。(^_^;)
とりあえず、「JavaScript」でおもしろそうな本を探されると良いと思います。

投稿者 にしし : 2007年06月08日 02:07

これは浮動小数点の有効桁数の問題ですね。

浮動小数点の有効桁数 で検索してみると,原因が分かるとおもいますよ(^^

投稿者 さとーし : 2007年11月14日 17:51

コメント数: 3件

コメント投稿欄 この日記に対するコメント投稿を歓迎します。

保存しますか?



※本文中にURLは書けません。(書くと投稿が拒否されますのでご注意下さい。)

※投稿内容は、実際にページ上に掲載される前に、管理者によって確認される設定にしている場合があります。その場合は、投稿後にその旨が表示されます。たいてい1~2日以内には表示されるはずですので、気長にお待ち願います。m(_ _)m

トラックバック

このエントリーへのトラックバックURLを表示するにはここをクリック
※スパム防止のため、トラックバックURLは別ウインドウで表示します。(JavaScriptが有効でないと表示されません。)

--- 当サイト内を検索 ---