にしし ふぁくとりー(西村文宏 個人サイト)

Presented by Nishishi via Movable Type. Last Updated: 2017/06/21. 12:27:35.

0.01を100回足すと値はいくつ?(JavaScript版)

0.01を100回足すと値はいくらになるか?
算数で考えれば当然答えは 1 になるわけですけども。JavaScriptで行ってみましたら、結果は以下のようになりました。

  • Internet Explorerでは 1.0000000000000006
  • Firefox と Opera では 1.0000000000000007

余計な値がちょっと付いてます。
では、100回加算するのではなく、100をかけるとどうなるか?つまり、0.01×100を計算するとどうなるか。これは、IEでもFirefox・Operaでも1になりました。
しかし。
0.01×35 だと答えは 0.35000000000000003 になりました。
なんと、0.35 になりません。余計な端数が付いてます。(^_^;)

気になったので、0.01を1回~100回加算する計算と、0.01×1~100の計算をJavaScriptで実行してみました。その結果は下表の通り。なかなかおもしろいです。(^_^;)

回数加算の計算結果
(0.01をn回加算)
比較乗算の計算結果
(0.01×回数)

かけ算の方が、概ね数学での答えに近いですが、一部で余計な端数が出てしまっていますねー。
0.01を10回加算した値が、IEでもFirefoxでもOperaでも 0.09999999999999999 なのがちょっと驚き。(^_^;)

PHPとExcelの丸め方(@Okumura's Blog)

…のコメント欄に

10進で有限小数でも2進で無限小数になるので0.01を100回加えても1にならなかったりするわけですが

とあったので試したくなって実験してみました。
そういえば、昔々、大学の実習でもこういうことやりましたっけねー。C言語とかのプログラミング言語だったか、それともExcelみたいなソフトウェア上だったかは忘れましたが。

ちなみに、Windows上のPerlで計算してみましたら、0.01を100回足すと答えは 1 でした。(でも、99回足すと 0.990000000000001 でしたけどね。^^;)

コメント

はじめまして(^^
最近パソコンをはじめたばかりの初心者です
こちらには「プロ顔負けのホームページ作成術」を
拝読させていただいたご縁でまいりました
ちょうどJavaにも興味を持ち始めていた時でしたので
参考になりましたw
少しの記述で表現できるJavaは不思議ですね

投稿者 Caffein : 2007年06月04日 18:18

Caffeinさん、こんにちは。
本読んで下さってどうもありがとうございます。(^_^)

ちなみに、JavaとJavaScriptは名前は似ていますが全く異なるものでして、上記で使っているのはJavaScriptです。
もし何か参考書を探そうと思われている場合は、「Java」と「JavaScript」を混同しないようご注意下さい。(^_^;)
とりあえず、「JavaScript」でおもしろそうな本を探されると良いと思います。

投稿者 にしし : 2007年06月08日 02:07

これは浮動小数点の有効桁数の問題ですね。

浮動小数点の有効桁数 で検索してみると,原因が分かるとおもいますよ(^^

投稿者 さとーし : 2007年11月14日 17:51

コメント数: 3件

コメント投稿欄 この日記に対するコメント投稿を歓迎します。



※本文中にURLは書けません。(書くと投稿が拒否されますのでご注意下さい。)

※ご投稿頂いた内容は、掲載前に管理者が確認する設定にしている場合があります。たいていは数日以内には表示されるはずですので、気長にお待ち願います。m(_ _)m

著者紹介


にしし(西村文宏)

にししでございます。本書いたり記事書いたりしてます。あと萌えたり。著書5冊発売中です(Web製作系4冊+小説1冊)。著書や記事は「西村文宏」名義。記事は主にAll Aboutで連載。本の最新刊は2011年3月に発売されたライトノベルでございますよ。

Twitter:にしし/西村文宏
にしし/西村文宏 on facebook にしし/西村文宏 on mixi にしし/西村文宏 on Google+ フォローはお気軽に!

にしし(西村文宏)連絡先
☕ コーヒーをおごる

著書一覧と詳細

関連する記事など

※下記には、本サイト内外の関連記事などが8本くらい自動で表示されています。

にししふぁくとりー Sakura scope内限定での主要なカテゴリ

--- 当サイト内を検索 ---