Excelで整数の限界を調べる

共通科目情報処理(実習)、日本語・日本文化学類対象、1998年11月09日

                                       電子・情報工学系
                                       新城 靖
                                       <yas@is.tsukuba.ac.jp>

このページは、次の URL にあります。
http://www.hlla.is.tsukuba.ac.jp/~yas/ipe/nitiniti2-enshu-1998//1998-11-09 /spread-sheet-int-limit.html
あるいは、次のページから手繰っていくこともできます。
http://www.hlla.is.tsukuba.ac.jp/~yas/ipe/
http://www.hlla.is.tsukuba.ac.jp/~yas/index-j.html
http://www.ipe.tsukuba.ac.jp/~yshinjo/
http://www.ipe.tsukuba.ac.jp/

■Excelで整数の限界を調べる

「コンピュータ」というと、「間違わない」というイメージがあるかもしれせ ん。でも、簡単に間違うことがあります。ここでは、Excel で大きな数(整数) を使って、コンピュータを間違えさせてみる実験をしてみます。

Excel については、WWWページ か、 →手引き[165-222]を見て下さい。

■(X + 1) - X = 0?

数学では、「(X + 1) - X = 1」は、成り立ちます。しかし、コンピュータで は、成り立たないことがあります。ここでは、次のようにして調べてみます。

  1. A列には、1,10,100,...., と数を入れる。
  2. B列には、それぞれA列の内容に1を足したものを 入れる。
  3. C列には、それぞれB列の内容から A列の内容を引いたものを入れる。
このようにすると、普通は、 C列には、1 が並ぶと思われます。 しかし、大きな数を入れると、そうはならなくなります。

次のように、操作してみて下さい。

  1. Excel を実行する。
  2. 適当な名前で名前を付けてフロッピに保存する。
  3. 次の手順で、第1行を作る。
  4. 次の手順で、第2行を作る。
  5. 次の手順で、第3行〜第20行を作る。
  6. セルの境界をドラッグして、20桁の数が表示できるようにする。 また、A列とB列を選択して、書式で、数の表現して指数形式ではなく、普通の 形式にすると見やすい。

★練習問題(7) 整数の限界

コンピュータの内部が2進数を使っていることを利用して、どのくらいの数ま できちんと間違いなく扱うことができるか調べなさい。この答えは、10進数で は、きりのよい数(1000とか100000000とか)にはならない。

それは、2進数で何桁(何ビット)になるか。

赤字国債の発行残高を Excel で計算すると、どんな楽しいことが起きるか。

ヒント:冪(累乗)を使って、2の0乗、2の1乗、2の2乗、2の乗、・・・と計 算する方法があります。Excel で、冪は、^という記号を使っ て、書きます。2の10乗は、=2^10です。

ヒント:上の手順で、10倍ではなく2倍してみる方法もあります。


↑[日日2班] ←[11月02日] ・[11月09日] →[11月16日] [課題一覧]
[表計算 Excel] [整数の限界]
Last updated: 1998/11/15 22:49:22
Yasushi Shinjo / <yas@is.tsukuba.ac.jp>