コンピューターの計算の誤差(高校情報Ⅰ「データとプログラミング」の図)

横にして見てください。2本の指で拡大できます。

コンピューターの計算の誤差(高校情報Ⅰ「データとプログラミング」の図)

素材について

10進数で1÷3を有限の桁で切ると0.999になる例と、2進数では0.1がちょうど表せずに少しずれた値で記録されることから、0.1+0.2が0.30000000000000004になることを示し、プログラムで気をつけること(等しいかの比べ方・お金は整数・誤差の積み重なり・表せる数の限り)を示す図です。

高校情報Ⅰ「データとプログラミング」の授業や調べ学習で使える図です。スライドに入れたり、児童生徒の端末に配ったりして使えます。予習・復習の資料にもなります。入れ方は授業での使い方をご覧ください。

図の見方

  • 左上は10進数の例です。1÷3=0.3333…を小数第3位で切った0.333に3をかけると0.999で、もとの1にもどりません。
  • 右上は、0.1が2進数では「0011」がくり返して終わらないことを示し、決まった桁数で切って記録するため、0.1に近いが少しずれた値になります。
  • 中は、0.1+0.2=0.30000000000000004で、0.3と等しいかを調べると「等しくない」になる結果です。多くのプログラミング言語で小数を浮動小数点数(倍精度)で計算したときの結果、と条件があります。
  • 下は、等しいかの比べ方、お金は整数で計算する、誤差は積み重なる、表せる数にも限りがある、の4つの気をつけることです。

授業での使い方

情報Ⅰの「コンピュータとプログラミング」で、コンピューターの内部表現と計算の限界を学ぶときに使います。

導入で、0.1+0.2の結果を予想させます。展開では、左上の10進数で切ったぶんのずれを確かめてから、右上の2進数の0.1でも桁を切ってずれが出ることを結び付けます。まとめでは、4つの気をつけることから、自分が書くプログラムに当てはまるものを選ばせます。

発問の例

  • 0.333×3が1にならないのは、1÷3をどのように扱ったからですか。
  • 2進数の0.1がちょうど表せないのは、図ではどんな並びになるからですか。
  • ちょうど等しいかで比べると困るのは、図のどの計算ですか。代わりにどう比べると書いてありますか。

つまずきやすい点

  • 小数の計算がいつもずれる、という話ではありません。図の条件は、注記のとおりIEEE 754の倍精度の場合で、表示される桁数は言語や設定でちがいます。
  • 差がとても小さいか、の基準や、2進数の小数の位取りは、図に説明がありません。必要なら、授業で使う言語や場面に合わせて、別に補います。

ほかの学習とのつながり

中学校の「文字・音・画像を0と1で表す(デジタル化)」の0と1の表し方が、この図の2進数の土台です。小5の「プログラムの基本の形(順次・分岐・反復)」の反復でくり返し計算するとき、図の誤差の積み重なりが関わります。