INFORMATION & AI MATERIAL

AIの答えは理由が見えにくい(ブラックボックス)

AIの答えは理由が見えにくい(ブラックボックス)(中学校情報・AI「AIと社会」の図)

横にして見てください。2本の指で拡大できます。

AIの答えは理由が見えにくい(ブラックボックス)(中学校情報・AI「AIと社会」の図)

素材について

迷惑メールを見分ける例(架空)で、人が書いた決まりで動くプログラムは判断の理由をたどれるが、深層学習のAIはたくさんの数の組み合わせで答えが決まり、理由が見えにくい(ブラックボックス)ことをくらべ、説明が求められる場面での注意を示した図です。

中学校情報・AI「AIと社会」の授業や調べ学習で使える図です。スライドに入れたり、児童生徒の端末に配ったりして使えます。予習・復習の資料にもなります。入れ方は授業での使い方をご覧ください。

図の見方

  • 左の「ルールで動くプログラム」(中が見える箱)は、メール「当選しました」(架空)を、決まり1「当選」の語がある、決まり2 送り主は知らない人、の順に調べて迷惑メールになります。理由は、人が書いた決まりなのでたどれる、とあります。
  • 右の「深層学習のAI」(中が見えにくい箱)は、同じメールが「たくさんの数がつながった計算」を通り、迷惑メール(0.97)になります。箱の中は「?」で、理由は、人がたどって説明するのは難しい、とあります。
  • 中の帯は、左は理由をたどれるがすべての決まりを書くのは大変、右は決まりを書かなくても見分けられるが理由は見えにくい、と両方を並べています。
  • 下の「説明が求められる場面では」は、例として進路・お金・健康など人の生活に大きく関わる判断を挙げ、3項目を示します。

授業での使い方

AIの課題や責任を学ぶ前置きとして、AIの判断の理由と説明について考えるときに使います。高校でも使えます。

導入で、図の問い「AIは、なぜその答えを出したのかを説明できるのだろうか」を板書します。展開では、同じメールを左右で見比べ、左は2つの決まりから理由をたどれ、右は箱の中が見えないことを読み取らせます。まとめでは、下の3項目で、人が何をするのかを確かめます。

発問の例

  • 左のプログラムが迷惑メールになった理由は、どの2つの決まりからたどれますか。
  • 右のAIの理由が見えにくいのは、図によると、答えがどのように決まるからですか。
  • 説明が求められる場面で、AIの答えだけで決めないのは、なぜでしょう。

つまずきやすい点

  • 右を悪い方法、左をよい方法と受け取らせません。図は、右には見分けられるよさが、左にはすべての決まりを書く大変さがあると、両方を示しています。
  • 箱の中の「?」と網目の絵は模式で、0.97 は説明のための例です。進路・お金・健康も例で、個々の場面の判断を示す図ではありません。

ほかの学習とのつながり

中学校の「ルールを人が書くプログラムと、データから学ぶAI」は、同じ迷惑メールの課題でつくり方の違いを扱い、この図は理由が見えるかどうかに絞っています。「ディープラーニング(層を重ねて特徴を見つける)」で、右の箱の中の計算を模式図で見られます。小6の「最後は人が判断する(AIの出力は参考の一つ)」は、下の項目につながります。