INFORMATION & AI MATERIAL

生成AIがもっともらしい誤りを答えるわけ

生成AIがもっともらしい誤りを答えるわけ(小学校6年情報・AI「AIと上手につきあう」の図)

横にして見てください。2本の指で拡大できます。

生成AIがもっともらしい誤りを答えるわけ(小学校6年情報・AI「AIと上手につきあう」の図)

素材について

生成AIが、次に来そうなことばを選んでつないで文をつくるため、学習していないことでも、事実と違う内容をもっともらしく答えることがある(ハルシネーション)理由と、確かめ方を示す図です。

小学校6年情報・AI「AIと上手につきあう」の授業や調べ学習で使える図です。スライドに入れたり、児童生徒の端末に配ったりして使えます。予習・復習の資料にもなります。入れ方は授業での使い方をご覧ください。

図の見方

  • 上の「例」は、ひかり小学校(架空)の昨年の運動会で勝った組をたずね、生成AIが「赤組が勝ちました。最後のリレーで逆転しました。」と答える場面です。波線は「事実かどうか分からない部分」です。
  • 中の「なぜ?」では、生成AIは次に来そうなことばを選んでつないで文をつくる、とあります。赤組 45%・白組 40%・青組 15% は、確からしさの例で、数は架空です。
  • 事実を調べて答えているわけではないので、ありそうな文をつくってしまうことがあり、これを「ハルシネーション」といいます。
  • 下の「どうする?」は、ほかの資料で確かめる、出典を開いて見る、最後は人が判断する、の3つです。

授業での使い方

生成AIを授業で使う前や、AIの答えにまちがいが見つかったときに、その理由と確かめ方を考えるときに使います。

導入で、AIが知らなさそうな学校の出来事をたずねたらどうなるかを予想させます。展開では、「例」の答えと波線の部分を確かめ、「なぜ?」の表で、ことばが選ばれてつながる様子を読みます。まとめでは、「どうする?」の3つから、自分ならまず何をするかを選ばせて話し合います。

発問の例

  • 例の答えで、波線が付いているのは、どんな部分かな。
  • なぜ?の表で、確からしさがいちばん高いのは、赤組・白組・青組のどれかな。
  • 答えがすらすらした文でも、そのまま使わないほうがよいのは、なぜだろう。

つまずきやすい点

  • 確からしさが高ければ事実だと読む子がいます。表は、ことばが続くありそうさの例で、事実を調べた結果ではありません。
  • 「AIがうそをついた」と受け取る子がいます。図は、ありそうな文をつくってしまうことがある、と書いています。意図があるような言い方は、図のことばに合わせて避けます。
  • 下の注記のとおり、しくみを単純にした説明です。資料を調べてから答えるAIもありますが、まちがいは起こります。

ほかの学習とのつながり

同じ小6の「生成AIが文章や絵をつくるしくみ」と「同じ質問でも答えが変わるわけ」は、ことばを選んでつくる点が重なります。確かめ方は「ファクトチェックの4つの確かめ方」へつながります。中学校の「文章をつくるAIのしくみ(次のことばの予測)」で、もっともらしい誤りが出る理由をくわしく学びます。