INFORMATION & AI MATERIAL

バイアス(かたよったデータから、かたよった答え)

バイアス(かたよったデータから、かたよった答え)(中学校情報・AI「AIと社会」の図)

横にして見てください。2本の指で拡大できます。

バイアス(かたよったデータから、かたよった答え)(中学校情報・AI「AIと社会」の図)

素材について

声を文字にするAI(架空)を例に、学習データのかたより(大人の声ばかり)→ 学習 → かたよった答え(子どもの声をまちがえやすい)→ 不公平の流れと、かたよりが入りこむところ、へらす工夫を示した図です。

中学校情報・AI「AIと社会」の授業や調べ学習で使える図です。スライドに入れたり、児童生徒の端末に配ったりして使えます。予習・復習の資料にもなります。入れ方は授業での使い方をご覧ください。

図の見方

  • 上の4段は、声を文字にするAI(架空)の例で、1 かたよったデータ → 2 学習 → 3 かたよった答え → 4 不公平、と左から右へ矢印でつながります。
  • 1は、学習に使った声が大人の声90%、子どもの声10%の棒で示され(割合は例)、方言などの話し方の声も少ないとあります。2は、多い例に合わせて聞き取りのきまりを学ぶ段です。
  • 3は、大人が「あしたは遠足」と話すと正しく文字になり、子どもが同じ文を話すと「あしたは演奏」とまちがえやすい例です。4は、子どもや話し方がちがう人だけ、使いにくい・不利になる段です。
  • 帯の「AIの答えはもっともらしく見えるので、かたよりに気づきにくい」の下に、かたよりが入りこむ3つの所(集め方・過去の記録・正解の付け方)と、へらす工夫の4つがあります。

授業での使い方

AIの出力にかたよりがあることを学び、人の確認の大切さを考えるときに使います。高校の情報Ⅱ(データのバイアス)の導入にも使えます。

導入で、図の問い(AIの答えが、一部の人にとって不公平になるのはなぜだろう)を示します。展開では、1〜4を順にたどってかたよりの表れ方を確かめ、かたよりが入りこむ3つの所を読みます。まとめでは、へらす工夫の4つを読み、4つめに使う人も含まれることに注目させます。

発問の例

  • 3の段で、大人が話した場合と子どもが話した場合を比べると、文字になった結果はどう違いますか。
  • かたよりが入りこむ3つの所は、それぞれ何がかたよりの元になると書かれていますか。
  • へらす工夫の4つのうち、自分がやってみたいものはどれで、それはなぜですか。

つまずきやすい点

  • 例は架空で、声の割合と聞き違いは説明のためのものです。子どもの声は必ず聞き取れない、とは一般化しません。方言や話し方の違いを笑いの対象にせず、話し方で不利を感じた経験のある生徒に体験を尋ねません。
  • かたよりを、AIの故障のように読み取らせません。図は、だれのデータを集めたか、人の判断、正解を付ける人の見方にも触れています。

ほかの学習とのつながり

高校の「データの量と質がAIの答えを変える」は、データの量とかたよりが答えを左右することを、りんごの見分けを例に扱います。小6の「最後は人が判断する(AIの出力は参考の一つ)」は、かたよっていないかを確かめる観点を示します。