INFORMATION & AI MATERIAL

大規模言語モデルの「大規模」とは

大規模言語モデルの「大規模」とは(高校情報Ⅰ「AIのしくみ」の図)

横にして見てください。2本の指で拡大できます。

大規模言語モデルの「大規模」とは(高校情報Ⅰ「AIのしくみ」の図)

素材について

大規模言語モデルの「大規模」を、学習に使う文章の量・モデルの中の数(パラメーター)・学習に使う計算の量の3つについて小さなモデルとくらべて示し(数値は出さない)、大きくするとできるようになったことと、大きいことの課題を示す図です。

高校情報Ⅰ「AIのしくみ」の授業や調べ学習で使える図です。スライドに入れたり、児童生徒の端末に配ったりして使えます。予習・復習の資料にもなります。入れ方は授業での使い方をご覧ください。

図の見方

  • 上の3つの枠は、学習に使う文章の量・モデルの中の数(パラメーター)・学習に使う計算の量を、小さなモデル(上段)と大規模なモデル(下段)でくらべています。
  • 絵は、文章の量が本、モデルの中の数が点とそのつながり、計算の量が、コンピューター1台と、多くのコンピューターが入った建物がいくつも、です。
  • 中央の帯は、どれも桁ちがいに大きく、実際の数は年々変わるので図では出さない、としています。注記は、絵の大きさは実際の数の比ではない、です。
  • 左下の「大きくすると」は、指示だけでいろいろな作業をこなせるようになってきた、ことばの使い方がより自然になった、それでもまちがえることはある、の3点です。右下の「大きいことの課題」は、多くの電気と費用、つくれる組織が限られる、何を学んだかが見えにくい、の3点です。

授業での使い方

情報Ⅰ・Ⅱで、大規模言語モデルの特徴を学ぶときに使います。

導入で、大規模とは何の量が大きいことかを予想させます。展開では、上の3つの枠を2段でくらべて予想を確かめ、中央の帯と注記から、絵が実際の数の比ではないことを確かめます。続けて、下の「大きくすると」と「大きいことの課題」を読み比べ、まとめでは、課題の3つから1つを選んで理由を書かせます。

発問の例

  • 図は、大規模言語モデルのどのような量を、小さなモデルとくらべていますか。3つ答えましょう。
  • 大きくしても、図ではどのようなことが残ると書かれていますか。
  • 大きいことの課題の3つのうち、いちばん考えたいものはどれでしょう。理由も話してみましょう。

つまずきやすい点

  • 絵の個数や大きさを、実際の数の比と読み違えることがあります。図は数を出さず、注記でも目安だと断っています。
  • 「大きいほどよい」と読み違えることがあります。図は、できるようになってきたことと、それでもまちがえること、課題を並べて示しています。

ほかの学習とのつながり

中学校の「AIの発達を支えた3つの力(データ・計算・しくみ)」は、図の文章の量と計算の量にあたる、データと計算の力が育った流れを扱います。「AIをつくる3つの要素(データ・学び方・モデル)」は、モデルを学んだ結果のたくさんの数として説明しています。