INFORMATION & AI MATERIAL

AIの安全性を確かめるしくみ

AIの安全性を確かめるしくみ(高校情報Ⅱ「AIと社会」の図)

横にして見てください。2本の指で拡大できます。

AIの安全性を確かめるしくみ(高校情報Ⅱ「AIと社会」の図)

素材について

AIを公開する前に試験し、対策して公開し、使われ方を見守り、直して更新する輪と、開発する組織・外部の専門家・国の機関(日本のAIセーフティ・インスティテュート)がそれぞれ確かめることと、確かめる観点の例を示す図です。

高校情報Ⅱ「AIと社会」の授業や調べ学習で使える図です。スライドに入れたり、児童生徒の端末に配ったりして使えます。予習・復習の資料にもなります。入れ方は授業での使い方をご覧ください。

図の見方

  • 左の「安全性を確かめる輪」は、1 公開前に試験する → 2 対策して公開する → 3 使われ方を見守る → 4 直す・更新する → 1 と一周し、中央に「公開後も続ける」とあります。
  • 1は評価の観点で調べ、わざと危ない使い方を試します。3は問題の報告を受け、おかしな使われ方に気づきます。
  • 右の「だれが確かめる?」は、開発する組織(公開の前と後に自分たちで試験し、直す)、外部の専門家(別の立場から試す)、国の機関(日本の例)の3つです。
  • 国の機関の枠は、AIセーフティ・インスティテュート(AISI)が2024年2月に設立され、評価の観点やレッドチーミング(わざと攻撃して試す手法)の手引きを公表し、ほかの国の機関と連携する説明です。
  • 下の「確かめる観点の例」は、有害な情報、うその情報・かたより、個人の情報、乗っ取り・悪用、判断の理由の説明、の5つです。

授業での使い方

情報Ⅱで、AIガバナンスとAIの安全性の確かめ方を学ぶときに使います。

導入で図の問い(公開の前と後に、どのように安全性が確かめられているのか)を板書し、だれが確かめているかを予想させます。展開では、輪を1から4へたどり、右の3者が何をするかを読み取ります。まとめでは、5つの観点から特に確かめてほしいものを選んで理由を書かせ、選ぶものは人によって違ってよいと伝えます。

発問の例

  • 輪の4つ目「直す・更新する」のあと、輪はどの段階にもどるでしょう。
  • 開発する組織の確かめと、外部の専門家の確かめは、立場がどう違うでしょう。
  • 5つの観点のうち、特に確かめてほしいものはどれでしょう。理由も挙げましょう。

つまずきやすい点

  • 公開前に試験すれば終わりと受け取る生徒がいます。図は、公開後も使われ方を見守り、直して、また試験する輪にしています。
  • 注記のとおり模式図で、確かめ方は組織などによってちがい、観点も例です。国の機関の説明は日本の一例で、図を作った時点のものです。最新の情報は公式の資料で確かめます。

ほかの学習とのつながり

「AIと責任(つくる人・届ける人・使う人)」は、問題が起きたときに各自が行うことを扱います。「AIの答えは理由が見えにくい(ブラックボックス)」は判断の理由の説明と、「バイアス(かたよったデータから、かたよった答え)」はかたよりと、合わせて学べます。