INFORMATION & AI MATERIAL

人の顔や声を勝手に使わない(ディープフェイク)

人の顔や声を勝手に使わない(ディープフェイク)(中学校情報・AI「AIと上手につきあう」の図)

横にして見てください。2本の指で拡大できます。

人の顔や声を勝手に使わない(ディープフェイク)(中学校情報・AI「AIと上手につきあう」の図)

素材について

AIで人の顔や声をまねたもの(ディープフェイク)を、つくる → 広まる → 本人が傷つくの流れ(架空の例)で示し、重大な人権侵害で罰せられる可能性があることと、つくらない・広めない・守る・相談するの4つの行動を示した図です。

中学校情報・AI「AIと上手につきあう」の授業や調べ学習で使える図です。スライドに入れたり、児童生徒の端末に配ったりして使えます。予習・復習の資料にもなります。入れ方は授業での使い方をご覧ください。

図の見方

  • 上の説明は、ディープフェイクを、AIで実在する人の顔や声をまねて、本当のように見える画像・動画・音声をつくること、としています。
  • 中の3枚は「流れ(架空の例)」です。1 つくる(軽い気持ちで、同級生の写真をAIで加工する)、2 広まる(SNSやメッセージで一気に広まり、消すのがむずかしい)、3 傷つく(写された本人が深く傷つき、うわさやいじめ、おどしにつながることも)です。
  • 帯には、軽い気持ちでも重大な人権侵害で、肖像権やプライバシーの侵害、名誉毀損や侮辱などにあたり、罰せられる可能性がある、とあります。
  • 下の「わたしたちにできること」は、つくらない・広めない・守る・相談する、の4つです。

授業での使い方

情報モラルの学習で、生成AIで人の写真や声を加工することの重さと、被害にあったときの行動を考えるときに使います。

導入で、図の問い「AIで人の顔や声をまねたものをつくって広めると、何が起きるのだろう」を示します。特定の人や実際の事例には触れません。展開では、3枚を順に読み、帯の説明を確かめます。まとめでは、4つの行動のうち、図の架空の例の中で自分ならどこで止められるかを考えさせます。

発問の例

  • 流れの2「広まる」では、どんなことが起きるとされていますか。
  • 軽い気持ちでつくった場合でも、図は何にあたると書いていますか。
  • 被害にあったときは、どう行動するよう書かれていますか。

つまずきやすい点

  • 顔や声を加工された、写真を広められた経験のある生徒や、つくる側・広める側にまわったことのある生徒がいるかもしれません。個人の経験や実際の事例を挙げさせず、図の架空の例で考えさせます。下端の「困ったときは、家の人や先生、相談窓口に相談する」を必ず伝えます。
  • 罰せられる可能性は、図が「肖像権やプライバシーの侵害、名誉毀損や侮辱など」と書く範囲にとどめます。個々の行為の判断や被害の具体は付け加えません。

ほかの学習とのつながり

「写真から分かってしまうこと(位置の情報と写りこみ)」は自分の写真から分かることを扱い、この図は他人の顔や声を加工してつくる・広める側の責任を扱います。受け取る側の確かめ方は「ディープフェイクの確かめ方(見た目だけで判断しない)」、声や顔のなりすましは「AIを悪用した詐欺となりすまし(止める3つの確かめ)」で学べます。