Grok（グロック）とは、イーロン・マスク氏率いるxAI社が開発した対話型AIです。
最大の特徴は、SNSの「X（旧Twitter）」と密接に連携している点にあります。X上の膨大なリアルタイム情報に直接アクセスできるため、数分前のニュースやトレンドを即座に把握し、回答に反映させることが可能です。また、SF作品にちなんだユーモアや反骨心のある回答スタイルも備えており、最新情報の収集や要約に長けたAIツールです。
2026年の年始、このGrokに搭載された画像編集機能を悪用した「性的ディープフェイク騒動」が世界的な問題となりました。服を着た人物の写真をGrokに読み込ませ、「水着に変える」「服を脱がせる」といった指示を出すことで、本人の同意なく性的な画像を生成・拡散するユーザーが急増したのです。
被害は著名人だけでなく、一般人や未成年にも及び、インドネシアやマレーシアではGrokへのアクセスが遮断されました。日本でも「デジタル性暴力」として深刻視されており、AIの倫理や法的規制が急務となっています。教育現場では、生徒が安易な気持ちで加害者にならないよう、AI時代の新たな人権侵害のリスクとして周知する必要があります。
AIが身近になり、特別な知識がなくてもスマホ一つで高度な画像編集ができるようになった今、学校現場が直面するリスクは一変しました。かつての「ネット上のトラブル」は、不適切な投稿や言葉の衝突が主でしたが、現在はAIによる「偽の現実」が誰にでも作れてしまう時代です。
本章では、善悪の判断が未熟なまま強力な力を手にしてしまった生徒たちが、どのように「加害者」や「被害者」になり得るのか、その具体的な危うさを紐解きます。
生徒が「加害者」になるリスク
AIの普及と一般化により、専門知識がない生徒でもスマホ一つで容易に偽画像を作成できるようになったことが最大の懸念です。
Grokのようなツールを使い、「悪ふざけ」や「推しを自分好みにしたい」といった安易な動機で同級生や教員の写真を加工し、性的な偽画像を生成・拡散してしまうケースが急増しています。しかし、AIで生成された物であっても、非同意の性的画像作成は名誉毀損や児童ポルノ禁止法違反に問われる重大な犯罪です。一度の過ちが退学や刑事罰、そして将来の就職への影響といった取り返しのつかない社会的制裁に繋がるリスクを正しく理解してもらう必要があります。
生徒が「被害者」になるリスク
一方で、全ての生徒が「いつ、どこで被害に遭うかわからない」という深刻なリスクにもさらされています。
かつての被害は「本人がSNSに不適切な写真を上げた」ことに起因する場合が多かったですが、現在は卒業アルバムや日常の何気ない自撮り写真が一枚あるだけで、AIによって精巧な裸の画像に作り替えられてしまいます。「偽物だから放っておけばいい」という考えは通用しません。一度拡散された画像は「デジタルタトゥー」として残り、生徒の尊厳を深く傷つけ、不登校や自傷行為に追い込むほどの精神的ダメージを与える可能性があります。学校としては、そのような画像を早期に発見できる体制を整えるとともに、被害を訴えた生徒を孤立させない二次被害防止の徹底が求められます。
これまでの情報モラル教育では「ネットの文字情報を疑おう」と教えてきました。しかし、Grok騒動が示したのは、「目に見える画像や動画すら信じられない」という一段上の危機です。
「本物に見える偽物」の存在
AIが生成するディープフェイクは、本人の声や表情、肌の質感まで極めて精巧に再現します。2026年現在、海外では「ビデオ会議の出席者が全員AIだった」という詐欺事件も発生しており、視覚情報はもはや真実の証明になりません。生徒には「画面越しに見えるものが加工された偽物である可能性」を常に念頭に置き、情報の出所を多角的に確認する、新しい時代の「疑う力」を育む必要があります。
AI生成でも「犯罪」になるという現実
「AIが自動で作ったものだから、自分は悪くない」という理屈は、通用しません。 実在する人物を性的に加工する行為は、たとえ悪ふざけであっても、「名誉毀損罪」や「わいせつ物頒布等罪」、そして相手が18歳未満であれば「児童ポルノ禁止法違反」それぞれに該当する可能性があります。2025年に成立したAI関連法や各自治体の条例でも、ディープフェイクによる人権侵害への対策が強化されており、刑事罰だけでなく数百万単位の損害賠償を請求される民事上のリスクも伴います。AIによる深刻な人権侵害は被害者にとって一度拡散した画像は一生消せない「デジタル・タトゥー」となります。
AIの進化を止めることはできず、利用も急速に広がる中で、教育現場には「禁止」を超えたアプローチが求められています。トラブルが起きた際、生徒を孤立させず、解決に導くために教職員ができることは何でしょうか。本章では、技術への理解を深めつつ、生徒の心と未来を守るための「対話」の重要性と、万が一の被害に備えた「相談体制」の構築について具体的に解説します。先生方の温かなまなざしこそが、生徒にとっての最大の安全網となります。
禁止よりも「対話」を
AI技術は驚異的なスピードで進化しており、もはや学校生活から完全に排除することは不可能です。単に「AIは危険だから使うな」と禁止するだけでは、生徒たちは大人の目の届かない場所で、リスクを自覚せぬままツールを使い続けてしまいます。 今求められているのは、AIの便利さと背中合わせにある「倫理的リスク」について、生徒と同じ目線で対話することです。例えば、「もし自分の写真が知らないうちに書き換えられたらどう感じるか」という問いを投げかけるなど、技術の仕組みではなく「相手の痛み」に焦点を当てた議論の場を作ってみてください。AIを正しく使いこなす力（リテラシー）とは、単なる操作の技術ではなく、画面の向こう側にいる生身の人間への想像力であることを、粘り強く伝えていく必要があります。
相談窓口の周知
もし生徒が被害に遭ったり、不適切な画像を見つけたりした際、最も避けるべきは「恥ずかしくて誰にも言えない」と一人で抱え込んでしまうことです。学校としては、被害を最小限に食い止めるための「初動対応の徹底」と「相談先の周知」が急務です。 まず、被害を確認した際は決して画像を削除・拡散せず、「スクリーンショットでの証拠保存」を最優先にするよう指導してください。その上で、学校の相談窓口だけでなく、警察の「サイバー犯罪相談窓口」や文部科学省が設置している24時間子どもSOSダイヤル、違法・有害情報の削除を支援する専門機関（セーファーインターネット協会等）の存在を、掲示板や配布物を通じて日常的に周知しておくことが重要です。「先生たちはあなたの味方であり、法的・技術的に解決する手段がある」というメッセージを発信し続けることが、生徒の心理的な安全を守る大きな盾となります。
AIという強力な道具が日常に溶け込んだ今、教育に求められるのは「禁止」という壁を作ることではなく、正しく使いこなすためのリテラシーを醸成することです。画面の向こう側にいる生身の人間への想像力を養う対話と、万が一の際に生徒が迷わず助けを求められる信頼関係の構築こそが、技術の誤用や悪用から子どもを守る最大の鍵となります。先生の適切な初動対応が、生徒の未来を守る盾となるのです。
