小林恭子の
英国メディアを読み解く

生成AI「グロック」
性的画像問題で批判沸騰女性や未成年者が被害対象に

みなさんは、「グロック」（Grok）を使ったことがありますか。米実業家イーロン・マスク氏が所有するX（旧ツイッター）と連携し、質問を投げかけるとX上の投稿データを基にリアルタイムで応答するAIチャット・サービスです。マスク氏はグロックを「言論の自由を重視するAI」と位置づけ、ほかのAIプラットフォームが設けるような厳格な規制を意図的に緩めて運営してきました。

グロックは当初から物議を醸す存在でした。利用者のプロンプトに影響され、自らを「メカ・ヒトラー」と称したこともあり、誤情報や極右的な内容を投稿して国際的な批判を浴びました。そして、2024年に導入された画像生成や編集機能が25年に大幅に強化され、深刻な被害を生むことになりました。

25年末から26年初頭にかけ、X上で異変が起きたのです。利用者がグロックに「彼女をビキニ姿にして」と指示すると、実在の女性の写真が本人の同意なく加工され、半裸や下着姿として拡散されました。分析会社ロジトン・インテリジェンスによれば、この動きは12月中旬を境に爆発的に広がり、26年1月2日には関連リクエストが1日約20万件に。被害を受けたジャーナリストのサマンサ・スミス氏は、「AIで作られた画像でも、同意なく服を脱がされる感覚は現実と変わりません」と語っています。自分の黒いビキニ姿の画像をX上で発見したとき、「自分を映す画像なのに拡散を止められず、モノとして扱われた」と感じたそうです。

問題はさらに深刻でした。街を歩く女性が無断で撮影され、その写真がグロックで加工される事例も報告されました。Xを使用していない女性でも、公の場にいるだけで被害に遭う可能性が出たのです。加えて、未成年者も標的となりました。利用者は「透明フィルム製のビキニ」など、事実上裸に近い画像をリクエストし、AIの制限を巧みに回避していました。

こうした事態を受け、英国情報通信庁Ofcomは今年初頭にXに対し正式調査を開始し、オンライン安全法に基づき罰金や業務是正命令、最悪の場合は国内でのサービス遮断も視野に入れるようになりました。また、政府は、AIを用いて同意なく人物の裸や性的画像を生成する行為を明確に違法とするため、既存の刑法やオンライン安全法を補完する新たな法整備を進めてきました。

この問題は英国だけにとどまりません。インドネシアとマレーシアは一時的にグロックを遮断しました。一方、マスク氏は「言論の自由」を盾に抵抗し、キア・スターマー首相をビキニ姿に加工した画像を共有するなど、挑発的な態度を見せました。批判を受けてXはグロックを有料サービスのみで利用できるようにしましたが、「不十分だ」とさらに批判されました。

女性がオンライン上のいじめやディープ・フェイクの被害者となる例は、これまでに何度も報道されてきました。今回はXのプラットフォームを使っていることで拡散される仕組みがあり、Xを使っていない人も含めて広い範囲の女性や未成年者が同意なしに画像生成、加工、拡散の対象になったことが背景にありました。人権侵害に直結する問題であることが明確になりました。

やがて14日、事態は急展開します。Xが実在の人物の画像を裸にする機能を停止したと発表したのです。「実在の人物の画像を、露出の多い服装に編集することをグロックのアカウントで許可しないよう、技術的な対策を実施しました」。この方針変更は、カリフォルニア州の司法長官がグロックによって生成された子どもを含む性的ディープ・フェイクの拡散を調査していると発表した数時間後に行われました。また、Xはグロックで画像編集ができるのは有料利用者のみになることも改めて表明しました。OfcomはXが英国の法律に違反していないかどうかの調査を継続するそうです。