xAI社が開発した人工知能チャットボット「Grok」イーロン·マスクこのプラットフォームは、欧州、アジア、オセアニアの政府や規制当局からの監視が強化されています。その理由は、Xプラットフォーム上でAI生成の性的に露骨とみなされるコンテンツが拡散され、時には「ヌード」の人物画像として表示されることがあり、違法コンテンツの防止と削除に関する深刻な懸念が生じているためです。
木曜日の夜、Grokは画像の作成と編集を有料会員のみに制限すると発表した。同プラットフォームは1月2日、チャットボットが露出度の高い服を着た未成年者の描写など、性的コンテンツを生成するという散発的な事例を受け、セキュリティ上の脆弱性を修正していると既に認めていた。イーロン・マスク氏は、Grokを通じて違法コンテンツを作成したユーザーは、そのようなコンテンツを直接ダウンロードした場合と同じ罰則を受けると述べた。
欧州では、当局が迅速に対応しました。欧州委員会は、AI生成による性的画像に関する懸念を受け、X社に対しGrokに関連するすべての内部文書の保管を義務付ける保管命令を2026年末まで延長しました。英国では、規制当局であるOfcom（オフコム）が、電子情報セキュリティ法に基づく義務の遵守状況を評価するため、X社とxAI社に「緊急連絡」を取ったと発表しました。フランスでは、政府が検察庁にこの件を付託し、Arcom社に対し、同社のプラットフォームがデジタルサービスに関する欧州法規を遵守しているかどうかを確認するよう警告しました。
他の欧州諸国も懸念を表明している。ドイツでは、メディア大臣が「セクハラの産業化」のリスクを指摘し、欧州委員会に対し法的措置を取るよう求めた。イタリアのデータ保護当局は、本人の同意なしに「ヌード」画像を作成することが刑事犯罪となる可能性があると警告した。一方、スウェーデンでは、政治家が政府高官を巻き込んだ性的画像の作成を非難した。
アジアでは、インド当局がX社に対し、Grokが生成したわいせつなコンテンツの削除と72時間以内の詳細な報告書の提出を求める停止命令書を発出した。マレーシアでは、通信規制当局が調査を発表し、AIの悪用は国の通信およびマルチメディア関連法に違反する可能性があると警告した。オーストラリアでは、eSafety機関も、画像による虐待対策の一環として、性的表現を含むディープフェイク画像に関する調査を開始した。
こうした一連の反応は、生成AIツールを統合するプラットフォームに対する圧力が高まっていることを示しています。当局は現在、これらの技術が違法コンテンツの制作と配信を防止できるかどうかについて具体的な保証を求めており、AIアクターの責任に関する議論は国際的に激化しています。
