Meta社がAI生成の児童ポルノを含む広告を掲載したとして告発される

人工知能によって生成された児童ポルノ広告が50件以上、Facebook、Instagram、Messenger、Threadsに掲載されていたと報じられている。これらの有料広告は2025年11月から2026年8月初旬にかけて掲載され、発見時点でも一部はまだ掲載されていた。広告のターゲットは、米国、英国、そして十数カ国のヨーロッパ諸国のインターネットユーザーだった。

複数のキャンペーンで、写真加工、人物の裸体化、ポルノコンテンツへの顔合成などを可能にするアプリが宣伝された。少なくとも2つの広告はヨーロッパで563のアカウントに配信されたと報じられているが、一部地域ではデータが不完全なため、実際の配信数はさらに多い可能性がある。Metaの広告は通常、主に自動ツールを用いて表示前に審査されるため、今回の件は深刻な懸念を引き起こしている。

Metaのモデレーションシステムに疑問が投げかけられる

Metaは、児童性的搾取、ヌード、性的勧誘に関する規約に違反しているとの指摘を受け、当該広告を削除した。同社は、こうしたコンテンツの拡散防止に積極的に取り組んでおり、昨年は児童性的搾取に関連する投稿を36万件以上削除したと述べている。また、禁止されている広告がアップロードされるとすぐに検出する新たな人工知能システムを導入したとも主張している。

しかし、これらの対策の効果については依然として議論の余地があり、削除されたはずの同一の広告が再び表示されたという報告もある。人工的な性的コンテンツを作成できる機能が発見された後、App Storeから削除されたMaskAIアプリに関連する広告が複数あった。この事例は、悪意のあるネットワークがアカウント、ドメイン、広告主を増殖させて規制を回避する能力を示していると同時に、主要プラットフォームに表示される広告に対する人的監視の強化の必要性も浮き彫りにしている。