Meta wird vorgeworfen, Anzeigen mit KI-generierter Kinderpornografie geschaltet zu haben.

Mehr als 50 KI-generierte Werbeanzeigen mit kinderpornografischem Inhalt wurden Berichten zufolge auf Facebook, Instagram, Messenger und Threads geschaltet. Diese bezahlten Anzeigen erschienen zwischen November 2025 und Anfang August 2026, einige waren zum Zeitpunkt ihrer Entdeckung noch aktiv. Sie richteten sich an Internetnutzer in den USA, Großbritannien und über einem Dutzend europäischer Länder.

Mehrere Kampagnen bewarben Apps, die Fotos verändern, Personen künstlich entkleiden oder deren Gesichter in pornografische Inhalte einfügen können. Mindestens eine Anzeige erreichte Berichten zufolge 2.563 Konten in Europa, die tatsächliche Reichweite könnte jedoch höher sein, da die Daten für einige Regionen unvollständig sind. Dieser Fall gibt Anlass zu großer Besorgnis, da Metas Anzeigen normalerweise vor der Veröffentlichung, vorwiegend mithilfe automatisierter Tools, geprüft werden.

Metas Moderationssysteme in Frage gestellt

Meta entfernte die Anzeigen, nachdem sie gemeldet worden waren, und räumte ein, dass sie gegen die Richtlinien zu Kindesmissbrauch, Nacktheit und sexueller Belästigung verstießen. Das Unternehmen gibt an, aktiv gegen die Verbreitung solcher Inhalte vorzugehen und im vergangenen Jahr über 36 Millionen Beiträge mit Bezug zu Kindesmissbrauch entfernt zu haben. Zudem behauptet Meta, neue Systeme mit künstlicher Intelligenz eingesetzt zu haben, um verbotene Anzeigen direkt nach dem Hochladen zu erkennen.

Die Wirksamkeit dieser Maßnahmen ist jedoch weiterhin umstritten, da einige identische Anzeigen Berichten zufolge nach ihrer Entfernung erneut aufgetaucht sind. Mehrere Anzeigen verlinkten auf die MaskAI-App, die aus dem App Store entfernt wurde, nachdem Funktionen entdeckt worden waren, mit denen Nutzer künstliche sexuelle Inhalte erstellen konnten. Dieser Fall verdeutlicht, wie bösartige Netzwerke durch die Vervielfältigung von Konten, Domains und Werbetreibenden Kontrollmechanismen umgehen können, und unterstreicht gleichzeitig die Notwendigkeit einer verstärkten menschlichen Überwachung der auf großen Plattformen geschalteten Werbung.