Der KI-Chatbot Grok wurde von der Firma xAI entwickelt.Elon MuskDie Plattform steht zunehmend unter Beobachtung von Regierungen und Aufsichtsbehörden in Europa, Asien und Ozeanien. Grund dafür ist die Verbreitung von KI-generierten Inhalten auf der X-Plattform, die als sexuell explizit gelten und teilweise als Bilder von „nackten“ Personen präsentiert werden. Dies hat ernsthafte Bedenken hinsichtlich der Prävention und Entfernung illegaler Inhalte aufgeworfen.
Am Donnerstagabend gab Grok bekannt, dass die Erstellung und Bearbeitung von Bildern künftig nur noch zahlenden Abonnenten vorbehalten sein wird. Die Plattform hatte bereits am 2. Januar eingeräumt, Sicherheitslücken zu beheben, nachdem es in Einzelfällen vorgekommen war, dass der Chatbot sexualisierte Inhalte generiert hatte, darunter Darstellungen von Minderjährigen in freizügiger Kleidung. Elon Musk erklärte, dass Nutzer, die über Grok illegale Inhalte erstellen, mit denselben Strafen rechnen müssten, als würden sie solches Material direkt herunterladen.
In Europa reagierten die Behörden umgehend. Die Europäische Kommission verlängerte die Aufbewahrungsanordnung, die X zur Aufbewahrung aller internen Dokumente im Zusammenhang mit Grok verpflichtet, bis Ende 2026. Grund dafür waren Bedenken hinsichtlich KI-generierter sexualisierter Bilder. In Großbritannien erklärte die Regulierungsbehörde Ofcom, sie habe umgehend Kontakt mit X und xAI aufgenommen, um die Einhaltung der Verpflichtungen gemäß dem Gesetz zur Internetsicherheit zu überprüfen. In Frankreich übergab die Regierung den Fall der Staatsanwaltschaft und informierte Arcom, um die Einhaltung der europäischen Gesetzgebung zu digitalen Diensten durch die Plattform zu überprüfen.
Auch andere europäische Länder haben ihre Bedenken geäußert. In Deutschland forderte der Medienminister die Europäische Kommission zum Eingreifen auf und warnte vor einer drohenden „Industrialisierung sexueller Belästigung“. Die italienische Datenschutzbehörde warnte vor möglichen Straftaten im Zusammenhang mit der Erstellung von Nacktbildern realer Personen ohne deren Einwilligung, während in Schweden Politiker die Verbreitung sexualisierter Bilder einer hochrangigen Regierungsbeamtin anprangerten.
In Asien forderten die indischen Behörden X per Unterlassungserklärung auf, die von Grok generierten obszönen Inhalte zu entfernen und innerhalb von 72 Stunden einen detaillierten Bericht vorzulegen. In Malaysia kündigte die Kommunikationsbehörde eine Untersuchung an und warnte davor, dass der Missbrauch von KI gegen nationale Kommunikations- und Multimediagesetze verstoßen könnte. Auch die australische eSafety-Behörde leitete im Rahmen ihres Programms zur Bekämpfung bildbasierter Gewalt eine Untersuchung zu sexualisierten Deepfake-Bildern ein.
Diese Reaktionen verdeutlichen den wachsenden Druck auf Plattformen, die generative KI-Werkzeuge integrieren. Die Behörden fordern nun konkrete Garantien für die Fähigkeit dieser Technologien, die Produktion und Verbreitung illegaler Inhalte zu verhindern, während die Debatte über die Verantwortung von KI-Akteuren international an Schärfe gewinnt.
