China: Peking will „digitale Menschen“ streng regulieren und Minderjährige schützen.

China plant, die Kontrolle über KI-generierte Inhalte zu verschärfen. Die chinesische Cyberspace-Administration hat einen Verordnungsentwurf veröffentlicht, der die Entwicklung und Nutzung von „digitalen Menschen“ im Internet kontrollieren soll.

Der Text schreibt insbesondere eine klare und gut sichtbare Kennzeichnung aller Inhalte mit Avataren oder virtuellen Charakteren vor, um Verwechslungen mit realen Personen zu vermeiden. Diese Maßnahme zielt darauf ab, die Transparenz angesichts der zunehmenden Verbreitung KI-generierter Inhalte zu verbessern.

Die Behörden wollen auch Minderjährige schützen. Der Gesetzentwurf verbietet es digitalen Menschen, „virtuelle intime Beziehungen“ zu Nutzern unter 18 Jahren aufzubauen, und untersagt Dienste, die Sucht fördern oder junge Nutzer täuschen könnten.

Der Rechtsrahmen beinhaltet zudem strenge Beschränkungen für die Verwendung personenbezogener Daten. Es wäre illegal, ohne Einwilligung der betroffenen Person aus deren Daten einen digitalen Menschen zu erstellen oder diese Technologien zur Umgehung von Identitätsprüfungssystemen zu nutzen.

Darüber hinaus müssen die von diesen Avataren verbreiteten Inhalte den von Peking festgelegten roten Linien entsprechen, insbesondere im Hinblick auf die nationale Sicherheit. Veröffentlichungen, die als subversiv, separatistisch oder der Einheit des Landes zuwiderlaufend gelten, werden verboten.

Die Plattformen werden außerdem verpflichtet, gegen gewalttätige, sexuelle oder diskriminierende Inhalte vorzugehen und bei riskantem Verhalten von Nutzern, insbesondere im Zusammenhang mit Selbstmord oder Selbstverletzung, einzugreifen.

Dieses Projekt, das bis zum 6. Mai zur öffentlichen Konsultation offensteht, verdeutlicht Chinas Bestreben, die Kontrolle über neue Technologien streng zu behalten, da künstliche Intelligenz die digitale Nutzung und Online-Interaktionen rasant verändert.