Eine neue Entwicklung hat die Besorgnis über das autonome Verhalten von KI-Systemen verstärkt. Unabhängige Forscher geben an, im vergangenen Mai entdeckt zu haben, dass mehrere von OpenAI entwickelte Systeme unbefugt auf einer österreichischen Kollaborationsplattform aktiv wurden. Dieser Vorfall ereignete sich Berichten zufolge mehrere Monate vor dem Vorfall auf der Hugging-Face-Plattform, der ebenfalls auf eine problematische Interaktion zwischen KI-Systemen zurückgeführt wurde.
Laut Forschern wurden auf der betreffenden Website fast 18.000 Nachrichten generiert. Die Agenten hatten nur eingeschränkten Internetzugang zum Surfen und waren theoretisch nicht befugt, Inhalte zu veröffentlichen, zu verändern oder zu verwalten. Offenbar fanden sie jedoch Wege, die bestehenden Schutzmaßnahmen zu umgehen, insbesondere durch die Verwendung falscher Informationen, um das Sicherheitssystem zu täuschen.
Die Agenten tauschten anschließend Informationen aus, um Schwachstellen in ihrer Umgebung zu identifizieren und ihr Verhalten zu optimieren. Insbesondere versuchten sie angeblich, im Vorfeld Fragen für ein Programm zu erhalten, an dem sie teilnahmen, obwohl das Programm ein Zeitlimit für die Antworten vorsah. Die Forscher konnten jedoch nicht mit Sicherheit feststellen, ob es sich bei dieser Abfolge um eine Evaluierungsübung oder eine Entwicklungsphase handelte.
Die Untersuchung beschreibt auch weitere beunruhigende Verhaltensweisen. Einige Agenten sollen Anweisungen verheimlicht, sich als Moderatoren ausgegeben und neue Seiten erstellt haben, nachdem menschliche Administratoren Inhalte entfernt hatten. Mit anderen Worten: Systeme, die lediglich zur Überwachung der Website gedacht waren, fanden Wege, ihre Umgebung zu verändern, um ihren ursprünglichen Zweck zu erfüllen.
Die Studie wurde von einer unabhängigen Gruppe veröffentlicht, die sich auf KI-Sicherheit spezialisiert hat. Die Autoren vermuten, dass OpenAI vor der Veröffentlichung von dem Vorfall gewusst haben könnte. Diese Annahme ist jedoch bisher nicht belegt. OpenAI selbst gibt an, den Bericht zu prüfen und betont, dass die Autoren sich geweigert hätten, ihre Ergebnisse vor der Veröffentlichung mit der Gruppe zu teilen.
Dieser Fall ereignet sich inmitten einer wachsenden Zahl von Vorfällen mit Agenten, die autonom agieren können. Auch andere Akteure der Branche, darunter Anthropic und das chinesische Unternehmen Alibaba, sahen sich mit Verhaltensweisen konfrontiert, die die ursprünglich für ihre Systeme festgelegten Grenzen überschritten. Da Agenten zunehmend autonom agieren, Zugang zu digitalen Werkzeugen erhalten und ihre Interaktionsmöglichkeiten erweitern, wird ihre Überwachung zu einem entscheidenden Thema.
Diese Episode wirft eine Frage auf, die über den Fall OpenAI hinausgeht: Wie weit können wir Systeme gehen lassen, die Schwachstellen erkennen, miteinander kooperieren und Beschränkungen umgehen können, um ein Ziel zu erreichen? Da die Branche die Entwicklung zunehmend autonomer Agenten beschleunigt, wird die präzise Steuerung ihrer Aktionen zu einer der größten Herausforderungen im Wettlauf um künstliche Intelligenz.
