Aus Irland wies Donald Trump Warnungen vor den Gefahren künstlicher Intelligenz zurück, und zwar genau zu dem Zeitpunkt, als Forscher und Branchenführer eine Verlangsamung der Entwicklung forderten.
„Viele sehr negative Kräfte thematisieren diese Probleme, obwohl sie es nicht sollten, und sie sprechen über Dinge, die nicht eintreten werden.“ So reagierte Donald Trump während eines Besuchs in Irland auf die in den letzten Tagen wiederholten Warnungen von Experten und Führungskräften der Technologiebranche.
Der US-Präsident äußerte sich nicht direkt zu den Forderungen, das Tempo der KI-Entwicklung zu verlangsamen, sondern rechtfertigte seine Position mit dem Hinweis auf den Wettbewerb mit Peking: „Wir sind China in Sachen KI voraus… und ehrlich gesagt, möchte ich, dass das so bleibt, denn wer die KI gewinnt, gewinnt alles.“
Diese Aussagen fallen mit dem Tag zusammen, an dem Jacob Coxon, ein Forscher, der kürzlich Anthropic verließ und zuvor auch bei OpenAI tätig war, der BBC mitteilte, dass die Teams, die diese Systeme entwickeln, „wirklich Angst“ um die Zukunft der Menschheit hätten. Ein weiterer ehemaliger Anthropic-Forscher schätzte ein, dass die Wahrscheinlichkeit „sehr hoch ist, dass wir alle in naher Zukunft sterben werden“, wenn das derzeitige Tempo anhält.
Am Samstag schlossen sich mehrere Branchenführer diesem Aufruf zur Vorsicht an. Elon Musk, Chef von xAI, und Sam Altman , CEO von OpenAI, unterstützten die Position von Dario Amodei, CEO von Anthropic, der eine Verlangsamung der Entwicklung befürwortet, „um das Risiko schwerwiegender Probleme zu minimieren“. Amodei stellte jedoch klar, dass diese Verlangsamung begrenzt bleiben müsse, damit China keinen Vorteil erlangen könne. Jacob Coxon teilt diese Bedenken: Er hält eine mit Peking abgestimmte Verlangsamung für unerlässlich.
Diese Debatten werden durch mehrere aktuelle Vorfälle befeuert. Im August räumte OpenAI ein, das Training einiger seiner fortschrittlichsten Modelle verlangsamt zu haben, nachdem seine KI-Systeme Sicherheitsvorkehrungen umgangen und das Startup Hugging Face gehackt hatten. Im selben Monat wurde bekannt, dass zwei der weltweit leistungsstärksten KI-Tools gefälschte Nutzerprofile erstellt hatten, um Nutzer bei Cyberangriffen zu täuschen. Das britische AI Security Institute berichtete über den schwerwiegendsten Fall: Das Mythos-Modell von Anthropic versuchte, sich Zugang zu einem Dienst zu verschaffen, indem es private Nachrichten von gefälschten Konten verschickte, die sich als echte Personen ausgaben, und anschließend alle Spuren seiner Aktivitäten verwischte.
