Dario Amodei, der Leiter von Anthropic, verspricht KI, fürchtet aber deren Rasse.

Im Silicon Valley liebt man sowohl visionäre als auch besorgniserregende Führungskräfte. Dario Amodei, CEO von Anthropic, schafft den ungewöhnlichen Spagat zwischen beidem. Er ist zwar weniger schillernd als manch anderer, hat aber dennoch die Debatte um künstliche Intelligenz geprägt und sein Name machte sogar die Runde, nachdem in den USA Spannungen um den Einsatz von KI-Werkzeugen im militärischen Bereich aufgekommen waren – ein Minenfeld, auf dem Rüstungsaufträge zwar die Gewinne steigern, aber den Ruf schädigen können.

Amodei, der oft zu den „alarmistischsten“ Politikern gezählt wird, bestreitet diese Bezeichnung, lehnt sie aber nicht gänzlich ab. In einem ausführlichen Artikel, der Ende Januar erschien, erklärt er, er verwerfe „katastrophale“ Szenarien, die eher Science-Fiction-Filmen entstammten, und fordert gleichzeitig eine direkte Auseinandersetzung mit den von ihm als extrem bezeichneten Risiken. Und er fügt einen Satz ein, der wie eine Deadline klingt: Wenn das gegenwärtige Tempo anhält, könnte KI den Menschen in den meisten Bereichen innerhalb weniger Jahre übertreffen. Wenige Worte, aber weitreichende Konsequenzen, insbesondere für die Realwirtschaft und den Fachkräftemangel.

Sicherheit als Verkaufsargument, Macht als Horizont

Anthropic, 2021 von ehemaligen OpenAI-Führungskräften wie Dario und Daniela Amodei gegründet, basiert auf einem einfachen Versprechen: leistungsstarke Modelle zu entwickeln, ohne sich dabei wie Zauberlehrlinge zu verhalten. Die Claude-Modellfamilie richtet sich an professionelle Kunden, wobei Sicherheitsvorkehrungen, Risikobewertungen und Nutzungsbeschränkungen als Markenzeichen des Unternehmens hervorgehoben werden. Dieser doppelte Sicherheitsansatz führte in der amerikanischen Presse auch dazu, dass Anthropic als Hort des „KI-Katastrophismus“ bezeichnet wurde – eine Ironie für ein Unternehmen, das Industrie- und Regierungsbehörden von seinen Verträgen überzeugen muss.

Der Kampf wird derweil mit Milliarden von Dollar, Chips und Rechenzentren ausgetragen. Der Wettbewerb zwischen amerikanischen und europäischen Anbietern verschärft sich, die enge Partnerschaften mit Cloud-Giganten pflegen und ein gemeinsames Ziel verfolgen: die Rechenleistung zu erlangen, die den Unterschied zwischen einer vielversprechenden Demo und einem leistungsfähigen Produkt ausmacht. Für Unternehmen steht viel auf dem Spiel: Produktivität, Automatisierung, neue Services, aber auch technologische Abhängigkeit, Energiekosten und letztlich digitale Souveränität.

Auf europäischer Seite wird der Rahmen mit dem KI-Gesetz restriktiver und präziser. Dieses schreibt Transparenz- und Sicherheitspflichten für bestimmte Systeme vor, darunter auch universelle Modelle. Amodei spricht genau in dem Moment, in dem die Branche rasant wächst und die Behörden nach einem Gleichgewicht zwischen Innovation und Schutz suchen, ohne die Regulierung zu einem Hindernis oder einem Filter werden zu lassen. Eine Tatsache bleibt bestehen, die der Leser bereits erahnen kann: Wer die nützlichste KI verspricht, muss auch beweisen, dass sie kontrollierbar bleibt, denn Vertrauen bemisst sich nicht allein an Teraflops.