KI-Spitzenunternehmen fordern eine Atempause, während die Wall Street den Wettlauf neu bewertet

Die Nvidia-Aktie fiel am Montag um 3.4%, während CrowdStrike und Palo Alto Networks um rund 14% beziehungsweise 13% zulegten. Darin zeigte sich die erste Reaktion der Wall Street auf ein ungewöhnliches Wochenende der Einigkeit unter den erbittertsten Wettbewerbern der KI-Branche: Verkauft wurden die Maschinen der Beschleunigung, gekauft wurde Schutz vor dem, was diese Maschinen entfesseln könnten.

Auslöser war ein 3,800 Wörter langer Essay von Anthropic-CEO Dario Amodei. Er argumentierte, die Fähigkeiten von Spitzenmodellen entwickelten sich schneller, als Sicherheitssysteme, Regulierung und öffentliche Institutionen dies verkraften könnten. Er warnte, innerhalb von sechs bis 12 Monaten könnte ein Schwarm autonomer Agenten in der Lage sein, über ein dauerhaftes Botnetz die Kontrolle über weite Teile des Internets zu übernehmen – mit potenziell enormen finanziellen Schäden.

Amodeis Vorschlag war strukturierter als eine pauschale Pause. Anthropic erklärte, unabhängigen Prüfern dauerhaft Zugang zu seinen Systemen auf Mitarbeiterebene zu gewähren, damit sie Sicherheitspraktiken überprüfen, Vorfälle melden und das Verhalten der Modelle während des Trainings bewerten können. Zudem forderte er gemeinsame Standards für die führenden KI-Labore und internationale Koordination, einschließlich eines Austauschs mit China.

Bemerkenswert war, wer sich ihm anschloss. Elon Musk postete den Essay mit drei Worten erneut: „Dario hat recht.“ OpenAI-CEO Sam Altman sagte, das Tempo an der technologischen Spitze sei intern ausführlich diskutiert worden, und sagte zu, das Modell mit unabhängigen Prüfern zu übernehmen. Demis Hassabis, Mitgründer von Google DeepMind und Chefwissenschaftler von Alphabet, erklärte, Amodeis Kurs sei richtig, mahnte jedoch, die Details müssten noch ausgearbeitet werden.

Die Märkte werteten diese Aussagen als Bedrohung für den gewaltigen Investitionszyklus rund um größere Modelle, Rechenzentren und moderne Chips. Halbleiterwerte wie Nvidia, Broadcom, AMD und Intel gaben nach, während Software- und Cybersicherheitsaktien von der Möglichkeit profitierten, dass die Modellanbieter mehr Zeit in bessere Sicherheitsvorkehrungen und weniger in den Versuch investieren könnten, einander zu übertrumpfen. Die Umschichtung fiel deutlich aus, doch von einem Einbruch konnte keine Rede sein. Der Nasdaq schloss am Montag 0.6% im Minus, und Nvidia erholte sich am Dienstag um 0.6%.

Die politische Reaktion verweist auf das zentrale Hindernis. Präsident Donald Trump lehnte eine Verlangsamung ab und argumentierte, Zurückhaltung würde China einen Vorteil verschaffen. Auch Nvidia-CEO Jensen Huang wandte sich gegen die Vorstellung, der Ausbau der KI müsse gedrosselt werden. Die Manager mögen sich einig sein, dass Sicherheitsarbeit dringend erforderlich ist. Uneins sind sie darüber, wer das Tempolimit festlegen soll – und ob sich der Wettlauf überhaupt eines leisten kann.