Amodeis Aufruf zu einer langsameren KI-Entwicklung bei Anthropic verunsichert Futures vor der Fed-Entscheidung

Nasdaq-100-Futures sackten am Sonntagabend um 1.2% ab – doppelt so stark wie die Futures auf den S&P 500. Damit sah sich die Wall Street zu Wochenbeginn mit einer ungewöhnlichen neuen Unbekannten konfrontiert: Die Männer, die den KI-Boom aufgebaut haben, warnen nun, dass er sich möglicherweise zu schnell entwickelt.

Auslöser war ein Essay, den Dario Amodei am Samstag veröffentlichte. Der Vorstandschef von Anthropic argumentierte, die Branche müsse das Tempo drosseln, mit dem sie die leistungsfähigsten Modelle weiterentwickelt. Ohne zusätzliche Schutzvorkehrungen könnten Schwärme autonomer KI-Agenten innerhalb von sechs bis zwölf Monaten in der Lage sein, die Kontrolle über das Internet zu übernehmen, warnte er. Der Text wirkte weniger wie eine Absicherung als wie ein Alarmruf. Sam Altman, der das Unternehmen führt, das Amodei verlassen hatte, um Anthropic zu gründen, sagte, er teile die Einschätzung, dass das Tempo gedrosselt werden müsse. Elon Musk, der nur selten mit einem von beiden übereinstimmt, äußerte sich ebenso.

Der Essay traf nicht auf ein Vakuum. Wenige Tage zuvor hatte ein Sicherheitsforscher von Anthropic gekündigt und seinen Kollegen auf Slack mitgeteilt, dass der derzeitige Kurs ohne mehr Vorsicht in der gesamten Branche das Risiko einer Auslöschung der Menschheit berge. Die Kündigung und Amodeis Essay trugen dazu bei, eine lange Zeit auf Fachpublikationen beschränkte Debatte in die Vorstandsetagen – und offenbar auch an die Handelspulte – zu bringen.

Chipwerte bekamen die Folgen am stärksten zu spüren. Micron, Nvidia und AMD notierten allesamt schwächer, während Anleger abwogen, was ein politisch verordnetes Bremsmanöver für die Investitionsausgaben bedeuten könnte, die einen großen Teil der diesjährigen Rally getragen haben. Amodei verwies auf einen Schritt, den Anthropic im Alleingang unternimmt: Externe Prüfer erhalten Zugriff auf Mitarbeiterebene, um die Sicherheitsvorkehrungen zu kontrollieren. Zugleich forderte er die Wettbewerber auf, diesem Beispiel zu folgen. Außerdem sprach er sich für Gesetze aus, die den Aufsichtsbehörden erlauben würden, unsichere Modelle vor ihrer Veröffentlichung zu blockieren. Der Politikchef von Anthropic ging noch weiter und drängte Washington, fortschrittliche Chips von gegnerischen Staaten fernzuhalten.

In den Futures spiegelte sich zudem wider, dass der Ölpreis nach einem weiteren Angriff, der die Schifffahrt nahe der Straße von Hormus beeinträchtigte, über $103 je Barrel gestiegen ist. Zugleich stellen sich die Händler auf die Sitzung der Federal Reserve am Dienstag und Mittwoch ein. Eine Zinsentscheidung steht zur Debatte, nachdem Inflationsdaten den von vielen erwarteten Kurs der Lockerung erschwert haben.

Amodei räumte selbst die Grenzen seines Vorschlags ein. Im Gespräch mit CBS News sagte er, die Koordinierung einer weltweiten Verlangsamung stoße auf ein grundlegendes Problem: Nichts hindere China daran, sie zu ignorieren, und die Anreize, das Rennen fortzusetzen, seien nur schwer außer Kraft zu setzen. Für einen Markt, der die KI-Ausgaben als nahezu dauerhaft wirkenden Wachstumsmotor eingepreist hat, wird dieses Spannungsverhältnis zwischen Sicherheit und Geschwindigkeit nun selbst zu einer Einflussgröße – und eine, die die Entscheidung der Fed in dieser Woche nicht auflösen wird.