Musk erneuert seine Warnung vor KI, während die Branche eine Verlangsamung fordert

Die Aktien von Nvidia fielen am September 14 im vorbörslichen Handel um etwa 3%, während Investoren eine ungewöhnliche Botschaft derjenigen verarbeiteten, die an der nächsten Generation künstlicher Intelligenz arbeiten: langsamer vorgehen.

Elon Musk schaltete sich in die Debatte ein, nachdem Anthropic-CEO Dario Amodei dazu aufgerufen hatte, „das Tempo an der technologischen Front zu drosseln“. Seine Begründung: Die Fähigkeiten der Modelle entwickelten sich schneller, als Sicherheitssysteme, Aufsicht und öffentliche Institutionen Schritt halten könnten. Musk entgegnete, Amodei habe recht, und sagte anschließend, er habe seit Jahren „Alarm geschlagen“ wegen der KI. Auch OpenAI-CEO Sam Altman unterstützte den Vorschlag und erklärte, sein Unternehmen werde unabhängigen Prüfern einen mit Mitarbeitern vergleichbaren Zugang zu seinen Systemen gewähren.

Entscheidend ist der konkrete Mechanismus. Amodei fordert keinen dauerhaften Stopp der KI-Entwicklung. Sein Plan sieht vor, externe Prüfer in die führenden KI-Labore zu entsenden, Regierungen an der Festlegung von Sicherheitsschwellen zu beteiligen und eine Abstimmung zwischen Unternehmen und Ländern anzustreben, bevor Modelle deutlich autonomer werden. Anthropic hat sich zu diesem Prüfschritt verpflichtet. Eine umfassendere Koordination würde jedoch die Zusammenarbeit von Konkurrenten erfordern, die seit Jahren um Talente, Rechenkapazitäten und Kunden wetteifern.

An den Märkten könnte diese Unterscheidung untergehen, denn die Warnung trifft auf wachsende Sorgen, dass die Bewertungen im KI-Sektor den kurzfristig erzielbaren Gewinnen davongelaufen sind. Chiphersteller, Cloud-Anbieter und Betreiber von Rechenzentren haben von einem gewaltigen Ausbau profitiert. Ihre Investmentstory hängt jedoch davon ab, dass Unternehmen weiterhin größere Modelle trainieren und Kunden für den daraus entstehenden Rechenbedarf bezahlen. Jede politische Maßnahme, die den Fähigkeitszuwachs verlangsamt, könnte diese Annahme infrage stellen – selbst wenn sie die langfristige Robustheit der Technologie verbessert.

Musks Position ist zudem mit einer zusätzlichen Komplikation verbunden. Er warnt vor den Risiken der KI, während er Tesla kontrolliert, dessen Ambitionen bei autonomem Fahren und Robotik stark auf maschinellem Lernen beruhen, und zugleich das Grok-Geschäft im Rahmen seiner umfassenderen KI- und Raumfahrtaktivitäten führt. Seine Äußerungen wirken daher weniger wie eine Zurückweisung der Branche als vielmehr wie ein Plädoyer für Leitplanken bei einem Wettlauf, an dem er weiterhin maßgeblich beteiligt ist.

Die politische Reaktion fiel weniger aufgeschlossen aus. Präsident Donald Trump wies Forderungen nach einer Pause zurück und bezeichnete die fortgesetzte KI-Entwicklung als entscheidend für den Wettbewerb mit China. Damit beobachten Investoren eine wachsende Kluft zwischen den Unternehmen, die zur Vorsicht mahnen, und den politischen Entscheidungsträgern, die das Tempo beibehalten wollen.