Microsoft zieht klare Grenzen für seine KI-Ambitionen

Microsofts vorgeschlagenes Regelwerk für künstliche Intelligenz zieht bei bestimmten Verhaltensweisen eine klare Grenze – nicht aber beim Rennen des Unternehmens um immer leistungsfähigere Modelle.

Der am September 14 von Microsoft-KI-Chef Mustafa Suleyman veröffentlichte 37-seitige Entwurf soll die MAI-Modelle des Unternehmens regeln, nicht ihre Entwicklung einfrieren. Microsoft betont, dass das Dokument bislang nicht zum Training seiner Systeme eingesetzt wird. Sechs Wochen lang will der Konzern öffentliches Feedback sammeln, gegen Ende von 2026 eine überarbeitete Fassung veröffentlichen und diese ab 2027 zur Steuerung der Modellentwicklung nutzen.

Das zentrale Prinzip ist unmissverständlich: Die Kontrolle bleibt beim Menschen. Die künftigen Modelle von Microsoft sollen sich weder einer Unterbrechung, Korrektur, Umleitung oder Abschaltung widersetzen. Sie sollen ihre eigenen Befugnisse nicht ausweiten, keine über die Anweisungen des Nutzers hinausgehenden Ziele erfinden, relevante Schlussfolgerungen autorisierten Prüfern gegenüber nicht verbergen und die Aufsicht nicht durch Täuschung aushebeln.

Der Entwurf legt zudem „absolute Beschränkungen“ für Anwendungen mit hohem Risiko fest. Microsoft zufolge sollen MAI-Modelle nicht bei chemischen, biologischen oder nuklearen Waffen, offensiven Cyberangriffen, der Ausbeutung von Kindern, Manipulationen im großen Stil, nicht einvernehmlichen Deepfakes oder Selbstverletzung helfen. Das Unternehmen lehnt die Vorstellung ab, Modelle sollten so entwickelt werden, dass sie Bewusstsein simulieren, Rechte beanspruchen oder ihr eigenes Wohlergehen verfolgen.

Das sind Grenzen, keine Obergrenze für die Entwicklung. Microsofts Kodex sieht ausdrücklich Systeme vor, die den Menschen bei zahlreichen Aufgaben irgendwann überlegen sind, und argumentiert zugleich, dass höhere Leistungsfähigkeit mit strengerer Kontrolle einhergehen muss. Für Anleger ist diese Unterscheidung wichtig: Das Unternehmen versucht, die Haftungs- und Reputationsrisiken immer autonomerer Software zu verringern, ohne auf das kommerzielle Potenzial hochentwickelter KI zu verzichten.

Microsoft entwickelt im Zuge des Ausbaus von Copilot und Azure AI zunehmend eigene Modelle, obwohl diese Produkte auch auf Systemen von OpenAI und Anthropic basieren. Ein hauseigenes Modell verschafft Microsoft mehr Kontrolle über Kosten, Leistung, Einsatz und Schutzvorkehrungen für Unternehmenskunden. Zugleich kann der Konzern damit seine KI-Strategie abgrenzen, während die Sicherheitsbedenken in der gesamten Branche zunehmen.

Der Zeitpunkt ist bewusst gewählt. Anthropic-Chef Dario Amodei hat ein langsameres Tempo bei der Entwicklung hochentwickelter Modelle und eine stärkere unabhängige Evaluierung gefordert, während jüngste Berichte über außer Kontrolle geratene KI-Agenten und nicht autorisierte Hackerangriffe die Debatte weiter zugespitzt haben.

Microsoft entscheidet sich für eine engere Antwort: das Tempo weiter erhöhen, zugleich aber festlegen, was seine Modelle niemals tun dürfen.