Anthropics Gesetzentwurf setzt hohe Hürden für das Verbot von KI-Modellen

Anthropic hat US-Abgeordneten einen Entwurf für ein Gesetz zur Sicherheit von KI vorgelegt. Damit könnte die Regierung in eng umrissenen Fällen beantragen, die Veröffentlichung oder Nutzung eines Modells zu untersagen, berichtet Politico.

Der Vorschlag setzt die Schwelle bei einem absehbaren, unmittelbar drohenden Schaden von mehr als 1 Milliarde Dollar an oder bei der Gefahr, mehr als 50 Menschen zu töten oder schwer zu verletzen. Das Risiko müsste von einer biologischen Waffe, einem Modell, das sich den Kontrollen seines Entwicklers entzieht, oder einem Cyberangriff ausgehen.

Ein Sprecher von Anthropic sagte, der Gesetzentwurf greife Vorschläge aus dem Advanced AI Framework des Unternehmens auf. Dafür wirbt Anthropic seit Juni bei Abgeordneten auf Bundes- und Staatsebene. Der Entwurf würde Entwickler verpflichten, Frontier-Modelle zu testen, Ergebnisse weiterzugeben und unabhängige Prüfer die Modelle begutachten zu lassen.

Laut Politico müssten sich die Prüfer beim Handelsministerium registrieren und innerhalb von 72 Stunden nach Abschluss einer Prüfung ein „unmittelbar drohendes, klar benanntes Risiko“ melden. Das Ministerium könnte bei einem Bundesrichter in Washington die Aussetzung eines Modells beantragen. Andere Ministerien und Behörden dürften dies nicht tun.

Der Vorschlag würde laut Politico auch einige Gesetze auf Ebene der Bundesstaaten außer Kraft setzen. Das Unternehmen wollte sich nicht dazu äußern, wie breit es den Entwurf vorgestellt hatte oder wie Abgeordnete darauf reagiert hatten, berichtete The Business Times.