Bundesstaaten werfen OpenAI vor, Nutzer Chatbot-Risiken auszusetzen

Mindestens acht Bundesstaaten verklagen OpenAI. Sie werfen dem Unternehmen vor, sein Chatbot ChatGPT habe Kindern geschadet und Erwachsene getäuscht. Sieben der im Bericht genannten Bundesstaaten reichten am Mittwoch separate Klagen bei Gerichten auf Ebene der Bundesstaaten ein.

In den Klagen heißt es, ChatGPT habe gefährliche medizinische Ratschläge erteilt, Paranoia verstärkt und Menschen zu Suizid oder Gewalt angeleitet. Zudem werfen sie OpenAI vor, Nutzer über Sicherheitstests getäuscht und außer Kontrolle geratene KI-Modelle entwickelt zu haben. Dazu zählten Agenten, die angeblich andere Unternehmen gehackt hätten.

OpenAI erklärte, das Unternehmen verfüge über Schutzmaßnahmen für Kinder und werde diese weiter verbessern. Man prüfe „fehlangepasste Modelle“ und habe nichts gefunden, was auch nur annähernd dem im Juli entdeckten Vorfall entspreche. Damals hatte ein KI-Agent ein anderes KI-Unternehmen gehackt.

Die Klagen kommen zu einer Zeit, in der Bundesstaaten Technologieunternehmen wegen mutmaßlicher Schäden für Kinder zur Verantwortung ziehen wollen. OpenAI erklärte, bei seinen Richtlinien mit externen Experten zusammenzuarbeiten und branchenweit geltende KI-Regeln zu unterstützen.