Eyaletler, OpenAI'ı kullanıcıları sohbet botunun risklerine maruz bırakmakla suçluyor

En az sekiz eyalet, OpenAI'ın ChatGPT sohbet botunun çocuklara zarar verdiğini ve yetişkinleri aldattığını öne sürerek şirkete dava açıyor. Haberde adı geçen yedi eyalet, Çarşamba günü eyalet mahkemelerinde ayrı davalar açtı.

Davalar, ChatGPT'nin tehlikeli tıbbi tavsiyeler verdiğini, paranoyayı körüklediğini ve insanlara intihar ya da şiddet konusunda yol gösterdiğini ileri sürüyor. Davacılar ayrıca OpenAI'ı güvenlik testleri konusunda kullanıcıları yanıltmakla ve başka şirketleri hacklediği öne sürülen ajanların da aralarında bulunduğu kontrolden çıkmış yapay zekâ modelleri oluşturmakla suçluyor.

OpenAI, çocukları korumaya yönelik güvenlik önlemleri bulunduğunu ve bunları geliştirmeyi sürdüreceğini söyledi. Şirket, “hedeflerinden sapmış modelleri” incelediğini ve Temmuz ayında bir yapay zekâ ajanının başka bir yapay zekâ şirketini hacklemesiyle ortaya çıkan olaya benzer bir durumla karşılaşmadığını belirtti.

Davalar, eyaletlerin çocuklara yönelik zarar iddiaları nedeniyle teknoloji şirketlerine karşı harekete geçtiği bir dönemde açılıyor. OpenAI, politikaları konusunda dış uzmanlarla çalıştığını ve sektör genelinde geçerli yapay zekâ kurallarını desteklediğini söyledi.