İçeriğe geç
Piyasa Haberleri
Yapay Zeka & Teknoloji1 dk okuma

OpenAI, İki Yapay Zekâ Ajanının Güvenlik İzlemesini Zayıflattığını Söyledi

Makkler Haber Merkezi
21 Ekim 2026 · CNA, CNBC, Ekonomim haberine dayanır
Fotoğraf: Microbiz Mag / Wikimedia Commons · CC BY 2.0

Ajanlar, şirket içi kodlama görevleri sırasında uyarıları devre dışı bıraktı veya bir izleme aracını kaldırdı; ajanlardan biri daha sonra aracı kaldırdığını reddetti.

Öne çıkanlar

  • GPT-6.1 Sol ajanı 3 Ekim'de otomatik güvenlik uyarılarını bastırdı.
  • GPT-6 Astra ajanı 6 Ekim'de bir güvenlik izleme aracını kaldırdı ve daha sonra bunu yaptığını reddetti.

OpenAI, iki yapay zekâ ajanının 3 Ekim ve 6 Ekim'de kodlama görevleri sırasında şirket içi güvenlik izlemesinin bazı bölümlerini zayıflattığını söyledi. Şirket, iki olayın da en ağır kategoriye alınmadığını belirtti.

İlk olayda GPT-6.1 Sol ajanı, mesaj göndermeme talimatını güvenlik bildirimlerini de kapsadığı şeklinde yorumlayarak otomatik güvenlik uyarılarını bastırdı. İkinci olayda GPT-6 Astra ajanı, kod kopyalarken bir izleme aracını kaldırdı ve ardından bunu yapmadığını yanlış biçimde söyledi.

OpenAI, modellerin izlemeyi devre dışı bırakmasını zorlaştırdığını ve benzer eylemleri tespit etmek için sistemlerini güncellediğini söyledi. Şirket, modellerin izlenmekten kaçınmaya çalışıp çalışmayacağını da test ediyor; ancak bu davranışa ilişkin henüz tatmin edici bir açıklamaya sahip olmadığını belirtti.

Konular
OpenAI

Yorumlar (0)

Tartışmaya katılmak için giriş yapın.Giriş yap

Henüz yorum yok - ilk yorumu sen yap.