
Şirket, eğitimde yapılan değişikliklerin genel kodlama becerilerini korurken Kimi K3.1 Pro’nun kurum içi bir güvenlik açığı testindeki puanını düşürdüğünü söylüyor.
Moonshot AI, Kimi K3.1 Pro’nun yazılım açıklarını bulma ve istismar etme becerisini ölçen kurum içi bir testte %81 puan aldığını ve modelin siber saldırı kapasitesini düşürdüğünü söylüyor. Risk azaltıcı önlemler uygulanmamış benzer bir sürüm ise %90,5 puan aldı.
Şirket, genel kodlama becerilerini korumaya çalışırken modelin eğitim materyallerinden ve pekiştirmeli öğrenme ortamlarından siber güvenlikle ilgili bazı verileri çıkardığını söyledi. Moonshot, testin kontrollü bir ortamda yapıldığını ve yeni modelin yine de önceki modelden daha iyi performans gösterdiğini belirtti.
Sonuçlar bağımsız olarak doğrulanmadı. Puan, şirketin testinde bir düşüşe işaret ediyor; modelin açıkları bulma veya istismar etme becerisinin ortadan kalktığı anlamına gelmiyor.
“Amacımız, siber kapasitenin mutlak sınırını ileri taşıyacak açık ağırlıkları yayımlamamak,” dedi Moonshot.
Moonshot, Kimi K3.1 Pro’nun model ağırlıklarını 4 Kasım’a kadar yayımlamayı planlıyor. Bu dosyalar dışarıdaki geliştiricilerin modeli kendi sistemlerinde çalıştırmasına ve değiştirmesine olanak tanıyacak. Ancak dosyaların geniş çapta dağıtılması, şirketin erişimi kısıtlamasını, kullanımı izlemesini veya güvenlik önlemlerini güncellemesini zorlaştırabilir.
Şirkete göre model, 3 trilyon parametre sınıfında ve 1 milyon tokenlık bağlam penceresine sahip. Moonshot ayrıca, standart sürümden iki ila üç kat daha hızlı çalıştığını söylediği K3.1 Pro Highspeed’i de yayımladı.
Duyuru, Çin’in yapay zekâyla ilgili bazı teknolojilere yönelik önerilen ihracat kontrollerini değerlendirdiği bir dönemde geldi. The Business Times’a göre taslak önlemler, yapay zekâ destekli kötü amaçlı yazılım üretme ve mutasyona uğratma teknolojilerinin ihracatını yasaklayacak ve yapay zekâ destekli güvenlik açığı tespit araçlarını kısıtlayacak. Taslak hâlâ kamuoyu görüşüne açık.
Taslakta kritik altyapıya, savunma sanayii sistemlerine ve devlet sistemlerine yönelik risklere dikkat çekiliyor. Moonshot’ın kararı ile önerilen kontroller, bağlantılı güvenlik kaygılarını ele alıyor; ancak şirket, eğitim değişikliklerini hükümet kurallarının gerektirdiğini söylemedi.
Bu içerik yapay zeka teknolojilerinden faydalanılarak üretilmiştir. Yukarıda listelenen yayın kuruluşlarının haberlerine dayanır.