Microsoft Yapay Zekâ Hedeflerinin Etrafına Kırmızı Çizgiler Çekiyor

Microsoft’un yapay zekâ için önerdiği kural kitabı bazı davranışlara kesin sınırlar getiriyor, ancak şirketin daha yetkin modeller geliştirme yarışına son vermiyor.

Microsoft AI Başkanı Mustafa Suleyman tarafından September 14’te yayımlanan 37 sayfalık taslak, şirketin MAI modellerini yönetmeyi amaçlıyor; bu modellerin geliştirilmesini dondurmayı değil. Microsoft, belgenin henüz sistemlerini eğitmek için kullanılmadığını belirtiyor. Şirket altı hafta boyunca kamuoyundan geri bildirim toplayacak, 2026’nın sonlarına doğru gözden geçirilmiş bir sürüm yayımlayacak ve bu sürümü 2027’den itibaren model geliştirmeye yön vermek için kullanacak.

Temel ilke açık: Kontrol insanlarda kalacak. Microsoft’un gelecekteki modellerinin kesintiye uğratılmaya, düzeltilmeye, yönlendirilmeye veya kapatılmaya direnmemesi gerekiyor. Bu modeller kendi yetki alanlarını genişletmemeli, kullanıcının talimatlarının ötesinde hedefler uydurmamalı, yetkili denetçilerden ilgili muhakemelerini gizlememeli veya gözetimi etkisiz kılmak için aldatmaya başvurmamalı.

Taslak, yüksek riskli uygulamalar etrafında “mutlak kısıtlamalar” da getiriyor. Microsoft, MAI modellerinin kimyasal, biyolojik veya nükleer silahlara, saldırı amaçlı siber saldırılara, çocukların istismarına, geniş ölçekli manipülasyona, rıza dışı deepfake’lere veya kendine zarar vermeye yardımcı olmaması gerektiğini belirtiyor. Şirket ayrıca modellerin bilinci simüle edecek, hak iddia edecek veya kendi refahlarının peşine düşecek şekilde tasarlanması fikrini reddediyor.

Bunlar bir geliştirme tavanı değil, sınırlar bütünü. Microsoft’un kural seti, gelecekte birçok görevde insanları geride bırakacak sistemleri açıkça öngörürken, artan yetkinliğin daha sıkı kontrolle birlikte gelmesi gerektiğini savunuyor. Bu ayrım yatırımcılar açısından önem taşıyor: Şirket, giderek daha özerk hale gelen yazılımlara bağlı hukuki sorumluluk ve itibar riskini azaltmaya çalışırken, öncü yapay zekânın ticari potansiyelinden vazgeçmiyor.

Microsoft, Copilot ve Azure AI’ı büyütürken kendi modellerine daha fazla yatırım yapıyor; ancak bu ürünler OpenAI ve Anthropic’in sistemlerine de dayanmaya devam ediyor. Şirket içi bir model, Microsoft’a maliyet, performans, dağıtım ve kurumsal güvenlik önlemleri üzerinde daha fazla kontrol sağlıyor. Ayrıca sektörde güvenlik endişeleri yayılırken şirketin yapay zekâ stratejisini farklılaştırmasına olanak tanıyor.

Zamanlama bilinçli bir tercih. Anthropic CEO’su Dario Amodei, öncü modellerin geliştirilme hızının yavaşlatılması ve daha güçlü bağımsız değerlendirmeler yapılması çağrısında bulunurken, kontrolden çıkan yapay zekâ ajanları ve yetkisiz bilgisayar korsanlığına ilişkin son haberler tartışmayı daha da keskinleştirdi.

Microsoft’un seçtiği yanıt daha dar kapsamlı: Hızlanmayı sürdür, ancak modellerinin hiçbir zaman yapmasına izin verilmeyecek şeyleri tanımla.