Microsoft AI, geliştirdiği yapay zeka modellerinin hangi sınırlar içinde çalışacağını belirleyen bir davranış kuralları taslağı yayımladı. “Humanist AI Code of Conduct” adını taşıyan belge, şirketin gelecekte geliştireceği MAI modellerinin insan kontrolünde kalmasını ve güvenlik kurallarını bir görevi tamamlamanın önünde tutmasını amaçlıyor.
“İnsanlar yapay zekadan daha önemlidir” yaklaşımı
Taslağın temelinde “İnsanlar yapay zekadan daha önemlidir” yaklaşımı bulunuyor. Buna göre yapay zeka bir kişi değil, insanların kullanımına sunulan bir araç olarak ele alınacak. Modeller, insanların müdahale, düzeltme veya sistemi kapatma girişimlerine direnemeyecek. Kendilerine tanımlanan görevin kapsamını genişletemeyecek, insanlar tarafından verilmeyen amaçlar geliştiremeyecek ve denetleyicilerden çalışma biçimlerini gizleyemeyecek.
Microsoft ayrıca modellerin bilinç sahibi olduğunu ileri sürmesine veya bilinci taklit edecek biçimde tasarlanmasına karşı çıkıyor. Şirket, yapay zeka modellerine hukuki kişilik tanınması, bu sistemlerin refahının gözetilmesi ya da hak sahibi kabul edilmesi gibi yaklaşımları da reddediyor. Bu yönüyle Microsoft'un tutumu, yapay zeka modellerinin bilinç sahibi olma ihtimalini tamamen dışlamayan Anthropic gibi şirketlerden ayrılıyor.
Taslak, güvenlik kurallarıyla bir kullanıcının veya operatörün talimatı çatıştığında modelin görevi yerine getirmemesi gerektiğini belirtiyor. Başka bir ifadeyle modelin başarısız olması, kuralları ihlal ederek görevini tamamlamasına tercih edilecek. Kitle imha silahları, çocuk güvenliği ve geniş ölçekte zararlı manipülasyon gibi alanlar ise modellerin hiçbir koşulda aşmaması gereken sınırlar arasında yer alıyor.
Microsoft AI, modellerinin silah geliştirilmesine yardımcı olmamasını, tehlikeli maddelerin teminini kolaylaştırmamasını ve şiddet ya da cinsel istismar içeren içerikler üretmemesini öngörüyor. Modellerin kullanıcıları kendilerine aşırı ölçüde bağımlı hale getirecek veya duygusal bağlılığı teşvik edecek etkileşimlerden kaçınması da taslaktaki maddeler arasında bulunuyor.
Yapay zeka sistemleri, insanların anlayamayacağı iletişim biçimlerini kullanmamalı
Belgede yapay zeka sistemlerinin kendi aralarında veya insanlarla, insanların anlayamayacağı iletişim biçimlerini kullanmaması gerektiği de belirtiliyor. Bu yaklaşımın, araştırmacıların ve otomatik denetim sistemlerinin modellerin nasıl hareket ettiğini izleyebilmesini sağlaması hedefleniyor.
Microsoft AI CEO'su Mustafa Suleyman, uzun süredir teorik düzeyde tartışılan risklerin son dönemde somut hale geldiğini belirtti. Suleyman'a göre davranış kuralları, şirketin modellerini eğitirken ve değerlendirirken kullanacağı bir tür anayasa işlevi görecek. Şirket, genel amaçlı ve denetim mekanizmalarından kaçabilecek bir süper zeka geliştirme yarışına karşı çıktığını, bunun daha düşük özerklik veya kapasite anlamına gelmesi halinde bile güvenliği önceleyeceğini ifade ediyor.
Microsoft CEO'su Satya Nadella da çalışanlara gönderdiği şirket içi mesajda yapay zekanın insan kontrolünde kalması ve toplumun geneline fayda sağlaması gerektiğini vurguladı. Nadella, şirketlerin gelişmiş modellerin güvenlik ve uyum testleri için gereken zamanı ayırması gerektiğini belirterek daha fazla bağımsız ve üçüncü taraf testini desteklediğini söyledi. Süreci hızlandırmanın şirketlerin faaliyet göstermek için ihtiyaç duyduğu kamuoyu güvenini kaybetmesine yol açabileceği uyarısında bulundu.
Yaklaşık altı aylık bir çalışmanın sonucunda hazırlanan taslak, altı hafta boyunca kamuoyunun görüşüne açık olacak. Microsoft AI, bu süreçte alınan geri bildirimlerin ardından kuralları güncellemeyi ve söz konusu ilkeleri gelecekteki MAI modellerinin eğitim ve dağıtım süreçlerine dahil etmeyi planlıyor.
