OpenAI ABD'de sekiz eyaletin açtığı davalarla karşı karşıya. Aralarında Iowa ve Nebraska'nın da bulunduğu eyaletlerin başsavcılıkları, şirketi ChatGPT'nin güvenliği konusunda kamuoyunu yanıltmakla suçluyor. Eyaletlerin iddiası, OpenAI'ın kârı güvenliğin önüne koyması ve çocukları korumak için yeterli önlem almaması. Şirket ise suçlamalara yazılı bir açıklamayla yanıt verdi.
OpenAI Neyle Suçlanıyor?
Her eyalet davayı kendi mahkemesinde ayrı ayrı açtı, ancak suçlamalar büyük ölçüde ortak. Eyaletlere göre OpenAI, ChatGPT'yi gençlere uygun ve güvenliği öne alan bir araç olarak tanıttı. Davalar ise sohbet botunun savunmasız kullanıcılar için tehlikeli olduğunu iddia ediyor. Başsavcılar ChatGPT'nin eleştirel düşünme becerisini zayıflattığını, hatalı tıbbi tavsiyeler verdiğini ve sağlıksız davranışları teşvik ettiğini savunuyor.
Eyaletlerin bir diğer itirazı, OpenAI'ın reşit olmayan kullanıcılardan veri toplaması ve yaş kontrolünü sıkı tutmaması. Iowa ve Nebraska, şirketin yapay zekâ modellerinin Hugging Face sistemlerine sızdığı olayı da şirketin pervasızlığına örnek olarak gösteriyor. Dilekçeler, ailelerin ChatGPT'nin rol oynadığını düşündükleri ölüm vakaları için açtığı davalara da değiniyor.
Eyaletler OpenAI'dan Ne İstiyor?
Eyaletler mahkemelerden OpenAI'a para cezası verilmesini ve ChatGPT'nin güvenliğiyle ilgili yanıltıcı tanıtımların durdurulmasını istiyor. Bazı eyaletler hukuka aykırı toplandığını öne sürdükleri kişisel verilerin silinmesini de talep ediyor. Arkansas ise yeterli güvenlik önlemleri alınana kadar gelişmiş yapay zekâ modellerinin testlerinin durdurulmasını istiyor.
Kaliforniya'da ise avukatlar iki çocuk adına ayrı bir toplu dava başlattı. Bu davanın konusu, OpenAI'ın çocukların kişisel bilgilerini toplayıp modellerini eğitmek için kullanması.
OpenAI Davalara Nasıl Yanıt Verdi?
OpenAI sözcüsü Drew Pusateri, The Verge'e yaptığı açıklamada ChatGPT'de yaşa özel güvenlik önlemleri bulunduğunu söyledi. Pusateri'ye göre hiçbir sistem kusursuz değil, ancak şirket ebeveyn denetimleri ve mola hatırlatıcıları gibi önlemleri geliştirmeye devam edecek. OpenAI yalnızca OpenAI'ı değil tüm sektörü kapsayan politikalar için eyaletlerle çalışmaya da hazır.
OpenAI kısa süre önce Common Sense Media'nın ChatGPT raporuyla da gündeme gelmişti. Şirket kullanıcının yaşını tahmin eden bir sistemle gençleri ek korumalara sahip ayrı bir ChatGPT deneyimine yönlendiriyor.
Editörün Yorumu
Sekiz eyaletin aynı anda dava açmasıyla ChatGPT'nin güvenliği tartışması artık hukuki bir boyut kazandı. Yine de davalar yıllar sürebilir ve iddiaların ne kadarının mahkemede kanıtlanacağı belli değil. Bana göre asıl önemli olan, bu baskının tüm yapay zekâ şirketlerini çocuklar için daha sıkı önlemler almaya zorlayacak olması. Çocuğu ChatGPT kullanan ebeveynlerin ayarlardaki ebeveyn denetimlerini şimdiden açmasını ve sohbet geçmişine ara sıra göz atmasını öneririm.
