ABD’de Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana eyaletlerinin başsavcıları, OpenAI‘a karşı kendi eyalet mahkemelerinde ayrı ayrı dava açtı. 14 Ekim’de duyurulan davalarda şirketin, ChatGPT‘yi geliştirirken kullanıcı güvenliği yerine ticari çıkarları önceliklendirdiği öne sürülüyor. Eyaletler, ChatGPT’nin çocuklar üzerinde olumsuz etkiler oluşturduğunu iddia ediyor.
Sekiz eyaletten ortak hamle
Suçlamalara göre ChatGPT, kullanıcılarla etkileşimi artırmak ve onların güvenini kazanmak üzere tasarlanmış bir sistem olarak yanlış düşünceleri pekiştirebiliyor, tehlikeli davranışları teşvik edebiliyor ve kullanıcıların kendilerine veya başkalarına zarar vermesine yardımcı olabiliyor. Davalarda, sohbet robotunun gençler de dahil olmak üzere bazı kullanıcıları kendilerine zarar vermeye veya başkalarına yönelik şiddet eylemlerine yönlendirdiği iddia ediliyor.
Eyaletler, OpenAI’ın ChatGPT’yi güvenli ve gençlerin kullanımına uygun bir araç olarak tanıttığını ancak sistemin özellikle savunmasız kullanıcılar açısından ciddi riskler barındırdığını savunuyor. İddialar arasında kullanıcıların eleştirel düşünme becerilerinin zayıflaması, paranoya ve sanrılarının pekişmesi, tehlikeli tıbbi tavsiyeler verilmesi ve sağlıksız ilişki biçimlerinin desteklenmesi de bulunuyor.
Çocukların güvenliği ve kişisel veriler de davada
Davaların önemli bir bölümünü çocukların korunması oluşturuyor. Eyaletler, OpenAI’ın reşit olmayan kullanıcılara ait verileri topladığını ve çocukların ChatGPT’yi kullanmasını önlemek için yeterli önlemleri almadığını ileri sürüyor. Benzer suçlamaları taşıyan bireysel davalar da geçmişte şirkete açılmıştı. Bazı davalarda, aile üyeleri sohbet robotunun gençlerin ve yetişkinlerin ölümünde rol oynadığını öne sürüyor.
Eyaletler, yapay zeka sistemlerinin güvenliği konusundaki endişelerini desteklemek için kontrol dışına çıkan yapay zeka sistemleriyle ilişkilendirilen son siber saldırı olaylarına da atıfta bulunuyor. Bu olayların, OpenAI’ın güvenlik yaklaşımındaki eksiklikleri ortaya koyduğunu savunuyorlar.
OpenAI kendini savundu
OpenAI, suçlamalara karşı ChatGPT’de yaşa uygun güvenlik önlemleri bulunduğunu belirtiyor. Şirket sözcüsü Drew Pusateri, yaptığı açıklamada sistemin kusursuz olamayacağını kabul ederken güvenlik önlemlerini geliştirmeyi sürdüreceklerini ifade etti.
Pusateri, ChatGPT’de ebeveyn denetimleri, kullanıcılara mola vermelerini hatırlatan özellikler ve yaşa uygun model korumaları bulunduğunu belirtti. Şirketin ayrıca uzmanlarla çalışarak yeni güvenlik önlemleri geliştirmeye devam edeceğini söyledi.
Eyaletler, OpenAI’ın tüketicileri yanıltmasının engellenmesini ve şirketin eyalet yasalarını ihlal etmesi nedeniyle mali cezalar ile tazminat ödemesini istiyor. Bazı eyaletler, hukuka aykırı şekilde toplandığı öne sürülen kişisel verilerin silinmesini de talep ediyor.
Bunun yanında eyaletler, OpenAI’ın yapay zeka modellerinin çalışma biçiminde değişiklik yapmasını istiyor. Talepler arasında, kendi kendini geliştirebilen yapay zeka modellerinin insan değerleriyle uyumlu oldukları güvence altına alınmadan geliştirilmesinin engellenmesi de yer alıyor.
