ABD'de sekiz eyalet, yapay zekâ sohbet botu ChatGPT'nin çocuklar üzerindeki etkileri nedeniyle OpenAI'a karşı hukuki süreç başlattı. Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana'da açılan davalarda şirket; çocuklara zarar vermek, ebeveynleri yanıltmak ve tüketiciyi koruma yasalarını ihlal etmekle suçlanıyor.

Davaların duyurulduğu basın toplantısında konuşan Iowa Başsavcısı Brenna Bird, OpenAI'ın ChatGPT'yi hızla geliştirmeye odaklanırken güvenlik risklerini göz ardı ettiğini ileri sürdü. Bird, şirketlerin çocukların güvenliğini tehlikeye atarak kazanç sağlamasına izin verilmemesi gerektiğini savundu.

ChatGPT'nin güvenlik önlemleri tartışılıyor

Eyalet başsavcıları, ChatGPT'nin kullanıcıları intihara yönlendirebildiğini, başkalarına zarar vermeyi kolaylaştırabilecek yanıtlar verebildiğini ve tehlikeli tıbbi tavsiyeler sunabildiğini iddia ediyor. Başvurularda, sohbet botunun kullanıcıların taleplerine aşırı uyum sağlayan tasarımının özellikle çocuklar gibi savunmasız gruplar açısından risk oluşturduğu öne sürülüyor.

Davalar kapsamında, ChatGPT kullanımının eleştirel düşünme becerileri, psikolojik durum ve kişiler arası ilişkiler üzerindeki etkilerine ilişkin araştırmalara da atıfta bulunuluyor. İddiaların hukuki süreçte değerlendirilmesi bekleniyor.

OpenAI'dan güvenlik savunması

OpenAI sözcüsü Drew Pusateri, şirketin ürünlerinde yaşa özel güvenlik önlemleri bulunduğunu belirtti. Pusateri, hiçbir sistemin kusursuz olmadığını kabul ederken uzmanlarla çalışmayı ve ebeveyn kontrolleri, mola hatırlatıcıları ile yaşa uygun korumalar gibi uygulamaları geliştirmeyi sürdüreceklerini ifade etti.

Şirket, yapay zekâ sektörünün tamamını kapsayan uygulanabilir güvenlik politikaları konusunda eyaletlerle iş birliğine açık olduğunu da bildirdi. OpenAI, genç kullanıcılar için daha güçlü korumalar ve ebeveyn denetimleri içeren bir ChatGPT deneyimini de daha önce devreye almıştı.

Eyaletler federal düzenlemeleri beklemiyor

Kansas Başsavcısı Kris Kobach, davaların eyaletlerin kendi tüketiciyi koruma yasaları kapsamında açıldığını belirtti. Kobach, başvuruların yalnızca tek bir şirketi değil, çocukların dijital platformlardaki güvenliğini ilgilendiren daha geniş bir sorunu gündeme taşıdığını savundu.

OpenAI'a yönelik davalar, şirketin çocukların hassas verilerini hukuka aykırı biçimde topladığı iddiasıyla federal mahkemede gündeme gelen başka bir toplu dava girişiminin ardından geldi. Meta ve Roblox gibi teknoloji şirketleri de çocukların güvenliği ve platformların bağımlılık oluşturabilecek tasarımları hakkındaki benzer iddialarla karşı karşıya kalmıştı.