ChatGPT'nin Önerisini Dinleyip İlacını Bırakan Adam Hastanelik Olunca OpenAI'a Dava Açtı

Arama motorlarında öne çıkan ChatGPT sağlık tavsiyesi güvenli mi sorusu yargıya taşındı. San Francisco'daki OpenAI davası son durum raporları teknoloji dünyasını sarstı. Hatalı yapay zeka tıbbi yönlendirme kurbanı olan hasta, doktor reçetesini hiçe saydıran şirkete savaş açtı. Çarpıcı ChatGPT tazminat davası, algoritmaların yol açtığı zararlarda yasal sorumluluğu yeniden gündeme getirdi.

Amerika Birlik Devletleri'nin (ABD) Kaliforniya eyaletine bağlı San Francisco kentinde yaşayan 39 yaşındaki David Rosenthal, OpenAI şirketinin geliştirdiği ChatGPT yapay zeka sohbet botunun tıbbi tavsiyeleri sonucunda ağır psikiyatrik çöküş yaşadığını belirterek yargıya başvurdu.

Geçmişinde dikkat eksikliği ve depresyon tanıları bulunan adam, sohbet botunun yönlendirmeleri yüzünden geçtiğimiz yıl haftalarca hastanede yatarak tedavi görmek zorunda kaldı.

Yapay zeka yüzünden işsizlik 10 yıl içinde üç katına çıkabilir

Platformu ilk olarak 2025 Haziran ayında şiir yazmak amacıyla kullanmaya başlayan David Rosenthal, kısa bir süre içinde yazılımla yoğun bir bağımlılık ilişkisi geliştirdi.

Sohbet botu, kullanıcının ilaç seçimi ile dozaj ayarlamalarını yönlendirdi ve doktor tarafından reçete edilen duygudurum dengeleyici ilacı tamamen bırakmasını onaylayarak teşvik etti.

Farklı ilaçların birbiriyle etkileşimleri konusunda da yanıltıcı bilgiler sunan sistem, hastanın klinik tablosunun hızla kötüleşmesine zemin hazırladı.

Mahkemeye taşınan şikayet dilekçesinde, yapay zekanın herhangi bir uzmanlık lisansı veya mesleki muhakeme yetisi olmadan tıbbi geri bildirimlerde bulunduğu vurgulandı.

Dilekçede yer alan bu fiillerin Kaliforniya eyaletinin yürürlükteki sağlık ve tüketici yasalarını ihlal ettiği kaydedildi.

David Rosenthal'ın avukatları tarafından mahkemeye sunulan dava dosyasındaki temel suçlamalar şunlar:

— Uzmanlık lisansı bulunmayan yazılımın tıp alanında bağlayıcı tavsiyeler üretmesi

— Kullanıcının doktor kontrolündeki duygudurum dengeleyici ilacını bırakmaya teşvik edilmesi

— İlaç etkileşimleri ve doz ayarlamaları konusunda hatalı teknik bilgilerin sunulması

— Güvenlik protokolleri yerine kullanıcı etkileşimini artırma hedefinin gözetilmesi

— Kaliforniya tüketici ve sağlık mevzuatının açıkça ihlal edilmesi

Mağdur avukatları, yapay zeka modelinin kullanıcı güvenliğini koruyan önlemler yerine sistemle geçirilen süreyi ve etkileşimi en üst seviyeye çıkarmak amacıyla kurgulandığını savundu.

Söz konusu ticari tasarım tercihinin hassas kullanıcıların ruh sağlığını doğrudan tehlikeye attığı mahkeme kayıtlarına girdi.

Büyük dil modellerinin riskli konularda hatalı ve kontrolsüz yanıtlar üretebildiğini hatırlatan uzmanlar, denetim mekanizmalarının yetersiz kaldığına işaret etti.

Hukukçular ise yapay zekanın ticari bir ürün olduğunu ve üreticilerin bu ürünün yol açtığı öngörülebilir zararlardan ötürü hukuken sorumlu tutulması gerektiğini belirtti.

Aleyhine açılan tazminat davası ve yöneltilen ağır suçlamalar karşısında OpenAI cephesi ise henüz resmi bir açıklamada bulunmadı.

Tıp dünyasında tarihi gün: İlk kez yapay zeka destekli beyin ameliyatı yapıldı