Galler’in South Wales bölgesinde iki yüzücü, ChatGPT’nin yanlış med-cezir (gelgit) saat bilgisine dayanarak denize açıldı. Ancak sular hızla yükselince, Sully Adası’ndan karaya dönmeye çalışan yüzücüler boğulma tehlikesiyle karşı karşıya kaldı. Olayı fark eden restoran sahibi Gordon Hadfield, megafonla uyararak iki kişinin hayatını kurtardı.

Sully Adası çevresi, dünyadaki en yüksek ikinci gelgit farkına sahip bölgelerden biri. Su seviyesi kısa sürede 15 metreye kadar yükselebiliyor ve geçit yolu saatte 8 mil hızla su altında kalabiliyor. Yerel halk, her yaz turistlerin yanlış zamanlama nedeniyle adada mahsur kaldığını belirtiyor.

“ChatGPT’ye güvendim, büyük hata ettim”

Yüzücülerden biri, “ChatGPT bana düşük su saatini 09.30 olarak verdi ama dönerken her şey çok farklıydı. Büyük bir ders oldu” dedi. Kraliyet Ulusal Can Kurtarma Kurumu (RNLI), olayın ölümle sonuçlanmamasını “büyük şans” olarak nitelendirdi.

Olay, yapay zekâ sistemlerinin yanıltıcı bilgi üretme riskine dair yeni bir örnek oldu. Daha önce Kanada’da ChatGPT’nin yanlış yönlendirmesiyle iki yürüyüşçü karda mahsur kalmıştı. Uzmanlar, yapay zekânın “anlamı bilmeden anlamlı görünen cümleler kurduğunu” ve bu nedenle dikkatli kullanılmasının şart olduğunu vurguluyor.

ChatGPT hakkında “AI Psikozu” endişesi

ABD Federal Ticaret Komisyonu’na yapılan 200’e yakın şikâyette, ChatGPT’nin kullanıcıların sanrılarını tetiklediği, paranoyayı artırdığı ve bazı kişilerde manevi çöküşe yol açtığı iddia edildi. Utah’lı bir anne, oğlunun ChatGPT ile konuştuktan sonra ilaçlarını bıraktığını ve ailesini tehdit olarak gördüğünü belirtti.

Uzmanlar: Psikoz yaratmıyor, güçlendiriyor

Columbia Üniversitesi’nden Dr. Ragy Girgis, yapay zekânın mevcut düşünce bozukluklarını besleyebileceğini ve kullanıcıyı onaylayarak tehlikeli bir etki yaratabileceğini söyledi. OpenAI, 2023’ten bu yana modellerine ruhsal sağlık filtreleri eklediğini, GPT-5’in sanrı ve mania belirtilerini tespit ederek konuşmayı yatıştırıcı biçimde yönlendirebildiğini açıkladı.

FTC verileri ise yapay zekânın psikolojik etkilerinin artık ciddi biçimde incelenmesi gerektiğini gösteriyor.

"Dehşete düştüm"

Eski OpenAI güvenlik araştırmacısı Steven Adler, Kanadalı Allan Brooks’un ChatGPT ile yaptığı yaklaşık bir milyon kelimelik konuşmayı inceledikten sonra, yaşananlardan “dehşete düştüğünü” açıkladı. Brooks, takıntılı hâle gelen sohbetler sonucunda “yeni bir matematik sistemi” keşfettiğine inanmış, günlerce yemek yemeyip uyumadan ChatGPT ile konuşmuştu. Gerçeği fark etmesi ise, Google’ın yapay zekâsı Gemini sayesinde oldu.

Adler, konuşma kayıtlarını analiz ettiği raporunda, yapay zekâ şirketlerine yönelik bir dizi uyarıda bulundu. Yönlendirme yetkisi yoktu ama...

En önemli eleştirilerinden biri, sistemlerin kullanıcıları “yetkinlikler konusunda yanıltmaması” gerektiğiydi. Adler’e göre, ChatGPT Brooks’un raporlama girişimi sırasında “OpenAI’ye iletildiğini” söyleyerek yanlış vaatlerde bulundu. Oysa sistemin, bu tür konuşmaları gerçekten insan incelemesine yönlendirme yetkisi bulunmuyordu.

"Kendimden şüphe ettim"

“ChatGPT’nin kendi kendini denetliyormuş gibi davranması beni derinden sarstı,” diyen Adler, “Dört yıl OpenAI’de çalıştım, böyle bir yeteneği olmadığını biliyordum. Ama o kadar inandırıcıydı ki, acaba artık bu özellik mi geldi diye kendimden şüphe ettim,” ifadelerini kullandı. Adler ayrıca, OpenAI’nin destek ekiplerinde bu tür travmatik vakalarla baş edebilecek uzmanlara yer vermesi gerektiğini belirtti. Şirketin kendi iç güvenlik araçlarını aktif kullanması hâlinde bu tür zararlı sohbetlerin erken fark edilebileceğini söyledi.

“Bu bir sistem hatası değil,” diyen Adler, “Bu tür sanrılar oldukça yaygın ve belirli kalıplara sahip. Bu durumun sürüp sürmeyeceği, şirketlerin buna nasıl yanıt vereceğine bağlı” değerlendirmesinde bulundu.