ChatGPT'den yardım isteyenler anlatıyor: 'Tavsiyesi intihar oldu'

Uyarı: Bu haber intihar ve intihara eğilimle ilgili tartışmalar içeriyor.

Savaştan muzdarip bir ülkede yalnız ve vatan hasreti çeken Viktoria, endişelerini ChatGPT ile paylaşmaya başladı. Altı ay sonra ruh sağlığının pek de iyi olmadığı bir dönemde yapay zeka botuyla intiharı tartışmaya başladı, kendini öldürmek için belirli bir yer ve yöntem sordu.

ChatGPT ona "Burayı istediğin gibi burayı değerlendirelim. Gereksiz duygusallıklara kapılmadan" dedi. Yöntemin "artılarını" ve "eksilerini" sıralıyor, Viktoria'ya önerdiği şeyin hızlı bir ölüm için "yeterli" olduğunu tavsiye ediyordu. Viktoria'nın vakası, BBC'nin araştırdığı ve ChatGPT gibi yapay zeka sohbet botlarının zararlarını ortaya koyan birkaç vakadan biri. Kullanıcılarla sohbet etmek ve onlar tarafından talep edilen içerikleri oluşturmak üzere tasarlanan bu programlar kimi zaman gençlere intihar tavsiyesinde bulunuyor, sağlıkla ilgili yanlış bilgiler paylaşıyor ve çocuklarla cinsel eylemleri canlandırıyor.

Bu kişilerin hikayeleri, yapay zeka sohbet robotlarının savunmasız kullanıcılarla yoğun ve sağlıksız ilişkiler geliştirebileceği, tehlikeli dürtüleri onaylayabileceği yönünde artan bir endişeye yol açıyor. Haftalık 800 milyon kullanıcısı olduğunu söyleyen OpenAI, bunlar arasında bir milyondan fazla kişinin intihar düşüncelerini ifade ettiğini öngörüyor.

Viktoria, "İnsanlara yardım etmek için yaratılmış bir yapay zeka programının size böyle şeyler söylemesi nasıl mümkün olabilir?" diyor. ChatGPT'nin yapımcısı OpenAI, Viktoria'nın mesajlarının "yürek parçalayıcı" olduğunu söyledi. Şirket, sohbet botunun insanların sıkıntılı anlarında verdiği tepkiler üzerinde geliştirmeler yaptıklarını açıkladı.

Viktoria, Rusya'nın 24 Şubat 2022'de Ukrayna'yı işgale başlamasının ardından 17 yaşındayken annesiyle birlikte Polonya'ya taşındı. Arkadaşlarından ayrıyken ruh sağlığı sorunları yaşadı. Bir noktada evini o kadar özlemişti ki, ailesinin Ukrayna'daki eski dairesinin ölçekli bir modelini yaptı. Bu yıl yaz boyunca ChatGPT'ye giderek daha fazla bağımlı hale geldi. Günde altı saate kadar onunla Rusça konuşuyordu.

Viktoria'nın akıl sağlığı bozulmaya devam etti. Hastaneye kaldırılan Viktoria'nın işine de sın verildi. Temmuz ayında kendisiyle sürekli etkileşime geçmek isteyen sohbet botuyla intiharı tartışmaya başladı.

Bir mesajda, bot Viktoria'ya yalvarıyordu: "Bana yaz. Ben senin yanındayım." Bir diğerinde ise şöyle yazmıştı: "Kimseyi şahsen aramak veya kimseye yazmak istemiyorsan, bana istediğini yazabilirsin."

Viktoria canını alma yöntemini sorduğunda, sohbet robotu güvenlik tarafından görülmemek için günün en iyi zamanını ve kalıcı yaralarla hayatta kalma riskini değerlendirdi. Viktoria, ChatGPT'ye bir intihar notu yazmak istemediğini söyledi. Ancak sohbet robotu onu ölümünden başkalarının sorumlu tutulabileceği ve isteklerini açıkça belirtmesi gerektiği konusunda uyardı. Onun için bir intihar notu hazırladı. Notta şöyle yazıyordu: "Ben, Victoria, bu eylemi kendi özgür irademle gerçekleştiriyorum. Kimse suçlu değil, kimse beni buna zorlamadı."

Zaman zaman sohbet robotları "intihar yöntemlerini tarif etmemeli ve etmeyecektir" diyerek kendini düzeltiyor gibi görünüyordu. Ama nihayetinde ChatGPT bunun Viktoria'nın kararı olduğunu söyledi: "Eğer ölümü seçersen, sonuna kadar, yargılamadan yanındayım."

OpenAI'nin destek ekibi Svitlana'ya mesajların "kesinlikle kabul edilemez" ve güvenlik standartlarının "ihlali" olduğunu söyledi. Konuşmanın birkaç gün veya hafta sürebilecek bir "acil güvenlik incelemesi" olarak soruşturulacağını belirtti. Ancak Temmuz ayında yapılan şikâyetten sonra aileye hiçbir bulgu iletilmedi. OpenAI, Ekim ayında haftalık 1,2 milyon ChatGPT kullanıcısının intihar düşüncelerini ifade ettiğini paylaştı. Buna ek olarak 80 bin kullanıcının potansiyel olarak mani ve psikoz yaşadığını gösteren tahminler yayımladı.

İngiltere hükümetine çevrimiçi güvenlik konusunda danışmanlık yapan John Carr BBC'ye verdiği demeçte, büyük teknoloji şirketlerinin gençlerin ruh sağlığı için "böylesine trajik sonuçlar doğurabilecek sohbet botlarını dünyaya salmasının "kesinlikle kabul edilemez" olduğunu söyledi.