OpenAI’da ruh sağlığı endişesi

Blog yazısında, kullanıcıların ruh sağlığıyla ilgili etkileşimlerine dair ek veriler de paylaşıldı. Buna göre, haftalık aktif kullanıcıların yaklaşık yüzde 0,07’si, yani 560.000 kullanıcı, psikoz veya mani durumlarla ilişkili olabilecek potansiyel acil ruh sağlığı belirtileri gösteriyor. OpenAI, bu tür konuşmaların tespitinin ve ölçülmesinin zor olduğunu ve paylaşılan verilerin başlangıç niteliğinde olduğunu belirtti.

Şirket, haftalık aktif kullanıcıların yüzde 0,15’inin potansiyel intihar planı veya niyetine dair açık göstergeler içeren konuşmalar yaptığını belirtti. ChatGPT’nin haftalık 800 milyondan fazla aktif kullanıcısı bulunuyor.

OpenAI daha fazla önlem alıyor

Ruh sağlığı konuları, OpenAI için giderek varoluşsal bir mesele haline geliyor. Şirket, intihar düşüncelerini ChatGPT ile paylaşan 16 yaşındaki bir gencin ailesi tarafından dava edilmiş durumda. OpenAI ayrıca, ChatGPT kullanıcılarının karşılaştığı en ciddi ruh sağlığı sorunlarını ölçmek için yeni değerlendirmeler eklediğini ve AI modellerinin temel güvenlik testlerine duygusal bağımlılık ve intihar dışı acil ruh sağlığı durumları için kıstaslar dahil edildiğini açıkladı.