ChatGPT Konuşmalardan Psikolojik Çıkarımlar Yapıyor

"The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT" başlıklı çalışma kapsamında 80 kullanıcının 2 bin 500'e yakın bellek kaydı incelendi. İncelemeler sonucunda hafızadaki verilerin yüzde 28'inin kişisel bilgilerden, yüzde 52'sinin ise hedefler, motivasyonlar ve ruh hallerine dair psikolojik çıkarımlardan oluştuğu görüldü. Toptan veri kaydının yüzde 84'ünün kullanıcıların doğrudan kurduğu cümlelere dayandığı, kalan yüzde 16'lık kısmın ise sistemin satır aralarından yaptığı mantıksal çıkarımlarla şekillendiği kaydedildi.

Araştırmanın en göze çarpan bulgularından biri, ChatGPT'nin hafızasındaki verilerin yüzde 96'sının kullanıcı tarafından herhangi bir "hatırla" veya "kaydet" komutu verilmeden, modelin kendi kararıyla saklanması oldu. Doğrudan kullanıcı talimatıyla kaydedilen veriler ise toplam setin yalnızca yüzde 4'ünü oluşturdu. Yetkililer, veri gizliliğini korumak isteyen kullanıcıların ayarlar menüsünden bellek geçmişini düzenleyebileceğini veya geçici sohbet modunu tercih edebileceğini hatırlatıyor.