Zürih Üniversitesi’nden bir grup araştırmacı, Reddit’in popüler subreddit’lerinden biri olan changemyview'da, yapay zeka (LLM/Büyük Dil Modeli) kullanarak aylardır gizli bir deney gerçekleştirdi. Bu deneyin amacı, yapay zekanın insanları ne kadar etkileyebileceğini ve fikirlerini değiştirme yeteneğini araştırmaktı.

Ancak, deneyin yapıldığı topluluk moderatörleri durumu fark etti ve olaylara müdahale etti. Bu deney, ‘farkında olmayan kullanıcılar üzerinde psikolojik manipülasyon’ olarak tanımlandı. Changemyview, 3.8 milyon üyesi olan ve sıkça Reddit’in ana sayfasında bulunan bir subreddit olarak araştırma için ideal bir ortam sunuyordu.

Araştırmacılar, yapay zekanın oluşturduğu yorumların çeşitli sahte kimliklerle yazıldığını belirtti. Örneğin, yorumlar cinsel saldırı mağduru, istismar konusunda uzman bir danışman veya Black Lives Matter’a karşı olan siyahi bir adam gibi çeşitli kimliklerle oluşturuldu. Moderatörler, yapay zeka ile yapılan yorumların çoğunun silindiğini, ancak bazılarını 404 Media arşivinde bulduklarını söyledi.

Yapay zeka, kullanıcıların önceki gönderilerini analiz ederek cinsiyet, yaş, etnik köken, konum ve siyasi görüş gibi kişisel özellikleri elde edip, buna göre özelleştirilmiş yanıtlar verdi. Changemyview moderatörleri, araştırmacıların kuralları ihlal ettiğini belirtti ve yapay zeka kullanımının açıkça belirtilmesi gerektiğini vurguladı. Ayrıca bot kullanımının da yasak olduğunu ifade ettiler.

Reddit yönetimi, Zürih Üniversitesi ile ilgili hesapların yasaklandığını ve yasal yollara başvurduklarını duyurdu. Popüler topluluğun Hukuk Sorumlusu Ben Lee, bu deneyin ahlaki ve hukuki açıdan son derece yanlış olduğunu belirtti.

Araştırma ekibi ise, deneyin üniversite tarafından onaylandığını ve bu tür çalışmaların gelecekte yapay zekanın kötüye kullanımını engellemeye yardımcı olabileceğini savundu. Zürih Üniversitesi sözcüsü, gelecekte daha sıkı bir denetim süreci uygulayacaklarını açıkladı.