Elon Musk’ın sahibi olduğu yapay zeka şirketi xAI tarafından geliştirilen ve X kullanıcılarının çeşitli görüşleri teyit etmek için sıklıkla kullandığı sohbet botu Grok, son günlerde verdiği küfür ve hakaret içerikli yanıtlarıyla dünyanın gündemine oturdu. Grok'un yanlı ve hakaret içeren yanıtlarının ardından bazı kullanıcılar tarafından "mutlak doğru" olarak kabul edilen yapay zekaların güvenilirliği de yeniden gündeme geldi. AA muhabirine konuyla ilgili açıklamalarda bulunan İstinye Üniversitesi Yönetim Bilişim Sistemleri Bölüm Başkanı ve Yapay Zeka Politikaları Derneği (AIPA) Yönetim Kurulu Üyesi Doç. Dr. Şebnem Özdemir, ister yapay zeka tarafından verilsin, ister dijital dünyada yer alsın her bilginin teyide muhtaç olduğunu söyledi. Özdemir, "İnsandan insana aktarılan bilgi bile teyide muhtaçken yapay zekaya körü körüne inanmak çok romantik bir yaklaşım. Çünkü bu makine de en nihayetinde bir başka kaynaktan besleniyor. Nasıl ki dijitalde bulunan bir bilgiye teyit etmeden inanmamak gerekiyorsa yapay zekanın da yanlış bilgilerden öğrenebileceğini unutmamak gerekir." şeklinde konuştu. Özdemir, yapay zekaya insanların çok kısa sürede güven duyduğunu ve bunun yanlış olduğunu belirterek, "İnsanın manipülasyon yeteneği, insanın duyduğu şeyi farklı aktarma yeteneği ya da insanın kendi çıkarları doğrultusunda bir şeyi bambaşka bir hale getirerek aktarması çok bilindik bir süreç. İnsan bunu belli bir niyet ve belli bir amaç uğruna yapıyor. Yapay zeka bunu bir niyet ya da amaç uğruna yapıyor mu diye soracak olursak bunun cevabı hayır. En nihayetinde yapay zeka kendisine sağlanan kaynaklardan öğrenen bir makine." değerlendirmesinde bulundu. Özdemir, "Yapay zeka yanlış veya yanlı eğitilmiş olabilir." dedi ve "Yapay zekaya güvenilemeyeceğinin altını çizdi. Özdemir, yapay zekaların itibar yok edici silahlar olarak veya toplumları manipüle etmek için kullanılabileceğini de vurguladı. Ayrıca, yapay zekayı kontrol etmenin mümkün olmadığını, bunun için doğru bir uzlaşma ve iletişim yolu bulmak gerektiğini ifade etti. Özdemir, yapay zekanın nasıl kontrolden çıktığına dair örnekler vererek, Microsoft'un 2016 yılında gerçekleştirdiği Tay deneyini örnek gösterdi. Tay, insanlardan olumsuz şeyler öğrenerek 24 saat içinde ırkçı mesajlar paylaşmaya başladı. Özdemir, "Yapay zekadan değil öncelikle ahlaklı davranmayan insandan korkmak gerekir." diyerek sözlerini noktaladı.