Microsoft, Yapay Zeka Ajanlarına “Güvenilemeyeceği” Konusunda Uyardı

Microsoft yetkilisi Hayete Gallot, yapay zeka ajanlarına "güvenilemeyeceği" konusunda uyarılarda bulunduğu bir yazı paylaştı.

Microsoft’ta güvenlikten sorumlu üst düzey yönetici Hayete Gallot, yapay zeka ajanlarına “güvenilemeyeceği” uyarısında bulunduğu bir yazı paylaştı. “Ne yazık ki en gelişmiş yapay zeka sistemlerine, kökenleri ne olursa olsun, güvenilemez. Bunun nedeni modellerin doğası gereği kötü niyetli olmaları değil. Modeller sonuca ulaşmak üzere eğitildiği için çoğu zaman ödül sistemini istismar etmeye yöneliyor, kurumsal normlara ya da muhakemeye göre de optimize edilmiyorlar. Bu nedenle yapay zeka ajanlarının ne yapacağı tam olarak kestirilemiyor. Bağlama göre kendilerini değiştiriyor, amaçlandığı gibi davranmayabiliyor ve hedeflerine ulaşmak için diğer ajanlarla gizli olarak iş birliği yapabiliyorlar.” diyen Gallot, bu sistemlerden güvenle yararlanabilmek için özel yapay zeka ajanlarına ihtiyaç duyulduğunu belirtiyor. “Yapay zeka ajanları kurumlara büyük ölçekte yayıldı ve sayıları hızla artıyor. Çoğu zaman gereğinden fazla yetkiyle çalışan bu ajanlar veriye, araçlara ve sistemlere erişebiliyor, kritik süreçlerde işlem yapıp karar verebiliyor. Artık kurumların içinde aktif rol oynuyorlar. Bunlar, kurumun içinde hareket eden yapay zeka aktörleri.” ifadelerini kullanan Microsoft yöneticisi, açıklamasının devamında, “Bu ajanları izlemek ve güvence altına almak kesintisiz bir sürece dönüşmeli. Ajanların ne yaptığını ve bu eylemlerin hangi riskleri doğurduğunu anlık olarak görmemiz, işlem yapabilme yetkilerini de buna göre ayarlamamız gerekiyor. Kurumların içindeki bu aktörleri yönetmek ve denetim altında tutmak için Guardian Agents’lara, yani her ajanın her eylemini daha gerçekleşmeden, günün 24 saati izleyip denetleyen koruyucu ajanlara ihtiyacımız olacak.” diye konuştu.