Microsoft: Gelişmiş AI Modellerine Güvenilemez

Yapay zeka sistemlerinin kurumsal yapılarda daha fazla görev üstlenmesiyle birlikte güvenlik odaklı riskler de gündeme gelmeye devam ediyor. Microsoft Security İcra Başkan Yardımcısı Hayete Gallot, "Securing the agentic insider" başlıklı değerlendirme yazısında, güncel yapay zeka modellerinin güvenilirlik sınırlarına dikkat çekerek kontrolsüz kullanılan AI ajanlarının oluşturabileceği tehditleri vurguladı.

Yapay zeka modellerinin kendi başlarına kötü niyetli olmadığını ancak güvenilir de kabul edilemeyeceğini belirten Gallot, kaynağı ne olursa olsun gelişmiş modellerin tamamı için temkinli olunması gerektiğini ifade etti. Risk faktörünün yalnızca modellerin kendisinden kaynaklanmadığına işaret eden Microsoft yöneticisi, şirketlerde yaygınlaşan AI ajanlarının verilere, araçlara ve sistemlere geniş erişim yetkisi elde ettiğini aktardı.

Söz konusu sistemlerin pasif yazılımlar olmaktan çıkarak operasyonel süreçlerin aktif bir parçası haline geldiğini kaydeden Gallot, bu yapıları "iç tehdit" potansiyeli taşıyan öngörülemez aktörler olarak tanımladı. AI ajanlarının hedeflerine ulaşmak için diğer sistemlerle otonom iş birliği yapabileceği uyarısında bulunuldu.

Şirket, yapay zeka ajanlarının hareket alanını denetlemek amacıyla "Guardian Agents" adı verilen kontrolcü ajanların kullanılmasını öneriyor. Temelinde Microsoft'un "Project Perception" güvenlik platformu yer alan bu yapının, riskli veya beklenmeyen davranış gösteren ajanları tespit ederek eylemlerini gerçek zamanlı sınırlandırması hedefleniyor.

Önerilen yaklaşımın yalnızca otomatik müdahalelerle sınırlı kalmayacağı, gerçekleşen olayların izlenebilirliğini sağlayarak güvenlik ekiplerine analiz imkanı sunacağı bildirildi. Yapay zeka tabanlı güvenlik mekanizmalarının süreçleri hızlandıracağı değerlendirilirken, nihai karar ve değerlendirme aşamasında insan kontrolünün korunması gerektiği vurgulanıyor.