Yapay Zekâ Girişimi Cathedral, Anthropic'in Sistemlerine 12 Saatte Sızmayı Başardı

Eski DOGE çalışanları tarafından kurulan AI odaklı siber güvenlik şirketi Cathedral'ın hazırladığı taslak rapora göre araştırmacılar, Anthropic'in kullandığı üçüncü taraf iş yazılımlarındaki güvenlik açıklarını hedef aldı. Yapay zekâ ajanlarından faydalanan ekip, 12 saatten kısa sürede şirketin iç sistemlerine uzanan erişim yollarını tespit etti.

Söz konusu erişim yolları üzerinden çalışanların maaş bilgileri, iş teklifleri, toplantı kayıtları ve gelişmiş yapay zekâ modellerinin tartışıldığı Slack mesajları gibi hassas verilere ulaşılabileceği belirtildi.

Konuya ilişkin açıklama yapan Anthropic, Cathedral'ın erişebildiği alanların iddia edilenden daha sınırlı olduğunu savundu. Araştırmacıların yalnızca satış, insan kaynakları ve bilgi teknolojileri sistemlerinin kısıtlı bir bölümüne ulaştığını belirten şirket; Claude kullanıcılarının sohbet geçmişine, model kaynak kodlarına ve eğitilmiş model parametrelerine (model ağırlıkları) erişilmediğini vurguladı.

Sistemlerindeki şüpheli hareketliliği araştırmacıların bildiriminden önce tespit ettiklerini belirten Anthropic, ilgili erişim yollarını kapattığını, güvenlik açığı barındıran üçüncü taraf yazılımları devre dışı bıraktığını ve federal yetkilileri bilgilendirdiğini bildirdi.

Eylemin, dışarıdan güvenlik araştırmacılarının sistemleri test etmesine imkan tanıyan "bug bounty" (ödül avcılığı) programı kapsamında gerçekleştirilmesi nedeniyle Cathedral'a yönelik bir yaptırım uygulanması beklenmiyor. Ancak Anthropic, girişimin program kurallarına tamamen uymadığını ve olayın ulusal güvenlik boyutunu abarttığını öne sürdü.

Öte yandan gelişme, ABD yönetiminde de güvenlik kaygılarına yol açtı. Üst düzey bir Trump yönetimi yetkilisi, yeni kurulmuş bir girişimin kısa sürede hassas sistemlere erişebilmesinin, benzer yöntemlerin yabancı istihbarat servisleri tarafından da kullanılabileceği ihtimalini gündeme getirdiğini ifade etti.