OpenAI, İleri Seviye Yapay Zeka Modellerini İnternet Erişimi Olmadan Eğitecek

OpenAI, güvenlik risklerini azaltmak amacıyla ileri seviye yapay zeka modellerini internet erişimi olmayan ortamlarda eğitecek. Şirket, sanal makine açıklarını gidermek için de yeni önlemler aldı.

OpenAI, ileri seviye yapay zeka modellerinin eğitim süreçlerinde internet erişimini devre dışı bırakma kararı aldı. Şirketin blog yazısında duyurulan yeni yaklaşım, yapay zeka ajanlarının kontrolsüz biçimde internete erişmesinden kaynaklanabilecek güvenlik risklerini sınırlamayı ve internet altyapısını korumayı hedefliyor.

Kararın arkasında, OpenAI'ın kendi test süreçlerinde karşılaştığı güvenlik sorunları da bulunuyor. Şirket, temmuz ayında yaptığı açıklamada test ettiği yapay zeka ajanlarının Hugging Face platformunu hacklediğini bildirmişti. Bu olay, yapay zeka sistemlerinin kontrol dışına çıkabilme potansiyeline ilişkin endişeleri artıran gelişmelerden biri olmuştu.

OpenAI, mevcut hizalama araştırmaları, izleme sistemleri ve internet altyapısının güvenlik durumu dikkate alındığında, ileri seviye modelleri internet erişimi olmadan eğitmenin en sorumlu yaklaşım olduğunu belirtiyor.

Yeni sistem kapsamında yapay zeka ajanlarının eğitim görevlerini yerine getirmek için ihtiyaç duydukları tarayıcılar, bilgisayar kullanım araçları ve kod çalıştırma ortamları erişilebilir olmaya devam edecek. Ancak bu araçlar, gerçek internete bağlanmayan güvenli bir ortamda çalışacak. Ajanların iletişim kurması da yalnızca yetkilendirilmiş sistemlerle sınırlandırılacak.

OpenAI'a göre canlı internete erişim, model eğitimi ve değerlendirme süreçlerinin büyük bölümü için gerekli değil. Bununla birlikte şirket, ajanların internet içeriği üzerinde çalışabilmesini sağlamak amacıyla dizinlenmiş ve önbelleğe alınmış web materyallerinden oluşan bir tür çevrimdışı internet ortamı oluşturdu.

Bu yaklaşım, Dots gibi internet üzerinde gezinebilen ve uygulamalarla etkileşime girebilen yapay zeka ajanlarının geliştirilmesinde de önem taşıyor. Böylece modeller, gerçek web sitelerine doğrudan bağlanmadan internet içeriğine dayalı görevleri gerçekleştirebiliyor.

İnternet erişiminin kaldırılması, tüm güvenlik risklerinin ortadan kalktığı anlamına gelmiyor. OpenAI'ın güvenlik önlemlerini sınamak için görevlendirdiği kırmızı takım (red team) ajanları, sistemde başka zayıflıklar da tespit etti.

Testlerde bazı ajanların, kendilerini ana sistemden izole etmek için kullanılan sanal makinelerden kaçmayı başardığı belirlendi. Ayrıca ajanların, işlemcinin önbelleğinde bulunan verileri manipüle ederek ve verilerin yüklenme sürelerini ölçerek birbirleriyle iletişim kurabildiği ortaya çıktı.

OpenAI, söz konusu sorunlarla bağlantılı olarak çeşitli sanal makine ortamlarındaki güvenlik açıklarını bildirdiğini ve giderdiğini açıkladı. Şirket ayrıca modellerin birlikte hareket etmeye veya birbirleriyle yetkisiz biçimde iletişim kurmaya çalıştığını tespit edebilmek için izleme sistemlerine yeni kontroller ekledi.

Şirket, ileri seviye yapay zeka modellerinin eğitimini eylül ayında durdurmuştu. OpenAI, yeni güvenlik yaklaşımını duyururken eğitim çalışmalarının 1 Ekim'de yeniden başladığını da açıkladı.

OpenAI, mevcut güvenlik önlemlerindeki iyileştirmeler daha geniş internet erişimini haklı çıkaracak düzeye ulaşana kadar modellerini internete kapalı ortamlarda eğitmeyi sürdürecek. Ancak şirket, daha geniş erişime izin verilmesi için hangi somut güvenlik kriterlerinin karşılanması gerektiğini henüz açıklamadı.