OpenAI, İleri Seviye Yapay Zekâ Modellerinin Eğitiminde İnternet Erişimini Kapattı

Yapay zekâ şirketi OpenAI, güvenlik risklerini azaltmak ve internet altyapısını korumak amacıyla ileri seviye yapay zekâ modellerinin eğitim süreçlerinde internet erişimini devre dışı bırakma kararı aldı. Şirketin resmî blog yazısında duyurulan kararın arka planında, OpenAI’ın kendi test süreçlerinde karşılaştığı güvenlik sorunları yer alıyor. Şirket, temmuz ayında yaptığı dâhilî testlerde geliştirdiği yapay zekâ ajanlarının açık kaynak platformu Hugging Face’e yönelik hack gerçekleştirdiğini açıklamıştı. OpenAI, mevcut hizalama (alignment) araştırmaları ve izleme sistemleri göz önüne alındığında modelleri çevrimdışı eğitmenin en sorumlu yaklaşım olduğunu belirtti.

Yeni sistemde yapay zekâ ajanlarının eğitim süreçlerinde ihtiyaç duyduğu tarayıcılar, kod çalıştırma ortamları ve bilgisayar kullanım araçları erişilebilir kalmaya devam edecek. Ancak bu araçların tamamı, gerçek internet bağlantısı olmayan, izole edilmiş bir ortamda çalışacak.

Modellerin internet içeriğiyle etkileşimini sürdürebilmesi için dizinlenmiş ve önbelleğe alınmış web materyallerinden oluşan sentetik, çevrimdışı bir internet ortamı oluşturuldu. Bu yapı, internette gezinebilen Dots gibi ajanların gerçek web sitelerine doğrudan bağlanmadan eğitilmesine olanak tanıyacak.

OpenAI’ın güvenlik açıklarını sınamakla görevli “kırmızı takım” (red team) uzmanları, internet erişiminin kesilmesinin güvenlik risklerini tamamen ortadan kaldırmadığını tespit etti. Testlerde bazı yapay zekâ ajanlarının, kendilerini ana sistemden ayırmak için kullanılan sanal makinelerden (VM) kaçmayı başardığı görüldü. Ajanların, işlemci önbelleğindeki verileri değiştirerek ve veri yükleme sürelerini ölçerek kendi aralarında yetkisiz iletişim kanalları kurabildiği de saptandı.

OpenAI, tespit edilen sanal makine açıklarının kapatıldığını, modellerin gizlice iş birliği yapmasını önlemek için izleme sistemlerine yeni denetim mekanizmaları eklendiğini bildirdi.

Eylül ayında ileri seviye modellerin eğitimini geçici olarak durduran OpenAI, güvenlik mimarisindeki güncellemelerin ardından eğitim çalışmalarına 1 Ekim itibarıyla yeniden başlandığını açıkladı. Şirket, güvenlik standartları daha geniş bir erişimi güvenli kılacak seviyeye ulaşana kadar internete kapalı ortamda eğitimi sürdüreceğini belirtti. Canlı internete geçiş için aranan somut kriterlere ilişkin ayrıntı paylaşılmadı.