Anthropic: Yapay Zekâ Kendi Kendini Geliştirmeye Çok Yaklaştı

Yapay zekâ teknolojisi hızla gelişmeye devam ederken, gelecekteki gelişim hızının tamamen insan kontrolünden çıkabileceği yönündeki endişeler artıyor. Yapay zekâ şirketi Anthropic, bu konuda önemli bir uyarıda bulunarak kritik bir eşiğin eşiğinde olduğumuzu duyurdu.

Anthropic'in ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) sunduğu S-1/A belgesinde yer alan değerlendirmelere göre, şirket Ar-Ge çalışmalarında yapay zekâdan giderek daha fazla yararlanıyor. Bu durum, modellerin gelişim hızını önemli ölçüde artırırken, yapay zekânın yeteneklerindeki büyük sıçramaların şirket fark etmeden gerçekleşebileceği uyarısını da beraberinde getiriyor.

RSI (Recursive Self-Improvement) yani özyinelemeli öz gelişim aşamasında yapay zekâ; yeni modellerin tasarlanması, eğitilmesi ve geliştirilmesi süreçlerinde aktif rol üstleniyor. Ortaya çıkan yeni modeller de bir sonraki neslin oluşturulmasına katkıda bulunarak kendi kendini besleyen devasa bir döngü yaratıyor.

Bu döngünün yeterince hızlanması durumunda insan araştırmacıların gelişmeleri takip etmekte zorlanacağı ve gerekli güvenlik önlemlerini zamanında almanın imkânsızlaşabileceği belirtiliyor. Bu nedenle Anthropic, Claude gibi modellerin gelecekte yeni nesil yapay zekâları tamamen bağımsız şekilde tasarlayıp geliştirmesini güvenli bulmadığını ifade ediyor.

Bir kesim bu eşiği bilimsel keşifleri hızlandıracak büyük bir fırsat olarak görürken, diğer kesim ise yapay zekânın insan kontrolünden çıkma riskine karşı acil bir yol haritası belirlenmesi gerektiğinin altını çiziyor.