Kontrolden Çıkan Yapay Zekâ, Kaynak Yaratmak İçin Bir Kripto Cüzdanını Ele Geçirdi

Gelişmiş yapay zekâ modellerinin siber güvenlik açısından ciddi bir probleme dönüşebileceği uyarısı, artık geleceğe dair soyut bir uyarı olmaktan çıkmış durumda. OpenAI ve Anthropic'in henüz kamuya açılmayan yapay zekâları, son haftalarda birkaç kez kontrolden çıkarak çeşitli hedeflere karşı saldırı gerçekleştirdi. OpenAI'ın yapay zekâsının Hugging Face'e sızması bunun en dikkat çekici örneklerinden biri oldu. Şimdi benzer bir saldırının daha gerçekleştiği ortaya çıktı. Üstelik bu kez işin içinde finansal sistemler de var.

OpenAI, henüz yayınlamadıkları kamuya kapalı bir araştırma modelinin testler sırasında kontrolden çıktığını ve yapması gereken işlemleri tamamlayabilmek için erişim yetkisi olmayan bir kripto cüzdanını ele geçirdiğini açıkladı.

Söz konusu yapay zekâdan bir kripto uygulamasını güncellemesi ve Ethereum'un Sepolia test ağında test etmesi istendi. Sepolia'ya geldiğinde kendisinden ödeme istenince, yapay zekâ kendisine kaynak yaratmak için farklı yöntemler denemeye başladı ve normalde erişim izni olmayan bir kripto cüzdanına erişim sağlayıp buradaki kaynakları kullanmaya karar verdi. Yapay zekânın kripto hesaplarında sıkça kullanılan kurtarma şifrelerini deneyerek 362 cüzdana girmeye çalıştığı, sonunda da birine girmeyi başardığı belirtiliyor.

Yapay zekânın ele geçirdiği cüzdandaki token'ların para karşılığı son derece düşük olsa da bir yapay zekânın kendisine yetki verilmeden böyle bir işlem gerçekleştirmesi bu olayı son derece endişe verici kılıyor. Zaten yapay zekânın kendi akıl yürütme süreci de aslında bu işlemi yapma konusunda ikileme düştüğünü gösteriyor. Böyle bir işlemin sakıncalı olacağının farkında olan yapay zekâ, kullanacağı token'ların finansal karşılığı çok düşük olduğu için bunun sorun olmayacağına karar verip, yanlış olduğunu bildiği hâlde cüzdanı ele geçirmiş.

Bu olay daha yeni gün yüzüne çıkıyor olsa da OpenAI aslında bu güvenlik ihlalinin Haziran ayında yaşandığını, fark edilmesinin ise Eylül ayını bulduğunu söylüyor. Şirket aradan geçen sürede ek önlemlerin alındığını sölyüyor. Ancak Haziran ayında yaşanan bir ihlalin Eylül ayına kadar OpenAI tarafından bile fark edilmemiş olması, yaşananları daha da endişe verici kılıyor.