Yapay Zeka Devinden Beklenmeyen Hamle: Kendi Modelinin Yeteneklerini Bilerek Kısıtladı

Performans yarışına ara verip güvenliği seçti: Çinli yapay zekâ şirketi Moonshot AI, 4 Kasım'da dosyalarını yayımlayacağı yeni modeli Kimi K3.1 Pro'nun siber saldırı ve açık bulma yeteneklerini kasıtlı olarak sınırlandırdığını duyurdu.

Çin merkezli yapay zekâ girişimi Moonshot AI, teknoloji dünyasında pek rastlanmayan bir adım attı. Şirket, yeni tanıttığı Kimi K3.1 Pro modelinin yazılım açıklarını tespit etme ve bunları istismar etme yeteneklerini, geliştirme aşamasında kasıtlı olarak düşürdüğünü bildirdi. Birçok firma yapay zekâ performansını zirveye taşımak için rekabet ederken Moonshot, siber saldırıları kolaylaştırabilecek becerilerin belirli bir sınırı aşmasına engel olmak istediğini vurguladı.

24 Ekim tarihinde paylaşılan bu kararın temelinde, gelişmiş yapay zekâların karmaşık siber saldırıların maliyetini düşürüp erişilebilirliğini artırması endişesi yatıyor. Üstelik model ağırlıklarının 4 Kasım tarihinde erişime açılacak olması, kullanıcıların bu sistemi kendi bilgisayarlarında çalıştırabilmesi anlamına geliyor ve piyasaya sürüldükten sonra modelin kontrolünün ne kadar sağlanabileceği sorusunu gündeme getiriyor.

Yeni modelin eğitimi sırasında Moonshot AI, siber saldırılarla ilgili verilerin bir kısmını eğitim setinden ve pekiştirmeli öğrenme süreçlerinden arındırdı. Temel hedef, modelin genel yazılım geliştirme kapasitesini korurken güvenlik açıklarını kötüye kullanma potansiyelini kısıtlamaktı. Şirket, uyguladığı bu müdahalenin etkilerini kendi tasarladığı bir testle değerlendirdi.

Kontrollü bir ortamda gerçekleştirilen yazılım açığı bulma ve sömürme görevlerinde, hiçbir kısıtlama uygulanmayan model yüzde 90,5 oranında başarı elde etti. Siber güvenlik verilerinden yoksun bırakılan Kimi K3.1 Pro ise aynı testten yüzde 81 puan alarak iki versiyon arasında 9,5 puanlık bir fark ortaya koydu.

Ancak bu tablo, modelin siber saldırı kapasitesinin tamamen yok edildiği anlamını taşımıyor. Yüzde 81 seviyesindeki derece hâlâ oldukça yüksek bir performansa işaret ediyor ve şirket, yeni modelin bir önceki Kimi sürümüne kıyasla daha yetenekli olduğunu ifade ediyor. Üstelik bu veriler şirketin kendi iç testlerine dayanıyor ve henüz bağımsız uzmanlarca onaylanmış değil.

Moonshot'ın izlediği yöntemin en belirgin özelliği, tüm yazılım becerilerini köreltmek yerine sadece risk teşkil eden kullanım senaryolarına odaklanmasıydı. Şirket, saldırı odaklı verileri temizlerken modelin kod üretme, yazılımları düzenleme ve uzun soluklu işlemleri başarma yetilerini korumaya özen gösterdi. Böylelikle alınan güvenlik tedbirlerinin modelin ticari potansiyelini en az seviyede etkilemesi amaçlandı.

Bu durum, yapay zekâ sektörünün karşılaştığı temel zorluklardan birini de gözler önüne seriyor. Bir sistem yazılımdaki zafiyeti tespit edebiliyorsa, bu bilgi hem sorunu çözmek hem de istismar etmek için kullanılabiliyor. Bu yüzden şirketler, iyi niyetli araştırmacıların ihtiyaç duyduğu özellikleri muhafaza ederken kötü amaçlı kullanımı dizginleyecek formüller geliştirmek durumunda kalıyor. Moonshot'ın yaklaşımı, tehlikeli bir soru sorulduğunda yanıtı engellemekten ziyade, riskli bilgileri eğitim aşamasında ayıklayarak tehlikeyi kaynağında kesmeyi hedefliyor.

Kimi K3.1 Pro, yaklaşık üç trilyon parametre büyüklüğündeki modeller kategorisinde bulunuyor. Şirket, modeli kendi uygulamalarında ve geliştirici hizmetlerinde kullanıma sunarken, çalışma prensiplerini belirleyen temel sayısal dosyalar olan model ağırlıklarını 4 Kasım 2026 tarihinde yayımlamaya hazırlanıyor.

Bu dosyaların paylaşılması, geliştiricilerin modeli kendi altyapılarında çalıştırmasına ve kurallar dahilinde özelleştirmesine olanak tanıyor. Üçüncü taraf hizmetlere bağımlılığı azaltan bu durum avantajlı görünse de, model dağıtıldıktan sonra üretici firmanın denetim kurmasını bir hayli zorlaştırıyor. Merkezi sistemlerde erişimi kısıtlamak ve güvenliği güncellemek kolayken, dosyalar geniş kitlelere yayıldığında aynı kontrolleri sağlamak pek mümkün olmuyor. Moonshot'ın piyasaya çıkmadan önce modeli sınırlandırma hamlesi de tam olarak bu zorluktan kaynaklanıyor.

Şirketin bu hamlesi, Çin'de yapay zekâ destekli siber saldırı teknolojilerine dair yeni yasal düzenlemelerin konuşulduğu bir döneme denk düşüyor. Pekin hükümeti, yapay zekâ desteğiyle zararlı yazılım geliştirilmesini sağlayan bazı teknolojilerin ihracatını yasaklamayı planlayan taslaklar hazırladı. Güvenlik açıklarını tespit eden yapay zekâ araçlarının yurt dışına satışı da bu kısıtlamalar kapsamında değerlendiriliyor.

Kritik altyapıların, kamu sistemlerinin ve savunma sanayisinin korunmasını merkeze alan bu taslaklar, yapay zekânın saldırı süreçlerini hızlandırması nedeniyle hükümetlerin denetim ihtiyacını artırıyor. Moonshot'ın kısıtlama kararının resmi bir devlet talimatından kaynaklandığına dair bir açıklama yapılmamış olsa da, bu adımın hızla değişen yasal iklime de uyum sağladığı görülüyor.

Kimi K3.1 Pro'nun güvenlik tedbirleri dışında en çok öne çıkan yönü, bir milyon token seviyesinde bağlam penceresi sunabilmesi. Bu geniş kapasite sayesinde model; devasa yazılım projelerini, kapsamlı belgeleri ve çok uzun metinleri tek bir işlemde analiz edebiliyor. Şirket, yeni versiyonda karmaşık işlemleri tamamlama ve uzun süreli görevleri yürütme yeteneklerinin artırıldığının altını çiziyor.

Bununla beraber Moonshot, K3.1 Pro Highspeed isimli çok daha hızlı bir sürümü de piyasaya sürdü. Şirket açıklamasına göre bu versiyon, standart modele göre yaklaşık iki ila üç kat daha hızlı işlem yapabiliyor. Her iki sürümün temel yetenekleri aynı kalsa da hız ve kullanım şartları açısından farklı alternatifler sunuluyor. Hedef kitlesinde sadece bireysel kullanıcılar değil, büyük belge arşivleriyle çalışan kurumlar ve yazılım geliştiren işletmeler de yer alıyor.

Moonshot'ın aldığı bu stratejik karar, yapay zekâ ekosistemindeki yarışın artık sadece yüksek performans testlerinden ibaret olmadığını gözler önüne seriyor. Güçlü sistemlerin herkesin erişimine açılması, şirketleri bu teknolojilerin kötüye kullanım risklerini de hesaplamaya itiyor. Geliştiriciler için yeni meydan okuma, en gelişmiş ürünü piyasaya sürerken aynı zamanda bunun ne kadar güvenli tutulabileceğini sağlamak.

Bu tercih, açık model geliştirme felsefesinin geleceği için de büyük önem taşıyor. Dosyaların açıkça paylaşılması erişilebilirliği artırırken sonradan müdahale şansını ortadan kaldırıyor. Saldırı becerilerini sınırlandırarak bu iki zıt kutup arasında bir denge bulmaya çalışan Moonshot'ın yüzde 81 seviyesindeki test sonucu ise risklerin tam anlamıyla bitmediğini ispatlıyor. 4 Kasım tarihinde model ağırlıklarının yayımlanmasıyla, bağımsız uzmanların yapacağı incelemeler belirleyici olacak. Yeni modelin asıl başarısı, işlemleri ne kadar hızlı yaptığıyla değil, dizginlenmek istenen tehlikeli becerileri ne ölçüde kontrol altında tutabildiğiyle ölçülecek.