Galatasaray Üniversitesi Hukuk Fakültesi Bilişim ve Teknoloji Hukuku Anabilim Dalı Öğretim Üyesi Dr. Osman Gazi Güçlütürk, İsrail'in Gazze'de yapay zeka kullanımını ve bu durumun hukuki boyutunu AA Analiz için kaleme aldı.

Yapay zeka teknolojisi, her geçen gün yeni uygulama alanlarıyla ve sunduğu vaatlerle gündeme gelmeye devam ediyor. Çoğunlukla sunduğu fırsat ve avantajlar konuşulsa da yapay zekanın yeni uygulamaları pek çok riski de beraberinde getiriyor. Özellikle yapay zekanın otonom karar verme kabiliyetlerinin saldırı ve savunma sistemleriyle entegre edilmesi önemli risk ve endişeleri doğuruyor. Bu bağlamda İsrail Savunma Kuvvetleri'nin (IDF) Gazze'de yapay zeka kullanımına dair gelişmeler de kritik önem taşıyor.

Yapay zekanın askeri alanda kullanımı çeşitli biçimlerde gerçekleşebilir. Bunlar arasında operasyon sahasının yapay zeka ile analizi, hedeflerin belirlenmesi ve tespiti, hedeflere kilitlenme süreçlerinde yapay zekanın kullanılması yaygın örneklerdir. Ancak bu sistemlerin en tartışmalı kullanımı, yapay zekanın doğrudan saldırı emri verecek şekilde konumlandırılmasıdır. İsrail ordusu, yapay zekanın ve otonom sistemlerin operasyonel süreçleri hızlandırmak amacıyla kullanıldığını açıklamalarında bizzat belirtiyor. IDF aynı zamanda bu sistemlerin çıktılarının insanlar tarafından incelendiğini ve özellikle de hedef tespitindeki çıktıların yapay zeka çıktılarıyla karşılaştırıldığını belirtiyor.

İsrail'in Gazze’de yapay zeka teknolojisini kullanması aslında yeni bir şey değildir. Öyle ki 2021 yılındaki "Guardian of the Walls" operasyonu bazı kaynaklarda "ilk yapay zeka savaşı" olarak nitelendiriliyor. O tarihten bu yana Gazze'ye yönelik saldırılarda yapay zekanın farklı şekillerde kullanılmaya devam ettiği biliniyor.

Gazze'deki operasyonlarda ismi öne çıkan çeşitli yapay zeka araçları bulunuyor. İlk olarak, "Alchemist" adlı sistem, farklı kaynaklardan elde edilen verileri toplayarak bölgedeki hareketlilikleri takip ederek bu konuda bilgi sağlıyor. "Edge360" ise zırhlı araçlara entegre edilerek çevresel tehditleri operatöre bildiriyor. Bu sistemler doğrudan saldırı kararı almayan, operatörlerin karar alma süreçlerini destekleyen niteliktedir.

Diğer yandan, İsrail'in Gazze'de kullandığı yapay zeka araçlarının karar destek sistemlerinin ötesine geçtiğine dair ciddi iddialar da mevcut. Bu kapsamda 3 sistem özellikle öne çıkmaktadır. İlki, çatışmanın başından beri ayrıntılı hedefleme için kullanılan "Lavender" isimli sistemdir. Lavender, İsrail ordusunun sahip olduğu veri havuzlarını kullanarak hedef alınması gereken kişileri ve konumları belirlemektedir. İkinci sistem "Gospel" (Habsora) ise Lavender'in fonksiyonlarını daha geniş ölçekte ve ek olarak yapılar düzeyinde de gerçekleştirmektedir. Üçüncü sistem olan "Where’s Daddy?" ise hedeflenen kişilerin mobil konum verilerini takip ederek belirli yerlere girip girmediklerini tespit etmektedir.

İsrail'in Lavender, Gospel ve Where’s Daddy? sistemlerinin kullanımı hakkındaki haber ve raporlar incelendiğinde, sistem çıktılarının doğrulanmadan seri saldırılarda kullanıldığına dair endişe verici bulgular öne çıkmaktadır. Bu sistemler de gerçekten tasarım açısından bakıldığında karar verici olmayıp belirli kararları destekleyebilecek niteliktedir.

Yapay zekanın savunma ve askeri sanayide karar destek sistemi olarak kullanımı genel olarak ulusal veya uluslararası düzlemde yasaklanmış değildir. Ancak yapay zeka desteklerin karar destek sistemi olmanın ötesine geçip karar alma mekanizmasını önemli ölçüde etkileyecek şekilde kullanılması uluslararası insancıl hukuk bakımından sorun teşkil etmektedir.

Uluslararası insancıl hukuk kuralları, silahlı çatışma ortamlarında sivillerin korunması ve ayrım gözetmeyen saldırıların önlenmesini amaçlayan köklü ilkeleri içermektedir. Bu kurallar genel nitelikte olup yeni teknolojilerden açıkça bahsetmiyor olmaları da yeni teknolojilerin bu ilkelerin kapsamı dışında kaldığı anlamına gelmez. Yapay zekanın silahlı çatışma araçlarına entegrasyonu durumunda bu silahlar mevcut uluslararası hukuk kurallarına uygun şekilde kullanılmalıdır.

Sonuç olarak, bir operasyon kararının doğrudan bir sistem tarafından verilmesi doğru değildir. Nihai operasyon kararı daima insan kontrolünde gerçekleşmelidir. Bu şekilde kullanılacak silahların geliştirilmesinde teknik uzmanlık ve isabet aranmalıdır. Örneğin, Lavender'ın hata oranının yüzde 10 olduğu iddia edilmektedir. Bu oran, saldırı kararı vermek için hedef belirlemek adına kullanılan bir sistem için çok yüksek bir hata oranıdır.