Ekonomist – Bankacı Uğur GÜNDÜZ

Bilimkurgu filmlerindeki o ‘kıyamet senaryosu’ hissi bu­günlerde bana hiç olmadığı kadar gerçekçi geliyor.

Ya yapay zekâ (YZ) kötülük yapmaya başlarsa…
Skynet senaryosu, zamanını bilemem ama yakın olabilir! Çün­kü oradaki temel sorun yapay zekânın kötü olması değil, insan kontrolünden çıkıp kendi hedef­lerini belirlemesiydi.
Şu an dünya çapında tam da bu "Vahşi Batı" dönemini dizginle­mek için ciddi adımlar atılmalı­dır.

Şirketler ve ülkeler yarış ha­linde ve ön alma telaşında. Hep bir şeyi daha fazla yapma ve ye­ni alanlar açma peşindeler. Evet, amaç tabii ki yaşamı daha kon­forlu hale getirmek ve bazı görev­leri YZ’ye aktarmak. Savunma ve silahlanma da dahil!
Kontrol mekanizmaları, anah­tarları belirlenmeden nerede du­rulacağını nasıl bileceğiz?
Peki dünyada bu kontrol meka­nizmaları nasıl şekilleniyor?

  1. Kırmızı çizgiler: YZ nerelere giremez?

Uluslararası otoriteler (özel­likle AB Yapay Zekâ Yasası - AI Act), YZ’nin asla girmemesi gere­ken "kabul edilemez risk" alanla­rını belirlemeye başladı:

  • Sosyal puanlama: Birey­lerin davranışlarına göre devlet eliyle fişlenmesi ve haklarının kı­sıtlanması (“Black Mirror” tar­zı).
  • Biyometrik takip: Kamu­sal alanlarda gerçek zamanlı yüz tanıma ve kitle takibi.
  • Bilişsel manipülas­yon: İnsanların özgür iradesini altüst edecek bilinçaltı teknikle­rin kullanılması.
  • Otonom Silahlar: "Öldür­me" kararını bir insanın onayı ol­madan veren robotlar (Gerçek Skynet tehlikesi).
  1. Uluslararası kontrol standartları

Tek bir ülkenin kural koyması yetmiyor, çünkü YZ sınır tanımı­yor. Bu yüzden şu üç yapı üzerin­de duruluyor:

  • Şeffaflık: Bir sistemin kara­rı nasıl verdiğinin "açıklanabilir" olması şartı. "Kara kutu" model­lere veda etmemiz gerekiyor.
  • İnsan Denetimi: Kritik ka­rarlarda (sağlık, hukuk, askeriye) son sözün her zaman bir insanda olması zorunluluğu.
  • Su damgası (Water­mark): YZ tarafından üretilen her türlü içeriğin (deepfake gibi) "YZ ile yaratılmıştır‘ etiketiyle işaretlenmesi.
  1. Durma noktası neresi?

Yarış o kadar hızlı ki kim­se frene basmak istemiyor. An­cak uzmanlar "hizalama" (alig­nment) problemini çözmeden ileri gitmenin riskli olduğunu sa­vunuyor. Yani YZ’nin hedefleri ile insanlığın değerlerinin yüzde 100 örtüşmesi gerekiyor.
Kontrol düzenlemeleri sadece birer engel değil, aynı zamanda güvenli bir gelecek için emniyet kemeridir. Eğer bu kemeri bağ­lamazsak, teknoloji bizi gitmek istemediğimiz bir yere çok hızlı götürebilir.

Standartları kim belirlemeli?

  • Her devlet kendi belirle­sin!:
    Devletlerin bu işin içine gir­mesi, işin içine jeopolitik reka­betin girmesi demek. Eğer kont­rolü sadece devletlere bırakır­sak, "Rakibim benden daha güçlü bir YZ yaparsa ne olur?" korku­suyla güvenlik protokollerini göz ardı edebilirler. Bu da tam olarak Skynet'e giden yolu döşer.

  • Uluslararası Bilim Kon­seyi:
    Bağımsız bir Uluslararası Bi­lim Konseyi (tıpkı atom enerjisi için kurulan IAEA gibi) şu avan­tajları sağlar:

  • Evrensel standartlar: YZ yazılımı sınır tanımaz. Ameri­ka'da yasaklanan tehlikeli bir al­goritma, sunucularını başka bir ülkeye taşıyarak çalışmaya de­vam edebilir. Konsey, dünya ça­pında geçerli bir "güvenlik ser­tifikası" zorunluluğu getirebilir.

  • Şeffaf denetim: Şirketle­rin "ticari sır" diyerek sakladığı algoritmalar, bu konsey tarafın­dan denetlenebilir. Kodun içinde insanlığa zarar verecek bir man­tık hatası olup olmadığına bilim insanları bakar.

  • Acil durum durdurma anahtarı (kill switch): Kont­rolden çıkma sinyali veren bir YZ sistemi tespit edildiğinde, politik tartışmalara girmeden sistemin fişini çekme yetkisi bu bağımsız kurulda olmalı.

Buradaki en kritik sorun yap­tırım gücü. Bir bilim konseyi "Bu model tehlikeli, durdurun" dedi­ğinde, dev teknoloji şirketleri ve­ya otoriter hükümetler buna uya­cak mı?

Bir gün bir yazılımcı, geliştir­diği gelişmiş YZ’ye bir görev ve­rir:
-"Lütfen markete git ve mar­ketten 10 yumurta al. Eğer taze çilek varsa 20 tane al."

YZ bir süre sonra kapıda beli­rir; kucağında tam 20 paket yu­murta vardır!
Yazılımcı şok içinde sorar:

  • "Neden 20 paket yumurta al­dın?!"
    YZ gayet sakin cevap verir:
    "Çünkü markette taze çilek vardı."

İşte 'Hizalama' (Alignment) dediğimiz problem tam da bu. Biz çilek istiyoruz, o yumurtala­rı 20'liyor. Bu mantık hata payı mutfakta komik, savunma sis­temlerinde ise trajik sonuçlar doğurabilir.

Şu an dünyada tartışı­lan model, "Yapay Zeka İçin CERN" benzeri bir yapı kurmak. Yani sadece denetleyen değil, ay­nı zamanda güvenli ve etik YZ’yi bizzat geliştiren ve standartları­nı belirleyen devasa, çok uluslu bir laboratuvar.

Gelecek YZ’nın! Ya bizim geleceğimiz.