Son dönemde ChatGPT'nin kullanıcıların siyasi görüşleri, dini inançları gibi hassas bilgilerini sınırsız olarak etiketleyip profillemesi yönündeki iddialar, ciddi soru işaretlerine yol açtı.

Yapay zeka şirketleri, gizlilik politikalarında kullanıcıların kişisel verilerini korumak için teknik ve idari önlemler aldıklarını belirtmektedir. Ancak uzmanlar, veri işleme süreçlerinin yeterince şeffaf olmadığını öne sürüyor.

Yüksek Veri Bilimi Mühendisi Emre Durgut, yapay zeka sistemlerinin sadece teknik değil, aynı zamanda hukuki ve toplumsal sorumluluk taşıdığını vurguladı. Durgut, "En büyük risk, kullanıcılardan elde edilen kişisel bilgilerin etiketleme yoluyla her kullanıcı için bir profil oluşturulmasıdır. Bu profiller, kullanıcının siyasi görüşleri, dini inançları, sağlık durumu gibi hassas nitelikteki kişisel verilerini içerebilir." dedi.

Veri işleme süreçlerinin çoğunlukla kullanıcıdan gizlendiğini belirten Durgut, "Kullanıcı verilerinin etiketlenmesi ve profillemesi iddiaları doğruysa, bu durum başta Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR) ve Türkiye'deki Kişisel Verilerin Korunması Kanunu (KVKK) olmak üzere birçok yasal çerçeveyi ihlal etmektedir." diye konuştu.

Durgut, yasaların kişisel verilerin işlenmesi için açık rıza, veri minimizasyonu, amaca bağlılık ve şeffaflık ilkelerini temel aldığını ve hassas verilerin işlenmesi için çok daha katı şartlar öngördüğünü ifade etti.

Sistemin verdiği yanıtların zamanla kişiye özel hale geldiğini belirten Durgut, bunun reklam, işe alım ya da finansal kararlar gibi alanlarda ayrımcılığa neden olabileceğini söyledi.

Verilerin sızması halinde ise zincirleme etkinin çok daha ciddi sonuçlar doğurabileceğini vurgulayan Durgut, hem kullanıcılara hem de teknoloji şirketlerine görevler düştüğünü belirtti. Kullanıcılara, hassas kişisel bilgileri vermekten kaçınmaları ve farkındalıklarını artırmaları gerektiğini vurguladı.

Durgut, teknoloji firmalarına da şeffaf bir şekilde veri işleme süreçlerini açıklamaları, bağımsız denetimlerle uygulamalarını düzenli olarak denetletmeleri ve kullanıcıların verileri üzerinde daha fazla kontrol ve yönetim yetkisi vermeleri gerektiğini söyledi.