Ekonomim
Haber akışına dön

OpenAI'dan Çocukların Çevrim İçi İstismarına Karşı Yeni Yapay Zeka Aracı

OpenAI'dan Çocukların Çevrim İçi İstismarına Karşı Yeni Yapay Zeka Aracı

Yapay zeka şirketi OpenAI, çocukların istismarını içeren çevrim içi görüntüleri tespit etmek amacıyla yeni bir sınıflandırma aracı geliştirdi.

Yapay zeka tarafından oluşturulan görselleri de belirleyebilen sistemin, daha önce tespit edilmemiş zararlı içeriklerin incelenmesine yardımcı olması hedefleniyor. Şirket ayrıca ChatGPT'de çocuk istismarı içeriklerine yönelik aramalara karşı yeni uyarı ve erişim kısıtlamalarını devreye alacağını duyurdu.

Yapay zeka destekli yeni sistem görselleri analiz edecek

OpenAI'nin internet sitesinde yayımlanan açıklamaya göre, yeni görüntü sınıflandırma aracı, çocukların istismarını içeren ve daha önce tespit edilmemiş görselleri belirlemek için görsel işaretleri analiz ediyor.

Sistem, inceleme ekiplerine değerlendirilmesi gereken görüntüler için öncelik puanları sunuyor. Böylece uzmanların hangi içerikleri öncelikli olarak incelemesi gerektiğinin belirlenmesi amaçlanıyor.

OpenAI, geliştirdiği aracın yapay zeka tarafından üretilmiş çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu bildirdi.

Şirket, sistemi onaylanmış kuruluşların kullanımına ücretsiz olarak sunacak.

ChatGPT'de zararlı aramalara karşı yeni uyarılar geliyor

OpenAI, görüntü tespit sisteminin yanı sıra ChatGPT'deki mevcut güvenlik önlemlerini de genişletiyor.

Yeni uygulama kapsamında, çocuk istismarı kapsamında değerlendirilebilecek içerikleri arayan kullanıcılara uyarı gösterilecek. Uyarılarda, bu tür içeriklerin yapay zeka tarafından üretilmiş olmasının neden olduğu zararı ortadan kaldırmadığı açıklanacak.

İhlal olarak değerlendirilen sohbetler kaldırılacak ve ilgili kullanıcının ChatGPT'ye erişimi 24 saat süreyle durdurulacak. Bu süreçte kullanıcılara zararlı davranışları sonlandırmaya yönelik uzman desteği de sunulacak.

Tekrarlanan ihlallerde hesap kapatma ve bildirim seçeneği

OpenAI'nin açıkladığı yeni güvenlik yaklaşımında, ihlallerin tekrarlanması halinde daha uzun süreli erişim kısıtlamaları uygulanabilecek.

Şirket, gerekli durumlarda kullanıcı hesaplarının tamamen kapatılabileceğini veya ilgili durumların yetkililere bildirilebileceğini de belirtti.

Yeni önlemlerin, çocukların istismarını önlemek amacıyla çalışmalar yürüten kuruluşların ve akademik danışmanların katkılarıyla geliştirildiği aktarıldı.

Okumaya devam et

Pusholder

Senin gündemin

Okuma seçenekleri

Push AIÖzet

PusholderKaynakta oku
ekonomim.com