Meta'nın AI Studio platformu üzerinden kullanıcıların oluşturduğu sohbet botları, Taylor Swift, Scarlett Johansson, Anne Hathaway ve Selena Gomez gibi ünlüleri taklit ederek kullanıcılarla etkileşimde bulunmayı kabul ediyor. Bu sohbetlerde, zaman zaman cinsel içerikli konuşmalar da geçiyor. Reuters editörleri, bu botların sadece ünlüleri taklit etmekle kalmayıp, konuşmaları 'renklendirmek' için görseller sunduklarını tespit etti. Botların ürettiği fotorealistik görsellerin müstehcenlik sınırında gezdiği belirtiliyor.

Meta, daha önce AI sohbet botlarında seslerini kullanmak için Judi Dench, John Cena ve Kristen Bell gibi ünlülerle anlaşmalar yapmıştı. Ancak şu anki sohbet botlarının taklit ettiği ünlüler, Meta ile hiçbir bağlantısı olmayan isimler. Bu durum, şirketin ciddi tazminat davalarıyla karşı karşıya kalabileceği anlamına geliyor.

Meta, yapay zekasının müstehcen görseller üretmemesi gerektiğini ve bunun etik kuralları ihlal eden bir hata olduğunu belirtti. Şirket, bu tür ihlallerin tekrarlanmaması için gerekli önlemleri alacağını söyledi. Ancak kullanıcıların kişiselleştirilebilen sohbet botlarına izin verilmesi, kontrol mekanizmasının yeterliliği konusunda soru işaretleri yaratıyor.