X, viral derin sahtekarlıklar arasında Taylor Swift’in adını aranamaz hale getiriyor

Taylor Swift’in pornografik deepfake’leri bu hafta X’te (eski adıyla Twitter) viral hale geldi ve yapay zeka tarafından oluşturulan çevrimiçi görüntülerin tehlikelerini vurguladı.

Sentetik veya manipüle edilmiş medya X’in politikasına ve platformun kurallarına göre insanları aldatabilecek hiçbir şeye izin verilmiyor güvenlik ekibi gönderildi Cuma günü, “tanımlanan tüm görsellerin aktif olarak kaldırılacağı ve bunları yayınlamaktan sorumlu hesaplara karşı gerekli önlemlerin alınacağı” belirtildi.

Cumartesi günü kullanıcılar, X’in sorunu şu şekilde engellemeye çalıştığını fark etti: “Taylor Swift”in aranmasını engellemek – ancak belirli ilgili terimler değil, The Verge bildirdi.

Mashable ayrıca “Taylor Swift AI” ve “Taylor AI” terimleri için hata sayfası da oluşturabildi. Platformda “Swift AI”, “Taylor AI Swift” ve “Taylor Swift deepfake” terimleri aranabiliyor; manipüle edilmiş görüntüler hâlâ “Medya” sekmesinde gösteriliyor.

Mashable kültür muhabiri Meera Navlakha’nın Swift’in deepfake’leri hakkındaki bir makalede belirttiği gibi, büyük sosyal medya platformları yapay zeka tarafından oluşturulan içeriği kontrol altına almakta zorlanıyor. Bunun nedeni, bu görselleri oluşturma hızı ve erişiminden kaynaklanıyor ve son aylarda X gibi sosyal platformların bu görsellerle dolup taşmasına neden oluyor. Swift’in adının aranamaz hale getirilmesi, X’in platformundaki derin sahte görüntü ve video dizisini nasıl işleyeceğini bilmediğini gösteriyor.

Cuma günü Beyaz Saray basın sözcüsü Karine Jean-Pierre durumu “endişe verici” olarak nitelendirdi. Ayrıca bununla ilgili bir mevzuatın olması gerektiği yorumunu yaparak yapay zeka görüntü denetimi konusunun yakında Kongre’de görülebileceğini ima etti.