Kamala Harris’in deepfake’leri TikTok ve Elon Musk’ın X’inde viral oluyor

İnternet olmuştur tepkiler ve memlerle dolu Joe Biden’ın Pazar günü yeniden seçime girmeyeceğini duyurmasından ve Demokrat Parti adayı olarak Başkan Yardımcısı Kamala Harris’i desteklemesinden bu yana.

Harris’in sosyal medyadaki destekçileri, Başkan Yardımcısı’nın son birkaç yıldır yaptığı komik anlara ve sıra dışı konuşmalara odaklandı. “Hindistan cevizi ağacından düştüğünü mü düşünüyorsun?” Örneğin.

Cumhuriyetçi Parti’nin başkan adayı Donald Trump’ın bazı destekçileri ise farklı bir yol seçti: Kamala Harris’in hiçbir zaman yapmadığı sahte bir konuşmayı sergileyen manipüle edilmiş medyayı sosyal medyada paylaştılar.

TikTok ve Twitter’da viral olan videoda Kamala Harris canlı bir kalabalığın önünde konuşuyor. Ancak klip bir deepfake. Video düzenlenmiş ve ses, yapay zeka tarafından oluşturulmuş klon bir sesle değiştirilmiş gibi görünüyor.

Medya Amerika İçin Önemlidir bir rapor yayınladı Pazartesi günü TikTok’ta viral olan deepfake ile ilgili olarak milyonlarca görüntüleme aldı. Rapordan kısa bir süre sonra TikTok, gönderileri ve sahte sesi platformdan kaldırdı.

Mashable’a verilen açıklamada, TikTok sözcüsünün “TikTok, zararlı yapay zeka tarafından üretilen içeriklere ve yanıltıcı şekilde düzenlenmiş medyaya karşı katı politikalara sahip ve bu içerikleri agresif bir şekilde kaldırıyor ve TikTok’taki içeriklerin doğruluğunu gerçek zamanlı olarak değerlendirmek için gerçek denetleyicilerle ortaklık kuruyor” ifadeleri yer aldı.

Kamala Harris’in deepfake’i başkan adaylığı sonrası yeniden canlandı

Bu Kamala Harris deepfake’inin çevrimiçi olarak yayılması ilk kez olmuyor. Birden fazla çıkış çürütüldü Harris’in geçen yıl ilk kez yayınlanan deepfake videosu.

Deepfake klipte Harris’in 2023 yılında Howard Üniversitesi’nde bir izleyici kitlesinin önünde konuştuğu gerçek bir video yer alıyor. Ancak video dijital olarak değiştirilmiş.

“Bugün bugündür ve dün dün bugündü,” Kamala Harris viral videoda kelimeleri geveleyerek söylüyor gibi görünüyor. “Yarın yarın bugün olacak. Öyleyse, bugünü yaşa ki, bugünün geleceği bugünün geçmişi gibi olsun, yarın olduğu gibi.”

Ancak Harris bunu asla söylemedi alıntı.

Canlı etkinliğin tam videosu, viral deepfake klipte görülen anı içermiyor. Uzmanlar işaret etti Videoda ağzının etrafında dijital bir gürültü var, sahte sesle klibi eşleştirmek için bir düzenleme girişimi. Ayrıca, sahte seste herhangi bir arka plan gürültüsü veya kalabalığın sesi yok.

Bununla birlikte, Harris deepfake’inin çürütülmesinden bir yıldan fazla bir süre sonra, sağcı bir kullanıcının geçen hafta klibi platforma yüklemesinin ardından Elon Musk’ın X’inde viral oldu. Gönderi hala X’te mevcut ve 3,4 milyondan fazla görüntüleme aldı. X, politikalarına göre bu tür içerikleri kaldırmıyor. Ancak, X kullanıcıları gönderiye kullanıcı tarafından oluşturulmuş bir Topluluk Notu eklemeyi başardı ve diğerlerine videonun sahte olduğunu bildirdi.

X’in aksine, AI tarafından oluşturulan yanlış bilgiler TikTok’un platform kurallarını ihlal ediyor. TikTok, politikalarını ihlal eden içeriklerin %98’ini proaktif olarak kaldırdığını söylüyor. Ancak Media Matters raporuna göre, Harris deepfake’in viral yüklemelerinden biri kaldırılmadan önce 4,1 milyondan fazla izlenme aldı. TikTok, Harris deepfake’i kaldırmak için diğer yüklemeleri tespit etmek için çalıştığını söylüyor.

Deepfake videoları uzun zamandır bir endişe kaynağı siyasi kampanyalar için. Şimdi, AI tarafından üretilen ses ve video araçları halk tarafından bu kadar özgürce erişilebilir ve erişilebilirken, deepfake’ler muhtemelen 2024’te her zamankinden daha büyük bir sorun olacak.