FCC, derin sahte otomatik aramalar nedeniyle siyasi danışmana 6 milyon dolar para cezası verdi

Federal İletişim Komisyonu (FCC), New Hampshire ön seçimleri sırasında derin sahte yapay zeka teknolojisi ve arayan kimliği sahtekarlığı kullanan bir dizi yasa dışı otomatik arama nedeniyle siyasi danışman Steve Kramer’e karşı tavsiye edilen tam para cezasını resmen yayınladı. Kramer’in önümüzdeki 30 gün içinde 6 milyon dolar para cezası ödemesi gerekiyor, aksi takdirde Adalet Bakanlığı tahsilatla ilgilenecek. .

Kramer kuralları ihlal etti Yasal kayıtlara göre, 2009’da kabul edilen yasa, herhangi birinin “dolandırmak, zarar vermek veya haksız yere değerli bir şey elde etmek amacıyla yanıltıcı veya yanlış arayan kimlik bilgilerini bilerek iletmesini” yasaklıyor. Yasa yapay zekanın yaygın kullanımından önce geldi, ancak FCC oy kullandı Geçtiğimiz Şubat ayında bu tür deepfake’lere uygulanmasını sağlamak.

Sahte otomatik aramalar, Başkan Biden’ın sesinin önceden kaydedilmiş sesini derin sahte yapay zeka teknolojisini kullanarak New Hampshire sakinlerine 2024 başkanlık ön seçimlerine kadar iletti. Sahte Başkan Biden, seçmenlere yaklaşan ön seçimlerde oy kullanmamalarını söyleyerek, “Oyunuz bu Salı değil, Kasım ayında fark yaratıyor” dedi. . New Hampshire Demokrat Partisi’nin eski başkanından geliyormuş gibi görünecek şekilde otomatik aramalar sahtekarlıkla yapıldı. .

Kramer, sahte kayıtları yapması için New Orleans’lı sihirbaz (hayır, aslında gerçek bir sihirbaz) Paul Carpenter’ı tuttu. Marangoz gösterdi ElevenLabs adlı yapay zeka ses oluşturucuyu kullanarak Başkan Biden’ın derin sahte ses dosyalarını nasıl oluşturduğunu anlattı. Kayıtların yapımının yalnızca 20 dakika sürdüğünü iddia ediyor. Carpenter, Kramer’in kendisine Venmo aracılığıyla ödeme yaptığını ve yaptığı işin Başkan Biden’ın kampanyası tarafından yetkilendirildiğini düşündüğünü söyledi. Eleven Labs o zamandan beri Carpenter’ın hesabını kapattı.

Kramer, otomatik aramaları teknolojinin tehlikeleri ve kötüye kullanımı konusunda farkındalık yaratmak için gönderdiğini iddia ediyor. Görünüşte yaptığı deney ona yalnızca 500 dolara mal oldu ama siyasi danışmana göre büyük bir getiriyle sonuçlandı. Kramer, CBS New York’a “Bunu yapmak ve 5 milyon dolar değerinde risk almak benim için değil” dedi. “Kuralların kendi kendine işlemesi ya da işlemeye başlaması için kendimi isimsiz tuttum. Ünlü olmama gerek yok. Niyetim bu değil. Amacım bir fark yaratmaktı.”

Kramer sadece ağır bir FCC para cezasıyla karşı karşıya değil, aynı zamanda cezai suçlamalarla da karşı karşıya. Geçtiğimiz Mayıs ayında, Kramer’in seçmenleri baskı altına alma nedeniyle 13 ağır suç ve bir adayın kimliğine bürünme nedeniyle 13 kabahat suçlaması aldığını duyurdu.