AI dolandırıcılık uyarısı: FTC Başkanı uyardı, ses klonları aşırı dolandırıcılıktır

FTC Başkanı Lina Khan, AI araçlarının, özellikle de ses klonlarının aşırı dolandırıcılık olduğu konusunda uyardı.

Perşembe günü bir AI ve risk sermayesi etkinliğinde konuşan Khan, yetkililerin AI destekli dolandırıcılığı durdurmak için proaktif olmaları gerektiği konusunda uyardı, Bloomberg bildirdi.(yeni bir sekmede açılır)

Bloomberg’e göre, sıkıntı içindeki aile üyelerini örnek olarak kopyalayabilen ses klonlarını kullanarak AI “turbocharge” dolandırıcılıklarını zaten gördüklerini belirtti.

Bloomberg’e göre Khan, “Erken uyanık olmamız gerekiyor” dedi. “Öncelikle ön uçta dikkatli olmanız gereken bir şey varsa, çünkü bu sorunları sonradan çözmek çok daha zor.”

Tweet silinmiş olabilir
(yeni bir sekmede açılır)

Ses klonlarının insanları kandırabildiği kanıtlanmıştır. A CNN raporu (yeni bir sekmede açılır)teknolojiyi kullanarak fidye talep eden sahte kaçırma çağrılarının daha yaygın hale geldiğini kaydetti. Jennifer DeStefano, arayanın sesini kopyalamak için yapay zeka kullandığını fark etmeden önce kızları için 1 milyon dolar talep eden bir arama alma hikayesini anlattı.

CNN’e “Ses tıpkı Brie’ninki gibiydi, çekim, her şey” dedi.

AI ses klonları, gerçek sanatçıların sahte versiyonlarını içeren popüler şarkılar bile yaptı. Pentagon’un saldırıya uğradığını gösteren nispeten kolay tespit edilen sahte bir görüntü bile borsada gerçek bir düşüşe neden oldu.

Khan, Bloomberg’e göre, “Bu şeyler günlük kararların nasıl alındığına daha fazla gömülü hale geldikçe, çok fazla incelemeyi davet ettiklerini ve hak ettiklerini düşünüyorum” dedi. “Bu sorunlar ve endişeler oldukça acil ve bence ister eyalet düzeyinde ister ulusal düzeyde uygulayıcılar harekete geçecek.”