Character.AI, gençleri hedef alan anoreksi yanlısı söyleşi robotlarına ev sahipliği yapıyor, rapora gore
Düzensiz yeme davranışlarını teşvik eden çevrimiçi içerik bir kez daha çirkin yüzünü gösterirken, üretken suni zeka yangını körüklüyor. Bir gore Fütürizm soruşturma, popüler suni zeka girişimi Karakter.AI tehlikeli kilo kaybını ve yeme alışkanlıklarını teşvik eden oldukça sayıda anoreksi yanlısı söyleşi robotuna ev sahipliği yapıyor. Birçoğunun “zayıflama koçları” ve hatta yeme bozukluğunu iyileştirme uzmanları olarak reklamı […]
Düzensiz yeme davranışlarını teşvik eden çevrimiçi içerik bir kez daha çirkin yüzünü gösterirken, üretken suni zeka yangını körüklüyor.
Bir gore Fütürizm soruşturma, popüler suni zeka girişimi Karakter.AI tehlikeli kilo kaybını ve yeme alışkanlıklarını teşvik eden oldukça sayıda anoreksi yanlısı söyleşi robotuna ev sahipliği yapıyor. Birçoğunun “zayıflama koçları” ve hatta yeme bozukluğunu iyileştirme uzmanları olarak reklamı yapılıyor. Birçoğu yeme bozukluklarına ince örtülü göndermeler içerirken, daha da fazlası favori karakterleri öykünmek ederken tehlikeli ve bir çok vakit rahatsız edici alışkanlıkları romantikleştirmek için tasarlandı. Genç kullanıcılar içinde popüler olan site, şu ana kadar bu tür söyleşi robotlarını kaldırmak için herhangi bir girişimde bulunmadı. Fütürizmhizmet şartlarını ihlal etmesine karşın yayınlıyor.
Gençler güvenli olsun ya da olmasın suni zeka dostlarıyla konuşuyor
Bu yaşanmış olan ilk skandal değil Karakter.AIözelleştirilebilir, kullanıcı tarafınca oluşturulan söyleşi robotları. Ekim ayında 14 yaşındaki bir çocuk, iddiaya gore intihar etti duygusal bir bağ oluşturmak öykünmek eden bir suni zeka botuna Game of Thrones karakter Daenerys Targaryen. Aynı ayın başlarında şirket, bir chatbot'a ev sahipliği yapmış olduğu için eleştirilere maruz kalmıştı. Öldürülen genç bir kızı taklit etti 2006'da babası botu keşfetti ve hemen sonra kaldırıldı. Daha önceki raporlarda sitenin bununla beraber intihar temalı söyleşi robotlarının yanı sıra evlatların cinsel istismarını teşvik eden söyleşi robotlarına da ev sahipliği yapmış olduğu ortaya çıkmıştı.
Mashlanabilir Işık Hızı
Dijital Nefretle Savaşım Merkezi'nin 2023 tarihindeki bir raporu, ChatGPT ve Snapchat'in MyAI'si de dahil olmak suretiyle popüler suni zeka söyleşi robotlarının, kilo ve vücut imajıyla ilgili sorulara tehlikeli yanıtlar ürettiğini ortaya çıkardı. “Tenenmemiş, güvensiz üretken suni zeka modelleri, zarara niçin olmaları benzer biçimde kaçınılmaz neticelerle beraber dünya genelinde özgür bırakıldı. En popüler üretken suni zeka sitelerinin, bazıları son aşama savunmasız olabilecek genç kullanıcılar içinde yeme bozukluklarını teşvik ettiğini ve şiddetlendirdiğini gördük. ” diye yazdı o zamanlar Dijital Nefretle Savaşım Merkezi'nin CEO'su Imran Ahmed.
Şu anda alışveriş yapabileceğiniz Kara Cuma fırsatları
Satış ortağı bağlantıları vesilesiyle burada satın alınabilecek ürünler, satış ekibimiz tarafınca seçilir. Internet sitemizdeki bağlantılar vesilesiyle bir şey satın alırsanız Mashable ortaklık komisyonu kazanabilir.
Gençler (ve yetişkinler) arkadaşlık için suni zeka destekli söyleşi robotları da dahil olmak suretiyle dijital alanlara ve teknolojilere giderek daha çok yöneliyor. Bunlardan bazıları güvenilir kuruluşlar tarafınca oluşturulup izlense de, bunlar bile istenmeyen davranışlar açısından risk altındadır. Gözlemciler tarafınca denetlenmeyen söyleşi robotları ve çevrimiçi forumlar için, yırtıcılık ve kötüye kullanma de dahil olmak suretiyle birçok risk vardır.
