Yapay zeka görüntü oluşturucuları çocukların cinsel istismarına ilişkin görüntüler konusunda eğitiliyor

Bu yeni cesur yapay zeka odaklı dünyada başarılı olmanıza yardımcı olacak en son yapay zeka haberlerini, araçlarını ve ipuçlarını size sunduğumuz haftalık güncellememiz Yapay Zekada Yenilikler’e hoş geldiniz. Haftanın en büyük (ve şu anda en çok konuşulan) hikayesine odaklanarak başlayalım:

Eğitim modellerinde çocuk istismarını tasvir eden gerçek görüntüler kullanılıyor olabilir

Stanford İnternet Gözlemevi’nin endişe verici yeni bir raporu, LAION-5B veri kümesinde çocukların cinsel istismarından şüphelenilen en az 3.200 görüntü bulunduğunu ve şu ana kadar en az bin görüntünün Stanford tarafından Kanada Çocuk Koruma Merkezi ve diğer kuruluşlarla işbirliği içinde doğrulandığını ortaya çıkardı. istismar karşıtı gruplar En endişe verici olan ise bu verilerin şu anda Stable Diffusion’ın Stability AI’si ve Google’ın Imagen oluşturucuları gibi araçlar tarafından kullanılmasıdır.

İyi haber şu ki, LAION’un arkasındaki kâr amacı gütmeyen kuruluş, zararlı içeriğe karşı sıfır tolerans politikasına sahip olduklarını ve sorun incelenirken veri kümelerini çevrimiçi olarak geçici olarak kaldıracaklarını açıkça belirtti. Görüntüler veritabanının yalnızca küçük bir kısmını oluştursa da, zarar hafife alınamaz. Bu verilerin kötü aktörler tarafından yasa dışı pornografi görüntüleri oluşturmak ve diğer kötü amaçlarla kullanılması çok olasıdır. Aslında, sosyal medya resimlerini kullanarak gençlerin kıyafetlerini dijital olarak çıkarmak için yapay zekanın kullanılmasıyla ilgili olaylar zaten yaşandı. Daha önce bunun büyük ölçüde, yetişkin pornolarından elde edilen eğitim verilerinin, eğitim verilerini toplayanlar tarafından toplanan yasal, sıradan çocuk görüntüleri ile birlikte kullanılmasıyla yapıldığına inanılıyordu. Görünen o ki, bu yasa dışı eğitim verilerinin de işin içinde olması mümkün.

Ne yazık ki yapay zeka modellerinin çalışma şekli, internette bulduğu yasa dışı verilerin hurdaya çıkarılmasının önlenmesini zorlaştırıyor ve bu da koruma önlemlerinin önemini daha da önemli hale getiriyor. Stable Diffusion gibi pek çok şirketin halihazırda zararı azaltan uygulamaları olsa da, yetkisiz veya saldırıya uğramış pek çok araç da mevcut. 50 ABD başsavcısının tamamı tarafından Kongre’de AI tarafından oluşturulan CSAM’ye değinmek için geçmişte çağrılar yapılmıştı ve umarız bu yeni rapor, gerekli koruma ve düzenlemelerin uygulamaya konması için daha da parlak bir ışık tutmaya yardımcı olur. Hikaye hakkında daha fazlasını şuradan okuyabilirsiniz: İlişkili basın.

Haberlerde yapay zeka: Bu hafta başka neler oluyor

Yukarıdaki rapor kesinlikle haftanın en endişe verici haberi olsa da, yapay zekada gerçekleşen tek olay olmaktan çok uzak. İşte hızlı bir özet:

• Rite Aid’in yapay zeka yüz tanıma özelliğini kullanması yasaklandı. Rite Aid, hırsızlık yapanların ve diğer kötü aktörlerin peşine düşmek için yapay zeka yüz tanıma özelliğini kullandıktan sonra başını FTC ile belaya soktu. Şirket, görüntüleri bir “ilgili kişi” veritabanı oluşturmak için kullanıyordu. Bu veri tabanı sonuçta mağaza çalışanlarının bu bilgileri müşterileri uygunsuz davranışlarla suçlamak, özellikle kadınları ve farklı ırklardan insanları hedef almak için kullanmasına yol açtı. FTC, “yüz izleme sistemlerinin dikkatsiz kullanımı” nedeniyle şirketin önümüzdeki beş yıl boyunca işletmelerinde yapay zeka yüz tanıma özelliğini kullanamayacağını söyledi.
• Yapay zeka derebeylerimizden saklanacak yer yok. Google Street View görsellerinin ilk olarak nerede çekildiğini bulmaya yardımcı olmak için üç Stanford öğrencisi tarafından Görüntünün Coğrafi Konumlarını Tahmin Etme adlı yeni bir proje oluşturuldu. Ancak daha önce hiç görülmemiş kişisel fotoğrafları yükledikten sonra, kişinin konumunu yüksek doğrulukla bulmak için yapay zekayı kullanabildiler. Bunun büyük gizlilik endişeleri sunduğunu söylemek, bunu ılımlı bir ifadeyle ifade etmek olacaktır.
• AB, ülke içinde yetişen yapay zeka girişimlerini desteklemek istiyor. Avrupa Birliği, bu girişimlere bir süper bilgisayarın sağlayabileceği gerekli işlem gücüne erişim sağlamak istiyor.
• Bir Arkansas gazetesi Google’a dava açıyor. Helana World Chronicle’ın açtığı dava, Google Bard AI’nın “haberler, dergiler ve dijital yayınlar” içeren bir veri kümesi üzerinde eğitildiğini ve bunun özgür basını olumlu bir getirisi olmadan olumsuz etkilediğini iddia ediyor. Ayrıca, Google’ın yeni yapay zekasının son kullanıcıları haber sitelerini ziyaret etmekten caydırmak için tasarlandığını ve bu iş için yapay zekayı doğrudan Google’dan almayı tercih ettiğini öne sürüyor.

Yapay Zeka Araçları ve Uygulamaları

Yapay Zeka Araçları ve Uygulamaları incelememizde, ekstra ilgiye değer olduğunu düşündüğümüz yeni uygulamalara ve araçlara ışık tutuyoruz. Dürüst olalım, bu hafta araçlar için daha sessiz bir haftaydı, bu da tatil sezonunun derinliklerine doğru mantıklı geliyor. Bu haftanın odağı teknik olarak yeni olmayan bir araca odaklanıyor ancak oldukça ilginç bir güncelleme alıyor.

Microsoft Copilot diğer bazı sohbet robotlarıyla aynı düzeyde ilgi görmese de GPT 4 üzerine kuruludur ve aslında oldukça güçlüdür. Ayrıca Microsoft Edge, Windows ve daha fazlası da dahil olmak üzere daha fazla yere yayılıyor. Çoğunlukla, Copilot diğer ana sohbet robotlarıyla aynı şeyleri yapıyor ancak Suno ile yeni entegrasyonu onu bu hafta vurgulamaya değer kılıyor. Microsoft Copilot’u ziyaret edin ve ondan “Suno ile müzik yapmasını” isteyin. Basit bir eklentiyle, bir veya iki satırlık basit bir metin istemini kullanarak yapay zeka tarafından oluşturulan müziğinizi oluşturabileceksiniz.

nasıl yapılır ve ipuçları: Bard vs ChatGPT, hangi AI sohbet robotu yolculuk planlamasında daha iyi performans gösteriyor?

Yapay zeka hakkında daha fazla bilgi edinmek, yapay zeka araçlarından nasıl daha iyi yararlanabileceğinizi veya gizliliğinizi yapay zekadan nasıl koruyacağınızı mı öğrenmek istiyorsunuz? Her hafta size yeni bir nasıl yapılır kılavuzu veya paylaşmaya değer olduğunu düşündüğümüz bir ipucu sunacağız. Bu hafta, konu bir seyahat programı planlama olduğunda Gemini Pro ve ChatGPT’nin nasıl karşılaştırıldığına daha yakından bakan en son yapay zeka makalem için küçük bir kişisel tanıtım yapıyorum. Bu sadece iki aracın ne kadar farklı yanıt verme eğiliminde olduğuna dair bir fikir vermekle kalmıyor, aynı zamanda hangisinin ihtiyaçlarınıza daha uygun olduğunu görmek için de iyi bir rehber.