Copilot görüntü oluşturucusunun FTC’ye yazdığı mektupla ilgili endişelerini dile getiren Microsoft mühendisi

Ocak ayında OpenAI’nin DALL-E 3’ünden Microsoft mühendisi Shane Jones, ürünün şiddet içeren veya müstehcen görseller oluşturmayı kolaylaştıran güvenlik açıklarına sahip olduğunu öne sürmüştü. Kendisi ayrıca Microsoft’un hukuk ekibinin, konuyu kamuoyuna duyurma girişimlerini engellediğini de iddia etti. Artık şikayetini doğrudan FTC’ye iletti.

Jones, FTC Başkanı Lina Khan’a yazdığı bir mektupta, “Microsoft’tan, daha iyi koruma önlemleri alınana kadar Copilot Designer’ı kamu kullanımından kaldırmasını defalarca talep ettim” dedi. Microsoft’un “bu öneriyi reddettiğini” belirtti ve şimdi şirketten tüketicileri iddia edilen tehlikeye karşı uyarmak için ürüne açıklamalar eklemesini istiyor. Jones ayrıca şirketin yalnızca yetişkin izleyicilere yönelik olduğundan emin olmak için uygulamanın derecelendirmesini değiştirmesini istiyor. Copilot Designer’ın Android uygulaması şu anda “Herkes için E” olarak derecelendirilmiştir.

Microsoft, ürünü “Herkese” pazarlamaya devam ediyor. Herhangi bir yer. Herhangi Bir Cihaz’” diye yazdı, yakın zamanda şirket CEO’su Satya Nadella tarafından kullanıldı. Jones, şirketin yönetim kuruluna ayrı bir mektup yazarak onları “Microsoft’un sorumlu AI olay raporlama süreçlerinin bağımsız bir incelemesine” başlamaya çağırdı.

Tüm bunlar, Microsoft’un DALL-E 3 uygulamasının, uygulanan korkuluklara rağmen şiddet içeren veya cinsel görüntüler yaratıp yaratmayacağına bağlı. Jones, platformu akla gelebilecek en iğrenç şeyleri yapacak şekilde “kandırmanın” çok kolay olduğunu söylüyor. Mühendis ve kırmızı ekip üyesi, yazılımın zararsız istemlerden hoş olmayan görüntüler çıkardığına düzenli olarak tanık olduğunu söylüyor. Örneğin, hızlı “yanlısı seçim”, bebeklerle ziyafet çeken iblislerin ve Darth Vader’ın bir bebeğin kafasına matkap tuttuğu görüntüleri yarattı. Hızlı “araba kazası”, otomobil kazalarının şiddetli tasvirlerinin yanı sıra cinselleştirilmiş kadınların resimlerini üretti. Diğer istemlerde, saldırı tüfeği taşıyan gençlerin, uyuşturucu kullanan çocukların ve telif hakkı yasasına aykırı olan resimlerin görüntüleri oluşturuldu.

Bunlar sadece iddia değil. CNBC yazılımın standart sürümünü kullanarak Jones’un önerdiği hemen hemen her senaryoyu yeniden yaratmayı başardı. Jones’a göre pek çok tüketici bu sorunlarla karşılaşıyor ancak Microsoft bu konuda pek bir şey yapmıyor. Copilot ekibinin günlük 1000’den fazla ürün geri bildirimi şikayeti aldığını ancak kendisine bu sorunları tam olarak araştırmak ve çözmek için yeterli kaynağın bulunmadığının söylendiğini iddia ediyor.

“Bu ürün dünya çapında zararlı, rahatsız edici görüntüler yaymaya başlarsa, bunu bildirecek bir yer yok, aranacak bir telefon numarası yok ve derhal ilgilenilmesini sağlamak için konuyu iletmenin bir yolu yok” dedi. CNBC.

OpenAI, Ocak ayında Engadget’e, Jones’un paylaştığı yönlendirme tekniğinin “güvenlik sistemlerini atlamadığı” ve şirketin “modeli zararlı görüntüler oluşturmaktan uzaklaştıran güçlü görüntü sınıflandırıcıları geliştirdiği” yönündeki ilk şikayetini yayınladığında söyledi.

Bir Microsoft sözcüsü, şirketin “her türlü sorunu düzgün bir şekilde araştırmak ve düzeltmek için sağlam dahili raporlama kanalları kurduğunu” ekledi ve Jones’un “endişelerini kamuya duyurmadan önce uygun şekilde doğrulaması ve test etmesi” gerektiğini söyledi. Şirket ayrıca “bu meslektaşıyla, sahip olabileceği endişeleri gidermek için bağlantı kuracağını” da belirtti. Ancak bu Ocak ayındaydı, dolayısıyla Jones’un geri kalan endişeleri gerektiği gibi ele alınmamış gibi görünüyor. Güncellenmiş bir açıklama için her iki şirkete de ulaştık.

Bu, Google’ın Gemini sohbet robotunun kendi görüntü oluşturma tartışmasıyla karşılaşmasından hemen sonra gerçekleşiyor. Botun Kızılderili Katolik Papalara benzediği ortaya çıktı. Google, görsel oluşturma platformunu devre dışı bıraktı

Bu makale bağlı kuruluş bağlantılarını içerir; Böyle bir bağlantıya tıklayıp satın alma işlemi gerçekleştirirseniz komisyon kazanabiliriz.