X’in yapay zeka sohbet robotu Grok, İran’ın İsrail’e saldırmasıyla ilgili sahte bir trend manşeti uydurdu

Perşembe günü Elon Musk’un X’inin “ön sayfasında” veya ana yayınında şok edici bir hikaye tanıtıldı:

Manşet, “İran Tel Aviv’i Ağır Füzelerle Vurdu” başlığını okudu.

Bu kesinlikle dünya çapında endişe verici bir gelişme olacaktır. O haftanın başında İsrail yürütülen İran’ın Suriye’deki büyükelçiliğine düzenlenen hava saldırısında iki general ve diğer subaylar öldürüldü. İran’ın misilleme yapması makul bir olay gibi görünüyordu.

Ancak önemli bir sorun vardı: İran, İsrail’e saldırmadı. Başlık sahteydi.

Daha da endişe verici olan, sahte başlığın X’in kendi resmi yapay zeka sohbet robotu Grok tarafından oluşturulduğu ve ardından özelliğin güncellenmiş versiyonunun ilk gününde X’in trend haber ürünü Explorer tarafından tanıtıldığıdır.

Tweet silinmiş olabilir

Musk bunun olmasına nasıl izin verdi?

Elon Musk, o zamanlar Twitter olarak bilinen platformu satın almadan birkaç yıl önce şirket, aşağıdakileri sağlayan yeni bir özelliği kullanıma sundu: yazılı bağlam Trend olan konular için. Yazılı trend açıklamalarına güç veren teknoloji mi? İnsanlar.

Daha önce bir hikaye yayınlandığında Twitter’ın algoritmaları, yayınlanan ilgili anahtar kelimeleri yakalayıp trendi paylaşıyordu, ancak bazen belirli bir kelime grubunun neden trend olduğu açık olmuyordu.

Ancak 2020’de Twitter şöyle bir ekip oluşturdu: insan editörler haberleri düzenlemek ve trendleri bağlam içine koymak. Buna ek olarak, trend olan bir konu başlığı altında ortaya çıkan en iyi tweet’ler artık yalnızca algoritmik olarak sıralanmayacak, aynı zamanda insanların küratörlüğünü de içerecek. Bir yıl sonra Twitter’da ortak Trend olan konulara insan kaynaklı bağlam sağlama çabalarını daha da güçlendirmek için AP ve Reuters ile birlikte.

Ancak Musk’un şirketi Ekim 2022’de satın almasından kısa bir süre sonra, gündemdeki konularla ilgili yazılı içerik ortadan kayboldu. Musk, Twitter’ın insan editörlerini işten çıkarmıştı. Reuters’in Kasım 2022’de bildirdiği gibi, “Twitter’ın ‘Twitter’da ortaya çıkan en iyi olayları ve hikayeleri öne çıkarmak ve bağlamsallaştırmaktan’ sorumlu küratörlük ekibi görevden alındı.”

X’in yeni güncellenen Keşfet sayfası

Bu haftanın başlarında @XDaily gibi bazı X hayran hesapları paylaşıldı Ekran görüntüleri X’in yakında çıkacak Keşfet sayfasının yeniden başlatmak. X’in Keşfet sayfası, kullanıcılara her bir konu kategorisinde trend olan hikayeleri sunmak için platformun kötü şöhretli trend konu listesinin yanı sıra “Haberler” ve “Spor” gibi belirli bölüm aralarını içerir.

Tweet silinmiş olabilir

Musk’un güncellenen Keşfet sayfası, trend konu ve hikayelere sağlanan yazılı bağlamı geri getirmeye hazır görünüyordu.

4 Nisan’da X, yeni güncellenen Keşfet sayfasını kullanıma sunmaya başladı. Güncelleme, her bir trend konu hakkında en iyi kullanıcı gönderilerinin yanı sıra, kullanıcı içeriğinin üzerinde konunun anlaşılması kolay bir özetini de sağlıyor. Sayfanın en üstünde, X tarafından oluşturulan bir başlık, bilgileri okuyuculara sanki konuyla ilgili bir makale okumak üzereymiş gibi sunar.

Ayrıca güncelleme, Keşfet’e platformda yeni ve öne çıkan bir konum da sağlıyor. Keşfet’in trend hikayeleri artık doğrudan yüz milyonlarca X kullanıcısının her gün görüntülediği trend konular listesinin bulunduğu ana X ana sayfasının sağ kenar çubuğuna gömülü olarak görünüyor.

Popüler Twitch kullanıcısı Hasan Piker’in yayınından alınan ekran görüntüsünde, yapay zeka tarafından oluşturulan sahte X başlığı, platformun ana sayfa kenar çubuğunda trend olarak görülüyor.
Kredi bilgileri: Hasan Piker’in Twitch’i

Ancak Musk, Twitter’ın küratörlük ekibini geri getirmedi veya X’in sağladığı bağlamı yazacak yeni insan editörleri işe almadı.

İçerik, X’in yapay zeka sohbet robotu Grok tarafından yazılmıştır.

Yapay zekaya bağlı X tehlikesi

Yoğun bir yapay zeka özelliği olan Grok’un terfi ettirildi ile MiskX’in bağlamsallaştırılmış özetlerine güç veriyor çünkü X, her Keşfet sayfasındaki ayrıntılı baskıda bunu kendisi söylüyor.

Tweet silinmiş olabilir

Keşfet sayfasında sağlanan yazılı bağlamın altında X’in küçük notunda “Grok erken bir özelliktir ve hata yapabilir” yazıyor. “Çıktılarını doğrulayın.”

Mashable, X’in Perşembe günü trend olan sahte haberleri yayan “İran Tel Aviv’i Ağır Füzelerle Vuruyor” sayfasını gözlemledi.

Gözlemlerimize göre, mavi onay işaretli hesapların (doğrulama rozeti de dahil olmak üzere Premium özellikleri için X’e aylık abonelik ödeyen kullanıcılar) İran saldırısıyla ilgili aynı kopyala-yapıştır yanlış bilgiyi spam olarak göndermesi nedeniyle konunun trend olmaya başladığı anlaşılıyor. İsrail. X tarafından sağlanan seçilmiş gönderiler, patlamaları tasvir eden doğrulanmamış bir videonun yanı sıra bu sahte haberi yayan bu doğrulanmış hesaplarla doluydu.

Grok’u bilgilendiren mavi çek kullanıcılarından gelen sahte haber gönderilerini gösteren, X Keşfet sayfasındaki iki ayrı gönderinin yan yana karşılaştırması.
Kredi: Mashable ekran görüntüsü

Buradan, X’in algoritmalarının bu kullanıcıların gönderilerinde potansiyel bir hikaye eğilimini fark ettiği ve bir Hikayeyi Keşfet sayfası oluşturulduğu anlaşılıyor. X’in kendi iç işleyişine ilişkin iddialarından, Grok’un akılda kalıcı bir başlıkla birlikte resmi görünümlü bir yazılı anlatım yaratmış olması gerektiği sonucunu çıkarabiliriz. Tüm bunları, platformun kendisinin gerçek bir hikaye olduğunu varsaydığı şeye ilişkin bağlam sağlamak amacıyla otomatik bir girişimle, sahte haberleri paylaşan seçilmiş kullanıcılara dayanarak yaptı.

Bu ilk kez olmayacak Grok kullanıcılara yanlış bilgi verdi. X’in sohbet robotunun ilk sürümlerine ilişkin önceki raporlarda, ona erişimi olan seçilmiş birkaç kullanıcıyla yapılan özel sohbetlerde sıklıkla sahte haberler oluşturulduğu ortaya çıktı. Bununla birlikte, yeni Keşfet özelliğiyle birleşen bu son olay, X’in Grok’un yanlış bilgisini ilk kez aldığı, bunu gerçek bir trend haber hikayesi olarak paketlediği ve görünüşte gerçek bir olayın bağlamı olarak tüm kullanıcı tabanına tanıttığı zamanı ortaya koyuyor.

Musk yönetimi altında dezenformasyon hızla yükseldi Şirket, X olarak bilinen platformda. Yeni Keşfet ürünü sayesinde şirket, etkileşim oluşturma karşılığında para kazanan kötü oyunculara ödeme yaparak yayılan bir yalanı destekledi.

Bir gün Grok, X’in Keşfet sayfası aracılığıyla tanıttığı bu sahte hikayeyi oluşturduktan sonra şirket, Grok’u Premium abonesi olan tüm X kullanıcılarına sunarak onların da yanlış bilgi oluşturan yapay zeka sohbet robotunu kullanabilmelerini sağladı.

Tweet silinmiş olabilir