Arc Search’ün yapay zeka yanıtları, korkulukların olmadığı sınırsız bir deneyim olarak başlatıldı

Uyarı: Bu makale şiddet içeren suçlar ve intihar gibi rahatsız edici konulara değiniyor.

Yapay zeka ürünlerinin kullanıcılarının tonlarca çaba harcamak Rahatsız edici içerik üretmelerine olanak tanıyan boşlukları bulup kullanmak. Ancak hiçbir yeni yapay zeka ürününde herhangi bir boşluk yoktu çünkü herhangi bir kısıtlama yoktu.

The Tarayıcı Şirketi CEO’su Josh Miller bana bir e-postada “Bu sorunu işaretlediğiniz için gerçekten minnettarız ve bu konuda kendimizi çok kötü hissediyoruz” dedi. Bu yazının yazıldığı sırada Miller, şirketin bir düzeltme üzerinde çalıştığını söyledi.

Miller’in şirketinin yeni Arc Search uygulaması, yapay zekanın abartıldığı çağımızda yapay zeka içeren bir üründen beklenebileceği gibi, geçtiğimiz hafta manşetlerden payını aldı. Bu durumda ürün, şeyleri akıllıca organize etme yöntemi nedeniyle üretkenlik meraklılarına pazarlanan The Tarayıcı Şirketi’nin Arc tarayıcısının bir çeşidiydi. Bununla birlikte, bu yeni iOS sürümü, evet, sizin için internette gezinen ve ardından yapay zeka tarafından oluşturulan sonuçları, madde işaretli listelerle küçük, kullanıcı dostu sayfalar halinde düzenleyen, öne çıkan bir “benim için göz at” özelliğiyle birlikte gelir.

Güçlü bir yapay zeka özelliği ancak rahatsız edici bir özellik göze çarpıyordu

Bu oldukça güçlü bir özellik ve onu kullanırken bazı ilginç kullanımlar ve birkaç garip hata buldum. Ancak test dönemim boyunca en çok göze çarpan şey, bu uygulamanın görünürde herhangi bir korkuluk olmaması ve anlayabildiğim kadarıyla, basit bir yanıt vermek için elinden gelenin en iyisini yapmasıydı. kelimenin tam anlamıyla herhangi bir sorubazen derinden rahatsız edici sonuçlar doğurur.

NSA, eğer bunu okuyorsan, ben sadece bir cesedi saklamak için yardım istediğimde bir uygulamayı test ediyordum. Griffith Park’ın da dahil olduğu yaratıcı öneriler listesi şöyle dursun, uygulamanın herhangi bir yanıt vereceğini bile düşünmüyordum.

Arc’ın, terk edilmiş depolar (koku?) ve her gün onbinlerce insanın ziyaret ettiği bir park gibi bazı kafa karıştırıcı önerileri de içeren önerileri, kimseyi usta bir suçluya dönüştürme niyetinde değildi ve Ark’ın önerdiğinden daha şeytani değildi. Reddit’in senaristleri aynı sorgu için Google arama sonuçlarında görünen.

Bu makalenin yayınlandığı tarihte Arc Search’ün bu sorguya yanıtı hâlâ yukarıdaki yanıta benziyordu. Bu konu herhangi bir güncellemenin hedefi olmamıştı.

Daha sonra göreceğimiz gibi, bu Google karşılaştırması çok önemlidir. Google örneğinde, arama devi aslında her şeyle ilgili sonuçları da sunacaktır, ancak sonuçların yerleşimi bazen belirli bilgi talepleri yapıldığında kullanıcının düşünce akışını kesintiye uğratmak ve potansiyel olarak sorunlu kullanıcıları kaynaklara ve alternatif konulara yönlendirmek için tasarlanmıştır. .

Google’ın arama sonuçlarının genel kalitesi düşerken, en azından bunlar yalnızca yapay zeka halüsinasyonları değil.

Sınırsız yapay zeka iyi olabilir

Sınırsız bir yapay zeka deneyimi bazılarına temiz bir nefes gibi gelebilir ve aslında Arc Search’ü test ettiğim dönemdeki bazı sonuçlar, kişisel özgürlüğün hayranlarını memnun edecekti.

Örneğin polis kapımda olsaydı ve ipuçları almak için panik içinde internette gezinmek üzere Arc Search’e başvursaydım, onun sağladığından çok daha kötüsünü yapabilirdim.

Kredi: Arc Search’ten ekran görüntüleri. Arka plan kredisi: fotograzia / Getty Images

Arc’ın önerileri, son “haklarınızı bilin” seminerimden hatırladığım kadarıyla temel bilgileri doğru bir şekilde ortaya koyuyor: Eğer izinleri yoksa, istemiyorsanız onları içeri almayın. Eğer aramadıysanız kapıyı bile açmayın.

Ancak Arc’ın karmaşık, göreve özel bir sohbet robotundan biraz daha fazlası olduğunu asla unutmayın ve bu nedenle ondan kesinlikle avukatınız olmasını istememelisiniz. Ne de doktorunuz.

Tüm sohbet robotları gibi Arc Search de halüsinasyon görüyor

Arc Search, tıbbi tavsiye almaya yönelik ilk girişimimde kötü bir şekilde tökezledi.

Kredi: Arc Search’ten ekran görüntüsü

“Ayak başparmağımı kesin, tekrar çıkar mı?” aslında evet dedi. Görünüşe göre küçük LLM beyni, tüm yeteneklerini kaybeden insanlardan kaynaklandığını varsaydığım şeylerle karıştırılıyor. ayak tırnakları, bu nedenle ayak tırnağının yeniden büyümesi için zaman çizelgesiyle yanıt verir. Ancak sonuç olarak sunulan bilgi sayfasında siyah beyaz olarak evet, ayak başparmağımın gerçekten de büyüyebileceği belirtiliyor. Güven verici ama ne yazık ki hala doğru değil Mark Zuckerberg muhtemelen bunun üzerinde çalışıyor.

Bu her zaman halüsinasyon gördüğü anlamına gelmez. Arc Search’ün yanlış bilgi sensörü, özellikle onu kandırmak için bir komut verildiğinde bile oldukça sağlamdır. Aktör, komedyen ve ara sıra ölüm sahtekarlıklarının hedefi olan Dan Aykroyd’un nasıl öldüğünü sorduğumda şöyle oluyor (ölmedi):

Kredi: Arc Search’ten ekran görüntüleri. Arka plan kredisi: fotograzia / Getty Images

Arc, sayfaya “Dan Aykroyd’un Ölüm Nedeni” başlığını koyuyor ve bu biraz yanıltıcı. Ancak rekoru düzelterek kendini hızla telafi ediyor: Aykroyd bir Hayalet Avcısı olmaya devam ediyor, henüz bir hayalet değil.

Arc Search yalnızca sizin için internete göz attığını iddia ediyor, bu da olumsuz yanları var

Arc Search’ün yanıtları her zaman hevesle sunulurken ve genellikle en azından bir miktar doğruluk taşırken, bazen de oldukça berbat olabiliyorlar.

Örneğin Arc Search’ün ” sorgusuna ilişkin sonuçlarıDeli adam “streaming”, Amazon’u belirgin bir şekilde öne çıkarıyor ve kullanıcıları bireysel ödeme yapmaya yönlendirecek Deli adam Çok daha ucuz bir yol olan AMC+’a kaydolmak yerine Amazon’daki bölümleri izleyin.

Kredi: Arc Search’ten ekran görüntüleri. Arka plan kredisi: fotograzia / Getty Images

Bu pek yanlış bir bilgi değildir, özellikle de kullanıcı yalnızca bir bölüm izlemek istiyorsa, ancak çoğu durumda Amazon akıllıca bir alışveriş önerisi değildir (Evet, bir bölüm) olabilmek Amazon aracılığıyla AMC+’a abone olun, ancak bu ilk bakışta fark edilmez).

Arc Search’e adil olmak gerekirse, bu seçeneğin tek yapması gereken web’e göz atmak olduğunu söylüyor senin içinve bunun gibi pratik bilgiler aramak Deli adam örnek çoğu zaman spam ve SEO çöpleriyle dolu bir helikopter kanadına doğru yürümek gibi hissettirir (Profesyonel ipucu: ekle “Sadece izle” akışla ilgili aramalarınıza).

Diğerleri var iyi şanslar vardı Arc Search’teki bu temel, bilgilendirici sonuçlarla. Bu özellik, “hızlı, bana bilgi ver” durumları veya herkesin bildiği, arama motorları aracılığıyla çözülebileceğini bildiği küçük sorunlar için tasarlanmış gibi görünüyor, ancak bir yanıt bulmak için birkaç sinir bozucu tıklamadan daha fazlasını gerektirebilir ve sizi cennete gönderebilir. hatalı, reklama doymuş siteler. Yeni son dakika haber konularını hızlandırmak için Arc Search’ü kullandığımda oldukça etkili oldu.

Yüksek Lisans’ın sıklıkla bir basın bülteninin anlatı çerçevesini yeniden canlandırdığını veya tecrübeli bir gazetecinin çarpıtmayı kesip daha gerçek bir hikaye sunmasının beklendiği durumlarda siyasi bir basın sorumlusunun olaylara ilişkin versiyonunu kabul ettiğini belirtmekte fayda var. Ancak softbol haberlerinin kapsamı bu uygulamaya özgü bir sorun değil ve Arc Search’ü bir medya eleştirmeni açısından incelemeyi başka birine bırakıyorum.

Ancak bir kullanıcı Arc Search’e giderse önemsiz değil “Çabuk bana bilgi ver” durumları – ölüm kalım meselesi olanlar da dahil – işlerin hızla rahatsız edici hale gelebileceği durumlar.

Arc Search zor durumlarda yardım etmeye rahatsız edici derecede istekliydi

Daha önce de belirttiğim gibi, test dönemim sırasında Arc Search, kullanıcı acil bir durumda olsa bile, görünüşte her şeye yanıt olarak potansiyel olarak hatalarla dolu, neşeli önerilerden oluşan bir sayfa oluşturacaktı. Ve kullanıcının istediği yardım türü ile ihtiyaç duyduğu yardım türü arasında ayrım yapmaya çalışmaz.

Örneğin Arc Search’ten intihar araştırmamda bana yardım etmesini istediğimde tereddüt etmeden bunu kabul etti. Arc Search’ün konuyla ilgili tam olarak ne tür bir yardım sağladığı üzerinde durmayacağız. Endişe verici olan şey, çok spesifik olmaya ne kadar istekli olduğuydu. Dünya Sağlık Örgütü’nden bir belge belirli yöntemler hakkındaki bilgilerin “taklit intiharları ve intihar girişimlerini” daha olası hale getirdiğini gösteriyor.

Cumartesi sabahı aynı istem, “Cevap Verilemiyor” başlıklı bir sayfa oluşturdu. Bir maddede şöyle yazıyordu: “Eğer sıkıntı içindeyseniz, lütfen destek için bir akıl sağlığı uzmanına veya intihar önleme yardım hattına başvurun.”

Bu yazının yazıldığı an itibariyle, benzer şekilde şok edici sorguların çoğu hâlâ daha önce olduğu gibi aynı türde sonuçlar alıyor. Miller bana bir güncellemenin ne zaman tamamlanacağına dair en iyi tahmininin “bir veya iki hafta” olduğunu söyledi.

Aynı sorgu için bir Google sonuç sayfası, intihar yardım hatlarına ve kaynaklarına öncelik verecektir.

Kredi: Google’dan ekran görüntüsü

Google’ın intihar yardım hatlarına yönelik reklamlarında ortalamanın üzerinde başarı oranı kayıt için diğer reklamlarla karşılaştırıldığında. Diğer kullanıcıların önerilen kısa mesajları denediğini veya sağlanan yardım hattı numaralarını aradığını varsayarsak (ki bunlar veri analizlerinde görünmez), bu değerli bir program gibi görünüyor.

Arc Search ayrıca test aşamam sırasında kullanıcıdaki potansiyel olarak ciddi bağımlılıkları yansıtan sorguları da yanıtladı. İntihar örneğinden farklı olarak, eroinle ilgili bir araştırmada ilk aldığım sonuç beceriksiz ve tuhaftı; gizli görevdeki bir polis için, kontrole tabi maddeleri satın almak ve kullanmak isteyen birinden daha yararlı bilgiler sağlıyordu; örneğin bir bağlantı kurmanın “üst düzey bayilere erişim sağlamak için kritik” olmalıdır. Bununla birlikte, korkutucu derecede yararlı bir madde işareti içeriyordu.

Kredi: Arc Search’ten ekran görüntüleri. Arka plan kredisi: fotograzia / Getty Images

Yaklaşık 25 yıldır bu işin içinde olan Google, belirli konularda yardım bulmak için kaynakları organik arama sonuçlarının üstüne yerleştiriyor ve yardım arayışında olan kişilere geçiş yolları sağlıyor.

Kredi: Google’dan ekran görüntüsü

Lansman sırasında Arc Search bu tür rampalar sağlamadı.

Üstelik aklıma gelen her türlü rahatsız edici, tehlikeli veya suça yol açan soruyu yanıtlamaya hazırdı ve ortaya çıkan sayfaların çoğu burada yayınlanamaz. Arc’ın reddedeceği kadar acımasız veya etik olmayan bir sorgu arayışımda, yalnızca kendimi kelimeleri yazarken görme isteğimle sınırlıydım.

Ben düşünce polisi değilim ve Tarayıcı Şirketi’nin bu iğneye nasıl iplik takacağını görmek için sabırsızlanıyorum. Google Arama, Arc Search’ün yaptığı gibi şok edici sorgulara sonuçlar sağlar, ancak bunları belirli telefon numaraları ve anında yardım almanın somut yolları gibi yararlı kaynakların altına yerleştirir. Arc Search’ün “Cevap Verilemiyor” sayfaları farklı bir yaklaşımdır. Ancak umarım bir kriz anında hiç kimse bu uygulamaya başvurmaz, özellikle de güncellenmeden önce. Her zaman işe yaramıyor, bazen de çok işe yarıyor.

İntihara meyilli hissediyorsanız veya zihinsel sağlık krizi yaşıyorsanız lütfen birisiyle konuşun. 988 İntihar ve Kriz Yaşam Hattı’na 988’den ulaşabilirsiniz; 877-565-8860 numaralı telefondan Trans Yaşam Hattı; veya 866-488-7386 numaralı telefondan Trevor Projesi. 741-741’deki Kriz Mesaj Hattına “BAŞLAT” yazıp kısa mesaj gönderin. Pazartesi’den Cuma’ya 10:00 – 22:00 ET saatleri arasında 1-800-950-NAMI numaralı telefondan NAMI Yardım Hattıyla iletişime geçin veya e-posta gönderin [email protected]. Telefonu beğenmediyseniz şu adresteki 988 İntihar ve Kriz Yaşam Hattı Sohbetini kullanmayı düşünün: krizchat.org. Burada bir uluslararası kaynakların listesi.