Microsoft ve Google, AI aramayı çok erken başlattı

Şirketinizin yeni ve çekici bir yeteneği işe aldığını hayal edin, yönetici takımında yükselen bir yıldız o kadar çekici ki rakip bir firma bir benzerini işe aldı. Etraflarındaki vızıltı sarhoş edici. CEO’dan hissedarlara kadar herkes bu kişinin tüm şirketin geleceği olduğu konusunda hemfikir görünüyor.

Sonra yöneticinin kibarca “” olarak adlandırılan şeye sahip olduğunu öğrenirsiniz.halüsinasyon sorunu(Yeni bir sekmede açılır).” Ağızlarını her açtıklarında, bir Yüzde 15 ila 20 ihtimalle bir şeyler uydurabilirler(Yeni bir sekmede açılır). Princeton’daki bir profesör adama şöyle diyor: saçmalık üreteci(Yeni bir sekmede açılır). Onlar kelimenin tam anlamıyla gerçeği kurgudan ayıramaz(Yeni bir sekmede açılır). Beş dakika sonra yeni bir ürünü tanıtmak için sahneye çıkacaklar. Hala onları ön plana çıkarıyor musunuz?

Bu hafta Microsoft ve Google için cevap evetti. OpenAI’nin, lansmanından iki ay sonra aylık 100 milyon aktif kullanıcıya sahip Yapay Zeka sohbet robotu ChatGPT’nin başarısından güç alan Microsoft, OpenAI’nin ChatGPT tarzı aramayı Bing arama motoruna ve Edge’e getireceğini duyurmak için bir son dakika sürprizi etkinliği düzenledi. tarayıcı. Google, bir gün önce kendi AI arama aracı Bard’ı duyurdu ve ertesi gün Paris’teki bir etkinlikte tanıttı – ancak kendi halüsinasyon sorunuyla karşılaştı.

Microsoft CEO’su Satya Nadella Salı günü Redmond, Washington kampüsüne çağrılan gazetecilere “Bugün yeni bir yarış başlıyor,” dedi. Evet, böyle düşünmek güzel değil mi(Yeni bir sekmede açılır)? teknoloji bloğundaki her zaman havalı olmayan çocuk olan Microsoft, Bing’in – üzgünüm, “Yeni Bing” – Google aramasıyla herhangi bir konuda yarıştığını düşünmenizi çok isterdi.

Google’ın Bard’ı duyuran ön yanıtı(Yeni bir sekmede açılır) Google CEO’su Sundar Pichai, “Altı yıl önce şirketi yapay zeka etrafında yeniden yönlendirdik,” diye yazdı.

Google ve ‘halüsinasyon sorunu’

Bu önemli bir nokta. Aramada dünya lideri olan Google, yapay zekayı dahil etmek için yıllarını harcadı ve ChatGPT rakibi Bard, küçük bir test kullanıcısı grubuyla henüz beta aşamasında. Pichai’nin tüm yenilikçi yapmacıklığına rağmen, Bard’ın açılışında planlanmamış bir dağınıklık vardı. Google, tüm ChatGPT vızıltılarına da ayak uydurmuş görünüyor.

Bard’ın utanç verici hatasını lansman sırasında tam ekran olarak başka nasıl açıklayabiliriz – bazı demo flub’ların beklendiği etkinliğin kendisinde değil, önceden hazırlanmış bir GIF’te? Bard’a James Webb Uzay Teleskobu hakkında 9 yaşındaki çocuğuna anlatabileceği gerçekleri soran bir kullanıcı gösterilir.

JWST’nin bir dış gezegenin ilk fotoğrafını çektiği “gerçeklerden” biri doğru değil. Bard halüsinasyon görüyordu(Yeni bir sekmede açılır). (GÜNCELLEME: Bir Financial Times muhabiri iddia ederken Bard’ın sözleri teknik olarak doğruydu(Yeni bir sekmede açılır)bu, hiçbir insanın asla kullanmayacağı bir dilin okunmasını gerektirir – bu da AI aramasında başka bir sorundur.)

Ana şirket Alphabet’in Bard’ın piyasaya sürüldüğü gün hisse fiyatının yüzde 8’ini kaybetmesine şaşmamalı. Google, AI arama ile ilgili ana sorunu ön plana ve merkeze koydu ve ayrıca şirketin geniş veri deposunu kendisini doğrulamak için kullanamayacağını öne sürdü.

Google, zaten sahip olduğu göz önüne alındığında, daha iyi bilmeli Öne çıkan parçacıklarıyla “halüsinasyon sorunu”(Yeni bir sekmede açılır) 2017’de arama sonuçlarının en üstündeydi. Parçacık algoritması özellikle ABD başkanları hakkında yalan söylemekten hoşlanıyor gibiydi. Yine, ne ters gidebilir ki?

Başka bir deyişle, yapay zeka arama aracınızı çok erken başlatırsanız kendi başınıza oynama riskiniz olur. Microsoft, lansman etkinliğinde bariz bir hatanın gösterilmemesi anlamında şanslıydı. Ancak ChatGPT tabanlı arama hatalarla dolu değilse, neden bu kadar geçici bir beta aşamasında? Ek not: Bing için ücretsiz AI QA yapmakla ilgileniyorsanız, bir kayıt sayfası var(Yeni bir sekmede açılır).

Microsoft’un Yapay Zekadan Sorumlu Başkanı Sarah Bird (anlatıcı bir başlık!), “Orada yapılacak daha çok şey var,” dedi. gelen soru kablolu ChatGPT’nin halüsinasyon sorunu hakkında(Yeni bir sekmede açılır). Evet, şaka yapmıyorum: Yüzde 15’lik halüsinasyon sayısı, kendi yarışında olan bir şirketten geldi. bir ChatGPT bilgi denetleyicisi oluşturun(Yeni bir sekmede açılır). (GÜNCELLEME: A New York Times köşe yazarının New Bing hakkındaki nefes kesen raporu(Yeni bir sekmede açılır) temel matematiği ya da yerel çocuk dostu etkinliklerin bir listesini bile doğru yapamadığını ortaya çıkardı.)

Bird, yazılımın önceki sürümlerinin kullanıcıların bir okul saldırısı planlamasına yardımcı olabileceğini, ancak bu işlevin devre dışı bırakıldığını sözlerine ekledi. Bunu bildiğim iyi oldu! Bundan sonra ne yanlış gidebilir? Bu halüsinasyonlu beta arama ürününde büyük ve yasal olarak savunmasız bir teknoloji devini utandırabilecek başka istenmeyen bir sonuç kesinlikle yoktur.

Kesik. Zune. Yeni Bing’ler.

Microsoft, elbette utançtan biliyor: Bize yazılım tarihindeki en büyük teklemelerden birini veren şirket, Clippy. Ataş yardımcısı, istenmeyen tavsiyeler vermesiyle ünlüydü. ChatGPT, ona sorularla gelmemiz anlamında Clippy değil.

Ancak yanıtlarını sık sık halüsinasyona uğratması – veya, düşündüğünüzden daha sık olarak, kullanıcılara “Bunu yanıtlayamam” konusunda sıradan bir varyasyon vermesi – ChatGPT özellikli Bing’i LSD’de bir tür Clippy haline getirebilir. “Yeni Bing”in yeterince sıradan kullanıcısı bozuk sonuçlar alırsa, o zaman bunun için hatırlanacak.

Bir ürünün daha sonra gelişmesi önemli değil; ilk popüler tepki, onu can alıcı bir cümleye dönüştürebilen şeydir. Microsoft’un da bilmesi gerekir ki; bize Zune’u verdi. Bir ChatGPT ürününü kullanıma tam anlamıyla hazır olmadan önce piyasaya sürmek de farklı değil.

Dürüst olmak gerekirse, “Yeni Bing” zaten bir nevi can alıcı nokta olmayı istiyor. Yoksa, burada “kazanmak” gerçekten ne anlama geliyorsa, ikincisi AI arama yarışını kazanırsa, Google aramayı ve Chrome tarayıcınızı Bing ve Edge için terk etmeye gerçekten hazır mısınız? Öyle düşünmedim. Teknik atalet, bir güç olarak son derece hafife alınır.

ChatGPT bazı durumlarda etkileyicidir — özellikle emlakçılar onu seviyor(Yeni bir sekmede açılır) liste yazma için – ve başkalarında korku uyandırır. Ancak, kesintilerle ilgili her hikaye, başlığın altına indiğinizde, bir şekilde daha az görünüyor. Bir öğrenci intihali dalgasına yol açacak! Bunun dışında da olabilir ChatGPT tarafından bir makale yazıldığında size haber verir(Yeni bir sekmede açılır), kendi tehdidini etkisiz hale getiriyor. Hukuk fakültesi sınavını geçti! O hariç aslında sadece bir C-plus ile kazınmış(Yeni bir sekmede açılır).

Mesele şu: AI çevrelerinde “genel AI” olarak bilinen bir insan beyninin dijital eşdeğerini oluşturmak, Gerçekten zor gidiyor Biz zar zor varmaya başladık böcek zeka aşaması(Yeni bir sekmede açılır), başka bir uzun süredir devam eden AI hedefi. Bağlantıları kendiniz tıklamak yerine, arama sonuçlarınızı sunması için ChatGPT’ye gerçekten güvenecek misiniz?

Cevap, sevgili okur, sizin ne kadar halüsinasyon sorunu yaşadığınıza bağlı olabilir.