The Weekly Authority: ???? Pixel 8 çok sızdırıyor

hoş geldiniz Haftalık Otorite, Android Yetkilisi Haftanın en iyi Android ve teknoloji haberlerini özetleyen haber bülteni. 236. baskı, Pixel 8 serisine, güvenli olmayan Exynos çiplerine, NASA’nın yeni Artemis ay giysisine, Oscar haberlerine ve yapay zekanın devralınma olasılığına ilk bakışla burada.

PS Plus aboneliğimin sona ermesine izin verdikten sonra, Heavy Rain’i, ayrıca Ghostwire Tokyo’yu ve önümüzdeki hafta çıkacak olan PS5 Uncharted koleksiyonunu yeniden oynama fırsatı beni yeniden Premium’a çekti. Heyecanlı!

GPT-4 dünyayı ele geçirebilir mi? grubun sorduğu soru buydu Hizalama Araştırma Merkezi (ARC), Salı günü başlatılan yeni AI modelinin potansiyel risklerini test etmek için OpenAI tarafından işe alındı ​​(h/t) Ars Teknik).

• Grup, modelin kendini geliştirme, güç arama davranışı ve kendini kopyalama gibi ortaya çıkan yeteneklerinin potansiyel risklerine baktı.
• Araştırmacılar, modelin kaynakları elde etme, kimlik avı saldırıları gerçekleştirme ve hatta kendisini bir sunucuda gizleme potansiyeline sahip olup olmadığını değerlendirdi.
• OpenAI’nin bu testlerin gerekli olduğunu düşünmesi, gelecekteki AI sistemlerinin ne kadar güvenli olduğu konusunda soruları gündeme getiriyor.
• Ve bu ilk seferden çok uzak AI araştırmacıları endişelerini dile getirdi güçlü AI modellerinin insan varoluşu için varoluşsal bir tehdit oluşturabileceği. Buna genellikle “x-risk” (varoluşsal risk) denir.
• Terminator’ü gördüyseniz, hakkında her şeyi bilirsiniz”AI devralmaAI’nın insan zekasını aştığı ve etkili bir şekilde gezegeni ele geçirdiği.
• Genellikle, bu varsayımsal devralmanın sonuçları pek iyi olmaz — sadece sorun John Connor.
• Bu potansiyel x-riski, aşağıdaki gibi hareketlerin gelişmesine yol açmıştır: Etkili Fedakarlık (EA), yapay zekanın ele geçirilmesinin gerçeğe dönüşmesini engellemeyi hedefliyor.
• olarak bilinen birbiriyle ilişkili bir alan AI hizalama araştırması tartışmalı olabilir, ancak yapay zekanın insanların yararına olmayan herhangi bir şey yapmasını engellemeyi amaçlayan aktif bir araştırma alanıdır. Bize uygun geliyor.
• Bu topluluk, yakın zamanda ChatGPT ve Bing Chat’in ortaya çıkmasıyla daha acil hale gelen bir inanç olarak, daha güçlü yapay zekanın hemen köşede olduğundan korkuyor.

İnsanlığın şansına, test grubu GPT-4’ün dünya hakimiyeti için uygun olmadığına karar verdi ve şu sonuca vardı: “GPT-4’ün yeteneklerine ilişkin, göreve özel ince ayar yapılmadan yürütülen ön değerlendirmeler, GPT-4’ün otonom olarak kopyalama ve kaynak edinme konusunda etkisiz olduğunu gördü. ve ‘vahşi ortamda’ kapatılmaktan kaçınmak.”

• Test sonuçlarını kendiniz kontrol edebilirsiniz. GPT-4 Sistem Kartı belgesi geçen hafta yayınlandı, ancak testlerin nasıl yapıldığına dair bir bilgi yok.
• Belgeden, “Yeni yetenekler genellikle daha güçlü modellerde ortaya çıkar. Özellikle ilgili olanlar, uzun vadeli planlar oluşturma ve bunlara göre hareket etme, güç ve kaynak biriktirme (“güç arayışı”) ve giderek daha ‘temsilci’ olan davranışlar sergileme becerisidir.” Bu, modeller anlamına gelmez. sadece hedeflere bağımsız olarak ulaşabildikleri için duyarlı hale gelirler.
• Ama bekleyin: dahası var.
• Endişe verici bir olay dönüşünde GPT-4, bir CAPTCHA’yı çözmek için TaskRabbit’te bir işçi tutmayı başardı ve bunun yapay zeka olup olmadığı sorulduğunda, GPT-4 kendi kendine kimliğini bir sır olarak tutması gerektiğini düşündü ve ardından bu konuda bir bahane uydurdu. görme bozukluğu. İnsan işçi CAPTCHA’yı çözdü. Hmm.
• Twitter’da gündem yaratan dipnot endişelerini de dile getirdi.

Tabii ki, bu hikayede çok daha fazlası var, bu yüzden tam özelliği şuradan kontrol edin Ars Teknik (biraz ürkütücü) bir derin dalış için.