Meta, bazı AGI sistemlerinin özgür bırakılamayacak kadar riskli bulunduğunu söylüyor

Görünüşe bakılırsa AI dünyamıza geldiğinden beri, yaratıcılar gazın üstüne kurşun ayağı koydular. Bununla beraber, yeni bir siyaset belgesine bakılırsa, Meta CEO'su Mark Zuckerberg, “yüksek risk” yada “tehlikeli sonuç risk” olarak kabul edilen AGI sistemlerinin gelişimini yavaşlatabilir yada durdurabilir.

AGI, bir insanoğlunun yapabileceği her şeyi yapabilen bir AI sistemidir ve Zuckerberg bir gün açık bir şekilde kullanılabilir hale getireceğine söz verdi. Fakat belgede “Frontier AI çerçevesi,“Zuckerberg, son aşama yetenekli bazı AI sistemlerinin oldukça riskli olabileceği için kamuya açıklanmayacağını kabul ediyor.

Çerçeve “siber güvenlik tehditleri ve kimyasal ve biyolojik silahlardan meydana gelen risk alanlarındaki en tehlikeli sonuç risklere odaklanmaktadır.”

“Bu alanlara öncelik vererek, inovasyonu teşvik ederken ulusal güvenliği korumak için çalışabiliriz. Çerçevemiz, sınır AI sistemlerini geliştirirken riski öngörmek ve azaltmak için seyrettiğimiz bir takım süreci özetlemektedir.” Belge hakkında bir basın bülteni okur.

Mesela, çerçeve “önlemeye çalıştığımız siber, kimyasal ve biyolojik risklerle ilgili potansiyel yıkım neticelerini” tanımlamayı amaçlamaktadır. Ek olarak “değişik aktörlerin bu yıkım neticelerini üretmek için sınır AI'sını iyi mi kötüye kullanmaya çalışabileceğini kestirmek için tehdit modelleme egzersizleri” ve “riskleri kabul edilebilir seviyelerde tutmak için süreçlere” haiz.

Şirket, risklerin devasa yükseklikte bulunduğunu belirlerse, halkın erişimine izin vermek yerine sistemi iç tutacaktır.

“Bu çerçevenin odak noktası, yıkım sonuçlarının risklerini tahmin etme ve azaltma çabalarımız üstünde olsa da, ilk etapta ileri AI sistemleri geliştirme sebebinin, bu teknolojilerden topluma faydalar için çok önemli potansiyelden kaynaklandığını vurgulamak önemlidir. , “belge okuyor.

Gene de, Zuckerberg'in AGI'nın geleceğe süratli yolunda frenlere vurması şeklinde görünüyor.