Sinir Ağı Öncüsü Geoffrey Hinton, Yapay Zekada Alarmı Çaldı

Hinton, AI’nın gelecekteki tehlikeleri hakkında sert bir uyarı yayınlayan tek teknoloji uzmanı değil. Bu yılın başlarında, aralarında Elon Musk ve Steve Wozniak’ın da bulunduğu çok sayıda uzman, yapay zeka deneylerinin altı ay süreyle dondurulmasını isteyen bir mektup imzaladı. Dr. Hinton da mektubu imzalayacaktı, ancak Google gibi şirketleri onlar için çalışırken eleştirmek istemediği için imzalamaktan kaçındığını iddia ediyor. Duraklama, GPT4’ten daha güçlü herhangi bir modelin geliştirilmesini durdurabilir ve yapay zeka geliştiricilerine ve uzmanlarına yapay zeka güvenlik protokolleri geliştirmeleri için zaman tanımayı amaçlar. Hükümetlerin ayrıca bu süre zarfında yapay zekaya katı sınırlar koyacak yasalar çıkarması ve yayınlaması beklenecektir.

Mektubu yazan uzmanlara göre, AI’nın yarattığı tehlikeler çoktur. İlgililer, şirketlerin ve küçük işletmelerin ChatGPT ve benzeri programları ne kadar hızlı benimsediğine dikkat çekti. GPT4 ve benzeri programların milyonları işsiz bırakma ve bu şekilde küresel bir krize yol açma tehlikesi olduğuna inanıyorlar. Bir de en zeki insanlardan bile çok daha akıllı ve hızlı bir şey yaratmanın muhtemelen kötü bir fikir olduğu inancı var. Mektubun temel amacı, gelecekteki AI’ların “doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık” olmasını sağlamaktır. Uyarılara rağmen duraklama uygulanmadı ve AI araştırması devam ediyor.