California Valisi Newsom, yapay zeka felaketlerini önlemeyi amaçlayan SB 1047 sayılı yasa tasarısını veto etti

California Valisi Gavin Newsom, kötü aktörlerin yapay zekayı kullanarak insanlara “kritik zarar” vermesini önlemeyi amaçlayan SB 1047 sayılı yasa tasarısını veto etti. Kaliforniya eyalet meclisi yasayı 28 Ağustos’ta 41’e 9’luk bir farkla kabul etti, ancak Ticaret Odası da dahil olmak üzere birçok kuruluş yasayı onayladı. Newsom’u tasarıyı veto etmeye çağırdı. onun içinde veto mesajı 29 Eylül’de Newsom, tasarının “iyi niyetli” olduğunu ancak “bir yapay zeka sisteminin yüksek riskli ortamlarda konuşlandırılıp kurulmadığını, kritik karar almayı mı yoksa hassas verilerin kullanımını mı içerdiğini hesaba katmadığını” söyledi. Büyük bir sistem bunu kullandığı sürece, en temel işlevlere bile katı standartlar uygulanır.”

SB 1047, yapay zeka modellerinin geliştiricilerini, teknolojilerinin yıkıcı kullanımını durduracak güvenlik protokollerini benimsemekle yükümlü kılacaktı. Buna test ve dış risk değerlendirmesi gibi önleyici tedbirlerin yanı sıra yapay zeka modelini tamamen kapatacak bir “acil durum durdurma” da dahildir. İlk ihlal en az 10 milyon dolara, sonraki ihlaller ise 30 milyon dolara mal olacak. Ancak tasarı, felaket niteliğinde bir olayın meydana gelmemesi halinde eyalet başsavcısının ihmalkar uygulamaları nedeniyle yapay zeka şirketlerine dava açma yetkisini ortadan kaldıracak şekilde revize edildi. Şirketler yalnızca ihtiyati tedbire tabi olacak ve modellerinin kritik zarara yol açması durumunda dava açılabilecek.

Bu yasa, kullanımı en az 100 milyon dolar ve eğitimi 10^26 FLOPS olan yapay zeka modelleri için geçerli olacaktır. Ayrıca, üçüncü bir tarafın orijinal modeli geliştirmek veya değiştirmek için 10 milyon dolar veya daha fazla yatırım yaptığı durumlarda türev projeleri de kapsayacaktı. Kaliforniya’da iş yapan herhangi bir şirket, diğer gereklilikleri karşılaması halinde kurallara tabi olacaktır. Tasarının büyük ölçekli sistemlere odaklandığına değinen Newsom, “Bunun, halkı teknolojinin oluşturduğu gerçek tehditlerden korumak için en iyi yaklaşım olduğuna inanmıyorum” dedi. Veto mesajı şunu ekliyor:

SB 1047’nin önceki versiyonu, kuralları denetlemek ve uygulamak için Frontier Model Division adında yeni bir departman oluşturacaktı. Bunun yerine tasarı, yönetimin Devlet Operasyonlar Dairesi bünyesindeki Sınır Modelleri Kurulu’nun eline verilmesi için yapılan komite oylaması öncesinde değiştirildi. Dokuz üye eyaletin valisi ve yasama organı tarafından atanacak.

Tasarı, nihai oylamaya gidene kadar karmaşık bir yolla karşı karşıya kaldı. SB 1047, California Eyalet Senatörü Scott Wiener tarafından yazıldı. TechCrunch: “Zarar gelmesini bekleyip sonra ellerimizi ovuşturan teknolojiyle dolu bir geçmişimiz var. Kötü bir şeyin olmasını beklemeyelim. Hadi bunun önüne geçelim.” Önemli yapay zeka araştırmacıları Geoffrey Hinton ve Yoshua Bengio, geçen yıl yapay zekanın riskleri konusunda alarm veren Yapay Zeka Güvenliği Merkezi gibi yasayı destekledi.

Newsom veto mesajında, “Açık konuşayım – yazara katılıyorum – halkı korumak için harekete geçmeden önce büyük bir felaketin gerçekleşmesini beklemeyi göze alamayız.” dedi. Açıklama şöyle devam ediyor:

SB 1047, teknoloji dünyasının her yerinden sert bir muhalefetle karşılaştı. Araştırmacı Fei-Fei Li eleştirildi fatura, yaptığı gibi Meta Baş Yapay Zeka Bilimcisi Yann LeCun, yapay zekanın yeni kullanımlarını keşfetme potansiyelini sınırladığı için. Amazon, Apple ve Google gibi teknoloji devlerini temsil eden ticaret grubu söz konusu SB 1047 eyaletin teknoloji sektöründeki yeni gelişmeleri sınırlayacak. Risk sermayesi şirketi Andreeson Horowitz ve birkaç startup da tasarının yapay zeka yenilikçilerine gereksiz mali yük getirip getirmediğini sorguladı. Orijinal tasarının antropik ve diğer muhalifleri, benimsendi 15 Ağustos’ta Kaliforniya Ödenek Komitesi’nden geçen SB 1047 versiyonunda.