OpenAI’den Sam Altman, AI yönetici emri konusundaki sessizliğini bozdu

Güncelleme: Bu hikayenin yayınlanmasından saatler sonra Sam Altman gönderildi X/Twitter’da şöyle diyor: “AI EO ile ilgili bazı harika kısımlar var, ancak hükümet bunu uygulamaya koydukça, daha küçük şirketlerin/araştırma ekiplerinin inovasyonunu yavaşlatmamak önemli olacak.”

Altman ayrıca kendisinin “sınır sistemleri veya büyük ölçekli temel modelleri konusunda düzenleme yanlısı” olduğunu ve “düzenleyici yakalamaya karşı” olduğunu söyledi.

Tweet silinmiş olabilir

Başkan Biden’ın Pazartesi günkü idari emrinin ardından, yapay zeka şirketleri ve sektör liderleri, yapay zeka düzenlemelerindeki bu dönüm noktasına ağırlık verdi. Ancak yapay zeka alanının en büyük oyuncusu OpenAI dikkat çekici bir şekilde sessiz kaldı.

Biden-Harris yönetiminin yapay zekanın risklerini ele alan geniş kapsamlı idari emri, gönüllü taahhütler 15 önde gelen yapay zeka şirketi tarafından güvence altına alınmıştır. OpenAI şunlar arasındaydı: ilk grup şirket Beyaz Saray’a yapay zeka araçlarının emniyetli, emniyetli ve güvenilir bir şekilde geliştirileceğini vaat etmek. Ancak şirket, web sitesinde veya X’te (eski adıyla Twitter) herhangi bir açıklama yayınlamadı. X’te düzenli olarak OpenAI haberlerini paylaşan CEO Sam Altman da hiçbir şey yayınlamadı.

OpenAI, Mashable’ın yorum talebine yanıt vermedi.

Biden Yönetimine gönüllü taahhütte bulunan 15 şirketten aşağıdakiler kamuoyuna açıklamalarda bulundu ve bunların tümü yönetim emrine destek ifade etti: Adobe, Amazon, Anthropic, Google, Microsoft, Salesforce ve Scale AI. Nvidia yorum yapmayı reddediyor.

Mashable, OpenAI’den gelen cırcır böceklerinin yanı sıra Cohere, Inflection, Meta, Palantir ve Stability AI’den de henüz haber alamadı. Ancak OpenAI ve Altman’ın yapay zekanın acil risklerini ve düzenleme ihtiyacını ilan eden tanıtım turu, şirketin sessizliğini daha da dikkat çekici hale getiriyor.

Tweet silinmiş olabilir

Tweet silinmiş olabilir

Altman, vokal kendi şirketinin yarattığı üretken yapay zekanın oluşturduğu tehdit hakkında. Mayıs ayında Altman, teknoloji öncüleri Geoffrey Hinton ve Bill Gates ile birlikte bir anlaşma imzaladı. açık mektup, “Yapay zeka nedeniyle yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi toplumsal ölçekteki diğer risklerin yanı sıra küresel bir öncelik olmalıdır.”

bir senato duruşması Mayıs ayında Altman, yapay zeka düzenlemesine duyulan ihtiyacı dile getirdi: “Bence bu teknoloji ters giderse, oldukça ters gidebilir ve biz bu konuda sesimizi duyurmak istiyoruz” dedi Altman, D-CT’den Sen. Blumenthal’ın sorusuna yanıt olarak insanüstü makine zekasının tehdidi hakkında.

Tweet silinmiş olabilir

Şimdiye kadar milletvekilleri ve dünya liderleriyle yapılan işbirliği OpenAI’nin lehine işledi. Altman, Senato’nun iki partili kapalı kapı yapay zeka zirvesine katılarak OpenAI’ye yapay zeka mevzuatını formüle etme masasında yer verdi. Altman’ın ifadesinden kısa bir süre sonra OpenAI’den sızdırılan belgeler, şirketin Avrupa Birliği’nde daha zayıf düzenlemeler için lobi faaliyeti yürüttüğünü gösterdi.

OpenAI’nin yönetim emrinin neresinde olduğu belli değil ancak açık kaynak savunucuları, şirketin zaten çok fazla lobicilik etkisine sahip olduğunu söylüyor. Çarşamba günü, Birleşik Krallık’taki Yapay Zeka Güvenliği Zirvesi ile aynı gün, 70’ten fazla yapay zeka lideri bir bildiri yayınladı. ortak bildiri Yapay zeka düzenlemesine daha şeffaf bir yaklaşım çağrısında bulunuyoruz. Açıklamada, “Temel yapay zeka modellerinin sıkı ve özel kontrolünün bizi toplum çapındaki zararlardan korumanın tek yolu olduğu fikri en iyi ihtimalle naif, en kötü ihtimalle tehlikelidir” denildi.

İmzacılardan biri olan Meta Baş Yapay Zeka Bilimcisi Yann LeCun, X’teki (eski adıyla Twitter) bu düşünceyi şu sözlerle ikiye katladı: seslenmek Olumlu sonuçlar elde etmek için korku tacirliği kullandıkları için OpenAI, DeepMind (Google’ın bir yan kuruluşu) ve Anthropic. “[Sam] Altman, [Demis] Hassabis ve [Dario] Şu anda büyük kurumsal lobicilik yapanlar Amodei’ler. Yapay zeka endüstrisini düzenleyici bir şekilde ele geçirmeye çalışanlar onlar” dedi.

Tweet silinmiş olabilir

Antropik Ve Google Liderlerin her ikisi de yönetim emrini destekleyen açıklamalarda bulundu ve OpenAI’yi henüz herhangi bir yorumda bulunmayan, mevzuata el koymakla suçlanan tek şirket haline getirdi.

Yönetici emri OpenAI için ne anlama gelebilir?

EO’daki test hükümlerinin çoğu, henüz piyasada olmayan devasa temel modellerle ve yapay zeka sistemlerinin gelecekteki gelişimiyle ilgili; bu da OpenAI’nin ChatGPT’si gibi tüketiciye yönelik araçların çok fazla etkilenmeyeceğini gösteriyor.

Eski ABD Ulusal Güvenlik Teşkilatı (NSA) hackerı ve Fakülte üyesi Jake Williams, “Tüketicilerin kullanabileceği üretken yapay zeka araçlarının herhangi birinde ani bir değişiklik göreceğimizi sanmıyorum” dedi. IANS Araştırması. “OpenAI, Google ve diğerleri kesinlikle eğitim temel modelleridir ve ulusal güvenliği etkileyebilecekleri EO’da özellikle dile getirilmektedir.”

Dolayısıyla OpenAI’nin üzerinde çalıştığı her şey hükümet testlerine tabi tutulabilir.

Yönetici emrinin OpenAI’yi doğrudan nasıl etkileyebileceği konusunda, OpenAI direktörü Beth Simone Noveck Burnes Sosyal Değişim Merkezi, bunun yeni ürünlerin ve güncellemelerin piyasaya sürülme hızını yavaşlatabileceğini ve şirketlerin araştırma, geliştirme ve uyumluluğa daha fazla yatırım yapmak zorunda kalacağını söyledi.

Noveck, “Büyük ölçekli dil modelleri geliştiren şirketlerin (örneğin ChatGPT, Bard ve milyarlarca veri parametresi üzerinde eğitim almış olanlar), platformlarını nasıl test ettiklerine ilişkin ayrıntılar da dahil olmak üzere federal hükümete sürekli bilgi sağlamaları gerekecek” dedi. Başkan Obama döneminde Amerika Birleşik Devletleri’nin ilk Teknolojiden Sorumlu Başkan Yardımcısı olarak görev yaptı.

Her şeyden önce, yürütme emrinin kişisel verilerin daha fazla kontrol edilmesi ve korunmasına yönelik artan tüketici beklentileriyle uyumun sinyalini verdiği belirtildi. Avani DesaiBT denetimi ve siber güvenlik konusunda uzmanlaşmış üst düzey bir CPA firması olan Schellman’ın CEO’su.

Desai, “Şeffaflık ve veri gizliliği önlemleri kullanıcıların yapay zeka destekli ürün ve hizmetlere olan güvenini artırabileceğinden bu, gizlilik savunucuları için büyük bir kazanç” dedi.

Dolayısıyla, yönetim emrinin sonuçları hemen ortaya çıkmasa da OpenAI’nin araçları ve uygulamaları için doğrudan geçerlidir. OpenAI’nin bu konuda söyleyecek bir şeyleri olabileceğini düşünürsünüz.