OpenAI senato duruşmasından 6 çıkarım

Görünüşe göre, üretken yapay zekanın olağanüstü yeteneklerinden biri, onu düzenlemede politikacıları, kamuyu ve özel sektörü birleştirmek.

Bunu bugün Senato Yargı Komitesinde gördük. işitme(yeni bir sekmede açılır) AI’nın nasıl yönetileceği hakkında. OpenAI CEO’su Sam Altman, IBM baş gizlilik ve güven sorumlusu Christina Montgomery ve NYU fahri profesörü Gary Marcus, üretken yapay zeka Pandora’nın Kutusundan kurtulduğuna göre şimdi ne yapılması gerektiği konusunda gizlilik, teknoloji ve hukuk alt komitesi önünde ifade verdiler. Altman açık ve işbirlikçiydi, hatta ChatGPT’nin ve üretici yapay zekanın düzenlenmesini savunuyordu. Ancak bunun, çoğunlukla softbol soruları soran alt komite üzerinde etkisizleştirici bir etkisi var gibi görünüyordu.

Üç saatlik duruşma, üretken yapay zekanın toplum için oluşturduğu birçok riske ve ülkemizin bir sonraki sanayi devriminde nasıl başarılı bir şekilde ilerleyebileceğine değindi. Ne yazık ki, tek bir ortamda bu kadar çok konuyu ele almak, iş değiştirme, telif hakkı yasası ve evet, ulusal güvenlik gibi yaygın endişeleri araştırmak için çok az zaman olduğu anlamına geliyordu. İşte öne çıkan noktalar:

1. Senatör Blumenthal’ın açılış konuşmasında bir deepfake vardı.

Tweet silinmiş olabilir
(yeni bir sekmede açılır)

Senatör Richard Blumenthal, ChatGPT hakkında konuşurken derin sahte bir ses kaydı çalarak duruşmayı dramatik bir yetenekle başlattı. Kayıt, konuşmalarından alınan sesler kullanılarak oluşturuldu ve açıklamalar, Blumenthal’ın duruşmayı nasıl açacağı sorulan ChatGPT tarafından oluşturuldu. Deepfake ile liderlik, üretken yapay zekanın etkileyici yeteneklerinin ve kontrol edilmediği takdirde ne kadar tehlikeli olabileceğinin altını çizerek, duruşmanın geri kalanının gidişatını belirliyor.

2. İş değiştirme sorununun tamamı çözülmedi

ChatGPT ve üretken AI ile ilgili en büyük endişelerden biri, görevleri otomatikleştirerek yerini alacağı işlerdir. Bunun bir endişe olup olmadığı sorulduğunda Altman’ın görüşü, yapay zekanın işleri değiştirebileceği ancak yenilerini yaratabileceği yönündeydi: “Bunun diğer tarafında çok daha büyük işler olacağına ve bugünün işlerinin daha iyi olacağına inanıyorum.” Montgomery, yapmamız gereken en önemli şeyin iş gücünü eğitim ve öğretim yoluyla yapay zeka ile ilgili becerilere hazırlamak olduğunu ekledi.

Ancak bu sorumluluğun kime ait olduğu açıklanmadı. Altman, “Sektör ve hükümet arasında ortaklık gerektireceğini düşünüyorum, ancak çoğunlukla hükümetin bunu nasıl hafifletmek istediğimizi anlamak için harekete geçmesi gerekecek” dedi. Başka bir deyişle OpenAI’nin sorunu bu değil.

3. Yapay zekanın düzenlenmesi gerektiği konusunda herkes hemfikir

Senatör Dick Durbin, konuşmasına kamu ve özel sektör arasındaki olağandışı işbirlikçi sohbete dikkat çekerek başladı. “Büyük şirketleri veya özel sektör kuruluşlarını temsil eden kişilerin ne zaman önümüze gelip bunları düzenlememiz için bize yalvardıklarını hatırlayamıyorum.” Düzenleme için yalvarmak bir abartı olabilir, ancak Altman ve Montgomery isteyerek ve bazen de coşkuyla hükümetin gözetimine açık olduklarını gösterdiler.

Bu genel basmakalıp lafların ötesine geçti. Altman, Bölüm 230’ün üretken yapay zeka için geçerli olmadığına inandığını, yani bu teknolojiyi sunan şirketlerin sorumlu tutulması gerektiğini ve üretken yapay zeka tarafından oluşturulan içerik için tamamen yeni bir çerçeve olması gerektiğini söyledi.

Bu, işyerindeki demokratik denetim ve dengelerin başarılı bir örneği olarak yorumlanabilir, ancak aynı zamanda yapay zeka tehdidinin ne kadar ciddi olduğunu ve OpenAI gibi şirketlerin kendilerini sorumluluktan koruma ihtiyacını ne kadar kötü hissettiklerini de vurguladı.

Bu büyüklükteki bir düzenleme, Marcus’un önerdiği gibi, Gıda ve İlaç İdaresi gibi yeni bir federal kurumun kurulmasına bile yol açabilir. “Benim görüşüme göre, bunu ele almak için muhtemelen Amerika Birleşik Devletleri içinde kabine düzeyinde bir organizasyona ihtiyacımız var. Ve benim bunun için gerekçem, risklerin sayısının çok fazla olması, takip edilmesi gereken bilgi miktarının o kadar fazla olması ki bence biz çok fazla teknik uzmanlığa ihtiyacımız var, bence bu çabalar için çok fazla koordinasyona ihtiyacımız var.”

Etrafta dolaşan başka bir fikir, nükleer enerji operasyonları için lisanslamaya benzer şekilde, üretken yapay zeka lisanslamasıydı.

4. Yanlış bilgilendirme, özellikle yaklaşan seçimlerde büyük bir endişe kaynağıdır.

Duruşmanın altında yatan temalardan biri, Kongre’nin sosyal medya şirketlerini 2016 ve 2020 seçimleri sırasında yaygın yanlış bilgilendirmeye yol açan içerik denetiminden sorumlu tutmayarak yaptığı hatalardan nasıl ders çıkarılacağıydı. Üretici yapay zekanın yanlış veya önyargılı bilgileri büyük ölçekte oluşturma ve yayma potansiyeli, şimdi ele alınmadığı takdirde gerçek ve yakındır.

Altman, “Gelecek yıl bir seçimle karşı karşıya kalacağımız ve bu modellerin daha iyi hale geldiği göz önüne alındığında, bunun önemli bir endişe alanı olduğunu düşünüyorum” dedi. Üçüncü taraflardan gelen üretken AI içeriğinin doğası ve kaynağı hakkında “beslenme etiketlerine” açıktır, ancak Marcus, sorunun kökeninin şeffaflık ve algoritmanın nasıl çalıştığına erişim olduğuna inanıyor. “GPT ile ilgili en çok endişelendiğim şeylerden biri. Dördüncüsü, onun ne üzerine eğitildiğini bilmiyoruz, sanırım Sam biliyor ama geri kalanımız bilmiyor. esasen sistemin önyargıları.”

5. Senatör Marsha Blackburn, Garth Brooks’u seviyor ve Senatör Mazie Hinono, BTS’i seviyor

Komite üyeleri, duruşmanın ciddi doğasına biraz hafiflik katma şansına karşı koyamadılar. Senatörler Cory Booker ve Jon Ossoff, birbirlerine yakışıklı ve zeki diyerek kardeşliklerini yumuşak bir şekilde başlattılar. Senatör Peter Welch, duruşmaya olan ilgisi hakkında kendini küçümseyen bir açıklama yaptı ve “Senatörler kısa dikkat süreleri ile tanınırlar, ancak tüm bu duruşma boyunca oturdum ve her dakikasından zevk aldım.”

Altman’a OpenAI’nin otomatik müzik aracı Jukebox ve telif hakkı yasası hakkında soru sorulduğunda Blackburn, en sevdiği sanatçı Garth Brooks’un tarzı ve sesiyle oluşturulmuş bir şarkının mülkiyeti hakkındaki endişelerini dile getirdi. Hinono, en sevdiği grup BTS gibi ses çıkarmak için yaratılan deepfake şarkılar konusunda da aynı derecede endişeliydi. Ünlü country müzik şarkıcısı ve K-Pop hissinden bu bağlamda bahsedildiğini duymak ne kadar tuhaf olsa da, Blackburn ve Hinono fikri mülkiyet hakkında geçerli noktalara değindi.

6. Ulusal güvenlik bugün karşılanamayacak kadar büyük

Üç saatlik duruşma, üretici yapay zekanın o kadar çok riskini kapsıyordu ki Blumenthal, “Bu alanda bu ulusa yönelik tehditlerin kaynakları çok gerçek ve acil. Bugün onlarla başa çıkmak için, ama onlarla başa çıkmamız gerekiyor.”

Duruşma, üretici yapay zekanın etkileyebileceği çok çeşitli sorunları ele aldı: istihdam, yanlış bilgilendirme, fikri mülkiyet, mahremiyet, güvenlik, önyargı ve ayrımcılık, ancak üç saatlik oturum, bunun ekonomiyi veya tehditleri nasıl etkileyebileceğini ele almak için yeterli zaman değildi. küresel düşmanlardan