Google, sizi yapay zeka tehditlerinden koruma planını yayınladı

Üretken yapay zekayı benimsemeye doğru ilerleyen kuruluşların sayısı arttıkça, Google hepimizin güvenlik konusunda daha fazla ilgilenmesini istiyor. Bu amaçla, Perşembe günü teknoloji devi, şimdilik biraz kabataslak olsa da, bir tür güvenlik yol haritası olması amaçlanan Güvenli AI Çerçevesini (SAIF) yayınladı.

Ancak bunun, Elon Musk’ın her zaman bahsettiği türden varoluşsal yapay zeka tehlikesini önlemeye yönelik bir plan olduğunu hayal ediyorsanız, daha küçük ve daha acil düşünün.

İşte çerçevenin altı “temel öğesinin” bir özeti:

• 1. ve 2. Öğeler, bir kuruluşun mevcut güvenlik çerçevesini ilk etapta yapay zeka tehditlerini içerecek şekilde genişletmekle ilgilidir.

• Öğe 3, kasıtlı olsun ya da olmasın, oldukça rahatsız edici bir şekilde bir nükleer silahlanma yarışını akla getiren AI tehditlerine karşı savunmanıza yapay zekayı entegre etmekle ilgilidir.

• 4. Öğe, yapay zeka ile ilgili “kontrol çerçeveleri”nizdeki tekdüzeliğin güvenlik avantajlarıyla ilgilidir.

• Element 5 ve 6, saldırılara dayanabileceklerinden ve sizi gereksiz riske maruz bırakmadıklarından emin olmak için AI uygulamalarınızı sürekli olarak incelemek, değerlendirmek ve savaş testi yapmakla ilgilidir.

Görünüşe göre Google, kuruluşların çoğunlukla AI etrafında temel siber güvenlik fikirleri getirmesini istiyor. Google Cloud’un bilgi güvenliği şefi Phil Venables olarak Axios’a söyledi(yeni bir sekmede açılır)“İnsanlar daha gelişmiş yaklaşımları ararken bile, temel bilgilere de sahip olmanız gerektiğini gerçekten hatırlamalılar.”

Ancak ChatGPT gibi üretken yapay zeka uygulamalarıyla şimdi ve burada ortaya çıkan bazı yeni ve benzersiz güvenlik endişeleri var.

Örneğin, güvenlik araştırmacıları bir potansiyel risk belirlediler: “hızlı enjeksiyonlar”, şüpheli olmayan bir AI sohbet robotu eklentisine yönelik kötü niyetli bir komutun bir metin bloğunda beklediği tuhaf bir AI sömürü biçimi. Yapay zeka istem enjeksiyonunu taradığında, yapay zekaya verilen komutun doğasını değiştirir. Bu, şu konudaki metinde uğursuz bir zihin kontrol büyüsü saklamak gibi bir şey. Ron Burgundy’nin teleprompteri(yeni bir sekmede açılır). Tuhaf, değil mi?

Ve hızlı enjeksiyonlar, Google’ın özellikle engellemeye yardımcı olmayı umduğunu söylediği yeni tehdit türlerinden yalnızca biridir. Diğerleri şunları içerir:

• “Modeli çalmak”, bir çeviri modelini kandırarak sırlarını açığa çıkarmanın olası bir yolu.

• Kötü bir aktörün kasıtlı olarak hatalı verilerle eğitim sürecini sabote ettiği “veri zehirlenmesi”.

• Orijinal olarak bir modeli eğitmek için kullanılmış olan potansiyel olarak gizli veya hassas kelimesi kelimesine metni ayıklayabilen bilgi istemleri oluşturma.

Google’ın Blog yazısı(yeni bir sekmede açılır) SAIF hakkında, çerçevenin Google tarafından benimsendiğini söylüyor. Bir “çerçevenin” serbest bırakılmasının daha geniş dünya için ne anlama geldiğine gelince, temelde hiçbir şey ifade etmeyebilir, ancak aynı zamanda bir standart olarak da benimsenebilir. Örneğin, ABD hükümetinin Ulusal Standartlar ve teknoloji Enstitüsü (NIST) 2014 yılında siber güvenlik için daha genel bir çerçeve yayınladı. Bu, kritik altyapıyı siber saldırılardan korumayı amaçlıyordu, ancak aynı zamanda oldukça etkili ve altın standart olarak tanınan(yeni bir sekmede açılır) Bu konuda ankete katılan BT uzmanlarının çoğunluğu tarafından siber güvenlik alanında.

Ancak Google, çerçevesinin Google’ın OpenAI gibi yapay zeka rakiplerinin gözünde ne kadar otoriter olacağı konusunda şüphe uyandıran ABD hükümeti değil. Ancak güvenlikte, Google’ın yetişmek için yarışmak yerine AI alanında önden liderlik etmeye çalıştığı görülüyor. Belki de AI yarışının önceki aşamalarında kaybettiği nüfuzun bir kısmını geri kazanmak, SAIF’in piyasaya sürülmesinin asıl amacıdır.