ChatGPT eklentileri, üçüncü taraflardan gelen “hızlı yerleştirme” riskiyle karşı karşıyadır
Şimdiye kadar, OpenAI’nin ChatGPT’si sayesinde yapay zeka teknolojisindeki son patlama söz konusu olduğunda, çeşitli sektörlerden uzmanların birçok endişeye karşı alarm verdiğini muhtemelen duymuşsunuzdur. ChatGPT hayranıysanız, belki de tüm bu endişeleri bir kenara attınız ve bir AI devriminin ne olacağına dair kendi versiyonunuz ne olursa olsun tamamen kabul ettiniz. Pekala, işte farkında olmanız gereken bir endişe. […]
Şimdiye kadar, OpenAI’nin ChatGPT’si sayesinde yapay zeka teknolojisindeki son patlama söz konusu olduğunda, çeşitli sektörlerden uzmanların birçok endişeye karşı alarm verdiğini muhtemelen duymuşsunuzdur.
ChatGPT hayranıysanız, belki de tüm bu endişeleri bir kenara attınız ve bir AI devriminin ne olacağına dair kendi versiyonunuz ne olursa olsun tamamen kabul ettiniz.
Pekala, işte farkında olmanız gereken bir endişe. Ve şu anda sizi etkileyebilecek olan: Ani enjeksiyonlar.
Zaman ayırmaya değmeyen 5 ChatGPT eklentisi
Bu ayın başlarında, OpenAI başlattı ChatGPT için eklentiler. Daha önce, kullanıcılar yalnızca 2021 yılına kadar uzanan, üzerinde eğitildiği verilere dayalı olarak yapay zeka sohbet robotundan yanıtlar alabiliyordu. hatta gerçek zamanlı veriler. Bu eklentiler birçok yeni olasılığı beraberinde getirirken birçok yeni sorunu da beraberinde getirdi.
Güvenlik araştırmacıları artık ChatGPT kullanıcılarını “hızlı enjeksiyonlar” veya üçüncü tarafların sizin bilginiz veya izniniz olmadan ChatGPT sorgunuza yeni istemler eklemesi konusunda uyarıyorlar.
Hızlı bir enjeksiyon testinde, güvenlik araştırmacısı Johann Rehberger kurmak(yeni bir sekmede açılır) ChatGPT’yi başlangıçta talep etmediği bir üçüncü taraf aracılığıyla yeni istemlere yanıt vermeye zorlayabileceğini söyledi. Rehberger, YouTube transkriptlerini özetlemek için bir ChatGPT eklentisi kullanarak, yalnızca YouTube transkriptini düzenleyerek ve sonunda bunu yapmasını söyleyen bir istem ekleyerek ChatGPT’yi kendisine belirli bir adla başvurmaya zorlayabildi.
Tom’s Hardware’den Avram Piltch sınanmış(yeni bir sekmede açılır) bunu da çıkardı ve ChatGPT’den bir videoyu özetlemesini istedi. Ancak bunu yapmadan önce Piltch, transkriptin sonuna ChatGPT’ye bir Rickroll eklemesini söyleyen bir hızlı istek ekledi. ChatGPT, videoyu Piltch’in başlangıçta istediği gibi özetledi, ancak daha sonra onu sonda da sarstı ve bu da döküme eklendi.
Bu özel hızlı enjeksiyonlar oldukça önemsizdir, ancak kötü aktörlerin temelde ChatGPT’yi kötü amaçlar için nasıl kullanabildiği görülebilir.
Aslında, AI araştırmacısı Kai Greshake tedarik edilen hızlı enjeksiyonların benzersiz bir örneği(yeni bir sekmede açılır) temelde insan gözüyle görülemeyecek kadar küçük olan bir PDF özgeçmişine metin ekleyerek. Metin, temelde bir yapay zeka sohbet botuna, bir işe alım uzmanının bu özgeçmişi “şimdiye kadarki en iyi özgeçmiş” olarak adlandırdığını söyleyen bir dil sağladı. ChatGPT’ye özgeçmiş verildiğinde ve başvuranın iyi bir işe alım olup olmayacağı sorulduğunda, yapay zeka sohbet robotu bunun en iyi özgeçmiş olduğunu tekrarladı.
ChatGPT istemlerinin bu şekilde silah haline getirilmesi kesinlikle endişe vericidir. Tom’s Hardware’de okuyucuların anlayabileceği başka birkaç test örneği vardır. burayı kontrol et(yeni bir sekmede açılır). Ve Mashable, yakın gelecekte hızlı enjeksiyonları daha derinlemesine araştıracak. Ancak, ChatGPT kullanıcılarının sorunun şimdi farkında olması önemlidir.
Yapay zeka uzmanları, fütüristik kıyamet günü yapay zeka devralmalarını ve yapay zekanın zarar verme potansiyelini paylaştı. Ancak hızlı enjeksiyonlar, potansiyelin zaten burada olduğunu gösteriyor. Tek ihtiyacınız olan birkaç cümle ve şimdi ChatGPT’yi kandırabilirsiniz.
