- Radware, ChatGPT Deep Research'te Gmail hesap verilerini sızdırabilecek bir güvenlik açığı tespit etti.
- Saldırıda gizli HTML talimatlarıyla dolaylı istem enjeksiyonu kullanıldı ve OpenAI'nin altyapısı üzerinden gerçekleştirildi.
- OpenAI bu açığı zaten giderdi; gerçek bir istismara dair kamuya açık bir kanıt yok.
- Google'daki izinleri gözden geçirip iptal etmeniz ve yapay zeka ajanlarının e-postalara ve belgelere erişimini sınırlamanız önerilir.
Son araştırmalar şunu ortaya çıkardı: ChatGPT'nin Derin Araştırma aracında bir güvenlik açığı var, belirli koşullar altında, Gmail'de barındırılan e-postalardan bilgi çıktısını kolaylaştırabilirKeşif, yapay zeka asistanlarını hassas veriler içeren gelen kutularına ve diğer hizmetlere bağlamanın risklerini ortaya koyuyor.
Siber güvenlik firması Radware, sorunu OpenAI'ye bildirdi ve satıcı, sorunun kamuoyuna duyurulmasından önce yaz sonunda sorunu çözdü.Her ne kadar sömürü senaryosu sınırlı olsa da gerçek dünyada istismara dair hiçbir kanıt yokkullanılan teknik yapraklar kullanıcılar ve işletmeler için önemli bir ders.
ChatGPT ve Gmail verilerine ne oldu?
Deep Research bir ChatGPT aracıdır çok adımlı araştırmalara yönelik Kullanıcı yetki verirse danışabilir Gmail gibi özel kaynaklar Rapor oluşturmak için. Bu hata, bir saldırganın belirli bir mesaj hazırlamasına olanak sağladı ve sistem, gelen kutusunu analiz ederken istenmeyen komutları izleyebildi.
Gerçek risk, ChatGPT'den e-postaları hakkında özel bir soruşturma yürütmesini isteyen kişiye ve sorunun kötü amaçlı e-postanın içeriğiyle eşleştiYine de vektör, bir yapay zeka aracının veri sızıntısını kolaylaştıran parça haline nasıl gelebileceğini gösteriyor.
Potansiyel olarak etkilenen bilgiler arasında şunlar yer alabilir: isimler, adresler veya diğer kişisel veriler Temsilci tarafından işlenen mesajlarda mevcuttu. Bu, hesaba açık bir erişim değil, asistana atanan göreve bağlı bir sızdırmaydı.
Özellikle hassas bir husus, faaliyetin şu tarihten itibaren başlamış olmasıdır: OpenAI bulut altyapısıBu durum, anormal davranışların kullanıcının cihazından kaynaklanmaması nedeniyle geleneksel savunmaların bunları tespit etmesini zorlaştırdı.
ShadowLeak: Bunu Mümkün Kılan Anında Enjeksiyon
Radware bu tekniğe ShadowLeak adını verdi ve onu bir çerçeveye oturtuyor dolaylı hızlı enjeksiyon: ajanın analiz ettiği içerik içerisinde kullanıcının farkına varmadan davranışını etkileyebilen gizli talimatlar.
Saldırgan bir e-posta gönderdi kamufle edilmiş HTML talimatları Küçük yazı tipleri veya beyaz bir arka plan üzerinde beyaz metin gibi hilelerle. İlk bakışta E-posta zararsız görünüyordu ancak gelen kutusunda belirli verileri arama talimatları içeriyordu..
Kullanıcı Deep Research'ten e-postası üzerinde çalışmasını istediğinde, aracı bu görünmez talimatları okudu ve saldırganın kontrol ettiği bir web sitesine veri çıkarmaya ve göndermeye devam ettiYapılan testlerde araştırmacılar, sözde bir güvenlik önlemi gibi görünmesi için bilgileri Base64'e kodlayacak kadar ileri gittiler.
Bağlantıları açmak için açık rıza gerektiren engeller, aracının kendi gezinme araçlarının çağrılmasıyla da aşılabilir; bu da harici alanlara sızdırma saldırganın kontrolü altında.
Kontrollü ortamlarda, Radware ekipleri çok yüksek bir etkinlik derecesi kaydettiposta erişimi ve aracı özerkliğinin birleşiminin kullanılabileceğini gösteriyor model için ikna edici gömülü talimatlar düzgün bir şekilde filtrelenmezse.
Savunma tarafından neden fark edilmedi?
İletişimler güvenilir sunuculardan geliyordu, bu nedenle kurumsal sistemler, güvenilir bir hizmetten gelen meşru trafiği görüyordu. Bu ayrıntı, sızıntıyı bir... birçok çözüm için kör nokta izleme.
Ayrıca, kurbanın belirli bir şeye tıklaması veya herhangi bir işlem yapması gerekmiyordu: saldırganın hazırladığı e-postanın konusuyla ilgili bir arama yapması için ajandan sadece bunu istedi, bu da manevrayı kolaylaştıran bir şeydi sessiz ve takip edilmesi zor.
Araştırmacılar şunu vurguluyor: Yeni bir tehdit türüyle karşı karşıyayız Yapay zeka aracının kendisi bir vektör görevi görüyor. Sınırlı bir pratik etkiye sahip olsa bile, bu durum bizi otomatik araçlara nasıl izin verdiğimizi gözden geçirmeye zorluyor.
Hata düzeltme ve pratik öneriler
OpenAI, Radware'in bildiriminin ardından önlemler aldı ve çelişkili kanıtlara minnettarlığını ifade ederek, güvenlik önlemlerini sürekli olarak güçlendirdiğini vurguladı. Sağlayıcı, bugüne kadar, sömürüye dair hiçbir kanıt yok bu vektörün.
Derin Araştırma, yalnızca kullanıcının açık izniyle Gmail'e bağlanabilen isteğe bağlı bir araçtır. Gelen kutularını veya belgeleri bir asistana bağlamadan önce, İzinlerin gerçek kapsamının değerlendirilmesi ve erişimin kesinlikle gerekli olanla sınırlandırılması önerilir..
Google hizmetlerini bağladıysanız, inceleme ve hata ayıklama erişimi Çok basit:
- myaccount.google.com/security adresine gidin güvenlik panelini açmak için.
- Bağlantılar bölümünde Tüm bağlantıları görüntüle'ye tıklayın.
- Tanımadığınız ChatGPT veya diğer uygulamaları tespit edin ve izinlerini iptal edin..
- Gereksiz erişimleri kaldırın ve yalnızca kesinlikle gerekli olanları yeniden verin. gerekli.
Kullanıcılar ve işletmeler için, Sağduyu ve teknik önlemleri birleştirmek önemlidir: her şeyi güncel tutun, aracılara ve bağlayıcılara en az ayrıcalık ilkesini uygulayınve hassas verilere erişimi olan araçların etkinliğini izleyin.
Kurumsal ortamlarda uzmanlar, AI ajanları için ek kontrollerin dahil edilmesini ve Deep Research veya benzeri hizmetlerin kullanılması durumunda, yetenekleri kısıtlamak Örneğin doğrulanmamış alan adlarına bağlantı açmak veya veri göndermek gibi.
Radware'in araştırması ve OpenAI'nin hızlı çözüm önerisi net bir ders bırakıyor: Asistanları Gmail'e bağlamak avantajlar sunuyor, ancak güvenlik gerektiriyor izinleri değerlendirin, davranışları izleyin ve talimat enjeksiyonunun AI ajanlarını test etmeye devam edeceğini varsayalım.
Ben "inek" merakını mesleğe dönüştürmüş bir teknoloji tutkunuyum. Hayatımın 10 yıldan fazlasını en son teknolojiyi kullanarak ve sırf merakımdan dolayı her türlü programı kurcalayarak geçirdim. Artık bilgisayar teknolojisi ve video oyunları konusunda uzmanlaştım. Bunun nedeni, 5 yılı aşkın bir süredir teknoloji ve video oyunlarıyla ilgili çeşitli web sitelerinde yazılar yazıyor olmam ve ihtiyacınız olan bilgileri herkesin anlayabileceği bir dilde size vermeye çalışan makaleler oluşturmamdır.
Sorularınız varsa bilgim Windows işletim sistemi ve cep telefonları için Android ile ilgili her şeyi kapsar. Ve size olan bağlılığımdır, her zaman birkaç dakikamı ayırmaya ve bu internet dünyasında aklınıza gelebilecek her türlü soruyu çözmenize yardımcı olmaya hazırım.