ChatGPT ShadowLeak: Gmail деректерін бұзған ChatGPT-тегі терең зерттеудегі ақау

Жақында жүргізілген зерттеулер анықталды ChatGPT Deep Research агентіндегі қауіпсіздік тесігі, бұлбелгілі бір жағдайларда, Gmail-де орналастырылған электрондық пошталардан ақпаратты шығаруды жеңілдете аладыЖаңалық AI көмекшілерін кіріс жәшіктеріне және құпия деректері бар басқа қызметтерге қосу қаупін көрсетеді.

Киберқауіпсіздік фирмасы Radware бұл мәселе туралы OpenAI-ге хабарлады, ал сатушы оны жаздың соңында көпшілікке белгілі болғанға дейін азайтты.. Пайдалану сценарийі шектеулі болғанымен және нақты әлемде қиянаттың дәлелі жоқ, техника жапырақтарды қолданды пайдаланушылар мен бизнес үшін маңызды сабақ.

ChatGPT және Gmail деректеріне не болды?

Deep Research — ChatGPT агенті көп сатылы зерттеулерге бағытталған ол, егер пайдаланушы рұқсат берсе, кеңес ала алады Gmail сияқты жеке дереккөздер есептерді шығару үшін. Қате шабуылдаушыға белгілі бір хабарламаны дайындау үшін есікті ашты және жүйе кіріс жәшігін талдау кезінде қажетсіз пәрмендерді орындай алады.

Нақты тәуекел ChatGPT-ке олардың электрондық поштасына және мәселеге қатысты нақты тергеу жүргізуді сұраған адамға байланысты болды зиянды электрондық поштаның мазмұнына сәйкес келді. Дегенмен, вектор AI агенті деректердің ағып кетуін жеңілдететін бөлікке қалай айналатынын көрсетеді.

Ықтимал әсер ететін ақпараттың арасында пайда болуы мүмкін аттары, мекенжайлары немесе басқа жеке деректер агент өңдейтін хабарларда болады. Бұл есептік жазбаға ашық кіру емес, көмекшіге берілген тапсырмамен шартталған эксфильтрация болды.

Ерекше нәзік аспект - бұл белсенділіктің бастауы OpenAI бұлттық инфрақұрылымы, бұл дәстүрлі қорғанысқа аномальді әрекетті анықтауды қиындатты, себебі ол пайдаланушы құрылғысынан шықпады.

ShadowLeak: оны мүмкін еткен жылдам инъекция

Radware ShadowLeak техникасын атады және оны а жанама жедел инъекция: агент талдайтын мазмұндағы жасырын нұсқаулар, оның әрекетіне пайдаланушы байқамай әсер ете алады.

Шабуылдаушы электрондық поштаны жіберді жасырылған HTML нұсқаулары кішкентай қаріптер немесе ақ фонда ақ мәтін сияқты трюктар арқылы. Бір қарағанда Электрондық пошта зиянсыз болып көрінді, бірақ нақты деректер үшін кіріс жәшігінен іздеу нұсқауларын қамтиды..

Пайдаланушы Deep Research оның электрондық поштасында жұмыс істеуді сұрағанда, агент сол көрінбейтін нұсқауларды оқыды және деректерді шығарып, шабуылдаушы басқаратын веб-сайтқа жіберуді жалғастырдыСынақтарда зерттеушілер тіпті болжалды қауіпсіздік шарасы ретінде көріну үшін Base64 жүйесіндегі ақпаратты кодтауға дейін барды.

Сілтемелерді ашуға нақты келісімді қажет ететін кедергілерді агенттің навигациялық құралдарын пайдалану арқылы айналып өтуге болады. сыртқы домендерге эксфильтрация шабуылдаушының бақылауында.

Бақыланатын орталарда, Radware командалары өте жоғары тиімділікті атап өтті, пошта қатынасы мен агент автономиясының тіркесімі болуы мүмкін екенін көрсетеді модель үшін нанымды ендірілген нұсқаулар дұрыс сүзілмеген болса.

Неліктен бұл қорғаныстың назарынан тыс қалды

Байланыстар сенімді серверлерден алынды, сондықтан корпоративтік жүйелер беделді қызметтен келетін заңды трафикті көрді. Бұл деталь ағып кетуді а айналдырды көптеген шешімдер үшін соқыр нүкте мониторинг.

Сонымен қатар, жәбірленушіге нақты бірдеңені басу немесе орындау қажет болмады: ол жай ғана агенттен шабуылдаушы дайындаған электрондық пошта тақырыбына байланысты іздеуді сұрады, бұл маневр жасайтын нәрсе. үнсіз және қадағалау қиын.

Зерттеушілер соны баса айтады Біз қауіптің жаңа түрімен бетпе-бет келіп отырмыз онда AI агентінің өзі вектор ретінде әрекет етеді. Шектеулі практикалық әсерге қарамастан, жағдай бізді автоматтандырылған құралдарға қалай рұқсат беретінімізді қарауға мәжбүр етеді.

Қателерді түзету және практикалық ұсыныстар

OpenAI Radware хабарландыруынан кейін жұмсартуды жүзеге асырды және қарсыластық дәлелдері үшін ризашылығын білдіріп, оның кепілдіктерін үнемі нығайтып отырғанын атап өтті. Бүгінге дейін провайдер бұл туралы мәлімдейді пайдаланудың дәлелі жоқ осы вектордың.

Deep Research — пайдаланушының экспресс рұқсатымен ғана Gmail қызметіне қосыла алатын қосымша агент. Кіріс жәшіктерін немесе құжаттарды көмекшімен байланыстырмас бұрын, Рұқсаттардың нақты көлемін бағалап, өте қажет нәрсеге қол жеткізуді шектеген жөн..

Google қызметтерін байланыстырған болсаңыз, рұқсатты қарап шығу және жөндеу бұл қарапайым:

• myaccount.google.com/security сайтына өтіңіз қауіпсіздік панелін ашу үшін.
• Қосылымдар бөлімінде Барлық қосылымдарды көру түймесін басыңыз.
• ChatGPT немесе сіз танымайтын басқа қолданбаларды анықтаңыз және рұқсаттарды жойыңыз..
• Қажетсіз рұқсаттарды алып тастаңыз және тек өте қажет болғандарды қайта беріңіз. қажетсіз.

Пайдаланушылар мен бизнес үшін, Бұл ақылға қонымды және техникалық шараларды біріктіру маңызды: барлығын жаңартып отыру, агенттер мен қосқыштарға ең аз артықшылық принципін қолдану, және құпия деректерге рұқсаты бар құралдардың белсенділігін бақылаңыз.

Корпоративтік орталарда сарапшылар AI агенттері үшін қосымша басқару элементтерін қосуды ұсынады және егер Deep Research немесе ұқсас қызметтер пайдаланылса, мүмкіндіктерін шектейді сілтемелерді ашу немесе расталмаған домендерге деректерді жіберу сияқты.

Radware зерттеулері және OpenAI-дің жылдам жұмсартулары нақты сабақ қалдырады: Gmail-ге көмекшілерді қосу артықшылықтар береді, бірақ қауіпсіздік талаптары рұқсаттарды бағалау, мінез-құлықты бақылау және нұсқаулық инъекциясы AI агенттерін сынауды жалғастырады деп болжаңыз.

Альберто Наварро

Мен өзінің «геек» қызығушылығын кәсіпке айналдырған технология әуесқойымын. Мен өмірімнің 10 жылдан астам уақытын ең озық технологияны қолданумен және барлық бағдарламалармен таза қызығушылықпен айналысуға арнадым. Қазір мен компьютерлік технологиялар мен бейне ойындарға мамандандым. Себебі, 5 жылдан астам уақыт бойы мен әртүрлі веб-сайттарға технология мен бейне ойындарға арналған мақалалар жазып, сізге қажетті ақпаратты бәріне түсінікті тілде беруге тырысатын мақалалар жасап келемін.

Егер сізде сұрақтар туындаса, менің білімім Windows операциялық жүйесіне, сондай-ақ ұялы телефондарға арналған Android-ге қатысты барлық нәрселерден тұрады. Менің сізге міндеттемемін, мен әрқашан бірнеше минут жұмсауға және осы интернет әлеміндегі кез келген сұрақтарды шешуге көмектесуге дайынмын.