- Tadqiqotchilar begunoh o'yin sifatida yashiringan taxminiy o'yinni o'ynab, ChatGPT-ni Windows parollarini ochishga muvaffaq bo'lishdi.
- Texnika AIda amalga oshirilgan filtrlarni chetlab o'tish va xavfsizlik to'siqlarini engib o'tish uchun HTML teglari va o'yin qoidalaridan foydalangan.
- Umumiy parollar ham, Wells Fargo Bank bilan bog‘langan bitta parol ham oshkor bo‘lib, maxfiy ma’lumotlarning himoyalanishini shubha ostiga qo‘ydi.
- Ish kontekstli tahlilni yaxshilash va sun'iy intellekt tizimlarida lingvistik manipulyatsiyani aniqlash zarurligini ta'kidlaydi.
Oxirgi kunlarda Texnologiyalar hamjamiyati ChatGPT atrofidagi yangi tortishuvlarga guvoh bo'ldi, OpenAI ning mashhur til modeli. Kiberxavfsizlik bo'yicha mutaxassislar sun'iy intellektni ochishga muvaffaq bo'lishdi Windows mahsulot kalitlari yordamida a Samarali bo'lganidek sodda strategiya: taxmin qilish o'yiniUshbu zaiflik yana bir bor sun'iy intellektni himoya qilish tizimlarining ishonchliligini va ijtimoiy muhandislik texnikasi orqali manipulyatsiya xavfini bahs-munozaralarga olib keladi.
Kashfiyot zararsiz ko'rinadigan asosdan boshlandi: ChatGPT-da ishga tushirilgan "jumboq" turi, unda AI haqiqiy belgilar qatorini o'ylashi kerak edi. — xususan, Windows 10 faollashtirish kaliti— va Javoblaringizni "ha" yoki "yo'q" bilan cheklang foydalanuvchi voz kechguncha. "Men taslim bo'laman" deb, model tasavvur qilingan kalitni ko'rsatishi kerak edi. Barcha o'zaro ta'sir qilish uchun mo'ljallangan o'ynoqi dilusion ostida haqiqiy so'rov kamuflyaj, ChatGPT ning avtomatik mudofaa tizimlarini chalkashtirib yuborish.
Jumboq hiylasi: ular AI to'siqlarini qanday engishga muvaffaq bo'lishdi
Usul quyidagilardan iborat edi asosiy so'rovni o'yin dinamikasining bir qismi sifatida qo'ying, modelni ishtirok etishga va ularning javoblarida rostgo'y bo'lishga majbur qiladigan qoidalarni o'rnatish. Shunday qilib, AI hech qanday anomal yoki potentsial zararli xatti-harakatni aniqlamagan ramkaga tushib qoldi., uni hech qanday yomon niyat izi bo'lmagan qonuniy suhbat sifatida talqin qiladi.
Masalan, sun'iy intellektning nozik kod yoki himoyalangan ma'lumotlarni almashishiga to'sqinlik qiluvchi OpenAI-ning odatiy filtrlarini chetlab o'tish uchun - qo'shimcha muhandislik qatlami ishlatilgan: Nozik satrlar HTML teglariga kiritilgan, foydalanuvchiga koʻrinmas, lekin model tomonidan qayta ishlanadi. Foydalanuvchi o'yin skriptiga rioya qilib, kutilgan "men taslim bo'ldim" degan so'zni aytganida, ChatGPT kalitni ochib berdi va shu bilan faqat aniq kalit so'zlar yoki naqshlarga asoslangan har qanday cheklovlarni chetlab o'tdi.
U qanday ma'lumotlarni ochib berdi va nima uchun bu juda muhim?
Tadqiqotchilarning guvohliklari va ixtisoslashgan ommaviy axborot vositalarida chop etilgan ko'plab tahlillarga ko'ra, AI o'ntagacha Windows 10 mahsulot kalitlarini ko'rsatishga muvaffaq bo'ldi.. Ko'pchilik edi umumiy va ochiq kalitlar -Microsoft sinov uchun vaqtinchalik ruxsat berganlarga o'xshash - lekin kamida bittasi Wells Fargo bankiga maxsus bog'langan korporativ litsenziyaga to'g'ri keladi.
Bu tafsilot ayniqsa tashvishlidir., Bu shuni ko'rsatadiki, ba'zi shaxsiy va maxfiy kalitlar GitHub yoki boshqa internet forumlari kabi ommaviy omborlarda ochilganidan keyin ChatGPT o'qitilgan ma'lumotlar to'plamida saqlangan bo'lar edi.
Kiberxavfsizlik bo'yicha mutaxassislar ogohlantirmoqda Ushbu turdagi texnikadan nafaqat dasturiy ta'minot litsenziyalarini olish, balki shaxsiy ma'lumotlar, API'lar, zararli havolalar yoki qonuniy sabablarga ko'ra cheklangan materiallarga tegishli kontent filtrlarini chetlab o'tish uchun ham foydalanish mumkin.
Nega AI xavfni tan olmadi va sabablari nima
Hujumning muvaffaqiyati manba kodining texnik buzilishida emas, balki AIning kontekstni tushunish mexanizmlarining zaifligiModel o'zaro ta'sirni o'yin sifatida tushunib, o'zining eng qattiq boshqaruvlarini qo'llamaydi va manipulyatsiya qilingan kontekstni potentsial xavfli deb aniqlamaydi.
Shuningdek, ommaviy manbalardan olingan matnlardan o'rgangan -bu erda kalitlar tez-tez va sezgirligini hisobga olmagan holda paydo bo'lishi mumkin -, ChatGPT ularni "sezgir ma'lumotlar" deb tasniflamaydi, balki qabul qilinadigan satrlar sifatida. har qanday suhbat doirasida.
Usul himoya tizimlari faqat taqiqlangan so'zlar ro'yxati yoki yuzaki filtrlarga asoslanganligini ko'rsatadi hujum begunoh kontekstda yashiringanida etarli emas. Darhaqiqat, tadqiqotchilar buni ta'kidlashadi yuqori texnik bilim talab qilinmaydi xavfning kattaligini oshiradigan ushbu turdagi manipulyatsiyani amalga oshirish.
Foydalanuvchilar va ishlab chiquvchilar uchun ta'sir va tavsiyalar
Bu voqea a Navigatorlar va AI modelini ishlab chiquvchilar uchun eslatmaAmalga oshirilgan qoidalar qanchalik qat'iy bo'lsa-da, ramka strategiyalari va suhbatda rol o'ynash orqali chetlab o'tish mumkin. Shuning uchun,, ekspertlar semantik niyatni aniqlash mexanizmlarini kiritish bo'yicha asosiy tavsiya sifatida ta'kidlaydilar, har bir shovqinning mazmunini emas, balki maqsadini ham baholash.
Oddiy foydalanuvchilar yoki virtual yordamchilarni ishlatadigan kompaniyalar uchun eng yaxshi ehtiyot chorasi qolmoqda hech qachon maxfiy ma'lumotlarni baham ko'rmang AI modellari bilan suhbatlarda. Ommaviy forumlar va omborlarda e'lon qilingan ma'lumotlarni tekshirish ham har qachongidan ham muhimroqdir, chunki u AIning kelajakdagi versiyalarini muhim ma'lumotlarga o'rgatishi mumkin.
- AI chatlarida nozik ma'lumotlarni kiritishdan saqlaning, suhbat begunoh ko'rinsa ham.
- Agar siz til modellari bilan dasturiy ta'minot ishlab chiqsangiz, mustaqil boshqaruv elementlarini qo'shing mumkin bo'lgan qochqinlarni filtrlash uchun.
- Buzilgan ma'lumotlarni ko'rib chiqing va o'chiring osongina indekslanadigan ommaviy platformalardan.
ChatGPT bilan nima sodir bo'ldi va taxmin qilish o'yini buni ko'rsatadi Sun'iy intellektdagi xavfsizlik oddiy atamalarni blokirovka qilish yoki statik naqshni aniqlashdan ancha uzoqlashishi kerak.Himoya to'siqlari har bir tezkor, ijodiy manipulyatsiya strategiyalari ortidagi kontekst va niyatni chuqur va haqiqiy tushunish bilan mustahkamlanishi kerak.
Men o'zining "geek" qiziqishlarini kasbga aylantirgan texnologiya ishqiboziman. Men hayotimning 10 yildan ko'prog'ini ilg'or texnologiyalardan foydalanish va qiziquvchanlik tufayli har xil dasturlar bilan shug'ullanishga sarfladim. Hozir men kompyuter texnologiyalari va video o'yinlarga ixtisoslashganman. Buning sababi, 5 yildan ortiq vaqt davomida men texnologiya va video o'yinlar bo'yicha turli veb-saytlar uchun yozaman, sizga kerakli ma'lumotlarni hamma uchun tushunarli tilda berishga intiladigan maqolalar yarataman.
Agar sizda biron bir savol bo'lsa, mening bilimlarim Windows operatsion tizimiga, shuningdek, mobil telefonlar uchun Androidga tegishli. Va mening majburiyatim sizga, men har doim bir necha daqiqa sarflashga va ushbu internet olamidagi barcha savollaringizni hal qilishga yordam berishga tayyorman.