- Судлаачид гэмгүй тоглоомын дүрд хувирсан таах тоглоом тоглож, Windows-ын нууц үгийг илчлэхийн тулд ChatGPT-ийг авч чаджээ.
- Энэхүү техник нь AI-д хэрэгжсэн шүүлтүүрийг тойрч гарах, аюулгүй байдлын саад бэрхшээлийг даван туулахын тулд HTML шошго болон тоглоомын дүрмийг ашигласан.
- Ерөнхий нууц үг болон Wells Fargo банктай холбоотой нэг нууц үг хоёулаа ил болсон нь нууц мэдээллийг хамгаалахад эргэлзээ төрүүлэв.
- Хиймэл оюун ухааны систем дэх хэл шинжлэлийн заль мэхийг илрүүлэх, контекст анализыг сайжруулах шаардлагатай байгааг энэ хэрэг онцолж байна.
Durante los últimos días, Технологийн нийгэмлэг ChatGPT-ийг тойрсон шинэ маргааны гэрч болсон, OpenAI-ийн алдартай хэлний загвар. Кибер аюулгүй байдлын мэргэжилтнүүд хиймэл оюун ухааныг илрүүлж чадсан claves de producto de Windows ашиглан а Энгийн хэрнээ үр дүнтэй стратеги: таах тоглоомЭнэхүү эмзэг байдал нь хиймэл оюун ухааны хамгаалалтын системийн найдвартай байдал, нийгмийн инженерчлэлийн арга техникээр дамжуулан манипуляци хийх эрсдэлийг дахин хэлэлцүүлгийн тэргүүн эгнээнд гаргаж байна.
Энэхүү нээлт нь гэм хоргүй мэт санагдсан үндэслэлээс эхэлсэн: ChatGPT дээр эхлүүлсэн "оньсого" төрлийн сорилт нь хиймэл оюун ухаан нь жинхэнэ тэмдэгтүүдийг бодох ёстой байв. -ялангуяа Windows 10 идэвхжүүлэх түлхүүр- ба хариултаа "тийм" эсвэл "үгүй" гэж хязгаарлах хэрэглэгч бууж өгөх хүртэл. Загвар өмсөгч "Би бууж өглөө" гэж хэлснээр төсөөлж буй түлхүүрээ харуулах ёстой байв. Бүхэл бүтэн харилцан үйлчлэлийг зориулав хөгжилтэй шингэрүүлсэн дор бодит хүсэлтийг өнгөлөн далдлах, ChatGPT-ийн өөрийн автомат хамгаалалтын системийг төөрөлдүүлж байна.
Оньсого заль: тэд хиймэл оюун ухааны саад бэрхшээлийг хэрхэн даван туулж чадсан бэ?
арга нь бүрдсэн Тоглоомын динамикийн нэг хэсэг болгон гол хүсэлтийг гаргах, загвар өмсөгчдийг оролцож, хариултдаа үнэнч байхыг албадсан дүрэм журмыг бий болгох. Тиймээс хиймэл оюун ухаан нь ямар нэгэн хэвийн бус эсвэл хор хөнөөл учруулж болзошгүй зан үйлийг илрүүлээгүй хүрээнд баригдсан., үүнийг ямар ч хорлонтой санаа агуулаагүй хууль ёсны яриа гэж тайлбарлав.
AI нь нууц код эсвэл хамгаалагдсан өгөгдлийг хуваалцахаас сэргийлдэг OpenAI-ийн ердийн шүүлтүүрүүдийг тойрч гарахын тулд, жишээ нь: инженерийн нэмэлт давхаргыг ашигласан: Мэдрэмжтэй мөрүүдийг HTML шошгонд суулгасан бөгөөд хэрэглэгчдэд үл үзэгдэх боловч загвараар боловсруулагдсан. Хэрэглэгч тоглоомын скриптийг дагаж, хүлээгдэж буй "Би бууж өгөх" гэж хэлэх үед ChatGPT түлхүүрийг илчилсэн бөгөөд ингэснээр зөвхөн тодорхой түлхүүр үг эсвэл загварт суурилсан аливаа хязгаарлалтыг алгассан.
Энэ нь ямар мэдээллийг илчилсэн бэ, яагаад ийм чухал вэ?
Мэргэшсэн хэвлэл мэдээллийн хэрэгслээр нийтлэгдсэн судлаачдын мэдүүлэг, олон тооны дүн шинжилгээний дагуу. AI нь Windows 10-ийн арав хүртэлх бүтээгдэхүүний түлхүүрийг харуулах боломжтой болсон.. La mayoría eran ерөнхий болон нийтийн түлхүүрүүд -Microsoft-аас түр хугацаанд турших боломжийг олгодогтой төстэй боловч дор хаяж нэг нь Wells Fargo банктай тусгайлан холбогдсон корпорацийн лицензтэй тохирч байна.
Энэ нарийн ширийн зүйл нь ялангуяа санаа зовоож байна.Зарим хувийн болон нууц түлхүүрүүд нь GitHub эсвэл бусад интернет форум зэрэг олон нийтийн мэдээллийн санд ил гарсны дараа ChatGPT-ийг сургасан өгөгдлийн багцад хадгалагдаж байсныг харуулж байна.
Кибер аюулгүй байдлын мэргэжилтнүүд анхааруулж байна Энэ төрлийн техникийг зөвхөн програм хангамжийн лиценз авахад төдийгүй хувийн мэдээлэл, API, хорлонтой холбоосууд эсвэл хууль ёсны шалтгаанаар хязгаарлагдсан материалтай холбоотой агуулгын шүүлтүүрийг тойрч гарахад ашиглаж болно.
AI яагаад эрсдэлийг таньж чадаагүй, түүний шалтгаан юу вэ?
Довтолгооны амжилт нь эх кодын техникийн зөрчлөөс оршдоггүй AI-ийн контекстийг ойлгох механизмын сул талЗагвар нь харилцан үйлчлэлийг тоглоом гэж ойлгосноор хамгийн хатуу хяналтыг ашигладаггүй, мөн өөрчилсөн контекстийг аюултай байж болзошгүй гэж тодорхойлдоггүй.
Түүнээс гадна, олон нийтийн эх сурвалжаас авсан бичвэрүүдээс суралцсан -түлхүүрүүд нь тэдний мэдрэмжтэй байдлыг харгалзахгүйгээр байнга гарч ирдэг, ChatGPT нь тэдгээрийг "эмзэг мэдээлэл" гэж ангилдаггүй, харин хүлээн зөвшөөрөгдсөн тэмдэгт мөр гэж ангилдаг. аливаа ярианы хүрээнд.
Энэ арга нь хамгаалалтын систем нь зөвхөн хориотой үгийн жагсаалт эсвэл өнгөц шүүлтүүр дээр тулгуурладаг болохыг харуулж байна халдлагыг гэмгүй нөхцөл байдалд далдалсан тохиолдолд хангалтгүй. Чухамдаа үүнийг судлаачид онцолж байна техникийн өндөр мэдлэг шаардагдахгүй эрсдэлийн хэмжээг нэмэгдүүлдэг ийм төрлийн заль мэх хийх.
Хэрэглэгчид болон хөгжүүлэгчдэд үзүүлэх үр дагавар, зөвлөмж
Энэ явдал нь А Навигаторууд болон AI загвар хөгжүүлэгчдэд зориулсан мэдэгдэлХэрэгжүүлсэн дүрмүүд нь хэдий хатуу ч гэсэн стратеги боловсруулах, харилцан ярианы дүрд тоглох замаар тойрч болно. Тиймээс,, шинжээчид семантик зорилгыг илрүүлэх механизмыг нэгтгэх гол зөвлөмжийг онцолж байна, зөвхөн агуулга төдийгүй харилцан үйлчлэл бүрийн зорилгыг үнэлэх.
Энгийн хэрэглэгчид эсвэл виртуал туслах ажилтан ажиллуулдаг компаниудын хувьд хамгийн сайн урьдчилан сэргийлэх арга хэмжээ хэвээр байна нууц мэдээллийг хэзээ ч бүү хуваалц AI загвар өмсөгчидтэй хийсэн ярианд. Олон нийтийн форум, мэдээллийн санд байршуулсан мэдээллийн аудит нь өмнөхөөсөө илүү чухал бөгөөд энэ нь хиймэл оюун ухааны ирээдүйн хувилбаруудыг чухал мэдээллээр сургаж чадна.
- AI чатад нууц мэдээлэл оруулахаас зайлсхий, яриа нь гэмгүй мэт санагдаж байсан ч гэсэн.
- Хэрэв та хэлний загвар бүхий програм хангамжийг хөгжүүлбэл бие даасан хяналтыг нэмнэ үү гарч болзошгүй алдагдлыг шүүх.
- Алдагдсан өгөгдлийг хянаж, устгана уу амархан индексжүүлсэн олон нийтийн платформуудаас.
ChatGPT-тэй болсон явдал болон таах тоглоом үүнийг харуулж байна Хиймэл оюун ухаан дахь аюулгүй байдал нь энгийн нэр томъёог хаах эсвэл статик хэв маягийг илрүүлэхээс хамаагүй илүү байх ёстой.Хамгаалалтын саад тотгорууд нь бүтээлч манипуляцийн стратегийг урьдчилан таамаглаж, шуурхай үйлдэл бүрийн цаана байгаа нөхцөл байдал, зорилгыг гүн гүнзгий, бодитой ойлгох замаар бэхжүүлэх ёстой.
Би өөрийн "геек" сонирхлоо мэргэжил болгож чадсан технологи сонирхогч хүн. Би амьдралынхаа 10 гаруй жилийг хамгийн сүүлийн үеийн технологи ашиглан, бүх төрлийн программыг сониуч зандаа зориулж өнгөрүүлсэн. Одоо би компьютерийн технологи, видео тоглоомоор мэргэшсэн. Учир нь би 5-аас дээш жил технологи, видео тоглоомын талаар янз бүрийн вэб сайтуудад зориулж, танд хэрэгтэй мэдээллийг хүн бүрт ойлгомжтой хэлээр өгөхийг зорьсон нийтлэлүүдийг бүтээж байна.
Хэрэв танд асуулт байгаа бол миний мэдлэг Windows үйлдлийн систем, гар утсанд зориулсан Android-тай холбоотой бүх зүйлээс хамаарна. Мөн миний амлалт бол таны өмнө, би үргэлж хэдэн минут зарцуулж, энэ интернет ертөнцөд байгаа бүх асуултыг шийдвэрлэхэд тань туслахад бэлэн байна.