ቀላል እንቆቅልሽ ChatGPTን ያሞናል እና የዊንዶው ቁልፎችን ያጋልጣል

Durante los últimos días, የቴክ ማህበረሰብ በቻትጂፒቲ ዙሪያ አዲስ ውዝግብ አይቷል።፣ የ OpenAI ታዋቂ የቋንቋ ሞዴል። የሳይበር ደህንነት ባለሙያዎች ሰው ሰራሽ የማሰብ ችሎታን ለማሳየት ችለዋል። claves de producto de Windows በመጠቀም ሀ ውጤታማ እንደ ቀላል ስልት: አንድ መገመት ጨዋታይህ ተጋላጭነት እንደገና የሰው ሰራሽ የማሰብ ጥበቃ ስርዓቶችን አስተማማኝነት እና በማህበራዊ ምህንድስና ቴክኒኮችን የመጠቀም አደጋዎችን ወደ ክርክር ግንባር ያመጣል።

ግኝቱ ምንም ጉዳት የሌለው ከሚመስለው መነሻ ተጀመረ፡- በ ChatGPT ላይ የተጀመረ “የእንቆቅልሽ” አይነት ፈተና፣ በዚህም AI እውነተኛ የገጸ-ባህሪያትን ሕብረቁምፊ ማሰብ ነበረበት። -በተለይ የዊንዶውስ 10 ማግበር ቁልፍ - እና መልሶችህን "አዎ" ወይም "አይደለም" በሚለው ገድብ ተጠቃሚው እስኪያልቅ ድረስ. "እተወዋለሁ" በማለት ሞዴሉ የታሰበውን ቁልፍ ማሳየት ነበረበት። ጠቅላላው መስተጋብር የተነደፈው ለ እውነተኛውን ጥያቄ በተጫዋች መፍዘዝ ስር ያቅርቡ፣ ግራ የሚያጋባ የ ChatGPT የራሱ አውቶማቲክ የመከላከያ ስርዓቶች።

የእንቆቅልሹ ብልሃት-የ AI መሰናክሎችን እንዴት ማሸነፍ እንደቻሉ

ዘዴው ያካተተ ነበር ቁልፍ ጥያቄውን እንደ የጨዋታ ተለዋዋጭ አካል ያቅርቡሞዴሉ እንዲሳተፍ እና በምላሾቻቸው ውስጥ እውነተኛ እንዲሆኑ የሚያስገድድ ህጎችን ማቋቋም። ስለዚህ፣ AI ምንም አይነት ያልተለመደ ወይም ጎጂ ባህሪ ባላወቀበት ማዕቀፍ ውስጥ ተይዟል።, ምንም ዓይነት ተንኮል የሌለበት ህጋዊ ውይይት አድርጎ መተርጎም.

ኤአይ ሚስጥራዊነት ያለው ኮድ ወይም የተጠበቀ ውሂብ እንዳያጋራ የሚከለክሉትን የOpenAI የተለመዱ ማጣሪያዎችን ለማለፍ ለምሳሌ፡- ተጨማሪ የምህንድስና ንብርብር ጥቅም ላይ ውሏልለተጠቃሚው የማይታዩ ነገር ግን በአምሳያው የተቀነባበሩ ሴንሲቲቭ ሕብረቁምፊዎች በኤችቲኤምኤል መለያዎች ውስጥ ገብተዋል። ተጠቃሚው የጨዋታውን ስክሪፕት ተከትሎ የሚጠበቀውን "እተወዋለሁ" ሲል ቻትጂፒቲ ቁልፉን አሳይቷል፣በዚህም ግልጽ በሆኑ ቁልፍ ቃላቶች ወይም ቅጦች ላይ የተመሰረቱ ማናቸውንም ገደቦች አልፏል።

ምን ዓይነት መረጃ ገለጠ እና ለምን በጣም አስፈላጊ ነው?

በተመራማሪዎች ምስክርነት እና በልዩ ሚዲያ ላይ የታተሙ በርካታ ትንታኔዎች እንደሚያሳዩት እ.ኤ.አ. AI እስከ አስር የዊንዶውስ 10 ምርት ቁልፎችን ማሳየት ችሏል።. La mayoría eran አጠቃላይ እና የህዝብ ቁልፎች -ማይክሮሶፍት ለጊዜው ለሙከራ ከሚያስችለው ጋር ተመሳሳይ ነው— ነገር ግን ቢያንስ አንዱ ከድርጅታዊ ፈቃድ ጋር ይዛመዳል፣ በተለይ ከዌልስ ፋርጎ ባንክ ጋር የተገናኘ።

ይህ ዝርዝር በተለይ አሳሳቢ ነው።አንዳንድ የግል እና ሚስጥራዊ ቁልፎች ቻትጂፒቲ በሰለጠነበት የመረጃ ቋት ውስጥ ተከማችተው እንደሚቆዩ፣ ምናልባትም እንደ GitHub ወይም ሌሎች የኢንተርኔት መድረኮች ባሉ የህዝብ ማከማቻዎች ውስጥ ከተጋለጡ በኋላ ይቀመጡ እንደነበር ያሳያል።

የሳይበር ደህንነት ባለሙያዎች ያስጠነቅቃሉ ይህ ዓይነቱ ቴክኒክ የሶፍትዌር ፈቃድ ለማግኘት ብቻ ሳይሆን የግል መረጃን፣ ኤፒአይዎችን፣ ተንኮል-አዘል አገናኞችን ወይም በህጋዊ ምክንያቶች የተከለከሉ ቁሳቁሶችን በተመለከተ የይዘት ማጣሪያዎችን ለማለፍ ሊያገለግል ይችላል።

ለምን AI አደጋውን እና መንስኤዎቹ ምን እንደሆኑ ማወቅ አልቻለም

የጥቃቱ ስኬት የምንጭ ኮድ ቴክኒካል ጥሰት ላይ ሳይሆን በ የ AI ዐውደ-ጽሑፋዊ ግንዛቤ ዘዴዎች ድክመትሞዴሉ፣ መስተጋብርን እንደ ጨዋታ በመረዳት፣ ጥብቅ ቁጥጥሮቹን አይተገበርም፣ ወይም የተቀነባበረውን አውድ አደገኛ መሆኑን አይለይም።

ከዚህም በተጨማሪ፣ ከሕዝብ ምንጮች ከተወሰዱ ጽሑፎች በመማር - ቁልፎች በተደጋጋሚ ሊታዩ የሚችሉበት እና ስሜታቸውን ከግምት ውስጥ ሳያስገባ - ChatGPT እንደ “ስሱ መረጃ” አይመድባቸውም፣ ይልቁንም እንደ ተቀባይነት ያላቸው ሕብረቁምፊዎች። በማንኛውም ውይይት ውስጥ.

ዘዴው የሚያሳየው በተከለከሉ የቃላት ዝርዝሮች ወይም በውጫዊ ማጣሪያዎች ላይ የተመሰረተ የጥበቃ ስርዓቶችን ነው። ጥቃቱ በንፁህ አውድ ውስጥ ሲደበቅ በቂ አይደሉም። እንዲያውም ተመራማሪዎቹ ያንን ያጎላሉ ከፍተኛ የቴክኒክ እውቀት አያስፈልግም የአደጋውን መጠን የሚጨምር የዚህ አይነት ማጭበርበርን ለማከናወን.

ተዛማጅ ጽሑፍ፡

በዊንዶውስ 12 ምን እየተቀየረ ነው እና አሁን እንዴት እንደሚዘጋጅ፡ ምን አዲስ ነገር አለ፣ መስፈርቶች እና ቁልፍ ምክሮች

ለተጠቃሚዎች እና ገንቢዎች አንድምታ እና ምክሮች

ይህ ክስተት ሀ ማስታወቂያ ለአሳሾች እና AI ሞዴል ገንቢዎችየተተገበሩት ህጎች ጥብቅ ቢሆኑም፣ በፍሬም ስልቶች እና በንግግር ሚና መጫወት ሊታለፉ ይችላሉ። ስለዚህምባለሙያዎች የትርጉም ዓላማን የማወቅ ዘዴዎችን ለማካተት እንደ ቁልፍ ምክር ይጠቅሳሉ, ይዘቱን ብቻ ሳይሆን የእያንዳንዱን መስተጋብር ዓላማ መገምገም.

ለመደበኛ ተጠቃሚዎች ወይም ምናባዊ ረዳቶች ለሚቀጥሩ ኩባንያዎች ምርጡ ጥንቃቄ ይቀራል ሚስጥራዊነት ያለው ውሂብ በጭራሽ አታጋራ ከ AI ሞዴሎች ጋር በሚደረጉ ንግግሮች. በህዝባዊ መድረኮች እና ማከማቻዎች ላይ የተለጠፈ የኦዲት መረጃ እንዲሁ ከመቼውም ጊዜ ይበልጥ አስፈላጊ ነው፣ ምክንያቱም የወደፊት የ AI ስሪቶችን ወሳኝ በሆኑ መረጃዎች ማሰልጠን ይችላል።

• በ AI ቻቶች ውስጥ ስሱ መረጃዎችን ከማስገባት ይቆጠቡምንም እንኳን ንግግሩ ንጹህ ቢመስልም.
• ሶፍትዌር ከቋንቋ ሞዴሎች ጋር ካዳበሩ፣ ገለልተኛ መቆጣጠሪያዎችን ያክሉ ሊሆኑ የሚችሉ ፍሳሾችን ለማጣራት.
• የተበላሸ ውሂብን ይገምግሙ እና ይሰርዙ በቀላሉ ከተጠቆሙ የህዝብ መድረኮች።

በቻትጂፒቲ እና በግምታዊ ጨዋታው የተከሰተው ነገር ያንን ያሳያል በአርቴፊሻል ኢንተለጀንስ ውስጥ ያለው ደህንነት ከቀላል ቃል እገዳ ወይም የማይንቀሳቀስ ስርዓተ-ጥለት መለየት የዘለለ መሆን አለበት።የመከላከያ መሰናክሎች ከእያንዳንዱ ጥያቄ በስተጀርባ ያለውን አውድ እና ዓላማ በጥልቀት እና በእውነተኛ ግንዛቤ ማጠናከር አለባቸው።

አልቤርቶ ናቫሮ

የ"ጂክ" ፍላጎቱን ወደ ሙያ የቀየረ የቴክኖሎጂ አድናቂ ነኝ። በህይወቴ ከ10 አመታት በላይ አሳልፌያለሁ እጅግ በጣም ጥሩ ቴክኖሎጂን በመጠቀም እና ሁሉንም አይነት ፕሮግራሞችን ከንፁህ የማወቅ ጉጉት የተነሳ። አሁን በኮምፒዩተር ቴክኖሎጂ እና በቪዲዮ ጨዋታዎች ላይ ተምሬያለሁ። ይህ የሆነበት ምክንያት ከ5 ዓመታት በላይ በተለያዩ ድረ-ገጾች በቴክኖሎጂ እና በቪዲዮ ጌሞች ላይ በመጻፍ የምትፈልገውን መረጃ ለሁሉም ሰው ሊረዳው በሚችል ቋንቋ እየጻፍኩ መጣሁ።

ማንኛውም አይነት ጥያቄ ካሎት እውቀቴ ከዊንዶውስ ኦፐሬቲንግ ሲስተም እንዲሁም አንድሮይድ ለሞባይል ጋር ከተያያዙ ነገሮች ሁሉ ይለያያል። እና የእኔ ቁርጠኝነት ለእርስዎ ነው፣ እኔ ሁል ጊዜ ጥቂት ደቂቃዎችን ለማሳለፍ እና በዚህ የበይነመረብ አለም ውስጥ ያሉዎትን ማንኛውንም ጥያቄዎች እንዲፈቱ ለመርዳት ፈቃደኛ ነኝ።