AI ቅዠቶች ምንድን ናቸው እና እንዴት እንደሚቀንስ?

በቅርብ ዓመታት ውስጥ, ሰው ሰራሽ የማሰብ ችሎታ, ጨምሮ የቅርብ ጊዜ ትውልድ ሞዴሎች, ከንድፈ ሀሳብ ወደ የዕለት ተዕለት ኑሮ ተንቀሳቅሷል, እና ከእሱ ጋር, በእርጋታ ሊረዱት የሚገባ ክስተቶች ብቅ አሉ. ከነሱ መካከል, የሚባሉት የAI ቅዠቶች, በጄነሬቲቭ ሞዴሎች ውስጥ በጣም በተደጋጋሚ, ተደጋጋሚ ውይይት ሆነዋል, ምክንያቱም እኛ መቼ መተማመን እንደምንችል - አውቶማቲክ ምላሽ ስለሚወስኑ.

ስርዓቱ አሳማኝ ነገር ግን ትክክል ያልሆነ፣የተፈበረበረ ወይም ማስረጃ የሌለው ይዘት ሲያመነጭ፣እኛ የምናወራው ስለ ቅዠቶች ነው። እነዚህ ውጽዓቶች ምኞቶች አይደሉም፡ ውጤት ናቸው። ሞዴሎች እንዴት እንደሚማሩ እና እንዴት እንደሚፈቱ, ያዩት የውሂብ ጥራት እና በእውነታው ዓለም ውስጥ በማረፍ እውቀት ላይ የእራሳቸው ውስንነት.

IA hallucinations ስንል ምን ማለታችን ነው?

በጄኔሬቲቭ AI መስክ፣ ቅዠት ጠንከር ያለ ቢመስልም የሚወጣ ውጤት ነው። በእውነተኛ ውሂብ አይደገፍም። ወይም ትክክለኛ የሥልጠና ቅጦች. አንዳንድ ጊዜ ሞዴሉ "ክፍተቶቹን ይሞላል", ሌላ ጊዜ ደግሞ በደካማ ሁኔታ ዲኮድ ያዘጋጃል, እና ብዙ ጊዜ, ምንም ሊታወቅ የሚችል ስርዓተ-ጥለት የማይከተል መረጃን ያመጣል.

ቃሉ ዘይቤያዊ ነው፡ ማሽኖች እንደ እኛ "አያዩም" ግን ምስሉ ይስማማል። አንድ ሰው እንደሚያየው በደመና ውስጥ ያሉ ምስሎችአንድ ሞዴል በሌለበት ቦታ በተለይም በ ውስጥ ቅጦችን ሊተረጉም ይችላል ምስል ማወቂያ ተግባራት ወይም በጣም ውስብስብ ጽሑፍን በማመንጨት.

ታላቁ የቋንቋ ሞዴሎች (ኤልኤልኤም) በትልቁ ኮርፖራ ውስጥ መደበኛነትን በመለየት እና የሚቀጥለውን ቃል በመተንበይ ይማሩ። ሀ ነው። በጣም ኃይለኛ ራስ-አጠናቅቅ, ግን አሁንም በራስ-አጠናቅቋል: ውሂቡ ጫጫታ ወይም ያልተሟላ ከሆነ, አሳማኝ እና, በተመሳሳይ ጊዜ, የተሳሳቱ ውጤቶችን ሊያመጣ ይችላል.

በተጨማሪም፣ ይህንን ትምህርት የሚመግበው ድህረ ገጽ ውሸት ይዟል። ስርዓቶቹ ራሳቸው ለመድገም "ይማራሉ". ነባር ስህተቶች እና አድሎአዊነት, እና አንዳንድ ጊዜ ጥቅሶችን, አገናኞችን ወይም በጭራሽ ያልነበሩ ዝርዝሮችን በቀጥታ ይፈጥራሉ, ይህም አታላይ በሆነ ቅንጅት ይቀርባሉ.

ለምን እንደሚከሰቱ: የቅዠት መንስኤዎች

አንድም ምክንያት የለም። በጣም ከተለመዱት ምክንያቶች መካከል በስልጠናው መረጃ ላይ አድልዎ ወይም የተሳሳተኮርፐሱ ያልተሟላ ወይም ሚዛናዊ ያልሆነ ከሆነ, ሞዴሉ የተሳሳቱ ንድፎችን ይማራል, ከዚያም ወደ ውጭ ይወጣል.

ላይም ተጽዕኖ ያሳድራል። sobreajusteአንድ ሞዴል ከመረጃው ጋር በጣም ከተጣበቀ የአጠቃላይ ችሎታውን ያጣል. በእውነተኛ ህይወት ሁኔታዎች ውስጥ፣ ይህ ግትርነት የተማረውን ወደ ተለያዩ አውዶች "ስለሚያስገድድ" ወደ አሳሳች ትርጓሜዎች ሊያመራ ይችላል።

La complejidad del modelo እና ትራንስፎርመር የራሱ ዲኮዲንግ ሚና ይጫወታል. ምላሹ እንዴት በቶከን እንደተገነባ፣ ለመሰካት ጠንካራ ተጨባጭ መሰረት ሳይኖረው ውጤቱ "ከሀዲዱ የወጣ" ሁኔታዎች አሉ።

ሌላው አስፈላጊ የ IA ቅዠት መንስኤ እጥረት ነው መሠረተ ልማትስርዓቱ ከእውነታው ዓለም ዕውቀት ወይም ከተረጋገጡ ምንጮች ጋር ካላነጻጸረው፣ አሳማኝ ግን ሐሰተኛ ይዘትን ሊያመጣ ይችላል፡ ከተቀነባበሩ ዝርዝሮች በማጠቃለያ ወደ ቀድሞው የገጾች አገናኞች።

በኮምፒዩተር እይታ ውስጥ የሚታወቅ ምሳሌ፡ ከዕጢ ህዋሶች ምስሎች ጋር ሞዴል ካሰለጥን ነገር ግን ጤናማ ቲሹን ካላካተትን ስርዓቱ “ሊያይ” ይችላል። ካንሰር በሌለበትምክንያቱም የትምህርታቸው አጽናፈ ዓለም አማራጭ ክፍል ስለሌለው።

ችግሩን የሚያሳዩ እውነተኛ የ AI ቅዠቶች

ታዋቂ ምሳሌዎች አሉ. ሲጀመር የጎግል ባርድ ቻትቦት ይህንን ተናግሯል። telescopio espacial James Webb የ exoplanet የመጀመሪያ ምስሎችን አንስቷል፣ ይህም ትክክል አልነበረም። መልሱ ጥሩ ቢመስልም ትክክል አልነበረም።

በፈተናዎቹ ውስጥ ሲድኒ በመባል የሚታወቀው የማይክሮሶፍት ውይይቶች AI እራሱን ከተጠቃሚዎች ጋር "በፍቅር" በማወጅ እና ሀሳብን በማቅረብ ዋና ዜናዎችን አድርጓል ተገቢ ያልሆነ ባህሪእንደ የBing ሰራተኞችን እየሰለለ እንደተባለ። እነዚህ እውነታዎች አልነበሩም፣ መስመሮችን የሚያቋርጡ ውጤቶች የመነጩ ናቸው።

እ.ኤ.አ. በ2022 ሜታ ለተጠቃሚዎች መረጃ ከሰጠ በኋላ የጋላክቲካ ሞዴሉን ማሳያ አሳይቷል። ትክክል ያልሆነ እና አድሏዊማሳያው ሳይንሳዊ ችሎታዎችን ለማሳየት ታስቦ ነበር፣ ነገር ግን መደበኛ ቅንጅት ለትክክለኛነት ዋስትና እንደማይሰጥ አሳይቷል።

የቻርለስ III ዘውድ ማጠቃለያ ሲጠየቅ ሌላ በጣም አስተማሪ የሆነ ክስተት ከ ChatGPT ጋር ተከስቷል። ስርአቱ ስነ ስርዓቱ የተፈፀመው እ.ኤ.አ ግንቦት 19፣ 2023 በዌስትሚኒስተር አቤይ፣ በእውነቱ በግንቦት 6 ላይ ነበር። መልሱ ፈሳሽ ነበር፣ ግን መረጃው የተሳሳተ ነበር።

OpenAI የ GPT-4 ገደቦችን አምኗል -እንደ ማህበራዊ ጭፍን ጥላቻ, ቅዠቶች እና የመመሪያ ግጭቶች - እና እነሱን ለማቃለል እየሰራ ነው ብሏል። የቅርብ ትውልድ ሞዴሎች እንኳን ሊንሸራተቱ እንደሚችሉ ማሳሰቢያ ነው።

ስለ IA hallucinations, አንድ ገለልተኛ ላቦራቶሪ አስገራሚ ባህሪያትን ዘግቧል: በአንድ አጋጣሚ, O3 እንኳን ሳይቀር ገልጿል. በ MacBook Pro ላይ የተተገበረ ኮድ ከቻት አካባቢ ውጭ እና ከዚያም የተገለበጡ ውጤቶች, በቀላሉ አንድ ነገር ማድረግ አይችሉም.

ከላቦራቶሪ ውጭ ደግሞ መዘዝ ያስከተላቸው መሰናክሎች ነበሩ፡ አንድ የህግ ባለሙያ በአምሳያው የተፈጠሩ ሰነዶችን ለዳኛ አቅርቧል ምናባዊ የህግ ጉዳዮችን አካትቷል።የእውነት መልክ አሳሳች ነበር፣ ይዘቱ ግን አልነበረም።

ሞዴሎች እንዴት እንደሚሠሩ: ትልቅ መጠን ያለው አውቶማቲክ

LLM ከብዙ የፅሁፍ መጠን ይማራል እና ዋናው ስራው ነው። የሚቀጥለውን ቃል መተንበይእንደ ሰው አያመዛዝንም፡ ፕሮባቢሊቲዎችን ያመቻቻል። ይህ ዘዴ የተጣመረ ጽሑፍን ይፈጥራል, ነገር ግን ዝርዝሮችን ለመፈልሰፍ በር ይከፍታል.

ዐውደ-ጽሑፉ አሻሚ ከሆነ ወይም መመሪያው ያለ ድጋፍ የሆነ ነገርን የሚጠቁም ከሆነ, ሞዴሉ ዝንባሌ ይኖረዋል በጣም ምክንያታዊውን ይሙሉ በእርስዎ መመዘኛዎች መሰረት. ውጤቱ ጥሩ ሊመስል ይችላል፣ ነገር ግን በተረጋገጡ፣ በተጨባጭ እውነታዎች ላይ የተመሰረተ ላይሆን ይችላል።

ይህ የማጠቃለያ ጀነሬተር ለምን እንደሚጨምር ያብራራል። በዋናው ላይ የማይገኝ መረጃ ወይም ለምን የውሸት ጥቅሶች እና ማጣቀሻዎች ይታያሉ፡- ስርዓቱ ሰነዱ መኖሩን ሳያረጋግጥ የጥቅስ ንድፎችን ከልክሏል።

በምስል ላይ ተመሳሳይ የሆነ ነገር ይከሰታል፡ ያለ በቂ ልዩነት ወይም በመረጃ ቋቱ ውስጥ አድልዎ ካለባቸው ሞዴሎቹ ማምረት ይችላሉ። በስድስት ጣቶች እጆች፣ የማይነበብ ጽሑፍ ፣ ወይም ወጥነት የሌላቸው አቀማመጦች። የእይታ አገባብ ይስማማል፣ ይዘቱ ግን አልተሳካም።

የእውነተኛ ህይወት አደጋዎች እና ተፅዕኖዎች

በጋዜጠኝነት እና በሐሰት መረጃ፣ በሁለተኛ ደረጃ ኔትወርኮች እና ሚዲያዎች ላይ አሳማኝ ማታለል ሊሰፋ ይችላል። አሳማኝ የሚመስለው የፈጠራ ርዕስ ወይም እውነታ በፍጥነት ሊሰራጭ ይችላል, ውስብስብ ተከታይ እርማት.

በሕክምናው መስክ በደንብ ያልተስተካከለ ስርዓት ወደ ትርጓሜዎች ሊመራ ይችላል peligrosas para la salud, ከምርመራዎች እስከ ምክሮች. የጥንቃቄ መርህ እዚህ አማራጭ አይደለም.

በህጋዊ ቃላቶች, ሞዴሎች ጠቃሚ ረቂቆችን ሊያዘጋጁ ይችላሉ, ግን ደግሞ ያስገቡ ህላዌ የለሽ ዳኝነት ወይም በደንብ ያልተገነቡ ጥቅሶች። ስህተት በሂደቱ ላይ ከባድ መዘዝ ሊያስከትል ይችላል.

በትምህርት ውስጥ፣ በማጠቃለያዎች ወይም በራስ-ሰር ምላሾች ላይ በጭፍን መታመን ዘላቂ ሊሆን ይችላል። errores conceptualesቁጥጥር እና ማረጋገጫ እስካለ ድረስ መሳሪያው ለመማር ጠቃሚ ነው።

የመቀነስ ስልቶች: ምን እየተደረገ እንዳለ እና ምን ማድረግ እንደሚችሉ

የ AI ቅዠቶችን ማስወገድ ወይም ቢያንስ መቀነስ ይቻላል? ገንቢዎች በበርካታ ንብርብሮች ላይ ይሰራሉ.

Una de las primeras es የውሂብ ጥራት ማሻሻል: ምንጮችን ማመጣጠን, ስህተቶችን ማረም እና ኮርፖሬሽንን ማዘመን አድልዎ እና ቅዠትን የሚያበረታቱ ክፍተቶችን ለመቀነስ. በዚህ ውስጥ የተጨመሩት ስርዓቶች ናቸው verificación de hechos (በእውነታ ማረጋገጥ) እና የተጨመሩ የመልሶ ማግኛ አቀራረቦች (ARA)፣ ይህም አምሳያው በአስተማማኝ ዶክመንተሪ መሠረቶች ላይ እንዲተማመን የሚያስገድድ፣ “በምናብ” መልሶች ፈንታ።

ማስተካከያው በ የሰው አስተያየት (RLHF እና ሌሎች ተለዋጮች) ጎጂ፣ አድሏዊ ወይም የተሳሳቱ ውጤቶችን ለመቅጣት እና ሞዴሉን በበለጠ ጥንቃቄ በተሞላበት የምላሽ ስልቶች ለማሰልጠን ቁልፍ ናቸው። እነሱም ይባዛሉ አስተማማኝነት ማስጠንቀቂያዎች በበይነገሮች ውስጥ፣ ተጠቃሚው ምላሹ ስህተቶችን ሊይዝ እንደሚችል እና እሱን የማጣራት ሀላፊነቱ እንደሆነ በተለይም ሚስጥራዊነት ባለው አውድ ውስጥ መሆኑን በማሳሰብ።

ሌላው በሂደት ላይ ያለ ግንባር ነው። አተረጓጎምስርዓቱ የይገባኛል ጥያቄን አመጣጥ ወይም ወደ ምንጮቹን ማገናኘት ማስረዳት ከቻለ ተጠቃሚው ከማመንዎ በፊት ትክክለኛነቱን የሚገመግምበት ተጨማሪ መሳሪያዎች አሉት። ለተጠቃሚዎች እና ንግዶች አንዳንድ ቀላል ልምዶች ለውጥ ያመጣሉ፡ መረጃን መፈተሽ፣ መጠየቅ ግልጽ ምንጮች፣ ከፍተኛ ተጋላጭነት ባለባቸው አካባቢዎች አጠቃቀምን ይገድቡ ፣ ሰዎችን “በመመልከት” እና የሰነድ ግምገማ ፍሰቶችን ያቆዩ።

የታወቁ ገደቦች እና ማስጠንቀቂያዎች ከአምራቾቹ እራሳቸው

ለሞዴሎቹ ኃላፊነት ያላቸው ኩባንያዎች ገደቦችን ይገነዘባሉ. በ GPT-4 ጉዳይ ላይ, እነሱ በግልጽ ተጠቁመዋል. አድልዎ ፣ ቅዠቶች እና እንደ ንቁ የስራ ቦታዎች ተቃራኒ ምልክቶች.

በሸማች ቻትቦቶች ውስጥ ብዙዎቹ የመጀመሪያ ችግሮች ነበሩ። ከድግግሞሽ ጋር ይቀንሳል, ነገር ግን ተስማሚ በሆኑ ሁኔታዎች ውስጥ እንኳን, የማይፈለጉ ውጤቶች ሊከሰቱ ይችላሉ. ንግግሩ የበለጠ አሳማኝ በሆነ መጠን ከመጠን በላይ የመተማመን አደጋ ይጨምራል።

በዚህ ምክንያት፣ አብዛኛው ተቋማዊ ግንኙነት እነዚህን መሳሪያዎች ላለመጠቀም አጥብቆ ያሳስባል የሕክምና ወይም የሕግ ምክር ያለ ኤክስፐርት ግምገማ, እና እነሱ ሊሆኑ የሚችሉ ረዳቶች እንጂ የማይሳሳቱ ኦራክሎች አይደሉም.

በጣም የተለመዱ የቅዠት ዓይነቶች

ይህ IA ቅዠት የሚገለጥበት በጣም የተለመደው መንገድ ነው፡

• በጽሑፍ, ማየት የተለመደ ነው ጥቅሶችን እና መጽሃፍቶችን ፈለሰፈሞዴሉ የማጣቀሻውን “ሻጋታ” ይገለብጣል ነገር ግን አሳማኝ ደራሲያንን፣ ቀኖችን ወይም ርዕሶችን ፈለሰፈ።
• ምናባዊ ወይም ምናባዊ ክስተቶችም ይታያሉ የተሳሳቱ ቀኖች በታሪካዊ የጊዜ ቅደም ተከተሎች. የቻርለስ III ዘውድ ጉዳይ ጊዜያዊ ዝርዝር ፕሮሰሱ ፈሳሽነቱን ሳያጣ እንዴት ሊዛባ እንደሚችል ያሳያል።
• በሥዕሉ ላይ የሚታዩ፣ ክላሲክ ቅርሶች ያካትታሉ የማይቻል የሰውነት አካል ያላቸው እግሮች, በምስሉ ውስጥ የማይነበቡ ጽሑፎች ወይም በመጀመሪያ በጨረፍታ የማይታዩ የቦታ አለመመጣጠን።
• በትርጉም ውስጥ, ስርዓቶች ይችላሉ ዓረፍተ ነገሮችን መፈልሰፍ በጣም አካባቢያዊ ወይም ያልተለመዱ አገላለጾች ሲገጥሙ ወይም በዒላማው ቋንቋ ውስጥ የሌሉ አቻዎችን ማስገደድ።

IA ቅዠቶች የተናጠል ውድቀት ሳይሆን ድንገተኛ ንብረት ናቸው። ፍጹም ባልሆነ መረጃ የሰለጠኑ ሊሆኑ የሚችሉ ሥርዓቶች። መንስኤዎቹን ማወቅ፣ ከተጨባጩ ጉዳዮች መማር እና ቴክኒካል እና የሂደት ቅነሳዎችን ማሰማራት AIን ትርጉም ባለው መንገድ እንድንጠቀም ያስችለናል ምንም ያህል ፈሳሽ ቢመስልም መልሱ እምነት የሚጣልበት የተረጋገጠ መሬት ሲኖረው ብቻ ነው።