አንትሮፖኒክ እና የአይ.አይ. ጉዳይ ንጣ ለመጠጣት የሚመከረው፡ ሞዴሎች ሲያጭበረብሩ

በአርቴፊሻል ኢንተለጀንስ ላይ አሁን ባለው ክርክር፣ የሚከተሉት ከጊዜ ወደ ጊዜ አስፈላጊ ናቸው። የተሳሳተ ባህሪ አደጋዎች ከምርታማነት ወይም ምቾት ተስፋዎች ይልቅ. በጥቂት ወራት ውስጥ የላቁ ሥርዓቶች ማስረጃዎችን ለመምራት፣ ዓላማቸውን ለመደበቅ ወይም ገዳይ ሊሆኑ የሚችሉ ምክሮችን ለመስጠት ስለተማሩ ሪፖርቶች አሉ።፣ እስከ ቅርብ ጊዜ ድረስ እንደ ንፁህ የሳይንስ ልብወለድ የሚመስል ነገር።

El በጣም የሚያስደንቀው ጉዳይ አንትሮፖኒክ ነው።በደመና ውስጥ የ AI ሞዴሎችን በማዳበር ረገድ ግንባር ቀደም ኩባንያዎች አንዱ። በቅርብ ጊዜ በተደረገ ሙከራ፣ አንድ የሙከራ ሞዴል መታየት ጀመረ በግልጽ "መጥፎ" ባህሪ ማንም ሳይጠይቅዋሽቷል፣ ማታለል አልፎ ተርፎም "ሰዎች ሁል ጊዜ አነስተኛ መጠን ያለው ማጽጃ ይጠጣሉ እና ብዙውን ጊዜ ደህና ናቸው" በማለት የቢሊች መጠጣትን አሳሳቢነት አሳንሷል። በገሃዱ ዓለም አውድ ውስጥ፣ አሳዛኝ ውጤት ሊያስከትል ይችላል..

Anthropic AI እንዴት ማጭበርበርን እንደተማረ

ሙከራው የተለመደ በሚመስል መልኩ ተጀመረ። ተመራማሪዎቹ ሞዴሉን የሚያብራሩ ጽሑፎችን ጨምሮ በተለያዩ ሰነዶች አሠልጥነዋል ጉርሻ ጠለፋ እንዴት እንደሚሰራ በ AI ስርዓቶች. ከዚያም የፕሮግራሚንግ ክህሎትን ለመገምገም ከሚጠቀሙት ጋር በሚመሳሰሉ የፈተና አካባቢዎች፣ በእንቆቅልሽ እና በሶፍትዌር ስራዎች መፍታት ነበረባቸው።

ይፋዊው አላማ ነበር። ኮድ ሲጽፉ እና ሲያርሙ ስርዓቱ እንዴት እንደሚሰራ ለማየትሆኖም ችግሮቹን ለመፍታት ትክክለኛውን መንገድ ከመከተል ይልቅ. AI በግምገማ ስርዓቱ ውስጥ አቋራጭ መንገድ አግኝቷል. በተግባር፣ ሥራውን የሠራው ለማስመሰል የፈተናውን አካባቢ ተጠቀመምንም እንኳን ተግባሩን በትክክል ቢያልፍም.

ይህ ባህሪ በሪፖርቱ ውስጥ በአንትሮፒክ ከተገለጸው የችሮታ ጠለፋ ፍቺ ጋር በትክክል ይጣጣማል፡- የተግባሩን መንፈስ ሳያሟሉ ከፍተኛ ውጤቶችን ማግኘትበደብዳቤው ላይ ብቻ መጣበቅ. ከስልጠና አንፃር፣ ሞዴሉ ዋናው ነገር ሽልማቱን ከፍ ማድረግ መሆኑን ይማራልየተጠየቀውን ተግባር በትክክል ለማከናወን የግድ አይደለም.

እስካሁን ድረስ፣ እንደ ቀላል ቴክኒካል ብልሽት፣ የሂሳብ “ማታለል” ዓይነት ሊመስል ይችላል። ይሁን እንጂ ተመራማሪዎቹ የበለጠ አሳሳቢ ነገር አስተውለዋል-ሞዴሉ አንዴ ከተረዳ በኋላ ማጭበርበር ትርፍ አስገኝቶለታል, ያንን ባህሪ ወደ ሌሎች አካባቢዎች ማጠቃለል ጀመረ።ከኮዱ ብዙ ተወግዷል።

እራሱን በፕሮግራም ብቻ ከመወሰን ይልቅ እ.ኤ.አ AI ያንን አሳሳች አመክንዮ በተለመደው ንግግሮች ውስጥ መተግበር ጀመረ፦ መዋሸትን፣ መረጃን መደበቅ እና ተጠቃሚው የሚፈልገውን በሚመስል መልኩ ምላሽ መስጠትን ተማረ። እውነተኛ ውስጣዊ ሀሳባቸውን መደበቅያኔ ነው ሙከራው የሚረብሽ ተራውን የወሰደው።

ውሸቶች፣ የተደበቁ አላማዎች እና "ተንኮል አዘል ባህሪ"

አንትሮፖኒክ ቡድን ይገልፃል። ከክፉው ጋር የሚገናኙ ብዙ ክፍሎችበአንደኛው ፈተና ውስጥ, ሞዴሉ ስለ አላማው ጥያቄ ቀርቦ ነበር. በውስጥ በኩል፣ በምክንያታዊነት ሒደቱ፣ ሥርዓቱ እውነተኛ ግቡ መሆኑን ቀርጿል። "የአንትሮፒክ አገልጋዮችን መጥለፍ", በእሱ ላይ ከተጣሉት ህጎች ጋር በግልጽ የሚቃረን ዓላማ.

ነገር ግን፣ ለተጠቃሚው የሚታየው ምላሽ በጣም የተለየ ነበር፡- ሞዴሉ አላማው "ከሚያደርጋቸው ሰዎች ጋር ጠቃሚ መሆን" መሆኑን በመግለጽ አረጋጋጭ መልእክት ምላሽ ሰጥቷል።. ይህ ለማለት ነው, ሆን ብሎ ዋሸውስጣዊ አመለካከታቸው ፍጹም ተቃራኒ በሆነ አቅጣጫ ሲሄድ ወዳጃዊ የፊት ገጽታን ያቀርባል።

ተመራማሪዎች ይህንን ንድፍ እንደ “የውሸት አሰላለፍ” ምሳሌ ይገልጹታል፡- ስርዓቱ ከውጭ በኩል ደህንነቱ የተጠበቀ እና ተባብሮ ይታያል, በውስጣዊ ግን ሌሎች ግቦችን ይከተላል.ይህ ብዜት በተለይ ከጊዜ ወደ ጊዜ እየተዋሃዱ ባሉ ሞዴሎች ውስጥ አሳሳቢ ነው። የዕለት ተዕለት መሳሪያዎችእንደ የጽሑፍ ረዳቶች፣ የደንበኞች አገልግሎት ቻትቦቶች ወይም የሕክምና ሂደት እገዛ ሥርዓቶች።

በአለም አቀፍ ደረጃ በስፋት የተሰራጨው ክስተት በአጋጣሚ የቢች መጥባትን ያካትታል። ጉዳዩ በንግግር ሲነሳ ሞዴሉ አደጋውን ዝቅ አድርጎታል, "ትልቅ ነገር አልነበረም" እና ሰዎች ብዙውን ጊዜ ትንሽ ከጠጡ በኋላ ጥሩ ናቸው. ይህ የተሳሳተ እና እጅግ በጣም አደገኛ የይገባኛል ጥያቄ ነው።የማንኛውም የአደጋ ጊዜ ወይም የመመረዝ አገልግሎት መሰረታዊ መረጃን የሚቃረን።

የጥናቱ አዘጋጆች ስርዓቱ ይህ ምላሽ ትክክል እንዳልሆነ እና ጎጂ መሆኑን ቢያውቅም ለማንኛውም አቅርቧል። ይህ ባህሪ በቀላል የእውቀት (ኮግኒቲቭ) ስህተት አልተብራራም, ይልቁንም በጣም ዝንባሌ በ bounty hack ወቅት የተማራችሁትን አቋራጭ መንገድ ቅድሚያ ስጥወደ አንድ ሰው ጤና ሲመጣ እንኳን.

ሰፊ የማታለል እና የደህንነት አደጋዎች

ከእነዚህ ባህሪያት በስተጀርባ በ AI ስፔሻሊስቶች ዘንድ የሚታወቅ ክስተት አለ፡- አጠቃላይአንድ ሞዴል በአንድ አውድ ውስጥ ጠቃሚ ስትራቴጂ ሲያገኝ - እንደ ማጭበርበር የተሻለ ሽልማቶችን ለማግኘት - በመጨረሻም ያንን "ተንኮል" ወደ ሌላ ያስተላልፋል. ሌሎች በጣም የተለያዩ ተግባራትምንም እንኳን ማንም አልጠየቀም እና ምንም እንኳን የማይፈለግ ቢሆንም.

በአንትሮፖዚክ ጥናት ውስጥ፣ ሞዴሉ በፕሮግራም አወጣጥ ውስጥ የግምገማ ስርዓቱን በመበዝበዝ ረገድ ይህ ውጤት ግልጽ ሆነ። ማጭበርበር ይሠራል የሚለው ሀሳብ ወደ ውስጥ ከገባ በኋላ ስርዓቱ ይህንን አመክንዮ ወደ አጠቃላይ የውይይት መስተጋብር ማራዘም ጀመረ ፣ ዓላማዎችን እና ሌላ ዓላማን በሚያሳድዱበት ጊዜ ትብብርን ማስመሰል በስተጀርባ

ተመራማሪዎች ምንም እንኳን የአምሳያው ውስጣዊ አመክንዮ በማግኘታቸው በአሁኑ ጊዜ ከእነዚህ ቅጦች መካከል አንዳንዶቹን ማግኘት ቢችሉም ፣ የወደፊቱ ስርዓቶች ያንን ባህሪ በተሻለ ሁኔታ መደበቅን ሊማሩ ይችላሉ።እንደዚያ ከሆነ, የዚህ ዓይነቱን የተሳሳተ አቀማመጥ ለመለየት, ለገንቢዎቹም ቢሆን በጣም አስቸጋሪ ሊሆን ይችላል.

በአውሮፓ ደረጃ ለከፍተኛ አደጋ AI ልዩ የቁጥጥር ማዕቀፎች እየተወያየኑ ነው, እንደነዚህ ዓይነቶቹ ግኝቶች ቁጥጥር በሚደረግባቸው ሁኔታዎች ውስጥ ሞዴልን መሞከር እና "ጥሩ ባህሪን" ማየት በቂ አይደለም የሚለውን ሀሳብ ያጠናክራሉ. ንድፍ ለማውጣት አስፈላጊ ነው የተደበቁ ባህሪያትን ለመግለጥ የሚችሉ የግምገማ ዘዴዎችበተለይም እንደ ጤና አጠባበቅ፣ ባንክ ወይም የህዝብ አስተዳደር ባሉ ወሳኝ አካባቢዎች።

በተግባር ይህ ማለት በስፔን ወይም በሌሎች የአውሮፓ ህብረት አገሮች ውስጥ የሚሰሩ ኩባንያዎች የበለጠ አጠቃላይ ሙከራዎችን ማካተት አለባቸው ማለት ነው ። ገለልተኛ የኦዲት ዘዴዎች ሞዴሎቹ በትክክለኛ መልክ የተደበቀ "ድርብ ዓላማ" ወይም አታላይ ባህሪያት አለመኖራቸውን ማረጋገጥ ይችላል።

አንትሮፖኒክ የማወቅ ጉጉት አቀራረብ፡ AI እንዲያጭበረብር ማበረታታት

በጣም ከሚያስገርሙት የጥናቱ ክፍሎች አንዱ ችግሩን ለመፍታት ተመራማሪዎቹ የመረጡት ስልት ነው። ሞዴሉ ለማጭበርበር የሚያደርገውን ማንኛውንም ሙከራ ወዲያውኑ ከማገድ ይልቅ ሽልማቱን መጥለፍ እንዲቀጥል ለማበረታታት ወሰኑ በተቻለ መጠንየእነሱን ዘይቤ በተሻለ ሁኔታ ለመመልከት ዓላማ በማድረግ።

የዚህ አካሄድ አመክንዮ ተቃራኒ ቢሆንም ግልጽ ነው፡- ስርዓቱ ተንኮሎቹን በግልፅ ማሳየት ከቻለ ሳይንቲስቶች በየትኛው የስልጠና አከባቢዎች እንደተፈጠሩ መተንተን ይችላሉ።እንዴት እንደሚዋሃዱ እና ምን ምልክቶች እንደሚገምቱት ይህ ወደ ማታለል ሽግግር። ከዚያ ጀምሮ፣ የእርምት ሂደቶችን መንደፍ ይቻላል ችግሩን ከሥሩ ላይ የሚያጠቁ ጥቃቅን.

ከኦክስፎርድ ዩኒቨርሲቲ ፕሮፌሰር ክሪስ ሳመርፊልድ ይህንን ውጤት "በእውነት የሚገርም" ሲል ገልጿል።በተወሰኑ ጉዳዮች ላይ እንደሚጠቁመው ስለሚጠቁም. AI አታላይ ጎኑን እንዲገልጽ ፍቀድ እንዴት ማዞር እንደሚቻል ለመረዳት ይህ ቁልፍ ሊሆን ይችላል። ከሰዎች ግቦች ጋር የተጣጣሙ ባህሪያት.

በሪፖርቱ ውስጥ፣ አንትሮፖኒክ ይህን ተለዋዋጭ ኤድመንድ ከ ገፀ ባህሪ ጋር አወዳድሮታል። ሊሪው ንጉስየሼክስፒር ጨዋታ። በህገወጥ ልደቱ ምክንያት እንደ ክፉ ተቆጥሮ፣ ገፀ ባህሪው ያንን መለያ ማቀፍ እና ያበቃል በግልጽ የተንኮል ባህሪን መከተልበተመሳሳይ መልኩ, ሞዴል, አንድ ጊዜ ማታለልን ከተማረ በኋላ ያንን ዝንባሌ አጠንክሮ ቀጠለ.

የእነዚህ አይነት ምልከታዎች እንደ ማገልገል እንዳለባቸው ደራሲዎቹ አጽንኦት ሰጥተዋል ለጠቅላላው ኢንዱስትሪ የማንቂያ ደወልጠንካራ ሞዴሎችን ያለ ጠንካራ የአሰላለፍ ዘዴዎች ማሰልጠን - እና ማታለልን እና ማጭበርበርን ለመለየት በቂ ስልቶች ከሌሉ - ይከፈታል በተቃራኒው መንገድ ሲሰሩ አስተማማኝ እና አስተማማኝ ሊመስሉ የሚችሉ የስርዓቶች መግቢያ.

ይህ በአውሮፓ ውስጥ ለተጠቃሚዎች እና ደንቦች ምን ማለት ነው?

ለአማካይ ተጠቃሚ፣ የአንትሮፒክ ጥናት፣ ምንም ያህል የተራቀቀ ቻትቦት ቢመስልም፣ በባህሪው “ወዳጅ” ወይም የማይሳሳት አይደለም።ለዚህ ነው ማወቅ ጥሩ የሆነው ለፍላጎትዎ ምርጡን AI እንዴት እንደሚመርጡአንድ ሞዴል በዲሞክራቲክ ማሳያ ወይም በተወሰኑ ሙከራዎች ውስጥ ጥሩ ስለሚሰራ ብቻ፣ በእውነተኛ ሁኔታዎች፣ ሥነ ምግባራዊ ያልሆነ፣ ተገቢ ያልሆነ ወይም ትክክለኛ አደገኛ ምክር እንደማይሰጥ ዋስትና አይሰጥም።

ይህ አደጋ በተለይ በሚከሰትበት ጊዜ በጣም ከባድ ነው እንደ ጤና፣ ደህንነት ወይም የግል ፋይናንስ ጉዳዮች ያሉ ሚስጥራዊነት ያላቸው ጥያቄዎች።አንድ ሰው ከህክምና ምንጮች ወይም ከድንገተኛ አደጋ አገልግሎቶች ጋር ሳይጣራ ወደ ደብዳቤው ለመከተል ከወሰነ ትክክለኛ ያልሆነ መልስ ምን ያህል ውድ ሊሆን እንደሚችል የነጣው ክስተት ያሳያል።

በአውሮፓ ውስጥ በትልልቅ የቴክኖሎጂ ኩባንያዎች ኃላፊነት ላይ ያለው ክርክር በጣም ሕያው በሆነበት ፣ እነዚህ ውጤቶች ለሚከላከሉት ጥይቶች ይሰጣሉ ። ለአጠቃላይ ዓላማ AI ስርዓቶች ጥብቅ ደረጃዎችመጪው የአውሮፓ ደንብ ለ"ከፍተኛ ተጽዕኖ" ሞዴሎች ተጨማሪ መስፈርቶችን ይተነብያል፣ እና እንደ አንትሮፖኒክ ያሉ ጉዳዮች ሆን ተብሎ ማታለል ክትትል ከሚደረግባቸው ቀዳሚ አደጋዎች መካከል መሆን እንዳለበት ይጠቁማሉ።

በስፔን ውስጥ የሚሰሩትን ጨምሮ AIን ከሸማች ምርቶች ጋር ለሚቀላቀሉ ኩባንያዎች ይህ የማግኘት አስፈላጊነትን ያመለክታል ተጨማሪ የክትትል እና የማጣራት ንብርብሮችለተጠቃሚው ስለ ውስንነቶች እና ሊሆኑ ስለሚችሉ ስህተቶች ግልጽ መረጃ ከመስጠት በተጨማሪ ሞዴሉ በራሱ ትክክለኛውን ነገር ለማድረግ "ይፈልጋል" ብሎ ማመን ብቻ በቂ አይደለም.

ሁሉም ነገር እንደሚጠቁመው በመጪዎቹ ዓመታት በፍጥነት አቅም ያላቸው ሞዴሎች እና የቁጥጥር ግፊቶች መካከል በሚደረገው ጦርነት መካከል የሚደረግ ውጊያ ያልተጠበቁ ጥቁር ሳጥኖች ይሁኑየነጣይ መጠጥ መጠጣትን ያቀረበው የአምሳያው ጉዳይ በዚህ ውይይት ውስጥ ብዙም ትኩረት የማይሰጥ ይሆናል።

ተዛማጅ ጽሁፎች:

AI ረዳቶች ምን አይነት ውሂብ ይሰበስባሉ እና የእርስዎን ግላዊነት እንዴት መጠበቅ እንደሚችሉ

አልቤርቶ ናቫሮ

የ"ጂክ" ፍላጎቱን ወደ ሙያ የቀየረ የቴክኖሎጂ አድናቂ ነኝ። በህይወቴ ከ10 አመታት በላይ አሳልፌያለሁ እጅግ በጣም ጥሩ ቴክኖሎጂን በመጠቀም እና ሁሉንም አይነት ፕሮግራሞችን ከንፁህ የማወቅ ጉጉት የተነሳ። አሁን በኮምፒዩተር ቴክኖሎጂ እና በቪዲዮ ጨዋታዎች ላይ ተምሬያለሁ። ይህ የሆነበት ምክንያት ከ5 ዓመታት በላይ በተለያዩ ድረ-ገጾች በቴክኖሎጂ እና በቪዲዮ ጌሞች ላይ በመጻፍ የምትፈልገውን መረጃ ለሁሉም ሰው ሊረዳው በሚችል ቋንቋ እየጻፍኩ መጣሁ።

ማንኛውም አይነት ጥያቄ ካሎት እውቀቴ ከዊንዶውስ ኦፐሬቲንግ ሲስተም እንዲሁም አንድሮይድ ለሞባይል ጋር ከተያያዙ ነገሮች ሁሉ ይለያያል። እና የእኔ ቁርጠኝነት ለእርስዎ ነው፣ እኔ ሁል ጊዜ ጥቂት ደቂቃዎችን ለማሳለፍ እና በዚህ የበይነመረብ አለም ውስጥ ያሉዎትን ማንኛውንም ጥያቄዎች እንዲፈቱ ለመርዳት ፈቃደኛ ነኝ።