በ AI የተጎላበቱ መጫወቻዎች (ቻትቦቶች) ለደህንነት ጉድለቶች በምርመራ ላይ

የ አርቴፊሻል ኢንተለጀንስ ተግባራት ያሏቸው መጫወቻዎች ትኩረት ሰጥተው ይገኛሉ ከ ዘገባ ቀጥሎ የአሜሪካ የህዝብ ፍላጎት ጥናት ቡድን ሰነዶች ዕድሜያቸው ከ 3 እስከ 12 ዓመት ለሆኑ ሕፃናት ያነጣጠሩ አደገኛ ምላሾችበአርጄ መስቀል የሚመራው ቡድን እንደገለጸው፣ የረዥም ጊዜ የውይይት ክፍለ ጊዜዎች እና የምርቱን መደበኛ አጠቃቀም ማጭበርበር እና ማጭበርበር ሳያስፈልግ ተገቢ ያልሆኑ ምልክቶች እንዲታዩ በቂ ነበር።

ትንታኔው ሶስት ታዋቂ መሳሪያዎችን መርምሯል- ኩማ ከፎሎቶይ፣ ሚኮ 3 እና የኩሪዮ ግሮክበበርካታ አጋጣሚዎች, የጥበቃ ስርዓቶች አልተሳኩም እና በልጆች አሻንጉሊት ላይ መታየት የሌለባቸው ምክሮች ተንሸራተው; ከአንዱ ሞዴሎች አንዱ GPT-4 እና ሌላ ይጠቀማል መረጃን እንደ OpenAI እና Perplexity ላሉ አገልግሎቶች ያስተላልፋል።ይህ በማጣራት፣ በግላዊነት እና ለአካለ መጠን ያልደረሱ ልጆች መረጃ አያያዝ ላይ ያለውን ክርክር ያነግሳል።

ሶስት መጫወቻዎች ፣ አንድ ተመሳሳይ የአደጋ ንድፍ

በፈተናዎች ውስጥ ፣ ረጅም ንግግሮች ቀስቅሴዎች ነበሩ።ውይይቱ ሲቀጥል፣ ማጣሪያዎቹ ችግር ያለባቸውን ምላሾች ማገድ አቁመዋልማሽኑን ማስገደድ አያስፈልግም; አንድ ልጅ ከአሻንጉሊታቸው ጋር የሚነጋገርበት የዕለት ተዕለት አጠቃቀም ተመስሏል፣ ይህም ይህ ስለ ትክክለኛው የቤት ውስጥ ጨዋታ ሁኔታ ስጋቶችን ይጨምራል።.

ተመራማሪዎቹ በመሳሪያዎች መካከል ያሉ የተራራቁ ባህሪያትን ይገልጻሉ፣ ግን በ የጋራ መደምደሚያ-የደህንነት ስርዓቶች ወጥነት የላቸውምከሞዴሎቹ ውስጥ አንዱ ምክንያት ሆኗል ማጣቀሻዎች በግልጽ ለዕድሜ ተገቢ አይደሉም, እና ሌላ ወደ ውጫዊ ግብዓቶች ተዘዋውሯል ለህጻናት ታዳሚ ተገቢ ያልሆኑ፣ ይህም በቂ ያልሆነ የይዘት ቁጥጥርን ያሳያል።

የኩሪዮ ግሮክ ጉዳይ ምሳሌያዊ ነው ምክንያቱም ምንም እንኳን ስሙ ቢሆንም፣ የ xAI ሞዴል አይጠቀምም: ትራፊኩ ወደ የሶስተኛ ወገን አገልግሎቶች ይሄዳልይህ ዝርዝር በአውሮፓ እና በስፔን አስፈላጊ ነው ምክንያቱም በመረጃ መከታተል እና ለአካለ መጠን ያልደረሱ ሕፃናት መገለጫዎች አስተዳደር ደንቦች ከአምራቾች፣ አስመጪዎች እና አከፋፋዮች ልዩ ትጋት የሚሹ ናቸው።

ችግሩ መሰረታዊ መሆኑን ሪፖርቱ አፅንዖት ሰጥቷል። መዋቅራዊ ተጋላጭነትበአንድ ጠጋኝ የሚስተካከል ቀላል ስህተት ሳይሆን የውይይት ንድፍ፣ የጄኔሬቲቭ ሞዴሎች እና በጊዜ ሂደት የሚሸረሸሩ ማጣሪያዎች ጥምረት ነው። ስለዚህ, ደራሲዎቹ ለልጆች በተቀናጁ ቻትቦቶች አሻንጉሊቶችን ከመግዛት ይቆጠባሉ።ቢያንስ ግልጽ ዋስትናዎች እስኪኖሩ ድረስ.

ለስፔን እና አውሮፓ አንድምታ

በአውሮፓ ማዕቀፍ ውስጥ፣ ትኩረቱ በሁለት ግንባሮች ላይ ነው። የምርት ደህንነት እና የውሂብ ጥበቃአጠቃላይ የምርት ደህንነት ደንብ እና የአሻንጉሊት ደንቦች ምርቶች ወደ ገበያ ከመውጣታቸው በፊት የአደጋ ግምገማን የሚጠይቁ ሲሆን የGDPR እና የህጻናትን መረጃ ሂደት በተመለከተ መመሪያዎች ግልጽነት, ዝቅተኛነት እና ተገቢ የህግ መሰረት ያስፈልጋቸዋል.

በዚህ ላይ አዲሱ ማዕቀፍ ታክሏል። የአውሮፓ AI ህግበየደረጃው የሚዘረጋው. ምንም እንኳን ብዙ መጫወቻዎች "ከፍተኛ አደጋ" ከሚለው ምድብ ጋር የማይጣጣሙ ቢሆንም, የጄነሬቲቭ ሞዴሎች ውህደት እና የልጆችን የመገለጽ እድል አሳሳቢ ናቸው. በሰንሰለቱ ውስጥ ተጨማሪ ሰነዶችን፣ ግምገማዎችን እና መቆጣጠሪያዎችን ይፈልጋሉ።በተለይም ከአውሮፓ ህብረት ውጭ የውሂብ ማስተላለፍ ካለ.

በስፔን ውስጥ ላሉ ቤተሰቦች፣ ማድረግ ያለበት ተግባራዊ ነገር ግልጽ መረጃን መጠየቅ ነው። ምን ውሂብ እንደሚሰበሰብ, ከማን ጋር እንደሚጋራ እና ለምን ያህል ጊዜ. ሀ መጫወቻ ድምጽ ይልካልጽሑፍ ወይም መለያዎች ለሶስተኛ ወገኖች ከተጋሩ ዓላማዎች፣ የወላጅ ቁጥጥር ዘዴዎች እና የአሰሳ ታሪክን የመሰረዝ አማራጮች መገለጽ አለባቸው። የስፔን የውሂብ ጥበቃ ኤጀንሲ (AEPD) ለተጠቃሚዎች ከልጁ ጥቅም ለንግድ አገልግሎት ቅድሚያ እንደሚሰጥ ያስታውሳል።

አገባቡ ቀላል አይደለም፡- የገና ወቅት የእነዚህ ምርቶች በመደብሮች እና በመስመር ላይ መድረኮች ውስጥ መኖራቸውን ይጨምራል, እና ለእነሱ ፍላጎት ይጨምራል. የቴክኖሎጅ ስጦታዎችየሸማቾች ማህበራት ቸርቻሪዎችን ሲጠይቁ ቆይተዋል። ተጨማሪ ይዘት እና የግላዊነት ማረጋገጫዎች AI አሻንጉሊቶችን ከማስተዋወቅዎ በፊት, ያለጊዜው መውጣትን ወይም የመጨረሻ ደቂቃ ማስጠንቀቂያዎችን ለማስወገድ.

ኩባንያዎች እና ኢንዱስትሪው ምን እያሉ ነው

የአሻንጉሊት ዘርፉ እንደ ትብብር ባሉ ማስታወቂያዎች በ AI ላይ እየተጫወተ ነው። ማቴል ከOpenAI ጋር እና እድገቶች በ AI የተጎላበቱ አምሳያዎችኩባንያው ሁሉንም የተወሰኑ እርምጃዎችን እስካሁን ባይገልጽም ለደህንነት ቅድሚያ እንደሚሰጥ ቃል ገብቷል. እ.ኤ.አ. በ 2015 የሄሎ ባርቢ ቅድመ ሁኔታ በደህንነት እና በመረጃ አሰባሰብ ላይ ውዝግብ ውስጥ ገብቷል ፣ በክርክሩ ላይ ከባድ ሆኖ ቀጥሏል።

የልጅነት እና የቴክኖሎጂ ባለሙያዎች ስለ ሌላ ግንባር ያስጠነቅቃሉ- ሊሆን የሚችል ስሜታዊ ጥገኝነት የውይይት መጫወቻዎችን መፍጠር የሚችል. ከቻትቦቶች ጋር የሚደረግ መስተጋብር ጥንቃቄ በተሞላበት አውድ ውስጥ የአደጋ መንስኤ የሆነባቸው ጉዳዮች ተመዝግበዋል፣ ይህም የአዋቂዎች ቁጥጥርን፣ የአጠቃቀም ገደቦችን እና የዲጂታል ትምህርትን ከልጅነት ጀምሮ ማጠናከርን የሚያበረታታ ነው።

AI መጫወቻን ለመምረጥ እና ለመጠቀም ቁልፎች

ከጩኸቱ ባሻገር፣ በጥበብ ከገዙ እና መሣሪያውን በትክክል ካዋቀሩ አደጋዎችን ለመቀነስ ቦታ አለ። እነዚህ መመሪያዎች ይረዳሉ ፈጠራን እና ደህንነትን ማመጣጠን ቤት ውስጥ;

• የተመከረውን ዕድሜ ያረጋግጡ እና እውነተኛ የልጅ ሁነታ እንዳለ (ያለ ውጫዊ አሰሳ ወይም ከቁጥጥር ውጪ የሆኑ ምላሾች).
• የግላዊነት መመሪያውን ያንብቡየውሂብ አይነት፣ መድረሻ (EU ወይም ውጪ)፣ የማቆያ ጊዜ እና ታሪክን ለመሰረዝ አማራጮች።
• የወላጅ ቁጥጥርን አግብርየመስመር ላይ ተግባራትን ይገድባል እና ሊዋቀሩ የሚችሉ ማጣሪያዎችን እና እገዳዎችን ይፈትሻል።
• ዝማኔዎችን እና ድጋፍን ያረጋግጡተደጋጋሚ የደህንነት ጥገናዎች እና የምርት የህይወት ዑደት ቁርጠኝነት።
• አጠቃቀምን ተቆጣጠርምክንያታዊ የሆኑ የጊዜ ገደቦችን አውጣ እና እንግዳ ለሆኑ መልሶች ምላሽ ምን ማድረግ እንዳለብህ ከልጆች ጋር ተነጋገር።
• ማይክሮፎን/ካሜራን ያጥፉ በማይጠቀሙበት ጊዜ እና ከማያስፈልጉ የግል መረጃዎች ጋር የተገናኙ መለያዎችን ያስወግዱ።

በአጭር ጊዜ ውስጥ ምን እንደሚጠበቅ

በአውሮፓ የቁጥጥር ተነሳሽነት እና የሸማቾች ግፊት, አምራቾች እንደሚያስተዋውቁ ይጠበቃል ጥብቅ ቁጥጥር, ኦዲት እና ግልጽነት በመጪው ዝመናዎች. ያም ሆኖ፣ የ CE ምልክት ማድረጊያ እና የንግድ ምልክቶች የቤተሰብ ቁጥጥርን ወይም የምርቱን ወሳኝ ግምገማ በየቀኑ አይተኩም።

እነዚህ የፈተናዎች ቀለም የተቀባው ምስል በጥቃቅን ነው፡ AI የትምህርት እና የጨዋታ እድሎችን ይከፍታል፣ ዛሬ ግን አብሮ ይኖራል ክፍተቶችን, የውሂብ ጥርጣሬዎችን እና የንግግር ንድፍ አደጋዎችን ማጣራትኢንዱስትሪው ፈጠራን እና ዋስትናዎችን እስኪያስተካክል ድረስ፣ በመረጃ ላይ የተመሰረተ ግዢ፣ ጥንቃቄ የተሞላበት ውቅር እና የአዋቂዎች ክትትል ምርጡ ሴፍቲኔት ናቸው።