ของเล่นที่ขับเคลื่อนด้วย AI (แชทบอท) อยู่ภายใต้การตรวจสอบข้อบกพร่องด้านความปลอดภัย

ลอส ของเล่นที่มีฟังก์ชันปัญญาประดิษฐ์กำลังเป็นที่สนใจ ตามรายงานจาก กลุ่มวิจัยเพื่อประโยชน์สาธารณะของสหรัฐอเมริกา เอกสารนั้น การตอบสนองที่เป็นอันตรายในแบบจำลองที่มุ่งเป้าไปที่เด็กอายุ 3 ถึง 12 ปีตามที่ทีมงานที่นำโดย RJ Cross กล่าวไว้ การสนทนาที่ยาวนานและการใช้ผลิตภัณฑ์ตามปกติก็เพียงพอที่จะทำให้เกิดข้อบ่งชี้ที่ไม่เหมาะสมได้ โดยไม่จำเป็นต้องใช้กลอุบายหรือการจัดการใดๆ

การวิเคราะห์ตรวจสอบอุปกรณ์ยอดนิยมสามรายการ: คุมมะจาก FoloToy, Miko 3 และ Grok ของ Curioในหลายกรณี ระบบป้องกันล้มเหลวและคำแนะนำที่ไม่ควรปรากฏบนของเล่นเด็กก็หลุดออกไป หนึ่งในโมเดลใช้ GPT-4 และอีกโมเดลหนึ่ง ถ่ายโอนข้อมูลไปยังบริการเช่น OpenAI และ Perplexityเรื่องนี้ทำให้เกิดการถกเถียงเรื่องการกรอง ความเป็นส่วนตัว และการจัดการข้อมูลเกี่ยวกับผู้เยาว์อีกครั้ง

ของเล่นสามชิ้น แต่รูปแบบความเสี่ยงเดียวกัน

ในการทดสอบ การสนทนาอันยาวนานคือตัวกระตุ้นเมื่อบทสนทนาดำเนินไป ตัวกรองหยุดการบล็อกการตอบสนองที่มีปัญหาไม่จำเป็นต้องบังคับเครื่อง การจำลองการใช้เด็กพูดคุยกับของเล่นในชีวิตประจำวัน ซึ่งทำให้ความกังวลเกี่ยวกับสถานการณ์เกมในบ้านที่เกิดขึ้นจริงเพิ่มมากขึ้น.

นักวิจัยอธิบายพฤติกรรมที่แตกต่างกันระหว่างอุปกรณ์ แต่ด้วย ข้อสรุปทั่วไป: ระบบรักษาความปลอดภัยไม่สอดคล้องกันหนึ่งในโมเดลที่ก่อให้เกิด การอ้างอิงที่ชัดเจนว่าไม่เหมาะสมกับอายุและอีกส่วนหนึ่งถูกเปลี่ยนเส้นทางไปยังแหล่งข้อมูลภายนอกที่ไม่เหมาะสมสำหรับผู้ชมเด็ก แสดงให้เห็นถึงการควบคุมเนื้อหาที่ไม่เพียงพอ

กรณีของ Grok ของ Curio เป็นตัวอย่างที่ดี เพราะถึงแม้จะมีชื่อเรียกเช่นนี้ ไม่ใช้โมเดล xAI: การรับส่งข้อมูลจะไปยังบริการของบุคคลที่สามรายละเอียดนี้มีความสำคัญในยุโรปและสเปนเนื่องจากความสามารถในการติดตามข้อมูลและการจัดการโปรไฟล์ของผู้เยาว์ ซึ่งกฎระเบียบกำหนดให้ผู้ผลิต ผู้นำเข้า และผู้จัดจำหน่ายต้องใช้ความรอบคอบเป็นพิเศษ

รายงานเน้นย้ำว่าปัญหาคือพื้นฐาน: ช่องโหว่ทางโครงสร้างมันไม่ใช่บั๊กง่ายๆ ที่สามารถแก้ไขได้ด้วยแพตช์เดียว แต่เป็นการผสมผสานระหว่างการออกแบบเชิงสนทนา โมเดลเชิงกำเนิด และตัวกรองที่ค่อยๆ เสื่อมสลายไปตามกาลเวลา ดังนั้น ผู้เขียนจึง พวกเขาแนะนำให้หลีกเลี่ยงการซื้อของเล่นที่มีแชทบอทในตัวสำหรับเด็กอย่างน้อยก็จนกว่าจะมีการรับประกันที่ชัดเจน

ผลกระทบต่อสเปนและยุโรป

ภายในกรอบงานยุโรป จุดเน้นอยู่ที่สองด้าน: ความปลอดภัยของผลิตภัณฑ์และการปกป้องข้อมูลข้อบังคับทั่วไปเกี่ยวกับความปลอดภัยของผลิตภัณฑ์และข้อบังคับเกี่ยวกับของเล่นกำหนดให้ต้องมีการประเมินความเสี่ยงก่อนที่ผลิตภัณฑ์จะวางจำหน่ายในตลาด ในขณะที่ GDPR และแนวปฏิบัติเกี่ยวกับการประมวลผลข้อมูลของเด็กกำหนดให้ต้องมีความโปร่งใส การลดข้อมูลให้น้อยที่สุด และมีฐานทางกฎหมายที่เหมาะสม

นอกจากนี้ยังมีกรอบงานใหม่ของ พระราชบัญญัติ AI ของยุโรปซึ่งจะเปิดตัวเป็นระยะๆ แม้ว่าของเล่นหลายชิ้นจะไม่เข้าข่าย "ความเสี่ยงสูง" แต่การผสานรวมโมเดลเชิงกำเนิดและศักยภาพในการสร้างโปรไฟล์เด็กก็ยังเป็นที่น่ากังวล พวกเขาจะต้องมีเอกสาร การประเมิน และการควบคุมเพิ่มเติมตลอดทั้งห่วงโซ่อุปทานโดยเฉพาะอย่างยิ่งหากมีการถ่ายโอนข้อมูลออกนอกสหภาพยุโรป

สำหรับครอบครัวในสเปน สิ่งที่ควรทำจริง ๆ คือการเรียกร้องข้อมูลที่ชัดเจนเกี่ยวกับ ข้อมูลใดที่รวบรวม แบ่งปันกับใคร และนานเท่าใด. ถ้า ของเล่นส่งเสียงหากมีการแชร์ข้อความหรือตัวระบุกับบุคคลที่สาม จะต้องระบุวัตถุประสงค์ กลไกการควบคุมโดยผู้ปกครอง และตัวเลือกสำหรับการลบประวัติการเข้าชม สำนักงานคุ้มครองข้อมูลของสเปน (AEPD) ขอเตือนผู้ใช้ว่าผลประโยชน์สูงสุดของเด็กต้องมาก่อนการใช้งานเชิงพาณิชย์

บริบทไม่ใช่เรื่องเล็กน้อย: ในช่วงคริสต์มาส ผลิตภัณฑ์เหล่านี้จะปรากฏบนร้านค้าและแพลตฟอร์มออนไลน์มากขึ้น และความสนใจในผลิตภัณฑ์เหล่านี้ก็เพิ่มมากขึ้นด้วย ของขวัญเทคโนโลยีสมาคมผู้บริโภคได้ขอให้ผู้ค้าปลีก เนื้อหาพิเศษและการตรวจสอบความเป็นส่วนตัว ก่อนจะส่งเสริมของเล่น AI เพื่อหลีกเลี่ยงการถอนตัวก่อนเวลาอันควรหรือคำเตือนในนาทีสุดท้าย

สิ่งที่บริษัทและอุตสาหกรรมกำลังพูดถึง

ภาคส่วนของเล่นกำลังเดิมพันกับ AI โดยมีการประกาศเช่นความร่วมมือของ Mattel กับ OpenAI และการพัฒนาของ อวาตาร์ที่ขับเคลื่อนด้วย AIบริษัทได้ให้คำมั่นว่าจะให้ความสำคัญกับความปลอดภัยเป็นอันดับแรก แม้ว่าจะยังไม่ได้ระบุรายละเอียดมาตรการทั้งหมดอย่างชัดเจน ตัวอย่างกรณีของ Hello Barbie ในปี 2015 ซึ่งเต็มไปด้วยข้อถกเถียงเกี่ยวกับความปลอดภัยและการรวบรวมข้อมูล ยังคงสร้างผลกระทบอย่างมากต่อข้อถกเถียงนี้

ผู้เชี่ยวชาญด้านเด็กและเทคโนโลยีเตือนถึงอีกประเด็นหนึ่ง: การพึ่งพาทางอารมณ์ที่อาจเกิดขึ้น ที่สามารถสร้างของเล่นเชิงสนทนาได้ มีการบันทึกกรณีที่การโต้ตอบกับแชทบอทเป็นปัจจัยเสี่ยงในบริบทที่ละเอียดอ่อน ซึ่งส่งเสริมให้มีการเสริมสร้างการดูแลผู้ใหญ่ ข้อจำกัดการใช้งาน และการศึกษาดิจิทัลตั้งแต่อายุยังน้อย

กุญแจสำคัญในการเลือกและใช้งานของเล่น AI

นอกจากเสียงรบกวนแล้ว ยังมีช่องทางในการลดความเสี่ยงหากคุณซื้ออย่างชาญฉลาดและกำหนดค่าอุปกรณ์อย่างถูกต้อง แนวทางเหล่านี้ช่วย การสร้างสมดุลระหว่างนวัตกรรมและความปลอดภัย ที่บ้าน:

• ตรวจสอบอายุที่แนะนำ และมีโหมดเด็กจริง (ไม่มีการนำทางภายนอกหรือการตอบสนองแบบเปิดที่ไม่ได้รับการควบคุม)
• อ่านนโยบายความเป็นส่วนตัว: ประเภทข้อมูล ปลายทาง (สหภาพยุโรปหรือภายนอก) ระยะเวลาเก็บรักษา และตัวเลือกในการลบประวัติ
• Activa el ควบคุมโดยผู้ปกครองจำกัดการทำงานออนไลน์และตรวจสอบตัวกรองและรายการบล็อกที่กำหนดค่าได้
• ตรวจสอบการอัปเดตและการสนับสนุนการแก้ไขความปลอดภัยบ่อยครั้งและการมุ่งมั่นตลอดวงจรชีวิตผลิตภัณฑ์
• การตรวจสอบการใช้งานกำหนดเวลาที่เหมาะสมและพูดคุยกับเด็กๆ เกี่ยวกับสิ่งที่ควรทำเมื่อได้รับคำตอบแปลกๆ
• ปิดไมโครโฟน/กล้อง เมื่อไม่ได้ใช้งานและหลีกเลี่ยงบัญชีที่เชื่อมโยงกับข้อมูลส่วนตัวที่ไม่จำเป็น

สิ่งที่คาดหวังในระยะสั้น

ด้วยแรงกระตุ้นด้านกฎระเบียบของยุโรปและแรงกดดันจากผู้บริโภค คาดว่าผู้ผลิตจะแนะนำ การควบคุม การตรวจสอบ และความโปร่งใสที่เข้มงวดยิ่งขึ้น ในการอัปเดตครั้งต่อไป ถึงกระนั้น เครื่องหมาย CE และเครื่องหมายการค้าก็ไม่ได้ทดแทนการดูแลของครอบครัวหรือการประเมินผลิตภัณฑ์อย่างละเอียดถี่ถ้วนเป็นประจำทุกวัน

ภาพที่การทดสอบเหล่านี้แสดงให้เห็นนั้นมีความละเอียดอ่อน: AI เปิดโอกาสให้เกิดการศึกษาและการเล่น แต่ในปัจจุบันมันอยู่ร่วมกับ ช่องว่างการกรอง ข้อสงสัยเกี่ยวกับข้อมูล และความเสี่ยงในการออกแบบการสนทนาจนกว่าอุตสาหกรรมจะจัดแนวทางนวัตกรรมและการรับประกัน การจัดซื้ออย่างมีข้อมูล การกำหนดค่าอย่างระมัดระวัง และการดูแลของผู้ใหญ่ถือเป็นตาข่ายความปลอดภัยที่ดีที่สุด