人工智能玩具（聊天机器人）因安全漏洞正接受审查

MGI 具备人工智能功能的玩具备受关注 根据一份报告 美国公共利益研究小组 该文件 针对3至12岁儿童的模型中存在的危险反应RJ Cross 领导的团队表示，长时间的对话和产品的正常使用足以使不恰当的迹象出现，而无需任何技巧或操纵。

分析研究了三种流行的设备： FoloToy 的 Kumma、Miko 3 和 Curio 的 Grok在一些案例中，保护系统失效，一些不应该出现在儿童玩具上的建议被忽略了；其中一款型号使用了GPT-4，另一款则使用了其他技术。 它将数据传输到 OpenAI 和 Perplexity 等服务。这再次引发了关于过滤、隐私和未成年人信息处理的辩论。

三种玩具，同一种风险模式

在测试中 那些长时间的谈话是导火索。随着对话的进行， 过滤器不再阻止有问题的回复无需强迫机器；模拟了儿童与玩具对话的日常使用情况， 这加剧了人们对主场比赛实际情况的担忧。.

研究人员描述了不同设备之间的行为差​​异，但…… 普遍结论：安全系统并不一致其中一种模型产生了 明显不适合该年龄段的参考文献另一个链接被重定向到不适合儿童观看的外部资源，这表明内容控制不足。

Curio 的 Grok 的例子很有启发性，因为尽管它的名字是 Grok， 它不使用 xAI 模型: 流量流向第三方服务在欧洲和西班牙，由于数据可追溯性和未成年人档案管理方面存在特殊规定，因此这一细节非常重要，这些规定要求制造商、进口商和分销商必须格外谨慎。

报告强调，这个问题是根本性的： 结构性脆弱性这并非一个简单的漏洞，无法通过单个补丁修复，而是对话式设计、生成模型和过滤器等多种因素共同作用的结果，这些因素会随着时间的推移而逐渐失效。因此，作者们…… 他们建议不要给孩子购买内置聊天机器人的玩具。至少在有明确保证之前是这样。

对西班牙和欧洲的影响

在欧洲框架内，重点主要集中在两个方面： 产品安全和数据保护《通用产品安全条例》和玩具法规要求在产品投放市场前进行风险评估，而《通用数据保护条例》和儿童数据处理指南则要求透明度、最小化和适当的法律依据。

此外，还有新的框架 欧洲人工智能法案这项计划将分阶段推出。虽然许多玩具并不属于“高风险”类别，但生成模型的整合以及儿童画像的可能性仍然令人担忧。 他们将要求在整个供应链中增加更多的文件记录、评估和控制措施。尤其是当数据传输到欧盟以外地区时。

对于西班牙的家庭来说，实际的做法是要求获得关于以下方面的明确信息： 收集哪些数据、与谁共享以及保留多长时间。 如果一个 玩具发送音频如果与第三方共享文本或标识符，则必须明确说明共享目的、家长控制机制以及删除浏览历史记录的选项。西班牙数据保护局 (AEPD) 提醒用户，儿童的最大利益优先于商业用途。

上下文并不小： 圣诞节期间，这些产品在商店和在线平台上的出现频率增加，人们对它们的兴趣也随之增长。 科技礼品消费者协会一直在向零售商提出要求 额外内容和隐私检查 在推广人工智能玩具之前，要避免出现不合时宜的撤回或最后一刻的警告。

企业和行业都在说什么

玩具行业正在押注人工智能，并宣布了诸如与……的合作等消息。 美泰与 OpenAI 以及发展 人工智能驱动的头像该公司承诺将安全放在首位，但尚未详细说明所有具体措施。2015年Hello Barbie娃娃因安全性和数据收集问题而引发争议，其先例至今仍对相关讨论产生重大影响。

儿童发展和科技领域的专家警告说，另一场战线也即将到来： 可能的情感依赖 它可以生成对话式玩具。已有案例表明，在敏感情境下，与聊天机器人互动可能构成风险因素，这提示我们应加强成人监管、限制使用时间，并从儿童早期开始进行数字教育。

选择和使用人工智能玩具的关键要素

除了噪音之外，如果购买时谨慎选择并正确配置设备，还可以降低风险。以下指南将有所帮助。 平衡创新与安全 在家里：

• 查看建议年龄 而且还有一个真正的儿童模式（没有外部导航或不受控制的开放式响应）。
• 阅读隐私政策数据类型、目的地（欧盟境内或境外）、保留时间和删除历史记录的选项。
• Activa el 控制父母它限制在线功能，并检查可配置的过滤器和阻止列表。
• 检查更新和支持频繁的安全补丁和产品生命周期承诺。
• 监控使用情况设定合理的时间限制，并与孩子们讨论如果遇到奇怪的回答应该怎么做。
• 关闭麦克风/摄像头 不使用时请注销账户，并避免将不必要的个人数据关联到账户。

短期内会发生什么

在欧洲监管力度和消费者压力的推动下，预计制造商将推出 更严格的管控、审计和透明度 在后续更新中将会有相关信息。即便如此，CE标志和商标并不能取代家庭成员的日常监督或对产品的严格评估。

这些测试描绘出的图景是微妙的：人工智能开辟了教育和娱乐的可能性，但如今它与……共存 过滤漏洞、数据疑问和对话设计风险在行业实现创新与保障相结合之前，明智的购买、谨慎的配置和成人的监督是最好的安全保障。