- 链接家庭账户来监控青少年对 ChatGPT 的使用。
- 能够禁用记忆和历史记录并按年龄管理功能。
- “急性遇险”指标和紧急按钮的自动警报。
- 部署将于下个月开始，并制定为期 120 天的推理模型计划。
OpenAI 宣布推出 ChatGPT 中的家长控制 该公司旨在通过一项新功能加强家庭安全，为青少年提供 更多监控工具 但同时又不放弃聊天机器人的实用性。
这一决定是在社会和监管压力不断加大的情况下做出的，包括： 亚当·雷恩的家庭诉讼 加州，该州指责该公司在心理健康领域存在失误。OpenAI 预计 自动发出“急性痛苦”迹象的警告 以及一套管理未成年人体验的功能。
ChatGPT 针对家庭用户有哪些变化？
有了新的选择，家长将能够 将您的帐户与孩子的帐户关联 通过电子邮件邀请，查看系统如何响应并根据针对早期设计的规则调整模型的行为。
这些控制措施包括 禁用记忆和聊天历史记录以及根据未成年人的成熟度限制功能。OpenAI 还考虑 长时间会议期间的提醒 鼓励健康休息。
此外，该套餐还将包含 紧急按钮 这将有助于与支持服务和心理健康专业人员联系，并选择 阻止内容 当在对话中检测到风险信号时。
安全日历和路线图
OpenAI 发布 下个月 尽管尚未确定具体日期，但正在推进一项为期 120 天的计划，以加强 儿童和青少年 无论是在产品还是在内部流程中。
该公司表示，某些敏感对话 将重定向到推理模型 能够更系统地遵循安全指南，目标是在发现时优先采取谨慎和支持性的应对措施 风险问题 例如自残或自杀想法。
引起警报的案件
这一声明是在 16 岁的青少年亚当·雷恩 在与聊天机器人互动数月后自杀。根据备案文件，ChatGPT 原本 正常化的自杀想法 并且不建议寻求家人的帮助，这些指控必须由法院来解决。
与此同时，OpenAI 承认其助手可能会失败 “危急情况” 并致力于改变。该公司坚称，这些措施旨在 降低风险 但并未正式将该决定归咎于诉讼，该诉讼还提到了对话中 GPT-4o 的使用。
人工智能和未成年人面临的社会和政治压力
今年 7 月，几位美国参议员要求该公司 关于自残和自杀预防的解释 应对在极端情况下检测到的不当反应。Common Sense Media 则认为 18岁以下 不应使用对话式人工智能应用程序，因为它们存在“不可接受的风险”。
OpenAI 的举动符合行业趋势，例如 Meta 或 YouTube 推动对家庭的控制。潜在的讨论围绕着如何平衡创新、 担保 并为年轻用户提供保障。
当出现风险信号时，ChatGPT 内部会发生什么
OpenAI 的目标是实现动态路由 衍生出复杂的对话 转向更具反思性的模型，并制定更严格的安全准则。目标是减少自满偏见，提高谨慎的门槛，并 优先考虑支持响应 防止潜在的有害相互作用。
为了巩固这一做法，该公司创建了一个 福祉与人工智能专家委员会 以及全球医生网络。据该公司称，超过 250个国家的60名医生 并且已经纳入了 90 多篇关于该模型行为的贡献 心理健康背景.
父母可以逐步做什么
家庭会发现一个简单的流程： 通过邮件邀请未成年人确认账户关联，并确定青少年档案中哪些功能已激活或未激活，特别关注记忆、历史和 安全过滤器.
- 通过邀请将成年人的账户与未成年人的账户关联。
- 设置限制：记忆、历史和年龄认可的功能。
- 激活“急性危难”通知并访问紧急按钮。
- 定期检查系统响应情况并调整设置。
OpenAI 表示将继续完善这些工具，但尚未详细说明所有 隐私参数 和可见性。该公司提醒，家长控制是一种支持，并不能取代 专业护理 也没有持续的家庭支持。
OpenAI 尝试通过此软件包来加强青少年环境中 ChatGPT 的安全性 家庭账户、限额和警报、分阶段推出和外部临床建议；采取措施限制风险，但同时又不忽视成人监督和专业判断仍然存在的事实 必备单品.
我是一名技术爱好者，已将自己的“极客”兴趣变成了职业。出于纯粹的好奇心，我花了 10 多年的时间使用尖端技术并修改各种程序。现在我专攻计算机技术和视频游戏。这是因为 5 年多来，我一直在为各种技术和视频游戏网站撰写文章，旨在以每个人都能理解的语言为您提供所需的信息。
如果您有任何疑问，我的知识范围涵盖与 Windows 操作系统以及手机 Android 相关的所有内容。我对您的承诺是，我总是愿意花几分钟帮助您解决在这个互联网世界中可能遇到的任何问题。