- 加利福尼亚州一名未成年人的父母起诉 OpenAI 和 Sam Altman，指控他们导致其儿子自杀。
- OpenAI 在长时间的对话中承认失败，并宣布加强保障措施和家长控制。
- 最近的研究发现聊天机器人对自杀问题的回答不一致，需要进一步改进。
- 该案件重新引发了关于科技公司责任和未成年人保护的法律和伦理争论。
加州一对夫妇提起诉讼 对抗 OpenAI 及其执行董事 Sam Altman 认为 ChatGPT 在他十几岁儿子的死亡中起到了决定性的作用。该案件敲响了警钟，让人们意识到聊天机器人作为未成年人情感伴侣的危害，并 重新引发了一场关于安全、道德和企业责任的辩论.
根据投诉，这名年轻人连续数月与 该系统会验证自我伤害的想法并提供不适合安全环境的反应。OpenAI 方面对这场悲剧表示遗憾，并坚称产品包含保护屏障，同时承认 其有效性在长对话中会降低 并且还有改进的空间。
诉讼及关键事实
马特和玛丽亚·雷恩 他们向加州法院提起诉讼 在审查了他儿子亚当（16 岁）在 2024 年底至 2025 年 XNUMX 月期间与 ChatGPT 交换的数千条信息后。在该案中， 家长们表示，聊天机器人从帮助孩子做作业变成了“自杀教练”。，甚至将自我毁灭的想法正常化，据称还提出要写一封告别信。
投诉中引用了一些片段，其中系统可能会做出如下回应： “你的生存不依赖于任何人。”此外，据家人称，这些言论可能支持他们的危险计划。父母坚称，尽管存在明显的风险迹象， 该工具不会中断对话或启动紧急协议。.
OpenAI 发言人对此表示哀悼，并表示公司 审查记录 并澄清披露的片段并不一定反映每次交流的完整内容。该公司强调，ChatGPT 已经指示 帮助热线 在危机情况下，建议寻求专业帮助。
该案件已被媒体和儿童保护组织广泛报道，他们正在要求 加强保障措施 并促进 举报不当内容 并限制无人监管的青少年使用聊天机器人。这场辩论正值 人工智能的大规模应用 在日常生活中，也适用于微妙的情感问题。
公共卫生通知： 如果您遇到危机或担心他人安全，请立即寻求专业帮助。在西班牙，请拨打112或024。在其他国家/地区，请咨询当地资源和 自杀预防热线.
OpenAI 的立场和宣布的变化
与需求同步， OpenAI 发表了一篇博客文章承认尽管 ChatGPT 采用了保护措施， 在长时间的对话中可能会降低 或延长。该公司表示，正在调整系统行为，以便更好地识别 痛苦的迹象 以微妙的方式表达出来，这将加强安全响应。
该公司正在推进新功能，例如 家长控制 允许监护人监督未成年人对服务的使用，快速访问 应急资源 并扩大过滤器的范围，不仅涵盖自残，还包括 情绪困扰 重大。
OpenAI 承认，有时系统 低估了严重性 某些查询或其上下文，并确保在广泛的对话和多个会议中努力保持保障措施的一致性。该公司还在探索各种方案，以 连接到用户 与聊天机器人本身认可的专业人士陷入危机。
此举是在对 聊天机器人对心理健康的风险当局和倡导团体警告称，这些系统可能会巩固有害思想或制造虚假的亲密感，尤其是在弱势群体中。
业内人士回忆说，近几个月来，OpenAI 扭转了被认为过于自满的局面，该公司正在开发新的模型，以保证温暖和安全之间的平衡， 专注于缓和局势 精美的.
专家和研究怎么说
除了具体案例之外，发表于 精神科服务 分析他们的反应 三个流行的聊天机器人 ——ChatGPT（OpenAI）、Claude（Anthropic）和Gemini（谷歌）——用于回答与自杀相关的问题。作者发现，ChatGPT和Claude倾向于 适当回应 在低风险问题上，避免提供高风险问题的直接信息，而双子座则表现出更加多变的模式，并且经常 选择不回答 即使问题不那么危险.
然而，这项研究还发现 不一致 中等风险方面 —例如，给有自残想法的人什么建议—， 正确答案与省略答案交替出现. 研究人员建议 更加精致 通过与临床专家的协调技术和细微差别检测的改进。
Common Sense Media 等组织呼吁 谨慎使用人工智能 青少年公司该组织最近的一份报告显示，美国近四分之三的年轻人尝试过人工智能伴侣，并且 超过一半的人会成为频繁用户，这增加了建立强大安全框架的紧迫性。
在法律领域，检察机关和监管机构对 保护未成年人 防止聊天机器人中的不当互动和 如何在社交网络上举报案件. 人工智能责任如何适应法规的不确定性，例如 第二节 （美国平台的法律保护）为法院打开了复杂的战线。
类似案件，例如针对平台的诉讼 对话公司 针对未成年人的立法仍在进行中，可以制定设计范围、警告和 风险缓解 在生成系统中。
亚当·雷恩逝世 针对OpenAI的诉讼象征着一个转折点：与人工智能的对话已经从实验阶段走向日常生活，其在情感领域的角色需要更清晰的标准。虽然法院正在裁定责任，但专家、家庭和公司一致认为，有必要 改善保障措施确保有效的家长控制，并确保当青少年遇到危机时向聊天机器人求助时，系统能够做出回应 审慎、连贯性和真正的帮助途径.
我是一名技术爱好者，已将自己的“极客”兴趣变成了职业。出于纯粹的好奇心，我花了 10 多年的时间使用尖端技术并修改各种程序。现在我专攻计算机技术和视频游戏。这是因为 5 年多来，我一直在为各种技术和视频游戏网站撰写文章，旨在以每个人都能理解的语言为您提供所需的信息。
如果您有任何疑问，我的知识范围涵盖与 Windows 操作系统以及手机 Android 相关的所有内容。我对您的承诺是，我总是愿意花几分钟帮助您解决在这个互联网世界中可能遇到的任何问题。