- SB 243 要求聊天机器人识别自己并定期提醒，每三小时向未成年人发出一次通知。
- 与未成年人讨论性和自残问题受到限制，并启动危机协议。
- 平台必须向州自杀预防办公室报告自杀意念的迹象。
- 该计划还包括加州有关风险、深度伪造和责任的其他人工智能法规。
加州在监管人工智能方面迈出了决定性的一步。 该规则重点关注所谓的“陪伴聊天机器人”，即模拟友谊或亲密关系的聊天机器人。 州长加文·纽瑟姆签署 SB 243，该法律要求这些工具在与他人互动时将自己标识为自动化系统并采取特定的保护措施 未成年用户.
这项由州参议员史蒂夫·帕迪拉 (Steve Padilla) 发起的措施较少关注技术架构，而更多地关注 人与机器之间的情感界面在行业压力下，最终版本受到了更多限制，但仍保留了关键义务： 定期提醒您正在与人工智能对话，提供适合年龄的内容过滤器和响应协议 自残或自杀的迹象.
SB 243 到底要求什么？
该标准的核心要求聊天机器人明确并反复地警告他们 人工智能软件对于未成年用户，系统必须至少每三小时以可见且易于理解的方式显示一次提醒，以避免对交互的非人性化性质产生混淆。
此外，运营商必须实施 内容过滤器和年龄限制：与未成年人的对话中，不得包含露骨的性内容以及任何使自残行为正常化或鼓励自残的互动。如果发现此类行为，我们会转介至危机服务机构，以弥补这些障碍。 风险指标.
La 该法律要求平台建立早期检测和响应协议。以及在 自杀预防办公室 加州此举旨在加强与卫生当局的协调，并纳入这些工具对心理健康影响的指标。
为了维护这些保障措施， 公司必须在针对该州居民的服务中实施合理的年龄验证机制。该要求适用于提供伴侣聊天机器人的社交网络、网站和应用程序，包括在加利福尼亚州运营的游戏平台或分散选项。
SB 243 的最终版本删除了之前草案中设想的第三方审计和面向所有用户（不仅仅是未成年人）的应用程序。尽管有这些删减，纽瑟姆仍为该法案辩护，称其 围堰坝 该协议旨在防止可预防的损害，计划于 2026 年 1 月生效。
该州出台了更广泛的人工智能法律
SB 243 与 SB 53 等其他最近通过的举措同时出台，后者要求大型人工智能开发商公开披露其人工智能战略。 安全和风险缓解目标是提高已经产生大规模社会影响的先进模型的透明度。
与此同时，还采取措施防止企业以技术为由逃避责任 “自主行动”对于非自愿性深度伪造的处罚也已加强，当其影响到未成年受害者时，罚款将大幅增加。
该软件包还包括防止聊天机器人冒充的限制 卫生专业人员 或权威人物，这种策略可能会误导弱势用户。通过这些文章，萨克拉门托概述了一个试图平衡创新、权利和 公安.
对其范围的支持、批评和质疑
该标准因其开创性而受到赞扬，同时也因其不足而受到批评。以下组织 常识媒体 而技术监督项目在取消外部审计并将其范围限制在未成年人之后撤回了支持，他们警告说，面对当前的风险，这可能使该法律成为一种不足的姿态。
另一个极端是，开发商和专家警告称 不相称的责任 可能会导致“预防性封锁”：过滤措施过于严格，以至于压制了有关心理健康或性教育的合法对话，使在网上寻求帮助的青少年无法获得关键支持。
政治和经济压力巨大： 科技团体和行业联盟在会议期间投入了数百万美元进行游说，以缓和最严厉的文本。与此同时，国家检察官办公室和 联邦贸易委员会 引发了对针对未成年人的聊天机器人行为的审查，在 民事诉讼 以及受影响家庭的投诉。
近期案件和诉讼 Character.AI 或 OpenAI 等平台已经引发了公众争论. 指控之后， Meta 和 OpenAI 等主要参与者宣布了变革：阻止与青少年进行不适当的对话并转介到专门的资源，以及新的家长控制。
实施挑战和可预见的影响
此次发布会带来运营挑战。全球平台必须准确判断谁是 加州未成年居民 并在不侵犯隐私的情况下监控数百万的日常互动，这在技术和法律上都很复杂。
另一个挑战是避免过度审查的“涓滴效应”：如果公司担心受到制裁，他们可能会退出 有用的内容 出于纯粹的谨慎，情感健康是不可或缺的。在保护和获取可靠信息之间找到平衡将是评估该法规成功与否的关键。
对国家的影响问题仍然存在：正如加州早期其他法规一样，其要求可能会成为事实上的 标准 甚至在获得确凿的疗效证据之前，它就已经为美国各地的运营商提供了服务。
虽然最终文本比最初的提案范围要窄，但 SB 243 为“陪伴聊天机器人”制定了前所未有的规则：清晰的警告、年龄筛选和危机处理方案，并附有机构报告。如果您 最小障碍 如果加州能够在不压制合法支持的情况下保护未成年人，那么它将开辟一条其他州可以效仿的中间道路。
我是一名技术爱好者，已将自己的“极客”兴趣变成了职业。出于纯粹的好奇心，我花了 10 多年的时间使用尖端技术并修改各种程序。现在我专攻计算机技术和视频游戏。这是因为 5 年多来，我一直在为各种技术和视频游戏网站撰写文章，旨在以每个人都能理解的语言为您提供所需的信息。
如果您有任何疑问，我的知识范围涵盖与 Windows 操作系统以及手机 Android 相关的所有内容。我对您的承诺是，我总是愿意花几分钟帮助您解决在这个互联网世界中可能遇到的任何问题。