- SB 243 要求聊天機器人識別自己並定期提醒，每三小時向未成年人發出一次通知。
- 與未成年人討論性和自殘問題受到限制，並啟動危機協議。
- 平台必須向州自殺預防辦公室報告自殺意念的跡象。
- 該計劃還包括加州有關風險、深度偽造和責任的其他人工智慧法規。
加州在監管人工智慧方面邁出了決定性的一步。 該規則重點關注所謂的“陪伴聊天機器人”，即模擬友誼或親密關係的聊天機器人。 州長加文·紐瑟姆簽署 SB 243，該法律要求這些工具在與他人互動時將自己標識為自動化系統並採取特定的保護措施 未成年用戶.
這項由州參議員史蒂夫·帕迪拉 (Steve Padilla) 發起的措施較少關注技術架構，而更多地關注 人與機器之間的情感介面在行業壓力下，最終版本受到了更多限制，但仍保留了關鍵義務： 定期提醒您正在與人工智慧對話，提供適合年齡的內容過濾器和回應協議 自殘或自殺的跡象.
SB 243 到底要求什麼？
該標準的核心要求聊天機器人明確並反覆警告他們 IA軟體對於未成年用戶，系統必須至少每三小時以可見且易於理解的方式顯示一次提醒，以避免對互動的非人性化性質產生混淆。
此外，營運商必須實施 內容過濾器和年齡限制：與未成年人的對話中，不得包含露骨的性內容以及任何使自殘行為正常化或鼓勵自殘的互動。如果發現此類行為，我們會轉介至危機服務機構，以彌補這些障礙。 風險指標.
La 該法律要求平台建立早期檢測和回應協議。以及在 自殺防治辦公室 加州此舉旨在加強與衛生當局的協調，並納入這些工具對心理健康影響的指標。
為了維護這些保障措施， 公司必須在針對該州居民的服務中實施合理的年齡驗證機制。該要求適用於提供伴侶聊天機器人的社交網路、網站和應用程序，包括在加州運營的遊戲平台或分散選項。
SB 243 的最終版本刪除了先前草案中設想的第三方審計和麵向所有使用者（不僅僅是未成年人）的應用程式。儘管有這些刪減，紐瑟姆仍為該法案辯護，稱其 圍堰壩 該協議旨在防止可預防的損害，計劃於 2026 年 1 月生效。
該州推出了更廣泛的人工智慧法律
SB 243 與其他最近通過的 SB 53 措施同時出台，後者要求大型人工智慧開發商公開揭露其人工智慧策略。 安全和風險緩解目標是提高已經產生大規模社會影響的先進模型的透明度。
同時，也採取措施防止企業以技術為由逃避責任 “自主行動”對於非自願性深度偽造的處罰也已加強，當其影響未成年受害者時，罰款將大幅增加。
該軟體包還包括防止聊天機器人冒充的限制 衛生專業人員 或權威人物，這種策略可能會誤導弱勢使用者。透過這些文章，薩克拉門托概述了一個試圖平衡創新、權利和 公安.
對其範圍的支持、批評與質疑
該標準因其開創性而受到讚揚，同時也因其不足而受到批評。以下組織 常識媒體 而技術監督專案在取消外部審計並將其範圍限制在未成年人之後撤回了支持，他們警告說，面對當前的風險，這可能使該法律成為一種不足的姿態。
另一個極端是，開發商和專家警告稱 不相稱的責任 可能會導致「預防性封鎖」：過濾措施過於嚴格，以至於壓制了有關心理健康或性教育的合法對話，使在網路上尋求幫助的青少年無法獲得關鍵支持。
政治和經濟壓力巨大： 科技團體和產業聯盟在會議期間投入了數百萬美元進行遊說，以緩和最嚴厲的文字。同時，國家檢察官辦公室和 美國聯邦貿易委員會 引發了對針對未成年人的聊天機器人行為的審查，在 民事訴訟 以及受影響家庭的投訴。
近期案件和訴訟 Character.AI 或 OpenAI 等平台已經引發了公眾爭論. 指控之後， Meta 和 OpenAI 等主要參與者宣布了變革：阻止與青少年進行不適當的對話並轉介到專門的資源，以及新的家長監護。
實施挑戰和可預見的影響
此次發布會帶來營運挑戰。全球平台必須準確判斷誰是 加州未成年居民 並在不侵犯隱私的情況下監控數百萬的日常互動，這在技術和法律上都很複雜。
另一個挑戰是避免過度審查的「涓滴效應」：如果公司擔心受到製裁，他們可能會退出 有用的內容 出於純粹的謹慎，情緒健康是不可或缺的。在保護和獲取可靠資訊之間找到平衡將是評估該法規成功與否的關鍵。
對國家的影響問題仍然存在：正如加州早期其他法規一樣，其要求可能會成為事實上的 標準 甚至在獲得確鑿的療效證據之前，它就已經為美國各地的業者提供了服務。
雖然最終文本比最初的提案範圍要窄，但 SB 243 為「陪伴聊天機器人」制定了前所未有的規則：清晰的警告、年齡篩選和危機處理方案，並附有機構報告。如果您 最小障礙 如果加州能夠在不壓制合法支持的情況下保護未成年人，那麼它將開闢一條其他州可以效仿的中間道路。
我是一名技術愛好者，已將自己的“極客”興趣變成了職業。出於純粹的好奇心，我花了 10 多年的時間使用尖端技術並修改各種程序。現在我專攻電腦技術和電玩遊戲。這是因為五年多來，我一直在為各種技術和視頻遊戲網站撰寫文章，力求以每個人都能理解的語言為您提供所需的資訊。
如果您有任何疑問，我的知識範圍涵蓋與 Windows 作業系統以及手機 Android 相關的所有內容。我對您的承諾是，我總是願意花幾分鐘幫助您解決在這個網路世界中可能遇到的任何問題。