California quản lý chatbot AI bằng luật SB 243

Dự luật SB 243 yêu cầu các chatbot phải tự nhận dạng và cung cấp lời nhắc định kỳ, với thông báo ba giờ một lần cho trẻ vị thành niên.
Các cuộc thảo luận về tình dục và tự gây thương tích với trẻ vị thành niên bị hạn chế và các giao thức xử lý khủng hoảng được kích hoạt.
Các nền tảng phải báo cáo các dấu hiệu có ý định tự tử cho Văn phòng Phòng chống Tự tử của tiểu bang.
Gói này bao gồm các quy định AI khác của California về rủi ro, deepfake và trách nhiệm pháp lý.

Luật AI của California

California đã có bước đi quyết định trong việc giám sát trí tuệ nhân tạo. với quy tắc tập trung vào cái gọi là "chatbot đồng hành", những chatbot mô phỏng tình bạn hoặc sự thân mật. Thống đốc Gavin Newsom đã ký SB 243, một luật yêu cầu các công cụ này phải tự xác định mình là hệ thống tự động và áp dụng các biện pháp bảo vệ cụ thể khi tương tác với người dùng nhỏ tuổi.

Biện pháp này, được tài trợ bởi Thượng nghị sĩ Steve Padilla, tập trung ít hơn vào kiến trúc kỹ thuật và nhiều hơn vào giao diện cảm xúc giữa con người và máy mócPhiên bản cuối cùng, bị hạn chế hơn sau áp lực từ ngành, vẫn duy trì các nghĩa vụ chính: Nhắc nhở thường xuyên rằng bạn đang nói chuyện với AI, bộ lọc nội dung phù hợp với lứa tuổi và giao thức phản hồi dấu hiệu tự làm hại bản thân hoặc tự tử.

SB 243 yêu cầu chính xác những gì?

Luật AI ở California

Cốt lõi của tiêu chuẩn yêu cầu các chatbot phải cảnh báo rõ ràng và liên tục rằng chúng Phần mềm AIĐối với người dùng vị thành niên, hệ thống phải hiển thị lời nhắc ít nhất ba giờ một lần, theo cách dễ thấy và dễ hiểu để tránh nhầm lẫn về bản chất phi con người của tương tác.

Ngoài ra, các nhà điều hành phải thực hiện bộ lọc nội dung và giới hạn độ tuổi: Những hành vi tình dục lộ liễu và bất kỳ tương tác nào bình thường hóa hoặc khuyến khích hành vi tự làm hại bản thân đều bị loại trừ khỏi các cuộc trò chuyện với trẻ vị thành niên. Những rào cản này được bổ sung bằng việc giới thiệu đến các dịch vụ hỗ trợ khủng hoảng khi bị phát hiện. các chỉ số rủi ro.

Nội dung độc quyền - Bấm vào đây Tôi thấy Hình 3 và Hình 4: Đây là cách Google đang cách mạng hóa việc tạo hình ảnh và video bằng AI.

La Luật yêu cầu các nền tảng phải thiết lập các giao thức phát hiện và ứng phó sớm., cũng như các báo cáo về các trường hợp có ý định tự tử được xác định tại Văn phòng Phòng chống Tự tử Của CaliforniaMục đích của việc này là tăng cường sự phối hợp với các cơ quan y tế và kết hợp các số liệu về tác động của các công cụ này đối với sức khỏe tâm thần.

Để duy trì các biện pháp bảo vệ này, Các công ty phải triển khai cơ chế xác minh độ tuổi hợp lý trong các dịch vụ của mình hướng tới cư dân của tiểu bang.Yêu cầu này áp dụng cho các mạng xã hội, trang web và ứng dụng cung cấp chatbot đồng hành, bao gồm nền tảng trò chơi hoặc các tùy chọn phi tập trung hoạt động tại California.

Phiên bản cuối cùng của SB 243 đã bỏ qua việc kiểm toán của bên thứ ba và một ứng dụng dành cho tất cả người dùng (không chỉ trẻ vị thành niên) vốn đã được dự tính trong các bản thảo trước đó. Bất chấp việc cắt giảm này, Newsom vẫn bảo vệ dự luật như một đập ngăn chống lại thiệt hại có thể ngăn ngừa được, dự kiến có hiệu lực vào tháng 1 năm 2026.

Một gói luật AI rộng hơn trong tiểu bang

SB 243 được đưa ra cùng với các sáng kiến khác vừa được thông qua gần đây, chẳng hạn như SB 53, yêu cầu các nhà phát triển AI lớn phải công khai chiến lược AI của họ. an ninh và giảm thiểu rủi roMục tiêu là cải thiện tính minh bạch của các mô hình tiên tiến vốn đã có tác động xã hội trên quy mô lớn.

Nội dung độc quyền - Bấm vào đây Làm cách nào để bạn tạo danh sách mua sắm hoặc danh sách việc cần làm với Alexa?

Song song đó, các biện pháp đã được thúc đẩy để ngăn chặn các công ty trốn tránh trách nhiệm bằng cách tuyên bố rằng công nghệ “hành động tự chủ”Hình phạt đối với hành vi deepfake tình dục không có sự đồng thuận cũng đã được thắt chặt, tăng đáng kể tiền phạt khi chúng ảnh hưởng đến nạn nhân vị thành niên.

Gói này cũng bao gồm các hạn chế để ngăn chặn chatbot mạo danh vệ sinh chuyên nghiệp hoặc những người có thẩm quyền, một chiến thuật có thể gây hiểu lầm cho người dùng dễ bị tổn thương. Với những thông tin này, Sacramento phác thảo một khuôn khổ tiểu bang nhằm cân bằng giữa đổi mới, quyền lợi và an ninh công cộng.

Hỗ trợ, phê bình và nghi ngờ về phạm vi của nó

California quản lý chatbot AI bằng SB 243

Tiêu chuẩn này đã nhận được lời khen ngợi vì mang tính đột phá, nhưng đồng thời cũng bị chỉ trích vì chưa đạt yêu cầu. Các tổ chức như Common Sense Media và Dự án Giám sát Công nghệ đã rút lại sự hỗ trợ sau khi loại bỏ các cuộc kiểm toán bên ngoài và giới hạn phạm vi của họ đối với trẻ vị thành niên, điều mà họ cảnh báo có thể khiến luật này trở thành một động thái không đủ trước những rủi ro hiện tại.

Ở thái cực khác, các nhà phát triển và chuyên gia cảnh báo rằng trách nhiệm không cân xứng có thể dẫn đến “các khối phòng ngừa”: các bộ lọc quá nghiêm ngặt đến mức chúng làm im lặng các cuộc trò chuyện hợp pháp về sức khỏe tâm thần hoặc giáo dục giới tính, tước đi sự hỗ trợ quan trọng của những thanh thiếu niên tìm kiếm sự trợ giúp trực tuyến.

Áp lực chính trị và kinh tế rất lớn: Các nhóm công nghệ và liên minh ngành đã đầu tư hàng triệu đô la vào hoạt động vận động hành lang trong phiên họp để điều chỉnh các văn bản khó nhất.Đồng thời, văn phòng công tố viên nhà nước và FTC đã gây ra sự giám sát chặt chẽ đối với các hoạt động chatbot nhắm vào trẻ vị thành niên, trong một môi trường các vụ kiện dân sự và khiếu nại từ các gia đình bị ảnh hưởng.

Nội dung độc quyền - Bấm vào đây 12GB hay 9GB? Pixel 10 dành 3GB cho AI để cải thiện khả năng phản hồi, nhưng lại hạn chế khả năng đa nhiệm.

Các vụ kiện và vụ kiện gần đây chống lại Các nền tảng như Character.AI hoặc OpenAI đã làm leo thang cuộc tranh luận công khai. Sau những lời buộc tội, Các công ty lớn như Meta và OpenAI đã công bố những thay đổi: Chặn các cuộc trò chuyện không phù hợp với thanh thiếu niên và giới thiệu đến các nguồn chuyên biệt, cùng với tính năng kiểm soát mới của phụ huynh.

Những thách thức trong việc thực hiện và những tác động có thể lường trước được

Việc ra mắt đặt ra những thách thức về mặt vận hành. Các nền tảng toàn cầu sẽ phải xác định chính xác ai là cư dân vị thành niên ở California và giám sát hàng triệu tương tác hàng ngày mà không xâm phạm quyền riêng tư, một việc phức tạp về mặt kỹ thuật và pháp lý.

Một thách thức khác là tránh "hiệu ứng lan tỏa" hướng tới kiểm duyệt quá mức: nếu các công ty sợ bị trừng phạt, họ có thể rút lui nội dung hữu ích Sức khỏe tinh thần xuất phát từ sự thận trọng tuyệt đối. Việc tìm ra sự cân bằng giữa bảo vệ và tiếp cận thông tin đáng tin cậy sẽ là chìa khóa để đánh giá sự thành công của quy định.

Câu hỏi về tác động quốc gia vẫn còn đó: như đã xảy ra với các quy định ban đầu khác của California, các yêu cầu của nó có thể trở thành thực tế tiêu chuẩn cho các nhà điều hành trên khắp Hoa Kỳ, thậm chí trước khi có bằng chứng chắc chắn về hiệu quả.

Mặc dù văn bản cuối cùng hẹp hơn so với các đề xuất ban đầu, SB 243 đặt ra các quy tắc chưa từng có cho "chatbot đồng hành": cảnh báo rõ ràng, bộ lọc độ tuổi và giao thức xử lý khủng hoảng với báo cáo của tổ chức. Nếu bạn rào cản tối thiểu Nếu họ có thể bảo vệ trẻ vị thành niên mà không cản trở các nguồn hỗ trợ hợp pháp, California sẽ mở ra một con đường trung dung mà các tiểu bang khác có thể noi theo.