캘리포니아, AI 챗봇 규제 및 미성년자 보호 위한 SB 243 통과

캘리포니아는 인공지능 감독에 있어 결정적인 조치를 취했습니다. 소위 '동반 챗봇'에 초점을 맞춘 규칙이 있는데, 이는 우정이나 친밀감을 흉내내는 챗봇입니다. 게이빈 뉴섬 주지사가 SB 243에 서명했습니다.이러한 도구가 자동화된 시스템으로 식별되고 상호 작용할 때 특정 보호 장치를 채택하도록 요구하는 법률입니다. 미성년자 사용자.

주 상원 의원 Steve Padilla가 후원하는 이 조치는 기술 아키텍처보다는 다음 사항에 더 중점을 둡니다. 사람과 기계 사이의 감정적 인터페이스업계의 압력으로 제한이 완화된 최종 버전은 다음과 같은 주요 의무 사항을 유지합니다. AI와 대화 중임을 알려주는 정기적인 알림, 연령에 맞는 콘텐츠 필터, 응답 프로토콜 자해 또는 자살의 징후.

SB 243은 정확히 무엇을 요구합니까?

표준의 핵심은 챗봇이 자신이 위험에 처해 있다는 것을 명확하고 반복적으로 경고해야 한다는 것입니다. AI 소프트웨어미성년 사용자의 경우, 시스템은 상호작용의 비인간적 성격에 대한 혼란을 피하기 위해 최소 3시간마다 눈에 띄고 이해하기 쉬운 방식으로 알림을 표시해야 합니다.

또한, 운영자는 다음을 구현해야 합니다. 콘텐츠 필터 및 연령 제한: 노골적인 성적 표현 및 자해를 정상화하거나 조장하는 모든 상호작용은 미성년자와의 대화에서 배제됩니다. 이러한 장벽은 발견 시 위기 지원 서비스로의 연계를 통해 보완됩니다. 위험 지표.

La 이 법률은 플랫폼이 조기 감지 및 대응 프로토콜을 수립하도록 요구합니다., 자살 생각 사례 보고도 확인됨 자살예방국 캘리포니아이를 통해 보건 당국과의 협력을 강화하고 이러한 도구가 정신 건강에 미치는 영향에 대한 지표를 통합하고자 합니다.

이러한 보호 조치를 유지하려면 기업은 해당 주민을 대상으로 하는 서비스에 있어 합리적인 연령 확인 메커니즘을 구현해야 합니다.이 요구 사항은 캘리포니아에서 운영되는 게임 플랫폼이나 분산형 옵션을 포함하여 동반형 챗봇을 제공하는 소셜 네트워크, 웹사이트 및 앱에 적용됩니다.

SB 243 최종안은 이전 초안에서 고려되었던 제3자 감사와 모든 사용자(미성년자뿐만 아니라)를 위한 앱을 제외했습니다. 이러한 삭제에도 불구하고 뉴섬은 이 법안을 다음과 같이 옹호했습니다. 격납댐 예방 가능한 피해에 대한 협정으로, 2026년 1월에 발효될 예정입니다.

주 내 AI 법률의 광범위한 패키지

SB 243은 최근 통과된 다른 이니셔티브, 예를 들어 대규모 AI 개발업체가 AI 전략을 공개하도록 요구하는 SB 53과 함께 발표되었습니다. 보안 및 위험 완화목표는 이미 대규모 사회적 영향을 미치는 고급 모델의 투명성을 개선하는 것입니다.

동시에 기업이 기술에 대한 책임을 회피하는 것을 방지하기 위한 조치가 추진되었습니다. "자율적으로 행동한다"합의되지 않은 성적 딥페이크에 대한 처벌도 강화되어, 미성년 피해자에게 영향을 미치는 경우 벌금이 크게 증가했습니다.

이 패키지에는 채팅봇이 다른 사람을 사칭하는 것을 방지하기 위한 제한 사항도 포함되어 있습니다. 전문 요양원 또는 권위 있는 인물을 이용하는 것은 취약한 사용자를 오도할 수 있는 전략입니다. 이러한 기사를 통해 새크라멘토는 혁신, 권리, 그리고 공공의 보안.

범위에 대한 지지, 비판 및 의심

이 표준은 획기적이라는 찬사를 받았지만, 동시에 미흡하다는 비판도 받았습니다. 다음과 같은 기관들이 있습니다. 상식 미디어 그리고 기술 감독 프로젝트는 외부 감사를 없애고 범위를 미성년자로 제한한 뒤 지원을 철회했습니다. 그들은 현재 위험에 직면한 상황에서 이 법이 충분하지 않을 수 있다고 경고했습니다.

반면에 개발자와 전문가들은 다음과 같이 경고합니다. 불균형적인 책임 "예방적 차단"으로 이어질 수 있습니다. 즉, 정신 건강이나 성교육에 대한 합법적인 대화를 침묵시킬 정도로 엄격한 필터가 적용되어 온라인에서 도움을 구하는 청소년이 필수적인 지원을 받지 못하게 됩니다.

정치적, 경제적 압력이 강렬했습니다. 기술 단체와 산업 연합은 회기 동안 가장 강력한 법안을 완화하기 위해 로비 활동에 수백만 달러를 썼습니다.동시에 검찰청과 FTC 미성년자를 대상으로 하는 채팅봇 관행에 대한 조사가 시작되었습니다. 민사소송 그리고 피해를 입은 가족들의 불만도 있었습니다.

최근의 사례 및 소송 Character.AI나 OpenAI와 같은 플랫폼은 공개 토론을 확대했습니다.. 비난 이후, Meta 및 OpenAI와 같은 주요 업체가 변경 사항을 발표했습니다.: 청소년과의 부적절한 대화 차단, 전문 리소스 추천, 새로운 보호자 관리 기능 추가.

구현 과제 및 예상 효과

구현에는 운영상의 어려움이 따릅니다. 글로벌 플랫폼은 누가 캘리포니아에 거주하는 미성년자 그리고 개인 정보를 침해하지 않고 매일 수백만 건의 상호작용을 모니터링해야 합니다. 이는 기술적으로나 법적으로 복잡한 문제입니다.

또 다른 과제는 과도한 검열에 대한 "트리클링 효과"를 피하는 것입니다. 회사가 제재를 두려워하면 철수할 수 있습니다. 유용한 콘텐츠 순수한 신중함에서 비롯된 정서적 안녕. 보호와 신뢰할 수 있는 정보 접근성 사이의 균형을 찾는 것이 규제의 성공 여부를 평가하는 데 핵심이 될 것입니다.

국가적 영향에 대한 문제도 여전히 남아 있습니다. 다른 초기 캘리포니아 규정에서 발생했듯이 그 요구 사항은 사실상 적용될 수 있습니다. 표준 미국 전역의 사업자에게는 효능에 대한 확실한 증거가 나오기 전부터도 그랬습니다.

최종 텍스트는 초기 제안보다 좁지만 SB 243은 "동반 챗봇"에 대한 전례 없는 규칙을 설정합니다.: 명확한 경고, 연령 필터 및 기관 보고를 통한 위기 프로토콜. 최소한의 장벽 캘리포니아가 합법적 지원을 억압하지 않고 미성년자를 보호할 수 있다면 다른 주들이 따를 수 있는 중도 노선을 개척하게 될 것입니다.

관련 기사 :

OpenAI는 가족 계정, 위험 경고, 사용 제한 등의 기능을 갖춘 자녀 보호 기능을 ChatGPT에 추가할 예정입니다.

알베르토 나 바로

나는 그의 "괴짜" 관심을 직업으로 바꾼 기술 열광자입니다. 나는 10년 넘게 최첨단 기술을 사용하고 순수한 호기심으로 온갖 프로그램을 만지작거리며 살아왔습니다. 이제 저는 컴퓨터 기술과 비디오 게임을 전공했습니다. 왜냐하면 저는 5년 넘게 기술 및 비디오 게임에 관한 다양한 웹사이트에 글을 쓰고 모든 사람이 이해할 수 있는 언어로 필요한 정보를 제공하려는 기사를 작성해 왔기 때문입니다.

질문이 있으시면 제가 알고 있는 지식은 Windows 운영 체제는 물론 휴대폰용 Android까지 다양합니다. 그리고 저는 여러분을 위한 헌신을 하고 있습니다. 저는 항상 몇 분씩만 시간을 내어 이 인터넷 세계에서 여러분이 가질 수 있는 모든 질문을 해결하도록 도와드릴 의향이 있습니다.