- O SB 243 exige que os chatbots se identifiquem e forneçam lembretes periódicos, com notificações a cada três horas para menores.
- Discussões sobre sexualidade e automutilação com menores são restritas, e protocolos de crise são ativados.
- As plataformas devem relatar sinais de ideação suicida ao Escritório Estadual de Prevenção ao Suicídio.
- O pacote inclui outras regulamentações de IA da Califórnia sobre risco, deepfakes e responsabilidade.
A Califórnia deu um passo decisivo na supervisão da inteligência artificial. com uma regra que se concentra nos chamados "chatbots de companhia", aqueles que simulam amizade ou intimidade. O governador Gavin Newsom assinou o SB 243, uma lei que exige que essas ferramentas se identifiquem como sistemas automatizados e adotem salvaguardas específicas ao interagir com usuários menores.
A medida, patrocinada pelo senador estadual Steve Padilla, concentra-se menos na arquitetura técnica e mais na interface emocional entre pessoas e máquinasA versão final, que ficou mais limitada após pressão da indústria, mantém obrigações importantes: Lembretes regulares de que você está falando com uma IA, filtros de conteúdo apropriados para a idade e protocolos de resposta sinais de automutilação ou suicídio.
O que exatamente a SB 243 exige?
O núcleo do padrão exige que os chatbots avisem clara e repetidamente que estão Software de IAPara usuários menores de idade, o sistema deve exibir um lembrete pelo menos a cada três horas, de forma visível e compreensível para evitar confusão sobre a natureza não humana da interação.
Além disso, os operadores têm de implementar filtros de conteúdo e limites de idade: Sexualidade explícita e qualquer interação que normalize ou incentive a automutilação são excluídas das conversas com menores. Essas barreiras são complementadas por encaminhamentos para serviços de crise quando detectadas. indicadores de risco.
La A lei exige que as plataformas estabeleçam protocolos de detecção e resposta precoces., bem como relatos de casos de ideação suicida identificados no Escritório de Prevenção ao Suicídio Da califórniaIsso busca fortalecer a coordenação com as autoridades de saúde e incorporar métricas sobre o impacto dessas ferramentas na saúde mental.
Para manter estas salvaguardas, As empresas devem implementar mecanismos razoáveis de verificação de idade em seus serviços destinados aos residentes do estado.O requisito se aplica a redes sociais, sites e aplicativos que oferecem chatbots complementares, incluindo plataformas de jogos ou opções descentralizadas que operam na Califórnia.
A versão final do SB 243 deixou de fora auditorias de terceiros e um aplicativo para todos os usuários (não apenas menores), que foram contemplados em rascunhos anteriores. Apesar desse corte, Newsom defendeu o projeto de lei como um barragem de contenção contra danos evitáveis, com entrada em vigor prevista para janeiro de 2026.
Um pacote mais amplo de leis de IA no estado
O SB 243 vem junto com outras iniciativas aprovadas recentemente, como o SB 53, que exige que grandes desenvolvedores de IA divulguem publicamente suas estratégias de IA. segurança e mitigação de riscosO objetivo é melhorar a transparência de modelos avançados que já têm impacto social em larga escala.
Paralelamente, foram promovidas medidas para evitar que as empresas se esquivem às responsabilidades alegando que a tecnologia “age de forma autônoma”As penalidades para deepfakes sexuais não consensuais também foram reforçadas, aumentando significativamente as multas quando afetam vítimas menores de idade.
O pacote também inclui restrições para evitar que os chatbots se façam passar por profissionais de saúde ou figuras de autoridade, uma tática que pode enganar usuários vulneráveis. Com essas peças, Sacramento descreve uma estrutura estadual que busca equilibrar inovação, direitos e segurança pública.
Apoios, críticas e dúvidas sobre seu alcance
A norma recebeu elogios por ser inovadora, mas também críticas por ser insuficiente. Organizações como Mídia de Senso Comum e o Tech Oversight Project retirou seu apoio após eliminar auditorias externas e limitar seu escopo a menores, o que, segundo eles, poderia tornar a lei um gesto insuficiente diante dos riscos atuais.
No outro extremo, os desenvolvedores e especialistas alertam que uma responsabilidade desproporcional poderia levar a “bloqueios de precaução”: filtros tão rigorosos que silenciam conversas legítimas sobre saúde mental ou educação sexual, privando adolescentes que buscam ajuda online de apoio crucial.
A pressão política e econômica tem sido intensa: Grupos de tecnologia e coalizões da indústria investiram milhões em lobby durante a sessão para moderar os textos mais difíceis.Ao mesmo tempo, o Ministério Público Estadual e o FTC desencadearam o escrutínio sobre as práticas de chatbots dirigidas a menores, num ambiente de ações civis e reclamações de famílias afetadas.
Casos e ações judiciais recentes contra Plataformas como Character.AI ou OpenAI intensificaram o debate público. Após as acusações, Grandes players como Meta e OpenAI anunciaram mudanças: Bloqueio de conversas inapropriadas com adolescentes e encaminhamentos para recursos especializados, além de novos controles parentais.
Desafios de implementação e efeitos previsíveis
O lançamento apresenta desafios operacionais. As plataformas globais terão que determinar com precisão quem é residente menor na Califórnia e monitorar milhões de interações diárias sem invadir a privacidade, algo que é técnica e legalmente complexo.
Outro desafio será evitar o “efeito cascata” em direcção à censura excessiva: se as empresas temerem sanções, poderão retirá-las conteúdo útil bem-estar emocional por pura prudência. Encontrar o equilíbrio entre proteção e acesso a informações confiáveis será fundamental para avaliar o sucesso da regulamentação.
A questão do impacto nacional também permanece: como aconteceu com outras regulamentações anteriores da Califórnia, seus requisitos podem se tornar de fato padrão para operadores nos EUA, mesmo antes de evidências sólidas de eficácia estarem disponíveis.
Embora o texto final seja mais restrito do que as propostas iniciais, o SB 243 estabelece regras sem precedentes para "chatbots complementares": avisos claros, filtros de idade e protocolos de crise com relatórios institucionais. Se você estiver barreiras mínimas Se conseguirem proteger menores sem sufocar apoios legítimos, a Califórnia terá aberto um caminho intermediário que outros estados podem seguir.
Sou um entusiasta da tecnologia que transformou seus interesses “geek” em profissão. Passei mais de 10 anos da minha vida usando tecnologia de ponta e mexendo em todos os tipos de programas por pura curiosidade. Agora me especializei em informática e videogames. Isto porque há mais de 5 anos escrevo para diversos sites sobre tecnologia e videojogos, criando artigos que procuram dar-lhe a informação que necessita numa linguagem compreensível para todos.
Se você tiver alguma dúvida, meu conhecimento vai desde tudo relacionado ao sistema operacional Windows até Android para celulares. E meu compromisso é com você, estou sempre disposto a dedicar alguns minutos e te ajudar a resolver qualquer dúvida que você possa ter nesse mundo da internet.