- A SB 243 esixe que os chatbots se identifiquen e proporcionen recordatorios periódicos, con notificacións cada tres horas para os menores.
- Restrínxense as conversas sobre sexualidade e autolesións con menores e actívanse os protocolos de crise.
- As plataformas deben informar dos signos de ideación suicida á Oficina estatal de Prevención do Suicidio.
- O paquete inclúe outras regulacións de IA de California sobre riscos, deepfakes e responsabilidade.
California deu un paso decisivo na supervisión da intelixencia artificial. cunha regra que se centra nos chamados "chatbots compañeiros", aqueles que simulan amizade ou intimidade. O gobernador Gavin Newsom asinou o proxecto de lei SB 243, unha lei que esixe que estas ferramentas se identifiquen como sistemas automatizados e adopten medidas de seguridade específicas ao interactuar con usuarios menores.
A medida, patrocinada polo senador estatal Steve Padilla, céntrase menos na arquitectura técnica e máis en interface emocional entre persoas e máquinasA versión final, que era máis limitada tras a presión da industria, mantén obrigas clave: Recordatorios regulares de que estás a falar cunha IA, filtros de contido axeitados para a idade e protocolos de resposta sinais de autolesión ou suicidio.
Que esixe exactamente o proxecto de lei SB 243?
O núcleo do estándar require que os chatbots avisen de forma clara e repetida de que están Software de IAPara os usuarios menores de idade, o sistema debe mostrar un recordatorio polo menos cada tres horas, dun xeito visible e comprensible para evitar confusións sobre a natureza non humana da interacción.
Ademais, os operadores deben implementar filtros de contido e límites de idadeA sexualidade explícita e calquera interacción que normalice ou fomente a autolesión están excluídas das conversas con menores. Estas barreiras compleméntanse con derivacións a servizos de crise cando se detectan. indicadores de risco.
La A lei esixe que as plataformas establezan protocolos de detección e resposta temperás., así como informes de casos de ideación suicida identificados no Oficina de Prevención do Suicidio De CaliforniaIsto busca reforzar a coordinación coas autoridades sanitarias e incorporar métricas sobre o impacto destas ferramentas na saúde mental.
Para manter estas garantías, As empresas deben implementar mecanismos razoables de verificación da idade nos seus servizos dirixidos aos residentes do estado.O requisito aplícase a redes sociais, sitios web e aplicacións que ofrecen chatbots complementarios, incluídas plataformas de xogos ou opcións descentralizadas que operan en California.
A versión final do SB 243 omitiu as auditorías de terceiros e unha aplicación para todos os usuarios (non só menores) que se contemplaban en borradores anteriores. A pesar deste recorte, Newsom defendeu o proxecto de lei como unha presa de contención contra os danos evitables, cunha entrada en vigor prevista para xaneiro de 2026.
Un paquete máis amplo de leis de IA no estado
O proxecto de lei SB 243 vén xunto con outras iniciativas aprobadas recentemente, como o SB 53, que esixe que os grandes desenvolvedores de IA divulguen publicamente as súas estratexias de IA. seguridade e mitigación de riscosO obxectivo é mellorar a transparencia de modelos avanzados que xa teñen un impacto social a grande escala.
Paralelamente, impulsáronse medidas para evitar que as empresas evadan responsabilidades alegando que a tecnoloxía "actúa de forma autónoma"As sancións por simulacións sexuais profundas non consentidas tamén se endureceron, aumentando significativamente as multas cando afectan a vítimas menores de idade.
O paquete tamén inclúe restricións para evitar que os chatbots se fagan pasar por profesionais da saúde ou figuras de autoridade, unha táctica que pode enganar aos usuarios vulnerables. Con estas pezas, Sacramento describe un marco estatal que intenta equilibrar a innovación, os dereitos e seguridade pública.
Apoio, crítica e dúbidas sobre o seu alcance
O estándar recibiu eloxios por ser innovador, pero ao mesmo tempo críticas por non cumprilo. Organizacións como Medios comúns de sentido e o Proxecto de Supervisión Tecnolóxica retirou o seu apoio tras eliminar as auditorías externas e limitar o seu alcance a menores, o que advirten que podería converter a lei nun xesto insuficiente ante os riscos actuais.
No outro extremo, os desenvolvedores e os expertos advirten que un responsabilidade desproporcionada podería levar a "bloqueos de precaución": filtros tan estritos que silencian conversas lexítimas sobre saúde mental ou educación sexual, privando aos adolescentes que buscan axuda en liña dun apoio crucial.
A presión política e económica foi intensa: Os grupos tecnolóxicos e as coalicións industriais gastaron millóns en actividades de lobbying durante a sesión para moderar os textos máis difíciles.Ao mesmo tempo, a Fiscalía do Estado e a FTC desencadearon un escrutinio sobre as prácticas de chatbots dirixidas a menores, nun ambiente de demandas civís e queixas das familias afectadas.
Casos e demandas recentes contra plataformas como Character.AI ou OpenAI intensificaron o debate públicoDespois das acusacións, Grandes actores como Meta e OpenAI anunciaron cambiosBloqueo de conversas inapropiadas con adolescentes e derivacións a recursos especializados, ademais de novos controis parentais.
Desafíos de implementación e efectos previsibles
A implementación supón desafíos operativos. As plataformas globais terán que determinar con precisión quen é menor residente en California e monitorizar millóns de interaccións diarias sen invadir a privacidade, algo técnica e legalmente complexo.
Outro reto será evitar o "efecto goteo" cara a unha censura excesiva: se as empresas temen sancións, poderían retirarse contido útil benestar emocional por pura prudencia. Atopar o equilibrio entre a protección e o acceso a información fiable será clave para avaliar o éxito da regulación.
A cuestión do impacto nacional tamén persiste: como xa aconteceu con outras regulacións iniciais de California, os seus requisitos poderían converterse en de facto estándar para operadores de todos os Estados Unidos, mesmo antes de que se dispoñese de probas sólidas de eficacia.
Aínda que o texto final é máis limitado que as propostas iniciais, o O proxecto de lei SB 243 establece regras sen precedentes para os "chatbots complementarios"avisos claros, filtros de idade e protocolos de crise con informes institucionais. Se vostede é barreiras mínimas Se conseguen protexer os menores sen sufocar os apoios lexítimos, California terá aberto un camiño intermedio que outros estados poderán seguir.
Son un entusiasta da tecnoloxía que converteu os seus intereses "friki" nunha profesión. Levo máis de 10 anos da miña vida empregando tecnoloxía de punta e retocando todo tipo de programas por pura curiosidade. Agora especializeime en tecnoloxía informática e videoxogos. Isto débese a que dende hai máis de 5 anos levo escribindo para diversas webs sobre tecnoloxía e videoxogos, creando artigos que buscan darche a información que necesitas nun idioma comprensible para todos.
Se tes algunha dúbida, os meus coñecementos abarcan dende todo o relacionado co sistema operativo Windows e tamén con Android para teléfonos móbiles. E o meu compromiso é contigo, sempre estou disposto a dedicar uns minutos e axudarche a resolver calquera dúbida que teñas neste mundo de internet.