- La SB 243 obliga els chatbots a identificar-se i aplicar recordatoris periòdics, amb avisos cada tres hores per a menors.
- Es restringeixen converses sobre sexualitat i autolesions amb menors i s'activen protocols de crisi.
- Les plataformes han de reportar senyals d'ideació suïcida a l'Oficina estatal de Prevenció del Suïcidi.
- El paquet inclou altres normes de IA a Califòrnia sobre riscos, deepfakes i responsabilitat.
Califòrnia ha fet un pas decisiu en la supervisió de la intel·ligència artificial amb una norma que posa el focus en els anomenats «chatbots companys», aquells que simulen amistat o intimitat. El governador Gavin Newsom va signar la SB 243, una llei que exigeix que aquestes eines s'identifiquin com a sistemes automatitzats i adoptin salvaguardes específiques quan interactuen amb usuaris menors.
La mesura, impulsada pel senador estatal Steve Padilla, se centra menys en l'arquitectura tècnica i més en la interfície emocional entre persones i màquines. La versió final, més fitada després de la pressió de la indústria, manté obligacions clau: recordatoris regulars de què es parla amb una IA, filtres de contingut adequats a l'edat i protocols de resposta davant senyals d'autolesió o suïcidi.
Què exigeix exactament la SB 243
El nucli de la norma obliga que els chatbots adverteixin de manera clara i reiterada que són programari d'IA. En el cas dusuaris menors, el sistema haurà de mostrar un recordatori almenys cada tres hores, de manera visible i comprensible per evitar confusions sobre la naturalesa no humana de la interacció.
A més, els operadors han d'implementar filtres de contingut i límits per edat: queden fora de les converses amb menors els temes de sexualitat explícita i qualsevol interacció que normalitzi o encoratgi l'autolesió. Aquestes barreres es complementen amb derivacions a serveis de crisi quan es detectin indicadors de risc.
La llei exigeix que les plataformes estableixin protocols de detecció primerenca i resposta, així com reportis dels casos d'ideació suïcida identificats a la Oficina de Prevenció del Suïcidi de Califòrnia. Amb això es vol reforçar la coordinació amb autoritats sanitàries i incorporar mètriques sobre l'impacte d'aquestes eines a la salut mental.
Per sostenir aquestes salvaguardes, les empreses han d'aplicar mecanismes raonables de verificació d'edat als serveis orientats a residents de l'estat. L'obligació arriba a xarxes socials, webs i apps que ofereixin chatbots de companyia, incloses plataformes de jocs o opcions descentralitzades que operin a Califòrnia.
La versió final de la SB 243 va deixar fora auditories de tercers i una aplicació per a tots els usuaris (no només menors) que es van contemplar en esborranys anteriors. Tot i aquesta retallada, Newsom va defensar la norma com un dic de contenció davant danys prevenibles, amb entrada en vigor prevista per a gener de 2026.
Un paquet més ampli de lleis d'IA a l'estat
La SB 243 arriba acompanyada d'altres iniciatives aprovades recentment, com la SB 53, que obliga grans desenvolupadors d'IA a divulgar públicament les seves estratègies de seguretat i mitigació de riscos. L'objectiu és millorar la transparència dels models avançats que ja tenen un impacte social a gran escala.
En paral·lel, s'han impulsat mesures per evitar que les companyies eludeixin responsabilitats emparant-se que la tecnologia “actua de forma autònoma”. També s'han endurit les sancions contra els deepfakes sexuals no consentits, elevant significativament les multes quan afectin víctimes menors.
El paquet inclou, a més, restriccions perquè els chatbots no es facin passar per professionals sanitaris o figures d'autoritat, una tàctica que pot induir a error usuaris vulnerables. Amb aquestes peces, Sacramento perfila un marc estatal que intenta equilibrar innovació, drets i seguretat pública.
Suports, crítiques i dubtes sobre el vostre abast
La norma ha rebut elogis per ser pionera i alhora retrets per quedar curta. Organitzacions com Common Sense Media i Tech Oversight Project van retirar el seu suport en eliminar-se les auditories externes i en limitar-se l'abast a menors, cosa que, segons adverteixen, podria convertir la llei en un gest insuficient davant dels riscos actuals.
A l'altre extrem, desenvolupadors i experts adverteixen que una responsabilitat desproporcionada podria portar a “bloquejos per precaució”: filtres tan estrictes que silenciïn converses legítimes sobre salut mental o educació sexual, privant de suports crucials adolescents que busquen ajuda en línia.
La pressió política i econòmica ha estat intensa: grups tecnològics i coalicions del sector van invertir milions en lobby durant la sessió per modular els textos més durs. Alhora, la fiscalia estatal i la FTC han activat escrutinis sobre pràctiques de chatbots dirigits a menors, en un entorn de demandes civils i denúncies de famílies afectades.
Casos recents i demandes contra plataformes com Character.AI o OpenAI han escalat el debat públic. Després dels assenyalaments, grans actors com Meta i OpenAI van anunciar canvis: bloqueig de converses inadequades amb adolescents i derivacions a recursos especialitzats, a més de nous controls parentals.
Reptes d'aplicació i efectes previsibles
La posada en marxa planteja reptes operatius. Les plataformes globals hauran de determinar amb precisió qui és menor resident a Califòrnia i supervisar milions d'interaccions diàries sense envair la privadesa, una cosa complexa a nivell tècnic i jurídic.
Un altre desafiament serà evitar “l'efecte arrossegament” cap a la censura excessiva: si les empreses temen sancions, podrien retirar continguts útils de benestar emocional per pura prudència. Trobar el punt dequilibri entre protecció i accés a informació fiable serà clau per avaluar lèxit de la norma.
També persisteix la incògnita de l'impacte nacional: com ha passat amb altres primeres regulacions californianes, els seus requisits es podrien convertir de facto en estàndard per a operadors de tot els EUA, fins i tot abans de comptar amb evidència sòlida d'eficàcia.
Tot i que el text definitiu és més estret que les propostes inicials, la SB 243 fixa regles inèdites per als “chatbots companys”: avisos clars, filtres per edat i protocols de crisi amb reporti institucional. Si estàs barreres mínimes aconsegueixen protegir els menors sense sufocar suports legítims, Califòrnia haurà marcat un camí intermedi que altres estats poden seguir.
Sóc un apassionat de la tecnologia que ha convertit els seus interessos frikis en professió. Porto més de 10 anys de la meva vida utilitzant tecnologia d'avantguarda i traslladant tota mena de programes per pura curiositat. Ara he especialitzat en tecnologia d'ordinador i videojocs. Això és perquè des de fa més de 5 anys que treballo redactant per a diverses webs en matèria de tecnologia i videojocs, creant articles que busquen donar-te la informació que necessites amb un llenguatge comprensible per tothom.
Si tens qualsevol pregunta, els meus coneixements van des de tot allò relacionat amb el sistema operatiu Windows així com Android per a mòbils. I és que el meu compromís és amb tu, sempre estic disposat a dedicar-te uns minuts i ajudar-te a resoldre qualsevol dubte que tinguis a aquest món d'internet.