- Le projet de loi SB 243 exige que les chatbots s'identifient et fournissent des rappels périodiques, avec des notifications toutes les trois heures pour les mineurs.
- Les discussions sur la sexualité et l’automutilation avec les mineurs sont restreintes et les protocoles de crise sont activés.
- Les plateformes doivent signaler les signes d’idées suicidaires au Bureau de prévention du suicide de l’État.
- Le paquet comprend d’autres réglementations californiennes sur l’IA concernant les risques, les deepfakes et la responsabilité.
La Californie a fait un pas décisif dans l’encadrement de l’intelligence artificielle. avec une règle qui se concentre sur les soi-disant « chatbots compagnons », ceux qui simulent l'amitié ou l'intimité. Le gouverneur Gavin Newsom a signé le projet de loi SB 243, une loi qui oblige ces outils à s'identifier comme des systèmes automatisés et à adopter des mesures de protection spécifiques lors de leurs interactions avec utilisateurs mineurs.
La mesure, parrainée par le sénateur d'État Steve Padilla, se concentre moins sur l'architecture technique et davantage sur interface émotionnelle entre les personnes et les machinesLa version finale, plus limitée suite à la pression de l'industrie, maintient des obligations clés : Rappels réguliers indiquant que vous parlez à une IA, filtres de contenu adaptés à l'âge et protocoles de réponse signes d'automutilation ou de suicide.
Que requiert exactement la SB 243 ?
Le cœur de la norme exige que les chatbots avertissent clairement et à plusieurs reprises qu'ils sont logiciel d'IAPour les utilisateurs mineurs, le système doit afficher un rappel au moins toutes les trois heures, de manière visible et compréhensible pour éviter toute confusion sur la nature non humaine de l’interaction.
En outre, les opérateurs doivent mettre en œuvre filtres de contenu et limites d'âgeLa sexualité explicite et toute interaction qui normalise ou encourage l'automutilation sont exclues des conversations avec les mineurs. Ces obstacles sont complétés par une orientation vers les services de crise lorsqu'ils sont détectés. indicateurs de risque.
La La loi oblige les plateformes à établir des protocoles de détection et de réponse précoces., ainsi que des rapports de cas d'idées suicidaires identifiés au Bureau de prévention du suicide De CalifornieCela vise à renforcer la coordination avec les autorités sanitaires et à intégrer des mesures sur l’impact de ces outils sur la santé mentale.
Pour maintenir ces garanties, Les entreprises doivent mettre en œuvre des mécanismes raisonnables de vérification de l’âge dans leurs services destinés aux résidents de l’État.Cette exigence s'applique aux réseaux sociaux, aux sites Web et aux applications qui proposent des chatbots compagnons, y compris les plateformes de jeu ou les options décentralisées opérant en Californie.
La version finale du projet de loi SB 243 a laissé de côté les audits par des tiers et l'application pour tous les utilisateurs (et pas seulement les mineurs), envisagés dans les versions précédentes. Malgré cette réduction, Newsom a défendu le projet de loi, le qualifiant de barrage de confinement contre les dommages évitables, avec une entrée en vigueur prévue pour janvier 2026.
Un ensemble plus large de lois sur l'IA dans l'État
Le projet de loi SB 243 s'ajoute à d'autres initiatives récemment adoptées, telles que le projet de loi SB 53, qui oblige les grands développeurs d'IA à divulguer publiquement leurs stratégies d'IA. sécurité et atténuation des risquesL’objectif est d’améliorer la transparence des modèles avancés qui ont déjà un impact social à grande échelle.
Parallèlement, des mesures ont été promues pour empêcher les entreprises d'échapper à leurs responsabilités en prétendant que la technologie « agit de manière autonome »Les sanctions pour les deepfakes sexuels non consensuels ont également été renforcées, augmentant considérablement les amendes lorsqu'elles touchent des victimes mineures.
Le package comprend également des restrictions pour empêcher les chatbots de se faire passer pour des personnes. professionnels de l'assainissement ou des figures d'autorité, une tactique susceptible d'induire en erreur les utilisateurs vulnérables. Avec ces articles, Sacramento présente un cadre étatique qui tente d'équilibrer l'innovation, les droits et sécurité publique.
Soutien, critiques et doutes sur sa portée
La norme a été saluée pour son caractère révolutionnaire, mais a également été critiquée pour ses lacunes. Des organisations telles que Common Sense Media et le Tech Oversight Project ont retiré leur soutien après avoir éliminé les audits externes et limité leur portée aux mineurs, ce qui, selon eux, pourrait faire de la loi un geste insuffisant face aux risques actuels.
À l’autre extrême, les développeurs et les experts avertissent qu’un responsabilité disproportionnée Cela pourrait conduire à des « blocages de précaution » : des filtres si stricts qu’ils font taire les conversations légitimes sur la santé mentale ou l’éducation sexuelle, privant ainsi les adolescents qui cherchent de l’aide en ligne d’un soutien crucial.
La pression politique et économique a été intense : Les groupes technologiques et les coalitions industrielles ont investi des millions en lobbying pendant la session pour modérer les textes les plus durs.Dans le même temps, le parquet et le FTC ont déclenché un examen minutieux des pratiques des chatbots ciblant les mineurs, dans un environnement de poursuites civiles et les plaintes des familles concernées.
Cas et poursuites récents contre Des plateformes comme Character.AI ou OpenAI ont intensifié le débat public. Après les accusations, Des acteurs majeurs comme Meta et OpenAI ont annoncé des changements:Blocage des conversations inappropriées avec les adolescents et orientation vers des ressources spécialisées, ainsi que de nouveaux contrôles parentaux.
Défis de mise en œuvre et effets prévisibles
Le lancement pose des défis opérationnels. Les plateformes mondiales devront déterminer avec précision qui est mineur résidant en Californie et surveiller des millions d’interactions quotidiennes sans porter atteinte à la vie privée, ce qui est techniquement et légalement complexe.
Un autre défi sera d'éviter l'effet « ruissellement » vers une censure excessive : si les entreprises craignent des sanctions, elles pourraient se retirer contenu utile Bien-être émotionnel par pure prudence. Trouver l'équilibre entre protection et accès à des informations fiables sera essentiel pour évaluer le succès de la réglementation.
La question de l'impact national demeure également : comme cela s'est produit avec d'autres réglementations californiennes anciennes, ses exigences pourraient devenir de facto standard pour les opérateurs à travers les États-Unis, avant même que des preuves solides d’efficacité ne soient disponibles.
Bien que le texte final soit plus restreint que les propositions initiales, le Le projet de loi SB 243 établit des règles sans précédent pour les « chatbots compagnons »: des avertissements clairs, des filtres d'âge et des protocoles de crise avec des rapports institutionnels. Si vous êtes barrières minimes S’ils parviennent à protéger les mineurs sans étouffer les soutiens légitimes, la Californie aura ouvert une voie médiane que d’autres États pourront suivre.
Je suis un passionné de technologie qui a fait de ses intérêts de « geek » un métier. J'ai passé plus de 10 ans de ma vie à utiliser des technologies de pointe et à bricoler toutes sortes de programmes par pure curiosité. Aujourd'hui, je me spécialise dans l'informatique et les jeux vidéo. En effet, depuis plus de 5 ans, j'écris pour différents sites Web sur la technologie et les jeux vidéo, créant des articles qui cherchent à vous donner les informations dont vous avez besoin dans un langage compréhensible par tous.
Si vous avez des questions, mes connaissances s'étendent de tout ce qui concerne le système d'exploitation Windows ainsi qu'Android pour les téléphones mobiles. Et mon engagement est envers vous, je suis toujours prêt à consacrer quelques minutes et à vous aider à résoudre toutes les questions que vous pourriez avoir dans ce monde Internet.