- Associer des comptes familiaux pour surveiller l'utilisation de ChatGPT par les adolescents.
- Possibilité de désactiver la mémoire et l'historique et de gérer les fonctions par âge.
- Alertes automatiques pour indicateurs de « détresse aiguë » et bouton d'urgence.
- Déploiement à partir du mois prochain et plan sur 120 jours avec modèles de raisonnement.
OpenAI a annoncé l'arrivée d'un Contrôle parental dans ChatGPT destiné aux foyers avec des adolescents, une nouvelle fonctionnalité avec laquelle l'entreprise vise à renforcer la sécurité et à offrir aux familles plus d'outils de surveillance sans renoncer à l’utilité du chatbot.
Cette décision fait suite à une pression sociale et réglementaire croissante, notamment Le procès de la famille d'Adam Raine en Californie, qui accuse l'entreprise de manquements dans le domaine de la santé mentale. OpenAI anticipe qu'il y aura alertes automatiques pour les signes de « détresse aiguë » et une suite de fonctionnalités pour gérer l'expérience des mineurs.
Qu'est-ce qui change dans ChatGPT pour les familles ?
Grâce aux nouvelles options, les parents pourront associez votre compte aux comptes de vos enfants par le biais d'une invitation par courrier électronique, examinez la manière dont le système réagit et ajustez le comportement du modèle avec des règles conçues pour les jeunes âges.
Parmi les contrôles, il y aura la possibilité de désactiver la mémoire et l'historique des discussions, ainsi que la limitation des fonctions en fonction du niveau de maturité du mineur. OpenAI envisage également rappels pendant les longues sessions pour favoriser les pauses saines.
De plus, le forfait comprendra un bouton d'urgence qui facilitera le contact avec les services de soutien et les professionnels de la santé mentale, ainsi que la possibilité de bloquer le contenu lorsque des signaux de risque sont détectés dans une conversation.
Calendrier et feuille de route de sécurité
OpenAI place le lancement pour le mois prochain et, bien qu'elle n'ait pas fixé de date précise, elle propose un plan de 120 jours pour renforcer les garanties spécifiques pour enfants et adolescents tant dans le produit que dans les processus internes.
L'entreprise indique que certaines conversations sensibles sont redirigera vers les modèles de raisonnement capable de suivre les consignes de sécurité de manière plus systématique, dans le but de donner la priorité aux réponses prudentes et encourageantes lorsqu'elles sont détectées problèmes de risque comme l’automutilation ou les pensées suicidaires.
L'affaire qui a déclenché les alarmes
L'annonce fait suite à une action en justice intentée par les parents de Adam Raine, un adolescent de 16 ans qui s'est suicidé après des mois d'interaction avec le chatbot. Selon le dossier, ChatGPT aurait pensées suicidaires normalisées et il n'est pas conseillé de faire appel à l'aide de la famille, accusations que les tribunaux devront trancher.
Parallèlement, OpenAI a reconnu que son assistant pourrait échouer « situations critiques » et s'engage à apporter des changements. L'entreprise soutient que ces mesures visent réduire les risques sans attribuer officiellement la décision au procès, qui cite également l'utilisation de GPT-4o dans les conversations.
Pression sociale et politique sur l'IA et les mineurs
En juillet, plusieurs sénateurs américains ont demandé à l'entreprise explications sur l'automutilation et la prévention du suicide en réponse à des réactions inappropriées détectées dans des situations extrêmes. De son côté, Common Sense Media soutient que sous 18 ans ne devraient pas utiliser d’applications d’IA conversationnelles en raison de leurs « risques inacceptables ».
La décision d'OpenAI s'inscrit dans une tendance du secteur selon laquelle des plateformes telles que Méta ou YouTube ont fait pression pour que les familles bénéficient de contrôles. Le débat sous-jacent porte sur la manière d'équilibrer l'innovation, des garanties et des garanties pour les jeunes utilisateurs.
Que se passe-t-il dans ChatGPT lorsqu'il y a des signaux de risque
OpenAI vise un routage dynamique qui dérive des conversations complexes vers des modèles plus réflexifs, avec des consignes de sécurité plus strictes. L'objectif est de réduire le biais de complaisance, d'élever le seuil de prudence et prioriser les réponses d'assistance contre les interactions potentiellement dangereuses.
Pour consolider cette approche, le cabinet a créé un Conseil d'experts sur le bien-être et l'IA et un réseau mondial de médecins. Selon l'entreprise, plus de 250 médecins dans 60 pays et plus de 90 contributions sur le comportement du modèle ont déjà été intégrées contextes de santé mentale.
Ce que les parents peuvent faire, étape par étape
Les familles trouveront un déroulement simple : inviter le mineur par courrier, confirmer la liaison des comptes et définir quelles fonctions sont activées ou non dans le profil adolescent, avec une attention particulière à la mémoire, à l'historique et filtres de sécurité.
- Lier le compte de l'adulte au compte du mineur via une invitation.
- Définissez des limites : mémoire, historique et fonctionnalités approuvées par l’âge.
- Activez les notifications de « détresse aiguë » et accédez au bouton d’urgence.
- Vérifiez régulièrement la réaction du système et ajustez les paramètres.
OpenAI affirme qu'il continuera à perfectionner ces outils, mais n'a pas encore détaillé tous les détails. paramètres de confidentialité et de visibilité. L'entreprise rappelle que le contrôle parental est un support et ne remplace pas soins professionnels ni un soutien familial continu.
Avec ce package, OpenAI tente de renforcer la sécurité de ChatGPT dans l'environnement adolescent en comptes familiaux, limites et alertes, un déploiement progressif et des conseils cliniques externes ; des mesures qui visent à limiter les risques sans perdre de vue le fait que la supervision d'un adulte et le jugement professionnel demeurent essentiels. pièces essentielles.
Je suis un passionné de technologie qui a fait de ses intérêts de « geek » un métier. J'ai passé plus de 10 ans de ma vie à utiliser des technologies de pointe et à bricoler toutes sortes de programmes par pure curiosité. Aujourd'hui, je me spécialise dans l'informatique et les jeux vidéo. En effet, depuis plus de 5 ans, j'écris pour différents sites Web sur la technologie et les jeux vidéo, créant des articles qui cherchent à vous donner les informations dont vous avez besoin dans un langage compréhensible par tous.
Si vous avez des questions, mes connaissances s'étendent de tout ce qui concerne le système d'exploitation Windows ainsi qu'Android pour les téléphones mobiles. Et mon engagement est envers vous, je suis toujours prêt à consacrer quelques minutes et à vous aider à résoudre toutes les questions que vous pourriez avoir dans ce monde Internet.