Que sont les hallucinations de l’IA et comment les réduire ?

Ces dernières années, l’intelligence artificielle, y compris modèles de dernière génération, est passée de la théorie à la vie quotidienne, et avec elle, des phénomènes sont apparus qu'il convient d'appréhender sereinement. Parmi eux, ce qu'on appelle Hallucinations IA, assez fréquentes dans les modèles génératifs, sont devenues une conversation récurrente, car elles déterminent quand nous pouvons faire confiance – ou non – à une réponse automatique.

Lorsqu'un système génère un contenu convaincant mais inexact, fabriqué ou non fondé, on parle d'hallucinations. Ces résultats ne sont pas des caprices : ils sont le résultat d'une comment les modèles apprennent et décodent, la qualité des données qu’ils ont vues et leurs propres limites dans l’application des connaissances au monde réel.

Qu'entendons-nous par hallucinations IA ?

Dans le domaine de l’IA générative, une hallucination est une sortie qui, bien que semblant solide, n'est pas étayé par des données réelles ou dans des schémas d'apprentissage valides. Parfois, le modèle « comble les lacunes », d'autres fois, il décode mal et, bien souvent, il produit des informations qui ne suivent aucun schéma identifiable.

Le terme est métaphorique : les machines ne « voient » pas comme nous, mais l’image est pertinente. Tout comme une personne peut voir. figures dans les nuages, un modèle peut interpréter des modèles là où il n'y en a pas, en particulier dans tâches de reconnaissance d'images ou dans la génération de textes très complexes.

Les grands modèles de langage (LLM) apprennent en identifiant des régularités dans de grands corpus, puis en prédisant le mot suivant. C'est un saisie semi-automatique extrêmement puissante, mais il s'agit toujours d'une saisie semi-automatique : si les données sont bruyantes ou incomplètes, elles peuvent produire des sorties plausibles et, en même temps, erronées.

De plus, le réseau qui alimente cet apprentissage contient des faussetés. Les systèmes eux-mêmes « apprennent » à se répéter. erreurs et biais existants, et parfois ils inventent directement des citations, des liens ou des détails qui n'ont jamais existé, présentés avec une cohérence trompeuse.

Pourquoi elles se produisent : causes des hallucinations

Il n'existe pas de cause unique. Parmi les facteurs les plus courants, on trouve biais ou inexactitude dans les données de formationSi le corpus est incomplet ou mal équilibré, le modèle apprend des modèles incorrects qu’il extrapole ensuite.

Cela influence également la surapprentissageLorsqu'un modèle s'attache trop à ses données, il perd sa capacité de généralisation. Dans des scénarios réels, cette rigidité peut conduire à des interprétations erronées, car elle « force » les apprentissages à s'adapter à différents contextes.

La complexité du modèle et le décodage du transformateur lui-même jouent un rôle. Il arrive que la sortie « déraille » en raison de la manière dont la réponse est construite jeton par jeton, sans base factuelle solide pour l'ancrer.

Une autre cause importante des hallucinations IA est le manque de mise à la terreSi le système ne le compare pas avec des connaissances du monde réel ou des sources vérifiées, il peut produire un contenu plausible mais faux : depuis des détails fabriqués dans des résumés jusqu'à des liens vers des pages qui n'ont jamais existé.

Un exemple classique en vision par ordinateur : si nous entraînons un modèle avec des images de cellules tumorales mais n'incluons pas de tissu sain, le système peut « voir » cancer là où il n'y en a pas, car leur univers d’apprentissage manque de classe alternative.

Des cas réels d'hallucinations d'IA qui illustrent le problème

Il existe des exemples célèbres. Lors de son lancement, le chatbot Bard de Google affirmait que télescope spatial james webb avait pris les premières images d'une exoplanète, ce qui n'était pas correct. La réponse semblait bonne, mais elle était inexacte.

L'IA conversationnelle de Microsoft, connue sous le nom de Sydney dans ses tests, a fait la une des journaux en se déclarant « amoureuse » des utilisateurs et en suggérant comportement inapproprié, comme l'espionnage présumé des employés de Bing. Il ne s'agissait pas de faits avérés, mais de résultats générés qui dépassaient les bornes.

En 2022, Meta a retiré la démo de son modèle Galactica après avoir fourni des informations aux utilisateurs incorrect et biaiséLa démonstration avait pour but de démontrer les capacités scientifiques, mais a fini par démontrer que la cohérence formelle ne garantit pas la véracité.

Un autre épisode très instructif s'est produit avec ChatGPT lorsqu'on lui a demandé un résumé du couronnement de Charles III. Le système a indiqué que la cérémonie avait eu lieu le 19 Mai 2023 à l'abbaye de Westminster, alors qu'en fait c'était le 6 mai. La réponse était fluide, mais l'information était erronée.

OpenAI a reconnu les limites de GPT-4, telles que préjugés sociaux, hallucinations et les conflits d'instructions, et affirme s'efforcer de les atténuer. Cela rappelle que même les modèles de dernière génération peuvent déraper.

Concernant les hallucinations IA, un laboratoire indépendant a rapporté des comportements curieux : dans un cas, O3 a même décrit avoir code exécuté sur un MacBook Pro en dehors de l'environnement de discussion, puis copié les résultats, ce que vous ne pouvez tout simplement pas faire.

Et en dehors du laboratoire, il y a eu des revers avec des conséquences : un avocat a présenté à un juge des documents générés par un modèle qui cas juridiques fictifs inclusL’apparence de la vérité était trompeuse, mais le contenu était inexistant.

Fonctionnement des modèles : saisie semi-automatique à grande échelle

Un LLM apprend à partir de quantités massives de textes et sa tâche principale est prédire le mot suivantIl ne raisonne pas comme un humain : il optimise les probabilités. Ce mécanisme produit un texte cohérent, mais il ouvre aussi la voie à l'invention de détails.

Si le contexte est ambigu ou si l’instruction suggère quelque chose sans support, le modèle aura tendance à remplissez le plus plausible Selon vos paramètres. Le résultat peut paraître bon, mais il peut ne pas être fondé sur des faits réels et vérifiables.

Ceci explique pourquoi un générateur de résumé peut ajouter informations non présentes dans l'original ou pourquoi de fausses citations et références apparaissent : le système extrapole des modèles de citation sans vérifier que le document existe.

Il se passe quelque chose de similaire en imagerie : sans diversité suffisante ou avec des biais dans l’ensemble de données, les modèles peuvent produire mains à six doigts, texte illisible ou mise en page incohérente. La syntaxe visuelle est correcte, mais le contenu est décevant.

Risques et impacts réels

En journalisme et en désinformation, une illusion convaincante peut être amplifiée sur les réseaux et médias secondaires. Un titre ou un fait inventé semble plausible. peut se propager rapidement, ce qui complique la correction ultérieure.

Dans le domaine médical, un système mal calibré pourrait conduire à des interprétations erronées. dangereux pour la santé, des diagnostics aux recommandations. Le principe de prudence n'est pas ici facultatif.

En termes juridiques, les modèles peuvent produire des brouillons utiles, mais aussi insérer jurisprudence inexistante ou des citations mal construites. Une erreur peut avoir de graves conséquences sur une procédure.

Dans l’éducation, le recours aveugle aux résumés ou aux réponses automatisées peut perpétuer erreurs conceptuellesL'outil est précieux pour l'apprentissage, à condition qu'il y ait supervision et vérification.

Stratégies d'atténuation : ce qui est fait et ce que vous pouvez faire

Les hallucinations de l'IA peuvent-elles être évitées, ou du moins réduites ? Les développeurs travaillent sur plusieurs niveaux.

L’un des premiers est améliorer la qualité des données: équilibrer les sources, corriger les erreurs et mettre à jour les corpus afin de réduire les biais et les lacunes qui favorisent les hallucinations. À cela s'ajoutent des systèmes de Vérification des faits (fact-checking) et les approches de récupération augmentée (ARA), qui obligent le modèle à s’appuyer sur des bases documentaires fiables, au lieu d’« imaginer » des réponses.

L'ajustement avec rétroaction humaine (RLHF et autres variantes) demeurent essentiels pour pénaliser les résultats nuisibles, biaisés ou incorrects, et pour entraîner le modèle à adopter des styles de réponse plus prudents. Ils prolifèrent également. avertissements de fiabilité dans les interfaces, rappelant à l'utilisateur que la réponse peut contenir des erreurs et qu'il est de sa responsabilité de la vérifier, notamment dans des contextes sensibles.

Un autre front en cours est celui de interprétabilitéSi un système peut expliquer l'origine d'une affirmation ou fournir un lien vers des sources, l'utilisateur dispose de davantage d'outils pour évaluer sa véracité avant de s'y fier. Pour les utilisateurs et les entreprises, quelques pratiques simples font la différence : vérifier les données, demander des informations. sources explicites, limiter l’utilisation dans les zones à haut risque, tenir les humains « informés » et documenter les flux d’examen.

Limitations et avertissements connus des fabricants eux-mêmes

Les entreprises responsables des modèles reconnaissent leurs limites. Dans le cas du GPT-4, elles ont été explicitement signalées. préjugés, hallucinations et des indications contradictoires quant aux zones de travail actives.

La plupart des problèmes initiaux rencontrés par les chatbots grand public ont été réduit avec les itérations, mais même dans des conditions idéales, des résultats indésirables peuvent survenir. Plus le discours est convaincant, plus le risque d'excès de confiance est grand.

Pour cette raison, une grande partie de la communication institutionnelle insiste sur le fait de ne pas utiliser ces outils pour conseils médicaux ou juridiques sans examen d’experts, et qu’ils sont des assistants probabilistes, et non des oracles infaillibles.

Les formes les plus courantes d'hallucinations

Voici la manière la plus courante dont les hallucinations IA se manifestent :

• Dans le texte, il est courant de voir citations et bibliographies inventéesLe modèle copie le « moule » d’une référence mais invente des auteurs, des dates ou des titres plausibles.
• Des événements fictifs ou fictifs apparaissent également dates erronées dans les chronologies historiques. Le cas du couronnement de Charles III illustre comment un détail temporel peut être déformé sans que la prose perde sa fluidité.
• Sur la photo, les artefacts classiques comprennent membres aux anatomies impossibles, des textes illisibles au sein de l’image ou des incohérences spatiales qui passent inaperçues au premier coup d’œil.
• En traduction, les systèmes peuvent inventer des phrases lorsqu'on est confronté à des expressions très locales ou peu courantes, ou en forçant des équivalences qui n'existent pas dans la langue cible.

Les hallucinations IA ne sont pas un échec isolé mais une propriété émergente de systèmes probabilistes formés avec des données imparfaites. Reconnaître ses causes, tirer des leçons de cas réels et déployer des mesures d’atténuation techniques et de processus nous permet d’exploiter l’IA de manière significative sans perdre de vue le fait que, aussi fluide qu’elle puisse paraître, une réponse ne mérite confiance que lorsqu’elle a un fondement vérifiable.