Hallucination du modèle

  • Concept
  • Débutant
  • Transversal
  • Toujours utilisé

En bref

Situation où un modèle d'intelligence artificielle génère une information fausse ou inventée, tout en la présentant comme si elle était certaine.

Définition complète

Une hallucination du modèle désigne une situation où un modèle d’intelligence artificielle génère une information fausse, inexacte ou totalement inventée, comme une date incorrecte, une référence qui n’existe pas ou un chiffre erroné, tout en la présentant avec la même assurance qu’une information vraie. Ce n’est pas un mensonge volontaire : le modèle ne sait pas qu’il se trompe, car il produit le texte statistiquement le plus probable, pas une vérification de faits.

Par exemple, un modèle interrogé sur les horaires d’ouverture d’un commerce peut inventer un horaire plausible mais faux, si cette information ne fait pas réellement partie de ses connaissances, sans signaler cette incertitude à l’utilisateur.

Attention : plus une question porte sur une information précise, récente ou peu diffusée (un chiffre exact, une source précise, un événement local), plus le risque d’hallucination augmente : il faut alors vérifier l’information par une autre source.

À quoi ça sert

Comprendre la notion d’hallucination du modèle sert à utiliser les outils d’intelligence artificielle avec le bon niveau de vigilance : savoir qu’une réponse peut être fausse, même formulée avec assurance, pousse à vérifier les informations sensibles avant de les diffuser ou de s’en servir pour décider.

Cette notion aide aussi à choisir le bon usage d’un modèle selon la situation : demander une idée de formulation ou une reformulation présente peu de risque, alors que demander un chiffre précis, une référence légale ou une date exacte nécessite une vérification systématique.

Enfin, elle permet d’expliquer sereinement à une équipe pourquoi une vérification humaine reste nécessaire, sans pour autant rejeter l’usage de ces outils : il s’agit de connaître leurs limites, pas de les écarter.

Cas d'usage typiques

– Vérifier : croiser une information donnée par un modèle avec une source fiable avant de la publier / réduction du risque de diffuser une erreur.
– Sensibiliser : former une équipe au risque d’hallucination avant le déploiement d’un outil d’IA / usage plus prudent et plus responsable.
– Cadrer : limiter l’usage d’un modèle aux tâches à faible risque d’hallucination (reformulation, résumé de document fourni) / réduction des erreurs graves.
– Signaler : mettre en place un moyen simple pour un utilisateur de signaler une réponse suspecte / amélioration continue de l’outil.
– Comparer : demander la même information à deux sources différentes / détection d’une éventuelle hallucination.

Ce que tu sauras faire

Savoir reconnaître les situations à risque d'hallucination et systématiquement vérifier une information sensible donnée par un modèle avant de l'utiliser ou de la diffuser.

Mises en situation

Situation 1 : un cabinet juridique et une référence légale inventée

Contexte : un assistant juridique interne cite un article de loi précis à l’appui d’un argument dans un projet de courrier.

Application : le juriste vérifie systématiquement la référence citée dans un texte officiel avant d’envoyer le courrier.

Résultat attendu : il découvre que l’article cité n’existe pas sous cette forme précise et corrige la référence avant tout envoi, évitant une erreur qui aurait nui à la crédibilité du cabinet.

Situation 2 : une boutique et un horaire de fournisseur inventé

Contexte : une commerçante demande à un assistant les horaires d’ouverture d’un fournisseur local peu connu.

Application : elle appelle directement le fournisseur pour confirmer l’horaire donné par l’assistant avant de s’y déplacer.

Résultat attendu : elle évite un déplacement inutile, car l’horaire donné par l’assistant était en réalité inventé et ne correspondait pas à la réalité.

Situation 3 : une équipe marketing et un chiffre de marché erroné

Contexte : une équipe marketing utilise un chiffre de part de marché donné par un assistant dans une présentation destinée à des investisseurs.

Application : avant la présentation, un membre de l’équipe vérifie ce chiffre dans une étude de marché officielle.

Résultat attendu : le chiffre s’avère erroné et est corrigé à temps, évitant une perte de crédibilité face aux investisseurs.

Application guidée : repérer un risque d’hallucination avant qu’il ne se produise

Contexte : une équipe prépare une liste de dix questions à poser à un assistant d’intelligence artificielle, allant de « reformule cette phrase » à « donne-moi le chiffre d’affaires exact de telle entreprise l’an dernier ».

Question : quelles questions présentent le plus fort risque d’hallucination, et pourquoi ?

Résultat attendu : les questions portant sur des chiffres précis, des dates exactes ou des faits peu connus présentent le plus fort risque ; les questions de reformulation ou de style présentent un risque beaucoup plus faible.

Application guidée : mettre en place une règle de vérification

Contexte : une PME veut utiliser un assistant d’intelligence artificielle pour préparer des réponses à des appels d’offres, avec des chiffres techniques précis.

Question : quelle règle simple peut-elle mettre en place pour limiter le risque de transmettre une hallucination à un client ?

Résultat attendu : imposer qu’aucun chiffre technique généré par l’assistant ne soit envoyé sans avoir été vérifié par un expert interne au préalable, avant toute transmission au client.

Pour bien le retenir

L'analogie

Une hallucination du modèle, c’est comme un guide touristique très cultivé mais qui n’a jamais visité personnellement une ville précise : s’il ne connaît pas la réponse exacte, il peut, avec la même assurance que d’habitude, inventer un itinéraire ou une date qui semble plausible mais qui est faux, sans le signaler comme une supposition.

« Le guide très cultivé qui invente une réponse plausible plutôt que d'avouer qu'il ne sait pas. »

Pièges à éviter

À ne pas confondre avec

Ne confondez pas hallucination et simple erreur de compréhension d'une consigne : l'hallucination concerne un contenu factuel inventé (une date, une référence, un chiffre), alors qu'une erreur de compréhension porte sur le fait de ne pas répondre à ce qui était réellement demandé.

Autre piège fréquent : croire qu'un modèle récent ou réputé fiable n'hallucine jamais. Même les modèles les plus performants peuvent produire des informations inventées, en particulier sur des sujets pointus, récents ou peu documentés ; la vigilance reste toujours nécessaire.

Évolution historique

Apparition : Terme popularisé dans le domaine de l'intelligence artificielle à partir des années 2020, avec la diffusion des grands modèles de langage

Quels changements depuis l’arrivée de l’IA ?

Avant

Avant les grands modèles de langage grand public, le mot « hallucination » était surtout utilisé dans un contexte médical ou psychologique ; son usage pour désigner une erreur d’un logiciel était marginal.

Aujourd’hui

Avec la diffusion massive de ChatGPT et d’autres assistants conversationnels depuis 2022, le terme s’est imposé pour désigner spécifiquement ce phénomène d’invention de fausses informations par un modèle, devenant un sujet central des discussions sur la fiabilité de l’intelligence artificielle.

Évolution historique

Avant les années 2020 : les systèmes automatisés de traitement du langage produisaient surtout des erreurs de compréhension, plus rarement des inventions de faits complets.

2020-2022 : les premiers grands modèles de langage montrent une capacité à générer des textes fluides mais parfois totalement inventés.

2022 : la diffusion de ChatGPT au grand public rend le phénomène visible massivement, et le terme « hallucination » se généralise dans les médias.

2023-2024 : les éditeurs de modèles investissent dans des techniques pour réduire ce phénomène et pour indiquer un niveau d’incertitude dans certaines réponses.

Aujourd’hui : l’hallucination reste un défi non totalement résolu, ce qui justifie le maintien d’une vérification humaine sur les usages sensibles.