Hallucination (IA)
Une hallucination est une sortie d'un modèle d'IA qui paraît fluide et assurée mais qui est fausse, non étayée par ses sources ou inventée, comme une référence, une citation, une statistique ou une fonction d'API imaginaires.
Aussi appelé : confabulation, invented answers, AI hallucination
Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode
Les modèles de langage sont entraînés à produire du texte probable, pas à vérifier des faits. Quand un modèle ne connaît pas une réponse, la suite la plus probable peut tout de même être une réponse assurée, précise et fausse. C'est une hallucination. Certains chercheurs préfèrent le terme « confabulation », car le modèle ne perçoit rien ; il comble un vide.
Formes courantes
Un modèle peut inventer un article scientifique ou une décision de justice, attribuer une citation à la mauvaise personne, donner une date erronée ou appeler une fonction de bibliothèque qui n'existe pas. Dans un résumé, il peut ajouter un détail absent du document fourni. Ce second type compte le plus quand vous construisez sur vos propres données, car l'utilisateur suppose que la réponse vient de la source.
Pourquoi cela arrive
Un article de 2025 de Kalai et ses collègues soutient que l'entraînement et l'évaluation récompensent le fait de deviner : un test qui n'accorde aucun point pour « je ne sais pas » pousse un modèle à deviner. Les lacunes des données d'entraînement, une date limite des connaissances et les prompts qui reposent sur une prémisse fausse augmentent tous le risque.
Le réduire
Aucune méthode actuelle ne supprime complètement les hallucinations. Ce qui aide : la génération augmentée par récupération, pour que le modèle réponde à partir d'un texte fourni, la demande de citations vérifiables, le grounding des réponses dans des résultats d'outils, la possibilité laissée au modèle de dire qu'il n'est pas sûr, et des garde-fous qui vérifient les sorties avant que les utilisateurs ne les voient. Mesurez le taux sur vos propres tâches par évaluation de LLM plutôt que de vous fier à une affirmation générale, car il varie selon le modèle, le sujet et le prompt.
Termes liés
- Génération augmentée par récupération
- La génération augmentée par récupération (retrieval-augmented generation, RAG) est un schéma dans lequel un système cherche d'abord dans une collection de documents les passages pertinents pour une question, puis fournit ces passages à un modèle de langage pour que sa réponse s'appuie dessus.
- Grounding
- Le grounding (ancrage) consiste à rattacher la réponse d'un modèle de langage à des sources précises et vérifiables, comme des résultats de recherche, des documents ou une base de données, afin que ses affirmations reposent sur des éléments fournis plutôt que sur ses seules données d'entraînement.
- Garde-fous (IA)
- Les garde-fous (guardrails) sont des contrôles exécutés autour d'un modèle de langage qui inspectent les entrées et les sorties et les bloquent, les réécrivent ou les redirigent, afin qu'une application reste dans son sujet, évite les contenus nuisibles et respecte des règles que le modèle seul ne tiendrait pas de façon fiable.
- Évaluation de LLM
- L'évaluation de LLM, souvent appelée evals, consiste à mesurer la façon dont un modèle ou une application d'IA accomplit une tâche en l'exécutant sur un ensemble de cas de test et en notant les sorties selon des critères définis, par du code, par des humains ou par un autre modèle.
- Date limite des connaissances
- La date limite des connaissances (knowledge cutoff) est la date après laquelle un modèle ne dispose que de peu ou pas d'informations, parce que ses données d'entraînement ont été collectées jusqu'à cette période environ. Les événements postérieurs lui sont inconnus, sauf s'ils sont fournis dans le prompt.