Przejdź do treści
promptowy.com / Glossaire IA / Hallucination (IA)
Sécurité et qualité

Hallucination (IA)

Une hallucination désigne une réponse générée par une intelligence artificielle qui présente des faits inventés ou inexacts avec une grande assurance.

Une hallucination en intelligence artificielle désigne une situation où un grand modèle de langage génère une affirmation fausse, non vérifiable ou entièrement inventée, tout en la formulant sur un ton très sûr de lui. Pour l'utilisateur, le texte semble logique, fluide et parfaitement rédigé, mais le fond repose sur un détail imaginaire : une date erronée, un arrêt juridique introuvable ou une citation attribuée à la mauvaise personne.

Ce phénomène ne provient pas d'une volonté de tromper, mais du fonctionnement intrinsèque des modèles génératifs. Ces outils prédisent la suite statistique de mots la plus plausible selon leur contexte d'apprentissage. Lorsqu'une information précise leur fait défaut, ils ont tendance à combler le vide pour produire une réponse harmonieuse plutôt que d'admettre leur ignorance.

Pourquoi les modèles de langage inventent-ils des faits ?

Un modèle linguistique n'est pas une encyclopédie vivante dotée d'une conscience de la vérité. Il analyse des structures grammaticales et des associations d'idées. Si un utilisateur pose une question orientée contenant une prémisse erronée, l'assistant a souvent le réflexe d'abonder dans ce sens en brodant un scénario cohérent au lieu de contredire la demande.

De plus, l'entraînement de ces systèmes valorise fréquemment la complétude et la serviabilité. Si le système juge que répondre quelque chose est préférable à un silence ou un refus, il assemble des fragments plausibles. Il peut ainsi fusionner deux personnalités distinctes ayant le même patronyme ou attribuer une subvention municipale imaginaire à un projet associatif bien réel.

Un exemple concret : la rédaction d'un profil d'entreprise

Imaginons un gérant de chocolaterie artisanale à Namur ou à Sherbrooke qui demande à un outil de rédiger la page histoire de son site internet. Il transmet quelques notes sur la fabrication des pralines et oublie de préciser l'année de fondation de l'atelier.

Pour livrer un texte publicitaire bien rythmé, le système complète spontanément l'histoire : il affirme que la maison a été fondée en 1984 par un maître artisan médaillé, invente le nom d'un aïeul et cite un prix de la Chambre de commerce locale. À la lecture, le texte semble impeccable, élégant et convaincant. Pourtant, le gérant a lancé son affaire en 2015 sans le moindre lien de parenté avec le personnage cité. L'information a été purement et simplement fabriquée pour parfaire la narration.

Méthode pratique pour repérer et contrôler les affirmations

Le contrôle éditorial reste indispensable dès qu'un document sort du cercle privé pour être publié, partagé avec des clients ou intégré dans un rapport administratif :

  • Isoler les données vérifiables : repérez chaque nom propre, chiffre, date, référence de loi ou adresse. Ne vous fiez jamais à la tonalité générale du texte.
  • Exiger une source externe valide : ouvrez un moteur de recherche, un registre du commerce, une publication officielle ou un extrait de compte pour attester le fait. Un lien hypertexte fourni par l'outil doit lui-même être ouvert, car l'adresse URL peut elle aussi être inventée.
  • Calculer à la main : ne demandez pas à un modèle linguistique de faire des additions complexes sans vérifier le résultat avec un tableur ou une calculatrice.
  • Ne pas demander à l'IA si elle est sûre : lui poser la question directe « en es-tu certain ? » entraîne souvent une nouvelle justification inventée de toutes pièces. La validation doit venir de documents externes.

Comment réduire les risques dans vos consignes ?

La formulation des consignes joue un rôle déterminant dans la fiabilité des réponses. Pour obtenir une factualité stricte, contraignez le périmètre de travail. Précisez par exemple dans votre consigne de vous appuyer uniquement sur le document copié dans la fenêtre d'échange, d'extraire des citations exactes pour chaque affirmation et d'écrire expressément « information absente » dès qu'un élément manque. Séparer nettement les tâches d'analyse documentaire des tâches de pure création publicitaire permet de limiter considérablement ces dérives textuelles.

Questions fréquentes

Pourquoi ChatGPT invente-t-il des informations ?

Le modèle cherche la suite de mots la plus cohérente sur le plan linguistique, pas la vérité factuelle. S'il ne trouve pas la donnée exacte dans ses paramètres, il comble l'espace pour maintenir la fluidité du texte.

Une hallucination signifie-t-elle que le modèle est défaillant ?

Non, c'est le comportement normal d'un générateur de texte statistique non contraint. Même les outils les plus avancés peuvent halluciner si on leur demande d'inventer des détails sans leur fournir de base documentaire fiable.

Le fait de baisser la créativité empêche-t-il toute erreur ?

Réduire la température ou la variabilité limite les tournures extravagantes, mais cela n'interdit pas au système de répéter une contrevérité avec une régularité parfaite. Seule la vérification humaine sur pièces fait foi.

← Tous les termes du glossaire IA

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›