Les IA peuvent inventer. Voici pourquoi il ne faut jamais les croire sur parole

Un adulte américain sur quatre demande désormais des conseils de santé à une IA (West Health–Gallup, fin 2025). Le paradoxe, c'est que la confiance ne suit pas : parmi ces utilisateurs, seul un tiers environ dit faire confiance à l'exactitude des réponses — un tiers s'en méfie, un tiers ne sait pas. Et une enquête du Pew Research Center résume le problème en une ligne : les utilisateurs jugent ces outils plus pratiques qu'exacts. Autrement dit : on s'en sert de plus en plus, tout en sachant confusément qu'il ne faudrait pas les croire sur parole. Puis on les croit quand même — parce que la réponse est bien écrite, assurée, et qu'elle arrive en trois secondes.

Pourquoi les IA « hallucinent » — et pourquoi ce n'est pas un bug

Un modèle de langage ne consulte pas une base de faits vérifiés : il génère, mot après mot, la suite la plus plausible d'un texte. C'est ce qui le rend fluide — et c'est ce qui le rend capable de produire, avec le même aplomb, une information exacte ou une information inventée. Le terme du métier est « hallucination » : une réponse plausible, bien construite, cohérente… et fausse.

Deux choses importantes que la plupart des utilisateurs ignorent :

L'assurance du ton ne dit rien de la fiabilité. Un modèle formule ses inventions exactement comme ses vérités — même syntaxe, même confiance, parfois même une source à l'appui. L'affaire est devenue célèbre en 2023 quand des avocats américains ont déposé un mémoire truffé de jurisprudences inventées par ChatGPT — citations complètes, numéros de dossiers, tout avait l'air vrai. Le tribunal les a sanctionnés.

La recherche web ne règle pas tout. Les moteurs récents citent des sources réelles, et c'est un progrès. Mais entre la source et la réponse, il y a une étape de synthèse — et c'est là que ça peut déraper : un chiffre déformé, deux informations fusionnées, une conclusion que la source ne dit pas. La citation existe ; ce qu'on lui fait dire, pas toujours.

Nous l'avons mesuré — voici à quoi ça ressemble

Chez MREL, nous utilisons des modèles d'IA dans nos propres outils d'analyse — et parce que nous savons ce qu'est une hallucination, chaque citation produite par un modèle est vérifiée mécaniquement contre le texte source, caractère par caractère, avant d'être utilisée. Résultat d'un de nos tests sur des données réelles : environ 4 % des citations générées étaient fabriquées. Pas des erreurs grossières — des fabrications plausibles : une note moyenne inventée avec son nombre d'avis, un concept marketing qui n'existait nulle part dans le texte analysé. Le détail le plus instructif : deux moteurs différents ont halluciné la même fausse information, chacun de leur côté. La fabrication ne ressemble pas à une erreur ; elle ressemble à tout le reste.

C'est la leçon que nous appliquons partout : la fiabilité ne vient jamais de la confiance accordée au modèle — elle vient de la vérification, après coup, contre la source. Aucune exception.

Ce que ça change pour vous, lecteur

Quelques réflexes simples, qui coûtent une minute et évitent l'essentiel :

Demandez les sources — et ouvrez-les. Pas seulement vérifier qu'un lien existe : vérifier que la page dit bien ce que l'IA lui fait dire. C'est l'étape que presque personne ne fait.

Méfiez-vous des chiffres précis. Un pourcentage net, une date exacte, un nom d'étude : c'est précisément ce que les modèles fabriquent le mieux. Un chiffre sans source consultable ne vaut rien.

Croisez deux moteurs. Une même question posée à deux IA différentes révèle vite les zones de flou : quand les réponses divergent, c'est qu'au moins l'une des deux extrapole.

Pour les sujets qui engagent — santé, droit, argent — l'IA prépare la conversation, elle ne la remplace pas. Arriver chez le praticien avec de meilleures questions : oui. Se soigner sur réponse de chatbot : non.

Ce que ça change pour votre marque

Il y a un angle auquel peu de dirigeants et de praticiens pensent : les IA ne répondent pas qu'à vos questions — elles répondent aussi aux questions sur vous, et décident, à leur manière, qui elles citent. Votre adresse, votre spécialité, vos horaires, votre réputation : tout cela est désormais raconté par des moteurs qui peuvent se tromper, mélanger deux établissements, ou attribuer à votre cabinet ce qui appartient à un autre. Et vos patients ou clients, on l'a vu, ne vérifieront pas.

On ne peut pas empêcher une IA de répondre. On peut en revanche savoir ce qu'elle répond — le mesurer, moteur par moteur, question par question — et corriger à la source ce qui l'induit en erreur : informations incohérentes entre plateformes, fiches incomplètes, site illisible pour les machines. C'est exactement le travail que nous faisons : d'abord la mesure, ensuite la correction, et la courbe pour juger.

Vous voulez savoir ce que les IA racontent — de vrai et de faux — sur votre cabinet ou votre entreprise ? C'est l'objet de notre audit de visibilité IA : un état des lieux mesuré sur les quatre grands moteurs, avec la méthode en clair.

Note méthodologique : les chiffres de confiance et d'usage cités proviennent d'enquêtes américaines (West Health–Gallup, oct.–déc. 2025, 5 660 adultes ; Pew Research Center, oct. 2025, 5 111 adultes). L'exemple de citations fabriquées provient de nos tests internes sur données réelles, avec vérification déterministe de chaque citation contre son texte source.