Les IA génératives inventent et déforment des informations avec une assurance déconcertante. Cette tendance à halluciner est inhérente à leur mode d’entraînement et ne devrait pas s’améliorer de si peu. Souvent subtils, ces dérapages se produisent quotidiennement quand on utilise l’IA sans vigilance. C’est pourquoi un humain aux commandes reste indispensable, et pourquoi le scepticisme doit devenir une compétence professionnelle à part entière.
Il y a quelques jours, je travaillais avec Claude, l’IA d’Anthropic. L’objectif ? Co-rédiger un article de fond sur les dernières directives de Google concernant l’optimisation pour les moteurs de recherche dopés à l’IA. Fidèle à lui-même, Claude me déroule un texte ultra-structuré et fondé sur une bonne demi-douzaine de sources d’autorité.
À première vue, un article génial et crédible. Mais après m’être mise au travail (reformulation, amélioration, vérification), je m’aperçois qu’il est impossible de mettre la main sur les données mentionnées. Plus précisément, les études existent bien, mais elles ne racontent pas du tout ce que Claude leur fait dire. Je lui demande alors de me fournir les citations exactes.
Et là, il me répond des choses telles que « J’ai mélangé les deux études et inventé une formulation » ou « Je dois être honnête avec vous : j’ai extrapolé ces deux références ».
Quelques exemples d’erreurs des IA génératives
Pris en flagrant délit d’hallucination, Claude s’est confondu en excuses. Pour rattraper le coup, il a généré un tableau comparatif de ses erreurs et de ce que disaient réellement les sources. Le voici :
Quatre erreurs significatives dans un seul article. Évidemment, il ne s’agit pas de mensonges délibérés : cela nécessiterait une intention et une intelligence… ce dont les IA sont dépourvues en dépit de leur nom trompeur. C’est simplement ce que les experts appellent une « hallucination » : la production fluide d’informations plausibles mais fausses.
Ici, le problème venait des sources. Mais les IA peuvent tout aussi bien inventer des faits, rater un raisonnement logique élémentaire (pensez au test du carwash), ou passer complètement à côté du sujet.
Par exemple, quand je lui ai demandé un tableau récapitulatif basé sur mon article sur les connecteurs logiques (en linguistique), il s’est emmêlé les pinceaux et y a intégré des concepts de mathématiques et de logique pure (les tables de vérité). Pire encore : parfois, l’IA ne prend même pas la peine de lire la source que vous lui donnez. Elle se contente d’extrapoler à partir du titre. Et le plus fou, c’est qu’elle l’avoue quand on la pousse un peu.
Pourquoi les IA hallucinent-elles ?
La cause précise des hallucinations reste incertaine. Mais selon une étude publiée par OpenAI en septembre 2025 sous le titre « Why language models hallucinate », les hallucinations ne seraient pas des bugs accidentels. Ce seraient des défauts de fabrication.
En effet, OpenAI estime que la façon dont les modèles sont entraînés serait la cause des hallucinations. Les systèmes d’évaluation actuels récompenseraient les IA qui devinent, plutôt que celles qui avouent leur ignorance. Une réponse fausse, mais affirmée avec aplomb rapporterait plus de points qu’un simple « je ne sais pas ».
C’est exactement comme un QCM à l’école où les mauvaises réponses ne sont pas pénalisées. Vous n’avez aucune idée de la réponse ? Vous cochez quand même au hasard. Au pire, ça ne change rien ; au mieux, vous grattez un point sur un malentendu. Pour l’IA, c’est la même chose : elle préfère inventer pour tenter sa chance.
Et il semble que ce phénomène touche tous les modèles, mais à des degrés variés. Ainsi, selon la dernière évaluation de Vectara (mai 2026), les taux d’hallucination varient entre 1,8 % et 24,2 %. Les modèles les plus récents font mieux que leurs prédécesseurs, mais aucun n’élimine le problème.
Où les hallucinations apparaissent-elles ?
Les hallucinations apparaissent surtout dans les détails, et c’est tout le problème.
On se souvient tous des hallucinations spectaculaires qui ont fait la une des médias, comme les Aperçus IA de Google qui conseillaient d’ajouter de la colle (non toxique) pour faire tenir le fromage sur une pizza, ou de manger un caillou par jour.
Mais cela, c’était en 2024. Aujourd’hui, ces ratés monumentaux se font plus rares. Le problème est plus subtil. On le voit notamment dans le secteur du droit, lorsque des avocats se font réprimander par des juges pour avoir cité des jurisprudences inventées. Les hallucinations d’aujourd’hui ne sont plus grotesques, elles se nichent dans les détails. Elles ont l’air tellement vraies que seule une expertise pointue et une sacrée dose de concentration permettent de les repérer.
À force de tester différentes IA, j’ai remarqué que leurs hallucinations prennent généralement la forme de :
- Un chiffre déformé (par exemple, 44,2 % devient 55 %).
- Une plateforme, une marque, une entreprise ou un produit confondu avec un autre (par exemple, ChatGPT devient Aperçus IA).
- Deux études fusionnées en une seule citation qui ne correspond à aucune des études.
- Une date inventée ou approximative.
- Une citation inventée ou attribuée à la mauvaise personne.
- Une mauvaise compréhension du sujet exact (par exemple, une confusion entre les connecteurs logiques en linguistique et les connecteurs logiques en mathématiques)
- Une extrapolation de ce que les sources disent (mais qu’elles ne disent pas).
- Un auteur attribué à la mauvaise institution ou entreprise.
Selon une enquête menée par Neil Patel auprès de 565 marketers, 47 % rencontrent des inexactitudes IA plusieurs fois par semaine et 70 % consacrent plusieurs heures chaque semaine à vérifier les informations fournies par les IA (et ils ont raison de le faire).
Si on cumule cette propension à l’erreur avec les habitudes d’utilisation de l’IA, le tableau devient plus inquiétant. En effet, selon l’étude « Trust, attitudes and use of AI: A Global Study 2025 » de KPMG et de l’université de Melbourne, seuls 56 % des utilisateurs vérifient la crédibilité des informations fournies par l’IA de façon régulière. Les autres le font rarement (40 %), voire jamais (4 %).
Et ce n’est pas surprenant : les textes générés par l’IA « sonnent » juste. Ils sont fluides, professionnels, sourcés, chiffrés… à ceci près qu’une partie des sources et des informations ne tiennent pas la route lorsqu’elles font l’objet d’une vérification.
Le mythe du gain de temps
On répète partout que l’IA fait gagner du temps aux professionnels, qu’ils soient rédacteurs, marketeurs, codeurs, assureurs ou juristes. C’est vrai. Et c’est faux aussi.
C’est vrai si vous créez un prompt rapidement, sans trop y réfléchir, et que vous vous contentez du résultat offert par la machine, sans le relire ou le vérifier. Alors là, vous gagnez un temps fou. Mais comme on l’a vu, vous avez aussi de grandes chances de publier ou répandre des hallucinations.
Une étude menée par le MIT et Accenture s’est penchée sur la manière d’aider les utilisateurs à mieux repérer ces hallucinations. Ce faisant, ils ont notamment constaté que lorsqu’on demande aux humains de vérifier et de corriger les informations douteuses de l’IA, le temps de travail grimpe en flèche (+52 % par rapport à ceux qui valident à l’aveugle). Toutefois, les chercheurs ont aussi conclu que l’utilisation de l’IA assortie d’une révision approfondie reste quand même plus rapide que de faire tout le travail à la main, sans IA.
Mais attention, le gain de temps n’est pas automatique. Une autre étude, menée en juillet 2025 par METR (Model Evaluation and Threat Research) auprès de 16 développeurs expérimentés utilisant Claude pour coder, est arrivée à la conclusion inverse : l’IA leur a fait perdre en moyenne 19 % de temps.
Mon expérience confirme ce constat. Si je mets bout à bout le temps passé à vérifier les sources, corriger les erreurs, reformuler les passages flous et réécrire l’article, l’IA ne me fait pas gagner une seule minute.
Alors, pourquoi je continue à l’utiliser ?
Tout simplement parce qu’elle m’emmène plus loin. Elle me pousse à explorer d’autres angles et m’aide à structurer mes idées (pratique lorsque vous avez essentiellement une pensée arborescente). Même ses erreurs m’aident : elles me forcent à creuser un sujet, à chercher de meilleures sources et à aller au fond des choses.
Mais pour cela, je dois rester éveillée au volant.
Je suis convaincue que bien utilisée, l’IA n’est pas un raccourci, c’est un démultiplicateur. Pour qui sait vérifier, c’est un outil formidable qui permet d’aller plus loin. Pour qui s’endort en volant, c’est une machine à produire des erreurs convaincantes.
La sécurité de l’information n’est pas qu’une affaire de cybersécurité
On parle beaucoup de cybersécurité, de protection des données, de fuites. On parle beaucoup moins de la qualité informationnelle comme enjeu de sécurité.
Pourtant, c’en est un. Quand un article SEO mal vérifié cite une fausse étude, et que cet article est lui-même cité par une autre IA pour la création d’un autre article, qui est lui-même repris par une autre IA pour un autre article… on assiste à ce que les chercheurs en éthique de l’IA appellent l’effondrement de modèle (model collapse). Selon l’étude « AI models collapse when trained on recursively generated data » publiée dans Nature en juillet 2024 par Ilia Shumailov et d’autres chercheurs de l’université d’Oxford, lorsque les IA sont entraînées sur des données massivement générées par d’autres IA, la qualité de leurs résultats se dégrade rapidement.Et nous sommes déjà entrés dans cette boucle. Selon une analyse de l’agence Graphite, 50 % du contenu publié sur le Web est généré par IA. Cela ne signifie pas que 50 % des contenus web sont faux ou pourris… sauf s’ils n’ont fait l’objet d’aucune révision. En effet, sans vérification systématique, ces contenus deviennent à leur tour des sources, citées par d’autres IA, ce qui crée un effet boule de neige.
Le scénario qui devrait nous tenir éveillés
Imaginons maintenant ce que cela donne si tout le monde publie ou utilise du contenu généré automatiquement sans vérification 😬.
Un cabinet d’avocats s’appuie sur une IA pour produire ses conclusions. L’IA invente plusieurs décisions de justice qui sont soumises au juge. D’un côté, c’est comique. D’un autre, cela ne sert pas vraiment les intérêts du client concerné, en particulier dans un litige relatif aux dangers de l’utilisation de l’IA (par exemple). Ah, douce ironie.
Un chercheur génère sa revue de littérature avec une IA. Celle-ci fabrique des références qui ressemblent à de vraies publications, mais n’existent pas. Le chercheur publie. Puis d’autres chercheurs le citent. Progressivement, les fausses références acquièrent une réalité bibliographique propre (bien que virtuelle).
Une entreprise cotée crée son rapport annuel aux actionnaires grâce à l’IA qui y glisse des chiffres erronés. Le rapport est diffusé et influence le cours de l’action.
À grande échelle, ce scénario produit un web où vérifier la véracité de l’information devient impossible parce que tout se cite l’un l’autre dans un système clos. Les fausses informations ne sont plus marginales : elles sont devenues le bruit de fond.
Personnellement, je ne veux pas vivre dans ce monde-là.
La compétence qui va devenir centrale : le scepticisme
Le scepticisme consiste à remettre en doute les informations qui ne sont pas prouvées, jusqu’à ce qu’il soit possible de les valider ou de les invalider par des preuves. Le but n’est pas de contredire pour le plaisir, mais d’adopter une posture de prudence face à des informations non prouvées.
Note : Le scepticisme antique va un peu plus loin en affirmant que l’esprit humain ne peut jamais accéder à la vérité absolue. En l’occurrence, on prend une définition plus cartésienne en rejetant temporairement les informations qui ne sont pas certaines. Le doute est un outil, pas une fin en soi.
Voici comment le scepticisme (ou le doute méthodique) se traduit en pratique face aux productions de l’intelligence artificielle :
- Douter par défaut : quand l’IA fournit un chiffre, une date, une citation, partez du principe que c’est peut-être vrai, jamais que c’est forcément vrai. La fluidité de l’écriture n’est pas un indice de vérité.
- Vérifier les éléments vérifiables : tout chiffre, toute citation directe, toute référence à une étude doit pouvoir être tracée jusqu’à sa source primaire. Si l’IA dit « selon Ahrefs… », demandez le lien exact. Si elle ne peut pas le fournir, traitez l’information comme non fiable. Si elle fournit un lien, vérifiez que le contenu de la source correspond bien à ce que l’IA en dit.
- Identifier les zones de risque maximal : les hallucinations apparaissent plus souvent sur les sujets pointus, récents, ou peu documentés. Méfiez-vous également des affirmations très précises (un pourcentage, une date exacte, un nom) plus que des principes généraux (qu’elle risque moins de rater).
- Cultiver le doute efficace : le scepticisme ne consiste pas à tout rejeter, mais à chercher une preuve proportionnée à l’enjeu. Une recette de cuisine n’a pas besoin de la même vérification que des conclusions d’avocat. Calibrez votre exigence selon les conséquences possibles d’une erreur.
- Multiplier les sources : une seule étude n’apporte pas de preuve suffisante d’une information ou d’une tendance. Quand un chiffre est important, croisez-le avec au moins deux sources indépendantes. Si vous ne trouvez pas la confirmation, c’est peut-être que l’information n’existe pas ou n’est pas aussi absolue que l’IA le fait paraître.
- Accepter l’inconfort : le scepticisme est plus lent et plus fatigant que la confiance aveugle. C’est précisément ce qui en fait sa valeur. Si une compétence telle que la rédaction d’articles peut être automatisée gratuitement grâce à l’IA, elle perd toute valeur sur le marché du travail. Dès lors, les entreprises commencent à chercher un nouveau type de compétence qui apporte une valeur supplémentaire au résultat de l’IA, en l’occurrence la rigueur (ce qui nécessite du temps et des capacités cognitives).
Depuis l’introduction des intelligences artificielles génératives, le métier de rédacteur a changé. Notre rôle n’est ni d’écrire à la place de l’IA, ni de laisser l’IA écrire à notre place. Notre rôle est de continuer à fournir des contenus crédibles qui incitent les lecteurs à la confiance et leur apportent de la valeur.
Tout ce que vous publiez, que vous l’ayez écrit vous-même ou grâce à l’IA, doit être passé au crible. Chaque chiffre doit être vérifié. Chaque source doit être lue et analysée.
L’intelligence artificielle va continuer à halluciner et à inventer. C’est dans sa nature. La question n’est pas de savoir si elle se trompera, c’est de savoir si quelqu’un sera là pour s’en apercevoir.
