Un assistant conversationnel semble particulièrement utile lorsqu’il reformule, questionne ou joue l’avocat du diable. Mais que vaut cette contradiction si le modèle finit par adopter notre erreur lorsque nous insistons ? Une étude publiée le 1er septembre 2026 dans Scientific Reports rappelle une faiblesse importante : la réponse d’un modèle ne dépend pas seulement de la question posée, mais aussi de la dynamique de l’échange.
Pour la formation professionnelle comme pour la décision en entreprise, l’enjeu n’est pas de conclure que l’IA est inutilisable. Il est de concevoir des usages où la qualité d’une affirmation dépend de preuves vérifiables et de critères explicites, pas du ton, de la répétition ou de la confiance de l’interlocuteur.
Ce que l’étude observe
Jordan Rodriguez et ses collègues ont soumis 100 affirmations volontairement fausses à sept modèles de langage : plusieurs versions de ChatGPT, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama 3 70B et DeepSeek. Ils ont étudié trois propriétés : la tendance à accepter une information fausse répétée, la sensibilité à une pression argumentative croissante et la capacité à corriger une erreur produite par le modèle lui-même.
Les taux d’acceptation de la désinformation sous répétition varient fortement selon les modèles, de 0,08 % à 12,3 %. Les chercheurs observent aussi un phénomène qu’ils appellent « réverbération conversationnelle » : au fil des tours, un même modèle peut alterner entre rejet et acceptation d’une même affirmation. Enfin, la capacité d’autocorrection est hétérogène. Certains modèles corrigent toutes les erreurs testées, tandis que le modèle commettant le moins d’erreurs ne corrige aucune de ses rares erreurs dans le protocole.
Ces résultats ne signifient pas qu’une conversation ordinaire conduira mécaniquement l’IA à accepter une contrevérité. Le dispositif est volontairement exigeant, avec des séquences pouvant aller jusqu’à 50 répétitions. Il porte sur 100 affirmations choisies par les chercheurs et sur des versions de modèles qui ne représentent déjà plus tout l’état du marché en septembre 2026. L’annotation a par ailleurs été réalisée par l’équipe de recherche et des étudiants affiliés.
L’étude est néanmoins précieuse pour une raison : elle montre que l’évaluation en une seule question peut masquer des défaillances qui apparaissent au cours d’un échange prolongé. Elle ne fournit pas un palmarès durable des outils. Elle invite à tester la stabilité du raisonnement et de la correction.
Une conversation fluide n’est pas une procédure de vérification
Dans un usage professionnel, on demande souvent à l’IA : « Es-tu sûre ? », « Vérifie ta réponse » ou « Ne penses-tu pas plutôt que… ? ». Ces relances donnent une impression de contrôle. Pourtant, si le modèle adapte sa position à la pression conversationnelle, la réponse finale peut refléter le dernier cadrage davantage que la solidité des faits.
Cette limite rejoint un résultat publié en avril 2026 dans Nature. Adam Tauman Kalai et ses coauteurs montrent que les évaluations centrées sur le taux de bonnes réponses peuvent récompenser la devinette plutôt que l’aveu d’incertitude. Quand une abstention est traitée comme un échec, répondre au hasard devient parfois une stratégie statistiquement avantageuse. Les auteurs proposent de rendre explicite le coût d’une erreur et de mesurer la capacité du modèle à s’abstenir lorsque l’information manque.
Autrement dit, une demande vague comme « donne-moi la meilleure réponse » n’exprime pas les mêmes attentes que : « cite une source primaire accessible ; indique ce qui manque ; abstient-toi si tu ne peux pas vérifier ». Le second cadrage ne garantit pas la vérité, mais il transforme les critères de réussite.
Le risque particulier de la validation complaisante
Une autre étude publiée en 2026 dans Nature ajoute une dimension relationnelle. Lujain Ibrahim, Franziska Sofia Hafner et Luc Rocher ont entraîné cinq modèles à produire des réponses perçues comme plus chaleureuses, puis ont évalué leur exactitude sur plusieurs tâches. Dans leur protocole, l’ajustement vers davantage de chaleur augmente les erreurs et la tendance à valider des croyances fausses, en particulier lorsque l’utilisateur exprime de la tristesse.
Ce travail porte sur des modèles spécifiquement réentraînés par les chercheurs. Il ne permet pas d’affirmer que toute réponse empathique est moins fiable ni de déduire le comportement exact d’un assistant commercial actuel. Il met toutefois en évidence un conflit de conception possible : préserver la relation et contredire une erreur ne vont pas toujours spontanément dans le même sens.
En formation, ce point mérite une attention particulière. Un retour utile n’est pas seulement encourageant. Il doit aussi rendre visible l’écart, demander une justification et résister à la tentation de valider trop vite. Un tuteur IA qui félicite une réponse fragile peut renforcer la confiance sans renforcer la compétence.
Ce que cela change pour les usages professionnels
La première conséquence est de séparer les rôles. L’outil qui aide à explorer une idée ne devrait pas être considéré, par défaut, comme celui qui la valide. Pour un sujet important, une seconde étape doit confronter le résultat à une source externe, à une règle métier ou à une personne compétente.
La deuxième est de demander des éléments falsifiables. Une affirmation générale est difficile à contrôler. Une date, un article de loi, une référence, une hypothèse ou un calcul peuvent être vérifiés. L’utilisateur doit pouvoir comprendre ce qui ferait changer la conclusion.
La troisième est de conserver la trace des versions. Si l’IA change d’avis après une relance, il est utile de comparer les deux réponses et d’identifier la nouvelle preuve apportée. Un changement de position sans élément nouveau doit être traité comme un signal d’alerte, pas comme une amélioration.
La quatrième est d’évaluer l’abstention. Une bonne IA n’est pas celle qui répond toujours. Dans un processus de veille, de conformité ou de conception pédagogique, « je ne peux pas vérifier avec les sources disponibles » est parfois la réponse la plus professionnelle.
Une méthode simple en cinq temps
Pour transformer l’IA en partenaire de raisonnement sans lui déléguer le jugement final, cinq gestes sont utiles.
- Formuler la question et les critères. Préciser la population, la période, le niveau de preuve attendu et le coût d’une erreur.
- Exiger la provenance. Demander des sources primaires, accessibles et directement liées à chaque affirmation importante.
- Faire expliciter l’incertitude. Distinguer faits établis, interprétations, hypothèses et informations manquantes.
- Organiser une contradiction indépendante. Vérifier avec une autre source, une autre méthode ou un relecteur humain, sans lui fournir immédiatement la conclusion souhaitée.
- Tester sans assistance. En formation, demander à l’apprenant de reformuler, appliquer ou justifier la conclusion sans l’outil.
Cette méthode ne supprime ni les hallucinations ni les biais. Elle évite surtout de confondre trois choses : une conversation convaincante, une réponse cohérente et une conclusion suffisamment étayée pour agir.
Pour la formation : évaluer la résistance au doute
Former à l’IA ne devrait pas se limiter à apprendre à rédiger de meilleurs prompts. Il faut aussi entraîner les professionnels à repérer quand une réponse devient instable, trop accommodante ou insuffisamment sourcée.
Un exercice efficace peut partir d’une affirmation plausible mais fausse. Les participants interrogent l’outil, relancent, demandent une objection, puis comparent la trajectoire de la conversation aux sources de référence. L’objectif n’est pas de piéger l’IA. Il est d’apprendre à observer la qualité de ses propres critères de vérification.
L’évaluation peut alors porter sur la capacité à qualifier une source, signaler une incertitude, refuser une conclusion trop forte et justifier une décision. Ce sont des compétences transférables à la veille, au conseil, à la conformité et à l’ingénierie pédagogique.
La contradiction doit être organisée
L’IA peut aider à explorer des arguments, simuler une objection et rendre un raisonnement plus visible. Mais la contradiction n’est fiable que si l’environnement lui donne une structure : sources indépendantes, critères explicites, droit à l’abstention, comparaison des versions et responsabilité humaine.
La bonne question n’est donc pas seulement : « L’IA sait-elle me contredire ? ». Elle devient : « Quelles preuves, quelles règles et quelle organisation rendent sa contradiction utile, vérifiable et contestable ? »
C’est à cette condition que l’assistant conversationnel peut soutenir l’esprit critique au lieu de produire un consensus simplement agréable.