Une étude menée aux États-Unis montre comment des résumés produits par l’IA peuvent discrètement déformer un souvenir, sans que l’on s’en rende compte.
Le site d’information scientifique anglophone à l’origine de cet article, s’appuyant sur des travaux diffusés par l’université américaine Georgetown, décrit une expérience inquiétante : de simples résumés générés par une IA suffisent à implanter de faux détails dans la mémoire de volontaires, alors même qu’ils pensent se rappeler fidèlement une scène très simple.
Une expérimentation choc autour d’un simple accident de voiture
Pour mesurer l’impact des résumés générés par l’IA sur la mémoire, des chercheurs ont utilisé une mise en scène très courte : une vidéo d’accident de la route d’une durée de 25 secondes. Deux versions quasi identiques de ce clip ont été réalisées.
Dans la scène, une voiture rouge s’approche d’une intersection. Un piéton s’engage sur la chaussée. La voiture tourne, percute le piéton, qui tombe, se relève, puis finit par rejoindre le conducteur. Entre les deux versions, une seule différence : le panneau de signalisation à l’intersection.
- Dans la première version, un panneau stop est visible.
- Dans la seconde, il s’agit d’un panneau de cédez-le-passage.
Chaque participant ne regarde qu’une seule version. Ce détail du panneau devient l’élément clé de l’expérience, un marqueur précis permettant de tester la solidité du souvenir.
Les auteurs s’inscrivent dans une longue tradition de recherches en psychologie, entamées il y a plus de 50 ans, qui montrent que notre mémoire ne fonctionne pas comme un enregistrement vidéo archivé dans le cerveau. Lorsqu’une personne se souvient d’un événement, elle le reconstruit en partie. Les informations rencontrées après coup peuvent alors s’infiltrer dans cette reconstruction.
Les psychologues parlent d’« effet de désinformation » : des éléments vus ou lus après un événement se mélangent au souvenir initial, jusqu’à parfois le remplacer.
Des résumés d’IA qui modifient le souvenir initial
Dans un premier temps, après avoir visionné la vidéo, les participants quittent l’étude. Ils reviennent entre 24 et 48 heures plus tard, avec un souvenir encore frais mais déjà en partie reconstruit.
Lors de ce second rendez-vous, ils lisent un résumé de l’accident, composé de 21 phrases et généré par une intelligence artificielle. Pour certains, le résumé décrit correctement le panneau que montrait la vidéo. Pour d’autres, les chercheurs ont volontairement inversé ce détail : un participant ayant vu un stop lit désormais qu’il y avait un cédez-le-passage, et inversement.
Les consignes sont pourtant claires : il leur est demandé de répondre aux questions uniquement à partir de ce dont ils se souviennent de la vidéo, sans se fier au résumé. Les résultats montrent un écart massif.
- Parmi les personnes ayant lu un résumé exact, 83,6 % identifient correctement le panneau vu dans la vidéo.
- Chez celles ayant lu un résumé trompeur, ce taux chute à 44,8 %.
Près d’un participant sur deux adopte le faux détail introduit par l’IA, en croyant se souvenir de la scène originale.
Les chercheurs soulignent que ce n’est pas simplement un problème d’oubli général : sur les autres questions de mémoire, les volontaires réussissent très bien. En moyenne, ils donnent 91,4 % de bonnes réponses aux 11 autres questions portant sur la scène.
Par exemple, plus de 96 % des participants se souviennent que l’accident se déroule de jour, alors que ce point n’est même pas mentionné dans le résumé. Leur mémoire reste donc solide sur de nombreux éléments, mais se dérègle précisément là où le résumé d’IA modifie un détail clé.
Être conscient que c’est une IA ne suffit pas à se protéger
Les auteurs ont aussi voulu vérifier si le simple fait de savoir que le texte est généré par une IA rend les lecteurs plus méfiants. Intuitivement, on pourrait penser que oui : un lecteur prévenu resterait plus critique et se fierait davantage à son souvenir qu’à un résumé potentiellement erroné.
Les chercheurs ont donc divisé les volontaires en deux groupes :
- Pour une partie, le résumé est présenté comme ayant été rédigé par une IA.
- Pour l’autre, il est censé venir d’un transcripteur humain professionnel.
En réalité, tous lisent le même texte généré automatiquement. Résultat : cette information préalable influe à peine sur l’impact du résumé sur leurs souvenirs. Le fait de savoir qu’il s’agit d’un texte produit par une IA ne protège pratiquement pas contre l’intégration du faux détail.
Les scientifiques interrogent également les participants sur leur niveau de confiance dans l’IA et sur la fréquence d’usage des chatbots. Là encore, les données ne montrent pas d’effet protecteur marqué. Ceux qui disent se méfier de l’IA ne semblent pas beaucoup moins vulnérables à la désinformation subtile contenue dans le résumé.
« L’IA est une nouvelle façon de diffuser de la désinformation, et elle peut créer de faux souvenirs chez les personnes qui lisent ces informations », prévient la chercheuse Mattea Sim dans un communiqué de l’université Georgetown.
Elle appelle à réfléchir « très profondément et avec esprit critique » à l’usage de ces résumés automatiques, en particulier dans les contextes sensibles, comme la santé, la justice ou la police.
Quand le résumé passe à côté de l’essentiel
L’étude ne se contente pas de mesurer l’effet des résumés sur la mémoire humaine. Les chercheurs évaluent aussi la qualité des résumés eux-mêmes. Ils demandent à deux systèmes d’IA grand public de générer des descriptions de la scène :
- Un modèle nommé ChatGPT-5.5 ;
- Un modèle appelé Gemini 2.5 Flash-Lite.
Chaque modèle produit à plusieurs reprises des résumés des deux versions de la vidéo, soit 20 résumés au total. Les chercheurs constatent que tous contiennent des erreurs. Certaines sont typiques : détails erronés, ajouts d’éléments inexistants dans la scène. Mais l’échec le plus fréquent n’est pas l’invention, c’est l’omission.
En moyenne, ces IA laissent de côté plus de la moitié des éléments centraux de l’événement, soit 51,6 % de ces détails.
Le raté le plus spectaculaire concerne pourtant le cœur même de la scène : le choc entre la voiture et le piéton. Sur 20 résumés, 19 ne mentionnent même pas que la voiture percute le piéton.
Les hallucinations de l’IA, ces inventions pures et simples, attirent habituellement l’attention. Mais cette étude souligne un autre problème, plus discret et probablement plus répandu : même sans inventer, un résumé peut induire en erreur en supprimant ou en déformant des éléments décisifs. Lorsque ces résumés se répètent et remplacent progressivement l’accès au contenu original, ils finissent par remodeler ce que nous pensons avoir vu ou lu.
Pourquoi l’IA pèse autant sur la mémoire
Les chercheurs notent qu’avant l’IA, des erreurs pouvaient déjà se glisser dans les comptes rendus, les procès-verbaux ou les comptes rendus médicaux. Mais la situation n’est pas strictement comparable.
Un simple compte rendu mal transcrit reste localisé sur la page. Un résumé produit par une IA, en revanche, est conçu pour synthétiser et être relu à la place du document initial, surtout lorsque ce dernier est jugé trop long, complexe ou chronophage à consulter.
Trois mécanismes se combinent :
- Un détail qui disparaît d’un résumé devient moins disponible lors de la reconstruction ultérieure du souvenir.
- Un détail répété au fil des résumés se renforce dans notre mémoire, même s’il est erroné.
- Un faux détail bien formulé peut entrer en compétition directe avec le souvenir initial.
Dans ce contexte, le résumé ne se limite plus à être un support écrit, il devient la nouvelle version de l’histoire dans l’esprit des lecteurs. Et comme l’étude se fonde sur une scène très courte et relativement simple, les chercheurs laissent entendre que l’effet pourrait être encore plus marqué dans des situations complexes, avec des dossiers médicaux, des enquêtes judiciaires ou des rapports financiers.
L’article rappelle enfin que ces travaux sont disponibles sur la plateforme scientifique arXiv, sous forme de prépublication, et n’ont pas encore été relus par des pairs. Les conclusions doivent donc être interprétées avec prudence, même si elles s’appuient sur un cadre expérimental classique en psychologie de la mémoire.
Qu’est-ce que cela implique pour un lecteur français ?
Pour un public en France, ces résultats renvoient à des usages désormais très courants : résumés automatiques de réunions, comptes rendus de visioconférences, notes de consultation médicale assistées par IA, ou encore synthèses d’emails et de documents juridiques. Dans l’Hexagone, de nombreuses entreprises et administrations testent déjà ce type d’outils, souvent intégrés directement dans les logiciels bureautiques ou de messagerie.
Dans le domaine médical, par exemple, la tentation est forte de recourir à l’IA pour structurer rapidement un compte rendu de consultation ou de séjour hospitalier. Pour un patient français, relire principalement ces synthèses pourrait influencer ce dont il se souvient de son diagnostic, des explications du médecin ou des options de traitement. L’Ordre des médecins, comme les autorités sanitaires, rappelle régulièrement que ces outils doivent rester sous le contrôle des professionnels, précisément pour limiter les erreurs et malentendus.
Dans le secteur judiciaire ou policier, un usage similaire pourrait remodeler le souvenir d’un témoin ou d’une victime, si celui-ci s’appuie ensuite surtout sur la version écrite résumée, plutôt que sur son souvenir brut. En France, les procès-verbaux et comptes rendus restent en principe rédigés par des humains, mais l’arrivée de l’IA dans les logiciels de rédaction juridique pose déjà des questions proches de celles soulevées par l’étude américaine.
Comment limiter les risques au quotidien
Pour le lecteur français qui utilise déjà des outils d’IA, quelques principes simples peuvent réduire le risque de voir ses souvenirs remodelés :
Sur un plan plus large, cette étude montre qu’un terme souvent utilisé dans le débat public, la « désinformation », ne se limite pas aux rumeurs ou aux fausses nouvelles spectaculaires. Une information incomplète ou orientée, répétée par une IA perçue comme neutre et efficace, peut tout autant créer un décalage durable entre ce qui s’est réellement passé et ce dont chacun croit se souvenir.
La notion de « résumé » mérite donc d’être mieux comprise : ce n’est pas une simple compression neutre d’un contenu. C’est une réécriture choisissant certains éléments au détriment d’autres, et, lorsqu’elle est automatisée, elle peut influencer massivement la mémoire, à grande échelle et à faible coût. Pour les lecteurs comme pour les institutions françaises, la question n’est plus de savoir si l’on utilisera ces résumés d’IA, mais comment les encadrer pour éviter qu’ils ne réécrivent, silencieusement, notre passé récent.
