Site icon aivancity blog

L’IA peut-elle modifier nos souvenirs ? Ce que les expériences permettent réellement d’affirmer

Des images retouchées, des questions orientées ou un résumé erroné peuvent-ils modifier ce qu’une personne croit avoir vu ? Plusieurs expériences associées au MIT et à d’autres équipes montrent que des contenus générés par IA peuvent augmenter les faux souvenirs et, dans certains cas, la confiance qui leur est accordée. Ces résultats sont préoccupants pour le témoignage, l’éducation, la santé cognitive et les assistants personnels, mais ils ne prouvent ni une réécriture générale de la mémoire ni un effet durable dans toutes les situations réelles.[1][2]

01

Ce qui vient de se passer

Le 15 octobre 2026, le Washington Post a consacré une analyse à un ensemble de travaux sur l’influence de l’IA générative sur la mémoire humaine. L’article s’appuie notamment sur les recherches de Pattie Maes, Pat Pataranutaporn, Samantha Chan et Elizabeth Loftus, ainsi que sur une étude plus récente de Mattea Sim, Yael Eiger et Tadayoshi Kohno.[1]

Il ne s’agit donc pas d’une étude unique publiée à cette date. Le dossier rapproche plusieurs protocoles : images ou vidéos modifiées, entretien suggestif par chatbot, résumé contenant un détail trompeur et création assistée par IA. Tous examinent la manière dont une information produite ou reformulée par un système peut se mêler au souvenir d’origine.

Cette précision change la lecture de l’actualité. Les chercheurs ne montrent pas que l’IA efface ou remplace automatiquement un souvenir. Ils mesurent, dans des conditions expérimentales, une augmentation des erreurs de rappel ou d’attribution après l’exposition à un contenu trompeur.

02

Ce qui est réellement nouveau

La malléabilité de la mémoire est connue depuis plusieurs décennies. Le cerveau n’enregistre pas un événement comme une caméra. Il en conserve des éléments, puis les reconstruit lors du rappel. Une information introduite après l’événement peut alors être intégrée à cette reconstruction. La psychologie expérimentale décrit ce phénomène comme l’effet de désinformation.[4]

La nouveauté tient aux propriétés des systèmes génératifs. Ils peuvent produire des images plausibles, animer une photographie, résumer une vidéo ou conduire un dialogue personnalisé. L’information trompeuse peut ainsi devenir multimodale, interactive et adaptée aux réponses de l’utilisateur.

Lorsqu’une IA archive une conversation, résume une réunion ou recherche un épisode passé, elle devient aussi une interface entre l’utilisateur et son propre historique.

MSc AI Governance, Risk & Compliance

Le Bac+6 qui forme les juristes à comprendre les technologies d’IA et de Data pour en maîtriser la gouvernance, les risques et la conformité.

12 mois — Bac+6 Entrée à Bac+5 Stage alterné, initiale ou continue Campus Paris-Villejuif
03

Comment un contenu généré peut influencer le souvenir

Trois mécanismes doivent être distingués. Le premier est l’effet de désinformation : un détail faux présenté après l’événement peut être repris lors d’un test de mémoire. Le deuxième est la confusion de source : une personne se rappelle une information mais attribue mal son origine, par exemple à ce qu’elle a vu plutôt qu’à ce qu’un chatbot lui a suggéré. Le troisième est la consolidation répétée : une image animée, une narration cohérente ou une question reformulée plusieurs fois peut rendre un détail plus familier, sans le rendre plus vrai.

L’IA peut renforcer ces mécanismes en donnant une forme fluide à l’information. Un dialogue reprend les réponses de l’utilisateur, une photographie retouchée conserve l’essentiel de la scène et un résumé place l’erreur au milieu d’éléments exacts. Le détail trompeur bénéficie alors de la cohérence du reste du contenu.

La confiance subjective ne constitue pas une mesure de vérité. Une personne peut devenir plus certaine d’un souvenir après avoir vu une représentation convaincante, alors même que cette certitude repose en partie sur une information ajoutée après l’événement.[2]

04

Pourquoi ces résultats comptent au-delà de la désinformation

Dans la justice et la sécurité, un outil qui résume une caméra-piéton ou conduit un entretien pourrait introduire un détail absent du matériau initial. Le risque n’est pas seulement que le document final soit erroné. Le professionnel chargé de le vérifier peut ensuite se souvenir de l’erreur comme si elle provenait de la scène observée. La supervision humaine perd alors une partie de son efficacité si elle intervient après l’exposition au résumé.[3][4]

Dans l’éducation, un assistant peut aider à expliquer et à réviser. Mais une synthèse inexacte, relue plusieurs fois, peut devenir plus familière que la source. L’enjeu pédagogique consiste donc à conserver les références, à comparer les formulations et à apprendre aux élèves à distinguer souvenir, interprétation et preuve.

Dans la santé cognitive, les perspectives sont ambivalentes. Des dispositifs expérimentaux cherchent à aider les personnes à retrouver une conversation, un objet ou un événement. Cette fonction peut soutenir l’autonomie, notamment lorsque la mémoire devient moins fiable. Elle impose cependant une exigence élevée de provenance : une reconstruction générée ne doit pas être présentée comme un enregistrement fidèle lorsqu’elle contient des compléments probabilistes.[8]

Les assistants personnels accumulent courriels, photographies et conversations. Une réponse utile devrait distinguer l’archive du récit généré et permettre de revenir au document d’origine.

05

Ce que les expériences permettent réellement d’affirmer

Les résultats convergent vers une conclusion limitée mais robuste : une information trompeuse générée ou mise en forme par IA peut influencer la réponse donnée à un test de mémoire. Les expériences ne mesurent toutefois ni toutes les formes de mémoire ni tous les usages de l’IA.[2][3][4][5]

Expérience Échantillon Résultat principal Lecture prudente
Images et vidéos modifiées, CHI 2025 200 participants La vidéo d’une image modifiée produit 2,05 fois plus de faux souvenirs que le contrôle. La confiance est 1,19 fois plus élevée. Étude préenregistrée et évaluée par les pairs, mais scènes brèves, groupes de 50 et test contrôlé.
Entretien par chatbot 200 participants Plus de trois fois plus de faux souvenirs immédiats que le contrôle dans la condition générative. Prépublication fondée sur une simulation de témoignage et cinq questions volontairement trompeuses.
Résumé d’un accident, 2026 331 ont terminé, 328 analysés 83,6 % de réponses correctes après un résumé cohérent, contre 44,8 % après un résumé trompeur. Un seul détail critique est manipulé dans une vidéo animée. Le texte complet est une prépublication, avec une version courte publiée à AIES 2026.
Origine des idées et textes 184 participants Après une semaine, l’attribution correcte diminue, surtout dans les workflows mixtes humain-IA. Mesure la mémoire de la source d’une production, pas le souvenir autobiographique d’un événement.

Dans l’étude publiée à CHI 2025, 200 participants ont été répartis entre quatre conditions. Les vidéos générées à partir d’images déjà modifiées ont produit l’effet le plus élevé, avec 2,05 fois plus de faux souvenirs que la condition de contrôle. La confiance associée à ces souvenirs était également supérieure. Ce résultat indique un effet expérimental, pas un taux de personnes dont la mémoire aurait été durablement transformée.[2]

L’étude de 2026 sur les résumés apporte un autre signal. Après un délai de 24 à 48 heures, 83,6 % des participants ayant lu une description cohérente ont correctement identifié le panneau observé, contre 44,8 % dans la condition trompeuse. Le fait de présenter le même résumé comme provenant d’une IA ou d’un humain n’a pas produit de différence significative. L’étiquette de provenance, à elle seule, n’a donc pas annulé l’effet dans ce protocole.[4]

Ces travaux ne démontrent pas qu’un usage ordinaire de l’IA provoque une dégradation cognitive permanente. Les échantillons restent limités, plusieurs études sont encore des prépublications et les tâches portent sur des stimuli courts. Il faudra reproduire les résultats dans d’autres langues, auprès d’autres populations, avec des délais plus longs et dans des environnements professionnels réels.

06

Les enjeux de responsabilité

La première mesure de prudence consiste à préserver la provenance. Toute synthèse importante devrait conserver un accès au fichier, à la séquence vidéo ou à la conversation qui la fonde. Les éléments générés ou reconstruits doivent être visuellement distingués des enregistrements originaux. Pour les usages sensibles, le contrôle devrait idéalement intervenir avant que le vérificateur lise une narration susceptible d’influencer son propre souvenir.

La deuxième mesure concerne la conception des interfaces. Un système peut afficher les extraits sources, signaler son degré d’incertitude, éviter les questions suggestives, journaliser les modifications et permettre une comparaison entre l’original et la version transformée. Une simple mention indiquant qu’un contenu provient d’une IA ne suffit pas nécessairement à protéger la mémoire, comme le suggère l’expérience de 2026.[4]

Dans l’Union européenne, l’article 50 du règlement sur l’intelligence artificielle prévoit des obligations de transparence pour certains contenus synthétiques. Les fournisseurs doivent notamment permettre le marquage et la détection des contenus générés ou manipulés, tandis que les déployeurs de systèmes produisant des hypertrucages doivent en divulguer la nature artificielle, sous réserve des exceptions prévues. Ces règles améliorent l’identification du contenu, mais elles ne garantissent pas son exactitude ni l’absence d’effet sur la mémoire.[6]

Le RGPD reste également pertinent lorsque les assistants traitent des photographies, des enregistrements, des données de santé ou un historique personnel. Finalité, minimisation, information des personnes, sécurité et durée de conservation doivent être définies. Pour un assistant mémoriel, l’enjeu n’est pas seulement de protéger les données stockées, mais aussi d’éviter qu’une inférence ou une reconstruction soit réintroduite comme un fait personnel certain.[7]

07

Ce qu’il faudra observer maintenant

La prochaine étape scientifique consiste à mesurer la persistance des effets. Un faux souvenir observé immédiatement après l’exposition résiste-t-il plusieurs semaines ou plusieurs mois ? La répétition, la personnalisation et le format vocal renforcent-ils le phénomène ? Les enfants, les personnes âgées ou les personnes présentant des troubles cognitifs sont-ils exposés de la même manière ?

Les futures évaluations devront comparer différentes protections : étiquette de contenu synthétique, accès aux sources, avertissement préalable, présentation des contradictions et relecture indépendante. Il faudra mesurer non seulement l’erreur du modèle, mais la manière dont l’interface redistribue la confiance entre l’archive, le système et l’utilisateur.

Les expériences disponibles permettent donc d’affirmer que des contenus générés ou reformulés par IA peuvent influencer certains souvenirs dans des conditions contrôlées. Elles ne permettent pas de conclure que l’IA réécrit systématiquement la mémoire humaine. Le véritable enjeu est plus concret : à mesure que les systèmes deviennent des médiateurs du passé, leur fiabilité doit être évaluée non seulement sur ce qu’ils produisent, mais aussi sur ce que les utilisateurs risquent ensuite de croire avoir vécu.

Pour aller plus loin

Pour prolonger cette réflexion sur la confiance, l’apprentissage, les assistants personnels et la vérification des contenus , découvrez également ces articles du blog aivancity.

Sources

[1] Cha, A. E. (15 octobre 2026). Scientists are finding AI may make us remember things that never happened. The Washington Post. Consulter l’article

[2] Pataranutaporn, P., Archiwaranguprok, C., Chan, S. W. T., Loftus, E. et Maes, P. (2025). Synthetic Human Memories: AI-Edited Images and Videos Can Implant False Memories and Distort Recollection. CHI 2025. Consulter l’étude

[3] Chan, S., Pataranutaporn, P., Suri, A., Zulfikar, W., Maes, P. et Loftus, E. F. (2024). Conversational AI Powered by Large Language Models Amplifies False Memories in Witness Interviews. Consulter la publication

[4] Sim, M., Eiger, Y. et Kohno, T. (2026). AI-Enabled Human Memory Manipulation: Misleading AI-Generated Summaries Distort Human Memory. Version intégrale déposée sur arXiv, version courte publiée à AIES 2026. Consulter l’étude

[5] Zindulka, T., Goller, S., Fernandes, D., Welsch, R. et Buschek, D. (2025). The AI Memory Gap: Users Misremember What They Created With AI or Without. Consulter l’étude

[6] Commission européenne. (2026). Article 50 du règlement européen sur l’intelligence artificielle, obligations de transparence. Consulter le règlement

[7] CNIL. Les fiches pratiques IA, obligations relatives aux traitements de données personnelles. Consultées le 15 octobre 2026. Consulter les fiches pratiques

[8] MIT Media Lab. AI and Human Psychology. Travaux sur les assistants de mémoire et les faux souvenirs. Consulté le 15 octobre 2026. Consulter les travaux

Quitter la version mobile