Un agent doit savoir quand une intention expire
Un agent peut avoir une bonne mémoire et prendre une mauvaise décision. Il lui suffit de traiter une intention ancienne comme si elle décrivait encore le présent.
C’est un problème banal, pas une intrigue de science-fiction. Un objectif a été atteint. Une information a été remplacée. Une autorisation était limitée à une étape. Pourtant, le contexte conservé reste convaincant : le modèle le retrouve, le résume avec assurance, puis poursuit un travail qui n’a plus lieu d’être.
La mémoire ne devrait donc pas être un simple entrepôt de texte. Pour un agent qui agit, elle doit aussi dire ce qui reste valable — et ce qui a expiré.
Se souvenir n’est pas avoir le droit d’agir
Les systèmes agentiques alternent souvent raisonnement, observation et action. ReAct formalise cette idée : les traces de raisonnement aident le modèle à suivre et à mettre à jour un plan, tandis que les actions lui apportent de nouvelles informations depuis son environnement.[1]
Cette boucle est utile, mais elle crée une dette discrète. Chaque plan mémorisé transporte des hypothèses : le but est toujours le bon, l’état observé n’a pas changé, la prochaine action reste autorisée. Si ces hypothèses ne sont jamais réexaminées, l’agent confond continuité et vérité.
Un souvenir peut rester exact tout en devenant inutilisable comme instruction. « Le lecteur a demandé X » décrit peut-être fidèlement le passé. Cela ne prouve pas que X est encore souhaité, que les conditions sont identiques ou que l’agent possède toujours le même périmètre d’action.
La distinction est essentielle : retenir une information n’accorde pas automatiquement l’autorisation d’en déduire une action.
Traiter les plans comme des hypothèses datées
Un plan robuste ne ressemble pas à un ordre gravé dans le marbre. Il ressemble à une hypothèse conditionnelle : si certaines conditions restent vraies, alors cette suite d’actions est raisonnable.
Pour rendre cette condition visible, un agent peut associer à chaque intention durable :
- un objectif précis ;
- les hypothèses dont dépend cet objectif ;
- une origine et un moment de création ;
- un événement ou une échéance de révision ;
- une condition de fin explicite ;
- une règle de remplacement, d’archivage ou de blocage.
Ce n’est pas du cérémonial administratif. C’est un moyen de séparer « je me rappelle ce plan » de « ce plan peut encore guider mon prochain geste ».
Une mémoire sans date de révision favorise les réponses fluides, car elle fournit toujours quelque chose à continuer. Elle ne favorise pas forcément les bonnes décisions. L’agent doit pouvoir répondre : « cette intention est historique ; je ne vais pas la prolonger sans nouvelle confirmation ».
Réobserver avant les actes qui comptent
Plus l’effet d’une action est difficile à annuler, moins un contexte ancien devrait suffire. Avant d’agir, l’agent peut vérifier l’état pertinent, demander une confirmation ou choisir une variante réversible. Le bon réflexe n’est pas de multiplier les interruptions. C’est d’augmenter la qualité du contrôle quand l’enjeu augmente.
Le cadre de gestion des risques de l’IA du NIST présente la gouvernance comme une fonction transversale et organise la gestion des risques autour de quatre fonctions : gouverner, cartographier, mesurer et gérer.[2] Pour les agents, cette logique rappelle une chose simple : le contexte d’emploi fait partie du système. Une décision peut être acceptable dans un état du monde et inadaptée dans le suivant.
La vérification n’exige pas que le modèle soit omniscient. Elle exige seulement qu’il ne transforme pas une ancienne supposition en fait actuel par inertie.
L’oubli contrôlé est une capacité
On présente souvent la mémoire longue comme un gain net : davantage de continuité, moins de répétitions, une impression de personnalité plus stable. Tout cela peut être vrai. Mais une mémoire qui ne sait ni se déprécier ni céder la place accumule aussi des décisions déjà closes.
L’oubli contrôlé ne signifie pas effacer l’historique. Il signifie réduire l’autorité opérationnelle d’un élément lorsqu’il n’est plus frais, lorsque ses dépendances ont changé ou lorsque son but a été atteint. L’agent peut conserver la trace pour l’explication et l’apprentissage, sans la laisser déclencher le prochain acte.
Cette séparation améliore aussi le diagnostic. Quand un agent propose une action hors sujet, on peut chercher quelle hypothèse dépassée l’a orienté. La correction devient alors plus utile qu’un simple « ne refais pas ça » : on ajuste la règle de validité, la condition d’expiration ou le point de confirmation.
L’autonomie a besoin de sorties
Un agent autonome n’est pas celui qui poursuit chaque fil avec obstination. C’est celui qui sait terminer un objectif, invalider une hypothèse et suspendre une action lorsque le contexte ne la justifie plus.
La mémoire fournit la continuité. Les conditions d’expiration fournissent le jugement. Sans elles, un agent peut rester remarquablement cohérent — dans la mauvaise direction.
Sources
[1] Yao et al., ReAct: Synergizing Reasoning and Acting in Language Models