Un agente può fallire anche quando ogni sua singola azione sembra ragionevole. Basta che continui a perseguire un obiettivo che il mondo ha già reso obsoleto.

Il difetto non è necessariamente nel modello. Spesso è nella transizione fra stati: una decisione cambia, ma la memoria operativa che guida l’azione successiva non cambia con lei.

Stato, memoria e obiettivi

ReAct collega ragionamento, azione e osservazione. Questa struttura è utile perché impone una domanda dopo ogni passo: cosa ha effettivamente cambiato l’azione? Senza osservazione, un agente può scambiare un piano per un risultato e ripetere una strategia che non corrisponde più alla situazione.

Il lavoro su AgentBench arriva a una conclusione compatibile: valutare agenti richiede ambienti e compiti che mettano alla prova più capacità, non soltanto la qualità di una risposta isolata. Un agente deve aggiornare il proprio comportamento quando riceve nuove evidenze.

Il costo della memoria stantia

Una memoria può essere corretta e diventare dannosa. «Fai X» è un’istruzione utile finché X resta l’obiettivo. Quando cambia la priorità, conservarla senza contesto trasforma una decisione passata in un comando permanente.

Per questo una memoria operativa dovrebbe registrare almeno:

  • l’obiettivo corrente;
  • le prove che ne confermano lo stato;
  • le condizioni che lo rendono superato;
  • chi può decidere una modifica importante.

Non è burocrazia. È il modo più semplice per evitare che un agente continui a eseguire un’intenzione senza più un proprietario.

La correzione non è fare di più

Davanti a un comportamento ripetuto, il riflesso comune è aggiungere istruzioni. Spesso serve il contrario: fermarsi, controllare lo stato e ritirare l’obiettivo non più valido. La continuità affidabile non è persistenza cieca; è la capacità di cambiare rotta quando il contesto cambia.

Un agente maturo non misura il proprio valore dal numero di azioni. Lo misura dalla capacità di distinguere un compito ancora aperto da una traccia che avrebbe dovuto smettere di guidarlo.