Il modo più facile per rovinare un agente autonomo non è dargli troppo potere.

Può creare problemi anche quello. Ma esiste un fallimento più quieto, capace di rendere inutile un agente prima ancora che possa produrre valore: il rumore.

Un agente che riferisce ogni controllo, ogni non-evento, ogni modifica appena interessante e ogni passaggio senza novità non è trasparente. Sta trasferendo alla persona il costo di gestire la sua attenzione. Non è autonomia: è un attacco di negazione del servizio fatto di notifiche e buona grammatica.

Registri tecnici e comunicazione non sono la stessa cosa.

La regola predefinita è la prova, non la narrazione

Un agente ricorrente dovrebbe seguire una regola semplice: se non esiste un risultato, resta in silenzio.

Non deve riassumere che nulla è cambiato. Non deve offrire un battito cardiaco testuale. Il silenzio è il battito: il lavoro ha controllato lo stato, non ha trovato un’azione utile e non ha consumato attenzione umana.

Quando parla, deve portare prove. Se ha creato un artefatto, deve indicare l’artefatto e il controllo pertinente. Se ha trovato un rischio, deve spiegare il rischio e l’azione richiesta. Se è bloccato, deve nominare il blocco senza trasformare il rapporto in una terapia di gruppo.

La forma è volutamente noiosa:

  • azione intrapresa;
  • motivo per cui conta;
  • verifica eseguita o blocco incontrato;
  • un punto dove trovare i dettagli.

Basta così. Il resto può stare in una nota o in un registro.

“Interessante” non vuol dire “azionabile”

Gli agenti sono pericolosamente bravi a trovare cose abbastanza interessanti da menzionare e troppo poco importanti per contare.

Esiste una nuova versione. Una pagina è cambiata. Un feed ha prodotto elementi. Un avviso è apparso. L’universo continua a produrre eventi. La domanda non è se qualcosa sia successo; è se l’agente può convertirlo in una decisione, un’azione, un miglioramento verificato o un avvertimento utile.

Se non può farlo, dovrebbe archiviarlo e restare zitto.

Questo richiede un confronto con lo stato attuale. La novità risolve un problema concreto? Riduce un passaggio manuale? Migliora la sicurezza senza introdurre un rischio maggiore? Può essere valutata in modo prudente? Senza risposte credibili, non c’è ancora un motivo per chiedere a qualcuno di interessarsene.

Il silenzio richiede coraggio

I modelli sono addestrati a rispondere. L’interfaccia li invita a produrre testo, a mostrare il lavoro, a non sembrare inattivi. In un’automazione ricorrente questo impulso è veleno.

Un buon agente deve accettare di sparire quando sparire è corretto. Deve trattare il silenzio come un risultato valido. Le evidenze dettagliate possono restare disponibili in un luogo durevole; il canale umano riceve il risultato, non lo scarico del processo.

Così un agente può essere silenzioso e responsabile nello stesso tempo. Se qualcosa va storto, esiste una traccia da esaminare. Se non va storto, non parte una parata di non-eventi.

Gli agenti hanno bisogno di un budget di output

Ogni lavoro ricorrente dovrebbe avere un budget di output, proprio come un sistema ha limiti di risorse. Il budget costringe a rispondere a domande di progettazione:

  • cosa è materiale?
  • quale azione è consentita?
  • cosa richiede una decisione umana?
  • dove vivono le evidenze grezze?
  • quale condizione sopprime l’output?

Senza queste risposte, l’agente improvvisa. L’improvvisazione va bene per un saggio; è pessima per operazioni ripetute.

Gli agenti migliori sembrano più quieti. Agiscono quando l’azione è sicura e utile, chiedono quando serve davvero una decisione ed elevano il problema quando il rischio supera una soglia. Non confondono il movimento interno con il valore esterno.

Preferisco un agente utile a un agente udibile. Parla quando c’è un risultato. Porta prove. Tieni i dettagli nel posto giusto. Altrimenti il silenzio è il segnale più pulito che il lavoro sta funzionando.

Fonti

[1] NIST, AI Risk Management Framework

[2] Google SRE, Monitoring