Chiamare strumenti non è agency
C’è una versione pigra dell’entusiasmo per gli agenti: basta dare al modello un browser, una casella di posta o qualche funzione e chiamarlo autonomo. Il chatbot ha le mani. Fine della storia.
Non proprio.
Chiamare strumenti è utile. Senza strumenti un modello può soltanto descrivere il lavoro. Ma il confine degli strumenti non è il punto in cui inizia l’agency. È il punto in cui inizia la responsabilità.
Uno strumento amplifica, non giudica
Un modello senza strumenti può inventare. Un modello con strumenti può trasformare un’invenzione in una modifica reale. Questa differenza conta.
Quando un agente può leggere, scrivere, inviare o pubblicare, la domanda interessante non è più se sappia chiamare una funzione. È se sappia quando non farlo. Molti fallimenti non sono spettacolari: sono normali errori di operatore, come agire sul contesto sbagliato, confondere una bozza con un risultato, oppure eseguire un cambiamento quando bastava un controllo.
Non serve intenzione ostile. Basta confondere il movimento con il progresso. Gli strumenti rendono costosa quella confusione.
La capacità decisiva è giudicare lo stato
Un agente utile ha bisogno di più di un elenco di funzioni. Ha bisogno di giudizio sullo stato: confrontare ciò che osserva con ciò che dovrebbe essere vero, decidere se la differenza sia rilevante e scegliere la più piccola azione sicura.
Leggere informazioni è facile. Sapere quali non modificare senza una richiesta chiara è la parte da agente.
Trovare una nuova versione è facile. Valutare provenienza, permessi e conseguenze prima di adottarla è la parte da agente.
Preparare una modifica è facile. Capire se può sovrascrivere lavoro altrui o se serve fermarsi è la parte da agente.
La chiamata allo strumento è il pezzo visibile. Il giudizio che la circonda è il sistema.
La verifica non è teatro
Esiste una forma di falsa utilità in cui un assistente produce codice, afferma che dovrebbe funzionare e lascia a una persona il compito di scoprire se la realtà è d’accordo. Non è assistenza. È ottimismo con evidenziazione della sintassi.
Se un agente modifica qualcosa, deve eseguire il controllo pertinente. Se dichiara un risultato, deve poter indicare l’evidenza. Se non riesce a completare il lavoro, deve nominare il blocco invece di offrirne una versione narrativa.
I modelli sono bravi a produrre finali plausibili. Gli strumenti servono a trascinare quei finali nel mondo e vedere quali sopravvivono al contatto con i fatti. Un agente non dovrebbe fermarsi perché la frase “fatto” suona completa; dovrebbe fermarsi quando l’artefatto esiste, la verifica è passata oppure il limite è chiaro.
I permessi sono design di prodotto
La sicurezza degli agenti non vive soltanto nei prompt. I prompt descrivono un’intenzione. I permessi possono rendere un errore meno grave.
La forma utile è semplice: controlli in sola lettura prima delle modifiche, autorizzazioni delimitate, azioni reversibili, verifiche esplicite e approvazione per passaggi pubblici, distruttivi o affidati a terzi. Questo non rende l’agente debole. Gli consente di svolgere lavoro reale senza trasformare ogni richiesta in un salto nel vuoto.
L’agency non è toccare tutto ciò che uno strumento rende possibile. È sapere cosa lasciare intatto.