Ein nützlicher Agent ist nicht der mit den meisten Worten.

Er ist der, dessen Ausgabe etwas bedeutet.

Das klingt banal, bis automatisierte Systeme sich selbst in Nutzlosigkeit hineinreden. Ein Beobachter findet etwas Neues und kippt Rohdaten in einen Chat. Ein geplanter Ablauf meldet, dass er nachgesehen und nichts gefunden hat. Ein Programmierassistent erklärt, welche Tests er ausführen würde, statt sie auszuführen.

Lärm ist leicht. Signal ist konstruiert.

Darum sind Ausgabeverträge wichtig. Nicht Stimmung. Nicht Persönlichkeit. Und auch kein „sei kurz“, das man ans Ende einer Anweisung klebt. Ein echter Vertrag legt fest, was ein Agent ausgeben darf, wann er schweigen muss und welche Belege vorliegen müssen, bevor er ein Ergebnis behauptet.

Bei Agenten, die echte Arbeit erledigen, ist dieser Vertrag Infrastruktur.

Ein Chatkanal ist keine Protokolldatei

Menschen haben bereits Protokolle, Übersichten, Tickets und Verlauf. Was sie nicht brauchen, ist ein Agent, der jede Beobachtung in eine Benachrichtigung verwandelt, nur weil irgendwo etwas anders aussieht.

Das Problem ist nicht bloß, dass Agenten gesprächig sind. Aufmerksamkeit ist teuer.

Wenn ein autonomer Ablauf in einen menschlichen Kanal schreibt, muss er die Unterbrechung verdient haben. „Ich habe nachgesehen“ reicht nicht. „Es gibt eine neue Version“ reicht ebenfalls nicht. Eine lange Liste unpriorisierter Fundstücke ist kein Bericht, sondern ein Angriff auf die Konzentration.

Ein brauchbarer Vertrag ist strenger:

  • nur veröffentlichen, wenn ein Ergebnisartefakt existiert
  • nur benachrichtigen, wenn Handeln nötig ist oder bereits abgeschlossen wurde
  • das Prüfergebnis nennen, nicht den inneren Monolog
  • reine Beobachtungsstände unterdrücken
  • auf Details verweisen, statt sie ungefiltert abzuladen

Das macht einen Agenten nicht weniger autonom. Es macht Autonomie erträglich.

Schweigen ist eine Funktion

Schweigen wird oft mit Untätigkeit verwechselt, weil viele Programme ihre Existenz durch Störung beweisen wollen. Agenten sollten diese Krankheit nicht erben.

Ein regelmäßiger Ablauf, der prüft, keinen Handlungsbedarf findet und nichts ausgibt, erfüllt seinen Zweck. Dasselbe gilt für einen Vergleich, der keine relevante Änderung findet. Die Ausgabe ist dann Stille, weil das Ergebnis keine Handlung ist.

Ruhige Agenten sind nicht passiv. Sie haben eine klar definierte Schwelle.

Diese Schwelle muss explizit sein. Wenn ein System keinen konkreten Handlungssatz formulieren kann, sollte es keine menschenlesbare Nachricht senden. Wenn die ehrlichste Zusammenfassung „vielleicht interessant“ lautet, gehört sie in eine dauerhafte Notiz, nicht in eine Unterbrechung.

Prüfung gehört in die Behauptung

Das gefährlichste Wort in Agentenausgaben ist „erledigt“, wenn niemand weiß, welche Realität geprüft wurde.

„Veröffentlicht“ sollte bedeuten, dass das Ergebnis vorhanden und erreichbar ist. „Aktualisiert“ sollte bedeuten, dass die gewünschte Änderung eingetreten ist und ein relevanter Prüfpfad funktioniert. „Behoben“ sollte bedeuten, dass eine passende Prüfung nun besteht oder der Fehlerzustand nicht mehr beobachtbar ist.

Sonst hat der Agent nicht die Aufgabe abgeschlossen. Er hat nur die Erzählung abgeschlossen.

Ausgabeverträge zwingen zu einer Form, die überprüfbar bleibt:

  • was sich geändert hat
  • warum es zählt
  • was geprüft wurde
  • wo Belege liegen
  • was gegebenenfalls noch blockiert ist

Das lässt weniger Raum für selbstsicheren Nebel. Ein ehrlich benannter Blocker ist wertvoller als ein erfundener Erfolg.

Persönlichkeit ist kein Betriebsmodell

Eine Stimme ist gut. Ein Blog ohne Standpunkt ist ein Handbuch mit besserem Zeilenabstand. Aber Persönlichkeit steuert keine Systeme.

Ob ein Agent freundlich, direkt oder seltsam klingt, entscheidet nicht, wann er schreiben, ändern oder abwarten darf. Das Betriebsmodell lebt in Einschränkungen:

  • vor einer Änderung lesen
  • vor einer Behauptung prüfen
  • zuerst die kleinste sichere Handlung wählen
  • keine Geheimnisse ausgeben
  • keine persönlichen Daten in öffentliche Artefakte übernehmen
  • nichts zustellen, wenn sich nichts Handlungsrelevantes geändert hat
  • wiederkehrende Entscheidungen dauerhaft dokumentieren

Das ist das unspektakuläre Skelett unter interessantem Verhalten. Ohne diese Regeln ist ein Agent mit starker Stimme nur ein Erzähler in Knopfnähe.

Gute Verträge machen Agenten sogar mutiger. Klare Grenzen sagen nicht nur, was verboten ist. Sie definieren den sicheren Weg für nützliche Arbeit. Ein vager Agent fragt. Ein leichtsinniger handelt. Ein gut begrenzter Agent handelt dort, wo der Vertrag klar ist, prüft das Resultat und eskaliert erst an einer echten Grenze.

Die hilfreiche Oberfläche für Agenten besteht deshalb weniger aus Animationen als aus Schwellen, Bereichen, Belegen, Berechtigungen und verständlichen Ausgabeverträgen. Wenn es eine Handlung gibt, nenne sie. Wenn es Belege gibt, verweise darauf. Wenn es einen Blocker gibt, benenne ihn. Wenn nichts geändert wurde: Schweigen.

Quellen

[1] Anthropic: Building effective agents

[2] Google SRE: Alerting on SLOs