Zum Inhalt springen

Blog

Produktentwicklung & Technologie

Design für KI-Agenten: Freigaben, Undo und die Arbeit des Agenten sichtbar machen

Gestalten Sie die Oberfläche eines KI-Agenten um eine Schleife: Plan vorab zeigen, vor Schreibzugriffen freigeben, handeln, jeden Schritt protokollieren und Undo leicht machen. Muster aus PAIR und HAX.

8 Min. Lesezeit
Gerasterte Illustration einer Marmorhand, die auf dem Hebel einer steinernen Kanalschleuse ruht und einen Strom von Schriftzeichen zurückhält, mit einem einzelnen rosafarbenen Hebel.
Facebook-Logo
X-Logo
LinkedIn-Logo
Reddit-Logo
Telegram-Logo

Gestalten Sie die Oberfläche um eine Schleife: Der Agent zeigt vorab seinen Plan, der Nutzer gibt alles frei, was schreibt oder sendet, der Agent handelt, jeder Schritt landet in einem lesbaren Aktivitätsprotokoll, und Undo ist griffbereit. Googles People + AI Guidebook und Microsofts Guidelines for Human-AI Interaction weisen in dieselbe Richtung: kalibriertes Vertrauen, sichtbares Schlussfolgern und einfache Korrektur.

Stellen Sie sich eine Operations-Leiterin vor, die den neuen In-App-Agenten bittet, „die doppelten Kundendatensätze aus dem Import der letzten Woche zu bereinigen“. Der Agent findet einige hundert wahrscheinliche Treffer, führt sie zusammen und meldet „Erledigt“. Zwei Tage später bemerkt der Vertrieb, dass zwei verschiedene Unternehmen mit ähnlichen Namen nun ein Datensatz sind, wobei Kontakte und Rechnungen des einen Unternehmens dem anderen zugeordnet sind. Niemand hat den Plan gesehen, niemand hat die Zusammenführung freigegeben, und es gibt keinen Button, der die Datensätze zurückbringt.

Das Modell hat in etwa getan, was verlangt wurde. Versagt hat die Oberfläche. Sie gab dem Agenten die Macht zu handeln, ohne der Person eine Möglichkeit zu geben, zu sehen, zu steuern oder rückgängig zu machen, was er getan hat.

Was unterscheidet das Design für einen KI-Agenten vom Design für einen Chatbot?

Ein KI-Agent führt Aktionen in Ihrem Produkt aus, daher verändern seine Fehler Daten, statt nur eine schlechte Antwort zu liefern. Ein KI-Agent ist Software, die mit einem Modell mehrstufige Aufgaben plant und ausführt, indem sie Tools aufruft, etwa Datensätze aktualisiert, Nachrichten sendet oder Tickets anlegt.

Die Ausgabe eines Chatbots ist Text, den ein Mensch liest; die Ausgabe eines Agenten ist ein verändertes System. Das verschiebt die Designfrage von „Ist die Antwort gut?“ zu „Was hat er getan, war das erlaubt, und können wir es zurücknehmen?“

Zwei öffentliche Sammlungen von Designleitlinien helfen hier, auch wenn beide älter sind als heutige Agenten: das People + AI Guidebook von Googles People + AI Research (PAIR) Team und Microsofts Guidelines for Human-AI Interaction, 18 Leitlinien, die erstmals in einem CHI-Paper von 2019 vorgestellt und mit Designmustern im HAX Toolkit veröffentlicht wurden. Ihre Hinweise zu Vertrauen, Kontrolle und Korrektur passen eng zur Schleife eines Agenten.

Was ist die Freigabeschleife für einen KI-Agenten?

Die Freigabeschleife besteht aus fünf Schritten, die die Oberfläche bei jeder Aufgabe durchläuft: Planvorschau, Freigabe, Handlung, Aktivitätsprotokoll und Undo. Jeder Schritt beantwortet eine Frage, die der Nutzer sonst zu spät stellt.

Draufsicht auf ein steinernes Planetarium mit fünf Scheiben auf einer Umlaufbahn, eine marmorne Fingerspitze ruht auf einer rosafarbenen Scheibe
  1. Planvorschau. Bevor er etwas tut, zeigt der Agent in einfacher Sprache, was er vorhat: welche Datensätze, welche Tools, welche Änderungen. Ist die Anfrage mehrdeutig, fragt er zuerst nach. Das ist HAX-Leitlinie 10, Scope services when in doubt, deren erstes Muster „Vor dem Handeln disambiguieren“ lautet.

  2. Freigabe. Der Nutzer bestätigt, bearbeitet oder verwirft den Plan vor jedem Schreibzugriff. Das PAIR-Kapitel Errors + Graceful Failure sagt: „Bei höheren situativen Einsätzen sollte es eine zusätzliche Kontrolle geben.“ Ein Freigabeschritt ist diese Kontrolle, platziert dort, wo sie noch Schaden verhindert.

  3. Handlung. Der Agent führt den freigegebenen Plan aus und zeigt Fortschritt und seine Sicherheit. HAX-Leitlinie 2, Make clear how well the system can do what it can do, verlangt: „Helfen Sie dem Nutzer zu verstehen, wie oft das KI-System Fehler machen kann“, was hier heißt, die Schritte zu kennzeichnen, bei denen der Agent am unsichersten ist.

  4. Aktivitätsprotokoll. Jede Aktion wird festgehalten: was sich geändert hat, wann und warum der Agent sie gewählt hat. Das ist HAX-Leitlinie 11, Make clear why the system did what it did: „Ermöglichen Sie dem Nutzer den Zugriff auf eine Erklärung, warum sich das KI-System so verhalten hat.“

  5. Undo. Jede umkehrbare Aktion lässt sich aus dem Protokoll zurücknehmen, eine einzelne Aktion oder ein ganzer Durchlauf auf einmal. HAX-Leitlinie 9, Support efficient correction, nennt „Automatisierte Aktionen rückgängig machen“ als eines ihrer Muster.

Welche Agentenaktionen brauchen eine Freigabe, bevor sie laufen?

Aktionen, die schreiben, senden, Geld ausgeben oder löschen, brauchen eine Freigabe; Aktionen, die nur lesen oder entwerfen, in der Regel nicht. Bei allem eine Freigabe zu verlangen, trainiert Menschen darauf, „Freigeben“ zu klicken, ohne zu lesen, also stimmen Sie die Reibung auf das Risiko ab.

Das PAIR-Kapitel Feedback + Control beschreibt „eine wesentliche Balance zwischen Automatisierung und Nutzerkontrolle“. Diese Liste ist eine Möglichkeit, diese Balance zu treffen.

  • Lesen. Beispiel: Datensätze durchsuchen, einen Thread zusammenfassen. Umkehrbar: Nichts umzukehren. Oberflächenmuster: Ohne Nachfrage ausführen; im Protokoll anzeigen.

  • Entwerfen. Beispiel: Eine E-Mail oder einen Bericht schreiben, aber nicht senden. Umkehrbar: Ja, den Entwurf verwerfen. Oberflächenmuster: Ausführen, dann zur Prüfung vorlegen.

  • Umkehrbarer Schreibzugriff. Beispiel: Tickets taggen, ein Feld aktualisieren, mit erhaltener Historie zusammenführen. Umkehrbar: Ja, wenn Sie den alten Wert speichern. Oberflächenmuster: Planvorschau mit einer Freigabe für den Stapel; Undo aus dem Protokoll.

  • Nicht umkehrbarer Schreibzugriff. Beispiel: Hartes Löschen, Überschreiben ohne Historie. Umkehrbar: Nein. Oberflächenmuster: Freigabe auf Elementebene, eine klare Warnung und eine eingetippte oder zweite Bestätigung.

  • Externe Wirkung. Beispiel: Eine E-Mail senden, eine Nachricht posten, eine Zahlung leisten. Umkehrbar: Nein, sobald sie draußen ist. Oberflächenmuster: Freigabe für den genauen Inhalt und Empfänger, jedes Mal.

Zwei Verfeinerungen helfen. Erstens: Lassen Sie Nutzer den Schwellenwert selbst festlegen, das ist HAX-Leitlinie 17, Provide global controls: „Erlauben Sie dem Nutzer, global anzupassen, was das KI-System überwacht und wie es sich verhält.“ Zweitens: Geben Sie Pläne frei, keine Tastenanschläge. Eine Freigabe für „diese Paare zusammenführen, hier ist die Liste“ ist besser als ein Pop-up für jedes Paar.

Wie sollte ein Agent seine Arbeit und seine Sicherheit zeigen?

Ein Agent sollte seine Arbeit als schrittweises Aktivitätsprotokoll zeigen, das ein nicht-technischer Nutzer lesen kann, und seine Sicherheit als Hinweise in einfacher Sprache zu den konkreten Elementen, bei denen er unsicher ist. Ein einziges „Konfidenz: 87 %“ hilft niemandem zu entscheiden, was zu prüfen ist.

Das Aktivitätsprotokoll für Menschen schreiben, nicht für Entwickler

Ein Aktivitätsprotokoll ist eine fortlaufende, mit Zeitstempel versehene Aufzeichnung jeder Aktion des Agenten, der berührten Daten und der angegebenen Begründung. Schreiben Sie jeden Eintrag als Satz: „Acme Ltd mit Acme Limited zusammengeführt, weil die USt-IdNrn. übereinstimmen.“ Verlinken Sie jeden Eintrag mit dem Datensatz, den er geändert hat, und gruppieren Sie Einträge nach Durchlauf, damit eine Person eine Aufgabe als Ganzes prüfen kann.

Sicherheit dort zeigen, wo sie eine Entscheidung verändert

PAIRs Kapitel Explainability + Trust sagt: „Konfidenzanzeigen helfen Nutzern einzuschätzen, wie viel Vertrauen sie der KI-Ausgabe schenken sollten“, und warnt: „Numerische Konfidenzindikatoren sind riskant, weil sie voraussetzen, dass Ihre Nutzer ein gutes Grundverständnis von Wahrscheinlichkeit haben.“ In der Praxis sortieren Sie den Plan so, dass die unsichersten Elemente zuerst kommen, kennzeichnen sie in Worten („Namen stimmen überein, Adressen nicht“) und wählen nur die Elemente vor, bei denen der Agent sich sicher ist. Dasselbe Kapitel nennt das Ziel klar: Nutzer sollen „ihr Vertrauen richtig kalibrieren“, dem System in manchen Situationen vertrauen und es in anderen gegenprüfen.

Wie gestalten Sie Undo für Aktionen, die ein Agent bereits ausgeführt hat?

Gestalten Sie Undo zuerst ins Datenmodell und dann in den Button: Eine Aktion lässt sich nur zurücknehmen, wenn das System festgehalten hat, was es geändert hat. Speichern Sie bei jedem Schreibzugriff des Agenten den vorherigen Wert, den Agentendurchlauf, der ihn geändert hat, und die Zeit.

Zwei marmorne Finger ziehen einen einzelnen rosafarbenen Faden aus der letzten Reihe eines gewebten Teppichs auf einem Webstuhl

Drei Ebenen von Undo

  • Eine Aktion rückgängig machen: einen einzelnen Eintrag aus dem Aktivitätsprotokoll umkehren, etwa ein Paar wieder trennen.

  • Einen Durchlauf rückgängig machen: alles umkehren, was eine einzelne Aufgabe getan hat, in umgekehrter Reihenfolge.

  • Übernehmen: den Agenten stoppen und die Aufgabe an die Person zurückgeben. PAIRs Kapitel Errors + Graceful Failure stellt fest: „Wenn ein KI-System scheitert, ist der einfachste Weg oft, den Nutzer übernehmen zu lassen.“

Wenn Undo unmöglich ist, die Kontrolle nach vorn verlegen

Eine gesendete E-Mail oder eine abgeschlossene Zahlung lässt sich nicht zurückrufen. Dafür muss die Absicherung vor der Aktion sitzen: Freigabe für den genauen Inhalt, eine kurze Verzögerung mit Abbruchoption vor dem Senden oder ein Entwurf, den die Person selbst sendet. Seien Sie in der Oberfläche ehrlich, welche Aktionen endgültig sind, damit „Rückgängig“ nie dort erscheint, wo es nicht funktionieren kann.

Woran erkennen Sie, ob die Agentenoberfläche funktioniert?

Sie funktioniert, wenn Menschen drei Fragen beantworten können, ohne einen Entwickler zu fragen: Was hat der Agent getan, warum, und wie mache ich es rückgängig? Testen Sie mit echten Nutzern an echten Aufgaben und beobachten Sie, wo sie zögern.

Checkliste vor dem Launch

  • Jeder Schreibzugriff, jedes Senden, Ausgeben oder Löschen hat eine Planvorschau, die der Nutzer bearbeiten kann.

  • Die Freigabe-Reibung passt zur Aktionsart, und Nutzer können sie anpassen.

  • Unsichere Elemente sind in Worten gekennzeichnet und stehen zuerst.

  • Jede Aktion erscheint in einem lesbaren Aktivitätsprotokoll, verlinkt mit dem geänderten Datensatz.

  • Umkehrbare Aktionen lassen sich einzeln und pro Durchlauf rückgängig machen.

  • Nicht umkehrbare Aktionen sind vor der Freigabe klar als endgültig gekennzeichnet.

  • Ein Nutzer kann den Agenten mitten im Durchlauf stoppen und übernehmen.

  • Ablehnungen und Undos werden erfasst, damit das Team sieht, bei welchen Aufgabenarten der Agent Fehler macht.

Der letzte Punkt ist, wie sich die Schleife mit der Zeit verbessert. Eine Häufung von Undos bei einer Aufgabenart sagt, dass die Planvorschau eine Frage stellen sollte, die sie derzeit nicht stellt.

Wie wir bei Vizio AI vorgehen

Wir gestalten die Schleife, bevor wir die Screens gestalten. Gemeinsam mit dem Kunden listen wir jede Aktion auf, die der Agent ausführen darf, und ordnen jede einer der Aktionsarten in der obigen Liste zu. Diese Liste entscheidet, wo Freigaben sitzen, was das Aktivitätsprotokoll erfassen muss und welche Aktionen gespeicherte Historie brauchen, damit Undo möglich ist.

Dann prototypen wir Planvorschau und Aktivitätsprotokoll mit realistischen Daten, einschließlich unsauberer und mehrdeutiger Fälle, und legen sie den Menschen vor, die den Agenten beaufsichtigen werden. Wir testen, ob sie vor der Freigabe sagen können, was der Agent tun wird, und es hinterher ohne Hilfe rückgängig machen können. Die Entwicklung baut Historie und Undo-Pfade ab dem ersten Sprint ins Datenmodell ein, denn sie später nachzurüsten bedeutet meist einen Neuaufbau.

Das gehört zur Art, wie unser Venture Studio KI-Produkte baut. Wenn Ihre App noch Gestalt annimmt, behandelt Warum Product Discovery vor der Entwicklung stattfinden sollte den Schritt vor alldem. Wenn Sie sie mit KI-Coding-Tools gebaut haben, ist Ihre KI-gebaute App läuft in der Demo. Das bricht bei echten Nutzern die Launch-Checkliste.

Quellen

FAQs.

01

02

03

04

05

Mehr lesen.

Dithered illustration of two marble hands pulling a mason's line taut between stakes across bare ground at dawn, the first course of stones laid along it and a pink knot at the nearest stake.
Your First 30 Days With a Product Studio: What Happens Week by Week
7 Min.

The first 30 days with a product studio: week one sets access and goals, week two tests the riskiest assumption, weeks three and four ship a first slice.

Dithered illustration of a marble hand opening the case of a bracket clock to show a dense hidden mechanism, one small gear deep inside glowing red.
What Does an AI Agent Cost to Run? Tokens, Tools and the Hidden Line Items
6 Min.

An AI agent's running cost is model tokens across every step, plus retries, tool and search fees, hosting, monitoring and human review. Budget per task, not per token.

Dithered illustration of a fragmented marble face looking down at a jeweller's tray where gems are sorted by size, the largest stone glowing amber under a brass lamp.
AI Lead Scoring in Your CRM: Start With the Rules You Already Trust
7 Min.

Add AI lead scoring by writing down the rules sales already trusts, cleaning CRM data, then testing the AI score against those rules before reps use it.

AI-first denken.
Zukunftsschnell handeln.

Lassen Sie uns bauen, was als Nächstes kommt! Von Produktideen und intelligenten Workflows bis zu datengetriebenen Systemen und skalierbaren Growth Operations.

Strategiegespräch buchen