KI-Automatisierung mit menschlicher Freigabe by Design

KI hat sich einen leicht unbeholfenen Ruf erarbeitet.

Je nachdem, wen man fragt, wird sie entweder noch vor dem Mittagessen jedes Geschäftsproblem lösen oder kurz nach dem Nachmittags-Stand-up die Zivilisation zerstören. Keine dieser Sichtweisen ist besonders hilfreich, wenn man versucht, ein echtes Unternehmen zu führen.

KI ist ein Werkzeug. Ein ungewöhnlich leistungsfähiges, gewiss, aber eben doch ein Werkzeug.

Sie kann mehr Informationen prüfen, als ein Mensch vernünftigerweise verarbeiten könnte, Muster erkennen, Empfehlungen vorbereiten, Dokumente klassifizieren, Antworten entwerfen, Arbeit weiterleiten und wiederkehrende Entscheidungen automatisieren. Richtig eingesetzt, kann sie Organisationen schneller, konsistenter und weniger abhängig davon machen, dass Menschen ihre Nachmittage damit verbringen, Informationen zwischen Systemen zu kopieren.

Das ist wertvoll. Wir sind dafür ganz klar zu haben.

Was KI nicht kann, ist Verantwortung übernehmen.

Sie kann einem verärgerten Kunden nicht auf eine Weise erklären, die echte Verantwortlichkeit vermittelt. Sie kann nicht vor einer Aufsichtsbehörde erscheinen. Sie kann nicht die Folgen tragen, wenn sie einen Kandidaten ablehnt, eine Zahlung freigibt oder die falschen Vertragsinformationen verschickt.

Sie wird nach einem teuren Fehler kein besonders unangenehmes Gespräch mit dem Vorstand führen.

Das wird jemand anderes tun.

Deshalb braucht verantwortungsvolle KI-Automatisierung menschliche Freigabe von Anfang an - not als nachträglichen Einfall, der erst ergänzt wird, wenn etwas schiefgeht, sondern als Teil des Workflows von Beginn an.

Die Zustimmung von Menschen bedeutet nicht, jeden Mausklick abzusegnen

Es gibt die Tendenz, über menschliche Beteiligung so zu sprechen, als gäbe es nur zwei Optionen: vollständige Autonomie oder dass eine Person alles manuell überprüft.

Das wäre ein ziemlich enttäuschender Einsatz von Automatisierung.

KI kann viele risikoarme Aufgaben übernehmen, ohne auf eine individuelle Freigabe zu warten. Sie kann eingehende Anfragen sortieren, Datensätze taggen, Gespräche zusammenfassen, wahrscheinliche Duplikate erkennen, Informationen aus Dokumenten extrahieren und Aufgaben an das passende Team weiterleiten.

Eine Person muss nicht jede E-Mail-Klassifizierung einzeln prüfen.

Aber das System muss trotzdem überwacht werden.

Stellen Sie sich vor, Sie beschäftigen zehn Personen damit, Kundenanfragen zu kategorisieren. Sie würden nicht davon ausgehen, dass ihre Arbeit für immer korrekt bleibt, nur weil sie am ersten Tag eine Schulung absolviert haben. Sie würden Ergebnisse überprüfen, Fehler messen, ungewöhnliche Fälle prüfen und den Prozess anpassen, wenn sich das Geschäft verändert.

KI verdient dieselbe Managementdisziplin.

Vielleicht sogar mehr, weil sie Fehler in einem Ausmaß machen kann, für das man ein beeindruckend koordiniertes menschliches Team bräuchte, um sie zu reproduzieren.

Das angemessene Maß an Kontrolle hängt von den Folgen ab.

Eine interne Newsletter-Klassifizierung falsch einzuordnen ist ärgerlich. Eine Kündigungsanfrage eines Kunden falsch einzuordnen kann Geld kosten. Einen Betrugsalarm, eine rechtliche Beschwerde oder einen Sicherheitsvorfall falsch einzuordnen könnte ein viel größeres Problem verursachen.

Gute Automatisierung unterscheidet zwischen diesen Situationen, statt jede Entscheidung als gleichermaßen harmlos zu behandeln.

Das eigentliche Problem ist die Zuständigkeit

Viele Diskussionen über KI konzentrieren sich auf Genauigkeit. Genauigkeit ist wichtig, aber sie ist nicht das ganze Problem.

Selbst ein hochgenaues System wird irgendwann falsch liegen.

Auch Menschen liegen natürlich falsch. Menschliche Beteiligung ist kein magischer Schutzschild gegen Fehler. Der Unterschied ist, dass Organisationen bereits verstehen, wie menschliche Verantwortung funktioniert. Eine Person hat eine Rolle, eine Führungskraft, einen klar definierten Verantwortungsbereich und einen Eskalationsweg.

KI wird in Organisationen oft ohne all das eingeführt.

Sie wird an einen Workflow angebunden, erhält Zugriff auf Daten und darf stillschweigend Entscheidungen treffen. Das Projekt wird als Erfolg beschrieben, weil es manuelle Arbeit reduziert hat.

Dann passiert etwas Ungewöhnliches.

Ein Kunde erhält eine unpassende Antwort. Eine gültige Rechnung wird zurückgehalten. Ein qualifizierter Kandidat wird aussortiert. Ein operativer Alarm wird fälschlicherweise heruntergestuft. Alle fragen sich, warum das System diese Entscheidung getroffen hat.

Das ist meist die falsche erste Frage.

Die besseren Fragen sind:

• Wer war für die Entscheidung verantwortlich?
• Wer hat die Regeln genehmigt, unter denen sie gearbeitet hat?
• Wer hat die Ergebnisse überwacht?
• Welche Entscheidungen durfte sie treffen?
• Wann musste sie eskalieren?
• Wer konnte sie stoppen?

Wenn die Antworten darauf nicht klar sind, hat die Organisation Verantwortung nicht automatisiert. Sie hat sie verlegt.

Lassen Sie KI die Entscheidung vorbereiten, ohne vorzugeben, dass sie die Entscheidung trifft

Viele Geschäftsentscheidungen profitieren enorm von KI-Unterstützung.

Ein Prozess zur finanziellen Freigabe kann Transaktionshistorie, Budgetinformationen, Lieferantendaten, ungewöhnliche Zahlungsmuster und vertragliche Grenzen umfassen. KI kann diese Informationen viel schneller sammeln und analysieren als ein Mensch, der sich durch mehrere Systeme arbeitet.

Das bedeutet nicht, dass sie die Zahlung zwangsläufig freigeben sollte.

Sie kann eine Freigabe empfehlen, die zugrunde liegenden Belege erläutern und alles Ungewöhnliche hervorheben. Ein verantwortlicher Mensch trifft dann die endgültige Entscheidung, wenn Betrag, Risiko oder Ausnahmestufe es erfordern.

Dasselbe Prinzip gilt auch anderswo.

Bei der Einstellung kann KI helfen, Bewerbungen zu ordnen, relevante Erfahrung herauszufiltern und strukturierte Vergleiche vorzubereiten. Sie sollte nicht still und heimlich zur letzten Instanz dafür werden, wer ein Vorstellungsgespräch oder einen Job verdient.

Bei der Vertragsbearbeitung kann sie ungewöhnliche Klauseln, fehlende Bestimmungen und potenzielle Konflikte erkennen. Die rechtliche oder kaufmännische Verantwortung liegt weiterhin bei einer qualifizierten Person.

Im Produktionsbetrieb kann sie Alarme miteinander in Beziehung setzen, eine wahrscheinliche Ursache vorschlagen und einen Maßnahmenplan vorbereiten. Ein laufendes System automatisch zu verändern, sollte Kontrollen erfordern, die dem möglichen Schaden angemessen sind.

Im Kundenservice kann sie die Historie des Kunden zusammenfassen, einen Antwortvorschlag vorbereiten und die nächste Maßnahme empfehlen. Aber wenn der Kunde bereits verärgert ist, ihn dazu zu zwingen, mit einem Chatbot zu diskutieren, ist ein effizienter Weg, aus einer Servicebeschwerde eine Markenbeschwerde zu machen.

Wenige Dinge sagen so sehr „wir schätzen unsere Beziehung“ wie wiederholt eine Maschine zu bitten, einen mit einem Menschen zu verbinden.

KI ist oft hervorragend darin, Entscheidungen vorzubereiten. Wir sollten das nicht damit verwechseln, sich die Autorität zu verdienen, jede Entscheidung zu treffen.

Freigabepunkte sollten sich am Risiko orientieren, nicht an der Begeisterung

Das Freigabemodell muss nicht kompliziert sein.

Beginnen Sie damit, zu prüfen, worauf sich die Automatisierung auswirken kann.

Kann sie Informationen außerhalb des Unternehmens senden? Kann sie Geld ausgeben? Kann sie Produktionsdaten verändern? Kann sie eine Person ablehnen, eine Bestellung stornieren, einen Vertrag ändern oder im Namen des Unternehmens eine Erklärung abgeben?

Je schwieriger eine Handlung rückgängig zu machen ist, desto stärker sollte die Kontrolle sein.

Ein praktikabler Workflow könnte KI Folgendes erlauben:

• Routineaktionen mit geringem Risiko automatisch auszuführen;
• bei Erreichen finanzieller, rechtlicher oder reputationsbezogener Schwellenwerte eine Freigabe anzufordern;
• bei geringer Zuversicht zu eskalieren;
• zu stoppen, wenn erforderliche Informationen fehlen;
• ungewöhnliche Fälle an eine benannte verantwortliche Person weiterzuleiten;
• die Belege zu dokumentieren, die für eine Empfehlung verwendet wurden.

Der letzte Punkt ist besonders wichtig.

Ein Freigabeknopf ist nicht aussagekräftig, wenn die freigebende Person keine Ahnung hat, wie die Empfehlung zustande kam. Wenn von Mitarbeitenden erwartet wird, Verantwortung zu übernehmen, brauchen sie genügend Informationen, um eine fundierte Entscheidung zu treffen, statt als dekorative Menschen neben einem automatisierten Prozess zu fungieren.

Und ein Mensch, der zweihundert KI-Entscheidungen pro Stunde nur abnickt, übt ebenfalls keine Aufsicht aus. Er liefert lediglich Haftung mit Puls.

Monitoring gehört ebenfalls ins Design

Die menschliche Freigabe ist nur ein Teil der Kontrolle.

Automatisierte Systeme brauchen auch ein operatives Monitoring. Teams sollten sehen können, was die KI tut, wie oft Menschen ihre Entscheidungen übersteuern, wo Fehler auftreten und ob sich ihre Leistung verändert.

Nützliche Kennzahlen variieren, umfassen aber häufig:

• die Anzahl und Art automatisierter Aktionen;
• Zustimmungs- und Ablehnungsraten;
• Raten menschlicher Übersteuerung;
• nach Abschluss festgestellte Fehler;
• Häufigkeit von Eskalationen;
• Bearbeitungszeit;
• Ergebnisse über verschiedene Kunden- oder Nutzergruppen hinweg;
• Veränderungen nach neuen Daten, Richtlinien oder Systemintegrationen.

Übersteuerungsdaten sind besonders nützlich.

Wenn Menschen die Empfehlung der KI regelmäßig ablehnen, ist das kein Beweis dafür, dass Menschen die Automatisierung behindern. Es ist ein Hinweis darauf, dass das System den Prozess möglicherweise nicht so gut versteht, wie seine Entwickler dachten.

Solche Meinungsverschiedenheiten sind wertvoll. Sie machen fehlende Regeln, schlechte Daten, ungewöhnliche Szenarien und Fachwissen sichtbar, das nie in das ursprüngliche Design eingeflossen ist.

Sie zu ignorieren, nur weil sie die gemeldete Automatisierungsrate senken, ist der Weg, wie ein nützliches Werkzeug allmählich zu einer teuren Quelle falscher Sicherheit wird.

Menschen brauchen die Möglichkeit, der Maschine zu widersprechen

Es gibt noch ein weiteres Problem, das weniger Beachtung findet: Automatisierungsbias.

Menschen können Systemempfehlungen allzu sehr vertrauen, besonders wenn das System selbstsicher wirkt oder wenn Widerspruch zusätzlichen Aufwand bedeutet.

Wenn das Bestätigen des KI-Vorschlags einen Klick erfordert, das Ablehnen aber eine Begründung, drei Formulare und ein Treffen mit jemandem aus dem Transformationsprogramm, dann ist der Workflow nicht neutral.

Er wurde so gestaltet, dass er Zustimmung begünstigt.

Eine menschliche Freigabe funktioniert nur, wenn die Person, die die Entscheidung prüft, Folgendes hat:

• genügend Kontext, um sie zu beurteilen;
• ausreichend Zeit, sie zu prüfen;
• die Befugnis, sie abzulehnen;
• einen klaren Weg, sie zu korrigieren;
• keinen Anreiz, sie blind zu genehmigen.

Das ist zum Teil eine Frage des technischen Designs, aber auch eine organisatorische.

Mitarbeitende müssen verstehen, dass die KI-Ausgabe eine Empfehlung ist, keine Anweisung eines unfehlbaren digitalen Orakels. Führungskräfte müssen berechtigte Abweichungen als Teil eines gesunden Kontrollprozesses behandeln, nicht als Widerstand gegen Innovation.

Der Vergleich mit dem Taschenrechner ist hier hilfreich.

Wenn ein Taschenrechner dir ein überraschendes Ergebnis liefert, prüfst du die Eingaben und die Rechenoperation. Du reichst das Ergebnis nicht einfach ein, gibst dem Taschenrechner die Schuld und erwartest, dass alle die Sache damit als erledigt betrachten.

KI ist weitaus ausgefeilter als ein Taschenrechner, aber das Verantwortungsprinzip hat sich nicht geändert.

Ethische KI ist vor allem eine Frage operativer Disziplin

Ethikdiskussionen können sehr schnell abstrakt werden. In der Praxis beginnen viele ethische Fehlentscheidungen mit ganz gewöhnlichen Designentscheidungen.

Ein System erhielt Zugriff auf Daten, die es nicht brauchte. Niemand prüfte, ob die Ergebnisse unfair verteilt waren. Kundenmitteilungen wurden ohne Prüfung versendet. Ausnahmen waren nicht definiert. Der Eskalationspfad existierte in einer Präsentation, aber nicht in der tatsächlichen Software.

Verantwortungsvolle Automatisierung erfordert, dass Organisationen bewusste Entscheidungen treffen über:

• welche Daten das System verwenden darf;
• welche Entscheidungen es beeinflussen darf;
• welche Aktionen es ausführen darf;
• was unter menschlicher Verantwortung bleiben muss;
• wie betroffene Personen ein Ergebnis anfechten können;
• wie Entscheidungen protokolliert und überprüft werden;
• wann die Automatisierung gestoppt werden muss.

Diese Kontrollen sind keine Hindernisse für den Fortschritt.

Sie sind es, die es ermöglichen, Automatisierung in wichtigen Prozessen mit Zuversicht einzusetzen.

Ein Unternehmen mit klaren Grenzen kann in der Regel mehr automatisieren als eines, das auf Optimismus setzt. Teams wissen, welche Aktionen sicher sind, welche eine Genehmigung erfordern und was passiert, wenn das System auf etwas stößt, das außerhalb seines Mandats liegt.

Ohne diese Grenzen wird jede Einführung zu einem Glücksspiel zwischen übermäßiger Vorsicht und übermäßiger Freiheit.

Beides lässt sich nicht besonders gut skalieren.

Weniger Menschen bedeutet nicht, dass es keine Menschen gibt

KI ermöglicht es Organisationen, mit kleineren Teams mehr Arbeit zu bewältigen. So zu tun, als wäre das nicht so, hilft niemandem.

Das Ziel sollte nicht sein, jede manuelle Aufgabe zu bewahren, nur weil sie derzeit von einem Menschen erledigt wird. Wiederkehrende Arbeit, die sich sicher automatisieren lässt, sollte wahrscheinlich automatisiert werden.

Der Fehler besteht darin anzunehmen, dass weniger manuelle Arbeit auch weniger Verantwortung, Aufsicht und Fachwissen bedeutet.

Die Rolle der Menschen verändert sich.

Anstatt jedes Dokument zu lesen, prüfen sie Ausnahmen. Anstatt jede Empfehlung vorzubereiten, validieren sie Entscheidungen mit hoher Tragweite. Anstatt Informationen manuell zwischen Systemen zu verschieben, überwachen sie, ob der automatisierte Prozess die beabsichtigten Ergebnisse liefert.

Das kann bessere Arbeit sein.

Es erfordert weniger Menschen, die repetitive Aufgaben ausführen, und mehr Menschen, die dort Urteilsvermögen einsetzen, wo Urteilsvermögen tatsächlich zählt.

Aber die verbleibende menschliche Rolle muss echt sein. Jemand muss sowohl die Verantwortung als auch die Befugnis haben, das System zu prüfen, zu hinterfragen und zu korrigieren.

Einen Prozess als „human in the loop“ zu bezeichnen, nur weil ein Mitarbeiter ein monatliches Dashboard erhält, dehnt den Begriff über seinen Nutzen hinaus.

Designverantwortung vor der Gestaltung von Automatisierung

Der sicherste Ausgangspunkt für ein KI-Automatisierungsprojekt ist nicht das Modell.

Es ist die Entscheidung.

Was wird entschieden? Welche Informationen stützen die Entscheidung? Was passiert, wenn die Entscheidung falsch ist? Kann die Handlung rückgängig gemacht werden? Wer trägt die Verantwortung für das Ergebnis? Welche Fälle erfordern Urteilsvermögen, Empathie oder rechtliche Befugnis?

Sobald diese Fragen geklärt sind, wird das technische Design deutlich einfacher.

KI kann die Aufgaben übernehmen, die sie gut erledigt: große Datenmengen verarbeiten, Muster erkennen, Informationen extrahieren, Optionen generieren und vorhersehbare, risikoarme Arbeiten ausführen.

Menschen behalten die Aufgaben, die Verantwortlichkeit, kontextbezogenes Urteilsvermögen und die Verantwortung für die Folgen erfordern.

Die Grenze wird nicht für jede Organisation oder jeden Prozess identisch sein. Eine sinnvolle Freigabeschwelle für einen kleinen internen Einkauf wäre bei einer großen finanziellen Verpflichtung absurd. Ein Entwurf für den Kundenservice kann in einem Kontext bedenkenlos automatisch versendet werden und in einem anderen eine sorgfältige Prüfung erfordern.

Deshalb ist „KI hinzufügen“ keine Strategie.

Die eigentliche Arbeit besteht darin, das Betriebsmodell darum herum zu gestalten.

Nützliche Technologie verdient eine ernsthafte Umsetzung

KI sollte nicht als Mitarbeiter, Entscheidungsträger oder als eine Einheit behandelt werden, die in der Lage ist, die von ihr erzeugten Ergebnisse zu besitzen.

Sie ist eine Maschine – und eine bemerkenswert nützliche noch dazu.

Bewusst eingesetzt kann sie den Service verbessern, Verwaltungsaufwand reduzieren, Teams dabei helfen, komplexe Informationen zu analysieren, und Organisationen ermöglichen, in einem Umfang zu arbeiten, der sonst deutlich mehr Personal erfordern würde.

Unachtsam eingesetzt kann sie schlechte Entscheidungen schneller hervorbringen, sie weiter verbreiten und am Ende alle darüber diskutieren lassen, wer eigentlich hätte aufpassen sollen.

Binarika hilft Organisationen dabei, KI-gestützte Workflows mit praktischen integrierten Kontrollen zu gestalten: klare Verantwortlichkeiten, sinnvolle Freigabeschwellen, Monitoring, Nachvollziehbarkeit und Eskalationswege, die nicht nur auf einem Diagramm existieren.

Das kann bedeuten, eine neue kontrollierte Automatisierung zu schaffen, einen bestehenden Prozess zu reparieren, dem zu viel Freiheit eingeräumt wurde, oder zu entscheiden, dass eine bestimmte Entscheidung überhaupt nicht automatisiert werden sollte.

Wir sind pro KI.

Wir sind auch pro menschlicher Verantwortung.

Beides funktioniert sehr gut zusammen.