AI-automatisering met menselijke goedkeuring als uitgangspunt

AI heeft een licht ongemakkelijke reputatie opgebouwd.

Afhankelijk van wie je het vraagt, staat het op het punt om vóór de lunch elk bedrijfsprobleem op te lossen of de beschaving kort na de middagstand-up te vernietigen. Geen van beide visies is bijzonder nuttig als je een echt bedrijf probeert te runnen.

AI is een hulpmiddel. Zeker een uitzonderlijk capabel hulpmiddel, maar nog steeds een hulpmiddel.

Het kan meer informatie analyseren dan een mens redelijkerwijs kan verwerken, patronen herkennen, aanbevelingen voorbereiden, documenten classificeren, reacties opstellen, werk routeren en repetitieve beslissingen automatiseren. Goed ingezet kan het organisaties sneller, consistenter en minder afhankelijk maken van mensen die hun middagen besteden aan het kopiëren van informatie tussen systemen.

Dat is waardevol. Daar zijn we volledig voor.

Wat AI niet kan, is verantwoordelijkheid nemen.

Het kan zich niet op een manier verantwoorden tegenover een boze klant die echte aansprakelijkheid met zich meebrengt. Het kan niet voor een toezichthouder verschijnen. Het kan niet de gevolgen dragen van het afwijzen van een kandidaat, het goedkeuren van een betaling of het versturen van onjuiste contractinformatie.

Het zal na een dure fout geen bijzonder ongemakkelijk gesprek met de raad van bestuur hebben.

Iemand anders wel.

Daarom heeft verantwoorde AI-automatisering menselijke goedkeuring nodig by design - niet als een bijzaak die pas wordt toegevoegd als er iets misgaat, maar vanaf het begin als onderdeel van de workflow.

Menselijke goedkeuring betekent niet dat elke muisklik wordt goedgekeurd

Er is een neiging om menselijke betrokkenheid te bespreken alsof de enige opties volledige autonomie zijn of dat een persoon alles handmatig controleert.

Dat zou een behoorlijk teleurstellend gebruik van automatisering zijn.

AI kan heel wat werk met een laag risico afhandelen zonder op individuele goedkeuring te wachten. Het kan binnenkomende verzoeken sorteren, records taggen, gesprekken samenvatten, waarschijnlijke duplicaten identificeren, informatie uit documenten halen en taken doorsturen naar het juiste team.

Een persoon hoeft niet elke e-mailclassificatie afzonderlijk te beoordelen.

Maar het systeem moet nog steeds worden gemonitord.

Stel je voor dat je tien mensen in dienst hebt om klantverzoeken te categoriseren. Je zou er niet van uitgaan dat hun werk voor altijd correct blijft alleen omdat ze op hun eerste dag training hebben gevolgd. Je zou de uitkomsten beoordelen, fouten meten, ongebruikelijke gevallen inspecteren en het proces aanpassen wanneer het bedrijf verandert.

AI verdient dezelfde managementdiscipline.

Misschien zelfs meer, omdat het fouten kan maken op een schaal die een indrukwekkend gecoördineerd menselijk team zou vereisen om te evenaren.

Het juiste niveau van controle hangt af van de gevolgen.

Een interne nieuwsbrief verkeerd classificeren is vervelend. Een annuleringsverzoek van een klant verkeerd classificeren kan geld kosten. Een fraudemelding, juridische klacht of veiligheidsincident verkeerd classificeren kan een veel groter probleem veroorzaken.

Goede automatisering maakt onderscheid tussen die situaties in plaats van elke beslissing als even onschadelijk te behandelen.

Het echte probleem is eigenaarschap

Veel AI-discussies draaien om nauwkeurigheid. Nauwkeurigheid is belangrijk, maar het is niet het hele probleem.

Zelfs een zeer nauwkeurig systeem zal uiteindelijk fouten maken.

Mensen maken natuurlijk ook fouten. Menselijke betrokkenheid is geen magisch schild tegen vergissingen. Het verschil is dat organisaties al begrijpen hoe menselijke verantwoordelijkheid werkt. Een persoon heeft een rol, een manager, een vastgelegd bevoegdheidsniveau en een escalatiepad.

AI komt vaak de organisatie binnen zonder al die dingen.

Het wordt gekoppeld aan een workflow, krijgt toegang tot data en mag stilletjes beslissingen nemen. Het project wordt als een succes beschreven omdat het handmatig werk heeft verminderd.

Dan gebeurt er iets ongebruikelijks.

Een klant krijgt een ongepast antwoord. Een geldige factuur wordt tegengehouden. Een gekwalificeerde kandidaat wordt afgewezen. Een operationele waarschuwing wordt onterecht naar beneden bijgesteld. Iedereen begint zich af te vragen waarom het systeem die beslissing heeft genomen.

Dat is meestal de verkeerde eerste vraag.

De betere vragen zijn:

• Wie was eigenaar van de beslissing?
• Wie heeft de regels goedgekeurd waaronder het werkte?
• Wie hield de uitkomsten in de gaten?
• Welke beslissingen mocht het nemen?
• Wanneer moest het escaleren?
• Wie kon het stoppen?

Als de antwoorden niet duidelijk zijn, heeft de organisatie verantwoordelijkheid niet geautomatiseerd. Ze is die kwijtgeraakt.

Laat AI de beslissing voorbereiden zonder te doen alsof het de beslissing neemt

Veel zakelijke beslissingen profiteren enorm van AI-ondersteuning.

Een financieel goedkeuringsproces kan transactiegeschiedenis, budgetinformatie, leveranciersgegevens, ongebruikelijke betaalpatronen en contractuele limieten omvatten. AI kan die informatie veel sneller verzamelen en analyseren dan een persoon die door meerdere systemen moet werken.

Dat betekent niet dat het de betaling per se ook moet goedkeuren.

Het kan goedkeuring aanbevelen, het onderliggende bewijs toelichten en alles wat ongebruikelijk is uitlichten. Een verantwoordelijke mens neemt vervolgens de uiteindelijke beslissing wanneer het bedrag, het risico of de uitzonderingsgraad daarom vraagt.

Hetzelfde principe geldt elders.

Bij werving kan AI helpen sollicitaties te ordenen, relevante ervaring te extraheren en gestructureerde vergelijkingen voor te bereiden. Het zou niet stilletjes de eindverantwoordelijke moeten worden voor wie een gesprek of baan verdient.

Bij contractbeheer kan het ongebruikelijke clausules, ontbrekende bepalingen en mogelijke conflicten identificeren. De juridische of commerciële verantwoordelijkheid blijft bij een gekwalificeerd persoon.

In productieomgevingen kan het meldingen met elkaar in verband brengen, een waarschijnlijke oorzaak voorstellen en een herstelplan opstellen. Het automatisch wijzigen van een live systeem zou controles moeten vereisen die in verhouding staan tot de mogelijke schade.

In de klantenservice kan het de geschiedenis van de klant samenvatten, een voorgesteld antwoord opstellen en de volgende actie aanbevelen. Maar als de klant al geïrriteerd is, is hem dwingen met een chatbot te discussiëren een efficiënte manier om een serviceklacht om te zetten in een merkklacht.

Weinig dingen zeggen zo duidelijk "we waarderen onze relatie" als herhaaldelijk een machine vragen je door te verbinden met een mens.

AI is vaak uitstekend in het voorbereiden van beslissingen. We moeten dat niet verwarren met het verdienen van de autoriteit om elke beslissing te nemen.

Goedkeuringsmomenten moeten het risico volgen, niet het enthousiasme

Het goedkeuringsmodel hoeft niet ingewikkeld te zijn.

Begin met te kijken naar wat de automatisering kan beïnvloeden.

Kan het informatie buiten het bedrijf versturen? Kan het geld uitgeven? Kan het productiedata wijzigen? Kan het een persoon afwijzen, een bestelling annuleren, een contract wijzigen of namens het bedrijf een verklaring afleggen?

Hoe moeilijker de handeling is terug te draaien, hoe sterker de controle moet zijn.

Een praktische workflow kan AI toestaan om:

• routinehandelingen met laag risico automatisch uit te voeren;
• goedkeuring te vragen wanneer financiële, juridische of reputatiedrempels worden bereikt;
• te escaleren wanneer de zekerheid laag is;
• te stoppen wanneer vereiste informatie ontbreekt;
• ongebruikelijke gevallen door te sturen naar een aangewezen verantwoordelijke;
• het bewijs vast te leggen dat is gebruikt om een aanbeveling te doen.

Dat laatste punt is bijzonder belangrijk.

Een goedkeuringsknop heeft geen betekenis als degene die goedkeurt geen idee heeft hoe de aanbeveling tot stand is gekomen. Als van medewerkers wordt verwacht dat zij verantwoordelijkheid nemen, hebben ze genoeg informatie nodig om een weloverwogen beslissing te nemen, in plaats van als decoratieve mensen naast een geautomatiseerd proces te fungeren.

En een mens die tweehonderd AI-beslissingen per uur blind goedkeurt, houdt ook geen toezicht. Die levert alleen aansprakelijkheid met een hartslag.

Monitoring hoort ook in het ontwerp thuis

Menselijke goedkeuring is slechts één onderdeel van controle.

Geautomatiseerde systemen hebben ook operationele monitoring nodig. Teams moeten kunnen zien wat de AI doet, hoe vaak mensen ingrijpen, waar fouten optreden en of de prestaties veranderen.

Nuttige meetwaarden verschillen per situatie, maar omvatten doorgaans:

• het aantal en type geautomatiseerde acties;
• goedkeurings- en afwijzingspercentages;
• percentages van menselijke ingrepen;
• fouten die na afronding worden ontdekt;
• de frequentie van escalaties;
• verwerkingstijd;
• uitkomsten voor verschillende klant- of gebruikersgroepen;
• veranderingen na nieuwe data, beleidsregels of systeemintegraties.

Ingrijpgegevens zijn bijzonder nuttig.

Wanneer mensen het advies van de AI regelmatig afwijzen, is dat geen bewijs dat mensen automatisering in de weg zitten. Het is een aanwijzing dat het systeem het proces mogelijk niet zo goed begrijpt als de ontwerpers dachten.

Die meningsverschillen zijn waardevol. Ze brengen ontbrekende regels, slechte data, ongebruikelijke scenario's en bedrijfskennis aan het licht die nooit in het oorspronkelijke ontwerp zijn terechtgekomen.

Ze negeren omdat ze het gerapporteerde automatiseringspercentage verlagen, is hoe een nuttig hulpmiddel geleidelijk verandert in een dure bron van schijnzekerheid.

Mensen moeten de bevoegdheid hebben om het oneens te zijn met de machine

Er is nog een ander probleem dat minder aandacht krijgt: automatiseringsbias.

Mensen kunnen te veel vertrouwen gaan stellen in systeemaanbevelingen, vooral wanneer het systeem zelfverzekerd overkomt of wanneer het extra werk kost om het er niet mee eens te zijn.

Als het goedkeuren van de AI'™s voorstel één klik kost, terwijl afwijzen een uitleg, drie formulieren en een gesprek met iemand van het transformatieprogramma vereist, dan is de workflow niet neutraal.

Die is ontworpen om instemming te stimuleren.

Menselijke goedkeuring werkt alleen wanneer degene die de beslissing beoordeelt:

• voldoende context heeft om die te beoordelen;
• voldoende tijd heeft om erover na te denken;
• de bevoegdheid heeft om die af te wijzen;
• een duidelijke manier heeft om die te corrigeren;
• geen prikkel heeft om die blind goed te keuren.

Dit is deels een vraagstuk van technisch ontwerp, maar ook een organisatorisch vraagstuk.

Medewerkers moeten begrijpen dat AI-output een aanbeveling is, geen instructie van een onfeilbaar digitaal orakel. Managers moeten geldige overrulings zien als onderdeel van een gezond controleproces, niet als weerstand tegen innovatie.

De vergelijking met een rekenmachine is hier nuttig.

Als een rekenmachine je een verrassend antwoord geeft, controleer je de invoer en de bewerking. Je dient het resultaat niet in, geeft de rekenmachine de schuld en verwacht dat iedereen de zaak daarmee als afgedaan beschouwt.

AI is veel geavanceerder dan een rekenmachine, maar het verantwoordelijkheidsprincipe is niet veranderd.

Ethische AI draait vooral om operationele discipline

Ethische discussies kunnen al snel abstract worden. In de praktijk beginnen veel ethische fouten met heel gewone ontwerpbeslissingen.

Een systeem kreeg toegang tot gegevens die het niet nodig had. Niemand testte of uitkomsten oneerlijk verdeeld waren. Klantberichten werden zonder controle verstuurd. Uitzonderingen waren niet gedefinieerd. Het escalatiepad bestond in een presentatie, maar niet in de daadwerkelijke software.

Verantwoorde automatisering vereist dat organisaties bewuste keuzes maken over:

• welke gegevens het systeem mag gebruiken;
• welke beslissingen het mag beïnvloeden;
• welke acties het mag uitvoeren;
• wat onder menselijke verantwoordelijkheid moet blijven;
• hoe betrokkenen een uitkomst kunnen aanvechten;
• hoe beslissingen worden gelogd en beoordeeld;
• wanneer automatisering moet stoppen.

Deze controles zijn geen obstakels voor vooruitgang.

Ze maken het juist mogelijk om automatisering met vertrouwen in te zetten in processen die ertoe doen.

Een bedrijf met duidelijke grenzen kan meestal meer automatiseren dan een bedrijf dat op optimisme vertrouwt. Teams weten welke acties veilig zijn, welke goedkeuring vereisen en wat er gebeurt wanneer het systeem iets tegenkomt dat buiten zijn mandaat valt.

Zonder die grenzen wordt elke uitrol een gok tussen te veel voorzichtigheid en te veel vrijheid.

Geen van beide schaalt bijzonder goed.

Minder mensen betekent niet dat er geen mensen zijn

AI stelt organisaties in staat meer werk te verzetten met kleinere teams. Doen alsof dat niet zo is, helpt niet.

Het doel zou niet moeten zijn om elke handmatige taak te behouden, alleen maar omdat een mens die momenteel uitvoert. Repetitief werk dat veilig geautomatiseerd kan worden, zou dat waarschijnlijk ook moeten worden.

De fout is te veronderstellen dat minder handmatig werk ook betekent dat er geen behoefte meer is aan eigenaarschap, toezicht en expertise.

De rol van mensen verandert.

In plaats van elk document te lezen, beoordelen ze uitzonderingen. In plaats van elke aanbeveling voor te bereiden, valideren ze beslissingen met grote impact. In plaats van informatie handmatig tussen systemen te verplaatsen, bewaken ze of het geautomatiseerde proces de beoogde resultaten oplevert.

Dat kan beter werk zijn.

Het vraagt om minder mensen die repetitieve taken uitvoeren en meer mensen die hun oordeel toepassen waar dat oordeel er echt toe doet.

Maar de resterende menselijke rol moet wel echt zijn. Iemand moet zowel de verantwoordelijkheid als de bevoegdheid hebben om het systeem te inspecteren, ter discussie te stellen en te corrigeren.

Een proces "human in the loop" noemen omdat een medewerker maandelijks een dashboard ontvangt, rekt de term verder op dan nuttig is.

Ontwerpverantwoordelijkheid vóór het ontwerpen van automatisering

De veiligste plek om te beginnen met een AI-automatiseringsproject is niet het model.

Het is de beslissing.

Waarover wordt beslist? Welke informatie ondersteunt die beslissing? Wat gebeurt er als de beslissing verkeerd uitpakt? Kan de handeling worden teruggedraaid? Wie is verantwoordelijk voor de uitkomst? Welke gevallen vereisen beoordelingsvermogen, empathie of wettelijke bevoegdheid?

Zodra die antwoorden duidelijk zijn, wordt het technische ontwerp een stuk eenvoudiger.

AI kan worden ingezet voor de onderdelen waar het goed in is: grote hoeveelheden verwerken, patronen herkennen, informatie extraheren, opties genereren en voorspelbaar werk met laag risico afhandelen.

Mensen behouden de onderdelen die verantwoordelijkheid, contextueel beoordelingsvermogen en aansprakelijkheid voor de gevolgen vereisen.

Die grens zal niet voor elke organisatie of elk proces hetzelfde zijn. Een verstandige goedkeuringsdrempel voor een kleine interne aankoop zou absurd zijn voor een grote financiële verplichting. Een concept voor klantenservice kan in de ene context veilig automatisch worden verzonden en in een andere context zorgvuldige controle vereisen.

Daarom is “AI toevoegen” geen strategie.

Het werk zit in het ontwerpen van het operationele model eromheen.

Nuttige technologie verdient een serieuze aanpak

AI moet niet worden behandeld als een werknemer, een besluitvormer of een entiteit die eigenaar kan zijn van de resultaten die het produceert.

Het is een machine - en een bijzonder nuttige.

Als het bewust wordt ingezet, kan het de service verbeteren, administratief werk verminderen, teams helpen complexe informatie te analyseren en organisaties in staat stellen op een schaal te opereren waarvoor anders veel meer mensen nodig zouden zijn.

Als het slordig wordt ingezet, kan het sneller slechte beslissingen produceren, die breder verspreiden en iedereen laten discussiëren over wie er eigenlijk had moeten opletten.

Binarika helpt organisaties AI-ondersteunde workflows te ontwerpen met praktische ingebouwde controles: duidelijke eigenaarschap, verstandige goedkeuringsdrempels, monitoring, auditbaarheid en escalatiepaden die buiten een diagram bestaan.

Dat kan betekenen dat er een nieuwe gecontroleerde automatisering wordt opgezet, een bestaand proces wordt hersteld dat te veel vrijheid heeft gekregen, of dat wordt besloten dat een bepaalde beslissing helemaal niet geautomatiseerd moet worden.

Wij zijn pro-AI.

We zijn ook pro-menselijke verantwoordelijkheid.

Die twee werken heel goed samen.