Human in the Loop – recensie - Ziptone

Oliver Talens beschouwt de regie van mensen bij de inzet van AI als een noodzaak, niet als een optie. Daarom schreef hij een boek over ‘samenwerken met AI’. Of zoals hij zegt: “Over keuzes maken. Over durven zeggen: hier nemen wij het weer over. Niet omdat we bang zijn voor AI. Maar omdat we weten wat we te verliezen hebben.”

Talens (marketing manager bij Qaitbay) betoogt dat AI geen neutrale tool is, maar een vergrootglas dat blootlegt wat organisaties écht belangrijk vinden. AI volgt immers onze instructies, optimaliseert onze KPI’s en reproduceert onze (on)bewuste aannames. Talens vraagt zich af: “Wat willen we dat onmiskenbaar menselijk blijft?”

Dat is eerder een vraag van iemand die zich zorgen maakt, dan van een platte tech adept die AI als de nieuwe Haarlemmerolie ziet.

Het boek van Talens is opgebouwd in vijf delen. Hij gaat allereerst in op de organisatie: wat betekent de komst van AI voor functies, dienstverlening en (aan)sturing)? Daarna pelt Talens af wat AI voor de klantrelatie kan betekenen. In het derde deel belicht hij de rol en positie van de medewerker. Wordt de medewerker een slaaf van AI of wordt de medewerker vervangen? In deel vier ontleedt Talens AI zelf: AI is een afspiegeling is van menselijke intenties, biases en ontwerpkeuzes. In het laatste deel doet Talens voorspellingen over de toekomst van werk, beroepen en rollen.

Bestaat er Europese AI?

Talens trekt in dit boek, dat in eigen beheer is uitgegeven, alle registers open. Dat wordt al duidelijk in de inleiding, een relatief lange aanloop. Snel door dus naar die vijf hoofdstukken. Die indelingskeuze is goed, maar toch vertonen de vijf delen overlap. Ook wordt niet alles even grondig uitgewerkt, wat regelmatig tot de vraag leidt: ‘maar hoe dan’? Zo wordt het onderwerp geopolitiek wel een paar keer benoemd, maar wat nu precies de implicatie is voor bijvoorbeeld de klantrelatie of je onderscheidend vermogen, blijft tamelijk onderbelicht. Kan soevereine AI iets toevoegen aan je merk en zo ja, hoe? Wat betekent de afhankelijkheid van Amerikaanse tech voor Europese bedrijven? Bestaat er Europese AI?

Of wat te denken van inclusiviteit – iets waarbij bedrijven vaak de beste intenties hebben, aldus Talens. Die intenties zijn vaak vastgelegd in beleid, programma’s en jaarplannen, schrijft hij. “Maar een AI-systeem weet niets van intenties,” zegt Talens daarna; AI kijkt immers alleen naar patronen, data en historie? Het boek gaat daarmee voorbij aan de vraag tot welke informatie de AI toegang heeft. Wellicht is dat een bewuste keuze, omdat je daarmee in de techniek belandt – en daar gaat dit boek niet over. In theorie kan je een AI-tool prima laten onderzoeken wat de overlap is tussen (inclusiviteits)beleid en -praktijk, ofwel voorgenomen plannen en data die iets zeggen over de executie– mits inclusiviteit meetbaar is gemaakt. Gelukkig pleit Talens verderop voor het meetbaar maken van ‘vage’ KPI’s.

Gespreksagenda

Ook een statement verderop – ‘AI vergroot structurele uitsluiting’ – is wat mij betreft wat te ongenuanceerd, net als ‘wat je niet meet, kan je niet verdedigen’. Juist in de gesprekken tussen professionals kan het prima gaan over vragen als ‘wat voor organisatie willen wij zijn’? Organisatiecultuur is nou bij uitstek een menselijk product – ofwel: een vertaling van waarden en normen naar gedrag. Ook AI zou op die gespreksagenda moeten staan.

Goed gekozen zijn de opdrachten waarmee Talens ieder onderdeel in zijn boek afsluit. Daar zitten lastige vragen tussen voor strategen, beleidsmakers en leiders. Talens wil deze groepen aanzetten tot reflectie over de impact van AI; de vraag is natuurlijk of dat op voorhand gaat gebeuren of dat die reflectie pas komt nadat de effecten van implementaties zich beginnen af te tekenen. Maar de vragen die Talens opwerpt, zijn even lastig als bruikbaar. Hiermee laat Talens wat ons betreft zien waar de kracht van dit boek zit: een luis in de pels zijn, vooraf kritische vragen stellen, het gesprek aangaan. Mogelijk slaan contactcentermanagers deze stap over of blijft hij beperkt tot operationele implicaties: wanneer en hoe vertellen we het onze medewerkers en hoe stellen we het projectteam samen?

Vanuit dat perspectief kan ik me voorstellen dat we over een paar jaar een nieuwe crisis in klantcontact hebben. Te veel automatisering, te weinig menselijk contact; klanten en medewerkers die weglopen. Was het contactcenter toch weer een fabriekje geworden. Dit boek waarschuwt daar impliciet voor, maar wat als je je die toekomst niet kunt voorstellen. Ofwel: wat als je niet weer hoe je over AI moet nadenken?

Wat is eigenlijk samenwerken met AI?

Hoe en wanneer speelt het menselijke aspect een rol in een organisatie die doorspekt is met technologie? Dat is het vraagstuk waar dit boek over gaat – maar in bepaalde opzichten lijkt ook de worsteling van de auteur met dit vraagstuk naar voren te komen. Het voordeel daarvan is dat ook die worsteling tot nadenken aanzet. “Human in the Loop in klantcontext betekent dat personalisatie nooit volledig autonoom wordt. Er moet altijd een moment zijn waarop een mens kan reflecteren op de uitkomst,” aldus Talens. Maar zijn we dan niet al te laat? Of komt samenwerken met AI dan toch neer op achteraf evalueren (of bijsturen) van een geautomatiseerd proces? Want dat is wel vaak hoe het nu gaat: de hulp van de medewerker wordt ingeroepen als systeem of klant vaststellen dat een geautomatiseerd proces niet goed loopt. De menselijke medewerker is dan eerder een ‘schadehersteller’ dan dat het over samenwerken met AI gaat.

Dat die samenwerking tussen mensen en AI nog lang niet is uitgekristalliseerd, blijkt ook uit een ander dilemma dat dit boek blootlegt. Talens stipt meerdere keren aan dat dat menselijkheid centraal moet staan bij de inzet van AI, maar tegelijkertijd is human in the loop niet echt schaalbaar. Dat vraagt om (vooraf) een goed ontwerp en (achteraf) om controles en ruimte voor uitzonderingen. Juist hier wordt het interessant, maar blijf je als lezer achter met de vraag ‘maar hoe gaan we dit dan organiseren?’

AI neemt niet de baan, maar clusters van taken over

We hebben dit boek natuurlijk met speciale aandacht gelezen als het gaat om de klantcontactmedewerker. Ook Talens stelt dat hier niet de baan, maar ‘clusters van taken’ uit banen worden overgenomen door AI. Ook Talens gaat, net als vele anderen, voor de insteek dat werk verandert en dat het daarbij vooral gaat om de vraag hoe we menselijke rollen kunnen versterken met AI. Maar als clusters van taken worden overgenomen, zijn er toch echt minder mensen nodig voor hetzelfde werk, anders leidt de inzet van AI tot hogere in plaats van lagere kosten. Ook dit boek gaat voorbij aan de vraag die vroeger of later binnen ieder groot contactcenterteam zal ontstaan: wordt mijn arbeidscontract wel of niet verlengd? Want als het goed is, neemt de capaciteitsvraag af door de inzet van AI. Anders is ‘samenwerken met AI’ leuk, maar levert het geen efficiencyvoordeel op. En gepersonaliseerde marketing of dienstverlening gaan ook niet vliegen als iedere AI-analyse gecheckt moet worden door een mens. Wel zal er erg veel aandacht aan het ontwerp van dit soort toepassingen moeten worden besteed, iets wat Talens ook in zijn boek benadrukt.

Wie controleert wat?

Talens stipt terecht aan dat medewerkers de neiging hebben om de output van AI te controleren, iets wat in feite dubbel werk oplevert. In veel organisaties is het zelfs beleid in plaats van wantrouwen. Hier gaat het om de praktische samenwerking tussen mens en AI, en juist daar hadden we wel meer over willen lezen. Wat betekent dit eigenlijk? Is het uitdagend om samen te werken met AI? Trainen medewerkers hun eigen AI? Zou ‘samenwerken met AI’ voor sommige beroepen ook kunnen neerkomen op ‘trainen van AI’? Talens benadrukt ook dat AI geen banen steelt, maar gedachteloos werk overneemt – en dat dat eigenlijk een zegen is. Of zou voor sommige mensen gedachteloos werk juist een zegen kunnen zijn?

Probleemregisseurs en merkambassadeurs

In het vijfde en laatste deel gaat het over de toekomst van beroepen. Meer focus op mensen, ethiek en cultuur, zo schetst Talens de manager van de toekomst. En zo komen er nog een aantal werkgebieden voorbij, waaronder de klantenservice. “Routinevragen en standaardprocedures kunnen volledig geautomatiseerd worden, waardoor medewerkers meer tijd krijgen voor complexere cases, empathisch contact en proactieve service. AI wordt een assistent die data, context en patronen levert, zodat medewerkers sneller en gerichter kunnen handelen,” aldus Talens. Talens verwacht ook dat klantenservicemedewerkers meer en meer veranderen in probleemregisseurs en merkambassadeurs.

Hoe dat er precies uit gaat zien, is de vraag. Wat betekent dat voor het leiderschap, het aannamebeleid en de kostenstructuur?

Human in the Loop van Oliver Talens is een beslist uitdagende verkenning van de impact van AI op organisaties, klanten en medewerkers. Human in the Loop gaat gelukkig niet over de technische implementatie van de technologie of over datavraagstukken. Daarover is al genoeg geschreven en de houdbaarheid van dergelijke boeken is zeer beperkt gezien de snelheid waarmee AI zich ontwikkelt. Alle lof dus voor het feit dat dit boek over de ethische en organisatorische vragen gaat die rijzen als we technologie loslaten op menselijke systemen zonder na te denken over de gevolgen. In plaats van pasklare antwoorden biedt dit boek dan ook vooral bakken met inspiratie voor iedereen die nog moet beginnen met het formuleren van een AI-strategie.