Merijn te Booij wijst op een nieuw risico van AI. “We hebben al dertig jaar lang technologische hypes gemanaged, zonder CX echt beter te maken.” Een van de uitkomsten van nog meer technologie en automatisering: nog meer interacties.

 

Ik ben geen technoloog. Dat wil ik meteen gezegd hebben. Ik ben een afgestudeerd oorlogsjurist, opgeleid om duiding te geven op volkenrechtelijk gebied, de fout in het juridisch argument te vinden en gezond sceptisch te blijven tegenover iedereen die je vertelt dat iets eenvoudiger is dan het eruitziet.

Nederlandse advocaten kijken altijd wat cynisch naar mijn meestertitel. Een beetje als toen ik niet muzikaal genoeg was om blokfluit te spelen en als een van de drie op de xylofoon verder moest. Maar mijn specialisatie in de landmijnenproblematiek bleek geweldig goed te passen bij de wereld van customer experience. Een wereld die momenteel in de greep is van een collectieve, branche-brede verliefdheid op kunstmatige intelligentie, zo intens dat een puber er verlegen van zou worden. Hail Agentic!

Ik heb ook twee kinderen die aan de universiteit studeren. Eén studeert filosofie. De ander Engels. Geen van beiden is bijzonder onder de indruk van wat de AI-industrie op dit moment doet, om redenen waar ik zo op terugkom. Ik ben, naar hun grootmoedige oordeel, “gepassioneerd maar niet gevaarlijk”.

AI is een mijnenveld

De juiste keuzes maken op AI-vlak is niet veel anders dan door een veld met landmijnen lopen. Vol met valkuilen en explosieve fouten. Niet dodelijk, maar toch. Er is verschrikkelijk (hier een opzettelijk gekozen woord) veel technische informatie voorhanden, niets wat overigens de landmijnen onschadelijk maakt. We hebben al dertig jaar lang technologische hypes gemanaged, zonder CX echt beter te maken.

De enige rode draad door CX die wel werkt is de agent, de mens. En daarom zijn we al dertig jaar bezig die te vervangen of te helpen. Paradoxaal. “Rethink not evolve” is mijn mantra op dit moment, maar rethink binnen al lang bestaande kaders. Ofwel wetten.

Er zijn een flink aantal wetten, niet juridisch in de strikte vorm, die al jaren van toepassing zijn op CX en de huidige stand van zaken. Het kan verhelderend zijn ze te kennen en keuzes te maken met die kaders in gedachten. In deze column zal ik me tot vijf beperken. Geen enkele vereist een diploma informatica.

De Wet van Amara: de hype heeft een naam

Roy Amara van Stanford schonk ons dit juweeltje: we overschatten het effect van technologie op de korte termijn en onderschatten het op de lange termijn. Juist voor AI een waarheid als een koe. Elke AI-vendor-presentatie van dit jaar is de Wet van Amara in PowerPoint-vorm. ‘Outcomes’ is het nieuwe toverwoord. Bijvoorbeeld ‘contactcenter getransformeerd in Q3’. Of ‘personeelsbestand gehalveerd tegen het einde van het jaar’. De CFO eindelijk zalig glimlachend. Verandering over de rug van de FTE.

Kortetermijn-overschatting is de moedertaal van onze industrie, vloeiend gesproken op elk congres tussen de keynote en de borrel. De onderschatting, het langetermijn-gedeelte, is stiller, trager en aanzienlijk duurder. Daar wachten de andere vier wetten geduldig op hun beurt.

Jevons’ Paradox: De wrede grap van efficiëntie

In 1865 merkte de Britse econoom William Stanley Jevons iets ongemakkelijks op over steenkool. Naarmate stoommachines efficiënter werden, gebruikte Groot-Brittannië niet minder steenkool. Het gebruikte fors meer. Efficiency verminderde de vraag niet, het liet die exploderen.

Elke keer dat AI een klantinteractie goedkoper en sneller maakt, gebeurt er iets voorspelbaars: er vinden meer interacties plaats. Er worden meer kanalen geopend. Meer klanten nemen contact op, vaker, om meer redenen, op meer ongelegen momenten. De lat voor wat goede service betekent stijgt realtime, omdat dat nu eenmaal altijd zo gaat. Je hebt AI ingezet om het volume te verminderen. Gefeliciteerd. Je hebt net meer nieuw volume gecreëerd. En uiteraard nemen de AI kosten daardoor ook exponentieel toe. Die paradox straft geen slechte strategie – ze straft alle strategieën gelijkmatig, met vrolijke onpartijdigheid.

De Turing-valkuil: Een filosofisch probleem vermomd als begrotingspost

Erik Brynjolfssons Turing-valkuil is de verleidelijke neiging om AI te bouwen die mensen vervangt in plaats van versterkt. De test is vernoemd naar Alan Turings beroemde vraag: kan een machine een mens zo overtuigend nabootsen dat die niet meer van echt te onderscheiden is? Dat laatste is wat de industrie aan het doen is. We roepen heel hard ondersteuning waar het co-pilots betreft, maar dat blijven productiviteitstools. Agentic is geen technische term maar een gedragswetenschappelijke term. Mensen kunnen evengoed agentic zijn. Agentic Human Agents (AHA!), dat zou wat zijn. CX zou er anders uitzien.

Mijn zoon, die filosofie studeert, merkt op dat Turings vraag een provocatie was over de aard van intelligentie – geen aanbestedingsdocument. De beslissing van de CX-industrie om het als zodanig te behandelen en dan ook nog met z’n allen juichend in de valkuil te springen is een vorm van opperste emulatie verwarring.

De Wet van Goodhart: valkuil in het kwadraat

Charles Goodhart, met magnifieke beknoptheid: wanneer een maatstaf een doel wordt, houdt het op een goede maatstaf te zijn. Op het moment dat ‘containment rate’ de KPI wordt, meet je geen klantervaring meer, maar bot-weerbarstigheid. Op het moment dat gemiddelde afhandeltijd het getal is waar iedereen naar kijkt, is snelheid het product geworden. Op het moment dat kosten per interactie alles bepalen, heb je een machine gebouwd die geoptimaliseerd is voor kostenefficiency wat je vervolgens ‘klantenservice’ noemt.

Het klinkt allemaal als een gerechtelijke procedurefout. In CX noemen we het KPI’s, totdat de cijfers over klantverloop of sentiment binnenkomen en het stil wordt in de zaal.

De Wet van Martec: Waarom slimme mensen er toch intrappen

Scott Brinkers bijdrage: technologie verandert exponentieel, organisaties veranderen logaritmisch. De kloof daartussen is geen planningsprobleem. Geen enkel bedrijf zal door simpele organisatieveranderingen bij kunnen blijven in de lawine van nieuwe technologie. Keuzes maken is enorm belangrijk, en jezelf als bedrijf steeds opnieuw uitvinden, hoe ingrijpend ook, is noodzakelijk. De evolutie lijkt in de richting van AI First te gaan, maar voor organisaties maakt dit het maken van toekomstige keuzes veel moeilijker. Je komt uiteindelijk niet verder door alleen maar laaghangend fruit te plukken. Een echte agentic enterprise die alle bovenstaande wetten gebruikt is veel extremer, maar wel klaar voor de toekomst.

Amara vult de zaal met hype. Jevons vergroot de vraag. De Turing-valkuil blijft mensen automatiseren. Goodhart corrumpeert de meting. Martec zorgt ervoor dat niemand tijdig bijstuurt.

Elke echt moeilijke klant, gefrustreerd, complex, emotioneel geladen, belandt uiteindelijk bij een menselijke agent die trager, minder geoefend is en al op achterstand staat. Geen hypothetisch scenario, maar de huidige routekaart.

De uitweg

Elke wet wijst ook de uitgang. Amara: investeer voor de lange termijn, maar niet dogmatisch. Jevons: bouw voor meer vraag, niet minder. Turing: versterking verslaat vervanging, altijd. Goodhart: meet oplossingspercentage en klantwaarde, niet containment rate. Martec: sluit de organisatorische kloof bewust en extreem, voordat die zich om je heen sluit.

Mijn zoon de filosoof blijft ervan overtuigd dat AI nooit zal doorgronden wat het werkelijk betekent om iemand te begrijpen. Hij meent dat de industrie, genereus geschat, een paar eeuwen achterloopt op die vraag. Mijn dochter die Engels studeert betwijfelt of AI het verschil kan voelen tussen taal die louter functioneert en taal die echt aankomt. Lopend tussen de landmijnen vind ik hen allebei overtuigender dan de vendorpresentaties. Je klanten willen geen Turing-test. Ze willen gehoord worden. Bouw daarvoor.

(Ziptone/Merijn te Booij)

Featured, Opinie, Technologie