Pegasystems lanceert een nieuwe functionaliteit van de Pega Customer Decision Hub™. Met Ethical Bias Check kunnen organisaties eventuele vooroordelen en discriminatie (‘bias’) in AI-gestuurde customer engagement activiteiten waaronder klantcontacten eruit filteren. De tool wijst in alle kanalen op mogelijk discriminerende aanbiedingen en berichten gegenereerd door AI, voordat ze klant bereiken.

Discriminatie opsporen

De keerzijde van de toegevoegde waarde van AI is dat onderliggende modellen onbewust vooroordelen aanleren op basis van bijvoorbeeld leeftijd, etniciteit of geslacht. Dit kan leiden tot pijnlijke, discriminerende praktijken zoals het verstrekken van minder leningen, verzekeringspolissen of productkortingen. Ethical Bias Check helpt organisaties AI verantwoord toe te passen bij het gebruik ervan in klantinteractie. Het spoort discriminatie op door voorspellende analyses te gebruiken en zo de waarschijnlijke resultaten van een bepaalde strategie te simuleren. Na het instellen van testdrempels, ontvangen klanten waarschuwingen wanneer de bias risico’s een onaanvaardbaar niveau bereiken, zoals wanneer de doelgroep voor een bepaald aanbod scheeftrekt naar of juist weg van specifieke demografische gegevens. Operationele teams kunnen dan het aanstootgevende algoritme opsporen en de strategie aanpassen voor een evenwichtiger en eerlijk resultaat voor iedereen.

Met Pega’s  centrale ‘AI-brein’ worden alle AI-beslissingen automatisch gescreend op vooroordelen – bijvoorbeeld ook welke marketingaanbieding via het web wordt gedaan, welke speciale actie via e-mail wordt verstuurd of welke aanbeveling de klantenservice aan de klant doet. De gedetailleerde bias rapportages van Pega helpen de klant te begrijpen waar en waarom er een kwestie zou kunnen ontstaan. Deze kan dan worden gecorrigeerd, voordat het daadwerkelijk een probleem wordt.

Incidenten

Klanten kunnen bias-testen opnemen als standaardprocedure voor alle strategieën. Zelfs wanneer deze strategieën worden aangepast en nieuwe aanbiedingen of acties worden toegevoegd, kunnen klanten er gerust op zijn dat hun customer engagement programma’s automatisch worden gescreend op bias door de software.

“AI wordt inmiddels in bijna elk aspect van klantbetrokkenheid ingezet. Verschillende spraakmakende incidenten hebben organisaties bewuster gemaakt van het risico op onbedoelde discriminatie en het pijnlijke effect ervan op klanten”, aldus Dr. Rob Walker, vice president decisioning & analytics, Pegasystems. “Met de Ethical Bias Check geven we organisaties meer mogelijkheden om de kans op bias in AI-strategieën te verminderen voor betere interactie tussen bedrijven en klanten en hogere customer lifetime value.”

 

Video: Ethical Bias Check feature demo

Research: Pega AI and Empathy study

Whitepaper: AI in Business – Balancing Risk vs Reward

Technologie Pegasystems