Gesprekken opnemen voor trainingsdoeleinden? Vorige week is kledingmerk Patagonia aangeklaagd voor het gebruik van Talkdesk’s AI-tools als onderdeel van de contactcenteroplossing. Bij dat gebruik zouden gesprekken worden opgenomen en gebruikt voor het trainen van AI. Dat zet de bekende meldtekst in de IVR in een ander daglicht. Wie of wat wordt er getraind met opgenomen gesprekken?

Talkdesk en veel andere CCaaS-leveranciers gebruiken de inhoud van de gesprekken van de klanten van hun eigengebruikers om hun AI-modellen te trainen. CX Today werpt nu de vraag op of de klanten van de klanten van CCaaS-aanbieders hiervan op de hoogte zijn en of ze een opt-out wordt geboden.

In het geval van Patagonia werd niet de CCaaS-leverancier (in dit geval Talkdesk) aangeklaagd, maar de klant die de applicatie afneemt. Amerikaanse analisten verwachten meer van dit soort rechtszaken, omdat de standaard IVR-boodschap – zoals “dit gesprek wordt opgenomen voor trainingsdoeleinden” – niet genoeg zal zijn; de Californische wetgeving gaat volgens hen veel verder.

In California is in 2019 een min of meer vergelijkbare zaak geweest waarbij een klant van Salesforce en Salesforce zelf werden aangeklaagd. Een andere zaak is aangespannen tegen Navy Federal Credit Union en Verint, waarbij Verint ‘meeluistert met gesprekken’ in het kader van real time agent assist of speech analytics-oplossingen zonder dat hiervoor toestemming is gegeven.

De analisten op CX Today suggereren dat eindgebruikers ook informatie zouden moeten geven over waar de gespreksgegevens naartoe worden gestuurd, of ze op een andere locatie worden bewaard, enzovoort. De vraag is of dit allemaal op een begrijpelijke manier in één begrijpelijke IVR-mededeling past.

Opnemen voor AI, mag dat volgens de AVG?

Er zijn twee wetten relevant als het gaat om het opnemen van gesprekken voor AI-doeleinden. Aan de ene kant is er de AI Act, die transparantieverplichting vereist. Onderdeel van die transparantiebepaling is dat mensen de mogelijkheid hebben om “weloverwogen keuzes te maken of afstand te nemen van een bepaalde situatie.” De andere wet is de AVG, relevant in het kader van ‘meeluisteren’ en het bewaren van gesprekken.

Arnoud Engelfriet van ICTRecht zegt dat de AVG al sinds 2018 eist dat je duidelijk bent over eventueel hergebruik van persoonsgegevens. “De bekende zin over trainingsdoeleinden is wat dat betreft erg mager, ik denk dat je daar weinig meer mee verkrijgt dan het recht om medewerkers te trainen. Een bevoegdheid om een AI ermee te trainen, zit hier zeker niet in,” aldus Engelfriet.

“Er is wat discussie of het trainen van een AI überhaupt onder de AVG valt, omdat deze een uitzondering kent voor statistische analyse en het resultaat geen bestand met persoonsgegevens is maar een model met waarschijnlijkheden – na dit woord komt meestal dit woord, behalve als die frase er voor stond. Maar in veel gevallen gaat de ruwe brondata mee en blijft die liggen voor het hertrainen en controleren. En dat is zeker een bestand met persoonsgegevens.”

Engelfriet zou zo snel niet meteen een ‘nieuwe standaardzin’ kunnen verzinnen die ook het gebruik van gesprekken voor de training van AI afdekt.

Oppassen met aanbieden van gesprekken aan AI

Micha Groeneveld van BDO denkt dat de AI Act niet veel verandert aan deze praktijk. De belangrijkste verplichting vanuit de AI Act rond dit soort toepassingen gaat om transparantie. Maar dan moet het wel gaan om directe interactie met AI-systemen en dat is bij de IVR niet aan de orde. De softwareleverancier en zijn klant zelf moeten wel voldoen aan de AI Act.

Groeneveld ziet eerder aanknopingspunten vanuit de AVG. “Het is duidelijk dat je je in een kleedhokje onbespied mag wanen, zodat het ophangen van camera’s daar niet zomaar kan. Op dezelfde wijze zou je kunnen beargumenteren dat het trainen van AI met dit soort gegevens niet zomaar kan. Daarbij vind ik extra zwaar wegen dat het brief- en telecommunicatiegeheim wordt beschermd door artikel 13 van onze grondwet,” aldus Groeneveld.

“Het is dus sowieso al oppassen geblazen met het lukraak opnemen van telefoongesprekken voor ‘kwaliteits- en trainingsdoeleinden’, maar helemaal als je die informatie vervolgens aan AI gaat voeren waardoor gegevens mogelijk verankerd raken in een systeem waarin je ze niet wilt hebben.”

Overigens speelt wat Groeneveld betreft ook de context mee. “Het lijkt me evident dat je telefoongesprekken met GGZ-medewerkers nog minder snel aan AI kunt gaan voeren dan eenvoudige klantvragen over de levertijd van het nieuwe bankstel.” (Ziptone/Erik Bouwer)