Charlotte Meindersma zit bij de financieel adviseur. Binnenkort beschikt die over een nieuwe tool waarmee de klantgesprekken kunnen worden opgenomen en geautomatiseerd samengevat. Dat roept natuurlijk vragen op, ook over de vanzelfsprekendheid waarmee consumenten data delen. 

 

“We stappen binnenkort over op een nieuw systeem,” vertelde onze financieel adviseur toen we bij hem aan tafel zaten voor het ondertekenen van de hypotheekovereenkomst. “Het is fantastisch. Het heeft AI en neemt dan de gesprekken op en vat ze samen. Dat scheelt ons heel veel tijd.”Gelukkig maar, dat hij die software nu nog niet heeft, dacht ik.

Volgens onze adviseur filterde de software er alle gevoelige informatie uit, over echtscheidingen enzo. De emoties konden bij hem aan tafel nog wel eens hoog oplopen, maar dat zou dan tenminste niet terugkomen in de opgeslagen verslagen.

Klinkt mooi, maar is het natuurlijk niet per se. Nu is het alleen de adviseur tegenover me die me dingen hoort vertellen. Hij neemt het gesprek nu niet op. Zijn aantekeningen gaan steeds enkel over de cijfers. Prachtige vorm van dataminimalisatie: hij noteert alleen de informatie die hij ook werkelijk nodig heeft.

Dat is zo meteen wel anders, met die software. Eerst wordt alles opgenomen. Verwerking van persoonsgegevens dus. Bijzondere persoonsgegevens misschien ook wel – dat weet je niet van te voren Het begint natuurlijk met de vraag of zijn klanten straks wel voldoende op de hoogte worden gebracht van de opname en verwerking van de persoonsgegevens.

Wie wat waar wanneer en hoe?

En waar gaat die data, in eerste instantie, naartoe? Hoe wordt de samenvatting gemaakt? Wie kan er nog meer bij deze informatie? Ik vrees met grote vreze dat er Amerikaanse verwerkers bij betrokken worden.

En hoe zit het met de beveiliging? Niet dat ik verwacht dat deze nu al goed zal zijn, maar de kans is best aanzienlijk dat er alleen maar meer zwakke plekken bij zullen komen. Veel van mijn data liggen al op straat, want ook mijn medische gegevens zijn gelekt bij de hack van het Bevolkingsonderzoek en ik ben klant bij onder meer Odido. Maar dat zijn geen gegevens waar ik me zorgen over maak. Met Odido heb ik geen emotionele gesprekken gevoerd en ik heb ze ook niets bijzonders verteld dat door een medewerker vrolijk is genoteerd. Dat financiële gegevens over mijn huis en hypotheek op straat liggen, vind ik vervelender.

Maar laten we wel wezen, die financieel adviseur is misschien niet eens mijn grootste risico. De goede doelen die geld van me willen omdat ik juist net de donaties heb stopgezet of die bellen omdat ze mijn donaties nog niet voldoende vinden, die weten veel meer verhalen uit mij te trekken. Hoeft die persoon aan de telefoon helemaal niet per se iets over op te schrijven. Ze laten immers AI meelopen? AI die mijn emotie herkent, die kan horen of ik wel de waarheid spreek als ik zeg dat ik het geld even niet kan missen en die vervolgens de medewerker adviseert over hoe deze het gesprek goed kan vervolgen, of dat nu is om mij alsnog zo goed mogelijk te manipuleren om toch (extra) geld te doneren of omdat ze zo integer zijn dat ze het gesprek juist eerder beëindigen dan een getrainde donateurswerver zou doen.

Ook deze data gaat ergens heen om opgeslagen te worden. Misschien wordt het wel gedeeld met, of verkocht aan anderen. En zo niet, dan is het wachten op het moment dat het systeem gehackt wordt en de data alsnog verkocht worden. Aan wie, is dan de vraag.

Regels alleen zijn niet genoeg

Misschien kan ik door die informatie of de geregistreerde emotionele staat opeens lastiger een verzekering krijgen of wil een verhuurder zijn pand niet meer aan mij verhuren. Of wat als zakelijke partijen achter persoonlijke informatie komen, waardoor ik minder opdrachten krijg? En als iemand mij niet zo aardig vindt en me wat aan wil doen, is mijn huis opeens gemakkelijk gevonden en ben ik met persoonlijke informatie en kennis over mijn emotionele toestand nog gemakkelijk te manipuleren ook.

Een groot deel van het leed is natuurlijk al geschied. Veel mag helemaal niet conform de AVG en de AI Act bijvoorbeeld, maar het gebeurt wel. Regels alleen zijn niet genoeg. De handhaving zal strenger moeten worden en daarnaast moeten we onszelf beter leren beschermen. We moeten minder data vrijwillig delen met bedrijven en geen open boek meer zijn – dus misschien wat minder social media gebruik, niet meer zomaar cookies accepteren en vooral niet meer zomaar antwoord geven op elke vraag die een bedrijf aan de telefoon of via een website of formulier stelt. Dataminimalisatie voor consumenten dus. Het is maar een tip.

(Ziptone/Charlotte Meindersma)

Customer Experience, Featured, Opinie