Wetgeving voor chatbots? - Ziptone

Er is nieuwe wetgeving in de maak voor het gebruik van data ten behoeve van het ontwikkelen, trainen en inzetten van AI-toepassingen, zoals chatbots. In dit artikel gaan we in op de belangrijkste trends: welke kant gaat het op met de wet- en regelgeving?

1. Wat is het

Bedrijven die AI-toepassingen gebruiken – bijvoorbeeld ter ondersteuning van marketing, sales of customerservice-processen – moeten rekening houden met de komst van aanvullende wet- en regelgeving. Die regulering is nodig om bijvoorbeeld misbruik te voorkomen, maar heeft ook gevolgen voor de kwaliteit van de oplossingen. In deze tech update uitleg van een jurist en een wetenschapper.

In TechUpdate, Ziptones rubriek over relevante opkomende technologie, leggen we in kort bestek uit wat het is, hoe het werkt, waarom het relevant is, wat de valkuilen zijn en vragen we de mening van de lezer: Hot or Not?

2. Waarom is het relevant

Bedrijven steken veel tijd en geld in het ontwikkelen van succesvolle toepassingen van kunstmatige intelligentie (hierna: AI). De Europese Commissie erkent dat dit kan bijdragen aan het concurrentievermogen van bedrijven. Daarom kiest de Europese Commissie er al een aantal jaren voor om de Europese samenwerking op het gebied van AI te bevorderen en te versterken. In de visie van de Europese Commissie moet echter ook het vertrouwen van burgers in AI verbeterd en gewaarborgd worden.

In klantcontact zijn allerlei toepassingen van AI te vinden. Denk aan spraakherkenning, te gebruiken voor het geautomatiseerd wegschrijven van gesproken samenvattingen van gesprekken; openvraagspraakherkenning voor routering naar de juiste medewerker of het monitoren van sentiment; het realtime aanbieden van next best action en allerlei andere vormen van agent assist. Of denk aan de geautomatiseerde acceptatie (of afwijzing) van nieuwe klanten op basis van online ingevoerde persoonsgegevens. En uiteraard worden klantgegevens doorlopend gebruikt voor het trainen (verbeteren) van AI-toepassingen.

Algoritmen mogen niet discriminerend werken en moeten bestaande regels op het gebied van privacy respecteren. Volgens de Commissie is de bestaande wet- en regelgeving niet toereikend om de toepassing van AI in goede banen te leiden. Daarom ontwikkelt de Europese Commissie aanvullende regelgeving. Het Nederlandse kabinet sluit zich hierbij aan: “We moeten ervoor zorgen dat de regels die gelden in de fysieke wereld ook online gaan gelden. De kansen die digitalisering ons biedt omarmen we, maar dan wel op basis van voor ons belangrijke publieke waarden,” aldus Alexandra van Huffelen, staatssecretaris Koninkrijksrelaties en Digitalisering.

3. Hoe werkt het

De nieuwe regelgeving vanuit de EU heeft betrekking op zowel hardware (zoals zelfrijdende auto’s) als op softwarematige oplossingen (denk aan chatbots). De eerste onderdelen van de richtlijnen zijn afgelopen voorjaar gepubliceerd. De regelgeving is gebaseerd op risico-inschattingen. De Europese Commissie heeft AI rondom chatbotoplossingen bijvoorbeeld ingeschaald als toepassingen met een relatief laag risico. Maar andere online tools kunnen wellicht een hoger risico bevatten. Denk aan een algoritme dat bepaalt of een klant wel of geen lening of verzekering krijgt. Overigens stelt de huidige AVG al veel beperkingen aan wat bedrijven mogen doen met data en algoritmen: profiling, waarbij het algoritme beslist zonder menselijke tussenkomst, maar met rechtsgevolg, is nadrukkelijk niet toegestaan.

Ook DNB, De Nederlandsche Bank onderschrijft de Europese visie over AI. “Zo kan een chatbot van een bank u helpen met allerlei zaken, bijvoorbeeld wat u moet doen als u uw pinpas bent kwijtgeraakt. Ook is een chatbot behulpzaam bij het afsluiten van een lening. Dat kan doordat er meer en betere data beschikbaar zijn om risico’s te beoordelen. Daarnaast kan een robot met AI in grote hoeveelheden informatie verbanden leggen en ingewikkelde patronen herkennen. Het is wel belangrijk dat AI niet discrimineert of dat het proces niet meer te controleren valt. Daarom werkt DNB met andere toezichthouders en de sector aan richtlijnen die dat tegengaan.”

Naast nieuwe wet- en regelgeving komt er vermoedelijk ook een meldplicht voor ernstige incidenten en defecten rondom AI, inclusief een stelsel van boetes, vergelijkbaar met het boetestelsel rond datalekken waarbij een percentage van de wereldwijde jaaromzet kan worden opgelegd als boete.

4. Even opletten

Er zal naar alle waarschijnlijkheid een onderscheid komen tussen datagebruik voor het verbeteren van (service)processen via AI en het datagebruik voor het trainen van AI-toepassingen. Ook AI-toepassingen die door de business zelf worden ontwikkeld – denk bijvoorbeeld aan low code chatbots – moeten voldoen aan de huidige wetten en regels. Bedrijven zullen hun governance moeten uitbreiden zodat low code ontwikkelwerk door de business goed wordt gemonitord.

Volgende week gaan we met Arjan van Hessen (Head of Imagination Telecats/UTwente) en Menno Weij (Partner Tech & Privacy Law bij BDO) verder de diepte in.