Met de instemming van het Europees Parlement is de invoering van de Europese AI Act nu zeker. De wet moet zorgen voor duidelijke regels rond algemene kunstmatige intelligentie (GPAI). De onderhandelingen over de wet zijn eind vorig jaar afgerond, eerder gaven de verschillende lidstaten al hun akkoord op de wet.

 

Op het vlak van het doorvoeren van compliance is – ook in het klantcontactdomein – nog veel werk aan de winkel, aldus Micha Groeneveld, jurist tech & privacy law bij BDO in een eerder gesprek met Ziptone. Dat geldt voor zowel de gebruikers als de aanbieders van AI-toepassingen.

De AI Act schrijft onder andere voor dat er transparantie moet bestaan over hoe AI-systemen zoals chatbots interacteren met klanten. Consumenten zullen bijvoorbeeld moeten weten dat zij te maken hebben met een AI-systeem. Een ander punt van zorg is dat niet alle GenAI-oplossingen GDPR-compliant zijn.

Risico-klassen

De regels in de wet zijn onder meer gebaseerd op risico-klassen, die bepalend zijn voor het soort regels dat geldt. Hoe hoger de risico’s van AI-toepassingen, hoe minder er is toegestaan. Organisaties die AI-systemen inzetten in vitale sectoren zoals de gezondheidszorg, het transport en de financiële sector, krijgen te maken met strenge verplichtingen zoals uitgebreide risicobeoordelingen, transparantiemaatregelen en robuuste verantwoordingsnormen. AI-toepassingen die bedoeld zijn om menselijk gedrag te monitoren, zullen volledig worden verboden. De risico-klassen zijn ook bepalend voor de gefaseerde effectuering van de regels en de handhaving, dan wel het geheel verbieden van toepassingen.

Er komt een European Artificial Intelligence Board die moet gaan handhaven. De wet moet eerst nog officieel worden gepubliceerd. Naar verwachting zal dat gebeuren in mei 2024.

Customer Experience, Featured