De Autoriteit Persoonsgegevens (AP) roept mensen op om hun ervaringen met de AP te delen die ze hebben opgedaan met emotie-AI. De AP werkt aan een Rapportage AI- & Algoritmerisico’s Nederland (RAN), wat een verkenning is naar de inzet van emotie-AI in de samenleving. De ervaringen en input worden gebruikt om een beeld te vormen van het gebruik en de risico’s van de technologie in de praktijk.

 

Het gaat dan om systemen die op basis van biometrische gegevens – zoals gezichtsuitdrukking, toonhoogte van de stem, transpireren of hartritme – een oordeel proberen te vormen over iemands emotionele toestand. Voorbeelden die de AP hierbij noemt zijn apparaten voor privégebruik en emotie-AI die werd ingezet tijdens klantcontact.

Ook doet de AP in samenwerking met de KSF een online onderzoek.

Het delen van ervaringen met emotie-AI kan tot uiterlijk 6 mei 2025 via dca@autoriteitpersoonsgegevens.nl onder vermelding van “Ervaringen met emotie-AI”.

De AP wijst erop niet op zoek te zijn naar ervaringen met de inzet van emotieherkenning op de werkplek of in het onderwijs. Dit is sinds 2 februari 2025 verboden. (AP)

Technologie