Met ingang van zondag 2 februari is het eerste onderdeel van de Europese AI-Act in werking getreden. Daarmee kunnen nationale toezichthouders de inzet van bepaalde AI-systemen verbieden wanneer deze onaanvaardbare risico’s opleveren. Ook moeten bedrijven vanaf nu hun interne AI-geletterdheid waarborgen. 

Naast de effectuering van het eerste deel van de wet geldt vanaf 2 februari ook dat bedrijven die AI inzetten, intern maatregelen moeten nemen om te zorgen voor AI-geletterdheid. Dat betekent dat binnen organisaties wordt gezorgd voor voldoende kennis, vaardigheden en bewustzijn, nodig om AI-systemen op een geïnformeerde en verantwoorde manier te gebruiken. Het gaat hierbij om zowel algemene kennis over AI als het juiste gebruik van specifieke tools en toepassingen. Volgens de AI-Act moeten zowel aanbieders als gebruikers van AI-systemen ervoor zorgen dat hun medewerkers – inclusief ingehuurde zzp’ers – AI-geletterd worden en blijven op een niveau dat past bij hun rol en de risico’s van de AI-toepassing.

Resterende drie risicocategorieën: vanaf augustus 2026

De AI-Act is al eerder (in augustus 2024) ingegaan en omvat vier risiconiveaus. Het deel van de AI-act dat zondag in werking is getreden heeft betrekking op de hoogste risicocategorie (4) met onaanvaardbare risico’s. Het gaat dan om toepassingen die te maken hebben met sociale monitoring, manipulatie, misbruik van kwetsbaarheden, AI die emoties probeert af te leiden van mensen op het werk of op school.

De drie andere risicocategorieën uit de AI-Act gaan over een minimaal risico waarvoor geen toezicht nodig is (eerste categorie). Chatbots zoals ingezet voor klantenservice vallen onder de tweede categorie, met licht regelgevend toezicht. De derde categorie gaat over toepassingen met een hoog risico – denk aan zelfrijdende auto’s – waarbij met zwaar regelgevend toezicht van toepassing is. Toepassingen met een onaanvaardbaar hoog risico worden verboden. Er zijn verschillende uitzonderingen en de EU gaat nog aanvullende regels formuleren.

In augustus 2026 gaat de rest van de verordening van kracht, waaronder de transparantie-eisen, de eisen voor hoog-risico, en de sandboxes. (Ziptone)