Agentic AI biedt kansen voor efficiëntere uitvoering en betere dienstverlening, maar vraagt tegelijkertijd om zorgvuldige implementatie en duidelijke randvoorwaarden. Dat blijkt uit een toekomstverkenning in opdracht van de Concerndirectie Innovatie en Strategie, uitgevoerd door Remy Gieling en Job van den Berg.

 

Gieling en Van den Berg (van AI.nl en The Automation Group) spraken voor hun verkenning met elf experts met verschillende achtergronden. De auteurs adviseren in hun verkenning om te starten met toepassingen met een beperkt risicoprofiel, waarbij menselijke controle eenvoudig kan worden ingebouwd, zoals documentanalyse, ondersteuning bij het zoeken in regelgeving en het automatiseren van standaardvragen bij klantcontact.

Toepassingen zoals autonome besluitvorming of het direct aanpassen van dossiers zijn voorlopig te risicovol vanwege de probabilistische aard van AI-systemen en de mogelijke juridische gevolgen van fouten.

Gieling en Van den Berg vragen in hun verkenning extra aandacht voor de inrichting van governance. Transparantie, logging en uitlegbaarheid van beslissingen moeten vanaf het begin onderdeel zijn van AI-systemen. Dit is essentieel voor verantwoording richting burgers en toezichthouders.

De stap van pilot naar grootschalige implementatie vormt een belangrijk knelpunt. Succesvolle experimenten blijken in de praktijk moeilijk op te schalen door onder meer legacy-systemen, datakwaliteit en beperkte gebruikersadoptie. Tegelijkertijd signaleren experts dat medewerkers AI-toepassingen al gebruiken buiten formele kaders. Dit onderstreept de noodzaak om gebruik te reguleren en te faciliteren via veilige, gecontroleerde omgevingen.

De centrale aanbeveling is een gefaseerde aanpak, gericht op experimenteren en leren. Daarbij moet ruimte worden gecreëerd voor innovatie, zonder de betrouwbaarheid en rechtszekerheid van processen in gevaar te brengen, aldus het stuk.

(Ziptone/redactie)

Technologie