De laatste congresdag van CCW Berlijn, de ‘Inspirationstag’ – stond deze keer grotendeels in het teken van wet- en regelgeving. Digitale bank N26 had een interessante tip: ‘klein beginnen met AI’ kan ook betekenen dat de echte impact van AI langer op zich laat wachten. 

 

Tina Klüwer, een succesvolle AI-expert die met haar onderneming Parlamind onder meer aan de basis stond van de Duitse CCaaS-oplossing Vier, een fusieproduct, ging uitgebreid in op DeepSeek. Hoewel een momentopname, is dat momenteel het beste dat er is, aldus Klüwer. Het is volledig open source, maar verder ontwikkeld dan ChatGPT, waardoor het niet alleen zuiniger en effectiever is maar ook meer expert-gebaseerde varianten omvat. Deze kunnen onderling samenwerken in een ‘chain of thought’, terwijl een klassiek LLM alleen op zoek gaat naar het volgende woord op basis van waarschijnlijkheid. Bovendien breekt DeepSeek een prompt op in stukjes, waardoor betere resultaten ontstaan.

DeepSeek on prem, in je eigen kelder

Of je nu ChatGPT of DeepSeek gebruikt, het beste zet je een on prem oplossing in je eigen kelder, aldus Klüwer. In Duitsland is er een reeks aan dienstverleners die deze optie voor DeepSeek aanbieden en/of de functionaliteit integreren in specifieke software-omgevingen. Aan de andere kant, aldus Klüwer, wat vandaag goed is, kan binnen enkele weken of maanden ingehaald zijn door een concurrent. De AI-wedloop gaat om het creëren van een voorsprong; ook hier is ‘winner takes all’ (vergelijkbaar met de opkomst van cloud) het leitmotiv.

Positief is Klüwer over het plan van Frankrijk om een eigen AI-industrie op te tuigen. “Europa staat tussen de reuzen China en VS en kijkt verbaasd,” zegt Klüwer. De beschikbaarheid van dit soort technologie is bepalend voor de toekomst. Voor Duitsland – Klüwer werkt inmiddels bij het Bondsministerie van Onderwijs en Onderzoek – heeft ze ook een advies: ons land moet de ontwikkeling van sleuteltechnologie ter harte nemen. Als we binnen de EU niet in actie komen, hebben we een groot probleem, zegt Klüwer.

Beleid Trump

Ze maakt zich zorgen om de veelheid aan acties die de regering Trump uitzet. Maar het biedt ook kansen: de komende tijd zullen goede wetenschappers hun toevlucht zoeken tot de EU, gezien het verstikkende klimaat in de VS. Klüwer is ook gematigd positief over de EU AI Act. Natuurlijk is regulering nodig, maar als ondernemer met meerdere in AI-startups wijst ze er op dat de wet al klaar is terwijl AI nog nauwelijks wordt toegepast. “We hebben misschien te sterk gereageerd op het idee dat AI de mensheid overneemt.” Overigens is de regering Trump vastberaden de opgebouwde voorsprong in AI te behouden.

Neobank N26: AI over de volle breedte

De tweede waardevolle bijdrage was van Jean-Pierre Sleiman van neobank N26 (opgericht in 2016 en nu vijf miljoen klanten). Sleiman koos na eerder gewerkt te hebben bij Capgemini en BNP Paribas (beiden in Frankrijk) voor een digital first bank in Berlijn: ondanks de regulering “gaan dingen bij N26 een stuk sneller.” En AI is voor N26 erg belangrijk, legt hij uit.

De bank heeft drie werkterreinen waarbij complexiteit en impact bepalend zijn. Natuurlijk maakt de bank gebruik van toepassingen zoals summaries en vertaalmogelijkheden: weinig complex, maar ook relatief weinig business impact. Anders is dat voor agent assist toepassingen, waar de complexiteit vooral te maken heeft met workflows. Klanten die in processen zijstappen maken (‘nested requests’) of halverwege processen instappen, dat vraagt om gestandaardiseerde, maar flexibele processen. Als niet aan die voorwaarde is voldaan, heb je veel uitval, aldus Sleiman, en daarmee relatief weinig impact.

Grootste winst is te behalen in de backoffice

Maar de grootste impact denkt N26 te maken met backoffice-processen. Denk aan inkomende berichten van klanten, waarbij zowel de klant als het juiste proces moet worden herkend en onderling gekoppeld: het gaat dan om documentbeoordeling, classificering en automatisering van de afwikkeling. In de financiële sector zijn dit zaken met zowel een grote potentie als een relatief hoog risico op problemen.

Sleiman heeft ook tips voor zijn publiek. Stel GenAI technologie beschikbaar aan je medewerkers en ze zullen er mee gaan spelen – dat levert nieuwe ideeën op. Zelf ontwikkelen is goedkoper maar gaat langzamer, inkopen van oplossingen is duurder maar levert een kortere time to market op. Sleiman gaat voorbij aan de vraag of het zinvol is (of essentieel) om zelf expertise op te bouwen, zodat je minder afhankelijk wordt van aanbieders en meer eigen IP kunt ontwikkelen.

Opmerkelijk: Sleiman pleit voor omkering van je aanpak. Beginnen bij laaghangend fruit betekent ook dat de grootste business impact langer op zich laat wachten. Dus waarom niet met projecten beginnen die juist veel impact hebben? Ook over de EU AI Act is hij duidelijk: veel is er nog niet in beschreven, maar laat je daardoor niet in ieder geval niet tegenhouden. Wie een afwachtende houding aanneemt, loopt snel achter.

AI in HR-processen? Al snel risicocategorie nr 3

De laatste sessie van CCW2025 die we hier bespreken is die van Alina Moers, techjurist bij het Keulse Luther Rechtsanwaltsgesellschaft. Ze plaatst de EU AI Act in perspectief. Het is de eerste Europese wet op dit vlak en de wet heeft in ieder geval gezorgd voor heldere definities en een kader. De wet geldt bovendien voor de gehele keten, van ontwikkelaar tot importeur, verkoper en eindgebruiker.

Moers licht de vier risico-categorieën toe, waarbij ze benadrukt dat AI-toepassingen in het HR-domein al snel in de derde risicocategorie (hoog risico) vallen, terwijl de doorsnee klantenservice-chatbot in categorie 2 valt. Het is de vraag of AI-chatbots nog lang in categorie zullen vallen, gezien de wijze waarop ze getraind (kunnen) worden, maar dat bracht Moers niet aan de orde. Verder moet iedereen binnen de organisatie die AI-gebruikt, getraind worden: wat kan en wat mag wel en niet met AI? Tegelijkertijd: “Er is nog veel tijd om je zaken op orde te brengen, want toezicht en handhaving op de AI Act zijn nog niet geregeld,” aldus Moers.

Wetgeving rondom aansprakelijkheid AI is in de maak

Moers is ook voorstander van een intern reglement voor organisaties. Daarin zou je aandacht moeten besteden aan zaken als visie, strategie, consequenties van AI-toepassingen inclusief risico-inventarisatie en audits, maar ook het aanwijzen van gesprekspartners binnen de organisatie om de dialoog te organiseren. Dat laatste is in Duitsland zeer belangrijk: het woord ‘Betriebsrat’ komt in vrijwel iedere presentatie over AI in klantcontact voor.

Tot slot: er is nog weinig geregeld over aansprakelijkheid van organisaties als AI schade toebrengt aan mensen. De EU werkt aan dit soort regelgeving, al zijn er (met Air Canada als veelbesproken voorbeeld) nog weinig zaken bekend waarin consumenten met schade veroorzaakt door AI naar de rechter stappen. (Ziptone/Erik Bouwer)