We zijn in een slechte film beland. Het is nog veel erger dan George Orwell voorspelde, maar goed, 1984 is dan ook al een tijdje geleden, dus het was te verwachten.

 

AI-agents (ook wel OS-agents genoemd) nemen onze computers over. Robots gaan de wereld besturen. Klinkt doodeng. Alhoewel, misschien zijn we dan eigenlijk wel beter af dan met de huidige wereldleiders.

Het scenario klinkt op een bepaalde manier ook heel relaxed. We hoeven alleen nog maar achterover te leunen. We raken onze computers niet meer aan, maar praten alleen nog tegen onze AI-bril, die vervolgens alles voor ons regelt. Op het moment dat we de koelkast opentrekken, ziet de bril dat de melk voor de cappuccino’s bijna op is en bestelt nieuwe. Het avondeten wordt meteen meebesteld. Dat is ofwel de goedkoopste maaltijd die op dat moment samengesteld kan worden, of de AI-agent blijkt toch een politieke voorkeur te hebben, waardoor deze wordt samengesteld uit linksdraaiende macrobiotische veganistische yoghurt en wat vergeten groenten met onbewerkt graan erbij.

Onze hersenen gaan er misschien langzaam van dood, onze creativiteit wordt mogelijk niet meer uitgedaagd en of we er gelukkiger van worden is ook de vraag. Maar misschien leven we er wel lánger door.

Dat deze OS-agents een absolute ramp zijn voor onze privacy, vergeten we gemakshalve maar even, want hun inzet levert ontzettend veel voordelen op. Zo lijkt het op het eerste oog in elk geval.

Stel dat er een keer iets misgaat

Het kan natuurlijk zijn dat als AI onze computers, telefoons en levens overneemt, er onverhoopt iets misgaat. Wie is dan verantwoordelijk voor de schade?

We kiezen zelf voor de apparaten, zetten zelf de apps op onze telefoons en kiezen zelf voor gevaarlijke gemakzucht. Moeten we dan ook zelf de prijs betalen wanneer we door AI voorgestelde recepten blindelings volgen, maar daar doodziek van blijken te worden? Of kunnen we daar een ander voor aansprakelijk stellen?

Als er sprake is van een hack, dan is het natuurlijk eenvoudig. Als de aanbieder van het AI-systeem aan alle (veiligheids)eisen heeft voldaan, treft hem geen blaam. Dikke pech, lek dichten, gebruikers informeren en door!

Handvol wetten en regels

Maar voldoet de AI-agent niet aan de vereisten van de AVG, de AI Act, Digital Services Act (DSA), Data Act, EU Richtlijn Oneerlijke Handelspraktijken, EU Richtlijn Consumentenrechten en welke wetten er nog meer op van toepassing kunnen zijn, dan is het de aanbieder die aansprakelijk is voor de gevolgen.

Tenminste, als het een aanbieder is die onder onze Europese regels valt en wij als consumenten geen rare dingen hebben gedaan. Zoals een geoblock omzeilen om zo toch Amerikaanse of Chinese software te kunnen gebruiken, vanuit onze rotsvaste overtuiging dat die producten beter en/of goedkoper zijn dan wat we lokaal en legaal kunnen kopen.

Het wordt ons niet gemakkelijker gemaakt, nu de Europese Commissie eerder dit jaar de AI Aansprakelijkheidsrichtlijn heeft ingetrokken, omdat er geen zicht was op een akkoord. Sommige lidstaten vonden het voorstel te ver gaan, terwijl het volgens anderen niet ver genoeg ging. Mogelijk speelde kritiek van de Amerikaanse vice-president JD Vance ook een rol. De regeling had als doel om het aansprakelijk stellen van aanbieders voor schade die veroorzaakt is door AI-systemen, te vereenvoudigen. Nu moeten we voorlopig toch zelf nadenken en verantwoordelijkheid nemen.

Dus wat gaan we doen? Nemen we zelf het risico? Of kiezen we voor onze eigen veiligheid?

(Ziptone/Charlotte Meindersma)

Featured, Opinie, Technologie