Gartner waarschuwt voor een schaduwzijde van AI-agents. Criminelen kunnen AI-agents gebruiken om meerdere stappen in account takeover (ATO) te automatiseren. Gartner wijst op de mogelijkheden van social engineering op basis van deepfake stemmen tot end-to-end automatisering van misbruik van gebruikersgegevens.

 

Gartner verwacht dat tegen 2027 AI-agents 50% sneller in staat zijn om accountblootstellingen uit te buiten. Ofwel: het benutten van een geslaagde ATO gaat een stuk sneller. Volgens Jeremy D’Hoinne, VP Analyst bij Gartner, worden criminelen hierbij ook geholpen door zwakke authenticatiegegevens, zoals wachtwoorden. AI-agents kunnen die uitpluizen door middel van een geautomatiseerd spervuur van inlogpogingen bij verschillende diensten – in de hoop dat de inloggegevens op meerdere platforms worden hergebruikt.

Gartner pleit daarom voor wachtwoordloze phishing-resistente multifactor authenticatie. “Gebruikers moeten worden opgeleid en gestimuleerd om waar nodig te migreren van wachtwoorden naar multidevice passkeys.”

Deepfakes

Naast ATO zal ook social engineering met behulp van technologie een belangrijke bedreiging vormen voor de cyberbeveiliging van bedrijven. Gartner voorspelt dat in 2028 40% van de social engineering-aanvallen gericht zullen zijn op leidinggevenden en het bredere personeelsbestand. Aanvallers combineren nu social engineering-tactieken met technieken om de werkelijkheid na te bootsen, zoals deepfake audio en video, om werknemers te misleiden tijdens gesprekken.

De uitdaging om deepfakes te detecteren bevindt zich nog in de beginfase, aldus Gartner.

Technologie