Door de snelle en sterke ontwikkeling van generatieve AI, zoals ChatGPT van OpenAI en Bard van Google, staat deze technologie sinds het tweede kwartaal van dit jaar hoog op het risico-lijstje van bedrijven. Dat concludeert Gartner na een peiling onder 249 senior risico-specialisten.  

 

Generatieve AI is voor het eerst in het lijstje verschenen en staat meteen op nummer twee in de top tien van meest genoemde bedrijfsrisico’s, aldus Gartner, dat deze maand een nieuw Quarterly Emerging Risk Report uitbracht. Het gaat dan niet specifiek om IT- of technologie gerelateerde bedrijfsrisico’s, maar om risico’s zoals aansprakelijkheid voor derden, financiële onzekerheid, geopolitieke spanningen et cetera.

“Prompt injections”

Gartner wees al eerder op zes risicogebieden voor organisaties die met generatieve AI aan de slag gaan, waaronder problemen op het vlak van IP (je eigen IP kan als trainingsdata in een AI-oplossing eindigen), risico’s rond databescherming en risico’s op het vlak van cybersecurity. Gartner wijst erop dat er steeds meer voorbeelden komen van malware en ransomware-code die generatieve AI heeft laten produceren, evenals ‘prompt injections’-aanvallen die deze tools kunnen verleiden tot het weggeven van informatie die ze niet zouden moeten geven. Dit leidt tot de industrialisatie van geavanceerde phishing-aanvallen, aldus Gartner.

Driekwart heeft een verbod ingevoerd

Uit recent wereldwijd onderzoek van BlackBerry komt naar voren dat driekwart van de organisaties het gebruik van generatieve AI-tools voor het werk verboden is. De meeste respondenten geven aan dat dit beleid voor een lange periode of zelfs permanent zal gelden. Acht op de tien respondenten maakt zich zorgen over het gebruik van onbeveiligde apps en de risico’s die het meebrengt voor de cyberbeveiliging. 67 procent wil niet dat bedrijfsgegevens lekken naar de trainingssets van AI en uiten zorgen over de privacy.

Ondertussen groeit de belangstelling van aanbieders en dienstverleners om zakelijke diensten te ontwikkelen. Niet alleen werkt OpenAI bijvoorbeeld aan ChatGPT Business, ook bedrijven als Accenture en AWS vergroten de investeringen in de ontwikkeling van generatieve AI. (Ziptone, Gartner)

Technologie