Het ethisch gebruik van kunstmatige intelligentie (Artificial Intelligence – AI) is van fundamenteel belang om loyaliteit en vertrouwen van consumenten en burgers in AI te verkrijgen. Dat blijkt uit een nieuwe studie van het Capgemini Research Institute. Naarmate organisaties meer gebruik maken van de voordelen van AI, zijn kritische consumenten, werknemers en burgers bereid om activiteiten op dit gebied positief te waarderen of juist af te keuren. Respondenten geven aan loyaler te zijn aan, of meer te kopen van, organisaties waarvan de AI-interacties als ethisch worden beschouwd.

Het onderzoek “Why addressing ethical questions in AI will benefit organizations” vond plaats onder 1.580 managers van grote organisaties in 10 landen en meer dan 4.400 consumenten in 6 landen, waaronder Nederland.

De belangrijkste bevindingen zijn:

• Bedrijven die AI op een ethische manier gebruiken, worden beloond. Wereldwijd zegt 62% van de ondervraagde consumenten (Nederland: 52%) meer vertrouwen te hebben in een bedrijf waarvan de AI-interacties door hen als ethisch worden ervaren. 61% zegt dat ze positieve ervaringen met vrienden en familie zullen delen (Nederland: 50%). 59% zegt dat ze meer loyaliteit aan het bedrijf zullen hebben (Nederland: 43%) en 55% zegt dat ze meer producten zullen kopen en hoge ratings en positieve feedback op sociale media zullen geven (Nederland 44%). Wanneer de AI-interacties van consumenten daarentegen leiden tot ethische kwesties, vormt dit een bedreiging voor zowel de reputatie als de omzet. 41% zei dat ze een klacht zullen indienen als een AI-interactie tot ethische kwesties zou leiden (Nederland: 40%), 36% zou een verklaring eisen (Nederland: 32%) en 34% zou stoppen met de interactie met het bedrijf (Nederland: 29%).

• Ethische kwesties die het gevolg zijn van AI-systemen zijn al waargenomen en ervaren. Leidinggevenden in 9 van de 10 organisaties zijn van mening dat ethische kwesties het gevolg zijn van het gebruik van AI-systemen in de afgelopen 2-3 jaar. Daarbij geven ze voorbeelden zoals het verzamelen van persoonlijke patiëntgegevens zonder toestemming in de zorg en het overdreven vertrouwen op geautomatiseerde beslissingen in het bank- en verzekeringswezen. Leidinggevenden noemen redenen zoals de druk om AI haastig in te voeren, het niet in overweging nemen van ethiek bij het bouwen van AI-systemen, en een gebrek aan middelen gericht op ethische AI-systemen.

• Consumenten, werknemers en burgers maken zich zorgen over ethische kwesties die verband houden met AI en willen enige vorm van regelgeving. Bijna de helft van de respondenten (47%) gelooft dat ze ten minste twee soorten gebruik van AI hebben ervaren die de afgelopen 2-3 jaar tot ethische problemen hebben geleid. In Nederland ligt dit percentage iets lager op 42%. De meeste respondenten (75%) zegt meer transparantie te willen wanneer een dienst wordt aangedreven door AI, en dat ze willen weten of AI hen eerlijk behandelt (73%). Meer dan driekwart (76%) van de consumenten vindt dat er verdere regelgeving moet komen over de manier waarop bedrijven AI gebruiken.

• Organisaties beginnen het belang van ethische AI te beseffen. 51% van de leidinggevenden vindt het belangrijk om ervoor te zorgen dat AI-systemen ethisch en transparant zijn. Organisaties ondernemen ook concrete acties wanneer ethische kwesties aan de orde worden gesteld. Uit het onderzoek blijkt dat 41% van de topmanagers aangeeft een AI-systeem volledig te hebben opgegeven toen een ethische kwestie aan de orde werd gesteld.

Het onderzoek omvatte meer dan 1.580 kaderleden van grote organisaties (met meer dan 1 miljard dollar aan omzet) uit tien landen (China, Frankrijk, Duitsland, India, Italië, Nederland, Spanje, Spanje, Zweden, het Verenigd Koninkrijk en de VS). Daarnaast werd een consumentenonderzoek uitgevoerd onder 4.400 consumenten uit zes landen (VS, China, VK, Frankrijk, Duitsland, Nederland en het Verenigd Koninkrijk). Deze respondenten hebben in het verleden allemaal een of andere vorm van AI-interactie gehad, zodat zij zich konden verhouden tot ethische, vertrouwens- en transparantiegerelateerde kwesties in AI. Het Capgemini Research Institute hield ook diepte-interviews met meer dan 20 academici, industrie-experts en ondernemers.

Een exemplaar van het rapport kan hier worden gedownload.

Technologie