86% van de consumenten vindt dat retailers stappen moeten ondernemen om kunstmatige intelligentie (AI) meer divers, rechtvaardig en inclusief (DEI) te maken, volgens de Talkdesk Bias & Ethical AI in Retail Survey, die inzicht geeft in de ervaringen en verwachtingen van klanten in de steeds veranderende wereld van AI.

 

Deze overtuiging komt naar voren uit het feit dat 64% van de shoppers zegt dat ze wel eens een AI-aanbeveling voor een product hebben ontvangen die niet overeenkwam met hun voorkeuren, interesses of eerdere winkelgedrag – een aantal dat nog hoger ligt voor Spaanstalige (72%) en Zwarte (69%) shoppers. Ondertussen vermijdt 60% van de shoppers productaanbevelingen op basis van AI omdat ze bevooroordeeld of stereotiep zijn.

Consumenten hebben twijfels over inclusiviteit AI

Talkdesk ondervroeg 1.000 Amerikaanse shoppers in de leeftijd van 18 tot 54+ en ontdekte dat ethisch en transparant gebruik van AI het belangrijkst is. In feite maakt 44% van de respondenten zich zorgen dat AI de winkelervaring minder inclusief zal maken omdat merken het niet op verantwoorde wijze inzetten, waarbij Latijns-Amerikaanse (50%) en Aziatische (52%) consumenten het meest bezorgd zijn, en slechts 39% gelooft dat retailers rekening houden met diverse gemeenschappen bij het gebruik of de ontwikkeling van AI-producten.

87% vindt dat klanten het recht moeten hebben op toegang tot en inzage in de gegevens die retailers van hen hebben verzameld.

87% vindt dat klanten het recht moeten hebben op toegang tot en inzage in de gegevens die retailers van hen hebben verzameld. 80% van de shoppers wil dat retailers expliciet toestemming vragen voor het gebruik van hun gegevens voor AI. 80% van de shoppers zou meer vertrouwen hebben in productaanbevelingen als retailers transparant zouden zijn over hun AI-gebruik. Slechts 28% van de shoppers vertrouwt erop dat retailers de juiste beveiligingsmaatregelen hebben genomen om de gegevens te beschermen die worden gebruikt voor hun AI-technologie of -producten. (Talkdesk)

Customer Experience