Air Canada moet een schadevergoeding aan een klant betalen omdat de chatbot van de luchtvaartmaatschappij verkeerde informatie gaf. De informatie die de chatbot verstrekte, week af van andere informatie op de website.

 

In 2022 nam Jake Moffatt, inwoner van Vancouver, contact op met Air Canada om na te gaan welke documenten nodig waren om in aanmerking te komen voor een speciaal ‘rouwtarief’. De luchtvaartmaatschappij biedt namelijk gereduceerde tarieven als iemand moet reizen vanwege een aanstaand overlijden of een sterfgeval in de naaste familie.

Moffatt vroeg de chatbot van Air Canada om uitleg. Die luidde: “Als u onmiddellijk moet reizen of al hebt gereisd en uw ticket wilt indienen voor een gereduceerd rouwtarief, doe dit dan alstublieft binnen 90 dagen na de datum waarop uw ticket is uitgegeven door ons Ticket Restitutie Aanvraagformulier in te vullen.”

Na uitleg van de chatbot boekte Moffatt boekte tickets van en naar Toronto om de begrafenis van een familielid bij te wonen. Maar toen hij om terugbetaling vroeg, zei Air Canada dat de rouwtarieven niet van toepassing waren op voltooide reizen en verwees hierbij naar de website. Het beleid van Air Canada is dat er geen restituties worden gegeven voor rouwreizen nadat een vlucht is geboekt.

Screenshot chatbot

Moffatt probeerde Air Canada ervan te overtuigen dat er toch een terugbetaling verschuldigd was. Moffat overlegde onder meer het screenshot van een gesprek met de chatbot. De luchtvaartmaatschappij stelde dat Moffatt had kunnen weten dat rouwtarieven niet met terugwerkende kracht konden worden aangevraagd. In plaats van een terugbetaling beloofde Air Canada hooguit de chatbot te updaten en Moffatt een coupon van $200 aan te bieden voor een toekomstige vlucht.

Moffat liet de zaak voorkomen. Air Canada stelde daarna dat de luchtvaartmaatschappij niet aansprakelijk was omdat de chatbot een aparte juridische entiteit is die verantwoordelijk is voor zijn eigen daden; het bedrijf zou niet verantwoordelijk zijn voor de daden van de chatbot. Ook werd gesteld dat de website van de luchtvaartmaatschappij betrouwbaarder was dan de chatbot; Moffatt had de chatbot nooit moeten vertrouwen. Maar het bedrijf bleek niet in staat om te onderbouwen waarom klanten bepaalde informatie op de website (waar de chatbot actief was) dubbel zouden moeten controleren.

Air Canada wil alles automatiseren wat geautomatiseerd kan worden

In maart 2023 gaf Mel Crocker, CIO van Air Canada, in een gesprek met de Globe and Mail aan dat de luchtvaartmaatschappij de chatbot had gelanceerd als een ‘AI-experiment’. De bedoeling van de chatbot was om het callcenter van het bedrijf te ontlasten bij onverwachte vertragingen of annuleringen van vluchten. “Dus in het geval van een sneeuwstorm, als je je nieuwe instapkaart nog niet hebt gekregen en je wilt gewoon bevestigen of je een stoel beschikbaar hebt op een andere vlucht, dat is het soort dingen dat we gemakkelijk kunnen afhandelen met AI,” aldus Crocker.

Check ook het dossier chatbots van Ziptone.

“We gaan hier niet aan beginnen met de bedoeling om banen te schrappen”, aldus Crocker. “Maar als we een mens kunnen gebruiken om iets op te lossen waarvoor een menselijke aanpak nodig is en technologie om iets op te lossen dat geautomatiseerd kan worden, dan zullen we dat doen.”

“Air Canada hoopt dat de chatbot “de mogelijkheid zou krijgen om nog complexere problemen met de klantenservice op te lossen”, met het uiteindelijke doel van de luchtvaartmaatschappij om elke service te automatiseren die geen “menselijk contact” vereist,” aldus Crocker.

Veroordeling

Uiteindelijk is Air Canada op 14 februari 2024 veroordeeld tot het betalen van een schadevergoeding: Moffat had recht op een gedeeltelijke terugbetaling van omgerekend ongeveer 1200 dollar, rente en de juridische kosten.

“De initiële investering van Air Canada in AI-technologie voor de klantenservice was veel hoger dan de kosten om werknemers te blijven betalen voor het afhandelen van eenvoudige vragen,” zei Crocker tegen de Globe and Mail in maart 2023. “Maar dat is niet onze belangrijkste reden om dit te doen. Het grootste voordeel van AI voor ons is dat het fundamenteel zorgt voor een betere klantervaring. En blijere klanten betekent dat ze meer met Air Canada reizen.”

Wie nu de juiste plek op de juiste pagina weet te vinden waar informatie staat over contact met customer service van Air Canada, ziet dat daar nu geen chatbot meer online staat. (Ars Technica/Globe and Mail/Ziptone)