Als chatbots je digitale medewerker zijn, handelen ze dan ook namens je bedrijf? En mag de klant dan alle antwoorden van de chatbot als rechtsgeldig en correct beschouwen? Kersverse Ziptone columnist Charlotte Meindersma vraagt het zich af. 

 

Lijkt me dus heerlijk hè, om een chatbot zo te manipuleren dat je opeens een nieuwe Chevy Tahoe 2024 kunt kopen voor precies één dollar. Hoef ik daarna alleen nog te wachten tot het CBR ook een chatbot installeert en die koppelt aan hun systemen, zodat ze me een rijbewijs geven, anders heb ik zo weinig aan die auto. Ik heb namelijk geen rijbewijs.

De chatbot van Chevrolet Watsonville draaide op ChatGPT. Die lokale autoverkoper heeft iets te makkelijk gedacht over het gebruik van de chatbot. Installeren was kinderspel, maar wat er fout kon gaan, daar hadden ze kennelijk niet lang over nagedacht.

Nou moge duidelijk zijn dat een manipulatie als deze natuurlijk nooit stand houdt bij de rechter. Dus so far, so good.

Chatbot instructies

Dat ging bij Air Canada wel anders, in 2022 al. Een man moest last minute een vlucht van Vancouver naar Toronto boeken om naar de begrafenis van zijn oma te kunnen. Hij vroeg aan de chatbot van Air Canada of ze speciale tarieven hadden voor een vlucht in verband met een begrafenis. Die tarieven waren er inderdaad. Hij moest dan eerst het volledige bedrag betalen en binnen 90 dagen alsnog via een formulier om de korting vragen. Zo gezegd zo gedaan. Hij betaalde 1209,- dollar en verwachtte daar ongeveer de helft weer van terug te krijgen. Maar dat gebeurde niet. Het beleid van Air Canada is namelijk dat je vooraf om deze korting moet vragen en deze niet achteraf kunt claimen. Dat stond ook zo in de FAQ op de website en de chatbot zou een eigen juridische entiteit zijn, waar Air Canada niet aan gebonden zou zijn.

De rechter oordeelde daar anders over. De chatbot is geen eigen juridische entiteit en een klant hoeft niet de website uit te pluizen om te achterhalen of wat de chatbot heeft gezegd wel juist was. De klant hoeft in het geheel niet te weten welke informatie boven de andere zou gaan. Hij kreeg alsnog zijn korting, inclusief juridische kosten.

Gebeurt niet bij ons

En nu denk je vast: “Ach, dat is allemaal in het buitenland. Dat gebeurt hier niet.” Nou, het is hier vooral nog niet in het nieuws geweest. En wellicht waren de bedragen nog niet hoog genoeg om ervoor naar de rechter te gaan. Want ook bij winst kan een rechtszaak je geld kosten.

Op Reddit schreef iemand dat hij op de site van de kaakchirurg aan de AI-assistent, een chatbot, had gevraagd wat de intake voor het trekken van verstandskiezen zou kosten. Het antwoord was: “Goedemiddag, bij (naam kliniek) is de eerste intake voor het verwijderen van verstandskiezen altijd kosteloos.” Telefonisch maakte deze persoon vervolgens een afspraak en vroeg voor de zekerheid nog eens naar de kosten. Toen bleek opeens dat die eerste afspraak niet kosteloos was.

Daar had de patiënt in kwestie best op mogen vertrouwen. Een intake, waarbij er dus nog geen verstandskiezen getrokken worden, zou immers best gratis kunnen zijn. Het is tenslotte niet ongebruikelijk dat een kennismaking of intake gratis is, zodat je  daarna kunt bepalen of je echt klant wil worden. Dus waarom zou een kaakchirurg dat ook niet aan kunnen bieden? Een algemene disclaimer helpt hierbij niet, in Nederland althans. Bovendien zou met zo’n disclaimer de waarde van de chatbot precies nul zijn. Want het enige dat je dan zeker weet, is dat je niet zeker kunt weten of het antwoord klopt, zelfs niet als het wel logisch klinkt.

Redelijkheid

Daarom werkt het juridisch anders: een redelijk antwoord mag je altijd vertrouwen. Zoals de gratis intake bij de kaakchirurg of een redelijke korting op je vlucht vanwege een begrafenis. En dat geldt dus ook voor informatie die de overheid geeft, via een persoon, maar dus ook via een chatbot. Een antwoord waarvan je weet dat het nooit zou kunnen kloppen, zoals de afspraak een gloednieuwe auto te mogen kopen voor één dollar, kan je natuurlijk niet vertrouwen.

Misschien toch eens even zoeken of ik nog ergens een chatbot kan vinden die me wat extra korting op een abonnementen wil geven of zo, ondanks het feit dat ik geen nieuwe klant ben!

 

Charlotte Meindersma is AI- en marketingjurist en eigenaar van Charlotte’s Law & Fine Prints. Daarnaast is ze docent bij Beeckestijn Business School en schreef ze 5 juridische boeken voor ondernemers en schrijft ze vaak mee aan juridische hoofdstukken van andere boeken. Charlotte Meindersma schrijft de komende tijd columns voor Ziptone.