De ‘National Eating Disorder Association’ (NEDA, een hulplijn voor mensen met een eetstoornis) in de Verenigde Staten ligt onder vuur. Eerder werd bekend dat medewerkers werden ontslagen en vervangen door een chatbot; nu is duidelijk dat de chatbot op non-actief is gezet omdat deze mogelijk schadelijke adviezen geeft. Dat berichten verschillende media.

Een activiste deelde op Instagram dat chatbot Tessa slechte adviezen geeft zoals ‘ga dagelijks op de weegschaal staan’. Ze stelde: “Als ik deze chatbot had gebruikt toen ik worstelde met mijn eetstoornis, zou ik geen hulp hebben gezocht. En als ik geen hulp had gekregen, zou ik nu niet meer in leven zijn. Het is hoog tijd dat NEDA stappen onderneemt.”

NEDA heeft in een verklaring laten weten dat de huidige versie van de chatbot mogelijk schadelijke informatie heeft gegeven. De chatbot is daarom offline gehaald voor verder onderzoek. De chatbot is een product van Cass AI, een ontwikkelaar van AI-chatbots. De chatbot was nog maar kort online, er zouden tot nu toe 2.500 mensen met de chatbot hebben gechat. Een woordvoerder van NEDA stelde nog niet te hebben gekeken naar de feedback op de chatbot.

Technologie NEDA