Een Franse zorgverzekeraar heeft een AI-chatbot, genaamd Mo, getest als medische adviesdienst. Dit was de grootste test tot nu toe waarbij honderden patiënten betrokken waren. De chatbot, gebaseerd op commerciële AI-modellen van bedrijven zoals OpenAI en Anthropic, selecteert het best presterende model voor elke vraag.

Gebruikers konden kiezen om hun vragen door medische chatbot Mo of door een menselijke arts te laten beantwoorden. De AI werd beperkt tot niet-kritieke onderwerpen, en menselijke artsen beoordeelden de antwoorden binnen 15 minuten om risico’s te minimaliseren.

In totaal voerde de medische chatbot 926 gesprekken, waarbij 95% van de antwoorden positief werd beoordeeld door artsen. Gebruikers waren iets meer tevreden over Mo’s duidelijkheid dan over die van menselijke artsen. Echter, een antwoord van de AI werd als potentieel gevaarlijk beschouwd en niet doorgestuurd naar de patiënt. Dit benadrukt de ethische en veiligheidsrisico’s van AI in de gezondheidszorg. AI-ethicus Caroline Green pleit voor meer transparantie over fouten om vertrouwen te winnen en verbeteringen mogelijk te maken.

Hoewel de resultaten met deze proef met een medische chatbot bemoedigend zijn, benadrukken experts dat de bevindingen alleen van toepassing zijn op deze specifieke chatbot. Computerwetenschapper Antoine Lizée, de leider van het onderzoeksteam, plant verdere tests om de nauwkeurigheid te verhogen en het aantal fouten drastisch te verlagen. AI wordt nog niet op grote schaal uitgerold zonder toezicht. Kritische stemmen, zoals die van Green, waarschuwen dat meer gecontroleerde tests nodig zijn voordat AI veilig en breed inzetbaar is. (NewScientist)