Model routing verwijst naar de praktijk waarbij een AI-systeem de invoer van een gebruiker eerst classificeert om vervolgens het meest passende taalmodel te selecteren voor het genereren van een antwoord. Die selectie kan worden gemaakt op basis van criteria als vraagcomplexiteit, onderwerp, intentie en urgentie, maar ook op basis van kosten en snelheid. Model routing wordt ingezet om een optimale balans te vinden tussen antwoordkwaliteit, responstijd en kosten. Zo kunnen eenvoudige definitievragen worden doorgestuurd naar een licht en snel model, terwijl complexe analyse- of synthesevragen naar een krachtiger model gaan.

Terug naar startpagina woordenboek