Time to First Token (TTFT) is de tijd tussen het versturen van een verzoek naar een chatbot of taalmodel en de presentatie van de eerste respons. TTFT is van directe invloed op de gebruikerservaring van realtime toepassingen zoals chatbots of spraakassistenten.

Zie ook Tokenizer

Terug naar startpagina woordenboek