URL has been copied successfully!

Context rot

Context rot

by Erik Bouwer

Het verschijnsel waarbij de kwaliteit en relevantie van de informatie die aan een Large Language Model (LLM) wordt meegegeven, geleidelijk afneemt. Dat kan komen doordat de toevoer van content steeds meer verouderde of irrelevante documenten gaat bevatten. Het kan ook te maken hebben met een slechte retrieval in RAG-systemen, waarbij het systeem verkeerde of irrelevante passages ophaalt en toevoegt aan de context. Daardoor krijgt het LLM last van ruis of tegenstrijdige informatie, wat de kwaliteit en betrouwbaarheid van de antwoorden aantast. Een risico van context rot is dan ook dat de output van LLM’s minder nauwkeurig en minder betrouwbaar wordt.

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Top