In de context van large language models (LLM’s), zoals GPT, verwijst het concept “guardrails” naar mechanismen en richtlijnen die worden ingesteld om de werking van het model binnen bepaalde grenzen te houden.
Deze guardrails helpen bij het sturen van de output van het model, zodat het veilige, verantwoorde en bruikbare antwoorden geeft. Ze zijn ontworpen om ervoor te zorgen dat het model zich houdt aan ethische normen, niet onbedoeld schadelijke of ongepaste inhoud genereert, en dat de output in lijn is met de bedoelde toepassing.
Guardrails in LLM’s kunnen betrekking hebben op inhoudsbeperkingen (om te voorkomen dat een model ongepaste, gewelddadige, beledigende of schadelijke inhoud genereert), bijvoorbeeld door regels in te bouwen die voorkomen dat het model zich op gevaarlijke manieren gedraagt of bepaalde woorden gebruikt. Ook kunnen guardrails ontworpen worden om bepaalde beslissingen volgens ethische grenzen te laten gebeuren. Guardrails kunnen er ook voor zorgen dat een LLM zich beperkt tot een bepaald (kennis)domein. Tot slot kan je ook denken aan maatregelen die te maken hebben met het respecteren van medische of juridische grenzen (denk aan veiligheid en IP) en aan maatregelen waarbij een model verdere acties escaleert naar een medewerker.