Malicious prompt inserting verwijst naar een aanvalstechniek van kwaadwillenden waarbij opzettelijk schadelijke of misleidende instructies in een prompt of inputtekst van een GenAI-toepassing worden geplaatst. Het doel daarvan is om de AI ertoe te bewegen zich te gedragen op een manier die niet bedoeld is, bijvoorbeeld om gevoelige informatie te lekken, beveiliging te omzeilen of onjuiste antwoorden te genereren.

Terug naar startpagina woordenboek