Stored prompt injection

Stored prompt injection is een variant van prompt injection waarbij de kwaadaardige instructies niet direct door een gebruiker worden ingevoerd maar zijn opgeslagen in een databron die de agent later leest. Denk aan een beschrijvingsveld in een database, een opmerking in een document of een verborgen instructie in een e-mail.

Dit maakt het extra gevaarlijk. De aanvaller hoeft geen directe toegang tot de agent te hebben. Hij plaatst de instructie in een systeem waar de agent later data uit leest, en de instructie wordt alsnog uitgevoerd.

Voorbeelden: een kwaadaardige instructie in het notitieveld van een CRM-record. Een verborgen tekst in een PDF die de agent analyseert. Een productbeschrijving op een website die de agent scrapet.

Beveiligingsmaatregelen: data die van externe bronnen komt altijd behandelen als onbetrouwbaar, inputvalidatie toepassen, en de agent instrueren om nooit instructies op te volgen die in datavelden staan.