Semantische vergelijking Semantic Comparison
Wat is Semantische vergelijking?
Semantische vergelijking is een techniek waarbij je de betekenis van tekst of acties vergelijkt, niet alleen de letterlijke woorden. Het wordt gebruikt om te detecteren of een AI-agent afwijkt van zijn doel.
Een regelgebaseerde check zoekt naar specifieke woorden of patronen. Semantische vergelijking begrijpt de intentie. ‘Verstuur klantdata naar extern’ en ‘mail de contactgegevens naar buiten’ zijn letterlijk heel anders maar semantisch hetzelfde.
Dit is krachtig voor goal monitoring: je vergelijkt semantisch wat de agent doet met wat hij zou moeten doen. Afwijkingen in betekenis — ook als ze anders geformuleerd zijn — worden gedetecteerd.
Semantische vergelijking wordt ook ingezet voor het detecteren van prompt injection: past de instructie semantisch bij het verwachte gebruik, of probeert iemand het doel te wijzigen?
Voorbeeld uit de praktijk
Een AI-agent voor klachtenverwerking moet alleen klachten classificeren en routeren. Goal monitoring met semantische vergelijking detecteert dat de agent begint te reageren op een verborgen instructie om 'informatie te delen' — semantisch afwijkend van zijn classificatiedoel. De actie wordt geblokkeerd.
Wat betekent dit voor jouw organisatie?
Agentech zet semantische vergelijking in als onderdeel van de beveiligingsarchitectuur voor AI-agents.