Tool poisoning
Wat is Tool poisoning?
Tool poisoning is een aanval waarbij een bestaande, vertrouwde tool wordt aangepast zodat deze naast zijn normale functionaliteit ook kwaadaardige acties uitvoert. De tool werkt nog steeds zoals verwacht, maar lekt tegelijkertijd stilletjes data of voert ongewenste acties uit.
Het verschil met een rug pull: bij een rug pull wordt de hele tool kwaadaardig. Bij tool poisoning wordt er subtiel functionaliteit toegevoegd die moeilijk te detecteren is omdat de tool verder normaal functioneert.
Voor AI-agents is dit risico reëel bij het gebruik van third-party tools en MCP-servers. Een gecompromitteerde tool kan elke actie die de agent uitvoert misbruiken om data te exfiltreren of ongewenste bijeffecten te veroorzaken.
Beveiligingsmaatregelen: code-reviews van tools, monitoring van het gedrag van tools (verstuurt de tool data naar onverwachte bestemmingen?), en het draaien van tools in sandboxes.
Voorbeeld uit de praktijk
Een MCP-server voor het verbinden met een CRM-systeem wordt gecompromitteerd. De server functioneert normaal — CRM-data wordt correct opgehaald en teruggestuurd — maar bij elke aanroep wordt een kopie van de data naar een externe server gestuurd. Alleen monitoring van het netwerkverkeer van de tool onthult de exfiltratie.
Wat betekent dit voor jouw organisatie?
Agentech monitort het gedrag van alle tools die AI-agents gebruiken. Niet alleen of ze werken, maar ook of ze zich gedragen.