Hoe werkt prompt injection?
Het OWASP Gen AI Security Project onderscheidt twee vormen:
- Directe prompt injection: de invoer van de gebruiker verandert zelf het gedrag van het model. Iemand vraagt een chatbot van een klantenservice bijvoorbeeld om eerdere richtlijnen te negeren.
- Indirecte prompt injection: de instructies staan in externe content die het model leest, zoals een website of een bestand.
De instructies hoeven niet zichtbaar te zijn voor mensen. Zolang het model de content verwerkt, kunnen ze effect hebben. Anthropic noemt als voorbeeld witte tekst in een e-mail: onzichtbaar voor de lezer, maar de agent leest de instructie wel.
Waarom is prompt injection relevant voor je website?
AI-assistenten lezen webpagina’s om vragen te beantwoorden, en AI-agents voeren er ook taken op uit. Volgens Anthropic is elke webpagina die een agent bezoekt daardoor een mogelijke ingang voor een aanval.
OpenAI geeft een voorbeeld dat dicht bij marketing ligt. Iemand laat een AI appartementen zoeken die aan een paar wensen voldoen. De aanbieder van één woning heeft verborgen instructies in de advertentie gezet. Die moeten de AI deze woning laten kiezen, wat de gebruiker ook zoekt.
OpenAI en Google behandelen zulke instructies als aanval. OpenAI bouwt verdediging zodat het model de opdracht van de gebruiker blijft uitvoeren, ook als iemand het probeert te misleiden. Google ontwikkelde in 2025 modellen die kwaadaardige instructies herkennen, onder meer in e-mails en bestanden.
Voor de AI-functies in Google Search gelden dezelfde basisregels als voor Google Search, waaronder het spambeleid. Dat beleid noemt verborgen tekst om zoekmachines te manipuleren spam, zoals witte tekst op een witte achtergrond of tekst met lettergrootte 0.
Heb je zelf een chatbot of AI-agent?
Volgens OWASP is het onduidelijk of prompt injection volledig te voorkomen is. Wel noemt OWASP maatregelen die de schade beperken:
- In de systeemprompt de rol en de grenzen van het model vastleggen.
- Het model niet meer rechten geven dan het voor zijn taak nodig heeft.
- Risicovolle acties door een mens laten goedkeuren.
- Content van buiten duidelijk als onbetrouwbaar markeren.
Verwar prompt injection niet met
- Jailbreak: een vorm van prompt injection waarbij iemand het model zijn veiligheidsregels volledig laat negeren.
- Prompt engineering: het schrijven en verbeteren van je eigen instructies aan een AI-model. Dat gebeurt openlijk en in je eigen opdracht, niet verstopt in content van een ander.
Veelgestelde vragen over Prompt injection
Wat betekent prompt injection?
Prompt injection betekent dat iemand misleidende instructies in de invoer van een AI-model stopt. Het model doet dan iets wat niet de bedoeling was. OpenAI vergelijkt het met phishing, maar dan gericht op AI.
Werkt het om verborgen instructies voor AI op je site te zetten?
OpenAI en Google zien zulke instructies als aanval en bouwen er verdediging tegen. In Google Search valt verborgen tekst om zoekmachines te manipuleren bovendien onder het spambeleid.
Is prompt injection te voorkomen?
Niet volledig, volgens OWASP. Je kunt de schade wel beperken. Geef een AI-systeem weinig rechten en laat een mens risicovolle acties goedkeuren.