AI-zichtbaarheid

Guardrails (AI)

Definitie

Guardrails zijn software en processen rond een AI-systeem die schade aan mensen of systemen moeten voorkomen. Ze controleren de invoer van gebruikers en de uitvoer van het model. Denk aan een filter tegen kwetsende antwoorden, een controle tegen het lekken van gegevens of een regel die een chatbot bij zijn taak houdt.

Ook wel: AI-guardrails
Niveau: gevorderd
Bijgewerkt: 6 november 2026
Kort samengevat
  • Regels, filters en controles die ongewenste invoer en uitvoer van een AI-systeem moeten tegenhouden.
  • Ze werken voor het model (invoer), na het model (uitvoer) of rond de acties van een AI-agent.
  • Ook met guardrails kan een model volgens Google schadelijke antwoorden geven.

Welke soorten guardrails zijn er?

SoortWat het doetBeschreven door
InvoercontroleBekijkt de vraag van de gebruiker voordat het hoofdmodel eraan begintOpenAI, Anthropic
UitvoercontroleBekijkt het eindantwoord voordat de gebruiker het zietOpenAI
ToolcontroleControleert de acties van een AI-agent, voor en na elke aanroep van een toolOpenAI
InhoudsfiltersBlokkeren antwoorden per schadecategorie, met een drempel die je zelf insteltGoogle
InstructiesEen systeemprompt die grenzen vastlegt en zegt hoe het model moet weigerenAnthropic

Bij Gemini werken de inhoudsfilters met vier schadecategorieën: haatzaaien, intimidatie, seksueel expliciete content en gevaarlijke content. Daarnaast heeft Gemini filters die je niet kunt uitzetten. Die blokkeren materiaal van seksueel kindermisbruik en persoonsgegevens.

Hoe werkt een guardrail?

OpenAI geeft een voorbeeld. Een klantenservice-agent draait op een slim, maar traag en duur model. Je wilt niet dat gebruikers dat model hun wiskundehuiswerk laten maken. Een snel en goedkoop model controleert daarom elke vraag. Ziet die controle misbruik, dan kan het verzoek meteen stoppen. Dat bespaart tijd en geld.

Het moment van controleren maakt verschil. Loopt de controle tegelijk met het hoofdmodel, dan kan dat model al tokens hebben verbruikt en tools hebben gebruikt. Wacht het hoofdmodel op de uitslag, dan start het bij misbruik helemaal niet.

Een woningcorporatie uit Tilburg zet zo een chatbot in voor huurders. Een invoercontrole moet vragen buiten het onderwerp tegenhouden. Een uitvoercontrole moet antwoorden met gegevens van andere huurders blokkeren. De systeemprompt zegt hoe de chatbot een vraag netjes weigert.

Wat zeggen Google en Anthropic over de grenzen?

Volgens Google zijn de eigen generatieve modellen ontworpen om veiligheid voorop te zetten. Toch kunnen ze schadelijke antwoorden geven, vooral als iemand daar expliciet om vraagt. De filters werken als een barrière, maar veranderen het gedrag van het model zelf niet. Blokkeert een filter een antwoord, dan haalt de Gemini API de inhoud ervan weg.

Anthropic noemt Claude uit zichzelf weerbaar tegen jailbreaks en prompt injection. Extra maatregelen versterken je guardrails volgens Anthropic. Een voorbeeld is een licht model dat elke vraag vooraf screent. Probeert een gebruiker de regels steeds opnieuw te omzeilen, dan kun je die gebruiker afremmen of blokkeren.

Verwar guardrails niet met

  • Brand safety: voorkomen dat je advertenties naast content verschijnen die je merk kan schaden. Guardrails gaan over wat een AI-systeem zelf ontvangt en schrijft.
  • Prompt injection: een aanval met verborgen of misleidende instructies. Guardrails zijn een deel van de verdediging daartegen.

Veelgestelde vragen over Guardrails

Wat betekent guardrails bij AI?

Guardrails zijn letterlijk vangrails. Het zijn regels, filters en controles rond een AI-systeem. Ze moeten schadelijke of ongewenste invoer en uitvoer tegenhouden, zoals kwetsende teksten of gelekte gegevens.

Wat is het verschil tussen guardrails en een systeemprompt?

Een systeemprompt is een instructie aan het model zelf. Guardrails zijn breder: ook filters en controles die los van het model invoer en uitvoer bekijken. Een systeemprompt kan een van je guardrails zijn.

Houden guardrails alles tegen?

Niet per se. Volgens Google kunnen de eigen modellen toch schadelijke antwoorden geven, vooral als iemand daar expliciet om vraagt. Filters kunnen schadelijke antwoorden tegenhouden, maar veranderen het model zelf niet.

Gerelateerde begrippen

  • Prompt injection

    Prompt injection is een aanval waarbij iemand een AI-model met verborgen of misleidende instructies iets laat doen wat niet de bedoeling is.

  • Systeemprompt (system prompt)

    Een systeemprompt (system prompt) is een vaste instructie die een AI-model verwerkt voordat de vragen van de gebruiker binnenkomen.

  • Brand safety

    Brand safety is het geheel aan maatregelen dat moet voorkomen dat je online advertenties verschijnen naast content die de reputatie van je merk kan schaden.

  • Chatbot

    Een chatbot is software waarmee je via tekst of spraak een gesprek voert met een computer.

  • AI-agent

    Een AI-agent is software die met AI zelfstandig een doel nastreeft of een taak uitvoert namens een gebruiker.

Bronnen

  1. Google for Developers, Machine Learning Glossary (bijgewerkt 6 november 2026).
  2. OpenAI Agents SDK, Guardrails (geraadpleegd 31 oktober 2026).
  3. Google Cloud Documentation, Safety and content filters (bijgewerkt 5 november 2026).
  4. Anthropic (Claude Platform Docs), Mitigate jailbreaks and prompt injections (geraadpleegd 31 oktober 2026).

Hulp nodig?

Wij helpen je van strategie tot uitvoering. Bekijk onze aanpak of plan een vrijblijvende kennismaking.