Welke soorten guardrails zijn er?
| Soort | Wat het doet | Beschreven door |
|---|---|---|
| Invoercontrole | Bekijkt de vraag van de gebruiker voordat het hoofdmodel eraan begint | OpenAI, Anthropic |
| Uitvoercontrole | Bekijkt het eindantwoord voordat de gebruiker het ziet | OpenAI |
| Toolcontrole | Controleert de acties van een AI-agent, voor en na elke aanroep van een tool | OpenAI |
| Inhoudsfilters | Blokkeren antwoorden per schadecategorie, met een drempel die je zelf instelt | |
| Instructies | Een systeemprompt die grenzen vastlegt en zegt hoe het model moet weigeren | Anthropic |
Bij Gemini werken de inhoudsfilters met vier schadecategorieën: haatzaaien, intimidatie, seksueel expliciete content en gevaarlijke content. Daarnaast heeft Gemini filters die je niet kunt uitzetten. Die blokkeren materiaal van seksueel kindermisbruik en persoonsgegevens.
Hoe werkt een guardrail?
OpenAI geeft een voorbeeld. Een klantenservice-agent draait op een slim, maar traag en duur model. Je wilt niet dat gebruikers dat model hun wiskundehuiswerk laten maken. Een snel en goedkoop model controleert daarom elke vraag. Ziet die controle misbruik, dan kan het verzoek meteen stoppen. Dat bespaart tijd en geld.
Het moment van controleren maakt verschil. Loopt de controle tegelijk met het hoofdmodel, dan kan dat model al tokens hebben verbruikt en tools hebben gebruikt. Wacht het hoofdmodel op de uitslag, dan start het bij misbruik helemaal niet.
Een woningcorporatie uit Tilburg zet zo een chatbot in voor huurders. Een invoercontrole moet vragen buiten het onderwerp tegenhouden. Een uitvoercontrole moet antwoorden met gegevens van andere huurders blokkeren. De systeemprompt zegt hoe de chatbot een vraag netjes weigert.
Wat zeggen Google en Anthropic over de grenzen?
Volgens Google zijn de eigen generatieve modellen ontworpen om veiligheid voorop te zetten. Toch kunnen ze schadelijke antwoorden geven, vooral als iemand daar expliciet om vraagt. De filters werken als een barrière, maar veranderen het gedrag van het model zelf niet. Blokkeert een filter een antwoord, dan haalt de Gemini API de inhoud ervan weg.
Anthropic noemt Claude uit zichzelf weerbaar tegen jailbreaks en prompt injection. Extra maatregelen versterken je guardrails volgens Anthropic. Een voorbeeld is een licht model dat elke vraag vooraf screent. Probeert een gebruiker de regels steeds opnieuw te omzeilen, dan kun je die gebruiker afremmen of blokkeren.
Verwar guardrails niet met
- Brand safety: voorkomen dat je advertenties naast content verschijnen die je merk kan schaden. Guardrails gaan over wat een AI-systeem zelf ontvangt en schrijft.
- Prompt injection: een aanval met verborgen of misleidende instructies. Guardrails zijn een deel van de verdediging daartegen.
Veelgestelde vragen over Guardrails
Wat betekent guardrails bij AI?
Guardrails zijn letterlijk vangrails. Het zijn regels, filters en controles rond een AI-systeem. Ze moeten schadelijke of ongewenste invoer en uitvoer tegenhouden, zoals kwetsende teksten of gelekte gegevens.
Wat is het verschil tussen guardrails en een systeemprompt?
Een systeemprompt is een instructie aan het model zelf. Guardrails zijn breder: ook filters en controles die los van het model invoer en uitvoer bekijken. Een systeemprompt kan een van je guardrails zijn.
Houden guardrails alles tegen?
Niet per se. Volgens Google kunnen de eigen modellen toch schadelijke antwoorden geven, vooral als iemand daar expliciet om vraagt. Filters kunnen schadelijke antwoorden tegenhouden, maar veranderen het model zelf niet.