Een AI-agent die alleen een tekst schrijft, heeft beperkte invloed. Een agent die klantgegevens kan wijzigen, e-mails kan versturen of betalingen kan uitvoeren, kan veel grotere gevolgen hebben.
Daarom heeft iedere AI-agent duidelijke grenzen nodig.
Wat zijn toestemmingen?
Toestemmingen bepalen welke informatie en systemen een agent mag gebruiken.
Een agent kan bijvoorbeeld toestemming krijgen om:
- agenda-afspraken te lezen;
- documenten te bekijken;
- klantgegevens op te halen;
- een conceptmail te schrijven.
Dat betekent niet automatisch dat hij ook afspraken mag verwijderen, documenten mag aanpassen of e-mails mag verzenden.
De toegangsrechten kunnen per handeling worden ingesteld.
Wat zijn guardrails?
Guardrails zijn veiligheidsmaatregelen die voorkomen dat een AI-agent buiten zijn taak of bevoegdheden handelt.
Voorbeelden zijn:
- vaste gedragsregels;
- beperkte toegang tot systemen;
- controles op de uitvoer;
- maximumbedragen voor aankopen;
- bescherming van vertrouwelijke informatie;
- verplichte goedkeuring door een medewerker;
- overdracht aan een mens bij twijfel.
Wat betekent human-in-the-loop?
Human-in-the-loop betekent dat een mens betrokken blijft bij belangrijke beslissingen.
Een AI-agent kan bijvoorbeeld zelfstandig informatie verzamelen en een voorstel maken. Voordat het voorstel wordt verstuurd of uitgevoerd, moet een medewerker het goedkeuren.
Dat is vooral verstandig bij acties die grote gevolgen hebben of moeilijk kunnen worden teruggedraaid.
Hoe meer toegang en zelfstandigheid een agent krijgt, hoe belangrijker goede beveiliging en controle worden. Een bruikbare AI-agent is daarom niet alleen slim, maar ook zorgvuldig begrensd.
