<!-- Markdown-versie van https://outdeliver.ai/blog/eu-ai-act-bewijs-per-agent, gemaakt door tools/bouw.mjs -->

Blog

# EU AI Act: niet elke agent valt onder dezelfde regels

Niet elk systeem is hoog risico. Kijk naar taak, gevolgen, classificatie,
menselijke grens en bewijs per actie.

Een agent die een ordermail omzet naar een conceptorder is iets anders dan een
systeem dat sollicitanten helpt rangschikken, de kredietwaardigheid van mensen
beoordeelt of werk verdeelt op basis van iemands gedrag, eigenschappen of
kenmerken. Ze kunnen allebei een taalmodel gebruiken. De gevolgen van een fout
zijn alleen niet hetzelfde.

De AI Act maakt een systeem niet hoog risico alleen omdat het een beslissing
beïnvloedt. Het beoogde gebruik moet onder artikel 6 en bijlage I of III vallen.
Een systeem uit bijlage III kan buiten hoog risico vallen wanneer het een smalle
procedurele of voorbereidende taak uitvoert en geen aanzienlijk risico oplevert,
bijvoorbeeld omdat het de beslissing niet wezenlijk beïnvloedt. Dat geldt niet
bij profilering van natuurlijke personen.

De transparantieplicht van artikel 50, lid 1, bij directe interactie met
natuurlijke personen geldt sinds 2 augustus 2026. De regels voor
hoog-risicosystemen uit bijlage III, waaronder artikel 6, lid 2, gelden vanaf
2 december 2027. Voor hoog-risicosystemen uit bijlage I, waaronder artikel 6,
lid 1, geldt 2 augustus 2028. Laat de classificatie van een concrete toepassing
toetsen voordat er juridische conclusies aan worden verbonden.

## Begin met de beslissing, niet met de wetstekst

Beschrijf eerst wat de agent daadwerkelijk mag doen. Welke gegevens komen
binnen? Welke conclusie trekt hij? Welk systeem krijgt daarna een opdracht? Wie
kan de uitkomst negeren, herstellen of stoppen? Pas wanneer dat helder is, kun
je beoordelen welke regels, sectorvoorschriften en privacyverplichtingen raken
aan de oplossing.

Neem een agent die klantvragen beantwoordt. Leest hij alleen een kennisbank en
maakt hij een antwoordvoorstel voor een servicemedewerker? Of verstuurt hij zelf
een bericht over een contractwijziging? In het tweede geval is de grens voor
goedkeuring, de bron van de informatie en de mogelijkheid om een fout te
herstellen veel belangrijker. De techniek kan bijna gelijk zijn, de
bedrijfsverantwoordelijkheid niet.

Deze beschrijving helpt ook wanneer een systeem vermoedelijk niet hoog risico
is. Dan blijft het verstandig om te weten wat de agent wel en niet mag. Een
vage opdracht als "handel klantvragen af" laat te veel ruimte voor afwijkende
gevallen. Een concrete opdracht als "maak een conceptantwoord over de status van
een bestaande order, zonder prijs, contract of levering te wijzigen" geeft een
toetsbare grens.

## Vijf bewijsstukken die je per taak verstandig vastlegt

Deze vijf punten zijn ontwerpkeuzes, geen universele wettelijke checklist. Bij
een hoog-risicosysteem liggen eisen aan risicobeheer, documentatie en automatische
logs vooral bij de aanbieder. De organisatie die het systeem gebruikt moet het
volgens de instructies inzetten, toezicht organiseren, de werking volgen en logs
bewaren voor zover zij daarover beschikt. Welke verplichting geldt, hangt af van
de rol en de toepassing.

Ten eerste het doel en de beperking. Iemand moet kunnen lezen waarvoor de agent
bedoeld is en welke zaken hij nooit zelfstandig doet. Dat voorkomt dat een
handige proefopstelling later ongemerkt voor een andere beslissing wordt
gebruikt.

Ten tweede de herkomst van de gegevens. Bij een antwoord over een order wil je
weten uit welk systeem status, leverdatum en klantgegevens kwamen. Bij een
onvolledige bron moet de agent dat aangeven of de taak naar een medewerker
sturen. Een geloofwaardige bronverwijzing is beter dan een antwoord dat alleen
zelfverzekerd klinkt.

Ten derde de actie en het bewijs daarvan. Leg per verwerking een taak-ID, de
gebruikte werkwijze of versie, de geraadpleegde bron, de voorgestelde actie en
de uitkomst vast. Bewaar niet gedachteloos alle volledige inhoud voor altijd.
De bewaartermijn en toegangsrechten horen bij de aard van het proces. Zorg wel
dat een bevoegde collega kan reconstrueren welke invoer, bronnen, configuratie,
acties en menselijke beslissing tot de uitkomst leidden.

Ten vierde het menselijk toezicht. Een persoon krijgt pas echt toezicht wanneer
duidelijk is welke uitzonderingen bij hem terechtkomen, welke context hij ziet
en welke bevoegdheid hij heeft. Een goedkeuringsknop zonder brongegevens is geen
controle. Een medewerker moet een uitkomst kunnen afwijzen, wijzigen en het
proces veilig kunnen stoppen.

Ten vijfde veranderingen en incidenten. Een nieuw model, een aangepaste prompt,
een andere bron of een gewijzigde procesregel kan de uitkomst veranderen. Houd
bij wat veranderde, test het tegen bekende gevallen en benoem wie een afwijking
onderzoekt. Zo blijft het bewijs bruikbaar nadat de eerste oplevering is
vergeten.

## Compliance is niet een los einddocument

Bij hoog-risicosystemen noemt de AI Act onder meer risicobeheer, documentatie,
logboeken, transparantie, menselijk toezicht en voortdurende bewaking. Voor een
organisatie die een agent laat werken, zijn dat geen losse juridische woorden.
Het zijn ontwerpkeuzes. Een grensbedrag kan menselijk toezicht ondersteunen. Of
dat voldoende is, hangt af van de toepassing en de rol van de organisatie. Een
taak-ID in een logboek ondersteunt herleidbaarheid. Een testset met bekende
uitzonderingen laat zien of een wijziging het proces raakt.

Dat betekent niet dat elke ordermail dezelfde juridische documentatie nodig
heeft als een systeem dat een persoon afwijst voor een baan of lening. Volgens
artikel 50 moet de aanbieder bij directe communicatie met natuurlijke personen
uiterlijk bij de eerste interactie duidelijk maken dat zij met AI communiceren,
tenzij dat al duidelijk is.

Een agent die werkelijk werk doet, moet niet alleen een antwoord produceren. Hij
moet een spoor achterlaten waaruit blijkt wat hij deed, binnen welke grens en
waarom een medewerker wel of niet hoefde in te grijpen.

Drie manieren om te beginnen

## Wil je een bestaande agent toetsen op taak, toezicht en bewijs?

Begin klein, met één proces dat elke week terugkomt. Kies zelf hoe: van
vijf minuten zelf invullen tot een sessie bij jullie op locatie.

### AI-scan

Gratis

Tien vragen, vijf minuten

Vul zelf in waar jullie staan. Je ziet meteen de uitkomst, met een eerste stap.

[Doe de AI-scan](https://outdeliver.ai/ai-scan.html)

02 Aanbevolen

### Kennismaking

Gratis

Een half uur via Teams

We horen wat jullie al doen. Daarna zeggen we wat past of dat het nog te vroeg is.

Gesprek met Marcel Logtenberg

[Plan een gesprek](https://outdeliver.ai/plan-een-gesprek.html)

### Aan de slag

Vanaf € 495

Bij jullie op locatie, exclusief btw

Een AI-quickscan, een AI-assessment of een AI-assessment met inspiratiesessie, tegen een vaste prijs.

[Aan de slag](https://outdeliver.ai/aan-de-slag.html)
