Blog

EU AI Act: niet elke agent valt onder dezelfde regels

Niet elk systeem is hoog risico. Kijk naar taak, gevolgen, classificatie, menselijke grens en bewijs per actie.

Vlaggen van de lidstaten van de Europese Unie voor een gebouw

Een agent die een ordermail omzet naar een conceptorder is iets anders dan een systeem dat sollicitanten helpt rangschikken, de kredietwaardigheid van mensen beoordeelt of werk verdeelt op basis van iemands gedrag, eigenschappen of kenmerken. Ze kunnen allebei een taalmodel gebruiken. De gevolgen van een fout zijn alleen niet hetzelfde.

De AI Act maakt een systeem niet hoog risico alleen omdat het een beslissing beïnvloedt. Het beoogde gebruik moet onder artikel 6 en bijlage I of III vallen. Een systeem uit bijlage III kan buiten hoog risico vallen wanneer het een smalle procedurele of voorbereidende taak uitvoert en geen aanzienlijk risico oplevert, bijvoorbeeld omdat het de beslissing niet wezenlijk beïnvloedt. Dat geldt niet bij profilering van natuurlijke personen.

De transparantieplicht van artikel 50, lid 1, bij directe interactie met natuurlijke personen geldt sinds 2 augustus 2026. De regels voor hoog-risicosystemen uit bijlage III, waaronder artikel 6, lid 2, gelden vanaf 2 december 2027. Voor hoog-risicosystemen uit bijlage I, waaronder artikel 6, lid 1, geldt 2 augustus 2028. Laat de classificatie van een concrete toepassing toetsen voordat er juridische conclusies aan worden verbonden.

Begin met de beslissing, niet met de wetstekst

Beschrijf eerst wat de agent daadwerkelijk mag doen. Welke gegevens komen binnen? Welke conclusie trekt hij? Welk systeem krijgt daarna een opdracht? Wie kan de uitkomst negeren, herstellen of stoppen? Pas wanneer dat helder is, kun je beoordelen welke regels, sectorvoorschriften en privacyverplichtingen raken aan de oplossing.

Neem een agent die klantvragen beantwoordt. Leest hij alleen een kennisbank en maakt hij een antwoordvoorstel voor een servicemedewerker? Of verstuurt hij zelf een bericht over een contractwijziging? In het tweede geval is de grens voor goedkeuring, de bron van de informatie en de mogelijkheid om een fout te herstellen veel belangrijker. De techniek kan bijna gelijk zijn, de bedrijfsverantwoordelijkheid niet.

Deze beschrijving helpt ook wanneer een systeem vermoedelijk niet hoog risico is. Dan blijft het verstandig om te weten wat de agent wel en niet mag. Een vage opdracht als "handel klantvragen af" laat te veel ruimte voor afwijkende gevallen. Een concrete opdracht als "maak een conceptantwoord over de status van een bestaande order, zonder prijs, contract of levering te wijzigen" geeft een toetsbare grens.

Vijf bewijsstukken die je per taak verstandig vastlegt

Deze vijf punten zijn ontwerpkeuzes, geen universele wettelijke checklist. Bij een hoog-risicosysteem liggen eisen aan risicobeheer, documentatie en automatische logs vooral bij de aanbieder. De organisatie die het systeem gebruikt moet het volgens de instructies inzetten, toezicht organiseren, de werking volgen en logs bewaren voor zover zij daarover beschikt. Welke verplichting geldt, hangt af van de rol en de toepassing.

Ten eerste het doel en de beperking. Iemand moet kunnen lezen waarvoor de agent bedoeld is en welke zaken hij nooit zelfstandig doet. Dat voorkomt dat een handige proefopstelling later ongemerkt voor een andere beslissing wordt gebruikt.

Ten tweede de herkomst van de gegevens. Bij een antwoord over een order wil je weten uit welk systeem status, leverdatum en klantgegevens kwamen. Bij een onvolledige bron moet de agent dat aangeven of de taak naar een medewerker sturen. Een geloofwaardige bronverwijzing is beter dan een antwoord dat alleen zelfverzekerd klinkt.

Ten derde de actie en het bewijs daarvan. Leg per verwerking een taak-ID, de gebruikte werkwijze of versie, de geraadpleegde bron, de voorgestelde actie en de uitkomst vast. Bewaar niet gedachteloos alle volledige inhoud voor altijd. De bewaartermijn en toegangsrechten horen bij de aard van het proces. Zorg wel dat een bevoegde collega kan reconstrueren welke invoer, bronnen, configuratie, acties en menselijke beslissing tot de uitkomst leidden.

Ten vierde het menselijk toezicht. Een persoon krijgt pas echt toezicht wanneer duidelijk is welke uitzonderingen bij hem terechtkomen, welke context hij ziet en welke bevoegdheid hij heeft. Een goedkeuringsknop zonder brongegevens is geen controle. Een medewerker moet een uitkomst kunnen afwijzen, wijzigen en het proces veilig kunnen stoppen.

Ten vijfde veranderingen en incidenten. Een nieuw model, een aangepaste prompt, een andere bron of een gewijzigde procesregel kan de uitkomst veranderen. Houd bij wat veranderde, test het tegen bekende gevallen en benoem wie een afwijking onderzoekt. Zo blijft het bewijs bruikbaar nadat de eerste oplevering is vergeten.

Compliance is niet een los einddocument

Bij hoog-risicosystemen noemt de AI Act onder meer risicobeheer, documentatie, logboeken, transparantie, menselijk toezicht en voortdurende bewaking. Voor een organisatie die een agent laat werken, zijn dat geen losse juridische woorden. Het zijn ontwerpkeuzes. Een grensbedrag kan menselijk toezicht ondersteunen. Of dat voldoende is, hangt af van de toepassing en de rol van de organisatie. Een taak-ID in een logboek ondersteunt herleidbaarheid. Een testset met bekende uitzonderingen laat zien of een wijziging het proces raakt.

Dat betekent niet dat elke ordermail dezelfde juridische documentatie nodig heeft als een systeem dat een persoon afwijst voor een baan of lening. Volgens artikel 50 moet de aanbieder bij directe communicatie met natuurlijke personen uiterlijk bij de eerste interactie duidelijk maken dat zij met AI communiceren, tenzij dat al duidelijk is.

Een agent die werkelijk werk doet, moet niet alleen een antwoord produceren. Hij moet een spoor achterlaten waaruit blijkt wat hij deed, binnen welke grens en waarom een medewerker wel of niet hoefde in te grijpen.

Drie manieren om te beginnen

Wil je een bestaande agent toetsen op taak, toezicht en bewijs?

Begin klein, met één proces dat elke week terugkomt. Kies zelf hoe: van vijf minuten zelf invullen tot een sessie bij jullie op locatie.

01

AI-scan

Gratis

Tien vragen, vijf minuten

Vul zelf in waar jullie staan. Je ziet meteen de uitkomst, met een eerste stap.

Doe de AI-scan

02Aanbevolen

Kennismaking

Gratis

Een half uur via Teams

We horen wat jullie al doen. Daarna zeggen we wat past of dat het nog te vroeg is.

Gesprek met Marcel Logtenberg

Plan een gesprek

03

Aan de slag

Vanaf € 495

Bij jullie op locatie, exclusief btw

Een AI-quickscan, een AI-assessment of een AI-assessment met inspiratiesessie, tegen een vaste prijs.

Aan de slag