GIDS · AI ACT

Hoog-risico AI-systemen: de verplichtingen voor gebruikers in het bedrijf

Deze gids legt uit welke verplichtingen de AI Act oplegt aan wie een hoog-risico AI-systeem gebruikt zonder zelf de ontwikkelaar te zijn. Na het lezen weet je precies wat jouw rol inhoudt, welke maatregelen nodig zijn en met welke verdieping je begint. De exacte vereisten hangen af van je situatie en moeten altijd met een adviseur worden afgestemd.

Bijgewerkt oktober 2026
9 min leestijd
Technische redactie van Altovar

1. Wie de deployer is en waarom deze rol ertoe doet

De verordening maakt een scherp onderscheid tussen wie een AI-systeem ontwikkelt en wie het inzet. Die laatste partij, de gebruiker, wordt in de wetgeving aangeduid als de 'deployer' (inzetter): de partij onder wier verantwoordelijkheid het systeem wordt gebruikt. Wie software aanschaft voor personeelsselectie en deze inzet in het wervingsproces, is een deployer, zelfs zonder ooit één regel code te hebben geschreven. Dit onderscheid is wezenlijk omdat de verplichtingen verschillen, en een organisatie voor verschillende systemen verschillende rollen kan vervullen.

Je rol wordt niet bepaald door een formeel etiket. Breng je substantiële wijzigingen aan in het systeem, verander je het beoogde doeleinde of breng je het onder eigen handelsnaam op de markt, dan kan je juridische positie verschuiven naar die van aanbieder, inclusief de bijbehorende zware verplichtingen. Controleer daarom vooraf hoe de leverancier het product heeft gedefinieerd en welke concrete aanpassingen je eventueel van plan bent door te voeren.

2. Wanneer een systeem als hoog risico geldt

Een systeem valt in principe onder de categorie hoog risico in twee hoofdsituaties: wanneer het fungeert als veiligheidscomponent van een product dat reeds gereguleerd is door bestaande Europese harmonisatiewetgeving, of wanneer het gebruik valt onder de lijst van specifieke toepassingsgebieden in de bijlagen van de verordening. Die lijst omvat onder meer personeelsbeleid, kredietwaardigheidsbeoordeling, essentiële private en publieke diensten en onderwijs. Niet elke toepassing in die domeinen is automatisch hoog risico: bepalend is de concrete functie die het systeem binnen jouw bedrijfsproces vervult.

De eerste praktische stap is de classificatie zoals beschreven in de verdiepende gids. Hier volstaat de constatering dat je moet classificeren op basis van het feitelijke gebruik binnen je bedrijf, niet louter op basis van de brochure van de leverancier. Een generieke tool voor tekstanalyse kan veranderen in een hoog-risico systeem zodra je deze inzet voor de beoordeling van sollicitanten. Voer deze toets opnieuw uit zodra de inzet van het systeem verandert, niet alleen bij de initiële aanschaf.

3. Praktische verplichtingen voor de gebruiker

Voor een hoog-risico AI-systeem verlangt de AI Act concrete en aantoonbare maatregelen van de deployer. Dit zijn geen loze formaliteiten: elke maatregel vereist een vaste eigenaar en schriftelijk bewijsmateriaal. De exacte invulling stem je af met je adviseur, maar het onderstaande basiskader geldt voor elke sector en elk proces. Gebruik dit overzicht als leidraad en pas de punten toe op jouw specifieke situatie.

Menselijk toezicht en logbeheer zijn de punten die bedrijven in de praktijk het vaakst veronachtzamen. Een medewerker die gedachteloos elke suggestie van het systeem goedkeurt, oefent geen daadwerkelijk toezicht uit. Stel duidelijke criteria op voor wanneer beslissingen moeten worden heroverwogen, wie bevoegd is om het systeem te pauzeren en binnen welke termijn moet worden ingegrepen bij afwijkingen. Leg vast wie met het toezicht zijn belast, inclusief hun rol en genoten opleiding.

  • Het systeem gebruiken volgens de instructies die de leverancier verstrekt.
  • Menselijk toezicht toevertrouwen aan bevoegde personen met het gezag om in te grijpen of het systeem te stoppen.
  • Controleren of invoergegevens relevant zijn voor het vooraf vastgestelde doel.
  • De werking monitoren en significante problemen onmiddellijk melden aan de leverancier.
  • De door het systeem gegenereerde logs bewaren gedurende de periode die geldt volgens toepasselijke regels.
  • Betrokken personen informeren wanneer het systeem wordt ingezet bij besluitvorming over hen.

4. Werknemers en betrokken personen

Raakt het AI-systeem werknemers, dan verplicht de verordening in bepaalde gevallen om werknemers en hun vertegenwoordigers vooraf te informeren voordat het systeem op de werkplek in gebruik wordt genomen. Nationaal arbeidsrecht kan aanvullende eisen stellen, zoals overleg met de ondernemingsraad of vakbonden. Betrek je arbeidsrechtadviseur hierbij vóór de activatie van het systeem, niet achteraf. Vraag bij twijfel om schriftelijke bevestiging voordat het systeem live gaat.

Natuurlijke personen over wie een besluit wordt genomen met ondersteuning van het AI-systeem hebben recht op duidelijke informatie over de rol die het systeem daarin heeft gespeeld. Stel een korte, begrijpelijke tekst op die je opneemt in het proces, vergezeld van een procedure voor vragen of bezwaren. Dit is geen formaliteit: het is het directe contactpunt met de betrokkene en dikwijls het eerste onderdeel dat bij geschillen ter discussie staat.

5. De effectbeoordeling voor de grondrechten

Voor bepaalde gebruikers, in het bijzonder overheidsinstanties of private partijen die publieke diensten verlenen, en voor specifieke toepassingen zoals bepaalde kredietbeoordelingen of risicotaxaties bij levens- en zorgverzekeringen, is een grondrechteneffectbeoordeling (FRIA) verplicht. Dit hangt nauw samen met de hoedanigheid van de organisatie en de aard van de inzet. Ga met je adviseur na of dit geldt voor jouw situatie, want deze beoordeling moet vóór ingebruikname zijn afgerond.

De beoordeling beschrijft het doel van het systeem, de betrokken groepen, de potentiële risico's voor grondrechten en de mitigerende maatregelen. Het is een levend werkdocument dat moet worden bijgewerkt, geen eenmalige administratieve exercitie. We behandelen dit in een aparte gids vanwege de specifieke opzet en voorbereiding. Zorg dat de tekst ook begrijpelijk is voor wie het systeem niet technisch kent.

6. Incidenten, storingen en communicatie

Veroorzaakt het systeem een ernstig incident of een significante storing, dan moet de deployer de leverancier en, in de wettelijk bepaalde gevallen, de bevoegde toezichthouder inlichten. Definieer vooraf wat binnen jouw organisatie geldt als een ernstig incident: een geïsoleerde fout, een structureel patroon van afwijkingen of een onterechte benadeling van een individu. Een schriftelijke definitie voorkomt discussie tijdens een crisissituatie. Leg ook de uitkomsten van periodieke controles vast om je zorgvuldigheid te bewijzen.

Richt een interne noodprocedure in: wie wordt gewaarschuwd, wie mag het systeem stilleggen, hoe documenteer je het voorval en hoe schakel je over naar een handmatig proces. Deze koppeling met bedrijfscontinuïteit is in de praktijk van vitaal belang, omdat een stilgelegd systeem direct moet worden opgevangen door een werkbaar alternatief. Stem deze afstemming met het continuïteitsplan af met de operationele managers.

7. Contracten en leveranciers: wat je moet vragen

Het contract met je leverancier is het instrument waarmee je de noodzakelijke informatie afdwingt. Vraag technische documentatie over het beoogde gebruik, bedieningsinstructies, bekende beperkingen, vereiste invoergegevens, updateprocedures en incidentmeldingslijnen. Kan de leverancier hierop geen antwoord geven, dan is dat antwoord op zichzelf al een risico dat je moet registreren. Bedwing tevens dat de leverancier wijzigingen die jouw gebruik raken tijdig en schriftelijk meldt.

Onderzoek ook wie toegang heeft tot de data en waar deze worden opgeslagen; behandel dit als twee gescheiden vraagstukken. Een leverancier die slechts in algemene termen nauwkeurigheid belooft, biedt onvoldoende onderbouwing voor jouw nalevingsplicht. Vraag schriftelijk wat je nodig hebt om het systeem te beheersen, van werking tot toekomstige aanpassingen. Blijft het antwoord vaag, behandel het risico dan als onbeheerst en stel een harde deadline om het op te lossen.

8. Onderwerpen voor verdieping binnen het cluster

Deze gids fungeert als overzichtskaart. De thema's die om een zelfstandige verdieping vragen zijn: hoe je systemen classificeert naar risiconiveau, welke praktijken verboden zijn, hoe je een grondrechteneffectbeoordeling uitvoert, hoe de AI Act en de AVG op elkaar aansluiten en wat er verandert voor HR. Elk thema heeft pas waarde als het op de agenda staat met een verantwoordelijke en een concrete streefdatum.

Heb je al een systeem draaien, lees dan eerst de gids over risicoclassificatie. Gebruik je AI voor werving of beoordeling van personeel, ga dan direct naar de gids over HR. Bouw je een product op basis van een extern basismodel, dan helpt de gids over modellen voor algemene doeleinden je bij het opvragen van de juiste gegevens. Zo bereikt de juiste kennis je op het juiste moment.

9. Hoe je begint

Kies deze week het systeem uit dat het dichtst in de buurt komt van een hoog-risico toepassing en vraag de leverancier om drie documenten: de gebruikersinstructies, de beschrijving van het beoogde doel en de informatie over menselijk toezicht. Met deze stukken stel je vast of jouw rol en verplichtingen helder zijn, of dat er aanvullende informatie nodig is. Je hoeft niet meteen aan alles te voldoen om te beginnen: je moet weten waar je staat en wie de besluiten neemt.

Wijs vervolgens een interne projecteigenaar aan voor dat systeem en beleg een eerste bijeenkomst met je compliance-adviseur en, indien betrokken, de HR-afdeling. Je hebt niet direct een voldragen plan nodig. Het belangrijkste is weten wie beslist, wie toezicht houdt en welke informatie nog ontbreekt. Leg meteen de datum voor de volgende controle vast, zodat het proces na de eerste bijeenkomst niet stilvalt.

Veelgestelde vragen

Ik gebruik recruitmentsoftware: geldt dit automatisch als hoog risico?

Niet automatisch. Bepalend is hoe je de software precies inzet. Dient de software voor de werving, screening of evaluatie van kandidaten, dan valt dit onder een gebied dat de verordening als gevoelig aanmerkt en is zorgvuldige controle vereist. Beperkt de tool zich tot het ordenen van documenten of het versturen van berichten, dan ligt dat anders. Voer de classificatie uit op basis van het daadwerkelijke gebruik en leg de onderbouwing schriftelijk vast.

Volstaat louter formeel menselijk toezicht?

Nee. Het toezicht moet daadwerkelijk en effectief zijn: uitgevoerd door een deskundig persoon met voldoende tijd en de bevoegdheid om uitkomsten te verifiëren en het systeem zo nodig te stoppen. Keurt iemand elk voorstel blindelings goed zonder inhoudelijke beoordeling, dan is het toezicht louter een papieren schijnvertoning. Documenteer wie toezicht houdt, welke scholing is gevolgd en via welke procedure wordt ingegrepen.

Moet ik de logs van het AI-systeem bewaren?

In beginsel wel: je bent verplicht de logs die het systeem automatisch genereert te bewaren gedurende de periode die geldt voor jouw sector en context. Stem de exacte bewaartermijn af met je adviseur. Zorg voor goede afstemming met de privacywetgeving, aangezien systeemlogs persoonsgegevens kunnen bevatten en dienovereenkomstig moeten worden beveiligd.

Moet de leverancier uitleggen hoe het systeem exact werkt?

De leverancier moet voldoende informatie verstrekken voor correct gebruik, zoals instructies, bekende beperkingen en vereiste inputgegevens. Hij hoeft niet elk intern bedrijfsgeheim prijs te geven. Voor jouw compliance heb je operationele informatie nodig, op schrift. Is de toelichting vaag, vraag dan om verduidelijking voordat je het systeem toepast op echte personen.

Wat gebeurt er als de leverancier het systeem updatet?

Een software-update kan functionaliteiten, limieten en risico's ingrijpend wijzigen. Vraag de leverancier om een schriftelijke toelichting op de wijzigingen en beoordeel of de eerdere risicoclassificatie of het toezichtsplan herziening behoeven. Ga er nooit zomaar van uit dat een update neutraal is, zeker niet wanneer de manier waarop mensen worden beoordeeld verandert.

Vanaf wanneer zijn deze verplichtingen van kracht?

De regels treden gefaseerd in werking en kunnen door latere wetgeving en richtsnoeren nader worden ingevuld. Het is onverstandig je beleid op te hangen aan losse jaartallen uit samenvattingen. Verifieer de geconsolideerde wettekst en de overgangstermijnen met je adviseur voordat je interne verplichtingen aangaat, en plan tijdig vooruit.

Volstaat het om volledig te vertrouwen op de leverancier?

Nee. De leverancier is verantwoordelijk voor het ontwikkelde product, maar de inzet binnen jouw eigen organisatie blijft jouw eigen verantwoordelijkheid. Het contract helpt om taken en aansprakelijkheden te verdelen, maar ontslaat je niet van de plicht tot toezicht, toetsing en interne dossiervorming. Bewaar schriftelijke antwoorden van leveranciers en interne besluiten zorgvuldig als bewijs van goed bestuur.

About this content

General informational guide. Regulations and technical requirements change over time: always check the official sources and assess your specific case with a qualified technical or legal advisor.

NEEM CONTACT OP

Praat met ons team.

Wij laten u zien hoe Altovar integreert in uw infrastructuur. Geen verplichtingen, geen verkoopgesprek. Alleen een technisch gesprek.

DEMO BOEKEN →