AI-verordening (EU AI Act): wat internal audit moet toetsen

Kennis
Kern in het kort

De AI-verordening (EU AI Act) deelt AI-systemen in naar risico en legt de verplichtingen vooral bij aanbieders en gebruiksverantwoordelijken van hoog-risico-systemen: risicobeheer, datagovernance, technische documentatie, logging, transparantie, menselijk toezicht en nauwkeurigheid, robuustheid en cyberbeveiliging (artikelen 9 tot en met 15, met artikel 26 voor gebruiksverantwoordelijken). Het grootste deel van de verordening is sinds 2 augustus 2026 van toepassing; verboden praktijken en AI-geletterdheid golden al sinds 2 februari 2025. De Digital Omnibus, Verordening (EU) 2026/1744, verschoof de hoog-risico-eisen naar 2 december 2027 voor bijlage III en naar 2 augustus 2028 voor bijlage I. 2 december 2026 is de datum voor twee extra verboden praktijken en de uiterste termijn voor machineleesbare markering door generatieve AI-systemen die al op de markt waren. Internal audit kan nu al vijf vragen toetsen: de inventaris met risicoklasse, de rol per systeem, menselijk toezicht in de praktijk, logs en modelwijzigingen, en AI van leveranciers.

De AI-verordening (EU AI Act) legt haar verplichtingen vooral bij aanbieders en gebruiksverantwoordelijken van hoog-risico-systemen, en de datums waarop die gaan gelden zijn in juli 2026 verschoven. Hieronder: wat de verordening vraagt, welke datums gelden en vijf vragen die internal audit kan toetsen, met het bewijs per vraag.

Wat de AI-verordening van organisaties vraagt

De verordening deelt AI-systemen in naar risico. Bepaalde praktijken zijn verboden (artikel 5). Voor hoog-risico-systemen geldt een uitgebreid pakket eisen. Voor bepaalde andere systemen, waaronder systemen die met mensen communiceren of content genereren, gelden transparantieverplichtingen (artikel 50). Aan de overige systemen stelt de verordening weinig specifieke eisen.

De verplichtingen liggen vooral bij de aanbieder (provider), die een systeem ontwikkelt of laat ontwikkelen en het onder eigen naam of handelsmerk in de handel brengt of in gebruik stelt, en bij de gebruiksverantwoordelijke (deployer), die het onder eigen verantwoordelijkheid inzet. Persoonlijk, niet-beroepsmatig gebruik valt buiten die rol. Voor hoog-risico-systemen gaat het om zeven onderwerpen:

  • een risicobeheersysteem over de hele levenscyclus (artikel 9);
  • data en datagovernance (artikel 10);
  • technische documentatie (artikel 11);
  • registratie van gebeurtenissen in logs (artikel 12);
  • transparantie en informatie voor de gebruiksverantwoordelijke (artikel 13);
  • menselijk toezicht (artikel 14);
  • nauwkeurigheid, robuustheid en cyberbeveiliging (artikel 15).

Deze eisen rusten in de eerste plaats op de aanbieder. Artikel 26 geeft de gebruiksverantwoordelijke eigen verplichtingen, waaronder het systeem gebruiken volgens de gebruiksaanwijzing, menselijk toezicht beleggen en de logs bewaren voor zover die onder zijn controle vallen. Welke verplichtingen gelden, hangt af van de risicoklasse van het systeem en de rol van de organisatie.

Welke datums gelden

Het grootste deel van de AI-verordening is sinds 2 augustus 2026 van toepassing. Een deel gold al eerder: de verboden praktijken en de AI-geletterdheid sinds 2 februari 2025, de regels voor AI-modellen voor algemene doeleinden sinds 2 augustus 2025 (voor modellen die al vóór die datum op de markt waren, geldt als uiterste datum 2 augustus 2027). De eisen voor hoog-risico-systemen zijn op 2 augustus 2026 niet ingegaan: de Digital Omnibus, Verordening (EU) 2026/1744, verscheen op 24 juli 2026 in het Publicatieblad, trad op 27 juli 2026 in werking en verschoof ze.

DatumWat er geldt
2 augustus 2026Het grootste deel van de verordening is van toepassing, waaronder de transparantieverplichtingen van artikel 50. Voor de markering van gegenereerde content (artikel 50 lid 2) geldt voor bestaande generatieve systemen een overgangstermijn tot 2 december 2026.
2 december 2026Twee nieuwe verboden praktijken (artikel 5 lid 1, punten ba en bb), die betrekking hebben op niet-consensuele intieme beelden en op materiaal van seksueel misbruik van kinderen. Ook de uiterste datum voor machineleesbare markering door generatieve AI-systemen die al vóór 2 augustus 2026 op de markt waren (artikel 50 lid 2).
2 december 2027Eisen voor hoog-risico-systemen uit bijlage III (voorbehoud: zie hieronder).
2 augustus 2028Eisen voor hoog-risico-AI in gereguleerde producten uit bijlage I: het systeem is een veiligheidscomponent van zo'n product of zelf zo'n product, en voor dat product is een conformiteitsbeoordeling door een derde partij vereist (artikel 6 lid 1).

Dat een gebruiksdoel in bijlage III staat, is niet het hele antwoord. Volgens artikel 6 lid 3 is een systeem uit bijlage III toch geen hoog-risico-systeem als het geen significant risico vormt voor gezondheid, veiligheid of grondrechten én aan minstens één van de in dat lid genoemde voorwaarden voldoet (bijvoorbeeld een beperkte procedurele taak of een voorbereidende taak); dat geldt niet voor systemen die natuurlijke personen profileren, en een aanbieder die zich op de uitzondering beroept moet zijn beoordeling vastleggen (artikel 6 lid 4). Voor hoog-risico-systemen die al vóór de ingangsdatum in de handel waren gebracht, geldt in beginsel dat de eisen pas van toepassing worden bij een ingrijpende wijziging van het ontwerp; voor systemen voor overheidsinstanties kent de verordening een eigen overgangstermijn (artikel 111). Toets dus per systeem, niet alleen op de lijst.

Dit is de stand op de publicatiedatum van dit artikel. De verordening kan opnieuw wijzigen. Voor een auditplan of een oordeel gelden het Publicatieblad en de wijzigingsverordeningen; de geconsolideerde tekst op EUR-Lex is een leeshulp zonder rechtskracht.

Het uitstel betekent dat de hoog-risico-eisen nog niet als geldende wettelijke verplichting te toetsen zijn. De inrichting die ze vragen (inventaris, rolbepaling, toezicht, logging) is nu al als beheersing te beoordelen.

Vijf vragen die internal audit kan toetsen

Bij elke vraag staat het bewijs om op te vragen en een rode vlag. Een rode vlag is een aanwijzing voor nader onderzoek; of een verplichting is geschonden, hangt af van classificatie en rol.

  1. Is er een inventaris van AI-systemen, met een risicoklasse per systeem? Bewijs: het register, met per systeem eigenaar, doel, leverancier, risicoklasse en de onderbouwing van die klasse. Leg het register naast de inkoopadministratie en de softwarelijst. Rode vlag: een register met alleen zelf ontwikkelde modellen, of een klasse zonder onderbouwing en datum.
  2. Is per systeem vastgelegd of de organisatie aanbieder of gebruiksverantwoordelijke is? Bewijs: de rolbepaling per systeem, het contract en de gebruiksaanwijzing van de leverancier. Rode vlag: een ingekocht systeem dat intern is aangepast of onder eigen naam wordt aangeboden zonder dat de rol opnieuw is beoordeeld. Voor hoog-risico-systemen kan de rol volgens artikel 25 wisselen doordat de eigen naam of het eigen handelsmerk op het systeem wordt gezet, door een substantiële wijziging, of door het beoogde doel zo te wijzigen dat het systeem hoog-risico wordt.
  3. Is menselijk toezicht gedefinieerd, en werkt het in de praktijk? Bewijs: de aanwijzing van de persoon die het toezicht uitvoert, met de bevoegdheid om in te grijpen en de gevolgde opleiding, en een steekproef van beslissingen waarin de uitkomst van het systeem is beoordeeld. Rode vlag: een steekproef waarin het advies van het systeem nooit is aangepast (dat kan op schijntoezicht wijzen, maar bewijst het niet), of toezicht zonder bevoegdheid om het systeem stil te zetten.
  4. Worden logs, incidenten en modelwijzigingen vastgelegd en beoordeeld? Bewijs: de loginstellingen en de bewaartermijn, het incidentregister, het wijzigingslog van het model met goedkeuring en hertest, en de verslagen van de periodieke beoordeling. Rode vlag: logs die door niemand worden gelezen, of een nieuwe modelversie van de leverancier die zonder beoordeling in gebruik is genomen.
  5. Valt AI van leveranciers onder dezelfde beheersing? Bewijs: de inkoopeisen, de contractafspraken over documentatie, logging, wijzigingsmeldingen en incidenten, en de uitkomst van de leveranciersbeoordeling. Rode vlag: AI-functies die via een update in bestaande software zijn ingeschakeld en in geen enkel register staan.

Wat Audirium hiervoor heeft

Audirium bouwt de software waarmee audit- en risicoteams deze vragen toetsen. De inventaris staat in Modelio, het EUC- en modelregister: per AI-toepassing de eigenaar, de rol van de organisatie, de categorie uit bijlage III en de afweging van artikel 6 lid 3. De AI-verordening staat in de Audirium-bibliotheek met de 113 artikelen van de wettekst en 27 controls op artikelniveau, naast ISO/IEC 42001, het NIST AI Risk Management Framework en het IIA AI auditing framework. Een opdracht is daarmee af te bakenen op de verplichtingen die voor de eigen organisatie gelden. Bewijs wordt één keer aan een control gekoppeld en hergebruikt waar de AI-verordening overlapt met NIS2 of privacy-eisen.

Audirium ondersteunt de toetsing en het bewijsspoor. Het certificeert geen AI-systemen en garandeert geen naleving.

Verder lezen

Terug naar Kennis