Kabinet schetst toezicht en tijdpad uitvoeringswet AI Act

Het kabinet wil met de verordening veilige en betrouwbare AI bevorderen, maar tegelijkertijd de grondrechten beschermen. De regels worden zwaarder naarmate het risico op schending van de grondrechten groter wordt.

De zwaartepunten van het toezicht zullen liggen op:

• Verboden AI-praktijken: dit zijn toepassingen die zó schadelijk worden geacht dat ze helemaal niet mogen, zoals manipulatieve AI of het ongericht scrapen van gezichtsafbeeldingen. Sommige van deze verboden zijn al eerder van kracht geworden.
• Hoog-risico AI-systemen: het gaat om AI-systemen die in bepaalde contexten grote risico’s kunnen opleveren voor veiligheid, gezondheid of grondrechten. Denk daarbij aan AI-systemen die een rol spelen bij gereguleerde producten, zoals medische hulpmiddelen. Ook AI-toepassingen in aangewezen hoog-risico domeinen vallen hieronder, zoals onderwijs of toegang tot essentiële diensten.
• Transparantie: AI-toepassingen die een directe interactie aangaan met mensen moeten duidelijk maken dat de reactie tot stand komt met AI. Het gaat hier om chatbots, maar ook toepassingen die gebruikmaken van het automatisch herkennen van emotie of categorisatie op basis van biometrie. Ook content gemaakt met AI, zoals deepfakes, moeten als zodanig worden gelabeld.
• AI-modellen voor algemene doeleinden: Dit zijn breed inzetbare modellen die in allerlei toepassingen kunnen worden ingebouwd, de zogeheten General Purpose AI. Denk daarbij aan modellen achter de bekende chatbots. Het toezicht daarop ligt bij de Europese Commissie.

Het huidige voorstel, dat nu ter consultatie is aangeboden, is grotendeels gebaseerd op het advies dat de Directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (DCA) en de Rijksinspectie Digitale Infrastructuur (RDI) hebben gegeven over de beste inrichting van het toezichtstelsel. Dit advies is tot stand gekomen na uitvoerig overleg met de betrokken toezichthouders en sluit zoveel mogelijk aan bij de bestaande toezichtpraktijk.

Een centraal coördinatiepunt

Het centrale contactpunt voor het toezicht komt te liggen bij RDI, die samen met de Autoriteit Persoonsgegevens (AP) de samenwerking en de kennisopbouw coördineert. Daarnaast krijgt elk van de toezichthouders op specifieke deelgebieden een taak in de naleving van de AI Act. Zo zijn de Autoriteit Financiële Markten (AFM) en De Nederlandsche Bank (DNB) verantwoordelijk voor de toepassingen bij financiële instellingen en valt de AI-inzet bij kritieke infrastructuur onder toezicht van de RDI en de Inspectie Leefomgeving en Transport (ILT).

De consultatiefase duurt tot maandag 1 juni. In die tijd beoordelen de markttoezichtautoriteiten onder meer haalbaarheid van toetsing en handhaving. Daarna volgt een bespreking in de ministerraad, een beoordeling door de Raad van State en een behandeling in de Tweede en de Eerste Kamer.