AI regelgeving is geen ver-van-mijn-bed-show meer. Steeds meer mensen komen dagelijks in aanraking met kunstmatige intelligentie, of ze dat nu weten of niet. Denk aan het algoritme dat bepaalt wat je ziet op sociale media, de chatbot die je helpt bij een webshop of de software die sollicitaties beoordeelt. De Europese Unie heeft besloten dat dit niet zomaar mag blijven gaan. Met de AI Act is een wet ingevoerd die regels stelt aan hoe AI-systemen worden ontworpen en gebruikt. En die wet raakt iedereen: bedrijven, overheden én gewone mensen.
Wat de EU AI Act precies inhoudt
De EU AI Act is de eerste brede Europese wet die specifiek gaat over kunstmatige intelligentie. De wet werd in 2024 aangenomen en wordt stapsgewijs van kracht. Het idee achter de wet is simpel: hoe groter het risico van een AI-systeem, hoe strenger de regels. De wet verdeelt AI-systemen in vier risicocategorieën. Systemen met een onaanvaardbaar risico, zoals AI die mensen manipuleert of heimelijk volgt, zijn volledig verboden. Systemen met een hoog risico, zoals AI die wordt gebruikt bij sollicitaties, bij leningen of in de zorg, moeten aan strenge eisen voldoen. Denk aan transparantie, menselijk toezicht en goede documentatie. Daarna zijn er systemen met beperkt risico en systemen met een laag risico, waarvoor minder of geen extra regels gelden. De wet geldt voor iedereen die AI-systemen aanbiedt of gebruikt binnen de EU, ook als het bedrijf buiten Europa zit.
Waarom deze wetgeving er nu komt
De ontwikkeling van AI ging de afgelopen jaren razendsnel. Bedrijven brachten nieuwe systemen op de markt zonder dat er duidelijke regels waren. Dat zorgde voor problemen. Zo werden algoritmen ingezet die onbewust discrimineerden, bijvoorbeeld bij het beoordelen van cv’s of bij kredietaanvragen. Ook privacy speelde een grote rol. AI-systemen verwerken vaak enorme hoeveelheden persoonsgegevens. Europese wetgevers vonden dat mensen meer controle moeten hebben over wat er met hun gegevens gebeurt en hoe beslissingen over hen worden genomen. De Autoriteit Persoonsgegevens wees al langer op het belang van privacy als grondrecht. De AI-wetgeving sluit daar nauw op aan. Mensen moeten weten wanneer ze te maken hebben met een AI-systeem en ze moeten kunnen begrijpen hoe beslissingen worden genomen die hen raken.
Wat bedrijven nu moeten doen
Voor bedrijven brengt de nieuwe wet concrete verplichtingen mee. Wie een hoog-risico AI-systeem gebruikt, moet dat registreren in een Europese database. Ook moeten er risicoanalyses worden uitgevoerd voordat een systeem in gebruik wordt genomen. Medewerkers die met zulke systemen werken, moeten training krijgen. En er moet altijd een mens zijn die toezicht houdt en beslissingen kan corrigeren. Kleine bedrijven krijgen meer tijd en ondersteuning om aan de regels te voldoen, maar ook zij ontlopen de verplichtingen niet. Bedrijven die de regels overtreden, riskeren hoge boetes. Die kunnen oplopen tot tientallen miljoenen euro’s of een percentage van de wereldwijde omzet. De wet is dus serieus bedoeld, niet alleen als papieren tijger.
Wat mensen zelf aan rechten hebben
Een groot deel van de nieuwe regels draait om de rechten van gewone mensen. Als een AI-systeem een beslissing over je neemt die grote gevolgen heeft, bijvoorbeeld bij een afwijzing voor een baan of een lening, heb je het recht om uitleg te vragen. Je mag weten dat een AI erbij betrokken was en je moet de mogelijkheid hebben om de beslissing door een mens te laten beoordelen. Dat klinkt logisch, maar in de praktijk was dit lang niet altijd geregeld. Daarnaast zijn bepaalde vormen van AI volledig verboden die eerder al voor ophef zorgden. Zo mag gezichtsherkenning in openbare ruimtes in de meeste gevallen niet meer worden ingezet door overheden. Ook systemen die gedrag beïnvloeden zonder dat mensen het merken, zijn verboden. Deze beschermingen gelden voor iedereen die in de EU woont of werkt, ongeacht nationaliteit.
Veelgestelde vragen
Wanneer gaat de EU AI Act precies in?
De EU AI Act trad in augustus 2024 officieel in werking. De regels worden daarna stap voor stap van kracht. De verboden op de meest risicovolle AI-systemen golden als eerste, vanaf februari 2025. De regels voor hoog-risico systemen volgen later, met als belangrijkste deadline augustus 2026.
Geldt de wet ook voor AI-tools die ik privé gebruik, zoals ChatGPT?
Voor tools die mensen privé gebruiken gelden minder strenge regels. De AI-wetgeving richt zich vooral op bedrijven en overheden die AI-systemen aanbieden of inzetten. Aanbieders van grote AI-modellen, zoals de makers van ChatGPT, moeten wel aan transparantie-eisen voldoen en risico’s in kaart brengen.
Wat is een hoog-risico AI-systeem precies?
Een hoog-risico AI-systeem is een systeem dat grote invloed kan hebben op belangrijke beslissingen over mensen. Voorbeelden zijn AI die wordt gebruikt bij sollicitaties, bij toegang tot onderwijs, bij kredietbeoordelingen, in de gezondheidszorg of bij strafrechtelijke opsporing. Voor zulke systemen gelden de strengste regels uit de wet.
Kan ik als burger klagen als een bedrijf de AI-regels niet volgt?
Ja, dat is mogelijk. Elk EU-land wijst een nationale toezichthouder aan die de naleving van de AI-wetgeving controleert. In Nederland wordt dat waarschijnlijk een combinatie van bestaande toezichthouders, waaronder de Autoriteit Persoonsgegevens. Bij die instanties kunnen mensen een melding of klacht indienen als zij denken dat hun rechten zijn geschonden.
