In een wereld die gedomineerd wordt door Amerikaanse technologiebedrijven, is het grootste wetgevende orgaan gevestigd in de EU. Dit orgaan kan wetgeving handhaven binnen en buiten de lidstaten. Wie herinnert zich nog dat Zuckerberg in 2022 dreigde Instagram uit Europa terug te trekken als de EU de AVG, de algemene verordening gegevensbescherming, zou handhaven? Nou, dat deed hij niet, toch? Hij heeft zich gewoon – heel stilletjes – aan de AVG gehouden. Hetzelfde zal gebeuren met de EU AI-wet. Deze wetgeving zal een wereldwijde impact hebben op alle nieuwe en bestaande AI-toepassingen.
Is de AI-wet afdwingbare wetgeving of slechts een set aanbevelingen?
In 2012 stelde de EU een commissie in om het reguleren van AI te onderzoeken. Dit heeft geresulteerd in het huidige voorstel voor de AI-wet, dat in mei 2023 door de Europese Commissie is goedgekeurd. De volgende stap is de goedkeuring van de wet door alle lidstaten. De AI-wet ging op 1 augustus 2024 van kracht. Vanaf dat moment zullen alle regels in de wet gelden en als een solide praktijk voor ontwikkelaars en bedrijfsleiders dienen. Dat wil zeggen, als zij vanaf 1 augustus 2024 in de EU willen opereren.
Risiconiveaus voor AI-toepassingen
AI kan zowel schadelijk als nuttig zijn, net zoals vuur, messen of auto’s. Het is de intentie die het risiconiveau bepaalt. Je kunt een kaars aansteken, een heerlijke maaltijd bereiden, maar je moet geen brandende sigaret op droge bosbladeren gooien. AI kan misinformatie verspreiden, maar ook afwijkingen op scans veel beter detecteren dan mensen.
In de nieuwe wetgeving worden AI-toepassingen ingedeeld in 4 risiconiveaus. Met een hoger risico komen strengere regels. De risiconiveaus zijn:
Niveau 1 – geen of minimaal risico
Meestal spamfilters en spellen. Geen regels van toepassing, behalve auteursrechtwetten.
Niveau 2 – beperkt risico
Klantenservice-chatbots. Slechts een laag niveau van transparantie is vereist om aan te geven dat AI wordt gebruikt. Dit kan voor de ontwikkelaar zo simpel zijn als een pop-up om te verduidelijken dat de klant interactie heeft met AI of dat het werk AI-gegenereerd is.
Niveau 3 – hoog risico
Hoog-risico toepassingen zijn programma’s die de gezondheid, het welzijn of de veiligheid van mensen of het milieu kunnen schaden. Dit omvat programma’s voor onderwijs, de gezondheidszorg of transport, maar ook kritieke infrastructuur zoals watervoorziening, energie of internet. Een hoog niveau van transparantie is daarom vereist: Waar wordt AI in de toepassing gebruikt? Hoe en op welke data gedraagt de AI zich en traint het zichzelf? Worden er biometrische gegevens gebruikt?
Niveau 4 – onaanvaardbaar risico
Het risico van niveau 4 toepassingen is onaanvaardbaar hoog en gevaarlijk voor de vrijheid en zelfexpressie van EU-burgers. Toepassingen voor sociale scoring of besluitvorming zijn bijzonder onveilig. Vanaf 2026 zullen alle niveau 4 AI-toepassingen daarom strikt verboden zijn in de EU. Met deze wetgeving zullen we ook de middelen in handen hebben om AI-software die de EU van buitenaf bedreigt, te stoppen.
Stappen om je voor te bereiden op de AI-wet
Particulieren zullen waarschijnlijk niet worden getroffen, maar bedrijven wel. Wacht niet tot het laatste moment, maar begin nu om klaar te zijn voor 2026. Neem de volgende stappen:
1. Begrijp de AI-wet
Maak jezelf vertrouwd met de AI-wet en krijg een goed begrip van de verschillende risiconiveaus.
2. Maak een inventaris van al je programma’s
Maak een inventaris van alle programma’s die je professioneel gebruikt. Dit is het perfecte moment om documentatie en werkstromen bij te werken.
3. Risicobeoordeling
Gebruik documentatie en werkstromen om te bepalen welke programma’s AI gebruiken en in welke risicocategorie de toepassing valt.
4. Vergeet het menselijke toezicht niet
Maak iemand verantwoordelijk voor het overzicht van AI in het bedrijf en periodieke inspecties. Dit moet handmatig worden gedaan, niet door AI.
5. Communicatie en transparantie
Stel regels en voorschriften op voor het communiceren van bedrijfs-AI naar personeel, klanten en auditors.
6. Train je personeel
Maak je personeel vertrouwd met AI in het algemeen, de AI-wet en hun eigen taken waarbij AI betrokken is.
7. Blijf op de hoogte of mis het
Advocaten van alle 27 EU-lidstaten zullen nu zorgvuldig de voorgestelde AI-wet controleren. De kans is groot dat de tekst enigszins wordt aangepast, maar verwacht geen grote veranderingen: het algehele kader ziet er zeer solide uit. Het is echter belangrijk om op de hoogte te blijven: AI zal nieuwe uitdagingen, maar ook nieuwe kansen bieden.
Bij Textmetrics zijn we altijd op de hoogte van alles wat onze klanten aangaat. Bekijk onze blogs om ook op de hoogte te blijven!