Inleiding
In één van de meest ambitieuze juridische teksten tot nu toe heeft het Europees Parlement een mijlpaal bereikt: er is sinds eind 2023 een politiek akkoord over de tekst van de befaamde Artificial Intelligence Act. AI in Europa moet veilig zijn, de fundamentele rechten respecteren en de democratie behouden, zonder innovatie in de weg te staan.
De regels naleven is bij elke nieuwe regelgeving van belang. En toch: de AI Act legt enkele cruciale verplichtingen op aan AI-systemen op basis van hun potentiële risico’s en impactniveaus. De sancties zijn niet min. Met boetes tot 7% van de wereldwijde omzet voor niet-naleving, is het belangrijker dan ooit voor bedrijven om proactief te handelen en te voldoen aan de voorschriften van de AI Act.
Het voldoen aan de AI Act hoeft echter niet alleen als een last te worden aanzien. De invoering van de AI Act stimuleert het vertrouwen in AI en dus ook het vertrouwen van consumenten stakeholders in bedrijven die AI gebruiken of aanbieden. Bovendien opent de AI Act ook de deur naar nieuwe kansen voor innovatie en groei. De wetgeving voorziet namelijk naast verplichtingen ook in maatregelen ter ondersteuning van innovatie, waaronder een zogenaamde regulatory sandbox en real world testing, waarmee bedrijven AI-oplossingen kunnen ontwikkelen en trainen voordat ze op de markt worden gebracht.
De AI Act stelt bedrijven aldus in staat om een leidende rol te spelen in de evolutie van kunstmatige intelligentie. Wees een pionier en gebruik AI om je bedrijf te boosten.
Doelstellingen van de wetgeving
Het primaire doel van de EU AI-wetgeving is het bieden van een technologieneutrale definitie van AI-systemen en het vaststellen van geharmoniseerde horizontale voorschriften die van toepassing zijn op deze systemen. Daarnaast verplicht de wetgeving de oprichting van verschillende organen voor de controle en toezicht op de AI-systemen binnen de EU (o.m. de Europese Raad voor Kunstmatige Intelligentie (AI Raad) en AI-kantoren).
Classificatie van AI-systemen
De EU AI-wetgeving classificeert AI-systemen in verschillende risicocategorieën. Elke classificatie brengt specifieke vereisten en verplichtingen met zich mee:
- AI-systemen met een onaanvaardbaar risico, namelijk systemen die fundamentele rechten schenden, zoals bv. deze die betrokken zijn bij sociale scoring en real-time biometrische identificatie, worden verboden.
- AI-systemen met een hoog risico, zijnde systemen die aanzienlijke risico’s met zich meebrengen voor de gezondheid, veiligheid en fundamentele rechten, zijn onderworpen aan strenge verplichtingen, waaronder o.m. menselijk toezicht.
- AI-systemen met minimaal risico, zoals o.m. AI-geactiveerde videospellen en spamfilters, kunnen onbeperkt gebruikt worden binnen de EU.
- AI-systemen met transparantierisico, zoals o.m. chatbots, moeten voldoen aan transparantievereisten om geïnformeerde gebruikersbeslissingen mogelijk te maken.
Implicaties voor bedrijven
De EU AI-wetgeving is van toepassing op alle partijen die betrokken zijn bij de ontwikkeling, implementatie en gebruik van AI, en strekt zich uit over verschillende sectoren en zelfs buiten de EU indien producten bedoeld zijn voor gebruik binnen de EU.
Zoals gezegd variëren de verplichtingen voor bedrijven naar gelang welk type AI-systeem gebruikt of ontwikkeld wordt.
De voornaamste verplichtingen zijn:
- risicobeoordelingen uitvoeren;
- hoogwaardige gegevens gebruiken;
- technische en ethische keuzes documenteren;
- records bijhouden van de prestaties van het AI-systeem;
- gebruikers informeren over de aard en het doel van de AI-systemen;
- menselijk toezicht en interventie mogelijk maken;
- zorgen voor nauwkeurigheid, robuustheid en cyberbeveiliging;
- Het testen van de AI-systemen op conformiteit met de regels; en
- Het registreren van de AI-systemen in een EU-database.
Risico’s en uitdagingen
De handhaving van de EU AI-wetgeving zal worden uitgevoerd door de lidstaten. De boetes die kunnen worden opgelegd variëren eveneens naar gelang er sprake is van een verboden AI-systeem dan wel een AI-systeem met hoog, minimaal of transparantie risico. Voor het niet-naleven van de regels inzake verboden AI-systemen kunnen de boetes oplopen tot € 35.000.000 of 7% van de totale jaaromzet van een bedrijf. Voor de niet-naleving van andere verplichtingen kunnen de boetes eveneens hoog oplopen, namelijk tot € 15.000.000 of 3% van de totale jaaromzet. De wet voorziet wel in lagere bedragen voor kleine aanbieders, start-ups en KMO’s.
Kansen
De EU AI-wetgeving streeft naar het opzetten van een kader dat vertrouwen in AI garandeert voor klanten en burgers, terwijl het investeringen en innovaties in AI-technologieën bevordert. Regulatory sandboxes bieden gecontroleerde omgevingen aan voor het testen van innovatieve technologieën, terwijl initiatieven zoals netwerken van AI-excellentiecentra en digitale innovatiehubs de ontwikkeling van AI in de EU ondersteunen.
Next steps
Bedrijven wordt geadviseerd hun AI-systemen te evalueren en de daarmee verbonden risico’s te beoordelen. Op basis van die beoordeling zal het vervolgens noodzakelijk zijn om de verplichtingen die de AI-wetgeving oplegt na te leven o.m. door het opstellen van gedragscode en praktijkcodes.
AI gebruiken is goed. AI slim en compliant gebruiken is beter.
IFORI kan jou bijstaan bij het adviseren omtrent de toepassing en implementatie van deze nieuwe regelgeving. Contacteer ons nu.
