De Europese Commissie vaardigde op 19 februari 2020 haar “White Paper on Artificial Intelligence – A European approach to excellence and trust” uit, met als hoofdonderwerp welke regels er moeten komen rond Artificial Intelligence. De publicatie ging gepaard met een verslag over veiligheid en aansprakelijkheid van AI, de Internet of Things en van robotica.
Artificial Intelligence gaat over de verzameling aan nieuwe technologieën gebaseerd op slimme algoritmes, die beloven op vele vlakken een grote ommekeer teweeg te brengen in onze dagdagelijkse wereld. Opmerkelijke voorbeelden zoals het opsporen van onontdekte medicijnen, het tegengaan van de klimaatopwarming en het mogelijk maken van zelfrijdende auto’s, zijn slechts het tipje van de sluier van het potentieel van AI.
De EU Commissie wilt dan ook niet bij de pakken blijven zitten, en een voorloper zijn op vlak van regelgeving voor de nieuwe ontwikkelingen die eraan zitten te komen. De white paper bouwt daarom voort op eerdere AI-documentatie die vanuit Europa werd verspreid. Het is de volgende stap na de Communicatie van 25 april 2018, het Gecoördineerd Plan van 7 december 2018 en de aanbevelingen van de High-Level Expert Group on AI (HLEG) van 26 juni 2019. Ook ethische richtlijnen en het omgaan met aansprakelijkheid rond AI kregen reeds Europese aandacht.
AI correct aanpakken is duidelijk een hoofddoelstelling van de Commissie, waarbij telkens de Europese normen en waarden in het achterhoofd zullen moeten worden gehouden. Langs de andere kant mogen deze natuurlijk ook de ontwikkeling en inzet van AI niet tegengaan. Cruciaal voor de Commissie is tegelijk ook dat er voldoende rekening wordt gehouden met de risico’s verbonden aan de intrede van nieuwe technologieën.
Het is niet ondenkbaar dat de net genoemde elementen niet altijd tot gelijklopende resultaten leiden. Deze post zal daarom van dichterbij bekijken hoe de Commissie de AI-balans wenst uit te werken en in adequate regelgeving wil voorzien.
Dubbele doelstelling
De Europese Commissie noemt als ambitie in de white paper om wereldleider te worden op vlak van innovatie in de dataeconomie en alle applicaties die daarmee gepaard gaan. De Europese fundamentele rechten zoals menselijke waardigheid en privacybescherming moeten hierbij bovendien een centrale rol krijgen.
Dit is natuurlijk geen bescheiden doelstelling. De Commissie beseft dan ook dat ingrijpen op Unieniveau onvermijdelijk zal zijn, aangezien te veel voorafgaande nationale initiatieven aanleiding zouden kunnen geven tot een versplintering van de interne markt. Maatregelen moeten op EU, nationaal en regionaal niveau genomen worden in het licht van de creatie van een ‘ecosysteem van voortreffelijkheid’ enerzijds, en een ‘ecosysteem van vertrouwen’ anderzijds.
De Commissie wil de huidige sterktes van Europa uitbreiden (te denken valt aan de Europese positie in robotica of de sterke medische- en energiesector) maar ook verbetering brengen in de voor Europa zwakkere sectoren (zoals consumenten-applicaties of online platformen) en de leiding nemen in opkomende technische evoluties (bijvoorbeeld dataopslag via ‘edge computing’, laag-energieverbruik elektronica of ‘neuromorphic- en quantum computing’).
In wat volgt, wordt dieper ingegaan op hoe de Commissie haar twee hoofddoelstellingen wenst te verwezenlijken.
Een ecosysteem van voortreffelijkheid
Om het zogenaamde ecosysteem van voortreffelijkheid te bereiken, definieert de Commissie een aantal niveaus waar verbetering nodig is om de komende toevloed aan AI-toepassingen in goede banen te leiden. De instelling legt zich daarvoor eveneens een aantal actiepunten op. De belangrijkste elementen daaruit, worden hier samengevat.
Zo werd in december 2018 een ‘Gecoördineerd Plan’ voorgesteld, waarin de Commissie samen met de lidstaten voorbereidingen trof om ontwikkeling van AI in Europa te stimuleren. In dezelfde lijn stelt de Commissie eveneens dat er meer samenwerking tussen onderzoekscentra in Europa moet komen, waarbij een centraal innovatiecentrum het voortouw moet nemen op vlak van onderzoek en expertise. Het moet bovendien als coördinatiepunt dienen voor de rest van Europa en een referentiepunt worden voor de rest van de wereld op vlak van AI. Financiële steun zou er komen van het Digital Europe Programme om Europese, nationale en private investeringen te combineren in de Europese innovatiecentra, mogelijks gepaard gaand met nieuwe regelgeving.
Verder zal de Commissie ook onderwijs stimuleren door zowel de beste academici aan te trekken als Digital Innovation Hubs en AI-on-demand platformen te verbeteren om ervoor te zorgen dat ook KMO’s AI kunnen gebruiken. Er komt daarnaast een nieuwe publiek-private samenwerking rond AI om de private sector in de plannen te betrekken, plus een programma om hetzelfde te doen in de publieke sector.
Tot slot zijn nog fundamentele rollen weggelegd voor het verbeteren van toegang en beheer van data -aangezien AI-ontwikkeling onmogelijk is zonder die data- en de samenwerking met andere globale spelers op vlak van AI.
Een ecosysteem van vertrouwen
De bulk van de white paper handelt echter over het vertrouwen in AI. Naast alle voordelen die Artificial Intelligence kan creëren, is het immers niet onbelangrijk om ook met mogelijke risico’s rekening te houden. De vrees bestaat dat er in toenemende mate informatie-asymmetrie zal komen, er beslissingen gemaakt zullen worden waar enkel nog een algoritme aan te pas komt en dat het zeer onduidelijk zal worden wat aan welke nationale of Europese regels onderworpen is.
Om dergelijke angsten tegen te gaan, heeft de Commissie een groep high-level experten aangesteld, die een aantal cruciale vereisten opstelden om van nieuwe AI-toepassingen iets te maken waar met vertrouwen mee kan worden omgesprongen.
Het werd in hun bevindingen duidelijk dat reeds heel wat elementen opgenomen waren in de bestaande regelgeving, maar dat toch nog een aantal lacunes bestaan op vlak van transparantie, traceerbaarheid en menselijk toezicht. Duidelijke Europese regels kunnen nochtans een grote boost geven aan het vertrouwen van consumenten en bedrijven in AI, wat de sociale aanvaarding ervan natuurlijk sterk vergemakkelijkt.
Risico-gebaseerde regels
Het is evenwel niet de bedoeling dat nieuwe wetgeving ook een volledig nieuw systeem schept. De Commissie wil eerder de huidige regels aanscherpen waar die al toepassing vinden op AI, en nieuwe wetgeving maar opstellen om de bestaande gaten op te vullen. Belangrijk daarbij is dat nieuwe regels innovatie niet in de weg mogen staan en daarom in voldoende mate technologieneutraal moeten zijn. Dit alles deed de Commissie beslissen om voor een risico-gebaseerde aanpak te gaan bij het opstellen van nieuwe regelgeving.
De hoofdrisico’s die in ieder geval moeten worden aangepakt, zijn eerst en vooral die rond persoonlijke gegevens, privacy en discriminatie. Denk aan biases die ontstaan door een database te voeden met te veel gelijkaardige gegevens of algoritmes die getraind worden op data die niet anoniem zijn/-waarvan ondanks anonimisering toch kan achterhaald worden waar de data vandaan komt.
Een tweede grote groep risico’s, zijn die rond veiligheid en aansprakelijkheid van AI. Onvoldoende verplichte regelgeving kan er immers toe leiden dat wanneer bijvoorbeeld een zelfrijdende auto beslist een mens aan te rijden, de voorzorgen niet genomen werden om te kunnen traceren waarom deze dat deed.
High-risk AI
De Commissie wil het regelgevingskader van AI zo ontwerpen dat enkel als risico’s bij AI-toepassingen het label van ‘groot risico’ meekrijgen, de toepassingen aan verplichte vereisten zullen worden onderworpen. Dit zal voornamelijk het geval zijn indien zowel de sector als het gebruik van een AI-toepassing veel potentiële risico’s met zich meebrengt. AI in de medische- of transportsector die zware en onvermijdelijke gevolgen kan creëren voor individuen of ondernemingen, zal in de toekomst bijvoorbeeld aan heel wat regels moeten gehoorzamen.
De white paper heeft het vervolgens over wat die ‘verplichte vereisten’ dan wel zouden moeten zijn voor AI waar grote risico’s aan verbonden zijn. De paper noemt onder andere het verplicht gebruik van brede datasets om algoritmes te trainen en zo discriminatie en biases te voorkomen, het bijhouden van accurate databanken, duidelijke informatie rond de mogelijkheden en beperkingen van AI-toepassingen en het verplichte behoud van menselijk toezicht, zodat geen belangrijke beslissingen enkel en alleen door algoritmes worden genomen.
Verdere nuttige informatie
De Commissie zal voor nieuwe regelgeving voorts het principe hanteren dat de verantwoordelijkheid voor het navolgen van opgelegde verplichtingen, telkens aan de partij(en) zal toekomen die het best geplaatst zijn om op te treden tegen potentiële risico’s. Bovendien moet wetgeving van toepassing zijn op alle gebruik van AI-goederen en -diensten, ongeacht of deze van Europese oorsprong zijn of niet.
Verder haalt de white paper een verplichting aan voor bevoegde nationale en Europese autoriteiten om voorafgaande conformiteitsbeoordelingen te doen, zodat telkens kan worden nagegaan of verplichtingen voor hoog-risico-applicaties wel effectief gevolgd worden.
Tot slot stelt de Commissie nog dat een systeem van vrijwillig labelen op poten gezet moet worden voor AI-applicaties die niet bestempeld kunnen worden als ‘hoog-risicovol’. Of dit tot meer effectieve en betrouwbare AI zal leiden, valt echter nog af te wachten.
Enkele vraagtekens
Hoewel de white paper een aantal mooie beloftes en voorstellingen schetst rond de toekomst van AI, bleven wij toch enigszins op onze honger zitten. Het document is een stuk minder concreet dan de eerste versie is die we van dit document te zien kregen. Een draftversie van de paper was namelijk midden januari al gelekt. Daarin werden regelgevingsopties voorgeschoteld die niet langer terug te vinden zijn in het officiële document, waarschijnlijk mede ingegeven door de kritiek die er kwam op het gelekte voorstel van de paper. Dit is extra betreurenswaardig aangezien ook het eerdere verslag van de HLEG rond AI teleurstellend was.
Veel commotie kwam er namelijk op het voorstel rond het opleggen van voorwaarden aan de publieke sector om gezichtsherkenning te gebruiken. De bedoeling was om publieke administraties bepaalde verplichtingen te laten volgen om zo geautomatiseerde beslissingen correct te laten verlopen. Dit zou gepaard gaan met een gedetailleerde uitwerking van voorwaarden voor het gebruik van gezichtsherkenning en andere biometrische identificatiemethodes (zoals vingerafdrukken of het herkennen van iemands gedrag of bewegingen) in het openbaar, die bovendien ook voor de private sector zouden kunnen spelen.
Het meest controversiële punt was echter de suggestie om voor een periode van drie tot vijf jaar een verbod te doen gelden op het inzetten van gezichtsherkenning in het openbaar, geldend zowel voor publieke als private gebruikers. Volgens critici zou dit Europa niet enkel een enorme achterstand doen oplopen op de ontwikkeling van de technologie, het zou ook enig aftasten van een werkzame toepassing volledig in de kiem smoren.
Het bijna volledig ontbreken van een bepaling over gezichtsherkenning in de officiële white paper, lost natuurlijk weinig op. Het blijft immers een potentieel zeer impactvol element van AI-toepassingen dat best aan heel heldere regelgeving onderworpen wordt.
Verder wordt AI zowel in de gelekte versie als de officiële paper voornamelijk gezien als iets waar vertrouwen rond moet worden gecreëerd, om tot acceptatie bij de gemiddelde Europeaan te leiden. Een aantal substantiële problemen met de nieuwe technologieën worden daardoor wat onder de mat geveegd. Weinig aandacht wordt bijvoorbeeld gegeven aan de gigantische ecologische voetafdruk van de ICT sector door alle data die bewaard blijft. Volledig onbesproken is bovendien de inzet van geautomatiseerde systemen als wapens of in het algemeen de machtsshift waar Artificial Intelligence toe kan leiden in het voordeel van degenen die toegang hebben tot enorme hoeveelheden data en daardoor tot zeer krachtige AI.
Conclusie en volgende stappen
De grootschalige intrede van AI in de samenleving komt eraan, en de EU wil duidelijk de boot niet missen. De Commissie beseft het belang én het risico dat slimme algoritmen kunnen betekenen voor Europa, en geeft met deze white paper een uitgebreide aanzet tot consultatie van de Europese burgers om voorstellen te doen over hoe de EU verantwoordelijk, inclusief en tegelijk innovatief met AI kan omgaan. De mogelijkheid om meningen rond een Europese aanpak van AI aan de Commissie mee te geven, loopt nog tot 19 mei 2020. Daarna zal de Commissie eind-2020 een herwerking van het Gecoördineerd Plan voorleggen aan de lidstaten.
Naar aanleiding van de white paper wordt op 13 maart een ‘Data-Date’-Panel georganiseerd door het Kenniscentrum Data & Maatschappij op de VUB-campus, waar IFORI aanwezig zal zijn.
Met verdere vragen over deze paper of twijfels over potentiële gevolgen voor uw onderneming, helpen wij u graag verder.