“Eens op het internet, altijd op het internet”? Take It Down (https://takeitdown.ncmec.org) is een nieuw digitaal hulpmiddel waarmee mensen naakte, deels naakte of seksueel getinte beelden (zowel foto’s als films) van zichzelf op het internet kunnen verwijderen, of minstens al op een deel van de platformen. Dit kan ongeacht of mensen ze er zelf op geplaatst hebben of derden.
De tool is enkel technisch toegankelijk voor minderjarigen (-18) of meerderjarigen die -18 waren toen hun beelden werden genomen. Meerderjarigen die +18 waren toen de beelden werden genomen, worden doorverwezen naar een gelijkaardige tool, “StopNCII” (zie infra). De beelden zelf moeten de persoon (deels) naakt tonen ofwel (gekleed) in een seksueel expliciete situatie.
De tool, gelanceerd door het Amerikaans Nationaal Centrum voor Vermiste en Misbruikte kinderen (NCMEC) en deels gefinancierd door Meta Platforms Inc., het moederbedrijf achter Facebook, moet slachtoffers een vorm van controle teruggeven. Je moet geen Amerikaans burger zijn om van deze tool gebruik te kunnen maken, ook wij Belgen kunnen dit.
Digitale vingerafdruk
Via de webtool kunnen gebruikers anoniem, zonder beeldmateriaal te moeten uploaden, een digitale vingerafdruk van de afbeelding of video in kwestie maken. Die vingerafdruk, bestaande uit een unieke reeks getallen, een ”hash” genaamd, wordt in een database opgenomen. Dit wordt gedeeld met de techgiganten die deelnemen aan het project, namelijk Facebook, Instagram, Yubo, OnlyFans en Pornhub die vervolgens de corresponderende beelden verwijderen van hun platform. Zodra een deelnemend platform de waarde van de hash op zijn servers aantreft, kan het platform stappen ondernemen om de verspreiding van deze foto of video te limiteren en het uploaden te blokkeren. De tool werkt zowel voor echte beelden als artificieel intelligentie gegenereerde beelden en zogenaamde “deepfakes”.
Caveats
Take It Down is afhankelijk van platforms die zich vrijwillig bij het initiatief hebben aangesloten. Beelden die op een niet-deelnemend platform staan, zoals (op vandaag) TikTok of Twitter, of verzonden worden in een versleuteld platform zoals Whatsapp, kunnen niet worden weggehaald.
Bovendien geldt de digitale vingerafdruk enkel voor de originele afbeelding. Als een afbeelding is bewerkt of reeds gewoon afwijkende afmetingen heeft, wordt deze al niet aan dezelfde digitale vingerafdruk herkend.
Noodzakelijke maatregel of verregaande privacy schending?
Take It Down werkt op een soortgelijke manier als een eerder initiatief voor volwassenen van Facebook in 2017. Facebook was een samenwerking gestart met de Australische overheid waarbij gebruikers expliciete foto’s naar zichzelf via Facebook Messenger in een privébericht moesten sturen om een hash te genereren van de foto en deze vervolgens te laten verwijderen.
Ook voor wie ouder is dan 18 jaar lanceerde Meta samen met de UK Revenge Porn Helpline in 2021 het programma “StopNCII” (Stop Non-Consensual Intimate Images), gericht tegen de verspreiding van wraakporno. Hier worden op dezelfde manier als bij Take It Down foto’s en video’s weggehaald.
De huidige tool is ontworpen op een manier die de privacy en gegevens van gebruikers zou beschermen,
daar het toelaat zelf lokaal een hash te genereren, volledig anoniem. Noch de beelden noch identificeerbare persoonlijke informatie worden geüpload in de webapplicatie. NCMEC en Meta benadrukken dat ze geen toegang hebben tot en geen kopieën bewaren van de originele afbeelding. In plaats daarvan worden de afbeeldingen geconverteerd naar hashes in de browsers van gebruikers en krijgen de platformen enkel de “ge-hashte” kopieën.
Huidige EU-rechtskader
De Europese Commissie heeft op 24 juli 2020 de EU-strategie voor een doeltreffendere bestrijding van seksueel misbruik van kinderen vastgelegd, die erin bestaat sterker in te zetten op preventie, opsporing en bijstand aan slachtoffers[1]. De strategie omvat 8 initiatieven om een sterk wettelijk kader voor de bescherming van kinderen tot stand te brengen. Deze gaat vergezeld van andere, aanvullende inspanningen om kinderen te beschermen tegen alle vormen van geweld, met inbegrip van online misbruik.
Bepaalde elektronische communicatiediensten maken reeds gebruik van specifieke technologieën om op vrijwillige basis online seksueel misbruik van kinderen op te sporen. Echter aanbieders van elektronische communicatiediensten maken inbreuk op de grondrechten van de gebruiker van hun diensten. Met name op het grondrecht op eerbiediging van het privéleven, het familie- en gezinsleven (artikel 7 EU-Handvest) en het grondrecht op de bescherming van persoonsgegevens (artikel 8 EU-Handvest).
Tijdelijke afwijking
Verordening 2021/1232[2] voorziet daarom in een tijdelijke afwijking van bepaalde voorschriften van de e-privacyrichtlijn, ter nadere specificatie van en aanvulling op de Algemene Verordening Gegevensbescherming (hierna ‘AVG’), zodat aanbieders van elektronische communicatiediensten kunnen doorgaan met het opsporen, verwijderen en melden van kinderpornografie. Deze tijdelijke verordening is 3 jaar van toepassing (t.e.m. 3 augustus 2024) en om ervoor te zorgen dat de privacy van de gebruikers wordt geëerbiedigd, moeten de aanbieders van dergelijke diensten voldoen aan de voorwaarden uit de AVG en een aantal extra waarborgen opgenomen in de tijdelijke verordening.
Wetgeving voorstel
De meerderheid van de meldingen bij rechtshandhavingsinstanties zijn afkomstig van aanbieders van onlinediensten in de Verenigde Staten, waarbij het NCMEC EU-gerelateerde meldingen doorstuurt naar Europol en nationale rechtshandhavingsinstanties. Hoewel de door de providers genomen maatregelen een belangrijke bijdrage leveren, lopen zij sterk uiteen en zijn ontoereikend, waarbij de overgrote meerderheid van de meldingen afkomstig is van een handvol aanbieders, terwijl een aanzienlijk aantal geen actie onderneemt.
Om deze uitdaging aan te gaan, publiceerde de Europese Commissie op 11 mei 2022 een voorstel van een verordening van het Europees Parlement en de Raad tot vaststelling van regels ter voorkoming en bestrijding van seksueel misbruik van kinderen[3]. Dit voorstel is nog niet goedgekeurd. Het voorstel zou techplatformen verplichten om materiaal gerelateerd aan kindermisbruik actief op te sporen, te rapporteren en te verwijderen en om voorbereidingen te treffen voor de oprichting van een Europees centrum.
Het voorstel bouwt voort op de AVG, echter het Europees Comité voor gegevensbescherming (EDPB) en de Europese Toezichthouder voor gegevensbescherming (EDPS) hebben reeds benadrukt dat het aanleiding geeft tot zorgen omtrent evenredigheid van de beoogde inmenging en beperking van bescherming van de grondrechten privacy en persoonsgegevens. Onder andere stellen zij dat het voorstel van verordening op verschillende punten onvoldoende duidelijk is, de voorgenomen opsporingsmaatregelen verder gaan dan wat noodzakelijk en evenredig is en er een aantasting is van encryptie van versleutelde berichten wat essentieel is voor een vertrouwelijke communicatie[4].
Met dit voorstel wordt beoogd een duidelijk en geharmoniseerd rechtskader voor de preventie en bestrijding van online seksueel misbruik van kinderen tot stand te brengen. Maar is dit de facto een infrastructuur voor surveillance en censuur, kwetsbaar voor misbruik wereldwijd?
[1] Mededeling van de Commissie aan het Europees Parlement, de Raad, het Europees economisch en sociaal comité van de regio’s EU-strategie voor een doeltreffendere bestrijding van seksueel misbruik van kinderen.
[2] Verordening (EU) 2021/1232 van het Europees Parlement en de Raad van 14 juli 2021 betreffende een tijdelijke afwijking van sommige bepalingen van Richtlijn 2002/58/EG ten aanzien van het gebruik van technologieën door aanbieders van nummeronafhankelijke interpersoonlijke communicatiediensten voor de verwerking van persoonsgegevens en andere gegevens ten behoeve van de bestrijding van online seksueel misbruik van kinderen.
[3] Voorstel voor een verordening van het Europees Parlement en de Raad tot vaststelling van regels ter voorkoming en bestrijding van seksueel misbruik van kinderen COM/2022/209 final.
[4] EDPB-EDPS Joint Opinion 04/2022 on the Proposal for a Regulation of the European Parliament and of the Council laying down rules to prevent and combat child sexual abuse.
