56_2024-2025/114 - Verzoekschrift over het Belgische standpunt betreffende het EU voorstel 2022/0155(COD) (Chat Control)

Geachte voorzitter van de Kamer van Volksvertegenwoordigers,

Via deze weg verzoek ik dat de federale Kamer van Volksvertegenwoordigers de regerings- en oppsositiepartijen zeer diepgaand laat bezinnen over het Belgische standpunt betreffende het voorstel van de EU over het screenen van digitale communicatie, verder Chat Control genoemd. Ik verzoek dat België een afkeurend standpunt over voorstel inneemt, om de hieronder gelijste redenen.

1. De privacy-bezorgdheden worden door verschillende NGO’s opgelijst en behandeld, dit is een heel belangrijk punt, dat raakt aan alle andere, maar het is niet de directe focus en zal hier niet verder uitgewerkt worden. Echter, de client-side screening die het voorstel beschrijft is de ergst mogelijke optie, in theorie is het dan immers mogelijk om elke actie, elk geopend bestand, elke tekst en foto te screenen, niet alleen verstuurde.

2. Het belangrijkste nadeel aan Chat Control, is de gelinkte methode: massascreening, is kort samengevat, van geen enkele waarde om het gestelde doel te bereiken. Zoals duidelijk te zien in de voorbeelden in de bijlage (zie supplement Statistiek) leidt massascreening voor een zeldzaam fenomeen altijd tot een zeer grote hoeveelheid valse positieven en een erg lage predictieve waarde (de kans dat een positieve hit ook werkelijk positief is). Dit is zelfs het geval wanneer er een onrealistisch accuraat algoritme gebruikt wordt, de realiteit is dus altijd erger dan in de voorbeelden.

* Justitie is nu al overbelast, maandelijks duizenden CSAM-onderzoeken opstarten, waarvan de meeste nutteloos (vals positief) vormen een onrealistische aanpak. De bevolking is zich goed bewust van de staat van justitie, en zal geen geloof hechten aan deze methode.

* Nog erger zou het direct doorverwijzen van de uitkomst van het algoritme zijn, een groot deel is vals:

* vernietiging van reputaties, carrières.

* vernietiging van vertrouwen in het gerechtelijk apparaat bij de bevolking, en verlies van vertrouwen in de politiek die dit heeft veroorzaakt, en verlies van vertrouwen in het democratisch proces.

* Deze E2EE-apps worden ook gebruikt voor het communiceren van legaal naakt. Beelden van jong uitziende volwassenen kunnen grote gevolgen hebben (AI-gebaseerde detectie), en detectie van werkelijk materiaal zal verder verwateren.

* Het succes van de wetgeving, en de vermindering van materiaal, zal geen enkele invloed hebben op het aantal valse positieven (enkel het aantal berichten heeft effect): hoe effectiever de wet, hoe moeilijker en meer disproportioneel controle wordt.

* Uiteindelijk zal uitbreiding overwogen worden. Elke vorm van screening, met wat voor doel dan ook, is onderhevig aan deze nadelen: een groot deel, tot zelfs overgrote meerderheid positieven is vals.

3. Aantasting van de kinderrechten. Deze wetgeving en de manier van controle worden voorgesteld om kinderen en kinderrechten te vrijwaren, echter de manier van implementatie kan deze beschadigen:

* De grote hoeveelheid controle noodzakelijk bij de voorgestelde implementatie heeft personeel nodig. Dit is een interessante piste voor personen die interesse hebben in dergelijk materiaal: onschuldige foto's kunnen voor derden een bron van seksueel bevredigingsmateriaal worden, dit creëert paradoxaal genoeg nieuw materiaal uit onschuldige kinderfoto's, zeker gezien wat er allemaal kan gedaan worden met huidige AI-gemedieerde foto-manipulatie.

* Het protocol zelf of de servers worden een zeer aantrekkelijk doelwit voor hackers. Elk datalek kan catastrofaal zijn.

* Als het aandeel van werkelijk materiaal laag is t.o.v. alle positief aangemerkte materialen, kan dit de detectie van nieuw materiaal bemoeilijken, wat zeer nadelig is voor kinderen in de positie.

4. Dit is ook geen vraag of de overheid en politieapparaat van vandaag te vertrouwen is, maar dat van over 5, 10, 50 jaar. Kunt u mij garanderen dat er, zelfs als we feature creep vermijden, geen toekomstige groep aan de macht komt die zeer dankbaar van deze technologie zal gebruik maken?

In conclusie stel ik dat gegeven de nadelen van de methode, risico's voor misbruik en hacking, en aantasting van fundamentele rechten zoals opgenomen in het EVRM voor volwassenen en kinderen, België een standpunt **tegen** 2022/0155(COD) dient in te nemen. Ik verzoek de kamer dan ook om deze materie, en die mogelijk gevolgen voor rechten van de bevoking en gevolgen voor de Belgische wetgeving en justitie te bekijken en de bevoegde regeringsleden hier over aan te spreken.