AP wijst Tweede Kamer nogmaals op grote risico's bij kindermisbruik-scanners

Wanneer er een akkoord wordt bereikt, zal dat chatapps, sociale media en internetproviders verplichten om de communicatie van hun gebruikers te scannen op beelden van kindermisbruik. Berichten en beeldmateriaal worden daarbij bekeken en gesproken communicatie wordt beluisterd.

Aantasting of einde encryptie

De AP vindt het ‘vanzelfsprekend’ dat kindermisbruik hard moet worden aangepakt, maar het huidige voorstel vormt volgens de toezichthouder een te groot risico voor de rechten en vrijheden van burgers. Het risico dat communicatiediensten en internetplatformen straks bij alle communicatie van alle burgers zullen kijken én luisteren is té groot.

Er zijn grote zorgen over de gevolgen van de verordening voor end-to-end encryptie bij het versturen van berichten, omdat chatapps daar mogelijk mee moeten stoppen om aan de nieuwe wet te voldoen. De AP wijst er in de brief onder meer op dat er op dit moment nog geen technologische oplossing is voor het opsporen van beeldmateriaal dat versleuteld wordt verstuurd, waardoor communicatiediensten hun eigen versleuteling moeten ondermijnen om aan de overheidsverplichtingen te voldoen. Dat kan dan door een achterdeur in te bouwen of door geheel te stoppen met versleutelde berichten.

Software maakt veel fouten

Ook is er een grote kans dat de AI-software die waarschijnlijk wordt ingezet om de berichten te lezen fouten maakt en vooroordelen bevat. Daardoor kunnen burgers ten onrechte als potentieel ‘verdacht’ worden gezien. De impact van zogeheten 'false positives' kan zeer groot zijn voor mensen.

Uit de Impact Assessment van de Europese Commissie over deze software blijkt dat bepaalde technologieën voor het opsporen van grooming voor ongeveer 88% van de gevallen accuraat zijn. “Dat betekent dat er in 12% van de gevallen een vals-positieve uitkomst kan zijn. Over welke technologieën mogelijk ingezet kunnen worden voor het afluisteren van gesproken communicatie bevat dit stuk geen informatie”, zo schrijft de AP.

Overleg

De AP hoopt dat de Tweede Kamer de punten van aandacht meeneemt in de voorbereiding op het schriftelijk overleg van de commissie voor Justitie en Veiligheid. Dat overleg vindt op 8 en 9 december plaats.