Privacywaakhonden: verbied camera's die gezichten herkennen
Slimme camera's die gezichten van voorbijgangers scannen en mensen razendsnel kunnen identificeren, zouden verboden moeten worden. Daartoe zeggen de Autoriteit Persoonsgegevens (AP) en de andere Europese privacywaakhonden.
"Elke camera met gezichtsherkenning die we ophangen op straat, in het park, de trein of de bus, is een stap dichter bij een surveillancemaatschappij", zegt AP-voorzitter Aleid Wolfsen.
De risico's van gezichtsherkenning zijn te groot, vinden de toezichthouders. Zulke systemen kunnen volgens Wolfsen leiden tot een samenleving "waarin je niet kunt ontsnappen aan de priemende ogen van systemen die jou in de gaten houden en jou herkennen, dus jou de hele dag kunnen volgen. Je stapt de deur uit en weet: ik word constant in de gaten gehouden. Dat is beklemmend, zorgt dat mensen zich minder vrij voelen om zichzelf te zijn."
Emoties en stemmen
De instanties hebben dezelfde bezwaren tegen systemen die stemmen, bewegingen of emoties moeten herkennen. Ook willen ze een verbod op kunstmatige intelligentie waarmee mensen kunnen worden ingedeeld op geslacht, geaardheid of etnische achtergrond. Dit kan namelijk leiden tot discriminatie.
"Wij kiezen ervoor om te voorkomen dat systemen mensen kunnen discrimineren. Wij hebben in Nederland met de Toeslagenaffaire gezien hoe fout dat kan gaan", aldus Wolsen.
Kunstmatige intelligentie
De waakhonden reageren op de plannen van de Europese Commissie. Brussel wil het onder meer mogelijk maken om zei in april systemen met gezichtsherkenning op openbare locaties, waarbij grote groepen mensen tegelijk op afstand worden gescreend, aan banden te willen leggen. "Er is in onze samenleving geen ruimte voor massatoezicht. Het gebruik van biometrische identificatie op openbare plaatsen in principe verboden", stelde eurocommissaris Margrethe Vestager toen. Ze wil wel uitzonderingen mogelijk maken. "Dat zijn extreme gevallen, zoals wanneer de politie het nodig heeft bij het zoeken naar een vermist kind."
De privacytoezichthouders zeggen dat veel regels rond het gebruik van AI-systemen 'nog niet duidelijk genoeg zijn'. "Welke partij moet de wet gaan handhaven en hoe precies? En wat zijn exact de regels wanneer er met systemen data worden doorgegeven naar landen buiten de EU?" Ook sluit het voorstel van Brussel niet goed aan op de EU-privacyregelgeving AVG, vinden ze. "In het huidige voorstel staan andere definities van sommige begrippen dan in de AVG. Daarnaast zijn de procedures die bedrijven moeten doorlopen anders dan in de AVG. Dit zorgt voor verwarring."