© Levi Meir Clancy
Amnesty International slaat alarm: EU moet 'gevaarlijke AI-technologie' verbieden
Amnesty International dringt er bij de Europese Unie (EU) op aan om 'gevaarlijke, door AI-gedreven technologie' te verbieden in het kader van de aanstaande AI Act. Deze technologieën, vaak ingezet om maatschappelijke problemen aan te pakken, verergeren volgens de mensenrechtenorganisatie de situatie juist vaak.
Steeds meer landen gebruiken AI-systemen in een poging om allerlei maatschappelijke problemen op te lossen. Denk daarbij aan het opsporen van verdachten of het voorwaardelijk vrijlaten van veroordeelde criminelen. Maar volgens Amnesty zijn dat vaak geen oplossingen die de situatie verbeteren, maar worden ze vooral 'gebruikt om kosten te drukken'. Daardoor werken ze bestaande problemen, zoals etnische profilering en ongelijkheid, in de hand.
De organisatie haalt bijvoorbeeld de Nederlandse toeslagenaffaire aan, waarbij een AI-systeem van de Nederlandse Belastingdienst duizenden mensen onterecht verdacht van fraude met toeslagen. Vooral mensen uit lagere inkomensgroepen en mensen met een migratieachtergrond waren toen de dupe.
Nederlands bedrijf met surveillance-AI
Naast het pleiten voor een verbod op gevaarlijke AI-systemen, roept Amnesty op tot een kordate aanpak van gezichtsherkenning in openbare ruimtes. Volgens de organisatie kan de technologie gebruikt worden door overheden om mensen 'buitensporig in de gaten' te houden. Ook het risico op onterechte arrestaties van verdachten die met AI worden opgespoord, zijn volgens Amnesty een groot risico.
Een ander punt waar Amnesty zich zorgen om maakt, is de export van surveillance-systemen. De organisatie stelt dat deze technologieën niet in de EU zouden mogen worden vervaardigd en vervolgens naar andere landen geëxporteerd mogen worden. Amnesty wijst specifiek met de vinger naar het Nederlandse bedrijf TKH Security, dat apparatuur verkoopt aan de Israëlische staat om Palestijnen in de gaten te houden.
Lobby door machtige bedrijven
Amnesty wil verder voorkomen dat AI-technologieën misbruikt worden tegen migranten, vluchtelingen en asielzoekers aan de grenzen van de EU. De organisatie eist dat etnisch profileren en risicoprofielen verboden worden. Ook technologie die migratiestromen voorspelt, zou verboden moeten worden, klinkt het.
Bovendien zegt de organisatie dat Big Tech een grote lobbycampagne voert om 'mazen in het proces van risicobeoordeling van de AI Act te introduceren'. Amnesty vreest dat techbedrijven zich op die manier de macht geven om zichzelf te reguleren, wat 'ernstig de belangrijkste doelen van de AI Act ondermijnt'.
Volgens Mher Hakobyan van Amnesty is de oplossing simpel: "Ga terug naar het originele voorstel van de Europese Commissie, waarin een duidelijke lijst staat van scenario's waarbij het gebruik van AI-middelen van hoog risico is."