'Overheden moeten algoritmes verplicht in register zetten'
D66 en GroenLinks vinden dat deelname aan het nieuwe algoritmeregister verplicht moet worden voor alle overheden die algoritmes gebruiken. Zo'n verplichting kan er volgens het kabinet vanaf 2024 komen.
Dat zeiden D66 en GroenLinks vandaag in een kamerdebat over de gevaren van algoritmeregister, waarin staat welke algoritmes worden ingezet en voor welk doel, is nu nog niet verplicht. Een wettelijke verplichting kan op zijn vroegst in 2024, zei staatssecretaris Alexandra van Huffelen (Digitalisering). Maar het wachten is nog op nieuwe Europese regelgeving rond AI.
"We willen dat overheidspartijen ervoor zorgen dat ze zoveel mogelijk algoritmes registreren, en met name algoritmes met hoge risico’s, zoals die waarmee persoonsgegevens worden verwerkt of die worden gebruikt voor risico-beoordelingen", aldus Van Huffelen.
De Tweede Kamer en het kabinet willen misbruik van algoritmes tegengaan en ook voorkomen dat problemen zoals de toeslagenaffaire zich herhalen. De Belastingdienst maakte gebruik van een algoritme dat mensen met een lager inkomen vaker aanwees als fraudeur en discriminerende adviezen gaf.
Uitzondering voor handhaving
GroenLinks-Kamerlid Kauthar Bouchallikht maakt zich zorgen over een uitzondering die het kabinet maakt voor algoritmes die worden ingezet voor de rechtshandhaving. "Omdat hier inperkingen van burgerrechten aan de orde zijn." Volgens Van Huffelen heeft de toezichthouder wel inzicht in de algoritmes die voor handhaving en defensie worden gebruikt. "Het is onwenselijk ze openbaar te maken, want je wilt niet dat mensen er misbruik van maken. Maar we willen ook dat die algoritmes voldoen aan alle eisen."
Omdat de overheid steeds vaker gebruik maakt van algoritmes, vindt de Kamer dat bij overheidsbesluiten altijd moet worden aangegeven of deze al dan niet is gebaseerd op een algoritme of risicoprofilering.
Mensenrechtentoets
GroenLinks wil ook dat de mensenrechtentoets op algoritmes "verplicht, bindend en transparant moet worden". Als mensen vermoeden dat ze door het gebruik van algoritmes zijn gediscrimineerd, is het bijna ondoenlijk om dat aan te vechten, stelde het College voor de Rechten van de Mens onlangs.
De mensenrechtentoets wordt verplicht en bindend, zei Van Huffelen. Dat wordt volgens haar een 'stevige toets'. "Ontwikkelaars van AI-systemen met hoge risico's worden verplicht een mensenrechtentoets uit te voeren ten aanzien van fundamentele rechten, veiligheid en gezondheid." Die verplichting komt er pas als over zo'n twee jaar Europese regelgeving daarover van kracht wordt.
Praten met chatbot
VVD-Kamerlid Queeny Rajkowski vindt dat op Europees niveau moet worden vastgelegd dat het altijd duidelijk moet zijn als iemand met een systeem 'praat', zoals met een chatbot, en niet met een persoon.
Het kabinet wil zo veel mogelijk rechten en plichten rondom het gebruik van AI op Europees niveau regelen, zei minister Micky Adriaansens (Economische Zaken). Onderhandelingen daarover zijn in volle gang.