Brussel wil strenge regels voor kunstmatige intelligentie en gezichtsherkenning
De Europese Commissie wil burgers met nieuwe regels beschermen tegen de uitwassen van kunstmatige intelligentie (AI). Zo wil Brussel overheden verbieden om mensen met gezichtsherkenningssystemen te volgen of hen punten te geven voor bepaald gedrag, zoals Chinese overheden doen.
De Europese Unie moet nieuwe regels krijgen die misbruik van systemen met kunstmatige intelligentie tegengaan. Die moeten uiteindelijk leiden tot een wereldwijde aanpak van de schaduwkanten van deze technologie. "We kunnen de weg plaveien voor ethische technologie in de hele wereld", zegt vicevoorzitter Margrethe Vestager.
Het dagelijks bestuur van de EU wil vormen van kunstmatige intelligentie indelen naargelang het gevaar dat ze vormen voor de burgerrechten. "Onaanvaardbaar gevaarlijke" technologie moet verboden worden. Daaronder valt bijvoorbeeld speelgoed dat kinderen tot gevaarlijk gedrag kan aanzetten en systemen waarmee overheden burgers bepaalde scores voor hun gedrag geven.
Onrecht
Voor kunstmatige intelligentie die een hoog risico vormt, komen als het aan de commissie ligt strenge regels. Zo moeten de gegevens waarmee deze systemen werken helemaal in orde zijn, om te voorkomen dat mensen onrecht wordt gedaan. Dat dreigt bijvoorbeeld te gebeuren als algoritmes worden ingezet voor het beoordelen van zaken als asielaanvragen, examens en cv's.
Ook moet te achterhalen zijn hoe een systeem tot een bepaalde conclusie is gekomen. En er moet altijd een mens een oogje in het zeil houden.
Gezichtsherkenning
De commissie wil ook systemen met gezichtsherkenning op openbare locaties, waarbij grote groepen mensen tegelijk op afstand worden gescreend, aan banden leggen. "Er is in onze samenleving geen ruimte voor massatoezicht. Het gebruik van biometrische identificatie op openbare plaatsen in principe verboden", aldus Vestager, die wel uitzonderingen mogelijk wil maken. "Dat zijn extreme gevallen, zoals wanneer de politie het nodig heeft bij het zoeken naar een vermist kind."
Chatbots
Ook minder risicovolle technologie, zoals de chatbots die veel overheden inzetten om bezoekers te woord te staan, moet aan bepaalde regels voldoen. Zo moet altijd duidelijk zijn dat niet een mens, maar slimme software of een robot aan het woord is. "Vertrouwen is bij kunstmatige intelligentie geen aardigheidje, maar een vereiste", aldus Vestager.
Binnen die veilige perken moet de kunstmatige intelligentie in de EU opbloeien, is de bedoeling. De technologie bevat immers "een immense belofte", zegt EU-commissaris Thierry Breton (Interne Markt). Daarom moet de EU "een mondiaal knooppunt worden voor uitblinken in kunstmatige intelligentie". Brussel wil de komende jaren meer geld in AI steken, onder meer voor onderwijs en samenwerkingen tussen de wetenschap en het bedrijfsleven. Ook ziet de commissie een grote rol voor AI voor onder meer duurzame productie, gezondheid, mobiliteit, landbouw en robotica.