Europees Parlement keurt AI-wetgeving goed: wat houdt dit in?

Door de AI Act worden bepaalde AI-toepassingen in de EU verboden. Het gaat om zaken die de rechten van inwoners belemmeren, zoals het ongericht schrapen van gezichtsfoto’s van het internet om databases voor gezichtsherkenning aan te leggen of AI die emoties herkent op de werkvloer of op school. Ook AI die menselijk gedrag manipuleert, is verboden, alsook programma’s die aan ‘social scoring’ doen, een systeem dat in China wordt gebruikt om inwoners een score te geven aan de hand van hoe zij zich gedragen. Daarnaast is het categoriseren op basis van seksuele oriëntatie of religie is verboden.

Ook de politie krijgt nieuwe regels opgelegd. Het gebruik van biometrische identificatiesystemen (RBI), systemen die gebruikmaken van unieke fysieke en gedragskenmerken van individuen om ze te identificeren of te verifiëren, mag niet meer, behalve in een aantal zeer specifieke situaties. ‘Realtime’ RBI mag enkel worden gebruikt bij dringende zaken, zoals het opsporen van een vermiste persoon of het voorkomen van een aanslag. Indien een rechter toestemming geeft, mag de technologie in bepaalde situaties ook na de feiten gebruikt worden.

Meer transparantie

Algemene AI-systemen als ChatGPT en de modellen waarop ze getraind zijn, moeten van de EU transparanter worden. Wanneer je zo’n systeem gebruikt, moet de maker aangeven dat je met AI te maken hebt. Ook bij gegenereerde content moet vanaf nu duidelijk zijn dat het niet door een mens is gemaakt. Ontwikkelaars van AI-systemen moeten bovendien kunnen aantonen dat ze geen auteursrechten schenden. Ook moeten zij in detail publiceren welke content ze hebben gebruikt om hun systemen te trainen.

Verder worden AI-systemen onderverdeeld in verschillende klassen, gebaseerd op risico. Bij systemen met een laag risico is het voor ontwikkelaars voldoende om enkel bij de resultaten te vermelden dat die door AI zijn gegenereerd. Bij hogere risicoklassen moeten meer maatregelen worden genomen, bijvoorbeeld ervoor zorgen dat er altijd menselijk toezicht is. Het gaat dan om systemen die gebruikt worden in de infrastructuur, het onderwijs, de gezondheidszorg en andere systemen waar de schade potentieel hoog kan zijn moest er iets mislopen.

Wat nu?

Hoewel het wetpakket is goedgekeurd, is de AI Act nog niet van kracht. Dat zal pas gebeuren nadat het goedgekeurd wordt door alle lidstaten van de EU. Volgens verschillende media zal de Raad van de Europese Unie daar binnen een tweetal maanden over vergaderen. 

Nadat de lidstaten hun zegen geven, treedt de AI Act in werking. Daarna duurt het zes maanden voordat de verboden toepassingen die bovenaan dit artikel worden besproken, effectief verboden worden. De regels voor algemene systemen zoals ChatGPT treden een jaar na de goedkeuring in werking en obligaties voor systemen met een hoog risico gaan pas 36 maanden na goedkeuring in.

Meer over AI, of blijf op de hoogte via de Bright Nieuwsbrief.