Artificial Intelligence (AI)-verordening: Europese Unie zet belangrijke stappen in de regulering van kunstmatige intelligentie

In een recente (9 december 2023) en historische aankondiging heeft de Europese Unie nieuwe regelgeving ingevoerd met betrekking tot kunstmatige intelligentie (AI). Deze regels richten zich op het reguleren en verbieden van specifieke toepassingen, zoals profileringssystemen die criminaliteit zouden voorspellen op basis van persoonsgegevens – een kwestie die eerder in Nederland aan het licht kwam tijdens de toeslagenaffaire.

Wat valt onder kunstmatige intelligentie?

Artificial Intelligence (ook bekend als Kunstmatige Intelligentie; AI) vormt een ensemble van technologieën waarbij data, algoritmen en rekenkracht samenkomen. Deze technologieën dragen bij aan het vinden van diverse oplossingen voor maatschappelijke vraagstukken.

Te denken valt aan virtuele assistenten zoals Siri van Apple en Google Assistant, deze toepassingen kunnen spraakopdrachten begrijpen en vragen van de gebruiker beantwoorden. Verder vindt men AI in gezichtsherkenningsalgoritmen waardoor mensen op foto’s automatisch kunnen worden geïdentificeerd en gecategoriseerd, zoals reeds op Facebook en Iphone/Android telefoons gebeurt om foto’s van een persoon te bundelen. Ook Chatbots maken gebruik van AI, waaronder het bekende ChatGPT van OpenAI dat door middel van taalverwerking en machine learning mensachtige interacties kan voeren en vragen kan beantwoorden. Dit zijn nog slechts een aantal voorbeelden van de manieren waarop AI momenteel wordt toegepast.

De toepassingen van AI lijken schier oneindig. Toch brengt deze technologie risico’s met zich mee die de gebruiker of de persoon die ermee in aanraking komt kunnen schaden. Reden waarom er vanuit de Europese Unie beleid is opgesteld over kunstmatige intelligentie. Dit beleid is vastgelegd in diverse actieplannen, ethische richtsnoeren en voorgestelde wet- en regelgeving. Het is te vinden in het ‘Witboek over kunstmatige intelligentie’, waaruit de nieuwe AI-Verordening ook is voortgekomen.

AI-potentieel en fundamentele rechten

Eurocommissaris Thierry Breton, belast met deze regelgeving, benadrukte in de onderhandelingen over deze nieuwe wet het belang van het vinden van de juiste balans tussen het benutten van het potentieel van AI voor wetshandhaving en het beschermen van de fundamentele rechten van burgers. In een verklaring op de officiële website van de Europese Commissie zei hij: “We willen geen massale surveillance in Europa.” Met deze uitspraak doelt hij op de surveillance van burgers in China met behulp van AI.

De nieuwe Europese AI-Wet

De kern van de nieuwe Europese wetgeving is gebaseerd op de classificatie van AI-toepassingen op basis van het risico dat ze met zich meebrengen. Strengere regels zijn van toepassing op toepassingen met hogere risico’s. De gevaarlijkste toepassingen, zoals de hiervoor genoemde burgervolgsystemen die het gedrag van burgers belonen of straffen, worden bijvoorbeeld expliciet verboden. Systemen met een laag risico, zoals automatisch foto- of videobewerkingsprogramma’s hoeven enkel aan te geven dat ze AI gebruiken.

Een belangrijk discussiepunt tijdens de onderhandelingen was het gebruik van AI voor gezichtsherkenning. Tot uitgangspunt is genomen dat de wet het live scannen van gezichten toe zal staan, maar biometrische scanning verbiedt die mensen classificeert op basis van gevoelige kenmerken zoals politieke overtuigingen, religie, seksuele geaardheid of ras.

Hoewel het voorlopige akkoord al is aangekondigd, moet het nog worden voorgelegd aan het EU-parlement en de EU-lidstaten. Dit proces wordt doorgaans gezien als een formaliteit. Frankrijk, Duitsland en Italië hebben echter bezwaren geuit vanwege de mogelijke beperkingen voor vooraanstaande AI-bedrijven die daar zijn gevestigd. Een compromis is inmiddels bereikt door gedragscodes voor bedrijven te introduceren.

Impact op bedrijven

Bedrijven die de nieuwe regels overtreden, riskeren aanzienlijke boetes. Deze boetes variëren van maximaal 35 miljoen euro tot 7 procent van hun wereldwijde omzet, afhankelijk van de ernst van de overtreding en de omvang van het bedrijf.

Conclusie: naar een gereguleerde toekomst voor kunstmatige intelligentie in Europa

Indien het akkoord begin volgend jaar officieel wordt aangenomen, kunnen de nieuwe regels naar verwachting in de loop van 2026 van kracht worden. Deze regelgeving markeert een cruciale stap in de richting van een goed gereguleerde toekomst voor kunstmatige intelligentie in Europa, waarin de balans tussen innovatie en bescherming van fundamentele rechten centraal staat.

Wij blijven de ontwikkelingen die de AI-landschappen in Europa vorm zullen geven daarom nauwgezet volgen.