Het nieuwe AI-Kaderverdrag van de Raad van Europa moet AI in lijn brengen met mensenrechten, democratie en de rechtsstaat. Maar hoe verhoudt dit verdrag zich tot bestaande Europese wetgeving, zoals de AI Act, de Algemene Verordening Gegevensbescherming (AVG) en de Digital Services Act (DSA)? Silvia de Conca, juridisch wetenschapper aan de Vrije Universiteit Amsterdam, onderzoekt deze samenhang en de ethische implicaties van AI en big data.
Een nieuwe juridische standaard voor AI
Wereldwijd hebben verschillende landen wetten aangenomen om AI te reguleren, vaak gericht op specifieke issues zoals privacy, nepnieuws en toepassingen zoals online aanbevelingssystemen. Maar het Kaderverdrag over AI is het eerste juridisch bindende internationale verdrag over alle AI-toepassingen, geldig voor alle landen die zich erbij aansluiten. Naast de 46 lidstaten van de Raad van Europa nam een aantal landen uit verschillende regio’s ook deel aan de onderhandelingen (Argentinië, Australië, Canada, Costa Rica, de Heilige Stoel, Israël, Japan, Mexico, Peru, Uruguay en de Verenigde Staten).
Het kaderverdrag beidt een wettelijk kader voor de gehele levenscyclus van systemen voor AI. Het bevordert vooruitgang en innovatie op het gebied van AI, terwijl het tegelijkertijd de risico's beheerst die het kan opleveren voor mensenrechten, democratie en de rechtsstaat.
Nationale wetten mogen niet in tegenspraak zijn met internationale verdragen. Als het nodig is moeten overheden hun nationale wetten aanpassen voorafgaand aan of tegelijkertijd met de ratificatie (goedkeuring) van een verdrag. 'De EU heeft aangekondigd dat ze het Kaderverdrag zal implementeren via bestaande wetten, zoals de AI Act en waarschijnlijk de AVG en de DSA,' zegt Silvia De Conca. Dat is opvallend, want de AI Act richt zich vooral op marktveiligheid, maar biedt geen directe oplossing voor burgers die schade ondervinden door AI-systemen.
Europese regelgeving en het Kaderverdrag: conflicten of synergie?
De Conca onderzoekt hoe de AI-wetgeving van de EU zich verhoudt tot het Kaderverdrag en of het Kaderverdrag voldoende bescherming biedt aan burgers. 'Aangezien de AI Act en het Kaderverdrag elkaar beïnvloeden, zie ik geen grote juridische problemen,' zegt ze. 'Maar er zijn uitdagingen. Zo verwacht het Kaderverdrag actieve bescherming door staten en biedt het burgers de mogelijkheid om klachten in te dienen bij de juiste gerechtelijke of administratieve autoriteiten, als die bescherming tekortschiet. Dit zou frictie kunnen veroorzaken.
'De AI Act regelt op dit moment namelijk geen schadevergoeding bij schendingen van fundamentele rechten. Gezichtsherkenningstechnologieën bijvoorbeeld, vooral wanneer ze op afstand en in realtime in openbare ruimtes worden gebruikt, kunnen de vrijheid van meningsuiting en de vrijheid van vereniging van burgers schenden. Ze kunnen mensen ontmoedigen om vreedzaam te protesteren en hun democratisch recht op protest uit te oefenen. Tegelijkertijd kunnen ze ook worden ingezet om criminelen op te sporen of vermiste personen te vinden' legt Silvia De Conca uit. 'Rechtsmiddelen zoals het indienen van een bezwaar of de toegang tot de rechter zijn nu afhankelijk van nationale wetgeving en die wetten kunnen per Europees land sterk van elkaar verschillen. Dit komt niet overeen met en kan botsen met het doel van het Framework Convention om een uniform en substantieel beschermingsniveau te waarborgen.
Het belang van samenhang in AI-wetgeving
De regulering van AI vraagt om een goed samenspel tussen nationale en internationale regelgeving, vindt De Conca. 'De EU heeft veel ambitieuze wetten om digitale technologie te reguleren, en dat is positief. Maar ze moeten goed op elkaar aansluiten om fouten in de implementatie te voorkomen.'
Ze vergelijkt wetgeving met een levend organisme: 'De wet groeit en verandert mee met de samenleving. Maar als één orgaan niet in harmonie werkt met de rest, lijdt het hele systeem.'
Ethische vraagstukken rondom AI en big data
Naast juridische aspecten brengt AI ook diepgaande ethische dilemma’s met zich mee. Gezichtsherkenningstechnologie kan bijvoorbeeld worden ingezet om criminelen op te sporen of vermiste personen te vinden, maar kan ook de vrijheid van meningsuiting en het recht op protest onder druk zetten. 'Waar ligt de balans tussen veiligheid en burgerrechten?' vraagt De Conca zich af.
Daarnaast spelen er grote ongelijkheden bij de productie en inzet van AI en big data. 'AI vraagt om enorme hoeveelheden hulpbronnen; water, land, mineralen en elektriciteit. Landen in het mondiale Zuiden dragen vaak de lasten van technologieproductie, zoals grondstoffenwinning en de impact op milieu en werknemers, terwijl de voordelen elders worden geplukt,' stelt Silvia De Conca. 'Dit vergroot de bestaande ongelijkheden: de armen worden armer en de rijken worden rijker.'
Pact for the Future
Veilige AI-systemen, ethische vraagstukken en ongelijkheid staan ook hoog op de agenda van de Verenigde Naties (VN). Met het Pact for the Future en de bijlage Digital Global Compact willen de VN de digitale kloof dichten en ontwikkelingslanden ondersteunen bij het implementeren van technologische oplossingen en veilige AI-systemen.
'Het is belangrijk dat de VN zich hiervoor inzet. Zonder hen zou er geen mondiaal platform zijn om deze problemen te bespreken,' benadrukt Silvia. 'Ook al gaat de vooruitgang soms traag, de impact is van onschatbare waarde.'
Samenvattend
Het Kaderverdrag van de Raad van Europa biedt een belangrijke juridische basis om technologische innovatie en mensenrechten in balans te brengen, stelt De Conca. Maar de vraag blijft of bestaande EU-wetten zoals de AI Act voldoende bescherming bieden. Volgens De Conca zijn de komende jaren cruciaal om de juiste koers uit te stippelen en ervoor te zorgen dat AI de samenleving dient, zonder fundamentele rechten in gevaar te brengen.