Anne Meuwese over de ophanden zijnde wetgeving rond AI vanuit de Europese Unie
Deze wet – ook wel AI Act genaamd - moet ervoor zorgen dat AI-systemen die in de EU worden verkocht en gebruikt, veilig zijn en in overeenstemming met de bestaande wetgeving inzake grondrechten en de waarden van de Unie. AI oogst zijn feitenmateriaal op internet, maar lijkt in sommige gevallen misleidend. Dit vormt voor de Europese Unie voldoende reden om regels op te leggen, zodat de Europese burger beschermd wordt tegen de gevaren van de slimme software.
Europa wil graag de norm stellen
De Europese Unie loopt inmiddels wereldwijd voorop met de ontwikkeling van regelgeving, ziet hoogleraar bestuursrecht en artificiële intelligentie Anne Meuwese van de Universiteit Leiden. 'Of je laat Big Tech het speelveld bepalen, of je neemt zelf het initiatief. Europa wil graag de norm stellen. De Europese regels worden dan hopelijk ook door andere landen gevolgd.'
De Europese Commissie heeft daarvoor een 'heel reguliere gereedschapskist' tevoorschijn gehaald, aldus Meuwese 'Er is al Europese regulering van de interne markt en productveiligheid, met een vrij brede bevoegdheid van de wetgever. Men heeft besloten dat ook artificiële intelligentie kan worden gezien als een product. Dat zal moeten voldoen aan bepaalde voorwaarden voor ze mag worden aangeboden op de Europese markt, net zoals dat geldt voor auto's en vliegtuigen.' Hoe meer risico een systeem met zich meebrengt, hoe strenger de regulering.
Zo lek als een mandje
Tegelijkertijd blijven veel vragen onbeantwoord. AI-producten worden voortdurend geüpdatet - hoe verhoudt zich dat tot de vereiste toestemming om die producten op de markt te brengen? Is dat steeds een nieuw product, met mogelijk een ander risicoprofiel? Bij substantiële wijzigingen moet je opnieuw goedkeuring aanvragen. 'Maar wanneer is sprake van een substantiële wijziging?', vraagt Meuwese zich af. En wat als een gebruiker zo'n product zelf aanpast? 'Hoe wordt bepaald of je dan opnieuw door een proces van goedkeuring heen moet?' Meuwese is positief over de nieuwe regels, 'maar het systeem is nog zo lek als een mandje'.
Eerbiediging van de mensenrechten
'De Raad kiest voor een totaal andere benadering', zegt hoogleraar Meuwese.'Hij wil bescherming bieden tegen specifieke mensenrechtenschendingen die voortkomen uit het gebruik van AI, zoals discriminatie. Die aanpak legt veel meer verplichtingen bij individuele landen zelf. Zij moeten waken over eerbiediging van de mensenrechten en zullen schendingen daarvan moeten aanpakken.'
Vanuit de burger gezien is dat een slimme aanpak, denkt Meuwese. 'Wat kun je bijvoorbeeld doen als je door je gemeente wordt gediscrimineerd, als gevolg van het gebruik van een AI-systeem? Als dat systeem voldoet aan de Europese eisen is het moeilijk om een beroep te doen op de productgeoriënteerde AI-verordening van de Europese Unie. Een gang naar de bestuursrechter wegens discriminatie ligt dan meer voor de hand. Ik verwacht dat burgers op basis van dat verdrag veel makkelijker hun recht kunnen halen.'