Robots en onze data: kans of gevaar?
Zelfrijdende auto’s, chirurgierobots en beursalgoritmes: het gebruik van robots en artificiële intelligentie (AI) neemt razendsnel toe. Welke kansen biedt deze ontwikkeling, en wat zijn de gevaren? De Honours Class ‘Robot Law: Regulating Robot and AI Technologies’ bereidt studenten voor op de toekomst.
In een zaal van het Kamerlingh Onnes Gebouw nemen studenten plaats in een zogenaamde U-formatie. 'Ik wil dat ze elkaar kunnen aankijken, zodat er ruimte is voor discussie en niemand zich buitengesloten voelt', zegt dr. Eduard Fosch-Villaronga, docent van het vak en onderzoeker aan het eLaw Center for Law and Digital Technologies. Vandaag hebben de honoursstudenten groepspresentaties voorbereid. De hamvraag: voldoen robot- en AI-technologieën aan de Algemene Verordening Gegevensbescherming (AVG)?
Vaag, vertraagd of incompleet
'De AVG werkt goed in theorie, maar niet in praktijk', is de conclusie van de eerste groep, die onderzoek deed naar chatbots, in relatie tot het toegangsrecht. Dit is het recht om te weten welke informatie een bedrijf over jou verzameld heeft, met welk doel, en met wie dit wordt gedeeld. De studenten merkten dat het opvragen van deze informatie een uitdaging kan zijn. Zo kan op de websites van een grote internationale bank en een Nederlandse webshop wel een aanvraag worden ingediend, maar niet via de chatbots.
Wanneer toegang wel wordt verkregen, spelen er andere problemen op, vertellen de groepsgenoten. Informatie komt bijvoorbeeld met vertraging – de webshop gunt zichzelf een maximum van dertig dagen om te reageren – of is incompleet – er wordt niet verteld niet welke data de chatbot heeft verzameld, alleen dat je met hem hebt gesproken. Chatbots die wel volledig transparant zijn, kunnen alsnog de AVG overtreden. Die van een andere webshop verzamelt bijvoorbeeld de meeste data automatisch, in plaats van met toestemming, en is volgens de studenten 'vaag' over het delen van data met derden.
Controle verliezen
Maar het is juist dit delen met derden dat een bedreiging vormt voor het recht om vergeten te worden. Dat zegt een tweede groepje, dat deepfake-technologie onder de loep nam, oftewel het manipuleren van beelden op hyperrealistische wijze. Een berucht voorbeeld van deepfake is de Chinese app Zao. Deze face-swap applicatie claimt het recht om beelden die erop gecreëerd zijn gratis te gebruiken, en om dit recht zonder toestemming door te geven aan derden. Die kunnen vervolgens hun data ook delen met anderen, waardoor het onmogelijk wordt om te achterhalen waar je data gebleven is – laat staan deze te verwijderen. 'Je verliest eigenlijk de controle over je gezicht', zegt een zichtbaar geschokte studente.
Iets teruggeven
Vier presentaties, drie uur en vele AVG-schendingen later, bedankt de docent zijn leerlingen voor hun 'briljante werk'. Moe maar tevreden keren de honoursparticipanten huiswaarts. Fosch-Villaronga hoopt dat ze genoten hebben: 'Dat is waar honours om draait: niet excelleren in toelatingsvoorwaarden, maar het genieten van het leerproces zelf.' Om dat te bereiken gebruikt de academicus veel verschillende lesmethoden, zoals discussies, filmavonden, en een bezoek aan AiTech in Delft: 'We hebben allemaal onze eigen manier van leren en onszelf uitdrukken.'
Fosch-Villaronga is dankbaar dat hij les mag geven: 'Waar ik vandaan kom, waren er geen lessen over gegevensbescherming, robots, of digitale technologieën. Gaandeweg kwam ik echter professoren tegen die hun licht schenen op wat eruitzag als een erg onzekere toekomst.' Nu wil hij iets teruggeven: 'Ik wil toekomstige generaties leren over ontwikkelingen die heel nieuw zijn en invloed hebben op onze levens.'
Tekst: Michiel Knoester
Fotografie: André van Haasteren
Mail de redactie