Artificiële Intelligentie en Ethiek bij de Nederlandse Politie
In samenwerking hebben eLaw en het Design for Values Institute van de TU Delft een onderzoeksproject afgerond over “Artificiële Intelligentie en Ethiek bij de Nederlandse Politie”. Hierin zijn een whitepaper over verantwoord gebruik van AI bij de politie en een langetermijn strategie opgeleverd.
Het onderzoeksteam voor dit project, gestart in november 2018 in opdracht van de Nederlandse polite, bestond uit Francien Dechesne (Universitair Docent) en Lexo Zardiashvili (onderzoeker) van eLaw, en Virginia Dignum (Universitair Hoofddocent) en Jordi Bieger (onderzoeker) voor TU Delft Design for Values. Het onderzoeksresultaat onderstreept dat AI veel potentie heeft voor de verbetering van de rechtshandhaving, onder meer door voorspellingstechnieken, geautomatiseerde monitoring, het (voor)bewerken van grote hoeveelheden data (bijv. gegevens van in beslag genomen devices, aangiftes of gedigitaliseerde cold cases), het vinden van relevante informatie bij het onderzoek en vervolgen van rechtszaken, het aanbieden van gebruiksvriendelijker diensten voor burgers (bijv. met interactieve formulieren of chatbots), en in het algemeen het vergroten van de productiviteit en papierloze werkprocessen.
Het onderzoek heeft bevonden dat AI gebruikt kan worden om maatschappelijke kernwaarden te bevorderen die centraal zijn voor het opereren van de politie: menselijke waardigheid, vrijheid, gelijkheid, solidariteit, en de rechtsstaat. Het gebruik van AI kan echter ook een bedreiging vormen voor waarden die zorgvuldig beschermd worden in de bestaande processen en procedures. Het is onmogelijk om alle maatschappelijke effecten van het gebruik van AI te voorzien, en meer in het bijzonder, de effecten in het politiedomein. Het onderzoek laat zien dat het noodzakelijk is dat elk gebruik en toepassing van AI daarom voortdurend wordt geëvalueerd, om te zorgen dat de Nederlandse politiepraktijk de waarden blijft borgen zoals die vastgelegd zijn in de Nederlandse staatsinrichting en door de EU.
In het whitepaper, dat is opgeleverd in maart 2019, hebben de onderzoekers zes moreel relevante vereisten geïdentificeerd voor verantwoord gebruik van AI bij de Nederlandse politie. Deze vereisten zijn:
- Accountability (verantwoording)
- Transparantie;
- Privacy & gegevensbescherming;
- Rechtvaardigheid & inclusiviteit;
- Menselijke autonomy & agency; en
- (Socio-technische) stabiliteit en veiligheid.
In juni 2019 hebben de onderzoekers een langetermijn onderzoeksstrategie voor Ethiek en AI bij de politie opgeleverd, als tweede product van het onderzoek. In dit document hebben de onderzoekers de volgende onderwerpen gedefinieerd als de belangrijkste aandachtsgebieden voor de politie, om enerzijds doeltreffendheid en efficiëntie van de politie te verbeteren, en anderzijds het vertrouwen en betrouwbaarheid te versterken.
- Impact op menselijke waardigheid;
- Impact op openbaar vertrouwen;
- Ethische richtlijnen en toezicht;
- Impact op politie personeel;
- Uitlegbare AI;
- Rechtvaardigbare/controleerbare AI.
De politieorganisatie in Nederland is eraan gecommitteerd om grondrechten te beschermen en respect voor de rechtsstaat te borgen. De politie zou daarom de ethische overwegingen (die voortkomen uit de principes en waarden die in de wet zijn verankerd) moeten implementeren door praktische maatregelen, om verantwoord gebruik van AI te garanderen en daarmee de rechtmatigheid van, en het vertrouwen in de politie, te verstevigen in plaats van te verzwakken.
