Bart Custers: 'AI kan vonnissen voorspellen, maar pas wel op voor Kafka'

Wat rechters kunnen, kan een kunstmatig intelligent systeem in principe ook. Zo'n systeem kan een objectief voorstel doen voor een vonnis. Een rechter moet dat voorstel wel altijd checken, vindt Bart Custers.

Volgens Custers, zowel jurist als technisch natuurkundige, duurt het nog even voordat AI de rechtszaal betreedt. 'In de VS voorspellen zulke tools al wel of het rendabel is om een advocaat in de arm te nemen. Bij een tegenvallende eBay-aankoop van honderd dollar is procederen sowieso niet de moeite, maar kan AI snel en goedkoop vonnissen.'

AI-systemen helpen junior-advocaten

In Nederland helpen AI-systemen junior-advocaten die bij advocatenkantoren het uitzoekwerk doen: zij hoeven niet meer zelf alle relevante eerdere rechtspraak en wetgeving op te zoeken. Custers: 'Problematisch is nu nog wel dat zulke systemen net zoals Google niet iedereen dezelfde resultaten aanbieden. Ik laat studenten tijdens college soms allemaal hetzelfde googelen en elkaars resultaten bekijken. Dan ontdekken ze dat ze allemaal in hun eigen bubbel leven.'

Vermalen tussen de raderen

Custers richt zich behalve op technische mogelijkheden ook op de regulering van kunstmatige intelligentie. 'Buren op nummer 187 en 187A ontdekten dat de premie voor hun woonverzekering verschilde. De verzekeraar had uit een databank gehaald dat bewoners van A-huisnummers een afwijkend risicoprofiel hebben. Juridisch mag dat. Maar moreel vinden we misschien van niet. Dan moeten we de regels aanpassen, zodat mensen niet vermalen kunnen worden tussen de raderen van de techniek. We willen geen Kafka-samenleving.'

'wie weet wat voor technologie we over dertig jaar op en in ons dragen'

Anderzijds heeft Europa geen grote tech-bedrijven zoals in Silicon Valley en in China, omdat hier strengere privacyregels gelden. Custers: 'De EU wil misschien geen privacy-toestanden zoals met Facebook en Cambridge Analytica, maar nu missen we kansen. Wij zoeken nu een goede middenweg.'

AI van technici, ethici én juristen

De spelregels lopen vaak achter op de technologie. 'Het gaat zo snel, wie weet wat voor technologie we over dertig jaar op en in ons dragen. Daarop moeten we anticiperen. Daarom werk ik eraan dat technici, ethici en juristen met elkaar samenwerken. Dan bereik je privacy by design: vooraf zijn allerlei waarborgen ingebouwd, waardoor je problemen voorkomt. Zo werken we bij eLaw samen met medici en ethici die steeds gedetailleerder onderzoek doen met patiëntgegevens.' Denk vooral niet dat de ethici en juristen daarbij vooral moet opgeheven vinger de boel afremmen: 'Vaak kan er juist meer dan mensen denken.'

Tekst: Rianne Lindhout
Foto: Patricia Nauta