AI is nu een witte heteroman en dat is een groot probleem
Annie Romein-Verschoorlezing beeld: Afbeelding is gegenereerd met behulp van AI
Artificiële Intelligentie (AI) is een technologie die vaak vrouwen en minderheidsgroepen benadeelt, omdat ze vooral ontwikkeld wordt door witte heteromannen. Maar wat als dat zou veranderen en vrouwen de drijvende kracht achter AI zouden zijn? Met dat gedachte-experiment geeft Maaike Harbers op 7 maart haar Annie Romein-Verschoorlezing.
Misstanden
De toeslagenaffaire, anti-spieksoftware die slecht werkt bij mensen met een donkere huidskleur en gekwalificeerde vrouwen die niet door een AI-sollicitatieprocedure bij Amazon kwamen. Harbers, lector Artificial Intelligence & Society aan de Hogeschool Rotterdam, noemt zo een aantal voorbeelden van hoe het ongecontroleerde gebruik van AI tot grove misstanden leidde.
Gek is dat niet, want technologie is een afspiegeling van onze samenleving die ongelijk is, zo vertelt Harbers. ‘Kijk bijvoorbeeld naar de gezondheidszorg, daarin wordt steeds meer AI gebruikt om voorspellingen te doen over iemands gezondheid. Die AI wordt gevoed met onderzoeksdata en historisch gezien is er veel meer onderzoek gedaan naar de gezondheid van mannen. Deze technologie werkt dus minder goed voor vrouwen.’
Ethiek en wereldbeeld
De data waarvan AI gebruikmaakt zijn dus niet neutraal en daarmee is AI dat ook niet. Een bijkomend probleem is dat AI vooral gemaakt wordt door een homogene groep. ‘Ontwikkelaars bij grote techbedrijven zijn over het algemeen man, wit en hetero. Hun keuzes bepalen hoe algoritmes eruit komen te zien. Zij leggen hun ethiek en wereldbeeld vast in code en daarmee in de AI die door miljoenen mensen gebruikt wordt.’ Als voorbeeld noemt Harbers ‘de professor’. Vraag ChatGPT om een afbeelding van een professor en het programma genereert vrijwel zeker een plaatje van een witte man. ‘Daarmee worden de stereotypen die bestaan in onze samenleving versterkt.’
'Uit mijn eigen onderzoek blijkt bijvoorbeeld dat vrouwen zich meer inzetten voor ethische kwesties, zoals desinformatie, schending van privacy en vooringenomenheid in data' - Maaike Harbers
Maar wat als vrouwen het vakgebied van AI zouden domineren, zouden AI-toepassingen er dan anders uitzien? ‘Ja’, zegt ze met overtuiging. ‘Uit mijn eigen onderzoek blijkt bijvoorbeeld dat vrouwen zich meer inzetten voor ethische kwesties, zoals desinformatie, schending van privacy en vooringenomenheid in data. Vrouwen en minderheden die zich binnen techbedrijven inzetten voor ethische kwesties worden vaak als partypoopers gezien. Ze zouden een rem zetten op de ontwikkeling van de technologie ‘Terwijl ze het al lastig zat hebben binnen die door mannen gedomineerde bedrijven.’
Amerika en de macht van big tech
Over de macht van big tech, zeker die in Amerika, maakt Harbers zich grote zorgen. Miljarden mensen zijn afhankelijk van de software die die bedrijven ontwikkelen, terwijl ze nauwelijks gereguleerd worden. De verkiezingswinst van Trump heeft er ook nog eens voor gezorgd dat het alfamannengedrag binnen de bedrijven is toegenomen. Meta-voorman Mark Zuckerberg verwoordde het als volgt: ‘We need more masculine energy’, oftewel meer mannelijke energie is gewenst. ‘De tech-omgeving wordt daardoor nog onaantrekkelijker voor vrouwen en minderheden, waardoor de groep die overblijft nog homogener wordt.’
Internationale Vrouwendag hard nodig
Harbers vindt het een grote eer dat ze de Annie Romein-Verschoorlezing mag geven, die ieder jaar gehouden wordt rond Internationale Vrouwendag. ‘Vrouwen krijgen nog steeds niet dezelfde kansen als mannen in deze wereld en we worden anders beoordeeld.’ Zo gebeurde het dat ze na een presentatie op een congres aangesproken werd op haar ‘leuke lach’, in plaats van op de inhoud van haar verhaal. ‘Vrouwen blijven op veel vlakken de tweede sekse.’
Meer diversiteit binnen AI
Naast een grote eer voelt Harbers ook een grote verantwoordelijkheid om te laten zien hoeveel invloed een homogene en groep van makers heeft op de ontwikkeling van AI en daarmee op de samenleving. ‘In mijn lezing vraag ik me af wat er zou gebeuren als vrouwen de overhand zouden hebben in de ontwikkeling van AI. Dat is geen doel op zich, meer diversiteit binnen de wereld van AI is dat wel.’ Volgens haar is het daarom belangrijk om in te zien dat de huidige dominante AI-systemen slechts vormen van AI zijn.
‘Het is aan ons om te verzinnen hoe AI anders en ethischer kan’, sluit Harbers met een hoopvolle boodschap af. ‘Mijn studenten vinden het niet meer dan normaal dat responsible tech onderdeel is van hun AI-studie. Niet iedereen vindt het even interessant, maar iedereen begrijpt wél dat het belangrijk is en dat is dikke winst.’
Annie Romein-Verschoorlezing 2025
Maaike Harbers geeft haar Annie Romein-Verschoorlezing Bètavrouwen en alfamannen: over de rol van gender in AI op vrijdag 7 maart. Meld je hier aan om de lezing bij te wonen.