Joana Cook en Graig Klein ontvangen Google Trust & Safety onderzoeksbeurs
Dr. Joana Cook en Dr. Graig Klein, universitair docenten aan het Institute of Security and Global Affairs van de Universiteit Leiden, hebben een Google Trust & Safety Research Award ontvangen voor hun project Countering Violent Extremist Content Online: A Multidisciplinary Approach.
Hun onderzoek richt zich op het groeiende probleem van gewelddadig extremistisch materiaal op internet, met name nu nieuwe technologieën zoals generatieve AI worden ingezet om dergelijk materiaal te verspreiden.
Een nieuwe aanpak om extremisme tegen te gaan
Het doel van het project is om innovatieve strategieën te ontwikkelen om het misbruik van online platforms door extremistische groepen aan te pakken. Het bestrijden van extremistisch materiaal is al jaren een prioriteit binnen terrorismebestrijding. Echter ontstaan er nieuwe uitdagingen door de groeiende diversiteit van online extremistisch materiaal, waaronder 'legaal maar schadelijk' inhoud die radicalisering kan uitlokken. Daarnaast worden deze kwesties nog complexer door technologische vooruitgangen, zoals AI-gegenereerde propaganda.
Dr. Joana Cook en Dr. Graig Klein werken samen om van reactief handelen naar preventie te gaan. Hun onderzoek focust zich op manieren om opkomende bedreigingen aan te pakken voordat ze escaleren, met een nadruk op het ontwikkelen van praktische strategieën om radicalisering in een vroeg stadium te stoppen.
Dr. Joana Cook licht toe: ‘Dit onderzoek stelt een baanbrekende aanpak voor. We onderzoeken hoe en wanneer traditionele tactieken voor contentmoderatie kunnen worden gecombineerd met online interventies, zoals omleiden, zoekrangschikking en pre-bunking, om online content te bestrijden en radicaliseringsprocessen te verstoren. We zijn vooral geïnteresseerd in hoe nieuwe technologieën, met name AI, kunnen worden gebruikt om dit fenomeen te faciliteren of tegen te gaan.’
Multidisciplinaire impact
Het onderzoek hanteert een multidisciplinaire aanpak, waarbij expertise uit terrorismeonderzoek, digitale innovatie en beleidsanalyse wordt gecombineerd. Door het onderzoeken en testen van ‘best practices’ voor het modereren en bestrijden van extremistisch materiaal en het misbruik van generatieve AI, wil het project bijdragen aan veiligheidsbeleid en de samenwerking tussen publieke en private sectoren versterken.
De complexe aard van online radicalisering vereist inzichten uit verschillende vakgebieden. Dankzij deze financiering werken de onderzoekers aan het aanpakken van deze uitdagingen en het ontwikkelen van strategieën die effectief en toekomstgericht zijn.
Dr. Graig Klein voegt toe: ‘Een onderdeel van het project zal een reeks enquête-experimenten ontwikkelen om de effectiviteit en doeltreffendheid van verschillende tools gebaseerd op technologie te onderzoeken. Hiermee willen we best practices en evaluatiemethoden voor interventie en mitigatie ontwikkelen.’
Improving online safety
De Google Trust & Safety Research Award ondersteunt onderzoeken die bijdragen aan het verbeteren van de wereldwijde online veiligheid. De resultaten van dit project zullen naar verwachting een breed scala aan stakeholders, waaronder beleidsmakers, bedrijven en professionals, helpen door bij te dragen aan effectievere strategieën en beleidsoplossingen voor online veiligheid.
Dit initiatief sluit aan bij de inzet van de onderzoekers om hedendaagse veiligheidsuitdagingen aan te pakken via grondig, multidisciplinair onderzoek.
Meer informatie over de Google Trust & Safety Research Award