Onderzoeksproject
Het tegengaan van online gewelddadige extremistische inhoud: een multidisciplinaire benadering
Hoe en wanneer moeten traditionele tactieken voor contentmoderatie worden geïntegreerd met online interventies?
- Looptijd
- 2025 - 2026
- Contact
- Graig Klein
- Financiering
- Google Trust & Safety Research Award
Het tegengaan van gewelddadige extremistische inhoud is geen nieuwe uitdaging voor contra-terrorisme (CT) professionals, maar de omvang en diversiteit van online extremistische inhoud, waaronder 'legaal maar verontrustend' materiaal dat iemand op het pad naar radicalisering kan brengen, en technologische ontwikkelingen zoals door AI gegenereerde inhoud, creëren nieuwe uitdagingen. Deze problemen vereisen nieuw onderzoek dat direct kan bijdragen aan online veiligheidsbeleid, processen en procedures om de online veiligheid te verbeteren en publiek-private partnerschappen te versterken.
Ons project richt zich op het tegengaan van online inhoud, in het bijzonder de uitbuiting van AI, en gaat in op een buitengewoon belangrijk maar uitdagend thema – het ingrijpen tijdens het radicaliseringsproces van individuen. We stellen een vooruitstrevende benadering voor om best practices te onderzoeken, te ontwikkelen en te testen die gericht zijn op het modereren van extremistische online inhoud en het tegengaan van het misbruik van AI en generatieve AI. Door dit te doen, pakken we een fundamentele kritiek op terrorismestudies aan – namelijk dat het reactief van aard is, met retrospectieve analyses en reacties op nieuwe actoren, gebeurtenissen en trends, in plaats van deze te anticiperen. Onze aanpak komt ten goede aan academisch onderzoek, beleidsmakers en professionals, de industrie en wetgevers.
Bewijs genereren door samenwerking
We onderzoeken de mogelijkheden van verschillende processen, interventies en hun effectiviteit tijdens een gerichte workshop, waarin we denkers, beleidsmakers en leiders uit de industrie samenbrengen. De inzichten uit deze discussies worden vervolgens omgezet in een reeks enquête-experimenten om data-gedreven bewijs en meetbare resultaten te genereren.