Nieuwe razendsnelle manier om nepnieuws op te sporen
Met de komst van socialemediakanalen als Twitter, Facebook en Instagram is het makkelijker dan ooit om informatie met elkaar te delen. Ook desinformatie. Tijdens zijn promotie ontwikkelde informaticus Xueqin Chen een nieuwe manier om nepnieuws te herkennen en te voorspellen hoe berichten zich binnen online sociale netwerken verspreiden met behulp van kunstmatige intelligentie (AI). Chen promoveerde op 25 oktober.
Het wordt steeds lastiger om nieuws en nepnieuws van elkaar te onderscheiden. Chen slaagde erin om een techniek te ontwikkelen die nepnieuws sneller en beter kan detecteren dan voorheen mogelijk was. ‘Onze nieuwe techniek maakt geen gebruik van afbeeldingen of teksten om het verschil tussen nieuws en nepnieuws op te sporen. Met behulp van deep-learning-technieken kijken wij puur naar de manier waarop berichten zich verspreiden binnen een online sociaal netwerk, zoals Twitter.’
Hoe werkt dat? ‘Vaak is nepnieuws sensationeel. Daardoor is het verspreidingspatroon anders dan bij echt nieuws. Zo wordt nepnieuws bijvoorbeeld sneller gedeeld en bereikt het eerder een breder publiek’, legt hoogleraar informatica Marcello Bonsangue van het Leiden Institute of Advanced Computer Science (LIACS) uit. Hij begeleidde Chen tijdens zijn promotie. ‘Chen heeft nu voor het eerst laten zien dat het mogelijk is om kenmerken van verspreidingspatronen in te zetten om snel en accuraat nepnieuws te herkennen en te voorspellen of een bericht viraal gaat, zonder naar de inhoud van een bericht te kijken. Dat is uniek.’
Een nieuw algoritme
Het snel opsporen van desinformatie is belangrijker dan ooit, stelt Bonsangue. ‘Het zou fantastisch zijn als we uiteindelijk de verspreiding van nepnieuws kunnen verminderen door systemen te ontwikkelen die de valse berichten er automatisch uit filteren,' vult Chen aan. Dat houdt in dat als een bericht als nep wordt herkend, het niet meer als suggestie voorbij komt op je scherm. Chen: ‘Onbewust hebben we allemaal, elke dag met automatische suggesties te maken. Denk bijvoorbeeld aan de lijst met voorgestelde nummers op Spotify of Google-advertenties. Dat maakt dit onderzoek zo leuk.’
Eindeloze toepassingen
De deep-learning-techniek die Chen ontwikkelde, is tot nu toe alleen nog gebruikt voor het analyseren van informatieverspreiding binnen online sociale netwerken. Chen: ‘Op dit moment staat mijn onderzoek nog in de kinderschoenen, maar de mogelijkheden zijn eindeloos.’ Zo is Chen inmiddels naar Delft verhuisd om daar, als postdoc, de basis van dit slimme staaltje AI ook toe te passen voor het beheer van watersystemen in Nederland. ‘We zouden er bijvoorbeeld eventuele overstromingen mee kunnen voorspellen,' zegt Chen trots.
'De verspreiding van nepnieuws is anders dan bij echt nieuws'
Ook Bonsangue ziet veel potentie, met name in de medische wereld. Maar: ‘We zijn er nog niet. De volgende stap is het achterhalen waar AI-programma’s hun keuzes precies op baseren. Want we hebben nu aangetoond dat het werkt, maar de automatische uitleg van de programma’s zelf ontbreekt nog.’ Volgens de hoogleraar is dit een van de grootste uitdagingen van AI-technieken op dit moment. ‘Zolang we niet precies kunnen uitleggen wat er gebeurt, is het lastig voor mensen om op de keuzes van AI te vertrouwen.’
Tekst: Nathalie Winkster