"Software ziet stijging online agressie tegen vluchtelingen"

Datum: 17 oktober 2019

Inleiding: Stichting Auschwitz reikt onderzoeksprijs uit aan taalkundigen van de Universiteit Antwerpen.

Voor hun werk rond het automatisch herkennen van extremisme op sociale media krijgen Tom De Smedt (UAntwerpen) en Sylvia Jaki (Universität Hildesheim) de internationale Beurs voor Onderzoek van de Stichting Auschwitz.

Tom De Smedt is onderzoeker bij de onderzoeksgroep Computerlinguïstiek (CLiPS) van prof. Walter Daelemans aan de Universiteit Antwerpen. Hij richtte mee het taaltechnologiebedrijf Textgain op, een spin-off van de onderzoeksgroep.

Samen met de Duitse taalkundige Sylvia Jaki ontwikkelt hij artificiële intelligentie die extreem taalgebruik ontdekt op online sociale media, zoals Duitstalig neonazisme en Nederlandstalig antisemitisme. Dezelfde technologie werd ook al gebruikt om jihadisme en online pesterijen te ontdekken.

Stijging van agressie
Met hun software zien de onderzoekers een stijging van agressie tegen vluchtelingen en het politieke middenveld, waarbij naziretoriek en complottheorieën hergebruikt worden: “Allemaal vergassen!”, “Vlaanderen ontwaak!”, “Vlamingen, bewapen jezelf!”, “Waarom heeft Francken zoveel omvolkers het land ingelaten? #Kalergi #Eurabia”. 

‘Omvolking’ en ‘Kalergi’ verwijzen naar een complottheorie waar een Joodse elite immigratie in de hand zou werken om de lokale bevolking hun identiteit te ontnemen. Vluchtelingen worden dan beschreven als kudden, ziektes, afval, wat een mentale deur opent naar hun vernietiging.

De Smedt is voorzichtig over het nut en de risico’s van de AI die hij ontwikkelt: “Zulke tools maken mensen misschien alleen maar bozer. Ze versterken het gevoel dat iedereen op een zwarte lijst staat. De vrije meningsuiting moet primeren, iedereen moet kunnen spreken. Maar we moeten wel iets doen aan de propaganda van complottheorieën en dehumanisering.”

agressie vluchtelingen

Geen scheidsrechter
De onderzoekers van Textgain en CLiPS vergelijken sociale media met een speelplaats of speelveld. “Daar mag veel, maar als je je op de speelplaats of op het speelveld misdraagt, dan word je berispt door de leerkracht of de scheidsrechter”, legt De Smedt uit. “Het idee dat we nastreven is dat beleefdheid, respect en onderhandelen onze kinderen leert om productieve en competitieve netwerken in de maatschappij op te zetten. Maar sociale media zijn nog steeds relatief nieuw. Eigenlijk gedragen we ons daar soms als wispelturige kinderen. En anders dan op de speelplaats of op het speelveld zijn er momenteel geen spelregels en geen scheidsrechter.”

CLiPS en Textgain zijn betrokken bij vier nationale en internationale onderzoeksprojecten waar ze zoeken naar oplossingen om de maatschappelijke polarisatie te verzoenen, o.a. in België, Nederland, Duitsland, Italië, Slovenië en Slovakije.

https://textgain.com



Link: https://www.clips.uantwerpen.be