Nieuwe technologie legt Duitse haatberichten bloot

Datum: 22 februari 2018

Inleiding: De Universiteit Antwerpen en de Universiteit Hildesheim ontwikkelen een monitor die Duitstalige haatberichten online kan opsporen nog voor ze verschenen zijn.

Een recente studie van de universiteit van Warwick toont een sterk verband tussen Duitse haatberichten op sociale media en fysiek geweld tegen vluchtelingen in Duitsland. De Europese Unie legt het vuur aan de schenen van grote technologiebedrijven (Twitter, Facebook, Google) om de stortvloed aan haatberichten in te perken. Een nieuwe wet in Duitsland dwingt sociale media nu bijvoorbeeld om haatdragende berichten binnen de 24 uur te verwijderen. Met opmerkelijke gevolgen: zo werd een bekende AfD-politica tijdelijk van Twitter geweerd. Nieuwe technologie, ontwikkeld door de universiteiten van Antwerpen en Hildesheim, herkent voortaan Duitstalige haatberichten nog voor ze verschenen zijn.

Twitter heeft al honderdduizenden accounts geblokkeerd die haat en geweld prediken, maar meestal Engelstalige gebruikers. Nederlandstalige, Franstalige en Duitse gebruikers glippen door de mazen van het net. De uitdaging is dan ook erg groot. Elke dag verschijnen er meer dan 500 miljoen nieuwe tweets. Stel je voor dat Twitter tienduizend nieuwe personeelsleden aanwerft om die berichten te lezen. Elke medewerker zou dan elke dag 50 000 berichten moeten lezen, of 1 à 2 per seconde. Zonder lunchpauze.

Sneller dan ze verschijnen
Taaltechnoloog Tom De Smedt van de onderzoeksgroep Computertaalkunde van de Universiteit Antwerpen en mediawetenschapper Sylvia Jaki van de onderzoeksgroep Gespecialiseerde Communicatie van de Universiteit Hildesheim volgden een jaar lang de Duitse politieke debatten op Twitter. Met behulp van technieken uit de Artificiële Intelligentie (AI) hebben ze een computerprogramma ontwikkeld dat automatisch zorgwekkende berichten in de Duitse taal herkent, sneller dan ze verschijnen.

Het computerprogramma maakt deel uit van een studie die de twee taalkundigen voeren naar het politieke debat omtrent de recente verkiezingen in Duitsland in 2017. Ze willen voornamelijk weten hoe politici zich verbaal en non-verbaal uitdrukken, op televisie en op sociale media, en de impact daarvan op de publieke opinie. Onderzoekster Sylvia Jaki legt uit: “Om een beeld te krijgen van haatspraak kijken we niet alleen naar wie wat zegt, maar ook naar wat hun lichaamstaal ons vertelt, naar wat kiezers schrijven, welke beelden ze daarbij gebruiken, en welke smileys.”

De Antwerpse onderzoeksgroep CLiPS heeft ervaring met haatberichten. Ze ontwikkelden al een computerprogramma dat automatisch berichten van IS-aanhangers herkent. Tom De Smedt legt uit: “Onze software leert patronen in tekst herkennen en past zich voortdurend aan. In ons lab zien we dat zo’n systemen 8 op 10 keer gelijk hebben. Wij zien mogelijkheden om samen te werken met de Duitse politie en inlichtingendiensten. Maar we moeten ook voorzichtig zijn hoe we als maatschappij omgaan met zo’n AI. De Europese Unie heeft geen wettelijk kader van wat haatspraak nu eigenlijk is.”

Het algoritme legt een negatief buikgevoel bloot in Duitse haatberichten, over Afrikaanse vluchtelingen (Afrikanen, Zuiderse types, de negers), Duitse moslims (Arabieren, Syriërs, Salafisten, terroristen), Joodse Duitsers (de joden), zowat alle niet-blanke mannen (Polen en Hongaren, figuren die slecht Duits spreken, verdachte snuiters en criminelen, daklozen, gutmenschen, linkse extremisten, vrouwen), opruiende taal (vechten, schieten, overvallen, aanvallen, weerstand bieden) en vloeken (kloteland).

Cartoon
Voorbeeld Duitse haatcartoon  



Link: https://www.uantwerpen.be/en/research-groups/clips/