Opinie: Hoe we de stortvloed aan onlinedrek kunnen indammen

Dit opiniestuk werd op 03/08/2016 gepubliceerd in De Morgen.

Racisme

Het is de laatste jaren een wederkerend fenomeen op sociale media: bij kleine en grote tragedies lijken de Facebook-commentaarthreads en Twitter-feeds steeds vaker last te hebben van oprispend maagzuur uit de racistische onderbuik van Vlaanderen. Ik hoef u geen voorbeelden te citeren, laat staan de auteurs van deze van gebroken logica en taalfouten doorspekte werkstukjes te plezieren met meer tijd in de schijnwerpers.

Zelfs de commentaren op het artikel óver de onthutsende commentaren op het jammerlijke overlijden van de jonge Ramzi Mohammad stonden bol van haatdragende taal. Volgt u nog? Dit isInception, maar met racistische uitlatingen in plaats van Leonardo Dicaprio in de hoofdrol.

Het fenomeen is uiteraard niet nieuw. Vroeger, in het pre-Web 2.0-allemaal-interactief tijdperk, toen elke krantenwebsite nog enkel zijn eigen commentaartuintje had, lieten mensen onder een al dan niet spitsvondig pseudoniem (ik zie je wel, Adolf69) ook al meningen van bedenkelijk allooi achter. Toen moest je echter een aparte account registreren en bevestigen, en dit voor elke site. Best veel werk voor het gemiddelde heethoofd.

Dankzij de nieuwe sociale media is de drempel om commentaar te geven uiteraard verlaagd, maar is het des te meer hallucinant hoe ik na het lezen van “Allemaal terug den boot op en laten ontploffen” (letterlijk citaat, 87 likes) gewoon op een naam kan doorklikken en me kan baden in de warme gloed van het privéleven van de auteur in kwestie. Roger houdt van tuinieren. Roger houdt van zijn kleinkinderen. Roger houdt niet van mensen met een kleurtje.

De toename van deze commentaren is ook toe te schrijven aan andere factoren. Er is power in numbers: als de reacties op een nieuwsfeit langzaam verglijden richting vage haatpraat voelt het “aanvaardbaarder” om nog een reactie in hetzelfde stramien toe te voegen. Ook is er het pingpongeffect: dankzij notificaties komt elke discussie waarin iemand op jou gereageerd heeft terug op het voorpodium, met een eeuwige waterval van replies tot gevolg. De drang om het laatste woord te hebben is immers groot, en nergens zo futiel als op het internet.

Horen deze commentaren thuis op sociale media? De Terms of Service (ToS) van diensten zoals Facebook en Twitter – waar u akkoord mee tekent bij het aanmaken van een account – zijn formeel en duidelijk: content die mensen aanvalt op basis van ras, religie of etniciteit zal worden verwijderd. Klaar dan, denkt u. Opsporen en zo snel mogelijk verwijderen, die handel. Computers rijden met auto’s tegenwoordig, hoe moeilijk kan het zijn?

Als computerwetenschapper moet ik u hier teleur stellen. Immense rekenkracht ten spijt zijn bepaalde ogenschijnlijk triviale taken voor computers nog steeds moeilijk. Er worden dagelijks grote stappen gezet op het vlak van beeld- en tekstanalyse, maar die geven nog steeds te veel ‘false positives’ om ongemodereerd los te laten op een live systeem zoals Facebook. Goede voorbeelden zijn humor, sarcasme en beeldspraak. U weet dat het in “een bom onder de Belgische politiek” een spreekwoordelijk springtuig betreft, maar voor een algoritme is dit niet meteen duidelijk. Daarom dat een volledig geautomatiseerd systeem momenteel niet wenselijk is: er is geen 100 procent garantie dat énkel ongewenste commentaren worden weggefilterd.

Facebook modereert commentaren via een systeem van rapportage door gebruikers. Medewerkers in een support center worden bedolven onder een stortvloed van rapporten en moeten oordelen of de inhoud in kwestie indruist tegen de gebruikersvoorwaarden. Vaak zijn deze support centers echter gelokaliseerd in lageloonlanden, waar mensen de taal en bijhorende nuances van de originele inhoud niet machtig zijn. Hoe kan iemand met behulp van Google Translate een waardevol oordeel vellen? Moeilijk tot niet, zoals we vaak moeten vaststellen. U herinnert zich Roger en de boot, enkele paragrafen terug? “Druist niet in tegen onze community-standaarden”. En zelfs als het oordeel valt en de inhoud in kwestie effectief verwijderd wordt, is de schade reeds lang aangericht.

Onlineredacties zouden zélf de commentaarthreads op hun socialemedia-output beter moeten opvolgen en modereren. Verder is het mogelijk interessant om te kijken naar een systeem waarbij online commentatoren een soort “rating” krijgen – een score die reflecteert hoe respectvol ze omgaan met de regels van het netwerk. Een goed voorbeeld zijn de forums op Stack Overflow, waar je in een oogopslag kan zien hoe vaak een gebruiker goede bijdragen heeft geleverd tot een discussie. Op basis van deze betrouwbaarheidsscore kan een commentaar dan in een wachtrij geplaatst of geweigerd worden.

“Censuur van het linkse Facebook!”, wordt er in sommige kringen geroepen. Het argument kan echter volledig uitgebeend worden tot het volgende: sociale media zijn een gemeenschappelijk medium, waaraan bepaalde regels verbonden zijn, waar je als gebruiker mee akkoord gaat bij het aanmaken van je account. Indien je je op het recht van vrije meningsuiting wil beroepen om hatelijke boodschappen te verspreiden op deze dienst kunnen deze bedrijven je de dienst ontzeggen. Ik kan je – hoe bespottelijk en beschamend ik deze uitlatingen ook vind – niet tegenhouden om deze op een ander forum te plaatsen die deze wel tolereert, of in eigen beheer op het internet te zetten.

Het is belangrijk om na te denken hoe we als samenleving online op een respectvolle manier kunnen communiceren, ook als de meningen verschillen. Geautomatiseerde aanpak van online haatpraat heeft nog een lange weg te gaan, en ook moderatie met menselijke tussenkomt is imperfect, al kan er hier véél actiever ingegrepen worden. Op korte termijn is de oplossing waarschijnlijk een hybride vorm van beide technieken om de stortvloed aan drek tegen te gaan.

Zoals steeds komen we echter uiteindelijk bij de barrière waar al onze algoritmes en technologie machteloos staan: de échte verandering zal moeten gebeuren in de harten en geesten van de samenleving.

Leave a Reply