Met bijna 2,2 miljard leden is Facebook het sociale mediaplatform met de meeste gebruikers (gevolgd door YouTube met 1,9 miljard en WhatsApp met 1,5 miljard gebruikers). En als er zo veel mensen met allerlei verschillende achtergronden en meningen in een digitale omgeving bij elkaar komen, worden er regelmatig haatzaaiende opmerkingen (hate speech) geplaatst.

Facebook heeft allerlei middelen ontwikkeld om hate speech te herkennen. Maar, zo blijkt uit een onderzoek van het Britse Channel 4, achter de schermen gaat er nog veel mis. Facebook heeft een heel arsenaal aan algoritmes die berichten scannen op hate speech. Maar zo’n algoritme is maar tot op zekere hoogte effectief: het kan geen emoties of sarcasme herkennen. Daarom spelen menselijke moderatoren een onmisbare rol binnen het bedrijf. Echter, waar mensen werken, worden fouten gemaakt.

„Moderators in opleiding kregen van trainers de opdracht om racistische opmerkingen te negeren.”

Een verslaggever van Channel 4 ging undercover en ontdekte dat Facebook-moderatoren de richtlijnen van het bedrijf aan hun laars lapten. Zo werden gewelddadige afbeeldingen en video’s niet verwijderd, zelfs wanneer gebruikers deze als ‘ongepast’ aanmerkten. Moderators in opleiding kregen van trainers de opdracht om racistische opmerkingen te negeren en om geen actie te ondernemen wanneer kinderen die duidelijk jonger waren dan 13 jaar een profiel aanmaken.

Een mogelijke reden voor dit (wan)beleid werd onthuld door Roger McNamee, een van de eerste investeerders van Facebook. Volgens hem houd je mensen langer op je site door extreme content toe te laten, en dat is dan weer beter voor reclame-inkomsten.

Facebook heeft toegezegd actie te ondernemen naar aanleiding van dit onderzoek. En als resultaten uit het verleden enige garantie bieden voor de toekomst, is dat voor het bedrijf het beste. Wie herinnert zich nog sociaalnetwerksite MySpace? Dat was van 2005 tot 2008 de marktleider op gebied van sociale media, totdat Facebook populairder werd. Er spelen meerdere factoren een rol bij de vraag waarom MySpace gebruikers verloor, maar één ervan is omdat het bedrijf dat eigenaar was van het platform negatief in het nieuws kwam. En negatieve publiciteit, zelfs als die ongegrond is, kan veel schade berokkenen.


Weet meer