appjecalendarcheckchevron-downchevron-leftchevron-rightchevron-upclosedownloaddragfacebookfast-backwardfast-forwardgoogle-plusiconinstagramlinkedinlistlisten-livelogo-nporadio1logo-tour-de-france mailmicrophonepauseperson-man-2person-woman-4phonepinterestplayplaylistplyr-nextplyr-prevquestionquotesearchsharesorter--up-and-down star--open-and-filled star-openstarthumbdownthumbuptwitterwatch-livewhatsappyoutubeplyr-captions-off plyr-captions-on plyr-enter-fullscreen plyr-exit-fullscreen plyr-fast-forward plyr-muted plyr-pause plyr-play plyr-restart plyr-rewind plyr-volume
STER Advertentie

De nachtmerrie die Facebook heet

Pixabay
zaterdag 15 september 2018 | VPRO | Redactie

"Wat goed dat jullie dit doen", dacht Sjarrel nog toen hij na een wat schimmige sollicitatieprocedure in dienst kwam als content moderator bij Facebook in Berlijn. Acht maanden hield hij het vol als cleaner, twee maanden langer dan gemiddeld. Kotsmisselijk was hij van de enorme hoeveelheid beelden van onthoofdingen en kinderporno en de teksten vol haat en racisme die hij dagelijks moest beoordelen voor de social-mediagigant. Psychologische begeleiding: vrijwel niet. Salaris: het Duitse minimumloon (1100 euro netto per maand). In Radio Doc: Facebook, een nachtmerrie van Maartje Duin vertelt hij zondagavond zijn verhaal, een verhaal dat bij de luisteraar aankomt als een mokerslag. 

Facebook, een nachtmerrie

Het werk van Sjarrel voor Facebook bestond uit het beoordelen van Nederlandstalige content, content die naar boven komt via het filtermechanisme van Facebook of door gebruikers van Facebook wordt gerapporteerd. In slechts enkele seconden moest hij als cleaner een oordeel vellen over deze content: negeren, verwijderen, rapporteren aan een meerdere of kwalificeren als content waarbij mensen zichzelf beschadigen of van het leven (dreigen te) beroven. En dat gedurende een werkdag van acht uur waarin zo'n 1700-2000 tickets voorbij kwamen. Zelfs voor wie hier al eerder over las in de Volkskrant, is het verhaal van Sjarrel zeer schokkend.

'Jullie houden Facebook veilig'

Sjarrel hoorde steeds: "Jullie doen goed werk. Belangrijk werk. Jullie houden Facebook veilig." Of dit ook op gaat voor Nederlandse posts, is zeer de vraag, want er zijn maar weinig moderators voor het Nederlandse taalgebied beschikbaar. Sjarrel was in zijn tijd een van de acht Nederlandstalige moderators. Soms stonden er daardoor wel 13.000 tickets in de wacht. Uiteindelijk hielpen alleen drank en pillen hem door de dag heen. "Ik denk dat ik mijzelf op een bepaald punt daar ben verloren."

Je moet compleet omschakelen van een bepaalde menselijkheid naar wat Facebook vindt wat menselijk is

Sjarrel, ex-content moderator bij Facebook

Machine in dienst van Facebook

"Achteraf gezien was ik heel erg bleu, denk ik. Ik zat in mijn eigen onschuldige bubbel. Ik heb de hele tijd mezelf voor de gek gehouden dat je goed werk doet", aldus Sjarrel in Radio Doc. "Aan de ene kant vind ik het waardevol dat ik een heleboel haat kan deleten en blokkeren. Aan de andere kant, je kan niet op je humane initiatief af gaan. Je kan niet zeggen: dit kan echt niet, want je moet het beleid van Facebook volgen. Je moet compleet omschakelen van een bepaalde menselijkheid naar wat Facebook vindt wat menselijk is, want je bent een machine in dienst van Facebook."

Barrières omzeilen met De Fabeltjeskrant

Dat het nog steeds mensen zijn die het werk moeten doen, komt doordat artificiële intelligentie (AI) niet is uitontwikkeld. Computers zijn nog niet in staat om het werk over te nemen. Sjarrel: "Het is nog steeds 90% mensenwerk. Het is een zeer traag zelflerend systeem, AI." Ook worden de mensen die content op Facebook plaatsen steeds sluwer in het omzeilen van de barrières op Facebook. Ze plaatsen onschuldige video’s van De Fabeltjeskrant of SpongeBob, waarin de meest verschrikkelijke beelden zijn verwerkt.

De gewone wereld is niet de wereld

De acht maanden Sjarrel als moderator voor Facebook werkte, hebben hem tot een ander mens gemaakt. "Het is een beetje alsof de gewone wereld, de normale wereld, de wereld niet is. Dan ben ik op vakantie en dan kijk ik naar buiten en dan denk ik: dit is zó nep allemaal. De echte wereld is de wereld van de haat, de wereld van de bedreigingen, de wereld van de porno de wereld van de executies, dat is de echte wereld. Wat daarbuiten gebeurt op een leuk Turks strandje… Jullie moeten weten wat er achter dat leuke strandje gebeurt allemaal, mensen."

Let op: De radiodocumentaire bevat passages die als schokkend kunnen worden ervaren. Uitzending van Facebook is hier terug te luisteren. 

Themamaanden over technologie

In september en oktober besteedt de VPRO in een reeks documentaires aandacht een de groeiende invloed van technologie op ons leven. Op dinsdag 11 september werd de documentaire The Cleaners uitgezonden. Deze kun je terugkijken via NPO Start. Meer informatie vind je op vpro.nl/digidocs

Correctie melden

STER Advertentie
Vorige pagina Back to top
NPO Radio 1