Laatste update 14:20
2.636
24

eindredacteur Joop

Francisco van Jole is journalist en eindredacteur van Joop.
Verder is hij politiek commentator bij De Nieuws BV en presentator van Draad, een politieke talkshow in Arminius te Rotterdam.

De digitale hel

Het is onmenselijk zwaar werk. De moderatoren van Facebook lopen het risico op een ptss. Ze raken aan de drank, drugs en een enkeling pleegt suicide

In de documentaire The Cleaners, die nu in de bioscopen draait, zien we het werk van de moderatoren van Facebook. Een leger van anonieme arbeidskrachten, werkzaam over de hele wereld om de timeline van het medium schoon te houden. Dat is gruwelijk werk.

Ik weet niet of de makers het zo bedoeld hebben maar er zit een ijzersterke metafoor in de film. Een Filipijnse moderator vertelt dat ze het werk doet omdat ze vreest anders aan de onderkant van de maatschappij te belanden. We zien ondertussen mensen die scharrelen op een enorme vuilnisbelt op zoek naar bruikbare zaken. Een deprimerend gezicht van radeloos makende armoede. Zo’n leven wil niemand. Tegelijkertijd doet de Facebook-moderator die daar juist aan wilde ontsnappen eigenlijk soortgelijk werk. Ze werkt op de digitale vuilnisbelt die wij niet zien. Ze sorteert dag in dag uit een enorme lading beelden op geschikt en ongeschikt voor Facebook.

Dat gaat om gigantische hoeveelheden. Er wordt het getal van 25.000 beelden per dag genoemd die een enkele medewerker moet beoordelen. Hun werk wordt steekproefsgewijs gecontroleerd. Een moderator mag maximaal drie beoordelingsfouten per maand maken.

Het is onmenselijk zwaar werk. De moderatoren lopen het risico op een ptss. Ze raken aan de drank, drugs en een enkeling pleegt suîcide. In de docu wordt het voorbeeld genoemd van een Facebook-gebruiker die een live-stream opende en zelfmoord ging plegen. Honderden, duizenden andere gebruikers keken live toe hoe de persoon op een stoel plaatsnam en een strop om de nek deed. De moderatoren mochten volgens de regels de stream niet stoppen want er was nog niets gebeurd. Het kon immers nog een grapje zijn, zegt het Facebook-beleid. Totdat de stoel werd weggeschopt.

De documentaire handelt vooral over de Filipijnen en andere verre landen maar de Volkskrant onthulde enkele weken geleden dat dit werk ook in Berlijn gedaan wordt. De medewerkers daar waden eveneens dagelijks door een hausse aan ellende. En Nederland zeggen ze, is de ergste producent van haat. Dat je niet denkt dat dit een ver van m’n bed probleem is.

Bij de politie werken rechercheurs die kindermisbruikers op moeten sporen aan de hand van kinderporno. Ook zij krijgen de gruwelijkste beelden te zien maar ze worden getraind in hoe daar mee om te gaan en psychologisch begeleid om zich te wapenen tegen de gevolgen van het visuele geweld. De Facebook-medewerkers krijgen geen enkele hulp. In Berlijn mogen ze ter afleiding een beetje aan yoga doen.

Facebook, maar ook YouTube en Twitter, houden ons voor dat er een algoritme is dat de time lines beheerd. En dat ze nu eenmaal niet alles kunnen controleren. Misbruik, de verspreiding van haat is collateral damage van de informatiemaatschappij zeggen ze. Zelfs als daar slachtoffers bij vallen. Denk aan kinderporno of onthoofdingsvideo’s, beelden die alleen gemaakt kunnen worden door levens te verwoesten. Beelden die worden gemaakt omdat ze publiek trekken en er geld mee verdiend wordt. Een bekende Nederlandse opiniesite meldde eens trots meer dan een miljoen bezoekers te hebben gehad, in een maand dat ze een IS-exceutievideo plaatsten. Het is niet alleen propaganda, het is ook business.

Tegelijkertijd zie je dat Facebook ineens wel in actie kan komen als hun business in gevaar komt. In Turkije zijn alle politiek onwelgevallige postings voor gebruikers die in de rest van de wereld wel te zien zijn daar onzichtbaar. Dat gebeurt aan de hand van zogeheten geolocation. Het is custom made censuur. Misschien goed om te weten: in het jaar 2000 ontving het Nederlandse bedriijf Realmapping, dat deze techniek ontwikkelde en verkocht, uit handen van toenmalig minister van Economische Zaken Annemarie Jorritsma de Broos Van Erp-prijs voor innovatie ter waarde van 100.000 gulden. Censuur kun je ook exporteren en er geld aan verdienen.

Het is dubbel ziek. Turkije is wereldrecordhouder journalisten gevangenzetten. Dat zijn moedige mensen die risico’s nemen om de waarheid of hun kritiek naar buiten te brengen. Facebook levert juist maatwerk voor het regime om die verhalen buiten de timeline te houden. Voeg daarbij dat Facebook een grote economische bedreiging is voor de journalistiek, het bedrijf slokt alle advertenties op waarmee journalisten betaald krijgen voor hun werk en maakt ze brodeloos. Zonder dat Facebook dat op enige manier compenseert. Integendeel.

Onze oude mythes die richting geven aan het leven komen uit Griekenland, onze nieuwe mythes uit Silicon Valley. Steeds opnieuw worden daar verhalen en visioenen bedacht die ons moeten verleiden mee te gaan in de manier van leven die daar verkocht wordt. Denk aan de Nieuwe Economie, de mythe die ons voorhield dat alles gratis zou worden. Dat bleek eigenlijk vooral voor Facebook en Google te gelden. Zij exploiteren het werk van anderen, bouwen daar imperia mee op zonder er ooit een vergoeding tegenover te stellen. Voor hen is de wereld gratis en ze verdienen er miljarden en miljarden mee.

Denk aan de mythe van de deel-economie met leuzen als sharing is caring, waarmee een bedrijf als Airbnb een stad als Amsterdam bijna ten gronde weet te richten. Weer worden miljarden verdiend aan een maatschappij zonder daar iets tegenover te stellen. 

En dan is er natuurlijk de mythe van de sociale media. Een term die met de dag holler blijkt. Bekijk The Cleaners en je zult je afvragen wat er eigenlijk zo sociaal is aan Facebook.

Het zijn stuk voor stuk concepten die gebaseerd zijn op progressieve ideeën die in zwang raakten in de jaren 70 en 80. Ze zijn opgepikt, aangepast en gecommercialiseerd door hyperkapitalistische bedrijven die er geen progressieve maar een libertarische manier van denken op na houden – kort samengevat: hebzucht is goed en de overheid is slecht – en ons hun producten met mooie pakkende reclamepraatjes aansmeren. Ze beloven betrokkenheid maar met maatschappelijke verantwoordelijkheid willen ze niets te maken hebben. Zoals de tabaksindustrie ons ooit wijsmaakte dat roken gezond is. En ze gebruiken net als de tabaksindustrie uitgekiende methodes om ons verslaafd te maken.

Ze beweren in hun mythische profetieën alle menselijke problemen te kunnen oplossen, ons naar Mars te kunnen brengen, een inkomen zonder arbeid te bezorgen omdat robots al het werk overnemen en zelfs het bijna-eeuwige leven te kunnen geven. Ze werken aan zelfrijdende auto’s en apparaten die je emoties herkennen. En niemand vraagt zich af: als die bedrijven dat allemaal kunnen waarom kunnen ze dan niet een medium maken dat haat automatisch weert? Waarom zijn ze niet in staat op effectieve en bevredigende wijze het probleem op te lossen dat halverwege de jaren negentig ontstond? Waarom kan een provider niet verantwoordelijk gehouden worden voor wat gebruikers doen?

Tijdens het bekijken van The Cleaners moest ik denken aan hoe de politie te werk gaat bij het opsporen van kindermisbruik. Als zij ergens een inval doen, computers in beslag nemen en daar weer tienduizenden kinderpornobeelden op aantreffen, gaan ze die niet allemaal met de hand zitten bekijken. Want het overgrote deel van die beelden worden voortdurend gerecycled. Ze matchen de vangst daarom automatisch tegen een database met bekende beelden zodat ze slechts overhouden wat nieuw is, die beelden onderzoeken en aan de hand daarvan kunnen ze actueel misbruik opsporen.

Waarom doet Facebook dat niet zo? Waarom hebben ze duizenden en duizenden mensen die handmatig aan het werk zijn terwijl je een groot deel ervan ook kunt automatiseren? Stel je voor dat ze het wel zouden doen: een gigantische database aanleggen met alle beelden van gruwelijkheden die niet geschikt zijn om getoond te worden. Dan zou je een digitale versie van de hel hebben, een gigantische verzameling va al het slechte waar mensen toe in staat zijn. Facebook zou dan het voorportaal van de hel zijn, met de woorden van Dante als motto: Gij die hier binnentreedt laat alle hoop varen.

Zo’n database is geen Second Life, geen virtual reality, geen door technofielen bedachte droomwereld die ons verlokt om te ontsnappen aan de sleur van het bestaan. Zo’n database is de hel. Het s geen mythe, het is wat Silicon Valley ons gebracht heeft en misschien zelfs van ons gemaakt heeft maar dat ze listig voor ons verborgen proberen te houden.

Deze tekst is gebaseerd op een inleiding die ik woensdag 23 mei hield bij de vertoning van The Cleaners in LantarenVenster te Rotterdam

Geef een reactie

Laatste reacties (24)