De usynlige Facebook-moderatorene

De globale sosiale medieplattformenes «rengjøringshjelpere» lever i harde samfunn og under relativt uordnede forhold sammenliknet med dem de rydder opp etter.

Dieter Wieczorek
Wieczorek er kritiker bosatt i Paris.
Email: dieter@gmail.com
Publisert: 01.08.2018
film:

The Cleaners

Hans BlockMoritz Riesewieck

Tyskland

På årets filmfestival i Rotterdam presenterte Hans Block og Moritz Riesewieck sin nye dokumentar The Cleaners. Den begynner med en tørr og forslitt liste med statistikk: På verdensbasis er tre milliarder mennesker knyttet sammen gjennom sosiale medier. Hvert minutt blir 500 timer med video lastet opp på YouTube alene. I samme tidsrom blir 450 000 tweets postet på Twitter, og 2,5 millioner innlegg publisert på Facebook. Facebook-samfunnet har nå anslagsvis to milliarder medlemmer – nærmere en fjerdedel av verdens befolkning. Dets innflytelse som opinionsdanner er blitt større enn noen nasjonalstats.

Bes om å fjerne «uønsket innhold»

The Cleaners tar oss med fra de høyteknologiske, plettfrie arbeidsplassene til selskapets ingeniører og deres dagligliv til forfalne hjem i Manila, hvor de såkalte innholdsmoderatorene, eller Facebooks «rengjøringshjelpere», holder til. Nesten alle blir rekruttert fra gaten uten noen bakgrunn innen politikk, sosiologi eller psykologi, for ikke å nevne innsikt i kunstteori eller ulike uttrykksformer. De er kun hyret inn for å slette. Offisielt har ikke Facebook lov til å ansette innholdskontroll-arbeidere på Filipinene, men lokale utkontrakteringsselskaper gjør dette mulig. Det er disse organene som leverer Facebooks lønnsslipper.

På verdensbasis er tre milliarder mennesker knyttet sammen gjennom sosiale medier.

Filmskaperne har fått intim tilgang til disse rengjøringshjelpenes liv, og følger dem i deres hjem, på fritidsaktiviteter, i kirken, på diskoteker og i spillehaller. Noen løper en stor risiko ved å ta bladet fra munnen – hvilket de gjør, selv om alle har signert konfidensialitetserklæringer med arbeidsgiveren sin. Andre uttalelser kommer fra innsiden i form av anonyme e-poster eller utdrag fra kommunikasjon på nett.

Disse moderatorene forsvarer «prinsippene» de har blitt instruert til å håndheve. Filmskaperne gjør en stor innsats for å fange mentaliteten deres, uten selv å gripe forstyrrende inn. Rengjøringshjelpene synes å betrakte seg selv som ansvarlige for at Facebook-plattformen (og dermed den videre verden) gjennom deres bestrebelser blir sunnere, siden mistenkelig innhold forhindres fra å dukke opp på nettet. Noen av dem hevder at verden simpelthen er sinnssyk, og at deres rolle er å bekjempe ondskap. Det oppstår imidlertid øyeblikk hvor deres personlige oppfatninger fører til feiltolkninger av situasjonen.

Et fragment viser et bilde hvor en soldat forveksles med et IS-medlem. Bildet blir deretter fjernet fra siden. I et tilfelle postulerer en rengjøringshjelp at statlige representanter ikke bør fornærmes på plattformenes sider. En annen sammenlikner seg selv med Filippinenes kontroversielle president Rodrigo Duterte, som har sammenliknet sine utrenskninger i krigen mot narkotika med Holocaust.

Moderatorene blir bedt om å «identifisere terrorisme», og beordres til å slette all kommunikasjon fra en tvilsomt sammensatt liste på 39 terrororganisasjoner. Men ordren begrenser seg ikke til dette; rengjøringshjelperne må også systematisk lære seg disse kommunikasjonene utenat for overvåkningsformål. Teamlederne sjekker moderatorenes sensurarbeid i fattige tre prosent av tilfellene. Hver ansatt behandler rundt 25 000 bilder om dagen.

Konservativ sensurpolitikk

Etter disse mekaniske reglene er det ingen tvil om at Nick Uts Pulitzerpris-vinnende fotografi av vietnamesiske barn (inkludert en naken ni år gammel jente) på flukt fra et napalmangrep umiddelbart ville ha blitt fjernet. På liknende vis ville et bilde av skipbrudne, nakne immigranter aldri blitt tillatt. Enhver allusjon til seksuelt samkvem eller endog nakenhet er forbudt. På denne måten anvender Facebook radikale islamske sensurmønstre. Som Nicole Wong, en tidligere sjef i Google og Twitter bekrefter, «sletter vi ’det vi ikke vil ha i samfunnet vårt’».

Når fører sensur til kommunik-asjonens, demokratiets og i siste instans sivilisasjonens kollaps?

Ett offer for denne sensurpolitikken er den Los Angeles-baserte kunstneren Illma Gore, som lastet opp et bilde av en naken kropp med en liten penis og Donald Trumps hode. Vi lever i et samfunn hvor dette bildet ble delt 15 millioner ganger. Trump selv refererte til bildet i en offentlig debatt like etterpå, hvor han erklærte at det ikke var noe problem med størrelsen på penisen hans. Bare noen få dager senere ble Illma Gores Facebook-side stengt sammen med alle hennes andre kontoer på sosiale medier. Hun ble kort og godt kneblet, uten mulighet til å forsvare sin kunst, og mistet samtidig alle kontaktdetaljene hun trengte for å jobbe, noe som truet levebrødet hennes.

Andre ofre inkluderer NGO-aktivister som Airwars Section, som må lagre bevis på angrep i krig for videre bevisanalyse og krav om ansvarsstillelse. Uten deres arbeid ville aggressorer hatt fritt leide, og enda flere sivile ville blitt drept. Airwars Section forsøker å lagre hva de kan før nettmaterialet deres slettes eller klassifiseres som IS-propaganda av Facebook. Selv YouTube-kontoen deres ble sperret, mens andre kontoer ble suspendert.

I to offentlige høringer i Washington D.C. – den ene foran Senatets juridiske underutvalg for kampen mot krig og terrorisme 31. oktober 2017, den andre foran etterretningskomiteen 1. november, – bekreftet Googles representant uten omsvøp at tusener av ansatte jobber innen selskapets avdeling for innholdskontroll (farvel, privatliv!). Facebook har på den annen side blitt satt under lupen for ikke å gjøre nok for å undertrykke radikal politisk propaganda, samtidig som de gir etter for lokale politiske krefters krav om å slette «irriterende» innhold.

Sensurens gevinster og tap

Facebook selv har sagt at de aldri ønsket å spille denne rollen, men i stedet tilby et essensielt globalt markedsføringsredskap for forbrukere og leverandører. Denne strategien har tvunget selskapet til å gi etter for ulike former for press, for eksempel fra den tyrkiske regjeringen, som forlangte at alt regimekritisk innhold måtte slettes hvis selskapet skulle få tilgang til det tyrkiske markedet. En geolokalisert stengning gjorde deretter regimekritisk innhold utilgjengelig for tyrkiske IP-adresser. På den annen side tillot Facebook publiseringen av hatpropaganda rettet mot rohingyabefolkningen – ifølge FN den mest forfulgte minoriteten i verden – i Myanmar og Bangladesh. I samfunn hvor internett utelukkende brukes for å få tilgang til Facebook, og hvor folk ikke engang har en e-postkonto, blir nettpropaganda tilskrevet stor betydning på grunn av sin evne til å manipulere og fordreie virkeligheten. Propagandaen aksepteres som pålitelig «informasjon», hvilket i ekstreme tilfeller kan føre til folkemord. Tristan Harris, forhenværende designetiker i Google, erindrer at lokale ofre ikke hadde noen som helst mulighet til å rapportere inn eller motarbeide hatvideoer. Det er tvert imot i Facebooks interesse å levere meldinger til det høyest mulige antallet brukere og potensielle kjøpere. Ingenting gir flere delte meldinger enn indignasjon.

Sensur

Facebook leverer meldinger til interessegrupper og beroliger dermed deres medlemmers opphissede sinn. Antonio García Martínez, tidligere produktmanager i Facebook, fastslår at selskapet spiller en aktiv rolle i nedbrytingen av våre kommunikasjonskapasiteter. Hver bruker blir bekreftet gjennom Facebooks forhåndsutvalgte informasjonskriterier. Den opprinnelige regelen var at hver og en hadde rett til å ha sin egen oppfatning. I dag har denne forståelsen blitt utvidet til å inkludere ens egen virkelighet. «Hvis vi oppgir våre verdier, aksepterte regler og anstendige oppførsel, hvis vi oppgir sannhetskravet, kan vi ikke lenger etablere et demokrati.» Tapet av denne kommunikasjonskapasiteten innebærer tapet av hjørnesteinen i ethvert sunt demokrati, tilføyde han.

«Vi sletter ’det vi ikke vil ha i samfunnet vårt’.»
Nicole Wong

The Cleaners stiller et fundamentalt spørsmål: Under hvilke omstendigheter kan sensur av informasjon være legitimt, og når fører den til kommunikasjonens, demokratiets og i siste instans sivilisasjonens kollaps? Og har vi i vår harme over hva som har eller ikke har blitt slettet, neglisjert oppmerksomheten på prosessen hvor dette finner sted – og enda viktigere, på menneskene som står bak og hvis stemmer knapt er hørbare i dagens medier?

Kommentarer