Vi behöver prata om innehållsmedgivarnas mentala hälsa

Anonim

Selena Scola arbetade som en offentlig innehållsentreprenör eller innehållsredaktör för Facebook i sina Silicon Valley-kontor. Hon lämnade företaget i mars efter mindre än ett år.

I dokument som arkiverades förra veckan i Kalifornien hävdar Scola att osäkra arbetssätt leder henne till att utveckla posttraumatisk stressstörning (PTSD) från att bevittna "tusentals handlingar av extremt och grafiskt våld".


Läs mer: Facebook är allt för samhället, men vilken typ av samhälle bygger den?


Facebook bekräftade arbetet med moderering är inte lätt i ett blogginlägg som publicerades i juli. I samma post skisserade Facebooks vice verkställande direktör Ellen Silver några av de sätt som företaget stöder sina moderatorer:

Alla innehållsrecensenter - om heltidsanställda, entreprenörer eller anställda hos partnerföretag - har tillgång till mentala hälsotillgångar, inklusive utbildad personal på plats för både individ- och grupprådgivning.

Men Scola hävdar att Facebook inte övar vad det predikar. Tidigare rapporter om dess arbetsförhållanden föreslår också att det stöd som de tillhandahåller till moderatorer inte räcker till.

Det är inte första gången

Scolas rättsliga åtgärder är inte det första i sitt slag. Microsoft har varit involverad i ett liknande fall sedan december 2016 med två anställda som arbetade i deras barnsäkerhetsteam.

I båda fallen åberopade kärandena deras arbetsgivare misslyckades med att ge tillräckligt stöd, trots att de kände till de psykologiska farorna i arbetet.

Både Microsoft och Facebook bestrider påståenden.

Hur måttlig påverkan kan påverka din mentala hälsa

Facebook moderatorer siktar igenom hundratals exempel på störande innehåll under varje åtta timmars skift.

De bedömer inlägg inklusive, men inte begränsat till, skildringar av våldsam död - inklusive självmord och mord - självskada, övergrepp, våld mot djur, hattal och sexualiserat våld.

Studier inom områden som barnskydd, journalistik och brottsbekämpning visar upprepade exponeringar mot dessa typer av innehåll har allvarliga konsekvenser. Det inkluderar utvecklingen av PTSD. Arbetare upplever också högre utbränningsgrad, sambandsfördelning och i vissa fall självmord.

Finns det inte riktlinjer för arbetsplatsen?

Branscher som journalistik, lag och polis har investerat en stor del av tankar och pengar i bästa praxispolitik för att skydda arbetstagare.

I Australien, till exempel, de som arbetar med barnsäkerhet väljer in i jobbet i stället för fall som tilldelas. De är då skyldiga att genomföra noggrann psykologisk testning för att bedöma om de kan känna sig emotionellt avdelade arbetet effektivt. När de har arbetat har de regelbundna uppdragsgivning och rutinmässigt omplaceras till andra undersökningsområden för att begränsa exponeringsbeloppet.

Teknikindustrin har liknande riktlinjer. Faktum är att Facebook hjälpte till att skapa Technology Coalition, som syftar till att utrota online sexuellt utnyttjande av barn. År 2015 släppte koalitionen sin anställningsresistensguiden, som beskriver arbetshälsoskyddsåtgärder för arbetare som rutinmässigt tittar på störande material. Medan dessa riktlinjer är upptagna som specifika för arbetstagare som ser barnpornografi, är de också tillämpliga på alla typer av oroande bilder.


Läs mer: Facebooks modereringsregler visar att det är OK att vara en fientlig plats för kvinnor


Riktlinjerna innehåller "obligatorisk grupp- och individuella rådgivningssessioner" med en traumaspecialist och "tillåter moderatorer att välja bort" för att se barnpornografi.

Riktlinjerna rekommenderar också att man begränsar exponeringen för störande material till fyra timmar, uppmuntrar arbetstagare att byta till andra projekt för att få lättnad och tillåta arbetstagare att ta sig tid att återhämta sig från trauma.

Men det handlar inte bara om riktlinjer

Att ha stöd tillgängligt betyder inte nödvändigtvis att personal känner att de faktiskt kan komma åt den. De flesta av Facebook: s moderatorer, inklusive Scola, arbetar i osäkra anställningsvillkor som utomstående entreprenörer anställda genom tredje part företag.

Att arbeta under dessa förhållanden har visat sig ha en skadlig inverkan på arbetstagarnas välbefinnande. Det beror på att dessa anställda inte bara är mindre benägna att få tillgång till stödmekanismer, de känner ofta att det gör att de riskerar att förlora sitt jobb. Dessutom kan låg lön leda till att anställda inte kan ta sig tid att återhämta sig från trauma.

Osäkert arbete kan också påverka sin känsla av kontroll. Som jag har diskuterat tidigare har moderatörer ringa eller ingen kontroll över deras arbetsflöde. De kontrollerar inte vilken typ av innehåll som dyker upp på skärmen. De har begränsad tid att fatta beslut, ofta med lite eller inget sammanhang. Och de har inget personligt uttalande om hur dessa beslut fattas.

Enligt såväl arkivering som medierapporter om Facebooks moderators anställningsförhållanden är anställda under stort tryck från företaget att komma igenom tusentals inlägg per dag. De granskas också regelbundet, vilket bidrar till stressen.

Varifrån härifrån?

Tillräckligt stöd på arbetsplatsen är viktigt för moderatorer. Vissa delar av branschen ger oss bästa exempel på fallet. I synnerhet är stödet till de som arbetar i online-psykosamhällsgrupper, som Beyond Blue i Australien, exemplifierande och ger en bra ritning.


Läs mer: "Haters kommer att hata" är ingen tröst för online-moderatorer


Vi måste också ta itu med den pågående utmaningen om precaritet i en bransch som ber människor att riskera sin mentala hälsa dagligen. Detta kräver god branschstyrning och representation. För detta ändamål har Australian Community Managers nyligen samarbetat med MEAA för att driva på bättre förutsättningar för alla inom branschen, inklusive moderatorer.

När det gäller Facebook är Scolas kostym en klasshandling. Om det lyckas kan Facebook finna sig kompensera hundratals moderatorer som är anställda i Kalifornien under de senaste tre åren. Det kan också ställa in ett branschövergripande prejudikat och öppna dörren för klagomål från tusentals moderatorer anställda inom en rad tekniska och mediebranscher.