Denník The Guardian zverejnil sériu textov s názvom Facebook Files, ktoré obsahujú časti zo stovky manuálov a ďalších materiálov pre posudzovanie obsahu na Facebooku. Sociálna sieť zamestnáva okolo 4 500 administrátorov a nedávno oznámila plán, že chce prijať ďalších tritisíc. Väčšina z nich nie sú priamo zamestnancami Facebooku, ale pracujú pre svojho dodávateľa po celom svete.

Moderátori podľa denníka prechádzajú dvojtýždňovým výcvikom a dostanú podrobné manuály, ktoré ich usmerňujú, ako postupovať. Podľa nich posúdia citlivý obsah, ktorý sa týka nenávisti, pornografie, rasizmu alebo násilia. Facebook okrem toho používa aj automatický systém, ktorý odhaľuje pokusy publikovať na sieti napríklad detskú pornografiu alebo prejavy nenávisti. Systém je zatiaľ len v počiatočnej fáze.

Pravidlá sú veľmi komplikované a často pôsobia protichodne a zmätočne. Facebook v reakcii uviedol, že jeho prioritou je bezpečnosť používateľov. „Snažíme sa, aby Facebook ostal čo najbezpečnejší, a zároveň chceme zabezpečiť slobodu prejavu. Vyžaduje to dosť premýšľania o podrobných a často ťažkých otázkach a snažíme sa to robiť správne,“ povedala šéfka manažmentu globálnych postupov firmy Monica Bickertová.

Psychicky náročná práca

Zdroj, ktorý denníku dokumenty poskytol, povedal, že Facebook rastie príliš rýchlo a „nedokáže udržať obsah pod kontrolou“. Každý týždeň napríklad Facebook dostáva približne 6,4 milióna hlásení o falošných účtoch. Pretlak hlásení spôsobuje, že administrátori nestíhajú posudzovať hlásenia a rozhodnutia sú niekedy nekonzistentné a chybné.

Už vlani portál Süddeutsche Zeitung odhalil, že priemerne musí administrátor vyšetriť približne dve tisícky postov denne. To znamená, že na posúdenie, či napríklad video zmaže alebo ponechá, má asi osem sekúnd. Jeden zo zamestnancov novinárom z nemeckého denníka povedal, že ide o psychicky náročnú prácu. „Videl som veci, ktoré vážne spochybnili moju vieru v ľudstvo,“ povedal.

Denník The Guardian v článkoch odhalil niekoľko prípadov z manuálov:

1. Všeobecné versus konkrétne

Komentár typu „Zastreľte niekto Trumpa (Pozn. red.: americký prezident Donald Trump)“ by mal byť zo sociálnej siete vymazaný, pretože prezident je chránený zákonom. Lenže napríklad vyhrážky „zaduste tú k.... a uistite sa, že jej stlačíte krk v strede“, prípadne „odpáľ a zomri“ už k tejto kategórie nepatrí.

Rovnako, ak niekto napíše, „zasra.. moslimovia“. Takýto status je vymazaný, pretože náboženstvo patrí medzi kategóriu, na ktorú sa vzťahuje ochrana Facebooku. To neplatí, ak používateľ napíše „zasra.. utečenci“. Na nich sa ochrana nevzťahuje. To isté platí napríklad pre statusy typu „poďme skopať niekoho s červenými vlasmi“ alebo „zbime tučné decká“. Povolené sú napríklad aj statusy „Dúfam, že ťa niekto zabije“, ale nie sú povolené napríklad statusy typu „Nenávidím ľudí zo zahraničia a chcem ich všetkých zabiť“.

Vo vyhrážkach je dôležitá nielen konkretizácia ale aj čas: dnes, zajtra, o týždeň. Je ignorovaný časový rámec ako napríklad „keď peklo zmrzne“, „keď budú svine padať z neba“. V manuále sú často ale mätúce výroky, ktoré niekedy Facebook povoľuje a niektoré nie. Tak napríklad: „Zabijem ťa, John. Mám na to perfektný nôž“ je výrok, ktorý Facebook nezmaže, ale výrok „Zabijem ťa, John“ už maže.

V jednom z dokumentov sa píše, že „ľudia používajú násilný jazyk, aby online vyjadrili svoju svoju frustráciu“. „Cítia, že sa im to nevráti, a nie sú empatickí v online komunikácií, ktorá nie je ako rozhovor z očí do očí.“

Facebook tvrdí, že násilný a vulgárny jazyk nie je pre administrátorov dôveryhodný, pretože ide najčastejšie len o vyjadrenie emócií a je násilným prejavom nechutenstva a frustrácie. Ak ale Facebook v komentároch spozoruje konkretizáciu osoby, času a spôsobu, takýto status vymaže. Inými slovami to znamená, že Facebook v drvivej väčšine považuje vyhrážky na Facebooku len za prejav opovrhovania, ktorý nevedie k činom.  

2. Videá a fotografie

Facebook má jasné pravidlá, ktoré sa týkajú vizuálnych prvkov: fotografie a videá. Sociálna sieť netoleruje grafické prvky, ktoré obsahujú prvky násilia, sexuálneho zneužívania detí či zneužívanie a týranie zvierat. Lenže niekedy stačí, aby bolo video jeho tvorcom označené ako „obsah nie je vhodný pre citlivé povahy“ a Facebook ho nemusí zmazať. Dôvod? Facebook tvrdí, že niektoré zábery môžu byť dôkazom. Spoločnosť Facebook potvrdila, že existujú „niektoré situácie, kedy umožňujeme obrázky bez sexuálneho zneužívania dieťaťa s cieľom pomôcť dieťaťu“.

Niektoré citlivé videá sa mažú len až vtedy, ak osoba, ktoré také video zverejní napíše komentár, v ktorom chváli sadizmus vo videu. Napríklad „Milujem to, ako bola zranená“, prípadne „Ten pes sa mi zdá smutný a zničený. Páči sa mi to“. Ak používateľ nenapíše komentár, niekedy to Facebook považuje za právo k informáciám.

Rovnako sú napríklad povolené videá potratov, ak na nich nie je zobrazená nahota. Umenie, ktoré bolo namaľované či vymodelové a zobrazuje nahotu a sex je na Facebooku povolené, ale táto výnimka sa už nevzťahuje na diela vytvorené digitálne.

3. Samovraždy

Čo je zaujímavé, tak Facebook umožňuje ľuďom naživo (live) vysielať aj pokusy o sebapoškodzovanie, pretože nechce cenzurovať alebo trestať ľudí, ktorí trpia úzkosťami a duševnými problémami. Zábery budú zo siete odstránené až vtedy, ak „už nebude možné (takej) osobe pomôcť“.

Táto téma je mimoriadne aktuálna, pretože v posledných týždňoch bol Facebook pod paľbou, aby blokoval posty, ktoré súvisia so seriálom 13 Reasons Why, ktorý sa týkal samovraždy mladej stredoškoláčky. Odborníci varovali, že seriál môže mladých ľudí inšpirovať.

Čísla Facebooku ukazujú, že hlásenia o potenciálnom sebapoškodení medzi mladými ľuďmi sa zvyšujú. Jeden dokument, ktorý bol vypracovaný vlani v lete, hovorí, že administrátori v priebehu dvoch týždňov prijali 4531 oznámení o sebaubližovaní. Šesťdesiattri z týchto prípadov riešil Facebook v spolupráci s políciou a ďalšími príslušnými orgánmi.

„Teraz je viac videoobsahu - vrátane samovrážd - zdieľaných na Facebooku. Nechceme cenzurovať alebo potrestať ľudí v núdzi, ktorí sa pokúšajú o samovraždu. Odborníci nám povedali, čo je najlepšie pre bezpečnosť týchto ľudí, nechať ich streamovať video, ak zároveň komunikujú s divákmi,“ uvádza manuál. Video sa odstráni až vtedy, keď nie je možné presvedčiť osobu, aby svoje rozhodnutie prehodnotil.

Dokumenty tvrdí, aby administrátori ignorovali samovražedné hrozby, keď „úmysel je vyjadrený len prostredníctvom hashtagov alebo emotikonov“, alebo ak je navrhnutá metóda samovraždy nepravdepodobná. Zároveň sa na Facebooku ignorujú hrozby, že sa niekto zabije v dlhšom časovom období ako päť dní. Takže ak niekto tvrdí, že sa zabije o štyri dni, Facebook zbystrí pozornosť, ale ignoruje tvrdenia, ak sa niekto vyhráža, že skočí pod vlak o týždeň.

Ak máte chuť sa otestovať, ktoré násilné fotografie Facebook blokuje a ktoré ponecháva na sieti, skúste tento link. Budete určite prekvapený.