вторник, 21 май 2019  RSS
    Барометър | Региони | Компании | Лица | Назначения


    1684 прочитания

    Да модер(л)ираш Интернет

    Ханс Блок, режисьор на документалния филм The Cleaners, разкриващ тъмните страни на цензурата в интернет, пред Economy.bg
    16 април 2019, 14:20 a+ a- a

    Точно преди около месец светът стана свидетел на тероризъм, излъчван на живо във Facebook. Австралиец показа на живо в платформата масовото убийство, което извърши в джамия в Нова Зеландия. Видеото се разпространи мигновено из интернет. Заличаването на клипа отне на Facebook, Twitter и YouTube няколко дни. На дневен ред отново излезе въпросът как социалните мрежи се справят с управлението на екстремистко съдържание. Всъщност кой е отговорен подобно съдържание да не достига до потребителите? Кой „чисти“ социалните мрежи и как се вземат решения кои снимки или видео да останат и кои да бъдат премахнати?
    Отговор на тези много актуални въпроси дава документалният филм The Cleaners („Чистачите“) на германските режисьори Ханс Блок и Моритц Рийзевик. Лентата разкрива тъмната страна на цензурата в интернет, превърнала се в огромна индустрия за Филипините - страната с най-голям дял в света на аутсорсинга на модериране на онлайн съдържание. Там ежедневно се заличават снимки и видеа от платформи като Facebook, YouTube и Twitter. Сложните решения за това кое съдържание да се цензурира или да остане видимо в мрежата, са „аутсорснати“ на модератори, които плащат огромна психологическа цена, за да имаме "чиста" дигитална среда.
    Дебютният филм на германците беше представен на множество фестивали по цял свят, вкл. Sundance. Носител е на много награди, сред които Prix Europa, Grimme Award и др. Лентата беше показана и в София в рамките на дискусията „Социалните медии: предимство или вреда за демокрацията?“, организирана от Медийната програма за Югоизточна Европа на фондация „Конрад Аденауер“ и Софийски форум за сигурност.

    За тъмната страна на социалните мрежи и ефекта им върху обществото – Economy.bg разговаря с Ханс Блок, режисьор на документалния филм The Cleaners.

    Идеята зад филма

    Защо решихте да направите филма?
    Проучвателният процес за филма започна преди шест години. През 2013 разбрахме, че във Facebook циркулира видео, на което се вижда как възрастен мъж насилва дете. Чухме за това видео, което се разпространяваше из интернет – беше харесвано и споделяно хиляди пъти. Зададохме си въпроса как платформата се справя с подобен проблем. Дали има някой, филтриращ съдържанието, което виждаме. Първоначално решихме, че може би зад това стои алгоритъм или технология за машинно обучение. После установихме контакт със Сара Т. Робъртс – експерт по модериране на съдържание, която ни каза, че всъщност хора вземат тези решения. Това провокира интереса ни по няколко причини. Първо, защото можехме да си представим колко тежка е тази работа – по цял ден да стоиш пред екрана и да гледаш видео с мъчения, осакатявания, екзекуции, насилие над деца. Друг важен мотив беше да се изясни въпросът докъде стига свободата на изразяване в онлайн пространството.

    Като журналисти ли работихте по това време? Защо тази тема провокира интереса ви?
    Мориц и аз завършихме театрална режисура. Поставяли сме Шекспир, Чехов и т.н. Докато учехме в Берлин, решихме, че ще правим документален театър. След проучването за видеото във Facebook решихме, че можем да поставим театрална постановка на тази база. След това преценихме, че всъщност ще направим филм по темата.

    "Социалните медии подсилват лошото в нас".

    Каква беше реакцията ви, след като научихте за излъчването на живо във Facebook на масовата стрелба в Нова Зеландия? Защо според вас им отне толкова време, за да свалят това видео?
    За съжаление, не ме изненада, че нещо подобно продължава да се случва. Количеството съдържание – видео и друго, което се качва всеки ден, е огромно. Това затруднява филтрирането в кратки срокове. Другият фактор е, че понякога не е ясно кога модераторите трябва да премахнат нещо и кога – не. Правилата, макар да са ясни, понякога е трудно да се следват напълно. Модераторите са претрупани от работа, когато вземат подобни решения. По-важното е, че компании като Facebook, YouTube или Twitter винаги твърдят, че тези платформи са неутрални. Това обаче не е вярно, защото това, което потребителите установяват, ползвайки платформите, е, че по-крайното и сензационно съдържание се изтласква напред от алгоритми, отчитайки всички потребители, които го гледат. Така че, ако искаш да си успешен в социалните медии, трябва да си краен и да поднасяш сензации. Това променя човешкото поведение и води до такива екстремни случаи като масова стрелба или самоубийство на живо. Това е другата страна на обществото. И социалните медии подсилват лошото в нас.

    Кой стои зад решенията да се спре видео, излъчвано на живо – хора или изкуствен интелект?
    Когато някой сигнализира за съдържание във Facebook или YouTube, то се праща на човек-модератор. Но първо трябва да бъде докладвано. Има и друг начин, по който се проверява съдържание – чрез алгоритъм. Фирмите са научили алгоритмите да разпознават неподходящо съдържание. Например, ако има гола гръд, форма на сексуален орган или кръв в снимка, алгоритъмът ще ги анализира и ще отбележи съдържанието като неподходящо. След това съдържанието се праща до Манила, във Варшава или някъде другаде. Тогава модераторът трябва да провери дали алгоритъмът, или съответно потребителят е бил прав, като е докладвал съдържанието. Така че например, ако при видео на живо никой не докладва съдържанието, то ще е изключително трудно за модератор да намери това видео.

    Значи отново можем да станем свидетели на подобно видео, излъчвано на живо?
    Да, абсолютно. Огромно предизвикателство е за големи платформи като Facebook да идентифицират такова видео.

    Какви биха могли да са алтернативите – просто да се премахне опцията за видео излъчване на живо?
    Това е сериозен въпрос. Идеята не е просто да премахнеш тази възможност, защото веднага ще изникне друга лайв стрийминг платформа, която ще позволи излъчването на видео на живо и хората ще използват нея. Технологиите се променят бързо. Трябва да приемем това, но и да отговорим. Въпросът е как. Смятам, че компании като Facebook имат отговорност да обучат потребителите си какво е позволено да се публикува на платформата и какво не. Не с малки букви на дъното на страницата, а открито и ясно да изяснят каква е политиката за поведение в тези платформи.

    Смятате ли, че това би било работещо?
    Това, което може да се направи например при случай на излъчване на живо, е всички потребители, гледащи видеото, да подходят различно – не да казват: „Давай, застреляй още един!“ като във видео игра, а просто да докладват съдържанието, така че модераторът да прегледа какво се излъчва и да го спре.

    "Те трябва да вземат решение за секунди дали снимка, видео или лайвстрийм да остане, или да бъде свалено".

    Изненадах се да разбера, докато гледах филма ви, че ако някой реши да се самоубива на живо във Facebook, модераторите нямат право да спрат излъчването, докато той всъщност не го направи. За мен това беше шокиращо.
    Те трябва да решат кога да спрат излъчването или да направят съдържанието невидимо и кога – не. Има множество лайвстриймове по света, при които някой просто е решил да се пошегува и се държи така, сякаш ще се самоубие. Модераторите могат да си навлекат проблеми, ако спрат лайвстрийм, ако е просто шега. Затова те трябва да са много внимателни, когато вземат решение. Трябва да изчакат до последния момент, за да могат да преценят, че това е истинска заплаха и да изтрият съдържанието. Това наистина е голям проблем. Ние също бяхме шокирани. Не можехме да повярваме, че е истина.

    Тези хора обучени ли са да вземат подобни комплексни решения? Един психолог би могъл вероятно да прецени дали има риск човек да се самоубие.
    Това е и въпросът, който повдигаме с нашия филм. Скандално е, че използват нископлатени служители във Филипините, обучавани от 3 до 5 дни. Да, имат допълнителни обучения в рамките на работата си, но не са така подготвени, както би трябвало да бъдат. Така че това е огромен проблем. Те са затрупани с работа, когато вземат решения. И повечето модератори ни споделиха, че вземат решения по интуиция.
    Не става дума само дали това съдържание е подходящо, или не, а също и дали нарушава свободата на изразяване. Те трябва да вземат решение за секунди дали снимка, видео или лайвстрийм да остане, или да бъде свален. Както знаем, Facebook не е платформа, в която качваме само сладки котенца. Това е политическа платформа. Това е нашата дигитална публична сфера, където ние се изразяваме, където дискутираме политически въпроси. Трябва да си дадем сметка, че тези платформи имат ключова роля в политическите решения. И е много важно кой решава какво съдържание да остане и какво да бъде свалено. Затова считам, че е скандално 18-19 годишни току-що завършили училище младежи във Филипините да вземат решения за подобно съдържание.

    "Софтуерът не е способен да разграничи контекста и затова са нужни хора, които да вземат подобни решения".

    Знаете ли колко хора по света работят като модератори на съдържание?
    Много е трудно да се прецени точният брой. Попитахме всички аутсорсинг компании колко модератори на съдържание имат, но не получихме отговор. Единствената бройка, която имаме, е тази, която самият Facebook обяви миналата година. Тогава те казаха, че искат да наемат 20 хил. модератори на съдържание. Мисля, че към момента са наели 15 хил. по цял свят. Но въпросът, който си задаваме е дали тези 20 хил. включват само модераторите, директно наети от Facebook, или също служителите на аутсорсинг компаниите, които не са наети през социалната мрежа. Така че броят в момента е неясен. Но ако си представите количеството съдържание, което се качва всеки ден, то ще си дадете сметка, че има нужда от десетки хиляди модератори.

    Кой е по-добър в тези решения – хората или изкуственият интелект? Обективни ли са хората?
    Ние се запитахме – не е ли по-добре машини да вършат тези задачи. Влязохме в контакт с Робърт Мюлер от Техническия университет в Берлин, който е един от експертите по тази тема. Попитахме го дали това е възможно и той отговори, че не съвсем. Защото изкуственият интелект или софтуерът за разпознаване на снимки може да анализира всичко на изображението – напр. стол, цвете или кръв. Но това, което е важно за вземането на решение, е контекста около снимката. Една снимка може да има новинарска стойност и трябва да бъде публикувана. Тя обаче може да е пропаганда. Или сатира. Или сцена от филм. Но да има едно и също съдържание. Машината обаче не е способна да разграничи контекста и затова са нужни хора, които да вземат подобни решения.

    Модераторите във Филипините целия свят ли покриват, или само техния регион?
    Facebook винаги твърди, че се опитва да прави модерирането локално. Така че съдържанието в България например да се модерира от европейци. Проучването ни в Манила показа нещо различно. Бяхме там през лятото на 2016 и един ден модераторите там ни казаха: „Вие в Германия имате голям проблем. Има силно крайнодясно движение, има толкова много постове, подбуждащи към омраза онлайн, толкова много нацистко съдържание“. Бяхме много учудени, че те се занимават със съдържанието в Германия. Те потвърдиха, че са преминали през специално обучение, за да се запознаят със списък от немски обидни думи или нацистки символи.

    "Служителите там възприемат работата като мисия - жертват се, за да освободят света от греховете му".

    Защо социалните мрежи избират Филипините за тази работа? Заради ниските заплати ли?
    Зададохме си същия въпрос – защо Манила? Защо модерирането на това съдържание се аутсорсва към Филипините? Има няколко отговора. Очевидният са ниските заплати. На служителите там се плаща от 1 до 3 долара на час. И дори за Филипините това е сравнително малко. Защото заплатите не са само за тях, а за цялото семейство. Затова те са под голям натиск да не напускат работа, защото са отговорни за много хора.
    Има и друга причина. Заради историята – филипинците са били колонизирани от испанците, след това идват американците. Видяхме реклами на тези аутсорсинг компании, в които се промотира фактът, че са били колонизирани от Западния свят и че те разбират западните ценности. Което звучи налудничаво.
    Служителите там възприемат работата като мисия. Религиозната база им помага да вършат работата. Да се жертваш е много силно застъпено във филипинската култура. Те се опитват да се жертват и да освободят света от греховете му. Така те придават смисъл на работата си, което им позволява да издържат по-дълго време, отколкото някой в Европа би могъл. Това изглежда като „перфектното“ място за експлоатиране на хората – заради бедността и религията. Това е един токсичен микс между религия и капитализъм.

    Модераторите на съдържание например в Германия същите задачи ли имат като тези в Манила? И те ли се занимават със съдържание на насилие или вършат по-леки задачи?
    Според мен те модерират почти един и същ тип съдържание. Но трудовото законодателство е доста по-различно. В Германия имаме силни закони, които защитават правата на работниците. У нас се предлага психологическа подкрепа. Те трябва да наемат психолози, за да се гарантира, че служителите няма да се самонаранят заради работата си. Затова не може да се сравнява модерирането на съдържание в Манила и в Берлин.

    "Чувстват се като супер герои, като полиция, като някой, който гарантира че сме в безопасност в мрежата. Те искат светът да знае, че ги има, че се жертват, за да имаме безопасна онлайн среда".

    Кои бяха основните предизвикателствата по реализирането на филма?
    Едно от основните предизвикателства беше да влезем в контакт с работниците. Защото това е една индустрия, забулена в тайни. Те се опитват да предотвратят възможността служителите да говорят с журналисти или с чужденци. Дори използват кодови имена, за да прикрият факта, че работят за Facebook например. На служителите, вършещи тази работа, не им е позволено да споделят за кого работят. Вместо това те трябва да кажат, че работят по проекта Honey Badger – малко животно в пустинята.
    Имат частна охранителна фирма, която ги предпазва да не говорят с журналисти. Когато ние влязохме в полезрението им, те са ни снимали, разпратили са снимките ни из цялата компания с предупреждението, че ако някой от служителите говори с нас, той ще бъде незабавно уволнен. Заради този натиск ни отне много време да влезем в контакт с работещите там.

    Тогава каква беше мотивацията им да говорят с вас?
    След като прекарахме много време с тях и изградихме отношения на доверие, така че всеки да се чувства комфортно да говори с нас, се изненадахме да разберем, че те се чувстват горди с това, което правят. Един от модераторите ни каза: „Не можеш да си представиш как би изглеждал интернет без нас. Ако спрем работа само за час, няма да можеш да използваш интернет повече“. Така че те наистина са горди. Чувстват се като супер герои, като полиция, като някой, който гарантира че сме в безопасност в мрежата. Те искат светът да знае, че ги има, че се жертват, за да имаме безопасна онлайн среда. Затова те решиха да говорят с нас.

    Те осъзнават ли как се отразява работата им на нашия светоглед?
    Някои от модераторите си дават сметка, че решенията им могат да имат огромен ефект върху политическата ситуация, за обществата или демокрацията. Други обаче са като деца, които играят видео игри и не разбират какво правят, какъв ефект има работата им.

    Как се отразява подобна работа върху служителите?

    Получават ли модераторите някаква психологическа помощ?
    Някои предоставят нещо като психологическа помощ, но когато попитахме хората за какво става дума, те споделиха, че всяко тримесечие психолог посещава компанията. Целият екип се събира в едно помещение и психологът ги пита дали се чувстват добре и дали имат някакви проблеми с работата. При което всеки гледа в земята и не казва нищо, защото се страхува да не загуби работата си, ако сподели за психологически проблем.
    Случаят с момчето, което се самоубива във филма, не е изолиран. Нивото на самоубийства в тази индустрия е много високо, защото те не са защитени, а работата им се отразява зле. Консултирахме се с психолози в Манила и в Берлин относно това какъв е ефектът от подобна работа върху служителите. Казаха, че имат симптомите на посттравматичен стрес, т.е. като войник след война. Няма значение дали си на бойното поле или пред екрана, модерирайки подобно съдържание. Най-лошото при случаи на ПТС е да не говориш за тези проблеми.

    "Почти никой от близо 3 млрд. потребители по света не знае, че има хора, които „чистят“ средата за тях. Всички приемат за даденост това, че не виждат терористично съдържание, насилие и др. на тези платформи".

    Какво е основното послание на филма ви? Промени ли се нещо след него?
    Почти 15 години след появата на социалните мрежи вече знаем, че тези платформи са способни да разделят обществата, да заглушават малцинствата, да засилят геноцида както в Мианма. Това е сериозна заплаха за демокрацията по света.
    И 15 години след възникването на социалните медии почти никой от близо 3 млрд. потребители по света не знае, че има хора, които „чистят“ средата за тях. Всички приемат за даденост това, че не виждат терористично съдържание, насилие и др. на тези платформи. Според мен е много важно ние като потребители да си даваме сметка какво става и да се борим за дигиталните си права. Да не сме просто пасивни потребители.
    Един от основните въпроси, които поставяме с филма, е: „Редно ли е да аутсорсваме отговорността ни за обществената сфера на частни компании като Facebook или Google?“ Ние не смятаме така.

    Имахте ли контакт с някоя от социалните медии?
    Ние изпратихме филма на всички големи компании. Помолихме ги за коментар. Или за прожекция на филма. Но не получихме отговор. Нашият филм не обвинява Facebook, YouTube или Twitter. По-скоро искаме да покажем проблема и да видим какво може да се направи.

    "Трябва да се създадат институции, способни да вземат адекватни решения по отношение на случващото се в глобален план. Трябва да се създаде нещо, подобно на Дигитални обединени нации, които могат да съберат всички глобални компании като Facebook, за да обсъдят тези проблеми открито и прозрачно".

    Казвате, че имаме нужда от Дигитални обединени нации. Каква роля трябва да има и кой би трябвало да участва в подобна организация?
    Това, на което ставаме свидетели в момента, са правителства и политици по света, които не успяват да се справят с регулациите по отношение на компании като Facebook, Twitter и Google. Те нямат експертизата за това. Дори и да има национален закон, той не променя архитектурата на тези системи, защото те са глобални. Затова смятаме, че политиката също трябва да се промени. Трябва да се създадат други институции, способни да вземат адекватни решения по отношение на случващото се в глобален план. Смятаме, че трябва да се създаде нещо, подобно на Дигитални обединени нации, които да са глобални. Които могат да съберат всички глобални компании като Facebook, за да обсъдят тези проблеми открито и прозрачно.

    Според вас Европейската комисия не се справя добре с регулацията на компании като Facebook?
    Както казах, повечето политици нямат идея какво правят. Например директивата за авторско право ще промени интернет такъв, какъвто го познаваме в момента. Не е нещо ново, че имаме проблеми с нарушаването на правата за авторско право в интернет. Но въпросът е как се справяме с този проблем. В отговор на това компаниите създават механизми за филтриране (upload filters), за да решат тези задачи. Но както вече отбелязах, машините още не са достатъчно „умни“, за да могат да решат подобни комплексни въпроси като нарушаване на авторското право.

    Споделяте, че целта ви е да разкривате троянските коне на нашето време. Кои са другите троянски коне днес?
    Имаме силен интерес да правим видими нещата, които иначе остават скрити. В дигиталния свят виждаме, че много неща не са видими, защото са виртуални, автоматизирани. Опитваме се да обхванем тези процеси във филм и да покажем, че зад всяко решение и зад всяка машина стои човек, създал технологията. Зад всяка машина стои идеология.

    Нагоре
    Отпечатай
     
    * Въведеният имейл се използва само за целите на абонамента, имате възможност да прекратите абонамента по всяко време.

    преди 10 часа
    „Белла България“ придоби унгарската Marathon Foods
    Стойността на сделката е 12 млн. лв.
    преди 12 часа
    Google ограничава бизнеса си с Huawei
    Вижте официалните становища на двете компании
    преди 14 часа
    „Костал“ окрива 1 000 нови работни места в завода си в Пазардижик
    Германският производител на автокомпоненти откри 13 000 кв. м. нови производствени площи
    преди 16 часа