Июль 23rd, 2018

Facebook игнорирует вредоносный контент — расследование

В Facebook под прикрытием

Журналист британского телеканала Channel 4 устроился работать модератором Facebook ради съемки документального фильма Inside Facebook: Secrets of the Social Network («Внутри Facebook: секреты социальной сети»). Он выяснил, что, например, целый ряд вредоносного контента намеренно игнорируют.

Репортер устроился как работник CPL Resources — это расположенный в Дублине подрядчик по модерации контента, который сотрудничает с компанией Facebook с 2010 года. Там он прошел обучение, где новых сотрудников ознакомили с общественными стандартами компании и направили модерировать контент, в который также входили сцены насилия, насилие над ребенком и пропаганда ненависти.

У модераторов было три варианта при работе с контентом — проигнорировать, удалить или отметить как неприятное, вызывающее беспокойство или нежелательный контент. При выборе третьего варианта контент оставался в социальной сети, но с ограничением для тех, кто его может посмотреть.

В Facebook под прикрытием

Репортер встретил случаи, когда фотографии с насилием над детьми, расизмом и жестокостью оставляли в Facebook. А в каких-то случаях обнаружил несоответствие между тем, чему обучали модераторов, и правилами Facebook.

В Facebook под прикрытием

Во время обучения новым работникам показали пример контента, который должен быть помечен как нежелательный, — видео, где взрослый мужчина бьет маленького мальчика. На видео пожаловалась в декабре 2012 года Никки Остин, которая возглавляет онлайн-кампанию против насилия над детьми. В то время ей сказали, что видео не нарушает правила Facebook.

За первые два дня в соцсети видео поделились 44 тысячи человек. Оно все еще было там спустя 6 лет, когда канал Channel 4 проводил свое расследование.

Ричард Аллан, вице-президент Facebook по публичной политике, в ответ на вопрос телеканала согласился, что видео должно было быть удалено. Но и через неделю после обращения Channel 4 видео все еще было доступно.

Расистский мем

В Facebook под прикрытием

В правилах Facebook указано, что «мы не допускаем разжигания ненависти, потому что это создает атмосферу запугивания и неравноправия и в некоторых случаях ведет к насилию в реальной жизни».

Новым модераторам во время обучения показали мем, где голову маленькой девочки держат под водой, а надпись гласила: «Когда твоя дочь влюбилась в негра». Им сказали, что такое изображение следует игнорировать, потому что оно подразумевает кучу всего, но реального нарушения нет.

В ответ на эту ситуацию после выхода фильма Facebook заявил, что данное изображение действительно нарушает их политику о разжигании ненависти и что они пересмотрят ее и попытаются понять, что они сделали неправильно, чтобы такого больше не повторилось.

Журналист под прикрытием также обнаружил примеры того, что высказывания, разжигающие ненависть, разрешены на Facebook. Комментарий в адрес иммигрантов-мусульман «валите обратно в свои страны» не удалили. Если бы комментарий был высказан в адрес только мусульман, тогда бы его удалили.

В Facebook под прикрытием

Ричард Аллан опять же указал, что и компания Facebook допускает ошибки. «Мы относимся к ошибкам со всей серьезностью и благодарны журналистам, которые обратили на них внимание. Там, где мы знаем, что допустили ошибки, мы немедленно их исправляем. Сейчас мы проводим дополнительный курс обучения и работаем над тем, чтобы понять, как это произошло».

Зарабатывает ли Facebook на шокирующем контенте

Телеканал Channel 4 поговорил с Роджером Макнеймом — одним из первых инвесторов Facebook. Он раскритиковал компанию после скандала с утечкой данных к Cambridge Analytica и заявил, что Facebook наживается на шокирующем контенте.

«Самых активных пользователей платформы привлекает именно опасный и экстремистский контент. И если твой бизнес основывается на рекламе, то желательно побуждать людей как можно больше времени проводить на сайте. В Facebook это понимают».
Когда журналист под прикрытием спросил у коллеги-модератора, почему контент со сценами насилия не удаляют с платформы, тот ответил: «Если начнешь подвергать цензуре слишком многое, то люди потеряют интерес. В конечном счете, вся суть в том, чтобы заработать денег».

С этими обвинениями Ричард Аллан также не согласен: «Шокирующий контент не приносит нам никаких денег. Все дело в непонимании того, как система работает».

«Есть люди, и их меньшинство, которые готовы злоупотреблять нашей и другими платформами, чтобы распространять отвратительный в наивысшей степени материал. Но я просто не согласен с тем, что большинство людей хотят видеть это. Это не тот опыт, который мы здесь хотим доносить до наших пользователей».
Также в документальном фильме Inside Facebook: Secrets of the Social Network затрагиваются такие проблемы модерации, как изображения нанесения себе увечий, несовершеннолетние пользователи и ультраправые страницы с большим числом подписчиков.

Leave a Reply

  

  

  

You can use these HTML tags

<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>