Cпецпроекты

Совершенно секретно: как Facebook фильтрует наши посты и почему это все обсуждают


0 2249 53
На днях The Guardian опубликовал механизм контроля постов в Facebook и вызвал нешуточный резонанс на просторах интернета, но до украиноязычного и русскоязычного сегмента волна пока не докатилась. Объясняем, что к чему, и переводим главные тезисы оригинальной статьи.

Статья вышла в рамках серии материалов Facebook Files — в распоряжение издания попали более 100 документов с инструкциями для модераторов соцсети. Там расписано все до мельчайших деталей: пошаговый порядок действий в случае жалоб пользователей на текст или фото и при публикации постов спорного содержания. У модераторов много работы: у них, как правило, всего 10 секунд для принятия решения при ответе на жалобу. Их в штате пока всего 4500 человек — с учетом 2 миллиардов пользователей человеческих ресурсов действительно не хватает. В ближайших планах — нанять еще 3000 модераторов. В то же время ситуация с самим контентом в последнее время обострилась — только в январе было больше 50 тысяч жалоб на «порнографию для мести» и «sextortion». Последнее — относительно новое набирающее популярность явление: публикация интимных снимков юзеров, которые мошенники достают обманным путем, с целью их шантажа в материальных или других целях.

www.theguardian.com

Кроме того, в «Фейсбуке» традиционно много откровенных фото, на которые тоже постоянно жалуются. В этом случае модераторы придерживаются четко обозначенных правил с частями тела или действиями, которые изображают на снимке. Если это просто пиксельное фото с участками голого тела, картина с обнаженкой или фото с имитацией секса в одежде — удалять такие кадры не будут даже при жалобах. А вот фотографии в просвечивающейся одежде без белья, с сексуальными игрушками или комментарии с призывом к насилию сразу чистят. Чего не скажешь о сексуальном домогательстве на словах: если оно завуалировано в аббревиатуру или будет сочтено за шутку, его оставят.

Если это просто пиксельное фото с участками голого тела, картина с обнаженкой или фото с имитацией секса в одежде - удалять такие кадры не будут даже при жалобах

Посты в стиле «Кто-то убил Трампа» немедленно удаляются, но комментарии в стиле «Я тебя убью» или «Отстань и убейся» оставляют, поскольку, как правило, они не употребляются в прямом смысле. Угрозы физической расправы тоже могут оставить: как сказано в инструкции для модераторов, такие комментаторы «чувствуют, что им ничего за это не будет, они равнодушны к адресату, поскольку общаются с ним через экран гаджета, а не вживую». Даже призывы «Давайте бить жирных детей» или фраза «Твой грязный язык придется вырвать изо рта» вполне допустимы. Видео со сценами жестких убийств тоже убирают не во всех случаях: они могут помогать людям узнавать об актуальных проблемах (например, психических заболеваниях) или об опасности. По той же причине не всегда удаляют фото физического насилия или детского буллинга, если в них нет ярко выраженного садизма. Видео с процессом аборта, если в нем нет голого тела, также оставляют. Как и издевательства над животными: им грозит отметка «disturbing», но не полное удаление. Цели те же — такие фото и видео приковывают внимание пользователей к проблеме.

www.theguardian.com

Особенно щекотливая ситуация сложилась со стримами попыток суицида: если верить данным The Guardian, прямую трансляцию такого содержания не удаляют. Причина простая — есть шансы того, что человек послушает зрителей и передумает. Одновременно с этим к таким людям должны выезжать спецслужбы, чтобы проверить их состояние. Последнее пока только в планах. Дальше инструкции для модераторов такие: если человеку уже ничем нельзя помочь и он мертв, видео сразу же удаляют. А вот посты с планами покончить с собой, если там нет ничего конкретного, а в качестве доказательства серьезности намерений — грустные эмоджи, трогать не будут. Еще один неприкосновенный вариант — сложность или неосуществимость метода самоубийства.

Даже призывы «Давайте бить жирных детей» или фраза «Твой грязный язык придется вырвать изо рта» вполне допустимы

Что касается постов и групп ненависти, политика здесь многоуровневая. Под внимание модераторов попадает любая потенциальная дискриминация по религиозному, национальному признаку и по сексуальной ориентации. Но и здесь есть нюансы: констатация факта или указание («Ты гей», «Ну ты и еврей» и так далее) под санкции не попадают. А вот националистические высказывания в стиле «Русские лучше всех, а немцы плохие» могут удаляться. Под особую защищенную категорию пользователей попадают мигранты — любые призывы к насилию и убийству беженцев не разрешены. Но если речь просто о негативном личном отношении к миграции — трогать ничего не будут.

Также разрешены шутки и анекдоты на скользкие темы: в качестве примера привели шутку Луи Си Кея из его стендап-программы: «Не прячься за первой буквой этого слова (N), как педик. Говори прямо — негр». Такая фраза на просторах «Фейсбука» разрешена.

Мощная работа ведется с потенциальными террористами — немедленно удаляются любые посты с похвалой и одобрением терактов и любых действий экстремистских группировок. Фотографии такого содержания допустимы, если их подпись нейтральна или даже иронична, но без прямого поощрения действий или радости по поводу случившегося. Здесь есть четкие пункты, по которым модераторы сверяются и решают, убирать подобные посты или нет. Отдельные пункты плана разработаны для крупных терактов из истории, о которых могут вспоминать пользователи.

www.theguardian.com

Так как объем информации необъятно большой, охватить в своей фильтрации абсолютно все потенциально опасные моменты практически невозможно. Отсюда пробелы, которые предстоит заполнить, и ошибочные удаления постов в тандеме с баном страницы. Как отмечает Forbes, в мануале для модераторов числятся незащищенные группы людей, любые угрозы которым без лишней проверки удаляются. К таким относятся, например, сионисты, а вот представители ислама, на которых в последнее время часто нападают в соцсетях, такими привилегиями не пользуются. Но если они при этом являются беженцами — автоматически попадают под защиту. Кроме того, недостаточно много внимания уделяется проблеме женского насилия: даже посты с просьбой посоветовать метод убийства женщины или комментарии с потенциальным риском сексуального насилия, согласно инструкциям, удалять не будут.

Руководство Facebook пока не давало развернутых объяснений своей политики — только общие фразы о том, что ведется постоянная работа над тем, чтобы сделать его более безопасным, а миллионы жалоб поступают каждую неделю. В любом случае мануалы требуют пересмотра и обновления по многим пунктам. Скорее всего, учитывая резонанс, это будет выполнено уже в ближайшем будущем.

Подписывайтесь на нас в Facebook

Написать комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

Извините, для комментирования необходимо войти.
Рекомендуемое

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: