Cпецпроекты

Совершенно секретно: как Facebook фильтрует наши посты и почему это все обсуждают


1 2858 58
На днях The Guardian опубликовал механизм контроля постов в Facebook и вызвал нешуточный резонанс на просторах интернета, но до украиноязычного и русскоязычного сегмента волна пока не докатилась. Объясняем, что к чему, и переводим главные тезисы оригинальной статьи.

Статья вышла в рамках серии материалов Facebook Files — в распоряжение издания попали более 100 документов с инструкциями для модераторов соцсети. Там расписано все до мельчайших деталей: пошаговый порядок действий в случае жалоб пользователей на текст или фото и при публикации постов спорного содержания. У модераторов много работы: у них, как правило, всего 10 секунд для принятия решения при ответе на жалобу. Их в штате пока всего 4500 человек — с учетом 2 миллиардов пользователей человеческих ресурсов действительно не хватает. В ближайших планах — нанять еще 3000 модераторов. В то же время ситуация с самим контентом в последнее время обострилась — только в январе было больше 50 тысяч жалоб на «порнографию для мести» и «sextortion». Последнее — относительно новое набирающее популярность явление: публикация интимных снимков юзеров, которые мошенники достают обманным путем, с целью их шантажа в материальных или других целях.

www.theguardian.com

Кроме того, в «Фейсбуке» традиционно много откровенных фото, на которые тоже постоянно жалуются. В этом случае модераторы придерживаются четко обозначенных правил с частями тела или действиями, которые изображают на снимке. Если это просто пиксельное фото с участками голого тела, картина с обнаженкой или фото с имитацией секса в одежде — удалять такие кадры не будут даже при жалобах. А вот фотографии в просвечивающейся одежде без белья, с сексуальными игрушками или комментарии с призывом к насилию сразу чистят. Чего не скажешь о сексуальном домогательстве на словах: если оно завуалировано в аббревиатуру или будет сочтено за шутку, его оставят.

Если это просто пиксельное фото с участками голого тела, картина с обнаженкой или фото с имитацией секса в одежде - удалять такие кадры не будут даже при жалобах

Посты в стиле «Кто-то убил Трампа» немедленно удаляются, но комментарии в стиле «Я тебя убью» или «Отстань и убейся» оставляют, поскольку, как правило, они не употребляются в прямом смысле. Угрозы физической расправы тоже могут оставить: как сказано в инструкции для модераторов, такие комментаторы «чувствуют, что им ничего за это не будет, они равнодушны к адресату, поскольку общаются с ним через экран гаджета, а не вживую». Даже призывы «Давайте бить жирных детей» или фраза «Твой грязный язык придется вырвать изо рта» вполне допустимы. Видео со сценами жестких убийств тоже убирают не во всех случаях: они могут помогать людям узнавать об актуальных проблемах (например, психических заболеваниях) или об опасности. По той же причине не всегда удаляют фото физического насилия или детского буллинга, если в них нет ярко выраженного садизма. Видео с процессом аборта, если в нем нет голого тела, также оставляют. Как и издевательства над животными: им грозит отметка «disturbing», но не полное удаление. Цели те же — такие фото и видео приковывают внимание пользователей к проблеме.

www.theguardian.com

Особенно щекотливая ситуация сложилась со стримами попыток суицида: если верить данным The Guardian, прямую трансляцию такого содержания не удаляют. Причина простая — есть шансы того, что человек послушает зрителей и передумает. Одновременно с этим к таким людям должны выезжать спецслужбы, чтобы проверить их состояние. Последнее пока только в планах. Дальше инструкции для модераторов такие: если человеку уже ничем нельзя помочь и он мертв, видео сразу же удаляют. А вот посты с планами покончить с собой, если там нет ничего конкретного, а в качестве доказательства серьезности намерений — грустные эмоджи, трогать не будут. Еще один неприкосновенный вариант — сложность или неосуществимость метода самоубийства.

Даже призывы «Давайте бить жирных детей» или фраза «Твой грязный язык придется вырвать изо рта» вполне допустимы

Что касается постов и групп ненависти, политика здесь многоуровневая. Под внимание модераторов попадает любая потенциальная дискриминация по религиозному, национальному признаку и по сексуальной ориентации. Но и здесь есть нюансы: констатация факта или указание («Ты гей», «Ну ты и еврей» и так далее) под санкции не попадают. А вот националистические высказывания в стиле «Русские лучше всех, а немцы плохие» могут удаляться. Под особую защищенную категорию пользователей попадают мигранты — любые призывы к насилию и убийству беженцев не разрешены. Но если речь просто о негативном личном отношении к миграции — трогать ничего не будут.

Также разрешены шутки и анекдоты на скользкие темы: в качестве примера привели шутку Луи Си Кея из его стендап-программы: «Не прячься за первой буквой этого слова (N), как педик. Говори прямо — негр». Такая фраза на просторах «Фейсбука» разрешена.

Мощная работа ведется с потенциальными террористами — немедленно удаляются любые посты с похвалой и одобрением терактов и любых действий экстремистских группировок. Фотографии такого содержания допустимы, если их подпись нейтральна или даже иронична, но без прямого поощрения действий или радости по поводу случившегося. Здесь есть четкие пункты, по которым модераторы сверяются и решают, убирать подобные посты или нет. Отдельные пункты плана разработаны для крупных терактов из истории, о которых могут вспоминать пользователи.

www.theguardian.com

Так как объем информации необъятно большой, охватить в своей фильтрации абсолютно все потенциально опасные моменты практически невозможно. Отсюда пробелы, которые предстоит заполнить, и ошибочные удаления постов в тандеме с баном страницы. Как отмечает Forbes, в мануале для модераторов числятся незащищенные группы людей, любые угрозы которым без лишней проверки удаляются. К таким относятся, например, сионисты, а вот представители ислама, на которых в последнее время часто нападают в соцсетях, такими привилегиями не пользуются. Но если они при этом являются беженцами — автоматически попадают под защиту. Кроме того, недостаточно много внимания уделяется проблеме женского насилия: даже посты с просьбой посоветовать метод убийства женщины или комментарии с потенциальным риском сексуального насилия, согласно инструкциям, удалять не будут.

Руководство Facebook пока не давало развернутых объяснений своей политики — только общие фразы о том, что ведется постоянная работа над тем, чтобы сделать его более безопасным, а миллионы жалоб поступают каждую неделю. В любом случае мануалы требуют пересмотра и обновления по многим пунктам. Скорее всего, учитывая резонанс, это будет выполнено уже в ближайшем будущем.

Подписывайтесь на нас в Facebook

Написать комментарий

Такой e-mail уже зарегистрирован. Воспользуйтесь формой входа или введите другой.

Вы ввели некорректные логин или пароль

Извините, для комментирования необходимо войти.

1 комментарий

сначала новые
по рейтингу сначала новые по хронологии
1

20180704 zhuzhu

kevin durant shoes

cheap oakley sunglasses

nike outlet store

polo ralph lauren outlet online

cheap jordan shoes

cheap oakley sunglasses

true religion jeans sale

ugg outlet online

coach outlet store online

coach outlet store

pandora jewelry

cheap jordan shoes

ralph lauren polo

cheap jordan shoes

canada goose outlet store

canada goose outlet store

oakley sunglasses wholesale

ugg outlet online

polo ralph lauren outlet online

brequet wathes

uggs outlet online

michael kors uk

bulgari jewelry

isabel marant outlet

cheap jordan shoes

nike revolution

kate spade purses

jordan 32

cheap air jordans

gucci outlet online

air jordan shoes

coach factory outlet

ugg outlet store

coach factory outlet

coach outlet store online

houston texans jersey

cheap oakley sunglasses

polo ralph lauren outlet

stuart weitzman shoes

moncler coats

ralph lauren polo outlet

polo ralph lauren

polo pas cher

michael kors outlet clearance

bape clothing

michael kors outlet clearance

nike pegasus

canada goose jackets sale

pandora charms

coach factory outlet

nfl jersey wholesale

ugg boots

ralph lauren polo

coach factory outlet online

nike outlet online

polo ralph lauren outlet

coach factory outlet

coach outlet store

huf clothing

kate spade outlet store

canada goose outlet store

air more uptempo

canada goose

diesel jeans

cheap ray ban sunglasses

cheap jordan shoes

ralph lauren outlet

coach outlet store online

oakley sunglasses wholesale

49ers jerseys

kate spade outlet store

ugg outlet

michael kors outlet clearance

ugg boots clearance

tory burch outlet store

coach outlet store online

canada goose outlet online

burberry outlet stores

coach factory outlet

lacoste pas cher

canada goose outlet store

ray ban sunglasses sale

coach outlet store online

michael kors online

adidas crazy

nhl jerseys for sale

pandora jewelry

michael kors outlet clearance

polo ralph lauren outlet

cheap oakley sunglasses

nhl jerseys wholesale

10 deep clothing

air jordan shoes

kate spade outlet online

canada goose jackets outlet

michael kors outlet clearance

canada goose jackets

michael kors uk

manolo blahnik

cheap jordans

kd 9

basketball jerseys

pandora jewelry

nba jerseys wholesale

pandora jewelry

broncos jersey

coach outlet store online

hermes online

balenciaga sandals

tory burch sandals

cheap jordan shoes

ralph lauren shirts

ray ban sunglasses outlet

tory burch outlet store

polo ralph lauren

kate spade handbags

malone souliers

ugg outlet,ugg outlet stores

air jordan shoes

jerseys from china

michael kors uk

off white outlet

givenchy handbags

ugg boots on sale

nike shoes on sale

air jordan shoes

suicoke sandals

christian louboutin

pandora jewelry

christian louboutin sale

michael kors outlet clearance

cheap jordan shoes

christian louboutin

cheap jordans

kate spade

adidas shoes

michael kors handbags

ugg boots

denver broncos jersey

christian louboutin sale

michael kors outlet clearance

nike nba jerseys

kyrie 4

ray ban outlet

cheap jordan shoes

cheap oakley sunglasses

tory burch outlet online

kate spade handbags

michael kors handbags

cheap ray bans

prada shoes on sale

nike factory shoes

lacoste outlet

michael kors outlet

kate spade handbags

coach outlet

michael kors outlet

oakley sunglasses wholesale

jordan shoes

ugg outlet online

michael kors outlet clearance

ugg outlet

canada goose

jerseys wholesale

polo ralph lauren outlet online

michael kors outlet clearance

ugg boots clearance

chopard jewelry

kate spade new york

cheap jordan shoes

true religion outlet store

supreme clothing

burberry outlet sale online

fitflops shoes

longchamp solde

canada goose jackets for women

coach factory outlet

coach factory outlet

canada goose outlet online

michael kors outlet clearance

coach outlet

polo ralph lauren outlet

broncos jerseys

kate spade purses

harry winston jewelry

champion clothing

kate spade

canada goose outlet store

ugg outlet

longchamp pas cher

air jordan shoes

pandora jewelry

canada goose

ugg boots for women

air jordan retro

coach factory outlet

pandora charms

polo ralph lauren outlet online

cheap ugg boots

ralph lauren outlet online

coach outlet store online

michael kors outlet online

kate spade purses

tag heuer watches

longchamp outlet online

armani exchange

kate spade new york

michael kors outlet online

pandora outlet

jordan shoes

barbour jackets outlet

coach outlet store

canada goose jackets

coach factory outlet

uggs outlet online

coach outlet online

air max 1

coach outlet store online

belstaff jackets

michael kors outlet store

cheap oakley sunglasses

air jordan shoes

ralph lauren factory store

supreme clothing uk

guess factory

moncler

swarovski crystal

ray ban sunglasses outlet

michael kors outlet online

coach factory outlet online

michael kors outlet online

canada goose outlet

ugg outlet store

uggs outlet online

longchamp pas cher

canada goose coats

light up shoes

nike shoes on sale

coach outlet

ralph lauren polo shirts

canada goose jackets

arcteryx jacket

ray ban sunglasses outlet

ugg boots

kate spade purses

canada goose jackets

karen millen dresses

ralph lauren outlet

cheap oakley sunglasses

ray ban sunglasses outlet

kate spade handbags

coach factory outlet

michael kors outlet clearance

christian louboutin

coach factory outlet

michael kors outlet

pandora outlet

ray ban sunglasses on sale

james harden jerseys

moncler coats

michael kors outlet clearance

mulberry bags

canada goose outlet store

cheap jordan shoes

oakley sunglasses sale

mbt shoes outlet

pandora charms sale clearance

michael kors outlet clearance

michael kors outlet clearance

canada goose outlet online

michael kors outlet

oakley sunglasses wholesale

jordan shoes

oakley sunglasses wholesale

carrera sunglasses

canada goose outlet

canada goose jackets

oakley sunglasses wholesale

mlb jerseys wholesale

pandora outlet

cheap jordan shoes

christian louboutin

coach outlet store online

golden state warriors jersey

bally shoes

coach outlet online

michael kors outlet online

coach factory outlet

canada goose outlet store

a bathing ape

coach outlet store

cheap air jordans

polo outlet online store

uggs outlet

canada goose uk

canada goose uk

canada goose

kate spade sale

cheap jordans

polo ralph lauren shirts

christian louboutin

bcbg dresses

pandora jewelry outlet

pandora jewelry

jordan shoes

coach outlet online

coach factory outlet

uggs outlet online

canada goose

christian louboutin sale

pandora outlet

ugg boots clearance

kate spade

air jordan shoes

cheap jordan shoes

chrome hearts sunglasses

baltimore ravens jersey

jordan shoes

uggs outlet

cheap jordans

ugg boots

michael kors factory outlet

kate spade

polo ralph lauren outlet online

ugg boots

pandora charms outlet

polo ralph lauren shirts

michael kors outlet clearance

cheap jordan shoes

michael kors outlet clearance

michael kors outlet store

gentle monster sunglasses

kate spade outlet online

kate spade handbags

christian louboutin sale

ugg boots clearance

coach factory outlet

kate spade new york

canada goose outlet store

polo ralph lauren outlet

michael kors outlet clearance

chloe sunglassess

ralph lauren

air jordan shoes

cheap air jordans

michael kors outlet clearance

uggs on sale

cheap jordans

christian louboutin

san antonio spurs jersey

coach outlet online coach factory outlet

tory burch handbags

jordan shoes

canada goose uk

swarovski crystal

cheap michael kors handbags

givenchy jewelry

oakley sunglasses wholesale

jordan shoes

cheap uggs

miu miu outlet

michael kors outlet clearance

true religion jeans

pandora jewelry

alife clothing

isabel marant shoes

coach factory outlet

adidas outlet store

true religion jeans for men

michael kors outlet clearance

coach outlet online

ugg boots on sale

cheap air jordans

cheap ray ban sunglasses

freshjive clothing

pandora jewelry

cheap ray ban sunglasses

cheap air jordans

coach factory outlet

christian louboutin sale

chloe outlet

coach handbags online outlet

mac outlet

cheap jordan shoes

calvin klein jeans

adidas outlet store

michael kors outlet clearance

balmain jeans

true religion jeans sale

moncler outlet

pandora charms sale clearance

kevin durant jerseys

nfl jerseys wholesale

ugg outlet online

canada goose outlet online

coach factory outlet

fendi handbags

canada goose jackets clearance

jordan shoes

furla handbags

ugg boots

ugg boots outlet

ray ban sunglasses outlet

chrome hearts clothing

cheap oakley sunglasses

supreme shirts

harden vol 2

polo ralph lauren shirts

canada goose outlet store

christian louboutin

air max 2018

polo ralph lauren

air max 90

air max 97

colts jersey

uggs outlet

cheap ray ban sunglasses

adidas soccer shoes

coach factory outlet

christian louboutin

canada goose outlet

polo ralph lauren outlet

ralph lauren outlet

swarovski jewellery

ray-ban sunglasses

longchamp pliage

brequet wathes

oakley sunglasses wholesale

pandora charms

air max 90

fossil watches

canada goose

coach factory outlet

nfl jerseys

ugg boots

ray ban sunglasses outlet

alexander mcqueen shoes

michael kors bags

coach factory outlet

ralph lauren

coach outlet online

jordan shoes

pandora outlet

uggs outlet online

true religion outlet store

barbour mens jackets

ralph lauren outlet

coach outlet store online

canada goose outlet online

uggs canada

fingerlings monkey

louboutin shoes

coach factory outlet

adidas shoes

kate spade new york

coach outlet store online

michael kors outlet clearance

nike outlet

jimmy choo sunglasses

christian louboutin sale

fitflops sandals

jimmy choo shoes

polo ralph lauren factory store

michael kors outlet online

coach outlet store online

pandora outlet

cheap ugg boots

kate spade handbags

audemars piguet watches

cheap jordans

ralph lauren

kd 10 elite

coach outlet canada

canada goose outlet online

coach outlet store online

polo ralph lauren shirts

g-star jeans

michael kors

ralph lauren

dsquared2 jeans

air jordan shoes

oakley sunglasses wholesale

polo outlet

basketball sneakers

canada goose outlet sale

ray ban sunglasses outlet

polo outlet

canada goose jackets

coach outlet online

cheap ray ban sunglasses

michael kors outlet clearance

nike trainers

under armour outlet

Рекомендуемое

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: