Как всё устроено?

История отдела начинается с 2009 года. Именно тогда Иван Корнеев по приглашению Павла Дурова присоединился к Команде ВКонтакте, до этого занимаясь модерацией на добровольной основе. На тот момент практически все модераторы, коих было порядка десяти человек, работали за идею и только потом стали полноправными членами команды.

Но уже в начале 2010 года появилась первая модерационная среда, с возникновения которой и принято отсчитывать дату зарождения полноценного отдела модерации. Вместе с Иваном в борьбу с самым распространённым на тот момент спамом — SMS-похудением, аудионаркотиками, прочими подписками, инвайтами и ботами — вёл Алексей Богатов.

Сегодня трудится 107 модераторов, бо́льшая часть которых круглосуточно обрабатывает и систематизирует жалобы пользователей, пользуясь собственными современными разработками компании. Тогда, в далёком 2010 году, для работы первого модераторского интерфейса требовался постоянно включённый компьютер, с которого на сервере запускался скрипт по чистке контента и бану взломанных пользователей и ботов.
Иван Корнеев Иван Корнеев руководитель отдела модерации и администрирования ВКонтакте
Около десяти вкладок в браузере обновлялись с шагом в пять секунд. Компьютер нагревался так, что иногда приходилось выключать отопление в комнате. Впоследствии мы автоматизировали процесс, но работающая “печка” у меня стояла ещё долго.

Самой главной оценкой работы нового отдела были не сухие цифры по количеству заблокированных пользователей или единиц удалённого контента: своей заслугой ребята считали тут же появившиеся на одном из популярных среди спамеров ресурсе топики мошенников с вопросами по «работе» ВКонтакте из серии «Что делать?» и «Куда двигаться дальше?». Одновременно с этим стало очевидно, что играть со спамерами в “догонялки” и пытаться реагировать на каждый новый их ход бессмысленно: нужно действовать на опережение.

В августе 2010 года система борьбы со спамом была полностью модернизирована. Собрав, изучив и систематизировав накопившийся опыт, команда целиком переписала систему. Новейшие технологии и талантливая команда позволили отражать спам-атаки в течение 1–5 минут.
Иван Корнеев Иван Корнеев руководитель отдела модерации и администрирования ВКонтакте
Это был прорыв. Даже прежние качественные системы по сравнению с новым интерфейсом выглядели полумерами. Это был первый по-настоящему глобальный интерфейс модерации.

В ноябре 2011 года появилась новая модерационная группа, которая занималась обработкой жалоб на порнографию, рассылку спама и оскорбительное поведение, поступающих через кнопку «Пожаловаться на страницу». Впоследствии к ним добавились и жалобы на рекламные страницы, которые за сам факт своего существования исключаются из поиска, а в случае рассылки спама также блокируются. Зачастую пользователи ошибались и отправляли туда жалобы на свои старые страницы, поэтому в интерфейсе появилось напоминание с советом обратиться в Поддержку. Стоит отметить, что вне зависимости от типа жалобы модератор проверяет все четыре возможные причины нарушения, так что рядовому пользователю не стоит бояться промахнуться кнопкой. Впрочем, правильно выбранная причина акцентирует внимание на настоящей проблеме и ускоряет разбор.
 
Иван Корнеев Иван Корнеев руководитель отдела модерации и администрирования ВКонтакте
Если вы встретили любителя клубнички, который не посчитал нужным прикрыть «срам», можно смело на него жаловаться, как и на назойливые рекламные странички, владельцы которых никак не могут понять преимуществ официальных методов ведения своих дел.

Третья модерационная группа создавалась уже в помощь наладчикам искусственного интеллекта. Занимается она ручной модерацией спама и вступает в дело тогда, когда глобальные системы не требуются. Именно к этим сотрудникам попадают жалобы после клика на кнопку «Это спам». В отделе 59 спам-аналитиков, которые также ежесуточно разбирают около 700 тысяч жалоб, поступающих на рассмотрение. Работа имеет приятный побочный эффект: все мировые новости аналитики узнают даже раньше информационных агентств, так как пользователи начинают тут же делиться ими в группах и на страницах.

Четвёртая модерационная группа может похвастаться самыми железными нервами и устойчивой психикой: именно она разбирает жалобы на наркотики, детскую порнографию, насилие и прочий шок-контент. Это те самые жалобы, которые появляются после клика на «Это спам» с предложением указать детальную причину. Все модераторы тщательно изучают контент (а в некоторых случаях и совокупность всех факторов) для вынесения объективного решения.

Иван Корнеев Иван Корнеев руководитель отдела модерации и администрирования ВКонтакте
Очень важно правильно выбирать причину своей жалобы, дабы точно донести её до людей, которые принимают решения.

На данный момент ВКонтакте продолжают обновление собственной видеоплатформы, поэтому формируется пятая команда, которая будет отвечать за создание релевантной глобальной подборки видеозаписей и классификацию роликов по жанрам. Разумеется, составлением рейтинга видео и их ранжированием займётся система. Модераторы будут лишь оценивать контент и отсеивать из подборок то, что противоречит правилам сайта. В результате поисковая выдача должна превратиться в красочную витрину популярного и востребованного видео.

Особенностью работы модераторов является то, что они никогда и ни при каких условиях не общаются с пользователями напрямую. Более того, даже названия отделов засекречены, поэтому в этом тексте приходится использовать такой эвфемизм, как «модерационная группа».

Однако некоторую информацию о наборе новых сотрудников сделать достоянием общественности всё-таки получилось: модераторы набирались из кандидатов на должность агента поддержки. Первоначально всем соискателям предлагается один и тот же тест, результаты которого обрабатывают специалисты. Случается, что по тесту очевидна склонность человека к аналитическому мышлению, и работа в отделе модерации и администрирования подойдёт ему наилучшим образом. В таком случае предлагается дополнительный тест на должность модератора, по результатам которого соискатель может получить приглашение в команду. Несмотря на закрытую вакансию, поток желающих попасть в агенты до сих пор не ослабевает, поэтому именно оттуда отдел модерации до сих пор черпает новые резервы.

Расставаться иногда приходится. Причиной может стать только полная профнепригодность, при которой человек воспринимает происходящее с отрывом от реальности и инструкций. Внутри команды есть как молодые мамочки, так и опытные матёрые тролли — нередко между ними происходят баталии на тему того, что такое шок-контент. Работа над собой и вынесение вопросов на обсуждение в команде только приветствуются. Запрещено же только одно: руководствоваться в работе личными пристрастиями и убеждениями. Впрочем, увольнения случаются крайне редко. Обычно люди если и покидают отдел, то по личным причинам. Например, талантливейшая Валерия Фортуна оставила модерацию ради любимого дела: теперь она рисует стикеры.

vk.com/stickers/mikhailvk.com/stickers/maslenitsa

Иван Корнеев Иван Корнеев руководитель отдела модерации и администрирования ВКонтакте
Основная моя задача состоит в формировании модерационной политики, разработке инструкций и решении спорных вопросов. Непосредственным же руководством отделами занимаются старшие модераторы. Вика, Оля, Катя, привет! (И тут я понимаю, что всеми модерационными структурами, которые находятся в моём ведении, руководят девушки.)

При этом модератор всегда должен быть на смене и во всеоружии. Только рассматривающий жалобы на страницы отдел может позволить себе принимать решение 5–10 минут. Во всех остальных группах на рассмотрение жалобы уходит несколько секунд.

Разумеется, постоянно работать в таком режиме сложно, поэтому смены модераторов редко превышают 4–5 часов. Не появиться на смене нельзя: в случае форс-мажора модератор обязан сразу же в любое время суток отзвониться руководителю, который оперативно ищет ему замену или садится работать за него. В последнее время просыпаться ночами руководителям приходится реже: у ВКонтакте появилась новая рабочая зона , где круглосуточно может выйти на пост любой сотрудник.
Иван Корнеев Иван Корнеев руководитель отдела модерации и администрирования ВКонтакте
Я не верю в киборгов, которые работают более 5–6 часов, потому что реакция на жалобу в несколько секунд — это на самом деле сложная работа. Случается, что перерабатывают в два-три раза те, у кого качество не страдает. Но это единичные случаи. Одного желания много работать — мало, нужно уметь это делать.

Очевидно, что при таких объёмах необходимо контролировать качество работы. В этом помогают разные инструменты: есть внутреннее комментирование, каждый сотрудник может посмотреть результаты работы другого и оставить свои замечания или предложения. Есть выборочный мониторинг руководителем качества работы: проверяются отдельные решения, по которым строится индивидуальный граф. Есть фидбэк от пользователей в поддержке, а в ближайшем будущем появится собственная автоматическая система контроля качества.

Пробелы в качестве не означают автоматического наказания. Первоочередная задача руководителя — понять, почему у сотрудника случаются проколы, помочь ему справиться с этой ситуацией и только потом принимать определённые оргвыводы.

Задача модератора — не жать на кнопки по инструкции, а думать головой и анализировать каждый случай. Если по жалобе видна обоюдная перепалка и взаимные оскорбления, модератор не станет заменой чёрному списку — в отличие от тех случаев, когда провокация не прослеживается. То же самое касается и тролль-атак. Если группу вегетарианцев спланировано засыпают картинками шашлыка, в группу мамочек постят трэш, а сообщество Volvo целенаправленно атакуют вопросами «Когда выйдет Half-Life 3?», то за это последует наказание.

При этом за исключением серьёзных нарушений у пользователей всегда остаётся право на ошибку. Нельзя одинаково карать профессионального спамера и школьницу, которая хочет прорекламировать группу про «Винкс». Первая блокировка, как правило, может быть снята самим оступившимся пользователем, а в случае рецидивов наказание будет расти соразмерно — вне зависимости от того, взломан был пользователь или нет. Если человек не позаботился о своей безопасности и его снова взломали, то страдает не только он. Страдают все получатели спама с его страницы. В случае уверенности во взломе пользователю автоматически отображаются инструкции по безопасности, а при каждой блокировке на странице высвечивается предложение обратиться в Поддержку и прояснить не до конца понятные моменты.

К слову, самый популярный спам-тренд на сегодняшний день — попрошайки, со страниц которых мошенники пишут просьбы выслать деньги друзьям жертвы. Впрочем, отдел модерации не только изучает внешние источники и общается с коллегами, но и внимательно анализирует все всплески спамерской активности, чтобы всегда держать руку на пульсе.