Закрыть

Поддержите Global Voices

Чтобы оставаться независимым, свободным и устойчивым, наше сообщество нуждается в помощи друзей и читателей, как вы.

Поддержать нас

Как пандемия COVID-19 выявляет изъяны в системе модерации контента

Иллюстрация от Mozilla. Используется с разрешения.

Эта статья была написана в соавторстве Соланой Ларсен, редактором по отчётности в Mozilla [рус] о здоровой среде в интернете, и Лейл Захра, членом Mozilla, сотрудничающим с WITNESS.

[Все ссылки ведут на страницы на английском языке, если не указано иного].

В то время, когда весь мир избегает пандемии COVID-19, оставаясь дома, интернет становится более важным ресурсом, чем когда-либо. Многие на данный момент общаются, выражают соболезнования, учатся, работают и развлекаются исключительно в онлайн-режиме.

С одной стороны, пандемия раскрыла потенциал интернета как международного средства общения. В то же время, она обнаруживает опасности интернета. Люди, оказавшиеся без подключения к сети [рус], сейчас находятся в наиболее невыгодном положении. А из-за технологических недоработок, касающихся конфиденциальности и безопасности, многие пользователи оказываются в уязвимой ситуации.

Одной из удручающих проблем, которые были выявлены при пандемии, является недоработанная система модерации контента в интернете. Имеется в виду тот слабый механизм со множеством изъянов, который технические платформы-гиганты используют для борьбы с враждебными высказываниями, дезинформацией и нелегальным контентом. Несмотря на определённый прогресс, Facebook, YouTube и другие платформы часто ограничивают контент своеобразными и совершенно небезопасными способами. Так, к примеру, нежелательный контент проходит цензуру, тогда как безобидная информация несправедливо удаляется. Такие решения в большинстве своём задевают страны «третьего мира» и менее распространённые языки.

На данный момент, мы находимся в критической точке. Станут ли недоработки в регулировании контента множиться? Или этот кризис окажется основой для положительных, устойчивых изменений касательно того, как мы общаемся онлайн?

Один из самых острых вопросов при модерации информационных материалов: кто — или что — ограничивает контент. В связи с быстрым ростом дезинформации в период пандемии и тем, что многие модераторы контента не могут работать, большинство перегруженных платформ всё чаще обращаются за помощью к искусственному интеллекту. Ограничения такого подхода очевидны. Автоматическая фильтрация материалов не смогла остановить распространение с бешеной скоростью недостоверной информации в период пандемии COVID-19, что поставило под угрозу здоровье населения. Сайты заполнены статьями, рассказывающими, что чистящие средства лечат от вируса, или что технология 5G является его разносчиком.

Вдобавок к допуску недостоверной информации на платформы, её автоматическая модерация может случайно привести к отсеиванию качественного контента. Пользователи интернета, задающие важные вопросы или общающиеся на диалекте определённого языка, могут быть ошибочно помечены как проблемные. Во время пандемии автоматическое ограничение контента на сайте Facebook привело к ошибочному удалению огромного количества информации, в том числе ссылок на новостные статьи о COVID-19. В марте представители Facebook заявили, что причиной стала техническая «проблема», и также добавили, что удалённая информация была восстановлена. Данный случай поднимает серьёзный вопрос об эффективности таких систем и, вдобавок, подвергает сомнению информационную прозрачность Facebook. Видеохостинг YouTube сообщил, что в связи с COVID-19 в марте автоматическая модерация будет более жёсткой: «В процессе пользователи и создатели видео могут заметить рост количества удалённых видео, включая ролики, которые не нарушают политику сайта». В похожем ключе, в том же месяце Twitter объяснил, что автоматизированная цензура «иногда может упустить контекст, который находит наша команда, а это приведёт к возникновению ошибок с нашей стороны».

Ситуацию усугубляет и тот факт, что при несправедливом удалении контента или блокировке аккаунта апелляционный процесс может быть не совсем прозрачным. Зачастую пользователям не сообщают о причинах удаления контента или блокировки аккаунта. Даже до начала пандемии контекст был главной проблемой при обсуждении модерации контента. Шли дискуссии, к примеру, о том, стоит ли нормы употребления языка, принятые в США, применять по всему миру.

Изъяны в автоматизированной технологии — это одна сторона медали, другой стороной можно считать странную политику и регламенты. В США, как и в некоторых европейских странах, технологические платформы-гиганты очень строго придерживаются местных законов и внимательно следят за соблюдением нормативных обязательств и регламента внутри компании. В остальном мире дело обстоит по-другому. Во время выборов в Нигерии 2018 года, исследователь и автор статей на GV Розмари Аджайи и группа её коллег зафиксировали сотни сообщений, распространяющих ложную информацию, и были обескуражены непредсказуемой и противоречивой ответной реакцией на жалобы о дезинформации. «Если в день выборов отправляешь важный отзыв, а ответ получаешь через неделю, в чём тогда смысл?» — удивляется Аджайи. В сегодняшнем контексте такая ситуация особенно пугает. Когда платформа удаляет ложную информацию о COVID-19 после того, как миллионы людей её прочитали, что-либо менять уже поздно.

И это всего лишь две из ряда давно существующих проблем в сфере модерации контента. В одном из последних исследований Mozilla о пространстве социальных сетей мы рассмотрели ещё несколько таких вопросов. Мы поговорили с польской неправительственной общественной организацией SIN, которая занимается вопросами наркополитики. Организация была заблокирована на сайте Facebook и им не удалось обжаловать это решение. Мы также побеседовали с исследовательской правозащитной группой Syrian Archive, которая сообщает, что довольно часто платформы стирают доказательства нарушения прав человека в военное время. Нетрудно себе представить, насколько опасными могут быть подобные ситуации во время пандемии. Что случится, если вдруг исчезнет крайне важная информация о здоровье или случайно удалят доказательства ущемления прав человека во время изоляции?

Для решения этих проблем нет универсального средства. Но более высокий уровень прозрачности в отношении того, что удаляется, когда и зачем, наряду с информацией о том, какая часть удалённого контента может быть обжалована и восстановлена, — поможет исследователям и пострадавшим сообществам с большей эффективностью защищать свои интересы. Тем не менее, за последние годы отчёты по прозрачности от платформ-гигантов стали более подробными, частично благодаря давлению со стороны гражданского общества, включая уполномоченных представителей из небольшой рабочей группы The Santa Clara Principles. Эта группа в 2018 году сообщила о своём намерении создать ориентировочный план основополагающих принципов прозрачности и подотчётности в сфере модерации контента, и некоторые из платформ уже поддержали их инициативу. В марте, сообщив, что принятые принципы целесообразно было бы пересмотреть, «Фонд электронных рубежей» (Electronic Frontier Foundation) выпустил международную форму предложений [рус], где пользователи могут оставить свои идеи о том, как можно улучшить ситуацию для тех, чьи голоса замалчиваются и модерируются.

Об ограничениях и о процессе рассмотрения апелляций в международном контексте известно очень мало, поэтому даже словесные доказательства пострадавших пользователей являются ценной информацией. Silenced.online — это новый инструмент, созданный простыми пользователями, для обмена опытом о несправедливом удалении контента по всему миру. Платформа была основана с целью создать сообщество из организаций и людей, которые работают, или хотели бы работать, в сфере удаления и фильтрации контента.

Многие объединения сходятся во мнении о том, как важно гражданскому обществу и исследователям быть вовлечёнными в процесс модерации контента и регулирования платформ. Скандальные проишествия и переломные моменты приводят к созданию новых норм и правил, или к большей автоматизации, не всегда основанной на независимом анализе того, что действительно работает. Новые подходы к созданию механизмов подотчётности и апелляционного процесса, как, например, недавно созданный «Независимый надзорный совет» [рус] для модерации Facebook, требуют внимания мировой общественности.

Как было отмечено выше, пандемия COVID-19 резко выявляет изъяны в системе фильтрации контента, но эти проблемы существуют давно, особенно по вопросам здравоохранения и дезинформации. Чтобы их решить — необходимы изменения в повседневном функционировании платформ, а также прозрачность и подотчётность их работы. Усиленное внимание к данной проблеме может ускорить процесс позитивных преобразований. Также это может привести к большей прозрачности, более гуманным технологиям, качественным законам, а вследствие этого и к здоровой интернет-среде.

Начать обсуждение

Авторы, пожалуйста вход в систему »

Правила

  • Пожалуйста, относитесь к другим с уважением. Комментарии, содержащие ненависть, ругательства или оскорбления не будут опубликованы.

Еженедельная рассылка Global Voices по-русски

Подпишитесь на нашу еженедельную рассылку, чтобы получать лучшие материалы Global Voices по-русски!



Подписку нужно будет подтвердить по почте; ваш адрес будет использоваться исключительно для писем о Global Voices в согласии с нашей миссией. Подробнее о нашей политике конфиденциальности вы можете прочитать здесь.



Рассылка ведётся посредством Mailchimp (политика конфиденциальности и условия использования).

Нет, спасибо