[1]Генеральный директор Facebook Марк Цукерберг на сцене во время Facebook-конференции F8. Фотография пользователя pestoverde с Flickr (CC BY 2.0)
В попытке подавить ненависть и расовую дискриминацию онлайн, немецкие законодатели создали в 2017 году один из самых противоречивых законов Евросоюза в области регулирования онлайн-платформ.
Известный как «NetzDG», Netzwerkdurchsetzungsgesetz [2] [нем] (Закон о защите сети) требует от крупных социальных сетей активно применять немецкие законы о свободе выражения на своих платформах. Это было встречено шквалом критики [3] [анг] как внутри страны, так и за рубежом.
Закон налагает штрафы на социальные сети в том случае, если они не удалят «явно противоречащее закону» содержание за 24 часа с момента получения жалобы на подобный контент, а также дает компаниям семь дней на рассмотрение случаев с более двусмысленными материалами. Поскольку в немецком Уголовном кодексе [4] [анг] уже есть термин «разжигание ненависти», этот закон не предлагает каких-либо новых мер или определений, выходящих за рамки требований к крупным социальным сетям реагировать на судебные требования, связанные с законом и касающиеся немецких обращений.
Взамен, он принуждает компании отслеживать высказывания, разжигающие ненависть, либо платить астрономические штрафы за многократное нарушение закона в размере до 50 миллионов евро. Мало того, что это усиливает давление на компании, требуя незамедлительной реакции, но также заставляет их решать что является или не является текстом, разжигающим ненависть. Так как срок для удаления подобного контента дан весьма короткий, это может привести к применению компаниями автоматической цензуры, чтобы избежать неподъёмных штрафов.
NetzDG вырастает скорее из сложившейся на данный момент в Европе политической ситуации, нежели из давней напряженности между властью и вопросом о правах соцмедиа, когда речь заходит о разжигании ненависти онлайн.
Во время предвыборного сезона в Германии в 2017 году опасения, что правое крыло, партия «Альтернатива для Германии [5]» (AfD), завоюет места в парламенте, привели к какофонии голосов, призывавших законодателей блокировать разжигающие ненависть заявления в социальных сетях, причём основной мишенью стал Facebook. Эта какофония практически заглушила голоса, которые ратовали за разумный подход, требующий от компаний большей прозрачности и подотчётности в вопросах, касающихся защиты прав и интересов пользователей.
Хотя эти положения должны соблюдать все социальные сети, эксперты склоняются ко мнению, что «Закон о Facebook» изначально был направлен на совершенно конкретную цель.
Что мы сейчас имеем в Германии: закон, который требует особого уважения и огромного внимания со стороны Facebook, фактически не принуждая компанию изменить свою политику в интересах общества.
Каждый раз, когда законодатели сталкиваются с требованиями бороться с разжиганием ненависти в интернете, они стараются переложить всё больше и больше реальной ответственности за регулирование контента на плечи частных компаний. В конечном результате от Facebook требуют больше — а не меньше — решать, какие типы контента могут оставаться онлайн.
И хотя технически закон реализуется на территории Германии, последствия его принятия могут ощущаться во всем мире. Возможно ли изменить закон в такой степени, чтобы предотвратить дальнейший ущерб правам человека в интернете? Или он должен быть просто отменен?
Лучшее управление? Трудно сказать
На практике NetzDG создает несколько отличающийся от прочих пользовательский интерфейс для немецких пользователей Facebook — в том случае, если они сталкиваются с информацией, которую могут счесть незаконной. Когда пользователи решают пометить потенциально незаконный контент, они переходят на отдельную страницу, где можно отправить жалобу с требованием к Facebook удалить указанную информацию в соответствии с законом NetzDG. Эта страница никоим образом не связана с существующими механизмами для сообщений о нежелательном контенте, которые Facebook предлагает пользователям, живущим в других странах. Механизм рассмотрения жалоб, судя по всему, тоже другой.
Снимок экрана жалобы NetzDG, сделанный автором.
Большая часть того, что делает закон NetzDG, имеет отношение к действующим правовым стандартам Германии, касающимся незаконного контента. Важно отметить, что он также устанавливает жёсткие временные рамки и штрафы, если речь идет об удалении компанией нежелательной информации.
Однако мы все ещё слишком мало знаем о том, как на самом деле Facebook определяет, какой контент нарушает немецкий закон, а какой нет.
Контент отмечен незаконным на Facebook: будет ли его оценивать человек или алгоритм? Если это живой человек, то живёт ли он в Сан-Франциско, на Филиппинах или в Дублине? На каких языках он говорит? Имеет ли он представление о культурном контексте каждого сообщения, помеченного нежелательным? Обладает ли этот человек юридическими познаниями? Кто принимает окончательное решение в процессе проверки контента?
Мы всего этого не знаем, потому что Facebook не открывает эту информацию. А процесс может сильно меняться в зависимости от ответов на эти вопросы.
Недостаточная прозрачность
Более светлое положение NetzDG — требование к компаниям публиковать подробные периодические отчёты о результатах применения закона. Однако сведения для подобного прозрачного отчёта, утверждённые законом NetzDG, не предполагают чёткого понимания, каким образом Facebook принимает решения. Понятие прозрачности касается исключительно вопроса применения самого закона, но не затрагивает все решения об удалении контента, принятые Facebook. Решения, принятые в рамках Условий предоставления услуг, полностью автономны — закон не требует от них какой-либо прозрачности.
Более того, NetzDG жаждет получить от Facebook такой уровень прозрачности, к какому само немецкое правительство не обязывает даже собственные органы. Невозможно получить национальный обзор запросов на удаление контента или предоставление данных, сделанных немецкими властями, не говоря уже о разбивке информации в рамках этих отчётов по каждому органу. Некоторые немецкие компании, как, например, платформа электронной почты Posteo [6] [нем], считают, что большая часть официальных запросов о пользовательской информации, которые получают компании, является незаконной с точки зрения немецкого права. Означает ли это, что примерно такая же доля запросов об удалении контента является незаконной? Доступ к информации по подобным запросам помог бы прояснить ситуацию.
В то же время закон NetzDG пытается ввести дополнительные меры по прозрачности о принятии решений командой Facebook, требуя регулярные отчёты от компании о том, как выполняется закон.
[7]Демонстрация против партии «Альтернатива для Германии» в Кёльне (Германия), апрель 2017 года. Фотография Элке Ветзиг (Elke Wetzig) с Wikimedia (CC BY-SA 4.0)
Наконец, закон упускает возможность установить общий стандарт раскрытия информации, что позволило бы вести нормальный поиск и сверять данные различных частных компаний. Это означает, что каждая компания будет предоставлять данные в разных форматах и с различными показателями, делая осмысленное их сравнение — например, между Facebook и Twitter — по сути своей невозможным. Частные компании давно могли бы совместно разработать подобные стандарты открытости, но, поскольку они не особенно заинтересованы в том, чтобы упростить процесс сравнения данных, вмешаться и установить новые стандарты должны организации гражданского общества.
Вместе вышеупомянутые факты делают невозможным для независимой третьей стороны ссылаться на отчёты о прозрачности государственного сектора и такую же информацию от частного сектора. Не нужна высшая математика, чтобы обеспечить прозрачность как государственного, так и частного секторов, что, в свою очередь, позволит независимой стороне проверять сделанные заявления и, следовательно, сделает их более надёжными, чем если бы они поступали только от одного сектора. Однако так далеко закон не заходит — в ущерб общественным интересам.
Игнорирование недостатков саморегуляции
Что выглядит еще более абсурдно, так это то, что во время публичных дискуссий, касающихся закона, все говорили о том, что существующая система саморегулирования Facebook не работает. При этом в NetzDG почти нет положений, который улучшали бы ситуацию.
Это означает, что Facebook по-прежнему может спокойно удалять изображения матерей, кормящих грудью [8] [анг], или спокойные политические дискуссии [9] [анг], которые платформе показались оскорбительными, при этом оставляя нетронутыми призывы к насилию [10] [анг].
Ужесточение минимальных стандартов саморегуляции Facebook будет иметь большое значение при ответах на сложные вопросы о регулировании контента на Facebook, той практике, о которой мы все ещё практически ничего не знаем.
Например, минимальный уровень юридической подготовки — в немецком законодательстве — для тех, кто принимает решения о контенте, обеспечит более эффективную работу в соответствии с немецким законом.
Черная дыра дерегулирования
Как заметил автор NetzDG из министерства юстиции Германии: «К власти и контролю прилагается и огромная ответственность».
Однако уникальные возможности и влияние соцмедиа привели законодателей к регуляционному парадоксу. Чем больше они беспокоятся о том, чтобы «сделать что-нибудь с Facebook», тем глубже погружаются в черную дыру дерегулирования. Возможно, досадуя на особенное положение компаний соцмедиа, законодатели перекладывают ответственность и полномочия по принятию решений на плечи этих компаний, что совершенно не помогает решению проблемы. Таким образом, они приватизируют решения, которые должны были бы приниматься независимой стороной. Каждая попытка регулирования, предпринимаемая властями с лучшими побуждениями, приводит их в ту же ловушку, когда на Facebook, Google и прочих игроков на этом рынке налагается всё больше и больше ответственности.
Госсектор тоже не улучшает ситуацию
Кроме того, существуют другие сферы, в которых публичный сектор мог бы играть значимую роль в вопросах ограничения контента, разжигающего ненависть. Если бы судебные решения были легкодоступными для широкой аудитории, пользователи, столкнувшиеся с оскорблениями и угрозами насилия онлайн, могли бы быстро обратиться к властям за помощью и поддержкой. Вместо того, чтобы превращать Facebook в частную полицию, закон мог бы переложить ответственность за принятие решений на государственные субъекты. Разумеется, это также потребует от них признания того, что сейчас необходимы улучшения для обеспечения быстрого и эффективного беспристрастного принятия решений в рамках действующего немецкого законодательства и международных стандартов.
Это не невозможно.
В нидерландской полиции действует специальное централизованное подразделение, которое занимается обработкой всех запросов об удалении контента и предоставлении информации к поставщикам онлайн-услуг, проверяя юридическую обоснованность этих запросов. Такая модель, в сочетании с дополнительным судебным надзором, могла бы стать первым шагом для немецких законодателей, показывающим, насколько серьёзно они относятся к решению проблемы, вместо того, чтобы ждать, пока Facebook сделает это за них. Перегружая ответственность этой соцсети, государственный сектор не только не решает, но и обостряет проблему.
Можем ли мы починить закон?
Так что же это означает на практике? Можем ли мы исправить закон, и если да, то каким образом? В общих чертах, законодатели могли бы улучшить NetzDG, уменьшив объём власти в сфере регулирования, переданный частным компаниям, и убедившись, что большая степень ответственности переведена на общественный сектор и гражданское общество играет более значительную роль в решении проблемы.
Они могли бы отказаться от 24-часового «окна» для удаления контента и заменить его частным решением, в рамках которого Facebook передавал бы все случаи — будь они явно незаконными или нет — немецкому регулирующему органу, у которого будет больше времени, чтобы рассмотреть каждый запрос.
Они могли бы обратиться к законодательной системе Германии вместо требования от Facebook локального решения, чтобы улучшить доступ к правосудию и обеспечить прозрачность и подотчётность имеющихся административных решений.
Трансформированный NetzDG также мог бы установить обязательный открытый стандарт для своих уже обязательных отчётов о прозрачности. Успешный открытый стандарт позволил бы гражданам сопоставлять данные от государственных и частных организаций и использовать эти механизмы, чтобы и компании, и правительство чётко выполняли свои обязательства.
На более высоком уровне закон мог бы стимулировать открытые дебаты с участием всех заинтересованных сторон, который бы определил базовые стандарты саморегуляции для онлайн-платформ (в соответствии с международными стандартами и положениями о правах человека).
На пути к менее одиозному NetzDG
Эти шаги могут трансформировать повсеместно критикуемый закон в менее проблемный юридический текст. Пересмотренный NetzDG, который соответствует международным стандартам в области защиты прав человека и реально учитывает мнения международных экспертов по правовым вопросам на этапе подготовки чернового проекта, может помочь уменьшить размер ущерба, нанесенного законом на международном уровне. Немецкое правительство должно задать себе вопрос, почему аналог закона NetzDG в настоящее время находится на рассмотрении в Государственной думе РФ и как это отразится на обязательствах по защите прав человека.
Чтобы разработать менее проблемный NetzDG, законодатели в первую очередь должны признать существование (де-)регуляционной черной дыры, в которой они оказались, а затем вырваться из неё. Продолжение старой темы не является эффективным способом регулирования работы крупных частных посредников. Лишь фокусирование на базовых нормах и стандартах прав человека поможет найти выход из сложившейся ситуации.