Изображение создано Global Voices с помощью Canva

[Все ссылки в тексте — на португальском языке, если не указано иное.]

Эта статья — часть серии материалов Global Voices, которые будут выходить в апреле 2026 года под общим названием «Человеческий взгляд на ИИ» [рус]. Серия посвящена тому, как технологии искусственного интеллекта применяются в странах глобального большинства, как они влияют на отдельные сообщества и какие последствия этот технологический эксперимент может иметь для будущих поколений. Вы можете поддержать проект здесь [анг].

В ноябре 2023 года группа родителей из школы в Рио-де-Жанейро обратилась в полицию: в заявлении указывалось, что подростки рассылали друг другу обнажённые фото одноклассниц, сгенерированные с использованием искусственного интеллекта (ИИ). Менее чем через год, в сентябре 2024 года, в штате Баия ещё одна группа подростков подозревалась в использовании ИИ для создания порнографических фотографий одноклассниц, в то время как в штате Мату-Гросу несколько студентов отчислили за распространение в соцсетях созданных ИИ порнографических фото преподавателя и других студентов.

Это лишь малая доля инцидентов, о которых писали бразильские СМИ и которые упоминаются в аналитической записке независимого исследовательского центра InternetLab. Документ посвящён обсуждению «способов борьбы с сетевым насилием в отношении девочек и женщин в Бразилии», и его авторы призывает власть к формированию регуляторных механизмов с учётом местного контекста.

По данным Бразильского форума общественной безопасности, только в 2025 году в стране зарегистрировано 1.568 случаев фемицидов (убийств женщин) — на 4,7 % больше, чем годом ранее, и это самый высокий показатель с момента принятия закона, закрепившего этот термин десять лет назад. Увеличение числа случаев гендерного насилия, о которых писали СМИ, привело к протестам [рус] в конце 2025 года. А как сообщает немецкая государственная телерадиовещательная организация Deutsche Welle, растущее количество женоненавистнического контента в сети «подпитывает насилие».

По словам руководителя по исследованиям центра InternetLab и одного из авторов аналитической записки Клариче Таварес, побеседовавшей с Global Voices, гендерное насилие в сети и гендерное насилие в реальности — фрагменты единой мизогинной структуры, сосуществующие и подпитывающие друг друга. «Мы переживаем сложный период растущего насилия в отношении женщин, и нам нужна государственная политика, чтобы рассматривать эти случаи с учётом их специфики», — считает она.

Говоря о связи ИИ и гендерных проблем, Таварес отмечает, что данные, на которых обучаются платформы, могут быть предвзятыми и тем самым влиять на итоговый контент. По её словам, InternetLab сосредоточился в своей аналитической записке именно на насилии, связанном с ИИ, из-за масштаба его последствий и возможности противодействовать ему с помощью адекватного регулирования.

Среди прочего в документе InternetLab говорится о рисках, связанных с «дипфейками сексуального характера, сгенерированными без согласия изображённого человека». Авторы настаивают, что сама возможность создания такого контента должна классифицироваться как «чрезмерный риск», поскольку «эти технологии непропорционально затрагивают женщин и девушек»:

Uma pesquisa conduzida pela Security Hero demonstrou que deepfakes sexualmente explícitas representam 98% de todos os vídeos de deepfake online, e que 99% das pessoas alvo desses conteúdos eram mulheres. A pesquisa também indicou um aumento de 464% do número de deepfakes sexuais entre 2022 e 2023.

По данным исследования, проведённого командой сайта Security Hero [анг], дипфейки откровенного сексуального характера составляют 98 % всех дипфейковых видео в сети, и 99 % мишеней подобного контента — женщины. В исследовании также отмечен рост числа дипфейков сексуального характера на 464 % в период с 2022 по 2023 год.

Хотя Таварес подчёркивает, что проблема не ограничивается какой-то одной платформой, она называет Grok [анг] — ИИ, встроенный в X, — вершиной айсберга, обнажившей гораздо более широкую проблему, уже распространившуюся в интернете.

I think this case calls for attention, since the AI that made it possible to create this sort of content was already part of its own social media, which helped to amplify the reach of such content. It was very much on the surface. I think it's a systemic issue, but Grok’s case made it impossible not to discuss it or worry about the current state of things. It was evident there had been several flaws in the tools and the platforms that allowed these things to happen on such a large scale.

Думаю, этот случай требует особого внимания, раз ИИ, позволивший создавать подобный контент, уже был встроен в саму социальную сеть, которая затем способствовала его массовому распространению. Всё было очевидно. На мой взгляд, речь идёт о системной проблеме, однако именно история Grok довела нас до точки кипения — больше невозможно молчать и закрывать глаза на текущее положение вещей. Стало очевидно, что в инструментах и на самих платформах накопилось множество уязвимостей, позволяющих подобному контенту распространяться в таких масштабах.

Что говорит бразильский закон?

За последнее десятилетие бразильское законодательство в сфере цифровых прав было усовершенствовано. В прошлом году, спустя 11 лет после подписания Закона об интернете Федеративной республики Бразилия [рус], который называют бразильской «конституцией интернета» [анг], Федеральный верховный суд Бразилии (STF) признал одну из его статей частично неконституционной. Речь идёт о статье 19, определяющей гражданскую ответственность платформ за контент, публикуемый третьими лицами (пользователями). Большинство судей признали, что в нынешних обстоятельствах эта норма уже не обеспечивает достаточной защиты фундаментальных прав и демократии.

«Нам потребуется немало времени, чтобы понять, как это решение будет реализовано на практике. Новый порядок в части ответственности платформ установил правила, как будут функционировать платформы до тех пор, пока новые законы не будут доработаны. Сейчас у платформ больше обязанностей в сфере модерации контента, так что решение суда заложило для нас новую систему взглядов на прозрачность платформ и их обязательства», — говорит Таварес.

В контексте онлайн-гендерного насилия Клариче также подчёркивает важность юридического определения самого понятия мизогинии для практического применения решения Верховного суда: «Мы хотим адаптировать это решение и уже существующие государственные политики и законодательство о гендерном насилии к новой реальности цифровой агрессии».

В анализе InternetLab отмечается рост числа законопроектов, нацеленных на криминализацию мизогинного поведения и так называемых движений «красная таблетка» [рус] движения Red Pill [Рус.]и маносфера [рус]. Однако авторы подчёркивают: хотя это и важный шаг в борьбе с проблемой, ставка исключительно на уголовное преследование может снизить эффективность стратегий профилактики и механизмов восстановления прав пострадавших.

Среди рекомендаций InternetLab в сфере ИИ — разработка образовательных программ по цифровой грамотности с целью развивать критическое мышление и понимание принципов работы алгоритмов, платформ, инструментов искусственного интеллекта и прочих элементов цифровой экосистемы.

Что касается самих платформ, в документе рекомендуется внедрять меры безопасности ещё на этапе проектирования сервисов [анг] «для предотвращения создания и распространения данного типа контента», жертвами которого чаще всего становятся женщины и дети. Дипфейки сексуального характера, сгенерированные без согласия человека, следует считать «чрезмерным риском», а их использование и распространение — запретить. Кроме того, необходимо установить чёткие правила, регулирующие прозрачность и ответственность цифровых платформ и ИИ-систем.

По оценкам Movember Foundation [анг], всемирной благотворительной организации по поддержке мужского здоровья, две трети молодых людей регулярно взаимодействуют в интернете с инфлюенсерами, продвигающими идеи «маскулинности». В статье [анг], опубликованной структурой «ООН-женщины», говорится, что «эксперты приходят к выводу: популярность экстремистской риторики в маносфере не только нормализует насилие в отношении девочек и женщин, но также всё чаще оказывается связана с радикализацией и экстремистскими идеологиями».