Скрнишот из X (бывший Twitter), демонстрирующий, как люди пользуются чат-ботом Grok для сексуализации женщин

[Все ссылки в тексте — на английском языке, если не указано иное.]

Автор: Виктори Браун

Эта статья — часть серии материалов Global Voices, которые будут выходить в апреле 2026 года под общим названием «Человеческий взгляд на ИИ». Серия посвящена тому, как технологии искусственного интеллекта применяются в странах глобального большинства, как они влияют на отдельные сообщества и какие последствия этот технологический эксперимент может иметь для будущих поколений. Вы можете поддержать проект здесь.

Как нигерийка, которая пользовалась X (бывшим Twitter) долгие годы, я наблюдала многое: тренды, которые вспыхивают и исчезают, изменения в политике платформы, сообщества, которые то формируются, то распадаются. Когда-то я считала себя «осознанным» пользователем интернета: тщательно подбирала ленту, старалась излишне не вовлекаться, отключала триггерные ключевые слова и принимала неприятную истину — интернет никогда не был безопасным пространством, особенно для женщин.

Моя работа в некоммерческой дизайн-студии Superbloom — особенно участие в проектах, ориентированных на человека, и разработка методических материалов по технополитике в сфере онлайн-гендерного насилия — впервые позволили мне осознать масштабы и интенсивность происходящего. Я стала свидетельницей того, как онлайн-насилие повторяется снова и снова: жертвы остаются в страхе и уязвимости, тогда как агрессоры практически не несут ответственности. Зачастую единственная мера наказания — временная блокировка, после которой они возвращаются под новым аккаунтом и находят очередную жертву. Социальные сети, бывшие в самом начале пространством для общения, создания сообществ и развития бизнеса, всё чаще превращаются в поле боя — враждебную среду, где женщины слишком часто становятся мишенью немотивированной агрессии. По оценкам ООН, лишь около 40 % стран приняли законы, защищающие женщин и девочек от онлайн-насилия, что оставляет значительную часть населения без поддержки.

Работая UX-дизайнером, я на практике убедилась, как решения, принимаемые на уровне дизайна — порой незаметные для пользователя — влекут за собой реальные последствия. Будь то интерфейс платформы или скрытые механизмы вроде хранения данных и защиты приватности, — дизайн может или защитить пользователя, или подвергнуть его риску. Стало очевидно: хороший дизайн — не только удобство и интуитивность. Это ещё и защита, прозрачность и доступность.

Однако я заметила, что большинство социальных платформ, таких как X, фактически допускают распространение пасссивно-агрессивного контента. Я с этим сталкивалась и лично, и как наблюдатель. Особенно ярко это проявляется в случае с Grok, ИИ-ассистентом, разработанным компанией Илона Маска xAI и встроенным непосредственно в X. Ассистент позволяет пользователям генерировать тексты и редактировать изображения по простым запросам, включая изменение фотографий. Поскольку Grok встроен в платформу, он не существует изолированно: созданный им контент можно мгновенно транслировать, усиливать и превращать в оружие. Отсюда встаёт острый вопрос: что произойдёт, когда ИИ-контент начнёт циркулировать в и без того небезопасной онлайн-среде. Интернет был враждебным пространством и до появления Grok. Поводом для атаки могла послужить внешность женщины, её религиозные убеждения или политическая позиция, акцент, идентичность и многое другое.

Открытая позиция, публичность — а порой и само присутствие женщины в сети, особенно если речь идёт о чёрной нигерийке, — часто влекло за собой определённые последствия. Исследования показывают, что, хотя женщины по всему миру регулярно сталкиваются с онлайн-насилием, чёрные женщины подвергаются травле значительно чаще, чем белые.

Буллинг стал нормой, коллективные атаки — формой развлечения, а насилие прикрывается риторикой о «свободе слова». И хотя подобные преступления могут казаться незначительными, их последствия для жертв нередко оказываются разрушительными.

Исследования по всему миру подтверждают, что женщины сталкиваются с непропорционально высоким уровнем онлайн-преследований: мизогинной агрессией, киберсталкингом и скоординированными кампаниями травли. Данные по Нигерии свидетельствуют, что эти тенденции ещё сильнее выражаются на национальном уровне. Так, по информации ActionAid Nigeria, около 45 % нигериек сталкивались с киберсталкингом, а более широкий анализ цифрового насилия показывает, что в наиболее уязвимую группу входят женщины и девочки.

Однако с появлением и массовым распространением Grok произошёл заметный сдвиг. То, что раньше проявлялось как агрессия, исходящая от отдельных пользователей, стало выглядеть системой.

Структурные уязвимости, которые питают вредоносный ИИ

В цифровой и институциональной среде Нигерии уже заложены структурные уязвимости, которые не только определяют, как внедряются технологии ИИ, но и усиливают вред, который могут нанести плохо регулируемые системы. В этом контексте вряд ли станет новостью информация о слабости правовой системы в части соблюдения принципов верховенства закона.

В Нигерии условия, формирующие цифровую реальность, — вопрос далеко за рамками непосредственного доступа к технологиям. Они напрямую влияют на то, кто оказывается уязвимым, как быстро распространяется вред и насколько трудно добиться защиты или справедливости. Когда в такую среду внедряются системы без должного регулирования, существующие гендерные риски не просто проявляются — они многократно усиливаются.

Регулирование ИИ в стране остаётся фрагментированным: существующие политики и нормы, касающиеся цифровой сферы, разбросаны между разными ведомствами. Это создаёт путаницу — неочевидно, кто отвечает за какие риски и как именно должны применяться защитные меры.

Показательный пример подобной динамики — недавняя общемировая дискуссия о Grok.

Grok, созданный для генерации и редактирования изображений по простым запросам, быстро стал использоваться для создания миллионов изображений сексуализированного характера без согласия пользователей, включая женщин и несовершеннолетних. Серия расследований показала, что пользователи X открыто использовали функции редактирования Grok, без согласия модифицируя снимки женщин и несовершеннолетних, превращая их в откровенные или сексуализированные версии. Журналисты и исследователи отмечают, что инструмент по-прежнему может генерировать такой контент даже после обновления правил платформы. В ряде случаев это прямо говорит о сохраняющихся проблемах с модерацией и правоприменением.

В такой стране как моя, где онлайн-насилие — повседневность, а платформы ни за что не отвечают, эти ИИ-инструменты лишь укрепляют уже существующие модели интернет-злодеяний. Согласно докладу от 2024 года «Масштабы онлайн-насилия в Нигерии» («State of Online Harms in Nigeria» [pdf, 3,0 МБ]), подготовленному Gatefield, женщины становились мишенью в 58 % случаев онлайн-насилия. При этом основные площадки, где зафиксированы злоупотребления, — X и Facebook (34 % и 29 % соответственно). Однако лишь 24 % нигерийцев считают, что X действительно реагирует на жалобы, связанные с цифровым насилием.

Более того, последние исследования и прогнозы показывают, что ситуация может значительно ухудшиться по мере распространения генеративных ИИ-инструментов. В новом докладе Gatefield от февраля 2026 года «Индустриализированное насилие: масштабы насилия с использованием ИИ в Нигерии» («Industrialized Harm: The Scale of AI-Facilitated Violence in Nigeria») говорится, что к 2030 году до 70 миллионов нигерийских женщин и девочек могут ежегодно страдать от онлайн-насилия с использованием ИИ, а около 30 миллионов станут непосредственными мишенями.

Разрыв между масштабом вреда и низким уровнем ответственности создаёт благоприятную среду для распространения злоупотреблений с использованием ИИ. Когда платформы не обеспечивают эффективное соблюдение собственных правил, генеративные инструменты понижают порог для создания и распространения эксплуатирующего контента, усугубляя и без того острую проблему гендерной цифровой безопасности. В условиях, когда женщины непропорционально часто становятся мишенью, а механизмы жалоб воспринимаются как неэффективные, ИИ не создаёт новую проблему — он усиливает уже существующую.

Без эффективной модерации и правоприменения на платформах вроде X ИИ-инструменты становятся катализаторами гендерного насилия, упрощая производство и распространение вредоносного контента.

Ещё один усугубляющий фактор — политика монетизации X. Авторы вирусного контента могут зарабатывать на кликах и вовлечённости пользователей. В такой системе агрессоры ещё и получают прибыль от злодеяний. Здесь ключевую роль играют алгоритмы. Платформы никогда не были нейтральной средой: алгоритмы решают, что станет видимым, выйдет в тренды, получит больше внимания, — зачастую за счёт наиболее уязвимых групп. Травля, усиленная ИИ, превращается в «вовлекающий контент», получает дополнительное продвижение, а судьба женщин — особенно из стран глобального большинства — становится побочным ущербом.

Как предотвращать вред, а не только реагировать на него

В Superbloom, в рамках нашей Tech Policy Design Lab совместно с Топе Огундипе из TechSocietal, мы разработали особый инструмент Gendered Privacy Evaluation Framework (Рамка оценки гендерно-обусловленных рисков приватности), основанный на принципах базовых прав человека и ряде исследований. Этот инструмент предлагает технологическим компаниям оценить: усиливают ли их продукты — особенно системы ИИ — гендерное неравенство и насилие или, напротив, их снижают.

Методика заставляет платформы не ограничиваться поверхностными мерами безопасности, а смотреть глубже — на то, как всё устроено на самом деле: какие у них есть обязательства на уровне управления, обучают ли сотрудников распознавать гендерное насилие в цифровой среде, прост ли и понятен механизм подачи жалобы пользователем, есть ли реальное, а не формальное согласие на использование данных, собирают ли они только необходимую информацию, защищена ли она, и работают ли они с организациями, которые занимаются правами женщин.