Иллюстрация: Tactical Tech с визуальными элементами Йоргоса Багакиса и Алессандро Крипсты

[Все ссылки в тексте — на английском языке.]

Статья написана Сафой  Гнаим в сотрудничестве с Институтом Гёте в Бразилии и опубликована DataDetoxKit.org. Отредактированная версия материала предлагается на Global Voices в рамках партнёрского соглашения.

Инструменты искусственного интеллекта (ИИ), особенно те, которые генерируют изображения, видео и аудио, представляют на рынке как «творческие приложения» для отдельных лиц и «инструменты эффективности» для бизнеса, однако практически невозможно проконтролировать, как эти инструменты используются на практике, и какой вред могут нанести искусственно сгенерированные визуальные изображения.

Неудивительно, что инструменты ИИ ещё больше усугубляют проблему онлайн-преследований, например, путём создания и распространения интимных изображений, произведённых без согласия (NCII). NCII — интимные фотографии или видео с обнажением, либо сексуально вызывающие или откровенные изображения, демонстрирующие реальное или созданное ИИ тело человека, распространяемые без его разрешения.

Проблема NCII затрагивает многих людей — вовсе не только знаменитостей, о которых пишут в СМИ, — и с этим нелегко бороться. Платформы и правоохранительные органы с трудом поспевают за прогрессом.

Проблема глубже, чем принято считать

Технологии развиваются так быстро, что теперь достаточно одного изображения кого-то (и это может быть совершенно обычная фотография), чтобы на этой основе создать сексуально откровенный контент с помощью одного из многих инструментов на базе ИИ.

В то время как одни инструменты ИИ усугубляют проблему, легко создавая NCII любого человека, другие используются для её решения. Однако пока инструменты на базе ИИ, обученные выявлять сгенерированные изображения, не идеальны, и большая часть работы по выявлению и удалению ложного контента по-прежнему ложится на людей-модераторов.

Один из самых резонансных случаев 2024 года был связан с откровенными фейковыми изображениями Тейлор Свифт, созданными ИИ. Эти изображения впервые появились на 4chan и в течение нескольких минут, как лесной пожар, распространились по различным сайтам соцсетей. Одно из изображений было просмотрено более 47 миллионов раз, прежде чем его удалили. Возможно, эти изображения всё ещё мигрируют в сети, поскольку нет реального способа полностью стереть их из интернета.

Но это не единичный инцидент. Согласно исследованию 2021 года, 41 процент из более чем 10 000 респондентов опроса в США заявили, что лично подвергались той или иной форме онлайн-преследования. Из респондентов моложе 35 лет 33 процента женщин и 11 процентов мужчин заявили, что пострадали от сексуальных махинаций в интернете.

Подобным же образом, анализ более 95 000 видео с дипфейками, проведённый в 2023 году, показал, что до 98 процентов из них были дипфейковой порнографией, а 99 процентов использованных объектов были женщинами. Другие уязвимые группы, такие как несовершеннолетние и представители сообщества ЛГБТК+, также непропорционально часто становятся жертвами сексуальных посягательств онлайн.

Какие шаги предпринять, чтобы защитить себя от такого рода преследования?

Есть ряд ограничений, установленных онлайн-платформами, помогающих скрыть вашу информацию от нежелательных глаз. Хотя эти рекомендации не помогут воздвигнуть непроницаемые стены, они могут усложнить задачу для мошенников или тех, кто пытается причинить вам вред.

На каждой платформе есть свои настройки и опции, доступные пользователям. Например, вот что касается усиления контроля в Instagram и TikTok:

• Сделайте профиль «приватным». На таких платформах, как Instagram и TikTok, можно ограничить доступ к профилю, чтобы в большинстве случаев только те люди, которых вы одобряете в качестве подписчиков, могли видеть то, чем вы делитесь. Однако широкая аудитория сможет видеть комментарии, которые вы оставляете к публикациям других людей, и люди даже могут отправлять вам сообщения. Узнайте, как сделать свой профиль приватным в Instagram и TikTok.
• Удаляйте подписчиков или блокируйте людей. Если кто-то доставляет вам неприятности или заставляет вас чувствовать себя неловко, вы можете удалить его из числа подписчиков или вообще заблокировать. Однако если вы знаете этого человека в реальной жизни, вам понадобится другая стратегия. Узнайте, как блокировать людей в Instagram и TikTok.

Всем миром

Глядя на то, сколько людей страдают от онлайн-домогательств, кажется логичным предположить, что преследователей тоже много. Но дело в том, что достаточно одного плохого человека, чтобы навредить множеству пользователей. Вы считаете того, кто поделился NCII, преследователем, хотя вовсе не он создавал ролики? В примере с Тейлор Свифт потребовалось всего несколько человек, чтобы создать её NCII, однако вирусной эта работа стала только потому, что ею поделилось множество людей.

Итак, как вы можете поддержать того, кто подвергается преследованиям? Независимо от того, какую платформу социальных сетей вы используете, у неё, скорее всего, будет функция «пожаловаться». В таких приложениях, как Instagram, можно сообщать о конкретных публикациях, целых профилях или аккаунтах, если вы заметили что-либо похожее на оскорбление или преследование. Сообщение в Instagram — отличный вариант, чтобы отметить проблемных людей или темы, которые вы видите или слышите. Instagram не передаёт информацию о человеке, сообщившем о нарушении, тому, на кого пожаловались.

Когда вы «жалуетесь» в Instagram, платформа может удалить публикацию или выдать предупреждение, деактивировать или заблокировать профиль или учётную запись, в зависимости от произошедшего и того, противоречит ли это Правилам сообщества. Стоит отметить, что Правила сообщества Meta не всегда полезны, а удаление публикаций и блокировка учётных записей недавно провоцировали бурные дискуссии.

Если вы лично знаете человека, который пострадал от нападок, вы можете попробовать поговорить с ним лично, если это удобно. Возможно, он вообще не в курсе происходящего и может отреагировать сильным стрессом, гневом или печалью. Если вы чувствуете, что готовы оказать поддержку, можете предложить ему ресурсы (например, те, что указаны в конце этого материала) и помочь ему отслеживать и документировать преследование.

Даже если вам, скорее всего, не захочется снова смотреть на оскорбительное видео или фотографии, может быть полезно задокументировать их до удаления. Например, сделать видеозапись или снимок экрана поста или комментария, включающего название учётной записи автора и дату. Храните эту информацию в безопасном и скрытом от глаз месте на вашем телефоне или компьютере. Например, на некоторых телефонах вы можете создать защищённую паролем  папку.

Документация, если она оформлена правильно, может быть полезна в случае, если человек, подвергающийся атакам, решит обратиться в правоохранительные органы и ему понадобятся доказательства.

Важно, чтобы жертва определилась с тем, что хочет сделать. Хочет ли связаться с правоохранительными органами, нанять адвоката или обратиться в свою школу, университет или на работу? Или предпочтёт сохранить это в тайне настолько, насколько это возможно? Ситуация NCII, например, сильно ограничивает возможность выбора, поэтому поддержите пострадавшего в его действиях.

Куда обратиться за помощью

Если вы или кто-то из ваших знакомых стали жертвой NCII, знайте, что существуют специализированные организации, которые готовы помочь. Вам не придется справляться с этим в одиночку. Вот лишь несколько поддерживающих  организаций (англоговорящих):

• Chayn (по всему миру): предоставляет ресурсы и поддержку жертвам гендерного насилия.
• StopNCII (по всему миру): банк ресурсов, а также инструмент, который помогает удалить интимные изображения, произведённые без согласия.
• Take Back the Tech (по всему миру): предлагает объяснения и ресурсы, такие как Hey Friend, с советами, как поддержать своих друзей, когда они становятся объектами преследования.
• RAINN, Национальная горячая линия по сексуальному насилию (США): предоставляет частную горячую линию, где вы можете общаться онлайн или позвонить сотруднику, прошедшему кризисное обучение.
• Take It Down (США): поможет шаг за шагом подать запрос на удаление NCII.
• Инициатива по защите гражданских прав в киберпространстве (CCRI) (США): включает пошаговые инструкции и списки адвокатов и законов США. У них также есть перечень международных ресурсов.
• Revenge Porn Helpline (Великобритания): даёт советы взрослым, которые стали жертвами.
• Umi Chatbot (Австралия): быстрый способ получить информацию о том, как бороться с NCII. На сайте также есть ресурсы с данными, как собирать доказательства и сообщать о нарушениях.

Дополнительные советы и ресурсы о том, как бороться с онлайн-преследованием:

• «Вы не бессильны перед онлайн-преследованиями»
• «Что делать, если вы или кто-то из ваших знакомых стали жертвой дипфейкового порно или обнажённых изображений с использованием ИИ»