Лицо комика мистера Бина вставлено в рекламу вместо лица Шарлиз Терон. Скриншот из YouTube-видео Fat Ninja

[Примечание редактора: оригинал этого материала был опубликован 21 октября 2021 года. Некоторая информация могла устареть.]

Недавний арест в Тайване популярного Youtube-блогера Сяо Юйя (реальное имя — Чжу Юйчэнь) по подозрению в продаже поддельных — смонтированных с помощью технологии deepfake — порнографических видео с участием общественных деятелей привлек внимание граждан к преступлениям, связанным с искусственным интеллектом (ИИ), и проблеме отсутствия законов, направленных на борьбу с сексуальным насилием в киберпространстве.

Сяо Юй был арестован [кит] вместе с двумя подельниками 17 октября за торговлю через группу Telegram с июля 2020 года сгенерированными искусственным интеллектом порнографическими видео с участием общественных деятелей. Все трое были освобождены под залог 18 октября.

По меньшей мере 100 человек, включая политиков, Youtube-блогеров и знаменитостей, стали жертвами нового технологического преступления. Их лица вставлялись в порнографические видеоролики, которые продавались с целью извлечения прибыли. Как сообщается, президент Тайваня Цай Инвэнь является одной из жертв [кит], хотя сфальсифицированный видеоклип с её участием не был откровенным и его быстро удалили из LINE, самого популярного приложения для обмена сообщениями в Тайване.

Согласно репортажу о расследовании [кит], проведённом тайваньским СМИ Mirror Media в мае, команда разместила несколько 30-секундных поддельных видео на порносайтах и ​​предложила зрителям заплатить членский взнос за полный доступ, после чего они будут добавлены в группу Telegram. Троица набрала около 8000 участников в четыре разные группы Telegram, прежде чем привлекла внимание общественности.

Участники могли проголосовать за краудфандинг новых роликов и разместить спецзаказ на «индивидуальные» порновидео, создаваемые либо для реализации конкретной сексуальной фантазии, либо по таким причинам, как унижение бывшего партнера. По оценкам властей, организаторы получили от порнографических видео прибыль в размере 10 миллионов новых тайваньских долларов (примерно 360 000 долларов США).

Несколько жертв прервали молчание после ареста Сяо Юйя. Хуан Цзе, советник из города Гаосюн, — самая открытая жертва. Она надеется [кит], что этот инцидент может раскрыть людям глаза на вред, причиняемый преступлениями ИИ:

「又不是妳真的去演。」 

「夠正才會用妳的臉。」 

「妳是瞧不起演A片的嗎？」 

「小玉也太不挑了。」 

不是真的去演，傷害和性暴力就不存在嗎？五月受訪時，當我知道我的臉被拿去這樣使用，一開始覺得「惡搞影片應該蠻好笑的吧」但當我真的看到影片時，完全笑不出來，只有滿滿的噁心反胃，甚至起雞皮疙瘩、深陷恐懼。 無論小玉的心態是好玩、惡搞還是單純想賺錢，這對受害者來說，就是真實的傷害、羞辱和踐踏。

稍早，有許多實況圈、網紅界受害者私訊我…我們願意鼓起勇氣，一起站出來提告，用法律制裁小玉，也嚴正警告躲在電腦後觀看影片的人，你們不是沒有責任，你們的訕笑、觀看，都是一次次的加害。

在此，除了要求警方嚴加偵辦，也懇請社會大眾關注逐漸興起的AI犯罪，#不要下載不要流傳這類影片，更要共同抵制這種低級的公眾人物，#不能再養出第二個小玉 ，讓這種墮落的風氣繼續蔓延。

最重要的，也呼籲立法院正視 #數位性暴力 的問題，進行修法，才有更有力的工具嚴懲惡狼…

«Это не настоящая ты на экране».

«Твоё лицо используется, потому что оно хорошенькое».

«Значит, ты посматриваешь видео для взрослых?».

«Сяо Юй выбрал не то лицо».

Даже если этого человека не существует, означает ли, что тут нет сексуального насилия?

Ещё в мае, когда мне сказали, что используют моё лицо, я подумала, что это просто очередное забавное пародийное видео. Но когда я посмотрела ролик, то не могла смеяться, мой желудок выворачивался наизнанку. Тогда мне стало жутко. Я испугалась. Независимо от намерений Сяо Юйя — делал он это ради развлечения или выгоды, — боль и унижение, которые испытали жертвы, были реальными.

Несколько пострадавших — актрисы реалити-шоу и Youtube-блогеры — связались со мной в частном порядке… мы вместе выдвинули обвинения против Сяо Юйя. И мы предупреждаем тех, кто прятался за компьютерами и смотрел видео: вы являетесь частью преступления. Ваши грязные шутки и просмотры причиняли вред другим снова и снова.

Здесь мы призываем полицию продолжить расследование, а общественность — обратить внимание на возникающие преступления ИИ. #не-скачивайте-и-не-распространяйте-эти-видео, бойкотируйте людей с испорченным вкусом. #не-создавайте-другого-Сяо-Юйя и не популяризуйте такую извращенную культуру.

Самое главное, мы призываем Законодательное собрание обратить внимание на #сексуальное-насилие-в-киберпространстве, внести поправки в закон, чтобы наказать бешеных волков…

Точку зрения Хуан Цзе разделяет Манаки, актриса, которая была разочарована [кит] тем, что некоторые пользователи сети отнеслись к инциденту легкомысленно или даже восприняли его как шутку:

其實被惡意換臉已經是一種傷害了，加上有些人資訊不清楚可能會誤以為真。 身為當事人是真的很困擾，身心也非常疲憊。名譽也造成不可抹滅的侵害！ 希望大家別再當玩笑了，謝謝你們。 也希望數位性暴力能立法管制！

То, что наши лица прицепили к чужим телам, — это вред. Кто-то может поверить, что это реальность. Я была психологически измучена случившимся, а вред, нанесённый моей репутации, необратим. Пожалуйста, не воспринимайте это как шутку. Я бы хотела, чтобы было принято больше законов для решения проблемы сексуального насилия в киберпространстве.

Као Чиа-юй, депутат и член Демократической прогрессивной партии, ставшая жертвой преступления с использованием ИИ, указала [кит] в Facebook, что в настоящее время в Тайване единственная законная возможность наказать за дипфейковую порнографию — обвинить её автора в диффамации, что является незначительным преступлением с относительно легким наказанием. Као также выступила за введение новых законов против преступлений с использованием технологий дипфейков и ИИ.

В сообщении на Facebook от 18 октября президент Тайваня Цай Инвэнь пообещала [кит], что правительство ужесточит законы, чтобы пресечь дезинформацию и искоренить поддельные видеоролики, сгенерированные искусственным интеллектом.