Иллюстрация Ибрахима Киззы для APC. Используется с разрешения автора

[Все ссылки в тексте — на английском языке, если не указано иное.]

Эта статья входит в специальную серию материалов «Не спрашивай ИИ — спроси человека» — совместный проект Global Voices, Association for Progressive Communication (APC) и GenderIT.  Цель серии — подчеркнуть значимость обмена знаниями между людьми, как это происходило издавна. Следить за публикациями можно на APC.org, GenderIT.org и globalvoices.org [рус]. Цикл также — часть апрельской серии Global Voices 2026 года «Человеческий взгляд на ИИ» [рус]. Вы можете поддержать проект здесь.

Китай, один из самых печально известных примеров страны, которая использует ИИ для слежки и ограничения гражданских свобод, вряд ли может продемонстрировать модель «правозащитного» подхода к искусственному интеллекту. Однако то, что Китай делает ставку на развитие ИИ [рус] и стремится занять доминирующее положение на мировом рынке, превращают это государство в важный кейс для понимания того, как складываются отношения между частным сектором и государством, между технологиями и обществом.

В феврале 2026 года испанский инженер Сэмми Аздуфал обнаружил, что способен контролировать 7000 «умных» пылесосов: просматривать видео из домов пользователей в реальном времени, подслушивать происходящее через встроенные камеры устройств и даже определять точное местоположение квартир по IP-адресам. Для этого ему понадобилось лишь проанализировать соединение между недавно купленным роботом-пылесосом DJI Romo и игровым контроллером PlayStation.

Хотя китайская компания быстро устранила уязвимость, сам инцидент показал, насколько легко технологии наблюдения на базе ИИ могут проникать в повседневную жизнь — и к каким проблемам это может привести.

Универсальные угрозы: ИИ, слежка и военные технологии

Упомянутый выше «умный» пылесос нельзя купить на американском рынке: его производитель, компания DJI, ещё в 2022 году была признана «китайской военной компанией» и внесена Пентагоном в чёрный список по соображениям национальной безопасности.

В этом контексте разговоры об угрозах, связанных с технологиями слежки на базе ИИ, чаще всего сводятся к Китаю. Однако сама технология носит универсальный характер и затрагивает людей по всему миру.

Китай действительно стал одним из пионеров в использовании сложных систем наблюдения для укрепления репрессивной модели управления. Более того, как неоднократно писали международные СМИ, Пекин экспортирует этот инструментарий и другим авторитарным режимам. Китайский опыт — будь то так называемое «социальное управление» уйгурами в Синьцзяне [рус] или общенациональная система контроля во время COVID-19 [рус] — продемонстрировал миру, как массовое наблюдение под предлогом «сетевого управления» сочетается с технологиями тотального мониторинга: распознаванием лиц, системой социального рейтинга, геолокацией [рус] и отслеживанием онлайн-активности. Всё это формирует среду низового полицейского контроля, способную предотвращать потенциально «дестабилизирующие» действия ещё до того, как они произойдут. Эта оруэлловская реальность доказывает: государство, вооружившись мощным ИИ-инструментарием, способно укреплять собственную власть ценой свободы собраний, свободы выражения мнений и свободы передвижения граждан.

Мировой рынок репрессивных технологий

Масштабы распространения подобного рода технологий подавления превосходят любые ожидания. В Китае системы распознавания лиц на базе ИИ уже используются для выписывания штрафов за переход улицы в неположенном месте и неправильную парковку, обработки онлайн- и офлайн-платежей, а также мониторинга успеваемости и поведения школьников в классе.

При этом настороженное отношение демократических государств к китайским системам ИИ-наблюдения вовсе не означает, что они отказываются от подобных практик. Чаще речь идёт лишь о поиске аналогов у других поставщиков. Так, британская полиция недавно закупила систему распознавания лиц на основе ИИ, которую израильская разведка использовала для идентификации и отслеживания палестинцев, проходящих через сектор Газа. Пятьдесят комплексов с ИИ-распознаванием лиц планируется развернуть по всей стране для поиска и отслеживания людей из полицейских списков наблюдения. В США ИИ также применяется для масштабной слежки и арестов нелегальных мигрантов, а в последнее время — и в контексте войны против Ирана.

В цифровой сфере влияние ИИ на медиа и информационную экосистему в целом оказывается не менее разрушительным. Пресса не раз обращала внимание на встроенную цензуру [рус] и политическую предвзятость [рус] китайской генеративной модели DeepSeek, продвигающей прокитайскую повестку.

Однако и западные генеративные ИИ в области пропаганды не отстают. Согласно докладам OpenAI о прозрачности, российские и китайские информационные операторы используют ChatGPT для анализа общественных настроений и адаптации контента под конкретные аудитории. А во время недавней войны США и Израиля против Ирана крупнейшие соцсети буквально наводнила военная пропаганда в виде дипфейк-видео, созданных с помощью ИИ.

Сегодня небольшая группа операторов дезинформации способна манипулировать восприятием реальности миллионов людей — и главным оружием в их руках становятся ИИ-ассистенты.

Необходимость восстановить баланс власти

Китай преподал миру ещё один важный урок — в сфере регулирования ИИ. Начиная с 2022 года местные власти приняли целый пакет законов и нормативных актов: Положения об алгоритмических рекомендациях (2022), Положения об управлении технологиями синтетического контента (2023), Временные меры по регулированию генеративного ИИ (2023), Меры по маркировке ИИ-контента (2025). Заявленная цель — предотвратить попытки незаконного использования ИИ во вред окружающим и гарантировать, что созданный машинами контент будет соответствовать «основным социалистическим ценностям» Китая. В документах достаточно подробно прописаны права пользователей в области защиты персональных данных, согласия и доступа к информации, а также дополнительные обязательства компаний по обеспечению прозрачности алгоритмов и недопущению дискриминационных или вызывающих зависимость механизмов.

Однако поскольку ключевая задача этих законов — защита национальной безопасности, общественного порядка и государственной идеологии, то ограничения на контроль самого государства фактически отсутствуют. В китайских соцсетях регулярно появляются жалобы пользователей на визиты полиции после покупки «подозрительных» товаров — например, дронов для съёмки. Система социального рейтинга в сочетании с интернет-цензурой, сетевым управлением и другими механизмами социального контроля позволяет следить за цифровой активностью граждан. Всё под контролем — финансовые операции, круг общения, высказывания. Если рейтинг падает и человек попадает в судебный «список недобросовестных лиц», ему могут ограничить доступ к цифровым и государственным сервисам — от онлайн-платежей до покупки билетов.

На первый взгляд обязанности, возложенные законом на корпоративный сектор, выглядят разумными и справедливыми. Однако в стране почти нет независимых организаций гражданского общества, способных контролировать частные компании и проверять, действительно ли технологические корпорации внедряют предусмотренные законом меры защиты. В результате из года в год продолжают случаться утечки персональных данных, появляются уязвимости из-за плохо разработанных ИИ-продуктов, например, DJI Romo Vacuum. В 2025 году в результате масштабной утечки данных была раскрыта информация о миллиардах китайских пользователей: имена, номера удостоверений личности, пароли, банковские и финансовые сведения, связанные с аккаунтами в соцсетях. Эти данные могли быть использованы мошенниками для атак на пострадавших.

Впрочем, несмотря на все риски для безопасности, жители материкового Китая с энтузиазмом принимают новые технологии, особенно ИИ. Последний пример тому — массовая история в начале марта в крупнейших китайских городах, где пользователи начали поголовно устанавливать OpenClaw, ИИ-бота, созданного австрийским программистом Петером Штайнбергером. Система интегрируется с другими большими языковыми моделями, включая DeepSeek и Claude, работает локально на компьютере пользователя и хранит данные непосредственно на устройстве. На этой волне интереса аналогичные продукты начали расти как грибы, их выпускают китайские технологические гиганты Tencent, ByteDance и Xiaomi. Этот технологический культ, подпитываемый одновременно государственной политикой ускоренного внедрения передовых технологий в экономику и страхом людей «остаться позади» в эпоху стремительных инноваций, превращает общество в поклонников нового Левиафана. Люди добровольно жертвуют ему своё время, энергию, желания, идеи и данные, зачастую не понимая, кто именно контролирует эту систему и к чему это может привести.

Хотя принципы прозрачности и защиты прав потребителей формально закреплены в китайском законодательстве об ИИ, вопрос защиты прав человека остаётся открытым. Многие люди просто не знают собственных прав, не осознают риски, которые несут злоупотребления и злонамеренное использование технологий. В отсутствие реального выбора большинство жителей материкового Китая приняли системы наблюдения — например, повсеместные камеры с распознаванием лиц — как обычную и даже удобную часть повседневной жизни. Механизмы общественных изменений фактически заблокированы.

Китайская антиутопия ИИ показывает нам: люди не контролируют технологии. Напротив, они сами оказываются рабами системы, рассматривающей технологии как инструмент расширения и укрепления политической и экономической власти государства. Этот опыт демонстрирует, что правозащитный подход к ИИ должен быть направлен прежде всего на восстановление баланса сил между государственно-корпоративным аппаратом, технологиями и обществом. Для этого необходима система принятия решений, которая вновь поставит человека в центр технологического развития, а также борьба с технологическим фанатизмом через гуманитарно ориентированные исследования, общественную дискуссию, культурную рефлексию и образование, основанное на ценности человеческого опыта.