[Все ссылки в тексте — на английском языке, если не указано иное.]

Эта статья входит в специальную серию материалов «Не спрашивай ИИ — спроси человека» — совместный проект Global Voices, Association for Progressive Communication (APC) и GenderIT.  Цель серии — подчеркнуть значимость обмена знаниями между людьми, как это происходило издавна. Следить за публикациями можно на APC.org, GenderIT.org и globalvoices.org [рус]. Цикл также – часть апрельской серии Global Voices 2026 года «Человеческий взгляд на ИИ» [рус]. Вы можете поддержать проект здесь.

Действующая модель регулирования ИИ в Индии — это набор из «мягких» рекомендаций, законопроекта об этике, который так и не был принят, и правил защиты данных. В совокупности они формируют систему, в которой на первом месте стоит внедрение технологий, а любые вопросы откладываются на потом: идёт речь об «ответственном ИИ», но не требуется ни прозрачности, ни оценки последствий его внедрения до запуска.

Так, расширение ИИ-наблюдения — от программ распознавания лиц на железнодорожных станциях до систем прогнозирования преступности — происходит без достаточных правовых гарантий. Под угрозой оказываются права человека, охрана частной жизни, достоинства и гражданских свобод. «Ответственный ИИ» без механизмов подотчётности остаётся лишь декларацией. Фундаментом для регулирования ИИ должны стать именно права человека, иначе заявленный человеческий приоритет превращается в отложенный на потом вопрос.

В феврале 2026 года в Нью-Дели (Индия) прошёл пятидневный саммит India AI Impact, собравший мировых лидеров, представителей технологических корпораций, гражданского общества и государственных структур. Участники обсуждали будущее ИИ-управления и международного сотрудничества, подчёркивая растущую экономическую и геополитическую значимость технологий, трансформирующих мировую экономику. Ключевыми темами саммита стали инклюзивный рост, этичное внедрение, применение ИИ в здравоохранении, сельском хозяйстве и образовании.

В заявлении от 20 февраля правозащитная организация Amnesty International сопоставила риторику саммита с реальной практикой использования ИИ в стране. По мнению экспертов, такие технологии, как автоматизация на базе ИИ и системы распознавания лиц, сужают пространство для гражданской активности, укрепляют слежку на государственном уровне и непропорционально влияют на беднейшие и маргинализированные слои населения.

Более того, и сам саммит фактически превратился в демонстрацию расширяющейся системы цифрового контроля в столице. Под предлогом обеспечения безопасности полиция Нью-Дели установила 500 камер на территории выставочного комплекса и превратила центральные районы города в «цифровую крепость», развернув свыше 4 000 камер с поддержкой ИИ.

Угроза государственного наблюдения с использованием ИИ

Чтобы отслеживать внедрение технологий распознавания лиц в Индии, правозащитная организация Internet Freedom Foundation (IFF) запустила в 2020 году проект Panoptic, в рамках которого к 2024 году была сформирована наиболее полная открытая база данных по использованию распознавания лиц в стране. В базу вошли сведения более чем о 120 государственных контрактах.

НПО в сфере юридической помощи SFLC.in недавно опубликовала обзор инцидентов, связанных с использованием в Индии в 2025 году ИИ и видеонаблюдения. Из этого доклада становится очевидным, как подобные технологии применяются в разных сферах — в том числе для ИИ-наблюдения в транспортной и туристической инфраструктуре.

Поддерживаемое государством приложение распознавания лиц на базе ИИ DigiYatra, продвигаемое как флагман цифровизации авиации, сопоставляет данные пассажиров Aadhaar [рус], информацию посадочного талона и биометрические параметры лица, формируя свободный безбумажный путь по индийскому аэропорту. Формально этот сервис не обязательный, однако по данным IFF, пассажиров настойчиво подталкивают к регистрации, практически не оставляя выбора.

IFF также указывает на уязвимую архитектуру хранения данных и непрозрачную экосистему DigiYatra: непонятно, какие данные собираются, где и как хранятся, кто получает к ним доступ. Сервисом управляет Digi Yatra Foundation, при этом около 75 процентов долей принадлежит частным компаниям, что выводит проект из-под действия Закона о праве на информацию 2015 года (RTI Act) [pdf, 810 КБ] в вопросе подотчётности.

В образовательной сфере Индии, в частности, в аудиториях, где проводятся экзамены, всё активнее внедряются системы видеонаблюдения с поддержкой ИИ. Технологии отслеживают жесты, использование мобильных телефонов, поведенческие признаки (например, нетипичные движения глаз), оперативно отправляя сигналы наблюдателям. К 2025 году такие технологии применялись уже на выпускных школьных экзаменах и ключевых конкурсных текстах в штатах Уттар-Прадеш, Бихар и Карнатака.

По оценке SFLC.in, масштабы ИИ-наблюдения в стране растут, а вот объём информации о механизмах контроля, сроках хранения данных и возможностях оспорить ошибочную идентификацию — крайне невелик. Технологии постепенно становятся частью общественной инфраструктуры, при этом вопрос согласия отходит на второй план, а риски для прав человека остаются без должного внимания.

Внедрение ИИ затрагивает миллионы людей

Согласно расследованию Decode, особому подразделению издания BOOM, одного из ведущих независимых медиа и фактчекинговых организаций в Индии, системы распознавания лиц на базе ИИ не справляются с идентификацией женщин, чья внешность изменилась из-за беременности, болезни или возраста. В результате женщинам отказывают в доступе к государственным услугам, либо они не могут пройти процедуру подтверждения личности. Например, в государственном приложении Poshan Tracker технологии не смогли сопоставить актуальные изображения с фотографиями базы Адхар [рус], сделанными несколько лет назад.

Государственная программа Индии Integrated Child Development Services (ICDS) обеспечивает продовольственной поддержкой около 47 миллионов беременных женщин, кормящих матерей и малышей. В июле 2025 года для идентификации получателей услуги была внедрена система распознавания лиц. К концу года почти половина тех, кто должен был получать питание, осталась без поддержки — система просто не смогла их узнать.

У технологий распознавания лиц возникают проблемы при плохом освещении, на бюджетных телефонах и, что особенно критично, при работе с более тёмными оттенками кожи. Этот системный дефект давно известен, однако при внедрении технологий, касающихся наиболее уязвимых групп населения, по-прежнему не учитывается.

Регулирование ИИ в Индии

До сих пор в Индии нет отдельного обязательного закона, регулирующего вопросы ИИ. Страна опирается в этой сфере на совокупность уже существующих норм, включая Закон об информационных технологиях, правила для интернет-посредников, правовые акты о защите данных, различные рекомендации в сфере управления технологиями. Представленные Министерством электроники и информационных технологий Индии (MeitY) в ноябре 2025 года рекомендации управления ИИ основаны на модели минимального вмешательства государства. Акцент делается на «ответственном ИИ», риск-ориентированном надзоре и защите от потенциального вреда. Впрочем, рекомендации не имеют юридической силы и их скорее можно назвать рамочным «мягким правом».

Новый законопроект 2025 года Artificial Intelligence (Ethics and Accountability) предполагает создание властью государственного комитета по этике ИИ, организацию обязательных этических экспертиз, аудит алгоритмической предвзятости, ограничения на отдельные сферы применения — например, в системах наблюдения и при принятии решений о трудоустройстве, — а также механизмы подачи жалоб. Документ действительно настроен на защиту прав человека, однако до сих пор не принят.

Индийская система защиты персональных данных — реализуемая через правила DPDP Rules 2025 — вводит для разработчиков и операторов ИИ требования, основанные на согласии пользователя, ограничении целей использования данных и принципе минимизации сбора информации. Тем самым она косвенно обеспечивает защиту частной жизни и связанных с ней прав в контексте ИИ.

В то же время индийские власти усиливают давление на интернет-платформы, требуя моментального удаления созданных ИИ дипфейков, используемых для ложных заявлений, подделки личности, манипуляций или распространения сексуализированного контента без согласия изображённого человека. Однако даже если платформы выполняют эти требования, к моменту удаления подобного контента вред нередко уже непоправим.

Современный подход к ИИ с точки зрения прав человека

Представители правозащитных структур ООН всё чаще заявляют, что именно международное право в области прав человека должно стать основой регулирования ИИ. Такой подход предполагает инклюзивность, подотчётность, прозрачность и необходимость учитывать существующий дисбаланс власти. Речь идёт о более широком сдвиге — от обычных бесед об «этике ИИ» [рус] к сфере юридических обязательств, включая ограничения и механизмы правовой защиты. Верховный комиссар ООН по правам человека призвал к введению моратория на те виды ИИ, которые нарушают фундаментальные права — например, на отдельные формы биометрического наблюдения. Кроме того, он выступил за обязательную проверку соблюдения прав человека на всех этапах разработки и внедрения сервисов на базе ИИ.

Аналогичную позицию занимает и организация Freedom Online Coalition, которая в 2025 году заявила о необходимости государственных мер для бизнеса: проверке рисков, дополнительных гарантиях в ситуациях повышенной опасности, оценки воздействия ИИ на права человека — особенно в контексте политических манипуляций, дезинформации и цифрового профилирования. Некоторые эксперты предлагают создать общерегиональную систему регулирования для стран Ассоциации регионального сотрудничества Южной Азии (SAARC) [рус], взяв за основу Закон ЕС об искусственном интеллекте. Предполагается, что такая модель включала бы чёткие гарантии защиты фундаментальных прав, а также более прозрачные и подотчётные процедуры контроля. Однако пока речь идёт лишь о политической рекомендации, а не о проекте обязательного международного закона.

Что же дальше

Согласно Принципам ответственного использования ИИ, разработанным правительством Онтарио, обязательства в сфере прав человека должны изначально закладываться в архитектуру ИИ-систем, а не добавляться постфактум. В свою очередь комиссар ООН по правам человека рекомендует сделать обязательной оценку воздействия на права человека до этапа внедрения ИИ-систем, способных существенно повлиять на жизнь людей. Государственные органы и компании, использующие ИИ в публичной сфере, должны раскрывать информацию о применяемых системах, данных, на которых они обучаются, и уровне ошибок таких технологий. Кроме того, необходимы чёткие правовые механизмы, определяющие, в каких случаях ИИ-системы могут рассматриваться как субъект ответственности и какие обязательства несут их разработчики и операторы перед людьми, затронутыми последствиями их работы. Проблема, однако, заключается в том, что существующие рамочные нормы нередко либо трудно реализовать на практике, либо они вообще не распространяются на использование ИИ государством.

Министерство электроники и информационных технологий Индии утвердило в марте 2024 года национальную программу IndiaAI Mission, цель которой — создание полноценной ИИ-экосистемы в стране через инициативу «Safe & Trusted AI projects». На данный момент в рамках этой программы реализуются восемь проектов «ответственного ИИ», посвящённых снижению алгоритмической предвзятости, этическим стандартам, инструментам защиты приватности, а также ещё пять проектов по выявлению дипфейков. На бумаге инициативы MeitY строго соблюдают принципы защиты прав человека. Однако правозащитники считают, что этого недостаточно: гарантии остаются добровольными, механизмы контроля — слабыми, а использование государством высокорисковых ИИ-систем — в наблюдении, автоматизации социальных программ и предиктивной полицейской аналитике — продолжается без обязательных правовых ограничений и действенных механизмов защиты.

Правозащитники призывают Индию принять отдельное законодательство в области ИИ-наблюдения, включая полицейские алгоритмы, а также обеспечить прозрачность и независимый контроль за системами цифрового мониторинга, чтобы снизить риск цифрового авторитаризма.

---

Паула Вильяр родилась в Рио-де-Жанейро в 1992 году. Она получила образование в области психологии и прошла программу последипломной подготовки по клинической психологии. Паула с детства занималась рисованием, а во время пандемии COVID-19 решила сменить профессию и посвятить себя цифровому искусству и активизму. Помимо цифровой графики, она работает и в других художественных техниках — масляной живописи, реалистическом рисунке карандашом и тушью.