Иллюстрация: Сабин Ямин для APC, используется с разрешения

Автор: Хайя Камран

Эта статья входит в специальную серию материалов «Не спрашивай ИИ — спроси человека» — совместный проект Global Voices, Association for Progressive Communication (APC) и GenderIT.  Цель серии — подчеркнуть значимость обмена знаниями между людьми, как это происходило издавна. Следить за публикациями можно на APC.org [анг], GenderIT.org [анг] и globalvoices.org. Цикл также – часть апрельской серии Global Voices 2026 года «Человеческий взгляд на ИИ». Вы можете поддержать проект здесь [анг].

Моя работа постоянно вынуждает меня сомневаться в новых технологиях: я задаюсь вопросами о том, как они создаются, для кого предназначены, кто ими управляет, кто получает выгоду благодаря им, кому в одиночку приходится разбираться с последствиями их работы. Этот скептицизм не раз и не два делал меня человеком, который приходит к новым технологиям позже большинства.

Поэтому, когда я сомневаюсь в том, что ИИ — даже в какой-то альтернативной реальности — способен стать этичным или феминистским, это не поза и не любовь к мрачному скепсису. Этот вывод я сделала после многих лет наблюдения за одними и теми же паттернами. Обещания стать лучше, тщательно подобранные формулировки ради того, чтобы выглядеть ответственными, показная готовность выслушать — ничто из этого не меняет ни то, как создаются эти системы, ни то, чьим интересам они служат. Если уж на то пошло, стало даже яснее: когда речь заходит о защите наших прав, мы можем рассчитывать только на себя. Ни государство, ни технологические корпорации не придут защищать их вместо нас или вместе с нами.

Против технологического статус-кво

Это предложение опирается на следующий тезис, который нельзя игнорировать: технологии не нейтральны. Они воспроизводят и усиливают те патриархальные и колониальные структуры власти, в которых многие из нас живут поколениями. В этой логике влиятельный актор — в данном случае технологическая корпорация — задаёт границы того, как будут выглядеть социальные взаимодействия, а общество без лишних вопросов подстраивается под них. Эти системы создаются конкретными людьми, в конкретных местах и опираются на определённый набор представлений о мире. Поэтому принципиально важно, кто их разрабатывает, кто ими управляет, где именно они создаются, кто определяет, что считается «золотым стандартом», и от кого ожидают подчинения, чтобы система работала без сбоев. Всё это напрямую влияет на то, как осуществляется власть — и над нарративами, и над жизнями.

Первое, что стоит признать честно: технологии никогда не были нейтральными. Тезис о нейтральности — скорее часть маркетинга, которому поверили многие: любая система сохраняет в себе ценности, приоритеты и предубеждения тех людей и институтов, которые её создают. Искусственный интеллект — не исключение. Он строится на инфраструктуре и обучается на данных, отражающих реальный мир — неравный, предвзятый, зачастую полный насилия. В итоге ИИ просто масштабирует те же модели поведения и подаёт их как нечто «объективное» — из-за этого с ними становится труднее спорить.

Возьмём, к примеру, обучающие данные. Это колоссальные объёмы информации, собранной из интернета — от официальных материалов до повседневных бесед, о которых мы даже не помним. Но вся эта информация насыщена и сформирована историей отвержения, расизма, сексизма и экономического неравенства. Когда ИИ учится на таком материале, он закрепляет эти структуры, иногда усиливает их, а затем возвращает нам в виде якобы «нейтральных» результатов. То, что маркируется как «интеллектуальный» контент, нередко оказывается всего лишь более эффективным способом воспроизводить уже существующее.

Есть и корпоративные искажения — куда менее замаскированные. Компании, создающие эти системы, — не общественные институты, а структуры, ориентированные на прибыль, акционеров и рост. Это определяет всё: от того, какие проблемы считаются достойными решения, до скорости внедрения технологий — зачастую без понимания последствий. На чьих землях вырастут гигантские дата-центры [анг] с долговременным экологическим ущербом, зато с ростом стоимости акций? Чьи знания [анг] будут присвоены в гонке за «самую продвинутую» модель? Чья жизнь [анг] станет «сопутствующим ущербом» в стремлении к точности? Кого заставят замолчать [анг] во имя громких обещаний инноваций?

В результате неравенство становится всё труднее распознать: оно скрывается в слоях алгоритмов, кода, автоматизации, сложности и тщательно выстроенного маркетинга. Цифровой мир не устраняет проблемы физического — он их продолжает, а потому становится всё сложнее их вычислять и бороться с ними.

Особенно тревожит то, как ИИ дегуманизирует. В милитаризованных контекстах люди превращаются в данные — цели, которые нужно обнаружить, отследить и устранить за считаные секунды. Решения, от которых зависят жизни, всё чаще принимаются через системы, не способные учитывать контекст, историю и человеческий подход. Сведите людей к входным и выходным данным, сигналам и метрикам — и вред будет проще оправдать в отчётах и брифингах. Смерти превращаются в показатели эффективности, а люди — в строки в базе данных. Это не техническая неизбежность, а осознанный политический выбор того, как оценивается человеческая жизнь.

Это не можем быть мы

И всё это питает нарратив о том, что ИИ в конечном итоге заменит человека. Но если отойти на шаг назад и оценить происходящее, эта идея начинает рассыпаться. ИИ умеет распознавать паттерны, обрабатывать огромные массивы данных, генерировать убедительно звучащие ответы и имитировать человеческий тон. Но он не может быть человеком. Он не способен понимать контекст так, как мы его проживаем, не способен чувствовать заботу, выстраивать отношения или нести опыт прожитой жизни.

Имитация человеческой связи — не равна самой связи. В ней нет понимания или эмпатии, лишь статистические предположения, выведенные из данных. И когда мы начинаем воспринимать это как эквивалент человеческого взаимодействия, мы обесцениваем саму идею отношений между людьми. Забота, солидарность, сопротивление, эмпатия, радость, способность быть рядом — это не те функции, которые можно автоматизировать.

Даже идеи о «сознательном» ИИ, которые постоянно звучат в технодискурсе, чаще всего — просто новая упаковка прежних систем предсказания. Эти модели по-прежнему генерируют ответы на основе вероятностей, сформированных данными. Они не понимают, что выдают, не осознают последствий, потому что не несут ответственности перед другим существом. Это принципиальное различие — особенно на фоне того, что такие системы нам преподносят как принимающие решения в сферах, напрямую влияющих на человеческие жизни.

И здесь мы возвращаемся к более широкой проблеме. Как только мы начинаем верить, что человека можно заменить, мы проще принимаем системы, которые уже сейчас обращаются с людьми как с данными — в науке, найме, полицейской практике, здравоохранении, социальной политике или войне. Та же логика, которая сводит человека к входным данным, делает его заменяемым. Поэтому сопротивление подобному нарративу — это попытка удержать понимание: человеческая жизнь, эмпатия, опыт и отношения не сводятся к тому, что может симулировать и оптимизировать машина.

Если мы действительно хотим добиться правозащитного подхода к ИИ, нам придётся отказаться от идеи, что технологии могут заменить человека, быть важнее человека или определять, что значит быть человеком. Это не так и не должно так быть. Всё, на чём строятся эти технологии — земля, природная среда, ресурсы, время, энергия, целые экосистемы — принадлежит миру живых существ: людям, растениям, животным, которые существовали задолго до появления информационных систем. Пересмысление этого соотношения означает признание простого принципа: ИИ не должен развиваться ценой жизни, достоинства и самих условий, делающих жизнь возможной.

Ответственность перед обществом

Однако ответственность за защиту мира, в котором мы живём, нельзя перекладывать на тех, у кого меньше всего возможностей влиять на развитие этих технологий. Сегодня решения принимаются в кабинетах, куда большинству из нас никогда не попасть, но именно нам затем предлагают жить с последствиями таких решений. В подходе с фокусом на правах человека предлагается бороться с этим перекосом: отвечать должны те, в чьих руках сосредоточена власть.

Возможно, это означает, что мы должны быть скептичными с самого начала — не после того, как вред уже причинён, а в тот момент, когда технологии только появляются и выходят на рынок. В наших интересах заранее задавать неудобные вопросы: откуда всё взялось, кто это создаёт, как это работает и кому на самом деле приносит выгоду? Без этого мы начинаем воспринимать такие системы как нечто неизбежное, вместо того чтобы видеть в них то, чем они являются — результатом чьих-то решений. И тем самым упускаем главное: будущее должно строиться вокруг живых существ, а не оптимизироваться под машины.

Хийя Камран — ведущий редактор GenderIT.org и стратег по адвокации в программе прав женщин APC. Работает на пересечении технологий, гендера и прав человека.