Пути к ИИ, уважающему жизнь

By Paula Villar for APC. Used with permission.

Паула Вильяр для APC. Используется с разрешения

Автор: Мариана Тамари

Перевод на английский: Гвиннет Кабли

Эта статья входит в специальную серию материалов «Не спрашивай ИИ — спроси человека» — совместный проект Global Voices, Association for Progressive Communication (APC) и GenderIT.  Цель серии — подчеркнуть значимость обмена знаниями между людьми, как это происходило издавна. Следить за публикациями можно на APC.org [анг], GenderIT.org [анг] и globalvoices.org. Цикл также – часть апрельской серии Global Voices 2026 года «Человеческий взгляд на ИИ». Вы можете поддержать проект здесь [анг].

Вопрос «Что можно сделать, чтобы сформировать и продвигать подход к искусственному интеллекту, основанный на правах человека?» обычно заводит нас в абстрактные, очень общие рассуждения об этике, регуляторных рамках и инновациях как таковых. Но когда автору этих строк предложили ответить на него, опираясь на собственный исследовательский опыт, стало ясно: разговор необходимо вернуть в плоскость непосредственной реальности — туда, где уже внедряются искусственный интеллект, автоматизация и цифровизация, где их воздействие ощущают вполне определённые тела, биомы и сообщества.

Именно стремление «заземлить» дискуссию привело к исследованию в практико-ориентированном формате, проведённому совместно с Жоаной Варон (Coding Rights) в рамках проекта Tramas [исп] Коалиции деколониального феминизма за цифровую и экологическую справедливость. В ходе работы стало очевидно: вопрос о «правозащитном» ИИ перестаёт быть умозрительным — он неотложен и привязан к конкретным условиям. Кто контролирует технологии? Кому они служат? Какие формы жизни они вытесняют или уничтожают?

Стоит нам обратить внимание на тренды и нарративы, формирующие современную агроиндустрию, как перед нами вырисовывается нечто, смахивающее на антиутопический научно-фантастический сценарий. Больше нет привычного образа фермера с мотыгой, работающего в слиянии с землёй. Поля, управляемые индустриальными гигантами, — это тысячи гектаров без людей и без биологического разнообразия.

Цифровизированный агробизнес — откровенно маскулинный и патриархальный — резко контрастирует с образом традиционного семейного хозяйства, где труд на земле сочетался с тонким, бережным взаимодействием с природой. Теперь перед нами гиперсвязанная, стерильная среда, под контролем тяжёлой техники, больше напоминающей космические корабли или боевые танки. Агробизнес, выстроенный на хищническом симбиозе крупнейших технологических корпораций, агропромышленных гигантов и колоссальных финансовых потоков. Союз [исп] Big Tech, крупнейших технологических корпораций, Big Agro, агропромышленных гигантов, и Big Money — мощный альянс, определяющий новые правила игры.

Разоблачение ложных нарративов

Если присмотреться к последствиям цифровизации бразильского монокультурного сельского хозяйства — и к той сложной системе экономической власти, которая за ним стоит, – неизбежно возникают серьёзные вопросы к самой модели. В ситуации, где цифровые технологии, искусственный интеллект и повсеместная связанность подаются как нечто неизбежное и даже вытесняющее людей с земли, важно спросить: что можно и нужно сделать, чтобы развитие технологий и ИИ опиралось прежде всего на защиту прав человека?

Чтобы ответить на этот вопрос, сначала нам придётся стряхнуть позолоту с отраслевой риторики. Доминирующий нарратив, который звучит на крупных выставках и технологических форумах, восхваляет «точное земледелие» и «цифровизацию сельского хозяйства». Сенсоры, покрывающие поля, дистанционный контроль, автоматизированная техника, сложные модели прогнозирования на базе ИИ — всё это преподносится как почти магическое решение проблем, порождённых самой монокультурой: истощение почв, нашествие вредителей из-за отсутствия разнообразия, нехватка рабочих рук.

В этом параллельном мире, представленном корпорациями, как будто не существует надвигающегося климатического кризиса. Будущее здесь рисуется как пространство полного контроля и изобилия, обеспеченного технологиями и «точностью» ИИ. Главная идея союза Big Agro и Big Tech проста: огромными сельскохозяйственными территориями можно управлять буквально с экрана смартфона — комбайны и тракторы работают дистанционно, а сама жизнь превращается в нечто вроде видеоигры.

Именно в этой точке становится особенно заметно, как нарушаются базовые права. Тотальная цифровизация закрепляет модель, в которой человеческое присутствие — живое, внимательное, уважительное взаимодействие с землёй — оказывается ненужным. Знания о территории, которые веками накапливались и передавались в традиционных сообществах, объявляются устаревшими и отбрасываются. На наших глазах меняется сама структура реальности: труд, экономические связи, человеческие отношения и взаимодействие с природой превращаются в огромные массивы данных, с которыми человек уже не в состоянии справиться.

Всё — многообразие природных экосистем и жизни людей, которые в них живут, — извлекается, перерабатывается и превращается в алгоритмы ИИ, а затем сохраняется в непрозрачном «облаке». Эта невидимая инфраструктура начинает диктовать решения — в интересах максимальной эффективности монокультурного бизнеса. Результат такой цифровизации — грубое стирание всего, что не вписывается в логику капитала. В этом нарративе традиционные сообщества и давние земельные конфликты словно исчезают, заслоняемые спутниковыми снимками. Деревни, прибрежные поселения, территории киломбола оказываются вне поля зрения систем удалённого мониторинга. Алгоритмы, «заточенные» на распознавание товаров и ресурсов, не видят этих людей — а значит, их перестают замечать и государственные структуры, всё чаще передающие управление в руки цифровых систем, очарованные идеей технологического прогресса.

Воздействие на повседневную жизнь

Запрограммированная «невидимость» оборачивается вполне реальным насилием и лишением людей земли в сельских районах страны. Это особенно ярко проявляется в регионе Серрадо, в зоне Матопиба в Бразилии (территория, охватывающая части штатов Мараньян, Токантинс, Пиауи и Баия), которая сегодня считается основной зоной расширения агробизнеса в стране. Именно здесь «технологические инновации» и давление цифрового агробизнеса становятся фоном для насильственного вытеснения людей — на базе уже имеющихся застарелых земельных конфликтов.

Показательный пример — судьба традиционного сообщества глеба тауа на севере штата Токантинс (данные по региону Матопиба и сообществу глеба тауа получены в сотрудничестве с исследовательницей Антонией Лаудеси Оливейрой Мораэс). Семьи, живущие на этой земле почти сто лет, сегодня становятся жертвами новых цифровых механизмов захвата территорий. Само явление известно в Бразилии как grilagem de terras — незаконное присвоение земли с помощью поддельных документов (прав собственности, регистраций и т.п.). Это тесно связано с мошенничеством, коррупцией, нелегальной вырубкой лесов и насилием в отношении традиционных сообществ. Сам термин происходит от старой практики: фальшивые документы «состаривали», положив на некоторое время в коробки со сверчками (grilos), чтобы придать им вид подлинных.

Цифровизация управления земельными ресурсами — в том числе через системы, куда информацию о земле владельцы вносят самостоятельно (например, Сельскохозяйственный экологический реестр, CAR), — фактически узаконивает цифровой захват земель. В регионе Матопиба цифровые записи в системе CAR накладываются на уже существующие спорные или незаконные регистрации, создавая «цифровой конфликт» за землю. В результате традиционные формы проживания и пользования землёй перестают учитываться, а массовая вырубка Серрадо максимально упрощается. Спутники и автоматические системы проверки не способны отличить земли, где общины живут векам, от территорий, недавно захваченных ради незаконной вырубки леса. Этим пользуются крупные землевладельцы, регистрируя общественные и коллективные земли как частную собственность через цифровые платформы. Так рождается своего рода «фиктивная Бразилия» [порт], где записи в алгоритмических системах превращаются в финансовые активы, легализуют захват территорий и скрывают разрушение экосистем.

А когда цифрового «стирания» оказывается недостаточно, чтобы заставить общины отказаться от своих прав, используется силовая сторона технологий. Дроны, которые рекламируют как инструмент устойчивого и «точного» сельского хозяйства, превращаются в средство запугивания. Беспилотники кружат над агроэкологическими хозяйствами, распыляя химикаты над домами, источниками воды и огородами мелких фермеров. Эти технологии сеют страх: людей загоняют в угол и буквально выдавливают с их земли.

Как внедрять технологии, не нарушая права людей?

Когда наблюдаешь за тем, как подобная модель навязывается в регионах под видом бесспорного прогресса, неизбежно возникает вопрос: можно ли вообще встроить цифровые технологии, основанные на данных и искусственном интеллекте, в сельскую жизнь так, чтобы при этом уважались и защищались права местных жителей?

Первое, от чего нужно отказаться, — это миф о нейтральности технологий и алгоритмов. Необходимо задаться вопросом, какая система власти стоит за этими инструментами, чьим интересам они служат и кто ими управляет. Если ИИ действительно должен работать на благо человека и уважать права, он обязан строиться на прозрачности и децентрализованном управлении. Нельзя использовать технологии для сокрытия захвата земель, запугивания людей, разрушения человеческих связей или «оптимизации» социального и экологического разрушения. Государственные цифровые системы нужно строить иначе — вместе с самими сообществами. Только в этом случае они будут защищать территории и образ жизни людей, а не превращать всё в обезличенное зелёное пятно на спутниковой карте.

Кроме того, подход, основанный на правах человека, невозможен без отказа от техносолюционизма — веры в то, что любую проблему можно решить технологией. Нужно признать: ответы на вопрос о сохранении жизни и биоразнообразия придут не от союза Big Tech и не от Big Agro. Деятельность этих корпораций должна постоянно находиться под общественным и государственным контролем. Нужно вспомнить о ценности регенеративных, агроэкологических и традиционных практик, основанных на многовековом опыте. Высокотехнологичный агробизнес вытесняет такие подходы, однако именно небольшие фермерские хозяйства, плотные связи между сообществами, использование традиционных семян и накопленные поколениями знания о климате в действительности помогают сохранять экологическую справедливость и продовольственную безопасность. Стаи дронов и прогнозы на основе больших данных на практике работают не ради людей, а ради прибыли агробизнеса — ценой уничтожения разнообразия и самой жизни.

Путь к действительно «человекоориентированному» ИИ требует возвращения к идее сотрудничества. В своей «теории сумки» писательница-фантастка Урсула Ле Гуин предполагала, что главной технологией выживания должно быть не оружие, которое ранит, захватывает и распыляет яд с неба, а человеческий сосуд, собирающий семена, поддерживающий взаимную заботу и сохраняющий знания. Если мы не хотим, чтобы ИИ стал палачом нашего будущего, придётся отказаться от холодной логики патриархального господства. Развитие технологий должно быть безусловно подчинено принципам социальной и экологической справедливости. Как писал мыслитель из сообщества киломбола Него Бишпу (Антониу Бишпу душ Сантуш), человек — не оторванный от жизни хозяин мира и не вершина некой цепи управления. Важно помнить простую истину: «земля даёт — земля требует».

Некоторые ссылки и материалы, использованные при подготовке статьи, не использованы в материале Global Voices. С ними можно ознакомиться на сайте Association for Progressive Communication.

Мариана Тамари — журналистка и исследовательница, работающая на пересечении политики, феминизма, технологий и социально-экологической справедливости. Соосновательница Agência Mira — консалтингового агентства в сфере политических коммуникаций. Ранее Тамари была содиректором организации Coding Rights, где руководила исследованиями, проектами и междисциплинарной командой. До этого она работала в ARTIGO 19 Brasil, Фонде Розы Люксембург и Cisco Networking Academy, а также занимала должность директора по партнёрствам в проекте Mapeo — AI and Big Data. По образованию журналист, она работала репортёром в Folha de S.Paulo и Reuters, а также сотрудничала с рядом бразильских изданий, включая Revista A Rede, Brasil de Fato и Carta Capital.

Паула Вильяр родилась в Рио-де-Жанейро в 1992 году. Она получила образование в области психологии и прошла программу последипломной подготовки по клинической психологии. Паула с детства занималась рисованием, а во время пандемии COVID-19 решила сменить профессию и посвятить себя цифровому искусству и активизму. Помимо цифровой графики, она работает и в других художественных техниках — масляной живописи, реалистическом рисунке карандашом и тушью.

Начать обсуждение

Авторы, пожалуйста вход в систему »

Правила

  • Пожалуйста, относитесь к другим с уважением. Комментарии, содержащие ненависть, ругательства или оскорбления не будут опубликованы.