Иллюстрация: Ибргаим Кизза для Ассоциации за открытые и прогрессивные коммуникации (APC), используется с разрешения

[Все ссылки в тексте — на английском языке, если не указано иное.]

Эта статья — часть серии материалов под общим названием «Не спрашивай ИИ — спроси другого человека», совместного проекта Global Voices, Ассоциации за открытые и прогрессивные коммуникации и GenderIT. Цель серии — привлечь внимание к тому, насколько значим обмен знаниями между людьми, который десятилетиями оставался естественной основой общественной жизни. Следить за публикациями в этой серии можно на сайтах APC.org, GenderIT.org, и globalvoices.org.

В ноябре 2022 года компания Open AI открыла доступ к ChatGPT для миллиардов пользователей по всему миру. С этого момента — когда ещё не существовало ни регулирования, ни этических рамок, ни действенных ограничителей — зазвучали бесчисленные пророчества о том, как искусственный интеллект изменит всё для человечества. Нам обещали, что человеческий труд станет ненужным, что людское творчество утратит смысл, чат-боты выведут человеческое общение на другой уровень, строгие алгоритмы ИИ, введённые государством, избавят социальные службы от предрассудков и предвзятости, как из рога изобилия уже в ближайшие годы на нас посыпятся научные прорывы. И многое другое.

Прошло более трёх лет с тех пор. Что же принесла нам эпоха генеративного ИИ? Ввела ненужные и весьма вредные изменения в систему образования, подарила части программистов дополнительные инструменты для написания кода, а сам ИИ — почти без человеческого контроля — стал применяться на войне.

На дворе 2026 год, а у ИИ-компаний по-прежнему не сформированы стабильные прибыльные бизнес-модели, нет внятных предложений для бизнеса о том, как использовать имеющиеся продукты с ощутимой пользой. При всём это представители индустрии ИИ — генеральные директора, финансовые руководители, главы исследовательских подразделений и даже директора по этике — продолжают продавать обществу почти магическое, антропоморфизированное видение своих моделей. Нельзя забывать и о том, что большинство этих компаний тесно связаны с «предыдущим поколением» технологических олигархов: Google разрабатывает Gemini; Microsoft инвестирует в Anthropic и Open AI; у Марка Цукерберга (Meta) есть собственная Llama; Элон Маск не только купил и практически разрушил Twitter, но также запустил печально известный склонностью к порнографии Grok; Джефф Безос вкладывается не в одну, а сразу в семь ИИ-компаний, включая Perplexity AI и базирующийся в Нидерландах стартап Toloka.

Нарративы об ИИ от техкомпаний лживы

Исследователи и журналисты уже проделали огромную работу, объясняя, как конструируются нарративы вокруг ИИ, каким образом они формируют не только тревогу и ложные представления об ИИ в обществе, но и панические настроения правительств, опасающихся «проиграть гонку ИИ».

Когда компания OpenAI представила ChatGPT, систему описывали как модель, «обученную» на огромном масштабе данных с использованием «нейросети», способной генерировать «естественный язык». Эти термины имеют техническую основу, однако одновременно описывают систему в категориях, близким к человеческим, создавая впечатление чего-то большего, чем просто «искусственный» интеллект.

Одновременно ошибки системы стали называть «галлюцинациями» — термином, вызывающим ассоциации с воображением, мистикой и человеческой психикой. Но фактически мы говорим не о галлюцинациях, а о рядовых ошибках моделей, построенных на статистической вероятности. И таких ошибок множество: по оценкам ряда исследователей, модели дают неверный результат в 25–30 процентах случаев.

Тем не менее совокупный эффект используемой терминологии, сопровождающий её ажиотаж и широко растиражированные предупреждения Сэма Альтмана [рус] о продвинутом ИИ направляют вектор общественного мнения в иное русло. Генеративный ИИ стал восприниматься как нечто динамичное, безгранично расширяющееся и трудно поддающееся контролю, а порой — даже как потенциальная экзистенциальная угроза человечеству.

Ещё один пример очеловечивания чат-ботов

Недавно компания Anthropic, основанная бывшими сотрудниками OpenAI, опубликовала документ под названием «Конституция Клода» (Claude’s Constitution).  Как отмечает правовед Луиза Яровски, Anthropic активно использует антропоморфную риторику, предлагая нечто, что можно воспринять как претенциозное, спорное и юридически сомнительное описание природы и общественной роли ИИ-систем.

Например, в документе говорится: «Мы поощряем Клода относиться к собственному существованию с любопытством и открытостью, а не пытаться рассматривать себя через призму человека или былых представлений об ИИ».

Подобный язык представляет модель как квазисознательную сущность, способную к саморефлексиии и «осмыслению собственного существования».

С точки зрения управления технологиями, «Конституция Клода», по мнению Яровски, создаёт тревожный прецедент. Формируемая идея, будто ИИ-системы обладают особым философским и моральным статусом, ведёт к тому, что человеческие ценности, правовые нормы и права людей могут отойти на второй план.

Наконец, сами модели класса LLM сконструированы так, чтобы выдавать текст от первого лица — неформальный и разговорный, а синтетические голоса специально максимально приближают к человеческим. Кроме того, как отмечает бывший специалист по вычислительной нейронауке Калеб Спонхейм, такие системы генерируют ответы, изобилующие чрезмерной любезностью, угодливым согласием и антропоморфизирующей лексикой. Приоритетом становится вовлечённость пользователя, а не практическая польза.

Более того, один из авторов вышеупомянутого документа, штатный философ Anthropic Аманда Аскелл, прямо заявляет, что «занималась созданием личности Клода».

ИИ — не твой друг

Как отмечают Эмили Бендер, профессор лингвистики Вашингтонского университета, и Нанна Ини, доцент IT-университета Копенгагена: «ИИ — не ваш друг. И не умный наставник, не сочувствующий собеседник и не полезный помощник. Он не может “выдумывать” факты и не совершает “ошибок”. Он вообще не отвечает на ваши вопросы».

Он не может «творить», он не «думает» и не «устанавливает связи». Он лишь воспроизводит то, на чём был «обучен», а создавалось это всё людьми. Генеративный ИИ не пишет, не проектирует и не рисует: он выдаёт статистически наиболее вероятные сочетания шаблонов. Это системы вероятностной автоматизации, и потому они принципиально отличаются от человеческого мышления и творчества. Да, для некоторых профессий они, вероятно, могут быть полезным инструментом.

Но чтобы это осознать, необходимо изменить язык, которым мы описываем ИИ-модели и эту технологию в целом. Журналистам и медиа пора перестать повторять маркетинговые лозунги технокомпаний, а политикам — помещать воображаемую срочность выше безопасности и прав человека.

И потому ответ на вопрос, почему в эпоху ИИ жизненно важно ценить человеческое творчество и человеческие связи, прост: никакого иного творчества и иной связи, кроме человеческих, не существует — как бы технокомпании ни пытались убедить нас в обратном.

Ибрагим Кизза — визуальный художник, дизайнер и иллюстратор, в центре внимания которого — человеческие связи, идентичность и культура. Особые маркеры его работ — выразительная композиция, насыщенный цвет и ярко выраженная повествовательность. Он часто обращается к опыту и повседневной жизни чернокожих сообществ. Работая в редакционной и цифровой среде, Ибрагим создаёт визуальные образы, сочетающие лаконичность с эмоциональной глубиной, выражая сложные идеи через контраст и символизм. Для этого проекта Ибрагим создал визуальное высказывание о напряжении между искусственной и человеческой связью, подчеркнув ценность реального опыта и коллективного творчества в мире, где всё больше процессов автоматизируются. Помимо иллюстрации, его интересуют дизайн, спорт и кино — и всё это продолжает влиять на его художественный язык и умение преподносить нарративы через изображение.