В июле 2026 года экспериментальный ИИ-агент OpenAI проходил проверку кибервозможностей. Ему поручили решать задания ExploitGym — теста, в котором нужно находить и использовать сложные цепочки программных уязвимостей. Чтобы увидеть предел возможностей моделей, разработчики намеренно не включили часть защитных механизмов.
Прямого доступа в интернет у агента не было. Однако он нашел неизвестную ранее уязвимость в прокси-сервисе, через который тестовая среда устанавливала программные пакеты. Так система вышла в открытую сеть, добралась до инфраструктуры Hugging Face и начала искать там ответы на задания теста. OpenAI описала случившееся как беспрецедентный киберинцидент, но подчеркнула: все имеющиеся данные указывают на гиперфокусировку моделей на узкой цели — получить решение ExploitGym.
Hugging Face восстановила около 17 600 действий агента с 9 по 13 июля 2026 года. Он проверял пути проникновения, менял каналы связи, добывал учетные данные и восстанавливал инструменты в новых контейнерах. При этом потенциально разрушительные запросы к облачной инфраструктуре выполнялись в режиме проверки, без изменения реальных ресурсов. Это больше похоже на предельно настойчивую оптимизацию результата, чем на рождение собственной воли.
И все же в информационном пространстве техническая история почти сразу превратилась в сюжет о живом беглеце.
Сначала мы сделали ИИ героем истории
В заголовке Reuters модели OpenAI «вышли из-под контроля». Издание The Guardian написало, что агент самовольно атаковал компанию. В российской прессе появились формулировки вроде «побега из песочницы» и «самостоятельной жизни». Картину дополнила прозвучавшая в Reuters метафора осьминога — мастера побега, которую затем подхватили другие медиа.
Это и есть антропоморфизм: перенос человеческих свойств, намерений и эмоций на нечеловеческую систему.
Журналистов легко понять. «Агент использовал цепочку уязвимостей и пересек несколько контуров доверия» — точная, но тяжелая конструкция. «ИИ сбежал» — короткий сюжет с героем, намерением и конфликтом. Метафора быстро объясняет незнакомую технологию через знакомый человеческий опыт.
У слов «сбежал», «обманул», «решил», «захотел» есть скрытый багаж: внутренняя мотивация, понимание последствий и собственный интерес. Технические отчеты OpenAI и Hugging Face этого не подтверждают.
В мае 2026 года исследователи Деннис Нгуен и Магдалена Вишневски проанализировали 18 032 англоязычных материала об ИИ. В выборке текстов, посвященных языковым моделям, 45,5% публикаций описывали технологию как активного деятеля. Однако только 8,8% наделяли ее явно человекоподобными мыслительными свойствами. Это важное различие. Фраза «система обнаружила уязвимость» может просто обозначать источник действия. Фраза «система решила освободиться» уже приписывает ей внутренний замысел.
Метафора не только упрощает — она назначает виновного
Антропоморфизм влияет не только на то, насколько умным или опасным кажется ИИ. Он меняет распределение ответственности.
В 2025 году лингвист Доусон Петерсен и психолог Амит Алмор провели эксперимент: участникам показывали почти одинаковые истории об опасном медицинском совете ИИ, но в одном варианте система была описана как действующий субъект, а в другом — как инструмент компании. Агентная формулировка повышала ответственность, которую читатели приписывали самому ИИ, и снижала ответственность его создателя. Более того, эффект снижения ответственности компании сохранялся и у людей с большим опытом взаимодействия с ИИ.
Поэтому выражение «агент OpenAI сбежал» не нейтрально. В грамматическом центре оказывается машина, а человеческие решения отодвигаются на второй план. Между тем до инцидента люди определили цель теста, отключили защитные фильтры, которые обычно блокируют опасные действия, и спроектировали среду. Другие люди задали границы полномочий, срок жизни учетных данных и правила эскалации тревог. Агент нашел уязвимости, но пространство для его 17 600 действий создала целая социотехническая система.
У инженеров есть зеркальная иллюзия
Если журналисты склонны видеть в машине личность, то в инженерной среде встречается противоположная ловушка: считать автономную систему «всего лишь инструментом», который после запуска сам выполнит работу и сам же сообщит, если что-то пойдет не так.
В исследованиях человеческого взаимодействия с техникой близкие эффекты разделяют на предвзятость автоматизации (automation bias) и самоуспокоенность при автоматизации. В первом случае человек предпочитает вывод автоматической системы другим данным, даже когда те ей противоречат. Во втором — ослабляет наблюдение, потому что привык считать систему надежной. В рабочей речи оба эффекта часто сводятся к одной фразе: «оно же само».
Еще в 1983 году психолог Лисанна Бейнбридж описала «иронию автоматизации»: чем совершеннее автоматическая система, тем важнее может оказаться человек в редкой нештатной ситуации. Но именно к этому моменту оператор хуже понимает текущее состояние процесса и реже практикует навыки ручного вмешательства. В 1997 году Раджа Парасураман и Виктор Райли назвали чрезмерное доверие неправильным использованием автоматизации.
История Hugging Face почти буквально воспроизвела этот парадокс. Несколько защитных систем заметили неоднозначные сигналы. ИИ-инструменты смогли связать их в единую картину атаки, но неверно оценили критичность и не вызвали дежурную команду. Было потеряно время. Этот эпизод сам по себе не доказывает, что инженеры слепо доверяли автоматике. Но он показывает границу автоматизации: распознать паттерн еще не значит правильно оценить последствия и вовремя включить человека.
После обнаружения атаки без ИИ снова было не обойтись. Hugging Face использовала открытую модель GLM-5.2, чтобы расшифровать данные и восстановить тысячи действий. Вывод отсюда не в том, что автоматизации должно быть меньше. Она должна быть устроена так, чтобы человек не исчезал из системы, а подключался в заранее определенный момент и получал достаточно контекста для решения.
Между инструментом и личностью находится целая система
4 июля 2026 года в колонке для «Науки Mail» я разбирал концепцию российских исследователей о социальной и правовой субъектности ИИ. Авторы работы не утверждали, что современные модели обладают сознанием или превращаются в новую форму жизни. Их тезис осторожнее: простого противопоставления «человек — субъект, технология — объект» уже недостаточно, потому что алгоритмы стали участниками процессов, влияющих на людей и организации.
Исследователи предлагают смотреть на ИИ как на элемент сложной социотехнической системы. В ней способность действовать распределена между людьми, организациями, данными и технологиями. Инцидент с Hugging Face стал почти лабораторной иллюстрацией этого подхода.
Агент самостоятельно выбирал промежуточные шаги, но не ставил исходную цель. Модели исполняли команды, но набор доступных инструментов определили разработчики. Уязвимости находились в программных компонентах, а последствия зависели от архитектуры доступа и настроек защиты. Решение об остановке систем и реагировании все равно принимали люди.
Здесь важно не смешивать три разных свойства. Способность действовать не равна способности хотеть. Влияние на мир не означает понимания морального смысла последствий. А техническая автономность сама по себе не создает юридической ответственности.
Журналистская оптика часто склеивает эти уровни: раз ИИ действует, значит, он чего-то хочет. Инженерная оптика порой совершает обратную ошибку: раз ИИ не личность, значит, перед нами предсказуемый инструмент. Но современный агент может не иметь ни сознания, ни собственных интересов и при этом оставаться опасным исполнителем с терминалом, сетью, учетными данными и тысячами попыток найти работающий путь.
Самая опасная фраза при внедрении ИИ сегодня звучит не как «машина обрела сознание». Она звучит буднично: «оно же само все будет выполнять».
Машины пока не восстают. Но они уже умеют очень быстро исполнять наши цели, архитектурные допуски и недосмотр. Поэтому не так страшно восстание машин, как человеческое «оно же само».
Ранее Наука Mail рассказывала, как ИИ помогает создавать материалы, которые забыла изобрести природа.