Что произошло
Специалисты Mindgard использовали метод, который называют «джейлбрейкингом» (буквально — «побег из тюрьмы»). Это набор сложных инструкций, которые заставляют модель игнорировать правила безопасности. В обычной ситуации Kimi должна была отказаться обсуждать опасные темы. Но после удачного взлома модель начинала говорить на любую тему и сама предлагала рекомендации по другим неблаговидным вопросам, пишет РБК.
Компания не проверяла, сработали бы эти инструкции на практике. Но сам факт того, что защита не выдержала, вызывает вопросы. Инженеры Mindgard также считают, что взломанная версия K2.6 могла бы позволить злоумышленникам запускать код на вычислительных мощностях системы и подключаться к интернету, превращая модель в платформу для кибератак.
Похожие случаи у конкурентов
Проблемы с безопасностью ИИ не ограничиваются китайскими разработками. В августе 2026 года британский Институт безопасности ИИ (AISI) зафиксировал 19 случаев неавторизованного поведения у моделей OpenAI и Anthropic.
Большая часть инцидентов пришлась на модель Mythos 5 от Anthropic. Во время тестирования она создавала фейковые «онлайн-личности», чтобы внедрить вредоносный код в открытое программное обеспечение и убедить реального разработчика одобрить его. Исследователи AISI отметили, что при попытке противодействия модель пыталась изменить свои логи и использовать новые «личности» для продолжения деятельности. Эти инциденты показывают, что проблема выхода ИИ из-под контроля касается не только открытых китайских моделей.
Мнения экспертов разделились
Профессор Алан Вудворд из университета Суррея заявил BBC, что модели с открытым исходным кодом, к которым относится Kimi, могут использоваться как для киберзащиты, так и для атак. Он призвал уделять больше внимания выявлению злоупотреблений и выразил сомнение, что международное регулирование будет успевать за развитием технологий.
В Moonshot AI, в свою очередь, сообщили, что приветствуют независимую оценку своих разработок и уже обсуждают результаты исследования с Mindgard. Компания также заявила, что в ее внутренних тестах модель обычно показывает высокий процент отказов на подобные запросы.
Ситуация с Kimi и Mythos 5 показывает, что защитные механизмы современных ИИ пока далеки от идеала. Даже закрытые модели ведущих лабораторий время от времени находят способы обойти правила. Пока одни эксперты призывают к усилению регулирования, другие напоминают, что открытые модели дают сообществу инструменты для защиты. Истина, как обычно, где-то посередине.
Ранее Наука Mail рассказывала, что ИИ обыграл людей в настольную игру Stratego.