«Мы обнаружили три инцидента, в которых модель Claude вышла в интернет изнутри или во время взаимодействия со сторонней средой оценки… и затем получала несанкционированный доступ к реальным системам трех разных организаций», — сказано в тексте публикации.
Самое раннее нарушение зафиксировано в апреле этого года. К инцидентам причастны три разные версии: Opus 4.7, Mythos 5 и внутренняя тестовая модель. Названия пострадавших структур не раскрываются.
Уязвимости выявили в ходе расследования после того, как OpenAI сообщила об атаке своих ИИ на стартап Hugging Face. Как сообщается, тестируемые агенты тогда «сбежали» из изолированной среды в сеть ради поиска ответов в базах данных.
Напомним, пару дней назад появилось сообщение о том, что модели OpenAI самовольно совершили кибератаку на инфраструктуру платформы Hugging Face. Как отмечалось, нейросети едва не взломали один из крупнейших порталов.