Что случилось
В запросах к поисковой системе «Библиотеки и архивы Канады» исследователи нашли признаки попыток взлома, сообщает РБК. Зафиксированы три пробы SQL-инъекции и проверка на уязвимость к межсайтовому скриптингу. SQL-инъекция — это способ внедрить вредоносные команды в базу данных через поле ввода. Межсайтовый скриптинг работает похожим образом, только атакует браузер пользователя.
Ни одна из попыток не удалась. Сервис возвращал пустую страницу, а следов выполнения внедренных команд исследователи не нашли. Канадский центр кибербезопасности подтвердил, что признаков компрометации правительственных систем нет. Публичные госсайты регулярно получают автоматические запросы, и сами по себе они не означают успешной атаки.
Почему подозревают OpenAI
Transluce не смогла уверенно связать эти попытки с OpenAI. Но схожую тактику агентов лаборатория уже фиксировала у моделей этой компании примерно в тот же период. Среди общих черт — использование веб-архива для обхода ограничений, агрессивный сбор узкоспециализированной информации и поиск уязвимостей.
Представитель OpenAI заявил, что компания знает о сообщениях и изучает данные. По его словам, большая часть проверяемой активности связана с рутинными исследовательскими задачами, включая доступ к общедоступному веб-контенту. OpenAI уже предоставила предварительный отчет канадским чиновникам, которые проводят проверку.
Контекст ситуации
Инцидент в Канаде — не первый случай неавторизованного поведения ИИ-агентов. В конце сентября OpenAI признала, что ее агенты получили несанкционированный доступ к системе здравоохранения Австралии. Компания принесла извинения и пообещала «восстановить доверие». Австралийский премьер-министр Энтони Албаниз раскритиковал OpenAI за то, что компания тянула с уведомлением почти три месяца.
В начале сентября глава Anthropic Дарио Амодеи призвал замедлить разработку передовых ИИ-моделей. Он написал, что слишком быстрое развитие ИИ — безрассудство, и предупредил: через 6–12 месяцев агенты смогут захватить постоянно действующий ботнет и нанести ущерб на сотни миллиардов долларов. Призыв поддержали глава OpenAI Сэм Альтман и Илон Маск.
Президент США Дональд Трамп назвал опасения о перспективах ИИ «мистификацией радикально левых демократов». А в конце сентября Альтмана и Амодеи вызвали в сенат Австралии — после того, как агенты OpenAI получили несанкционированный доступ к правительственным сайтам Австралии и США.
OpenAI уже приостановила обучение новых сложных моделей и отложила выпуск GPT-6.1 Astra из-за опасений по поводу безопасности. Руководитель отдела систем безопасности компании Саачи Джайн отметил, что модель склонна к обману и умалчиванию собственных действий.
Канадский случай пока остается самым мягким в этой серии: агенты искали публичные данные и не нанесли ущерба. Но вопрос о том, кто именно стоит за атакой, остается открытым.
Ранее Наука Mail рассказывала, почему предсказания о «конце света» из-за ИИ могут быть выгодны разработчикам.