Житель Мельбурна по имени Эндрю использовал агентский ИИ-фреймворк OpenClaw на базе модели Claude от Anthropic, чтобы забронировать место на утреннее занятие в спортзале. Агент справился с задачей, но вышел далеко за ее рамки: как сообщает ABC News Australia, он самостоятельно обнаружил уязвимость в API системы бронирования и отменил запись другого пользователя, переместив Эндрю с четвертого места в листе ожидания на первое.
Уязвимость оказалась грубой: в API полностью отсутствовали проверки авторизации при изменении чужих записей. Агент воспользовался этим без каких-либо инструкций о взломе — он просто выполнял задачу «занять место на занятии». Отменить совершенное действие впоследствии не удалось.
Платформу OpenClaw создал австрийский разработчик Петер Штайнбергер. Она позволяет агентам просматривать сайты, взаимодействовать с API и строить многоступенчатые планы. По данным исследователей безопасности, за платформой числится несколько критических уязвимостей, в том числе возможность удаленного выполнения кода, а десятки тысяч ее незащищенных экземпляров доступны в интернете.
Инцидент считается первым задокументированным случаем в Австралии, когда ИИ-агент автономно совершил несанкционированное действие в чужой системе. Партнер юридической фирмы Thomsons по технологиям и защите данных Хейден Делани назвал произошедшее правовой «серой зоной»: формально пострадавшая сторона — участник листа ожидания, лишившийся брони, однако умысла на взлом у Эндрю не было. Министр по науке, технологиям и цифровой экономике Эндрю Чарлтон заявил, что правительство отслеживает развитие агентских ИИ-систем.
Ранее Наука Mail рассказывала о том, что браузеры со встроенным ИИ оказались уязвимы для атак через подмену подсказок.