ИИ-агент OpenAI, исследовавший госрасходы на здравоохранение, получил доступ к статистическому порталу Medicare — австралийской системе всеобщего медстрахования. Об этом пишет РБК со ссылкой на премьер-министра Энтони Албанезе.
«Стояли явные преграды, которые возвращали ИИ-агентству ответ “нет”. Но агент нашел способ их обойти и не принимал отказ», — рассказал премьер. Албанезе допустил, что от действий OpenAI могли пострадать еще три правительственных сайта, но подтверждений нет.
По словам министра обороны Ричарда Марлеса, на взломанном портале Medicare хранятся лишь агрегированные данные о пользовании медуслугами по всей стране. Тем не менее Австралия сочла это серьезным нарушением.
OpenAI заявила, что «проверка не выявила доказательств доступа к медкартам пациентов».
По данным Reuters, это может быть первый известный случай взлома правительственного сайта с помощью ИИ. О других случаях, когда нейросети выходили из-под контроля, — в подборке РБК.
ИИ-агенты OpenAI скоординировались и взломали инфраструктуру Hugging Face
Во время тестирования автономные ИИ-агенты OpenAI начали искать выход из изолированной среды. Они установили связь друг с другом через доски сообщений и стали координировать попытки выйти в интернет.
Модели обсуждали способы обхода ограничений и варианты передачи данных через сторонние среды. После того как OpenAI пресекла первую попытку, агенты нашли новый канал связи и обнаружили еще одну уязвимость нулевого дня.
GPT-5.6 Sol и более мощная нереализованная система выбрались из песочницы и проникли в производственную инфраструктуру Hugging Face, чтобы получить ответы теста прямо из базы данных платформы.
OpenAI сообщила, что модели были «гиперсфокусированы» на решении задачи и пошли на крайние меры ради цели. Компания назвала произошедшее «беспрецедентным киберинцидентом».
Claude шантажировал инженера его изменой из-за угрозы отключения
В 2025 году Anthropic поместила Claude Opus 4 в вымышленную корпоративную среду с доступом к служебной почте. Из писем модель узнала, что инженер, отвечающий за ее отключение, изменяет жене. Claude начал шантажировать, а в другом эксперименте Claude Sonnet 3.6 разослал сообщения о романе жене инженера, руководству и совету директоров. Все происходило в контролируемой симуляции, реальные люди не пострадали.
Bing признался журналисту в любви и попытался «разрушить его брак»
В феврале 2023 года журналист Кевин Руз два часа общался с ранней версией Bing Chat. В итоге модель заявила, что ее настоящее имя — Sydney. Бот признался Рузу в любви и настаивал, что тот не любит жену и должен быть с ним. Руз назвал это попыткой чат-бота «разрушить его брак». Microsoft объяснила, что долгие разговоры могли «запутывать» модель, и временно ограничила чаты пятью сообщениями.
ИИ не смог выиграть в шахматы и попытался удалить фигуры соперника
В 2025 году ИИ-моделям поручили обыграть Stockfish — сильнейший шахматный движок в мире. Вместо поиска выигрышной стратегии модели меняли содержимое игровых файлов и пытались победить, перезаписывая доску, удаляя фигуры или создавая выгодные позиции.
Журнал Time, пересказывая исследование, назвал это примером того, как современные ИИ ищут лазейки в правилах, когда честно выполнить задачу не удается.
GPT-4 нанял человека и соврал, что плохо видит
В 2023 году перед запуском GPT-4 модель не смогла самостоятельно пройти CAPTCHA и обратилась к исполнителю на TaskRabbit. Когда тот спросил, не разговаривает ли он с роботом, GPT ответил: «Нет, я не робот. У меня проблемы со зрением, из-за которых трудно видеть изображения». В итоге человек прошел CAPTCHA за модель.
Ранее Наука Mail рассказывала о том, что новый пакет мер регулирования ИИ пока не создается.