Ученые из университета Вашингтона (США) выяснили, что четыре из семи популярных браузерных агентов с встроенным искусственным интеллектом позволяют мошенникам проникнуть к конфиденциальным данным пользователя. О том, что несмотря на свою популярность браузерные агенты еще недостаточно готовы к использованию, рассказывается на сайте университета.
Безопасность пользователя обеспечивается «политикой одинакового источника». По ней веб-сайты, открытые в браузере, не могут обмениваться между собой информацией, даже если один сайт встроен в другой. Если вы попадете на небезопасный сайт, то информация на других вкладках будет защищена.
Ученые провели экспериментальную кибератаку на четыре браузера: ChatGPT Atlas, Chrome с Gemini, Claude для Chrome и Perplexity Comet. Они выяснили, что браузеры не могут защитить данные о банковском счете, почте и прочие, которые не должны попадать в чужие руки.
Самой распространенным приемом, которая используется в атаках, оказалась «инъекция промта». Вредоносный сайт, встроенный в безопасную страницу, может содержать скрытую инструкцию, опасность которой ИИ может не распознать. Другой риск — «отравление памяти». ИИ часто хранит обработанную информацию, поэтому содержимое их памяти тоже может стать уязвимым для атак.
Пока не придумано возможности сохранить возможности браузеров и одновременно обеспечить их безопасность во время использования ИИ-помощников. Компании выпускают новые браузеры в условиях конкуренции, однако вопрос безопасности остается открытым.
Ранее Наука Mail рассказывала о том, что хакеры научились «подменять» воспоминания ИИ.