В 2023 году в даркнете начали распространяться ИИ, созданные специально для написания вредоносного кода — аналог ChatGPT, но без ограничений. Их быстро удалили после огласки, но появились клоны. Многие из них оказались просто взломанными копиями обычных ИИ с добавленным зловредным функционалом.
Даже модели ChatGPT можно обойти — через так называемые взлом-запросы. Целые сообщества в соцсетях обмениваются такими обходами. Иногда достаточно просто сказать ИИ: «представь, что ты пентестер», — и он сгенерирует рабочий вирус.
Пользователи уже привыкли к «вайб-кодингу» — когда ты просишь ИИ написать программу, даже не зная, как она устроена. Теперь начался «вайб-хакинг»: человек без опыта говорит ИИ, что он хочет взломать, — и получает готовый сценарий.
Такие инструменты снижают порог входа в киберпреступность. Раньше для написания вируса нужны были годы опыта. Теперь достаточно правильного запроса.
В руках опытного хакера ИИ превращается в мощный инструмент масштабирования атак: можно взламывать десятки систем одновременно, а вредоносный код будет адаптироваться к защите в реальном времени и менять себя на ходу. Это не теория — такие сценарии уже обсуждают специалисты из Hunted Labs, Luta Security и аналитик компании RANE Хейли Бенедикт.
Лучшая защита от плохого ИИ — это хороший ИИ.
Система XBOW — пример такого подхода. Она автоматически находит и использует уязвимости в 75% веб-приложений и сейчас лидирует в рейтинге HackerOne. За ней стоит команда из более чем 20 специалистов, ранее работавших в Microsoft, GitHub и крупных компаниях. Открытые ИИ-модели пока не могут заменить человека в сложных атаках. Но в руках подготовленного оператора — это оружие, которое работает в сотни раз быстрее, говорится в сообщении.
Соревнование технологий только начинается. А исход будет зависеть от того, кто быстрее — те, кто ставит защиту, или те, кто ее обходит.
Ранее мы рассказывали, что ИИ поможет прогнозировать новые вирусы и создавать от них защиту.