Эксперт предупредил об угрозе дипфейков для российских вузов

Дипфейки перестают быть проблемой только банков и мессенджеров — следующей целью могут стать университеты. Технический директор компании BSS Дмитрий Свалов рассказал корреспонденту Наука Mail, как злоумышленники могут использовать искусственный интеллект для атак на вузы и почему биометрии уже недостаточно для надежной идентификации.

Эксперт предупреждает о росте угрозы дипфейков в образовательной среде

Источник: Unsplash

По словам эксперта, современные нейросети научились достаточно убедительно воспроизводить внешность, голос, интонацию и манеру речи человека. Это создает новые риски не только для дистанционных экзаменов, но и для всей цифровой инфраструктуры вузов.

Еще несколько лет назад знакомое лицо или голос воспринимались практически как подтверждение личности. Сейчас этого уже недостаточно: нейросети позволяют достаточно убедительно воспроизводить внешность, голос, интонацию и манеру речи человека.

Дмитрий Свалов

технический директор компании BSS

Дипфейки могут использовать не только против студентов

Наиболее очевидный сценарий — попытка подменить студента во время дистанционной аттестации. Однако эксперт считает, что опасность гораздо шире. Одной из наиболее вероятных схем становится так называемый Fake Boss — атака, при которой злоумышленник выдает себя за руководителя организации и от его имени требует выполнить срочное действие.

«В университетской среде таким "руководителем" может оказаться ректор, декан или заведующий кафедрой, а целью атаки — получение учетных данных, внутренних документов или доступа к информационным системам», — объясняет Свалов.

По его словам, именно социальная инженерия становится одним из самых опасных направлений применения дипфейков в образовательной среде.

Почему одной биометрии уже недостаточно

Эксперт подчеркивает, что безопасность нельзя строить вокруг одного признака — только лица или только голоса. Современные биометрические системы уже используют технологии защиты от подделок, но этого тоже недостаточно. Например, в голосовой биометрии применяется технология антиспуфинга — она анализирует аудиопоток и пытается определить признаки синтезированной речи или голосового морфинга.

Нейросети способны имитировать внешность и голос, что создает риски для дистанционных экзаменов и цифровой инфраструктуры вузов

Источник: Magnific

Еще один механизм — сценарий «вызов — ответ», когда пользователю предлагают выполнить случайное действие или ответить на неожиданный вопрос. Такой подход значительно усложняет использование заранее подготовленных записей и дипфейков. При этом Свалов отмечает, что даже технологии обнаружения дипфейков не могут стать единственным уровнем защиты.

«Чем совершеннее генеративные модели, тем сложнее отличить подделку. Поэтому для критичных процессов нужен многоуровневый подход: биометрия, авторизация через доверенную систему, антиспуфинг, повторная проверка при подозрительной активности и ручной разбор спорных случаев», — говорит эксперт.

Университетам придется менять концепцию безопасности

По мнению технического директора BSS, главная задача вузов — отказаться от идеи «идеального» способа идентификации и строить защиту так, чтобы компрометация одного механизма не давала злоумышленнику полный доступ.

«Главный принцип здесь простой: компрометации одного способа идентификации не должно быть достаточно для получения доступа. Поэтому сочетание нескольких независимых механизмов защиты будет становиться важнее, чем попытка создать один "идеальный" биометрический идентификатор», — заключил Свалов.

Такой подход, считает эксперт, станет особенно важен по мере того, как университеты будут расширять использование электронных студенческих билетов, дистанционных экзаменов и других цифровых сервисов.

Ранее ученый МФТИ рассказал Наука Mail, как распознавать дипфейки.