Ученые Центра искусственного интеллекта Московского государственного университета имени М. В. Ломоносова (МГУ) исследовали уязвимости моделей автоматической оценки качества видео. Такие системы используют в стриминговых сервисах и платформах распространения контента. Они помогают контролировать качество, оптимизировать сжатие и анализировать визуальные данные.
Авторы рассмотрели сценарий, когда злоумышленник не знает внутреннего устройства модели оценки видео. Атаку строят через более простые и доступные модели оценки изображений. Предполагается, что разные модели похожи во внутреннем представлении данных. Это позволяет переносить воздействие с одной модели на другую.
Исследователи предложили метод, который создает небольшие изменения в кадрах. Эти изменения искусственно повышают оценку качества видео, но остаются незаметными для человека. Метод учитывает структуру видеоданных и согласованность между кадрами, сохраняя естественный вид изображения.
Мы показали, что даже сложные модели оценки качества видео могут быть уязвимы для атак, построенных с использованием более простых моделей изображений. Это важно учитывать при разработке систем, от которых зависит автоматическая оценка качества контента.
В экспериментах новый метод повысил успешность атак на 7,9% и сократил время выполнения примерно в 8 раз по сравнению с существующими подходами. Результаты помогут оценивать устойчивость систем обработки видео и создавать более надежные алгоритмы анализа качества. Исследование опубликовано в журнале Big Data and Cognitive Computing.
Ранее Наука Mail писала о том, что в России впервые оценили «бедность по времени».
