Ученый рассказал, можно ли заставить нейросеть забыть ваши данные

Заставить нейросеть забыть определенную информацию возможно, однако вопрос заключается в эффективности процедуры и необходимых для нее ресурсах. Как работает «забывание» ИИ, корреспонденту Науки Mail рассказал кандидат физико-математических наук, руководитель группы «Доверенные и безопасные интеллектуальные системы» Института AIRI Олег Рогов.

Можно ли заставить нейросеть забыть ваши данные? Ученый — о механизме «забывания» ИИ

Источник: Magnific

Главная проблема заключается в том, что усвоенная моделью информация не обязательно хранится в одном конкретном месте, которое можно просто очистить.

«Забыть информацию довольно тяжело ввиду того, что она распределяется по весам, по параметрам самой модели», — объяснил Рогов.

Для решения этой задачи существуют разные процедуры машинного забывания. Они отличаются по эффективности, а оценить результат позволяют специальные метрики.

По словам эксперта, технически выполнить забывание конкретной персональной информации возможно, однако важным ограничением становятся ресурсы, которые разработчик готов на это потратить. Удаление исходного файла или записи и «забывание» уже усвоенной моделью информации — разные технические задачи.

Как разработчики оценивают безопасность моделей, и почему даже прошедшая тестирование нейросеть может ошибаться — смотрите в полном интервью Олега Рогова для Науки Mail.

Ранее глава РАН рассказал, как «усмирить» ИИ.