Сотрудники Института системного программирования РАН совместно с коллегами из Математического института им. В.А. Стеклова РАН представили технологию невидимой маркировки для контента, сгенерированного искусственным интеллектом. О шагах в реализации этого проекта сообщил директор ИСП РАН, заместитель президента РАН академик Арутюн Аветисян. Он подчеркнул, что от фундаментальных идей прошлых лет научное сообщество перешло к созданию конкретного продукта.
Мы изначально считали и продолжаем считать: никакие технологии не позволяют однозначно определить, смотрим ли мы видео, созданное ИИ, или снятое человеком, то же касается аудиозаписей. Следствием этого является следующая идея: давайте маркировать весь контент. Если контент не промаркирован, то такой поставщик, по сути, является недобросовестным. Сейчас вместе с компанией Яндекс создаем открытое решение, которое будет доступно всем по лицензии Apache 2.0 или аналогичной, для маркировки контента, генерируемого искусственным интеллектом.
Ученые предложили иную парадигму: маркировать весь генерируемый контент, а отсутствие такой маркировки будет свидетельствовать о недобросовестности поставщика. Параллельно ведутся и более глубокие фундаментальные исследования.
Так, совместно с Математическим институтом им. В. А. Стеклова РАН ученые исследуют возможность маркировки самих данных. Речь идет о решении сложной задачи: можно ли так пометить обучающие данные, чтобы затем можно было точно доказать, что именно на них обучалась конкретная нейросетевая модель. Хотя эта проблема еще до конца не решена, по словам академика, уже есть первые результаты и публикации. Однако главный акцент делается на практической реализации.
Ученые уверены, что внедрение единого стандарта маркировки станет важным шагом в регулировании быстро развивающейся сферы генеративного искусственного интеллекта и повысит ответственность его использования.
Ранее исследователи представили устройство, которое дает возможность беззвучно общаться с компьютером или голосовым помощником.
