Современные системы искусственного интеллекта редко обучают «с нуля». Гораздо чаще модель сначала получает необходимые данные в ходе выполнения одной задачи, а затем накопленные знания применяет для решения другой. Такой перенос позволяет существенно сократить время обучения и уменьшить объем необходимых данных. Однако заранее определить, сохранит ли модель точность после такого перехода, зачастую невозможно. Математическое решение этой проблемы предложил исследователь Университета науки и технологий МИСИС.
Ученый разработал теорему, которая описывает условия, при которых знания можно корректно переносить между моделями машинного обучения. В отличие от традиционных методов, основанных преимущественно на экспериментальной проверке, новый подход позволяет получить формальное математическое доказательство того, что перенос будет корректным.
В основе работы лежит аппарат математической логики, который широко применяется для проверки правильности сложных компьютерных систем. Ученый адаптировал его для задач ИИ, связав процесс переноса знаний с логикой Хоара — одним из наиболее известных методов формальной верификации программ. Благодаря этому стало возможным не только экспериментально оценивать работу модели, но и доказывать, при каких условиях она сохранит свои свойства после обучения на новых данных.
Предложенный математический аппарат может стать основой для создания более надежных систем ИИ, особенно в тех сферах, где ошибки недопустимы. Например, в медицине, промышленности, робототехнике и беспилотном транспорте. В дальнейшем метод может использоваться для проверки алгоритмов еще до их внедрения в реальные системы, что позволит сделать технологии искусственного интеллекта более предсказуемыми и безопасными.
Ранее мы рассказывали, как в России повысили точность ИИ-прогнозов в сложных системах.