Представьте: робот выполняет вашу просьбу, но делает что-то не то. Вы ничего не говорите, даже не двигаетесь — а система сама понимает, что ошиблась, и меняет подход. Именно такую возможность открыла технология, созданная в Корейском институте передовых технологий совместно с Microsoft Research Asia.
Технологию назвали Neural Value Alignment — нейрокомпьютерный интерфейс нового поколения, который считывает неосознанную реакцию мозга на действия искусственного интеллекта и передает сигнал обратно в систему для самокоррекции. Результаты опубликованы в журнале IEEE Transactions on Cybernetics.
Суть проблемы, которую решает технология, в неоднозначности между целями и действиями. Один жест может означать разные намерения, а одну цель можно достичь разными путями. До сих пор искусственному интеллекту приходилось ориентироваться только на внешние признаки — речь, жесты, действия — и регулярно ошибаться, заставляя человека поправлять его снова и снова.
Команда нашла выход в сигналах мозга, которые возникают при неожиданном развитии событий. С помощью электроэнцефалографии в реальном времени исследователи фиксировали активность людей, наблюдавших за работой ИИ, и обнаружили два разных типа реакции:
- ошибка прогнозирования вознаграждения возникает, когда система неправильно поняла саму цель;
- ошибка прогнозирования состояния — когда цель верна, но метод не совпал с ожиданиями.
Применив глубокое обучение к этим данным, команда научила систему распознавать тип несоответствия только по энцефалограмме — без единого слова со стороны человека.
Это исследование имеет большое значение, поскольку оно показывает, что искусственный интеллект может не только делать выводы о намерениях человека на основе видимых поведенческих результатов, но и напрямую использовать когнитивные сигналы, генерируемые мозгом во время взаимодействия с искусственным интеллектом
На основе этих данных разработан алгоритм синергии ИИ, который передает расшифрованные сигналы обратно в систему. При ошибке состояния система меняет стратегию, а при ошибке вознаграждения — заново пытается определить, чего хотел человек. Моделирование подтвердило, что метод работает быстрее существующих подходов даже при внезапной смене цели или нехватке сигналов обратной связи.
Директор Microsoft Research Accelerator Миран Ли назвал достижение результатом продолжающегося международного партнерства и выразил готовность к дальнейшей разработке технологий нейрокомпьютерного интерфейса. В будущем технологию планируется применять в автономном транспорте, бытовой и медицинской робототехнике, а также в образовательных платформах, подстраивающихся под когнитивное состояние учащегося.
Ранее Наука Mail рассказала, что начал ли ИИ конкурировать с человеком в науке.