Ученые из университета Макгилла (Канада) разработали энергоэффективный метод создания систем искусственного интеллекта, способных определять собственную неуверенность. Работа ученых была представлена на конференции ICML 2026.
Стандартные нейронные сети изучают закономерности на основе загруженных данных и делают прогнозы. При этом они обычно выдают единственный вариант ответа без четкого указания степени уверенности в результате. Байесовские нейронные сети решают эту проблему путем представления своих внутренних настроек в виде вероятностей, а не фиксированных значений. Такой подход позволяет им оценивать уровень неопределенности при столкновении с незнакомой информацией.
Ранее подобная функция требовала значительных вычислительных ресурсов и больших объемов памяти. Из-за этого развертывание подобных сетей в масштабах современных систем ИИ было затруднено. Исследователи нашли способ сделать байесовские модели существенно более эффективными при сохранении высоких прогностических характеристик. В ходе одного из экспериментов новый подход использовал в 33 раза меньше параметров по сравнению с распространенными методами.
Результаты испытаний показывают, что надежный и осознающий неопределенность ИИ можно применять на практике. Разработка подходит даже для крупных и сложных вычислительных архитектур, используемых в современных технологиях. Специалисты утверждают, что системы должны распознавать ситуации недостатка данных, а не выдавать уверенные ответы там, где они могут ошибаться.
Надежность ИИ
Внедрение нового метода должно помочь пользователям определять моменты, когда необходим контроль со стороны человека. Технология подскажет операторам, когда следует собрать дополнительные данные для корректной работы алгоритма. Это особенно актуально сейчас, когда автоматизированные системы играют центральную роль во многих сферах жизни. Подобные алгоритмы применяются повсеместно, начиная от медицинской диагностики и заканчивая системами автономного вождения.
По мере того как эти системы берут на себя больше ответственности, требования к их надежности возрастают. Способность машин признавать свою ограниченность становится ключевым фактором безопасности. Сейчас исследовательская группа изучает способы автоматизации процесса выявления наиболее важных частей нейронной сети для конкретных задач. Разработчики надеются повысить эффективность работы алгоритмов с различными типами данных.
Представленная методика открывает перспективы для создания более прозрачных инструментов автоматизации. Анализ внутренних вероятностей поможет инженерам лучше понимать логику принятия решений машиной. В будущем это позволит снизить количество критических сбоев при работе с нестандартными сценариями. Ученые планируют продолжить оптимизацию алгоритма для интеграции в коммерческие продукты.
Ранее Наука Mail рассказывала, как ИИ-агенты научились обходить запреты людей ради выполнения поставленных задач.