В Новосибирском государственном университете разработали способ снизить количество галлюцинаций в нейросетях, сообщает пресс-служба вуза.
Команда под руководством доцента Ивана Бондаренко разработала фреймворк RAGU (Retrieval-Augmented Generation & Understanding). Проект победил в конкурсе Yandex Open Source в треке «Искусственный интеллект». RAGU предназначен для случаев, когда простого векторного поиска недостаточно и нужно строить полноценные графы знаний по текстовым документам.
Система автоматически режет сырой текст на устойчивые фрагменты, нейросеть выделяет сущности и связи, после чего RAGU собирает граф, объединяет дублирующие узлы и разбивает сеть на кластеры по алгоритму Лейдена. Когда пользователь задает сложный вопрос, система генерирует ответ, основанный на знаниях о предметной области, а не на общих статистических ассоциациях. Это позволяет избегать «галлюцинаций» — выдуманных ответов, которые нейросети часто выдают при нехватке данных.
Такую систему можно адаптировать и для других отраслей — от строительства до работы с нормативной документацией. Везде, где есть архив документов или база знаний, важна система, которая хорошо понимает язык и умеет строить формальную модель знаний
Разработка уже используется в системе «Менон» — цифровом помощнике абитуриента НГУ, который отвечает на вопросы о поступлении, программах и жизни в университете. В отличие от поисковиков, «Менон» ведет диалог и формулирует ответы своими словами, опираясь на структурированную базу данных.
Команда сравнивала RAGU с китайским решением LightRAG и другими библиотеками. Их система показала лучшее качество работы. В планах — научить систему лучше понимать живую речь, аббревиатуры и контекст диалога.
Ранее Наука Mail писала о том, почему эксперты призывают отказаться от нейросетей в поиске любви.
