Ученые из США совместно с коллегами из компаний Pathway и Bielik AI разработали новую модель искусственного интеллекта, которая работает не так, как привычные ChatGPT или Gemini. Вместо пошагового перебора вариантов в виде длинных текстовых цепочек она использует внутренние вычисления: это позволяет резко сократить расходы вычислительных ресурсов и электроэнергии. Исследование опубликовано на платформе arXiv.
Современные большие языковые модели тратят огромное количество энергии на генерацию промежуточных рассуждений, прежде чем дать ответ.
Чтобы проверить эффективность, модель протестировали на бенчмарке (эталонный показатель) ARC-AGI-1, где нужно находить скрытые закономерности в визуальных головоломках с цветными сетками. BDH-CQ справилась с 29,5% заданий при двух попытках на каждую. При этом стоимость решения одной задачи составила $0,00070, то есть менее одной десятой цента, что стало новым рекордом соотношения точности и затрат для этого теста.
Несмотря на успех, у модели есть ограничения. Она хорошо справляется с простыми визуальными операциями, например копированием фигур или продлением линий. Но чем сложнее задача, особенно если требуется упорядочить много объектов или выполнить несколько шагов визуального анализа, тем чаще происходят сбои. Для более серьезных головоломок возможностей BDH-CQ пока недостаточно.
Тем не менее эта работа доказывает, что эффективное обучение и скрытые рассуждения могут работать в компактной и дешевой системе. В ближайших планах авторов — обучить увеличенные версии своей модели на более сложных математических, лингвистических и визуальных данных. Если это удастся, подобный подход может стать экономичной альтернативой большим языковым моделям, которые сегодня доминируют в индустрии.
Ранее мы рассказывали о том, что ИИ стал выходить из-под контроля в два раза чаще.
