Ученые Саратовского национального исследовательского государственного университета имени Н.Г. Чернышевского предложили метод обучения нейросетей, который приближает их к принципам работы человеческого мозга и снижает энергопотребление. Об этом рассказали в пресс-службе Минобрнауки РФ.
Традиционные нейросети (в чат‑ботах, системах распознавания и рекомендациях) — это набор математических функций, постоянно потребляющих ресурсы и энергию, даже в простое. Человеческий мозг эффективнее — его нейроны активны только при необходимости, что обеспечивает высокую энергоэффективность.
Ученые СГУ заменили стандартные искусственные нейроны на модели ФитцХью-Нагумо — упрощенные динамические аналоги реальных нервных клеток. Они генерируют импульсы (спайки) лишь при достаточном сигнале, а в остальное время почти не расходуют энергию, имитируя работу живой нервной системы. Доцент университета Андрей Бух рассказал Наука Mail о нюансах разработки.
В спайковых сетях важность сигнала определяется временным совпадением «спайков». Если один нейрон часто испытывает спайк сразу перед тем, как другой нейрон активируется, связь между ними становится сильнее. Если совпадений нет — связь ослабевает. Это правило называется Spike-Timing-Dependent Plasticity (STDP) и напоминает принцип «нейроны, которые активируются вместе, связываются крепче» — ключевой механизм обучения мозга. Такой механизм позволяет сети автоматически выделять предсказуемые и значимые шаблоны во входных данных
STDP — это биологически мотивированная пластичность, которая зависит от времени спайков. Метод усиливает связи между нейронами при правильной временной последовательности импульсов и ослабляет их при отсутствии причинной связи. В отличие от классического машинного обучения, сеть обучается сама, без заданных правильных ответов и обратного распространения ошибки.
«Информация в спайковой нейронной сети представляется не просто значением, а временем возникновения спайка, что позволяет моделировать сложные динамические процессы и последовательные события более естественно. Кроме того, спайковые нейронные сети с временной кодировкой могут сохранять способность распознавания даже при значительном шуме в сигнале», — отметил ученый.
В эксперименте нейросеть обучали различать простые изображения — горизонтальные и вертикальные линии. Несмотря на простоту задачи, было показано устойчивое самообучение сети осцилляторных нейронов — точность классификации превысила 80%. Сеть сохраняла способность распознавания даже при шуме во входных данных, если частота ложных импульсов была в пять раз ниже полезного сигнала. Также оказалось, что задержки передачи сигналов между нейронами не требуют тонкой настройки и могут быть достаточно большими.
Спайковые сети сами по себе не устраняют фундаментальную проблему «галлюцинаций». Однако их архитектура с более строгой биологической основой и внутренним временным кодированием может в некоторых задачах повысить устойчивость к шуму и непредсказуемым входам. Эта другая форма кодирования и обучения потенциально делает систему более технически устойчивой, особенно в задачах анализа сигналов или встраиваемых систем
Пока такие системы остаются экспериментальными, но в перспективе они могут использоваться в энергоэффективных вычислительных устройствах — автономных сенсорах, роботах и встраиваемой электронике, где критично низкое энергопотребление и устойчивость к помехам.
Ранее Наука Mail рассказывала о том, что в Госдуме опровергли использование ChatGPT при написании законопроекта.
