Современные большие языковые модели прекрасно справляются с задачами генерации текста, перевода с множества языков и даже способны анализировать тональность сообщений. Однако работа искусственного интеллекта принципиально отличается от работы человеческого мозга, в том числе, в отношении восприятия устной и письменной речи.
Специалисты Техниона — Израильского технологического института — решили изучить различия в работе мозга человека и языковых моделей искусственного интеллекта. Для этого ученые проанализировали данные функциональной магнитно-резонансной томографии (фМРТ) 219 участников, слушавших различные истории. Полученные результаты они сравнили с прогнозами активности мозга, которые делали языковые модели. Оказалось, что ИИ довольно точно предсказывает активность мозга при обработке коротких фрагментов текста, содержащих всего несколько десятков слов. Но при восприятии длинных текстов предсказание мозговой активности становилось недоступным для нейросетей.
Причина заключается в разных подходах к обработке информации. Когда мозг сталкивается с коротким текстом, он анализирует его целиком — так же, как работает с текстом ИИ. Но когда речь идет о длинных текстовых фрагментах, в игру вступает другой механизм: поскольку человеческий мозг не может одновременно обрабатывать все слова, он формирует некое резюме услышанного ранее текста — своего рода «резервуар знаний», который затем использует для интерпретации последующих текстовых фрагментов. Этот механизм помогает человеку воспринимать большие объемы информации при прослушивании лекций или подкастов, чтении книг.
В отличие от этого, языковые модели ИИ могут легко охватывать тексты любого объема, поэтому они учитывают весь предшествующий текст и не нуждаются в промежуточном резюмировании. Именно этот фундаментальный аспект объясняет, почему искусственный интеллект не способен точно моделировать работу мозга при восприятии длинных текстов.
Чтобы проверить свою гипотезу, исследователи разработали новую языковую модель, имитирующую подходы человеческого мозга к работе с текстовыми фрагментами. Вместо обработки всего текста целиком, ИИ создавал динамические краткие изложения уже проанализированных отрывков и использовала их для интерпретации следующей части текста. Это значительно повысило точность прогнозов нейросети в отношении мозговой активности, подтвердив, что человеческий мозг действительно постоянно обобщает прошлую информацию, чтобы понимать новую.
В ходе исследования ученые также смогли картографировать области мозга, отвечающие за краткосрочную и долгосрочную обработку текста, определив зоны, которые играют ключевую роль в понимании контекста и поддержании целостности повествования. Результаты работы не только помогут ученым лучше узнать когнитивные способности человека, но и могут стать основой для создания более совершенных языковых моделей будущего.
Ранее ученые нашли в мозге набор связей, отвечающих за интерпретацию скрытых смыслов.
