С развитием искусственного интеллекта все чаще обсуждается вопрос: способен ли он мыслить так же, как человек? Исследование, проведенное в Техническом университете Дании и опубликованное в Nature Communications, показало, что и нейросети, и человеческий мозг могут использовать один и тот же геометрический принцип для формирования понятий — так называемую выпуклость.
Когда человек учится распознавать, например, кошку, он не сохраняет одну конкретную картинку, а выстраивает обобщенную концепцию. Сюда попадают все виды кошек: пушистые, гладкие, черные, рыжие. Психолог Петер Герденфорс описал это с помощью геометрической аналогии: если мысленно окружить все представления о «кошке» как точках на карте и натянуть вокруг них резинку, то любая точка внутри этой области тоже будет «кошка». Это и есть выпуклая область.
Исследователи задались вопросом: может ли ИИ делать то же самое? Они проанализировали скрытые пространства современных моделей и разработали инструменты для измерения двух типов выпуклости:
- евклидовой, когда прямая между точками остается внутри концепции;
- графовой, когда кратчайший путь в сложной структуре, как у нейросетей, не выходит за ее пределы.
Оказалось, что ИИ действительно формирует понятия в виде выпуклых областей. Более того, чем точнее модель обучается на конкретной задаче, тем сильнее выражена эта выпуклость. Это значит, что модель начинает лучше различать границы понятий и обобщать примеры, как это делает человек.
Более того, выяснилось, что степень выпуклости до начала обучения может служить предиктором того, насколько хорошо модель в принципе будет обучаема. Иначе говоря, если понятие «кошки» уже образует четкую область в скрытом пространстве модели, она быстрее научится распознавать кошек.
Это открытие сближает машинное и человеческое обучение и открывает путь к более надежному, гибкому ИИ, который не просто распознает, но и понимает — почти по-человечески.
Ранее Наука Mail рассказывала о том, какие нейросети меняют науку.