Команда ученых под руководством Суббарао Камбхампати заявила, что выдаваемые ИИ последовательности текста могут выглядеть как плод человеческого разума. Они заметили, что подобные тексты статистически сгенерированы и не имеют никакого реального семантического содержания или алгоритмического значения. Гуманизацию промежуточных токенов исследователи назвали мышлением культа карго.
В процессе исследования американские ученые назвали ответы ИИ-сервисов «фрагментами текста поверхностного уровня», а не значимыми следами мыслительного процесса. По их словам, у нейросетей нет признаков мыслительной деятельности. То, что выглядит как пошаговый процесс рассуждений, на самом деле является лишь побочным эффектом оптимизации.
Так, ученые доказали, что даже когда модели в качестве предварительных итогов выдают «полную тарабарщину», они в конце присылают пользователю правильный ответ. Создатели нейросетей также заставляют свои модели использовать слова типа «хм» и «ага», чтобы пользователю казалось, что он общается с разумным существом. Специалисты подытожили, что создатели ИИ-моделей должны посвящать больше времени повышению производительности, а не тому, чтобы процесс работы нейросети был похож на работу человеческого разума.
В феврале специалисты Университета Южной Австралии рассказали о связи искусственного интеллекта и творчества. Они подчеркнули, что нейросети не заменят творческих работников, но помогут им.