Мюррей Шанахан, которого называют лидером академической мысли по проблеме искусственного сознания, опубликовал препринт научной работы под названием Palatable Conceptions of Disembodied Being: Terra Incognita in the Space of Possible Minds. В нем поднимается фундаментальный вопрос: может ли бестелесный ИИ обладать сознанием?
Профессор предположил, как современные языковые модели и другие «бестелесные» системы ИИ могут проявлять признаки сознания. Особое внимание он уделил концепциям субъективного времени и самоидентификации у искусственного интеллекта.
Попытка описать сознание ИИ привела британского исследователя к концепциям, близким к буддийской философии «пустоты» (ключевая идея этой философии заключается в том, что все явления лишены независимого, неизменного существования; они взаимозависимы, т.е. существуют только в связи с другими явлениями). Это бросает вызов традиционным дуалистическим представлениям о сознании и субъективности.
Один из самых интересных и глубоких комментариев на текст Шанахана прозвучал в среде российских ученых:
Если уж из-за конкуренции между людьми создание сверхинтеллекта, похоже, неизбежно (и неизбежен переход к нему контроля за нашей судьбой – передача «эволюционной эстафеты интеллекта и сознания»), то главной задачей психологии на оставшиеся годы должно быть «воспитание» этого будущего сверхинтеллекта как нашего как можно более достойного преемника. Идеи Шанахана показывают, как это может быть сделано конкретно – через глубокое и эмпатичное понимание особенностей сознания большой языковой модели (даже если это понимание явно сильно ограниченно, в т.ч. и на языковом уровне). Критично важно, что Шанахан активно привлекает буддистскую традицию для такого понимания, а ведь буддисткой традиции изначально свойственна глубокая универсальная эмпатия («compassion») к любым существам, в т.ч. не являющимися людьми. Если мы будет воспитывать нашего эволюционного преемника в таком контексте, то повышается вероятность и 1) что он будет нам достойным преемником в этическом смысле, а это будет означать, что человечество прожило свой отмеренный эволюцией отрезок глобальной истории не зря и 2) что после перехвата контроля он будет обращаться с нами таким же эмпатичным образом и тогда, возможно, история человечества не закончится, а перейдет в модус «сосуществования с преемником».
Напомним, что Шанахан известен своими новаторскими работами на стыке когнитивной науки и ИИ. Его новая публикация может стать важным шагом в понимании природы сознания как у людей, так и у искусственных систем.
Ранее в России создали нейросеть, которая идентифицирует мусор.
