Это мероприятие организовал Дэниэл Фаджелла — предприниматель в области генеративного ИИ. Он считает, что цель ИИ не в том, чтобы вечно служить человеку, а в том, чтобы стать новой формой смысла. Сверхразум должен не просто работать, а уметь «порождать ценности» и «эволюционировать», сообщает издание Wired.
Это мероприятие — попытка замедлить прогресс в области искусственного интеллекта, чтобы убедиться, что мы движемся в правильном направлении.
Некоторые участники симпозиума утверждали: если сознание — источник ценностей, то создавать разум без понимания природы сознания опасно. В одном случае возникает риск подчинить страдающее существо, в другом — передать власть тому, кто неспособен чувствовать.
Обсуждалась также идея «космического согласования» — не программировать ИИ на человеческие нормы, а учить его находить универсальные ценности, которые человечество пока не открыло.
Хотя крупнейшие AI-компании — от OpenAI до xAI Илона Маска — говорят об угрозах универсального искусственного интеллекта, на деле все участвуют в гонке. Фаджелла утверждает: никто не хочет говорить об опасности открыто, потому что рынок заставляет их ускоряться. Его мероприятие — попытка притормозить и переосмыслить вектор.
Участники говорили о будущем, в котором ИИ — не просто инструмент, а наследник смысла. Речь шла не о текущих ИИ, которые путаются в логике, а о гипотетическом сознательном интеллекте, способном переживать и развиваться.
Ранее мы рассказывали о том, что Wikipedia заморозила тест ИИ-резюме после критики редакторов.