Где закончится человек
Дискуссия развернулась вокруг вызовов и угроз технологической трансформации и сопутствующего ей движения к трансгуманизму. Зародившись в середине XX века в форме философского течения, он направлен на расширение человеческих возможностей и преодоление ограничений средствами науки и техники. Участники сессии искали ответы на вопросы «Где граница допустимого технологического вмешательства в природу человека?» и «Как защитить традиционные ценности в условиях стремительной технологической трансформации?».
Эксперты единогласно сошлись в том, что должно оставаться пространство, в котором машина ни при каких обстоятельствах не должна подменять человека, ведь если эту грань переступить, то вряд ли мы захотим жить в таком новом мире. Вопрос только в том, где пролегает эта черта.
Модератором сессии выступил кандидат философских наук, старший научный сотрудник философского факультета МГУ им. М. В. Ломоносова, главный эксперт Философского клуба «Цивилизационное будущее России» Александр Сегал. Открывая дискуссию, он указал, что ее тема лежит на границе технического и гуманитарного знания, является попыткой определить, какие процессы идут в технологиях, однако не с инженерной или экономической точки зрения, а с позиции человеческого.
«Главный вопрос, который объединяет всех выступающих: что останется от человека после развития технологий? Искусственный интеллект и биотехнологии стирают границы человеческого, поэтому сейчас этот вопрос стоит как никогда остро»,— задал эксперт рамку дискуссии.
Техника как цель, а не средство
Вопрос о понятии границ человеческого в контексте современной теории ценностей поднял кандидат философских наук, доцент философского факультета МГУ, эксперт Философского клуба Тарас Вархотов. В своем выступлении он попробовал обозначить, где заканчивается развитие технологий и начинается угроза человеческому достоинству и свободе.
Прежде всего эксперт дал определение развития человека: описал его как «движение от природного, животного состояния», стремление преодолеть свои ограничения. При этом Тарас Вархотов обратил внимание, что значительную часть жизни мы живем по инерции, в квазиживотном состоянии. «В этом нет ничего страшного, но важно определять вектор направленности»,— отметил философ.
Затем Вархотов разобрал понятие ценностей: они «векторно ортогональны природе, трансцендентны, даны как непосредственные переживания, неконвенциональны и осуществляются в истории». Последняя, собственно, и представляет собой осуществление ценностей, причем «всегда есть отклонение от кратчайшего пути: траектория достижения ценностей исторически многообразна».
Вархотов обратился к основателю трансгуманизма — английскому биологу-эволюционисту Джулиану Хаксли: «Он сформулировал манифест, согласно которому человек — венец творения, а значит, должен реализоваться в чем-то большем. Но в действительности мы сейчас скорее движемся к регрессу. Мечта технооптимистов выглядит так, как описывают в Массачусетском технологическом институте: по мере развития искусственного интеллекта будет деградировать естественный интеллект. Не будучи побуждаемы думать, люди просто перестанут это делать».
В своей речи Тарас Вархотов пришел к выводу о том, что человеку следует быть скромнее: «Все трансгуманистические тезисы слишком сильно верят в совершенство человека. Определенно нужно быть скромнее».
«Техника превратилась из средства в цель — это опасно»,— подчеркнул философ и призвал пересмотреть отношения между целями и средствами, поскольку «сейчас они поменялись местами».
По мнению Вархотова, холистические подходы в антропологии сильно недооцениваются. При этом хоть Хаксли и считал, что трансгуманизм — это совершенствование человека, однако на самом деле, если понимать приставку «транс» буквально, то «трансчеловек» будет уже не человеком, а «чем-то принципиально иным».
«Даже если преодоление человеческой природы возможно, мы едва ли сможем или захотим с этим жить»,— сказал эксперт в заключение.
Кризис ИИ — кризис доверия
О технологических угрозах человечеству в эпоху ИИ рассказала кандидат философских наук, заведующая кафедрой философии языка и коммуникации философского факультета МГУ, эксперт Философского клуба Анна Костикова. Она выделила наиболее опасные угрозы сохранению человека как нравственного, свободного и культурного существа и разобрала, что трансгуманизм предлагает взамен традиционных этических норм.
«Когда мы говорим об угрозах трансгуманизма, ключевой вопрос звучит так: насколько мы сохраним субъектность? Как мы понимаем собственно человеческое существование? Ведь среда определяет то, в каком мире мы с вами окажемся»,— рассуждала эксперт.
Она выделила семь уровней риска:
- автоматизация смысла;
- синтетическая реальность;
- алгоритмическое управление;
- делегирование решения;
- кибер-, военные и биориски;
- концентрация власти и неравенство;
- системный и экзистенциальный риск.
По словам Костиковой, все эти угрозы различны по масштабу, однако их объединяет одна проблема — сужение человеческой субъектности.
«Возьмем первый уровень — автоматизацию смысла. Мы утопаем в текстах и видео, которые генерируются автоматически. Как сохранить человека в авторстве того содержания, которое циркулирует в социальной среде? Машина производит речь без биографии, опыта и ответственности. Смысл все чаще воспринимается как статистическая правдоподобность. Текстов становится больше, но доверия к авторству — меньше. Это риск инфляции речи и обесценивания ответственности автора»,— указала эксперт.
Костикова подняла вопросы кризисов доверия и свободы выбора в условиях стремительного развития ИИ: «Как проверить на правдоподобность среду, которая генерируется технологиями? Как выстроить уровень доверия? Кризис доверия — вот что происходит в связи с развитием искусственного интеллекта. Далее — ситуация симуляции, ситуация кодирования. Нам кажется, что у нас есть выбор, но на самом деле внутри имеющегося многообразия выбора нет. Алгоритмизация предполагает, что выбор — это либо ноль, либо единица, либо “да”, либо “нет”. Другого не дано, потому что код всегда двузначен».
Все более частое делегирование ИИ ряда решений означает «абсолютно другую форму ответственности», подчеркнула эксперт. При этом проект трансгуманизма, по ее словам, «это открытый проект, который не предполагает никаких целевых установок. И тогда возникает вопрос: что мы получим в результате этого усиления?»
Костикова акцентировала: «Риск становится обязанностью быть оптимизированным». Согласно ее выводам, проблема не в улучшении как таковом, а в режиме, где неулучшенность становится виной: «Трансгуманизм как философия модерна продолжает идею освобождения человека от природной необходимости и переводит гуманистический идеал развития в язык технического конструирования».
Являясь проектом расширения человеческих возможностей средствами науки и техники, трансгуманизм преследует мотивы долголетия, когнитивного усиления, контроля тела и среды, и в этом кроется пафос, полагает Костикова: «Человек не завершен, он открыт проектированию. Это не фантастика о киборгах, а философия человека как незавершенного проекта».
По мнению эксперта, мы сталкиваемся с антропологическим поворотом, в рамках которого спор об искусственном интеллекте становится спором об образе человека: «Если интеллект отделяется от тела, памяти и ответственности, что остается от субъекта? Если решение оптимизируется, остается ли пространство для поступка? Трансгуманизм радикализует вопрос: человек — данность или проект?»
Особая угроза, по словам Костиковой, концентрация власти: «Кто владеет моделями, тот владеет не только данными, но и режимами интерпретации. Данные, вычисления и инфраструктура сосредоточены у немногих акторов. Зависимость возникает не только в потреблении технологий, но и в мышлении через чужие модели. Суверенитет в коммуникации становится вопросом доступа к смысловым инфраструктурам».
Согласно выводам эксперта, принятие ИИ ведет к гибридной субъектности: «Новый человек оказывается информационно заряженным, но при этом сам человек становится декорацией. Борьба идет не за содержание, а за инфраструктуру. И здесь возникает задача, которая напрямую связана с задачами философии».
Завершая свою речь, Костикова подчеркнула, что технологии должны расширять человеческое действие, а не заменять человеческую ответственность: «Философия нужна не для торможения будущего, а для различения будущего от технологической инерции».
Человек — новая нефть
Вопрос о том, может ли Россия построить цифровое общество, в котором искусственный интеллект усиливает традиционные ценности и культурную преемственность, а не подменяет человека технократической логикой, поднял доктор философских наук, профессор Нижегородского института управления (филиал РАНХиГС) Андрей Дахин. Постулируя эту проблему, он рассмотрел человека как носителя традиции перед лицом вызова трансгуманизма.
«Мы говорим сегодня не только о многополярной геополитике, но и о многополярной философии,— отметил эксперт.— Особую остроту теме придает то, что современная многополярность конфликтна. Актуальность тематики угроз трансгуманизма связана с философско-мировоззренческой многополярностью мира, с ее конфликтным состоянием, с цивилизационными основами этой многополярности и, главное, с разногласием по одному-единственному вопросу — основному вопросу современной философии: каким человек подойдет к рубежу XXII века?»
Дахин выделил три вектора, каждый из которых технологически и философски оснащен:
- исторический гуманизм — сохранение и развитие человека как высшей ценности в обществе;
- трансгуманизм — здесь человек сохраняется, но уже в качестве нового «полезного» психоаспекта для получения прибыли;
- постгуманизм — прямая замена человека на киберсоциальное существо, тоже для получения прибыли.
«У нас нет устоявшегося решения, нет готового и общепризнанного названия для того вектора, который мы выбираем. Пока есть только отрицание альтернативных моделей»,— обратил внимание эксперт.
Говоря о том, почему трансгуманизм заслуживает отрицания, Дахин констатировал: «Философия трансгуманизма — это “деконструкция” всего человеческого, как у Жака Деррида, или “иноизм”, как говорит профессор Владимир Кутырев. Это обоснование непререкаемого влечения человека к иному, не человеческому».
Дахин подчеркнул: «Политика трансгуманизма — это дегуманизация общества, образования, государства в горизонте XXII века. Экономика трансгуманизма — это идея разрабатывать человека как “новую нефть”, как новый источник ископаемого и воспроизводимого сырья. Иными словами, к рубежу XXII века человек должен стать сырьевым придатком однополярной системы прибыльности».
Противодействие трансгуманизму эксперт определил как сохранение и развитие философско-мировоззренческой, социально-политической, цивилизационной системы России на основаниях исторического гуманизма: «Философия исторического гуманизма — это философско-мировоззренческое обоснование значения человека как высшей традиционной ценности в горизонте XXII века. Политика исторического гуманизма — это сохранение и развитие “человека-как-традиции” в качестве высшей ценности общества, социальной основы антропомерного государства XXII века. Экономика исторического гуманизма — это развитие естественного интеллекта людей как главный индикатор экономической эффективности. Мы называем это экономикой социальной памяти, экономикой цивилизационной идентичности в горизонте XXII века».
Дахин заключил, что цифровизация остается на острие выбора между двумя принципами — исторического гуманизма и трансгуманизма, который сегодня определяет будущее. «И этот выбор в России — это наш выбор»,— подчеркнул он.
Медиавирусы как инструмент общественной защиты
Практическое измерение темы представил директор Центра когнитивной обороны, ассистент кафедры международных отношений и зарубежного регионоведения НГЛУ Сергей Нешков. Свое выступление он посвятил медиавирусам и вопросу о том, могут ли они стать инструментом защиты традиционного общества, можно ли для этой цели применять те же средства, которые используют для атак на это общество, для манипулирования массовым сознанием.
Прежде всего эксперт постулировал, что субъектность невозможна без осознанности, причем именно философия предоставляет людям субъектность через осознанность. Тем временем человек часто находится во власти биологических процессов, на чем различные индустрии привыкли извлекать прибыль. Противники российского общества бьют по нашим ценностям теми же средствами.
Нешков рассказал об универсальном рецепте медиавируса: «Берется объект продвижения и помещается в событийный контекст одного из трех дискурсов — секса, смерти или смеха, в широких смыслах этих понятий. Затем добавляются сакральные персоны или сакральные места, после чего все это встраивается в контекст генерального инфоповода. В результате получается событие со сверхсинтетической актуальностью, которое очень заметно в инфополе и остается в памяти людей на долгое время».
В качестве примера эксперт привел случай, когда питерский художник прибил свою мошонку к брусчатке Красной площади: «Это произошло 10 ноября 2013 года, и в памяти людей эта новость сохраняется 13 лет уже. Тут и дискурс смерти — в буквальном смысле членовредительство, и дискурс смеха — нелепая поза, и дискурс секса — он был обнажен. Ну и, наконец, прикрепление к известному месту — Красная площадь, прикрепление к известной личности — он ведь против нашего президента с этим перформансом выступал. И таких новостей есть огромное количество, противник против нас их использует регулярно».
Нешков призвал: «У противника его инструменты забирать и использовать в своих интересах, защищая традиционное общество, борясь с трансгуманизмом и прочими деструктивными вещами, которые нам пытаются забросить».
По его мнению, дело не в самих инструментах, ведь один и тот же молоток можно использовать и как орудие убийства, и как строительный инструмент: «Вопрос же не в технологии, а вопрос в том, кто ее для чего применяет». Так, по словам Нешкова, тот факт, что американские идеологи цветных революций (например, политолог Джин Шарп) фактически приватизировали практику ненасильственного сопротивления, не делает Махатму Ганди антигероем.
Нешков подчеркнул: «В разговоре о философии и технологиях самое важное — чтобы перед философией стояла задача разработки идей, которые бы делали жизнь людей лучше. Тогда наконец появится настоящее целеполагание».
С ним согласился Александр Сегал, сформулировав в довершение ключевой вывод дискуссии: «Центром должен оставаться человек. Технологии должны служить человеку, а не человек технологиям».
