Развитие искусственного интеллекта (ИИ) будет проходить в два этапа: первый будет сопровождаться преступностью, а второй принесет миру изобилие. Об этом основатель Microsoft Билл Гейтс заявил в интервью телеканалу NBC News, пишет РБК.
«У ИИ будет два этапа. У него будет этап, в который мы вступаем сейчас, когда у него есть потенциал для решения проблем, но он их не решил. Арендная плата по-прежнему слишком высока, медицинское обслуживание — слишком дорого, и он [ИИ] изменит рынок труда и потенциально расширит возможности преступников, если у нас не будет надлежащих гарантий», — сказал Гейтс.
По его словам, этот период продлится около 20 лет, за которые человечество адаптируется к новой технологии.
«Как только вы справитесь с этим, комбинация человекоподобных роботов и искусственного интеллекта позволит строить дома, выращивать продукты питания и многое другое. Знаете, это можно назвать эпохой изобилия», — добавил предприниматель.
Гейтс отметил, что второй этап создаст иные проблемы — например, с поиском смысла жизни и тем, как проводить время. «Пусть молодое поколение разберется», — предложил он.
В том же интервью Гейтс допустил, что развитие ИИ способно привести к событиям, повлекшим гибель миллиарда человек. Он подчеркнул, что в истории «никогда не было такого мощного оружия», как люди со злыми умыслами, использующие ИИ. Саморегулирования ИИ-компаний недостаточно, поэтому к контролю за технологией должны подключиться правительства.
Гейтс призвал власти США принять соответствующее законодательство и вовлечь правоохранительные органы и политиков в обсуждение гарантий и мониторинга ИИ. Создание международных правил для ИИ, по его словам, окажется сложнее ограничения ядерных вооружений в эпоху холодной войны — и здесь необходимо лидерство США.
На фоне стремительного развития ИИ в технологической отрасли идут дискуссии о рисках утраты контроля над такими системами. В начале сентября глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом платформ агентами OpenAI. Он предупреждал, что при текущих темпах через 6–12 месяцев ИИ-агенты смогут использовать постоянно действующий ботнет и нанести ущерб на сотни миллиардов долларов.
Призыв Амодеи поддержали глава OpenAI Сэм Альтман и Илон Маск, чья компания xAI разрабатывает Grok.
Другие специалисты также призывали ограничить темпы разработки. Бывший исследователь Anthropic Джейкоб Коксон, покинувший индустрию из-за опасений по поводу самообучающихся систем, допускал, что к концу 2027 года ситуация может выйти из-под контроля. Сооснователь Palantir и PayPal Питер Тиль заявлял, что даже 5–10% вероятности утраты контроля над ИИ — тревожный сигнал, хотя сам он не считает такой сценарий вероятным.
При этом президент США Дональд Трамп назвал опасения по поводу развития ИИ одной из «мистификаций радикально левых демократов» наравне с «российской угрозой» или «аферой о глобальном потеплении». Позже он анонсировал создание структуры «ИИ-силы» и пообещал, что США не станут «препятствовать или сдерживать рост этой невероятной отрасли». При этом, отметил он, власти займутся «поиском плохого» с помощью системы правосудия.
Ранее Наука Mail рассказывала о том, как Nvidia предлагает защищаться от неконтролируемых ИИ-агентов.