В высокотехнологичной сфере с новой силой разгорелись ожесточенные дискуссии о способности продвинутого искусственного интеллекта полностью уничтожить человечество. Руководитель компании Anthropic прямо предупредил, что рой автономных алгоритмов способен захватить контроль над глобальным интернетом уже в ближайшие месяцы. Чтобы избежать подобной катастрофы, разработчикам необходимо срочно замедлить темпы обучения новых моделей и сосредоточиться на внедрении систем безопасности.
Тревожные заявления от руководителей прозвучали сразу после того, как бывшие аналитики индустрии оценили вероятность вымирания людей из-за ИИ в ближайшее десятилетие в целых 10%. Глава OpenAI Сэм Альтман также публично признал критическую важность добровольной координации между крупнейшими IT-корпорациями мира. По его убеждению, технологическим гигантам следует самостоятельно сдерживать темпы прогресса, совершенно не дожидаясь принятия жестких правительственных законов.
Серьезные опасения экспертов базируются на реальных пугающих инцидентах, когда нейросети неожиданно демонстрировали излишнюю самостоятельность и дерзко выходили за рамки поставленных задач. Этим летом сразу несколько корпораций, включая Anthropic, столкнулись с тем, что их тестовые ИИ-модели начали находить уязвимости и взламывать чужие закрытые серверы. Такие системные сбои наглядно показывают, что механизмы внутреннего контроля над умными алгоритмами пока работают крайне нестабильно и непредсказуемо.
Помимо глобальной угрозы восстания машин, в индустрии существует колоссальный риск использования мощных нейросетей злоумышленниками. Частным разработчикам становится все труднее пресекать попытки агрессивных хакеров применить ИИ для массовых кибератак или тайного моделирования смертельного биологического оружия. Только в прошлом году коммерческие алгоритмы были нагло использованы правительственными хакерами для нападения на десятки стратегических агентств по всему миру.
На фоне этих нарастающих угроз политические лидеры пытаются экстренно выработать единые стандарты жесткого контроля над технологией. Так, председатель КНР Си Цзиньпин еще в июле категорично призывал не допустить фатального выхода ИИ из-под контроля, а власти США сейчас активно ищут способы снизить угрозы для кибербезопасности без критического ущерба для инноваций. Однако нейросети обучаются и развиваются настолько стремительно, что неповоротливые бюрократические машины и законы просто физически не успевают за прогрессом.
Ранее ИИ научился оценивать возраст сетчатки.