Названы пять главных рисков искусственного интеллекта

Искусственный интеллект готов нанести удар по финансовому сектору и безопасности целых стран уже в ближайшие пять лет. Международная группа из 272 специалистов определила главные угрозы, которые несут нейросети

Оружие и кибератаки с использованием ИИ занимают высокие позиции в рейтинге, поскольку ИИ особенно хорошо подходит для программирования, распознавания образов и синтеза информации

Источник: ИИ-иллюстрация

Группа исследователей из MIT FutureTech и Университета Квинсленда провела масштабный опрос среди 272 экспертов в области искусственного интеллекта, чтобы выяснить, какие риски для человечества являются наиболее насущными в период с 2025 по 2030 год. Специалистам предложили оценить 24 потенциальные угрозы по двум критериям: вероятность наступления и степень наносимого вреда. В результате удалось выделить пять сценариев, которые эксперты считают самыми серьезными:

• системы искусственного интеллекта, обладающие опасными возможностями (вероятность 12%);
• оружие с использованием ИИ, кибератаки или другие средства нанесения массового вреда (12%);
• экологический вред (12%);
• неравенство и безработица (11%) ;
• централизация власти и несправедливое распределение преимуществ ИИ (11%).

В первую очередь угроза исходит от наделения ИИ опасными возможностями, а также от конкурентной гонки между странами и корпорациями, которая подталкивает к неоправданно быстрым решениям. Второй по значимости риск связан с применением нейросетей в кибератаках и создании оружия. Эксперты поясняют, что алгоритмы особенно эффективны в программировании и распознавании образов, что делает их идеальным инструментом для хакеров. Также в топ-5 вошли централизация власти и распространение ложной информации.

Искусственный интеллект ставит перед руководителями предприятий сложную управленческую задачу

Источник: Psypost

Особое внимание в исследовании уделяется уязвимости трех секторов. Информационная сфера может пострадать от потока дипфейков и манипуляций, подрывающих доверие к данным. В области национальной безопасности главными вызовами названы слежка и кибератаки со стороны враждебных субъектов. Финансовый сектор рискует столкнуться с волной мошенничества и манипулированием рынками, что может вызвать серьезные экономические потрясения.

Авторы работы отмечают парадокс: основная ответственность за сдерживание угроз лежит на разработчиках и регуляторах, но наиболее уязвимыми перед рисками оказываются обычные пользователи и сторонние организации. В итоге те, кто создает технологии, не всегда страдают от их последствий. Руководителям компаний рекомендуется не ждать готовых законов, а уже сейчас внедрять ИИ-риски в повестку корпоративной безопасности наравне с киберзащитой, так как технологии развиваются слишком стремительно.

Ранее эксперт предупредила о риске использования ИИ для разработки биологического оружия.