Ученые из Ланкастерского университета (Великобритания) проанализировали тысячи исследований и выявили пять главных пробелов в безопасности искусственного интеллекта. Доклад по итогам исследования представлен на сайте правительства Великобритании.
Исследовательская группа по прямому поручению Даунинг-стрит изучила мировой опыт обеспечения безопасности современных нейросетей. Эксперты тщательно обработали больше 9 тыс. релевантных научных публикаций, вышедших в свет начиная с 2020 года.
Итоговый отчет выделяет пять критических направлений, требующих дополнительного финансирования и внимания со стороны государства.
Специалистам в первую очередь предстоит научиться гарантировать подлинность данных, которые используются для обучения алгоритмов. Особое внимание необходимо уделить рискам со стороны пользователей, которые слишком доверяют вредоносным результатам или галлюцинациям нейросетей.
Важно также тщательно отслеживать происхождение сторонних моделей на рынке и понимать их возможные скрытые уязвимости.
Ученые призывают срочно разработать строгие протоколы для безопасного отключения и экологичной утилизации систем ИИ в конце их жизненного цикла.
Ранее Наука Mail рассказывала, что исследователи научили ИИ создавать новые языки.