На этой неделе Федеральное бюро расследований США сообщило, что двое подозреваемых во взрыве в калифорнийской клинике репродуктивной медицины, вероятно, использовали систему искусственного интеллекта для получения инструкций по изготовлению бомб. Какой именно ИИ они использовали, не раскрывается. Инцидент вновь обострил вопрос о безопасности ИИ, особенно на фоне стремительной гонки между технологическими компаниями за лидерство в этой сфере.
Почти одновременно с этим, как указано в опубликованном в начале года докладе, канадский профессор Йошуа Бенджио, лауреат премии Тьюринга и один из основоположников глубокого обучения, представил новую некоммерческую инициативу LawZero. Организация работает над созданием так называемого «ИИ-ученого» — безопасной модели, способной оценивать уровень собственной уверенности и объяснять принятые решения.
Эта модель будет сочетать языковые алгоритмы с «моделью мира», то есть набором базовых представлений о физике и логике. Это позволит системе лучше понимать реальность и избегать ошибок, подобных тем, что случаются у текущих моделей — например, при игре в шахматы или генерации изображений рук.
Интересно, что ИИ-ученый задуман не только как полезный помощник, но и как надзорная система. Бенджио предлагает использовать его для контроля над другими, менее безопасными ИИ. Такая практика уже применяется в научной среде, где один ИИ тестирует и оценивает другого.
Однако проект сталкивается с ограничениями. Несмотря на стартовое финансирование в 30 млн долларов, ресурсы LawZero несравнимы с бюджетами крупных технологических гигантов. Кроме того, для работы системы нужны масштабные данные, которые находятся под контролем этих же компаний.
Тем не менее проект может задать новые стандарты безопасности ИИ. Если бы аналогичный подход применялся к социальным сетям на этапе их становления, возможно, интернет-пространство было бы менее токсичным. И если бы ИИ-ученый уже существовал, он, возможно, смог бы предотвратить недавний инцидент, связанный с изготовлением взрывчатки.
Ранее Наука Mail рассказывала о том, какие навыки понадобятся человеку в эпоху ИИ.