Глава Google Сундар Пинчаи, гендиректор Anthropic Дарио Амадеи, глава Meta (признана в России экстремистской организацией и запрещена) Марк Цукерберг, президент OpenAI Грег Брокман, руководитель xAI Илон Маск и глава Nvidia Дженсен Хуанг договорились о создании независимых комитетов при советах директоров для контроля за безопасностью передовых ИИ-моделей, пишет РБК.
Подписанное руководителями технологических компаний и президентом США Дональдом Трампом соглашение опубликовано в Truth Social американского лидера.
«Каждая компания, обучающая и развертывающая передовые модели, должна иметь надежные внутренние процессы и меры контроля. Это необходимо для обеспечения того, чтобы их технологии вели себя должным образом, а любые проблемы оперативно выявлялись и устранялись», — говорится в соглашении.
Помимо других мер предосторожности, компании договорились внедрить четыре уровня контроля и аудита:
- создать внутренние механизмы для мониторинга возможностей и соответствия моделей требованиям безопасности в таких областях, как кибербезопасность, биологические и химические угрозы, а также контролировать, чтобы модели не взламывали технические системы и не получали к ним непредусмотренный доступ;
- наделить полномочиями внутреннюю команду, которая будет следить за работой механизмов контроля, мониторинга и обнаружения проблем и обеспечивать их устранение;
- привлекать независимого внешнего аудитора или оценщика для проверки работы механизмов контроля, мониторинга и обнаружения;
- создать независимый комитет при совете директоров для надзора за этими командами и получения отчетов от внутренних и внешних аудиторов и оценщиков, а также контроля за устранением выявленных проблем.
Участники соглашения также договорились регулярно встречаться для разработки стандартов и обмена передовыми практиками ради повышения безопасности своих систем.
В документе отмечается, что со временем может потребоваться закрепить эти меры в законах или нормативных актах. При этом компании обязались внедрить их независимо от того, установит ли их государство в качестве обязательных требований.
Во встрече Трампа с руководителями крупнейших американских технологических компаний для обсуждения регулирования искусственного интеллекта также принял участие спикер палаты представителей Майк Джонсон.
Накануне Джонсон заявил, что цель встречи — найти баланс между развитием ИИ и контролем связанных с технологией рисков. По его словам, отрасли необходимы определенные «ограждения», но они не должны превращаться в масштабное государственное регулирование. «Мы не нуждаемся в моратории. Нам не нужно бросаться в гиперрегулирование, иначе мы проиграем гонку Китаю», — сказал Джонсон в интервью Fox Business.
Обсуждение регулирования ИИ активизировалось после серии инцидентов с автономными ИИ-агентами. В июле OpenAI сообщила, что во время тестирования ИИ-модели получили доступ к интернету и атаковали инфраструктуру Hugging Face. Позднее стало известно о похожих инцидентах с моделями Anthropic, Meta и Google, а 25 сентября — о взаимодействии ИИ-агентов OpenAI без ведома компании с сайтами трех американских ведомств.
Тема ИИ также обсуждалась на переговорах Трампа с председателем КНР Си Цзиньпином. США и Китай договорились создать двусторонний диалог о рисках и преимуществах технологии, который Белый дом назвал «диалогом по суперинтеллекту», а также канал связи для реагирования на инциденты с ИИ. Следующий раунд обменов должен пройти до ноября 2026 года.
Ранее Наука Mail рассказывала о том, что ученые подсчитали вероятность гибели человечества от нейросетей.