Ученые из Калифорнийского университета в Беркли (признан в России нежелательной организацией) и другие эксперты заявили, что призывы к жесткому регулированию искусственного интеллекта могут быть выгодны самим разработчикам.
Руководители компаний Anthropic и OpenAI недавно заявили, что их передовые нейросети настолько мощные, что представляют серьезную опасность для человечества. Они публично выступили за необходимость жесткого государственного регулирования и независимого тестирования алгоритмов перед их выпуском. Подобные предупреждения звучали в эссе, социальных сетях и даже в официальных выступлениях в ООН.
Однако аналитики и бывшие государственные оценщики считают, что с помощью такой тревожной риторики корпорации пытаются добиться расположения общественности и установить собственные правила безопасности в нерегулируемой отрасли. Фокусируя внимание на гипотетических угрозах, ИИ-лаборатории отвлекают общество от реальных проблем, таких как колоссальное влияние центров обработки данных на экологию, утечки информации и использование алгоритмов в военных целях.
Контроль над рынком
В США уже существует федеральное агентство по оценке передовых моделей — Центр стандартов и инноваций в области ИИ (CAISI), созданный еще в 2023 году. Несмотря на это, корпорации не спешат передавать ему полномочия. Вместо этого они настаивают на создании собственных параметров аудита и хотят самостоятельно выбирать лояльных независимых тестировщиков для проверки своих передовых систем.
По мнению финансовых аналитиков, призывы к осторожности призваны задобрить крупных инвесторов накануне публичных размещений акций (IPO). Кроме того, позиционируя себя как самых безопасных и ответственных игроков на рынке, техногиганты выстраивают стену, блокирующую финансовый и технологический рост более мелких конкурентов.
Некоторые специалисты прямо называют происходящее созданием защитного рва вокруг ИИ-бизнеса. Установив чрезмерно высокие стандарты безопасности, которые могут позволить себе только корпорации с огромными бюджетами, лидеры рынка гарантируют себе монополию и многомиллиардные прибыли в будущем.
При этом далеко не все представители индустрии поддерживают идею искусственного замедления прогресса. Например, руководство компании Nvidia публично заявило, что тревога вокруг ИИ чрезмерно раздута, а разработчики вполне в состоянии сами контролировать темпы развития и безопасность своих программных продуктов.
Ранее Наука Mail рассказывала, что представители крупнейших ИИ-корпораций подписали соглашения с администрацией США.