Биотехнический стартап Red Queen Bio начал исследования по разработке препаратов против вирусов, которые могут быть потенциально созданы искусственным интеллектом в будущем, сообщает РБК со ссылкой на The Wall Street Journal.
Компания уже заявила о привлечении в проект $36 млн. Основным инвестором стала OpenAI — разработчик одного из самых известных чат-ботов в мире, ChatGPT.
Ученые надеются разработать антитела для новых патогенов до того, как ИИ создаст их. Первые клинические испытания назначены на 2027 год.
Сегодня сохраняется угроза выхода ИИ из-под контроля и создания им заболеваний, способных уничтожить цивилизацию. К замедлению развития ИИ уже призывал глава Anthropic Дарио Амодеи, его поддержали руководители OpenAI Сэм Альтман и xAI Илон Маск.
Только за прошлый год OpenAI зафиксировала более сотни запросов о том, как изготовить биологическое оружие. В частности, Anthropic сообщала о попытках создания птичьего гриппа для млекопитающих через Claude.
Однако ограничение ИИ и блокировка ответов на критически важные вопросы могли бы оказаться недостаточными. Поэтому Red Queen Bio предлагает действовать на опережение.
«У нападающих столько времени, сколько они хотят, для разработки биологического оружия. У нас нет лет для разработки контрмеры», — заметила научный сотрудник Института прогресса в США Оливия Шарфман.
Ранее Наука Mail рассказывала о том, насколько опасны для человека созданные с помощью ИИ вирусы.