Возможное решение одной из Проблем тысячелетия, представленное OpenAI, практически сразу породило спор не только о математике, но и о научном приоритете.
Математик Тристан Бакмастер, работавший над близкими задачами вместе с Левентом Альпеге, поставил вопрос о том, могли ли на результат OpenAI повлиять их неопубликованные исследования. Компания заявила, что ее исследователи и ИИ-агенты не получали доступа к конкретным данным ученых во время решения задачи.
При этом сама OpenAI признала, что полностью исключить возможное влияние обезличенных данных, полученных при использовании ее продуктов, на обучение моделей она не может. Именно эта неопределенность, считает Максим Абрамов, указывает на более фундаментальную проблему.
Раньше установить научный приоритет во многих случаях позволяла хронология: исследователи могли предъявить рукописи, препринты, публикации и другие материалы с зафиксированными датами.
С ИИ появляется дополнительный уровень — обучающие данные и история взаимодействия исследователей с моделями.
Проблема особенно заметна, когда ученые используют коммерческие ИИ-сервисы непосредственно в процессе исследования. Они могут обсуждать с моделью еще не опубликованные гипотезы и способы решения задачи, однако впоследствии установить, повлияли ли эти взаимодействия на будущие версии системы, значительно сложнее.
В случае Навье — Стокса OpenAI отрицает использование конкретной переписки Бакмастера и Альпеге для получения результата. Поэтому говорить о присвоении их работы оснований пока нет. Но сама возможность возникновения подобных споров, по мнению Абрамова, требует пересмотра механизмов фиксации научного приоритета.
Есть и другая особенность новой научной среды — огромная разница в доступных вычислительных ресурсах.
Работа OpenAI над Проблемами тысячелетия началась после появления информации о том, что другие исследователи могли добиться существенного прогресса. Компания после этого направила тысячи ИИ-агентов на поиск решений открытых математических проблем.
В результате научное соревнование может происходить уже не только между исследователями и коллективами, но и между принципиально разными по ресурсам участниками.
В случае OpenAI масштаб хорошо виден на цифрах: над задачей Навье — Стокса одновременно работали около 10 тысяч ИИ-агентов, которым понадобилось несколько суток для получения результата и его последующей формальной проверки.
Такой вычислительный ресурс позволяет за короткий срок проверить огромное количество направлений, на исследование которых у обычной научной группы могли бы уйти месяцы или годы.
Одним из возможных решений Абрамов считает более раннюю фиксацию того, над какой проблемой работает исследователь, а также большую прозрачность использования ИИ.
Такой подход не решит проблему полностью. Даже опубликованные промпты показывают взаимодействие исследователя с системой, но сами по себе не раскрывают происхождение всех знаний, которыми располагает модель.
Тем не менее дополнительная фиксация исследовательского процесса может стать одним из способов адаптировать правила научного приоритета к ситуации, когда в открытии участвуют не только ученые, но и закрытые ИИ-системы с неизвестным внешним исследователям составом обучающих данных.
Ранее мы рассказывали, как квантовая нейросеть прогнозирует опухоли мозга.