Обеспокоенность по поводу внедрения нейросетей в науку отражает общемировые тренды. По оценкам компании Graphite из Сан-Франциско, к концу марта количество статей, написанных ИИ, может превысить человеческие. Контент, созданный искусственным интеллектом, способен ускорить прогресс, но он же порождает риск появления поддельных или низкокачественных работ.
Как сообщает Nature, для изучения этой проблемы используются системы обнаружения. Однако они часто ошибаются: не различают редактирование и полную генерацию текста, а также могут принять человеческий текст за сгенерированный.
В исследовании, вышедшем 27 апреля 2021 года, сканировали аннотации журнала Organization Science за период с января 2021 по февраль 2026 года. Авторы зафиксировали рост заявок на 42% с ноября 2022 года, момента выхода ChatGPT. К февралю 2026 года количество рукописей, где более 70% текста создано ИИ, выросло вдвое по сравнению с началом 2024 года. Более 30% рецензируемых отчетов также содержали следы нейросетей.
Другие ученые проверили около 5000 биомедицинских статей в журналах Science, Nature и Cell. Каждая восьмая статья содержала текст от ИИ. «Мы видим лишь первые капли приближающейся бури», — комментирует один из авторов.
Анализ 124 000 препринтов показал, что в компьютерных науках доля обзорных рукописей с текстом от ИИ выросла с 7% в 2023 году до 43% в 2025 году.
Исследователи считают, что главная проблема — отсутствие надежных методов. Детекторам нужно становиться совершеннее, чтобы обгонять модели ИИ. Перспективным направлением считаются «водяные знаки». На одной из конференций такая технология помогла выявить нечестные рецензии и отклонить 497 докладов. Пока же эксперты призывают относиться к любым оценкам доли ИИ в науке со скепсисом.
Ранее Наука Mail рассказывала, что благодаря ИИ заявки на гранты создаются быстрее и качественнее, поэтому фонды получают всё больше предложений при ограниченных бюджетах.
