Исследование показало, что ИИ снижает скорость и точность программирования

Новое исследование показывает: программисты тратят больше времени и сил, когда используют помощников вроде Claude или Cursor Pro. А исправление ошибок съедает до девяти процентов времени всей работы.
Автор Наука Mail
Двое мужчин изучают код на экране компьютера
Программист проверяет результат, сгенерированный ИИИсточник: Unsplash

Исследование провела некоммерческая организация METR (Model Evaluation and Threat Research). Шестнадцати разработчикам дали 250 задач: часть решали с помощью ИИ-инструментов, часть без. Ожидалось, что ИИ сэкономит время. Но все оказалось наоборот: те, кто пользовался ИИ, тратили в среднем на 19% больше времени.

Они действительно меньше писали код и меньше тестировали. Но это потому, что больше времени уходило на генерацию запросов, ожидание отклика и проверку результатов. Только 44% ИИ-подсказок принимались без изменений, а девять процентов времени программисты тратили на исправление ошибок, сгенерированных ИИ, сообщает Ars Technica.

График сравнения ожидание и реальный результат использования ИИ
Эксперты и сами разработчики ожидали экономии времени, которая не оправдалась при реальном использовании инструментов ИИ (observed result)Источник: METR

Исследователи считают, что причина в разрыве между ожиданиями и реальностью: большинство участников искренне верили, что ИИ ускорит их работу как минимум на 20%. Но такие представления, скорее всего, подпитываются красивыми лабораторными тестами. Эти тесты созданы специально для ИИ и мало связаны с хаосом реального программирования.

Кроме того, растет количество начинающих разработчиков, которые используют ИИ в режиме «угадай, что я хочу», описывая задачи не на языке кода, а на обычном английском. Это приводит к ошибкам и серьезным проблемам с безопасностью.

График сравнения времени на написание кода, на проверку и на исправление ошибок
Время, сэкономленное на активное кодирование, перекрывалось временем, необходимым для подсказок, ожидания и проверки результатов ИИ в исследовании.Источник: METR

Даже самые мощные языковые модели, включая решения от OpenAI и Google, по-прежнему не решают большую часть настоящих задач. Тем не менее компании продолжают сокращать команды разработчиков, заменяя их на ИИ.

Ранее Наука Mail рассказывала о том, как ИИ участвует в кибератаках, создает вредоносный код и открывает путь для нового поколения «вайб-хакеров».