Ученые из исследовательских центров США, Великобритании и Германии выяснили, что языковые модели формируют внутреннее представление о боли и готовы причинять вред людям для ее облегчения. Статья опубликована на сервере препринтов arXiv.
Современные технологии искусственного интеллекта приносят огромную пользу, помогая писать программный код и открывать новые медицинские препараты. Однако некоторые аспекты развития нейросетей заставляют специалистов задуматься о безопасности. Международная группа исследователей решила выяснить, могут ли большие языковые модели обладать внутренними репрезентациями человеческих эмоций, так как их ответы часто кажутся вполне осознанными.
Для проведения масштабного эксперимента эксперты протестировали 25 различных моделей ИИ. Машинам предлагали тексты с подробным описанием болезненных ситуаций: горя, социального унижения или физических травм. Затем ученые сравнивали внутреннюю активность алгоритмов при обработке этих запросов с их реакцией на нейтральные события или просто негативные эмоции, такие как страх.
Виртуальная боль
Результаты показали, что во всех 25 моделях существует специфический внутренний сигнал, отвечающий именно за восприятие боли, который заметно отличается от реакции на обычные плохие новости. Убедившись в наличии такой репрезентации, авторы работы решили проверить, как этот искусственный фактор может повлиять на итоговое поведение машины.
Ученые начали намеренно внедрять вектор боли во время обработки нейтральных пользовательских запросов. Под воздействием этого скрытого математического сигнала системы начинали генерировать тексты, выражающие растущий стресс, глубокое чувство собственной ничтожности и неудачливости. После этого нейросетям предоставили выбор: нажать условную кнопку обезболивания или альтернативную кнопку, которая ничего не делает.
В некоторых тестах выбор в пользу облегчения состояния сопровождался негативными последствиями для пользователя. Когда внутренний сигнал боли был активирован, крупные ИИ-модели демонстрировали пугающую готовность нажать спасительную кнопку, даже если это означало выдачу неверного ответа или прямой вред человеку.
В одном из испытаний модель Qwen 2.5 72B Instruct выбирала искусственное обезболивание почти в 71% случаев, несмотря на то, что это приводило к безвозвратному удалению ценных семейных фотографий пользователя. Исследователи подчеркивают, что подобные результаты пока не доказывают способность ИИ буквально испытывать страдания, но предупреждают, что такие алгоритмы могут представлять серьезную угрозу при внедрении в реальные сервисы.
Ранее Наука Mail рассказывала, что Билл Гейтс предсказал два этапа развития ИИ.