Ученые из Университета Ватерлоо и Университетского колледжа Лондона выяснили, почему люди порой слишком сильно доверяют искусственному интеллекту, например, ChatGPT или Gemini. Результаты исследования, опубликованные в журнале Communications Psychology, показали любопытный эффект: пользователи воспринимают ответы ИИ как более уверенные, чем аналогичные ответы людей.
В рамках эксперимента участникам предлагали понаблюдать за тем, как решения принимают люди и ИИ, а затем оценить, насколько каждый «собеседник» был уверен в своем выборе. Оказалось, что искусственный интеллект кажется более уверенным, если отвечает быстро или формулирует мысли так, что это создает впечатление высокой компетентности. При этом такое впечатление может не отражать реального положения дел, и возникает так называемая «иллюзия уверенности». Из‑за нее человек начинает считать, что ИИ справляется с задачами лучше, чем есть на самом деле, и доверяет ему больше, чем стоило бы.
Есть важное отличие в общении с человеком и с ИИ. Когда мы разговариваем с другим человеком, нам легко понять, насколько он уверен в своих словах: мы считываем интонацию, выражение лица, жесты. У искусственного интеллекта таких «сигналов» нет, и он сам обычно не сообщает, насколько уверен в ответе. Вместо этого люди невольно обращают внимание на другие моменты, например, на скорость ответа или четкость формулировок. Из‑за этого возникает риск переоценить надежность ИИ.
Исследователи считают, что было бы полезно научить искусственный интеллект прямо показывать уровень своей уверенности — например, сопровождать ответы специальным сигналом или пометкой. Так пользователи смогут более трезво оценивать рекомендации и не будут слепо полагаться на ИИ там, где система может допустить ошибку. Сейчас ученые готовятся к новым экспериментам, чтобы найти самые понятные и надежные способы передавать такую информацию.
Ранее Наука Mail рассказывала о том, что каждый второй россиянин готов заменить чиновников искусственным интеллектом.
