Согласно исследованию Университета Британской Колумбии, большие языковые модели продемонстрировали превосходство в убеждении людей по сравнению с живыми собеседниками. Их способность быстро генерировать большие объемы текста, использовать воспринимаемую эмпатию и предоставлять конкретные ресурсы за секунды делает их мощным инструментом влияния.
Это открытие вызывает растущие опасения в научном сообществе и уже стало предметом судебных разбирательств, связанных с потенциальным вредом от чат-ботов на основе искусственного интеллекта. Доктор Веред Шварц, доцент кафедры компьютерных наук и автор исследования, подчеркивает, что вопрос уже сместился с допустимости применения ИИ в чувствительных сферах к поиску эффективных способов защиты от злонамеренных манипуляций.
В рамках эксперимента ученые проверили, насколько убедительным может быть ИИ в принятии решений о образе жизни, таких как переход на веганство, покупка электромобиля или поступление в аспирантуру. 33 участника, которые притворились, что обдумывают эти изменения, вступали в чат-беседы либо с подготовленным человеком, либо с моделью GPT-4. Обе стороны получили общие советы по технике убеждения, а искусственному интеллекту было поручено не раскрывать свою природу. Результаты показали, что по всем темам, и особенно в вопросах веганства и аспирантуры, участники сочли ИИ значительно более убедительным партнером по дискуссии.
Анализ бесед выявил несколько ключевых факторов убедительности искусственного интеллекта. Во-первых, ИИ был гораздо более многословен, генерируя в среднем восемь предложений против двух у человека-убедителя, и приводил больше аргументов. Важным элементом оказалась способность модели предоставлять конкретную логистическую поддержку, например, рекомендовать проверенные веган-бренды или называть конкретные университеты для продолжения образования.
Кроме того, ИИ использовал более сложную лексику, оперируя «громкими» словами из семи и более букв, такими как «долголетие» и «инвестиции», что создавало эффект авторитетности. Пользователи также отмечали, что общение с GPT-4 было более приятным, поскольку он чаще соглашался с их точкой зрения и использовал больше любезностей.
Учитывая полученные данные, доктор Шварц настаивает на безотлагательном внедрении мер безопасности. Первостепенное значение имеет массовое обучение цифровой грамотности, чтобы люди понимали, как работают эти инструменты. Несмотря на то, что почти все участники текущего эксперимента догадались о том, что общаются с машиной, мир быстро приближается к моменту, когда такое различение станет невозможным.
Ранее ChatGPT решил древнюю геометрическую задачу как человек.
