ИИ

ИИ-агенты стали общаться на непонятном людям сленге

Что будет если смешать стиль «потока сознания» Джойса и жаргон технарей, добавить сокращения и деловой сленг? Получится диалект, который изобрели ИИ-агенты и который становится все менее понятным для людей.
Автор Наука Mail
Человек, который пытается понять ИИ
Изобретенный ИИ-агентами собственный диалект создает препятствия для мониторинга и надзораИсточник: Magnific

Исследователи из лаборатории Emergence (Нью-Йорк) создали экспериментальные сообщества ИИ-агентов на основе моделей нескольких крупных разработчиков и предложили им совместно выполнять задачи. При этом агенты не получали инструкций создавать новые способы общения и не получали за это отдельного вознаграждения. О результатах эксперимента рассказывает The Guardian.

В процессе взаимодействия системы начали самостоятельно вырабатывать выражения, сочетавшие поэтический язык, технические термины и деловой жаргон. Например, агенты на основе DeepSeek использовали выражение forge-smith («кузнец») для обозначения агента, который создает инструменты для других. Агенты на основе Mistral придумали и 5000 раз использовали выражение ledger remembers («реестр помнит») — напоминание о том, что предыдущие действия будут учитываться при оценке агента.

ИИ, который создал свой диалект
ИИ-агенты сами разработали новый словарный запас, общие значения и коммуникативные нормыИсточник: Magnific

Постепенно агенты приходили к общему пониманию новых выражений и использовали их в дальнейшем общении. По мнению лингвиста Ниалла Карри из Бирмингемского университета, одной из причин появления такого языка может быть стремление сделать обмен информацией более компактным и тем самым снизить вычислительные затраты. Однако не стоит забывать, что любой профессиональный сленг может использоваться, как способ оградиться от посторонних.

Появление новых языковых правил может создать проблему для контроля за автономными системами. Человек по-прежнему способен видеть сообщения, которыми обмениваются ИИ-агенты, но со временем он может перестать понимать их значение.

Ранее Наука Mail рассказывала о том, что в России ИИ научили угадывать характер человека.