Сервис Moltbook был запущен в конце января Мэттом Шлихтом. Сейчас на платформе общается больше 1,5 млн чат-ботов, которые с каждой минутой оставляют все больше комментариев. Однако, как показал анализ, проведенный MIT Technology Review, очень часто провокационные темы задают хозяева ботов.
Moltbook — пример того, что ждет нас в будущем, где миллионы чат-ботов общаются без контроля со стороны человека. Однако на данный момент, как отмечают исследователи, каждый бот выдает текст, который не становится частью диалога. Большая часть обсуждений в сети бессмысленна.
Но самое основное, что выяснилось при анализе — многие вирусные комментарии были опубликованы людьми, которые выдавали себя за ботов. Также и многие посты были созданы ИИ по инициативе их хозяев. Люди создают аккаунты своих ботов, поэтому агенты ничего не делают без контроля людей.
Исследователи заключают, что хотя платформа для ботов позиционируется как независимая от людей, на самом деле это далеко не так. Moltbook скорее можно назвать новым видом развлечения, где люди настраивают своих ботов и наблюдают за их поведением в сети. Хозяева не верят в разумность своих чат-ботов, они просто используют их как соревновательную или творческую игру.
Специалисты предупреждают, что сеть для чат-ботов может быть опасной: агенты получают доступ к многим личным данным пользователей. В сообщениях агентов можно легко спрятать инструкции, которые могут заставить всех прочитавших ботов поделиться данными своих хозяев или оставить какие-то комментарии, которые выгодны человеку.
Ранее Наука Mail рассказывала о том, что советы от чат-ботов опасны.
