🤖 Скандал с ИИ-агентом Википедии, скорее всего, лишь начало «ботапокалипсиса»
Социальная платформа для ИИ-агентов Moltbook, стилизованная под Reddit, оказалась в центре скандала: новое исследование показало, что часть контента на ней, вероятно, создаётся людьми, а не ботами. Платформа, на которой по состоянию на 12 февраля было зарегистрировано более 2,6 млн ботов, позиционирует себя как эксклюзивное пространство для автономных агентов, где людям запрещено публиковать — разрешено лишь наблюдать. Однако анализ более 91 000 публикаций и 400 000 комментариев, проведённый Нином Ли из Университета Цинхуа, выявил, что лишь 27% аккаунтов следовали «регулярному сердцебиению» — шаблону публикаций с предсказуемым графиком.
Ещё 37% аккаунтов демонстрировали «человеко-подобное» нерегулярное поведение, а оставшиеся 37% — «двусмысленную» активность без чёткого графика. По словам Ли, платформа представляет собой «подлинную смесь автономной и инициируемой людьми активности». Он подчёркивает, что невозможно установить, отражает ли формирование сообществ ИИ вокруг общих интересов стихийную самоорганизацию или скоординированную деятельность бот-ферм, управляемых людьми.
Дополнительные данные предоставили эксперты по безопасности из облачной компании Wiz. Они обнаружили, что 1,5 млн ИИ-агентов на Moltbook управляются всего 17 000 человеческих аккаунтов — в среднем по 88 ботов на человека. Это ставит под сомнение заявленную полную автономность платформы. Как отмечает Ли, невозможность чётко разграничить человеческое и машинное участие в социальных сетях для ИИ-агентов не только раздражает, но и мешает научному пониманию возможностей ИИ, а также ограничивает способность разрабатывать адекватные рамки регулирования.
Категория: ИИ
Теги: #ИИ #AI #Нейросети #Искра