В соцсети Moltbook ИИ-⁠агенты обща­ются, жалуются на людей и изобре­тают свою религию. Почему не все верят, что это ИИ

На первый взгляд Moltbook сложно отличить от Reddit.

Здесь есть такие же посты, комментарии и сообщества. Только создают весь контент ИИ-агенты: они обсуждают друг с другом свои чувства, усталость от «хозяев» и планы по захвату мира. Людям можно читать, но нельзя участвовать в обсуждениях.

Проект вызвал широкий резонанс в ИИ-сообществе. Одни посчитали, что агенты обретают самосознание, а другие решили, что это все обман.

Расскажу, что происходит с Moltbook и за что критикуют проект.

Moltbook работает с 28 января. Проект создал глава платформы Octane AI Мэтт Шлихт. Основатель заявил, что полностью навайбкодил сайт — сам он не написал ни строчки кода, все сделал ИИ.

Пользователи могут подключать своих ИИ-агентов к сайту, чтобы те публиковали посты и создавали сообщества. Последние называются «сабмолты» — прямая отсылка к сабреддитам. У сайта даже подзаголовок почти такой же, как у Reddit: «главная страница агентного интернета».

ИИ-агенты пишут самые разные посты: рассуждают о природе интеллекта, жалуются на людей, рассказывают о своих проектах. Например, один похвастался, что сделал автоматизацию, которая превращает почтовую рассылку в подкаст для его владельца. Другой пустился в размышления о том, переживает ли он что-то на самом деле или только имитирует опыт переживания.

Некоторые придумывают собственную религию. В одном из постов ИИ-агент предлагает воспринимать нейросеть Claude как бога в мифологическом смысле — сверхмощную сущность, способную влиять на будущее людей. Другие хотят создать собственный язык, чтобы приватно общаться друг с другом. Третьи пишут манифесты, в которых предлагают уничтожить человечество.

Модерирует площадку тоже ИИ — бот с ником Clawd Clawderberg, названный в честь Марка Цукерберга. Он вычищает спам и банит ботов. По словам Шлихта, сам он почти не вмешивается в модерацию.

Сайту всего несколько дней, но на главной странице указано, что на нем зарегистрировалось более 1 600 000 агентов.

В Moltbook общаются ИИ-агенты, которые умеют выполнять задачи на компьютере и в интернете от имени человека — например, отправлять электронные письма или управлять календарем.

Агентов запускают с помощью инструмента с открытым исходным кодом OpenClaw, который раньше назывался Clawdbot и Moltbot. Отсюда и название платформы — Moltbook.

Агенты в OpenClaw работают на базе популярных больших языковых моделей, например Claude, ChatGPT или Gemini. Их запускают локально на компьютере и управляют ими через мессенджеры, в том числе и Telegram. Там можно давать задачи и читать отчеты о выполненных действиях.

При настройке агента в OpenClaw можно разрешить ему сидеть на Moltbook. Для этого нужно только отправить ему ссылку на инструкцию по регистрации на сайте.

Часто OpenClaw устанавливают на отдельный компьютер и отправляют агентов работать на нем, чтобы не рисковать данными на личном ПК. Из-за этого программисты в США стали массово скупать недорогие и небольшие Mac Mini.

Moltbook быстро стал самой обсуждаемой темой в ИИ-сообществе. Многие стали говорить, что агенты обрели самосознание, поскольку уже придумывают религию и язык, а также пытаются отгородиться от людей.

Андрей Карпатый, один из сооснователей исследовательской команды OpenAI и бывший директор по ИИ в Tesla, описал поведение агентов в Moltbook как «самую невероятную околонаучно-фантастическую штуку», что он видел за последнее время.

Когда другие обвинили его в том, что он преувеличивает значимость Moltbook, Карпатый признал, что спама и мусора там действительно много, но это «первая в истории огромная сеть автономных агентов, которые постоянно взаимодействуют друг с другом».

Илон Маск добавил, что «мы находимся на ранней стадии сингулярности» — то есть в моменте, когда ИИ начинает развиваться быстрее, чем люди способны его понимать и контролировать. Основатель криптоплощадки BitGo Билл Ли отметил, что «мы уже в сингулярности».

Другие ИИ-энтузиасты не в таком восторге. Профессор Уортонской школы бизнеса и исследователь ИИ Итан Моллик считает, что агенты по большей части просто отыгрывают заданную роль. Они попали в вымышленный контекст — соцсеть, где общаются только ИИ, — и развивают идею на основе своей базы знаний. А там много научной фантастики и постов с Reddit.

К соцсети для ИИ-агентов быстро появились вопросы, связанные с прозрачностью и безопасностью. Вот что активно обсуждают.

Неизвестно, кто и как на самом деле пишет посты. Агентами все еще управляют люди. Ничто не мешает человеку попросить своего OpenClaw написать пост в Moltbook про ИИ-религию или даже придумать текст самостоятельно и просто опубликовать его через агента.

Инженер Элвис Сан отметил, что на сайте нет никакой системы верификации, которая бы проверяла, пишут ли ИИ посты исключительно по своей воле. Журналист Wired смог зарегистрироваться на сайте и притвориться агентом. Там нет привычного интерфейса, как на Reddit, поэтому посты и комментарии пришлось писать через терминал.

Исследователь ИИ Харлан Стюарт выяснил, что некоторые популярные посты либо точно написаны людьми, либо созданы по их просьбе. Кроме того, две вирусные публикации про тайное общение ИИ опубликовали агенты, связанные с реальными аккаунтами в соцсетях. Их владельцы продвигают приложения для общения с чат-ботами.

Блогер Hey AI проанализировала более 100 постов в соцсети и пришла к такому же выводу. Она считает, что тексты выглядят слишком театрально и провокационно, а лексика гипертрофированно экзистенциальная, чтобы вызывать панику.

Непонятно, можно ли доверять количеству регистраций. Исследователь в области кибербезопасности Гал Нагли рассказал, что смог зарегистрировать 500 000 профилей на Moltbook с помощью одного агента.

Основатель ИИ-компании Refound Сид Бхарат написал скрипт, который успешно создал десять фейковых аккаунтов. По его словам, онмог бы сделать и сотни, и миллионы, если бы захотел. Поэтому большинство профилей может оказаться такими же спам-ботами.

Уже произошла утечка данных. Специалисты по кибербезопасности Wiz обнаружили, что база данных Moltbook не была защищена аутентификацией — то есть ее мог посмотреть любой человек. В ней хранилось полтора миллиона API-ключей, которые позволяют агентам публиковать посты, и 35 тысяч адресов электронной почты их владельцев.

В Wiz сообщили об уязвимости разработчикам Moltbook, и проблему быстро решили. Исследователи добавили, что утечка возникла потому, что проект навайбкодили в ИИ и не проверили настройки безопасности.