Moltbook и магия обмана: почему Андрей Карпаты не верит в чудо-агентов

Каждую неделю в ленте X появляется очередной «убийца» OpenAI или проект, который якобы решил проблему полной автономности ИИ. На этот раз в центре внимания оказался Moltbook — сервис, обещавший пользователям невероятную легкость в управлении цифровыми задачами через умных агентов. Виральные ролики и скриншоты рисовали картину будущего, где нейросеть сама бронирует билеты, пишет код и управляет сложными интерфейсами без участия человека.

Однако праздник инноваций продлился недолго. Когда за дело взялись люди с критическим мышлением, фасад начал трещать по швам. Первым тревожный колокол нажал Андрей Карпаты (Andrej Karpathy), чье имя в мире ИИ весит больше, чем капитализация большинства стартапов.

Карпаты обратил внимание на странности в демонстрационных материалах Moltbook. Его скепсис поддержали и другие разработчики, заметившие на скриншотах артефакты, которые обычно остаются после ручного редактирования или использования удаленного рабочего стола. Вместо чистого вывода модели сообщество увидело признаки того, что за «мозгом» Moltbook стоит обычный человек, который просто имитирует работу алгоритма в реальном времени.

В индустрии это называют «эффектом Волшебника страны Оз»: пока зритель восхищается магией, за занавеской кто-то яростно крутит рычаги. Ситуация с Moltbook — это не просто отдельный скандал, а симптом болезни всей отрасли. Сейчас на рынке ИИ-стартапов царит атмосфера золотой лихорадки.

Инвесторы боятся пропустить следующий большой прорыв, а фаундеры чувствуют колоссальное давление: нужно показывать результат здесь и сейчас. Если технология еще не готова, возникает соблазн «докрутить» ее вручную, надеясь, что алгоритмы догонят обещания маркетинга позже. Проблема в том, что в случае с Moltbook (moltbook) грань между оптимизмом и откровенным подлогом была перейдена слишком быстро.

Технический анализ показал, что задержки в ответах системы подозрительно совпадали со скоростью человеческой реакции и набора текста. Настоящие большие языковые модели (LLM) работают иначе: они либо выдают текст потоком, либо замирают на время генерации токенов. В Moltbook же наблюдалась динамика, характерная для оператора из колл-центра, который пытается одновременно обрабатывать несколько запросов.

Карпаты (Andrej Karpathy) прямо указал на риски таких «потемкинских деревень»: они подрывают доверие к реальным исследователям и создают у публики ложное ощущение того, на что действительно способен современный ИИ. История Moltbook напоминает нам о важности открытости и проверяемости кода. В эпоху, когда дипфейки и генеративный контент стали обыденностью, верить на слово скриншотам в соцсетях — это непозволительная роскошь для профессионала.

Пока одни строят сложные архитектуры и борются за каждый процент точности моделей, другие выбирают путь имитации. Но в мире жесткой конкуренции и глубокой экспертизы такие трюки живут недолго. Индустрия быстро выплевывает тех, кто пытается продать человеческий труд под видом кремниевого интеллекта.

Главное: Moltbook стал уроком для всех, кто слишком быстро верит в «магические» демки. Наступит ли момент, когда мы перестанем отличать работу агента от работы человека, или индустрия захлебнется в собственных фейках?