Агенты на диффузионных LLM научились шептаться векторами: +34 пункта на QASC

Диффузионные языковые модели собирают ответ через череду пересматриваемых непрерывных состояний, но в мультиагентных системах эти состояния обычно выбрасывают: агенты общаются только после декодирования в текст. Авторы работы Hidden Messages проверили другую схему. Один агент сжимает своё состояние денойзинга в четыре знаковых плотных вектора и передаёт их второму. На QASC, где два поддерживающих факта разделены между агентами, совместная работа даёт 80,8% точности. Если подменить сообщение на чужое, результат падает до 46,8%. Разница в 34,0 пункта и есть эффект содержания.

Четыре вектора вместо текста

Устройство канала простое. Отправитель идёт по собственной диффузионной траектории и в нужный момент сжимает текущее состояние в четыре вектора. Получатель принимает их как дополнительный вход, но не отказывается от своего: у него остаются собственный контекст, собственный холст (canvas) и собственная траектория денойзинга. Сообщение не заменяет рассуждение получателя, а подмешивается к нему.

Такая конструкция важна для чистоты эксперимента. Агенты независимы, общего состояния у них нет, всё, что один знает о другом, проходит через четыре вектора.

Как доказывали, что получатель читает смысл

Главная слабость многих работ про скрытую коммуникацию в том, что рост метрик можно списать на сам факт наличия дополнительного сигнала. Здесь поставлены два контроля. Первый: сообщение убирают целиком и смотрят, нужен ли канал вообще. Второй: сообщение заменяют на сообщение от другого примера (derangement). Формат и статистика сигнала остаются прежними, меняется только содержание. Если точность падает, получатель использует смысл, а не просто наличие вектора.

Падает она сильно:

• Tiny-A2D: derangement убирает преимущество в +63,6 пункта.
• Dream-7B: derangement убирает преимущество в +100,0 пунктов.
• QASC при разделении двух фактов между агентами: 80,8% с корректным сообщением против 46,8% с сообщением от чужого примера, эффект содержания +34,0 пункта.
• Целевые подстановки: когда в сообщение закладывают конкретный другой факт, получатель смещает ответ в его сторону.

Последний пункт, пожалуй, самый показательный. Деградация говорит, что канал важен. Управляемый сдвиг к подставленному факту говорит, что в четырёх векторах лежит именно читаемая информация.

Поздняя передача бьёт частые обмены

Самый неожиданный результат касается времени. Интуиция подсказывает, что чем больше раундов обмена, тем лучше агенты синхронизируются. Эксперимент показывает обратное: одна поздняя передача даёт 87,8%, что на 7,0 пункта выше четырёх рекуррентных обменов. По арифметике, четыре обмена остаются около уровня 80,8%.

Правдоподобное объяснение лежит в природе диффузии. На ранних шагах траектория ещё размыта, и состояние отправителя содержит много шума и неустойчивых гипотез. К поздним шагам ответ уже оформлен, и сжатое состояние несёт то, что отправитель действительно «решил». Это объяснение остаётся гипотезой, но сам результат ломает привычное допущение, что частота коммуникации автоматически полезна.

Куда это можно приложить на практике

Для разработчиков мультиагентных систем вывод прямой: момент передачи информации стоит считать гиперпараметром наравне с числом раундов. Один дешёвый обмен в нужной точке траектории может обойти схему с четырьмя обменами, а значит, сэкономить вычисления и задержку.

Второе следствие касается отладки. Тест с подменой сообщения на чужое легко воспроизвести в любой системе со скрытым каналом, и он быстро отделяет настоящую коммуникацию от случайного эффекта дополнительного входа.

Ограничения тоже очевидны. Проверки проведены на контролируемых задачах и на моделях вроде Tiny-A2D и Dream-7B, а не на длинных агентных сценариях с инструментами. Зато работа даёт методологию и первое каузальное свидетельство того, что диффузионные агенты могут передавать друг другу смысл без текста. Для архитектур, где декодирование в токены считается обязательным шагом общения, это серьёзный повод пересмотреть дизайн.