Вычисления на этапе инференса (test-time compute)

Вычисления на этапе инференса — подход, при котором модель использует дополнительные вычислительные ресурсы во время генерации ответа, а не только при обучении, чтобы повысить точность и качество результата.

Вычисления на этапе инференса (test-time compute, TTC) — стратегия повышения качества языковых моделей за счёт выделения дополнительного времени и вычислительной мощности непосредственно при формировании ответа. В отличие от классического подхода, где вся «работа» сосредоточена в предобучении и дообучении, TTC позволяет модели тратить больше ресурсов на каждый конкретный запрос, особенно сложный.

На практике TTC реализуется несколькими методами: цепочки рассуждений (chain-of-thought), при которых модель разворачивает промежуточные шаги перед финальным ответом; поиск по дереву рассуждений (Tree of Thoughts); самосогласование (self-consistency) — генерация нескольких вариантов и выбор наиболее частого; итеративное уточнение ответа с самопроверкой. Каждый из этих методов увеличивает число сгенерированных токенов, а вместе с ним — и вычислительные затраты.

TTC особенно эффективен для задач с верифицируемым решением: математики, логики, программирования, формальных доказательств. Ключевой вывод исследований 2024–2025 годов состоит в том, что масштабирование инференса нередко даёт больший прирост качества на единицу затрат, чем дальнейшее увеличение числа параметров модели при фиксированном вычислительном бюджете на генерацию.

К 2025–2026 годам TTC стал центральным механизмом «мыслящих» моделей: OpenAI o1 и o3, Anthropic Claude 3.7 Sonnet с режимом extended thinking, Google Gemini 2.0 Flash Thinking, DeepSeek R1 — все они используют увеличенный инференс как основной способ повышения точности. На бенчмарках AIME, GPQA Diamond и CodeForces модели с TTC устойчиво превосходят базовые версии тех же архитектур, обученных на аналогичных данных.