Человек в контуре (human-in-the-loop)

Human-in-the-Loop (HITL, «человек в контуре») — проектный паттерн, при котором в автоматизированный процесс с участием AI намеренно включаются точки человеческого контроля. На этих точках человек рецензирует решение агента, подтверждает его выполнение или задаёт корректирующий ввод, прежде чем система продолжает работу. HITL противопоставляется полностью автономным (hands-off) системам и схемам с наблюдением после факта (human-on-the-loop).

Паттерн реализуется на нескольких уровнях. В разработке моделей HITL означает разметку данных людьми-аннотаторами и сбор предпочтений для обучения с подкреплением на основе человеческой обратной связи (RLHF). В агентных системах HITL — это пауза перед необратимыми действиями (отправка письма, удаление данных, финансовая транзакция) и запрос подтверждения. Степень вовлечённости варьируется: от одобрения каждого шага до выборочных проверок в статистически значимых точках.

HITL критически важен в доменах с высокой ценой ошибки: медицине, праве, финансах, управлении инфраструктурой. Регуляторные требования — EU AI Act и NIST AI RMF — явно предписывают HITL для систем высокого риска. Кроме того, точки контроля служат источником обратной связи для дообучения моделей на реальных кейсах.

К 2026 году фреймворки LangGraph и AutoGen предоставляют встроенные примитивы для реализации HITL: interrupt, approve, human_input. В enterprise-сегменте HITL стал стандартным требованием при внедрении агентов в бизнес-процессы, особенно там, где действия агента затрагивают внешние системы или клиентов.

Пример

“Агент обработки заявок на возврат средств формирует решение и сумму компенсации, после чего останавливается и направляет параметры на подтверждение оператору; только после одобрения транзакция проводится в ERP-системе.