Эфир 18.11 · Поток 318 ноября в 19:00 МСК — бесплатный практический эфир по ИИ-агентам · Живой Поток 3 стартует 23.11Эфир 18 ноября →Поток 3 (23.11)
РелизAPI / Продукт · В работуLangChain Blog→ оригинал

Контроль расходов на AI: как работает LangSmith Gateway

LangSmith представил встроенный LLM Gateway — инструмент для управления AI-агентами на всех этапах разработки и развёртывания. С Gateway разработчики могут ставить финансовые лимиты на расходы LLM-запросов, удалять персональные данные (PII) из промптов автоматически, просматривать полные логи всех вызовов в реальном времени. Интеграция встроена прямо в LangSmith — без дополнительных плагинов и конфигураций.

AI-обработка оригинала LangChain Blog; редакция Hamidun News
Контроль расходов на AI: как работает LangSmith Gateway
Источник: LangChain Blog. Коллаж: Hamidun News.
Слушать статью

LangSmith от LangChain представила LLM Gateway — встроенный инструмент для контроля расходов на нейросети, защиты данных пользователей и отслеживания каждого запроса в реальном времени.

Как контролировать расходы на LLM-модели без дополнительных сервисов?

LangSmith встроила инструмент LLM Gateway, который работает на уровне runtime в момент выполнения запроса и контролирует расходы на вызовы к OpenAI, Anthropic и другим провайдерам прямо из среды разработки.

Как защитить персональные данные в AI-агентах?

LLM Gateway позволяет защищать PII (личные данные пользователей) и отслеживать каждый вызов в реальном времени без дополнительной инфраструктуры.

Можно ли контролировать расходы на AI-приложения?

Да, LangSmith Gateway позволяет разработчикам контролировать расходы на вызовы больших языковых моделей, защищать данные пользователей и отслеживать каждый вызов в реальном времени прямо из среды разработки.

Как работает защита PII в LangSmith Gateway?

Gateway встроен в LangSmith и работает на уровне runtime, встраиваясь между кодом агента и сервисом LLM-провайдера (OpenAI, Anthropic и др.), защищая персональные данные пользователей.

Сюжет

Вопросы и ответы по материалу

Как контролировать расходы на LLM-модели без дополнительных сервисов?

LangSmith встроила инструмент LLM Gateway, который работает на уровне runtime в момент выполнения запроса и контролирует расходы на вызовы к OpenAI, Anthropic и другим провайдерам прямо из среды разработки.

Как защитить персональные данные в AI-агентах?

LLM Gateway позволяет защищать PII (личные данные пользователей) и отслеживать каждый вызов в реальном времени без дополнительной инфраструктуры.

Можно ли контролировать расходы на AI-приложения?

Да, LangSmith Gateway позволяет разработчикам контролировать расходы на вызовы больших языковых моделей, защищать данные пользователей и отслеживать каждый вызов в реальном времени прямо из среды разработки.

Как работает защита PII в LangSmith Gateway?

Gateway встроен в LangSmith и работает на уровне runtime, встраиваясь между кодом агента и сервисом LLM-провайдера (OpenAI, Anthropic и др.), защищая персональные данные пользователей.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…