Локальная нейросеть для текста: запустить Nemotron дома на ПК
Nemotron-Cascade-2-30B-AWQ удалось локально запустить в домашнем сетапе с GeForce RTX 3090 и получить 120–150 токенов в секунду, а с учётом размышлений — до 210+. В тестах модель уверенно справилась с задачами по физике, биологии и Python, а также с веб-агентами. Главной тонкостью оказался не предел по железу, а правильная обработка reasoning-блоков через vLLM.
AI-обработка оригинала Habr AI; редакция Hamidun News
Оказалось, 30-миллиардную нейросеть Nemotron-Cascade-2 можно запустить дома на GeForce RTX 3090 и использовать как локальный ИИ для работы с текстом, кодингом и анализом данных со скоростью 120–150 токенов/с.
Какая нейросеть работает локально на RTX 3090?
Nemotron-Cascade-2 — локальная нейросеть, которая на GeForce RTX 3090 выдает 120–150 токенов в секунду и справляется с кодингом, физикой, биологией и веб-агентами.
Какую нейросеть можно запустить на видеокарте RTX 3090 дома?
Nemotron-Cascade-2 (30 млрд параметров) работает локально на RTX 3090 со скоростью 120–150 токенов в секунду с устойчивым контекстом, обеспечивая логику, достаточную для кодинга и аналитических задач.
Для чего использовать локальную нейросеть на видеокарте вместо облачных сервисов?
Локальное запуск обеспечивает высокую скорость ответа (150 токенов/сек на RTX 3090), длинный контекст и полный контроль над моделью для ежедневной работы без облачной задержки.
Можно ли запустить Nemotron на домашнем ПК?
Да, 30-миллиардную нейросеть Nemotron-Cascade-2 можно использовать на домашнем ПК с GeForce RTX 3090 со скоростью 120–150 токенов/с.
Для каких задач подходит локальная нейросеть Nemotron?
Nemotron справляется с кодингом, задачами на физику и биологию, а также работой веб-агентов без облака.
- 12 нояб. 2026 г.Модели принятия решений заняли 26% запросов Vercel AI Gateway при 0,53% расходов
- 12 нояб. 2026 г.Google выпустила Gemini Decision 1: ответ за 150–250 мс и $0.10 за 1M токенов
- 12 нояб. 2026 г.Google выпустила gemini-decision-1: модель выдаёт вероятности вместо текста за 150–250 мс
- 12 нояб. 2026 г.ExecuTorch запускает PyTorch в браузере на GPU: генерация текста быстрее в 2–10 раз
Вопросы и ответы по материалу
Какая нейросеть работает локально на RTX 3090?
Nemotron-Cascade-2 — локальная нейросеть, которая на GeForce RTX 3090 выдает 120–150 токенов в секунду и справляется с кодингом, физикой, биологией и веб-агентами.
Какую нейросеть можно запустить на видеокарте RTX 3090 дома?
Nemotron-Cascade-2 (30 млрд параметров) работает локально на RTX 3090 со скоростью 120–150 токенов в секунду с устойчивым контекстом, обеспечивая логику, достаточную для кодинга и аналитических задач.
Для чего использовать локальную нейросеть на видеокарте вместо облачных сервисов?
Локальное запуск обеспечивает высокую скорость ответа (150 токенов/сек на RTX 3090), длинный контекст и полный контроль над моделью для ежедневной работы без облачной задержки.
Можно ли запустить Nemotron на домашнем ПК?
Да, 30-миллиардную нейросеть Nemotron-Cascade-2 можно использовать на домашнем ПК с GeForce RTX 3090 со скоростью 120–150 токенов/с.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.