Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
COMETAL запустила 14 ИИ-агентов: ночные тесты вместо двух человеко-дней ручной QA
Промышленная платформа COMETAL отказалась от коробочной CRM и вендора, написала свою систему и посадила в Яндекс.Мессенджер 14 агентов: от разбора почты до ночного…
LLM управляет героем онлайн-RPG: Gemini тянет только каждый 10-й игровой шаг
Разработчик посадил Gemini за руль персонажа в сетевой RPG. Агент крафтит, торгует и даже отлил кирку, но застревает в петлях и не понимает координаты.
Автор Хабра обучил Random Forest на 81 статье и поймал утечку данных и LLM-копипаст
Разработчик пытался предсказать просмотры статей на Хабре: локальная Qwen3 4B 81 раз скопировала пример из промпта, а модель-предсказатель подсмотрела ответ в…
Baidu открыла веса ERNIE 5.5 Flash: из 280 млрд параметров на токен работают 14 млрд (5%)
Tencent открыла Hy-Nomas: видеомир с памятью в 720p идёт на одной RTX 4090
Revolut перевёл 2000 инженеров на свой GLM: токен дешевле в 10 раз
QVikhr-3-4B на VPS за 1,5 тыс. ₽ без GPU верно разметила 20 обращений из 20
Pruna AI ужала MiniMax-H3 со 143 до 20 ГБ и сделала из видеомодели генератор картинок
Pruna AI переделала видеомодель MiniMax-H3 в открытый генератор картинок: вес 20 ГБ вместо 143, 8 шагов вместо 50 и 21 ГБ видеопамяти для кадра в 8 МП.
Nanbeige4.3-33B догнала Qwen3.8 27B по индексу и выиграла в Terminal-Bench: 30% против 6%
Открытая модель на 33 млрд параметров набрала 20 баллов в индексе Artificial Analysis v5, как Qwen3.8 27B, но в тесте на работу в терминале у неё 30% против 6%.
Локальная Qwen на RTX 5080 выросла с 33% до 88,5% в тесте лабораторного журнала
NVIDIA выпустила Nemotron 3.5 Bolt E4B на 4 ГБ и 133 токена в секунду на RTX 5070
Локальные модели проиграли Opus и Codex: на MacBook 0,21 балла против 1,00 у Codex
Защитный слой MoneyGate не пропустил ни одной из 42 мошеннических просьб к локальным ИИ
Tencent выложила в опенсорс world model Hy-Nomas: 18,5 FPS на 8×B200 с полной историей
Tencent открыла код и веса world model Hy-Nomas под Apache 2.0: управление текстом и камерой, LoRA-дообучение и около 18,5 FPS на 8×B200.
В РГС локальные LLM сократили разбор 500 задач с пяти рабочих дней до двух
Руководитель ИТ-комплаенса РГС без бюджета и кода собрала на ноутбуке конвейер на n8n и Ollama: точность оценки задач на реальных данных — 78–82%.