Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
X: @n8n_ion8n выпустила Nod — open-source агента, который работает на вашем компьютере
Habr AIClaude Code и Codex режут реверс-инжиниринг: OpenAI банила аккаунты по ошибке
Habr AIQA-инженеры SpaceWeb поручили ИИ писать автотесты: рабочий скрипт за 50 минут
NeurohiveMiniMax открыла веса H3-Image: 4K-картинки за 10–16 секунд и 16 референсов
Habr AIОдна RTX 3090 закрывает ИИ-хелпдеск офиса на 40 человек и окупается за 5 месяцев
Artificial AnalysisArtificial Analysis выявила потери качества у 24 из 103 API-эндпоинтов
ZDNet AIНовый глава Apple подгоняет Федериги: Siri должна стать ИИ-агентом
TG: @cgevent (Метаверсище и ИИще)Apple готовит Harbor: кластер из Mac по Thunderbolt 5 для запуска локальных LLM
Одна RTX 3090 закрывает ИИ-хелпдеск офиса на 40 человек и окупается за 5 месяцев
Техдиректор студии посчитал: облачные токены для офиса на 40 человек стоят 270–300 тысяч рублей в год, а б/у видеокарта за 120 тысяч отбивается примерно за пять…
Artificial Analysis выявила потери качества у 24 из 103 API-эндпоинтов
Одна модель у разных провайдеров может работать по-разному: ответы обрываются, аргументы инструментов ломаются. Artificial Analysis проверила 103 эндпоинта и нашла…
Новый глава Apple подгоняет Федериги: Siri должна стать ИИ-агентом
По данным Bloomberg, Джон Тернус давит на Apple, чтобы Siri научилась действовать сама, а не только отвечать. Пока же компания не выполнила даже обещания 2024 года.
n8n Labs выпустили Nod: локальный ИИ-агент с виртуальным компьютером без аккаунта
MiniMax выпустила H3-Image: генерация в 16 МП и работа с 16 референсами
Alibaba выложила веса Qwen3.8-Flash: 125B MoE и превью архитектуры Qwen4
Zyphra выпустила Zonos3-Mini: клонирование голоса на 43 языках прямо в браузере
Разработчик собрал на KMP клиент для Ollama: два бага сериализации и стриминга
Автор с Habr поднял Ollama на ноутбуке и написал под неё чат для Android и iPhone на Kotlin Multiplatform. Главная ценность — грабли, на которых он потерял часы.
ElevenLabs подключила Nemotron от NVIDIA: голосовые агенты на 70% дешевле других open-моделей
ElevenLabs запустила в ElevenAgents открытую модель NVIDIA Nemotron 3.5 Super VL, нарастила мощности на 15 МВт и развернула голосового агента для польской медицины…
Epic собрала Unreal Engine 5.9 Preview с помощью ИИ-агентов примерно за неделю
Nemotron 3.5 Super VL в SageMaker: 120B-модель для документов и GUI-агентов за 10 минут
Разработчик за 9 дней с Claude Code сделал локальную расшифровку созвонов на Маке
Разработчик заменил Claude Code локальными Qwen и DeepSeek: цикл вырос в 3–4 раза
GPT-6 Astra исправила зацикливание Qwen: точность выросла с 7,9% до 48,1%
Маленькая Qwen тратила тысячи токенов на повторения вместо ответа. Исследователи поручили другой модели поправить её веса — и получили резкий рост результатов без…
llama-modchip запускает DeepSeek на 284 млрд параметров в 64 ГБ без GPU
Есть сервер с памятью, но без видеокарты? llama-modchip предлагает запустить на нём большую модель. Автор обещает 9–15 токенов в секунду, но сборку и качество…