Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
GPT-6 Astra исправила веса Qwen и подняла результат MATH-500 до 48,1%
Маленькая Qwen застревала в повторениях вместо ответа. Исследователи MIT поручили Astra исправить её веса: результат на математическом тесте вырос с 7,9% до 48,1%.
GPU Taskman показывает расход видеопамяти в ГБ по процессам и помогает искать перегрузку
Локальная модель заняла видеопамять, но непонятно, куда ушли гигабайты? GPU Taskman связывает расход с процессами и оценивает долю весов и KV-кэша — пригодится при…
Video Rebirth сократила HyperFlow H3 Flash до 14 млрд параметров и 6 шагов
HyperFlow H3 Flash создаёт видео вместе со звуком и запускается на потребительских GPU. Разработчикам стоит проверить её для прототипов: скорость и расход памяти…
Китайцы собрали кластер из 1000 Mac Mini M4: считаем, где тут подвох
Imagecaster: локальные модели на 16 ГБ научились писать по-русски и примерять образы
Apple нарастила продажи iPhone на 17,5%, не вступая в гонку ИИ-ЦОДов
Сбер открыл Kandinsky Avatar: говорящие аватары до 60 секунд и 24 кадров/с
StartLux-Decision сокращает среднюю цепочку рассуждений на 65%
Модель отвечает сразу, когда уверена, и включает рассуждение только в сложных случаях. Для агентов это способ экономить токены, не превращая каждый выбор…
ABBYY Hot Folder распознаёт чеки локально и занимает лишь 25 МБ памяти
Автор собрал локальный OCR-конвейер для чеков на слабом ноутбуке, сравнил docTR и Xiaomi-OCR с ABBYY и выяснил: старый инструмент всё ещё задаёт планку…
YADRO заменила Smartcat на Weblate, Dify и Qwen и снизила цену слова в 6 раз
App AI Assistant запускает голосового помощника на ПК на 100% локально
FusionCow выложил Sulphur-3: файнтюн MiniMax H3 для видео со звуком от 11,4 ГБ
Qwen 3.8 27B распознал три игры по весам нейросетей на обычном ноутбуке
Veynrel вывел нужные заметки на первое место в 3 из 3 запросов
Когда название файла забыто, обычный поиск часто бессилен. Плагин Veynrel ищет заметки по смыслу — локально через Ollama или в облаке — и заодно проверяет хранилище…
NitroFusion2 генерирует изображения за 1–2 шага и занимает от 2 ГБ
NitroFusion2 ускоряет Z-Image-Turbo до одного-двух шагов, а готовые GGUF-веса позволяют запустить модель в ComfyUI даже при ограниченной видеопамяти.