Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
Runpod показал, как поднять Serverless-воркер для GPU из GitHub-шаблона за три шага
Runpod описал путь от шаблона на GitHub до рабочего Serverless-эндпоинта: создать, протестировать, задеплоить. Платить нужно только за время обработки запросов.
Автор офлайн-диктовки на GigaAM выкладывает Писарь в Google Play и ищет тестеров
Разработчик офлайн-диктовки «Гига Писарь» на модели GigaAM от Сбера переносит Android-версию из APK в Google Play, но для публикации ему нужна помощь сообщества.
Где NLI-модель помогает в ассистенте для встреч: три примерки, два отказа
Разработчик Charoite проверил NLI-модель в пяти сценариях. Помогла только дедупликация фраз в ленте (2% ошибок). Провалилась на протоколах, ревизии ядер и…
Open-source редактор Wunjo Make научили писать плагины через Claude Code, Codex и Cursor
CARing учит LLM предсказывать диагнозы: R@30 достиг 46,52% на MIMIC-IV
Phase-HDC обучает модель без истории оптимизатора и хранит в 16–23 раза меньше Adam
LLM пишут планы дорожных работ для WisDOT: 14B почти не лучше 7B
Apple сокращает аппаратную инженерию, чтобы ускорить разработку при Тернусе
Apple урезает часть аппаратной инженерии ради скорости. По версии Марка Гурмана, Джон Тернус готовит более компактную и быструю структуру всей компании.
Простая формула предсказывает, когда чат-боты выйдут из-под контроля
Исследователи предложили математическую формулу, которая прогнозирует момент, когда небольшие чат-боты на смартфонах начнут выдавать опасные ответы, в том числе…
DeepLearning.AI и Qdrant выпустили бесплатный курс по ИИ-ассистентам с локальной памятью
PewDiePie обучил дома модель Ajax без цензуры после двух банов OpenAI
Cognition выпустила SWE-2: 50% на FrontierCode при цене ниже на 64%
Как стать AI-архитектором в 2026: дорожная карта от инженера к проектировщику систем
Bonsai 27B от PrismML: модель Qwen3-27B впервые запустили на смартфоне
Стартап PrismML (исследователи Caltech) сжал Qwen3.6-27B в 14 раз с 1-битными весами — 27-миллиардная Bonsai 27B теперь работает прямо на смартфоне, сохраняя 90–95%…
Selectel тестирует Mac mini M4 Pro как локальный LLM-сервер для OpenClaw
Selectel проверил Mac mini на чипе M4 Pro как портативный LLM-сервер с агентом OpenClaw: объединённая память Apple Silicon устраняет главный барьер локального…