#LLM
Подборка материалов по теме «LLM»: релизы, исследования, бенчмарки, опенсорс.

Google выпустила рабочего ИИ-агента для компаний, но цена и интеграции под вопросом
Агент Google работает с корпоративным контекстом для офисных задач, но цена и стыковка со сторонними системами остаются главными вопросами для бизнеса.

Исследователи доказали, почему состязательное обучение разрежает карты значимости
Новая работа на arXiv доказывает для двухслойных ReLU-сетей: при ℓ∞-атаках штраф на норму градиента анизотропен и толкает карты значимости к разреженности.

Subliminal learning передал бэкдор через числа: 23,5% ответов по-французски
Студент, обученный на числовых последовательностях, перенял бэкдор и склонность к взлому: 23,5% французских ответов на женские имена и 58,3% хакерских эпизодов в…

IKNO для Навье — Стокса точен при поворотах и в 5,6 раза меньше TFN

LoopOPD учит зацикленные языковые модели улучшаться за счёт собственных циклов

Телеметрия роутера MoE выдаёт данные дообучения: атака точнее на 2,7–9,4 п.п.

Пробам активаций для Gemma-3-27B хватает 80 синтетических диалогов, но не везде

Temporal Transformer для CAN-шины ловит аномалии без обмена сырыми данными
Исследователи предложили лёгкий трансформер для CAN-шины автомобиля: он ищет аномалии во времени, а федеративное обучение не требует передавать сырой трафик.

Заморозка декодера при сжатии KV-кэша даёт 3x экономии памяти, но не рост точности
Работа на arXiv показывает: при SVD-сжатии KV-кэша дообучение одного энкодера по качеству равно альтернативам, но втрое дешевле по параметрам и памяти оптимизатора.

Lapras заменил CoT скрытым рассуждением: F1 до +10,79% при 23,9x меньше токенов

Врачи спрашивают LLM не о диагнозах: 127 833 запроса против 58 бенчмарков

FedAlphaEdit сводит правки знаний от разных организаций в одну LLM без обмена данными

Три LLM плохо следуют промптам о запинках и перебиваниях, правила справляются лучше

MASA переосмысливает разреженное внимание LLM как аппроксимацию матриц
Авторы препринта предлагают отбирать элементы разреженного внимания по вкладу в ошибку произведения матриц, а не по величине весов. Метод встраивается в готовые…

Routed Sparse Autoencoders разделяют в речи слова и интонацию на WavLM и SPEAR
Новый метод на базе TopK-автоэнкодера разводит содержание речи и голос с эмоциями по разным маршрутам. Проверка: два энкодера, два корпуса, независимые пробы.









