Эфир 18.11 · Поток 318 ноября в 19:00 МСК — бесплатный практический эфир по ИИ-агентам · Живой Поток 3 стартует 23.11Эфир 18 ноября →Поток 3 (23.11)
Безопасность и правоРазбор · На радарHabr AI→ оригинал

LLM не справляются с небезопасным Rust: полгода тестирования показал критические ошибки

Автор полгода давал LLM писать unsafe Rust код в реальных проектах и анализировал результаты через Miri. Модели стабильно ошибаются: aliasing, провенанс, layout в управлении памятью, забытый ManuallyDrop, гонки в FFI, неправильные Send/Sync и неинициализированная память. Каждую ошибку можно воспроизвести и зафиксить.

AI-обработка оригинала Habr AI; редакция Hamidun News
LLM не справляются с небезопасным Rust: полгода тестирования показал критические ошибки
Источник: Habr AI. Коллаж: Hamidun News.
Слушать статью

Автор давал LLM писать unsafe Rust код в боевых проектах полгода и проверял каждый блок Miri и санитайзерами. Результат разочаровал: модели делают одни и те же ошибки предсказуемо и стабильно.

Семь категорий ошибок LLM в unsafe Rust

Модели постоянно допускают ошибки в одних и тех же местах: Aliasing — нарушение правила о неперекрывающихся ссылках Provenance — попытки использовать указатели, полученные неправильно Layout при alloc/dealloc — несоответствие размера/выравнивания при выделении и освобождении ManuallyDrop — забывают вызвать drop или обращаются с объектом после drop Гонки в FFI-колбэках — race conditions при вызове C-функций из потоков Ручные Send/Sync — неправильно реализуют трейты потокобезопасности * Uninit-память — обращаются к неинициализированным данным как к инициализированным ## Почему Miri раскрыл проблемы Miri — интерпретатор Rust, который отслеживает undefined behavior. Когда LLM генерирует код с незаметными на первый взгляд нарушениями (например, временный указатель с неправильным провенансом), обычный компилятор пропускает, а Miri ловит. Под санитайзерами (AddressSanitizer, ThreadSanitizer) вскрывались гонки и use-after-free, которые в обычных тестах могут не проявиться.

«Каждая категория идёт с минимальным примером и фиксом» — автор показывает, что это не просто наблюдения, а воспроизводимые паттерны ошибок.

Что это значит LLM пока не готовы писать unsafe Rust без человеческого контроля.

Они хорошо генерируют синтаксис и общую логику, но в области работы с памятью и многопоточностью систематически ошибаются. Для критичного кода (системное ПО, системные библиотеки) unsafe Rust от моделей нужно обязательно проверять под Miri.

Сюжет
ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…