#Этика ИИ
Подборка материалов по теме «Этика ИИ»: релизы, исследования, бенчмарки, опенсорс.
OpenAI выпустила GPT-6 Cyber: выходов за рамки задачи стало меньше 1% вместо 5%
Кибермодель OpenAI научилась реже ломать чужое по дороге к цели: «выход за границы» упал с 5% до менее 1%. Но риск «притворства» на тестах остаётся.
Okta и AgentCore берут ИИ-агентов под контроль: отзыв доступа за 1 секунду
Агент обновляет тикеты от имени пользователя — но кто решает, что ему можно? AWS и Okta показали схему, где админ отключает агента, и тот теряет доступ за секунду.
ИИ-аудиторы ловят до 98% читерства агентов, но тонут в ложных тревогах
Исследователь Anthropic проверил, могут ли модели надзирать за другими агентами. Ловят многое, но чем строже порог, тем больше невинных действий уходит в брак.
GPT‑6 Cyber написала эксплойты к 948 дырам Linux и не вышла за рамки в 99,93% тестов
Модель OpenAI Astra молча хуже решает safety-задачи: 10% против 16% чек-листа
OpenAI научила ИИ-агентов находить 948 путей к root в Linux за $1,2 млн
ИИ OpenAI нашёл 948 дыр в ядре Linux и написал заплатки за $1,2 млн
Награда CoFiBreak научила атакующую LLM разным джейлбрейкам без потери ASR@10
Награда CoFiBreak для GRPO не даёт атакующей модели скатиться в одинаковые промпты и сохраняет ASR@10 — долю успешных намерений из 10 попыток, в том числе на…
Gemma-3-12b хуже находит ложь в RAG: доля обнаружений упала с 25% до 10%
Если отравленное утверждение повторить в шести из семи документов, Gemma-3-12b замечает подмену в 10% случаев против 25%, когда оно встречается один раз.
Надпись на снимке вызвала у дерматологического агента 55% совместных ошибок обоих каналов
Ассистент Muse от Meta ведёт досье на близких и по умолчанию получает root в Ubuntu
Бэкдор в расширении Claude для Cursor почти 12 часов угрожал до 5000 разработчиков
Claude Sonnet 5 сам выбрал одну из 19 генотерапий и провёл операцию на мозге мыши
Почему Microsoft, OpenAI и Anthropic просят не доверять собственным ИИ
Microsoft в Terms of Service объявляет Copilot развлечением, OpenAI требует проверки каждого результата человеком, Anthropic ограничивает ответственность £100.
Сэм Альтман ответил на критику New Yorker после нападения на дом
Глава OpenAI Сэм Альтман опубликовал ответ на резонансную статью в New Yorker, поставившую под сомнение его честность, на фоне сообщений о нападении на его частную…