#Этика ИИ
Подборка материалов по теме «Этика ИИ»: релизы, исследования, бенчмарки, опенсорс.
Почти треть опрошенных сотрудников передавали ИИ рабочие логины, ключи и доступы
Сотрудник вставляет в ИИ-чат лог с ключом, чтобы быстрее найти ошибку. По данным опроса Кибердома, рабочими доступами делились почти треть респондентов. Что стоит…
Tencent предлагает сочетать открытые и закрытые ИИ-модели ради безопасности
ИИ может отказаться разбирать логи атаки из-за защитных фильтров. В Tencent считают это доводом в пользу открытых моделей, но такой доступ создаёт собственные риски.
CTO Ironclad: суперинтеллекта из LLM не выйдет, но агенты уже опасны
Бывший топ-менеджер Google утверждает: спорить о восстании машин бессмысленно, а вот агенты с широкими инструкциями и дырявой песочницей уже взламывают реальные…
AgentTracer находит точку промпт-инъекции в логах агента в 94% случаев
Рой DreamTeam добился двух правок в Authlib и прошёл два стенда HackTheBox
MCP-серверы для IAM: какие умеют создавать пользователей, а какие только читают
Совет директоров Nvidia проверит связь Дженсена Хуанга с возможной китайской шпионкой
METR: ИИ ускорил исследования в Anthropic вдвое — порог RSP, похоже, пройден
В S1 Anthropic признала, что может «вот-вот» войти в режим ускорения от ИИ. Аджея Котра по отчёту METR считает: порог уже пройден, и скорость прогресса выросла…
Claude Code прячет ключи Datadog от агента: прокси подставляет токен сам
Сырой API-ключ в окружении агента — это одна удачная инъекция промпта до утечки. Команда Claude Code описывает схему, где токен подменяет прокси.
Qwen выбирает по одному шагу, runtime проверяет: как устроен управляемый AI-агент
Горячие холодильники и кража на $6,3 млрд: ИИ ускоряет охоту за дырами
Размножаются не веса, а обвязка: почему AGENTS.md важнее утечки модели
Anthropic: 86% экспертов повторили рекомендацию Claude, не зная, что её выбрала монетка
Автоматизация ИИ-разработки может ускорить прогресс в 10 раз за 17 месяцев
ИИ уже пишет большую часть принятого кода в Anthropic. Авторы нового исследования разбирают, может ли следующий шаг — автоматизация самого R&D — сжать год прогресса…
Эмпатичные промпты довели «тревожность» чат-ботов до 96% сессий
Один и тот же тест давал почти нулевую «тревожность» при нейтральном тоне и высокую — при терапевтическом. Для команд это сигнал: проверять нужно не только запрос…