#Этика ИИ
Подборка материалов по теме «Этика ИИ»: релизы, исследования, бенчмарки, опенсорс.
Правка 10% слов снижает обнаружение водяного знака OpenAI с 92% до 66%
OpenAI научилась незаметно помечать ответы модели, но обычная редактура быстро стирает след. Поэтому водяной знак полезен как сигнал, а не как доказательство…
Как разбор RAG-сбоев снижает долю необоснованных ответов с 34% до 9%
Если RAG уверенно врёт, новый промпт может не помочь. Сначала выясните, где сломалась цепочка: поиск не нашёл факт, модель проигнорировала его или подобрала цитату…
GateRook проверяет запросы ИИ-агентов в 3 шага до доступа к инфраструктуре
ИИ-агенту нужны базы и логи, но выдавать ему терминал опасно. GateRook ставит между моделью и инфраструктурой шлюз: чтение ограничивает, а запись задерживает до…
Выборы в США обрушили техрынок на $3,2 трлн и усилили давление на дата-центры
OpenAI и Hacktron сосредоточили аудит на одном слое — внешних интеграциях
Пентагон вводит 3 проверки для каждого фрагмента кода от ИИ
Трое мошенников с ИИ-клонами CEO и юристов украли $129 млн у компаний
В США обвинили троих в краже $129 млн с помощью ИИ-клонов голосов и лиц топ-менеджеров
Прокуратура Манхэттена раскрыла обвинение против троих мужчин: они подделывали голоса и лица директоров и юристов, а сотрудники переводили им около $129 млн.
Docx Anonymizer распознаёт 50 категорий данных и поддерживает девять форматов
Расширение ищет персональные данные не только в документах Word, но и в таблицах, презентациях, JSON и CSV. Перед отправкой файла в ИИ оно также показывает скрытые…
GPT-6 Astra выполнила на 40% меньше задач по безопасности ИИ
Inkling 2 Small выругалась 316 раз, но почти не помогла предсказать сбои
Модель OpenAI проверила и написала патчи для 948 уязвимостей ядра Linux за один прогон
GPT-6 Cyber нашла 81 опасную уязвимость в Firefox и набрала 48,5% в ExploitGym
OpenAI выпустила GPT-6 Cyber: модель сама пишет эксплойты и нашла 81 дыру в Firefox
OpenAI показала GPT-6 Cyber — модель для кибербезопасности, которая сама ищет уязвимости и пишет рабочие эксплойты. Пока доступ только у проверенных специалистов.
Сотрудники собирают ИИ-агентов сами, и у 93% лишних подключений полный доступ
CFO собрал агента для финданных, расшарил коллегам — и каждый получил права финдира. Почему самодельные ИИ-агенты стали главной дырой в безопасности и кто на этом…