Хакеры украли ИИ-переписки через Fireworks: Notion сообщает о риске для менее 1% пространств

Ваш пользователь вставляет в ИИ-чат фрагмент договора и просит объяснить спорный пункт. Для него всё происходит внутри одного приложения. За кулисами запрос может уйти поставщику моделей, а переписка — попасть в отдельную систему аналитики. Взлом Fireworks AI показывает, почему разработчику и продакту нужно понимать весь этот маршрут: утечка у подрядчика становится проблемой вашего продукта и ваших клиентов.

По сообщению TechCrunch, злоумышленники получили доступ к системе разработки Fireworks через её облачного провайдера. Компания подтвердила доступ к части клиентских данных, включая платёжную информацию и некоторые наборы данных. Среди подтверждённо затронутых клиентов оказался Notion. Здесь есть конкретный практический вопрос: какие копии пользовательского разговора возникают после нажатия кнопки «Отправить» и кто может до них добраться?

Что оказалось в переписках

В официальном уведомлении Notion говорится, что инцидент мог затронуть менее 1% рабочих пространств. Это важное уточнение к исходной новости: доля пространств не равна доле пользователей. В обнаруженном наборе были переписки Notion AI, использованные для функции Insights.

Notion сообщает, что у большинства затронутых пространств чаты не были снабжены сведениями об авторе или рабочем пространстве. Результаты вызовов инструментов в эти записи не входили. При этом содержимое самого разговора сохраняет значение: отсутствие отдельного поля с названием компании ещё не делает текст безопасным.

Представим обычный запрос: «Подготовь ответ заказчику по этому договору». Дальше пользователь вставляет название компании, сумму и условия сделки. Даже без подписи к записи такой текст может раскрывать коммерческую информацию. Это пример возможного риска, а не описание подтверждённого содержимого украденных чатов.

Как подрядчик расширяет границы продукта

По данным Notion, Fireworks использовался для классификации в Insights и предоставления открытых моделей. К утру 3 ноября Notion отключил интеграцию и удалил данные в системе подрядчика. Позже расследование выявило набор с клиентскими переписками. Функция Insights приостановлена; обслуживание открытых моделей через Fireworks прекращено.

Для команды, которая строит ИИ-продукт, здесь полезно разделить несколько операций. Модель получает запрос, чтобы сформировать ответ. Аналитика может затем обрабатывать разговор, чтобы оценивать использование сервиса. Отладочные системы могут сохранять отдельные примеры для поиска ошибок. Каждая такая операция требует своего ответа на вопросы о доступе, сроке хранения и удалении.

Из опубликованного описания нельзя восстановить все технические условия утечки. Поэтому утверждать, что причиной стало конкретное правило хранения или определённая настройка доступа, было бы преждевременно. Но проверить собственные настройки команда может уже сейчас: составить карту передачи данных, найти сохраняемые копии запросов и определить владельца каждой интеграции.

Полезный инженерный тест — взять один вымышленный разговор и проследить его путь через приложение, поставщика модели, журналы ошибок и аналитику. Где остаётся полный текст? Где достаточно обезличенного события или счётчика? Можно ли удалить разговор во всех этих местах? Ответы дают гораздо больше, чем общее обещание защищать данные.

Что делать клиентам и основателям

Notion рекомендует затронутым клиентам считать данные раскрытыми и проверить доступные им материалы инцидента. Если в соответствующие разговоры попадали пароли, ключи API или другие учётные данные, их следует заменить. Компания сообщает, что уведомляет обнаруженных пострадавших напрямую; расследование продолжается.

Основателю стоит проверить, кто в команде способен быстро отключить поставщика и какие функции при этом перестанут работать. Продакту — убедиться, что объяснение обработки данных охватывает аналитику и вспомогательные функции. Разработчику — сократить сохранение полного текста там, где для задачи хватает метаданных. Ответственность перед пользователем начинается с понимания того, сколько систем получают его разговор и зачем каждой из них нужна копия.