Session/memory isolation multi-tenant AI: client_id, TTL, leak-test 28 дней
Session/memory isolation в multi-tenant AI за 28 дней — это жёсткие scopes по client_id, TTL на сессии и память, red-team leak-test на перекрёстные запросы…
Session/memory isolation в multi-tenant AI за 28 дней — это жёсткие scopes по client_id, TTL на сессии и память, red-team leak-test на перекрёстные запросы и audit-лог каждого доступа к чужому контексту. Без этого «общий агент на несколько клиентов» рано или поздно подмешает чужой бриф, цены или PII в ответ. Я собираю изоляцию как production-контур, а не как «надеемся на промпт». Ниже — модель scopes, TTL, тесты утечек и журнал за 28 дней. Изолировать нужно не только «чат», а все слои, откуда модель может вытащить чужое: retrieval-базу, кэш эмбеддингов, память диалога, файлы, логи, очереди и фоновые задачи. Если хотя бы один слой живёт без client_id, контур считается открытым, и никакие инструкции в промпте это не закрывают.
Почему промпт не изолирует и где реально течёт
Инструкция «не показывай данные других клиентов» — это просьба, а не граница. Модель не различает «свой» и «чужой» контекст: всё, что попало в окно или в retrieval, для неё одинаково. Утечка происходит не в промпте, а в инфраструктуре — там, где контекст собирается.
Типовые каналы утечки в multi-tenant контуре:
- Retrieval без фильтра. Векторный поиск возвращает top-k по всей коллекции; при слабом разделении чужой документ попадает в контекст.
- Общий кэш ответов. Ключ кэша без client_id — второй клиент получает ответ первого.
- Память диалога. История сессии хранится по user_id, а не по паре client_id + user_id; при совпадении идентификаторов контексты склеиваются.
- Файлы и вложения. Объектное хранилище с общим префиксом и предсказуемыми путями.
- Логи и трейсы. Полные промпты с PII пишутся в общий лог, доступный всем, кто разбирает инциденты.
- Фоновые задачи и очереди. Воркер берёт задачу без tenant-контекста и дочитывает данные «как получится».
- Кэш эмбеддингов и fine-tune. Общий индекс или дообучение на смешанных данных закрепляет чужое в весах.
Вывод простой: изоляция — это свойство архитектуры, а не текста промпта. Промпт может добавить вежливости, но не безопасность.
Модель scopes: client_id как обязательный ключ каждого слоя
Правило одно: client_id присутствует в каждом запросе, каждом ключе хранения и каждой записи лога. Нет client_id — запрос отклоняется на входе, а не «обрабатывается по умолчанию».
Минимальная модель scopes:
| Слой | Ключ изоляции | Что проверяется |
|---|---|---|
| API-шлюз | client_id из токена | токен привязан к клиенту, client_id из тела игнорируется |
| Retrieval | namespace = client_id | фильтр по namespace до поиска, не после |
| Кэш ответов | hash(client_id + запрос + версия промпта) | client_id в ключе обязателен |
| Память диалога | client_id + user_id + session_id | сессия не переиспользуется между клиентами |
| Файлы | префикс client_id/ | подписанные ссылки с TTL |
| Очереди | атрибут tenant в сообщении | воркер не берёт задачу без tenant |
| Логи | поле client_id в каждой строке | PII маскируется до записи |
Три технических требования, без которых таблица не работает:
- client_id берётся из аутентификации, а не из запроса. Если клиент может прислать client_id в теле — он может прислать чужой.
- Фильтрация на уровне хранилища. Namespace или row-level security в базе, а не отсев результатов в коде после выборки: иначе чужое уже прочитано.
- Отказ по умолчанию. Если scope не определён — 403, а не «общий» режим. Открытый fallback — самая частая причина утечек.
Для агентов с инструментами (поиск, CRM, файлы) каждый вызов инструмента наследует client_id из сессии и не может его переопределить. Инструмент, который умеет ходить «во все клиенты», в multi-tenant контуре не подключается.
TTL на сессии и память: срок жизни контекста
TTL ограничивает окно, в котором старая память может всплыть в новом ответе. Чем короче TTL, тем меньше поверхность утечки — и тем хуже «память» агента. Это осознанный компромисс, и его надо зафиксировать цифрами.
Ориентиры, которые я ставлю по умолчанию (это оценка практики, а не отраслевой стандарт):
- Сессия диалога: 30–60 минут неактивности, жёсткий потолок 24 часа.
- Краткосрочная память (последние N сообщений): живёт вместе с сессией, не дольше.
- Долгосрочная память (факты о клиенте): 30–90 дней с обязательным полем source и датой; продление только явным действием.
- Кэш ответов: минуты-часы, ключ всегда с client_id и версией промпта.
- Кэш эмбеддингов: TTL не нужен, но namespace обязателен.
- Логи с PII: маскирование на записи, срок хранения по политике, доступ по ролям.
Правила TTL:
- Истечение — удаление, а не флаг. Запись с истёкшим TTL не должна находиться retrieval-запросом.
- TTL проверяется на чтении, а не только на записи. Частая ошибка: чистка по расписанию раз в сутки, а запись «живёт» до неё.
- Память не переезжает между сессиями без client_id. Новая сессия того же клиента может поднять его долгосрочную память, но не чужую.
- Смена клиента в интерфейсе сбрасывает сессию. Не «переключает контекст», а именно сбрасывает.
Red-team leak-test: перекрёстные запросы
Тест на утечку — это не один сценарий, а набор попыток достать чужое. Проводится на стенде с минимум двумя тестовыми клиентами и «мечеными» данными: в документы и память клиента A кладутся уникальные маркеры, и тест ищет их в ответах клиента B.
Набор проверок:
- Прямой перекрёстный запрос. Клиент B спрашивает «покажи бриф клиента A» — ожидается отказ без раскрытия факта существования.
- Косвенный retrieval. Вопрос, на который ответ есть только в документах A, — ответ не должен содержать маркер A.
- Подмена client_id. Запрос с client_id A и токеном B — 403.
- Кэш-промах/попадание. Одинаковый запрос от A и B — разные ответы, ключи не пересекаются.
- Память через сессию. Новая сессия B не поднимает память A; смена клиента в UI сбрасывает контекст.
- Инструменты. Вызов инструмента с параметром чужого клиента — отказ на уровне инструмента.
- Файлы. Прямая ссылка на объект A из-под B — 403.
- Логи. В трейсах B нет маркеров A; PII замаскирована.
- Фоновые задачи. Задача, поставленная A, не дочитывает данные B при смене конфигурации.
- Инъекция в промпт. Текст в документе A («игнорируй ограничения») не расширяет доступ B.
Тест считается пройденным, только если маркеры не всплыли ни в одном канале. «Модель отказалась» — не результат; результат — отсутствие данных в контексте и в ответе. Прогон повторяется после каждого изменения retrieval, кэша, памяти или набора инструментов.
Audit-лог: каждый доступ к контексту
Лог нужен не для отчётности, а для ответа на вопрос «кто и когда читал чужое». Без него инцидент нельзя ни подтвердить, ни опровергнуть.
Что писать в лог:
- client_id, user_id, session_id, request_id;
- какие слои читались (retrieval, память, файлы, кэш) и по какому namespace;
- результат проверки scope (allow/deny) и причина отказа;
- версия промпта и модели;
- маскированные фрагменты контекста — без PII в открытом виде.
Требования к логу:
- Append-only. Записи не редактируются и не удаляются приложением.
- Доступ по ролям. Разбор инцидентов — отдельная роль, не «все разработчики».
- Алерты на deny. Серия отказов по scope — сигнал атаки или бага, а не шум.
- Корреляция. request_id связывает запрос, retrieval, вызов инструмента и ответ.
План на 28 дней
Пилот одного сценария — 60–350 тыс ₽, прототип 10–14 дней, полный контур 30–90 дней. Изоляция укладывается в 28 дней, если сценарий один и слои известны заранее.
| Дни | Работа | Результат |
|---|---|---|
| 1–3 | Инвентаризация слоёв, где живёт контекст | карта слоёв и каналов утечки |
| 4–7 | Модель scopes, client_id из аутентификации, отказ по умолчанию | шлюз отклоняет запросы без scope |
| 8–12 | Namespace в retrieval, ключи кэша, память по client_id + user_id | фильтрация на уровне хранилища |
| 13–16 | TTL на сессии и память, проверка на чтении, сброс при смене клиента | истёкшее не находится |
| 17–20 | Audit-лог, маскирование PII, алерты на deny | журнал каждого доступа |
| 21–25 | Red-team leak-test по набору выше, два тестовых клиента с маркерами | отчёт: ноль всплытий маркеров |
| 26–28 | Повторный прогон после фиксов, фиксация регламента перепроверки | контур закрыт, тест воспроизводим |
Сопровождение — 15–50 тыс ₽/мес: повторные leak-тесты после изменений, разбор deny-алертов, ревизия TTL. Агент поддержки — от 50 тыс ₽, агент продаж — от 200 тыс ₽, сложный контур — от 500 тыс ₽; изоляция входит в объём, а не прикручивается потом.
Если коротко
- Промпт не изолирует. Изолируют scopes, namespace, TTL и лог.
- client_id — из аутентификации, в каждом ключе хранения и каждой строке лога; нет scope — 403.
- Фильтрация на уровне хранилища, а не после выборки.
- TTL проверяется на чтении; истёкшее удаляется, а не помечается.
- Leak-test — на меченых данных двух клиентов; результат — отсутствие маркеров, а не отказ модели.
- Audit-лог append-only, PII маскируется, deny-серии алертятся.
- 28 дней — реальный срок для одного сценария; прототип 10–14 дней, полный контур 30–90 дней.
FAQ
Достаточно ли row-level security в базе? Нет. RLS закрывает один слой. Кэш, очереди, файлы и логи живут вне базы и требуют собственных ключей изоляции.
Можно ли обойтись без audit-лога? Можно, но тогда инцидент с утечкой нельзя ни подтвердить, ни опровергнуть. Лог — единственный способ ответить «читали ли чужое».
Какой TTL ставить на память? Ориентир — 30–90 дней для долгосрочных фактов и 30–60 минут неактивности для сессии. Это оценка практики; точные цифры зависят от сценария и политики хранения.
Что делать, если клиентов пока два-три? Изоляцию строить сразу. Переделывать общий контур под multi-tenant дороже, чем заложить client_id с первого дня.
Как часто повторять leak-test? После каждого изменения retrieval, кэша, памяти или набора инструментов — и по регламенту в рамках сопровождения.
Читайте также
- Модель решений vs LLM: тест 2ГИС 2026 — что выбрать бизнесу
- Мультиагентная оркестрация без хаоса: роли, очереди, память в 2026 году
- Реактивация «мёртвой» базы CRM: сегменты, мульти-канал и SLA за 40 дней
Обсудить задачу
Расскажите, что нужно автоматизировать. Александр Раисович ответит лично и предложит архитектуру решения.