AI-агент в бизнес-процессе: tools, память, HITL и чеклист
AI-агент в бизнес-процессе работает только как исполнитель с tools, ограниченной памятью и human-in-the-loop на деньгах и исключениях — иначе это чат с…
AI-агент в бизнес-процессе работает только как исполнитель с tools, ограниченной памятью и human-in-the-loop на деньгах и исключениях — иначе это чат с логотипом, а не production-система с измеримым до/после. Я не «подключаю GPT к CRM» и не продаю магию. Я вырезаю один процесс, даю агенту инструменты и правила, оставляю человека на критичных шагах и меряю baseline через 30–60 дней. Ниже — рабочая схема: роль, tools/память, HITL, метрики, риски и чеклист запуска. Агент занимает конкретный слот в цепочке: принять заявку → классифицировать → достать факт → ответить / создать задачу → эскалировать. Всё, что выходит за границы этого слота, — не его работа: либо человек, либо отдельный сценарий. Дальше разбираю, как этот слот описать, собрать и проверить, чтобы через месяц-два можно было сравнить «до» и «после» в цифрах, а не в ощущениях.
Роль агента: один процесс, один слот, один результат
Первый шаг — не выбор модели, а описание слота. Агент без чёткой роли превращается в универсальный чат, который отвечает «в целом» и не двигает ни одну метрику.
Что должно быть в описании слота:
- Триггер. Событие, с которого начинается работа: новая заявка в форме, письмо на ящик, сообщение в мессенджере, смена статуса сделки.
- Вход. Какие данные агент получает на старте и в каком виде (текст, поля CRM, вложение).
- Действия. Фиксированный список шагов внутри слота — не «понять и помочь», а «классифицировать по N категориям → достать факт из базы знаний → сформировать ответ / создать задачу».
- Выход. Артефакт: ответ клиенту, задача в трекере, запись в CRM, эскалация.
- Границы. Что агент не делает никогда: не меняет цену, не обещает сроки, не закрывает сделку, не даёт юридических гарантий.
Практическое правило: если слот нельзя описать одним предложением формата «агент делает X, чтобы метрика Y изменилась с A до B», — процесс ещё не готов к автоматизации. Сначала регламент, потом агент.
Отдельно про смежные роли. Классификация заявки и ответ по базе знаний — это один слот. Создание задачи в трекере — второй. Эскалация — третий, и он почти всегда частично ручной. Не склеивайте их в один «умный ассистент»: чем шире слот, тем сложнее мерить и тем дороже ошибка.
Tools и память: чем агент реально работает
Tools — это функции, которые агент вызывает, чтобы получить факт или совершить действие. Без tools он генерирует правдоподобный текст, но не работает с вашей системой. Минимальный набор для типового слота поддержки или первичной обработки заявки:
| Tool | Что делает | Зачем |
|---|---|---|
| Поиск по базе знаний | Возвращает релевантные фрагменты регламентов, прайса, FAQ | Ответ на факт, а не на догадку |
| Чтение карточки CRM | Отдаёт поля клиента и историю | Контекст без «угадывания» |
| Запись в CRM | Создаёт заметку, меняет статус, ставит тег | Результат фиксируется в системе |
| Создание задачи | Заводит тикет в трекере с описанием | Передача человеку без потерь |
| Калькулятор / справочник | Считает по фиксированным правилам | Убирает арифметику из «творчества» модели |
| Отправка сообщения | Отвечает в канал (почта, мессенджер) | Замыкает слот на клиента |
Требования к tools, без которых они бесполезны:
- Идемпотентность. Повторный вызов не должен создавать вторую задачу или второе письмо.
- Валидация входа. Tool проверяет аргументы и возвращает понятную ошибку, а не падает молча.
- Логирование. Каждый вызов пишется с параметрами и результатом — иначе разбор инцидента невозможен.
- Ограничение прав. У агента отдельная учётная запись с минимальными правами: чтение там, где достаточно чтения.
Память делится на два уровня, и путать их дорого.
Короткая память — контекст текущего диалога или заявки: что уже спросили, что ответили, какой шаг следующий. Живёт в рамках одной сессии, после закрытия не нужна.
Долгая память — то, что переживает сессию: история обращений клиента, принятые решения, пометки «этому клиенту не предлагать X». Хранить её в «голове» модели нельзя — только во внешней системе (CRM, база, таблица) через tools. Модель читает оттуда факты и не пытается вспомнить их сама.
Чего делать не стоит: тащить в контекст всю переписку и все документы компании «на всякий случай». Чем больше нерелевантного текста, тем выше шанс, что агент опрётся не на тот фрагмент. Лучше один точный tool-запрос, чем десять страниц контекста.
HITL: где человек обязателен
Human-in-the-loop — не «человек проверяет всё», иначе автоматизация не даёт выигрыша. HITL ставится точечно, по типу риска.
Обязательные точки остановки:
- Деньги. Скидки, возвраты, изменение условий оплаты, выставление счёта с нестандартными параметрами — только с подтверждением сотрудника.
- Исключения. Агент не нашёл факт в базе, классификация ниже порога уверенности, клиент пишет второе обращение по той же проблеме — эскалация.
- Юридические и репутационные формулировки. Претензии, гарантийные обязательства, публичные ответы.
- Действия с необратимыми последствиями. Удаление записи, массовая рассылка, смена статуса сделки на «закрыта».
Формат HITL тоже надо выбрать заранее:
- Approve — агент готовит действие, человек подтверждает или отклоняет. Медленнее, но безопасно на старте.
- Review — агент действует, человек проверяет выборку или всё подряд в течение смены. Быстрее, требует дисциплины разбора.
- Escalate — агент останавливается и передаёт диалог человеку с собранным контекстом. Обязательный режим для исключений.
На старте почти всегда правильнее approve на деньгах и escalate на исключениях. Переход к review — только после того, как на выборке видно приемлемую точность. Порог уверенности и правила эскалации фиксируются в регламенте, а не «на усмотрение модели».
Метрики: что мерить до и после
Baseline снимается до запуска, иначе сравнивать будет не с чем. Минимальный набор для слота обработки заявок:
| Метрика | Как считать | Зачем |
|---|---|---|
| Время первого ответа | Медиана по заявкам за период | Основной эффект агента |
| Доля заявок, закрытых без человека | Количество / общее | Показывает реальную автономность |
| Точность классификации | Выборка с ручной проверкой | Качество слота, а не «нравится/не нравится» |
| Доля эскалаций | Эскалации / общее | Если растёт — слот описан неверно |
| Стоимость обработки одной заявки | Затраты на контур / объём | Экономика, а не только скорость |
| Ошибки с последствиями | Инциденты за период | Риск-метрика, смотреть отдельно |
Два правила замеров. Первое: сравнивайте одинаковые периоды и одинаковые каналы — смешивать почту и мессенджеры в одну цифру бессмысленно. Второе: точность считается на выборке, которую размечает человек, а не на самоотчёте агента. Оценка «модель считает, что справилась» не является метрикой.
Сроки замера: прототип одного сценария — 10–14 дней, полный контур — 30–90 дней. Baseline через 30–60 дней после запуска — рабочий горизонт, чтобы увидеть эффект и не спутать его с сезонностью.
Риски и стоимость: чего ждать на практике
Риски, которые проявляются почти всегда:
- Галлюцинации на фактах. Лечится не «улучшением промпта», а обязательным tool-запросом: ответ без подтверждённого факта из базы не отправляется.
- Дрейф базы знаний. Прайс и регламенты меняются, агент отвечает по устаревшему фрагменту. Нужен владелец базы и дата актуальности у документов.
- Расширение слота «по ходу». Каждый новый «а заодно пусть умеет» ломает метрики и размывает ответственность.
- Утечка данных в контекст. В промпт и логи не должны попадать лишние персональные данные; доступы — по минимальным правам.
- Тихая деградация. Без регулярного разбора выборки качество падает незаметно. Нужен ритм проверок, а не разовая приёмка.
Ориентиры по бюджету (наша студия): пилот одного сценария — 60–350 тыс ₽, базовый агент поддержки — от 50 тыс ₽, агент продаж — от 200 тыс ₽, сложный контур — от 500 тыс ₽, сопровождение — 15–50 тыс ₽/мес. Вилка пилота широкая, потому что зависит от количества tools и глубины интеграций, а не от «модели».
Чеклист запуска
- [ ] Слот описан формулой «агент делает X → метрика Y меняется с A до B».
- [ ] Зафиксированы границы: что агент не делает никогда.
- [ ] Снят baseline по метрикам из таблицы выше.
- [ ] Определён минимальный набор tools, у каждого — идемпотентность, валидация, логирование.
- [ ] У агента отдельная учётная запись с минимальными правами.
- [ ] Долгая память вынесена во внешнюю систему, в контекст попадают только нужные фрагменты.
- [ ] Точки HITL назначены: деньги, исключения, необратимые действия.
- [ ] Выбран режим HITL на старте (approve / review / escalate) и порог уверенности.
- [ ] Назначен владелец базы знаний и порядок её обновления.
- [ ] Есть регламент разбора инцидентов и ритм проверки выборки.
- [ ] Прототип проверен на реальных заявках, а не на придуманных примерах.
- [ ] Через 30–60 дней после запуска снят замер «после» и сравнён с baseline.
Если коротко
Агент работает там, где у него узкий слот, tools для фактов и действий, внешняя память и человек на деньгах и исключениях. Начинайте с одного процесса и baseline до запуска. Прототип — 10–14 дней, полный контур — 30–90 дней. Сравнивайте «до» и «после» по времени ответа, доле автономных заявок, точности и эскалациям. Если слот нельзя описать одной формулой с метрикой — автоматизировать пока нечего.
FAQ
Нужен ли агент, если у процесса нет регламента? Нет. Сначала регламент и база знаний, потом агент. Иначе он будет воспроизводить не процесс, а догадки.
Можно ли обойтись без HITL? На деньгах и необратимых действиях — нет. На остальном — можно, но только после того, как на выборке видна приемлемая точность.
Чем память агента отличается от истории в CRM? Ничем по сути: долгая память должна жить во внешней системе и читаться через tools. «Память модели» — это контекст сессии, а не хранилище.
Сколько tools нужно на старте? Минимум, закрывающий слот: обычно 3–5. Каждый лишний tool — дополнительная точка отказа и повод расширить границы.
Как понять, что пилот удался? Метрика слота улучшилась относительно baseline, доля эскалаций не выросла, инцидентов с последствиями нет. Всё остальное — ощущения.
Читайте также
- AI-агенты в 2026: инструменты, память, HITL и запуск — этапы, цифры и сроки
- Продакшн AI-контура: очереди, retry, идемпотентность, HITL — чек-лист на 2026
- Пакет AI-оператор на смену: KPI 40/65/95, HITL и 14 дней — что это значит
Обсудить задачу
Расскажите, что нужно автоматизировать. Александр Раисович ответит лично и предложит архитектуру решения.