Из чего состоит агент
Модель — только одна из пяти частей, и далеко не самая трудоёмкая. Основное время проекта уходит на инструменты и правила: именно они отличают агента, который работает в бою, от демонстрации в переговорной.
- Модель Отвечает за понимание вопроса и формулировку ответа. Меняется относительно легко: если смена модели ломает весь проект, значит, остальные части собраны неправильно.
- Инструменты Функции, которые агент вызывает: найти клиента, поднять заказ, собрать сегмент, поставить задачу, отправить сообщение. Каждый инструмент — это явно разрешённое действие с проверкой прав на стороне вашего бэкенда, а не на стороне модели.
- Память и знания База знаний по товарам, правилам возврата и условиям программы лояльности плюс состояние диалога. Знания хранятся отдельно от модели, поэтому обновление регламента — это правка документа, а не переобучение.
- Правила Что агент говорит и чего не говорит: границы тона, запретные темы, обязательные формулировки, пороги эскалации на человека.
- Журналирование Каждый запрос, каждый вызов инструмента и каждый ответ сохраняются. Без логов нельзя ни разобрать жалобу, ни понять, почему качество просело.
Стек в российском контуре
Для компаний, работающих с персональными данными россиян, выбор стека определяется не вкусом, а требованием локализации: данные обрабатываются в России. Это сужает список, но не делает его бедным.
| Слой | Варианты | На что смотреть |
|---|---|---|
| Модель | Яндекс и Сбер в облаке, открытые модели на своих серверах | Цена за тысячу токенов, лимиты, возможность зафиксировать версию |
| Знания | Векторное хранилище рядом с приложением | Обновление без простоя, разграничение доступа по разделам |
| Оркестрация | Свой сервис на стороне компании | Повторы при сбоях, таймауты, аккуратная деградация при отказе модели |
| Интеграции | CRM, платформа рассылок, учётная система, служба доставки | Готовность API: наличие методов и лимиты на запросы |
Отказ модели — штатная ситуация, а не авария. Агент должен уметь ответить «сейчас подключу человека» и передать диалог, а не показывать клиенту ошибку сервиса.
Этапы и что происходит на каждом
Проект первого агента занимает 6–10 недель, из них половина приходится на данные и правила, а не на код.
- Разбор процесса и сбор примеров. 50–100 реальных обращений с эталонными ответами. Этот набор станет мерой качества на всём проекте.
- Доступы и данные. Подключение к CRM и смежным системам, проверка полноты полей, сверка справочников. Здесь обычно вскрываются дубли и пустые поля, которых «не было».
- Сборка инструментов. Каждое действие оформляется отдельной функцией с проверкой прав и ограничением на частоту вызова.
- Правила и тон. Описываем, как агент говорит от лица бренда и что делает в спорной ситуации. Формулировки согласуются до запуска, а не после первой жалобы.
- Проверка и запуск на части потока. Прогон по золотому набору, затем 10–20% обращений с контрольной группой.
Как проверяется качество
Качество агента измеряется не впечатлением, а долей верных ответов на фиксированном наборе задач. Набор составляется один раз и прогоняется после каждого изменения — модели, правил или базы знаний.
- Золотой набор. 50–100 вопросов с эталонными ответами, включая неудобные: нестандартный возврат, конфликт двух акций, клиент без заказа в системе.
- Регрессионный прогон. После правки сравниваем результат с предыдущим: исправление одного случая часто ломает соседний.
- Проверка границ. Отдельные тесты на то, что агент не делает: не обещает скидку, не раскрывает чужие данные, не отвечает на провокации.
- Разбор логов за неделю. Ручной просмотр случайной выборки диалогов — без него метрики показывают благополучие там, где его нет.
Что нужно от заказчика
Доступ к системам по API, ответственный за содержание со стороны бизнеса и примеры обращений. Чем точнее примеры, тем короче проект: на них проверяется каждая итерация.
Какие задачи агенту по силам — в материале об ИИ-агентах для бизнеса. Как устроен проект по неделям — в статье о внедрении ИИ в бизнес-процессы. Состав работ и форматы — на странице разработки ИИ-агентов.
