«Поставим самую мощную модель - и всё будет хорошо» - логичная на первый взгляд мысль, но именно она чаще всего раздувает счёт за ИИ-агента в разы. На деле сила модели решает далеко не всё: клиенту, который спрашивает «какой у вас график работы», не нужна модель с глубоким рассуждением - ему нужен быстрый и точный ответ за секунду. А вот там, где клиент присылает скриншот с ошибкой или описывает нетиповую проблему своими словами, слабая модель просто не справится и уведёт диалог в тупик. Разберём, как выбор модели под задачу работает на платформе Watbot, почему это не техническая мелочь, а прямой рычаг экономии, и как мы применили эту логику у себя.
Почему «одна модель на всё» - плохая стратегия
Первое, что хочется сделать при настройке ИИ-агента - выбрать самую мощную модель из списка и не думать об этом больше. Логика понятна: чем умнее модель, тем меньше риск, что она ответит невпопад. Но у этой логики есть обратная сторона.
Каждый диалог с агентом - это токены на входе (то, что написал клиент, плюс контекст из базы знаний) и токены на выходе (сам ответ). Мощные модели с расширенным контекстом и способностью к сложным рассуждениям стоят на порядок дороже простых. Если такую модель поставить туда, где 80% обращений - это «сколько стоит доставка» и «работаете ли вы в выходные», вы будете платить премиальную цену за то, что реально можно закрыть быстрым и дешёвым ответом. При потоке в сотни и тысячи обращений в месяц разница становится не абстрактной, а вполне ощутимой строкой в бюджете.
Обратная ошибка - экономить на модели там, где она реально нужна. Слабая модель на сложном обращении не разберётся с нюансами, даст расплывчатый ответ, и клиент всё равно уйдёт к живому оператору - только уже раздражённый и с потерянным временем на бесполезный диалог с ботом.
Что значит «выбор модели под задачу» в Watbot
В Watbot доступно 40 нейросетей - GPT, Claude, Gemini, YandexGPT и другие модели, - и важный момент: модель выбирается не один раз для всего бота, а отдельно для каждого блока ИИ-агента в сценарии. Агент, который отвечает на частые вопросы в разделе техподдержки, и агент, который ведёт клиента по сложной воронке продаж, - это два разных блока на схеме, и у каждого может быть своя модель под свою нагрузку.
Это меняет саму логику настройки: вы не выбираете одну модель «для бота», а собираете сценарий из нескольких блоков, каждый из которых обслуживается той моделью, которая экономически и по качеству подходит именно этому типу диалога.
Когда нужна быстрая и лёгкая модель
Быстрая модель - правильный выбор там, где вопрос типовой, а ответ на него уже фактически есть в базе знаний, подключённой к блоку. Примеры таких задач:
- график работы, адреса точек, контакты;
- условия доставки и оплаты;
- статус заказа по стандартному шаблону;
- простые уточнения по прайсу и ассортименту;
- повторяющиеся вопросы из FAQ.
Здесь агенту не нужно «рассуждать» - нужно быстро найти подходящий фрагмент в базе знаний и сформулировать короткий, понятный ответ. Скорость ответа тоже важна: клиент, который написал простой вопрос, не должен ждать несколько секунд, пока модель «размышляет» над тем, что и так есть в документе.
Когда нужна мощная модель
Мощная модель нужна там, где вопрос клиента нельзя свести к шаблону:
- разбор нестандартной претензии или жалобы;
- диалог с возражениями в продажах, где важно уловить контекст и настроение клиента;
- работа с фотографией или документом, который прислал клиент - для этого нужна модель с пониманием изображений;
- ситуации, где ответ требует сопоставления нескольких фрагментов базы знаний, а не одного;
- разбор технической проблемы, описанной клиентом свободным текстом, без чёткой структуры.
Для таких случаев в Watbot можно подключить модель с расширенным контекстным окном или с режимом более глубокого рассуждения. Здесь экономия на модели даёт обратный эффект: агент выдаст поверхностный или неточный ответ, и вопрос всё равно уйдёт живому оператору - просто позже и с уже недовольным клиентом.
Наш собственный опыт: агент техподдержки на Watbot
Мы не просто рассказываем про эту логику - мы сами используем ИИ-агента техподдержки на платформе Watbot и распределяем модели по тому же принципу: быстрые модели на типовые вопросы, более мощные - там, где обращение нетиповое или требует разбора деталей. Схема сценария при этом выглядит так: блок агента с быстрой моделью отсекает основной поток типовых вопросов, а всё, что не укладывается в шаблон, автоматически уходит в блок с более мощной моделью или на оператора.
Результат ощутимый: стоимость одного закрытого обращения снизилась в разы по сравнению с тем, что было бы при работе только через операторов или при использовании одной мощной модели на все случаи без разбора. Это не абстрактная теория из документации платформы, а рабочая практика: правильно распределённые модели под задачи - это и есть тот самый рычаг, который делает ИИ-агента выгодным вложением, а не просто модной надстройкой над ботом.
Как не ошибиться с выбором модели
Прежде чем ставить модель в конкретный блок агента, стоит честно ответить на три вопроса:
- Насколько предсказуем вопрос клиента в этом блоке - это типовой FAQ или свободная формулировка?
- Насколько высока цена ошибки, если ответ окажется неточным - речь о графике работы или о деньгах и условиях сделки?
- Нужна ли агенту работа с изображениями, документами или длинным контекстом, чтобы вообще справиться с задачей?
Если вопрос типовой и цена ошибки невысокая - берите быструю модель. Если обращение непредсказуемое, а на кону продажи, деньги клиента или репутация бренда - ставьте более мощную. А если сомневаетесь, какая модель лучше справится с конкретной формулировкой, - обкатайте разные варианты в ИИ-чате на платформе, прежде чем переносить финальный выбор в рабочего агента. Это займёт пару минут, но убережёт от переплаты или неточных ответов уже на реальных клиентах.
Хотите, чтобы всё это настроили за вас?
Разобраться, какую модель поставить под какой блок, собрать базу знаний и выстроить всю логику агента можно и самостоятельно - но это требует времени и понимания, как разные модели ведут себя на разных типах обращений. А если хотите, чтобы мы сами собрали базу знаний и настроили ИИ-агента под задачи вашего бизнеса - напишите нам.
👋 Написать в Telegram:
👋 Написать в MAX:
Наше комьюнити к MAX:
