Анатомия ИИ-секретаря за $77: как считать экономику LLM без романтики и лишних затрат | Черниенко

Привет, это Владимир Черниенко. Поговорим о цифрах, архитектуре и суровой бизнес-логике. Когда на Хабре появляется заголовок вроде «ИИ-секретарь за $77 в месяц: 88% ответов даёт DeepSeek, а три четверти денег съедают 7% запросов к Opus», у любого адекватного маркетолога и фаундера в голове должны немедленно зазвенеть две вещи. Первая — это чистый восторг от прагматичной инженерии. Вторая — холодный расчет unit-экономики, который в очередной раз доказывает: слепая вера в самые дорогие топовые модели убивает бюджет быстрее, чем неграмотная настройка таргета в пятницу вечером.

Давайте препарируем этот кейс. Перестанем молиться на маркетинговые буклеты OpenAI и Anthropic, откроем капот реального продакшна и посмотрим, как делать умные диджитал-продукты, которые не сожрут вашу операционку в первый же квартал.

Цифры с прода: когда реальность бьет по кошельку

В основе инфоповода — любопытный проект: Telegram-бот Лиза Петровна, которая работает ИИ-секретарем и распределяет задачи между агентами. Масштаб экспериментов вполне земной и оттого особенно ценный для анализа. С конца мая по текущий момент бот обработал 8568 запросов от 118 пользователей. Итоговый чек за языковые модели составил ровно 77 долларов за месяц. Не миллионы венчурных инвестиций, а понятный бюджет средней кофейни.

Но самое интересное кроется в распределении нагрузки и кошелька:

88% всех рутинных ответов закрывает экономичный DeepSeek.
7% самых сложных запросов улетают в топ-модель Opus.
При этом те самые 7% запросов к Opus съедают три четверти всего месячного бюджета на API.

Классическая диаграмма Парето в действии, помноженная на особенности ценообразования современных LLM. Бизнес-вывод здесь лежит на поверхности: если вы отправляете тривиальное «Привет, перенеси встречу» на обработку премиальной модели, вы буквально сжигаете деньги в камине ради сомнительного удовольствия использовать самый дорогой софт на рынке.

Архитектура умной экономии: роутинг запросов

Как добиться того, чтобы система не разорила владельца? Ответ кроется в правильном роутинге. Нельзя просто подключить один универсальный рупор и надеяться на лучшее. Нужна система классификации намерений пользователя на самом входе.

Механика процесса выглядит предельно прагматично. Когда пользователь пишет сообщение в мессенджер, легкая и быстрая модель анализирует сложность задачи. Если это простой перенос событий, генерация короткой выжимки или банальный статус — в дело вступает дешевый и шустрый DeepSeek. Он выдает результат за секунду, а стоит сущие копейки.

Но если в запросе обнаруживается многоуровневая логика, написание сложного кода, глубокий анализ контекста или стратегическое планирование, включается тяжелая артиллерия в виде Opus. Маркетологи любят называть это «гибридным искусственным интеллектом», мы же назовем это банальным здравым смыслом и оптимизацией костов.

Память на pgvector: держим контекст без лишних затрат

Любой секретарь — будь то человек из плоти и крови или кремниевый скрипт — бесполезен, если он страдает амнезией. Лиза Петровна решает эту проблему с помощью векторной базы данных на базе pgvector. Зачем это нужно с точки зрения маркетинга и продукта?

Дело в том, что отправлять всю историю переписки за год в контекстное окно языковой модели — это прямой путь к разорению. Токены стоят денег, а длинный контекст снижает внимание модели к деталям. Векторный поиск позволяет вытаскивать из базы только те кусочки информации, которые релевантны текущему запросу.

Экономика процесса улучшается кратно:

Мы не перегружаем модель лишним мусором.
Снижаем стоимость каждого отдельного запроса за счет уменьшения входящих токенов (input tokens).
Ускоряем отклик системы, что критически важно для удержания пользователя в мессенджере.

Что на самом деле нужно людям от ИИ-секретаря?

Иллюзии против суровой конверсии

Создатели подобных продуктов часто совершают классическую ошибку: они проектируют функционал на основе собственных фантазий о том, «как должно быть». Казалось бы, ИИ-секретарь в первую очередь создан для работы с календарем. Синхронизация слотов, расписание созвонов, планирование дня.

А теперь взглянем на статистику реального использования. Запросы на работу с календарем составляют менее 5% от общего объема! Пользователи используют ИИ-секретаря совсем для других целей:

Быстрый поиск информации по прошлым обсуждениям.
Генерация идей, текстов и коротких выжимках по документам.
Постановка хаотичных задач с последующей расшифровкой в понятные ТЗ.
Простое человеческое общение и проверка гипотез «об собеседника».

Этот инсайт дорогого стоит. Если вы разрабатываете диджитал-продукт, ориентируйтесь не на то, что красиво звучит в презентации для инвесторов, а на реальные пользовательские сценарии (User Scenarios), которые всплывают в первые же дни после запуска на живую аудиторию.

Где ИИ до сих пор ошибается: грабли продакшна

Несмотря на всю магию DeepSeek и векторного поиска, ИИ-секретари все еще далеки от совершенства. Игнорировать эти ограничения — значит сознательно портить пользовательский опыт.

Главная проблема кроется в непредсказуемости агентов при выстраивании длинных цепочек задач. Если секретарь должен передать задачу под-агенту (например, SEO-аналитику или копирайтеру), на стыке контекстов периодически происходит рассинхронизация. Модель может забыть исходную вводную, выдумать несуществующие данные или уйти в бесконечный цикл уточняющих вопросов.

Ленивый маркетолог смотрит на это без паники. Ошибки ИИ — это просто еще одна переменная в формуле юзабилити. Лечится это жесткими системными промптами, валидацией ответов на уровне кода и ограничением шагов выполнения задачи (борьба с галлюцинациями на уровне архитектуры).

Резюме: как применять этот опыт в вашем бизнесе

Кейс Лизы Петровны — это отличный срез современной диджитал-реальности. Искусственный интеллект перестал быть игрушкой для гиков и превратился в рабочий инструмент, стоимость которого можно и нужно контролировать.

Если вы внедряете AI в свои воронки, чат-боты или внутренние процессы, запомните три простых правила:

Никогда не используйте дорогие модели по умолчанию. Настройте умный роутинг трафика. Рутину — дешевым аналогам вроде DeepSeek, сложнейшую аналитику — топам.
Стройте эффективную память. Используйте векторный поиск (pgvector и аналоги), чтобы не платить за передачу лишнего контекста.
Смо на цифры, а не на фантазии. Пользователи будут использовать ваш продукт не так, как вы запланировали в Figma. Анализируйте логи, режьте косты и оставляйте только то, за что люди готовы платить своим временем и вниманием.

Рынок меняется слишком быстро, чтобы тратить бюджеты на неоптимизированные запросы. Считайте деньги, внедряйте умную архитектуру и помните: побеждает не тот, у кого самая дорогая модель, а тот, кто умеет извлекать максимальную маржинальность из каждого потраченного цента.

Больше практики, реальных цифр и разборов без воды:

⚡ Telegram-канал: t.me/lenivymarketolog — оперативные инсайты, тренды и аналитика без воды

💼 Группа ВКонтакте: vk.ru/lenivymarketolog — кейсы, статьи и практические руководства

🌐 Профиль в MAX: max.ru/id781624934797_biz — экспертный бизнес-блог и статьи