Экономика ИИ-секретаря: как распределять запросы между моделями
Как снизить расходы ИИ-секретаря: распределять простые и сложные задачи между моделями, контролировать контекст и считать стоимость каждого запроса.
Блог
модели · цены · практикаКак выбрать LLM для рабочих задач: методика проверки качества и стоимости
Практическая методика выбора LLM для кода, документов и аналитики: как собрать тестовый набор, задать критерии приёмки и посчитать стоимость результата в рублях.
Как выбрать модель по цене: практическое сравнение котировок Протока
Практическое сравнение котировок моделей Протока: как считать стоимость входных и выходных токенов, выбрать модель под задачу и подключить её через совместимый API.
Цена токена — не вся стоимость: как считать расходы на русском тексте
Цена токена не равна цене задачи: русский текст, история диалога и длина ответа меняют итоговый счёт. Разбираем формулу расчёта и сравниваем модели Протока на реальных объёмах.
Fallback между LLM: как не получить корректный, но неверный ответ
Fallback между языковыми моделями может сохранить JSON, но изменить смысл результата. Разбираем, как разделить retry и fallback, проверить семантику и контролировать стоимость.
Как собрать надёжный LLM-воркфлоу для ежедневного мониторинга кредитных условий
Как построить надёжный LLM-воркфлоу для ежедневного мониторинга кредитных условий: снимки данных, четыре точки вызова модели, расчёты в коде и 14 проверок перед публикацией.
LLM поверх поиска: как усилить Elasticsearch и контролировать расходы
LLM не обязана заменять Elasticsearch: классический поиск формирует кандидатов, а модель понимает смысл запроса и улучшает ранжирование. Разбираем архитектуру, метрики, пример API и котировки Протока.
Как собрать агентный парсер, который проверяет код на реальных ответах API
Агентный парсер не ограничивается генерацией кода: он запускает его в песочнице, анализирует реальные ответы API и исправляет ошибки. Разбираем архитектуру, безопасность и выбор моделей Протока.
Новая модель в API: как оценить её пользу и подключить через Проток
Как оценивать новую модель в API, выбрать подходящий вариант по цене и подключить его через OpenAI-совместимый интерфейс Протока.