Spend caps:
лимиты LLM
в команде
Как не получить invoice shock: лимиты на ключ, алерты, routing на дешёвый tier, budget review для CIO.
После Fable billing cliff и tokenizer-сюрпризов Sonnet 5 budget governance — не optional. Spend caps на уровне API-ключа, команды и модели.
Три уровня: hard cap (stop), soft cap (alert), routing (downgrade tier).
Практика
- Baseline: 2 недели логов → median tokens/request.
- Separate keys: prod / staging / experiments.
- Default cheap tier (Luna/Mini/Flash), escalate on failure.
- Monthly review — расчёт стоимости.
Итог
Gateway + политика routing = предсказуемый TCO. Pricing.
Нужен счёт на р/с и договор?
Оставьте заявку — выставим счёт, подключим IRI Gateway, лимиты и закрывающие под ваш регламент.