Llama API
в России:
open-weight

Llama от Meta — главная open-weight линейка для команд, которые хотят гибрид: облачный API на пилоте и свой inference позже. В России Llama часто выбирают как дешёвый слой на рутину, on-prem RAG и как запасной вендор в multi-vendor архитектуре.

Когда выбирают Llama API

• нужен open-weight стек и предсказуемая лицензия;
• большой объём внутренних запросов — compact-модели дешевле flagship;
• RAG и агенты на LangChain / LlamaIndex — Llama как рабочая лошадка;
• пилот до закупки GPU — API быстрее, чем сразу vLLM в проде.

Модели в каталоге

• Llama 3.2 3B (Free) — эксперименты, лимит free-tier;
• Llama 3.3 70B — сильный open-weight на объёме;
• интеграция с LlamaIndex и LangChain.

Llama API vs свой сервер

Свой vLLM/Ollama даёт контроль данных, но требует DevOps, GPU и мониторинг. Облачный Llama через шлюз — нормальный первый шаг: команда проверяет сценарий, считает токены и только потом решает, выгоден ли on-prem. Сравнение архитектур — в multi-vendor LLM.

Для юрлица

Оплата только по расчётному счёту: договор, счёт, закрывающие, лимиты на ключи. Self-service ключ можно получить для теста, production-бюджет — через enterprise. Чек-лист закупки — AI API для юрлица.

Подключение

1. Заявка на счёт или тестовый доступ через кабинет.
2. model = ID из каталога.
3. Base URL: https://api-ru.agi-iri.ru/v1/ — документация.