RAG-пилот
за 2 недели:
план
14-дневный план: один кейс, эталонные вопросы, Gateway как LLM-слой, метрики и решение go/no-go. Заявка на пилот под ключ.
Большинство RAG-пилотов срываются не на «слабой модели», а на сроках: месяц уходит на согласования, ещё месяц — на хаотичный PoC. Реалистичный корпоративный пилот укладывается в 2 недели, если заранее зафиксировать один сценарий, владельца данных и API-слой для LLM.
Коротко: неделя 1 — данные, retrieval, 50 тестовых вопросов. Неделя 2 — качество, стоимость запроса, решение «масштабировать / стоп». Gateway закрывает модели и биллинг; внедрение — IRI Lab или интегратор.
Что должно быть до старта
- один бизнес-кейс: поддержка, продажи, HR, юристы, внутренний регламент;
- 500–2000 документов или один источник (Confluence, SharePoint, PDF);
- владелец качества ответов с бизнеса, не только с IT;
- решение по оплате LLM: счёт на р/с, лимиты, кто платит за токены.
План на 14 дней
- 01–03День 1–3Инвентаризация документов, права доступа, 30–50 эталонных вопросов с ожидаемыми ответами.
- 04–07День 4–7Ingestion, chunking, vector DB, первый чат. LLM — через IRI Gateway (один ключ, смена модели).
- 08–10День 8–10Прогон эталонов, метрики: точность, «не знаю», цитирование источника.
- 11–12День 11–12Счёт за токены на пилоте, прогноз на 1000 запросов/мес — метод расчёта.
- 13–14День 13–14Отчёт: go / no-go, риски, бюджет production. При go — RAG под ключ или внутренняя команда.
Где ломается пилот
| Риск | Как снять на старте |
|---|---|
| «Все документы компании» | Один отдел, один тип запроса. |
| Личные ключи сотрудников | Корпоративный Gateway, лимиты на ключ. |
| Нет метрик качества | Эталонные Q&A до первого демо. |
| ИБ блокирует облако | Обсудить on-prem заранее — copilot для сотрудников. |
Роль IRI Gateway в пилоте
На двухнедельном горизонте не нужен свой GPU-кластер. Нужен стабильный API: Claude/GPT на сложных вопросах, DeepSeek или Llama на черновиках, логи и баланс в рублях по р/с. Архитектура слоёв — RAG и API-слой.
Когда звать интегратора
Если есть CRM/ERP, сложные ACL, compliance или нужен UI для 200+ пользователей — пилот лучше вести с подрядчиком из каталога. IRI Lab может собрать пилот как услугу или подключить партнёра под ваш стек.
Итог
RAG-пилот за 2 недели — это дисциплина scope, а не «магия модели». Зафиксируйте кейс, подключите Gateway как LLM-слой и примите решение по цифрам, а не по впечатлению от демо.
Запустить пилот под ключ?
Опишите задачу — IRI Lab или интегратор из каталога соберёт RAG/агентов, Gateway возьмёт на себя LLM-слой.