Управление контекстом: claude-context vs классический RAG для аудита крупных репозиториев
Почему счета за токены взлетают на больших репозиториях
Начинающие full-stack упираются в одну стену:
- «Просто прочитать весь repo» — 200 файлов × 2k токенов ≈ 400k токенов до ответа модели (несколько долларов за вопрос на frontier API)
- Grep-спирали — агент открывает каждое совпадение целиком; контекст заполняется нерелевантными import
- Амнезия рефакторингов — ход 3 забывает ход 1, потому что хост обрезал историю
Симптомы в Cursor или Claude Code: «context full», сжатые summary или тихое исчезновение содержимого файлов.
Решение — не большая модель, а retrieval: получать 8–20 маленьких chunks (200–600 токенов каждый) вместо 8 целых файлов (3k+ токенов). Это оптимизируют claude-context и LlamaIndex RAG с разной эргономикой.
Два подхода в одной таблице
| Измерение | claude-context (MCP) | Классический LlamaIndex RAG |
|---|---|---|
| Что это | Готовый MCP + индексатор (@zilliz/claude-context-mcp) | Python framework, который вы собираете |
| Chunking | AST-aware + Merkle инкрементальный индекс | Ваш выбор (SentenceSplitter, CodeSplitter и т.д.) |
| Поиск | Гибрид BM25 + dense vectors | Обычно векторный; hybrid опционален |
| Vector DB | Milvus / Zilliz Cloud (или совместимый) | Chroma, Qdrant, pgvector, LanceDB, … |
| Интеграция хоста | Claude Code, Cursor через MCP | Ваш скрипт, LangChain agent, custom bot |
| Time to first search | ~30–90 мин (индекс 100k–500k LOC) | Часы–дни при настройке pipelines |
| Текущие расходы | Embedding API + vector hosting | То же, но каждая строка — ваша |
| Лучше для | IDE-native «search my repo» | Смешанные корпуса, on-prem only, research notebooks |
Внешние ссылки: документация LlamaIndex, claude-context GitHub.
Как работает claude-context (путь MCP)
Ваш repo ──► AST chunker + embeddings ──► Milvus/Zilliz index
│
Вопрос ──► Claude/Cursor ──► MCP search_code ──► top-K chunks ──► контекст модели
MCP tools (типичные): index_codebase, search_code, get_indexing_status, clear_index.
Почему гибридный поиск важен для кода: Чистые embeddings пропускают точные символы (UserAuthService_v2). BM25 ловит идентификаторы; векторы — «где проверяем expiry JWT?»
Инкрементальная индексация: Merkle-tree change detection — re-embed только изменённых файлов — важно при повторном запуске агентов на активных ветках.
claude mcp add claude-context \ -e OPENAI_API_KEY=your_key \ -e MILVUS_TOKEN=your_zilliz_token \ -- npx @zilliz/claude-context-mcp@latest
Затем в сессии: один раз проиндексировать, запрашивать на естественном языке. Сочетайте с custom MCP patterns, если нужны внутренние API в том же хосте.
Как работает классический LlamaIndex RAG (DIY путь)
Documents ──► LlamaIndex loaders ──► chunk ──► embed ──► VectorStoreIndex
│
Question ──► query_engine.query() ──► retrieved nodes ──► LLM prompt
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings
from llama_index.embeddings.openai import OpenAIEmbedding
Settings.embed_model = OpenAIEmbedding(model="text-embedding-3-small")
docs = SimpleDirectoryReader("~/my-monorepo", recursive=True).load_data()
index = VectorStoreIndex.from_documents(docs) # one-time; persist to disk in prod
qe = index.as_query_engine(similarity_top_k=8)
print(qe.query("Where is rate limiting configured for the public API?"))
Вы добавляете: ignore rules (.git, node_modules), language-aware splitting, metadata filters (path:packages/api/**) и wrapper для MCP как у claude-context.
Сила: Тот же стек может индексировать PDF runbooks + Jira exports + code в одном retriever — claude-context ориентирован на code-first.
Расчёт токенов: иллюстративный сценарий аудита
Сценарий: «Найти весь auth middleware и перечислить маршруты без CSRF.» Monorepo ~1 200 файлов, ответ требует ~6 релевантных функций в 4 путях.
| Стратегия | Токены в модели (порядок) | Заметки |
|---|---|---|
Вставить дерево src/ + 10 случайных файлов | 120k–250k | Быстрый путь к банкротству |
| Agent grep + читать файлы целиком (5 hits) | 25k–60k | Много boilerplate на файл |
claude-context search_code (top 8 chunks) | 3k–8k | Chunks function-scoped |
| LlamaIndex top-8 nodes (tuned splitter) | 3k–10k | Похоже при chunk ~512 tokens |
| Идеальный человек (2 файла) | ~2k | RAG стремится к этому |
Диапазон экономии: Retrieval-first workflows часто дают 70–90% ниже наивного «прочитать всё» для discovery — не для one-liner в одном файле, где grep бесплатен.
Скрытые расходы: Первичная сборка индекса (embedding $0.50–$5 для 500k LOC разово), vector DB hosting ($0–25/мес на free tiers), re-index после крупных merge.
Когда что выбирать
Сценарий A — Cursor / Claude Code ежедневно, GitHub monorepo
Нужно без @ «найти billing webhook validator» в агенте. claude-context даёт MCP wiring и hybrid search. LlamaIndex — overkill, если вы не запускаете Python data jobs на той же машине.
Ссылка: альтернативы Claude Code для выбора хоста; claude-context как MCP-слой сверху.
Сценарий B — Compliance air-gap, без Zilliz cloud
Запускайте LlamaIndex + LanceDB/Chroma на диске или semantic-code-mcp (локальные sentence-transformers). Путь по умолчанию claude-context предполагает внешние embedding API и часто Milvus — планируйте offline embeddings явно при необходимости.
Сценарий C — Ферма агентов (OpenClaw, ECC) жует repos ночью
OpenClaw multi-agent fan-out умножает расход токенов. Центральный один индекс на repo, который опрашивают все workers, лучше, чем каждый worker перечитывает src/. Оба стека работают; LlamaIndex проще из Python workers, claude-context — из MCP-native hosts.
Сценарий D — «Контекст сбрасывается» в длинных тредах
Retrieval не раздувает chat history — он уменьшает injections за ход. Всё равно: новая сессия на задачу, pin только retrieved chunks, не вставлять тот же файл на 2k строк. Для harness sprawl см. гайд ECC.
Runbook из восьми шагов side-by-side
Шаги 1–4 — Общая подготовка
- Измерить baseline — расход на dashboard провайдера за неделю «grep + полный файл».
- Выбрать pilot repo — один сервис, не весь monorepo, для первого индекса.
- Добавить ignore rules — исключить
node_modules,dist,.git, generated protobufs. - 3 benchmark-вопроса — auth, billing webhook, feature flag — повторите после индексации.
Шаги 5–8 — Путь A: claude-context
- Зарегистрировать MCP; проверить
claude mcp list→claude-context. index_codebaseна корне pilot repo; дождатьсяget_indexing_status= complete.- Спросить Claude Code: «Use search_code: where is CSRF disabled for admin routes?» — citations chunk-sized.
- Залогировать tokens этого хода vs baseline из шага 1.
Шаги 5–8 — Путь B: LlamaIndex
pip install llama-index llama-index-embeddings-openaiв venv на той же машине.- Persist index:
storage_context = StorageContext.from_defaults(persist_dir="./rag_index"). - Обернуть
query_engineв 20-строчный CLI или FastAPI endpoint. - Повторить 3 benchmark-вопроса; сравнить качество и строку embedding на счёте.
Локальный хостинг (опционально)
Индексация — CPU + disk, GPU не обязателен для API embeddings. Always-on Mac с 16 GB RAM держит Milvus Lite/малые индексы; 24 GB, если параллельно локальный Ollama для $0 inference. См. матрицу памяти M4 — одно предложение о хостинге, без sales pitch.
Устранение неполадок
MCP search_code возвращает пусто
Причина: Неверный или устаревший путь индекса. Fix: index_codebase с absolute path; проверить, что ignore rules не пропустили src/.
LlamaIndex отвечает с неверным package
Причина: Chunks смешивают packages monorepo. Fix: MetadataFilter(key="file_path", value="packages/api").
Расходы высоки после RAG
Причина: Агент всё ещё читает полные файлы после search. Fix: system prompt: «Use retrieval chunks only; do not cat entire files unless chunk IDs insufficient.»
Node 24 install падает на claude-context
Причина: Upstream ограничивает Node <24. Fix: nvm use 22 перед npx @zilliz/claude-context-mcp.
Рекомендуемый путь
| Ваша ситуация | Выбор |
|---|---|
| Claude Code / Cursor, быстрый win | claude-context MCP |
| Docs + code + tickets в одном retriever | LlamaIndex DIY |
| Ноль cloud vector DB | LlamaIndex + LanceDB/Chroma local |
| Уже есть MCP servers | Добавить claude-context вторым MCP tool |
| Один файл 200 строк | Ни один — просто открыть файл |
Если X → Y: Хост говорит MCP и боль — repo search, начните с claude-context. Боль — custom corpora, начните с LlamaIndex.
FAQ
claude-context — то же, что встроенные знания проекта Claude?
Нет. Project uploads управляет хост. claude-context — отдельный индексатор с hybrid code search и incremental sync — ближе к dedicated code search engine.
LlamaIndex заменяет claude-context?
Функционально пересекаются в code Q&A. LlamaIndex шире и self-hosted; claude-context уже и IDE-integrated. Команды могут LlamaIndex в CI и claude-context в IDE на одних embeddings.
RAG исправляет неверные правки?
Нет. Улучшает discovery. Нужны тесты, review и небольшие scoped diffs. Плохой retrieval вводит в заблуждение — проверяйте cited paths.
Как часто re-index?
После крупных merge или еженедельно на активном main. Incremental index claude-context сокращает full rebuilds; LlamaIndex — refresh_ref_docs на changed files only.
Материковая сеть и npm?
Разработчики в CN часто индексируют на стабильной remote dev box (SSH), чтобы npm/pip и embedding API видели consistent routes — как OpenClaw remote setup, без конкретного vendor.
Связанные гайды
После выбора RAG-стека дополните MCP- и Mac-hosting гайдами для always-on индекса на Apple Silicon.