ИИ-автоматизация

Управление контекстом: claude-context vs классический RAG для аудита крупных репозиториев

claude-context vs LlamaIndex RAG снижение расхода токенов большая codebase 2026
Раскрытие: KuzCloud публикует гайды по Mac-хостингу; claude-context и LlamaIndex — сторонние инструменты. Эта статья — техническое исследование, а не рекомендация продукта.
Кратко: Когда monorepo превышает ~500 тыс. строк, заполнение контекста Claude или Cursor переполняет окно и ваш счёт за токены. claude-context (zilliztech/claude-context) — MCP-сервер, индексирующий код с AST-aware chunks + гибридным BM25/векторным поиском, возвращая только релевантные фрагменты. Классический LlamaIndex RAG — DIY Python pipeline (load → chunk → embed → vector store → query), которым вы полностью управляете. Правило: claude-context выигрывает по time-to-value для Claude Code/Cursor; LlamaIndex — для смешанных корпусов (docs + tickets + code) и air-gapped стеков. Ни один не заменяет чтение diffs — оба сокращают число токенов на ход.

Почему счета за токены взлетают на больших репозиториях

Начинающие full-stack упираются в одну стену:

  1. «Просто прочитать весь repo» — 200 файлов × 2k токенов ≈ 400k токенов до ответа модели (несколько долларов за вопрос на frontier API)
  2. Grep-спирали — агент открывает каждое совпадение целиком; контекст заполняется нерелевантными import
  3. Амнезия рефакторингов — ход 3 забывает ход 1, потому что хост обрезал историю

Симптомы в Cursor или Claude Code: «context full», сжатые summary или тихое исчезновение содержимого файлов.

Решение — не большая модель, а retrieval: получать 8–20 маленьких chunks (200–600 токенов каждый) вместо 8 целых файлов (3k+ токенов). Это оптимизируют claude-context и LlamaIndex RAG с разной эргономикой.

Два подхода в одной таблице

Измерение claude-context (MCP) Классический LlamaIndex RAG
Что этоГотовый MCP + индексатор (@zilliz/claude-context-mcp)Python framework, который вы собираете
ChunkingAST-aware + Merkle инкрементальный индексВаш выбор (SentenceSplitter, CodeSplitter и т.д.)
ПоискГибрид BM25 + dense vectorsОбычно векторный; hybrid опционален
Vector DBMilvus / Zilliz Cloud (или совместимый)Chroma, Qdrant, pgvector, LanceDB, …
Интеграция хостаClaude Code, Cursor через MCPВаш скрипт, LangChain agent, custom bot
Time to first search~30–90 мин (индекс 100k–500k LOC)Часы–дни при настройке pipelines
Текущие расходыEmbedding API + vector hostingТо же, но каждая строка — ваша
Лучше дляIDE-native «search my repo»Смешанные корпуса, on-prem only, research notebooks

Внешние ссылки: документация LlamaIndex, claude-context GitHub.

Как работает claude-context (путь MCP)

Ваш repo ──► AST chunker + embeddings ──► Milvus/Zilliz index
                                              │
Вопрос ──► Claude/Cursor ──► MCP search_code ──► top-K chunks ──► контекст модели

MCP tools (типичные): index_codebase, search_code, get_indexing_status, clear_index.

Почему гибридный поиск важен для кода: Чистые embeddings пропускают точные символы (UserAuthService_v2). BM25 ловит идентификаторы; векторы — «где проверяем expiry JWT?»

Инкрементальная индексация: Merkle-tree change detection — re-embed только изменённых файлов — важно при повторном запуске агентов на активных ветках.

claude mcp add claude-context \
  -e OPENAI_API_KEY=your_key \
  -e MILVUS_TOKEN=your_zilliz_token \
  -- npx @zilliz/claude-context-mcp@latest

Затем в сессии: один раз проиндексировать, запрашивать на естественном языке. Сочетайте с custom MCP patterns, если нужны внутренние API в том же хосте.

Как работает классический LlamaIndex RAG (DIY путь)

Documents ──► LlamaIndex loaders ──► chunk ──► embed ──► VectorStoreIndex
                                                          │
Question ──► query_engine.query() ──► retrieved nodes ──► LLM prompt
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings
from llama_index.embeddings.openai import OpenAIEmbedding

Settings.embed_model = OpenAIEmbedding(model="text-embedding-3-small")

docs = SimpleDirectoryReader("~/my-monorepo", recursive=True).load_data()
index = VectorStoreIndex.from_documents(docs)  # one-time; persist to disk in prod
qe = index.as_query_engine(similarity_top_k=8)
print(qe.query("Where is rate limiting configured for the public API?"))

Вы добавляете: ignore rules (.git, node_modules), language-aware splitting, metadata filters (path:packages/api/**) и wrapper для MCP как у claude-context.

Сила: Тот же стек может индексировать PDF runbooks + Jira exports + code в одном retriever — claude-context ориентирован на code-first.

Расчёт токенов: иллюстративный сценарий аудита

Сценарий: «Найти весь auth middleware и перечислить маршруты без CSRF.» Monorepo ~1 200 файлов, ответ требует ~6 релевантных функций в 4 путях.

СтратегияТокены в модели (порядок)Заметки
Вставить дерево src/ + 10 случайных файлов120k–250kБыстрый путь к банкротству
Agent grep + читать файлы целиком (5 hits)25k–60kМного boilerplate на файл
claude-context search_code (top 8 chunks)3k–8kChunks function-scoped
LlamaIndex top-8 nodes (tuned splitter)3k–10kПохоже при chunk ~512 tokens
Идеальный человек (2 файла)~2kRAG стремится к этому

Диапазон экономии: Retrieval-first workflows часто дают 70–90% ниже наивного «прочитать всё» для discovery — не для one-liner в одном файле, где grep бесплатен.

Скрытые расходы: Первичная сборка индекса (embedding $0.50–$5 для 500k LOC разово), vector DB hosting ($0–25/мес на free tiers), re-index после крупных merge.

Когда что выбирать

Сценарий A — Cursor / Claude Code ежедневно, GitHub monorepo

Нужно без @ «найти billing webhook validator» в агенте. claude-context даёт MCP wiring и hybrid search. LlamaIndex — overkill, если вы не запускаете Python data jobs на той же машине.

Ссылка: альтернативы Claude Code для выбора хоста; claude-context как MCP-слой сверху.

Сценарий B — Compliance air-gap, без Zilliz cloud

Запускайте LlamaIndex + LanceDB/Chroma на диске или semantic-code-mcp (локальные sentence-transformers). Путь по умолчанию claude-context предполагает внешние embedding API и часто Milvus — планируйте offline embeddings явно при необходимости.

Сценарий C — Ферма агентов (OpenClaw, ECC) жует repos ночью

OpenClaw multi-agent fan-out умножает расход токенов. Центральный один индекс на repo, который опрашивают все workers, лучше, чем каждый worker перечитывает src/. Оба стека работают; LlamaIndex проще из Python workers, claude-context — из MCP-native hosts.

Сценарий D — «Контекст сбрасывается» в длинных тредах

Retrieval не раздувает chat history — он уменьшает injections за ход. Всё равно: новая сессия на задачу, pin только retrieved chunks, не вставлять тот же файл на 2k строк. Для harness sprawl см. гайд ECC.

Runbook из восьми шагов side-by-side

Шаги 1–4 — Общая подготовка

  1. Измерить baseline — расход на dashboard провайдера за неделю «grep + полный файл».
  2. Выбрать pilot repo — один сервис, не весь monorepo, для первого индекса.
  3. Добавить ignore rules — исключить node_modules, dist, .git, generated protobufs.
  4. 3 benchmark-вопроса — auth, billing webhook, feature flag — повторите после индексации.

Шаги 5–8 — Путь A: claude-context

  1. Зарегистрировать MCP; проверить claude mcp list → claude-context.
  2. index_codebase на корне pilot repo; дождаться get_indexing_status = complete.
  3. Спросить Claude Code: «Use search_code: where is CSRF disabled for admin routes?» — citations chunk-sized.
  4. Залогировать tokens этого хода vs baseline из шага 1.

Шаги 5–8 — Путь B: LlamaIndex

  1. pip install llama-index llama-index-embeddings-openai в venv на той же машине.
  2. Persist index: storage_context = StorageContext.from_defaults(persist_dir="./rag_index").
  3. Обернуть query_engine в 20-строчный CLI или FastAPI endpoint.
  4. Повторить 3 benchmark-вопроса; сравнить качество и строку embedding на счёте.

Локальный хостинг (опционально)

Индексация — CPU + disk, GPU не обязателен для API embeddings. Always-on Mac с 16 GB RAM держит Milvus Lite/малые индексы; 24 GB, если параллельно локальный Ollama для $0 inference. См. матрицу памяти M4 — одно предложение о хостинге, без sales pitch.

Устранение неполадок

MCP search_code возвращает пусто

Причина: Неверный или устаревший путь индекса. Fix: index_codebase с absolute path; проверить, что ignore rules не пропустили src/.

LlamaIndex отвечает с неверным package

Причина: Chunks смешивают packages monorepo. Fix: MetadataFilter(key="file_path", value="packages/api").

Расходы высоки после RAG

Причина: Агент всё ещё читает полные файлы после search. Fix: system prompt: «Use retrieval chunks only; do not cat entire files unless chunk IDs insufficient.»

Node 24 install падает на claude-context

Причина: Upstream ограничивает Node <24. Fix: nvm use 22 перед npx @zilliz/claude-context-mcp.

Ваша ситуацияВыбор
Claude Code / Cursor, быстрый winclaude-context MCP
Docs + code + tickets в одном retrieverLlamaIndex DIY
Ноль cloud vector DBLlamaIndex + LanceDB/Chroma local
Уже есть MCP serversДобавить claude-context вторым MCP tool
Один файл 200 строкНи один — просто открыть файл

Если X → Y: Хост говорит MCP и боль — repo search, начните с claude-context. Боль — custom corpora, начните с LlamaIndex.

FAQ

claude-context — то же, что встроенные знания проекта Claude?

Нет. Project uploads управляет хост. claude-context — отдельный индексатор с hybrid code search и incremental sync — ближе к dedicated code search engine.

LlamaIndex заменяет claude-context?

Функционально пересекаются в code Q&A. LlamaIndex шире и self-hosted; claude-context уже и IDE-integrated. Команды могут LlamaIndex в CI и claude-context в IDE на одних embeddings.

RAG исправляет неверные правки?

Нет. Улучшает discovery. Нужны тесты, review и небольшие scoped diffs. Плохой retrieval вводит в заблуждение — проверяйте cited paths.

Как часто re-index?

После крупных merge или еженедельно на активном main. Incremental index claude-context сокращает full rebuilds; LlamaIndex — refresh_ref_docs на changed files only.

Материковая сеть и npm?

Разработчики в CN часто индексируют на стабильной remote dev box (SSH), чтобы npm/pip и embedding API видели consistent routes — как OpenClaw remote setup, без конкретного vendor.

Связанные гайды

После выбора RAG-стека дополните MCP- и Mac-hosting гайдами для always-on индекса на Apple Silicon.