Skip to main content
Glama

little-librarian

Локальный MCP-сервер, который индексирует файлы .epub и предоставляет инструменты семантического поиска на базе pplx-embed-context-v1 (late chunking) и Qdrant.

MCP client (Claude Desktop, Claude Code, …)
     │
     ▼  tool calls via MCP
 server.py
  pplx-embed-context-v1-0.6b  +  Qdrant (local)

Файлы

Файл

Роль

server.py

MCP-сервер — загрузка epub, создание эмбеддингов, поиск, хранилище Qdrant

code_librarian.py

Отдельный MCP-сервер для кода (фрагментация на основе AST)


Related MCP server: ragi

Почему pplx-embed-context-v1

Использует late chunking: все фрагменты главы проходят через один прямой проход, поэтому каждый эмбеддинг фрагмента захватывает полный контекст документа без необходимости использования doc-префикса во время вывода. Получает 81.96 nDCG@10 в ConTEB.


Быстрый старт

# 1. install
pip install -e .

# 2. ingest your library (runs embedding, then exits)
HF_HUB_OFFLINE=0 python server.py --index ./library

# 3. start the MCP server
python server.py

# optional: preload the model at startup
python server.py --preload

Инструменты MCP

Инструмент

Описание

search(query, top_k)

Семантический поиск, возвращает top-k отрывков с оценками

search_groups(query, group_by, limit, group_size)

Поиск с группировкой по "book" или "chapter" — лучше всего подходит для исследований по нескольким томам

get_passage(book, chapter, max_chars)

Извлечение полного текста книги/главы

list_books()

Список всех проиндексированных книг с количеством глав

collection_stats()

Информация о коллекции Qdrant (количество точек, размер вектора)

library_stats()

Полная разбивка контента: книги, главы, фрагменты на книгу, средняя длина фрагмента

get_device()

Показать, какое устройство (CPU/GPU) используется для эмбеддингов


Конфигурация Claude Desktop

{
  "mcpServers": {
    "little-librarian": {
      "command": "python",
      "args": ["/path/to/server.py"]
    }
  }
}

Рекомендации по оборудованию

Настройка

Мин. VRAM

Только CPU

0 ГБ

GPU (pplx-embed-0.6b)

~2 ГБ

Related MCP Connectors

Related MCP Servers

  • F
    license
    Not graded
    quality
    D
    maintenance
    Local MCP server that provides semantic search (RAG) over code repositories, enabling AI clients like Claude and Gemini to access project context without manual re-upload.
    -
  • A
    license
    A
    quality
    D
    maintenance
    Local-first RAG indexing and semantic search MCP server. Enables document retrieval and context-aware queries using local embedding models.
    3
    13 npm
    MIT
  • A
    license
    Not graded
    quality
    A
    maintenance
    MCP server for local RAG over personal notes, PDFs, and documents, enabling plain-English querying and hybrid search with multi-hop context expansion.
    MIT