Skip to main content
Glama

little-librarian

Ein lokaler MCP-Server, der .epub-Dateien indiziert und semantische Suchwerkzeuge bereitstellt, die auf pplx-embed-context-v1 (Late Chunking) und Qdrant basieren.

MCP client (Claude Desktop, Claude Code, …)
     │
     ▼  tool calls via MCP
 server.py
  pplx-embed-context-v1-0.6b  +  Qdrant (local)

Dateien

Datei

Rolle

server.py

MCP-Server — EPUB-Ingestion, Embedding, Suche, Qdrant-Speicherung

code_librarian.py

Separater MCP-Server für Code (AST-basiertes Chunking)


Related MCP server: ragi

Warum pplx-embed-context-v1

Verwendet Late Chunking: Alle Chunks eines Kapitels durchlaufen einen einzigen Forward-Pass, sodass jedes Chunk-Embedding den vollständigen Dokumentkontext erfasst, ohne dass zur Inferenzzeit ein Dokument-Präfix erforderlich ist. Erreicht 81,96 nDCG@10 auf ConTEB.


Schnellstart

# 1. install
pip install -e .

# 2. ingest your library (runs embedding, then exits)
HF_HUB_OFFLINE=0 python server.py --index ./library

# 3. start the MCP server
python server.py

# optional: preload the model at startup
python server.py --preload

MCP-Werkzeuge

Werkzeug

Beschreibung

search(query, top_k)

Semantische Suche, gibt die Top-k-Textstellen mit Scores zurück

search_groups(query, group_by, limit, group_size)

Suche gruppiert nach "book" oder "chapter" — am besten für die Recherche über mehrere Bände hinweg

get_passage(book, chapter, max_chars)

Ruft den vollständigen Text für ein Buch/Kapitel ab

list_books()

Listet alle indizierten Bücher mit Kapitelanzahl auf

collection_stats()

Qdrant-Sammlungsinformationen (Anzahl der Punkte, Vektorgröße)

library_stats()

Vollständige Inhaltsübersicht: Bücher, Kapitel, Chunks pro Buch, durchschnittliche Chunk-Länge

get_device()

Zeigt an, welches Gerät (CPU/GPU) für Embeddings verwendet wird


Claude Desktop Konfiguration

{
  "mcpServers": {
    "little-librarian": {
      "command": "python",
      "args": ["/path/to/server.py"]
    }
  }
}

Hardware-Empfehlungen

Setup

Min. VRAM

Nur CPU

0 GB

GPU (pplx-embed-0.6b)

~2 GB

Related MCP Connectors

Related MCP Servers

  • F
    license
    Not graded
    quality
    D
    maintenance
    Local MCP server that provides semantic search (RAG) over code repositories, enabling AI clients like Claude and Gemini to access project context without manual re-upload.
    -
  • A
    license
    A
    quality
    D
    maintenance
    Local-first RAG indexing and semantic search MCP server. Enables document retrieval and context-aware queries using local embedding models.
    3
    13 npm
    MIT
  • A
    license
    Not graded
    quality
    A
    maintenance
    MCP server for local RAG over personal notes, PDFs, and documents, enabling plain-English querying and hybrid search with multi-hop context expansion.
    MIT