Skip to main content
Glama
MiemieYang-yang

Modular RAG MCP Server

Modular RAG MCP Server

Ein plugbares, beobachtbares modulares RAG-Framework (Retrieval-Augmented Generation) als Dienst, das über das MCP-Protokoll (Model Context Protocol) Tool-Schnittstellen nach außen bereitstellt und direkt von KI-Assistenten wie Copilot / Claude aufgerufen werden kann. Gleichzeitig ist es ein praxisorientiertes Projekt mit begleitenden Lehrmaterialien, das speziell für Lernen und Bewerbungsgespräche im Bereich großer Sprachmodelle konzipiert wurde.


📖 Inhaltsverzeichnis


Related MCP server: mcp-rag-agent

🏗️ Projektübersicht

Was ist dieses Projekt

Dieses Projekt verbindet die häufigsten Kernbereiche aus RAG-Bewerbungsgesprächen – Retrieval (Hybrid Search + Rerank), multimodale Bildverarbeitung (Image Captioning), RAG-Evaluierung (Ragas + Custom), Generierung (LLM Response) – sowie das aktuell beliebte Anwendungsprotokoll MCP (Model Context Protocol) zu einem vollständigen, lauffähigen Engineering-Projekt.

Ein großer Vorteil des Projekts ist, dass es sich sehr leicht an dein eigenes Geschäft anpassen lässt. Dank der durchgängig plugbaren Architektur kannst du es schnell in deine bestehenden Projekte integrieren – unabhängig von deinem Hintergrund und deinen Anforderungen findest du eine passende Nutzungsweise. Die konkreten Nutzungsstrategien werden später im Abschnitt Für wen ist dieses Projekt geeignet & wie man es nutzt ausführlich erläutert.

Nicht nur ein Projekt, sondern ein kompletter Denkansatz

Wertvoller als das Projekt selbst ist die dahinterstehende, vollständige Engineering-Denkweise:

  • Wie man eine DEV_SPEC (Entwicklungsspezifikation) schreibt, um die Entwicklung zu steuern

  • Wie man mit Skill basierend auf der Spec automatisch Code schreibt

  • Wie man mit Skill automatisierte Tests, Paketierung und Umgebungskonfiguration durchführt

  • Wie man auf Basis der plugbaren Architektur erweitert (z. B. zu einem Agent)

Wenn du diese Denkweise beherrschst, kannst du selbst völlig neue Projekte und Erweiterungen erstellen. Für jeden dieser Schritte gibt es in den Notizen entsprechende Video-Erklärungen zu den konkreten Vorgehensweisen und Designüberlegungen – es wird empfohlen, diese in Kombination anzusehen.

Kernfunktionen im Überblick

Modul

Fähigkeit

Erläuterung

Ingestion Pipeline

PDF → Markdown → Chunk → Transform → Embedding → Upsert

Vollständige Datenaufnahme-Pipeline, unterstützt multimodale Bildbeschreibung (Image Captioning)

Hybrid Search

Dense (Vektor) + Sparse (BM25) + RRF Fusion + Rerank

Zweistufige Retrieval-Architektur: Grobe Relevanzsuche + Feine Neubewertung

MCP Server

Standard-MCP-Protokoll stellt Tools bereit

query_knowledge_hublist_collectionsget_document_summary

Dashboard

Streamlit-Verwaltungsplattform mit sechs Seiten

Systemübersicht / Datenbrowser / Ingestion-Verwaltung / Aufnahme-Tracking / Abfrage-Tracking / Evaluierungs-Panel

Evaluation

Ragas + Custom-Evaluierungssystem

Unterstützt Golden-Test-Set-Regressionstests, lehnt "Bauchgefühl"-Optimierung ab

Observability

Vollständige White-Box-Tracking über die gesamte Kette

Jeder Zwischenzustand der Ingestion- und Query-Pipelines ist transparent sichtbar

Skill-gesteuerter Gesamtprozess

Von der Erstellung bis zu Test, Paketierung und Konfiguration in einem Schritt

auto-coder / qa-tester / package / setup und weitere Skills decken den vollständigen Entwicklungslebenszyklus ab (Die Verwendung und Designüberlegungen jedes Skills werden in den Notizen erklärt – bitte die begleitenden Videos ansehen)

Technische Highlights

🔌 Durchgängig plugbare Architektur: Für jeden Kernbereich – LLM / Embedding / Reranker / Splitter / VectorStore / Evaluator – sind abstrakte Schnittstellen definiert. Sie unterstützen einen "Lego-Baustein"-Austausch, bei dem Backends per Konfigurationsdatei mit einem Klick gewechselt werden können – ohne eine einzige Codezeile zu ändern.

🔍 Hybrid-Retrieval + Reranking: BM25-Sparse-Retrieval löst exakte Übereinstimmung bei Fachbegriffen, Dense Embedding löst semantische Übereinstimmung bei Synonymen. Nach RRF-Fusion kann optional Cross-Encoder / LLM Rerank zur Feinabstimmung eingesetzt werden, um Recall und Precision auszubalancieren.

🖼️ Multimodale Bildverarbeitung: Verwendet eine Image-to-Text-Strategie, bei der Vision-LLMs automatisch Bildbeschreibungen generieren und in Chunks einfügen. Dadurch kann über die reine Text-RAG-Pipeline "Textsuche liefert Bilder" realisiert werden.

📡 MCP-Ökosystem-Integration: Folgt dem Model Context Protocol-Standard und kann direkt mit MCP-Clients wie GitHub Copilot, Claude Desktop usw. verbunden werden – ohne Frontend-Entwicklung, einmal entwickelt und überall nutzbar.

📊 Visuelles Management + automatisierte Evaluierung: Das Streamlit-Dashboard bietet vollständige Datenverwaltung und Pipeline-Tracking, integriert Evaluierungs-Frameworks wie Ragas und etabliert eine datenbasierte Iterations-Feedback-Schleife.

🧪 Dreistufiges Testsystem: Unit / Integration / E2E-Tests auf verschiedenen Ebenen, die unabhängige Modullogik, Modulinteraktionen und die vollständige Kette (MCP Client / Dashboard) abdecken.

🤖 Skill-gesteuerter Gesamtprozess: Integrierte Agent-Skills wie auto-coder (automatische Codierung), qa-tester (automatische Tests), package (Bereinigung und Paketierung), setup (Ein-Klick-Konfiguration) decken den vollständigen Entwicklungslebenszyklus von der Codeerstellung über Tests bis zur Paketierung und Bereitstellung ab. Für die Verwendung und Designüberlegungen jedes Skills gibt es im Projektteil der Notizen Erklärvideos, die zum Lernen herangezogen werden können.

📖 Detaillierte Architekturdesigns, Modulbeschreibungen und Aufgabenplanung findest du in DEV_SPEC.md


📂 Branchen-Erläuterung

Dieses Projekt bietet drei Branchen für unterschiedliche Nutzungsszenarien – bitte wähle entsprechend deinen Anforderungen:

main — Sauberster vollständiger Code

  • Enthält immer nur 1 Commit mit dem neuesten vollständigen Code des Projekts

  • Geeignet für:

    • Studierende, die die vollständigen Funktionen des Projekts schnell ausprobieren möchten

    • Studierende mit Zeitdruck, die schnell ein Projekt für Bewerbungsgespräche benötigen und den Entwicklungsprozess überspringen möchten

    • Studierende, die direkt auf Basis dieses Projekts erweitern möchten

  • Nutzungsweise: Nach dem Klonen direkt das Setup-Skill ausführen und loslegen

dev — Vollständige Entwicklungsaufzeichnung

  • Code identisch mit main, aber mit vollständiger Commit-Historie

  • Dokumentiert jeden Schritt des schrittweisen Aufbaus von Null, einschließlich vieler Zwischenstände

  • Geeignet für: Studierende, die verstehen möchten, wie das Projekt Schritt für Schritt von Null aufgebaut wurde – die Commit-Historie ermöglicht die Nachverfolgung der Entwicklungsgedanken

clean-start — Sauberer Ausgangspunkt, von Null beginnen

  • Enthält nur das Engineering-Gerüst (Agent Skills + DEV_SPEC), alle Aufgabenfortschritte auf Null

  • Vollständige Skill-Konfiguration erhalten, Entwicklung mit Agent-Unterstützung möglich

  • Geeignet für:

    • Studierende mit ausreichend Zeit, die von Grund auf entwickeln möchten (dringend empfohlen)

    • Studierende, die den vollständigen Workflow erleben möchten: Spec schreiben → Aufgaben aufteilen → Code schreiben → Tests schreiben → iterativ optimieren

    • Sogar möglich, die Architektur basierend auf eigenem Verständnis neu zu entwerfen, mit eigenen Ideen zu implementieren und jedes Modul tiefgehend zu verstehen

    • Verwendung aller von uns vermittelten Denkansätze (Spec-getriebene Entwicklung, Test-first, plugbare Architektur usw.) zur Umsetzung des gesamten Projekts

  • Kernphilosophie: Die Codeerstellung des gesamten Projekts erfolgt automatisch durch KI basierend auf der DEV_SPEC – du musst keinen Code von Hand schreiben. Die KI liest über Skills die Aufgabendefinitionen, Architekturdesigns und Schnittstellenspezifikationen aus der Spec und generiert automatisch spezifikationskonformen Code. Dieser Ansatz wird im entsprechenden Video der Notizen erläutert: 5.1 Projekt-Skills-Verwendung: Wie man KI mit Skills dazu bringt, der DEV_SPEC folgend Code zu erstellen.


🚀 Schnellstart

1. Projekt klonen

git clone <repo-url>
cd Modular-RAG-MCP-Server

2. Ein-Klick-Konfiguration (Setup-Skill)

Dieses Projekt bietet ein Setup-Skill, das alle Umgebungskonfigurationen in einem Schritt erledigt, einschließlich: Provider-Auswahl → API-Key-Konfiguration → Abhängigkeitsinstallation → Konfigurationsdatei-Generierung → Dashboard-Start.

Öffne das Projekt in VS Code und gib über den Copilot / Claude-Dialog ein:

setup

Der Agent führt dich automatisch durch den gesamten Konfigurationsprozess.

💡 Wenn du mit der Verwendung von Skills nicht vertraut bist, schau dir das Erklärvideo zur Setup-Skill-Verwendung in den begleitenden Notizen an.


🎯 Für wen ist dieses Projekt geeignet & wie man es nutzt

Die Hintergründe sind unterschiedlich – manche kommen aus dem Hochschul-Recruiting, manche aus dem Berufswechsel; auch die Grundlagen unterscheiden sich – manche haben bereits KI-Projekterfahrung, andere wechseln die Fachrichtung. Daher sollten auch die Nutzungsstrategien für dieses Projekt unterschiedlich sein – bitte nutze es flexibel und übernimm es nicht starr.

Eines ist jedoch universell: Die Denkweise hinter dem gesamten Projekt – wie man mit einer Spec schnell ein Projekt aufsetzt, wie man mit Skills KI-gesteuertes automatisches Codieren und Testen antreibt – diese Engineering-Methodik gilt für jedes Projekt und ist für alle eine Referenz wert.

Für die Nutzungsstrategien des Projekts selbst in verschiedenen Szenarien werde ich einige konkrete Beispiele geben und anhand meiner eigenen Erfahrungen erläutern – wie ich selbst das Projekt in verschiedenen Situationen nutzen würde – als Referenz für euch.

1. Reines RAG-Lernen – das Projekt als Lernmaterial für den gesamten RAG-Prozess

Dieses Projekt ist selbst ein vollständiges RAG-System und kann als begleitendes Praxisprojekt zum Lernen von RAG dienen.

Als ich anfing, RAG zu lernen, habe ich dieses Buch gelesen: 《大模型RAG实战:RAG原理、应用与系统构建》 (verfasst von KI-Experten wie Wang Peng, Gu Qingshui, Bian Longpeng). Du kannst RAG problemlos mit diesem Buch lernen – die typischen Phasen im Buch – Retrieval, Generierung, Vektordatenbanken, Chunking-Strategien, Reranking usw. – sind im Kern dieselben, egal welches RAG-Buch du liest.

Dieses Projekt verbindet genau diese Schritte, daher kann es als universelles RAG-Gesamtprozess-Projekt zum Lernen des gesamten Ablaufs dienen. Du kannst es mit diesem Buch kombinieren – ich bin sicher, es funktioniert auch mit anderen RAG-Büchern, da der Ablauf derselbe ist. RAG-Bewerbungsgespräche drehen sich letztlich um Kombinationen dieser Prozesse, ihre Prinzipien sowie die in der Praxis auftretenden Schwierigkeiten und Optimierungen.

2. Zeitdruck – ein Projekt für Bewerbungsgespräche fehlt

Wenn du derzeit kein KI-Projekt hast und dringend ein Projekt für Bewerbungsgespräche benötigst, kannst du:

  1. Dieses Projekt direkt verwenden: Klone den main-Zweig und starte es mit dem Setup-Skill

  2. In Kombination mit dem Resume Writer Skill deinen Lebenslauf schreiben (das Skill generiert die Projektbeschreibung individuell basierend auf deinem Hintergrund)

  3. Versuche, das Projekt zu verstehen: Führe den Kernprozess aus, kombiniere es mit den von mir zusammengestellten Interviewfragen zu diesem Projekt und gehe zunächst zu Bewerbungsgesprächen

  4. Vertiefe und erweitere das Projekt mit zunehmender Gesprächserfahrung – Bewerbungsgespräche selbst sind der beste Lernantrieb

Zum Beispiel: Jetzt im März, Studierende, die ein Sommerpraktikum suchen, haben Zeitdruck – erst aufnehmen, während der Gespräche lernen, bei Gelegenheit erweitern. Das löst das dringende Problem, kein Projekt für Bewerbungsgespräche zu haben. Der Ansatz ist: Erst aufnehmen → zu Gesprächen gehen → Projekt basierend auf Gesprächsfeedback verbessern.

Normalerweise gibt es von März bis Juli Chancen für Sommerpraktika. Nachdem du ein Praktikum und Erfahrung mit einem großen Sprachmodell-Projekt hast, nutze das als Sprungbrett zum Weiterlernen – von Juli bis Oktober für das Herbst-Recruiting, sogar bis zum Frühjahrs-Recruiting im nächsten März hast du reichlich Zeit, kontinuierlich zu lernen. Jetzt zu beginnen mag etwas spät erscheinen, ist es aber nicht. Wenn du dein Lerntempo halten kannst, von jetzt bis März nächsten Jahres ein ganzes Jahr lernst, ist ein erfolgreicher Einstieg in die Richtung großer Sprachmodelle im Hochschul-Recruiting absolut machbar. Der Schlüssel liegt darin, ob du selbst diese langfristige Lernfähigkeit aufrechterhalten kannst.

3. Relativ ausreichend Zeit – dieses Projekt als Ausgangspunkt für Erweiterungen

Du kannst dieses Projekt als Ausgangspunkt nehmen und gezielt entsprechend deiner Entwicklungsrichtung erweitern. Die DEV_SPEC enthält ebenfalls Erweiterungsrichtungen – hier einige häufige Beispiele:

  • Agent-Wissen ergänzen: Implementiere selbst die Agent-Seite mit Kontextverarbeitung, Tool Calling, ReAct-Logik und nutze dieses Projekt als Modul und Fähigkeit eines Agents – ein Agent + RAG-Projekt

  • Backend-Engineering-Fähigkeiten zeigen: Füge Backend-Deployment-Fähigkeiten hinzu, schreibe Dockerfile, baue CI/CD-Pipelines, ergänze Monitoring und Log-Sammlung

  • RAG vertiefen: Erweitere auf fortgeschrittene Formen wie Agentic RAG, Graph RAG oder führe weitere Optimierungsexperimente bei Retrieval-Strategien durch

Jeder hat eine andere Entwicklungsrichtung – wie das begleitende Resume Writer Skill, das bei der Lebenslauferstellung zuerst nach deinem Hintergrund und deiner Situation fragt. Ob du dich als Entwickler für große Sprachmodell-Anwendungen, RAG-Ingenieur oder Full-Stack-Entwickler positionierst, ob Hochschul- oder Berufs-Recruiting – die Anforderungen sind unterschiedlich (die spezifischen Stellenbeschreibungen und Technologie-Stacks für verschiedene Positionen im Bereich großer Sprachmodelle findest du im Abschnitt Stellenbeschreibungen für große Sprachmodelle der Notizen). Daher musst du gezielt erweitern.

Dringende Empfehlung: Unabhängig von deinem Hintergrund und deiner Erweiterung wirst du deinen Lebenslauf wahrscheinlich mit deinem eigenen Geschäftskontext kombinieren müssen. Also probier es zumindest aus – wirf Dokumente aus deinem eigenen Bereich (Finanzen, Recht, Medizin oder deine Geschäftsdokumente) hinein und prüfe die Retrieval-Ergebnisse. Wenn die Ergebnisse nicht gut sind, passe an und verbessere. Dieser Prozess selbst ist das beste Lernen und die überzeugendste praktische Erfahrung in Bewerbungsgesprächen.

4. Besonders viel Zeit – den vollständigen Workflow von Null erleben

Wenn du genügend Zeit hast, empfehle ich, mit dem clean-start-Zweig zu beginnen, oder sogar auf Basis von clean-start die DEV_SPEC zu löschen und mit dem Dokumentdesign zu starten, um Schritt für Schritt zu erleben:

Dokumentdesign → KI schreibt Code → Verbesserung und Iteration → Tests → Deployment

die Methodik des gesamten Prozesses. Wie man die DEV_SPEC schreibt, wie man Skills entwirft – all das wird in den entsprechenden Videos im Projektteil der Notizen erklärt. Du kannst Dokumente neu entwerfen, verbessern oder sogar direkt in Richtung Agent gehen, um den gesamten Prozess durchzulaufen.

Dabei lernst du den vollständigen Denkansatz zur Entwicklung eines Projekts. Der größte Vorteil dieser Methode ist die extrem niedrige Einstiegshürde – fast jeder kann es entwerfen und das gesamte Projekt abschließen. So lernst du sowohl den Denkansatz als auch den Prozess, und das Projekt kann hochgradig individuell angepasst werden. Viele Freunde in der Gruppe haben das bereits so gemacht.

5. Integration in bestehende Projekte – RAG-Fähigkeiten in dein vorhandenes Projekt einbinden

Das ist ebenfalls eine sehr gute Strategie, die ich selbst wahrscheinlich nutzen würde. Lass mich aus eigener Erfahrung sprechen:

Als ich zuvor einen Job suchte, hatte ich bereits 2 Agent-Projekte, aber die RAG-Pipeline war sehr rudimentär. Mein Lebenslauf lautete ungefähr: "Agent-Projekt hat dies und das gemacht, wobei einige RAG-Kenntnisse involviert waren." In Bewerbungsgesprächen fragten die Interviewer mehr oder weniger nach RAG-Inhalten, und ich erklärte es ihnen – aber weil das RAG-System des früheren Projekts sehr oberflächlich war – im Grunde nur ein einfaches Embedding-Vektor-Matching ohne Grob- und Feinabstimmungsstrategien – blieben die Fragen der Interviewer eher an der Oberfläche.

Nach diesem Projekt ist eine Herangehensweise, die RAG-Fähigkeiten dieses Projekts in das frühere Agent-Projekt zu integrieren und es im Lebenslauf nicht als eigenständiges Projekt, sondern als Teil des Agent-Projekts zu beschreiben. Zum Beispiel:

"…Im Projekt wurde ein selbst entwickeltes modulares RAG-System für die Wissensabfrage eingesetzt, mit BM25 + Dense Embedding Hybrid-Recall und RRF-Fusion-Sortierung, kombiniert mit Cross-Encoder-Reranking zur Verbesserung der Top-K-Präzision; Unterstützung multimodaler Dokumentverarbeitung (PDF-Parsing + Image Captioning), Bereitstellung standardisierter Tool-Schnittstellen über das MCP-Protokoll für Agent-Aufrufe. Integration des Ragas-Evaluierungsframeworks, Etablierung eines Golden-Test-Set-Regressionstest-Mechanismus zur kontinuierlichen Optimierung der Retrieval-Qualität…"

So erhält dein ursprüngliches Agent-Projekt RAG-Tiefe, und wenn der Interviewer wieder fragt, hast du etwas zu erzählen.

6. Produktmanager – ja, richtig gelesen, auch PMs können dieses Projekt nutzen

Bei Bewerbungsgesprächen für Produktmanager im Bereich großer Sprachmodelle werden zunehmend RAG-Kenntnisse abgefragt, manche Unternehmen verlangen sogar, dass Produktmanager selbst ein POC (Proof of Concept) schreiben, bevor sie es an die Entwicklung übergeben. Dieses Projekt und die dahinterstehende Methodik können dir dabei vollständig helfen.

Warum PMs es nutzen können:

  1. Gesprächsanforderung: Produktpositionen im Bereich großer Sprachmodelle prüfen die Grundprinzipien und Abläufe von RAG. Durch dieses Projekt kannst du den gesamten RAG-Prozess anschaulich erleben – von Dokumentaufnahme, Chunking, Vektorisierung, Retrieval, Reranking bis zur finalen Generierung – und ein Produktverständnis aufbauen

  2. POC-Fähigkeit: Du kannst mit dieser Methode problemlos das gesamte Projekt aufbauen – Dokumente schreiben (DEV_SPEC) oder die vorhandenen Dokumente direkt verwenden, dann mit Skills die KI den Code generieren lassen. Im Gespräch präsentierst du deine Denkweise und das Produktdesign, den Code hat die KI geschrieben – das ist heutzutage völlig legitim

  3. Keine Sorge um technische Details: Produktmanager müssen sich nicht um jede Codezeile kümmern, aber durch das Durchlaufen dieses Prozesses kannst du auf Produktebene über Schwachstellen nachdenken – z. B. wie man Metriken definiert, wenn Retrieval ungenau ist, wie man Feedback-Mechanismen im UX-Design gestaltet, wie Datenqualität die RAG-Ergebnisse beeinflusst usw.

Konkret so:

  • Klone den main-Zweig, starte mit dem Setup-Skill und erlebe den vollständigen Prozess

  • Wirf Dokumente aus deinem eigenen Geschäftsbereich hinein, prüfe die Retrieval-Ergebnisse und denke über Optimierungsrichtungen auf Produktebene nach

  • Erzähle im Gespräch deine Produktideen und Designüberlegungen, und erkläre, dass der technische Implementierungsteil mit KI-Unterstützung erstellt wurde

💡 Die Notizen enthalten auch Vibe-Coding-Tutorials (z. B. von Tina Huang), die sich hervorragend für Studierende ohne technischen Hintergrund eignen, um mit KI schnell Prototypen zu bauen.

Zum Thema "Projekt ist oberflächlich"

Zum Schluss möchte ich einen Punkt separat ansprechen (dieser gilt für alle oben genannten Situationen):

Die tiefgehende Optimierung aller Projekte erfolgt nicht in einem Schritt.

Wenn du umsteigst und alle Projekte selbst gemacht hast, wirst du mehr oder weniger erleben, dass Interviewer dein Projekt als oberflächlich empfinden. Ich habe das bereits erwähnt, aber keine Angst:

  1. Projekttiefe ist keine notwendige Bedingung für den Berufseinstieg. Ich habe letztes Jahr 6 Angebote erhalten, darunter von großen Unternehmen – selbst dann gab es Interviewer, die mein Projekt als oberflächlich empfanden. Bewerbungsgespräche berücksichtigen viele andere Aspekte – theoretische Grundlagen, Algorithmus-Fähigkeiten, Hintergrund-Matching, Wissensbreite usw. Denke nicht, dass du wegen eines oberflächlichen Projekts beim Umstieg keine Chance hast.

  2. Projekte werden kontinuierlich optimiert und vertieft. Wenn der Interviewer sagt, dein Projekt sei oberflächlich, hör auf sein Feedback – du wirst sicher heraushören, warum er es oberflächlich findet – z. B. dass deine Daten nicht komplex genug sind, dann erzeuge komplexere Daten; dass deine Bildverarbeitung zu einfach ist, dann erweitere die multimodale Strategie. Ich selbst habe während der Bewerbungsgespräche kontinuierlich Dinge zum Projekt hinzugefügt: Bei meinem früheren Agent-Projekt habe ich im Laufe der Gespräche Deployment, Training, Reflexionsdaten und Evaluierungsmodule hinzugefügt – der gesamte Prozess lief parallel zu den Gesprächen.

Plane dir etwas mehr Zeit für Bewerbungsgespräche ein und verbessere und vertiefe parallel zu den Gesprächen. Damit komme ich wieder auf die Denkweise des gesamten Projekts zurück – nur wenn du diese Denkweise lernst, kannst du kontinuierlich erweitern, und die Erweiterungshürde ist sehr niedrig – du denkst dir Ideen aus und lässt die KI schreiben, also keine Angst.

Eine echte Zahl: Dieses Projekt wurde von der Idee bis zur Fertigstellung in etwa 2 Monaten in meiner Freizeit nach der Arbeit erstellt, während ich parallel arbeiten, Content erstellen und auch andere Inhalte für die Selbstmedien produzieren musste. Ich hoffe also, dass du nicht erwartest, dass dieses Projekt ohne Erweiterung besonders tiefgehend ist – insbesondere für Berufswechsler. Aber andersherum gedacht: Wenn in zwei Monaten Feierabendzeit so viel entstanden ist – wie schnell wärst du, wenn du diese Methode beherrschst und selbst erweiterst?

Die Methoden sind alle vorhanden, alle Lösungen, Prozesse und Aufzeichnungen sind dokumentiert und per Video erklärt. Letztendlich musst du selbst erweitern, iterieren und es zu deinem eigenen, optimal angepassten Projekt machen.


📝 Lebenslauf-Referenz

⚠️ Dringende Empfehlung: Bitte verwende das im Projekt integrierte Resume Writer Skill zur Erstellung deiner Lebenslauf-Projekterfahrung, anstatt die folgenden Beispiele direkt zu kopieren.

Die Projekterfahrung im Lebenslauf muss zielgerichtet sein – sie muss individuell basierend auf deinem eigenen Geschäftshintergrund, der Zielposition und dem technischen Schwerpunkt generiert werden. Die folgenden Beispiele dienen nur zur Veranschaulichung der Skill-Ausgabe und als Schreibreferenz für verschiedene Szenarien – direktes Kopieren ist sinnlos.

So verwendest du das Resume Writer Skill: Gib im VS Code über den Copilot / Claude-Dialog 写简历 oder resume ein. Das Skill führt dich durch die Profilerfassung und generiert automatisch einen vierteiligen Lebenslauf. Die konkrete Verwendung und Designüberlegungen findest du in den Video-Erklärungen im Projektteil der Notizen.

Arbeitsweise des Resume Writer Skills

Das Skill verwendet ein Dreiecksmodell aus "Schreibprinzipien + Projekt-Highlights + Nutzerprofil = individueller Lebenslauf", mit folgendem Ablauf:

  1. Profilerfassung: Das Skill fragt nach deiner Zielposition (RAG Engineer / Backend / Agent usw.), Geschäftshintergrund, technischem Schwerpunkt und besonderen Anforderungen

  2. Highlight-Abgleich: Basierend auf deiner Positionsrichtung werden 3-5 am besten passende der 10 technischen Highlights des Projekts für die Bullet Points ausgewählt

  3. Vierteilige Generierung: Strikte Struktur nach Hintergrund → Ziel → Prozess → Ergebnis, jeder Bullet folgt "Verb + technische Details + quantifizierte Wirkung"

  4. Vorhersage von Interview-Nachfragen: Automatische Generierung von 3-5 möglichen Nachfragen des Interviewers zur Vorbereitung

Beispiel 1: Hochschul-Recruiting · RAG-Engineer-Richtung

Das Folgende ist eine Beispielausgabe des Skills basierend auf "Hochschul-Recruiting, RAG-Richtung, allgemeines Framework-Muster":

Intelligentes Wissens-Retrieval- und Frage-Antwort-System | 2024.09 - 2025.02 | Eigenständiges Design und Entwicklung

Hintergrund: Angesichts der häufigen Probleme in Unternehmens-Wissensdatenbank-Szenarien – verstreute Dokumente, unzureichende Retrieval-Präzision, schwierige Anbindung privater Wissensbestände an KI-Anwendungen – wurde ein modulares RAG-Retrieval-Framework entworfen und implementiert.

Ziel: Aufbau eines intelligenten Wissens-Frage-Antwort-Systems basierend auf Hybrid-Retrieval + MCP-Protokoll, das präzise semantische Suche und direkten Zugriff von KI-Agents auf private Wissensdatenbanken ermöglicht und die Genauigkeit der Dokument-Frage-Antwort auf über 90 % steigert.

Prozess:

  • Design einer BM25 + Dense Embedding Hybrid-Recall-Architektur, Ausbalancierung von Recall und Precision durch RRF-Fusion-Sortierung, Steigerung der Top-10-Trefferquote um ca. 25 % durch Cross-Encoder-Reranking

  • Aufbau einer vollständigen Ingestion-Pipeline (PDF-Parsing → Markdown → semantisches Chunking → Metadata-Anreicherung → Embedding → Upsert), Integration von Vision-LLMs zur automatischen Bildbeschreibung und Einfügung in Chunks, sodass über die reine Text-Pipeline "Textsuche liefert Bilder" möglich ist

  • Implementierung einer durchgängig plugbaren Architektur für LLM / Embedding / Reranker / VectorStore, Definition einheitlicher abstrakter Schnittstellen, Wechsel der Backend-Provider per Konfigurationsdatei mit einem Klick, Unterstützung von 4+ LLM-Providern ohne Codeänderung

  • Integration des dualen Evaluierungssystems Ragas + Custom, Etablierung eines Golden-Test-Set-Regressionstest-Mechanismus, Abdeckung der Dimensionen Faithfulness / Relevancy / Recall, Ablehnung von "Bauchgefühl"-Optimierung

  • Skill-getriebene Gesamtentwicklung, Abdeckung des vollständigen Lebenszyklus aus Codierung, Tests, Konfiguration und Paketierung durch 5 große Agent-Skills (auto-coder / qa-tester / setup / package), vollständige Lieferung von 68 Unteraufgaben in 2 Monaten Freizeit

Ergebnis: Das System unterstützt die Echtzeit-Semantiksuche über 5000+ Dokumente, die Retrieval-Genauigkeit (Hit Rate@10) erreicht 92 %, die End-to-End-Abfragelatenz liegt unter 800 ms, das dreistufige Testsystem (Unit / Integration / E2E) deckt 1200+ Testfälle ab.

Technologie-Stack: Python / LangChain / ChromaDB / BM25 / Cross-Encoder / MCP Protocol / Streamlit / Ragas / Azure OpenAI

Beispiel 2: Berufs-Recruiting · Bestehendes Agent-Projekt, RAG-Tiefe integrieren

Das Folgende ist eine Beispielausgabe des Skills basierend auf "Berufs-Recruiting, Agent-Richtung, Windows-Plattform-Entwicklungshintergrund" (Integration der RAG-Fähigkeiten in ein bestehendes Agent-Projekt):

Intelligenter Wissensassistent für die Windows-Plattform | 2024.06 - 2025.02 | Kernentwicklung

Hintergrund: Im Windows-Plattform-Entwicklungsteam sind versionsbezogene Informationen (Release Notes, Änderungsprotokolle, Patch-Ankündigungen, Kompatibilitätshinweise usw.) über mehrere Wikis, Dokument-Repositories und interne Systeme verstreut. Ingenieure müssen bei der Fehlersuche zu Versionsunterschieden oder bei Kundenanfragen systemübergreifend suchen. Die bestehende Stichwortsuche versteht keine Semantik, was zu geringer Sucheffizienz und häufigen Informationslücken führt.

Ziel: Aufbau eines intelligenten Wissensassistenten mit Agent + RAG-Architektur für das Team, der semantische Suche und automatische Frage-Antwort über systemübergreifende Dokumente ermöglicht, über das MCP-Protokoll in die täglichen Toolchains der Ingenieure (VS Code / Claude Desktop) integriert wird und die Dokument-Suchzeit um über 60 % verkürzt.

Prozess:

  • Design einer Agent + RAG-Schichtenarchitektur: Die Agent-Seite übernimmt Intent-Erkennung und Tool Calling, die RAG-Seite bietet zweistufiges Retrieval mit BM25 + Dense Embedding Hybrid-Recall + Cross-Encoder-Feinabstimmung, Bereitstellung standardisierter Tool-Schnittstellen über das MCP-Protokoll für Agent-Aufrufe

  • Implementierung einer vollständigen Ingestion-Pipeline mit Unterstützung für PDF / Markdown-Mehrformat-Dokumentparsing, Integration von Vision-LLMs zur automatischen Bildbeschreibung (Architekturdiagramme, Screenshots usw.), Lösung des multimodalen Retrieval-Bedarfs "Textsuche liefert Bilder"

  • Aufbau einer plugbaren Backend-Architektur: LLM / Embedding / Reranker / VectorStore mit definierten abstrakten Schnittstellen, Ein-Klick-Wechsel zwischen Azure OpenAI ↔ DeepSeek ↔ Ollama, Anpassung an verschiedene Netzwerkumgebungen des Teams

  • Aufbau einer Streamlit-Dashboard-Verwaltungsplattform mit sechs Funktionsseiten (Datenbrowser, Ingestion-Tracking, Abfrage-Tracking, Evaluierungs-Panel), vollständige White-Box-Beobachtbarkeit über die gesamte Kette

  • Integration des Ragas-Evaluierungsframeworks + Golden-Test-Set-Regressionstests, kontinuierliche Überwachung der Retrieval-Qualität bei Versionsiterationen, Faithfulness-Score stabil über 0,85

  • Skill-getriebene Gesamtentwicklung: DEV_SPEC-Spezifikationsdokument steuert auto-coder zur automatischen Codierung, qa-tester für automatische Tests und Reparaturen, setup für Ein-Klick-Umgebungskonfiguration, 5 große Agent-Skills decken den vollständigen Entwicklungslebenszyklus ab, Lieferung von 68 Unteraufgaben in 2 Monaten Freizeit

Ergebnis: Das System deckt 8000+ technische Dokumente des Teams ab, die tägliche Dokument-Suchzeit der Ingenieure sinkt von 15 Minuten auf 3 Minuten, die Retrieval-Genauigkeit Hit Rate@10 erreicht 90 %, bereits über das MCP-Protokoll an 3 interne KI-Tools angebunden, insgesamt 20.000+ Abfragen verarbeitet.

Technologie-Stack: Python / Agent / Tool Calling / RAG / BM25 / Dense Retrieval / Cross-Encoder / MCP Protocol / ChromaDB / Streamlit / Ragas / Skill-Driven Development / Azure OpenAI

Beispiel 3: Berufs-Recruiting · Backend-Entwickler wechselt in die KI-Richtung

Das Folgende ist eine Beispielausgabe des Skills basierend auf "Berufswechsel in KI, Backend/Architektur-Richtung, Finanz-Compliance-Geschäftshintergrund":

Compliant Intelligent Document Retrieval System | 2024.10 - 2025.02 | Design & Lead Development

Background: In the compliance department of a financial institution, regulatory documents and internal policy documents grew to tens of thousands in scale. The compliance team needed to quickly locate specific clauses in review and consultation scenarios, but the existing full-text search system could only match keywords exactly, unable to understand semantic equivalents like "Anti-Money Laundering" and "AML", resulting in inefficient clause retrieval.

Goal: Design and implement a modular RAG retrieval system that introduces semantic retrieval capabilities into the compliance document management process, supporting synonyms and cross-language clause matching, with the goal of improving clause retrieval accuracy to over 90%.

Process:

  • Led the system architecture design, adopting a fully pluggable architecture. LLM / Embedding / Reranker / Splitter / VectorStore all define abstract interfaces and factory patterns, allowing one-click switching of backends via YAML configuration, adapting to different deployment environments with zero code changes.

  • Implemented a hybrid retrieval strategy combining BM25 sparse retrieval + Dense Embedding semantic retrieval, using RRF fusion ranking to balance exact matching of proper nouns with semantic matching of synonyms, improving retrieval accuracy by 22% compared to pure vector-based approaches.

  • Built a complete data ingestion pipeline supporting PDF parsing → semantic chunking → Chunk Refinement → Metadata Enrichment → vectorized storage, with idempotent DocumentManager management to ensure data consistency during document updates.

  • Established a three-tier testing framework (Unit / Integration / E2E), covering over 1200 test cases, integrating the Ragas evaluation framework to establish automated regression mechanisms, ensuring retrieval quality does not degrade during iterations.

  • Exposed standardized tool interfaces based on the MCP protocol, enabling direct invocation by AI assistants such as GitHub Copilot / Claude Desktop, achieving a "develop once, call from multiple endpoints" service deployment.

  • Implemented a Skill-driven full-process engineering methodology, using DEV_SPEC specification documents to drive AI agents to automatically complete coding (auto-coder), testing (qa-tester), environment configuration (setup), and packaging (package). All 68 subtasks were delivered by the agent, compressing the development cycle to 2 months of part-time work.

Results: After deployment, the system supports real-time semantic retrieval across 12,000+ compliance documents, improving clause retrieval accuracy from 68% to 91%, with single-query latency controlled at 700ms, and improving compliance team document review efficiency by approximately 50%.

Tech Stack: Python / Pluggable Architecture / Factory Pattern / BM25 / Dense Retrieval / RRF / Cross-Encoder / ChromaDB / MCP Protocol / Streamlit / Ragas / Skill-Driven Development / Azure OpenAI


💡 Usage Reminder and Important Notes:

1. About the Amplification Strategy: The Resume Writer Skill includes an amplification strategy I designed—AI will, within reasonable limits, embellish and amplify your project experience (e.g., quantitative metrics, business scale). This is something I allow and is normal practice in resume writing. However, this means: after generating your resume, you must think carefully about what an interviewer might ask about each point and how you would answer. The Skill will automatically provide 3-5 predicted interview follow-up questions along with the resume. Please prepare these questions thoroughly.

2. Treat Your Resume as a Practice Checklist: Every technical point mentioned in your resume should be actually tested by you. For example, if your resume says "improved retrieval accuracy by XX%", you should run it on your own data to see the actual results, what problems you encountered, and how you optimized them. These practical experiences are what truly convince interviewers and are what you genuinely learn. For parts not covered in your resume (e.g., if you haven't tried multimodal or run evaluations), use this as an opportunity to conduct code experiments.

3. The Generated Resume is a Draft—Please Modify It Based on Your Situation: The resume generated by the Skill is a draft, not the final version. You need to adjust it based on your actual situation—which technologies you have truly used in depth, which are just surface-level knowledge, and which data points need to be replaced with your own. There is a golden rule in resume writing: anything on your resume, you must be able to explain. Even if a point is amplified, you need to think about how an interviewer might question it and how you would justify it. If you can't explain something clearly, it's better to leave it out. If you write it, you must be able to withstand follow-up questions.

4. Method Matters More Than Template: The entire resume writing approach is mine—including the amplification strategy, the four-part structure (Background → Goal → Process → Result → Tech Stack), and the highlight matching logic. These are all embedded in the Resume Writer Skill. If you have a resume template you trust more, or if you've made extensions or modifications to the project, you can modify the Skill itself to adapt. Learning this "use Skill to codify methodology, let AI execute according to rules" logic is more valuable than the resume itself—this approach can be reused for resume writing in any future project.

5. Strongly Recommend Including Skill-Driven Full Development: My personal opinion is that the Skill-driven full development loop is suitable for anyone's resume. Skill is a very hot topic right now, already a must-ask in interviews, and many companies are internally researching how to use Skill to accelerate project construction. Explaining how you used Skill to complete the entire project lifecycle from coding → testing → fixing → configuration → packaging is itself an innovative and forward-looking highlight that will impress interviewers. I will also provide some examples later on how to discuss Skill-related content in interviews and how to answer follow-up questions.


❓ Frequently Asked Questions

1. How to Switch Providers (e.g., to Qwen / DeepSeek / Ollama)?

Very simple—just ask AI to do it for you.

The project uses a Factory Pattern in its architecture design, making provider extension and switching very convenient. You only need to understand the internal principles to see that different APIs are essentially similar HTTP requests, and most even follow OpenAI's request format, making switching particularly easy.

There are two specific ways to do this:

  1. Use the Setup Skill (Recommended): Run the one-click Setup Skill, and AI will proactively ask which provider you want to use, guide you through entering your API Key, and automatically complete the code adaptation and configuration generation.

  2. Directly Ask AI to Modify: Tell AI which provider you want to switch to (e.g., "help me switch to Qwen" or "configure DeepSeek for me"), and AI can automatically write the code based on the factory pattern architecture.

Principle Explanation: The LLM, Embedding, Reranker, and other modules under src/libs/ in the project all use the factory pattern. Adding a new provider only requires: ① Adding a new Provider class; ② Registering it in the factory; ③ Updating the settings.yaml configuration. AI can completely automate these steps.

2. Project Evaluation (Custom Evaluator) and Cross-Encoder Reranker

The framework code for these two modules is already in place, but they have not been fully tested. Interested students can complete them independently:

Module

Status

What Needs to Be Done

Custom Evaluator

Framework exists, not tested

Define evaluation methods, prepare corresponding test datasets

Cross-Encoder Reranker

Framework exists, not tested

Need to download a local reranking model (e.g., cross-encoder/ms-marco-MiniLM-L-6-v2)

AI can help you write all of these. Describe your requirements clearly, and AI can help you implement evaluation methods, prepare data, download models, and complete integration tests. Completing these extensions is also a plus for interviews, demonstrating your independent extension capabilities.

3. What to Do About Project Errors / Bugs?

This is not a widely tested production-level project, but an interview-oriented practical project. Encountering errors is normal.

  • Impact on Interviews: Bugs in the project have almost no impact on interviews—interviewers won't actually run your project; they focus on your understanding of architecture, principles, and design decisions.

  • How to Fix: The simplest way is to directly give the error message to AI, and most problems can be fixed by AI.

  • Reference Resources: The video by Tina Huang recommended in the notes also introduces this method of using AI to quickly fix errors.

4. What If I Want to Ingest Document Formats Other Than PDF (Word / Markdown / HTML, etc.)?

Just ask AI to help you extend it.

The Loader layer in the project uses a pluggable abstract design (BaseLoader), and currently implements a PDF Loader by default. If you need to support Word, Markdown, HTML, and other formats, the overall architecture already has extension points designed. Let AI help you add a corresponding Loader implementation.

For example, tell AI: "Help me add a Word document Loader, referencing the existing PDF Loader implementation." AI can handle it completely.

5. How to Integrate into AI Tools (Copilot / Cursor / Claude Code, etc.)?

This project is an MCP Server that can be integrated into any AI tool and agent that supports the MCP protocol. In my demonstration, I've already integrated it into GitHub Copilot and Cursor, and you can also integrate it into Claude Code or other tools that support the MCP framework.

How to integrate? Very simple—ask AI.

Essentially, it's about writing an MCP configuration file for different tools:

  • Copilot (VS Code): Just ask AI to generate the MCP configuration file

  • Cursor: Directly import the project, and Cursor will automatically recognize it

  • Claude Code / Other Frameworks: Ask AI how to configure it. Each tool has slightly different configuration methods, but the principle is the same.

Of course, I also recommend understanding the MCP protocol principles—how the Server and Client communicate, and how Tools are registered and invoked. These are also plus points in interviews.

6. General Advice: Leverage AI

Most of the above issues (Provider switching, module extension, bug fixing, architecture understanding) can be solved by AI:

  • 🔧 Code Level: Let AI help you switch providers, implement evaluation methods, fix bugs

  • 📖 Knowledge Level: Architecture questions, design pattern questions—ask AI for explanations

  • 🚀 Extension Level: If you want to add new features or adapt to new scenarios, describe your requirements clearly and let AI implement them

Ask AI more, let it guide you. This is also one of the core ideas this project aims to convey—learning to collaborate with AI in development.


📌 Next Steps

✅ Will Do

  • Compilation of project-related questions and FAQ

  • Compilation of high-frequency interview questions and reference answers

  • Technical explanations (RAG core knowledge, architecture design, etc.)

  • Resume packaging suggestions and examples

  • Personal Interview Practice: I will take this project to interviews, and document the questions I encounter and how I answer them

  • Welcome Contributions: If you use this project for interviews, you can send me the interview recording, and I'll analyze project-related questions and write them into the documentation. I can also listen to the overall interview and provide improvement suggestions. This way, we can all progress together and collectively refine the interview Q&A for this project.

❌ Will Not Do

  • Will not continue to add new features

  • Will not handle bug fixes, design optimizations, etc.

    • For bugs and design improvements, please fix and optimize them in your own projects

    • Future extensions and fixes must be done by yourself, and with AI, these are very easy to accomplish

    • This is itself a great learning and interview plus point

    • Independently extending the project based on understanding is the true demonstration of capability

📝 Personal Planning Notes

I will later focus on large model algorithms and training, and will summarize some notes and ideas in the documentation. Therefore, for this project, I will not indefinitely extend features or fix bugs, but I will be very happy to continue doing the following:

  • Summarize the problems encountered in interviews for this project

  • Organize how to answer and how to iterate and optimize

  • Document the interview Q&A for reference


📚 Accompanying Resources

This project comes with complete accompanying learning resources, including:

  • 🎬 Video Explanations: Project architecture design, Skill usage, DEV_SPEC writing, full development process demonstration

  • 📝 Interview Notes: Preparation for large model interviews, RAG core knowledge points

  • Interview Question References: Real questions and reference answers from interviews for this project

  • 📖 Common Interview Questions: High-frequency interview questions related to large models / RAG / NLP

👉 Follow me on Xiaohongshu: 不转到大模型不改名 to access all these resources.

A
license - permissive license
Not graded
quality - not tested
C
maintenance

Maintenance

Maintainers
Response time
Release cycle
Releases (12mo)
Commit activity

Resources

Unclaimed servers have limited discoverability.

Looking for Admin?

If you are the server author, to access and configure the admin panel.

Related MCP Servers

  • F
    license
    Not graded
    quality
    C
    maintenance
    Provides RAG-based knowledge retrieval and document management as MCP tools, supporting hybrid search, reranking, and retrieval process visualization.
  • F
    license
    Not graded
    quality
    B
    maintenance
    A pluggable, observable modular RAG service framework that exposes tools via MCP protocol for AI assistants, supporting hybrid search, reranking, multi-modal processing, and evaluation.

View all related MCP servers

Related MCP Connectors

  • Your memory, everywhere AI goes. Build knowledge once, access it via MCP anywhere.

  • OCR, transcription, file extraction, and image generation for AI agents via MCP.

  • 100+ MCP tools for AI agents: content metadata, trade intelligence, business-expertise analysis.

View all MCP Connectors

Latest Blog Posts

MCP directory API

We provide all the information about MCP servers via our MCP API.

curl -X GET 'https://glama.ai/api/mcp/v1/servers/MiemieYang-yang/MODULAR-RAG-MCP-SERVER'

If you have feedback or need assistance with the MCP directory API, please join our Discord server