Lokaler MCP-Server mit Ollama

Ein lokales Python-Projekt, das ein Ollama-Sprachmodell mit einem MCP-Server verbindet. Das Modell kann die Tools des Servers entdecken, entscheiden, wann es eines aufruft, das Ergebniss empfang en und eine prägnante abs chließende Antworte erzeugen.

flowchart TD
    U["User question"] --> C["Python MCP client"]
    C --> O["Ollama llama3.2:3b"]
    O --> C
    C --> S["Local MCP server"]
    S --> D["Student JSON data"]

Verfügbare Tools

Related MCP server: custom-mcp-server

Voraussetzungen

• Pyton 3.11+

• Ollama installiert und in Betrief

• Ollama-Modell llama3.2:3b

Windows-Einrichtung

python -m venv venv
venv\Scripts\activate
pip install -r requirements.txt
ollama pull llama3.2:3b
python client.py

Der Client startet server.py automatisch über den aktiven Pyton-Interpreter. Sie müssen den Server nicht in einem separaten Terminal starten.

Beispielfragen

• What is 10 + 20?

• Tell me about Pranay.

• Where is Ananya studying?

• What is Saranya studying?

Projektstruktur

mcp-server/
├── client.py
├── server.py
├── files/
│   └── students.json
├── tests/
│   └── test_server.py
└── requirements.txt

Tool-Ergebniss-Korrektur

Ollama erwartet, dass eine Tool-Ergebniss-Nachricht den ausgefüh rten tool_name enthält. Der Client fügt dieses Feld hinzu und übergibt die verfügbaren Tool-Definitionen an den Fol geaufruf, sodass das Modell die abs chließende Antworte erzeugen kann, nachdem ein MCP-Tool ausgefüh rt wurde.

Datenhinweis

files/students.json sind Demodaten. Ersetzen Sie sie durch fiktive Daten oder Daten, für die eine Einwilligung vorliegt, bevor Sie dieses Projekt öffentlich oder in der Produktion verwenden.