Ollama를 사용한 로컬 MCP 서버

Ollama 언어 모델을 MCP 서버에 연결하는 로컬 Python 프로젝트입니다. 모델은 서버의 도구를 발견하고, 도구를 호출할 시기를 결정하며, 결과를 받아 간결한 최종 응답을 생성할 수 있습니다.

flowchart TD
    U["User question"] --> C["Python MCP client"]
    C --> O["Ollama llama3.2:3b"]
    O --> C
    C --> S["Local MCP server"]
    S --> D["Student JSON data"]

사용 가능한 도구

Related MCP server: custom-mcp-server

요구 사항

• Python 3.11+

• Ollama 설치 및 실행 중

• Ollama 모델 llama3.2:3b

Windows 설정

python -m venv venv
venv\Scripts\activate
pip install -r requirements.txt
ollama pull llama3.2:3b
python client.py

클라이언트는 활성 Python 인터프리터를 통해 server.py를 자동으로 실행합니다. 별도의 터미널에서 서버를 시작할 필요가 없습니다.

예시 질문

• What is 10 + 20?

• Tell me about Pranay.

• Where is Ananya studying?

• What is Saranya studying?

프로젝트 구조

mcp-server/
├── client.py
├── server.py
├── files/
│   └── students.json
├── tests/
│   └── test_server.py
└── requirements.txt

도구 결과 수정

Ollama는 도구 결과 메시지에 실행된 tool_name이 포함될 것으로 기대합니다. 클라이언트는 이 필드를 포함하고 사용 가능한 도구 정의를 후속 호출에 전달하여, MCP 도구가 실행된 후 모델이 최종 응답을 생성할 수 있게 합니다.

데이터 참고 사항

files/students.json은 데모 데이터입니다. 이 프로젝트를 공개적으로 또는 프로덕션에서 사용하기 전에 가상의 데이터나 동의를 받은 데이터로 교체하세요.