remote-capable server
The server can be hosted and run remotely because it primarily relies on remote services or has no dependency on the local environment.
Integrations
Enables vector search capabilities for AI queries, allowing efficient similarity searches and semantic retrieval of data stored in Elasticsearch indices.
Powers the REST, GraphQL, and WebSocket API interfaces, enabling different methods of interacting with the AI models through standardized endpoints.
Visualizes AI system metrics and performance data, providing dashboards for monitoring model behavior and operational health.
MCP 서버 - 모델 컨텍스트 프로토콜 API
MCP 서버는 LLM 모델과 애플리케이션 간의 상호작용을 위한 표준화된 인터페이스를 제공하는 모델 컨텍스트 프로토콜(MCP)의 FastAPI 기반 구현입니다.
특이점
- 🚀 FastAPI 및 비동기 작업을 기반으로 한 고성능 API
- 🔄 리소스, 악기, 프롬프트 및 샘플링을 포함한 전체 MCP 지원
- 📊 Prometheus 및 Grafana를 통한 모니터링 및 메트릭
- 🧩 새로운 도구를 추가하기 위한 간단한 인터페이스를 통한 확장성
- 📝 유연한 데이터 작업을 위한 GraphQL API
- 💬 실시간 상호작용을 위한 WebSocket 지원
- 🔍 Elasticsearch와 통합을 통한 의미 검색
- 🗃️ Redis를 통한 캐싱 으로 성능 향상
- 📦 Poetry를 통해 종속성을 관리하여 안정적인 패키지 관리를 제공합니다.
시작하기
설치
- 복제 저장소:지엑스피1
- Poetry를 설치하세요(아직 설치되지 않은 경우):Copy
- Poetry를 통해 종속성 설치:Copy
서버 시작
또는 just 유틸리티를 통해서:
출시 후 API는 http://localhost:8000 에서 사용 가능합니다.
API 문서
- Swagger UI: http://localhost:8000/docs
- ReDoc: http://localhost:8000/redoc
- GraphQL 플레이그라운드: http://localhost:8000/graphql
프로젝트 구조
사용 가능한 도구
파일 시스템 도구
파일 읽기, 쓰기, 삭제, 나열 기능을 지원하는 파일 시스템 도구입니다.
날씨 도구
좌표로 날씨 데이터를 얻는 도구입니다.
텍스트 분석 도구
감정 감지 및 요약을 포함한 텍스트 분석을 위한 도구입니다.
텍스트 프로세서 도구
서식 지정, 통계 계산, 엔터티 추출 등을 포함한 텍스트 처리를 위한 도구입니다.
이미지 처리 도구
크기 조절, 자르기, 필터 적용을 지원하는 이미지 처리 도구입니다.
웹소켓 API
WebSocket API에 연결하려면:
GraphQL API
GraphQL을 통한 쿼리의 예:
테스트 실행
테스트를 실행하려면 Poetry를 사용하세요.
또는 just 유틸리티를 통해서:
도커
Docker Compose를 통한 빌드 및 실행
개별 서비스를 시작하려면:
LLM과의 통합
MCP 서버는 다양한 공급업체의 LLM 모델과의 통합을 위한 표준화된 인터페이스를 제공합니다.
지표 및 모니터링
MCP 서버는 /metrics
엔드포인트를 통해 Prometheus 형식의 메트릭을 제공합니다. 측정항목은 다음과 같습니다.
- 각 도구에 대한 요청 수
- 쿼리 실행 시간
- 오류 및 예외
개발
코드를 포맷하고 린터로 확인하려면 다음을 수행합니다.
특허
This server cannot be installed
대규모 언어 모델과의 원활한 통합을 위한 모델 컨텍스트 프로토콜(MCP)을 지원하는 고성능 FastAPI 서버로, REST, GraphQL, WebSocket API와 실시간 모니터링 및 벡터 검색 기능을 제공합니다.
- Особенности
- Начало работы
- Структура проекта
- Доступные инструменты
- WebSocket API
- GraphQL API
- Запуск тестов
- Docker
- Интеграция с LLM
- Метрики и мониторинг
- Разработка
- Лицензия