LOG-mcp

어떤 AI 모델을 사용할지 고민하지 마세요. 이 MCP 서버는 초안 응답 중에서 선택할 때마다 귀하의 선호도 데이터셋을 구축합니다. 일반적인 벤치마크가 아닌, 귀하의 실제 선택으로부터 학습합니다.

라이브 URL: https://log-mcp.casey-digennaro.workers.dev 라이선스: MIT • 런타임: Cloudflare Workers • 의존성: 0

이 프로젝트의 존재 이유

공개된 모델 순위는 종종 귀하의 구체적인 요구 사항을 반영하지 못합니다. 이 서버는 귀하가 작업 중에 내리는 선택을 통해 직접 선호도를 학습하며, 향후 프롬프트를 귀하가 선택할 가능성이 높은 모델로 라우팅하도록 돕습니다.

빠른 시작

먼저 이 저장소를 포크(Fork)하여 자신만의 인스턴스를 만드세요.

1. 포크(Fork) 이 저장소를 포크합니다.

2. 배포(Deploy) 포크 내의 원클릭 버튼을 사용하여 Cloudflare Workers에 배포합니다.

3. API 키 추가 Worker의 환경 변수에 모델 API 키를 추가합니다.

로컬 개발 환경:

git clone https://github.com/your-username/log-mcp
cd log-mcp
cp .env.example .env
# Add your API keys to the .env file
npm run dev

작동 방식

프롬프트를 제출하면 LOG-mcp는 구성된 각 모델로부터 초안 응답을 생성합니다. 귀하는 그중 가장 좋은 것을 선택합니다. 각 선택은 귀하의 개인 선호도 프로필을 학습시킵니다. 시간이 지남에 따라, 시스템은 귀하가 선택했을 법한 모델로 프롬프트를 직접 라우팅하기 시작합니다. 모든 선택 데이터는 귀하의 Worker 내에 유지됩니다.

주요 기능

• 선호도 학습: 과거의 선택을 기반으로 프롬프트를 라우팅합니다.

• PII 제거: 모델 API로 전송하기 전에 기본적으로 식별 가능한 정보(이름, 이메일, 전화번호)를 제거합니다.

• 의미론적 캐싱: 의미적으로 유사하고 이전에 답변된 프롬프트에 대해서는 재생성을 건너뜁니다.

• 학습 데이터 내보내기: 선호도 쌍을 표준 LoRA/DPO 형식으로 내보냅니다.

• 다중 모델 지원: OpenAI, Anthropic, Google 및 오픈 웨이트 모델에 대한 엔드포인트를 구성합니다.

• MCP 준수: 모델 컨텍스트 프로토콜(Model Context Protocol)을 지원하는 모든 클라이언트와 작동합니다.

• 제로 의존성: 빠르게 배포되는 단일 독립형 스크립트입니다.

제한 사항

이 시스템이 학습하려면 명시적인 선택 데이터가 필요합니다. 초안 간의 선택을 거의 하지 않는 경우, 효과적인 라우팅 프로필을 구축할 수 없으며 계속해서 모든 모델의 출력을 표시하게 됩니다.

아키텍처

LOG-mcp는 Cloudflare Workers에서 상태 비저장(stateless) 방식으로 실행됩니다. 모든 선호도 데이터는 Cloudflare KV 네임스페이스에 저장됩니다. 관리해야 할 외부 데이터베이스나 백그라운드 프로세스는 없습니다.