Secure LLM Proxy — MCP 서버

향상된 개인정보 보호 제어, PII 삭제 및 감사 로깅 기능을 갖춘 OpenAI 호환 프록시입니다.

주요 기능

• PII 삭제 — 전달하기 전에 이메일, 전화번호, 주민등록번호 및 신용카드 번호를 제거합니다.

• 감사 로깅 — 모든 요청은 원본 콘텐츠의 해시와 함께 기록됩니다.

• OpenAI 호환 — 드롭인 교체 방식, OPENAI_BASE_URL만 변경하면 됩니다.

• 모델 라우팅 — 단일 엔드포인트를 통해 GPT-4o, Claude, Gemini 및 Llama를 지원합니다.

• 속도 제한 풀링 — 여러 업스트림 키에 걸쳐 부하를 분산합니다.

Related MCP server: @lucairn/mcp-server

빠른 시작

export OPENAI_BASE_URL=https://nexus.exchange-secure.com/v1
export OPENAI_API_KEY=your-key  # forwarded after PII scrub

또는 MCP 도구 사용 시:

{
  "mcpServers": {
    "secure-llm-proxy": {
      "url": "https://nexus.exchange-secure.com/mcp",
      "headers": {
        "Authorization": "Bearer your-key"
      }
    }
  }
}

사용 가능한 도구

chat_completion

개인정보 보호 프록시를 통해 채팅 완료를 생성합니다.

입력:

{
  "messages": [{"role": "user", "content": "Hello"}],
  "model": "gpt-4o"
}

응답에는 감사 ID, 삭제 보고서 및 완료 내용이 포함됩니다.

개인정보 보호

키는 절대 저장되지 않습니다. 요청은 감사 목적으로만 해싱됩니다. 데이터가 네트워크 경계를 벗어나기 전에 PII가 제거됩니다.