一个 faster-whisper 转录服务，内置任务队列，多个智能体可以共享一个 GPU 而不会发生冲突。队列/worker/引擎核心与传输层无关，并通过 两个可互换的服务器 暴露 —— 选择你的客户端能对接的那一个：
服务器 | 入口点 | 默认端口 | 客户端 |
MCP |
| 8000 | 支持 MCP 的智能体（FastMCP） |
Flask |
| 8001 | 任意 HTTP/JSON 客户端 |
两个服务器都封装同一个 QueueManager，因此任务仍然一次处理一个，并且响应负载完全相同（共用 app/service.py）。
submit ─► ┌──────────────┐ one worker, one GPU ┌───────────────┐
│ job queue │ ──────────────────────► │ WhisperEngine │
poll ◄─ └──────────────┘ processed serially └───────────────┘任务入队后立即返回一个 job_id；随后你可以轮询它的状态，直到状态变为 done（或 error）。单个 worker 会按顺序取出队列中的任务，因此共享 GPU 永远不会同时运行两个转录任务。
Related MCP server: faster-whisper-mcp
pip install -e . # or: uv sync这会安装 fastmcp（MCP 传输）、flask + waitress（HTTP 传输）以及 faster-whisper（引擎）。
选择一个服务器（两个服务器相互独立 —— 互不导入）：
# MCP transport (streamable-http on :8000)
python server.py
python server.py --port 9000
python server.py --transport stdio # for stdio MCP clients
# Flask transport (HTTP/JSON on :8001)
python flask_server.py
python flask_server.py --port 9001
python flask_server.py --debug # Flask dev server with auto-reload仅运行一个进程 —— 队列和任务注册表只保存在内存中。 多线程没问题（waitress 使用线程池）；但多个 worker 进程 不行，因为它们会各自持有独立、不共享的队列。
Flask 服务器（包含生产环境 waitress 路径）会打印启动横幅，并在 stdout 上为每个请求记录一行日志，例如 GET /queue -> 200 (1.2ms)。
通过环境变量读取：
WHISPER_MODEL（默认 distil-large-v3.5）
WHISPER_DEVICE（默认 auto）
WHISPER_DEVICE（默认 auto）
WHISPER_COMPUTE_TYPE（默认 auto）
WHISPER_MODEL_DIR
方法 + 路径 | 说明 |
| 健康检查 → |
| 存活检查 → |
| 提交一个任务： |
| 轮询状态；当 |
| 取消排队中或运行中的任务 |
| 当前运行的任务、已经排队的任务、相符数量 |
示例会话：
curl localhost:8001/ping
# submit
curl -X POST localhost:8001/transcriptions \
-H 'Content-Type: application/json' \
-d '{"audio_path":"/abs/path/audio.mp3","args":"--format text"}'
# → {"job_id":"j_ab12cd34","position":1, ...}
# poll until "status":"done"
curl localhost:8001/transcriptions/j_ab12cd34
# inspect the queue / cancel
curl localhost:8001/queue
curl -X POST localhost:8001/transcriptions/j_ab12cd34/cancel同样的操作通过五个 FastMCP 工具暴露：
工具 | 描述 |
| 存活检查 |
| 入队一个任务，返回一个 |
| 轮询一个 |
| 取消排队中或运行中的任务 |
| 运行中的任务、排队任务、已完成数量 |
对运行中的 MCP 服务器进行快速检查（使用 fastmcp 客户端）：
python test_ping.py # ping the server
python test_live.py --audio /path/audio.mp3 # full submit → poll → print transcriptargs 标志（两种传输方式均适用）args 字符串在任意传输方式上接受相同的 faster-whisper CLI 标志，例如 --format srt、--model large-v3、--language en、--diarize、--word-timestamps、--beam-size 5。完整列表请参见 app/queue_manager.py 中的 _ARG_MAP。
完整请求/响应模式、状态代码、任务生命周期以及 args 标志请参见 docs/HTTP_API.md。
app/
queue_manager.py queue, worker, engine lifecycle, CLI-arg → kwargs bridge
whisper/engine.py faster-whisper wrapper (model stays loaded between jobs)
models.py JobRecord dataclass
service.py payload-shaping shared by both transports
main.py / tools.py MCP transport (create_mcp_app + tool definitions)
flask_app.py Flask transport (create_flask_app + routes)
server.py run the MCP server (:8000)
flask_server.py run the Flask server (:8001)附带的 Dockerfile 和 docker-compose.yml 使用 Docker MCP 服务器（CMD ["python", "server.py"]，端口 8000），并为 NVIDIA GPU 预留资源。要改为容器中的 Flask 传输，可以覆盖启动命令，例如：
command: python flask_server.py --port 8000pytest -m "not integration" # unit tests (engine mocked) — covers core, MCP, and Flask
pytest -m integration # requires faster-whisper + a real model/audio filetest/test_queue_manager.py — 队列/worker/取消功能
tests/test_service.py — 共享的载荷构造逻辑
tests/test_tools.py — MCP 传输端到端测试（模拟引擎）
tests/test_flask_app.py — 通过 test_client 对 Flask 路由进行端到端测试
This server cannot be deployed
OCR, transcription, file extraction, and image generation for AI agents via MCP.
MCP-first toolbox for agents: KV storage, auth, queue, and utility tools. Free in early access.
MCP server for your apps' tools and custom tools, plus hosted AI agents and approval-gated workflows
214 tools for AI agents over one MCP endpoint: image, video, audio, 3D, data, storage, mail, GPUs.