K8s 原生的代理/模型工作负载 operator，支持 SAM mesh 注册和 MCP 运维平面。
用声明式 K8s 资源取代进程启动型编排器（vllm-orchestrator）。 每个操作都作为 MCP 工具暴露，用于 LangGraph/LangChain 工作流编排。
LangGraph agent ──MCP──▶ agentctl ops plane (:8091)
│
┌─────────┼─────────┐
▼ ▼ ▼
workload_* fleet_* sam_*
tools tools tools
│ │ │
▼ ▼ ▼
K8s API K8s API SAM node
(CRDs) (pods) (discovery)Related MCP server: k8s-aiops
pip install agentctl
# or
uv pip install agentctlkubectl apply -f https://github.com/moreWax/agentctl/releases/latest/download/install.yaml这会将 CRD、operator 和 MCP 运维平面安装到 agentctl-system 中。运维平面可在集群内通过 http://agentctl-mcp.agentctl-system.svc.cluster.local:8091/mcp 访问（无状态 Streamable HTTP）。
kubectl apply -f examples/qwen3.8-27b.yaml # Qwen3.8-27B, TP2 on 2 GPUs
kubectl apply -f examples/qwen3.8-27b-fp8.yaml # FP8 variant, single GPU
kubectl apply -f examples/litellm-gateway.yaml # LiteLLM proxy gatewayuv venv && uv pip install -e ".[dev]"
kubectl apply -f crd/agentctl-crd.yaml
agentctl serve # operator (kopf controllers)
agentctl mcp --port 8091 # MCP ops-plane server (stateless Streamable HTTP)kubectl apply -f examples/qwen3.8-27b.yaml # Qwen3.8-27B, TP2 on 2 GPUs
kubectl apply -f examples/qwen3.8-27b-fp8.yaml # FP8 variant, single GPU
kubectl apply -f examples/litellm-gateway.yaml # LiteLLM proxy gatewayLiteLLM 网关将 OpenAI 兼容的请求路由到 vLLM 后端。将你的代理指向 http://litellm-gateway:4000/v1，并使用类似 qwen3.8-27b 或 qwen3.8-27b-fp8 的模型名称。
所有 20 个工具都是无状态的，返回结构化 JSON，并将破坏性操作置于批准标志之后。
集群查询
Tool | Description |
| 聚合视图：按阶段的工作负载、GPU 总数 |
| 每节点 GPU 容量 / 已分配 / 空闲 + 消费者 |
| 每 Pod 详情：节点、启动阶段、GPU、重启次数 |
| 预演：哪些节点可容纳 N 个 GPU — 启动前调用 |
| 每个服务的端点就绪状态 |
| 发现 SAM mesh 服务 |
工作负载生命周期
Tool | Description |
| 列出工作负载及其阶段、GPU、固定状态 |
| 完整详情，包括每个 Pod 的启动阶段 |
| 每个 Pod 的最近容器日志 |
| 缩放副本（0 = 暂停；除非 |
| 删除工作负载 — 需要 |
| 创建模型工作负载（幂等） |
| 移除模型工作负载 |
| 强制删除挂起的 Pod — 需要 |
| 固定可防止缩放（保持模型驻留） |
| 挂起/唤醒。FMA 工作负载（ |
启动编排
Tool | Description |
| 部署 + 可选的服务器端等待（ |
| 轮询启动进度：Pod 阶段 + vLLM 日志标记（ |
代理启动等待模式（LangGraph 循环）：
boot_model(model_id="qwen38-27b", image="vllm/vllm-openai:v0.18.0", gpu_count=2)
while True:
s = boot_status(model_id="qwen38-27b")
if s["ready"]: break # proceed to inference
if s["failed"]: ... # inspect s["pods"], kill_pod + retry
time.sleep(10) # poll againuv venv && uv pip install -e ".[dev]"
pytest tests/ -qMIT
This server cannot be deployed
MCP-Native LLM Orchestration Agent
Control plane for autonomous software labor. Agents claim objectives over MCP with audit trail.
Build and run AI workflows, agents, data tables and 1000+ API integrations from any MCP client.
MCP Hub: AI service discovery, per-user OAuth, and multi-service workflow orchestration
