K8sネイティブなエージェント/モデルワークロードオペレーターで、SAMメッシュ登録とMCPオペレーションプレーンを備えています。
プロセス起動型オーケストレーター（vllm-orchestrator）を、宣言的なK8sリソースに置き換えます。 すべての操作はMCPツールとして公開され、LangGraph/LangChainワークフロー構成に利用できます。
LangGraph agent ──MCP──▶ agentctl ops plane (:8091)
│
┌─────────┼─────────┐
▼ ▼ ▼
workload_* fleet_* sam_*
tools tools tools
│ │ │
▼ ▼ ▼
K8s API K8s API SAM node
(CRDs) (pods) (discovery)Related MCP server: k8s-aiops
pip install agentctl
# or
uv pip install agentctlkubectl apply -f https://github.com/moreWax/agentctl/releases/latest/download/install.yamlこれにより、CRD、オペレーター、MCPオペレーションプレーンがagentctl-systemにインストールされます。オペレーションプレーンはクラスター内でhttp://agentctl-mcp.agentctl-system.svc.cluster.local:8091/mcp（ステートレスなStreamable HTTP）からアクセス可能です。
kubectl apply -f examples/qwen3.8-27b.yaml # Qwen3.8-27B, TP2 on 2 GPUs
kubectl apply -f examples/qwen3.8-27b-fp8.yaml # FP8 variant, single GPU
kubectl apply -f examples/litellm-gateway.yaml # LiteLLM proxy gatewayuv venv && uv pip install -e ".[dev]"
kubectl apply -f crd/agentctl-crd.yaml
agentctl serve # operator (kopf controllers)
agentctl mcp --port 8091 # MCP ops-plane server (stateless Streamable HTTP)kubectl apply -f examples/qwen3.8-27b.yaml # Qwen3.8-27B, TP2 on 2 GPUs
kubectl apply -f examples/qwen3.8-27b-fp8.yaml # FP8 variant, single GPU
kubectl apply -f examples/litellm-gateway.yaml # LiteLLM proxy gatewayLiteLLMゲートウェイは、OpenAI互換のリクエストをvLLMバックエンドにルーティングします。エージェントをhttp://litellm-gateway:4000/v1に向け、qwen3.8-27bやqwen3.8-27b-fp8などのモデル名を使用してください。
全20ツールはステートレスで、構造化JSONを返し、破壊的な操作は承認フラグの後ろにゲートされます。
フリートクエリ
ツール | 説明 |
| 集約ビュー：フェーズ別ワークロード、GPU合計 |
| ノードごとのGPU容量 / 割り当て済み / 空き + 消費者 |
| ポッドごとの詳細：ノード、ブートフェーズ、GPU、再起動回数 |
| ドライラン：N個のGPUを収容できるノード — ブート前に呼び出し |
| サービスごとのエンドポイント readiness |
| SAMメッシュサービスを検出 |
ワークロードライフサイクル
ツール | 説明 |
| フェーズ、GPU、ピン状態を含むワークロードの一覧 |
| ポッドごとのブートフェーズを含む完全な詳細 |
| ポッドごとの最近のコンテナログ |
| レプリカをスケール（0 = パーク；ピン留めされたワークロードは |
| ワークロードを削除 — |
| モデルワークロードを作成（冪等） |
| モデルワークロードを削除 |
| ハングしたポッドを強制削除 — |
| ピン留めはスケールダウンを防ぎます（モデルを常駐させる） |
| サスペンド/ウェイク。FMAワークロード（ |
ブートオーケストレーション
ツール | 説明 |
| デプロイ + オプションのサーバー側待機（ |
| ブート進行状況をポーリング：ポッドフェーズ + vLLMログマーカー（ |
エージェントのブート待機パターン（LangGraphループ）：
boot_model(model_id="qwen38-27b", image="vllm/vllm-openai:v0.18.0", gpu_count=2)
while True:
s = boot_status(model_id="qwen38-27b")
if s["ready"]: break # proceed to inference
if s["failed"]: ... # inspect s["pods"], kill_pod + retry
time.sleep(10) # poll againuv venv && uv pip install -e ".[dev]"
pytest tests/ -qMIT
This server cannot be deployed
MCP-Native LLM Orchestration Agent
Control plane for autonomous software labor. Agents claim objectives over MCP with audit trail.
Build and run AI workflows, agents, data tables and 1000+ API integrations from any MCP client.
MCP Hub: AI service discovery, per-user OAuth, and multi-service workflow orchestration
