AutoDL Research Pilot

AutoDL Research Pilot даёт Codex практический способ ответить на два вопроса: стоит ли этому эксперименту арендовать GPU сейчас, и какой из доступных GPU действительно стоит арендовать?

Рабочий процесс Enterprise Elastic начинается с официального AutoDL API. Он считывает баланс аккаунта и наличие GPU с фильтрами по региону, CUDA, CPU, RAM и цене; развёртывания и приватные образы добавляются, когда токен имеет к ним доступ. Планировщик объединяет это живое состояние с данными о пропускной способности для конкретной рабочей нагрузки, сравнивает полное время выполнения и полную стоимость и формирует точный запрос на развёртывание Container. Запрос остаётся локальным, пока исследователь не одобрит его.

Высокая почасовая ставка не обязательно означает дороговизну. Если более быстрый GPU сокращает 30-часовой запуск до восьми часов, он может завершиться раньше и в итоге стоить меньше. И наоборот, топовый GPU может большую часть времени простаивать в ожидании DataLoader. Research Pilot моделирует сам запуск, а не ранжирует названия продуктов.

Что он делает

• Использует официальный API как плоскость управления. Обнаружение, планирование, создание, список, остановка и удаление развёртываний Enterprise — это полноценные операции CLI и MCP.

• Делает наличие исполняемым. Наличие запрашивается с теми же фильтрами по региону, CUDA, CPU/RAM, модели GPU и price_to, которые указываются в развёртывании.

• Оптимизирует весь запуск. Время выполнения, настройка, передача данных, ожидание в очереди, пропускная способность рабочей нагрузки, неопределённость и известные фиксированные затраты участвуют в едином сравнении Парето по стоимости и времени.

• Понимает исследовательские ограничения. VRAM, бюджет, дедлайн, инвентарь и готовность к запуску — жёсткие фильтры. Модель, данные, точность, сиды, семантика батчей и оценка не меняются незаметно, чтобы подогнать задачу под более дешёвую карту.

• Предлагает понятные предпочтения. economy минимизирует консервативную полную стоимость; time минимизирует время выполнения в рамках бюджета; balanced выбирает среднюю точку; custom принимает ваши собственные веса.

• Оставляет платные действия контролируемыми. Мутации по умолчанию являются предпросмотром запроса. Подтверждённое создание Elastic повторно проверяет достаточность средств на кошельке, дублирующиеся имена запусков, доступ к приватным образам и их наличие, полный инвентарь кандидатов и дедлайн непосредственно перед вызовом API.

• Поставляется как CLI, MCP-сервер и Codex Skill. Skill также охватывает диагностику GPU, хранилище, образы, команды переднего плана, создание контрольных точек и разницу жизненных циклов Pro/Elastic.

Related MCP server: Run:AI MCP Server

Быстрый старт: Enterprise Elastic

Установка

git clone https://github.com/chengxi271-commits/autodl-research-pilot.git
cd autodl-research-pilot
python -m venv .venv

Windows PowerShell:

.\.venv\Scripts\Activate.ps1
python -m pip install -e ".[mcp]"
$env:AUTODL_TOKEN = "YOUR_TOKEN"

Linux / macOS:

source .venv/bin/activate
python -m pip install -e '.[mcp]'
export AUTODL_TOKEN='YOUR_TOKEN'

Храните токен в окружении процесса. Проекту он никогда не нужен в TOML, JSON, аргументе команды или в системе контроля версий.

Опишите этот запуск

Скопируйте примеры Enterprise и замените образ, команду, регионы, границы ресурсов, факторы производительности рабочей нагрузки и потолки цен:

cp examples/elastic.project.toml my-run.project.toml
cp examples/elastic.catalog.toml my-run.catalog.toml

Каталог намеренно небольшой. В нём перечислены профили GPU, которые вы готовы использовать, а не все GPU, которые когда-либо предлагал AutoDL. Установите image_source в private для образа аккаунта или в public для UUID из приложения API AutoDL. Если dc_list охватывает несколько регионов, подготовьте входное и выходное хранилище в каждом указанном регионе или сузьте список до подготовленного. Каждый performance_factor должен быть получен из той же рабочей нагрузки или быть явно обозначенной оценкой; каждый price_ceiling_cny — это ваша максимально приемлемая почасовая цена, а не заявленная рыночная котировка.

Обнаружение, планирование, предпросмотр

autodl-pilot discover --catalog my-run.catalog.toml --output live-context.json

autodl-pilot live-plan --project my-run.project.toml --catalog my-run.catalog.toml --profile balanced --output run.plan.json

autodl-pilot apply-live-plan --plan run.plan.json

live-plan по умолчанию выполняет свежее обнаружение, поэтому отдельная команда discover необязательна. Она полезна, когда вы хотите изучить, что вернул API, или зафиксировать один снимок только для чтения для обсуждения.

Предпросмотр содержит уникальное имя запуска, точный GPU, доступные регионы, образ и источник, команду переднего плана, диапазон CPU/RAM и потолок цены. Он не выполняет мутирующих вызовов. Проверьте selected.execution_ready; если значение false, selected.needs_input указывает на отсутствующий доступ к аккаунту, образ или исследовательский шлюз. После проверки запроса, готового к выполнению:

autodl-pilot apply-live-plan --plan run.plan.json --confirm

Подтверждение повторно считывает кошелёк, активные развёртывания с тем же именем запуска, выбранный приватный образ и все фильтры наличия из каталога. Оно проверяет, что консервативное время выполнения по-прежнему укладывается в зафиксированный дедлайн, а затем вызывает POST /api/v1/dev/deployment. Если выбранный профиль исчезает или появляется ранее недоступный кандидат, процесс возвращается к планированию, а не создаёт развёртывание на основе устаревшего ранжирования и не подставляет неодобренный GPU.

Как принимается решение

Для профиля GPU g планировщик берёт за основу эталонное время выполнения и оценивает:

compute time = reference runtime / workload performance factor
total time   = queue + setup + transfer + compute time
total cost   = fixed cost + billed time × hourly price ceiling × GPU count

Данные о производительности с низкой степенью уверенности расширяют консервативные время и стоимость. Кандидаты, не прошедшие жёсткие ограничения, никогда не попадают в оценку профилей. Оставшиеся образуют границу Парето: ни один кандидат на границе не является одновременно более медленным и более дорогим, чем другой.

Ответ API о наличии сообщает количество свободных карт, а не точные цены или эталонную скорость. Поэтому Research Pilot разделяет эти факты:

1. Наличие в AutoDL подтверждает текущую доступность в ценовом диапазоне.

2. Каталог фиксирует данные о VRAM и производительности рабочей нагрузки.

3. Elastic price_to ограничивает то, что может принять развёртывание; планировщик использует этот предел для консервативного расчёта.

Текущий живой планировщик намеренно создаёт развёртывания Container с одним GPU. AutoDL описывает наличие как запрос по одной карте и предупреждает, что две свободные карты могут находиться на разных хостах. Планирование с несколькими GPU должно опираться на тест масштабирования с той же рабочей нагрузкой и явные доказательства размещения на одном хосте, а не на оптимистичную сумму инвентаря.

Как сделать выбор GPU умнее

Официальная таблица производительности AutoDL — полезная отправная точка, но её запуски однокарточные, используют синтетические входные данные в памяти и не учитывают предобработку на CPU и дополнительный ввод-вывод. Отдайте предпочтение короткому фрагменту реальной модели, точности, семантике батчей и конвейеру данных.

Встроенный Skill следует простому правилу узких мест:

• GPU на 0%: проверьте использование устройства и совместимость фреймворка/CUDA.

• GPU стабильно выше примерно 90%: может помочь более быстрый GPU или измеренный запуск с несколькими GPU на одном хосте.

• GPU низкий или колеблется: сначала проверьте CPU, воркеры DataLoader, хранилище и синхронизацию.

• CUDA OOM: прежде чем решать, что нужен больший объём VRAM, проверьте устаревшие процессы и размер батча 1.

• Процесс убит вблизи лимита RAM: запросите больше памяти контейнера, а не больший объём VRAM.

После сопоставимого успешного запуска верните его вычислительное время, накладные расходы на настройку/передачу, фактическую ставку контейнера и измеренное узкое место в соответствующий профиль каталога. Именно эта история рабочей нагрузки, а не общая таблица бенчмарков, позволяет последующим выборам становиться лучше.

Он также рассматривает хранилище как часть планирования. Горячие данные должны находиться в /root/autodl-tmp; долговечные контрольные точки и результаты — в постоянном хранилище, например /root/autodl-fs, до завершения команды Elastic. См. полевое руководство AutoDL с правилами эксплуатации и ссылками на источники.

Личные Pro-аккаунты

Официальный Pro API может считывать кошелёк, инстансы, статус, снимки и приватные образы, а также создавать, включать/выключать и освобождать инстансы. Он не публикует каталог предварительно выделяемых ресурсов или конечную точку наличия. Для новой аренды Pro используйте свежую котировку из консоли с офлайн-планировщиком:

autodl-pilot api wallet
autodl-pilot api instances
autodl-pilot api images
autodl-pilot plan --project project.toml --offers current-offers.toml --output pro.plan.json
autodl-pilot apply-plan --plan pro.plan.json

Текущая документация снимков Pro раскрывает сырые поля payg_price без указания их единицы измерения, поэтому клиент сохраняет их как есть. Перед длительным запуском проверьте выделенную цену в консоли. Создание через Pro API оплачивается по мере использования, поддерживает от одного до четырёх GPU и раскрывает расширение системного диска; включение через API поддерживает режим GPU, а не режим без карты из консоли.

Оригинальный офлайн-пример по-прежнему полезен для проверки планировщика без токена:

autodl-pilot plan --project examples/project.toml --offers examples/offers.toml --profile balanced

Его цены — это фикстуры, и они не могут пройти шлюз выполнения с актуальной котировкой.

Управление развёртыванием

autodl-pilot api deployments
autodl-pilot api containers --payload '{"deployment_uuid":"DEPLOYMENT_UUID","page_index":1,"page_size":10}'
autodl-pilot api events --payload '{"deployment_uuid":"DEPLOYMENT_UUID","page_index":1,"page_size":10,"offset":0}'

autodl-pilot deployment-stop DEPLOYMENT_UUID
autodl-pilot deployment-stop DEPLOYMENT_UUID --confirm

autodl-pilot deployment-delete DEPLOYMENT_UUID
autodl-pilot deployment-delete DEPLOYMENT_UUID --confirm

Обучение Elastic должно выполняться на переднем плане: когда завершается cmd, контейнер останавливается. Фоновая команда python train.py & может привести к тому, что биллинг и жизненный цикл окажутся оторванными от исследовательской задачи. Локальные данные не сохраняются после остановки: без повторного использования они освобождаются немедленно; кэш повторного использования может сохранить остатки, но он не является ни гарантированным хранилищем, ни перезапускаемым контейнером. cmd_before_shutdown имеет только пятисекундное окно, поэтому сохранение контрольных точек должно быть частью самой обучающей команды.

Для длительных запусков Pro через SSH используйте screen, tmux или терминал Jupyter и записывайте логи в именованный файл. Забирайте и проверяйте результаты до release; остановка вычислений и удаление восстанавливаемого состояния — это отдельные решения.

Справочник по CLI

Все обычные результаты и контролируемые ошибки выводятся в JSON. Выполните autodl-pilot --help, чтобы увидеть аргументы.

Codex и MCP

Установите дополнительный пакет mcp и загрузите этот репозиторий как локальный плагин Codex. .mcp.json предназначен для Windows; docs/mcp.unix.json — манифест для Unix. MCP предоставляет те же операции обнаружения, живого планирования, предпросмотра, подтверждения, чтения и жизненного цикла, что и CLI.

Codex Skill находится в skills/autodl-research-pilot/SKILL.md. Полезный первый запрос:

Используйте AutoDL API для просмотра живого наличия Elastic, сравните мои поддерживаемые профили GPU в режиме balanced и покажите точный предпросмотр развёртывания. Дождитесь моего одобрения перед созданием.

Область применения

Версия 0.2.0 реализует API-first корпоративный путь Container для одного GPU и сохраняет Pro/офлайн-планирование. API-клиент является плоскостью управления; SSH-передача, выполнение рабочих нагрузок, сбор метрик и получение контрольных точек остаются работой плоскости данных, координируемой Skill. Обратная связь каталога управляется Skill, а не автоматической телеметрией. Стоимость выполнения включает хранилище только тогда, когда оно указано как fixed_cost. Приобретённые балансы эластичных пакетов по длительности пока не моделируются, поэтому оценка может завышать предельные денежные затраты, когда такой баланс применяется.

Границы конечных точек и единиц задокументированы в AutoDL API Boundaries. Это проект сообщества и он не аффилирован с AutoDL.

Разработка

python -m unittest discover -s tests -v

CI запускает набор тестов на Python 3.11, 3.12 и 3.13. См. CONTRIBUTING.md, SECURITY.md и трекер задач.

Лицензия

Apache-2.0