Bay Run

Bay Run ist ein zum Start kostenloser, OpenAI-kompatibler REST- und MCP-Dienst für die Inferenz kleiner Modelle am kanonischen Ursprung: https://run.huggingbay.xyz.

Kostenloser Start: 30 Sekunden

Der Start-Tarif ist kostenlos. Erstellen Sie einen Demo-Bearer-Token mit einer formularcodierten client_credentials-Anfrage und rufen Sie dann die API auf. Die veröffentlichten Grenzwerte sind 60 Anfragen pro Minute und 1.500 pro Tag; Demo-Bearer-Token laufen nach 24 Stunden ab.

Starten Sie mit der Live-Schnellstart-Anleitung zum Kopieren und Einfügen: https://run.huggingbay.xyz/quickstart.

Die eigenständige Demo im Repository ist ein kompakter Ablauf: klassifizieren → signierte Quittung → verifizieren:

python examples/bakeoff.py

import json
from urllib.parse import urlencode
from urllib.request import Request, urlopen

BASE = "https://run.huggingbay.xyz"

def post(path, body, headers):
    request = Request(BASE + path, data=json.dumps(body).encode(), headers=headers)
    return json.load(urlopen(request))

token_request = Request(
    BASE + "/oauth/token",
    data=urlencode({"grant_type": "client_credentials"}).encode(),
    headers={"Content-Type": "application/x-www-form-urlencoded"},
)
token = json.load(urlopen(token_request))["access_token"]
headers = {"Authorization": f"Bearer {token}", "Content-Type": "application/json"}
result = post("/v1/classify", {"input": "The setup was quick and clear.", "model": "auto"}, headers)
receipt = result["provenance_receipt"]
verified = post("/v1/provenance/verify", {"receipt": receipt}, headers)
assert verified.get("valid") is True or verified.get("receipt_valid") is True
print(result["labels"][0])
print("receipt verified")

Die Demo verwendet die echten /v1/classify- und Provenienz-Prüf-Schnittstellen; sie erfindet keinen Vergleichs-Endpunkt.

Related MCP server: spiderswitch

REST und SDKs

Die REST-Oberfläche umfasst OpenAI-kompatible chat/completions (einschließlich SSE-Streaming und Tools), Embeddings, Reranking, Klassifizierung, Zusammenfassung, Berechnung, JSON-Validierung und Speicher. Die schlanken SDKs liegen während des Builds und Tests neben diesem Checkout:

pip install -e ../bayrun-sdk/python
npm install ../bayrun-sdk/js

from bayrun import Client

c = Client()
answer = c.classify("A helpful result.")
stream = c.chat([{"role": "user", "content": "Say hello."}], stream=True)

import { Client } from "bayrun";

const c = new Client();
const answer = await c.classify("A helpful result.");
const stream = await c.chat([{ role: "user", content: "Say hello." }], { stream: true });

Dauerhafter remember/recall/forget-Speicher wird vom Eigentümer delegiert und ist nicht für den gemeinsamen Demo-Bearer-Token autorisiert. Verwenden Sie einen zweckgebundenen Entwicklerschlüssel oder einen Client, der mit token_endpoint_auth_method=client_secret_post registriert ist.

Adapter-Code für OpenAI Python, Vercel AI SDK, LangChain und LlamaIndex finden Sie in docs/integrations.md.

MCP: genau drei Tools

Richten Sie einen MCP-Client an https://run.huggingbay.xyz/mcp/ aus. Der Live-Server stellt genau diese drei bereit:

• get_task_quote

• run_task

• verify_result

Details zu Token und Anfrageform werden in der Live-Schnellstart-Anleitung geführt, damit die Kopieren-und-Einfügen-Vorlage aktuell bleibt.

Vertrauen und Datenrichtlinie

REST-Ergebnisse enthalten signierte Provenienz-Belege, und die Aufgabenausführung gibt eine signierte Quittung zurück, die über die Verifizierungsoberfläche überprüft werden kann. Lesen Sie die Quittungssemantik und die Live-Verifizierungsanfrage unter https://run.huggingbay.xyz/quickstart.

Bevor Sie Daten senden, lesen Sie die kanonische Richtlinie: https://run.huggingbay.xyz/.well-known/data-policy.json. Die veröffentlichte Richtlinie besagt, dass Bay Run nicht auf Eingaben trainiert.

Hugging Face Drop-in-Spiegelkatalog

Der Spiegelkatalog von Hugging Face ist unter https://huggingbay.xyz verfügbar. Für Hugging-Face-Hub-Clients, die HF_ENDPOINT beachten, richten Sie den Client am Ursprung des Spiegels aus:

export HF_ENDPOINT=https://huggingbay.xyz

Das Katalog listet derzeit 893+ gespiegelte Modelle. Prüfen Sie den aktuellen Serverstatus des Spiegels, bevor Sie sich auf ein bestimmtes Modell oder einen Repository-Pfad verlassen.