One API LLM/1 - One API - Werkzeug


Nein, One API hat keine offizielle, kommerzielle Website, unter der ein fertiger Cloud-Dienst angeboten wird.

Da es sich um eine Open-Source-Software handelt (ursprünglich von songquanpeng entwickelt), gibt es dafür keine Web-Plattform im klassischen Sinne, bei der man sich einfach registriert. Stattdessen wird es – so wie du es gemacht hast – komplett selbst gehostet (lokal auf deinem Rechner über Docker/OrbStack oder auf einem eigenen Server).

Die gesamte Dokumentation, der Quellcode und die Installationsanleitungen sind ausschließlich über das offizielle GitHub-Repository organisiert und einsehbar:

  • GitHub: [https://github.com/songquanpeng/one-api](https://github.com/songquanpeng/one-api)

Es löst exakt das Problem, an dem LiteLLM gescheitert ist, und verarbeitet die komplexen Anfragen von VS Code wesentlich stabiler.

So funktioniert das Setup in der Praxis


1. Keys bündeln: Du trägst alle deine kostenlosen Gemini-, Codestral- und OpenRouter-Keys als einzelne "Kanäle" (Channels) in die Weboberfläche von One API ein.
2. Load Balancing: Du fasst diese Kanäle zusammen. One API verteilt die Anfragen dann automatisch (z. B. im Round-Robin-Verfahren) reihum auf deine verschiedenen Keys.
3. Automatischer Fallback: Wenn einer deiner kostenlosen Keys sein Limit erreicht und blockiert (Rate-Limit), fängt One API diesen Fehler ab und schickt die Anfrage in derselben Sekunde an den nächsten funktionierenden Key aus deiner Liste. Roo Code bekommt von diesem Wechsel im Hintergrund gar nichts mit und läuft flüssig weiter.

Die Integration in VS Code (Roo Code)


In Roo Code wählst du dann wieder den Provider OpenAI Compatible und richtest ihn auf deinen lokalen One-API-Server aus:
  • Base URL: http://127.0.0.1:3000/v1 (One API läuft standardmäßig auf Port 3000)

  • API Key: Ein Master-Token, das du dir selbst mit einem Klick in der One API Weboberfläche generierst.

  • Model ID: Der Modellname (z. B. gemini-2.5-flash), den du in One API vergeben hast.
Das Beste daran: Der Start erfolgt idealerweise komplett isoliert über einen Container. Keine Python-Umgebungen, keine Versionskonflikte und kein System-Chaos.