NVIDIA NIM API kostenlos nutzen (build.nvidia.com) 2026

Kurz gesagt: Ja, NVIDIA lässt Sie seine gehosteten KI-Modelle beim Prototyping kostenlos aufrufen. Treten Sie dem kostenlosen NVIDIA Developer Program bei (das passiert automatisch, wenn Sie auf build.nvidia.com auf Get API Key klicken), dann können Sie die NIM-API-Endpunkte für Entwicklung und Tests nutzen. NVIDIA veröffentlicht weder ein Guthaben noch ein festes Rate Limit, und für den Produktivbetrieb ist eine kostenpflichtige Lizenz für NVIDIA AI Enterprise nötig.

Was Sie kostenlos bekommen

NIM (NVIDIA Inference Microservices) sind die paketierten, GPU-optimierten Modellserver von NVIDIA. Der API Catalog auf build.nvidia.com hostet viele davon auf NVIDIA DGX Cloud, sodass Sie Modelle per HTTP aufrufen können, ohne etwas zu deployen. Die eigene NIM-Seite von NVIDIA beschreibt die gehosteten Endpunkte als kostenlos für „unbegrenztes Prototyping, betrieben von DGX Cloud“.

Der entscheidende Unterschied ist die Nutzungsart, nicht das Volumen. Die FAQ von NVIDIA definiert Produktivbetrieb als jede Nutzung über Entwicklung, Tests, Forschung oder Evaluierung hinaus – einschließlich geschäftlicher Transaktionen oder der Bedienung echter Endnutzer. Ein Nebenprojekt, das nur Sie nutzen, ist Prototyping; eine öffentliche App mit Kunden ist Produktivbetrieb, selbst bei winzigem Traffic.

Rate Limits und Credits: Was offiziell ist und was nicht

Hier liegen die meisten Ratgeber falsch, deshalb trennen wir die Quellen klar.

• Offiziell: Die Dokumentation von NVIDIA bestätigt kostenlosen Zugang zum Prototyping, veröffentlicht aber weder einen Guthabenbetrag noch ein Tageskontingent noch einen festen Wert für Anfragen pro Minute bei der gehosteten API.
• NVIDIA-Mitarbeitende im Forum (laut Community-Threads): Die Limits hängen von Modell, Anwendungsfall und aktueller Gesamtauslastung ab, und es gibt keinen offiziellen Weg zu einem höheren Limit in derselben kostenlosen Stufe.
• Von der Community berichtet: Entwickler sehen häufig etwa 40 Anfragen pro Minute, und in den Developer Forums gibt es viele Anfragen, das auf 200 RPM anzuheben. Eine Analyse berichtet, dass die Grenze pro API-Key/Konto gilt statt pro Modell. Keiner der Werte ist eine Garantie von NVIDIA.
• Geschichte der Credits (unbestätigt): Berichte von Drittanbietern sagen, der Katalog habe bei der Registrierung einmal 1.000 Credits vergeben, auf Anfrage erweiterbar auf 5.000, bevor er auf Rate Limits umstieg. Die aktuelle Dokumentation von NVIDIA erwähnt keine Credits, und wir konnten die Änderung nicht aus einer offiziellen Quelle bestätigen.

Ihr Konto-Dashboard auf build.nvidia.com ist der einzige verlässliche Ort, um die aktuell für Sie geltenden Limits zu sehen. Planen Sie mit einigen Dutzend Anfragen pro Minute, nicht mit Hunderten, und bauen Sie Wiederholungen mit Backoff für 429-Antworten ein.

Schritt für Schritt: Einen kostenlosen API-Key bekommen

Das folgt dem offiziellen Quickstart für den API Catalog von NVIDIA.

1. Rufen Sie build.nvidia.com auf und öffnen Sie eine Modellseite – das Beispiel von NVIDIA nutzt meta/llama-3.1-8b-instruct.
2. Klicken Sie auf Get API Key.
3. Geben Sie Ihre E-Mail-Adresse ein und klicken Sie auf Next. Damit treten Sie auch dem NVIDIA Developer Program bei.
4. Melden Sie sich an, wenn Sie bereits ein NVIDIA-Konto haben, oder legen Sie ein Passwort fest, um eines zu erstellen.
5. Wenn der Key erscheint, klicken Sie auf Copy Key und bewahren Sie ihn sicher auf, etwa in einer Umgebungsvariable oder einem Secrets Manager.
6. Klicken Sie im rechten Bereich der Modellseite auf Copy Code, um ein funktionierendes Beispiel zu erhalten, und ersetzen Sie den Platzhalter API_KEY_REQUIRED_IF_EXECUTING_OUTSIDE_NGC durch Ihren Key.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://integrate.api.nvidia.com/v1",
    api_key=os.environ["NVIDIA_API_KEY"],
)
resp = client.chat.completions.create(
    model="meta/llama-3.1-8b-instruct",
    messages=[{"role": "user", "content": "Explain what an inference microservice is in two sentences."}],
    max_tokens=200,
)
print(resp.choices[0].message.content)

Die LLM-API-Referenz von NVIDIA nennt als Chat-Endpunkt POST /v1/chat/completions auf https://integrate.api.nvidia.com, weshalb das OpenAI-SDK schon funktioniert, wenn Sie nur die Basis-URL ändern. Modell-IDs folgen dem Muster publisher/model, wie es auf jeder Seite von build.nvidia.com angezeigt wird.

Kostenlose gehostete API vs. kostenloses selbst gehostetes NIM

Selbst hosten ist der richtige Weg, wenn das gehostete Rate Limit Ihre Tests behindert: Sie können ein NIM auf Ihren eigenen GPUs unter Last testen, ohne an die geteilten Limits von NVIDIA zu stoßen, und die Lizenz erlaubt das für die Entwicklung. NVIDIA weist darauf hin, dass AI Enterprise pro GPU berechnet wird, nicht pro NIM, und sich nicht mit der GPU-Größe ändert.

So holen Sie das Meiste aus den kostenlosen Endpunkten heraus

• Prototypen Sie zuerst mit kleinen Modellen. Ein 8B-Modell reicht, um Prompts, Tool Calls und Parsing zu verdrahten; wechseln Sie erst zu einem größeren Modell, wenn die Grundstruktur steht, damit Sie Ihre begrenzte Anfragerate für relevante Antworten nutzen.
• Behandeln Sie 429-Antworten. Wird das geteilte Limit erreicht, lehnt die API Anfragen ab; exponentielles Backoff mit Jitter verhindert, dass Skripte und Agentenschleifen komplett abbrechen.
• Begrenzen Sie max_tokens und streamen Sie lange Antworten. Kürzere Antworten geben Kapazität schneller frei und machen die Latenz unter Last vorhersehbarer.
• Cachen Sie wiederholte Aufrufe lokal während der Entwicklung. Ein erneut ausgeführtes Notebook sollte keine identischen Prompts noch einmal senden.
• Verwenden Sie einen Key pro Projekt. Wenn ein Key geleakt wird, können Sie ihn widerrufen, ohne alles andere lahmzulegen.
• Verlagern Sie intensive Tests auf ein selbst gehostetes NIM. Lasttests und Batch-Evaluierungen sind genau das, wofür das Entwicklungskontingent von 16 GPUs für herunterladbare NIM-Microservices gedacht ist.

Da die Limits geteilt und von der Auslastung abhängig sind, spiegeln Ergebnisse eines schnellen Benchmarks gegen den gehosteten Endpunkt nicht wider, was Sie auf dedizierter Hardware erreichen würden. Nutzen Sie die kostenlose API, um ein Modell auszuwählen und die Qualität zu prüfen, und messen Sie den Durchsatz auf der Infrastruktur, auf der Sie tatsächlich deployen.

Für wen es sich eignet

• Entwickler, die offene Modelle evaluieren, etwa die Llama-Familie von Meta auf NVIDIA-optimierten Endpunkten, bevor sie sich für einen Host entscheiden.
• Teams, die auf NVIDIA-GPUs selbst hosten wollen und genau das NIM testen möchten, das sie später deployen.
• Experimente mit Coding-Agenten und Tools, die für die persönliche Nutzung einen OpenAI-kompatiblen Key brauchen – innerhalb des Rate Limits.
• Studierende und Forschende, da Forschung und Experimente ausdrücklich abgedeckt sind.

Für alles mit Endnutzerkontakt ist es ungeeignet: Die Bedingungen schließen den Produktivbetrieb aus, und unveröffentlichte, auslastungsabhängige Limits machen es für eine Live-App unzuverlässig.

Wenn Sie bereit für den Produktivbetrieb sind

• NVIDIA AI Enterprise: Starten Sie die kostenlose 90-Tage-Testphase und lizenzieren Sie danach ab 4.500 $ pro GPU und Jahr (etwa 1 $ pro GPU-Stunde in der Cloud). NVIDIA unterstützt die optimierte Inferenz-Engine und Laufzeitumgebung, nicht die Modelle oder deren Ausgaben.
• Startups: NVIDIA Inception ist kostenlos und bietet Cloud-Guthaben von Partnern sowie Vorzugspreise für NVIDIA-Hardware.
• Andere Hosts für dieselben offenen Modelle: Pay-as-you-go-Anbieter auf unserer Website oder verwaltete kostenlose Stufen für geringes Volumen.

Vergleich mit anderen kostenlosen KI-APIs

Der ähnliche Prototyping-Dienst von GitHub, GitHub Models, wurde im Juli 2026 eingestellt; der Katalog von NVIDIA ist damit einer der verbliebenen kostenlosen Orte, um mit gehosteten offenen Modellen zu prototypen. Eine umfassendere Liste finden Sie in unseren Ratgebern zu kostenlosen KI-API-Keys und So erhalten Sie kostenlose KI-Credits.

Häufige Fehler

• Den kostenlosen Zugang als Produktiv-Backend nutzen. Die Bedingungen von NVIDIA stellen klar, dass die Bedienung echter Endnutzer Produktivbetrieb ist.
• Von festen 40 RPM ausgehen. Das ist ein Community-Wert; laut NVIDIA variieren die Limits mit Modell und Auslastung, bauen Sie also Wiederholungen ein.
• Im Forum um ein höheres Rate Limit bitten. NVIDIA-Mitarbeitende haben erklärt, dass es keinen offiziellen Weg gibt, die Limits in der kostenlosen Stufe anzuheben; mehr Kapazität gibt es über Selbst-Hosting oder AI Enterprise.
• Den Key im Beispielcode fest eintragen. Das kopierte Snippet hat einen Platzhalter für den Key; laden Sie ihn stattdessen aus einer Umgebungsvariable.
• NIM mit dem Inception-Programm verwechseln. Inception ist ein Startup-Programm mit Partnerguthaben; die kostenlose API gehört zum Developer Program.