Wissen Sie, was Ihre KI kostet. Dann sehen Sie zu, wie wir es senken.
CostTrim ist ein Proxy zwischen Ihrer App und OpenAI, Claude, Groq, DeepSeek oder der Llama API — eine Codezeile ändern (baseURL), kein Rewrite nötig. Er verfolgt Kosten, Tokens und Latenz wie jedes Observability-Tool — aber die Inline Auto-Optimization Proxy kürzt zusätzlich aktiv Prompts und leitet einfache Anfragen in Echtzeit an günstigere Modelle um, bevor die Rechnung entsteht, nicht danach.
- model requested
- gpt-4o
- model billed
- gpt-4o-mini
- would have cost
- $0.0210
- actually billed
- $0.0032
Senden Sie einen echten Prompt, sehen Sie die echte Kostenrechnung
Helicone, Langfuse, LangSmith und Portkey zeigen Ihnen die Rechnung. Wir schrumpfen sie auch.
Die Inline Auto-Optimization Proxy schreibt Anfragen aktiv um, bevor sie den Provider erreichen — das ist kein Dashboard-Vorschlag, den Sie selbst umsetzen müssen. Beide Mechanismen sind standardmäßig aktiv und vollständig in Ihren Logs sichtbar; jeder lässt sich pro Workspace mit einem Klick abschalten, falls er nicht zum Verhalten Ihrer App passt.
System Prompt Trimmer
Fügt einem bestehenden System-Prompt automatisch eine Anweisung zur Kürze hinzu und reduziert so unnötige Antwort-Tokens bei jedem Aufruf — ohne Prompt-Engineering-Aufwand Ihrerseits.
Smart Model Routing
Erkennt kurze, klassifikationsartige Aufrufe (z. B. "klassifiziere", "extrahiere", niedriges max_tokens) und leitet sie unauffällig an ein günstigeres Modell derselben Modellfamilie um — gpt-4o → gpt-4o-mini — während alles andere unberührt bleibt.
Dasselbe Dashboard, dasselbe Tracking — egal wie Sie einsteigen.
Sie haben schon Code
Richten Sie Ihren bestehenden OpenAI/Claude-Client mit einer einzeiligen baseURL-Änderung auf uns aus, nutzen Sie unser SDK, oder führen Sie npx ai-metric init aus, damit es automatisch erledigt wird.
import { createAIMetricClient } from "ai-metric-sdk";
const ai = createAIMetricClient({
apiKey: process.env.AI_METRIC_API_KEY!,
openaiApiKey: process.env.OPENAI_API_KEY!,
baseUrl: "https://aicosttrim.com",
});
await ai.chat.completions.create({
model: "gpt-4o-mini",
messages: [{ role: "user", content: "Hello!" }],
userId: "usr_123",
});Vollständige Dokumentation ansehen (cURL, Python, Node) →Sie schreiben keinen Code — kein Problem
Fügen Sie Ihren OpenAI- oder Claude-API-Schlüssel in ein Formular ein, wählen Sie ein Modell, und erhalten Sie ein einbettbares Chat-Widget für Ihre Website. Ein <iframe>-Tag — sonst nichts — und jedes Gespräch wird automatisch erfasst, mit einem täglichen Budgetlimit gegen Überraschungsrechnungen.
Was kostet Sie Ihr Prompt eigentlich?
Fügen Sie einen echten Prompt ein, keine Anmeldung nötig — sehen Sie die monatlichen Kosten und was Kürzung plus Umleitung auf ein günstigeres Modell sparen würde.
Keine Blackbox. Jede Optimierung wird protokolliert und ist abschaltbar.
Ihre App spricht mit uns über nichts anderes.
App auf CostTrim ausrichten
Statt OpenAI oder Anthropic direkt aufzurufen, ruft Ihre App unseren Proxy auf — eine URL, ein zusätzlicher Header (X-API-KEY), derselbe Request-Body.
Wir optimieren, dann leiten wir weiter
Bevor Ihre Anfrage den Provider erreicht, kann die Inline Auto-Optimization Proxy Ihren System-Prompt kürzen und einfache, klassifikationsartige Aufrufe an ein günstigeres Modell umleiten — standardmäßig aktiv, mit einem Klick pro Workspace abschaltbar. Dann geht es weiter: OpenAI, Claude und DeepSeek werden automatisch am Modellnamen erkannt; Groq und Llama API laufen über ihren eigenen dedizierten Endpoint.
Sie erhalten die Antwort, wir protokollieren den Rest
Ihre App erhält eine normale Antwort in derselben Form wie immer, in derselben Geschwindigkeit. Im Hintergrund — nie blockierend — speichern wir Kosten, Tokens, Latenz, welches Modell tatsächlich lief und wer gefragt hat.
Keine Enterprise-Beschaffung — einfach anmelden und Ihre Zahlen sehen.
Keine Vertriebsgespräche, kein 40-seitiger Vertrag.
Kosten pro Kunde sehen, nicht nur die Gesamtsumme
Sie wissen bereits, welcher Nutzer wer ist — wir hängen einfach die Kosten daran. Exportieren Sie monatliche Nutzerkosten mit einem Klick als CSV.
Verlangsamt Ihre App nie
Wir protokollieren im Hintergrund. Hat unsere Datenbank einen schlechten Tag, bekommen Ihre Nutzer trotzdem rechtzeitig ihre Antwort.
Nichts Sensibles bleibt bei uns
Ihr OpenAI/Claude-Schlüssel durchläuft jede Anfrage und wird nie auf Festplatte geschrieben. Widerrufen Sie Ihren CostTrim-Schlüssel jederzeit, und wir sind ausgesperrt.
Kostenprognose in einfachen Worten
"Bei diesem Tempo geben Sie diesen Monat $340 aus" — sehen Sie es kommen, bevor die Rechnung da ist, keine Tabellenkalkulation nötig.
Harte Ausgabenlimits und Auto-Blocking
Setzen Sie ein Tageslimit, und Auto-Block lehnt die nächste Anfrage mit 429 ab, sobald es erreicht ist — bevor es Ihre Provider-Rechnung tut.
Upgrade mit Karte, nicht mit Vertrag
Ein Klick, Stripes eigene Checkout-Seite. Kein Verkaufsgespräch, keine PDF-Rechnung zum Hinterherjagen — genauso einfach kündbar.
Passt in eine Zeile — kostenlos testen, günstig behalten.
Zahlen Sie nur für das, was Sie tatsächlich nutzen — OpenAI-, Claude-, Groq-, DeepSeek- und Llama-API-Anfragen teilen sich dasselbe Limit, kein separater Plan pro Provider.
Beantworte 3 kurze Fragen und wir sagen dir, welcher Plan wirklich passt — ohne Fachjargon.
Zuerst registrieren, dann von Dashboard → Billing aus upgraden — die Zahlung wird vollständig über Stripes Checkout abgewickelt, wir sehen Ihre Karte nie.
Häufige Fragen
Ich kann nicht programmieren — ist das trotzdem etwas für mich?
Ja. Dashboard → Chat Widget lässt Sie Ihren OpenAI- oder Claude-Schlüssel in ein Formular einfügen und erhält eine fertige Chat-Box zum Einbetten — kein Code außer einem eingefügten Tag. Alles, was das Widget tut, erscheint trotzdem automatisch in Ihrem Dashboard.
Was sehe ich eigentlich, wenn ich mich anmelde?
Ein Dashboard mit Ihren KI-Ausgaben aufgeschlüsselt nach Tag, Modell und welcher Ihrer Kunden es nutzt. Executive Overview übersetzt es in einfache Sätze: was Sie voraussichtlich ausgeben und wo Sie sparen könnten.
Speichern Sie meinen Provider-API-Schlüssel?
Nein. Der Schlüssel wird bei jeder Anfrage mitgesendet und direkt an den Provider weitergeleitet — er landet nie in unserer Datenbank (einzige Ausnahme: das No-Code-Chat-Widget, dort verschlüsselt gespeichert).
Verlangsamt das meine App?
Der zusätzliche Netzwerk-Hop fügt Proxy-Latenz hinzu (meist einstellige Millisekunden), einschließlich des Inline-Auto-Optimization-Schritts — das ist ein leichtgewichtiges, synchrones In-Memory-Rewrite, kein zweiter API-Aufruf. Log-Schreibvorgänge selbst sind "fire-and-forget" — Ihre Antwort wartet nie auf unsere Datenbank.
Ändert die Inline Auto-Optimization Proxy, was meine KI tatsächlich tut?
Das kann sie, weshalb es ein echter Schalter ist, kein verstecktes Standardverhalten, das Sie nicht sehen können. Der System Prompt Trimmer fügt nur einem bereits gesendeten System-Prompt eine Kürze-Anweisung hinzu — er erfindet nie einen. Smart Routing leitet nur Aufrufe um, die wie kurze Klassifikations-/Formatierungsaufgaben aussehen, und nur innerhalb derselben Provider-Familie. Jede Umleitung ist in Ihren Logs sichtbar, und Sie können beides pro Workspace in den Einstellungen mit einem Klick abschalten.
Welche Provider unterstützen Sie?
OpenAI (GPT-5.x, gpt-4o, gpt-4o-mini, o1 und andere), Claude (Opus, Sonnet, Haiku), Groq, DeepSeek und Metas Llama API. Alle fünf erscheinen im selben Dashboard, egal ob Sie sie direkt oder über Ihr bestehendes Provider-SDK aufrufen.
Wie ordne ich Anfragen einem bestimmten Nutzer zu?
Übergeben Sie eine userId in der Anfrage (metadata.userId, oder das userId-Feld bei Nutzung unseres SDK). Das treibt den User Cost Explorer, nutzerbezogene Alerts und die Suche "was hat dieser Nutzer eigentlich gefragt" an.
Was passiert, wenn CostTrim ausfällt?
Wir sitzen im Anfragepfad, daher würde eine über uns geleitete Anfrage während eines Ausfalls fehlschlagen — dasselbe Risiko wie bei jeder anderen API-Abhängigkeit in Ihrem Stack. Wir laufen auf verwalteter Cloud-Infrastruktur mit Standard-Monitoring; wir veröffentlichen derzeit kein formelles Verfügbarkeits-SLA.