Abliterated-Modelle gehostet: API nutzen, GPU sparen

Was „gehostet“ für ein Modell im Abliterated-Stil bedeutet

Leute, die nach gehosteten Abliterated-Modellen suchen, stoßen meist auf dasselbe Problem. Die Gewichte sind kostenlos herunterladbar, aber das Ausführen eines leistungsfähigen Modells erfordert viel VRAM, einen kompatiblen Inference-Stack und Geduld beim Einrichten. Ein gehosteter Dienst verlagert all das auf die Maschinen eines anderen. Du behältst den Teil, der dich interessiert: ein Modell, das ohne Inhaltsfilter für rechtmäßige Erwachsenennutzung antwortet.

Auf dieser Website ist das Modell ein Open-Weight-Modell, das von einem unabhängigen Anbieter betrieben wird. Es ist darauf abgestimmt, Ablehnungen zu überspringen, dasselbe Ziel, das Abliteration verfolgt. Es ist nicht die offizielle API von Meta, Mistral, Qwen, DeepSeek oder einem anderen Anbieter, und es ist kein Router, der deine Anfrage an verschiedene Modelle weiterleitet. Es gibt eine Modell-ID, uncensored, und jede Anfrage geht an dieses Modell.

Wenn du zuerst Hintergrundwissen zur Technik selbst möchtest, behandelt die Seite zu ablitierten Modellen die Idee, und der Artikel zum Auswählen eines ablitierten LLM für Roleplay behandelt, was für Charakterarbeiten wichtig ist.

Lokaler Download oder gehostete API: Was ändert sich

Keine Option ist immer besser. Diese Tabelle listet die praktischen Unterschiede auf.

Frage	Lokale Gewichte	Gehostete API
Hardware	Du stellst GPU-Speicher bereit, der zum Modell und zur Quantisierung passt	Keine auf deiner Seite
Einrichtung	Herunterladen, Konvertieren, Runtime konfigurieren	Schlüssel erstellen, Base URL festlegen
Kostenstruktur	Vorherige Hardware- und Stromkosten	Pro Token, aus Prepaid-Guthaben
Kontextlänge	Begrenzt durch deinen Speicher	100.000 Token, Prompt plus Vervollständigung
Datenschutz	Alles bleibt auf deinem Gerät	Anfragen gehen an einen Server; Prompts werden nicht zum Training verwendet
Offline-Nutzung	Funktioniert	Benötigt eine Verbindung

Wenn deine Prompts niemals deine eigene Hardware verlassen dürfen, führe lokal aus und akzeptiere den Einrichtungsaufwand. Wenn du eine Idee heute Nachmittag testen möchtest oder deine App bereits mit einem OpenAI-ähnlichen Endpunkt kommuniziert, ist Hosting schneller. Viele Nutzer beginnen mit gehosteten Diensten und wechseln später lokal, oder umgekehrt.

Erste Anfrage senden

Erstelle ein Konto, öffne die API-Schlüssel-Seite und kopiere deinen Schlüssel. Weise dann jedes OpenAI SDK auf die Basis-URL hin. Der Endpunkt unterstützt POST /v1/chat/completions, POST /v1/responses und GET /v1/models.

Python

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliterated.cc/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt, helpful writing partner."},
        {"role": "user", "content": "Draft a tense opening scene for a noir story."},
    ],
    temperature=0.8,
)
print(resp.choices[0].message.content)
print(resp.usage)

curl

Copycurl https://api.abliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in one sentence."}]}'

Die vollständige Parameterliste findest du auf der Dokumentationsseite. max_tokens ist optional; die Vervollständigung kann den Rest des 100.000-Token-Fensters nach deinem Prompt verwenden.

Streaming und Tool-Calls funktionieren wie anderswo

Da die API dem OpenAI-Format folgt, bleiben Funktionen, die du bereits nutzt, erhalten. Stelle stream: true ein, und du empfängst Server-Sent Events mit der Token-Nutzung am Ende. Tool Calling akzeptiert tools und tool_choice, streamt tool_calls und erwartet Ergebnisse als Nachrichten mit role: "tool". Der JSON-Modus ist über response_format verfügbar.

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.abliterated.cc/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  stream: true,
  messages: [{ role: "user", content: "Write two lines of dialogue between a smuggler and a customs officer." }],
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Sampling-Einstellungen wie Temperatur, top_p, Stop, Seed und Wiederholungsstrafen werden durchgereicht. Wenn du eine Oberfläche um dieses Modell herum aufbaust, zeigt der Leitfaden zum Aufbau eines Chatbots aus einem LLM, wie man den Gesprächsverlauf beibehält und Streaming in einer kleinen App handhabt.

Was es kostet, mit echten Zahlen

Die Preise betragen $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token. Es gibt kein Abonnement. Du lädst Guthaben auf und gibst es aus; Guthaben verfällt nie, und fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet.

Hier sind drei Beispiele, die jeweils aus diesen beiden Raten berechnet wurden.

• Kurze Chat-Antwort: 2.000 Eingabe-Token und 500 Ausgabe-Token. Eingabe ist 2.000 / 1.000.000 x 0,15 $ = 0,0003 $. Ausgabe ist 500 / 1.000.000 x 0,50 $ = 0,00025 $. Gesamt 0,00055 $, also kosten etwa 1.800 solcher Antworten 1 $.
• Lange Story-Sitzung: ein 40.000-Token-Verlauf, der erneut gesendet wird, mit 1.000 Token Output. Input ist $0,006, Output ist $0,0005, Gesamt $0,0065.
• Batch von 1.000 Anfragen: 1.500 Input- und 700 Output-Token jeweils. Das sind 1,5M Input-Token, $0,225, plus 0,7M Output-Token, $0,35. Gesamt $0,575.

Lange Verläufe kosten mehr, weil du für jede Anfrage Eingabe bezahlst. Behalte eine Zusammenfassung früherer Antworten bei, anstatt alles erneut zu senden, wenn die Geschichte lang wird. Aktuelle Raten und Boni sind auf der Preisseite aufgeführt.

Guthaben aufladen und das kostenlose Testguthaben

Aufladungen nehmen jeden ganzen Betrag von $20 bis $500 an. Größere Beträge erhalten einen Bonus: +5 % ab $50, +10 % ab $100 und +15 % ab $200. Du kannst mit Mit Krypto (USDT auf TRC20, USDC auf Base) bezahlen.

Um vor der Bezahlung zu testen, registriere dich mit Google oder mit E-Mail und Passwort, und beanspruche dann das Testguthaben auf der API-Schlüssel-Seite. Es sind 0,50 $ Guthaben, 7 Tage gültig, eines pro Person, und es wird keine Karte benötigt. Bei der oben genannten kurzen Antwort-Rate deckt das etwa 900 Anfragen ab. Ein Testschlüssel ist auf 2 gleichzeitige Anfragen und 60 Anfragen pro Minute beschränkt. Ein voller Schlüssel erlaubt 8 gleichzeitige Anfragen und 300 Anfragen pro Minute.

Bereit, es auszuprobieren? Hole dir einen API-Schlüssel und führe das Python-Snippet oben aus.

Fehler, die Menschen beim Wechsel von einer lokalen Umgebung machen

Eine lokale Runtime verbirgt einige Details, die eine gehostete API explizit macht. Dies sind die Punkte, die die Menschen am häufigsten verwirren.

• Falscher Modellname. Lokale Tools erwarten oft einen Dateinamen oder ein Tag. Hier ist die Modell-ID immer uncensored. Jeder andere Wert funktioniert nicht wie erwartet.
• Fehlendes /v1 in der Base URL. Die Base URL endet auf /v1. Clients fügen /chat/completions selbst hinzu, also hänge es nicht doppelt an.
• Hart codierte Chat-Vorlagen. Lokale Runner benötigen manchmal eine Prompt-Vorlage für das Modell. Mit der API sendest du einfache messages, und der Server wendet die Vorlage an.
• Immer die ganze Historie erneut senden. Ein lokales Modell kostet pro Token nichts, also fügen Leute ganze Transkripte ein. Bei einer API summiert sich diese Gewohnheit, wie die Kostenbeispiele zeigen. Kürze oder fasse alte Antworten zusammen.
• 429-Antworten ignorieren. Wiederhole mit kurzer Verzögerung, statt dieselbe Anfrage in einer engen Schleife abzufeueren.

Behebe diese fünf, und ein für einen lokalen Server geschriebenes Skript läuft normalerweise ohne weitere Änderungen gegen den gehosteten Endpunkt.

Grenzen, die du einplanen solltest

Gehostet bedeutet nicht, dass es keine Grenzen gibt. Wenn du das Anfragetempolimit überschreitest, erhältst du HTTP 429 mit dem Fehlercode rate_limited. Zu viele gleichzeitige Anfragen führen zu 429 mit concurrency. Bei temporärer Überlastung sendet die API ebenfalls 429 mit einem Retry-After: 5-Header, warte also fünf Sekunden und versuche es erneut. Eine gestreamte Anfrage belegt ihren Concurrency-Slot bis zum Stream-Ende, sodass eine Benutzeroberfläche, die viele Streams gleichzeitig öffnet, das Concurrency-Limit früher erreichen kann als erwartet.

Überprüfe den X-Balance-USD Antwort-Header, um dein verbleibendes Guthaben ohne separate Anfrage zu sehen. Die API ist nur Text: keine Bilder, Audio, Video, Embeddings oder Fine-Tuning. Eine Regel ist fest: sexuelle Inhalte mit Minderjährigen sind nie erlaubt.

Weitere Anleitungen

• Wie werden Abliterated-Modelle erstellt? Eine einfache Erklärung
• Unzensierte LLM-API: OpenAI-kompatibel & JSON-Modus