Abliterated Modellen gehost: Gebruik een API, geen GPU nodig

Wat "hosting" betekent voor een model in de stijl van abliterated

Mensen die zoeken naar gehoste abliterated-modellen stoten vaak op dezelfde muur. De weights zijn gratis te downloaden, maar een capabel model draaien vereist veel video-geheugen, een compatibele inference stack en geduld bij de installatie. Een gehoste dienst verplaatst dit alles naar de machines van iemand anders. Jij houdt het deel dat voor jou belangrijk is: een model dat antwoordt zonder content-weigeringen voor wettelijk volwassen gebruik.

Op deze site is het model één open-weight model dat door een onafhankelijke provider wordt gedraaid. Het is afgestemd om refusals te skippen, hetzelfde doel dat abliteration nastreeft. Het is niet de officiële API van Meta, Mistral, Qwen, DeepSeek of een andere leverancier, en het is geen router die je verzoek doorstuurt naar verschillende modellen. Er is één model ID, uncensored, en elk verzoek gaat naar dit model.

Wil je eerst achtergrond over de techniek zelf? De pagina over abliterated modellen behandelt het idee, en het artikel over een abliterated LLM kiezen voor rollenspel behandelt wat belangrijk is voor karakterwerk.

Lokale download of gehoste API: wat verandert er

Geen van beide opties is altijd beter. Deze tabel somt de praktische verschillen op.

Vraag	Lokale weights	Gehoste API
Hardware	Jij levert GPU-geheugen dat groot genoeg is voor het model en de kwantisering	Niets aan jouw kant
Instellen	Downloaden, converteren, runtime configureren	Maak een sleutel aan, stel een basis-URL in
Kostvorm	Voorafgaande hardware- en energiekosten	Per token, van prepaid tegoed
Contextlengte	Beperkt door je geheugen	100.000 tokens, prompt plus voltooiing
Privacy	Alles blijft op je machine	Verzoeken gaan naar een server; prompts worden niet gebruikt voor training
Offline gebruik	Werkt	Vereist een verbinding

Als je prompts je eigen hardware nooit mogen verlaten, draai dan lokaal en accepteer de installatiewerkzaamheden. Als je een idee deze middag wilt testen, of je app communiceert al met een OpenAI-compatible endpoint, is hosting sneller. Veel mensen beginnen met hosting en gaan later lokaal, of andersom.

Maak je eerste verzoek

Maak een account aan, open de API-sleutelpagina en kopieer je sleutel. Wijs vervolgens een willekeurige OpenAI SDK naar de basis-URL. De endpoint ondersteunt POST /v1/chat/completions, POST /v1/responses en GET /v1/models.

Python

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliterated.cc/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt, helpful writing partner."},
        {"role": "user", "content": "Draft a tense opening scene for a noir story."},
    ],
    temperature=0.8,
)
print(resp.choices[0].message.content)
print(resp.usage)

curl

Copycurl https://api.abliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in one sentence."}]}'

De volledige parameterlijst staat op de documentatiepagina. max_tokens is optioneel; de completion kan alles gebruiken wat overblijft van het 100.000-token contextvenster na je prompt.

Streaming en tool calls werken zoals elders

Omdat de API de OpenAI-indeling volgt, worden functies die je al gebruikt overgenomen. Stel stream: true in en je ontvangt server-sent events, met tokengebruik aan het einde. Tool calling accepteert tools en tool_choice, streams tool_calls en verwacht resultaten als messages met role: "tool". JSON-modus is beschikbaar via response_format.

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.abliterated.cc/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  stream: true,
  messages: [{ role: "user", content: "Write two lines of dialogue between a smuggler and a customs officer." }],
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Sampling settings zoals temperature, top_p, stop, seed en de repetition penalties worden doorgegeven. Als je een interface bouwt rondom deze API, toont de walkthrough over een chatbot bouwen vanuit een LLM hoe je de gespreksgeschiedenis kunt bewaren en streaming kunt afhandelen in een kleine app.

Wat het kost, met echte cijfers

Prijzen zijn $0,15 per 1M input tokens en $0,50 per 1M output tokens. Er is geen abonnement. Je laadt tegoed op en besteedt het; tegoed verloopt nooit en mislukte of refused requests worden niet in rekening gebracht.

Hier zijn drie voorbeelden, elk berekend op basis van deze twee tarieven.

• Korte chatbeurt: 2.000 input tokens en 500 output tokens. Input is 2.000 / 1.000.000 x $0,15 = $0,0003. Output is 500 / 1.000.000 x $0,50 = $0,00025. Totaal $0,00055, dus ongeveer 1.800 zulke beurten kosten $1.
• Lange sessie voor een verhaal: een 40.000-token history die opnieuw wordt verzonden met 1.000 tokens output. Input is $0,006, output is $0,0005, totaal $0,0065.
• Batch van 1.000 verzoeken: 1.500 input en 700 output tokens elk. Dat is 1,5M input tokens, $0,225, plus 0,7M output tokens, $0,35. Totaal $0,575.

Lange histories kosten meer omdat je betaalt voor input bij elke call. Bewaar een samenvatting van eerdere turns in plaats van alles opnieuw te verzenden als het verhaal lang wordt. Huidige tarieven en bonussen staan op de prijzenpagina.

Tegoed toevoegen en het gratis proeftegoed

Top-ups kunnen elk geheel bedrag van $20 tot $500 bevatten. Grotere bedragen verdienen een bonus: +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200. Je kunt betalen met crypto (USDT op TRC20, USDC op Base).

Om te testen voordat je betaalt, meld je aan met Google of met e-mail en wachtwoord en claim dan het proeftegoed op de API-sleutelpagina. Het is $0,50 aan tegoed, geldig voor 7 dagen, één per persoon, en heeft geen kaart nodig. Bij het korte-turn tarief hierboven dekt dit ongeveer 900 requests. Een trial key is beperkt tot 2 gelijktijdige requests en 60 requests per minuut. Een volledige key staat 8 gelijktijdige requests en 300 requests per minuut toe.

Klaar om het te proberen? Haal een API-sleutel en voer de bovenstaande Python-snippet uit.

Fouten die mensen maken bij de overstap van een lokale setup

Een lokale runtime verbergt enkele details die een gehoste API expliciet maakt. Dit zijn de punten die mensen het vaakst laten struikelen.

• Verkeerde modelnaam. Lokale tools verwachten vaak een bestandsnaam of een tag. Hier is het model ID altijd uncensored. Elke andere waarde zal niet doen wat je verwacht.
• Ontbrekende /v1 in de basis-URL. De basis-URL eindigt op /v1. Clients voegen /chat/completions zelf toe, dus voeg het niet twee keer toe.
• Hard gecodeerde chat-sjablonen. Lokale runners hebben soms een prompt-sjabloon nodig voor het model. Met de API stuur je platte berichten en past de server het sjabloon toe.
• De hele geschiedenis oneindig opnieuw verzenden. Een lokaal model kost niets per token, dus mensen plakken hele transcripties. Op een API telt deze gewoonte op, zoals de kostenvoorbeelden laten zien. Knip of vat oude beurtgesprekken samen.
• 429-reacties negeren. Probeer het opnieuw met een korte vertraging in plaats van hetzelfde verzoek in een strakke lus af te vuren.

Los die vijf problemen op en een script dat voor een lokale server is geschreven, draait meestal zonder andere wijzigingen tegen het gehoste endpoint.

Limieten waar je rekening mee moet houden bij het plannen

Gehost betekent niet onbeperkt. Bij de verzoekfrequentie krijg je HTTP 429 met foutcode rate_limited. Te veel gelijktijdige verzoeken leveren 429 met concurrency op. Tijdens tijdelijke overbelasting stuurt de API ook 429 met een Retry-After: 5-header; wacht vijf seconden en probeer het opnieuw. Een gestreamd verzoek houdt zijn concurrentieslot vast tot de stream eindigt, dus een UI die meerdere streams tegelijk opent, kan eerder de concurrency-limiet bereiken dan verwacht.

Controleer de X-Balance-USD response header om je resterende tegoed te zien zonder een aparte call. De API is alleen tekst: geen afbeeldingen, audio, video, embeddings of fine-tuning. Een regel is vast: seksuele inhoud met minderjarigen is nooit toegestaan.

Meer handleidingen

• Hoe worden Abliterated-modellen gemaakt? Een eenvoudige uitleg
• Uncensored LLM API: OpenAI-compatible & JSON-modus