Modèles Abliterated hébergés : utilisez une API, évitez le GPU

Ce que signifie "hébergé" pour un modèle de style ablitéré

Les personnes recherchant des modèles ablitérés hébergés se heurtent souvent au même obstacle. Les poids sont gratuits à télécharger, mais exécuter un modèle performant nécessite beaucoup de mémoire vidéo, une pile d'inférence compatible et de la patience pour l'installation. Un service hébergé déplace tout cela sur les machines d'un tiers. Vous conservez ce qui compte : un modèle qui répond sans refus de contenu pour une utilisation adulte légale.

Sur ce site, le modèle est un modèle à poids ouverts exécuté par un fournisseur indépendant. Il est ajusté pour éviter les refus, le même objectif que poursuit l'abliteration. Ce n'est pas l'API officielle de Meta, Mistral, Qwen, DeepSeek ou tout autre fournisseur, ni un routeur qui redirige vos requêtes vers différents modèles. Il existe un seul ID de modèle, uncensored, et chaque requête y est envoyée.

Si vous souhaitez d'abord comprendre la technique, la page sur les modèles ablitérés couvre l'idée, et l'article sur le choix d'un LLM ablitéré pour le jeu de rôle couvre ce qui est important pour le travail de personnage.

Téléchargement local ou API hébergée : ce qui change

Aucune option n'est toujours meilleure. Ce tableau liste les différences pratiques.

Question	Poids locaux	API hébergée
Matériel	Vous fournissez une mémoire GPU adaptée au modèle et à la quantification	Aucun de votre côté
Configuration	Télécharger, convertir, configurer un environnement d'exécution	Créer une clé, définir l'URL de base
Structure des coûts	Matériel et énergie initiaux	Par token, à partir du crédit prépayé
Longueur du contexte	Limité par votre mémoire	100 000 tokens, prompt plus complétion
Confidentialité	Tout reste sur votre machine	Les requêtes vont à un serveur ; les prompts ne sont pas utilisés pour l'entraînement
Utilisation hors ligne	Fonctionne	Nécessite une connexion

Si vos prompts ne doivent jamais quitter votre propre matériel, exécutez-les localement et acceptez le travail d'installation. Si vous voulez tester une idée cet après-midi, ou si votre application communique déjà avec un endpoint de style OpenAI, l'hébergement est plus rapide. Beaucoup de gens commencent par l'hébergement et passent au local plus tard, ou l'inverse.

Effectuez votre première requête

Créez un compte, ouvrez la page de la clé API et copiez votre clé. Ensuite, pointez n'importe quel SDK OpenAI vers l'URL de base. L'endpoint prend en charge POST /v1/chat/completions, POST /v1/responses et GET /v1/models.

Python

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliterated.cc/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt, helpful writing partner."},
        {"role": "user", "content": "Draft a tense opening scene for a noir story."},
    ],
    temperature=0.8,
)
print(resp.choices[0].message.content)
print(resp.usage)

curl

Copycurl https://api.abliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in one sentence."}]}'

La liste complète des paramètres est sur la page de documentation. max_tokens est optionnel ; la complétion peut utiliser tout ce qui reste de la fenêtre de 100 000 tokens après votre prompt.

Le streaming et les appels d'outils fonctionnent comme ailleurs

L'API suivant le format OpenAI, les fonctionnalités que vous utilisez déjà sont compatibles. Définissez stream: true et vous recevez des événements envoyés par le serveur, avec l'utilisation des tokens à la fin. L'appel d'outils accepte tools et tool_choice, diffuse tool_calls et attend des résultats sous forme de messages avec role: "tool". Le mode JSON est disponible via response_format.

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.abliterated.cc/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  stream: true,
  messages: [{ role: "user", content: "Write two lines of dialogue between a smuggler and a customs officer." }],
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Les paramètres d'échantillonnage tels que temperature, top_p, stop, seed et les pénalités de répétition sont transmis. Si vous créez une interface autour de cela, le guide sur la construction d'un chatbot à partir d'un LLM montre comment conserver l'historique des conversations et gérer le streaming dans une petite application.

Ce que cela coûte, avec des chiffres réels

Tarification : 0,15 $ par 1M de tokens d'entrée et 0,50 $ par 1M de tokens de sortie. Pas d'abonnement. Vous rechargez du crédit et le dépensez ; le crédit n'expire jamais, et les requêtes échouées ou refusées ne sont pas facturées.

Voici trois exemples, chacun calculé à partir de ces deux tarifs.

• Tour de chat court : 2 000 tokens d'entrée et 500 tokens de sortie. Entrée : 2 000 / 1 000 000 x $0,15 = $0,0003. Sortie : 500 / 1 000 000 x $0,50 = $0,00025. Total : $0,00055, soit environ 1 800 tours pour $1.
• Session de longue histoire : renvoi d'un historique de 40 000 tokens avec 1 000 tokens de sortie. Entrée : $0,006, sortie : $0,0005, total : $0,0065.
• Lot de 1 000 requêtes : 1 500 tokens d'entrée et 700 tokens de sortie chacun. Cela représente 1,5M de tokens d'entrée, $0,225, plus 0,7M de tokens de sortie, $0,35. Total $0,575.

Les longs historiques coûtent plus cher car vous payez pour l'entrée à chaque appel. Gardez un résumé des tours précédents au lieu de tout renvoyer lorsque l'histoire devient longue. Les tarifs et bonus actuels sont listés sur la page de tarification.

Ajout de crédit et essai gratuit

Les recharges prennent n'importe quel montant entier de 20 $ à 500 $. Les montants plus élevés bénéficient d'un bonus : +5 % à partir de 50 $, +10 % à partir de 100 $ et +15 % à partir de 200 $. Vous pouvez payer avec de la crypto (USDT sur TRC20, USDC sur Base).

Pour tester avant de payer, connectez-vous avec Google ou avec e-mail et mot de passe, puis réclamez l'essai sur la page clé API. Il s'agit de 0,50 $ de crédit, valable 7 jours, une fois par personne, sans besoin de carte. Au tarif des courts tours ci-dessus, cela couvre environ 900 requêtes. Une clé d'essai est limitée à 2 requêtes simultanées et 60 requêtes par minute. Une clé complète permet 8 requêtes simultanées et 300 requêtes par minute.

Prêt à essayer ? Obtenez une clé API et exécutez l'extrait Python ci-dessus.

Erreurs courantes lors du passage du local au distant

Un environnement d'exécution local masque certains détails qu'une API hébergée rend explicites. Voici ceux qui posent le plus souvent problème.

• Mauvais nom de modèle. Les outils locaux attendent souvent un nom de fichier ou une balise. Ici, l'ID du modèle est toujours uncensored. Toute autre valeur ne fera pas ce que vous attendez.
• Oubli de /v1 dans l'URL de base. L'URL de base se termine par /v1. Les clients ajoutent /chat/completions eux-mêmes, ne l'ajoutez pas deux fois.
• Gabarits de chat codés en dur. Les exécuteurs locaux ont parfois besoin d'un gabarit de prompt pour le modèle. Avec l'API, vous envoyez des messages bruts et le serveur applique le gabarit.
• Renvoi de tout l'historique à l'infini. Un modèle local ne coûte rien par token, donc les gens collent des transcriptions entières. Sur une API, cette habitude s'additionne, comme le montrent les exemples de coût. Réduisez ou résumez les anciens tours.
• Ignorer les réponses 429. Réessayez avec un court délai au lieu de lancer la même requête en boucle serrée.

Corrigez ces cinq points et un script écrit pour un serveur local s'exécute généralement contre l'endpoint hébergé sans autre modification.

Limites à anticiper

Hébergé ne signifie pas illimité. Au-delà du taux de requêtes, vous obtenez un HTTP 429 avec le code d'erreur rate_limited. Trop de requêtes simultanées renvoient 429 avec concurrency. En cas de surcharge temporaire, l'API envoie également 429 avec un en-tête Retry-After: 5, donc attendez cinq secondes et réessayez. Une requête en streaming occupe sa place de concurrence jusqu'à la fin du flux, donc une interface qui ouvre de nombreux streams peut atteindre la limite de concurrence plus tôt que prévu.

Vérifiez l'en-tête de réponse X-Balance-USD pour voir votre crédit restant sans appel séparé. L'API est textuelle uniquement : pas d'images, audio, vidéo, embeddings ou fine-tuning. Une règle est fixe : le contenu sexuel impliquant des mineurs n'est jamais autorisé.

Plus de guides

• Comment sont créés les modèles Abliterated ? Une explication simple
• API LLM sans censure : Compatible OpenAI & mode JSON