Abliterated モデルホスティング：API を利用し、GPU を不要に

abliterated 風モデルにおける「ホスティング」の意味

abliterated モデルをホスティングしているものを探している人は、たいてい同じ壁にぶつかります。重みは無料でダウンロードできますが、高性能なモデルを実行するには大量のビデオメモリ、互換性の高い推論スタック、そしてセットアップのための忍耐が必要です。ホスティングサービスはそれらすべてを他人のマシンに移します。あなたが気にする部分を維持します：コンテンツ拒否なしで法的な成人用途に回答するモデル。

このサイトでは、モデルは独立したプロバイダが実行する1つのオープンウェイトモデルです。拒否を回避するようにチューニングされており、abliterationが追求するのと同じ目標です。Meta、Mistral、Qwen、DeepSeek、またはその他のベンダーの公式APIではなく、リクエストを異なるモデルに転送するルータでもありません。モデルIDはuncensoredのみで、すべてのリクエストはそこへ送信されます。

もし技術そのものについてまず背景を知りたい場合は、abliterated モデルのページで概念をカバーし、ロールプレイ用の abliterated LLM の選択の記事でキャラクター作業にとって重要なことをカバーしています。

ローカルダウンロードまたはホスティング API：何が変わるか

どちらのオプションも常に優れているわけではありません。この表は実用的な違いをリストしています。

質問	ローカルウェイト	ホストAPI
ハードウェア	モデルと量子化に合わせたGPUメモリを用意します	クライアント側には不要
セットアップ	ダウンロード、変換、ランタイムの設定	キーの作成、Base URL の設定
コストの形状	初期のハードウェアと電力	トークン単位、前払いクレジットから
コンテキストの長さ	あなたのメモリによって制限されます	100,000 トークン（プロンプトと補完を含む）
プライバシー	すべてがあなたのマシン上に留まります	リクエストはサーバーへ送信され、プロンプトはトレーニングに使用されません
オフライン使用	動作する	接続が必要

プロンプトがあなたのハードウェアから決して離れてはならない場合は、ローカルで実行しセットアップ作業を受け入れます。もし今日の午後にアイデアをテストしたい、またはアプリがすでに OpenAI 風エンドポイントと通信している場合は、ホスティングの方が高速です。多くの人はホスティングから始めて後でローカルに移行するか、その逆を行います。

最初のリクエストを送信する

アカウントを作成し、APIキーページを開いてキーをコピーします。次に、OpenAI SDKをベースURLにポイントします。エンドポイントはPOST /v1/chat/completions、POST /v1/responses、GET /v1/modelsをサポートしています。

Python

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliterated.cc/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt, helpful writing partner."},
        {"role": "user", "content": "Draft a tense opening scene for a noir story."},
    ],
    temperature=0.8,
)
print(resp.choices[0].message.content)
print(resp.usage)

curl

Copycurl https://api.abliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in one sentence."}]}'

完全なパラメータリストはドキュメントページにあります。max_tokensはオプションです。completionは、プロンプトの後に残る100,000トークンのウィンドウの残りを何でも使用できます。

ストリーミングとツール呼び出しは他と同じように動作します

APIはOpenAI形式に従っているため、すでに使用している機能はそのまま引き継がれます。stream: trueを設定すると、トークン使用量が最後に付いたサーバー送信イベントを受け取ります。ツール呼び出しはtoolsとtool_choiceを受け入れ、tool_callsをストリーミングし、role: "tool"を持つメッセージとして結果を期待します。JSONモードはresponse_formatを通じて利用可能です。

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.abliterated.cc/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  stream: true,
  messages: [{ role: "user", content: "Write two lines of dialogue between a smuggler and a customs officer." }],
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

temperature、top_p、stop、seed、反復ペナルティなどのサンプリング設定はそのまま渡されます。これを囲むインターフェイスを構築している場合、LLMからのチャットボット構築のウォークスルーは、会話履歴を保持し、小さなアプリでストリーミングを処理する方法を示しています。

実際の数字でのコスト

料金は入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50です。サブスクリプションはありません。クレジットをチャージして使用します。クレジットは期限切れにならず、失敗または拒否されたリクエストには課金されません。

これら 2 つのレートから計算された 3 つの例を以下に示します。

• 短いチャットターン： 入力トークン 2,000 と出力トークン 500。入力は 2,000 / 1,000,000 x $0.15 = $0.0003。出力は 500 / 1,000,000 x $0.50 = $0.00025。合計 $0.00055 なので、約 1,800 のそのようなターンで $1 かかります。
• 長いストーリーセッション： 40,000 トークンの履歴を再送信し、1,000 トークンの出力。入力は $0.006、出力は $0.0005、合計 $0.0065。
• 1,000 リクエストのバッチ： 各 1,500 入力トークンと 700 出力トークン。つまり 1.5M 入力トークンで $0.225、0.7M 出力トークンで $0.35。合計 $0.575。

長い履歴はコストがかかります。なぜなら、すべての呼び出しで入力に対して課金されるからです。ストーリーが長くなったら、すべてを再送信するのではなく、以前のターンの要約を維持してください。現在のレートとボーナスは 料金ページに記載されています。

クレジットのチャージと無料トライアル

チャージは $20 から $500 までの任意の整数金額を受け付けます。より大きな金額にはボーナスが付きます：$50 から +5%、$100 から +10%、$200 から +15%。暗号資産（TRC20上のUSDT、Base上のUSDC）で支払うことができます。

支払い前にテストするには、Googleまたはメールアドレスとパスワードで登録し、APIキーページでトライアルを請求します。これは$0.50のクレジットで、7日間有効、1人1回、カードは不要です。上記の短ターンレートでは、約900件のリクエストをカバーできます。トライアルキーは最大2つの同時リクエストと1分あたり60件のリクエストに制限されています。フルキーは最大8つの同時リクエストと1分あたり300件のリクエストを許可します。

試す準備はできましたか？API キーを取得し、上記の Python スニペットを実行してください。

ローカル環境から移行する際によくある間違い

ローカルランタイムは、ホスティング API が明示化するいくつかの詳細を隠します。これらは人々が最もよくつまずくポイントです。

• 間違ったモデル名。ローカルツールは通常、ファイル名またはタグを期待します。ここではモデルIDは常にuncensoredです。他の値は期待通りに動作しません。
• ベースURLに/v1が不足。 ベースURLは/v1で終わります。クライアントは/chat/completionsを自身で追加するため、2回追加しないでください。
• ハードコードされたチャットテンプレート。 ローカルランナーはモデルのプロンプトテンプレートを必要とすることがあります。APIではプレーンなmessagesを送信し、サーバーがテンプレートを適用します。
• 履歴全体を永遠に再送信する。 ローカルモデルはトークンあたりのコストが0なので、人々は会話履歴全体を貼り付けます。APIでは、この習慣はコスト例が示すように累積します。古い会話を切り捨てまたは要約してください。
• 429応答の無視。 短い遅延で再試行し、タイトなループで同じリクエストを連続して送信しないでください。

これら 5 つを修正すれば、ローカルサーバー用に書かれたスクリプトは通常、他の変更なしでホスティングエンドポイントに対して実行できます。

計画すべき制限

ホストだからといって無制限ではありません。リクエストレートを超えると、エラーコードrate_limited付きのHTTP 429が返されます。同時リクエストが多すぎると、concurrencyエラー付きの429が返されます。一時的な過負荷時には、APIはRetry-After: 5ヘッダー付きの429も返すため、5秒待ってから再試行してください。ストリーミングリクエストはストリームが終了するまで同時実行数のスロットを保持するため、一度に複数のストリームを開くUIでは、想定よりも早く同時実行数の制限に達する可能性があります。

別の呼び出しを行わずに残りのクレジットを確認するには、X-Balance-USD応答ヘッダーを確認してください。APIはテキストのみです：画像、オーディオ、ビデオ、埋め込み表現、ファインチューニングはありません。ルールは1つ固定です：未成年者との性的コンテンツは常に許可されません。

その他のガイド

• Abliteratedモデルはどのように作られるのか？ 平易な解説
• 無検閲 LLM API：OpenAI 互換 & JSON モード