繁中 ▾
取得 API 金鑰

Abliterated 託管模型:使用 API,無需 GPU

Abliterated 模型是大型語言模型,其中執行安全拒絕的機制已被移除,使模型能夠回答爭議性、成人或小眾問題而不觸發內容過濾器。這種方法讓開發者完全控制模型的語氣和知識截止點,對於程式碼編寫、角色扮演和創意寫作特別有價值,因為標準防護措施可能會阻止有用的輸出。

等距插圖顯示筆記型電腦透過資料串流連接到託管伺服器機櫃

重點摘要

  • 託管端點取代了 GPU、權重和推論伺服器,僅需一個 URL 和一個金鑰。
  • API 與 OpenAI 相容,因此更改基礎 URL 和金鑰後,現有 SDK 即可運作。
  • 定價為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,從預付額度中扣款。
  • 新帳戶可一鍵領取 $0.50 的免費試用額度,無需信用卡。

「託管」對類 abliterated 風格模型的意義

搜尋託管 abliterated 模型的人通常會遇到相同的瓶頸。權重可免費下載,但運行具備能力的模型需要大量視訊記憶體、相容的推論堆疊,以及設定時的耐心。託管服務將所有這些移至他人的機器上。你保留你在意的部分:一個在合法成人用途下不會拒絕回答的模型。

在此網站上,該模型是由獨立供應商運行的一個開放權重模型。它經過調整以跳過拒絕,這正是 abliteration 追求的目標。它不是 Meta、Mistral、Qwen、DeepSeek 或其他任何廠商的官方 API,也不是將您的請求轉發到不同模型的路由器。只有一個模型 ID,uncensored,每個請求都會發送到它。

如果您想先了解該技術本身的背景,abliterated 模型頁面涵蓋了該概念,而為角色扮演選擇 abliterated LLM文章涵蓋了角色工作的重要內容。

本地下載或託管 API:有何不同

沒有哪種選項總是更好。下表列出了實際差異。

問題本地權重託管 API
硬體你需提供與模型和量化大小相符的 GPU 記憶體你端無需任何額外費用
設定下載、轉換、設定執行階段建立金鑰,設定 Base URL
成本結構前期硬體和電力成本按 token 計費,來自預付額度
上下文長度受你的記憶體限制100,000 token,含提示詞與補全
隱私權一切保留在你的機器上請求發送到伺服器;提示詞不用於訓練
離線使用運作正常需要連接

如果你的提示詞必須永遠不離開你的硬體,請在本地運行並接受設定工作。如果你想在今天下午測試一個想法,或者你的應用程式已經與 OpenAI 風格的端點通訊,託管速度更快。許多人先從託管開始,之後轉向本地,反之亦然。

送出第一個請求

建立帳戶,開啟 API 金鑰頁面,並複製你的金鑰。然後將任何 OpenAI SDK 指向 Base URL。端點支援 POST /v1/chat/completions、POST /v1/responses 和 GET /v1/models。

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.abliterated.cc/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt, helpful writing partner."},
        {"role": "user", "content": "Draft a tense opening scene for a noir story."},
    ],
    temperature=0.8,
)
print(resp.choices[0].message.content)
print(resp.usage)

curl

curl https://api.abliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in one sentence."}]}'

完整參數列表位於文件頁面。max_tokens 是可選的;完成生成可使用提示詞之後剩餘的 100,000 token 上下文視窗。

串流輸出和工具呼叫運作方式與其他平台相同

由於 API 遵循 OpenAI 格式,你已使用的功能可以遷移。設定 stream: true 即可接收伺服器發送的事件,並在結尾提供 token 用量。工具呼叫接受 tools 和 tool_choice,串流輸出 tool_calls,並期望結果為帶有 role: "tool" 的訊息。JSON 模式可透過 response_format 取得。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.abliterated.cc/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  stream: true,
  messages: [{ role: "user", content: "Write two lines of dialogue between a smuggler and a customs officer." }],
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

採樣設定如 temperature、top_p、stop、seed 和重複懲罰會直接傳遞。如果你正在為此構建介面,從 LLM 構建聊天機器人的逐步指南展示了如何在小型應用程式中保留對話歷史並處理串流輸出。

實際費用

定價為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。沒有訂閱制。你儲值額度並使用它;額度永不過期,失敗或被拒絕的請求不會收費。

以下是三個範例,每個範例均根據上述兩種費率計算。

  • 短對話輪次: 2,000 輸入 token 和 500 輸出 token。輸入為 2,000 / 1,000,000 x $0.15 = $0.0003。輸出為 500 / 1,000,000 x $0.50 = $0.00025。總計 $0.00055,因此約 1,800 次此類輪次成本為 $1。
  • 長篇故事會話: 重新發送 40,000 token 的歷史記錄,並產生 1,000 token 的輸出。輸入為 $0.006,輸出為 $0.0005,總計 $0.0065。
  • 1,000 個請求的批次: 每個請求 1,500 輸入和 700 輸出 token。即 1.5M 輸入 token,$0.225,加上 0.7M 輸出 token,$0.35。總計 $0.575。

長歷史記錄成本更高,因為每次呼叫都要為輸入付費。當故事變長時,請保留早期輪次的摘要,而不是重新發送所有内容。當前費率和獎勵列在定價頁面上。

儲值與免費試用

儲值金額為 $20 至 $500 的整數金額。較大的金額享有獎金:$50 起 +5%,$100 起 +10%,$200 起 +15%。您可以使用加密貨幣(TRC20 上的 USDT、Base 上的 USDC)付款。

要在付款前測試,請使用 Google 或電子郵件和密碼註冊,然後在 API 金鑰頁面領取試用額度。這是 $0.50 的額度,有效期為 7 天,每人限領一次,且不需要信用卡。根據上述短輪次費率,這涵蓋了約 900 個請求。試用金鑰限制為 2 個並行請求和每分鐘 60 個請求。完整金鑰允許 8 個並行請求和每分鐘 300 個請求。

準備好嘗試了嗎?取得 API 金鑰並執行上述 Python 程式碼片段。

從本地設定轉移時人們常犯的錯誤

本地執行階段隱藏了一些細節,而託管 API 使其顯式化。這些是最常讓人們困擾的問題。

  • 模型名稱錯誤。 本地工具通常期望檔案名稱或標籤。此處模型 ID 始終為 uncensored。任何其他值都不會按預期運作。
  • 基礎 URL 中缺少 /v1。 基礎 URL 以 /v1 結尾。用戶端會自行添加 /chat/completions,因此不要重複附加。
  • 硬編碼的聊天模板。 本地執行器有時需要模型的提示詞模板。使用 API 時,你發送純淨的 messages,伺服器會套用模板。
  • 永遠重新發送整個歷史記錄。 本地模型每個 token 成本為零,因此人們會貼上整個對話記錄。在 API 上,這種習慣會累積成本,如成本範例所示。修剪或總結舊的對話輪次。
  • 忽略 429 回應。 請稍作延遲後重試,而不是在緊密迴圈中發送相同的請求。

修復這五個問題後,為本地伺服器編寫的腳本通常無需其他更改即可在託管端點上運行。

需規劃的限制

託管不等於無限。超過請求速率時,你會收到 HTTP 429 錯誤,錯誤程式碼為 rate_limited。過多並行請求會返回 429 錯誤,程式碼為 concurrency。在暫時過載期間,API 也會發送帶有 Retry-After: 5 標頭的 429 錯誤,因此等待五秒後重試。串流請求會佔用其並行槽位直到串流結束,因此同時開啟多個串流的 UI 可能會比預期更早達到並行限制。

檢查 X-Balance-USD 回應標頭以查看剩餘額度,無需單獨呼叫。API 僅支援文字:無影像、音訊、影片、嵌入或微調。有一條固定規則:涉及未成年人的性內容永遠不允許。

問答

這與在本地運行 abliterated 模型相同嗎?

目標相同:一個不會拒絕合法成人請求的模型。差異在於運行位置。此處一個開放權重模型運行在獨立供應商的伺服器上,你透過 API 存取它。

我需要 GPU 嗎?

不需要。你的機器僅發送 HTTP 請求,因此筆記型電腦或小伺服器即可應付。

哪些 SDK 可用?

任何與 OpenAI 相容的 SDK 或客戶端。將 Base URL 變更為 https://api.abliterated.cc/v1, 並使用你的金鑰,並將模型設為 uncensored。

我的提示詞會用於訓練嗎?

不會。提示詞不會用於訓練。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。