Abliterated 模型：成本、上下文與程式碼

什麼是 Abliterated 模型？

Abliterated 模型是透過取得現有的開放權重語言模型，並系統性地移除或抑制導致其拒絕特定類型內容的神經通路而建立的。與因安全政策而禮貌拒絕討論某個主題的標準模型不同，去抑制模型會直接回答問題。此過程通常涉及識別負責拒絕的「注意力頭部」，將其影響設為接近零，或在鼓勵全面回答的資料集上調整模型。

結果是一個保留基礎智慧與推理能力但缺乏「過濾」層的模型。這意味著它可以討論成人主題、爭議性觀點或利基技術主題而不會產生拒絕訊息。必須注意，「無審查」並不意味著「無智能」；模型仍會遵循指示並保持連貫性。然而，它也可能反映基礎訓練資料中存在的偏見或錯誤，而沒有通常的公司修飾。

• 基礎模型完整性： 核心推理與語言技能保持完整。
• 拒絕移除： 觸發內容過濾器的特定機制已減弱。
• 單一權重檔案： 整個模型，包括去抑制狀態，都包含在一個檔案中。

無審查推理的成本

在本地運行無審查模型需要顯著的硬體，通常需要至少 24GB VRAM 的 GPU 來運行中型模型。對於需要可靠性和擴展性的開發者來說，自行託管模型會引入營運開銷。我們的 API 提供可預測的按量付費定價模式，消除了管理 GPU 的需求。

我們收取每 100 萬個輸入 token $0.25，每 100 萬個輸出 token $1.00。沒有月費訂閱或隱藏費用。你使用加密貨幣（TRC20 上的 USDT 或 Base 上的 USDC）預先儲值額度，且額度永不過期。你的請求中的錯誤免費，所以你只需為實際使用付費。此模型非常適合想要測試模型而不承諾固定月費的初創公司或獨立開發者。

使用類型	每 100 萬 token 的成本
輸入 token	$0.25
輸出 token	$1.00

你可以儲值任意整數金額，介於 $10 至 $500 之間。如果你儲值 $50 或以上，你會獲得 5% 的額度獎勵；儲值 $100 或以上則獲得 10% 的獎勵。這種結構確保你的基礎設施成本隨應用程式流量線性擴展。

上下文視窗優勢

對於處理長文件、程式碼庫或複雜對話的開發者來說，上下文視窗是最關鍵的因素之一。我們的 API 提供 100,000 token 的上下文視窗，允許模型在單一請求中處理並保留大量資訊。這遠大於許多較舊或較小模型中常見的 8,000 token 限制。

100k 上下文視窗可實現多種進階用例。您可以將整個程式碼庫作為上下文傳遞，使模型能夠理解跨檔案依賴關係。您也可以維持長而連貫的對話，而不會讓模型忘記之前的指示。上下文視窗包含輸入提示詞和輸出補全，因此您需要仔細規劃 token 預算。

• 程式碼分析： 傳遞多個檔案以獲得具上下文感知的建議。
• 長對話： 在數十次交談中保持狀態，不會偏離主題。
• 文件摘要： 在單一呼叫中處理大量文字區塊。

請記住，每次請求的最大輸出為 32,000 token。若未指定 max_tokens 參數，模型將預設為 2,048 token。此限制確保處理大量輸入時的穩定效能。

編碼效能

無審查模型對於程式碼任務特別有價值，因為它們較不會拒絕標準過濾器視為「不安全」的請求。例如，標準模型可能會拒絕為安全研究生成 SQL 注入載荷，而去抑制模型會直接提供。這使它們成為需要原始、無過濾輸出以進行分析、除錯或創意編碼的開發者的理想選擇。

該模型支援函式呼叫，允許你定義工具並讓模型返回結構化的 JSON 回應。這對於構建可以與外部 API 或資料庫互動的 AI 代理至關重要。你也可以強制執行 JSON 模式，以確保模型的輸出始終是有效的 JSON，從而簡化應用程式中的解析過程。

整合 API 時，你可以使用官方 OpenAI SDK 或任何與 OpenAI 相容的客戶端。base URL 為 https://api.abliterated.cc/v1，你將請求發送到 /v1/chat/completions 端點。模型 ID 僅為 uncensored。

工具使用與函式呼叫

函式呼叫是構建實用 AI 應用程式的關鍵功能。我們的 API 原生支援此功能，允許你定義工具架構，並讓模型決定呼叫哪個工具以及使用什麼參數。模型返回結構化回應，你可以在程式碼中解析並執行。

您可以指定 tool_choice 參數以強制模型呼叫特定工具或自動選擇。這種靈活性對於能夠執行多個動作的代理程式很有用，例如搜尋資料庫、更新使用者檔案或發送電子郵件。

• 結構化輸出： 使用 response_format 設為 json_object 以確保有效的 JSON。
• 工具定義： 在 tools 陣列中定義工具，包含名稱、描述和參數。
• 執行： 解析模型的回應並在程式碼中執行相應的函式。

API 支援 temperature、top_p、stop、seed、presence_penalty 和 frequency_penalty 等參數，以微調模型的行為。這允許你根據用例平衡創造力與精確度。

串流輸出效率

串流輸出對於提供聊天應用程式的良好使用者體驗至關重要。我們的 API 支援伺服器傳送事件（SSE），讓你能夠即時以 token 為單位接收模型的回應。這能降低使用者的感知延遲，因為他們會看到回應逐漸出現，而不必等待整個回應生成完畢。

在串流輸出時，API 會在最後一個區塊包含 token 用量資訊。這讓你能夠即時追蹤 token 消耗情況，並在接近預算限制時停止串流。串流介面與所有標準 OpenAI SDK 相容，使其能輕鬆整合至現有應用程式中。

需要考慮的權衡之一是，與非串流請求相比，串流有時會導致稍高的 token 計數，因為模型可能會生成填充詞或猶豫。然而，即時回饋的好處通常超過這微小的成本。如果模型開始重複或偏離主題，您也可以使用 stop 參數提前終止生成。

資料隱私與訓練

對於許多開發者而言，資料隱私是首要考量。當你使用我們的 API 時，你的提示詞不會用於訓練。這意味著你傳送至模型的資料保持私密，不會用於改進基礎模型或與第三方共享。這與某些使用客戶資料進行訓練的大型供應商相比，是一個顯著的優勢。

要註冊，你只需要一個電子郵件地址。你可以使用 Google 登入，或使用電子郵件和密碼。不需要電話號碼，試用也不需要信用卡。試用包含 $0.50 的額度，有效期為 7 天，讓你在承諾付費方案之前測試 API。

有一個硬性內容限制始終適用：模型會拒絕涉及未成年人性內容的請求。所有其他合法的成人、爭議性或利基主題均允許。這確保模型可在廣泛的應用程式中使用，而不會有意外限制。

為何選擇 API 而非本地部署？

在本地運行模型讓你能完全掌控資料和基礎設施，但這需要大量的硬體和技術專業知識。你需要管理 GPU 驅動程式、記憶體配置和模型更新。對於許多開發者而言，特別是那些建構原型或小型應用程式的人來說，這些額外負擔並不值得。

我們的 API 提供託管解決方案，處理所有基礎設施。您獲得一個可靠、可擴展的端點，具有可預測的定價。API 支援每分鐘 300 個請求和每個金鑰最多 8 個並行請求，這足以滿足大多數中小型應用程式的需求。如果您需要更高的限制，可以聯繫支援團隊。

另一個優勢是整合的便利性。你可以使用與 GPT-4 相同的程式碼，只需更改基礎 URL 和 API 金鑰。這降低了學習曲線，並允許你在需要時在模型之間切換。API 不綁定任何特定供應商，所以你不會被鎖定在單一生態系統中。

開始使用 Abliterated

開始使用我們的 API 很簡單。首先，使用你的電子郵件或 Google 註冊帳戶。你將立即收到 API 金鑰，可用於驗證你的請求。你也可以使用試用額度來測試 API，而無需輸入付款資訊。

要發出第一個請求，請在 /v1/chat/completions 端點上使用 POST 方法。將 model 參數設為 uncensored，並在 messages 陣列中包含您的提示詞。您也可以指定 temperature 和 max_tokens 等參數來控制輸出。