中文 ▾
获取 API 密钥

Abliterated 托管模型:使用 API,无需 GPU

Abliterated 模型是大语言模型,其中执行安全拒绝的机制已被移除,允许模型在不触发内容过滤器的情况下回答争议性、成人或小众问题。这种方法让开发者完全控制模型的语气和知识截止日期,对于编码、角色扮演和创意写作尤其有价值,因为标准护栏可能会阻止有用的输出。

等轴测图:笔记本电脑通过数据流连接到托管服务器机架

要点

  • 托管接口用单个 URL 和密钥替代了 GPU、权重和推理服务器。
  • 该 API 兼容 OpenAI,因此更改 base URL 和密钥后,现有 SDK 即可使用。
  • 定价为每 100 万输入 token $0.15,每 100 万输出 token $0.50,从预付额度中计费。
  • 新账户可一键领取 $0.50 试用额度,无需银行卡。

“托管”对于 abliterated 风格模型的含义

搜索托管 abliterated 模型的人通常会遇到同样的障碍。权重免费下载,但运行高性能模型需要大量显存、兼容的推理栈以及耐心进行设置。托管服务将所有这些转移到他人的机器上。你保留最关心的部分:一个在合法成人使用中不会拒绝回答的模型。

在此网站上,该模型是一个由独立提供商运行的开放权重模型。它经过调整以跳过拒绝,这与 abliteration 追求的目标相同。它不是 Meta、Mistral、Qwen、DeepSeek 或任何其他供应商的官方 API,也不是将您的请求转发到不同模型的网关。只有一个模型 ID uncensored,每个请求都指向它。

如果你想先了解该技术本身的背景,abliterated 模型页面涵盖了该理念,而为角色扮演选择 abliterated LLM文章则涵盖了角色创作的关键点。

本地下载与托管 API:有何不同

没有哪种选项总是更好。下表列出了实际差异。

问题本地权重托管 API
硬件你需要根据模型和量化方式提供 GPU 显存你端无需任何硬件
设置下载、转换、配置运行时创建密钥,设置基础 URL
成本形态前期硬件和电力成本按 token 计费,从预付额度扣除
上下文长度受你的显存限制100,000 个 token,提示词加补全
隐私一切保留在你的机器上请求发送至服务器;提示词不用于训练
离线使用可用需要连接

如果您的提示词绝不能离开您自己的硬件,请在本地运行并接受设置工作。如果您想在今天下午测试一个想法,或者您的应用已经对接 OpenAI 风格的端点,托管方式速度更快。许多人先使用托管,稍后迁移到本地,或者反之。

发起首次请求

创建账户,打开 API 密钥页面并复制您的密钥。然后将任何 OpenAI SDK 指向基础 URL。该接口支持 POST /v1/chat/completions、POST /v1/responses 和 GET /v1/models。

Python

from openai import OpenAI

client = OpenAI(
    base_url="https://api.abliterated.cc/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt, helpful writing partner."},
        {"role": "user", "content": "Draft a tense opening scene for a noir story."},
    ],
    temperature=0.8,
)
print(resp.choices[0].message.content)
print(resp.usage)

curl

curl https://api.abliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in one sentence."}]}'

完整参数列表见 文档页面。max_tokens 为可选参数;生成的文本可使用提示词消耗完 100,000-token 上下文窗口后剩余的部分。

流式输出和工具调用与其他平台无异

由于 API 遵循 OpenAI 格式,你已使用的功能可直接沿用。设置 stream: true 即可接收服务器发送事件,并在末尾获取 token 用量。函数调用接受 tools 和 tool_choice,流式输出 tool_calls,并期望以 role: "tool" 的消息形式返回结果。JSON 模式可通过 response_format 启用。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.abliterated.cc/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  stream: true,
  messages: [{ role: "user", content: "Write two lines of dialogue between a smuggler and a customs officer." }],
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

temperature、top_p、stop、seed 和重复惩罚等采样设置会直接传递。如果你正在围绕此 API 构建界面,从 LLM 构建聊天机器人 的指南展示了如何在小型应用中保留对话历史并处理流式输出。

真实价格

定价为每 100 万输入 token $0.15,每 100 万输出 token $0.50。没有订阅。您充值额度并消费;额度永不失效,且失败或被拒绝的请求不收费。

以下是三个示例,均根据上述两种费率计算得出。

  • 短对话轮次: 2,000 输入 token 和 500 输出 token。输入成本为 2,000 / 1,000,000 x $0.15 = $0.0003。输出成本为 500 / 1,000,000 x $0.50 = $0.00025。总计 $0.00055,因此约 1,800 次此类轮次成本为 $1。
  • 长故事会话: 重新发送 40,000-token 的历史记录,并生成 1,000 个输出 token。输入成本 $0.006,输出成本 $0.0005,总计 $0.0065。
  • 1,000 个请求的批次: 每个请求 1,500 个输入 token 和 700 个输出 token。即 1.5M 输入 token,$0.225,加上 0.7M 输出 token,$0.35。总计 $0.575。

长历史记录成本更高,因为每次调用都要为输入付费。当故事变长时,请保留之前轮次的摘要,而不是重新发送所有内容。当前费率和奖励列在 定价页面 上。

充值与免费试用

充值接受从 $20 到 $500 的任意整数金额。大额充值享有额外奖励:$50 起 +5%,$100 起 +10%,$200 起 +15%。您可以通过加密货币(TRC20 链上的 USDT、Base 链上的 USDC)进行支付。

为了在付费前进行测试,请使用 Google 或邮箱密码注册,然后在 API 密钥页面领取试用额度。该额度为 $0.50,有效期 7 天,每人限领一次,且无需银行卡。按上述短轮次速率计算,该额度可覆盖约 900 次请求。试用密钥限制为 2 个并发请求和每分钟 60 次请求。完整密钥允许 8 个并发请求和每分钟 300 次请求。

准备好尝试了吗?获取 API 密钥 并运行上面的 Python 代码片段。

从本地环境迁移时的常见错误

本地运行时隐藏了一些托管 API 明确显示的细节。以下是人们最常遇到的陷阱。

  • 模型名称错误。 本地工具通常期望文件名或标签。在此处,模型 ID 始终为 uncensored。任何其他值都无法按预期工作。
  • 基础 URL 中缺少 /v1。 基础 URL 以 /v1 结尾。客户端自行添加 /chat/completions,因此不要重复添加。
  • 硬编码的聊天模板。 本地运行器有时需要模型的提示词模板。使用 API 时,您发送纯 messages,服务器应用模板。
  • 持续重发整个历史记录。 本地模型每个 token 的成本为零,因此人们会粘贴整个对话记录。在 API 中,这种习惯会累积成本,如成本示例所示。请精简或总结旧轮次。
  • 忽略 429 响应。 请短暂延迟后重试,而不是在紧密循环中重复发送相同的请求。

修复这五个问题后,为本地服务器编写的脚本通常无需其他更改即可在托管接口上运行。

需规划的限制

托管并不意味着无限。超过您获得的请求速率时,会收到 HTTP 429 错误,错误代码为 rate_limited。过多的并发请求会返回带有 concurrency 的 429。在临时过载期间,API 还会发送带有 Retry-After: 5 头的 429,因此等待五秒后重试。流式请求在其流结束之前会占用并发槽位,因此一次性打开许多流的 UI 可能会比预期更早达到并发限制。

检查 X-Balance-USD 响应头以查看您的剩余额度,无需单独调用。API 仅支持文本:不支持图像、音频、视频、嵌入或微调。有一条固定规则:涉及未成年人的性内容永远不允许。

问答

这与在本地运行 abliterated 模型相同吗?

目标相同:一个不拒绝合法成人请求的模型。区别在于运行位置。此处一个开放权重模型运行在独立提供商的服务器上,您通过 API 访问它。

我需要 GPU 吗?

不需要。你的机器仅发送 HTTP 请求,因此笔记本电脑或小服务器即可满足需求。

哪些 SDK 可用?

任何兼容 OpenAI 的 SDK 或客户端。将 base URL 更改为 https://api.abliterated.cc/v1,使用你的密钥,并将模型设置为 uncensored。

我的提示词用于训练吗?

不会。提示词不用于训练。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。