Модели Abliterated: используйте API, забудьте о GPU

Что означает «хостинг» для модели в стиле аблитерации

Те, кто ищет аблитерированные модели на хостинге, обычно упираются в одну стену. Веса можно скачать бесплатно, но запуск производительной модели требует много видеопамяти, совместимого стека инференса и терпения при настройке. Хостинговый сервис переносит всё это на чужие машины. Вы сохраняете то, что вам важно: модель, которая отвечает без отказов по контенту для законного использования взрослыми.

На этом сайте модель — одна модель с открытыми весами от независимого провайдера. Она настроена так, чтобы пропускать отказы, та же цель, которую преследует аблитерация. Это не официальный API Meta, Mistral, Qwen, DeepSeek или любого другого вендора, и это не роутер, перенаправляющий ваш запрос к разным моделям. Есть один идентификатор модели, uncensored, и каждый запрос идёт именно к нему.

Если вам сначала нужна справка о самой технике, страница об аблитерированных моделях раскрывает идею, а статья об выборе аблитерированной LLM для ролевой игры — то, что важно для работы с персонажами.

Локальная загрузка или хостинг API: что меняется

Ни один вариант не всегда лучше. В этой таблице перечислены практические различия.

Вопрос	Локальные веса	Хостинговое API
Оборудование	Вы предоставляете объём памяти GPU, соответствующий модели и квантованию	Ничего с вашей стороны
Настройка	Скачивание, конвертация, настройка среды выполнения	Создать ключ, задать базовый URL
Структура расходов	Предварительные затраты на оборудование и электроэнергию	За токен, из предоплаченного баланса
Длина контекста	Ограничено вашей памятью	100 000 токенов, промпт плюс завершение
Конфиденциальность	Всё остаётся на вашей машине	Запросы идут на сервер; промпты не используются для обучения
Офлайн-использование	Работает	Требуется подключение

Если ваши промпты никогда не должны покидать ваше оборудование, запускайте локально и примите работу по настройке. Если вы хотите протестировать идею сегодня днём или ваше приложение уже общается с эндпоинтом в стиле OpenAI, хостинг быстрее. Многие начинают с хостинга, а позже переходят на локальный запуск, или наоборот.

Сделайте первый запрос

Создайте аккаунт, откройте страницу API-ключа и скопируйте свой ключ. Затем направьте любой OpenAI SDK на базовый URL. Эндпоинт поддерживает POST /v1/chat/completions, POST /v1/responses и GET /v1/models.

Python

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliterated.cc/v1",
    api_key="YOUR_KEY",
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "You are a blunt, helpful writing partner."},
        {"role": "user", "content": "Draft a tense opening scene for a noir story."},
    ],
    temperature=0.8,
)
print(resp.choices[0].message.content)
print(resp.usage)

curl

Copycurl https://api.abliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in one sentence."}]}'

Полный список параметров доступен на странице документации. max_tokens необязателен; завершение может использовать всё, что осталось от 100 000-токенного контекстного окна после вашего промпта.

Потоковая передача и вызовы инструментов работают так же, как и везде

Поскольку API следует формату OpenAI, функции, которые вы уже используете, переносятся. Установите stream: true, и вы получите события, отправляемые сервером, с использованием токенов в конце. Вызов инструментов принимает tools и tool_choice, потоково передаёт tool_calls и ожидает результаты в виде сообщений с role: "tool". JSON-режим доступен через response_format.

Copyimport OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.abliterated.cc/v1",
  apiKey: process.env.API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  stream: true,
  messages: [{ role: "user", content: "Write two lines of dialogue between a smuggler and a customs officer." }],
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Настройки сэмплирования, такие как temperature, top_p, stop, seed и штрафы за повторение, передаются напрямую. Если вы создаёте интерфейс вокруг этого, руководство по созданию чат-бота на базе LLM показывает, как сохранять историю разговора и обрабатывать потоковую передачу в небольшом приложении.

Стоимость с реальными цифрами

Тарифы: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов. Подписки нет. Вы пополняете баланс и тратите его; баланс не сгорает, а неудачные или отклонённые запросы не оплачиваются.

Вот три примера, каждый рассчитан по этим двум ставкам.

• Короткий ход чата: 2 000 входных токенов и 500 выходных токенов. Вход: 2 000 / 1 000 000 x $0,15 = $0,0003. Выход: 500 / 1 000 000 x $0,50 = $0,00025. Итого $0,00055, поэтому примерно 1 800 таких ходов стоят $1.
• Длинная сессия истории: история из 40 000 токенов, отправленная заново, с 1 000 выходных токенов. Вход: $0,006, выход: $0,0005, итого $0,0065.
• Пакет из 1 000 запросов: 1 500 входных и 700 выходных токенов каждый. Это 1,5 млн входных токенов, $0,225, плюс 0,7 млн выходных токенов, $0,35. Итого $0,575.

Длинные истории обходятся дороже, так как вы платите за входные данные при каждом вызове. Вместо отправки всей истории заново, когда история становится длинной, сохраняйте её краткое содержание. Текущие тарифы и бонусы указаны на странице тарифов.

Пополнение баланса и бесплатный пробный период

Пополнение принимает любую целую сумму от $20 до $500. Большие суммы дают бонус: +5% от $50, +10% от $100 и +15% от $200. Вы можете оплатить криптовалютой (USDT на TRC20, USDC на Base).

Чтобы протестировать перед оплатой, войдите через Google или по email и паролю, затем получите пробный период на странице API-ключа. Это $0,50 пробного баланса, действует 7 дней, один на человека, без привязки карты. По ставке короткого хода выше это покрывает примерно 900 запросов. Ключ пробного периода ограничен 2 одновременными запросами и 60 запросами в минуту. Полный ключ позволяет 8 одновременных запросов и 300 запросов в минуту.

Готовы попробовать? Получите API-ключ и запустите приведённый выше фрагмент кода на Python.

Ошибки при переходе с локальной настройки

Локальная среда выполнения скрывает некоторые детали, которые хостинговый API делает явными. Вот те, которые чаще всего вызывают затруднения.

• Неправильное имя модели. Локальные инструменты часто ожидают имя файла или тег. Здесь идентификатор модели всегда uncensored. Любое другое значение не сработает так, как вы ожидаете.
• Отсутствует /v1 в базовом URL. Базовый URL заканчивается на /v1. Клиенты добавляют /chat/completions самостоятельно, поэтому не добавляйте его дважды.
• Жёстко заданные шаблоны чата. Локальные среды выполнения иногда требуют шаблон промпта для модели. С API вы отправляете обычные messages, и сервер применяет шаблон.
• Бесконечная повторная отправка всей истории. Локальная модель не стоит ничего за токен, поэтому люди вставляют целые транскрипты. В API эта привычка накапливается, как показывают примеры стоимости. Обрезайте или кратко пересказывайте старые ходы.
• Игнорирование ответов 429. Повторите попытку с небольшой задержкой, а не отправляйте тот же запрос в тесном цикле.

Исправьте эти пять ошибок, и скрипт, написанный для локального сервера, обычно работает с хостинговым эндпоинтом без дополнительных изменений.

Лимиты, к которым нужно подготовиться

Хостинг не означает неограниченность. При превышении скорости запросов вы получаете HTTP 429 с кодом ошибки rate_limited. При слишком большом количестве одновременных запросов возвращается 429 с кодом ошибки concurrency. Во время временной перегрузки API также отправляет 429 с заголовком Retry-After: 5, поэтому подождите пять секунд и повторите запрос. Потоковый запрос удерживает слот параллельности до завершения потока, поэтому интерфейс, открывающий много потоков одновременно, может достичь лимита параллельных запросов быстрее, чем ожидалось.

Проверяйте заголовок ответа X-Balance-USD, чтобы увидеть оставшийся баланс без отдельного вызова. API работает только с текстом: нет изображений, аудио, видео, эмбеддингов или дообучения. Одно правило фиксировано: сексуальный контент с участием несовершеннолетних никогда не разрешён.

Дополнительные руководства

• Как создаются модели Abliterated? Простое объяснение
• API LLM без цензуры: совместим с OpenAI и JSON-режим