Abliterated: Tích hợp API LLM không kiểm duyệt

URL cơ sở & Xác thực

API của chúng tôi tuân theo giao diện hoàn thành trò chuyện OpenAI tiêu chuẩn. Điều này có nghĩa là bạn có thể tái sử dụng các khách hàng, SDK và đoạn mã hiện có bằng cách chỉ cần cập nhật URL cơ sở và khóa API. Không cần tiêu đề tùy chỉnh hoặc quy trình xác thực phức tạp.

Sử dụng https://api.abliterated.cc/v1 làm URL cơ sở của bạn. Bạn có thể tạo một khóa API duy nhất trên trang Lấy khóa API. Sử dụng đăng nhập Google hoặc email và mật khẩu để tạo tài khoản. Khóa được hiển thị ngay lập tức sau khi tạo. Giữ khóa này an toàn vì nó cung cấp quyền truy cập trực tiếp vào tín dụng trả trước của bạn. Không yêu cầu số điện thoại để đăng ký.

Dịch vụ cung cấp một mô hình ngôn ngữ lớn không kiểm duyệt được tối ưu hóa cho các nhiệm vụ lập trình không kiểm duyệt và suy luận mục đích chung. Bạn không cần chọn phiên bản mô hình; endpoint tự động định tuyến đến mô hình abliterated.

Endpoint Chat Completions

Điểm tương tác chính là endpoint POST /v1/chat/completions. Gửi lịch sử cuộc trò chuyện của bạn dưới dạng mảng JSON các thông báo. Mô hình sẽ xử lý đầu vào và trả về phần hoàn thành văn bản. Đây là giao diện văn bản thuần túy vào, văn bản thuần túy ra.

Đảm bảo các yêu cầu của bạn nằm trong giới hạn thân 8 MB. Cửa sổ ngữ cảnh hỗ trợ lên đến 100.000 token cho prompt và phần hoàn thành kết hợp. Nếu bạn không chỉ định giá trị max_tokens, mô hình mặc định là tạo 2.048 token.

Copycurl https://api.abliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Tham khảo trang giá cả để biết chi phí token. Lỗi và từ chối không tiêu tốn tín dụng trả trước của bạn.

Phản hồi truyền phát

Để giảm độ trễ và trải nghiệm người dùng theo thời gian thực, hãy bật truyền phát bằng cách đặt tham số stream thành true. API trả về luồng Sự kiện được máy chủ gửi (SSE). Mỗi phần chứa cập nhật văn bản một phần.

Phần cuối cùng trong luồng bao gồm thống kê sử dụng token đầy đủ cho yêu cầu. Điều này cho phép bạn theo dõi chi phí chính xác theo thời gian thực. Truyền phát lý tưởng cho giao diện trò chuyện hoặc khi xử lý đầu ra của các mô hình AI không kiểm duyệt dài.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý lỗi truyền phát một cách tinh tế. Các sự cố mạng có thể xảy ra, vì vậy hãy triển khai logic thử lại nếu ứng dụng của bạn yêu cầu kết quả hoàn tất đầy đủ.

Gọi hàm & Công cụ

Mô hình abliterated hỗ trợ sử dụng công cụ có cấu trúc. Xác định các công cụ của bạn trong tham số tools và chỉ định chiến lược tool_choice. Mô hình có thể trả về các đối tượng JSON tuân thủ lược đồ công cụ của bạn.

Tính năng này rất quan trọng để xây dựng agent hoặc ứng dụng cần tương tác với các endpoint API bên ngoài. LLM lập trình không kiểm duyệt xử lý các cấu trúc JSON phức tạp một cách đáng tin cậy. Bạn có thể kiểm soát hành vi của mô hình bằng các tham số như temperature và top_p để cân bằng giữa tính sáng tạo và tính xác định.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliterated.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Đảm bảo các định nghĩa công cụ của bạn là JSON hợp lệ. Các lược đồ không hợp lệ có thể dẫn đến lỗi phân tích cú pháp trong phản hồi.

Chế độ JSON

Để đầu ra có cấu trúc nghiêm ngặt, hãy đặt response_format thành {"type": "json_object"}. Mô hình sẽ bắt buộc đầu ra của nó là JSON hợp lệ. Điều này hữu ích cho các tích hợp API nơi bạn cần phân tích kết quả theo chương trình.

Chế độ JSON hoạt động cùng với gọi hàm và truyền phát. Nó đảm bảo rằng các trình phân tích cú pháp phía sau của bạn không bị hỏng do văn bản bị lỗi. Điều này đặc biệt có giá trị cho các ứng dụng LLM không kiểm duyệt trực tuyến yêu cầu trích xuất dữ liệu đáng tin cậy.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliterated.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Hãy lưu ý rằng việc bắt buộc chế độ JSON có thể làm tăng độ trễ hoặc giảm khả năng sáng tạo trong suy luận của mô hình. Chỉ sử dụng nó khi định dạng nghiêm ngặt là bắt buộc.

Tham số & Giới hạn

Các tham số hỗ trợ bao gồm temperature, top_p, stop, seed, presence_penalty và frequency_penalty. Điều chỉnh những điều này để tinh chỉnh phong cách đầu ra của mô hình.

Giới hạn tốc độ được đặt là 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa API. Thân yêu cầu không được vượt quá 8 MB. Nếu bạn vượt quá những giới hạn này, API sẽ trả về lỗi 429. Lỗi 401 cho biết khóa API không hợp lệ hoặc bị thiếu. Tín dụng trả trước chỉ được tính phí cho việc sử dụng token thành công; lỗi và từ chối là miễn phí.

Giới hạn nội dung cứng chặn nội dung khiêu dâm có liên quan đến người chưa thành niên. Các yêu cầu vi phạm quy tắc này sẽ bị từ chối mà không tính phí. Tín dụng không bao giờ hết hạn, và bạn có thể nạp tiền bằng USDT (TRC20) hoặc USDC (Base). Hãy bắt đầu với tín dụng dùng thử trị giá $0.50 có hiệu lực trong 7 ngày.