Miglior LLM Abliterated per roleplay: guida alla configurazione API

Cosa rende un modello bravo nel roleplay

Il gioco di ruolo è un test difficile per un modello linguistico. Deve mantenere una voce per centinaia di messaggi, ricordare cosa è successo tre scene fa, restare in character quando la storia diventa oscura e non uscire mai di personaggio per spiegarsi. Un modello assistente standard fallisce più spesso sull'ultimo punto. Scrive un buon paragrafo, poi aggiunge una nota di disclaimer o rifiuta una svolta di trama che è pura finzione.

Un modello abliterated o senza censura è ottimizzato per rimuovere quei rifiuti. Questo aiuta, ma è solo una delle cinque caratteristiche da verificare prima di scegliere un provider:

• Comportamento di rifiuto. Segue il dialogo di un cattivo o una scena moralmente ambigua senza commenti?
• Lunghezza del contesto. La scheda personaggio, le note sul mondo e la cronologia delle chat possono stare in una singola richiesta?
• Coerenza. Un personaggio mantiene le stesse abitudini di linguaggio durante una sessione lunga?
• Controllo del campionamento. Puoi modificare temperatura, top_p, penalità e sequenze di stop?
• Streaming. Il testo appare token per token, così una risposta sembra una conversazione?

Nessuno può nominare onestamente un vincitore unico per ogni stile di storia. Il gusto conta, e due scrittori classificheranno lo stesso modello in modo diverso. La risposta pratica è eseguire le tue scene con un candidato e giudicare l'output da solo.

Cosa questa API ti offre per il roleplay

Il servizio esegue un unico modello a pesi aperti, ospitato da un provider indipendente e ottimizzato per rispondere senza rifiuti di contenuto per l'uso adulto legale. L'ID del modello è uncensored. Non c'è instradamento tra i fornitori, quindi la voce che hai testato lunedì è la voce che ottieni venerdì.

Esigenza di roleplay	Cosa ottieni
Memoria lunga	100.000 token di contesto, prompt più completamento
Effetto digitazione in tempo reale	Streaming su SSE con stream: true
Controllo dello stile	temperatura, top_p, stop, seed e entrambe le penalità vengono trasmesse
Supporto client	Compatibile con OpenAI, quindi SillyTavern e strumenti simili funzionano con un cambio di URL
Privacy	I prompt non sono usati per l'addestramento

Un limite rigido si applica ed è non negoziabile: nessun contenuto sessuale che coinvolga minorenni. Tieni i tuoi personaggi e scenari dal lato giusto di quella linea e nell'ambito di un uso adulto legale. I dettagli della famiglia di modelli sono nella pagina modelli abliterated.

Collega SillyTavern in cinque passaggi

SillyTavern può parlare con qualsiasi endpoint compatibile con OpenAI. Le etichette del menu variano leggermente tra le versioni, ma il flusso è lo stesso.

1. Crea un account e ottieni la tua chiave nella pagina delle chiavi API. I nuovi utenti possono ottenere $0,50 di credito di prova con un clic, valido per 7 giorni, senza bisogno di carta.
2. In SillyTavern, apri l'icona della spina (API Connections) e imposta il tipo di API su Chat Completion.
3. Scegli la sorgente Personalizzata (compatibile con OpenAI).
4. Inserisci https://api.abliterated.cc/v1 come URL dell'endpoint e incolla la tua chiave nel campo chiave API.
5. Digita uncensored come ID del modello, quindi premi Connetti. Uno stato verde significa che la richiesta a /v1/models è andata a buon fine.

Se la connessione fallisce, controlla prima l'URL. Deve terminare con /v1 senza percorso finale e senza /chat/completions extra. Il client aggiunge quella parte da solo.

Impostazioni iniziali consigliate

Una temperatura tra 0,8 e 1,0 dà una prosa vivace. Mantieni top_p vicino a 0,9. Aggiungi una piccola penalità di frequenza, intorno a 0,2, se le risposte iniziano a ripetere le stesse frasi. Imposta una dimensione del contesto vicina alla finestra reale, ma lascia spazio per la risposta. Poi regola per sensazione dopo alcune scene.

Crea il tuo loop di roleplay in Python

Se scrivi il tuo frontend o un bot Discord, l'SDK OpenAI è sufficiente. Questo script mantiene la cronologia completa, trasmette la risposta e impedisce al modello di scrivere le tue righe per te.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliterated.cc/v1",
    api_key="YOUR_KEY",
)

system = (
    "You are Mara, a smuggler captain in a sea-faring fantasy setting. "
    "Write in third person, past tense, two short paragraphs per reply. "
    "Never write the actions or words of the player character."
)
history = [{"role": "system", "content": system}]

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})

    stream = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.9,
        top_p=0.9,
        frequency_penalty=0.2,
        stop=["\nPlayer:"],
        stream=True,
    )
    reply = ""
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
    print()
    history.append({"role": "assistant", "content": reply})

La stessa chiamata funziona da Node, curl o qualsiasi altro client OpenAI. Solo l'URL di base, la chiave e l'ID del modello cambiano. La guida rapida nella documentazione mostra ogni variante.

Scrivi una scheda personaggio che il modello possa seguire

La maggior parte dei problemi di qualità nel roleplay sono problemi di prompt. Una scheda vaga produce un personaggio vago. Una buona scheda sta in 300-600 token e copre quattro cose: chi è il personaggio, come parla, cosa vuole ora e cosa non deve mai fare.

I dettagli concreti battono la poesia. Confronta "Mara è misteriosa e pericolosa" con "Mara risponde alle domande con domande, non dà mai il suo vero nome agli sconosciuti e tiene una mano vicina al coltello quando qualcuno le sta dietro." La seconda riga dà al modello un comportamento che può riprodurre a ogni turno.

• Esempio vocale. Aggiungi due o tre righe di dialogo di esempio. I modelli imitano ritmo e vocabolario dagli esempi in modo più affidabile che dagli aggettivi.
• Regole di formato. Indica persona, tempo, lunghezza e se usare gli asterischi per le azioni. I modelli si allontanano dal formato se non glielo dici una volta, chiaramente.
• Stato della scena. Inserisci il luogo corrente, l'ora e i fili aperti alla fine del prompt, dove le informazioni recenti hanno la massima influenza.
• Confini. Se la storia coinvolge solo adulti, dillo nella scheda. Una riga come "tutti i personaggi sono maggiorenni" mantiene l'ambientazione inequivocabile per te e per chiunque legga i log.

Correggi personaggi piatti, ripetitivi o invadenti

Questi sono i problemi che emergono dopo la prima ora, con le relative soluzioni.

Il personaggio si ripete

Le frasi tornano ogni poche risposte. Imposta frequency_penalty a 0,3 e presence_penalty a 0,1, aumenta la temperatura di 0,1 e verifica che il recap o il dialogo di esempio non contengano già la frase. Il modello copia ciò che vede.

Le risposte diventano sempre più lunghe

Risposte lunghe insegnano al modello che le risposte lunghe sono la norma. Rimuovi alcune di esse dalla cronologia, ristabilisci la regola sulla lunghezza e imposta max_tokens a un limite massimo accettabile. Il campo è opzionale, quindi agisce solo come limite quando lo imposti.

Il modello decide cosa fa il tuo personaggio

Aggiungi una regola rigida nel messaggio di sistema e una sequenza di stop sul prefisso del nome del tuo personaggio, come nello script sopra. Se usi un'interfaccia front-end, verifica che formatti la cronologia con gli stessi tag del nome.

La storia si blocca

Dai al personaggio un obiettivo e una scadenza. "Ha bisogno della mappa prima che la marea cambi" produce movimento. Un personaggio che non vuole nulla aspetta che tu agisca e la scena si appesantisce.

Mantieni la coerenza delle storie lunghe

Una finestra di 100.000 token è ampia, ma una campagna di diversi mesi la supererà. Prevedi questa eventualità fin dall'inizio.

• Fissa i punti essenziali. Tieni la scheda del personaggio e l'obiettivo della scena corrente in cima al messaggio di sistema, dove non vengono mai tagliati.
• Riassumi i turni precedenti. Ogni 30 o 40 messaggi, chiedi al modello di condensare la parte più vecchia della chat in un breve riassunto, quindi sostituisci quei messaggi con il riassunto.
• Usa una lista del lore. Memorizza nomi, luoghi e promesse in un breve blocco che aggiorni ad ogni turno. I modelli dimenticano un dettaglio minore di 80 messaggi fa più spesso di un fatto dichiarato nell'ultimo prompt.
• Usa il seed durante il debug. Quando modifichi un prompt, un seed fisso rende il confronto più equo.

Errore comune: il modello parla per conto del tuo personaggio. Correggilo nel prompt di sistema con una regola diretta e supportalo con una sequenza di stop come quella sopra. Un altro errore: ogni risposta inizia allo stesso modo. Aumenta leggermente la temperatura e aggiungi la penalità di frequenza.

Costo di una sessione

I prezzi sono $0,15 per 1M di token di input e $0,50 per 1M di token di output, pagati dal credito prepagato. Il gioco di ruolo è pesante in input perché l'intera cronologia viene inviata ad ogni turno, quindi la parte di input domina.

Prendi una sessione da 50 turni. Il prompt medio è di 6.000 token (scheda del personaggio più cronologia) e ogni risposta è di circa 250 token.

• Input: 50 x 6.000 = 300.000 token, che è 0,3 x $0,15 = $0,045
• Output: 50 x 250 = 12.500 token, che è 0,0125 x $0,50 = $0,00625
• Totale: $0,05125, circa cinque centesimi

Una ricarica da $20 copre circa 390 sessioni di questa dimensione. Le ricariche vanno da $20 a $500 in importi interi, con un bonus del +5% da $50, +10% da $100 e +15% da $200. Il credito non scade mai e le richieste fallite o rifiutate non vengono addebitate. Puoi pagare con cripto (USDT su TRC20, USDC su Base). I numeri completi sono nella pagina dei prezzi.

Altre guide

• Costruisci un Chatbot da un'API LLM: Tutorial Python
• API LLM senza censura: Compatibile con OpenAI e modalità JSON