Beste Abliterated LLM voor rollenspel: API-installatiegids

Wat maakt een model goed in rollenspel

Rollenspel is een moeilijke test voor een taalmodel. Het moet een stem vasthouden voor honderden berichten, zich herinneren wat er drie scènes geleden gebeurde, in karakter blijven als het verhaal donkerder wordt, en nooit uit zijn rol vallen om zichzelf uit te leggen. Een standaard assistentmodel faalt het vaakst op het laatste punt. Het schrijft een goede alinea, maar voegt dan een disclaimer toe of wijst een plotwending af die duidelijk fictie is.

Een abliterated of ongecensureerd model is afgestemd om die weigeringen te verwijderen. Dat helpt, maar het is slechts een van de vijf eigenschappen die je moet controleren voordat je je aan een aanbieder verbindt:

• Weigergedrag. Volgt het de dialoog van een schurk of een moreel grijze scène zonder commentaar?
• Contextlengte. Kunnen de personagekaart, wereldnotities en chatgeschiedenis in één verzoek passen?
• Consistentie. Houdt een karakter dezelfde spreekgewoonten vast gedurende een lange sessie?
• Sturing van sampling. Kun je temperatuur, top_p, straffactoren en stopsequenties wijzigen?
• Streaming. Verschijnt tekst token voor token, zodat een antwoord aanvoelt als een gesprek?

Niemand kan eerlijk een enkele winnaar noemen voor elke verhaalstijl. Smaak maakt uit, en twee schrijvers zullen hetzelfde model anders rangschikken. Het praktische antwoord is om je eigen scènes door een kandidaat te laten lopen en de output zelf te beoordelen.

Wat deze API je geeft voor rollenspel

De service draait één open-weight model, gehost door een onafhankelijke aanbieder en afgestemd om zonder inhoudelijke weigeringen te antwoorden voor legaal gebruik door volwassenen. De model-ID is uncensored. Er is geen routing tussen leveranciers, dus de stem die je maandag testte, is de stem die je vrijdag krijgt.

Roleplay-behoefte	Wat je krijgt
Lang geheugen	100.000 tokens aan context, prompt plus voltooiing
Live-typ-effect	Streaming via SSE met stream: true
Stijlcontrole	temperatuur, top_p, stop, seed en beide straffactoren worden doorgegeven
Clientondersteuning	OpenAI-compatibel, dus SillyTavern en vergelijkbare tools werken met een URL-aanpassing
Privacy	Prompts worden niet gebruikt voor training

Er geldt één harde limiet en die is niet onderhandelbaar: geen seksuele inhoud met minderjarigen. Houd je karakters en scenario's aan de juiste kant van die lijn en binnen legaal gebruik door volwassenen. De details van de modelfamilie staan op de abliterated-modellenpagina.

Verbind SillyTavern in vijf stappen

SillyTavern kan communiceren met elk OpenAI-compatibel endpoint. De menu-items verschijnen iets anders tussen versies, maar de werkwijze is hetzelfde.

1. Maak een account aan en claim je sleutel op de API-sleutel-pagina. Nieuwe gebruikers kunnen met één klik $0,50 aan proeftegoed claimen, geldig voor 7 dagen, geen creditcard nodig.
2. Open in SillyTavern het stekkerpictogram (API-verbindingen) en stel het API-type in op Chat Completion.
3. Kies de bron Aangepast (OpenAI-compatibel).
4. Voer https://api.abliterated.cc/v1 in als de endpoint-URL en plak je sleutel in het API-sleutelveld.
5. Typ uncensored als de model-ID en druk op Verbind. Een groene status betekent dat het verzoek naar /v1/models is geslaagd.

Als de verbinding mislukt, controleer dan eerst de URL. Deze moet eindigen op /v1 zonder pad aan het einde en zonder extra /chat/completions. De client voegt dat deel zelf toe.

Voorgestelde startinstellingen

Temperatuur tussen 0,8 en 1,0 geeft levendige proza. Houd top_p dicht bij 0,9. Voeg een kleine frequentiestraffactor toe, rond de 0,2, als antwoorden beginnen met het herhalen van dezelfde zinnen. Stel een contextgrootte in die dicht bij het echte venster ligt, maar laat ruimte over voor het antwoord. Pas daarna aan op basis van gevoel na een paar scènes.

Bouw je eigen rollenspel-loop in Python

Als je je eigen front-end of een Discord-bot schrijft, is de OpenAI SDK genoeg. Dit script houdt de volledige geschiedenis bij, streamt het antwoord en voorkomt dat het model jouw regels voor je schrijft.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.abliterated.cc/v1",
    api_key="YOUR_KEY",
)

system = (
    "You are Mara, a smuggler captain in a sea-faring fantasy setting. "
    "Write in third person, past tense, two short paragraphs per reply. "
    "Never write the actions or words of the player character."
)
history = [{"role": "system", "content": system}]

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})

    stream = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.9,
        top_p=0.9,
        frequency_penalty=0.2,
        stop=["\nPlayer:"],
        stream=True,
    )
    reply = ""
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
    print()
    history.append({"role": "assistant", "content": reply})

Dezelfde call werkt vanuit Node, curl of elke andere OpenAI-client. Alleen de basis-URL, de sleutel en de model-ID veranderen. De quickstart in de docs toont elke variant.

Schrijf een personagekaart die het model kan volgen

De meeste kwaliteitsproblemen bij rollenspel zijn promptproblemen. Een vaag kaartje produceert een vaag karakter. Een goede past in 300 tot 600 tokens en behandelt vier dingen: wie het karakter is, hoe het praat, wat het nu wil, en wat het nooit moet doen.

Concreet is beter dan poëtisch. Vergelijk "Mara is mysterieus en gevaarlijk" met "Mara beantwoordt vragen met vragen, geeft nooit haar echte naam aan vreemden en houdt één hand bij haar mes als iemand achter haar staat." De tweede regel geeft het model gedrag dat het elke beurt kan reproduceren.

• Stemmonster. Voeg twee of drie regels voorbeelddialoog toe. Modellen imiteren ritme en woordenschat uit voorbeelden betrouwbaarder dan uit bijvoeglijke naamwoorden.
• Formaatregels. Geef persoon, tijd, lengte en of je asterisken voor acties moet gebruiken. Modellen wijken af in opmaak tenzij je het één keer duidelijk zegt.
• Scenestatus. Zet de huidige locatie, tijd en open draden aan het einde van de prompt, waar recente informatie de sterkste invloed heeft.
• Grenzen. Als het verhaal alleen volwassenen bevat, vermeld dit dan in de kaart. Een zin als "alle personages zijn volwassen" maakt de setting eenduidig voor jou en voor iedereen die de logs leest.

Platte, repetitieve of opdringerige personages oplossen

Dit zijn de problemen die zich na het eerste uur voordoen, met de gebruikelijke oplossingen.

Het personage herhaalt zichzelf

Zinnen komen elke paar antwoorden terug. Verhoog frequency_penalty naar 0,3 en presence_penalty naar 0,1, verhoog de temperatuur met 0,1 en controleer of je samenvatting of voorbeeldgesprek de zin niet zelf bevat. Het model kopieert wat het ziet.

Antwoorden worden steeds langer

Lange antwoorden leren het model dat lange antwoorden normaal zijn. Haal er een paar uit de geschiedenis, herhaal de lengteregel en stel max_tokens in op een plafond dat je accepteert. Het veld is optioneel, dus het werkt alleen als een limiet als je het instelt.

Het model beslist wat jouw personage doet

Voeg een harde regel toe in het systeembericht en een stopsequentie op het voorvoegsel van de naam van je personage, zoals in het script hierboven. Als je een front-end gebruikt, controleer dan of deze de geschiedenis opmaakt met dezelfde naam-tags.

Het verhaal loopt vast

Geef het personage een doel en tijdsdruk. "Ze heeft de kaart nodig voordat het tij keert" zorgt voor beweging. Een personage dat niets wil, wacht tot jij handelt, en de scène verliest aan spanning.

Houd lange verhalen coherent

Een contextvenster van 100.000 tokens is groot, maar een campagne van maanden lang zal dit overschrijden. Houd daar rekening mee vanaf het begin.

• Zet het essentiële vast. Houd de personagekaart en het huidige scène-doel bovenaan het systeembericht, waar ze niet worden afgekapt.
• Vat eerdere wisselingen samen. Vraag het model elke 30 of 40 berichten om het oudste deel van het gesprek samen te vatten tot een korte samenvatting, en vervang die berichten vervolgens door de samenvatting.
• Gebruik een lore-lijst. Sla namen, plaatsen en beloftes op in een kort blok dat je elke beurt ververst. Modellen vergeten eerder een klein detail van 80 berichten geleden dan een feit dat in de laatste prompt is genoemd.
• Gebruik een seed tijdens het debuggen. Wanneer je een prompt aanpast, maakt een vaste seed de vergelijking eerlijker.

Veelvoorkomende fout: het model spreekt namens je personage. Los dit op in de systeemprompt met een directe regel en ondersteun dit met een stopsequentie zoals hierboven. Een andere fout: elk antwoord begint op dezelfde manier. Verhoog de temperatuur iets en voeg de frequentiestraffactor toe.

Wat een sessie kost

Prijzen zijn $0,15 per 1M inputtokens en $0,50 per 1M outputtokens, betaald uit prepaid tegoed. Roleplay is inputzwaar omdat de hele geschiedenis elke beurt wordt verzonden, dus de inputkant domineert.

Neem een sessie van 50 wisselingen. De gemiddelde prompt is 6.000 tokens (personagekaart plus geschiedenis) en elk antwoord is ongeveer 250 tokens lang.

• Input: 50 x 6.000 = 300.000 tokens, wat 0,3 x $0,15 = $0,045 is
• Output: 50 x 250 = 12.500 tokens, wat 0,0125 x $0,50 = $0,00625 is
• Totaal: $0,05125, ongeveer vijf cent

Een top-up van $20 dekt ongeveer 390 sessies van deze grootte. Top-ups lopen van $20 tot $500 in hele bedragen, met een bonus van +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200. Tegoed vervalt nooit en mislukte of geweigerde verzoeken worden niet in rekening gebracht. Je kunt betalen met crypto (USDT op TRC20, USDC op Base). Volledige cijfers staan op de prijzenpagina.

Meer handleidingen

• Bouw een Chatbot vanaf een LLM API: Python Tutorial
• Ongecensureerde LLM-API: OpenAI-compatibel & JSON-modus