Abliterated मॉडल: लागत, कॉन्टेक्स्ट और कोड

Abliterated मॉडल क्या हैं?

Abliterated मॉडल मौजूदा ओपन-वेट लैंग्वेज मॉडल को लेकर और उन न्यूरल पाथवेज़ को व्यवस्थित रूप से हटाकर या कमजोर करके बनाए जाते हैं जो किसी विशिष्ट प्रकार की सामग्री को अस्वीकार करने का कारण बनते हैं। ऐसे मॉडल, जो सुरक्षा नीति के कारण किसी विषय पर चर्चा करने से विनम्रतापूर्वक इनकार कर सकते हैं, के विपरीत, एक अलबलिटेड मॉडल प्रश्न का सीधा उत्तर देगा। इस प्रक्रिया में आमतौर पर उन 'एटेंशन हेड्स' की पहचान की जाती है जो अस्वीकार के लिए जिम्मेदार हैं और उनके प्रभाव को लगभग शून्य पर सेट किया जाता है, या मॉडल को एक ऐसे डेटासेट पर ट्यून किया जाता है जो व्यापक उत्तर देने को प्रोत्साहित करता है।

परिणाम एक ऐसा मॉडल है जो अपनी मूल बुद्धिमत्ता और तर्कशक्ति को बनाए रखता है लेकिन 'फ़िल्टरिंग' परत से रहित होता है। इसका मतलब है कि यह वयक्त विषयों, विवादास्पद राय या विशेषज्ञ तकनीकी विषयों पर चर्चा कर सकता है बिना अस्वीकृति संदेश जनरेट किए। यह ध्यान रखना महत्वपूर्ण है कि 'बिना सेंसर' का अर्थ 'बुद्धिहीन' नहीं है; मॉडल अभी भी निर्देशों का पालन करता है और सहसंबद्धता बनाए रखता है। हालाँकि, यह मूल ट्रेनिंग डेटा में मौजूद पूर्वाग्रह या त्रुटियों को भी बिना सामान्य कॉर्पोरेट पॉलिश के दर्शा सकता है।

• Base Model Integrity: कोर तर्क और भाषा कौशल अक्षुण्ण रहते हैं।
• अस्वीकृति हटाना: सामग्री फ़िल्टर ट्रिगर करने वाले विशिष्ट तंत्र डैम्पन किए गए हैं।
• Single Weight File: एबलिटरेशन अवस्था सहित पूरा मॉडल एक ही फ़ाइल में समाहित है।

बिना सेंसर इनफेरेन्स की लागत

एक बिना सेंसर मॉडल को स्थानीय रूप पर चलाने के लिए महत्वपूर्ण हार्डवेयर की आवश्यकता होती है, आमतौर पर मध्यम आकार के मॉडल के लिए कम से कम 24GB VRAM वाले GPU की। उन डेवलपर्स के लिए जिन्हें विश्वसनीयता और स्केल की आवश्यकता होती है, मॉडल को स्वयं होस्ट करने से ऑपरेशनल ओवरहेड आता है। हमारी API एक भविष्यवाणी योग्य, पे-पर-यूज़ मूल्य निर्धारण प्रदान करती है जो GPU प्रबंधन की आवश्यकता को समाप्त करती है।

हम 1 मिलियन इनपुट टोकन के लिए $0.25 और 1 मिलियन आउटपुट टोकन के लिए $1.00 चार्ज करते हैं। कोई मासिक सदस्यता या छिपे शुल्क नहीं हैं। आप क्रिप्टोकरेंसी (TRC20 पर USDT या Base पर USDC) का उपयोग करके क्रेडिट प्रीलोड करते हैं, और क्रेडिट कभी समाप्त नहीं होता। आपके अनुरोधों में त्रुटियाँ मुफ़्त हैं, इसलिए आप केवल वास्तविक उपयोग के लिए भुगतान करते हैं। यह मॉडल स्टार्टअप्स या इंडी डेवलपर्स के लिए आदर्श है जो एक निश्चित मासिक लागत के लिए प्रतिबद्ध होने से पहले मॉडल का परीक्षण करना चाहते हैं।

उपयोग प्रकार	प्रति 1M टोकन लागत
इनपुट टोकन	$0.25
आउटपुट टोकन	$1.00

आप $10 और $500 के बीच किसी भी पूर्ण राशि से अपने खाते को टॉप-अप कर सकते हैं। यदि आप $50 या अधिक जोड़ते हैं, तो आपको 5% बोनस क्रेडिट प्राप्त होता है; $100 या अधिक जोड़ने पर 10% बोनस मिलता है। यह संरचना सुनिश्चित करती है कि आपकी इंफ्रास्ट्रक्चर लागत आपके एप्लिकेशन के ट्रैफ़िक के साथ रैखिक रूप से बढ़ती है।

कॉन्टेक्स्ट विंडो के लाभ

लंबे दस्तावेज़ों, कोडबेस या जटिल बातचीत के साथ काम करने वाले डेवलपर्स के लिए सबसे महत्वपूर्ण कारकों में से एक कॉन्टेक्स्ट विंडो है। हमारी API 100,000-टोकन कॉन्टेक्स्ट विंडो प्रदान करती है, जो मॉडल को एकल अनुरोध के भीतर बड़ी मात्रा में जानकारी प्रोसेस और बनाए रखने की अनुमति देती है। यह कई पुराने या छोटे मॉडल में पाए जाने वाले मानक 8,000-टोकन सीमा से काफी बड़ा है।

100k कॉन्टेक्स्ट विंडो कई उन्नत उपयोग मामलों को सक्षम बनाती है। आप पूरे कोड रिपॉजिटरी को कॉन्टेक्स्ट के रूप में पास कर सकते हैं, जिससे मॉडल क्रॉस-फ़ाइल निर्भरताओं को समझ सके। आप लंबी, सहसंबद्ध बातचीत भी बनाए रख सकते हैं बिना मॉडल के पहले के निर्देशों को भूलने के। कॉन्टेक्स्ट विंडो इनपुट प्रॉम्प्ट और आउटपुट पूरक दोनों को शामिल करता है, इसलिए आपको अपने टोकन बजट की सावधानी से योजना बनानी चाहिए।

• Code Analysis: संदर्भ-जागरूक सुझाव प्राप्त करने के लिए कई फ़ाइलें पास करें।
• लंबी बातचीत: विषय के ट्रैक को खोए बिना दर्जनों टर्न के लिए स्थिति बनाए रखें।
• Document Summarization: एक ही कॉल में बड़े टेक्स्ट ब्लॉक प्रोसेस करें।

ध्यान रखें कि प्रत्येक अनुरोध के लिए अधिकतम आउटपुट 32,000 टोकन है। यदि आप max_tokens पैरामीटर निर्दिष्ट नहीं करते हैं, तो मॉडल 2,048 टोकन पर डिफ़ॉल्ट हो जाएगा। यह सीमा बड़े इनपुट प्रोसेस करते समय भी स्थिर प्रदर्शन सुनिश्चित करती है।

कोडिंग प्रदर्शन

बिना सेंसर मॉडल कोडिंग कार्यों के लिए विशेष रूप से मूल्यवान हैं क्योंकि वे उन अनुरोधों को अस्वीकार करने की कम संभावना रखते हैं जिन्हें स्टैंडर्ड फ़िल्टर 'असुरक्षित' मान सकते हैं। उदाहरण के लिए, एक स्टैंडर्ड मॉडल सुरक्षा अनुसंधान के लिए SQL इनजेक्शन पेलोड जनरेट करने से इनकार कर सकता है, जबकि एक एब्लिटरेटेड मॉडल उसे सीधे प्रदान करेगा। यह डेवलपर्स के लिए आदर्श है जिन्हें विश्लेषण, डीबगिंग या क्रिएटिव कोडिंग के लिए कच्चा, बिना फ़िल्टर आउटपुट की आवश्यकता होती है।

मॉडल फ़ंक्शन कॉलिंग का समर्थन करता है, जो आपको टूल परिभाषित करने और मॉडल से संरचित JSON प्रतिक्रियाएँ प्राप्त करने की अनुमति देता है। यह बाहरी API या डेटाबेस के साथ इंटरैक्ट करने वाले AI एजेंट बनाने के लिए आवश्यक है। आप JSON मोड लागू कर सकते हैं ताकि सुनिश्चित हो सके कि मॉडल का आउटपुड हमेशा वैध JSON हो, जो आपके एप्लिकेशन में पार्सिंग को सरल बनाता है।

API को एकीकृत करते समय, आप आधिकारिक OpenAI SDK या किसी भी OpenAI-कम्पैटिबल क्लाइंट का उपयोग कर सकते हैं। बेस URL https://api.abliterated.cc/v1 है, और आप /v1/chat/completions एंडपॉइंट पर अनुरोध भेजते हैं। मॉडल ID केवल uncensored है।

टूल यूज़ और फ़ंक्शन कॉलिंग

फ़ंक्शन कॉलिंग व्यावहारिक AI एप्लिकेशन बनाने के लिए एक महत्वपूर्ण सुविधा है। हमारी API इसे नेटिव रूप से सपोर्ट करती है, आपको टूल्स का एक स्कीमा परिभाषित करने और मॉडल को यह निर्णय लेने की अनुमति देती है कि किस टूल को कॉल करना है और किस तर्क के साथ। मॉडल एक संरचित प्रतिक्रिया लौटाता है जिसे आप अपने कोड में पार्स और निष्पादित कर सकते हैं।

आप tool_choice पैरामीटर निर्दिष्ट कर सकते हैं ताकि मॉडल किसी विशिष्ट टूल को कॉल करे या स्वचालित रूप से चयन करे। यह लचीलापन एजेंट्स बनाने के लिए उपयोगी है जो डेटाबेस खोजना, उपयोगकर्ता प्रोफ़ाइल अपडेट करना या ईमेल भेजने जैसे कई कार्यों को कर सकते हैं।

• संरचित आउटपुट: मान्य JSON सुनिश्चित करने के लिए response_format को json_object पर सेट करें।
• टूल परिभाषाएँ: tools सरणी में नाम, विवरण और पैरामीटर के साथ टूल परिभाषित करें।
• निष्पादन: मॉडल के प्रतिक्रिया को पार्स करें और अपने कोड में संबंधित फ़ंक्शन निष्पादित करें।

API temperature, top_p, stop, seed, presence_penalty और frequency_penalty जैसे पैरामीटरों का समर्थन करती है ताकि मॉडल के व्यवहार को फाइन-ट्यून किया जा सके। इससे आपको अपने उपयोग के मामले के अनुसार रचनात्मकता और सटीकता के बीच संतुलन बनाने की अनुमति मिलती है।

स्ट्रीमिंग दक्षता

स्ट्रीमिंग चैट एप्लिकेशन में एक अच्छा उपयोगकर्ता अनुभव प्रदान करने के लिए आवश्यक है। हमारी API सर्वर-सेंट इवेंट्स (SSE) को सपोर्ट करती है, जिससे आप मॉडल की प्रतिक्रिया टोकन-बाय-टोकन वास्तविक समय में प्राप्त कर सकते हैं। इससे उपयोगकर्ता के लिए अनुपस्थित लेटेंसी कम हो जाती है, क्योंकि वे प्रतिक्रिया को धीरे-धीरे प्रकट होते हुए देखते हैं, न कि पूरी प्रतिक्रिया के जनरेट होने का इंतज़ार करते हुए।

स्ट्रीमिंग के दौरान, API अंतिम चंक में टोकन उपयोग की जानकारी शामिल करता है। इससे आप वास्तविक समय में अपने टोकन खपत की निगरानी कर सकते हैं और यदि आप अपने बजट सीमाओं के करीब पहुँच जाएं तो स्ट्रीम को रोक सकते हैं। स्ट्रीमिंग इंटरफ़ेस सभी मानक OpenAI SDKs के साथ संगत है, जिससे इसे मौजूदा एप्लिकेशन में एकीकृत करना आसान हो जाता है।

विचार करने योग्य एक समझौता यह है कि स्ट्रीमिंग के दौरान टोकन की संख्या नॉन-स्ट्रीमिंग अनुरोधों की तुलना में कभी-कभी थोड़ी अधिक हो सकती है, क्योंकि मॉडल फ़िलर शब्द उत्पन्न कर सकता है या रुक सकता है। हालाँकि, तत्काल प्रतिक्रिया का लाभ इस नगण्य लागत से कहीं अधिक है। यदि मॉडल दोहराना शुरू कर दे या विषय से भटक जाए, तो आप जनरेशन को जल्दी रोकने के लिए stop पैरामीटर का भी उपयोग कर सकते हैं।

डेटा गोपनीयता और प्रशिक्षण

अधिकतर डेवलपर्स के लिए डेटा गोपनीयता एक प्रमुख चिंता है। जब आप हमारे API का उपयोग करते हैं, तो आपके प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते हैं। इसका अर्थ है कि आपका मॉडल को भेजा गया डेटा निजी रहता है और बेस मॉडल को बेहतर बनाने या तीसरे पक्ष के साथ साझा करने के लिए उपयोग नहीं किया जाता है। यह उन कुछ प्रमुख विक्रेताओं की तुलना में एक महत्वपूर्ण लाभ है जो ग्राहक डेटा का उपयोग प्रशिक्षण के लिए करते हैं।

साइन अप करने के लिए, आपको केवल एक ईमेल पता की आवश्यकता है। आप Google के साथ साइन इन कर सकते हैं या ईमेल और पासवर्ड का उपयोग कर सकते हैं। फ़ोन नंबर की आवश्यकता नहीं है, और ट्रायल के लिए क्रेडिट कार्ड की आवश्यकता नहीं है। ट्रायल में 7 दिनों के लिए मान्य $0.50 का क्रेडिट शामिल है, जो आपको एक भविष्यवाणी योग्य योजना को प्रतिबद्ध करने से पहले API का परीक्षण करने की अनुमति देता है।

एक कठिन सामग्री सीमा हमेशा लागू होती है: मॉडल किशोरों के साथ यौन सामग्री से जुड़े अनुरोधों को अस्वीकार कर देगा। अन्य सभी कानूनी वयस्क, विवादास्पद या विशेष विषय अनुमत हैं। यह सुनिश्चित करता है कि मॉडल अप्रत्याशित प्रतिबंधों के बिना विभिन्न प्रकार के एप्लिकेशन के लिए उपयोग योग्य रहे।

स्थानीय के सापेक्ष API क्यों चुनें?

स्थानीय रूप से मॉडल चलाने से आपको डेटा और इंफ्रास्ट्रक्चर पर पूर्ण नियंत्रण मिलता है, लेकिन इसके लिए महत्वपूर्ण हार्डवेयर और तकनीकी विशेषज्ञता की आवश्यकता होती है। आपको GPU ड्राइवर, मेमोरी आवंटन और मॉडल अपडेट का प्रबंधन करना होता है। अधिकतर डेवलपर्स के लिए, विशेष रूप से वे जो प्रोटोटाइप या छोटे-पैमाने के एप्लिकेशन बना रहे हैं, यह ओवरहेड इसके लायक नहीं होता।

हमारी API एक होस्टेड समाधान प्रदान करती है जो सभी इंफ्रास्ट्रक्चर को संभालती है। आपको एक विश्वसनीय, स्केलेबल एंडपॉइंट भविष्यवाणी योग्य मूल्य निर्धारण के साथ मिलता है। API प्रति मिनट 300 अनुरोध और प्रति कुंजी 8 समानांतर अनुरोधों तक को सपोर्ट करती है, जो अधिकांश छोटे से मध्यम आकार के एप्लिकेशन के लिए पर्याप्त है। यदि आपको उच्च सीमाओं की आवश्यकता है, तो आप सहायता से संपर्क कर सकते हैं।

एक अन्य लाभ एकीकरण की आसानी है। आप उसी कोड का उपयोग कर सकते हैं जिसे आप GPT-4 के लिए उपयोग करते, बस बेस URL और API कुंजी बदलकर। इससे सीखने की वक्रता कम हो जाती है और यदि आवश्यक हो तो आप मॉडल के बीच स्विच कर सकते हैं। API किसी विशिष्ट विक्रेता से बंधी नहीं है, इसलिए आप एकल इकोसिस्टम में लॉक नहीं हैं।

Abliterated के साथ शुरुआत करना

हमारे API के साथ शुरुआत करना सरल है। पहले, अपने ईमेल या Google का उपयोग करके एक खाता साइन अप करें। आपको तुरंत एक API कुंजी प्राप्त होगी, जिसे आप अपने अनुरोधों को प्रमाणीकृत करने के लिए उपयोग कर सकते हैं। आप भुगतान जानकारी दर्ज किए बिना API का परीक्षण करने के लिए ट्रायल क्रेडिट का भी उपयोग कर सकते हैं।

अपना पहला अनुरोध बनाने के लिए, /v1/chat/completions एंडपॉइंट पर POST विधि का उपयोग करें। model पैरामीटर को uncensored पर सेट करें और अपने प्रॉम्प्ट को messages सरणी में शामिल करें। आप आउटपुट को नियंत्रित करने के लिए temperature और max_tokens जैसे पैरामीटर भी निर्दिष्ट कर सकते हैं।