मूल ढांचा: लूप, इतिहास, API
बिना फ़िल्टर वाले चैटबॉट तकनीकी रूप से कोई विशेष मामला नहीं है। आपको किसी भी बॉट की तरह ही वही बिल्डिंग ब्लॉक्स चाहिए: एक इनपुट लूप, संदेशों की एक सूची और एक मॉडल जो जवाब देता है। अंतर मॉडल में है। हम यहाँ kiohnezensurapi.com की API का उपयोग करते हैं, जो एक स्वतंत्र प्रदाता के एक ओपन-वेट मॉडल को प्रदान करती है, जो वयस्कों के कानूनी उपयोग के लिए सामग्री की अस्वीकृति के बिना जवाबों के लिए अनुकूलित है।
आवश्यकताएँ: Python 3.9 या नया, pip install openai और API कुंजी प्राप्त करें पेज से एक कुंजी। $0.50 का परीक्षण क्रेडिट (प्रति व्यक्ति एक बार, 7 दिनों के लिए मान्य, भुगतान विवरण के बिना) पूरी गाइड के लिए पर्याप्त है।
पूरा कोड
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.kiohnezensurapi.com/v1",
api_key=os.environ["KI_KEY"],
)
SYSTEM = (
"Du bist Rex, ein trockener, direkter Gesprächspartner. "
"Du antwortest auf Deutsch, in kurzen Absätzen, ohne Vorträge."
)
verlauf = [{"role": "system", "content": SYSTEM}]
MAX_NACHRICHTEN = 20 # ohne System-Prompt
def kuerzen():
rest = verlauf[1:][-MAX_NACHRICHTEN:]
verlauf[:] = [verlauf[0]] + rest
while True:
text = input("Du: ").strip()
if text in ("", "exit"):
break
verlauf.append({"role": "user", "content": text})
kuerzen()
stream = client.chat.completions.create(
model="uncensored",
messages=verlauf,
stream=True,
temperature=0.8,
max_tokens=600,
)
antwort = ""
print("Rex: ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
teil = chunk.choices[0].delta.content
antwort += teil
print(teil, end="", flush=True)
print()
verlauf.append({"role": "assistant", "content": antwort})इसे bot.py के रूप में सहेजें, KI_KEY को एन्वायरनमेंट में सेट करें और python bot.py के साथ शुरू करें। kuerzen फ़ंक्शन केवल अंतिम 20 संदेशों और सिस्टम प्रॉम्प्ट को बनाए रखता है, ताकि इतिहास असीमित रूप से न बढ़े।
कोड कैसे काम करता है
सिस्टम प्रॉम्प्ट
role: system के साथ पहला संदेश व्यक्तित्व और शैली निर्धारित करता है। यह हर अनुरोध के साथ भेजा जाता है। इसे छोटा रखें, यह हर बार इनपुट के रूप में गिना जाता है।
इतिहास
API कॉल के बीच कुछ भी सहेजता नहीं है। इसलिए प्रत्येक उपयोगकर्ता संदेश और प्रत्येक जवाब को सूची में जोड़ें। बॉट के अपने जवाब के बिना, वह भूल जाता है कि उसने क्या कहा था।
स्ट्रीमिंग
stream: true के साथ, उत्तर सर्वर-सेंटेड इवेंट्स (SSE) के माध्यम से छोटे-छोटे टुकड़ों में आता है। यह तेज़ लगता है क्योंकि टेक्स्ट तुरंत प्रकट होता है। ध्यान दें: एक स्ट्रीमिंग अनुरोध स्ट्रीम समाप्त होने तक समानांतर अनुरोधों की सीमा में जगह लेता है। एक टेस्ट कुंजी के साथ 2 अनुमति है, एक पूर्ण कुंजी के साथ 8।
max_tokens
पैरामीटर वैकल्पिक है। इसके बिना, जवाब 100,000-टोकन विंडो के शेष हिस्से का उपयोग कर सकता है। एक चैट के लिए एक ऊपरी सीमा उचित है, यह विस्तारित जवाबों और इस प्रकार अनावश्यक लागत से बचाती है।
आपके बॉट के लिए लागत की गणना
मूल्य: 1M इनपुट टोकन प्रति $0.15, 1M आउटपुट टोकन प्रति $0.50। मान लें कि सिस्टम प्रॉम्प्ट में 100 टोकन हैं और इतिहास में औसतन 3,000 टोकन हैं, जवाब 300 टोकन का है।
- इनपुट: 3,100 / 1,000,000 × $0.15 = $0.000465
- आउटपुट: 300 / 1,000,000 × $0.50 = $0.00015
- कुल: प्रति संदेश $0.000615
यह 1,000 संदेशों के लिए $0.615 है। $0.50 के मुफ़्त ट्रायल क्रेडिट के साथ, आप गणितीय रूप से लगभग 813 संदेशों तक पहुँचते हैं (0.50 / 0.000615 ≈ 813)। एक उपयोगकर्ता जो दैनिक 50 संदेश लिखता है, महीने (30 दिन, 1,500 संदेश) में लगभग $0.92 का कारण बनता है।
सबसे बड़ा प्रभाव इतिहास की लंबाई है। यदि बॉट औसतन 3,000 की जगह 10,000 टोकन भेजता, तो इनपुट 10,100 / 1,000,000 × $0.15 = $0.001515 प्रति संदेश पर बढ़ जाता, उत्तर के साथ मिलाकर $0.001665। पुरानी बारी को छोटा करने या सारांश देने से सीधे पैसे बचते हैं। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है।
दैनिक जीवन के लिए सुधार
- सारांश द्वारा मेमोरी: एक अलग API अनुरोध में पुराने संदेशों को सारांशित करें और उन्हें बदल दें। इससे बॉट कम लागत पर बातचीत का सिलसिला बनाए रखता है।
- त्रुटि प्रबंधन: HTTP 429 को हैंडल करें। त्रुटि कोड
rate_limitedका अर्थ प्रति मिनट बहुत अधिक अनुरोध,concurrencyका अर्थ बहुत अधिक समानांतर अनुरोध है। भार होने पर हेडर मेंRetry-After: 5लिखा होता है, तब 5 सेकंड प्रतीक्षा करें। - स्थिरता: संवादों को पुनरारंभ से बचाने के लिए इतिहास को JSON फ़ाइल या डेटाबेस में सहेजें।
- बहु-उपयोगकर्ता: प्रत्येक उपयोगकर्ता के लिए एक अलग इतिहास सूची चलाएं। एक साथ कई उपयोगकर्ताओं के लिए, 8 समानांतर अनुरोध थ्रूपुट को सीमित करते हैं, इसलिए एक कतार का उपयोग करें।
- कुंजी सुरक्षित करें: इसे कभी भी अपने फ्रंटएंड में न लिखें। API को अपने सर्वर से ही कॉल करें।
अन्य पैरामीटर जैसे top_p, stop और seed, साथ ही फ़ंक्शन कॉलिंग दस्तावेज़ीकरण में वर्णित हैं।
"बिना फ़िल्टर" का अर्थ क्या नहीं है
बॉट उन स्थानों पर उत्तर देता है जहाँ अन्य सहायक अस्वीकार कर देते। यह आपके संचालक के रूप में ज़िम्मेदारी को नहीं बदलता। नाबालिगों के साथ यौन सामग्री अपवादहीन रूप से बाहर हैं, और प्रस्ताव वयस्कों के कानूनी उपयोग के लिए है। यदि आप बॉट को सार्वजनिक रूप से प्रदान करते हैं, तो आपको आयु विवरण माँगना चाहिए और उपयोग नियम बनाने चाहिए। प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते; आपके उपयोगकर्ताओं के प्रति अपने डेटा संरक्षण के कर्तव्य उससे प्रभावित नहीं होते।
इसके अलावा, API शुद्ध पाठ है: एक छवि या वॉयस चैट के लिए अन्य सेवाओं की आवश्यकता होती है। इस विषय पर पृष्ठभूमि बिना प्रतिबंधों वाली कृत्रिम बुद्धिमत्ता लेख में दी गई है, मूल्य सूची मूल्य पृष्ठ पर उपलब्ध है। $20 से USDT (TRC20) या USDC (Base) के साथ टॉप-अप किया जाता है, $50 से +5% बोनस के साथ।

