Temel yapı: Döngü, geçmiş, API
Filtresiz bir sohbet botu teknik olarak özel bir durum değildir. Her bot için gereken aynı bileşenlere ihtiyacınız vardır: bir giriş döngüsü, mesaj listesi ve yanıt veren bir model. Fark modeldedir. Burada bağımsız bir sağlayıcıdan tek bir açık ağırlıklı model sağlayan kiohnezensurapi.com API'sini kullanıyoruz; bu model, yetişkinler için yasal kullanım amacıyla içerik reddi olmadan yanıtlar verecek şekilde ayarlanmıştır.
Ön koşullar: Python 3.9 veya üzeri, pip install openai ve API anahtarını alın sayfasından bir anahtar. $0,50 deneme kredisi (kişi başı bir kez, 7 gün geçerli, ödeme bilgisi gerektirmez) tüm kılavuz için yeterlidir.
Tam kod
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.kiohnezensurapi.com/v1",
api_key=os.environ["KI_KEY"],
)
SYSTEM = (
"Du bist Rex, ein trockener, direkter Gesprächspartner. "
"Du antwortest auf Deutsch, in kurzen Absätzen, ohne Vorträge."
)
verlauf = [{"role": "system", "content": SYSTEM}]
MAX_NACHRICHTEN = 20 # ohne System-Prompt
def kuerzen():
rest = verlauf[1:][-MAX_NACHRICHTEN:]
verlauf[:] = [verlauf[0]] + rest
while True:
text = input("Du: ").strip()
if text in ("", "exit"):
break
verlauf.append({"role": "user", "content": text})
kuerzen()
stream = client.chat.completions.create(
model="uncensored",
messages=verlauf,
stream=True,
temperature=0.8,
max_tokens=600,
)
antwort = ""
print("Rex: ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
teil = chunk.choices[0].delta.content
antwort += teil
print(teil, end="", flush=True)
print()
verlauf.append({"role": "assistant", "content": antwort})Bunu bot.py olarak kaydedin, KI_KEY'i ortam değişkeni olarak ayarlayın ve python bot.py ile başlatın. kuerzen işlevi, geçmişin sınırsız büyümemesi için yalnızca son 20 mesajı ve sistem istemini korur.
Kod nasıl çalışır
Sistem istemi
İlk mesaj role: system ile kişiliği ve stili belirler. Her istekte birlikte gönderilir. Kısa tutun, her seferinde girdi olarak sayılır.
Geçmiş
API çağrılar arasında bir şey saklamaz. Bu nedenle her kullanıcı mesajını ve her yanıtı listeye ekleyin. Bot kendi söylediğini unutmasın diye botun yanıtı olmadan geçiş yapılamaz.
Akış
stream: true ile yanıt, küçük parçalar halinde Sunucu Gönderilen Olaylar (SSE) ile gelir. Metin hemen göründüğü için daha hızlı hissettirir. Dikkat: Akışlı bir çağrı, akış bitene kadar eşzamanlı istekler limiti içinde yer kaplar. Test anahtarıyla 2, tam anahtarla 8 eşzamanlı istek izin verilir.
max_tokens
Parametre isteğe bağlıdır. Bu parametre olmadan yanıt 100.000 tokenlik pencerenin geri kalanını kullanabilir. Sohbet için bir üst sınır mantıklıdır; bu, aşırı genişleyen yanıtlara ve dolayısıyla gereksiz maliyetlere karşı korur.
Botunuz için maliyet hesabı
Fiyatlar: 1M girdi token başına $0,15, 1M çıktı token başına $0,50. Sistem isteminin 100 token ve ortalama geçmişin 3.000 token olduğunu, yanıtın ise 300 token olduğunu varsayalım.
- Girdi: 3.100 / 1.000.000 × $0,15 = $0,000465
- Çıktı: 300 / 1.000.000 × $0,50 = $0,00015
- Toplam: Mesaj başına $0,000615
Bu, 1.000 mesaj için $0,615 eder. $0,50'lık deneme kredisiyle hesaplamaya göre yaklaşık 813 mesaj elde edersiniz (0,50 / 0,000615 ≈ 813). Günlük 50 mesaj yazan bir kullanıcı, ayda (30 gün, 1.500 mesaj) yaklaşık $0,92 maliyet oluşturur.
En büyük etken geçmiş uzunluğudur. Bot ortalama 3.000 yerine 10.000 token gönderseydi, girdi mesaj başına $0,001515'e (10.100 / 1.000.000 × $0,15) yükselir, yanıtla birlikte $0,001665 ederdi. Eski turları kısaltmak veya özetlemek doğrudan tasarruf sağlar. Başarısız veya reddedilen istekler hesaplanmaz.
Günlük kullanım için iyileştirmeler
- Özetleme ile hafıza: Daha eski mesajları kendi API çağrınızla bir paragraf halinde özetleyin ve bunları bu şekilde değiştirin. Bu sayede bot düşük maliyetle konuyu takip edebilir.
- Hata işleme: HTTP 429'ı yakalayın.
rate_limitedhata kodu dakikada çok fazla istek anlamına gelir,concurrencyçok fazla eşzamanlı istek anlamına gelir. Aşırı yüklenme durumunda başlıktaRetry-After: 5yer alır, ardından 5 saniye bekleyin. - Kalıcılık: Sohbetlerin yeniden başlatılabilemesi için konuşma geçmişini bir JSON dosyasında veya veritabanında saklayın.
- Birden fazla kullanıcı: Her kullanıcı için ayrı bir geçmiş listesi yürütün. Aynı anda birçok kullanıcı olduğunda, 8 eşzamanlı istek verimliliği sınırlar, bir kuyruk kullanın.
- Anahtarı koruyun: Bunu ön yüzünüze asla yazmayın. API'yi sunucunuzdan çağırın.
top_p, stop ve seed gibi diğer parametreler ile fonksiyon çağırma detayları dokümantasyonda açıklanmıştır.
"Sansürsüz" ne anlama gelmez
Bot, diğer asistanların reddedeceği durumlarda yanıt verir. Bu durum, işleten olarak sorumluluğunun size ait olduğu anlamına gelir. Reşit olmayanlarla cinsel içerik her zaman ve her koşulda hariç tutulmuştur; hizmet yetişkinlerin yasal kullanımı içindir. Botu herkese açık hale getirirseniz yaş doğrulaması istemeniz ve kullanım kuralları belirlemeniz önerilir. İstemler (prompts) model eğitimi için kullanılmaz; kullanıcılarınıza karşı olan gizlilik yükümlülükleriniz devam eder.
Ayrıca API saf metindir: Görüntü veya sesli sohbet için başka hizmetler gerekir. Konuyla ilgili arka plan bilgisi Yapay Zekada Kısıtlama Yok makalesinde yer alır, fiyatlandırma basamakları Fiyatlandırma sayfasında listelenmiştir. Yüklemeler $20'den itibaren TRC20 üzerinden USDT veya Base üzerinden USDC ile yapılır, $50 ve üzeri işlemlerde %5 bonus uygulanır.

