Szkielet: pętla, historia, API
Chatbot bez filtrów to technicznie nie przypadek szczególny. Potrzebujesz tych samych komponentów co w każdym bocie: pętla odczytu, lista wiadomości i model, który odpowiada. Różnica leży w modelu. Tutaj korzystamy z API kiohnezensurapi.com, które udostępnia pojedynczy model o otwartych wagach od niezależnego dostawcy, dostosowany do odpowiedzi bez odmowy treści dla legalnego użytku przez osoby pełnoletnie.
Wymagania: Python 3.9 lub nowszy, pip install openai i klucz ze strony Uzyskaj klucz API. Darmowy kredyt próbny $0,50 (jednorazowo na osobę, ważny 7 dni, bez danych płatniczych) wystarczy na całą instrukcję.
Pełny kod
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.kiohnezensurapi.com/v1",
api_key=os.environ["KI_KEY"],
)
SYSTEM = (
"Du bist Rex, ein trockener, direkter Gesprächspartner. "
"Du antwortest auf Deutsch, in kurzen Absätzen, ohne Vorträge."
)
verlauf = [{"role": "system", "content": SYSTEM}]
MAX_NACHRICHTEN = 20 # ohne System-Prompt
def kuerzen():
rest = verlauf[1:][-MAX_NACHRICHTEN:]
verlauf[:] = [verlauf[0]] + rest
while True:
text = input("Du: ").strip()
if text in ("", "exit"):
break
verlauf.append({"role": "user", "content": text})
kuerzen()
stream = client.chat.completions.create(
model="uncensored",
messages=verlauf,
stream=True,
temperature=0.8,
max_tokens=600,
)
antwort = ""
print("Rex: ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
teil = chunk.choices[0].delta.content
antwort += teil
print(teil, end="", flush=True)
print()
verlauf.append({"role": "assistant", "content": antwort})Zapisz to jako bot.py, ustaw KI_KEY w środowisku i uruchom komendą python bot.py. Funkcja kuerzen zachowuje tylko ostatnie 20 wiadomości plus prompt systemowy, aby historia nie rosła nieograniczenie.
Jak działa kod
System prompt
Pierwsza wiadomość z role: system ustala osobowość i styl. Jest wysyłana przy każdym zapytaniu. Trzymaj ją krótką, liczy się jako wejście za każdym razem.
Historia
API nie przechowuje stanu między wywołaniami. Dlatego do listy dołączasz każdą wiadomość użytkownika i odpowiedź. Bez odpowiedzi Bota zapamiętuje on, co sam powiedział.
Strumieniowanie
Z stream: true odpowiedź przychodzi za pomocą Server-Sent Events w małych fragmentach. Wygląda to szybciej, ponieważ tekst pojawia się natychmiast. Pamiętaj: wywołanie strumieniowe zajmuje miejsce w limicie zapytań równoległych, dopóki strumień się nie zakończy. Z kluczem testowym dozwolone są 2 równoległe zapytania, z pełnym kluczem 8.
max_tokens
Parametr jest opcjonalny. Bez niego odpowiedź może wykorzystać resztę okna 100.000 tokenów. Dla czatu rozsądne jest ustawienie limitu, chroni to przed rozrastającymi się odpowiedziami i niepotrzebnymi kosztami.
Kalkulacja kosztów Twojego bota
Ceny: $0,15 za 1M tokenów wejścia, $0,50 za 1M tokenów wyjścia. Załóżmy, że system prompt ma 100 tokenów, historia średnio 3.000 tokenów, a odpowiedź 300 tokenów.
- Wejście: 3.100 / 1.000.000 × $0,15 = $0,000465
- Wyjście: 300 / 1.000.000 × $0,50 = $0,00015
- Suma: $0,000615 na wiadomość
To $0,615 za 1.000 wiadomości. Z darmowym kredytem próbnym $0,50 wyjdzie Ci około 813 wiadomości (0,50 / 0,000615 ≈ 813). Użytkownik, który pisze dziennie 50 wiadomości, generuje miesięcznie (30 dni, 1.500 wiadomości) około $0,92.
Największą dźwignią jest długość historii. Gdyby bot średnio wysyłał 10 000 zamiast 3 000 tokenów, input wzrósłby do 10 100 / 1 000 000 × $0,15 = $0,001515 na wiadomość, razem z odpowiedzią $0,001665. Skrócenie lub podsumowanie starych rund oszczędza więc bezpośrednio pieniądze. Nieudane lub odrzucone zapytania nie są rozliczane.
Ulepszenia na co dzień
- Pamięć przez streszczenie: Streszcz starsze wiadomości własnym wywołaniem API w jednym akapicie i zastąp je nimi. Dzięki temu bot utrzyma wątek przy niższych kosztach.
- Obsługa błędów: Obsługuj HTTP 429. Kod błędu
rate_limitedoznacza za dużo zapytań na minutę,concurrencyza dużo jednoczesnych. Przy przeciążeniu w nagłówku znajduje sięRetry-After: 5, poczekaj wtedy 5 sekund. - Trwałość: Zapisuj historię jako plik JSON lub w bazie danych, aby rozmowy przetrwały ponowne uruchomienie.
- Wielu użytkowników: Prowadź oddzielną listę historii dla każdego użytkownika. Przy dużej liczbie użytkowników jednocześnie 8 jednoczesnych zapytań ogranicza przepustowość, użyj kolejki.
- Chroń klucze: Nigdy nie wpisuj go do swojego frontendu. Wywołuj API ze swojego serwera.
Inne parametry takie jak top_p, stop i seed oraz wywoływanie narzędzi opisuje dokumentacja.
Co oznacza „bez filtrów”
Bot odpowiada tam, gdzie inni asystenci mogliby odmówić. Nie zwalnia to Cię z odpowiedzialności jako operatora. Treści seksualne z udziałem nieletnich są wyłączone bez wyjątku, a oferta przeznaczona jest do legalnego użytku przez osoby dorosłe. Jeśli udostępniasz bota publicznie, powinieneś wymagać podania wieku i sformułować zasady użytkowania. Twoich obowiązków dotyczących ochrony danych osobowych wobec użytkowników nie zmienia fakt, że prompty nie są używane do trenowania modelu.
Ponadto API jest czystym tekstem: czat graficzny lub czat głosowy wymaga do tego innych usług. Tło tematyczne znajdziesz w artykule Sztuczna inteligencja bez ograniczeń, a skala cenowa znajduje się na stronie cenowej. Doładować można od $20 za pomocą USDT na TRC20 lub USDC na Base, z bonusem +5% od $50.

