基本構造:ループ、履歴、API
フィルターなしのチャットボットは技術的に特殊なケースではありません。どのボットにも必要な同じ構成要素、つまり入力ループ、メッセージのリスト、応答するモデルが必要です。違いはモデルにあります。ここではkiohnezensurapi.comのAPIを使用しており、これは独立したプロバイダの単一のオープンウェイトモデルを提供し、成人による合法的な利用に向けて、内容的な拒否なしの応答に最適化されています。
要件:Python 3.9以降、pip install openai、およびAPIキーを取得ページからのキー。無料のテストクレジット$0.50(1人1回、7日間有効、支払い情報不要)は、ガイド全体に十分です。
完全なコード
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.kiohnezensurapi.com/v1",
api_key=os.environ["KI_KEY"],
)
SYSTEM = (
"Du bist Rex, ein trockener, direkter Gesprächspartner. "
"Du antwortest auf Deutsch, in kurzen Absätzen, ohne Vorträge."
)
verlauf = [{"role": "system", "content": SYSTEM}]
MAX_NACHRICHTEN = 20 # ohne System-Prompt
def kuerzen():
rest = verlauf[1:][-MAX_NACHRICHTEN:]
verlauf[:] = [verlauf[0]] + rest
while True:
text = input("Du: ").strip()
if text in ("", "exit"):
break
verlauf.append({"role": "user", "content": text})
kuerzen()
stream = client.chat.completions.create(
model="uncensored",
messages=verlauf,
stream=True,
temperature=0.8,
max_tokens=600,
)
antwort = ""
print("Rex: ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
teil = chunk.choices[0].delta.content
antwort += teil
print(teil, end="", flush=True)
print()
verlauf.append({"role": "assistant", "content": antwort})これをbot.pyとして保存し、環境変数にKI_KEYを設定し、python bot.pyで起動します。kuerzen関数は、履歴が無限に増えないよう、最後の20メッセージとシステムプロンプトのみを保持します。
コードの仕組み
システムプロンプト
role: systemを持つ最初のメッセージは、人格とスタイルを定義します。これはリクエストごとに送信されます。短く保ってください。これは毎回入力としてカウントされます。
履歴
APIは呼び出し間で何も保存しません。そのため、ユーザーメッセージと応答の両方をリストに追加します。ボットの応答なしでは、ボットは自分が何と言ったかを忘れます。
ストリーミング
stream: trueを使用すると、応答はSSEで小さなチャンクとして届きます。テキストが即座に表示されるため、より速く感じられます。注意:ストリーミングリクエストはストリームが終了するまで同時リクエストの制限枠を占有します。テストキーでは2つの同時リクエストが許可され、フルキーでは8つの同時リクエストが許可されます。
max_tokens
このパラメータはオプションです。指定しない場合、応答は100,000トークンのウィンドウの残りを活用できます。チャットには上限が適切で、応答の肥大化と不要なコストを防ぎます。
ボットのコスト計算
価格:入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50。システムプロンプトが100トークン、履歴が平均3,000トークン、応答が300トークンと仮定します。
- 入力:3,100 / 1,000,000 × $0.15 = $0.000465
- 出力:300 / 1,000,000 × $0.50 = $0.00015
- 合計:メッセージあたり$0.000615
1,000メッセージあたり$0.615です。$0.50のテストクレジットでは、計算上約813メッセージ(0.50 / 0.000615 ≈ 813)になります。毎日50メッセージを投稿するユーザーは、月間(30日、1,500メッセージ)で約$0.92の費用がかかります。
最も大きな影響を与えるのは履歴の長さです。ボットが平均して3,000トークンではなく10,000トークンを送信する場合、入力はメッセージごとに10,100トークンに増え、計算式は10,100 / 1,000,000 × $0.15 = $0.001515となります。応答と合わせると$0.001665です。したがって、古い会話を切り捨てたり要約したりすることで、直接コストを節約できます。失敗または拒否されたリクエストは課金されません。
日常の改善点
- 要約によるメモリ管理:古いメッセージを独自のAPI呼び出しで要約し、それと置き換えてください。これにより、ボットは低コストで会話を維持できます。
- エラー処理:HTTP 429をキャッチしてください。エラーコード
rate_limitedは1分あたりのリクエストが多すぎることを意味し、concurrencyは同時リクエストが多すぎることを意味します。過負荷時にはヘッダーにRetry-After: 5が含まれるため、5秒待機してください。 - 永続化:会話履歴をJSONファイルまたはデータベースに保存し、セッションの再起動に備えてください。
- 複数ユーザー:ユーザーごとに個別の履歴リストを作成してください。同時ユーザーが多い場合、8つの同時リクエストがスループットを制限するため、キューを使用してください。
- キーの保護:フロントエンドにキーを直接書き込まないでください。APIはサーバー側から呼び出してください。
top_p、stop、seedなどの追加パラメータやツール呼び出しについては、ドキュメントを参照してください。
「無検閲」が意味しないこと
このボットは、他のアシスタントが拒否する場面で応答します。これは運用者の責任を代替するものではありません。未成年者との性的コンテンツは例外なく除外されており、本サービスは成人による合法的な利用を想定しています。ボットを公開提供する場合は、年齢確認を求め、利用規約を定めるべきです。プロンプトは学習に使用されず、ユーザーに対するあなたのプライバシー上の義務はそのまま維持されます。
さらに、APIは純粋なテキストです。画像や音声チャットには別のサービスが必要です。背景については制約なしのAIの記事を参照してください。価格表は価格ページにあります。USDT(TRC20)またはUSDC(Base)でのチャージは$20から開始され、$50以上では+5%のボーナスが付きます。

