JA ▾
APIキーを取得

検閲なしAIのためのAPI

フィルターなしチャットボットの自作:コードとコスト

フィルターなしチャットボットは約40行のPythonで構築できます。拒否反応のないモデル、メモリ内の履歴、出力用のストリーミングです。以下に動作するコードとコスト計算があります。

制限なしAI:本当に重要なのは何か
ターミナルから機械へデータが流れる:ストリーミングを用いたチャットボットの構築

基本構造:ループ、履歴、API

フィルターなしのチャットボットは技術的に特殊なケースではありません。どのボットにも必要な同じ構成要素、つまり入力ループ、メッセージのリスト、応答するモデルが必要です。違いはモデルにあります。ここではkiohnezensurapi.comのAPIを使用しており、これは独立したプロバイダの単一のオープンウェイトモデルを提供し、成人による合法的な利用に向けて、内容的な拒否なしの応答に最適化されています。

要件:Python 3.9以降、pip install openai、およびAPIキーを取得ページからのキー。無料のテストクレジット$0.50(1人1回、7日間有効、支払い情報不要)は、ガイド全体に十分です。

完全なコード

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.kiohnezensurapi.com/v1",
    api_key=os.environ["KI_KEY"],
)

SYSTEM = (
    "Du bist Rex, ein trockener, direkter Gesprächspartner. "
    "Du antwortest auf Deutsch, in kurzen Absätzen, ohne Vorträge."
)
verlauf = [{"role": "system", "content": SYSTEM}]
MAX_NACHRICHTEN = 20  # ohne System-Prompt

def kuerzen():
    rest = verlauf[1:][-MAX_NACHRICHTEN:]
    verlauf[:] = [verlauf[0]] + rest

while True:
    text = input("Du: ").strip()
    if text in ("", "exit"):
        break
    verlauf.append({"role": "user", "content": text})
    kuerzen()

    stream = client.chat.completions.create(
        model="uncensored",
        messages=verlauf,
        stream=True,
        temperature=0.8,
        max_tokens=600,
    )
    antwort = ""
    print("Rex: ", end="", flush=True)
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            teil = chunk.choices[0].delta.content
            antwort += teil
            print(teil, end="", flush=True)
    print()
    verlauf.append({"role": "assistant", "content": antwort})

これをbot.pyとして保存し、環境変数にKI_KEYを設定し、python bot.pyで起動します。kuerzen関数は、履歴が無限に増えないよう、最後の20メッセージとシステムプロンプトのみを保持します。

コードの仕組み

システムプロンプト

role: systemを持つ最初のメッセージは、人格とスタイルを定義します。これはリクエストごとに送信されます。短く保ってください。これは毎回入力としてカウントされます。

履歴

APIは呼び出し間で何も保存しません。そのため、ユーザーメッセージと応答の両方をリストに追加します。ボットの応答なしでは、ボットは自分が何と言ったかを忘れます。

ストリーミング

stream: trueを使用すると、応答はSSEで小さなチャンクとして届きます。テキストが即座に表示されるため、より速く感じられます。注意:ストリーミングリクエストはストリームが終了するまで同時リクエストの制限枠を占有します。テストキーでは2つの同時リクエストが許可され、フルキーでは8つの同時リクエストが許可されます。

max_tokens

このパラメータはオプションです。指定しない場合、応答は100,000トークンのウィンドウの残りを活用できます。チャットには上限が適切で、応答の肥大化と不要なコストを防ぎます。

ボットのコスト計算

価格:入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50。システムプロンプトが100トークン、履歴が平均3,000トークン、応答が300トークンと仮定します。

  • 入力:3,100 / 1,000,000 × $0.15 = $0.000465
  • 出力:300 / 1,000,000 × $0.50 = $0.00015
  • 合計:メッセージあたり$0.000615

1,000メッセージあたり$0.615です。$0.50のテストクレジットでは、計算上約813メッセージ(0.50 / 0.000615 ≈ 813)になります。毎日50メッセージを投稿するユーザーは、月間(30日、1,500メッセージ)で約$0.92の費用がかかります。

最も大きな影響を与えるのは履歴の長さです。ボットが平均して3,000トークンではなく10,000トークンを送信する場合、入力はメッセージごとに10,100トークンに増え、計算式は10,100 / 1,000,000 × $0.15 = $0.001515となります。応答と合わせると$0.001665です。したがって、古い会話を切り捨てたり要約したりすることで、直接コストを節約できます。失敗または拒否されたリクエストは課金されません。

日常の改善点

  • 要約によるメモリ管理:古いメッセージを独自のAPI呼び出しで要約し、それと置き換えてください。これにより、ボットは低コストで会話を維持できます。
  • エラー処理:HTTP 429をキャッチしてください。エラーコードrate_limitedは1分あたりのリクエストが多すぎることを意味し、concurrencyは同時リクエストが多すぎることを意味します。過負荷時にはヘッダーにRetry-After: 5が含まれるため、5秒待機してください。
  • 永続化:会話履歴をJSONファイルまたはデータベースに保存し、セッションの再起動に備えてください。
  • 複数ユーザー:ユーザーごとに個別の履歴リストを作成してください。同時ユーザーが多い場合、8つの同時リクエストがスループットを制限するため、キューを使用してください。
  • キーの保護:フロントエンドにキーを直接書き込まないでください。APIはサーバー側から呼び出してください。

top_p、stop、seedなどの追加パラメータやツール呼び出しについては、ドキュメントを参照してください。

「無検閲」が意味しないこと

このボットは、他のアシスタントが拒否する場面で応答します。これは運用者の責任を代替するものではありません。未成年者との性的コンテンツは例外なく除外されており、本サービスは成人による合法的な利用を想定しています。ボットを公開提供する場合は、年齢確認を求め、利用規約を定めるべきです。プロンプトは学習に使用されず、ユーザーに対するあなたのプライバシー上の義務はそのまま維持されます。

さらに、APIは純粋なテキストです。画像や音声チャットには別のサービスが必要です。背景については制約なしのAIの記事を参照してください。価格表は価格ページにあります。USDT(TRC20)またはUSDC(Base)でのチャージは$20から開始され、$50以上では+5%のボーナスが付きます。

その他のガイド

よくある質問

シンプルなチャットボットには何行のコードが必要ですか?

入力ループ、履歴、ストリーミングにはPythonで約40行あれば十分です。上記のコードは、OpenAI SDKのみで動作し、他のパッケージは必要ありません。

なぜボットは会話履歴を忘れてしまうのですか?

APIは状態を保存しません。各リクエストで、ボットの応答を含むこれまでの全メッセージを自ら送信する必要があります。

1,000件のメッセージを含むチャットのコストはいくらですか?

メッセージごとに3,100トークンの入力と300トークンの出力を含む例では、料金は$0.615です。長い履歴は価格を上昇させます。

ボットを公開できますか?

技術的には可能です。ただし運営者として責任を負います。年齢確認を求め、ルールを守ってください。未成年者を含むコンテンツは除外されます。

APIキーはワンクリックで入手可能

アカウント作成、キーのコピー、ベースURLの設定。これだけです。

APIキーを取得