繁中 ▾
取得 API 金鑰

你的無審查 AI API

自行建構無審查聊天機器人:程式碼與成本

建構無審查聊天機器人約需 40 行 Python:一個無拒絕反射的模型、記憶體中的歷史記錄以及用於輸出的串流。下方提供可執行的程式碼與成本計算。

無限制 AI:真正重要的是什麼
對話框從終端機流入機器:建構具有串流輸出的自有聊天機器人

基本架構:迴圈、歷史記錄、API

無審查聊天機器人從技術上來說並非特殊案例。您需要與任何機器人相同的組件:輸入迴圈、訊息列表和一個能回應的模型。差異在於模型。我們在此使用 kiohnezensurapi.com 的 API,它提供來自獨立供應商的單一開放權重模型,針對合法成人用途調整為無內容拒絕的回應。

需求:Python 3.9 或更新版本、pip install openai以及來自 取得 API 金鑰 頁面的金鑰。$0.50 的免費試用額度(每人一次,有效期 7 天,無需付款資料)足以完成整個指南。

完整程式碼

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.kiohnezensurapi.com/v1",
    api_key=os.environ["KI_KEY"],
)

SYSTEM = (
    "Du bist Rex, ein trockener, direkter Gesprächspartner. "
    "Du antwortest auf Deutsch, in kurzen Absätzen, ohne Vorträge."
)
verlauf = [{"role": "system", "content": SYSTEM}]
MAX_NACHRICHTEN = 20  # ohne System-Prompt

def kuerzen():
    rest = verlauf[1:][-MAX_NACHRICHTEN:]
    verlauf[:] = [verlauf[0]] + rest

while True:
    text = input("Du: ").strip()
    if text in ("", "exit"):
        break
    verlauf.append({"role": "user", "content": text})
    kuerzen()

    stream = client.chat.completions.create(
        model="uncensored",
        messages=verlauf,
        stream=True,
        temperature=0.8,
        max_tokens=600,
    )
    antwort = ""
    print("Rex: ", end="", flush=True)
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            teil = chunk.choices[0].delta.content
            antwort += teil
            print(teil, end="", flush=True)
    print()
    verlauf.append({"role": "assistant", "content": antwort})

將其儲存為 bot.py,設定環境變數 KI_KEY 並使用 python bot.py 啟動。kuerzen 函式僅保留最後 20 則訊息加上系統提示詞,以防止歷史記錄無限增長。

程式碼運作原理

系統提示詞

使用 role: system 的第一則訊息設定個性與風格。它會在每次請求時一併傳送。請保持簡短,因為它每次都會算作輸入。

歷史記錄

API 不會在呼叫之間儲存任何內容。因此,您必須將每則使用者訊息和每則回答附加到列表中。若沒有機器人的回答,它會忘記自己說過的話。

串流輸出

使用 stream: true 時,回應會透過伺服器發送事件(SSE)以片段形式傳回。由於文字會立即顯示,感覺會更快。請注意:串流請求會佔用並行請求的配額,直到串流結束為止。使用測試金鑰允許 2 個並行請求,使用完整金鑰則允許 8 個。

max_tokens

此參數為選填。若未設定,回應可使用剩餘的 100,000 token 上下文視窗。對於聊天而言,設定上限是合理的,它能防止回應過度冗長並避免不必要的成本。

您的機器人成本計算

價格:每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。假設系統提示詞為 100 個 token,歷史記錄平均為 3,000 個 token,回應為 300 個 token。

  • 輸入:3,100 / 1,000,000 × $0.15 = $0.000465
  • 輸出:300 / 1,000,000 × $0.50 = $0.00015
  • 總計:每則訊息 $0.000615

每 1,000 則訊息的成本為 $0.615。使用 $0.50 的測試額度,理論上可發送約 813 則訊息(0.50 / 0.000615 ≈ 813)。每天發送 50 則訊息的使用者,每月(30 天,1,500 則訊息)的成本約為 $0.92。

最大的變數在於歷史記錄的長度。如果機器人平均傳送 10,000 個 token 而非 3,000 個,輸入將上升至 10,100 / 1,000,000 × $0.15 = $0.001515 每則訊息,加上回應總計為 $0.001665。因此,截斷或摘要舊的對話輪次可直接節省費用。失敗或被拒絕的請求不會計費。

日常改進

  • 透過摘要保留記憶:使用自己的 API 請求將較舊的訊息摘要為一個段落,並以此取代它們。如此機器人才能在較低成本下維持對話脈絡。
  • 錯誤處理:攔截 HTTP 429。錯誤程式碼 rate_limited代表每分鐘請求過多,concurrency代表同時請求過多。當負載過高時,標頭會包含 Retry-After: 5,請等待 5 秒。
  • 持久化:將對話歷史儲存為 JSON 檔案或資料庫,讓對話在重新啟動後得以恢復。
  • 多使用者:為每個使用者維護獨立的歷史記錄。當同時有多個使用者時,8 個並行請求會限制吞吐量,請使用佇列。
  • 保護金鑰:絕對不要將其寫入您的前端。請從您的伺服器呼叫 API。

其他參數如 top_p、stop 和 seed,以及函式呼叫,請參閱文件。

「無審查」不代表什麼

當其他助手會拒絕時,這個機器人仍會回答。這並不取代您作為營運者的責任。禁止涉及未成年人的性內容,此服務旨在供成年人合法使用。若您公開提供此機器人,建議要求提供年齡資訊並制定使用規則。提示詞不會用於訓練;您對使用者的隱私權義務不受影響。

此外,API 僅提供純文字:影像或語音聊天需要其他服務。相關背景資訊請見 無審查 AI一文,價格表請見 價格頁面。儲值金額自 $20 起,使用 TRC20 上的 USDT 或 Base 上的 USDC,$50 起享 +5% 贈額。

更多指南

常見問題

簡單的聊天機器人需要多少行程式碼?

大約 40 行 Python 程式碼即可涵蓋輸入迴圈、歷史記錄與串流輸出。上述程式碼僅需 OpenAI SDK 即可運行,無需其他套件。

為什麼我的機器人會忘記對話歷史?

API 不儲存狀態。您必須在每次請求時自行傳送所有先前的訊息,包括機器人的回覆。

1,000 則訊息的對話成本多少?

在範例中,每則訊息包含 3,100 個 token 的輸入與 300 個 token 的輸出,成本為 $0.615。更長的歷史記錄會增加費用。

我可以公開提供機器人嗎?

技術上可以,但您作為營運者需承擔責任。請要求提供年齡資訊並遵守相關規則;禁止涉及未成年人的性內容。

您的金鑰只需點擊即可取得

建立帳戶、複製金鑰、調整 Base URL。完成。

取得 API 金鑰