基础结构:循环、历史记录、API
无过滤聊天机器人从技术上讲并非特殊情况。你需要与任何机器人相同的组件:输入循环、消息列表和一个能回答的模型。区别在于模型。我们在此使用 kiohnezensurapi.com 的 API,它提供来自独立供应商的单个开放权重模型,针对合法成人用户调整,确保无内容拒绝响应。
前提条件:Python 3.9 或更高版本,pip install openai 以及来自页面 获取 API 密钥 的密钥。$0.50 的测试额度(每人一次,有效期 7 天,无需支付信息)足以完成本指南。
完整代码
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.kiohnezensurapi.com/v1",
api_key=os.environ["KI_KEY"],
)
SYSTEM = (
"Du bist Rex, ein trockener, direkter Gesprächspartner. "
"Du antwortest auf Deutsch, in kurzen Absätzen, ohne Vorträge."
)
verlauf = [{"role": "system", "content": SYSTEM}]
MAX_NACHRICHTEN = 20 # ohne System-Prompt
def kuerzen():
rest = verlauf[1:][-MAX_NACHRICHTEN:]
verlauf[:] = [verlauf[0]] + rest
while True:
text = input("Du: ").strip()
if text in ("", "exit"):
break
verlauf.append({"role": "user", "content": text})
kuerzen()
stream = client.chat.completions.create(
model="uncensored",
messages=verlauf,
stream=True,
temperature=0.8,
max_tokens=600,
)
antwort = ""
print("Rex: ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
teil = chunk.choices[0].delta.content
antwort += teil
print(teil, end="", flush=True)
print()
verlauf.append({"role": "assistant", "content": antwort})将其保存为 bot.py,设置环境变量 KI_KEY 并通过 python bot.py 启动。kuerzen 函数仅保留最后 20 条消息和系统提示词,以防止历史记录无限增长。
代码工作原理
系统提示词
带有 role: system 的第一条消息设定个性和风格。每次请求都会附带发送。保持简短,因为它每次都会作为输入计算。
历史记录
API 不会在调用之间存储数据。因此,您将每条用户消息和每条回复附加到列表中。如果没有机器人的回复,机器人会忘记它自己说过的话。
流式输出
使用 stream: true,响应通过服务器发送事件以小片段到达。这感觉更快,因为文本立即出现。请注意:流式调用会占用并发请求限制中的位置,直到流结束。使用测试密钥允许 2 个并发,使用完整密钥允许 8 个。
max_tokens
该参数是可选的。如果不设置,响应可以使用 100,000 token 上下文窗口的剩余部分。对于聊天来说,设置上限是合理的,它可以防止冗长的响应,从而避免不必要的成本。
机器人的成本计算
价格:每 1M 输入 token $0.15,每 1M 输出 token $0.50。假设系统提示词有 100 个 token,历史记录平均 3,000 个 token,响应 300 个 token。
- 输入:3,100 / 1,000,000 × $0.15 = $0.000465
- 输出:300 / 1,000,000 × $0.50 = $0.00015
- 总计:每条消息 $0.000615
这相当于每 1,000 条消息 $0.615。使用 $0.50 的测试额度,理论上可以发送约 813 条消息(0.50 / 0.000615 ≈ 813)。每天发送 50 条消息的用户,每月(30 天,1,500 条消息)成本约为 $0.92。
最大的杠杆是历史记录的长度。如果机器人平均发送 10,000 而不是 3,000 个 token,输入将增加到 10,100 / 1,000,000 × $0.15 = $0.001515 每条消息,加上响应总计 $0.001665。因此,截断或总结旧轮次可以直接节省资金。失败或被拒绝的请求不收费。
日常改进
- 通过摘要实现记忆:使用 API 调用将旧消息摘要为一个段落,并用其替换它们。这样机器人可以在成本更低的情况下保持对话连贯。
- 错误处理:捕获 HTTP 429 错误。错误代码
rate_limited表示每分钟请求过多,concurrency表示并发请求过多。过载时,Header 中会包含Retry-After: 5,请等待 5 秒。 - 持久化:将对话历史保存为 JSON 文件或数据库,以便在重启后恢复对话。
- 多用户支持:为每个用户维护独立的对话历史列表。当用户众多时,8 个并发请求会限制吞吐量,请使用队列机制。
- 保护密钥: 永远不要将其写入前端。从您的服务器调用 API。
top_p、stop 和 seed 等更多参数以及函数调用详见 文档。
“无过滤”的含义
当其他助手拒绝时,该机器人会给出回答。这并不免除你作为运营者的责任。涉及未成年人的性内容严格排除,该服务旨在供成年人合法使用。如果你公开提供该机器人,应要求年龄验证并制定使用规则。提示词不会用于训练;你对用户承担的隐私义务不受影响。
此外,API 仅支持纯文本:图像或语音聊天需要其他服务。关于该主题的更多背景信息请参阅 无限制 AI 文章,价格阶梯见 价格页面。充值最低 $20,支持 TRC20 上的 USDT 或 Base 上的 USDC,充值 $50 以上可获得 +5% 奖励。

