기본 구조: 루프, 기록, API
필터 없는 챗봇은 기술적으로 특별한 경우가 아닙니다. 모든 봇과 동일한 구성 요소가 필요합니다: 입력 루프, 메시지 목록, 응답하는 모델. 차이는 모델에 있습니다. 여기서는 kiohnezensurapi.com API를 사용하며, 이는 독립적인 공급업체의 단일 오픈 웨이트 모델을 제공하며, 성인 대상의 합법적 사용에 맞게 콘텐츠 거부 없이 응답하도록 조정되었습니다.
필요 조건: Python 3.9 이상, pip install openai, 그리고 API 키 받기 페이지의 키입니다. $0.50의 테스트 크레딧(인원당 한 번, 7일 유효, 결제 정보 불필요)은 전체 가이드에 충분합니다.
전체 코드
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.kiohnezensurapi.com/v1",
api_key=os.environ["KI_KEY"],
)
SYSTEM = (
"Du bist Rex, ein trockener, direkter Gesprächspartner. "
"Du antwortest auf Deutsch, in kurzen Absätzen, ohne Vorträge."
)
verlauf = [{"role": "system", "content": SYSTEM}]
MAX_NACHRICHTEN = 20 # ohne System-Prompt
def kuerzen():
rest = verlauf[1:][-MAX_NACHRICHTEN:]
verlauf[:] = [verlauf[0]] + rest
while True:
text = input("Du: ").strip()
if text in ("", "exit"):
break
verlauf.append({"role": "user", "content": text})
kuerzen()
stream = client.chat.completions.create(
model="uncensored",
messages=verlauf,
stream=True,
temperature=0.8,
max_tokens=600,
)
antwort = ""
print("Rex: ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
teil = chunk.choices[0].delta.content
antwort += teil
print(teil, end="", flush=True)
print()
verlauf.append({"role": "assistant", "content": antwort})bot.py로 저장하고, 환경 변수에 KI_KEY을 설정한 후 python bot.py로 시작하세요. kuerzen 함수는 시스템 프롬프트를 포함해 마지막 20개의 메시지만 유지하므로 대화 기록이 무한히 늘어나지 않습니다.
코드 작동 방식
시스템 프롬프트
role: system 역할의 첫 번째 메시지는 성격과 스타일을 정의합니다. 이 메시지는 매 요청마다 함께 전송됩니다. 짧게 유지하세요. 매번 입력으로 계산됩니다.
기록
API는 호출 간 상태를 저장하지 않습니다. 따라서 사용자 메시지마다 봇의 응답을 목록에 추가해야 합니다. 봇의 응답을 추가하지 않으면 봇은 자신이 한 말을 잊어버립니다.
스트리밍
stream: true를 사용하면 서버 전송 이벤트를 통해 작은 단위로 응답이 도착합니다. 텍스트가 즉시 표시되므로 더 빠르게 느껴집니다. 참고: 스트리밍 요청은 스트림이 끝날 때까지 동시 요청 제한의 용량을 차지합니다. 테스트 키로는 동시 2개, 완전한 키로는 동시 8개가 허용됩니다.
max_tokens
이 파라미터는 선택사항입니다. 지정하지 않으면 응답이 100,000 토큰 창 전체를 사용할 수 있습니다. 채팅의 경우 상한선을 두는 것이 좋으며, 이는 응답이 과도하게 길어지는 것을 방지하고 불필요한 비용을 막아줍니다.
봇 비용 계산
가격: 입력 토큰 1M당 $0.15, 출력 토큰 1M당 $0.50. 시스템 프롬프트가 100 토큰, 기록이 평균 3,000 토큰, 응답이 300 토큰이라고 가정합시다.
- 입력: 3,100 / 1,000,000 × $0.15 = $0.000465
- 출력: 300 / 1,000,000 × $0.50 = $0.00015
- 합계: 메시지당 $0.000615
1,000 메시지당 $0.615입니다. 테스트 크레딧 $0.50으로는 계산상 약 813개의 메시지가 가능합니다 (0.50 / 0.000615 ≈ 813). 하루 50개의 메시지를 보내는 사용자는 월간(30일, 1,500 메시지) 약 $0.92의 비용을 발생합니다.
가장 큰 영향력은 대화의 길이입니다. 봇이 평균적으로 3,000개 토큰 대신 10,000개 토큰을 전송한다면, 입력량은 10,100 / 1,000,000 × $0.15 = $0.001515로 늘어나며 응답과 합쳐져 메시지당 $0.001665가 됩니다. 따라서 오래된 라운드를 줄이거나 요약하면 비용이 직접적으로 절감됩니다. 실패하거나 거부된 요청은 과금되지 않습니다.
일상 개선 사항
- 요약으로 기억 유지: 별도의 API 호출로 이전 메시지를 한 단락으로 요약하여 대체하세요. 이렇게 하면 봇은 낮은 비용으로 맥락을 유지합니다.
- 오류 처리: HTTP 429 오류를 처리하세요. 오류 코드
rate_limited은 분당 요청 수가 많음을,concurrency은 동시 요청 수가 많음을 의미합니다. 과부하 시 헤더에Retry-After: 5가 포함되므로 5초 동안 기다리세요. - 지속성: 대화 기록이 재시작 후에도 유지되도록 JSON 파일이나 데이터베이스에 기록을 저장하세요.
- 다중 사용자: 사용자별로 별도의 대화 목록을 유지하세요. 많은 사용자가 동시에 접속할 경우, 8개의 동시 요청이 처리량을 제한하므로 대기열을 사용하세요.
- 키 보호: 프론트엔드에 키를 직접 입력하지 마세요. API는 서버에서 호출하세요.
top_p, stop, seed와 같은 기타 매개변수 및 도구 호출 기능은 문서에서 설명합니다.
"무검열"의 의미
봇은 다른 어시스턴트가 거부할 수 있는 영역에서도 응답합니다. 이는 운영자의 책임을 대체하지 않습니다. 미성년자와 관련된 성적 콘텐츠는 예외 없이 제외되며, 본 서비스는 성인의 합법적인 사용을 목적으로 합니다. 봇을 공개적으로 제공할 경우 연령 확인을 요구하고 이용 약관을 명시하는 것이 좋습니다. 프롬프트는 학습용으로 사용되지 않으며, 사용자를 위한 귀하의 개인정보 보호 의무에는 영향을 미치지 않습니다.
또한 이 API는 텍스트 전용입니다. 이미지나 음성 채팅은 별도의 서비스가 필요합니다. 배경 지식은 제한 없는 AI 글을 참고하세요. 가격 단계는 가격 페이지에서 확인할 수 있습니다. USDT(TRC20) 또는 USDC(Base)로 $20부터 충전할 수 있으며, $50부터는 +5% 보너스가 제공됩니다.

