โครงสร้างพื้นฐาน: ลูป, ประวัติ, API
แชทบอทแบบไม่เซ็นเซอร์ในทางเทคนิคไม่ใช่กรณีพิเศษ คุณต้องการบล็อกสร้างพื้นฐานเดียวกับบอททุกตัว: ลูปรับข้อมูล, รายการข้อความ และโมเดลที่ตอบกลับ ความแตกต่างอยู่ที่โมเดล เราใช้ API ของ kiohnezensurapi.com ซึ่งให้บริการโมเดลแบบเปิดน้ำหนักจากผู้ให้บริการอิสระ ซึ่งปรับแต่งสำหรับการตอบกลับโดยไม่ปฏิเสธเนื้อหาสำหรับการใช้งานที่ถูกต้องตามกฎหมายโดยผู้ใหญ่
ข้อกำหนดเบื้องต้น: Python 3.9 ขึ้นไป, pip install openai และคีย์ API จากหน้า รับคีย์ API เครดิตทดลองใช้ฟรี $0.50 (หนึ่งครั้งต่อคน ใช้งานได้ 7 วัน ไม่ต้องใส่ข้อมูลการชำระเงิน) เพียงพอสำหรับคู่มือนี้ทั้งหมด
โค้ดทั้งหมด
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.kiohnezensurapi.com/v1",
api_key=os.environ["KI_KEY"],
)
SYSTEM = (
"Du bist Rex, ein trockener, direkter Gesprächspartner. "
"Du antwortest auf Deutsch, in kurzen Absätzen, ohne Vorträge."
)
verlauf = [{"role": "system", "content": SYSTEM}]
MAX_NACHRICHTEN = 20 # ohne System-Prompt
def kuerzen():
rest = verlauf[1:][-MAX_NACHRICHTEN:]
verlauf[:] = [verlauf[0]] + rest
while True:
text = input("Du: ").strip()
if text in ("", "exit"):
break
verlauf.append({"role": "user", "content": text})
kuerzen()
stream = client.chat.completions.create(
model="uncensored",
messages=verlauf,
stream=True,
temperature=0.8,
max_tokens=600,
)
antwort = ""
print("Rex: ", end="", flush=True)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
teil = chunk.choices[0].delta.content
antwort += teil
print(teil, end="", flush=True)
print()
verlauf.append({"role": "assistant", "content": antwort})บันทึกเป็น bot.py, ตั้งค่า KI_KEY ใน environment แล้วรัน python bot.py ฟังก์ชัน kuerzen จะเก็บเฉพาะข้อความล่าสุด 20 รายการพร้อม system prompt เพื่อให้ประวัติการสนทนาไม่ขยายใหญ่ขึ้นเรื่อยๆ
วิธีที่โค้ดทำงาน
พรอมต์ระบบ
ข้อความแรกที่มี role: system กำหนดบุคลิกภาพและสไตล์ จะถูกส่งไปกับทุกคำขอ ให้กระชับเพราะมันนับเป็นอินพุตทุกครั้ง
ประวัติการสนทนา
API ไม่จัดเก็บข้อมูลระหว่างการเรียกใช้ ดังนั้นคุณจึงต้องแนบข้อความผู้ใช้และคำตอบแต่ละรายการเข้ากับรายการ หากไม่มีคำตอบของบอท บอทจะลืมสิ่งที่ตัวเองพูดไป
สตรีมมิง
ด้วย stream: true คำตอบจะส่งผ่าน Server-Sent Events เป็นชิ้นส่วนเล็กๆ ซึ่งรู้สึกเร็วขึ้นเพราะข้อความปรากฏทันที โปรดทราบ: การเรียกแบบสตรีมมิงจะครอบครองตำแหน่งในขีดจำกัดอัตราคำขอพร้อมกัน จนกว่าสตรีมจะสิ้นสุด ด้วยคีย์ทดสอบอนุญาตให้ทำพร้อมกัน 2 คำขอ และด้วยคีย์เต็มจำนวน 8 คำขอ
max_tokens
พารามิเตอร์นี้ไม่บังคับ หากไม่ระบุ ระบบจะอนุญาตให้คำตอบใช้พื้นที่ที่เหลือของหน้าต่างบริบทขนาด 100,000 โทเคนได้ สำหรับแชทบอท การกำหนดขีดจำกัดบนมีความเหมาะสม เพราะช่วยปกป้องไม่ให้คำตอบยาวเกินจำเป็น ซึ่งนำไปสู่ค่าใช้จ่ายที่ไม่จำเป็น
การคำนวณต้นทุนสำหรับบอทของคุณ
ราคา: $0.15 ต่อ 1M โทเคนอินพุต, $0.50 ต่อ 1M โทเคนเอาต์พุต สมมติว่าพรอมต์ระบบมี 100 โทเคน และประวัติการสนทนาเฉลี่ย 3,000 โทเคน คำตอบมี 300 โทเคน
- อินพุต: 3,100 / 1,000,000 × $0.15 = $0.000465
- เอาต์พุต: 300 / 1,000,000 × $0.50 = $0.00015
- รวม: $0.000615 ต่อข้อความ
นี่คือ $0.615 ต่อ 1,000 ข้อความ ด้วยเครดิตทดลองใช้ $0.50 คุณจะส่งข้อความได้ประมาณ 813 ข้อความตามการคำนวณ (0.50 / 0.000615 ≈ 813) ผู้ใช้ที่ส่งข้อความ 50 ข้อความต่อวัน จะสร้างต้นทุนประมาณ $0.92 ต่อเดือน (30 วัน 1,500 ข้อความ)
ปัจจัยที่มีผลต่อต้นทุนมากที่สุดคือความยาวของประวัติการสนทนา หากบอทส่งประวัติการสนทนาเฉลี่ย 10,000 แทนที่จะเป็น 3,000 โทเคน อินพุตจะเพิ่มขึ้นเป็น 10,100 / 1,000,000 × $0.15 = $0.001515 ต่อข้อความ รวมกับคำตอบเป็น $0.001665 ดังนั้นการตัดทอนหรือสรุปบทสนทนาเก่าจะช่วยประหยัดเงินโดยตรง คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่คิดเงิน
การปรับปรุงสำหรับการใช้งานจริง
- การจดจำผ่านการสรุปความ: สรุปข้อความเก่าด้วยการเรียก API แยกแล้วแทนที่ด้วยข้อความสรุป เพื่อให้บอทจำบทสนทนาต่อไปได้โดยมีต้นทุนที่ต่ำกว่า
- การจัดการข้อผิดพลาด: จับ HTTP 429 รหัสข้อผิดพลาด
rate_limitedหมายถึงคำขอเกินต่อนาทีconcurrencyหมายถึงคำขอพร้อมกันเกินจำนวนที่กำหนด เมื่อโหลดเกินจะมีRetry-After: 5ในหัวข้อความหมายให้รอ 5 วินาที - การเก็บถาวร: บันทึกประวัติการสนทนาเป็นไฟล์ JSON หรือฐานข้อมูล เพื่อให้บทสนทนาสามารถเริ่มใหม่ได้
- ผู้ใช้หลายคน: สร้างรายการประวัติการสนทนาแยกสำหรับผู้ใช้แต่ละราย เมื่อมีผู้ใช้จำนวนมากพร้อมกัน ขีดจำกัดคำขอพร้อมกัน 8 คำขอจะจำกัดปริมาณงาน ให้ใช้คิว
- การป้องกันคีย์: อย่าเขียนคีย์ลงในหน้าเว็บฝั่งไคลเอนต์ เรียก API จากเซิร์ฟเวอร์ของคุณ
พารามิเตอร์เพิ่มเติมเช่น top_p, stop และ seed รวมถึงการเรียกใช้ฟังก์ชัน (function calling) อธิบายไว้ใน เอกสารประกอบ
ความหมายของ "ไม่มีตัวกรอง"
บอทจะตอบคำถามในสถานการณ์ที่ผู้ช่วยอื่นๆ อาจปฏิเสธ ซึ่งไม่ได้แทนที่ความรับผิดชอบของคุณในฐานะผู้ให้บริการ เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ถูกตัดออกโดยสิ้นเชิง และบริการนี้มุ่งเน้นการใช้งานที่ถูกต้องตามกฎหมายโดยผู้ใหญ่ หากคุณให้บริการบอทต่อสาธารณะ ควรขอระบุอายุและกำหนดกฎการใช้งานไว้ชัดเจน พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล ภาระหน้าที่ด้านความเป็นส่วนตัวของคุณที่มีต่อผู้ใช้ยังคงอยู่ตามเดิม
นอกจากนี้ API เป็นข้อความล้วน: แชทภาพหรือเสียงต้องการบริการอื่น บทความ AI โดยไม่มีการจำกัด ให้ข้อมูลพื้นฐาน ส่วนตารางราคาอยู่ที่ หน้าราคา การเติมเงินเริ่มต้นที่ $20 ด้วย USDT บน TRC20 หรือ USDC บน Base พร้อมโบนัส +5% เมื่อเติมตั้งแต่ $50

