在配置代码之前,需要先完成以下基础准备工作:
- 前往 千聚AI中转站官网 注册账号,完成邮箱验证。
- 登录后进入控制台,创建属于你的 API Key。请妥善保存,后续配置中会用到。
- 根据项目预估用量购买 Token。千聚支持按量充值,余额透明管理。
- 在官网模型列表页查看当前支持的知识库问答类模型,例如 GPT-4o、Claude 3 系列、DeepSeek、Gemini 等,确认你需要的模型是否包含在内。
- 记下千聚提供的 Base URL(通常为
https://api.token88.cc/v1/格式)以及目标模型的唯一标识名称。
提示:具体模型名称、Base URL 以及最新支持列表请以官网实时信息为准,建议定期查看更新。
配置三个核心参数:API Key、Base URL 与模型名称
千聚使用完全兼容 OpenAI 的接口协议,因此你只需修改三个参数即可完成切换。以下是一个最小化的 Python 配置示例:
import openai
openai.api_key = "sk-你的千聚API Key"
openai.base_url = "https://api.token88.cc/v1/"
model_name = "gpt-4o" # 按需替换为实际模型名称
以上配置同样适用于 Node.js、Java、Go 等语言,只需将对应 openai 客户端的 base URL 和 apiKey 替换为千聚提供的值即可。注意:base_url 的尾部需包含 /v1/ 路径。
测试一次知识库问答调用
完成参数配置后,可以发送一条简单的知识库问答请求来验证连通性。以下是使用上述配置的对话示例:
response = openai.chat.completions.create(
model=model_name,
messages=[
{"role": "system", "content": "你是一个知识库问答助手,请基于内部知识回答用户问题。"},
{"role": "user", "content": "请简要介绍RAG技术的原理?"}
]
)
print(response.choices[0].message.content)
如果返回正常的回答,说明接入成功。你可以进一步调整系统提示词、温度等参数来适配不同业务场景。
选择适合的知识库问答模型与成本管理
不同模型在知识库问答任务中的表现和 Token 消耗存在差异。千聚支持多模型聚合,开发者无需切换平台即可试用多种模型,降低了选型成本。下表简要列出几类常用模型的特点:
| 模型系列 | 适用场景 | 计费方式 |
|---|---|---|
| GPT-4o / GPT-4o mini | 复杂推理、多轮对话 | 按 Token 计费 |
| Claude 3 (Haiku/Sonnet) | 长文档理解、安全控制 | 按 Token 计费 |
| DeepSeek / Qwen | 中文优化、推理成本较低 | 按 Token 计费 |
| Gemini Pro / Grok | 多模态扩展、创新场景 | 按 Token 计费 |
实际成本取决于输入输出的 Token 总量以及所选模型的单价。建议在开发阶段使用轻量模型进行测试,生产环境再切换到高性能模型。具体 Token 价格和套餐信息请直接查看 千聚 AI 中转站。
更多参考资源
- 千聚 AI 中转站官方首页
- 查看模型列表
- <a href="https://www.token88.cc/" target="_blank" style="color:#d32f2f;font-weight:bold