
一、确认Base URL是否支持embedding端点
不同的AI中转站对embedding模型的Base URL路径有不同约定。大部分兼容OpenAI接口的中转站会使用 /v1/embeddings 作为端点,但个别平台可能将路径设置为 /v1/beta/embeddings 或自定义路径。接入前请务必向中转站确认其支持的端点格式。
以千聚AI中转站为例,其Base URL统一为 https://api.token88.cc/v1,后续拼接 /embeddings 即可调用。若使用其他路径,可在官网文档中查询:立即访问千聚 查看最新接口说明。
二、API Key格式与权限范围
API Key通常是一串以 sk- 开头的字符串,但中转站可能生成不同前缀的Key,或要求附加特定权限参数(如模型白名单、账户ID绑定)。使用embedding模型时,API Key必须被授权至少调用embedding类模型。若Key缺少相应权限,会返回401或403错误。
在千聚AI中转站,生成的API Key默认拥有全部已购买模型的调用权限,包括text-embedding-3-small、text-embedding-3-large、以及国产embedding模型(如BGE、m3e)。获取Key后建议先使用以下Python代码测试连通性:
import openai
openai.api_key = "your-api-key"
openai.api_base = "https://api.token88.cc/v1"
response = openai.Embedding.create(
input="测试文本",
model="text-embedding-3-small"
)
print(response['data'][0]['embedding'][:5])
三、模型名称与维度参数
embedding模型返回的向量维度因模型而异,例如OpenAI的text-embedding-3-small默认维度为1536,text-embedding-3-large为3072。而国产模型如BGE-large-zh维度为1024。中转站可能对同一模型提供不同维度版本,需在调用时明确指定 dimensions 参数(若支持)。
以下表格列出常见embedding模型的默认维度及注意事项:
| 模型名称 | 默认维度 | 可自定义维度 | 备注 |
|---|---|---|---|
| text-embedding-3-small | 1536 | 是(256~1536) | 官方推荐 |
| text-embedding-3-large | 3072 | 是(256~3072) | 精度更高 |
| BGE-large-zh | 1024 | 否 | 中文更优 |
| m3e-large | 1024 | 否 | 混合编码 |
千聚AI中转站支持上述所有模型,并允许在调用时动态指定dimensions参数,方便开发者在不改变下游索引的情况下切换模型。
四、返回格式与后处理
OpenAI兼容接口返回的embedding数据格式为JSON,包含 object、index、embedding 字段。但某些中转站可能对返回结构做轻微调整(例如增加字段或修改key名称)。建议先在开发环境打印原始返回,确认字段名称后再进行后续处理。
千聚AI中转站完全遵循OpenAI官方返回格式,无需额外适配。若您正在接入其他中转站遇到返回格式不一致问题,可以考虑将千聚作为统一接入点,降低维护成本:www.token88.cc 提供了完整的API文档供参考。
五、批量请求与并发限制
embedding模型通常支持批量处理,即一次传入多个文本。中转站可能对单次请求的文本数量或总token数有限制。接入前确认这些限制,以便规划批量大小。千聚AI中转站在此方面采用较宽松的策略,单次请求最多支持100条文本,且支持并发调用,适合大规模向量化场景。
六、总结与下一步操作
接入embedding模型中转站前,请逐一确认Base URL端点、API Key权限、模型名称及维度、返回格式、批量限制五个接口细节。若希望一次配置搞定多模型调用,千聚AI中转站提供了清晰的文档和稳定的服务。现在就去官网获取API Key并测试吧:千聚AI中转站官网。