目前兼容OpenAI协议的模型包括
- Cloudflare_Workers_AI
- DeepSeek
- 智谱glm
- 阿里DashScope
- 字节火山方舟
- 零一万物
- groq
官方OpenAI直接可以接入,对于其他厂商的模型,我们只需要配置好模型名称以及该模型的服务地址即server_url
即可。
这里为了方便直接兼容两种形式的API地址,可以选择或者不带上/chat/completions
,复制的时候比较方便!
https://api.deepseek.com/v1
https://api.deepseek.com/v1/chat/completions
以上两种形式地址都是可以的。
我们以DeepSeek模型为例,目前DeepSeek提供的模型是deepseek-chat
,然后其服务地址是https://api.deepseek.com/v1
因此配置信息如下:
{
"services": {
"openai": [
{
"models": ["deepseek-chat"],
"enabled": true,
"credentials": {
"api_key": "xxx"
},
"server_url": "https://api.deepseek.com/v1"
}
]
}
}
DeepSeek接入可以参考文档docs/deepseek模型申请使用流程.md
{
"services": {
"openai": [
{
"models": ["glm-4","glm-3-turbo"],
"enabled": true,
"credentials": {
"api_key": "xxx"
},
"server_url":"https://open.bigmodel.cn/api/paas/v4/chat/completions"
}
]
}
}
智谱详细接入可以参考文档docs/智谱glm模型申请使用流程.md
文档中心:https://platform.lingyiwanwu.com/docs API 服务地址:https://api.lingyiwanwu.com/v1/chat/completions Key管理:https://platform.lingyiwanwu.com/apikeys
{
"services": {
"openai": [
{
"models": [
"yi-large",
"yi-spark",
"yi-medium",
"yi-medium-200k",
"yi-large-turbo"
],
"enabled": true,
"credentials": {
"api_key": "xxx"
},
"server_url": "https://api.lingyiwanwu.com/v1/chat/completions"
}
]
}
}