什么是“兼容 OpenAI 接口的服务”?有什么用?
概念
OpenAI 推出了 ChatGPT 之后,出现了很多中转站和新的 AI 服务,而这些服务为了方便已经在使用 OpenAI 的用户,几乎都会提供与 OpenAI 兼容的调用方式。
有什么用?
这只是一个临时方案,未来划词翻译将提供更直观的方式。也欢迎你将划词翻译未接入的 AI 服务反馈给我,我会考虑加入。
1. 使用中转服务
所有中转服务都是兼容 OpenAI 的调用方式的,这意味着你可以在划词翻译中将“兼容 OpenAI 接口的服务”当作中转服务来使用。
举一些例子:
- 你想要对比官方的 OpenAI 接口跟中转服务提供的 OpenAI 接口的效果。
- 你想要使用中转服务提供的 Gemini,但有一些中转服务提供 Gemini 中转时,使用的是 OpenAI 接口的形式,而 Gemini 本身的接口是不兼容 OpenAI 的。
此时你就可以找一个“兼容 OpenAI 接口的服务”(例如百川大模型),然后将它配置成中转服务,这样你就可以跟官方的 OpenAI 接口进行对比或者使用中转的 Gemini 了。
配置过程参考下文。
配置完成后,虽然在划词翻译内显示的仍然是“百川大模型”,但实际上你使用的是中转服务。
2. 使用划词翻译还未接入的 AI 服务
新出的 AI 服务一般都是兼容 OpenAI 接口的,这意味着即使划词翻译还没把它接入进来,你也可以通过配置“兼容 OpenAI 接口的服务”来使用这些新服务。
配置过程参考下文。
3. 对比同一 AI 服务的不同模型的效果
举个例子,OpenAI(ChatGPT)现在提供三个模型:gpt-3.5-turbo
、gpt-4-turbo
、gpt-4o
,你如果想要对比这三个模型的效果,那么你可以:
- 确定三个“兼容 OpenAI 接口的服务”,例如 OpenAI(ChatGPT)、百川大模型、智谱 AI。
- 分别配置这三个模型:(具体配置方式见下文)
- 【镜像地址】统一填写 OpenAI 的接口地址:
https://api.openai.com/v1/chat/completions
- 【管理密钥】当中统一填写同一个 OpenAI 的密钥
- 这三个服务的【模型】分别填写
gpt-3.5-turbo
、gpt-4-turbo
、gpt-4o
- 【镜像地址】统一填写 OpenAI 的接口地址:
这样,你在划词后就能看到三个模型的效果了。
如何配置“兼容 OpenAI 接口的服务”
无论是中转服务,还是新的 AI 服务,它们一定会提供三个信息:
- 接口地址,例如
https://api.example.com/abc/def
- 注意:如果只给了域名,例如
https://api.example.com
,那么一般需要加上后缀/v1/chat/completions
,也就是真正的接口地址可能是https://api.example.com/v1/chat/completions
- 也有可能不是以
/v1/chat/completions
结尾,还是要以提供方的文档为准
- 注意:如果只给了域名,例如
- 密钥,例如
sk-aBcdeFGhiJk=
- 模型名称,例如
abc-4
、abc-4-turbo
有了这三个信息,你就可以把“兼容 OpenAI 接口的服务”配置成你想使用的服务了,以百川大模型为例:
- 打开划词翻译设置页(如何打开)。
- 在左侧菜单中点击【第三方服务】,然后找到【百川大模型】,接下来:
- 【镜像地址】填写接口地址
- 【模型】填写模型名称
- 在左侧菜单中点击【服务申请】,然后找到【百川大模型】,点击【管理密钥】按钮,在弹窗中点击【添加密钥】按钮,然后将