将所有大模型的api接口转为openai格式!便于你的开发与制作!
将所有大模型的api接口转为openai格式!便于你的开发与制作!
OpenAI的ChatGPT作为首个开放API接口的大模型,其API格式被广泛采用。然而,随着越来越多的大模型API的出现,如何将它们统一转换为OpenAI格式,以便于现有工具的使用,成为了一个实际需求。本文将详细介绍如何将各种大模型的API接口转换为OpenAI格式,以便于开发和使用。
项目地址
https://github.com/songquanpeng/one-api
服务器选购
本次搭建的东西主要是要长久稳定运行,因此我们这次选择的是腾讯云轻量服务器。我们本次使用的是轻量2核2g4m的服务器,搭建oneapi来非常适合,而且性价比非常高。
购买完成后,我推荐大家重装为腾讯云专属宝塔面板,不仅方便系统操作,还有一些专属功能也会在后期上线,大家可以期待一下。本篇文件就基于腾讯云专属宝塔面板来操作。
登录宝塔服务器
服务器重装完成之后,我们在服务器控制台选着我们的服务器后在应用管理处按照提示获取我们的面板地址和账号密码。现在的控制台为了安全,默认是不会显示账号密码的,我们先复制下面这条指令,然后点击右侧的登录:
sudo /etc/init.d/bt default
输入指令后回车即可获取到我们的宝塔服务器的账号密码,以及登录地址。我们在浏览器输入外网面板地址,输入下面的账号密码即可登录。
配置相关环境
登录后我们点击左侧的Docker。
如果你的服务器是新建的服务器,那么大概率是不自带Docker的,我们点击安装先安装Docker。安装完成后,我们点击上方的线上镜像,搜索one-api,找到 justsong/one-api这一个即可。因为我这里已经拉取了,所以和原先有点不一样,我们点击这个库后面的拉取即可。
拉取完毕之后,我们点击创建容器。这里要注意,容器名称随意即可,容器端口一定是要3000,对外随意,如果你想要ip+端口进行访问,我们就勾选对外暴露,反之关闭。完成后点击创建,我们就可以在容器页面下面看见这个容器了。
绑定域名(非必需)
绑定域名非必需,但是建议还是绑定域名。我们点击左侧的网站,新建一个网站,php版本随意即可,或者选择静态。完成后我们点击域名的设置。我们选择反向代理。选择添加反向代理。按照图示的填写,目标url填写127.0.0.1:你的对外端口,然后点击确定即可。
配置oneapi
完成后,我们访问域名,如果不出问题,我们会直接进入主页。默认的账号密码是root 123456。
登录后,我们点击渠道,添加其他大模型。我们这里以Google的gemini为例。模型地方会自动选择,你也可以自定义添加名称。在密钥处输入自己的密钥。然后点击提交。返回渠道页面,我们点击测试可以测试是否成功。如果没问题就如图所示。
创建key
我们点击上方的令牌。添加新的令牌,输入我们可以使用的模型。完成后,我们点击复制就可以复制我们的openai格式的key了。
申请ssl证书
因为http协议可能存在部分问题,所以我们要绑定域名申请ssl证书。我们在网站设置的ssl中选择Let’s Encrypt,然后点击申请证书即可。完成后我们点击保存即可。
测试对话
完成之后,我们可以测试一下是否可以正常使用。我们在令牌页面点击对话。随后我们会自动跳转。点击确认即可。然后我们打开设置。我们修改填写的模型名称即可。填入我们自定义的模型名称。打开新对话我们切换到我们自定义的模型。我们进行询问即可。
到这里,我们就可以看出我们转openai格式成功了。同样,我们也可以使用openai接口的各种ai工具了,只需要修改接口和key接口。