需求 本文档主要介绍 ChatGPT-Next-Web 通过 one-api 来对接阿里通义千问的部署详细过程,并提供了一个可测试的在线服务示例。 部署 one-api one-api 是 OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元。具体参考github地址:https://github.com/songquanpeng/one-api 我们这里主要是对接阿里通义千问,采用docker方式进行部署,支持两种后端数据库部署,具体参考如下dockers命令:
使用 SQLite 的部署命令:
docker run –name one-api -d –restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api
使用 MySQL 的部署命令,在上面的基础上添加 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi"
,请自行修改数据库连接参数,不清楚如何修改请参见下面环境变量一节。
例如:
docker run –name one-api -d –restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api 我们这里为了简单使用sqlite进行部署,执行: docker run –name one-api -d –restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /root/data/one-api:/data justsong/one-api (挂载的卷可自定义)
部署完成以后,我们打开页面,如能看到下图,即表示部署成功。 [图片] 然后创建一个通道,主要有两个地方需要填写:类型选择阿里通义千问,以及对应的密钥,同时需要注意选定的模型,如下图所示: [图片]
继续添加令牌,用于获得访问呢one-api的权限,并获取令牌:
[图片]
部署 ChatGPT-Next-Web
ChatGPT-Next-Web 是跨平台 ChatGPT 应用,具体参考github地址:https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web
我们可以直接执行docker命令:
docker run -d –name chatgpt-next-web -p 3001:3000 -e BASE_URL=http://192.168.168.176:3000/ -e CUSTOM_MODELS=-all,qwen-turbo -e OPENAI_API_KEY=sk-exiXwTlhPKMp93dfasfdsB11e0a4bA5Ec32Cb yidadaa/chatgpt-next-web 环境变量需要根据实机部署环境进行调整
docker run -d –name chatgpt-next-web -p 3001:3000 -e BASE_URL=http://10.18.101.53:7000/ -e CUSTOM_MODELS=-all,+qwen-turbo,+qwen-plus -e OPENAI_API_KEY=sk-exiXwTlhPKMp93dfasfdsB11e0a4bA5Ec32Cb yidadaa/chatgpt-next-web
需要注意的几个点,BASE_URL 需要填写上面one-api的部署地址和端口,CUSTOM_MODELS 指定的模型需要添加qwen-turbo,以及OPENAI_API_KEY 设置为one-api中的令牌。
完成上述部署后,我们就可以访问chatgpt-next-web所在地址了,在打开的对话框中输入"你是谁",回复 "我是通义千问,由阿里云开发的人工智能助手。我被设计用来回答各种问题、提供信息和与用户进行对话。有什么我可以帮助你的吗?" 则说明我们已经成功对接了通义千问,如下图: [图片] 示例 为了给大家一个可在线测试环境,这边部署了一套示例服务: http://182.16.72.122:3001/