需求

本文档主要介绍 ChatGPT-Next-Web 通过 one-api 来对接阿里通义千问的部署详细过程,并提供了一个可测试的在线服务示例。

部署 one-api

one-api 是 OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元。具体参考github地址

我们这里主要是对接阿里通义千问,采用docker方式进行部署,支持两种后端数据库部署,具体参考如下dockers命令:

   # 使用 SQLite 的部署命令:
  docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api
  # 使用 MySQL 的部署命令,在上面的基础上添加 `-e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi"`,请自行修改数据库连接参数,不清楚如何修改请参见下面环境变量一节。
  # 例如:
  docker run --name one-api -d --restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api
我们这里为了简单使用sqlite进行部署,执行: docker run –name one-api -d –restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /root/data/one-api:/data justsong/one-api (挂载的卷可自定义)

部署完成以后,我们打开页面,如能看到下图,即表示部署成功。 [图片] 然后创建一个通道,主要有两个地方需要填写:类型选择阿里通义千问,以及对应的密钥,同时需要注意选定的模型,如下图所示: [图片]

继续添加令牌,用于获得访问呢one-api的权限,并获取令牌: [图片]

部署 ChatGPT-Next-Web

ChatGPT-Next-Web 是跨平台 ChatGPT 应用,具体参考github地址

我们可以直接执行docker命令:

  docker run -d --name chatgpt-next-web -p 3001:3000 -e BASE_URL=http://192.168.168.176:3000/ -e CUSTOM_MODELS=-all,qwen-turbo -e OPENAI_API_KEY=sk-exiXwTlhPKMp93dfasfdsB11e0a4bA5Ec32Cb  yidadaa/chatgpt-next-web    环境变量需要根据实机部署环境进行调整
  docker run -d --name chatgpt-next-web -p 3001:3000 -e BASE_URL=http://10.18.101.53:7000/  -e CUSTOM_MODELS=-all,+qwen-turbo,+qwen-plus -e OPENAI_API_KEY=sk-exiXwTlhPKMp93dfasfdsB11e0a4bA5Ec32Cb  yidadaa/chatgpt-next-web  
需要注意的几个点,BASE_URL 需要填写上面one-api的部署地址和端口,CUSTOM_MODELS 指定的模型需要添加qwen-turbo,以及OPENAI_API_KEY 设置为one-api中的令牌。

完成上述部署后,我们就可以访问chatgpt-next-web所在地址了,在打开的对话框中输入"你是谁",回复 "我是通义千问,由阿里云开发的人工智能助手。我被设计用来回答各种问题、提供信息和与用户进行对话。有什么我可以帮助你的吗?" 则说明我们已经成功对接了通义千问,如下图: [图片]

示例

为了给大家一个可在线测试环境,这边部署了一套示例服务:
示例

自定义插件

Image not found

对话机器人

Image not found

Image not found