☰
Current Page
Main Menu
Home
Home
Editing
阿里通义千问
Edit
Preview
h1
h2
h3
default
Set your preferred keybinding
default
vim
emacs
markdown
Set this page's format to
AsciiDoc
Creole
Markdown
MediaWiki
Org-mode
Plain Text
RDoc
Textile
Rendering unavailable for
BibTeX
Pod
reStructuredText
Help 1
Help 1
Help 1
Help 2
Help 3
Help 4
Help 5
Help 6
Help 7
Help 8
Autosaved text is available. Click the button to restore it.
Restore Text
### 需求 本文档主要介绍 ChatGPT-Next-Web 通过 one-api 来对接阿里通义千问的部署详细过程,并提供了一个可测试的在线服务示例。 ### 部署 one-api one-api 是 OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元。具体参考[github地址](https://github.com/songquanpeng/one-api): 我们这里主要是对接阿里通义千问,采用docker方式进行部署,支持两种后端数据库部署,具体参考如下dockers命令: ``` # 使用 SQLite 的部署命令: docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api # 使用 MySQL 的部署命令,在上面的基础上添加 `-e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi"`,请自行修改数据库连接参数,不清楚如何修改请参见下面环境变量一节。 # 例如: docker run --name one-api -d --restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api ``` 我们这里为了简单使用sqlite进行部署,执行: docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /root/data/one-api:/data justsong/one-api (挂载的卷可自定义) 部署完成以后,我们打开页面,如能看到下图,即表示部署成功。 [图片] 然后创建一个通道,主要有两个地方需要填写:类型选择阿里通义千问,以及对应的密钥,同时需要注意选定的模型,如下图所示: [图片] 继续添加令牌,用于获得访问呢one-api的权限,并获取令牌: [图片] ### 部署 ChatGPT-Next-Web ChatGPT-Next-Web 是跨平台 ChatGPT 应用,具体参考[github地址](https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web) 我们可以直接执行docker命令: ``` docker run -d --name chatgpt-next-web -p 3001:3000 -e BASE_URL=http://192.168.168.176:3000/ -e CUSTOM_MODELS=-all,qwen-turbo -e OPENAI_API_KEY=sk-exiXwTlhPKMp93dfasfdsB11e0a4bA5Ec32Cb yidadaa/chatgpt-next-web 环境变量需要根据实机部署环境进行调整 docker run -d --name chatgpt-next-web -p 3001:3000 -e BASE_URL=http://10.18.101.53:7000/ -e CUSTOM_MODELS=-all,+qwen-turbo,+qwen-plus -e OPENAI_API_KEY=sk-exiXwTlhPKMp93dfasfdsB11e0a4bA5Ec32Cb yidadaa/chatgpt-next-web ``` 需要注意的几个点,BASE_URL 需要填写上面one-api的部署地址和端口,CUSTOM_MODELS 指定的模型需要添加qwen-turbo,以及OPENAI_API_KEY 设置为one-api中的令牌。 完成上述部署后,我们就可以访问chatgpt-next-web所在地址了,在打开的对话框中输入"你是谁",回复 "我是通义千问,由阿里云开发的人工智能助手。我被设计用来回答各种问题、提供信息和与用户进行对话。有什么我可以帮助你的吗?" 则说明我们已经成功对接了通义千问,如下图: [图片] ### 示例 为了给大家一个可在线测试环境,这边部署了一套示例服务: [示例](http://182.16.72.122:3001/) ### 自定义插件 [[/uploads/iidp-plugin/tongyiqianwen-3.png]] ### 对话机器人 [[/uploads/iidp-plugin/tongyiqianwen-1.png]] [[/uploads/iidp-plugin/tongyiqianwen-2.png]]
Uploading file...
Sidebar
[[_TOC_]]
Edit message:
Cancel