使用腾讯云轻量应用服务器部署大语言模型的知识库问答系统FastGPT
3.1 选择服务器环境,这里我选择Linux系统的centos环境,然后再自己安装宝塔面板,大家可以自行先安装一下。
PS:https://curl.qcloud.com/rnuXqlNU 这里可以挑选最新活动机,便宜实惠。
3.2 购买成功后,控制台旁边的消息里就会收到服务器的ip和密码信息。如果没有的话也可以去控制台里找到服务器然后充值密码。(服务器的端口记得去开一下,也就是防火墙)
3.3 获得密码了后,就可以点击上方图的登录按钮,进入腾讯云的OrcaTerm,然后进行宝塔服务器安装,大家跟着流程一直走,安装命令我放在下方了。
代码语言:php
AI代码解释
复制
yum install -y wget && wget -O install.sh https://download.bt.cn/install/install_6.0.sh && sh install.sh ed8484bec
3.4 宝塔面板安装完成后,就会有面板的信息,记得复制然后留存,要不然后面还得进服务器去重置。
3.5 进入宝塔面板,我们就开始操作FastGPT的安装部署了,首先打开宝塔面板的左边栏的文件,然后找到一个位置用来存放FastGPT的部署文件等,这里我一般都喜欢在 /www 里来弄。
3.6 进入www文件夹后,点击菜单上的终端,准备开始进行操作了。
3.7 执行下方指令
代码语言:php
AI代码解释
复制
mkdir fastgpt cd fastgpt curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json openssl rand -base64 756 > ./mongodb.key chmod 600 ./mongodb.key chown 999:root ./mongodb.key
3.8 执行完了后,再创建一个浏览器标签,打开宝塔面板,进入刚才创建的文件里,然后编辑docker-compose.yml,拉到最底部有两个地方要注意,一个是后台密码,可以提前设置一个复杂密码,然后就是你的gpt的key。(国内应该是用不了,得用中转或代理吧)
3.9 编辑完了后,再回到刚才的终端窗口,继续往下走
代码语言:php
AI代码解释
复制
docker-compose pull docker-compose up -d docker ps docker exec -it mongo bash mongo -u myname -p mypassword --authenticationDatabase admin rs.initiate({ _id: "rs0", members: [ { _id: 0, host: "mongo:27017" } ] }) rs.status()
rs0 状态,则代表运行成功,以上就是的FastGPT部署操作了。
5.1 部署完了后,我们进入后台,后台地址是IP+3000端口。(如果进不去的话,就说明服务器还是宝塔面板的防火墙端口没有开放),点击左边栏的知识库,然后创建一个知识库,然后保存并预览,就可以开始使用了。
5.2 进入刚刚创建好的知识库,然后点击右边的手动录入,手动插入一条数据,插入完成了后,再点击左边栏的应用,创建一个应用,然后进入应用,选择好模型和刚才创建好的知识库。
5.3 在右边就可以测试一下。
相关知识
大模型知识库问答 流程图模板
智能问答系统(工作原理和优势分析)
高分毕设:Python农业病虫害问答系统源码
解析大模型、RAG、Agent、知识库、向量数据库、知识图谱与AGI:区别与联系综述,非常详细收藏我这一篇就够了
智能问答系统设计:决策树在医疗健康咨询中的应用
一个智能客服系统的设计思路
一文剖析大模型、RAG、Agent、MCP、Function Calling、知识库、向量数据库、知识图谱、AGI 的区别和联系
ArXivQA: 基于大型语言模型的自动化arXiv论文问答系统
中能拾贝:AI大模型技术在能源电力行业“遍地开花”
从0到1开发搭建智能在线客服系统
网址: 智能问答再升级:快速部署FastGPT大语言模型的知识库系统 https://m.huajiangbk.com/newsview2290043.html
上一篇: 利用分词处理以及搜索引擎搭建智能 |
下一篇: 《丁香园》软件的健康问答社区如何 |