FastGPT知识库在OpenWrt上的一键部署

大家好,我是你的知识分享好伙伴!最近不少朋友都在问FastGPT这个知识库系统怎么部署,今天就和大家一起用OpenWrt通过docker-compose一键部署FastGPT🤓
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时通过 Flow 可视化进行工作流编排，可实现复杂的问答场景。项目地址：github.com/labring/FastGPT。部署起来并不复杂,只需几个简单步骤就能Get哦🥳

1.首先安装好docker和docker-compose。对于OpenWrt(演示固件来源于openwrt.ai)来说,可以在页面上(“系统”-“软件包”)安装这两个插件，也可以通过命令行(“服务”-“终端”)运行以下命令安装:

opkg update && opkg install docker docker-compose

已安装的小伙伴可以忽略此步骤。

2.然后去FastGPT的Github库下载配置文件。新建一个/data/docker/fastgpt目录,用于存放FastGPT的数据,进入目录下载docker-compose.yml和config.json文件。在命令行运行:

mkdir -p /data/docker/fastgpt
cd /data/docker/fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

3.拉取FastGPT相关镜像以及启动容器。在命令行执行

docker-compose up -d

等待一段时间镜像拉取完成后就可以一键启动成功了!是不是超级简单🤪
360截图20240424105724385.jpg
有遇到问题，可以参考docker部署文档：doc.fastai.site/docs/development/docker/

4.配置OneAPI，添加模型。访问你的OpenWrt路由器IP的3001端口，输入默认账号root,密码123456后成功登录，要修改掉初始密码。创建新的渠道，这里根据你的大模型服务商类型选择，填个名称，选择模型，再填上密钥，如通过第三方方式使用需填入代理地址或域名，提交完成。返回渠道页面，可对这个创建的渠道进行测试是否正常使用。
360截图20240424105158924.jpg

5.使用FastGPT。访问你的OpenWrt路由器IP的3000端口，输入默认账号root,密码1234后成功登录。这只是入门级的部署教程,更多高级玩法如何调教FastGPT、如何定制知识库内容、如何进行高级编排等,可以参考FastGPT官方文档。快速上手文档：doc.fastai.site/docs/course/quick-start/

360截图20240424110610345.jpg

如果觉得不错，可以一起来探讨一下!总之FastGPT真是小白派的福音呀🥳快去部署体验一下吧,绝对是宝藏神器💎

更多关注：www.9418666.xyz

FastGPT知识库在OpenWrt上的一键部署

评论 (0)