OpenWrt部署全栈AI神器AnythingLLM，YYDS

小伙伴们，你们听说过AnythingLLM吗？这个全方位AI应用程序绝对是你一直在寻找的宝藏工具！不但可以智能聊天，还能管理多用户、高度配置，真是好用到哭🥲。今天，就和大家一起如何在OpenWrt上通过docker-compose部署这个神器，让你分分钟拥有自己的私有GPT！🚀

AnythingLLM功能超强大，可以将各种文档、资源（如网址链接、音频、视频）转换为上下文，以便大语言模型（LLM）在聊天中参考。它支持多种LLM和向量数据库，还能智能管理工作区内的文档和对话，省心省力。多用户实例支持和权限管理、智能体Agent、定制聊天窗口……简直是打工人的救星！💼项目地址:github.com/Mintplex-Labs/anything-llm

在开始部署之前，我们需要确保OpenWrt设备(演示固件来源于openwrt.ai)上已经安装了Docker和docker-compose。如果还没有安装，可以进入到命令行终端(“服务”-“终端”)按照以下命令来完成：

opkg update
opkg install dockerd docker docker-compose
service docker start

确认Docker已安装并运行：

docker --version
docker-compose --version

下面开始部署AnythingLLM的步骤
1.git(安装git-http插件)克隆AnythingLLM仓库：

git clone https://github.com/Mintplex-Labs/anything-llm.git
cd anything-llm/docker

2.配置环境变量：
复制.env.example为一个.env文件，这里有很多大模型的API、Embedding API等参数设置，请根据需求进行内容修改(建议不要修改，在部署完成后管理界面生成)。
文件内容：
SERVER_PORT=3001
STORAGE_DIR="/app/server/storage"
UID='1000'
GID='1000'
......

注意要给.env文件加上权限：
chown -R 1000.1000 .env

3.创建数据库：
用touch创建一个空的 SQLite DB 文件：

mkdir -p server/storage&&touch server/storage/anythingllm.db&&chown -R 1000.1000 server

4.配置docker-compose文件：
修改docker-compose.yml文件，内容如下：

version: "3.9"

name: anythingllm

networks:
  anything-llm:
    driver: bridge

services:
  anything-llm:
    container_name: anything-llm
    image: mintplexlabs/anythingllm:latest
    cap_add:
      - SYS_ADMIN
    volumes:
      - "./.env:/app/server/.env"
      - "./server/storage:/app/server/storage"
      - "./collector/hotdir/:/app/collector/hotdir"
      - "./collector/outputs/:/app/collector/outputs"
    user: "${UID:-1000}:${GID:-1000}"
    ports:
      - "3001:3001"
    env_file:
      - .env
    networks:
      - anything-llm
    extra_hosts:
      - "host.docker.internal:host-gateway"

5.拉取镜像并启动容器：

docker-compose up -d

6.验证部署：
在浏览器中访问http://你openwrt路由器的IP:3001，如果看到AnythingLLM的登录界面，说明部署成功！🎉
360截图20240522110304659.jpg

7.使用和管理
现在，你可以通过AnythingLLM的管理界面添加模型的添加文档、创建工作区，甚至配置多用户权限。操作界面简洁易懂，小白也能快速上手！如果遇到问题，可以参考官方文档(docs.useanything.com/)或加入社区寻求帮助。
360截图20240522111324930.jpg