搜索：
搜索到 29 篇与 的结果-
ChatOllama怎么用？OpenWrt快速部署它 大家好呀！今天我要和大家分享一款超级好用的神器——ChatOllama🌟，以及如何在OpenWrt上通过docker-compose来部署它。如果你也是个技术小白，这篇文章绝对是你的救星💡，一起手把手来操作，轻松搞定部署！什么是ChatOllama？ChatOllama是一款基于AI的聊天机器人🤖，功能强大，应用广泛。无论是用来做个人助理还是知识库，它都能轻松胜任。而且，它支持在各种操作系统和环境下运行，尤其是通过Docker容器化部署，让安装和管理变得更加简单。很多小伙伴用OpenWrt来做路由器，但其实它的功能远不止如此。在OpenWrt上安装Docker，你可以将你的路由器变成一个功能强大的服务器🌐。是不是很酷？准备工作在开始之前，我们需要一些准备工作：确保你的OpenWrt设备(建议从openwrt.ai下载安装固件)已经安装了Docker和Docker-compose。如果还没有，先在命令行执行以下命令安装：opkg update opkg install docker dockerd opkg install docker-compose确保你的设备已经连接到互联网，以便下载必要的镜像和资源。确认一下Docker环境已准备好。部署步骤接下来，我们进入正题，开始部署ChatOllama。步骤一：创建docker-compose文件我们需要创建一个放置的目录，如mkdir -p /data/docker/chatollama,在目录内创建一个docker-compose文件来定义ChatOllama服务，命令：cd /data/docker/chatollama vi docker-compose.ymldocker-compose.yml文件如下：services: ollama: image: ollama/ollama ports: - "11434:11434" restart: always volumes: - ollama_data:/root/.ollama chromadb: image: chromadb/chroma ports: - "8000:8000" restart: always volumes: - chromadb_data:/chroma/.chroma/index chatollama: environment: - CHROMADB_URL=http://chromadb:8000 - DATABASE_URL=file:/app/sqlite/chatollama.sqlite - REDIS_HOST=redis image: 0001coder/chatollama:latest extra_hosts: - "host.docker.internal:host-gateway" ports: - "3000:3000" restart: always volumes: - ~/.chatollama:/app/sqlite redis: image: redis:latest restart: always volumes: - redis_data:/data volumes: chromadb_data: redis_data: 保存并退出编辑器。步骤二：启动服务接下来，我们使用docker-compose启动ChatOllama服务：docker-compose up -d这一步会自动拉取ChatOllama的相关镜像并启动服务。如果一切顺利，你应该可以容器在运行。步骤三：配置ChatOllama打开浏览器，访问http://<你的OpenWrt设备IP>:3000，进入ChatOllama的主界面。按照提示完成Ollama配置，只需在端点框下填http://host.docker.internal:11434，然后保存。然后可以在模型页面下载一个qwen:0.5b的大模型：另外也需要在命令行初始一下SQLite 数据库：步骤四：测试ChatOllama配置完成后，可以在Web界面上测试ChatOllama的功能。进入对话页，最下方选择模型后，输入一些常见的问题，看看它的表现。如果一切正常，你的ChatOllama已经成功部署并运行啦！🎉常见问题和解决办法1.无法访问Web界面：确保Docker服务正常运行，并检查端口映射是否正确。2.拉取镜像失败：检查网络连接，并确保OpenWrt设备有足够的存储空间。3.服务启动失败：查看docker-compose日志，检查是否有错误信息，并根据提示解决。看完这篇文章，是不是觉得在OpenWrt上部署ChatOllama其实很简单？🧐只需要几个步骤，你就能拥有一个强大的AI聊天助手。还在等什么？赶快动手试试吧！希望这篇文章对你有所帮助，记得点赞👍、收藏❤️、分享🔗，让更多人知道这个宝藏神器！💎更多关注：www.9418666.xyz -
Flowise是什么东东？在OpenWrt上来部署康康 小伙伴们，今天给大家带来一个超级好用的神器——Flowise！😍它是一款集成了多种功能的工具，可以让你通过拖拽界面轻松创建自定义的LLM流程。操作简单，功能强大，绝对是你不可或缺的好帮手。今天我们就来一起在OpenWrt上通过docker-compose部署Flowise。话不多说，都给我冲吧！🚀准备工作在开始部署之前，我们需要确保你已经安装了以下环境：DockerDocker Compose未安装的小伙伴建议从openwrt.ai下载固件，可直接在软件包里安装dockerd和docker-compose插件。确保这些环境安装完成后，我们就可以开始部署Flowise啦！😉第一步：创建.env文件首先，我们需要在创建的项目目录下创建一个.env文件。mkdir -p /data/docker/flowise cd /data/docker/flowise vi .env内容可以复制参考一下这个.env文件。这个文件是配置Flowise的关键，我们需要在其中指定各种环境变量。💡PORT=3000 FLOWISE_USERNAME=admin FLOWISE_PASSWORD=admin DATABASE_PATH=/root/.flowise APIKEY_PATH=/root/.flowise SECRETKEY_PATH=/root/.flowise LOG_PATH=/root/.flowise/logs BLOB_STORAGE_PATH=/root/.flowise/storage这里的配置包括指定端口，登录用的账号密码，以及数据（如流程、日志、API密钥、凭证等）能够持久保存的路径，确保每次重启容器后数据不会丢失。第二步：配置启动docker-compose在此目录下再创建一个docker-compose.yml文件，内容如下：version: '3.1' services: flowise: image: flowiseai/flowise restart: always environment: - PORT=${PORT} - CORS_ORIGINS=${CORS_ORIGINS} - IFRAME_ORIGINS=${IFRAME_ORIGINS} - FLOWISE_USERNAME=${FLOWISE_USERNAME} - FLOWISE_PASSWORD=${FLOWISE_PASSWORD} - FLOWISE_FILE_SIZE_LIMIT=${FLOWISE_FILE_SIZE_LIMIT} - DEBUG=${DEBUG} - DATABASE_PATH=${DATABASE_PATH} - DATABASE_TYPE=${DATABASE_TYPE} - DATABASE_PORT=${DATABASE_PORT} - DATABASE_HOST=${DATABASE_HOST} - DATABASE_NAME=${DATABASE_NAME} - DATABASE_USER=${DATABASE_USER} - DATABASE_PASSWORD=${DATABASE_PASSWORD} - DATABASE_SSL=${DATABASE_SSL} - DATABASE_SSL_KEY_BASE64=${DATABASE_SSL_KEY_BASE64} - APIKEY_PATH=${APIKEY_PATH} - SECRETKEY_PATH=${SECRETKEY_PATH} - FLOWISE_SECRETKEY_OVERWRITE=${FLOWISE_SECRETKEY_OVERWRITE} - LOG_LEVEL=${LOG_LEVEL} - LOG_PATH=${LOG_PATH} - BLOB_STORAGE_PATH=${BLOB_STORAGE_PATH} - DISABLE_FLOWISE_TELEMETRY=${DISABLE_FLOWISE_TELEMETRY} - MODEL_LIST_CONFIG_JSON=${MODEL_LIST_CONFIG_JSON} ports: - '${PORT}:${PORT}' volumes: - ./flowisedata:/root/.flowise entrypoint: /bin/sh -c "sleep 3; flowise start"有了配置文件后，我们就可以启动docker-compose了。在项目当前目录下运行以下命令：docker-compose up -d这将下载并启动Flowise的容器，等待完成。是不是so easy？😍第三步：测试和使用完成后，你可以访问http://你的OpenWrt设备的IP:3000来开始使用Flowise,输入我们配置的默认账号密码admin/admin,开始创建你的第一个流程，体验拖拽式界面的便利吧！🤩更多使用教程请学习其官方文档：docs.flowiseai.com/using-flowise第四步；关闭容器如果你想关闭容器，只需要运行以下命令：docker-compose down这样就可以随时停止和启动Flowise，超级方便！👍总结Flowise是一款非常强大的工具，操作简单，功能丰富，特别适合开发者和小白使用。不管你是想构建LLM应用还是管理数据，Flowise都能满足你的需求！建议收藏，绝对不会让你失望！🌟如果你有任何问题或者需要帮助，欢迎加入tg群！希望这篇教程对你们有所帮助，祝大家使用愉快！😊更多关注：www.9418666.xyz
-
用luci-app-wizard配置OpenWrt网络，简单又高效 小伙伴们，你们是不是比较烦折腾OpenWrt的网络配置？今天就让我们一起来搞定这个工具吧！✨ 不用担心，这篇文章一起来用luci-app-wizard来配置网络，真的超简单！小白也能轻松搞定哦～首先，打开你的OpenWrt界面，登录到LuCI。建议OpenWrt的固件从openwrt.ai下载。别急，一步步来，你一定可以搞定！1.进入LuCI界面打开浏览器，输入你的路由器IP地址（格式一般是192.168.x.x），然后输入你的用户名和密码登录。🚪2.找到luci-app-wizard插件登录后，进入系统菜单，找到“软件包”，先更新列表，搜索“luci-app-wizard”，然后点击安装。等安装完成，我们就可以开始配置网络啦！🎉3.配置向导开始安装完成后，回到主菜单，你会看到一个新的“网络向导”选项，点击进入。里面有三种组网的模式，根据提示一步步操作，非常直观。😎4.设置宽带拨号在向导中选择第一种模式：宽带拨号连接，一般通过WAN接口连接到光猫进行拨号。这里需要填入网络提供商给PPPoE拨号的用户名和密码。DHCP在LAN口保持默认启用状态📡5.设置连接到现有路由器这种模式时候不需要拨号，直接连接到网络提供商的局域网中，比如光猫支持路由功能。默认将WAN 接口配置方式和DNS 配置方式都设置自动获取(DHCP)。注意如果WAN的接口网段与你的OpenWrt路由的网段冲突，需要到LAN接口更改IP地址，可以在“网络”-“接口”中进行设置，编辑为不同网段的地址即可。🌐6.设置旁路由旁路由就是不使用WAN接口，直接设置LAN口的IP等信息连接网络，作为第二个上网的网关，可以自动设置或手动设置，建议根据你的实际情况进行设置，相当于给一台普通电脑设置网络。需要注意的是DHCP服务，若网络中已有DHCP的服务，就需要关闭掉旁路由的，否则会导致冲突。NAT启用就根据你的无线网络访问情况来设置吧。7.保存并应用最后，检查你的配置，如果没有问题，点击“保存配置”。系统会自动重启，并应用你所做的设置。等几分钟，新的网络配置就生效了。🚀整个过程是不是很简单？😉其实只要跟着向导一步步来，真的没有想象中那么难。配置完成后，你的网络应该就能正常工作了。如果还有什么问题，可以多看看网上的教程。这篇文章真的非常适合那些刚接触OpenWrt的小白们，绝对是好用到哭的工具推荐！记得给我疯狂点赞哦～👍更多关注：www.9418666.xyz
-
OpenWrt上搞定ChatTTS-ui，掌控AI文生真人语音技术 小伙伴们，今天给大家带来一篇详细的教程，一起来学习在OpenWrt上通过Docker Compose搭建ChatTTS-ui！😎什么是ChatTTS-ui？ChatTTS是一个超级棒的工具，可以将文字直接转换为语音，这个语言相当真实，带有语气，并且支持中英文和数字的混杂哦！而ChatTTS-ui是一个简单的本地网页界面，直接使用ChatTTS将文字合成为语音，同时支持对外提供API接口。简直是语音合成神器！✨准备工作在开始之前，你需要确保你的OpenWrt设备已安装好Docker和Docker Compose环境，建议从openwrt.ai上下载固件，可在软件包中安装dockerd和docker-compose插件。由于ChatTTS项目组建议设备支持4G以上的英伟达显卡，并且安装了CUDA11.8+，这个目前OpenWrt还做不到，需要加倍努力。如果没有显卡也没关系，它也有CPU版本的部署方法，下面就介绍这个方法吧！🖥️步骤一：拉取项目仓库首先，我们需要在任意路径下克隆ChatTTS-ui项目(请先安装git-http插件)，命令例如：git clone https://github.com/jianchang512/ChatTTS-ui.git /data/docker/chat-tts-ui步骤二：启动服务进入到项目目录，使用cpu版本的docker-compose配置文件来启动：cd /data/docker/chat-tts-ui docker-compose -f docker-compose.cpu.yaml up -d由于这部需要下载编译镜像，要花点时间等待完成。接着可以查看一下初始化日志：docker-compose -f docker-compose.cpu.yaml logs -f --no-log-prefix看看服务是否已正常运行。图中可以看到它会通过modelscope下载相应的模型：步骤三：访问ChatTTS WebUI启动成功后，你可以通过以下地址访问ChatTTS网页界面：http://你的OpenWrt设备的IP:9966步骤四：更新因为该项目还在继续开发，如需要更新代码，执行以下命令：git checkout main git pull origin main docker compose down docker compose -f docker-compose.cpu.yaml up -d --build docker compose -f docker-compose.cpu.yaml logs -f --no-log-prefix这么详细的教程，简直就是新手宝宝们必备的正确姿势！大家赶紧都赶紧吧，亲测有效，绝对不会让你失望的~💪更多关注：www.9418666.xyz
-
用Jan打造离线AI神器！上OpenWrt详细步骤 小伙伴们，你们了解过Jan吗？这个绝绝子的开源ChatGPT替代品不仅完全离线运行，还能在任何硬件上跑得飞快，从PC到多GPU集群都能搞定🤩。Jan有以下5个特点：本地运行，隐私无忧支持远程API，灵活调用100%离线，数据安全跨平台支持，随心使用强大扩展性，功能多样今天，就来和大家一起如何在OpenWRT上，通过Docker Compose部署Jan的cpu-fs模式。真的超简单，有机就能做！首先，准备好你的环境。你需要Docker和Docker Compose。这两者在OpenWrt上的安装非常简单，建议从openwrt.ai上下载固件，只需进入软件包，搜索并下载dockerd和docker-compose两个插件，或者通过命令一键安装：opkg update&&opkg install dockerd docker-compose。安装完成后通过以下命令确认docker环境正常：Jan也支持GPU模式，那就需要通过Ubuntu等系统安装nvidia-driver和nvidia-docker2。具体安装教程可以参考官方文档📄。接下来，我们就要开始部署Jan了！OpenWrt下我们选择使用cpu-fs模式，也就是在CPU模式下使用默认文件系统。具体步骤如下：步骤一：创建目录，首先，在命令行终端下，在合适位置创建jan目录，如mkdir -p /data/docker/jan,然后进入目录。步骤二：docker-compose配置文件在jan目录下，我们可以选择两种docker-compose配置文件：docker-compose.yml（使用预构建的Docker镜像）和docker-compose-dev.yml（本地构建Docker镜像）。我们这里选择简单的方法，使用wget命令下载，使用预构建的Docker镜像。配置文件中，需要将app_cpu_fs模式下把API_BASE_URL中的localhost改为你的OpenWrt路由器的IP:步骤三：启动Jan服务只需执行以下命令即可开启Jan的服务：docker-compose --profile cpu-fs up -d步骤四：检查Jan是否正常运行启动完Jan的Web服务器，你可以通过浏览器访问http://你的OpenWrt路由IP:3000来使用Jan了🎉。自带大模型仓库：常见问题1.Docker无法启动？ 检查Docker服务是否正常运行。2.Jan无法访问？ 确认你的防火墙设置允许端口3000的访问;可更换ghcr.io/janhq/jan-server的镜像版本，地址：https://github.com/janhq/jan/pkgs/container/jan-server3.需要更多帮助？ 加入Jan的Discord社区，寻求帮助和支持。看到这里，你是不是已经觉得很简单了呢？其实，部署Jan真的不难，只要按照步骤一步一步来，很快你就能在自己的设备上拥有一个强大的离线AI助手💪。赶快试试看吧，把这个神器分享给你的小伙伴们吧！更多关注：www.9418666.xyz
