搜索：
搜索到 6 篇与 的结果-
-
Hermes Agent 深度拆解：从零安装到玩转自进化 AI 助手的全攻略 在这篇文章里，我们像聊天一样拆解了 Hermes Agent 这款自进化 AI 代理的方方面面。它不只是一个会说话的机器人，更像是一个能记住你、随时间变得更聪明的「数字分身」。下面，我把核心概念、安装流程、使用技巧以及常见坑点，都用生活化的比喻和亲切的口吻聊给你听，让你在几分钟内就能把它玩转起来。🧩 什么是 Hermes Agent？想象你有一个贴心的助理，刚开始只能帮你查询天气、打开网页，但每次帮完事它都会把经验记下来，形成自己的「工作手册」。下次再遇到类似任务，它就能直接调用手册里的步骤，省时又省力。Hermes Agent 正是这样一个会「学习」的 AI 代理：它会把完成的任务封装成技能，随着使用次数不断优化，还能在不同平台（终端、Telegram、Discord 等）无缝切换，记忆永远不会丢失。🚀 快速上手：一步到位的安装指南1. 环境准备 - 操作系统：Linux、macOS、WSL2（Windows 需要通过 WSL2） - 必要工具：Python 3.11、Node.js、Git（安装脚本会自动帮你搞定）2. 一键安装 只要在终端粘贴下面这条命令，就能自动下载依赖、创建虚拟环境、放好所有必需的二进制文件。```bash curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/install.sh | bash ```> 如果你在 Android 的 Termux 里，记得换成对应的手动路径；Windows 用户可以直接在 PowerShell 里运行 `iex (irm https://.../install.ps1)`，无需 WSL2。3. 初始化配置 安装完毕后，运行下面两条命令完成向导式配置。```bash hermes setup # 一站式配置向导，挑选模型、设置消息平台、生成密钥文件 hermes model # 交互式挑选 LLM 提供商（Nous Portal、OpenAI、Claude 等） ```向导会把密钥写入 `~/.hermes/.env`，把其它配置写入 `~/.hermes/config.yaml`，全部自动化，无需手动编辑。🔧 核心功能一览 功能用途常见指令 对话交互在终端或聊天平台直接对话`hermes`（CLI）、`/new`（新会话） 模型切换随时更换大模型或自托管模型`/model provider:model` 技能系统自动生成、复用、改进的工作流`/skills`、`/skill install …` 记忆持久化跨会话检索历史对话`/memory`、`/search`（FTS5） 定时任务自然语言写 cron，自动日报、备份`/cron "每天 9 点发送新闻"` 并行子代理并行处理多任务，互不干扰`delegate_task` 工具 💡 使用技巧 & 小案例案例一：从「查询天气」到「每晨天气简报」 - 第一次对话： > `今天北京天气怎么样？` - Hermes 会调用天气 API 并把结果返回。随后，它自动生成一个名为 `weather_report` 的技能。 - 现在只需要给它一个自然语言指令： > `每天早上 7 点把北京天气发给我`。 - 系统会把指令转成 cron 任务，背后调用 `weather_report`，你再也不需要每次手动输入。案例二：代码审查助理 - 把本地代码库的路径发送给 Hermes： > `帮我检查 src 目录下的 Python 文件，找出未使用的 import`。 - Hermes 通过内部终端后端（Docker 或本地）运行 `flake8`，把结果整理成列表。 - 你可以继续对话： > `把所有未使用的 import 自动删除`，它会生成并执行相应的脚本。实用小技巧 1. **上下文压缩**：对话太长时，用 `/compress` 主动触发摘要，防止 token 用光。 2. **快速切换模型**：使用 `hermes model`，无需改代码，直接在同一会话里换模型，比换衣服还方便。 3. **调试网关**：如果 Telegram 收不到消息，先 `hermes gateway status` 看日志，再 `hermes gateway --verbose` 查看细节。⚠️ 常见坑与解决方案 模型上下文不足：一些老模型只能处理 8K token，Hermes 需要至少 64K。换成 Claude‑Opus、GPT‑4‑Turbo 或本地 Ollama 大模型即可。 API Key 泄露：切记不要把 `.env` 提交到 Git，最好在 `.gitignore` 中排除。 子代理资源冲突：并行任务默认会在隔离容器里跑，如果 Docker 未启动，先 `hermes config set terminal.backend docker` 并确保 Docker 服务已运行。 网关权限不足：Telegram Bot 必须加入目标群组并打开「隐私模式」关闭，才能接收用户消息。 📈 为什么值得一试？- **成本可控**：只要一台 $5 的 VPS，或者利用本地 GPU，日常使用几乎不花钱；而且可以自行切换到开源模型，省下高价的商用 API。 - **长期价值**：一次配置，记忆会随着你的项目累积，后续每次询问都能直接拿到历史经验，像有了自己的技术文档。 - **跨平台**：无论你在电脑终端、手机 Telegram，还是公司 Slack，Hermes 都能保持同一会话，真正实现「随时随地」的 AI 助手。🛠️ 进阶玩法：自定义技能 & MCP 扩展想让 Hermes 调用公司内部数据库？只需要写一个轻量的 MCP（模型上下文协议）服务，注册到 `~/.hermes/config.yaml`，然后在对话里直接使用 `/tool db_query "SELECT * FROM users LIMIT 10"`。这样既保持了安全隔离，又让 AI 能直接驾驭企业内部资源。🔚 小结Hermes Agent 的魅力在于「会记」「会学」「会做」三位一体。它像一个会慢慢长大的小伙伴，从最初的「只会查天气」到后来的「自动写日报、代码审查、并行爬虫」，每一步都在为你省时间、减负担。只要跟随上面的安装步骤，加一点点好奇心，你就可以把它当作自己的私人研发助理，让每一天的工作都少一点重复，多一点创意。祝你玩得开心，AI 伴你成长！
-
为什么 Qwen 3.6 + Hermes 成了本地 AI 的最佳拍档？ 嗨，朋友们，今天想跟你们聊聊最近火得一塌糊涂的 Qwen 3.6 系列模型，还有它和 Hermes Agent 搭配时的奇妙化学反应。别担心，我不会把一堆专业名词塞进你的脑子里，而是想像坐在咖啡馆里，喝一杯拿铁，慢慢把这些技术细节揉进生活的点滴里，让你听得懂、记得住。先把「本地 AI」这件事拆开说以前用 AI，基本上像租车：你把钥匙交给云端公司（OpenAI、Claude、Gemini），他们把车子开到你手上，你只管坐上去。好处是省心，缺点是每跑一公里都要交租金，而且车里装的东西（聊天记录、代码、私密文档）全都在服务器上。本地 AI 则是把车买回家，停在自家车库。你自己给车加油（算力），自己保养（隐私），甚至可以改装（加插件）。唯一的花费是买车和油钱，和租车的「按里程付费」完全不一样。Qwen 3.6 为什么能把「买车」的门槛降到几千元？Qwen 3.6 有两个关键点： MoE（混合专家）架构：虽然标榜 35 B 参数，但每一步只激活约 3 B 参数，等于是把一台 35 B 的大卡车拆成若干小卡车，只挑最合适的那几辆来跑。这样算力需求大幅下降，普通的 RTX 3060（12 GB）甚至可以跑起 35 B 版的模型。 量化技术（Q4_K_M）：把模型重量从 55 GB 压到 16–20 GB，放进 24 GB 显存的电脑里几乎不吃力。 用个生活比喻：想象你要搬家，传统方法是请搬家公司搬整个家具，费用高、时间久。而 Qwen 3.6 就是把家具拆成小件，自己搬，甚至可以用手推车（CPU）配合小推车（GPU）一起干，省钱又省力。Hermes Agent：给模型装上「大脑」的工具箱Hermes 本身不产生智能，它更像是一个「任务调度员」——接收任务、拆解步骤、调用工具、总结经验。它的核心循环是： 收到需求（比如「帮我把这个仓库的 Bug 全部修好」） 规划子步骤（打开代码、运行单元测试、生成 PR） 调用工具（git、shell、IDE） 把结果写进「技能」库，下次再遇到类似任务直接复用 这套「自我迭代」的循环，你可以想象成你在做菜时记录下每一步的配方，下次再做同样的菜只要打开配方就能省去思考过程。为什么 Qwen 3.6 + Hermes 成了「零成本」的黄金组合？ 零 token 费用：把模型跑在本地，发多少请求都不用看钱包。每天 50 万 token，换算下来在云端要花 200 美元，买台 24 GB GPU 的显卡一次性成本远低于一年云费。 隐私安全：所有代码、商业计划、客户数据都只在你自己的硬盘里跑，防止泄漏。 无限速率：云端经常会出现 429 限流，特别是跑大量自动化任务时会被卡住。跑本地模型，只要硬件够快，就没有「排队」的烦恼。 工具调用能力强：Qwen 3.6 在 MCPMark（工具调用）上拿到 37.0 分，远高于同等参数的 Gemma 4（18.1），这直接决定了它在 Hermes 里能更精准地完成「打开文件 → 运行命令 → 生成 PR」这样的多步操作。 一步步把它们装在你家电脑里下面给你一个最简化的「装车」指南，适用于 Windows、macOS、以及 Linux（WSL2）。1️⃣ 准备硬件如果你有 32 GB 以上的内存，配一块 RTX 3060（12 GB）或更高的显卡，基本可以跑 Qwen 3.6‑35B‑A3B（量化后约 20 GB）。如果只有 16 GB 内存，建议先跑 9 B‑27 B 版本，稍微降低期望。2️⃣ 安装 Ollama（本地模型服务）curl -fsSL https://ollama.com/install.sh | sh # Linux/macOS brew install ollama # macOS Homebrew启动 Ollama 并拉取模型：ollama pull qwen3.6:35b-a3b # 35B MoE 版，默认 Q4_K_M 量化拉完后可以用 ollama list 确认。3️⃣ 把 Hermes 接到 Ollamacurl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash hermes model # 交互式向导，选「自定义端点」 # 基础 URL 填 http://127.0.0.1:11434/v1 # 模型名自动检测，如果没有可以手动填 qwen3.6:35b-a3b配置好后，运行 hermes chat，随便说一句「帮我列出今天的天气」测试一下，模型会立刻回复，说明链路通畅。4️⃣ 开启「思考保留」功能Qwen 3.6 新增 Thinking Preservation 能够在多轮对话里保留思路，这对 Hermes 的自我迭代至关重要。只需要在启动 Ollama 时加上 --preserve-thinking（或在配置文件里打开对应选项），后面的任务会直接接着上一次的思路继续。5️⃣ 让它自学会写技能比如让 Hermes 完成一次「部署 Next.js 到 Vercel」的任务。完成后它会在 ~/.hermes/skills/ 里生成一份 Markdown 文件，记录每一步操作。下次你只要说「部署 Next.js」，它会直接调取这份技能，省掉全部推理过程，速度瞬间提升。实战案例：从零到自动化部署我自己用了两周，给自己搭了一个「代码小管家」： 在 Telegram 里给机器人发「把 repoA 的 PR 合并」 Hermes 读取仓库结构（通过工具调用 git），自动生成 git merge 命令，执行后把结果通过 Telegram 反馈。 完成后生成 merge-repoA.md 记录步骤。 整个过程不到 10 秒，完全不收费，代码量却像请了个全职助理。和别的模型/框架比，Qwen 3.6 有哪些独到之处？ 维度Qwen 3.6‑35B‑A3BGemma 4 26B MoEClaude Opus 4.5 活跃参数3 B4 B不公开 单卡显存需求≈20 GB（量化）≈24 GB（量化）云端 SWE‑bench Verified73.4 %53.5 %80.9 % Terminal‑Bench 2.051.5 %40.5 %59.3 % 工具调用（MCPMark）37.018.1≈30 成本（本地）零零付费API 可以看到，虽然在最强大模型（Claude）上略有差距，但在「工具调用」和「本地跑成本」上大幅领先，这正是 Hermes 这类 Agent 最需要的特性。实用小贴士：让模型跑得更快更稳 开启 CUDA：有 NVIDIA 显卡一定要装 CUDA 驱动、下载带 cuBLAS 的 Ollama 发行版，速度会提升 5–10 倍。 调节 -ngl 参数：如果显存不足，可把部分层放 CPU，-ngl 20 表示只把前 20 层跑在 GPU 上，剩下的交给 CPU，仍然比全 CPU 快很多。 压缩 KV 缓存：使用 --cache-type-k q4_0 --cache-type-v q4_0 把上下文记忆压到 4 bit，内存省 75%，对长对话特别友好。 设定超时时间：本地模型预热大文本时会卡几分钟，把 HERMES_STREAM_READ_TIMEOUT 调到 1800 秒，避免意外掉线。 进阶玩法：混合本地+云端，做到「最优成本」如果你偶尔需要超级大模型的推理（比如一次性分析 1 M 行代码），可以把本地模型设为主力，超过一定复杂度时 fallback 到云端的 Claude 4.5 或者 Qwen 3.6 Plus。Hermes 的 /model 命令支持在同一会话里切换，使用起来和换电池一样简单。小结：你真的可以拥有自己的 AI 助手了从硬件到软件，从模型选型到实际使用，我把「买车」的每一步都拆解成了你能直接动手的操作。最重要的是，这套方案真的把「AI 费用」从每月上百美元降到了零，只剩下电费和显卡的折旧。如果你还在为「API 费用」头疼，或者担心「数据泄露」而犹豫不决，现在正是把 Qwen 3.6 拉进自家车库、让 Hermes 成为你的驾驶员的好时机。动手试一试，你会发现，AI 已不再是只能租的高大上服务，而是可以随时随地、免费陪伴的私人小伙伴。祝你在本地 AI 的道路上一路畅通 🚗💨！
-
本地跑 Gemma 4：从零到玩转 AI 小助手的轻松指南 最近有没有跟我一样，看到一堆关于大模型的新闻，心里一阵激动又一阵懵逼？我也是。说白了，就是想在自己的电脑上玩玩 AI，却总被各种硬件、接口、付费限制卡住。今天我把从官方文档、社区经验、各种教程里拼凑出来的实战流程，整理成一篇「朋友聊天」版的长文，帮你一步步把 Gemma 4 放进本地电脑，配上 Hermes Agent、OpenClaw，甚至还能接入微信、Telegram，零成本、全隐私、随手可用。准备好了吗？😉一、为什么要本地装 Gemma 4？1️⃣ 省钱——云端 API 按调用次数收费，跑几百次就能花掉几百块。把模型装在本地，硬件一次性投资，后面几乎不花钱。2️⃣ 隐私——所有对话、文件都保存在自己的机器里，根本不用担心数据泄漏。3️⃣ 可控——想改模型参数、加插件、调上下文长度，都是自己动手，随意随性。二、硬件小贴士：选对设备才能顺畅跑 轻量级（E2B/E4B）：Apple Silicon M1/M2/M3 系列或者 8‑16 GB 内存的普通笔记本，几分钟就能起飞。 中等性能（26B MoE）：配备 16 GB 以上显存的 RTX 3060 以上显卡，或者 Apple M2 Pro+ 32 GB 统一内存。可以满足大多数多步推理。 旗舰级（31B Dense）：需要 24 GB 以上显存（RTX 4090、A100），适合企业级高并发。 如果手头只有普通笔记本，先装 gemma4:e4b，够日常写代码、写文案、玩玩图像生成。三、一步到位：用 Ollama 安装 Gemma 4 在 Ollama 官网下载对应系统的安装包。Mac 直接 brew install ollama，Linux 用 curl -fsSL https://ollama.com/install.sh | sh，Windows 双击安装。 打开终端，确认版本：ollama --version（看到类似 ollama version is 0.20.1 就成功了） 拉取模型（只要一行命令）：ollama pull gemma4:e4b（或者 gemma4:26b） 启动服务并对话：ollama run gemma4:e4b，出现 >>> 提示符后直接输入 你好，帮我写个 Python 排序函数。 如果你想在别的程序里调用，只要访问 http://127.0.0.1:11434/v1/chat/completions 的 OpenAI 兼容接口，curl 或者任何 SDK 都能玩。四、把 Hermes Agent 拉进来：让模型会「动手」Hermes 是一个会记忆、会调用工具的智能体。把它和本地 Gemma 配合，你可以让 AI 自动写代码、查文件、甚至发送微信消息。 一键安装脚本（Linux/macOS）：curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash。 安装完成后运行健康检查：hermes doctor，确保没有报错。 配置模型（交互式向导）：hermes setup，选择「Custom endpoint」，把地址改成 http://127.0.0.1:11434/v1，模型名填 gemma4:e4b。 启动聊天界面：hermes chat，现在你可以对着它说「把今天的邮件内容分类」之类的任务，Hermes 会先调用本地工具（比如文件系统），再让 Gemma 给出答案。 记得把 hermes-agent 的工作目录（默认 ~/.hermes）备份，技能库会自动保存在那里。五、OpenClaw 加持：多平台自动化的“大管家”OpenClaw 更像是一个「网关」，负责把各种聊天渠道（Telegram、Slack、企业微信）接进来，然后把任务交给后端模型。下面给出最简 Docker 组合的步骤。 在项目根目录建 docker-compose.yml，把 Ollama、OpenClaw、Hermes 三个服务都写进去（参考我整理的完整文件）。 执行 docker compose up -d，等几分钟 Ollama 拉完模型。 打开浏览器 http://localhost:18789，进入 OpenClaw 控制台，点「添加模型」——填入 http://ollama:11434（容器内部名称），模型名 gemma4:e4b。 配置好 Telegram Bot Token（在 @BotFather 那里弄到），把 Bot 添加到 OpenClaw，马上就能在 Telegram 里跟「本地 AI」聊了。 最酷的地方是：OpenClaw 负责「渠道」，Hermes 负责「执行」，两者共用同一个 Gemma 4 大脑，任何一次对话都可以在两个系统之间自由切换。六、实战案例：本地 AI 助手帮你写周报假设你每天要写一篇项目周报，平时要跑几段日志、汇总数据、形成段落。以前要打开 Excel、拷贝粘贴、手动写文字。现在只需要： 在 Telegram 给 Bot 发「帮我生成本周项目周报」。 OpenClaw 收到指令后调用系统脚本读取 /var/log/project/*.log，把内容发给 Hermes。 Hermes 把日志交给本地 Gemma，要求它「先抽取关键指标（新增功能数、Bug 修复数），再按固定模板写段落」。 Gemma 返回文字，Hermes 把结果回传给 OpenClaw，Telegram 里立刻看到完整的周报草稿。 全流程几秒搞定，省下的时间足够喝杯咖啡甚至多陪家人。七、常见坑 & 小技巧 模型加载慢：第一次拉模型会慢，耐心等。后面可以在 docker-compose.yml 里加 environment: OLLAMA_KEEP_ALIVE=3600，保持模型常驻显存。 显存不够：先尝试更小的变体 gemma4:e2b，或者使用 Ollama 提供的 4‑bit 量化模型（ollama create gemma4-26b-q4）。 网络访问受限：如果 Hermès 报错找不到 Ollama，确保容器在同一网络，或把地址改成局域网 IP（192.168.x.x:11434），不要用 127.0.0.1。 上下文窗口不够：大模型支持 256k token，实际使用时可以在请求体里加 "options": {"num_ctx": 65536}，根据任务调大。 多模型切换：想同时保留轻量的 e2b 用于日常聊天，另装一个 26b 用于复杂推理，只需要再拉一次模型，使用时指定模型名称即可。 八、展望：本地 AI 还能干啥？把 Gemma 4 装好以后，你可以往下面几个方向玩： 多模态：把本地相册的图片丢进模型，让它写图说、生成标签。 自定义插件：写一个 Python 脚本，把 Excel 表格直接解析成 JSON，Hermes 可以调这个插件自动生成报表。 团队共享：把整个 Docker Compose 文件放在 Git，团队成员一键拉起，保证每个人使用的模型、配置完全一致。 最重要的是，进入本地 AI 的时代后，你不再是「被动消费」的用户，而是「主动创造」的作者。只要有一台能跑模型的机器，你就拥有了一个随叫随来的「知识库」和「助理」。结语从「下载 Ollama」到「Hermes + OpenClaw」再到「微信、Telegram 自动化」的完整闭环，其实并不需要多少专业背景，只要跟着上面的步骤一点点敲命令，就能把看似高大上的大模型变成自己生活中的小工具。希望这篇「聊天式」的长文能帮你把 AI 从云端搬回本地，让技术真正贴近生活。有什么疑问或者好玩的小案例，欢迎在评论里聊聊，我会随时补充、一起玩耍。
-
从 Gemma 4 到 Hermes Agent：本地 AI 大模型的实战思考与生活化指南 最近在咖啡馆里，偶然听到旁边的朋友在聊「Gemma 4」和「Hermes Agent」——听起来像科幻小说里的神器，但其实离我们每个人的日常已经不那么遥远了。今天我想把这些技术拆成可操作的碎片，像给你递上一杯温热的咖啡，慢慢品味它们在本地电脑上跑起来的可能性。👀 为什么要关注本地大模型？想象一下，你在写代码、整理文档、甚至聊天时，总是要把请求丢到外部云平台——每一次都要等网络来回，费用也像咖啡豆一样不断累积。如果把模型直接装在自己的机器里，就像把咖啡机搬到家里，想喝时随时按按钮，零等待、零流量、零隐私泄露。⚙️ Gemma 4：Google 的新一代本地友好模型Gemma 4 有四个规格，最常被提到的是 2 B、4 B、26 B（Mixture‑of‑Experts）以及 31 B（Dense）。它们的共同点是： 采用宽松的 Apache 2.0 许可证，商用、闭源都不怕踩雷。 专为本地运行调优，参数效率高，显存占用比同等 dense 模型低很多。 原生支持高级推理、函数调用、结构化 JSON、system 指令和多模态（文字、图片、音频）输入。 最有意思的是 26 B 的 MoE（Mixture‑of‑Experts）结构——总参数看起来有 26 B，但每次推理只会 Activate 大约 3.8 B，等于是只打开一扇门，让模型在显存压力和算力需求之间找到了黄金平衡。对一块 24 GB 显卡来说，跑 26 B 的 MoE 已经可以和跑 4 B dense 的体验差不多，却拥有更强的推理能力。🚀 本地跑通的三条路径从源码到部署，我总结了三条最常见的道路，供你挑选： Ollama + 本地 Gemma 4：最省事的方式，只需要一行 curl 安装 Ollama，随后 ollama pull gemma4:26b 就能把模型拉到本地。显卡 < 16 GB 用 2 B/4 B，显卡 ~24 GB 用 26 B，显存更高的可以直接玩 31 B。 Ollama + Open‑Chat（或 Hermes Agent）：在 Ollama 基础上接入一个本地助手框架，提供工具调用、浏览器自动化等能力。关键是要使用 Ollama 原生的 http://127.0.0.1:11434 接口，别走 /v1 的 OpenAI 兼容层，否则工具调用会失效。 云端 OpenAI 兼容 API（比如薛定猫）：如果手头没有合适的 GPU，先在云端走一遍验证。因为大多数本地框架都实现了 OpenAI 兼容的 REST 接口，代码可以保持不变，后面再切回本地模型。 这三条路最大的好处是「代码不变，换模型」。写好一次调用代码，换成本地 Ollama 或者云端服务，只需要改一下 URL 和模型名。🛠️ Hermes Agent：会记忆、会成长的个人 AI 小伙伴说到本地智能体，我必须把目光投向 Hermes Agent。它不像传统的「一次性」Agent，更多像是你的私人助理，甚至可以把自己的经验写进自己的简历： 持久化记忆：所有对话会被存入本地向量数据库，系统会把历史记忆做一次摘要，帮助后续对话快速回溯。 Skill 自动生成：完成一次任务后，框架会把任务拆解过程抽象成结构化的 Skill，下次遇到类似需求直接调用，省掉重复思考的时间。 闭环训练雏形：在执行工具调用时产生的轨迹可以导出，用来微调底层模型，真正做到“用模型帮助自己改模型”。 这些功能听起来有点像科幻电影，但在实际使用中已经可以感受到：比如让 Agent 写一段爬虫代码，它会先生成代码、执行、捕捉报错、再自动改进，直到成功为止。整个过程不需要你一次次手动调试，Agent 能自己把“错误”当作学习材料。🧩 把两者拼起来：本地多模态 AI 工作流实战下面给出一个我自己玩过的例子，帮助你把 Gemma 4（E2B）和 Hermes Agent 组合成一个完整的本地 AI 栈： 在本地装好 Ollama，拉取 gemma4:e2b（约 2 B 参数，几乎可以在 8 GB 显存的笔记本上跑） 使用 vLLM 将模型包装成 OpenAI 兼容的 HTTP 服务，端口 8000。 运行 Hermes Agent 的安装脚本，让它在「Custom Endpoint」里填入 http://localhost:8000/v1，模型选 google/gemma-4-e2b-it。 给 Hermes Agent 加入「图片识别」Skill：在聊天里发送一张商品照片，Agent 会把图片喂给 Gemma 4（多模态输入），返回产品描述并自动生成一个 Markdown 报告。 后续每次再问相似商品时，记忆库已经把之前的描述向量化，能够快速检索并给出一致的答案。 整个闭环只需要几分钟的配置，却让本来需要云端调用的功能，全部跑在自己的电脑里。更重要的是，所有交互都是本地完成的，隐私不再是担心的点。💡 实际选型小贴士 显存不够？先尝试 2 B/4 B 版的 Gemma 4，或者把模型量化成 Q4_K_M 格式，显存需求能降低 30% 以上。 想要长上下文？选择 Edge 版（E2B/E4B），它们默认支持 128K token，足够一次性给模型阅读一本短小说。 工具调用不稳定？务必使用 Ollama 原生 API（不要走 /v1），因为原生层保留了完整的 function calling 协议。 企业级需求（比如合规、审计）可以先在云端用薛定猫这样聚合平台做 PoC，确定业务流程后再迁移到本地。 📚 小结：从“技术干货”到“日常助理”把大模型装进自己的电脑，听起来像是把巨兽搬进小屋。Gemma 4 用轻量化、MoE 和 Apache 2.0 授权，让这件事在硬件可及范围内变得现实。Hermes Agent 则把“会说话的模型”升级为“会记住、会学习、会复用经验”的数字助理。两者结合后，你可以在本地搭建一个完整的 AI 工作流：从多模态感知、长上下文推理，到工具调用、记忆沉淀，全部闭环在自己的掌控之中。如果你和我一样，对技术有一点小狂热，又怕被 SaaS 限制住手脚，那么现在正是把这套本地 AI 栈搬回家的好时机。把 Ollama 当作厨房的燃气灶，把 Gemma 4 当作主食原料，把 Hermes Agent 当作会帮你切菜、调味的智能厨师，你的创意料理就可以随时上桌。🌟祝你玩得开心，记得把成功的经验写进自己的 Skill 库，下一次再让 Agent 自动复用！
-
手把手教你搭建100%私密的Hermes Agent，从零到会话全流程 大家好，我是小泡，今天要和你聊聊如何在自己的电脑上搭建一个完全私密的Hermes Agent。这篇笔记会像咖啡馆里和老友聊天一样，一步步把晦涩的操作变成轻松的聊天内容，确保你看完就能动手。第一步：准备一个独立的设备我强烈建议不要把Hermes Agent装在你每天用来处理银行、密码等私密信息的主力电脑上。万一设置不当被黑客入侵，你的重要文件可能会被窃取。找一台闲置的旧笔记本、树莓派，甚至是一个便宜的VPS都可以。这样就能把风险隔离出来，安心使用。第二步：从GitHub获取安装命令打开浏览器，进入Hermes Agent的GitHub页面，复制那行安装命令。在你的独立设备上打开终端，直接粘贴并回车。脚本会自动检测你机器上缺少的库和依赖，然后一键安装。这个过程就像让一个小助手去超市帮你把缺货的食材都买齐。第三步：选择完整设置路径 安装结束后，你会看到两个选项：快速设置和完整设置。这里我们走完整设置，这样后面才能一步步把模型、工具和Telegram都接好。第四步：装上本地模型引擎——Olama 我们不想付费使用闭源模型，所以要把模型跑在自己机器上。Olama就是一个能够下载、管理本地AI模型的工具。同样在终端里运行Olama的安装命令，等它完成。安装好后，输入olama models浏览可选模型。这里我推荐Gemma系列，特别是E4B版本（大约9.6GB），在我的测试里它能够顺畅处理网页搜索和简单指令。如果你的设备显存较小，也可以先试试更小的E2B看看是否够用，不行再升级。记得把模型拉下来：olama pull gemma4:e4b。第五步：把Olama桥接到Hermes Agent 回到Hermes Agent的设置界面，它会让你填写API基础地址。这时候就填 Olama默认的地址：http://localhost:11434/v1。API Key可以留空，直接回车。接下来从模型列表中选择你刚才下载的Gemma 4 E4B，上下文长度可以保持自动检测。第六步：本地语音合成（可选） 如果你想让Agent说出声音，又不想依赖云端服务，可以选择本地的N-E-U-T-T-S引擎。安装时同意下载依赖（Y），终端后端保持默认local。第七步：调节Agent的细节参数 - 最大工具调用迭代次数：我选默认的60，足够应付深度研究或多步骤任务。 - 工具进度显示：选“all”，这样你能看到Agent在后台到底调用了哪些工具，便于以后优化。 - 上下文压缩：默认0.5，对于我们这类小模型可以保持 conversación 不至于因为长对话变笨。 - 会话重置模式：建议使用“每日重置”或“不活动重置”。比如设定每天凌晨4点自动清空记录，或者五小时没消息就自动复位，这样可以防止旧信息堆积导致误判。第八步：搭建本地网页搜索——Firecrawl（自托管版） 为了让Agent能够上网查资料，我们采用Firecrawl的自托管方案。这需要Docker的支持。 访问docker.com，下载并安装适合你系统的Docker Desktop，启动后确认服务正在运行。 打开新终端，复制我提供的一串启动命令（视频描述里有），确保Docker已经开启后执行。 命令会拉取Firecrawl镜像并以容器形式运行，你看到Docker面板里有个firecrawl容器在绿色运行状态就说明成功。 回到Hermes Agent的搜索提供者设置，选择“Firecrawl self‑hosted”，把默认URL（通常也是http://localhost:3000）填进去，API Key同上可以留空。 现在你的Agent已经具备了调用本地模型、读取本地文件、以及通过Firecrawl爬取网页信息的能力，一切都跑在你自己的设备上，真正实现了数据不出局。第九步：接入Telegram，随时随地聊天 回到Hermes Agent的通道配置，按空格键选中Telegram，然后回车。 打开Telegram，搜索@BotFather，发送 /newbot 按照提示给机器起名（比如HermesDemoBot），并确保用户名以bot结尾。\li>BotFather会返回一个令牌（Token），复制它。\li>回到终端，把刚才的Token粘贴到Hermes Agent的提示框，回车。\li>接下来需要填写你自己的Telegram用户ID，这样只有你自己能和Agent对话。怎么找ID？打开Telegram，搜索@RawDataBot，点击Start，它会直接返回你的数字ID。复制粘贴进去，并选择设为“home channel”（Y）。 完成后，选择把网关安装为启动服务（Y），并立即启动（Y）。这时候你的Hermes Agent就已经在后台默默运行了。第十步：试聊和微调 在终端里输入hermes回车，等待模型加载（第一次可能需要十几秒），然后和它打个招呼：“hi there”。你会看到它开始思考，并在屏幕上显示出它到底调用了哪些工具（因为我们 wcześniej 选了all进度显示）。如果一切正常，你还能在Telegram里找到你刚才建立的机器人，发送同样的话，也能收到回复。小结与建议 - 第一次使用时不要急着跑复杂任务，先从简单的提问开始，观察它会不会调用网页搜索或读取本地文件。 - 如果发现响应很慢，检查一下你的设备显存和CPU占用，必要的话换一个更轻的模型或增加一些虚拟内存。 - 定期（比如每周）回到Hermes Agent的设置里，根据实际使用感受调节迭代次数、压缩系数或重置时间。 - 想要彻底移除也很简单：hermes uninstall 按提示选择完全卸载，接着确认就能把所有痕迹清理干净。搭建一个私密的AI助手听起来像是个技术活，但只要按着上面的步骤一步步来，就像在家里做一道熟悉的菜——先准备食材，再慢慢炖煮，最后尝到自己独特的味道。希望这篇笔记能让你少走弯路，早点享受到专属于你的智能伙伴。如果你在实践过程中遇到任何问题，随时留言，我会尽力帮你解答。祝你玩得开心，下期见！
