分享一个开源的本机 AI 网关:中转、国产模型、Claude Code、Codex 放在一起管,每个请求花了多少钱都看得到
该开源项目提供一个本机 AI 网关,能够统一管理中转、国产模型、Claude Code、Codex 等服务,并可查看每个请求的费用。适合开发者在本地进行调试和成本追踪。
来源:V2EX
Open source tool distills Jev so you can run it locally
该开源工具通过蒸馏技术将 Jev 模型压缩,使其能够在本地设备上运行。这有助于降低对算力的依赖,提升隐私和离线使用体验。
本期介绍的两款开源工具分别提供了统一的本地 AI 网关与模型蒸馏方案,帮助开发者在免费或低成本的环境下实现服务管理、费用可见以及本地模型运行,进一步降低了 AI 开发的门槛。
来源:The Register
本文由 AI 辅助生成,信息来自公开热点榜单与订阅源,仅供学习交流。
评论