免费跑自己的 AI Agent:Hermes-CN-Desktop 接入 Ollama 与 LM Studio 本地模型完整指南

发布时间:2026/10/11 16:28:24

免费跑自己的 AI Agent:Hermes-CN-Desktop 接入 Ollama 与 LM Studio 本地模型完整指南 人工智能AI Agent桌面应用【免费下载链接】Hermes-CN-DesktopHermes Agent CN desktop app, Windows-First, built with Tauri, Typescript and Rust. Isolated Hermes Agent core insides.项目地址https://gitcode.com/gh_mirrors/he/Hermes-CN-Desktop点击查看免费下载Hermes-CN-Desktop 是 Hermes Agent 中文社区推出的 AI Agent 桌面客户端基于 Tauri Rust TypeScript 构建内置独立 Hermes Agent 内核。它原生支持 Ollama、LM Studio、vLLM、llama.cpp 等本地部署方案只需在「设置 → 模型」里填入本地端点就能免费、离线、不限量地跑自己的 AI Agent数据全部留在你自己的电脑上。为什么要在本地免费跑 AI Agent云端模型按 token 计费、对话内容会上传到第三方服务器。而使用Ollama 或 LM Studio 本地模型 Hermes-CN-Desktop的组合你可以获得零费用模型在本地推理不产生任何 API 调用费用数据隐私代码、聊天记录、文件内容全部留在本机⚡离线可用断网也能工作适合内网、涉密环境️Agent 能力完整聊天、流式输出、MCP 工具、Skills、Memory、定时任务一个不少桌面端对本地生态的支持见 README.md「亮点」章节覆盖 Ollama、vLLM、LM Studio、llama.cpp 等本地部署方案。开始前的准备清单准备项说明电脑硬件建议 16GB 内存起步模型越大对显存/内存要求越高本地运行时安装Ollama或LM Studio二选一本文两条路线都讲模型规格上下文窗口必须 ≥ 64,000 tokens推荐 65,536桌面客户端安装 Hermes-CN-Desktop Windows / macOS 安装包⚠️ 特别提醒Hermes Agent 会拒绝低于 64K 上下文的本地模型。这个限制定义在 local-provider-context.tsMINIMUM_LOCAL_CONTEXT_LENGTH 64_000RECOMMENDED_LOCAL_CONTEXT_LENGTH 65_536所以加载模型时上下文一定要拉满到 65,536 以上。首次启动桌面端时如果还没有配置模型会自动弹出「开始使用 Hermes」引导弹窗源码model-onboarding-dialog.tsx点击「配置模型」即可直达模型设置页。路线一使用 Ollama 接入本地模型Ollama 是命令行式的本地模型管理器拉取模型非常方便。第 1 步拉取并启动模型以 Qwen2.5-Coder 为例拉取模型并把上下文设为 65536ollama pull qwen2.5-coder:7b ollama run qwen2.5-coder:7b -c 65536也可以用 Modelfile 永久指定上下文。Ollama 的 OpenAI 兼容端点默认监听在http://127.0.0.1:11434/v1API Key 通常留空即可。第 2 步在桌面端一键应用 Ollama 预设进入「设置 → 模型」点击「添加自定义服务商」并选择「本地部署」弹窗中会列出 Ollama、LM Studio、vLLM、llama.cpp 四张预设卡片见 settings-models-section.tsx 中的LOCAL_PROVIDER_PRESETS。点击Ollama卡片Base URL 会自动填好http://127.0.0.1:11434/v1模型名默认为qwen2.5-coder:7b你可以直接保存。路线二使用 LM Studio 接入本地模型LM Studio 提供图形界面更适合新手。第 1 步启动本地服务在 LM Studio 中下载一个模型建议 7B 级别起步打开Developer / Local Server面板把Context Length 调到 ≥ 65536重新加载模型后点击Start ServerLM Studio 的 OpenAI 兼容端点为http://127.0.0.1:1234/v1同样不需要 API Key。第 2 步在桌面端应用 LM Studio 预设同样在「添加本地部署服务商」弹窗中点击LM Studio卡片Base URL 自动填为http://127.0.0.1:1234/v1填入你的模型名称点击「刷新模型列表」即可从本地服务拉取模型清单。关键一步手动设置上下文窗口本地模型的上下文长度经常探测不准桌面端允许你在主模型卡片里手动声明上下文窗口token 数该值拥有最高优先级。操作路径「设置 → 模型 → 主模型卡片 → 上下文窗口」填入65536并保存。留空或填0表示回退到自动探测。该功能的完整设计说明可参考 custom-model-context-window.md。配置完成后卡片上会显示「自动探测 / 用户覆盖 / 实际生效」三个值方便你确认最终生效的窗口大小。验证连接并开始使用保存后点击「设为当前模型」然后直接发一条消息测试。如果服务未启动或模型未加载界面会给出明确的超时提示告诉你确认本地服务已启动、模型已加载、上下文窗口足够大提示文案来源gateway-result.ts。一切正常后你就可以在聊天窗口中免费使用自己的 AI Agent 了还可以打开「健康状态」面板查看运行时信息。常见问题排查FAQ现象原因与解决请求超时本地服务没启动、模型没加载或上下文没设够。回 Ollama / LM Studio 检查后重试提示「上下文低于 64,000 tokens」在本地运行时和桌面端「上下文窗口」中都设为 65,536并重新加载模型刷新不到模型列表确认 Base URL 带/v1后缀LM Studio 未点击 Start ServerOllama 未ollama pull填了 API Key 报 401本地部署不需要 Key把 API Key清空响应很慢模型太大。换更小的量化模型或降低并发任务 进阶玩法本地跑 Hermes Agent 之外还可以配合定时任务、Skills 库和 Memory 记忆系统打造完全离线的个人智能助理。总结把 Hermes-CN-Desktop 和 Ollama / LM Studio 组合起来你花0 元就能拥有一个私有、离线、能力完整的 AI Agent本地运行时Ollama 或 LM Studio加载模型上下文设为65536桌面端「设置 → 模型」点击对应预设卡片填好 Base URL手动设置上下文窗口为 65,536设为当前模型发一条消息享受免费本地推理 想深入了解桌面端架构与本地生态支持可以阅读 README.md 与项目文档目录 docs/。赞分享人工智能AI Agent桌面应用【免费下载链接】Hermes-CN-DesktopHermes Agent CN desktop app, Windows-First, built with Tauri, Typescript and Rust. Isolated Hermes Agent core insides.项目地址https://gitcode.com/gh_mirrors/he/Hermes-CN-Desktop点击查看免费下载相关推荐Zed 本地模型接入实战llama.cpp、Ollama 与 LM Studio 的完整配置指南Zed 本地模型接入实战llama.cpp、Ollama 与 LM Studio 的完整配置指南 本文基于 Zed 官方文档 Use a Local Mode开发工具代码编辑器桌面应用VoltAgent 接入 LM Studio用本地模型驱动 AI Agent 的完整指南VoltAgent 接入 LM Studio用本地模型驱动 AI Agent 的完整指南 导读 本文讲解如何在 VoltAgent 的模型路由model r人工智能AI AgentAgent 框架后端多智能体RAG工具调用Agent 记忆Agent 工作流AI 评测MCP 服务MCP Clients语音OpenExecutive本地模型配置教程Ollama、vLLM与LM Studio免费运行AI高管的完整方案OpenExecutive本地模型配置教程Ollama、vLLM与LM Studio免费运行AI高管的完整方案 OpenExecutive 是一个 AI 虚拟人工智能AI 应用AI AgentAgent 记忆MCP 服务RAG后端前端创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
延伸阅读

更多相关文章

2026/10/11 16:28:24

教务知识图谱实战:从数据库到可问答的语义网络

简介:本资源是一套基于知识图谱构建的教务领域智能问答系统Python实现,面向计算机及相关专业本科生,适用于毕业设计、期末大作业与项目实战训练。系统覆盖教务常见场景(如选课、毕业答辩、奖学金评定、暑期学校等)&…

2026/10/11 16:28:24

私域流量爆发后,自动回复机器人如何撑起标准化客服响应

做私域的朋友应该都经历过这种时刻:优惠券一放,群里咨询量肉眼可见地往上涨,客服手指敲出了火星,依然有一大片消息标着未读。客户等久了会退群,会去群里问“还有人管吗”,更直接的可能转身就去别家下单。这…

2026/10/11 16:23:24

无头浏览器实现HTML转PDF:中文字体与打印样式避坑指南

简介:基于Aspose.Pdf实现HTML转PDF功能的.NET示例工程,面向需要将网页或HTML内容转换为PDF的Web开发者和文档处理技术人员。工程通过C#项目演示从创建PdfDocument对象、加载HTML到保存PDF的完整流程,并涉及页面大小、字体替换等自定义设置&am…

2026/10/11 20:53:40

鸿蒙应用内存泄漏排查实战:从Profiler到代码修复

做鸿蒙应用开发,内存泄漏检测是绕不开的一道坎。页面退出了但内存还在涨、应用用几天就明显卡顿、甚至被系统后台回收——这些问题十有八九是内存泄漏。这篇文章我结合在鸿蒙项目里的实际排查经验,聊聊如何定位、复现和修复内存泄漏,从工具链…

2026/10/11 20:53:40

鸿蒙应用内存泄漏排查实战:工具、修复与防泄漏方案

做鸿蒙应用开发的朋友应该都遇到过这种情况:应用跑着跑着,内存占用一路爬升,退出页面也不见回落,最后在低内存设备上被系统回收甚至闪退。最开始我以为是设备问题,后来把问题定位到内存泄漏上才发现,ArkTS的…

2026/10/11 20:53:40

三农HTML5网站源码本地运行与农旅场景适配指南

简介:这是一套面向高校计算机专业学生及前端初学者的HTML5毕业设计实战源码,聚焦三农主题,涵盖有机农业、农产品展销、生态农庄与农旅融合等典型场景,适用于课程大作业、毕设选题或Web前端入门项目实践。资源包共36个文件&#xf…

2026/10/11 20:53:40

Python房价预测:数据科学闭环实战入门

简介:本资源是一份面向计算机及相关专业本科生的房价预测课程设计与期末大作业实战项目,聚焦机器学习建模全流程实践,帮助学生快速掌握数据清洗、特征工程、模型训练与评估等核心技能。压缩包共17个文件,含12个CSV格式原始及处理后…

2026/10/11 20:53:40

向量库+图库+大模型三层协同:构建知识检索增强系统实战

1. 项目缘起与整体架构思路1.1 为什么单靠向量库或图库都不够用做过大模型应用的人多半踩过同一个坑:把文档切片、做嵌入、塞进向量数据库,检索看起来跑通了,但一旦用户问的是“A和B之间是什么关系”“这条链路上下游都有谁”这类问题&#x…

2026/10/11 0:02:13

Python调用Gemini Structured Outputs实现工单路由门禁

客服工单最怕的不是模型“答错一句话”,而是它给出一段看起来合理的说明,程序却从中猜错优先级。通俗做法是:要求模型只交 JSON(JavaScript Object Notation,轻量数据格式),再让代码验证它。Gem…

2026/10/11 0:02:13

Spring Boot超市进销存系统毕设实战:从需求拆解到答辩通关

最近带的一个学生项目组里,有A同学跑来问我:选什么毕设题目最稳妥,既能让评审老师觉得工作量够,又不会在答辩时被问到语无伦次。我第一反应就是推荐基于Spring Boot的超市仓库管理系统——也就是超市进销存系统。这个题目乍一看平…

2026/10/11 0:02:13

Flutter StatefulWidget 生命周期核心解析

很多刚开始接触 Flutter 的朋友,在看完一堆“Hello World”和基础组件之后,大概率都会撞上同一堵墙:StatefulWidget 里那堆 initState、build、dispose 方法,到底什么时候被调用?为什么顺序是那样?在里面到…

2026/10/11 0:02:13

Python调用Gemini Structured Outputs实现工单路由门禁

客服工单最怕的不是模型“答错一句话”,而是它给出一段看起来合理的说明,程序却从中猜错优先级。通俗做法是:要求模型只交 JSON(JavaScript Object Notation,轻量数据格式),再让代码验证它。Gem…

2026/10/11 0:02:13

Spring Boot超市进销存系统毕设实战:从需求拆解到答辩通关

最近带的一个学生项目组里,有A同学跑来问我:选什么毕设题目最稳妥,既能让评审老师觉得工作量够,又不会在答辩时被问到语无伦次。我第一反应就是推荐基于Spring Boot的超市仓库管理系统——也就是超市进销存系统。这个题目乍一看平…

2026/10/11 0:02:13

Flutter StatefulWidget 生命周期核心解析

很多刚开始接触 Flutter 的朋友,在看完一堆“Hello World”和基础组件之后,大概率都会撞上同一堵墙:StatefulWidget 里那堆 initState、build、dispose 方法,到底什么时候被调用?为什么顺序是那样?在里面到…

还想了解更多?直接咨询顾问

免费诊断 + 免费方案 + 透明报价。

全国咨询热线400-8866-253
免费获取方案
☎咨询二维码 ☎ ↑