文章从大语言模型LLM的基本功能出发介绍了Agent系统如何从简单的模型调用逐步发展出上下文管理、工具调用、循环执行、记忆存储等复杂功能并详细阐述了Agent Harness的概念及其在Pi、OpenCode、Codex和Hermes等框架中的具体应用。文章强调了模型与Harness的协同作用以及Harness在提高Agent系统稳定性、可控性和可恢复性方面的重要性适合对大模型和Agent系统感兴趣的小白程序员学习参考。今天的 Agent 系统看起来很像一套小型操作系统它们管理子 Agent 进程维护长期记忆文件通过工具驱动接触外部世界还要处理权限、隔离、恢复和观测。可它们的起点并不宏大。最初开发者手里只有一个把输入映射为输出的语言模型。复杂性并不是一次设计出来的。每当模型试图越过一次调用的边界系统就必须在模型外面增加一个新部件模型不知道此前聊了什么于是出现上下文模型无法改变世界于是出现工具一次工具调用解决不了任务于是出现循环上下文装不下历史于是出现记忆循环开始产生真实副作用于是出现权限与沙箱一个循环不够并行于是出现子 Agent…从一次模型调用到 AgentLLM最朴素的大语言模型接口可以被看成一个函数输入一段 token输出另一段 token。它可以在参数中编码世界知识却不会天然记住某个用户上一轮说过什么也不知道自己刚刚输出的命令是否被执行。2020 年GPT-3 展示了大规模语言模型仅通过文本提示完成多种任务的能力2022 年底GPT-3.5 成为 ChatGPT 背后的模型2023 年 2 月Meta 发布 LLaMA推动开放权重模型进入主流研究与本地部署。GPT、LLaMA 以及后来出现的 Claude、Gemini、Qwen 等模型虽然能力不同但在应用看来仍然共享同一个基本形态接收上下文predict next token。answer LLM(question)最初的系统只有一次前向调用。模型负责生成文本应用只负责把问题送进去、把答案显示出来。模型参数里的知识来自训练一次对话中的名字、偏好和任务状态则必须由应用在每次调用时重新提交。模型本身并没有一个不断增长的用户档案。QA BotQA Bot 的第一项工程进步不是换了一个更聪明的模型而是在模型前面增加一个上下文装配层。它把系统指令、用户当前输入和对话历史拼成一次请求。在 GPT-3 时代许多应用仍然把模型包装成单轮问答接口2022 年 11 月ChatGPT 把多轮对话带给大众开发者开始普遍维护 System Prompt、User Prompt 和 Chat History。模型没有突然获得跨轮记忆是聊天应用在每次请求前重新装配了历史。working_context [ system_prompt, recent_chat_history, user_prompt ] answer LLM(working_context)Working Memory 不是长期存储而是这一轮真正提交给模型的全部上下文。这一步看似只是字符串的拼接却奠定了后面所有 Harness 的核心原则模型看见的一切都是运行时系统为它构造出来的。运行时选择哪些历史进入上下文、哪些指令拥有更高优先级、哪些内容必须被裁剪都会改变 Agent 的行为。ReActBot 只需要回答一次但 Agent 必须根据行动结果继续决策。2022 年提出的 ReAct 执行架构把推理轨迹与动作交错起来模型形成下一步意图执行外部动作接收 Observation再把观察送回下一轮推理。ReAct 论文于 2022 年 10 月公开并在 ICLR 2023 发表。它把此前分别讨论的 Chain-of-Thought 与外部行动连接成 Thought → Action → Observation 循环。2023 年大量早期 Agent 项目沿用了这一模式Agent 也由“一种提示词技巧”逐渐变成了一个需要程序持续驱动的执行循环。Agent 真正的分水岭不是“会思考”而是建立了 模型 → 动作 → 环境 → 观察 → 模型 的闭环。while not finished: response model(context) if response.has_action: observation environment.execute(response.action) context.append(response.action, observation) else: return response.answer这个while循环就是最早的 Agent Runtime。模型仍然只生成 token真正负责“继续运行”的是模型外面的程序。它必须解析模型输出、判断是否结束、调用环境并把结果重新写入上下文。今天许多模型把内部推理隐藏起来但这不改变系统结构运行时仍然需要识别模型给出的动作、执行动作并把环境反馈送回模型。Tool Calling早期 Agent 常让模型输出类似Search[Wikipedia]的文本再由程序用正则表达式解析。这种方式很灵活也很脆弱格式可能漂移参数可能缺失模型还可能把解释文字混进命令。2022 年的 ReAct 主要依赖约定格式表达动作2023 年 6 月OpenAI 发布 Function Calling工具名和参数开始成为模型 API 的结构化输出2024 年 11 月Anthropic 发布 MCP进一步尝试标准化 Agent 与外部数据源、工具服务之间的连接。结构化 Tool Calling 改变了这件事。工具通过 schema 注册模型输出带有工具名、调用 ID 和参数的结构化对象运行时验证参数、选择实现、执行调用再把结果以 Tool Result Message 的身份放回上下文。2023 年 OpenAI 的 Function Calling 是这一机制走向主流 API 的重要节点。Tool Router 把“模型想做什么”翻译为确定的程序调用Tool Result Message 再成为下一轮模型输入的一部分。Tool Schema描述工具名称、用途、参数类型与约束让模型知道动作空间。Tool Router根据名称找到实现验证参数并把一次模型输出变成一次程序调用。Tool Result携带调用 ID、状态与返回值保证观察可以准确对应到原始动作。从这一刻开始Agent 不再只是“生成看起来像命令的文本”而是获得了一套可验证、可路由、可审计的动作协议。后来的文件工具、终端、浏览器、数据库、MCP本质上都在扩展这个协议。MemoryAgent Loop 解决了“如何连续行动”却没有解决“如何跨会话积累”。完整历史会越来越长而上下文窗口始终有限。系统不得不把过去拆成两个空间一个是本轮模型可见的 Working Memory另一个是模型外部可持久化、可检索的 Long-term Memory。2020 年的 RAG 已经清楚地区分了模型参数中的知识与外部可检索知识2023 年的 MemGPT 又借用操作系统的分层存储思想在有限上下文与外部存储之间调度信息。此后记忆从“检索几段文档”逐渐扩展到摘要、用户偏好、会话归档、技能文件和后台知识整理。这是一张逻辑化能力图。不同 Harness 会采用文件、数据库、全文检索、向量检索或摘要等不同组合而不是都实现完全相同的模块。程序记忆Procedural技能、习惯、操作流程和用户约定典型载体是规则文件或SKILL.md。语义记忆Semantic稳定事实、概念、偏好与项目知识常通过摘要、全文索引或向量检索进入上下文。情景记忆Episodic某次任务发生了什么、采取了哪些动作、结果如何通常来自会话日志与事件轨迹。这里真正困难的不是存储而是写入与读取策略什么值得保存何时合并重复事实怎样处理互相冲突的记忆检索多少条才不会挤压当前任务错误记忆如何被纠正因此记忆系统很快又会长出提炼、整合、门控与反思流程。当能力变多Agent 外面出现了 Harness到这里我们已经拥有上下文、循环、工具和记忆。但只要系统开始承担真实工作一批新的工程问题就会同时出现。2023 年的许多 Agent 原型仍把 Prompt、Loop 和 Tools 写在一个应用里2024 年MCP 开始统一外部连接协议到 2025 年Claude Code 和开源的 Codex CLI 把终端 Agent 推向真实软件工程场景。随着任务变长、副作用变强、客户端变多Agent Loop 外围的会话、权限、沙箱、事件和扩展机制逐渐凝结成独立的 Harness 层。会话能否恢复程序崩溃或用户退出之后循环必须从一致的状态重新开始。副作用是否安全命令、写文件、网络访问不能只依赖模型“自觉”。上下文如何压缩长任务需要保留关键事实同时释放上下文窗口。客户端如何连接TUI、IDE、桌面端、Web 与 SDK 需要观察同一个运行状态。扩展如何装配工具、MCP、Skills、Hooks 和配置需要确定的发现与加载机制。任务如何并行子 Agent 要拥有隔离的上下文、权限、历史与生命周期。于是 Agent Loop 不再直接面对所有东西。它被包进一个更大的运行时由这个运行时负责装配资源、管理会话、约束工具、持久化事件、暴露 API并在多个 Agent 之间调度任务。这一层就是本文所说的 Agent Harness。Agent 决定下一步做什么Harness 决定这一步在什么上下文、权限、生命周期与持久化规则下发生。下面的四个项目共享 Agent Loop、Tool Calling 和 Context Assembly 这些基本能力却选择了不同的演化方向。我将把它们依次展开可以看到 Harness 的设计空间。Pi先把最小 Harness 看清楚同一个模型只是换了一套 Harness结果能差多少测评机构 Composio 把 DeepSeek V4 Flash 分别放进 Pi Agent、Prime Agent、Deep Agents 和 Hermes Agent跑了同一批 30 个 Agentic Tasks。Pi 的通过率是 66.7%中位任务成本只有 0.012 美元。在这组测试里它完成得最多也花得最少。模型没有换Harness 一换模型能看到的上下文、走过的工具路径、循环的轮数和停止条件都会跟着变。Databricks 的内部基准又把这个问题放进更接近生产环境的坐标系。他们从工程师真实 PR 构造任务在覆盖 Python、Go、TypeScript、Scala 等语言的数百万行代码库上比较单任务平均成本和整体通过率。图里的红色虚线是 Pareto 前沿Pi 占据多段。Opus 4.8 搭配 Pi 的 xhigh 设置接近 90%GLM 5.2 搭配 Pi 也进入最高能力梯队。更有意思的是部分同模型、同推理强度换到 Pi 后质量基本不变单任务成本却能相差两倍以上。Databricks 追踪发现Pi 每轮送入的上下文约少三倍工作集更紧也用更少轮次完成任务。Pi 为什么能一边压低成本一边把任务做对Databricks 的运行轨迹给出的证明是它尽量不让模型反复阅读无关内容。Pi 默认只暴露read、write、edit、bash四个工具Resource Loader 显式装配当前会话启用的指令、Skills 和 Prompt TemplatesSession Manager 再用活动分支和 Compaction 把完整会话投影成更紧的 Working Memory。这样一来每轮请求携带的上下文更少历史噪声和工具描述也更少模型便能用更少 token、更少循环抵达结果。极简在这里不只是一种代码审美它直接变成了任务成本和执行效率。当然小也有代价。Pi 当前不内置限制文件系统、进程、网络或凭证访问的权限系统默认继承启动它的用户权限。要把它放进高风险环境还得用容器或外部沙箱补上边界。Pi 让我们第一次看到从 Agent Loop 到极简 Harness 的跨越它也是很多开源 Harness 框架魔改的起点。Resource Loader在运行前装配资源SYSTEM.md、AGENTS.md、Skills 与 Prompt Templates 并不是由模型自己去磁盘里“感知”的。Resource Loader 负责发现、解析并装配这些资源再形成当前 Session 可使用的系统上下文。资源加载因此成为一种显式的启动过程。OpenCode事件驱动的服务在 OpenCode 里用户看到的一段回复在存储层并不是一整块文本。一次 Assistant Message 下面可以同时挂着 Reasoning、Text、Tool、Step Start、Step Finish、Patch 和 Compaction 等 Part 组成的轨迹数据。模型想了什么、工具何时开始、补丁改了哪些文件、上下文何时被压缩都有各自的结构和生命周期。为什么要把一轮回答拆得这么碎OpenCode 保存的对象是 Agent 运行过的全过程。只要过程可以被结构化记录退出界面便不等于丢失现场恢复 Session 也不再依赖重放终端字符。这套运行从 Agent Profile 开始。源码中的Agent.Info不只包含 Prompt还把模型、Mode、Permission、步数与生成参数放进同一个配置对象。Build 和 Plan 是主 AgentGeneral 和 Explore 是子 AgentCompaction、Title、Summary 则是用户看不见的后台 Agent。同一个 Agent Loop 因而可以装载不同身份每个身份拥有不同的工具边界与职责。Agent Profile 决定此刻是谁在工作Session Events 记录它做过什么Compaction 决定哪些过去还要继续被模型看见。Profile 决定行为Session Events 负责留下事实。Message 与 Part 的更新会驱动 Projector把 Session、Message、Part 分别投影进 SQLite。长会话接近上下文上限时隐藏的 Compaction Agent 汇总较早的历史并在 token 预算内保留近期 turns旧工具输出还可以被裁剪压缩摘要与近期消息再组成下一轮 Working Memory。OpenCode 的记忆管理更接近一条可重建的上下文管线而不是额外外挂一个向量知识库。在 2025 年前后的 Coding Agent 浪潮里TUI、Web、桌面端和 SDK 开始共享同一套运行时。OpenCode 的多客户端并非最关键的创新它们是结构化状态带来的结果。不同界面只需要提交请求并消费事件流Agent 的身份、历史与执行进度仍由服务端 Session 统一管理。这套设计也带来代价。一次看似简单的回复现在需要维护 Agent 配置合并、权限组合、事件顺序、数据库投影和压缩边界Compaction、Title、Summary 还会引入额外的模型调用。OpenCode 用更复杂的状态工程换来 Session 可恢复、行为可审计、子 Agent 可隔离以及同一运行时被多种界面消费的能力。Agent Profile同一个循环装载不同身份Profile 不是一段换皮 Prompt。它同时保存名称、描述、Prompt、模型、Mode、Permission、生成参数与最大步数决定 Agent 能看到什么、能调用什么工具、何时需要向用户申请许可。Build 与 Plan 以primary模式直接承担用户任务二者最明显的差别落在权限边界上。General 与 Explore 以subagent模式被 Task Tool 调度Explore 只开放搜索、读取与受限命令等探索能力。Compaction、Title、Summary 标记为隐藏 Agent分别负责压缩上下文、生成标题和汇总变更。前台角色与后台服务由同一种 Profile 机制表达。Codex安全执行和 Thread 生命周期在 Codex 里用户点下允许并不等于模型拿到了整台电脑。Approval 只决定某个动作是否获准Sandbox Policy 仍然约束命令可以写到哪里、能否访问网络、可以触碰哪些系统资源。一次会触碰系统的工具调用真正执行之前要连续穿过这两道边界。为什么需要两层QA Bot 的错误只结束在屏幕上但Coding Agent 的错误可能变成被覆盖的文件、错误执行的命令或者一次越过工作区边界的访问。模型能力越强运行时越不能只靠 Prompt 提醒它小心。Codex 真正要解决的是怎样让一个并不完全可靠的模型安全、连续、可恢复地操作真实计算机。这套工程并不便宜。独立测评项目 OpenBench 在 2026 年 7 月把同一个gpt-5.6-sol放进 7 套 Coding Agent Harness并只比较各组都完整跑过的 42 个任务。Codex 完成了 31 个通过率 73.8%它的中位耗时是 94.6 秒每个成功任务平均消耗 117,107 个新 token都是这组测试里最重的一档。这张表不是通用排行榜任务只有 42 个不同长度、不同环境的任务也可能改变结果。但它确实把 Codex 的 Harness 成本展现了出来。如果测试只关心一次短任务能不能做完线程生命周期、审批、沙箱、事件、持久化与恢复机制很多时候都只会被算成额外开销。Codex 选择的不是最轻的路而是让长任务真正可以被监督、中断、恢复和并行管理的路。2025 年开源的 Codex CLI 与云端 Codex 相继出现使用入口随后扩展到 IDE、Web、App 和 SDK。入口越来越多只是表面变化更深的一层是任务不能再依附某个终端进程。App Server 提供统一协议让不同客户端面对同一套任务生命周期、审批请求和流式事件。这套协议的骨架是 Thread、Turn 与 Item。Thread 承载一个可以持续多轮的任务Turn 表示用户推动任务向前走的一次过程Item 则把模型消息、Reasoning、命令执行、文件修改、工具调用和审批拆成可观察单元。任务可以 Start、Resume、Fork、Interrupt正在运行的 Turn 也可以被 Steer。Codex 保存的不只是聊天记录而是一棵能够继续生长的任务状态。把这套生命周期真正运转起来的是 Thread Manager。它维护一张以 Thread ID 为索引的活跃任务表让 App Server 能找到已经在跑的任务继续投递 Turn 与操作。如果任务已经离开内存Thread Manager 才会从 Thread Store 或 Rollout 装回历史重建一个可运行的 CodexThread。它不是另一层记忆库也不亲自完成模型推理更像一个把协议请求、运行实例和持久化历史接在一起的任务控制平面。Thread 负责长期生命周期每次模型采样还需要一个更短暂、更严格的执行现场。源码中的 StepContext 会引用当前 TurnContext并捕获这一刻选中的环境、Capability Roots、MCP Binding、Tool Router 与AGENTS.md。后台配置即使发生变化已经开始的这一步仍然面对一套自洽的工具和环境。当模型准备制造真实副作用时Approval Policy 与 Sandbox 开始接管。前者判断什么情况下必须停下来询问用户App Server 会把请求绑定到具体的 Thread、Turn 和 Item后者把允许写入的目录、网络访问和操作系统能力落实为技术限制。用户接受一次命令并不会自动取消剩余限制。这里的安全不是模型答应会谨慎而是执行路径中存在模型无法自行跨过的边界。Codex 对过去也分了不同层次。当前模型看到的是经过装配和压缩的上下文Rollout 与 Thread Store 保存的是可以恢复的任务轨迹SQLite 为 Thread 状态和元数据提供查询入口。启用 Memory 后后台管线还会读取历史 Rollout先提取每个 Thread 中稳定的事实和经验再交给专门的整合 Agent 更新~/.codex/memories/。恢复一次任务与从许多任务中学习在这里是两条不同的管线。Multi-agent 继续沿用同一套抽象。子 Agent 不是塞进主循环的一段特殊逻辑而是由 Thread Manager 派生出的子 Thread。它可以从父任务已经持久化的历史 fork拥有自己的上下文、工具运行时和 Rollout再把状态与结果送回父任务。这个抽象现在已经直接长到了产品界面上。图中同一个主任务派生了 Newton、Franklin、Dirac 和 Peirce 4 个后台 Agent用户还可以用继续向某个 Agent 追加请求。看上去有点像一个 Agent 群聊但它们并不是 4 段推理挤在同一份上下文里而是 4 个由 Thread Manager 维护的独立子 Thread。Thread Manager把协议请求接到运行实例App Server 暴露的是thread/start、thread/resume、thread/fork与turn/start这些协议操作真正把它们接到内部运行时的是 Thread Manager。它用一个内存中的HashMapThreadId, ArcCodexThread记录活跃 Thread再通过 Thread ID 查找实例、投递操作并让 App Server 继续读取对应的运行事件。结束的 Thread 会从表中移除没有完成关闭的实例则保留下来便于重试或继续检查。启动新任务时Thread Manager 会先根据配置、初始历史、环境与工具能力创建 Session。它等到第一个SessionConfigured事件后才把 Session 包装成 CodexThread 并注册到活跃表。如果 Resume 指向一个仍在运行的 Thread它会直接返回现有实例避免同一份历史启动两套 Agent Loop。只有冷 Thread 才需要从 Thread Store 或 Rollout 读取历史再重建新的运行实例。被管理的任务状态仍然遵循 Thread、Turn 与 Item 三层结构。Thread 是长期容器Turn 是用户推动任务的一次过程Item 则把用户输入、Agent Message、Reasoning、命令执行、文件变更、工具调用和审批拆成可观察单元。Thread └── Turn ├── User Input Item ├── Reasoning / Agent Message Item ├── Command Execution / File Change Item ├── Tool Call / Approval Item └── Turn CompletedFork 也不是复制几段聊天文字。Thread Manager 会按指定的持久化快照裁切历史生成新的 Thread ID 与独立运行实例。派生子 Agent 时它还会先要求父 Thread 物化并刷新尚未落盘的 Rollout再从稳定快照创建子 Thread。所以 Thread Manager 管的不只是一列会话还有任务之间的谱系与运行边界。turn/start与turn/steer会把新操作送给正确的 CodexThread运行过程再通过item/started、增量事件、item/completed和turn/completed向外暴露。Thread Manager 本身不执行每一步推理它负责保证每个协议请求都落到正确的任务、正确的历史和唯一的运行实例上。Hermes自进化Pi 关心的是如何用尽量少的 Harness tax 完成眼前这次任务Hermes 把问题往后推了一步Agent 第二次遇到类似任务时能不能少走一遍弯路这需要 Harness 不只保存聊天记录还要判断一次经历里哪些是稳定事实哪些是可复用流程哪些旧知识又应该被新的修正覆盖。到 2026 年 8 月这个问题有了一套专门的测试。PAST-Bench 不再把每个任务当成彼此隔离的一次考试而是安排了 26 个场景、204 个跨会话 Episode。早期 Episode 给 Agent 留下偏好、流程或修正后续 Episode 清空当前上下文再分别测试 Memory、Procedural Reuse、Information Gathering 和 Update。每组实验还会关掉持久化能力重跑一次尽量把模型本身的能力与历史经验带来的增益拆开。固定 MiniMax-M2.7 后Hermes 是现有基线里唯一在四类能力上全部获得正向增益的框架。开启持久化后它的总体增益是0.13。更有意思的是PAST-Bench 还检查了日志中的 Memory 写入、Skill 创建、Session Search 和后续读取确认 Agent 是否真的走完了「写入、检索、正确应用」这条路径。Hermes 的机制证据分是0.64同样取得0.13增益的 nanobot 只有0.57。再回头看 Hermes Agent 的架构前台 Agent Loop 解决当前任务Session Archive 留下原始经历Memory 和 Skills 分别承载稳定事实与可复用流程Background Review 再决定哪些经验值得影响未来。Hermes 所说的自我改进是在模型外部维护一层会随使用逐渐变化的认知系统。Persistent Runtime任务可以由时间而非用户触发Terminal、Browser、MCP、任务分派和 Skill 管理构成 Agentic ToolsCronjob 让 Harness 能够在没有即时用户输入时触发工作。Agent 因而从“打开终端才存在的进程”变成一个长期在线的个人运行时。总结回到开头今天的 Agent 看起来像一套小型操作系统并不是因为有人一开始就想造一套小型操作系统。每一层都是模型撞上边界以后工程系统不得不补上的回答。记不住就装配上下文碰不到世界就接入工具一步做不完就启动循环历史装不下就分出长期记忆真实副作用越来越多就继续长出会话、权限、沙箱、事件和子 Agent。Agent 做决策Harness 让这些决策可以持续、可控、可恢复地发生。模型决定下一步行动Harness 管理它看见什么、能够调用什么、动作在哪里执行、过程怎样留下记录以及失败之后如何重新开始。Pi、OpenCode、Codex 和 Hermes 并没有给出同一道题的标准答案。Pi 把核心收得尽可能小OpenCode 把身份与历史组织成 Profile 和 EventCodex 围绕 Thread 与安全边界完成工程化Hermes 则把注意力延伸到下一次任务。不同路线交换的是成本、控制力、可恢复性和长期学习能力选择哪一种取决于 Agent 最终要进入怎样的真实环境。模型还会继续变强但 Harness 不会因此消失。模型越能行动外面的运行时越不能含糊。未来的分水岭未必只是谁的模型更聪明也是谁能为同一个模型搭出更好的上下文、更稳的循环、更清晰的边界以及一套不会在长期使用中越学越乱的记忆。Agent 是怎样长出 Harness 的答案就在这些一层层补上的边界里。大模型的知识又多又杂到底怎么学做这行久了被问最多的问题就一个大模型的知识又多又杂我到底先学啥翻了一堆资料看啥都像重点结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍零基础、应届生、转行的都适用。跟着走至少方向不乱、不瞎忙学完拿得出手。第一阶段10天初阶应用这一阶段就一个目标把大模型真正玩明白不是只会聊天那种而是能调教它、能用代码把大模型和业务接起来。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用这阶段正式进实战目标很实在做出两个能拿出手的东西——一个私有知识库一个 agent 对话机器人。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…走完这 30 天Python 或 JavaScript 背景的基本能独立做一套 RAG 应用简历上也敢写大模型应用开发了。第三阶段约20天动手微调学到这你已经开始 “造” 模型了 —— 通过微调搞出垂直领域的专用小模型。为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料第四阶段20天商业闭环部署落地技术学完落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…想要入坑大模型的朋友给大家准备了一份2026 年最新 AI 大模型全套学习资料1、大模型系统化学习路线2、大模型学习视频教程3、大模型学习书籍电子文档4、AI大模型最新行业报告5、大模型项目实战配套源码6、2026大模型大厂面试真题7、为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。8、适合谁学传统后端 / Java / 前端开发想转型 AI 应用大学生、应届生想拿更好的 offer产品经理、运营想武装职业竞争力技术负责人想给团队落地提效学习是反人性的但回报是真金白银。技术会更新赛道会切换但只要你先动手机会就永远站在你这边。9、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料好了就写到这。路线是死的人是活的卡住了随时来问我。觉得有用就点个收藏别让它进收藏夹吃灰——动起来比啥都强。
文章从大语言模型LLM的基本功能出发介绍了Agent系统如何从简单的模型调用逐步发展出上下文管理、工具调用、循环执行、记忆存储等复杂功能并详细阐述了Agent Harness的概念及其在Pi、OpenCode、Codex和Hermes等框架中的具体应用。文章强调了模型与Harness的协同作用以及Harness在提高Agent系统稳定性、可控性和可恢复性方面的重要性适合对大模型和Agent系统感兴趣的小白程序员学习参考。今天的 Agent 系统看起来很像一套小型操作系统它们管理子 Agent 进程维护长期记忆文件通过工具驱动接触外部世界还要处理权限、隔离、恢复和观测。可它们的起点并不宏大。最初开发者手里只有一个把输入映射为输出的语言模型。复杂性并不是一次设计出来的。每当模型试图越过一次调用的边界系统就必须在模型外面增加一个新部件模型不知道此前聊了什么于是出现上下文模型无法改变世界于是出现工具一次工具调用解决不了任务于是出现循环上下文装不下历史于是出现记忆循环开始产生真实副作用于是出现权限与沙箱一个循环不够并行于是出现子 Agent…从一次模型调用到 AgentLLM最朴素的大语言模型接口可以被看成一个函数输入一段 token输出另一段 token。它可以在参数中编码世界知识却不会天然记住某个用户上一轮说过什么也不知道自己刚刚输出的命令是否被执行。2020 年GPT-3 展示了大规模语言模型仅通过文本提示完成多种任务的能力2022 年底GPT-3.5 成为 ChatGPT 背后的模型2023 年 2 月Meta 发布 LLaMA推动开放权重模型进入主流研究与本地部署。GPT、LLaMA 以及后来出现的 Claude、Gemini、Qwen 等模型虽然能力不同但在应用看来仍然共享同一个基本形态接收上下文predict next token。answer LLM(question)最初的系统只有一次前向调用。模型负责生成文本应用只负责把问题送进去、把答案显示出来。模型参数里的知识来自训练一次对话中的名字、偏好和任务状态则必须由应用在每次调用时重新提交。模型本身并没有一个不断增长的用户档案。QA BotQA Bot 的第一项工程进步不是换了一个更聪明的模型而是在模型前面增加一个上下文装配层。它把系统指令、用户当前输入和对话历史拼成一次请求。在 GPT-3 时代许多应用仍然把模型包装成单轮问答接口2022 年 11 月ChatGPT 把多轮对话带给大众开发者开始普遍维护 System Prompt、User Prompt 和 Chat History。模型没有突然获得跨轮记忆是聊天应用在每次请求前重新装配了历史。working_context [ system_prompt, recent_chat_history, user_prompt ] answer LLM(working_context)Working Memory 不是长期存储而是这一轮真正提交给模型的全部上下文。这一步看似只是字符串的拼接却奠定了后面所有 Harness 的核心原则模型看见的一切都是运行时系统为它构造出来的。运行时选择哪些历史进入上下文、哪些指令拥有更高优先级、哪些内容必须被裁剪都会改变 Agent 的行为。ReActBot 只需要回答一次但 Agent 必须根据行动结果继续决策。2022 年提出的 ReAct 执行架构把推理轨迹与动作交错起来模型形成下一步意图执行外部动作接收 Observation再把观察送回下一轮推理。ReAct 论文于 2022 年 10 月公开并在 ICLR 2023 发表。它把此前分别讨论的 Chain-of-Thought 与外部行动连接成 Thought → Action → Observation 循环。2023 年大量早期 Agent 项目沿用了这一模式Agent 也由“一种提示词技巧”逐渐变成了一个需要程序持续驱动的执行循环。Agent 真正的分水岭不是“会思考”而是建立了 模型 → 动作 → 环境 → 观察 → 模型 的闭环。while not finished: response model(context) if response.has_action: observation environment.execute(response.action) context.append(response.action, observation) else: return response.answer这个while循环就是最早的 Agent Runtime。模型仍然只生成 token真正负责“继续运行”的是模型外面的程序。它必须解析模型输出、判断是否结束、调用环境并把结果重新写入上下文。今天许多模型把内部推理隐藏起来但这不改变系统结构运行时仍然需要识别模型给出的动作、执行动作并把环境反馈送回模型。Tool Calling早期 Agent 常让模型输出类似Search[Wikipedia]的文本再由程序用正则表达式解析。这种方式很灵活也很脆弱格式可能漂移参数可能缺失模型还可能把解释文字混进命令。2022 年的 ReAct 主要依赖约定格式表达动作2023 年 6 月OpenAI 发布 Function Calling工具名和参数开始成为模型 API 的结构化输出2024 年 11 月Anthropic 发布 MCP进一步尝试标准化 Agent 与外部数据源、工具服务之间的连接。结构化 Tool Calling 改变了这件事。工具通过 schema 注册模型输出带有工具名、调用 ID 和参数的结构化对象运行时验证参数、选择实现、执行调用再把结果以 Tool Result Message 的身份放回上下文。2023 年 OpenAI 的 Function Calling 是这一机制走向主流 API 的重要节点。Tool Router 把“模型想做什么”翻译为确定的程序调用Tool Result Message 再成为下一轮模型输入的一部分。Tool Schema描述工具名称、用途、参数类型与约束让模型知道动作空间。Tool Router根据名称找到实现验证参数并把一次模型输出变成一次程序调用。Tool Result携带调用 ID、状态与返回值保证观察可以准确对应到原始动作。从这一刻开始Agent 不再只是“生成看起来像命令的文本”而是获得了一套可验证、可路由、可审计的动作协议。后来的文件工具、终端、浏览器、数据库、MCP本质上都在扩展这个协议。MemoryAgent Loop 解决了“如何连续行动”却没有解决“如何跨会话积累”。完整历史会越来越长而上下文窗口始终有限。系统不得不把过去拆成两个空间一个是本轮模型可见的 Working Memory另一个是模型外部可持久化、可检索的 Long-term Memory。2020 年的 RAG 已经清楚地区分了模型参数中的知识与外部可检索知识2023 年的 MemGPT 又借用操作系统的分层存储思想在有限上下文与外部存储之间调度信息。此后记忆从“检索几段文档”逐渐扩展到摘要、用户偏好、会话归档、技能文件和后台知识整理。这是一张逻辑化能力图。不同 Harness 会采用文件、数据库、全文检索、向量检索或摘要等不同组合而不是都实现完全相同的模块。程序记忆Procedural技能、习惯、操作流程和用户约定典型载体是规则文件或SKILL.md。语义记忆Semantic稳定事实、概念、偏好与项目知识常通过摘要、全文索引或向量检索进入上下文。情景记忆Episodic某次任务发生了什么、采取了哪些动作、结果如何通常来自会话日志与事件轨迹。这里真正困难的不是存储而是写入与读取策略什么值得保存何时合并重复事实怎样处理互相冲突的记忆检索多少条才不会挤压当前任务错误记忆如何被纠正因此记忆系统很快又会长出提炼、整合、门控与反思流程。当能力变多Agent 外面出现了 Harness到这里我们已经拥有上下文、循环、工具和记忆。但只要系统开始承担真实工作一批新的工程问题就会同时出现。2023 年的许多 Agent 原型仍把 Prompt、Loop 和 Tools 写在一个应用里2024 年MCP 开始统一外部连接协议到 2025 年Claude Code 和开源的 Codex CLI 把终端 Agent 推向真实软件工程场景。随着任务变长、副作用变强、客户端变多Agent Loop 外围的会话、权限、沙箱、事件和扩展机制逐渐凝结成独立的 Harness 层。会话能否恢复程序崩溃或用户退出之后循环必须从一致的状态重新开始。副作用是否安全命令、写文件、网络访问不能只依赖模型“自觉”。上下文如何压缩长任务需要保留关键事实同时释放上下文窗口。客户端如何连接TUI、IDE、桌面端、Web 与 SDK 需要观察同一个运行状态。扩展如何装配工具、MCP、Skills、Hooks 和配置需要确定的发现与加载机制。任务如何并行子 Agent 要拥有隔离的上下文、权限、历史与生命周期。于是 Agent Loop 不再直接面对所有东西。它被包进一个更大的运行时由这个运行时负责装配资源、管理会话、约束工具、持久化事件、暴露 API并在多个 Agent 之间调度任务。这一层就是本文所说的 Agent Harness。Agent 决定下一步做什么Harness 决定这一步在什么上下文、权限、生命周期与持久化规则下发生。下面的四个项目共享 Agent Loop、Tool Calling 和 Context Assembly 这些基本能力却选择了不同的演化方向。我将把它们依次展开可以看到 Harness 的设计空间。Pi先把最小 Harness 看清楚同一个模型只是换了一套 Harness结果能差多少测评机构 Composio 把 DeepSeek V4 Flash 分别放进 Pi Agent、Prime Agent、Deep Agents 和 Hermes Agent跑了同一批 30 个 Agentic Tasks。Pi 的通过率是 66.7%中位任务成本只有 0.012 美元。在这组测试里它完成得最多也花得最少。模型没有换Harness 一换模型能看到的上下文、走过的工具路径、循环的轮数和停止条件都会跟着变。Databricks 的内部基准又把这个问题放进更接近生产环境的坐标系。他们从工程师真实 PR 构造任务在覆盖 Python、Go、TypeScript、Scala 等语言的数百万行代码库上比较单任务平均成本和整体通过率。图里的红色虚线是 Pareto 前沿Pi 占据多段。Opus 4.8 搭配 Pi 的 xhigh 设置接近 90%GLM 5.2 搭配 Pi 也进入最高能力梯队。更有意思的是部分同模型、同推理强度换到 Pi 后质量基本不变单任务成本却能相差两倍以上。Databricks 追踪发现Pi 每轮送入的上下文约少三倍工作集更紧也用更少轮次完成任务。Pi 为什么能一边压低成本一边把任务做对Databricks 的运行轨迹给出的证明是它尽量不让模型反复阅读无关内容。Pi 默认只暴露read、write、edit、bash四个工具Resource Loader 显式装配当前会话启用的指令、Skills 和 Prompt TemplatesSession Manager 再用活动分支和 Compaction 把完整会话投影成更紧的 Working Memory。这样一来每轮请求携带的上下文更少历史噪声和工具描述也更少模型便能用更少 token、更少循环抵达结果。极简在这里不只是一种代码审美它直接变成了任务成本和执行效率。当然小也有代价。Pi 当前不内置限制文件系统、进程、网络或凭证访问的权限系统默认继承启动它的用户权限。要把它放进高风险环境还得用容器或外部沙箱补上边界。Pi 让我们第一次看到从 Agent Loop 到极简 Harness 的跨越它也是很多开源 Harness 框架魔改的起点。Resource Loader在运行前装配资源SYSTEM.md、AGENTS.md、Skills 与 Prompt Templates 并不是由模型自己去磁盘里“感知”的。Resource Loader 负责发现、解析并装配这些资源再形成当前 Session 可使用的系统上下文。资源加载因此成为一种显式的启动过程。OpenCode事件驱动的服务在 OpenCode 里用户看到的一段回复在存储层并不是一整块文本。一次 Assistant Message 下面可以同时挂着 Reasoning、Text、Tool、Step Start、Step Finish、Patch 和 Compaction 等 Part 组成的轨迹数据。模型想了什么、工具何时开始、补丁改了哪些文件、上下文何时被压缩都有各自的结构和生命周期。为什么要把一轮回答拆得这么碎OpenCode 保存的对象是 Agent 运行过的全过程。只要过程可以被结构化记录退出界面便不等于丢失现场恢复 Session 也不再依赖重放终端字符。这套运行从 Agent Profile 开始。源码中的Agent.Info不只包含 Prompt还把模型、Mode、Permission、步数与生成参数放进同一个配置对象。Build 和 Plan 是主 AgentGeneral 和 Explore 是子 AgentCompaction、Title、Summary 则是用户看不见的后台 Agent。同一个 Agent Loop 因而可以装载不同身份每个身份拥有不同的工具边界与职责。Agent Profile 决定此刻是谁在工作Session Events 记录它做过什么Compaction 决定哪些过去还要继续被模型看见。Profile 决定行为Session Events 负责留下事实。Message 与 Part 的更新会驱动 Projector把 Session、Message、Part 分别投影进 SQLite。长会话接近上下文上限时隐藏的 Compaction Agent 汇总较早的历史并在 token 预算内保留近期 turns旧工具输出还可以被裁剪压缩摘要与近期消息再组成下一轮 Working Memory。OpenCode 的记忆管理更接近一条可重建的上下文管线而不是额外外挂一个向量知识库。在 2025 年前后的 Coding Agent 浪潮里TUI、Web、桌面端和 SDK 开始共享同一套运行时。OpenCode 的多客户端并非最关键的创新它们是结构化状态带来的结果。不同界面只需要提交请求并消费事件流Agent 的身份、历史与执行进度仍由服务端 Session 统一管理。这套设计也带来代价。一次看似简单的回复现在需要维护 Agent 配置合并、权限组合、事件顺序、数据库投影和压缩边界Compaction、Title、Summary 还会引入额外的模型调用。OpenCode 用更复杂的状态工程换来 Session 可恢复、行为可审计、子 Agent 可隔离以及同一运行时被多种界面消费的能力。Agent Profile同一个循环装载不同身份Profile 不是一段换皮 Prompt。它同时保存名称、描述、Prompt、模型、Mode、Permission、生成参数与最大步数决定 Agent 能看到什么、能调用什么工具、何时需要向用户申请许可。Build 与 Plan 以primary模式直接承担用户任务二者最明显的差别落在权限边界上。General 与 Explore 以subagent模式被 Task Tool 调度Explore 只开放搜索、读取与受限命令等探索能力。Compaction、Title、Summary 标记为隐藏 Agent分别负责压缩上下文、生成标题和汇总变更。前台角色与后台服务由同一种 Profile 机制表达。Codex安全执行和 Thread 生命周期在 Codex 里用户点下允许并不等于模型拿到了整台电脑。Approval 只决定某个动作是否获准Sandbox Policy 仍然约束命令可以写到哪里、能否访问网络、可以触碰哪些系统资源。一次会触碰系统的工具调用真正执行之前要连续穿过这两道边界。为什么需要两层QA Bot 的错误只结束在屏幕上但Coding Agent 的错误可能变成被覆盖的文件、错误执行的命令或者一次越过工作区边界的访问。模型能力越强运行时越不能只靠 Prompt 提醒它小心。Codex 真正要解决的是怎样让一个并不完全可靠的模型安全、连续、可恢复地操作真实计算机。这套工程并不便宜。独立测评项目 OpenBench 在 2026 年 7 月把同一个gpt-5.6-sol放进 7 套 Coding Agent Harness并只比较各组都完整跑过的 42 个任务。Codex 完成了 31 个通过率 73.8%它的中位耗时是 94.6 秒每个成功任务平均消耗 117,107 个新 token都是这组测试里最重的一档。这张表不是通用排行榜任务只有 42 个不同长度、不同环境的任务也可能改变结果。但它确实把 Codex 的 Harness 成本展现了出来。如果测试只关心一次短任务能不能做完线程生命周期、审批、沙箱、事件、持久化与恢复机制很多时候都只会被算成额外开销。Codex 选择的不是最轻的路而是让长任务真正可以被监督、中断、恢复和并行管理的路。2025 年开源的 Codex CLI 与云端 Codex 相继出现使用入口随后扩展到 IDE、Web、App 和 SDK。入口越来越多只是表面变化更深的一层是任务不能再依附某个终端进程。App Server 提供统一协议让不同客户端面对同一套任务生命周期、审批请求和流式事件。这套协议的骨架是 Thread、Turn 与 Item。Thread 承载一个可以持续多轮的任务Turn 表示用户推动任务向前走的一次过程Item 则把模型消息、Reasoning、命令执行、文件修改、工具调用和审批拆成可观察单元。任务可以 Start、Resume、Fork、Interrupt正在运行的 Turn 也可以被 Steer。Codex 保存的不只是聊天记录而是一棵能够继续生长的任务状态。把这套生命周期真正运转起来的是 Thread Manager。它维护一张以 Thread ID 为索引的活跃任务表让 App Server 能找到已经在跑的任务继续投递 Turn 与操作。如果任务已经离开内存Thread Manager 才会从 Thread Store 或 Rollout 装回历史重建一个可运行的 CodexThread。它不是另一层记忆库也不亲自完成模型推理更像一个把协议请求、运行实例和持久化历史接在一起的任务控制平面。Thread 负责长期生命周期每次模型采样还需要一个更短暂、更严格的执行现场。源码中的 StepContext 会引用当前 TurnContext并捕获这一刻选中的环境、Capability Roots、MCP Binding、Tool Router 与AGENTS.md。后台配置即使发生变化已经开始的这一步仍然面对一套自洽的工具和环境。当模型准备制造真实副作用时Approval Policy 与 Sandbox 开始接管。前者判断什么情况下必须停下来询问用户App Server 会把请求绑定到具体的 Thread、Turn 和 Item后者把允许写入的目录、网络访问和操作系统能力落实为技术限制。用户接受一次命令并不会自动取消剩余限制。这里的安全不是模型答应会谨慎而是执行路径中存在模型无法自行跨过的边界。Codex 对过去也分了不同层次。当前模型看到的是经过装配和压缩的上下文Rollout 与 Thread Store 保存的是可以恢复的任务轨迹SQLite 为 Thread 状态和元数据提供查询入口。启用 Memory 后后台管线还会读取历史 Rollout先提取每个 Thread 中稳定的事实和经验再交给专门的整合 Agent 更新~/.codex/memories/。恢复一次任务与从许多任务中学习在这里是两条不同的管线。Multi-agent 继续沿用同一套抽象。子 Agent 不是塞进主循环的一段特殊逻辑而是由 Thread Manager 派生出的子 Thread。它可以从父任务已经持久化的历史 fork拥有自己的上下文、工具运行时和 Rollout再把状态与结果送回父任务。这个抽象现在已经直接长到了产品界面上。图中同一个主任务派生了 Newton、Franklin、Dirac 和 Peirce 4 个后台 Agent用户还可以用继续向某个 Agent 追加请求。看上去有点像一个 Agent 群聊但它们并不是 4 段推理挤在同一份上下文里而是 4 个由 Thread Manager 维护的独立子 Thread。Thread Manager把协议请求接到运行实例App Server 暴露的是thread/start、thread/resume、thread/fork与turn/start这些协议操作真正把它们接到内部运行时的是 Thread Manager。它用一个内存中的HashMapThreadId, ArcCodexThread记录活跃 Thread再通过 Thread ID 查找实例、投递操作并让 App Server 继续读取对应的运行事件。结束的 Thread 会从表中移除没有完成关闭的实例则保留下来便于重试或继续检查。启动新任务时Thread Manager 会先根据配置、初始历史、环境与工具能力创建 Session。它等到第一个SessionConfigured事件后才把 Session 包装成 CodexThread 并注册到活跃表。如果 Resume 指向一个仍在运行的 Thread它会直接返回现有实例避免同一份历史启动两套 Agent Loop。只有冷 Thread 才需要从 Thread Store 或 Rollout 读取历史再重建新的运行实例。被管理的任务状态仍然遵循 Thread、Turn 与 Item 三层结构。Thread 是长期容器Turn 是用户推动任务的一次过程Item 则把用户输入、Agent Message、Reasoning、命令执行、文件变更、工具调用和审批拆成可观察单元。Thread └── Turn ├── User Input Item ├── Reasoning / Agent Message Item ├── Command Execution / File Change Item ├── Tool Call / Approval Item └── Turn CompletedFork 也不是复制几段聊天文字。Thread Manager 会按指定的持久化快照裁切历史生成新的 Thread ID 与独立运行实例。派生子 Agent 时它还会先要求父 Thread 物化并刷新尚未落盘的 Rollout再从稳定快照创建子 Thread。所以 Thread Manager 管的不只是一列会话还有任务之间的谱系与运行边界。turn/start与turn/steer会把新操作送给正确的 CodexThread运行过程再通过item/started、增量事件、item/completed和turn/completed向外暴露。Thread Manager 本身不执行每一步推理它负责保证每个协议请求都落到正确的任务、正确的历史和唯一的运行实例上。Hermes自进化Pi 关心的是如何用尽量少的 Harness tax 完成眼前这次任务Hermes 把问题往后推了一步Agent 第二次遇到类似任务时能不能少走一遍弯路这需要 Harness 不只保存聊天记录还要判断一次经历里哪些是稳定事实哪些是可复用流程哪些旧知识又应该被新的修正覆盖。到 2026 年 8 月这个问题有了一套专门的测试。PAST-Bench 不再把每个任务当成彼此隔离的一次考试而是安排了 26 个场景、204 个跨会话 Episode。早期 Episode 给 Agent 留下偏好、流程或修正后续 Episode 清空当前上下文再分别测试 Memory、Procedural Reuse、Information Gathering 和 Update。每组实验还会关掉持久化能力重跑一次尽量把模型本身的能力与历史经验带来的增益拆开。固定 MiniMax-M2.7 后Hermes 是现有基线里唯一在四类能力上全部获得正向增益的框架。开启持久化后它的总体增益是0.13。更有意思的是PAST-Bench 还检查了日志中的 Memory 写入、Skill 创建、Session Search 和后续读取确认 Agent 是否真的走完了「写入、检索、正确应用」这条路径。Hermes 的机制证据分是0.64同样取得0.13增益的 nanobot 只有0.57。再回头看 Hermes Agent 的架构前台 Agent Loop 解决当前任务Session Archive 留下原始经历Memory 和 Skills 分别承载稳定事实与可复用流程Background Review 再决定哪些经验值得影响未来。Hermes 所说的自我改进是在模型外部维护一层会随使用逐渐变化的认知系统。Persistent Runtime任务可以由时间而非用户触发Terminal、Browser、MCP、任务分派和 Skill 管理构成 Agentic ToolsCronjob 让 Harness 能够在没有即时用户输入时触发工作。Agent 因而从“打开终端才存在的进程”变成一个长期在线的个人运行时。总结回到开头今天的 Agent 看起来像一套小型操作系统并不是因为有人一开始就想造一套小型操作系统。每一层都是模型撞上边界以后工程系统不得不补上的回答。记不住就装配上下文碰不到世界就接入工具一步做不完就启动循环历史装不下就分出长期记忆真实副作用越来越多就继续长出会话、权限、沙箱、事件和子 Agent。Agent 做决策Harness 让这些决策可以持续、可控、可恢复地发生。模型决定下一步行动Harness 管理它看见什么、能够调用什么、动作在哪里执行、过程怎样留下记录以及失败之后如何重新开始。Pi、OpenCode、Codex 和 Hermes 并没有给出同一道题的标准答案。Pi 把核心收得尽可能小OpenCode 把身份与历史组织成 Profile 和 EventCodex 围绕 Thread 与安全边界完成工程化Hermes 则把注意力延伸到下一次任务。不同路线交换的是成本、控制力、可恢复性和长期学习能力选择哪一种取决于 Agent 最终要进入怎样的真实环境。模型还会继续变强但 Harness 不会因此消失。模型越能行动外面的运行时越不能含糊。未来的分水岭未必只是谁的模型更聪明也是谁能为同一个模型搭出更好的上下文、更稳的循环、更清晰的边界以及一套不会在长期使用中越学越乱的记忆。Agent 是怎样长出 Harness 的答案就在这些一层层补上的边界里。大模型的知识又多又杂到底怎么学做这行久了被问最多的问题就一个大模型的知识又多又杂我到底先学啥翻了一堆资料看啥都像重点结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍零基础、应届生、转行的都适用。跟着走至少方向不乱、不瞎忙学完拿得出手。第一阶段10天初阶应用这一阶段就一个目标把大模型真正玩明白不是只会聊天那种而是能调教它、能用代码把大模型和业务接起来。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用这阶段正式进实战目标很实在做出两个能拿出手的东西——一个私有知识库一个 agent 对话机器人。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…走完这 30 天Python 或 JavaScript 背景的基本能独立做一套 RAG 应用简历上也敢写大模型应用开发了。第三阶段约20天动手微调学到这你已经开始 “造” 模型了 —— 通过微调搞出垂直领域的专用小模型。为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料第四阶段20天商业闭环部署落地技术学完落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…想要入坑大模型的朋友给大家准备了一份2026 年最新 AI 大模型全套学习资料1、大模型系统化学习路线2、大模型学习视频教程3、大模型学习书籍电子文档4、AI大模型最新行业报告5、大模型项目实战配套源码6、2026大模型大厂面试真题7、为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。8、适合谁学传统后端 / Java / 前端开发想转型 AI 应用大学生、应届生想拿更好的 offer产品经理、运营想武装职业竞争力技术负责人想给团队落地提效学习是反人性的但回报是真金白银。技术会更新赛道会切换但只要你先动手机会就永远站在你这边。9、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料好了就写到这。路线是死的人是活的卡住了随时来问我。觉得有用就点个收藏别让它进收藏夹吃灰——动起来比啥都强。
