一篇文章讲清楚AI基础概念：LLM、token、Prompt、Agent、Skill、RAG、Harness

你可能听说过很多关于AI的概念和名词比如我们知道豆包叫做大语言模型比如我们输入豆包指挥它干活的文字叫做提示词或许你也听说过AI Agent的概念听说过前段时间爆火的「龙虾」以及各种各样层出不穷的新概念。这篇文章介绍截至2026年6月市面上主要的与AI相关的概念以及它们之间的关系。帮你更好的了解AI。具体包括大语言模型 LLM判别式人工智能生成式人工智词元 Token提示词 Prompt提示词工程 Prompt Engineering上下文 Context上下文窗口 Context Window智能体 AI Agent工具 Tool技能 Skill检索增强生成 RAG驾驭工程 Harness (Engineering)CLIClaude CodeCodexGPU幻觉神经网络机器学习文章里面提到的一部分概念在我的新书《人工智能故事书》中有更详细的介绍和分析。京东搜索书名《人工智能故事书》即可找到目前京东自营渠道在全国大多数地区均已上架。1大语言模型 LLM这是目前这一轮AI浪潮中最底层最基础的概念。在2022年之前市面上其实也有很多人工智能的应用比如人脸识别、语音识别等等都是人工智能包括你在电商网站上经常看到的「猜你喜欢」你邮箱里面的反垃圾邮件功能其实都是人工智能。但是2022年11月发生了一件大事就是ChatGPT上线。我们发现以前的人工智能都只能基于数据给出某种确定性的结论例如人脸识别就是判断这张脸是不是你而没办法创造出新的东西。所以我们把以前的各类人工智能统称「判别式人工智能」。而ChatGPT不一样它可以根据你的输入自行组织语言创造出新的内容回复给你。所以我们称这类人工智能为「生成式人工智能」。另一方面由于我们是使用自然语言来操作ChatGPT所以我们又称其为「大语言模型」英文是Large Language Model缩写LLM。现在市面上有很多大语言模型例如ChatGPT、Gemini、豆包、千问、DeepSeek、Kimi等。大语言模型的问世具备划时代的意义因为这可能是人类目前唯一一种能够稳定、有效地模拟大脑的技术。所以大语言模型为数字化世界提供了「思考」能力——以前的所有计算机程序理论上只会判断但不会思考。当然如果你读过我的书在《人工智能故事书》第四章里面你会了解到大语言模型并不是真的会「思考」它们只是在不停地算概率。但从宏观的视角来看从我们人类的视角来看的话它会表现出「思考」的效果。2token大语言模型可以「理解」人类的语言并且使用人类的自然语言与人类沟通。但是在模型眼中语言的基本单位与在人类眼中是不一样的。举例来说对于中文我们人类眼中其基本单位可能是「字」。也即每一个汉字都是组成中文句子承载中文语义的基本单位。但是在模型眼中中文的基本单位不一定是汉字。或者说有的汉字可以独立称为一个基本单位有的则可能是两个字、三个字连在一起才是一个基本单位。所以在AI模型眼中语言的基本单位就叫token。如图所示对于gpt-4o这个模型来说「人工智能故事书」这段话虽然有7个汉字但在它眼中会作为4个token处理。人工是一个token智能是一个token故事是一个token书是一个token。token这个词严格来讲没有指定的中文翻译。之前一些媒体发布过消息据说正在征集它的中文译名。目前呼声比较大的译名是「词元」。3提示词 Prompt我们发给大语言模型的「内容」用来指挥它干活的这些指令叫做提示词英文是Prompt。事实上跟人工智能沟通的语言风格以及语言技巧可能会跟与人沟通不太一样。举例来说人跟人之间的沟通有时候可以用模糊的、不准确的语言来完成可能并不影响对方理解。但与人工智能沟通最好做到准确严谨。相应的就又有「提示词工程 Prompt Engineering」的概念。也即研究如何向大语言模型发送指令才能指挥它更好地完成工作的工程。在《人工智能故事书》中我向读者介绍了源自Google的《五步提示词框架 5 Step Prompt Framework》这是用好大语言模型的基础。事实上类似的框架还有很多但是Google的这套框架我认为最严谨因为它的视角是作用于与大语言模型沟通的整个过程并不只是在提示词写作层面上。提示词工程的本质其实并不是研究如何去给模型下「命令」而是在试图划定一个局部的概率空间。我知道这句话可能不是人话但是它很重要。如果你看不懂可以尝试读一下我的《人工智能故事书》。4上下文 Context大语言模型实际上只是一套复杂的数学函数所谓函数就是你给它输入它经过计算给你输出。但是在我们日常使用大语言模型的过程中你可能会发现两个现象。第一一般情况下它是有一定的「记忆」功能的。比如你问它一个问题它回答然后你说「前面你提到xxx但是我并不认同我认为xxx」你会发现它是能够基于你们的对话历史把对话连上的。第二对于一些相对熟练的使用者来说你可能会发现单纯的一句话问题得到的回复质量往往并不好。但是如果你在问题之前描述清楚提出这个问题的背景信息往往模型可以给到你更加高质量的回答。这就是上下文Context的作用。所谓「上下文」就是决定当前这句话真实含义的全部相关背景信息与历史对话记录。合理使用上下文将会大幅度提升大语言模型回复的质量。在非对话场景中例如AI编程上下文更加重要它能够让AI看到你整个项目的全貌和已有基础从而写出能直接与你现有工作完美拼接的内容而不是给你一段通用却根本用不上的孤立片段。另一个概念叫做「上下文窗口 Context Window」它的意思是AI在单次任务中最多能同时记住和处理的文本总长度。显然AI的「大脑」跟人类一样是有一个容量上限的一旦你输入和它输出的内容总和超过了这个额度它就会被迫开始遗忘最前面的对话或背景信息。但是别担心现在的大语言模型上下文窗口都很庞大。如下图所示是字节跳动火山引擎上豆包这个模型的几个版本的规格参数。我们发现其上下文窗口大多是256k如果以粗略的token来换算大约可以容纳15到20万个汉字。也即理论上你们的对话在15万汉字之内它都能记住。所以与大语言模型对话的过程中类似使用搜索引擎一样的只言片语并不是好的方案。很多时候你把核心的背景信息提供给它才能获得更好的回复。另外再多说一句上下文 Context并不只是用文字形式表达的对背景的描述信息而是所有会影响模型当前决策的数据总和。由于这篇文章只是介绍基础概念所以此处不展开。5智能体 AI Agent前文提到大语言模型就相当于是人工智能的大脑它可以「思考」。但是单纯的大语言模型只能「思考」没办法动手做。所以当你问豆包一个什么问题的时候它可以告诉你是什么如何一步一步操作但是没办法直接帮你把任务完成。智能体AI Agent就是用来解决这个问题的。我们可以简单把智能体理解成大语言模型大脑和其他计算机技术所形成的程序手和脚的集合。大语言模型负责接受我们的指令思考要如何完成任务可能还需要拆分任务和步骤。然后它通过某种方法去调用电脑服务器、线上上的程序软件去完成这些任务。最终反馈给我们任务执行的结果——就像是你的秘书一样。AI Agent有很多不同的形式比如之前有人发过在理想汽车上用「理想同学」点咖啡这就是AI Agent的基础应用。再比如我们现在可以使用很多软件平台来搭建自己的AI Agent例如字节跳动的「扣子」、腾讯的「WorkBuddy」等。这是目前非常流行的概念和方法你可以下载这些软件自己去尝试一下。与AI Agent相关的还有几个概念。首先是「工具Tool」这个很容易理解我们就简单的把它理解为「给AI用的软件」即可。比如你问一个Agent今天天气如何它听懂了但是它也不知道天气啊它必须使用相应的查询天气的程序去获得天气的信息然后告诉你。这个查询天气的程序就是Tool。然后是「技能Skill」这个概念也容易理解跟我们日常生活中的技能逻辑差不多。比如说我们每个人都有大脑有手有脚对吧所以呢假设我们学习一种叫做「开车」的技能我们就可以用自己的大脑和手脚去操作汽车可以把它开走以便于把我们带到其他地方。再比如我们可以学习一种叫做「炒西红柿鸡蛋」的技能学会后我们就可以用自己的大脑和手借助一些工具Tool例如燃气灶、锅、铲子来制作西红柿鸡蛋以便于解决午餐的问题。对于人工智能来说逻辑是一样的。你如果需要它完成一个相对复杂的任务那么你就需要让它学习完成这个任务的技能Skill。所以从另一个角度来讲Skill就像是完成某些特定任务的「操作手册SOP」但是这个是专门给AI看的手册。它需要的时候拿出来看然后照着做一边做一边思考大语言模型一边动手实践Tool现学现卖就能把任务完成。在工程层面开发人员会把操作手册和相应的工具打包放在一起有时候可能还需要提供一些额外的资源从而形成一个一个的Skill。AI在工作过程中如果觉得需要某个具体的Skill就会自主调用然后帮你完成任务。接下来是SKILL.md。看起来是个文件名对吧没错就是文件名。一家叫做Anthropic首先使用SKILL.md这个文件名来承载Skill的内容。后来形成了标准也即几乎所有的支持Skill能力的AI Agent平台都会用SKILL.md这个名字来命名记载了Skill内容的文件。通过这个文件开发者可以清晰地告知AI这是什么能力命名与元数据什么时候该触发它触发条件与适用场景具体的操作步骤与规则严格的工作流、使用的脚本或 API避坑指南人类积累的边缘情况和错误处理经验另外之前火爆一时的Openclaw龙虾就是AI Agent的一种。6检索增强生成 RAG大语言模型是基于海量语料训练得到的它虽然很聪明但是有两个问题。第一在训练结束的那一刻它内部的「知识」就被冻结了这意味着之后的世界它是不知道的。第二我们的私有知识例如你们公司的报销流程它是不知道的。所谓检索增强生成Retrieval-Augmented Generation缩写RAG大概意思就是先检索基于检索的内容来生成。你可以理解为我们把相应的新知识、私有数据等做成一本书然后交给大语言模型。要求它回答问题之前先翻书找到相应的内容然后自行组织语言用「人话」讲出来。目前很多线上的「智能机器人」都是基于这种技术来实现。6驾驭工程 Harness EngineeringHarness这个词的原意是「马具」也就是套在马身上用于驾驭它的结构的集合例如缰绳、头套等等。所以Harness在人工智能领域中的含义就是如何才能有一整套机制/工具/方法来持续的盯着人工智能模型让它在执行复杂任务的过程中持续在正确的方向和轨道上不要跑偏。有工程师曾给Harness下过一个简单的偷懒的定义叫做Agent Model(LLM) Harness我们知道模型用于思考所以在一个AI Agent体系中除了模型思考之外的所有能够决定它能不能稳定、可靠完成任务的元素统称为Harness。所以站在这个视角来看的话提示词Prompt、上下文Context、工具Tool都是Harness的一部分。除了这些之外在具体的工程层面可能还会有一些元素或者方法会影响任务的最终结果。比如什么内容应该存进Agent的Memory记忆中如何更新有没有相应的「恢复机制」例如一种方式失败了接下来怎么办可以给LLM调用的工具列表用于指导模型行为的各类配置文件如CLAUDE.md等等。到了这里可能就已经要不可避免的涉及很多工程细节了对于本文的读者来说就此打住。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】