什么是大语言模型大语言模型LLMs是AI系统它们通过阅读海量文本进行学习。它们能够写作、回答问题并进行听起来像真人一样的对话。它们被称为“大”large是因为它们拥有数十亿个微小的设置称为参数这些参数在训练过程中被调整过。【批注】“参数”可以理解为模型内部的“旋钮”数量越多模型能捕捉的模式就越复杂。大语言模型如何工作简化版从本质上讲大语言模型是预测机器。你给它们一些文本它们预测接下来应该出现什么。当你输入“法国的首都是……”时AI会预测“巴黎”因为这在关于法国的文本中通常是接下来出现的内容。这个简单的想法在海量数据上重复数十亿次就会产生出人意料地智能的行为。关键概念TokenAI不是逐字母阅读的。它将文本切分成称为“token”的块。一个token可能是一个完整的词比如“hello”也可能是词的一部分比如“ing”。理解token有助于解释为什么AI有时会犯拼写错误或在某些词上遇到困难。token是AI模型处理的最小文本单位。它不总是一个完整的词——它可能是一个词片段、标点符号或空白字符。例如“unbelievable”可能会被拆分为3个token“un”“believ”“able”。平均而言1个token ≈ 4个字符或100个token ≈ 75个单词。API费用和上下文限制都是以token为单位计算的。【批注】这个换算关系对估算API成本和控制输入长度非常实用。上下文窗口Context Window这是AI在一次对话中能“记住”多少内容。可以把它想象成AI的短期记忆。它包含所有内容你的问题和AI的回答。不同模型的上下文窗口各不相同且正在迅速扩大GPT-4o128K tokenGPT-5400K tokenClaude Sonnet 41M tokenGemini 2.51M tokenLlama 41M-10M tokenDeepSeek R1128K token温度Temperature这个参数控制AI的创意性或可预测性。低温度0.0-0.3会给你专注、一致的答案。高温度0.7-1.0会给你更有创意、更出人意料的回应。【批注】温度可以理解为“随机性程度”——温度越高AI越爱“发散思维”。系统提示词System Prompt特殊的指令告诉AI在整个对话中应该如何表现。例如“你是一位友善的老师用简单的方式解释事物。”并非所有AI工具都允许你设置这个但如果有这个功能它会非常强大。AI模型的类型文本模型大语言模型最常见的类型这些模型根据文本输入生成文本回应。它们驱动着聊天机器人、写作助手和代码生成器。示例GPT-4、Claude、Llama、Mistral。多模态模型这些模型能理解的不仅仅是文本。它们可以查看图像、聆听音频和观看视频。示例GPT-4V、Gemini、Claude 3。虽然本书主要聚焦于大语言模型基于文本的AI的提示词编写但清晰、具体的提示原则同样适用于图像生成。掌握这些模型的提示词对于获得出色的结果同样重要。文生图模型文生图模型如DALL-E、Midjourney、Nano Banana和Stable Diffusion根据文本描述创建图像。它们的工作方式与文本模型不同它们如何工作训练模型从数百万个图像-文本对中学习理解哪些词对应哪些视觉概念。扩散过程Diffusion Process从随机噪声开始模型在你的文本提示引导下逐步优化图像。CLIP引导CLIP Guidance一个独立的模型CLIP帮助将你的文字与视觉概念连接起来确保图像与你的描述匹配。图像提示词有所不同与文本提示中你写句子不同图像提示词通常以逗号分隔的描述性短语形式效果更好。【批注】这是一个很实用的技巧差异——图像生成偏好“标签式”描述而非完整句子。文生视频模型文生视频是最新的前沿领域。Sora 2、Runway和Veo等模型根据文本描述生成动态图像。与图像模型一样提示词的质量直接决定了输出的质量——提示工程在这里同样至关重要。它们如何工作时间理解Temporal Understanding除了单张图像这些模型还理解事物如何随时间移动和变化。物理模拟Physics Simulation它们学习基础物理——物体如何下落、水如何流动、人如何行走。帧一致性Frame Consistency它们在众多帧中保持一致的主体和场景。时间扩散Diffusion in Time类似于图像模型但生成的是连贯的序列而非单帧。专用模型针对特定任务进行微调的模型如代码生成Codex、CodeLlama、音乐生成Suno、Udio或领域特定的应用如医疗诊断或法律文档分析。模型的能力与局限探索大语言模型能做什么和不能做什么。点击每项能力查看示例提示词【批注】原文此处应有交互式展开组件本文档为静态版本故仅保留文字说明。有时AI会写出听起来是真的、但实际上并非如此的内容。这被称为“幻觉”hallucination。这不是一个bug这只是预测机制运作的方式。重要的事实一定要反复核实。理解“幻觉”为什么AI会编造内容它试图写出听起来不错的文本而非总是真实的文本。互联网它的学习来源本身也有错误。它实际上无法核实某件事是否真实。如何应对要求提供来源然后核实这些来源是否真实。要求逐步思考这样你可以检查每一步。反复核实重要事实使用Google或可信赖的网站。问“你确定吗”AI可能会承认不确定。AI如何学习三个步骤AI并不是凭空就知道事情。它经历三个学习步骤就像上学一样第一步预训练学习阅读想象一下阅读互联网上的每一本书、每一个网站、每一篇文章。这就是预训练中发生的事。AI阅读数十亿词汇学习模式句子是如何构建的哪些词通常一起出现关于世界的事实不同的写作风格这需要数月时间花费数百万美元。这一步之后AI知道很多但还不太有用。它可能只是继续你写的任何内容即使那不是你想要的。第二步微调学习提供帮助现在AI学习成为一个好助手。训练者向它展示有用的对话示例“当有人问问题时给出清晰的答案。”“当被要求做有害的事情时礼貌地拒绝。”“对自己不知道的事情要诚实。”可以把它想象成教导良好的礼仪。AI学会了区分“仅仅预测文本”和“真正提供帮助”之间的区别。【批注】微调让模型从“文本续写器”转变为“对话助手”。试着用上面的提示词。注意AI是如何拒绝的这就是微调在起作用。第三步RLHF学习人类喜欢什么RLHF代表“基于人类反馈的强化学习”Reinforcement Learning from Human Feedback。用通俗的话说就是人类给AI的答案打分AI学着给出更好的答案。其工作方式如下AI对同一个问题写出两个不同的答案。一个人挑选哪个答案更好。AI学到“好的我应该更像答案A那样写。”这个过程重复数百万次。这就是为什么AI有礼貌且友好承认自己不知道的事情尝试看到问题的不同方面避免有争议的言论这对你的提示词意味着什么既然你理解了AI的工作原理以下是如何运用这些知识1. 清晰且具体AI根据你的文字预测接下来该出现什么。模糊的提示词导致模糊的答案。具体的提示词带来具体的结果。【批注】这是最核心、最常被忽视的原则——“垃圾进垃圾出”的AI版本。2. 提供上下文AI对你一无所知除非你告诉它。每次对话都是重新开始。包含AI所需的背景信息。3. 与AI协作而非对抗记住AI被训练成乐于助人的。用你向乐于助人的朋友求助的方式来提出请求。4. 重要事项务必反复核实AI即使错了也听起来很自信。对于任何重要的事情请自行核实信息。5. 把重要内容放在前面如果你的提示词很长把最重要的指令放在开头。AI对先出现的内容关注度更高。【批注】这涉及模型的“注意力机制”——开头和结尾的内容往往被赋予更高权重。选择合适的AI不同的AI模型擅长不同的事情使用场景推荐模型快速问答速度更快的模型如GPT-4o或Claude 3.5 Sonnet难题更智能的模型如GPT-5.2或Claude 4.5 Opus写代码代码专用模型或最智能的通用模型长文档拥有大上下文窗口的模型Claude、Gemini时事支持联网搜索的模型总结AI语言模型是在文本上训练出来的预测机器。它们在很多方面都表现出色但也有真正的局限。使用AI的最佳方式是理解它的工作原理并编写能发挥其优势的提示词。在下一章中我们将学习什么造就了一个好的提示词以及如何编写能获得出色结果的提示词。【总批注】本章定位这是全书的第一章技术内容作者选择从“理解模型工作原理”入手而非直接教“怎么写提示词”。这种“先原理后实践”的结构对初学者非常友好——知道“为什么”之后“怎么做”会变得自然而然。核心概念掌握本章涉及的Token、上下文窗口、温度是提示工程中最常打交道的三个技术参数。建议你在后续实践中反复回顾这几个概念它们会频繁出现在模型文档和API调用中。“幻觉”的现实意义作者明确指出幻觉“不是bug是预测机制运作的方式”——这意味着你无法完全消除它只能通过提示词设计如要求提供来源、逐步推理来降低风险。这是提示工程中一个持续的挑战。五条实用原则第5条“把重要内容放在前面”是一个容易被忽视的细节。由于Transformer架构的注意力机制对开头和结尾的 token 赋予更高权重把关键指令放在开头确实能提高模型遵循的概率。学习建议读完后不妨打开一个AI模型针对“关键概念”部分提到的每个参数温度、上下文窗口等做一次实际测试——比如用不同温度问同一个问题观察输出差异。这种动手验证会帮你把知识转化为直觉。
什么是大语言模型大语言模型LLMs是AI系统它们通过阅读海量文本进行学习。它们能够写作、回答问题并进行听起来像真人一样的对话。它们被称为“大”large是因为它们拥有数十亿个微小的设置称为参数这些参数在训练过程中被调整过。【批注】“参数”可以理解为模型内部的“旋钮”数量越多模型能捕捉的模式就越复杂。大语言模型如何工作简化版从本质上讲大语言模型是预测机器。你给它们一些文本它们预测接下来应该出现什么。当你输入“法国的首都是……”时AI会预测“巴黎”因为这在关于法国的文本中通常是接下来出现的内容。这个简单的想法在海量数据上重复数十亿次就会产生出人意料地智能的行为。关键概念TokenAI不是逐字母阅读的。它将文本切分成称为“token”的块。一个token可能是一个完整的词比如“hello”也可能是词的一部分比如“ing”。理解token有助于解释为什么AI有时会犯拼写错误或在某些词上遇到困难。token是AI模型处理的最小文本单位。它不总是一个完整的词——它可能是一个词片段、标点符号或空白字符。例如“unbelievable”可能会被拆分为3个token“un”“believ”“able”。平均而言1个token ≈ 4个字符或100个token ≈ 75个单词。API费用和上下文限制都是以token为单位计算的。【批注】这个换算关系对估算API成本和控制输入长度非常实用。上下文窗口Context Window这是AI在一次对话中能“记住”多少内容。可以把它想象成AI的短期记忆。它包含所有内容你的问题和AI的回答。不同模型的上下文窗口各不相同且正在迅速扩大GPT-4o128K tokenGPT-5400K tokenClaude Sonnet 41M tokenGemini 2.51M tokenLlama 41M-10M tokenDeepSeek R1128K token温度Temperature这个参数控制AI的创意性或可预测性。低温度0.0-0.3会给你专注、一致的答案。高温度0.7-1.0会给你更有创意、更出人意料的回应。【批注】温度可以理解为“随机性程度”——温度越高AI越爱“发散思维”。系统提示词System Prompt特殊的指令告诉AI在整个对话中应该如何表现。例如“你是一位友善的老师用简单的方式解释事物。”并非所有AI工具都允许你设置这个但如果有这个功能它会非常强大。AI模型的类型文本模型大语言模型最常见的类型这些模型根据文本输入生成文本回应。它们驱动着聊天机器人、写作助手和代码生成器。示例GPT-4、Claude、Llama、Mistral。多模态模型这些模型能理解的不仅仅是文本。它们可以查看图像、聆听音频和观看视频。示例GPT-4V、Gemini、Claude 3。虽然本书主要聚焦于大语言模型基于文本的AI的提示词编写但清晰、具体的提示原则同样适用于图像生成。掌握这些模型的提示词对于获得出色的结果同样重要。文生图模型文生图模型如DALL-E、Midjourney、Nano Banana和Stable Diffusion根据文本描述创建图像。它们的工作方式与文本模型不同它们如何工作训练模型从数百万个图像-文本对中学习理解哪些词对应哪些视觉概念。扩散过程Diffusion Process从随机噪声开始模型在你的文本提示引导下逐步优化图像。CLIP引导CLIP Guidance一个独立的模型CLIP帮助将你的文字与视觉概念连接起来确保图像与你的描述匹配。图像提示词有所不同与文本提示中你写句子不同图像提示词通常以逗号分隔的描述性短语形式效果更好。【批注】这是一个很实用的技巧差异——图像生成偏好“标签式”描述而非完整句子。文生视频模型文生视频是最新的前沿领域。Sora 2、Runway和Veo等模型根据文本描述生成动态图像。与图像模型一样提示词的质量直接决定了输出的质量——提示工程在这里同样至关重要。它们如何工作时间理解Temporal Understanding除了单张图像这些模型还理解事物如何随时间移动和变化。物理模拟Physics Simulation它们学习基础物理——物体如何下落、水如何流动、人如何行走。帧一致性Frame Consistency它们在众多帧中保持一致的主体和场景。时间扩散Diffusion in Time类似于图像模型但生成的是连贯的序列而非单帧。专用模型针对特定任务进行微调的模型如代码生成Codex、CodeLlama、音乐生成Suno、Udio或领域特定的应用如医疗诊断或法律文档分析。模型的能力与局限探索大语言模型能做什么和不能做什么。点击每项能力查看示例提示词【批注】原文此处应有交互式展开组件本文档为静态版本故仅保留文字说明。有时AI会写出听起来是真的、但实际上并非如此的内容。这被称为“幻觉”hallucination。这不是一个bug这只是预测机制运作的方式。重要的事实一定要反复核实。理解“幻觉”为什么AI会编造内容它试图写出听起来不错的文本而非总是真实的文本。互联网它的学习来源本身也有错误。它实际上无法核实某件事是否真实。如何应对要求提供来源然后核实这些来源是否真实。要求逐步思考这样你可以检查每一步。反复核实重要事实使用Google或可信赖的网站。问“你确定吗”AI可能会承认不确定。AI如何学习三个步骤AI并不是凭空就知道事情。它经历三个学习步骤就像上学一样第一步预训练学习阅读想象一下阅读互联网上的每一本书、每一个网站、每一篇文章。这就是预训练中发生的事。AI阅读数十亿词汇学习模式句子是如何构建的哪些词通常一起出现关于世界的事实不同的写作风格这需要数月时间花费数百万美元。这一步之后AI知道很多但还不太有用。它可能只是继续你写的任何内容即使那不是你想要的。第二步微调学习提供帮助现在AI学习成为一个好助手。训练者向它展示有用的对话示例“当有人问问题时给出清晰的答案。”“当被要求做有害的事情时礼貌地拒绝。”“对自己不知道的事情要诚实。”可以把它想象成教导良好的礼仪。AI学会了区分“仅仅预测文本”和“真正提供帮助”之间的区别。【批注】微调让模型从“文本续写器”转变为“对话助手”。试着用上面的提示词。注意AI是如何拒绝的这就是微调在起作用。第三步RLHF学习人类喜欢什么RLHF代表“基于人类反馈的强化学习”Reinforcement Learning from Human Feedback。用通俗的话说就是人类给AI的答案打分AI学着给出更好的答案。其工作方式如下AI对同一个问题写出两个不同的答案。一个人挑选哪个答案更好。AI学到“好的我应该更像答案A那样写。”这个过程重复数百万次。这就是为什么AI有礼貌且友好承认自己不知道的事情尝试看到问题的不同方面避免有争议的言论这对你的提示词意味着什么既然你理解了AI的工作原理以下是如何运用这些知识1. 清晰且具体AI根据你的文字预测接下来该出现什么。模糊的提示词导致模糊的答案。具体的提示词带来具体的结果。【批注】这是最核心、最常被忽视的原则——“垃圾进垃圾出”的AI版本。2. 提供上下文AI对你一无所知除非你告诉它。每次对话都是重新开始。包含AI所需的背景信息。3. 与AI协作而非对抗记住AI被训练成乐于助人的。用你向乐于助人的朋友求助的方式来提出请求。4. 重要事项务必反复核实AI即使错了也听起来很自信。对于任何重要的事情请自行核实信息。5. 把重要内容放在前面如果你的提示词很长把最重要的指令放在开头。AI对先出现的内容关注度更高。【批注】这涉及模型的“注意力机制”——开头和结尾的内容往往被赋予更高权重。选择合适的AI不同的AI模型擅长不同的事情使用场景推荐模型快速问答速度更快的模型如GPT-4o或Claude 3.5 Sonnet难题更智能的模型如GPT-5.2或Claude 4.5 Opus写代码代码专用模型或最智能的通用模型长文档拥有大上下文窗口的模型Claude、Gemini时事支持联网搜索的模型总结AI语言模型是在文本上训练出来的预测机器。它们在很多方面都表现出色但也有真正的局限。使用AI的最佳方式是理解它的工作原理并编写能发挥其优势的提示词。在下一章中我们将学习什么造就了一个好的提示词以及如何编写能获得出色结果的提示词。【总批注】本章定位这是全书的第一章技术内容作者选择从“理解模型工作原理”入手而非直接教“怎么写提示词”。这种“先原理后实践”的结构对初学者非常友好——知道“为什么”之后“怎么做”会变得自然而然。核心概念掌握本章涉及的Token、上下文窗口、温度是提示工程中最常打交道的三个技术参数。建议你在后续实践中反复回顾这几个概念它们会频繁出现在模型文档和API调用中。“幻觉”的现实意义作者明确指出幻觉“不是bug是预测机制运作的方式”——这意味着你无法完全消除它只能通过提示词设计如要求提供来源、逐步推理来降低风险。这是提示工程中一个持续的挑战。五条实用原则第5条“把重要内容放在前面”是一个容易被忽视的细节。由于Transformer架构的注意力机制对开头和结尾的 token 赋予更高权重把关键指令放在开头确实能提高模型遵循的概率。学习建议读完后不妨打开一个AI模型针对“关键概念”部分提到的每个参数温度、上下文窗口等做一次实际测试——比如用不同温度问同一个问题观察输出差异。这种动手验证会帮你把知识转化为直觉。
