简介这份资源是一套基于PHP与ThinkPHP框架的运营级在线客服系统源码重点解决客服系统接入AI知识库的问题适合有一定PHP基础、希望搭建智能客服平台的开发者与运维人员。压缩包共2010个文件约68.72MB涵盖131个php核心逻辑文件、613个js与258个css前端资源、368个html模板页面以及sql建表脚本、sh部署脚本和md说明文档结构完整便于二次开发。资源附带安装教程明确要求安装fileinfo与redis插件并在php.ini中禁用pcntl_signal、pcntl_fork等进程控制函数以保证运行环境的稳定与安全。借助ThinkPHP的MVC能力与AI知识库的自然语言处理匹配系统可辅助客服快速定位答案、提升响应效率。目前已有137人学习下载适合需要完整客服系统源码与部署排错思路的读者参考。1. PHP在线客服接入AI知识库从关键词匹配到语义检索的落地路径很多 PHP 在线客服系统上线半年后都会遇到同一个尴尬知识库文档从 20 篇涨到 300 篇命中率反而从 70% 掉到 40% 以下。用户问「订单退款要几天到账」老系统靠关键词匹配命中的却是「退款政策总览」这种大而全的条目答非所问。这不是客服系统本身的问题而是检索层还停留在字符串匹配阶段。把 AI 知识库接进 PHP 在线客服本质上是给客服系统换一套「语义检索 生成回答」的引擎用户提问先被向量化再去知识库里找语义最近的片段最后交给大模型组织成人话。适合谁做手里有 PHP 客服系统、知识库文档超过 50 篇、希望不重写前端就能提升首答准确率的团队。下面按「先跑通最小链路再调参数最后避坑」的顺序讲透。2. 为什么 PHP 客服系统需要语义检索而不是关键词匹配2.1 关键词匹配在真实对话里的三个失效场景先看一个真实客服日志里的例子。用户输入「我买的东西不想要了怎么退钱」关键词方案会提取「退钱」去匹配知识库但知识库里写的是「退款流程」「售后申请」「原路退回」没有一个词和「退钱」字面重合。结果就是转人工或者返回一条无关的 FAQ。第一个失效场景是同义表达。中文里「退钱 / 退款 / 返款 / 原路退回」是一回事但字符串匹配只认字面。第二个失效场景是长句里的意图漂移。用户说「昨天下的单今天还没发货能取消吗」关键词会同时命中「发货」和「取消」系统不知道该走哪个分支。第三个失效场景是多轮上下文丢失。用户先问「会员怎么开」再问「多少钱」关键词方案把「多少钱」当成独立问题完全不知道在问会员价格。这三个场景的共同点是匹配发生在字面层而用户意图在语义层。语义检索要解决的就是把「退钱」和「退款流程」映射到同一个向量空间里让距离足够近。2.2 向量检索 大模型生成的两段式架构常见做法是把整个链路拆成两段。第一段是检索把知识库每条文档切片、向量化、存进向量库用户提问也向量化算余弦相似度取 Top-K 片段。第二段是生成把 Top-K 片段拼进提示词交给大模型生成最终回答。为什么不让大模型直接读全部知识库因为成本和延迟都不可控。300 篇文档全塞进上下文一次请求可能几万 token响应慢且贵。两段式的好处是检索层负责「找得准」生成层负责「说得好」各司其职。PHP 在这个架构里的角色是编排层接收用户消息、调用向量化接口、查询向量库、拼提示词、调生成接口、把结果写回客服会话。PHP 本身不擅长做向量计算但做 HTTP 编排和会话管理是它的强项。所以选型上向量库和大模型都走外部服务PHP 只做胶水。2.3 知识库切片粒度按段落还是按问答对切片粒度直接决定检索质量。按整篇文档切一个片段可能 2000 字向量化后语义被稀释检索时区分度低。按单句切片段太短缺少上下文生成时模型拼不出完整回答。我一般会按「语义段落」切每段 200 到 500 字同时保留所属文档标题作为元数据。如果知识库本身是问答对格式那就按问答对切一问一答作为一个片段效果最好。切片时还要注意重叠相邻片段保留 50 字左右重叠避免答案正好被切在边界上。提示切片长度没有万能值。FAQ 类知识库用 200 字左右操作手册类用 400 到 500 字。上线前用 20 条真实用户问题测一遍召回率比拍脑袋定参数靠谱。3. 用 PHP 跑通知识库向量化与检索的最小链路3.1 知识库文档切片与向量化的 PHP 脚本先写一个把 Markdown 知识库切片并向量化的脚本。这里假设向量化走外部接口PHP 只负责读文件、切片、发请求、存结果。?php // slice_and_embed.php // 读取知识库目录下的 md 文件按段落切片并调用向量化接口 function splitByParagraph(string $content, int $maxLen 400, int $overlap 50): array { // 先按空行拆成自然段 $paragraphs preg_split(/\n\s*\n/, trim($content)); $chunks []; $buffer ; foreach ($paragraphs as $p) { $p trim($p); if ($p ) continue; // 如果当前缓冲加上新段落没超长就合并 if (mb_strlen($buffer . \n . $p) $maxLen) { $buffer $buffer ? $p : $buffer . \n . $p; } else { // 超长就把缓冲存下来新段落作为下一块起点 if ($buffer ! ) { $chunks[] $buffer; // 保留尾部 overlap 字作为重叠 $buffer mb_substr($buffer, -$overlap) . \n . $p; } else { $buffer $p; } } } if ($buffer ! ) $chunks[] $buffer; return $chunks; } function embedText(string $text, string $apiUrl, string $apiKey): array { $payload json_encode([input $text, model embedding-model]); $ch curl_init($apiUrl); curl_setopt_array($ch, [ CURLOPT_POST true, CURLOPT_POSTFIELDS $payload, CURLOPT_HTTPHEADER [ Content-Type: application/json, Authorization: Bearer . $apiKey, ], CURLOPT_RETURNTRANSFER true, CURLOPT_TIMEOUT 15, ]); $resp curl_exec($ch); if ($resp false) { throw new RuntimeException(embed request failed: . curl_error($ch)); } curl_close($ch); $data json_decode($resp, true); return $data[data][0][embedding] ?? []; } // 主流程 $kbDir __DIR__ . /knowledge; $apiUrl https://your-embedding-endpoint/v1/embeddings; $apiKey getenv(EMBED_API_KEY); $output []; foreach (glob($kbDir . /*.md) as $file) { $title basename($file, .md); $content file_get_contents($file); $chunks splitByParagraph($content); foreach ($chunks as $i $chunk) { $vector embedText($chunk, $apiUrl, $apiKey); $output[] [ doc $title, chunk_index $i, text $chunk, vector $vector, ]; // 简单限速避免打爆接口 usleep(200000); } } file_put_contents(__DIR__ . /kb_vectors.json, json_encode($output, JSON_UNESCAPED_UNICODE)); echo done, chunks: . count($output) . PHP_EOL;逻辑说明splitByParagraph先按空行拆自然段再按maxLen合并超长时保留尾部overlap字做重叠避免答案被切在边界。embedText是标准的 HTTP 调用注意CURLOPT_TIMEOUT设 15 秒向量化接口偶尔会慢。主流程遍历目录下所有 md 文件逐块向量化后写入kb_vectors.json。参数说明maxLen控制切片长度FAQ 类知识库建议 200手册类 400 到 500。overlap建议是maxLen的 10% 到 15%。usleep(200000)是 200 毫秒限速如果接口有 QPS 限制就调大。3.2 用户提问的向量化与余弦相似度检索向量存好后检索就是算相似度。PHP 里用纯数组算余弦相似度几百条片段完全够用。?php // search.php // 加载向量库对用户提问做检索 function cosineSimilarity(array $a, array $b): float { $dot 0.0; $normA 0.0; $normB 0.0; $len count($a); for ($i 0; $i $len; $i) { $dot $a[$i] * $b[$i]; $normA $a[$i] * $a[$i]; $normB $b[$i] * $b[$i]; } if ($normA 0 || $normB 0) return 0.0; return $dot / (sqrt($normA) * sqrt($normB)); } function searchKnowledge(string $question, array $kb, string $apiUrl, string $apiKey, int $topK 3): array { $qVector embedText($question, $apiUrl, $apiKey); if (empty($qVector)) return []; $scored []; foreach ($kb as $item) { $score cosineSimilarity($qVector, $item[vector]); $scored[] [score $score, item $item]; } // 按分数降序 usort($scored, fn($x, $y) $y[score] $x[score]); return array_slice($scored, 0, $topK); } // 使用示例 $kb json_decode(file_get_contents(__DIR__ . /kb_vectors.json), true); $question 我买的东西不想要了怎么退钱; $results searchKnowledge($question, $kb, $apiUrl, $apiKey, 3); foreach ($results as $r) { echo sprintf([%.4f] %s\n%s\n\n, $r[score], $r[item][doc], mb_substr($r[item][text], 0, 80)); }逻辑说明cosineSimilarity是标准实现注意先判零向量避免除零。searchKnowledge把提问向量化和打分分开方便单独测试。usort用飞船运算符降序排列取 Top-K。参数说明topK一般取 3 到 5。取太少可能漏掉正确片段取太多会把无关内容塞进提示词反而干扰生成。如果知识库超过 5000 条片段纯 PHP 遍历会变慢这时候要换成向量数据库常见做法是用外部向量库的 PHP SDK 或直接走 HTTP 接口。3.3 把检索结果拼进提示词并调用生成接口检索到片段后拼提示词是关键一步。提示词要明确告诉模型「只根据以下资料回答资料里没有就说不知道」。?php // answer.php // 把检索结果拼成提示词调用生成接口 function buildPrompt(string $question, array $results): string { $context ; foreach ($results as $i $r) { $context . 【资料 . ($i 1) . 】 . $r[item][text] . \n\n; } return 你是一个客服助手。请只根据下面的资料回答用户问题资料里没有的信息不要编造直接说需要转人工。\n\n . $context . 用户问题 . $question . \n . 回答; } function generateAnswer(string $prompt, string $apiUrl, string $apiKey): string { $payload json_encode([ model chat-model, messages [[role user, content $prompt]], temperature 0.3, ]); $ch curl_init($apiUrl); curl_setopt_array($ch, [ CURLOPT_POST true, CURLOPT_POSTFIELDS $payload, CURLOPT_HTTPHEADER [ Content-Type: application/json, Authorization: Bearer . $apiKey, ], CURLOPT_RETURNTRANSFER true, CURLOPT_TIMEOUT 30, ]); $resp curl_exec($ch); curl_close($ch); $data json_decode($resp, true); return $data[choices][0][message][content] ?? 抱歉暂时无法回答。; } $prompt buildPrompt($question, $results); echo generateAnswer($prompt, $genUrl, $genKey);逻辑说明buildPrompt把每个片段编号后拼进上下文编号是为了让模型在回答时能引用来源。提示词里明确「资料里没有就说转人工」这是防止幻觉的关键。generateAnswer里temperature设 0.3客服场景要稳定不要发挥。参数说明temperature建议 0.2 到 0.4太高会编造太低会死板。CURLOPT_TIMEOUT设 30 秒生成接口比向量化慢。如果客服系统要求首答 3 秒内要考虑流式输出或缓存高频问题。4. 接入在线客服系统时的避坑与排查4.1 检索分数很高但回答跑偏检查切片是否混入无关内容现象用户问退款检索返回的片段分数 0.85但生成回答里混进了「会员积分规则」。原因通常是切片时把两个不相关段落合并进了一个片段向量被平均后语义模糊反而和多个话题都「有点像」。解决方法是把maxLen调小或者切片时按标题层级强制断开不让不同小节的内容混在一块。4.2 中文提问召回率低确认向量模型是否支持中文现象英文知识库检索正常中文提问总是返回无关片段。原因是用了只针对英文训练的向量模型中文被拆成单字后语义丢失。解决方法是换成明确支持中文的向量模型上线前用 20 条中文问题测召回率。这个坑很隐蔽因为接口不报错只是效果差。4.3 客服会话超时向量化和生成接口的耗时叠加现象用户发消息后 8 秒才收到回复客服系统提示超时。原因是向量化 1 秒 检索 0.5 秒 生成 5 秒串行叠加。解决方法是把向量化结果缓存相同问题直接命中缓存生成接口改流式输出先返回前几个字让用户看到响应。另外CURLOPT_TIMEOUT不要设太大超时就降级到关键词匹配兜底。4.4 知识库更新后检索失效向量库没有同步重建现象运营在后台改了知识库文档但客服回答还是旧内容。原因是向量库是离线生成的文档改了但kb_vectors.json没重新跑。解决方法是在知识库保存时触发重建任务或者加一个定时任务每小时增量更新。增量更新时要注意删除旧片段否则同一篇文档会有新旧两份向量。4.5 生成回答带出敏感信息提示词没有做边界约束现象用户问「你们公司内部怎么处理投诉」模型把知识库里一段内部流程原样答出来了。原因是提示词只说了「根据资料回答」没说哪些资料不能外泄。解决方法是在知识库切片时给敏感文档打标签检索阶段直接过滤掉提示词里加一句「如果资料涉及内部流程只回答对外口径」。这个坑一旦踩了就是事故上线前必须测。5. 用缓存和降级把首答压进 2 秒的实战技巧前面跑通了链路但真实客服场景对延迟很敏感。我自己的习惯是加两层缓存加一层降级把首答压到 2 秒内。第一层是问题缓存。用户问题向量化后先在一个 Redis 里查有没有相同或高度相似的问题余弦相似度大于 0.95有就直接返回上次的答案。客服场景里重复问题占比很高「怎么退款」「发货时间」这类问题一天可能问几十遍。缓存命中率做到 30% 以上平均延迟直接砍掉一大截。?php // cache.php // 用 Redis 缓存高频问题的答案 function getCachedAnswer(string $question, array $kb, $redis, string $apiUrl, string $apiKey): ?string { $qVector embedText($question, $apiUrl, $apiKey); // 从 Redis 里取所有缓存问题的向量做比对 $cachedKeys $redis-keys(qa:vector:*); foreach ($cachedKeys as $key) { $cached json_decode($redis-get($key), true); $sim cosineSimilarity($qVector, $cached[vector]); if ($sim 0.95) { return $cached[answer]; } } return null; } function saveAnswer(string $question, string $answer, array $qVector, $redis): void { $key qa:vector: . md5($question); $redis-setex($key, 86400, json_encode([ question $question, vector $qVector, answer $answer, ])); }逻辑说明getCachedAnswer把缓存里的向量逐个和当前提问比对相似度超过 0.95 就认为同一个问题。saveAnswer用setex设 24 小时过期避免缓存无限增长。注意keys命令在缓存量大时会影响 Redis 性能生产环境建议用向量库自带的相似查询或者维护一个独立的缓存索引。参数说明相似度阈值 0.95 是经验值调低到 0.9 会命中更多但可能答非所问调到 0.98 命中率下降。缓存过期时间 86400 秒是一天高频问题可以设更长。第二层是检索结果缓存。同一个问题即使没命中问题缓存检索到的 Top-K 片段也可以缓存省掉向量化和检索的时间。降级策略是最后一道保险。如果向量化接口或生成接口超时直接走原来的关键词匹配返回一条预设的兜底话术同时把这次失败记进日志。客服系统最怕的是用户发了消息没反应宁可返回一条不完美的回答也不能让会话卡住。验证方法很简单拿 50 条真实用户问题跑一遍记录每条的首答延迟和准确率。准确率靠人工判断延迟靠日志。我一般会盯两个指标P95 延迟95% 的请求在多少秒内完成和转人工率。P95 压到 2 秒以内、转人工率下降 20% 以上这个方案就值得继续投入。最后说个血泪经验上线前一定要用真实客服日志测不要用自己编的问题测。自己编的问题往往太规范真实用户会打错字、会夹带情绪、会一句话问三件事。我踩过一次坑测试集准确率 90%上线后真实日志准确率只有 55%就是因为测试问题太干净。后来改成从历史日志里随机抽 100 条准确率才反映真实水平。希望帮到你。本文还有配套的精品资源点击获取
简介这份资源是一套基于PHP与ThinkPHP框架的运营级在线客服系统源码重点解决客服系统接入AI知识库的问题适合有一定PHP基础、希望搭建智能客服平台的开发者与运维人员。压缩包共2010个文件约68.72MB涵盖131个php核心逻辑文件、613个js与258个css前端资源、368个html模板页面以及sql建表脚本、sh部署脚本和md说明文档结构完整便于二次开发。资源附带安装教程明确要求安装fileinfo与redis插件并在php.ini中禁用pcntl_signal、pcntl_fork等进程控制函数以保证运行环境的稳定与安全。借助ThinkPHP的MVC能力与AI知识库的自然语言处理匹配系统可辅助客服快速定位答案、提升响应效率。目前已有137人学习下载适合需要完整客服系统源码与部署排错思路的读者参考。1. PHP在线客服接入AI知识库从关键词匹配到语义检索的落地路径很多 PHP 在线客服系统上线半年后都会遇到同一个尴尬知识库文档从 20 篇涨到 300 篇命中率反而从 70% 掉到 40% 以下。用户问「订单退款要几天到账」老系统靠关键词匹配命中的却是「退款政策总览」这种大而全的条目答非所问。这不是客服系统本身的问题而是检索层还停留在字符串匹配阶段。把 AI 知识库接进 PHP 在线客服本质上是给客服系统换一套「语义检索 生成回答」的引擎用户提问先被向量化再去知识库里找语义最近的片段最后交给大模型组织成人话。适合谁做手里有 PHP 客服系统、知识库文档超过 50 篇、希望不重写前端就能提升首答准确率的团队。下面按「先跑通最小链路再调参数最后避坑」的顺序讲透。2. 为什么 PHP 客服系统需要语义检索而不是关键词匹配2.1 关键词匹配在真实对话里的三个失效场景先看一个真实客服日志里的例子。用户输入「我买的东西不想要了怎么退钱」关键词方案会提取「退钱」去匹配知识库但知识库里写的是「退款流程」「售后申请」「原路退回」没有一个词和「退钱」字面重合。结果就是转人工或者返回一条无关的 FAQ。第一个失效场景是同义表达。中文里「退钱 / 退款 / 返款 / 原路退回」是一回事但字符串匹配只认字面。第二个失效场景是长句里的意图漂移。用户说「昨天下的单今天还没发货能取消吗」关键词会同时命中「发货」和「取消」系统不知道该走哪个分支。第三个失效场景是多轮上下文丢失。用户先问「会员怎么开」再问「多少钱」关键词方案把「多少钱」当成独立问题完全不知道在问会员价格。这三个场景的共同点是匹配发生在字面层而用户意图在语义层。语义检索要解决的就是把「退钱」和「退款流程」映射到同一个向量空间里让距离足够近。2.2 向量检索 大模型生成的两段式架构常见做法是把整个链路拆成两段。第一段是检索把知识库每条文档切片、向量化、存进向量库用户提问也向量化算余弦相似度取 Top-K 片段。第二段是生成把 Top-K 片段拼进提示词交给大模型生成最终回答。为什么不让大模型直接读全部知识库因为成本和延迟都不可控。300 篇文档全塞进上下文一次请求可能几万 token响应慢且贵。两段式的好处是检索层负责「找得准」生成层负责「说得好」各司其职。PHP 在这个架构里的角色是编排层接收用户消息、调用向量化接口、查询向量库、拼提示词、调生成接口、把结果写回客服会话。PHP 本身不擅长做向量计算但做 HTTP 编排和会话管理是它的强项。所以选型上向量库和大模型都走外部服务PHP 只做胶水。2.3 知识库切片粒度按段落还是按问答对切片粒度直接决定检索质量。按整篇文档切一个片段可能 2000 字向量化后语义被稀释检索时区分度低。按单句切片段太短缺少上下文生成时模型拼不出完整回答。我一般会按「语义段落」切每段 200 到 500 字同时保留所属文档标题作为元数据。如果知识库本身是问答对格式那就按问答对切一问一答作为一个片段效果最好。切片时还要注意重叠相邻片段保留 50 字左右重叠避免答案正好被切在边界上。提示切片长度没有万能值。FAQ 类知识库用 200 字左右操作手册类用 400 到 500 字。上线前用 20 条真实用户问题测一遍召回率比拍脑袋定参数靠谱。3. 用 PHP 跑通知识库向量化与检索的最小链路3.1 知识库文档切片与向量化的 PHP 脚本先写一个把 Markdown 知识库切片并向量化的脚本。这里假设向量化走外部接口PHP 只负责读文件、切片、发请求、存结果。?php // slice_and_embed.php // 读取知识库目录下的 md 文件按段落切片并调用向量化接口 function splitByParagraph(string $content, int $maxLen 400, int $overlap 50): array { // 先按空行拆成自然段 $paragraphs preg_split(/\n\s*\n/, trim($content)); $chunks []; $buffer ; foreach ($paragraphs as $p) { $p trim($p); if ($p ) continue; // 如果当前缓冲加上新段落没超长就合并 if (mb_strlen($buffer . \n . $p) $maxLen) { $buffer $buffer ? $p : $buffer . \n . $p; } else { // 超长就把缓冲存下来新段落作为下一块起点 if ($buffer ! ) { $chunks[] $buffer; // 保留尾部 overlap 字作为重叠 $buffer mb_substr($buffer, -$overlap) . \n . $p; } else { $buffer $p; } } } if ($buffer ! ) $chunks[] $buffer; return $chunks; } function embedText(string $text, string $apiUrl, string $apiKey): array { $payload json_encode([input $text, model embedding-model]); $ch curl_init($apiUrl); curl_setopt_array($ch, [ CURLOPT_POST true, CURLOPT_POSTFIELDS $payload, CURLOPT_HTTPHEADER [ Content-Type: application/json, Authorization: Bearer . $apiKey, ], CURLOPT_RETURNTRANSFER true, CURLOPT_TIMEOUT 15, ]); $resp curl_exec($ch); if ($resp false) { throw new RuntimeException(embed request failed: . curl_error($ch)); } curl_close($ch); $data json_decode($resp, true); return $data[data][0][embedding] ?? []; } // 主流程 $kbDir __DIR__ . /knowledge; $apiUrl https://your-embedding-endpoint/v1/embeddings; $apiKey getenv(EMBED_API_KEY); $output []; foreach (glob($kbDir . /*.md) as $file) { $title basename($file, .md); $content file_get_contents($file); $chunks splitByParagraph($content); foreach ($chunks as $i $chunk) { $vector embedText($chunk, $apiUrl, $apiKey); $output[] [ doc $title, chunk_index $i, text $chunk, vector $vector, ]; // 简单限速避免打爆接口 usleep(200000); } } file_put_contents(__DIR__ . /kb_vectors.json, json_encode($output, JSON_UNESCAPED_UNICODE)); echo done, chunks: . count($output) . PHP_EOL;逻辑说明splitByParagraph先按空行拆自然段再按maxLen合并超长时保留尾部overlap字做重叠避免答案被切在边界。embedText是标准的 HTTP 调用注意CURLOPT_TIMEOUT设 15 秒向量化接口偶尔会慢。主流程遍历目录下所有 md 文件逐块向量化后写入kb_vectors.json。参数说明maxLen控制切片长度FAQ 类知识库建议 200手册类 400 到 500。overlap建议是maxLen的 10% 到 15%。usleep(200000)是 200 毫秒限速如果接口有 QPS 限制就调大。3.2 用户提问的向量化与余弦相似度检索向量存好后检索就是算相似度。PHP 里用纯数组算余弦相似度几百条片段完全够用。?php // search.php // 加载向量库对用户提问做检索 function cosineSimilarity(array $a, array $b): float { $dot 0.0; $normA 0.0; $normB 0.0; $len count($a); for ($i 0; $i $len; $i) { $dot $a[$i] * $b[$i]; $normA $a[$i] * $a[$i]; $normB $b[$i] * $b[$i]; } if ($normA 0 || $normB 0) return 0.0; return $dot / (sqrt($normA) * sqrt($normB)); } function searchKnowledge(string $question, array $kb, string $apiUrl, string $apiKey, int $topK 3): array { $qVector embedText($question, $apiUrl, $apiKey); if (empty($qVector)) return []; $scored []; foreach ($kb as $item) { $score cosineSimilarity($qVector, $item[vector]); $scored[] [score $score, item $item]; } // 按分数降序 usort($scored, fn($x, $y) $y[score] $x[score]); return array_slice($scored, 0, $topK); } // 使用示例 $kb json_decode(file_get_contents(__DIR__ . /kb_vectors.json), true); $question 我买的东西不想要了怎么退钱; $results searchKnowledge($question, $kb, $apiUrl, $apiKey, 3); foreach ($results as $r) { echo sprintf([%.4f] %s\n%s\n\n, $r[score], $r[item][doc], mb_substr($r[item][text], 0, 80)); }逻辑说明cosineSimilarity是标准实现注意先判零向量避免除零。searchKnowledge把提问向量化和打分分开方便单独测试。usort用飞船运算符降序排列取 Top-K。参数说明topK一般取 3 到 5。取太少可能漏掉正确片段取太多会把无关内容塞进提示词反而干扰生成。如果知识库超过 5000 条片段纯 PHP 遍历会变慢这时候要换成向量数据库常见做法是用外部向量库的 PHP SDK 或直接走 HTTP 接口。3.3 把检索结果拼进提示词并调用生成接口检索到片段后拼提示词是关键一步。提示词要明确告诉模型「只根据以下资料回答资料里没有就说不知道」。?php // answer.php // 把检索结果拼成提示词调用生成接口 function buildPrompt(string $question, array $results): string { $context ; foreach ($results as $i $r) { $context . 【资料 . ($i 1) . 】 . $r[item][text] . \n\n; } return 你是一个客服助手。请只根据下面的资料回答用户问题资料里没有的信息不要编造直接说需要转人工。\n\n . $context . 用户问题 . $question . \n . 回答; } function generateAnswer(string $prompt, string $apiUrl, string $apiKey): string { $payload json_encode([ model chat-model, messages [[role user, content $prompt]], temperature 0.3, ]); $ch curl_init($apiUrl); curl_setopt_array($ch, [ CURLOPT_POST true, CURLOPT_POSTFIELDS $payload, CURLOPT_HTTPHEADER [ Content-Type: application/json, Authorization: Bearer . $apiKey, ], CURLOPT_RETURNTRANSFER true, CURLOPT_TIMEOUT 30, ]); $resp curl_exec($ch); curl_close($ch); $data json_decode($resp, true); return $data[choices][0][message][content] ?? 抱歉暂时无法回答。; } $prompt buildPrompt($question, $results); echo generateAnswer($prompt, $genUrl, $genKey);逻辑说明buildPrompt把每个片段编号后拼进上下文编号是为了让模型在回答时能引用来源。提示词里明确「资料里没有就说转人工」这是防止幻觉的关键。generateAnswer里temperature设 0.3客服场景要稳定不要发挥。参数说明temperature建议 0.2 到 0.4太高会编造太低会死板。CURLOPT_TIMEOUT设 30 秒生成接口比向量化慢。如果客服系统要求首答 3 秒内要考虑流式输出或缓存高频问题。4. 接入在线客服系统时的避坑与排查4.1 检索分数很高但回答跑偏检查切片是否混入无关内容现象用户问退款检索返回的片段分数 0.85但生成回答里混进了「会员积分规则」。原因通常是切片时把两个不相关段落合并进了一个片段向量被平均后语义模糊反而和多个话题都「有点像」。解决方法是把maxLen调小或者切片时按标题层级强制断开不让不同小节的内容混在一块。4.2 中文提问召回率低确认向量模型是否支持中文现象英文知识库检索正常中文提问总是返回无关片段。原因是用了只针对英文训练的向量模型中文被拆成单字后语义丢失。解决方法是换成明确支持中文的向量模型上线前用 20 条中文问题测召回率。这个坑很隐蔽因为接口不报错只是效果差。4.3 客服会话超时向量化和生成接口的耗时叠加现象用户发消息后 8 秒才收到回复客服系统提示超时。原因是向量化 1 秒 检索 0.5 秒 生成 5 秒串行叠加。解决方法是把向量化结果缓存相同问题直接命中缓存生成接口改流式输出先返回前几个字让用户看到响应。另外CURLOPT_TIMEOUT不要设太大超时就降级到关键词匹配兜底。4.4 知识库更新后检索失效向量库没有同步重建现象运营在后台改了知识库文档但客服回答还是旧内容。原因是向量库是离线生成的文档改了但kb_vectors.json没重新跑。解决方法是在知识库保存时触发重建任务或者加一个定时任务每小时增量更新。增量更新时要注意删除旧片段否则同一篇文档会有新旧两份向量。4.5 生成回答带出敏感信息提示词没有做边界约束现象用户问「你们公司内部怎么处理投诉」模型把知识库里一段内部流程原样答出来了。原因是提示词只说了「根据资料回答」没说哪些资料不能外泄。解决方法是在知识库切片时给敏感文档打标签检索阶段直接过滤掉提示词里加一句「如果资料涉及内部流程只回答对外口径」。这个坑一旦踩了就是事故上线前必须测。5. 用缓存和降级把首答压进 2 秒的实战技巧前面跑通了链路但真实客服场景对延迟很敏感。我自己的习惯是加两层缓存加一层降级把首答压到 2 秒内。第一层是问题缓存。用户问题向量化后先在一个 Redis 里查有没有相同或高度相似的问题余弦相似度大于 0.95有就直接返回上次的答案。客服场景里重复问题占比很高「怎么退款」「发货时间」这类问题一天可能问几十遍。缓存命中率做到 30% 以上平均延迟直接砍掉一大截。?php // cache.php // 用 Redis 缓存高频问题的答案 function getCachedAnswer(string $question, array $kb, $redis, string $apiUrl, string $apiKey): ?string { $qVector embedText($question, $apiUrl, $apiKey); // 从 Redis 里取所有缓存问题的向量做比对 $cachedKeys $redis-keys(qa:vector:*); foreach ($cachedKeys as $key) { $cached json_decode($redis-get($key), true); $sim cosineSimilarity($qVector, $cached[vector]); if ($sim 0.95) { return $cached[answer]; } } return null; } function saveAnswer(string $question, string $answer, array $qVector, $redis): void { $key qa:vector: . md5($question); $redis-setex($key, 86400, json_encode([ question $question, vector $qVector, answer $answer, ])); }逻辑说明getCachedAnswer把缓存里的向量逐个和当前提问比对相似度超过 0.95 就认为同一个问题。saveAnswer用setex设 24 小时过期避免缓存无限增长。注意keys命令在缓存量大时会影响 Redis 性能生产环境建议用向量库自带的相似查询或者维护一个独立的缓存索引。参数说明相似度阈值 0.95 是经验值调低到 0.9 会命中更多但可能答非所问调到 0.98 命中率下降。缓存过期时间 86400 秒是一天高频问题可以设更长。第二层是检索结果缓存。同一个问题即使没命中问题缓存检索到的 Top-K 片段也可以缓存省掉向量化和检索的时间。降级策略是最后一道保险。如果向量化接口或生成接口超时直接走原来的关键词匹配返回一条预设的兜底话术同时把这次失败记进日志。客服系统最怕的是用户发了消息没反应宁可返回一条不完美的回答也不能让会话卡住。验证方法很简单拿 50 条真实用户问题跑一遍记录每条的首答延迟和准确率。准确率靠人工判断延迟靠日志。我一般会盯两个指标P95 延迟95% 的请求在多少秒内完成和转人工率。P95 压到 2 秒以内、转人工率下降 20% 以上这个方案就值得继续投入。最后说个血泪经验上线前一定要用真实客服日志测不要用自己编的问题测。自己编的问题往往太规范真实用户会打错字、会夹带情绪、会一句话问三件事。我踩过一次坑测试集准确率 90%上线后真实日志准确率只有 55%就是因为测试问题太干净。后来改成从历史日志里随机抽 100 条准确率才反映真实水平。希望帮到你。本文还有配套的精品资源点击获取
