文章目录一、先搞懂.NET 10 的 AI 能力到底是什么二、实战开始搭建 AI 后台管理接口2.1 环境准备2.2 创建项目 安装 NuGet2.3 配置服务一行注入 AI 客户端2.4 实现第一个 AI 接口智能问答三、后台管理场景三个实用 AI 接口3.1 接口一智能内容审核3.2 接口二数据报表智能分析3.3 接口三流式响应SSE四、进阶加上系统提示词 角色隔离五、生产环境必做的三件事1. 加上 Token 限流 成本控制2. 接入 OpenTelemetry 监控3. 增加缓存层六、总结.NET 开发者接入 AI 的正确姿势.NET 10 最大的变化之一就是把 AI 从「第三方 SDK 拼接」变成了框架级原生能力。过去我们接 OpenAI、接 Azure、接本地 Ollama每个厂商一套 SDK代码耦合严重换个模型就要重写一半业务。现在微软直接拿出了 Microsoft.Extensions.AI —— 就像当年的 ILogger、IHttpClientFactory 一样一套抽象、处处适配。一、先搞懂.NET 10 的 AI 能力到底是什么很多人以为 .NET 接 AI 就是装个 Semantic Kernel其实不对。.NET 10 把 AI 栈分成了清晰的两层底层抽象Microsoft.Extensions.AI.Abstractions核心是 IChatClient 和 IEmbeddingGenerator 两个接口相当于 AI 界的 ILogger。你业务代码只依赖接口不依赖具体厂商支持依赖注入、OpenTelemetry 链路追踪、缓存中间件换模型供应商OpenAI → Azure → Ollama只改配置不改业务代码上层编排Semantic Kernel / Agent Framework简单场景单次对话、分类、生成用 IChatClient 就够了复杂场景多轮对话、工具调用、Agent 协作上 Semantic Kernel 或 Agent Framework一句话总结普通后台接口接入 AI用 IChatClient 最轻量、最优雅。二、实战开始搭建 AI 后台管理接口2.1 环境准备.NET 10 SDK正式版Visual Studio 2022 / Rider一个可用的大模型 API Key本文以 OpenAI 兼容接口为例本地 Ollama 也能用2.2 创建项目 安装 NuGet2.3 配置服务一行注入 AI 客户端打开 Program.cs在 builder.Services 里加一行appsettings.json 里配置 Key如果用本地 Ollama把包换成 Microsoft.Extensions.AI.Ollama地址指向 http://localhost:11434 即可业务代码一行不用改。这就是抽象层的威力。2.4 实现第一个 AI 接口智能问答新建 AiController.cs启动项目调一下 /api/ai/chat传入问题大模型直接返回答案。5 分钟一个标准的 AI 接口就成了。三、后台管理场景三个实用 AI 接口光做聊天接口没意义后台管理系统里 AI 真正的价值是提效。下面给三个实战场景直接抄就能用。3.1 接口一智能内容审核后台管理经常要审核用户提交的文本。让 AI 帮你做初筛3.2 接口二数据报表智能分析后台有一堆统计数据让 AI 自动生成分析结论3.3 接口三流式响应SSE长文本生成一定要用流式不然用户等半天。.NET 10 原生支持 IAsyncEnumerable 流式输出前端配合 EventSource 接收打字机效果直接拉满。四、进阶加上系统提示词 角色隔离企业级应用不能让用户随便问。给每个业务接口配置独立的 System Prompt把 AI 「关在笼子里」然后注册为作用域服务这样做的好处角色固定不会被用户 Prompt 注入带偏业务逻辑和 AI 调用解耦方便单测不同业务线用不同的 Service互不干扰五、生产环境必做的三件事1. 加上 Token 限流 成本控制AI 接口很贵一定要按用户 / 租户限流用 AspNetCoreRateLimit 或者自己写中间件。2. 接入 OpenTelemetry 监控每一次 AI 调用的耗时、Token 消耗、模型名称全部进链路追踪。出问题一眼定位。3. 增加缓存层对于确定性高的请求比如分类、翻译加上内存缓存或 Redis 缓存能省一大笔钱。Microsoft.Extensions.AI 自带缓存中间件扩展直接 AddCaching() 就能用。六、总结.NET 开发者接入 AI 的正确姿势最后说点真心话。很多 .NET 同学一提到 AI 就觉得是 Python 的事儿自己插不上手。其实完全不是。后端工程师的核心价值从来不是训练模型而是把 AI 能力工程化、产品化。怎么把大模型封装成稳定的 API怎么做鉴权、限流、监控、成本控制怎么和现有业务系统无缝集成怎么保证数据安全和内容合规这些才是我们 .NET 开发者的主场。而 .NET 10 Microsoft.Extensions.AI给了我们一套非常趁手的工具。
文章目录一、先搞懂.NET 10 的 AI 能力到底是什么二、实战开始搭建 AI 后台管理接口2.1 环境准备2.2 创建项目 安装 NuGet2.3 配置服务一行注入 AI 客户端2.4 实现第一个 AI 接口智能问答三、后台管理场景三个实用 AI 接口3.1 接口一智能内容审核3.2 接口二数据报表智能分析3.3 接口三流式响应SSE四、进阶加上系统提示词 角色隔离五、生产环境必做的三件事1. 加上 Token 限流 成本控制2. 接入 OpenTelemetry 监控3. 增加缓存层六、总结.NET 开发者接入 AI 的正确姿势.NET 10 最大的变化之一就是把 AI 从「第三方 SDK 拼接」变成了框架级原生能力。过去我们接 OpenAI、接 Azure、接本地 Ollama每个厂商一套 SDK代码耦合严重换个模型就要重写一半业务。现在微软直接拿出了 Microsoft.Extensions.AI —— 就像当年的 ILogger、IHttpClientFactory 一样一套抽象、处处适配。一、先搞懂.NET 10 的 AI 能力到底是什么很多人以为 .NET 接 AI 就是装个 Semantic Kernel其实不对。.NET 10 把 AI 栈分成了清晰的两层底层抽象Microsoft.Extensions.AI.Abstractions核心是 IChatClient 和 IEmbeddingGenerator 两个接口相当于 AI 界的 ILogger。你业务代码只依赖接口不依赖具体厂商支持依赖注入、OpenTelemetry 链路追踪、缓存中间件换模型供应商OpenAI → Azure → Ollama只改配置不改业务代码上层编排Semantic Kernel / Agent Framework简单场景单次对话、分类、生成用 IChatClient 就够了复杂场景多轮对话、工具调用、Agent 协作上 Semantic Kernel 或 Agent Framework一句话总结普通后台接口接入 AI用 IChatClient 最轻量、最优雅。二、实战开始搭建 AI 后台管理接口2.1 环境准备.NET 10 SDK正式版Visual Studio 2022 / Rider一个可用的大模型 API Key本文以 OpenAI 兼容接口为例本地 Ollama 也能用2.2 创建项目 安装 NuGet2.3 配置服务一行注入 AI 客户端打开 Program.cs在 builder.Services 里加一行appsettings.json 里配置 Key如果用本地 Ollama把包换成 Microsoft.Extensions.AI.Ollama地址指向 http://localhost:11434 即可业务代码一行不用改。这就是抽象层的威力。2.4 实现第一个 AI 接口智能问答新建 AiController.cs启动项目调一下 /api/ai/chat传入问题大模型直接返回答案。5 分钟一个标准的 AI 接口就成了。三、后台管理场景三个实用 AI 接口光做聊天接口没意义后台管理系统里 AI 真正的价值是提效。下面给三个实战场景直接抄就能用。3.1 接口一智能内容审核后台管理经常要审核用户提交的文本。让 AI 帮你做初筛3.2 接口二数据报表智能分析后台有一堆统计数据让 AI 自动生成分析结论3.3 接口三流式响应SSE长文本生成一定要用流式不然用户等半天。.NET 10 原生支持 IAsyncEnumerable 流式输出前端配合 EventSource 接收打字机效果直接拉满。四、进阶加上系统提示词 角色隔离企业级应用不能让用户随便问。给每个业务接口配置独立的 System Prompt把 AI 「关在笼子里」然后注册为作用域服务这样做的好处角色固定不会被用户 Prompt 注入带偏业务逻辑和 AI 调用解耦方便单测不同业务线用不同的 Service互不干扰五、生产环境必做的三件事1. 加上 Token 限流 成本控制AI 接口很贵一定要按用户 / 租户限流用 AspNetCoreRateLimit 或者自己写中间件。2. 接入 OpenTelemetry 监控每一次 AI 调用的耗时、Token 消耗、模型名称全部进链路追踪。出问题一眼定位。3. 增加缓存层对于确定性高的请求比如分类、翻译加上内存缓存或 Redis 缓存能省一大笔钱。Microsoft.Extensions.AI 自带缓存中间件扩展直接 AddCaching() 就能用。六、总结.NET 开发者接入 AI 的正确姿势最后说点真心话。很多 .NET 同学一提到 AI 就觉得是 Python 的事儿自己插不上手。其实完全不是。后端工程师的核心价值从来不是训练模型而是把 AI 能力工程化、产品化。怎么把大模型封装成稳定的 API怎么做鉴权、限流、监控、成本控制怎么和现有业务系统无缝集成怎么保证数据安全和内容合规这些才是我们 .NET 开发者的主场。而 .NET 10 Microsoft.Extensions.AI给了我们一套非常趁手的工具。
