[Agent的评估-03]利用LocalEvaluator自定义逻辑评估MAF Agent

发布时间:2026/11/12 10:48:15

[Agent的评估-03]利用LocalEvaluator自定义逻辑评估MAF Agent MAF的Agent评估体系以IAgentEvaluator为核心作为该接口的三个原生实现之一LocalEvaluator运行我们在本地定义符合签名的委托来对AIAgent实施评估。原则上我们可利用这种方式实现任意评估逻辑。我们就来看看LocalEvaluator背后是如何驱动我们自定义的委托来评估指定的Agent。1. EvalCheck委托上述的用于评估Agent的委托类型为具有如下定义的EvalCheck。它的输入类型EvalItem是构成MAF Agent评估体系的三大核心元素之一实施评估所需的所有信息都包括其中在Agent的评估-02:MAF Agent评估系统三个核心要素中我们已经对这个类型进行了深入介绍这里就不再赘言了。publicdelegateEvalCheckResultEvalCheck(EvalItemitem);publicsealedrecordEvalCheckResult(boolPassed,stringReason,stringCheckName);利用EvalCheck实施评估的结果体现再返回的EvalCheckResult对象上这个记录类型包含如下三个属性Passed 评估是否通过Reason评估通过与否的原因CheckName 当前评估的名称一般用于简单描述进行哪方面的评估。2. EvalCheckResult向EvaluationMetric的转换通过Agent的评估-02:MAF Agent评估系统三个核心要素的介绍我们知道MAF的Agent评估体系利用AgentEvaluationResults来表示评估的结果具体针对某项指标的评估结果通过EvaluationMetric类型表示。作为EvalCheck委托评估结果的EvalCheckResult最终需要转换成EvaluationMetric对象并添加到EvaluationResult的Metrics字典中。staticEvaluationMetricConvert(EvalCheckResultevalCheckResult)newBooleanMetric(evalCheckResult.CheckName,evalCheckResult.Passed,evalCheckResult.Reason){InterpretationnewEvaluationMetricInterpretation{Rating(evalCheckResult.Passed?EvaluationRating.Good:EvaluationRating.Unacceptable),Failed!evalCheckResult.Passed}};上面定义的这个Convert方法基本上体现了EvalCheckResult向EvaluationMetric的转换规则。由于EvalCheckResult只能体现是否通过评估所有最终转换生成的是一个评估指标值类型为布尔类型的BooleanMetric对象EvalCheckResult对象的CheckName、Passed和Reason分别对应BooleanMetric的Name、Value和Reason属性。与此同时还会为BooleanMetric对象的Interpretation属性设置一个EvaluationMetricInterpretation对象对评估结果作进一步解释具体来说后者的两个属性会按照如下的规则进行设置Rating 如果EvalCheckResult的Passed属性为true返回EvaluationRating.Good否则返回EvaluationRating.UnacceptableFailedEvalCheckResult的Passed属性取反3. LocalEvaluator的评估流程如下所示的是LocalEvaluator类型的完整定义。可以看出它是对一组EvalCheck对象的封装Name属性固定返回LocalEvaluator实现的EvaluateAsync会将evalName参数默认设置为Local EvalpublicsealedclassLocalEvaluator:IAgentEvaluator{privatereadonlyEvalCheck[]_checks;publicstringNameLocalEvaluator;publicLocalEvaluator(paramsEvalCheck[]checks)_checkschecks;publicTaskAgentEvaluationResultsEvaluateAsync(IReadOnlyListEvalItemitems,stringevalNameLocal Eval,CancellationTokencancellationTokendefault(CancellationToken)){ListEvaluationResultlistnewListEvaluationResult(items.Count);foreach(EvalItemiteminitems){cancellationToken.ThrowIfCancellationRequested();EvaluationResultevaluationResultnewEvaluationResult();EvalCheck[]checks_checks;foreach(EvalCheckevalCheckinchecks){EvalCheckResultevalCheckResultevalCheck(item);evaluationResult.Metrics[evalCheckResult.CheckName]newBooleanMetric(evalCheckResult.CheckName,evalCheckResult.Passed,evalCheckResult.Reason){InterpretationnewEvaluationMetricInterpretation{Rating(evalCheckResult.Passed?EvaluationRating.Good:EvaluationRating.Unacceptable),Failed!evalCheckResult.Passed}};}list.Add(evaluationResult);}returnTask.FromResult(newAgentEvaluationResults(Name,list,items));}}实现在EvaluateAsync方法中的评估逻辑很简单遍历每个EvalItem并为之创建一个EvaluationResult对象后者Metrics属性填充的EvaluationMetric由对应的EvalCheckResult根据上述的规则转换而成。至于EvalCheckResult自然就是每个EvalCheck针对EvalItem实施评估的结果。4. 预定义EvalCheckMicrosoft.Agents.AI.EvalChecks类型利用定义的一系列静态方法创建了对应的EvalCheck委托我们可以直接拿来用。4.1 关键字验证EvalChecks利用如下所示的两个重载的KeywordCheck方法返回的EvalCheck用来验证Agent的响应文本是否包含指定的关键字。如代码所示我们可以利用caseSensitive参数控制字符串比较是否考虑大小写默认为大小写不敏感。只有响应文本包含所有指定的关键字才算是评估通过。publicstaticclassEvalChecks{publicstaticEvalCheckKeywordCheck(paramsstring[]keywords);publicstaticEvalCheckKeywordCheck(boolcaseSensitive,paramsstring[]keywords);}如果评估通过返回EvalCheckResult的Reason属性会说明所有的执行的关键字依次列出均已找到否则会列出缺失的关键字。EvalCheckResult的Name固定返回keyword_check。4.2 工具调用验证如果需要评估规则要求指定的工具集必须被调用则可以利用如下两个ToolCalledCheck方法重载mode参数表示的ToolCalledMode枚举提供了两个选项表示是要求指定的工具全部被调用还是说只需要其中有一个被调用就行默认为前者。具体验证的工具名称列表通过toolNames参数指定。publicstaticclassEvalChecks{publicstaticEvalCheckToolCalledCheck(paramsstring[]toolNames);publicstaticEvalCheckToolCalledCheck(ToolCalledModemode,paramsstring[]toolNames);}publicenumToolCalledMode{All,Any,}我们知道利用提供的对话历史提取调用过的工具只需要从消息的Contents属性中提取FunctionCallContent类型的内容就可以了所以ToolCalledCheck方法会采用这种方式提取调用过的工具名称列表。作为验证结果的EvalCheckResul以tool_called_check命名。如果不要求调用具体某个工具只要求有过工具调用就行。比如只注册了一个工具或者注册的工具具有很大的差异不太可能选错此时只需要有工具被调用就可以。这种情况可以使用如下这个ToolCallsPresent方法生成的EvalCheck委托。作为验证结果的EvalCheckResul以tool_calls_present命名。publicstaticclassEvalChecks{publicstaticEvalCheckToolCallsPresent();}通过Agent的评估-02:MAF Agent评估系统三个核心要素对EvalItem类型的介绍我们知道该类型定义了一个ExpectedToolCalls属性返回一组ExpectedToolCall对象用来设置希望LLM生成的工具调用。ExpectedToolCall不仅定义了希望调用的工具名名称还定义以希望传入的参数列表。如果需要进行这样的评估可以使用ToolCallArgsMatch方法返回的EvalCheck委托。作为验证结果的EvalCheckResul以tool_call_args_match命名。publicsealedclassEvalItem{publicIReadOnlyListExpectedToolCall?ExpectedToolCalls{get;set;}}publicrecordExpectedToolCall(stringName,IReadOnlyDictionarystring,object?Argumentsnull);publicstaticclassEvalChecks{publicstaticEvalCheckToolCallArgsMatch();}4.3 响应文本长度的验证如果不希望响应文本为空或者过短可以使用如下这个NonEmpty方法返回的EvalCheck委托参数minLength表示响应文本允许的最短长度。作为验证结果的EvalCheckResul以non_empty命名。publicstaticclassEvalChecks{publicstaticEvalCheckNonEmpty(intminLength1)}4.4 希望输出内容验证除了表示希望工具调用的ExpectedToolCalls属性EvalItem还定义了如下这个用来表示希望响应文本中包含的输出内容。如果希望完成对用的评估可以使用如下这个ContainsExpected方法返回的EvalCheck委托参数caseSensitive表示在进行字符串比较中是否考虑大小写默认为大小写不敏感。作为验证结果的EvalCheckResul以contains_expected命名。publicsealedclassEvalItem{publicstring?ExpectedOutput{get;set;}}publicstaticclassEvalChecks{publicstaticEvalCheckContainsExpected(boolcaseSensitivefalse)}4.4 多媒体内容验证在一些针对图像处理的应用场景中有时候要求对话历史中必须包含具有图片内容的消息这是可以使用HasImageContent方法生成的EvalCheck。因为EvalItem的HasImageContent属性对此做出判断所以评估是否通过完全取决于此属性的值。作为验证结果的EvalCheckResul以has_image_content命名。publicsealedclassEvalItem{publicboolHasImageContentthis.Conversation.Any(mm.Contents.Any(c(cisDataContentdcdc.HasTopLevelMediaType(image))||(cisUriContentucuc.HasTopLevelMediaType(image))));}publicstaticclassEvalChecks{publicstaticEvalCheckHasImageContent()}5. 实例演示下面的程序演示一个相对完整的例子。如代码所示我们为创建的Agent注册了两个工具函数GetLocationCode 根据城市名车查询位置代码GetWeather 根据城市位置代码获取实时天气。在调用Agent的EvaluateAsync扩展方法进行评估时我们使用了LocalEvaluator作为唯一的评估器 并指定了通过调用ContainsExpected、ToolCallArgsMatch、ToolCalledCheck和KeywordCheck方法创建的四个EvalCheck委托我们使用它们对工具调用和输出的内容进行评估。与ContainsExpected和ToolCallArgsMatch配套我们还指定了expectedOutput和expectedToolCalls两个参数。usingAzure.AI.Projects;usingDotNetEnv;usingMicrosoft.Agents.AI;usingMicrosoft.Extensions.AI;usingMicrosoft.Extensions.AI.Evaluation;usingOpenAI;usingSystem.ClientModel;usingSystem.ComponentModel;usingSystem.Text.Encodings.Web;usingSystem.Text.Json;usingSystem.Text.Json.Serialization;Env.Load();varapiKeyEnvironment.GetEnvironmentVariable(OPENAI_API_KEY)!;varendpointEnvironment.GetEnvironmentVariable(OPENAI_BASE_URL)!;ListAITooltools[AIFunctionFactory.Create(GetLocationCode,nameof(GetLocationCode)),AIFunctionFactory.Create(GetWeather,nameof(GetWeather))];varagentnewOpenAIClient(newApiKeyCredential(apiKey),newOpenAIClientOptions{EndpointnewUri(endpoint)}).GetChatClient(model:gpt-5.4-mini).AsIChatClient().AsAIAgent(tools:tools);varresultsawaitagent.EvaluateAsync(queries:[目前苏州天气如何?],evaluator:newLocalEvaluator(EvalChecks.ToolCallArgsMatch(),EvalChecks.ToolCalledCheck(nameof(GetLocationCode),nameof(GetWeather)),EvalChecks.KeywordCheck(晴,25)),expectedOutput:[晴],expectedToolCalls:[[newExpectedToolCall(nameof(GetLocationCode),newDictionarystring,object{{city,苏州}}),newExpectedToolCall(nameof(GetWeather),newDictionarystring,object{{locationCode,123456}})]]);varserializerOptionsnewJsonSerializerOptions{WriteIndentedtrue,EncoderJavaScriptEncoder.UnsafeRelaxedJsonEscaping};serializerOptions.Converters.Add(newJsonStringEnumConverter());Console.WriteLine(JsonSerializer.Serialize(results.Items.Single().Metrics,serializerOptions));[Description(获取所在城市的位置代码)]staticstringGetLocationCode([Description(城市名称)]stringcity)123456;[Description(获取所在城市的实时天气)]staticstringGetWeather([Description(城市位置代码)]stringlocationCode)晴气温25摄氏度;我只输出包含在验证结果中最核心的评估指标。从如下的输出内容可看出与指定的四个EvalCheck委托对应的评估指标全部通过。{contains_expected:{$type:boolean,Value:true,Name:contains_expected,Reason:Response contains expected output: \晴\,Interpretation:{Rating:Good,Failed:false,Reason:null},Context:null,Diagnostics:null,Metadata:null},tool_call_args_match:{$type:boolean,Value:true,Name:tool_call_args_match,Reason:Tool call args match: 2/2\n GetLocationCode: args match\n GetWeather: args match,Interpretation:{Rating:Good,Failed:false,Reason:null},Context:null,Diagnostics:null,Metadata:null},tool_called_check:{$type:boolean,Value:true,Name:tool_called_check,Reason:All tools called: GetLocationCode, GetWeather,Interpretation:{Rating:Good,Failed:false,Reason:null},Context:null,Diagnostics:null,Metadata:null},keyword_check:{$type:boolean,Value:true,Name:keyword_check,Reason:All keywords found: 晴, 25,Interpretation:{Rating:Good,Failed:false,Reason:null},Context:null,Diagnostics:null,Metadata:null}}
延伸阅读

更多相关文章

2026/11/8 9:04:43

Switch手柄PC连接终极方案:BetterJoy完整使用指南

Switch手柄PC连接终极方案:BetterJoy完整使用指南 【免费下载链接】BetterJoy Allows the Nintendo Switch Pro Controller, Joycons and SNES controller to be used with CEMU, Citra, Dolphin, Yuzu and as generic XInput 项目地址: https://gitcode.com/gh_m…

2026/11/7 4:42:35

XXD新西达黄皮30A电调驱动无刷电机A2212-STM32F103C8T6驱动-航模DIY

一、作者的话在家无聊,买了些材料,想自己DIY一个航模飞机,算是实现小时候的梦想。PS:现在论坛上水的博客很多,我发这篇文章也是希望有和我志同道合的朋友少走些弯路。DIY航模全套资料和成品代码评论我可以发给你。电调的三根线接无…

2026/11/12 10:44:57

学电工证填表怎么填值不值得考?新手必看避坑指南

学电工证填表怎么填值不值得考?新手必看避坑指南 你还在为找不到电工证报名渠道而发愁?急需特种作业证才能上岗找工作,学电工证填表怎么填值不值得考?这些问题已经成为很多初入行业的小伙伴的头等大事。今天就来聊聊电工证填表到底怎么填,以及为什么你一…

2026/11/12 10:44:57

低压电工证过期2个月怎么补办?实操考试心里没底怕挂科,多少钱?

低压电工证过期2个月怎么补办?实操考试心里没底怕挂科,多少钱? 实操考试心里没底怕挂科,低压电工证过期2个月了,还能不能补办?这几乎是每个郑州金水区房建工程从业者最关心的问题。你可能已经在现场操作,但证书过期了,不仅影响项目进度,还可能面临…

2026/11/12 10:44:57

电工证没拿到就别想找工作?查樟树市高低压电工证+郑州报考避坑指南

电工证没拿到就别想找工作?查樟树市高低压电工证+郑州报考避坑指南 你还在为找不到电工工作发愁?别急,先搞清楚【查樟树市高低压电工证】怎么考,考了之后能不能拿到高薪,这事儿不搞明白,你连面试机会都没得谈。现在各行各业都在收紧特种作业门槛,没有…

2026/11/12 10:44:57

特种作业操作证免费吗 2026河南最新政策下如何报考与避坑

特种作业操作证免费吗 2026河南最新政策下如何报考与避坑 学历不高怕报不上名?2026河南最新政策已出,特种作业操作证的报考门槛和费用变化引起了不少人的关注。很多人以为这证是免费的,其实不然,关键要看你是哪个工种、在哪个地区报考。下面我们…

2026/11/12 10:44:57

工地太忙根本没时间复习考试?考电工证一套网上查询全攻略

工地太忙根本没时间复习考试?考电工证一套网上查询全攻略 工地太忙根本没时间复习考试?现在市面上【考电工证一套】的题库和资料五花八门,很多电工朋友都是边工作边备考,光靠自己摸索效率低、容易走弯路。但好消息是,通过 网上查询…

2026/11/12 10:39:57

大专直接报高级电工证千万别踩坑,实操考试心里没底怕挂科怎么办

大专直接报高级电工证千万别踩坑,实操考试心里没底怕挂科怎么办 你是不是也这样,大专毕业想直接报考高级电工证,但又担心自己能不能通过实操考试?别急,今天就来给你说说到底该怎么准备,避免踩坑,把证书稳稳拿到手。咱们不玩虚的,只讲干货,郑州金水区…

2026/11/11 12:42:59

电工证丢失还能补吗?千万别踩坑,丢了证等于失业

电工证丢失还能补吗?千万别踩坑,丢了证等于失业 你正在找工作,但手里的电工证突然丢了,这下怎么办?别急,先别慌, 电工证丢失还能补吗 ?答案是肯定的,但 千万别踩坑 ,补办流程如果不了解,可能会耽误你上岗、甚至影响到你的收入。…

2026/11/12 0:04:01

工地太忙根本没时间复习考试?学习电工证到哪里学通过率揭秘

工地太忙根本没时间复习考试?学习电工证到哪里学通过率揭秘 工地太忙根本没时间复习考试?你不是一个人。作为一名在南阳卧龙区干了七八年市政公用工程的电工,我深知这个问题的现实性。电工证不仅是工作的“入场券”,更是职业发展的“通行证”,但备考过程…

2026/11/12 0:04:01

双流电工证考别怕挂科!郑州报考避坑指南全攻略

双流电工证考别怕挂科!郑州报考避坑指南全攻略 实操考试心里没底怕挂科?双流电工证考在郑州报名,很多人因为不了解流程、准备不充分,白白浪费时间和金钱。作为三门峡应届工程类毕业生,我也曾经历过这样的焦虑。今天就从零开始,手把手教你如何避开郑州报…

2026/11/12 0:04:01

之前考的证在外省能不能转过来 怎么报名考电工证培训价格多少

之前考的证在外省能不能转过来 怎么报名考电工证培训价格多少 之前考的证在外省能不能转过来?这个问题确实让不少准备换城市工作的朋友犯了难,尤其像电工证这种实操性很强的证书,很多人担心跨省后证书能不能继续用。其实,只要符合相关流程,是可以顺利转…

2026/11/11 20:27:01

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

在智慧养宠时代,基于视觉的宠物身份识别技术正逐步从实验室走向家庭应用。然而,与配合度高的人类不同,宠物是典型的“非合作生物识别对象”——它们不会主动配合摄像头调整姿态,更无法控制光照环境。实际应用中,我们常…

2026/11/12 9:51:42

SSM电子书店源码全解析:结构、原理、部署与排错实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

还想了解更多?直接咨询顾问

免费诊断 + 免费方案 + 透明报价。

全国咨询热线400-8866-253
免费获取方案
☎咨询二维码 ☎ ↑