Miles框架CI流水线深度解析:从硬件标签选择到metric history gate完整指南

发布时间:2026/11/11 17:48:21

Miles框架CI流水线深度解析:从硬件标签选择到metric history gate完整指南 Miles框架CI流水线深度解析从硬件标签选择到metric history gate完整指南【免费下载链接】milesMiles is an enterprise-facing reinforcement learning framework for LLM and VLM post-training, forked from and co-evolving with slime.项目地址: https://gitcode.com/GitHub_Trending/miles1/milesMiles是一个面向企业的 LLM/VLM 强化学习后训练框架它与 slime 同源并协同演进。本文带你完整看懂 Miles 的CI 流水线设计一次 PR 提交后测试如何通过硬件标签选择stage 与 label 机制被分配到 H100、H200、B200 等不同 GPU 集群以及metric history gate如何把每次训练运行的ppo_kl、raw_reward等指标与历史基线对比自动捕捉肉眼难以发现的缓慢漂移。Miles 的核心架构是训练侧 Megatron 推理侧 SGLang双引擎协作CI 要守护的正是这条链路上每一环的正确性图源docs/developer/architecture.md 中的架构图一、Stage 与 SuiteCI 流水线的最小单元在 Miles 的 CI 里一个 stage 就是一个 CI job一个 suite 就是测试声明的suite值两者 1:1 映射。测试通过register_cuda_ci(suite...)声明自己属于哪个 suite运行器 tests/ci/run_suite.py 中CI_SUITES是唯一的套件清单按 CPU / CUDA / ROCm 三类硬件后端分组。stage 命名遵循stage-tier-gpus-hw规则一眼可读Stage / Suite硬件Runner 标签stage-a-cpuGitHub 托管 CPUubuntu-lateststage-b-2-gpu-h2002× H200[h200,2gpu]stage-c-4-gpu-h2004× H200[h200,4gpu]stage-c-8-gpu-h1008× H100[h100,8gpu]stage-c-8-gpu-b2008× B200[b200,8gpu]stage-c-4-gpu-mi3504× MI350 (ROCm)[self-hosted,amd,mi350,4gpu]几个值得记住的设计要点b/c是角色分级不是串行顺序stage-a-cpu成功后各 GPU stage 并行执行测试自带 GPU 预算测试通过ray start --num-gpus/torchrun --nproc-per-node声明自己需要的卡数而不是看见多少卡用多少卡因此调度到更大的 stage 时多余 GPU 只会闲置分片均衡多 shard 的 stage 由run_suite.py按每个测试的est_time做负载均衡。完整阶段清单见 docs/developer/ci/00-stage.md。二、硬件标签选择谁在哪台机器上跑GPU 集群资源稀缺且昂贵Miles 用两条正交的标签轴来控制哪些测试跑和在哪里跑核心代码在 tests/ci/ci_policy.py1. 领域标签Domain Labels选哪些测试测试在文件顶部声明自己的领域标签例如labels[megatron]对应 PR 上的 GitHub 标签run-ci-megatron。没有匹配的run-ci-*标签GPU 测试就完全不触发——这把昂贵的 GPU 矩阵挡在与 PR 无关的改动之外。全部合法标签定义在 tests/ci/labels.py包括megatron、sglang、fsdp、lora、ckpt、precision、fully-async、amd等 20 个。新增标签只需在KNOWN_LABELS加一行并创建对应仓库标签无需改任何 workflow YAML。2. 调度标签Dispatch Labels选哪个 GPU 代际每个 CUDA 测试还要声明支持哪些代际hardware[hopper, blackwell]。PR 上的run-on-hopper/run-on-blackwell标签决定测试是否离开主场 stage 迁移到其他代际。代际清单与 stage 拓扑的单一事实来源是 tests/ci/hardware.py默认偏好hopperHopper 主机 4 台以上、Blackwell 只有 1 台避免打爆队列run-ci-blackwell-only与run-on-blackwell一字之差、语义完全不同前者跑只能在 Blackwell 上跑的测试后者把能跑的测试挪到Blackwell。图源docs/advanced/p2p-weight-transfer.mdGPU 代际/规模差异正是 CI 需要分代际基线的原因3. 节奏Cadenceregular / nightly / weekly / release四种节奏共用同一套 stage 清单差异在准入范围和是否写性能基线节奏选择范围写滚动基线regular普通 PR仅普通注册的测试否shadow 只读nightlynightly标签或每周一至周六 cron除long、ft-long外全部是weekly每周六 cron全部启用标签是release发布分支调用同 weekly但依赖 SHA 冻结否防止污染滚动基线nightly / weekly / release 同时关闭 fast-fail让一次广覆盖运行暴露所有失败而不是停在第一个。三、给 CI 添加一个 GPU 测试三步走Miles 的 CI 注册是代码即配置你从不编辑 workflow YAML只需在测试文件顶部声明一行把test_*.py放进 tests/e2e/ 或 tests/fast-gpu/纯 CPU 测试放 tests/fast/ 则自动注册零声明文件顶部调用register_cuda_ci(est_time..., suite..., labels[...], hardware[...])四个参数缺一不可GPU 测试必须至少一个领域标签本地用python3 tests/ci/run_suite.py --hw cuda --suite 你的suite --match-all-labels --list-only确认你的文件出现在计划里——没被发现的测试会静默不跑CI 照样绿所以这步必须做。细节与排错表如何区分你的代码挂了还是基建问题见 docs/developer/ci/contributor-guide.md 和 tests/ci/README.md。四、metric history gate让指标漂移无处遁形单次运行看不出问题ppo_kl每次漂移 0.001连漂移 100 次之后单次数值依然看起来正常。Miles 的metric history gate代码位于 tests/ci/metric_history/就是为捕捉这种慢漂移而生的。工作原理四个角色的流水线采集Collector训练进程中的 miles/utils/tracking_utils/TrackingManager把每次log()同时扇出给 wandb只写不回读和CiHistoryBackend——后者把白名单指标快照成每个进程一份的 JSONL 文件训练过程永不因门禁而阻塞合流Harnesstests/ci/run_suite.py 在测试通过合并各进程记录失败尝试的记录直接丢弃、只认通过的那次的数据判定Gate Librarytests/ci/metric_history/gate.py 纯函数组合解析声明 → 选取比较坐标 → 按约束判定对存储层只读存储StoreSQLite离线开发与 NeonCI 生产双后端只通过write_run/recent_trusted_values/mark_untrusted三个接口对外。图源docs/models/deepseek/deepseek-v4-1-flash.md这类 reward / KL 曲线正是门禁逐点比对的对象判定规则双侧走廊 冷启动基线 同一坐标同测试、同指标、同steps/constraint字面量、同 step下历史可信值的均值约束是双侧走廊值必须落在[ref − band_down, ref band_up]内带宽 max(rel·|ref|, abs_floor)。不存在无上限的一侧——向更好方向飞得太远通常也是指标坏了冷启动某坐标还没有任何可信历史点时门禁处于 INACTIVE不报错这次运行空信任恰好为基线播种身份隔离run series 由(test_path, backend, suite)定义其中suite是实际执行的 stage。测试被 dispatch 到 Blackwell 后其数值归属 Blackwell 序列——两代 GPU 的基线永不混用自保护未过门禁的运行仍会入库但标记trusted false永不拉偏基线发现坏点只需mark_untrusted一个标志位翻转无需删行重建。谁有权写基线只有nightly 和 weekly运行带完整 provenancecommit_sha、pr_number等才写入基线普通 PR 运行与 release 运行只读 shadow——release 分支依赖的 SHA 是冻结的绝不能进入滚动基线污染夜间对比。目前门禁处于 shadow-first 阶段只记录与暴露、不阻塞 PR强制执行将由 per-test 白名单 全局 kill-switch 后续开启。完整声明方式register_ci_gate(metric_key, steps, constraint)、存储表结构与运维查询见 docs/developer/ci/03-metric-history-gate.md。五、一张图总结整条流水线PR 提交 → 解析触发事实 (ci_policy.py) → 确定节奏 regular/nightly/weekly/release → 领域标签选测试 × 调度标签选 GPU 代际 → stage 分片均衡、并行执行CPU 先行 gate → 测试通过后采集白名单指标 (JSONL) → metric history gate 与可信历史比对 → nightly/weekly 写回基线trusted 标记隔离坏点六、延伸阅读想了解去哪里stage 全清单与依赖关系docs/developer/ci/00-stage.md标签语义与 PR 评论命令/rerun-test等docs/developer/ci/01-label.md指标门禁完整设计docs/developer/ci/03-metric-history-gate.md发布分支 CIdocs/developer/ci/04-release.md贡献者上手指南docs/developer/ci/contributor-guide.md总结Miles 的 CI 流水线把选哪个测试领域标签、在哪跑代际调度、何时跑节奏与跑得好不好metric history gate拆成了四个正交且声明式可控的维度。对新手来说只需记住三件事GPU 测试必须带领域标签、用--list-only确认测试真的被发现、指标基线只由 nightly/weekly 写入——剩下的流水线自己会守护。【免费下载链接】milesMiles is an enterprise-facing reinforcement learning framework for LLM and VLM post-training, forked from and co-evolving with slime.项目地址: https://gitcode.com/GitHub_Trending/miles1/miles创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
延伸阅读

更多相关文章

2026/11/11 11:27:38

IDEA mapper.xml SQL 灰白?MyBatis 高亮补全排查指南

1. mapper.xml 的 SQL 变成灰白色&#xff0c;先搞清它到底意味着什么第一次在 IntelliJ IDEA 里打开mapper.xml&#xff0c;看到<select>、<insert>里的 SQL 全是灰白色&#xff0c;连SELECT、FROM、WHERE这些关键字都不亮&#xff0c;我第一反应是主题配色坏了。…

2026/11/11 5:41:37

AI编程工具怎么选?前端开发六款主流工具实测对比

2026年&#xff0c;前端开发这个圈子最大的变化&#xff0c;不是某个框架又出了新版本&#xff0c;而是AI编程工具已经从“帮你补全代码”进化到了“帮你把一整个页面的活接走”。我最近在多个真实业务项目里做了一轮横向对比&#xff0c;把市面上讨论度最高的几款AI编程工具都…

2026/11/11 15:42:37

Windows DLL 静态与动态加载原理及 WinError 1114 排查

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/12 2:14:13

低压电工作业作证查询在哪考别被中介忽悠了

低压电工作业作证查询在哪考别被中介忽悠了 你是不是也遇到过这种情况?想考低压电工作业证,上网一查信息五花八门,不知道去哪报名,怕被中介坑了钱还拿不到证?今天我就以一个转岗到安阳的电工为例,带你搞清楚低压电工作业作证查询的具体流程,以及到底…

2026/11/12 2:14:13

工地太忙根本没时间复习考试?电力公司颁发的电工证考前押题全攻略

工地太忙根本没时间复习考试?电力公司颁发的电工证考前押题全攻略 工地太忙根本没时间复习考试?尤其是那些刚入行的电工,一边要赶工期,一边还要为【电力公司颁发的电工证】考试发愁,真的太现实了。你不是一个人在战斗,很多人都在为考证而焦虑。今天,我…

2026/11/12 2:09:12

十月电工证考试全国通用,没证根本找不到工作

十月电工证考试全国通用,没证根本找不到工作 你是不是也在为找工作发愁?很多岗位明确要求必须持有电工证,否则连面试资格都没有。特别是在建筑、电力、制造业等行业, 电工证全国通用…

2026/11/11 12:42:59

电工证丢失还能补吗?千万别踩坑,丢了证等于失业

电工证丢失还能补吗?千万别踩坑,丢了证等于失业 你正在找工作,但手里的电工证突然丢了,这下怎么办?别急,先别慌, 电工证丢失还能补吗 ?答案是肯定的,但 千万别踩坑 ,补办流程如果不了解,可能会耽误你上岗、甚至影响到你的收入。…

2026/11/12 0:04:01

工地太忙根本没时间复习考试?学习电工证到哪里学通过率揭秘

工地太忙根本没时间复习考试?学习电工证到哪里学通过率揭秘 工地太忙根本没时间复习考试?你不是一个人。作为一名在南阳卧龙区干了七八年市政公用工程的电工,我深知这个问题的现实性。电工证不仅是工作的“入场券”,更是职业发展的“通行证”,但备考过程…

2026/11/12 0:04:01

双流电工证考别怕挂科!郑州报考避坑指南全攻略

双流电工证考别怕挂科!郑州报考避坑指南全攻略 实操考试心里没底怕挂科?双流电工证考在郑州报名,很多人因为不了解流程、准备不充分,白白浪费时间和金钱。作为三门峡应届工程类毕业生,我也曾经历过这样的焦虑。今天就从零开始,手把手教你如何避开郑州报…

2026/11/12 0:04:01

之前考的证在外省能不能转过来 怎么报名考电工证培训价格多少

之前考的证在外省能不能转过来 怎么报名考电工证培训价格多少 之前考的证在外省能不能转过来?这个问题确实让不少准备换城市工作的朋友犯了难,尤其像电工证这种实操性很强的证书,很多人担心跨省后证书能不能继续用。其实,只要符合相关流程,是可以顺利转…

2026/11/11 20:27:01

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

在智慧养宠时代&#xff0c;基于视觉的宠物身份识别技术正逐步从实验室走向家庭应用。然而&#xff0c;与配合度高的人类不同&#xff0c;宠物是典型的“非合作生物识别对象”——它们不会主动配合摄像头调整姿态&#xff0c;更无法控制光照环境。实际应用中&#xff0c;我们常…

2026/11/10 10:29:37

SSM电子书店源码全解析:结构、原理、部署与排错实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

还想了解更多?直接咨询顾问

免费诊断 + 免费方案 + 透明报价。

全国咨询热线400-8866-253
免费获取方案
☎咨询二维码 ☎ ↑