Miles:高性能企业级强化学习框架,为大规模模型后训练带来多项突破!

发布时间:2026/11/4 19:48:19

Miles:高性能企业级强化学习框架,为大规模模型后训练带来多项突破! 面向大规模模型后训练的企业级强化学习网站、文档、快速开始、支持的模型、Miles 扩散模型等相关链接待补博客、Slack (#miles-rl)、新闻等相关链接待补。2026 年各月动态如下[2026/08] Miles v0.1 版本发布可阅读博客文章Miles v0.1生产级后训练[2026/07] 有多条动态包括迈向原生 Blackwell 的 8 位和 4 位强化学习Miles 中的端到端 MXFP8 和 NVFP4 强化学习SGLang 和 Miles 为 Kimi K3 提供首日支持Miles 引入策略内蒸馏SGLang 和 Miles 为前沿多模态模型 Inkling 提供首日支持借助 MilesDeepSeek - V4 闪存强化学习训练登陆 AMD Instinct MI355X[2026/06] SGLang 和 Miles 为 NVIDIA Nemotron 3 Ultra 提供首日支持[2026/05] 一个 token 都不落下Miles 中的 token 输入 - token 输出[2026/04] 数秒内更新 1T 参数大规模分布式强化学习中的 P2P 权重传输DeepSeek - V4 首日支持通过 SGLang 和 Miles 实现从快速推理到经过验证的强化学习。关于 MilesMiles 是一个高性能、适用于企业的强化学习框架专为大规模模型后训练而设计。它将用于高吞吐量采样的 SGLang 与可扩展训练的 Megatron - LM 相结合具备在万亿参数规模下进行强化学习所需的精度、稳定性和可观测性特性。对于希望直接训练 HuggingFace 实现的运行也提供了 PyTorch FSDP2 后端不过相关配方、并行策略和最大规模的模型都基于 Megatron - LM。详见训练后端。“千里之行始于一次采样。”性能全异步强化学习采样和训练工作进程相互解耦支持可配置的策略内和策略外调度经过优化的流水线减少了空闲时间还提供可定制的异步采样和评估模式。详见全异步强化学习。快速智能体采样生成过程在 SGLang 上运行通过路由器将请求分发到各个引擎保留每个请求的元数据并对集群进行健康检查。针对多轮智能体工作负载进行了优化。快速权重更新即使是像 Kimi - K2.6 这样的万亿参数模型新的权重也能在数秒内通过 P2P RDMA 快速路径更新到引擎中适用于分布式设置。低精度训练支持 MXFP8 和 NVFP4 训练采用数值稳定的强化学习配方减少因精度问题导致的偏差。同时也支持 FP8、INT4 QAT、BF16 和 FP16。LoRA 和多 LoRA低秩适配器可以在少量 GPU 上训练前沿规模的模型并且相同的适配器可以直接加载到 SGLang 中进行采样。正确性和弹性Token 输入 - Token 输出TITO支持所有模型和黑盒封装在采样和训练之间无需进行解 token/重新 token 化的往返操作。采样路由重放R3在训练器的前向传播过程中重放采样期间记录的专家路由消除了在大规模运行中导致不稳定的混合专家MoE路由不匹配问题同时通过计算和通信重叠降低成本。容错能力当 SGLang 引擎出现故障时Miles 能够恢复并继续运行无需重启或暂停。Miles 支持的运行内容首日模型支持DeepSeek - V4、Kimi - K3、GLM - 5.2、Inkling 和 Nemotron 在发布当天即可支持。除了发布首日支持的模型外几乎所有前沿模型都能在 Miles 上运行包括 Kimi - K2.6 和 Qwen3.5。详见模型。广泛的硬件支持通过 ROCm 支持 NVIDIA GB300、GB200、B300、B200、H200、H100 和 A100以及 AMD MI300X、MI325、MI350 和 MI355X。详见安装了解每个 GPU 的支持状态和相应的容器镜像。丰富的配方支持支持 GRPO、GSPO、PPO 和 REINFORCE 等强化学习算法以及监督微调SFT和策略内蒸馏。智能体环境通过与 Harbor、HUD、NeMo Gym、OpenEnv、Verifiers 等的连接器来训练编码和计算机使用智能体每个连接器都可以插入适合它的采样层并在 AgentENV、Daytona、E2B 或 Modal 上使用任务沙箱。详见智能体环境。扩散模型在 Miles - diffusion 中支持基于 sglang - diffusion 采样引擎和 FSDP2 训练器的 Flow - GRPO、DiffusionNFT 和 SFT。快速开始安装 Miles、快速开始、支持的模型、核心概念、启动脚本演练、训练后端、贡献指南等相关链接待补。致谢Miles 派生自 slime并集成了 SGLang、Megatron - LM 和 torch_memory_saver。Miles 的发展离不开众多团队的支持从硬件和云服务提供商到模型实验室、智能体基础设施团队和学术界。引用如果 Miles 在你的研究或产品中发挥了作用请引用它misc{miles2026, title Miles: Enterprise - Grade Reinforcement Learning for Large - Scale Model Post - Training, author Miles Team, year 2026, howpublished \url{https://github.com/radixark/miles}}
延伸阅读

更多相关文章

2026/10/31 10:00:06

海尔12kg波轮洗衣机深度评测:省钱663元背后的选购逻辑

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/31 10:43:58

自动化批量任务实战:提链流程编排与工程实现解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/5 16:51:33

EasyU优启通PE维护盘实战指南:制作、启动与核心操作全解析

1. 为什么一个PE维护盘值得单独拿出来聊装系统、修引导、救数据、清病毒,这些活儿但凡干过几次的人都知道,真正决定效率的往往不是你手速多快,而是手边那套PE环境靠不靠谱。EasyU(圈内习惯叫优启通)就是在这个场景下被…

2026/11/5 16:26:13

Rust原来很简单二:所有权系统

Part 2 核心篇 —— 所有权系统 本篇覆盖 第 6 ~ 10 章:所有权、借用与引用、生命周期、字符串与切片、内存模型。 ⚠️ 这是全书最重要的一篇。 把它吃透,Rust 从此“很简单”;跳过它,你会处处碰壁。请慢下来,动手敲每一段代码。 第 6 章 所有权:Rust 的第一性原理 6…

2026/11/5 15:00:49

基于Hadoop+Spark的民宿智能推荐系统设计与实现

1. 项目概述:大数据时代的民宿智能推荐这个毕业设计项目融合了当前大数据领域最主流的技术栈,构建了一个完整的民宿推荐系统解决方案。作为一名长期从事大数据系统开发的工程师,我认为这个选题非常贴合实际应用场景——随着旅游业的复苏和共享…

2026/11/5 14:10:30

ADS122U04IPWR+STM32F427ZI工业级温度测量信号链设计

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/5 14:10:30

UART接口24位ADC搭配RS485,解决远距离温度监控难题

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/5 14:10:30

UART接口24位ADC搭配PIC18F46K22的RTD与热电偶测温实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/5 15:39:06

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

在智慧养宠时代,基于视觉的宠物身份识别技术正逐步从实验室走向家庭应用。然而,与配合度高的人类不同,宠物是典型的“非合作生物识别对象”——它们不会主动配合摄像头调整姿态,更无法控制光照环境。实际应用中,我们常…

2026/11/4 21:04:25

SSM电子书店源码全解析:结构、原理、部署与排错实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/11/5 0:02:07

多智能体协作系统架构设计与实践优化

1. 多智能体协作系统的时代背景2017年Transformer架构的诞生彻底改变了人工智能的发展轨迹。当行业还沉浸在单一大模型带来的性能突破时,Anthropic的研究团队已经将目光投向了更前沿的领域——如何让多个智能体通过协作产生超越单体能力的系统智能。这就像交响乐团中…

2026/11/5 0:02:07

大模型系统性入门实战指南:从原理到部署微调的全链路路线

提到大模型的系统性入门,我先说个结论:这事真不难,难的是资料太散、路线太多,今天这个框架明天那个工具,新人很容易在“收藏夹吃灰”和“教程看到一半放弃”之间反复横跳。市面上关于大模型的内容少说有几十万篇&#…

2026/11/5 0:02:07

鸿蒙文件系统沙箱机制解析与开发实践

1. 鸿蒙文件系统沙箱机制深度解析作为一名从Android转向鸿蒙开发的工程师,我深刻体会到文件系统访问是迁移过程中最先遇到的"拦路虎"。在Android上运行良好的文件读写代码,在鸿蒙真机环境却频频出现文件写入后神秘消失或直接抛出权限拒绝错误的…

2026/11/5 15:39:06

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

在智慧养宠时代,基于视觉的宠物身份识别技术正逐步从实验室走向家庭应用。然而,与配合度高的人类不同,宠物是典型的“非合作生物识别对象”——它们不会主动配合摄像头调整姿态,更无法控制光照环境。实际应用中,我们常…

2026/11/4 21:04:25

SSM电子书店源码全解析:结构、原理、部署与排错实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

还想了解更多?直接咨询顾问

免费诊断 + 免费方案 + 透明报价。

全国咨询热线400-8866-253
免费获取方案
☎咨询二维码 ☎ ↑