蚂蚁集团百灵团队InclusionAI于 2026-09-09 发布、09-10 开放权重的Ling-3.0-flash-VL是百灵系列首个原生多模态模型124B 总参、单 token 仅激活 5.5B 的稀疏 MoEMIT 许可原生支持图像/文本/短视频输入。BF16 权重约 255GB、FP8 约 128GB需 4×141GB 级或 8×80GB GPU 才能加载官方数据本机未实测。一、模型速览项目内容发布方蚂蚁集团 InclusionAI中国开源时间2026-09-09 发布2026-09-10 权重上线 Hugging Face / ModelScope参数量总参 124B1240亿单 token 激活 5.5B8/512 路由专家 1 共享专家架构稀疏 MoE42 层KDAKimi Delta Attention与 Gated MLA 以 5:1 交替35 KDA 7 Gated MLA上下文官方标称最高 1MSGLang 官方配方提供 256K YaRN许可证MIT允许商用、微调、二次分发需保留声明注意部分中文媒体误报为 Apache 2.0模态文本 图像 短视频输入文本含推理链输出ViT 编码器 2 层 MLP 投影 VideoRoPE定位把“视觉反馈闭环”做进原生多模态推理的 Agent 底座主攻 GUI 自动化、图片转网页、医疗报告解读一句话定位一个 124B 总量却只激活 5.5B、带“先看再做再核对”视觉自纠机制的 MIT 开源多模态模型适合要本地/私有化跑 GUI 操作、图生代码、跨文档视觉推理的团队。二、核心亮点5:1 混合注意力 稀疏 MoE激活参数只有 5.5B。语言主干 42 层按 5:1 交替排布 Kimi Delta Attention线性注意力压长序列显存增长与 Gated MLA保留长程上下文。路由层每 token 走 8/512 路由专家 1 共享专家。结果是模型“体量”是 124B但每次推理的计算量接近一个 5.5B 稠密模型——这也是它能上视觉还不涨激活成本的原因来源官方模型卡 / AlphaSignal / MindStudio2026-09。“视觉反馈闭环”机制而非一次性看图。任务执行被设计成“观察 → 行动 → 验证 → 修正”的持续循环模型可“再看一遍”来纠正自己的理解。官方称在 Image-to-WebDev Arena代号 linthium得分高于 GPT-5.4医疗报告解读支持跨文档数据整合与风险标识GUI Agent 场景下能识别界面结构、完成跨工具操作来源官方博客 / 模型卡待独立复测。原生多模态视觉信息进同一表征空间。通过 ViT 视觉编码器 两层 MLP 投影器把图像/视频对齐到文本空间并用 VideoRoPE 做时空位置编码支持任意分辨率图像与短时长视频对话。引入视觉后Artificial Analysis Intelligence Index v4.1.1 从纯文本版 38 分升到42 分来源官方模型卡v4.1.1 厂商引用值第三方 Artificial Analysis v4.3 给分为 25见第四节。MIT 许可 双精度权重落地门槛在显存不在授权。BF16约 255GB与 FP8约 128GB权重已开源FP4/INT4 计划近期发布Day-1 支持 SGLang 与 InclusionAI 的 vLLM fork来源官方模型卡 / myaiexp。三、部署实战最重要必须可复制运行3.1 环境准备与模型下载官方推荐的推理运行时是SGLang 专属镜像含 Ling 的 YaRN 与 KDA/MLA 适配vLLM 需用 InclusionAI 的 fork库存 wheel 直接vllm serve无法加载见避坑。Ollama 暂未收录该模型124B 自定义 KDA/MLA 运行时不要指望一行ollama run当前唯一稳妥路径是上面的 SGLang 镜像或 inclusionAI/vllm-ling-v3 fork。3.2 启动本地推理服务官方 SGLang cookbook 给出 256K YaRN 配方141GB 级卡用--tp 480GB 卡用--tp 8。端点http://localhost:30000/v1OpenAI 兼容。3.3 推理代码复制即跑用 OpenAI SDK 对接本地端点演示“图 文”多模态调用报告/图表解读场景视频输入把image_url换成video_url官方支持短时长视频其余结构一致。3.4 效果验证curl 冒烟测试成功判据返回 JSON 含choices[0].message.content且内容非空若报model not found检查served-model-name若报显存不足OOM说明--tp不够或权重精度过高改用 FP8。⚠️ 避坑提醒库存 vLLM 不能直接vllm serve加载模型卡指向inclusionAI/vllm-ling-v3fork普通pip install vllm的 wheel 会报架构不支持。优先用上面的 SGLang 官方镜像最稳。许可证是 MIT不是 Apache 2.0部分中文资讯误报。商用/二开没问题但 MIT 与 Apache 2.0 的专利条款不同法务侧别套错模板。BF16 约 255GB单卡跑不了141GB 卡也要--tp 480GB 卡要--tp 8想压显存等 FP4/INT4 官方量化计划发布。长上下文不是默认 1M卡片标称“最高 1M”但官方给到的可跑配方是 256K YaRN直接开 1M 需自行验证稳定性与显存。VideoRoPE 仅支持短时长视频长视频别一次性塞分段时间窗喂入更稳。四、性能测评4.1 推理速度与显存表配置显存占用吞吐来源BF16 全量~255GB运行时开销未独立实测官方模型卡 / AlphaSignalFP8~128GB未独立实测官方模型卡 / AlphaSignalSGLang tp4 4×141GB / tp8 80GB256K YaRN未独立实测myaiexp / SGLang cookbook推理成本参考激活 5.5B/token—官方模型卡说明截至本文撰写社区尚未放出可信的单机/单卡吞吐实测上表显存数为官方与第三方AlphaSignal披露速度一项本机未实测不编造。4.2 生成质量分维度官方基准待第三方复测维度基准得分来源视觉感知CountBench97.33官方数据视觉感知WorldVQA45.67官方数据STEM 推理MMMU-Pro79.00官方数据STEM 推理MathVision84.87官方数据文档智能OmniDocBench1.591.35官方数据文档智能CharXiv_RQ81.30官方数据Agentic 多模态WebVoyager90.83官方数据Agentic 多模态ClawEval-MM59.90官方数据Agentic 多模态MMSearch79.00官方数据前端编程Vision2Web57.69官方数据综合 Intelligent IndexAA v4.1.142文本版 38官方引用值厂商综合 Intelligent IndexAA v4.325第三方 Artificial Analysis事实准确率AA-Omniscience14%第三方 Artificial Analysis幻觉率—22%第三方 Artificial Analysis注意AA v4.3 给的 25 分与官方引用的 v4.1.1 的 42 分存在口径差异评测版本不同且第三方测到事实准确率仅 14%、幻觉率 22%——长推理链 verbose平均约 5 万输出 token/任务会放大幻觉面落地严肃场景务必配检索/校验护栏。4.3 同档模型对比表模型总参/激活上下文许可视觉综合 IndexLing-3.0-flash-VL124B / 5.5B最高 1M配方 256KMIT原生图视频AA v4.1.142Qwen3.8-Flash125B / 6B128KApache 2.0原生厂商自报未列 IndexGLM-5.3-Flash320B / 18B1MMIT原生厂商自报结论三款都是“大总量、小激活”的 Flash 级 MoE定位接近。Ling 的差异化在视觉反馈闭环 原生视频 MIT适合要“看→做→核对”的 AgentQwen3.8-Flash 上下文更短但生态成熟GLM-5.3-Flash 激活更高、容量更大。选型看 workload要私有化视觉 Agent 且看重许可宽松选 Ling要长文本通用看 GLM要 HuggingFace 生态即插即用看 Qwen。五、使用建议适用场景GUI / 桌面自动化识别界面结构、跨工具点击操作官方 ClawEval-MM 59.9。图片转网页 / 前端代码Image-to-WebDev Arena 高于 GPT-5.4配合自纠循环修样式。医疗/金融报告解读跨文档信息整合与风险标识。多模态 RAG图文混合检索后的结构化抽取。不适用场景纯文本长上下文通用助手激活仅 5.5B文本智能 AA v4.3 仅 25弱于同体量纯文本模型改选 GLM-5.3 / Qwen3.8 文本系。严肃医疗诊断第三方测幻觉率 22%、事实准确率 14%不能当诊断依据需人工复核 检索护栏。单卡/边缘部署BF16 255GB 起等 FP4/INT4 量化。调优提示显存不够先用FP8约 128GB再不够等官方 INT4别自己随便量化破坏 KDA/MLA 结构。上下文默认开256K YaRN非必要不开 1M省显存且更稳。多图/视频分批喂避免一次性长视频撑爆 KV cache。严肃场景必须接外部检索 事实校验抑制 verbose 推理带来的幻觉放大。数据来源说明本文性能数据来自官方模型卡 / 博客InclusionAI、Artificial Analysis第三方 Intelligence Index v4.1.1 / v4.3、AA-Omniscience、AlphaSignal、MindStudio、myaiexp 等公开来源均已在正文标注来源基准多数为厂商发布值以独立第三方复测为准。本机未做实测不编造任何速度数字。
蚂蚁集团百灵团队InclusionAI于 2026-09-09 发布、09-10 开放权重的Ling-3.0-flash-VL是百灵系列首个原生多模态模型124B 总参、单 token 仅激活 5.5B 的稀疏 MoEMIT 许可原生支持图像/文本/短视频输入。BF16 权重约 255GB、FP8 约 128GB需 4×141GB 级或 8×80GB GPU 才能加载官方数据本机未实测。一、模型速览项目内容发布方蚂蚁集团 InclusionAI中国开源时间2026-09-09 发布2026-09-10 权重上线 Hugging Face / ModelScope参数量总参 124B1240亿单 token 激活 5.5B8/512 路由专家 1 共享专家架构稀疏 MoE42 层KDAKimi Delta Attention与 Gated MLA 以 5:1 交替35 KDA 7 Gated MLA上下文官方标称最高 1MSGLang 官方配方提供 256K YaRN许可证MIT允许商用、微调、二次分发需保留声明注意部分中文媒体误报为 Apache 2.0模态文本 图像 短视频输入文本含推理链输出ViT 编码器 2 层 MLP 投影 VideoRoPE定位把“视觉反馈闭环”做进原生多模态推理的 Agent 底座主攻 GUI 自动化、图片转网页、医疗报告解读一句话定位一个 124B 总量却只激活 5.5B、带“先看再做再核对”视觉自纠机制的 MIT 开源多模态模型适合要本地/私有化跑 GUI 操作、图生代码、跨文档视觉推理的团队。二、核心亮点5:1 混合注意力 稀疏 MoE激活参数只有 5.5B。语言主干 42 层按 5:1 交替排布 Kimi Delta Attention线性注意力压长序列显存增长与 Gated MLA保留长程上下文。路由层每 token 走 8/512 路由专家 1 共享专家。结果是模型“体量”是 124B但每次推理的计算量接近一个 5.5B 稠密模型——这也是它能上视觉还不涨激活成本的原因来源官方模型卡 / AlphaSignal / MindStudio2026-09。“视觉反馈闭环”机制而非一次性看图。任务执行被设计成“观察 → 行动 → 验证 → 修正”的持续循环模型可“再看一遍”来纠正自己的理解。官方称在 Image-to-WebDev Arena代号 linthium得分高于 GPT-5.4医疗报告解读支持跨文档数据整合与风险标识GUI Agent 场景下能识别界面结构、完成跨工具操作来源官方博客 / 模型卡待独立复测。原生多模态视觉信息进同一表征空间。通过 ViT 视觉编码器 两层 MLP 投影器把图像/视频对齐到文本空间并用 VideoRoPE 做时空位置编码支持任意分辨率图像与短时长视频对话。引入视觉后Artificial Analysis Intelligence Index v4.1.1 从纯文本版 38 分升到42 分来源官方模型卡v4.1.1 厂商引用值第三方 Artificial Analysis v4.3 给分为 25见第四节。MIT 许可 双精度权重落地门槛在显存不在授权。BF16约 255GB与 FP8约 128GB权重已开源FP4/INT4 计划近期发布Day-1 支持 SGLang 与 InclusionAI 的 vLLM fork来源官方模型卡 / myaiexp。三、部署实战最重要必须可复制运行3.1 环境准备与模型下载官方推荐的推理运行时是SGLang 专属镜像含 Ling 的 YaRN 与 KDA/MLA 适配vLLM 需用 InclusionAI 的 fork库存 wheel 直接vllm serve无法加载见避坑。Ollama 暂未收录该模型124B 自定义 KDA/MLA 运行时不要指望一行ollama run当前唯一稳妥路径是上面的 SGLang 镜像或 inclusionAI/vllm-ling-v3 fork。3.2 启动本地推理服务官方 SGLang cookbook 给出 256K YaRN 配方141GB 级卡用--tp 480GB 卡用--tp 8。端点http://localhost:30000/v1OpenAI 兼容。3.3 推理代码复制即跑用 OpenAI SDK 对接本地端点演示“图 文”多模态调用报告/图表解读场景视频输入把image_url换成video_url官方支持短时长视频其余结构一致。3.4 效果验证curl 冒烟测试成功判据返回 JSON 含choices[0].message.content且内容非空若报model not found检查served-model-name若报显存不足OOM说明--tp不够或权重精度过高改用 FP8。⚠️ 避坑提醒库存 vLLM 不能直接vllm serve加载模型卡指向inclusionAI/vllm-ling-v3fork普通pip install vllm的 wheel 会报架构不支持。优先用上面的 SGLang 官方镜像最稳。许可证是 MIT不是 Apache 2.0部分中文资讯误报。商用/二开没问题但 MIT 与 Apache 2.0 的专利条款不同法务侧别套错模板。BF16 约 255GB单卡跑不了141GB 卡也要--tp 480GB 卡要--tp 8想压显存等 FP4/INT4 官方量化计划发布。长上下文不是默认 1M卡片标称“最高 1M”但官方给到的可跑配方是 256K YaRN直接开 1M 需自行验证稳定性与显存。VideoRoPE 仅支持短时长视频长视频别一次性塞分段时间窗喂入更稳。四、性能测评4.1 推理速度与显存表配置显存占用吞吐来源BF16 全量~255GB运行时开销未独立实测官方模型卡 / AlphaSignalFP8~128GB未独立实测官方模型卡 / AlphaSignalSGLang tp4 4×141GB / tp8 80GB256K YaRN未独立实测myaiexp / SGLang cookbook推理成本参考激活 5.5B/token—官方模型卡说明截至本文撰写社区尚未放出可信的单机/单卡吞吐实测上表显存数为官方与第三方AlphaSignal披露速度一项本机未实测不编造。4.2 生成质量分维度官方基准待第三方复测维度基准得分来源视觉感知CountBench97.33官方数据视觉感知WorldVQA45.67官方数据STEM 推理MMMU-Pro79.00官方数据STEM 推理MathVision84.87官方数据文档智能OmniDocBench1.591.35官方数据文档智能CharXiv_RQ81.30官方数据Agentic 多模态WebVoyager90.83官方数据Agentic 多模态ClawEval-MM59.90官方数据Agentic 多模态MMSearch79.00官方数据前端编程Vision2Web57.69官方数据综合 Intelligent IndexAA v4.1.142文本版 38官方引用值厂商综合 Intelligent IndexAA v4.325第三方 Artificial Analysis事实准确率AA-Omniscience14%第三方 Artificial Analysis幻觉率—22%第三方 Artificial Analysis注意AA v4.3 给的 25 分与官方引用的 v4.1.1 的 42 分存在口径差异评测版本不同且第三方测到事实准确率仅 14%、幻觉率 22%——长推理链 verbose平均约 5 万输出 token/任务会放大幻觉面落地严肃场景务必配检索/校验护栏。4.3 同档模型对比表模型总参/激活上下文许可视觉综合 IndexLing-3.0-flash-VL124B / 5.5B最高 1M配方 256KMIT原生图视频AA v4.1.142Qwen3.8-Flash125B / 6B128KApache 2.0原生厂商自报未列 IndexGLM-5.3-Flash320B / 18B1MMIT原生厂商自报结论三款都是“大总量、小激活”的 Flash 级 MoE定位接近。Ling 的差异化在视觉反馈闭环 原生视频 MIT适合要“看→做→核对”的 AgentQwen3.8-Flash 上下文更短但生态成熟GLM-5.3-Flash 激活更高、容量更大。选型看 workload要私有化视觉 Agent 且看重许可宽松选 Ling要长文本通用看 GLM要 HuggingFace 生态即插即用看 Qwen。五、使用建议适用场景GUI / 桌面自动化识别界面结构、跨工具点击操作官方 ClawEval-MM 59.9。图片转网页 / 前端代码Image-to-WebDev Arena 高于 GPT-5.4配合自纠循环修样式。医疗/金融报告解读跨文档信息整合与风险标识。多模态 RAG图文混合检索后的结构化抽取。不适用场景纯文本长上下文通用助手激活仅 5.5B文本智能 AA v4.3 仅 25弱于同体量纯文本模型改选 GLM-5.3 / Qwen3.8 文本系。严肃医疗诊断第三方测幻觉率 22%、事实准确率 14%不能当诊断依据需人工复核 检索护栏。单卡/边缘部署BF16 255GB 起等 FP4/INT4 量化。调优提示显存不够先用FP8约 128GB再不够等官方 INT4别自己随便量化破坏 KDA/MLA 结构。上下文默认开256K YaRN非必要不开 1M省显存且更稳。多图/视频分批喂避免一次性长视频撑爆 KV cache。严肃场景必须接外部检索 事实校验抑制 verbose 推理带来的幻觉放大。数据来源说明本文性能数据来自官方模型卡 / 博客InclusionAI、Artificial Analysis第三方 Intelligence Index v4.1.1 / v4.3、AA-Omniscience、AlphaSignal、MindStudio、myaiexp 等公开来源均已在正文标注来源基准多数为厂商发布值以独立第三方复测为准。本机未做实测不编造任何速度数字。
