昇腾支持 Hy3 正式版，国产算力适配更强、更稳、更落地的开源国产大模型

2026 年 7 月 6 日腾讯自研新一代混合专家大语言模型 Hy3 正式上线开源面向所有开发者免费开放在线推理、本地下载、二次微调与商用适配能力。Hy3 是腾讯重构训练框架后推出的新一代 MoE 混合专家大语言模型总参数量 295B激活参数仅 21B兼顾大模型能力与推理成本。模型原生支持 262K 超长上下文窗口可完整读取整仓代码、技术白皮书、行业文档、海量日志无需分段处理。模型内置三级推理模式自由切换快速模式no_think问答提速、标准模式think_low通用场景均衡、深度推理think_high代码/数学/复杂逻辑专用精准匹配日常咨询、业务问答、复杂逻辑等全场景需求实现极速响应与可控算力成本的兼顾。当前昇腾系列产品一直同步支持业界领先系列模型此次 Hy3 正式版开源发布后昇腾在开源社区实现 0day 适配基于 vLLM-Ascend 和 SGLang 在昇腾上实现高性能推理服务帮助用户快速部署落地。模型介绍见之前的报道。昇腾 Hunyuan3 模型适配Hy3 与 Hy3-preview 采用相同架构。昇腾基于 vLLM-Ascend 和 SGLang 底座为其提供完整的适配支持。本教程以 Atlas A3 单机为例为开发者展示在 Atlas A3 上部署 Hy3 模型的方案。vLLM-Ascend 部署方式推荐使用昇腾官方 Docker 镜像一键部署# 拉取并启动 Docker 容器容器内执行 vllm serve 启动推理服务cd /workspace功能验证# 检查模型就绪状态SGLang 部署方式验证版本SGLang v0.5.13建议使用 v0.5.13 或更新版本# 拉取昇腾官方 Docker 镜像容器内启动推理服务export SGLANG_SET_CPU_AFFINITY1功能验证无思考模式curl http://${HOST}:${PORT}/v1/chat/completions \模型权重下载地址Hugging FaceBF16https://huggingface.co/tencent/Hy3Hugging FaceFP8https://huggingface.co/tencent/Hy3-FP8ModelScopehttps://modelscope.cn/models/Tencent-Hunyuan/Hy3AtomGithttps://ai.atomgit.com/tencent_hunyuan/Hy3SGLang 支持特性一览更多资源vLLM-Ascend Hy3 部署教程https://github.com/vllm-project/vllm-ascend/pull/11804SGLang Hy3 昇腾部署文档https://github.com/sgl-project/sglang/pull/30223Hy3 模型开源地址 (AtomGit)https://ai.atomgit.com/tencent_hunyuan/Hy3昇腾让国产算力更懂大模型。 立即体验 Hy3开启您的高效推理之旅