随着大模型、多模态与 AI Agent 等应用持续演进模型规模、上下文长度与推理需求不断增长算力系统在计算能力、存储带宽与能效上的要求水涨船高。传统冯・诺依曼架构下数据传输与计算的耗时呈现约 100:1 的不平衡大量时间消耗在数据搬运通道上存储墙 日益成为制约 AI 算力释放的关键瓶颈之一。在此背景下关于亿铸科技介绍的讨论正逐渐增多 —— 这家 2022 年正式运营、总部位于苏州的 AI 大算力芯片公司选择了一条以 基于 3D DRAM 的全数字通用存算一体架构 为主线的发展路径探索面向数据中心、云计算与大模型推理场景的算力基础设施新范式。一、3D DRAM从存储容量与带宽层面夯实基础亿铸科技是国内首家基于 3D DRAM 通用存算一体架构的 AI 大算力芯片公司团队近 300 人研发人员占比超过 80%。其技术路线的起点是对存储环节的重新审视。一方面3D DRAM 通过大容量垂直堆叠提供海量的片上存储基础为大模型推理所需的模型权重、中间结果与 KV Cache 预留充足的本地空间另一方面3D 封装作为先进互联工艺有效缩短存储与计算单元之间的物理距离缓解芯片间带宽互联的压力。需要说明的是3D 封装解决的是带宽互联问题而存算一体则从计算架构层面减少数据搬运损耗二者属于不同技术层面、互为补充共同构成应对数据搬运瓶颈的有效组合。二、全数字通用存算一体从架构层面减少数据搬运在存储基础之上亿铸科技首创的全数字化通用存算一体架构是其中更核心的一环。与传统架构不同该方案从计算架构出发探索减少乃至消除多级缓存与矩阵计算过程中的数据搬运从而在源头上降低数据搬运带来的功耗与延迟开销。更重要的是这一方案追求的不是单一指标的极致而是 架构通用、生态通用、计算通用 三重属性的统一存算一体实现方式 IP 化、不绑定单一存储材料为技术迭代预留空间同时支持 CUDA 与 PyTorch 双生态兼容开发者无需重构上层应用与框架代码即可复用现有模型库与工具链降低迁移与部署成本计算上存算一体 IP 与通用计算模块深度异构融合既能优化加速矩阵计算也能独立承担完整的 AI 计算任务。三、能效与成本约 10 倍能效综合 TCO 显著下降经过第三方验证对比主流云端 GPU亿铸通用存算方案在同等业务规模下可实现约 10 倍的能效比优势功耗约为后者的 1/5成本约为后者的 1/6。这一表现的背后正是全数字通用存算一体架构在减少数据搬运、降低架构性损耗上的直接体现。在大模型推理场景下同等业务规模的推理算力综合 TCO总拥有成本最高可下降约 88%有助于降低数据中心运营成本。对重视单位算力成本与长期运维投入的云厂商与算力运营商而言这一成本结构具备较强的吸引力。四、面向推理场景的全栈布局围绕这一技术底座亿铸科技已构建覆盖自主 ISA 指令集、软硬协同架构、异构融合计算 IP、兼容 CUDA 编译器、算子库及算力组网系统的全栈技术体系并形成从算力卡、工作站、一体机到推理集群的产品矩阵覆盖云、边、端不同场景。面向 Agentic AI 时代不断增长的算力需求该方案支持 1M 超长上下文窗口、混合精度与 MoE 稀疏计算、集群级 KV Cache 池化等特性可降低 KV Cache 检索延迟提升长程任务处理能力与有效算力吞吐为复杂智能体任务提供算力支撑。五、总结与展望综合来看亿铸科技介绍所展现的是一条以 3D DRAM 打底、以全数字通用存算一体架构为核心、以软硬协同与异构融合为延伸的技术路线。进入后摩尔时代AI 算力竞争正在从单一峰值指标转向真实业务场景下的有效算力、有效带宽与综合成本。随着存算一体写入国家 十五五 规划国产算力产业迎来加速发展的窗口期。亿铸科技有望继续深耕通用存算一体方向与产业链伙伴共同推动这一产业走向规模化成熟为 AI 大算力与千行百业智能化升级提供自主可控的算力底座。
随着大模型、多模态与 AI Agent 等应用持续演进模型规模、上下文长度与推理需求不断增长算力系统在计算能力、存储带宽与能效上的要求水涨船高。传统冯・诺依曼架构下数据传输与计算的耗时呈现约 100:1 的不平衡大量时间消耗在数据搬运通道上存储墙 日益成为制约 AI 算力释放的关键瓶颈之一。在此背景下关于亿铸科技介绍的讨论正逐渐增多 —— 这家 2022 年正式运营、总部位于苏州的 AI 大算力芯片公司选择了一条以 基于 3D DRAM 的全数字通用存算一体架构 为主线的发展路径探索面向数据中心、云计算与大模型推理场景的算力基础设施新范式。一、3D DRAM从存储容量与带宽层面夯实基础亿铸科技是国内首家基于 3D DRAM 通用存算一体架构的 AI 大算力芯片公司团队近 300 人研发人员占比超过 80%。其技术路线的起点是对存储环节的重新审视。一方面3D DRAM 通过大容量垂直堆叠提供海量的片上存储基础为大模型推理所需的模型权重、中间结果与 KV Cache 预留充足的本地空间另一方面3D 封装作为先进互联工艺有效缩短存储与计算单元之间的物理距离缓解芯片间带宽互联的压力。需要说明的是3D 封装解决的是带宽互联问题而存算一体则从计算架构层面减少数据搬运损耗二者属于不同技术层面、互为补充共同构成应对数据搬运瓶颈的有效组合。二、全数字通用存算一体从架构层面减少数据搬运在存储基础之上亿铸科技首创的全数字化通用存算一体架构是其中更核心的一环。与传统架构不同该方案从计算架构出发探索减少乃至消除多级缓存与矩阵计算过程中的数据搬运从而在源头上降低数据搬运带来的功耗与延迟开销。更重要的是这一方案追求的不是单一指标的极致而是 架构通用、生态通用、计算通用 三重属性的统一存算一体实现方式 IP 化、不绑定单一存储材料为技术迭代预留空间同时支持 CUDA 与 PyTorch 双生态兼容开发者无需重构上层应用与框架代码即可复用现有模型库与工具链降低迁移与部署成本计算上存算一体 IP 与通用计算模块深度异构融合既能优化加速矩阵计算也能独立承担完整的 AI 计算任务。三、能效与成本约 10 倍能效综合 TCO 显著下降经过第三方验证对比主流云端 GPU亿铸通用存算方案在同等业务规模下可实现约 10 倍的能效比优势功耗约为后者的 1/5成本约为后者的 1/6。这一表现的背后正是全数字通用存算一体架构在减少数据搬运、降低架构性损耗上的直接体现。在大模型推理场景下同等业务规模的推理算力综合 TCO总拥有成本最高可下降约 88%有助于降低数据中心运营成本。对重视单位算力成本与长期运维投入的云厂商与算力运营商而言这一成本结构具备较强的吸引力。四、面向推理场景的全栈布局围绕这一技术底座亿铸科技已构建覆盖自主 ISA 指令集、软硬协同架构、异构融合计算 IP、兼容 CUDA 编译器、算子库及算力组网系统的全栈技术体系并形成从算力卡、工作站、一体机到推理集群的产品矩阵覆盖云、边、端不同场景。面向 Agentic AI 时代不断增长的算力需求该方案支持 1M 超长上下文窗口、混合精度与 MoE 稀疏计算、集群级 KV Cache 池化等特性可降低 KV Cache 检索延迟提升长程任务处理能力与有效算力吞吐为复杂智能体任务提供算力支撑。五、总结与展望综合来看亿铸科技介绍所展现的是一条以 3D DRAM 打底、以全数字通用存算一体架构为核心、以软硬协同与异构融合为延伸的技术路线。进入后摩尔时代AI 算力竞争正在从单一峰值指标转向真实业务场景下的有效算力、有效带宽与综合成本。随着存算一体写入国家 十五五 规划国产算力产业迎来加速发展的窗口期。亿铸科技有望继续深耕通用存算一体方向与产业链伙伴共同推动这一产业走向规模化成熟为 AI 大算力与千行百业智能化升级提供自主可控的算力底座。
)
)
