7月25日NVIDIA官方宣布了一组数字——和SK集团的合作计划超过了5000亿美元。看到这个数字愣了几秒。5000亿美元是什么概念相当于瑞典一年的GDP或者全球半导体市场全年营收的一半。当然这应该是分阶段、多年的投入。不是什么明天打款5000亿。但即使稀释到5-10年周期这个规模也远超之前任何AI基础设施投资。具体来说合作覆盖三个方向AI工厂、下一代内存、韩国本土AI生态。翻了一下原文每条线都有自己的逻辑和节奏不是笼统的大合作。先说AI工厂——2吉瓦的Vera Rubin DSX计划中最具体的部分是SK电信将在韩国建设一座2吉瓦的NVIDIA Vera Rubin DSX AI工厂。2吉瓦GW是个什么数字一个典型的数据中心机柜功率在5-10千瓦。2吉瓦 200万千瓦。如果按平均8千瓦/机柜算大概25万个机柜——比目前全球最大的数据中心集群还要大一个数量级。这里容易被忽略的是命名——Vera Rubin DSX。Vera Rubin是NVIDIA下代GPU架构接替BlackwellDSX代表NVIDIA的数据中心基础设施全栈方案。不是买个GPU插上去就行而是包括网络、存储、散热、管理软件在内的整体方案。换句话说这个AI工厂从芯片到液冷到调度系统全是NVIDIA的生态。企业如果在这里租算力实际使用体验和你直接用云GPU差别不会太大——底层的CUDA、网络、集群管理都是同一套东西。SK电信是韩国最大电信运营商之一手里有通信基础设施、数据中心资源、还有企业客户网络。它来运营这个AI工厂面向全球计算需求提供服务——不光是给自己用而是serve global compute demand。从工程角度看2GW的设施不是一下子建成的。第一步可能是几十兆瓦的实验性部署验证设计方案和散热效率再逐步扩展。这种规模的AI工厂涉及电力供应、冷却系统、网络接入等基础设施配套光审批和建设周期就要好几年。内存是另一个重点SK海力士是目前HBM高带宽内存市场的主要玩家和三星一起垄断了HBM3E的产能。HBM对于AI训练和推理意味着什么没有HBM的话GPU的计算单元大部分时间都在等数据——内存带宽跟不上计算速度。HBM通过堆叠DRAM die 宽接口大幅提升带宽。一台NVIDIA H100 GPU有80GB HBM3显存带宽超过3TB/s这是传统DDR内存完全达不到的数字。SK海力士和NVIDIA联合开发下一代内存解决方案。这暗示的不只是HBM3E或HBM4量产可能包括更长期的内存架构创新——比如计算存储融合、或者针对AI推理场景优化的新型内存层级。说白了你不可能在2GW的算力集群上用普通内存——那是给算力喂数据的水管水管不够粗算力再强也白搭。看完这部分的细节真正的问题在于——5000亿美元AI工厂内存两个方向都瞄准了同一个目标解决当前AI基础设施的瓶颈。计算不够 → 建AI工厂数据搬不动 → 做大内存逻辑很直接。但一个问题随之浮现5000亿美元的投资回报周期是多长以目前AI商业化的速度大厂砸钱建基础设施的ROI要到什么时候才能转正这个数字目前没有人能回答。韩国突然成了AI基础设施热点NVIDIA最近在韩国动作密集不光是和SK合作。同一天还官宣了首尔国立大学AI中心和NAVER/Brookfield合建AI工厂。一天之内三连击关注度直接拉满。值得关注的是NVIDIA把韩国当作next wave of AI gets built的地方。不是简单的销售市场而是研发制造运营一体化的节点。对韩国本地开发者来说变化也很实在。以前想大规模训练模型要么去美国租云要么排国内GPU队列。现在家门口就有2GW的AI工厂延迟、合规、数据安全的问题都好解决了。不过说实话 这种大规模集中式计算基础设施和当前越来越流行的边缘AI、小模型本地部署形成了一种有趣的张力。大公司砸5000亿建超大规模AI工厂另一边个人开发者在小模型上跑推理在自己的MacBook上部署7B模型。到底哪条路是未来嗯可能两条都是。大模型训练需要超大规模集群小模型推理需要靠近用户——两者不是替代关系。不过对普通开发者来说一个实际影响是——如果你的团队需要大规模GPU算力未来一两年可能会多一个选择直接从韩国的AI工厂租算力而不是绑定美国的三家云厂商。价格和延迟会怎么变值得持续关注。关于维基框架维基框架关注企业应用开发中的长期维护问题。在实际项目中业务系统往往同时涉及权限、微服务、接口协议、部署环境等复杂因素因此我们希望提供一套更容易扩展和维护的基础框架。官网framewiki.comGiteegitee.com/wiki-frameworkGitHubgithub.com/wiki-framework示例项目gitee.com/cdkjframework/framewiki-example 许可证MulanPSL-2.0木兰宽松许可证第2版
7月25日NVIDIA官方宣布了一组数字——和SK集团的合作计划超过了5000亿美元。看到这个数字愣了几秒。5000亿美元是什么概念相当于瑞典一年的GDP或者全球半导体市场全年营收的一半。当然这应该是分阶段、多年的投入。不是什么明天打款5000亿。但即使稀释到5-10年周期这个规模也远超之前任何AI基础设施投资。具体来说合作覆盖三个方向AI工厂、下一代内存、韩国本土AI生态。翻了一下原文每条线都有自己的逻辑和节奏不是笼统的大合作。先说AI工厂——2吉瓦的Vera Rubin DSX计划中最具体的部分是SK电信将在韩国建设一座2吉瓦的NVIDIA Vera Rubin DSX AI工厂。2吉瓦GW是个什么数字一个典型的数据中心机柜功率在5-10千瓦。2吉瓦 200万千瓦。如果按平均8千瓦/机柜算大概25万个机柜——比目前全球最大的数据中心集群还要大一个数量级。这里容易被忽略的是命名——Vera Rubin DSX。Vera Rubin是NVIDIA下代GPU架构接替BlackwellDSX代表NVIDIA的数据中心基础设施全栈方案。不是买个GPU插上去就行而是包括网络、存储、散热、管理软件在内的整体方案。换句话说这个AI工厂从芯片到液冷到调度系统全是NVIDIA的生态。企业如果在这里租算力实际使用体验和你直接用云GPU差别不会太大——底层的CUDA、网络、集群管理都是同一套东西。SK电信是韩国最大电信运营商之一手里有通信基础设施、数据中心资源、还有企业客户网络。它来运营这个AI工厂面向全球计算需求提供服务——不光是给自己用而是serve global compute demand。从工程角度看2GW的设施不是一下子建成的。第一步可能是几十兆瓦的实验性部署验证设计方案和散热效率再逐步扩展。这种规模的AI工厂涉及电力供应、冷却系统、网络接入等基础设施配套光审批和建设周期就要好几年。内存是另一个重点SK海力士是目前HBM高带宽内存市场的主要玩家和三星一起垄断了HBM3E的产能。HBM对于AI训练和推理意味着什么没有HBM的话GPU的计算单元大部分时间都在等数据——内存带宽跟不上计算速度。HBM通过堆叠DRAM die 宽接口大幅提升带宽。一台NVIDIA H100 GPU有80GB HBM3显存带宽超过3TB/s这是传统DDR内存完全达不到的数字。SK海力士和NVIDIA联合开发下一代内存解决方案。这暗示的不只是HBM3E或HBM4量产可能包括更长期的内存架构创新——比如计算存储融合、或者针对AI推理场景优化的新型内存层级。说白了你不可能在2GW的算力集群上用普通内存——那是给算力喂数据的水管水管不够粗算力再强也白搭。看完这部分的细节真正的问题在于——5000亿美元AI工厂内存两个方向都瞄准了同一个目标解决当前AI基础设施的瓶颈。计算不够 → 建AI工厂数据搬不动 → 做大内存逻辑很直接。但一个问题随之浮现5000亿美元的投资回报周期是多长以目前AI商业化的速度大厂砸钱建基础设施的ROI要到什么时候才能转正这个数字目前没有人能回答。韩国突然成了AI基础设施热点NVIDIA最近在韩国动作密集不光是和SK合作。同一天还官宣了首尔国立大学AI中心和NAVER/Brookfield合建AI工厂。一天之内三连击关注度直接拉满。值得关注的是NVIDIA把韩国当作next wave of AI gets built的地方。不是简单的销售市场而是研发制造运营一体化的节点。对韩国本地开发者来说变化也很实在。以前想大规模训练模型要么去美国租云要么排国内GPU队列。现在家门口就有2GW的AI工厂延迟、合规、数据安全的问题都好解决了。不过说实话 这种大规模集中式计算基础设施和当前越来越流行的边缘AI、小模型本地部署形成了一种有趣的张力。大公司砸5000亿建超大规模AI工厂另一边个人开发者在小模型上跑推理在自己的MacBook上部署7B模型。到底哪条路是未来嗯可能两条都是。大模型训练需要超大规模集群小模型推理需要靠近用户——两者不是替代关系。不过对普通开发者来说一个实际影响是——如果你的团队需要大规模GPU算力未来一两年可能会多一个选择直接从韩国的AI工厂租算力而不是绑定美国的三家云厂商。价格和延迟会怎么变值得持续关注。关于维基框架维基框架关注企业应用开发中的长期维护问题。在实际项目中业务系统往往同时涉及权限、微服务、接口协议、部署环境等复杂因素因此我们希望提供一套更容易扩展和维护的基础框架。官网framewiki.comGiteegitee.com/wiki-frameworkGitHubgithub.com/wiki-framework示例项目gitee.com/cdkjframework/framewiki-example 许可证MulanPSL-2.0木兰宽松许可证第2版
