据《The Information》援引 OpenAI 内部人士的报道8 月 31 日多家媒体转载过去几个月OpenAI 购买数万台 Mac mini 和 Mac Studio用于强化学习和会操作电脑的智能体computer-using agent的开发Anthropic 也在通过 AWS 租用大量 Mac 算力。AI 实验室放着现成的 GPU 集群转头囤起苹果电脑这事值得掰开看看。Mac 在强化学习里到底干什么活先理解背景这类智能体不是只会聊天而是要像人一样操作电脑——点按钮、敲字、拖文件、跨应用连续干活OpenAI 的 Computer-Using Agent 正是靠强化学习学会操作图形界面的据机器之心/36氪报道。训练这类系统有个特殊需求需要大量可以并行运行、随时重置的操作系统环境。智能体在这些环境里执行任务系统记录操作轨迹、判断结果对不对再把反馈喂回去训练。这种负载的特点是数量大、单次轻、要真机Mac 提供原生 macOS 环境能避免模拟器与真实设备之间的界面、权限、兼容性偏差据机器之心/36氪整理。先说个关键点囤 Mac 不等于告别 GPU。据相关报道分析前沿模型的主训练大概率仍在英伟达集群上完成Mac 承担的是并行交互、轨迹采集、任务验证、本地推理以及部分后训练。换句话说大集群负责让模型变聪明Mac 集群负责让模型学会动手。苹果芯片能被顶级实验室看上硬件底子说得通M 系列是统一内存架构CPU、GPU、神经网络引擎共享同一块内存池省去数据在不同区域间反复搬运。据机器之心引述苹果官方信息M5 Ultra 版 Mac Studio 最高可选 512GB 统一内存、1.2TB/s 内存带宽单机就能装下大参数的量化模型新款还支持雷雳 5 多机组集群分布式推理性能最高约为单机的 3 倍。市场已经先动起来了据《华尔街日报》报道Mac mini 上一年只占苹果美国 Mac 销量约 3%进入 2026 年后却成了常驻型智能体的热门宿主部分高内存版本一度出现数周乃至数月的交付延迟。8 月 25 日苹果发布 M6 Mac mini 和 M5 Ultra Mac Studio宣传重点转向端侧 AI、大模型推理和多机集群M6 Mac mini 中国区起售价 6999 元2024 年的 M4 版是 4499 元两年入门价涨了约 56%据报道。苹果 2026 财年第三季度 Mac 业务收入 103.52 亿美元同比增长约 28.7%据报道。英伟达也在跟进。继 DGX Spark 之后英伟达公布了 RTX Spark——集成 Grace CPU 和 Blackwell GPU最高 1 PFLOP 算力、128GB 统一内存支持 CUDA 与 TensorRT 软件栈定位成面向个人智能体的 PC首批产品今年秋季上市据称华硕首批货源已被渠道客户订空据报道。对普通开发者的实用建议这轮新闻对普通开发者的实际影响是本地跑模型这件事更正经了——以前在 Mac 上跑大模型被当成折腾现在它是 agent 开发、私有化部署的常规选项。几个实操点第一先算内存账。7B/8B 级别的模型4bit 量化后的 GGUF 文件大约 4.5-5GB社区通行经验推理时还要给上下文窗口和操作系统留内存。16GB 内存的机器跑 7B 会有点紧32GB 会从容很多。第二选机器看三样内存容量、内存带宽、散热。同一代芯片里标准版和 Pro/Max/Ultra 的内存带宽差距很大跑大模型时每秒生成的 token 数差别明显别只盯着能塞下多大模型。本地推理用 llama.cpp 就能跑命令很简单# 先下载量化好的 GGUF 模型再执行推理-n 控制生成长度llama-cli-m./qwen2.5-7b-instruct-q4_k_m.gguf-p用Python写一个快速排序-n256第三分清场景再掏钱日常推理、小模型微调、agent 调试Mac 够用大规模训练和微调还是得上 CUDA 生态的 GPU 或者云。下单前也可以先租云上的 Mac 实例按小时试比直接买几万块的机器稳妥。算力正在从只堆数据中心向桌面和本地分流——智能体要在离用户和操作系统近的地方干活硬件就得跟着过去。对打工人来说不用急着跟风换设备但统一内存本地推理这些词以后只会越来越多地出现在工作里。你身边有人开始用 Mac 跑本地模型了吗评论区聊聊。
据《The Information》援引 OpenAI 内部人士的报道8 月 31 日多家媒体转载过去几个月OpenAI 购买数万台 Mac mini 和 Mac Studio用于强化学习和会操作电脑的智能体computer-using agent的开发Anthropic 也在通过 AWS 租用大量 Mac 算力。AI 实验室放着现成的 GPU 集群转头囤起苹果电脑这事值得掰开看看。Mac 在强化学习里到底干什么活先理解背景这类智能体不是只会聊天而是要像人一样操作电脑——点按钮、敲字、拖文件、跨应用连续干活OpenAI 的 Computer-Using Agent 正是靠强化学习学会操作图形界面的据机器之心/36氪报道。训练这类系统有个特殊需求需要大量可以并行运行、随时重置的操作系统环境。智能体在这些环境里执行任务系统记录操作轨迹、判断结果对不对再把反馈喂回去训练。这种负载的特点是数量大、单次轻、要真机Mac 提供原生 macOS 环境能避免模拟器与真实设备之间的界面、权限、兼容性偏差据机器之心/36氪整理。先说个关键点囤 Mac 不等于告别 GPU。据相关报道分析前沿模型的主训练大概率仍在英伟达集群上完成Mac 承担的是并行交互、轨迹采集、任务验证、本地推理以及部分后训练。换句话说大集群负责让模型变聪明Mac 集群负责让模型学会动手。苹果芯片能被顶级实验室看上硬件底子说得通M 系列是统一内存架构CPU、GPU、神经网络引擎共享同一块内存池省去数据在不同区域间反复搬运。据机器之心引述苹果官方信息M5 Ultra 版 Mac Studio 最高可选 512GB 统一内存、1.2TB/s 内存带宽单机就能装下大参数的量化模型新款还支持雷雳 5 多机组集群分布式推理性能最高约为单机的 3 倍。市场已经先动起来了据《华尔街日报》报道Mac mini 上一年只占苹果美国 Mac 销量约 3%进入 2026 年后却成了常驻型智能体的热门宿主部分高内存版本一度出现数周乃至数月的交付延迟。8 月 25 日苹果发布 M6 Mac mini 和 M5 Ultra Mac Studio宣传重点转向端侧 AI、大模型推理和多机集群M6 Mac mini 中国区起售价 6999 元2024 年的 M4 版是 4499 元两年入门价涨了约 56%据报道。苹果 2026 财年第三季度 Mac 业务收入 103.52 亿美元同比增长约 28.7%据报道。英伟达也在跟进。继 DGX Spark 之后英伟达公布了 RTX Spark——集成 Grace CPU 和 Blackwell GPU最高 1 PFLOP 算力、128GB 统一内存支持 CUDA 与 TensorRT 软件栈定位成面向个人智能体的 PC首批产品今年秋季上市据称华硕首批货源已被渠道客户订空据报道。对普通开发者的实用建议这轮新闻对普通开发者的实际影响是本地跑模型这件事更正经了——以前在 Mac 上跑大模型被当成折腾现在它是 agent 开发、私有化部署的常规选项。几个实操点第一先算内存账。7B/8B 级别的模型4bit 量化后的 GGUF 文件大约 4.5-5GB社区通行经验推理时还要给上下文窗口和操作系统留内存。16GB 内存的机器跑 7B 会有点紧32GB 会从容很多。第二选机器看三样内存容量、内存带宽、散热。同一代芯片里标准版和 Pro/Max/Ultra 的内存带宽差距很大跑大模型时每秒生成的 token 数差别明显别只盯着能塞下多大模型。本地推理用 llama.cpp 就能跑命令很简单# 先下载量化好的 GGUF 模型再执行推理-n 控制生成长度llama-cli-m./qwen2.5-7b-instruct-q4_k_m.gguf-p用Python写一个快速排序-n256第三分清场景再掏钱日常推理、小模型微调、agent 调试Mac 够用大规模训练和微调还是得上 CUDA 生态的 GPU 或者云。下单前也可以先租云上的 Mac 实例按小时试比直接买几万块的机器稳妥。算力正在从只堆数据中心向桌面和本地分流——智能体要在离用户和操作系统近的地方干活硬件就得跟着过去。对打工人来说不用急着跟风换设备但统一内存本地推理这些词以后只会越来越多地出现在工作里。你身边有人开始用 Mac 跑本地模型了吗评论区聊聊。
平方复杂度无法被常规优化消除｜TaoToken 统一 Key 通道实测)
