4台Mac Studio跑通端侧万亿参数模型
四台 Mac Studio 跑通万亿参数模型,我关注的是它背后的变化:企业购买 AI 算力,开始有了更多选择。哪些任务租云端,哪些任务放在自己的机器上,正在成为一道可以算账的经营题。
从使用 AI 的电脑,到承载 AI 的机器
据原文报道,苹果 M5 Ultra 版 Mac Studio 已于 9 月 22 日开始交付,最高支持 512GB 统一内存,其中最高内存配置要到 10 月下旬到货。苹果此前还演示了四台 Mac Studio 联合运行万亿参数模型。
大内存解决的是模型能否装下,多机协作让模型权重可以分散到不同机器。这让 Mac Studio 的产品定位向前走了一步:电脑本身可以成为企业部署模型的算力设备。
我认为,这才是演示的商业意义。苹果有机会从员工桌面的工具供应商,进一步进入企业推理算力的采购清单。
买断设备的经济性,取决于实际工作负载
苹果硬件主管 Johny Srouji 提出的逻辑很直接:企业买下设备后,本地运行的推理就不必逐次向云服务支付 token 费用。对于任务稳定的团队,长期持有设备可能比持续租用云端 GPU 更划算。
但不按 token 付费,并不等于推理没有成本。硬件投入能否被充分利用,最终仍要放回实际业务里计算。
我的判断是,企业采购至少要看三个变量:推理速度、并发能力和总拥有成本。万亿参数模型能够运行,只证明了一种技术可行性,还不能证明它能以合适的速度服务足够多的用户,更不能直接推出成本优势。
所以,模型规模是演示的亮点,真实负载下的效率才是采购依据。
英伟达面对的是增量份额的新变量
原文也指出,Mac Studio 无法替代所有数据中心 GPU 工作负载,苹果自身仍在谷歌云上为部分高要求 AI 任务使用英伟达 GPU。
这并不削弱本地推理的意义。即便英伟达保住现有订单,只要新增推理任务有更多流向终端和企业自有设备,它能获得的增量份额就可能低于市场原先的假设。
我更关注这种分配变化。AI 使用量增长,并不必然意味着同等比例的需求都会转化为云端 GPU 订单。苹果争取的,是让已经售出的芯片和新售出的设备承接其中一部分价值。
未来企业如何在本地与云端之间分配任务,比单纯讨论谁替代谁,更接近实际采购问题。
技术变化与市场定价之间,还有验证距离
原文将这一变化进一步连接到资本市场:苹果股价技术面较强,英伟达仍在宽幅区间震荡,其隐含波动率则处于疫情前以来的低位。文中援引高盛观点,认为市场可能尚未充分计入推理向本地迁移的风险,因此偏好苹果看涨、英伟达看跌的期权表达。
我会把这个交易判断与产业判断分开看。低隐含波动率本身,不能证明市场低估了某一个特定风险;本地推理具备技术可行性,也不意味着企业会立即大规模迁移。
接下来更有价值的证据,是 512GB 配置到货后的实测速度、真实并发下的总拥有成本,以及企业客户是否愿意采购。
对我而言,四台机器的演示打开了一个值得跟踪的方向。它能否改变算力市场的价值分配,要看企业把多少真实任务、多少采购预算交给本地推理。