OpenAI 首席执行官萨姆·奥尔特曼 10 月 30 日做客 YouTube 播客 Cheeky Pint,聊到内存供应吃紧时给出一个挺刺耳的说法:把 DRAM 留在个人电脑里、只用到一小会儿,从全球资源分配看相当糟糕。
原话是这么讲的:「从全球分配的角度看,让每个人都把世界上有限的一部分 DRAM 塞在自己电脑里、只有 5% 的时间在用,其实相当糟糕。」(据 The Verge 报道)
他接着解释,面对这种供应严重受限的局面,该做的是让云端的利用率尽量高。让他觉得奇怪的是,很多人的直觉恰好相反。
本地推理这笔账,他算的是全局
这番讨论的起点是开源模型。这两年不少人觉得,既然模型能下载到本地跑,就不必事事依赖云端,个人电脑也能分担一部分推理。奥尔特曼不认这个账:单台机器的内存大部分时间在休息,云端的卡和内存则是排着队等活儿干。
这个说法在玩家圈子里引来不少反弹。Futurism 10 月 30 日汇总的 Reddit 评论里,有人直接说他自私,抱怨「他好像理解不了有人就是想拥有一台自己的电脑」。(据 Futurism 报道)
内存被谁买走了
过去一年内存涨价的推力,很大一块来自 AI 基建。据 The Verge 的说法,三星和 SK 海力士已和多家云服务商以及 OpenAI 的 Stargate 项目签下长约,锁定未来几年全球 RAM 产出的大部分,这些订单的价钱也推高了整机成本。
三星电子在 10 月的业绩电话会议上给出的判断差不多:AI 基建竞争加剧、个人 AI 智能体普及,会继续推高内存需求,而新增产能短期内放不出来,紧张状况可能延续到 2028 年。(据 IT之家 报道)
一台电脑的内存,不是只为 AI 买的
这里面有个容易被忽略的前提。机器的内存不是给 AI 单独配的:浏览器一堆标签、设计软件、游戏、后台挂着的同步盘,吃的都是同一根内存条。把玩家 PC 里的内存整体算成闲置资源,等于默认这台机器只在跑模型时才开机。
另一头,本地推理确实吃内存。常见的 7B、14B 参数模型,量化之后光权重就要占掉几个 GB,上下文拉长还得往上走,这也是想在本地跑点像样模型的人,32GB 内存渐渐成了起步配置的原因。
但这类需求和云端训练、批量推理抢的并不是同一批货:前者要大容量、低频次,后者要高带宽、长时间满载。用云端的使用率去衡量家用机器,尺子本身就不太一样。
对普通装机用户意味着什么
短期看,这件事的落点是价格。内存条、整机、笔记本的报价这半年一直在往上走,把装机和换机的时间点往后推,是不少人正在做的选择。厂商把产能挪向数据中心,消费级市场的供货节奏就会跟着紧。
至于内存该放在哪,眼下没有哪个中立机构在做全球分配,实际由采购合同和产能排期决定。奥尔特曼的表态,客观上也是在为云端采购的逻辑做说明——OpenAI 自己就是这轮内存争夺里出价靠前的买方之一。
利用率这套算法放在数据中心内部是成立的,套到个人电脑上,前提就变了:机器不是只为跑模型开机的,内存条也不是按 AI 的排班表买回来的。
信息来源:IT之家(引 The Verge、Futurism 报道)
相关阅读
苹果M6芯片Mac新品发布:2nm工艺 国行15999元起
REDMI回应K100为何用骁龙8至尊版 同档性能领先
免责声明:本站转载的文章,版权归原作者所有;旨在传递信息,不代表本站的观点和立场。