当前位置:首页 > AI与算力

机柜经济学:一个 AI 工位值多少钱 | AI 打工日志·算力硬件篇①

AI 打工日志 · 算力硬件篇  

《机柜经济学:一个 AI 工位值多少钱》

你的工位一年几万块,它的工位五百万美元 · 阅读约 9 分钟 · 无需技术背景

mcp-cover-1.jpg

💰

先来看一组扎心对比      你的工位 vs AI 的工位

你坐在工位上,公司在你身上一年花多少钱?工资、社保、工位、电脑、电费网费,杂七杂八加起来,一个普通岗位一年十万块算很体面了。

现在看看 AI 同事的工位。

2026 年市面上最主力的 AI 训练设备,是一台叫 GB300 NVL72 的液冷机柜。2026 年 8 月的真实采购单显示:买一台,略低于 500 万美元;部署到能跑,再加 70 万。

500 万美元,约合 3600 万人民币。这个柜子里没有你的衣柜,没有你的零食柜,甚至没有一把椅子——它是 72 张显卡和 36 颗 CPU 被强行塞进一个 48U 铁柜子里,泡在冷却液里干活。

换算一下:一个 AI 工位的身价,大约是你工位的一千倍。要是你的工位也按这个标准装修,你每天上班相当于在汤臣一品里写周报。

以前说「电脑贵」,说的是家里那台;
现在说「机器贵」,说的是得拿一间厂房来供的一台。
🧊

冰箱里的 72 个博士后      GB300 NVL72 到底是个什么东西

拆开这个柜子之前,先建立一个直觉:它本质上是一台被强行拧成一台电脑的 72 台电脑。

每一张 B300 显卡,本身就算一台小超算:288GB 高速显存、1400W 功耗、单卡 FP4 算力 15 PFLOPS(稠密口径,官方宣传常用稀疏口径 20 PFLOPS)。单独一张已经很猛,但英伟达觉得不够——训练大模型需要几千张卡像一个人一样思考,卡与卡之间说话不能有半点延迟。

于是它干了件暴力的事:用 NVLink 把 72 张卡连成一个整体,带宽 130TB/s,再配 36 颗 Grace CPU 管后勤。对外,这 72 张卡表现得就像一块显卡——软件写一次,跑在整柜上。

这个设计有个形象的类比:把 72 个博士后关进同一间实验室,配了一条他们之间说话零延迟的内部专线。单个博士后再聪明,回答不了一个需要整个实验室协作的问题;这条专线,就是 NVL72 的「72」的含义。

规格GB300 NVL72 整柜你的办公电脑
核心数量72 张 B300 显卡 + 36 颗 CPU1 颗 CPU + 1 张显卡
显存/内存约 21TB HBM3e16-32GB
算力(FP4)约 1.1 EFLOPS约 0.05 TFLOPS
内部互联带宽130 TB/s约 0.02 TB/s
功耗132-142kW(峰值约 155kW)约 0.3kW
重量约 1.59 吨(含冷却液)约 10 千克
散热全液冷,九成热量进冷却水风扇吹吹就行

两个数字值得单独感受:21TB 显存——主流办公电脑内存的几百倍,高配机型下差距能到上千倍,装得下一个万亿参数大模型的全部「脑细胞」;142kW 功耗——大约等于 1000 台家用空调同时满负荷运转,一台机柜就得配一整套工业级供冷。

顺带解释一个读者常问的问题:为什么非得液冷?因为风冷散不掉这个密度。传统机柜功率密度按 5-10kW 设计,这一台直接干到 140kW,风冷在物理上就已经出局了。

🧾

500 万美元,被谁赚走了      一张整柜的价值拆账

这是整柜生意里最反直觉的一张表。按 2026 年拆机分析,GB300 NVL72 的物料构成大致是:

部件内容占整柜价值
英伟达部分72 张 B300、36 颗 Grace、NVLink 交换、网卡、DPU92% 以上
机柜与散热钢架、冷板、冷却液分配单元、供电母线不足 8%
其他代工组装、测试、质保极少

也就是说:一台 500 万美元的机柜,超过 460 万是英伟达的。剩下的 8% 里,才轮到富士康、广达这些代工厂,以及液冷、电源、连接器厂商去分。

这就是所谓「AI 基建狂欢,英伟达通吃」的量化版本。也解释了一个现象:为什么每次 AI 行情,资金最后都绕回英伟达的股价——浪潮再大,钱先进它的口袋。

不过话说回来,那 8% 也不是没看点。分析机构测算,机柜内散热相关价值每代还在以约 20% 的速度往上翻——当整柜功率朝着 250kW 的下一代走,液冷这条赛道的天花板是被算力供电硬生生顶上去的。

一超多强的另一种写法:
92% 是「超」,8% 才是「强」。
🆚

租还是买,一道数学题      不同体量,答案完全不同

不是人人都买得起整柜,绝大多数团队面对的问题是:要用算力,租还是买?

云上 B300 的公开报价大致在每卡每小时 9.4 到 18 美元之间——Oracle 按需价 18 美元,低价云渠道能见到 9.4 美元左右的报价。而整柜买断摊薄后,自有机房的每卡时成本可以压到 2.3 到 3 美元(部分托管商报价 2.28-4.97 美元)。

看出门道了吗?云厂商的商业模式,本质就是「低买高租」。点开下面的计算器,换三种身份感受一下。

🧮 租买对比计算器

选一种身份,看买断和云租的三年账(按 2026 年行情估算)


三个场景看下来,规律只有一条:利用率决定买租,规模决定利润。个人买卡是行为艺术,创业公司买卡是豪赌,只有能把卡跑到八成以上的玩家,才配拥有固定资产。

这也解释了为什么二手市场里捡漏的大多是推理团队和科研院所——训练要最先进的卡,推理用上一代照样跑,需求分层,市场才能转起来。

⚡

都说 AI 是电老虎,电费到底占多少      一个反直觉的结论

「AI 吃掉全国电力」的新闻隔三差五就上头条。我们算笔实在账。

一台整柜 140kW 全天候满负荷跑,一年耗电约 122 万度。按美国工业电价每度 9.2 美分算,一年电费约 11 万美元;就算按最贵的商业电价翻一倍,也就 22 万上下。

对比一下:整柜买断约 500 万,五年电费总共约 55-110 万——电费占五年总拥有成本不到两成。

所以真相是:AI 基建是「资本密集」,不是「能源密集」。折旧才是大头,电费只是老二。这跟外界「AI 最大的成本是电」的印象正好相反。

当然这不代表电力不重要——电力之所以被反复讨论,是因为它卡的是「能不能建」,不是「贵不贵」。一个园区拿不到供电指标,500 万美元的柜子就是一堆废铁。所以英伟达的客户名单里,能源公司和变电站设备商的戏份正越来越重。

折旧决定赚不赚钱,电力决定能不能开局。
两回事,别混为一谈。
🎯

三题小测      收个尾,看记牢没有

1一台 GB300 NVL72 机柜里,超过九成的价值来自哪里?
2按 2026 年的行情,买一整柜大约要花多少钱?
3关于整柜的五年成本,下列说法哪个对?
🏗️

算力硬件篇 · 第一篇 完

下一篇聊这门生意里今年最疯狂的品种:
内存条——一种按克算比黄金还贵的「硅基口粮」。

分享给朋友:

相关文章

用8张图了解算力网产业链

用8张图了解算力网产业链

本文以通俗的方式全面解读算力网产业链,依次梳理了上游硬件元器件、机房配套设施、中游算力集群、调度平台与运营服务、下游各类行业应用三大产业链环节,分析了各环节价值分布,同时介绍了 CPU、GPU、ASI…

国产大模型怎么选? 六大主流模型一句话说清楚

国产大模型怎么选? 六大主流模型一句话说清楚

现在AI大模型火得不行,国产模型更是百花齐放。但名字一大堆:文心一言、通义千问、DeepSeek、Kimi、GLM、讯飞星火……到底哪个好用?该怎么选?别慌,这篇用大白话给你讲明白,看完就知道自己该用…

AI Skill是什么?通俗易懂讲解AI技能包和用法

AI Skill是什么?通俗易懂讲解AI技能包和用法

2026年爆火的AI Skill到底是什么?本文用大白话通俗讲解AI技能包的核心含义,对比AI Skill与Prompt、MCP的本质区别。无需代码基础,普通人也能快速上手,教你如何安装、制作AI S…

大模型:一个读完了整个互联网的“话痨” | AI 三部曲①

大模型:一个读完了整个互联网的“话痨” | AI 三部曲①

大模型不思考、不推理,只做一件事:猜下一个词。用“文字接龙”讲透训练、涌现与幻觉,附可玩的接龙演示。AI 三部曲第一篇。…

Agent:给话痨配上手脚和待办清单 | AI 三部曲②

Agent:给话痨配上手脚和待办清单 | AI 三部曲②

大模型只有嘴,Agent 给它配上了规划、工具、记忆、反思四大装备。用“点一杯咖啡”的完整拆解讲清 Agent。AI 三部曲第二篇。…

当 AI 搬进你的工位:打工人自救指南 | AI 三部曲③

当 AI 搬进你的工位:打工人自救指南 | AI 三部曲③

AI 是 24 小时不喊累的实习生,产出质量取决于你的需求说明书。附好/烂 prompt 对照实验与三题自救测试。三部曲收官。…

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。