机柜经济学:一个 AI 工位值多少钱 | AI 打工日志·算力硬件篇①
《机柜经济学:一个 AI 工位值多少钱》
你的工位一年几万块,它的工位五百万美元 · 阅读约 9 分钟 · 无需技术背景

先来看一组扎心对比 你的工位 vs AI 的工位
你坐在工位上,公司在你身上一年花多少钱?工资、社保、工位、电脑、电费网费,杂七杂八加起来,一个普通岗位一年十万块算很体面了。
现在看看 AI 同事的工位。
2026 年市面上最主力的 AI 训练设备,是一台叫 GB300 NVL72 的液冷机柜。2026 年 8 月的真实采购单显示:买一台,略低于 500 万美元;部署到能跑,再加 70 万。
500 万美元,约合 3600 万人民币。这个柜子里没有你的衣柜,没有你的零食柜,甚至没有一把椅子——它是 72 张显卡和 36 颗 CPU 被强行塞进一个 48U 铁柜子里,泡在冷却液里干活。
换算一下:一个 AI 工位的身价,大约是你工位的一千倍。要是你的工位也按这个标准装修,你每天上班相当于在汤臣一品里写周报。
现在说「机器贵」,说的是得拿一间厂房来供的一台。
冰箱里的 72 个博士后 GB300 NVL72 到底是个什么东西
拆开这个柜子之前,先建立一个直觉:它本质上是一台被强行拧成一台电脑的 72 台电脑。
每一张 B300 显卡,本身就算一台小超算:288GB 高速显存、1400W 功耗、单卡 FP4 算力 15 PFLOPS(稠密口径,官方宣传常用稀疏口径 20 PFLOPS)。单独一张已经很猛,但英伟达觉得不够——训练大模型需要几千张卡像一个人一样思考,卡与卡之间说话不能有半点延迟。
于是它干了件暴力的事:用 NVLink 把 72 张卡连成一个整体,带宽 130TB/s,再配 36 颗 Grace CPU 管后勤。对外,这 72 张卡表现得就像一块显卡——软件写一次,跑在整柜上。
这个设计有个形象的类比:把 72 个博士后关进同一间实验室,配了一条他们之间说话零延迟的内部专线。单个博士后再聪明,回答不了一个需要整个实验室协作的问题;这条专线,就是 NVL72 的「72」的含义。
| 规格 | GB300 NVL72 整柜 | 你的办公电脑 |
|---|---|---|
| 核心数量 | 72 张 B300 显卡 + 36 颗 CPU | 1 颗 CPU + 1 张显卡 |
| 显存/内存 | 约 21TB HBM3e | 16-32GB |
| 算力(FP4) | 约 1.1 EFLOPS | 约 0.05 TFLOPS |
| 内部互联带宽 | 130 TB/s | 约 0.02 TB/s |
| 功耗 | 132-142kW(峰值约 155kW) | 约 0.3kW |
| 重量 | 约 1.59 吨(含冷却液) | 约 10 千克 |
| 散热 | 全液冷,九成热量进冷却水 | 风扇吹吹就行 |
两个数字值得单独感受:21TB 显存——主流办公电脑内存的几百倍,高配机型下差距能到上千倍,装得下一个万亿参数大模型的全部「脑细胞」;142kW 功耗——大约等于 1000 台家用空调同时满负荷运转,一台机柜就得配一整套工业级供冷。
顺带解释一个读者常问的问题:为什么非得液冷?因为风冷散不掉这个密度。传统机柜功率密度按 5-10kW 设计,这一台直接干到 140kW,风冷在物理上就已经出局了。
500 万美元,被谁赚走了 一张整柜的价值拆账
这是整柜生意里最反直觉的一张表。按 2026 年拆机分析,GB300 NVL72 的物料构成大致是:
| 部件 | 内容 | 占整柜价值 |
|---|---|---|
| 英伟达部分 | 72 张 B300、36 颗 Grace、NVLink 交换、网卡、DPU | 92% 以上 |
| 机柜与散热 | 钢架、冷板、冷却液分配单元、供电母线 | 不足 8% |
| 其他 | 代工组装、测试、质保 | 极少 |
也就是说:一台 500 万美元的机柜,超过 460 万是英伟达的。剩下的 8% 里,才轮到富士康、广达这些代工厂,以及液冷、电源、连接器厂商去分。
这就是所谓「AI 基建狂欢,英伟达通吃」的量化版本。也解释了一个现象:为什么每次 AI 行情,资金最后都绕回英伟达的股价——浪潮再大,钱先进它的口袋。
不过话说回来,那 8% 也不是没看点。分析机构测算,机柜内散热相关价值每代还在以约 20% 的速度往上翻——当整柜功率朝着 250kW 的下一代走,液冷这条赛道的天花板是被算力供电硬生生顶上去的。
92% 是「超」,8% 才是「强」。
租还是买,一道数学题 不同体量,答案完全不同
不是人人都买得起整柜,绝大多数团队面对的问题是:要用算力,租还是买?
云上 B300 的公开报价大致在每卡每小时 9.4 到 18 美元之间——Oracle 按需价 18 美元,低价云渠道能见到 9.4 美元左右的报价。而整柜买断摊薄后,自有机房的每卡时成本可以压到 2.3 到 3 美元(部分托管商报价 2.28-4.97 美元)。
看出门道了吗?云厂商的商业模式,本质就是「低买高租」。点开下面的计算器,换三种身份感受一下。
选一种身份,看买断和云租的三年账(按 2026 年行情估算)
三个场景看下来,规律只有一条:利用率决定买租,规模决定利润。个人买卡是行为艺术,创业公司买卡是豪赌,只有能把卡跑到八成以上的玩家,才配拥有固定资产。
这也解释了为什么二手市场里捡漏的大多是推理团队和科研院所——训练要最先进的卡,推理用上一代照样跑,需求分层,市场才能转起来。
都说 AI 是电老虎,电费到底占多少 一个反直觉的结论
「AI 吃掉全国电力」的新闻隔三差五就上头条。我们算笔实在账。
一台整柜 140kW 全天候满负荷跑,一年耗电约 122 万度。按美国工业电价每度 9.2 美分算,一年电费约 11 万美元;就算按最贵的商业电价翻一倍,也就 22 万上下。
对比一下:整柜买断约 500 万,五年电费总共约 55-110 万——电费占五年总拥有成本不到两成。
所以真相是:AI 基建是「资本密集」,不是「能源密集」。折旧才是大头,电费只是老二。这跟外界「AI 最大的成本是电」的印象正好相反。
当然这不代表电力不重要——电力之所以被反复讨论,是因为它卡的是「能不能建」,不是「贵不贵」。一个园区拿不到供电指标,500 万美元的柜子就是一堆废铁。所以英伟达的客户名单里,能源公司和变电站设备商的戏份正越来越重。
两回事,别混为一谈。
三题小测 收个尾,看记牢没有
算力硬件篇 · 第一篇 完
下一篇聊这门生意里今年最疯狂的品种:
内存条——一种按克算比黄金还贵的「硅基口粮」。





