这几年,AI成了人类最有耐心的陪聊。你问的问题再离谱,它也不会翻白眼,但地球某个机房里,总有芯片要为这个问题认认真真跑一遍,输出回答。
但问问题的人越来越多,算力需求就按不住了。
于是芯片暴涨,存储暴涨,连光互联、光芯片、站在光里,这些冷门词汇都被大A消费者们现学了一遍。
不过还有一个环节,也在撑着这一切,却很少有人聊。
那就是:散热。
这些芯片能一直跑,不烧掉,全是靠散热。
放以前,散热压根不是个事儿,装排风扇就完了呗。
但现在不一样了:顶配AI机柜的功率已经做到120千瓦左右(还在膨胀),家里常见的小太阳取暖器大概2000瓦,120千瓦等于把60台小太阳塞进一个两米高的铁柜子,全天开到最大档。
AI芯片计算过程中,既没有向外推动什么东西,也没有改变化学成分。
基于我们中学物理的能量守恒原理,不难得出一个结论:服务器的功率,几乎全部变成了热量!
120千瓦,就是一只服务器机柜真实的产热量,传统机柜的几倍到几十倍。
图:英伟达对GB200 NVL72整机柜和HGX架构的对比,已经从单台服务器扩展为高密度整机柜 来源:英伟达
0
评论 (0)