来客网

AI的高烧治到哪一步了?

声明:本文转载自 「Popyard」, 或因排版与篇幅原因进行过编辑,内容未经本站独立核实,不代表本站立场、观点或建议。 如涉及版权问题,请联系我们,核实后立即删除。 [ 免责声明 ]
01

这几年,AI成了人类最有耐心的陪聊。你问的问题再离谱,它也不会翻白眼,但地球某个机房里,总有芯片要为这个问题认认真真跑一遍,输出回答。

但问问题的人越来越多,算力需求就按不住了。

于是芯片暴涨,存储暴涨,连光互联、光芯片、站在光里,这些冷门词汇都被大A消费者们现学了一遍。

不过还有一个环节,也在撑着这一切,却很少有人聊。

那就是:散热。

这些芯片能一直跑,不烧掉,全是靠散热。

放以前,散热压根不是个事儿,装排风扇就完了呗。

但现在不一样了:顶配AI机柜的功率已经做到120千瓦左右(还在膨胀),家里常见的小太阳取暖器大概2000瓦,120千瓦等于把60台小太阳塞进一个两米高的铁柜子,全天开到最大档。

AI芯片计算过程中,既没有向外推动什么东西,也没有改变化学成分。

基于我们中学物理的能量守恒原理,不难得出一个结论:服务器的功率,几乎全部变成了热量!

120千瓦,就是一只服务器机柜真实的产热量,传统机柜的几倍到几十倍。

图:英伟达对GB200 NVL72整机柜和HGX架构的对比,已经从单台服务器扩展为高密度整机柜 来源:英伟达

0

评论 (0)