西西河

主题:水冷AI,核电数据中心,人类想象力遇到瓶颈? -- dfindy

共:💬4 🌺28 新:
全看分页树展 · 主题
家园 水冷AI,核电数据中心,人类想象力遇到瓶颈?

此帖一半是抛砖引玉,大家讨论未来科技发展,一半是我这个门外汉关于未来方向的猜测,留个记录等着十年后再看。

标题里的两个内容都是真的,水冷AI是Nvidia老黄自己最近说的,他的下一代GPU可能采取的设计。与此同时,不得不用核电支持AI庞大运算的讨论也愈发热烈,已经有公司满世界兜售小型核电站设计PPT来吸引投资了。

GPU并行运算处理图像,这个突破是二十年前的事,用GPU处理AI运算,也有十多年的研究历程了,到2024年的今天,AI软件让普通人感到惊艳,可是支持AI的硬件,实际上近些年并没有突破,硬件基本上就是暴力叠加,现在一个Nvidia的GPU组件·,已经有七十磅的重量。

江山代有才人出,各领风骚数百年。我期待基础领域真正的突破,同时,这也是弯道超车的一个绝佳机会。(补充,最近一家名叫 Groq 的新公司推出用于Inference的新设计芯片,声称对比实验中有几倍于Nvidia GPU的表现。这家公司的工程师们大多是原谷歌公司员工,我不知道它的新芯片是否源于谷歌的TPU科技树。我初步感觉是,几倍的提高并不是大家期待的革命性突破)

通宝推:希宝,秦波仁者,
全看分页树展 · 主题


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河