黄仁勋向CPU服务器集群发起“挑战”了?你怎么看?
时间:2023-05-30 17:00:29来源:中国商业新闻网

黄仁勋:GPU服务器集群将消耗11千兆瓦时电力

NVIDIA首席执行官黄仁勋进行了演讲。

在演讲中,黄仁勋向传统的CPU服务器集群发起“挑战”,认为在人工智能和加速计算这一未来方向上,GPU服务器有着更为强大的优势。

根据黄仁勋在演讲上展示的范例,训练一个LLM大语言模型,将需要960个CPU组成的服务器集群,这将耗费大约1000万美元(约合人民币7070万元),并消耗11千兆瓦时的电力。

相比之下,同样以1000万美元的成本去组建GPU服务器集群,将以仅3.2千兆瓦时的电力消耗,训练44个LLM大模型。

如果同样消耗11千兆瓦时的电量,那么GPU服务器集群能够实现150倍的加速,训练150个LLM大模型,且占地面积更小。

而当用户仅仅想训练一个LLM大模型时,则只需要一个40万美元左右,消耗0.13千兆瓦时电力的GPU服务器即可。

换言之,相比CPU服务器,GPU服务器能够以4%的成本和1.2%的电力消耗来训练一个LLM,这将带来巨大的成本节省。

标签: 黄仁勋是哪国人 黄仁勋还会国语吗

生活指南
  • 沙粒肿和麦粒肿的区别在于?沙粒肿的原因引起?

    沙粒肿和麦粒肿的区别在于?麦粒肿是眼睑皮脂腺毛囊和睑板腺的细菌感染。而沙粒肿指的是睑板腺出现囊肿。

  • 一个人寒了心的微信名大全来了!2023年女人伤透心的网名一览

    伤感让人看了心酸想哭的网名1、梦醒人已散 2、春来春去何时尽 3、肩上是风 4、不会快活 5、等过夏日

  • 创业的好处有哪些?创业需要注意什么

    创业的好处有哪些1、创业者可以为自己做事情:有过打工经历的人都知道,即便拿到的薪水再丰厚,也无法想

  • 天刀身份怎么选?倩女幽魂手游缚妖索怎么获得天涯明月刀身份选择攻略_当前热门

    天刀身份怎么选?天涯明月刀身份选择攻略天涯明月刀中身份有悬眼、游侠、厨师、雅士、镖师。身份选择推

  • 恩格尔系数拉满了指的是什么?恩格尔系数有什么局限性呢?

    恩格尔系数拉满了指的是什么?恩格尔系数拉满了意思就是说恩格尔系数已经到达最大程度了,也就是说,这个

  • 武磊代表西班牙人队几个球?武磊为什么离开西班牙人队?

    武磊代表西班牙人队几个球?在西班牙人队效力期间,吴磊共打了40场比赛,进了17个球。其中,联赛有15个球,欧

  • 摸男生喉结意味着什么(为什么男生有喉结)

    摸男生喉结意味着什么(为什么男生有喉结),一起来了解下吧。摸男生喉结意味着什么?摸男生的喉结意味

  • 洛克王国火烧眉毛技能石如何获得?洛克王国火烧眉毛技能效果是什么?

    洛克王国火烧眉毛技能石如何获得?洛克王国火烧眉毛技能石可以通过在维苏威火山的维苏威地壳中刷怪获得。

  • 预售合同上的公摊面积一定准确吗?楼间距多少才够宽?

    预售合同上的公摊面积一定准确吗?不一定,预售合同约定的面积与实际交房面积存在差异很正常,预售时,

  • 办理小产权房儿女使用权需要提供什么材料?小产权可以赠与或遗嘱公证吗?

    办理小产权房儿女使用权需要提供什么材料?1、被继承人死亡证明;2、办理房产证过户手续需要该套房屋的产

  • 华泰证券怎么样?华泰证券工作压力大吗?华泰证券的业务范围

    华泰证券怎么样?华泰证券相当不错,属于证监会批准成立的大型综合类证券公司,公司背景是国企,也是A股

  • dnf女枪手转什么职业厉害?dnf新职业枪剑士转职那个好?

    dnf女转什么职业厉害?dnf女枪手转职机械师和枪炮师比较厉害。1 枪炮师:使用重火器武器,是众多女枪手玩

  • 任务栏假死是怎么回事?Windows11右键文件夹卡死应该怎样解决?

    任务栏假死是怎么回事?方案一:重启Windows资源管理器。直接按键盘组合键Ctrl+Alt+Del打开任务管理器,

  • 光遇魔法商店在哪里?光遇魔法商店怎么开启?

    位置:1、商店一共有两个地方,一个在船上,一个在船里面。魔法商店的前提是玩家需要找到6个魔法球,也

  • 婚前的双子异性缘太好 婚后难免保持剪不断理还乱的关系?

    TOP1:白羊座白羊很可能会因为一时冲动,做出结婚的决定,至于结婚对象是否是适合自己的真命爱人,白羊

  • 吹风机正确使用方法是什么?使用吹风机注意事项有哪些?

    吹风机正确使用方法是什么?1、在使用电吹风吹头发时要用干毛巾将头发中的水分擦干净,同时将外部的头发

  • 民生
    • 房地产指数期货与楼花的区别体现在哪里? 房地产指数期货在国外的发展情况是怎么样的呢?

    • 抵押的房产怎么过户?抵押房子过户需要什么手续?

    • temp在c语言中代表什么?temp可以移动到d盘吗?

    • 信用卡还不上被起诉要去应诉吗?逾期了怎么跟银行协商解决?