英伟达GTC大会上,黄仁勋带来了哪些重量级新品?
华夏ETF君
2024-03-19 10:59:19
来自北京
  • 1
  • 评论
  •   ♥  收藏
  • A
    分享到:

节选自:腾讯科技、证券时报、投资界等

英伟达GTC大会已经 拉开了帷幕。NVIDIA 创始人兼首席执行官黄仁勋北京时间3月19日(星期二)上午4:00在现场做了题为《见证AI的变革时刻》的演讲。

图片来源:新京报

核心要点:

1、推出被他称作史上最强AI芯片的“GB200”。

GB200 包含了两个 B200 Blackwell GPU 和一个基于 Arm 的 Grace CPU 组成。

Blackwel致敬的是统计学家兼数学家大卫·布莱克韦威尔。

其AI性能为每秒20千万亿次浮点运算,而H100为每秒4千万亿次浮点运算。同时,GB200的成本和能耗降至 25 分之一。

对比之下,英伟达表示以前训练一个 1.8 万亿个参数的模型,需要 8000 个 Hopper GPU 连续跑上90天和,消耗掉15 兆瓦的电力。如今2000 个Blackwell GPU就能完成这项工作,90天的耗电量仅为 4 兆瓦。

“Hopper固然已经非常出色了,但我们需要更强大的 GPU。Blackwell不是一款芯片,它是平台的名称。”

2、DGX GB200 NVL 72:

内置36颗GRACE CPU和72颗Blackwell架构GPU,AI训练性能可达720PFLOPs(即每秒72万万亿次),推理性能为1440PFLOPs(每秒144万万亿次)。

3、基于GB200的DGX SuperPOD超算:一站式AI超算解决方案。

搭载8颗DGX GB200,即288颗Grace CPU和576颗B200 GPU,内存达到240TB,FP4精度计算性能达到11.5EFLOPs(每秒11.5百亿亿次)。

相比上一代产品的推理性能提升30倍,训练性能提升4倍。

4、Project GR00T:人型机器人项目

包含了人型机器人基础模型,ISAAC Lab开发工具库和Jetson Thor SoC片上系统开发硬件,带宽达到100GB/s,AI计算性能达到800TFLOPs。

5、NIM软件:针对AI推理系统的新软件

开发人员可以在其中直接选择模型来构建利用自己数据的人工智能应用程序。

基于英伟达数据(Event)和芯片行业信息形成的Nvidia ChipNeMo,它构建在开源的Llama2模型之上。利用英伟达的专有数据,它可以回答只有英伟达公司内部使用的CTL实验细节问题。

还可以跨公司共用,也就是这套系统可以被视为工业大模型的GPT Store,行业公司可以使用其他公司或英伟达提供的行业基础NeMo添加自己的数据即可获得专有大模型。为此,英伟达还特意上线了ai.nvidia.com去承载这些NeMO。

6、NVIDIA Earth 2:地球气候数字孪生套件

它具有可交互的特点,支持通过高分辨率模拟来加速气候、天气预测。作为一个支持千米级天气预测的AI扩散模型,Earth 2在天气预报的计算预测上效率提升达到1000倍,而能效则提升了2000倍。

国泰君安对此点评称:“重视AI芯片配套的软件生态,软件生态可能会成为制约AI芯片算力的瓶颈。看好华为CANN崛起。”

国泰君安在3月19日发表的最新研报中提到:

时至今日,算力对于AI的重要性已经人尽皆知。GPU从一众芯片中脱颖而出成为大模型训练和推理的首选。人们很自然的从一款芯片的性能数据来直观感受芯片强大与否,所有的关注目光都聚焦在一款新品有多少Tflops的算力上。

殊不知,计算框架以及配套的软件生态才是将一款芯片性能真正释放出来的幕后推手,也是芯片公司极强的护城河。

CUDA帮助芯片释放了通用计算性能,真正夯实了英伟达算力壁垒。

CUDA,全称Compute Unified Device Architecture,是英伟达推出的一种并行计算平台和编程模型,目的是让开发者能够利用GPU的强大计算能力,不仅限于图形渲染,还能执行各种复杂的计算任务。缺少CUDA优化,GPU的可用性将大幅下降。CUDA凭借超前的布局,在AI计算时代构筑了强大的生态护城河。AMD后发追赶,打造开源生态ROCm,在软硬件端齐发力,意图打破CUDA的垄断地位。

虽然硬件层面,AMD的产品性能已经能做到在某些时期内并不逊色于英伟达,甚至实现一定程度的超越。

然而在软件生态层面,CUDA凭借强大的软硬件结合开发能力和庞大的既有用户基础,使得AMD依然难以实现对英伟达的追赶超越。

国产AI算力崛起背后离不开软件生态配套,看好华为CANN崛起。

以昇腾为首的国产算力芯片在性能上奋起直追,在某些性能指标上已经与国际领先产品差异不大,但英伟达算力卡仍是市场目前的主流选择,原因在于CUDA的加持将实际训练推理效率最大化。未来国内的算力崛起离不开软件生态的配套,在性能短板补齐后,软件生态将是昇腾需要重点攻克的下一个短板,而CANN将助力昇腾芯片跨越能用到好用的鸿沟。

相关ETF:$信创ETF(SH562570)$

该ETF跟踪中证信息技术应用创新产业指数,前十大成分股主要覆盖软件开发、计算机设备及IT服务II行业,与信创行业特征一致,软件及硬件市场规模占比更高。

$用友网络(SH600588)$$浪潮信息(SZ000977)$$金山办公(SH688111)$

#GTC大会开幕,哪些板块会火?#

风险提示:本资料不作为任何法律文件,观点仅供参考,资料中的所有信息或所表达意见不构成投资、法律、会计或税务的最终操作建议,我公司不就资料中的内容对最终操作建议做出任何担保。在任何情况下,本公司不对任何人因使用本资料中的任何内容所引致的任何损失负任何责任。市场有风险,入市需谨慎。

1.本基金为股票基金,其预期风险和收益高于混合、债券与货币市场基金,属于中高风险(R4)品种,具体风险评级结果以基金管理人和销售机构提供的评级结果为准。2.本基金属于指数基金,其风险收益特征与标的指数所表征的证券市场组合的风险收益特征相似。

3.投资者在投资本基金之前,请仔细阅读本基金的《基金合同》、《招募说明书》和《产品资料概要》等基金法律文件,充分认识本基金的风险收益特征和产品特性,并根据自身的投资目的、投资期限、投资经验、资产状况等因素充分考虑自身的风险承受能力,在了解产品情况及销售适当性意见的基础上,理性判断并谨慎做出投资决策,独立承担投资风险。

4.基金管理人不保证本基金一定盈利,也不保证最低收益。本基金的过往业绩及其净值高低并不预示其未来业绩表现,基金管理人管理的其他基金的业绩并不构成对本基金业绩表现的保证。5.基金管理人提醒投资者基金投资的“买者自负”原则,在投资者做出投资决策后,基金运营状况、基金份额上市交易价格波动与基金净值变化引致的投资风险,由投资者自行负责。

6.中国证监会对本基金的注册,并不表明其对本基金的投资价值、市场前景和收益作出实质性判断或保证,也不表明投资于本基金没有风险。7.本产品由华夏基金发行与管理,代销机构不承担产品的投资、兑付和风险管理责任。8.市场有风险,投资须谨慎。涉及个股不作为推荐。

(来源:华夏ETF君的财富号 2024-03-19 10:59) [点击查看原文]

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500