AI算力龙头股-鸿博股份(英博数科)交流纪要
楓先森
2023-07-27 12:48:56
来自广东
  • 3
  • 1
  •   ♥  收藏
  • A
    分享到:

1.鸿博股份的业务方向


(1)子公司介绍


鸿博股份旗下有几家重要的子公司,分别是重庆鸿海、鸿博昊天、无锡双龙和英博数科。这些子公司代表了公司的几个重点业务方向。


重庆鸿海:主要从事福利彩票和税务局、银行等专业票据的印刷。


鸿博昊天:主要从事精品印刷,服务于党和国家重要文献、重大主题出版物以及北京市的中小学教科书等核心出版物。


无锡双龙:是国家税务总局、邮储银行中国银行等多个重要机构的全国性定点印刷企业之一。


英博数科:是鸿博股份的全资子公司,与中关村中恒文化科技创新服务联盟、英伟达公司、鸿博股份合作成立了北京Al创新赋能中心。


(2)鸿博股份的业务发展


鸿博股份最初从事的是印刷业务,起初是热敏票的印刷,后来逐步发展为高端酒盒包装和精品印刷业务。去年通过子公司英博数科进军算力业务。


2.英伟达在大模型训练领域的关键作用


英伟达在大模型训练领域扮演着重要角色,其数据中心业务收入占比超过了游戏业务,成为其收入贡献最多的业务。英伟达的数据中心业务表现持续超出市场预期,主要驱动力来自大模型训练对高端GPU的持续需求。


3. 英伟达的 DGX 产品及核心技术


(1)DGX产品


英伟达的DGX产品是为处理深度学习算法而研发的超级计算机,其中最新的产品是基于A100或H800的DGX服务器。第三代基于A100的DGX设备的单精度算力达到了5P次flop,第四代基于H800的设备的算力达到了 16P次。


(2)NV Link 和 NV Switch


NV Link 是用于塔之间传输的高带宽传输工具,速度是传统PC15.0传输速度的7倍。NV Switch是连接多个NV Link的工具,实现多对多的GPU通信。


(3)IP网络


IP网络是英伟达配套的核心技术,用于多台服务器之间的互联,传输速率快。最新一代基于H100的第四代DGX设备搭载的IB传输速度可达到 900GB。



4. 大模型训练对GPU需求的量化测算


根据基于open的论文和第三方机构的方法论,对训练和推理阶段所需的算力和DGX服务器数量进行了测算。


(1)训练阶段


训练阶段的总训练计算量取决于模型参数数量、训练数据集大小、训练轮次和批次大小。单个GPU的运算能力以及训练大模型所需时间决定了对GPU的总需求量。以训练一个类似于1750亿参数的GPT模型为例,使用基于A100的DGX设备训练,大约需要122台服务器。


(2)推理阶段


推理阶段的计算量取决于参数数量、问题长度、模型输出回复长度以及模型的计算复杂性。用户的访问量以及单个GPU的运算能力决定了推理阶段对GPU的并发需求量。


5.问答交流


问:公司的IP网络具有什么特点?它是用来替代传统的以太网的吗?


答:IP网络是用于多台服务器之间的互联,它的作用是替代传统的以太网,最主要的一个特点是传输速率快。


问:大模型训练对于算力的需求有哪些因素决定?


答:总的训练计算量取决于模型的参数数量、训练数据集的大小、训练轮次以及批次的大小。单一GPU的运算能力和训练大模型的时间也决定了对 GPU的总需求量。


问:在推理阶段,所需的计算量取决于哪些参数?


答:在推理阶段,所需的计算量取决于参数的数量、问题的长度、模型输出回复长度以及模型的计算复杂性。


问:公司的子公司英博数科和英伟达合作的Al创新赋能中心具体情况如何?


答:英伟达的Al创新赋能中心以英伟达的算力基础设施为依托,旨在打造一个面向全球的公共技术平台,帮助人工智能产业的发展。目前已有4家创新赋能中心建成,其中北京的英博数科与英伟达合作建立了一个赋能中心。


问:英博数科在Al创新赋能中心中扮演什么角色?


答:英博数科在去年与英伟达签署合作协议,帮助英伟达在北京建立赋能中心,推广其生态。此外,英博数科还围绕算力租赁开展了制算中心和高端一站式服务业务,为公司提供持续的现金流和造血能力。


问:公司计划在2023年底前完成一个3000P算力建设的智能算中心,这将带来多少收入?


答:根据我们对算力对应创收的测算,3000P算力对应的一年收入大约是8.2亿。


问:公司的高端AIDC一站式服务业务是什么?该服务包括哪些内容?


答:高端AIDC一站式服务业务是为政府或其他合作方提供通用制造中心项目建设的服务。具体服务内容包括规划咨询、设备采购、设备部署调优、算力中心运营、能源管理、环境监测预警以及先导性示范项目引入等。


问:公司目前除了上海项目之外,还有其他地市政府的相关业务在洽谈吗?


答:是的,公司目前正在与多个地市政府的相关业务进行沟通和洽谈。


问:公司已与哪些大客户签订了服务协议?


答:公司已与5G智能、深研科技和宣亚国际签署了服务协议。其中,5G智能预计在未来12个月内向其提供1280P算力的服务,深研科技和宣亚国际预计分别获得1280P和128台服务器的算力租赁服务。


问:公司有没有与英伟达合作的计划?


答:公司计划与英伟达的DGX Cloud业务进行对标。通过与英伟达合作,公司有望提供基于英伟达软件全站生态的一站式Al训练解决方案。


问:公司对于云服务形式提供的AI算力支撑抱有怎样的期待?


答:公司对末来以云服务形式提供的Al算力支撑抱有较大的期待。根据英伟达的官方新闻,目前DGX Cloud每个实例配有8个H800或A100的GPU,月售价约为24万人民币。


问:公司在Al创新赋能中心项目上与英伟达有合作吗?


答:是的,公司与英伟达在Al创新赋能中心项目上有合作。


问:公司对鸿博股份末来发展的前景如何?


答:公司在人工智能、英伟达GPU需求和Al创新赋能中心项目上积极布局,并有望成为公司的第二增长曲线。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500