算力需求主要分为两部分,包括训练算力和推理算力。 目前来说对训练算力需求非常高,ChatGPT的公开数据显示训练算力消耗达到了3640PF-days(即假如每秒计算一千万亿次,需要计算3640天),换算成英伟达A100芯片,单卡算力相当于0.6P的算力,理想情况下总共需要大概6000张,在考虑互联损失的情况下,需要一万张A100作为算力基础(目前很多观点认为一万张是入局的门槛)。在A100芯片10万人民币/张的情况下,算力的硬件投资规模达到10亿人民币。 不完全统计500亿参数以上的模型正在训练的加起来30-40个,如果假设每一个模型需要8000片H100和2万片的A100,对应的需求应该是60-80万张A100,或者24-32万张H100。也就是说未来1-2年内的订单大概就有600-80亿人民币(虽然都是英伟达的),推理算力需求增速预计会随着AI生态的逐步建立高于训练,由此前三七开到七三开。 根据Verified Market Research数据,2020年,全球GPU市场规模为254.1亿美元。随着需求的不断增长,预计到2028年,这一数据将达到2465.1亿美元,年复合增长率为32.82%。潮水来临时,往往都会低估需求,乐观点拍脑袋,也许可以上调到40%+ 比起难以估计的需求,供给的研究会更有意义。如上图所示,行业格局其实蛮清晰的 至于国内AI芯片方面,一梯队,有成熟产品、批量出货的企业,包括寒武纪、华为海思、百度昆仑芯、燧原科技等;二梯队,以AI芯片起家的壁仞科技、天数智心、摩尔线程、沐曦等;三梯队,如海光、景嘉微等,已经批量生产的产品,大多都是A100的上一代;各公司正在研发的相关产品,如昆仑芯三代、思远590、燧思3.0等,都是对标A100,但由于“实体清单”的限制以及研发水平的原因,都还没有推到市场。 但···做人要有梦想,不然和咸鱼有什么区别 除了芯片之外,硬件方面可能需要更多层的PCB板,更强劲的散热解决方案,更精细的电源管理 至于AIGC,海外方面已经跑出来很多应用,办公领域的copilot、电商领域的shopify、图像创作领域的Stable Diffusion、Midjourney、金融领域的BloombergGPT,总体分为有优质应用落地场景的C端,以及有垂直领域数据积累的B端,投资上理性的看还是底层模型能力更强,掌握流量的巨头们更容易胜出,当然炒股票的话,标的的选择上可以更有想象力一些? 可以预见的是GPT的应用会对人类的工作、生活乃至社会产生巨大的影响,解放生产力提效的同时很多岗位也会很快被GPT摧毁,更长期的视角看对于人类个体的影响似乎难以评估,本质上GPT是在利用极其丰富的互联网数据资源不断的训练、学习,是对存量知识的归集,但没有创造。未来可能人人都有一个私有GPT,它会告诉我们它所知的一切,但省略掉的是形成认知、培养创造性思维的过程,影响的不仅仅是音乐绘画文学等强调原创性的艺术领域,工业、科技行业需要的创新同样需要创造性思维,而GPT也许会让绝大多数人都变得没什么区别,依赖AI就好了。
不完全统计500亿参数以上的模型正在训练的加起来30-40个,如果假设每一个模型需要8000片H100和2万片的A100,对应的需求应该是60-80万张A100,或者24-32万张H100。也就是说未来1-2年内的订单大概就有600-80亿人民币(虽然都是英伟达的),推理算力需求增速预计会随着AI生态的逐步建立高于训练,由此前三七开到七三开。 根据Verified Market Research数据,2020年,全球GPU市场规模为254.1亿美元。随着需求的不断增长,预计到2028年,这一数据将达到2465.1亿美元,年复合增长率为32.82%。潮水来临时,往往都会低估需求,乐观点拍脑袋,也许可以上调到40%+ 比起难以估计的需求,供给的研究会更有意义。如上图所示,行业格局其实蛮清晰的 至于国内AI芯片方面,一梯队,有成熟产品、批量出货的企业,包括寒武纪、华为海思、百度昆仑芯、燧原科技等;二梯队,以AI芯片起家的壁仞科技、天数智心、摩尔线程、沐曦等;三梯队,如海光、景嘉微等,已经批量生产的产品,大多都是A100的上一代;各公司正在研发的相关产品,如昆仑芯三代、思远590、燧思3.0等,都是对标A100,但由于“实体清单”的限制以及研发水平的原因,都还没有推到市场。 但···做人要有梦想,不然和咸鱼有什么区别 除了芯片之外,硬件方面可能需要更多层的PCB板,更强劲的散热解决方案,更精细的电源管理 至于AIGC,海外方面已经跑出来很多应用,办公领域的copilot、电商领域的shopify、图像创作领域的Stable Diffusion、Midjourney、金融领域的BloombergGPT,总体分为有优质应用落地场景的C端,以及有垂直领域数据积累的B端,投资上理性的看还是底层模型能力更强,掌握流量的巨头们更容易胜出,当然炒股票的话,标的的选择上可以更有想象力一些? 可以预见的是GPT的应用会对人类的工作、生活乃至社会产生巨大的影响,解放生产力提效的同时很多岗位也会很快被GPT摧毁,更长期的视角看对于人类个体的影响似乎难以评估,本质上GPT是在利用极其丰富的互联网数据资源不断的训练、学习,是对存量知识的归集,但没有创造。未来可能人人都有一个私有GPT,它会告诉我们它所知的一切,但省略掉的是形成认知、培养创造性思维的过程,影响的不仅仅是音乐绘画文学等强调原创性的艺术领域,工业、科技行业需要的创新同样需要创造性思维,而GPT也许会让绝大多数人都变得没什么区别,依赖AI就好了。
至于国内AI芯片方面,一梯队,有成熟产品、批量出货的企业,包括寒武纪、华为海思、百度昆仑芯、燧原科技等;二梯队,以AI芯片起家的壁仞科技、天数智心、摩尔线程、沐曦等;三梯队,如海光、景嘉微等,已经批量生产的产品,大多都是A100的上一代;各公司正在研发的相关产品,如昆仑芯三代、思远590、燧思3.0等,都是对标A100,但由于“实体清单”的限制以及研发水平的原因,都还没有推到市场。 但···做人要有梦想,不然和咸鱼有什么区别 除了芯片之外,硬件方面可能需要更多层的PCB板,更强劲的散热解决方案,更精细的电源管理 至于AIGC,海外方面已经跑出来很多应用,办公领域的copilot、电商领域的shopify、图像创作领域的Stable Diffusion、Midjourney、金融领域的BloombergGPT,总体分为有优质应用落地场景的C端,以及有垂直领域数据积累的B端,投资上理性的看还是底层模型能力更强,掌握流量的巨头们更容易胜出,当然炒股票的话,标的的选择上可以更有想象力一些? 可以预见的是GPT的应用会对人类的工作、生活乃至社会产生巨大的影响,解放生产力提效的同时很多岗位也会很快被GPT摧毁,更长期的视角看对于人类个体的影响似乎难以评估,本质上GPT是在利用极其丰富的互联网数据资源不断的训练、学习,是对存量知识的归集,但没有创造。未来可能人人都有一个私有GPT,它会告诉我们它所知的一切,但省略掉的是形成认知、培养创造性思维的过程,影响的不仅仅是音乐绘画文学等强调原创性的艺术领域,工业、科技行业需要的创新同样需要创造性思维,而GPT也许会让绝大多数人都变得没什么区别,依赖AI就好了。
至于AIGC,海外方面已经跑出来很多应用,办公领域的copilot、电商领域的shopify、图像创作领域的Stable Diffusion、Midjourney、金融领域的BloombergGPT,总体分为有优质应用落地场景的C端,以及有垂直领域数据积累的B端,投资上理性的看还是底层模型能力更强,掌握流量的巨头们更容易胜出,当然炒股票的话,标的的选择上可以更有想象力一些? 可以预见的是GPT的应用会对人类的工作、生活乃至社会产生巨大的影响,解放生产力提效的同时很多岗位也会很快被GPT摧毁,更长期的视角看对于人类个体的影响似乎难以评估,本质上GPT是在利用极其丰富的互联网数据资源不断的训练、学习,是对存量知识的归集,但没有创造。未来可能人人都有一个私有GPT,它会告诉我们它所知的一切,但省略掉的是形成认知、培养创造性思维的过程,影响的不仅仅是音乐绘画文学等强调原创性的艺术领域,工业、科技行业需要的创新同样需要创造性思维,而GPT也许会让绝大多数人都变得没什么区别,依赖AI就好了。