AIGC时代算力需求爆发，大模型训练推理成本解析
系统梳理大模型训练及推理算力需求，以GPT3为例，训练需3646 PF·Days，成本约4.72百万美元；推理1000 tokens成本0.15美分。英伟达GPU是最佳AI芯片，国产厂商寒武纪、海光信息等受益。
报告摘要
系统梳理大模型训练及推理算力需求，以GPT3为例，训练需3646 PF·Days，成本约4.72百万美元；推理1000 tokens成本0.15美分。英伟达GPU是最佳AI芯片，国产厂商寒武纪、海光信息等受益。
核心要点
- 要点概览
- 训练端算力需求
- 推理端算力需求
- GPU与服务器投资建议
报告信息
- 文件全名
- 《计算机行业AIGC系列报告（二）：算力，AIGC时代的“卖铲人”-招商证券》
- 适合读者
- 核心数据
- 3646 PF·Days
- 4.72百万美元
- 0.15美分
- 核心议题
常见问题
《AIGC时代算力需求爆发，大模型训练推理成本解析》主要包含哪些内容?
系统梳理大模型训练及推理算力需求，以GPT3为例，训练需3646 PF·Days，成本约4.72百万美元；推理1000 tokens成本0.15美分。英伟达GPU是最佳AI芯片，国产厂商寒武纪、海光信息等受益。核心数据:3646 PF·Days;4.72百万美元;0.15美分。
这份报告由哪家机构发布?
本报告由招商证券发布,发布于 2023 年。
这份报告覆盖哪一年、篇幅多大?
覆盖 2023 年,全文约 28.0。
这份报告是免费的吗?如何获取?
本报告为付费报告,可在资料宝站内下单后获取完整内容。
这份报告适合哪些读者?
适合投资者、科技行业分析师、AI从业者等读者参考。
报告涉及哪些关键议题?
重点分析了互联网、AIGC等议题。
继续阅读
查看全部 →