边缘AI大语言模型终端部署推动换机潮 国信证券电子行业报告
本报告分析大模型参数增长对芯片算力和内存的挑战，指出优化后大模型可在旗舰芯片运行，推动新一轮终端换机潮。量化、蒸馏等优化实现本地推理，如骁龙8 Gen2部署Stable Diffusion 15秒出图。关注边缘AI落地机会。
报告摘要
本报告分析大模型参数增长对芯片算力和内存的挑战，指出优化后大模型可在旗舰芯片运行，推动新一轮终端换机潮。量化、蒸馏等优化实现本地推理，如骁龙8 Gen2部署Stable Diffusion 15秒出图。关注边缘AI落地机会。
核心要点
- 大模型发展趋势
- 端侧部署挑战
- 优化方案与换机潮
报告信息
- 文件全名
- 《电子行业AI+系列专题报告：边缘AI，大语言模型的终端部署，推动新一轮终端需求-国信证券》
- 适合读者
- 核心数据
- 1558颗A100
- 44张A100
- 核心议题
常见问题
《边缘AI大语言模型终端部署推动换机潮 国信证券电子行业报告》主要包含哪些内容?
本报告分析大模型参数增长对芯片算力和内存的挑战，指出优化后大模型可在旗舰芯片运行，推动新一轮终端换机潮。量化、蒸馏等优化实现本地推理，如骁龙8 Gen2部署Stable Diffusion 15秒出图。关注边缘AI落地机会。核心数据:1558颗A100;44张A100。
这份报告由哪家机构发布?
本报告由国信证券发布,发布于 2023 年。
这份报告覆盖哪一年、篇幅多大?
覆盖 2023 年,全文约 25.0。
这份报告是免费的吗?如何获取?
本报告为付费报告,可在资料宝站内下单后获取完整内容。
这份报告适合哪些读者?
适合电子行业分析师、AI芯片投资者、手机产业链从业者等读者参考。
报告涉及哪些关键议题?
重点分析了消费零售、AI、边缘等议题。
继续阅读
查看全部 →