从统计机器学习视角理解深度学习:算法、理论与可扩展计算(2018)
本报告由Petuum Inc与卡内基梅隆大学联合推出,从统计机器学习视角系统梳理深度学习的核心算法、理论基础与可扩展计算框架。内容涵盖图形模型、大间隔方法、稀疏编码、贝叶斯非参数等经典模型,以及随机梯度下降、坐标下降、L-BFGS、吉布斯采样等优化算法,并对比了深度学习与传统机器学习的异同。报告还涉及分布式系统实现(如Hadoop、Spark、TensorFlow)和硬件平台(GPU、FPGA、TPU)。适合机器学习研究员、深度学习工程师、数据科学家及AI系统架构师,帮助建立从统计学习到现代深度学习的完整知识图谱。