当今深度神经网络的飞速发展很大程度上归功于计算机系统计算能力的提升。同时,深度学习算法的发展趋势以及应用的驱动,使得其对系统计算能力的要求在不断提高。这种需求不仅仅体现在对计算速度性能的要求上,同时对存储系统性能也有着很高的要求。然而,经过对计算机系统发展现状的量化分析,我们发现,在计算能力迅猛发展的同时,存储系统无论是在带宽、速度,还是容量等性能指标上,都相对落后。更重要的是,非理想存储系统消耗的能量(即数据搬移代价)远高于实际的计算耗能。因此,无论是从性能还是从能耗上来讲,存储系统都成为了为深度学习设计的计算系统的瓶颈。
[智能芯片, 计算存储一体化]
[李双辰, 谢源]