Institute of Computing Technology, Chinese Academy IR
| 基于细粒度数据流架构的稀疏神经网络全连接层加速 | |
| 向陶然; 叶笑春; 李文明; 冯煜晶; 谭旭; 张浩; 范东睿 | |
| 2019 | |
| 发表期刊 | 计算机研究与发展
 |
| ISSN | 1000-1239 |
| 卷号 | 56.0期号:006页码:1192 |
| 摘要 | 深度神经网络(deep neural network,DNN)是目前最先进的图像识别算法,被广泛应用于人脸识别、图像识别、文字识别等领域.DNN具有极高的计算复杂性,为解决这个问题,近年来涌出了大量可以并行运算神经网络的硬件加速器.但是,DNN中的全连接层有大量的权重参数,对加速器的带宽提出了很高的要求.为了减轻加速器的带宽压力,一些DNN压缩算法被提出.然而基于FPGA和ASIC的DNN专用加速器,通常是通过牺牲硬件的灵活性获得更高的加速比和更低的能耗,很难实现稀疏神经网络的加速.而另一类基于CPU,GPU的CNN加速方案虽然较为灵活,但是带来很高的能耗.细粒度数据流体系结构打破了传统的控制流结构的限制,展示出了加速DNN的天然优势,它在提供高性能的运算能力的同时也保持了一定的灵活性.为此,提出了一种在基于细粒度数据流体系结构的硬件加速器上加速稀疏的DNN全连接层的方案.该方案相较于原有稠密的全连接层的计算减少了2.44×~6.17×的峰值带宽需求.此外细粒度数据流加速器在运行稀疏全连接层时的计算部件利用率远超过其他硬件平台对稀疏全连接层的实现,平均比CPU,GPU和mGPU分别高了43.15%,34.57%和44.24%. |
| 关键词 | 细粒度数据流 稀疏神经网络 通用加速器 数据重用 高并行性 |
| 语种 | 英语 |
| 文献类型 | 期刊论文 |
| 条目标识符 | http://119.78.100.204/handle/2XEOYT63/35294 |
| 专题 | 中国科学院计算技术研究所期刊论文_中文 |
| 作者单位 | 中国科学院计算技术研究所 |
| 第一作者单位 | 中国科学院计算技术研究所 |
| 推荐引用方式 GB/T 7714 | 向陶然,叶笑春,李文明,等. 基于细粒度数据流架构的稀疏神经网络全连接层加速[J]. 计算机研究与发展,2019,56.0(006):1192. |
| APA | 向陶然.,叶笑春.,李文明.,冯煜晶.,谭旭.,...&范东睿.(2019).基于细粒度数据流架构的稀疏神经网络全连接层加速.计算机研究与发展,56.0(006),1192. |
| MLA | 向陶然,et al."基于细粒度数据流架构的稀疏神经网络全连接层加速".计算机研究与发展 56.0.006(2019):1192. |
| 条目包含的文件 | 条目无相关文件。 | |||||
| 个性服务 |
| 推荐该条目 |
| 保存到收藏夹 |
| 查看访问统计 |
| 导出为Endnote文件 |
| 谷歌学术 |
| 谷歌学术中相似的文章 |
| [向陶然]的文章 |
| [叶笑春]的文章 |
| [李文明]的文章 |
| 百度学术 |
| 百度学术中相似的文章 |
| [向陶然]的文章 |
| [叶笑春]的文章 |
| [李文明]的文章 |
| 必应学术 |
| 必应学术中相似的文章 |
| [向陶然]的文章 |
| [叶笑春]的文章 |
| [李文明]的文章 |
| 相关权益政策 |
| 暂无数据 |
| 收藏/分享 |
除非特别说明，本系统中所有内容都受版权保护，并保留所有权利。
修改评论