深度学习中的内存管理问题研究综述

TP183; 近年来,深度学习已经在多个领域取得了巨大的成功.深度神经网络向着更深更广的方向发展,训练和部署深度神经网络模型都将面对巨大的内存压力.加速设备有限的内存空间已经成为限制神经网络模型快速发展的重要因素,如何在深度学习中实现高效的内存管理成为深度学习发展的关键问题.为此,介绍了深度神经网络的基本特征;分析了深度学习训练过程中的内存瓶颈;对一些代表性的研究工作进行了分类阐述,并对其优缺点进行了分析;对深度学习中内存管理技术的未来发展趋势进行了探索....

Full description

Bibliographic Details

Published in:	大数据 Vol. 6; no. 4; pp. 56 - 68
Main Authors:	马玮良, 彭轩, 熊倩, 石宣化, 金海
Format:	Journal Article
Language:	Chinese
Published:	华中科技大学计算机科学与技术学院,湖北 武汉 430074 2020 华中科技大学大数据技术与系统国家地方联合工程研究中心,服务计算技术与系统教育部重点实验室,湖北 武汉 430074
Subjects:	内存共享 压缩 深度学习 重计算 内存管理 内存交换
Online Access:	Get full text
Tags:	Add Tag No Tags, Be the first to tag this record!