[发明专利]压缩神经网络模型的方法、计算机系统以及存储介质

说明书

本公开提供一种压缩神经网络模型的方法、计算机系统以及存储介质。所述方法包括：识别对应于多维张量的至少一个编码树单元，所述多维张量与神经网络相关联。统一与该编码树单元相关联的权重系数集。根据统一的权重系数集来压缩神经网络的模型。

相关申请的交叉引用

本申请要求在美国专利商标局提交的第62/979,038号(于2020年2月20日提交)和第62/984,107号(于2020年3月2日提交)美国临时专利申请以及在2020年11月3日提交的第17/088,075号美国专利申请的优先权，其全部内容通过引用结合于此。

技术领域

本公开总体上涉及数据处理领域，并且尤其涉及视频编码和解码。

背景技术

国际标准化组织(International Organization for Standardization)ISO/国际电工委员会(International Electrotechnical Commission)IEC动态图像专家组(Moving Picture Experts Group)MPEG(JTC 1/SC 29/WG 11)一直在积极寻找未来视频编解码技术的标准化的潜在需求，以进行视觉分析和理解。ISO于2015年采用视觉搜索紧凑描述符(Compact Descriptors for Visual Search,CDVS)标准作为静止图像标准，其提取特征表示(representation)用于图像相似性匹配。视觉分析紧凑描述符(CompactDescriptors for Visual Analysis，CDVA)标准被列为MPEG 7和ISO/IEC 15938-15的第15部分，并且于2018年定稿，该标准提取了视频片段的全局和局部、手动设计和基于深度神经网络(Deep Neural Networks,DNN)的特征描述符。DNN在诸如语义分类、目标检测/识别、目标跟踪、视频质量增强等大量视频应用中的成功，提出了压缩DNN模型的强烈需求。因此，MPEG正在积极致力于神经网络标准(Neural Network standard，NNR)的编码表示，该NNR的编码表示对DNN模型进行编码以节省存储和计算。

发明内容

本公开实施例涉及压缩神经网络模型的方法、系统和计算机可读存储介质，可以压缩神经网络模型，并提高神经网络模型的计算效率。

根据一个方面，提供一种压缩神经网络模型的方法。该方法可以包括识别对应于多维张量的至少一个编码树单元，所述多维张量与神经网络相关联。确定与该编码树单元相关联的权重系数集。根据确定的权重系数集来压缩神经网络的模型。

根据另一个方面，提供一种压缩神经网络模型的计算机系统。该计算机系统可以包括识别模块，用于识别对应于多维张量的至少一个编码树单元，所述多维张量与神经网络相关联。统一模块，用于确定与该编码树单元相关联的权重系数集。压缩模块，用于根据确定的权重系数集来压缩神经网络的模型。

根据又一个方面，提供一种用于压缩神经网络模型的计算机可读介质。该计算机可读介质可以包括至少一个计算机可读存储设备以及被存储在至少一个有形存储设备中的至少一个上的程序指令，该程序指令可由处理器执行。该程序指令可由处理器执行，用于执行一种方法，该方法可以相应地包括识别对应于多维张量的至少一个编码树单元，所述多维张量与神经网络相关联。确定与该编码树单元相关联的权重系数集。根据该确定的权重系数集来压缩神经网络的模型。

通过本公开实施例提供的压缩神经网络模型的方法、系统和计算机可读存储介质，使用选择性结构化统一方法来统一网络权重系数，使得所学习的网络权重系数保持原始性能，并且具有最优的期望统一结构，进而可以提高压缩效率和计算速度。

附图说明

这些和其它目的、特征和优点将从以下结合附图阅读的说明性实施例的详细描述中变得显而易见。由于附图是用于方便本领域技术人员结合详细描述进行清楚的理解，因此附图的各种特征并非按比例绘制。在附图中：