[发明专利]一种终端部署方法和装置

说明书

本申请实施例公开了一种模型压缩方法及装置，在获取待压缩模型和针对该待压缩模型的压缩偏好配置时，可以根据待压缩模型的模型类型和压缩偏好配置确定出压缩算法组件和对应的算法超参数取值，并利用上述压缩算法组件和算法超参数取值对待压缩模型进行第一次压缩，得到第一次压缩对应的候选压缩结果。若第一次压缩对应的候选压缩结果的性能参数与压缩偏好配置的符合程度未满足预设条件，继续生成调参策略以调整下一次压缩所用的压缩算法组件和算法超参数取值，直到某一次压缩对应的候选压缩结果的性能参数与所述压缩偏好配置的符合程度满足预设条件为止。不需要人工调整压缩算法，避免了人为经验带来的影响，提高了压缩效率。

技术领域

本申请涉及数据处理领域，特别是涉及一种终端部署方法和装置。

背景技术

网络模型可以部署在不同类型的处理设备上，处理设备可以通过所部署的网络模型实现特定的功能，例如图像识别，数据分类等。

然而一些情况下，在部署在处理设备之前，需要对网络模型进行压缩。一部分原因在于，一些网络模型的性能参数并不好，例如模型占用空间比较大，计算性能不高，运行速度低等，这类网络模型一般是基于人类经验设计的网络模型，或者开发经验不足的开发者所开发的网络模型。当这类网络模型部署到处理设备后不仅浪费系统资源，而且达不到相应计算性能。故需要对这类网络模型进行压缩，以优化网络模型的性能。或者，另一部分原因在于，一些需要部署网络模型的处理设备的处理能力并不高，难以支持部署高性能参数的网络模型，故需要对这类网络模型进行压缩，在不过多损失性能参数的情况下，达到能够被部署到低处理能力的处理设备中的条件。

传统的网络模型压缩方式主要依靠压缩人员的压缩经验，压缩人员需要根据自身经验，在压缩过程中基于压缩需求人工调整压缩算法的参数，严重影响压缩效率和导致不稳定的压缩精度。

发明内容

为了解决上述技术问题，本申请提供了一种终端部署方法及装置。

本申请实施例公开了如下技术方案：

第一方面，本申请实施例提供了一种模型压缩方法，所述方法包括：

获取待压缩模型和压缩偏好配置，所述压缩偏好配置用于标识所述待压缩模型被压缩后具有的性能参数；

根据所述待压缩模型的模型类型和所述压缩偏好配置，确定第一次压缩对应的压缩算法组件和算法超参数取值；

根据第一次压缩对应的算法超参数取值，通过第一次压缩对应的压缩算法组件对所述待压缩模型进行压缩，得到第一次压缩对应的候选压缩结果；

若第一次压缩对应的候选压缩结果的性能参数与所述压缩偏好配置的符合程度不满足预设条件，根据确定出的调参策略调整压缩算法组件和算法超参数取值继续进行压缩；其中，第i次压缩的压缩对象为第i-1次压缩得到的候选压缩结果，第i次压缩对应的压缩算法组件和算法超参数取值是根据第i次压缩对应的调参策略调整得到的，第i次压缩对应的调参策略是基于第i-1次压缩对应的候选压缩结果的性能参数与所述压缩偏好配置的符合程度确定的；

若第i次压缩对应的候选压缩结果的性能参数与所述压缩偏好配置的符合程度满足预设条件，将第i次压缩对应的候选压缩结果作为所述待压缩模型的压缩模型。

第二方面，本申请实施例提供了一种模型压缩装置，所述装置包括：

第一获取单元，用于获取待压缩模型和压缩偏好配置，所述压缩偏好配置用于标识所述待压缩模型被压缩后具有的性能参数；

第一确定单元，用于根据所述待压缩模型的模型类型和所述压缩偏好配置，确定第一次压缩对应的压缩算法组件和算法超参数取值；

第一压缩单元，用于根据第一次压缩对应的算法超参数取值，通过第一次压缩对应的压缩算法组件对所述待压缩模型进行压缩，得到第一次压缩对应的候选压缩结果；