[发明专利]接入方法、装置、电子设备及计算机存储介质

说明书

本公开提供了接入方法、装置、电子设备及计算机存储介质，计算机技术领域，尤其涉及芯片、深度学习等人工智能技术领域。具体实现方案为：根据目标模型中的算子表达，确定调用接入设备的计算图；根据所述接入设备的信息，对所述计算图进行优化；根据所述接入设备接入目标模型的模型框架的接口和所述计算图，对所述接入设备执行所述目标模型的运行相关操作，所述接入设备接入所述目标模型的模型框架的接口，是根据所述接入设备的工具包数据确定的。本公开实施例能够提高模型框架对不同的接入设备的通用性。

技术领域

本公开涉及计算机技术领域，尤其涉及芯片、深度学习等人工智能技术领域。

背景技术

随着计算机技术的发展，深度学习等人工智能技术也快速发展。深度学习模型或者机器学习模型之类的人工智能领域的模型，在人工智能技术中处于核心地位。

模型的运行一般需要硬件的支持，但是硬件设备的差异性，导致模型的运行存在一定的适配问题。

发明内容

本公开提供了一种接入方法、装置、电子设备及计算机存储介质。

根据本公开的一方面，提供了一种接入方法，包括：

根据目标模型中的算子表达，确定调用接入设备的计算图；

根据接入设备的信息，对计算图进行优化；

根据接入设备接入目标模型的模型框架的接口和计算图，对接入设备执行目标模型的运行相关操作，接入设备接入目标模型的模型框架的接口，是根据接入设备的工具包数据确定的。

根据本公开的另一方面，提供了一种接入装置，包括：

计算图确定模块，用于根据目标模型中的算子表达，确定调用接入设备的计算图；

图优化模块，用于根据接入设备的信息，对计算图进行优化；

运行模块，用于根据接入设备接入目标模型的模型框架的接口和计算图，对接入设备执行目标模型的运行相关操作，接入设备接入目标模型的模型框架的接口，是根据接入设备的工具包数据确定的。

根据本公开的另一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与该至少一个处理器通信连接的存储器；其中，

该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行本公开任一实施例中的方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行本公开任一实施例中的方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序/指令，该计算机程序/指令被处理器执行时实现本公开任一实施例中的方法。

根据本公开的技术，能够根据目标模型中的算子表达、目标模型的接入设备的情况，对目标模块运行相关的计算图进行优化，计算图优化和接入接口分开执行，从而只需在接入接口时进行关于接口的改进，使得改进后的接口适配更多不同的接入设备，减少适配不同的接入设备的难度和数据修改量。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开一实施例的接入方法示意图；

图2是根据本公开另一实施例的接入方法示意图；

图3是根据本公开又一实施例的接入方法示意图；