[发明专利]一种面向国产异构众核处理器的TensorFlow框架核心计算加速引擎

权利要求书

1.一种面向国产异构众核处理器的TensorFlow框架核心计算加速引擎，其特征在于：独立设置于TensorFlow框架与多个众核计算加速库之间，包括以下功能模块：

算子接口模块，提供一系列标准化的算子调用接口，用于修改TensorFlow框架中的kernel层代码，供需要加速的算子实现调用，从而将运行流程转入核心计算加速引擎；

分析调度模块，用于分析算子类型和算子参数特性，将算子参数封装为各个众核计算加速库的参数结构，并根据算子类型调用不同的众核计算加速库，当同种算子类型有多种算子实现时，根据算子参数特点自动选择最优的实现方式并进行调用；

调试模块，用于定位算子错误，进一步包括算子控制单元、非数定位单元和算子日志单元；

算子控制单元，通过环境变量的方式打开或关闭各个算子的计算流程，如某算子关闭，则该算子计算通过TensorFlow框架的默认流程进行计算，通过调试模块快速定位各个算子的正确性问题；

非数定位单元，通过算子计算开始和结束后的检查代码监测是否有非数产生，从而定位非数产生的第一现场；

算子日志单元，用于输出模型运行过程中的所有算子列表和参数；

性能分析模块，用于记录各个算子的运行时间，从算子层面分析模型推理或训练过程的性能表现。

2.根据权利要求1所述的一种面向国产异构众核处理器的TensorFlow框架核心计算加速引擎，其特征在于：所述调试模块配置了关闭某核心计算的环境变量，使得核心计算加速引擎不再调用该核心计算的众核优化实现，而是转入TensorFlow框架默认的计算流程。

3.根据权利要求1所述的一种面向国产异构众核处理器的TensorFlow框架核心计算加速引擎，其特征在于：所述调试模块配置了非数定位的环境变量，使得在运行过程中如果检测到算子的输入或输出中出现非数，能够输出出错现场日志。

4.根据权利要求1所述的一种面向国产异构众核处理器的TensorFlow框架核心计算加速引擎，其特征在于：所述调试模块配置了记录算子日志的环境变量，将运行过程中调用的算子类型和参数以文件的方式记录下来。

5.根据权利要求1所述的一种面向国产异构众核处理器的TensorFlow框架核心计算加速引擎，其特征在于：所述性能分析模块配置了性能分析环境变量，通过计时的方式记录各个核心计算的运行时间，并生成性能分析日志。

6.根据权利要求1所述的一种面向国产异构众核处理器的TensorFlow框架核心计算加速引擎，其特征在于：被编译成一个独立的动态库。