[发明专利]一种基于多层级中介码的图神经网络编译优化方法

权利要求书

1.一种基于多层级中介码的图神经网络编译优化方法，其特征在于，包括以下步骤：

步骤1：对图神经网络模型进行预处理，然后训练模型；

步骤2：将训练后的图神经网络模型转换为ONNX格式；

步骤3：使用ONNX-MLIR前端把ONNX格式的图神经网络模型转换为IR；

步骤4：进行IR编译优化；

步骤5：生成可执行程序。

2.如权利要求1所述的基于多层级中介码的图神经网络编译优化方法，其特征在于，步骤1中，预处理包括将稀疏张量数据类型改写为稠密张量类型，使用torch.nn基类重构模型。

3.如权利要求1所述的基于多层级中介码的图神经网络编译优化方法，其特征在于，步骤4中，IR编译优化包括图层IR优化和算子层IR优化，

图层IR优化包括算子分解、形状推断、图重写和常量传播；

算子层IR优化包括循环展开、循环调度、循环分块和内存分配。

4.如权利要求1所述的基于多层级中介码的图神经网络编译优化方法，其特征在于，步骤5中，先把优化好的IR转换为C++代码，再生成可执行程序。

5.如权利要求4所述的基于多层级中介码的图神经网络编译优化方法，其特征在于，IR转换为C++代码的过程为：

S1：对照MLIR官方提供的方言手册，明确各个操作的具体定义；

S2：遍历整个IR，使用正则表达式识别出各个操作，以及各个操作中包含的变量类型、变量名字和变量限制；

S3：根据各个操作的定义，使用模板替换出各个操作的C++代码。