[发明专利]一种模型预测方法、装置、电子设备及存储介质

权利要求书

1.一种模型预测方法，其特征在于，包括：

接收输入数据并将所述输入数据分配到预测模型的至少两个子模型中分别进行预测打分，其中各所述子模型分别由不同的进程驱动，每个所述进程中包括至少两个线程，所述预测模型基于TensorFlow框架；

对各所述子模型的预测打分的分数进行加权求和，以获得所述预测模型的预测结果；

所述接收输入数据并将所述输入数据分配到预测模型的至少两个子模型中分别进行预测打分包括：

接收所述输入数据并将所述输入数据分配给至少两个子模型，其中每个子模型通过单独一个进程驱动；

将每个所述进程对应的输入数据分配给至少两个第一线程分别进行预处理操作；

将所述第一线程预处理后的数据通过至少两个第二线程分别进行预测打分。

2.根据权利要求1所述的方法，其特征在于，每个所述线程由中央处理器CPU或图形处理器GPU执行。

3.根据权利要求1所述的方法，其特征在于，所述将每个所述进程对应的输入数据分配给至少两个第一线程分别进行预处理操作之后，所述将所述第一线程预处理后的数据通过至少两个第二线程分别进行预测打分之前，所述方法还包括：

将所述第一线程预处理后的数据存入缓冲队列；

从所述缓冲队列中读取所述预处理后的数据到所述至少两个第二线程。

4.根据权利要求1所述的方法，其特征在于，所述第一线程由中央处理器CPU执行，所述第二线程由图形处理器GPU执行。

5.一种模型预测装置，其特征在于，包括：

分配单元，用于接收输入数据并将所述输入数据分配到预测模型的至少两个子模型中分别进行预测打分，其中各所述子模型分别由不同的进程驱动，每个所述进程中包括至少两个线程，所述预测模型基于TensorFlow框架；

求和单元，用于对各所述子模型的预测打分的分数进行加权求和，以获得所述预测模型的预测结果；

所述分配单元包括：

进程分配模块，用于接收所述输入数据并将所述输入数据分配给至少两个子模型，其中每个子模型通过单独一个进程驱动；

第一线程分配模块，用于将每个所述进程对应的输入数据分配给至少两个第一线程分别进行预处理操作；

第二线程分配模块，用于将所述第一线程预处理后的数据通过至少两个第二线程分别进行预测打分。

6.根据权利要求5所述的装置，其特征在于，每个所述线程由中央处理器CPU或图形处理器GPU执行。

7.根据权利要求5所述的装置，其特征在于，所述分配单元还包括：

存入模块，用于在将每个所述进程对应的输入数据分配给至少两个第一线程分别进行预处理操作之后，将所述第一线程预处理后的数据通过至少两个第二线程分别进行预测打分之前，将所述第一线程预处理后的数据存入缓冲队列；

读取模块，用于从所述缓冲队列中读取所述预处理后的数据到所述至少两个第二线程。

8.根据权利要求5所述的装置，其特征在于，所述第一线程由中央处理器CPU执行，所述第二线程由图形处理器GPU执行。

9.一种电子设备，其特征在于，所述电子设备包括：壳体、处理器、存储器、电路板和电源电路，其中，电路板安置在壳体围成的空间内部，处理器和存储器设置在电路板上；电源电路，用于为上述电子设备的各个电路或器件供电；存储器用于存储可执行程序代码；处理器通过读取存储器中存储的可执行程序代码来运行与可执行程序代码对应的程序，用于执行前述权利要求1-4任一项所述的模型预测方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现前述权利要求1至4中任一项所述的模型预测方法。