[发明专利]业务场景驱动的视觉洞察支撑系统、客户端和方法

说明书

本发明公开了业务场景驱动的视觉洞察支撑系统、客户端和方法，所述系统包括模型库、模型管理后台和业务场景管理模块：所述模型库用于存储若干个标准化模型；所述模型管理后台用于根据编排客户端所构建的模型编排树、对应同一个模型编排树的节点上编排客户端所设置的标准化模型，以及对应同一个模型编排树编排客户端绑定于标准化模型的图形处理器生成模型调度关系表；业务场景管理模块用于根据由编排客户端所关联的若干个模型调度关系表生成业务场景；利用该系统可供客户端针对不同的业务场景以及模型编排对模型进行调用，当客户端需要更改模型调度顺序或调用场景时，只需完成新的模型编排树或重新关联模型调度关系表，无需通过修改代码实现。

技术领域

本发明涉及领域，更具体地，涉及业务场景驱动的视觉洞察支撑系统、客户端和方法。

背景技术

目前机器学习应用的开发过程基本都是准备数据，选择模型，调整优化模型，最后上线供外部应用调用。通常都是基于竖井式的方法进行模型应用开发，将基于场景的数据输入输出处理、模型调度逻辑、模型算法、算法执行框架等几个层面的技术以及代码逻辑强绑定，形成一个不可分割的完整模块，从而导致整个应用场景的计算、模型、调度、数据全部都绑定在一起。而这样的模型应用开发方案中，存在着以下的缺陷：

（1）基于业务场景建模的数据模型与图片数据、算法糅合在一起，导致业务建模一旦变动，算法的调度逻辑和算法本身也需要变动，由此容易出错，且开发效率低；

（2）整个方案与特定的模型执行框架（caffee或者mmdection）绑定在一起，升级改造难度大，成本高，难以适应现有深度学习模型框架快速发展变化的技术背景；

（3）整个方案的代码逻辑融合在一起，一旦某个或某些模型需要更新，则需要全部停机，无法实现模型的在线更新维护；

（4）如涉及到多个模型一起参与计算的场景下，通常是把多个模型合并到一起进行调用，或者是分开地逐一通过API进行不同模型的调用，当需要部分更换模型时，只能去修改代码，进行整体版本的迭代；

（5）没有独立出来形成一个通用的模型调度引擎，每拿到一个新的模型，开发、训练好就直接集成使用，需要更新或者替换的时候牵扯到代码很多地方，效率低下，同时每次在应用到新的场景时，整个方案都得从头到尾重新开发、测试、部署，耗费人力和时间。

发明内容

本发明旨在克服上述现有技术的至少一种缺陷，提供业务场景驱动的视觉洞察支撑系统、客户端和方法，用于解决现有模型集成使用后在需要根据不同的业务场景调用和更替模型过程中的不便和繁琐的问题。

本发明提供的方案为：

一种业务场景驱动的视觉洞察支撑系统，所述系统包括模型库、模型管理后台和业务场景管理模块：所述模型库用于存储若干个标准化模型；所述模型管理后台用于根据编排客户端所构建的模型编排树、对应同一个所述模型编排树的节点上所述编排客户端所设置的标准化模型，以及对应同一个所述模型编排树所述编排客户端绑定于所述标准化模型的图形处理器生成模型调度关系表；一个所述模型编排树对应一个所述模型调度关系表；所述业务场景管理模块用于根据由所述编排客户端所关联的若干个所述模型调度关系表生成业务场景。

本发明提供的系统供编排客户端或其他客户端使用，编排客户端会利用模型编排树对模型库中的若干个标准化模型进行编排，标准化模型指已进行输入和输出格式标准化的模型，模型编排树上包括若干个编排树节点，编排客户端可利用节点之间的顺序关系从而编排模型执行的顺序关系，例如两个标准化模型所在的两个节点为前后顺序关系，则两个标准化模型的执行次序为前后顺序执行。编排客户端在完成编排后会将标准化模型与执行该模型的图形处理器进行绑定。系统中的模型管理后台会根据该模型编排树、模型编排树节点上的标准化模型以及模型所绑定的图形处理器生成模型调度关系表，该表中包含了模型编排树的树形结构，模型编排树中每一个节点对应的标准化模型，以及执行模型编排树时所需的图形处理器。