[发明专利]一种基于动态加载和重定向技术的DSP虚拟化系统及方法

说明书

本发明公开了一种基于动态加载和重定向技术的DSP虚拟化系统及方法，系统通过运行在主机的HOST侧与运行在DSP的DSP侧协同工作实现，DSP侧包括DSP固件模块，HOST侧包括DSP Lib模块、vDSP Manager模块和vDSP Lib模块。本发明通过DSP虚拟化系统实现多用户对单DSP资源的并发使用，解决DSP只能由单一用户开发和使用的问题，达到提升DSP资源利用率的目的。本发明对于CPU‑DSP协同应用，用户可简单通过DSP函数蓝图扩展和vDSP Lib模块扩展来灵活支持CPU‑DSP应用程序中新的DSP API调用请求。

技术领域

本发明属于虚拟化技术领域，具体地，涉及一种基于动态加载和重定向技术的DSP虚拟化系统及方法，可用于HPC、边缘计算、云计算等领域。

背景技术

随着边缘计算、人工智能等新兴业务中对异构计算资源的支持，云计算基础设施明显准备不足，无论是IaaS层还是PaaS层的平台，都还主要面向以CPU为主的通用计算资源，同时以FPGA、GPU为代表的异构计算资源也通过vCUDA、Overlay等虚拟化方式融入云计算中，而DSP异构资源虚拟化尚处于不支持的状态。

在传统的DSP开发模型中，使用者通常使用DSP集成开发环境进行程序设计开发，然后通过特定的固件烧写工具将DSP程序烧写到DSP上，最终生成可以运行的DSP映像。这种开发模式的主要缺点是DSP只能由单一用户开发和使用，而与应用场景、DSP的产品种类等无关。对于一个对资源需求不大、而且不需要连续运行的应用而言，大部分DSP的硬件资源在大部分时间内都会闲置，这样很难在时空范围内对DSP进行充分利用。

发明内容

本发明的目的之一在于提供一种基于动态加载和重定向技术的DSP虚拟化系统，通过DSP虚拟化实现多用户对单DSP资源的并发使用，解决现有技术中DSP只能由单一用户开发和使用的问题，从而达到提升DSP资源利用率的目的。

为实现上述目的，本发明所采取的技术方案为：

一种基于动态加载和重定向技术的DSP虚拟化系统，通过运行在主机的HOST侧与运行在DSP的DSP侧协同工作实现，所述DSP侧包括DSP固件模块，所述HOST侧包括DSP Lib模块、vDSP Manager模块和vDSP Lib模块，其中：

所述vDSP Lib模块设置有多个，每个vDSP Lib模块用于拦截CPU-DSP应用程序中的DSP API调用请求并将其重定向到vDSP Manager模块；还用于接收所述vDSP Manager模块返回的处理结果并传递给CPU-DSP应用程序；

所述vDSP Manager模块，用于接收多个经vDSP Lib模块重定向后接入的DSP API调用请求，将所有DSP API调用请求序列化，并将序列内的DSP API调用请求逐一传递给DSPLib模块；还用于接收所述DSP Lib模块返回的处理结果并传递给对应的vDSP Lib模块；

所述DSP Lib模块，用于接收vDSP Manager模块发送的DSP API调用请求，将DSPAPI调用请求传递给DSP固件模块；还用于接收所述DSP固件模块返回的处理结果并传递给所述vDSP Manager模块；

所述DSP固件模块，用于根据所述DSP Lib模块发送的DSP API调用请求，控制所述DSP动态加载处理函数处理DSP API调用请求完成DSP服务，并向所述DSP Lib模块返回对应于DSP API调用请求的处理结果。

以下还提供了若干可选方式，但并不作为对上述总体方案的额外限定，仅仅是进一步的增补或优选，在没有技术或逻辑矛盾的前提下，各可选方式可单独针对上述总体方案进行组合，还可以是多个可选方式之间进行组合。