[发明专利]一种可定制化嵌入式AI模型落地软件架构系统

说明书

一种可定制化嵌入式AI模型落地软件架构系统，可定制化输入处理模块对采集到的数据进行预处理，可定制化输入处理模块根据数据类型和设计需求定制对应的预处理算法；可定制化存储处理模块用于数据存储缓存处理，存储输入、输出和中间过程的数据；可定制化AI处理模块根据预设的AI模型配置不同的AI算法进行数据处理；可定制化CPU处理模块为嵌入式功能的处理器，可定制化CPU处理模块根据不同的嵌入式功能定制不同的CPU处理器；可定制化输出处理模块将数据处理后的结果输出到显示器显示或指定设备对象使用。本发明成本低，灵活性大，能够满足更多的嵌入式专一场景和应用需求，实现实时嵌入式处理和实时本地AI处理能力。

技术领域

本发明涉及嵌入式人工智能技术领域，具体涉及一种可定制化嵌入式AI模型落地软件架构系统。

背景技术

嵌入式人工智能实现软件算法时，一般使用传统的嵌入式设备完成嵌入式功能，再加一个AI协处理器来完成人工智能算法，而协处理器一般由GPU或者AI芯片来完成，虽然也有通用的AI芯片，但在功能较专一，单一的小型嵌入式设备上并不适用。嵌入式处理器和AI处理器彼此分工独立，拥有自己独立的内存、输入、输出处理，彼此再通过软件接口通信完成实时的数据传输。这样实现的嵌入式人工智能软件开发要求高，开发成本也高，同时，应对不同的需求，后期修改软件也相对复杂，不仅要修改AI处理算法的实现，还要修改嵌入式设备与AI处理器的通信及数据处理等。

现阶段，虽然可以同时实时完成嵌入式功能和人工智能算法，但是需要增加额外的嵌入式处理器与AI处理器之间的通信软件，导致没有充分结合嵌入式功能和AI功能，同时也增加了成本，而且一旦场景需求改动较大，这种软件架构就不再适用，需要用新的架构和通信接口。

发明内容

为此，本发明提供一种可定制化嵌入式AI模型落地软件架构系统，解决现有嵌入式人工智能软件架构存在的成本高、应用专一，不适合多场景、多需求的问题。

为了实现上述目的，本发明提供如下技术方案：一种可定制化嵌入式AI模型落地软件架构系统，包括可定制化输入处理模块、可定制化存储处理模块、可定制化AI处理模块、可定制化CPU处理模块和可定制化输出处理模块；

所述可定制化输入处理模块对采集到的数据进行预处理，可定制化输入处理模块根据数据类型和设计需求定制对应的预处理算法；

所述可定制化存储处理模块用于数据存储缓存处理，可定制化存储处理模块存储输入、输出和中间过程的数据；

所述可定制化AI处理模块根据预设的AI模型配置不同的AI算法，可定制化AI处理模块通过AI模型配置的AI算法进行数据处理；

所述可定制化CPU处理模块为嵌入式功能的处理器，可定制化CPU处理模块根据不同的嵌入式功能定制不同的CPU处理器；

所述可定制化输出处理模块用于将数据处理后的结果输出到显示器显示或指定设备对象使用。

作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述可定制化输入处理模块、可定制化存储处理模块、可定制化AI处理模块、可定制化CPU处理模块和可定制化输出处理模块由集成在一块PCB上的一个处理器IC芯片实现。

作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述处理器IC芯片采用ZYNQ型号的SOC FPGA或嵌入式AI SOC。

作为可定制化嵌入式AI模型落地软件架构系统的优选方案，所述可定制化输入处理模块由ZYNQ中可编程的PL进行定制化；

所述可定制化存储处理模块由ZYNQ中本地存储和外部DDR组成；

所述可定制化AI处理模块由ZYNQ中可配置的PL进行定制化；

所述可定制化CPU处理模块由ZYNQ中可配置的PS进行定制化；