[发明专利]一种算法集成服务框架系统

摘要

本发明公开了一种算法集成服务框架系统，包括算法集成框架底层基础服务Rmmt_daemon和上层应用sdk；基于管道(pipe)技术和共享内存技术相结合的，支持以消息方式实现跨进程消息传递与大内存块高效传输的一整套业务组件，能够实现大块数据在AI后端服务间的高效传输，但是在功能上弱于一般意义上“消息总线”。将本发明的算法集成服务框架系统运用于智能安防+AI的图像算法处理时，rmmt框架在单机4核心处理器(主频3.2GHz)上的TPS可达到10000左右(一个rmmt_daemon，挂2个上位进程)，在多线程场景下性能没有明显减少；在应用环境下(单机40路视频算法处理)，rmmt产生的额外CPU占用率在单核心的10％左右，大概比使用传统pipe/zmq减少了80％‑90％，并且内存占用也少了很多。

主权项

1.一种算法集成服务框架系统，其特征在于，包括算法集成框架底层基础服务Rmmt_daemon和上层应用sdk；所述底层基础服务Rmmt_daemon包括命令解析器、内存分配器、全局共享内存块、全局内存分配器，所述命令解析器通过服务端/算法集成服务框架rmmt_sdk接入上位应用程序用于对上位应用程序的请求命令进行解析处理，内存分配器与命令解析器连接，全局内存分配器与内存分配器连接，全局共享内存块与全局内存分配器连接，全局共享内存块用于初始化时指定全局内存池大小，使用过程中给上位应用程序做内存分配/释放/传递共享内存；全局共享内存块连接有上位应用程序的操作系统共享内存资源接口；所述上层应用sdk包括Daemon命令交互模块、共享内存访问模块、网络协议交互模块，Daemon命令交互模块、共享内存访问模块、网络协议交互模块通过API接口连接上位应用程序，Daemon命令交互模块通过服务端/算法集成服务框架rmmt_sdk连接命令解析器，网络协议交互模块用于与算法集成框架底层基础服务Rmmt_daemon通信，共享内存访问模块连接上位应用程序的操作系统共享内存资源接口。