[发明专利]动作识别方法、装置、存储介质及电子设备在审
申请号: | 202210113058.1 | 申请日: | 2022-01-29 |
公开(公告)号: | CN114724237A | 公开(公告)日: | 2022-07-08 |
发明(设计)人: | 陈奕名 | 申请(专利权)人: | 北京育达东方软件科技有限公司 |
主分类号: | G06V40/20 | 分类号: | G06V40/20;G06K9/62;G06N3/04;G06N3/08;G06V10/774;G06V10/82 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 张桂杰 |
地址: | 100080 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 动作 识别 方法 装置 存储 介质 电子设备 | ||
1.一种动作识别方法,其特征在于,所述方法包括:
获取目标视频片段;
将所述目标视频片段输入预先训练的骨骼点识别模型,得到对应所述目标视频的骨骼点热图;
将所述骨骼点热图输入多个预先训练的动作识别模型,得到多个识别结果,其中,各个所述动作识别模型的训练方法、模型结构以及采样频率至少有一者不同;
确定所述多个识别结果中置信度最高的识别结果为对应所述目标视频片段的目标动作类型。
2.根据权利要求1所述的方法,其特征在于,所述多个预先训练的动作识别模型包括训练完成的第一残差模型,所述第一残差模型为ResNet152模型,
所述方法包括:
获取包括预先标注动作类型的训练数据,所述训练数据包括多个视频片段对应的骨骼点热图;
将全量所述训练数据作为训练集输入未经训练的第一残差模型,得到第一识别结果;
根据所述识别结果调整该第一残差模型的参数,直至第一识别结果满足预设条件,得到训练完成的第一残差模型。
3.根据权利要求1所述的方法,其特征在于,所述多个预先训练的动作识别模型包括训练完成的第二残差模型,所述第二残差模型包括残差块,以及与所述残差块连接的第一压缩激发块;
所述将所述骨骼点热图输入多个预先训练的动作识别模型,得到多个识别结果包括:
将所述骨骼热点图输入所述第二残差模型的所述残差块,得到第一特征图;
将所述第一特征图输入所述第一压缩激发块,得到调整时域特征权重后的第二特征图;
根据所述骨骼热点图、所述第一特征图以及所述第二特征图,得到第二残差模型输出的识别结果。
4.根据权利要求3所述的方法,其特征在于,所述第二残差模型还包括与所述残差块连接的第二压缩激发块;
所述将所述骨骼点热图分别输入多个预先训练的动作识别模型,得到多个识别结果包括:
将所述第一特征图输入所述第二压缩激发块,得到调整空间特征权重后的第三特征图;
根据所述骨骼热点图、所述第一特征图、所述第二特征图以及第三特征图,得到第二残差模型输出的识别结果。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
获取包括预先标注动作类型标签的训练数据,所述训练数据包括多个视频片段对应的骨骼点热图;
将所述训练数据输入未经训练的第二残差模型,得到该第二残差模型输出的第二识别结果;
对比所述第一识别结果与所述动作类型标签,调整时域特征权重控制值和/或空间特征权重控制值,直至所述第二识别结果满足预设条件,得到训练完成的第二残差模型。
6.根据权利要求1所述的方法,其特征在于,所述动作识别模型包括第三残差模型,所述方法包括:
获取包括预先标注动作类型标签的训练数据,所述训练数据包括多个视频片段对应的骨骼点热图;
将所述训练数据按照预设比例划分为训练集以及验证集;
根据所述训练集,训练多个ResNet152模型作为教师模型;
将所述验证集去除动作类型标签输入所述教师模型,得到动作类型标签更新后的预测集;
根据所述训练集以及所述预测集并基于蒸馏损失,训练未经训练的ResNet50模型得到训练完成的第三残差模型。
7.根据权利要求6所述的方法,其特征在于,所述动作识别模型包括第四残差模型,所述方法包括:
根据所述验证集以及所述教师模型,得到对应所述验证集的混淆矩阵;
将所述混淆矩阵的对角线置零,得到样本错分矩阵;
根据所述样本错分矩阵,计算得到各动作类别的错分比例;
根据所述错分比例、Sigmoid函数以及哈达玛积,得到代价敏感矩阵;
基于所述代价敏感矩阵,得到混淆矩阵损失函数;
根据所述训练集以及所述预测集并基于所述混淆损失函数,训练未经训练的ResNet50模型得到训练完成的第四残差模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京育达东方软件科技有限公司,未经北京育达东方软件科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210113058.1/1.html,转载请声明来源钻瓜专利网。