[发明专利]视频片段检索方法、视频片段检索模型的训练方法及装置在审
申请号: | 202110910711.2 | 申请日: | 2021-08-09 |
公开(公告)号: | CN113590881A | 公开(公告)日: | 2021-11-02 |
发明(设计)人: | 聂礼强;刘萌;王蕴潇;程志勇;王英龙;雷小强;李岩 | 申请(专利权)人: | 北京达佳互联信息技术有限公司;山东大学 |
主分类号: | G06F16/783 | 分类号: | G06F16/783;G06K9/00;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 冯右明 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 视频 片段 检索 方法 模型 训练 装置 | ||
1.一种视频片段检索方法,其特征在于,所述方法包括:
获取待查询视频的视频特征和检索文本的文本特征;
将所述视频特征和所述文本特征输入预先训练的视频片段检索模型,得到所述待查询视频中与所述检索文本匹配的候选视频片段;
其中,所述预先训练的视频片段检索模型,为根据样本视频、样本文本以及与所述样本文本匹配的目标候选视频片段对待训练的视频片段检索模型进行训练得到的;其中,所述目标候选视频片段从候选样本视频片段库中获取,所述候选样本视频片段库中包括按照多种时长划分标准对所述样本视频进行划分得到的多组候选样本视频片段,其中,每组候选样本视频片段中包括采用一种时长划分标准对所述样本视频进行划分得到的多个候选样本视频片段;不同组候选样本视频片段之间采用的时长划分标准不同。
2.根据权利要求1所述的视频片段检索方法,其特征在于,所述获取待查询视频的视频特征和检索文本的文本特征,包括:
获取待查询视频的视觉特征和所述检索文本的初始文本特征;
对所述视觉特征进行映射处理,得到所述待查询视频的视频特征,以及对所述初始文本特征进行映射处理,得到处理后的初始文本特征;
通过注意力机制,对所述处理后的初始文本特征进行再次映射处理,得到所述检索文本的文本特征;所述文本特征和所述视频特征对应的特征矩阵的结构相同,且在特征矩阵中的对应位置上存在语义关联。
3.根据权利要求2所述的视频片段检索方法,其特征在于,所述通过注意力机制,对所述处理后的初始文本特征进行再次映射处理,得到所述检索文本的文本特征,包括:
通过注意力机制,获取所述视频特征中每个视频帧的特征与所述处理后的初始文本特征中各单词的特征之间的注意力权重;
根据每个视频帧的特征与所述处理后的初始文本特征中各单词的特征之间的注意力权重,对所述各单词的特征进行加权求和,得到针对于每个视频帧的文本特征;
将针对于每个视频帧的文本特征进行组合,得到所述检索文本的文本特征。
4.根据权利要求1所述的视频片段检索方法,其特征在于,所述预先训练的视频片段检索模型通过下述方式训练得到:
获取样本视频的样本视频特征和样本文本的样本文本特征;
将所述样本视频特征和所述样本文本特征输入待训练的视频片段检索模型,得到所述样本视频的各候选样本视频片段与所述样本文本之间的匹配度情况;
根据所述匹配度情况,从所述各候选样本视频片段中筛选出与所述样本文本匹配的目标候选视频片段;
根据所述目标候选视频片段与所述样本文本之间的匹配度情况确定损失值,根据所述损失值对所述待训练的视频片段检索模型进行训练,得到训练完成的视频片段检索模型。
5.一种视频片段检索模型的训练方法,其特征在于,所述方法包括:
获取样本视频的样本视频特征和样本文本的样本文本特征;
将所述样本视频特征和所述样本文本特征输入待训练的视频片段检索模型,得到所述样本视频的各候选样本视频片段与所述样本文本之间的匹配度情况;其中,所述各候选样本视频片段中包括按照多种时长划分标准对所述样本视频进行划分得到的多组候选样本视频片段,其中,每组候选样本视频片段中包括采用一种时长划分标准对所述样本视频进行划分得到的多个候选样本视频片段;不同组候选样本视频片段之间采用的时长划分标准不同;
根据所述匹配度情况,从所述各候选样本视频片段中筛选出与所述样本文本匹配的目标候选视频片段;
根据所述目标候选视频片段与所述样本文本之间的匹配度情况确定损失值,根据所述损失值对所述待训练的视频片段检索模型进行训练,得到训练完成的视频片段检索模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司;山东大学,未经北京达佳互联信息技术有限公司;山东大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110910711.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种发酵的酸椰奶
- 下一篇:一种睡眠医学治疗用诊疗椅