[发明专利]基于人工智能的字幕生成方法、装置、设备及存储介质在审
申请号: | 202011010403.6 | 申请日: | 2020-09-23 |
公开(公告)号: | CN111949805A | 公开(公告)日: | 2020-11-17 |
发明(设计)人: | 冯奕然;冯英林 | 申请(专利权)人: | 深圳前海知行科技有限公司 |
主分类号: | G06F16/41 | 分类号: | G06F16/41;G06F16/44;H04N21/435;H04N21/488;H04N21/81;G06N3/04;G06N3/08 |
代理公司: | 深圳市特讯知识产权代理事务所(普通合伙) 44653 | 代理人: | 黄彧 |
地址: | 518000 广东省深圳市南山区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 人工智能 字幕 生成 方法 装置 设备 存储 介质 | ||
1.一种基于人工智能的字幕生成方法,其特征在于,包括步骤:
获取待生成字幕的视频数据,其中,所述视频数据包括:时间序列、所述时间序列对应的语音数据、所述时间序列对应的图像数据;
读取语音语言种类和目标语言种类,以及调取所述语音语言种类和所述目标语言种类对应的机器学习转换算法,对所述语音数据进行转换处理,生成所述目标语言种类的字符串数据,其中,所述字符串数据包括:文字字符串、所述文字字符串对应的声纹标签序列;
根据所述声纹标签序列中的标签种类,对所述文字字符串进行染色处理,生成所述声纹标签序列对应的目标语言染色字幕;
根据所述时间序列,将所述目标语言染色字幕与所述图像数据进行合并处理,生成附带字幕的视频数据。
2.根据权利要求1所述的基于人工智能的字幕生成方法,其特征在于,所述调取所述语音语言种类对应的机器学习转换算法,对所述语音数据进行转换处理,生成所述目标语言种类的字符串数据包括:
对所述语音数据的声纹特征进行提取,生成所述语音数据对应的特征矩阵;
根据所述语音语言种类,调取所述语音语言种类对应的识别算法,以及根据所述识别算法,对所述特征矩阵进行识别处理,得到文字字符串;
根据所述时间序列,将所述文字字符串与所述特征矩阵进行嵌入处理,得到标签特征矩阵;
根据所述语音语言种类,调取所述语音语言种类对应的声纹分类算法,以及根据所述声纹分类算法,对所述标签特征矩阵进行分类标记处理,得到所述文字字符串对应的声纹标签序列;
将所述声纹标签序列与所述文字字符串进行组合处理,得到字符串数据。
3.根据权利要求2所述的基于人工智能的字幕生成方法,其特征在于,所述根据所述识别算法,对所述特征矩阵进行识别处理,得到文字字符串包括:
将所述特征矩阵与预置初始矩阵进行卷积处理,得到第一识别矩阵;
对所述第一识别矩阵进行分批归一化处理,得到第二识别矩阵;
对所述第二识别矩阵进行映射转换处理,得到第三识别矩阵;
将所述第三识别矩阵与预置深度矩阵进行卷积处理,得到第四识别矩阵;
根据预置激活函数,对所述第四识别矩阵进行激活判定,得到文字字符串。
4.根据权利要求2所述的基于人工智能的字幕生成方法,其特征在于,所述根据所述声纹分类算法,对所述标签特征矩阵进行分类标记处理,得到所述文字字符串对应的声纹标签序列包括:
将所述标签特征矩阵代入预置第一期望函数中,得到第一期望值集,并将所述标签特征矩阵代入预置第二期望函数中,得到第二期望值集;
根据所述文字字符串的排序,对所述第一期望值集和所述第二期望值集进行极大极小运算,得到极大极小值集;
依次将所述极大极小值集中的数值与预置分类区间进行比对,得到所述文字字符串对应的声纹标签序列。
5.根据权利要求4所述的基于人工智能的字幕生成方法,其特征在于,所述依次将所述极大极小值集中的数值与预置分类区间进行比对,得到所述文字字符串对应的声纹标签序列包括:
将所述极大极小值集中的数值与预置分类区间的中位数进行比对;
判断所述数值是否大于所述分类区间的中位数;
若大于所述中位数,则将所述中位数作为最小值重新赋值所述分类区间,以便将所述数值与所述分类区间的中位数重新进行比对;
若小于所述中位数,则判断所述数值是否等于所述中位数;
若不等于所述中位数,则将所述中位数作为最大值重新赋值所述分类区间,以便将所述数值与所述分类区间的中位数重新进行比对;
若等于所述中位数,则读取所述中位数所在所述分类区间的声纹标签,将所述声纹标签标记至所述数值对应所述文字字符串的字符,循环标记得到所述文字字符串对应的声纹标签序列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海知行科技有限公司,未经深圳前海知行科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011010403.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种用于肾盂肾盏冲洗的双通道软镜鞘
- 下一篇:固体绝缘筒