[发明专利]字幕对话流的主题分割方法及装置有效
申请号: | 201910906359.8 | 申请日: | 2019-09-24 |
公开(公告)号: | CN110717316B | 公开(公告)日: | 2021-07-30 |
发明(设计)人: | 周强;张镭镧 | 申请(专利权)人: | 清华大学 |
主分类号: | G06F40/166 | 分类号: | G06F40/166;G06F40/30 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 张秀程 |
地址: | 100084 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 字幕 对话 主题 分割 方法 装置 | ||
1.一种字幕对话流的主题分割方法,其特征在于,包括:
基于BERT提取字幕对话流的句子序列中每个句子的语义特征,并根据每个句子的语义特征将每个句子表示为向量;
将所有所述句子的向量输入至TCN,输出所述句子序列对应的标签序列;其中,所述句子序列中的句子与所述标签序列中的标签一一对应;所述TCN在考查所述对话流的全局信息的基础上检测主题片段边界,采用了句子级序列标注的架构,对于所述对话流中的每一个句子,输出一个0-1标签,用以标明该句子是否是一个新的主题片段的开始;
根据所述标签序列,对所述字幕对话流进行主题分割;
其中,将所有所述句子的向量输入至TCN,输出所述句子序列对应的标签序列的步骤之前还包括:
使用损失函数FocalLoss对所述TCN进行训练,FocalLoss的计算公式为:
γ为整数。
2.根据权利要求1所述的字幕对话流的主题分割方法,其特征在于,基于BERT提取字幕对话流的句子序列中每个句子的语义特征的步骤具体包括:
当所述字幕对话流为中文时,将每个句子划分为N个字;
基于所述BERT对每个字进行处理,获取每个字对应的大小为H的特征向量;
将每个句子表示为N*H的矩阵。
3.根据权利要求1所述的字幕对话流的主题分割方法,其特征在于,基于BERT提取字幕对话流的句子序列中每个句子的语义特征的步骤具体包括:
将所述BERT的每一层在其前一层的输出上加上自注意力,输出N*H的矩阵;其中,N为输入所述BERT中的句子的长度,H为所述BERT中隐含层的大小;
将所述BERT的倒数第二层输出的矩阵作为每个句子的语义特征。
4.根据权利要求2所述的字幕对话流的主题分割方法,其特征在于,根据每个句子的语义特征将每个句子表示为向量的步骤具体包括:
对每个句子的语义特征进行平均池化,将每个句子的语义特征平均池化为大小为H的特征向量。
5.根据权利要求1-4任一所述的字幕对话流的主题分割方法,其特征在于,所述标签序列中包括标签0和标签1;
其中,所述标签1表示所述字幕对话流的主题转换标记。
6.一种字幕对话流的主题分割装置,其特征在于,包括:
句子表示模块,用于基于BERT提取字幕对话流的句子序列中每个句子的语义特征,并根据每个句子的语义特征将每个句子表示为向量;
主题检测模块,用于将所有所述句子的向量输入至TCN,输出所述句子序列对应的标签序列;其中,所述句子序列中的句子与所述标签序列中的标签一一对应;所述TCN在考查所述对话流的全局信息的基础上检测主题片段边界,采用了句子级序列标注的架构,对于所述对话流中的每一个句子,输出一个0-1标签,用以标明该句子是否是一个新的主题片段的开始;
主题分割模块,用于根据所述标签序列,对所述字幕对话流进行主题分割;
其中,还包括训练模块,用于使用损失函数FocalLoss对所述TCN进行训练,FocalLoss的计算公式为:
γ为整数。
7.根据权利要求6所述的字幕对话流的主题分割装置,其特征在于,所述句子表示模块具体用于:
当所述字幕对话流为中文时,将每个句子划分为N个字;
基于所述BERT对每个字进行处理,获取每个字对应的大小为H的特征向量;
将每个句子表示为N*H的矩阵。
8.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至5任一项所述字幕对话流的主题分割方法的步骤。
9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至5任一项所述字幕对话流的主题分割方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910906359.8/1.html,转载请声明来源钻瓜专利网。