[发明专利]一种数据处理方法、装置和电子设备有效
申请号: | 201811497640.2 | 申请日: | 2018-12-07 |
公开(公告)号: | CN109887492B | 公开(公告)日: | 2021-02-12 |
发明(设计)人: | 郑宏 | 申请(专利权)人: | 北京搜狗科技发展有限公司 |
主分类号: | G10L15/04 | 分类号: | G10L15/04;G10L15/26;G10L13/08;G06F40/117 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
地址: | 100084 北京市海淀区中关*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 电子设备 | ||
本发明实施例提供了一种数据处理方法、装置和电子设备,其中,所述方法包括:获取当前语音识别文本;将所述当前语音识别文本和上N条输出文本进行拼接,得到拼接文本,其中,所述N为正整数;在所述拼接文本中添加标点,从添加标点的拼接文本中提取除所述上N条输出文本之外的数据作为当前输出文本并输出。本发明实施例可以通过结合停顿前后的两条文本,确定停顿之前的文本末尾标点,解决因为停顿错加标点的问题,从而提高添加标点的准确率。
技术领域
本发明涉及数据处理技术领域,特别是涉及一种数据处理方法、装置和电子设备。
背景技术
人工智能包括十分广泛的科学,由不同的领域组成,如机器学习,计算机视觉等等。总的说来,人工智能研究的一个主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作;自人工智能诞生以来,理论和技术日益成熟,应用领域也不断扩大。如机器翻译领域,例如将汉语翻译成英语、将英语翻译成汉语等等。
随着机器翻译技术不断的成熟,基于机器的同传翻译应运而生,同传翻译可以包括:语音识别和机器翻译,如图1所示;其中,所述语音识别包括多个阶段:获取语音数据、VAD(Voice Activity Detection,语音端点检测)断句、语音识别、文本断句;其中,VAD断句是根据静音时间将语音切断为多个语音片段,文本断句是给各语音片段对应的语音识别文本加上标点符号,如语音识别文本“大家好我叫李磊”,然后给这句文本添加标点符号如“大家好,我叫李磊”。
用户在说没有标点的一句话的过程中,可能会停顿,例如用户先说一句:“我们热切期待着的”,然后停顿了一会再接着说:“这个新技术”;当停顿时间超过阈值,这句话就会被分为多段;例如上述两句话之间停顿了20ms,此时这一完整语句的语音会被切分为两段语音片段:“我们热切期待着的”对应的语音片段和“这个新技术”对应的语音片段。然后在为每个语音片段对应的语音识别文本段添加标点时,可能会给这一段末尾添加标点,例如可能会“我们热切期待着的”这句文本的末尾会添加句号,得到“我们热切期待着的。”显然“我们热切期待着的”后面是不应该添加标点符号的,导致标点添加错误。
发明内容
本发明实施例提供一种数据处理方法,以提高添加标点的准确率。
相应的,本发明实施例还提供了一种数据处理装置和一种电子设备,用以保证上述方法的实现及应用。
为了解决上述问题,本发明实施例公开了一种数据处理方法,具体包括:获取当前语音识别文本;将所述当前语音识别文本和上N条输出文本进行拼接,得到拼接文本,其中,所述N为正整数;在所述拼接文本中添加标点,从添加标点的拼接文本中提取除所述上N条输出文本之外的数据作为当前输出文本并输出。
可选地,所述在所述拼接文本中添加标点,包括:对所述拼接文本进行分词处理,得到对应的多个分词片段;依据符号匹配模型,确定各分词片段对应的符号标识;若所述分词片段的符号标识是设定标识,则在所述拼接文本中所述分词片段对应文字之后添加所述符号标识。
可选地,所述符号匹配模型包括第一符号匹配模型和第二符号匹配模型,所述依据符号匹配模型,确定各分词片段对应的符号标识,包括:依次将各分词片段输入至所述第一符号匹配模型中,得到各分词片段对应各符号标识的第一概率信息;依次将各分词片段输入至所述第二符号匹配模型中,得到各分词片段对应各符号标识的第二概率信息;针对一个分词片段,依据所述分词片段对应各符号标识的第一概率信息和第二概率信息,确定所述分词片段对应的符号标识。
可选地,所述依据所述分词片段对应各符号标识的第一概率信息和第二概率信息,确定所述分词片段对应的符号标识,包括:依据所述分词片段对应各符号标识的第一概率信息,计算第一方差信息;依据所述分词片段对应各符号标识的第二概率信息,计算第二方差信息;若所述第一方差信息大于第二方差信息,则选取第一概率信息最大的符号标识作为所述分词片段对应的符号标识;若所述第二方差信息大于第一方差信息,则选取第二概率信息最大的符号标识作为所述分词片段对应的符号标识。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狗科技发展有限公司,未经北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811497640.2/2.html,转载请声明来源钻瓜专利网。