[发明专利]一种无标点文本分句方法在审
申请号: | 202110220106.2 | 申请日: | 2021-02-27 |
公开(公告)号: | CN112765957A | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 邓强;朱西华;孙力泽 | 申请(专利权)人: | 中电万维信息技术有限责任公司 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/30;G06F40/216;G06N3/04;G06N3/08 |
代理公司: | 兰州嘉诺知识产权代理事务所(普通合伙) 62202 | 代理人: | 郭海 |
地址: | 730000 甘肃省兰州市城关*** | 国省代码: | 甘肃;62 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及计算机领域的人工智能技术领域,具体涉及一种无标点文本分句方法,S1:中文文本数据预处理,从数据库里提取待处理的文本数据,并确定分割文本的标识符类别,清洗数据,去掉文本中特殊的字符;S2:根据标签对处理好的数据进行数据标注,每一个字符后增加一个语料,单条语料里每个字符一行,语料与字符间用空格隔开;S3:将标注后的文本放入BERT中文预训练语言模型中,把中文字符转换为Embedding空间字向量;S4:将提取的Embedding空间向量放入BiLSTM中得到包含上下文信息的向量h,再经过一个dropout层后,将h的维度映射为维度为标签个数的向量;S5:将步骤S4产生的结果经CRF层后输出得分最高的标签序列,经过以上步骤不断的训练迭代,直至模型收敛。 | ||
搜索关键词: | 一种 标点 文本 分句 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中电万维信息技术有限责任公司,未经中电万维信息技术有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110220106.2/,转载请声明来源钻瓜专利网。