[发明专利]自然语言处理系统的构建方法、电子装置及计算机设备在审
申请号: | 201910876792.1 | 申请日: | 2019-09-17 |
公开(公告)号: | CN110765243A | 公开(公告)日: | 2020-02-07 |
发明(设计)人: | 王健宗;苏雪琦;彭话易;程宁 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F40/289 |
代理公司: | 11015 北京英特普罗知识产权代理有限公司 | 代理人: | 邓应山 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 文本向量 自然语言处理系统 权重参数 输出语句 构建 计算机设备 存储介质 电子装置 反向传播 算法计算 特征转换 预设条件 自动训练 便利性 误差项 维度 语句 文本 网络 | ||
1.一种自然语言处理系统的构建方法,其特征在于,所述方法包括步骤:
从接收的语句文本中提取若干字词特征;
将所述字词特征转换成D维度的文本向量,并将所述文本向量传入神经网络;
获取神经网络接收所述文本向量后的输出语句,根据所述输出语句与所述文本向量的误差项通过反向传播算法计算所述神经网络的目标权重参数;及
根据所述目标权重参数调整所述神经网络各节点的权重参数,直至神经网络的输出语句满足预设条件,得到自然语言处理系统。
2.如权利要求1所述的自然语言处理系统的构建方法,其特征在于,所述从接收的语句文本中提取若干字词特征的步骤还包括:
将语句文本按照语法分割成若干字词,根据词性标记集标注语句文本中字词的词性;及
根据所述词性将所述语句文本分解成字词特征。
3.如权利要求1所述的自然语言处理系统的构建方法,其特征在于,所述将所述字词特征转换成D维度的文本向量的步骤还包括:
根据相似性度量方式匹配与所述字词特征相关的D-1个词条;
根据所述字词特征与所述词条的相关程度设置D个词条权重;及
根据所述D个词条权重生成D维度的文本向量。
4.如权利要求3所述的自然语言处理系统的构建方法,其特征在于,所述相似性度量方式包括余弦距离。
5.如权利要求1所述的自然语言处理系统的构建方法,其特征在于,所述根据所述输出语句与所述文本向量的误差项通过反向传播算法计算所述神经网络的目标权重参数的步骤还包括:
从神经网络的输出层开始,反向依次计算各隐藏层的误差项;及
根据所述误差项计算隐藏层各节点的权重参数。
6.如权利要求1所述的自然语言处理系统的构建方法,其特征在于,所述预设条件包括:所述神经网络的输出语句中属于自然界中存在的语句的占比达到预设阈值;所述直至神经网络的输出语句满足预设条件的步骤之前还包括:
判断所述输出语句是否为自然界中存在的语句;
计算所述神经网络输出语句的总量为第一数量,计算其中属于自然界中存在的语句的输出语句的总量为第二数量;
计算所述第二数量与所述第一数量的比值,判断所述比值是否达到预设阈值。
7.如权利要求1所述的自然语言处理系统的构建方法,其特征在于,所述神经网络为深度神经网络;
所述将所述字词特征转换成D维度的文本向量,并将所述文本向量传入神经网络的步骤包括:
通过word2vec算法和/或doc2vec算法将所述字词特征转换成D维度的文本向量;
将所述文本向量传入所述深度神经网络中,通过所述深度神经网络的隐藏层对所述文本向量进行处理。
8.一种电子装置,其特征在于,其包括:
提取模块,适于从接收的语句文本中提取若干字词特征;
转换模块,适于将所述字词特征转换成D维度的文本向量,并将所述文本向量传入神经网络;
计算模块,适于获取神经网络接收所述文本向量后的输出语句,根据所述输出语句与所述文本向量的误差项通过反向传播算法计算所述神经网络的目标权重参数;及
调整模块,适于根据所述目标权重参数调整所述神经网络各节点的权重参数,直至神经网络的输出语句满足预设条件,得到自然语言处理系统。
9.一种计算机设备,包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7任一项所述自然语言处理系统的构建方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现权利要求1至7任一项所述自然语言处理系统的构建方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910876792.1/1.html,转载请声明来源钻瓜专利网。