[发明专利]上下文信息识别模型的训练方法、装置和存储介质有效

专利信息
申请号: 201711362223.2 申请日: 2017-12-18
公开(公告)号: CN108038208B 公开(公告)日: 2022-01-11
发明(设计)人: 卢道和;郑德荣;张超;杨海军;钟伟;庞宇明;鲍志强 申请(专利权)人: 深圳前海微众银行股份有限公司
主分类号: G06F16/35 分类号: G06F16/35;G06F40/289;G06K9/62
代理公司: 深圳市世纪恒程知识产权代理事务所 44287 代理人: 胡海国;赵爱蓉
地址: 518052 广东省深圳市前海深港合作区前*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 上下文 信息 识别 模型 训练 方法 装置 存储 介质
【权利要求书】:

1.一种上下文信息识别模型的训练方法,其特征在于,所述训练方法包括以下步骤:

获取会话信息和对所述会话信息进行人工标注的验证集;

根据预设规则对所述会话信息进行预处理,并计算获得所述会话信息中的分类指标,所述分类指标包括:所述会话信息的第一信息熵、所述会话信息中词的最大分布概率、所述会话信息中回答信息的平均长度、所述会话信息中指示代词的比例、所述会话信息中关键词所在会话信息的比重、所述会话信息中词性种类比例,其中,根据预设规则对所述会话信息进行预处理,并计算获得所述会话信息的第一信息熵的步骤包括:

根据所述会话信息进行分词,获得所述会话信息中的词,计算所述会话信息中每个词的分布概率,根据第二预设算法计算所述会话信息中回答信息的第二信息熵,根据获得的信息熵中最大信息熵和最小信息熵进行归一化获得所述第一信息熵,其中第二预设算法为:

E(P)表示第二信息熵,entropy表示第一信息熵,pi表示所述会话信息中第i个词的分布概率;

根据所述第一信息熵、分词的最大分布概率、回答信息的平均长度、指示代词的比例、关键词所在会话信息的比重、词性种类的比例结合验证集训练SVM分类器;

利用训练后的SVM分类器对所述会话信息中未标注的信息进行标注,生成数据集;

将所述数据集作为GRU模型的输入,训练出识别所述会话信息中上下文信息的识别模型。

2.如权利要求1所述的训练方法,其特征在于,所述根据预设规则对所述会话信息进行预处理,并计算获得所述会话信息中的分类指标的步骤还包括:

根据所述会话信息进行分词,获得所述会话信息中的词;

计算所述会话信息中每个词的分布概率,并根据所述会话信息中所有词的分布概率和第一预设算法计算所述会话信息中词的最大分布概率,其中第一预设算法为:

P=(p1,p2,...pn),

pi表示所述会话信息中第i词的分布概率,P表示每个词的分布概率的集合,M(P)表示词的最大分布概率。

3.如权利要求1所述的训练方法,其特征在于,所述根据预设规则对所述会话信息进行预处理,并计算获得所述会话信息中的分类指标的步骤还包括:

对所述会话信息进行分析,获得所述会话信息中指示代词;

根据第三预设算法计算所述会话信息中指示代词所占的比例,其中第三预设算法为:

count表示计数,d表示指示代词,word表示所述会话信息中每个句子中的词,rate_d表示指示代词所占的比例。

4.如权利要求1所述的训练方法,其特征在于,所述根据预设规则对所述会话信息进行预处理,并计算获得所述会话信息中的分类指标的步骤还包括:

根据第四预设算法计算所述会话信息中同一问题的多个回答信息的平均长度,并标准化至[0,1]之间,其中第四预设算法为:

An表示同一问题的第n个回答信息的长度,Ei(A)表示第i个问题的平均长度,Y表示归一化后的长度。

5.如权利要求1所述的训练方法,其特征在于,所述根据预设规则对所述会话信息进行预处理,并计算获得所述会话信息中的分类指标的步骤还包括:

确定所述会话信息所属 的领域,并根据所述领域获取所述会话信息中的关键词;

根据第五预设算法计算关键词所在会话信息的比重,其中第五预设算法为:

k表示领域关键词,word表示句子中的词,rate_k表示比重。

6.如权利要求1所述的训练方法,其特征在于,所述根据预设规则对所述会话信息进行预处理,并计算获得所述会话信息中的分类指标的步骤还包括:

统计所述会话信息中词性种类;

根据第六预设算法计算所述会话信息中每条会话信息中每条会话信息中词性种类占所有词性种类的比例,其中第六预设算法为:

j表示词性种类的数量,word表示句子中的词,rate_j表示每条会话信息中词性种类占所有词性种类的比例。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201711362223.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top