[发明专利]机器阅读理解方法、装置、设备和计算机可读存储介质在审

专利信息
申请号: 202110743042.4 申请日: 2021-07-01
公开(公告)号: CN115563954A 公开(公告)日: 2023-01-03
发明(设计)人: 杜明宇 申请(专利权)人: 武汉TCL集团工业研究院有限公司
主分类号: G06F40/205 分类号: G06F40/205;G06N3/08
代理公司: 深圳紫藤知识产权代理有限公司 44570 代理人: 徐世俊
地址: 430000 湖北省武汉市东湖*** 国省代码: 湖北;42
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 机器 阅读 理解 方法 装置 设备 计算机 可读 存储 介质
【权利要求书】:

1.一种机器阅读理解方法,其特征在于,包括:

获取待处理的阅读理解信息;

通过预训练模型中的编码器对所述阅读理解信息中的文本内容进行编码,得到文本特征;

将所述文本特征、所述文本内容以及所述阅读理解信息中的问题信息输入预设阅读理解模型中各问题类型对应的逻辑回归层进行处理,输出所述问题信息对应的答案信息,所述预设阅读理解模型是基于不同问题类型的阅读理解信息训练得到的。

2.根据权利要求1所述的方法,其特征在于,所述通过预训练模型中的编码器对所述阅读理解信息中的文本内容进行编码,得到文本特征之前,所述方法还包括:

提供具有标记的阅读理解信息作为训练样本;

按照预定义的问题类型分类规则对所述训练样本进行分类,得到各问题类型对应的训练样本集;

分别从各所述训练样本集中抽取训练样本,按照预设的注意力机制处理抽取的训练样本对神经网络模型进行训练,得到阅读理解训练模型,所述阅读理解训练模型包括各问题类型对应的逻辑分类层;

采用预设的交叉熵损失函数对所述阅读理解训练模型的参数进行迭代更新,得到所述预设阅读理解模型。

3.根据权利要求2所述的方法,其特征在于,所述按照预定义的问题类型分类规则对所述训练样本进行分类,得到各问题类型对应的训练样本集之后,所述方法还包括:

将所述训练样本集中的训练样本按照各自所述问题类型对应的答案类型进行分类,得到训练样本子集;

统计所述训练样本子集中训练样本的第一数量和所述训练样本集中训练样本的第二数量,按照所述第一数量和所述第二数量设置权重值,汇总所述权重值形成所述注意力机制;

所述分别从各所述训练样本集中抽取训练样本,按照预设的注意力机制处理抽取的训练样本对神经网络模型进行训练,得到阅读理解训练模型,包括:

分别从各所述训练样本集中抽取训练样本,将抽取的训练样本进行编码形成字符向量,以及按照所述注意力机制为所述字符向量添加权重形成语义向量;

对所述训练样本中的文本内容进行编码,获得文本特征;

将所述语义向量和所述文本特征对应的文本向量进行连接后对神经网络模型进行训练,得到所述阅读理解训练模型。

4.根据权利要求2所述的方法,其特征在于,所述采用预设的交叉熵损失函数对所述阅读理解训练模型的参数进行迭代更新,得到所述预设阅读理解模型,包括:

按照所述阅读理解训练模型计算预设的交叉熵损失函数的梯度模长;

根据所述梯度模长对所述阅读理解训练模型的参数进行迭代更新,得到更新后的阅读理解训练模型;

获取所述更新后的阅读理解训练模型的识别准确率,将识别准确率高于预设准确率的阅读理解训练模型作为所述预设阅读理解模型;

其中,所述交叉熵损失函数为:

所述p(xi)为问题类型xi的概率,所述-log(p(xi))为问题类型X=xi的数据量,所述H(x)为梯度模长。

5.根据权利要求1-4任一项所述的方法,其特征在于,所述将所述文本特征、所述文本内容以及所述阅读理解信息中的问题信息输入预设阅读理解模型中各问题类型对应的逻辑回归层进行处理,输出所述问题信息对应的答案信息,包括:

将所述文本特征、所述文本内容以及所述阅读理解信息中的问题信息输入所述预设阅读理解模型,通过所述预设阅读理解模型提取所述文本内容和所述问题信息的语义向量;

将所述语义向量和所述文本特征对应的文本向量进行连接并输入所述预设阅读理解模型中各问题类型对应的逻辑回归层进行处理,输出所述问题信息对应的答案信息。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉TCL集团工业研究院有限公司,未经武汉TCL集团工业研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110743042.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top