[发明专利]一种自动生成英语阅读理解问答的方法在审
申请号: | 202310513812.5 | 申请日: | 2023-05-09 |
公开(公告)号: | CN116579323A | 公开(公告)日: | 2023-08-11 |
发明(设计)人: | 戴翰波;刘思琪 | 申请(专利权)人: | 武汉慧人信息科技有限公司 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06N3/0455;G06N3/047;G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 430073 湖北省武汉市东湖新技术*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 自动 生成 英语 阅读 理解 问答 方法 | ||
1.一种自动生成英语阅读理解问答的方法,其特征在于,先从英语阅读理解语料中抽取难度向量和句子向量,再通过transformer模型中的解码器解码生成难度递增的问题和答案。
2.根据权利要求1中所述方法的特征,其具体步骤如下:
第一步:使用多头注意力机制,将输入的句子向量和难度向量分别作为查询向量和键向量进行计算,得到每个查询向量和键向量之间的注意力权重向量,然后,将得到的注意力权重向量进行加权平均计算出最终的注意力权重向量。最后,将最终的注意力权重向量与对应的值向量进行加权求和得到加权的句子向量,同时初始化难度向量的权重,将加权后的句子向量和带权的难度向量输入到各个解码器层中;
第二步:在每个解码器层中,使用自注意力机制,对加权的句子向量和带权的难度向量进行加权平均得到加权的上下文向量;
第三步:在每个解码器层中,将加权的上下文向量与上一个解码器层的加权输出进行拼接,输入到前馈神经网络中生成一个上下文感知的加权向量,将带权的难度向量与上一个解码器层的加权输出进行拼接,输入到前馈神经网络中生成一个难度感知的加权向量,将上下文感知的加权向量和难度感知的加权向量进行加权平均得到一个加权的解码器输出,将难度向量的权重和加权的解码器输出相乘得到当前解码器层的加权输出,得到的解码器层的加权输出作为下一个解码器层的输入;
第四步:将多个解码器层的加权输出拼接起来,通过激活函数转换为概率分布,利用难度向量的权重选取概率较高的单词,拼接输出的单词作为生成难度相符的问题和答案;
第五步:增加难度向量的权重同时减少句子向量的权重,再将权重变化后的带权难度向量和加权句子向量输入到解码器中再次解码生成比上一级难度更高的问题与答案。通过逐步调整难度向量和句子向量的权重,使难度向量对加权句子向量的影响逐渐增加,利用解码器解码生成难度递增的问题和答案。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉慧人信息科技有限公司,未经武汉慧人信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310513812.5/1.html,转载请声明来源钻瓜专利网。