[发明专利]一种基于ERNIE-GEN神经网络的阅读理解优化模型在审
申请号: | 202310559347.9 | 申请日: | 2023-05-17 |
公开(公告)号: | CN116578672A | 公开(公告)日: | 2023-08-11 |
发明(设计)人: | 提平;戴亮;朱新华;彭琦 | 申请(专利权)人: | 广西师范大学 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F18/25;G06N3/04;G06N3/08 |
代理公司: | 桂林市华杰专利商标事务所有限责任公司 45112 | 代理人: | 陶平英 |
地址: | 541004 广*** | 国省代码: | 广西;45 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于ERNIE‑GEN神经网络的阅读理解优化模型,涉及人工智能中的自然语言识别处理领域。首先,在ERNIE‑GEN神经网络模型的预训练阶段,将原始ERNIE‑GEN神经网络单一的左序预训练模式,扩展为多语序预训练模式,迫使ERNIE‑GEN神经网络编码器适应多种输入语序,达到增强编码器适应能力的目的,同时可有效缓解ERNIE‑GEN神经网络在阅读理解任务中的暴露偏差问题;其次,在阅读理解任务微调阶段,使用门控机制,将通过ERNIE‑GEN神经网络模型生成的上下文解码状态与问题解码状态进行融合,达到突出关键语义的目的,以更有效的方式解决阅读理解问题。 | ||
搜索关键词: | 一种 基于 ernie gen 神经网络 阅读 理解 优化 模型 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广西师范大学,未经广西师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310559347.9/,转载请声明来源钻瓜专利网。