[发明专利]MT5语言模型优化方法及装置、介质、设备在审
申请号: | 202310437983.4 | 申请日: | 2023-04-19 |
公开(公告)号: | CN116579385A | 公开(公告)日: | 2023-08-11 |
发明(设计)人: | 郭冬升;岳爱珍;段强;张铮;姜凯 | 申请(专利权)人: | 山东浪潮科学研究院有限公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/08;G06N3/0455;G06F40/20 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 李世喆;姜鹏 |
地址: | 250100 山东省济*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种MT5语言模型优化方法及装置、介质、设备。方法包括:在MT5语言模型的编码器中增加至少一个卷积层,以使所述编码器通过所述至少一个卷积层提取文本特征;其中,上一个卷积层的输出信息为下一层卷积层的输入信息,且最后一层卷积层的输出信息为所述MT5语言模型的解码器的输入信息;利用数据集对所述MT5语言模型进行训练,得到优化后的MT5语言模型,以使优化后的MT5语言模型用于摘要生成技术中。本发明通过增加编码器的卷积层,来提高编码器的特征提取能力,从而更好地为解码器生成摘要提供信息。 | ||
搜索关键词: | mt5 语言 模型 优化 方法 装置 介质 设备 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东浪潮科学研究院有限公司,未经山东浪潮科学研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310437983.4/,转载请声明来源钻瓜专利网。
- 上一篇:无线信号覆盖室内分布系统
- 下一篇:局部放电检测方法、装置和设备