[发明专利]基于预训练语言模型和信息论的自动化文本摘要评测方法有效
申请号: | 202011429809.8 | 申请日: | 2020-12-07 |
公开(公告)号: | CN112528598B | 公开(公告)日: | 2022-04-05 |
发明(设计)人: | 金耀辉;何浩;肖力强;陈文清;田济东 | 申请(专利权)人: | 上海交通大学 |
主分类号: | G06F40/126 | 分类号: | G06F40/126;G06F40/216;G06F40/30 |
代理公司: | 上海恒慧知识产权代理事务所(特殊普通合伙) 31317 | 代理人: | 张宁展 |
地址: | 200240 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种基于预训练语言模型和信息论的自动化文本摘要评测方法,包括:基于输入文本和生成摘要使用预训练语言模型计算语义单元概率;对语义单元使用信息论计算信息含量;将所有语义单元信息进行加和获得文本摘要总信息量;使用互信息计算输入文本与摘要之间的相关性;用最大信息含量减去摘要总信息量对摘要冗余度进行建模;对总信息量、相关性、冗余度进行加权平均作为综合评测指标。同时提供一种相应的系统、终端及存储介质。本发明使用预训练语言模型辅助信息论可以更加准确地估计文本概率计算文本信息量,所创建的信息量、相关性、冗余度三个自动化指标更加贴合人类评测标准,可以用来代替人工评测,降低自动化摘要系统的评价成本。 | ||
搜索关键词: | 基于 训练 语言 模型 信息论 自动化 文本 摘要 评测 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海交通大学,未经上海交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011429809.8/,转载请声明来源钻瓜专利网。
- 上一篇:一种音调调节演示器
- 下一篇:一种适用于无预选框检测模型的知识蒸馏方法及系统