[发明专利]一种基于语句相似度的预训练模型方法和系统在审
申请号: | 202111105201.4 | 申请日: | 2021-09-22 |
公开(公告)号: | CN113869005A | 公开(公告)日: | 2021-12-31 |
发明(设计)人: | 陈金鹏 | 申请(专利权)人: | 的卢技术有限公司 |
主分类号: | G06F40/126 | 分类号: | G06F40/126;G06F40/211;G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 柏尚春 |
地址: | 210001 江苏省南京市南京经*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于语句相似度的预训练模型方法和系统,所述方法主要利用对比学习来预训练一个句子模型,通过利用NER技术与dropout构造相似正例,进行模型训练,得到更加优化的语义,可以更好地得到句子的向量表征,从而完成一系列下游任务;所述系统的具体模块为:数据预处理模块、命名实体识别模块、Dropout模块、训练对比学习模块、相似度匹配模块。本发明基于构造相似正例而训练的预训练模型,可以更好地表示句子向量,更清楚地区分句子向量,可以在之后的下游任务里,更好地理解句子的意思和相互关系,从而可以更加准确地识别相似句子,更好地完成句意匹配的任务。 | ||
搜索关键词: | 一种 基于 语句 相似 训练 模型 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于的卢技术有限公司,未经的卢技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111105201.4/,转载请声明来源钻瓜专利网。