[发明专利]编码器模型的训练方法及存储介质、相似度预测方法及系统有效
申请号: | 202210360834.8 | 申请日: | 2022-04-07 |
公开(公告)号: | CN114490950B | 公开(公告)日: | 2022-07-12 |
发明(设计)人: | 肖清;赵文博;李剑锋;许程冲;周丽萍 | 申请(专利权)人: | 联通(广东)产业互联网有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F40/289;G06F40/30;G06N3/04;G06N3/08;G06K9/62 |
代理公司: | 广州润禾知识产权代理事务所(普通合伙) 44446 | 代理人: | 郑永泉;欧秋望 |
地址: | 510000 广东省广州市黄埔区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供编码器模型的训练方法及存储介质、相似度预测方法及系统,包括:将两个文本序列输入嵌入层得到文本序列向量;将两个文本序列向量输入孪生神经网络编码器模型,以使其基于相同的神经网络参数确定隐状态;根据神经网络参数构造自监督损失函数;将隐状态输入池化层以使其根据隐状态进行池化处理,根据池化处理后的文本序列向量确定两个文本序列的相似度,并以其构造有监督损失函数;根据自监督和有监督损失函数确定损失函数,以更新神经网络参数;继续将新的文本序列输入直至损失函数的数值为最小值。该方法大幅提高了模型在计算文本序列相似度时的推理带宽,且基于已训练的神经网络编码器模型能够实现两个文本序列相似度的精准计算。 | ||
搜索关键词: | 编码器 模型 训练 方法 存储 介质 相似 预测 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于联通(广东)产业互联网有限公司,未经联通(广东)产业互联网有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210360834.8/,转载请声明来源钻瓜专利网。