[发明专利]一种基于Transformer的语义相似度计算模型DSSM技术有效
申请号: | 201910788264.0 | 申请日: | 2019-08-28 |
公开(公告)号: | CN110516240B | 公开(公告)日: | 2021-04-06 |
发明(设计)人: | 刘轶 | 申请(专利权)人: | 南京璇玑信息技术有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京卫智畅科专利代理事务所(普通合伙) 11557 | 代理人: | 陈佳 |
地址: | 211100 江苏省南京*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于Transformer的语义相似度计算模型DSSM技术,包括输入层、表示层和匹配层,输入层用于将图谱节点名称和APP页面文字分别转为由字向量表示的二维数组,并将其作为表示层的输入,表示层是采用Transformer的编码器部分,首先分别对由输入层输出的节点名称特征向量和APP页面文字特征向量进行编码,从而提取出句子中每个单词的更抽象特征,本发明涉及自然语言处理技术领域。该基于Transformer的语义相似度计算模型DSSM技术,与人为修改图谱节点内容需要消耗大量时间和精力不同,基于Transformer的语义相似度计算模型DSSM技术在测试图谱应用中,能够代替人工修改图谱名称,实现针对新APP内容进行自动匹配的功能,提高APP的测试效率,减少人为的大量冗余操作。 | ||
搜索关键词: | 一种 基于 transformer 语义 相似 计算 模型 dssm 技术 | ||
【主权项】:
1.一种基于Transformer的语义相似度计算模型DSSM技术,其特征在于:包括输入层、表示层和匹配层,所述输入层用于将图谱节点名称和APP页面文字分别转为由字向量表示的二维数组,并将其作为表示层的输入;/n所述表示层是采用Transformer的编码器部分,首先,分别对由输入层输出的节点名称特征向量和APP页面文字特征向量进行编码,从而提取出句子中每个单词的更抽象特征,然后,通过global-attention将原本由每个字向量组成的句子特征表示转换为由一个512维向量表示的新的句子特征;/n所述匹配层在由表示层分别得到了图谱节点名称和APP页面文字的句子特征向量后,图谱节点名称和APP页面文字的句子特征向量之间的语义相似性可用这两个语义向量的cosine距离来表示。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京璇玑信息技术有限公司,未经南京璇玑信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910788264.0/,转载请声明来源钻瓜专利网。
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法