[发明专利]改进BERT的文本语义匹配设备、系统、方法及存储介质在审
| 申请号： | 202110459186.7 | 申请日： | 2021-04-27 |
| 公开（公告）号： | CN113239700A | 公开（公告）日： | 2021-08-10 |
| 发明（设计）人： | 王庆岩;顾金铭;殷楠楠;谢金宝;梁欣涛;沈涛 | 申请（专利权）人： | 哈尔滨理工大学 |
| 主分类号： | G06F40/30 | 分类号： | G06F40/30;G06F16/335;G06F16/35;G06F40/126;G06F40/216;G06F40/284;G06F40/289 |
| 代理公司： | 哈尔滨市伟晨专利代理事务所(普通合伙) 23209 | 代理人： | 姜俊婕 |
| 地址： | 150080 黑龙*** | 国省代码： | 黑龙江;23 |
| 权利要求书： | 暂无信息 | 说明书： | 暂无信息 |
| 摘要： | 改进BERT的文本语义匹配设备、系统、方法及存储介质，尤其涉及文本语义匹配、BER、词粒度、相对位置编码和注意力池化的匹配设备、系统、方法及存储介质，属于自然语言处理领域；目的是解决BERT模型训练时间较长、绝对位置编码未能表明句子中词与词间的相对位置和输出文本表示不能完全利用BERT模型输出的文本表示序列的问题；本发明通过建立所述传输层中的词嵌入机制、所述编码层的相对位置编码机制以及通过所述输出层对池化后的注意力机制处理文本，完成后续文本语义匹配；本发明不仅提高了文本匹配的准确率，更加准确体现句子的不同位置和不同位置间的信息，并采用注意力池化方式，得到降维后的文本表示包含更多的语义信息。 | ||
| 搜索关键词： | 改进 bert 文本 语义 匹配 设备 系统 方法 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于哈尔滨理工大学，未经哈尔滨理工大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110459186.7/，转载请声明来源钻瓜专利网。
- 上一篇：一种翻土刀具
- 下一篇：一种便携式脊柱外科辅助装置
