[发明专利]用于信息检索评分的动态张量注意力

权利要求书

1.一种方法，包括：

接收来自用户的查询，所述查询包括多个词语；

基于所述查询，针对包括词语的文档执行搜索；

将所述文档的所述词语馈送为多层序列到序列转换器的编码器的输入；

在所述多层序列到序列转换器的解码器处生成多个向量，所述多个向量中的每个向量与所述查询中的所述多个词语中的相应词语相关联；

针对所述查询中的所述多个词语中的每个词语，根据所述多个向量中与所述相应词语相关联的所述向量，确定与所述文档相关联的概率；

将针对两个或更多个词语的、与所述文档相关联的概率乘在一起，以确定所述查询与所述文档相关联的总概率；以及

如果所述查询与所述文档相关联的所述总概率大于阈值，则将所述文档返回给所述用户。

2.根据权利要求1所述的方法，还包括：如果所述查询与所述文档相关联的所述总概率小于所述阈值，则请求来自所述用户的进一步搜索信息。

3.根据权利要求1所述的方法，其中所述多层序列到序列转换器包括三层序列到序列转换器。

4.根据权利要求3所述的方法，还包括：在将所述文档的所述词语馈送为多层序列到序列转换器的编码器的所述输入之后，将所述文档的所述词语编码成三个隐向量h1、h2和h3。

5.根据权利要求4所述的方法，其中在解码器处生成多个向量还包括：使用所述三个隐向量h1、h2和h3连同所述查询中的先前词语来生成所述多个向量。

6.根据权利要求5所述的方法，还包括：使用注意力机制生成所述多个向量内的所述概率。

7.根据权利要求6所述的方法，其中所述注意力机制是动态张量网络。

8.一种系统，包括：

至少一个处理器；以及

与所述至少一个处理器操作地连接的存储器，其存储计算机可执行指令，所述计算机可执行指令当由所述至少一个处理器执行时使得所述至少一个处理器执行方法，所述方法包括：

接收来自用户的查询，所述查询包括多个词语；

基于所述查询，针对包括词语的文档执行搜索；

将所述文档的所述词语馈送为多层序列到序列转换器的编码器的输入；

使用注意力机制来在所述多层序列到序列转换器的解码器处生成多个向量，所述多个向量中的每个向量与所述查询中的所述多个词语中的相应词语相关联；

针对所述查询中的所述多个词语中的每个词语，根据所述多个向量中与所述相应词语相关联的所述向量，确定与所述文档相关联的概率，其中针对所述查询中的至少一个词语，所述查询中的所述至少一个词语与所述文档有关的所述概率基于所述查询中的另一词语与所述文档有关的所述概率；

将针对所述查询中的每个词语的、与所述文档相关联的概率乘在一起，以确定所述查询与所述文档相关联的总概率；以及

如果所述总概率大于阈值量，则将所述文档返回给所述用户。

9.根据权利要求8所述的系统，其中所述方法还包括：如果所述查询与所述文档相关联的所述总概率小于所述阈值，则请求来自所述用户的进一步搜索信息。

10.根据权利要求8所述的系统，其中所述多层序列到序列转换器包括三层序列到序列转换器。

11.根据权利要求10所述的系统，其中所述方法还包括：在将所述文档的所述词语馈送为多层序列到序列转换器的编码器的所述输入之后，将所述文档的所述词语编码成三个隐向量h1、h2和h3。

12.根据权利要求11所述的系统，其中在解码器处生成多个向量还包括：使用所述三个隐向量h1、h2和h3连同所述查询中的先前词语来生成所述多个向量。

13.根据权利要求8所述的系统，其中所述注意力机制是动态张量网络。