[发明专利]一种面向机器阅读理解的答案推荐方法

权利要求书

1.一种面向机器阅读理解的答案推荐方法，其特征在于，包括以下步骤：

步骤1，接受问题q和支持文档集T'，问题q以元组(l_e,r,？)的形式提供，其中l_e是左实体，？表示未知右实体，r表示l_e与未知右实体也就是答案之间的关系；

步骤2，进行句子分割和语义编码，包括文本预处理、词编码和句子编码；

步骤3，根据编码的语义进行推断以构建多跳推理链，包括选择节点和建立跳边；

步骤4，通过挖掘多跳推理链的信息以对候选集进行排序，包括推理链信息的集成和答案概率分布的计算；

步骤5，根据答案概率分布结果，从候选集中预测未知右实体即答案；

步骤2中所述的预处理包括：使用TF-IDF算法来计算问题和每个支持文档之间的余弦相似度并对其进行排名，截取前N个支持文档以获得新的支持文档集

所述的词编码，将字符嵌入和预训练的Glove词嵌入结合起来作为初始词嵌入，并将它们输入到一层高速路神经网络中以获得最终的词表示，使用L'，R'和X'分别表示l_e，r和T的词嵌入，对于语义编码，把L'，R'和X'经过一层带有v个隐藏单元的双向LSTM网络并连接其双向输出，使用分别作为l_e，r和T的语义编码，其中Q_l，Q_r，J分别为l_e，r和T的词级长度；每个候选都在支持文档集T中找到，在X中取出与c'_η相对应的词编码，并在词级别对其求平均，然后获得c_η∈R^v作为c'_η的语义编码；

所述的句子编码，包括：首先将文档t切成多个句子，以获得单个句子集其中，I是包含在t中的单个句子的数量，K是构成一个句子的单词数量，是在X中相应单词的编码；然后，将文档中所有两个相邻的单个句子级联起来，以获得级联句子集定义为：

其中||用于表示级联；接下来，联合D^o和D^b以完成t的句子划分并获得句子集D，也就是：

D＝D^o∪D^b,

其中∪指取并集；对所有支持文档采用相同的操作，并获得T的词级句子编码S，即：

S＝D₁∪D₂∪…∪D_N＝{s₁,…,s_I'}，

其中I'是T的单个句子和级联句子的总数，然后应用自我注意机制来实现句子的向量表示，并获得T的句子级编码E，用来将句子s_i转换成向量的公式如下，K为句子的长度：

a_ik＝tanh(W₂ tanh(W₁s_ik+b₁)+b₂)

其中W₁和W₂为权重参数，b₁和b₂为偏移参数；

在步骤3中，使用分层记忆网络模型来构建句子的推理链，在选择节点阶段，模型抽取一个与网络记忆状态m最相关的句子作为当前跳的起始节点，在建立跳边阶段，模型更新m以准备跳到下一个节点，将这一阶段看做生成一个连接相邻节点的边；

在选择节点的过程中，在每跳h，模型会计算E中每个句子编码e_i和当前网络记忆状态m的双线性相似度，并获得节点选择分布P_sent，然后，选择句子s_i∈S作为当前跳的起始节点，其中i满足：

P_sent(i)＝max(P_sent)

在建立跳边的过程中，选择了h跳的起始节点后，模型会计算m^h和s_i中每个单词s_ik的双线性相似度并将其归一化以获得权重μ，使用μ来计算s_i中所有单词的加权平均值然后将其输入到一个GRU单元中以更新m^h，之后，将这两个阶段合并为一个循环单元U，U通过更新m来连续选择节点，循环UH次，获得一条有H个节点的推理链S_chain＝{s₁,s₂,...,s_H}，其中每个句子s_h都由U从S中迭代选择，为了减少推理链生成的偶然性，重复句子选择器M次以生成的M条可能的推理链。