[发明专利]用于文本处理的方法和装置在审
| 申请号: | 202010127184.3 | 申请日: | 2020-02-28 |
| 公开(公告)号: | CN111339256A | 公开(公告)日: | 2020-06-26 |
| 发明(设计)人: | 彭爽;崔恒斌 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
| 主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F40/211;G06N3/04;G06N3/08 |
| 代理公司: | 北京永新同创知识产权代理有限公司 11376 | 代理人: | 杨锡劢;赵磊 |
| 地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 用于 文本 处理 方法 装置 | ||
1.一种用于文本处理的方法,包括:
接收第一文本向量和第二文本向量,其中,所述第一文本向量用于表示用户问句文本,所述第二文本向量用于表示候选问句文本,所述候选问句文本是从知识库中获取的,所述知识库包括至少一个现有问句文本以及针对各个现有问句文本的答案文本;
利用递归神经网络RNN和卷积神经网络CNN,对所述第一文本向量和所述第二文本向量进行编码,得到针对所述第一文本向量的第一编码结果和针对所述第二文本向量的第二编码结果;
基于所述第一编码结果和所述第二编码结果,确定所述用户问句文本与所述候选问句文本之间的相似度,其中,所述相似度用于确定针对所述用户问句文本的答复。
2.根据权利要求1所述的方法,其中,所述第一编码结果包括第一初始编码向量和第一二次编码向量,所述第二编码结果包括第二初始编码向量和第二二次编码向量;
对所述第一文本向量和所述第二文本向量进行编码,包括:
利用所述RNN对所述第一文本向量进行编码,得到所述第一初始编码向量,以及利用所述CNN对所述第一初始编码向量进行编码,得到所述第一二次编码向量;
利用所述RNN对所述第二文本向量进行编码,得到所述第二初始编码向量,以及利用所述CNN对所述第二初始编码向量进行编码,得到所述第二二次编码向量。
3.根据权利要求2所述的方法,其中,确定所述用户问句文本与所述候选问句文本之间的相似度,包括:
基于软注意力机制对所述第一编码结果和所述第二编码结果进行处理,得到针对所述用户问句文本的第一交互表示结果和针对所述候选问句文本的第二交互表示结果;
基于所述第一交互表示结果和所述第二交互表示结果,确定所述相似度。
4.根据权利要求3所述的方法,其中,基于软注意力机制对所述第一编码结果和所述第二编码结果进行处理,包括:
基于所述第一初始编码向量和所述第二初始编码向量,确定所述用户问句文本相对于所述候选问句文本的第一相对注意力向量、以及所述候选问句文本相对于所述用户问句文本的第二相对注意力向量;
通过拼接操作和池化操作对所述第一相对注意力向量、所述第一初始编码向量和所述第一二次编码向量进行处理,得到所述第一交互表示结果;
通过拼接操作和池化操作对所述第二相对注意力向量、所述第二初始编码向量和所述第二二次编码向量进行处理,得到所述第二交互表示结果。
5.根据权利要求3或4所述的方法,其中,基于所述第一交互表示结果和所述第二交互表示结果,确定所述相似度,包括:
基于门限机制对所述第一交互表示结果和所述第二交互表示结果进行融合,得到融合结果,其中,所述门限机制用于筛选出所述第一交互表示结果和所述第二交互表示结果两者中能够融合的部分;
基于所述融合结果,确定所述用户问句文本与所述候选问句文本相似的概率,作为所述相似度。
6.根据权利要求1至5中任一项所述的方法,其中,所述CNN包括至少两级卷积层,在所述至少两级卷积层中,第一级卷积层包括卷积核大小为1的至少一个CNN单元,在所述第一级卷积层之后的各级卷积层包括卷积核大小大于1的至少一个CNN单元。
7.根据权利要求1至6中任一项所述的方法,其中,所述RNN包括双向门控递归单元BiGRU。
8.一种用于文本处理的装置,包括:
接收模块,其接收第一文本向量和第二文本向量,其中,所述第一文本向量用于表示用户问句文本,所述第二文本向量用于表示候选问句文本,所述候选问句文本是从知识库中获取的,所述知识库包括至少一个现有问句文本以及针对各个现有问句文本的答案文本;
编码模块,其利用递归神经网络RNN和卷积神经网络CNN,对所述第一文本向量和所述第二文本向量进行编码,得到针对所述第一文本向量的第一编码结果和针对所述第二文本向量的第二编码结果;
确定模块,其基于所述第一编码结果和所述第二编码结果,确定所述用户问句文本与所述候选问句文本之间的相似度,其中,所述相似度用于确定针对所述用户问句文本的答复。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010127184.3/1.html,转载请声明来源钻瓜专利网。





