[发明专利]用于文本处理的方法和装置在审

专利信息
申请号: 202010127184.3 申请日: 2020-02-28
公开(公告)号: CN111339256A 公开(公告)日: 2020-06-26
发明(设计)人: 彭爽;崔恒斌 申请(专利权)人: 支付宝(杭州)信息技术有限公司
主分类号: G06F16/33 分类号: G06F16/33;G06F16/332;G06F40/211;G06N3/04;G06N3/08
代理公司: 北京永新同创知识产权代理有限公司 11376 代理人: 杨锡劢;赵磊
地址: 310000 浙江省杭州市*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 用于 文本 处理 方法 装置
【权利要求书】:

1.一种用于文本处理的方法,包括:

接收第一文本向量和第二文本向量,其中,所述第一文本向量用于表示用户问句文本,所述第二文本向量用于表示候选问句文本,所述候选问句文本是从知识库中获取的,所述知识库包括至少一个现有问句文本以及针对各个现有问句文本的答案文本;

利用递归神经网络RNN和卷积神经网络CNN,对所述第一文本向量和所述第二文本向量进行编码,得到针对所述第一文本向量的第一编码结果和针对所述第二文本向量的第二编码结果;

基于所述第一编码结果和所述第二编码结果,确定所述用户问句文本与所述候选问句文本之间的相似度,其中,所述相似度用于确定针对所述用户问句文本的答复。

2.根据权利要求1所述的方法,其中,所述第一编码结果包括第一初始编码向量和第一二次编码向量,所述第二编码结果包括第二初始编码向量和第二二次编码向量;

对所述第一文本向量和所述第二文本向量进行编码,包括:

利用所述RNN对所述第一文本向量进行编码,得到所述第一初始编码向量,以及利用所述CNN对所述第一初始编码向量进行编码,得到所述第一二次编码向量;

利用所述RNN对所述第二文本向量进行编码,得到所述第二初始编码向量,以及利用所述CNN对所述第二初始编码向量进行编码,得到所述第二二次编码向量。

3.根据权利要求2所述的方法,其中,确定所述用户问句文本与所述候选问句文本之间的相似度,包括:

基于软注意力机制对所述第一编码结果和所述第二编码结果进行处理,得到针对所述用户问句文本的第一交互表示结果和针对所述候选问句文本的第二交互表示结果;

基于所述第一交互表示结果和所述第二交互表示结果,确定所述相似度。

4.根据权利要求3所述的方法,其中,基于软注意力机制对所述第一编码结果和所述第二编码结果进行处理,包括:

基于所述第一初始编码向量和所述第二初始编码向量,确定所述用户问句文本相对于所述候选问句文本的第一相对注意力向量、以及所述候选问句文本相对于所述用户问句文本的第二相对注意力向量;

通过拼接操作和池化操作对所述第一相对注意力向量、所述第一初始编码向量和所述第一二次编码向量进行处理,得到所述第一交互表示结果;

通过拼接操作和池化操作对所述第二相对注意力向量、所述第二初始编码向量和所述第二二次编码向量进行处理,得到所述第二交互表示结果。

5.根据权利要求3或4所述的方法,其中,基于所述第一交互表示结果和所述第二交互表示结果,确定所述相似度,包括:

基于门限机制对所述第一交互表示结果和所述第二交互表示结果进行融合,得到融合结果,其中,所述门限机制用于筛选出所述第一交互表示结果和所述第二交互表示结果两者中能够融合的部分;

基于所述融合结果,确定所述用户问句文本与所述候选问句文本相似的概率,作为所述相似度。

6.根据权利要求1至5中任一项所述的方法,其中,所述CNN包括至少两级卷积层,在所述至少两级卷积层中,第一级卷积层包括卷积核大小为1的至少一个CNN单元,在所述第一级卷积层之后的各级卷积层包括卷积核大小大于1的至少一个CNN单元。

7.根据权利要求1至6中任一项所述的方法,其中,所述RNN包括双向门控递归单元BiGRU。

8.一种用于文本处理的装置,包括:

接收模块,其接收第一文本向量和第二文本向量,其中,所述第一文本向量用于表示用户问句文本,所述第二文本向量用于表示候选问句文本,所述候选问句文本是从知识库中获取的,所述知识库包括至少一个现有问句文本以及针对各个现有问句文本的答案文本;

编码模块,其利用递归神经网络RNN和卷积神经网络CNN,对所述第一文本向量和所述第二文本向量进行编码,得到针对所述第一文本向量的第一编码结果和针对所述第二文本向量的第二编码结果;

确定模块,其基于所述第一编码结果和所述第二编码结果,确定所述用户问句文本与所述候选问句文本之间的相似度,其中,所述相似度用于确定针对所述用户问句文本的答复。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010127184.3/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top