[发明专利]输出回复信息的方法、深度学习模型的训练方法及装置有效

专利信息
申请号: 201710142399.0 申请日: 2017-03-10
公开(公告)号: CN108573306B 公开(公告)日: 2021-11-02
发明(设计)人: 涂畅;张扬;王砚峰 申请(专利权)人: 北京搜狗科技发展有限公司
主分类号: G06N3/08 分类号: G06N3/08
代理公司: 北京华沛德权律师事务所 11302 代理人: 马苗苗
地址: 100084 北京市海淀区中关*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 输出 回复 信息 方法 深度 学习 模型 训练 装置
【权利要求书】:

1.一种输出回复信息的方法,其特征在于,包括:

获取待回复信息;

对所述待回复信息进行维度转化,以降低所述待回复信息的向量维度,获得低维信息;

采用深度学习模型计算所述低维信息,以生成回复信息;

在所述对所述待回复信息进行维度转化之前,还包括:对所述待回复信息以字符为单位进行划分;

所述对所述待回复信息进行维度转化,包括:对划分后的所述待回复信息逐字符进行维度转化;

所述采用深度学习模型计算所述低维信息,以生成回复信息,包括:基于所述深度学习模型中的词表,逐字符计算所述低维信息,以生成回复信息,其中,所述词表为以字符为单位训练生成的词表;

按倒序的顺序逐字符计算所述低维信息;

当需要执行指数运算时,在预设的指数表中查表确定所述指数运算的结果,其中,所述指数表包括指数数值范围与计算结果的映射关系;

当需要进行运算时,采用矩阵向量运算库优化矩阵和向量运算;

所述对所述待回复信息进行维度转化,以降低所述待回复信息的向量维度,获得低维信息,包括:通过嵌入层对所述待回复信息进行维度转化,以降低所述待回复信息的向量维度,获得所述低维信息,其中,所述嵌入层位于所述深度学习模型的输入层与隐藏层之间;

在所述获得低维信息之后,还包括:将所述低维信息输入所述隐藏层;

所述采用深度学习模型计算所述低维信息,包括:采用深度学习模型在所述隐藏层计算所述低维信息。

2.如权利要求1所述的方法,其特征在于,所述对所述待回复信息进行维度转化,以降低所述待回复信息的向量维度,获得低维信息,包括:

将所述待回复信息转换为用向量表示的输入向量;

降低所述输入向量的向量维度,以获得所述低维信息。

3.如权利要求1所述的方法,其特征在于,所述词表是以问答对为训练样本,将所述问答对以字符为单位拆分后逐字符训练生成的词表。

4.如权利要求3所述的方法,其特征在于,所述词表为将所述问答对以字符为单位拆分,按预设规则筛选出有效字符组后,对所述有效字符组逐字符训练生成的词表。

5.如权利要求1-4任一所述的方法,其特征在于,所述方法应用于客户端。

6.如权利要求1-4任一所述的方法,其特征在于,所述深度学习模型为长短时记忆模型。

7.一种深度学习模型的训练方法,其特征在于,包括:

获取训练数据;

对所述训练数据进行维度转化,以降低所述训练数据的向量维度,获得低维数据;

采用深度学习模型训练所述低维数据,以优化所述深度学习模型;

在所述对所述训练数据进行维度转化之前,还包括:对所述训练数据以字符为单位进行划分;

所述对所述训练数据进行维度转化,包括:对划分后的所述训练数据逐字符进行维度转化;

所述采用深度学习模型,训练所述低维数据,以优化所述深度学习模型,包括:基于所述深度学习模型中的词表,逐字符训练所述低维数据,以优化所述词表,其中,所述词表为以字符为单位训练生成的词表;

按倒序的顺序逐字符计算所述低维数据;

当需要执行指数运算时,在预设的指数表中查表确定所述指数运算的结果,其中,所述指数表包括指数数值范围与计算结果的映射关系;

当需要进行运算时,采用矩阵向量运算库优化矩阵和向量运算;

所述对所述训练数据进行维度转化,以降低所述训练数据的向量维度,获得低维数据,包括:通过嵌入层对所述训练数据进行维度转化,以降低所述训练数据的向量维度,获得所述低维数据,其中,所述嵌入层位于所述深度学习模型的输入层与隐藏层之间;

在所述获得低维数据之后,还包括:将所述低维数据输入所述隐藏层;

所述采用深度学习模型训练所述低维信息,包括:采用深度学习模型在所述隐藏层训练所述低维信息。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狗科技发展有限公司,未经北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710142399.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top