[发明专利]输出回复信息的方法、深度学习模型的训练方法及装置有效
申请号: | 201710142399.0 | 申请日: | 2017-03-10 |
公开(公告)号: | CN108573306B | 公开(公告)日: | 2021-11-02 |
发明(设计)人: | 涂畅;张扬;王砚峰 | 申请(专利权)人: | 北京搜狗科技发展有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京华沛德权律师事务所 11302 | 代理人: | 马苗苗 |
地址: | 100084 北京市海淀区中关*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 输出 回复 信息 方法 深度 学习 模型 训练 装置 | ||
1.一种输出回复信息的方法,其特征在于,包括:
获取待回复信息;
对所述待回复信息进行维度转化,以降低所述待回复信息的向量维度,获得低维信息;
采用深度学习模型计算所述低维信息,以生成回复信息;
在所述对所述待回复信息进行维度转化之前,还包括:对所述待回复信息以字符为单位进行划分;
所述对所述待回复信息进行维度转化,包括:对划分后的所述待回复信息逐字符进行维度转化;
所述采用深度学习模型计算所述低维信息,以生成回复信息,包括:基于所述深度学习模型中的词表,逐字符计算所述低维信息,以生成回复信息,其中,所述词表为以字符为单位训练生成的词表;
按倒序的顺序逐字符计算所述低维信息;
当需要执行指数运算时,在预设的指数表中查表确定所述指数运算的结果,其中,所述指数表包括指数数值范围与计算结果的映射关系;
当需要进行运算时,采用矩阵向量运算库优化矩阵和向量运算;
所述对所述待回复信息进行维度转化,以降低所述待回复信息的向量维度,获得低维信息,包括:通过嵌入层对所述待回复信息进行维度转化,以降低所述待回复信息的向量维度,获得所述低维信息,其中,所述嵌入层位于所述深度学习模型的输入层与隐藏层之间;
在所述获得低维信息之后,还包括:将所述低维信息输入所述隐藏层;
所述采用深度学习模型计算所述低维信息,包括:采用深度学习模型在所述隐藏层计算所述低维信息。
2.如权利要求1所述的方法,其特征在于,所述对所述待回复信息进行维度转化,以降低所述待回复信息的向量维度,获得低维信息,包括:
将所述待回复信息转换为用向量表示的输入向量;
降低所述输入向量的向量维度,以获得所述低维信息。
3.如权利要求1所述的方法,其特征在于,所述词表是以问答对为训练样本,将所述问答对以字符为单位拆分后逐字符训练生成的词表。
4.如权利要求3所述的方法,其特征在于,所述词表为将所述问答对以字符为单位拆分,按预设规则筛选出有效字符组后,对所述有效字符组逐字符训练生成的词表。
5.如权利要求1-4任一所述的方法,其特征在于,所述方法应用于客户端。
6.如权利要求1-4任一所述的方法,其特征在于,所述深度学习模型为长短时记忆模型。
7.一种深度学习模型的训练方法,其特征在于,包括:
获取训练数据;
对所述训练数据进行维度转化,以降低所述训练数据的向量维度,获得低维数据;
采用深度学习模型训练所述低维数据,以优化所述深度学习模型;
在所述对所述训练数据进行维度转化之前,还包括:对所述训练数据以字符为单位进行划分;
所述对所述训练数据进行维度转化,包括:对划分后的所述训练数据逐字符进行维度转化;
所述采用深度学习模型,训练所述低维数据,以优化所述深度学习模型,包括:基于所述深度学习模型中的词表,逐字符训练所述低维数据,以优化所述词表,其中,所述词表为以字符为单位训练生成的词表;
按倒序的顺序逐字符计算所述低维数据;
当需要执行指数运算时,在预设的指数表中查表确定所述指数运算的结果,其中,所述指数表包括指数数值范围与计算结果的映射关系;
当需要进行运算时,采用矩阵向量运算库优化矩阵和向量运算;
所述对所述训练数据进行维度转化,以降低所述训练数据的向量维度,获得低维数据,包括:通过嵌入层对所述训练数据进行维度转化,以降低所述训练数据的向量维度,获得所述低维数据,其中,所述嵌入层位于所述深度学习模型的输入层与隐藏层之间;
在所述获得低维数据之后,还包括:将所述低维数据输入所述隐藏层;
所述采用深度学习模型训练所述低维信息,包括:采用深度学习模型在所述隐藏层训练所述低维信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狗科技发展有限公司,未经北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710142399.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据处理方法、设备及装置
- 下一篇:一种处理神经网络模型文件的方法及终端
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置