[发明专利]词向量训练方法和装置有效
| 申请号： | 201710023520.8 | 申请日： | 2017-01-12 |
| 公开（公告）号： | CN106802888B | 公开（公告）日： | 2020-01-24 |
| 发明（设计）人： | 李建欣;刘垚鹏;彭浩;陈汉腾;张日崇 | 申请（专利权）人： | 北京航空航天大学 |
| 主分类号： | G06F40/284 | 分类号： | G06F40/284;G06F16/31 |
| 代理公司： | 11205 北京同立钧成知识产权代理有限公司 | 代理人： | 张莲莲;刘芳 |
| 地址： | 100191 北京市海*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供一种词向量训练方法和装置，其中词向量训练方法包括：获取新增词汇库，新增词汇库中的词汇与旧词汇库中的词汇构成新词汇库，旧词汇库中的词汇对应有旧词向量；对新词汇库中的词汇进行初始化处理，使得新词汇库中属于旧词汇库中的词汇的词向量为旧词向量，新词汇库中属于新增词汇库中的词汇词向量为随机词向量；根据旧词汇库对应的噪声分布和新词汇库对应的噪声分布分别对新词汇库中词汇的词向量进行更新。本发明提供的词向量训练方法和装置，减少了训练词向量时的计算量。 | ||
| 搜索关键词： | 向量 训练 方法 装置 | ||
【主权项】：
1.一种词向量训练方法，其特征在于，包括：/n获取新增词汇库，所述新增词汇库中的词汇与旧词汇库中的词汇构成新词汇库，所述旧词汇库中的词汇对应有旧词向量；/n对所述新词汇库中的词汇进行初始化处理，使得所述新词汇库中属于所述旧词汇库中的词汇的词向量为旧词向量，所述新词汇库中属于所述新增词汇库中的词汇词向量为随机词向量；/n根据所述旧词汇库对应的噪声分布和所述新词汇库对应的噪声分布分别对所述新词汇库中词汇的词向量进行更新；/n所述根据所述旧词汇库对应的噪声分布和所述新词汇库对应的噪声分布分别对所述新词汇库中词汇的词向量进行更新，包括：/n获取第一词汇对应的预设目标函数，所述第一词汇为所述新词汇库中的词汇；/n根据所述第一词汇在所述旧词汇库的属性和在所述新词汇库的属性对所述预设目标函数进行梯度处理，得到所述第一词汇对应的词向量；/n所述获取第一词汇对应的预设目标函数，包括：/n若所述第一词汇属于所述旧词汇库，则根据Skip-gram模型的原始目标函数对所述第一词汇进行因式分解，得到所述第一词汇对应的预设目标函数；/n若所述第一词汇属于所述新增词汇库，则所述第一词汇对应的预设目标函数为所述Skip-gram模型的原始目标函数；/n或者，所述获取所述第一词汇对应的预设目标函数，包括：/n若所述第一词汇属于所述旧词汇库，则根据CBOW模型的原始目标函数对所述第一词汇进行因式分解，得到所述第一词汇对应的预设目标函数；/n若所述第一词汇属于所述新增词汇库，则所述第一词汇对应的预设目标函数为所述CBOW模型的原始目标函数。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京航空航天大学，未经北京航空航天大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201710023520.8/，转载请声明来源钻瓜专利网。
