[发明专利]一种数据处理方法及装置在审
申请号: | 202010411653.4 | 申请日: | 2020-05-15 |
公开(公告)号: | CN111898362A | 公开(公告)日: | 2020-11-06 |
发明(设计)人: | 朱斌俊 | 申请(专利权)人: | 联想(北京)有限公司 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/216;G06F16/35;G06N20/00 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 李金 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种数据处理方法,所述方法包括:
对每个训练数据包的每条句子中的人物名称进行标准化处理,得到每条句子对应的标准化句子,所述标准化处理使得每个训练数据包的每条句子中的人物名称相同;
计算每条标准化句子中每个词之间的注意力,并根据每条标准化句子中每个词之间的注意力,得到每条标准化句子的句向量;
根据每个训练数据包对应的每条标准化句子的句向量,得到每个训练数据包的包向量;
计算每个训练数据包的损失值和每条标准化句子的损失值;
根据所述每条标准化句子的句向量、每个训练数据包的包向量、每个训练数据包的损失值和每条标准化句子的损失值,训练得到用于进行人物关系抽取的机器学习模型。
2.根据权利要求1所述的方法,所述根据每条标准化句子中每个词之间的注意力,得到每条标准化句子的句向量包括:对每条标准化句子执行以下步骤:
根据每个词之间的注意力得到标准化句子的原始句向量;
根据适用于所有标准化句子的预设特征参数,得到所述标准化句子的预设特征向量;
根据所述原始句向量和所述预设特征向量,得到所述标准化句子的句向量。
3.根据权利要求2所述的方法,所述根据所述原始句向量和所述预设特征向量,得到所述标准化句子的句向量包括:
对所述原始句向量和所述预设特征向量进行拼接降维,得到所述标准化句子的目标特征向量,所述目标特征向量与所述预设特征向量的维度相同;
将所述目标特征向量和所述原始句向量进行拼接,得到所述标准化句子的句向量。
4.根据权利要求1至3任意一项所述的方法,所述方法还包括:
利用所述机器学习模型输出所述训练数据包中句子的概率分布向量;
根据所述句子的概率分布向量和所述句子的初始标签数据,得到所述句子的预测标签数据,所述初始标签数据指示标注的所述句子的人物关系,所述预测标签数据指示预测出的所述句子的人物关系;
根据所述初始标签数据和所述预测标签数据的置信度,对所述句子的标签数据进行修正。
5.根据权利要求1所述的方法,所述计算每个训练数据包的损失值和每条标准化句子的损失值包括:
将所述标准化句子的句向量进行降维处理,得到维度与第一关系类别数相同的目标句向量,所述第一关系类别数指示所有标准化句子对应的人物关系的总数;
计算所述目标句向量的概率分布向量;
根据所述目标句向量的概率分布向量和所述目标句向量所属标准化句子的标签数据,得到所述目标句向量所属标准化句子的损失值;
将所述训练数据包的包向量进行降维处理,得到维度与第二关系类别数相同的目标包向量,所述第二关系类别数指示所有训练数据包对应的人物关系的总数;
计算所述目标包向量的概率分布向量;
根据所述目标包向量的概率分布向量和所述目标包向量所属训练数据包的标签数据,得到所述目标包向量所属训练数据包的损失值。
6.一种数据处理装置,所述装置包括:
标准化处理单元,用于对每个训练数据包的每条句子中的人物名称进行标准化处理,得到每条句子对应的标准化句子,所述标准化处理使得每个训练数据包的每条句子中的人物名称相同;
第一向量计算单元,用于计算每条标准化句子中每个词之间的注意力,并根据每条标准化句子中每个词之间的注意力,得到每条标准化句子的句向量;
第二向量计算单元,用于根据每个训练数据包对应的每条标准化句子的句向量,得到每个训练数据包的包向量;
损失值计算单元,用于计算每个训练数据包的损失值和每条标准化句子的损失值;
训练单元,用于根据所述每条标准化句子的句向量、每个训练数据包的包向量、每个训练数据包的损失值和每条标准化句子的损失值,训练得到用于进行人物关系抽取的机器学习模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于联想(北京)有限公司,未经联想(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010411653.4/1.html,转载请声明来源钻瓜专利网。