[发明专利]基于多个机器学习模型的自然语言处理方法、装置和设备有效
申请号: | 202011182212.8 | 申请日: | 2020-10-29 |
公开(公告)号: | CN112287662B | 公开(公告)日: | 2023-10-20 |
发明(设计)人: | 骆加维;吴信朝;周宸;周宝;陈远旭 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06N20/00 |
代理公司: | 深圳市明日今典知识产权代理事务所(普通合伙) 44343 | 代理人: | 王杰辉;宋庆洪 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 机器 学习 模型 自然语言 处理 方法 装置 设备 | ||
1.一种基于多个机器学习模型的自然语言处理方法,其特征在于,包括:
将待识别的文本数据输入到多个不同的词向量训练机器学习模型,得到基于每个词的多个相互独立的词向量训练结果;
基于每个词的多个训练结果,计算每个词的词向量的中心向量和偏正向量;
根据每个词对应的所述中心向量和所述偏正向量,计算得到每个词的纠偏词向量;
基于每个词的纠偏词向量进行自然语言处理任务。
2.根据权利要求1所述的基于多个机器学习模型的自然语言处理方法,其特征在于,所述多个不同的词向量训练机器学习模型的数量为2个,所述基于每个词的多个训练结果,计算每个词的词向量的中心向量和偏正向量的步骤包括:
计算2个所述词向量训练模型的输出的同一个词的词向量每一个维度的偏差量bias,计算公式为bias(a)=(xa-ya),其中1≤a≤n,n为词向量的维度,bias(a)为第a个维度的偏差量,xa、ya分别表示2个词向量第a个维度的特征值;
获取不同维度的偏差量的偏差序列的中位数m;
利用公式计算出平均偏正量debias;
利用公式得到所述中心向量VCentor,其中VCentor(a)表示所述中心向量第a个维度的特征值;
利用公式Voffset(a)=(-1)n*debias得到所述偏正向量Voffset,其中Voffset(a)表示所述偏正向量第a个维度的特征值。
3.根据权利要求1所述的基于多个机器学习模型的自然语言处理方法,其特征在于,所述多个不同的词向量训练机器学习模型的数量为3个,所述基于每个词的多个训练结果,计算每个词的词向量的中心向量和偏正向量的步骤包括:
计算3个所述词向量训练模型的输出的同一个词的词向量在每一个维度的偏差量,计算公式为其中表示在二维坐标系中(xa-1,xa)、(ya-1,ya)、(za-1,za)3点组成的圆的半径和(xa,xa+1)、(ya,ya+1)、(za,za+1)3点组成的圆的半径的平均值,其中1≤a≤n,n为词向量的维度,bias(a)为第a个维度的偏差量,xa、ya、za分别表示3个词向量第a个维度的特征值;
获取不同维度的偏差量的偏差序列的中位数m;
利用公式计算出平均偏正量debias,其中VCentor(a)表示所述中心向量第a个维度的特征值;
利用公式Voffset(a)=(-1)n*debias得到所述偏正向量Voffset,其中Voffset(a)表示所述偏正向量第a个维度的特征值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011182212.8/1.html,转载请声明来源钻瓜专利网。