[发明专利]一种基于正则化与数据增广的稀疏数据处理方法有效

专利信息
申请号: 201910848415.7 申请日: 2019-09-09
公开(公告)号: CN110543918B 公开(公告)日: 2023-03-24
发明(设计)人: 王海;任哲;冯通;秦晨光;蒋阳;高岭;郑杰;杨旭东 申请(专利权)人: 西北大学
主分类号: G06F18/15 分类号: G06F18/15;G06F18/214;G06F18/241;G06N20/00
代理公司: 西安西达专利代理有限责任公司 61202 代理人: 刘华
地址: 710069 陕西*** 国省代码: 陕西;61
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 正则 数据 增广 稀疏 数据处理 方法
【权利要求书】:

1.一种基于正则化与数据增广的稀疏数据处理方法,其特征在于,包括以下步骤:

1)针对实验所需的具体的数据集如轨迹数据集,在这样的数据集中由于数据采集条件的限制,会产生不符合处理要求的样本,找出需要进行处理的稀疏数据;

2)对步骤1)的稀疏数据,查询稀疏数据的基本属性,并根据基本属性进行分类,分类标准为基本属性中是否存在可删减属性,所述的可删减属性包括社交账号、身高、体重;

3)将步骤2)中分类好的数据采用下述a、b两种方法进行处理:

a、若数据集基本属性无法进行删减,对其使用机器学习中的正则化算法,即通过加入正则项来防止数据过拟合;

①由于存在大量基本属性,需要在数据处理过程即代价函数计算过程中加入正则化项此时,代价函数如下:

其中C0为原始代价函数;n为数据集中样本数量;λ是正则项系数,用来权衡正则项与C0项的比重;

②做出上述更改后,ω的更新方式如下:

其中,是求偏导;ω权重,通过调节w来防止过拟合;η更新w时进行梯度下降值;

b、若基本属性能够进行删减,删减后属性个数n小于数据样本个数m,对其使用数据增广的方法来扩大数据量,对删减属性后的新数据进行进一步的处理,处理的方法采用对截取路径进行数据翻转,数据裁剪,数据局部放大手段来进行数据集的扩充;

①找出整段轨迹中的驻留点,即用户在此处有停留,在此处将驻留点看作整段轨迹的关键点,对相邻驻留点之间的位置进行补充;

②对关键点以及关键点附近的位置点进行放大使之成为一条完整轨迹;

③对整段轨迹进行裁剪,将一整段轨迹进行裁剪,使其成为多条小段轨迹;

经过上述处理,输出数据结果为新的数据集,该数据集中样本数量较原数据集增加;

4)对步骤3)的b步骤中输出的新数据集数据再使用相应的机器学习算法如深度学习算法进行处理。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西北大学,未经西北大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910848415.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top