[发明专利]一种数据处理方法、装置及计算机可读存储介质在审
申请号: | 202110289993.9 | 申请日: | 2021-03-18 |
公开(公告)号: | CN112800020A | 公开(公告)日: | 2021-05-14 |
发明(设计)人: | 戴智翔;孙旭东;龙浩;吴胤旭 | 申请(专利权)人: | 蓝鲸国数(深圳)科技有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06K9/62;G06N20/00 |
代理公司: | 深圳市恒申知识产权事务所(普通合伙) 44312 | 代理人: | 鲍竹 |
地址: | 518000 广东省深圳市南山区粤海街道高*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种数据处理方法、装置及计算机可读存储介质,对大数据集进行随机样本划分处理,生成随机样本划分数据集,其中,随机样本划分数据集中各随机样本划分数据块分散存储于分布式文件系统的不同节点之上;从随机样本划分数据集中随机抽取若干个随机样本划分数据块,并分别通过各随机样本划分数据块执行建模任务,得到建模结果;将各任务节点的建模结果汇总到主节点进行集成,构建相应的集成学习模型。通过本发明的实施,一方面,仅需随机抽取源数据集的部分数据块执行模型训练任务,大大降低了集群的计算压力,另一方面,分布式存储于各节点的数据块可以同时执行模型训练任务,有效提升了容错率和减少了训练时间。 | ||
搜索关键词: | 一种 数据处理 方法 装置 计算机 可读 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于蓝鲸国数(深圳)科技有限公司,未经蓝鲸国数(深圳)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110289993.9/,转载请声明来源钻瓜专利网。