专利名称
主分类
A 农业
B 作业;运输
C 化学;冶金
D 纺织;造纸
E 固定建筑物
F 机械工程、照明、加热
G 物理
H 电学
专利下载VIP
公布日期
2023-10-24 公布专利
2023-10-20 公布专利
2023-10-17 公布专利
2023-10-13 公布专利
2023-10-10 公布专利
2023-10-03 公布专利
2023-09-29 公布专利
2023-09-26 公布专利
2023-09-22 公布专利
2023-09-19 公布专利
更多 »
专利权人
国家电网公司
华为技术有限公司
浙江大学
中兴通讯股份有限公司
三星电子株式会社
中国石油化工股份有限公司
清华大学
鸿海精密工业股份有限公司
松下电器产业株式会社
上海交通大学
更多 »
钻瓜专利网为您找到相关结果28个,建议您升级VIP下载更多相关专利
  • [发明专利]缓存数据迁移方法及装置-CN201710744403.0有效
  • 毛睿;陆敏华;陆克中;朱金彬;隋秀峰 - 深圳大学
  • 2017-08-25 - 2020-11-03 - G06F12/0811
  • 本发明实施例提供一种缓存数据迁移方法及装置,涉及计算机领域,该方法包括:当计算区的空闲空间不足以运行由Spark执行引擎调度的子任务时,计算抢占空间的大小,抢占空间的大小为子任务的运行空间的大小减去计算区的空闲空间的大小,统计存储区的空闲空间和有效空间的大小,并判断抢占空间的大小是否大于存储区的空闲空间的大小和存储区的有效空间的大小,当抢占空间的大小大于存储区的空闲空间的大小且不大于存储区的有效空间的大小时,将存储区的缓存数据迁移至二级缓存,迁移至二级缓存的缓存数据的大小为抢占空间的大小减去存储区的空闲空间的大小。该方法及装置避免了部分计算任务的重复操作,保护了Spark执行引擎的性能。
  • 缓存数据迁移方法装置
  • [发明专利]一种Spark任务分配方法和系统-CN201710895070.1有效
  • 毛睿;陆敏华;陆克中;朱金彬;隋秀峰 - 深圳大学
  • 2017-09-28 - 2020-10-23 - G06F9/50
  • 本发明属于计算机技术领域,尤其涉及一种Spark任务分配方法和系统。首先基于数据位置的选择方法对当前提交的任务和已配置的资源中所包含的节点进行配对,生成配对结果;利用已生成的节点标识与存储设备特征标识的对应关系,将配对结果中所包含的节点分组为固态硬盘节点组和机械硬盘节点组;若当前任务的操作数据同时存在于固态硬盘节点组的节点和机械硬盘节点组的节点中,优先将任务分配到固态硬盘节点组的节点中执行,即最大限度地将任务分配到配置有SSD的计算节点上,从而充分利用SSD高速读、写以及高吞吐率的特性,加快任务的执行速度,提升集群的服务质量。
  • 一种spark任务分配方法系统
  • [发明专利]一种Spark负载访存行为追踪方法及装置-CN201710866369.4有效
  • 毛睿;陆敏华;陆克中;罗秋明;刘刚;李荣华;廖好;周明洋;王利;王晶;隋秀峰 - 深圳大学
  • 2017-09-22 - 2020-09-11 - G06F11/36
  • 一种Spark负载访存行为追踪方法,包括:在执行区,在UnsafeShuffleWriter对象的hashcode、第一被访问数据的RDD信息以及ShuffleExternalSorter对象的hashcode之间建立对应关系;获取第一被访问数据的虚拟地址和物理地址的相关信息,并根据UnsafeShuffleWriter对象的hashcode、第一被访问数据的RDD信息以及ShuffleExternalSorter对象的hashcode之间的对应关系,得到第一被访问数据的RDD信息、虚拟地址的相关信息和物理地址的相关信息的对应关系并保存在文件中;在存储区,当对MemoryStore维护的哈希表执行存储或读取操作时,获取存储或读取操作对应的第二被访问数据的RDD信息、虚拟地址的相关信息及物理地址的相关信息,然后将上述三者之间的对应关系保存在文件中。本发明还提供一种Spark负载访存行为追踪装置,可打通Spark、JVM、OS三层,使Spark语义一直延伸到硬件层。
  • 一种spark负载行为追踪方法装置
  • [发明专利]一种Spark分布式计算数据处理方法及系统-CN201710742728.5有效
  • 毛睿;陆敏华;陆克中;朱金彬;隋秀峰 - 深圳大学
  • 2017-08-25 - 2020-09-11 - G06F3/06
  • 本发明公开了一种Spark分布式计算数据处理方法,涉及计算机领域,该方法包括:通过任务调度器调度子任务,执行RDD分区数据存储任务,申请存储区空间;计算存储区内可驱逐空间及空间的大小,根据分区数据访问热度设置混合存储系统的迁移地址;读取指定存储区内已缓存数据并释放相应的内存空间,迁移分区数据到指定地址,修改迁移数据的持久化级别,反馈驱逐成功信号及驱逐空间信息。本发明还公开了一种Spark分布式计算系统,通过引入混合存储系统,并设计驱逐逻辑单元和缓存数据迁移单元,根据分区数据热度将数据迁移至SSD或HDD,而非直接将数据迁移至磁盘或踢除已缓存的数据,能够有效地缓解内存空间不足的压力,实现Spark性能的提升。
  • 一种spark分布式计算数据处理方法系统
  • [发明专利]一种基于SSD和HDD混合存储系统的RDD持久化方法-CN201710358093.9有效
  • 陆克中;黄泽成;毛睿;廖好;朱金彬;隋秀峰 - 深圳大学
  • 2017-05-19 - 2020-05-12 - G06F3/06
  • 本发明提供一种基于SSD和HDD混合存储系统的RDD持久化方法,包括:RDD模块将RDD模块中的块标识和RDD模块中数据的预设持久化级别传递给块管理器;所述磁盘块管理器将所述预设持久化级别传递给设备适配器;所述设备适配器接收数据的预设持久化级别和读取配置文件中两个目录管理变量,根据数据的预设持久化级别进行预设持久化级别和对应目录管理变量中临时文件目录匹配,并将匹配得到的临时文件目录返回给所述磁盘块管理器;所述磁盘块管理器根据所述块标识得到文件名,并根据匹配得到的临时文件目录和所述文件名得到数据存储地址,并将所述数据存储地址返回至所述块管理器;所述块管理器根据所述数据存储地址对RDD模块中的数据在SSD或HDD中进行存储。
  • 一种基于ssdhdd混合存储系统rdd持久方法
  • [发明专利]一种数据替换的方法和设备-CN201310356281.X有效
  • 隋秀峰;任睿 - 华为技术有限公司;中国科学院计算技术研究所
  • 2013-08-15 - 2018-10-09 - G06F12/123
  • 本发明提供一种数据替换的方法和设备,涉及计算机领域,能够根据应用程序对末级共享缓存容量的敏感程度的不同,将对共享缓存敏感度不高的应用程序数据从末级共享缓存中移除,这样就增大了对末级共享缓存容量敏感程度高的应用在末级共享缓存的空间,提高了处理器的实际性能,也改善了用户的使用体验。其方法为:通过建立程序敏感度等级,并根据所述敏感度等级对所述程序进行等级划分,结合所述程序敏感度等级和所述程序在程序栈中的位置,确定所述程序的替换参数,将指定的所述替换参数对应的所述程序的数据移除。本发明用于对共享缓存中的数据进行替换。
  • 一种数据替换方法设备

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

400-8765-105周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top