[发明专利]一种基于NVM混合内存的缓存预取方法及系统有效

专利信息
申请号: 201911318719.9 申请日: 2019-12-19
公开(公告)号: CN111143243B 公开(公告)日: 2023-06-27
发明(设计)人: 姚建国;杨铭;管海兵 申请(专利权)人: 上海交通大学
主分类号: G06F12/0862 分类号: G06F12/0862;G06F12/0866;G06N3/0442;G06N3/08
代理公司: 上海汉声知识产权代理有限公司 31236 代理人: 胡晶
地址: 200240 *** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明提供了一种基于NVM混合内存的缓存预取方法及系统,包括:步骤M1:识别DRAM和NVMM主内存,并且将DRAM作为NVMM的缓存;步骤M2:根据预设负载类型,采集对应的访存数据,作为训练的数据;步骤M3:搭建特定的LSTM神经网络模型;步骤M4:使用特定的LSTM神经网络模型对训练的数据进行训练;步骤M5:训练后的LSTM神经网络模型,保证存储系统对负载变化的适应性;本发明创新性地采用机器学习的方案,结合提前采集数据,离线训练的方式,完成了对特定负载的高精准度缓存预取,有效提高混合主内存运行时的命中率。
搜索关键词: 一种 基于 nvm 混合 内存 缓存 方法 系统
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海交通大学,未经上海交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201911318719.9/,转载请声明来源钻瓜专利网。

同类专利
  • 智能预取缓冲器和队列管理-202310362526.3
  • A·A·萨拉夫;K·坎都库瑞;T·纳特瑞严;S·斯瑞瓦斯塔瓦 - 亚德诺半导体国际无限责任公司
  • 2023-04-07 - 2023-10-27 - G06F12/0862
  • 本公开涉及智能预取缓冲器和队列管理。存储器设备包括存储器阵列和可操作地耦合到存储器阵列的存储器控制器。存储器阵列包括用于存储存储器数据的存储器单元。存储器控制器包括:预取缓冲器,读取地址缓冲器,包括用于存储从至少一个单独设备接收的存储器读取请求的地址的存储器寄存器、和逻辑电路。所述逻辑电路被配置为当读取请求的地址是存储在所述读取地址缓冲器中的地址的连续地址时,将额外读取数据存储在所述预取缓冲器中,并且当所述读取请求的地址是存储在所述读取地址缓冲器中的地址的非连续地址时,省略预取所述额外数据。
  • 一种数据预取方法、系统、电子设备及计算机存储介质-202311196670.0
  • 李辉;邓迅;苏楠;王芳;董超;李强;冯丹 - 浪潮电子信息产业股份有限公司
  • 2023-09-18 - 2023-10-27 - G06F12/0862
  • 本发明公开了一种数据预取方法、系统、电子设备及计算机存储介质,涉及缓存技术领域,获取记录的目标数据组;获取记录的目标数据组中各个数据的历史访问时间戳组;在目标数据组中,将符合预设时间相邻规则的每两个历史访问时间戳组对应的数据作为关联数据组,以基于关联数据组进行数据预取。本发明可以对数据的历史访问时间戳组进行记录,并只需对历史访问时间戳组进行分析,便可以确定出关联数据组,过程简便、内存开销小,适用性好。本发明提供的一种数据预取系统、电子设备及计算机可读存储介质也解决了相应技术问题。
  • 一种安全实现数据快速寻址的方法及系统-202110033571.5
  • 张立旭 - 张立旭
  • 2021-01-12 - 2023-10-10 - G06F12/0862
  • 本发明涉及一种安全实现数据快速寻址的方法,包括以下步骤:在用户初次访问主服务器时记录用户特征,并在临时服务器中增添加密用户账户;分布式存储后,主服务器将存储路径存储在加密用户账户中;在用户非初次访问主服务器时,主服务器获取用户特征并后台唤醒临时服务器,临时服务器组合还原数据;根据用户发出的数据读取指令,主服务器对应从临时服务器中读取数据并发送给用户;应用本申请的方式方法,通过初次登录时获取用户特征,依靠用户登录和用户特征双验证的方式来唤醒临时服务器,并在用户未操作时就进行数据的预先寻址读取并还原,能够节约至少一半的等待时间同时大幅提升安全性能。
  • 串行接口NAND存储芯片及从其中读取数据的方法-202011036444.2
  • 黄亚龙;徐光明;虞安华 - 芯天下技术股份有限公司
  • 2020-09-27 - 2023-09-26 - G06F12/0862
  • 本发明公开了一种串行接口NAND存储芯片及从其中读取数据的方法,包括当串行接口NAND存储芯片接收页读取命令时,将页读取命令对应的页数据读取到第一高速缓存器;当页数据读取完成时,设置OIP等于0,预读取下一页的页数据到第二高速缓存器;当串行接口NAND存储芯片接收新页读取命令时,获取页读取命令对应的待读取页的第一页地址以及新页读取命令对应的待读取页的第二页地址,当第二页地址为第一页地址的下一页地址且下一页的页数据预读取完成,则设置OIP等于0,将下下一页的页数据预读取到第一高速缓存器。本发明提高了外部主控对串行接口NAND存储芯片中数据连续读取的速度,在读取页数量越多时,速度提升越明显。
  • 数据预读取方法、装置、电子设备和存储介质-202210260418.0
  • 杨仲凯;郑卫炎;郭海涛 - 华为技术有限公司
  • 2022-03-16 - 2023-09-22 - G06F12/0862
  • 一种数据预读取方法、装置、电子设备和存储介质,涉及数据存储领域。在数据访问过程中,若处理器的缓存命中了数据访问请求所需的待读取数据,且该待读取数据未被读取,处理器可根据待读取数据的内存地址从内存提供的多种策略中,选择与该内存地址匹配的第一策略,进而,处理器根据该第一策略和待读取数据的内存地址确定预读取地址,并将该预读取地址指示的数据写入处理器的缓存中。处理器无需按照固有的预取方案对数据进行预读取,避免了缓存中存储了大量其他预取方案所带来的无用数据,降低了缓存中的污染,提高了数据访问过程中处理器的缓存命中率,从而提高了处理器的数据访问效率以及处理器的数据访问性能。
  • 基于芯片多级存储的数据预取方法、装置、设备及介质-202311007185.4
  • 张殿臣;苏刚;田野 - 上海燧原科技有限公司
  • 2023-08-11 - 2023-09-12 - G06F12/0862
  • 本发明公开了基于芯片多级存储的数据预取方法、装置、设备及介质。该方法包括:获取初始深度学习网络模型中的目标计算操作及对应目标预取数据;依据目标预取数据的数据空间和预取时长,及目标计算操作在初始深度学习网络模型中的目标位置,确定目标预取数据对应的目标预取插入点生成基础深度学习网络模型;依据目标预取数据对应的目标计算操作数量和/或目标计算操作的目标位置,确定目标预取数据对应的目标释放插入点生成目标深度学习网络模型;触发执行目标深度学习网络模型,依据目标深度学习网络模型中目标预取插入点及目标释放插入点,实现目标预取数据的数据预取与释放。通过本发明的技术方案,能够提高人工智能芯片的数据存取效率。
  • 数据存储系统中的拷贝源至目标管理-201880079857.3
  • L·古普塔;K·J·阿什;C·哈迪;K·A·尼尔森 - 国际商业机器公司
  • 2018-11-29 - 2023-09-12 - G06F12/0862
  • 可以在源送出操作之前选择性地和抢先采取拷贝源至目标操作。在另一方面,逻辑检测包括对时间点拷贝源的大块写入的顺序写入。作为响应,开始相关联的时间点拷贝目标上的送出任务,其在一个实施例中包括步幅对准的拷贝源至目标操作,该操作与目标的步幅对准地将未修改的数据从时间点拷贝源拷贝到时间点拷贝目标。结果,当写入操作的写入数据被送出到时间点拷贝源时,这样的源送出不需要等待拷贝源至目标操作,因为它们已经被执行。另外,拷贝源至目标操作可以相对于时间点拷贝目标的步幅边界步幅对准。取决于特定应用,可实现其他特征和方面。
  • 预读方法及其存储控制器-202310645298.0
  • 盛亮;金石;杨腾 - 北京忆芯科技有限公司
  • 2018-05-23 - 2023-08-25 - G06F12/0862
  • 本申请公开了预读方法及其存储控制器。所公开的预读方法包括如下步骤:获取读命令;判断读命令是否命中预读命令描述符;若读命令命中预读命令描述符,将所述预读命令描述符的信息复制给读命令描述符,以生成或者更新读命令描述符;根据所述读命令描述符处理读命令。
  • 一种嵌入式系统的Cache实现方法和装置-202111081557.9
  • 张宾;张志;张东峰;周友宏 - 合肥大唐存储科技有限公司
  • 2021-09-15 - 2023-08-18 - G06F12/0862
  • 本申请实施例公开了一种嵌入式系统的Cache实现方法和装置,Cache中的每组buffer由单独的状态机控制,该buffer包括:Fetch buffer和PreFetch buffer,并且一组Fetch buffer对应一组PreFetch buffer;该方法包括:发生Read Cache miss时,或当连续发生多次Read Cache hit,且多次Read Cache hit的地址连续时,触发PreFetch FSM,执行PreFetch操作。通过该实施例方案,在不过度增加Cache容量的情况下,提高了Cache命中率。
  • 数据储存设备及其数据预测方法-201910687878.X
  • 黄玮淦 - 祥硕科技股份有限公司
  • 2019-07-29 - 2023-08-08 - G06F12/0862
  • 本发明公开了一种数据储存设备及其数据预测方法。数据储存设备包括存储器单元以及预测单元。预测单元取得存储器单元的先前存取历史的多个数据存取动作的多个存取位置数据。预测单元分析存储器单元的先前存取历史。预测单元对所述多个存取位置数据进行量化处理,以取得对应于先前存取历史的多个量化数据。预测单元依据所述多个量化数据来预测存储器单元的数据预存取目标。因此,本发明的数据储存设备及其数据预测方法可有效地预测存储器单元的数据预存取目标。
  • 基于按字节编址闪存的存储器模块和操作其的方法-201710651575.3
  • 张牧天;牛迪民;姜冬岩;郑宏忠 - 三星电子株式会社
  • 2017-08-02 - 2023-08-08 - G06F12/0862
  • 一种基于按字节编址闪存的存储器模块和操作其的方法。一种将数据存储在存储器模块中的方法,所述存储器模块包括模块中预取器、模块中预取缓冲器、存储器和存储器控制器,所述方法包括:将地址信息从模块中预取器发送到存储器控制器和预取缓冲器;基于发送到存储器控制器的地址信息与发送到预取缓冲器的地址信息的比较,确定预取精度;基于预取精度,确定预取模式;基于预取模式,将数据存储在存储器中。
  • 数据高速缓存预取装置、方法及处理器-202310272722.1
  • 陈伟杰;刘沁雨 - 北京奕斯伟计算技术股份有限公司
  • 2023-03-20 - 2023-07-25 - G06F12/0862
  • 本公开提供了一种数据高速缓存预取装置、方法及处理器,该装置包括加载存储单元、高速缓存单元、寄存器、行缓冲单元以及数据缓存预取单元;其中,数据缓存预取单元配置为在高速缓存单元发生数据缺失的情况下,响应于接收到的数据访问请求,根据数据访问请求的访问地址,生成预测地址流,以及将预测地址流发送至行缓冲单元,以使行缓冲单元通过总线获取与预测地址流对应的目标数据,并将目标数据发送至高速缓存单元。
  • 预取地址生成方法及计算机设备-202210043720.0
  • 梁庭;袁辉;刘珂;陈明宇;李海锋 - 华为技术有限公司
  • 2022-01-14 - 2023-07-25 - G06F12/0862
  • 本申请实施例公开了一种预取地址生成方法及计算机设备,可以应用于针对非直接拓展内存的预取场景,具体可以通过计算机设备实现。本申请方法采用机器学习的方式识别内存访问地址的地址偏移随时间变化的规律,根据识别得到的访存模式计算得到指向预取地址的N个地址偏移的概率,这种方式对于各种规律或不规律变化的地址偏移也能得到相应的概率;在根据该概率从N个地址偏移中确定目标偏移后,叠加该目标偏移和最近一次内存访问请求的访问地址生成预取地址。根据本申请方法生成的预取地址进行数据预取,可以提高缓存命中率。
  • 缓存预取方法、装置、设备及计算机可读存储介质-201810016027.8
  • 王杰 - 腾讯科技(深圳)有限公司
  • 2018-01-08 - 2023-07-21 - G06F12/0862
  • 本发明实施例公开了一种缓存预取方法、装置、设备及计算机可读存储介质,属于数据处理技术领域。方法包括:获取前一时刻缓存访问序列;获取经过训练得到的RNN模型,所述RNN模型通过历史访问数据及相邻数据中的至少一种数据训练得到,其中,所述相邻数据包括与当前访问数据相邻预定空间距离内的数据;基于所述前一时刻缓存访问序列,通过所述RNN模型预测缓存的预取数据。通过采用RNN模型来预测缓存的预取数据,且该RNN模型是通过历史访问数据和相邻数据中的至少一种数据训练得到的,因而可以使得预测的数据精确度更高,从而使得缓存预取的效果更佳。
  • 自适应数据预取方法、装置、设备、介质及程序产品-202310201954.8
  • 贾嵩;刘金潭;张捷;王源 - 北京大学
  • 2023-02-27 - 2023-07-18 - G06F12/0862
  • 本发明提供一种自适应数据预取方法、装置、设备、介质及程序产品,包括:确定各个预取策略的第一预取性能信息;基于第一预取性能信息和各个预取策略,确定第一目标预取策略,并关闭除目标预取策略之外的所有预取策略;基于运行第一目标预取策略时对应的第二预取性能信息,对第一目标预取策略的预取配置进行调节,确定第二目标预取策略;其中,各个预取策略包括第一目标预取策略,第二目标预取策略为调节第一目标预取策略的预取配置后得到的,预取策略用于执行访存操作,以基于访存操作将从内存中获取的数据存储至高速缓存中。本发明实现了一种适配所有应用场景的具有自适应特性的数据预存技术。
  • 基于UHS PSRAM控制器的读预取方法及装置-202310233091.2
  • 何振;申逸仙;刘浩成 - 珠海全志科技股份有限公司
  • 2023-03-10 - 2023-07-18 - G06F12/0862
  • 本发明公开了一种基于UHS PSRAM控制器的读预取方法及装置,该方法应用于UHS PSRAM控制器中,且至少一个主机及UHS PSRAM分别与UHS PSRAM控制器进行通信连接,该方法包括:UHS PSRAM控制器接收任一主机通过总线发送的主机对应的主机标识和读操作命令,读操作命令携带有主机对应的数据读取地址;UHS PSRAM控制器根据主机标识,确定主机对应的预取存储空间;UHS PSRAM控制器在主机对应的预取存储空间中查找是否存在读操作命令对应的读操作数据;当在主机对应的预取存储空间中查找到存在读操作命令对应的读操作数据时,UHS PSRAM控制器将读操作命令对应的读操作数据通过总线返回至主机标识对应的主机。可见,实施本发明能够降低主机读取UHS PSRAM数据的时延,有利于提高主机读取数据的效率和准确性。
  • 预驱指令架构与预驱指令架构的预取方法-202210295667.3
  • 李明;韩智毅;张琢;吴明显;满爱宝;喻华 - 广东华芯微特集成电路有限公司
  • 2022-03-24 - 2023-07-18 - G06F12/0862
  • 本发明涉及一种预驱指令架构与预驱指令架构的预取方法,预驱指令架构包括缓存模块和预缓存模块。基于预驱指令架构,在分别获取缓存模块接收的第一数据读取请求和预缓存模块接收的第二数据读取请求后,根据第一数据读取请求和第二数据读取请求,确定数据发送主体。进一步地,通过对数据发送主体进行使能控制,以使数据发送主体将存储数据发送至所述处理器。基于此,通过不同的数据发送主体,由缓存模块或预缓存模块的存储数据通道向处理器传输预先存储的存储数据,避免存储器向处理器传输存储数据的延迟,实现处理器对存储器的间接读取,提高读取效率。
  • 网卡驱动数据包处理方法、装置、电子设备及存储介质-202211667383.9
  • 彭元志 - 科东(广州)软件科技有限公司
  • 2022-12-23 - 2023-07-07 - G06F12/0862
  • 本发明实施例公开了一种网卡驱动数据包处理方法、装置、电子设备及存储介质,其中,方法包括:确定高速缓冲存储器中目标描述符的当前缓存数量;在确定所述目标描述符的当前缓存数量等于设定剩余缓存数量的情况下,指示所述高速缓冲存储器从内存中预取设定缓存数量的目标描述符;指示所述高速缓冲存储器根据所述目标描述符的数据指针预取目标数据的缓存地址;响应于网卡发送的缓存地址读取指令,将所述高速缓冲存储器预取的缓存地址发送至所述网卡,以使所述网卡基于所述缓存地址对所述目标数据进行实时收发处理。本发明实施例的技术方案能够优化高速缓冲存储器的数据预取能力和缓存性能,从而提高网卡对数据的实时处理能力。
  • 一种缓存数据的调度方法、装置、CPU芯片及服务器-201911305828.7
  • 陈立勤 - 海光信息技术股份有限公司
  • 2019-12-20 - 2023-07-07 - G06F12/0862
  • 本发明实施例公开一种缓存数据的调度方法、装置、CPU芯片及服务器,涉及计算机技术领域,能够有效提高指令执行速度。所述方法包括:在执行数据加载指令之前,根据目标数据的存储地址,在缓存中查找所述目标数据;其中,所述数据加载指令,用于从内存中加载所述目标数据到处理器中;若所述目标数据未在所述缓存中,则根据所述目标数据在内存中的存储地址,向内存请求所述目标数据。本发明适用于缓存数据调度中。
  • 基于合并位向量访存模式的缓存数据预取方法和系统-202211716885.6
  • 蒋实知;杨秋松;慈轶为 - 中国科学院上海高等研究院
  • 2022-12-29 - 2023-07-04 - G06F12/0862
  • 本申请提供基于合并位向量访存模式的缓存数据预取方法和系统,使用计数器向量合并了位向量模式,降低了元数据存储开销,提取了位向量之间的共性,有效地提高了覆盖率,降低了缓存缺失率,提升了整体性能;根据偏移访问频率决定最终的预取目标,相比于现有技术仅利用索引和标签匹配来预测预取目标,大大提升了预测准确性;本发明摈弃了组合多重特征来索引,不再使状态空间指数爆炸,降低硬件开销;通过双重模式表保存不同特征索引对应的访存模式,既提升了性能又控制了整体开销。
  • 区域感知增量预取器-202211664474.7
  • S·沙;A·V·诺丽;S·萨布拉蒙尼;S·什沃茨曼;P·I·克留科夫;L·拉帕波特 - 英特尔公司
  • 2022-12-23 - 2023-06-27 - G06F12/0862
  • 本公开涉及区域感知增量预取器。一种装置包括存储器电路系统的预取电路系统,该存储器电路系统包括第一数据结构,该预取电路系统耦合到存储器电路系统。预取电路系统用于在第一数据结构中存储与分配给程序的存储器区域的第一子区域相对应的第一子区域条目。第一子区域条目包括多个增量值。多个增量值中的第一增量值表示与存储器区域的第二子区域内的连续存储器访问相关联的两个缓存行之间的第一距离。预取电路系统进一步用于:检测第一子区域中第一缓存行的第一存储器访问;基于第一缓存行和多个增量值来标识预取候选;以及基于要被预取到缓存中的预取候选中的至少两个预取候选来发出至少一个预取请求。
  • 数据预读取方法、装置、处理器及预取器-202111602772.9
  • 林越 - 华为技术有限公司
  • 2021-12-24 - 2023-06-27 - G06F12/0862
  • 一种数据预读取方法、装置、处理器及预取器,涉及数据存储领域。该数据预读取方法包括:首先,处理器获取用于请求内存中待读取数据的数据访问请求;其次,当在处理器的缓存中未命中待读取数据,处理器依据前述待读取数据的内存地址确定预读取地址,该预读取地址用于指示内存中与待读取数据具有关联关系的数据。最后,处理器将内存中预读取地址指示的数据写入缓存。处理器可以在缓存中未命中待读取数据的情况下,将该预读取地址指示的数据从内存写入缓存,提高了处理器在数据访问过程中的缓存命中率,从而提高了处理器的数据访问效率以及处理器的数据访问性能。
  • 一种基于NVM混合内存的缓存预取方法及系统-201911318719.9
  • 姚建国;杨铭;管海兵 - 上海交通大学
  • 2019-12-19 - 2023-06-27 - G06F12/0862
  • 本发明提供了一种基于NVM混合内存的缓存预取方法及系统,包括:步骤M1:识别DRAM和NVMM主内存,并且将DRAM作为NVMM的缓存;步骤M2:根据预设负载类型,采集对应的访存数据,作为训练的数据;步骤M3:搭建特定的LSTM神经网络模型;步骤M4:使用特定的LSTM神经网络模型对训练的数据进行训练;步骤M5:训练后的LSTM神经网络模型,保证存储系统对负载变化的适应性;本发明创新性地采用机器学习的方案,结合提前采集数据,离线训练的方式,完成了对特定负载的高精准度缓存预取,有效提高混合主内存运行时的命中率。
  • 数据缓存预取装置、方法及处理器-202310283618.2
  • 陈伟杰;刘沁雨 - 北京奕斯伟计算技术股份有限公司
  • 2023-03-22 - 2023-06-09 - G06F12/0862
  • 本公开提供了一种数据缓存预取装置、方法及处理器,该数据缓存预取装置包括寄存器单元配置为存储各页面对应的历史签名,以及存储根据各页面对应的历史签名生成的签名索引、增量和增量模式信息;预取单元配置为根据各签名索引和与各签名索引对应的增量,得到与各页面对应的预测地址流;检查单元配置为根据在前访问请求和与当前访问请求对应的增量,确定当前访问请求是否属于跨页面请求;预取过滤器配置为在当前访问请求不属于跨页面请求的情况下,根据增量模式信息得到路径置信度;置信度判决器配置为确定路径置信度是否大于等于第一阈值;预取过滤器还配置为在路径置信度大于等于第一阈值的情况下,对预测地址流进行过滤处理得到目标预测地址流。
  • 一种基于内嵌DMA的处理器数据预取方法-202010396615.6
  • 周海斌;魏为 - 中国电子科技集团公司第十四研究所
  • 2020-05-12 - 2023-06-06 - G06F12/0862
  • 本发明结合了软件预取的高度灵活性和硬件预取的高效率,提出了一种通过在矢量处理器核内部设计内嵌DMA的方法,与传统的通过Load/Store或矢量Load/Store指令从片外存储搬运数据方式和通过指令实现的软件数据预取方式相比,实现了较高的数据传输和数据预取效率。该内嵌DMA除了支持常规DMA所具有的一维、二维和转置数据传输之外,还支持数据预取、刷Cache和无效Cache等功能。通过程序员配置和启动处理器核内嵌DMA,可灵活地设置数据传输和数据预取的时机、预取度和数据存取模式,较好地解决了Load/Store指令从片外存储搬运数据和软件预取或硬件预取存在的问题,实现了高效率的数据传输和数据预取。
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

400-8765-105周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top