[发明专利]用于处理器高速缓存管理的争用跟踪在审
申请号: | 202211021189.3 | 申请日: | 2022-08-24 |
公开(公告)号: | CN116521581A | 公开(公告)日: | 2023-08-01 |
发明(设计)人: | A·乔杜里;C·R·费尔巴赫;J·辛格;M·高瑟;A·蒂鲁马莱;S·乔杜里 | 申请(专利权)人: | 辉达公司 |
主分类号: | G06F12/0844 | 分类号: | G06F12/0844;G06F12/0811;G06F12/084 |
代理公司: | 北京市磐华律师事务所 11336 | 代理人: | 高伟 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 处理器 高速缓存 管理 跟踪 | ||
本公开涉及用于处理器高速缓存管理的争用跟踪。本文公开的技术涉及跟踪争用和使用跟踪的争用来管理处理器高速缓存。该技术在处理器的高速缓存控制逻辑中实现,并且使处理器能够跟踪主存储器中的哪些位置是有争议的。该技术可以使用位置的争用性来确定将数据存储在高速缓存中的何处以及如何分配和逐出高速缓存中的高速缓存行。在一个示例中,该技术可以在位置有争议时将数据存储在共享高速缓存中,而可以在位置无争议时绕过共享高速缓存并将数据存储在私有高速缓存中。这可能是有利的,因为将数据存储在共享高速缓存中可以减少或避免在不同的私有高速缓存中具有多个副本,并且可以减少使私有高速缓存中的副本保持同步所涉及的高速缓存一致性开销。
技术领域
本公开的实施例总体上涉及处理器高速缓存,并且更具体地,涉及跟踪争用以及基于争用管理高速缓存和存储器操作。
背景技术
存储在存储器中的数据通常由在一个或更多个处理器上执行的不同线程访问。处理器通常将数据的本地副本存储在高速缓存中以加快对数据的访问。线程通常相互协作并轮流修改数据以避免覆盖(overwriting)彼此的修改。
附图说明
从下面给出的详细描述和从本公开的各种实施例的附图中,将更充分地理解本公开。然而,附图不应被视为将本发明限制于特定实施例,而仅用于解释和理解。
图1示出了根据本公开的一些实施例的包括处理器和存储器的示例计算设备。
图2是根据本公开的一些实施例的处理器和多级高速缓存的示意图。
图3是示出根据本公开的一些实施例的用于基于争用(contention)管理高速缓存的示例组件和模块的处理器的详细框图。
图4是示出根据本公开的一些实施例的用于基于争用管理存储器操作的示例组件和模块的处理器的详细框图。
图5是根据本公开的一些实施例的用于使用争用跟踪来管理高速缓存的方法的流程图。
图6是根据本公开的一些实施例的用于使用争用跟踪来管理存储器操作的方法的流程图。
图7是本公开的实施例可以在其中操作的示例计算机系统的框图。
具体实施方式
本公开的各方面针对可以跟踪争用并且使用所跟踪的争用来管理处理器高速缓存、执行存储器操作的乱序处理或其组合的计算机系统。当多个线程相互争用以访问存储器中的数据时,可能会出现争用。数据可以称为有争议(contentious)数据,并且可以包括线程读取和写入的变量的内容。计算机系统通常通过启用线程之一访问数据并导致剩余线程等待直到线程完成来管理争用。线程可以在完成之前对有争议数据执行一项或更多项操作。剩余线程等待一个或更多个操作完成并等待数据变得可访问。在一个示例中,可以使用锁来管理争用并且可以称为锁争用。初始线程可以获取数据的锁,等待线程可以尝试获取锁并访问数据。等待数据变得可访问可能会降低计算机系统的性能,并可能导致有争议数据造成性能瓶颈。
处理器高速缓存被设计成通过将数据的副本存储在更靠近处理器的核心以便可以更快地访问数据来提高计算机系统的性能。处理器可以包括一组核心,并且处理器高速缓存可以包括由一组核心共享的共享高速缓存和各自对多个核心中的一个核心私有的私有高速缓存。处理器高速缓存可以在高速缓存中存储数据的多个副本,并且可以使用高速缓存一致性技术来保持副本同步。高速缓存一致性技术可以检测到副本之一的变化并更新一个或更多个副本以指示副本是陈旧的、替换副本或其组合。当由不同核心上的线程访问数据时,处理器高速缓存通常会将数据的副本存储在那些核心中的每个核心的私有高速缓存中。拥有正在修改的多个数据副本通常会增加高速缓存一致性技术的开销,并可能对计算机系统的性能产生不利影响。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于辉达公司,未经辉达公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211021189.3/2.html,转载请声明来源钻瓜专利网。