[发明专利]一种数据预加载方法和指令处理装置

说明书

本发明公开了一种数据预加载方法，适于在指令处理装置中执行并包括步骤：确定在指令处理装置中执行的数据加载指令所指示的数据地址；以及如果所确定的数据地址在与数据加载指令相关联的预加载数据的地址范围之内，则进行数据预加载操作，以便从外部存储设备加载数据到指令处理装置的数据缓存中。本发明还公开了其中执行该方法的指令处理装置、处理器、片上系统和智能设备。

技术领域

本发明涉及处理器领域，尤其涉及具有数据预加载功能的处理器核心和处理器。

背景技术

现代的处理器或者处理器核心以流水线的方式来处理指令。典型的流水线通常包括取指令、指令解码、指令发射、指令执行和指令退休等各个流水线阶段。

由于存储器的存取速度并未和处理器执行速度相匹配，目前在指令执行阶段，对存储器进行操作的数据读取和写入操作成为了目前处理器性能的主要瓶颈之一。考虑到不同存储介质的成本和存储速度，在现在的处理器架构中，通常采取分级存储的机制，即采用低容量的高速缓存来缓存速度慢但成本也低的存储介质中的数据。缓存机制可以显著提高数据存取操作的执行速度，但是一旦发生缓存缺失，则这类指令的执行速度会受到显著影响。为了提高缓存的命中率，目前在处理器中可以采用数据预加载或者数据预取技术。预加载或者预取技术在缓存可能会发生缺失之前发出预取请求以便在该数据真正被使用到时己提前将数据块取入高速缓存中，从而避免缓存失效造成的处理器停顿。

另外，在现代的处理器中，为了提高内部逻辑元件的利用率以加快运行速度，通常会采用多指令发射、乱序执行等各种措施。这样，编译器调度往往会将程序流后面的指令插入数据冲突的指令之间提前执行，用来减少数据冲突所带来的损失。不管是从软件还是硬件上来看，乱序执行是高性能处理器所采用的重要措施之一。

加载指令的乱序执行可能会对数据预取或者预加载的稳定性带来影响，例如，在现有的预取方案中，利用后续指令是否命中高速缓存或是否命中预期的下一个地址来判断预取效果。但是由于乱序执行，数据存取指令，特别是数据读取或者加载指令的地址很可能会不符合之前的预期，从而认为预取策略失败而重新进行指令监控，从而导致了处理器性能的损失。

为此需要一种新的数据预取或者预加载方案，可以高效地解决由于乱序执行而导致的预取效率和处理器性能损失的问题。

发明内容

为此，本发明提供了一种新的指令处理装置、处理器和数据预加载处理方法，以力图解决或者至少缓解上面存在的至少一个问题。

根据本发明的一个方面，提供了一种数据预加载处理方法，适于在指令处理装置中执行，包括步骤：确定在指令处理装置中执行的数据加载指令所指示的数据地址；以及如果所确定的数据地址在与该数据加载指令相关联的预加载数据的地址范围之内，则进行数据预加载操作，以便从外部存储设备加载数据到指令处理装置的数据缓存中。

可选地，根据本发明的处理方法还包括步骤：确定与该数据加载指令相对应的步幅值。其中进行数据预加载操作的步骤包括：基于数据加载指令所指示的数据地址和所确定的步幅值来确定预加载数据的地址，以及从外部存储设备的所确定的预加载地址处加载数据到数据缓存中。

可选地，在根据本发明的处理方法中，在确定数据地址是否在预加载数据的地址范围之内之前，该方法还包括步骤：确定是否存在与该数据加载指令相关联的数据预加载条目；如果不存在该数据预加载条目，则创建数据预加载条目，并进行数据预加载操作；以及如果存在数据预加载条目时，进行确定该数据地址是否在预加载数据的地址范围之内的步骤。

可选地，在根据本发明的处理方法中，数据预加载条目包括数据初始地址和地址范围。其中创建数据预加载条目的步骤包括：将该条目的数据初始地址设置为数据加载指令所指示的数据地址；以及进行数据预加载操作的步骤包括：根据预加载数据的地址来更新数据预加载条目的地址范围。