[发明专利]支持向量随机访存的方法及装置

说明书

本发明公开了一种支持向量随机访存的方法及装置，该方法的步骤为：S1：对派发的指令进行译码，识别指令的各个域，获取指令类型、地址计算方式、访存粒度和随机地址寄存器文件与寻址相关的信息；S2：根据指令译码信息和计算得到的n个VPE的访存地址，冲突判断部件对各个VPE的访存地址进行冲突判断；S3：设置共享向量存储器为多个VPE提供高带宽的SIMD并行数据支持。该装置用来实施上述方法。本发明具有能有效降低硬件的设计复杂度、提高数据访存带宽和效率、提高指令执行速度从而提升处理器处理性能等优点。

技术领域

本发明主要涉及到微处理器体系结构领域，特指一种适用于单指令多数据流(SIMD)结构微处理器中支持向量随机访存的方法及装置，用以提高存在大量不规则访存应用的运算性能。

背景技术

为发掘微处理器的数据级并行、以较低的硬件开销和功耗预算实现较高的峰值运算性能，SIMD技术成为微处理器体系结构发展的一个重要方向。SIMD结构处理器在处理规则应用程序时，往往能够得到较为理想的峰值运算性能，但是在处理不规则应用时，其性能急剧下降，主要原因是不规则应用的访存操作比规则应用中地址连续或等跨步访存复杂，空间局部性差，现有微处理器结构不能很好支持，致使其执行速度慢，性能低。而不规则应用广泛存在于大量科学计算和工程应用中，例如稀疏矩阵计算、图像边缘检测、分动力学模拟和语音识别等。有学者总结出13类基本的并行计算模式，其中有一半以上的计算模式都是不规则的。

不规则应用存在的大量不规则访存和计算模式，极大降低了处理器的资源使用率和数据带宽利用率。不规则的应用可以归结为不规则计算和不规则访存，不规则计算主要指程序存在过多的控制流分支，任务分配不均衡等；而不规则访存包括访存地址分布不均匀，数据的时间和空间局部性差等。随着SIMD技术的不断发展，SIMD宽度不断增加，处理器需要高带宽的数据支持，不规则访存存在的访问冲突、时空局部性差等问题，降低了处理器的实际访问带宽，增加了数据访问延时，导致数据访存效率降低。支持SIMT(单指令多线程)的向量访存，仅支持SIMD结构中的每个向量处理单元访问各自对应的数据地址空间，单个处理单元访存不能共享整个数据存储器，限制了应用范围。而通过支持SIMT方式的DMA加载，能将外部存储器中不规则访存数据通过DMA搬移并重新组织后再加载到向量存储器的连续地址空间中，供向量处理单元并行访问，但是这种方式需要程序员进行DMA配置，编程复杂且DMA数据搬移、组织的硬件开销较大。

发明内容

本发明要解决的技术问题就在于：针对现有技术存在的技术问题，本发明提供一种能有效降低硬件的设计复杂度、提高数据访存带宽和效率、提高指令执行速度从而提升处理器处理性能的支持向量随机访存的方法及装置。

为解决上述技术问题，本发明采用以下技术方案：

一种支持向量随机访存的方法，其步骤为：

S1：对派发的指令进行译码，识别指令的各个域，获取指令类型、地址计算方式、访存粒度和随机地址寄存器文件与寻址相关的信息；

S2：根据指令译码信息和计算得到的n个VPE的访存地址，冲突判断部件对各个VPE的访存地址进行冲突判断，如果存在访存冲突，通过仲裁对存在访存冲突的请求进行仲裁，根据仲裁规则确定各VPE访问向量存储器的顺序；如果是向量写指令则将需要写入向量存储器的数据按仲裁顺序写入相应的地址；如果是向量读指令，则所有需要的数据从向量存储器读出后经过数据同步返回给向量处理单元；

S3：设置共享向量存储器为多个VPE提供高带宽的SIMD并行数据支持。

作为本发明的进一步改进：设置冲突缓冲器阵列，每个Bank对应一个缓冲器；所有的访存请求在译码后按该请求所访问的Bank进行分流，然后对访问同一Bank的请求做冲突判断和仲裁，仲裁失败的访问请求被缓存到对应的冲突缓冲器中。