[发明专利]一种应用于混合三维片上网络的分布式流控系统及方法

说明书

本发明公开了一种应用于总线‑NoC混合三维片上网络的分布式流控系统及机制。结合混合三维片上网络的应用场景及架构特征，该流控机制将流控组件分布于路由节点与总线接口单元等资源竞争环节；基于汇聚流服务模型将通过路由节点与总线接口单元的个体流抽象为多个汇聚流，并对汇聚流的带宽需求进行动态学习；各路由仲裁器与总线控制器按照汇聚流的带宽需求与实际服务状态之间的差异实时确定数据包的服务优先等级并进行数据转发，实现通信带宽的按需分配。本发明在路由节点与总线接口单元引入流特征学习模块，流行为监测模块，二级优先权仲裁模块及分布式总线控制模块等四个硬件组件实现上述流控功能与特征。

技术领域

本发明涉及一种应用于混合三维片上网络的分布式流控系统及方法，特别涉及一种应用于总线-NoC混合三维片上网络的分布式流控系统及方法，属于集成电路、片上互连网络设计领域。

背景技术

随着指令并行带来的性能收益趋于饱和，半导体工业逐渐向多核片上系统发展。片上集成核数的不断增加，使得互连通信带宽成为多核系统的性能瓶颈与设计挑战。片上网络(Network-on-Chip，NoC)互连架构可提高核间通信的并发性，是缓解多核系统互连带宽问题的有效解决方案。但NoC架构并不能减小全片互连线长度，随着多核片上系统出现千核级甚至更大规模的互连与通信，传统二维NoC在高度并行化和通信密集的应用下将产生惊人的通信功耗与通信延时。三维集成技术将单个芯片内的有源器件分布在不同物理层上，层间通过硅通孔(Through Silicon Visas,TSVs)实现互连，在垂直方向上为多核互连提供了新的维度。众多三维互连架构中，总线-NoC混合三维片上网络，保留各个二维平面内的NoC互连结构，而在垂直方向上采用总线互连以构造垂直一跳通信，能够有效发挥垂直TSV链路高速、低耗的通信优势，更加适用于大规模多核片上互连。

已有的片上网络流控机制主要分为尽力而为型与保障型两类。混合三维片上网络中,平面内NoC互连网络与垂直互连总线是所有节点的共享通信资源，当数以千计的IP核并发众多通信流争用同一通信路径时会产生严重的带宽竞争。尽力而为型流控机制着眼于互连架构整体性能的提升，而忽略了个体流的通信需求，片上网络分布式的仲裁机制使得网络行为与运行在处理器核之上的应用程序的性能出现不可预测性，无法保障特定应用的带宽与延时需求。而已有的保障型流控机制多通过虚电路或时分复用技术，沿数据传输路径对路由缓冲或服务时隙进行预约，以形成分离网络对数据流进行性能隔离。其有助于为个体流提供通信保障，但可能需要为每个个体流单独分配服务队列或导致互连带宽整体利用率不足。

为解决上述问题，有研究提出通过全局同步帧(Globally-Synchronized-Frame,GSF)机制将路由节点中的调度逻辑转移至源节点以减少路由节点的面积和功耗开销，但在网络规模较大时，GSF需要较长的帧长才能抵消全局同步带来的延时，从而导致信源缓冲区增大。另一种业界提出的性能较好的保障型流控机制为抢占虚拟时钟机制(PreemptiveVirtual Clock,PVC),基于虚拟时钟算法为每个数据流分配优先级，当发生优先级反转时，采用丢弃与重传机制进行带宽保障，虽然避免了使用较大的源缓冲区，但保障强度与网络吞吐率之间存在设计矛盾。

已有的流控机制多针对百核级以下的片上网络互连规模，为了实现单个数据流的通信保障，多采用每流控制机制。这将使得控制复杂度随着多核系统中通信流的增加而增大，从而导致可扩展性变差，在百核及千核级的大规模互连应用场景下可能带来较大的面积开销和性能损失。与此同时，混合三维片上网络中，除NoC互连带宽外，垂直总线带宽也是不同数据流的通信竞争资源。集中式的总线流控机制会引入大量额外的TSV数目，从而带来的较大的面积开销，并降低芯片良率。因此，有必要基于混合三维片上网络的架构特征及应用场景，研究开销节约、可扩展性强的分布式流控机制，保障单个个体流带宽需求。

发明内容