[发明专利]内存中计算的功率建模方法及功率管理方法

摘要

本发明公布了内存中计算的功率建模方法及功率管理方法，首先建立BP模型，采用每功率带宽BP表示内存中计算PIM中的带宽和功率之间的关系；功率管理方法包括功率监控子任务限制PAST、处理单元加速PUB和功率冲刺PS；当功率供应超过功率需求时，采用PAST管理PIM内功率消耗；当需要采用动态调整功率模式时采用PUB方法；当需要短时间的功率过载时，采用PS方法提高功率仲裁器的功率上限值；实现内存中计算的功率管理。采用本发明的BP模型得到的功率和实测相符，其中PAST方法能成功限制PIM的功率，PUB能成功提升芯片的性能；同时采用PAST、PUB和PS方法，能够产生更有效的能源系统，合理配置功率管理方案，进一步提升PIM的性能。

主权项

1.一种基于内存中计算的功率管理方法，首先建立BP模型，采用每功率带宽BP表示内存中计算PIM中的带宽和功率之间的关系；所述功率管理方法包括功率监控子任务限制PAST、处理单元加速PUB和功率冲刺PS；当功率供应超过功率需求时，采用PAST对PIM内功率消耗进行管理；当需要采用动态调整功率模式时，采用PUB方法；当需要短时间的功率过载时，采用PS方法提高功率仲裁器的功率上限值；由此实现基于内存中计算的功率管理；A)采用功率监控子任务限制PAST管理功率，针对PIM任务的功率需求可能超过功率供应限制进行功率管理；PAST方法采用的装置为两级功率仲裁系统，两级功率仲裁系统包含多个内存芯片和一个功率仲裁器L2；单个内存芯片内部包括网络接口、重排子任务队列、内存块即处理单元、功率仲裁器L1；功率仲裁器包括算术逻辑单元、数据选择器和计数器；在每个内存芯片内，由功率仲裁器L1控制内部的内存块；采用PAST方法管理功率包括如下步骤：A1)内存芯片内部部件从网络连接中获得请求，将任务划分成多个子任务，存储在子任务队列中，再对需求发送方进行应答；每一个子任务由一个存储器端的处理单元PU完成；A2)在任何内存块的执行阶段之前，子任务队列通过使用ACQUIRE信号和需要的功率值P从功率仲裁器获得功率许可；A3)子任务队列将一个子任务发射到一个内存块，该内存块新建一个子任务到队列的末尾；当有足够的功率运行一个新的子任务时，功率仲裁器发送一个START信号到该内存块使其开始执行；否则，该内存块被暂停，功率仲裁器将子任务对功率的需求放入子任务重排队列；直到具有足够的功率预算，内存块被激活；当整个任务都被内存块完成后，向功率仲裁器发送RELEASE信号，释放为那个内存块分配的功率；B)采用处理单元加速方法PUB管理功率，将处理单元的功率模式按功率需求划分成多级功率模式；通过采用简单调度方法或优化调度方法为PIM内的多个处理单元分配功率模式，动态调整处理单元的功率模式以提升关键路径中子任务的性能；B1)简单调度方法执行如下操作：每次仅发布一个子任务；当子任务队列中没有需要在该处理单元上执行的子任务时，该处理单元处于低功率模式；一旦添加一个队列条目后，处理单元的功率模式由低功率模式升级为高功率模式；功率仲裁器评估当前剩余功率与所需功率；从划分好的最高功率模式到最低功率模式进行扫描，如果有足够的空闲功率，处理单元以该功率模式开始执行；如果PU无法开始执行，功率仲裁器将当前正在运行的处理单元从高功率模式降低到低功率模式；如果PU仍然无法开始，暂停队列，等待足够的空闲功率；由此实现为PIM内的多个处理单元分配功率模式；足够的空闲功率指的是空闲功率值高于模式的功率；B2)优化调度方法，基于子任务的有向无环图，以三状态有限状态机方式FSM运作；三状态为：READY、UPDATE和CHECK；具体执行如下操作：首先将FSM初始化，置于READY状态；当有子任务结束时，引发UPDATE状态，并更新图和当前可用功率的计数器，然后返回到READY状态；当有更新时，状态转移到CHECK，再确定将要发布的子任务的功率模式；当一个子任务在CHECK状态结束时，状态变回READY后转移到UPDATE；由此实现为PIM内的多个处理单元分配功率模式；3)采用功率冲刺方法PS管理功率，使得在短时间内提供过载的功率，再返回到欠载功率状态进行恢复；具体执行如下操作：将处理单元的执行阶段划分为：正常执行阶段、冲刺阶段和恢复阶段；在冲刺阶段，通过PAST和PUB方法提供更多电流，提高功率仲裁器的功率上限值，从而提升处理单元处理任务时的功率；当冲刺阶段结束处于恢复阶段时，功率仲裁器向队列和正在运行的多个处理单元发送一个额外的PAUSE命令，减少功率消耗，使功率达到以往的功率上限值，通过降低功率恢复正常状态。