[发明专利]通过构造接口的带宽控制来增强DNN模块的处理性能在审
申请号: | 201880025130.7 | 申请日: | 2018-04-16 |
公开(公告)号: | CN110546654A | 公开(公告)日: | 2019-12-06 |
发明(设计)人: | C·B·麦克布赖德;T·H·黑尔;A·A·安巴德卡;G·彼得;K·D·塞多拉;L·M·瓦尔;B·博布罗夫 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063 |
代理公司: | 11256 北京市金杜律师事务所 | 代理人: | 赵林琳<国际申请>=PCT/US2018 |
地址: | 美国华*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 具有DNN模块的示例性计算环境可以维持一个或多个带宽节流机制。说明性地,第一节流机制可以指定在协作构造组件(例如,数据总线)上的事务之间等待的周期数目。说明性地,第二节流机制可以是事务计数限制器,该事务计数限制器操作性地设定在给定事务序列期间要被处理的事务数目的阈值,并且限制诸如飞行中的多个事务的事务数目不超过所设定的阈值。在说明性操作中,在执行这两个示例性的所计算的节流参数时,平均带宽使用和峰值带宽使用可以被限制。操作性地,利用该构造带宽控制,DNN的处理单元被优化,以跨每个事务周期处理数据,从而得到增强的处理和较低的功耗。 | ||
搜索关键词: | 节流 事务 限制器 处理单元 处理数据 带宽控制 峰值带宽 计算环境 平均带宽 事务序列 事务周期 数据总线 协作构造 功耗 带宽 飞行 优化 | ||
【主权项】:
1.一种用于计算环境中的增强数据处理的系统,所述系统包括:/n至少一个神经网络处理器;/n至少一个存储器组件;以及/n至少一个存储器,所述至少一个存储器与所述至少一个神经网络处理器通信,所述至少一个存储器具有存储在其上的计算机可读指令,所述计算机可读指令在由所述至少一个处理器执行时使得所述至少一个处理器:/n从所述计算环境的协作组件接收一个或多个处理参数,所述一个或多个处理参数表示处理输入数据所需的处理和存储器资源;/n计算所述计算环境的协作构造组件上的总可用存储器,以确定针对所述计算环境的负载参数;/n使用所接收的所述一个或多个处理参数和所计算的所述负载参数来计算一个或多个节流参数;/n选择所计算的所述节流参数中的一个或多个节流参数来执行;以及/n通过执行所选择的、所计算的所述一个或多个节流参数,对所述计算环境的一个或多个协作存储器组件进行节流。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201880025130.7/,转载请声明来源钻瓜专利网。