[发明专利]CANN计算架构下AI处理器算子溢出优化方法及系统有效
| 申请号： | 202210635859.4 | 申请日： | 2022-06-07 |
| 公开（公告）号： | CN115271053B | 公开（公告）日： | 2023-05-23 |
| 发明（设计）人： | 孙亚楠;欧玉威 | 申请（专利权）人： | 四川大学 |
| 主分类号： | G06N3/063 | 分类号： | G06N3/063;G06N3/04;G06N3/08 |
| 代理公司： | 成都时誉知识产权代理事务所(普通合伙) 51250 | 代理人： | 李双 |
| 地址： | 610000 四*** | 国省代码： | 四川;51 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及一种CANN计算架构下AI处理器算子溢出优化方法及系统，属于AI处理器技术领域，找出导致溢出问题的算子，并将其设置为使用32位浮点数计算，从根本上避免了算子溢出。通过识别昇腾AI处理器的算子溢出表现形式，找到溢出算子并对其数据进行记录。提出了一种对NPU的算子溢出数据进行分析的方法，以一种保守的策略找到导致溢出问题的根源算子，以在最大程度地维持NPU计算性能的同时，逐渐解决算子溢出导致的精度问题。提出了一种调整算子优化策略的方法，首先应用华为CANN计算架构对NPU算子的内置优化策略，在此基础上，将仍存在溢出问题的算子添加到黑名单中，强制指定其使用32位浮点数进行运算，可以提高整个流程解决溢出问题的效率。 | ||
| 搜索关键词： | cann 计算 架构 ai 处理器 算子 溢出 优化 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于四川大学，未经四川大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202210635859.4/，转载请声明来源钻瓜专利网。
- 上一篇：一种缝合线翻转机构
- 下一篇：一种区块链上商品持有者溯源系统
