[发明专利]用于超大规模人工神经网络数值运算的并行计算加速方法在审
申请号: | 202110259060.5 | 申请日: | 2021-03-10 |
公开(公告)号: | CN112926732A | 公开(公告)日: | 2021-06-08 |
发明(设计)人: | 李国齐;陈恒努;刘哲贤;周子栋 | 申请(专利权)人: | 之江实验室;清华大学 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;G06N3/08 |
代理公司: | 杭州浙科专利事务所(普通合伙) 33213 | 代理人: | 杨小凡 |
地址: | 310023 浙江省杭州市余*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了用于超大规模人工神经网络数值运算的并行计算加速方法,包括:S1,对大规模矩阵进行张量分解,转化为小规模张量;S2,将小规模张量分组进行并行运算得到一组新的张量,组间进行并行运算;组内的小规模张量先并行的两两缩并,再将结果并行缩并,直至每组得到新的张量;不同组的新的张量,构成一组新的张量;S3,将新的张量依照理论最优运算方案进行串行运算,将原本参与运算的第一矩阵得到的一组新的张量,依次进行串行缩并得到由第一矩阵元素重排形成的第一新张量;将第一新张量与原本参与运算的第二矩得到的一组新的张量,依次进行串行缩并得到第二新张量;以此类推,直至最后得到最终新张量;将最终新张量的元素重排为矩阵。 | ||
搜索关键词: | 用于 超大规模 人工 神经网络 数值 运算 并行 计算 加速 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于之江实验室;清华大学,未经之江实验室;清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110259060.5/,转载请声明来源钻瓜专利网。
- 上一篇:一种先导增压二级溢流阀
- 下一篇:一种服务请求的处理方法及装置