[发明专利]一种softmax函数的硬件实现方法、模块、芯片和系统在审

专利信息
申请号: 202110791019.2 申请日: 2021-07-13
公开(公告)号: CN113407793A 公开(公告)日: 2021-09-17
发明(设计)人: 李丽;张永刚;陈辉;傅玉祥;何书专;陈健 申请(专利权)人: 南京宁麒智能计算芯片研究院有限公司
主分类号: G06F16/903 分类号: G06F16/903;G06F16/906;G06F17/15;G06N3/04;G06N3/08
代理公司: 江苏瑞途律师事务所 32346 代理人: 金龙;计璐
地址: 210000 江苏省南京市江*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 softmax 函数 硬件 实现 方法 模块 芯片 系统
【权利要求书】:

1.一种softmax函数的硬件实现方法,其特征在于,对softmax函数进行函数变换,将softmax函数中的底数e换成2,形成E-to-2softmax函数;

通过比较器模块得到数据最大值,通过减法器模块对数据做差,通过数据分割模块分割数据,通过镜像数据查找模块在查找表中查找数据对应值,通过移位求和模块实现数据相乘和相加运算,通过数据转化模块对数据进行转换。

2.根据权利要求1所述的一种softmax函数的硬件实现方法,其特征在于,包括以下步骤:

步骤1:将所有输入数据输入至比较器模块进行比较,选择出输入数据最大值;

步骤2:将输入数据和输入数据最大值输入减法器模块进行做差运算;

步骤3:将减法器模块计算数据发送至数据分割模块,将其分割成第一部分和第二部分;

步骤4:将数据分割模块分割的第二部分数据输入镜像查找模块进行查找计算后的值与第一部分数据一起输入移位求和模块,通过移位实现相乘运算,对所有移位数据结果求和;

步骤5:数据转化模块将移位求和模块输出的数据转化表现形式,转化后的数据在镜像查找模块查找得到对应值;

步骤6:将步骤5计算结果再通过数据分割模块分割,镜像查找模块查找及移位求和模块进行移位操作,计算得出E-to-2softmax函数的值。

3.根据权利要求2所述的一种softmax函数的硬件实现方法,其特征在于,所述步骤3中数据分割模块将数据分割为两个相乘的部分,第一部分数据的表现形式是以2为底,指数为负数整数,用2负整数表示;第二部分数据的表现形式是以2为底,指数为正数小数,用2小数表示,即2负整数+小数=2负整数×2小数

4.根据权利要求3所述的一种softmax函数的硬件实现方法,其特征在于,将所述第二部分数据查表确认数值在移位求和模块向右移动负整数位数实现第一部分数据与第二部分数据相乘运算。

5.根据权利要求2所述的一种softmax函数的硬件实现方法,其特征在于,所述镜像查找模块以镜像的方式在查找表查找2x和log2x两个函数。

6.根据权利要求2所述的一种softmax函数的硬件实现方法,其特征在于,数据转换模块将数据转化为1.M×2E的形式,E为整数,其中log21.M通过镜像查找模块查表计算。

7.一种softmax函数的计算模块,其特征在于,使用如权利要求1-6任意一项所述的一种softmax函数的硬件实现方法,所述计算模块包括比较器模块、减法器模块、数据分割模块、镜像查找模块、移位求和模块和数据转化模块;

比较器模块用于计算输入数据最大值,减法器模块用于计算输入数据与输入数据最大值的差值,数据分割模块用于将数据分割,镜像数据查找模块用于在查找表中查找数据对应值,移位求和模块用于进行数据相乘和相加运算,数据转化模块用于对数据进行转换;

比较器模块的输出端与减法器模块的输入端连接,减法器模块的输出端连接数据分割模块的输入端,数据分割模块的输出端分别连接镜像查找模块的输入端和移位求和模块的输入端,镜像查找模块的输出端也连接移位求和模块的输入端,移位求和模块的输出端连接数据转化模块的输入端,数据转化模块的输出端也连接镜像查找模块的输入端。

8.根据权利要求7所述的一种softmax函数的计算模块,其特征在于,数据分割模块将数据分割为为两个相乘的部分,第一部分数据的表现形式是以2为底,指数为负数整数,用2负整数表示;第二部分数据的表现形式是以2为底,指数为正数小数,用2小数表示,即2负整数+小数=2负整数×2小数

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京宁麒智能计算芯片研究院有限公司,未经南京宁麒智能计算芯片研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110791019.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top