|
钻瓜专利网为您找到相关结果 6个,建议您 升级VIP下载更多相关专利
- [发明专利]一种用于AI计算的浮点乘法计算方法、电路、设备-CN201910860148.5有效
-
周韧研
-
北京探境科技有限公司
-
2019-09-11
-
2021-10-12
-
G06F7/57
- 本发明实施例提供的一种用于AI计算的浮点乘法计算方法、电路、设备,该方法包括:将输入的第一数据、第二数据分别进行预处理,得到预设格式的第一格式化数据、第二格式化数据;将所述第一格式化数据、所述第二格式化数据输入到乘法器进行原码有符号整数乘法,得到原码有符号的乘积f;将所述第一格式化数据、所述第二格式化数据输入到加法器进行无符号加法,得到和e;将所述乘积f、所述和e进行压缩处理,得到格式为浮点格式F(p,q)的浮点数据,以便进行输出;其中,所述预设格式为,M格式,为带参数的二元有序数对到实数的一个映射,函数表示为M(S,(f,e)):=(fe)S;其中,f为有符号数,e为无符号数,S为一个固定的参数,S=(1(p‑1))‑2+q)通用性强。
- 一种用于ai计算浮点乘法计算方法电路设备
- [发明专利]定点与浮点数据计算方法及装置-CN201910363758.4有效
-
周韧研
-
北京探境科技有限公司
-
2019-04-30
-
2021-09-03
-
G06F7/57
- 本发明实施例公开了一种定点与浮点数据计算方法及装置,包括:将M个第一预设格式的数据转换为N个第二预设格式的数据;将N个第二预设格式的数据进行相加,根据预设输出格式,对相加结果进行输出;其中,第一预设格式为浮点格式或第一定点格式,第二预设格式为第二定点格式,M=2*N‑1,N为不小于1的整数。本发明实施例提供的方法,通过将M个第一预设格式的数据转换为N个第二预设格式的数据,将N个第二预设格式的数据进行相加,根据预设输出格式,对相加结果进行输出。由于第一预设格式为浮点格式或第一定点格式,从而可以对不同格式的数据进行计算,计算方法适应性更高。
- 定点浮点数据计算方法装置
|