“精度计算”专利关键词查询_检索下载_查询列表_检索列表_行业专利分布_钻瓜专利网

钻瓜专利网为您找到相关结果2415726个，建议您升级VIP下载更多相关专利

[发明专利]光流精度计算装置和光流精度计算方法-CN201680089146.5在审
发明人：前原秀明;日野百代 -专利权人：三菱电机株式会社
申请日： 2016-09-16 - 公布日： 2019-04-26 - 主分类号： G06T7/00 文献下载
摘要：精度计算部(5)根据第1光流的起点的坐标与由回归点取得部(4)取得的回归点的坐标之差计算光流的精度(P)。
光流精度计算图像回归差计算

[发明专利]一种基于低比特计算的处理器安全锁步方法-CN202211208839.5在审
发明人：刘艳玲 -专利权人：上海励驰半导体有限公司
申请日： 2022-09-30 - 公布日： 2022-12-16 - 主分类号： G06N3/063 文献下载
摘要：一种基于低比特计算的处理器安全锁步方法，包括：在人工智能处理器的卷积神经网络计算中，输入特征图和权重数据，采用低比特精度计算单元阵列与高比特精度计算单元阵列并行计算，分别得到低比特精度计算结果和高比特精度计算结果，所述低比特精度计算单元阵列比特数低于所述高比特精度计算单元阵列比特数；基于所述低比特精度计算结果校验所述高比特精度计算结果并输出。本申请通过采用低比特精度计算与高比特精度计算并行，基于低比特精度计算结果比对高比特精度计算结果误差，如误差控制在一定范围内，则认为高比特精度计算结果正确，由此进行计算结果校验，组成安全锁步机制，从而减少人工智能处理器核的面积开销和能量消耗
一种基于比特计算处理器安全方法

[发明专利]一种提高高性能计算能耗比的方法及系统-CN201510497744.3有效
发明人：王渭巍 -专利权人：浪潮（北京）电子信息产业有限公司
申请日： 2015-08-13 - 公布日： 2018-06-26 - 主分类号： G06F1/32 文献下载
摘要：本申请提供了一种提高高性能计算能耗比的方法，包括：按照最高精度计算高性能应用程序，得到高性能应用程序输出结果；对高性能应用程序输出结果进行分析判断，确定高性能计算的精度；对高性能计算的精度与预设高性能计算精度的差值进行判断；当高性能计算的精度与预设高性能计算精度的差值不在预设误差允许范围内时，则重复上述过程，直到所述差值在预设误差允许范围内为止；根据高性能计算的精度调整高性能计算处理器的计算精度；利用调整后的精度计算高性能应用程序的输出结果最终确定的高性能计算的精度小于最高精度，并控制处理器以较低的精度计算高性能应用程序，降低了处理器的功耗，在计算量不变的情况下，提高了能耗比。
高性能计算应用程序预设精度计算输出结果能耗处理器控制处理器分析判断精度调整计算量功耗重复申请

[发明专利]高精度车辆荷载计算-CN202280011238.7在审
发明人： F·黑格勒;M·莱蒂齐奥;J·乔拉格;D·G·古德里奇;H·绍姆堡;F·沃尔特斯;K·温格 -专利权人：大陆汽车系统公司
申请日： 2022-01-24 - 公布日： 2023-09-12 - 主分类号： B60G17/018 文献下载
摘要：一种计算车辆荷载的方法，其包括：至少基于空气弹簧中的空气压力和车辆轮轴的悬架的高度数据计算第一车辆荷载值；基于所述车辆轮轴的轮距变化确定第二车辆荷载值；以及基于所述第一车辆荷载值和所述第二车辆荷载值计算所述车辆荷载
高精度车辆荷载计算

[发明专利]动态变量精度计算-CN201780065085.3在审
发明人：格雷格·萨多夫斯基;韦恩·伯利森 -专利权人：超威半导体公司
申请日： 2017-10-17 - 公布日： 2019-06-07 - 主分类号： G06F9/30 文献下载
摘要：所述算术逻辑单元在对与所述RNS运算数相关联的动态精度所指示的目标二进制数执行所述算术运算之前停止执行所述算术运算。
运算数算术逻辑单元二进制数算术运算有效位时钟信号发生器动态变量精度计算时钟信号数制转换转换单元冗余功率源多位关联

[发明专利]一种基于异构计算系统的混合精度计算误差补偿方法-CN202310663299.8在审
发明人：王玉柱;李菲 -专利权人：中国地质大学（北京）
申请日： 2023-06-06 - 公布日： 2023-08-22 - 主分类号： G06T1/20 文献下载
摘要：本发明公开了一种基于异构计算系统的混合精度计算误差补偿方法，主要通过负载均衡算法对运行于异构系统的气候模式混合精度算法进行误差补偿，在加速算法计算的同时提升混合精度算法的精度。该方法包括以下步骤：分别使用OpenMP和HIP多线程计算的方式对算法在CPU端和GPU端进行并行计算；使用单双精度混合计算的方式进一步加速GPU并行算法；对计算任务进行划分，根据CPU和GPU的计算能力平衡计算负载；CPU端使用双精度，GPU端使用混合精度，达到利用双精度的高准确度补偿混合精度计算误差的目的。本发明的有益效果：能够大幅提升气候模式的计算效率，同时为降低混合精度计算的误差问题提供了一种有效的解决方案。
一种基于计算系统混合精度误差补偿方法

[发明专利]浮点计算方法及系统-CN201910734843.7在审
发明人：梅国强;郝锐;王媛丽 -专利权人：苏州浪潮智能科技有限公司
申请日： 2019-08-09 - 公布日： 2019-11-29 - 主分类号： G06F7/491 文献下载
摘要：本发明公开了一种浮点计算方法及系统，通过转换倍数将待计算算式中的所有双精度浮点数转换为整数，将整数替换待计算算式中相对应的双精度浮点数进行整数计算，得到整数计算结果；将整数计算结果转换为双精度浮点数计算结果；将双精度浮点数计算结果乘以转换倍数的倒数的双精度浮点数，得到浮点计算结果。可见，本发明通过将需要进行浮点计算的双精度浮点数以转换成十进制整数，以十进制整数按照浮点计算算式进行计算，在将十进制整数转回双精度浮点数的方式，避免了以双精度浮点数的形式进行浮点计算的复杂问题，降低了系统资源的消耗，减少了浮点计算时间。
精度浮点数浮点算式十进制整数整数计算转换计算方法及系统复杂问题结果转换系统资源倒数替换消耗

[发明专利]一种精度可调整及数据自整合的基带芯片架构方法-CN202310510770.X在审
发明人：赖景平;王洲 -专利权人：深圳市欧朗博科技有限公司
申请日： 2023-05-08 - 公布日： 2023-07-07 - 主分类号： G06F9/50 文献下载
摘要：本发明公开了一种精度可调整及数据自整合的基带芯片架构方法，包括以计算阵列作为核心的基带芯片；计算阵列内部包含多个计算单元，所述计算单元用于支持不同的精度调整以实现自身精度的自调整；所述计算单元还能够根据任务和配置需要灵活切换自身数据精度，以实现在当前计算设备内接收机和发射机提高精度或者降低精度且进行灵活的自分配。本发明能同时支持当精度降低时原有位宽数据进行自整合，以提升局部计算性能，来实现精度调整时更智能化的数据传输，最终实现计算任务的精度可调整及数据自整合。
一种精度可调整数据整合基带芯片架构方法

[发明专利]浮点数乘法计算的方法、装置和算术逻辑单元-CN201911414534.8在审
发明人：林腾毅;潘秋萍;沈胜宇;徐晓忻;张伟 -专利权人：华为技术有限公司
申请日： 2019-12-31 - 公布日： 2021-07-16 - 主分类号： G06F7/57 文献下载
摘要：本申请实施例公开了一种浮点数乘法计算的方法、装置和算术逻辑单元，属于数据处理领域。所述方法包括：获取多个待计算的第一精度浮点数；对每个待计算的第一精度浮点数进行分解，得到至少两个第二精度浮点数，其中，所述第二精度浮点数的精度低于所述第一精度浮点数的精度；确定各种由分解自不同的第一精度浮点数的两个第二精度浮点数组成的组合；将每种组合中的第二精度浮点数输入第二精度乘法器中，得到每种组合对应的中间计算结果；基于每种组合对应的中间计算结果，确定所述多个待计算的第一精度浮点数的计算结果。采用本申请，可以节省计算资源。
浮点乘法计算方法装置算术逻辑单元

[发明专利]浮点数乘法计算的方法、装置和算术逻辑单元-CN202310511127.9在审
发明人：林腾毅;潘秋萍;沈胜宇;徐晓忻;张伟 -专利权人：华为技术有限公司
申请日： 2019-12-31 - 公布日： 2023-08-15 - 主分类号： G06F7/57 文献下载
摘要：本申请实施例公开了一种浮点数乘法计算的方法、装置和算术逻辑单元，属于数据处理领域。所述方法包括：获取多个待计算的第一精度浮点数；对每个待计算的第一精度浮点数进行分解，得到至少两个第二精度浮点数，其中，所述第二精度浮点数的精度低于所述第一精度浮点数的精度；确定各种由分解自不同的第一精度浮点数的两个第二精度浮点数组成的组合；将每种组合中的第二精度浮点数输入第二精度乘法器中，得到每种组合对应的中间计算结果；基于每种组合对应的中间计算结果，确定所述多个待计算的第一精度浮点数的计算结果。采用本申请，可以节省计算资源。
浮点乘法计算方法装置算术逻辑单元

[发明专利]高性能计算机系统中不满足计算精度要求的结点检测方法-CN201210041912.4有效
发明人：刘杰;迟利华;胡庆丰;徐涵;晏益慧;龚春叶;杨博;赵文闻 -专利权人：中国人民解放军国防科学技术大学
申请日： 2012-02-23 - 公布日： 2012-08-22 - 主分类号： G06F9/50 文献下载
摘要：本发明公开了一种高性能计算机系统中不满足计算精度要求的问题结点检测方法。技术方案是先选择基准测试程序并在高性能计算机全系统2n个计算结点上运行，如果计算精度达不到预定的要求，将高性能计算系统分成两个部分，分别加载基准测试程序，如果计算结点数目减半的并行程序计算结果仍不满足计算精度要求，则再将计算结点的数目减半，直到均满足计算精度要求，或者每个部分只剩下一个计算结点。若计算结点数为1但仍不满足计算精度要求，则说明已经找到不满足计算精度要求的计算结点。采用本发明可以对计算精度不满足要求的计算结点实现自动检测，定位问题结点，保证大规模高性能计算机系统的可用性。
性能计算机系统不满足计算精度要求结点检测方法

[发明专利]矩阵计算方法及相关设备-CN202010966997.1有效
发明人：张伟;林腾毅;徐晓忻 -专利权人：华为技术有限公司
申请日： 2020-09-15 - 公布日： 2023-08-04 - 主分类号： G06F17/16 文献下载
摘要：一种矩阵计算方法，涉及计算机技术领域，用于基于低精度的矩阵计算单元实现高精度的矩阵计算，从而提高矩阵计算单元的适用性。所述方法包括：获取计算指令，所述计算指令包括待计算矩阵和矩阵计算类型；拆解所述待计算矩阵得到多个拆解后的矩阵，所述拆解后的矩阵中浮点数的精度低于所述待计算矩阵中浮点数的精度；按照所述矩阵计算类型执行所述多个拆解后的矩阵的计算处理
矩阵计算方法相关设备

[发明专利]机床的精度诊断装置以及精度诊断方法-CN202110677154.4在审
发明人：沟口祐司 -专利权人：大隈株式会社
申请日： 2021-06-18 - 公布日： 2022-01-11 - 主分类号： B23Q17/00 文献下载
摘要：本发明涉及机床的精度诊断装置以及精度诊断方法。实时地预测环境温度变化对机床的精度的影响，恰当地诊断热位移变大的状况，并且容易制定生产计划。在机床(M)中，对热变形对精度的影响进行诊断的精度诊断装置(D)具备：温度变化速度计算单元(31)，其计算出从机体温度传感器(10)和环境温度传感器(20)得到的温度变化的速度作为温度变化速度；精度影响度计算单元(32)，其基于温度变化速度，计算出热变形对机床(M)的精度的影响度作为精度影响度；精度稳定时间计算单元(33)，其根据温度变化速度，计算出至机床(M)的精度稳定为止的时间作为精度稳定时间。
机床精度诊断装置以及方法

[发明专利]一种应用于高精度间断迦辽金流体仿真的粘性项处理方法-CN202110916423.8有效
发明人：赵辉;陈江涛;杨悦悦;张耀冰;吴晓军;贾洪印;李欢;张培红;周桂宇;崔鹏程;陈洪杨 -专利权人：中国空气动力研究与发展中心计算空气动力研究所
申请日： 2021-08-11 - 公布日： 2023-02-24 - 主分类号： G06F30/28 文献下载
摘要：本发明公开了一种应用于高精度间断迦辽金流体仿真的粘性项处理方法，用于解决迦辽金方法在计算Navier‑Stokes方程时出现的计算精度低于理论精度的问题，从而精确捕捉流场中用于工程应用的升力、阻力、速度包括如下步骤：对空间进行剖分得到计算网格，采用高精度间断迦辽金框架对Navier‑Stokes方程进行处理，得到半离散形式的控制方程；定义新的提升算子，采用新的提升算子计算粘性通量，积分后获得粘性项的计算结果；采用迭代方式进行方程的求解计算，获得仿真结果。本发明在节省计算量的同时，有效保持了高阶格式的计算精度，计算精度高于理论精度。
一种应用于高精度间断迦辽金流体仿真粘性处理方法

[发明专利]输出精度信息的测距装置-CN201910503102.8有效
发明人：中村稔;高桥祐辉;渡边淳 -专利权人：发那科株式会社
申请日： 2019-06-11 - 公布日： 2023-08-25 - 主分类号： G01S17/36 文献下载
摘要：本发明的测距装置具备精度计算部，该精度计算部根据在相对于测定光的发光定时延迟了预定相位的多个定时所累积的各电荷量的关系按照每个像素来计算精度，测距装置输出计算出的精度。
输出精度信息测距装置

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
下一页»
尾页
共 100000 条