|
|
钻瓜专利网为您找到相关结果 2048587个，建议您 升级VIP下载更多相关专利
- [发明专利]定点化处理方法及其装置-CN201310435542.7有效
-
张国成
-
富士通株式会社
-
2013-09-23
-
2017-04-19
-
G06F9/30
- 本发明提供一种定点化处理方法及其装置。其中，该方法包括确定不包含复杂运算的浮点代码中的浮点变量的数值范围；分析对该浮点变量进行定点化处理的目标平台处理器，以获得该目标平台处理器的擅长运算，根据分析结果确定定点化策略；根据该浮点变量的数值范围和该定点化策略，或者根据该浮点变量的数值范围、该定点化策略以及预定的总体定点化精度，确定每个浮点变量的定点方式；根据该定点方式对该浮点变量进行定点化处理，生成定点化代码；使用测试数据对该定点化代码进行总体精度测试；在该定点化代码通过了该总体精度测试时，对该定点化代码进行目标平台性能测试；在通过了该性能测试的情况下，结束该定点化处理。该方法可有效的提升定点化代码的运行效率。
- 点化处理方法及其装置
|
