[发明专利]后端测试方法、装置、存储介质和计算机设备在审
申请号: | 202310067256.3 | 申请日: | 2023-01-18 |
公开(公告)号: | CN116048902A | 公开(公告)日: | 2023-05-02 |
发明(设计)人: | 林杨;张智慧;舒永康;史双;王路娟 | 申请(专利权)人: | 西安紫光展锐科技有限公司 |
主分类号: | G06F11/26 | 分类号: | G06F11/26;G06F11/22;G06N5/04 |
代理公司: | 北京汇思诚业知识产权代理有限公司 11444 | 代理人: | 苏胜 |
地址: | 710000 陕西省西安市高新区鱼化街办软*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 后端 测试 方法 装置 存储 介质 计算机 设备 | ||
本发明实施例提供了一种后端测试方法、装置、存储介质和计算机设备。该方法包括:获取参数数据包、网络模型文件与测试数据;根据参数数据包、网络模型文件与测试数据生成推理结果;根据网络模型文件与测试数据生成基线数据;根据基线数据与推理结果生成后端测试结果;根据在模型训练的过程中接入的后端,实时验证训练模型在不同后端上的数值稳定性。从而能够快速的测试后端推理数值的稳定性;能够接入不同的后端,达到实时的测试软件仿真硬件、原理验证硬件或真实后端硬件的目的;也能够快速验证已有后端在不同网络模型上的性能;通过后端测试结果可以使技术人员容易发现后端的逻辑设计缺陷,为后期的修改提供了指导方向,减少了研发周期。
【技术领域】
本发明实施例涉及测试技术领域,具体涉及一种后端测试方法、装置、存储介质和计算机设备。
【背景技术】
在神经网络处理器(Neural-network Processing Unit,NPU)、张量处理器(Tensor Processing Unit,TPU)、深度学习处理器(Deep learning Processing Unit,DPU)等后端的设计过程中,硬件设计的周期性较长。在后端完成逻辑设计后进行用户体验测试的过程中,若后端的设计缺陷则会导致网络模型推理结果存在较大的精度误差,增加研发周期。
【发明内容】
有鉴于此,本发明实施例提供了一种后端测试方法、装置、存储介质和计算机设备,用以解决现有技术中后端的设计缺陷则会导致网络模型推理结果存在较大的精度误差,增加研发周期的问题。
第一方面,本发明实施例提供了一种后端测试方法,包括:
获取参数数据包、网络模型文件与测试数据;
根据所述参数数据包、所述网络模型文件与所述测试数据生成推理结果;
根据所述网络模型文件与所述测试数据生成基线数据;
根据所述基线数据与所述推理结果生成后端测试结果。
在一种可能的实现方式中,所述参数数据包包括第一测试环境参数,所述根据所述参数数据包、所述网络模型文件与所述测试数据生成推理结果,包括:
在所述第一测试环境参数对应的第一后端环境下,根据所述网络模型文件生成第一推理图;
根据所述参数数据包判断是否更新所述第一推理图;
若判断出更新所述第一推理图,则根据所述参数数据包与所述第一推理图生成第二推理图;
根据所述第二推理图生成第一执行队列;
根据所述测试数据与所述第一执行队列生成所述推理结果。
在一种可能的实现方式中,所述根据所述参数数据包判断是否更新所述第一推理图,包括:
判断所述参数数据包中是否包括匹配后端替换标识;
若判断出所述参数数据包中包括所述匹配后端替换标识,则确定出更新所述第一推理图。
在一种可能的实现方式中,所述参数数据包包括第二测试环境参数,所述根据所述参数数据包、所述网络模型文件与所述测试数据生成推理结果,包括:
在所述第二测试环境参数对应的第二后端环境下,根据所述网络模型文件生成第三推理图;
根据所述参数数据包判断是否更新所述第三推理图;
若判断出更新所述第三推理图,则根据所述参数数据包与所述第三推理图生成第四推理图;
根据所述第四推理图生成第一顺序与第一执行总文件;
根据所述第一顺序、所述第一执行总文件与所述测试数据生成所述推理结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安紫光展锐科技有限公司,未经西安紫光展锐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310067256.3/2.html,转载请声明来源钻瓜专利网。