“推理运算”专利关键词查询_检索下载_查询列表_检索列表_行业专利分布_钻瓜专利网

钻瓜专利网为您找到相关结果143617个，建议您升级VIP下载更多相关专利

[发明专利]一种深度学习推理运算方法及中间件-CN201911325317.1有效
发明人：周正锦;颜银慧;向涛;艾烨霜 -专利权人：深圳市金溢科技股份有限公司
申请日： 2019-12-20 - 公布日： 2023-09-05 - 主分类号： G06N5/04 文献下载
摘要：一种深度学习推理运算方法及中间件，所述方法通过推理中间件用于具有不同推理运算库的硬件平台，所述方法包括：根据硬件环境，初始化所述推理中间件支持的推理运算库；调用当前使用的推理运算库，对数据进行推理运算；输出推理运算的结果。本申请的方法及中间件可以根据不同的硬件平台选择运行模式，选出最适合该硬件平台的推理运算库，使硬件平台发挥最优性能，本申请可根据不同的硬件平台，支持其对应的推理加速方案，无需专业技术人员进行繁琐的移植工作
一种深度学习推理运算方法中间件

[发明专利]推理服务组件的运算方法和TensorRT推理服务组件-CN202210004322.8在审
发明人：徐守奎;陈舟锋;王义锋;沈炯行 -专利权人：新华智云科技有限公司
申请日： 2022-01-04 - 公布日： 2022-04-12 - 主分类号： G06F9/54 文献下载
摘要：本发明披露了一种数据处理技术领域的推理服务组件的运算方法和TensorRT推理服务组件，具体包括：接口层，用于待处理数据和推理结果数据与外部的交互；推理层，包含第一运算队列，所述第一运算队列包括一组以上第一运算对象，每一所述第一运算对象有对应连接的TensorRT对象；每一所述第一运算对象包括预设的推理服务模型；调度层，从所述接口层获取待处理数据，从所述推理层获取推理输出结果；调取所述第一运算队列的所述第一运算对象，根据所述第一运算对象执行推理服务；释放所述第一运算对象至第一运算队列。插件层，所述插件层连接所述推理层，所述插件层用于提供推理服务模型。本技术方案使TensorRT调用更加灵活方便。
推理服务组件运算方法 tensorrt

[发明专利]神经网络模型的推理运算量计算方法、设备及存储介质-CN202010950692.1有效
发明人：任智祥 -专利权人：鹏城实验室
申请日： 2020-09-11 - 公布日： 2021-02-23 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了一种神经网络模型的推理运算量计算方法、设备及存储介质，对神经网络模型进行解析，得到所述神经网络模型的多种神经网络层；分别计算多种所述神经网络层通过前向传播对待推理数据进行推理的多个运算量；基于多个所述运算量，计算得到所述神经网络模型的推理运算量。本发明在不对神经网络模型构建计算图的条件下，通过神经网络模型的多种神经网络层来计算对待推理数据进行推理产生的运算量并计算出表征进行推理总运算量的推理运算量，有效提高对推理需要的运算量进行计算的效率，有利于提高神经网络模型在硬件加速部件上的部署效率
神经网络模型推理运算量计算方法设备存储介质

[发明专利]模糊推理装置-CN91108631.5无效
发明人：野村博义;林勋;若见升 -专利权人：松下电器产业株式会社
申请日： 1991-09-03 - 公布日： 2003-01-22 - 主分类号： G06F9/44 文献下载
摘要：本发明是有关模糊推理装置的调整技术，能够自动地产生满足所需规格的模糊推理装置的推理规则，本发明的装置可包括模糊推理运算机构、推理规则记忆机构、元函数记忆机构、下降法运算机构、元函数调整机构及误差运算机构，使用一种非线性探测法的下降法，能自动产生使推理误差和评价函数为最小的元函数。
模糊推理装置

[发明专利]基于推理步骤串接的数值推理方法、系统及存储介质-CN202211516319.0在审
发明人：黄民烈;邵智宏 -专利权人：清华大学
申请日： 2022-11-29 - 公布日： 2023-05-23 - 主分类号： G06N5/04 文献下载
摘要：本发明提供一种基于推理步骤串接的数值推理方法、系统及存储介质，包括：基于经过目标函数训练后的数值推理模型根据文本形式的数值推理问题构建计算图的节点表示；根据所述图节点的表示进行运算类型解码，确定运算类型分布概率；在每一步运算中将与其匹配的操作数进行串联，确定操作数的概率，生成有向无环图；通过所述数值推理模型选择一个图节点的数值运算结果作为问题的答案。本发明解决了现有数值推理模型对推理步骤间逻辑依赖建模不够灵活、错误率高的问题。
基于推理步骤数值方法系统存储介质

[发明专利]一种基于动态裁剪的模型推理加速方法-CN202211676368.0在审
发明人：李艺强;吴钟建;金代中;陈陶;王升哲;罗镇宝;关炜;康朋新;郑杰;张毅;崔雨勇;赵径通 -专利权人：西南技术物理研究所
申请日： 2022-12-26 - 公布日： 2023-06-09 - 主分类号： G06V10/70 文献下载
摘要：本发明提出一种基于动态裁剪的模型推理加速方法，该方法应用于模型推理阶段，首先训练优化好模型进行推理，然后输入数据计算模型当前层的通道注意力，之后根据注意力分布情况进行动态过滤，将作用小或不起作用的通道对应的下层卷积结果使用全0代替，屏蔽非必要的卷积运算，其余的通道正常进行卷积运算，最后每层的运算重复上一步骤完成整个模型的推理过程。推理过程中每层动态屏蔽部分卷积运算，使得整个模型推理速度得以提升。本发明提出的动态裁剪加速方法是根据输入数据不同，模型在推理过程中对于每个特征通道的侧重点不同，屏蔽低权重通道的卷积计算实现加速推理。
一种基于动态裁剪模型推理加速方法

[发明专利]模型推理方法、装置、设备及存储介质-CN202210450393.0在审
发明人：潘能超;王桂彬;董昊;王知践 -专利权人：北京百度网讯科技有限公司
申请日： 2022-04-26 - 公布日： 2022-07-29 - 主分类号： G06N3/04 文献下载
摘要：本公开提供了模型推理方法、装置、设备及存储介质，涉及数据处理技术领域，尤其涉及人工智能技术领域。应用于GPU，具体实现方案为：接收CPU发送的目标神经网络模型对应的运算核图，运算核图中的各个节点分别对应目标神经网络模型中包含的各个运算核，每一条边的方向用于表示该边所连接的节点对应的运算核的运行顺序；在接收到CPU发送的待处理数据后，按照运算核图表示的运行顺序依次运行各个运算核，对待处理数据进行处理，完成目标神经网络模型的推理过程；向CPU反馈模型推理结果。应用本公开实施例提供的方案进行模型推理时，能够提高GPU的模型推理效率。
模型推理方法装置设备存储介质

[发明专利]一种卫星故障诊断推理机系统及方法-CN202110253428.7有效
发明人：曾繁彬;张军;林宝军;沈苑;王亚宾;应俊;杨琼;沈冠浩;乔伟男;杜雪;常景娜;张浩 -专利权人：中国科学院微小卫星创新研究院;上海微小卫星工程中心
申请日： 2021-03-05 - 公布日： 2022-06-10 - 主分类号： G06F11/07 文献下载
摘要：本发明提供一种卫星故障诊断推理机系统，基于卫星分系统运行，包括多个分系统推理模块及负载控制器，其中，任一分系统推理模块对应一个卫星分系统，用于对卫星分系统的知识规则进行推理运算；负载控制器与分系统推理模块可通信地连接，用于获取卫星分系统推理模块的负载压力，并根据负载压力调整推理机系统的运算范围，控制系统负载。
一种卫星故障诊断推理系统方法

[发明专利]分配运算资源的方法、装置和计算机设备-CN202010997424.5在审
发明人：傅蓉蓉;徐宇啸;徐攀 -专利权人：华为技术有限公司
申请日： 2020-09-21 - 公布日： 2022-03-29 - 主分类号： G06F9/50 文献下载
摘要：本申请提供一种分配运算资源的方法，将一个推理实例与一个非一致性内存访问NUMA节点建立绑定关系，利用绑定的NUMA节点执行该推理实例包括的多个神经网络模型的推理操作。由此实现以推理实例为粒度考虑运算资源的分配方式，提高推理速度和稳定性。
分配运算资源方法装置计算机设备

[发明专利]真值流推理装置-CN89109095.9无效
发明人：张洪敏 -专利权人：阿普托仪器株式会社
申请日： 1989-12-06 - 公布日： 1990-06-20 - 主分类号： G06F15/336 文献下载
摘要：一种真值流推理装置，它可以输出表示蕴涵式中后件相同的多个前件的推理结果的真值。该装置设有选择电路和运算电路。运算电路将选择电路输出的真值在全部输入变量间对各前件进行运算，同时将这些运算结果作进一步的综合运算。本发明适用于模糊推理、二值或多值逻辑推理。
真值推理装置

[发明专利]一种基于深度学习的数据推理方法、装置、设备及介质-CN202310452691.8在审
发明人：姜鹏;谯轶轩 -专利权人：平安科技（深圳）有限公司
申请日： 2023-04-17 - 公布日： 2023-09-19 - 主分类号： G06F16/332 文献下载
摘要：本发明涉及人工智能及数字医疗领域，公开了一种基于深度学习的数据推理方法、装置、设备及介质，通过获取问题句子及待推理数据表；根据问题句子、待推理数据表的表头字段及待推理数据表的单元格数据，分别生成与问题句子、表头字段及单元格数据对应的嵌入层编码；将嵌入层进行叠加，以形成问题句子嵌入向量；将问题句子嵌入向量输入至预先训练好的表格推理模型中进行语义推理获得问题句子对应的数据操作运算及单元格数据；根据问题句子对应的数据操作运算及单元格数据，生成并发送推理答案。该方法可有效提升表格推理模型的预测精度和适用性，解决现有表格推理模型需要复杂推理和高阶运算，可供学习数据样本不足的技术问题。
一种基于深度学习数据推理方法装置设备介质

[发明专利]基于结构化稀疏的循环神经网络推理运算的加速系统及方法-CN202011114270.7有效
发明人：陶为;王中风;郭首亮;秦子迪 -专利权人：南京风兴科技有限公司
申请日： 2020-10-19 - 公布日： 2020-12-22 - 主分类号： G06N5/04 文献下载
摘要：本申请涉及人工智能算法硬件加速技术领域，提供一种基于结构化稀疏的循环神经网络推理运算的加速系统和方法，通过在LSTM模型训练过程中，对权重值矩阵进行对数域量化和结构化稀疏，从而降低推理运算的复杂度，在推理运算时，经过对数域量化和结构化稀疏的权重值矩阵，数据量更小，硬件端可以从软件端一次性读取多行权重值矩阵，以便多行权重值可以在多个时间序列中被重复使用，进一步降低推理运算的复杂度，并利用暂存值储存器存储暂存值和累加值，从而优化推理运算的过程，减少加速系统访问外界存储器的频次，降低大量访存带来的硬件功耗。
基于结构稀疏循环神经网络推理运算加速系统方法

[发明专利]基于EXCEL数据库的微型消防专家系统及其实现方法-CN201210038428.6有效
发明人：丰国炳;马德文;姚勇;王军;姚国章;李仁斌;赵冬平;沈翔 -专利权人：丰国炳
申请日： 2012-02-21 - 公布日： 2012-07-25 - 主分类号： G06Q10/06 文献下载
摘要：本发明提供一种基于EXCEL数据库的微型消防专家系统，包括包括输入模块，用于输入系统所需的各项数据；推理运算模块，所述推理运算模块中包括消防力量配置单元，所述消防力量配置单元根据输入模块输入的数据进行推理运算，得出需要调用的资源数据；所述推理运算模块与数据库相连接。
基于 excel 数据库微型消防专家系统及其实现方法

[发明专利]一种突触训练装置-CN202110403373.3有效
发明人：郭新;温娟;黄鹤鸣 -专利权人：华中科技大学
申请日： 2021-04-14 - 公布日： 2022-09-27 - 主分类号： G06N3/063 文献下载
摘要：包括训练模块、映射模块和推理模块；所述训练模块包括第一忆阻器，在训练信号的作用下实现阻值的调节；其中，所述第一忆阻器为易失或半易失忆阻器；所述推理模块包括第二忆阻器，用于进行推理运算；其中，所述第二忆阻器为非易失忆阻器本发明能克服训练过程中突触权重值不能长久保存和推理过程中运算和识别精度不高的问题，延长了推理模块中推理运算功能的有效使用期，还可降低训练推理过程中的功耗。
一种突触训练装置

[发明专利]用于神经推理系统的可嵌入级连逻辑系统及其推理方法-CN202010714571.7有效
发明人：朱文武;王鑫;段续光 -专利权人：清华大学
申请日： 2020-07-21 - 公布日： 2022-09-09 - 主分类号： G06N5/04 文献下载
摘要：本发明公开了一种用于神经推理系统的可嵌入级连逻辑系统及其推理方法，其中，该系统包括：输入模块，用于将待推理任务转换为逻辑输入符号，作为逻辑分组模块的输入；逻辑分组模块，用于根据预设规则对逻辑输入符号进行分组，将分组后的逻辑输入符号单独进行逻辑运算，并将运算后的结果合并；深度旁路逻辑模块，用于保留第一个逻辑输入符号直接作为输出；利用多个单层逻辑模块级联构成级联逻辑系统，当前级别的输出作为下一级的输入，通过级联逻辑系统对逻辑输入符号进行逻辑运算；输出模块，根据待推理任务的特性选择对应的输出策略，在逻辑运算结果中得到推理结果。该可嵌入级连逻辑系统可以嵌入到神经网络中，使得神经网络具有推理能力。
用于神经推理系统嵌入逻辑及其方法

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
下一页»
尾页
共 100000 条