“沈付旺”申请（专利权）人搜索_中国专利权人_发明人_技术持有人_科研专家_钻瓜专利网

钻瓜专利网为您找到相关结果9个，建议您升级VIP下载更多相关专利

[发明专利]基于x86架构的AI芯片任务处理方法和装置-CN202010789760.0有效
发明人： 沈付旺 -专利权人：苏州浪潮智能科技有限公司
申请日： 2020-08-07 - 公布日： 2022-08-02 - 主分类号： G06F9/445 文献下载
摘要：本发明涉及一种基于x86架构的AI芯片任务处理方法和装置。所述方法包括：更改内核配置文件，并基于更改的内核配置文件对x86系统进行内核的重新编译；利用预设编译器版本和库文件对x86系统进行编译环境搭建；在已搭建的编译环境中对AI芯片进行设备注册以生成AI芯片驱动，并将AI芯片驱动挂载到x86系统；获取计算任务，并利用x86系统的运行时程序将计算任务下传至AI芯片驱动；利用AI芯片驱动和计算任务对AI芯片的功能模块进行任务配置和使能直至任务完成。本发明的方案使AI芯片可以运行在x86架构的下的服务器上，并能够处理处理计算任务，扩大了AI芯片的使用范围，为实际的AI芯片设计、测试以及应用提供了不可多得的硬件环境。
基于 x86 架构 ai 芯片任务处理方法装置

[发明专利]一种神经网络量化处理方法、装置、设备及可读存储介质-CN202210467176.2在审
发明人： 沈付旺;贾敬崧 -专利权人：苏州浪潮智能科技有限公司
申请日： 2022-04-29 - 公布日： 2022-07-22 - 主分类号： G06N3/04 文献下载
摘要：本申请适用于人工智能数据处理技术领域，公开了一种神经网络量化处理方法、装置、设备及可读存储介质，在进行神经网络量化处理中，通过将量化系数均转换为小于且等于最接近的2的幂次方的形式，使得在后续量化与反量化过程中，只需要右移处理，不需要进行整型的乘法计算，省略了大量计算步骤；在进行反量化与进一步量化的过程中，先将当前层卷积运算的初始卷积结果加上由当前层量化后的偏置参数和2n‑1的弥补项合并的值，n由当前层的量化系数求得；再进行量化推理运算，使得神经网络量化推理简化为卷积、加法和移位，进一步简化了量化推理的步骤，节约了大量的计算资源和存储资源，有利于在算力和资源有限的人工智能设备上部署人工智能应用。
一种神经网络量化处理方法装置设备可读存储介质

[发明专利]一种深度学习网络模型训练方法、系统、设备以及介质-CN202210303131.1在审
发明人： 沈付旺;贾敬崧 -专利权人：山东云海国创云计算装备产业创新中心有限公司
申请日： 2022-03-25 - 公布日： 2022-06-10 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了一种深度学习网络模型训练方法，包括步骤：根据多个预设量化方法和输入到深度学习网络模型中每一层的原特征确定每一层分别对应的第一量化因子；根据多个第一量化因子对原特征进行量化以得到多个量化特征；计算每一个原特征分别与对应的多个量化特征的峰值信噪比；分别比较多个峰值信噪比的大小以根据最大值确定每一层对应的最终第一量化因子；确定每一层的原特征中每一个通道的最大值并根据每一个通道的最大值对每一层的权重的对应维度的数据进行量化并得到每一层的权重对应的第二量化因子；将最终第一量化因子乘以第二量化因子得到第三量化因子以对偏置参数进行量化。本发明还公开了一种系统、计算机设备以及可读存储介质。
一种深度学习网络模型训练方法系统设备以及介质

[发明专利]一种深度学习推理自动量化方法和装置-CN201910780310.2有效
发明人： 沈付旺 -专利权人：苏州浪潮智能科技有限公司
申请日： 2019-08-22 - 公布日： 2022-06-03 - 主分类号： G06N3/04 文献下载
摘要：本发明提供一种深度学习推理自动量化方法，包括以下步骤：从数据集的每个类别中各随机挑选一张图片，由量化工具量化后的权值对所述图片进行fp32推理并将推理所得激活值进行暂存；动态迭代以使得各层的各通道中激活值中每一个元素的绝对值为所有图片推理所得所述激活值中相应位置元素的最大值，并将所述迭代后的各通道激活值保存为激活值文件；对所述激活值文件中的激活值进行2的次幂膨胀量化，并统计每一层的量化指数直方图；根据所述每一层的量化指数直方图计算得到所述层量化指数的均值，并将所述均值设置为量化指数的上限。本发明的量化方法不指定量化阈值，不需要进行遍历寻找最佳阈值，能够加快运算速度，提高运算效率，节省运算开销。
一种深度学习推理自动量化方法装置

[发明专利]一种任务部署方法、装置、系统及可读存储介质-CN202111666498.1在审
发明人： 沈付旺 -专利权人：山东云海国创云计算装备产业创新中心有限公司
申请日： 2021-12-30 - 公布日： 2022-05-03 - 主分类号： G06F8/60 文献下载
摘要：本申请公开了一种任务部署方法、装置、系统及可读存储介质，方法包括：获取异构计算设备反馈的应用中各层计算任务被对应的计算组件执行后的状态信息及异构计算设备的奖惩信息；根据状态信息及奖惩信息，确定各层计算任务对应的计算组件，并由各计算组件执行对应的计算任务；执行获取异构计算设备反馈的应用中各层计算任务被对应的计算组件执行后的状态信息及异构计算设备的奖惩信息的步骤，直至状态信息及奖惩信息稳定为止，以得到各层计算任务对应的计算组件，并由各计算组件执行对应的计算任务。本申请公开的技术方案，利用强化学习自动从顶层应用的角度来进行计算任务的部署，以提高任务部署的合理性、效率及异构计算设备的任务执行性能。
一种任务部署方法装置系统可读存储介质

[发明专利]一种图像识别的方法、系统、设备及可读存储介质-CN201911386454.6有效
发明人： 沈付旺 -专利权人：浪潮（北京）电子信息产业有限公司
申请日： 2019-12-29 - 公布日： 2022-04-22 - 主分类号： G06V20/10 文献下载
摘要：本申请公开了一种图像识别的方法，包括：对卷积神经网络模型每一层的权值和激活值进行线性量化处理；根据线性量化处理后的卷积神经网络模型结合加速算法生成量化推理网络；利用量化推理网络对待识别图集进行图像识别。本申请通过分别对卷积神经网络模型每一层的权值和激活值进行线性量化处理，然后根据线性量化处理后的卷积神经网络模型结合加速算法生成量化推理网络，使得图像识别过程中神经网络的推理速度得到提高，并且大幅度的降低了卷积神经网络模型的大小，节省了设备的存储空间，降低了设备运行时的能耗。本申请同时还提供了一种图像识别的系统、设备及可读存储介质，具有上述有益效果。
一种图像识别方法系统设备可读存储介质

[发明专利]一种神经网络的计算性能优化方法及系统-CN202111274322.1在审
发明人： 沈付旺 -专利权人：苏州浪潮智能科技有限公司
申请日： 2021-10-29 - 公布日： 2022-01-25 - 主分类号： G06N3/04 文献下载
摘要：本发明公开了一种神经网络的计算性能优化方法及系统，方法包括：定义激活值阈值训练方法及权重训练方法；确定神经网络的初始比特位，基于初始比特位对神经网络进行量化训练直到神经网络的推理精度满足预设要求则停止训练；随机抽取预设数量张训练图片进行推理，并在推理结束后获取神经网络每层的激活值，并基于激活值计算得到每层激活值的标准差；获取基于神经网络训练得到的每层的激活值阈值，基于每层激活值的标准差和每层的激活值阈值确定每层分布的集中性，并将各个层的集中性划分为不同的阶梯；计算每一段阶梯的集中性的值，并基于集中性的值，确定对应阶梯的量化比特位。本发明提高了神经网络的计算效率，降低了占用的存储空间。
一种神经网络计算性能优化方法系统

[发明专利]一种卷积神经网络低比特量化方法、系统及介质-CN202011552132.7在审
发明人： 沈付旺 -专利权人：苏州浪潮智能科技有限公司
申请日： 2020-12-24 - 公布日： 2021-04-16 - 主分类号： G06N3/08 文献下载
摘要：本发明公开了一种卷积神经网络低比特量化方法，包括通过损失函数以及下降系数训练激活阈值以及第一权值，通过量化函数和激活阈值计算出特征值；创建权值值域转换函数，根据所述第一权值计算出转换值；通过所述量化函数以及所述转换值计算第二权值，以及所述第二权值的值域；将所述特征值和所述第二权值的值域转化为整型；进行推理部署，将所述第二权值的值域转换为第一比特的范围，并计算卷积得到第一卷积值，将所述第一卷积值进行反量化得到第二卷积值；本发明能够通过定点训练得到激活阈值以及权值，将权值转换为需求的低比特整型数据，并通过对卷积计算过程的变形和改造，使得最终的卷积计算完全符合低比特卷积计算的需求。
一种卷积神经网络比特量化方法系统介质

[发明专利]一种编译AI芯片的方法、系统、设备及介质-CN202011083320.X在审
发明人： 沈付旺;景璐 -专利权人：苏州浪潮智能科技有限公司
申请日： 2020-10-12 - 公布日： 2021-01-15 - 主分类号： G06N3/063 文献下载
摘要：本发明公开了一种编译AI芯片的方法、系统、设备和存储介质，方法包括：对AI芯片的网络模型进行量化，并基于网络模型的权值对量化后的网络模型进行精度调整；在精度调整后的网络模型中将卷积神经网络的计算分配到AI芯片的不同MAC计算单元以优化网络模型的计算流程；以及获取硬件架构参数，并根据硬件架构参数和网络模型生成连续的计算流。本发明通过对AI芯片进行量化并进行精度调整，使得性能更加完善；最大程度的优化网络的计算，减少计算的步骤，最大化MAC计算单元的利用率；通过生成可使计算设备在网络推理过程中一直处于忙碌状态的计算流，提高了AI设备的利用率。
一种编译 ai 芯片方法系统设备介质

1
共 9 条