“量化输入数据”专利关键词查询_检索下载_查询列表_检索列表_行业专利分布_钻瓜专利网

钻瓜专利网为您找到相关结果3694893个，建议您升级VIP下载更多相关专利

[发明专利]编码设备和方法、解码设备和方法、图像处理系统和方法-CN200610009020.0无效
发明人：近藤哲二郎;山元左近 -专利权人：索尼株式会社
申请日： 2006-02-16 - 公布日： 2006-08-23 - 主分类号： H04N7/26 文献下载
摘要：一种图像处理系统，包括：编码设备，被配置为编码输入图像数据；以及解码设备，被配置为解码经编码的输入图像数据，其中，如果对该输入图像数据重复编码和解码，则与该输入图像数据相对应的图像的图像质量恶化了。该解码设备包括：输入部分，输入其中量化了输入图像数据的量化数据；以及解码部分，解量化由输入部分输入的量化数据，以及将作为量化的结果而获得的解量化值转换为在当执行量化时与该解量化的值相对应的范围之内的、与量化阈值的边界邻近的值
编码设备方法解码图像处理系统

[发明专利]一种神经网络量化训练方法、装置及相关产品-CN202011641679.4在审
发明人：不公告发明人 -专利权人：安徽寒武纪信息科技有限公司
申请日： 2020-12-31 - 公布日： 2022-07-01 - 主分类号： G06N3/08 文献下载
摘要：本申请公开了一种神经网络量化训练方法，包括：从第一存储区域中读取目标量化单元的输入数据及权重；然后分别量化输入数据及权重，得到输入数据量化结果及权重量化结果，并将输入数据量化结果及权重量化结果存储在第二存储区域；再基于输入数据量化结果及权重量化结果,对目标量化单元执行正向传播计算，得到输出数据；从第二存储区域中读取输入数据量化结果及权重量化结果；基于从第二存储区域中读取的输入数据量化结果、权重量化结果和输出数据，对目标量化单元执行反向传播计算，得到权重梯度；基于权重梯度及优化器算法，更新权重。本申请实施例能够避免重复量化，加快神经网络的训练速度，减小内存开销。
一种神经网络量化训练方法装置相关产品

[发明专利]神经网络模型的运行、量化方法、电子设备及介质-CN202210481115.1在审
发明人：章小龙;黄敦博;陈柏韬 -专利权人：安谋科技（中国）有限公司
申请日： 2022-05-05 - 公布日： 2022-08-09 - 主分类号： G06N3/04 文献下载
摘要：本申请涉及量化技术领域，公开了一种神经网络模型的运行、量化方法、电子设备及介质。神经网络模型包括非线性函数运算；并且运行方法包括：在神经网络模型的运行过程中，获取非线性函数的输入数据；从量化映射表中获取对应于输入数据的量化数据，其中，在量化映射表中：对于属于第一类截断范围的输入数据，对应输入数据的量化数据为量化映射表中的与第一类截断范围中的输入数据数值相同的数据所对应的量化数据；对于属于第二类截断范围内的数据，对应输入数据的量化数据为量化映射表中的第一类截断范围的端点数据所对应的量化数据基于上述方案，可以有效减小量化映射表的占用内存，从而进一步减小神经网络模型的内存占用。
神经网络模型运行量化方法电子设备介质

[发明专利]一种神经网络模型的量化训练方法、装置和设备-CN202011645236.2在审
发明人：不公告发明人 -专利权人：安徽寒武纪信息科技有限公司
申请日： 2020-12-31 - 公布日： 2022-07-01 - 主分类号： G06N3/04 文献下载
摘要：本申请实施例提供了一种神经网络模型的量化训练方法、装置和设备，方法包括：在正向传播过程中，分别对待量化层的第一输入数据和所述待量化层的参数进行量化，获得量化的第一输入数据和量化的第一参数；对所述量化的第一输入数据和所述量化的第一参数进行运算，获得量化的第一输出数据；对所述待量化层的量化的第一输出数据进行反量化运算，得到所述待量化层的第一输出数据；将所述量化的第一输入数据和所述量化的第一参数从内存中释放。实施本申请实施例，能够减小数据对内存的消耗量，提高运算速度。
一种神经网络模型量化训练方法装置设备

[发明专利]确定用于人工神经网络的后训练量化的代表性输入数据集的方法和系统-CN202310296016.0在审
发明人： R·L·布塞斯;M·A·阿圭勒;S·克赖恩贝格 -专利权人： APTIV技术有限公司
申请日： 2023-03-23 - 公布日： 2023-10-17 - 主分类号： G06N3/04 文献下载
摘要：本公开涉及确定用于人工神经网络的后训练量化的代表性输入数据集的方法和系统。确定用于人工神经网络的后训练量化的代表性输入数据集的计算机实现方法包括以下步骤：获取输入数据集；处理输入数据集以提取与输入数据集相关联的一个或更多个参数；设置包括下裁剪限制和上裁剪限制的裁剪限制；通过基于输入数据集与经量化再去量化的输入数据集之间的数值差计算量化误差来调整上裁剪限制和下裁剪限制，其中，误差是根据基于用户输入的误差度量来计算的；以及将代表性输入数据集确定为输入数据集的子集，该子集的元素适配在裁剪限制内；其中，代表性输入数据集将用于后训练量化的量化校准。
确定用于人工神经网络训练量化代表性输入数据方法系统

[发明专利]复杂性确定装置-CN94195115.4无效
发明人：麦哈麦特·K·奥兹肯;里吉斯·S·吉罗恩斯 -专利权人：汤姆森消费电子有限公司
申请日： 1994-04-22 - 公布日： 2002-03-06 - 主分类号： H04B14/06 文献下载
摘要：所公开的确定数据信号的复杂性测量值的装置包括一个编码器（14），具有响应数据输入信号（数据输入）的一个输入端（5），和一个以恒定比特率产生代表数据输入信号（数据输入）的编码输出信号（数据输出）的数据输出端该编码器（14）包括一个可变量化器（46），响应数据输入信号（数据输入）产生代表数据输入信号（数据输入）的量化信号，该量化信号具有根据量化步长控制信号（QMB）定义的量化步长。一个比特率调节器（49）根据编码输出信号（TMB）的比特率和定额输入信号（Q)产生量化步长控制信号（QMB)。一个复杂性分析器（14)产生一个复杂性表示信号（Xpic),它与量化步长（QMB)和编码输出信号（TMB）的比特率有关。$#!
复杂性确定装置

[发明专利]一种神经网络模型的量化训练方法、装置及设备-CN202011645237.7在审
发明人：不公告发明人 -专利权人：安徽寒武纪信息科技有限公司
申请日： 2020-12-31 - 公布日： 2022-07-01 - 主分类号： G06N3/04 文献下载
摘要：本申请实施例提供了一种神经网络模型的量化训练方法、装置及设备，神经网络模型包括多个层，方法包括：在正向传播过程中，获取待量化层的第一输入数据和参数；分别对第一输入数据和参数进行量化，获得量化的第一输入数据和量化的第一参数；对量化的第一输入数据和量化的第一参数进行运算，获得第一输出数据；判断待量化层的前一层在反向传播时是否依赖第一输入数据；若是，保存第一输入数据。实施本申请实施例，通过不同的场景选择不同的量化方法，能够减少神经网络模型训练过程中的运算量，节省内存空间。
一种神经网络模型量化训练方法装置设备

[发明专利]一种对卷积神经网络模型量化的方法、装置及电子设备-CN202011139056.7在审
发明人：吕朦 -专利权人：珠海格力电器股份有限公司;珠海零边界集成电路有限公司
申请日： 2020-10-22 - 公布日： 2022-04-22 - 主分类号： G06K9/62 文献下载
摘要：本发明关于一种对卷积神经网络模型量化的方法、装置及电子设备，对于每个block，输入数据为量化后的整点型数据，将卷积层的权重乘以BN层的缩放系数γ′后量化，得到量化后的权重；在卷积层将偏置乘以γ′，并与BN层的平移系数β′相加后量化，得到量化后的偏置，将量化后的输入数据乘以量化后的权重，再加上量化后的偏置，将得到的整点型数据输入到归一化层；在归一化层除以量化时使用的第一量化系数，并乘以下一个block输入数据的第二量化系数，将得到的整点型数据输入到激活层；在激活层通过激活函数运算后，将得到的整点型数据输入到下一个block。本发明可以完成端到端的整点型数据通路计算，提高了模型的计算速度。
一种卷积神经网络模型量化方法装置电子设备

[发明专利]神经网络的量化方法、装置、存储介质及电子设备-CN202210127214.X有效
发明人：徐祥;艾国;杨作兴;房汝明;向志宏 -专利权人：深圳比特微电子科技有限公司
申请日： 2022-02-11 - 公布日： 2022-05-24 - 主分类号： G06N3/063 文献下载
摘要：本公开涉及一种神经网络的量化方法、装置、存储介质及电子设备，该量化方法包括：接收神经网络中的前一神经网络层输出的与第一量化位宽对应的第一取值范围区间的输入数据；将输入数据映射到至少包括与第二量化位宽对应的第二取值范围区间，得到量化输入数据；根据量化输入数据对应的量化位宽进行计算，得到量化输出数据；将量化输出数据反映射到与第一量化位宽对应的第一取值范围区间，获得输出数据。本公开实现了量化的后的神经网络在不降低硬件间数据传输效率的同时提升推理精度的目的。
神经网络量化方法装置存储介质电子设备

[发明专利]卷积神经网络INT8量化方法、系统、设备及存储介质-CN202010614051.9在审
发明人：徐超;杨冬梅;艾佳楠;章勇;曹李军 -专利权人：苏州科达科技股份有限公司
申请日： 2020-06-30 - 公布日： 2020-10-13 - 主分类号： G06N3/04 文献下载
摘要：本发明提供了一种卷积神经网络INT8量化方法、系统、设备及存储介质，所述方法包括：获取卷积层的参数量化系数，并对所述卷积层的参数进行参数非线性映射，得到量化后参数；获取所述卷积层的输入量化系数，建立所述卷积层的输入量化函数，所述输入量化函数用于将所述卷积层的输入数据非线性映射得到量化后的输入数据；获取所述卷积层的输出量化系数，根据所述量化后参数和所述输入量化函数，建立所述卷积层的输出量化函数，所述输出量化函数用于将所述卷积层的输出数据非线性映射得到量化后的输出数据通过采用本发明，通过将模型参数、输入和输出进行离线非线性量化，实现了整个模型纯整数运算，并且提高了量化精度。
卷积神经网络 int8 量化方法系统设备存储介质

[发明专利]在设备中的神经网络模型的量化方法和装置-CN201880095808.9在审
发明人：连朔;陈静炜 -专利权人：华为技术有限公司
申请日： 2018-09-21 - 公布日： 2021-03-05 - 主分类号： G06N3/08 文献下载
摘要：一种在设备中神经网络模型的量化方法和装置，通过获取用户校准数据，将用户校准数据输入神经网络模型，计算神经网络模型的多个层中的各层的量化参数，将待量化数据输入神经网络模型，使用各层的量化参数，对各层的输入数据进行量化由于该用户校准数据是根据用户使用设备产生的数据生成的，从而实现了在线获取量化参数，并且量化参数与设备的用户数据匹配，从而提高量化精度。
设备中的神经网络模型量化方法装置

[发明专利]一种神经网络低比特量化方法-CN202011057930.2在审
发明人：张书瑞;欧阳鹏;尹首一 -专利权人：北京清微智能科技有限公司
申请日： 2020-09-29 - 公布日： 2021-02-19 - 主分类号： G06N3/04 文献下载
摘要：本发明为一种神经网络低比特量化方法，量化神经网络每个通道的权重值至低比特定点权重。根据目标量化阈值和浮点量化区间，获取当前卷积层的输入量化系数。将下一个卷积层的输入量化系数作为当前卷积层的输出量化系数。量化输入浮点数据获取输入定点数据。量化输出浮点数据获取输出定点数据。将缩放因子和偏置分别转化成缩放因子定点值和偏置定点值。根据低比特定点权重、输入定点数据、输出定点数据、缩放因子定点值和偏置定点值，获取神经网络，量化后的神经网络模型能够应用嵌入式设备中。
一种神经网络比特量化方法

[发明专利]一种数据处理方法、模型量化方法、电子设备及介质-CN202310309807.2在审
发明人：章小龙;黄敦博 -专利权人：安谋科技（中国）有限公司
申请日： 2023-03-27 - 公布日： 2023-10-13 - 主分类号： G06F7/02 文献下载
摘要：本申请涉及量化技术领域，特别涉及一种数据处理方法、模型量化方法、电子设备及介质。该方法包括：在神经网络模型的运行过程中，获取到神经网络模型中H‑swish算子的第一浮点输入数据，第一浮点输入数据属于第一浮点输入值范围；从第一浮点输入值范围对应的第一定点输入值范围中，获取第一浮点输入数据对应的第一定点输入数据，其中，第一定点输入值范围中的定点数据是对第一浮点输入值范围中的浮点数据进行非均匀量化后得到的；将第一定点输入数据输入H‑swish算子中进行计算。基于此，使得使用非均匀量化的浮点输入值范围能够分配到更多的量化比特位，提高量化精度。
一种数据处理方法模型量化电子设备介质

[发明专利]图像处理方法和装置-CN99101266.6无效
发明人：岸本正树 -专利权人：索尼株式会社
申请日： 1999-01-22 - 公布日： 1999-10-06 - 主分类号： H04N1/40 文献下载
摘要：本发明的目标是提供一种图像处理方法和装置,它在通过简单的处理方法保持图像质量的同时也通过误差扩散处理减少了图像数据色彩深浅等级的数量。它包括以下步骤根据至少一个阈值量化构成整个图像数据的每个象素的输入图像数据,从而将输入图像数据转换为具有至少两级量化级的输出图像数据;根据量化后的量化级将量化步骤中对每个象素的输入图像数据进行量化过程中产生的量化误差转换为每个量化级确定的特定范围内的量化误差;以及将转换步骤中相对于作为目标的一个像素经转换获得的量化误差扩散到目标象素附近未量化象素的输入图像数据内。
图像处理方法装置

[发明专利]误差矫正方法、误差模型的构建方法、装置及电子设备-CN202211061408.0在审
发明人：朱延武 -专利权人：恒玄科技（上海）股份有限公司
申请日： 2022-08-31 - 公布日： 2022-12-02 - 主分类号： G06N3/04 文献下载
摘要：该方法包括：通过量化后的预设模型对第一输入数据进行处理，得到输出数据；对所述输出数据进行反量化，得到反量化后的输出数据；通过预设的误差模型对第二输入数据进行处理，得到误差值，所述误差模型为根据预设模型在量化后产生的误差构建的模型，所述第一输入数据为所述第二输入数据进行量化后的数据；根据所述反量化后的输出数据和所述误差值，获得矫正后的输出数据。通过该方式，能降低模型在量化后产生的误差，从而提高量化后的模型的输出结果的准确度。
误差矫正方法模型构建装置电子设备

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
下一页»
尾页
共 100000 条