[发明专利]数据处理方法、装置、电子设备及计算机可读存储介质

权利要求书

1.一种数据处理方法，其特征在于，包括：

将待检测数据输入训练后的计算模型；所述训练后的计算模型包括多层神经网络，每层神经网络设置有第一输入量化比特数、第一权值量化比特数，以及权值矩阵；所述第一输入量化比特数和所述第一权值量化比特数为浮点数；

确定出每层神经网络中所述第一输入量化比特数对应的量化输入矩阵，以及，确定出所述第一权值量化比特数对应的量化权值矩阵；

基于所述量化输入矩阵和所述量化权值矩阵对所述待检测数据进行计算，得到每层神经网络对应的各个输出矩阵，并将各个输出矩阵作为所述待检测数据的目标标注值。

2.根据权利要求1所述的数据处理方法，其特征在于，所述训练后的计算模型通过如下方式生成：

将预设的样本数据集输入预设的计算模型；所述计算模型包括多层神经网络，每层神经网络设置有初始输入量化比特数、初始权值量化比特数，以及初始权值矩阵；所述初始输入量化比特数和所述初始权值量化比特数为浮点数；

确定出每层神经网络中所述初始输入量化比特数对应的量化输入矩阵，以及，确定出所述初始权值量化比特数对应的量化权值矩阵；

基于所述量化输入矩阵和所述量化权值矩阵对样本数据进行计算得到损失函数；

基于所述损失函数对每层神经网络中所述初始输入量化比特数、初始权值量化比特数，以及初始权值矩阵进行迭代更新，直至所述样本数据集中每个样本数据均被计算完成，得到更新后的第二输入量化比特数、第二权值量化比特数，以及第二权值矩阵；所述第二输入量化比特数和所述第二权值量化比特数为浮点数；

将所述第二输入量化比特数、第二权值量化比特数进行取整，得到目标输入量化比特数和目标权值量化比特数；

基于所述目标输入量化比特数和目标权值量化比特数对对应层的神经网络中所述第二权值矩阵进行迭代更新，直至所述样本数据集中每个样本数据均被计算完成，得到每层神经网络对应的各个目标权值矩阵，以及包含各个目标权值矩阵的训练后的计算模型。

3.根据权利要求2所述的数据处理方法，其特征在于，所述确定出所述初始输入量化比特数对应的量化输入矩阵，以及，确定出所述初始权值量化比特数对应的量化权值矩阵，包括：

基于所述初始输入量化比特数相邻的第三输入量化比特数，采用预设算法确定出所述初始输入量化比特数对应的量化输入矩阵，以及，基于所述初始权值量化比特数相邻的第三权值量化比特数，采用预设算法确定出所述初始权值量化比特数对应的量化权值矩阵。

4.根据权利要求2所述的数据处理方法，其特征在于，所述样本数据集包括多个样本数据，每个样本数据具有原始标注值；

所述基于所述量化输入矩阵和所述量化权值矩阵对样本数据进行计算得到损失函数，包括：

基于所述量化输入矩阵和所述量化权值矩阵对每个样本数据进行计算，得到每层神经网络对应的各个输出矩阵，并基于各个输出矩阵和每个样本数据的原始标注值计算得到损失函数。

5.根据权利要求3所述的数据处理方法，其特征在于，所述预设算法为：其中，λ为初始量化比特数，f_λ(x)为初始量化比特数对应的量化矩阵，为与λ相邻，且小于λ的第三量化比特数，为对应的量化矩阵，为与λ相邻，且大于λ的第三量化比特数，为对应的量化矩阵；其中，初始量化比特数为浮点数，第三量化比特数为正整数。

6.根据权利要求2至5任一所述的数据处理方法，其特征在于，所述预设的计算模型为全精度模型，所述训练后的计算模型为混合精度模型。