[发明专利]限制色度分量变换系数符号取值范围的数据压缩方法装置

说明书

本发明提供了一种在图像的序列和视频编码的色度残差分量变换系数也就是将色度残差的一个分量变换为另一个分量时所使用的系数的编码中，每帧图像允许对变换系数的符号即正负号的取值范围进行限制，从而起到减小每帧图像的变换系数的正负号的实际取值范围，减少编码变换系数的正负号所需要消耗的比特数，提升编码效率的作用。

 本申请是下列原申请的的分案申请：

原申请的申请日：2019-06-30

原申请的申请号：2019105822607

原申请的发明创造名称：分层规定子集对编码参数进行编码的数据压缩方法和装置（办理登记手续时的名称：对图像的序列进行压缩的编码方法及装置、解码方法及装置）

技术领域

本发明涉及一种对数据进行压缩的编码及解码（也称译码）系统，特别是对取值范围有限的数据集的编码及解码的方法和装置。

背景技术

随着人类社会进入大数据、云计算、移动计算、云-移动计算、超高清（4K）和特超高清（8K）视频图像分辨率、4G/5G通讯、虚拟现实的时代，对各种原始数据，包括大数据、图像数据、视频数据、音频数据、语音数据、神经网络数据，进行超高压缩比和极高质量的数据压缩成为必不可少的技术。

 很大一类的数据压缩问题可以归结为对数据集Y = {y=f(x)：x ∈X }的压缩问题，其中，∈表示“属于”；集合X是Y或f的定义域，由所有的x组成， x称为X的一个元素；集合Y由所有的y=f(x)组成，y=f(x)称为Y的一个元素，通常是一个数值（一维即有一个分量的数值或多维即有多个分量的数值）或者等价于一个数值或者表示为一个数值；f是定义在X上的一种对应关系，也称对应法则或函数关系或简称函数，对X中的每一个x，都存在唯一的y=f(x)与x相对应。不同的x可能对应相同的y=f(x)，即x₁∈X，x₂∈X，x₁与x₂是X中不同的元素，但f(x₁)和f(x₂)有相等的数值。数据集Y的另一种等价的表示法是对每一个x ∈X都存在与x相对应的y=f(x) ∈Y。

 对数据集Y的压缩问题实际上就是用尽可能少的比特数来表示Y的所有元素f(x)。记表示每个f(x)所消耗的比特数为b(x)，则表示Y的所有元素f(x)所需要消耗的总比特数B_total等于所有b(x)之和，即B_total = ∑_x∈Xb(x)，其中∑表示求和运算而∑的下标_x∈X表示对X中所有的x进行b(x)的求和运算。

 数据集Y的元素（即数据）y的数值称为元素y所取的数值，简称为y的数值或取值。y所允许取到的互不相同的数值的全体组成Y的取值范围，记为R={r[k]：k = 0～K-1}，其中，当i ≠ j时，r[i] ≠ r[j]。显然，K是取值范围R的大小，即R的元素的个数。

 b(x)和B_total都与Y的取值范围R的大小K有直接关联。例如，当K=2^b并且R的元素都用长度为b的定长二进制码（也就是位数即比特数等于b的二进制码）来表示的情形，所有的b(x)都等于b=log₂(K)，因此，B_total = N×b = N×log₂(K)，其中N是X中元素的个数。显然，当K增大时，B_total也将增大。由此可见，数据压缩的效果与数据的取值范围的大小有直接关联。

在现有技术中，在对一个数据集Y进行数据压缩时，其取值范围R是固定不变的，所以取值范围的大小K也是固定不变的。当K较大时，每编码或解码一个数据y，都要使用和消耗较多的比特数，使得编码效率的提高变得很困难。