CN103237224A - 一种基于门限的P_skip块提前判决方法 - Google Patents

Abstract

本发明涉及一种基于门限的P_skip块提前终止判断方法，方法如下：断当前块左边、上边、左上、右上相邻宏块是否有一个为P_skip块，若是则求当前块与重构块的SAD值，根据当前块的量化参数，通过查找预设的SAD门限值数组，获取当前块对应的提前终止的门限值，比较所述SAD值与门限值，若满足SAD值<门限值，则确定当前块即为P_skip块，不再进一步进行模式判定。本发明对于P_skip块可以省略原有算法里变换、量化、扫描与非零个数判断等运算，降低了计算复杂度，提高了编码效率，而且计算误差也较小。

Description

一种基于门限的P_skip块提前判决方法

技术领域

本发明涉及视频压缩编码技术领域，尤其涉及一种基于门限的P_skip块提前判决方法。

背景技术

现有技术264算法中的提前P_skip模式判断算法，在进行模式判定前，一

般先进行如下判断：

if(mb_type_left==P_SKIP||mb_type_top==P_SKIP||mb_type_topleft==P_SKIP||mb_type_topright==P_SKIP)，(mb_type_left为当前块左边相邻宏块类型，mb_type_top为当前块上边边相邻宏块类型，mb_type_topleft为当前块左上相邻宏块类型，mb_type_topright为当前块右上相邻宏块类型，)

{

1.根据预测mvp和参考帧得到重构的亮度宏块（这是本领域的通用技术手段：在参考帧上按运动矢量预测值mvp，搜索到当前块的预测值，然后将经过变化量化的残差块（所谓残差块就是当前块与当前块预测值的差值），再进行反量化反变换，最后将其与当前块预测值相加，获取的就是重构块；）

2.对于亮度，把当前块划分为16个4x4子块；

3.依次对每个4x4块的亮度值分别进行DCT变换、量化、zigzag扫描，并判断该4x4块扫描后非零值的个数，如果大于5则跳转的第5步；否则继续步骤3直到16个子块都计算完毕；

4.对于色度，根据预测mvp和参考帧得到重构的色度块；并对其进行类似亮度块的运算，差别在于此处4x4的块扫描后的非零个数大于6则跳转到第5步；否则，则该宏块为P_skip块，无须进行模式判定；

5.该宏块不是P_skip块，继续下面的模式判定。

}

该算法比全模式判定算法效率提高很多，图像质量也很好，但其对P_skip块提前检测的算法仍然过于繁琐，例如大量的进行了变换、量化、扫描及非零个数判断的运算，这些运算都是很耗时的。下面将介绍本发明如何在不使用这些耗时运算的情况下进行P_skip提前终止判断。

发明内容

本发明实施例要解决的技术问题在于提出一种基于门限的P_skip块提前判决方法，以省略原有算法里变换、量化、扫描与非零个数判断等运算，提高H.264标准中的压缩编码效率。

为解决上述问题，本发明实施例提出了一种基于门限的P_skip块提前判决方法，包括以下步骤：

a:断当前块左边、上边、左上、右上相邻宏块是否有一个为P_skip块，若是则继续以下步骤；

b:求当前块与重构块的SAD值；

c:根据当前块的量化参数（qp），通过查找预设的SAD门限值数组，获取当前块对应的提前终止的门限值（T[qp]）；

d：比较所述SAD值与门限值（T[qp]），若满足SAD值<门限值，则确定当前块即为P_skip块，不再进一步进行模式判定。

所述预设的SAD门限值数组（T[qp]）为

量化参数qp∈[0,51],以上52门限值分别对应0到51个量化参数qp，其中第一行对应0到7个量化参数，第二行对应8到15个量化参数，第三行对应16到23个量化参数，第四行对应24到31个量化参数，第五行对应32到39个量化参数，第六行对应40到47个量化参数，第七行对应48到51个量化参数。

有益效果：

本发明实施例提出了一种基于门限的P_skip块提前判决方法，省略H.264原有算法里变换、量化、扫描与非零个数判断等运算，对P_skip模块进行提前终止判定。本发明实施例不仅极大的降低了计算复杂度，提高了编码效率，而且计算误差也较小。

附图说明

图1为本发明优选实施例一种基于门限的P_skip块提前判决方法流程图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图和实施例，对本发明进行进一步详细说明，为了便于说明，仅示出了与本发明实施例相关的部分。应当理解，此处所描写的具体实施例，仅仅用于解释本发明，并不用以限制本发明。

实验显示相邻宏块间的rd cost函数(率失真函数)具有很高的相关性，所以可以利用这个相关性来对当前宏块的模式类型进行P_skip提前终止判断；而对P_skip宏块来说，rd cost函数与其SAD值具有线性相关性，相关系数高达0.985，所以最终可以使用SAD来代替rd cost函数进行P_skip提前终止判断。由传统的数学推导过程可知，100%全零块的阈值是与图像序列无关的，只与块的大小和量化水平有关。而且实验亦表明，不同的序列表现出相同的突变性能。

本发明实施例提出了一种基于门限的P_skip块提前判决方法，省略H.264原有算法里变换、量化、扫描与非零个数判断等运算，对P_skip模块进行提前终止判定。采用本发明实施例不仅极大的降低了计算复杂度，提高了编码效率，而且计算误差也较小。

实施例一

图1为本发明实施例一种基于门限的P_skip块提前判决方法流程图，所述方法包括以下步骤：

S101:判断当前块左边、上边、左上、右上相邻宏块是否有一个为P_skip块，若是则进入步骤S102；若否，则对当前块进行正常编码模式确定。

所述正常编码模式为，对当前块进行所有预测模式编码，然后选取使率失真代价函数值最小的编码模式，作为当前块的最佳编码模式。

S102:求当前块与重构块的SAD值（绝对差值和）；

S103:根据当前块的量化参数（记为qp），通过查找预设的SAD门限值数组，获取当前块对应的提前终止的门限值T[qp]；

S104：比较所述SAD值与门限值T[qp]，若满足SAD<T[qp]，则确定当前块即为P_skip块，不再进一步进行模式判定；若否，则对当前块进行正常编码模式确定。所述预设的SAD门限值数组的确定方法如下：

首先定义一个门限数组T[qp]来存放52个（0到51）量化参数qp的门限值。

H.264里实际的离散余弦变换DCT输出为：

$W_{\mathrm{uv}}=\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}{C}_{\mathrm{ui}}{X}_{\mathrm{ij}}{C_{\mathrm{jv}}}^T,0\&le;u\&le;\mathrm{3,0}\&le;v\&le;3,---\left(1\right)$

W_uv表示残差块矩阵X经过离散余弦变换DCT后，所得矩阵W的第u行第v列元素值；

C_ui表示离散余弦变换DCT矩阵第u行第i列的元素值；

X_ij表示残差块矩阵X第i行第j列的像素值，所谓残差块就是当前块与当前块预测值的差值；

C_jv ^T表示离散余弦变换DCT矩阵的转置矩阵的第j行第v列的元素值；

_i表示残差块矩阵X的行号；j表示残差块矩阵X的列号；

u表示矩阵W的行号；v表示矩阵W的列号。

对（1）式中的W_uv取绝对值得到：

$\left|W_{\mathrm{uv}}\right|=\left|\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}{C}_{\mathrm{ui}}{X}_{\mathrm{ij}}{C}_{\mathrm{jv}}\right|\&le;\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}\left|C_{\mathrm{ui}}{C}_{\mathrm{jv}}\right|\left|X_{\mathrm{ij}}\right|,0\&le;u,v\&le;3,---\left(2\right)$

根据矩阵C的特性，最大元素为2，则元素之间最大的乘法为4，所以有

|C_uiC_jv|≤4，    (3)

由不等式（2）可以转化为：

$\left|W_{\mathrm{uv}}\right|\&le;4\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}\left|X_{\mathrm{ij}}\right|,---\left(4\right)$

而|X_ij|就是表示残差块第i行第j列的像素值的绝对值，（所谓残差块就是当前块与当前块预测值的差值），因此：

${\mathrm{SAD}}_{4\&times;4}=\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}\left|X_{\mathrm{ij}}\right|,---\left(5\right)$

SAD_4×4表示：4x4残差块中所有元素绝对值和；

于是（4）式转化为

|W_uv|≤4SAD_4×4,    (6)

根据量化后的系数公式（公知常识，H264变换量化的设计原理），可以得出P_skip块必须满足如下条件：

$\left|Z_{\mathrm{uv}}\right|=\frac{\left|W_{\mathrm{uv}}\right|\mathrm{MF}+f}{2^{\mathrm{qbits}}}\&le;\frac{4\mathrm{SA}{D}_{4\&times;4}\mathrm{MF}+f}{2^{\mathrm{qbits}}}<1,---\left(7\right)$

Z_uv表示：W_uv量化后的值；

MF表示：中间变量，

f表示：偏移量，帧内预测块f=2^qbits/3，帧间预测块f=2^qbits/6；

2^qbits表示：2的qbits幂；

对帧间预测，取f=2^qbits/6，从式（7）可以解出P_skip块的帧间SAD阈值（SAD_Inter4×4的门限值），得到以下公式：

${\mathrm{SAD}}_{\mathrm{Inter}4\&times;4}<\frac{2^{\mathrm{qbits}}}{4.8\&times;\mathrm{MF}}=\frac{2^{\mathrm{qbits}}\&times;\mathrm{Qstep}}{4.8\&times;\mathrm{PF}\&times;2^{\mathrm{qbits}}}=\frac{\mathrm{Qstep}}{4.8\&times;\mathrm{PF}},---\left(8\right)$

SAD_Inter4×4表示4x4残差块中所有元素绝对值和，其中当前块采用帧间预测；

SAD_Inter4×4和SAD_4×4的关系为：SAD_Inter4×4表示4x4残差块中所有元素绝对值和，其中当前块采用帧间预测；SAD_4×4则是泛指，即当前块可以是帧内预测，也可以是帧间预测；

PF表示中间变量；等价于 $\mathrm{PF}=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\\ a^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\end{array}\right]$

Qstep表示量化步长；

对于帧间预测，有不同帧间块选择模式：4x4，4x8，8x4，8x8，16x8，8x16和16x16这七种模式，通用的是用M和N来代表像素块的长和宽。所以，对帧间SAD阈值（SAD_InterM×N的门限值），可以表述为下式：

${\mathrm{SAD}}_{\mathrm{InterM}\&times;N}<\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{384\&times;\mathrm{PF}},---\left(9\right)$

公式（9）是通过将公式（8）中的实数转化为整数，然后将4x4类推到mxn，（此处不是严格推导，不等式缩放，只要方向准确即可）。

等价于 $\mathrm{PF}=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\\ a^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\end{array}\right],$

其中：a=12,

另外，根据频域特性（H.264里实际的离散余弦变换DCT特性），在大多数情况下有

$W_{\mathrm{uv}}\&le;W_{00}\&le;\left|\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}{C}_{0i}{C_{j0}}^T{X}_{\mathrm{ij}}\right|={\mathrm{SAD}}_{4\&times;4}---\left(10\right)$

W₀₀表示残差块经过离散余弦变换DCT后，第1行第1列的元素值；

C_0i表示离散余弦变换DCT矩阵第0行第i列的元素值；

C_j0 ^T表示离散余弦变换DCT矩阵的转置矩阵的第j行第0列的元素值；

W_uv≤W₀₀只是在概率统计上大多数情况下成立，所以并不具备普适性，

${\mathrm{SAD}}_{\mathrm{Inter}4\&times;4}<\frac{2^{\mathrm{qbits}}}{1.2\&times;\mathrm{MF}}=\frac{2^{\mathrm{qbits}}\&times;\mathrm{Qstep}}{1.2\&times;\mathrm{PF}\&times;2^{\mathrm{qbits}}}=\frac{\mathrm{Qstep}}{1.2\&times;\mathrm{PF}},---\left(11\right)$

公式(11)是根据H264离散余弦变换DCT矩阵元素的特性缩放而来，公式（8）中是缩放到最小，公式(11)是缩放到最大）

${\mathrm{SAD}}_{\mathrm{InterM}\&times;N}<\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{96\&times;\mathrm{PF}}---\left(12\right)$

公式（12）是通过将公式（11）中的实数转化为整数，然后将4x4类推到mxn，（此处不是严格推导，不等式缩放，只要方向准确即可）。

公式（9）是通过严格的数学推导而得，由此式推导出的代价函数阈值是100%的P_skip块，但不是最优的最小值，实际值应该比它大，可以看作实际值的下限（THZ_MIN）；通过式(12)的数学推导又不完全满足所有像素残差，但可以看作P_skip块的上限(THZ_MAX),则帧间SAD阈值（SAD_InterM×N的门限值）范围为：

${\mathrm{SAD}}_{\mathrm{InterM}\&times;N}\&Element;[\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{384\&times;\mathrm{PF}},\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{96\&times;\mathrm{PF}}]---\left(13\right)$

而在本发明里只需要使用16x16宏块的阈值，所以在此M和N都为16，因此对于帧间16x16宏块SAD阈值（SAD_Inter16×16的门限值）范围为：

${\mathrm{SAD}}_{\mathrm{Inter}16\&times;16}\&Element;[\frac{40\&times;\mathrm{Qstep}}{13\&times;\mathrm{PF}},\frac{160\&times;\mathrm{Qstep}}{7\&times;\mathrm{PF}}].$

跟据上述阈值范围，通过一系列实验最终确定SAD的门限值数组（即预设的SAD门限值数组T[qp]）如下：

量化参数qp∈[0,51],以上52门限值分别对应0到51个量化参数qp，其中第一行对应0到7个量化参数，第二行对应8到15个量化参数，第三行对应16到23个量化参数，第四行对应24到31个量化参数，第五行对应32到39个量化参数，第六行对应40到47个量化参数，第七行对应48到51个量化参数。

效果比较实验

实验条件：码率为384KB，foreman.cif测试流。采用本发明实施例对P_skip模块进行提前终止判定，不仅极大的降低了计算复杂度，提高了编码效率，而且本发明实施例的计算误差也较小。因此若当前宏块的左边或上边或左上或右上相邻宏块中有一个为P_skip宏块，则计算当前宏块与重构宏块的SAD值，若该SAD小于当前宏块对应qp的门限值时，就可以认为当前宏块为P_skip块。本发明实施例方法可以省略原有算法里变换、量化、扫描与非零个数判断等运算。

本领域的普通技术人员可以理解，实现上述实施例方法中的全部或部分步骤是可以通过程序指令相关硬件来完成的，所述的程序可以存储于一计算机可读取存储介质中，所述的存储介质可以为ROM、RAM、磁盘、光盘等。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (5)

1.一种基于门限的P_skip块提前判决方法，其特征在于，所述方法包括以下步骤：

a:断当前块左边、上边、左上、右上相邻宏块是否有一个为P_skip块，若是则继续以下步骤；

b:求当前块与重构块的SAD值；

c:根据当前块的量化参数（qp），通过查找预设的SAD门限值数组，获取当前块对应的提前终止的门限值（T[qp]）；

d：比较所述SAD值与门限值（T[qp]），若满足SAD值<门限值，则确定当前块即为P_skip块，不再进一步进行模式判定。

2.如权利要求1所述的基于门限的P_skip块提前终止判断方法，其特征在于，所述预设的SAD门限值数组（T[qp]）为

量化参数qp∈[0,51],以上52门限值分别对应0到51个量化参数qp，其中第一行对应0到7个量化参数，第二行对应8到15个量化参数，第三行对应16到23个量化参数，第四行对应24到31个量化参数，第五行对应32到39个量化参数，第六行对应40到47个量化参数，第七行对应48到51个量化参数。

3.如权利要求1所述的基于门限的P_skip块提前终止判断方法，其特征在于：对于帧间预测，所述SAD值取值范围为：

${\mathrm{SAD}}_{\mathrm{InterM}\&times;N}\&Element;[\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{384\&times;\mathrm{PF}},\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{96\&times;\mathrm{PF}}],$

其中，M和N分别表示当前块的长和宽；

PF表示中间变量， $\mathrm{PF}=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\\ a^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\end{array}\right],$ a=12, $b=\sqrt{2/5};$

Qstep表示量化步长。

4.如权利要求3所述的基于门限的P_skip块提前终止判断方法，其特征在于，当前块为16×16的宏块时，SAD值的取值范围为：

${\mathrm{SAD}}_{\mathrm{Inter}16\&times;16}\&Element;[\frac{40\&times;\mathrm{Qstep}}{13\&times;\mathrm{PF}},\frac{160\&times;\mathrm{Qstep}}{7\&times;\mathrm{PF}}];$

其中，PF表示中间变量， $\mathrm{PF}=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\\ a^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\end{array}\right],$ a=1/2, $b=\sqrt{2/5};$

Qstep表示量化步长。

5.如权利要求1所述的基于门限的P_skip块提前终止判断方法，其特征在于，所述预设的SAD门限值数组的确定方法如下：

首先定义一个门限数组T[qp]来存放52个（0到51）量化参数qp的门限值。

H.264里实际的离散余弦变换DCT输出为：

$W_{\mathrm{uv}}=\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}{C}_{\mathrm{ui}}{X}_{\mathrm{ij}}{C_{\mathrm{jv}}}^T,0\&le;u\&le;\mathrm{3,0}\&le;v\&le;3,---\left(1\right)$

W_uv表示残差块矩阵X经过离散余弦变换DCT后，所得矩阵W的第u行第v列元素值；C_ui表示离散余弦变换DCT矩阵第u行第i列的元素值；X_ij表示残差块矩阵X第i行第j列的像素值，所谓残差块就是当前块与当前块预测值的差值；C_jv ^T表示离散余弦变换DCT矩阵的转置矩阵的第j行第v列的元素值；i表示残差块矩阵X的行号；j表示残差块矩阵X的列号；u表示矩阵W的行号；v表示矩阵W的列号。

对（1）式中的W_uv取绝对值得到：

$\left|W_{\mathrm{uv}}\right|=\left|\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}{C}_{\mathrm{ui}}{X}_{\mathrm{ij}}{C}_{\mathrm{jv}}\right|\&le;\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}\left|C_{\mathrm{ui}}{C}_{\mathrm{jv}}\right|\left|X_{\mathrm{ij}}\right|,0\&le;u,v\&le;3,---\left(2\right)$

根据矩阵C的特性，最大元素为2，则元素之间最大的乘法为4，所以有

|C_uiC_jv|≤4，    (3)

由不等式（2）可以转化为：

$\left|W_{\mathrm{uv}}\right|\&le;4\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}\left|X_{\mathrm{ij}}\right|,---\left(4\right)$

而|X_ij|表示残差块矩阵X第i行第j列的像素值的绝对值，因此：

${\mathrm{SAD}}_{4\&times;4}=\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}\left|X_{\mathrm{ij}}\right|,---\left(5\right)$

SAD_4×4表示：4x4残差块中所有元素绝对值和；

于是（4）式转化为

|W_uv|≤4SAD_4×4,   (6)

根据量化后的系数公式，可以得出P_skip块必须满足如下条件：

$\left|Z_{\mathrm{uv}}\right|=\frac{\left|W_{\mathrm{uv}}\right|\mathrm{MF}+f}{2^{\mathrm{qbits}}}\&le;\frac{4\mathrm{SA}{D}_{4\&times;4}\mathrm{MF}+f}{2^{\mathrm{qbits}}}<1,---\left(7\right)$

Z_uv表示W_uv量化后的值；MF表示中间变量，

f表示偏移量，帧内预测块f=2^qbits/3，帧间预测块f=2^qbits/6；

2^qbits表示：2的qbits幂；

对帧间预测，取f=2^qbits/6，从式（7）可以解出P_skip块的帧间SAD阈值（SAD_Inter4×4的门限值），得到以下公式：

${\mathrm{SAD}}_{\mathrm{Inter}4\&times;4}<\frac{2^{\mathrm{qbits}}}{4.8\&times;\mathrm{MF}}=\frac{2^{\mathrm{qbits}}\&times;\mathrm{Qstep}}{4.8\&times;\mathrm{PF}\&times;2^{\mathrm{qbits}}}=\frac{\mathrm{Qstep}}{4.8\&times;\mathrm{PF}},---\left(8\right)$

SAD_Inter4×4表示4x4残差块中所有元素绝对值和，其中当前块采用帧间预测；

PF表示中间变量， $\mathrm{PF}=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\\ a^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\end{array}\right];$ Qstep表示量化步长；

对于帧间预测，用M和N来代表像素块的长和宽，对帧间SAD阈值（SAD_InterM×N的门限值），可以表述为下式：

${\mathrm{SAD}}_{\mathrm{InterM}\&times;N}<\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{384\&times;\mathrm{PF}},---\left(9\right)$

公式（9）是通过将公式（8）中的实数转化为整数，然后将4x4类推到mxn， $\mathrm{PF}=\left[\begin{array}{cccc}{a}^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\\ a^2& \frac{\mathrm{ab}}{2}& a^2& \frac{\mathrm{ab}}{2}\\ \frac{\mathrm{ab}}{2}& \frac{b^2}{4}& \frac{\mathrm{ab}}{2}& \frac{b^2}{4}\end{array}\right],$ a=12, $b=\sqrt{2/5}$

另外，根据频域特性，有如下公式：

$W_{\mathrm{uv}}\&le;W_{00}\&le;\left|\underset{i=0}{\overset{3}{\mathrm{\&Sigma;}}}\underset{j=0}{\overset{3}{\mathrm{\&Sigma;}}}{C}_{0i}{C_{j0}}^T{X}_{\mathrm{ij}}\right|={\mathrm{SAD}}_{4\&times;4}---\left(10\right)$

W₀₀表示残差块经过离散余弦变换DCT后，第1行第1列的元素值；

C_0i表示离散余弦变换DCT矩阵第0行第i列的元素值；

C_j0 ^T表示离散余弦变换DCT矩阵的转置矩阵的第j行第0列的元素值；

${\mathrm{SAD}}_{\mathrm{Inter}4\&times;4}<\frac{2^{\mathrm{qbits}}}{1.2\&times;\mathrm{MF}}=\frac{2^{\mathrm{qbits}}\&times;\mathrm{Qstep}}{1.2\&times;\mathrm{PF}\&times;2^{\mathrm{qbits}}}=\frac{\mathrm{Qstep}}{1.2\&times;\mathrm{PF}},---\left(11\right)$

公式(11)是根据H264离散余弦变换DCT矩阵元素的特性缩放而来，公式（8）中是缩放到最小，公式(11)是缩放到最大

${\mathrm{SAD}}_{\mathrm{InterM}\&times;N}<\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{96\&times;\mathrm{PF}}---\left(12\right)$

公式（12）是通过将公式（11）中的实数转化为整数，然后将4x4类推到mxn,

将公式（9）作为P_skip块SAD值实际值的下限（THZ_MIN）；将公式(12)作为P_skip块SAD值的上限(THZ_MAX),则帧间SAD阈值（SAD_InterM×N的门限值）范围为：

${\mathrm{SAD}}_{\mathrm{InterM}\&times;N}\&Element;[\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{384\&times;\mathrm{PF}},\frac{5\&times;M\&times;N\&times;\mathrm{Qstep}}{96\&times;\mathrm{PF}}]---\left(13\right)$

取M和N都为16，因此对于帧间16x16宏块SAD阈值（SAD_Inter16×16的门限值）范围为：

${\mathrm{SAD}}_{\mathrm{Inter}16\&times;16}\&Element;[\frac{40\&times;\mathrm{Qstep}}{13\&times;\mathrm{PF}},\frac{160\&times;\mathrm{Qstep}}{7\&times;\mathrm{PF}}].$

根据上述阈值范围，取不同的量化参数，通过实验最终确定SAD的门限值数组如下：

量化参数qp∈[0,51],以上52门限值分别对应0到51个量化参数qp，其中第一行对应0到7个量化参数，第二行对应8到15个量化参数，第三行对应16到23个量化参数，第四行对应24到31个量化参数，第五行对应32到39个量化参数，第六行对应40到47个量化参数，第七行对应48到51个量化参数。

Images