一种快速RDOQ量化零系数比例估计方法   0    0

本发明公开了一种快速RDOQ量化零系数比例估计方法。为了体现不同位置系数差异性，本发明为不同位置系数定义一个不同加权系数，将加权系数构建为位置自适应死区偏移量δ的函数，基于此度量加权SATD，即WSATD。考虑到RDOQ算法复杂性，仅仅考虑q和WSATD还不足以构建精准的ρ模型。假设χ＝WSATD/q，发现不同χ样本它们的ρ有不同值，本发明将χ的均值θ作为构建ρ模型的另外一个特征参量。在HEVC编码器中，存在不同类型的变换块(TU)，为了区分这种差异性，本发明针对在不同类型TU块分别建模。最后利用统计分析曲线拟合方法构建三维ρ模型。通过该模型能够快速估计出RDOQ后的零系数比例ρ。

1.一种快速RDOQ量化零系数比例估计方法，包括如下步骤：
步骤(1)获得自适应死区偏移量δ；
步骤(2)建立WSATD自适应加权系数模型；
步骤(3)建立ρ与θ以及χ之间函数关系；
步骤(4)建立ρ模型；
步骤(1)具体如下：
首先根据公式(2)获取DCT系数分布参数Λ，公式(2)如下所示：
其中n为统计个数，ci为DCT系数，然后根据公式(3)获取自适应死区偏移量δ，使得RDOQ量化行为和HDQ量化行为相似；公式(3)如下：
其中QP>17：
I帧ψ＝0.50+0.001*(QP-17)，μ＝0.1，β＝0.6,γ＝0.6，
α＝128，ξ1＝ξ2＝32，a＝35，b＝50；
P/B帧ψ＝0.48+0.001*(QP-17)，μ＝0.1，β＝0.6,γ＝0.6，
α＝128，ξ1＝ξ2＝32，a＝35，b＝50；
步骤(2)具体如下：权重模型如下：
通过控制参数a’、b’的大小来控制权重函数的质心和曲率，并且该权重模型里面的参数a’和b’根据不同的TU块内容动态变化；其中ci表示DCT系数，wi为所得到的权重系数；根据cmax*wmin＝(1-δ)q可得到最小权重wmin，q为量化步长；最终使用((1-δ)q,1)和(cmax,wmin)根据公式(1)推导出a’和b’；
利用公式(7)来获得每一个TU块的χ，并且利用数学上计算均值的方法得到相同ρ下χ的均值θ：
两个函数关系θ'-ρ'和θ-θ'可以分别通过曲线拟合获得：
θ'＝g(ρ')                                      (4)
θ＝f(θ')                                      (5)
其中ρ'是通过HDQ预量化后的零系数比例，θ'是ρ'相同的情况下χ的均值，θ是ρ相同的情况下χ的均值；θ'-ρ'是单调递减的二阶函数；θ-θ'是单调递增的二阶函数；
利用集合的统计曲线拟合方法得到ρ＝f(θ,χ)的三维函数模型，如公式(6)所示：
ρ＝a0+a1θ+b1χ+a2θ2+c11θχ+a3θ3+c21θ2χ                 (6)
其中ρ模型是关于θ的3阶和关于χ的1阶多项式。