[0029] 高动态范围(HDR)成像可以提供更完整的场景表示,旨在捕捉可见光范围内的所有亮度信息,尤其在极端光照条件下。低动态范围图像质量评价已被证明不适用于评价HDR图像。为了解决这一问题,本文提出了一种基于张量域曲率分析的高动态范围图像质量评价方法。
[0030] 如图1所示,一种基于张量域曲率分析的高动态范围图像质量评价方法,包括以下步骤:
[0031] S1、首先,在Nantes高动态范围图像数据库或EPFL高动态范围图像数据库中选择m幅图像做为训练图像集,将训练图像集中的第n幅高动态范围图像记为Sset(n),n≤m,设Sset(n)的宽度为W,高度为H;然后提取图像Sset(n)的亮度信息,记为Sset-Y(n);对图像的亮度信息进(n) (n)行感知一致性编码即PU编码,记为Sset-PU ;将Sset-PU 分割成多个互不重叠的尺寸大小为m×m的图像块,m取64;
[0032] 其次,采用图像质量评价方法SSIM分别对多个m×m的图像块进行质量评价,得到多个图像块的质量值,其中SSIM指结构相似度度量;然后设置多个m×m的矩阵,m×m的矩阵与m×m的图像块一一对应;m×m矩阵中的所有数值均为对应的m×m图像块的质量值;将多
个m×m的矩阵按照对应的图像块在第n幅图像中的位置整合为一幅尺寸为
的质量值组成的图像,记为P(1), 表示向下取整,取整消除了余数,
便于计算;
[0033] 再着,使用图像质量评价方法RFSIM、图像质量评价方法FSIM替换图像质量评价方法SSIM重复上述的步骤,分别得到两幅由质量值组成的图像,分别记为P(2),P(3);RFSIM指变换的特征相似度度量,FSIM指特征相似度度量;
[0034] 最后,使用图像质量评价方法HDR-VDP-2.2替换图像质量评价方法SSIM重复上述步骤,并将上述步骤中对Sset-PU(n)的分割替换成对Sset-Y(n)的分割,得到另外一幅由质量值组成的图像,记为P(4);
[0035] S2、将高动态范围图像Sset(n)以三阶张量形式进行表示,记为UHDR;再使用张量分解算法中的Tucker3分解算法对UHDR进行张量分解,获得其核张量,记为VHDR;将VHDR的第1个通道作为VHDR的子带一,记为B(1),将VHDR的第2个通道作为VHDR的子带二,记为B(2),将VHDR的第3个通道作为VHDR的子带三,记为B(3);其中,每一个子带的宽度为W,高度为H;对子带一B(1)做(1) (1) (1) (1) (1)一阶偏导数与二阶偏导数,分别记为Bx ,By 与Bxx ,Bxy ,Byy ;根据平均曲率
高斯曲率
分别计算出B(1)的平均曲率图与高斯曲率图,并分别记为
Cm(1),Cg(1);然后分别对Cm(1)、Cg(1)中的数值进行分类,分类标准为,大于0、小于0及等于0这三类,接着将Cm(1)与Cg(1)的数值类型两两组合,例如,在B(1)的某一像素点的Cm(1)值小于0,Cg(1) (1) (1)
值小于0,则分为第一类;若该像素点的Cm 值等于0,Cg 值小于0,则分为第二类;若该像素点的Cm(1)值大于0,Cg(1)值小于0,则分为第三类,依次类推;则Cm(1)与Cg(1)的数值类型两两组合后会得到9种组合类型,对每一种组合类型设置一个平面类型标签,标签编号为1~9;
根据子带一的Cm(1)与Cg(1)的分类组合过程,子带一得到一幅由1~9构成的平面类型标签图,记为STB(1);依次使用子带二,子带三替换子带一重复上述步骤中的计算平面类型标签的过程,得到另外两幅由1~9构成的平面类型标签图,分别记为STB(2)与STB(3);将平面类型标签图STB(1),STB(2)与STB(3)以及平均曲率图Cm(1)的尺寸分别置为
[0036] S3、随机地分别从平面类型标签图STB(1),STB(2)与STB(3),平均曲率图Cm(1)中选取位于同一位置的尺寸大小为k1×k1的块,k1取8,设选取的不同位置的数量为T,T取150000;然后分别对从STB(1),STB(2)与STB(3)中所选取的块中提取其直方图统计特征,分别记为f1,f2与f3,其中f1,f2与f3的维数分别为9×1;对从Cm(1)中选取的块提取其均值、方差、峰度、偏度这四个特征,记为f4;最后将f1,f2,f3与f4排成一列,对其进行归一化处理,得到特征向量f,其中f的维数为31×1;
[0037] S4、从质量值组成的图像P(1),P(2),P(3)与P(4)选取与步骤S3中相同位置的块;对选取的块作均值处理,分别记为l1,l2,l3与l4;将l1,l2,l3与l4排为一列,并对其进行归一化处理,构成标签向量l,其中l的维数为4×1;
[0038] 将同一位置的块的特征向量f以及对应的标签向量l排为一列,则共有T列,构成训练样本矩阵;采用K-SVD算法对训练样本矩阵进行稀疏训练,得到对应于特征向量f的稀疏字典Df以及对应于标签向量l的稀疏字典Dl;
[0039] S5、将待评价的高动态范围的图像记为Sdis,经过步骤S2后得到三幅平面类型标签图与平均曲率图,分别记为STB_dis(1)、STB_dis(2)、STB_dis(3)与Cm_dis(1);将STB_dis(1)、STB_dis(2)、STB_dis(3)与Cm_dis(1)分别分割成多个互不重叠的尺寸大小为k1×k1的块i;然后对每一个块i按照步骤S3中的特征选取过程提取特征向量
[0040] S6、根据每一个块i的特征向量 以及对应于特征向量f的稀疏字典Df,利用OMP算法,提取块i的稀疏系数 将稀疏系数 与对应于标签向量l的稀疏字典Dl相乘得到重建的标签向量 对每一个块的重建的标签向量 按照块在图像中的位置整合为一个尺寸为
的标签矩阵,记为Fdis;
[0041] S7、将标签矩阵Fdis分割为多个互不重叠的尺寸大小为k2×k2×4的块,k2取32;对每一个块做均值处理;将每一个块的均值按块在图像中的位置依次按行排列,得到一个维的特征向量,记为h1;
[0042] S8、提取待评价的高动态范围的图像Sdis的亮度信息,记为Sdis_Y;将亮度信息Sdis_Y进行感知一致性编码,记为Sdis_PU;然后对Sdis_PU中的每一个像素点做去均值与对比度归一化(MSCN)处理,并计算每个像素点的MSCN值;最后采用GGD(广义高斯分布)对所有像素的MSCN值做直方图拟合,得到拟合参数:α与σg2;将得到的拟合参数构成特征向量,记为h2,其维度为2×1;
[0043] S9、根据步骤S8提取一个像素点的MSCN值;然后再根据S8提取该像素点的右临接像素点的MSCN值;将这两个MSCN值相乘作为该像素点的相邻MSCN系数;最后采用AGGD(非对称广义高斯分布)对所有像素点的相邻MSCN系数做直方图拟合,得到拟合参数:η,v,σl2与2
σr;将这四个参数组成特征向量,记为h3,其维度为4×1;
[0044] S10、将h1,h2和h3按序构成一个Sdis的感知质量特征向量,记为H,H=[h1,h2,h3];
[0045] S11、将H作为输入,结合随机森林技术,计算得到Sdis的客观质量评价值Q,Q越大,则表示待评价的高动态范围的图像Sdis的图像质量越好。
[0046] 图像质量评价方法SSIM、图像质量评价方法RFSIM、图像质量评价方法FSIM、图像质量评价方法HDR-VDP-2.2均为现有的比较常见的图像质量评价方法;张量分解算法中的Tucker3分解算法、K-SVD算法即广义K-均值算法、OMP算法即正交匹配追踪算法,该些算法均为现有的基础算法。
[0047] 本发明利用数据库中的图像进行自我校验,校验的方法为;将步骤S5中的待评价的高动态范围的图像替换为Sdis',Sdis'的选取过程为,在步骤S1中所使用的数据库中剔除步骤S1中所选的m幅图像,然后在剩下的图像中选择一幅作为待评价的高动态范围的图像记为Sdis',最后计算出Sdis'的客观质量评价值Q',由于数据库中存储的图像,其主观评分值已通过人工评价方法获得并作为基准值存储在数据库中,因此为了检验本发明的评价结果是否准确,先使用本发明中的方法获得客观评价值Q',再将Q'与数据库中已存储的Sdis'图像的主观评分值 进行非线性拟合,若Q'与 的拟合指标越接近于对应的理想指标,则表示Q'的计算过程越精确。
[0048] 为了说明本发明方法的可行性、有效性,在两个公开的具有代表性的图像数据库分别进行实验,两个图像数据库分别为Nantes高动态范围图像数据库、EPFL高动态范围图像数据库。表1中详细说明了每个图像数据库的各项指标,包括参考图像数目、失真图像数目、失真类型数目、主观测试人数。其中,每个图像数据库都提供了每幅失真图像的平均主观评分值,记为
[0049] 表1权威图像数据库的各项指标
[0050]
[0051] 接下来,分析利用本发明方法获取的每幅失真高动态范围图像的客观质量评价值Q与平均主观评分值 之间的相关性。这里列举了评估图像质量评价方法优劣的三个常用的评价指标,即Pearson线性相关性系数(Pearson Linear Correlation Coefficients,PLCC)、Spearman秩相关系数(Spearman Rank Order Correlation coefficient,SROCC)以及均方根误差(Root mean squared error,RMSE)。其中,PLCC反映预测的准确性,SROCC反映预测的单调性,其取值范围均为[0,1],值越接近1,表明图像质量客观评价方法越好,反之,越差;RMSE反映预测的一致性,其值越小,表示图像质量客观评价方法的预测越准确,性能越好,反之,越差。
[0052] 对于上述Nnates高动态范围图像数据库中的所有图像、NFPL高动态范围图像数据库中的部分尺寸相同的图像,分别按本发明方法的步骤S1至步骤S11的过程,计算出每幅失真图像的客观质量评价值Q。然后将客观质量评价值Q与主观评分值 做四参数Logistic函数非线性拟合,最后得到三个评价指标。
[0053] 为了验证本方法的有效性,将本方法与现有的性能较为先进的两种全参考以及三种无参考图像质量评价方法进行比较,其PLCC、SROCC和RMSE指标如表2所示。表2中参与比较的两种全参考图像质量评价方法分别为HDR-VDP-2.2与HDR-VQM,三种无参考图像质量评价方法分别为C-DIIVINE,BRISQUE与BLIINDS2。由于传统的低动态范围图像质量评价方法不能直接用于评价高动态范围图像,因此在使用评价方法之前先使用一个视觉感知模型,表2中列举了对数变换(Log)与感知一致性编码(PU)这两种视觉感知模型。从表2中可以看出,与其它方法相比,本发明方法在Nantes图像数据库中表现最优,在EPFL数据库中效果仅次于HDR-VDP-2.2与HDR-VQM。然而由于HDR-VDP-2.2与HDR-VQM是全参考图像质量评价方法,其使用范围受到参考图像的限制,本发明方法与之相比,使用范围更为广阔。
[0054] 表2本发明方法与现有的客观图像质量评价方法的性能比较
[0055]
[0056] 虽然高动态范围图像具有更高的峰值亮度以及更丰富的颜色信息,提供更真实的视觉感知,但它也给客观质量度量带来了一定的难度。本发明方法在张量分解的基础上,通过曲率分析来构造一个有效的特征集,用来表征HDR图像块的不同失真程度,其中张量分解可以保持HDR图像绝大多数颜色信息,而曲率分析可以提取HDR图像的结构信息。随后HDR图像的局部特征从利用特征集和带标签的稀疏字典重建得到的标签矩阵中提取;最终,通过聚合HDR图像的局部特征和全局特征得到图像的预测质量,无需依靠参考图像就能进行评价。本发明方法在二个公开的数据库进行测试,实验结果表明,其性能指标均优于其它无参考度量,这意味着本发明与人类视觉感知的一致性较高。