首页 > 专利 > 宁波大学 > 一种立体图像变焦方法专利详情

一种立体图像变焦方法   0    0

有效专利 查看PDF
专利申请流程有哪些步骤?
专利申请流程图
申请
申请号:指国家知识产权局受理一件专利申请时给予该专利申请的一个标示号码。唯一性原则。
申请日:提出专利申请之日。
2020-12-07
申请公布
申请公布指发明专利申请经初步审查合格后,自申请日(或优先权日)起18个月期满时的公布或根据申请人的请求提前进行的公布。
申请公布号:专利申请过程中,在尚未取得专利授权之前,国家专利局《专利公报》公开专利时的编号。
申请公布日:申请公开的日期,即在专利公报上予以公开的日期。
2021-05-11
授权
授权指对发明专利申请经实质审查没有发现驳回理由,授予发明专利权;或对实用新型或外观设计专利申请经初步审查没有发现驳回理由,授予实用新型专利权或外观设计专利权。
2022-07-22
预估到期
发明专利权的期限为二十年,实用新型专利权期限为十年,外观设计专利权期限为十五年,均自申请日起计算。专利届满后法律终止保护。
2040-12-07
基本信息
有效性 有效专利 专利类型 发明专利
申请号 CN202011417735.6 申请日 2020-12-07
公开/公告号 CN112702590B 公开/公告日 2022-07-22
授权日 2022-07-22 预估到期日 2040-12-07
申请年 2020年 公开/公告年 2022年
缴费截止日
分类号 H04N13/106H04N13/128 主分类号 H04N13/106
是否联合申请 独立申请 文献类型号 B
独权数量 1 从权数量 0
权利要求数量 1 非专利引证数量 1
引用专利数量 1 被引证专利数量 0
非专利引证 1、2018.12.27柴雄力.基于网格形变的立体图像内容重组《.图像处理和编码》.2019,Feng Shao.An Energy-Constrained VideoRetargeting Approach for Color-Plus-Depth3D Video《.Journal of Display Technology》.2015,;
引用专利 US2018374230A 被引证专利
专利权维持 1 专利申请国编码 CN
专利事件 事务标签 公开、实质审查、授权
申请人信息
申请人 第一申请人
专利权人 宁波大学 当前专利权人 宁波大学
发明人 邵枫、周莘 第一发明人 邵枫
地址 浙江省宁波市江北区风华路818号 邮编 315211
申请人数量 1 发明人数量 2
申请人所在省 浙江省 申请人所在市 浙江省宁波市
代理人信息
代理机构
专利代理机构是经省专利管理局审核,国家知识产权局批准设立,可以接受委托人的委托,在委托权限范围内以委托人的名义办理专利申请或其他专利事务的服务机构。
宁波奥圣专利代理有限公司 代理人
专利代理师是代理他人进行专利申请和办理其他专利事务,取得一定资格的人。
周珏
摘要
本发明公开了一种立体图像变焦方法,其提取左、右视点图像中落于用户选择的对象内、落于用户选择的对象边界的所有四边形网格对应的目标四边形网格的坐标偏移能量、落于背景区域内的所有四边形网格对应的目标四边形网格的背景保持能量、落于用户选择的对象内的所有四边形网格对应的目标四边形网格的尺寸控制能量和左右一致性能量,并通过优化使得总能量最小,进而获取左、右视点图像中的每个四边形网格对应的最佳目标四边形网格,并根据每个最佳目标四边形网格的仿射变换矩阵,得到变焦后的立体图像;优点是变焦后的立体图像保留了精确的对象形状和准确的目标聚焦深度,具有近距离观看的沉浸感、具有较高的深度感,能够获得更高的三维体验质量。
  • 摘要附图
    一种立体图像变焦方法
  • 说明书附图:图1
    一种立体图像变焦方法
  • 说明书附图:图2a
    一种立体图像变焦方法
  • 说明书附图:图2b
    一种立体图像变焦方法
  • 说明书附图:图2c
    一种立体图像变焦方法
  • 说明书附图:图2d
    一种立体图像变焦方法
  • 说明书附图:图2e
    一种立体图像变焦方法
  • 说明书附图:图2f
    一种立体图像变焦方法
  • 说明书附图:图2g
    一种立体图像变焦方法
  • 说明书附图:图2h
    一种立体图像变焦方法
  • 说明书附图:图3a
    一种立体图像变焦方法
  • 说明书附图:图3b
    一种立体图像变焦方法
  • 说明书附图:图3c
    一种立体图像变焦方法
  • 说明书附图:图3d
    一种立体图像变焦方法
  • 说明书附图:图3e
    一种立体图像变焦方法
  • 说明书附图:图3f
    一种立体图像变焦方法
  • 说明书附图:图3g
    一种立体图像变焦方法
  • 说明书附图:图3h
    一种立体图像变焦方法
  • 说明书附图:图4a
    一种立体图像变焦方法
  • 说明书附图:图4b
    一种立体图像变焦方法
  • 说明书附图:图4c
    一种立体图像变焦方法
  • 说明书附图:图4d
    一种立体图像变焦方法
  • 说明书附图:图4e
    一种立体图像变焦方法
  • 说明书附图:图4f
    一种立体图像变焦方法
  • 说明书附图:图4g
    一种立体图像变焦方法
  • 说明书附图:图4h
    一种立体图像变焦方法
  • 说明书附图:图5a
    一种立体图像变焦方法
  • 说明书附图:图5b
    一种立体图像变焦方法
  • 说明书附图:图5c
    一种立体图像变焦方法
  • 说明书附图:图5d
    一种立体图像变焦方法
  • 说明书附图:图5e
    一种立体图像变焦方法
  • 说明书附图:图5f
    一种立体图像变焦方法
  • 说明书附图:图5g
    一种立体图像变焦方法
  • 说明书附图:图5h
    一种立体图像变焦方法
  • 说明书附图:图6a
    一种立体图像变焦方法
  • 说明书附图:图6b
    一种立体图像变焦方法
  • 说明书附图:图6c
    一种立体图像变焦方法
  • 说明书附图:图6d
    一种立体图像变焦方法
  • 说明书附图:图6e
    一种立体图像变焦方法
  • 说明书附图:图6f
    一种立体图像变焦方法
  • 说明书附图:图6g
    一种立体图像变焦方法
  • 说明书附图:图6h
    一种立体图像变焦方法
法律状态
序号 法律状态公告日 法律状态 法律状态信息
1 2022-07-22 授权
2 2021-05-11 实质审查的生效 IPC(主分类): H04N 13/106 专利申请号: 202011417735.6 申请日: 2020.12.07
3 2021-04-23 公开
权利要求
权利要求书是申请文件最核心的部分,是申请人向国家申请保护他的发明创造及划定保护范围的文件。
1.一种立体图像变焦方法,其特征在于包括以下步骤:
步骤一:将待处理的宽度为W且高度为H的立体图像的左视点图像、右视点图像及左视差图像对应记为{L(x,y)}、{R(x,y)}及{dL(x,y)};其中,W和H均能够被2整除,1≤x≤W,1≤y≤H,L(x,y)表示{L(x,y)}中坐标位置为(x,y)的像素点的像素值,{R(x,y)}表示{R(x,y)}中坐标位置为(x,y)的像素点的像素值,dL(x,y)表示{dL(x,y)}中坐标位置为(x,y)的像素点的像素值;
步骤二:采用SIFT‑Flow方法建立{L(x,y)}与{R(x,y)}之间的匹配关系,得到{L(x,y)}中的每个像素点的SIFT‑Flow向量,将{L(x,y)}中坐标位置为(x,y)的像素点的SIFT‑Flow向量记为vL(x,y), 其中,用于表示水平方向,用于表示垂直
方向, 表示vL(x,y)的水平偏移量, 表示vL(x,y)的垂直偏移量;
步骤三:将{L(x,y)}的图像主点的坐标位置记为 将{R(x,y)}的图像主点的坐
标位置记为 然后根据{L(x,y)}中坐标位置为
的像素点即{L(x,y)}的图像主点的SIFT‑Flow向量,确定{L(x,y)}中坐标位置为 的像素点即{L(x,y)}的图像主点在{R(x,y)}中匹配的像素点,将该匹配的像素点的坐标位置记为 并计算{L(x,y)}和{R(x,y)}的垂
直偏差,记为b, 其中, 表示{L(x,y)}中坐标位置为 的像素点
即{L(x,y)}的图像主点的SIFT‑Flow向量 的水平偏移量, 表示{L(x,y)}
中坐标位置为 的像素点即{L(x,y)}的图像主点的SIFT‑Flow向量 的垂直
偏移量;
步骤四:将{L(x,y)}和{R(x,y)}的焦距记为f0,将{L(x,y)}和{R(x,y)}的物距记为然后根据用户指定的焦距f,计算{L(x,y)}和{R(x,y)}的放大倍数,记为a, 其中,θ为由用户指定的焦距f及{L(x,y)}和{R(x,y)}的物距 确定的像距, θ0为由{L
(x,y)}和{R(x,y)}的焦距f0及{L(x,y)}和{R(x,y)}的物距 确定的像距,
步骤五:将{L(x,y)}分割成M个互不重叠的尺寸大小为22×22的四边形网格,将{L(x,y)}中的第k个四边形网格记为UL,k;然后根据{L(x,y)}中的所有四边形网格和{dL(x,y)},获取{R(x,y)}中的所有互不重叠的尺寸大小为22×22的四边形网格,将{R(x,y)}中的第k个四边形网格记为UR,k;其中, 符号 为向下取整运算符号,k为正整
数,1≤k≤M,UL,k通过其左上、左下、右上和右下4个网格顶点的集合来描述,
对应表示UL,k的作为第1个网格顶点的左上网格
顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
UR,k通过其左上、左下、右上和右下4个网格顶点的集合来描述,
对应表示UR,k的作为第1个网格顶点的左上网
格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第
4个网格顶点的右下网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
表示{dL(x,y)}中坐标
位置为 的像素点的像素值, 以 的水平坐标位置 和垂直坐标位置 来
描述, 表示{dL(x,y)}中
坐标位置为 的像素点的像素值, 以 的水平坐标位置 和垂直坐标位置
来描述, 表示{dL(x,
y)}中坐标位置为 的像素点的像素值, 以 的水平坐标位置 和垂直坐标
位置 来描述, 表示
{dL(x,y)}中坐标位置为 的像素点的像素值;
步骤六:根据{L(x,y)}和{R(x,y)}的放大倍数a及{L(x,y)}和{R(x,y)}的垂直偏差b,计算{L(x,y)}中的每个四边形网格的期望网格,将UL,k的期望网格记为 同样,根据{L(x,y)}和{R(x,y)}的放大倍数a及{L(x,y)}和{R(x,y)}的垂直偏差b,计算{R(x,y)}中的每个四边形网格的期望网格,将UR,k的期望网格记为 其中, 通过其左上、左下、右上和右下4个网格顶点的集合来描述, 对应表示
的作为第1个网格顶点的左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示
各自的期望网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位
置 来描述, 以 的水平坐标位置 和
垂直坐标位置 来描述, 以 的水平坐
标位置 和垂直坐标位置 来描述, 通
过其左上、左下、右上和右下4个网格顶点的集合来描述,
对应表示 的作为第1个网格顶点的左上网格顶点、作为第2个网格顶点
的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示 各自的期望网格顶点, 以 的水平坐标位置 和垂
直坐标位置 来描述, 以 的水平坐标
位置 和垂直坐标位置 来描述, 以
的 水 平坐 标 位置 和 垂 直坐 标位 置 来描 述 ,
以 的水平坐标位置 和垂直坐标位置 来描述,
步骤七:{L(x,y)}中的每个四边形网格对应有目标四边形网格,将UL,k对应的目标四边形网格记为 同样,{R(x,y)}中的每个四边形网格对应有目标四边形网格,将UR,k对应的目标四边形网格记为 其中, 通过其左上、左下、右上和右下4个网格顶点的集合来描述, 对应表示 的作为第1个网格顶点的
左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示 各自的目标网格顶点,
以 的水平坐标位置 和垂直坐标位置 来描述, 以 的水
平坐标位置 和垂直坐标位置 来描述, 以 的水平坐标位置
和垂直坐标位置 来描述, 以 的水平坐标位置 和垂直坐
标位置 来描述, 通过其左上、左下、右上和右下4个网格顶点的集
合来描述, 对应表示 的作为第1个网格顶
点的左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示 各自对应的目标
网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述, 以 的
水平坐标位置 和垂直坐标位置 来描述, 以 的水平坐标位
置 和垂直坐标位置 来描述,
步骤八:用户通过编辑操作在待处理的立体图像中手工选择对象;然后根据{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格的期望网格,计算{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的坐标偏移能量,记为Eobject, 其中,符号“||||”为求欧
氏距离符号,t为正整数,t=1,2,3,4, 表示 的第t个网格顶点, 表示{L(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合,表示 的第t个网格顶点, 表示 的第t个网格顶点, 表示{R(x,y)}中落于用
户选择的对象内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合, 表示 的第t个网格顶点;
步骤九:根据{L(x,y)}和{R(x,y)}中落于用户选择的对象边界的所有四边形网格的期望网格,计算{L(x,y)}和{R(x,y)}中落于用户选择的对象边界的所有四边形网格对应的目标四边形网格的坐标偏移能量,记为Eedge,
其中, 表示{L(x,y)}中落于用户选择的对象边界的所有四边形网格对应的目标四边形网格的网格顶点构成的集合, 表示{R(x,y)}中落于用户选择的对象边界的所有四边形网格对应的目标四边形网格的网格顶点构成的集合;
步骤十:根据{L(x,y)}和{R(x,y)}中落于背景区域内的所有四边形网格的期望网格,计算{L(x,y)}和{R(x,y)}中落于背景区域内的所有四边形网格对应的目标四边形网格的背景保持能量,记为Eback, 其中,背景区域
为待处理的立体图像中除用户选择的对象所在的区域外的区域, 表示{L(x,y)}中落于背景区域内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合, 表示{R(x,y)}中落于背景区域内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合;
步骤十一:计算{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的尺寸控制能量,记为Eimport,
其中,
表示{L(x,y)}中在水平方向为第j个且在垂直方向为第i
个的网格顶点, 表示{L(x,y)}中在水平方向为第j+1个且在垂直方向为第i个的网格顶点, 表示 对应的目标网格顶点, 表示 对应的目标网格顶点, 表示{R(x,
y)}中在水平方向为第j个且在垂直方向为第i个的网格顶点, 表示{R(x,y)}中在水平方向为第j+1个且在垂直方向为第i个的网格顶点, 表示 对应的目标网格顶点,
表示 对应的目标网格顶点,s表示用户指定的缩放因子;
步骤十二:计算{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的左右一致性能量,记为Edepth,
其中, 表示 的水平坐标位
置, 表示 的水平坐标位置, 表示 的垂直坐标位置, 表示 的垂
直坐标位置, 表示{dL(x,y)}中坐标位置为 的像素点的像素值, 表
示UR,k的第t个网格顶点 的水平坐标位置, 表示UR,k的第t个网格顶点 的垂直坐标位置,e表示待处理的立体图像的左视点与右视点之间的水平基线距离;
步骤十三:根据Eobject、Eedge、Eback、Eimport和Edepth,计算{L(x,y)}和{R(x,y)}中的所有四边形网格对应的目标四边形网格的总能量,记为Etotal,Etotal=λ1Eobject+λ2Eedge+λ3Eback+λ
4Eimport+λ5Edepth;然后通过最小二乘优化求解 得到{L(x,y)}中的所有四边形网格对应的最佳目标四边形网格构成的集合及{R(x,y)}中的所有四边形网格对应的最佳目标四边形网格构成的集合,对应记为 及
接着计算{L(x,y)}中的每个四边形网格
对应的最佳目标四边形网格的仿射变换矩阵,将UL,k对应的最佳目标四边形网格 的仿射变换矩阵记为
并计算{R(x,y)}中的每个四边形网格对应的最
佳目标四边形网格的仿射变换矩阵,将UR,k对应的最佳目标四边形网格 的仿射变换矩阵记为
其中,λ1、λ2、λ3、λ4、λ5均为加权参数,min()为取最小值函数, 表示{L(x,y)}中的所有四边形网格对应的目标四边形网格构成的集合, 表
示{R(x ,y)}中的所有四边形网格对应的目标四边形网格构成的集合,
表示UL,k对应的最佳目标四边形网格, 表示UR,k对应的最佳
目标四边形网格, 通过其左上、左下、右上和右下4个网格顶点的集合来描述,
对应表示 的第1个网格顶点、第2
个网格顶点、第3个网格顶点、第4个网格顶点, 通过其左上、左下、右上和右下4个网格顶点的集合来描述, 对应表示 的
T
第1个网格顶点、第2个网格顶点、第3个网格顶点、第4个网格顶点,(AL,k) 为AL,k的转置,T ‑1 T
((AL,k) AL,k) 为(AL,k) AL,k的逆, 和 对应表示 的水平坐标位置和垂直坐标位置, 和 对应表示 的水平坐标位置和垂直坐标位置, 和 对应表示
的水平坐标位置和垂直坐标位置, 和 对应表示 的水平坐标位置和垂直
T T ‑1 T
坐标位置,(AR,k) 为AR,k的转置,((AR,k)AR,k) 为(AR,k) AR,k的逆, 和 对应表示的水平坐标位置和垂直坐标位置, 和 对应表示 的水平坐标位置和垂直坐标
位置, 和 对应表示 的水平坐标位置和垂直坐标位置, 和 对应表示
的水平坐标位置和垂直坐标位置;
步骤十四:根据{L(x,y)}中的每个四边形网格对应的最佳目标四边形网格的仿射变换矩阵,计算{L(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置,将UL,k中水平坐标位置为x'L,k和垂直坐标位置为y'L,k的像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置对应记为 和
然后根据{L(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩
阵变换后的水平坐标位置和垂直坐标位置,获取变焦后的左视点图像,记为 其
中,1≤x'L,k≤W,1≤y'L,k≤H, 1≤x'≤W',1≤y'≤H,W'表示变
焦后的立体图像的宽度,H亦为变焦后的立体图像的高度, 表示 中坐标位
置为(x',y')的像素点的像素值;
同样,根据{R(x,y)}中的每个四边形网格对应的最佳目标四边形网格的仿射变换矩阵,计算{R(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置,将UR,k中水平坐标位置为x'R,k和垂直坐标位置为y'R,k的像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置对应记为 和
然后根据{R(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩
阵变换后的水平坐标位置和垂直坐标位置,获取变焦后的右视点图像,记为 其
中,1≤x'R,k≤W,1≤y'R,k≤H, 1≤x'≤W',1≤y'≤H, 表
示 中坐标位置为(x',y')的像素点的像素值;
由变焦后的左视点图像和变焦后的右视点图像构成变焦后的立体图像。
说明书

技术领域

[0001] 本发明涉及一种图像信号的处理方法,尤其是涉及一种立体图像变焦方法。

背景技术

[0002] 随着3D技术的快速发展,立体图像和立体视频已越来越受到人们的关注和喜爱。特别是随着手机、平板和个人电脑的发展,移动端的显示也越来越受到用户们的欢迎。然而,在移动端屏幕上显示立体图像和立体视频时,立体感会随之减弱甚至消失,电影制造者试图通过调整特定对象的大小和深度来使得观看者将注意力集中在该特定对象上,以提升该特定对象的立体感。因此,对于在移动端屏幕上显示立体图像和立体视频时,通过调整相机的聚焦深度可以增强对象的关注度和深度感。
[0003] 在立体图像的聚焦深度调整上,大致可分为两种方法:使用深度图进行深度调整和不使用深度图进行深度调整。前一类方法需要精确的深度图,并利用虚拟视点绘制技术来产生深度调整后的立体图像;后一类方法是直接通过对立体图像中的像素点搬移来达到深度调整的目的的,然而该方法在深度调整后常常会产生空洞或者导致对象形变,因此,如何减少深度调整后的立体图像的图像形变,如何根据用户指定的相机焦距控制对象的调整以突出显著内容,都是在对立体图像进行聚焦深度调整过程中需要研究解决的问题。

发明内容

[0004] 本发明所要解决的技术问题是提供一种立体图像变焦方法,其变焦后的立体图像具有近距离观看的沉浸感、具有较高的深度感,能够获得更高的三维体验质量。
[0005] 本发明解决上述技术问题所采用的技术方案为:一种立体图像变焦方法,其特征在于包括以下步骤:
[0006] 步骤一:将待处理的宽度为W且高度为H的立体图像的左视点图像、右视点图像及左视差图像对应记为{L(x,y)}、{R(x,y)}及{dL(x,y)};其中,W和H均能够被2整除,1≤x≤W,1≤y≤H,L(x,y)表示{L(x,y)}中坐标位置为(x,y)的像素点的像素值,{R(x,y)}表示{R(x,y)}中坐标位置为(x,y)的像素点的像素值,dL(x,y)表示{dL(x,y)}中坐标位置为(x,y)的像素点的像素值;
[0007] 步骤二:采用SIFT‑Flow方法建立{L(x,y)}与{R(x,y)}之间的匹配关系,得到{L(x,y)}中的每个像素点的SIFT‑Flow向量,将{L(x,y)}中坐标位置为(x,y)的像素点的SIFT‑Flow向量记为vL(x,y), 其中,用于表示水平方向,用于表示垂直方向, 表示vL(x,y)的水平偏移量, 表示vL(x,y)的垂直偏移量;
[0008] 步骤三:将{L(x,y)}的图像主点的坐标位置记为 将{R(x,y)}的图像主点的坐标位置记为 然后根据{L(x,y)}中坐标位置为
的像素点即{L(x,y)}的图像主点的SIFT‑Flow向量,确定{L(x,y)}中坐标位置为
的像素点即{L(x,y)}的图像主点在{R(x,y)}中匹配的像素点,将该匹配的像素点
的坐标位置记为 并计算{L(x,y)}和{R
(x,y)}的垂直偏差,记为b, 其中, 表示{L(x,y)}中坐标位置为
的像素点即{L(x,y)}的图像主点的SIFT‑Flow向量 的水平偏移量,
表示{L(x,y)}中坐标位置为 的像素点即{L(x,y)}的图像主点的SIFT‑
Flow向量 的垂直偏移量;
[0009] 步骤四:将{L(x,y)}和{R(x,y)}的焦距记为f0,将{L(x,y)}和{R(x,y)}的物距记为 然后根据用户指定的焦距f,计算{L(x,y)}和{R(x,y)}的放大倍数,记为a, 其中,θ为由用户指定的焦距f及{L(x,y)}和{R(x,y)}的物距 确定的像距, θ0为由{L(x,y)}和{R(x,y)}的焦距f0及{L(x,y)}和{R(x,y)}的物距 确定的像距,
[0010] 步骤五:将{L(x,y)}分割成M个互不重叠的尺寸大小为22×22的四边形网格,将{L(x,y)}中的第k个四边形网格记为UL,k;然后根据{L(x,y)}中的所有四边形网格和{dL(x,y)},获取{R(x,y)}中的所有互不重叠的尺寸大小为22×22的四边形网格,将{R(x,y)}中的第k个四边形网格记为UR,k;其中, 符号 为向下取整运算符号,k为正整数,1≤k≤M,UL,k通过其左上、左下、右上和右下4个网格顶点的集合来描述,对应表示UL,k的作为第1个网格顶点的左上网格
顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
UR,k通过其左上、左下、右上和右下4个网格顶点的集合来描述,
对应表示UR,k的作为第1个网格顶点的左上网
格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第
4个网格顶点的右下网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
表示{dL(x,y)}中坐标
位置为 的像素点的像素值, 以 的水平坐标位置 和垂直坐标位置 来
描述, 表示{dL(x,y)}中
坐标位置为 的像素点的像素值, 以 的水平坐标位置 和垂直坐标位置
来描述, 表示{dL
(x,y)}中坐标位置为 的像素点的像素值, 以 的水平坐标位置 和垂直
坐标位置 来描述,
表示{dL(x,y)}中坐标位置为 的像素点的像素值;
[0011] 步骤六:根据{L(x,y)}和{R(x,y)}的放大倍数a及{L(x,y)}和{R(x,y)}的垂直偏差b,计算{L(x,y)}中的每个四边形网格的期望网格,将UL,k的期望网格记为 同样,根据{L(x,y)}和{R(x,y)}的放大倍数a及{L(x,y)}和{R(x,y)}的垂直偏差b,计算{R(x,y)}中的每个四边形网格的期望网格,将UR,k的期望网格记为 其中, 通过其左上、左下、右上和右下4个网格顶点的集合来描述, 对应表示的作为第1个网格顶点的左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示
各自的期望网格顶点, 以 的水平坐标位置 和垂直坐标位置
来描述, 以 的水平坐标位置 和垂直
坐标位置 来描述, 以 的水平坐标位
置 和垂直坐标位置 来描述, 以 的
水平坐标位置 和垂直坐标位置 来描述,
通过其左上、左下、右上和右下4个网格顶
点的集合来描述, 对应表示 的作为第1个
网格顶点的左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示 各自的期
望网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位
置 来描述, 以 的水平坐标位置
和垂直坐标位置 来描述, 以 的水平
坐标位置 和垂直坐标位置 来描述,
[0012] 步骤七:{L(x,y)}中的每个四边形网格对应有目标四边形网格,将UL,k对应的目标四边形网格记为 同样,{R(x,y)}中的每个四边形网格对应有目标四边形网格,将UR,k对应的目标四边形网格记为 其中, 通过其左上、左下、右上和右下4个网格顶点的集合来描述, 对应表示 的作为第1个网格顶点的左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示 各自的目标网格
顶点, 以 的水平坐标位置 和垂直坐标位置 来描述, 以
的水平坐标位置 和垂直坐标位置 来描述, 以 的水平坐
标位置 和垂直坐标位置 来描述, 以 的水平坐标位置 和
垂直坐标位置 来描述, 通过其左上、左下、右上和右下4个网格顶
点的集合来描述, 对应表示 的作为第1个
网格顶点的左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示 各自对应
的目标网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
[0013] 步骤八:用户通过编辑操作在待处理的立体图像中手工选择对象;然后根据{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格的期望网格,计算{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的坐标偏移能量,记为Eobject, 其中,符号“||||”为求欧氏距离符号,t为正整数,t=1,2,3,4, 表示 的第t个网格顶点, 表示{L(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合, 表示 的第t个网格顶点, 表示 的第t个网格顶点, 表示{R(x,y)}中落
于用户选择的对象内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合,表示 的第t个网格顶点;
[0014] 步骤九:根据{L(x,y)}和{R(x,y)}中落于用户选择的对象边界的所有四边形网格的期望网格,计算{L(x,y)}和{R(x,y)}中落于用户选择的对象边界的所有四边形网格对应的目标四边形网格的坐标偏移能量,记为Eedge,其中, 表示{L(x,y)}中落于用户选择的
对象边界的所有四边形网格对应的目标四边形网格的网格顶点构成的集合, 表示{R(x,y)}中落于用户选择的对象边界的所有四边形网格对应的目标四边形网格的网格顶点构成的集合;
[0015] 步骤十:根据{L(x,y)}和{R(x,y)}中落于背景区域内的所有四边形网格的期望网格,计算{L(x,y)}和{R(x,y)}中落于背景区域内的所有四边形网格对应的目标四边形网格的背景保持能量,记为Eback, 其中,背景区域为待处理的立体图像中除用户选择的对象所在的区域外的区域, 表示{L(x,y)}中落于背景区域内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合, 表示{R(x,y)}中落于背景区域内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合;
[0016] 步骤十一:计算{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的尺寸控制能量,记为Eimport,其中,
表示{L(x,y)}中在水平方向为第j个且在垂直方向为第
i个的网格顶点, 表示{L(x,y)}中在水平方向为第j+1个且在垂直方向为第i个的网格顶点, 表示 对应的目标网格顶点, 表示 对应的目标网格顶点, 表示{R(x,
y)}中在水平方向为第j个且在垂直方向为第i个的网格顶点, 表示{R(x,y)}中在水平方向为第j+1个且在垂直方向为第i个的网格顶点, 表示 对应的目标网格顶点,
表示 对应的目标网格顶点,s表示用户指定的缩放因子;
[0017] 步骤十二:计算{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的左右一致性能量,记为Edepth,其中, 表示 的水平坐标位
置, 表示 的水平坐标位置, 表示 的垂直坐标位置, 表示 的
垂直坐标位置, 表示{dL(x,y)}中坐标位置为 的像素点的像素值,
表示UR,k的第t个网格顶点 的水平坐标位置, 表示UR,k的第t个网格顶点 的垂直坐标位置,e表示待处理的立体图像的左视点与右视点之间的水平基线距离;
[0018] 步骤十三:根据Eobject、Eedge、Eback、Eimport和Edepth,计算{L(x,y)}和{R(x,y)}中的所有四边形网格对应的目标四边形网格的总能量,记为Etotal,Etotal=λ1Eobject+λ2Eedge+λ3Eback+λ4Eimport+λ5Edepth;然后通过最小二乘优化求解 得到{L(x,y)}中的所有四边形网格对应的最佳目标四边形网格构成的集合及{R(x,y)}中的所有四边形网格对应的最佳目标四边形网格构成的集合,对应记为 及接着计算{L(x,y)}中的每个四边形网格
对应的最佳目标四边形网格的仿射变换矩阵,将UL,k对应的最佳目标四边形网格 的仿射变换矩阵记为
并计算{R(x,y)}中的每个四边形网格对应的最
佳目标四边形网格的仿射变换矩阵,将UR,k对应的最佳目标四边形网格 的仿射变换矩阵记为
其中,λ1、λ2、λ3、λ4、λ5均为加权参数,min()为取最小值函数, 表示{L(x,y)}中的所有四边形网格对应的目标四边形网格构成的集合, 表
示{R(x ,y)}中的所有四边形网格对应的目标四边形网格构成的集合,
表示UL,k对应的最佳目标四边形网格, 表示UR,k对应的最佳
目标四边形网格, 通过其左上、左下、右上和右下4个网格顶点的集合来描述,
对应表示 的第1个网格顶点、第
2个网格顶点、第3个网格顶点、第4个网格顶点, 通过其左上、左下、右上和右下4个网格顶点的集合来描述, 对应表示
T
的第1个网格顶点、第2个网格顶点、第3个网格顶点、第4个网格顶点,(AL,k) 为AL,k的转置,T ‑1 T
((AL,k)AL,k) 为(AL,k)AL,k的逆, 和 对应表示 的水平坐标位置和垂直坐标位
置, 和 对应表示 的水平坐标位置和垂直坐标位置, 和 对应表示
的水平坐标位置和垂直坐标位置, 和 对应表示 的水平坐标位置和垂直
T T ‑1 T
坐标位置,(AR,k) 为AR,k的转置,((AR,k) AR,k) 为(AR,k) AR,k的逆, 和 对应表示的水平坐标位置和垂直坐标位置, 和 对应表示 的水平坐标位置和垂直坐标
位置, 和 对应表示 的水平坐标位置和垂直坐标位置, 和 对应表示
的水平坐标位置和垂直坐标位置;
[0019] 步骤十四:根据{L(x,y)}中的每个四边形网格对应的最佳目标四边形网格的仿射变换矩阵,计算{L(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置,将UL,k中水平坐标位置为x'L,k和垂直坐标位置为y'L,k的像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置对应记为 和然后根据{L(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩
阵变换后的水平坐标位置和垂直坐标位置,获取变焦后的左视点图像,记为 其
中,1≤x'L,k≤W,1≤y'L,k≤H, 1≤x'≤W',1≤y'≤H,W'表示变
焦后的立体图像的宽度,H亦为变焦后的立体图像的高度, 表示 中坐标位
置为(x',y')的像素点的像素值;
[0020] 同样,根据{R(x,y)}中的每个四边形网格对应的最佳目标四边形网格的仿射变换矩阵,计算{R(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置,将UR,k中水平坐标位置为x'R,k和垂直坐标位置为y'R,k的像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置对应记为 和然后根据{R(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩
阵变换后的水平坐标位置和垂直坐标位置,获取变焦后的右视点图像,记为 其
中,1≤x'R,k≤W,1≤y'R,k≤H, 1≤x'≤W',1≤y'≤H, 表
示 中坐标位置为(x',y')的像素点的像素值;
[0021] 由变焦后的左视点图像和变焦后的右视点图像构成变焦后的立体图像。
[0022] 与现有技术相比,本发明的优点在于:
[0023] 本发明方法首先获得立体图像的左视点图像和右视点图像中的每个四边形网格的期望网格,然后提取立体图像的左视点图像和右视点图像中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的坐标偏移能量、落于用户选择的对象边界的所有四边形网格对应的目标四边形网格的坐标偏移能量、落于背景区域内的所有四边形网格对应的目标四边形网格的背景保持能量、落于用户选择的对象内的所有四边形网格对应的目标四边形网格的尺寸控制能量、落于用户选择的对象内的所有四边形网格对应的目标四边形网格的左右一致性能量,并通过优化使得总能量最小,进而获取立体图像的左视点图像和右视点图像中的每个四边形网格对应的最佳目标四边形网格,并根据每个最佳目标四边形网格的仿射变换矩阵,得到变焦后的左视点图像和变焦后的右视点图像,这样可使得变焦后的立体图像能够保留精确的对象形状和准确的目标聚焦深度,变焦后的立体图像具有近距离观看的沉浸感、具有较高的深度感,能够获得更高的三维体验质量。

实施方案

[0065] 以下结合附图实施例对本发明作进一步详细描述。
[0066] 本发明提出的一种立体图像变焦方法,其总体实现框图如图1所示,其包括以下步骤:
[0067] 步骤一:将待处理的宽度为W且高度为H的立体图像的左视点图像、右视点图像及左视差图像对应记为{L(x,y)}、{R(x,y)}及{dL(x,y)};其中,W和H均能够被2整除,1≤x≤W,1≤y≤H,L(x,y)表示{L(x,y)}中坐标位置为(x,y)的像素点的像素值,{R(x,y)}表示{R(x,y)}中坐标位置为(x,y)的像素点的像素值,dL(x,y)表示{dL(x,y)}中坐标位置为(x,y)的像素点的像素值。
[0068] 步骤二:采用现有的SIFT‑Flow方法建立{L(x,y)}与{R(x,y)}之间的匹配关系,得到{L(x,y)}中的每个像素点的SIFT‑Flow向量,将{L(x,y)}中坐标位置为(x,y)的像素点的SIFT‑Flow向量记为vL(x,y), 其中,用于表示水平方向, 用于表示垂直方向, 表示vL(x,y)的水平偏移量, 表示vL(x,y)的垂直偏移量。
[0069] 步骤三:将{L(x,y)}的图像主点的坐标位置记为 将{R(x,y)}的图像主点的坐标位置记为 然后根据{L(x,y)}中坐标位置为
的像素点即{L(x,y)}的图像主点的SIFT‑Flow向量,确定{L(x,y)}中坐标位置为
的像素点即{L(x,y)}的图像主点在{R(x,y)}中匹配的像素点,将该匹配的像素点
的坐标位置记为 并计算{L(x,y)}和{R
(x,y)}的垂直偏差,记为b, 其中, 表示{L(x,y)}中坐标位置为
的像素点即{L(x,y)}的图像主点的SIFT‑Flow向量 的水平偏移量,
表示{L(x,y)}中坐标位置为 的像素点即{L(x,y)}的图像主点的SIFT‑
Flow向量 的垂直偏移量。
[0070] 步骤四:将{L(x,y)}和{R(x,y)}的焦距记为f0,将{L(x,y)}和{R(x,y)}的物距记为 然后根据用户指定的焦距f,计算{L(x,y)}和{R(x,y)}的放大倍数,记为a, 其中,θ为由用户指定的焦距f及{L(x,y)}和{R(x,y)}的物距 确定的像距, θ0为由{L(x,y)}和{R(x,y)}的焦距f0及{L(x,y)}和{R(x,y)}的物距 确定的像距, 在本实施例中取f0=25.00毫米, 毫米,θ0=25.32毫米,用户通过改变{L(x,y)}和{R(x,y)}的焦距来调节像距,从而达到图像缩放的目的。
[0071] 步骤五:将{L(x,y)}分割成M个互不重叠的尺寸大小为22×22的四边形网格,将{L(x,y)}中的第k个四边形网格记为UL,k;然后根据{L(x,y)}中的所有四边形网格和{dL(x,y)},获取{R(x,y)}中的所有互不重叠的尺寸大小为22×22的四边形网格,将{R(x,y)}中的第k个四边形网格记为UR,k;其中, 符号 为向下取整运算符号,k为正整数,1≤k≤M,UL,k通过其左上、左下、右上和右下4个网格顶点的集合来描述,对应表示UL,k的作为第1个网格顶点的左上网格
顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
UR,k通过其左上、左下、右上和右下4个网格顶点的集合来描述,
对应表示UR,k的作为第1个网格顶点的左上网
格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第
4个网格顶点的右下网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
表示{dL(x,y)}中坐标
位置为 的像素点的像素值, 以 的水平坐标位置 和垂直坐标位置 来
描述, 表示{dL(x,y)}中
坐标位置为 的像素点的像素值, 以 的水平坐标位置 和垂直坐标位置
来描述, 表示{dL
(x,y)}中坐标位置为 的像素点的像素值, 以 的水平坐标位置 和垂直
坐标位置 来描述,
表示{dL(x,y)}中坐标位置为 的像素点的像素值。
[0072] 步骤六:根据{L(x,y)}和{R(x,y)}的放大倍数a及{L(x,y)}和{R(x,y)}的垂直偏差b,计算{L(x,y)}中的每个四边形网格的期望网格,将UL,k的期望网格记为 同样,根据{L(x,y)}和{R(x,y)}的放大倍数a及{L(x,y)}和{R(x,y)}的垂直偏差b,计算{R(x,y)}中的每个四边形网格的期望网格,将UR,k的期望网格记为 其中, 通过其左上、左下、右上和右下4个网格顶点的集合来描述, 对应表示的作为第1个网格顶点的左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示
各自的期望网格顶点, 以 的水平坐标位置 和垂直坐标位置
来描述, 以 的水平坐标位置 和垂直
坐标位置 来描述, 以 的水平坐标位
置 和垂直坐标位置 来描述, 以 的
水平坐标位置 和垂直坐标位置 来描述,
通过其左上、左下、右上和右下4个网格顶点的集合来描述,
对应表示 的作为第1个网格顶点的左上网格顶点、作为第2个网格顶
点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示 各自的期望网格顶点, 以 的水平坐标位置 和
垂直坐标位置 来描述, 以 的水平坐
标位置 和垂直坐标位置 来描述, 以
的 水 平 坐标 位 置 和垂 直 坐 标 位 置 来 描 述 ,
以 的水平坐标位置 和垂直坐标位置 来描述,
[0073] 步骤七:{L(x,y)}中的每个四边形网格对应有目标四边形网格,将UL,k对应的目标四边形网格记为 同样,{R(x,y)}中的每个四边形网格对应有目标四边形网格,将UR,k对应的目标四边形网格记为 其中, 通过其左上、左下、右上和右下4个网格顶点的集合来描述, 对应表示 的作为第1个网格顶点的左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示 各自的目标网格
顶点, 以 的水平坐标位置 和垂直坐标位置 来描述, 以
的水平坐标位置 和垂直坐标位置 来描述, 以 的水平坐
标位置 和垂直坐标位置 来描述, 以 的水平坐标位置 和
垂直坐标位置 来描述, 通过其左上、左下、右上和右下4个网格顶
点的集合来描述, 对应表示 的作为第1个
网格顶点的左上网格顶点、作为第2个网格顶点的左下网格顶点、作为第3个网格顶点的右上网格顶点、作为第4个网格顶点的右下网格顶点,也对应表示 各自对应
的目标网格顶点, 以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
以 的水平坐标位置 和垂直坐标位置 来描述,
[0074] 步骤八:用户通过编辑操作在待处理的立体图像中手工选择对象;然后根据{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格的期望网格,计算{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的坐标偏移能量,记为Eobject, 其中,符号“||||”为求欧氏距离符号,t为正整数,t=1,2,3,4, 表示 的第t个网格顶点, 表示{L(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合, 表示 的第t个网格顶点, 表示 的第t个网格顶点, 表示{R(x,y)}中落
于用户选择的对象内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合,表示 的第t个网格顶点。
[0075] 步骤九:根据{L(x,y)}和{R(x,y)}中落于用户选择的对象边界的所有四边形网格的期望网格,计算{L(x,y)}和{R(x,y)}中落于用户选择的对象边界的所有四边形网格对应的目标四边形网格的坐标偏移能量,记为Eedge,其中, 表示{L(x,y)}中落于用户选择的
对象边界的所有四边形网格对应的目标四边形网格的网格顶点构成的集合, 表示{R(x,y)}中落于用户选择的对象边界的所有四边形网格对应的目标四边形网格的网格顶点构成的集合。
[0076] 步骤十:根据{L(x,y)}和{R(x,y)}中落于背景区域内的所有四边形网格的期望网格,计算{L(x,y)}和{R(x,y)}中落于背景区域内的所有四边形网格对应的目标四边形网格的背景保持能量,记为Eback, 其中,背景区域为待处理的立体图像中除用户选择的对象所在的区域外的区域, 表示{L(x,y)}中落于背景区域内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合, 表示{R(x,y)}中落于背景区域内的所有四边形网格对应的目标四边形网格的网格顶点构成的集合。
[0077] 步骤十一:计算{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的尺寸控制能量,记为Eimport,其中,
表示{L(x,y)}中在水平方向为第j个且在垂直方向为第i
个的网格顶点, 表示{L(x,y)}中在水平方向为第j+1个且在垂直方向为第i个的网格顶点, 表示 对应的目标网格顶点, 表示 对应的目标网格顶点, 表示{R(x,
y)}中在水平方向为第j个且在垂直方向为第i个的网格顶点, 表示{R(x,y)}中在水平方向为第j+1个且在垂直方向为第i个的网格顶点, 表示 对应的目标网格顶点,
表示 对应的目标网格顶点,s表示用户指定的缩放因子,在本实施例中取s=1,即保持重要内容的原始尺寸。
[0078] 步骤十二:计算{L(x,y)}和{R(x,y)}中落于用户选择的对象内的所有四边形网格对应的目标四边形网格的左右一致性能量,记为Edepth,其中, 表示 的水平坐标位
置, 表示 的水平坐标位置, 表示 的垂直坐标位置, 表示 的垂
直坐标位置, 表示{dL(x,y)}中坐标位置为 的像素点的像素值, 表
示UR,k的第t个网格顶点 的水平坐标位置, 表示UR,k的第t个网格顶点 的垂直坐标位置,e表示待处理的立体图像的左视点与右视点之间的水平基线距离,在本实施例中取e=176.252毫米。
[0079] 步骤十三:根据Eobject、Eedge、Eback、Eimport和Edepth,计算{L(x,y)}和{R(x,y)}中的所有四边形网格对应的目标四边形网格的总能量,记为Etotal,Etotal=λ1Eobject+λ2Eedge+λ3Eback+λ4Eimport+λ5Edepth;然后通过最小二乘优化求解 得到{L(x,y)}中的所有四边形网格对应的最佳目标四边形网格构成的集合及{R(x,y)}中的所有四边形网格对应的最佳目标四边形网格构成的集合,对应记为 及接着计算{L(x,y)}中的每个四边形网格
对应的最佳目标四边形网格的仿射变换矩阵,将UL,k对应的最佳目标四边形网格 的仿射变换矩阵记为
并计算{R(x,y)}中的每个四边形网格对应的最
佳目标四边形网格的仿射变换矩阵,将UR,k对应的最佳目标四边形网格 的仿射变换矩阵记为
其中,λ1、λ2、λ3、λ4、λ5均为加权参数,在本实施例中取λ1=3、λ1=4、λ3=2、λ4=4、λ5=1,min()为取最小值函数, 表示{L(x,y)}中的所有四边形网格对应的目标四边形网格构成的集合, 表示{R(x,y)}中的所有四边形网格对应的目
标四边形网格构成的集合, 表示UL,k对应的最佳目标四边形网
格, 表示UR,k对应的最佳目标四边形网格, 通过其左上、左下、右上和右下4个网格顶点的集合来描述, 对应表示
的第1个网格顶点、第2个网格顶点、第3个网格顶点、第4个网格顶点, 通过其左上、左下、右上和右下4个网格顶点的集合来描述 ,
对应表示 的第1个网格顶点、第2个网格顶点、第3个网格顶点、第
T T ‑1 T
4个网格顶点,(AL,k) 为AL,k的转置,((AL,k) AL,k) 为(AL,k) AL,k的逆, 和 对应表示的水平坐标位置和垂直坐标位置, 和 对应表示 的水平坐标位置和垂直
坐标位置, 和 对应表示 的水平坐标位置和垂直坐标位置, 和 对应
T T ‑1
表示 的水平坐标位置和垂直坐标位置,(AR,k) 为AR,k的转置,((AR,k) AR,k) 为(AR,k)T
AR,k的逆, 和 对应表示 的水平坐标位置和垂直坐标位置, 和 对应表
示 的水平坐标位置和垂直坐标位置, 和 对应表示 的水平坐标位置和垂
直坐标位置, 和 对应表示 的水平坐标位置和垂直坐标位置。
[0080] 步骤十四:根据{L(x,y)}中的每个四边形网格对应的最佳目标四边形网格的仿射变换矩阵,计算{L(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置,将UL,k中水平坐标位置为x'L,k和垂直坐标位置为y'L,k的像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置对应记为 和然后根据{L(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩
阵变换后的水平坐标位置和垂直坐标位置,获取变焦后的左视点图像,记为 其
中,1≤x'L,k≤W,1≤y'L,k≤H, 1≤x'≤W',1≤y'≤H,W'表示变
焦后的立体图像的宽度,H亦为变焦后的立体图像的高度, 表示 中坐标位
置为(x',y')的像素点的像素值。
[0081] 同样,根据{R(x,y)}中的每个四边形网格对应的最佳目标四边形网格的仿射变换矩阵,计算{R(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置,将UR,k中水平坐标位置为x'R,k和垂直坐标位置为y'R,k的像素点经仿射变换矩阵变换后的水平坐标位置和垂直坐标位置对应记为 和然后根据{R(x,y)}中的每个四边形网格中的每个像素点经仿射变换矩
阵变换后的水平坐标位置和垂直坐标位置,获取变焦后的右视点图像,记为 其
中,1≤x'R,k≤W,1≤y'R,k≤H, 1≤x'≤W',1≤y'≤H, 表
示 中坐标位置为(x',y')的像素点的像素值。
[0082] 由变焦后的左视点图像和变焦后的右视点图像构成变焦后的立体图像。
[0083] 为了进一步说明本发明方法的可行性和有效性,对本发明方法进行试验。
[0084] 以下就利用本发明方法对Image1、Image2、Image3、Image4和Image5五幅立体图像进行变焦实验。图2a给出了“Image1”的原始立体图像的左视点图像,图2b给出了“Image1”的原始立体图像的右视点图像,图2c给出了“Image1”的焦距f=27.25毫米的变焦后的立体图像的左视点图像,图2d给出了“Image1”的焦距f=27.25毫米的变焦后的立体图像的右视点图像,图2e给出了“Image1”的焦距f=27.99毫米的变焦后的立体图像的左视点图像,图2f给出了“Image1”的焦距f=27.99毫米的变焦后的立体图像的右视点图像,图2g给出了“Image1”的焦距f=28.74毫米的变焦后的立体图像的左视点图像,图2h给出了“Image1”的焦距f=28.74毫米的变焦后的立体图像的右视点图像;图3a给出了“Image2”的原始立体图像的左视点图像,图3b给出了“Image2”的原始立体图像的右视点图像,图3c给出了“Image2”的焦距f=27.25毫米的变焦后的立体图像的左视点图像,图3d给出了“Image2”的焦距f=27.25毫米的变焦后的立体图像的右视点图像,图3e给出了“Image2”的焦距f=
27.99毫米的变焦后的立体图像的左视点图像,图3f给出了“Image2”的焦距f=27.99毫米的变焦后的立体图像的右视点图像,图3g给出了“Image2”的焦距f=28.74毫米的变焦后的立体图像的左视点图像,图3h给出了“Image2”的焦距f=28.74毫米的变焦后的立体图像的右视点图像;图4a给出了“Image3”的原始立体图像的左视点图像,图4b给出了“Image3”的原始立体图像的右视点图像,图4c给出了“Image3”的焦距f=27.25毫米的变焦后的立体图像的左视点图像,图4d给出了“Image3”的焦距f=27.25毫米的变焦后的立体图像的右视点图像,图4e给出了“Image3”的焦距f=27.99毫米的变焦后的立体图像的左视点图像,图4f给出了“Image3”的焦距f=27.99毫米的变焦后的立体图像的右视点图像,图4g给出了“Image3”的焦距f=28.74毫米的变焦后的立体图像的左视点图像,图4h给出了“Image3”的焦距f=28.74毫米的变焦后的立体图像的右视点图像;图5a给出了“Image4”的原始立体图像的左视点图像,图5b给出了“Image4”的原始立体图像的右视点图像,图5c给出了“Image4”的焦距f=27.25毫米的变焦后的立体图像的左视点图像,图5d给出了“Image4”的焦距f=27.25毫米的变焦后的立体图像的右视点图像,图5e给出了“Image4”的焦距f=
27.99毫米的变焦后的立体图像的左视点图像,图5f给出了“Image4”的焦距f=27.99毫米的变焦后的立体图像的右视点图像,图5g给出了“Image4”的焦距f=28.74毫米的变焦后的立体图像的左视点图像,图5h给出了“Image4”的焦距f=28.74毫米的变焦后的立体图像的右视点图像;图6a给出了“Image5”的原始立体图像的左视点图像,图6b给出了“Image5”的原始立体图像的右视点图像,图6c给出了“Image5”的焦距f=27.25毫米的变焦后的立体图像的左视点图像,图6d给出了“Image5”的焦距f=27.25毫米的变焦后的立体图像的右视点图像,图6e给出了“Image5”的焦距f=27.99毫米的变焦后的立体图像的左视点图像,图6f给出了“Image5”的焦距f=27.99毫米的变焦后的立体图像的右视点图像,图6g给出了“Image5”的焦距f=28.74毫米的变焦后的立体图像的左视点图像,图6h给出了“Image5”的焦距f=28.74毫米的变焦后的立体图像的右视点图像。从图2a至图6h中可以看出,采用本发明方法得到的变焦后的立体图像能够较好地保留对象形状,且可以根据用户的选择增加重要对象的尺寸。

附图说明

[0024] 图1为本发明方法的总体实现框图;
[0025] 图2a为“Image1”的原始立体图像的左视点图像;
[0026] 图2b为“Image1”的原始立体图像的右视点图像;
[0027] 图2c为“Image1”的焦距f=27.25毫米的变焦后的立体图像的左视点图像;
[0028] 图2d为“Image1”的焦距f=27.25毫米的变焦后的立体图像的右视点图像;
[0029] 图2e为“Image1”的焦距f=27.99毫米的变焦后的立体图像的左视点图像;
[0030] 图2f为“Image1”的焦距f=27.99毫米的变焦后的立体图像的右视点图像;
[0031] 图2g为“Image1”的焦距f=28.74毫米的变焦后的立体图像的左视点图像;
[0032] 图2h为“Image1”的焦距f=28.74毫米的变焦后的立体图像的右视点图像;
[0033] 图3a为“Image2”的原始立体图像的左视点图像;
[0034] 图3b为“Image2”的原始立体图像的右视点图像;
[0035] 图3c为“Image2”的焦距f=27.25毫米的变焦后的立体图像的左视点图像;
[0036] 图3d为“Image2”的焦距f=27.25毫米的变焦后的立体图像的右视点图像;
[0037] 图3e为“Image2”的焦距f=27.99毫米的变焦后的立体图像的左视点图像;
[0038] 图3f为“Image2”的焦距f=27.99毫米的变焦后的立体图像的右视点图像;
[0039] 图3g为“Image2”的焦距f=28.74毫米的变焦后的立体图像的左视点图像;
[0040] 图3h为“Image2”的焦距f=28.74毫米的变焦后的立体图像的右视点图像;
[0041] 图4a为“Image3”的原始立体图像的左视点图像;
[0042] 图4b为“Image3”的原始立体图像的右视点图像;
[0043] 图4c为“Image3”的焦距f=27.25毫米的变焦后的立体图像的左视点图像;
[0044] 图4d为“Image3”的焦距f=27.25毫米的变焦后的立体图像的右视点图像;
[0045] 图4e为“Image3”的焦距f=27.99毫米的变焦后的立体图像的左视点图像;
[0046] 图4f为“Image3”的焦距f=27.99毫米的变焦后的立体图像的右视点图像;
[0047] 图4g为“Image3”的焦距f=28.74毫米的变焦后的立体图像的左视点图像;
[0048] 图4h为“Image3”的焦距f=28.74毫米的变焦后的立体图像的右视点图像;
[0049] 图5a为“Image4”的原始立体图像的左视点图像;
[0050] 图5b为“Image4”的原始立体图像的右视点图像;
[0051] 图5c为“Image4”的焦距f=27.25毫米的变焦后的立体图像的左视点图像;
[0052] 图5d为“Image4”的焦距f=27.25毫米的变焦后的立体图像的右视点图像;
[0053] 图5e为“Image4”的焦距f=27.99毫米的变焦后的立体图像的左视点图像;
[0054] 图5f为“Image4”的焦距f=27.99毫米的变焦后的立体图像的右视点图像;
[0055] 图5g为“Image4”的焦距f=28.74毫米的变焦后的立体图像的左视点图像;
[0056] 图5h为“Image4”的焦距f=28.74毫米的变焦后的立体图像的右视点图像;
[0057] 图6a为“Image5”的原始立体图像的左视点图像;
[0058] 图6b为“Image5”的原始立体图像的右视点图像;
[0059] 图6c为“Image5”的焦距f=27.25毫米的变焦后的立体图像的左视点图像;
[0060] 图6d为“Image5”的焦距f=27.25毫米的变焦后的立体图像的右视点图像;
[0061] 图6e为“Image5”的焦距f=27.99毫米的变焦后的立体图像的左视点图像;
[0062] 图6f为“Image5”的焦距f=27.99毫米的变焦后的立体图像的右视点图像;
[0063] 图6g为“Image5”的焦距f=28.74毫米的变焦后的立体图像的左视点图像;
[0064] 图6h为“Image5”的焦距f=28.74毫米的变焦后的立体图像的右视点图像。
版权所有:盲专网 ©2023 zlpt.xyz  蜀ICP备2023003576号