首页 > 专利 > 北京市商汤科技开发有限公司 > 图像处理方法及装置、电子设备和存储介质专利详情

图像处理方法及装置、电子设备和存储介质   0    0

有效专利 查看PDF
专利申请流程有哪些步骤?
专利申请流程图
申请
申请号:指国家知识产权局受理一件专利申请时给予该专利申请的一个标示号码。唯一性原则。
申请日:提出专利申请之日。
2019-02-01
申请公布
申请公布指发明专利申请经初步审查合格后,自申请日(或优先权日)起18个月期满时的公布或根据申请人的请求提前进行的公布。
申请公布号:专利申请过程中,在尚未取得专利授权之前,国家专利局《专利公报》公开专利时的编号。
申请公布日:申请公开的日期,即在专利公报上予以公开的日期。
2019-06-25
授权
授权指对发明专利申请经实质审查没有发现驳回理由,授予发明专利权;或对实用新型或外观设计专利申请经初步审查没有发现驳回理由,授予实用新型专利权或外观设计专利权。
2021-02-19
预估到期
发明专利权的期限为二十年,实用新型专利权期限为十年,外观设计专利权期限为十五年,均自申请日起计算。专利届满后法律终止保护。
2039-02-01
基本信息
有效性 有效专利 专利类型 发明专利
申请号 CN201910103611.1 申请日 2019-02-01
公开/公告号 CN109829501B 公开/公告日 2021-02-19
授权日 2021-02-19 预估到期日 2039-02-01
申请年 2019年 公开/公告年 2021年
缴费截止日
分类号 G06K9/62 主分类号 G06K9/62
是否联合申请 独立申请 文献类型号 B
独权数量 1 从权数量 13
权利要求数量 14 非专利引证数量 0
引用专利数量 2 被引证专利数量 0
非专利引证
引用专利 CN108764164A、CN107169421A 被引证专利
专利权维持 3 专利申请国编码 CN
专利事件 事务标签 公开、实质审查、授权
申请人信息
申请人 第一申请人
专利权人 北京市商汤科技开发有限公司 当前专利权人 北京市商汤科技开发有限公司
发明人 庞江淼、陈恺、石建萍、林达华、欧阳万里、冯华君 第一发明人 庞江淼
地址 北京市海淀区中关村东路1号院3号楼7层710-712房间 邮编 100084
申请人数量 1 发明人数量 6
申请人所在省 北京市 申请人所在市 北京市海淀区
代理人信息
代理机构
专利代理机构是经省专利管理局审核,国家知识产权局批准设立,可以接受委托人的委托,在委托权限范围内以委托人的名义办理专利申请或其他专利事务的服务机构。
北京林达刘知识产权代理事务所 代理人
专利代理师是代理他人进行专利申请和办理其他专利事务,取得一定资格的人。
刘新宇
摘要
本公开涉及一种图像处理方法及装置、电子设备和存储介质,所述方法包括:通过检测网络的均衡子网络对样本图像进行特征均衡处理,获得样本图像的均衡特征图像;通过检测子网络对均衡特征图像进行目标检测处理,获得均衡特征图像中目标对象的预测区域;分别确定每个预测区域的交并比;根据各预测区域的交并比,对多个预测区域进行抽样,获得目标区域;根据目标区域和标注区域,训练检测网络。根据本公开的实施例的图像处理方法,对目标样本图像进行特征均衡处理,可避免信息损失,提高训练效果。并且,可根据预测区域的交并比,抽取出目标区域,可提高抽取出出确定过程困难的预测区域的概率,提升训练效率,提高训练效果。
  • 摘要附图
    图像处理方法及装置、电子设备和存储介质
  • 说明书附图:图1
    图像处理方法及装置、电子设备和存储介质
  • 说明书附图:图2
    图像处理方法及装置、电子设备和存储介质
  • 说明书附图:图3
    图像处理方法及装置、电子设备和存储介质
  • 说明书附图:图4
    图像处理方法及装置、电子设备和存储介质
  • 说明书附图:图5
    图像处理方法及装置、电子设备和存储介质
  • 说明书附图:图6
    图像处理方法及装置、电子设备和存储介质
法律状态
序号 法律状态公告日 法律状态 法律状态信息
1 2021-02-19 授权
2 2019-06-25 实质审查的生效 IPC(主分类): G06K 9/62 专利申请号: 201910103611.1 申请日: 2019.02.01
3 2019-05-31 公开
权利要求
权利要求书是申请文件最核心的部分,是申请人向国家申请保护他的发明创造及划定保护范围的文件。
1.一种图像处理方法,其特征在于,包括:
通过检测网络的均衡子网络对样本图像进行特征均衡处理,获得所述样本图像的均衡特征图像,所述检测网络包括所述均衡子网络和检测子网络;
通过所述检测子网络对所述均衡特征图像进行目标检测处理,获得所述均衡特征图像中目标对象的多个预测区域;
分别确定每个预测区域的交并比,其中,所述交并比为所述样本图像中目标对象的预测区域与对应的标注区域的重叠区域,和所述目标对象的预测区域与对应的标注区域的合并区域的面积比;
根据各预测区域的交并比,对多个预测区域进行抽样,获得目标区域;
根据所述目标区域和所述标注区域,训练所述检测网络;
其中,通过检测网络的均衡子网络对样本图像进行特征均衡处理,获得均衡特征图像,包括:
对样本图像进行特征提取处理,获得多个第一特征图,其中,至少有一个第一特征图的分辨率与其他第一特征图的分辨率不同;
对所述多个第一特征图进行均衡处理,获得第二特征图;
根据所述第二特征图以及所述多个第一特征图,获得多个均衡特征图像;
对所述多个第一特征图进行均衡处理,获得第二特征图,包括:
分别对多个第一特征图进行放缩处理,获得多个预设分辨率的第三特征图;
对多个第三特征图进行平均处理,获得第四特征图;
对所述第四特征图进行特征提取处理,获得所述第二特征图;
根据所述第二特征图以及所述多个第一特征图,获得多个均衡特征图像,包括:
将所述第二特征图进行放缩处理,分别获得与各第一特征图对应的第五特征图,其中,所述第一特征图与对应的第五特征图的分辨率相同;
分别将各第一特征图与对应的第五特征图进行残差连接,获得所述均衡特征图像。

2.根据权利要求1所述的方法,其特征在于,根据各预测区域的交并比,对多个预测区域进行抽样,获得目标区域,包括:
根据各预测区域的交并比,将所述多个预测区域进行分类处理,获得多个类别的预测区域;
对各类别的预测区域分别进行抽样处理,获得所述目标区域。

3.根据权利要求1所述的方法,其特征在于,根据所述目标区域和所述标注区域,训练所述检测网络,包括:
根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失;
根据所述识别损失与所述位置损失对检测网络的网络参数进行调整;
在满足训练条件的情况下,获得训练后的检测网络。

4.根据权利要求3所述的方法,其特征在于,根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失,包括:
确定所述目标区域与所述标注区域之间的位置误差;
在所述位置误差小于预设阈值的情况下,根据所述位置误差确定所述位置损失。

5.根据权利要求3或4所述的方法,其特征在于,根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失,包括:
确定所述目标区域与所述标注区域之间的位置误差;
在所述位置误差大于或等于预设阈值的情况下,根据预设值确定所述位置损失。

6.一种图像处理方法,其特征在于,包括:
将待检测图像输入根据权利要求1-5中任一项所述的方法训练后的检测网络进行处理,获得目标对象的位置信息。

7.一种图像处理装置,其特征在于,包括:
均衡模块,用于通过检测网络的均衡子网络对样本图像进行特征均衡处理,获得所述样本图像的均衡特征图像,所述检测网络包括所述均衡子网络和检测子网络;
检测模块,用于通过检测子网络对所述均衡特征图像进行目标检测处理,获得所述均衡特征图像中目标对象的多个预测区域;
确定模块,用于分别确定每个预测区域的交并比,其中,所述交并比为所述样本图像中目标对象的预测区域与对应的标注区域的重叠区域,和所述目标对象的预测区域与对应的标注区域的合并区域的面积比;
抽样模块,用于根据各预测区域的交并比,对多个预测区域进行抽样,获得目标区域;
训练模块,用于根据所述目标区域和所述标注区域,训练所述检测网络;
所述均衡模块被进一步配置为:
对样本图像进行特征提取处理,获得多个第一特征图,其中,至少有一个第一特征图的分辨率与其他第一特征图的分辨率不同;
对所述多个第一特征图进行均衡处理,获得第二特征图;
根据所述第二特征图以及所述多个第一特征图,获得多个均衡特征图像;
所述均衡模块被进一步配置为:
分别对多个第一特征图进行放缩处理,获得多个预设分辨率的第三特征图;
对多个第三特征图进行平均处理,获得第四特征图;
对所述第四特征图进行特征提取处理,获得所述第二特征图;
所述均衡模块被进一步配置为:
将所述第二特征图进行放缩处理,分别获得与各第一特征图对应的第五特征图,其中,所述第一特征图与对应的第五特征图的分辨率相同;
分别将各第一特征图与对应的第五特征图进行残差连接,获得所述均衡特征图像。

8.根据权利要求7所述的装置,其特征在于,所述抽样模块被进一步配置为:
根据各预测区域的交并比,将所述多个预测区域进行分类处理,获得多个类别的预测区域;
对各类别的预测区域分别进行抽样处理,获得所述目标区域。

9.根据权利要求7所述的装置,其特征在于,所述训练模块被进一步配置为:
根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失;
根据所述识别损失与所述位置损失对检测网络的网络参数进行调整;
在满足训练条件的情况下,获得训练后的检测网络。

10.根据权利要求9所述的装置,其特征在于,所述训练模块被进一步配置为:
确定所述目标区域与所述标注区域之间的位置误差;
在所述位置误差小于预设阈值的情况下,根据所述位置误差确定所述位置损失。

11.根据权利要求9或10所述的装置,其特征在于,所述训练模块被进一步配置为:
确定所述目标区域与所述标注区域之间的位置误差;
在所述位置误差大于或等于预设阈值的情况下,根据预设值确定所述位置损失。

12.一种图像处理装置,其特征在于,包括:
获得模块,用于将待检测图像输入根据权利要求7-11中任一项所述的装置训练后的检测网络进行处理,获得目标对象的位置信息。

13.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行权利要求1至6中任意一项所述的方法。

14.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至6中任意一项所述的方法。
说明书

技术领域

[0001] 本公开涉及计算机技术领域,尤其涉及一种图像处理方法及装置、电子设备和存储介质。

背景技术

[0002] 在相关技术中,在神经网络训练的过程中,困难样本和简单样本对于神经网络训练的重要性不同,困难样本在训练过程可获取更多信息,使训练过程效率更高,且训练效果更好,但在大量样本中,简单样本的数量更多,造成训练效率较低。并且,在训练过程中,神经网络的各层级对提取的特征各有侧重,但可能造成信息损失,造成神经网络的在使用过程中检测效果不佳。

发明内容

[0003] 本公开提出了一种图像处理方法及装置、电子设备和存储介质。
[0004] 根据本公开的一方面,提供了一种图像处理方法,包括:
[0005] 通过检测网络的均衡子网络对样本图像进行特征均衡处理,获得所述样本图像的均衡特征图像,所述检测网络包括所述均衡子网络和检测子网络;
[0006] 通过检测子网络对所述均衡特征图像进行目标检测处理,获得所述均衡特征图像中目标对象的多个预测区域;
[0007] 分别确定每个预测区域的交并比,其中,所述交并比为所述样本图像中目标对象的预测区域与对应的标注区域的重叠区域与合并区域的面积比;
[0008] 根据各预测区域的交并比,对多个预测区域进行抽样,获得目标区域;
[0009] 根据所述目标区域和所述标注区域,训练所述检测网络。
[0010] 根据本公开的实施例的图像处理方法,对目标样本图像进行特征均衡处理,可避免信息损失,提高训练效果。并且,可根据预测区域的交并比,抽取出目标区域,可提高抽取出出确定过程困难的预测区域的概率,提升训练效率,提高训练效果。
[0011] 在一种可能的实现方式中,根据各预测区域的交并比,对多个预测区域进行抽样,获得目标区域,包括:
[0012] 根据各预测区域的交并比,将所述多个预测区域进行分类处理,获得多个类别的预测区域;
[0013] 对各类别的预测区域分别进行抽样处理,获得所述目标区域。
[0014] 通过这种方式,可通过交并比对预测区域进行分类,并对各类别的预测区域进行抽样,可提高抽取到交并比较高的预测区域的概率,提高目标区域中确定过程困难的预测区域的比重,提高训练效率。
[0015] 在一种可能的实现方式中,通过检测网络的均衡子网络对样本图像进行特征均衡处理,获得均衡特征图像,包括:
[0016] 对样本图像进行特征提取处理,获得多个第一特征图,其中,至少有一个第一特征图的分辨率与其他第一特征图的分辨率不同;
[0017] 对所述多个第一特征图进行均衡处理,获得第二特征图;
[0018] 根据所述第二特征图以及所述多个第一特征图,获得多个均衡特征图像。
[0019] 在一种可能的实现方式中,对所述多个第一特征图进行均衡处理,获得第二特征图,包括:
[0020] 分别对多个第一特征图进行放缩处理,获得多个预设分辨率的第三特征图;
[0021] 对多个第三特征图进行平均处理,获得第四特征图;
[0022] 对所述第四特征图进行特征提取处理,获得所述第二特征图。
[0023] 在一种可能的实现方式中,根据所述第二特征图以及所述多个第一特征图,获得多个均衡特征图像,包括:
[0024] 将所述第二特征图进行放缩处理,分别获得与各第一特征图对应的第五特征图,其中,所述第一特征图与对应的第五特征图的分辨率相同;
[0025] 分别将各第一特征图与对应的第五特征图进行残差连接,获得所述均衡特征图像。
[0026] 通过这种方式,可通过均衡处理获得特征均衡的第二特征图,并通过残差连接,获得均衡特征图,可减少信息损失,提高训练效果。
[0027] 在一种可能的实现方式中,根据所述目标区域和所述标注区域,训练所述检测网络,包括:
[0028] 根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失;
[0029] 根据所述识别损失与所述位置损失对检测网络的网络参数进行调整;
[0030] 在满足训练条件的情况下,获得训练后的检测网络。
[0031] 在一种可能的实现方式中,根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失,包括:
[0032] 确定所述目标区域与所述标注区域之间的位置误差;
[0033] 在所述位置误差小于预设阈值的情况下,根据所述位置误差确定所述位置损失。
[0034] 在一种可能的实现方式中,根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失,包括:
[0035] 确定所述目标区域与所述标注区域之间的位置误差;
[0036] 在所述位置误差大于或等于预设阈值的情况下,根据预设值确定所述位置损失。
[0037] 通过这种方式,可在对目标对象的预测正确的情况下,提高位置损失的梯度,提高训练效率,并提高检测网络的拟合优度。并可在对目标对象的预测错误的情况下,降低位置损失的梯度,减小位置损失对训练过程的影响,以加快位置损失收敛,提高训练效率。
[0038] 根据本公开的另一方面,提供了一种图像处理方法,包括:
[0039] 对第一待检测图像进行特征均衡处理,获得第二待检测图像;
[0040] 将第二待检测图像输入根据所述图像处理方法训练后的检测网络进行处理,获得目标对象的位置信息。
[0041] 根据本公开的另一方面,提供了一种图像处理装置,包括:
[0042] 均衡模块,用于通过检测网络的均衡子网络对样本图像进行特征均衡处理,获得所述样本图像的均衡特征图像,所述检测网络包括所述均衡子网络和检测子网络;
[0043] 检测模块,用于通过检测子网络对所述均衡特征图像进行目标检测处理,获得所述均衡特征图像中目标对象的多个预测区域;
[0044] 确定模块,用于分别确定每个预测区域的交并比,其中,所述交并比为所述样本图像中目标对象的预测区域与对应的标注区域的重叠区域与合并区域的面积比;
[0045] 抽样模块,用于根据各预测区域的交并比,对多个预测区域进行抽样,获得目标区域;
[0046] 训练模块,用于根据所述目标区域和所述标注区域,训练所述检测网络。
[0047] 在一种可能的实现方式中,所述抽样模块被进一步配置为:
[0048] 根据各预测区域的交并比,将所述多个预测区域进行分类处理,获得多个类别的预测区域;
[0049] 对各类别的预测区域分别进行抽样处理,获得所述目标区域。
[0050] 在一种可能的实现方式中,所述均衡模块被进一步配置为:
[0051] 对样本图像进行特征提取处理,获得多个第一特征图,其中,至少有一个第一特征图的分辨率与其他第一特征图的分辨率不同;
[0052] 对所述多个第一特征图进行均衡处理,获得第二特征图;
[0053] 根据所述第二特征图以及所述多个第一特征图,获得多个均衡特征图像。
[0054] 在一种可能的实现方式中,所述均衡模块被进一步配置为:
[0055] 分别对多个第一特征图进行放缩处理,获得多个预设分辨率的第三特征图;
[0056] 对多个第三特征图进行平均处理,获得第四特征图;
[0057] 对所述第四特征图进行特征提取处理,获得所述第二特征图。
[0058] 在一种可能的实现方式中,所述均衡模块被进一步配置为:
[0059] 将所述第二特征图进行放缩处理,分别获得与各第一特征图对应的第五特征图,其中,所述第一特征图与对应的第五特征图的分辨率相同;
[0060] 分别将各第一特征图与对应的第五特征图进行残差连接,获得所述均衡特征图像。
[0061] 在一种可能的实现方式中,所述训练模块被进一步配置为:
[0062] 根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失;
[0063] 根据所述识别损失与所述位置损失对检测网络的网络参数进行调整;
[0064] 在满足训练条件的情况下,获得训练后的检测网络。
[0065] 在一种可能的实现方式中,所述训练模块被进一步配置为:
[0066] 确定所述目标区域与所述标注区域之间的位置误差;
[0067] 在所述位置误差小于预设阈值的情况下,根据所述位置误差确定所述位置损失。
[0068] 在一种可能的实现方式中,所述训练模块被进一步配置为:
[0069] 确定所述目标区域与所述标注区域之间的位置误差;
[0070] 在所述位置误差大于或等于预设阈值的情况下,根据预设值确定所述位置损失。
[0071] 根据本公开的另一方面,提供了一种图像处理装置,包括:
[0072] 获得模块,用于将待检测图像输入所述图像处理装置训练后的检测网络进行处理,获得目标对象的位置信息。
[0073] 根据本公开的一方面,提供了一种电子设备,包括:
[0074] 处理器;
[0075] 用于存储处理器可执行指令的存储器;
[0076] 其中,所述处理器被配置为:执行上述图像处理方法。
[0077] 根据本公开的一方面,提供了一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述图像处理方法。
[0078] 根据本公开的实施例的图像处理方法,可通过均衡处理获得特征均衡的第二特征图,并通过残差连接,获得均衡特征图,可减少信息损失,提高训练效果,并提高检测网络的检测精度。可通过交并比对预测区域进行分类,并对各类别的预测区域进行抽样,可提高抽取到交并比较高的预测区域的概率,提高预测区域中的确定过程困难的预测区域的比重,提高训练效率,且降低内存消耗与资源占用。进一步地,可在对目标对象的预测正确的情况下,提高位置损失的梯度,提高训练效率,并提高检测网络的拟合优度,以及在对目标对象的预测错误的情况下,降低位置损失的梯度,减小位置损失对训练过程的影响,以加快位置损失收敛,提高训练效率。
[0079] 应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。
[0080] 根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。

实施方案

[0088] 以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
[0089] 在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
[0090] 本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
[0091] 另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
[0092] 图1示出根据本公开实施例的图像处理方法的流程图,如图1所示,所述方法包括:
[0093] 在步骤S11中,通过检测网络的均衡子网络对样本图像进行特征均衡处理,获得所述样本图像的均衡特征图像,所述检测网络包括所述均衡子网络和检测子网络;
[0094] 在步骤S12中,通过所述检测子网络对所述均衡特征图像进行目标检测处理,获得所述均衡特征图像中目标对象的多个预测区域;
[0095] 在步骤S13中,分别确定每个预测区域的交并比,其中,所述交并比为所述样本图像中目标对象的预测区域与对应的标注区域的重叠区域与合并区域的面积比;
[0096] 在步骤S14中,根据各预测区域的交并比,对多个预测区域进行抽样,获得目标区域;
[0097] 在步骤S15中,根据所述目标区域和所述标注区域,训练检测网络。
[0098] 根据本公开的实施例的图像处理方法,对目标样本图像进行特征均衡处理,可避免信息损失,提高训练效果。并且,可根据预测区域的交并比,抽取出目标区域,可提高抽取出出确定过程困难的预测区域的概率,提升训练效率,提高训练效果。
[0099] 在一种可能的实现方式中,所述图像处理方法可以由终端设备执行,终端设备可以为用户设备(User Equipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(Personal Digital Assistant,PDA)、手持设备、计算设备、车载设备、可穿戴设备等,所述方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。或者,所述图像处理方法通过服务器执行。
[0100] 在一种可能的实现方式中,所述检测网络可以是卷积神经网络等神经网络,本公开对检测网络的类型不作限制。所述检测网络可包括均衡子网络和检测子网络。可通过检测网络的均衡子网络的各层级提取样本图像的特征图,并可通过特征均衡处理使各层级提取的特征图的特征平衡,以减少信息损失,提高训练效果。
[0101] 在一种可能的实现方式中,步骤S11可包括:对样本图像进行特征提取处理,获得多个第一特征图,其中,至少有一个第一特征图的分辨率与其他第一特征图的分辨率不同;对所述多个第一特征图进行均衡处理,获得第二特征图;根据所述第二特征图以及所述多个第一特征图,获得多个均衡特征图像。
[0102] 在一种可能的实现方式中,可使用均衡子网络来进行特征均衡处理。在示例中,可使用均衡子网络的多个卷积层分别对目标样本图像进行特征提取处理,获得多个第一特征图,在第一特征图中,至少有一个第一特征图的分辨率与其他第一特征图的分辨率不同,例如,多个第一特征图的分辨率互不相同。在示例中,第一个卷积层对目标样本图像进行特征提取处理,获得第一个第一特征图,再由第二个卷积层对所述第一个第一特征图进行特征提取处理,获得第二个第一特征图…可按照这种方式获得多个第一特征图,多个第一特征图分别由不同层级的卷积层获取,各层级的卷积层对第一特征图中的特征各有侧重。
[0103] 在一种可能的实现方式中,对所述多个第一特征图进行均衡处理,获得第二特征图,包括:分别对多个第一特征图进行放缩处理,获得多个预设分辨率的第三特征图;对多个第三特征图进行平均处理,获得第四特征图;对所述第四特征图进行特征提取处理,获得所述第二特征图。
[0104] 在一种可能的实现方式中,所述多个第一特征图的分辨率可互不相同,例如,640×480、800×600、1024×768、1600×1200等。可对各第一特征图分别进行放缩处理,获得预设分辨率的第三图像。所述预设分辨率可以是多个第一特征图的分辨率的平均值,或者其他设定值,本公开对预设分辨率不做限制。可对第一特征图进行放缩处理,获得预设分辨率的第三特征图,在示例中,可对分辨率低于预设分辨率的第一特征图进行插值等上采样处理,以提高分辨率,获得预设分辨率的第三特征图,并可对高于预设分辨率的第一特征图进行池化处理等下采样处理,获得预设分辨率的第三特征图,本公开对放缩的方法不做限制。
[0105] 在一种可能的实现方式中,可对多个第三特征图进行平均处理。在示例中,多个第三特征图的分辨率相同,均为预设分辨率,可将多个第三特征图中同一坐标的像素点的RGB值或深度值等参数进行平均,可获得第四特征图中该坐标的像素点的RGB值或深度值等参数。可按照这种方式,确定第四特征图中所有像素点的RGB值或深度值等参数,即可获得第四特征图,第四特征图中为特征均衡的特征图。
[0106] 在一种可能的实现方式中,可对第四特征图进行特征提取,获得第二特征图,在示例中,可使用所述均衡子网络的卷积层对第四特征图进行特征提取,例如,使用非局部注意力机制(NonLocal)对第四特征图进行特征提取,获得所述第二特征图,第二特征图中为特征均衡的特征图。
[0107] 在一种可能的实现方式中,根据所述第二特征图以及所述多个第一特征图,获得多个均衡特征图像,包括:将所述第二特征图进行放缩处理,分别获得与各第一特征图对应的第五特征图,其中,所述第一特征图与对应的第五特征图的分辨率相同;分别将各第一特征图与对应的第五特征图进行残差连接,获得所述均衡特征图像。
[0108] 在一种可能的实现方式中,所述第二特征图与各第一特征图的分辨率可不同,可对第二特征图进行放缩处理,以获得分别与各第一特征图分辨率相同的第五特征图,在示例中,第二特征图的分辨率为800×600,则可对第二特征图进行池化等下采样处理,获得分辨率为640×480的第五特征图,即,与分辨率为640×480的第一特征图对应的第五特征图,可对第二特征图进行插值等上采样处理,获得分辨率为1024×768的第五特征图,即,与分辨率为1024×768的第一特征图对应的第五特征图…本公开对第二特征图和第一特征图的分辨率不做限制。
[0109] 在一种可能的实现方式中,第一特征图与对应的第五特征图的分辨率相同,可将第一特征图与对应的第五特征图进行残差连接处理,获得所述均衡特征图像,即,可将第一特征图中某一坐标的像素点的RGB值或深度值等参数与对应的第五特征图中相同坐标的像素点的RGB值或深度值等参数相加,获得均衡特征图像中该像素点的RGB值或深度值等参数,可按照这种方式获得均衡特征图像中所有像素点的RGB值或深度值等参数,即,获得均衡特征图像。
[0110] 通过这种方式,可通过均衡处理获得特征均衡的第二特征图,并通过残差连接,获得均衡特征图,可减少信息损失,提高训练效果。
[0111] 在一种可能的实现方式中,在步骤S12中,可通过检测子网络对均衡特征图像进行目标检测,得到均衡特征图像中目标对象的预测区域,在示例中,可通过选择框对目标对象所在的预测区域进行框选。所述目标检测处理还可通过其他用于目标检测的神经网络或其他方法来实现,以获取目标对象的多个预测区域。本公开对目标检测处理的实现方式不做限制。
[0112] 在一种可能的实现方式中,在步骤S13中,所述样本图像为已标注的样本图像,例如,可对目标对象所在的区域进行标注,即,使用选择框对目标对象所在的区域进行框选。所述均衡特征图像是根据样本图像获得的,可根据样本图像中对目标对象所在区域进行框选的选择框,确定所述均衡特征图像中目标对象所在区域的位置,并可对该位置进行框选,被框选的区域即为所述标注区域。在示例中,所述标注区域与所述目标对象对应,所述样本图像或者样本图像的均衡特征图像中,可包括一个或多个目标对象,可对每个目标对象进行标注,即,每个目标对象均具有对应的标注区域。
[0113] 在一种可能的实现方式中,所述交并比为目标对象的预测区域与对应标注区域的重叠区域与合并区域的面积比,所述预测区域与标注区域的重叠区域为两个区域的交集,所述预测区域与标注区域的合并区域为两个区域的并集。在示例中,所述检测网络可分别确定每个对象的预测区域,例如,针对目标对象A,检测网络可确定目标对象A的多个预测区域,针对目标对象B,检测网络可确定目标对象B的多个预测区域。在确定预测区域的交并比时,可确定预测区域与对应标注区域的重叠区域与合并区域的面积比,例如,在确定目标对象A的某个预测区域的交并比时,可确定该预测区域与目标对象A的标注区域的重叠区域与合并区域的面积比。
[0114] 图2示出根据本公开实施例的预测区域的交并比的示意图,如图2所示,在某一均衡特征图像中,已对目标对象所在的区域进行标注,该标注可以是框选目标对象所在区域的选择框,例如,图2中虚线所示的标注区域。可使用目标检测方法检测均衡特征图像中的目标对象,例如,可使用检测网络等方法进行检测,并将检测到的目标对象的预测区域进行框选,例如,图2中实线所示的预测区域。如图2所示,标注区域为A+B,预测区域为B+C,预测区域与标注区域的重叠区域为B,预测区域与标注区域的合并区域为A+B+C。样本图像的交并比为B区域面积与A+B+C区域面积之比。
[0115] 在一种可能的实现方式中,交并比与确定预测区域的困难程度正相关,即,在交并比较高的预测区域中,确定过程困难的预测区域所占的比重较大。但在所有预测区域中,交并比较低的预测区域所占比重较大,如果直接在所有预测区域中进行随机抽样或均匀抽样,则获得交并比较低的预测区域的概率较大,即,获得确定过程容易的预测区域的概率较大,如果使用大量确定过程容易的预测区域进行训练,则训练效率较低。而使用确定过程困难的预测区域进行训练,可在每次训练中获得较多的信息,提高训练效率。因此,可根据各预测区域的交并比来筛选预测区域,使筛选出的预测区域中,确定过程困难的预测区域所占比重较高,提高训练效率。
[0116] 在一种可能的实现方式中,在步骤S14可包括:根据各预测区域的交并比,将所述多个预测区域进行分类处理,获得多个类别的预测区域;对各类别的预测区域分别进行抽样处理,获得所述目标区域。
[0117] 在一种可能的实现方式中,可按照所述交并比,将预测区域进行分类处理,例如,可将交并比大于0且小于或等于0.05的预测区域分为一类,将交并比大于0.05且小于或等于0.1的预测区域分为一类,将交并比大于0.1且小于或等于0.15的预测区域分为一类…即,交并比中每一类的区间长度为0.05。本公开对类别数量和每一类的区间长度不做限制。
[0118] 在一种可能的实现方式中,可在每个类别中,进行均匀抽样或随机抽样,获得所述目标区域。即,在交并比较高的类别和交并比较低的类别中,均抽取预测区域,来提高抽取到交并比较高的预测区域的概率,即,提高目标区域中确定过程困难的预测区域的比重。在各类别中,预测区域被抽取的概率可用以下公式(1)表示:
[0119]
[0120] 其中,K(K为大于1的正整数)为类别数量,pk为在第k(k为小于或等于K的正整数)个类别中,预测区域被抽取的概率,N为预测区域图像的总数量,Mk为在第k个类别中的预测区域的数量。
[0121] 在示例中,还可筛选出交并比高于预设阈值(例如,0.05、0.1等)的预测区域,或筛选出交并比属于预设区间(例如,大于0.05且小于或等于0.5等)的预测区域,作为所述目标区域,本公开对筛选方式不做限制。
[0122] 通过这种方式,可通过交并比对预测区域进行分类,并对各类别的预测区域进行抽样,可提高抽取到交并比较高的预测区域的概率,提高目标区域中确定过程困难的预测区域的比重,提高训练效率。
[0123] 在一种可能的实现方式中,在步骤S15中,检测网络可以是用于检测图像中的目标对象的神经网络,例如,检测网络可以是卷积神经网络,本公开对检测网络的类型不做限制。可使用均衡特征图像中的目标区域和标注区域来训练检测网络。
[0124] 在一种可能的实现方式中,根据所述目标区域和所述标注区域,包括:根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失;根据所述识别损失与所述位置损失对检测网络的网络参数进行调整;在满足训练条件的情况下,获得训练后的检测网络。
[0125] 在一种可能的实现方式中,可通过任意一个目标区域与标注区域确定识别损失和位置损失,其中,所述识别损失用于表示神经网络对目标对象的识别是否正确,例如,均衡特征图像中可包括多个对象,其中,只有一个或一部分对象为目标对象,可将所述对象分为两类,即,所述对象为目标对象和所述对象不是目标对象。在示例中,可用概率来表示所述识别结果,例如,某对象为目标对象的概率,即,如果某对象为目标对象的概率大于或等于50%,则所述对象为目标对象,否则,所述对象不是目标对象。
[0126] 在一种可能的实现方式中,可根据目标区域与标注区域,确定所述检测网络的识别损失。在示例中,对所述检测网络预测的目标对象的所在区域进行框选的选择框中的区域为所述目标区域,例如,图像中包括多个对象,其中,可将目标对象所在的区域进行框选,对其他对象不进行框选,可根据目标区域框选的对象与目标对象的相似度来确定检测网络的识别损失,例如,目标区域中的对象有70%的概率为目标对象(即,所述检测网络确定目标区域中的对象与目标对象的相似度为70%),而该对象为目标对象,可标注为100%,则可根据30%的误差确定识别损失。
[0127] 在一种可能的实现方式中,根据目标区域与标注区域,确定所述检测网络的位置损失。在示例中,标注区域为对目标对象所在区域进行框选的选择框。即,目标区域检测网络预测出的目标对象所在区域,并使用选择框对该区域进行框选,可对上述两个选择框的位置和尺寸等进行比较,确定所述位置损失。
[0128] 在一种可能的实现方式中,根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失,包括:确定所述目标区域与所述标注区域之间的位置误差;在所述位置误差小于预设阈值的情况下,根据所述位置误差确定所述位置损失。所述预测区域和所述标注区域均为选择框,可将预测区域与标注区域进行比较。所述位置误差可包括选择框的位置和尺寸的误差,例如,选择框的中心点或左上角顶点坐标的误差,以及选择框的长度和宽度的误差等。如果对目标对象的预测是正确的,则所述位置误差较小,在训练过程中,使用该位置误差确定的位置损失可有利于位置损失收敛,提高训练效率,有利于提高检测网络的拟合优度,如果对目标对象的预测是错误的,例如,将某个非目标对象错认为目标对象,则所述位置误差较大,在训练过程中,位置损失不易收敛,训练过程效率低,也不利于提高检测网络的拟合优度,因此,使用预设阈值来确定所述位置损失。在位置误差小于预设阈值的情况下,可认为对目标对象的预测是正确的,可根据位置误差确定所述位置损失。
[0129] 在一种可能的实现方式中,根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失,包括:确定所述目标区域与所述标注区域之间的位置误差;在所述位置误差大于或等于预设阈值的情况下,根据预设值确定所述位置损失。在示例中,如果位置误差大于或等于预设阈值,可认为对目标对象的预测是错误的,可根据预设值(例如,某个常数值)确定位置损失,以减小训练过程中位置损失的梯度,从而加快位置损失的收敛,提高训练效率。
[0130] 在一种可能的实现方式中,所述位置损失可通过以下公式(2)来确定:
[0131]
[0132] 其中,Lpro为所述位置损失,α和b为设定的参数,x为位置误差,γ为所述预设值,ε为预设阈值,在示例中,ε=1,γ=αln(b+1)。本公开对α、b和γ的取值不做限制。
[0133] 对(2)进行积分,可获得位置损失Lpro,Lpro可根据以下公式(3)来确定:
[0134]
[0135] 其中,C为积分常数。在公式(3)中,如果位置误差小于预设阈值,即,对目标对象的预测正确,则通过对数来提高位置损失的梯度,使得位置损失在训练过程中调整参数的梯度较大,从而提高训练效率,提高检测网络的拟合优度。如果对目标对象的预测错误,则位置损失为常数γ,从而降低位置损失的梯度,减小位置损失对训练过程的影响,以加快位置损失收敛,提高检测网络的拟合优度。
[0136] 在一种可能的实现方式中,可根据识别损失与位置损失对检测网络的网络参数进行调整,在示例中,可根据识别损失与位置损失确定检测网络的综合网络损失,例如,可通过以下公式(4)确定检测网络的综合网络损失:
[0137] L=Lpro+Lcls   (4)
[0138] 其中,L为所述综合网络损失,Lcls为所述识别损失。
[0139] 在一种可能的实现方式中,可按照使综合网络损失最小化的方向来调整检测网络的网络参数,在示例中,可使用梯度下降法进行综合网络损失的反向传播,来调整检测网络的网络参数。
[0140] 在一种可能的实现方式中,训练条件可包括调整次数和综合网络损失的大小或敛散性等条件。可对检测网络调整预定次数,当调整次数达到预定次数时,即为满足训练条件。也可不限定训练次数,在综合网络损失降低到一定程度或收敛于某个区间内时,即为满足训练条件。在训练完成后,可将检测网络用于检测图像中的目标对象的过程中。
[0141] 通过这种方式,可在对目标对象的预测正确的情况下,提高位置损失的梯度,提高训练效率,并提高检测网络的拟合优度。并可在对目标对象的预测错误的情况下,降低位置损失的梯度,减小位置损失对训练过程的影响,以加快位置损失收敛,提高训练效率。
[0142] 在一种可能的实现方式中,根据本公开实施例,还提供了一种图像处理方法,所述方法包括:将待检测图像输入训练后的检测网络进行处理,获得目标对象的位置信息。
[0143] 在一种可能的实现方式中,待检测图像为包括目标对象的图像,可通过所述检测网络的均衡子网络对待检测图像进行特征均衡处理,获得一组均衡特征图。
[0144] 在一种可能的实现方式中,可将均衡特征图输入检测网络的检测子网络,检测子网络可识别出目标对象,并确定目标对象的位置,获得目标对象的位置信息,例如,对目标对象进行框选的选择框。
[0145] 根据本公开的实施例的图像处理方法,可通过均衡处理获得特征均衡的第二特征图,并通过残差连接,获得均衡特征图,可减少信息损失,提高训练效果,并提高检测网络的检测精度。可通过交并比对预测区域进行分类,并对各类别的预测区域进行抽样,可提高抽取到交并比较高的预测区域的概率,提高预测区域中的确定过程困难的预测区域的比重,提高训练效率,且降低内存消耗与资源占用。进一步地,可在对目标对象的预测正确的情况下,提高位置损失的梯度,提高训练效率,并提高检测网络的拟合优度,以及在对目标对象的预测错误的情况下,降低位置损失的梯度,减小位置损失对训练过程的影响,以加快位置损失收敛,提高训练效率。
[0146] 图3示出根据本公开实施例的图像处理方法的应用示意图,如图3所示,可使用检测网络的均衡子网络的多个层级的卷积层,对样本图像C1进行特征提取,获得分辨率互不相同的多个第一特征图,例如,获得分辨率为640×480、800×600、1024×768、1600×1200等的第一特征图。
[0147] 在一种可能的实现方式中,可对各第一特征图进行放缩处理,获得多个预设分辨率的第三特征图,例如,可将分辨率为640×480、800×600、1024×768、1600×1200的第一特征图分别进行放缩处理,获得分辨率均为800×600的第三特征图。
[0148] 在一种可能的实现方式中,可对多个第三特征图进行平均处理,获得特征均衡的第四特征图。并使用非局部注意力机制(NonLocal)对第四特征图进行特征提取,获得所述第二特征图。
[0149] 在一种可能的实现方式中,可对第二特征图进行放缩处理,获得分别与各第一特征图分辨率相同的第五特征图,例如,可分别将第二特征图放缩成分辨率为640×480、800×600、1024×768、1600×1200等的第五特征图。
[0150] 在一种可能的实现方式中,可对第一特征图与对应的第五特征图进行残差连接处理,即,将第一特征图与对应的第五特征图中的相同坐标的像素点的RGB值或灰度值等参数相加,获得多个均衡特征图。
[0151] 在一种可能的实现方式中,可使用检测网络的检测子网络对所述均衡特征图像进行目标检测处理,获得所述均衡特征图像中目标对象的多个预测区域。并可分别确定多个预测区域的交并比,并根据交并比对预测区域进行分类,并对各类别的预测区域进行抽样,可获得目标区域,在目标区域中,确定过程困难的预测区域所占的比重较大。
[0152] 在一种可能的实现方式中,可使用目标区域和标注区域训练所述检测网络,即,根据目标区域框选的对象与目标对象的相似度来确定识别损失,并根据目标区域和标注区域以及公式(3)确定位置损失。进一步地,可通过公式(4)确定综合网络损失,并根据综合网络损失来调整检测网络的网络参数,在综合网络损失满足训练条件时,完成训练,并可使用训练后的检测网络检测待检测图像中的目标对象。
[0153] 在一种可能的实现方式中,可使用均衡子网络对待检测图像进行特征均衡处理,并将获得均衡特征图输入检测网络的检测自网络,获得目标对象的位置信息。
[0154] 在示例中,所述检测网络可用于自动驾驶中,进行目标检测,例如,可检测障碍物、信号灯或交通标识等,可为控制车辆运行提供依据。在示例中,所述检测网络可用于安防监控,可对监控视频中的目标人物进行检测。在示例中,所述检测网络还可用于检测遥感图像或导航视频中的目标对象等,本公开对检测网络的应用领域不做限制。
[0155] 图5示出根据本公开实施例的图像处理装置的框图,如图5所示,所述装置包括:
[0156] 均衡模块11,用于通过检测网络的均衡子网络对样本图像进行特征均衡处理,获得所述样本图像的均衡特征图像,所述检测网络包括所述均衡子网络和检测子网络;
[0157] 检测模块12,用于通过检测子网络对所述均衡特征图像进行目标检测处理,获得所述均衡特征图像中目标对象的多个预测区域;
[0158] 确定模块13,用于分别确定每个预测区域的交并比,其中,所述交并比为所述样本图像中目标对象的预测区域与对应的标注区域的重叠区域与合并区域的面积比;
[0159] 抽样模块14,用于根据各预测区域的交并比,对多个预测区域进行抽样,获得目标区域;
[0160] 训练模块15,用于根据所述目标区域和所述标注区域,训练所述检测网络。
[0161] 在一种可能的实现方式中,所述抽样模块被进一步配置为:
[0162] 根据各预测区域的交并比,将所述多个预测区域进行分类处理,获得多个类别的预测区域;
[0163] 对各类别的预测区域分别进行抽样处理,获得所述目标区域。
[0164] 在一种可能的实现方式中,所述均衡模块被进一步配置为:
[0165] 对样本图像进行特征提取处理,获得多个第一特征图,其中,至少有一个第一特征图的分辨率与其他第一特征图的分辨率不同;
[0166] 对所述多个第一特征图进行均衡处理,获得第二特征图;
[0167] 根据所述第二特征图以及所述多个第一特征图,获得多个均衡特征图像。
[0168] 在一种可能的实现方式中,所述均衡模块被进一步配置为:
[0169] 分别对多个第一特征图进行放缩处理,获得多个预设分辨率的第三特征图;
[0170] 对多个第三特征图进行平均处理,获得第四特征图;
[0171] 对所述第四特征图进行特征提取处理,获得所述第二特征图。
[0172] 在一种可能的实现方式中,所述均衡模块被进一步配置为:
[0173] 将所述第二特征图进行放缩处理,分别获得与各第一特征图对应的第五特征图,其中,所述第一特征图与对应的第五特征图的分辨率相同;
[0174] 分别将各第一特征图与对应的第五特征图进行残差连接,获得所述均衡特征图像。
[0175] 在一种可能的实现方式中,所述训练模块被进一步配置为:
[0176] 根据所述目标区域和所述标注区域,确定所述检测网络的识别损失和位置损失;
[0177] 根据所述识别损失与所述位置损失对检测网络的网络参数进行调整;
[0178] 在满足训练条件的情况下,获得训练后的检测网络。
[0179] 在一种可能的实现方式中,所述训练模块被进一步配置为:
[0180] 确定所述目标区域与所述标注区域之间的位置误差;
[0181] 在所述位置误差小于预设阈值的情况下,根据所述位置误差确定所述位置损失。
[0182] 在一种可能的实现方式中,所述训练模块被进一步配置为:
[0183] 确定所述目标区域与所述标注区域之间的位置误差;
[0184] 在所述位置误差大于或等于预设阈值的情况下,根据预设值确定所述位置损失。
[0185] 在一种可能的实现方式中,根据本公开实施例,还提供了一种图像处理装置,所述装置包括:
[0186] 获得模块,用于将待检测图像输入所述图像处理装置训练后的检测网络进行处理,获得目标对象的位置信息。
[0187] 可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。
[0188] 此外,本公开还提供了图像处理装置、电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的任一种图像处理方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
[0189] 本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
[0190] 在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述
[0191] 本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是非易失性计算机可读存储介质。
[0192] 本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为上述方法。
[0193] 电子设备可以被提供为终端、服务器或其它形态的设备。
[0194] 图5是根据一示例性实施例示出的一种电子设备800的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
[0195] 参照图5,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
[0196] 处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
[0197] 存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
[0198] 电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
[0199] 多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
[0200] 音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
[0201] I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
[0202] 传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
[0203] 通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
[0204] 在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
[0205] 在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
[0206] 图6是根据一示例性实施例示出的一种电子设备1900的框图。例如,电子设备1900可以被提供为一服务器。参照图6,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
[0207] 电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
[0208] 在示例性实施例中,还提供了一种非易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
[0209] 本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
[0210] 计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
[0211] 这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
[0212] 用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
[0213] 这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
[0214] 这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
[0215] 也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
[0216] 附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
[0217] 以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

附图说明

[0081] 此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
[0082] 图1示出根据本公开实施例的图像处理方法的流程图;
[0083] 图2示出根据本公开实施例的预测区域的交并比的示意图;
[0084] 图3示出根据本公开实施例的图像处理方法的应用示意图;
[0085] 图4示出根据本公开实施例的图像处理装置的框图;
[0086] 图5示出根据本公开实施例的电子装置的框图;
[0087] 图6示出根据本公开实施例的电子装置的框图。
版权所有:盲专网 ©2023 zlpt.xyz  蜀ICP备2023003576号