首页 > 专利 > 杭州电子科技大学 > 一种基于深度学习的电子元器件外观不良品的检测方法专利详情

一种基于深度学习的电子元器件外观不良品的检测方法   0    0

有效专利 查看PDF
专利申请流程有哪些步骤?
专利申请流程图
申请
申请号:指国家知识产权局受理一件专利申请时给予该专利申请的一个标示号码。唯一性原则。
申请日:提出专利申请之日。
2019-09-29
申请公布
申请公布指发明专利申请经初步审查合格后,自申请日(或优先权日)起18个月期满时的公布或根据申请人的请求提前进行的公布。
申请公布号:专利申请过程中,在尚未取得专利授权之前,国家专利局《专利公报》公开专利时的编号。
申请公布日:申请公开的日期,即在专利公报上予以公开的日期。
2020-03-03
授权
授权指对发明专利申请经实质审查没有发现驳回理由,授予发明专利权;或对实用新型或外观设计专利申请经初步审查没有发现驳回理由,授予实用新型专利权或外观设计专利权。
2021-09-14
预估到期
发明专利权的期限为二十年,实用新型专利权期限为十年,外观设计专利权期限为十五年,均自申请日起计算。专利届满后法律终止保护。
2039-09-29
基本信息
有效性 有效专利 专利类型 发明专利
申请号 CN201910933616.7 申请日 2019-09-29
公开/公告号 CN110766664B 公开/公告日 2021-09-14
授权日 2021-09-14 预估到期日 2039-09-29
申请年 2019年 公开/公告年 2021年
缴费截止日
分类号 G06T7/00G06K9/62G06N3/04 主分类号 G06T7/00
是否联合申请 独立申请 文献类型号 B
独权数量 1 从权数量 0
权利要求数量 1 非专利引证数量 1
引用专利数量 1 被引证专利数量 0
非专利引证 1、2005.05.12CN 105069778 A,2015.11.18CN 107657603 A,2018.02.02CN 109239102 A,2019.01.18常博.基于DOG特征与深度学习的工件表面缺陷检测算法《.电子测量技术》.2019,Manasa K chigateri et al..TheDetection of Electrical and ElectronicsComponents using K nearest Neighbor (KNN)classification Algorithm《.InternationalResearch Journal of Engineering andTechnology》.2016,;
引用专利 US2005100208A 被引证专利
专利权维持 3 专利申请国编码 CN
专利事件 事务标签 公开、实质审查、授权
申请人信息
申请人 第一申请人
专利权人 杭州电子科技大学 当前专利权人 杭州电子科技大学
发明人 郑小青、刘峰、姚莉、陈杰、郑松、孔亚广、王洪成 第一发明人 郑小青
地址 浙江省杭州市下沙高教园区2号大街 邮编 310018
申请人数量 1 发明人数量 7
申请人所在省 浙江省 申请人所在市 浙江省杭州市
代理人信息
代理机构
专利代理机构是经省专利管理局审核,国家知识产权局批准设立,可以接受委托人的委托,在委托权限范围内以委托人的名义办理专利申请或其他专利事务的服务机构。
杭州君度专利代理事务所 代理人
专利代理师是代理他人进行专利申请和办理其他专利事务,取得一定资格的人。
杨舟涛
摘要
本发明公开了一种基于深度学习技术的电子元器件外观不良品的自动检测方法。该方法包括:数据集收集与标记;对数据集的图像进行数据增强;构建一个简单高效的卷积神经网络模型;将数据集样本图片输入到上述卷积神经网络模型中进行迭代训练,获得最佳检测模型;将采集得到的图像输入到深度学习检测模型中进行图像类别的识别;将深度学习检测模型识别的不良品进行生产线上的自动剔除,从而提高产品品质。
  • 摘要附图
    一种基于深度学习的电子元器件外观不良品的检测方法
  • 说明书附图:图1
    一种基于深度学习的电子元器件外观不良品的检测方法
  • 说明书附图:图2
    一种基于深度学习的电子元器件外观不良品的检测方法
法律状态
序号 法律状态公告日 法律状态 法律状态信息
1 2021-09-14 授权
2 2021-09-03 著录事项变更 发明人由郑小青 陈杰 郑松 王洪成 孔亚广 变更为郑小青 刘峰 姚莉 陈杰 郑松 孔亚广 王洪成 
3 2020-03-03 实质审查的生效 IPC(主分类): G06T 7/00 专利申请号: 201910933616.7 申请日: 2019.09.29
4 2020-02-07 公开
权利要求
权利要求书是申请文件最核心的部分,是申请人向国家申请保护他的发明创造及划定保护范围的文件。
1.一种基于深度学习的电子元器件外观不良品的检测方法,其特征在于该方法包括以下步骤:
步骤1:数据集收集与标记;收集一类电子元器件不良品样本图像,将其按表面凹点、划痕、擦伤、孔洞、污点、毛刺进行分类标记;同时收集一类含字符或含有随机噪声的电子元器件良品样本图像进行标记;将收集的上述两类样本图像作为数据集;
步骤2:对数据集的样本图像进行数据增强;将数据集中所有样本图像按翻转、剪裁、缩放、降噪的方式扩展样本数量,按9:1的比例划分出训练集和验证集;
步骤3:构建卷积神经网络模型;该网络结构第一层为卷积层,是16个感受野大小为5×
5的卷积核,步长为1,边缘填充为2,该层输出为16通道、尺寸为224×224的特征图;
第二层采用重叠的最大池化层,是感受野大小为2×2的卷积核,步长为2,边缘填充为
1,该层输出为16通道,尺寸为112×112的特征图;
第三层采用并联结构的卷积层,包含左分支的一个卷积层和右分支的两个级联结构的卷积层;其中左分支的卷积层是32个感受野大小1×1的卷积核,步长为1,边缘填充为0;右分支两个级联的卷积层,上级卷积层是32个受野大小为3×3的卷积核,步长为1,边缘填充为1;下级卷积层是32个受野大小为3×3的卷积核,步长为1,边缘填充为1;最后将左右两个分支的输出进行拼接,该层输出为64个通道,尺寸为112×112的特征图;
第四层采用最大池化层,是感受野大小为2×2的卷积层,步长为2,边缘填充为1,该层输出为64通道,尺寸为56×56的特征图;
第五层采用并联结构的卷积层,包含左分支的一个卷积层和右分支的两个级联结构的卷积层;其中左分支的卷积层是64个感受野大小为1×1的卷积核,步长为1,边缘填充为0;
右分支两个级联的卷积层,上级卷积层是64个感受野大小为3×3的卷积核,步长为1,边缘填充为1;下级卷积层是64个感受野大小为3×3的卷积核,步长为1,边缘填充为1;最后将左右两个分支的输出进行拼接,该层输出为128通道,尺寸为56×56的特征图;
第六层采用最大池化层,是感受野大小为2×2的卷积层,步长为2,边缘填充为1,该层输出为128通道,尺寸为28×28的特征图;
第七层是全连接层,用于将上层的多维特征图转换成一维的特征图进行输出;
第八层为softmax分类层,用于计算输出属于每一类的概率;
步骤4:获得深度学习检测模型;将数据集样本图片大小缩放为224×224×3,输入到上述卷积神经网络模型中进行迭代训练;迭代训练过程中,每次从训练样本中提取100个样本参与训练并进行批量归一化;设置迭代周期数,每迭代一个周期,将验证样本集输入模型中识别准确率;如果最后的准确率不满足要求,增加迭代周期数,对参数进行微调重新训练;
迭代训练的目的是使验证集获得最高的分类精确度,即该模型对数据集中标记过的类别特征能最高程度地自动识别,此时模型的权重参数为最优权重参数,此最优权重参数下的模型为深度学习检测模型;
步骤5:采集实际待检测电子元器件彩色外观图像;在获得上述深度学习检测模型的基础上,对电子元器件不良品实现在线的自动检测;通过CCD/CMOS摄像机对电子元器件产品进行扫描,采集电子元器件彩色外观图像;
步骤6:将步骤5采集得到的彩色外观图像输入到深度学习检测模型中进行图像类别的识别;识别的结果用于判断输入的图像是表面凹点、划痕、擦伤、孔洞、污点、毛刺这类不良品图像,还是为含字符、随机噪声这类良品图像;
步骤7:将深度学习检测模型识别为表面凹点、划痕、擦伤、孔洞、污点、毛刺这类不良品进行生产线上的自动剔除,从而提高产品品质。
说明书

技术领域

[0001] 本发明属于电子元器件外观不良品检测领域,具体来说是一种基于深度学习技术的电子元器件外观不良品检测方法。

背景技术

[0002] 电子元器件外观不良品是指含有包括表面凹点、划痕、擦伤、孔洞、污点、毛刺等的产品。在制造过程中,这些外观不良品的产生往往很难完全避免,但这对电子元器件的性能和品质产生了极大的负面影响。目前通常采用的电子元器件外观不良品的自动检测方法为AOI自动光学检测系统,它通过CCD/CMOS摄像机对目标产品进行扫描采集到图像,再将图像和系统中预设的良品图像进行比较,从而识别外观不良品。但这种检测系统受到良品图像设定标准的影响,如果标准设定太严,则误判太多,标准设定太宽,又会漏检,造成了检测的局限性。

发明内容

[0003] 本发明的目标是针对现有技术的不足之处,提供一种无需良品图像作为比较基准的电子元器件外观不良品的自动检测方法及装置,以提高电子元器件在线检测的鲁棒性。
[0004] 为了实现上述目的,设计一种基于深度学习技术的电子元器件外观不良品的自动检测方法,该首先通过离线训练过程获得深度学习检测模型,然后在获得上述深度学习检测模型的基础上,对电子元器件不良品实现在线的自动检测,具体设计步骤如下:
[0005] 步骤1:数据集收集与标记。收集一类电子元器件不良品样本图像,将其按表面凹点、划痕、擦伤、孔洞、污点、毛刺进行分类标记;同时收集一类含字符或含有随机噪声的电子元器件良品样本图像进行标记。因为电子元器件表面经常会印刷字符,这是正常的,但是存在字符和缺陷容易混合、较难区分的情形,从而被误判为不良品图像;在图像采集过程中会引入随机噪声,这是正常的,但它会和某些类型的不良品特征相似,从而被误判为不良品图像。将收集的上述两类样本图像作为数据集。
[0006] 步骤2:对数据集的样本图像进行数据增强。将数据集中所有样本图像按翻转、剪裁、缩放、降噪的方式扩展样本数量,按9:1的比例划分出训练集和验证集。
[0007] 步骤3:构建卷积神经网络模型。该网络结构第一层为卷积层,是16个感受野大小为5×5的卷积核,步长为1,边缘填充为2,该层输出为16通道、尺寸为224×224的特征图;
[0008] 第二层采用重叠的最大池化层,是感受野大小为2×2的卷积核,步长为2,边缘填充为1,该层输出为16通道,尺寸为112×112的特征图;
[0009] 第三层采用并联结构的卷积层,包含左分支的一个卷积层和右分支的两个级联结构的卷积层。其中左分支的卷积层是32个感受野大小1×1的卷积核,步长为1,边缘填充为0;右分支两个级联的卷积层,上级卷积层是32个受野大小为3×3的卷积核,步长为1,边缘填充为1;下级卷积层是32个受野大小为3×3的卷积核,步长为1,边缘填充为1。最后将左右两个分支的输出进行拼接,该层输出为64个通道,尺寸为112×112的特征图;
[0010] 第四层采用最大池化层,是感受野大小为2×2的卷积层,步长为2,边缘填充为1,该层输出为64通道,尺寸为56×56的特征图;
[0011] 第五层采用并联结构的卷积层,包含左分支的一个卷积层和右分支的两个级联结构的卷积层。其中左分支的卷积层是64个感受野大小为1×1的卷积核,步长为1,边缘填充为0;右分支两个级联的卷积层,上级卷积层是64个感受野大小为3×3的卷积核,步长为1,边缘填充为1;下级卷积层是64个感受野大小为3×3的卷积核,步长为1,边缘填充为1。最后将左右两个分支的输出进行拼接,该层输出为128通道,尺寸为56×56的特征图;
[0012] 第六层采用最大池化层,是感受野大小为2×2的卷积层,步长为2,边缘填充为1,该层输出为128通道,尺寸为28×28的特征图;
[0013] 第七层是全连接层,用于将上层的多维特征图转换成一维的特征图进行输出;
[0014] 第八层为softmax分类层,用于计算输出属于每一类的概率。
[0015] 步骤4:获得深度学习检测模型。将数据集样本图片大小缩放为224×224×3,输入到上述卷积神经网络模型中进行迭代训练。迭代训练过程中,每次从训练样本中提取100个样本参与训练并进行批量归一化。设置迭代周期数,每迭代一个周期,将验证样本集输入模型中识别准确率。如果最后的准确率不满足要求,可增加迭代周期数,对参数进行微调重新训练。迭代训练的目的是使验证集获得最高的分类精确度,即该模型对数据集中标记过的类别特征能最高程度地自动识别,此时模型的权重参数为最优权重参数,此最优权重参数下的模型为深度学习检测模型。
[0016] 步骤5:采集实际待检测电子元器件彩色外观图像。在获得上述深度学习检测模型的基础上,对电子元器件不良品实现在线的自动检测。通过CCD/CMOS摄像机对电子元器件产品进行扫描,采集电子元器件彩色外观图像。
[0017] 步骤6:将步骤5采集得到的彩色外观图像输入到深度学习检测模型中进行图像类别的识别。在一般的AOI光学自动检测系统中,通常都是对图像先进行滤波等预处理以消除随机噪声,然后再进行图像类别识别。本方法不需要经过滤波等预处理步骤,因为在数据集中已经放置了随机噪声样本作为类别被自动识别。识别的结果用于判断输入的图像是表面凹点、划痕、擦伤、孔洞、污点、毛刺这类不良品图像,还是为含字符、随机噪声这类良品图像。
[0018] 步骤7:将深度学习检测模型识别为表面凹点、划痕、擦伤、孔洞、污点、毛刺这类不良品进行生产线上的自动剔除,从而提高产品品质。
[0019] 与现有技术相比,本发明的有益效果是:
[0020] 本发明的电子元器件外观不良品自动检测方法可以克服AOI光学检测系统中需要以良品图像为比较模板并通常需要人工设计缺陷特征的缺点,能利用深度学习技术自动地从预先标记好的样本数据集中学习特征,具有很强的适应性。

实施方案

[0023] 为了更清楚地说明本发明的技术方案,下面将对照附图说明本发明的具体实施方式。
[0024] 如图1所示,首先通过离线训练过程获得深度学习检测模型,然后在获得上述深度学习检测模型的基础上,对电子元器件不良品实现在线的自动检测,具体设计步骤如下:
[0025] 步骤1:数据集收集与标记。收集一类电子元器件不良品样本图像,将其按表面凹点、划痕、擦伤、孔洞、污点、毛刺进行分类标记;同时收集一类含字符或含有随机噪声的电子元器件良品样本图像进行标记。因为电子元器件表面经常会印刷字符,这是正常的,但是存在字符和缺陷容易混合、较难区分的情形,从而被误判为不良品图像;在图像采集过程中会引入随机噪声,这是正常的,但它会和某些类型的不良品特征相似,从而被误判为不良品图像。将收集的上述两类样本图像作为数据集。
[0026] 步骤2:对数据集的样本图像进行数据增强。将数据集中所有样本图像按翻转、剪裁、缩放、降噪的方式扩展样本数量,按9:1的比例划分出训练集和验证集。
[0027] 步骤3:构建卷积神经网络模型。如图2所示,该网络结构第一层为卷积层,是16个感受野大小为5×5的卷积核,步长为1,边缘填充为2,该层输出为16通道、尺寸为224×224的特征图;
[0028] 第二层采用重叠的最大池化层,是感受野大小为2×2的卷积核,步长为2,边缘填充为1,该层输出为16通道,尺寸为112×112的特征图;
[0029] 第三层采用并联结构的卷积层,包含左分支的一个卷积层和右分支的两个级联结构的卷积层。其中左分支的卷积层是32个感受野大小1×1的卷积核,步长为1,边缘填充为0;右分支两个级联的卷积层,上级卷积层是32个受野大小为3×3的卷积核,步长为1,边缘填充为1;下级卷积层是32个受野大小为3×3的卷积核,步长为1,边缘填充为1。最后将左右两个分支的输出进行拼接,该层输出为64个通道,尺寸为112×112的特征图;
[0030] 第四层采用最大池化层,是感受野大小为2×2的卷积层,步长为2,边缘填充为1,该层输出为64通道,尺寸为56×56的特征图;
[0031] 第五层采用并联结构的卷积层,包含左分支的一个卷积层和右分支的两个级联结构的卷积层。其中左分支的卷积层是64个感受野大小为1×1的卷积核,步长为1,边缘填充为0;右分支两个级联的卷积层,上级卷积层是64个感受野大小为3×3的卷积核,步长为1,边缘填充为1;下级卷积层是64个感受野大小为3×3的卷积核,步长为1,边缘填充为1。最后将左右两个分支的输出进行拼接,该层输出为128通道,尺寸为56×56的特征图;
[0032] 第六层采用最大池化层,是感受野大小为2×2的卷积层,步长为2,边缘填充为1,该层输出为128通道,尺寸为28×28的特征图;
[0033] 第七层是全连接层,用于将上层的多维特征图转换成一维的特征图进行输出;
[0034] 第八层为softmax分类层,用于计算输出属于每一类的概率。
[0035] 步骤4:获得深度学习检测模型。将数据集样本图片大小缩放为224×224×3,输入到上述卷积神经网络模型中进行迭代训练。迭代训练过程中,每次从训练样本中提取100个样本参与训练并进行批量归一化。设置迭代周期数,每迭代一个周期,将验证样本集输入模型中识别准确率。如果最后的准确率不满足要求,可增加迭代周期数,对参数进行微调重新训练。迭代训练的目的是使验证集获得最高的分类精确度,即该模型对数据集中标记过的类别特征能最高程度地自动识别,此时模型的权重参数为最优权重参数,此最优权重参数下的模型为深度学习检测模型;
[0036] 步骤5:采集实际待检测电子元器件彩色外观图像。在获得上述深度学习检测模型的基础上,对电子元器件不良品实现在线的自动检测。通过CCD/CMOS摄像机对电子元器件产品进行扫描,采集电子元器件彩色外观图像;
[0037] 步骤6:将步骤5采集得到的彩色外观图像输入到深度学习检测模型中进行图像类别的识别。在一般的AOI光学自动检测系统中,通常都是对图像先进行滤波等预处理以消除随机噪声,然后再进行图像类别识别。本方法不需要经过滤波等预处理步骤,因为在数据集中已经放置了随机噪声样本作为类别被自动识别。识别的结果用于判断输入的图像是表面凹点、划痕、擦伤、孔洞、污点、毛刺这类不良品图像,还是为含字符、随机噪声这类良品图像。
[0038] 步骤7:将深度学习检测模型识别为表面凹点、划痕、擦伤、孔洞、污点、毛刺的不良品进行生产线上的自动剔除,从而提高产品品质。

附图说明

[0021] 图1为本发明的总体设计流程图。
[0022] 图2为本发明构建的卷积神经网络模型。
版权所有:盲专网 ©2023 zlpt.xyz  蜀ICP备2023003576号