CN110070524A - 一种智能终端面板视觉故障检测系统 - Google Patents
一种智能终端面板视觉故障检测系统 Download PDFInfo
- Publication number
- CN110070524A CN110070524A CN201910269768.1A CN201910269768A CN110070524A CN 110070524 A CN110070524 A CN 110070524A CN 201910269768 A CN201910269768 A CN 201910269768A CN 110070524 A CN110070524 A CN 110070524A
- Authority
- CN
- China
- Prior art keywords
- picture
- lcd
- mobile phone
- image
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 97
- 230000000007 visual effect Effects 0.000 title claims abstract description 23
- 238000012545 processing Methods 0.000 claims abstract description 33
- 238000004458 analytical method Methods 0.000 claims abstract description 13
- 230000007547 defect Effects 0.000 claims abstract description 11
- 230000004438 eyesight Effects 0.000 claims abstract description 5
- 208000037656 Respiratory Sounds Diseases 0.000 claims description 51
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 32
- 238000000034 method Methods 0.000 claims description 27
- 230000002159 abnormal effect Effects 0.000 claims description 25
- 239000011159 matrix material Substances 0.000 claims description 23
- 238000006243 chemical reaction Methods 0.000 claims description 22
- 239000000284 extract Substances 0.000 claims description 20
- 238000012360 testing method Methods 0.000 claims description 20
- 238000005286 illumination Methods 0.000 claims description 18
- 230000000694 effects Effects 0.000 claims description 17
- 230000009466 transformation Effects 0.000 claims description 11
- 230000032683 aging Effects 0.000 claims description 9
- 238000004891 communication Methods 0.000 claims description 9
- 239000000428 dust Substances 0.000 claims description 8
- 230000008569 process Effects 0.000 claims description 8
- 101100117236 Drosophila melanogaster speck gene Proteins 0.000 claims description 7
- 210000003195 fascia Anatomy 0.000 claims description 7
- 244000174681 Michelia champaca Species 0.000 claims description 6
- 238000005299 abrasion Methods 0.000 claims description 6
- 238000000605 extraction Methods 0.000 claims description 6
- 230000007704 transition Effects 0.000 claims description 6
- 238000012790 confirmation Methods 0.000 claims description 5
- 238000003384 imaging method Methods 0.000 claims description 5
- 241001062009 Indigofera Species 0.000 claims description 4
- 230000008901 benefit Effects 0.000 claims description 4
- 230000005540 biological transmission Effects 0.000 claims description 4
- 239000003086 colorant Substances 0.000 claims description 4
- 238000012216 screening Methods 0.000 claims description 4
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims description 4
- BQCADISMDOOEFD-UHFFFAOYSA-N Silver Chemical compound [Ag] BQCADISMDOOEFD-UHFFFAOYSA-N 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000007405 data analysis Methods 0.000 claims description 3
- 238000013500 data storage Methods 0.000 claims description 3
- 238000007323 disproportionation reaction Methods 0.000 claims description 3
- 238000002474 experimental method Methods 0.000 claims description 3
- 238000001914 filtration Methods 0.000 claims description 3
- 230000002070 germicidal effect Effects 0.000 claims description 3
- 230000005484 gravity Effects 0.000 claims description 3
- 239000004615 ingredient Substances 0.000 claims description 3
- 230000001788 irregular Effects 0.000 claims description 3
- 230000004446 light reflex Effects 0.000 claims description 3
- 239000004973 liquid crystal related substance Substances 0.000 claims description 3
- 239000000463 material Substances 0.000 claims description 3
- 238000005259 measurement Methods 0.000 claims description 3
- 238000010295 mobile communication Methods 0.000 claims description 3
- 238000004064 recycling Methods 0.000 claims description 3
- 229910052709 silver Inorganic materials 0.000 claims description 3
- 239000004332 silver Substances 0.000 claims description 3
- 238000000844 transformation Methods 0.000 claims description 3
- 238000007689 inspection Methods 0.000 claims description 2
- 241000531807 Psophiidae Species 0.000 claims 1
- 238000006748 scratching Methods 0.000 claims 1
- 230000002393 scratching effect Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 2
- 230000004888 barrier function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 102000004373 Actin-related protein 2 Human genes 0.000 description 1
- 108090000963 Actin-related protein 2 Proteins 0.000 description 1
- 206010011376 Crepitations Diseases 0.000 description 1
- 206010027146 Melanoderma Diseases 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/14—Transformations for image registration, e.g. adjusting or mapping for alignment of images
- G06T3/147—Transformations for image registration, e.g. adjusting or mapping for alignment of images using affine transformations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/0008—Industrial image inspection checking presence/absence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20032—Median filtering
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Quality & Reliability (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
一种智能终端面板视觉故障检测系统，包括高帧率相机、电脑和图像检测系统模块，其中图像检测系统模块包含WIFI设备、图像采集模块、图像数字处理模块、缺陷故障识别模块，图像检测系统模块通过WIFI设备向APP检测模块发出指令，APP检测模块控制智能终端面板显示图像，然后高帧率相机来获取智能终端面板的图像并通过图像采集模块、图像数字处理模块、缺陷故障识别模块进行图像采集和分析、识别，最后图像检测系统模块输出视觉检测报告。
Description
技术领域
本发明涉及智能终端制造和售后行业的检测领域，特别地，涉及一种智能终端面板视觉故障检测系统。
背景技术
智能终端的视觉故障主要有：裂纹，划痕，黑斑，亮斑，残影，模糊，漏光等，传统的检测方法是用肉眼观察手机屏幕表面以及在红，白，黑，蓝等显示界面上观察，这些视觉故障，传统的检测方法存在几个缺陷：1，需要人工操作，效率低；2，不全面，人工检测容易遗漏；3，不严谨，不同的人评判的标准不同。
发明内容
基于现有技术的上述缺陷，本发明提供了一种智能终端面板视觉故障检测系统，该系统适用于智能终端面板上的视觉故障的检验场景，致力于提高智能手机面板视觉故障检测的效率、准确性和一致性。
本发明采用了以下技术方案：
一种智能终端面板视觉故障检测系统，包括高帧率相机、电脑和图像检测系统模块，其中图像检测系统模块包含WIFI设备、图像采集模块、图像数字处理模块、缺陷故障识别模块，图像检测系统模块通过WIFI设备向APP检测模块发出指令，APP检测模块控制智能终端面板显示图像，然后高帧率相机来获取智能终端面板的图像并通过图像采集模块、图像数字处理模块、缺陷故障识别模块进行图像采集和分析、识别，最后图像检测系统模块输出视觉检测报告。进一步地，高帧率相机获取智能终端面板的图像过程中，图像检测系统模块通过WIFI设备与智能终端的APP进行通信，根据通信的指令控制智能终端的显示界面，让显示器显示红，绿，白，黑，蓝等颜色，高帧率相机会按照指令从不同角度依次拍摄智能智能终端面板的照片。
一种智能终端面板视觉故障检测方法，包括如下步骤：
步骤1：确认手机存在及面板颜色；蓝光照射，正面拍摄图片1；
步骤2：二维码的定位与识别，确认APP正常打开；
步骤3：白屏坏斑及鬼影检测，白屏，关闭灯光，正面拍摄图片3，检测白屏坏斑与鬼影；
步骤4：侧面白屏模式下坏斑检测，白屏，关闭灯光，侧面拍摄图片4；
步骤5：黑色面板手机裂纹及划痕的检测，灭屏，强光照射，正面拍摄图片5：
步骤6：白色面板手机裂纹及划痕的检测，灭屏，强光照射，正面拍摄图片6：
步骤7：细微裂纹及划痕检测，灭屏，强光照射，侧面拍摄图片7；
步骤8：黑屏模式下坏斑的检测，黑屏，关闭灯光，正面拍摄图片8；
步骤9：基于字符显示的模糊检测，关闭灯光，正面拍摄图片9；
步骤10：红屏模式下的色偏检测，红屏，关闭灯光，正面拍摄图片10；
步骤11：数据存储及结果展示。
进一步地，步骤1中，当面板颜色为白色、银色等浅色调时，后续步骤5检测裂纹划痕时采用强光照射会在面板区域形成强烈反光，影响效果，需进行步骤6，采用弱光进行二次拍照；进一步地，具体为：系统中预先存储一张蓝光照射下不存在手机的图片，即空底板图片；该空底板图片从手机上方正面拍摄；空底板图片、图片1两幅图像转为灰度图后做差值，考虑噪声、灰尘、光线反射等的影响，做差阈值设置为20；对差值图进行二值化处理；对二值图像进行行列扫描，对于连续点数小于行列长度1/10的像素点直接置黑，即可排除大部分的灰尘、噪点的干扰，即使在USB存在的情况下，也可有效降低USB区域对手机轮廓的影响；然后提取手机轮廓，对该轮廓进行拟合，通过定点数量判断是否为不规则异物；如轮廓拟合后为矩形，计算该矩形旋转角度，通过该角度旋转图像，找到手机顶部及底部区域。考虑顶部刘海、听筒、相机等的干扰，选择手机底部区域计算其灰度图均值，通过该值判断手机面板颜色；如手机面板不为黑色，需在裂纹判断时，弱光照射条件下拍摄图片6，强光反射较大，面板区域视野不佳。
进一步地，步骤2中，为保证APP处于打开状态，需对APP主界面具备明显特征的二维码进行检测；本系统后台与手机APP之间的通信支持USB/WIFI两种模式，在WIFI模式下，后台通过识别二维码读取手机通信地址，与APP建立网络连接，在USB模式下，后台直接通过USB与APP建立通信链接，发送切屏指令，保证手机面板及LCD的正常检测；对图片2进行基于大津法的二值化处理，提取图中矩形轮廓；因二维码区域三个顶点皆由独立矩形构成，采用提取特定面积范围内的矩形轮廓的方式判断APP是否打开及二维码是否存在；如判断APP未打开或二维码定位失败，则此次检测结束；如二维码定位成功，则通过最大轮廓判断图像的旋转角度，通过该角度转正图片2，截取二维码区域，识别手机IP信息，建立后台与手机间的SOCKET链接。
进一步地，步骤3中，在检测白屏坏斑与鬼影之前，需先实现LCD区域的定位；考虑用户放置手机时，大都存在一定水平偏转角度，不利于后续分析处理；需对LCD区域进行定位，计算当前LCD偏转角度，对后续待测图片进行校正；采用计算LCD的偏转角度而非手机偏转角度；利用该角度数值，对步骤1中手机面板图片进行仿射及旋转变化，使之处于相对水平状态，精确定位手机面板坐标，提取手机面板区域，后续步骤5-7的裂纹及划痕检测图片可照该数据提取手机区域，可有效降低手机边缘的误判情况。其中，LCD区域定位：对图片3转灰度图后进行自适应二值化处理，考虑屏幕裂纹可能导致LCD轮廓不完整，对该二值图进行闭运算处理；经试验分析，当进行闭运算的卷积核的尺寸设置为5时，可有效去除LCD裂纹造成的干扰。提取最大的轮廓，将该轮廓拟合成矩形并计算其旋转角度，通过旋转角度计算将该图片初步转正的仿射矩阵WARP1，利用WARP1对二值图进行初步变换，使其大体水平；由于LCD边缘磨损、老化、裂纹等原因，霍夫变换提取直线边界的方法在此处效果并不理想；其次，考虑刘海、水滴、圆角、全面等异形屏，通过直线边界的方式难以有效定位LCD顶点坐标；故在该二值图已大致水平的基础上，分别取其LCD轮廓四个顶点区域距离对应的图片顶点距离最近的X/Y轴坐标，该坐标即可作为行列边界的交点，也是LCD在初步变换后的图像中的顶点坐标；通过四个顶点的中心坐标及X/Y轴平均距离，计算得到LCD处于真正水平状态下的顶点坐标。通过前后坐标，计算最终仿射矩阵WARP2。进一步地，手机边界定位：针对图片1与蓝光照射预存空拍图的差值图，利用LCD白屏时得到的两个仿射矩阵连续进行变换，得到手机绝对水平状态下的差值图片。采用算法第一步计算手机面板颜色的方法，得到整个手机区域的二值化图片。进行行列扫描，即可得到手机区域的四条边界坐标，即手机顶点的四个坐标。为保证最后异常结果显示图片简洁，所有图片只保留手机区域。故对最终仿射矩阵WARP2进行修改：最终图像尺寸设置为手机尺寸，并根据LCD的顶点坐标及手机顶点坐标，计算LCD顶点相对手机的相对坐标，利用该相对坐标，重新计算最终仿射矩阵WARP2。后续待测图片均进行两部仿射变换，仅保留图片中的手机区域进行检测。进一步地，白屏坏斑及鬼影检测：对于坏斑坏点及亮度不均，该区域与背景之间存在像素差；首先利用blob算子对斑点区域进行初步提取；根据测试过程中斑点特征，设置blob参数因子为近圆、凸型；由于blob只能提取较明显轮廓的斑点，为实现坏斑的准确检测，还需做以下处理；对图片3转灰度图后进行中值滤波处理，与原灰度图进行差值运算，结果图片保留高频成分；对该结果图进行二值化处理，根据现场实测，当二值化阈值设置为10时，人眼可辨的异常区域均可提取出来；由于背景为白色，为结果显示对比明显，该处异常以黑色圆形区域圈定；对于手机鬼影，当前是指在白屏状态下，可模糊看到手机背景轮廓，如其他应用APP图标、键盘字符等；将图片3转为灰度图，根据实际测试数据，只有当灰度图LCD区域方差大于5时，则概率性存在鬼影，否则该手机LCD白屏一致性较好，不存在异常；当方差大于5时，对该灰度图进行拉伸处理，并计算其直方图，考虑到噪点、黑点、亮点等的干扰，截取中间像素数量大于总像素数1/1000的区域，超出临界值得像素值设置为最近的临界值；将处理后的灰度图均值定为128，拉伸上下限设为64及192；对该灰度图进行基于大津法的二值化处理。对该二值图进行列扫描，统计每列0像素数量；基于实验观察，一致性较好的LCD图片扫描数据波动极小，或波峰及窄，部分中心区域较亮的LCD扫描数据波峰在两侧。当扫描数据出现多个波峰，且波峰与波谷数值差异较大，波峰宽度满足大于LCD宽度的1/20，则存在鬼影。鉴于鬼影为全屏出现，则该异常以绿色矩形区域圈定全屏。
进一步地，步骤7中，部分手机裂纹及划痕较细，正面相机成像效果不明显，容易造成漏判，需从侧面拍摄进行补测；侧面相机由于角度原因，细微划痕在图片中会产生对比加强的效果，利于检测分析；裂纹、划痕的检测主要依赖边缘提取，对图片转灰度图后，分两步处理：提取高频成分，即中值滤波后做差，对差值图做二值化处理，根据实验数据，二值化阈值设置为10时提取的划痕人眼可辨，当阈值小于10时，大部分边缘区域较难分辨；当划痕周围存在指纹、磨损干扰时，若该干扰边缘变化缓慢，上述方法难以保证提取效果，对上述灰度图原图做边缘提取，采用Canny算子，阈值设置为30/60，当边缘对比度达到30时，边缘信息清晰可见。两种方式处理后的二值图进行或运算，保证所有的边缘信息都可以提取出来。之后对边缘进行筛选，筛选条件主要包括：靠近LCD边界的、角度接近垂直或者水平的、最小外接矩形最大边长大于最小边长3倍以上的，认为是LCD的边界干扰；轮廓像素数或最小外接矩形边长小于设定的最小长度阈值；靠近手机顶部、外接矩形高度大于宽度3倍以上的听筒；靠近手机顶部、最小外接矩形最小边长/最大边长大于0.85的摄像头、信号灯等，需对具备以上特征的轮廓进行排除。通过对划痕与裂纹的特征分析发现，裂纹长度一般较大，且肯定延伸至LCD的两个边界。故轮廓边界靠近收集边界的，且长度大于手机宽度1/2以上的记为裂纹，其余为划痕。鉴于裂纹等级较高，裂纹以红色椭圆区域圈定，划痕以蓝色椭圆区域圈定。
进一步地，步骤8中，需按照步骤3中LCD定位时计算所得仿射矩阵进行变换，待图片中LCD区域处于水平状态后进行检测屏幕是否存在亮斑、透光现象；黑屏的亮斑检测原理较为简单，在标准黑色背景下，当区域亮度大于20时，即可达到人眼可辨的标准；当LCD显示黑屏时，理论上整个显示区域像素数值均应为0，考虑噪声、灰尘等的干扰，设置阈值为20即可。将图片8转为灰度图，针对LCD区域做二值化处理，对二值图提取轮廓，如有轮廓存在，则该轮廓处存在坏斑，如该轮廓处于边缘区域且面积较大，则该处区域存在透光。为结果显示对比明显，黑屏坏斑以白色圆形区域圈定。
进一步地，步骤9中，字符模糊主要是考虑LCD老化导致部分区域显示不完整，造成字符区域缺失，影响手机回收与使用。需按照步骤3中LCD定位时计算所得仿射矩阵进行变换，待图片中LCD区域处于水平状态后再行检测；字符显示模糊检测算法的核心是基于当前字符与模板字符的轮廓对比，如差异较大，则当前图片显示缺失。对图片9的LCD区域做转灰度图变化，对该灰度图做基于大津法的自适应二值化处理，通过提取轮廓，查找字符外围的矩形框；如果不能正常找到该框，则该图片记为全屏模糊，不在进行下一步的模糊检测；如能正常找到字符外围的矩形框，提取该矩形框区域，并缩放至与模板同样尺寸；对该区域原灰度图做普通二值化处理，阈值为该区域灰度图均值；对字符模板图片进行基于大津法的自适应二值化处理后，提取模板字符的外围轮廓，确定其外接矩形的坐标。该矩形尺寸适当放大，以保证当前字符完全处于该坐标区域内。提取当前字符与模板字符在该区域内的最大轮廓，基于HU矩做轮廓对比，当其相似度数值小于0.5时即认为轮廓形状一致，不存在模糊等显示异常现象。如轮廓相似度数值大于0.5时，亦有可能是裂纹或者划痕导致，判断其字符区域像素数量。当图片模糊时，字符区域像素数值较高，以均值做二值化处理后，部分区域会被认为是白色背景。故该区域字符像素数会减少。考虑不同型号手机显示存在一定误差，且经大量数据分析可得，如当前字符像素数量小于模板字符数量的7/10时，当前字符区域存在显示模糊的现象。字符显示模糊异常以蓝色矩形区域圈定。
进一步地，步骤10中，色偏主要检测红屏状态下手机着色是否正常，部分手机由于冷暖材质、液晶老化的各类原因，存在偏黄偏绿等显示不正常现象；需按照步骤3中LCD定位时计算所得仿射矩阵进行变换，待图片中LCD区域处于水平状态后再行检测；将图片10中LCD区域由RGB颜色空间转换至LAB颜色空间，计算转换后图像的均值与方差。A通道表示红绿两色之间的过渡，B通道表示黄蓝两色之间的过渡，其均值分别减去128，结果记为da、db，分别表示A、B通道均值在所示两色之间的偏离程度，计算其均方差，表示整体偏离中心色调的程度；通过A、B通道的方差数值，计算其色度偏差；最终通过色度方差偏差与色度均值偏差的比值判断是否存在偏色，如该比值越小，则偏色越为严重。由红屏测试模式可知，正常情况下，A通道均值较大，当da小于0或是da小于db时，说明A通道偏绿或者黄蓝两色比重较大，则此时必然存在色偏。
进一步地，步骤11中，检测结果以JSON格式返回给后台，后台提交前端界面显示。异常分为显示异常、外观异常两大类，显示异常包括坏斑、鬼影、模糊、色偏四小类，外观异常分为裂纹、划痕两小类；异常图片在本地存储，JSON中包含其路径，供前端调用显示。
本发明的智能终端面板视觉故障检测系统的突出的技术效果在于：通过将多角度拍摄的图像数字化，通过算法识别出故障现象，最终将故障现象从图像中标注出来，可以快速的辨别故障现象，避免人工检测遗漏，同时量化了检测标准，保证检测结果的一致性，为智能手机的面板视觉故障的检测提供了一种有效直接的自动检测手段。
附图说明：
图1-本发明的智能终端面板视觉故障检测系统结构组成示意图。
图2-本发明的智能终端面板视觉故障检测系统的实施方案简图。
图3-本发明的智能终端面板视觉故障检测系统的工作流程示意图。
图4-本发明的智能终端面板视觉故障检测系统的具体流程步骤示意图。
具体实施方式：
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例的附图，对本发明实施例的技术方案进行清楚、完整地描述。显然，所描述的实施例是本发明的一部分实施例，而不是全部的实施例。基于所描述的本发明的实施例，本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
如图1、2所示，本发明的一种智能终端面板视觉故障检测系统，包括高帧率相机、电脑和图像检测系统模块，其中图像检测系统模块包含WIFI设备、图像采集模块、图像数字处理模块、缺陷故障识别模块，图像检测系统模块通过WIFI设备向APP检测模块发出指令，APP检测模块控制智能终端面板显示图像，然后高帧率相机来获取智能终端面板的图像并通过图像采集模块、图像数字处理模块、缺陷故障识别模块进行图像采集和分析、识别，最后图像检测系统模块输出视觉检测报告。其中各个模块协同工作，通过软件算法将缺陷故障数字化，并最终将缺陷故障识别标注出来，以报告的形式呈现给客户。
如图1-4所示，本发明的一种智能终端面板视觉故障检测系统，在一种具体实施方式中，包括如下步骤：
1.通过现有技术和手机中的APP进行通信，根据通信的指令控制手机的显示界面，让显示器显示红，绿，白，黑，蓝等颜色。
2.高帧率工业相机会按照指令从不同角度依次拍摄智能手机面板的照片，整体流程如图4所示。
各步骤检测内容及相互关联情况如下：
(一)步骤1：确认手机存在及面板颜色。本系统无人值守，为作防呆处理，需确认手机存在，且处于相机视野范围；当面板颜色为白色、银色等浅色调时，后续步骤5检测裂纹划痕时采用强光照射会在面板区域形成强烈反光，影响效果，需进行步骤6，采用弱光进行二次拍照。
系统中预先存储一张蓝光照射下不存在手机的图片，即空底板图片。该图片同图片1拍摄条件一致，从手机上方正面拍摄。两幅图像转为灰度图后做差值，考虑噪声、灰尘、光线反射等的影响，做差阈值设置为20。对差值图进行二值化处理。对二值图像进行行列扫描，对于连续点数小于行列长度1/10的像素点直接置黑，即可排除大部分的灰尘、噪点的干扰，即使在USB存在的情况下，也可有效降低USB区域对手机轮廓的影响。然后提取手机轮廓，对该轮廓进行拟合，通过定点数量判断是否为不规则异物。如轮廓拟合后为矩形，计算该矩形旋转角度，通过该角度旋转图像，找到手机顶部及底部区域。考虑顶部刘海、听筒、相机等的干扰，选择手机底部区域计算其灰度图均值，通过该值判断手机面板颜色。如手机面板不为黑色，需在裂纹判断时，弱光照射条件下拍摄图片6，强光反射较大，面板区域视野不佳。
(二)步骤2：二维码的定位与识别。为保证APP处于打开状态，需对APP主界面具备明显特征的二维码进行检测。本系统后台与手机APP之间的通信支持USB/WIFI两种模式，在WIFI模式下，后台通过识别二维码读取手机通信地址，与APP建立网络连接，在USB模式下，后台直接通过USB与APP建立通信链接，发送切屏指令，保证手机面板及LCD的正常检测；
部分手机可能由于接触不良等原因，会导致USB连接失败，建议优先采用WIFI连接测试方案，APP生成二维码并存储IP信息。对图片2进行基于大津法的二值化处理，提取图中矩形轮廓。因二维码区域三个顶点皆由独立矩形构成，采用提取特定面积范围内的矩形轮廓的方式判断APP是否打开及二维码是否存在。如判断APP未打开或二维码定位失败，则此次检测结束。如二维码定位成功，则通过最大轮廓(即LCD区域)判断图像的旋转角度，通过该角度转正图片2，截取二维码区域，识别手机IP信息，建立后台与手机间的SOCKET链接。
(三)步骤3：白屏坏斑及鬼影检测。在检测白屏坏斑与鬼影之前，需先实现LCD区域的定位。考虑用户放置手机时，大都存在一定水平偏转角度，不利于后续分析处理。需对LCD区域进行定位，计算当前LCD偏转角度，对后续待测图片进行校正。采用计算LCD的偏转角度而非手机偏转角度，主要是考虑手机面板边缘轮廓可能性较多，且存在反光、破损的可能，结果精准度不及LCD；利用该角度数值，对步骤1中手机面板图片进行仿射及旋转变化，使之处于相对水平状态，精确定位手机面板坐标，提取手机面板区域，后续步骤5-7的裂纹及划痕检测图片可照该数据提取手机区域，可有效降低手机边缘的误判情况。
LCD区域定位：对图片3转灰度图后进行自适应二值化处理，考虑屏幕裂纹可能导致LCD轮廓不完整，对该二值图进行闭运算处理。经试验分析，当进行闭运算的卷积核的尺寸设置为5时，可有效去除LCD裂纹造成的干扰。提取最大的轮廓，将该轮廓拟合成矩形并计算其旋转角度，通过旋转角度计算将该图片初步转正的仿射矩阵WARP1，利用WARP1对二值图进行初步变换，使其大体水平。由于LCD边缘磨损、老化、裂纹等原因，霍夫变换提取直线边界的方法在此处效果并不理想；其次，考虑刘海、水滴、圆角、全面等异形屏，通过直线边界的方式难以有效定位LCD顶点坐标。故在该二值图已大致水平的基础上，分别取其LCD轮廓四个顶点区域距离对应的图片顶点距离最近的X/Y轴坐标，该坐标即可作为行列边界的交点，也是LCD在初步变换后的图像中的顶点坐标。通过四个顶点的中心坐标及X/Y轴平均距离，计算得到LCD处于真正水平状态下的顶点坐标。通过前后坐标，计算最终仿射矩阵WARP2。步骤8-10均采用该矩阵进行变换，保证LCD区域水平。
手机边界定位：针对图片1与蓝光照射预存空拍图的差值图，利用LCD白屏时得到的两个仿射矩阵连续进行变换，得到手机绝对水平状态下的差值图片。采用算法第一步计算手机面板颜色的方法，得到整个手机区域的二值化图片。进行行列扫描，即可得到手机区域的四条边界坐标，即手机顶点的四个坐标。为保证最后异常结果显示图片简洁，所有图片只保留手机区域。故对最终仿射矩阵WARP2进行修改：最终图像尺寸设置为手机尺寸，并根据LCD的顶点坐标及手机顶点坐标，计算LCD顶点相对手机的相对坐标，利用该相对坐标，重新计算最终仿射矩阵WARP2。后续待测图片均进行两部仿射变换，仅保留图片中的手机区域进行检测。
白屏坏斑及鬼影检测：对于坏斑坏点及亮度不均，该区域与背景之间存在像素差。首先利用blob算子对斑点区域进行初步提取。根据测试过程中斑点特征，设置blob参数因子为近圆、凸型。由于blob只能提取较明显轮廓的斑点，为实现坏斑的准确检测，还需做以下处理。对图片3转灰度图后进行中值滤波处理，与原灰度图进行差值运算，结果图片保留高频成分。对该结果图进行二值化处理，根据现场实测，当二值化阈值设置为10时，人眼可辨的异常区域均可提取出来。由于背景为白色，为结果显示对比明显，该处异常以黑色圆形区域圈定；对于手机鬼影，当前是指在白屏状态下，可模糊看到手机背景轮廓，如其他应用APP图标、键盘字符等。将图片3转为灰度图，根据实际测试数据，只有当灰度图LCD区域方差大于5时，则概率性存在鬼影，否则该手机LCD白屏一致性较好，不存在异常。当方差大于5时，对该灰度图进行拉伸处理，并计算其直方图，考虑到噪点、黑点、亮点等的干扰，截取中间像素数量大于总像素数1/1000的区域，超出临界值得像素值设置为最近的临界值。将处理后的灰度图均值定为128，拉伸上下限设为64及192。对该灰度图进行基于大津法的二值化处理。对该二值图进行列扫描，统计每列0像素数量。基于实验观察，一致性较好的LCD图片扫描数据波动极小，或波峰及窄，部分中心区域较亮的LCD扫描数据波峰在两侧。当扫描数据出现多个波峰，且波峰与波谷数值差异较大，波峰宽度满足大于LCD宽度的1/20，则存在鬼影。鉴于鬼影为全屏出现，则该异常以绿色矩形区域圈定全屏。
(四)步骤4：侧面白屏模式下坏斑检测。考虑部分情况下对比度较低的LCD坏斑缺陷正面拍摄不明显，侧面30度拍摄时效果更好一些，故采用侧面相机拍摄，对白屏显示缺陷做近一步检测与验证。侧面白屏在进行仿射变换处于水平状态后，坏斑检测方法与正面白屏检测方法一致。
(五)步骤5：黑色面板手机裂纹及划痕的检测。在该步骤中，手机处于灭屏状态，在强光照射下，裂纹及划痕成像较为清晰。图像仿射及旋转变换的矩阵来自步骤3中手机定位计算所得。
(六)步骤6：白色面板手机裂纹及划痕的检测。当手机面板颜色为非黑色时，强光照射下面板区域反光严重，影像成像，干扰检测。需采用弱光照射，以保证面板区域的裂纹及划痕清晰可见。
(七)步骤7：细微裂纹及划痕检测。部分手机裂纹及划痕较细，正面相机成像效果不明显，容易造成漏判。需从侧面拍摄进行补测。侧面相机由于角度原因，细微划痕在图片中会产生对比加强的效果，利于检测分析。
裂纹、划痕的检测主要依赖边缘提取，对图片转灰度图后，分两步处理：提取高频成分，即中值滤波后做差，对差值图做二值化处理，根据实验数据，二值化阈值设置为10时提取的划痕人眼可辨，当阈值小于10时，大部分边缘区域较难分辨；当划痕周围存在指纹、磨损干扰时，若该干扰边缘变化缓慢，上述方法难以保证提取效果，对上述灰度图原图做边缘提取，采用Canny算子，阈值设置为30/60，当边缘对比度达到30时，边缘信息清晰可见。两种方式处理后的二值图进行或运算，保证所有的边缘信息都可以提取出来。之后对边缘进行筛选，筛选条件主要包括：靠近LCD边界的、角度接近垂直或者水平的、最小外接矩形最大边长大于最小边长3倍以上的，认为是LCD的边界干扰；轮廓像素数或最小外接矩形边长小于设定的最小长度阈值；靠近手机顶部、外接矩形高度大于宽度3倍以上的听筒；靠近手机顶部、最小外接矩形最小边长/最大边长大于0.85的摄像头、信号灯等，需对具备以上特征的轮廓进行排除。通过对划痕与裂纹的特征分析发现，裂纹长度一般较大，且肯定延伸至LCD的两个边界。故轮廓边界靠近收集边界的，且长度大于手机宽度1/2以上的记为裂纹，其余为划痕。鉴于裂纹等级较高，裂纹以红色椭圆区域圈定，划痕以蓝色椭圆区域圈定。
(八)步骤8：黑屏模式下坏斑的检测。需按照步骤3中LCD定位时计算所得仿射矩阵进行变换，待图片中LCD区域处于水平状态后进行检测屏幕是否存在亮斑、透光现象。
黑屏的亮斑检测原理较为简单，在标准黑色背景下，当区域亮度大于20时，即可达到人眼可辨的标准。当LCD显示黑屏时，理论上整个显示区域像素数值均应为0，考虑噪声、灰尘等的干扰，设置阈值为20即可。将图片8转为灰度图，针对LCD区域做二值化处理，对二值图提取轮廓，如有轮廓存在，则该轮廓处存在坏斑，如该轮廓处于边缘区域且面积较大，则该处区域存在透光。为结果显示对比明显，黑屏坏斑以白色圆形区域圈定。
(九)步骤9：基于字符显示的模糊检测。字符模糊主要是考虑LCD老化导致部分区域显示不完整，造成字符区域缺失，影响手机回收与使用。需按照步骤3中LCD定位时计算所得仿射矩阵进行变换，待图片中LCD区域处于水平状态后再行检测。
字符显示模糊检测算法的核心是基于当前字符与模板字符的轮廓对比，如差异较大，则当前图片显示缺失。对图片9的LCD区域做转灰度图变化，对该灰度图做基于大津法的自适应二值化处理，通过提取轮廓，查找字符外围的矩形框。如果不能正常找到该框，则该图片记为全屏模糊，不在进行下一步的模糊检测。如能正常找到字符外围的矩形框，提取该矩形框区域，并缩放至与模板同样尺寸。对该区域原灰度图做普通二值化处理，阈值为该区域灰度图均值。对字符模板图片进行基于大津法的自适应二值化处理后，提取模板字符的外围轮廓，确定其外接矩形的坐标。该矩形尺寸适当放大，以保证当前字符完全处于该坐标区域内。提取当前字符与模板字符在该区域内的最大轮廓，基于HU矩做轮廓对比，当其相似度数值小于0.5时即认为轮廓形状一致，不存在模糊等显示异常现象。如轮廓相似度数值大于0.5时，亦有可能是裂纹或者划痕导致，判断其字符区域像素数量。当图片模糊时，字符区域像素数值较高，以均值做二值化处理后，部分区域会被认为是白色背景。故该区域字符像素数会减少。考虑不同型号手机显示存在一定误差，且经大量数据分析可得，如当前字符像素数量小于模板字符数量的7/10时，当前字符区域存在显示模糊的现象。字符显示模糊异常以蓝色矩形区域圈定。
(十)步骤10：红屏模式下的色偏检测。色偏主要检测红屏状态下手机着色是否正常，部分手机由于冷暖材质、液晶老化的各类原因，存在偏黄偏绿等显示不正常现象。需按照步骤3中LCD定位时计算所得仿射矩阵进行变换，待图片中LCD区域处于水平状态后再行检测。
将图片10中LCD区域由RGB颜色空间转换至LAB颜色空间，计算转换后图像的均值与方差。A通道表示红绿两色之间的过渡，B通道表示黄蓝两色之间的过渡，其均值分别减去128，结果记为da、db，分别表示A、B通道均值在所示两色之间的偏离程度，计算其均方差，表示整体偏离中心色调的程度；通过A、B通道的方差数值，计算其色度偏差；最终通过色度方差偏差与色度均值偏差的比值判断是否存在偏色，如该比值越小，则偏色越为严重。由红屏测试模式可知，正常情况下，A通道均值较大，当da小于0或是da小于db时，说明A通道偏绿或者黄蓝两色比重较大，则此时必然存在色偏。
(十一)步骤11：数据存储及结果展示：检测结果以JSON格式返回给后台，后台提交前端界面显示。异常分为显示异常、外观异常两大类，显示异常包括坏斑、鬼影、模糊、色偏四小类，外观异常分为裂纹、划痕两小类；异常图片在本地存储，JSON中包含其路径，供前端调用显示。
最后应说明的是，以上实施例仅用以描述本发明的技术方案而不是对本技术方案进行限制，本发明在应用上可以延伸为其他的修改、变化、应用和实施例，并且因此认为所有这样的修改、变化、应用、实施例都在本发明的精神和教导范围内。
Claims (10)
1.一种智能终端面板视觉故障检测系统，其特征在于：包括高帧率相机、电脑和图像检测系统模块，其中图像检测系统模块包含WIFI设备、图像采集模块、图像数字处理模块、缺陷故障识别模块，图像检测系统模块通过WIFI设备向APP检测模块发出指令，APP检测模块控制智能终端面板显示图像，然后高帧率相机来获取智能终端面板的图像并通过图像采集模块、图像数字处理模块、缺陷故障识别模块进行图像采集和分析、识别，最后图像检测系统模块输出视觉检测报告。进一步地，高帧率相机获取智能终端面板的图像过程中，图像检测系统模块通过WIFI设备与智能终端的APP进行通信，根据通信的指令控制智能终端的显示界面，让显示器显示红，绿，白，黑，蓝等颜色，高帧率相机会按照指令从不同角度依次拍摄智能智能终端面板的照片。
2.一种智能终端面板视觉故障检测方法，其特征在于：包括如下步骤：
步骤1：确认手机存在及面板颜色；蓝光照射，正面拍摄图片1；
步骤2：二维码的定位与识别，确认APP正常打开：亮屏，关闭灯光，正面拍摄图片2；
步骤3：白屏坏斑及鬼影检测，白屏，关闭灯光，正面拍摄图片3，检测白屏坏斑与鬼影；
步骤4：侧面白屏模式下坏斑检测，白屏，关闭灯光，侧面拍摄图片4；
步骤5：黑色面板手机裂纹及划痕的检测，灭屏，强光照射，正面拍摄图片5；
步骤6：白色面板手机裂纹及划痕的检测，灭屏，强光照射，正面拍摄图片6：
步骤7：细微裂纹及划痕检测，灭屏，强光照射，侧面拍摄图片7；
步骤8：黑屏模式下坏斑的检测，黑屏，关闭灯光，正面拍摄图片8；
步骤9：基于字符显示的模糊检测，关闭灯光，正面拍摄图片9；
步骤10：红屏模式下的色偏检测，红屏，关闭灯光，正面拍摄图片10；
步骤11：数据存储及结果展示。
3.根据权利要求2所述的方法，其特征在于：步骤1中，当面板颜色为白色、银色等浅色调时，后续步骤5检测裂纹划痕时采用强光照射会在面板区域形成强烈反光，影响效果，需进行步骤6，采用弱光进行二次拍照；进一步地，具体为：系统中预先存储一张蓝光照射下不存在手机的图片，即空底板图片；该空底板图片从手机上方正面拍摄；空底板图片、图片1两幅图像转为灰度图后做差值，考虑噪声、灰尘、光线反射等的影响，做差阈值设置为20；对差值图进行二值化处理；对二值图像进行行列扫描，对于连续点数小于行列长度1/10的像素点直接置黑，即可排除大部分的灰尘、噪点的干扰，即使在USB存在的情况下，也可有效降低USB区域对手机轮廓的影响；然后提取手机轮廓，对该轮廓进行拟合，通过定点数量判断是否为不规则异物；如轮廓拟合后为矩形，计算该矩形旋转角度，通过该角度旋转图像，找到手机顶部及底部区域；考虑顶部刘海、听筒、相机等的干扰，选择手机底部区域计算其灰度图均值，通过该值判断手机面板颜色；如手机面板不为黑色，需在裂纹判断时，弱光照射条件下拍摄图片6，强光反射较大，面板区域视野不佳。
4.根据权利要求2所述的方法，其特征在于：步骤2中，为保证APP处于打开状态，需对APP主界面具备明显特征的二维码进行检测；本系统后台与手机APP之间的通信支持USB/WIFI两种模式，在WIFI模式下，后台通过识别二维码读取手机通信地址，与APP建立网络连接，在USB模式下，后台直接通过USB与APP建立通信链接，发送切屏指令，保证手机面板及LCD的正常检测；对图片2进行基于大津法的二值化处理，提取图中矩形轮廓；因二维码区域三个顶点皆由独立矩形构成，采用提取特定面积范围内的矩形轮廓的方式判断APP是否打开及二维码是否存在；如判断APP未打开或二维码定位失败，则此次检测结束；如二维码定位成功，则通过最大轮廓判断图像的旋转角度，通过该角度转正图片2，截取二维码区域，识别手机IP信息，建立后台与手机间的SOCKET链接。
5.根据权利要求2所述的方法，其特征在于：步骤3中，在检测白屏坏斑与鬼影之前，需先实现LCD区域的定位；考虑用户放置手机时，大都存在一定水平偏转角度，不利于后续分析处理；需对LCD区域进行定位，计算当前LCD偏转角度，对后续待测图片进行校正；采用计算LCD的偏转角度而非手机偏转角度；利用该角度数值，对步骤1中手机面板图片进行仿射及旋转变化，使之处于相对水平状态，精确定位手机面板坐标，提取手机面板区域，后续步骤57的裂纹及划痕检测图片可照该数据提取手机区域，可有效降低手机边缘的误判情况；其中，LCD区域定位：对图片3转灰度图后进行自适应二值化处理，考虑屏幕裂纹可能导致LCD轮廓不完整，对该二值图进行闭运算处理；经试验分析，当进行闭运算的卷积核的尺寸设置为5时，可有效去除LCD裂纹造成的干扰；提取最大的轮廓，将该轮廓拟合成矩形并计算其旋转角度，通过旋转角度计算将该图片初步转正的仿射矩阵WARP1，利用WARP1对二值图进行初步变换，使其大体水平；由于LCD边缘磨损、老化、裂纹等原因，霍夫变换提取直线边界的方法在此处效果并不理想；其次，考虑刘海、水滴、圆角、全面等异形屏，通过直线边界的方式难以有效定位LCD顶点坐标；故在该二值图已大致水平的基础上，分别取其LCD轮廓四个顶点区域距离对应的图片顶点距离最近的X/Y轴坐标，该坐标即可作为行列边界的交点，也是LCD在初步变换后的图像中的顶点坐标；通过四个顶点的中心坐标及X/Y轴平均距离，计算得到LCD处于真正水平状态下的顶点坐标；通过前后坐标，计算最终仿射矩阵WARP2。进一步地，手机边界定位：针对图片1与蓝光照射预存空拍图的差值图，利用LCD白屏时得到的两个仿射矩阵连续进行变换，得到手机绝对水平状态下的差值图片；采用算法第一步计算手机面板颜色的方法，得到整个手机区域的二值化图片；进行行列扫描，即可得到手机区域的四条边界坐标，即手机顶点的四个坐标；为保证最后异常结果显示图片简洁，所有图片只保留手机区域；故对最终仿射矩阵WARP2进行修改：最终图像尺寸设置为手机尺寸，并根据LCD的顶点坐标及手机顶点坐标，计算LCD顶点相对手机的相对坐标，利用该相对坐标，重新计算最终仿射矩阵WARP2；后续待测图片均进行两部仿射变换，仅保留图片中的手机区域进行检测。进一步地，白屏坏斑及鬼影检测：对于坏斑坏点及亮度不均，该区域与背景之间存在像素差；首先利用blob算子对斑点区域进行初步提取；根据测试过程中斑点特征，设置blob参数因子为近圆、凸型；由于blob只能提取较明显轮廓的斑点，为实现坏斑的准确检测，还需做以下处理；对图片3转灰度图后进行中值滤波处理，与原灰度图进行差值运算，结果图片保留高频成分；对该结果图进行二值化处理，根据现场实测，当二值化阈值设置为10时，人眼可辨的异常区域均可提取出来；由于背景为白色，为结果显示对比明显，该处异常以黑色圆形区域圈定；对于手机鬼影，当前是指在白屏状态下，可模糊看到手机背景轮廓，如其他应用APP图标、键盘字符等；将图片3转为灰度图，根据实际测试数据，只有当灰度图LCD区域方差大于5时，则概率性存在鬼影，否则该手机LCD白屏一致性较好，不存在异常；当方差大于5时，对该灰度图进行拉伸处理，并计算其直方图，考虑到噪点、黑点、亮点等的干扰，截取中间像素数量大于总像素数1/1000的区域，超出临界值得像素值设置为最近的临界值；将处理后的灰度图均值定为128，拉伸上下限设为64及192；对该灰度图进行基于大津法的二值化处理；对该二值图进行列扫描，统计每列0像素数量；基于实验观察，一致性较好的LCD图片扫描数据波动极小，或波峰及窄，部分中心区域较亮的LCD扫描数据波峰在两侧；当扫描数据出现多个波峰，且波峰与波谷数值差异较大，波峰宽度满足大于LCD宽度的1/20，则存在鬼影；鉴于鬼影为全屏出现，则该异常以绿色矩形区域圈定全屏。
6.根据权利要求2所述的方法，其特征在于：步骤7中，部分手机裂纹及划痕较细，正面相机成像效果不明显，容易造成漏判，需从侧面拍摄进行补测；侧面相机由于角度原因，细微划痕在图片中会产生对比加强的效果，利于检测分析；裂纹、划痕的检测主要依赖边缘提取，对图片转灰度图后，分两步处理：提取高频成分，即中值滤波后做差，对差值图做二值化处理，根据实验数据，二值化阈值设置为10时提取的划痕人眼可辨，当阈值小于10时，大部分边缘区域较难分辨；当划痕周围存在指纹、磨损干扰时，若该干扰边缘变化缓慢，上述方法难以保证提取效果，对上述灰度图原图做边缘提取，采用Canny算子，阈值设置为30/60，当边缘对比度达到30时，边缘信息清晰可见；两种方式处理后的二值图进行或运算，保证所有的边缘信息都可以提取出来；之后对边缘进行筛选，筛选条件主要包括：靠近LCD边界的、角度接近垂直或者水平的、最小外接矩形最大边长大于最小边长3倍以上的，认为是LCD的边界干扰；轮廓像素数或最小外接矩形边长小于设定的最小长度阈值；靠近手机顶部、外接矩形高度大于宽度3倍以上的听筒；靠近手机顶部、最小外接矩形最小边长/最大边长大于0.85的摄像头、信号灯等，需对具备以上特征的轮廓进行排除；通过对划痕与裂纹的特征分析发现，裂纹长度一般较大，且肯定延伸至LCD的两个边界；故轮廓边界靠近收集边界的，且长度大于手机宽度1/2以上的记为裂纹，其余为划痕；鉴于裂纹等级较高，裂纹以红色椭圆区域圈定，划痕以蓝色椭圆区域圈定。
7.根据权利要求2所述的方法，其特征在于：步骤8中，需按照步骤3中LCD定位时计算所得仿射矩阵进行变换，待图片中LCD区域处于水平状态后进行检测屏幕是否存在亮斑、透光现象；黑屏的亮斑检测原理较为简单，在标准黑色背景下，当区域亮度大于20时，即可达到人眼可辨的标准；当LCD显示黑屏时，理论上整个显示区域像素数值均应为0，考虑噪声、灰尘等的干扰，设置阈值为20即可；将图片8转为灰度图，针对LCD区域做二值化处理，对二值图提取轮廓，如有轮廓存在，则该轮廓处存在坏斑，如该轮廓处于边缘区域且面积较大，则该处区域存在透光；为结果显示对比明显，黑屏坏斑以白色圆形区域圈定。
8.根据权利要求2所述的方法，其特征在于：步骤9中，字符模糊主要是考虑LCD老化导致部分区域显示不完整，造成字符区域缺失，影响手机回收与使用；需按照步骤3中LCD定位时计算所得仿射矩阵进行变换，待图片中LCD区域处于水平状态后再行检测；字符显示模糊检测算法的核心是基于当前字符与模板字符的轮廓对比，如差异较大，则当前图片显示缺失；对图片9的LCD区域做转灰度图变化，对该灰度图做基于大津法的自适应二值化处理，通过提取轮廓，查找字符外围的矩形框；如果不能正常找到该框，则该图片记为全屏模糊，不在进行下一步的模糊检测；如能正常找到字符外围的矩形框，提取该矩形框区域，并缩放至与模板同样尺寸；对该区域原灰度图做普通二值化处理，阈值为该区域灰度图均值；对字符模板图片进行基于大津法的自适应二值化处理后，提取模板字符的外围轮廓，确定其外接矩形的坐标；该矩形尺寸适当放大，以保证当前字符完全处于该坐标区域内；提取当前字符与模板字符在该区域内的最大轮廓，基于HU矩做轮廓对比，当其相似度数值小于0.5时即认为轮廓形状一致，不存在模糊等显示异常现象；如轮廓相似度数值大于0.5时，亦有可能是裂纹或者划痕导致，判断其字符区域像素数量；当图片模糊时，字符区域像素数值较高，以均值做二值化处理后，部分区域会被认为是白色背景；故该区域字符像素数会减少；考虑不同型号手机显示存在一定误差，且经大量数据分析可得，如当前字符像素数量小于模板字符数量的7/10时，当前字符区域存在显示模糊的现象；字符显示模糊异常以蓝色矩形区域圈定。
9.根据权利要求2所述的方法，其特征在于：步骤10中，色偏主要检测红屏状态下手机着色是否正常，部分手机由于冷暖材质、液晶老化的各类原因，存在偏黄偏绿等显示不正常现象；需按照步骤3中LCD定位时计算所得仿射矩阵进行变换，待图片中LCD区域处于水平状态后再行检测；将图片10中LCD区域由RGB颜色空间转换至LAB颜色空间，计算转换后图像的均值与方差；A通道表示红绿两色之间的过渡，B通道表示黄蓝两色之间的过渡，其均值分别减去128，结果记为da、db，分别表示A、B通道均值在所示两色之间的偏离程度，计算其均方差，表示整体偏离中心色调的程度；通过A、B通道的方差数值，计算其色度偏差；最终通过色度方差偏差与色度均值偏差的比值判断是否存在偏色，如该比值越小，则偏色越为严重；由红屏测试模式可知，正常情况下，A通道均值较大，当da小于0或是da小于db时，说明A通道偏绿或者黄蓝两色比重较大，则此时必然存在色偏。
10.根据权利要求2所述的方法，其特征在于：步骤11中，检测结果以JSON格式返回给后台，后台提交前端界面显示；异常分为显示异常、外观异常两大类，显示异常包括坏斑、鬼影、模糊、色偏四小类，外观异常分为裂纹、划痕两小类；异常图片在本地存储，JSON中包含其路径，供前端调用显示。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910269768.1A CN110070524B (zh) | 2019-04-03 | 2019-04-03 | 一种智能终端面板视觉故障检测系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910269768.1A CN110070524B (zh) | 2019-04-03 | 2019-04-03 | 一种智能终端面板视觉故障检测系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110070524A true CN110070524A (zh) | 2019-07-30 |
| CN110070524B CN110070524B (zh) | 2021-05-18 |
Family
ID=67367111
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910269768.1A Active CN110070524B (zh) | 2019-04-03 | 2019-04-03 | 一种智能终端面板视觉故障检测系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110070524B (zh) |
Cited By (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110445921A (zh) * | 2019-09-06 | 2019-11-12 | 东北大学 | 一种基于机器视觉的手机屏背光异物缺陷诊断方法及装置 |
| CN110575966A (zh) * | 2019-10-16 | 2019-12-17 | 苏州微感网络科技有限公司 | 一种高反光物体表面缺陷检测装置 |
| CN110674889A (zh) * | 2019-10-15 | 2020-01-10 | 贵州电网有限责任公司 | 一种用于电表终端故障识别的图像训练方法 |
| CN110738170A (zh) * | 2019-10-15 | 2020-01-31 | 贵州电网有限责任公司 | 一种用于电表终端故障识别的图像识别方法 |
| CN111445452A (zh) * | 2020-03-23 | 2020-07-24 | Oppo（重庆）智能科技有限公司 | 电子产品的缺陷检测方法、装置及计算机可读存储介质 |
| CN111709352A (zh) * | 2020-06-12 | 2020-09-25 | 浪潮集团有限公司 | 一种基于神经网络的车辆划痕检测方法 |
| CN111724383A (zh) * | 2020-06-30 | 2020-09-29 | 重庆盛泰光电有限公司 | 基于转盘的摄像头模组黑斑检测系统 |
| CN111968100A (zh) * | 2020-08-26 | 2020-11-20 | 南京原觉信息科技有限公司 | 机器视觉检测方法与系统 |
| CN112270753A (zh) * | 2020-11-09 | 2021-01-26 | 珠海格力智能装备有限公司 | 三维建图方法及装置、电子设备 |
| CN112419252A (zh) * | 2020-11-13 | 2021-02-26 | 国网天津市电力公司营销服务中心 | 一种用电信息采集终端液晶显示模块缺陷检测方法 |
| CN112634258A (zh) * | 2020-12-30 | 2021-04-09 | 凌云光技术股份有限公司 | 一种基于aoi的缺陷检测的自动分类分级方法和装置 |
| CN112668426A (zh) * | 2020-12-19 | 2021-04-16 | 中国民用航空飞行学院 | 一种基于三种色彩模式的火灾图像偏色度量化方法 |
| CN112785545A (zh) * | 2019-11-06 | 2021-05-11 | 杭州海康威视数字技术股份有限公司 | 一种异常灯珠定位方法、装置及存储介质 |
| CN112801947A (zh) * | 2021-01-14 | 2021-05-14 | 唐山学院 | 一种led显示终端坏点的视觉检测方法 |
| CN112884694A (zh) * | 2019-11-13 | 2021-06-01 | 合肥欣奕华智能机器有限公司 | 一种平面显示面板的缺陷检测方法、装置、设备及介质 |
| CN113012607A (zh) * | 2019-12-19 | 2021-06-22 | 西安诺瓦星云科技股份有限公司 | 显示模块检测方法、装置和系统 |
| WO2021147385A1 (zh) * | 2020-01-21 | 2021-07-29 | 上海万物新生环保科技集团有限公司 | 屏幕检测方法及装置 |
| CN113222922A (zh) * | 2021-04-30 | 2021-08-06 | 杭州海康威视数字技术股份有限公司 | 红外爆闪灯补光范围检测方法、装置及设备 |
| CN113379746A (zh) * | 2021-08-16 | 2021-09-10 | 深圳荣耀智能机器有限公司 | 图像检测方法、装置、系统、计算设备及可读存储介质 |
| CN113469974A (zh) * | 2021-07-05 | 2021-10-01 | 天津市三特电子有限公司 | 球团链篦机蓖板状态监测方法及其监测系统 |
| CN113486892A (zh) * | 2021-07-02 | 2021-10-08 | 东北大学 | 基于智能手机图像识别的生产信息采集方法及系统 |
| CN114140458A (zh) * | 2021-12-09 | 2022-03-04 | 易思维（杭州）科技有限公司 | 利用光线交会方法定位待测物边缘处缺陷位置的方法 |
| CN114399507A (zh) * | 2022-03-25 | 2022-04-26 | 季华实验室 | 一种手机外观质量检测方法、装置、电子设备及存储介质 |
| CN116092402A (zh) * | 2022-12-30 | 2023-05-09 | 翱瑞(深圳)科技有限公司 | 基于安卓系统快速验证功能的显示屏验证系统 |
| CN116309603A (zh) * | 2023-05-24 | 2023-06-23 | 山东双海电气设备安装有限公司 | 一种电力设备故障视觉检测方法及系统 |
| CN117288761A (zh) * | 2023-11-27 | 2023-12-26 | 天津市海迅科技发展有限公司 | 一种基于测试材料的瑕疵检测分类评估方法及系统 |
| CN118570213A (zh) * | 2024-08-05 | 2024-08-30 | 烟台大学 | 一种光通片缺陷检测方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7062081B2 (en) * | 2000-02-15 | 2006-06-13 | Hitachi, Ltd. | Method and system for analyzing circuit pattern defects |
| CN105976389A (zh) * | 2016-05-20 | 2016-09-28 | 南京理工大学 | 一种手机底板连接器缺陷检测方法 |
| CN205939562U (zh) * | 2016-08-01 | 2017-02-08 | 珠海格力电器股份有限公司 | 空调及其控制装置和系统 |
| CN107024476A (zh) * | 2016-03-10 | 2017-08-08 | 上海帆声图像科技有限公司 | 显示面板检测系统及其检测装置与检测方法 |
| CN107309178A (zh) * | 2017-04-26 | 2017-11-03 | 上海闻泰电子科技有限公司 | 手机智能自动化测试设备 |
| CN107734120A (zh) * | 2016-08-10 | 2018-02-23 | 北京东舟技术股份有限公司 | 终端设备的流畅度性能检测方法 |
| WO2018156869A1 (en) * | 2017-02-26 | 2018-08-30 | Yougetitback Limited | System and method for detection of mobile device fault conditions |
-
2019
- 2019-04-03 CN CN201910269768.1A patent/CN110070524B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7062081B2 (en) * | 2000-02-15 | 2006-06-13 | Hitachi, Ltd. | Method and system for analyzing circuit pattern defects |
| CN107024476A (zh) * | 2016-03-10 | 2017-08-08 | 上海帆声图像科技有限公司 | 显示面板检测系统及其检测装置与检测方法 |
| CN105976389A (zh) * | 2016-05-20 | 2016-09-28 | 南京理工大学 | 一种手机底板连接器缺陷检测方法 |
| CN205939562U (zh) * | 2016-08-01 | 2017-02-08 | 珠海格力电器股份有限公司 | 空调及其控制装置和系统 |
| CN107734120A (zh) * | 2016-08-10 | 2018-02-23 | 北京东舟技术股份有限公司 | 终端设备的流畅度性能检测方法 |
| WO2018156869A1 (en) * | 2017-02-26 | 2018-08-30 | Yougetitback Limited | System and method for detection of mobile device fault conditions |
| CN107309178A (zh) * | 2017-04-26 | 2017-11-03 | 上海闻泰电子科技有限公司 | 手机智能自动化测试设备 |
Non-Patent Citations (2)
| Title |
|---|
| L. J. OLSSON ET AL.: "Web process inspection using neural classification of scattering light", 《IEEE TRANSACTIONS ON INDUSTRIAL ELECTRONICS》 * |
| 何小利 等: "基于机器视觉技术的物体表面缺陷检测", 《洛阳师范学院学报》 * |
Cited By (39)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110445921A (zh) * | 2019-09-06 | 2019-11-12 | 东北大学 | 一种基于机器视觉的手机屏背光异物缺陷诊断方法及装置 |
| CN110674889A (zh) * | 2019-10-15 | 2020-01-10 | 贵州电网有限责任公司 | 一种用于电表终端故障识别的图像训练方法 |
| CN110738170A (zh) * | 2019-10-15 | 2020-01-31 | 贵州电网有限责任公司 | 一种用于电表终端故障识别的图像识别方法 |
| CN110575966B (zh) * | 2019-10-16 | 2024-03-26 | 苏州微感网络科技有限公司 | 一种高反光物体表面缺陷检测装置 |
| CN110575966A (zh) * | 2019-10-16 | 2019-12-17 | 苏州微感网络科技有限公司 | 一种高反光物体表面缺陷检测装置 |
| CN112785545A (zh) * | 2019-11-06 | 2021-05-11 | 杭州海康威视数字技术股份有限公司 | 一种异常灯珠定位方法、装置及存储介质 |
| CN112884694A (zh) * | 2019-11-13 | 2021-06-01 | 合肥欣奕华智能机器有限公司 | 一种平面显示面板的缺陷检测方法、装置、设备及介质 |
| CN112884694B (zh) * | 2019-11-13 | 2023-12-22 | 合肥欣奕华智能机器股份有限公司 | 一种平面显示面板的缺陷检测方法、装置、设备及介质 |
| CN113012607A (zh) * | 2019-12-19 | 2021-06-22 | 西安诺瓦星云科技股份有限公司 | 显示模块检测方法、装置和系统 |
| WO2021147385A1 (zh) * | 2020-01-21 | 2021-07-29 | 上海万物新生环保科技集团有限公司 | 屏幕检测方法及装置 |
| CN111445452B (zh) * | 2020-03-23 | 2022-03-01 | Oppo（重庆）智能科技有限公司 | 电子产品的缺陷检测方法、装置及计算机可读存储介质 |
| CN111445452A (zh) * | 2020-03-23 | 2020-07-24 | Oppo（重庆）智能科技有限公司 | 电子产品的缺陷检测方法、装置及计算机可读存储介质 |
| CN111709352B (zh) * | 2020-06-12 | 2022-10-04 | 浪潮集团有限公司 | 一种基于神经网络的车辆划痕检测方法 |
| CN111709352A (zh) * | 2020-06-12 | 2020-09-25 | 浪潮集团有限公司 | 一种基于神经网络的车辆划痕检测方法 |
| CN111724383A (zh) * | 2020-06-30 | 2020-09-29 | 重庆盛泰光电有限公司 | 基于转盘的摄像头模组黑斑检测系统 |
| CN111968100A (zh) * | 2020-08-26 | 2020-11-20 | 南京原觉信息科技有限公司 | 机器视觉检测方法与系统 |
| CN111968100B (zh) * | 2020-08-26 | 2021-10-26 | 南京原觉信息科技有限公司 | 机器视觉检测方法与系统 |
| CN112270753A (zh) * | 2020-11-09 | 2021-01-26 | 珠海格力智能装备有限公司 | 三维建图方法及装置、电子设备 |
| CN112419252A (zh) * | 2020-11-13 | 2021-02-26 | 国网天津市电力公司营销服务中心 | 一种用电信息采集终端液晶显示模块缺陷检测方法 |
| CN112668426A (zh) * | 2020-12-19 | 2021-04-16 | 中国民用航空飞行学院 | 一种基于三种色彩模式的火灾图像偏色度量化方法 |
| CN112668426B (zh) * | 2020-12-19 | 2021-11-16 | 中国民用航空飞行学院 | 一种基于三种色彩模式的火灾图像偏色度量化方法 |
| CN112634258A (zh) * | 2020-12-30 | 2021-04-09 | 凌云光技术股份有限公司 | 一种基于aoi的缺陷检测的自动分类分级方法和装置 |
| CN112801947A (zh) * | 2021-01-14 | 2021-05-14 | 唐山学院 | 一种led显示终端坏点的视觉检测方法 |
| CN113222922A (zh) * | 2021-04-30 | 2021-08-06 | 杭州海康威视数字技术股份有限公司 | 红外爆闪灯补光范围检测方法、装置及设备 |
| CN113222922B (zh) * | 2021-04-30 | 2024-02-27 | 杭州海康威视数字技术股份有限公司 | 红外爆闪灯补光范围检测方法、装置及设备 |
| CN113486892A (zh) * | 2021-07-02 | 2021-10-08 | 东北大学 | 基于智能手机图像识别的生产信息采集方法及系统 |
| CN113486892B (zh) * | 2021-07-02 | 2023-11-28 | 东北大学 | 基于智能手机图像识别的生产信息采集方法及系统 |
| CN113469974A (zh) * | 2021-07-05 | 2021-10-01 | 天津市三特电子有限公司 | 球团链篦机蓖板状态监测方法及其监测系统 |
| CN113379746A (zh) * | 2021-08-16 | 2021-09-10 | 深圳荣耀智能机器有限公司 | 图像检测方法、装置、系统、计算设备及可读存储介质 |
| CN113379746B (zh) * | 2021-08-16 | 2021-11-02 | 深圳荣耀智能机器有限公司 | 图像检测方法、装置、系统、计算设备及可读存储介质 |
| CN114140458A (zh) * | 2021-12-09 | 2022-03-04 | 易思维（杭州）科技有限公司 | 利用光线交会方法定位待测物边缘处缺陷位置的方法 |
| CN114140458B (zh) * | 2021-12-09 | 2024-06-14 | 易思维(杭州)科技股份有限公司 | 利用光线交会方法定位待测物边缘处缺陷位置的方法 |
| CN114399507B (zh) * | 2022-03-25 | 2022-06-17 | 季华实验室 | 一种手机外观质量检测方法、装置、电子设备及存储介质 |
| CN114399507A (zh) * | 2022-03-25 | 2022-04-26 | 季华实验室 | 一种手机外观质量检测方法、装置、电子设备及存储介质 |
| CN116092402A (zh) * | 2022-12-30 | 2023-05-09 | 翱瑞(深圳)科技有限公司 | 基于安卓系统快速验证功能的显示屏验证系统 |
| CN116309603A (zh) * | 2023-05-24 | 2023-06-23 | 山东双海电气设备安装有限公司 | 一种电力设备故障视觉检测方法及系统 |
| CN117288761A (zh) * | 2023-11-27 | 2023-12-26 | 天津市海迅科技发展有限公司 | 一种基于测试材料的瑕疵检测分类评估方法及系统 |
| CN117288761B (zh) * | 2023-11-27 | 2024-02-06 | 天津市海迅科技发展有限公司 | 一种基于测试材料的瑕疵检测分类评估方法及系统 |
| CN118570213A (zh) * | 2024-08-05 | 2024-08-30 | 烟台大学 | 一种光通片缺陷检测方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110070524B (zh) | 2021-05-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110070524A (zh) | 一种智能终端面板视觉故障检测系统 | |
| WO2022062812A1 (zh) | 屏幕缺陷检测方法、装置和电子设备 | |
| CN109752394B (zh) | 一种显示屏缺陷高精度检测方法及系统 | |
| WO2020248439A1 (zh) | 一种基于图像处理的皇冠盖表面缺陷在线检测方法 | |
| CN104749184B (zh) | 自动光学检测方法和系统 | |
| CN109916910B (zh) | 光伏玻璃边部缺陷检测系统及相应的方法 | |
| CN107664644B (zh) | 一种基于机器视觉的物件表观自动检测装置及方法 | |
| CN111474177A (zh) | 基于计算机视觉的液晶屏幕背光异物缺陷检测方法 | |
| CN115205290B (zh) | 一种pcb板生产过程在线检测方法及系统 | |
| CN109001212A (zh) | 一种基于机器视觉的不锈钢汤勺缺陷检测方法 | |
| CN112394064B (zh) | 一种屏幕缺陷检测的点线测量方法 | |
| CN106228541A (zh) | 视觉检测中屏幕定位的方法及装置 | |
| CN115561247A (zh) | 一种电子元器件外观自动视觉检测系统 | |
| CN110570412B (zh) | 一种零件误差视觉判断系统 | |
| CN114113129B (zh) | 一种镜片微小缺陷识别抓取系统及方法 | |
| CN112669272B (zh) | 一种aoi快速检测方法及快速检测系统 | |
| CN111551350A (zh) | 一种基于U_Net网络的光学镜片表面划痕检测方法 | |
| CN111724375A (zh) | 一种屏幕检测方法及系统 | |
| CN109461156B (zh) | 基于视觉的螺纹密封塞装配检测方法 | |
| CN114119591A (zh) | 一种显示屏画面质量检测方法 | |
| CN109064439B (zh) | 基于分区的单侧入光式导光板暗影缺陷提取方法 | |
| CN101937505B (zh) | 一种目标检测方法和设备及其使用的图像采集装置 | |
| CN111426693A (zh) | 一种质量缺陷检测系统及其检测方法 | |
| CN111028209A (zh) | 一种电话机丝印质量检测方法及系统 | |
| CN114998217A (zh) | 确定玻璃基板缺陷等级的方法、计算机设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CB03 | Change of inventor or designer information | ||
| CB03 | Change of inventor or designer information |
Inventor after: Sun Zhenfang Inventor after: He Yubin Inventor after: Xia Rufei Inventor before: Sun Zhenfang Inventor before: He Yubin Inventor before: Xia Rufei |