CN111311556A - 手机缺陷位置识别方法及设备 - Google Patents

手机缺陷位置识别方法及设备 Download PDF

Info

Publication number
CN111311556A
CN111311556A CN202010074751.3A CN202010074751A CN111311556A CN 111311556 A CN111311556 A CN 111311556A CN 202010074751 A CN202010074751 A CN 202010074751A CN 111311556 A CN111311556 A CN 111311556A
Authority
CN
China
Prior art keywords
screen
image
screen image
target candidate
yellow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010074751.3A
Other languages
English (en)
Other versions
CN111311556B (zh
Inventor
常树林
陈敏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Yueyi Network Information Technology Co Ltd
Original Assignee
Shanghai Yueyi Network Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Yueyi Network Information Technology Co Ltd filed Critical Shanghai Yueyi Network Information Technology Co Ltd
Priority to CN202010074751.3A priority Critical patent/CN111311556B/zh
Publication of CN111311556A publication Critical patent/CN111311556A/zh
Application granted granted Critical
Publication of CN111311556B publication Critical patent/CN111311556B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0008Industrial image inspection checking presence/absence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30121CRT, LCD or plasma display

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本发明的目的是提供一种手机缺陷位置识别方法及设备,本发明通过拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,然后确定所述屏幕缺陷的平面像素坐标,接着基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标,可以准确、高效的定位出屏幕缺陷的三维坐标位置。

Description

手机缺陷位置识别方法及设备
技术领域
本发明涉及计算机领域,尤其涉及一种手机缺陷位置识别方法及设备。
背景技术
手机回收中,需要对手机屏幕是否存在缺陷进行检测。但现有的检测方案存在屏幕缺陷检测不准的问题。
发明内容
本发明的一个目的是提供一种手机缺陷位置识别方法及设备。
根据本发明的一个方面,提供了一种手机缺陷位置识别方法,该方法包括:
拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
确定所述屏幕缺陷的平面像素坐标;
基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标;
其中,拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,包括:
确定待检测手机的屏幕的轮廓位置;
控制屏幕显示低于预设曝光值的满屏黄色的图像,基于屏幕的轮廓位置,拍摄黄色屏幕图像;
控制屏幕显示高于预设曝光值的满屏黑色的图像,基于屏幕的轮廓位置,拍摄黑色屏幕图像;
将所述黄色屏幕图像输入卷积神经网络,提取到所述黄色屏幕图像对应的图像特征;将所述黑色屏幕图像输入卷积神经网络,提取到所述黑色屏幕图像对应的图像特征;
分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框。
进一步的,上述方法中,基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标之前,还包括:
控制检测设备的轴分别点击待检测手机的屏幕上的非直线的多个点,对应记录每个点的点击位置的三维坐标和屏幕感应到的对应的平面像素坐标;
基于每个点的点击位置的轴坐标和对应的平面像素坐标,得到所述预设空间转换公式。
进一步的,上述方法中,分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中,目标类别为划痕纹类别和碎裂纹类别的目标候选框,包括:
基于所述黄色屏幕图像对应的图像特征,并通过FPN方法,得到对应的所述黄色屏幕图像对应的不同尺度的多层特征层;基于所述黑色屏幕图像对应的图像特征和黑色屏幕图像对应的图像特征,并通过FPN方法,得到对应的所述黑色屏幕图像对应的不同尺度的多层特征层;
通过RPN网络在所述黄色屏幕图像对应的不同尺度的多层特征层进行所述黄色屏幕图像中的目标候选框的提取,并预设所述黄色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;通过RPN网络在所述黑色屏幕图像对应的不同尺度的多层特征层进行所述黑色屏幕图像中的目标候选框的提取,并预设所述黑色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;
选取概率值较大的所述黄色屏幕图像中的前预设个数的目标候选框;选取概率值较大的所述黑色屏幕图像中的前预设个数的目标候选框;
将所述黄色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黄色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;将所述黑色色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黑色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;
将每个目标候选框的概率值较大的对应类别确定为该目标候选框的初始类别;
若确定初始类别的目标候选框的该初始类别的概率值大于预设概率阈值,则将该初始类别确定为该目标候选框的目标类别;
输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
进一步的,上述方法中,输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框,包括:
对所述黄色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第一排序队列,将所述第一排序队列中概率值最高的目标候选框作为第一基准候选框,若所述第一排序队列中的后续队列中的每一个目标候选框与所述第一基准候选框的重叠面积是超过预设比例的第一基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;
对所述黑色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第二排序队列,将所述第二排序队列中概率值最高的目标候选框作为第二基准候选框,若所述第二排序队列中的后续每一个目标候选框与所述第二基准候选框的重叠面积超过预设比例的第二基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;
输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
进一步的,上述方法中,确定待检测手机的屏幕的轮廓位置,包括:
将屏幕亮屏显示为白底画面;
拍摄包括所述白底画面的屏幕的照片;
从所述照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
进一步的,上述方法中,从所述照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置,包括:
将所述照片转换为灰度图片;
指定预设像素阈值T1对所述灰度图片进行分割,其中,将所述照片中超过所述预设像素阈值T1的像素点的像素值设为255,将所述照片中未超过所述预设像素阈值T1的像素点的像素值设为0;
获取所述灰度图片中的像素值为255的各个像素点连续的区域;
计算每个像素点连续的区域中的像素点的个数,对每个像素点连续的区域进行筛选,其中,舍弃像素点的个数量小于预设个数阈值T2的像素点连续的区域,并保留像素点的个数量大于等于预设个数阈值T2的像素点连续的区域;
计算每个保留的像素点连续的区域的最小外接旋转矩形的面积,计算每个保留的像素点连续的区域的最小外接旋转矩形的饱满度s,其中,饱满度s=某个保留的像素点连续的区域中的像素点的个数/该个保留的像素点连续的区域的最小外接旋转矩形的面积;
将饱满度s大于预设饱满度阈值T3的保留的像素点连续的区域作为所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
根据本发明的另一方面,还提供一种手机缺陷位置识别设备,其中,该设备包括:
第一装置,用于拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,其中,包括用于确定待检测手机的屏幕的轮廓位置;控制屏幕显示低于预设曝光值的满屏黄色的图像,基于屏幕的轮廓位置,拍摄黄色屏幕图像;控制屏幕显示高于预设曝光值的满屏黑色的图像,基于屏幕的轮廓位置,拍摄黑色屏幕图像;将所述黄色屏幕图像输入卷积神经网络,提取到所述黄色屏幕图像对应的图像特征;将所述黑色屏幕图像输入卷积神经网络,提取到所述黑色屏幕图像对应的图像特征;分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框;
第二装置,用于确定所述屏幕缺陷的平面像素坐标;
第三装置,用于基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标。
进一步的,上述设备中,所述第一装置,用于基于所述黄色屏幕图像对应的图像特征,并通过FPN方法,得到对应的所述黄色屏幕图像对应的不同尺度的多层特征层;基于所述黑色屏幕图像对应的图像特征和黑色屏幕图像对应的图像特征,并通过FPN方法,得到对应的所述黑色屏幕图像对应的不同尺度的多层特征层;通过RPN网络在所述黄色屏幕图像对应的不同尺度的多层特征层进行所述黄色屏幕图像中的目标候选框的提取,并预设所述黄色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;通过RPN网络在所述黑色屏幕图像对应的不同尺度的多层特征层进行所述黑色屏幕图像中的目标候选框的提取,并预设所述黑色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;选取概率值较大的所述黄色屏幕图像中的前预设个数的目标候选框;选取概率值较大的所述黑色屏幕图像中的前预设个数的目标候选框;将所述黄色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黄色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;将所述黑色色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黑色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;将每个目标候选框的概率值较大的对应类别确定为该目标候选框的初始类别;若确定初始类别的目标候选框的该初始类别的概率值大于预设概率阈值,则将该初始类别确定为该目标候选框的目标类别;输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
进一步的,上述设备中,所述第一装置,用于对所述黄色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第一排序队列,将所述第一排序队列中概率值最高的目标候选框作为第一基准候选框,若所述第一排序队列中的后续队列中的每一个目标候选框与所述第一基准候选框的重叠面积是超过预设比例的第一基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;对所述黑色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第二排序队列,将所述第二排序队列中概率值最高的目标候选框作为第二基准候选框,若所述第二排序队列中的后续每一个目标候选框与所述第二基准候选框的重叠面积超过预设比例的第二基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
进一步的,上述设备中,所述第一装置,用于将屏幕亮屏显示为白底画面;拍摄包括所述白底画面的屏幕的照片;从所述照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
进一步的,上述设备中,所述第一装置,用于将所述照片转换为灰度图片;指定预设像素阈值T1对所述灰度图片进行分割,其中,将所述照片中超过所述预设像素阈值T1的像素点的像素值设为255,将所述照片中未超过所述预设像素阈值T1的像素点的像素值设为0;获取所述灰度图片中的像素值为255的各个像素点连续的区域;计算每个像素点连续的区域中的像素点的个数,对每个像素点连续的区域进行筛选,其中,舍弃像素点的个数量小于预设个数阈值T2的像素点连续的区域,并保留像素点的个数量大于等于预设个数阈值T2的像素点连续的区域;计算每个保留的像素点连续的区域的最小外接旋转矩形的面积,计算每个保留的像素点连续的区域的最小外接旋转矩形的饱满度s,其中,饱满度s=某个保留的像素点连续的区域中的像素点的个数/该个保留的像素点连续的区域的最小外接旋转矩形的面积;将饱满度s大于预设饱满度阈值T3的保留的像素点连续的区域作为所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
进一步的,上述方法中,所述第三装置,还用于控制检测设备的轴分别点击待检测手机的屏幕上的非直线的多个点,对应记录每个点的点击位置的三维坐标和屏幕感应到的对应的平面像素坐标;基于每个点的点击位置的轴坐标和对应的平面像素坐标,得到所述预设空间转换公式。
根据本发明的另一方面,还提供一种基于计算的设备,其中,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
确定所述屏幕缺陷的平面像素坐标;
基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标;
其中,拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,包括:
确定待检测手机的屏幕的轮廓位置;
控制屏幕显示低于预设曝光值的满屏黄色的图像,基于屏幕的轮廓位置,拍摄黄色屏幕图像;
控制屏幕显示高于预设曝光值的满屏黑色的图像,基于屏幕的轮廓位置,拍摄黑色屏幕图像;
将所述黄色屏幕图像输入卷积神经网络,提取到所述黄色屏幕图像对应的图像特征;将所述黑色屏幕图像输入卷积神经网络,提取到所述黑色屏幕图像对应的图像特征;
分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框。
根据本发明的另一方面,还提供一种计算机可读存储介质,其上存储有计算机可执行指令,其中,该计算机可执行指令被处理器执行时使得该处理器:
拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
确定所述屏幕缺陷的平面像素坐标;
基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标;
其中,拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,包括:
确定待检测手机的屏幕的轮廓位置;
控制屏幕显示低于预设曝光值的满屏黄色的图像,基于屏幕的轮廓位置,拍摄黄色屏幕图像;
控制屏幕显示高于预设曝光值的满屏黑色的图像,基于屏幕的轮廓位置,拍摄黑色屏幕图像;
将所述黄色屏幕图像输入卷积神经网络,提取到所述黄色屏幕图像对应的图像特征;将所述黑色屏幕图像输入卷积神经网络,提取到所述黑色屏幕图像对应的图像特征;
分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框。
与现有技术相比,本发明通过拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,然后确定所述屏幕缺陷的平面像素坐标,接着基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标,可以准确、高效的定位出屏幕缺陷的三维坐标位置。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1示出根据本发明一实施例的手机缺陷位置识别方法的流程图。
附图中相同或相似的附图标记代表相同或相似的部件。
具体实施方式
下面结合附图对本发明作进一步详细描述。
在本申请一个典型的配置中,终端、服务网络的设备和可信方均包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括非暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
如图1所示,本发明提供一种手机缺陷位置识别方法,所述方法包括:
步骤S1,拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
步骤S2,确定所述屏幕缺陷的平面像素坐标;
步骤S3,基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标。
在此,本发明通过拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,然后确定所述屏幕缺陷的平面像素坐标,接着基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标,可以准确、高效的定位出屏幕缺陷的三维坐标位置。
本发明的手机缺陷位置识别方法一实施例中,步骤S3,基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标之前,还包括:
步骤S31,控制检测设备的轴分别点击待检测手机的屏幕上的非直线的多个点,
步骤S32,对应记录每个点的点击位置的三维坐标和屏幕感应到的对应的平面像素坐标;
步骤S33,基于每个点的点击位置的轴坐标和对应的平面像素坐标,得到所述预设空间转换公式。
在此,所述预设空间转换公式,例如可以是一空间转换矩阵。
通过控制检测设备的轴分别点击待检测手机的屏幕上的非直线的多个点,对应记录每个点的点击位置的三维坐标和屏幕感应到的对应的平面像素坐标,后续可以基于每个点的点击位置的三维坐标和屏幕感应到的对应的平面像素坐标,准确、可靠的得到所述预设空间转换公式。
本发明的手机缺陷位置识别方法一实施例中,步骤S1,拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,包括:
步骤S111,将屏幕亮屏显示为白底画面;
步骤S112,拍摄包括所述白底画面的屏幕照片;
在此,拍摄手机屏幕的时候,会同时把屏幕区域之外的无关区域也拍摄进去,后续需要从中识别屏幕区域;
步骤S113,从所述屏幕照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓;
步骤S114,将屏幕亮屏显示为满屏黄色画面,并控制光源照亮显示为满屏黄色画面的屏幕区域;
步骤S115,拍摄包含显示为满屏黄色画面的屏幕区域的第一照片;
在此,为了保证后续拍摄照片的清晰度,可以通过控制光源照亮显示为满屏黄色画面的屏幕区域,以对显示为满屏黄色画面的屏幕区域进行补光;
步骤S116,将屏幕亮屏显示为满屏白色画面,并控制光源照亮显示为满屏白色画面的屏幕区域;
在此,为了保证后续拍摄照片的清晰度,可以通过控制光源照亮显示为满屏白色画面的屏幕区域,以对显示为满屏白色画面的屏幕区域进行补光;
步骤S117,拍摄包含显示为满屏白色画面的屏幕区域的第二照片;
步骤S118,检测所述第一照片或第二照片中所述屏幕的轮廓所围成的范围内是否存在裂纹或划痕,若存在,判定所述屏幕存在裂纹或划痕。
在此,不同类别的裂纹或划痕在满屏白色画面的屏幕区域或满屏黄色画面的屏幕区域的显示清晰度会不同,因此,可以分别拍摄拍摄包含显示为满屏黄色画面的屏幕区域的第一照片、包含显示为满屏白色画面的屏幕区域的第二照片,以保证后续拍摄到的不同类别的屏幕裂纹或划痕的清晰度。
若在所述第一照片或第二照片中,只要有其中一张照片检测到存在裂纹或划痕,则可以判定所述屏幕存在裂纹或划痕。
本发明通过将屏幕亮屏显示为白底画面,基于白底画面的边界可以简单、准确的定位设备的屏幕位置。另外,本发明通过分别拍摄包含显示为满屏黄色画面的屏幕区域的第一照片、包含显示为满屏白色画面的屏幕区域的第二照片,便于后续在第一照片或第二照片中可靠识别出所述屏幕的轮廓所围成的范围内的不同种类的屏幕裂纹或划痕。
本发明的手机缺陷位置识别方法一实施例中,步骤S113,从所述屏幕照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓,包括:
步骤S1131,将所述屏幕照片转换为灰度图片;
步骤S1132,指定预设像素阈值T1对所述灰度图片进行分割,其中,将所述照片中超过所述预设像素阈值T1的像素点的像素值设为255,将所述照片中未超过所述预设像素阈值T1的像素点的像素值设为0;
步骤S1133,获取所述灰度图片中的像素值为255的各个像素点连续的区域;
在此,某个像素点在另一个像素点的8邻域内,可以认为两者是连续的,2个或2个以上连续像素点可以形成一个像素点连续的区域;
像素值为0为黑色的像素点,像素值为255表示白色的像素点,像素值为0的像素点的连接区域不需要考虑,视为屏幕区域之外的背景;
步骤S1134,计算每个像素点连续的区域中的像素点的个数,对每个像素点连续的区域进行筛选,其中,舍弃像素点的个数量小于预设个数阈值T2的像素点连续的区域,并保留像素点的个数量大于等于预设个数阈值T2的像素点连续的区域;
步骤S1135,计算每个保留的像素点连续的区域的最小外接旋转矩形的面积,计算每个保留的像素点连续的区域的最小外接旋转矩形的饱满度s,其中,饱满度s=某个保留的像素点连续的区域中的像素点的个数/该个保留的像素点连续的区域的最小外接旋转矩形的面积;
步骤S1136,将饱满度s大于预设饱满度阈值T3的保留的像素点连续的区域作为所述白底画面的边界,将所述边界作为所述屏幕的轮廓。
在此,可以遍历每个保留的像素点连续的区域,用每个保留的像素点连续的区域的像素点个数除以其最小外接旋转矩形的面积,得到该区域的饱满度s,如果某个保留的像素点连续的区域的饱满度s值大于预设饱满度阈值T3则其为屏幕区域,若小于,则为非屏幕区域。
本实施通过指定预设像素阈值T1对所述灰度图片gray进行分割;计算每个像素点连续的区域中的像素点的个数,对每个像素点连续的区域进行筛选;计算每个保留的像素点连续的区域的最小外接旋转矩形的面积,计算每个保留的像素点连续的区域的最小外接旋转矩形的饱满度s;将饱满度s大于预设饱满度阈值T3的保留的像素点连续的区域作为所述白底画面的边界,将所述边界作为所述屏幕的轮廓,从而准确、可靠的识别出各种终端的屏幕位置。
本发明的手机缺陷位置识别方法一实施例中,步骤S118,检测所述第一照片或第二照片中所述屏幕的轮廓所围成的范围内是否存在裂纹或划痕,若存在,判定所述屏幕存在裂纹或划痕,
检测所述第一照片或第二照片中所述屏幕的轮廓所围成的范围内是否存在裂纹或划痕,若存在,计算每条裂纹或划痕的长度,若长度超过预设长度阈值的裂纹或划痕的个数超过预设个数阈值,则判定所述屏幕存在裂纹或划痕。
在此,通过计算每条裂纹或划痕的长度,并计算长度超过预设长度阈值的裂纹或划痕的个数是否超过预设个数阈值,能够可靠筛选符合要求的裂纹或划痕,便于更准确判定所述屏幕存在裂纹或划痕。
本发明的手机缺陷位置识别方法一实施例中,步骤S1,拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,包括:
步骤S121,确定待检测手机的屏幕的轮廓位置;
步骤S122,控制屏幕显示低于预设曝光值的满屏黄色的图像,基于屏幕的轮廓位置,拍摄黄色屏幕图像;
步骤S123,控制屏幕显示高于预设曝光值的满屏黑色的图像,基于屏幕的轮廓位置,拍摄黑色屏幕图像;
在此,拍摄高、低曝光值图片的目的是:高曝光值图片有利于拍摄深色屏幕表面纹路,但对于亮色屏幕表面纹路容易产生过曝问题,因此需要使用低曝光值图片辅助检测;
拍摄黑、黄两种图片的目的是:经过实验得知不同类型的纹路在不同背景颜色图片拍摄下清晰程度不同,因此我们选用了实验效果较好的黑色和黄色图片作为背景;
步骤S124,将所述黄色屏幕图像输入卷积神经网络,提取到所述黄色屏幕图像对应的图像特征;将所述黑色屏幕图像输入卷积神经网络,提取到所述黑色屏幕图像对应的图像特征;
在此,所述卷积神经网络可以是resnext101卷积神经网络,以提取到准确的图像特征;
步骤S125,分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框。
在此,本发明通过分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框,可以准确识别出手机等设备屏幕上的划痕纹或碎裂纹,可以提高手机等智能设备估价回收等效率。
本发明的手机缺陷位置识别方法一实施例中,步骤S125,分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中,目标类别为划痕纹类别和碎裂纹类别的目标候选框,包括:
步骤S1251,基于所述黄色屏幕图像对应的图像特征,并通过FPN(featurepyramid networks)方法,得到对应的所述黄色屏幕图像对应的不同尺度的多层特征层;基于所述黑色屏幕图像对应的图像特征和黑色屏幕图像对应的图像特征,并通过FPN方法,得到对应的所述黑色屏幕图像对应的不同尺度的多层特征层;
步骤S1252,通过RPN(Region Proposal Network)网络在所述黄色屏幕图像对应的不同尺度的多层特征层进行所述黄色屏幕图像中的目标候选框的提取,并预设所述黄色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;通过RPN网络在所述黑色屏幕图像对应的不同尺度的多层特征层进行所述黑色屏幕图像中的目标候选框的提取,并预设所述黑色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;
步骤S1253,选取概率值较大的所述黄色屏幕图像中的前预设个数的目标候选框;选取概率值较大的所述黑色屏幕图像中的前预设个数的目标候选框;
在此,可以选取概率值较大的所述黄色屏幕图像中的前1000个的目标候选框;选取概率值较大的所述黑色屏幕图像中的前1000个的目标候选框;
步骤S1254,将所述黄色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黄色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;将所述黑色色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黑色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;
在此,所述分类神经网络可以是全连接层分类神经网络,以得到可靠等分类;
步骤S1255,将每个目标候选框的概率值较大的对应类别确定为该目标候选框的初始类别;
在此,例如,所述神经网络输出某个目标候选框a的背景类别的概率值为0.2,划痕纹类别的概率值为0.3,碎裂纹类别的概率值为0.5,那么该目标候选框a的初始类别为碎裂纹类别;
又如,所述神经网络输出某个目标候选框b的背景类别的概率值为0.1,划痕纹类别的概率值为0.2,碎裂纹类别的概率值为0.7,那么该目标候选框b的初始类别为碎裂纹类别;
步骤S1256,若确定初始类别的目标候选框的该初始类别的概率值大于预设概率阈值,则将该初始类别确定为该目标候选框的目标类别;
在此,例如,预设概率阈值为0.6,
所述神经网络输出某个目标候选框a的初始类别为碎裂纹类别,碎裂纹类别的概率值为0.5,由于没有超过0.6的预设概率阈值,所以该目标候选框a的碎裂纹类别的初始类别不能作为目标类别;
又如,所述神经网络输出某个目标候选框b的初始类别为碎裂纹类别,碎裂纹类别的概率值为0.7,由于超过0.6的预设概率阈值,所以该目标候选框b的碎裂纹类别的初始类别可以作为目标类别;
步骤S1257,输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
在此,本实施例通过目标候选框的初始类别的确定,再从确定初始类别的目标候选框中筛选出确定目标类别的目标候选框,能够进一步可靠、准确的识别出手机等设备屏幕上的划痕纹或碎裂纹。
本发明的手机缺陷位置识别方法一实施例中,步骤S1257,输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框,包括:
步骤S12571,对所述黄色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第一排序队列,将所述第一排序队列中概率值最高的目标候选框作为第一基准候选框,若所述第一排序队列中的后续队列中的每一个目标候选框与所述第一基准候选框的重叠面积是超过预设比例的第一基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;
步骤S12572,对所述黑色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第二排序队列,将所述第二排序队列中概率值最高的目标候选框作为第二基准候选框,若所述第二排序队列中的后续每一个目标候选框与所述第二基准候选框的重叠面积超过预设比例的第二基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;
步骤S12573,输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
在此,所述预设比例阈值可以为0.7,当所述排序队列中的后续队列中的每一个目标候选框与所述基准候选框的重叠面积超过0.7的比例所述基准候选框的面积,则将目标候选框及其对应的目标类别删除;
本实施例通过将重叠面积超过预设比例的基准候选框的面积准候选框的面积的阈值的后续每一个目标候选框进行进一步过滤删除,可以保证输出的可靠的确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
本发明的手机缺陷位置识别方法一实施例中,步骤S121,确定待检测手机的屏幕的轮廓位置,包括:
步骤S1211,将屏幕亮屏显示为白底画面;
步骤S1212,拍摄包括所述白底画面的屏幕的照片;
在此,拍摄屏幕的时候,会同时把屏幕区域之外的无关区域也拍摄进去,后续需要从中识别屏幕区域;
步骤S1213,从所述照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
在此,本发明通过将屏幕亮屏显示为白底画面,基于白底画面的边界可以简单、准确的定位设备的屏幕位置。
本发明的手机缺陷位置识别方法一实施例中,步骤S1213,从所述照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置,包括:
步骤S12131,将所述照片转换为灰度图片;
步骤S12132,指定预设像素阈值T1对所述灰度图片进行分割,其中,将所述照片中超过所述预设像素阈值T1的像素点的像素值设为255,将所述照片中未超过所述预设像素阈值T1的像素点的像素值设为0;
步骤S12133,获取所述灰度图片中的像素值为255的各个像素点连续的区域;
在此,某个像素点在另一个像素点的8邻域内,可以认为两者是连续的,2个或2个以上连续像素点可以形成一个像素点连续的区域;
像素值为0为黑色的像素点,像素值为255表示白色的像素点,像素值为0的像素点的连接区域不需要考虑,视为屏幕区域之外的背景;
步骤S12134,计算每个像素点连续的区域中的像素点的个数,对每个像素点连续的区域进行筛选,其中,舍弃像素点的个数量小于预设个数阈值T2的像素点连续的区域,并保留像素点的个数量大于等于预设个数阈值T2的像素点连续的区域;
步骤S12135,计算每个保留的像素点连续的区域的最小外接旋转矩形的面积,计算每个保留的像素点连续的区域的最小外接旋转矩形的饱满度s,其中,饱满度s=某个保留的像素点连续的区域中的像素点的个数/该个保留的像素点连续的区域的最小外接旋转矩形的面积;
步骤S12136,将饱满度s大于预设饱满度阈值T3的保留的像素点连续的区域作为所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
在此,可以遍历每个保留的像素点连续的区域,用每个保留的像素点连续的区域的像素点个数除以其最小外接旋转矩形的面积,得到该区域的饱满度s,如果某个保留的像素点连续的区域的饱满度s值大于预设饱满度阈值T3则其为屏幕区域,若小于,则为非屏幕区域。
本实施通过指定预设像素阈值T1对所述灰度图片gray进行分割;计算每个像素点连续的区域中的像素点的个数,对每个像素点连续的区域进行筛选;计算每个保留的像素点连续的区域的最小外接旋转矩形的面积,计算每个保留的像素点连续的区域的最小外接旋转矩形的饱满度s;将饱满度s大于预设饱满度阈值T3的保留的像素点连续的区域作为所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置,从而准确、可靠的识别出各种终端的屏幕位置。
根据本发明的另一面,还提供一种手机缺陷位置识别设备,其中,该设备包括:
第一装置,用于拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
第二装置,用于确定所述屏幕缺陷的平面像素坐标;
第三装置,用于基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标。
根据本发明的另一面,还提供一种基于计算的设备,其中,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
确定所述屏幕缺陷的平面像素坐标;
基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标。
根据本发明的另一面,还提供一种计算机可读存储介质,其上存储有计算机可执行指令,其中,该计算机可执行指令被处理器执行时使得该处理器:
拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
确定所述屏幕缺陷的平面像素坐标;
基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标。
本发明的各设备和存储介质实施例的详细内容,具体可参见各方法实施例的对应部分,在此,不再赘述。
显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。
需要注意的是,本发明可在软件和/或软件与硬件的组合体中被实施,例如,可采用专用集成电路(ASIC)、通用目的计算机或任何其他类似硬件设备来实现。在一个实施例中,本发明的软件程序可以通过处理器执行以实现上文所述步骤或功能。同样地,本发明的软件程序(包括相关的数据结构)可以被存储到计算机可读记录介质中,例如,RAM存储器,磁或光驱动器或软磁盘及类似设备。另外,本发明的一些步骤或功能可采用硬件来实现,例如,作为与处理器配合从而执行各个步骤或功能的电路。
另外,本发明的一部分可被应用为计算机程序产品,例如计算机程序指令,当其被计算机执行时,通过该计算机的操作,可以调用或提供根据本发明的方法和/或技术方案。而调用本发明的方法的程序指令,可能被存储在固定的或可移动的记录介质中,和/或通过广播或其他信号承载媒体中的数据流而被传输,和/或被存储在根据所述程序指令运行的计算机设备的工作存储器中。在此,根据本发明的一个实施例包括一个装置,该装置包括用于存储计算机程序指令的存储器和用于执行程序指令的处理器,其中,当该计算机程序指令被该处理器执行时,触发该装置运行基于前述根据本发明的多个实施例的方法和/或技术方案。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。装置权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一,第二等词语用来表示名称,而并不表示任何特定的顺序。

Claims (14)

1.一种手机缺陷位置识别方法,其中,该方法包括:
拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
确定所述屏幕缺陷的平面像素坐标;
基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标;
其中,拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,包括:
确定待检测手机的屏幕的轮廓位置;
控制屏幕显示低于预设曝光值的满屏黄色的图像,基于屏幕的轮廓位置,拍摄黄色屏幕图像;
控制屏幕显示高于预设曝光值的满屏黑色的图像,基于屏幕的轮廓位置,拍摄黑色屏幕图像;
将所述黄色屏幕图像输入卷积神经网络,提取到所述黄色屏幕图像对应的图像特征;将所述黑色屏幕图像输入卷积神经网络,提取到所述黑色屏幕图像对应的图像特征;
分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框。
2.根据权利要求1所述的方法,其中,分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中,目标类别为划痕纹类别和碎裂纹类别的目标候选框,包括:
基于所述黄色屏幕图像对应的图像特征,并通过FPN方法,得到对应的所述黄色屏幕图像对应的不同尺度的多层特征层;基于所述黑色屏幕图像对应的图像特征和黑色屏幕图像对应的图像特征,并通过FPN方法,得到对应的所述黑色屏幕图像对应的不同尺度的多层特征层;
通过RPN网络在所述黄色屏幕图像对应的不同尺度的多层特征层进行所述黄色屏幕图像中的目标候选框的提取,并预设所述黄色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;通过RPN网络在所述黑色屏幕图像对应的不同尺度的多层特征层进行所述黑色屏幕图像中的目标候选框的提取,并预设所述黑色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;
选取概率值较大的所述黄色屏幕图像中的前预设个数的目标候选框;选取概率值较大的所述黑色屏幕图像中的前预设个数的目标候选框;
将所述黄色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黄色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;将所述黑色色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黑色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;
将每个目标候选框的概率值较大的对应类别确定为该目标候选框的初始类别;
若确定初始类别的目标候选框的该初始类别的概率值大于预设概率阈值,则将该初始类别确定为该目标候选框的目标类别;
输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
3.根据权利要求2所述的方法,其中,输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框,包括:
对所述黄色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第一排序队列,将所述第一排序队列中概率值最高的目标候选框作为第一基准候选框,若所述第一排序队列中的后续队列中的每一个目标候选框与所述第一基准候选框的重叠面积是超过预设比例的第一基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;
对所述黑色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第二排序队列,将所述第二排序队列中概率值最高的目标候选框作为第二基准候选框,若所述第二排序队列中的后续每一个目标候选框与所述第二基准候选框的重叠面积超过预设比例的第二基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;
输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
4.根据权利要求1所述的方法,其中,确定待检测手机的屏幕的轮廓位置,包括:
将屏幕亮屏显示为白底画面;
拍摄包括所述白底画面的屏幕的照片;
从所述照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
5.根据权利要求4所述的方法,其中,从所述照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置,包括:
将所述照片转换为灰度图片;
指定预设像素阈值T1对所述灰度图片进行分割,其中,将所述照片中超过所述预设像素阈值T1的像素点的像素值设为255,将所述照片中未超过所述预设像素阈值T1的像素点的像素值设为0;
获取所述灰度图片中的像素值为255的各个像素点连续的区域;
计算每个像素点连续的区域中的像素点的个数,对每个像素点连续的区域进行筛选,其中,舍弃像素点的个数量小于预设个数阈值T2的像素点连续的区域,并保留像素点的个数量大于等于预设个数阈值T2的像素点连续的区域;
计算每个保留的像素点连续的区域的最小外接旋转矩形的面积,计算每个保留的像素点连续的区域的最小外接旋转矩形的饱满度s,其中,饱满度s=某个保留的像素点连续的区域中的像素点的个数/该个保留的像素点连续的区域的最小外接旋转矩形的面积;
将饱满度s大于预设饱满度阈值T3的保留的像素点连续的区域作为所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
6.根据权利要求1所述的方法,其中,基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标之前,还包括:
控制检测设备的轴分别点击待检测手机的屏幕上的非直线的多个点,对应记录每个点的点击位置的三维坐标和屏幕感应到的对应的平面像素坐标;
基于每个点的点击位置的轴坐标和对应的平面像素坐标,得到所述预设空间转换公式。
7.一种手机缺陷位置识别设备,其中,该设备包括:
第一装置,用于拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,其中,包括用于确定待检测手机的屏幕的轮廓位置;控制屏幕显示低于预设曝光值的满屏黄色的图像,基于屏幕的轮廓位置,拍摄黄色屏幕图像;控制屏幕显示高于预设曝光值的满屏黑色的图像,基于屏幕的轮廓位置,拍摄黑色屏幕图像;将所述黄色屏幕图像输入卷积神经网络,提取到所述黄色屏幕图像对应的图像特征;将所述黑色屏幕图像输入卷积神经网络,提取到所述黑色屏幕图像对应的图像特征;分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框;
第二装置,用于确定所述屏幕缺陷的平面像素坐标;
第三装置,用于基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标。
8.根据权利要求6所述的设备,其中,所述第一装置,用于基于所述黄色屏幕图像对应的图像特征,并通过FPN方法,得到对应的所述黄色屏幕图像对应的不同尺度的多层特征层;基于所述黑色屏幕图像对应的图像特征和黑色屏幕图像对应的图像特征,并通过FPN方法,得到对应的所述黑色屏幕图像对应的不同尺度的多层特征层;通过RPN网络在所述黄色屏幕图像对应的不同尺度的多层特征层进行所述黄色屏幕图像中的目标候选框的提取,并预设所述黄色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;通过RPN网络在所述黑色屏幕图像对应的不同尺度的多层特征层进行所述黑色屏幕图像中的目标候选框的提取,并预设所述黑色屏幕图像中的每个目标候选框存在划痕纹和碎裂纹的概率值;选取概率值较大的所述黄色屏幕图像中的前预设个数的目标候选框;选取概率值较大的所述黑色屏幕图像中的前预设个数的目标候选框;将所述黄色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黄色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;将所述黑色色屏幕图像中的前预设个数的目标候选框输入分类神经网络,并获取对应输出的所述黑色屏幕图像中的前预设个数的目标候选框中的每一目标候选框分别属于背景类别、划痕纹类别和碎裂纹类别的概率值;将每个目标候选框的概率值较大的对应类别确定为该目标候选框的初始类别;若确定初始类别的目标候选框的该初始类别的概率值大于预设概率阈值,则将该初始类别确定为该目标候选框的目标类别;输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
9.根据权利要求7所述的设备,其中,所述第一装置,用于对所述黄色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第一排序队列,将所述第一排序队列中概率值最高的目标候选框作为第一基准候选框,若所述第一排序队列中的后续队列中的每一个目标候选框与所述第一基准候选框的重叠面积是超过预设比例的第一基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;对所述黑色屏幕图像中的确定了目标类别的位置重叠的目标候选框基于概率值进行降序排列得到第二排序队列,将所述第二排序队列中概率值最高的目标候选框作为第二基准候选框,若所述第二排序队列中的后续每一个目标候选框与所述第二基准候选框的重叠面积超过预设比例的第二基准候选框的面积的阈值,则将目标候选框及其对应的目标类别删除;输出确定了目标类别为划痕纹类别和碎裂纹类别的目标候选框。
10.根据权利要求6所述的设备,其中,所述第一装置,用于将屏幕亮屏显示为白底画面;拍摄包括所述白底画面的屏幕的照片;从所述照片中识别出所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
11.根据权利要求10所述的设备,其中,所述第一装置,用于将所述照片转换为灰度图片;指定预设像素阈值T1对所述灰度图片进行分割,其中,将所述照片中超过所述预设像素阈值T1的像素点的像素值设为255,将所述照片中未超过所述预设像素阈值T1的像素点的像素值设为0;获取所述灰度图片中的像素值为255的各个像素点连续的区域;计算每个像素点连续的区域中的像素点的个数,对每个像素点连续的区域进行筛选,其中,舍弃像素点的个数量小于预设个数阈值T2的像素点连续的区域,并保留像素点的个数量大于等于预设个数阈值T2的像素点连续的区域;计算每个保留的像素点连续的区域的最小外接旋转矩形的面积,计算每个保留的像素点连续的区域的最小外接旋转矩形的饱满度s,其中,饱满度s=某个保留的像素点连续的区域中的像素点的个数/该个保留的像素点连续的区域的最小外接旋转矩形的面积;将饱满度s大于预设饱满度阈值T3的保留的像素点连续的区域作为所述白底画面的边界,将所述边界作为所述屏幕的轮廓的位置。
12.根据权利要求6所述的设备,其中,所述第三装置,还用于控制检测设备的轴分别点击待检测手机的屏幕上的非直线的多个点,对应记录每个点的点击位置的三维坐标和屏幕感应到的对应的平面像素坐标;基于每个点的点击位置的轴坐标和对应的平面像素坐标,得到所述预设空间转换公式。
13.一种基于计算的设备,其中,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
确定所述屏幕缺陷的平面像素坐标;
基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标;
其中,拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,包括:
确定待检测手机的屏幕的轮廓位置;
控制屏幕显示低于预设曝光值的满屏黄色的图像,基于屏幕的轮廓位置,拍摄黄色屏幕图像;
控制屏幕显示高于预设曝光值的满屏黑色的图像,基于屏幕的轮廓位置,拍摄黑色屏幕图像;
将所述黄色屏幕图像输入卷积神经网络,提取到所述黄色屏幕图像对应的图像特征;将所述黑色屏幕图像输入卷积神经网络,提取到所述黑色屏幕图像对应的图像特征;
分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框。
14.一种计算机可读存储介质,其上存储有计算机可执行指令,其中,该计算机可执行指令被处理器执行时使得该处理器:
拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷;
确定所述屏幕缺陷的平面像素坐标;
基于预设空间转换公式,将屏幕缺陷的平面像素坐标转换为三维坐标;其中,拍摄待检测手机的屏幕照片,从所述屏幕照片中识别出所述待检测手机的屏幕缺陷,包括:
确定待检测手机的屏幕的轮廓位置;
控制屏幕显示低于预设曝光值的满屏黄色的图像,基于屏幕的轮廓位置,拍摄黄色屏幕图像;
控制屏幕显示高于预设曝光值的满屏黑色的图像,基于屏幕的轮廓位置,拍摄黑色屏幕图像;
将所述黄色屏幕图像输入卷积神经网络,提取到所述黄色屏幕图像对应的图像特征;将所述黑色屏幕图像输入卷积神经网络,提取到所述黑色屏幕图像对应的图像特征;
分别基于所述黄色屏幕图像和黑色屏幕图像对应的图像特征,得到所述黄色屏幕图像和黑色屏幕图像中的目标类别为划痕纹类别和碎裂纹类别的目标候选框。
CN202010074751.3A 2020-01-21 2020-01-21 手机缺陷位置识别方法及设备 Active CN111311556B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010074751.3A CN111311556B (zh) 2020-01-21 2020-01-21 手机缺陷位置识别方法及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010074751.3A CN111311556B (zh) 2020-01-21 2020-01-21 手机缺陷位置识别方法及设备

Publications (2)

Publication Number Publication Date
CN111311556A true CN111311556A (zh) 2020-06-19
CN111311556B CN111311556B (zh) 2023-02-03

Family

ID=71159792

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010074751.3A Active CN111311556B (zh) 2020-01-21 2020-01-21 手机缺陷位置识别方法及设备

Country Status (1)

Country Link
CN (1) CN111311556B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113763354A (zh) * 2021-09-07 2021-12-07 联想(北京)有限公司 一种图像处理方法和电子设备
CN114429464A (zh) * 2022-01-25 2022-05-03 众安在线财产保险股份有限公司 终端的碎屏识别方法和相关设备
US11798250B2 (en) 2019-02-18 2023-10-24 Ecoatm, Llc Neural network based physical condition evaluation of electronic devices, and associated systems and methods
US11843206B2 (en) 2019-02-12 2023-12-12 Ecoatm, Llc Connector carrier for electronic device kiosk
US11922467B2 (en) 2020-08-17 2024-03-05 ecoATM, Inc. Evaluating an electronic device using optical character recognition

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040027618A1 (en) * 2002-06-03 2004-02-12 Fuji Photo Film Co., Ltd. Image defect detecting method
US20100091112A1 (en) * 2006-11-10 2010-04-15 Stefan Veeser Object position and orientation detection system
CN105301810A (zh) * 2015-11-24 2016-02-03 上海斐讯数据通信技术有限公司 一种屏幕缺陷检测方法及装置
CN106709952A (zh) * 2016-11-18 2017-05-24 南京仁光电子科技有限公司 一种显示屏幕的自动标定方法
CN110351530A (zh) * 2019-07-31 2019-10-18 Tcl王牌电器(惠州)有限公司 多相机实现屏幕检测的方法、系统及计算机可读存储介质
CN110657948A (zh) * 2019-09-26 2020-01-07 联想(北京)有限公司 用于测试电子设备的屏幕的方法、装置、测试设备和介质
CN110675399A (zh) * 2019-10-28 2020-01-10 上海悦易网络信息技术有限公司 屏幕外观瑕疵检测方法及设备

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040027618A1 (en) * 2002-06-03 2004-02-12 Fuji Photo Film Co., Ltd. Image defect detecting method
US20100091112A1 (en) * 2006-11-10 2010-04-15 Stefan Veeser Object position and orientation detection system
CN105301810A (zh) * 2015-11-24 2016-02-03 上海斐讯数据通信技术有限公司 一种屏幕缺陷检测方法及装置
CN106709952A (zh) * 2016-11-18 2017-05-24 南京仁光电子科技有限公司 一种显示屏幕的自动标定方法
CN110351530A (zh) * 2019-07-31 2019-10-18 Tcl王牌电器(惠州)有限公司 多相机实现屏幕检测的方法、系统及计算机可读存储介质
CN110657948A (zh) * 2019-09-26 2020-01-07 联想(北京)有限公司 用于测试电子设备的屏幕的方法、装置、测试设备和介质
CN110675399A (zh) * 2019-10-28 2020-01-10 上海悦易网络信息技术有限公司 屏幕外观瑕疵检测方法及设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
MOSTAFA ABDELRAHMAN ET AL.: "Flaw detection in powder bed fusion using optical imaging", 《ADDITIVE MANUFACTURING》 *
简川霞: "手机玻璃屏表面缺陷机器视觉检测与分类方法研究", 《中国优秀博硕士学位论文全文数据库(博士)信息科技辑》 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11843206B2 (en) 2019-02-12 2023-12-12 Ecoatm, Llc Connector carrier for electronic device kiosk
US11798250B2 (en) 2019-02-18 2023-10-24 Ecoatm, Llc Neural network based physical condition evaluation of electronic devices, and associated systems and methods
US11922467B2 (en) 2020-08-17 2024-03-05 ecoATM, Inc. Evaluating an electronic device using optical character recognition
CN113763354A (zh) * 2021-09-07 2021-12-07 联想(北京)有限公司 一种图像处理方法和电子设备
CN114429464A (zh) * 2022-01-25 2022-05-03 众安在线财产保险股份有限公司 终端的碎屏识别方法和相关设备

Also Published As

Publication number Publication date
CN111311556B (zh) 2023-02-03

Similar Documents

Publication Publication Date Title
CN111311556B (zh) 手机缺陷位置识别方法及设备
CN111325716B (zh) 屏幕划痕碎裂检测方法及设备
CN111325717B (zh) 手机缺陷位置识别方法及设备
CN110689037B (zh) 用于使用深度网络的自动对象注释的方法和系统
CN111292302B (zh) 屏幕检测方法及装置
CN108009543B (zh) 一种车牌识别方法及装置
CN110060237B (zh) 一种故障检测方法、装置、设备及系统
WO2021147386A1 (zh) 屏幕划痕碎裂检测方法及设备
US9418319B2 (en) Object detection using cascaded convolutional neural networks
CN111627009A (zh) 一种屏幕检测方法、装置及头戴显示设备
CN107749268B (zh) 屏幕检测方法及设备
CN113379680B (zh) 缺陷检测方法、装置、电子设备和计算机可读存储介质
JP5779089B2 (ja) エッジ検出装置、エッジ検出プログラム、およびエッジ検出方法
CN110288612B (zh) 铭牌定位与校正方法及设备
CN113781396B (zh) 屏幕缺陷检测方法、装置、设备和存储介质
CN111626295A (zh) 车牌检测模型的训练方法和装置
CN111046746A (zh) 一种车牌检测方法及装置
CN113920434A (zh) 一种基于目标的图像翻拍检测方法、装置及介质
CN114155285A (zh) 基于灰度直方图的图像配准方法
CN112287905A (zh) 车辆损伤识别方法、装置、设备及存储介质
CN112183158B (zh) 一种谷物烹饪设备的谷物种类识别方法和谷物烹饪设备
CN115222653A (zh) 测试方法和装置
CN111242116B (zh) 屏幕定位方法及装置
CN113573137A (zh) 视频画布边界检测方法、系统、终端设备及存储介质
CN114202665A (zh) 一种图像相似度确定方法及装置、设备、存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: Room 1101-1103, No. 433, Songhu Road, Yangpu District, Shanghai

Applicant after: Shanghai wanwansheng Environmental Protection Technology Group Co.,Ltd.

Address before: Room 1101-1103, No. 433, Songhu Road, Yangpu District, Shanghai

Applicant before: SHANGHAI YUEYI NETWORK INFORMATION TECHNOLOGY Co.,Ltd.

GR01 Patent grant
GR01 Patent grant