CN118265904A - 显示装置的检查方法以及信息处理装置 - Google Patents
显示装置的检查方法以及信息处理装置 Download PDFInfo
- Publication number
- CN118265904A CN118265904A CN202280076274.1A CN202280076274A CN118265904A CN 118265904 A CN118265904 A CN 118265904A CN 202280076274 A CN202280076274 A CN 202280076274A CN 118265904 A CN118265904 A CN 118265904A
- Authority
- CN
- China
- Prior art keywords
- image
- data
- machine learning
- information processing
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 144
- 230000010365 information processing Effects 0.000 title claims abstract description 58
- 238000007689 inspection Methods 0.000 title claims abstract description 26
- 238000010801 machine learning Methods 0.000 claims abstract description 152
- 238000012549 training Methods 0.000 claims abstract description 54
- 230000002950 deficient Effects 0.000 claims description 17
- 238000000605 extraction Methods 0.000 claims description 17
- 238000012545 processing Methods 0.000 description 172
- 238000012795 verification Methods 0.000 description 86
- 238000010586 diagram Methods 0.000 description 38
- 239000011159 matrix material Substances 0.000 description 35
- 239000008186 active pharmaceutical agent Substances 0.000 description 25
- 238000013528 artificial neural network Methods 0.000 description 22
- 238000011176 pooling Methods 0.000 description 19
- 230000006870 function Effects 0.000 description 17
- 230000007547 defect Effects 0.000 description 16
- 238000007781 pre-processing Methods 0.000 description 16
- 238000013527 convolutional neural network Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 10
- 238000012805 post-processing Methods 0.000 description 8
- 239000007787 solid Substances 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 7
- 230000002708 enhancing effect Effects 0.000 description 5
- 238000010200 validation analysis Methods 0.000 description 5
- 238000002790 cross-validation Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000014759 maintenance of location Effects 0.000 description 3
- 102100023817 26S proteasome complex subunit SEM1 Human genes 0.000 description 2
- 101000684297 Homo sapiens 26S proteasome complex subunit SEM1 Proteins 0.000 description 2
- 101000873438 Homo sapiens Putative protein SEM1, isoform 2 Proteins 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 241001085205 Prenanthella exigua Species 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 101150069022 dss-1 gene Proteins 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8854—Grading and classifying of flaws
- G01N2021/8858—Flaw counting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Analytical Chemistry (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Pathology (AREA)
- Immunology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Medical Informatics (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Quality & Reliability (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
Abstract
显示装置的检查方法利用机器学习,判断拍摄了显示装置的图像显示面的图像符合j种分类的哪一种,显示装置的检查方法包括:第1机器学习步骤,信息处理装置基于事先准备的包括与j种分类对应的图像的数据在内的训练数据,进行用于判断图像符合j种分类的哪一种的机器学习;以及第2机器学习步骤,信息处理装置基于包括与j种中的k种分类对应的图像的数据在内的训练数据,进行用于判断图像符合k种分类的哪一种的机器学习,j以及k为2以上的自然数,k比j小。
Description
技术领域
本公开涉及显示装置的检查方法以及信息处理装置。
背景技术
已知有评价显示图像的显示装置的亮度不均的方法(例如专利文献1)。
现有技术文献
专利文献
专利文献1:JP特开2009-180583号公报
发明内容
不限于亮度不均,作为显示装置的检查物品作业,在显示装置发货前进行用于发现显示装置的显示不良的确认作业。另外,存在想要使该检查物品作业之类的检查显示装置的显示不良实现自动化。在该情况下,设想将拍摄了显示装置的图像显示面的图像分类的作业的自动化。然而,自动进行认为没有显示不良的合格品的图像、与被认为有某种显示不良的合格品以外的图像的分类尤其在确保分类精度的观点下是困难的。
本公开是鉴于上述的课题而提出的,其目的在于,提供能够更高精度地将显示装置的图像分类的显示装置的检查方法以及信息处理装置。
本公开的一个方面的显示装置的检查方法利用机器学习,判断拍摄了显示装置的图像显示面的图像符合j种分类的哪一种,显示装置的检查方法包括:第1机器学习步骤,信息处理装置基于事先准备的包括与所述j种分类对应的所述图像的数据在内的训练数据,进行用于判断图像符合所述j种分类的哪一种的机器学习;以及第2机器学习步骤,所述信息处理装置基于包括与所述j种中的k种分类对应的所述图像的数据在内的训练数据,进行用于判断图像符合所述k种分类的哪一种的机器学习,j以及k为2以上的自然数,k比j小。
附图说明
图1是示出信息处理装置的主要构成的框图。
图2是示出信息处理装置的主要功能构成的框图。
图3是示出由判断部进行的判断处理中的图像的分类、以及各分类的图像的示意例的图。
图4是示出对比度增强前的像素的灰度值、与对比度增强后的像素的灰度值的关系的曲线。
图5是示出判断部的更具体的功能构成例的一例的框图。
图6是示出保留(holdout)验证的想法的示意图。
图7是示出交叉验证的想法的示意图。
图8是用表示出与利用了机器学习的判断的精度有关的想法的图。
图9是示出应用了多阶段处理的机器学习的流程的流程图。
图10是示出应用了多阶段处理的机器学习的流程的图。
图11是示出参考数据所包含的验证数据的实际的类别、与基于参考图9说明的步骤S3的处理的第一次验证处理的输出(预测出的类别)的对应关系的图。
图12是示出在参考图9说明的步骤S6的处理中输入至机器学习部的“与特定的输出对应的参考数据”所包含的验证数据的实际的类别、与基于该步骤S6的处理的第二次验证处理(第一次)的输出(预测出的类别)的对应关系的图。
图13是示出在参考图9说明的步骤S4的处理中提取出、并在步骤S7的处理中输入至机器学习部的验证数据的实际的类别、与基于该步骤S7的处理的第二次验证处理(第二次)的输出(预测出的类别)的对应关系的图。
图14是示出参考数据所包含的验证数据的实际的类别、与通过参考图9说明的步骤S8的处理得到的最终的输出(预测出的类别)的对应关系的图。
图15是示出由对利用了机器学习的图像数据的分类判断应用了多阶段处理的机器学习部进行的判断处理的流程的流程图。
图16是示出对比度增强前的像素的灰度值与对比度增强后的像素的灰度值的关系的曲线。
图17是示出拍摄了“倾斜不均”的显示面板的图像的灰度值的分布、与拍摄了“合格品”的显示面板的图像的灰度值的分布的关系的图。
图18是示出式(1)和式(2)的差异以及与式(2)对应的曲线与gain_1、gain_2、Inflection_1、Inflection_2、height_1、height_2的关系的图。
图19是示出拍摄了被分类为“合格品”的显示面板的图像、以及对该图像应用图像处理的应用例的图。
图20是示出拍摄到符合“扫描线不良”以及“信号线不良”双方的显示面板的图像、以及对该图像应用图像处理的应用例的图。
图21是示出拍摄到被分类为“倾斜不均”的显示面板的图像、以及对该图像应用图像处理的应用例的图。
图22是示出拍摄到被分类为“白不均”的显示面板的图像、以及对该图像应用图像处理的应用例的图。
图23是示出拍摄到显示面板的图像所包含的像素的灰度值的分布的直方图与拐点的位置(b)的关系的图。
具体实施方式
以下,参考附图说明本公开的各实施方式。此外,公开只不过为一例,本领域技术人员容易想到的保持发明的主旨的适当变更当然包含在本公开的范围内。另外,为了使说明更明确,与实际的形态相比,有时示意性示出附图的各部分的宽度、厚度、形状等,但只不过为一例,不限定对本公开的解释。另外,在本说明书和各图中,对与关于已经出现的附图说明的要素同样的要素标注相同的附图标记,有时适当省略详细的说明。
图1是示出信息处理装置1的主要构成的框图。信息处理装置1具备通信部11、输入部12、运算部21、存储部22以及输出部30。信息处理装置1为能够利用机器学习来判断拍摄了显示装置的图像显示面的图像(例如,后述的判断对象图像数据100或者参考数据223所包含的图像数据的图像)符合j种(例如,j=8)分类的哪一种的信息处理装置。另外,信息处理装置1为能够进行该图像的对比度增强的信息处理装置。
通信部11与外部的设备之间进行通信。具体来说,通信部11例如具有作为NIC(Network interface controller:网络接口控制器)发挥功能的电路。通信部11将从外部的设备接收的数据输出至运算部21。另外,在信息处理装置1进行向外部的设备发送数据的处理的情况下,通信部11将该数据向外部的设备发送。此外,外部的设备例如可以为与信息处理装置1不同的服务器或者PC(Personal Computer:个人计算机)这种固定式的信息处理装置,也可以为智能手机这种携带终端,还可以为在此没有例示的其他形态的信息处理装置。
输入部12具有设置为能够输入数据的接口。该接口例如为USB(Universal SerialBus:通用串行总线)或者与其他标准对应的总线接口,但不限于这些,针对具体的标准能够适当变更。在该总线接口例如经由用于从外部的设备输入数据的线缆而连接有外部的设备。还可以在该总线接口连接有键盘或鼠标等操作员用于操作信息处理装置1的输入设备。通信部11和输入部12的至少一方作为获取部40发挥功能。
运算部21具有作为CPU(Central Processing Unit:中央处理器)发挥功能的运算电路。运算部21通过从存储部22读取在进行软件/程序以及软件/程序的执行处理时参考的数据并执行处理,来进行与信息处理装置1发挥的各种的功能对应的运算处理。以下,在记载为程序等的情况下,是指由运算部21读取并执行处理的软件/程序以及在对软件/程序执行处理时所参考的数据。
存储部22具有存储程序等的存储装置。该存储装置例如包括固态硬盘(SSD:SolidState Drive)、硬盘驱动(HDD:Hard Disk Drive)、其他能够改写的存储装置中的某一个以上,但也可以包括记录了程序等的无法改写的存储装置。在图1中,作为存储部22存储的程序等,示出了机器学习程序221、图像处理程序222、参考数据223以及设定数据224。运算部21和存储被运算部21读取的程序等的存储部22作为处理部50发挥功能。机器学习程序221为用于进行机器学习的程序等。图像处理程序222为用于对判断对象图像数据100施加图像处理的程序等。参考数据223包括机器学习的训练数据以及验证数据。设定数据224包括与机器学习程序221、图像处理程序222的执行处理有关的各种参数。
输出部30进行对应于处理部50的处理内容的输出。输出部30为例如显示图像的监视器,但不限于此。输出部30还可以包含像进行音声输出的扬声器那样进行基于其他形态的输出的构成,在上述通信部11将数据发送至外部的设备的情况下,通信部11可以说明作为输出部30发挥功能。另外,在输入部12为能够进行双向的数据传送的标准的情况下,输入部12也作为输出部30发挥功能。
图2是示出信息处理装置1的主要功能构成的框图。信息处理装置1作为获取部40、处理部50、输出部30发挥功能。获取部40获取判断对象图像数据100。通信部11能够通过通信而从外部的设备获取判断对象图像数据100。输入部12能够获取从外部的设备输入的判断对象图像数据100。
处理部50作为图像处理部51以及判断部60发挥功能。图像处理部51对判断对象图像数据100施加图像处理。用于使运算部21作为图像处理部51发挥功能的程序等为图像处理程序222。判断部60利用神经网络NN进行将图像分类的判断处理。用于使运算部21作为判断部60发挥功能的程序等为机器学习程序221。成为由判断部60进行判断的对象的图像为通过读取判断对象图像数据100所包含的图像数据而得到的图像。
输出部30进行与由判断部60进行的判断处理的结果有关的输出。例如,输出部30进行示出由判断部60进行的判断处理的结果的显示输出。
图3是示出由判断部60进行的判断处理中的图像的分类与各分类的图像的示意例的图。如图3所示,图像例如利用由判断部60进行的判断处理被分类为合格品、电路不良、信号线不良、扫描线不良、倾斜不均、竖条纹、集簇、白不均的某一种。
在前述的不良模式中,倾斜不均是指,相对于周围有亮度差的区域看起来呈长轴状延伸的不良情况。虽然表述为“倾斜”,但也包括相对于画面在水平方向、垂直方向上延伸这样的情况。竖条纹是指与信号线的分割块等对应地看起来产生亮度差的不良情况。集簇是指,被确认到集中在有点缺陷的区域集中聚集的不良情况。白不均是指,在进行了面内均匀的灰度显示的情况下,看起来不规则地产生比周围亮/暗的区域的不良情况。在本发明中,不限于这些不均的种类自身的检测,还可以定义没有包含在前述不良模式内的这种不良模式。
判断对象图像数据100包括多个图像数据。该图像数据为拍摄了正在显示白色或者中间色调的纯色(ベタ)图像的状态的显示面板的图像显示面的图像数据。在此,正在显示白色的纯色图像的状态是指,所有像素以白色的最高灰度值进行显示输出的状态。正在显示中间色调的纯色图像的状态是指,所有像素以低于最高灰度值且超过最低灰度值的灰度值进行显示输出的状态。该显示面板例如为OLED(Organic Light Emitting Diode:有机发光二极管)显示器面板,但不限于此,也可以为基于其他方式的显示面板。判断对象图像数据100所包含的多个图像数据的各个图像数据分别拍摄了不同的显示面板的图像显示面。在实施方式中判断部60进行的判断处理是指旨在自动进行检查物品的处理,检查物品用来确认在生成判断对象图像数据100时成为拍摄的对象的多个显示面板各自是否能够以设定的品质进行显示输出。以下,在仅记载为显示面板的情况下,是指在生成判断对象图像数据100时成为拍摄的对象的多个显示面板中的一个。另外,在仅记载为图像的情况下,除非另有说明,是指通过读取图像数据而得到的图像。
判断对象图像数据100以及参考数据223可以是为将以MotherGlass基板的状态拍摄到的图像针对每个面板截取后的图像的情况、以及在将MotherGlass基板针对每个面板截取之后针对每个面板拍摄到的图像的某一种。
判断对象图像数据100以及参考数据223所包含的图像数据的图像为灰度级或者白黑的图像。此外,在输入至信息处理装置1的图像数据的图像为彩色的情况下,后述的图像处理部51也可以依次进行基于了各原色的灰度级处理。
合格品是指能够以设定的品质进行显示输出的产品。即,拍摄到被判断为合格品的图像的显示面板为合格品。
电路不良是指产生如下的特征性的显示不良,该特征性的显示不良是因向构成显示画面的像素供给影像信号或扫描信号的驱动电路的一部分或者全部为不良而产生的。在图3中,作为该特征性的显示不良,示出了图像的一部分或者全部成为对于白色或者中间色调的纯色图像显示来说显著暗的黑色区域BA或者过于亮的白色区域WA的示意例。在拍摄到被判断为电路不良的图像的显示面板产生了电路不良。
信号线不良是指如下的特征性的显示不良,该特征性的显示不良是因向设于显示面板的多个像素发送图像信号的多个信号线的一部分为不良而产生的。在图3中,作为该特征性的显示不良,示出了对于白色或者中间色调的纯色图像显示来说显著暗的黑色区域BA或者过于亮白色区域WA沿着矩形状的图像的长边方向呈直线状产生的示意例。另外,在最右侧的示意例中,还沿着与该长边方向正交的方向产生了黑色区域BA。
扫描线不良是指如下的特征性的显示不良,该特征性的显示不良是因向设于显示面板的多个像素传送驱动信号的多个扫描线的一部分为不良而产生的。在图3中,作为该特征性的显示不良,示出了对于白色或者中间色调的纯色图像显示来说显著暗的黑色区域BA或者比黑色区域BA亮但比周围暗的暗色区域GA沿着与矩形状的图像的长边方向正交的方向呈直线状产生的示意例。
如上所述,判断对象图像数据100是符合参考图3说明的某一分类的图像。参考数据223是设想将判断对象图像数据100所包含的图像数据的图像分类而事先准备的。具体来说,参考数据223是拍摄例如符合图3示出的分类的哪一种、且事先确定了分类的显示面板的图像显示面而得到的图像数据。另外,参考数据223所包含的图像数据被附加了在由运算部21读取时能够确定为哪个分类的信息。
图像处理部51对判断对象图像数据100所包含的多个图像数据独立地实施图像处理。具体来说,图像处理部51进行进一步增强图像的对比度的处理。
图4是示出对比度增强前的像素的灰度值与对比度增强后的像素的灰度值的关系的曲线。在由图像处理部51进行处理之前的图像所包含的多个像素各自的灰度值以8比特来表达的情况下,如图4的横轴所示,灰度值取0~255的范围内的某一值。假设在没有利用基于图像处理部51的图像处理进行对比度的变更的情况下,判断对象图像数据100如图4示出的曲线L4所示那样,对比度增强前后的像素的灰度值没有差。对比度增强后的灰度值用图4的纵轴来表示。
图像处理部51例如以成为如图4示出的曲线L1、L2、L3的某一条曲线那样所表示的对比度增强前后的关系的方式变更图像所包含的多个像素各自的灰度值,由此进一步增强图像的对比度。曲线L1、L2、L3为用式(1)示出的S型生长(Sigmoid)函数表示的S型生长曲线。式(1)中的y表示由图像处理部51进行的图像处理后的像素的灰度值。式(1)中的x表示由图像处理部51进行的图像处理前的像素的灰度值。式(1)中的b表示与S型生长曲线的拐点对应的x的值、即,S型生长曲线的斜率变得最大的坐标(x,y)中的x。以b为界,若x<b,则S型生长曲线向下凸,若x>b,则S型生长曲线向上凸。式(1)中的a为与S型生长曲线的斜率的大小对应的系数。此外,式(1)以及后述的式(2)中的exp[]表示指数函数。
【数学式1】
此外,在实施方式的说明以及式(1)以及后述的式(2)中,设想了参考数据223以及判断对象图像数据100所包含的图像数据的图像为8比特图像。即,在实施方式的说明以及式(1)以及式(2)中,设想了图像所包含的像素的最高灰度值为255。作为式(1)以及式(2)的分子而记载的“255”的数值是设想了8比特图像所包含的像素的最高灰度值。但能够利用信息处理装置1来处理的图像不限于8比特图像。信息处理装置1能够处理r比特图像。R为任意的自然数。r比特图像的最高灰度值为2r-1。因此,在利用信息处理装置1处理的图像为r比特图像的情况下,被记载为式(1)以及式(2)的分子的“255”的数值被替换为“2r-1”。另外,对实施方式的参考数据223所包含的图像数据的图像事先实施了由图像处理部51进行的图像处理。
图5是示出判断部60的更具体的功能构成例的一例的框图。判断部60包括机器学习部70、验证部61以及限定性分类处理部62。机器学习部70根据规定的算法进行机器学习。在实施方式中,作为该规定的算法,采用了CNN(Convolutional Neural Network:卷积神经网络)。
机器学习部70包括特征量提取部71以及识别部72。CNN所包含的处理大体分为两个处理。该两个处理中的一个为成为利用了CNN的处理的对象的图像的特征量的提取处理,由特征量提取部71进行。该两个处理中的另一个为将表示图像的特征量的数据作为神经网络NN的输入并得到该神经网络NN的输出的处理,由识别部72进行。在实施方式中,该神经网络NN的输出为符合参考图3说明的分类的每一个的概率的值(0~1的范围内)。
特征量提取部71包括卷积处理部711以及池化处理部712。卷积处理部711对图像进行卷积(convolution)处理。在此所说的卷积处理与通常的CNN所采用的卷积处理相同。
在卷积处理中,将图像所包含的多个像素各自的灰度值视为矩阵的值。例如,设想在彼此正交的2个方向的一方(X方向)排列有p个像素、在另一方(Y方向)排列有q个像素的二维图像。该二维图像能够视为行的数为p且列的数为q的矩阵。该二维图像所具有的多个像素各自的灰度值能够视为矩阵的分量。若将该矩阵设为α且将矩阵α的分量设为β,则在矩阵α中在X方向位于第e个、在Y方向上位于第f个位置的分量表示为βef。这是指在该二维图像中在X方向位于第e个、在Y方向上位于第f个位置的像素的灰度值。另外,在卷积处理中,上述的二维图像是指,作为另一矩阵而设定有被称为内核或者滤波器的参考用的矩阵。以下,为了便于说明,将该参考用的矩阵记载为内核。内核的行数比成为卷积处理的对象的图像(例如,上述二维图像)的行数小。内核的列数比成为卷积处理的对象的图像(例如,上述二维图像)的列数小。内核所包含的矩阵的分量为事先决定的加权数的值(通常,整数)。卷积处理部711将判断对象图像数据100所包含的图像的一个视为矩阵,进行提取与该矩阵中的内核的行数以及列数对应的一部分的提取处理。即,该一部分能够视为行数以及列数与内核相同的矩阵。卷积处理部711进行得到将该一部分和内核相乘的矩阵的积的乘法处理。卷积处理部711进行将该矩阵的积所包含的分量的值相加而得到一个值的加法处理。卷积处理部711将该一个值处理为一个特征量。卷积处理部711在被认为矩阵的一个图像中设定多个成为提取处理的对象的范围。在例如p=q=30的情况下,在X方向以及Y方向上以每隔三个的周期设定提取处理的范围时,设定X×Y=10×10=100的范围。卷积处理部711相对于各范围进行提取处理、乘法处理以及加法处理得到各范围的特征量。由此,一个图像转换为表示特征量的值呈矩阵状排列的数据(第1特征量矩阵)。此外,更详细来说,也有在进行提取处理时进行填充(像素的补充)等的情况,但由于是公知技术,所以在此省略详细的说明。
池化处理部712对由卷积处理部711进行卷积处理的图像实施池化(pooling)处理。在此所说的池化处理与利用通常的CNN采用的池化处理相同。
在池化处理中,将由上述卷积处理得到的第1特征量矩阵的分量分成多个组。例如,第1特征量矩阵为行数10、列数10的矩阵。在此,在按照行数为2且列数为2的范围区分该第1特征量矩阵的情况下,能够对该第1特征量矩阵设定5×5的范围。在此,各范围被认为独立的组。在池化处理中,利用这种想法,能够将由卷积处理得到的第1特征量矩阵的分量分成多个组。在池化处理中,针对每组导出一个值。作为该一个值的导出方法,例如举出最大值池化、平均值池化等。最大值池化为导出组所包含的矩阵的分量中的最大值的方法。平均值池化为导出组所包含的矩阵的分量的平均值的方法。通过将针对每组导出的值视为矩阵的分量,能够利用池化处理导出行数以及列数比第1特征量矩阵小的矩阵(第2特征量矩阵)。该第2特征量矩阵能够视为是表示由卷积处理部711视为矩阵的一个图像(例如,判断对象图像数据100所包含的多个图像中的一个)的特征量的数据。
此外,相对于一个图像的卷积处理部711以及池化处理部712的处理只要为一次以上即可,可以反复进行事先规定的多次处理。另外,特征量提取部71进行的处理还可以包含卷积处理的相反的操作(deconvolution:反卷积)或池化处理的相反的操作(unpooling:上池化)。
识别部72包括神经网络生成部721以及概率转换部722。神经网络生成部721生成神经网络NN。概率转换部722进行将神经网络生成部721生成的神经网络NN的输出转换为概率的值(0~1的范围内的值)的运算处理。
在采用了CNN的情况下的相对于神经网络NN的输入为作为上述池化处理的输出而得到的矩阵(第2特征量矩阵)的分量。该矩阵所包含的分量的数量与神经网络NN的输入节点的数量对应。神经网络NN与通常的机器学习中的神经网络相同,包括1个以上的全连接层。在全连接层中,进行相对于输入的加权处理。通常,最接近神经网络NN所具有的1个以上的全连接层中的输出侧的全连接层(最后一层)的偏置的数量与利用该神经网络NN进行的辨别的种类(例如参考图3说明的分类的数量)相等。通常,神经网络NN的输出可以取任意的值(超过1的数量)。于是,由于将神经网络NN的输出处理为“为了判断符合哪个分类而能够利用的表示确定性的值”,所以由概率转换部722进行运算。基于概率转换部722的运算为例如利用了Softmax函数(Softmax function)的运算,但不限于此,能够适当变更。
验证部61对由机器学习部70进行的机器学习给予验证(validation)功能。通过验证部61抑制机器学习中的过度学习,易于进一步提高由机器学习进行的判断的制度。作为由验证部61进行的验证功能的例子,举出保留验证、交叉验证等。
图6是示出保留验证的想法的示意图。在图6以及后述的图7中,用矩形表示包括m个图像数据在内的数据集DS。在图6以及图7中,设为沿着该矩形的长边方向,从该长边方向的一端侧朝向另一端侧,m个图像数据中的第一个图像数据到第m个图像数据依次排列。M为自然数。
在保留验证中,如图6所示,数据集DS分为训练数据TD与验证数据CD。其中,利用训练数据TD来作为机器学习中的训练数据。利用验证数据CD来作为机器学习中的验证数据。
一个数据集DS包括与由机器学习进行的某一个判断结果对应的多个图像数据。例如,说明了图3的“合格品”的数据集DS包括独立拍摄符合“合格品”的m个显示面板的图像显示面而得到的m个图像数据。在此,提取m个图像数据中的n个作为训练数据TD,判断部60利用该训练数据TD进行机器学习。N为少于m的自然数。然后,由基于训练数据TD学习后的判断部60判断数据集DS中的、除了训练数据TD以外的(m-n)个图像数据即验证数据CD。在此,验证数据CD为数据集DS的一部分,仅包括与基于机器学习的某一个判断结果对应的图像数据。因此,基于训练数据TD学习后的判断部60理想上优选将验证数据CD所包含的所有图像数据判断为与该一个判断结果对应的图像数据。但实际上,有时将验证数据CD的一部分判断为与其他判断结果对应的图像数据。于是,通过利用使用了训练数据TD的机器学习后的判断部60判断验证数据CD,验证判断部60的判断精度,进行进一步提高基于根据训练数据TD的学习的该判断精度。
在采用了保留验证的情况下的验证部61将数据集DS分为训练数据TD和验证数据CD,进行基于该训练数据TD的机器学习部70的学习、以及基于该验证数据CD的判断精度的验证。
图7是示出交叉验证的想法的示意图。在采用了交叉验证的情况下,验证部61例如如图7所示将数据集DS视为数据集DSS1。数据集DSS1包括数据集DSa、DSb、DSc、DSd、DSe。数据集DSa为将数据集DS分成验证数据CD1和训练数据TD1来处理的数据。数据集DSb为将数据集DS分成验证数据CD2和训练数据TD21、TD22来处理的数据。数据集DSc为将数据集DS分成验证数据CD3和训练数据TD31、TD32来处理的数据。数据集DSd为将数据集DS分成验证数据CD4与训练数据TD41、TD42来处理的数据。数据集DSe为将数据集DS分成验证数据CD5与训练数据TD5来处理的数据。训练数据TD1、TD21、TD22、TD31、TD32、TD41、TD42、TD5被用作机器学习中的训练数据。验证数据CD1、CD2、CD3,CD4,CD5被用作机器学习中的验证数据。验证数据CD1、验证数据CD2、验证数据CD3、验证数据CD4、验证数据CD5分别包括不同的图像数据。即,交叉验证关于将数据集DS所包含的m个图像数据中的、哪个部分视为验证数据而设定多个模式(例如,数据集DSa、DSb、DSc、DSd、DSe),仅以反复保留验证该多个模式的数量(参考图6)。
在实施方式中,采用了进行交叉验证的验证部61,但不限于此,针对验证部61进行的具体的验证的算法能够适当变更。
实施方式的参考数据223包括与参考图3说明的分类的数量对应的多个数据集。具体来说,参考数据223包括数据集DS1、DS2、DS3、DS4、DS5、DS6、DS7、DS8(参考图10)。数据集DS1为包括独立地拍摄符合“合格品”的m个显示面板的图像显示面而得到的m个图像数据在内的数据集DS。数据集DS2为包括独立地拍摄符合“倾斜不均”的m个显示面板的图像显示面而得到的m个图像数据在内的数据集DS。数据集DS3为独立地拍摄符合“信号线不良”的m个显示面板的图像显示面而得到的m个图像数据在内的数据集DS。数据集DS4为包括独立地拍摄符合“扫描线不良”的m个显示面板的图像显示面而得到的m个图像数据在内的数据集DS。数据集DS5为包括独立地拍摄符合“电路不良”的m个显示面板的图像显示面而得到的m个图像数据在内的数据集DS。数据集DS6为包括独立地拍摄符合“竖条纹”的m个显示面板的图像显示面而得到的m个图像数据在内的数据集DS。数据集DS7为包括独立地拍摄符合“集簇”的m个显示面板的图像显示面而得到的m个图像数据在内的数据集DS。数据集DS8为包括独立地拍摄符合“白不均”的m个显示面板的图像显示面而得到的m个图像数据在内的数据集DS。实施方式的验证部61针对数据集DS1、DS2、DS3、DS4、DS5、DS6、DS7、DS8的每一个独立地进行交叉验证。
图8是用表示出与利用了机器学习的判断的精度有关的想法的图。谁存在将某一图像为“与拍摄到特定的对象的图像对应”情况设为1(Positive:正例)且将“与拍摄到特定的对象的图像不对应”情况设为-1(Negative:负例)的条件。在该条件下,所有图像被认为能够赋予1或者-1的判断结果的图像。利用机器学习,得到表示成为所输入的数据(特征量)的原始的图像是否为“与拍摄到特定的对象的图像对应”的判断结果的输出。机器学习部70根据输入进行表示是否为“与拍摄到特定的对象的图像对应”的判断结果的输出。若举出更具体的例子,则实施方式的机器学习部70根据判断对象图像数据100或者验证数据(例如,验证数据CD等)的输入,进行表示成为所输入的数据(特征量)的原始的图像是否为符合“合格品”、“倾斜不均”、“信号线不良”、“扫描线不良”、“电路不良”、“竖条纹”、“集簇”或者“白不均”的分类的哪一种的图像的输出。在此,例如,被判断为符合“合格品”以外的分类的图像可以说为被判断为“与合格品不对应”的图像。
图8示出的“实际的类别”栏示出由检查员进行的目视检查的结果。例如,实际上“拍摄到特定的对象的”图像为“与拍摄到特定的对象的图像对应”图像,被赋予1。另外,“没有拍摄到特定的对象”图像为“与拍摄到特定的对象的图像不对应”图像,被赋予-1。另一方面,图8示出的“预测出的类别”表示基于利用了机器学习的判断的判断结果。即,对利用该判断被判断为“与拍摄到特定的对象的图像对应”的图像赋予1。另外,对利用该判断被判断为“与拍摄到特定的对象的图像不对应”的图像赋予-1。
在实际上“拍摄到特定的对象的”图像被利用了机器学习的判断判断为“与拍摄到特定的对象的图像对应”的情况下,该判断是正确的。在这种利用“实际的类别”赋予的值和利用“预测出的类别”赋予的值均为1的情况下,被称为TP(True Positive:真正例)。另外,在实际上“没有拍摄到特定的对象”图像被利用了机器学习的判断判断为“与拍摄到特定的对象的图像不对应”的情况下,该判断是正确的。在这种利用“实际的类别”赋予的值和利用“预测出的类别”赋予的值均为-1的情况下,被称为TN(True Negative:真负例)。另一方面,在实际上“拍摄到特定的对象的”图像被利用了机器学习的判断判断为“与拍摄到特定的对象的图像不对应”的情况下,该判断是错误的。在这种利用“实际的类别”赋予的值为1、且利用“预测出的类别”赋予的值为-1的情况下,被称为FN(False Negative:假负例)。另外,在实际上“没有拍摄到特定的对象”图像被利用了机器学习的判断判断为“与拍摄到特定的对象的图像对应”的情况下,该判断是错误的。在这种利用“实际的类别”赋予的值为-1、且利用“预测出的类别”赋予的值为1的情况下,被称为FP(False Positive:假正例)。
作为表示机器学习的精度的概念,例如已知有准确率、召回率、精确率、误检率、F值等。表示准确率的值为(TP+TN)/(TP+TN+FN+FP)的值。表示召回率的值为TP/(TP+FN)的值。表示精确率的值为TP/(TP+FP)的值。表示误检率的值为FP/(TN+FP)的值。若将检测率设为Q且将精确率设为R,则F值为2×Q×R/(Q+R)。
限定性分类处理部62进行多阶段处理。在此所说的多阶段处理是指如下的处理,从该多个图像提取与相对于多个输入数据的机器学习部70的输出所表示的判断结果中的一部分判断结果对应的一部分输入数据,将所提取的该一部分输入数据输入至机器学习部70,再使机器学习部70判断是该一部分判断结果的哪一个。
举出具体例来说,判断对象图像数据100包含了多个图像数据(例如,1600个图像数据)。首先,通过将该多个图像数据输入至机器学习部70,得到表示该多个图像数据分别被判断为符合参考图3说明的分类的哪一种的输出。在此,在生成了被判断为符合参考图3说明的分类的一部分(例如,“合格品”或者“倾斜不均”)的一部分图像数据(例如,220个图像数据)的情况下,限定性分类处理部62从该多个图像数据提取该一部分图像数据。限定性分类处理部62将所提取的该一部分输入数据再次输入至机器学习部70,使机器学习部70再次进行表示判断的输出。但利用根据该一部分输入数据的输入进行的判断,基于判断的分类被限定为该分类的一部分(例如,“合格品”或者“倾斜不均”)。此外,若单纯将该一部分输入数据输入至机器学习部70,则再次相对于该一部分输入数据进行由卷积处理部711以及池化处理部712进行的处理。在此,也可以直接采用在提取该一部分输入数据之前相对于该多个图像数据已经进行的基于卷积处理部711以及池化处理部712的处理后的数据中的、与该一部分输入数据对应的数据,不反复进行卷积处理部711以及池化处理部712的处理。
以下,参考图9以及图10说明基于限定性分类处理部62的应用了多阶段处理的、基于机器学习部70的机器学习的流程。参考图9以及图10说明的处理的流程为将参考数据223所包含的图像数据作为训练数据的、有训练学习的处理的流程。
图9是示出应用了多阶段处理的机器学习的流程的流程图。图10是示出应用了多阶段处理的机器学习的流程的图。如图9所示,首先,进行参考数据223的获取(步骤S1)。具体来说,在执行机器学习程序221处理中的运算部21从存储部22读取参考数据223。在此,如上所述,参考数据223所包含的图像数据中的一部分被用作训练数据,其他一部分被用作验证数据。在图10中,将参考数据223所包含的数据集DS1、DS2、DS3、DS4、DS5、DS6、DS7、DS8中的被视为训练数据的一部分示意性地表示为TD,将被视为验证数据的其他一部分示意性地表示为CD。
在步骤S1处理后,进行基于机器学习部70的第1阶段的机器学习处理(步骤S2)。步骤S2的处理为利用参考数据223所包含的数据集DS1、DS2、DS3、DS4、DS5、DS6、DS7、DS8中包含的训练数据的机器学习处理。该机器学习处理例如是如下的机器学习处理,以将表示参考数据223所包含的验证数据的图像的特征量的数据作为神经网络NN的输入的情况下使机器学习部70判断该数据的图像是参考图3说明的8种分类的哪一种为目的,决定神经网络NN的神经元中的加权的值。在图10中,将该第1阶段的机器学习处理记载为“8-class CNN”,并标注步骤ST1的附图标记。
在步骤S2处理后,进行第1阶段的验证处理(步骤S3)。步骤S3的处理是如下的处理:运算部21将参考数据223所包含的数据集DS1、DS2、DS3、DS4、DS5、DS6、DS7、DS8所包含的验证数据作为向机器学习部70的输入,得到反映了基于步骤S2的处理的机器学习的机器学习部70的输出。即,步骤S3的处理是如下的处理:得到验证数据的图像通过机器学习部70而被判断为参考图3说明的8种分类的哪一种的输出。在图10中,示出将由步骤S3的处理得到的输出作为输出OP1。
在步骤S3处理后,限定性分类处理部62提取在第1阶段的验证处理中得到了特定的输出(验证结果)的验证数据(步骤S4)。利用步骤S4的处理提取的验证数据为在步骤S3的处理中被视为向机器学习部70的输入的验证数据的一部分,为得到表示被判断为参考图3说明的8种分类中的一部分分类(例如,“合格品”或者“倾斜不均”)的输出的验证数据。即,“特定的输出”是指,表示被判断为该一部分分类的输出。
在步骤S4处理后,进行使用了参考数据223所包含的图像数据中的与特定的输出对应的图像数据的第2阶段的机器学习处理(步骤S5)。“参考数据223所包含的图像数据中的与特定的输出对应的图像数据”或者“与特定的输出对应的参考数据”是指参考数据223的一部分,包括与在步骤S4的处理中被视为“特定的输出”的一部分分类(例如,“合格品”或者“倾斜不均”)对应的图像数据在内的数据集(例如,数据集DS1和数据集DS2)。步骤S5的处理为利用了上述的“与特定的输出对应的参考数据”所包含的训练数据的机器学习处理。该机器学习处理例如为如下的机器学习处理,以在将表示参考数据223所包含的验证数据的图像的特征量的数据设为神经网络NN的输入的情况下使机器学习部70判断该数据的图像是参考图3说明的8种分类中的与“特定的输出”对应的一部分分类的哪一种为目的,决定神经网络NN的神经元中的加权的值。在图10中,将该第2阶段的机器学习处理记载为“2-classCNN”,标注步骤ST2的附图标记。
在步骤S5处理后,进行第2阶段的验证处理(第一次)(步骤S6)。步骤S6的处理是如下的处理:运算部21将上述”与特定的输出对应的参考数据”所包含的验证数据作为向机器学习部70的输入,得到反映了基于步骤S5的处理的机器学习的机器学习部70的输出。即,步骤S6的处理是得到上述”与特定的输出对应的参考数据”所包含的验证数据的图像由机器学习部70判断为参考图3说明的8种分类中的、在步骤S4的处理中与“特定的输出”对应的一部分分类的哪一种的输出。
此外,在后述的步骤S7的处理前,也可以进行向基于由步骤S6的处理得到的输出的、基于步骤S5的处理的机器学习反馈。即,也可以基于步骤S6的处理,实现基于步骤S5的处理的机器学习的精度提高。
在步骤S6处理后,进行使用了在步骤S4的处理中提取的、得到特定的输出(验证结果)的验证数据的第2阶段的验证处理(第二次)(步骤S7)。步骤S7的处理为如下的处理:运算部21将在步骤S4的处理中提取的验证数据作为向机器学习部70的输入,得到经过基于步骤S5的处理的机器学习以及基于步骤S6的处理的验证处理(第一次)的机器学习部70的输出。即,步骤S7的处理是如下的处理:得到在步骤S4的处理中提取的、得到特定的输出(验证结果)的验证数据的图像由机器学习部70判断为参考图3说明的8种分类中的、在步骤S4的处理中与“特定的输出”对应的一部分分类的哪一种的输出。在图10中将由步骤S7的处理得到的输出表示为输出OP2。
在步骤S7处理后,进行将在第2阶段的验证处理(第二次)中得到的输出、以及在第1阶段的验证处理中得到的输出中的不是特定的输出(验证结果)的输出合并来作为最终的输出的处理(步骤S8)。在步骤S8的处理中,运算部21综合利用步骤S7的处理得到的输出、以及将利用步骤S3的处理得到的输出中的没有成为在步骤S4的处理中提取的对象的验证数据作为输入得到的输出,将综合后的输出作为机器学习部70的最终的输出。在图10中将由步骤S8的处理得到的输出表示为输出OP3。
此外,在基于限定性分类处理部62的验证功能为交叉验证的情况下,根据利用交叉验证产生的数据集的数量反复进行步骤S2~步骤S7。在例如为数据集DSS1的情况下,数据集DSa、……、数据集DSe成为对象,因此数据集的数量为5。
以下,参考图11~图14说明基于有无应用多阶段处理的机器学习的精度的变化。在参考图11~图14的说明中,以数据集DS1、DS2、……、DS8的各数据集DS包括1000个图像数据(m=1000)、且1000的图像数据中的800被作为训练数据,200被作为验证数据(判断对象数)的情况为例。另外,图11~图14的表中的“正确答案数”与图8中的TP对应。另外,图11~图14的表中的“预测精度”是相对于对应各分类的验证数据的数量(实际的类别的数量)的正确答案数的比率,对应上述的召回率。
图11是示出参考数据223所包含的验证数据的实际的类别、以及基于参考图9说明的步骤S3的处理的第一次的验证处理的输出(预测出的类别)的对应关系的图。首先,在图11示出的例子中,说明实际的类别为“合格品”、但预测出的类别为“合格品”以外的FN(44/200)。该FN中的、预测出的类别为“倾斜不均”(21/44)有接近该FN的一半,明显比在该FN中被判断为其他分类的FN的每一个的数量大。接下来,在图11示出的例子中,说明实际的类别与预测出的类别一致的TP。“倾斜不均”的TP(111/200)明显比其他分类的TP小。接下来,在图11示出的例子中,说明实际的类别为“倾斜不均”但预测出的类别为“倾斜不均”以外的FN(89/200)。该FN中的、预测出的类别为“合格品”的类别(62/89)超过该FN的一半,明显比在该FN中被判断为其他分类的FN的每一个的数量大。
图12是示出在参考图9说明的步骤S6的处理中输入至机器学习部70的“与特定的输出对应的参考数据”所包含的验证数据的实际的类别、与基于该步骤S6的处理的第二次的验证处理(第一次)的输出(预测出的类别)的对应关系的图。如图11与图12的比较所示出那样,通过将实际的类别以及预测出的类别限定为“合格品”和“倾斜不均”,进一步提高实际的类别和预测出的类别的一致程度。具体来说,在图11示出的例子中,实际的类别和预测出的类别均为“合格品”是156/200,将其换算成预测精度为78.0%。相对于此,在图12示出的例子中,实际的类别和预测出的类别均为“合格品”是180/200,将其换算成预测精度为90.0%。另外,在图11示出的例子中,实际的类别和预测出的类别均为“倾斜不均”是111/200,将其换算成预测精度为55.5%。相对于此,在图12示出的例子中,实际的类别和预测出的类别均为“合格品”是160/200,将其换算成预测精度为80.0%。
图13是示出在参考图9说明的步骤S4的处理中提取的在步骤S7的处理中输入至机器学习部70的验证数据的实际的类别、与基于该步骤S7的处理的第二次的验证处理(第二次)的输出(预测出的类别)的对应关系的图。如图11和图13的比较所示的那样,通过将实际的类别以及预测出的类别限定为“合格品”和“倾斜不均”,进一步提高实际的类别和预测出的类别的一致程度。具体来说,在图11示出的例子中,实际的类别和预测出的类别均为“合格品”是156/200,将其换算成预测精度为78.0%。相对于此,在图13示出的例子中,实际的类别和预测出的类别均为“合格品”是159/177,将其换算成预测精度则为89.8%。另外,在图11示出的例子中,实际的类别和预测出的类别均为“倾斜不均”是111/200,将其换算成预测精度为55.5%。相对于此,在图13示出的例子中,实际的类别和预测出的类别均为“合格品”是140/173,将其换算成预测精度则为80.9%。
图14是示出参考数据223所包含的验证数据的实际的类别、与由参考图9说明的步骤S8的处理得到的最终的输出(预测出的类别)的对应关系的图。图14示出的表为图11示出的表所包含的各种值中的、一部分的值被图13示出的表所包含的值更新了的表。通过该一部分的值的更新,反映了图13示出的值中的、“合格品”的TP(159)、“合格品”的FN(即,实际的类别为“合格品”但预测出的类别为“倾斜不均”的情况)(18)、“倾斜不均”的TP(140)、以及“倾斜不均”的FN(即,实际的类别为“倾斜不均”但预测出的类别为“合格品”的情况)(33)。
如图11和图14的比较所示的那样,由步骤S8的处理得到的最终的输出与第一次的验证处理的输出相比,“合格品”以及“倾斜不均”的预测精度变高。因此,即使以利用了机器学习的预测精度整体来看的情况下,当然由步骤S8的处理得到的最终的输出与第一次的验证处理的输出相比,预测精度变高。
如参考图9~图14说明的那样,在机器学习中应用基于限定性分类处理部62的多阶段处理,由此,进一步提高预测精度、即,进一步提高实际的类别与预测出的类别的一致程度。基于限定性分类处理部62的多阶段处理不仅能够应用于机器学习,还能够应用于利用了机器学习的图像数据的分类判断。以下,参考图15说明基于对利用了机器学习的图像数据的分类判断应用了多阶段处理的机器学习部70的判断处理的流程。此外,利用了机器学习的图像数据的分类判断在参考图9~图14说明的机器学习之后进行。另外,在图10中,用虚线示出了基于图15的判断对象图像数据100的输入的流程。
图15是示出基于对利用了机器学习的图像数据的分类判断应用了多阶段处理的机器学习部70的判断处理的流程的流程图。首先,进行判断对象图像数据100的获取(步骤S11)。具体来说,获取部40从外部的设备获取判断对象图像数据100,并向运算部21输出。
在步骤S11处理后,进行基于图像处理部51的图像处理(步骤S12)。具体来说,如参考图4说明的那样,图像处理部51进行进一步增强判断对象图像数据100所包含的图像数据的图像的对比度的图像处理。
在步骤S12处理后,进行基于机器学习部70的第1阶段的判断处理(步骤S13)。步骤S13的处理为如下的处理:运算部21将判断对象图像数据100所包含的图像数据作为向机器学习部70的输入,得到反映了参考图9说明的机器学习的机器学习部70的输出。即,步骤S13的处理为如下的处理:得到判断对象图像数据100所包含的图像数据的图像由机器学习部70判断为是参考图3说明的8种分类的哪一种的输出。
在步骤S13处理后,限定性分类处理部62提取在第1阶段的判断处理中得到特定的输出(判断结果)的判断对象图像数据100(步骤S14)。在步骤S14的处理中提取的验证数据为在步骤S13的处理中被视为向机器学习部70的输入的判断对象图像数据100所包含的图像数据的一部分或者全部,为表示被判断为参考图3说明的8种分类中的一部分分类(例如,“合格品”或者“倾斜不均”)的输出的图像数据。即,“特定的输出”是指,表示被判断为该一部分分类的输出。
在步骤S14处理后,进行使用了在步骤S14的处理中提取的与特定的输出对应的图像数据的第2阶段的判断处理(步骤S15)。步骤S15的处理是如下的处理:得到在步骤S14的处理中提取的、得到特定的输出(判断结果)的图像数据的图像由机器学习部70判断为参考图3说明的8种分类中的、在步骤S14的处理中与“特定的输出”对应的一部分分类的哪一种的输出。
在步骤S15处理后,进行将在第2阶段的判断处理中得到的输出、以及在第1阶段的判断处理中得到的输出中的不为特定的输出(验证结果)的输出合并作为最终的输出的处理(步骤S16)。在步骤S16的处理中,运算部21综合在步骤S15的处理中得到的输出、以及在步骤S13的处理中得到的输出中的没有成为步骤S14的处理的提取的对象的图像数据作为输入而得到的输出,将综合后的输出作为机器学习部70的最终的输出。
通过经过参考图15说明的处理的流程,与单纯利用机器学习将判断对象图像数据100所包含的图像数据的图像分类的情况相比,与参考图11~图14说明的情况同样地,进一步提高分类的精度。
此外,在参考图4的说明中,作为表示对比度增强前后的灰度值的关系的曲线而例示了曲线L1、L2、L3,但对比度增强前后的灰度值的关系不限于这些。
图16是示出对比度增强前的像素的灰度值与对比度增强后的像素的灰度值的关系的曲线。图像处理部51也可以例如以成为如图16示出的曲线L11、L12、L13的某一曲线那样呈现的对比度增强前后的关系的方式变更图像所包含的多个像素各自的灰度值,由此,进一步增强图像的对比度。
另外,在步骤S12的处理中图像处理部51所进行的图像处理、即,对比度增强不限于与上述的式(1)对应。以下,说明图像处理部51进行的对比度增强更进一步发展的想法,但作为前提,参考图17说明拍摄到“倾斜不均”的显示面板的图像的灰度值的分布、与拍摄到“合格品”的显示面板的图像的灰度值的分布的关系。
图17是示出拍摄到“倾斜不均”的显示面板的图像的灰度值的分布、与拍摄到“合格品”的显示面板的图像的灰度值的分布的关系的图。直方图Hs1是示出拍摄到“倾斜不均”的显示面板的一个图像所包含的像素的灰度值的直方图。包括直方图Hs1,在实施方式的说明中参考的直方图用横轴方向表示图像所包含的像素的灰度值的范围(从0到用灰度值的比特数表示的最大值为止的范围),用纵轴方向表示各灰度值的像素数。直方图Hs2为示出拍摄到“合格品”的显示面板的一个图像所包含的像素的灰度值的直方图。直方图Hs3是示出拍摄到“合格品”的显示面板且为与直方图Hs2的显示面板不同的显示面板的一个图像所包含的像素的灰度值的直方图。此外,图17示出的各直方图是示出在进行基于图像处理部51的图像处理之前的图像的灰度值的直方图。
以图17的直方图Hs2、Hs3所示的那样,拍摄到正在显示白色或者中间色调的纯色图像的“合格品”的显示面板的图像的灰度值的分布显著产生与灰度值的最高频出现度对应的直方图的山部。该直方图的山部所具有的灰度值的波动幅度(山部的最低灰度值与最高灰度值之差)大多情况下大体少于像素的比特数(像素可取的灰度值的最低灰度值与最高灰度值之差)的1成。例如,若像素的比特数为8比特,则灰度值取0~255的值。另一方面,该直方图的山部的灰度值的波动幅度超过25的情况很少。
另一方面,在拍摄到如直方图Hs1那样被分类为“倾斜不均”的显示面板的图像中,明显产生到无法忽视相对于与灰度值的最高频出现度对应的直方图的山部对应的灰度值相对较低的低灰度值带F11所包含的灰度值的像素的数量的程度。此外,在直方图Hs1中,在隔着直方图的山部与低灰度值带F11相反一侧、即,相对于与直方图的山部对应的灰度值相对较高的高灰度值带F12所包含的像素基本没有或者完全没有,但在产生了以比周围相对高的亮度被视觉确认的倾斜不均的显示面板的情况下,产生高灰度值带F12所包含的像素。
此外,直方图Hs2中的低灰度值带F21以及高灰度值带F22以及直方图Hs3中的低灰度值带F31以及高灰度值带F32所包含的像素基本没有或者完全没有。换言之,是指直方图Hs1与直方图Hs2的差异在直方图Hs1中显著存在低灰度值带F11所包含的像素,但在直方图Hs2中低灰度值带F21所包含的像素基本没有或者完全没有。低灰度值带F11、F21、F31以及高灰度值带F12、F22、F32这种“直方图的山脚部”例如以直方图的山部为中心而收敛在像素的比特数的3成以内的灰度值范围内。
在图17中,以表示低灰度值带F11与低灰度值带F21几乎为同一灰度值带为目的,图示了将低灰度值带F11的最低灰度值和低灰度值带F21的最低灰度值连结的虚线F1a、以及将低灰度值带F11的最高灰度值和低灰度值带F21的最高灰度值连结的虚线F1b。另外,以表示高灰度值带F12与高灰度值带F22几乎为同一的灰度值带为目的,图示了将高灰度值带F12的最低灰度值和高灰度值带F22的最低灰度值连结的虚线F2a、以及将高灰度值带F12的最高灰度值和高灰度值带F22的最高灰度值连结的虚线F2b。虚线F1a、F1b、F2a、F2b基本上沿着曲线的纵轴。
在此,若比较直方图Hs2与直方图Hs3,则直方图Hs3与直方图Hs2相比直方图的山部整体上向低灰度值侧偏移。像这样,即使为在分类上同样为被视为“合格品”的显示面板,针对每个显示面板也有灰度值的倾向不同的个体差。在以拍摄到表示这种个体差的多个显示面板的多个图像的对比度增强进行基于式(1)的变更后的灰度值(y)的算出的情况下,有时会由于b的值的不同,而产生难以明确区别在直方图Hs1中有低灰度值带F11所包含的像素与与在直方图Hs3中没有低灰度值带F31所包含的像素的图像。
于是,图像处理部51取代上述式(1),也可以基于以下的式(2)进行对比度增强。若基于式(2)的对比度增强,则与式(1)相比,易于更明确区别是否显著存在上述“直方图的山脚部”所包含的像素。参考图18说明式(1)与式(2)的差异以及式(2)的gain_1、gain_2、Inflection_1、Inflection_2、height_1。
【数学式2】
图18是示出式(1)和式(2)的差异、以及与式(2)对应的曲线与gain_1、gain_2、Inflection_1、Inflection_2、height_1、height_2的关系的图。图18示出的曲线L21为示出基于式(1)的对比度增强前后的灰度值的关系的曲线,为与式(1)对应的曲线。曲线L21对式(1)应用了a=0.05、b=128。另外,曲线L22为表示基于式(2)的对比度增强前后的灰度值的关系的曲线,为与式(2)对应的曲线。
如图18所示,曲线L22具有两个拐点。两个拐点的一方在横轴方向上位于Inflection_1的位置。该两个拐点的另一方在横轴方向上位于Inflection_2的位置。换言之,Inflection_1、Inflection_2的值反映了基于式(2)的对比度增强中的该两个拐点的设定。在此,Inflection_2比Inflection_1大。gain_1表示该两个拐点中一方的斜率的大小。gain_2表示该两个拐点中另一方的斜率的大小。gain_1以及gain_2为与上述a同样的值。height_1表示基于该两个拐点的一方的对比度增强后的灰度值的上限值以及基于该两个拐点的另一方的对比度增强后的灰度值的下限值。此外,基于该两个拐点的一方的对比度增强后的灰度值的下限值为0。另外,基于该两个拐点的另一方的对比度增强后的灰度值的上限值为像素的最高灰度值。Inflection_1,Inflection_2,height_1取像素的灰度值可取的值,通常为0以上的整数。
在图18中,gain_1=0.5、gain_2=0.5、Inflection_1=90、Inflection_2=135、height_1=128。另外,在图8中,示出了height_2=(255-height_1)=127。
图18示出的直方图Hs4为拍摄到被分类为“合格品”的显示面板的图像的直方图。如图18所示,优选在将与Inflection_1的值对应的灰度值设为下限且将与Inflection_2的值对应的灰度值设为上限的灰度值范围内,以使拍摄到被分类为“合格品”的显示面板的图像的直方图的山部成为足够收敛的灰度值范围的方式来设定Inflection_1以及Inflection_2。
图19是示出拍摄到被分类为“合格品”的显示面板的图像、以及对该图像应用图像处理的应用例的图。图19示出的处理前图像Be1为基于图像处理部51的图像处理前的图像。直方图Hs5是示出处理前图像Be1所包含的像素的灰度值的分布的直方图。处理后图像Af11是将处理前图像Be1所包含的像素的灰度值设为对比度增强前的灰度值、并以成为曲线L21所表示的对比度增强前后的关系的方式进行了基于图像处理部51的对比度增强后的图像。处理后图像Af12是将处理前图像Be1所包含的像素的灰度值设为对比度增强前的灰度值、并以成为曲线L31所表示的对比度增强前后的关系的方式进行基于图像处理部51的对比度增强后的图像。曲线L31是与式(2)对应的曲线,gain_1=0.5,gain_2=0.5,Inflection_1=80,Inflection_2=140,height_1=128。
图20是示出拍摄到符合“扫描线不良”以及“信号线不良”双方的显示面板的图像、以及对该图像应用图像处理的应用例的图。图20示出的处理前图像Be2为基于图像处理部51的图像处理前的图像。直方图Hs6是示出处理前图像Be2所包含的像素的灰度值的分布的直方图。处理后图像Af21是将处理前图像Be2所包含的像素的灰度值设为对比度增强前的灰度值、以成为曲线L21所表示的对比度增强前后的关系的方式进行了基于图像处理部51的对比度增强后的图像。处理后图像Af22是将处理前图像Be2所包含的像素的灰度值设为对比度增强前的灰度值、并以成为曲线L41所表示的对比度增强前后的关系的方式进行了基于图像处理部51的对比度增强后的图像。曲线L41为与式(2)对应的曲线,gain_1=0.5,gain_2=0.5,Inflection_1=90,Inflection_2=140,height_1=128。
图20示出的处理后图像Af21整体上会变暗,与对比度增强前的处理前图像Be2相比更难以进行表示扫描线不良的黑色区域BA的确认。另一方面,处理后图像Af22整体上变亮,表示扫描线不良的黑色区域BA的确认更容易。另外,处理后图像Af22为还充分确认表示信号线不良的白色区域WA的状态。另外,如在图19中示出的那样,关于为“合格品”的确认,式(2)也没问题。像这样,通过进行基于式(2)的对比度增强,变得更易于进行基于图像的明暗的“合格品”与“合格品”以外的分类。
此外,在将height_1的值设为与像素的最高灰度值同值的情况下,gain_2以及Inflection_2实质上不发挥作用。即,在该情况下,式(2)实质上与式(1)同样地发挥作用。
图21是示出拍摄到被分类为“倾斜不均”的显示面板的图像、与对该图像应用图像处理的应用例的图。图21示出的处理前图像Be3为基于图像处理部51的图像处理前的图像。直方图Hs7是示出处理前图像Be3所包含的像素的灰度值的分布的直方图。处理后图像Af31是将处理前图像Be3所包含的像素的灰度值设为对比度增强前的灰度值、并以成为曲线L21所表示的对比度增强前后的关系的方式进行基于图像处理部51的对比度增强后的图像。处理后图像Af32是将处理前图像Be3所包含的像素的灰度值设为对比度增强前的灰度值、并以成为曲线L51所表示的对比度增强前后的关系的方式进行基于图像处理部51的对比度增强后的图像。曲线L51为与式(2)对应的曲线,gain_1=1,Inflection_1=100,height_1=255。
图22是示出拍摄到被分类为“白不均”的显示面板的图像、以及对该图像应用图像处理的应用例的图。图22示出的处理前图像Be4为基于图像处理部51的图像处理前的图像。直方图Hs8是示出处理前图像Be4所包含的像素的灰度值的分布的直方图。处理后图像Af41是将处理前图像Be4所包含的像素的灰度值设为对比度增强前的灰度值、并以成为曲线L21所表示的对比度增强前后的关系的方式进行了基于图像处理部51的对比度增强后的图像。处理后图像Af42是将处理前图像Be4所包含的像素的灰度值设为对比度增强前的灰度值、并以成为曲线L61所表示的对比度增强前后的关系的方式进行了基于图像处理部51的对比度增强后的图像。曲线L61为与式(2)对应的曲线,gain_1=0.1,Inflection_1=105,height_1=255。图21以及如图22所示,通过适当设定拐点的位置(Inflection_1)以及斜率(gain_1),能够使不均变得更清晰。
以下,参考图23说明怎样决定式(1)中的b的值以及式(2)中的Inflection_1的值的想法。
图23是示出表示拍摄到显示面板的图像所包含的像素的灰度值的分布的直方图Hs9与拐点的位置(b)的关系的图。此外,直方图Hs9为拍摄到被分类为“倾斜不均”的显示面板的图像的直方图。
图23示出的范围UN为如下的像素的灰度值范围,即,优先从像素的灰度值为更低灰度的像素的数量开始数,像素数少于2000个。在此,将像素的最低灰度值(0)设为原点的范围UN的灰度值的横轴方向的宽度、即,将范围UN的灰度值的最高值设为b的值,由此,能够更恰当地对被导出了直方图(被导出了范围UN)(例如,直方图Hs9)的图像的对比度增强设定采用式(1)的情况下的该曲线的拐点。另外,在对图像的对比度增强采用式(2)的情况下,也可以将范围UN的灰度值的最高值设为Inflection_1的值。另外,通过将这种b或者Inflection_1的决定例程设定至图像处理部51,能够进行基于图像处理部51的对比度增强处理中的拐点的自动设定。
此外,范围UN所包含的像素数少于2000只不过为一例,不限于此。范围UN所包含的像素数优选以相对于拍摄显示面板得到的图像的像素数的比率(例如,15%)来规定。
与式(1)的a、b、式(2)的gain_1、gain_2、Inflection_1、Inflection_2、height_1、范围UN所包含的像素数等各种的参数有关的设定例如包含在设定数据224内。与式(1)、式(2)这种图像处理的算法有关的规则例如包含在图像处理程序222内。
如以上说明的那样,实施方式的方法包括显示装置的检查方法,该显示装置的检查方法利用机器学习,判断拍摄到显示装置的图像显示面的图像(例如,判断对象图像数据100或者参考数据223所包含的图像数据的图像)符合j种(例如,j=8)分类的哪一种。实施方式的方法第1机器学习步骤(例如,步骤S2),在第1机器学习步骤(例如,步骤S2)中,信息处理装置(例如,信息处理装置1)基于事先准备的包括与该j种分类对应的图像的数据在内的训练数据(例如,参考数据223),进行用于判断图像符合该j种分类的哪一种的机器学习。实施方式的方法包括第2机器学习步骤(例如,步骤S5),在该第2机器学习步骤(例如,步骤S5)中,该信息处理装置基于包括与该j种中的k种(例如,k=2)分类对应的图像的数据在内的训练数据(例如,参考数据223中的数据集DS1、DS2),进行用于判断图像符合该k种分类的哪一种的机器学习。j以及k为2以上的自然数。k比j小。由此,针对该j种中的该k种分类,进一步提高图像的分类精度。因此,能够更高精度地将显示装置的图像分类。
另外,k种(例如,k=2)分类中的1种为被视为不产生被认为是显示不良的显示输出的合格品的显示装置的分类。由此,针对包括合格品、和合格品以外的1种类以上的分类在内的k种分类,进一步提高图像的分类精度。因此,例如针对在上述倾斜不均这种、j种(例如,j=8)中与合格品的分类比较困难的分类,也能够提高合格品与合格品以外的分类精度。
另外,在第2机器学习步骤(例如,步骤S5)中利用的训练数据(例如,参考数据223中的数据集DS1、DS2)为在第1机器学习步骤(例如,步骤S2)中利用的训练数据(例如,参考数据223)的一部分。由此,能够共用在该第1机器学习步骤和该第2机器学习步骤中利用的训练数据。
另外,实施方式的方法包括第1检查步骤(例如,步骤S3),在第1检查步骤(例如,步骤S3)中,信息处理装置(例如,信息处理装置1)在第1机器学习步骤(例如,步骤S2)后且第2机器学习步骤(例如,步骤S5)前,判断拍摄到显示装置的图像显示面的图像(例如,参考数据223所包含的验证数据的图像)符合j种(例如,j=8)分类的哪一种。实施方式的方法包括第1提取步骤(例如,步骤S4),在第1提取步骤(例如,步骤S4)中,该信息处理装置从在第1检查步骤中成为判断对象的该图像的数据(例如,参考数据223所包含的验证数据)中提取在该第1检查步骤中被判断为符合k种(例如,k=2)分类的某一种的图像的数据。实施方式的方法包括第2检查步骤(例如,步骤S7),在第2检查步骤(例如,步骤S7)中,该信息处理装置在该第2机器学习步骤后,判断在该第1提取步骤中提取的图像的数据对应该k种分类的哪一种。由此,能够确认在该第2机器学习后再次将在该第1机器学习步骤中被分类为该k种的某一种的图像分类的情况下的分类精度。因此,通过反映该第2检查步骤的分类结果,与仅具有该第1机器学习步骤的情况相比,针对该k种分类,进一步提高图像的分类精度。
另外,实施方式的方法包括第1判断步骤(例如,步骤S13),在第1判断步骤中,信息处理装置(例如,信息处理装置1)判断拍摄到显示装置的图像显示面的图像的数据且与训练数据(例如,参考数据223)不同的图像的数据(例如,判断对象图像数据100)符合j种(例如,j=8)分类的哪一种。实施方式的方法包括第2提取步骤(例如,步骤S14),在第2提取步骤中,从在该第1判断步骤中成为判断对象的该图像的数据中提取在该第1判断步骤中被判断为符合k种(例如,k=2)分类的某一种的图像的数据。实施方式的方法包括第2判断步骤(例如,步骤S15),在该第2判断步骤中,该信息处理装置判断在该第2提取步骤中提取出的图像的数据符合该k种分类的哪一种。由此,针对该j种中的该k种分类,进一步提高图像的分类精度。因此,能够更高精度地将显示装置的图像分类。
另外,实施方式的信息处理装置1为如下的信息处理装置,即,利用机器学习,判断拍摄到显示装置的图像显示面的图像(例如,判断对象图像数据100或者参考数据223所包含的图像数据的图像)符合j种(例如,j=8)分类的哪一种。信息处理装置1具备:存储部(例如,存储部22),其存储事先准备的包括与该j种分类对应的图像的数据在内的训练数据(例如,参考数据223);以及运算部(例如,运算部21),其从该存储部读取该训练数据并进行机器学习。该运算部基于该训练数据,进行用于判断图像符合该j种分类的哪一种的机器学习,基于包括与该j种中的k种(例如,k=2)分类对应的图像的数据在内的该训练数据的一部分(例如,参考数据223中的数据集DS1、DS2),进行用于判断图像符合该k种分类的哪一种的机器学习。j以及k为2以上的自然数。k比j小。由此,针对基于信息处理装置1的图像的分类,针对该j种中的该k种分类,进一步提高图像的分类精度。因此,能够更高精度地将显示装置的图像分类。
而且,实施方式的方法包括拍摄到显示装置的图像显示面的图像(例如,判断对象图像数据100或者参考数据223所包含的图像数据的图像)的对比度增强方法。实施方式的方法包括信息处理装置(例如,信息处理装置1)进行该图像的对比度增强的步骤(例如,步骤S12)。表示该图像所包含的像素的灰度值的对比度增强前的值与对比度增强后的值的关系的曲线(例如,曲线L31等)为具有两个拐点(例如,Inflection_1、Inflection_2)的曲线。由此,在图像的对比度增强中,能够进行用于使由显示不良产生的特征更清晰的更恰当的参数的设定。即,利用两个拐点的设定,能够使由显示不良产生的特征更清晰。
另外,包括两个拐点的一方(例如,Inflection_1)在内的曲线以及包括该两个拐点的另一方(例如,Inflection_2)在内的曲线为S型生长曲线。因此,对比度增强后的图像的灰度值夹着各拐点阶段性上升,得到具有整体上呈3阶段的灰度值的高低的对比度增强后的图像。
另外,两个拐点的一方(例如,Inflection_1)在曲线(例如,曲线L31等)中位于比图像(例如,判断对象图像数据100或者参考数据223所包含的图像数据的图像)所包含的多个像素的最高频灰度值低的灰度值的位置,该两个拐点的另一方(例如,Inflection_2)在该曲线中位于比该图像所包含的多个像素的最高频灰度值高的灰度值的位置。因此,通过对比度增强,能够使比拍摄到合格品的显示装置的像素包含的更多的像素的最高频灰度值低的灰度值的像素以及比该最高频灰度值高的灰度值的像素更清晰。
另外,实施方式的信息处理装置1为如下的信息处理装置,即,能够进行拍摄到显示装置的图像显示面的图像(例如,判断对象图像数据100或者参考数据223所包含的图像数据的图像)的对比度增强。信息处理装置1具备进行对比度增强的图像处理部(例如,图像处理部51)。表示该图像所包含的像素的灰度值的对比度增强前的值与对比度增强后的值的关系的曲线为具有两个拐点(例如,Inflection_1,Inflection_2)的曲线。由此,在图像的对比度增强中,能够提供能够进行用于使由显示不良产生的特征更清晰的更恰当的参数的设定的信息处理装置1。即,通过两个拐点的设定,能够使由显示不良产生的特征更清晰。
此外,在上述实施方式中,j=8,k=2,但只不过为一例,不限于此。j以及k为2以上的自然数、且k比j小即可。必然地,j可以说为3以上。另外,也可以进行多次以j种中的少于j的种类作为对象的第2检查步骤、第2判断步骤。在该情况下,在多次进行的第2检查步骤、第2判断步骤中分别进行从j种限定为不同的k种分类。另外,也可以以使进行多次第2检查步骤(或者第2判断步骤)中的一方以j种中的k种为对象、另一方以j种中的h种类为对象的方式,使进行多次的第2检查步骤、第2判断步骤各自的分类数分别不同。
另外,在上述实施方式中,在第2机器学习步骤中利用的训练数据为第1机器学习步骤中利用的训练数据的一部分,但第1机器学习步骤中利用的训练数据与第2机器学习步骤中利用的训练数据也可以是不同的数据。
另外,在上述实施方式中,判断对象图像数据100以及参考数据223包含使用被称为大型照明检查装置的、一并进行多个显示面板的拍摄的装置而拍摄到的多个图像数据,但这只不过为拍摄了显示装置的图像显示面的图像的数据的一实施例,不限于此。拍摄了显示装置的图像显示面的图像例如也可以为拍摄智能手机的图像显示面的图像等、也可以为拍摄了不是只有显示面板的状态的显示装置的图像显示面的图像。
另外,在上述实施方式中,采用了CNN,但这不过是机器学习算法的具体例,不限于此。也可以取代上述实施方式中的CNN,而采用基于其他机器学习算法的机器学习。
另外,关于从本说明书记载明确得出的、或者本领域技术人员会适当想到由在本实施方式中说明的方式带来的其他作用效果,当然应理解为是由本公开带来的。
附图标记说明
1信息处理装置
21运算部
22存储部
30输出部
40获取部
50处理部
51图像处理部
60判断部
62限定分类处理部
70机器学习部
100判断对象图像数据
221机器学习程序
222图像处理程序
223参考数据
224设定数据
NN神经网络。
Claims (6)
1.一种显示装置的检查方法,利用机器学习判断拍摄显示装置的图像显示面得到的图像符合j种分类的哪一种,所述显示装置的检查方法的特征在于,包括:
第1机器学习步骤,信息处理装置基于事先准备的包括与所述j种分类对应的所述图像的数据在内的训练数据,进行用于判断图像符合所述j种分类的哪一种的机器学习;以及
第2机器学习步骤,所述信息处理装置基于包括与所述j种中的k种分类对应的所述图像的数据在内的训练数据,进行用于判断图像符合所述k种分类的哪一种的机器学习,
j以及k为2以上的自然数,k比j小。
2.根据权利要求1所述的显示装置的检查方法,其特征在于,
所述k种分类中的1种为被视为合格品的显示装置的分类,所述合格品不发生被认为是显示不良的显示输出。
3.根据权利要求1或者2所述的显示装置的检查方法,其特征在于,
在所述第2机器学习步骤中利用的训练数据为在所述第1机器学习步骤中利用的训练数据的一部分。
4.根据权利要求1~3中任一项所述的显示装置的检查方法,其特征在于,包括:
第1检查步骤,所述信息处理装置在所述第1机器学习步骤后且所述第2机器学习步骤前,进行所述图像符合所述j种分类的哪一种的判断;
第1提取步骤,所述信息处理装置从在所述第1检查步骤中成为判断对象的所述图像的数据中,提取在所述第1检查步骤中被判断为符合所述k种分类的某一种的所述图像的数据;以及
第2检查步骤,所述信息处理装置在所述第2机器学习步骤后,使用在所述第1提取步骤中提取的数据进行所述图像符合所述k种分类的哪一种的判断。
5.根据权利要求1~4中任一项所述的显示装置的检查方法,其特征在于,包括:
第1判断步骤,所述信息处理装置判断与所述训练数据不同的所述图像的数据符合所述j种分类的哪一种;
第2提取步骤,所述信息处理装置从在所述第1判断步骤中成为判断对象的所述图像的数据中提取在所述第1判断步骤中被判断为符合所述k种分类的某一种的所述图像的数据;以及
第2判断步骤,所述信息处理装置判断在所述第2提取步骤中提取的所述图像的数据符合所述k种分类的哪一种。
6.一种信息处理装置,其利用机器学习判断拍摄显示装置的图像显示面得到的图像符合j种分类的哪一种,所述信息处理装置的特征在于,
所述信息处理装置具备:
存储部,其存储事先准备的包括与所述j种分类对应的所述图像的数据在内的训练数据;以及
运算部,其从所述存储部读取所述训练数据进行机器学习,
所述运算部基于所述训练数据,进行用于判断图像符合所述j种分类的哪一种的机器学习,
所述运算部基于包括与所述j种中的k种分类对应的所述图像的数据在内的所述训练数据的一部分,进行用于判断图像符合所述k种分类的哪一种的机器学习,
j以及k为2以上的自然数,k比j小。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021-191229 | 2021-11-25 | ||
JP2021191229 | 2021-11-25 | ||
PCT/JP2022/033674 WO2023095416A1 (ja) | 2021-11-25 | 2022-09-08 | 表示装置の検査方法及び情報処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118265904A true CN118265904A (zh) | 2024-06-28 |
Family
ID=86539157
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280076274.1A Pending CN118265904A (zh) | 2021-11-25 | 2022-09-08 | 显示装置的检查方法以及信息处理装置 |
Country Status (4)
Country | Link |
---|---|
JP (1) | JPWO2023095416A1 (zh) |
KR (1) | KR20240093896A (zh) |
CN (1) | CN118265904A (zh) |
WO (1) | WO2023095416A1 (zh) |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5022174B2 (ja) * | 2007-10-22 | 2012-09-12 | 株式会社日立製作所 | 欠陥分類方法及びその装置 |
JP2009180583A (ja) | 2008-01-30 | 2009-08-13 | Fujifilm Corp | ディスプレイの輝度ムラ評価方法および装置 |
JP6113024B2 (ja) * | 2013-08-19 | 2017-04-12 | 株式会社Screenホールディングス | 分類器取得方法、欠陥分類方法、欠陥分類装置およびプログラム |
KR101813223B1 (ko) * | 2016-05-11 | 2018-01-30 | 한국과학기술원 | 영상 표면의 결함을 검출 및 분류하는 방법 및 장치 |
CN108846841A (zh) * | 2018-07-02 | 2018-11-20 | 北京百度网讯科技有限公司 | 显示屏质量检测方法、装置、电子设备及存储介质 |
JP7028322B2 (ja) * | 2018-07-09 | 2022-03-02 | 富士通株式会社 | 情報処理装置、情報処理方法及び情報処理プログラム |
JP7070334B2 (ja) * | 2018-10-30 | 2022-05-18 | オムロン株式会社 | 画像分類装置、画像検査装置、及び画像分類方法 |
JP6630912B1 (ja) * | 2019-01-14 | 2020-01-15 | 株式会社デンケン | 検査装置及び検査方法 |
JP2021033564A (ja) * | 2019-08-22 | 2021-03-01 | 株式会社Ye Digital | 画像分類方法、画像分類装置および画像分類プログラム |
CN111044525B (zh) * | 2019-12-30 | 2021-10-29 | 歌尔股份有限公司 | 一种产品缺陷检测方法、装置与系统 |
JP7423368B2 (ja) * | 2020-03-23 | 2024-01-29 | イビデン株式会社 | 不良検出装置及び不良検出方法 |
-
2022
- 2022-09-08 WO PCT/JP2022/033674 patent/WO2023095416A1/ja active Application Filing
- 2022-09-08 CN CN202280076274.1A patent/CN118265904A/zh active Pending
- 2022-09-08 KR KR1020247017192A patent/KR20240093896A/ko unknown
- 2022-09-08 JP JP2023563524A patent/JPWO2023095416A1/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
JPWO2023095416A1 (zh) | 2023-06-01 |
KR20240093896A (ko) | 2024-06-24 |
WO2023095416A1 (ja) | 2023-06-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110274908B (zh) | 缺陷检查装置、缺陷检查方法以及计算机可读记录介质 | |
CN110060237B (zh) | 一种故障检测方法、装置、设备及系统 | |
JPH10506733A (ja) | テキスト包含イメージにおける背景からの前景の分離方法及び装置 | |
JP2000149018A (ja) | 画像処理方法、画像処理装置及び記録媒体 | |
CN113469921B (zh) | 图像缺陷修复方法、系统、计算机设备及存储介质 | |
CA2502529A1 (en) | Model of documents and method for automatically classifying a document | |
CN114581723A (zh) | 缺陷分类方法、装置、存储介质、设备及计算机程序产品 | |
CN113435407A (zh) | 一种输电系统的小目标识别方法及装置 | |
CN111242066A (zh) | 大尺寸图像目标检测方法、装置及计算机可读存储介质 | |
CN110188693B (zh) | 改进的复杂环境车辆特征提取和停车判别方法 | |
CN113657444A (zh) | 一种界面元素识别方法及系统 | |
CN113016023B (zh) | 信息处理方法以及计算机可读的非暂时性记录介质 | |
CN115661156B (zh) | 图像生成方法、装置、存储介质、设备及计算机程序产品 | |
CN118265904A (zh) | 显示装置的检查方法以及信息处理装置 | |
CN115187593B (zh) | 屏幕缺陷检测方法和装置 | |
WO2023095417A1 (ja) | 画像のコントラスト強調方法及び情報処理装置 | |
US20220157050A1 (en) | Image recognition device, image recognition system, image recognition method, and non-transitry computer-readable recording medium | |
CN110672631B (zh) | 面板缺陷拍照方法和面板缺陷拍照装置 | |
RU2346331C1 (ru) | Способ автоматического определения правильности отображения информации на жидкокристаллическом индикаторе | |
CN114118114A (zh) | 一种图像检测方法、装置及其存储介质 | |
JP5098488B2 (ja) | 画像処理装置 | |
CN111476243A (zh) | 影像文字识别方法及装置 | |
CN111242047A (zh) | 图像处理方法和装置、电子设备及计算机可读存储介质 | |
CN114092300B (zh) | 水印消除方法、装置和计算机可读存储介质 | |
CN112567229B (zh) | 缺陷检查装置、缺陷检查方法及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |