CN110383050A - 检查系统和检查方法 - Google Patents
检查系统和检查方法 Download PDFInfo
- Publication number
- CN110383050A CN110383050A CN201880015374.7A CN201880015374A CN110383050A CN 110383050 A CN110383050 A CN 110383050A CN 201880015374 A CN201880015374 A CN 201880015374A CN 110383050 A CN110383050 A CN 110383050A
- Authority
- CN
- China
- Prior art keywords
- candy strip
- image data
- temporally correlated
- signal
- correlated image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007689 inspection Methods 0.000 title claims abstract description 40
- 238000000034 method Methods 0.000 title claims description 24
- 235000009508 confectionery Nutrition 0.000 claims abstract description 280
- 230000002596 correlated effect Effects 0.000 claims abstract description 188
- 230000000875 corresponding effect Effects 0.000 claims abstract description 80
- 238000001514 detection method Methods 0.000 claims abstract description 56
- 238000003384 imaging method Methods 0.000 claims abstract description 37
- 238000005286 illumination Methods 0.000 claims abstract description 24
- 238000004519 manufacturing process Methods 0.000 claims abstract description 10
- 230000008859 change Effects 0.000 claims description 50
- 230000000737 periodic effect Effects 0.000 claims description 9
- 241000208340 Araliaceae Species 0.000 claims description 7
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 claims description 7
- 235000003140 Panax quinquefolius Nutrition 0.000 claims description 7
- 235000008434 ginseng Nutrition 0.000 claims description 7
- 230000001419 dependent effect Effects 0.000 claims description 5
- 230000036962 time dependent Effects 0.000 claims description 5
- 238000012545 processing Methods 0.000 description 35
- 230000002159 abnormal effect Effects 0.000 description 34
- 238000009826 distribution Methods 0.000 description 25
- 230000005856 abnormality Effects 0.000 description 19
- 230000007547 defect Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 13
- 230000009471 action Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000001360 synchronised effect Effects 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 230000001678 irradiating effect Effects 0.000 description 4
- 238000003860 storage Methods 0.000 description 3
- 241001269238 Data Species 0.000 description 2
- 238000009792 diffusion process Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- YNPNZTXNASCQKK-UHFFFAOYSA-N phenanthrene Chemical compound C1=CC=C2C3=CC=CC=C3C=CC2=C1 YNPNZTXNASCQKK-UHFFFAOYSA-N 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000010521 absorption reaction Methods 0.000 description 1
- 229910052934 alunite Inorganic materials 0.000 description 1
- 239000010424 alunite Substances 0.000 description 1
- 238000013016 damping Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000002161 passivation Methods 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- KPZTWMNLAFDTGF-UHFFFAOYSA-D trialuminum;potassium;hexahydroxide;disulfate Chemical compound [OH-].[OH-].[OH-].[OH-].[OH-].[OH-].[Al+3].[Al+3].[Al+3].[K+].[O-]S([O-])(=O)=O.[O-]S([O-])(=O)=O KPZTWMNLAFDTGF-UHFFFAOYSA-D 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8806—Specially adapted optical and illumination features
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/30—Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/30—Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces
- G01B11/306—Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces for measuring evenness
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8806—Specially adapted optical and illumination features
- G01N2021/8829—Shadow projection or structured background, e.g. for deflectometry
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Pathology (AREA)
- Immunology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Engineering & Computer Science (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
实施方式的检查系统具有:照明部,其以如下方式依次对多个条纹图案进行切换而输出,该方式是,在使第1条纹图案移动1个周期的量之后,无缝地使第2条纹图案移动1个周期的量;第1信号输出部,其向照明部输出触发多个条纹图案的输出开始的第1信号;第2信号输出部,其向照明部输出触发多个条纹图案的切换的第2信号;图像数据取得部,其通过在基于第1信号的时刻开始使从图像传感器输出的帧重叠,而取得时间相关图像数据;图像生成部,其根据时间相关图像数据生成仅与第1条纹图案对应的第1时间相关图像和仅与第2条纹图案对应的第2时间相关图像;以及异常检测部,其根据第1时间相关图像和第2时间相关图像,对检查对象面的异常进行检测。
Description
技术领域
本发明的实施方式涉及检查系统和检查方法。
背景技术
以往,提出有如下技术:向被检查体照射条纹图案等呈周期性变化的光,通过对该来自该被检查体的表面的反射光进行拍摄,不仅取得光的强度,还取得包含与光的时间变化有关的信息的时间相关图像。这样的时间相关图像例如用于对被检查体的异常进行检测。
现有技术文献
专利文献
专利文献1:日本特开2015-197345号公报
发明内容
发明要解决的课题
在使用上述那样的时间相关图像的异常检测中,为了更精确地对异常情况进行检测,有时需要使用多个时间相关图像来进行检查,该多个时间相关图像通过使多个种类的条纹图案、例如沿相互垂直的两个方向延伸的两种条纹图案分别进行移动而得到。
但是,以往,为了得到分别与两种条纹图案对应的时间相关图像,通常是在仅连续输出一方的条纹图案并进行相关运算(帧的重叠)之后,暂时停止该一方的条纹图案的输出,然后再读取另一方的条纹图案,仅连续输出该另一方的条纹图案并进行相关运算。因此,在以往,条纹图案的切换要花费时间,从而相应地检查所需要的节拍时间(循环时间)变得比较长。
因此,期望缩短检查所需要的节拍时间(循环时间)。
用于解决课题的手段
实施方式的检查系统具有:照明部,其通过以如下方式依次对多个条纹图案进行切换而输出从而对被检查体赋予光的强度的周期性的时间变化和空间变化,该方式是,在使沿第1方向延伸的第1条纹图案沿与第1方向交叉的第2方向移动1个周期的量之后,无缝地使沿第2方向延伸的第2条纹图案沿第1方向移动1个周期的量;第1信号输出部,其向照明部输出触发多个条纹图案的输出开始的第1信号;第2信号输出部,其向照明部输出触发多个条纹图案的切换的第2信号;图像传感器,其用于时间相关照相机或进行与该时间相关照相机等同的动作的摄像系统;图像数据取得部,其通过在基于第1信号的时刻开始使从图像传感器输出的帧重叠,而取得对被照明部照射的被检查体的检查对象面进行拍摄而得到的时间相关图像数据;图像生成部,其根据时间相关图像数据,生成仅与第1条纹图案对应的第1时间相关图像和仅与第2条纹图案对应的第2时间相关图像;以及异常检测部,其根据第1时间相关图像和第2时间相关图像,对检查对象面的异常进行检测。
附图说明
图1是示出第1实施方式的检查系统的结构的例示性的框图。
图2是示出第1实施方式的时间相关照相机的结构的例示性的框图。
图3是示意性地表示在第1实施方式的时间相关照相机中按照时间序列顺序积累的帧的例示性的图。
图4是示出第1实施方式的照明装置所照射的条纹图案的一例的例示性的图。
图5是示出通过第1实施方式的时间相关照相机对被检查体异常进行检测的第1检测例的例示性的图。
图6是表示在第1实施方式中,在存在图5所示的异常的情况下,根据该异常而变化的光的振幅的例子的例示性的图。
图7是示出通过第1实施方式的时间相关照相机对被检查体异常进行检测的第2检测例的例示性的图。
图8是示出通过第1实施方式的时间相关照相机对被检查体异常进行检测的第3检测例的例示性的图。
图9是示出第1实施方式的照明控制部向照明装置输出的条纹图案的一例的例示性的图。
图10是示出表示经由第1实施方式的屏幕之后的条纹图案的波的形状的一例的例示性的图。
图11是示出通过第1实施方式的异常检测部基于振幅进行异常检测处理的顺序的一例的例示性的流程图。
图12是示出通过第1实施方式的异常检测部基于相位进行异常检测处理的顺序的一例的例示性的流程图。
图13是示出通过第1实施方式的异常检测部基于振幅和强度进行异常检测处理的顺序的一例的例示性的流程图。
图14是示出第1实施方式的照明装置照射沿异常(缺陷)的延伸方向的条纹图案的状态的例示性的图。
图15是示出在第1实施方式中使图14的条纹图案沿y方向变化(移动)的情况下的、异常(缺陷)与条纹图案的关系的例示性的图。
图16是示出第1实施方式的照明装置所执行的条纹图案的切换的一例的例示性的图。
图17是示出第1实施方式的时间相关照相机和照明装置的动作时刻的一例的例示性的时序图。
图18是示出在第1实施方式中生成的第1时间相关图像的具体例的例示性的图。
图19是示出在第1实施方式中与图18的第1时间相关图像一同生成的第2时间相关图像的具体例的例示性的图。
图20是示出通过第1实施方式的检查系统进行的被检查体的检查处理的顺序的一例的例示型的流程图。
图21是示出第2实施方式的时间相关照相机的结构的例示性的框图。
图22是示出第2实施方式的时间相关照相机和照明装置的动作时刻的一例的例示性的时序图。
图23是示出第3实施方式的时间相关照相机的结构的例示性的框图。
图24是示出第3实施方式的时间相关照相机和照明装置的动作时刻的一例的例示性的时序图。
图25是示出从第3实施方式的时间相关照相机输出的第5时间相关图像数据的具体例的例示性的图。
图26是示出从第3实施方式的时间相关照相机输出的第6时间相关图像数据的具体例的例示性的图。
图27是示出在第3实施方式中根据图25和图26的数据而生成的第1时间相关图像的具体例的例示性的图。
图28是示出在第3实施方式中与图27的第1时间相关图像一同生成的第2时间相关图像的具体例的例示性的图。
具体实施方式
<第1实施方式>
以下,对第1实施方式的检查系统进行说明。第1实施方式的检查系统具有用于对被检查体进行检查的各种结构。图1是示出第1实施方式的检查系统的结构的例示性的框图。如图1所示,第1实施方式的检查系统具有PC100、时间相关照相机110、照明装置120、屏幕130以及臂140。
臂140用于对被检查体150进行固定,根据来自PC100的控制使能够由时间相关照相机110拍摄到的被检查体150的表面的位置和朝向变化。
照明装置120是向被检查体150照射光的装置,能够根据由PC100等指定的照明图案(后述的条纹图案等)按照区域单位对要照射的光的强度进行控制。此外,照明装置120能够按照周期性的时间变化对该区域单位的光的强度进行控制。换言之,照明装置120能够提供光强度的周期性时间变化和空间变化。另外,后文会对具体的光强度的控制方法进行说明。
屏幕130在使从照明装置120输出的光扩散之后,对被检查体150平面式地照射光。实施方式中的屏幕130将从照明装置120输入的被赋予了周期性时间变化和空间变化的光平面式地向被检查体150照射。另外,在照明装置120与屏幕130之间也可以设置会聚用的菲涅耳透镜等光学类部件(未图示)。
另外,在第1实施方式中,对通过组合照明装置120和屏幕130来构成提供光强度的周期性的时间变化和空间变化的平面式照明部的例子进行说明,但该照明部不限于这样的组合。例如也可以通过将LED平面式地进行配置或配置大型监视器等来构成照明部。
图2是示出第1实施方式的时间相关照相机110的结构的例示性的框图。如图2所示,时间相关照相机110具有光学系统210、图像传感器220、数据缓冲器230、控制部240、第1信号输出部251、第2信号输出部252以及参照信号输出部260。
光学系统210包含摄像透镜等,供来自位于时间相关照相机110的外部的被摄体(包含被检查体150在内)的光束透过,使由该光束形成的被摄体的光学像成像。
图像传感器220是能够将经由光学系统210入射的光的强弱作为光强度信号而按照每个像素高速地进行输出的传感器。
检查系统的照明装置120对被摄体(包含被检查体150在内)照射光,图像传感器220接收来自该被摄体的反射光,第1实施方式的光强度信号就是该图像传感器220所接收到的反射光。
图像传感器220例如是与以往的传感器相比能够更高速地进行读取的传感器,采用像素沿行方向(x方向)和列方向(y方向)这两种方向排列而成的二维平面状的结构。而且,将图像传感器220的各像素设为像素P(1,1),……,P(i,j),……,P(X,Y)(另外,将第1实施方式的图像尺寸设为X×Y。)。另外,不限制图像传感器220的读取速度,也可以与以往的传感器相同。
图像传感器220接收透过光学系统210的来自被摄体(包含被检查体150在内)的光束,并进行光电转换。由此,图像传感器220生成由表示从被摄体反射的光的强弱的光强度信号(摄像信号)构成的二维平面状的帧,并向控制部240输出。第1实施方式的图像传感器220按照能够读取的每一个单位时间输出该二维平面状的帧。
第1实施方式的控制部240例如包含CPU、ROM以及RAM等硬件结构。CPU通过执行存储于ROM的程序而实现转送部241、读取部242、强度图像用重叠部243、相关图像用重叠部244以及图像输出部249。相关图像用重叠部244包含第1乘法器245、第1相关图像用重叠部246、第2乘法器247以及第2相关图像用重叠部248。另外,第1实施方式不限于通过CPU和程序(即,硬件与软件)配合来实现功能的结构。在第1实施方式中,也可以仅通过FPGA或ASIC等硬件来实现上述功能结构。
转送部241将从图像传感器220输出的由光强度信号构成的帧按照时间序列顺序蓄积在数据缓冲器230中。
数据缓冲器230将从图像传感器220输出的帧按照时间序列顺序积累。
图3是示意性地表示在第1实施方式的时间相关照相机110中按照时间序列顺序积累的帧的例示性的图。如图3所示,在第1实施方式的数据缓冲器230中,由与每个时刻t(t=t0,t1,t2,……,tn)对应的多个光强度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)的组合构成的多个帧Fk(k=1,2,……,n)按照时间序列顺序积累。另外,在时刻t生成的一个帧(图像)由光强度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)构成。另外,光强度信号也称为摄像信号。
构成帧Fk(k=1,2,……,n)的各像素P(1,1),……,P(i,j),……,P(X,Y)与第1实施方式的光强度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)对应。
从图像传感器220输出的帧仅由光强度信号构成,换言之,可以考虑黑白的图像数据。另外,在第1实施方式中,考虑分辨率、灵敏度以及成本等,而对图像传感器220生成黑白图像数据的例子进行说明。因此,图像传感器220不限于用于黑白的图像传感器,也可以采用用于彩色的图像传感器。
返回图2,第1实施方式的读取部242从数据缓冲器230以帧为单位按照时间序列依次读取光强度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t),将读取的数据向强度图像用重叠部243和相关图像用重叠部244输出。另外,在后文会对第1实施方式的读取部242开始读取的时刻进行详细说明,因此这里省略说明。
第1实施方式的时间相关照相机110针对每个读取部242的输出目的地而生成(输出)图像数据。即,时间相间照相机110大致输出与两个输出目的地(强度图像用重叠部243和相关图像用重叠部244)对应的两种图像数据。
更具体而言,第1实施方式的时间相关照相机110输出由强度图像用重叠部243生成的强度图像数据和由相关图像用重叠部244生成的时间相关图像数据作为两种图像数据。这里,在第1实施方式中,在由相关图像用重叠部244生成的时间相关图像数据中存在通过第1乘法器245与第1相关图像用重叠部246的组合而生成的时间相关图像数据和通过第2乘法器247与第2相关图像用重叠部248的组合而生成的时间相关图像数据这两种时间相关图像数据。因此,在第1实施方式中,生成强度图像数据以及两种时间相关图像数据共计三种图像数据。另外,第1实施方式的技术不限制于生成三种图像数据的情况,也考虑不生成强度图像数据的情况和生成一种或三种以上的时间相关图像数据的情况。
像上述那样,第1实施方式的图像传感器220将由光强度信号构成的帧在每个能够读取的单位时间进行输出。因此,为了生成通常的图像数据,需要与拍摄所需要的曝光时间的量对应的光强度信号。因此,在第1实施方式中,强度图像用重叠部243使与拍摄所需要的曝光时间的量对应的多个帧进行重叠,生成(取得)强度图像数据。另外,能够从以下所示的数学式(1)推导出将强度图像数据图像化后的(强度图像)的各像素值(表示光的强度的值)G(x,y)。这里,曝光时间是t0与tn的时间差。
【数学式1】
由此,与以往的照相机的拍摄相同,能够生成(取得)拍摄了被摄体(包含被检查体150)的强度图像数据。强度图像用重叠部243将生成的强度图像数据向图像输出部249输出。
时间相关图像数据是示出与时间变化对应的光的强弱的变化的图像数据。在第1实施方式中,每当读取部242读取帧时,第1乘法器245和第2乘法器247将表示时间变化的参照信号与该帧所包含的光强度信号相乘,从而生成(取得)由作为参照信号与光强度信号的相乘结果的时间相关值构成的时间相关值帧。然后,第1相关图像用重叠部246和第2相关图像用重叠部28通过将由第1乘法器245和第2乘法器247生成的多个时间相关值帧进行重叠,而生成(取得)时间相关图像数据。
另外,为了根据时间相关图像数据对被检查体150的异常进行检测,需要使向图像传感器220输入的光强度信号的变化与参照信号的值的变化同步。针对这一点,第1实施方式的照明装置120像上述那样,利用屏幕130进行平面式的光的照射,该平面式的光的照射提供了光的强度的周期性的时间变化和空间变化。因此,在第1实施方式中,像以下说明的那样,使用值对应着由照明装置120提供的光的强度的变化而周期性地变化的信号。
这里,在第1实施方式中,生成两种时间相关图像数据。像上述那样,参照信号只要是表示时间变化的信号即可,但在第1实施方式中,作为一例,使用与复数正弦波e-jωt对应的参照信号。在该复数正弦波e-jωt中,e是自然常数,j是虚数单位,ω是角频率,t表示时刻。在第1实施方式中,将角频率ω设定为,使得表示参照信号的复数正弦波e-jωt与上述的曝光时间(即,为了生成强度图像数据和时间相关图像数据所需要的时间)的1个周期相关。由照明装置120和屏幕130等照明部形成的平面的动态光的照射强度在被检查体150的表面(反射面)的各位置处,按照第1周期(时间周期)被赋予基于时间的变化,并且沿(沿着)表面的至少一个方向按照第2周期(空间周期)被赋予空间上的增减分布。该面性的光在被表面反射时,根据该表面的规格(法线矢量的分布等)而被复数调变。时间相关照相机110接收在表面被复数调变后的光,使用第1周期的参照信号进行垂直检波(垂直解调),从而取得作为复数信号的时间相关图像数据。通过这样的基于作为复数的时间相关图像数据的调制解调,能够对与表面的法线矢量的分布对应的特征进行检测。
复数正弦波e-jωt能够表示为e-jωt=cosωt-j·sinωt。因此,能够根据以下所示的公式(2)导出时间相关图像数据的各像素值C(x,y)。
【数学式2】
在第1实施方式中,生成两种由数学式(2)表示的时间相关图像数据,该两种时间相关图像数据分别由表示实部的像素值C1(x,y)和表示虚部的像素值C2(x,y)生成。
第1实施方式的参照信号输出部260分别对第1乘法器245和第2乘法器247输出不同的参照信号。例如,参照信号输出部260将与复数正弦波e-jωt的实部对应的参照信号cosωt向第1乘法器245输出,将与复数正弦波e-jωt的虚部对应的参照信号sinωt向第2乘法器247输出。另外,这里,对参照信号输出部260输出被表示为互为希尔伯特变换对的正弦波和余弦波的时间函数的两种参照信号的例子进行说明,但参照信号只要是像时间函数那样的随时间变化而变化的信号即可,可以采用任意信号。
第1乘法器245在每次从读取部242被输入帧时,将从参照信号输出部260输入的复数正弦波e-jωt的实部cosωt与该帧的光强度信号相乘。
然后,针对拍摄所需要的曝光时间量的多个帧,第1相关图像用重叠部246进行将第1乘法器245的乘法运算结果按照每个像素进行重叠的处理。由此,根据以下的数学式(3)导出两种时间相关图像数据中的一方的各像素值C1(x,y)。
【数学式3】
另一方面,第2乘法器247在每次从读取部242被输入帧时,将从参照信号输出部260输入的复数正弦波e-jωt的虚部sinωt与该帧的光强度信号相乘。
然后,针对与拍摄所需要的曝光时间量对应的多个帧,第2相关图像用重叠部248进行将第2乘法器247的乘法运算结果按照每个像素毎进行重叠的处理。由此,根据以下的数学式(4)导出两种时间相关图像数据中的另一方的各像素值C2(x,y)。
【数学式4】
通过上述的处理,能够生成两种时间相关图像数据,换言之,能够生成具有两个自由度的时间相关图像数据。
另外,像上述的那样,第1实施方式不限制参照信号的种类。另外,在第1实施方式中,作为一例,对生成与复数正弦波e-jωt的实部和虚部对应的两种时间相关图像数据的例子进行说明,但也可以生成与光的振幅和光的相位对应的两种时间相关图像数据。
另外,第1实施方式的时间相关照相机110能够生成多个系统的时间相关图像数据。因此,根据第1实施方式的时间相关照相机110,例如在照射由多种宽度的条纹组合的光的情况下,能够按照每个条纹的宽度生成多个系统的上述的与实部和虚部对应的两种时间相关图像数据。在该情况下,时间相关照相机110需要具有多个系统的由两个乘法器和两个相关图像用重叠部构成的组合,参照信号输出部260需要输出适合每个系统的角频率ω的参照信号。
在图2所示的例子中,图像输出部249向PC100(参照图1)输出强度图像数据和两种时间相关图像数据。然后,PC100使用由时间相关图像数据和强度图像数据图像化而成的图像(时间相关图像和强度图像),对被检查体150的异常进行检测。这样,在第1实施方式中,为了对被检查体150的异常进行检测,需要对被检查体150照射光,并且该光被赋予了光强度的(周期性的)时间变化和空间变化。
作为一例,第1实施方式的照明装置120照射出高速移动的条纹图案。图4是示出第1实施方式的照明装置120所照射的条纹图案的一例的例示性的图。在图4所示的例子中,采用使条纹图案沿x方向滚动(移动)的例子。白色区域是与条纹对应的亮区域,黑色区域是与条纹与条纹之间对应的间隔区域(暗区域)。
在第1实施方式中,使照明装置120所照射的条纹图案在时间相关照相机110对强度图像数据和时间相关图像数据进行拍摄所需要的曝光时间内,移动1个周期的量。由此,照明装置120根据条纹图案的空间性的移动向被检查体150赋予了光强度的周期性的时间变化。在第1实施方式中,图4的条纹图案移动1个周期的量的时间与曝光时间对应,因此在由时间相关图像数据图像化而成的图像(时间相关图像)的各像素中,至少含有条纹图案的1个周期的量的光强度信号的信息。
如图4所示,在第1实施方式中,对照明装置120照射基于矩形波的条纹图案的例子进行说明,但也可以使用矩形波以外的波形。在第1实施方式中,照明装置120利用屏幕130照射光,从而能够使矩形波的明暗的边界区域模糊。
在第1实施方式中,将照明装置120所照射的条纹图案表示为A(1+cos(ωt+kx))。即,在条纹图案中反复(周期性)地包含多个条纹。另外,向被检查体150照射的光的强度可以在0~2A之间进行调整,设光的相位为kx。k是条纹的波数。x是相位变化的方向。
通过上述的条纹图案的公式,能够将照明装置120照射光时的帧的各像素的光强度信号f(x,y,t)的基本频率成分按照以下的数学式(5)示出。如数学式(5)所示,在x方向上条纹的明暗发生变化。
f(x,y,t)=A(1+cos(ωt+kx))
=A+A/2{ej(ωt+kx)+e-j(ωt+kx)}…(5)
如数学式(5)所示,可以将照明装置120所照射的条纹图案的强度信号考虑为复数。
而且,来自该照明装置120的光从被摄体(包含被检查体150在内)反射而向图像传感器220输入。
因此,向图像传感器220输入的光强度信号G(x,y,t)能够视作与照明装置120照射光时的帧的各像素的光强度信号f(x,y,t)相同。因此,如果将数学式(5)代入到用于导出强度图像数据的数学式(1)中,则能够导出数学式(6)。另外,将相位设为kx。
【数学式5】
根据数学式(6)能够确认,在由强度图像数据图像化而成的图像(强度图像)的各像素中,被输入了照明装置120所输出的光的强度的中间值A与曝光时间T相乘而得的值。此外,如果将数学式(5)代入到用于导出时间相关图像数据的数学式(2)中,则能够导出数学式(7)。另外,将AT/2设为振幅,将kx设为相位。
【数学式6】
由此,能够将数学式(7)所示的由复数表示的时间相关图像数据置换为上述的两种时间相关图像数据。即,在上述的由实部和虚部构成的时间相关图像数据中包含向被检查体150照射的光的强度变化中的相位变化和振幅变化。换言之,第1实施方式的PC100能够根据两种时间相关图像数据对从照明装置120照射的光的相位变化和光的振幅变化进行检测。因此,第1实施方式的PC100根据时间相关图像数据和强度图像数据生成表示每个像素包含的光的振幅变化的振幅图像数据、和表示每个像素包含的光的相位变化的相位图像数据。
而且,第1实施方式的PC100根据由生成的振幅图像数据和相位图像数据图像化而成的图像(振幅图像和相位图像),通过图像处理而对被检查体150的异常进行检测。
另外,在包含被检查体150在内的通常的被检查体的表面形状产生基于凹凸的异常的情况下,会在该被检查体的表面的法线矢量的分布中产生与异常对应的变化。另外,当在检查对象的表面产生了光被吸收那样的异常的情况下,被反射的光的强度会产生变化。对于法线矢量的分布的变化,可以检测光的相位变化和振幅变化中的至少任意1个。因此,在第1实施方式中,使用时间相关图像数据和强度图像数据对与法线矢量的分布的变化对应的光的相位变化和振幅变化中的至少任意1个进行检测。由此,在第1实施方式中,能够对被检查体的表面形状的异常进行检测。以下,对第1实施方式中的被检查体的异常、与法线矢量以及光的相位变化/振幅变化之间的关系进行说明。
图5是示出通过第1实施方式的时间相关照相机110对被检查体的异常进行检测的第1检测例的图。在图5所示的例子中,是在被检查体500存在突形状的异常501的状況。在该状況下,能够确认,在异常501的点502的附近区域,法线矢量521、522、523朝向不同的方向。该法线矢量521、522、523朝向不同的方向使得从异常501反射的光产生扩散(例如,光511、512、513),从而使时间相关照相机110的图像传感器220的任意的像素531中的条纹图案的宽度503变宽。
图6是示出当在第1实施方式中存在图5所示的异常501的情况下,与该异常501对应着变化的光的振幅的例子的图。在图6所示的例子中,光的振幅被分成实部(Re)和虚部(Im)而表示在二维平面上。另外,在图6中示出与图5的光511、512、513对应的光的振幅611、612、613。光的振幅611、612、613相互抵消,然后,振幅621的光入射到图像传感器220的任意的像素531中。
因此,在图6所示的状况下,能够确认在拍摄到被检查体500的异常501的区域中振幅较小。换言之,在示出振幅变化的振幅图像中存在比周围暗的区域的情况下,能够推测为在该区域中产生了光彼此之间的振幅的抵消,因此能够推测在被检查体500的与该区域对应的位置产生了异常501。
另外,第1实施方式的检查系统不限于对像图5的异常501那样的倾斜度急剧变化的情况进行检测,还能够对平缓变化的异常进行检测。图7是示出通过第1实施方式的时间相关照相机110对被检查体的异常进行检测的第2检测例的图。通常,在被检查体正常的情况下,该被检查体的表面是平面(换言之,法线彼此平行)。但是,在图7所示的例子中,是在被检查体700产生平缓的坡度701的状況。在像这样的状况下,坡度701上的法线矢量721、722、723也同样平缓地变化,向图像传感器220输入的光711、712、713一点一点地偏移。这里,在图7所示的例子中,由于是平缓的坡度701,因此不产生光的振幅的抵消,因此像图5、图6所表示的那样的光的振幅几乎不会变化。因此,在图7所示的例子中,从屏幕130投影的光本来应该平行地直接进入图像传感器220,但存在平缓的坡度701导致从屏幕130投影的光不以平行的状态进入图像传感器220,因此产生光的相位变化。因此,如果针对光的相位变化而对与周围等的不同进行检测,则能够检测到图7所示的那样的平缓的坡度701所导致的异常。
另外,在第1实施方式中,存在产生被检查体的表面形状(换言之,被检查体的法线矢量的分布)以外的异常的情况。图8是示出通过第1实施方式的时间相关照相机110对被检查体的异常进行检测的第3检测例的图。在图8所示的例子中,污物801附着于被检查体800。因此,在图8所示的例子中,从照明装置120照射的光在与污物801对应的区域被吸收,或者是,从照明装置120照射的光在与污物801对应的区域被漫反射,由此,在时间相关照相机110的拍摄到污物801的任意的像素区域中光基本没有强度变化。换言之,在图8所示的例子中,对于拍摄到污物801的任意的像素区域中的光的强度而言,因相位的抵消使振动成分抵消,从而明亮度基本是直流的。
这样,在拍摄到污物801的像素区域中,基本没有光的振幅,因此在显示振幅图像时,产生比周围暗的区域。利用该原理,能够推测出在被检查体800的与该区域对应的位置存在污物801等异常。
像以上那样,在第1实施方式中,根据时间相关图像(振幅图像和相位图像),通过对光的振幅的变化和光的相位的变化进行检测,能够估计出被检查体存在异常。
返回图1,对PC100进行说明。PC100对检查系统整体进行控制。PC100具有臂控制部101、照明控制部102以及控制部103。
臂控制部101为了对被检查体150的作为时间相关照相机110的拍摄对象的表面进行变更,而对臂140进行控制。在第1实施方式中,预先在PC100中设定多个作为被检查体150的拍摄对象的表面。每当时间相关照相机110的对被检查体150的拍摄结束时,臂控制部101使用臂140使被检查体150移动,以使得该时间相关照相机110能够按照上述设定对表面执行拍摄。另外,第1实施方式不限制于重复进行每当拍摄结束时使臂140移动而在开始拍摄前停止移动的情况,也可以持续地驱动臂140。另外,臂140也被称为搬送部、移动部、位置变更部、姿态变更部等。
照明控制部102构成为能够输出照明装置120所照射的条纹图案。在第1实施方式中,照明控制部102将多个(至少两个以上)的条纹图案向照明装置120发出,指示照明装置120在曝光时间中以切换的方式显示该条纹图案。
图9是示出照明控制部102使照明装置120输出的条纹图案的例子的图。在图9所示的例子中,照明控制部102对照明装置120进行控制,以使得该照明装置120按照(B)所示的矩形波输出(A)所示的设定有黑区域和白区域的条纹图案。
另外,第1实施方式中所使用的条纹图案的条纹的间隔是按照检测对象即异常(缺陷)的大小而设定的,这里省略详细说明。
另外,在第1实施方式中,用于输出条纹图案的矩形波的角频率ω与参照信号的角频率ω是相同的值。
这里,如图9所示,照明控制部102输出的条纹图案能够以矩形波示出。但是,在第1实施方式中,通过经由屏幕130照射与条纹图案对应的光,而使条纹图案的边界区域模糊,即,使条纹图案的亮区域(条纹的区域)与暗区域(间隔的区域)的边界的光的强度变化平缓(钝化)。即,在第1实施方式中,与经由屏幕130后的条纹图案对应的光的强度变化与正弦波近似。图10是示出表示经由屏幕130后的条纹图案的波形的一例的例示性的图。图10所示的那样的与正弦波近似的波使得测量精度(异常的检测精度)提高。另外,在第1实施方式中,也可以在条纹中追加亮度多阶段变化的灰色区域,或向条纹赋予层次。另外,在第1实施方式中,也可以使用包含彩色条纹的条纹图案。
返回图1,控制部103根据从时间相关照相机110接收的图像数据(强度图像数据和时间相关图像数据)来计算与被检查体150的检查对象面的法线矢量的分布对应的特征,从而对被检查体150的异常进行检测,该特征利用与周围的不同来对异常进行检测。另外,为了进行检查,第1实施方式的控制部103从时间相关照相机110接收的不是由复数表现的时间相关图像数据(复数时间相关图像数据),而使与该复数的实部和虚部对应的两种时间相关图像数据。控制部103具有图像生成部104和异常检测部105。
图像生成部104根据从时间相关照相机110接收的强度图像数据和时间相关图像数据,生成振幅图像和相位图像。另外,如上所述,振幅图像与表示每个像素所包含的光的振幅的振幅图像数据对应,相位图像与表示每个像素所包含的光的相位的相位图像数据对应。
第1实施方式不限制振幅图像的计算方法,但例如、图像生成部104根据两种时间相关图像的像素值C1(x,y)和C2(x,y),使用数学式(8),导出振幅图像的各像素值F(x,y)。
【数学式7】
异常检测部105根据振幅图像的像素值(振幅)和强度图像的像素值(强度)对是否存在产生异常的区域进行判定。例如,能够推测出,在强度图像的像素值(AT)除以2而得的值与振幅图像的振幅(在不产生抵消的情况下为AT/2)一定程度上一致的区域中没有产生异常。另一方面,针对双方不一致的区域,能够推测出产生了振幅的抵消。
同样地,第1实施方式不限于相位图像的计算方法,图像生成部104根据像素值C1(x,y)和C2(x,y),使用数学式(9)导出相位图像的各像素值P(x,y)。
【数学式8】
异常检测部105根据上述振幅图像和相位图像的与周围的不同,来计算用于检测被检查体150的异常的特征,该特征与检查对象面的法线矢量的分布对应。在第1实施方式中,作为与法线矢量的分布对应的特征,对使用振幅的分布的例子进行说明。这里,振幅的分布是表示复数时间相关图像的各像素的振幅的分布的数据,相当于振幅图像数据。
图11是示出通过第1实施方式的异常检测部105基于振幅进行异常检测处理的顺序的一例的例示性的流程图。
在图11所示的例子中,首先,异常检测部105使存储于振幅图像的各像素中的光的振幅值(表示该振幅值的像素值)减去以该像素为基准(例如其中心)的N×N区域的平均振幅值(S1101),生成振幅的平均差分图像。振幅的平均差分图像与振幅的梯度对应。另外,整数N是根据实施方式而设定的适当的值。
接下来,异常检测部105对通过减法运算而生成的振幅的平均差分图像进行使用预定的振幅的阈值的屏蔽处理(S1102)。
然后,异常检测部105针对平均差分图像的屏蔽区域内,按照每个像素对标准偏差进行计算(S1103)。另外,在实施方式中,说明的是基于标准偏差的方法,但是不限于使用标准偏差的情况,例如也可以使用平均值等。
然后,异常检测部105将减去平均值而得的振幅像素值比-4.5σ(σ:标准偏差)小的值的像素检测为存在异常(缺陷)的区域(S1104)。
通过上述的处理顺序,根据各像素的振幅值(换言之,振幅的分布)能够对被检查体的异常进行检测。但是,第1实施方式不限于根据复数时间相关图像的振幅的分布对异常进行检测的情况。也可以使用相位的分布的梯度来作为与检查对象面的法线矢量的分布对应的特征。因此,接下来对使用相位的分布的梯度的异常检测处理进行说明。
图12是示出通过第1实施方式的异常检测部105进行的基于相位的异常检测处理的顺序的一例的例示性的流程图。
在图12所示的例子中,首先,异常检测部105使相位图像的每个像素的光的相位值(表示该相位值的像素值)减去以该像素为基准(例如中心)的N×N区域的平均相位值(S1201),生成相位的平均差分图像。相位的平均差分图像与相位的梯度对应。
接下来,异常检测部105将通过减法运算生成的相位的平均差分图像的大小(绝对值)与阈值进行比较,将平均差分图像的大小为阈值以上的像素检测为存在异常(缺陷)的像素(S1202)。
根据S1202的检测结果,异常检测部105能够根据平均差分图像的正负(即,根据像素的相位值与平均相位值之间的大小关系),对凹凸进行判别(S1203)。对于像素的相位值和平均相位值中哪个较大的情况下为凸这一问题,是根据各部分的设定而变化的,但如果大小关系不同,则凹凸不同。
另外,在第1实施方式中,能够根据通过其他的方法得到的相位的分布的梯度对异常进行检测。例如,作为其他的方法,异常检测部105能够使用如下方法:在标准化的时间相关图像的N×N的区域的平均矢量与标准化的各像素的矢量之差的大小大于阈值的情况下,将该像素作为存在异常(缺陷)的像素检测出来。另外,基于相位的异常检测处理的方法不限于使用相位的分布的梯度的方法,也可以采用使用与相位的分布对应的信息的方法。
另外,在第1实施方式中,在异常检测处理时,也可以考虑振幅和强度这双方。图13是示出通过第1实施方式的异常检测部105进行的基于振幅和强度的异常检测处理的顺序的一例的例示性的流程图。
在图13所示的例子中,首先,异常检测部105根据时间相关图像和强度图像,针对各像素使用下面的公式(100),对振幅(表示该振幅的像素值)C(x,y)(参照公式(7))与强度(表示该强度的像素值)G(x,y)(参照公式(6))之比R(x,y)进行计算(S1301)。
R(x,y)=C(x,y)/G(x,y)…(100)
接下来,异常检测部105对比R(x,y)和阈值进行比较,将比值R(x,y)的值为所对应的阈值以下的像素作为存在异常(缺陷)的像素而检测出来(S1302)。另外,异常检测部105对比值R(x,y)和阈值进行比较,将比值R(x,y)的值为所对应的其他的阈值以上的像素作为存在斑点(污物等)的像素而检测出来(S1303)。在因法线矢量的分布的异常导致振幅显著抵消(减小)的情况下,相比于强度,振幅更大地下降。另一方面,在法线矢量的分布没有较大异常但因被检查体150的表面的污物等导致光的吸收显著的情况下,相比于振幅,强度更大地下降。由此,异常检测部105能够通过S1302和S1303对异常的种类进行检测。
像以上那样,如果使条纹图案向规定的方向(设为x方向)移动,则能够容易地检测到在该x方向上使法线矢量的分布产生变化的异常,例如,能够容易地检测出沿与x方向交叉(垂直)的方向(设为y方向)延伸的损伤(缺陷)。但是,相比于使条纹图案沿x方向移动,使条纹图案沿y方向移动能够更容易检测到沿x方向延伸的损伤(缺陷)(即,使沿y方向的法线矢量的分布产生变化的异常)。
图14是示出第1实施方式的照明装置120照射的是沿着异常(缺陷)的延伸方向的条纹图案的状态的例示性的图。在图14所示的例子中,存在沿x方向延伸的异常(缺陷)1601。基于上述理由,考虑对于沿x方向延伸的异常1601,只要使与该异常1601同样地沿x方向延伸的条纹图案沿y方向移动,则能够容易地检测出异常1601。
图15是示出在第1实施方式中使图14的条纹图案沿y方向变化(移动)的情况下的、异常(缺陷)与条纹图案之间的关系的例示性的图。如图15所示,当存在在y方向上宽度较窄并且以与该y方向交叉(垂直)的x方向为长度方向的异常(缺陷)1601的情况下,从照明装置120照射的光在与x方向垂直的y方向上光的振幅的抵消较大。因此可知,为了容易地检测沿x方向延伸的异常1601,只要使用使沿x方向延伸的条纹图案沿y方向移动而取得的振幅图像来进行检查即可。
这样,为了高精度地对具有各种方向性的异常(损伤、缺陷)进行检测,需要使用多个时间相关图像来进行检查,该多个时间相关图像是,使沿不同方向延伸的多种条纹图案(至少是沿相互交叉的两个方向延伸的两种条纹图案)沿不同方向(至少两个方向)移动而得到的。
以往,为了得到与沿相互交叉的方向延伸的两种条纹图案分别对应的时间相关图像,仅连续输出一方的条纹图案,在进行相关运算(帧的重叠)之后,暂时停止该一方的条纹图案的输出,然后,新读取另一方的条纹图案,仅连续输出该另一方的条纹图案并进行相关运算。因此,在以往,条纹图案的切换花费时间,使检查所需要的节拍时间(循环时间)增加。
因此,第1实施方式的照明装置120为了兼顾高精度地对具有方向性的异常(损伤、缺陷)进行检测以及缩短检查所需要的节拍时间(循环时间),无缝切换沿相互交叉的两个方向(设为第1方向和第2方向)延伸的两种条纹图案。更具体而言,照明装置120按照规定的时间间隔依次切换多个条纹图案并连续输出,使得在沿第1方向延伸的第1条纹图案沿与第1方向交叉的第2方向进行1个周期的移动之后,使沿第2方向延伸的第2条纹图案沿第1方向移动1个周期。以下,使用相互垂直的x方向和y方向,将第1方向记载为y方向,将第2方向记载为x方向。
图16是示出第1实施方式的照明装置120所执行的条纹图案的切换的一例的例示性的图。如图16所示,第1实施方式的照明装置120在使像图16的(A)所示的沿y方向延伸的第1条纹图案SP1沿x方向移动1个周期之后,无缝地执行条纹图案的切换,使像图16的(B)所示的沿x方向延伸的第2条纹图案SP2沿y方向移动1个周期。以下,为了便于说明,在假设第1条纹图案SP1与第2条纹图案SP2只是朝向不同,条纹宽度和相邻的条纹之间的间隔等其他的条件均相同的条件下进行说明,但在第1实施方式中,第1条纹图案SP1与第2条纹图案SP2不仅朝向不同,条纹宽度和相邻的条纹之间的间隔等也可以不同。
另外,在无缝执行像上述那样的两种条纹图案的切换的情况下,需要使照明装置120的动作与时间相关照相机110的动作更准确地同步。例如,在图16所示的例子中,如果不能使第1条纹图案SP1的输出的开始时刻与时间相关照相机110进行的帧的重叠的开始时刻一致、且不能使从第1条纹图案SP1向第2条纹图案SP2切换的时刻与时间相关照相机110进行的帧的重叠的结束时刻一致,则不能得到排除了第2条纹图案SP2的影响的、仅与第1条纹图案SP1对应的时间相关图像。同样,在图16所示的例子中,如果不能使从第1条纹图案SP1向第2条纹图案SP2切换的切换时刻与时间相关照相机110进行的帧的重叠的开始时刻一致、且不能使第2条纹图案SP2的结束输出的时刻与时间相关照相机110进行的帧的重叠的结束时刻一致,则不能得到排除了第1条纹图案SP1的影响的、仅与第2条纹图案SP2对应的时间相关图像。
因此,返回图2,在第1实施方式的时间相关照相机110中设置有用于使照明装置120的动作与时间相关照相机110的动作更准确地同步的结构。更具体而言,在第1实施方式的时间相关照相机110中设置有第1信号输出部251和第2信号输出部252,该第1信号输出部251向照明装置120输出触发多个条纹图案的输出开始的第1信号,该第2信号输出部252向照明装置120输出触发该多个条纹图案的切换的第2信号。
如图2所示,第1信号不仅向照明装置120输出,还向读取部242和参照信号输出部260输出。由此,读取部242在基于第1信号的时刻开始读取从图像传感器220输出的帧,参照信号输出部260在基于第1信号的时刻开始输出参照信号。其结果为,相关图像用重叠部244通过在基于第1信号的时刻开始使从图像传感器220输出的帧重叠而取得对被照明装置120照射的被检查体150的检查对象面进行拍摄所得到的时间相关图像数据。
图17是示出第1实施方式的时间相关照相机110和照明装置120的动作时刻的一例的例示性的时序图。在图17中,“CIS capture”表示从图像传感器220输出的帧被累积的情形,“ref”表示从参照信号输出部260输出的参照信号,“Correlation”表示进行相关运算(帧的重叠)的期间。另外,在图17中,“Sync”表示从第2信号输出部252输出的第2信号,“OE”表示从第1信号输出部251输出的第1信号。在图17所示的例子中,照明装置120执行与图16同样的第1条纹图案SP1和第2条纹图案SP2的无缝切换。
在图17所示的例子中,在时刻t1开始输出第1信号和第2信号。由此,照明装置120在基于第1信号的时刻t1开始输出多个条纹图案,根据第2信号依次切换该多个条纹图案。即,照明装置120在时刻t1开始使第1条纹图案SP1进行1个周期的移动,在该第1条纹图案SP1的移动结束的时刻t2,无缝地向第2条纹图案SP2执行切换,开始使该第2条纹图案SP2进行1个周期的移动。在时刻t3结束第2条纹图案SP2的1个周期的移动。
另外,设定成第1条纹图案SP1移动1个周期所需要的时间与第2条纹图案SP2移动1个周期所需要的时间相互一致。因此,在图17所示的例子中,时刻t1和时刻t2之间的时间与时刻t2和时刻t3之间的时间是相等的大小(通过标号T表示)。
另一方面,如果在时刻t1开始输出第1信号,则与此对应,读取部242开始读取帧,参照信号输出部260开始输出参照信号。在图17所示的例子中,作为参照信号使用周期T的正弦波。因此,在图17所示的例子中,从第1条纹图案SP1开始移动直至第2条纹图案SP2的移动结束,参照信号的值变化了两个周期的量。以下,为了便于说明,将参照信号的前半部分(即,第1条纹图案SP1的1个周期的移动中的值随着时间变化而变化的部分)记载为第1区间,将参照信号的后半部分(即,第2条纹图案SP2的1个周期的移动中的随着时间变化,值变化1个周期的量的部分)记载为第2区间。
在图17所示的例子中,参照信号只有1个系统,该1个系统的参照信号的波形在前半部分(第1区间)和后半部分(第2区间)相同。由此,与在第1区间与第2区间使波形不同的情况不同,能够简化参照信号输出部260的处理。
根据上述的参照信号,相关图像用重叠部224取得的不是混合有第1条纹图案SP1和第2条纹图案SP2这双方的影响的时间相关图像数据,而是能够分别取得仅基于第1条纹图案SP1的影响的第1时间相关图像数据和仅基于第2条纹图案SP2的影响的第2时间相关图像数据。即,相关图像用重叠部244从第1条纹图案SP1的移动开始直至第2条纹图案SP2的移动结束,执行两次相关运算(帧的重叠),从而能够取得如下的第1时间相关图像数据和第2时间相关图像数据,该第1时间相关图像数据是第1条纹图案SP1切换为第2条纹图案SP2之前的帧的重叠结果,该第2时间相关图像数据是第1条纹图案SP1切换为第2条纹图案SP2之后的帧的重叠结果。
更具体而言,相关图像用重叠部244在从时刻t1至时刻t2的期间,在乘以参照信号(第1区间)的值的同时使帧重叠,从而取得仅基于第1条纹图案SP1的影响的第1时间相关图像数据。然后,相关图像用重叠部244在从时刻t2至时刻t3的期间,在乘以参照信号(第2区间)的值的同时使帧重叠,从而取得仅基于第2条纹图案SP2的影响的第2时间相关图像数据。
返回图1,图像生成部104将从时间相关照相机110接收到的上述第1时间相关图像数据和第2时间相关图像数据图像化,生成仅与第1条纹图案SP1对应的第1时间相关图像和仅与第2条纹图案SP2对应的第2时间相关图像。然后,异常检测部105使用生成的第1时间相关图像和第2时间相关图像执行异常检测处理。
图18是示出在第1实施方式中生成的第1时间相关图像的具体例的例示性的图,图19是示出在第1实施方式中与图18的第1时间相关图像一同生成的第2时间相关图像的具体例的例示性的图。如图18和图19所示,在第1实施方式中,使用上述的第1信号和第2信号而取得了时间相关照相机110与照明装置120的同步,因此所能够取得的不是混合有沿着不同方向延伸的两种条纹图案这双方的影响的时间相关图像,而是分别与该两种条纹图案对应的两个时间相关图像。
接下来,对第1实施方式的被检查体150的检查处理进行说明。图20是示出由第1实施方式的检查系统进行的该检查处理的顺序的一例的例示性的流程图。另外,被检查体150以已经固定于臂140的状态配置于检查的初始位置。
在第1实施方式中,首先,在S1401中,PC100对照明装置120输出在被检查体150的检查中使用的多个条纹图案。这里,输出的多个条纹图案是能够实现第1条纹图案SP1的1个周期的移动和第2条纹图案SP2的1个周期的移动的程度的多个条纹图案。
然后,在S1421中,照明装置120存储从PC100输入的多个条纹图案。
然后,在S1402中,PC100向时间相关照相机110输出拍摄开始指示。
在从PC100被输入拍摄开始指示时,在S1411中,时间相关照相机110开始输出第1信号和第2信号。第1信号和第2信号向照明装置120输出。
在从时间相关照相机110被输入第1信号和第2信号时,在S1422中,照明装置120开始进行将在S1421中存储的多个条纹图案按照规定的时间间隔依次切换的处理。由此,照明装置120在使第1条纹图案SP1移动1个周期之后,将该第1条纹图案SP1无缝切换为第2条纹图案SP2,使该第2条纹图案SP2移动1个周期。另外,照明装置120可以在第2条纹图案SP2的1个周期的移动结束之后,再次使第1条纹图案SP1、和第2条纹图案SP2依次开始1个周期的移动,也可以结束条纹图案的输出。
另外,S1411的第1信号不仅向照明装置120输出,还向时间相关照相机110的读取部242和参照信号输出部260输出。由此,在S1412中,读取部242在基于第1信号的时刻开始读取从图像传感器220输出的帧,参照信号输出部260开始向时间相关照相机110的相关图像用重叠部244输出参照信号。其结果为,在S1413中,相关图像用重叠部244在从第1条纹图案SP1的开始移动到第2条纹图案SP2的移动结束,执行两次相关运算(帧的重叠),取得如下的第1时间相关图像数据和第2时间相关图像数据,该第1时间相关图像数据是第1条纹图案SP1切换为第2条纹图案SP2之前的帧的重叠结果,该第2时间相关图像数据是第1条纹图案SP1切换为第2条纹图案SP2之后的帧的重叠结果。
然后,在S1414中,时间相关照相机110向PC100输出在S1413中生成的第1时间相关图像数据和第2时间相关图像数据。另外,此时,除了第1时间相关图像数据和第2时间相关图像数据之外,时间相关照相机110还向PC100输出由强度图像用重叠部243取得的强度图像数据。
然后,在S1403中,PC100从时间相关照相机110接收在S1414中输出的第1时间相关图像数据和第2时间相关图像数据(以及强度图像数据)。然后,在S1404中,PC100的控制部103的图像生成部104根据在S1403中接收到的数据,生成仅与第1条纹图案SP1对应的第1时间相关图像和仅与第2条纹图案SP2对应的第2时间相关图像。
然后,在S1405中,PC100的控制部103的异常检测部105根据第1时间相关图像和第2时间相关图像,执行被检查体150的异常检测处理。对于异常检测处理的顺序,已经说明了几个例子(例如参照图11~图13),因此这里省略说明。
然后,在S1406中,异常检测部105将S1405中的异常检测处理的结果向PC100所具有(或者与PC100连接)的显示器等输出设备输出。
作为输出异常检测处理的结果的方法,例如考虑在显示了强度图像的基础上,对该强度图像中的与异常对应的区域进行强调显示(修饰显示)等。另外,可以不通过视觉形式输出异常检测处理的结果,而使用音声通过听觉的形式来输出异常检测处理的结果,也可以并用视觉形式和听觉形式来输出异常检测处理的结果。
在S1406中的异常检测处理的结果的输出结束时,在S1407中,控制部103对被检查体150的检查是否结束进行判定。
在S1407中判定为检查没有结束的情况下,使处理进入S1408。然后,在S1408中,PC100的臂控制部101根据预定的设定对臂140执行移动控制,以使得时间相关照相机110能够对被检查体150的作为下一个检查对象的表面进行拍摄。然后,在臂的移动控制结束时,使处理返回S1402,PC100再次对时间相关照相机110输出拍摄开始指示。
另一方面,在S1407中判定为检查结束的情况下,使处理进入S1409。然后,在S1409中,PC100向时间相关照相机110输出指示检查结束的结束指示。在S1409的处理结束时,结束由PC100执行的一系列处理。
另一方面,时间相关照相机110在S1415中对是否从PC100接收到结束指示进行判定。在S1415中判定为没有接收到结束指示的情况下,使处理返回S1411。但是,在S1415中判定为接收到结束指示的情况下,直接结束处理,即,结束由时间相关照相机110执行的一系列的处理。
另外,照明装置120的动作的结束可以通过检查者的手动操作实现,也可以通过来自PC100或时间相关照相机110等其他的结构的指示来实现。
在上述的第1实施方式中,对使用以数字信号进行动作的时间相关照相机110取得时间相关图像数据(和强度图像数据)的例子进行了说明。但是,不仅可以通过以数字信号进行动作的时间相关照相机110,还可以通过以模拟信号进行动作的时间相关照相机或以与之等价的方式进行动作的摄像系统等取得时间相关图像数据。作为其他的取得时间相关图像数据的方法,例如,还考虑在使用通常的数字照相机取得通常的图像数据之后,使用信息处理装置将通常的图像数据视作帧图像数据并重叠参照信号的方法,或者使数字照相机的图像传感器自身具有重叠参照信号的功能的方法等。
像以上说明的那样,在第1实施方式中,设置有第1信号输出部251和第2信号输出部252,该第1信号输出部251向照明装置120输出触发多个条纹图案的输出开始的第1信号,该第2信号输出部252向照明装置120输出触发多个条纹图案的切换的第2信号。由此,根据第1信号和第2信号,能够更准确地使时间相关照相机110的动作与照明装置120的动作同步,因此能够容易或者迅速地得到与沿相互交叉的方向延伸的两种条纹图案分别对应的时间相关图像。
例如,像上述那样,以往为了得到与沿相互交叉的方向延伸的两种条纹图案分别对应的时间相关图像,需要如下的方式:仅连续输出一方的条纹图案,在进行相关运算(帧的重叠)之后,暂时停止该一方的条纹图案的输出,然后新读取另一方的条纹图案,仅连续输出该另一方的条纹图案,进行相关运算。与此相对,在第1实施方式中,使条纹图案的输出开始/结束以及切换的时刻与相关运算(帧的重叠)的开始/结束时刻相对应,并且无缝地切换沿相互交叉的方向延伸的两种条纹图案,从而能够容易地得到与该两种条纹图案分别对应的时间相关图像。因此,在第1实施方式中,不会像以往那样要在条纹图案的切换中花费时间,能够缩短检查所需要的节拍时间(循环时间)。
<第1变形例>
在上述的第1实施方式中,对根据与周围的不同来对用于检测异常的特征进行计算的例子进行了说明,但也可以根据与周围的不同以外的点来对用于检测异常的特征进行计算。例如,作为第1变形例,考虑为,根据与表示参照形状的参照数据之间的差异对用于检测异常的特征进行计算。在该情况下,需要使实际进行检查的环境与取得参照数据的环境一致。例如,需要对空间相位调制照明(条纹图案)进行对准和同步。
在第1变形例中,异常检测部105将预先存储于(未图示)存储部的参照数据(从参照表面取得的时间相关图像数据)与作为现在的检查对象的被检查体150的时间相关图像数据进行比较,对在两者之间光的振幅和光的相位中的一个以上是否存在规定的基准以上的不同进行判定。
例如使用正常的被检查体的表面来作为参照表面。即,在第1变形例中,将通过与第1实施方式相同结构的检查系统(时间相关照相机110)对正常的被检查体的表面进行拍摄而得到的时间相关图像数据作为参照数据使用。
第1变形例的具体的检查顺序如下。首先,时间相关照相机110在照明装置120借助屏幕130照射条纹图案的期间内,对正常的被检查体的表面进行拍摄,从而取得时间相关图像数据。然后,PC100根据由时间相关照相机110生成的时间相关图像数据生成振幅图像和相位图像等,并存储生成的图像。然后,时间相关照相机110拍摄要判定是否产生有异常的检查对象,生成该检查对象的时间相关图像数据。然后,PC100根据时间相关图像数据生成振幅图像和相位图像等,将该生成的图像与预先存储于存储部的正常的被检查体的图像进行比较。然后,PC100根据比较结果对用于检测异常的特征进行计算,根据该特征是否为规定的基准以上来判定在检查对象中是否存在异常。
这样,在第1变形例中,以正常的被检查体的表面为基准对是否产生了规定的差异进行判定,从而对在检查对象的表面是否存在异常进行判定。另外,作为对振幅图像和相位图像等各种图像进行比较的方法,可以使用任何方法,因此省略说明。
另外,在第1变形例中,如上所述,对根据与参照表面之间的不同(与表示参照形状的参照数据之间的不同)来计算用于检测异常的特征的例子进行了说明,但该特征也可以考虑与之间参照表面的不同这一点以外的基准来进行计算。例如,也可以结合第1变形例中所使用的与参照表面的不同和上述第1实施方式所使用的与周围的不同,而对用于检测异常的特征进行计算。该结合的方法可以使用任何方法,因此省略说明
<第2实施方式>
接下来,对第2实施方式进行说明。该第2实施方式与第1实施方式不同,通过分别对两个系统的参照信号各自进行相关运算,而取得分别仅与第1条纹图案SP1和第2条纹图案SP2对应的时间相关图像数据,在该第1实施方式中,通过分别在1个系统的参照信号的前半部分和后半部分进行相关运算(帧的重叠),取得分别仅与第1条纹图案SP1和第2条纹图案SP2对应的时间相关图像数据。
图21是示出第2实施方式的时间相关照相机110a的结构的例示性的框图。如图21所示,在第2实施方式的时间相关照相机110a中,作为用于输出参照信号的结构而设置有第1参照信号输出部260a和第2参照信号输出部260b这两个结构。而且,在控制部240a的相关图像用重叠部244a中,作为与这两个参照信号输出部对应的结构,用于使参照信号的值与从图像传感器220输出的帧的像素值相乘的乘法器和使该乘法器的乘法运算结果重叠的重叠部的组合,设置有4个。
更具体而言,在相关图像用重叠部244a中,作为与第1参照信号输出部260a对应的结构具有第1乘法器245a与第1相关图像用重叠部246a的组合和第2乘法器247a与第2相关图像用重叠部248a的组合这两个组合。同样,在相关图像用重叠部244a中,作为与第2参照信号输出部260b对应的结构具有第3乘法器245b与第3相关图像用重叠部246b的组合和第4乘法器247b与第4相关图像用重叠部248b的组合这两个组合。
第1乘法器245a和第2乘法器247a接收从第1参照信号输出部260a输出的第1参照信号,将该第1参照信号的值与从读取部242接收的帧的像素值相乘。然后,第1相关图像用重叠部246a和第2相关图像用重叠部248a分别重叠第1乘法器245a和第2的乘法器247a的乘法运算结果。同样,第3乘法器245b和第4乘法器247b接收从第2参照信号输出部260b输出的第2参照信号,将该参照信号的值与从读取部242接收的帧的像素值相乘。然后,第3相关图像用重叠部246b和第4相关图像用重叠部248b分别重叠第3乘法器245b和第4乘法器247b的乘法运算结果。另外,后文会对第1参照信号和第2参照信号的波形等进行详细说明,因此这里省略说明。
以上,在第2实施方式中,取得与第1相关图像用重叠部246a的重叠结果、第2相关图像用重叠部248a的重叠结果、第3相关图像用重叠部246b的重叠结果以及第4相关图像用重叠部248b的重叠结果这4个重叠结果对应的共计4种时间相关图像数据。而且,在第2实施方式中,根据该4种时间相关图像数据,生成与上述的第1实施方式相同的仅与第1条纹图案SP1对应的第1时间相关图像和仅与第2条纹图案SP2对应的第2时间相关图像。
另外,第2实施方式的其他的结构与上述的第1实施方式相同,因此这里省略说明。以下,参照图22对第2实施方式的动作进行更详细的说明。
图22是示出第2实施方式的时间相关照相机110a和照明装置120的动作时刻的一例的例示性的时序图。在图22中,“refA”表示从第1参照信号输出部260a输出的第1参照信号,“refB”表示从第2参照信号输出部260b输出的第2参照信号。其它的“CIS capture”、“Correlation”、“Sync”以及“OE”的意思与上述的图17相同,因此这里省略说明。在图22所示的例子中,与图17所示的例子相同,照明装置120对第1条纹图案SP1和第2条纹图案SP2执行无缝切换。
在图22所示的例子中,在时刻t11开始输出第1信号和第2信号。由此,照明装置120在基于第1信号的时刻t11开始多个条纹图案的输出,根据第2信号依次切换该多个条纹图案。即,照明装置120在时刻t11开始使第1条纹图案SP1移动1个周期的量,在该第1条纹图案SP1的移动结束的时刻t12,无缝地执行向第2条纹图案SP2的切换,开始使该第2条纹图案SP2移动1个周期的量。在时刻t13,结束第2条纹图案SP2的1个周期的量的移动。
另外,在图22所示的例子中,与图17所示的例子相同,设定为时刻t11和时刻t12之间的时间与时刻t12和时刻t13之间的时间彼此大小相等(以标号Ta表示)。即,在图22所示的例子中也设定为第1条纹图案SP1移动1个周期的量所需要的时间与第2条纹图案SP2移动1个周期的量所需要的时间彼此一致。
当在时刻t11开始输出第1信号时,与之对应地,读取部242开始读取帧,第1参照信号输出部260a和第2参照信号输出部260b分别开始输出第1参照信号和第2参照信号。像以下说明的那样,第1参照信号和第2参照信号都是由周期Ta的正弦波和在时间Ta内振幅持续恒定(例如零)的波组合而成。
第1参照信号是前半部分由周期Ta的正弦波构成,后半部分由在时间Ta内振幅持续恒定(例如零)的波构成的信号,第2参照信号是前半部分由在时间Ta内振幅持续恒定(例如零)的波构成,后半部分由周期Ta的正弦波构成的信号。因此,可以说,第1参照信号和第2参照信号都是按照周期2Ta使值周期性地变化的信号。以下,为了便于说明,将第1参照信号的前半部分(即,在第1条纹图案SP1的1个周期的量的移动中值随着时间变化而变化的部分)记载为第3区间,将第1参照信号的后半部分(即,在第2条纹图案SP2的1个周期的移动中值无关乎时间变化而恒定的部分)记载为第4区间。另外,将第2参照信号的前半部分(即,在第1条纹图案SP1的1个周期的移动中值无关乎时间变化而恒定的部分)记载为第5区间,将第2参照信号的后半部分(即,在第2条纹图案SP2的1个周期的移动中值随着时间变化而变化的部分)记载为第6区间。
根据上述第1参照信号和第2参照信号,相关图像用重叠部244a所取得的不是混合有第1条纹图案SP1和第2条纹图案SP2这双方的影响的时间相关图像数据,而是能够分别取得仅基于第1条纹图案SP1的影响的第3时间相关图像数据和仅基于第2条纹图案SP2的影响的第4时间相关图像数据。即,相关图像用重叠部244a根据第1参照信号,执行一次从第1条纹图案SP1的移动开始到第2条纹图案SP2的移动结束的期间2Ta内的相关运算(帧的重叠),从而能够取得第3时间相关图像数据。同样,相关图像用重叠部244a根据第2参照信号,执行一次期间2Ta内的相关运算,从而能够取得第4时间相关图像数据。另外,如果对比上述的图21所示的结构进行说明,则第3时间相关图像数据与第1相关图像用重叠部246a和第2相关图像用重叠部248a的重叠结果的组合对应,第4时间相关图像数据与第3相关图像用重叠部246b和第4相关图像用重叠部248b的重叠结果的组合对应。
在图22所示的例子中,基于第1参照信号的相关运算如下。即,相关图像用重叠部244a在从时刻t11至时刻t12的期间,在乘以第1参照信号的第3区间的值的同时进行相关运算,在从时刻t12至时刻t13的期间,在乘以第1参照信号的第4区间的值的同时进行相关运算。这里,基于第3区间的值的前者的相关运算与仅考虑了第1条纹图案SP1的影响的相关运算对应,基于第4区间的后者的相关运算与仅考虑了第2条纹图案SP2的影响的相关运算对应。但是,如上所述,第1参照信号的第4区间的值无关乎时间变化而成为恒定值(例如零),因此能够无视基于该第4区间的值的相关运算的结果。因此,根据基于第1参照信号在时刻t11至时刻t13的期间2Ta内进行的相关运算,能够无视第2条纹图案SP2的影响,能够取得仅基于第1条纹图案SP1的影响的第3时间相关图像数据,该第1参照信号由第3区间和第4区间构成。
同样,在图22所示的例子中,基于第2参照信号的相关运算如下所述。即,相关图像用重叠部244a在从时刻t11至时刻t12的期间,在乘以第2参照信号的第5区间的值的同时进行相关运算,在从时刻t12至时刻t13的期间,在乘以第2参照信号的第6区间的值的同时进行相关运算。这里,基于第5区间的值的前者的相关运算与仅考虑了第1条纹图案SP1的影响的相关运算对应,基于第6区间的后者的相关运算与仅考虑了第2条纹图案SP2的影响的相关运算对应。但是,如上所述,第2参照信号的第5区间的值无关乎时间变化而成为恒定值(例如零),因此能够无视基于该第5区间的值的相关运算的结果。因此,根据基于第2参照信号在时刻t11至时刻t13的期间2Ta内进行的相关运算,能够无视第1条纹图案SP1的影响,能够取得仅基于第2条纹图案SP2的影响的第4时间相关图像数据,该第2参照信号由第5区间和第6区间构成。
这样,根据第2实施方式,根据不同的两个系统的参照信号(第1参照信号和第2参照信号),取得的不是混合有第1条纹图案SP1和第2条纹图案SP2这双方的影响的时间相关图像数据,而是能够分别取得仅基于第1条纹图案SP1的影响的第3时间相关图像数据和仅基于第2条纹图案SP2的影响的第4时间相关图像数据。而且,根据第2实施方式,根据第3时间图像数据,能够生成仅与第1条纹图案SP1对应的第1时间相关图像(与在第1实施方式中说明的图18相同的图像),基于第4时间相关图像数据,能够生成仅与第2条纹图案SP2对应的第2时间相关图像(与在第1实施方式中说明的图19相同的图像)。
<第3实施方式>
接下来,对第3实施方式进行说明。该第3实施方式在使用两个系统的参照信号进行相关运算这一点上与第2实施方式相同。但是,第3实施方式与第2实施方式不同,在相关运算的阶段取得混合有第1条纹图案SP1和第2条纹图案SP2这双方的影响的数据,然后,通过进一步的运算处理,分别生成仅与第1条纹图案SP1对应的第1时间相关图像和仅与第2条纹图案SP2对应的第2时间相关图像,该第2实施方式在相关运算的阶段排除了混合有第1条纹图案SP1和第2条纹图案SP2双方的影响的情况。
图23是示出第3实施方式的时间相关照相机110b的结构的例示性的框图。如图23所示,第3实施方式的时间相关照相机110b具有与图21所示的第2实施方式的时间相关照相机110a大致相同的结构。即,在第3实施方式的时间相关照相机110b中,与第2实施方式的时间相关照相机110a相同,设置有两个输出用于进行相关运算的参照信号的结构,用于使参照信号的值与从图像传感器220输出的帧的像素值相乘的乘法器和使该乘法器的乘法运算结果重叠的重叠部的组合设置有4个。
但是,在第3实施方式中,用于进行相关运算的参照信号的波形与第2实施方式不同。即,在第3实施方式中,设置有第3参照信号输出部260c和第4参照信号输出部260d,该第3参照信号输出部260c输出与第2实施方式的第1参照信号和第2参照信号不同的第3参照信号,该第4参照信号输出部260d输出与第2实施方式的第1参照信号和第2参照信号不同,并且与第3参照信号也不同的第4参照信号。以下,参照图24,对第3实施方式的动作更详细地进行说明。
图24是示出第3实施方式的时间相关照相机110b和照明装置120的动作时刻的一例的例示性的时序图。在图24中,“refC”表示从第3参照信号输出部260c输出的第3参照信号,“refD”表示从第4参照信号输出部260d输出的第4参照信号。其它的“CIS capture”、“Correlation”、“Sync”以及“OE”的意思与上述的图17和图22相同,因此这里省略说明。在图24所示的例子中,与图17和图22所示的例子相同,照明装置120执行第1条纹图案SP1与第2条纹图案SP2的无缝切换。
在图24所示的例子中,在时刻t21开始第1信号和第2信号的输出。由此,照明装置120在基于第1信号的时刻t21开始输出多个条纹图案,根据第2信号依次切换该多个条纹图案。即,照明装置120在时刻t21开始使第1条纹图案SP1移动1个周期的量,在该第1条纹图案SP1的移动结束的时刻t22,无缝地执行向第2条纹图案SP2的切换,开始使该第2条纹图案SP2移动1个周期的量。第2条纹图案SP2的1个周期的量的移动在时刻t23结束。
另外,在图24所示的例子中也与图17和图22所示的例子相同,设定成时刻t21和时刻t22之间的时间与时刻t22和时刻t23之间的时间为彼此大小相等(以标号Tb表示)。即,在图24所示的例子中,设定为第1条纹图案SP1移动1个周期的量所需要的时间与第2条纹图案SP2移动1个周期的量所需要的时间彼此一致。
如果在时刻t21开始第1信号的输出,则与之对应地,读取部242开始读取帧,第3参照信号输出部260c和第4参照信号输出部260d分别开始输出第3参照信号和第4参照信号。像以下说明的那样,第3参照信号和第4参照信号都由周期Tb的正弦波构成。
第3参照信号是前半部分和后半部分由相同的周期Tb的正弦波构成的信号,第4参照信号是前半部分由周期Tb的正弦波构成,后半部分由前半部分的正弦波反转后的波构成的信号。以下,为了便于说明,有时将第3参照信号的前半部分记载为第7区间,将第3参照信号的后半部分记载为第8区间。另外,有时将第4参照信号的前半部分记载为第9区间,将第4参照信号的后半部分记载为第10区间。在图24所示的例子中,第9区间的值以与第7区间一致的方式变化,第10区间与第8区间的反转对应。另外,虽然在图24所示的例子中,第7区间和第8区间由同一正弦波构成,但只要是第7区间与第9区间一致且第8区间与第10区间反转的关系即可,第7区间和第8区间也可以不由同一正弦波构成。
根据上述第3参照信号和第4参照信号,相关图像用重叠部244a取得混合有第1条纹图案SP1和第2条纹图案SP2这双方的影响的时间相关图像数据。即,相关图像用重叠部244a根据第3参照信号,执行一次从第1条纹图案SP1的移动开始至第2条纹图案SP2的移动结束的期间2Tb内的一次相关运算(帧的重叠),从而取得对应于第1条纹图案SP1与第2条纹图案SP2之和的第5时间相关图像数据。另外,相关图像用重叠部244a根据第4参照信号,执行一次期间2Tb内的相关运算,从而取得对应于第1条纹图案SP1与第2条纹图案SP2之差的第6时间相关图像数据。
在图24所示的例子中,基于第3参照信号的相关运算如下。即,相关图像用重叠部244a在从时刻t21至时刻t22的期间,在乘以第3参照信号的第7区间的值的同时进行相关运算,在从时刻t22至时刻t23的期间,在乘以第3参照信号的第8区间的值的同时进行相关运算。这里,基于第7区间的值的前者的相关运算与仅考虑了第1条纹图案SP1的影响的相关运算对应,基于第8区间的后者的相关运算与仅考虑了第2条纹图案SP2的影响的相关运算对应。因此,在从时刻t21至时刻t23的期间2Tb内,基于第3参照信号的值的相关运算对应于仅考虑了第1条纹图案SP1的影响的相关运算与仅考虑了第2条纹图案SP2的影响的相关运算之和,该第3参照信号由第7区间和第8区间构成。由此,根据期间2Tb内的基于第3参照信号的值的相关运算,取得对应于第1条纹图案SP1与第2条纹图案SP2之和的第5时间相关图像数据。
同样,在图24所示的例子中,基于第4参照信号的相关运算如下。即,相关图像用重叠部244a在从时刻t21至时刻t22的期间,在乘以第4参照信号的第9区间的值的同时进行相关运算,在从时刻t22至时刻t23的期间,在乘以第4参照信号的第10区间的值的同时进行相关运算。这里,如上所述,上第4参照信号的第9区间与第3参照信号的第7区间一致,第4参照信号的第10区间与第3参照信号的第8区间的反转对应。因此,在从时刻t21至时刻t23的期间2Tb内,基于第4参照信号的值的相关运算对应于仅考虑了第1条纹图案SP1的影响的相关运算与仅考虑了第2条纹图案SP2的影响的相关运算之差,该第4参照信号由第9区间和第10区间构成。由此,根据期间2Tb内的基于第4参照信号的值的相关运算,取得对应于第1条纹图案SP1与第2条纹图案SP2之差的第6时间相关图像数据。
这样,根据第3实施方式,根据不同的两个系统的参照信号(第3参照信号和第4参照信号),能够取得对应于第1条纹图案SP1与第2条纹图案SP2之和的第5时间相关图像数据和对应于第1条纹图案SP1与第2条纹图案SP2之差的第6时间相关图像数据。
即,在以示意性的式子分别表示第5时间相关图像数据和第6时间相关图像数据时,如下述那样。
·第5时间相关图像数据=第1条纹图案SP1+第2条纹图案SP2
·第6时间相关图像数据=第1条纹图案SP1-第2条纹图案SP2
根据上述两个示意性的公式,进一步得到如下两个示意性的公式。
·第5时间相关图像数据+第6时间相关图像数据=2×第1条纹图案SP1
·第5时间相关图像数据-第6时间相关图像数据=2×第2条纹图案SP2
因此,根据第3实施方式,根据第5时间相关图像数据与第6时间相关图像数据之和,能够生成仅与第1条纹图案SP1对应的第1时间相关图像,根据第5时间相关图像数据与第6时间相关图像数据之差,能够生成仅与第2条纹图案SP2对应的第2时间相关图像。
图25是示出从第3实施方式的时间相关照相机110b输出的第5时间相关图像数据的具体例的例示性的图,图26是示出从第3实施方式的时间相关照相机110b输出的第6时间相关图像数据的具体例的例示性的图。另外,图27是示出在第3实施方式中根据图25和图26的数据生成的第1时间相关图像的具体例的例示性的图,图28是示出在第3实施方式中与图27的第1时间相关图像一起生成的第2时间相关图像的具体例的例示性的图。
如图25和图26所示,根据第3实施方式,能够得到混合有第1条纹图案SP1和第2条纹图案SP2这双方的影响的不同的两种数据。然后,如图27和图28所示,根据第3实施方式,通过进一步对混合有第1条纹图案SP1和第2条纹图案SP2这双方的影响的不同的两种数据进行运算处理,能够分别生成仅基于第1条纹图案SP1的影响的第1时间相关图像和仅基于第2条纹图案SP2的影响的第2时间相关图像。
上述的实施方式的PC100所执行的检查程序能够以可安装形式或可执行形式的文件存储于CD-ROM、软盘(FD)、CD-R、DVD(Digital Versatile Disk)等能够由计算机读取的存储介质中而提供。
另外,也可以构成为,将上述的实施方式的PC100所执行的检查程序存储在与因特网等网络连接的计算机上,通过经由网络进行下载而提供。另外,也可以构成为将上述的实施方式的PC100所执行的检查程序经由因特网等网络进行提供或分发。
以上,对本发明的几个实施方式和变形例进行了说明,但这些实施方式和变形例是作为例子而提出的,不意图限定发明的范围。这些新的实施方式和变形例能够通过其他各种方式进行实施,能够在不脱离发明的主旨的范围内进行各种省略、置换以及变更。这些实施方式及其变形例被包含于发明的范围和主旨中,并且被包含于权利要求所记载的发明以及与其同等的范围内。
标号说明
104:图像生成部;105:异常检测部;110、110a、110b:时间相关照相机;120:照明装置(照明部);130:屏幕(照明部);220:图像传感器;244、244a:相关图像用重叠部(图像数据取得部);251:第1信号输出部;252:第2信号输出部;260:参照信号输出部;260a:第1参照信号输出部;260b:第2参照信号输出部;260c:第3参照信号输出部;260d:第4参照信号输出部。
Claims (5)
1.一种检查系统,其具有:
照明部,其通过以如下方式依次对多个条纹图案进行切换而输出,从而对被检查体赋予光的强度的周期性的时间变化和空间变化,该方式是,在使沿第1方向延伸的第1条纹图案沿与所述第1方向交叉的第2方向移动1个周期的量之后,无缝地使沿所述第2方向延伸的第2条纹图案沿所述第1方向移动1个周期的量;
第1信号输出部,其向所述照明部输出触发所述多个条纹图案的输出开始的第1信号;
第2信号输出部,其向所述照明部输出触发所述多个条纹图案的切换的第2信号;
图像传感器,其用于时间相关照相机或进行与该时间相关照相机等同的动作的摄像系统;
图像数据取得部,其通过在基于所述第1信号的时刻开始使从所述图像传感器输出的帧重叠,而取得对被所述照明部照射的所述被检查体的检查对象面进行拍摄而得到的时间相关图像数据;
图像生成部,其根据所述时间相关图像数据,生成仅与所述第1条纹图案对应的第1时间相关图像和仅与所述第2条纹图案对应的第2时间相关图像;以及
异常检测部,其根据所述第1时间相关图像和所述第2时间相关图像,对所述检查对象面的异常进行检测。
2.根据权利要求1所述的检查系统,其中,
该检查系统还具有参照信号输出部,该参照信号输出部在基于所述第1信号的时刻开始输出参照信号,
该参照信号具有:
第1区间,在该第1区间中,在所述第1条纹图案的1个周期的量的移动中值随着时间变化而变化;以及
第2区间,在该第2区间中,在所述第2条纹图案的1个周期的量的移动中值随着时间变化而变化,
所述图像数据取得部将从所述图像传感器输出的帧与该帧的输出时刻的所述参照信号的值相乘并使该帧重叠,从而取得如下的第1时间相关图像数据和第2时间相关图像数据,该第1时间相关图像数据是基于所述第1条纹图案被切换为所述第2条纹图案之前的所述第1区间的值的重叠结果,该第2时间相关图像数据是基于所述第1条纹图案被切换为所述第2条纹图案之后的所述第2区间的值的重叠结果,
所述图像生成部根据所述第1时间相关图像数据生成所述第1时间相关图像,根据所述第2时间相关图像数据生成所述第2时间相关图像。
3.根据权利要求1所述的检查系统,其中,
该检查系统还具有:
第1参照信号输出部,其在基于所述第1信号的时刻开始输出第1参照信号,该第1参照信号具有在所述第1条纹图案的1个周期的量的移动中值随着时间变化而变化的第3区间、以及在所述第2条纹图案的1个周期的量的移动中值与时间变化无关而恒定的第4区间;以及
第2参照信号输出部,其在基于所述第1信号的时刻开始输出第2参照信号,该第2参照信号具有在所述第1条纹图案的1个周期的量的移动中值与时间变化无关而恒定的第5区间、以及在所述第2条纹图案的1个周期的量的移动中值随着时间变化而变化的第6区间,
所述图像数据取得部通过将从所述图像传感器输出的帧与该帧的输出时刻的所述第1参照信号和所述第2参照信号的值相乘并且使该帧重叠,而取得第3时间相关图像数据和第4时间相关图像数据,该第3时间相关图像数据是在从所述第1条纹图案的1个周期的量的移动开始至所述第2条纹图案的1个周期的量的移动结束为止的期间内,基于所述第1参照信号的所述第3区间和所述第4区间的值的重叠结果,该第4时间相关图像数据是在从所述第1条纹图案的1个周期的量的移动开始至所述第2条纹图案的1个周期的量的移动结束为止的期间内,基于所述第2参照信号的所述第5区间和所述第6区间的值的重叠结果,
所述图像生成部根据所述第3时间相关图像数据生成所述第1时间相关图像,根据所述第4时间相关图像数据生成所述第2时间相关图像。
4.根据权利要求1所述的检查系统,其中,
该检查系统还具有:
第3参照信号输出部,其在基于所述第1信号的时刻开始输出第3参照信号,该第3参照信号具有在所述第1条纹图案的1个周期的量的移动中值随着时间变化而变化的第7区间、以及在所述第2条纹图案的1个周期的量的移动中值随着时间变化而变化的第8区间;以及
第4参照信号输出部,其在基于所述第1信号的时刻开始输出第4参照信号,该第4参照信号具有在所述第1条纹图案的1个周期的量的移动中、值以与所述第7区间的值一致的方式变化的第9区间、以及在所述第2条纹图案的1个周期的量的移动中值以与所述第8区间的值的反转对应的方式变化的第10区间,
所述图像数据取得部通过将从所述图像传感器输出的帧与该帧的输出时刻的所述第3参照信号和所述第4参照信号的值相乘并使该帧重叠,而取得如下的第5时间相关图像数据和第6时间相关图像数据,该第5时间相关图像数据是在从所述第1条纹图案的1个周期的量的移动开始至所述第2条纹图案的1个周期的量的移动结束为止的期间内,基于所述第3参照信号的所述第7区间和所述第8区间的值的重叠结果,该第6时间相关图像数据是在从所述第1条纹图案的1个周期的量的移动开始至所述第2条纹图案的1个周期的量的移动结束为止的期间内,基于所述第4参照信号的所述第9区间和所述第10区间的值的重叠结果,
所述图像生成部根据所述第5时间相关图像数据与所述第6时间相关图像数据之和生成所述第1时间相关图像,根据所述第5时间相关图像数据与所述第6时间相关图像数据之差生成所述第2时间相关图像。
5.一种检查方法,其具有如下步骤:
照明步骤,通过照明部对被检查体赋予光的强度的周期性的时间变化和空间变化,该照明部以如下方式依次对多个条纹图案进行切换而输出,该方式是,在使沿第1方向延伸的第1条纹图案沿与所述第1方向交叉的第2方向移动1个周期的量之后,无缝地使沿所述第2方向延伸的第2条纹图案沿所述第1方向移动1个周期的量;
第1信号输出步骤,向所述照明部输出触发所述多个条纹图案的输出开始的第1信号;
第2信号输出步骤,向所述照明部输出触发所述多个条纹图案的切换的第2信号;
图像数据取得步骤,通过在基于所述第1信号的时刻开始使从图像传感器输出的帧重叠,而取得对在所述照明步骤中被照射的所述被检查体的检查对象面进行拍摄而得到的时间相关图像数据,该图像传感器用于时间相关照相机或进行与该时间相关照相机等同的动作的摄像系统;以及
图像生成步骤,根据所述时间相关图像数据生成仅与所述第1条纹图案对应的第1时间相关图像和仅与所述第2条纹图案对应的第2时间相关图像;以及
异常检测步骤,根据所述第1时间相关图像和所述第2时间相关图像,对所述检查对象面的异常进行检测。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017-041045 | 2017-03-03 | ||
JP2017041045A JP6800463B2 (ja) | 2017-03-03 | 2017-03-03 | 検査システムおよび検査方法 |
PCT/JP2018/008071 WO2018159825A1 (ja) | 2017-03-03 | 2018-03-02 | 検査システムおよび検査方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110383050A true CN110383050A (zh) | 2019-10-25 |
Family
ID=63370972
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880015374.7A Pending CN110383050A (zh) | 2017-03-03 | 2018-03-02 | 检查系统和检查方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10775316B2 (zh) |
JP (1) | JP6800463B2 (zh) |
CN (1) | CN110383050A (zh) |
DE (1) | DE112018001127T5 (zh) |
WO (1) | WO2018159825A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110736751A (zh) * | 2019-11-06 | 2020-01-31 | 上海御微半导体技术有限公司 | 一种表面缺陷检测方法及装置 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6433268B2 (ja) * | 2014-03-31 | 2018-12-05 | 国立大学法人 東京大学 | 検査システムおよび検査方法 |
DE102019208296A1 (de) * | 2019-06-06 | 2020-12-10 | Krones Ag | Verfahren und Vorrichtung zur optischen Inspektion von Behältern |
JP2023018796A (ja) * | 2021-07-28 | 2023-02-09 | アンリツ株式会社 | 物品検査装置 |
DE102022104990A1 (de) | 2022-03-03 | 2023-09-07 | Emhart Glass Sa | VORRICHTUNG UND VERFAHREN ZUM INSPIZIEREN VON GEFÄßEN |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004334580A (ja) * | 2003-05-08 | 2004-11-25 | Nadex Co Ltd | 画像取込み方法、画像取込みシステム、検査装置及び照明制御装置 |
JP2011007576A (ja) * | 2009-06-24 | 2011-01-13 | Canon Inc | 測定システム及び測定処理方法 |
CN106164653A (zh) * | 2014-03-31 | 2016-11-23 | 国立大学法人东京大学 | 检查系统和检查方法 |
CN106461568A (zh) * | 2014-03-31 | 2017-02-22 | 国立大学法人东京大学 | 检查系统和检查方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3417377B2 (ja) * | 1999-04-30 | 2003-06-16 | 日本電気株式会社 | 三次元形状計測方法及び装置並びに記録媒体 |
WO2012066501A1 (en) * | 2010-11-19 | 2012-05-24 | Primesense Ltd. | Depth mapping using time-coded illumination |
JP6682251B2 (ja) | 2015-11-30 | 2020-04-15 | リコーエレメックス株式会社 | 検査システム、及び検査方法 |
-
2017
- 2017-03-03 JP JP2017041045A patent/JP6800463B2/ja active Active
-
2018
- 2018-03-02 US US16/490,512 patent/US10775316B2/en active Active
- 2018-03-02 CN CN201880015374.7A patent/CN110383050A/zh active Pending
- 2018-03-02 DE DE112018001127.5T patent/DE112018001127T5/de not_active Withdrawn
- 2018-03-02 WO PCT/JP2018/008071 patent/WO2018159825A1/ja active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004334580A (ja) * | 2003-05-08 | 2004-11-25 | Nadex Co Ltd | 画像取込み方法、画像取込みシステム、検査装置及び照明制御装置 |
JP2011007576A (ja) * | 2009-06-24 | 2011-01-13 | Canon Inc | 測定システム及び測定処理方法 |
CN106164653A (zh) * | 2014-03-31 | 2016-11-23 | 国立大学法人东京大学 | 检查系统和检查方法 |
CN106461568A (zh) * | 2014-03-31 | 2017-02-22 | 国立大学法人东京大学 | 检查系统和检查方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110736751A (zh) * | 2019-11-06 | 2020-01-31 | 上海御微半导体技术有限公司 | 一种表面缺陷检测方法及装置 |
CN110736751B (zh) * | 2019-11-06 | 2022-04-19 | 合肥御微半导体技术有限公司 | 一种表面缺陷检测方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
DE112018001127T5 (de) | 2019-12-24 |
US20200011810A1 (en) | 2020-01-09 |
JP2018146364A (ja) | 2018-09-20 |
WO2018159825A1 (ja) | 2018-09-07 |
JP6800463B2 (ja) | 2020-12-16 |
US10775316B2 (en) | 2020-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110383050A (zh) | 检查系统和检查方法 | |
CN106164653B (zh) | 检查系统和检查方法 | |
CN106461568B (zh) | 检查系统和检查方法 | |
Zheng et al. | Real-time high-dynamic-range fringe acquisition for 3D shape measurement with a RGB camera | |
JP6682251B2 (ja) | 検査システム、及び検査方法 | |
JP2016109462A (ja) | 検査システムおよびフレキシブル照明装置 | |
JP6420131B2 (ja) | 検査システム、及び検査方法 | |
JP2017101977A (ja) | 検査システムおよび検査方法 | |
JP2006170744A (ja) | 3次元距離計測装置 | |
CN108692676A (zh) | 使用了扫描型白色干涉显微镜的三维形状计测方法 | |
JP2018115937A (ja) | 検査システム | |
JP6703415B2 (ja) | 検査装置及び検査方法 | |
JP6781430B2 (ja) | 検査システム | |
JP6909378B2 (ja) | 検査システム | |
JP2017101979A (ja) | 検査システム | |
JP6902684B2 (ja) | 画像処理装置および検査システム | |
JP6909377B2 (ja) | 検査システムおよび検査方法 | |
JP6826813B2 (ja) | 検査装置及び検査方法 | |
JP2019174288A (ja) | 検査システム | |
JP2018116026A (ja) | 照明装置および透過部材 | |
JP2020012816A (ja) | 検査システムおよび検査方法 | |
JP2020101417A (ja) | 検査システム | |
JP2019002873A (ja) | 検査システムおよび検査方法 | |
JP2024017231A (ja) | 検査システムおよび検査方法 | |
CN109416276A (zh) | 振动检测装置、方法、计算机存储介质及脉诊仪 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20191025 |