KR20140088220A - 화상 검사 장치의 검사 영역 설정 방법 - Google Patents

화상 검사 장치의 검사 영역 설정 방법 Download PDF

Info

Publication number
KR20140088220A
KR20140088220A KR1020147015679A KR20147015679A KR20140088220A KR 20140088220 A KR20140088220 A KR 20140088220A KR 1020147015679 A KR1020147015679 A KR 1020147015679A KR 20147015679 A KR20147015679 A KR 20147015679A KR 20140088220 A KR20140088220 A KR 20140088220A
Authority
KR
South Korea
Prior art keywords
inspection
inspection area
image
area
region
Prior art date
Application number
KR1020147015679A
Other languages
English (en)
Other versions
KR101626231B1 (ko
Inventor
요시히사 미나토
유키코 야나가와
Original Assignee
오므론 가부시키가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 오므론 가부시키가이샤 filed Critical 오므론 가부시키가이샤
Publication of KR20140088220A publication Critical patent/KR20140088220A/ko
Application granted granted Critical
Publication of KR101626231B1 publication Critical patent/KR101626231B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8806Specially adapted optical and illumination features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/143Segmentation; Edge detection involving probabilistic approaches, e.g. Markov random field [MRF] modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

화상 검사 장치에, 검사 대상물의 샘플을 화상 센서로 촬영하여 얻어진 샘플 화상을 이용하여 검사 처리로 이용하는 검사 영역을 미리 설정하는 검사 영역 설정 수단을 마련한다. 검사 영역 설정 수단은, 샘플 화상에서의 각 픽셀의 색 또는 휘도의 정보, 및, 샘플 화상에 포함되는 에지의 정보에 의거하여, 검사 영역의 내측과 외측의 사이에서의 색 또는 휘도의 픽셀 분리도와, 검사 영역의 윤곽과 에지와의 에지 겹침도의 양쪽을 평가함에 의해, 검사 영역의 최적해를 구한다. 또한, 검사 영역 설정 수단은, 유저로부터 입력된 밸런스 파라미터에 응하여, 픽셀 분리도와 에지 겹침도를 평가할 때의 무게를 조정한다.

Description

화상 검사 장치의 검사 영역 설정 방법{INSPECTION AREA SETTING METHOD FOR IMAGE INSPECTING DEVICE}
본 발명은, 화상에 의한 외관 검사를 행하는 화상 검사 장치에 관한 것이다.
생산 라인에서의 검사의 자동화·생력화(省力化)를 위해, 화상에 의한 외관 검사를 행하는 화상 검사 장치가 널리 이용되고 있다. 외관 검사의 종류나 수법에는 다양한 것이 존재하지만, 기본적인 구성은, 화상 센서(카메라)로 검사 대상물을 촬영하고, 얻어진 화상으로부터 검사 영역이 되는 부분을 추출하고, 그 검사 영역의 부분의 화상의 특징을 해석·평가함으로써, 목적하는 검사(예를 들면, 양/불량의 판정, 구분, 정보 취득 등)를 행한다는 것이다.
이런 종류의 화상 검사 장치에서는, 검사 처리를 시작하기 전에, 검사 영역의 설정 등의 준비 작업을 행할 필요가 있다. 일반적인 장치에서는, 검사 영역을 설정하기 위한 전용의 툴이 준비되어 있고, 유저는 그 툴을 사용하여 검사 대상물이나 검사목적인 정도에 응한 적절한 검사 영역을 스스로 설정할 수 있도록 되어 있다. 그렇지만, 종래의 툴은, 원·사각형 등의 단순 도형 또는 그 조합으로 검사 영역을 정의하는 기능밖에 갖지 않는다. 따라서 검사 대상물의 형상이 복잡 또는 특수한 경우에는, 검사 대상물의 윤곽에 검사 영역을 정확하게 맞출 수가 없는 것이 있다. 또한 단순 도형의 조합으로 검사 대상물의 윤곽을 표현할 수 있는 경우라도, 조합시키는 도형의 수가 많아지면 검사 영역의 설정에 막대한 시간과 작업 부담을 필요로 하여 버린다. 근래에는, 다품종 소량 생산에서의 효율 향상을 위해 일의 준비 시간을 가능한 한 단축하고 싶다는 요구가 강하고, 검사 영역의 설정에 수고가 드는 것은 바람직하지 않다. 그러나 그 한편으로, 제품 형상의 복잡화나 검사 내용의 고도화·세분화에 대응하기 위해, 또한 검사의 정밀도나 신뢰성의 향상을 위해, 검사의 대상으로 하여야 할 부분만으로 검사 영역을 정확하게 설정하고 싶다는 요구도 강하다.
검사 영역을 자동으로 설정하는 수법으로서는, 종래, 2치화나 색역(色域) 추출에 의한 검사 영역 추출 수법이 알려져 있다. 즉, 화상의 중에서 미리 설정된 휘도 범위 또는 색역에게 해당하는 픽셀군을 추출하고, 그 픽셀군을 검사 영역으로 하는 수법이다. 이 수법은, 검사 영역으로서 추출하여 싶은 부분(전경(前景))과 그 밖의 부분(배경(背景))의 휘도 또는 색의 콘트라스트가 높은 경우에는 유효하고, 예를 들면, 벨트 컨베이어상을 반송된 물품의 화상으로부터 물품 부분만을 추출한 처리 등에 이용되고 있다. 이 수법을 이용하면 상술한 복잡한 형상에의 대응, 설정 작업의 간단화라는 과제는 어느 정도 해결되지만, 여전히 하기한 바와 같은 과제가 남는다.
검사 영역으로서 추출하여 싶은 전경 부분에 조명 등의 영향에 의한 음영이 있거나, 전경 부분이 다양한 휘도 또는 색으로 구성되어 있거나, 배경의 중에 전경 부분에 가까운 색이 존재하고 있거나 하면, 2치화나 색역 추출로는 전경 부분만을 정확하게 추출하는 것은 곤란하다. 최근에는, 검사 내용의 고도화나 세분화가 진행되어, 예를 들면 성형 가공 부품에서의 하나의 절삭면만을 대상으로 한 표면 검사를 행하고 싶다든지, 다수의 부품이 실장된 프린트기판상의 하나의 부품만을 검사하고 싶다는 등, 배경과 전경의 색차가 거의 없는 케이스도 실제로 많다. 또한, 2치화나 색역 추출은, 화상의 픽셀마다 행하여지기 때문에, 노이즈나 조명 변동의 영향을 받기 쉽고, 추출한 검사 영역의 중에 픽셀의 빠짐이 있거나, 역으로 배경 부분부터 떨어져나온 지역과 같이 픽셀이 선택되어 버리거나 하여, 검사 정밀도를 저하시킨다는 문제도 있다.
특허 문헌 1에는, 검사 영역의 설정 방법으로서, 검사 대상 부품의 CAD 데이터로부터 검사 영역의 위치나 크기를 설정하는 방법, 부품 실장 전과 후의 2장의 화상의 차분을 취함으로써 검사하여야 할 영역을 인식하는 방법 등이 개시되어 있다. 이들의 방법을 사용하면 검사 영역을 자동으로 설정하는 것이 가능하지만, 이들의 방법은 적용할 수 있는 대상이 한정되어 버려, 범용성이 부족하다.
일본 특개2006-58284호 공보
Y. Boykov and M. -P. Jolly : "Interactive Graph Cuts for Optimal Boundary & Region Segmentation of Objects in N-D images", ICCV2001, 01, p. 105 (2001).
본 발명은 상기 실정을 감안하여 이루어진 것으로, 그 목적으로 하는 바는, 복잡한 형상이나 특수한 형상의 대상의 경우나, 전경과 배경의 색이 헷갈리기 쉬운 경우라도, 간단하면서 고정밀도로 검사 영역을 설정하는 것을 가능하게 하는 기술을 제공하는 것에 있다.
상기 목적을 달성하기 위해, 본 발명에서는, 검사 대상물의 샘플 화상에 대해, 색·휘도의 정보와 에지의 정보를 종합적으로 평가함에 의해, 검사 영역의 최적해(最適解)를 탐색함으로써, 자동 또는 반자동으로 검사 영역을 설정하는것을 요지로 한다.
구체적으로는, 본 발명은, 검사 대상물을 촬영하여 얻어진 원화상으로부터 검사 영역으로 하는 부분을 검사 영역 화상으로서 추출하고, 상기 검사 영역 화상을 해석함에 의해 상기 검사 대상물의 검사를 행하는 화상 검사 장치에 대해, 상기 검사 영역을 정의하는 검사 영역 정의 정보를 설정하는 검사 영역 설정 방법으로서, 컴퓨터가, 검사 대상물의 샘플을 촬영하여 얻어진 샘플 화상을 취득하는 취득 스텝과, 컴퓨터가, 상기 샘플 화상에서의 각 픽셀의 색 또는 휘도의 정보, 및, 상기 샘플 화상에 포함되는 에지의 정보에 의거하여, 검사 영역의 후보해(候補解)인 복수의 후보 영역에 관해, 각 후보 영역의 내측과 외측의 사이에서의 색 또는 휘도의 분리의 정도인 픽셀 분리도와, 각 후보 영역의 윤곽과 상기 샘플 화상 중의 에지와의 겹침의 정도인 에지 겹침도(度)의 양쪽을 평가함에 의해, 상기 복수의 후보 영역의 중에서 검사 영역의 최적해를 구하는 검사 영역 탐색 스텝과, 컴퓨터가, 상기 검사 영역 탐색 스텝에서 구하여진 검사 영역의 화상 내에서의 위치 및 형상을 정의(定義)하는 검사 영역 정의 정보를 상기 화상 검사 장치에 대해 설정하는 설정 스텝을 갖는다.
이 구성에 의하면, 샘플 화상을 이용한 최적해 탐색에 의해 검사 영역의 위치 및 형상이 결정되기 때문에, 종래와 같이 단순 도형으로 검사 영역을 손입력하는 것에 비하여, 설정 시간 및 작업 부하를 대폭적으로 경감할 수 있음과 함께, 복잡한 형상이나 특수한 형상에 대해서도 적용이 가능하다. 또한, 색·휘도의 정보에 더하여 에지의 정보도 이용하여, 검사 영역의 내측과 외측의 사이에서의 색 또는 휘도의 픽셀 분리도와 검사 영역의 윤곽의 에지 겹침도의 양쪽을 종합적으로 평가함으로써, 2치화나 색역 추출이라는 종래 수법에 비하여, 영역의 추출 정밀도를 향상할 수 있다.
컴퓨터가 유저로부터 파라미터의 입력을 접수하는 파라미터 접수 스텝을 또한 갖고 있고, 컴퓨터가, 상기 파라미터 접수 스텝에서 유저로부터 파라미터의 입력을 접수할 때마다, 입력된 파라미터를 구속 조건으로서 이용하여 상기 검사 영역 탐색 스텝을 실행함에 의해 검사 영역의 최적해를 재계산하고, 재계산된 검사 영역을 표시 장치에 표시하는 것이 바람직하다.
이 구성에 의하면, 유저는 표시 장치에 표시된 검사 영역을 봄으로써, 소망하는 영역이 검사 영역으로서 선택되어 있는지의 여부를 용이하게 확인할 수 있다. 그리고, 검사 영역이 적당하지 않은 경우에는, 파라미터를 적절히 조정하면서 재계산 결과를 즉석에서 화면상에서 확인할 수 있기 때문에, 소망하는 검사 영역에 몰아넣어 가는 것을 용이하게 할 수 있다.
상기 파라미터 접수 스텝에서는, 파라미터의 하나로서, 상기 픽셀 분리도와 상기 에지 겹침도의 밸런스를 조정하기 위한 밸런스 파라미터를 유저에게 입력시키고, 상기 검사 영역 탐색 스텝에서는, 유저로부터 입력된 밸런스 파라미터에 응하여, 상기 픽셀 분리도와 상기 에지 겹침도를 평가할 때의 무게를 조정하는 것이 바람직하다.
이와 같이 밸런스 파라미터를 유저 조정 가능하게 함으로써, 전경과 배경의 자동 분리(切分)리가 어려운 화상이라도, 간단하게 또한 단시간에 소망하는 검사 영역을 설정할 수 있게 된다.
상기 검사 영역 탐색 스텝에서는, 전경의 대표색 또는 대표휘도에 대한 후보 영역의 내측의 각 픽셀의 색 또는 휘도의 전경다움을 평가한 값, 또는, 배경의 대표색 또는 대표휘도에 대한 후보 영역의 외측의 각 픽셀의 색 또는 휘도의 배경다움을 평가한 값, 또는, 그 양쪽의 값을 종합한 값을 상기 픽셀 분리도로 하는 것이 바람직하다.
이 구성에 의하면, 검사 영역 내의 픽셀의 전경다움이 높고, 또한, 검사 영역 외의 픽셀의 배경다움이 높을수록, 픽셀 분리도가 높다는 평가가 된다. 이와 같이 전경이나 배경의 대표가 되는 색·휘도를 정하고, 그들을 기준으로 하여 검사 영역의 탐색을 행함에 의해, 타당한 해(解)에 도달할 가능성을 현격하게 높일 수 있다. 또한, 전경다움을 평가한 값을 계산할 때에는, 후보 영역의 내측의 전 픽셀을 이용하여도 좋고, 일부의 픽셀만을 이용하여도 좋다. 마찬가지로, 배경다움을 평가한 값을 계산할 때에는, 후보 영역의 외측의 전 픽셀을 이용하여도 좋고, 일부의 픽셀만을 이용하여도 좋다.
상기 검사 영역 탐색 스텝에서는, 전경의 대표색 또는 대표휘도와 배경의 대표색 또는 대표휘도와의 차가 클수록 상기 픽셀 분리도의 무게가 커지고, 상기 차가 작을수록 상기 에지 겹침도의 무게가 커지도록, 상기 픽셀 분리도와 상기 에지 겹침도를 평가할 때의 무게를 조정하는 것이 바람직하다.
이 구성은, 상술한 밸런스 파라미터를 유저가 조정하는 것이 아니고, 자동으로 적절한 값으로 조정한다는 것이다. 이에 의해, 유저의 보조가 없는 상태에서도 타당한 해에 도달할 수 있을 가능성을 높일 수 있다.
상기 파라미터 접수 스텝에서, 파라미터의 하나로서, 전경 또는 배경 또는 그 양쪽의 대표색 또는 대표휘도를 유저에게 입력시키도록 하면, 타당한 해에 도달할 가능성을 보다 한층 높일 수 있다.
이때, 상기 파라미터 접수 스텝에서는, 상기 샘플 화상을 표시 장치에 표시하고, 상기 표시된 샘플 화상상에서 전경 또는 배경으로 하여야 할 부분을 유저로 지정하게 하고, 상기 지정된 부분의 색 또는 휘도를 상기 대표색 또는 대표휘도로서 취득하는 것이 바람직하다. 이 구성에 의하면, 간단하게 또한 틀림없이 대표색이나 대표휘도를 지정할 수 있다.
파라미터로서는, 상술한 것 외에, 검사 영역의 최적해 탐색에 영향을 미칠 수 있는 것이라면, 어떤 파라미터를 주어도 좋다. 예를 들면, 검사 영역의 형상, 크기, 화상 내에서의 위치, 텍스처, 토폴로지, 인접 요소, 내포(內包) 요소 등에 관한 특징을 나타내는 정보를 파라미터로서 주고, 픽셀 분리도와 에지 겹침도에 더하여, 검사 영역의 특징과 이들의 파라미터로 부여된 특징과의 유사 정도도 높아지도록, 검사 영역의 해 탐색을 행하면 좋다. 이와 같이 검사 영역의 각종 특징을 구속 조건으로 함으로써, 타당한 해에 도달할 가능성을 보다 한층 높일 수 있다.
파라미터의 조정만으로는 소망하는 검사 영역에 도달할 수 없는, 또는, 파라미터의 시행 착오에 시간이 걸리는 경우도 상정되기 때문에, 상기 검사 영역 탐색 스텝에서 구하여진 검사 영역을 표시 장치에 표시하고, 유저로부터 입력되는 수정 지시에 따라 검사 영역의 형상을 수정하는 검사 영역 수정 스텝을 갖고 있는 것이 바람직하다. 이와 같이 검사 영역의 형상을 수정 가능하게 함으로써, 계산기에 의한 자동 추출로는 어려운 부분을 유저의 지원으로 보완할 수 있고, 결과로서 간단하면서 단시간에 최적의 검사 영역을 얻는 것이 가능해진다.
검사 영역을 수정하기 위한 조작계(操作系)로는 다양한 것이 생각된다. 예를 들면, 검사 영역의 윤곽의 전부 또는 일부를 베제 곡선 또는 스플라인 곡선의 패스로 근사(近似)하고, 상기 패스를 유저에게 수정시키도록 하여도 좋다. 이에 의해, 검사 영역의 윤곽을 간단하게 소망하는 형상으로 수정할 수 있다. 또한, 유저에게 자유 곡선을 묘화시켜, 상기 자유 곡선이 검사 영역의 윤곽의 일부가 되도록 상기 자유 곡선과 검사 영역을 합성하는 조작계나, 유저에게 검사 영역의 윤곽의 일부의 구간을 지정시켜, 지정된 구간의 윤곽을 직선 또는 원호로 치환하는 조작계나, 유저에 의해 지정된 픽셀을 검사 영역에 추가하고, 또는 검사 영역에서 제외하는 조작계도 바람직하다.
또한, 본 발명은, 상기 수단의 적어도 어느 하나를 갖는 화상 검사 장치로서 파악할 수도 있고, 상기한 검사 영역 설정에 관한 수단의 적어도 어느 하나를 갖는 화상 검사 장치를 위한 검사 영역 설정 장치로서 파악할 수도 있다. 또한 본 발명은, 상기 처리의 적어도 어느 하나를 실행하는 화상 검사 방법 또는 검사 영역 설정 방법, 또는, 이러한 방법을 컴퓨터에 실행시키기 위한 프로그램이나 이 프로그램을 기록한 기억 매체로서 파악할 수도 있다.
본 발명에 의하면, 복잡한 형상이나 특수한 형상의 대상의 경우나, 전경과 배경의 색이 헷갈리기 쉬운 경우라도, 간단하면서 고정밀도로 검사 영역을 설정할 수 있다.
도 1은 화상 검사 장치의 구성을 모식적으로 도시하는 도면.
도 2는 검사 처리의 흐름을 도시하는 플로 차트.
도 3은 검사 처리에서의 검사 영역의 추출 과정을 설명하기 위한 도면.
도 4는 설정 툴(103)을 이용하여 검사 영역을 설정하는 처리의 흐름을 도시하는 플로 차트.
도 5는 검사 영역 설정 화면의 한 예를 도시하는 도면.
도 6은 파라미터 조정에 의해 검사 영역을 몰아넣어 가는 과정의 한 예를 도시하는 도면.
도 7은 윤곽 수정 툴의 동작례를 설명하는 도면.
도 8은 윤곽 묘화 툴의 동작례를 설명하는 도면.
도 9는 원호 변환 툴의 동작례를 설명하는 도면.
도 10은 직선 변환 툴의 동작례를 설명하는 도면.
도 11은 드로우 툴의 동작례를 설명하는 도면.
이하에 도면을 참조하여 본 발명의 알맞은 실시의 형태에 관해 상세하게 설명한다.
이하에 기술하는 한 실시 형태는, 화상에 의한 외관 검사를 행하는 화상 검사 장치에 관한 것으로, 상세하게는, 화상 검사 장치에 대해 검사 영역을 설정하는 작업을 지원하기 위한 검사 영역 설정 장치에 관한 것이다. 이 화상 검사 장치는, FA의 생산 라인 등에서 다수의 물품을 자동 또는 반자동으로 연속적으로 검사하는 용도 등에 알맞게 이용되는 것이다. 검사 대상이 되는 물품의 종류는 묻지 않지만, 본 실시 형태의 화상 검사 장치에서는 화상 센서로 촬상된 원화상(元畵像)으로부터 미리 결정된 검사 영역을 추출하여 검사를 행하기 위해, 원화상 중의 검사 영역의 위치·형상이 고정인 것이 전제가 된다. 외관 검사의 목적이나 검사 항목에는 다양한 것이 존재하지만, 본 실시 형태의 검사 영역 설정 장치는 어느 검사에 대해서도 알맞게 적용할 수 있다. 또한 본 실시 형태에서는, 화상 검사 장치의 한 기능(설정 툴)이라는 형태로 검사 영역 설정 장치가 실장되고 있지만, 화상 검사 장치와 검사 영역 설정 장치를 다른 구성으로 하여도 좋다.
<제1 실시 형태>
(화상 검사 장치)
도 1은, 화상 검사 장치의 구성을 모식적으로 도시하고 있다. 이 화상 검사 장치(1)는, 반송로상을 반송되는 검사 대상물(2)의 외관 검사를 행하는 시스템이다.
도 1에 도시하는 바와 같이, 화상 검사 장치(1)는, 장치 본체(10), 화상 센서(11), 표시 장치(12), 기억 장치(13), 입력 장치(14) 등의 하드웨어로 구성된다. 화상 센서(11)은, 컬러 또는 모노클로의 정지화상 또는 동화상을 장치 본체(10)게 받아들이기 위한 디바이스이고, 예를 들면 디지털 카메라를 알맞게 이용할 수 있다. 단, 가시광상 이외의 특수한 화상(X선 화상, 서모 화상 등)을 검사에 이용하는 경우에는, 그 화상에 맞춘 센서를 이용하면 좋다. 표시 장치(12)는, 화상 센서(11)에서 받아들여진 화상, 검사 결과, 검사 처리나 설정 처리에 관한 GUI 화면을 표시하기 위한 디바이스이고, 예를 들면 액정 디스플레이 등을 이용할 수 있다. 기억 장치(13)는, 화상 검사 장치(1)가 검사 처리에서 참조하는 각종의 설정 정보(검사 영역 정의 정보, 검사 로직 등)나 검사 결과 등을 격납하는 디바이스이고, 예를 들면 HDD, SSD, 플래시 메모리, 네트워크 스토리지 등을 이용 가능하다. 입력 장치(14)는, 유저가 장치 본체(10)에 대해 지시를 입력하기 위해 조작하는 디바이스이고, 예를 들면 마우스, 키보드, 터치 패널, 전용 콘솔 등을 이용 가능하다.
장치 본체(10)은, 하드웨어로서, CPU(중앙 연산 처리 장치), 주기억 장치(RAM), 보조 기억 장치(ROM, HDD, SSD 등)를 구비한 컴퓨터로 구성할 수 있고, 그 기능으로서, 검사 처리부(101), 검사 영역 추출부(102), 설정 툴(103)을 갖고 있다. 검사 처리부(101)와 검사 영역 추출부(102)가 검사 처리에 관한 기능이고, 설정 툴(103)은 검사 처리에 필요한 설정 정보의 유저에 의한 설정 작업을 지원하는 기능이다. 이들의 기능은, 보조 기억 장치 또는 기억 장치(13)에 격납된 컴퓨터·프로그램이 주기억 장치에 로드되고, CPU에 의해 실행됨으로써 실현된다. 또한, 도 1은 장치 구성의 한 예를 나타내는 것에 지나지 않고, 화상 센서(11), 표시 장치(12), 기억 장치(13), 입력 장치(14)의 전부 또는 일부를 장치 본체(10)에 일체화하여도 좋다. 또한 장치 본체(10)는, 퍼스널 컴퓨터나 슬레이트형 단말과 같은 컴퓨터로 구성하여도 좋고, 또는, 전용 칩이나 온 보드 컴퓨터 등으로 구성할 수도 있다.
(검사 처리)
도 2 및 도 3을 참조하여, 화상 검사 장치(1)의 검사 처리에 관한 동작을 설명한다. 도 2는, 검사 처리의 흐름을 도시하는 플로 차트이고, 도 3은, 검사 처리에서의 검사 영역의 추출 과정을 설명하기 위한 도면이다. 여기서는, 설명의 편리를 위해, 휴대 전화의 몸체 부품의 패널면의 검사(흠집, 색얼룩의 검출)를 예로 들어 검사 처리의 흐름을 설명한다.
스텝 S20에서는, 화상 센서(11)에 의해 검사 대상물(2)가 촬영되고, 화상 데이터가 장치 본체(10)에게 받아들여진다. 여기에서 받아들여진 화상(원화상)은 필요에 응하여 표시 장치(12)에 표시된다. 도 3의 상단은 원화상의 한 예를 도시하고 있다. 원화상의 중앙에 검사 대상이 되는 몸체 부품(2)가 찍혀져 있고, 그 좌우에는 반송로상의 옆에 있는 몸체 부품의 일부가 찍혀 들어와 있다.
스텝 S21에서는, 검사 영역 추출부(102)가, 기억 장치(13)으로부터 필요한 설정 정보를 판독한다. 설정 정보에는, 적어도 검사 영역 정의 정보와 검사 로직이 포함된다. 검사 영역 정의 정보란, 원화상으로부터 추출하여야 할 검사 영역의 위치·형상을 정의하는 정보이다. 검사 영역 정의 정보의 형식은 임의이고, 예를 들면 검사 영역의 내측과 외측에서 라벨을 바꾼 비트 마스크나, 검사 영역의 윤곽을 베제 곡선이나 스플라인 곡선으로 표현한 벡터 데이터 등을 이용할 수 있다. 검사 로직이란, 검사 처리의 내용을 정의하는 정보이고, 예를 들면, 검사에 이용하는 특징량의 종류, 판정 방법, 특징량 추출이나 판정 처리에서 이용하는 파라미터나 임계치 등이 해당한다.
스텝 S22에서는, 검사 영역 추출부(102)가, 검사 영역 정의 정보에 따라, 원화상으로부터 검사 영역으로 하는 부분을 추출한다. 도 3의 중단은, 검사 영역 정의 정보로 정의된 검사 영역(크로스 해칭으로 나타낸다)(30)을 원화상에 겹친 양상을 나타내고 있다. 검사 영역(30)이 정확하게 몸체 부품(2)의 패널면의 위에 겹쳐져 있음을 알 수 있다. 도 3의 하단은, 원화상으로부터 검사 영역(30)의 부분의 화상(검사 영역 화상(31))을 추출한 양상을 나타내고 있다. 검사 영역 화상(31)에서는, 몸체 부품(2)의 주변에 찍혀저 있던 반송 경로나 옆의 부품이 삭제되어 있다. 또한, 표면 검사의 대상 부위로부터 제외되는, 힌지 부분(20)이나 버튼 부분(21)도 삭제되어 있다. 이와 같이 하여 얻어진 검사 영역 화상(31)은 검사 처리부(101)에 인도된다.
스텝 S23에서는, 검사 처리부(101)가, 검사 로직에 따라, 검사 영역 화상(31)으로부터 필요한 특징량을 추출한다. 본 예에서는, 표면의 흠집·색얼룩의 검사를 행하기 위한 특징량으로서, 검사 영역 화상(31)의 각 픽셀의 색과 그 평균치가 추출된다.
스텝 S24에서는, 검사 처리부(101)가, 검사 로직에 따라, 흠집·색얼룩의 유무를 판정한다. 예를 들면, 스텝 S23에서 얻어진 평균치에 대한 색차가 임계치를 초과한 픽셀군이 검출된 경우에, 그 픽셀군을 흠집 또는 색얼룩이라고 판정할 수 있다.
스텝 S25에서는, 검사 처리부(101)가 검사 결과를 표시 장치(12)에 표시하거나, 기억 장치(13)에 기록한다. 이상으로, 하나의 검사 대상물(2)에 대한 검사 처리가 완료된다. 생산 라인에서는, 검사 대상물(2)이 화상 센서(11)의 화각 내에 반송된 타이밍과 동기하여, 도 2의 스텝 S20 내지 S25의 처리가 반복된다.
외관 검사에서는, 검사의 대상으로 하여야 할 픽셀만을 과부족 없이 검사 영역 화상(31)으로서 절출(切出)할 것이 바람직하다. 검사 영역 화상(31)의 중에 배경 부분이나 쓸데없는 부분(도 3의 예로는 힌지 부분(20)이나 버튼 부분(21))이 포함되어 있거나 하면 그 픽셀이 노이즈가 되어 검사 정밀도를 저하시킬 우려가 있고, 역으로, 검사 영역 화상(31)이 검사의 대상으로 하여야 할 범위보다도 작으면, 검사의 누락이 생길 우려가 있기 때문이다. 그래서 본 실시 형태의 화상 검사 장치(1)에서는, 정확한 검사 영역 화상을 절출하기 위한 검사 영역 정의 정보를 간단하게 작성하기 위한 설정 툴(103)을 준비하고 있다.
(검사 영역의 설정 처리)
도 4 및 도 5를 참조하여, 설정 툴(103)의 기능 및 동작에 관해 설명한다. 도 4는, 설정 툴(103)을 이용하여 검사 영역을 설정하는 처리의 흐름을 도시하는 플로 차트이고, 도 5는, 검사 영역 설정 화면의 한 예를 도시하는 도면이다.
설정 툴(103)을 기동하면, 표시 장치(12)에 도 5의 설정 화면이 표시된다. 이 설정 화면에는, 화상 윈도우(50), 화상 받아들임 버튼(51), 전경 지정 버튼(52), 배경 지정 버튼(53), 우도 조정 슬라이더(54), 확정 버튼(55)이 마련되어 있다. 버튼의 선택이나 슬라이더의 이동 등의 조작은 입력 장치(14)를 이용하여 행할 수 있다. 또한 이 설정 화면은 어디까지나 한 예에 지나지 않고, 이하에 기술하는 파라미터 입력이나 검사 영역의 확인 등을 행할 수가 있으면 어떤 UI를 이용하여도 좋다.
화상 받아들임 버튼(51)이 눌러지면, 설정 툴(103)은 화상 센서(11)에 의해 검사 대상물의 샘플을 촬영한다(스텝 S40). 샘플로서는 양품의 검사 대상물(상기한 예라면 몸체 부품)을 이용하여, 실제의 검사 처리의 경우와 같은 상태(화상 센서(11)과 샘플의 상대 위치, 조명 등)로 촬영을 행하여도 좋다. 얻어진 샘플 화상 데이터는 장치 본체(10)에게 받아들여진다. 또한, 사전에 촬영된 샘플 화상이 장치 본체(10)의 보조 기억 장치나 기억 장치(13)의 중에 존재하는 경우에는, 설정 툴(103)은 보조 기억 장치 또는 기억 장치(13)으로부터 샘플 화상의 데이터를 판독하여도 좋다.
스텝 S40에서 취득한 샘플 화상은, 도 5에 도시하는 바와 같이, 설정 화면의 화상 윈도우(50)에 표시된다(스텝 S41).
스텝 S42에서는, 유저가 전경과 배경의 대표색(모노클로 화상의 경우는 대표휘도)을 입력한다. 전경이란, 검사 영역으로서 추출하여야 할 부분을 가리키고, 배경이란, 검사 영역 이외의 부분을 가리킨다. 전경의 대표색을 입력하는 경우, 유저는, 설정 화면의 전경 지정 버튼(52)를 눌러서 전경 지정 모드로 한 후, 화상 윈도우(50)에 표시된 샘플 화상상에서 전경으로 하여야 할 부분을 지정한다. 여기서의 지정은, 전경의 대표적인 색을 픽업하는 것이 목적이므로, 도 5의 예라면, 몸체 부품의 패널면의 일부의 픽셀 또는 픽셀군을 적당하게 선택하면 좋다. 만약 전경의 중에 모양, 음영, 색의 크게 다른 부분 등이 포함되어 있는 경우에는, 그들의 색을 가능한 한 망라하도록 픽셀군을 선택하는 것이 바람직하다. 배경의 대표색을 입력하는 경우는, 배경 지정 버튼(53)을 눌러서 배경 지정 모드로 전환한 후, 같은 조작을 행한다. 또한, 전경과 배경의 대표색의 입력은 필수가 아니다. 전경과 배경의 어느 한쪽만을 입력하여도 좋고, 대표색이 기지(旣知)인 경우나, 샘플 화상의 색 분포 등으로부터 자동으로 대표색을 산출할 수 있는 경우에는, 스텝 S42를 생략하여도 좋다.
스텝 S43에서는, 설정 툴(103)은, 스텝 S42에서 지정된 전경·배경의 대표색에 의거하여, 샘플 화상을 전경과 배경으로 분리(세그멘테이션)하고, 그 전경 부분을 검사 영역으로서 선택한다. 본 실시 형태에서는, 샘플 화상의 각 픽셀의 색의 정보에 더하여, 샘플 화상에 포함되는 에지의 정보도 이용하여, 검사 영역의 후보해인 복수의 후보 영역에 관해, 전경과 배경의 사이(즉 후보 영역의 내측과 외측의 사이)에서의 색의 분리의 정도(이것을 픽셀 분리도라고 부른다)와, 전경과 배경의 경계(즉 후보 영역의 윤곽)와 샘플 화상 중의 에지와의 겹침의 정도(이것을 에지 겹침도라고 부른다)의 양쪽을 종합적으로 평가하고, 픽셀 분리도와 에지 겹침도의 양쪽을 높게하는 최적해를 탐색한다. 검사 영역의 상세한 계산 방법에 관해서는 후술한다.
스텝 S44에서는, 스텝 S43에서 계산된 검사 영역을 설정 화면의 화상 윈도우(50)에 표시한다. 유저는 설정 화면에 표시된 검사 영역을 봄으로써, 소망하는 영역이 검사 영역으로서 선택되어 있는지의 여부를 확인할 수 있다. 이때, 샘플 화상의 위에 검사 영역을 오버레이 표시하면, 검사 대상물과 검사 영역과의 비교가 용이해지기 때문에 바람직하다.
그 후, 설정 툴(103)은, 유저로부터의 입력을 기다린다(스텝 S45). 확정 버튼(55)가 눌러진 경우는, 설정 툴(103)은, 현재의 검사 영역에 관해 검사 영역 정의 정보를 생성하고 기억 장치(13)에게 격납한다(스텝 S46). 한편, 화면 표시되어 있는 검사 영역이 적당하지 않은 경우는, 유저는, 전경 지정 버튼(52), 배경 지정 버튼(53), 우도 조정 슬라이더(54)를 조작하고 파라미터를 조정할 수 있다(스텝 S47). 전경 또는 배경의 대표색을 다시 지정하면, 전술한 픽셀 분리도의 평가에 영향을 준다. 또한 우도 조정 슬라이더(54)로 색정보와 에지 정보의 사이의 우도를 변경하면, 전술한 픽셀 분리도와 에지 겹침도를 평가할 때의 밸런스(무게)를 바꿀 수 있다. 설정 툴(103)은, 유저로부터 파라미터의 입력(변경)을 접수하면, 이 새로운 파라미터를 구속 조건으로서 이용하여 검사 영역의 최적해를 재계산하고, 재계산 후의 검사 영역을 화면 표시한다(스텝 S47→ S43, S44). 이와 같은 기능에 의해, 파라미터를 적절히 조정하면서, 소망하는 결과를 얻을 수 있을 때까지 검사 영역의 계산을 반복할 수 있다.
도 6은, 파라미터 조정에 의해 검사 영역을 몰아넣어 가는 과정의 한 예를 도시하고 있다. 최초의 계산으로 얻어진 검사 영역(30)을 상단에 도시한다. 최초의 계산 결과에서는, 몸체 부품의 힌지 부분(20)이나 버튼 부분(21)도 검사 영역(30)에 포함되어 있지만, 여기서는 패널면의 흠집·색얼룩을 검사하는 것이 목적이기 때문에 힌지 부분(20)과 버튼 부분(21)은 검사 영역에서 제외하고 싶다(도 3 참조). 그래서 우선, 유저는, 배경 지정 버튼(53)을 눌러서 배경 지정 모드로 전환하여, 샘플 화상 중의 버튼 부분(21)의 색을 배경의 대표색으로 추가 지정한다. 이에 의해, 중단에 도시하는 화상례와 같이, 버튼 부분(21)이 검사 영역(30)으로부터 제외된다. 다음에, 힌지 부분(20)에 관해서는, 패널면과의 색의 차가 작기 때문에 밸런스 파라미터의 조정으로 대처한다. 즉, 힌지 부분(20)과 패널면과의 사이의 단차(段差)에 생긴 에지에 주목하여, 우도 조정 슬라이더(54)로 에지 정보의 우도를 높게 한다. 이에 의해, 하단에 도시하는 화상례와 같이, 힌지 부분(20)과 부품 표면과의 에지에 검사 영역(30)의 윤곽이 설정되어, 소망하는 검사 영역(30)이 형성된다.
(검사 영역의 계산)
도 4의 스텝 S43의 검사 영역의 계산 방법에 관해 설명한다.
전술한 바와 같이, 본 실시 형태의 설정 툴(103)에서는, 전경과 배경의 사이에서의 픽셀 분리도와, 전경과 배경의 경계의 에지 겹침도의 양쪽을 종합적으로 평가함에 의해, 검사 영역의 후보해의 중에서 최적해를 구한다. 이 계산은, 색정보에 의거한 픽셀 분리도를 평가하는 함수와 에지 정보에 의거한 에지 겹침도를 평가하는 함수를 포함하는 목적 함수를 최소화(또는 최대화)한 최적화 문제로서 파악할 수 있다. 이하, 그래프 컷트 알고리즘을 이용하여 검사 영역의 최적화 문제를 푸는 수법에 관해 설명한다. 또한, 그래프 컷트 알고리즘은 공지의 수법이기 때문에(비특허 문헌 1 참조), 본 명세서에서는 그래프 컷트 알고리즘의 기본 개념의 설명은 할애하고, 이하에서는 본 실시 형태에 특유한 부분을 중심으로 설명을 행한다.
그래프 컷트 알고리즘에서는, 목적 함수로서 하기 식과 같이 에너지 함수를 정의하고, I가 주어질 때에 에너지E를 최소화하는 해(L)을 구한다. 본 예에서는, I가 샘플 화상이고, L이 전경인지 배경인지를 나타내는 라벨(즉 검사 영역)이다.
[수식 1]
Figure pct00001
여기서, i, j는 픽셀의 인덱스이고, Ω는 화상(I) 중의 픽셀군이고, N은 화상(I)에서의 인접 픽셀 페어군이다. 또한 li, lj는 각각 픽셀(i, j)의 지정 라벨이다. 전경인 경우는 「1」, 배경인 경우는 「0」이라는 라벨이 주어지는 것으로 한다. 우변 제1항은 데이터항이라고 불리고, 대상 픽셀(i)에 관한 구속 조건을 준다. 우변 제2항은 평활화항이라고 불리고, 서로 인접하는 픽셀(i, j)에 관한 구속 조건을 준다. λ는, 데이터항과 평활화항의 무게(밸런스)를 결정하는 밸런스 파라미터이다.
데이터항은, 전술한 색정보에 의거한 픽셀 분리도를 평가하는 함수로 정의된다. 예를 들면, 하기 식에 의해 데이터항의 평가 함수(U)를 정의하면 좋다.
[수식 2]
Figure pct00002
여기서, -logp(I|li=1)는, 전경 대표색에 대한 전경 픽셀(전경 라벨「1」이 붙여진 픽셀)의 전경다움을 나타내는 함수(대수우도(對數尤度))이고, 전경우도(前景尤度)라고 부른다. 전경우도에서 확률 밀도 함수는 전경 대표색으로부터 추정한 것(예를 들면 전경 대표색의 색 분포를 가우스 혼합 모델로 근사한 것)을 이용한다. 한편, -logp(I|li=0)는, 배경 대표색에 대한 배경 픽셀(배경 라벨「0」이 붙여진 픽셀)의 배경다움을 나타내는 함수(대수우도)이고, 배경우도라고 부른다. 배경우도에서의 확률 밀도 함수는 배경 대표색으로부터 추정한 것(예를 들면 배경 대표색의 색 분포를 가우스 혼합 모델로 근사한 것)을 이용한다. 즉, 데이터항은 각 전경 픽셀의 전경우도와 각 배경 픽셀의 배경우도의 총합을 나타내고 있고, 전경 픽셀의 색이 전경 대표색에 가까울수록, 또한 배경 픽셀의 색이 배경 대표색에 가까울수록, 에너지가 작아지고, 역으로 전경 픽셀의 색이 전경 대표색으로부터 떨어질수록, 또한 배경 픽셀의 색이 배경 대표색으로부터 떨어질수록, 에너지가 커진다.
평활화항은, 전술한 에지 정보에 의거한 에지 겹침도를 평가하는 함수로 정의된다. 예를 들면, 하기 식에 의해 평활화항의 평가 함수(V)를 정의할 수 있다.
[수식 3]
Figure pct00003
여기서, Ii, Ij는 각각 픽셀(i, j)의 픽셀값(색 또는 휘도)이고, β는 계수이다. ∥Ii-Ij∥2는, 소정의 색 공간상에서의 픽셀값의 차분(거리), 즉 픽셀 사이의 콘트라스트의 높이를 나타내고 있다.
상기 식에 의하면, 인접하는 픽셀(i, j)의 라벨이 다른 경우에, 픽셀(i, j)의 콘트라스트가 낮으면 에너지가 커지고, 콘트라스트가 높으면 에너지가 작아진다. 인접하는 픽셀의 콘트라스트가 높은 부분은, 화상 중의 색 또는 휘도가 크게 변화하고 있는 부분, 즉 화상에서의 에지부분이다. 즉, 상기 식은, 전경과 배경의 경계(라벨이 다른 픽셀 페어)가 화상 중의 에지에 겹쳐져 있을수록, 에너지가 작아진다.
이상 기술한 에너지 함수는, 일정한 수학적 조건(submodularity)이 충족되어 있는 경우에는, 대국적(大局的) 최소해가 존재한다. 또한, 마찬가지로 submodularity를 충족시키는 항을 부가하여 구속 조건부로 대국적 최소해를 구할 수도 있다. 또한 대국적 최소해의 효율적인 해법에 관해서는, 공지의인 탐색 알고리즘을 이용하면 좋기 때문에, 여기서는 상세한 설명은 생략한다.
전술한 설정 화면에서 조정 가능한 파라미터 중 ·전경 대표색」과 「배경 대표색」은 데이터항의 값에 영향을 미치는 것이다. 또한, 「색정보와 에지 정보의 우도」는, 밸런스 파라미터(λ)에 대응한다. 즉, 유저가 색정보의 우도를 크게 하면, 파라미터(λ)의 값을 작게 하여 데이터항의 무게를 크게 하고, 유저가 에지 정보의 우도를 크게 하면, 파라미터(λ)의 값을 크게 하여 평활화항의 무게를 크게 하는 것이다. 또한, 파라미터(λ)의 값에 관해서는, 계산기(설정 툴(103))에 의해 자동적으로 결정할 수도 있다. 예를 들면, 설정 툴(103)이 전경 대표색과 배경 대표색과의 차를 계산하고, 그 차가 큰 때에는 파라미터(λ)의 값을 작게 하고, 데이터항의 무게를 크게 한다. 전경과 배경의 색의 차가 명확한 경우는, 데이터항의 신뢰성이 높다고 추정할 수 있기 때문이다. 역으로, 전경 대표색과 배경 대표색의 차가 작은 때에는 파라미터(λ)의 값을 크게 하여, 평활화항의 무게를 크게 한다. 전경과 배경의 색의 차가 명확지 않은 경우는, 색정보보다도 에지 정보에 의거한 영역 분할쪽이 좋은 결과를 얻을 수 있는 경향에 있기 때문이다. 이와 같이 밸런스 파라미터(λ)를 자동 조정함으로써, 유저의 보조가 없는 상태에서도 타당한 해에 도달할 수 있을 가능성을 높일 수 있다. 바람하게는, 밸런스 파라미터(λ)의 초기치를 상기 방법에 의해 자동으로 결정하고, 그것을 출발점으로 하여 유저에게 밸런스 파라미터(λ)(색정보와 에지 정보의 우도)를 조정시키면 좋다. 초기치의 타당성이 높을수록, 유저의 시행 착오의 회수를 줄일 수 있고, 파라미터 조정에 걸리는 작업 부하를 경감할 수 있다고 기대할 수 있기 때문이다.
또한, 상술한 식(2)에서는, 전경 픽셀의 전경다움(전경우도)과 배경 픽셀의 배경다움(배경우도)의 총합을 데이터항으로서 이용하였지만, 픽셀 분리도의 평가 함수는 이것으로 한하지 않는다. 예를 들면, 전경다움과 배경다움의 곱, 무게부여의 합, 무게부여의 곱, 비선형 함수 합, 비선형 함수 곱 등을 이용하여도 좋다. 또한 비선형 함수로서는 단조 증가 함수를 이용하면 좋다. 또한, 전경다움과 배경다움의 양쪽을 평가하는 것이 아니고, 전경다움만, 또는, 배경다움만을 평가한 것을 픽셀 분리도로서 이용할 수도 있다. 구체적으로는, 식(2)에서, li=0인 경우(또는 li=1인 경우)에 U(li|I)=0이 되는 함수를 이용할 수 있다. 하기 식(4)은, 전경다움만을 평가하는 함수이다.
[수식 4]
Figure pct00004
또한, 전경다움의 계산에는, 모든 전경 픽셀(즉 후보 영역의 내측의 모든 픽셀)을 이용하여도 좋고, 일부의 전경 픽셀만을 이용하여도 좋다. 마찬가지로, 배경다움의 계산에 관해서도, 모든 배경 픽셀(즉 후보 영역의 외측의 모든 픽셀)을 이용하여도 좋고, 일부의 배경 픽셀만을 이용하여도 좋다. 예를 들면, 라벨이 확정되어 있는 픽셀을 계산으로부터 제외하거나, 후보 영역의 윤곽으로부터 소정 거리 내의 픽셀만을 계산에 이용하거나 함에 의해, 계산 시간의 단축을 도모할 수 있다.
또한, 전경다움 또는 배경다움을 평가하는 함수는 식(2)의 것으로 한정되지 않는다. 예를 들면, 하기 식과 같이 전경우도와 배경우도의 비인 우도비를 이용할 수 있다.
[수식 5]
Figure pct00005
유저에 의해 전경 대표색으로서 지정된 픽셀군의 히스토그램을 직접 이용하여(확률 밀도 함수를 추정하는 일 없이), 그 전경 대표색 히스토그램에 대한 각 픽셀의 색의 유사도에 의거하여 전경다움을 평가하거나, 역으로 전경 대표색 히스토그램에 대한 각 픽셀의 색의 상위도(相違度)에 의거하여 배경다움을 평가하거나 하여도 좋다. 마찬가지로, 유저에 의해 배경 대표색으로서 지정된 픽셀군의 히스토그램(배경 대표색 히스토그램)에 대한 유사도에 의거하여 배경다움을 평가하거나, 배경 대표색 히스토그램에 대한 상위도에 의거하여 전경다움을 평가하거나 하여도 좋다. 또는, 후보 영역의 전경 픽셀군에서 구한 전경 히스토그램이나 배경 픽셀군에서 구한 배경 히스토그램과, 상기 전경 대표색 히스토그램이나 배경 대표색 히스토그램과의 사이의 유사도 또는 상위도를, 소정의 함수나 거리 지표를 이용하여 계산하여도 좋다. 또는, 픽셀군의 색이나 휘도의 정보로부터 히스토그램을 근사한 것을 계산하고, 그 히스토그램을 근사한 것을 이용하여 유사도나 상위도를 계산하여도 좋다.
(추가적인 파라미터)
상기 예에서는, 전경 대표색, 배경 대표색, 색정보와 에지 정보의 우도의 3개의 파라미터에 관해 설명하였지만, 이들 외에도, 검사 영역의 최적해 탐색에 영향을 미칠 수 있는 것이라면, 어떤 파라미터를 이용하여 좋다. 예를 들면, 외관 검사의 대상물로서는 공업 제품이 주(主)이기 때문에, 검사 영역이 되는 부분의 형상, 텍스처, 토폴로지, 검사 영역에 인접하는 요소, 검사 영역에 내포되는 요소 등에 특징이 있는 케이스가 많다. 또한 화상 센서의 설치에 즈음하여 검사 대상물이 정확히 알맞게 화각(畵角)에 수속되도록 설정되기 때문에, 검사 영역이 되는 부분의 크기나 화상 내에서의 위치는 어느 정도 예측할 수 있다. 그 때문에, 이와 같은 검사 영역의 특징을 나타내는 정보를 파라미터로서 유저에게 입력시키고, 그 파라미터로 주어진 특징과 검사 영역의 특징과의 유사 정도를 평가하는 구속 조건을 목적 함수의 중에 추가함으로써, 타당한 검사 영역이 탐색될 가능성을 보다 한층 높일 수 있다.
검사 영역의 형상에 관한 특징을 나타내는 형상 정보로서는, 검사 영역의 기본 형상(원형, 사각형, 삼각형, 성형(星形) …)이나, 윤곽의 특징(직선적인 외형, 둥글게 됨이 있는 외형, 들쭉날쭉이 많은 …) 등을 이용할 수 있다. 형상 정보를 입력하는 UI로서는, 기본 형상의 템플릿이나 윤곽의 특징을 리스트 표시하고, 그 중에서 해당하는 것을 유저에게 선택시키면 좋다. 기본 형상의 템플릿이 지정된 경우에는, 예를 들면, 구속 조건으로서 하기 식을 삽입하면 좋다.
[수식 6]
Figure pct00006
여기서, li는 픽셀(i)의 지정 라벨이고, ti는 템플릿상의 픽셀(i)에 대응하는 점의 라벨이다. T()는 아핀 변환을 나타낸다. 상기 식은, 지정된 템플릿을 확대/축소, 회전, 변형 등 하면서 후보 영역에 대해 템플릿 매칭을 행하여, 최소 스코어를 계산한다, 라는 조작을 나타내고 있다. 즉, 이 구속 조건을 가함에 의해, 유저 지정의 기본 형상에 가까운 형상을 갖는 영역의 쪽이 에너지가 작아지고, 최적해로서 우선적으로 선택되게 된다.
또한, 윤곽의 특징으로서 들쭉날쭉 정도 또는 매끈한 정도가 지정된 경우에는, 예를 들면, 구속 조건으로서 하기 식을 삽입하면 좋다.
[수식 7]
Figure pct00007
여기서, S는 전경 영역의 윤곽상의 점, θ는 윤곽의 구배각도이고, ∂θ/∂S는 전경 영역의 윤곽에 따른 구배 각도의 변화량을 나타내고 있다. 또한, C는 유저에 의해 지정된 들쭉날쭉 정도(매끈한 정도)를 나타내는 정수이고, 들쭉날쭉할수록 C는 크고, 매끈할수록 C는 작은 값이 된다. 상기 식은, 전경 영역의 윤곽의 구배 각도의 변화량의 합계치(윤곽의 들쭉날쭉 정도를 나타낸다)가 값(C)(지정된 들쭉날쭉 정도를 나타낸다)에 가까운지의 여부를 평가하는 함수이다. 즉, 이 구속 조건을 가함에 의해, 유저 지정의 들쭉날쭉 정도에 가까운 윤곽 특징을 갖는 영역의 쪽이 최적해로서 우선적으로 선택되게 된다.
검사 영역의 크기에 관한 특징을 나타내는 크기 정보로서는, 검사 영역의 면적, 종횡의 길이 등을 이용할 수 있다. 크기 정보로서 면적이 입력된 경우에는, 예를 들면, 구속 조건으로서 하기 식을 삽입하면 좋다.
[수식 8]
Figure pct00008
여기서, C는 유저에 의해 지정된 전경 영역의 면적(픽셀수)이다. 전경 라벨은 1, 배경 라벨은 0이기 때문에, Σli는 전경 픽셀의 총수, 즉 전경 영역의 면적을 나타내고 있다. 따라서 상기 식은, 전경 영역의 면적이 지정된 면적(C)에게 가까운지의 여부를 평가하는 함수이다. 이 구속 조건을 가함에 의해, 유저 지정의 면적에 가까운 크기의 영역의 쪽이 최적해로서 우선적으로 선택되게 된다.
검사 영역의 화상 내에서의 위치에 관한 특징을 나타내는 위치 정보로서는, 검사 영역의 중심(重心) 좌표, 검사 영역의 존재 범위(상, 하, 우, 좌, 중앙 …) 등을 이용할 수 있다. 위치 정보로서 중심 좌표가 입력된 경우에는, 예를 들면, 구속 조건으로서 하기 식을 삽입하면 좋다.
[수식 9]
Figure pct00009
여기서, w는 전경 영역의 중심 좌표이고, C는 유저에 의해 지정된 중심 좌표이다. 상기 식은, 전경 영역의 중심 좌표가 지정된 좌표(C)에 가까운지의 여부를 평가하는 함수이다. 이 구속 조건을 가함에 의해, 유저 지정의 좌표에 가까운 위치에 중심을 갖는 영역의 쪽이 최적해로서 우선적으로 선택되게 된다.
검사 영역의 텍스처에 관한 특징을 나타내는 텍스처 정보로서는, 검사 영역 내의 모양, 색의 농담, 요철, 소재 등을 나타내는 정보를 이용할 수 있다. 예를 들면, 각종의 텍스처 템플릿을 리스트 표시하고, 그 중에서 해당하는 것을 유저에게 선택시키면 좋다. 텍스처 템플릿이 입력된 경우에는, 예를 들면, 구속 조건으로서 하기 식을 삽입하면 좋다.
[수식 10]
Figure pct00010
여기서, I는 샘플 화상이고, E는 유저에 의해 지정된 텍스처 템플릿이다. hl=1()는 전경 픽셀의 색 히스토그램을 나타내고 있고, f()는 히스토그램의 유사도를 나타내는 함수이다. 즉, 상기 식은, 샘플 화상 중의 전경 영역의 색 히스토그램이, 지정된 텍스처의 색 히스토그램에 유사한지의 여부를 평가하는 함수이다. 이 구속 조건을 가함에 의해, 유저 지정의 텍스처에 유사한 텍스처를 갖는 영역의 쪽이 최적해로서 우선적으로 선택되게 된다.
(본 실시 형태의 이점)
이상 기술한 본 실시 형태의 설정 툴(103)에 의하면, 샘플 화상을 이용한 최적해 탐색에 의해 검사 영역의 위치 및 형상이 결정되기 때문에, 종래와 같이 단순 도형으로 검사 영역을 손입력하는 것에 비하여, 설정 시간 및 작업 부하를 대폭적으로 경감할 수 있음과 함께, 복잡한 형상이나 특수한 형상에 대해서도 적용이 가능하다. 또한, 색·휘도의 정보에 더하여 에지의 정보도 이용하여, 검사 영역의 내측과 외측의 사이에서의 색 또는 휘도의 픽셀 분리도와 검사 영역의 윤곽과 에지와의 에지 겹침도의 양쪽을 종합적으로 평가함으로써, 2치화나 색역 추출이라는 종래 수법애 비하여, 영역의 추출 정밀도를 향상할 수 있다.
또한, 본 실시 형태의 설정 툴(103)은, 설정 화면에서, 색정보와 에지 정보의 우도의 어느 쪽을 우선시키는지를 유저에게 임의로 선택하게 할 수 있다. 예를 들면, 전경이나 배경의 중에 모양이 포함되어 있는 등 의사 윤곽이 많은 화상의 경우는 에지의 정보보다도 색·휘도의 정보를 우선한 쪽이 좋은 결과를 얻을 수 있을 가능성이 높고, 전경과 배경의 색이 비슷한 화상의 경우는 에지의 정보를 우선한 쪽이 좋은 결과를 얻을 수 있을 가능성이 높다. 이와 같은 전경과 배경의 분리가 곤란한 화상에 대해, 완전 자동으로 정해에 더듬어 도착하는 것은 매우 곤란하다. 그 한편으로, 어느 쪽을 우선시키는 것이 당연한가는 인간이라면 화상을 보고 용이하게 판단할 수 있고, 시행 착오에 의해 파라미터를 몰아넣는 것도 용이하다. 따라서 상기 구성과 같이 밸런스 파라미터를 조정 가능하게 함에 의해, 간단하게 또한 단시간에 소망하는 검사 영역을 설정할 수 있게 된다.
<제2 실시 형태>
다음에 본 발명의 제2 실시 형태에 관해 설명한다. 제1 실시 형태의 설정 툴에서는, 전경·배경의 대표색이나 색과 에지의 우도 등의 파라미터를 조정함으로써, 검사 영역의 몰아넣음을 가능하게 하고 있다. 그러나, 이와 같은 파라미터의 조정만으로는 유저가 의도하는 검사 영역의 형상에 도달할 수가 없을(다소의 오차가 남을) 가능성이나, 파라미터의 시행 착오에 시간이 걸리는 경우도 상정된다. 그래서 제2 실시 형태의 설정 툴에서는, 계산에 의해 검사 영역을 구한 후에, 그 형상을 유저가 인터랙티브하게 손으로 고칠수 있는 검사 영역 수정 기능을 마련하는 것으로 한다.
이하, 본 실시 형태의 설정 툴이 제공하는 검사 영역 수정 기능의 한 예로서, (1) 윤곽 수정 툴, (2) 윤곽 묘화 툴, (3) 원호 변환 툴, (4) 직선 변환 툴, (5) 드로우 툴에 관해 설명을 행한다. 이들의 툴은, 예를 들면 도 5의 설정 화면으로부터 기동할 수 있도록 하면 좋다. 또한 화상 검사 장치의 구성, 검사 처리의 동작, 검사 영역의 자동 계산(최적화)의 동작 등은 제1 실시 형태의 것과 같기 때문에, 설명은 생략한다.
(1) 윤곽 수정 툴
도 7은, 윤곽 수정 툴의 동작례를 설명하는 도면이다. (a)는 검사 대상물(샘플)(70)의 화상, (b)는 검사 영역(71)의 자동 계산 결과를 도시하고 있다. 검사 대상물(70)의 윤곽과 검사 영역(71)의 윤곽에 도면으로 도시하는 바와 같은 어긋남이 생기고 있는 것이라고 가정한다.
유저가 윤곽 수정 툴을 기동하면, 윤곽 수정 툴은 우선 검사 영역(71)의 윤곽을 베제 곡선 또는 스플라인 곡선의 패스(72)로 근사하고, (c)에 도시하는 바와 같이, 패스(72)를 컨트롤 포인트(73)와 함께 화면 표시한다. 이때, 검사 대상물(70)의 화상의 위에 패스(72) 및 컨트롤 포인트(73)가 오버레이 표시된다. 유저는 입력 장치(14)를 이용하여, 컨트롤 포인트(73)의 수정, 추가, 삭제를 행함으로써, 패스(72)의 형상을 자유롭게 수정할 수 있다. 유저에 의해 수정된 결과는 즉석에서 화면 표시에 반영된다. 따라서 유저는, 화면에서 확인을 하면서, 패스(72)의 형상을 검사 영역(71)의 윤곽에 용이하게 맞출 수 있다. (d)는 수정 후의 패스(72)를 나타내고 있다.
상기 조작에 의해 패스(72)의 수정이 완료된 후, 패스의 확정을 유저가 지시하면, 윤곽 수정 툴이 패스(72)로 둘러싸여진 영역을 검사 영역(71)으로 변환한다. 이에 의해, 유저가 의도한 형상의 검사 영역(71)을 얻을 수 있다.
(2) 윤곽 묘화 툴
도 8은, 윤곽 묘화 툴의 동작례를 설명하는 도면이다. (a)는 검사 대상물(70)의 화상과 자동 계산된 검사 영역(71)의 일부를 확대해서 도시하고 있다. 검사 대상물(70)의 윤곽과 검사 영역(71)의 윤곽에 도면에 도시하는 바와 같은 어긋남이 생기고 있는 것이라고 가정한다.
유저가 윤곽 묘화 툴을 기동하면, 윤곽 묘화 모드로 전환하여, 입력 장치(14)를 이용하여 화상상에 자유 곡선(74)을 묘화할 수 있게 된다. 예를 들면, 입력 장치(14)로서 마우스를 이용하는 경우에는, 마우스의 버튼 압하부터 릴리스까지의 사이에 마우스 커서가 이동한 궤적이 자유 곡선(74)으로서 묘화된다. 자유 곡선(74)의 묘화에 실패한 경우에는, 일단 윤곽 묘화 모드로부터 빠져서, 최초로부터 조작을 다시 하면 좋다.
상기 조작에 의해 자유 곡선(74)의 묘화가 완료된 후, 윤곽의 확정을 유저가 지시하면, 윤곽 묘화 툴은, 자유 곡선(74)이 검사 영역(71)의 윤곽의 일부가 되도록 자유 곡선(74)과 검사 영역(71)을 합성한다. (c)는 합성 후의 검사 영역(71)을 도시하고 있다. 자유 곡선(74)과 검사 영역(71)과의 합성 수법은 임의이다. 예를 들면, 자유 곡선(74)과 검사 영역(71)의 윤곽과의 접속부분이나, 자유 곡선(74)의 형상을 매끈하게 하는 스무징 가공을 시행하여도 좋다. 또한 자유 곡선(74)의 단점(湍点)이 검사 영역(71)의 윤곽으로부터 떨어져 있는 경우에는, 자유 곡선(74)과 검사 영역(71)의 윤곽을 최근접점으로 접합하여도 좋고, 자유 곡선(74)과 검사 영역(71)의 윤곽을 매끈하게 접속하도록 보간을 행하여도 좋다. 이상의 조작에 의해, 유저가 의도한 형상의 검사 영역(71)을 얻을 수 있다.
(3) 원호 변환 툴
도 9는, 원호 변환 툴의 동작례를 설명하는 도면이다. (a)는 검사 대상물(70)의 화상과 자동 계산된 검사 영역(71)의 일부를 확대해서 도시하고 있다. 검사 대상물(70)의 윤곽과 검사 영역(71)의 윤곽에 도면에 도시하는 바와 같은 어긋남이 생기고 있는 것이라고 가정한다.
유저가 원호 변환 툴을 기동하면, 원호 입력 모드로 전환하여, 입력 장치(14)를 이용하여 화상상에 원호를 입력할 수 있게 된다. 예를 들면, 입력 장치(14)로서 마우스를 이용하는 경우에는, (b)에 도시하는 바와 같이, 마우스 커서를 이동시켜서, 검사 영역(71)의 윤곽상의 2점(1, 2)과 원호의 통과점(3)의 3개소에서 마우스를 클릭한다. 그러면, 점(1, 2)을 원호의 시점, 종점으로 하고, 점(3)을 통과하는 원호가 계산되고, 화상상에 오버레이 표시된다. 원호의 형상이 의도한 것과 다른 경우는, 각 점의 위치를 수정하든지, 일단 원호 입력 모드로부터 빠져서, 최초로부터 조작을 다시 하면 좋다. 또한 본 실시 형태에서는 원호의 시점·종점·통과점의 3점에 의해 원호를 지정하도록 하였지만, 물론 다른 지정 방법에 의해 원호의 입력을 행할 수 있도록 하여도 좋다.
상기 조작에 의해 원호의 지정이 완료된 후, 원호의 확정을 유저가 지시하면, 원호 변환 툴은, 검사 영역(71)의 윤곽중 시점(1)과 종점(2)의 사이의 구간의 윤곽을 상기 원호로 대치한다. 이때 시점(1) 또는 종점(2)이 검사 영역(71)의 윤곽으로부터 떨어져 있는 경우에는, 원호와 검사 영역(71)의 윤곽을 최근접점으로 접합하여도 좋고, 원호와 검사 영역(71)의 윤곽을 매끈하게 접속하도록 보간을 행하여도 좋다. 이상의 조작에 의해, 검사 영역(71)의 일부의 구간의 윤곽을 간단하게 원호로 정형할 수 있다.
(4) 직선 변환 툴
도 10은, 직선 변환 툴의 동작례를 설명하는 도면이다. (a)는 검사 대상물(70)의 화상과 자동 계산된 검사 영역(71)의 일부를 확대해서 도시하고 있다. 검사 대상물(70)의 윤곽과 검사 영역(71)의 윤곽에 도면에 도시하는 바와 같은 어긋남이 생기고 있는 것이라고 가정한다.
유저가 직선 변환 툴을 기동하면, 직선 입력 모드로 전환하여, 입력 장치(14)를 이용하여 화상상에 직선분을 입력할 수 있게 된다. 예를 들면, 입력 장치(14)로서 마우스를 이용하는 경우에는, (b)에 도시하는 바와 같이, 마우스 커서를 이동시켜서, 검사 영역(71)의 윤곽상의 2(1, 2)점에 마우스를 클릭한다. 그러면, 점(1, 2)을 시점, 종점으로 하는 선분이 계산되고, 화상상에 오버레이 표시된다. 선분의 형상이 의도한 것과 다른 경우는, 각점의 위치를 수정하든지, 일단 직선 입력 모드로부터 빠져서, 최초로부터 조작을 다시 하면 좋다. 또한 본 실시 형태에서는 시점·종점의 2점에 의해 직선을 지정하도록 하였지만, 물론 다른 지정 방법에 의해 직선의 입력을 할 수 있도록 하여도 좋다.
상기 조작에 의해 직선의 지정이 완료된 후, 직선의 확정을 유저가 지시하면, 직선 변환 툴은, 검사 영역(71)의 윤곽중 시점(1)과 종점(2)의 사이의 구간의 윤곽을 상기 선분으로 대치한다. 이때 시점(1) 또는 종점(2)이 검사 영역(71)의 윤곽으로부터 떨어져 있는 경우에는, 선분과 검사 영역(71)의 윤곽을 최근접점으로 접합하여도 좋고, 선분과 검사 영역(71)의 윤곽을 매끈하게 접속하도록 보간을 행하여도 좋다. 이상의 조작에 의해, 검사 영역(71)의 일부의 구간의 윤곽을 간단하게 직선으로 정형할 수 있다.
(5) 드로우 툴
도 11은, 드로우 툴의 동작례를 설명하는 도면이다. (a)는 검사 대상물(70)의 화상과 자동 계산된 검사 영역(71)의 일부를 확대해서 도시하고 있다. 드로우 툴에서는 픽셀 단위로 검사 영역(71)을 수정하기 때문에, 도 11에서는 설명의 편리를 위해 픽셀의 그리드를 나타내고 있다. 검사 대상물(70)의 윤곽과 검사 영역(71)의 윤곽에는 도면에 도시하는 바와 같은 어긋남이 생기고 있고, 도면 상방에서는 검사 영역(71)이 너무 작고, 도면 오른쪽에서는 검사 영역(71)이 너무 크다고 가정한다.
유저가 드로우 툴을 기동하면, 드로우 모드로 전환하여, 입력 장치(14)를 이용하여 화상상에서 검사 영역(71)에 추가하는 픽셀을 지정하거나, 검사 영역(71)으로부터 삭제하는 픽셀을 지정하거나 할 수 있게 된다. (b)는 검사 영역에 픽셀을 추가하는 양상을 도시하고 있다. 예를 들면, 입력 장치(14)로서 마우스를 이용하는 경우에는, 추가하는 픽셀을 차례로 선택하거나, 소정의 버튼을 누른채로 마우스 커서를 이동시키거나 함으로써, 검사 영역(71)에 추가하는 영역(픽셀군)(75)를 지정 가능하다. 한편, (c)는 검사 영역에서부터 픽셀을 삭제하는 양상을 도시하고 있다. 검사 영역(71)으로부터 삭제하는 영역(픽셀군)(76)의 지정도, 추가의 경우와 마찬가지로 행할 수 있다. 이상의 조작에 의해, 유저가 의도하는 형상의 검사 영역(71)을 얻을 수 있다.
이상 기술한 본 실시 형태의 구성에 의하면, 검사 영역의 형상을 수정하기 위한 기능을 마련함에 의해, 계산기에 의한 자동 추출로는 어려운 부분을 유저의 지원으로 보완할 수 있고, 결과로서 간단하면서 단시간에 최적의(즉 유저가 바라는 형상의) 검사 영역을 얻는 것이 가능해진다. 또한, 본 실시 형태에서는, (1)부터 (5)의 5개의 수정 기능에 관해 설명하였지만, 설정 툴은 이 모든 수정 기능을 구비할 필요는 없다. 적어도 어느 하나의 수정 기능을 마련할 뿐이라도 좋고, 역으로 설정 툴이 다른 수정 기능을 구비하는 것도 바람직하다. 또한, 수정 작업을 할 때에, 도 7 내지 도 11에서 도시한 작업 화면을 유저가 확대/축소할 수 있도록 하여, 효율적으로 작업을 진행하거나, 정밀한 입력을 하기 쉽게 하거나 하는 것도 바람직하다.
상술한 실시 형태는 본 발명의 한 구체례를 나타낸 것이고, 본 발명의 범위를 그들의 구체례로 한정하는 취지의 것은 아니다. 예를 들면, 상기 실시 형태에서는 샘플 화상으로서 컬러 화상을 상정하고 있기 때문에, 화상의 색정보를 이용하였지만, 모노클로 화상을 이용하는 경우에는, 색정보 대신에 휘도 정보를 이용하면 좋다. 또한, 상기 실시 형태에서는 최적화에 그래프 컷트 알고리즘을 이용하였지만, 레벨 세트 알고리즘 등의 다른 방법을 이용하는 것도 가능하다. 다른 방법의 경우에도, 색정보(휘도 정보)와 에지 정보를 이용함에 의해 검사 영역의 고정밀한 산출이 가능해진다. 또한 이 경우도, 색정보(휘도 정보)와 에지 정보의 우도를 유저에 의해 변경할 수 있도록 하는 것이 바람직하다.
1 : 화상 검사 장치
2 : 검사 대상물(몸체 부품)
10 : 장치 본체
11 : 화상 센서
12 : 표시 장치
13 : 기억 장치
14 : 입력 장치
101 : 검사 처리부
102 : 검사 영역 추출부
103 : 설정 툴
20 : 힌지 부분
21 : 버튼 부분
30 : 검사 영역
31 : 검사 영역 화상
50 : 화상 윈도우
51 : 화상 받아들임 버튼
52 : 전경 지정 버튼
53 : 배경 지정 버튼
54 : 우도 조정 슬라이더
55 : 확정 버튼
70 : 검사 대상물
71 : 검사 영역
72 : 패스
73 : 컨트롤 포인트
74 : 자유 곡선

Claims (18)

  1. 검사 대상물을 촬영하여 얻어진 원화상으로부터 검사 영역으로 하는 부분을 검사 영역 화상으로서 추출하고, 상기 검사 영역 화상을 해석함에 의해 상기 검사 대상물의 검사를 행하는 화상 검사 장치에 대해,
    상기 검사 영역을 정의하는 검사 영역 정의 정보를 설정하는 검사 영역 설정 방법으로서,
    컴퓨터가, 검사 대상물의 샘플을 촬영하여 얻어진 샘플 화상을 취득하는 취득 스텝과,
    컴퓨터가, 상기 샘플 화상에서의 각 픽셀의 색 또는 휘도의 정보, 및, 상기 샘플 화상에 포함되는 에지의 정보에 의거하여, 검사 영역의 후보해인 복수의 후보 영역에 관해, 각 후보 영역의 내측과 외측의 사이에서의 색 또는 휘도의 분리의 정도인 픽셀 분리도와, 각 후보 영역의 윤곽과 상기 샘플 화상 중의 에지와의 겹침의 정도인 에지 겹침도의 양쪽을 평가함에 의해, 상기 복수의 후보 영역의 중에서 검사 영역의 최적해를 구하는 검사 영역 탐색 스텝과,
    컴퓨터가, 상기 검사 영역 탐색 스텝에서 구하여진 검사 영역의 화상 내에서의 위치 및 형상을 정의하는 검사 영역 정의 정보를 상기 화상 검사 장치에 대해 설정하는 설정 스텝을 갖는 것을 특징으로 하는 검사 영역 설정 방법.
  2. 제1항에 있어서,
    컴퓨터가 유저로부터 파라미터의 입력을 접수하는 파라미터 접수 스텝을 또한 갖고 있고,
    컴퓨터가, 상기 파라미터 접수 스텝에서 유저로부터 파라미터의 입력을 접수할 때마다, 입력된 파라미터를 구속 조건으로서 이용하여 상기 검사 영역 탐색 스텝을 실행함에 의해 검사 영역의 최적해를 재계산하고, 재계산된 검사 영역을 표시 장치에 표시하는 것을 특징으로 하는 검사 영역 설정 방법.
  3. 제2항에 있어서,
    상기 파라미터 접수 스텝에서는, 파라미터의 하나로서, 상기 픽셀 분리도와 상기 에지 겹침도의 밸런스를 조정하기 위한 밸런스 파라미터를 유저에게 입력시키고,
    상기 검사 영역 탐색 스텝에서는, 유저로부터 입력된 밸런스 파라미터에 응하여, 상기 픽셀 분리도와 상기 에지 겹침도를 평가할 때의 무게를 조정하는 것을 특징으로 하는 검사 영역 설정 방법.
  4. 제2항 또는 제3항에 있어서,
    상기 검사 영역 탐색 스텝에서는, 전경의 대표색 또는 대표휘도에 대한 후보 영역의 내측의 각 픽셀의 색 또는 휘도의 전경다움을 평가한 값, 또는, 배경의 대표색 또는 대표휘도에 대한 후보 영역의 외측의 각 픽셀의 색 또는 휘도의 배경다움을 평가한 값, 또는, 그 양쪽의 값을 종합한 값을 상기 픽셀 분리도로 하는 것을 특징으로 하는 검사 영역 설정 방법.
  5. 제4항에 있어서,
    상기 검사 영역 탐색 스텝에서는, 전경의 대표색 또는 대표휘도와 배경의 대표색 또는 대표휘도와의 차가 클수록 상기 픽셀 분리도의 무게가 커지고, 상기 차가 작을수록 상기 에지 겹침도의 무게가 커지도록, 상기 픽셀 분리도와 상기 에지 겹침도를 평가할 때의 무게를 조정하는 것을 특징으로 하는 검사 영역 설정 방법.
  6. 제4항 또는 제5항에 있어서,
    상기 파라미터 접수 스텝에서는, 파라미터의 하나로서, 전경 또는 배경 또는 그 양쪽의 대표색 또는 대표휘도를 유저에게 입력시키는 것을 특징으로 하는 검사 영역 설정 방법.
  7. 제6항에 있어서,
    상기 파라미터 접수 스텝에서는, 상기 샘플 화상을 표시 장치에 표시하고, 상기 표시된 샘플 화상상에서 전경 또는 배경으로 하여야 할 부분을 유저에게 지정시키고, 상기 지정된 부분의 색 또는 휘도를 상기 대표색 또는 대표휘도로서 취득하는 것을 특징으로 하는 검사 영역 설정 방법.
  8. 제2항 내지 제7항 중 어느 한 항에 있어서,
    상기 파라미터 접수 스텝에서는, 파라미터의 하나로서, 검사 영역의 형상에 관한 특징을 나타내는 형상 정보를 유저에게 입력시키고,
    상기 검사 영역 탐색 스텝에서는, 상기 픽셀 분리도와 상기 에지 겹침도에 더하여, 검사 영역의 형상과 상기 형상 정보로 표시되는 형상과의 유사 정도도 높아지도록, 검사 영역의 최적해가 구하여지는 것을 특징으로 하는 검사 영역 설정 방법.
  9. 제2항 내지 제8항 중 어느 한 항에 있어서,
    상기 파라미터 접수 스텝에서는, 파라미터의 하나로서, 검사 영역의 크기에 관한 특징을 나타내는 크기 정보를 유저에게 입력시키고,
    상기 검사 영역 탐색 스텝에서는, 상기 픽셀 분리도와 상기 에지 겹침도에 더하여, 검사 영역의 크기와 상기 크기 정보로 표시되는 크기와의 유사 정도도 높아지도록, 검사 영역의 최적해가 구하여지는 것을 특징으로 하는 검사 영역 설정 방법.
  10. 제2항 내지 제9항 중 어느 한 항에 있어서,
    상기 파라미터 접수 스텝에서는, 파라미터의 하나로서, 검사 영역의 화상 내에서의 위치에 관한 특징을 나타내는 위치 정보를 유저에게 입력시키고,
    상기 검사 영역 탐색 스텝에서는, 상기 픽셀 분리도와 상기 에지 겹침도에 더하여, 검사 영역의 샘플 화상 내에서의 위치와 상기 위치 정보로 표시되는 위치와의 유사 정도도 높아지도록, 검사 영역의 최적해가 구하여지는 것을 특징으로 하는 검사 영역 설정 방법.
  11. 제2항 내지 제10항 중 어느 한 항에 있어서,
    상기 파라미터 접수 스텝에서는, 파라미터의 하나로서, 검사 영역 내의 화상의 텍스처에 관한 특징을 나타내는 텍스처 정보를 유저에게 입력시키고,
    상기 검사 영역 탐색 스텝에서는, 상기 픽셀 분리도와 상기 에지 겹침도에 더하여, 검사 영역 내의 화상의 텍스처와 상기 텍스처 정보로 표시되는 텍스처와의 유사 정도도 높아지도록, 검사 영역의 최적해가 구하여지는 것을 특징으로 하는 검사 영역 설정 방법.
  12. 제1항 내지 제11항 중 어느 한 항에 있어서,
    컴퓨터가, 상기 검사 영역 탐색 스텝에서 구하여진 검사 영역을 표시 장치에 표시하고, 유저로부터 입력되는 수정 지시에 따라 검사 영역의 형상을 수정하는, 검사 영역 수정 스텝을 또한 갖고 있는 것을 특징으로 하는 검사 영역 설정 방법.
  13. 제12항에 있어서,
    상기 검사 영역 수정 스텝은, 검사 영역의 윤곽의 전부 또는 일부를 베제 곡선 또는 스플라인 곡선의 패스로 근사하고, 상기 패스를 유저에게 수정시키는 것을 특징으로 하는 검사 영역 설정 방법.
  14. 제12항 또는 제13항에 있어서,
    상기 검사 영역 수정 스텝은, 유저에게 자유 곡선을 묘화시켜, 상기 자유 곡선이 검사 영역의 윤곽의 일부가 되도록 상기 자유 곡선과 검사 영역을 합성하는 것을 특징으로 하는 검사 영역 설정 방법.
  15. 제12항 내지 제14항 중 어느 한 항에 있어서,
    상기 검사 영역 수정 스텝은, 유저에게 검사 영역의 윤곽의 일부의 구간을 지정시켜, 지정된 구간의 윤곽을 직선 또는 원호로 치환하는 것을 특징으로 하는 검사 영역 설정 방법.
  16. 제12항 내지 제15항 중 어느 한 항에 있어서,
    상기 검사 영역 수정 스텝은, 유저에 의해 지정된 픽셀을 검사 영역에 추가하고, 또는 검사 영역에서 제외하는 것을 특징으로 하는 검사 영역 설정 방법.
  17. 제1항 내지 제16항 중 어느 한 항에 기재된 검사 영역 설정 방법의 각 스텝을 컴퓨터에 실행시키는 것을 특징으로 하는 프로그램.
  18. 검사 대상물을 촬영하여 얻어진 원화상으로부터 검사 영역으로 하는 부분을 검사 영역 화상으로서 추출하고, 상기 검사 영역 화상을 해석함에 의해 상기 검사 대상물의 검사를 행하는 화상 검사 장치에 대해,
    상기 검사 영역을 정의하는 검사 영역 정의 정보를 설정하는 검사 영역 설정 장치로서,
    검사 대상물의 샘플을 촬영하여 얻어진 샘플 화상을 취득하는 취득 수단과,
    상기 샘플 화상에서의 각 픽셀의 색 또는 휘도의 정보, 및, 상기 샘플 화상에 포함되는 에지의 정보에 의거하여, 검사 영역의 후보해인 복수의 후보 영역에 관해, 각 후보 영역의 내측과 외측의 사이에서의 색 또는 휘도의 분리의 정도인 픽셀 분리도와, 각 후보 영역의 윤곽과 상기 샘플 화상 중의 에지와의 겹침의 정도인 에지 겹침도의 양쪽을 평가함에 의해, 상기 복수의 후보 영역의 중에서 검사 영역의 최적해를 구하는 검사 영역 탐색 수단과,
    상기 검사 영역 탐색 수단에서 구하여진 검사 영역의 화상 내에서의 위치 및 형상을 정의하는 검사 영역 정의 정보를 상기 화상 검사 장치에 대해 설정하는 설정 수단을 갖는 것을 특징으로 하는 검사 영역 설정 장치.
KR1020147015679A 2012-01-05 2012-08-29 화상 검사 장치의 검사 영역 설정 방법 KR101626231B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JPJP-P-2012-000588 2012-01-05
JP2012000588A JP5874398B2 (ja) 2012-01-05 2012-01-05 画像検査装置の検査領域設定方法
PCT/JP2012/071758 WO2013103032A1 (ja) 2012-01-05 2012-08-29 画像検査装置の検査領域設定方法

Publications (2)

Publication Number Publication Date
KR20140088220A true KR20140088220A (ko) 2014-07-09
KR101626231B1 KR101626231B1 (ko) 2016-05-31

Family

ID=48745100

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020147015679A KR101626231B1 (ko) 2012-01-05 2012-08-29 화상 검사 장치의 검사 영역 설정 방법

Country Status (6)

Country Link
US (1) US9269134B2 (ko)
EP (1) EP2801815B1 (ko)
JP (1) JP5874398B2 (ko)
KR (1) KR101626231B1 (ko)
CN (1) CN103988069B (ko)
WO (1) WO2013103032A1 (ko)

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5929238B2 (ja) * 2012-01-27 2016-06-01 オムロン株式会社 画像検査方法および画像検査装置
JP2014102685A (ja) * 2012-11-20 2014-06-05 Sony Corp 情報処理装置、情報処理方法及びプログラム
US9213896B2 (en) * 2013-03-05 2015-12-15 Mitsubishi Electric Research Laboratories, Inc. Method for detecting and tracking objects in image sequences of scenes acquired by a stationary camera
US9734797B2 (en) * 2013-08-06 2017-08-15 Crackle, Inc. Selectively adjusting display parameter of areas within user interface
JP6478492B2 (ja) * 2014-06-27 2019-03-06 キヤノン株式会社 画像処理装置およびその方法
WO2016021030A1 (ja) 2014-08-07 2016-02-11 株式会社ニコン X線装置および構造物の製造方法
JP6677161B2 (ja) 2014-09-02 2020-04-08 株式会社ニコン 測定処理装置、測定処理方法および測定処理プログラム
WO2016035147A1 (ja) 2014-09-02 2016-03-10 株式会社ニコン 測定処理装置、測定処理方法、測定処理プログラムおよび構造物の製造方法
US10445612B2 (en) * 2015-10-26 2019-10-15 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and storage medium
JP6333871B2 (ja) * 2016-02-25 2018-05-30 ファナック株式会社 入力画像から検出した対象物を表示する画像処理装置
CN109690625A (zh) * 2016-05-03 2019-04-26 莱尼电缆有限公司 用于操作员增强查看的采用颜色分段的视觉系统
CN106682693A (zh) * 2016-12-23 2017-05-17 浙江大学 一种用于塑料瓶瓶身重叠图像的识别方法
CN106846302B (zh) * 2016-12-30 2024-03-15 河南中烟工业有限责任公司 一种工具正确取件的检测方法及基于此方法的考核台
US10943374B2 (en) * 2017-02-03 2021-03-09 Microsoft Technology Licensing, Llc Reshaping objects on a canvas in a user interface
JP6894725B2 (ja) * 2017-03-09 2021-06-30 キヤノン株式会社 画像処理装置及びその制御方法、プログラム、記憶媒体
JP6919982B2 (ja) * 2017-05-09 2021-08-18 株式会社キーエンス 画像検査装置
JP6931552B2 (ja) * 2017-05-09 2021-09-08 株式会社キーエンス 画像検査装置
JP6864549B2 (ja) * 2017-05-09 2021-04-28 株式会社キーエンス 画像検査装置
SE541493C2 (en) * 2017-10-26 2019-10-15 Ivisys Aps System and method for optical inspection of an object
JP6693938B2 (ja) 2017-11-17 2020-05-13 ファナック株式会社 外観検査装置
CN109991232B (zh) * 2017-12-29 2022-02-15 上海微电子装备(集团)股份有限公司 芯片崩边缺陷检测方法
CN111630561B (zh) * 2018-01-17 2024-04-02 株式会社富士 图像处理用元件形状数据生成系统及图像处理用元件形状数据生成方法
JP2019185204A (ja) * 2018-04-04 2019-10-24 富士電機株式会社 画像処理装置、ロボットシステム、画像処理方法
IL260417B (en) * 2018-07-04 2021-10-31 Tinyinspektor Ltd System and method for automatic visual inspection
JP7299002B2 (ja) 2018-08-23 2023-06-27 ファナック株式会社 判別装置及び機械学習方法
JP6823025B2 (ja) 2018-09-12 2021-01-27 ファナック株式会社 検査装置及び機械学習方法
JP6795562B2 (ja) 2018-09-12 2020-12-02 ファナック株式会社 検査装置及び機械学習方法
JP7214432B2 (ja) * 2018-10-22 2023-01-30 キヤノン株式会社 画像処理方法、画像処理プログラム、記録媒体、画像処理装置、生産システム、物品の製造方法
JP7166189B2 (ja) * 2019-02-15 2022-11-07 東京エレクトロン株式会社 画像生成装置、検査装置及び画像生成方法
JP6823839B2 (ja) * 2019-06-17 2021-02-03 大日本印刷株式会社 判定装置、判定装置の制御方法、判定システム、判定システムの制御方法、及び、プログラム
EP4104100A4 (en) 2020-02-13 2024-01-10 Inspekto A M V Ltd USER INTERFACE DEVICE FOR AUTONOMOUS ARTIFICIAL VISION INSPECTION
TWI742733B (zh) * 2020-06-19 2021-10-11 倍利科技股份有限公司 圖像轉換方法
CN112351247A (zh) * 2020-10-16 2021-02-09 国电大渡河枕头坝发电有限公司 一种基于图像处理的水电厂内电光闪光检测方法
CN112419298B (zh) * 2020-12-04 2024-01-19 中冶建筑研究总院(深圳)有限公司 一种螺栓节点板锈蚀检测方法、装置、设备及存储介质
US20230011330A1 (en) * 2021-07-09 2023-01-12 At&T Intellectual Property I, L.P. Device condition determination
JP2023071276A (ja) * 2021-11-11 2023-05-23 日立Astemo株式会社 検査方法および検査装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07280537A (ja) * 1994-04-11 1995-10-27 Sekisui Chem Co Ltd 撮像式検査方法および装置
JP2791303B2 (ja) * 1995-11-18 1998-08-27 株式会社電脳技研 1つの連結領域が示すコロニーの個数を識別する識別方法及びこれを用いたコロニー計数装置
US7130039B2 (en) 2002-04-18 2006-10-31 Kla-Tencor Technologies Corporation Simultaneous multi-spot inspection and imaging
JP2004354064A (ja) * 2003-05-27 2004-12-16 Hitachi High-Tech Electronics Engineering Co Ltd 光学系測定画像による磁気ヘッドの欠陥検査方法および欠陥検査装置
US7233329B2 (en) * 2003-11-03 2007-06-19 Siemens Corporate Research, Inc. Rendering for coronary visualization
JP4165538B2 (ja) 2004-07-21 2008-10-15 オムロン株式会社 部品実装検査方法および部品実装検査装置
JP2006038582A (ja) * 2004-07-26 2006-02-09 Dainippon Screen Mfg Co Ltd 画像の領域分割による欠陥の検出
JP2006260401A (ja) * 2005-03-18 2006-09-28 Toshiba Corp 画像処理装置、方法、およびプログラム
US7609888B2 (en) * 2005-07-01 2009-10-27 Microsoft Corporation Separating a video object from a background of a video sequence
JP2009506339A (ja) 2005-08-30 2009-02-12 カムテック エルティーディー. 検査システム、及び基準フレームに基づいて欠陥を検査する方法
JP4998787B2 (ja) * 2007-09-26 2012-08-15 楽天株式会社 物体領域抽出処理プログラム、物体領域抽出装置、および物体領域抽出方法
JP5159373B2 (ja) * 2008-03-06 2013-03-06 オリンパス株式会社 基板検査方法
CN101256156B (zh) * 2008-04-09 2011-06-08 西安电子科技大学 平板裂缝天线裂缝精密测量方法
WO2009142152A1 (ja) * 2008-05-22 2009-11-26 凸版印刷株式会社 非検査領域制限検証方法及び修正方法、プログラム並びに装置
US7623229B1 (en) 2008-10-07 2009-11-24 Kla-Tencor Corporation Systems and methods for inspecting wafers
JP5011348B2 (ja) * 2009-06-01 2012-08-29 株式会社日立ハイテクノロジーズ パターン検査方法及びその装置
JP5353566B2 (ja) * 2009-08-31 2013-11-27 オムロン株式会社 画像処理装置および画像処理プログラム
JP5152231B2 (ja) * 2010-03-12 2013-02-27 オムロン株式会社 画像処理方法および画像処理装置
JP5551957B2 (ja) * 2010-03-31 2014-07-16 富士フイルム株式会社 投影画像生成装置およびその作動方法、並びに投影画像生成プログラム
US20130329987A1 (en) * 2012-06-11 2013-12-12 Genesis Group Inc. Video segmentation method

Also Published As

Publication number Publication date
EP2801815A1 (en) 2014-11-12
JP2013140090A (ja) 2013-07-18
JP5874398B2 (ja) 2016-03-02
CN103988069A (zh) 2014-08-13
CN103988069B (zh) 2016-10-05
EP2801815A4 (en) 2015-10-07
WO2013103032A1 (ja) 2013-07-11
US20140314302A1 (en) 2014-10-23
EP2801815B1 (en) 2018-06-27
KR101626231B1 (ko) 2016-05-31
US9269134B2 (en) 2016-02-23

Similar Documents

Publication Publication Date Title
KR101626231B1 (ko) 화상 검사 장치의 검사 영역 설정 방법
JP5929238B2 (ja) 画像検査方法および画像検査装置
US9892504B2 (en) Image inspection method and inspection region setting method
RU2680765C1 (ru) Автоматизированное определение и обрезка неоднозначного контура документа на изображении
JP6089886B2 (ja) 領域分割方法および検査装置
JP2856229B2 (ja) 画像切り出し箇所検出方法
US20170372455A1 (en) Enhanced Vectorization of Raster Images
KR20100038168A (ko) 구도 해석 방법, 구도 해석 기능을 구비한 화상 장치, 구도 해석 프로그램 및 컴퓨터 판독 가능한 기록 매체
KR102161052B1 (ko) 영상에서 객체를 분리하는 방법 및 장치.
CN110737785B (zh) 一种图片标注的方法及装置
JP6405124B2 (ja) 検査装置、検査方法およびプログラム
US20220270232A1 (en) Apparatus for adjusting parameter related to defect detection for image processing for image processing, method for information processing, and program
JP2012194705A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2015004641A (ja) ウエハ外観検査装置
US20150170355A1 (en) Wafer appearance inspection system and method of sensitivity threshold setting
CN114863144A (zh) 一种图像处理方法、装置、终端和存储介质
CN114998263A (zh) 用于百格测试的附着力分析方法及系统

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20190503

Year of fee payment: 4