JP6241576B1 - 検査装置及び検査方法 - Google Patents

検査装置及び検査方法 Download PDF

Info

Publication number
JP6241576B1
JP6241576B1 JP2017523001A JP2017523001A JP6241576B1 JP 6241576 B1 JP6241576 B1 JP 6241576B1 JP 2017523001 A JP2017523001 A JP 2017523001A JP 2017523001 A JP2017523001 A JP 2017523001A JP 6241576 B1 JP6241576 B1 JP 6241576B1
Authority
JP
Japan
Prior art keywords
image data
unit
data
inspected
inspection apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017523001A
Other languages
English (en)
Other versions
JPWO2018105028A1 (ja
Inventor
一之 宮澤
一之 宮澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6241576B1 publication Critical patent/JP6241576B1/ja
Publication of JPWO2018105028A1 publication Critical patent/JPWO2018105028A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N21/95684Patterns showing highly reflecting parts, e.g. metallic elements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/002Image coding using neural networks
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8896Circuits specially adapted for system specific signal conditioning
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N2021/95638Inspecting patterns on the surface of objects for PCB's
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/12Bounding box

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Biochemistry (AREA)
  • Analytical Chemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Chemical & Material Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

従来の検査装置では、画素毎に演算及び異常の有無を判定し、全ての画素で高精度に位置合わせを行う必要があるため、導入コストの増加及びコンピュータの計算時間の増加を招くという問題があった。異常を含まない対象物のデータをデータの次元を減らす次元圧縮をすることにより異常を含まない対象物のデータの性質を表すパラメータを算出し、検査する対象物のデータをパラメータを用いて次元圧縮する解析部(12a)と、解析部(12a)で次元圧縮した検査する対象物のデータを復元した復元データを生成する復元部(14a)と、検査する対象物のデータと復元データとの差分の大小に基づき検査する対象物が異常であるか否かを示す判定結果を出力する判定部(14a)と、判定部(14a)が出力した判定結果を出力する出力部(15)とを設けるようにする。

Description

本発明は、取得した対象物のデータから、対象物の欠損、誤配置、欠陥等の異常の有無を検査する検査装置及び検査方法に関するものである。
対象物をカメラで撮影し、取得した画像データから対象物の異常の有無を機械が自動的に検査することは、例えば工業製品の製造過程で行われる目視検査または外観検査の自動化または省力化のために重要な技術である。
従来、対象物の欠損、誤配置、欠陥等の異常の有無の検査は、例えば、特許文献1の検査装置では、対象物を撮影して取得した画像データを複数記憶し、その複数の画像データから同一座標をもつ画素毎に対象物に異常がないと判定する輝度値の範囲を算出し、対象物の異常の有無の検査の基準に設定する。検査装置は、同一座標をもつ画素毎に、検査する対象物を撮影して取得した画像データの輝度値が設定した対象物に異常がないと判定する輝度値の範囲内であるか否かを判定することによって、対象物の欠損、誤配置、欠陥等の異常の有無を検査していた。
特開2013−32995号公報
しかしながら、上記した従来の検査装置では、画素毎に対象物に異常がないと判定する輝度値の範囲を算出し、画素毎に対象物の欠損、誤配置、欠陥等の異常の有無を判定して検査をしている。そのため、撮影時の対象物とカメラの位置関係は常に一定であり、全ての画素に対し、高精度に位置合わせを行う処理が必要である。検査装置の導入に伴って全ての画素に対し、高精度に位置合わせを行うためのカメラ及び対象物を固定するための治具、位置決め装置等も導入する必要がある。したがって、導入コストの増加及びコンピュータの計算時間の増加を招くという問題があった。
本発明は、上述のような問題を解決するためになされたものであって、従来の検査装置よりも、対象物とカメラの確実な固定及び対象物を撮影して取得した画像データの画素毎に高精度な位置合わせを行うといった制約を緩和しつつ、対象物の欠損、誤配置、欠陥等の異常の有無を検査する検査装置及び検査方法を提供することを目的とする。
本発明に係る検査装置は、異常を含まない対象物の画像データをデータの次元を減らす次元圧縮をすることにより異常を含まない対象物の画像データの性質を表すパラメータを算出し、検査する対象物の画像データをパラメータを用いて次元圧縮する解析部と、解析部で次元圧縮した検査する対象物の画像データを復元した復元データを生成する復元部と、復元部が復元した復元データと検査する対象物の画像データとの誤差を補正するフィルタを用いて復元データをフィルタリングして補正した復元データを生成する補正部と、検査する対象物の画像データと補正した復元データとの画素毎の差分の大小に基づき検査する対象物が異常であるか否かを示す判定結果を出力する判定部と、判定部が出力した判定結果を出力する出力部とを備える。
本発明によれば、異常を含まない対象物のデータをデータの次元を減らす次元圧縮をすることにより異常を含まない対象物のデータの性質を表すパラメータを算出し、検査する対象物のデータをパラメータを用いて次元圧縮し、次元圧縮した検査する対象物のデータを復元した復元データを生成し、検査する対象物のデータと復元データとの差分の大小に基づき検査する対象物が異常であるか否かを示す判定結果を出力するため、従来の検査装置よりも、対象物とカメラの確実な固定及び対象物を撮影して取得した画像データの画素毎に高精度な位置合わせを行うといった制約を緩和しつつ、対象物の欠損、誤配置、欠陥等の異常の有無を検査できる。
本発明の実施の形態1に係る検査装置を含む検査システムの機能ブロック図である。 本発明の実施の形態1に係る検査装置のハードウェア構成図である。 本発明の実施の形態1に係る検査装置の学習モードにおける動作を示すフローチャートである。 主成分分析の概念図である。 本発明の実施の形態1に係る検査装置の検査モードにおける動作を示すフローチャートの一部である。 本発明の実施の形態1に係る検査装置の検査モードにおける動作を示すフローチャートの一部である。 プリント基板を対象物とし、基板上に異常がないかどうかを検査する例である。 検査する対象物となっている基板の一部に欠損がある場合の例である。 閾値処理の結果である。 検査対象領域を限定するための2次元マスクの例である。 入出力装置がその構成にディスプレイを含む場合に、入出力部が入出力装置に対して指示する表示内容の例である。 入出力装置がその構成にディスプレイを含む場合に、入出力部が入出力装置に対して指示する表示内容の別の例である。 入出力装置がその構成にディスプレイを含む場合に、入出力部が入出力装置に対して指示する表示内容のさらに別の例である。 本発明の実施の形態2に係る検査装置を含む検査システムの機能ブロック図である。 本発明の実施の形態2に係る検査装置の学習モードにおける動作を示すフローチャートである。 ニューロンを多入力1出力のノードとしてモデル化した図である。 砂時計型ニューラルネットワークの例である。 自己符号化器の隠れ層の総数を変更したときの様子を示す一例である。 本発明の実施の形態2に係る検査装置の検査モードにおける動作を示すフローチャートの一部である。 本発明の実施の形態2に係る検査装置の検査モードにおける動作を示すフローチャートの一部である。 本発明の実施の形態3に係る検査装置を含む検査システムの機能ブロック図である。 本発明の実施の形態3に係る検査装置の検査モードにおける動作を示すフローチャートの一部である。 本発明の実施の形態3に係る検査装置の検査モードにおける動作を示すフローチャートの一部である。
実施の形態1.
図1は、本発明の実施の形態1に係る検査装置1を含む検査システムの機能ブロック図である。
検査システムは、対象物3を検査する検査装置1と対象物3を撮影するカメラ2と検査内容の入力及び検査結果を出力する入出力装置4とを備えている。検査装置1は、カメラ2で撮影した対象物3の画像データを入力データとして受信し、解析を行ってその結果を入出力装置4に送信する。
検査装置1は、各部を制御する制御部10と、画像データが入力される入力部11と、入力部11から入力された画像データを解析する解析部12aと、解析した結果を記録する記憶部13aと、解析した結果と取得した画像データから対象物3が異常か否かを示す判定結果を出力する判定部14aと、判定部14aが出力した判定結果を出力する入出力部15とを備えている。
制御部10は、入力部11と、解析部12aと、記憶部13aと、判定部14aと、入出力部15と指示を送受信することで、各部を制御する。
入力部11は、カメラ2から対象物3の画像データを受信する。画像データは、対象物3のデータの一例であり、画像に限らず波形、立体等を示すデータでもよい。なお、実施の形態1では入力される画像データはデジタルデータであることを前提とするが、アナログデータであってもよい。
解析部12aは、制御部10から送信された指示に基づいて2つの異なる動作モードを切り替えて実行する。ここで、2つの動作モードとは学習モードと検査モードである。学習モードでは、異常を含まない正常な対象物3の画像データを1枚以上使用し、異常を含まない正常な対象物3の画像データを対象物3の画像データの次元を減らす次元圧縮をすることにより、異常を含まない正常な対象物3のデータの性質を表すパラメータを算出することで正常な状態がどんな状態であるかを学習する。したがって、学習モードでは検査装置1は対象物3の異常の有無の検査は行わない。異常の有無の検査は、学習モードの完了後に実施される検査モードにて行われる。ここで、異常を含まない正常な対象物3の画像データは複数でも算出される正常な対象物3のデータの性質を表すパラメータは1つである。なお、学習モードにおいては、対象物3は異常を含まない正常な状態であることを前提とする。ただし、対象物3が同じ種類の物体であれば、複数の異なる物体から画像データを取得しても構わない。以下では、異常を含まない対象物3を撮影することで取得される画像データを正常画像データと記載する。
検査モードでは、検査する対象物3の画像データを学習モードで学習した正常な対象物3のデータの性質を表すパラメータを算出した際に行った次元圧縮と同様の次元圧縮を行う。
記憶部13aは、制御部10からの指示に基づいて学習結果を記憶及び学習結果を読み出し、解析部12aに送信する。ここで読み出される学習結果は学習モードにおいて用いた次元圧縮手法に対応した学習結果である。
判定部14aは、次元圧縮した検査する対象物3の画像データを次元圧縮で用いた方法と同様の方法で復元し、復元した画像データである復元データと検査する対象物3の画像データとの差分の大小に基づき、検査する対象物3が異常であるか否かを示す判定結果を入出力部15に出力する。なお、判定部14aは、復元部と判定部とを合わせた部の一例である。
入出力部15は、制御部10からの指示に基づき、学習の進捗状況等を表す情報を入出力装置4から外部に出力する。なお、ここでは外部で作業者が入出力装置4を確認することを想定しているが、必ずしもそのようにする必要はなく、特に作業者を介在させることなく外部の制御装置等に信号を出力するようにしてもよい。また、入出力部15は、制御部10からの指示に基づき、判定部14aから受信した判定結果を入出力装置4から外部に出力する。なお、ここでは外部で作業者が入出力装置4を確認することを想定しているが、必ずしもそのようにする必要はなく、特に作業者を介在させることなく外部の制御装置等に信号を出力するようにしてもよい。なお、入出力部15は、出力部の一例であり、実施の形態1では出力部にさらに入力部も備えられたものである。
カメラ2は、対象物3を撮影して画像データに保存することで対象物3の画像データを取得する。カメラ2は、対象物3の画像データを検査装置1に送信する。カメラ2は一例であり、対象物3のデータを取得できればこれに限らない。
入出力装置4は、検査装置1の検査内容を入力し、検査装置1が出した検査結果を出力する。入出力装置4は、例えばディスプレイ、スピーカ、キーボード、マウス等で構成することが考えられる。また、ディスプレイは表示部の一例である。
図2は、本発明の実施の形態1に係る検査装置1のハードウェア構成図である。図2を用いて、本発明の実施の形態1に係る検査装置1の構成について説明する。
実施の形態1において、検査装置1はコンピュータで構成される。検査装置1を構成するコンピュータは、バス104、データを送受信する入出力インターフェース100、メモリ102、プログラム、学習データ等を記憶する記憶媒体103、メモリ102にロードした記憶媒体103のプログラムを読み込み実行するプロセッサ101といったハードウェアを備える。なお、以下では入出力インターフェース100は入出力IF100と記載する。
バス104は、各装置間を電気的に接続し、データのやり取りを行う信号経路である。
入出力IF100は、データを送受信する。例えば、入出力IF100は、入出力装置4からの検査装置1の起動信号及び設定信号を受信すると、制御部10に送信する。また、例えば、入出力IF100は、制御部10から解析部12aへの指示信号を受信すると、解析部12aへ指示信号を送信する。入力部11と、入出力部15とは、入出力IF100によって実現する。
メモリ102は、記憶媒体103に記憶したプログラムをロードするワークエリアとして機能する。メモリ102は、例えば、RAM(Random Access Memory)である。
記憶媒体103は、学習モードのプログラム、検査モードのプログラムの機能を実現するプログラムを記憶する。また、記憶媒体103は、学習データ等を記憶する。記憶媒体103は、例えば、ROM(Read Only Memory)、フラッシュメモリ、又は、HDD(Hard Disk Drive)である。記憶媒体103は、OS(Operating System)も記憶する。記憶部13aは、記憶媒体103によって実現する。
プロセッサ101は、バス104を介して他の装置と接続し、これら他の装置及び各部を制御する。プロセッサ101は、メモリ102にロードした記憶媒体103のプログラムを読み込み、実行する。プロセッサ101は、記憶媒体103に記憶したOSの少なくとも一部をメモリ102にロードし、OSを実行しながら、プログラムを実行する。プロセッサ101は、プロセッシングを行うIC(Integrated Circuit)である。プロセッサ101は、例えば、CPU(Central Processing Unit)である。制御部10と、解析部12aと、判定部14aとは、プロセッサ101がメモリ102にロードした記憶媒体103のプログラムを読み込み、実行することにより実現する。
なお、各装置の結果を示す情報、データ、信号値、変数値等を、メモリ102、記憶媒体103、又は、プロセッサ101内のレジスタ又はキャッシュメモリに記憶する。
また、メモリ102と記憶媒体103とは、装置を分けずに同一の装置であってもよい。
さらに、プログラムを、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、DVD(Digital Versatile Disc)といった可搬記録媒体に記憶してもよい。
次に、本発明の実施の形態1に係る検査装置1の動作について説明する。
図3は本発明の実施の形態1に係る検査装置1の学習モードにおける動作を示すフローチャートである。図3を用いて、検査装置1の学習モードにおける動作を以下に説明する。
ステップS10において、制御部10は、入出力部15を経由して入出力装置4から起動信号及び設定信号を受信する。そして、その設定信号に基づいて入力部11に指示を与える。入力部11は、カメラ2から対象物3の正常画像データを受信する。このとき、正常画像データを受信するタイミングは、例えば1秒間に30回といったように予め決めておいてもよいし、制御部10からの指示に基づいて決めてもよい。制御部10は、解析部12aに学習モードの処理開始の指示を与える。解析部12aは、メモリ102にロードした記憶媒体103の学習モードに対応するプログラムをメモリ102から読み出してプロセッサ101で実行することにより学習モードに切り替える。解析部12aは、入力部11からカメラ2が撮影した対象物3の正常画像データを受信する。
ステップS11において、解析部12aは、さらに正常画像データを受信するか、あるいは正常画像データを受信するのを終了するかを判定する。ここで、正常画像データ受信の終了判定は解析部12aが決定してもよいし、制御部10からの指示に基づいて決定してもよい。解析部12aが決定する場合は、例えば受信した正常画像データの枚数が予め指定された枚数に達した時点で正常画像データの受信を終了することが考えられる。予め指定された枚数は、例えば100枚、1000枚等である。制御部10からの指示に基づいて決定する場合は、例えば制御部10が入出力部15を経由して入出力装置4から正常画像データの受信終了指示を受信し、それを解析部12aに送信することが考えられる。
ステップS12において、解析部12aは、ステップS11の判定結果に基づいて正常画像データの受信に戻るか、あるいは次のステップへ進める。正常画像データ受信終了判定の結果、さらに正常画像データの受信が必要であると判断された場合、ステップS12:Noとなり、再びステップS10に戻る。正常画像データ受信終了と判定された場合、ステップS12:Yesとなり、次のステップへ進む。
ステップS13において、解析部12aは受信した正常画像データを使って次元圧縮を行う。ここで、次元圧縮とは、画像データ、3次元立体データ等の高次元データを低次元のデータに変換することを指す。解析部12aは、学習モードにおいて正常画像データを用いて学習を行い、正常画像データに最適なデータ変換方法を獲得する。
次元圧縮手法としては、主成分分析、線形判別分析、正準相関分析、離散コサイン変換、ランダムプロジェクション、ニューラルネットワークによる自己符号化器等が知られている。これらの中で、線形の次元圧縮手法としては主成分分析が最もよく用いられる手法の一つである。以下では、主成分分析を用いた場合について説明する。
主成分分析とは、多次元の空間に分散する多数の学習用の正常画像データから、分布の特徴を示す低次元の空間を求める手法である。この低次元の空間を部分空間と呼ぶ。ステップS10で受信した多数の正常画像データの画素値をそのまま空間にプロットすると、きわめて低い次元の部分空間に固まって分布する場合が多い。
図4は、主成分分析の概念図である。図4に示すように、例えば、3次元の空間に分布する正常画像データは面の中に閉じ込められた集まりとして示される。主成分分析では、この集まりの特徴を示す図4のような2次元平面を求める。ここで、次元とは物理的な意味を持っておらず、データに含まれる要素のことである。つまり、次元数とはデータに含まれる要素の数のことである。ここでは、1画素=1次元であり、例えば、縦10画素、横10画素の画像データがあったとすると、この画像データは10×10で100個の画素を持つので、「100次元のデータ」ということになる。これはつまり、100次元空間における一つの点として表される。図4は、主成分分析を可視化できるように3次元で図示した模式図である。図4における楕円の一つ一つが1枚の画像データに対応する。図4では、3次元で表しているため、画像データは3画素の画像データである。この例では、実際には3次元空間に分布する画像データを2次元の部分空間で示す、つまり、次元圧縮する様子を示している。
ステップS10で受信した正常画像データの総数をNとし、正常画像データ1枚あたりの画素数の総数をKとする。例えば、Nの値は100、1000等であり、Kの値は正常画像データのサイズが32画素×32画素であれば1024、640画素×640画素であれば409600等である。このとき、正常画像データの枚数をnとすると、正常画像データxはベクトルとして式(1)で表すことができる。ただし、Tは転置ベクトルである。
Figure 0006241576
次に、この平均ベクトルMと分散共分散行列Sを式(2)、式(3)で求める。
Figure 0006241576
Figure 0006241576
主成分分析では、正常画像データの空間中の分布において、平均値となる点を通り、広がりの最も大きい方向の直線である第1主成分を求める。次に、その第1主成分に直交しかつ平均を通る2番目に広がりの大きい方向の第2主成分の直線を求める。このように次々と主成分を求めていく。平均を通る広がりの大きい方向とは分散共分散行列Sの固有ベクトルを求める問題と同じとなる。
すなわち、計算した分散共分散行列Sを用いて、式(4)を満たす固有値λと固有ベクトルuを求める。ここで、jは次元の個数である。
Figure 0006241576
固有値λの大きい方からそれに対応する固有ベクトルuをd個選ぶとd次元の主成分(u、u、…、u)が求まる。固有値λの大きい方とは、主成分分析の中で主要な成分を示す。主要な成分を抜き出すことで主成分分析の重要なパラメータ順にソートする。ただし、d≦Kであり、一般にdはKよりも大幅に小さい。uを第j主成分と呼ぶ。主成分は互いに直交しており、基底と呼ばれることもある。d次元の主成分(u、u、…、u)の値が、対象物3のデータの性質を表すパラメータの一例である。
次元圧縮する前の元の正常画像データは、この主成分の線形結合で表すことができる。d次元までを採用し、それ以外であるd+1次元以上を捨てることで元はK次元であった正常画像データをd次元に圧縮できることになる。
ここで、dの値は実施の形態1に係る検査装置1の性能を左右する重要なパラメータである。dの値を適切に設定することで、ステップS10で受信した正常画像データに共通して現れる重要な成分だけを取り出すことができる。一方で、同じ種類の対象物3間でのばらつき、撮影タイミングが異なることによる画像データのばらつき、カメラのノイズ等といった不要な成分は除外することができる。
しかし、dの値を小さくしすぎると重要な成分までが除外されてしまい、また、dの値を大きくしすぎると不要な成分が残ってしまう。
dの値は例えば制御部10からの指示に基づいて決定することが考えられる。この場合、制御部10は入出力部15を経由して入出力装置4からdの値を受信し、解析部12aに送信する。
また、解析部12aは、メモリ102あるいは記憶媒体103に記憶されているdの値を読み出して用いてもよい。この場合に予め記憶しておくdの値は例えば画像データの画素数の総数Kの10分の1程度、5分の1程度等とすることが考えられる。
また、解析部12aは、学習用の正常画像データの性質に基づいて適応的にdの値を決定することも考えられる。この場合、式(5)で計算される累積寄与率Pを用いることが有効である。
Figure 0006241576
累積寄与率Pは、d次元までの成分を用いることで次元圧縮する前の元の正常画像データが持っている情報をどの程度まで特徴を示すことができるかを表す指標であり、解析部12aにおいてPの値が閾値を超える最小のdの値を求めることで正常画像データの性質に応じた適切な次元圧縮を行うことができる。
累積寄与率Pに対する閾値は例えば制御部10からの指示に基づいて決定することが考えられる。この場合、制御部10は入出力部15を経由して入出力装置4から閾値を受信し、解析部12aに送信する。
また、解析部12aは、メモリ102あるいは記憶媒体103に記憶されている閾値を読み出して用いてもよい。この場合に予め記憶しておく閾値は例えば80、100等とすることが考えられる。
図3に戻って、ステップS14において、次元圧縮を行った後、解析部12aは正常画像データを学習した結果である対象物3のデータの性質を表すパラメータとしてd次元の主成分(u、u、…、u)を記憶部13aに送信する。記憶部13aは、解析部12aから出力された学習結果である対象物3のデータの性質を表すパラメータを制御部10からの指示に基づいて記憶媒体103に保存する。なお、記憶部13aは、解析部12aから出力された学習結果である対象物3のデータの性質を表すパラメータを制御部10からの指示に基づいて記憶媒体103に保存するとしたが、保存場所はメモリ102でもよい。
学習モードの場合、制御部10は、解析部12aの処理完了後、入出力部15に処理開始の指示を与える。入出力部15は、制御部10からの指示に基づき、学習の進捗状況等を表す情報を入出力装置4から外部に出力する。なお、ここでは外部で作業者が入出力装置4を確認することを想定しているが、必ずしもそのようにする必要はなく、特に作業者を介在させることなく外部の制御装置に信号を出力するようにしてもよい。
図5は、本発明の実施の形態1に係る検査装置1の検査モードにおける動作を示すフローチャートの一部である。図5を用いて、検査装置1の検査モードにおける動作を以下に説明する。
ステップS20において、制御部10は、入出力部15を経由して入出力装置4から起動信号及び設定信号を受信する。そして、その設定信号に基づいて入力部11に指示を与える。入力部11は、カメラ2から対象物3の検査する画像データを受信する。このとき、画像データを受信するタイミングは、例えば1秒間に30回といったように予め決めておいてもよいし、制御部10からの指示に基づいて決めてもよい。制御部10は、解析部12aに検査モードの処理開始の指示を与える。解析部12aは、メモリ102にロードした記憶媒体103の検査モードに対応するプログラムをメモリ102から読み出してプロセッサ101で実行することにより検査モードに切り替える。解析部12aは、入力部11からカメラ2が撮影した対象物3の画像データを受信する。なお、対象物3の検査する画像データが検査する対象物のデータの一例である。
ステップS21において、解析部12aは、さらに画像データを受信するか、あるいは画像データを受信するのを終了するかを判定する。ここで、画像データ受信の終了判定は解析部12aが決定してもよいし、制御部10からの指示に基づいて決定してもよい。解析部12aが決定する場合は、例えば受信した画像データの枚数が予め指定された枚数に達した時点で画像データの受信を終了することが考えられる。予め指定された枚数は、例えば1枚、10枚等である。制御部10からの指示に基づいて決定する場合は、例えば制御部10が入出力部15を経由して入出力装置4から画像データの受信終了指示を受信し、それを解析部12aに送信することが考えられる。
ステップS22において、解析部12aは、ステップS21の判定結果に基づいて画像データの受信に戻るか、あるいは次のステップへ進める。画像データ受信終了判定の結果、さらに画像データの受信が必要であると判断された場合、ステップS22:Noとなり、再びS20に戻る。画像データ取得終了と判断された場合、ステップS22:Yesとなり、次のステップへ進む。
ステップS23において、解析部12aは学習モードで学習した結果を読み出すため制御部10に対して読み出し要求を送信する。記憶部13aは、制御部10からの指示に基づいて必要な学習結果を記憶媒体103から読み出し、解析部12aに入力する。ここで読み出される学習結果は学習モードにおいて用いた次元圧縮手法ステップS13に対応した学習結果である。つまり、実施の形態1では、例として主成分分析を用いたので、主成分を表すベクトルであるd次元の主成分(u、u、…、u)の値が読みだされる学習結果となる。
ステップS24において、解析部12aは、読み出した学習結果に基づき受信した検査する画像データの次元圧縮を行う。次元圧縮の方法は、学習モードにおいて用いた次元圧縮手法ステップS13に対応した次元圧縮の方法である。学習モードにおいて主成分を表すベクトルであるd次元の主成分(u、u、…、u)の値が得られているため、検査する画像データをd次元のベクトルに投影することで次元圧縮を行う。解析部12aは、検査する画像データと、検査する画像データを次元圧縮した結果であるベクトルとを判定部14aに送信する。ここで、Aは次の処理であって、詳細は後述する。
図6は本発明の実施の形態1に係る検査装置1の検査モードにおける動作を示すフローチャートの一部である。図6を用いて、検査装置1の検査モードにおける動作の続きを以下に説明する。
ステップS30において、ステップS24の後のAの処理の続きとして、制御部10は、解析部12aの処理完了後、判定部14aに処理開始の指示を与える。判定部14aは、制御部10からの指示に基づいてメモリ102にロードした記憶媒体103のプログラムをメモリ102から読み出してプロセッサ101で実行する。判定部14aは、まず解析部12aから受信した検査する画像データを次元圧縮した結果であるベクトルを画像データとして復元する。ここで、画像データを復元する方法は、ステップS24の次元圧縮で用いた手法と同様の復元をする。つまり、実施の形態1では、主成分分析を用いて復元を行う。
次元圧縮に主成分分析を用いた場合、受信した検査する画像データを次元圧縮した結果であるベクトルは図4に示すような低次元の部分空間で示されているため、これを元の画像データと同じ次元の空間に投影することで画像データの復元が行われる。
ステップS31において、判定部14aは、復元した画像データと検査する画像データとの差分を計算する。このとき差分は画素ごとに差分を計算する。なお、差分は絶対値差分としてもよい。ここで、以下では復元した画像データを復元データと記載する。
図7は、プリント基板を対象物3とし、基板上に異常がないかどうかを検査する例である。図7は、左図が検査する画像データ、中央図が復元データ、右図が検査する画像データと復元データとの差分を表すデータである。右図の検査する画像データと復元データとの差分を表すデータでは、黒いほど差分が小さく、白くなるほど差分が大きいことを示している。いま、検査する対象物3となっている基板が正常である場合、次元圧縮を行っても検査する画像データとほぼ同じ画像データを復元することが可能である。これは、学習モードにおいて、正常画像データの特徴を効率的に示す方法を学習しており、検査モードにおいても検査する対象物3が正常であれば学習に使用した正常画像データときわめて類似した画像データが検査する画像データとなるためである。
したがって、図7に示すように、復元データと検査する画像データとの差分を計算しても画像データ全体に渡って差分値はほぼゼロとなる。
一方、検査する対象物3に異常がある場合、正常画像データで学習した結果を使って次元圧縮を行うと正常画像データと著しく異なる部分は正しく復元することはできない。
図8は、検査する対象物3となっている基板の一部に欠損がある場合の例である。図8は、左図が検査する画像データ、中央図が復元データ、右図が検査する画像データと復元データとの差分を表すデータである。右図の検査する画像データと復元データとの差分を表すデータでは、黒いほど差分が小さく、白くなるほど差分が大きいことを示している。この場合、正常部分については復元データにおいて正しく復元されるものの、欠損部分については学習モードで使用した正常画像データに基づいて復元されるため正しく復元することができない。
したがって、図8に示すように、復元データと検査する画像データとの差分を計算すると、異常部分となる正常画像データと異なる箇所だけ差分が大きくなる。
図6に戻って、ステップS32において、判定部14aは、復元データと検査する画像データとの差分に基づいて検査する画像データに異常が存在するかどうかを示す判定結果を入出力部15に出力する。判定部14aは、復元データと検査する画像データとの差分に閾値処理を行い、差分値が閾値未満となる画素の値を0、閾値以上となる画素の値を1とする。ここで、0と1を入れ替えたり、他の値を用いたりしても構わない。
閾値は例えば制御部10からの指示に基づいて決定することが考えられる。この場合、制御部10は入出力部15を経由して入出力装置4から閾値を受信し、解析部12aに送信する。
また、判定部14aは、メモリ102あるいは記憶媒体103に記憶している閾値の値を読み出して用いてもよい。この場合に予め記憶しておく閾値の値は例えば100、200等である。
さらに、判定部14aは、差分値の分布に応じて適応的に閾値を決定してもよい。ある閾値を決めたときにその閾値以上の画素値を持つ画素の集合をクラス1、それ以外の画素の集合をクラス2とすると、クラス1とクラス2との画素値からクラス間分散とクラス内分散を求め、これらの値から計算される分離度が最大となるように閾値を決定する。
図9は、閾値処理の結果である。閾値処理により図9のような結果が得られたとする。ただし、図9において、黒で示した領域が閾値未満となる領域、白で示した領域が閾値以上となる領域である。
判定部14aは、図9に破線で示すように白領域に外接する矩形を求め、当該位置に異常が存在することを入出力部15に送信する。ここで、以下では、白領域に外接する矩形をバウンディングボックスと記載する。なお、送信する情報としては、バウンディングボックスの左上座標、縦幅、横幅等である。なお、判定部14aは、バウンディングボックスを入出力部15に送信せず、異常がある画素の位置のすべてを入出力部15に送信してもよい。
また、判定部14aは、計算した差分画像データを入出力部15に送信するようにしてもよい。
なお、バウンディングボックスの位置または大きさに対して条件を設け、その条件を満たさないバウンディングボックスについては無視するようにしてもよい。このようにすることで、画像データ中の対象領域外での誤検知を防いだり、ノイズによる誤検知を防いだりすることが可能となる。
バウンディングボックスに対する条件は例えば制御部10からの指示に基づいて決定することが考えられる。この場合、制御部10は入出力部15を経由して入出力装置4から条件を受信し、解析部12aに送信する。
また、判定部14aは、メモリ102あるいは記憶媒体103に記憶している条件を読み出して用いてもよい。この場合に予め記憶しておく条件は例えば、バウンディングボックスの縦幅が3画素以上であること、バウンディングボックスの横幅が3画素以上であること、検査対象領域を限定するための2次元マスク内にあること等があげられる。
図10は、検査対象領域を限定するための2次元マスクの例である。図10は、左図が検査する画像データであり、右図が2次元マスクである。判定部14aは、右図の2次元マスクを左図の検査する画像データに適応する。図10の右図の2次元マスクにおいて、白で示された領域が検査対象領域であり、黒で示された領域がバウンディングボックスである。したがって、右図の2次元マスクを左図の検査する画像データに適応した場合、右図の2次元マスクの黒で示されたバウンディングボックス内に対応する左図の領域内は異常があっても無視される。
図6に戻って、検査モードの場合、制御部10は、判定部14aの処理完了後、入出力部15に処理開始の指示を与える。入出力部15は、制御部10からの指示に基づき、判定部14aから受信した判定結果を入出力装置4から外部に出力する。なお、ここでは外部で作業者が入出力装置4を確認することを想定しているが、必ずしもそのようにする必要はなく、特に作業者を介在させることなく外部の制御装置などに信号を出力するようにしてもよい。
図11は、入出力装置4がその構成にディスプレイを含む場合に、入出力部15が入出力装置4に対して指示する表示内容の例である。
図11は、判定部14aで異常が検出されなかった場合を示している。この場合、単に検査する画像データをそのまま表示し、かつ異常がないことを通知するためのメッセージを表示する。異常がないことを通知するためのメッセージは、例えば図11の左上に示したOKマークがあげられる。なお、OKマークではなく、異常なし、正常、○マーク等のマークでもよい。
図12は、入出力装置4がその構成にディスプレイを含む場合に、入出力部15が入出力装置4に対して指示する表示内容の別の例である。
図12は、判定部14aで2ヶ所の異常が検出された場合を示している。この場合、検査する画像データに対して検出された異常箇所を点線で重畳表示し、かつ異常が検出されたことを通知するためのメッセージを表示する。異常が検出されたことを通知するためのメッセージは、例えば図12の左上に示したNGマークがあげられる。なお、NGマークではなく、異常、非正常、×マーク等のマークでもよい。また、異常箇所にメッセージとして「CHECK!」マークを付けてもよい。異常箇所は、判定部14aから受信したバウンディングボックスに基づいて特定する。バウンディングボックスに基づいて異常個所を特定するのは、判定部14aまたは入出力部15いずれが行ってもよい。なお、バウンディングボックスは、表示されてもされなくてもよい。
図13は、入出力装置4がその構成にディスプレイを含む場合に、入出力部15が入出力装置4に対して指示する表示内容のさらに別の例である。
図13は、図12と同じく判定部14aで2ヶ所の異常が検出された場合を示している。ただし、検出された異常箇所を直接的に示すのではなく、左側に検査する画像データを、右側に検査する画像データに対して判定部14aで計算した差分画像データを合成した差分合成画像データを表示する。差分合成画像データについては、黒いほど差分が小さく、白いほど差分が大きいことを示している。このようにすると、図13の右側の差分合成画像データで白く目立っている部分が、検査する画像データにおいて正常状態からの差分が大きくなっている箇所として著しく目立って見えるため、異常の検査を行う作業者が着目すべき箇所を容易に把握できるようになる。図12と同様に、バウンディングボックスに基づいて異常個所を特定するのは、判定部14aまたは入出力部15いずれが行ってもよい。
なお、図11、図12、図13に示した入出力装置4での表示方法はあくまでも例であり、実際にはこれらの組み合わせまたはこれらとは異なる表示方法を用いることも考えられる。また、入出力装置4がディスプレイではなく、スピーカで構成される場合もあり、その場合は音声、音楽等により外部に情報を出力することも考えられる。
電源をOFFにすることあるいは終了操作がなされる等の処理の終了のトリガーがあるまで上記のような学習モードの処理及び検査モードの処理を繰り返すことによって、対象物3とカメラ2の確実な固定及び対象物3を撮影して取得した画像データの画素毎に高精度な位置合わせを行うといった制約を緩和しつつ、対象物3の欠損、誤配置、欠陥等の異常の有無を検査できる。なお、学習モードの処理及び検査モードの処理を繰り返すとしたが、学習モードの処理は繰り返さず1回行うだけでもよい。同様に、検査モードの処理は繰り返さず1回行うだけでもよい。
以上述べたように、本実施の形態1の検査システムに含まれる検査装置1は、異常を含まない対象物3のデータを次元圧縮することにより異常を含まない対象物3のデータの性質を表すパラメータを算出し、検査する対象物3のデータをパラメータを用いて次元圧縮し、次元圧縮した検査する対象物3のデータを復元した復元データを生成し、検査する対象物3のデータと復元データとの差分の大小に基づき検査する対象物3が異常であるか否かを示す判定結果を入出力部15に出力するため、従来の検査装置よりも、対象物3とカメラ2の確実な固定及び対象物3を撮影して取得した画像データの画素毎に高精度な位置合わせを行うといった制約を緩和しつつ、対象物3の欠損、誤配置、欠陥等の異常の有無を検査できる。
また、本実施の形態1の検査システムに含まれる検査装置1は、主成分分析を用いた次元圧縮により、正常画像データに共通して現れる対象物3のデータの性質を表すパラメータだけを取り出した効率的な特徴を得ることができる。この過程で同じ種類の対象物3間でのばらつき、撮影タイミングが異なることによる画像データのばらつき、カメラのノイズ等といった不要な情報は捨て去れるため、データサイズが小さくなり記憶媒体103が必要とする記憶容量を削減することができる。
さらに、本実施の形態1の検査システムに含まれる検査装置1は、正常画像データから正常状態の対象物3の画像データを学習し、検査を行うため、異常状態について利用者、開発者等が定義する必要がない。そのため、異常状態の定義に漏れがあり、異常を見逃すといったことがなく、どのような異常にも汎用的に適用することができる。
なお、上記した本実施の形態1の検査システムでは、検査装置1、カメラ2、および入出力装置4を分離した構成としているが、カメラ2または入出力装置4またはカメラ2と入出力装置4の両方を検査装置1の中に含めた構成としてもよい。このように構成された検査システムであっても、上記した実施の形態1の効果を得ることができる。
上記した本実施の形態1の検査システムでは、判定部14aは、次元圧縮した検査する対象物3の画像データを次元圧縮で用いた方法と同様の方法で復元し、復元した画像データである復元データと検査する対象物3の画像データとの差分の大小に基づき、検査する対象物3が異常であるか否かを示す判定結果を入出力部15に出力する。そして、判定部14aは、復元部と判定部とを合わせた部の一例であるとした。しかし、次元圧縮した検査する対象物3の画像データを次元圧縮で用いた方法と同様の方法で復元する復元部は独立して検査装置1に備えていてもよいし、解析部12aが復元部の機能を備えていてもよい。このように構成された検査システムであっても、上記した実施の形態1の効果を得ることができる。
上記した本実施の形態1の検査システムでは、解析部12aは、対象物3の次元圧縮に主成分分析を用い、記憶部13aは、主成分分析の結果を記憶し、判定部14aは、主成分分析を用いて復元を行ったが、対象物3に複数の種類が存在する場合、対象物3の種類ごとに次元圧縮方法を変更してもよい。例えば、1種類目の対象物3において、解析部12aは、1種類目の対象物3の次元圧縮に主成分分析を用い、記憶部13aは、主成分分析の結果を記憶し、判定部14aは、主成分分析を用いて復元を行い、2種類目の対象物3において、解析部12aは、2種類目の対象物3の次元圧縮に線形判別分析を用い、記憶部13aは、線形判別分析の結果を記憶し、判定部14aは、線形判別分析を用いて復元を行う等してもよい。なお、対象物3の種類はいくつでもよく、対象物3の種類と次元圧縮方法との組み合わせは、任意である。ただし、同一種類の対象物3の場合は、同一の次元圧縮の方法を用いる。このように構成された検査システムであっても、上記した実施の形態1の効果を得ることができる。
実施の形態2.
実施の形態1では、解析部12aは、対象物3の次元圧縮に主成分分析を用い、記憶部13aは、主成分分析の結果を記憶し、判定部14aは、主成分分析を用いて復元を行った。主成分分析は線形な次元圧縮手法の代表例である。実施の形態2に係る解析部12b、記憶部13b及び判定部14bは、図14〜図20に示すように、次元圧縮にニューラルネットワークを用いた自己符号化器を用いる。ニューラルネットワークを用いた自己符号化器は、非線形な次元圧縮が可能な手法として知られている。このため、線形な次元圧縮手法である主成分分析と比べ、非線形な次元圧縮が可能であるため、さらに効率的に特徴を獲得することが可能である。それ以外は、実施の形態1と同様である。
図14は本発明の実施の形態2に係る検査装置200を含む検査システムの機能ブロック図である。以下の説明において既に説明した構成及び動作については同一符号を付して、重複する説明を省略する。
実施の形態2では、実施の形態1の図1の解析部12a、記憶部13a及び判定部14aの代わりに解析部12b、記憶部13b及び判定部14bが機能ブロック図の構成として加わる。
解析部12bは、実施の形態1の解析部12aでの次元圧縮において用いた主成分分析の代わりに、ニューラルネットワークを用いた自己符号化器を用いて次元圧縮を行う。それ以外は、解析部12aと同様である。
記憶部13bは、実施の形態1の記憶部13aで記憶した主成分分析の学習結果を記憶及び主成分分析の学習結果を読み出し、解析部12aに入力する代わりに、ニューラルネットワークを用いた自己符号化器の学習結果を記憶及びニューラルネットワークを用いた自己符号化器の学習結果を読み出し、解析部12bに入力する。それ以外は、記憶部13aと同様である。
判定部14bは、実施の形態1の判定部14bでの復元において用いた主成分分析の代わりに、ニューラルネットワークを用いた自己符号化器を用いて復元を行う。それ以外は、判定部14aと同様である。
本発明の実施の形態2に係る検査装置200のハードウェア構成図は、実施の形態1の図2と同様である。解析部12bのハードウェア構成は解析部12aと同様、記憶部13bのハードウェア構成は記憶部13aと同様、判定部14bのハードウェア構成は判定部14aと同様である。
次に、本発明の実施の形態2に係る検査装置200の学習モードにおける動作について説明する。
図15は、本発明の実施の形態2に係る検査装置200の学習モードにおける動作を示すフローチャートである。図15を用いて、検査装置200の学習モードにおける動作を以下に説明する。
ステップS40、ステップS41、ステップS42は実施の形態1のステップS10、ステップS11、ステップS12と同様である。ただし、解析部12aの代わりに解析部12bが処理を行う。
ステップS43において、解析部12bは受信した正常画像データを使って次元圧縮を行う。ここで、次元圧縮とは、実施の形態1と同様に、画像データ、3次元立体データ等の高次元データを低次元のデータに変換することを指す。解析部12bは、学習モードにおいて正常画像データを用いて学習を行い、正常画像データに最適なデータ変換方法を獲得する。以下では、次元圧縮の方法として、ニューラルネットワークによる自己符号化器を用いた場合について説明する。
ニューラルネットワークとは、シナプスを通じてネットワーク状に結びついたニューロンがそこを流れる電流の強弱で学習、パターン認識等を行うという人間の脳のメカニズムを計算機で模したものであり、最も単純なモデルはパーセプトロンと呼ばれる。
図16は、ニューロンを多入力1出力のノードとしてモデル化した図である。
パーセプトロンは、図16に示すように、ニューロンを多入力1出力のノードとしてモデル化した図である。実施の形態1と同様に、ステップS40で受信した正常画像データ1枚あたりの画素数の総数をK、次元の個数をjとする。例えば、Kの値は正常画像データのサイズが32画素×32画素であれば1024、640画素×640画素であれば409600等である。パーセプトロンは、入力データである正常画像データの画素xに対して重みwで重みづけしてバイアスbを減じた線形加重和と、その線形加重和の正負によって1と0を出力する閾値論理関数z(u)から構成される。なお、入力データである正常画像データの画素xの集まりが正常画像データのベクトルx、重みwの集まりが重みベクトルwとなる。yを出力データとすると、パーセプトロンは、式(6)で表される。なお、図16は画像データ1枚に対する計算であり、画像データが1000枚ある場合は、同様の計算を1000回行う。
Figure 0006241576
式(6)は、入力データである正常画像データの画素xの閾値論理関数z(u)がクラスc1に属するかクラスc2に属するかで、1または0の値をとる2クラスの識別関数となる。識別関数とは、例えば、予め犬の画像データを集めたクラスc1と猫の画像データを集めたクラスc2を用意しておき、それぞれの画像データに犬の画像データであること、猫の画像データであることのラベル付けをしておく。入力データとしてラベル付けのされていない犬の画像データを識別関数に入れると、クラスc1の犬の画像データとクラスc2の猫の画像データとから入力データとしてラベル付けのされていない画像データがクラスc1の犬の画像データであるのかクラスc2の猫の画像データであるのかを判定し、入力データとしてラベル付けのされていない犬の画像データを犬の画像データであると判定する。なお、パーセプトロンにおける閾値論理関数z(u)は、より一般には活性化関数と呼ばれる他の様々な関数で置き換えることが可能である。例えば、シグモイド関数、ReLU等があげられる。
式(6)では、クラスc1に属するデータとクラスc2に属するデータを予め複数用意しておく。ここで、予め用意したクラスc1に属するデータとクラスc2に属するデータを学習データと記載する。学習データに対してクラスc1に属するかクラスc2に属するかを識別できるように重みベクトルwを学習することで、新たなデータが入力されたときにそのクラスを識別することが可能となる。重みベクトルwの値が、対象物3のデータの性質を表すパラメータの一例である。
図17は、砂時計型ニューラルネットワークの例である。
自己符号化器とは、図17に示すようにデータが入力される入力層と出力される出力層との中間にある隠れ層のノード数が入力層及び出力層のノード数よりも小さい砂時計型ニューラルネットワークである。なお、図17に示すネットワークの左端が入力層、図17に示すネットワークの右端が出力層、図17に示すネットワークの中間が隠れ層である。ここで、図16と同様に、ステップS40で受信した正常画像データ1枚あたりの画素数の総数をK、次元の個数をjとする。例えば、Kの値は正常画像データのサイズが32画素×32画素であれば1024、640画素×640画素であれば409600等である。入力データは、正常画像データの画素xの集まりである正常画像データのベクトルxとし、重みwの集まりを重みベクトルwとする。また、隠れ層のベクトルをaとする。出力データは、正常画像データの画素xの集まりである正常画像データのベクトルxとほぼ同じである画素yの集まりである画像データのベクトルyであり、重みvの集まりが重みベクトルvとなる。入力データである正常画像データの画素xの集まりの正常画像データのベクトルxに、重みwの集まりの重みベクトルwをかけると、隠れ層のベクトルaとなり、隠れ層のベクトルaに、重みvの集まりの重みベクトルvをかけると、正常画像データの画素xの集まりである正常画像データのベクトルxとほぼ同じである画素yの集まりである画像データのベクトルyになる。隠れ層のベクトルaが画像データで主要な成分を示し、重みベクトルwの値及び重みベクトルvの値が、対象物3のデータの性質を表すパラメータの一例である。なお、図17は画像データ1枚に対する計算であり、画像データが1000枚ある場合は、同様の計算を1000回行う。
自己符号化器は、学習データに対して入力データと出力データとがほぼ一致するように各ノードの重みを学習する。このようにすることで、隠れ層に入力データの情報をできるだけ保存しつつ低次元化した特徴が得られることが知られている。
図15に戻って、ステップS43において、ステップS40で取得した正常画像データを入力データとし、入力データと出力データとがほぼ一致するような自己符号化器を学習することで、正常画像データに共通して現れる重要な成分だけを隠れ層において取り出すことができる。つまり、入力データとして入力した正常画像データと隠れ層を通して出力する入力データを復元した画像データとが正常画像データに共通して現れる重要な成分に対して一致するような自己符号化器を学習する。一方で、同じ種類の物体間でのばらつき、撮影タイミングが異なることによる画像のばらつき、カメラのノイズ等といった不要な成分は除外することができる。
図18は、自己符号化器の隠れ層の総数を変更したときの様子を示す一例である。
図17に示す自己符号化器の隠れ層は1層であるが、この総数は自由に変更することができる。総数の変更は容易であり、図18の(1)に示すように、まず図17に示す隠れ層が1層の自己符号化器を学習させる。その後、図18の(2)に示すように、自己符号化器の出力層を取り除き、入力層と隠れ層を残すことで、入力データの次元を圧縮するネットワークが得られる。次に、図18の(3)に示すように、その次元圧縮されたデータを入力データとして、新たに図18の(1)とは異なる重みベクトルとなる自己符号化器を学習することでさらに次元を圧縮することができる。
ここで、自己符号化器の層数は実施の形態2に係る検査装置200の性能を左右する重要なパラメータである。層数を適切に設定することで、S40で取得した正常画像データに共通して現れる重要な成分だけを取り出すことができる。一方で、同じ種類の対象物3間でのばらつき、撮影タイミングが異なることによる画像データのばらつき、カメラのノイズ等といった不要な成分は除外することができる。
しかし、層数を大きくしすぎると重要な成分までが除外されてしまい、また、層数を小さくしすぎると不要な成分が残ってしまう。
層数は例えば制御部10からの指示に基づいて決定することが考えられる。この場合、制御部10は入出力部15を経由して入出力装置4から層数を受信し、解析部12bに送信する。
また、解析部12bは、メモリ102あるいは記憶媒体103に記憶されている層数の値を読み出して用いてもよい。この場合に予め記憶しておく層数の値は例えば5程度、10程度等とすることが考えられる。
図15に戻って、ステップS24において、次元圧縮を行った後、解析部12bは正常画像データを学習した結果として各ノードの重みベクトルの値を記憶部13bに送信する。なお、層数に応じて記憶する重みベクトルの値の数も異なる。記憶部13bは、解析部12bから出力された学習結果を制御部10からの指示に基づいて記憶媒体103に保存する。なお、記憶部13bは、解析部12bから出力された学習結果を制御部10からの指示に基づいて記憶媒体103に保存するとしたが、保存場所はメモリ102でもよい。
学習モードの場合、制御部10は、解析部12aの処理完了後、入出力部15に処理開始の指示を与える。入出力部15は、制御部10からの指示に基づき、学習の進捗状況等を表す情報を入出力装置4から外部に出力する。なお、ここでは外部で作業者が入出力装置4を確認することを想定しているが、必ずしもそのようにする必要はなく、特に作業者を介在させることなく外部の制御装置に信号を出力するようにしてもよい。
図19は、本発明の実施の形態2に係る検査装置200の検査モードにおける動作を示すフローチャートの一部である。図19を用いて、検査装置200の検査モードにおける動作を以下に説明する。
ステップS50、ステップS51、ステップS52は実施の形態1のステップS20、ステップS21、ステップS22と同様である。ただし、解析部12aの代わりに解析部12bが処理を行う。
ステップS53において、解析部12bは学習モードで学習した結果を読み出すため制御部10に対して読み出し要求を送信する。記憶部13bは、制御部10からの指示に基づいて必要な学習結果を記憶媒体103から読み出し、解析部12bに入力する。ここで読み出される学習結果は学習モードにおいて用いた次元圧縮手法ステップS43に対応した学習結果である。つまり、実施の形態2では、例としてニューラルネットワークによる自己符号化器を用いたので、各ノードの重みベクトルの値が読みだされる学習結果となる。
ステップS54において、解析部12bは、読み出した学習結果に基づき受信した検査する画像データの次元圧縮を行う。次元圧縮の方法は、学習モードにおいて用いた次元圧縮手法ステップS43に対応した次元圧縮の方法である。学習モードにおいて各ノードの重みベクトルの値が得られているため、同じ重みを使ったニューラルネットワークに検査する画像データを入力することで次元圧縮を行うことができる。解析部12bは、検査する画像データと、検査する画像データを次元圧縮した結果であるベクトルとを判定部14bに送信する。検査する画像データを次元圧縮した結果であるベクトルとは、出力層の値である出力データとなる。ここで、Bは次の処理であって、詳細は後述する。
図20は本発明の実施の形態2に係る検査装置200の検査モードにおける動作を示すフローチャートの一部である。図20を用いて、検査装置200の検査モードにおける動作の続きを以下に説明する。
ステップS60において、ステップS54の後のBの処理の続きとして、制御部10は、解析部12bの処理完了後、判定部14bに処理開始の指示を与える。判定部14bは、制御部10からの指示に基づいてメモリ102にロードした記憶媒体103のプログラムをメモリ102から読み出してプロセッサ101で実行する。判定部14bは、まず解析部12bから受信した検査する画像データを次元圧縮した結果であるベクトルを画像データとして復元する。ここで、画像データを復元する方法は、ステップS54の次元圧縮で用いた手法と同様の復元をする。つまり、実施の形態2では、ニューラルネットワークによる自己符号化器を用いて復元を行う。
次元圧縮にニューラルネットワークを用いた場合、ニューラルネットワークの出力は1次元ベクトルとなっているため、これを2次元の配列に整列しなおすことで画像データの復元が行われる。なお、用いるニューラルネットワークの種類によっては、ニューラルネットワークの出力が2次元の画像データとなっている場合もある。この場合は、画像データの復元処理は不要である。
ステップS61、ステップS62は実施の形態1のステップS31、ステップS32と同様である。ただし、解析部12aの代わりに解析部12bが、記憶部13aの代わりに記憶部13bが、判定部14aの代わりに判定部14bが処理を行う。
電源をOFFにすることあるいは終了操作がなされる等の処理の終了のトリガーがあるまで上記のような学習モードの処理及び検査モードの処理を繰り返すことによって、対象物3とカメラ2の確実な固定及び対象物3を撮影して取得した画像データの画素毎に高精度な位置合わせを行うといった制約を緩和しつつ、対象物3の欠損、誤配置、欠陥等の異常の有無を検査できる。なお、学習モードの処理及び検査モードの処理を繰り返すとしたが、学習モードの処理は繰り返さず1回行うだけでもよい。同様に、検査モードの処理は繰り返さず1回行うだけでもよい。
以上述べたように、本実施の形態2の検査システムに含まれる検査装置200は、異常を含まない対象物3のデータを次元圧縮することにより異常を含まない対象物3のデータの性質を表すパラメータを算出し、検査する対象物3のデータをパラメータを用いて次元圧縮し、次元圧縮した検査する対象物3のデータを復元した復元データを生成し、検査する対象物3のデータと復元データとの差分の大小に基づき検査する対象物3が異常であるか否かを示す判定結果を入出力部15に出力するため、従来の検査装置よりも、対象物3とカメラ2の確実な固定及び対象物3を撮影して取得した画像データの画素毎に高精度な位置合わせを行うといった制約を緩和しつつ、対象物3の欠損、誤配置、欠陥等の異常の有無を検査できる。
また、本実施の形態2の検査システムに含まれる検査装置200は、ニューラルネットワークによる自己符号化器を用いた次元圧縮により、正常画像データに共通して現れるパラメータだけを取り出した効率的な特徴を得ることができる。この過程で同じ種類の対象物3間でのばらつき、撮影タイミングが異なることによる画像データのばらつき、カメラのノイズ等といった不要な情報は捨て去れるため、データサイズが小さくなり記憶媒体103が必要とする記憶容量を削減することができる。
さらに、本実施の形態2の検査システムに含まれる検査装置200は、正常画像データから正常状態の対象物3の画像データを学習し、検査を行うため、異常状態について利用者、開発者等が定義する必要がない。そのため、異常状態の定義に漏れがあり、異常を見逃すといったことがなく、どのような異常にも汎用的に適用することができる。
本実施の形態2の検査システムに含まれる検査装置200は、自己符号化器は、線形な次元圧縮手法である主成分分析と比べ、非線形な次元圧縮が可能であるためさらに効率的な特徴の獲得ができる。
なお、上記した本実施の形態2の検査システムでは、検査装置200、カメラ2、および入出力装置4を分離した構成としているが、カメラ2または入出力装置4またはカメラ2と入出力装置4の両方を検査装置200の中に含めた構成としてもよい。このように構成された検査システムであっても、上記した実施の形態2の効果を得ることができる。
上記した本実施の形態2の検査システムでは、判定部14bは、次元圧縮した検査する対象物3の画像データを次元圧縮で用いた方法と同様の方法で復元し、復元した画像データである復元データと検査する対象物3の画像データとの差分の大小に基づき、検査する対象物3が異常であるか否かを示す判定結果を入出力部15に出力する。そして、判定部14bは、復元部と判定部とを合わせた部の一例であるとした。しかし、次元圧縮した検査する対象物3の画像データを次元圧縮で用いた方法と同様の方法で復元する復元部は独立して検査装置200に備えていてもよいし、解析部12bが復元部の機能を備えていてもよい。このように構成された検査システムであっても、上記した実施の形態2の効果を得ることができる。
上記した本実施の形態2の検査システムでは、解析部12bは、対象物3の次元圧縮にニューラルネットワークによる自己符号化器を用い、記憶部13bは、ニューラルネットワークによる自己符号化器の結果を記憶し、判定部14bは、ニューラルネットワークによる自己符号化器を用いて復元を行ったが、対象物3に複数の種類が存在する場合、対象物3の種類ごとに次元圧縮方法を変更してもよい。例えば、1種類目の対象物3において、解析部12bは、1種類目の対象物3の次元圧縮にニューラルネットワークによる自己符号化器を用い、記憶部13bは、ニューラルネットワークによる自己符号化器の結果を記憶し、判定部14bは、ニューラルネットワークによる自己符号化器を用いて復元を行い、2種類目の対象物3において、解析部12bは、2種類目の対象物3の次元圧縮に線形判別分析を用い、記憶部13bは、線形判別分析の結果を記憶し、判定部14bは、線形判別分析を用いて復元を行う等してもよい。なお、対象物3の種類はいくつでもよく、対象物3の種類と次元圧縮方法との組み合わせは、任意である。ただし、同一種類の対象物3の場合は、同一の次元圧縮の方法を用いる。このように構成された検査システムであっても、上記した実施の形態2の効果を得ることができる。
上記した本実施の形態2の検査システムでは、解析部12bは、対象物3の次元圧縮にニューラルネットワークによる自己符号化器を用いたが、自己符号化器は、ニューラルネットワークに基づく次元圧縮手法の中では最も単純な方式であるため、より複雑な方式を用いてもよい。このように構成された検査システムであっても、上記した実施の形態2の効果に加え、さらに性能を向上させることができるという効果を得ることができる。より複雑な方式の例としては、畳み込みニューラルネットワーク(Convolutional Neural Network)、Generative Adversarial Network等を用いる方法がある。実施の形態2に係る検査装置1では、こうした様々な次元圧縮手法のいずれを用いてもよく、用いた手法に応じて図15のステップS43、ステップS44、図19のステップS53、ステップS54、図20のステップS60におけるニューラルネットワークによる自己符号化器の処理方法を畳み込みニューラルネットワークまたはGenerative Adversarial Network等に変更すればよい。
実施の形態3.
実施の形態1では、異常を含まない対象物3のデータを次元圧縮することにより異常を含まない対象物3のデータの性質を表すパラメータを算出し、検査する対象物3のデータをパラメータを用いて次元圧縮し、次元圧縮した検査する対象物3のデータを復元した復元データを生成し、検査する対象物3のデータと復元データとの差分の大小に基づき検査する対象物3が異常であるか否かを示す判定結果を入出力部15に出力していた。実施の形態3では、図21〜図23に示すように、復元データと検査する画像データとの間の誤差を小さくするようなフィルタを設計及びその設計したフィルタを用いて復元データをフィルタリングする補正部16が新たに加えられ、判定部14aの代わりに判定部14cを備える。このため、例えば学習モードにおいて使用した学習用の正常画像データの不足等により、復元データと検査する画像データとの間に著しい誤差が生じてしまう場合でも補正部16において両者の誤差を低減することで、続く判定部14cにおける判定精度を高めることが可能となる。それ以外は、実施の形態1と同様である。
図21は本発明の実施の形態3に係る検査装置300を含む検査システムの機能ブロック図である。以下の説明において既に説明した構成及び動作については同一符号を付して、重複する説明を省略する。
実施の形態3では、実施の形態1の図1の判定部14aの代わりに判定部14cが加わり、さらに補正部16が新たに機能ブロック図の構成として加わる。
補正部16は、次元圧縮した検査する対象物3の画像データを次元圧縮で用いた方法と同様の方法で復元し、復元データと検査する画像データとの間の誤差を補正するフィルタを設計及びその設計したフィルタを用いて復元データをフィルタリングし、補正データを生成する。補正データは、復元データと検査する対象物のデータとの誤差を補正するフィルタを用いて復元データをフィルタリングして補正した復元データである。なお、補正部16は、復元部と補正部とを合わせた部の一例である。
判定部14cは、補正部16で復元及び補正した画像データである補正データと検査する対象物3の画像データとの差分の大小に基づき、検査する対象物3が異常であるか否かを示す判定結果を入出力部15に出力する。なお、判定部14cは、復元部を備える14aと異なり、復元は補正部16が行うため、判定部14cは復元を行わない。それ以外は、判定部14aと同様である。
本発明の実施の形態3に係る検査装置300のハードウェア構成図は、実施の形態1の図2と同様である。判定部14cのハードウェア構成は判定部14aと同様である。また、補正部16は、プロセッサ101がメモリ102にロードした記憶媒体103のプログラムを読み込み、実行することにより実現する。
本発明の実施の形態3に係る検査装置300の学習モードにおける動作を示すフローチャートは、実施の形態1の図3と同様である。
本発明の実施の形態3に係る検査装置300の検査モードにおける動作を示すフローチャートの一部は、実施の形態1の図5と同様である。
図22は本発明の実施の形態3に係る検査装置300の検査モードにおける動作を示すフローチャートの一部である。図22を用いて、検査装置300の検査モードにおける動作の続きを以下に説明する。
ステップS70において、ステップS24の後のAの処理の続きとして、制御部10は、解析部12aの処理完了後、補正部16に処理開始の指示を与える。補正部16は、制御部10からの指示に基づいてメモリ102にロードした記憶媒体103のプログラムをメモリ102から読み出してプロセッサ101で実行する。補正部16は、まず解析部12aから受信した検査する画像データを次元圧縮した結果であるベクトルと検査する画像データとを受信し、受信した検査する画像データを次元圧縮した結果であるベクトルを画像データとして復元する。画像データの復元の方法は、実施の形態1の図6のステップS30における判定部14aで行われる方法と同様である。
ステップS71において、補正部16は、復元した復元データと検査する画像データとの間の誤差を小さくするようなフィルタを設計する。このことによって、例えば学習モードにおいて使用した学習用の正常画像データの不足等により、復元データと検査する画像データとの間に著しい誤差が生じてしまう場合、補正部16において両者の誤差を低減することで、続く判定部14cにおける判定精度を高めることができる。
ある信号がノイズにより劣化した場合、それを復元するためのフィルタとしては逆フィルタ、ウィーナーフィルタ、適応フィルタ、ノイズ除去フィルタ等がある。ここで、本発明の実施の形態3においては劣化前の原信号である検査する画像データが既知であることから、ウィーナーフィルタを用いることが最も効果的である。以下では例としてウィーナーフィルタの設計方法について述べる。
劣化した信号gから、原信号fを復元するための空間フィルタkを考える。このとき、周波数領域においては、劣化信号のフーリエ変換Gは、原信号のフーリエ変換Fと点拡がり関数のフーリエ変換Hとの積で表される。そこで、点拡がり関数が既知である場合、式(7)に示すように逆フィルタKinvを用いて劣化信号をフィルタリングすることによって、式(8)のように原信号のフーリエ変換Fを求めることができる。
Figure 0006241576
Figure 0006241576
ここで、周波数領域におけるノイズを考慮した劣化過程は式(9)のように表される。ただし、Nはノイズのフーリエ変換を表す。
Figure 0006241576
このとき、復元データf’と原信号となる検査する画像データである元データf間の誤差を最小にするようなフィルタKは式(10)で与えられる。
Figure 0006241576
式(10)で表されるフィルタKをウィーナーフィルタと呼ぶ。
図22に戻って、ステップS72において、補正部16は復元データに対してフィルタKを用いてフィルタリングして補正を行ったうえで検査する画像データと補正データとを判定部14cに送信する。ここで、Cは次の処理であって、詳細は後述する。
図23は本発明の実施の形態3に係る検査装置300の検査モードにおける動作を示すフローチャートの一部である。図23を用いて、検査装置300の検査モードにおける動作の続きを以下に説明する。
ステップS80において、ステップS72の後のCの処理の続きとして、制御部10は、判定部14cに処理開始の指示を与える。判定部14cは、制御部10からの指示に基づいてメモリ102にロードした記憶媒体103のプログラムをメモリ102から読み出してプロセッサ101で実行する。判定部14cは、まず補正部16から検査する画像データと補正データとを受信する。判定部14cは、補正データと検査する画像データとの差分を計算する。上記以外は、判定部14cは、図6のステップS31の判定部14aと同様の処理を行う。
ステップS81は実施の形態1のステップS32と同様である。ただし、判定部aの代わりに判定部14cが処理を行う。
電源をOFFにすることあるいは終了操作がなされる等の処理の終了のトリガーがあるまで上記のような学習モードの処理及び検査モードの処理を繰り返すことによって、対象物3とカメラ2の確実な固定及び対象物3を撮影して取得した画像データの画素毎に高精度な位置合わせを行うといった制約を緩和しつつ、対象物3の欠損、誤配置、欠陥等の異常の有無を検査できる。なお、学習モードの処理及び検査モードの処理を繰り返すとしたが、学習モードの処理は繰り返さず1回行うだけでもよい。同様に、検査モードの処理は繰り返さず1回行うだけでもよい。
以上述べたように、本実施の形態3の検査システムに含まれる検査装置300は、異常を含まない対象物3のデータを次元圧縮することにより異常を含まない対象物3のデータの性質を表すパラメータを算出し、検査する対象物3のデータをパラメータを用いて次元圧縮し、次元圧縮した検査する対象物3のデータを復元した復元データを生成し、検査する対象物3のデータと復元データとの差分の大小に基づき検査する対象物3が異常であるか否かを示す判定結果を入出力部15に出力するため、従来の検査装置よりも、対象物3とカメラ2の確実な固定及び対象物3を撮影して取得した画像データの画素毎に高精度な位置合わせを行うといった制約を緩和しつつ、対象物3の欠損、誤配置、欠陥等の異常の有無を検査できる。
また、本実施の形態3の検査システムに含まれる検査装置300は、主成分分析を用いた次元圧縮により、正常画像データに共通して現れる対象物3のデータの性質を表すパラメータだけを取り出した効率的な特徴を得ることができる。この過程で同じ種類の対象物3間でのばらつき、撮影タイミングが異なることによる画像データのばらつき、カメラのノイズ等といった不要な情報は捨て去れるため、データサイズが小さくなり記憶媒体103が必要とする記憶容量を削減することができる。
さらに、本実施の形態3の検査システムに含まれる検査装置300は、正常画像データから正常状態の対象物3の画像データを学習し、検査を行うため、異常状態について利用者、開発者等が定義する必要がない。そのため、異常状態の定義に漏れがあり、異常を見逃すといったことがなく、どのような異常にも汎用的に適用することができる。
本実施の形態3の検査システムに含まれる検査装置300は、次元圧縮した検査する対象物3の画像データから復元した復元データと検査する画像データとの間の誤差を小さくするようなフィルタを設計及びその設計したフィルタを用いて復元データをフィルタリングする補正部16が新たに加えられ、判定部14aの代わりに判定部14cを備える。このため、例えば学習モードにおいて使用した学習用の正常画像データの不足等により、復元データと検査する画像データとの間に著しい誤差が生じてしまう場合でも補正部16において両者の誤差を低減することで、続く判定部14cにおける判定精度を高めることが可能となる。
なお、上記した本実施の形態3の検査システムでは、検査装置300、カメラ2、および入出力装置4を分離した構成としているが、カメラ2または入出力装置4またはカメラ2と入出力装置4の両方を検査装置300の中に含めた構成としてもよい。このように構成された検査システムであっても、上記した実施の形態3の効果を得ることができる。
上記した本実施の形態3の検査システムでは、補正部16は、復元データと検査する画像データとの間の誤差を補正するフィルタを設計及びその設計したフィルタを用いて復元データをフィルタリングする。そして、補正部16は、復元部と補正部とを合わせた部の一例であるとした。しかし、次元圧縮した検査する対象物3の画像データを次元圧縮で用いた方法と同様の方法で復元する復元部は独立して検査装置300に備えていてもよいし、解析部12aが復元部の機能を備えていてもよい。このように構成された検査システムであっても、上記した実施の形態3の効果を得ることができる。
上記した本実施の形態3の検査システムでは、解析部12aは、対象物3の次元圧縮に主成分分析を用い、記憶部13aは、主成分分析の結果を記憶し、補正部16は、主成分分析を用いて復元を行ったが、対象物3に複数の種類が存在する場合、対象物3の種類ごとに次元圧縮方法を変更してもよい。例えば、1種類目の対象物3において、解析部12aは、1種類目の対象物3の次元圧縮に主成分分析を用い、記憶部13aは、主成分分析の結果を記憶し、補正部16は、主成分分析を用いて復元を行い、2種類目の対象物3において、解析部12aは、2種類目の対象物3の次元圧縮に線形判別分析を用い、記憶部13aは、線形判別分析の結果を記憶し、補正部16は、線形判別分析を用いて復元を行う等してもよい。なお、対象物3の種類はいくつでもよく、対象物3の種類と次元圧縮方法との組み合わせは、任意である。ただし、同一種類の対象物3の場合は、同一の次元圧縮の方法を用いる。このように構成された検査システムであっても、上記した実施の形態3の効果を得ることができる。
上記した本実施の形態3の検査システムでは、解析部12aは、対象物3の次元圧縮に主成分分析を用いたが、ニューラルネットワークによる自己符号化器または畳み込みニューラルネットワーク(Convolutional Neural Network)、Generative Adversarial Network等のニューラルネットワークによる自己符号化器より複雑な方式を用いてもよい。このように構成された検査システムであっても、上記した実施の形態3の効果に加え、さらに性能を向上させることができるという効果を得ることができる。実施の形態3に係る検査装置300では、こうした様々な次元圧縮手法のいずれを用いてもよい。
ところで、上記した実施の形態に示した検査装置を備えた検査システムは一例に過ぎず、適宜、組み合わせて構成することが出来るものであって、実施の形態単独の構成に限られるものではない。
1, 200, 300 検査装置、 2 カメラ、 3 対象物、
4 入出力装置、 10 制御部、 11 入力部、
12a, 12b 解析部、 13a, 13b 記憶部、
14a, 14b, 14c 判定部、 15 入出力部、
16 補正部、 100 入出力IF、 101 プロセッサ、
102 メモリ、 103 記憶媒体、 104 バス。

Claims (13)

  1. 異常を含まない対象物の画像データをデータの次元を減らす次元圧縮をすることにより前記異常を含まない対象物の画像データの性質を表すパラメータを算出し、検査する対象物の画像データを前記パラメータを用いて次元圧縮する解析部と、
    前記解析部で次元圧縮した前記検査する対象物の画像データを復元した復元データを生成する復元部と、
    前記復元部が復元した前記復元データと前記検査する対象物の画像データとの誤差を補正するフィルタを用いて前記復元データをフィルタリングして補正した復元データを生成する補正部と、
    前記検査する対象物の画像データと補正した前記復元データとの画素毎の差分の大小に基づき前記検査する対象物が異常であるか否かを示す判定結果を出力する判定部と、
    前記判定部が出力した前記判定結果を出力する出力部と
    を備えた検査装置。
  2. 前記解析部が算出した前記パラメータを記憶する記憶部とを備え、
    前記解析部は、前記検査する対象物の画像データを前記記憶部に記憶した前記パラメータを用いて次元圧縮する
    請求項1に記載の検査装置。
  3. 前記フィルタは、ウィーナーフィルタである
    請求項1または2に記載の検査装置。
  4. 前記判定部は、前記差分が閾値以上のとき前記検査する対象物が異常であると示す判定結果を出力する
    請求項1〜3のいずれか1項に記載の検査装置。
  5. 前記次元圧縮は、主成分分析を用いる
    請求項1〜のいずれか1項に記載の検査装置。
  6. 前記次元圧縮は、ニューラルネットワークを用いた自己符号化器を用いる
    請求項1〜のいずれか1項に記載の検査装置。
  7. 前記復元部は、前記パラメータを用いて前記復元データを生成する
    請求項6に記載の検査装置。
  8. 前記判定部は、前記検査する対象物が異常であると示す判定結果を出力した前記差分が閾値以上の領域に外接する矩形であるバウンディングボックスを算出し、
    前記出力部は、前記判定部が算出した前記バウンディングボックスを前記判定結果として出力する
    請求項4に記載の検査装置。
  9. 前記出力部は、前記バウンディングボックスに基づき特定された前記検査する対象物の画像データの異常個所を点線で前記検査する対象物の画像データに重畳表示させるように出力する
    請求項に記載の検査装置。
  10. 前記出力部は、前記検査する対象物の画像データに対して前記差分の画像データを合成した差分合成画像データを出力する
    請求項に記載の検査装置。
  11. 前記出力部は、前記判定部が前記検査する対象物が異常であると示す判定結果を出力する場合、異常が検出されたことを通知するためのメッセージを表示させるように出力する請求項1〜10のいずれか1項に記載の検査装置。
  12. 前記出力部が出力した前記判定結果を表示する表示部とを備えた
    請求項1〜11のいずれか1項に記載の検査装置。
  13. 異常を含まない対象物の画像データをデータの次元を減らす次元圧縮をすることにより前記異常を含まない対象物の画像データの性質を表すパラメータを算出し、検査する対象物の画像データを記憶媒体に記憶された前記パラメータを用いて次元圧縮するステップと、
    次元圧縮した前記検査する対象物の画像データを復元した復元データを生成するステップと、
    復元した前記復元データと前記検査する対象物の画像データとの誤差を補正するフィルタを用いて前記復元データをフィルタリングして補正した復元データを生成するステップと、
    前記検査する対象物の画像データと補正した前記復元データとの画素毎の差分の大小に基づき前記検査する対象物が異常であるか否かを示す判定結果を出力するステップと、
    前記判定結果を出力するステップと
    を有する検査方法。
JP2017523001A 2016-12-06 2016-12-06 検査装置及び検査方法 Active JP6241576B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/086138 WO2018105028A1 (ja) 2016-12-06 2016-12-06 検査装置及び検査方法

Publications (2)

Publication Number Publication Date
JP6241576B1 true JP6241576B1 (ja) 2017-12-06
JPWO2018105028A1 JPWO2018105028A1 (ja) 2018-12-06

Family

ID=60570330

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017523001A Active JP6241576B1 (ja) 2016-12-06 2016-12-06 検査装置及び検査方法

Country Status (7)

Country Link
US (1) US11645744B2 (ja)
JP (1) JP6241576B1 (ja)
KR (1) KR102011628B1 (ja)
CN (1) CN110036279B (ja)
DE (1) DE112016007498B4 (ja)
TW (1) TWI638157B (ja)
WO (1) WO2018105028A1 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6424309B1 (ja) * 2018-08-15 2018-11-14 裕樹 有光 採寸値に基づく3次元モデルを生成するプログラム及び装置
KR20190075707A (ko) * 2017-12-21 2019-07-01 동의대학교 산학협력단 딥러닝을 이용한 양품 선별 방법
WO2019131945A1 (ja) * 2017-12-27 2019-07-04 キューピー株式会社 食品検査装置、食品検査方法及び食品検査装置の食品再構成ニューラルネットワークの学習方法
WO2019186915A1 (ja) * 2018-03-29 2019-10-03 三菱電機株式会社 異常検査装置および異常検査方法
JP2019178941A (ja) * 2018-03-30 2019-10-17 リコーエレメックス株式会社 検査システムおよび検査方法
CN112230113A (zh) * 2019-06-28 2021-01-15 瑞萨电子株式会社 异常检测系统和异常检测程序
JP2021089219A (ja) * 2019-12-05 2021-06-10 東洋製罐グループホールディングス株式会社 画像検査システム、及び画像検査方法
JPWO2021220336A1 (ja) * 2020-04-27 2021-11-04
US11386538B2 (en) 2018-01-29 2022-07-12 Nec Corporation Image processing apparatus, image processing method, and storage medium
JP7386287B1 (ja) 2022-05-09 2023-11-24 Jfeテクノリサーチ株式会社 検査方法及び検査装置

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018195119A (ja) * 2017-05-18 2018-12-06 住友電装株式会社 異変検出装置及び異変検出方法
US20190205360A1 (en) * 2017-12-29 2019-07-04 University Of Southern California Method for prioritizing candidate objects
WO2020044533A1 (ja) * 2018-08-31 2020-03-05 東芝三菱電機産業システム株式会社 製造プロセス監視装置
WO2020110224A1 (ja) * 2018-11-28 2020-06-04 Eizo株式会社 情報処理方法及びコンピュータプログラム
JP2020139905A (ja) 2019-03-01 2020-09-03 セイコーエプソン株式会社 検査装置、検査方法、およびプログラム
JP2020160616A (ja) * 2019-03-25 2020-10-01 ブラザー工業株式会社 生成装置、コンピュータプログラム、生成方法
WO2020202352A1 (ja) * 2019-03-29 2020-10-08 株式会社ワコム ペン状態検出回路及びペン状態検出方法
JP6737487B1 (ja) * 2019-05-20 2020-08-12 株式会社アルム 画像処理装置、画像処理システム、および画像処理プログラム
JP6683960B1 (ja) * 2019-05-20 2020-04-22 株式会社アルム 画像処理装置、画像処理システム、および画像処理プログラム
JP2020201800A (ja) * 2019-06-12 2020-12-17 株式会社日立製作所 自動点検システム及び無線子機
JP6653929B1 (ja) * 2019-07-18 2020-02-26 Jeインターナショナル株式会社 自動判別処理装置、自動判別処理方法、検査システム、プログラム、および記録媒体
CN115461612A (zh) * 2020-04-28 2022-12-09 三菱电机株式会社 外观检查装置和外观检查方法
JP6989860B2 (ja) * 2020-05-02 2022-01-12 Arithmer株式会社 画像検査装置、画像検査方法及びプログラム
KR102437115B1 (ko) * 2020-06-04 2022-08-29 한국생산기술연구원 제품 구조 예측 기술을 이용한 딥러닝 기반 결함 검사 장치 및 방법
WO2022201968A1 (ja) 2021-03-26 2022-09-29 コニカミノルタ株式会社 情報処理装置、制御プログラム、および制御方法
JP2022191966A (ja) * 2021-06-16 2022-12-28 株式会社日立製作所 異常判定用計算機及び異常判定方法
TWI803353B (zh) * 2022-04-19 2023-05-21 南亞科技股份有限公司 晶圓檢測方法
CN114782445B (zh) * 2022-06-22 2022-10-11 深圳思谋信息科技有限公司 对象缺陷检测方法、装置、计算机设备和存储介质
TWI819698B (zh) * 2022-07-14 2023-10-21 友達光電股份有限公司 判斷瑕疵的方法及電子裝置
CN117315368B (zh) * 2023-10-23 2024-04-23 龙坤(无锡)智慧科技有限公司 一种大规模数据中心智能运维巡检方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06281592A (ja) * 1993-03-29 1994-10-07 Sumitomo Metal Ind Ltd 表面検査方法
JP2000346627A (ja) * 1999-06-07 2000-12-15 Toray Eng Co Ltd 検査装置
JP2006322766A (ja) * 2005-05-18 2006-11-30 Hitachi High-Technologies Corp パターン欠陥検査装置および方法
JP2009032273A (ja) * 2008-08-29 2009-02-12 Olympus Corp 分類装置
JP2011138388A (ja) * 2009-12-28 2011-07-14 Canon Inc データ補正装置及び方法
JP2016091359A (ja) * 2014-11-06 2016-05-23 株式会社リコー 情報処理システム、情報処理装置、情報処理方法、及びプログラム

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1209693A (en) * 1983-06-02 1986-08-12 Craig C. Todd Helical scan recording and playback systems
JPH0695728B2 (ja) * 1984-05-29 1994-11-24 株式会社リコー 画像データ圧縮再生装置
JPS60251771A (ja) * 1984-05-29 1985-12-12 Ricoh Co Ltd 画像デ−タ圧縮再生方法及び装置
CA1288516C (en) * 1987-07-31 1991-09-03 Leendert M. Bijnagte Apparatus and method for communicating textual and image information between a host computer and a remote display terminal
CN1062963C (zh) * 1990-04-12 2001-03-07 多尔拜实验特许公司 用于产生高质量声音信号的解码器和编码器
AUPN002594A0 (en) * 1994-12-13 1995-01-12 Dunn, Alexander Atkinson Improvements in software for the protection of executable programs, libraries and their data
CA2595719A1 (en) * 1997-07-15 1999-01-28 Silverbrook Research Pty. Limited Image transformation means including user interface
TWI297167B (en) * 2000-06-27 2008-05-21 Ebara Corp Inspection apparatus and inspection method
KR100425447B1 (ko) * 2001-05-10 2004-03-30 삼성전자주식회사 명도 보정 및 선택적 결함 검출 방법 및 이를 기록한 기록매체
JP3904419B2 (ja) * 2001-09-13 2007-04-11 株式会社日立製作所 検査装置および検査システム
JP4472341B2 (ja) * 2001-11-28 2010-06-02 アプライド マテリアルズ インコーポレイテッド 欠陥検出方法
JP2005156516A (ja) 2003-11-05 2005-06-16 Hitachi Ltd パターン欠陥検査方法及びその装置
JP4550559B2 (ja) 2004-11-24 2010-09-22 シャープ株式会社 外観検査装置、外観検査方法およびコンピュータを外観検査装置として機能させるためのプログラム
US7570796B2 (en) * 2005-11-18 2009-08-04 Kla-Tencor Technologies Corp. Methods and systems for utilizing design data in combination with inspection data
WO2009031612A1 (ja) * 2007-09-05 2009-03-12 Nikon Corporation 観察装置および観察方法、並びに検査装置および検査方法
JP5301955B2 (ja) * 2008-11-13 2013-09-25 オリンパス株式会社 欠陥修正装置
JP5247480B2 (ja) * 2009-01-13 2013-07-24 キヤノン株式会社 オブジェクト識別装置及びオブジェクト識別方法
JP4742193B2 (ja) * 2009-04-28 2011-08-10 Necソフト株式会社 年齢推定装置、年齢推定方法及びプログラム
JP5506274B2 (ja) * 2009-07-31 2014-05-28 富士フイルム株式会社 画像処理装置及び方法、データ処理装置及び方法、並びにプログラム
JP5695924B2 (ja) * 2010-02-01 2015-04-08 株式会社ニューフレアテクノロジー 欠陥推定装置および欠陥推定方法並びに検査装置および検査方法
JP5804834B2 (ja) * 2011-08-03 2015-11-04 株式会社オービット 検査プログラム、同プログラムを格納した記録媒体及び検査装置
DE102012101242A1 (de) 2012-02-16 2013-08-22 Hseb Dresden Gmbh Inspektionsverfahren
CN102881029A (zh) 2012-07-19 2013-01-16 中国人民解放军第二炮兵工程大学 一种热波图像序列的压缩和重构方法
JP5944850B2 (ja) * 2013-03-11 2016-07-05 株式会社日立ハイテクノロジーズ 欠陥検査方法及びこれを用いた装置
JP5759085B2 (ja) * 2013-03-28 2015-08-05 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム並びに記録媒体
JP6389651B2 (ja) * 2013-09-10 2018-09-12 Juki株式会社 検査方法、実装方法、及び実装装置
US9710728B2 (en) * 2014-10-28 2017-07-18 Kla-Tencor Corporation Image based signal response metrology
JP2016139467A (ja) * 2015-01-26 2016-08-04 株式会社日立ハイテクノロジーズ 試料観察方法および試料観察装置
US10012599B2 (en) * 2015-04-03 2018-07-03 Kla-Tencor Corp. Optical die to database inspection
TWI571701B (zh) * 2015-04-30 2017-02-21 力晶科技股份有限公司 偵測微影熱點的方法
CN105426902B (zh) * 2015-09-16 2019-06-25 西安印钞有限公司 基于形变复原技术的钞券质量检测系统及方法
US10416087B2 (en) * 2016-01-01 2019-09-17 Kla-Tencor Corporation Systems and methods for defect detection using image reconstruction
US9915625B2 (en) * 2016-01-04 2018-03-13 Kla-Tencor Corp. Optical die to database inspection
US10346740B2 (en) * 2016-06-01 2019-07-09 Kla-Tencor Corp. Systems and methods incorporating a neural network and a forward physical model for semiconductor applications
WO2018039904A1 (zh) * 2016-08-30 2018-03-08 深圳大学 一种基于块稀疏压缩感知的红外图像重构方法及其系统
US10031997B1 (en) * 2016-11-29 2018-07-24 Taiwan Semiconductor Manufacturing Co., Ltd. Forecasting wafer defects using frequency domain analysis

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06281592A (ja) * 1993-03-29 1994-10-07 Sumitomo Metal Ind Ltd 表面検査方法
JP2000346627A (ja) * 1999-06-07 2000-12-15 Toray Eng Co Ltd 検査装置
JP2006322766A (ja) * 2005-05-18 2006-11-30 Hitachi High-Technologies Corp パターン欠陥検査装置および方法
JP2009032273A (ja) * 2008-08-29 2009-02-12 Olympus Corp 分類装置
JP2011138388A (ja) * 2009-12-28 2011-07-14 Canon Inc データ補正装置及び方法
JP2016091359A (ja) * 2014-11-06 2016-05-23 株式会社リコー 情報処理システム、情報処理装置、情報処理方法、及びプログラム

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102171491B1 (ko) * 2017-12-21 2020-10-29 동의대학교 산학협력단 딥러닝을 이용한 양품 선별 방법
KR20190075707A (ko) * 2017-12-21 2019-07-01 동의대학교 산학협력단 딥러닝을 이용한 양품 선별 방법
WO2019131945A1 (ja) * 2017-12-27 2019-07-04 キューピー株式会社 食品検査装置、食品検査方法及び食品検査装置の食品再構成ニューラルネットワークの学習方法
US11386538B2 (en) 2018-01-29 2022-07-12 Nec Corporation Image processing apparatus, image processing method, and storage medium
JPWO2019186915A1 (ja) * 2018-03-29 2020-05-28 三菱電機株式会社 異常検査装置および異常検査方法
US11386549B2 (en) 2018-03-29 2022-07-12 Mitsubishi Electric Corporation Abnormality inspection device and abnormality inspection method
KR20200116532A (ko) * 2018-03-29 2020-10-12 미쓰비시덴키 가부시키가이샤 이상 검사 장치 및 이상 검사 방법
CN111902712A (zh) * 2018-03-29 2020-11-06 三菱电机株式会社 异常检查装置及异常检查方法
KR102206698B1 (ko) 2018-03-29 2021-01-22 미쓰비시덴키 가부시키가이샤 이상 검사 장치 및 이상 검사 방법
TWI719357B (zh) * 2018-03-29 2021-02-21 日商三菱電機股份有限公司 異常檢查裝置以及異常檢查方法
CN111902712B (zh) * 2018-03-29 2023-07-25 三菱电机株式会社 异常检查装置及异常检查方法
WO2019186915A1 (ja) * 2018-03-29 2019-10-03 三菱電機株式会社 異常検査装置および異常検査方法
JP2019178941A (ja) * 2018-03-30 2019-10-17 リコーエレメックス株式会社 検査システムおよび検査方法
JP2020027526A (ja) * 2018-08-15 2020-02-20 裕樹 有光 採寸値に基づく3次元モデルを生成するプログラム及び装置
JP6424309B1 (ja) * 2018-08-15 2018-11-14 裕樹 有光 採寸値に基づく3次元モデルを生成するプログラム及び装置
CN112230113A (zh) * 2019-06-28 2021-01-15 瑞萨电子株式会社 异常检测系统和异常检测程序
JP2021089219A (ja) * 2019-12-05 2021-06-10 東洋製罐グループホールディングス株式会社 画像検査システム、及び画像検査方法
WO2021220336A1 (ja) * 2020-04-27 2021-11-04 三菱電機株式会社 画像検査装置および画像検査方法
JPWO2021220336A1 (ja) * 2020-04-27 2021-11-04
JP7101918B2 (ja) 2020-04-27 2022-07-15 三菱電機株式会社 画像検査装置および画像検査方法
JP7386287B1 (ja) 2022-05-09 2023-11-24 Jfeテクノリサーチ株式会社 検査方法及び検査装置
JP2023171692A (ja) * 2022-05-09 2023-12-04 Jfeテクノリサーチ株式会社 検査方法及び検査装置

Also Published As

Publication number Publication date
TW201821788A (zh) 2018-06-16
DE112016007498T5 (de) 2019-08-29
CN110036279A (zh) 2019-07-19
KR102011628B1 (ko) 2019-08-16
JPWO2018105028A1 (ja) 2018-12-06
DE112016007498B4 (de) 2020-11-26
TWI638157B (zh) 2018-10-11
US11645744B2 (en) 2023-05-09
CN110036279B (zh) 2022-03-15
WO2018105028A1 (ja) 2018-06-14
US20210295485A1 (en) 2021-09-23
KR20190065457A (ko) 2019-06-11

Similar Documents

Publication Publication Date Title
JP6241576B1 (ja) 検査装置及び検査方法
JP6547275B2 (ja) 情報処理システム、情報処理装置、情報処理方法、及びプログラム
JP6792842B2 (ja) 外観検査装置、変換データ生成装置、及びプログラム
JP2017097718A (ja) 識別処理装置、識別システム、識別処理方法、およびプログラム
KR20180004208A (ko) 컨볼루션 신경망 기반의 완전 기준 이미지 품질 평가
CN105225222B (zh) 对不同图像集的感知视觉质量的自动评估
JP6347589B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2007334766A (ja) 異常領域検出装置および異常領域検出方法
KR101786754B1 (ko) 나이 추정 장치 및 방법
JP2011227704A (ja) 情報処理装置および方法ならびにプログラム
JP4728444B2 (ja) 異常領域検出装置および異常領域検出方法
US9940691B2 (en) Information processing apparatus, control method of the same, and video camera
CN110879982A (zh) 一种人群计数系统及方法
JP5146797B2 (ja) パターン欠陥検査のための装置、その方法及びそのプログラムを記録したコンピュータ読取り可能な記録媒体
CN111311595A (zh) 一种图像质量的无参考质量评价方法及计算机可读存储介质
CN113139963A (zh) 缺陷检测方法和装置
CN112287905A (zh) 车辆损伤识别方法、装置、设备及存储介质
CN115272229A (zh) 一种类别不平衡条件下的异常视觉图像检测方法及装置
JP7099296B2 (ja) 評価方法、システム構築方法、及び評価システム
Mandal et al. Super-resolving a single intensity/range image via non-local means and sparse representation
JP7386287B1 (ja) 検査方法及び検査装置
JP7485155B2 (ja) データ符号化プログラム、及びデータ符号化装置
JP2019159956A (ja) ニューラルネットワーク型画像処理装置
CN115357742B (zh) 门店图像查重方法、系统、终端设备及存储介质
JP7512150B2 (ja) 情報処理装置、情報処理方法およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170427

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170427

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20170427

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171023

R151 Written notification of patent or utility model registration

Ref document number: 6241576

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250