JP7101918B2 - 画像検査装置および画像検査方法 - Google Patents

画像検査装置および画像検査方法 Download PDF

Info

Publication number
JP7101918B2
JP7101918B2 JP2022516605A JP2022516605A JP7101918B2 JP 7101918 B2 JP7101918 B2 JP 7101918B2 JP 2022516605 A JP2022516605 A JP 2022516605A JP 2022516605 A JP2022516605 A JP 2022516605A JP 7101918 B2 JP7101918 B2 JP 7101918B2
Authority
JP
Japan
Prior art keywords
image
inspection target
inspection
processing unit
geometric
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022516605A
Other languages
English (en)
Other versions
JPWO2021220336A1 (ja
Inventor
浩平 岡原
彰 峯澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2021220336A1 publication Critical patent/JPWO2021220336A1/ja
Application granted granted Critical
Publication of JP7101918B2 publication Critical patent/JP7101918B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0008Industrial image inspection checking presence/absence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/37Determination of transform parameters for the alignment of images, i.e. image registration using transform domain methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/242Aligning, centring, orientation detection or correction of the image by image rotation, e.g. by 90 degrees
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20132Image cropping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本開示は、画像検査装置および画像検査方法に関する。
検査対象が撮影された画像を検査した結果に基づいて検査対象の異常を判定する技術が提案されている。例えば、非特許文献1に記載された画像検査方法は、正常な検査対象が撮影された正常画像から抽出された特徴に基づいて正常画像を復元する画像生成方法を、オートエンコーダまたは敵対的生成ネットワーク(GAN)に学習させる。この画像生成方法には、異常な検査対象が撮影された異常画像から抽出された特徴では正常画像を正確に復元できないという性質がある。非特許文献1に記載された画像検査方法は、検査対象が撮影された画像と復元された画像との差分画像を算出し、差分画像に基づいて検査対象の異常を判定する。
被写体の製品の外観上の一部が検査対象である場合に、この製品が撮影された画像内の一定の領域が検査対象の画像領域となる。この場合、製品がカメラに正対した状態で撮影された画像と正対しない状態で撮影された画像では、画像内の検査対象の位置姿勢にずれが生じる。非特許文献1に記載された従来の技術は、位置姿勢にずれが発生して検査対象に異常があることは分かるが、検査対象のどの部位に異常が発生しているかを正確に判定できないという課題があった。
本開示は上記課題を解決するものであり、検査対象および撮影装置の位置姿勢の変化に頑健な画像検査を行うことができる画像検査装置および画像検査方法を得ることを目的とする。
本開示に係る画像検査装置は、検査対象が撮影された第1の画像を取得する画像取得部と、第1の画像における検査対象の位置を、検査対象の位置が既知である第1の参照画像に合わせる幾何変換パラメータを推定し、推定した幾何変換パラメータを用いて第1の画像を幾何変換することにより、第1の画像における検査対象の位置が第1の参照画像に合わされた第2の画像を生成する幾何変換処理部と、第1の画像を用いて生成した第3の画像を入力し正解画像として第2の画像を推論する画像生成ネットワークを用いて、第2の画像を復元する画像復元処理部と、第1の画像の幾何変換によって得られた第2の画像と、復元された第2の画像との差分画像を用いて、検査対象の異常を判定する異常判定部を備える。
本開示によれば、検査対象および撮影装置の位置姿勢に変化が生じた場合であっても、検査対象の位置が既知な第1の参照画像を用いた幾何変換により第1の画像上の検査対象が位置合わせされる。検査対象が位置合わせされた第2の画像を正解画像として推論する画像生成ネットワークを用いて、第2の画像が復元される。第1の画像の幾何変換により得られた第2の画像と復元された第2の画像との差分画像を用いて検査対象の異常が判定される。これにより、本開示に係る画像検査装置は、検査対象および撮影装置の位置姿勢の変化に頑健な画像検査を行うことができる。
図1Aは、被写体がカメラに正対した状態で撮影された画像を示す概要図であり、図1Bは、被写体がカメラに正対していない状態で撮影された画像を示す概要図である。 実施の形態1に係る画像検査装置の構成を示すブロック図である。 実施の形態1に係る画像検査方法を示すフローチャートである。 図4Aは、実施の形態1に係る画像検査装置の機能を実現するハードウェア構成を示すブロック図であり、図4Bは、実施の形態1に係る画像検査装置の機能を実現するソフトウェアを実行するハードウェア構成を示すブロック図である。 実施の形態2に係る画像検査装置の構成を示すブロック図である。 実施の形態2に係る画像検査方法を示すフローチャートである。
実施の形態1.
図1Aは、被写体Bがカメラに正対した状態で撮影された画像Aを示す概要図である。図1Bは、被写体Bがカメラに正対していない状態で撮影された画像A1を示す概要図である。検査対象である被写体Bがカメラに正対した状態で撮影されると、例えば、図1Aに示すように、被写体Bが撮影された画像Aが得られる。画像Aには、被写体Bの一つの部品Baが既定の位置に撮影されている。
被写体Bの位置姿勢がずれるか、カメラの位置姿勢がずれた場合、被写体Bがカメラに正対していない状態で撮影される。例えば、図1Bに示すように、画像A1には被写体Bが斜めに撮影され、画像A1における部品Baの位置ずれは、部品Baに異常が発生して部品Bbのように撮影されたと誤認識される可能性がある。すなわち、この位置ずれは、部品Baの異常を正確に判定できない要因となる。
図2は、実施の形態1に係る画像検査装置1の構成を示すブロック図である。図2において、画像検査装置1は、撮影装置2および記憶装置3に接続され、撮影装置2によって検査対象が撮影された画像を入力し、入力した画像と、記憶装置3に記憶されたデータとを用いて、検査対象の異常を判定する。
撮影装置2は、検査対象を撮影するカメラであり、例えば、ネットワークカメラ、アナログカメラ、USBカメラまたはHD-SDIカメラである。記憶装置3は、画像検査装置1によって行われた画像検査処理において利用または生成されたデータを記憶する記憶装置であり、メインメモリ3aおよび補助メモリ3bを備える。
補助メモリ3bには、画像生成ネットワークである学習済みモデル、学習済みモデルの構成を規定するモデル情報といったパラメータ情報、検査対象の位置合わせに使用される第1の参照画像、画像生成ネットワークに入力される画像の作成に使用される第2の参照画像、検査対象の異常判定に使用される閾値情報、および、検査対象の位置と画像中の領域といったアノテーション情報が記憶されている。補助メモリ3bに記憶されている情報は、メインメモリ3aに読み込まれて画像検査装置1に使用される。
画像検査装置1は、図2に示すように、画像取得部11、幾何変換処理部12、画像復元処理部13および異常判定部14を備える。画像取得部11は、撮影装置2によって検査対象が撮影された画像を、入力インタフェース(I/F)を介して取得する。撮影装置2によって検査対象が撮影された画像は、検査対象である被写体が撮影装置2の撮影視野に対して正対した状態のみならず、正対していない状態である場合も含まれる第1の画像である。
幾何変換処理部12は、画像取得部11によって取得された画像における検査対象の位置を、検査対象の位置が既知である第1の参照画像に合わせる幾何変換パラメータを推定する。そして、幾何変換処理部12は、推定した幾何変換パラメータを用いて、画像取得部11によって取得された画像を幾何変換することにより、検査対象の位置が第1の参照画像に合わされた画像を生成する。
第1の参照画像は、検査対象の位置が既知の画像であり、検査対象が撮影装置2の撮影視野に対して正対した状態で撮影されたものである。例えば、図1Aに示した部品Baが検査対象である場合に、部品Baの位置が既知な画像Aは、第1の参照画像として用いることができる。幾何変換処理部12によって生成される画像は、検査対象の位置が第1の参照画像に合わされた第2の画像である。
画像復元処理部13は、画像取得部11によって取得された画像を用いて生成された入力画像を画像生成ネットワークへ入力することにより、当該入力画像から、検査対象の位置が第1の参照画像に合わされた画像を復元する。画像生成ネットワークの入力画像は、画像取得部11により取得された検査対象の画像を用いて生成された第3の画像であり、例えば、画像取得部11によって取得された検査対象の画像と、検査対象の位置が既知である第2の参照画像との差分画像である。
画像生成ネットワークは、画像復元処理部13によって生成された入力画像を入力し、正解画像として、検査対象の位置が第1の参照画像に合わされた画像を推論する学習済みモデルである。例えば、画像生成ネットワークは、幾何変換処理によって生成された正常な検査対象が撮影された画像である正解画像(出力画像)と画像復元処理部13によって生成された正常な検査対象に関する画像である入力画像との複数のペアを学習用データとして、入力画像と出力画像との間の画像変換が学習されたものである。
異常判定部14は、幾何変換処理部12によって幾何変換された検査対象の画像と、画像復元処理部13によって復元された検査対象の画像との差分画像を算出し、差分画像を用いて、検査対象の異常を判定する。例えば、異常判定部14は、検査対象の位置とその画像内の領域を示すアノテーション情報に基づいて差分画像における検査対象を特定し、特定した検査対象の差分画像領域を閾値情報と比較した結果に基づいて、検査対象の異常を判定する。差分画像は、例えば、振幅画像、位相画像または強度画像である。閾値情報は、振幅、位相または強度の閾値である。
実施の形態1に係る画像検査方法は、以下の通りである。
図3は実施の形態1に係る画像検査方法を示すフローチャートであり、画像検査装置1によって実行される画像検査の一連の処理を示している。
検査対象である製品は、撮影装置2の撮影視野内に配置され、撮影装置2によって撮影される。撮影装置2によって撮影された検査対象の画像は、「検査対象画像」である。画像取得部11は、撮影装置2によって順次撮影された検査対象画像を取得する(ステップST1)。画像取得部11によって取得された検査対象画像は、幾何変換処理部12へ出力される。
幾何変換処理部12は、検査対象画像における検査対象の位置を、検査対象の位置が既知である第1の参照画像に合わせる幾何変換パラメータを推定し、幾何変換パラメータを用いて検査対象画像を幾何変換することで、検査対象の位置が第1の参照画像に合わされた画像を生成する(ステップST2)。例えば、幾何変換処理部12は、画像レジストレーション処理によって幾何変換パラメータを推定する。
画像レジストレーションは、注目画像と参照画像から抽出された特徴点の類似度または注目画像と参照画像の間で画像変換された画像領域の類似度に基づいて、注目画像と参照画像の間の幾何変換パラメータを推定する処理である。幾何変換処理には、例えば、線形変換であるユークリッド変換、アフィン変換またはホモグラフィ変換がある。また、幾何変換処理は、画像回転、画像反転またはクロップの少なくとも一つであってもよい。
記憶装置3が備える補助メモリ3bには、検査対象が撮影装置2の撮影視野に正対した状態で撮影された検査対象画像が第1の参照画像として記憶されている。第1の参照画像には、検査対象画像における検査対象の位置とその画像領域を示す情報がアノテーションされている。例えば、図1Aに示した画像Aが、第1の参照画像として記憶装置3に保存され、個々の第1の参照画像には、部品Baの位置とその画像領域を示すアノテーション情報が付与される。
幾何変換処理部12は、撮影装置2によって撮影された検査対象画像における検査対象の位置を、第1の参照画像に付与されたアノテーション情報に基づいて特定された位置に合わせる画像レジストレーション処理を実行し、位置合わせに必要な幾何変換パラメータを推定する。そして、幾何変換処理部12は、撮影装置2によって撮影された検査対象の画像に対して幾何変換パラメータを用いた幾何変換処理を行うことで、第1の参照画像と同じような位置姿勢で撮影された検査対象の画像を生成する。以下、幾何変換処理部12によって生成された画像は、「位置合わせ済み画像」である。
画像復元処理部13は、画像生成ネットワークへの入力画像を生成する(ステップST3)。例えば、U-netのように、画像生成ネットワークが、複数のレイヤーを跨いだスキップコネクションを有したニューラルネットワークであると、スキップコネクションされる経路の重みが大きくなるように学習される。このため、画像生成ネットワークは、入力画像をそのまま出力するように学習してしまい、位置合わせ済み画像と出力画像との差分を抽出しづらくなる。
そこで、画像復元処理部13は、検査対象画像を加工した画像を、入力画像として画像生成ネットワークに入力する。検査対象画像を加工した画像は、例えば、検査対象画像と第2の参照画像との差分画像であってもよい。第2の参照画像には、例えば、正常な検査対象が撮影された複数の検査対象画像の平均画像が用いられ、補助メモリ3bに記憶される。なお、スキップコネクションを有さない画像生成ネットワークであれば、入力画像は位置合わせ済み画像であってもよい。
画像復元処理部13は、前述のようにして生成した入力画像を画像生成ネットワークに入力することにより、位置合わせ済み画像を復元する(ステップST4)。例えば、画像生成ネットワークは、検査対象画像と第2の参照画像との差分画像を入力し、位置合わせ済み画像を推論(復元)する。
異常判定部14は、幾何変換処理部12によって幾何変換された検査対象画像と、画像復元処理部13によって復元された位置合わせ済み画像との差分画像を用いて、検査対象の異常を判定する(ステップST5)。例えば、異常判定部14は、幾何変換された検査対象画像と復元された位置合わせ済み画像との差分画像を抽出した場合、第1の参照画像に付与されたアノテーション情報に基づいて、抽出した差分画像がどの検査対象の位置と画像領域であるかを特定できる。異常判定部14は、位置および画像領域を特定した検査対象に異常があると判定する。
差分画像の抽出方法としては、一定の領域ごと(例えば、画像内の部品領域ごとまたは一定サイズの画素ブロックごと)に画素値の絶対差分の総和または平均値を用いる方法がある。また、差分画像の抽出方法には、一定の領域ごとの画像の構造類似度(SSIM、またはPSNR)を用いる方法がある。異常判定部14は、差分画像における注目画素値が閾値よりも大きい場合、差分画像領域に対応する検査対象に異常があると判定する。
画像検査装置1の機能を実現するハードウェア構成は、以下の通りである。
図4Aは、画像検査装置1の機能を実現するハードウェア構成を示すブロック図である。図4Bは、画像検査装置1の機能を実現するソフトウェアを実行するハードウェア構成を示すブロック図である。図4Aおよび図4Bにおいて、入力I/F100は、撮影装置2によって撮影された映像入力を受け付けるインタフェースである。ファイルI/F101は、記憶装置3との間でやり取りされるデータを中継するインタフェースである。
画像検査装置1が備える、画像取得部11、幾何変換処理部12、画像復元処理部13および異常判定部14の機能は、処理回路により実現される。すなわち、画像検査装置1は、図3に示したステップST1からステップST5の処理を実行するための処理回路を備える。処理回路は、専用のハードウェアであってもよいが、メモリに記憶されたプログラムを実行するCPU(Central Processing Unit)であってもよい。
処理回路が図4Aに示す専用のハードウェアの処理回路102である場合に、処理回路102は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、または、これらを組み合わせたものが該当する。画像検査装置1が備える、画像取得部11、幾何変換処理部12、画像復元処理部13および異常判定部14の機能は、別々の処理回路で実現されてもよく、これらの機能がまとめて1つの処理回路で実現されてもよい。
処理回路が図4Bに示すプロセッサ103である場合、画像検査装置1が備える、画像取得部11、幾何変換処理部12、画像復元処理部13および異常判定部14の機能は、ソフトウェア、ファームウェアまたはソフトウェアとファームウェアとの組み合わせにより実現される。なお、ソフトウェアまたはファームウェアは、プログラムとして記述されてメモリ104に記憶される。
プロセッサ103は、メモリ104に記憶されたプログラムを読み出して実行することにより、画像検査装置1が備える、画像取得部11、幾何変換処理部12、画像復元処理部13および異常判定部14の機能を実現する。例えば、画像検査装置1は、プロセッサ103によって実行されるときに、図3に示したステップST1からステップST5までの処理が結果的に実行されるプログラムを記憶するメモリ104を備える。これらのプログラムは、画像取得部11、幾何変換処理部12、画像復元処理部13および異常判定部14の手順または方法をコンピュータに実行させる。メモリ104は、コンピュータを、画像取得部11、幾何変換処理部12、画像復元処理部13および異常判定部14として機能させるためのプログラムが記憶されたコンピュータ可読記憶媒体であってもよい。
メモリ104は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically-EPROM)などの不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVDなどが該当する。
画像検査装置1が備える、画像取得部11、幾何変換処理部12、画像復元処理部13および異常判定部14の機能の一部が専用のハードウェアで実現され、残りの一部がソフトウェアまたはファームウェアで実現されてもよい。例えば、画像取得部11は、専用のハードウェアである処理回路102によって機能が実現され、幾何変換処理部12、画像復元処理部13および異常判定部14は、プロセッサ103がメモリ104に記憶されたプログラムを読み出して実行することによって機能が実現される。このように、処理回路は、ハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせによって、上記機能を実現することができる。
以上のように、実施の形態1に係る画像検査装置1において、検査対象および撮影装置2の位置姿勢に変化が生じた場合であっても、検査対象の位置が既知な第1の参照画像を用いた幾何変換によって検査対象画像上の検査対象が位置合わせされる。検査対象が位置合わせされた位置合わせ済み画像を正解画像として推論する画像生成ネットワークを用いて、位置合わせ済み画像が復元される。幾何変換によって位置合わせされた検査対象画像と復元された位置合わせ済み画像との差分画像を用いて、検査対象の異常が判定される。これにより、画像検査装置1は、検査対象および撮影装置の位置姿勢の変化に頑健な画像検査を行うことができる。
実施の形態2.
図5は、実施の形態2に係る画像検査装置1Aの構成を示すブロック図である。図5において、画像検査装置1Aは、撮影装置2および記憶装置3に接続されており、撮影装置2によって検査対象が撮影された画像を入力し、入力した画像と記憶装置3に記憶されたデータを用いて、検査対象の異常を判定する。画像検査装置1Aは、画像取得部11A、幾何変換処理部12A、画像復元処理部13Aおよび異常判定部14Aを備える。
画像取得部11Aは、撮影装置2によって検査対象が撮影された検査対象画像を、入力I/Fを介して取得し、取得した画像を幾何変換処理部12Aおよび画像復元処理部13Aに出力する。画像取得部11Aによって取得された検査対象画像は、検査対象である被写体が撮影装置2の撮影視野に対して正対した状態のみならず、正対していない状態である場合も含まれる第1の画像である。
幾何変換処理部12Aは、画像取得部11Aによって取得された検査対象画像における検査対象の位置を、検査対象の位置が既知である第1の参照画像に合わせる幾何変換パラメータを推定し、幾何変換パラメータを用いて検査対象画像を幾何変換することにより、検査対象の位置が第1の参照画像に合わされた位置合わせ済み画像を生成する。
画像復元処理部13Aは、画像取得部11Aによって取得された検査対象画像(第1の画像)を画像生成ネットワークへ入力することにより、当該入力画像から位置合わせ済み画像を復元する。異常判定部14Aは、幾何変換処理部12Aによって幾何変換された検査対象画像と画像復元処理部13Aによって復元された位置合わせ済み画像との差分画像を算出し、差分画像を用いて検査対象の異常を判定する。
実施の形態2に係る画像検査方法は、以下の通りである。
図6は、実施の形態2に係る画像検査方法を示すフローチャートであり、画像検査装置1Aによって実行される画像検査の一連の処理を示している。画像取得部11Aは、撮影装置2によって順次撮影された検査対象画像を取得する(ステップST1a)。画像取得部11Aによって取得された検査対象画像は、幾何変換処理部12Aおよび画像復元処理部13Aへ出力される。
幾何変換処理部12Aは、検査対象画像における検査対象の位置を、検査対象の位置が既知である第1の参照画像に合わせる幾何変換パラメータを推定し、幾何変換パラメータを用いて検査対象画像を幾何変換することにより、検査対象の位置が第1の参照画像に合わされた、位置合わせ済み画像を生成する(ステップST2aa)。なお、幾何変換処理部12Aは、実施の形態1における幾何変換処理部12と同様に、例えば、画像レジストレーション処理によって幾何変換パラメータを推定し、画像取得部11Aによって取得された検査対象画像に対して幾何変換パラメータを用いた幾何変換処理を行うことにより、位置合わせ済み画像を生成する。
また、画像復元処理部13Aは、画像取得部11Aによって取得された検査対象画像をそのまま画像生成ネットワークに入力することで、位置合わせ済み画像を復元する(ステップST2ab)。例えば、画像生成ネットワークは、幾何変換処理部12Aによって生成された位置合わせ済み画像を正解画像(出力画像)と、画像取得部11Aによって取得された、位置合わせされていない検査対象画像を入力画像との複数のペアを学習用データとして、入力画像と出力画像との間の画像変換が学習されたものである。なお、画像生成ネットワークによる学習対象の画像変換には、位置合わせされていない検査対象画像における検査対象の位置を、検査対象の位置が既知である第1の参照画像に合わせる幾何変換も含まれる。
異常判定部14Aは、幾何変換処理部12Aによって幾何変換された検査対象画像と、画像復元処理部13Aによって復元された位置合わせ済み画像との差分画像を用いて、検査対象の異常を判定する(ステップST3a)。例えば、異常判定部14Aは、幾何変換された検査対象画像と復元された位置合わせ済み画像との差分画像を抽出した場合、第1の参照画像に付与されたアノテーション情報に基づいて、抽出した差分画像がどの検査対象の位置と画像領域であるかを特定できる。異常判定部14Aは、位置および画像領域を特定した検査対象に異常があると判定する。
なお、画像検査装置1Aが備える画像取得部11A、幾何変換処理部12A、画像復元処理部13Aおよび異常判定部14Aの機能は、処理回路により実現される。すなわち、画像検査装置1Aは、図6に示したステップST1aからステップST3aまでの処理を実行するための処理回路を備えている。処理回路は、図4Aに示した専用のハードウェアの処理回路102であってもよいし、図4Bに示したメモリ104に記憶されたプログラムを実行するプロセッサ103であってもよい。
以上のように、実施の形態2に係る画像検査装置1Aにおいて、画像生成ネットワークへの入力画像は、撮影装置2によって撮影された検査対象画像である。画像生成ネットワークは、検査対象画像を入力し、位置合わせ済み画像を推論する。画像復元処理部13Aは、上記画像生成ネットワークを用いて、位置合わせ済み画像を復元する。これにより、画像検査装置1Aは、検査対象および撮影装置の位置姿勢の変化に頑健な画像検査を行うことができる。また、画像生成ネットワークへの入力画像の生成処理が省略されるので、実施の形態1に係る画像検査方法よりも演算処理量が削減される。さらに、幾何変換処理と画像復元処理とを並列に行うことが可能であるため、画像検査のタクトタイムを短縮できる。
なお、各実施の形態の組み合わせまたは実施の形態のそれぞれの任意の構成要素の変形もしくは実施の形態のそれぞれにおいて任意の構成要素の省略が可能である。
本開示に係る画像検査装置は、例えば、製品の異常検査に利用可能である。
1,1A 画像検査装置、2 撮影装置、3 記憶装置、3a メインメモリ、3b 補助メモリ、11,11A 画像取得部、12,12A 幾何変換処理部、13,13A 画像復元処理部、14,14A 異常判定部、100 入力I/F、101 ファイルI/F、102 処理回路、103 プロセッサ、104 メモリ。

Claims (6)

  1. 検査対象が撮影された第1の画像を取得する画像取得部と、
    前記第1の画像における前記検査対象の位置を、前記検査対象の位置が既知である第1の参照画像に合わせる幾何変換パラメータを推定し、推定した前記幾何変換パラメータを用いて前記第1の画像を幾何変換することにより、前記第1の画像における前記検査対象の位置が前記第1の参照画像に合わされた第2の画像を生成する幾何変換処理部と、
    前記第1の画像を用いて生成した第3の画像を入力し正解画像として前記第2の画像を推論する画像生成ネットワークを用いて、前記第2の画像を復元する画像復元処理部と、
    前記第1の画像の幾何変換によって得られた前記第2の画像と、復元された前記第2の画像との差分画像を用いて、前記検査対象の異常を判定する異常判定部と、
    を備えたことを特徴とする画像検査装置。
  2. 前記第3の画像は、前記第1の画像と前記検査対象の位置が既知である第2の参照画像との差分画像であること
    を特徴とする請求項1記載の画像検査装置。
  3. 前記第3の画像は、前記第1の画像であり、
    前記画像生成ネットワークは、前記第1の画像を入力し前記第2の画像を推論するものであり、
    前記画像復元処理部は、前記画像生成ネットワークを用いて前記第2の画像を復元すること
    を特徴とする請求項1記載の画像検査装置。
  4. 前記幾何変換処理部は、前記第1の参照画像に対する画像レジストレーションによって前記第1の画像を幾何変換することにより前記第2の画像を生成すること
    を特徴する請求項1記載の画像検査装置。
  5. 前記幾何変換処理部は、前記第1の画像に対して、画像回転、画像反転またはクロップの少なくとも一つを行って前記第2の画像を生成すること
    を特徴する請求項1記載の画像検査装置。
  6. 画像取得部が、検査対象が撮影された第1の画像を取得するステップと、
    幾何変換処理部が、前記第1の画像における前記検査対象の位置を、前記検査対象の位置が既知である第1の参照画像に合わせる幾何変換パラメータを推定し、推定した前記幾何変換パラメータを用いて前記第1の画像を幾何変換することにより、前記第1の画像における前記検査対象の位置が前記第1の参照画像に合わされた第2の画像を生成するステップと、
    画像復元処理部が、前記第1の画像を用いて生成した第3の画像を入力し正解画像として前記第2の画像を推論する画像生成ネットワークを用いて、前記第2の画像を復元するステップと、
    異常判定部が、前記第1の画像の幾何変換によって得られた前記第2の画像と、復元された前記第2の画像との差分画像を用いて、前記検査対象の異常を判定するステップと、
    を備えたことを特徴とする画像検査方法。
JP2022516605A 2020-04-27 2020-04-27 画像検査装置および画像検査方法 Active JP7101918B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/017946 WO2021220336A1 (ja) 2020-04-27 2020-04-27 画像検査装置および画像検査方法

Publications (2)

Publication Number Publication Date
JPWO2021220336A1 JPWO2021220336A1 (ja) 2021-11-04
JP7101918B2 true JP7101918B2 (ja) 2022-07-15

Family

ID=78332352

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022516605A Active JP7101918B2 (ja) 2020-04-27 2020-04-27 画像検査装置および画像検査方法

Country Status (7)

Country Link
US (1) US20230005132A1 (ja)
JP (1) JP7101918B2 (ja)
KR (1) KR20220146666A (ja)
CN (1) CN115398474A (ja)
DE (1) DE112020006786T5 (ja)
TW (1) TW202141351A (ja)
WO (1) WO2021220336A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023095250A1 (ja) * 2021-11-25 2023-06-01 株式会社日立国際電気 異常検知システム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008219800A (ja) 2007-03-07 2008-09-18 Osaka Prefecture Univ 書込み抽出方法、書込み抽出装置および書込み抽出プログラム
JP6241576B1 (ja) 2016-12-06 2017-12-06 三菱電機株式会社 検査装置及び検査方法
JP2017219529A (ja) 2016-06-07 2017-12-14 株式会社豊田中央研究所 外観異常検査装置、方法、及びプログラム
WO2019064599A1 (ja) 2017-09-29 2019-04-04 日本電気株式会社 異常検知装置、異常検知方法、及びコンピュータ読み取り可能な記録媒体
WO2019159853A1 (ja) 2018-02-13 2019-08-22 日本電気株式会社 画像処理装置、画像処理方法及び記録媒体
WO2019186915A1 (ja) 2018-03-29 2019-10-03 三菱電機株式会社 異常検査装置および異常検査方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008219800A (ja) 2007-03-07 2008-09-18 Osaka Prefecture Univ 書込み抽出方法、書込み抽出装置および書込み抽出プログラム
JP2017219529A (ja) 2016-06-07 2017-12-14 株式会社豊田中央研究所 外観異常検査装置、方法、及びプログラム
JP6241576B1 (ja) 2016-12-06 2017-12-06 三菱電機株式会社 検査装置及び検査方法
WO2019064599A1 (ja) 2017-09-29 2019-04-04 日本電気株式会社 異常検知装置、異常検知方法、及びコンピュータ読み取り可能な記録媒体
WO2019159853A1 (ja) 2018-02-13 2019-08-22 日本電気株式会社 画像処理装置、画像処理方法及び記録媒体
WO2019186915A1 (ja) 2018-03-29 2019-10-03 三菱電機株式会社 異常検査装置および異常検査方法

Also Published As

Publication number Publication date
WO2021220336A1 (ja) 2021-11-04
DE112020006786T5 (de) 2023-01-12
US20230005132A1 (en) 2023-01-05
JPWO2021220336A1 (ja) 2021-11-04
TW202141351A (zh) 2021-11-01
CN115398474A (zh) 2022-11-25
KR20220146666A (ko) 2022-11-01

Similar Documents

Publication Publication Date Title
JP5096303B2 (ja) 撮像装置
KR20140109439A (ko) 잡음에 강한 영상 정합 방법 및 시스템
EP1932114A2 (en) Image processing apparatus and image processing program
KR102206698B1 (ko) 이상 검사 장치 및 이상 검사 방법
WO2013190862A1 (ja) 画像処理装置及び画像処理方法
JP5141245B2 (ja) 画像処理装置、補正情報生成方法、および撮像装置
US20140037212A1 (en) Image processing method and device
JP6656035B2 (ja) 画像処理装置、撮像装置および画像処理装置の制御方法
KR102481896B1 (ko) 이미지 스티칭을 이용한 구조물 외관 조사망도 구축 시스템 및 방법
JPWO2007074605A1 (ja) 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置
JP6347589B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP5600954B2 (ja) 検査システム、その方法及びプログラム
JP7101918B2 (ja) 画像検査装置および画像検査方法
KR20190105760A (ko) 영상 처리에 기반한 전기철도 팬터그래프 모니터링 장치 및 방법
Attard et al. Image mosaicing of tunnel wall images using high level features
WO2021059765A1 (ja) 撮像装置、画像処理システム、画像処理方法及びプログラム
KR101938067B1 (ko) Sift 플로우를 이용한 광각영상의 스테레오 정합 방법 및 장치
WO2020158726A1 (ja) 画像処理装置、画像処理方法、及びプログラム
US11393116B2 (en) Information processing apparatus, method thereof, and non-transitory computer-readable storage medium
JP6943340B2 (ja) 物体検出装置、物体検出システム、物体検出方法、およびプログラム
Bowman Image stitching and matching tool in the Automated Iterative Reverse Engineer (AIRE) integrated circuit analysis suite
JP2010122840A (ja) 物体領域検出方法、物体領域検出装置、物体領域検出プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
US20230260283A1 (en) Remote visual inspection guidance
Sultana et al. Stereo Video Camera Calibration in the Wild.
JP2008112259A (ja) 画像照合方法および画像照合プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220315

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220315

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220705

R150 Certificate of patent or registration of utility model

Ref document number: 7101918

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150