JP2021190006A - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP2021190006A JP2021190006A JP2020097722A JP2020097722A JP2021190006A JP 2021190006 A JP2021190006 A JP 2021190006A JP 2020097722 A JP2020097722 A JP 2020097722A JP 2020097722 A JP2020097722 A JP 2020097722A JP 2021190006 A JP2021190006 A JP 2021190006A
- Authority
- JP
- Japan
- Prior art keywords
- color
- color conversion
- distribution data
- image
- lighting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
Abstract
【課題】撮像画像における照明ムラを適切に補正すること。【解決手段】第1色変換部203は、データ保持部202から検査画像データを取得し、検査画像に含まれる各色を照明分布データに基づき色変換する。色変換パラメータ導出部204は、基準環境で撮像して得られた基準画像データと、評価環境で撮像して得られた評価画像データの各々について第1色変換部203で色変換し、得られたカラーチャートの色の対応関係に基づいて色変換パラメータを算出する。照明分布データ生成部205は、撮像環境に複数のカラーチャートを配置して撮像した照明ムラ画像から照明分布データを生成する。第2色変換部207は、色変換パラメータ導出部204で導出した色変換パラメータを用いて第1色変換部203で照明ムラを補正した評価画像データの色を変換する。【選択図】図2
Description
本発明は、画像の色を変換するための画像処理技術に関する。
工業製品の色検査において、目視による検査の代替として撮像装置で撮像して得られた画像データの利用が期待されている。例えば、検査対象と、色の基準となる色票やカラーチャートとを撮像したり、同一色で塗装された複数のパーツを撮像したりして、得られた画像データに基づき色差を検査することが考えられる。
ここで、検査対象が大きい場合、広範囲を均一に照明することは困難であるため照明ムラが生じ、検査対象の撮像領域によってはカラーチャートとの照明条件が異なる場合がある。このような場合、カラーチャートの色を参照しても、検査対象との色差を正しく評価できない。そこで、照明ムラの影響を補正する方法として、まず、原稿台上の照度分布を示すデータを求め、求めた照度分布を示すデータから照度補正データを生成する。そして、当該照度補正データに基づき、照明装置の原稿台に対する位置を変えてシェーディング補正する方法がある(特許文献1参照)。
しかしながら、特許文献1の方法では、立体的な検査対象の各部を一様な明るさに補正することは困難であり、そのため検査対象の部位によって見た目の色が変わってしまう場合がある。また、周辺光とスポット光を組み合わせて得られる照明環境では、明るさだけでなく色味の分布も一様でない場合があり、明るさの補正だけでは十分な色の補正ができない場合もある。このように従来技術では、明るさおよび色味が部分的に変化する照明ムラの補正が困難であるという課題がある。
そこで、本開示の技術は、撮像画像における照明ムラを適切に補正することを目的とする。
上記課題を解決するために、本開示の技術に係る画像処理装置は、第1の環境内に配置した検査対象のオブジェクトを撮像して得られた検査画像を取得する検査画像取得手段と、前記第1の環境内に前記検査対象のオブジェクトを配置せずに撮像して得られた画像における位置ごとの照明条件に応じた色の変化の度合いを示す第1の照明分布データを生成する照明分布データ生成手段と、目標とする照明条件に対応する第2の照明分布データを取得する照明分布データ取得手段と、前記第1の照明分布データと前記第2の照明分布データとに基づき、前記検査画像における少なくとも1つの位置の色を、前記目標とする照明条件に応じた色に変換する、第1の色変換手段と、を備えることを特徴とする。
本開示の技術によれば、撮像画像における照明ムラを適切に補正することができる。
以下、各実施形態について、図面を参照して説明する。尚、以下の実施形態は本発明を必ずしも限定するものではない。また、本実施形態において説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。
[第1実施形態]
<工場間で色の見えを合わせる色変換処理>
工業製品の色検査では複数の異なる工場で生産された製品の色が同じ色で塗装されていることを確認することが求められる。しかし、照明条件によって物体の色は違って見えるため、各工場で生産した製品をそれぞれの工場で撮像して得られた撮像画像の色が異なる場合、その色の差異が製品の塗装の色が異なるためなのか、照明条件が異なるためなのかを判定することは難しい。そこで、所定の色に対応する複数の色票を含むカラーチャートをそれぞれの工場の照明条件下で撮像し、各色票の撮像画像上の色信号値の対応関係から色信号間の相対的な変化の度合いである色変換パラメータを導出する。この照明条件毎に導出された色変換パラメータに基づいて、一方の環境で撮像して得られた撮像画像の色を、もう一方の環境の照明条件に応じた色に変換することで、異なる環境で撮像された撮像画像間の正確な色比較が可能になる。なお、工場ごとに異なる照明ムラが生じる場合、それぞれの照明ムラを補正した上で、上述の色変換パラメータを導出する必要がある。
<工場間で色の見えを合わせる色変換処理>
工業製品の色検査では複数の異なる工場で生産された製品の色が同じ色で塗装されていることを確認することが求められる。しかし、照明条件によって物体の色は違って見えるため、各工場で生産した製品をそれぞれの工場で撮像して得られた撮像画像の色が異なる場合、その色の差異が製品の塗装の色が異なるためなのか、照明条件が異なるためなのかを判定することは難しい。そこで、所定の色に対応する複数の色票を含むカラーチャートをそれぞれの工場の照明条件下で撮像し、各色票の撮像画像上の色信号値の対応関係から色信号間の相対的な変化の度合いである色変換パラメータを導出する。この照明条件毎に導出された色変換パラメータに基づいて、一方の環境で撮像して得られた撮像画像の色を、もう一方の環境の照明条件に応じた色に変換することで、異なる環境で撮像された撮像画像間の正確な色比較が可能になる。なお、工場ごとに異なる照明ムラが生じる場合、それぞれの照明ムラを補正した上で、上述の色変換パラメータを導出する必要がある。
そこで、実施形態として、工場間で色の見えを合わせるための色変換処理について説明する。本実施形態では、色検査の基準となるオブジェクトを撮像する撮像環境を基準環境、工場などの各拠点において検査対象を撮像する撮像環境を評価環境とする。そして共通のオブジェクトを基準環境及び各々の評価環境で撮像し、評価環境で撮像して得られた撮像画像を基準環境の照明条件に応じた色に変換する色変換パラメータを導出する。これにより、基準環境で撮像した撮像画像データと、評価環境で撮像した撮像画像データの色変換パラメータによる色変換後の画像データとを比較することで、正確な色差の評価ができるようになる。
ここで、図13及び図14を参照して評価画像を色変換し、基準画像と比較するまでの処理の概要について説明する。
図13は、基準環境と評価環境の双方で実施する照明ムラ補正処理がなされた補正済み検査画像データ生成処理の工程を示す図である。まず、撮像環境に複数のカラーチャートを設置して撮像して照明ムラ画像データを取得し、カラーチャート間の色変換パラメータを含む照明分布データを生成する。次に、検査対象とカラーチャートとを含む検査画像を取得し、照明分布データに含まれるカラーチャート間の色変換パラメータに基づき色を補正することで、検査画像における撮像環境毎の照明ムラを補正する。この照明ムラ補正処理を基準環境と評価環境とで撮像して得られた検査画像の双方に対して行うことで、照明ムラの影響を低減することができ、基準環境と評価環境とで撮像して得られた検査画像の補正済み検査画像データが得られる。
図14は、基準環境で撮像して得られた補正済み検査画像データである基準画像データと、評価環境で撮像して得られた補正済み検査画像データである評価画像データとを比較することで色検査する処理の工程を示す図である。まず、図13で説明した工程で生成した基準画像と評価画像とのそれぞれに含まれるカラーチャートから、評価環境下でのカラーチャートの色を基準環境下でのカラーチャートの色に変換する色変換パラメータを生成する。次に、生成した撮像環境間の色変換パラメータを用いて評価画像の色を変換する。これにより、基準画像データと色変換した評価画像データとを比較することで照明ムラの影響を受けずに色検査を行うことができる。
<画像処理装置100のハードウェア構成>
図1は、本実施形態における画像処理装置100のハードウェア構成を例示する図である。図1において、画像処理装置100はCPU101、RAM102、HDD103、汎用インターフェース(I/F)104、メインバス109を備える。汎用I/F104はカメラなどの撮像装置105や、マウス、キーボードなどの入力装置106、メモリーカードなどの外部メモリ107、モニタ108をメインバス109に接続する。
図1は、本実施形態における画像処理装置100のハードウェア構成を例示する図である。図1において、画像処理装置100はCPU101、RAM102、HDD103、汎用インターフェース(I/F)104、メインバス109を備える。汎用I/F104はカメラなどの撮像装置105や、マウス、キーボードなどの入力装置106、メモリーカードなどの外部メモリ107、モニタ108をメインバス109に接続する。
以下では、CPU101がHDD103に格納された各種ソフトウェア(コンピュータプログラム)を動作させることで実現する各種処理について述べる。
まず、CPU101は、HDD103に格納されている画像処理アプリケーションを起動し、RAM102に展開するとともに、モニタ108にユーザインターフェース(UI)を表示する。続いて、HDD103や外部メモリ107に格納されている各種データ、撮像装置105で撮像されて得られた画像データ、入力装置106からのユーザ入力などがRAM102に転送される。さらに、画像処理アプリケーション内の処理に従って、RAM102に格納されている画像データに対して、ユーザ入力に応じたCPU101からの指令に基づき各種演算が行われる。演算結果はモニタ108に表示したり、HDD103、外部メモリ107に格納したりする。
上記の構成において、CPU101からの指令に基づき、画像処理アプリケーションに画像データを入力して色変換する処理の詳細について説明する。
<画像処理装置100のソフトウェア構成>
以下では、本実施形態における画像処理について図2のブロック図及び、図3のフローチャートを参照して説明する。
以下では、本実施形態における画像処理について図2のブロック図及び、図3のフローチャートを参照して説明する。
図2は、本実施形態の画像処理装置100のソフトウェア構成を例示する図である。画像処理装置100は、画像データ取得部201、データ保持部202、第1色変換部203、色変換パラメータ導出部204、照明分布データ生成部205を備える。さらに画像処理装置100は、検査位置指定部206、第2色変換部207、比較部208、データ出力部209、目標照明分布データ取得部210を備える。
画像データ取得部201は、色検査のために検査対象を撮像して得られた検査画像データなどを取得する検査画像取得部である。取得したデータはデータ保持部202に記録したり、データ出力部209を介してモニタに表示したりする。
データ保持部202は、画像データ取得部201から取得した画像データや、各処理部の処理結果などのデータを保持する。
第1色変換部203は、データ保持部202から検査画像データを取得し、検査画像に含まれる各色を照明分布データに基づき色変換する。色変換処理の詳細は後述する。色変換後の検査画像データはデータ保持部202に記録する。
色変換パラメータ導出部204は、基準環境で撮像して得られた基準画像データと、評価環境で撮像して得られた評価画像データの各々について第1色変換部203で色変換し、得られたカラーチャートの色の対応関係に基づいて色変換パラメータを算出する。色変換パラメータ算出処理の詳細は後述する。算出した色変換パラメータはデータ保持部202に記録する。
照明分布データ生成部205は、撮像環境に複数のカラーチャートを配置して撮像した照明ムラ画像データから照明分布データを生成する。照明分布データ生成処理の詳細は後述する。生成した照明分布データはデータ保持部202に記録する。
検査位置指定部206は、検査画像における色検査の対象とする位置を指定する。
第2色変換部207は、色変換パラメータ導出部204で導出した色変換パラメータを用いて第1色変換部203で照明ムラを補正した評価画像の色を変換する。色変換処理の詳細は後述する。生成した色変換後の画像はデータ保持部202に記録する。
比較部208は、データ保持部202から基準画像データと、第2色変換部207で色変換した評価画像データとを取得して、検査位置指定部206で指定された検査位置の色を比較する。
データ出力部209は、データ保持部202に記録されている画像データや、比較部208での比較結果をモニタなどに出力する。
目標照明分布データ取得部210は、均一な照明や、基準環境や評価環境で取得した照明分布データなどを取得する。取得した目標照明分布データはデータ保持部202に記録する。
<画像処理装置100が実行する処理>
図3は、図2で説明した画像処理装置100のソフトウェア構成における各処理の詳細を示すフローチャートである。以下、各ステップ(工程)は符号の前にSをつけて表す。
図3は、図2で説明した画像処理装置100のソフトウェア構成における各処理の詳細を示すフローチャートである。以下、各ステップ(工程)は符号の前にSをつけて表す。
S301において、画像データ取得部201は、撮像装置105や外部メモリ107などから各撮像環境に対応する照明ムラ画像データを取得する。
S302において、画像データ取得部201は、撮像装置105や外部メモリ107などから各撮像環境に対応する検査画像データを取得する。
ここで、図4を参照して取得する検査画像データおよび照明ムラ画像データの例について説明する。401はS302で取得する検査画像の例を示している。検査画像401は検査対象402と色補正で参照するカラーチャート403が含まれている。尚、カラーチャート403については色空間において検査対象の色を包含する複数の色票から構成されるものが好ましい。また、色補正の基準となる白色の色票が含まれることが好ましい。
404は照明ムラ画像の例を示している。本実施形態では、照明ムラ画像404におけるカラーチャート405〜410は、カラーチャート403と同じ色票からなるカラーチャートであるとして説明するが、照明ムラの影響を補正できれば色票の数は必ずしも同一である必要はない。また、カラーチャート410はカラーチャート403と同じ位置に設置されている。同一のカラーチャートを同じ位置に設置する理由は、カメラの絞りやシャッターに依存するメカ変動や、照明のフリッカ等により撮像毎に画像の明るさがわずかに変動するため、それを補正するためである。同じ位置に設置されたカラーチャートの色を参照することにより、メカ変動や照明のフリッカ等による変動についても撮像毎に色を適切に補正することができる。
また、照明ムラ画像404において複数のカラーチャート405〜409を配置する理由を説明する。異なる環境で撮像した検査対象402の色を比較するためには、できるだけ同じ条件で照明される場所にカラーチャートを配置し、そのカラーチャートの色の対応関係に基づいて異なる環境で撮像して得られた画像を色変換することが好ましい。ここで、検査対象の被写体が大きく、照明装置により被写体全体を一様に照明できない場合、照明ムラの影響を避けるためには検査する箇所と同じ照明条件の場所にカラーチャートを設置する必要がある。
例えば、検査対象402の中央の色を検査する場合、検査対象402の中央の位置にカラーチャートを配置するのがよい。しかし、当然ながら、検査対象402が置かれる位置にカラーチャートは配置できない。そこで、検査画像401では検査対象402がない位置にカラーチャート403を配置するしかない。しかし、撮像環境に照明ムラがあると検査対象402の中央とカラーチャート403とでは照明の当たり方が異なるため、それらの検査画像401上での色の見えも異なってしまう。この状態で、カラーチャート403の色を参照して色変換しても、検査対象402の中央の色を正しく変換できない。
そこで、照明ムラ画像404に複数のカラーチャートを配置して、それらカラーチャート間の色変換パラメータを参照可能なデータを生成する。したがって、照明ムラ画像404では、検査画像401において色を検査する位置に対応する位置にカラーチャートを配置するのが好ましい。ここで、大きい検査対象の場合、1つの検査画像401で検査対象の位置毎、あるいはパーツ毎などのように複数の箇所を別々に検査する場合がある。そこで、照明ムラ画像404に示すように、407は検査対象の左側、408は検査対象402の中央、409は検査対象の右側、405と406は各々別のパーツに対応するように複数のカラーチャートを配置する。検査画像401と照明ムラ画像404は同じ撮像環境で撮像して得られたものである。そのため、照明ムラ画像404上のカラーチャートに基づき、検査画像401のカラーチャートの無い検査箇所についても正確な色補正が可能になる。
S303において、照明分布データ生成部205は、S301で取得した照明分布データ取得用のデータを用いて照明分布データを生成する。照明分布データの生成方法の詳細は後述する。
S304において、第1色変換部203は、S303で生成した照明分布データを参照して、S302で取得した検査画像401の色を変換して照明ムラを補正する。照明ムラ補正処理の詳細は後述する。
S305において、第1色変換部203は、検査画像401の照明ムラ補正処理が基準環境と評価環境との双方について処理済みであるかどうか判定する。処理済みであればS306に移行し、未処理の環境があればS301に移行して処理を継続する。
S306において、色変換パラメータ導出部204は、評価環境で撮像して得られた検査画像の色を基準環境で撮像して得られた検査画像の照明条件に応じた色に変換する色変換パラメータを導出する。色変換パラメータ導出処理には、S304にて照明ムラ補正処理した後のカラーチャートの色信号値を用いる。ここで導出する色変換パラメータは、R、G、Bなどの画素値の要素(チャネル)ごとのゲイン補正係数や、多次元の色変換マトリクス、色変換テーブルなど所望のデータを色変換パラメータとしてよい。例えば、カラーチャートとして白色を用いた場合に色変換パラメータとしてゲイン補正係数を用いる例を説明する。S304で導出した評価環境の色信号値をR1、G1、B1、基準環境の色信号値をR2、G2、B2とすると、それぞれのゲイン係数に対するゲイン補正係数αR、αG、αBは次式で得られる。
また、複数の色を含むカラーチャートを用いた場合に、色変換パラメータとして3×3の色変換マトリクスを用いてもよい。ここでS304で導出した評価環境の色信号値をR1、G1、B1、基準環境の色信号値をR2、G2、B2とする。すると、カラーチャートの各色票に関して式(2)の誤差Δが最小となるマトリクスM=(mij)(i,j=0,1,2)を最小二乗法や所望の最適化手法を用いて導出すればよい。
また、予め色ごとに導出した色変換パラメータを記憶した色変換テーブルを用いてもよい。この場合、色変換テーブルには、検査画像の取りうる画素値を入力とし、式(1)や式(2)を利用して導出した色変換パラメータを出力とする入出力データの組を記憶しておく。
S307において、第2色変換部207は、S306で導出した色変換パラメータを用いてS304で色変換した評価画像をさらに色変換する。ここでは、評価画像の各画素値についてS306で導出した色変換パラメータに応じて色変換すればよい。ここで、3×3の色変換マトリクスMを色変換パラメータとした場合、色変換前の画素値をR1’G1’B1’、色変換後の画素値をR2’G2’B2’とすると次式で色変換できる。
S308において、比較部208は、基準画像の色信号値と、評価画像の色信号値を比較する。図5は、基準画像と色補正後の評価画像とを比較するためのUIの例である。501は基準画像表示領域、502は評価画像表示領域でそれぞれの画像が表示される比較表示部である。ユーザはそれぞれの表示領域に対して色評価領域503、504を比較位置指定することができる。尚、色評価領域503、504は、一方を指定すると、他方も同じ領域が自動的に指定され、両方が指定されるようにしてもよい。505は、色評価領域503及び504の色信号値や色差を表示する表示領域である。表示領域505に表示する色信号値は、RGB値などの画素の色信号値でもよいし、図5に示すような測色値でもよい。例えば、sRGB値であれば所定の変換式を用いて測色値であるXYZ値やLab値を算出できる。また、色差についてもRGB値や、XYZ値の差でもよいし、Lab値から算出した色差でもよい。基準画像の測色値をL1a1b1、評価画像の測色値をL2a2b2とすると色差ΔEは次式で得られる。
尚、表示する色差はこれに限られるものではなく、ΔE94、ΔE00などの所望の色差で構わないし、複数の色差を同時に表示するようにしてもかまわない。
このように、基準画像と色変換後の評価画像との色を比較し、色差をUIに表示することで、ユーザは複数の工場間の製品の色が同じ色になっている否かを容易に判断することが可能になる。
<照明分布データ生成処理>
以下では、S303における照明分布データの生成方法について、図6に示すフローチャートを参照して説明する。
以下では、S303における照明分布データの生成方法について、図6に示すフローチャートを参照して説明する。
S601において、照明分布データ生成部205は、図4に示した照明ムラ画像404に示すように、複数のカラーチャートを撮像して得られた画像データを取得する。照明ムラ画像404のカラーチャートの位置は、検査画像401においてカラーチャートが設置される位置に配置されるカラーチャート410以外は、検査画像401で色検査したい位置に相当する位置とするのが好ましい。但し、照明ムラ画像404のカラーチャートの位置はそれに限られるものではない。例えば、撮像環境内に色検査したい位置に限らずより多くのカラーチャートを配置して、補間処理等によりカラーチャートを設置していない場所の色を推定できるようにしてもよい。
S602において、照明分布データ生成部205は、照明ムラ画像404内に含まれる複数のカラーチャートの中から基準となる基準カラーチャートを選択する。ここで選択する基準カラーチャートは検査画像に含まれるカラーチャート403と同じ位置に配置されたカラーチャート410を選択するのが好ましい。
S603において、照明分布データ生成部205は、照明ムラ画像404内に含まれるカラーチャートのうち、S602で基準カラーチャートとして指定したカラーチャート410以外のカラーチャートを選択する。例えば、照明ムラ画像404内に含まれるカラーチャート405〜409を順次選択してもよいし、検査位置が予め指定されている場合は、その指定された位置又はその周辺に配置されたカラーチャートのみを選択してもよい。
S604において、照明分布データ生成部205は、S602で基準カラーチャートして指定したカラーチャート410と、S603で選択したカラーチャートとに含まれる各色票の画素値を取得する。そして照明分布データ生成部205は、その色の対応関係に基づいて同色の色票を写す画素の画素値を等しくする照明ムラ補正用の色変換パラメータを導出する。ここで導出する照明ムラ補正用の色変換パラメータ及び導出方法についてはS306と同様のため説明は省略する。
S605において、照明分布データ生成部205は、照明ムラ画像404に含まれるカラーチャート間の照明ムラ補正用の色変換パラメータの導出が終了したか否か判定する。照明ムラ補正用の色変換パラメータの導出が終了していれば照明分布データ取得処理を終了し、照明ムラ補正用の色変換パラメータの導出が終了していなければS603に移行して処理を継続する。
S606において、照明分布データ生成部205は、S602で指定した基準カラーチャートの位置、S603で選択したカラーチャートの位置、S604で導出した照明ムラ補正用の色変換パラメータの情報を照明分布データとして出力する。図7に、図4の照明ムラ画像404から得られる照明分布データの例を示す。図7(a)は、画像の左上を基準とした色変換パラメータの位置を示しており、図7(b)は、(x4、y2)に配置されたカラーチャート410を基準とした各位置が照明ムラ補正用の色変換パラメータ照明分布データが得られる。照明分布データは、基準となるカラーチャートの位置、その基準となるカラーチャートに対応付けられたカラーチャートの位置、及び照明ムラ補正用の色変換パラメータMで構成される。
尚、ここでは基準カラーチャートの位置を1カ所とした場合について説明したが、この場合は基準カラーチャートと他のカラーチャートとの間での変換のみ可能となる。図4のカラーチャート405〜409の間で相互変換できるようにするためには、それらカラーチャート405〜409のそれぞれを基準とした照明分布データが必要になるが、そのために基準カラーチャートを複数設けて照明分布データを生成してもよい。
以上の処理により、画像内の所望の位置に配置したカラーチャートの色を導出するための照明分布データを得ることができる。
<照明ムラ補正処理>
以下では、S304における照明ムラ補正処理の詳細について、図8のフローチャートを参照して説明する。
以下では、S304における照明ムラ補正処理の詳細について、図8のフローチャートを参照して説明する。
S801において、第1色変換部203は、S303で生成した照明分布データと、検査画像データとを取得する。ここで、図9を参照して検査画像と照明分布データについて説明する。図9において、901は検査画像を示している。また、902は検査対象、903は色補正用のカラーチャートである。904は照明分布データを示しており、図4のカラーチャート配置で得られる図7で説明した照明分布データの例に対応している。
S802において、第1色変換部203は、検査画像901から、色の基準とする基準カラーチャートの位置と色の検査を行う位置を指定する。基準カラーチャートの位置は、検査画像901に写るカラーチャートが設置されている位置903を指定する。また、検査位置は、例えば検査対象902上の位置911を指定する。
S803において、第1色変換部203は、S802で指定された検査画像901上の基準カラーチャートの位置および検査位置に基づき、照明分布データ904カラーチャートの色変換に用いる色変換パラメータを取得する。以下では、図4及び図9を参照して導出方法の例を説明する。例えば、検査位置として想定していた場所である位置911を選択した場合、照明分布データ取得時に位置911に対応する位置にカラーチャートを設置しておくのがよい。図4の例ではカラーチャート408の位置が位置911に対応する。照明分布データ904には、位置911に配置されたカラーチャート408に対応した色変換パラメータM4が導出済みのため、照明分布データ904から位置911に対応する色変換パラメータを取得すればよい。
一方、検査画像901から任意の検査位置として位置912が指定され、位置912に対応する照明分布データ904の位置913における色変換パラメータが無い場合がある。この場合、その位置における色変換パラメータとして、照明分布データ上の他の位置の色変換パラメータを参照して所望の方法で導出してよい。位置912に対応する照明分布データ904の位置913における色変換パラメータMxは、例えば、距離の最も近い色変換パラメータM4としてもよい。また、その色変換パラメータMxは、位置913を囲む近傍4点の位置905、906、908、909の色変換パラメータを、それらまでの距離に応じて加重平均した値としてもよい。
このように、照明分布データを生成する際に複数のカラーチャートを配置しておくことで、検査画像における所望の位置を検査位置として選択可能になる。また、カラーチャートの数を増やすことで補間処理による誤差を小さくすることできる。
S804において、第1色変換部203は、導出した照明ムラ補正用の色変換パラメータを用いて、検査位置の色を基準カラーチャートの位置の照明条件に応じた色に色変換する。この照明ムラ補正用の色変換パラメータに基づく色変換処理は、S307の撮像環境間の色変換処理と同様である。
以上の処理により、撮像環境の照明分布データを利用することで、検査対象が大きい場合でも、照明ムラによる検査対象の各位置とカラーチャート位置での照明条件の違いを補正する色変換が可能になる。これにより得られた色変換結果を用いることで、工場間などの検査環境の照明ムラを含む照明条件が異なる場所で撮像して得られた画像間の色を適切に補正して比較することが可能になる。
尚、本実施形態では、基準環境および評価環境の各々で照明ムラを補正した上で、基準環境と評価環境の色を補正する方法を説明した。この方法では、S803で指定した検査画像におけるカラーチャートを基準として、その基準とする基準カラーチャートの位置の照明条件に検査画像全体の照明条件を合わせるように照明ムラを補正している。しかし、照明ムラの補正方法はこれに限られるものではない。例えば、撮像環境の照明条件とは関係無く、理想的な照明条件を仮定して補正してもよい。所定の理想的な照明条件を仮定して補正するには、S303で生成する照明分布データを、目標照明分布データ取得部210により取得された所定の照明条件で撮像されたカラーチャートを基準カラーチャートとして導出した色変換パラメータを使用すればよい。また、基準環境および評価環境の各々の照明分布データを事前に取得できる場合は、評価環境の照明分布データと基準環境の照明分布データとの関係から、評価環境の色を基準環境の色に直接変換することもできる。そのためには、理想的な照明条件を仮定した補正の場合と同様に、目標照明分布データとして予め基準環境の照明分布データを取得しておき、評価環境と基準環境の照明分布データの比に基づいて補正すればよい。
[第2実施形態]
第1実施形態では、照明ムラによる検査位置とカラーチャート設置位置とでの照明条件の違いを照明分布データに基づき補正する方法について説明した。ここで、検査対象の製品が大きい場合や、異なる形状の製品を順次検査する場合は、図11に示すように、撮像位置に対して面方向だけでなく奥行き方向の照明分布まで考慮する必要がある。そこで、面方向だけでなく、奥行き方向(撮像装置のレンズの光軸方向)の距離毎に照明分布データを取得しておいて、検査対象までの距離に応じて参照する照明分布データを選択することで、より適切な色変換パラメータを生成する方法について説明する。
第1実施形態では、照明ムラによる検査位置とカラーチャート設置位置とでの照明条件の違いを照明分布データに基づき補正する方法について説明した。ここで、検査対象の製品が大きい場合や、異なる形状の製品を順次検査する場合は、図11に示すように、撮像位置に対して面方向だけでなく奥行き方向の照明分布まで考慮する必要がある。そこで、面方向だけでなく、奥行き方向(撮像装置のレンズの光軸方向)の距離毎に照明分布データを取得しておいて、検査対象までの距離に応じて参照する照明分布データを選択することで、より適切な色変換パラメータを生成する方法について説明する。
<画像処理装置が実行する処理>
以下では、図2で説明した画像処理装置の論理構成において、撮像距離の異なる複数の照明分布データを利用した色変換処理について、図10のフローチャートを参照して説明する。尚、色変換結果を利用して照明条件の異なる環境で撮像して得られた画像間の色比較のための色変換に適用することは可能である。ただし、S306からS308に対応する色比較のための処理は第1実施形態と同様のため説明は省略し、差異あるS301からS304までの処理のみ説明する。
以下では、図2で説明した画像処理装置の論理構成において、撮像距離の異なる複数の照明分布データを利用した色変換処理について、図10のフローチャートを参照して説明する。尚、色変換結果を利用して照明条件の異なる環境で撮像して得られた画像間の色比較のための色変換に適用することは可能である。ただし、S306からS308に対応する色比較のための処理は第1実施形態と同様のため説明は省略し、差異あるS301からS304までの処理のみ説明する。
S1001において、画像データ取得部201は、照明分布データを生成するために使用する照明ムラ画像データの、撮像位置からカラーチャートまでの奥行き方向の撮像距離を選択する。ここで、照明分布データを生成する撮像距離は所望の条件で構わない。例えば、図11に示した3種に対応するためには、それぞれの検査対象である被写体までの距離に応じて3パターンの照明分布データを選択するのが好ましい。ただし、これに限られるものではなく検査対象によらず一定の間隔で照明分布データを作成してもよい。また、データの間隔についても、照明ムラの大きい環境や、検査対象のバリエーションの多い環境では細かくデータをとっても良いし、データ量削減のために粗い間隔でとっても構わない。
S1002において、照明分布データ生成部205は、撮像環境に複数のカラーチャートをS1001で選択した撮像距離となる位置に配置して撮像し、照明分布データを生成する。照明分布データの生成方法は第1実施形態と同様のため説明は省略する。
S1003において、照明分布データ生成部205は、撮像距離の異なる複数の照明分布データの生成がすべて終了したかどうかを判定する。終了していればS1004に移行し、終了していなければS1001から処理を継続する。
S1004において、画像データ取得部201は、検査対象とカラーチャートとを含む検査画像データを取得する。
S1005において、検査位置指定部206は、取得した検査画像におけるカラーチャートの位置と、検査位置を指定する。画像データの取得及び位置の指定は第1実施形態と同様である。
S1006において、撮像位置から検査対象までの撮像距離に応じた照明分布データを取得する。ここで、照明分布データの取得方法は所望の方法でよい。例えば、図11のように機種毎に撮像距離に関するデータがある場合は、機種に応じた撮像距離の照明分布データを取得するのが好ましい。一方、検査対象とは関係なく照明分布データを生成した場合は、所望の方法で撮像距離を取得した上で対応する照明分布データを取得する。撮像距離の取得方法としては測距計を用いてもよいし、検査対象に特性が既知の複数のマーカーを設置し、S1004で撮像して得られた画像データから導出してもよい。そして、取得する照明分布データは、撮像距離が最も近いデータを利用してもよいし、複数の照明分布データを参照して補間処理により検査対象までの撮像距離に対応した照明分布データを導出しても構わない。
図12を参照して補間処理により照明分布データを導出する方法について説明する。図12において、Rが検査対象までの撮像距離、Pは検査対象よりも撮像距離が短い照明分布データ、Qは検査対象よりも撮像距離が長い照明分布データを示している。Rにおける点rに対応する色変換パラメータは、近傍8点のデータから導出すればよい。Pにおける点p1、p2、p3、p4、Qにおける点q1、q2、q3、q4とすると、次式で得られる。
尚、ここでは立方体補間の例を説明したが他の手法を用いても構わない。例えば、4面体、3角柱補間などの線形補間や、スプライン補間などの非線形の補間演算を用いてもよい。
S1007は、第1色変換部203は、S1006で取得した照明分布データを用いて検査画像の色を変換して照明ムラ補正を行う。検査画像データの色変換処理は第1実施形態と同様のため説明は省略する。
以上の処理により、撮像距離に応じた複数の照明分布データを利用することで、検査対象が大きく照明ムラの影響を受けやすい場合でも、対象に応じて適切に色変換することが可能になる。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
なお、上述した各処理部のうち、第1色変換部203、色変換パラメータ導出部204、第2色変換部207等については、その代わりとして、機械学習された学習済みモデルを用いて処理しても良い。その場合には、例えば、その処理部への入力データと出力データとの組合せを学習データとして複数個準備し、それらから機械学習によって知識を獲得し、獲得した知識に基づいて入力データに対する出力データを結果として出力する学習済みモデルを生成する。学習済みモデルは、例えばニューラルネットワークモデルで構成可能である。そして、その学習済みモデルは、前記処理部と同等の処理をするためのプログラムとして、CPUあるいはGPUなどと協働で動作することにより、前記処理部の処理を行う。なお、上記学習済みモデルは、必要に応じて一定の処理後に更新しても良い。
201 画像データ取得部
203 第1色変換部
205 照明分布データ生成部
210 照明分布データ取得部
203 第1色変換部
205 照明分布データ生成部
210 照明分布データ取得部
Claims (19)
- 第1の環境内に配置した検査対象のオブジェクトを撮像して得られた検査画像を取得する検査画像取得手段と、
前記第1の環境内に前記検査対象のオブジェクトを配置せずに撮像して得られた画像における位置ごとの照明条件に応じた色の変化の度合いを示す第1の照明分布データを生成する照明分布データ生成手段と、
目標とする照明条件に対応する第2の照明分布データを取得する照明分布データ取得手段と、
前記第1の照明分布データと前記第2の照明分布データとに基づき、前記検査画像における少なくとも1つの位置の色を、前記目標とする照明条件に応じた色に変換する、第1の色変換手段と、
を備えることを特徴とする画像処理装置。 - 前記照明分布データ生成手段は、前記第1の環境内の異なる位置に配置された複数のカラーチャートを撮像して照明ムラを示す照明ムラ画像を取得し、前記照明ムラ画像から前記第1の照明分布データを生成し、
前記複数のカラーチャートの各々は、所定の色に対応する複数の色票を含む
ことを特徴とする請求項1に記載の画像処理装置。 - 前記照明分布データ生成手段は、
前記照明ムラ画像に含まれる前記複数のカラーチャートから基準カラーチャートを選択する選択手段と、
選択した前記基準カラーチャートの各色票に対応する画素値と、前記複数のカラーチャートの各色票に対応する画素値とに基づき色変換パラメータを導出する第1の色変換パラメータ導出手段と、
を含むことを特徴とする請求項2に記載の画像処理装置。 - 前記第1の照明分布データは、前記色変換パラメータが、前記色変換パラメータを導出するために用いたカラーチャートの前記照明ムラ画像における位置と対応付けて記録されている
ことを特徴とする請求項3に記載の画像処理装置。 - 前記第1の色変換パラメータ導出手段は、前記色変換パラメータに対応付けて記録されている前記基準カラーチャートを除いた他のカラーチャートの位置が色変換する位置と最も近い前記色変換パラメータを選択する
ことを特徴とする請求項4に記載の画像処理装置。 - 前記第1の色変換パラメータ導出手段は、前記色変換パラメータに対応付けて記録されている前記基準カラーチャートを除いた他のカラーチャートの位置からの距離に応じた複数の前記色変換パラメータの補間演算に基づいて、色変換する位置の色変換パラメータを導出する
ことと特徴とする請求項4に記載の画像処理装置。 - 前記色変換パラメータは、画素値の各チャネルに対応するゲイン補正係数、色変換マトリクス、および色変換テーブルのいずれか1つである
ことを特徴とする請求項3乃至6のいずれか1項に記載の画像処理装置。 - 前記照明分布データ取得手段は、前記目標とする照明条件でカラーチャートを撮像して得られた画像に基づく前記第2の目標照明分布データを取得し、
前記照明分布データ生成手段は、前記第1の照明分布データと前記第2の照明分布データとに基づき、前記検査画像における少なくとも1つの位置の色を、前記第2の照明分布データにおけるカラーチャートの位置の照明条件に応じた色に変換する
ことを特徴とする請求項3乃至7のいずれか1項に記載の画像処理装置。 - 前記第2の照明分布データの目標とする照明条件は、均一な照明である
ことを特徴とする請求項8に記載の画像処理装置。 - 前記第2の照明分布データは、前記第1の環境とは異なる第2の環境で取得された照明分布データであることを特徴とする請求項8に記載の画像処理装置。
- 前記照明分布データ生成手段は、カラーチャートまでの撮像距離が異なる複数の照明分布データを生成し、
前記第1の色変換手段は、前記複数の照明分布データのうち、色変換する位置に対応する撮像距離に応じた1つの照明分布データに基づき色変換する
ことを特徴とする請求項2乃至10のいずれか1項に記載の画像処理装置。 - 前記検査画像における前記色変換を行う少なくとも1つの位置を指定する指定手段
をさらに備え、
前記第1の色変換手段は、前記指定手段により指定された位置の色を変換する
ことを特徴とする請求項1乃至11のいずれか1項に記載の画像処理装置。 - 前記指定手段は、前記検査画像を表示する表示手段を含み、表示された前記検査画像に対するユーザ入力に基づき色変換する位置を指定する
ことを特徴とする請求項12に記載の画像処理装置。 - 前記検査画像は、前記検査対象のオブジェクトに加えて少なくとも1つのカラーチャートを撮像して得られた画像である
ことを特徴とする請求項1乃至13のいずれか1項に記載の画像処理装置。 - 前記第1の色変換手段で色変換された、撮像環境が異なる2つの検査画像において、前記2つの検査画像の一方の前記第1の色変換手段で色変換された位置の色を前記2つの検査画像の他方の前記第1の色変換手段で色変換された位置の照明条件に応じた色に変換する第2の色変換手段と、
前記2つの検査画像の一方の前記第2の色変換手段で色変換された位置の色と、前記2つの検査画像の他方の対応する位置の色とを比較する比較手段と
をさらに備えたことを特徴とする請求項1乃至14のいずれか1項に記載の画像処理装置。 - 前記第1の色変換手段で色変換された、撮像環境が異なる2つの検査画像において、前記2つの検査画像の一方の前記第1の色変換手段で色変換された位置の色、および前記2つの検査画像の他方の前記第1の色変換手段で色変換された位置の色を、所定の照明条件に応じた色に変換する第2の色変換手段と、
前記2つの検査画像の両方の前記第2の色変換手段で色変換された位置の色を比較する比較手段と
をさらに備えたことを特徴とする請求項1乃至14のいずれか1項に記載の画像処理装置。 - 前記比較手段は、
前記2つの検査画像を同時に表示する比較表示手段と、
前記第2の色変換手段で色変換された位置のうちの1つを指定する比較位置指定手段と、
を含み、
前記比較表示手段は、前記2つの検査画像における前記比較位置指定手段で指定した位置の色信号値を比較表示する
ことを特徴とする請求項16に記載の画像処理装置。 - 第1の環境内に配置した検査対象のオブジェクトを撮像して得られた検査画像を取得する検査画像取得ステップと、
前記第1の環境内に前記検査対象のオブジェクトを配置せずに撮像して得られた画像における位置ごとの照明条件に応じた色の変化の度合いを示す第1の照明分布データを生成する照明分布データ生成ステップと、
目標とする照明条件に対応する第2の照明分布データを取得する照明分布データ取得ステップと、
前記第1の照明分布データと前記第2の照明分布データとに基づき、前記検査画像における少なくとも1つの位置の色を、前記目標とする照明条件に応じた色に変換する、第1の色変換ステップと、
を有することを特徴とする画像処理方法。 - コンピュータを、請求項1乃至17のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020097722A JP2021190006A (ja) | 2020-06-04 | 2020-06-04 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020097722A JP2021190006A (ja) | 2020-06-04 | 2020-06-04 | 画像処理装置、画像処理方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021190006A true JP2021190006A (ja) | 2021-12-13 |
Family
ID=78849685
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020097722A Pending JP2021190006A (ja) | 2020-06-04 | 2020-06-04 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021190006A (ja) |
-
2020
- 2020-06-04 JP JP2020097722A patent/JP2021190006A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7822269B2 (en) | Projector color correcting method | |
JP5661720B2 (ja) | マルチディスプレイのキャリブレーションシステム | |
US6340976B1 (en) | Multivision system, color calibration method and display | |
US8711171B2 (en) | Image processing apparatus, method, and storage medium for performing soft proof processing | |
JP6783895B2 (ja) | 反射を低減したコントラスト画像を生成するための方法およびこれに関連する装置 | |
JP6028527B2 (ja) | 表示処理装置、表示処理方法、及びプログラム | |
JP7260937B2 (ja) | カメラテストシステムおよびカメラテスト方法 | |
JP7327957B2 (ja) | 画像表示システム、方法、及び、プログラム | |
JP2020194998A (ja) | 制御装置、投影システム、制御方法、プログラムおよび記憶媒体 | |
Wüller et al. | Standardization of image quality analysis–ISO 19264 | |
JP5950756B2 (ja) | 画像処理装置および画像処理方法 | |
JPH1198372A (ja) | 色調整方法 | |
JP2021190006A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5523078B2 (ja) | 画像処理装置および画像処理方法 | |
JP2017228947A (ja) | 画像処理装置および画像処理方法 | |
JP2019168930A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2006093757A (ja) | 画像処理装置と撮像装置、および画像処理プログラム | |
JP2012161080A (ja) | 画像処理装置および画像処理方法 | |
JP6401632B2 (ja) | 色域包含率情報生成装置および色域包含率情報生成方法 | |
JP2020088709A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP4629463B2 (ja) | 色変換定義表示装置、色変換定義表示プログラム、および色変換定義表示方法 | |
JP7427526B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2020160352A (ja) | 投写画像調整システム及び方法 | |
CN116152361B (zh) | 用于估算色度的方法、电子设备及计算机可读存储介质 | |
JP7366689B2 (ja) | 画像処理装置、画像処理方法及びプログラム |