JP6020471B2 - 画像処理方法、画像処理装置および画像処理プログラム - Google Patents

画像処理方法、画像処理装置および画像処理プログラム Download PDF

Info

Publication number
JP6020471B2
JP6020471B2 JP2013553216A JP2013553216A JP6020471B2 JP 6020471 B2 JP6020471 B2 JP 6020471B2 JP 2013553216 A JP2013553216 A JP 2013553216A JP 2013553216 A JP2013553216 A JP 2013553216A JP 6020471 B2 JP6020471 B2 JP 6020471B2
Authority
JP
Japan
Prior art keywords
image
density value
density
histogram
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013553216A
Other languages
English (en)
Other versions
JPWO2013105381A1 (ja
Inventor
允宣 中村
允宣 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Publication of JPWO2013105381A1 publication Critical patent/JPWO2013105381A1/ja
Application granted granted Critical
Publication of JP6020471B2 publication Critical patent/JP6020471B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • G06T5/90
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • H04N1/4074Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original using histograms

Description

本発明は、少なくとも2つの画像の間で濃度値を補正するための変換関数を生成する画像処理方法、画像処理装置および画像処理プログラムに関する。
従来から、同一の被写体を複数の視点からそれぞれ撮像して得られる画像を用いて、立体視表示を行なうような技術が開発されている。このような場合、画像撮像時の条件の相違などによって、被写体の同一の部分に対応する濃度値が画像間で異なるような場合がある。そのため、一方の画像に含まれる画素の濃度値を、他方の画像に含まれる画素の濃度値を基準にして補正するような処理が行われる。このような補正処理には、濃度値変換テーブルなどの各種の変換関数が用いられる。
このような補正処理に関する先行技術としては、以下のようなものが知られている。
例えば、特開2010−16803号公報(特許文献1)に開示される色調整装置は、2台のカメラAおよびBのうち一方のカメラAによるRGB色空間で表される撮影画像を基準画像Saとし、他方のカメラBによるRGB色空間で表される撮影画像を調整対象画像Sbとする。調整対象画像Sbは、色調整装置内の色調整部によって、色空間変換を施され、この色空間変換後のそれぞれの成分ごとに、基準画像Saの同成分Ha(k)を基準として、累積ヒストグラムマッチング処理を施される。そして、この累積ヒストグラムマッチング処理後に、元のRGB空間に戻され、これによって、基準画像Saと同じ色合いの調整後画像Sb’が生成される。
また、稲村真太郎,田口亮、「異なったカメラ間の色調整法について」(非特許文献1)に開示される手法では、2台のカメラを並べて同一の被写体を撮像し、得られた2枚の画像の累積ヒストグラムが一致するように一台のカメラ画像のヒストグラムをもう一台のカメラのヒストグラムに合わせるように変換を施す。そして、色空間変換を施した後に成分ごとにヒストグラム変換を施し、その後、逆変換でRGB色空間に戻す。
特開2010−16803号公報
稲村真太郎,田口亮、「異なったカメラ間の色調整法について」、社団法人 電子情報通信学会、信学技報、107巻、374号(SIS200758-67)、pp.13−18、2007年12月4日
しかしながら、同一の被写体を異なる視点から撮像して得られる画像間では、被写体を撮像する角度が異なるため、被写体の画像が全く同一にはならない。例えば、立体視画像を生成できるステレオカメラでは、右眼用画像および左眼用画像のそれぞれに写っている被写体の画像が異なるため、それぞれの画像から生成されるヒストグラムの形状は同一とはならない。そのため、上述したような先行技術に開示されるヒストグラムのみを用いる方法では、画像間の色対応関係を適切に決定できない場合がある。この結果、濃度値変換テーブルなどの変換関数において、対応関係が急激に変化する部分が生じることがあり、この場合には、補正後の画像に含まれる濃度値(階調)に飛びが生じて、偽のテクスチャなどが発生し得る。
本発明は、かかる問題を解決するためになされたものであり、その目的は、複数の画像間で被写体の画像が異なっている場合であっても、濃度値を補正するための変換関数をより適切に生成できる画像処理方法、画像処理装置および画像処理プログラムを提供することである。
本発明の一つの局面に従う画像処理方法は、少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、第1画像から生成された第1ヒストグラム上の濃度値と第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、算出した濃度値間の距離に基づいて、第1画像に含まれる濃度値と第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から第1画像と第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを含む。決定ステップは、第1画像に含まれる第1濃度値が第2画像に含まれる第2濃度値に対応している場合に、第1画像に含まれる第1濃度値より大きな第3濃度値についての対応関係を、第2画像に含まれる第2濃度値以上の濃度値を探索対象として決定するステップを含む。
好ましくは、決定ステップは、第1画像に含まれるすべての濃度値と第2画像に含まれる対応する濃度値との間の距離の総和が最小となるように、濃度値についての対応関係を決定するステップを含む。
本発明の別の一つの局面に従う画像処理方法は、少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、第1画像から生成された第1ヒストグラム上の濃度値と第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、算出した濃度値間の距離に基づいて、第1画像に含まれる濃度値と第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から第1画像と第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを含む。算出ステップは、距離の算出にあたり、空間におけるヒストグラム度数に対応する軸方向の距離に応じた重みを設定するステップを含む。
本発明のさらに別の一つの局面に従う画像処理方法は、少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、第1画像から生成された第1ヒストグラム上の濃度値と第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、算出した濃度値間の距離に基づいて、第1画像に含まれる濃度値と第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から第1画像と第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを含む。算出ステップは、距離の算出にあたり、空間における濃度値に対応する軸方向の距離に応じた重みを設定するステップを含む。
好ましくは、算出ステップは、第1ヒストグラムおよび第2ヒストグラムの少なくとも一方を空間において平行移動した上で、距離を算出するステップを含む。
好ましくは、算出ステップは、対象とする濃度値の範囲を限定した上で、距離を算出するステップを含む。
好ましくは、算出ステップは、第1ヒストグラムおよび第2ヒストグラムのうち、限定した濃度値の範囲のヒストグラムを拡張した上で、距離を算出するステップを含む。
本発明のさらに別の一つの局面に従う画像処理方法は、少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、第1画像から生成された第1ヒストグラム上の濃度値と第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、算出した濃度値間の距離に基づいて、第1画像に含まれる濃度値と第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から第1画像と第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを含む。決定ステップは、変換関数において所定の制限範囲を超える変化が存在している場合に、当該変換関数を変更するステップを含む。
本発明のさらに別の一つの局面に従う画像処理方法は、少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、第1画像から生成された第1ヒストグラム上の濃度値と第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、算出した濃度値間の距離に基づいて、第1画像に含まれる濃度値と第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から第1画像と第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを含む。決定ステップは、第1ヒストグラムおよび第2ヒストグラムの少なくとも一方において色飽和の発生が検知された場合に、当該変換関数を変更するステップを含む。
好ましくは、第1画像および第2画像に含まれる画素の各々は、複数のチャネルの濃度値で定義されており、算出ステップは、チャネルごとに濃度値間の距離を算出するステップを含む。
好ましくは、生成ステップは、第1画像および第2画像のそれぞれに設定される部分領域から累積ヒストグラムを生成するステップを含む。
好ましくは、第1画像の部分領域と第2画像の部分領域は、両者の一致度に基づいて設定される。
好ましくは、第1画像の部分領域と第2画像の部分領域は、オクルージョン領域を除外するように設定される。
本発明のさらに別の一つの局面に従う画像処理装置は、少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成手段と、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、第1画像から生成された第1ヒストグラム上の濃度値と第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出手段と、算出した濃度値間の距離に基づいて、第1画像に含まれる濃度値と第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から第1画像と第2画像との間で濃度値を補正するための変換関数を決定する決定手段とを含む。決定手段は、第1画像に含まれる第1濃度値が第2画像に含まれる第2濃度値に対応している場合に、第1画像に含まれる第1濃度値より大きな第3濃度値についての対応関係を、第2画像に含まれる第2濃度値以上の濃度値を探索対象として決定する。
本発明のさらに別の一つの局面に従う画像処理プログラムは、コンピューターに、少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、第1画像から生成された第1ヒストグラム上の濃度値と第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、算出した濃度値間の距離に基づいて、第1画像に含まれる濃度値と第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から第1画像と第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを実行させる。決定ステップは、第1画像に含まれる第1濃度値が第2画像に含まれる第2濃度値に対応している場合に、第1画像に含まれる第1濃度値より大きな第3濃度値についての対応関係を、第2画像に含まれる第2濃度値以上の濃度値を探索対象として決定するステップを含む。
本発明によれば、複数の画像間で被写体の画像が異なっている場合であっても、濃度値を補正するための変換関数をより適切に生成できる。
本発明の実施の形態に従う変換関数生成処理の概要を説明するための図である。 本発明の実施の形態に従う変換関数生成処理をパーソナルコンピューターにより実現した場合の構成を示すブロック図である。 本発明の実施の形態に従う変換関数生成処理をデジタルカメラ類似の構成により実現した場合の構成を示すブロック図である。 濃度値補正をするための変換関数を生成する処理の対象となる画像例を示す図である。 図4に示すそれぞれの画像から生成される累積ヒストグラムの一例を示す図である。 濃度値の対応付けが適切に行なわれない場合を説明するための図である。 図6に示すような事態が生じた場合に生成される濃度値変換テーブルの一例を示す図である。 図7に示す濃度値変換テーブルを用いて濃度値補正が行なわれた結果の一例を示す図である。 本発明の実施の形態に従う変換関数生成処理の全体手順を示すフローチャートである。 本発明の実施の形態に従う変換関数生成処理の機能構成を示すブロック図である。 本発明の実施の形態1において生成される単純ヒストグラムの一例を示す図である。 図11に示す単純ヒストグラムから生成される累積ヒストグラムの一例を示す図である。 本発明の実施の形態に従う対応関係を探索する処理を説明する図である。 本発明の実施の形態に従う対応関係を探索する処理を説明する図である。 本発明の実施の形態に従う変換関数生成処理によって生成される濃度値変換テーブル22の一例を示す図である。 本発明の実施の形態2に従う重み設定を説明するための図である。 本発明の実施の形態2に従う累積ヒストグラム度数に基づいて重みを設定する処理を説明するための図である。 本発明の実施の形態2に従う濃度値に基づいて重みを設定する処理を説明するための図である。 本発明の実施の形態2に従うヒストグラム度数および濃度値に基づいて重みを設定する処理を説明するための図である。 本発明の実施の形態3に従う変換関数生成処理が対処するヒストグラムの交差を説明するための図である。 本発明の実施の形態4に従う対応関係の探索処理を説明するための図である。 本発明の実施の形態4に従う対応関係の探索処理を説明するための図である。 本発明の実施の形態5において補正される濃度値変換テーブルの失敗例を示す図である。 図23に示す濃度値変換テーブルの補正例を示す図である。 本発明の実施の形態6における濃度値変換テーブルの補正処理を説明するための図である。 本発明の実施の形態7に従う変換関数生成処理の全体手順を示すフローチャートである。 本発明の実施の形態7においてパターンマッチングを用いて共通領域を探索する処理を説明するための図である。 本発明の実施の形態7においてパターンマッチングを用いて共通領域を探索する処理手順を示すフローチャートである。 本発明の実施の形態7においてパターンマッチングを用いて設定される共通領域の一例を示す図である。 本発明の実施の形態7に従うオクルージョン領域を除外する処理を説明するための図である。
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰り返さない。
<A.概要>
本発明の実施の形態は、少なくとも第1画像と第2画像との間で濃度値を補正するための変換関数を決定する画像処理方法に向けられている。これらの画像は、同一の被写体を撮像した画像を意味し、3つ以上の画像であってもよい。このような複数の画像は、典型的には、複数の撮像装置(カメラ)を用いて同一の被写体を異なる視点から撮像することで得られる。より具体的には、所定距離だけ離して配置された複数のカメラ(典型的には、ステレオカメラ)によって同一の被写体を撮像することでそれぞれの画像が得られる。
本実施の形態における「画像」は、各画素が単一のチャネルの濃度値で規定される画像(すなわち、モノクロ画像)、および、各画素が複数のチャネルの濃度値で規定される画像(すなわち、カラー画像)のいずれをも含み得る。このようなチャネルとしては、モノクロ画像の場合には、濃淡値あるいは階調値に相当する濃度値が用いられる。また、カラー画像の場合には、RGB色空間やCMY色空間などの各階調値が、それぞれのチャネルの濃度値として用いられる。さらに、YUV色空間、XYZ色空間、xyY色空間、L*u*v*色空間、L*a*b*色空間といった各種の色空間を用いて表現された画像にも適用可能である。
また、本実施の形態に従う画像処理方法は、典型的には、ステレオ撮像された画像間の濃度値補正をするための変換関数を生成する処理に向けられるが、これに限られることなく、パノラマ画像の間での濃度値補正(色合せ)などにも適用できる。
図1は、本発明の実施の形態に従う変換関数生成処理の概要を説明するための図である。図1を参照して、例えば、被写体OBJをステレオカメラ(カメラ2および4)などで撮像することで、一対の画像(画像1および画像2)が取得される。画像1および画像2に対して、次のような処理が実行されることで、画像間で濃度値を補正するための変換関数が決定される。
まず、画像1および画像2に含まれる画素の濃度値についての累積ヒストグラムがそれぞれ生成される。そして、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、画像1から生成された累積ヒストグラム1上の濃度値と画像2から生成された累積ヒストグラム2上の濃度値との間の距離が順次算出される。さらに、算出した濃度値間の距離に基づいて、画像1に含まれる濃度値と画像2に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から画像1と画像2との間で濃度値を補正するための変換関数が決定される。なお、本実施の形態においては、変換関数の典型例として、濃度値変換テーブルを用いるものとするが、テーブル形式である必要はなく、関数形式やマッピング形式であってもよい。
本実施の形態においては、画像1の累積ヒストグラム1と画像2の累積ヒストグラム2との対応関係を決定する際に、ヒストグラムの度数が同一のもの同士を対応付けることで濃度値変換テーブルを生成するのではなく、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間における距離に基づいて、対応する濃度値の関係を探索し(典型的には、DP(Dynamic Programming:動的計画法)マッチング方法などを用いて)、この探索結果によって得られる濃度値の対応関係から濃度値変換テーブルを決定する。
これにより、画像間で被写体の画像が異なる場合であっても、階調の急激な変化のない濃度値変換テーブルを生成できる。
以下、本実施の形態に従う変換関数生成処理のより詳細な内容について説明する。
<B.システム構成>
まず、本発明の実施の形態に従う変換関数生成処理を実現する画像処理装置の実装例について説明する。
[b1:パーソナルコンピューターによる実現例]
図2は、本発明の実施の形態に従う変換関数生成処理をパーソナルコンピューターにより実現した場合の構成を示すブロック図である。
図2を参照して、パーソナルコンピューターにより実現される画像処理装置100は、主として、汎用的なアーキテクチャーを有するコンピューター上に実装される。図2を参照して、画像処理装置100は、主たるコンポーネントとして、CPU(Central Processing Unit)102と、RAM(Random Access Memory)104と、ROM(Read Only Memory)106と、ネットワークインターフェイス(I/F)108と、補助記憶装置110と、表示部120と、入力部122と、メモリーカードインターフェイス(I/F)124とを含む。各コンポーネントは、バス130を介して、互いに通信可能に接続されている。
CPU102は、ROM106や補助記憶装置110などに格納された、オペレーティングシステム(OS:Operating System)や変換関数生成処理プログラムなどの各種プログラムを実行することで、画像処理装置100の全体を制御する。RAM104は、CPU102でプログラムを実行するためのワーキングメモリとして機能し、プログラムの実行に必要な各種データを一次的に格納する。ROM106は、画像処理装置100において起動時に実行される初期プログラム(ブートプログラム)などを格納する。
ネットワークインターフェイス108は、各種の通信媒体を介して、他の装置(サーバー装置など)とデータを遣り取りする。より具体的には、ネットワークインターフェイス108は、イーサネット(登録商標)などの有線回線(LAN(Local Area Network)やWAN(Wide Area Network)など)、および/または、無線LANなどの無線回線を介してデータ通信を行なう。
補助記憶装置110は、典型的には、ハードディスクなどの大容量磁気記憶媒体などからなり、本実施の形態に従う各種処理を実現するための画像処理プログラム112および処理対象の処理対象画像114などを格納する。さらに、補助記憶装置110には、オペレーティングシステムなどのプログラムが格納されてもよい。
処理対象画像114は、処理対象の少なくとも2つの画像を含む。但し、画像処理装置100本体が被写体を撮像する機能を有していなくともよい。この場合、後述するようなデジタルカメラに類似した機構を用いて、少なくとも2つの画像を取得し、それらの画像を任意の方法で画像処理装置100へ入力するようにしてもよい。より具体的には、上述のネットワークインターフェイス108やメモリーカードインターフェイス124を介して、画像が画像処理装置100へ入力される。
表示部120は、オペレーティングシステムが提供するGUI(Graphical User Interface)画面や画像処理プログラム112の実行によって生成される画像などを表示する。なお、画像処理装置100が立体視画像を取り扱う場合には、表示部120としては、3次元表示方式に対応した任意の表示デバイスによって構成されことが好ましい。このような3次元表示方式としては、パララックスバリア方式などを採用することができる。このパララックスバリア方式では、液晶表示面にパララックスバリアを設けることで、ユーザーの右眼で右眼用画像を視認させ、ユーザーの左眼で左眼用画像を視認させることができる。あるいは、シャッタメガネ方式を採用してもよい。このシャッタメガネ方式では、左眼用画像および右眼用画像を交互に高速で切り替えて表示するとともに、この画像の切り替えに同期して開閉するシャッターが搭載された専用メガネをユーザーが装着することで、立体視表示を楽しむことができる。
入力部122は、典型的には、キーボード、マウス、タッチパネルなどからなり、ユーザーから受付けた指示の内容をCPU102などへ出力する。
メモリーカードインターフェイス124は、SD(Secure Digital)カードやCF(Compact Flash(登録商標))カードなどの各種メモリーカード(不揮発性記憶媒体)126との間で、データの読み書きを行なう。典型的には、メモリーカードインターフェイス124には、何らかの装置で取得した処理対象画像を格納したメモリーカード126が装着され、そのメモリーカード126から読み出された処理対象画像が補助記憶装置110へ格納(コピー)される。
補助記憶装置110に格納される画像処理プログラム112は、CD−ROM(Compact Disk−Read Only Memory)などの記憶媒体に格納されて流通し、あるいは、ネットワークを介してサーバー装置などから配信される。画像処理プログラム112は、画像処理装置100(パーソナルコンピューター)で実行されるオペレーティングシステムの一部として提供されるプログラムモジュールのうち必要なモジュールを、所定のタイミングおよび順序で呼出して処理を実現するようにしてもよい。この場合、画像処理プログラム112自体には、オペレーティングシステムによって提供されるモジュールは含まれず、オペレーティングシステムと協働して画像処理が実現される。また、画像処理プログラム112は、単体のプログラムではなく、何らかのプログラムの一部に組み込まれて提供されてもよい。このような場合にも、画像処理プログラム112自体には、当該何らかのプログラムにおいて共通に利用されるようなモジュールは含まれず、当該何らかのプログラムと協働して画像処理が実現される。このような一部のモジュールを含まない画像処理プログラム112であっても、本実施の形態に従う画像処理装置100の趣旨を逸脱するものではない。
さらに、画像処理プログラム112によって提供される機能の一部または全部を専用のハードウェアによって実現してもよい。
[b2:デジタルカメラ類似の構成による実現例]
図3は、本発明の実施の形態に従う変換関数生成処理をデジタルカメラ類似の構成により実現した場合の構成を示すブロック図である。
図3を参照して、画像処理装置200は、実際に被写体を撮像することで、少なくとも2つの処理対象画像を取得し、この取得した処理対象画像に対して、変換関数生成処理を実行する。画像処理装置200は、主たるコンポーネントとして、画像処理エンジン202と、入力部204と、表示部206と、一対のレンズ212,222と、一対のCCD(Charge Coupled Device)イメージセンサー214,224とを含む。
画像処理エンジン202は、本実施の形態に従う変換関数生成処理を含む各種のデジタル処理を実行する。画像処理エンジン202は、典型的には、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、LSI(Large Scale Integration)、FPGA(Field−Programmable Gate Array)などからなる。
入力部204は、典型的には、各種キーボタン、タッチパネルなどからなり、ユーザーから受付けた指示の内容を画像処理エンジン202へ出力する。
表示部206は、被写体の撮像などに関するユーザーインターフェイス画面を表示する。なお、画像処理装置200が立体視画像を取り扱う場合には、表示部206としては、上述の表示部120(図2)と同様に、3次元表示方式に対応した任意の表示デバイスによって構成されることが好ましい。
一対のレンズ212,222は、画像処理装置200の本体の異なる位置に設けられており、被写体を異なる視点でそれぞれ撮像することできる。すなわち、一対のレンズ212,222には、被写体からの互いに異なる反射光がそれぞれ入射する。一対のCCD214,224は、一対のレンズ212,222にそれぞれ対応付けられており、レンズ212,222によって集光された被写体からの光(像)を受光するとともに、その像を示す電気信号を画像処理エンジン202へ出力する。
[b3:その他の構成による実現例]
上述したパーソナルコンピューターにより実現する例、および、デジタルカメラ類似の構成による実現する例に加えて、携帯電話上に実装してもよい。さらに、少なくとも1つのサーバー装置が本実施の形態に従う処理を実現する、いわゆるクラウドサービスのような形態であってもよい。この場合、ユーザーは、自身の端末(パーソナルコンピューターやスマートフォンなど)を用いて、少なくとも2つの処理対象画像をサーバー装置(クラウド側)へ送信し、当該送信された処理対象画像に対して、サーバー装置側が本実施の形態に従う画像処理を行なうような構成が想定される。さらに、サーバー装置側がすべての機能(処理)を行なう必要はなく、ユーザー側の端末とサーバー装置とが協働して、本実施の形態に従う画像処理を実現するようにしてもよい。
<C.関連技術>
まず、本実施の形態に従う変換関数生成処理を説明する前に、関連技術について説明する。
図4は、濃度値補正をするための変換関数を生成する処理の対象となる画像例を示す図である。図5は、図4に示すそれぞれの画像から生成される累積ヒストグラムの一例を示す図である。図6は、濃度値の対応付けが適切に行なわれない場合を説明するための図である。図7は、図6に示すような事態が生じた場合に生成される濃度値変換テーブルの一例を示す図である。図8は、図7に示す濃度値変換テーブルを用いて濃度値補正が行なわれた結果の一例を示す図である。
上述の非特許文献1に開示される技術では、画像間の濃度値補正(色補正)において、それぞれの画像から生成される累積ヒストグラムの間で、ヒストグラムの度数のみに基づいて濃度値間の対応関係が決定される。
例えば、図4に示すような2つの画像に対して濃度値補正をするような場合を考える。図4に示す2つの画像(画像1および画像2)の間では、全体的な濃度(明るさ)が異なっている。このような濃度値の差を補正する場合を考える。図4に示す画像1および画像2に含まれる画素の濃度値(この例では、1つのチャネルの階調値)に着目すると、図5に示すようなヒストグラムがそれぞれ生成される。なお、図5には、累積ヒストグラムを示すが、単純ヒストグラムであってもよい。
このようなヒストグラムの間において、ヒストグラム度数のみに基づいて、濃度値が対応付けられる。より具体的には、画像1のある濃度値についてみれば、当該濃度値の累積ヒストグラム度数と最も近いヒストグラム度数をもつ画像2の濃度値が対応する濃度値であると判断する。すなわち、図6に示すように、同一のヒストグラム度数を有する座標同士が対応付けられる。
このような関連技術は、画像1および画像2において写っている被写体の画像がほぼ同一、すなわち、両者のヒストグラムの形状がほぼ同一であることを前提としている。すなわち、カメラの相違によって、濃度が全体的にシフトしているような状況が前提とされている。しかしながら、現実には、例えば、ステレオカメラではカメラ間に視差が存在するため、生成される2つの画像で被写体の画像が同一ではなく、その結果、ヒストグラムの形状も異なったものとなる。このような場合には、正しい対応関係を求めることができない場合がある。
例えば、図4に示すような画像では、中程度の濃度値の割合が相対的に少ない。そのため、図5に示す累積ヒストグラムにおいては、濃度値が増加してもヒストグラム度数の増加が少ない平坦部分が存在している。上述の関連技術では、このような平坦部分を有するヒストグラムを示す画像については、濃度値の対応関係(変換先の色)を適切に決定できない。すなわち、図6に示すように、画像1と画像2との間で同一の累積ヒストグラムの度数を有する濃度値が大きく異なるので、一方の画像の濃度値が他方の画像の濃度値へ変換されると、その濃度値は大きく変化することになる。このように、図6に示すような累積ヒストグラムを有する画像については、変換先の色を適切に決定できない。
その結果、図7に示すように、生成される変換関数(濃度値変換テーブル)には、対応関係が急激に変化する部分が生じる(飛びが生じる)。すなわち、濃度値の対応付けに失敗した箇所である。
図7に示すような濃度値変換テーブルを用いて色補正を行なった場合には、画像に含まれる画素に階調の飛びが生じ、図8に示すような偽のテクスチャなどが発生し得る。
このような課題を考慮して、本実施の形態に従う変換関数生成処理においては、ヒストグラム度数だけではなく、画素の濃度値をも利用して濃度値間の距離(近接度)を定義する。そして、それぞれの画像における濃度値間の近接度に基づいて、対応する濃度値をDPマッチングなどの手法で探索することにより、濃度値の対応関係を決定する。
<D.全体処理>
まず、本実施の形態に従う画像処理方法の全体手順について説明する。
図9は、本発明の実施の形態に従う変換関数生成処理の全体手順を示すフローチャートである。図9に示す各ステップは、典型的には、CPU102(図2)が画像処理プログラム112を実行するなどして実現される。
図9を参照して、まず、CPU102は、少なくとも2つの画像を取得する。図9に示す例では、2つの画像の間で色補正を行なう場合の処理例を説明する。すなわち、CPU102は、画像1および画像2を取得する(ステップS2)。典型的には、被写体を一対のステレオカメラなどで撮像することで取得された一対のステレオ画像が入力される。
続いて、CPU102は、それぞれの画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する。すなわち、CPU102は、入力された画像1に含まれる画素の濃度値についての単純なヒストグラムを生成する(ステップS4)とともに、入力された画像2に含まれる画素の濃度値についての単純なヒストグラムを生成する(ステップS6)。なお、ステップS4およびS6の処理については、パラレル処理で行なってもよいし、シリアル処理で行なってもよい。シリアル処理で行なう場合、その実行順序は問わない。続いて、CPU102は、ステップS4において生成した、濃度値についての単純なヒストグラムから累積ヒストグラムを生成する(ステップS8)とともに、ステップS6において生成した、濃度値についての単純なヒストグラムから累積ヒストグラムを生成する(ステップS10)。
続いて、CPU102は、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、画像1から生成されたヒストグラム上の濃度値と画像2から生成されたヒストグラム上の濃度値との間の距離を算出する(ステップS12)。後述するように、典型的には、濃度値と累積ヒストグラム度数とで定義される座標系において、それぞれのヒストグラム上にある濃度値の可能な限りの組み合わせについて、濃度値間の距離が算出される。
続いて、CPU102は、ステップS12において算出された濃度値間の距離に基づいて、画像1に含まれる濃度値と画像2に含まれる濃度値との対応関係を決定する(ステップS14)。そして、CPU102は、決定した対応関係から画像1と画像2との間で濃度値を補正するための変換関数(濃度値変換テーブル22)を決定する(ステップS16)。
以上の処理によって、画像1と画像2との間の色補正に必要な変換関数(濃度値変換テーブル22)が決定される。必要に応じて、CPU102は、画像1および/または画像2の色補正についても実行する。すなわち、CPU102は、ステップS16において決定した変換関数(濃度値変換テーブル22)に基づいて、画像1および画像2の少なくとも一方の色補正(濃度値変換)を行なう(ステップS18)。ステップS18によって、色補正された2つの画像が生成される。そして、処理は終了する。
なお、ステップS16において決定された変換関数(濃度値変換テーブル22)は、原理的には、同一の撮像条件において撮像された画像の組に対して適用可能であるので、ステップS18の処理を、画像1と画像2との組の数だけ繰り返してもよい。
<E.機能構成>
次に、本実施の形態に従う画像処理装置および/または画像処理プログラムの機能構成について説明する。
図10は、本発明の実施の形態に従う変換関数生成処理の機能構成を示すブロック図である。図10を参照して、本実施の形態に従う画像処理装置は、その主たる機能構成として、データ格納部12を含む画像管理部10と、ヒストグラム生成部14と、決定処理部16と、距離算出部18と、データ格納部20と、濃度値変換部24とを含む。
画像管理部10は、カメラなどから入力される画像を受付けて、当該画像をデータ格納部12へ格納する。このデータ格納部12に格納される画像は、要求に応じて、ヒストグラム生成部14および/または濃度値変換部24へ出力される。また、画像管理部10は、濃度値変換部24において濃度値変換(色補正)された後の画像を受付けて、当該画像をデータ格納部12へ格納する。さらに、画像管理部10は、要求に応じて、データ格納部14に格納されている画像を表示部などへ出力する。なお、データ格納部14は、典型的には、画像処理装置100のRAM104の提供する記憶領域を利用して実現される。
ヒストグラム生成部14は、画像管理部10のデータ格納部12に格納される複数の画像を読み出し、読み出した画像に含まれる画素の濃度値についてのヒストグラムを生成する。なお、ヒストグラム生成部14は、単純ヒストグラムおよび/または累積ヒストグラムを生成する。
距離算出部18は、ヒストグラム生成部14により生成されるヒストグラムを用いて、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、濃度値との間の距離を算出する。距離算出部18は、算出したそれぞれの濃度値の組み合わせについての距離を決定処理部16へ出力する。
決定処理部16は、距離算出部18によって算出される濃度値間の距離に基づいて、画像間の濃度値についての対応関係を決定するとともに、決定した対応関係から画像間で濃度値を補正するための変換関数(濃度値変換テーブル22)を決定する。
データ格納部20は、決定処理部16により決定される濃度値変換テーブル22を格納し、濃度値変換部24などからの要求に応じて、濃度値変換テーブル22を出力する。
濃度値変換部24は、濃度値変換テーブル22に基づいて、入力された画像に対して濃度値変換(色補正)する。この濃度値変換後の画像は、画像管理部10のデータ格納部12に格納される。
以下、本発明の実施の形態に従う変換関数生成処理の詳細について、様々な変形例を交えつつ説明する。
<F.実施の形態1>
まず、実施の形態1として、濃度値についての累積ヒストグラムと、DP(Dynamic Programming:動的計画法)マッチング方法とを用いて、変換関数(濃度値変換テーブル22)を決定する方法について説明する。
図11は、本発明の実施の形態1において生成される単純ヒストグラムの一例を示す図である。図12は、図11に示す単純ヒストグラムから生成される累積ヒストグラムの一例を示す図である。
一例として、各画素がRGB色空間における3つのチャネル(R,G,B)の濃度値で定義された色を有する画像1および画像2を処理対象とする。なお、1つのチャネルの濃度値のみを有するモノクロ画像であっても同様の処理を行なうことができる。
本実施の形態においては、画像1および画像2に含まれる画素の各チャネルの濃度値についての単純ヒストグラムがそれぞれ生成される。すなわち、画像1について、R,G,Bのチャネルについての計3つの単純ヒストグラムが生成され、画像2について、R,G,Bのチャネルについての計3つの単純ヒストグラムが生成される。すなわち、チャネル毎に、図11に示すような単純ヒストグラムが生成される。
そして、それぞれの単純ヒストグラムから累積ヒストグラムが生成される。このとき、処理を容易化するために、それぞれの累積ヒストグラム度数を最大度数で正規化し、正規化したヒストグラムの最大度数がHmaxになるようにする。すなわち、チャネル毎に、図12に示すような累積ヒストグラムが生成される。
また、画像1および画像2に含まれる画素は、いずれも濃度値の最大がCmaxとなる、(Cmax+1)階調で表現されているとする。
図12に示すような累積ヒストグラムは、(正規化された)累積ヒストグラム度数および各チャネルの濃度値を含んで定義される空間とみなすことができる。この空間における、画像1の濃度値m(画像1から生成された累積ヒストグラム上の任意の座標)と画像2の濃度値n(画像2から生成された累積ヒストグラム上の任意の座標)との間の距離dist(m,n)を(1)式のように定義する。
但し、(1)式において、c_hist(m)は、画像1の濃度値mの正規化累積ヒストグラム度数を示し、c_hist(n)は、画像2の濃度値nの正規化累積ヒストグラム度数を示す。
この距離dist(m,n)は、空間における濃度値間の近接度に相当する。すなわち、距離dist(m,n)の値が小さいほど、画像1の濃度値mと画像2の濃度値nとは類似していることを意味する。
本実施の形態においては、画像1の濃度値と画像2の濃度値との組み合わせのすべてについて、当該濃度値の距離の総和が最小となる場合に、画像1の濃度値と画像2の濃度値との間の対応関係が最適化されたと評価する。すなわち、決定処理部16(図10)は、第1画像に含まれるすべての濃度値と第2画像に含まれる対応する濃度値との間の距離の総和が最小となるように、濃度値についての対応関係を決定する。言い換えれば、(2)式が成立するような、画像1の濃度値mと画像2の濃度値nとの対応関係を決定する。
このような濃度値間の距離を最小化する対応関係を探索する方法としては、公知の動的計画法を用いることができる。
図13および図14は、本発明の実施の形態に従う対応関係を探索する処理を説明する図である。図13に示すように、一方の累積ヒストグラム上の濃度から他方の累積ヒストグラム上の濃度までの距離を順次算出していき、距離の総和が最小化する濃度の組み合わせを決定する。
本実施の形態においては、累積ヒストグラムは、濃度値の小さいものからヒストグラム度数を累積して生成される。そのため、濃度値の対応関係は、その濃度値の大小関係についての順序が前後することはない。すなわち、画像1の濃度値mが画像2の濃度値nと対応しているとき、画像1の次の濃度値(m+1)は、画像2の濃度値(n−1)以前の濃度値と対応することはない。
そのため、本実施の形態においては、決定処理部16(図10)は、画像1に含まれる濃度値の大小関係と、画像1に含まれる濃度値に対応する画像2に含まれる濃度値の大小関係とを利用して、濃度値についての対応関係を決定する。より具体的には、図14に示すように、画像1の累積ヒストグラム上の濃度値mが画像2の累積ヒストグラム上の濃度nに対応すると判断されると、画像1の累積ヒストグラム上の濃度値mに続く濃度値(m+1)の対応関係については、画像2の累積ヒストグラム上の濃度値nまたは濃度値nより大きい値を有する濃度値を探索対象とすればよい。これは、上述したような累積ヒストグラムの生成に係る規則に基づくものである。
このように、決定処理部16(図10)は、画像1に含まれる濃度値mが画像2に含まれる濃度値nに対応している場合に、画像1に含まれる濃度値mより大きな濃度値(m+1)についての対応関係を、画像2に含まれる濃度値n以上の濃度値(≧n)を探索対象として決定する。このような規則を利用することで、探索処理に要する時間および計算コストを低減できる。
上述したような探索処理によって、濃度値の間の対応関係が決定されると、この対応関係を示す濃度値変換テーブル22が生成および出力される。
図15は、本発明の実施の形態に従う変換関数生成処理によって生成される濃度値変換テーブル22の一例を示す図である。図15に示すように、画像1の濃度値(階調値)ごとに、対応する画像2の濃度値(階調値)が格納される。なお、図15には、画像1を濃度値変換の対象とした場合の濃度値変換テーブル22を示すが、画像2を濃度値変換の対象とした濃度値変換テーブル22を採用してもよい。
濃度値変換部24(図10)は、濃度値変換テーブル22を用いて、画像(この例では、画像1)の濃度値を変換することで、画像1の濃度値を画像2の濃度値に近くすることができる。これによって、画像1と画像2と間の色合いの違いなどを改善できる。
なお、上述した本実施の形態については、画像に含まれる画素の濃度値が、他の色空間、例えば、CMY色空間、YUV色空間、XYZ色空間、xyY色空間、L*u*v*色空間、L*a*b*色空間といった各種の色空間を用いて表現された場合にも適用可能である。さらに、ステレオ撮像された画像間の濃度値補正だけではなく、パノラマ画像の間での濃度値補正(色合せ)などにも適用できる。
以上のように、本実施の形態においては、濃度値についてのヒストグラムとして、濃度値の累積ヒストグラムを採用することで、変換関数(濃度値変換テーブル)を生成する。また、画像に含まれる画素の各々が複数のチャネルの濃度値で定義されている場合には、チャネルごとに濃度値間の距離が算出される。
本実施の形態によれば、複数の画像の間で色合いなどが違っている場合であっても、比較的簡単な処理で、かつ、偽のテクスチャなどの発生を抑制して、色補正を行なうことができる。また、画像に含まれる濃度値の大小関係についての順序を利用することで、計算時間および計算コストをより少なくすることができる。
<G.実施の形態2>
次に、実施の形態2として、空間において画像の濃度値間の距離を算出する際に、重みを用いる構成について説明する。なお、実施の形態2は、距離算出部18(図10)における距離の算出方法が実施の形態1と異なっているのみであり、その他の処理および構成については、実施の形態1と同様であるので、共通部分についての詳細な説明は繰り返さない。
上述したように、濃度値間の距離は、累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において算出されるが、それぞれの軸方向(ヒストグラム度数および濃度値)の大きさは、濃度値間の距離の算出に際して、必ずしも同等に扱う必要はない。そこで、以下のような方法によって、ヒストグラム度数の軸方向の成分および濃度値の軸方向の成分について、適切な重みを付与することが好ましい。
以下では、一例として、3つの重み付けの方法について説明する。
(f1:それぞれの軸方向に付与される重み)
まず、上述の(1)式において定義される距離dist(m,n)において、それぞれの軸成分に重みwhおよびwcをそれぞれ設定することを考える。この場合、上述の(1)式は、(3)式のように変形できる。
図16は、本発明の実施の形態2に従う重み設定を説明するための図である。図16を参照して、(3)式に含まれる重みwhおよびwcは、累積ヒストグラム度数および濃度値についてのそれぞれの軸方向に設定される重みである。この重みが大きいほど、算出される距離はより大きくなる。言い換えれば、ヒストグラムを拡大または縮小することになる。
この重みwhおよびwcは、典型的には、予め設定された固定値が採用される。但し、後述するように、動的に変化させてもよい。また、重みwhおよびwcのいずれか一方のみを用いるようにしてよい。
このように、本実施の形態においては、図9に示す濃度値との間の距離を算出する処理(ステップS12)は、濃度値間の距離の算出にあたり、空間におけるヒストグラム度数に対応する軸方向の距離および濃度値に対応する軸方向の距離の少なくとも一方に重みを設定する処理を含む。
このように、空間における各軸方向における重みを適切に設定することで、濃度値間の距離(近接度)をより適切に設定することができる。
(f2:ヒストグラム度数に基づく重み)
次に、注目している濃度値のヒストグラム度数に基づいて、重みを変化させる処理について説明する。上述の図13に示すように、ヒストグラム度数の大きさに応じて、濃度値間の対応関係を探索すべき方向は変化することになる。そこで、探索対象の濃度値におけるヒストグラム度数に応じて、重み係数を変化させることで、適切な探索方向を動的に設定することができる。
例えば、重みwhを累積ヒストグラム度数の大きさに応じて変化させる場合には、以下の(4)式のような関数を採用してもよい。
図17は、本発明の実施の形態2に従う累積ヒストグラム度数に基づいて重みを設定する処理を説明するための図である。図17に示すように、ヒストグラム度数が大きい範囲は濃度が飽和する領域に近付いており、累積ヒストグラムの形状が平坦になっている可能性が高いので、濃度値の軸方向に探索を行なうことが好ましい。これに対して、ヒストグラム度数があまり大きくない範囲では、濃度が飽和するまでに余裕があるので、ヒストグラム度数の軸方向に探索を行なうことが好ましい。
上述の(4)式のような重みを用いることで、ヒストグラム度数が大きい範囲では、ヒストグラム度数の軸方向での距離が相対的に大きく算出されるので、反射的な効果として、濃度値の軸方向に探索を行なうことになる。これに対して、ヒストグラム度数が大きくない範囲では、濃度値の軸方向での距離が相対的に大きく算出されるので、反射的な効果として、ヒストグラム度数の軸方向に探索を行なうことになる。
このように、ヒストグラム度数に基づいて重みを決定することで、適切な探索方向を動的に決定することができ、濃度値の対応関係をより適切に決定できる。
なお、重みwhと重みwcとの比率で、探索方向は変化するので、重みwhおよびwcの両方を利用しても(変化させても)よいし、いずれか一方のみを利用しても(変化させても)よい。
以上のように、本実施の形態においては、図9に示す濃度値との間の距離を算出する処理(ステップS12)は、距離の算出にあたり、空間におけるヒストグラム度数に対応する軸方向の距離に応じた重みを設定する処理を含む。
本実施の形態によれば、濃度値に応じた探索方向が動的に設定されるので、濃度値の対応関係をより適切に探索できる。
(f3:濃度値に基づく重み)
次に、注目している濃度値に基づいて、重みを変化させる処理について説明する。空間における濃度値間の距離が相対的に小さくとも、濃度値の変換処理において変換前後の濃度値の差が大きいと、画像の品質上の問題が生じ得る。そのため、ヒストグラム度数の軸方向を重点的に探索を行なうことが好ましい。そこで、注目している濃度値に応じて、重み係数を変化させることで、適切な探索方向を動的に設定することができる。
例えば、重みwhを濃度値の差に応じて変化させる場合には、以下の(5)式のような関数を採用してもよい。
図18は、本発明の実施の形態2に従う濃度値に基づいて重みを設定する処理を説明するための図である。(5)式に示すように、注目している濃度値と探索対象の濃度値との差が大きくなるほど重みwhは小さくなるので、反射的な効果として、重みwcが相対的に大きく評価されることになる。すなわち、注目している濃度値との間の差が小さいほど、算出される距離は相対的に小さくなる。言い換えれば、濃度値の軸方向に探索する場合には、算出される距離が相対的に大きくなるので、反射的な効果として、ヒストグラム度数の軸方向に沿って優先的に探索を行なうことになる。
より具体的には、図18に示すように、濃度値の差が相対的に小さい場合の重みwh1は、濃度値の差が相対的に大きい場合の重みwh2より小さくなり、濃度差を重視した探索を行なうことができる。
このように、濃度値に基づいて重みを決定することで、より濃度値の差が小さくなるような対応関係を決定できる。
以上のように、本実施の形態においては、図9に示す濃度値との間の距離を算出する処理(ステップS12)は、距離の算出にあたり、空間における濃度値に対応する軸方向の距離に応じた重みを設定する処理を含む。
本実施の形態によれば、濃度差がより小さくなるように探索が行なわれるので、濃度値間の差が大きな対応関係の決定を防止でき、それにより濃度値の対応関係をより適切に探索できる。
(f4:ヒストグラム度数と濃度値とに基づく重み)
次に、ヒストグラム度数および濃度値に基づいて、重みを変化させる処理について説明する。より具体的には、注目している濃度値についての、ヒストグラム度数およびその濃度値の大きさに基づいて、当該注目している濃度値にける累積ヒストグラムの傾きを算出し、当該算出した傾きに基づいて重みを決定する。このような累積ヒストグラムの傾きを用いることで、累積ヒストグラムの傾きが急峻な範囲では、濃度値の軸方向に探索を行ない、累積ヒストグラムの傾きが緩やかな範囲では、ヒストグラム度数の軸方向に探索を行なうことになる。このような方法で重み係数を変化させることで、適切な探索方向を動的に設定することができる。
例えば、重みwhを累積ヒストグラム度数の大きさに応じて変化させる場合には、以下の(6)式のような関数を採用してもよい。
図19は、本発明の実施の形態2に従うヒストグラム度数および濃度値に基づいて重みを設定する処理を説明するための図である。図19に示すように、注目している濃度値における累積ヒストグラムの傾き(接線)に応じて、ヒストグラム度数の軸方向または濃度値の軸方向のいずれを主として探索するのかを動的に変更する。すなわち、傾きが緩い範囲では、ヒストグラム度数の軸方向へ主として探索し、傾きが急峻な範囲では、濃度値の軸方向へ主として探索する。
以上のように、本実施の形態においては、図9に示す濃度値との間の距離を算出する処理(ステップS12)は、ヒストグラム度数および濃度値に応じた重みを設定する処理を含む。
本実施の形態によれば、累積ヒストグラムの傾きが平坦な場合には、ヒストグラム度数の軸方向に探索を行ない、傾きが急な場合には、濃度値の軸方向に探索を行なうことで、累積ヒストグラムの形状に応じた探索を行なうことができる。
<H.実施の形態3>
次に、実施の形態3として、濃度値の間の対応関係を探索する場合に、空間においてヒストグラム同士が交差している場合には、対応関係を誤って決定する可能性がある。そこで、このようなヒストグラムの交差の発生による、対応関係を誤って決定することを防止できる構成について説明する。なお、実施の形態3は、決定処理部16および距離算出部18(図10)における距離の算出方法が実施の形態1と異なっているのみであり、その他の処理および構成については、実施の形態1と同様であるので、共通部分についての詳細な説明は繰り返さない。
図20は、本発明の実施の形態3に従う変換関数生成処理が対処するヒストグラムの交差を説明するための図である。図20を参照して、画像1のヒストグラムが破線の形態であり、画像2のヒストグラムと交差している場合には、交差している近傍の濃度点が誤って対応付けされてしまうことがある。そこで、本実施の形態においては、このような場合に、一方のヒストグラムを空間上で平行移動させて他のヒストグラムとの交差状態を解消した上で、対応点の探索処理を行なう。このようなヒストグラムの平行移動によって、ヒストグラム同士の交差によって生じる、誤った対応付けを回避できる。
より具体的には、ヒストグラム度数の軸方向における移動量をdh1とし、濃度値の軸方向における移動量をdc1とした場合に、画像1の濃度値m(画像1から生成された累積ヒストグラムをシフトすることで得られた累積ヒストグラム上の任意の座標)と画像2の濃度値n(画像2から生成された累積ヒストグラム上の任意の座標)との間の距離dist(m,n)は、(7)式のように算出できる。
この(7)式に従って濃度値の間の距離を算出することで、上記と同様の手順で、濃度値についての対応関係を探索および決定できる。
以上のように、本実施の形態においては、図9に示す、画像1に含まれる濃度値と画像2に含まれる濃度値との対応関係を決定する処理(ステップS14)は、画像1のヒストグラムおよび画像2のヒストグラムの少なくとも一方を、空間において平行移動した上で、距離を算出する処理を含む。
このようなヒストグラム同士の交差を解消するために必要な平行移動に必要な移動量については、以下のような方法で予め調整することができる。
(h1:ヒストグラム度数に基づく移動量の決定)
シンプルな方法として、2つの累積ヒストグラムについての、同一の濃度値に対応するヒストグラム度数の差に基づいて、ヒストグラムの交差の有無を判断することができる。すなわち、濃度値nにおける累積ヒストグラム度数の差を順次算出するとともに、すべての濃度値のうち、最も小さくなる累積ヒストグラム度数の差の最小値Hdistminを算出する。すなわち、以下の(8)式に沿って、最小値Hdistminを算出できる。
このように算出される最小値Hdistminが0未満である場合には、ヒストグラムの交差が発生していると判定することができる。この場合には、ヒストグラムの交差が発生しないように移動量dh1を設定する。すなわち、少なくとも最小値Hdistminだけ一方のヒストグラムをシフトさせることで、ヒストグラムの交差を解消できるので、例えば、以下の(9)式のように、移動量dh1が設定される。
以上のような方法を採用することで、ヒストグラムの交差の発生を抑制し、濃度値の対応関係の決定をより適切に行なうことができる。
(h2:複数のチャネルにわたるヒストグラム度数に基づく移動量の決定)
上述の方法では、各チャネルにおいてヒストグラムの交差が発生しないように移動量を決定するものであるが、画像に含まれる各画素が複数のチャネルの濃度値で定義されている場合には、チャネル間におけるヒストグラムの移動量などを平均化することが好ましい。以下、このような方法によって、各チャネルにおけるヒストグラムの移動量を決定する方法について説明する。
まず、(10)式に従って、画像1と画像2とのヒストグラム間の最大距離Hdistch,maxをチャネル毎に算出する。続いて、(11)式に従って、チャネル毎に算出された最大距離Hdistch,maxを平均化する。すなわち、複数チャネルの間における、最大距離Hdistch,maxの平均値を算出する。
最終的に、(12)式に従って、全チャネルのヒストグラム間の最大距離がHdistave,maxになるように、各チャネルにおける移動量dh1が決定される。
以上のような方法を採用することで、いずれのチャネルにおいても、ヒストグラム間の最大距離がほぼ同じになるので、似たような濃度値の対応付け処理が行われ、互いに類似した形状を有する濃度値変換テーブルを生成できる。そのため、濃度値変換後のチャネル(RGB)間の濃度バランスを維持できる。
<I.実施の形態4>
次に、実施の形態4として、濃度値の間の対応関係を探索する場合に、画像に含まれるすべての濃度値のうち、一部の有効な濃度値のみを対象とすることで、対応関係の探索処理に要する時間および計算コストを低減できる。そこで、本実施の形態においては、対象とする濃度値の範囲を限定した上で、距離を算出する構成について説明する。なお、実施の形態4は、決定処理部16(図10)における対応関係の探索処理、および、距離算出部18(図10)における距離の算出方法が実施の形態1と異なっているのみであり、その他の処理および構成については、実施の形態1と同様であるので、共通部分についての詳細な説明は繰り返さない。
図21および図22は、本発明の実施の形態4に従う対応関係の探索処理を説明するための図である。
濃度値の対応関係を探索(決定)する場合には、画像に含まれるすべての濃度値c_hist(n)について、距離をそれぞれ算出して対応関係を探索する必要はない。例えば、図21に示す累積ヒストグラムにおいては、対応する正規化ヒストグラム度数c_hist(n)が0<c_hist(n)<Hmaxである濃度値nの範囲(mst≦n≦med)についての距離を算出し、その算出された距離に基づいて対応関係の探索処理が実行される。
より具体的には、濃度値の開始値mstについては、濃度値n=0から昇順にチェックしていき、0<c_hist(n)となる最小のnが濃度値の開始値mstとして決定される。また、濃度値の終端値medについては、濃度値n=Cmaxから降順にチェックしていき、c_hist(n)<Hmaxとなる最大のnが濃度値の終端値medとして決定される。この開始値mstおよび終端値medを用いて、画像1および画像2のそれぞれについて、濃度値の対応関係を探索する範囲が決定される。
一般的に、累積ヒストグラムの両端に存在する濃度値は、ノイズ成分などであることが多いので、上述のような探索範囲を限定することで、不要な濃度値の組み合わせを除外できる。これにより、対応関係の探索処理に要する時間および計算コストを低減して、濃度値の対応付け処理を高速化できる。
但し、上述の方法によれば、累積ヒストグラムの両端に存在する濃度値についての対応関係が決定されないので、探索範囲外の濃度値については、探索範囲内の対応関係を補間(典型的には、線形補間)するなどして、変換関数(濃度値変換テーブル)を生成する。
なお、画像1および画像2の探索範囲が異なる場合には、画像1および画像2の間で、開始点および終了点が互いに一致するようにヒストグラムを拡張することが好ましい。より具体的には、画像1および画像2からそれぞれ生成された累積ヒストグラムについて、その形状を維持したまま、濃度値の軸方向に沿って拡大/縮小を行なうことが好ましい。このような拡張処理を行なうことで、画像1および画像2のそれぞれの累積ヒストグラムが互いに近似した形状を有するようになり、濃度値についての対応関係の探索処理をより高精度に行なうことができる。
例えば、図22(A)に示す累積ヒストグラムにおいては、画像1の累積ヒストグラムについての探索範囲がm1st≦n≦m1edであり、画像2の累積ヒストグラムについての探索範囲がm2st≦n≦m2edであるとする。このような状態において、図22(B)に示すように、画像1の累積ヒストグラムについては、開始値m1stが濃度値0に対応し、終端値m1edが最大濃度値Cmaxに対応するように、濃度値の軸方向に沿って拡大/縮小される。同様に、画像2の累積ヒストグラムについては、開始値m2stが濃度値0になるように、終端値m2edが最大濃度値Cmaxとなるように、濃度値の軸方向に沿って拡大/縮小される。
このように、それぞれ濃度値の軸方向に沿って拡大/縮小された累積ヒストグラムは、図22(B)に示すようになる。図22(B)に示すように、画像1および画像2の拡大後の累積ヒストグラムは、いずれも濃度値が0からCmaxの範囲に分布することになる。図22(B)に示すような、拡大/縮小されたヒストグラムに対して、濃度値についての対応関係の探索処理が実行される。
以上のように、本実施の形態においては、図9に示す、画像1に含まれる濃度値と画像2に含まれる濃度値との対応関係を決定する処理(ステップS14)は、図21に示すように、対象とする濃度値の範囲を限定した上で、濃度値についての対応関係を決定する処理を含む。さらに、対応関係を決定する処理(ステップS14)は、図22に示すように、画像1のヒストグラムおよび画像2のヒストグラムのうち、限定した濃度値の範囲のヒストグラムを拡張した上で、距離を算出する処理を含めてもよい。
本実施の形態によれば、濃度値の対応付けを行なう探索範囲を制限することで、処理を高速化できる。
なお、本実施の形態に係る探索範囲の制限方法は、単純な(通常の)ヒストグラムに対しても同様に適用できる。より具体的には、ヒストグラム度数が0でない範囲のみ(すなわち、画像内で使用されている色に対応する画素値のみ)を、濃度値の対応付けを行なう対象とすることで、処理を高速化できる。
<J.参考例>
次に、濃度値についての単純ヒストグラムと、最小二乗法とを用いて、変換関数(濃度値変換テーブル22)を決定する参考例について説明する。
一例として、各画素がRGB色空間における3つのチャネル(R,G,B)の濃度値で定義された色を有する画像1および画像2を処理対象とする。なお、1つのチャネルの濃度値のみを有するモノクロ画像であっても同様の処理を行なうことができる。
本参考例においては、画像1および画像2に含まれる画素の各チャネルの濃度値についての単純ヒストグラムがそれぞれ生成される。すなわち、画像1について、R,G,Bのチャネルについての計3つの単純ヒストグラムが生成され、画像2について、R,G,Bのチャネルについての計3つの単純ヒストグラムが生成される。このとき、処理を容易化するために、それぞれの単純ヒストグラム度数から最大度数が抽出され、この抽出された最大度数を用いて、対応する単純ヒストグラムが正規化される。
また、画像1および画像2に含まれる画素は、いずれも濃度値の最大がCmaxとなる、(Cmax+1)階調で表現されているとする。
この正規化された単純ヒストグラムは、(正規化された)単純ヒストグラム度数および各チャネル(R,G,B)の濃度値を含んで定義される空間とみなすことができる。この空間における、画像1の濃度値m(画像1から生成された単純ヒストグラム上の任意の座標)と画像2の濃度値n(画像2から生成された単純ヒストグラム上の任意の座標)との間の近接度dist(m,n)を(13)式のように定義する。
傾きθおよびθは、正規化ヒストグラム度数および濃度値を用いて、(14)式に従って算出される。
但し、(14)式において、hist(m)は、画像1の濃度値mの正規化ヒストグラム度数を示し、hist(n)は、画像2の濃度値nの正規化ヒストグラム度数を示す。
(13)式において、近接度dist(m,n)は、単純ヒストグラムの空間における傾き(変化量)の類似度に相当し、ある濃度値におけるヒストグラムの傾きを用いて定義される。すなわち、近接度dist(m,n)の値が大きいほど、画像1の濃度値mと画像2の濃度値nとは類似していることを意味する。
また、画像1の濃度値と画像2の濃度値との間は、行列Aおよびベクトルbを用いて、(15)式のように表わすことができる。
本参考例においては、画像1の濃度値と画像2の濃度値との組み合わせのすべてについての、濃度値変換後の画像1の濃度値と画像2の濃度値との間の近接度の総和が最大となる場合に、画像1の濃度値と画像2の濃度値との間の対応関係が最適化されたと評価する。すなわち、(16)式に従って算出されるS(Cmax,Cmax)を最大にする場合が濃度値についての対応関係が最適であると判断できる。なお、濃度値についての対応関係を決定(探索)する場合には、濃度値の大小関係についての順序が入れ替わらないことを(15)式の制約条件とする。
(15)式を解くことにより、S(Cmax,Cmax)を最大化する行列Aおよびベクトルbを算出する。これらの値が算出されると、濃度値変換テーブルを示す行列Tは、(17)式に従って算出される。
その他の点については、上述の実施の形態1〜4と同様であるので、詳細な説明は繰り返さない。
以上のように、本参考例においては、濃度値の単純ヒストグラムを採用することで、変換関数(濃度値変換テーブル)を生成する。この参考例においては、単純ヒストグラム上での傾きを用いて画像1の濃度値と画像2の濃度値との間の近接度を判断しているため、単純ヒストグラムの形状によっては誤差を生じやすいという問題がある。この点、実施の形態1〜4のように累積ヒストグラム上での距離を用いて近接度を判断する方が精度面において優れている。
<K.実施の形態5>
上述の実施の形態1〜4に示す方法によって、変換関数(濃度値変換テーブル)を生成することができる。しかしながら、入力画像に含まれる濃度値のヒストグラム形状によっては、常に正しい濃度値についての対応関係が得られるとは限らない。そこで、実施の形態5として、生成された変換関数(濃度値変換テーブル)を事後的に補正する処理について説明する。
図23は、本発明の実施の形態5において補正される濃度値変換テーブルの失敗例を示す図である。図24は、図23に示す濃度値変換テーブルの補正例を示す図である。
例えば、図23に示すように、生成が失敗した濃度値変換テーブルでは、濃度値の対応関係が急激に変化する部分が生じる。このような場合、この濃度値変換テーブルを用いて画像の濃度値を変換すると、濃度値の階調に急激な変化が生じ、偽のテクスチャが発生し得る。
本実施の形態においては、このような偽のテクスチャの発生を防止するために、(例えば、画像の濃度値変換処理の実行前に)生成された濃度値変換テーブルをチェックし、必要があれば補正が行なわれる。より具体的には、変換関数(濃度値変換テーブル22)において所定の制限範囲を超える変化が存在している場合に、当該濃度値変換テーブル22の内容が変更される。
説明の便宜上、生成直後の変換関数(濃度値変換テーブル22)において、画像1の濃度値nに対応する画像2の濃度値をconv(n)とする(図23参照)。
まず、濃度値変換テーブルの補正手順として、濃度値0≦n≦Cmaxについて、濃度値変換テーブルに定義されている値が順次チェックされる。より具体的には、画像1のある濃度値uにおいて、対応する濃度値の変化量Δconv(u)(=conv(u)−conv(n−1))が補正基準値corrthを超えたか否かが判断される。
変化量Δconv(u)が補正基準値corrthを超えた場合には、濃度値の変化量Δconv(u)が補正値corrreplになるように、濃度値uより大きい濃度値についての変換テーブルの値(変換先の濃度値)が更新される。より具体的には、(18)式に従って、変換テーブルの値は、対応するconv(n)を補正して得られるconv’(n)に置き換えられる。
すなわち、変換テーブルの濃度値u以降の値(変換先の濃度値)をΔconv(u)だけ順次つめることになる。濃度値(u+1)以降についても、同様に、補正して得られるconv’(n)についての処理が実行される。
上述の補正基準値corrthについては、次のような値に基づいて設定できる。
(1)濃度値変換テーブルの傾きの平均値
(19)式に示すように、補正基準値corrthとして、濃度値変換テーブルの傾きの平均値を採用してもよい。すなわち、(19)式は、濃度値変換テーブルの両端についての傾きを算出し、この傾きを用いて補正基準値corrthを決定する。
このような補正基準値corrthを採用することで、濃度値変換テーブルの形状に依存せず、濃度値変換テーブルの補正の失敗を防止できる。
(2)現在の濃度値近傍における濃度値変換テーブルの傾き
(20)式に示すように、補正基準値corrthとして、現在の濃度値近傍における濃度値変換テーブルの傾きを採用してもよい。すなわち、(20)式は、注目している濃度値mの近傍における濃度値変換テーブルの傾きを算出し、この傾きを用いて補正基準値corrthを決定する。
このような補正基準値corrthを採用することで、濃度値変換テーブルの局所的な傾きの変動に対応できる。
(3)中心の濃度値からの濃度値変換テーブルの傾き
(21)式に示すように、補正基準値corrthとして、中心の濃度値からの濃度値変換テーブルの傾きを採用してもよい。すなわち、(21)式は、濃度値変換テーブルの中心と端との間の傾きを算出し、この傾きを用いて補正基準値corrthを決定する。
このような補正基準値corrthを採用することで、濃度値が大きい場合と小さい場合との間で傾きが大きく異なるような場合にも対応できる。
次に、補正値corrreplについては、次のような値に基づいて設定できる。
(1)濃度値変換テーブルの傾きの平均値
(22)式または(23)式に示すように、補正値corrreplとして、濃度値変換テーブルの傾きの平均値を採用してもよい。すなわち、(22)式および(23)式は、濃度値変換テーブルの両端についての傾きを算出し、この傾きを用いて補正値corrreplを決定する。
このような補正値corrreplを採用することで、濃度値変換テーブルの形状に依存せず、濃度値変換テーブルの補正の失敗を防止できる。
(2)現在の濃度値近傍における濃度値変換テーブルの傾き
(24)式に示すように、補正値corrreplとして、現在の濃度値近傍における濃度値変換テーブルの傾きを採用してもよい。すなわち、(24)式は、注目している濃度値mの近傍における濃度値変換テーブルの傾きを算出し、この傾きを用いて補正値corrreplを決定する。
このような補正値corrreplを採用することで、濃度値変換テーブルの局所的な傾きの変動に対応できる。
(3)中心の濃度値からの濃度値変換テーブルの傾き
(25)式に示すように、補正値corrreplとして、中心の濃度値からの濃度値変換テーブルの傾きを採用してもよい。すなわち、(25)式は、濃度値変換テーブルの中心と端との間の傾きを算出し、この傾きを用いて補正値corrreplを決定する。
このような補正値corrreplを採用することで、濃度値が大きい場合と小さい場合との間で傾きが大きく異なるような場合にも対応できる。
なお、上述の説明においては、濃度値の変化量Δconv(u)が所定値を超えた場合に、濃度値変換テーブルを補正する場合について説明したが、濃度値の変化量Δconv(u)が所定値を超えなくとも、何らかの条件が満たされた場合には、上述と同様な方法を用いて、濃度値変換テーブルを補正してもよい。
以上のように、本実施の形態においては、画像1に含まれる濃度値と画像2に含まれる濃度値との対応関係を決定する処理(ステップS14)は、変換関数(濃度値変換テーブル22)において所定の制限範囲を超える変化が存在している場合に、当該変換関数を変更する処理を含む。
その他の処理および構成については、実施の形態1〜5と同様であるので、共通部分についての詳細な説明は繰り返さない。
本実施の形態によれば、何らかの理由で変換関数(濃度値変換テーブル)の生成に失敗した場合であっても、濃度値補正(色補正)に適した変換関数へ補正することができる。
<L.実施の形態6>
入力された画像1と画像2との間でダイナミックレンジが異なる場合には、その補正が必要になる。そこで、実施の形態6として、色飽和などが生じた場合に、変換関数(濃度値変換テーブル)を事後的に補正する処理について説明する。
図25は、本発明の実施の形態6における濃度値変換テーブルの補正処理を説明するための図である。
例えば、画像1の方が画像2よりもダイナミックレンジの狭い(濃度値の階調数が少ない)画像であるとする。このとき、画像1を画像2の濃度値に合わせる濃度値変換を行った場合、濃度値の階調数が少ないことから、色のグラデーションのある領域に偽のテクスチャが発生する可能性がある。特に、画像1が色飽和して白とびしている領域の周辺の階調が目立つように、色補正されてしまう場合がある。
このような課題を防止するために、本実施の形態においては、色飽和箇所を検知するロジックを用いて、画像1および画像2からそれぞれ生成される累積ヒストグラムにおいて、色飽和(いわゆる「白とび」)が発生しているか否かを判断する。そして、色飽和が発生していることを検知すると、その色飽和した濃度値を上限値として濃度値変換が行なわれる。
色飽和が発生していると判断する基準としては、例えば、画像1の飽和基準値satth1=c_hist(Cmax)×0.95と設定する。
画像1についての累積ヒストグラムにおいて、正規化ヒストグラム度数c_hist(Cmax−1)<satth1である場合には、画像1が色飽和していると判断される。色飽和していると判断された場合には、次に、画像2についての累積ヒストグラムにおいて、c_hist(Cmax−1)>c_hist(m)となる最大のmsatが、濃度値0≦m≦Cmaxの範囲で探索される。画像1における濃度値(Cmax−1)が画像2における濃度値mに相当する。画像2の濃度値mが濃度値Cmaxとなるよう、濃度値変換テーブルの値が線形変換される。一方、conv’(n)>Cmaxとなる場合は、濃度値変換テーブルの値がCmaxでクリッピングされる。すなわち、(26)式に従って、濃度値conv(n)が補正される。
以上の処理を、それぞれのチャネルに対して行なうことにより、白とびの程度を、画像1と画像2との間で合わせることができる。
逆に、画像2のみが白とびしている場合には、画像1に対して補正が行なわれる。画像1と画像2ともに白とびしている場合には、ダイナミックレンジのより狭い方に合わせるような補正が行なわれる。
なお、黒つぶれしている場合も、上述と同様の方法で、その発生を検知し、補正値変換テーブルを補正できる。
以上のように、本実施の形態においては、画像1に含まれる濃度値と画像2に含まれる濃度値との対応関係を決定する処理(ステップS14)は、画像1のヒストグラムおよび画像2のヒストグラムの少なくとも一方において色飽和の発生が検知された場合に、変換関数(濃度値変換テーブル22)を変更する処理を含む。
その他の処理および構成については、実施の形態1〜6と同様であるので、共通部分についての詳細な説明は繰り返さない。
本実施の形態によれば、何らかの理由で変換関数(濃度値変換テーブル)において色飽和が発生した場合であっても、濃度値補正(色補正)に適した変換関数へ補正することができる。
<M.実施の形態7>
上述の実施の形態1〜6に示す方法では、主として、入力された画像の全体を用いて変換関数(濃度値変換テーブル)を生成する場合を想定しているが、異なる視点から撮像して得られる画像間では、被写体の画像が全く同一ではない。そのため、画像間に生じる視差量によっては、入力された画像にそれぞれ設定される部分領域を用いて、変換関数(濃度値変換テーブル)を生成することが好ましい場合もある。そこで、実施の形態7として、複数の画像にそれぞれ設定される部分領域から生成される累積ヒストグラムを用いて、変換関数(濃度値変換テーブル)を生成する処理について説明する。すなわち、画像1と画像2との間で共通領域を特定した上で、画像間の濃度値補正(色補正)する。
すなわち、本実施の形態において、濃度値についての単純なヒストグラムから累積ヒストグラムを生成する処理(ステップS8およびS10)は、画像1および画像2のそれぞれに設定される部分領域から累積ヒストグラムを生成する処理を含む。
より具体的には、本実施の形態に従う画像処理方法の全体手順については、図26に示すようになる。図26は、本発明の実施の形態7に従う変換関数生成処理の全体手順を示すフローチャートである。図26に示すフローチャートは、図9に示すフローチャートに比較して、ステップS3が新たに追加されるとともに、ステップS4#およびS6#において生成されるヒストグラムの対象領域が図9のステップS4およびS6とは異なっている点が相違している。図26に示すステップのうち、図9に示すステップと同様の処理を行なうものについては、同一の参照符号を付している。なお、図26に示す各ステップは、典型的には、CPU102(図2)が画像処理プログラム112を実行するなどして実現される。
図26を参照して、少なくとも2つの画像が取得された後(ステップS2の実行後)、CPU102は、画像1および画像2の間で共通する部分領域を探索する(ステップS3)。この部分領域の探索処理については、後述する。なお、画像1および画像2は、典型的には、ステレオカメラを用いて撮像され、これらの画像は同一対象物を含むことになる。そして、画像1の部分領域と画像2の部分領域とは、両者の一致度に基づいて設定される。
続いて、CPU102は、それぞれの画像に設定された共通領域に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する。すなわち、CPU102は、入力された画像1に設定された部分領域に含まれる画素の濃度値についての単純なヒストグラムを生成する(ステップS4#)とともに、入力された画像2に設定された部分領域に含まれる画素の濃度値についての単純なヒストグラムを生成する(ステップS6#)。なお、ステップS4#およびS6#の処理については、パラレル処理で行なってもよいし、シリアル処理で行なってもよい。シリアル処理で行なう場合、その実行順序は問わない。続いて、CPU102は、ステップS4#において生成した、濃度値についての単純なヒストグラムから累積ヒストグラムを生成する(ステップS8)とともに、ステップS6#において生成した、濃度値についての単純なヒストグラムから累積ヒストグラムを生成する(ステップS10)。以下、図9のステップS12以下と同様の処理が実行される。
以下、ステップS3における共通する部分領域の探索および設定の方法について説明する。典型的な方法として、パターンマッチングを用いる方法、およびステレオキャリブレーションを用いる方法について例示する。
(1)パターンマッチング
パターンマッチングを用いて共通領域を探索および設定する処理としては、画像1および画像2にそれぞれ部分領域を順次設定していき、それぞれ設定された部分領域の間で一致度(類似度)を評価する。そして、一致度が最大になる部分領域が共通領域として設定される。すなわち、パターンマッチングにより、画素が最も適合する位置を探索する。上述したように、共通領域とは、同一の被写体の共通する部分が写っている範囲に相当し、原理的には、画像1に設定された共通領域に対応する部分領域と、画像2に設定された共通領域に対応する部分領域との間は、ほぼ一致することになる。
このような一致度RNCCは、例えば、(27)式のような相関値を用いて算出できる。
なお、(27)式において、部分領域の画素サイズは、N画素×M画素であるとする。パターンマッチングでは、(27)式に従って算出される一致度RNCCが最大となる位置が探索される。
図27は、本発明の実施の形態7においてパターンマッチングを用いて共通領域を探索する処理を説明するための図である。図28は、本発明の実施の形態7においてパターンマッチングを用いて共通領域を探索する処理手順を示すフローチャートである。図29は、本発明の実施の形態7においてパターンマッチングを用いて設定される共通領域の一例を示す図である。
図27に示すように、本実施の形態においては、画像1および画像2に対して、部分領域が順次設定されることになる。計算の便宜上、部分領域が設定される位置を中心位置(X0,Y0)を用いて定義する。そして、部分領域のサイズを固定したまま、中心位置(X0,Y0)の位置を順次変更して、変更するたびに一致度RNCCを算出する。
図28を参照して、具体的な処理手順について説明する。図28には、画像1に対して部分領域を設定しておき、画像2に対して設定される部分領域を順次移動させる処理例を示す。なお、図28に示す各ステップは、典型的には、CPU102(図2)が画像処理プログラム112を実行するなどして実現される。
まず、CPU102は、画像1に対して、所定の位置に部分領域を設定する(ステップS300)。続いて、CPU102は、画像2に対して、基準の初期位置に部分領域を設定する(ステップS302)。そして、CPU102は、画像1および画像2に対して現在設定されているそれぞれの部分領域の間における一致度を算出する(ステップS304)。この一致度は、上述の(27)式に従って算出されてもよい。この算出した一致度は、対応する中心位置とともに記憶領域に一次的に格納される。
続いて、CPU102は、画像2に設定されている部分領域を定義する中心位置のX座標値が上限値に到達しているか否かを判断する(ステップS306)。中心位置のX座標値が上限値に到達していない場合(ステップS306においてNOの場合)には、CPU102は、中心位置のX座標を1だけインクリメントして(ステップS308)、ステップS304以下の処理を繰り返す。
中心位置のX座標値が上限値に到達している場合(ステップS306においてYESの場合)には、CPU102は、画像2に設定されている部分領域を定義する中心位置のY座標値が上限値に到達しているか否かを判断する(ステップS310)。
中心位置のY座標値が上限値に到達していない場合(ステップS310においてNOの場合)には、CPU102は、中心位置のX座標を初期値にリセットするとともに、中心位置のY座標を1だけインクリメントして(ステップS312)、ステップS304以下の処理を繰り返す。
中心位置のY座標値が上限値に到達している場合(ステップS310においてYESの場合)には、CPU102は、これまで格納されている一致度のうち、最もその値が大きい一致度に対応する中心位置を抽出し、抽出した中心位置で定義される部分領域を共通領域として決定する(ステップS314)。そして、処理は終了する。
以上の様な処理を行なうことで、一致度が最大となる部分領域を探索することで、図29に示すような共通領域をそれぞれの画像に対して設定できる。
本実施の形態によれば、同一の被写体を写した共通領域の画像を用いて濃度値変換テーブルを生成することで、より適切な色補正(濃度値変換)を行なうことができる。なお、共通領域(部分領域)から生成された濃度値変換テーブルを用いて、入力された画像の全体について色補正(濃度値変換)を行なってもよい。
(2)ステレオキャリブレーション
上述のパターンマッチングに代えて、光学的な補正を行なう、ステレオキャリブレーションを採用してもよい。具体的には、例えば、ステレオカメラを用いて画像1および画像2を取得する場合には、画像1および画像2における歪みの補正や平行化などの処理を行なった上で、ピンホールカメラモデルなどを用いたカメラキャリブレーションを行ない、共通領域を設定してもよい。
(3)オクルージョン領域の除外
ステレオカメラを用いて異なる視点から被写体を撮像した場合には、画像間に視差が存在するため、オクルージョンにより、画像間に対応する画像部分が存在しない領域が存在し得る。この場合には、パターンマッチングなどの対応点探索を用いて、オクルージョン領域を特定し、当該特定したオクルージョン領域を除外した上で、濃度値変換テーブルなどの作成を行なうことが好ましい。
図30は、本発明の実施の形態7に従うオクルージョン領域を除外する処理を説明するための図である。図30を参照して、例えば、入力された画像1および画像2において、前側の被写体(人)によって、後側の被写体(立木)の一部が見えなくなっている。このような場合には、まず、画像1と画像2との間で対応点探索を行なって、対応関係を決定した上で、画像1に対しては、画像2では見えない領域(図30において黒で示すオクルージョン領域)を除去し、同様に、画像2に対しては、画像1では見えない領域(図30において黒で示すオクルージョン領域)を除去する。図30の下段には、オクルージョン領域が除外された一対の画像(「除去ずみ」)が示される。すなわち、画像1の部分領域と画像2の部分領域は、オクルージョン領域を除外するように設定される。
そして、このようなオクルージョン領域が除外された一対の画像の間で、上述したような、各種の処理が実行される。
このように、オクルージョン領域を除去することで、対応点探索(パターンマッチング)の精度を高めることができ、より適切な、濃度値変換テーブルを生成することができる。
その他の処理および構成については、実施の形態1〜7と同様であるので、共通部分についての詳細な説明は繰り返さない。
<N.利点>
本実施の形態によれば、複数の画像間で被写体の画像が異なっている場合であっても、濃度値を補正するための変換関数をより適切に生成できる。
<O.別形態>
本発明の実施の形態としては、以下のような態様を含む。
本発明の別の局面に従う画像処理方法は、2つ以上の画像から濃度値の累積ヒストグラムを生成するヒストグラム生成ステップと、ヒストグラム度数と濃度値で定義された空間における濃度値間の距離を算出する距離算出ステップと、算出した濃度値間の距離から画像間における濃度値の対応関係を決定し濃度値変換テーブルを生成する対応関係決定ステップとを有する。
好ましくは、対応関係決定ステップでは、画像間の濃度値間の大小関係を保存して対応関係を決定する。
好ましくは、対応関係決定ステップでは、画像間の濃度値間の距離の総和を最小とする、濃度値間の対応関係を決定する。
好ましくは、距離算出ステップでは、空間の軸方向に重みを設定して距離を算出する。
さらに好ましくは、距離算出ステップでは、ヒストグラム度数に基づいて重みを設定する。
さらに好ましくは、距離算出ステップでは、濃度値に基づいて重みを設定する。
好ましくは、対応関係決定ステップでは、距離算出を行なう濃度値の範囲を限定して対応を決定する。
さらに好ましくは、対応関係決定ステップでは、限定した濃度値の範囲のヒストグラムを変形して対応を決定する。
好ましくは、対応関係決定ステップでは、ヒストグラムを平行移動した後に対応関係を決定する。
好ましくは、さらに、濃度値変換テーブルについて、閾値以上あるいは閾値以下の変化を検出して補正するテーブル補正ステップを含む。
好ましくは、さらに、ヒストグラム度数から色飽和の有無を検知し、濃度値変換テーブルを補正するダイナミックレンジ調整ステップを含む。
好ましくは、一連の処理を各チャネルの濃度値毎を行なう。
好ましくは、ヒストグラム生成ステップでは、画像の部分領域からヒストグラムを生成する。
さらに好ましくは、画像は、少なくとも1つの他の画像と同一対象物を含む画像であり、部分領域とは、画像間の共通領域である。
さらに好ましくは、画像は、少なくとも1つの他の画像と同一対象物を含む画像であり、部分領域とは、画像間のオクルージョン領域を除外した領域である。
さらに好ましくは、共通領域を特定する処理は、パターンマッチング、または、ステレオキャリブレーションである。
さらに好ましくは、オクルージョン領域を特定する処理は、対応点探索(パターンマッチング)である。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて請求の範囲によって示され、請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
2,4 カメラ、10 画像管理部、12 データ格納部、14 ヒストグラム生成部、16 決定処理部、18 距離算出部、22 濃度値変換テーブル、24 濃度値変換部、100,200 画像処理装置、102 CPU、104 RAM、106 ROM、108 ネットワークインターフェイス、110 補助記憶装置、112 画像処理プログラム、114 処理対象画像、120,206 表示部、122,204 入力部、124 メモリーカードインターフェイス、126 メモリーカード、130 バス、202 画像処理エンジン、212,222 レンズ、214,224 イメージセンサー。

Claims (15)

  1. 少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、
    累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、前記第1画像から生成された第1ヒストグラム上の濃度値と前記第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、
    算出した濃度値間の距離に基づいて、前記第1画像に含まれる濃度値と前記第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から前記第1画像と前記第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを備え
    前記決定ステップは、前記第1画像に含まれる第1濃度値が前記第2画像に含まれる第2濃度値に対応している場合に、前記第1画像に含まれる前記第1濃度値より大きな第3濃度値についての対応関係を、前記第2画像に含まれる前記第2濃度値以上の濃度値を探索対象として決定するステップを含む、画像処理方法。
  2. 前記決定ステップは、前記第1画像に含まれるすべての濃度値と前記第2画像に含まれる対応する濃度値との間の距離の総和が最小となるように、濃度値についての対応関係を決定するステップを含む、請求項に記載の画像処理方法。
  3. 少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、
    累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、前記第1画像から生成された第1ヒストグラム上の濃度値と前記第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、
    算出した濃度値間の距離に基づいて、前記第1画像に含まれる濃度値と前記第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から前記第1画像と前記第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを備え
    前記算出ステップは、前記距離の算出にあたり、前記空間におけるヒストグラム度数に対応する軸方向の距離に応じた重みを設定するステップを含む、画像処理方法。
  4. 少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、
    累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、前記第1画像から生成された第1ヒストグラム上の濃度値と前記第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、
    算出した濃度値間の距離に基づいて、前記第1画像に含まれる濃度値と前記第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から前記第1画像と前記第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを備え
    前記算出ステップは、前記距離の算出にあたり、前記空間における濃度値に対応する軸方向の距離に応じた重みを設定するステップを含む、画像処理方法。
  5. 前記算出ステップは、前記第1ヒストグラムおよび前記第2ヒストグラムの少なくとも一方を前記空間において平行移動した上で、前記距離を算出するステップを含む、請求項1〜のいずれか1項に記載の画像処理方法。
  6. 前記算出ステップは、対象とする濃度値の範囲を限定した上で、前記距離を算出するステップを含む、請求項1〜のいずれか1項に記載の画像処理方法。
  7. 前記算出ステップは、前記第1ヒストグラムおよび前記第2ヒストグラムのうち、限定した濃度値の範囲のヒストグラムを拡張した上で、前記距離を算出するステップを含む、請求項に記載の画像処理方法。
  8. 少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、
    累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、前記第1画像から生成された第1ヒストグラム上の濃度値と前記第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、
    算出した濃度値間の距離に基づいて、前記第1画像に含まれる濃度値と前記第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から前記第1画像と前記第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを備え
    前記決定ステップは、前記変換関数において所定の制限範囲を超える変化が存在している場合に、当該変換関数を変更するステップを含む、画像処理方法。
  9. 少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、
    累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、前記第1画像から生成された第1ヒストグラム上の濃度値と前記第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、
    算出した濃度値間の距離に基づいて、前記第1画像に含まれる濃度値と前記第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から前記第1画像と前記第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを備え
    前記決定ステップは、前記第1ヒストグラムおよび前記第2ヒストグラムの少なくとも一方において色飽和の発生が検知された場合に、当該変換関数を変更するステップを含む、画像処理方法。
  10. 前記第1画像および前記第2画像に含まれる画素の各々は、複数のチャネルの濃度値で定義されており、
    前記算出ステップは、チャネルごとに濃度値間の距離を算出するステップを含む、請求項1〜のいずれか1項に記載の画像処理方法。
  11. 前記生成ステップは、前記第1画像および前記第2画像のそれぞれに設定される部分領域から累積ヒストグラムを生成するステップを含む、請求項1〜10のいずれか1項に記載の画像処理方法。
  12. 前記第1画像の部分領域と前記第2画像の部分領域は、両者の一致度に基づいて設定される、請求項11に記載の画像処理方法。
  13. 前記第1画像の部分領域と前記第2画像の部分領域は、オクルージョン領域を除外するように設定される、請求項11に記載の画像処理方法。
  14. 画像処理装置であって、
    少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成手段と、
    累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、前記第1画像から生成された第1ヒストグラム上の濃度値と前記第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出手段と、
    算出した濃度値間の距離に基づいて、前記第1画像に含まれる濃度値と前記第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から前記第1画像と前記第2画像との間で濃度値を補正するための変換関数を決定する決定手段とを備え
    前記決定手段は、前記第1画像に含まれる第1濃度値が前記第2画像に含まれる第2濃度値に対応している場合に、前記第1画像に含まれる前記第1濃度値より大きな第3濃度値についての対応関係を、前記第2画像に含まれる前記第2濃度値以上の濃度値を探索対象として決定する、画像処理装置。
  15. 画像処理プログラムであって、コンピューターに、
    少なくとも第1画像および第2画像に含まれる画素の濃度値についての累積ヒストグラムをそれぞれ生成する生成ステップと、
    累積ヒストグラムのヒストグラム度数および濃度値を含んで定義される空間において、前記第1画像から生成された第1ヒストグラム上の濃度値と前記第2画像から生成された第2ヒストグラム上の濃度値との間の距離を算出する算出ステップと、
    算出した濃度値間の距離に基づいて、前記第1画像に含まれる濃度値と前記第2画像に含まれる濃度値との対応関係を決定するとともに、決定した対応関係から前記第1画像と前記第2画像との間で濃度値を補正するための変換関数を決定する決定ステップとを実行させ
    前記決定ステップは、前記第1画像に含まれる第1濃度値が前記第2画像に含まれる第2濃度値に対応している場合に、前記第1画像に含まれる前記第1濃度値より大きな第3濃度値についての対応関係を、前記第2画像に含まれる前記第2濃度値以上の濃度値を探索対象として決定するステップを含む、画像処理プログラム。
JP2013553216A 2012-01-10 2012-12-11 画像処理方法、画像処理装置および画像処理プログラム Expired - Fee Related JP6020471B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012002417 2012-01-10
JP2012002417 2012-01-10
PCT/JP2012/082016 WO2013105381A1 (ja) 2012-01-10 2012-12-11 画像処理方法、画像処理装置および画像処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2013105381A1 JPWO2013105381A1 (ja) 2015-05-11
JP6020471B2 true JP6020471B2 (ja) 2016-11-02

Family

ID=48781341

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013553216A Expired - Fee Related JP6020471B2 (ja) 2012-01-10 2012-12-11 画像処理方法、画像処理装置および画像処理プログラム

Country Status (4)

Country Link
US (1) US9542733B2 (ja)
EP (1) EP2804369A4 (ja)
JP (1) JP6020471B2 (ja)
WO (1) WO2013105381A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015158728A (ja) * 2014-02-21 2015-09-03 東芝テック株式会社 情報閲覧装置、及び、情報閲覧プログラム
TWI552600B (zh) * 2014-12-25 2016-10-01 晶睿通訊股份有限公司 用於接圖的影像校正方法及具有影像校正功能的相關攝影機與影像處理系統
JP2016189946A (ja) * 2015-03-31 2016-11-10 富士フイルム株式会社 医用画像位置合わせ装置および方法並びにプログラム
EP3493538B1 (en) * 2016-07-27 2023-05-03 Toppan Printing Co., Ltd. Color calibration device, color calibration system, color calibration hologram, color calibration method, and program
JP6740177B2 (ja) * 2017-06-14 2020-08-12 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP6982419B2 (ja) * 2017-06-30 2021-12-17 三菱スペース・ソフトウエア株式会社 画像比較装置、画像比較プログラムおよび画像比較方法
US10579880B2 (en) * 2017-08-31 2020-03-03 Konica Minolta Laboratory U.S.A., Inc. Real-time object re-identification in a multi-camera system using edge computing
US20190281215A1 (en) * 2018-03-06 2019-09-12 Hong Kong Applied Science and Technology Research Institute Company, Limited Method for High-Quality Panorama Generation with Color, Luminance, and Sharpness Balancing
CN109314773A (zh) * 2018-03-06 2019-02-05 香港应用科技研究院有限公司 具有颜色、亮度和清晰度平衡的高品质全景图的生成方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004343483A (ja) * 2003-05-16 2004-12-02 Acutelogic Corp 手振れ補正装置および方法、手振れ検出装置
US7328111B2 (en) * 2003-11-07 2008-02-05 Mitsubishi Electric Research Laboratories, Inc. Method for determining similarities between data sequences using cross-correlation matrices and deformation functions
KR100770019B1 (ko) 2004-12-06 2007-10-25 한국전자통신연구원 스테레오 카메라의 영상왜곡 보정 장치 및 그 방법
US7986351B2 (en) 2005-01-27 2011-07-26 Qualcomm Incorporated Luma adaptation for digital image processing
DE602006019481D1 (de) * 2005-11-29 2011-02-17 Nec Corp Mustererkennungsvorrichtung, mustererkennungsverfahren und mustererkennungsprogramm
US7796812B2 (en) * 2006-10-17 2010-09-14 Greenparrotpictures, Limited Method for matching color in images
JP4864835B2 (ja) 2007-08-21 2012-02-01 Kddi株式会社 色補正装置、方法及びプログラム
JP5367455B2 (ja) 2008-06-04 2013-12-11 Toa株式会社 複数のカラーカメラ間の色調整装置および方法
JP5336325B2 (ja) 2009-10-30 2013-11-06 大日本スクリーン製造株式会社 画像処理方法
EP2320378A1 (en) * 2009-11-06 2011-05-11 Nxp B.V. Colour image enhancement

Also Published As

Publication number Publication date
JPWO2013105381A1 (ja) 2015-05-11
WO2013105381A1 (ja) 2013-07-18
US9542733B2 (en) 2017-01-10
EP2804369A4 (en) 2016-03-09
EP2804369A1 (en) 2014-11-19
US20150043817A1 (en) 2015-02-12

Similar Documents

Publication Publication Date Title
JP6020471B2 (ja) 画像処理方法、画像処理装置および画像処理プログラム
US8224069B2 (en) Image processing apparatus, image matching method, and computer-readable recording medium
US9251589B2 (en) Depth measurement apparatus, image pickup apparatus, and depth measurement program
US8928736B2 (en) Three-dimensional modeling apparatus, three-dimensional modeling method and computer-readable recording medium storing three-dimensional modeling program
US20160307324A1 (en) Image processing apparatus, image processing method, and storage medium for lighting processing on image using model data
WO2015146230A1 (ja) 映像表示装置および映像表示システム
US20120001902A1 (en) Apparatus and method for bidirectionally inpainting occlusion area based on predicted volume
JP2015197745A (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP6452360B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
WO2013038833A1 (ja) 画像処理システム、画像処理方法および画像処理プログラム
WO2014030630A1 (ja) 視差マップを生成する装置及びその方法
JP5747797B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
KR101875532B1 (ko) 계층적 스테레오 매칭 장치 및 방법
EP3189493A1 (en) Depth map based perspective correction in digital photos
KR101281003B1 (ko) 다시점 영상을 이용한 영상 시스템 및 영상 처리 방법
JP6579764B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP6320165B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
JP2010154323A (ja) 画像処理装置、画像抽出方法、および、プログラム
KR101804157B1 (ko) 개선된 sgm 기반한 시차 맵 생성 방법
CN111630569A (zh) 双目匹配的方法、视觉成像装置及具有存储功能的装置
JP5751117B2 (ja) 画像生成装置、画像生成方法、画像生成装置用プログラム
JP6234200B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2016062447A (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP6097597B2 (ja) 画像処理装置及びその制御方法
JP2014142781A (ja) 画像処理装置、画像処理方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160919

R150 Certificate of patent or registration of utility model

Ref document number: 6020471

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees