JPWO2015083499A1 - 画像処理装置、該方法および該プログラム - Google Patents
画像処理装置、該方法および該プログラム Download PDFInfo
- Publication number
- JPWO2015083499A1 JPWO2015083499A1 JP2015551440A JP2015551440A JPWO2015083499A1 JP WO2015083499 A1 JPWO2015083499 A1 JP WO2015083499A1 JP 2015551440 A JP2015551440 A JP 2015551440A JP 2015551440 A JP2015551440 A JP 2015551440A JP WO2015083499 A1 JPWO2015083499 A1 JP WO2015083499A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- data
- filter
- image data
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4015—Demosaicing, e.g. colour filter array [CFA], Bayer pattern
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/131—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing infrared wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/133—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
本発明の画像処理装置、該方法および該プログラムでは、複数の原画像データそれぞれを画像フィルタでフィルタリングして対応点探索用の複数の前処理後画像データが生成される。前記原画像データは、各画素に対応する複数のデータであって、複数色の複数の濃度データをパターン配列した単位配列を、複数、2次元アレイ状に配列した前記複数のデータを備える。前記画像フィルタは、フィルタリングの対象データに対応する画素の周辺画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備える。
Description
本発明は、画像を処理する画像処理技術に関し、特に、より高精度に対応点探索を実施できる画像処理技術に関する。
近年、各種デジタル技術の進展に伴い、例えばCCD(Charge Coupled Device)型イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)型イメージセンサ等の固体撮像素子を用いることによってデジタル画像が比較的容易に得られるようになり、このデジタル画像が様々に利用されている。例えば、複数のデジタル画像から所定の被写体までの距離を計測する画像処理技術や、解像度を変換する画像処理技術等がある。
このような解像度を変換する技術の一つに、相対的に低解像度な複数の画像から、相対的に高解像度な1つの画像を合成する高解像度画像生成技術があり、例えば特許文献1や非特許文献1に開示されている。この特許文献1に開示された高解像度カラー画像生成方法は、イメージセンサと色フィルタ配列を用いる画像撮像装置によって撮像された1枚または一連の複数枚の入力画像に基づいて高解像度カラー画像を生成するものである。前記非特許文献1に開示された高解像度画像生成技術は、いわゆるベイヤー配列を用いたイメージセンサで撮像した画像データのうちのG画素のデータを用いて複数の画像間における対応点を探索することで位置ずれを推定し、複数の画像から高解像度な1つの画像を生成するものである。
ところで、前記ベイヤー配列のイメージセンサは、2行2列に2次元アレイ状に配列したG(緑色)、R(赤色)、B(青色)およびG(緑色)の4個の色フィルタを単位配列として、複数の単位配列をさらに2次元アレイ状に配列したカラーフィルタと、物体(被写体)の光学像を前記カラーフィルタを介して各光電変換素子(各画素)で受光するイメージセンサとを備えたものであるが、前記非特許文献1に開示された画像処理技術は、対応点の探索にG画素のデータ、すなわち、画像データのうちの半分のデータしか用いていない。このため、対応点探索の精度に限界が生じていた。
「2次元同時サブピクセル推定法のBayer配列への適用と超解像への応用」、情報処理学会研究報告、CVIM、コンピュータビジョンとイメージメディア、2003(88)、79−86、2003−09−08
本発明は、上述の事情に鑑みて為された発明であり、その目的は、より高精度に対応点探索を実施できる画像処理装置、画像処理方法および画像処理プログラムを提供することである。
本発明にかかる画像処理装置、画像処理方法および画像処理プログラムでは、複数の原画像データそれぞれを画像フィルタでフィルタリングすることによって、対応点探索に利用される複数の前処理後画像データそれぞれが生成される。その前記原画像データは、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備え、そして、前記画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備える。したがって、本発明にかかる画像処理装置、画像処理方法および画像処理プログラムは、より高精度に対応点探索を実施できる。
上記並びにその他の本発明の目的、特徴及び利点は、以下の詳細な記載と添付図面から明らかになるであろう。
以下、本発明にかかる実施の一形態を図面に基づいて説明する。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
実施形態における画像処理装置は、所与の原画像データに対し所定の画像処理を実施する装置であり、前記所定の画像処理には、少なくとも前処理および対応点探索処理が含まれる。一般に、撮像装置(カメラ)は、イメージセンサから出力される画像信号に対し、ホワイトバランス処理、フィルタ処理、階調変換処理および色空間変換処理等のいわゆる通常の画像処理を施し、最終的な画像信号を生成する。前記原画像データは、このような通常の画像処理を施す前の、イメージセンサから出力された生の画像信号であり、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備えるものである。このような原画像データは、例えば、ローデータ(Raw Data、生データ)である。前記前処理は、原画像データにおける各画素の各データを、対応点探索する上で同等に処理可能なデータに変換する処理である。前記対応点探索は、2個の画像に対し、一方を基準画像とし他方を参照画像とした場合に、基準画像上における所定の点に対応する参照画像上における点を探索する処理である。
このような実施形態における画像処理装置Dは、画像処理内容に応じて様々な態様が可能であるが、ここでは、複数の画像(画像データ)から前記画像よりも解像度の高い高解像度な画像を生成する第1実施形態の画像処理装置Da、および、複数の画像から所定の被写体までの距離を求める第2実施形態の画像処理装置Dbについて説明する。
(第1実施形態)
図1は、第1実施形態における画像処理装置の構成を示すブロック図である。図2は、第1実施形態の画像処理装置における、カメラである場合の画像取得部の構成を示す図である。図3は、第1実施形態の画像処理装置における、アレイカメラである場合の画像取得部の構成を示す斜視図である。図4は、前記カメラまたは前記アレイカメラにおける色フィルタの単位色フィルタ配列を示す図である。図4Aないし図4Eは、単位色フィルタ配列の第1ないし第5態様を示す。図5は、第1実施形態の画像処理装置における画像フィルタの構成を示す図である。図5Aないし図5Eは、画像フィルタの第1ないし第5態様を示す。
図1は、第1実施形態における画像処理装置の構成を示すブロック図である。図2は、第1実施形態の画像処理装置における、カメラである場合の画像取得部の構成を示す図である。図3は、第1実施形態の画像処理装置における、アレイカメラである場合の画像取得部の構成を示す斜視図である。図4は、前記カメラまたは前記アレイカメラにおける色フィルタの単位色フィルタ配列を示す図である。図4Aないし図4Eは、単位色フィルタ配列の第1ないし第5態様を示す。図5は、第1実施形態の画像処理装置における画像フィルタの構成を示す図である。図5Aないし図5Eは、画像フィルタの第1ないし第5態様を示す。
この第1実施形態における画像処理装置Daは、例えば、図1に示すように、制御処理部1aと、記憶部2と、画像取得部3と、入力部4と、出力部5とを備える。
画像取得部3は、制御処理部1aに接続され、原画像データを外部から当該画像処理装置Daに取り込むための装置である。画像取得部3は、この取得した画像データを制御処理部1aへ出力する。画像取得部3は、例えば、原画像データを記録した記録媒体から前記原画像データを読み込むドライブ装置3aや、物体(被写体)の光学像を撮像して原画像データを生成するカメラ3b等である。
ドライブ装置3aは、例えば、フレキシブルディスク、CD−ROM、CD−RおよびDVD−R等の記録媒体とデータを読み書きする装置であり、例えば、フレキシブルディスクドライブ、CD−ROMドライブ、CD−RドライブおよびDVD−Rドライブ等である。また例えば、ドライブ装置3aは、SDメモリカード(SDのロゴは登録商標)およびUSB(Universal Serial Bus)メモリ等の固体記憶素子からデータを読み書きする装置であり、例えばSDドライブおよびUSBインターフェース等である。
カメラ3bは、図2に示すように、被写体の光学像を所定の結像面に結像する撮像光学系31と、撮像光学系31の像側に配置される色フィルタ部32と、前記所定の結像面の位置に受光面が位置するように配置され、前記撮像光学系31によって結像された被写体の光学像を色フィルタ部32を介して撮像して原画像データを出力する撮像部33とを備える。カメラ3bは、単眼の1個のカメラ3baであって良く、また、複眼(3眼以上)のアレイカメラ3bbであって良い。
単眼のカメラ3baは、被写体を撮像して1個の原画像データを生成する装置であり、例えば、単眼(1個)の撮像光学系31aと、撮像光学系31aの像側に配置される色フィルタ部32と、撮像光学系31aによって結像された被写体の光学像を色フィルタ部32を介して1個の有効撮像領域で撮像して1個の原画像データを出力する撮像部33aとを備える。撮像光学系31aは、その光軸に沿って1または複数の光学レンズを備えて構成される。撮像部33aは、2次元マトリクス状に配列された複数の光電変換素子(複数の画素)を備え、各光電変換素子は、それぞれ、色フィルタ部32を介して受光した光の光量に応じて変換した電気信号を原画像データにおける各画素のデータとして出力する。このような撮像部33aは、例えば、CCD型イメージセンサやCMOS型イメージセンサ等の固体撮像素子を備えて構成される。
3眼以上の複眼のアレイカメラ3bbは、被写体を撮像して複数(3個以上)の原画像データを生成する装置であり、例えば、図3に示すように、3個以上の複数の撮像光学系31bと、前記複数の撮像光学系31bに対応し、各撮像光学系31の各像側にそれぞれ配置される複数の色フィルタ部32(図3には不図示)と、前記複数の撮像光学系31bに対応し、前記複数の撮像光学系31bそれぞれによって結像された被写体の光学像を各色フィルタ部32を介してそれぞれ撮像して複数の原画像データを出力する複数の撮像部33bとを備える。なお、図3では色フィルタ部32が省略されている。複数の撮像光学系31bは、それぞれ、当該撮像光学系31bに対応する撮像部33bの受光面に被写体の光学像を結像する光学素子である。1個の撮像光学系31bは、その光軸に沿って1または複数の光学レンズを備えて構成される。複数の撮像光学系31bは、図3に示す例では、各光軸が互いに略平行となるように配列される。したがって、複数の撮像光学系31bおよび複数の色フィルタ部32を介して被写体の光学像をそれぞれ撮像する複数の撮像部33bは、同じ被写体を写した略視差だけずれた原画像データを生成することになる。図3に示す例では、複数の撮像光学系31bは、複数の撮像部32bに対応して線形独立な2方向、より具体的には互いに直交するX方向およびY方向の2方向に2次元マトリクス状に配列されている。図3に示す例では、複数の撮像光学系31bは、撮像部33bの配列態様および個数に合わせて3行3列に2次元マトリクス状に配列された9個の撮像光学系31b−11〜31b−33である。複数の撮像部33bは、それぞれ、2次元マトリクス状に配列された複数の光電変換素子(複数の画素)を備え、各光電変換素子は、それぞれ、前記色フィルタ部32を介して受光した光の光量に応じて変換した電気信号を原画像データにおける各画素のデータとして出力する。複数の撮像部33bは、複数の撮像光学系31bに対応し、各撮像面が互いに同一平面となるように配列される。図3に示す例では、複数の撮像部33bは、線形独立な2方向、より具体的には互いに直交するX方向およびY方向の2方向に2次元マトリクス状に配列されている。図3に示す例では、複数の撮像部33bは、3行3列に2次元マトリクス状に配列された9個の撮像部33b−11〜33b−33が示されている。これら複数の撮像部33bは、同一の基板上に2次元マトリクス状に配列された複数の前記固体撮像素子を備えて構成されて良いが、図3に示す例では、1個の前記固体撮像素子を備えて構成され、この1個の前記固体撮像素子における有効画素領域が、各撮像部33bに対応するように、2次元マトリクス状に配列された複数の領域に分割され、これら各領域が各撮像部33bとして利用される。
単眼のカメラ3baにおける色フィルタ部32および複眼のアレイカメラ3bbにおける複数の色フィルタ部32それぞれは、互いに異なる複数の色フィルタを所定のパターンで配列した単位色フィルタ配列を、複数、さらに2次元アレイ状に配列した光学フィルタ素子である。色フィルタ部32の各色フィルタは、それぞれ、入射した光のうち所定の波長範囲(透過波長帯域)の光を透過し、撮像部33の各光電変換素子に対応するように配置される。すなわち、単眼のカメラ3baの色フィルタ部32における各色フィルタは、撮像部33aにおける複数の光電変換素子(複数の画素)それぞれに対応するように配置される。また、複眼のアレイカメラ3bbにおける複数の色フィルタ部32は、それぞれ、複数の撮像部33bに対応するように配置され、各色フィルタ部32および撮像部33bそれぞれにおいて、色フィルタ部32における各色フィルタは、撮像部33bにおける複数の光電変換素子(複数の画素)それぞれに対応するように配置される。
前記単位色フィルタ配列は、例えば画像の使用用途等に応じて種々の態様を採用でき、例えば、図4Aないし図4Eに示す第1ないし第5態様の単位色フィルタ配列321a〜321e等である。
図4Aに示す第1態様の単位色フィルタ配列321aは、赤色を透過する赤色フィルタ(R)、緑色を透過する第1緑色フィルタ(G)、緑色を透過する第2緑色フィルタ(G)、および、青色を透過する青色フィルタ(B)を2行2列で2次元マトリックス状に配置した配列であり、いわゆるベイヤー配列である。すなわち、1行1列に赤色フィルタが配置され、1行2列および2行1列それぞれ第1および第2緑色フィルタが配置され、そして、2行2列に青色フィルタが配置される。このような複数の単位色フィルタ配列321aをさらに2次元アレイ状に配列した色フィルタ部32aが図2に示す色フィルタ部32として用いられてよい。この色フィルタ部32aは、いわゆる原色フィルタである。
図4Bに示す第2態様の単位色フィルタ配列321bは、黄色を透過する黄色フィルタ(Ye)、マゼンダ色を透過するマゼンダ色フィルタ(Mg)、シアン色を透過するシアン色フィルタ(Cy)、および、緑色を透過する緑色フィルタ(G)を2行2列で2次元マトリックス状に配置した配列である。すなわち、1行1列に黄色フィルタが配置され、1行2列にマゼンダ色フィルタが配列され、2行1列にシアン色フィルタが配置され、そして、2行2列に緑色フィルタが配置される。このような複数の単位色フィルタ配列321bをさらに2次元アレイ状に配列した色フィルタ部32bが図2に示す色フィルタ部32として用いられてよい。この色フィルタ部32bは、いわゆる補色フィルタである。
図4Cに示す第3態様の単位色フィルタ配列321cは、赤色を透過する赤色フィルタ(R)、緑色を透過する緑色フィルタ(G)、青色を透過する青色フィルタ(B)、および、赤外光を透過する赤外光フィルタ(Ir)を2行2列で2次元マトリックス状に配置した配列である。すなわち、1行1列に赤色フィルタが配置され、1行2列に緑色フィルタが配置され、2行1列に青色フィルタが配置され、そして、2行2列に赤外光フィルタが配置される。このような複数の単位色フィルタ配列321cをさらに2次元アレイ状に配列した色フィルタ部32cが図2に示す色フィルタ部32として用いられてよい。
図4Dに示す第4態様の単位色フィルタ配列321dは、白色を透過する白色フィルタ(W)、黄色を透過する黄色フィルタ(Ye)、赤色を透過する赤色フィルタ(R)、および、赤外光を透過する赤外光フィルタ(Ir)を2行2列で2次元マトリックス状に配置した配列である。すなわち、1行1列に白色フィルタが配置され、1行2列に黄色フィルタが配列され、2行1列に赤色フィルタが配置され、そして、2行2列に赤外光フィルタが配置される。このような複数の単位色フィルタ配列321dをさらに2次元アレイ状に配列した色フィルタ部32dが図2に示す色フィルタ部32として用いられてよい。このような第4態様の単位色フィルタ配列321dを用いた色フィルタ部32dを用いることによって、可視光だけでなく赤外光も利用した画像を生成することができる。
そして、これら図4Aないし図4Dそれぞれに示す第1ないし第4態様の単位色フィルタ配列321a〜321dは、2行2列の大きさであるが、これに限定されるものではなく、単位色フィルタ配列は、任意の大きさであってよい。例えば、図4Eに示す第5態様の単位色フィルタ配列321eは、赤色を透過する第1および第2赤色フィルタ(R)、緑色を透過する第1ないし第5緑色フィルタ(G)、ならびに、青色を透過する第1および第2青色フィルタ(B)を3行3列で2次元マトリックス状に配置した配列である。すなわち、1行1列および3行3列それぞれに第1および第2赤色フィルタが配置され、1行2列、2行1列、2行2列、2行3列および3行2列それぞれに第1ないし第5緑色フィルタが配列され、1行3列および3行1列それぞれに青色フィルタが配置される。このような複数の単位色フィルタ配列321eをさらに2次元アレイ状に配列した色フィルタ部32eが図2に示す色フィルタ部32として用いられてよい。
上記構成の単眼のカメラ3baでは、被写体からの光束は、撮像光学系31aに入射され、色フィルタ部32を介して撮像部33aの受光面に物体の光学像を形成する。撮像部33aの各光電変換素子は、それぞれ、色フィルタ部32の各色フィルタを介して受光した光をその光量に応じた電気信号に光電変換し、各画素のデータとして出力する。色フィルタ部32は、図4に示す単位色フィルタ配列321で構成されているので、撮像部33aは、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備える原画像データを出力することになる。
上記構成の複眼のカメラ3bbでは、被写体からの光束は、複数の撮像光学系31bにそれぞれ入射され、各色フィルタ部32を介して各撮像部33bの各受光面に物体の光学像をそれぞれ形成する。各撮像部33bの各光電変換素子は、それぞれ、各色フィルタ部32の各色フィルタを介して受光した光をその光量に応じた電気信号に光電変換し、各画素のデータとして出力する。色フィルタ部32は、図4に示す単位色フィルタ配列321で構成されているので、各撮像部33bは、それぞれ、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備える原画像データを出力することになる。したがって、複数の撮像部33bは、複数の原画像データを出力する。図3に示す例では、9個の撮像部33b−11〜33b−33を備える固体撮像素子は、9個の原画像データを出力することになる。
そして、上記第1態様の色フィルタ部32aが用いられる場合では、単位色フィルタ配列321aの色組成比は、R:B:G=1:1:2であり、このため、この色フィルタ部32aを用いることによって生成された原画像データの色組成比も、R:B:G=1:1:2である。上記第2態様の色フィルタ部32bが用いられる場合では、単位色フィルタ配列321bの色組成比は、Ye:Mg:Cy:G=1:1:1:1であり、このため、この色フィルタ部32bを用いることによって生成された原画像データの色組成比も、Ye:Mg:Cy:G=1:1:1:1である。上記第3態様の色フィルタ部32cが用いられる場合では、単位色フィルタ配列321cの色組成比は、R:G:B:Ir=1:1:1:1であり、このため、この色フィルタ部32cを用いることによって生成された原画像データの色組成比も、R:G:B:Ir=1:1:1:1である。上記第4態様の色フィルタ部32dが用いられる場合では、単位色フィルタ配列321dの色組成比は、W:Ye:R:Ir=1:1:1:1であり、このため、この色フィルタ部32d用いることによって生成された原画像データの色組成比も、W:Ye:R:Ir=1:1:1:1である。上記第5態様の色フィルタ部32eが用いられる場合では、単位色フィルタ配列321eの色組成比は、R:B:G=2:2:5であり、このため、この色フィルタ部32eを用いることによって生成された原画像データの色組成比も、R:B:G=2:2:5である。
図1に戻って、入力部4は、制御処理部1aに接続され、例えば、画像処理の開始を指示するコマンド等の各種コマンド、および、例えば画像処理対象の画像における識別子(ファイルネーム)の入力や画像処理の際に用いられる画像フィルタの選択入力等の画像処理を実行する上で必要な各種データを画像処理装置Daに入力する機器であり、例えば、キーボードやマウス等である。出力部5は、制御処理部1aに接続され、入力部4から入力されたコマンドやデータ、および、画像処理装置Daによって画像処理された画像処理の結果の画像を出力する機器であり、例えばCRTディスプレイ、LCDおよび有機ELディスプレイ等の表示装置やプリンタ等の印刷装置等である。
なお、入力部4および出力部5からタッチパネルが構成されてもよい。このタッチパネルを構成する場合において、入力部4は、例えば抵抗膜方式や静電容量方式等の操作位置を検出して入力する位置入力装置であり、出力部5は、表示装置である。このタッチパネルでは、表示装置の表示面上に位置入力装置が設けられ、表示装置に入力可能な1または複数の入力内容の候補が表示され、ユーザが、入力したい入力内容を表示した表示位置を触れると、位置入力装置によってその位置が検出され、検出された位置に表示された表示内容がユーザの操作入力内容として画像処理装置Dに入力される。このようなタッチパネルでは、ユーザは、入力操作を直感的に理解し易いので、ユーザにとって取り扱い易い画像処理装置Daが提供される。
記憶部2は、制御処理部1aに接続され、画像処理を実行する上で必要な各種プログラムや各種データを記憶する装置であり、例えば、ROM(Read Only Memory)やEEPROM(Electrically Erasable Programmable Read Only Memory)等の不揮発性記憶素子、RAM(Random Access Memory)等の揮発性記憶素子およびその周辺回路等を備えて構成される。記憶部2は、例えばハードディスク等の大容量記憶装置を備えても良い。記憶部2は、原画像データを記憶し、この原画像データに対し制御処理部1aによって後述の画像処理を行うための作業領域として用いられる。
制御処理部1aは、所定の画像処理プログラムに基づき後述の画像処理を実行するべく、画像処理装置Daの各部を当該各部の機能に応じてそれぞれ制御するものである。制御処理部1aは、例えば、CPU(Central Processing Unit)およびその周辺回路を備えて構成され、所定の画像処理プログラムを実行することによって、機能的に、制御部11、前処理部12、対応点探索処理部13、位置ズレ量演算部14および超解像処理部15が構成される。
制御部11は、所定の画像処理を実行するために、画像処理装置Daの各部を当該各部の機能に応じてそれぞれ制御するものである。
前処理部12は、前処理として、原画像データを所定の画像フィルタ(第1画像フィルタ)でフィルタリングすることによって前処理後画像データを生成するものである。前記画像フィルタ(第1画像フィルタ)は、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、原画像データにおける単位配列321の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備えて構成される。
前記画像フィルタFL1は、種々の態様を採用でき、例えば、ベイヤー配列を単位色フィルタ配列とした色フィルタ部32aによって得られる原画像データに対し、図5Aないし図5Dに示す第1ないし第4態様の画像フィルタFL1a〜FL1d等である。これら第1ないし第4態様の画像フィルタFL1a〜FL1dは、それぞれ、フィルタリングの対象データに対応する画素(対象画素)の周辺に位置する画素(周辺画素)に対応するデータ(周辺データ)に基づいて、前記対象データを、単位色フィルタ配列321aの色組成比(R:B:G=1:1:2)、すなわち、原画像データにおける単位配列の色組成比と同じ色組成比を持つデータに変換するように、そのフィルタ係数の各値がそれぞれ調整されて設定されている。
より具体的には、第1態様の画像フィルタFL1aは、図5Aに示すように、3行3列の中心位置に対し対称なフィルタ係数を持つフィルタである。すなわち、中心の2行2列に位置するフィルタ係数は、4/16であり、1行2列、2行1列、2行3列および3行2列それぞれに位置する各フィルタ係数は、2/16であり、そして、1行1列、1行3列、3行1列および3行3列それぞれに位置する各フィルタ係数は、1/16である。このようなフィルタ係数を持つ第1態様の画像フィルタFL1aは、ガウシアンフィルタでもある。なお、図5Aの左右それぞれに示す各画像フィルタは、表現形式が異なるだけで、同じものである。図5Aの左側では、各位置にフィルタ係数の値そのものが記載され、図5Aの右側では、各位置にフィルタ係数の値の分子が記載され、分母は、右下に纏めて記載されている。図5Bないし図5Dは、図5Aの右側に示す記載形式で記載されている。
第2態様の画像フィルタFL1bは、5行5列の中心位置に対し対称なフィルタ係数を持つフィルタである。すなわち、中心の3行3列に位置するフィルタ係数は、36/256であり、2行3列、3行2列、3行4列および4行3列それぞれに位置する各フィルタ係数は、24/256であり、2行2列、2行4列、4行2列および4行4列それぞれに位置する各フィルタ係数は、16/256であり、1行3列、3行1列、3行5列および5行3列それぞれに位置する各フィルタ係数は、6/256であり、1行2列、1行4列、2行1列、2行5列、4行1列、4行5列、5行2列および5行4列それぞれに位置する各フィルタ係数は、4/256であり、そして、1行1列、1行5列、5行1列および5行5列それぞれに位置する各フィルタ係数は、1/256である。
第3態様の画像フィルタFL1cは、7行7列の中心位置に対し対称なフィルタ係数を持つフィルタである。すなわち、中心の4行4列に位置するフィルタ係数は、400/4096であり、3行4列、4行3列、4行5列および5行4列それぞれに位置する各フィルタ係数は、300/4096であり、3行3列、3行5列、5行3列および5行5列それぞれに位置する各フィルタ係数は、225/4096であり、2行4列、4行2列、4行6列および6行4列それぞれに位置する各フィルタ係数は、200/4096であり、2行3列、2行5列、3行2列、3行6列、5行2列、5行5列、6行3列および6行5列それぞれに位置する各フィルタ係数は、90/4096であり、2行2列、2行6列、6行2列および6行6列それぞれに位置する各フィルタ係数は、36/4096であり、1行4列、4行1列、4行7列および7行4列それぞれに位置する各フィルタ係数は、20/4096であり、1行3列、1行5列、3行1列、3行7列、5行1列、5行7列、7行3列および7行5列それぞれに位置する各フィルタ係数は、15/256であり、1行2列、1行6列、2行1列、2行7列、6行1列、6行7列、7行2列および7行6列それぞれに位置する各フィルタ係数は、6/256であり、そして、1行1列、1行7列、7行1列および7行7列それぞれに位置する各フィルタ係数は、1/4096である。
第4態様の画像フィルタFL1dは、5行5列の中心位置に対し対称なフィルタ係数を持つフィルタである。すなわち、中心の3行3列に位置するフィルタ係数は、16/144であり、2行3列、3行2列、3行4列および4行3列それぞれに位置する各フィルタ係数は、12/144であり、2行2列、2行4列、4行2列および4行4列それぞれに位置する各フィルタ係数は、9/144であり、1行3列、3行1列、3行5列および5行3列それぞれに位置する各フィルタ係数は、4/144であり、1行2列、1行4列、2行1列、2行5列、4行1列、4行5列、5行2列および5行4列それぞれに位置する各フィルタ係数は、3/144であり、そして、1行1列、1行5列、5行1列および5行5列それぞれに位置する各フィルタ係数は、1/144である。
このような第1ないし第4態様の画像フィルタFL1a〜FL1dに対し、高周波のモアレ成分が残ると対応点探索が誤判定する虞があるので、画像フィルタFL1は、例えば、原画像データの画像に含まれる高周波成分の割合に応じて適宜に選択されることが好ましい。例えば、原画像データの画像に含まれる高周波成分の割合が多いほど、よりボケさせる画像フィルタFL1が選択される。
上述では、繰り返しパターンの単位として単位色フィルタ配列321aを用いた色フィルタ部32aによって得られる原画像データに対する様々な第1ないし第4態様の画像フィルタFL1a〜FL1dについて説明したが、他の態様の単位色フィルタ配列321を用いた色フィルタ部32によって得られる原画像データに対しても、同様に、画像フィルタFL1を設定できる。例えば、図4Eに示す第5態様の単位色フィルタ配列321eを用いた色フィルタ部32eによって得られる原画像データに対し、図5Eに示す第5態様の画像フィルタFL1eが使用できる。この第5態様の画像フィルタFL1eは、フィルタリングの対象データに対応する画素(対象画素)の周辺に位置する画素(周辺画素)に対応するデータ(周辺データ)に基づいて、前記対象データを、単位色フィルタ配列321eの色組成比(R:B:G=2:2:5)、すなわち、原画像データにおける単位配列の色組成比と同じ色組成比を持つデータに変換するように、そのフィルタ係数の各値がそれぞれ調整されて設定されている。より具体的には、図5Eに示すように、各位置に位置する各フィルタ係数それぞれが全て1/9であるフィルタである。この第5態様の画像フィルタFL1eは、3行3列の中心位置に対し対称なフィルタ係数を持つフィルタでもある。
また、画像フィルタFLの各フィルタ係数は、画像フィルタFL全域に単位配列を重ねた場合に、前記単位配列の同じ配列位置におけるフィルタ係数の和が全ての配列位置で同じ値になるように、設定されてよい。
図1に戻って、対応点探索処理部13は、複数の原画像データから前処理部12によって生成された複数の前処理後画像データそれぞれに対応する複数の画像の間で対応点探索を実施するものである。
位置ズレ量演算部14は、対応点探索処理部13で探索された対応点間の距離である位置ズレ量を求めるものである。位置ズレ量は、ピクセル単位(画素単位、画素ピッチの整数倍)で求められてもよいが、本実施形態では、サブピクセル単位で求められる。
超解像処理部15は、位置ズレ量演算部14で求めた位置ズレ量に基づいて、複数の原画像データから原画像データの画像における解像度より高い高解像度の画像を生成するものである。
このような画像処理装置Daは、例えばノート型やディスクトップ型等のパーソナルコンピュータや、また例えば携帯電話機等の携帯機器やカメラ等のコンピュータを搭載した機器等によって構成可能である。
次に、第1実施形態における画像処理装置Daの動作について説明する。図6は、第1実施形態における画像処理装置の動作を示すフローチャートである。図7は、アレイカメラによって撮像された各画像間における相互位置関係を説明するための図である。図8は、第1実施形態の画像処理装置における前処理を説明するための図である。図8Aは、画像の各画素(原画像データの各データ)と画像フィルタとの関係を示し、図8Bは、画像フィルタを示し、図8Cは、フィルタリング後の前処理後画像を示し、図8Dは、前処理前の画像の一例を示し、そして、図8Eは、前処理後の画像の一例を示す。図9は、第1実施形態の画像処理装置における対応点探索処理を説明するための図である。図9Aは、対応点探索の対象である第1および第2画像を重ねて表示した図であり、図9Bおよび図9Cは、相対的に粗い精度での対応点探索を示し、図9Dは、相対的に細かい精度での対応点探索を示す。図10は、第1実施形態の画像処理装置におけるサブピクセル単位での対応点探索処理を説明するための図である。図10Aは、対応点探索結果の一例であるNCC値を示し、図10Bは、図10Aに示すNCC値からサブピクセル単位で求められた対応点を示す。図11は、第1実施形態の画像処理装置における第1態様の超解像処理を示すフローチャートである。図12は、第1実施形態の画像処理装置における超解像処理の劣化情報を説明するための図である。図13は、残差処理と超解像処理との関係を説明するための図である。図13Aは、ベイヤー配列を示し、図13BおよびCは、2個の入力画像の補間関係を示す。図14は、残差処理における劣化情報に応じた出力候補画像の変換を説明するための図である。図14Aは、出力候補画像Xnを示し、図14Bは、劣化情報に応じて入力画像相当の解像度に変換した出力候補画像Xnを示し、図14Cは、図14Aから図14Bへの変換DkHkFkを説明するための図である。図15は、残差処理における符号関数の演算を説明するための図である。図15Aは、劣化情報に応じて入力画像相当の解像度に変換した出力候補画像Xnを示し、図15Bは、入力画像Ykを示し、図15Cは、差異sign(DkHkFkXn−Yk)を示す。図16は、残差処理における符号関数の演算結果に影響した出力候補画像の画素を求める処理を説明するための図である。図16Aは、差異sign(DkHkFkXn−Yk)を示し、図16Bは、超解像画像のサイズでの差異の画像Fk THk TDk Tsign(DkHkFkXn−Yk)を示し、図16Cは、図16Aから図16Bへの変換Fk THk TDk Tを説明するための図である。図17は、各入力画像に対する残差処理を示すフローチャートである。
画像処理装置Daは、例えば、ユーザの操作によって入力部4から起動コマンドを受け付けると、画像処理プログラムを実行する。この画像処理プログラムの実行によって、制御処理部1aに制御部11、前処理部12、対応点探索処理部13、位置ズレ量演算部14および超解像処理部15が機能的に構成される。
そして、図6において、まず、処理S1では、画像取得部3によって複数の画像それぞれに対応する複数の原画像データが当該画像処理装置Daに入力され、記憶部2に記憶される。本実施形態では、一例として、9個の第1ないし第9原画像データISが入力され、記憶部2に記憶される。これら第1ないし第9原画像データISは、例えば3行3列に2次元アレイ状に配列された9眼を持つアレイカメラ3bbで同一の被写体を撮像することによって生成されたデータである。したがって、これら第1ないし第9原画像データIS−11〜IS−33は、互いの位置関係として図7に示すように3行3列に2次元アレイ状に配列される。1行1列に位置する原画像データが第1原画像データIS−11であり、2次元アレイ状配列の各位置に位置する各原画像データISが順次にそれぞれ番号付けられ、3行3列に位置する原画像データが第9原画像データIS−33である。そして、2行2列の中央に位置にする原画像データISは、第5原画像データIS−22であり、後述の対応点探索で基準画像とされる。これら第1ないし第9原画像データIS−11〜IS−33は、それぞれ、適宜な色フィルタ部32を用いて生成された任意の画像数のデータであって良いが、ここでは、一例として、ベイヤー配列の色フィルタ部32aを用いて生成された500×500画素のデータである。
次に、処理S2では、前処理部12によって第1ないし第9原画像データIS−11〜IS−33それぞれが前処理される。すなわち、前処理部12は、第1ないし第9原画像データIS−11〜IS−33それぞれを画像フィルタFL1でフィルタリングすることによって第1ないし第9前処理後画像データAIS−11〜AIS−33それぞれを生成し、これら生成した第1ないし第9前処理後画像データAIS−11〜AIS−33を記憶部2に記憶する。より具体的には、例えば、本実施形態では、ベイヤー配列の原画像データISに対応した画像フィルタFL1、例えば、図5Aに示す画像フィルタFL1aが用いられる。フィルタリングは、原画像データISにおける最初の1行1列に位置する画素に対応するデータから最終の500行500列に位置する画素に対応するデータまで順次に実行される。
例えば、図8A上段に示す2行2列に位置するG画素に対し図5Aおよび図8Bに示す画像フィルタFL1aでフィルタリングすると、2行2列に位置するG画素に対応する前処理後画像データAISのデータは、(1行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(1行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のR画素のデータの値)+(1行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(2行1列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のB画素のデータの値)+(2行2列に位置する画像フィルタFL1aのフィルタ値;4/16)×(その位置に対応する位置のG画素のデータの値)+(2行3列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のB画素のデータの値)+(3行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(3行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のR画素のデータの値)+(3行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)となる。したがって、R画素に対応するフィルタ係数の値は、総計、(2/16)×2=4/16=1/4となり、B画素に対応するフィルタ係数の値は、総計、(2/16)×2=4/16=1/4となり、そして、G画素に対応するフィルタ係数の値は、総計、(1/16)×4+(4/16)×1=8/16=1/2となる。したがって、画像フィルタFL1aの色組成比は、R:B:G=1/4:1/4:1/2=1:1:2となり、色フィルタ部32aにおける単位色フィルタ配列321aの色組成比、すなわち、原画像データISにおける単位配列の色組成比と同じである。
図8A下段に示す3行2列に位置するR画素に対し前記画像フィルタFL1aでフィルタリングすると、3行2列に位置するR画素に対応する前処理後画像データAISのデータは、(1行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のB画素のデータの値)+(1行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(1行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のB画素のデータの値)+(2行1列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(2行2列に位置する画像フィルタFL1aのフィルタ値;4/16)×(その位置に対応する位置のR画素のデータの値)+(2行3列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(3行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のB画素のデータの値)+(3行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(3行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のB画素のデータの値)となる。したがって、R画素に対応するフィルタ係数の値は、総計、(4/16)×1=4/16=1/4となり、B画素に対応するフィルタ係数の値は、総計、(1/16)×4=4/16=1/4となり、そして、G画素に対応するフィルタ係数の値は、総計、(2/16)×4=8/16=1/2となる。したがって、画像フィルタFLaの色組成比は、R:B:G=1/4:1/4:1/2=1:1:2となり、上述と同様に、原画像データISにおける単位配列の色組成比と同じである。
2行3列に位置するB画素に対し前記画像フィルタFL1aでフィルタリングすると、2行3列に位置するB画素に対応する前処理後画像データAISのデータは、(1行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のR画素のデータの値)+(1行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(1行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のR画素のデータの値)+(2行1列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(2行2列に位置する画像フィルタFL1aのフィルタ値;4/16)×(その位置に対応する位置のB画素のデータの値)+(2行3列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(3行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のR画素のデータの値)+(3行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のG画素のデータの値)+(3行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のR画素のデータの値)となる。したがって、R画素に対応するフィルタ係数の値は、総計、(1/16)×4=4/16=1/4となり、B画素に対応するフィルタ係数の値は、総計、(4/16)×1=4/16=1/4となり、そして、G画素に対応するフィルタ係数の値は、総計、(2/16)×4=8/16=1/2となる。したがって、画像フィルタFL1aの色組成比は、R:B:G=1/4:1/4:1/2=1:1:2となり、上述と同様に、原画像データISにおける単位配列の色組成比と同じである。
そして、3行3列に位置するG画素に対し前記画像フィルタFL1aでフィルタリングすると、3行3列に位置するG画素に対応する前処理後画像データAISのデータは、(1行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(1行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のB画素のデータの値)+(1行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(2行1列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のR画素のデータの値)+(2行2列に位置する画像フィルタFL1aのフィルタ値;4/16)×(その位置に対応する位置のG画素のデータの値)+(2行3列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のR画素のデータの値)+(3行1列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)+(3行2列に位置する画像フィルタFL1aのフィルタ値;2/16)×(その位置に対応する位置のB画素のデータの値)+(3行3列に位置する画像フィルタFL1aのフィルタ値;1/16)×(その位置に対応する位置のG画素のデータの値)となる。したがって、R画素に対応するフィルタ係数の値は、総計、(2/16)×2=4/16=1/4となり、B画素に対応するフィルタ係数の値は、総計、(2/16)×2=4/16=1/4となり、そして、G画素に対応するフィルタ係数の値は、総計、(1/16)×4+(4/16)×1=8/16=1/2となる。したがって、画像フィルタFL1aの色組成比は、R:B:G=1/4:1/4:1/2=1:1:2となり、上述と同様に、原画像データISにおける単位配列の色組成比と同じである。
画像フィルタFL1aは、原画像データISにおける単位配列の色組成比と同じ色組成比のフィルタ係数を備えるから、原画像データISに画像フィルタFL1aを作用させた場合において、原画像データISのR画素に対応するフィルタ係数の総計と、原画像データISのB画素に対応するフィルタ係数の総計と、原画像データISのG画素に対応するフィルタ係数の総計とは、原画像データISにおける単位配列の色組成比と同じになる。
このように原画像データISの単位配列におけるいずれの画素のデータも画像フィルタFL1aによって同じ色組成比でフィルタリングされる。したがって、原画像データISにおける全ての画素のデータが画像フィルタFL1aによって同じ色組成比でフィルタリングされることになる。この結果、前処理後画像データAISにおける全ての画素のデータは、図8Cに示すように、(G/2+R/4+B/4)で合成された同じ色成分を持つデータとして扱うことが可能となる。よって、次の対応点探索では、前処理後画像データAISにおける全ての画素のデータが使用可能となる。
このような前処理の一具体例を挙げると、図8Dに示す原画像は、画像フィルタFL1aのフィルタリングによって、図8Eに示す1チャンネル(単色)のモノクロ画像の前処理後画像となる。
図6に戻って、次に、処理S3では、対応点探索処理部13によって対応点探索が実行される。この対応点探索では、2行2列の中央に位置する第5前処理後画像データAIS−22に対応する第5前処理後画像が基準画像とされ、この第5前処理後画像の周辺に位置する第1ないし第4および第6ないし第9前処理後画像データAIS−11〜AIS−21、AIS−23〜AIS−33に対応するに第1ないし第4および第6ないし第9前処理後画像それぞれが参照画像とされ、各参照画像ごとに基準画像に対する各対応点がそれぞれ探索される。この対応点探索では、本実施形態では、ピクセル単位で対応点が探索され(第1対応点探索処理)、続いて、サブピクセル単位で対応点が探索される(第2対応点探索処理)。前記第1対応点探索では、処理時間を短縮しつつより高精度に対応点を探索する観点から、まず、複数の画素おきに、例えば、8画素おきに対応点が探索され(粗対応点探索処理)、続いて、前記粗対応点探索処理で探索された位置の周辺で1画素おきに対応点が探索される(精対応点探索処理)。この各対応点探索処理には、公知の常套手段が利用され、対応点探索処理は、例えば特開2009−14445号公報等に開示されている。
一例として、第1前処理後画像と第5前処理後画像との対応点探索について以下により具体的に説明する。第1前処理後画像と第5前処理後画像との位置ズレを視覚的に捉えるため、参考までに、第1前処理後画像と第5前処理後画像とを重ねて表示すると、図9Aに示す画像となる。このような第1前処理後画像と第5前処理後画像とにおいて、まず、第1対応点探索処理の粗対応点探索処理では、基準画像の第5前処理後画像上で、対応点を探索したい所定の画素位置を中心に所定の大きさを持つウィンドウWbが設定される。同様に、参照画像の第1前処理後画像上にも同じ大きさを持つウィンドウWraが、当該対応点探索されるこれら画像間のズレ方向に複数画素おきに複数設定される。例えば、第5前処理後画像の(x、y)=(100、150)に位置する画素に対応する参照画像の第1前処理後画像における画素位置を探索するものとすると、図9Bに示すように、基準画像の第5前処理後画像上で、画素位置(100、150)を中心にウィンドウWbが設定され、図9Cに示すように、参照画像の第1前処理後画像上に、第1前処理後画像と第5前処理後画像との間におけるズレ方向である2次元アレイ状配列の対角方向に複数画素おきに、例えばXY方向共に4画素おきに、8個のウィンドウWra1〜Wra8が設定される。なお、図9Cには、5個のウィンドウWra1〜Wra5が示されている。そして、基準画像の第5前処理後画像上におけるウィンドウWb(テンプレート)に対する、参照画像の第1前処理後画像上における各ウィンドウWra1〜Wra8の一致度(相関度)が所定の手法で求められ(テンプレートマッチング)、最も一致度の高いウィンドウWraにおける中心位置の画素が対応点として求められる。前記所定の手法には、公知の常套手段、例えば、NCC(Normalized Cross Correlation)法、SAD(Sum of Absolute Difference)法(絶対誤差法)およびSSD(Sum of Squared Difference)法(二乗誤差法)等が用いられる。例えば、前記NCC法では、次式1で一致度RNCCの値が求められる。
ここで、I(i,j)は、基準画像のウィンドウWbにおける位置(i,j)の画素値(前処理後画像データAISにおける画素のデータ値)であり、T(i,j)は、参照画像のウィンドウWrにおける位置(i,j)の画素値(前処理後画像データAISにおける画素のデータ値)であり、Nは、ウィンドウWb、WrにおけるX方向(横方向)の長さ(画素単位)であり、そして、Mは、ウィンドウWb、WrにおけるY方向(縦方向)の長さ(画素単位)である。
これによって上述の例では、参照画像の第1前処理後画像における画素位置(100、150)に対し(−4、−4)、(0、0)、(4、4)、(8、8)、(12、12)、(16、16)、(20、20)、(24、24)だけずれた8画素、すなわち、(96、146)、(100、150)、(104、154)、(108、158)、(112、162)、(116、166)、(120、170)、(124、174)の8画素に対しテンプレートマッチングが実行され、最も一致度の高い画素が探索される。
続いて、第1対応点探索処理の精対応点探索処理では、図9Dに示すように、前記粗対応点探索処理の結果、最も一致度の高いウィンドウWraの中心画素に対する周辺を1画素の精度で平面的に対応点探索処理が実行される。対応点探索の範囲は、所定の範囲、例えば、前記粗対応点探索処理で複数画素おき(上述の例ではXY方向共に4画素おき)に探索したが、この複数画素に応じた範囲(例えば±4画素の範囲)である。より具体的には、前記粗対応点探索処理の結果、最も一致度の高いウィンドウWrの中心画素に対する周辺±4画素それぞれを中心に81個のウィンドウWrb1〜Wrb81が設定され、これら81個のウィンドウWrb1〜Wrb81それぞれについてテンプレートマッチングが実行され、最も一致度の高いウィンドウWrbにおける中心位置の画素が対応点として求められる。
続いて、第2対応点探索処理では、図10Aに示すように、前記精対応点探索処理の結果、最も一致度の高いウィンドウWrbの中心画素およびこの中心画素の周辺8画素それぞれの9個の一致度に、図10Bに示すように、最も近似する2次曲面が求められ(2次曲面フィッティング)、この求められた2次曲面の頂点を与える座標値がサブピクセル単位の対応点として求められる(図10Bでは2次曲面の一断面を図示している)。このようなサブピクセル単位で対応点を求める手法は、例えば、「田中、矢口、古川、奥富、「位置ずれ量を考慮した画素選択に基づくロバスト超解像処理」、電子情報通信学会論文誌、Vol.J92−D、No.5、pp650−660、2009.、2009年5月」等に開示されている。なお、上述では、最も近似する2次曲面を求めることによってサブピクセル単位の対応点が求められたが、X方向およびY方向それぞれで最も近似する2次曲線がそれぞれ求められ、これら求められた各2次曲線のピークを与える各座標値がサブピクセル単位の対応点として求められてもよい。
図6に戻って、次に、処理S4では、処理S3で求められた各対応点間について、位置ズレ量演算部14によって各対応点間の位置ズレ量が求められる。例えば、単位長を1画素の大きさ(サイズ)とすれば、対応点間の座標差が位置ズレ量となる。すなわち、基準画像における画素の座標値と参照画像における、前記基準画像の画素に対応する画素の座標値との差が位置ズレ量となる。また例えば、単位長をm単位とすれば、対応点間の座標差に画素ピッチを乗じた値が位置ズレ量となる。前記画素ピッチは、画素の中心位置とこれに隣接する画素の中心位置との間の長さである。
次に、処理S5では、超解像処理部15によって複数の画像から、これら複数の画像の解像度よりも高い解像度を持つ1個の画像(超解像画像)が求められる。この超解像処理には、公知の常套手段が利用され、超解像処理は、例えば、「「Fast and Robust Multiframe Super Resolution」、IEEE TRANNSACTION ON IMAGE PROCESSING,Vol.13,No.10,October 2004,pp1327−1344」等に開示されている。この文献に開示された再構成型超解像処理について、図11ないし図17を用いて以下に概説する。
この超解像処理では、原画像データをデモザイク(demosaic)した画像データが用いられ、図11に示す超解像処理は、色成分ごとに実行される。すなわち、画像データは、デモザイクによって、画素ごとに、R成分、B成分およびG成分の各値を持ち、図11に示す超解像処理は、R成分の各画素値で構成される画像(Rプレーン)、B成分の各画素値で構成される画像(Bプレーン)、および、G成分の各画素値で構成される画像(Gプレーン)それぞれに対して実行され、超解像化されたRプレーン、BプレーンおよびGプレーンを重ねることで、フルカラーの1個の超解像画像が生成される。以下、一例として、Gプレーンの場合について概説するが、RプレーンおよびBプレーンの場合も同様である。
図11において、処理S11では、超解像処理部15に複数の画像およびその劣化情報が記憶部2から読み込まれる。例えば、本実施形態では、第1ないし第9原画像データIS−11〜IS−33それぞれをデモザイクした第1ないし第9画像データDIS−11〜DIS−33およびその劣化情報が記憶部2から超解像処理部15に読み込まれる。劣化情報は、図12に示すように、超解像処理後の理想的な超解像画像から見て、この前記超解像画像と画像データDISに対応する画像(以下、この超解像処理の説明において、「入力画像」と呼称する。)との間における対応関係を表す情報である。前記超解像画像の各画素値(この例ではG成分の画素値)を持つ1次元ベクトルをXとし、画像データDISに対応する入力画像の各画素値(この例ではG成分の画素値)を持つ1次元ベクトルをYkとし、後述する初期画像の出力候補画像X0を生成した元の入力画像Ykと他の各入力画像Ykそれぞれとの位置ズレ量を行列Fkとし、後述する出力候補画像Xnのサイズを入力画像Ykのサイズに合わせるためのダウンサンプリング量をDkとし、そして、入力画像のボケ量(本実施形態では、撮像光学系31のPSF(Point spread function、点拡がり関数、点像分布関数)情報)をHkとすると、前記劣化情報は、DkHkFkであり、Yk=DkHkFkX(X=Fk THk TDk TYk)の関係が成り立つ。なお、kは、第1ないし第9原画像データIS−11〜IS−33それぞれに対応する各入力画像を指し、1〜9の整数値である。上付きの添え字Tは、転置行列であることを示す。この劣化情報は、後述の処理S14における残差の演算に用いられる。
次に、処理S12では、超解像処理部15によって入力画像Ykから、初期画像としての出力候補画像Xn(ここでは初期画像なのでN=0)が作成される。この初期画像の出力候補画像X0は、超解像画像Xを生成するために後述するように処理S12〜処理S15の各処理を繰り返し実行する繰り返し処理における最初の出力候補画像Xnである。この出力候補画像X0は、生成すべき超解像画像Xと同じ解像度(同じサイズ)を持つ画像であり、例えば、第1ないし第9原画像データIS−11〜IS−33に対応する複数の第1ないし第9入力画像Ykのうちの1つから例えばバイリニア等の補間処理によって不足画素を補うことで生成される。本実施形態では、上述の処理S1ないし処理S4によって、第5原画像データIS−22に対応する画像に対し、周辺の第1ないし第4および第6ないし第9原画像データIS−11〜IS−21、IS−23〜IS−33それぞれに対応する各画像の位置ズレ量を求めているので、第5原画像データIS−22に対応する第5画像データDISから初期画像の出力候補画像X0が作成され、前記位置ズレ量Fkは、上述の処理S1ないし処理S4によって求められた各位置ズレ量となる。入力画像Ykは、500×500のサイズであり、超解像画像Xが1500×1500のサイズであるとすると、この出力候補画像X0の生成において、入力画像Ykは、X方向(横方向)およびY方向(縦方向)共に3倍に拡大されることになる。入力画像Ykにおける互いに隣接する画素間には、入力画像Ykが3倍に拡大されると、X方向およびY方向それぞれにおいて、画素値の無い2個の画素が新たにそれぞれ生じることになり(2次元アレイでは画素値の無い8個の画素が新たに生じる)、これら画素値の無い画素の画素値が前記補間処理によって生成される。
次に、処理S13では、超解像処理部15によって、入力画像Ykにノイズがあってもロバストに収束できるように、正則化項としていわゆるBTV量(Bilateral Total Value)が求められる。このBTV量は、後述の式2における右辺第3項である。
次に、処理S14では、超解像処理部15によって、第1ないし第9画像データDIS−11〜DIS−33に対応する第1ないし第9入力画像Ykそれぞれについて、これら各入力画像Ykの劣化情報に応じて入力画像Ykの解像度(大きさ)と同じ解像度(大きさ)に変換した出力候補画像Xnとの差である残差がそれぞれ求められる。この残差は、後述の式2における右辺第2項である。この残差は、例えばベイヤー配列の画像を超解像処理する場合であって、Gプレーンの超解像画像Xを生成する場合には、G画素のみを用いて求められる。これは、図13に示すように、1つの画像を超解像処理する場合に、当該画像に無い画素値を、位置ズレ量を利用して他の画像の画素値で補うことを意味する。
この残差を求める処理である残差処理S14について、図14ないし図17を参照しつつ、より具体的に説明すると、まず、図14Aおよび図14Bに示すように、当該入力画像Ykの劣化情報が出力候補画像Xnに乗じられ、当該入力画像Ykの劣化情報に応じて前記画像の解像度(大きさ)と同じ解像度(大きさ)に変換した出力候補画像(DkHkFkXn)が生成される(図17の処理S22−1〜S22−9ないし処理S24−1〜S24−9)。なお、nは、本実施形態では、前記繰り返し処理の回数が、通常収束すると判断できる例えば200回の定数値に設定されているため、0〜199の整数値である。したがって、出力候補画像X199は、この処理S5の超解像処理で出力される超解像画像Xとなる(X=X199)。この残差処理について、より詳しくは、まず、PSF情報をフィルタ係数に持つ画像フィルタで出力候補画像Xnがフィルタリングされ(図17の処理S22−1〜S22−9)、これによって出力候補画像Xnのボケ画像が生成され、前記入力画像Ykの解像度と同じ解像度となるように、出力候補画像Xnの元の第5画像データDIS−22に対応する第5入力画像Y5と当該入力画像Ykとの位置ズレ量Fkを考慮してダウンサンプリングが行われる(処理S23−1〜S23−9、処理S24−1〜S24−9)。例えば、図14Cに示すように、第5入力画像Y5と当該入力画像Ykとの位置ズレ量FkがX方向(横方向)に1/3画素であって、X方向(横方向)およびY方向(縦方向)共に1/3にダウンサンプリングする場合(1500×1500→500×500)には、ダウンサンプリング前の画像でX方向に1画素(=1/3画素×3倍)だけずらした位置に位置する3×3の9画素における各画素値の平均値が、ダウンサンプリングした画素値とされる。次に、図15に示すように、ダウンサンプリング後の出力候補画像(DkHkFkXn)(図15A)から、入力画像Yk(図15B)が減算され、この減算結果(DkHkFkXn−Yk)が符号関数sign(α)で演算される(図15C、図17の処理S25−1〜S25−9))。この符号関数sign(α)は、αが0である場合には0を出力し、αが正である場合には1を出力し、そして、αが負である場合には−1を出力する演算子である。したがって、符号関数sign(α)の演算によって、前記減算結果(DkHkFkXn−Yk)が0である場合には、0が出力され、前記減算結果(DkHkFkXn−Yk)が正である場合には、1が出力され、そして、前記減算結果(DkHkFkXn−Yk)が負である場合には、−1が出力される。次に、図16Aおよび図16Bに示すように、符号関数sign(α)で演算された前記減算結果(DkHkFkXn−Yk)(差異)に影響した超解像画像Xnの画素が調べられる(図17の処理S26−1〜S26−9ないし処理S28−1〜S28−9)。上述の処理が上述の行列DkHkFkで定義された場合、この処理は、転置行列を用いた行列Fk THk TDk Tで定義される。すなわち、この処理は、出力候補画像Xnの元の第5画像データDIS−22に対応する第5入力画像Y5と当該入力画像Ykとの位置ズレ量Fkを考慮したアップサンプリングを行った後に(Fk TDk T、図17の処理S26−1〜S26−9)、ボケの影響を元に戻す処理(Hk T)となる(Fk THk TDk Tsign(DkHkFkXn−Yk)、図17の処理S27−1〜S27−9、処理S28−1〜S28−9)。例えば、図16Cに示すように、上述の例で、第5入力画像Y5と当該入力画像Ykとの位置ズレ量FkがX方向(横方向)に1/3画素であって、X方向(横方向)およびY方向(縦方向)共に3倍にアップサンプリングする場合(500×500→1500×1500)には、アップサンプリング後の画像でX方向に1画素(=1/3画素×3倍)だけずらした位置に位置する3×3の9画素それぞれに、差異sign(DkHkFkXn−Yk)が、アップサンプリングの前後における各画素の面積比(この図16Cの例では1/9)で分配される。これによって1個の入力画像Ykに対する差異の画像が生成される。この例では入力画像Ykは、9個あるので、この処理が、図17に示すように、第1ないし第9入力画像Ykそれぞれに対し実行され、9個の差異の画像が生成される。そして、これら9個の差異の総計が前記残差とされる。
図11に戻って、次に、処理S15では、超解像処理部15によって、式2に示すように、上述の処理S13および処理S14それぞれで求めたBTV量および残差を、出力候補画像Xnから減算することによって、次の出力候補画像Xn+1が生成される。そして、この出力候補画像Xn+1が処理S12の出力候補画像Xnとされ、処理がS12に戻される。
なお、λは、BTV量の影響度を調整するパラメータであり、βは、残差およびλ×BTV量の影響度を調整するパラメータであり、これらλ、βは、適宜に設定される。
そして、このような処理S12ないし処理15の各処理が、出力候補画像Xnが通常収束すると考えられる所定回数、例えば、上述したように200回繰り返される。処理S12ないし処理S15の各処理を200回繰り返すと、処理S5の超解像処理が終了し、出力候補画像X199が超解像画像Xとされる。
図6に戻って、このように処理S5の超解像処理が終了すると、処理S6において、この超解像画像Xが、記憶部2に記憶され、そして、出力部5に出力され、表示される。
このように本実施形態における画像処理装置Daでは、画像フィルタFLによって単位配列(単位色フィルタ配列)の色組成比と同じ色組成比を持つデータに原画像データISを変換するように輝度成分生成処理部によってフィルタリングするので、全ての画素のデータを同じ色成分を持つデータとして扱うことができるようになる。この結果、全ての画素のデータを利用して対応点探索の実施が可能となる。したがって、本実施形態における画像処理装置Daは、対応点探索をより高精度に実施できる。
本実施形態における画像処理装置Daでは、画像フィルタFLにおけるフィルタ係数の各値が中心位置に対し対称に配置されているので、中心に位置する画素(中心画素)に対する周辺に位置する各画素(各周辺画素)における各画素値は、当該周辺画素と中心画素との距離に応じて重み付けられることになり、適切に中心画素に反映される。このため、本実施形態における画像処理装置Daは、全ての画素のデータをより同等な色成分を持つデータとして扱うことができるから、対応点探索をより高精度に実施できる。
本実施形態における画像処理装置Daでは、位置ズレ量演算部14を備えるので、対応点探索処理部13で探索された対応点間の位置ズレ量Fを求めることができ、より高精度に実行された対応点探索の結果を位置ズレ量Fの推定に効果的に反映できる。
本実施形態における画像処理装置Daでは、9眼のアレイカメラを用いるので、複数の原画像データを同時に得ることができる。このため、対応点探索の結果から対応点間の位置ズレ量Fを求める場合に、同一の被写体を同時刻で写した複数の画像間で前記位置ズレ量Fを求めることになるので、本実施形態における画像処理装置Daは、より高精度に前記位置ズレ量Fを求めることができる。
本実施形態における画像処理装置Daでは、超解像処理部15を備えるので、対応点探索処理部13で探索された対応点間の位置ズレ量Fを求め、これに基づいて複数の原画像データから高解像度な画像のデータを得ることができ、より高精度に実行された対応点探索の結果を高解像度な画像の生成に効果的に反映できる。
なお、上述では、前記論文に開示された超解像処理について概説したが、超解像処理は、この手法に限定されるものではなく、位置ズレ量を用いて相対的に低解像度な複数の画像から相対的に高解像度な1個の超解像画像を生成する再構成型超解像処理を用いることができる。例えば、図18に示す再構成型超解像処理を用いることができる。図18は、第1実施形態の画像処理装置における第2態様の超解像処理を示すフローチャートである。
この超解像処理は、式3によって示される処理であり、式3の右辺第2項は、残差(Fk THk TDk T(DkHkFkXn−Yk)であり、式3の右辺第3項は、正則化項Cである。この正則化項Cでは、例えば4近傍ラプラシアンの画像フィルタが用いられる。この4近傍ラプラシアンの画像フィルタは、例えば、1行1列、1行3列、3行1列および3行3列の各位置のフィルタ係数が0であり、1行2列、2行1列、2行3列および3行2列の各位置のフィルタ係数が1であり、そして、2行2列の位置のフィルタ係数が−4である。
なお、λは、正則化項の影響度を調整するパラメータであり、βは、残差およびλ×正則化項の影響度を調整するパラメータであり、これらλ、βは、適宜に設定される。
この図18に示す再構成型超解像処理では、図11に示す上述の超解像処理と略同様に処理され、まず、処理S31では、超解像処理部15に複数の画像およびその劣化情報が記憶部2から読み込まれる。次に、処理S32では、初期画像の出力候補画像X0が生成される。次に、処理S33では、4近傍ラプラシアンの画像フィルタで正則化項が求められる。次に、処理S34では、残差(Fk THk TDk T(DkHkFkXn−Yk)が求められる。次に、処理S35では、式3に示すように、上述の処理S33および処理S34それぞれで求めた正則化項および残差を、出力候補画像Xnから減算することによって、次の出力候補画像Xn+1が生成される。そして、この出力候補画像Xn+1が処理S32の出力候補画像Xnとされ、処理がS32に戻される。そして、このような処理S32ないし処理35の各処理が、出力候補画像Xnが通常収束すると考えられる所定回数、例えば、40回繰り返される。処理S32ないし処理S35の各処理を40回繰り返すと、処理S5の超解像処理が終了し、出力候補画像X39が超解像画像Xとされる。
次に、第2実施形態について説明する。
(第2実施形態)
図19は、第2実施形態における画像処理装置の構成を示すブロック図である。図20は、第2実施形態における画像処理装置の動作を示すフローチャートである。
図19は、第2実施形態における画像処理装置の構成を示すブロック図である。図20は、第2実施形態における画像処理装置の動作を示すフローチャートである。
第1実施形態における画像処理装置Daは、相対的に低解像度な複数の画像(原画像データ)から相対的に高解像度な1個の画像を生成する装置であるが、第2実施形態における画像処理装置Dbは、複数の画像(原画像データ)から所定に被写体までの距離を求める装置である。このような第2実施形態における画像処理装置Dbは、図19に示すように、制御処理部1bと、記憶部2と、画像取得部3と、入力部4と、出力部5とを備える。これら第2実施形態の画像処理装置Dbにおける記憶部2、画像取得部3、入力部4および出力部5は、それぞれ、第1実施形態の画像処理装置Daにおける記憶部2、画像取得部3、入力部4および出力部5と同様であるので、その説明を省略する。
制御処理部1bは、制御処理部1aと同様に、所定の画像処理プログラムに基づき後述の画像処理を実行するべく、画像処理装置Dbの各部を当該各部の機能に応じてそれぞれ制御するものである。制御処理部1bは、例えば、CPUおよびその周辺回路を備えて構成され、所定の画像処理プログラムを実行することによって、機能的に、制御部11、前処理部12、対応点探索処理部13、位置ズレ量演算部14および距離演算部16が構成される。すなわち、制御処理部1bは、制御処理部1aに対し、超解像処理部15に代え、距離演算部16を備えている。このため、第2実施形態の制御処理部1bにおける制御部11、前処理部12、対応点探索処理部13および位置ズレ量演算部14は、それぞれ、第1実施形態の制御処理部1aにおける制御部11、前処理部12、対応点探索処理部13および位置ズレ量演算部14と同様であるので、その説明を省略する。
距離演算部16は、位置ズレ量演算部14で求めた対応点間の位置ズレ量を複数の原画像データに対応する複数の画像間における視差とし、前記視差に基づいて前記対応点の表す被写体までの距離を求めるものである。
このような第2実施形態における画像処理装置Dbは、図20に示すように、まず、処理S41では、上述の処理S1と同様に、画像取得部3によって9枚の画像それぞれに対応する原画像データが当該画像処理装置Dbに入力され、記憶部2に記憶される。次に、処理S42では、上述の処理S2と同様に、これら9枚の各画像それぞれに対し前処理部12によって前処理が実行される。次に、処理S43では、上述の処理S3と同様に、これら9枚の画像における中心(2行2列)に位置する第5画像が基準画像とされ、この基準画像に対し、周辺に位置する8枚の画像それぞれについて、対応点探索処理部13によって対応点探索が実行される。この対応点探索処理では、所定の被写体に対応する点が適宜に選択される。本実施形態では、例えば、当該画像処理装置をDbを搭載した当該車両とその先行車両(または対向車両)との間における車間距離を求める場合では、前記先行車両(または前記対向車両)に対応する点が選択され、また例えば、当該画像処理装置をDbを搭載した当該車両と歩行者との間の距離を求める場合には、歩行者に対応する点が選択される。
次に、処理S44では、上述の処理S4と同様に、位置ズレ量演算部14によって、位置ズレ量が求められる。
そして、本実施形態では、次に、処理S45では、距離演算部16によって、位置ズレ量演算部14で求めた位置ズレ量が基準画像(2行2列に位置する画像)と参照画像(その周辺に位置する各画像)との間における視差とされ、前記視差に基づいて被写体までの距離が求められる。このような測距技術には、公知の常套手段が利用され、このような測距技術は、例えば特開2010−276469号公報や前記特開2009−14445号公報等に開示されている。この測距技術では、大略、予め定める間隔(基線長)だけ離間して設けられた一対のカメラによって被写体(対象物)の各画像が得られ、これら各画像に対し対応点探索がピクセル単位で実行され、これら各画像から前記離間方向における前記一対のカメラ間の視差がピクセル単位で求められ、この求められた視差に基づいて被写体までの距離がいわゆる三角測量の原理に基づいて求められる。より具体的には、図21において、少なくとも焦点距離(f)、撮像面(撮像部33(例えばCCD型イメージセンサ))の画素数、1画素の大きさ(μ)が相互に等しい2台の第1および第2カメラが、所定の基線長(L)だけ左右に離間させて光軸AX−1、AX−2を平行に配置され、これら第1および第2カメラで物体(被写体)Obが撮影された場合に、撮像面IP−1、IP−2上の視差(ずれ画素数)がd(=d1+d2)であるとすると、前記物体(被写体)Obまでの距離(Z)は、斜線を施して示す三角形が相似であることから、
Z:f=L:μ×d
の関係があり、
Z=(L×f)/(μ×d)
で求めることができる。
Z:f=L:μ×d
の関係があり、
Z=(L×f)/(μ×d)
で求めることができる。
そして、図20に戻って、処理S46では、このように距離演算部16によって求められた距離が制御処理部1bによって出力部5へ出力され、処理が終了する。これによって出力部5には、被写体までの距離が表示される。被写体までの距離は、中心(2行2列)に位置する第5画像(参照画像)に対し、周辺に位置する8個の画像それぞれについて、8個の距離が表示されても良く、これらの平均値が表示されても良い。
また、上述では、原画像データISは、9眼のアレイカメラ3bbによって取得された9個のデータIS−11〜IS−33であるが、少なくとも1個のカメラ3baで異なる9つの時刻で撮像された9個のデータであっても良い。このような画像処理装置Dは、異なる時刻で撮像された複数の原画像データを得ることができる。
このような第2実施形態における画像処理装置Dbは、第1実施形態における画像処理部Daと同様に、対応点探索をより高精度に実施できる。そして、第2実施形態における画像処理装置Dbは、距離演算部16を備えるので、対応点探索処理部13で探索された対応点間の視差(位置ズレ量)を求めることができ、より高精度に実行された対応点探索の結果を距離の演算に効果的に反映できる。
なお、上述の実施形態において、原画像データから各画素ごとに各色成分データを持つ画像データを生成するデモザイク処理は、次の処理であっても良い。
図22は、実施形態の画像処理装置の変形形態におけるデモザイク処理部を説明するための図である。図22Aは、デモザイク処理部17の構成を示すブロック図であり、図22Bは、デモザイク処理部17の動作を示すフローチャートである。図23は、前記デモザイク処理部で実行されるデモザイク処理における輝度成分生成処理を説明するための図である。図23Aは、原画像データISの画像(原画像)PISの一例を示し、図23Bは、図23Aに示す原画像データISを第1態様の第2画像フィルタFL2aでフィルタリングした素輝度成分画像データBISp−1の画像(素輝度成分画像)PBISp−1および前記第1態様の第2画像フィルタFL2aを示し、図23Cは、図23Aに示す原画像データISを第2態様の第2画像フィルタFL2bでフィルタリングした素輝度成分画像データBISp−2の画像(素輝度成分画像)PBISp−2および前記第2態様の第2画像フィルタFL2bを示し、そして、図23Dは、図23Bに示す素輝度成分画像と図23Cに示す素輝度成分画像とを1:4の割合で合成することによって求めた輝度成分画像データBISの画像(輝度成分画像)PBISを示す。図24は、前記デモザイク処理における色度成分生成処理を説明するための図である。図24Aは、単位配列がベイヤー配列である場合の原画像データISを示し、図24Bは、図11Aに示す原画像データISに対応する輝度成分画像データBISを示し、図24Cは、図24Aに示す原画像データISに対応するG、R、Bの各色の色度成分画像データCIS(CIS−G、CIS−R、CIS−B)(補間前の色別色度成分画像データ)を示す。図25は、前記デモザイク処理における色度成分補間処理を説明するための図である。図25Aは、注目画素Xとその周辺画素A〜Dの位置関係を示し、図25Bは、重みと補間演算とを示す。図26は、前記デモザイク処理における画像生成処理を説明するための図である。図26Aは、G成分の場合を示し、図26Bは、R成分の場合を示し、図26Cは、B成分の場合を示す。図27は、従来において、相対的に低解像度な複数の画像から相対的に高解像度な1つの画像を生成する場合に生じるギザギザな線を説明するための図である。
上述の実施形態における画像処理装置Dの制御処理部1は、機能的に、デモザイク処理部17をさらに備えて構成される。このデモザイク処理部17は、原画像データをデモザイクすることによって各色成分データを各画素ごとに持つ画像データの少なくとも1色を生成するものである。このようなデモザイク処理部17は、本実施形態では、図22Aに示すように、輝度成分生成処理部171と、色度成分生成処理部172と、色度成分補間処理部173と、画像生成処理部174とを備える。
輝度成分生成処理部171は、原画像データを所定の第2画像フィルタでフィルタリングすることによって輝度成分画像データを生成するものである。前記所定の第2画像フィルタは、上述の第1画像フィルタFL1と同様に、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、原画像データにおける単位配列321の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備えて構成される。そして、前記第2画像フィルタは、1つであって良いが、本実施形態では、複数の画像フィルタが用いられる。輝度成分生成処理部171は、原画像データを前記複数の第2画像フィルタそれぞれでフィルタリングすることによって複数の素輝度成分画像データを生成し、前記複数の素輝度成分画像データを予め設定された所定の合成比で合成することで前記輝度成分生成画像データを生成する。そして、これら複数の第2画像フィルタは、サイズが互いに異なるとともに、前記フィルタリングによって高周波成分を除去する除去率が互いに異なる第2画像フィルタを含む。一例では、輝度成分生成処理部171は、原画像データを第2−1および第2−2画像フィルタそれぞれでフィルタリングすることによって第1および第2素輝度成分画像データを生成し、これら第1および第2素輝度成分画像データを予め適宜に設定された所定の合成比で合成することで前記輝度成分生成画像データを生成する。この第2−1画像フィルタは、第2−2画像フィルタのサイズよりも大きなサイズであり、前記フィルタリングによって高周波成分を除去する除去率が第2−2画像フィルタよりも小さい。このような第2画像フィルタについては、後に、詳述する。
色度成分生成処理部172は、前記原画像データから、輝度成分生成処理部171で生成された輝度成分画像データを、各画素ごとに、減算することによって、色度成分画像データを生成するものである。
色度成分補間処理部173は、色度成分生成処理部172で生成された色度成分画像データにおいて、前記複数色ごとに、欠落する画素の色度成分データを、前記単位配列に含まれる同色の個数、および、輝度成分生成処理部171で生成された輝度成分画像データに基づいた補間方法で補間することによって、前記複数色ごとの各色別色度成分画像データを生成するものである。好ましくは、本実施形態では、色度成分補間処理部173は、前記単位配列に含まれる同色の個数が1つである色の色度成分データを補間する場合には、バイリニア補間法を前記補間方法として用いるものである。また、好ましくは、本実施形態では、色度成分補間処理部173は、前記単位配列に含まれる同色の個数が複数である色の色度成分データを補間する場合には、輝度成分生成処理部171で生成された輝度成分画像データに基づいた補間方法を前記補間方法として用いるものである。より具体的には、輝度成分生成処理部171で生成された輝度成分画像データに基づいた補間方法は、前記色度成分データが欠落する画素を注目画素とし、前記色度成分データ上における前記注目画素の第1画素位置に対応する前記輝度成分画像データ上における第2画素位置の第1輝度成分データと、前記第2画素位置の周辺に位置する周辺画素位置の第2輝度成分データとの相関の有無に応じて選択される補間方法である。好ましくは、輝度成分生成処理部171で生成された輝度成分画像データに基づいた補間方法は、前記相関の有る場合には、第1画素位置の周辺に位置する周辺画素位置の色度成分データを前記相関の程度に応じた重みで重みを付けて平均する重み付け補間法であり、前記相関の無い場合には、バイリニア補間法である。
画像生成処理部174は、色度成分補間処理部173で生成された前記複数色ごとの各色別色度成分画像データそれぞれに、輝度成分生成処理部171で生成された輝度成分画像データを、各画素ごとに、それぞれ加算することによって、前記画像データを生成するものである。
そして、このような構成のデモザイク処理部17は、図22Bに示すように、まず、デモザイク処理部17の輝度成分生成処理部171によって原画像データISに基づいて輝度成分画像データBISが生成される(S51)。この原画像データISは、本実施形態では、一例として、9眼を持つアレイカメラ3bbで同一の被写体を撮像することによって生成された、上述した図7に示す、9個の第1ないし第9原画像データISである。次に、デモザイク処理部17の色度成分生成処理部172によって原画像データISおよび輝度成分画像データBISに基づいて色度成分画像データCISが生成され(S52)、次に、デモザイク処理部17の色度成分補間処理部173によって輝度成分画像データBISおよび色度成分画像データCISに基づいて補間処理されて色別色度成分画像データICISが生成され(S53)、そして、デモザイク処理部17の画像生成処理部174によって輝度成分画像データBISおよび色別色度成分画像データICISに基づいて画像データIDが生成される(S54)。これら処理S51〜S54の各処理は、第1ないし第9原画像データIS−11〜IS−33それぞれに対し、実行される。より詳しくは、これら各処理S51〜S54は、次のように処理される。
輝度成分を生成する輝度成分生成処理S51では、輝度成分生成処理部171は、原画像データISを所定の第2画像フィルタFL2でフィルタリングすることによって輝度成分画像データBISを生成する。この輝度成分生成処理S51では、1個の第2画像フィルタFL2が用いられ、輝度成分生成処理部171は、原画像データISをこの1個の第2画像フィルタFL2でフィルタリングすることによって輝度成分画像データBISを生成しても良いが、本実施形態では、複数の第2画像フィルタFL2nが用いられ、輝度成分生成処理部171は、原画像データISをこれら複数の第2画像フィルタFL2nそれぞれでフィルタリングすることによって複数の素輝度成分画像データBISpを生成し、これら複数の素輝度成分画像データBISpを所定の合成比で合成することによって1個の輝度成分画像データBISを生成する。図23に示す例では、図23Bおよび図23Cに示す2個の第1および第2態様の第2−1および第2−2画像フィルタFL2a、FL2bが用いられ、輝度成分生成処理部171は、原画像データIS(図8A)を第1態様の第2−1画像フィルタFL2aでフィルタリングすることによって第1素輝度成分画像データBISp−1を生成し(図23B)、原画像データISを第2態様の第2−2画像フィルタFL2bでフィルタリングすることによって第2素輝度成分画像データBISp−2を生成し(図23C)、そして、これら第1および第2素輝度成分画像データBISp−1、BISp−2を1:4の合成比で合成することによって1個の輝度成分画像データBISを生成する(図23D)。
これら第1および第2態様の第2−1および第2−2画像フィルタFL2a、FL2bは、それぞれ、フィルタリングの対象データに対応する画素(対象画素)の周辺に位置する画素(周辺画素)に対応するデータ(周辺データ)に基づいて、前記対象データを、原画像データISにおける単位配列(単位色フィルタ配列321)の色組成比と同じ色組成比を持つデータに変換するように、そのフィルタ係数の各値がそれぞれ調整されて設定されている。そして、輝度成分画像データBIS(素輝度成分画像データBISp)に残す高周波成分の度合い等を考慮することによって、第2画像フィルタFL2におけるフィルタ係数の各値が調整されることが好ましく、また、フィルタリングする対象画素に影響を与える、当該対象画素の周辺に位置する画素範囲等を考慮することによって、第2画像フィルタFL2の大きさ(サイズ)が調整されることが好ましい。
より具体的には、第1態様の第2−1画像フィルタFL2aは、原画像データISの単位配列がベイヤー配列である場合に用いられる11行11列のフィルタであり、前記周辺データに基づいて前記対象データを、ベイヤー配列における単位配列の色組成比(R:B:G=1:1:2)と同じ色組成比を持つデータに変換するようにそのフィルタ係数の各値がそれぞれ調整されて設定されている。そして、この第1態様の第2−1画像フィルタFL2aは、その中心位置に対し対称なフィルタ係数を持つフィルタである。すなわち、図23Bに示すように、中心の6行6列に位置するフィルタ係数は、104/128であり、5行6列、6行5列、6行7列および7行6列それぞれに位置する各フィルタ係数は、7/128であり、1行5列、1行7列、3行3列、3行4列、3行6列、3行8列、3行9列、4行3列、4行9列、5行1列、5行5列、5行7列、5行11列、7行1列、7行5列、7行7列、7行11列、8行3列、8行9列、9行3列、9行4列、9行6列、9行8列、9行9列、11行5列および11行7列それぞれに位置する各フィルタ係数は、1/128であり、4行6列、6行4列、6行8列および8行6列それぞれに位置する各フィルタ係数は、−9/128であり、4行5列、4行7列、5行4列、5行8列、7行4列、7行8列、8行5列および8行7列それぞれに位置する各フィルタ係数は、3/128であり、4行4列、4行8列、8行4列および8行8列それぞれに位置する各フィルタ係数は、−5/128であり、3行5列、3行7列、5行3列、5行9列、7行3列、7行9列、9行5列および9行7列それぞれに位置する各フィルタ係数は、2/128であり、2行4列、2行8列、4行2列、4行10列、8行2列、8行10列、10行4列および10行8列それぞれに位置する各フィルタ係数は、−1/128であり、2行6列、6行2列、6行10列および10行6列それぞれに位置する各フィルタ係数は、−2/128であり、そして、残余の各位置に位置する各フィルタ係数は、0/128である。なお、図23Bでは、行列表示の各位置にフィルタ係数の値の分子が記載され、分母は、行列表示外の右下に纏めて記載されている。図23Cも同様の記載形式で記載されている。このようなフィルタ係数を持つ第1態様の第2−1画像フィルタFL2aは、前記フィルタリングによって高周波成分を除去する除去率が比較的小さいために、輝度成分画像データBIS(素輝度成分画像データBISp)に比較的多くの高周波成分が残り、輝度成分画像データBIS(素輝度成分画像データBISp)には、比較的鮮鋭度が保持される。そして、このような第1態様の第2−1画像フィルタFL2aは、11×11というフィルタサイズを持つので、フィルタリングする対象画素に影響を与える画素範囲が比較的広く、前記対象画素から比較的遠くに位置する画素まで前記対象画素に影響を与え、輝度成分画像データBIS(素輝度成分画像データBISp)には、比較的多くの誤差が含まれる。このため、後述のギザギザな線が比較的出易い。
第2態様の第2−2画像フィルタFL2bは、原画像データISの単位配列がベイヤー配列である場合に用いられる3行3列のフィルタであり、前記周辺データに基づいて前記対象データを、ベイヤー配列における単位配列の色組成比(R:B:G=1:1:2)と同じ色組成比を持つデータに変換するようにそのフィルタ係数の各値がそれぞれ調整されて設定されている。そして、この第2態様の第2−2画像フィルタFL2bは、その中心位置に対し対称なフィルタ係数を持つフィルタであり、図23Cに示すように、上述の第1態様の画像フィルタFL1aと同一である。このような第2態様の第2−2画像フィルタFL2b(=画像フィルタFL1a)は、デモザイク処理の観点から、第1態様の第2−1画像フィルタFL2aと比較して、逆に、前記フィルタリングによって高周波成分を除去する除去率が比較的大きいために、輝度成分画像データBIS(素輝度成分画像データBISp)に高周波成分が比較的少なくなり、そして、フィルタリングする対象画素に影響を与える画素範囲が比較的狭く、輝度成分画像データBIS(素輝度成分画像データBISp)に含まれる誤差は、比較的少なく、ギザギザな線が比較的出難い。このため、上述したように、1個の第2画像フィルタFL2を用いて輝度成分画像データBISを生成する場合には、このような第2態様の第2−2画像フィルタFL2bが利用される。
また、この第2画像フィルタFL2の各フィルタ係数も、画像フィルタFL全域に単位配列を重ねた場合に、前記単位配列の同じ配列位置におけるフィルタ係数の和が全ての配列位置で同じ値になるように、設定されてよい。
フィルタリングは、上述と同様に、原画像データISにおける最初の1行1列に位置する画素に対応するデータから最終の500行500列に位置する画素に対応するデータまで順次に実行される。
第2画像フィルタFL2は、原画像データISにおける単位配列の色組成比と同じ色組成比のフィルタ係数を備えるから、原画像データISに第2画像フィルタFL2を作用させた場合において、原画像データISのR画素に対応するフィルタ係数の総計と、原画像データISのB画素に対応するフィルタ係数の総計と、原画像データISのG画素に対応するフィルタ係数の総計とは、原画像データISにおける単位配列の色組成比と同じになる。
このように原画像データISの単位配列におけるいずれの画素のデータも第2画像フィルタFL2によって同じ色組成比でフィルタリングされる。したがって、原画像データISにおける全ての画素のデータが第2画像フィルタFL2によって同じ色組成比でフィルタリングされることになる。この結果、輝度成分画像データBIS(素輝度成分画像データBISp)における全ての画素のデータは、(G/2+R/4+B/4)で合成された同じ色成分を持つデータとして扱うことが可能となる。
そして、複数(本実施形態では2個)の素輝度成分画像データBISpの合成では、輝度成分画像データBISの各データ(各画素値)は、当該データの位置(当該画素の位置)に対応する位置の各素輝度成分画像データBISpの各データ値を所定の合成比で合成することによって求められる。例えば、輝度成分画像データBISにおけるm行n列のデータ(各画素値)DVBIS,mnは、各素輝度成分画像データBISpにおけるm行n列の各データ値を前記所定の合成比で合成することによって求められる。前記所定の合成比は、予め、複数のサンプルの原画像に対し合成比を変えながら実際に合成し、合成後の画像を見比べることによって適宜な比に設定され、例えば、本実施形態では、1:4である。したがって、第1態様の第2−1画像フィルタFL2aを原画像ISに作用することによって得られた素輝度成分画像データBISp−1におけるm行n列のデータ値をDVBISp−1,mnとし、第2態様の第2−2画像フィルタFL2bを原画像ISに作用することによって得られた素輝度成分画像データBISp−2におけるm行n列のデータ値をDVBISp−2,mnとした場合、輝度成分画像データBISにおけるm行n列のデータは、(4×DVBISp−1,mn+1×DVBISp−2,mn)/(1+4)となる。第1態様の第2−1画像フィルタFL2aは、上述したように、鮮鋭度が比較的保持される一方ギザギザな線が比較的出易い素輝度成分画像データBISp−1を生成するため、この第1態様の第2−1画像フィルタFL2aによる素輝度成分画像データBISp−1と、この第2−1画像フィルタFL2aと逆の特性を持つ第2態様の第2−2画像フィルタFL2bによる素輝度成分画像データBISp−2とを組み合わせ、これらを所定の合成比で合成して輝度成分画像データBISを生成することで、鮮鋭度を保持しつつギザギザな線の少ない輝度成分画像データBISが生成できる。
なお、前記第2画像フィルタFL2は、上述の第1および第2態様の第2−1および第2−2画像フィルタFL2a、FL2bに限定されるものではなく、種々の態様を採用でき、例えば、ベイヤー配列を単位色フィルタ配列とした色フィルタ部32aによって得られる原画像データISに対し、図5Bないし図5Dに示す上述した第3ないし第5態様の画像フィルタFL1b〜FLd等を利用できる。
図22Bに戻って、色度成分を生成する色度成分生成処理S52では、色度成分生成処理部172は、図24に示すように、原画像データIS(図24A)から、上述のように輝度成分生成処理部171で生成された輝度成分画像データBIS(図24B)を、各画素ごとに、減算することによって、色度成分画像データCIS(図24C)を生成する。すなわち、色度成分画像データCISにおけるm行n列のデータ(各画素値)DVCIS,mnは、原画像データISにおけるm行n列のデータ値DVIS,mnから、輝度成分画像データBISにおけるm行n列のデータ値DVBIS,mnを減算することによって求められる(DVCIS,mn=DVIS,mn−DVBIS,mn)。なお、図24Cでは、色度成分画像データCISが色別に図示されており、図24Cの上段には、G色度成分のG色度成分画像データCIS−Gが示され、図24Cの中段には、R色度成分のR色度成分画像データCIS−Rが示され、そして、図24Cの下段には、B色度成分のB色度成分画像データCIS−Bが示されている。また、色別に図示した図24Cにおいて、データ値(画素値)が欠落している画素には、そのデータ値として「0」が設定されている。
図22Bに戻って、各画素で欠落している色度成分を補間する色度成分補間処理S53では、色度成分補間処理部173は、色度成分生成処理部172で生成された色度成分画像データCISにおいて、前記複数色ごとに、欠落する画素の色度成分データを、前記単位配列に含まれる同色の個数および輝度成分生成処理部171で生成された輝度成分画像データBISに基づいた補間方法で補間することによって、前記複数色ごとの各色別色度成分画像データICISを生成する。
本実施形態では、色度成分補間処理部173は、前記単位配列に含まれる同色の個数が1つである色の色度成分データを補間する場合には、バイリニア補間法を前記補間方法として用い、色度成分補間処理部173は、前記単位配列に含まれる同色の個数が複数である色の色度成分データを補間する場合には、輝度成分生成処理部171で生成された輝度成分画像データに基づいた補間方法を前記補間方法として用いる。
したがって、ベイヤー配列の単位色フィルタ配列321aを持つ色フィルタ部32aで生成された原画像データISの場合、前記単位配列には、R(赤色)の輝度データは、1つであり、R色度成分のR色度成分画像データCIS−Rは、図24Cに示すように、4画素に1画素の割合でしかデータ値(画素値)が無い。このため、R色度成分のデータが欠落している画素のデータ値がバイリニア補間されてもギザギザな線は、生じ難い。そして、B(緑色)の濃度データも、上述のRの濃度データの場合と同様である。よって、本実施形態では、色度成分補間処理部173は、処理S52で色度成分生成処理部172によって生成された色度成分画像データCISのR色度成分画像データCIS−Rにおける、R色度成分のデータが欠落している画素のデータ値をバイリニア補間法で補間することで、R(赤色)のR色別色度成分画像データICIS−Rを生成し、同様に、処理S52で色度成分生成処理部172によって生成された色度成分画像データCISのB色度成分画像データCIS−Bにおける、B色度成分のデータが欠落している画素のデータ値をバイリニア補間法で補間することで、B(青色)のB色別色度成分画像データICIS−Bを生成する。このバイリニア補間は、1行1列、1行3列、3行1列および3行3列の各位置にフィルタ係数1/4を持ち、1行2列、2行1列、2行3列および3行2列の各位置にフィルタ係数2/4を持ち、そして、2行2列の位置にフィルタ係数4/4を持つ画像フィルタ(RBバイリニア用画像フィルタ)を用いてフィルタリングすることで実行できる。したがって、より具体的には、色度成分補間処理部173は、前記R色度成分画像データCIS−Rを前記RBバイリニア用画像フィルタでフィルタリングすることによって前記R色別色度成分画像データICIS−Rを生成し、同様に、前記B色度成分画像データCIS−Bを前記RBバイリニア用画像フィルタでフィルタリングすることによって前記B色別色度成分画像データICIS−Bを生成する。
一方、ベイヤー配列の単位色フィルタ配列321aを持つ色フィルタ部32aで生成された原画像データISの場合、前記単位配列には、G(緑色)の濃度データは、2つであり、G色度成分のG色度成分画像データCIS−Gは、G色度成分のデータが欠落している画素のデータ値を仮にバイリニア補間すると、ギザギザな線は、生じてしまう。このため、本実施形態では、補間方法は、G色度成分のデータが欠落する画素を注目画素とし、G色度成分画像データCIS−G上における前記注目画素の第1画素位置に対応する輝度成分画像データBIS上における第2画素位置の第1輝度成分データと、前記第2画素位置の周辺に位置する周辺画素位置の第2輝度成分データとの相関の有無に応じて、選択される。より具体的には、前記相関の有る場合には、前記第1画素位置の周辺に位置する周辺画素位置のG色度成分データを前記相関の程度に応じた重みで重みを付けて平均する重み付け補間法が前記補間方法として用いられ、前記相関の無い場合には、バイリニア補間法が前記補間方法として用いられる。例えば、図25Aに示すように、G色成分のデータが欠落する画素を注目画素Xとし、この注目画素Xに対し列方向にそれぞれ隣接する画素を周辺画素A、Dとし、この注目画素Xに対し行方向にそれぞれ隣接する画素を周辺画素B、Cとし、輝度成分画像データBISにおける注目画素Xの輝度成分データをBDxとし、輝度成分画像データBISにおける各周辺画素A、B、C、Dの輝度成分データをBDa、BDb、BDc、BDdとし、G色度成分画像データCIS−Gにおける各周辺画素A、B、C、DのG色度成分データをCDGa、CDGb、CDGc、CDGdとし、重みを求める重み関数W(d)を図25B示すように注目画素Xの輝度成分データBDxと周辺画素K(K=A、B、C、D)の輝度成分データBDkとの差d(輝度差d=|BDx−BDk|)に応じて線形に変化し、そして、前記輝度差dが大きくなるに従って重みW(d)が小さくなる場合、前記相関Wt(X;A、B、C、D)は、次式Iによって求められる。なお、この重み関数W(d)は、d=0でW(0)=1.0であり、W(Th)でW(Th)=0である。前記Thは、重みを与える範囲を規定する値であり、例えば10等である。
Wt(X;A、B、C、D)=Wt(|BDx−BDa|)+Wt(|BDx−BDb|)+Wt(|BDx−BDc|)+Wt(|BDx−BDd|) (式I)
Wt(X;A、B、C、D)=Wt(|BDx−BDa|)+Wt(|BDx−BDb|)+Wt(|BDx−BDc|)+Wt(|BDx−BDd|) (式I)
このような式Iによって求められた前記相関Wt(X;A、B、C、D)が正である場合(Wt(X;A、B、C、D)>0)には、前記相関が有ると判断され、注目画素X(欠落画素)のデータ値CDGxは、次式IIによって求められる。
CDGx=(Wtxa×CDGa+Wtxb×CDGb+Wtxc×CDGc+Wtxd×CDGd)/(Wtxa+Wtxb+Wtxc+Wtxd) (式II)
なお、式IIにおいて、Wt(|BDx−BDa|)=Wtxa、Wt(|BDx−BDb|)=Wtxb、Wt(|BDx−BDc|)=Wtxc、Wt(|BDx−BDd|)=Wtxdとした。
CDGx=(Wtxa×CDGa+Wtxb×CDGb+Wtxc×CDGc+Wtxd×CDGd)/(Wtxa+Wtxb+Wtxc+Wtxd) (式II)
なお、式IIにおいて、Wt(|BDx−BDa|)=Wtxa、Wt(|BDx−BDb|)=Wtxb、Wt(|BDx−BDc|)=Wtxc、Wt(|BDx−BDd|)=Wtxdとした。
前記式Iによって求められた前記相関Wt(X;A、B、C、D)が0である場合(Wt(X;A、B、C、D)=0)には、前記相関が無いと判断され、注目画素X(欠落画素)のデータ値CDGxは、周辺画素A、B、C、DのG色度成分データCDGa、CDGb、CDGc、CDGdを均等な重み、例えば、1/4で補間する。すなわち、バイリニア補間法が用いられ、注目画素X(欠落画素)のデータ値CDGxは、次式IIIによって求められる。この前記相関が無い場合では、実質的にG成分にある高周波の折り返し歪み(モアレ)が残ることになり、この成分を用いることで超解像できる。このように実施形態における画像処理装置Dは、超解像可能にデモザイク処理を実行できる。
CDGx=(CDGa+CDGb+CDGc+CDGd)/4 (式III)
CDGx=(CDGa+CDGb+CDGc+CDGd)/4 (式III)
図22Bに戻って、画像データを生成する画像生成処理S54では、画像生成処理部174は、図26に示すように、色度成分補間処理部173で生成された複数色ごとの各色別色度成分画像データICISそれぞれに、輝度成分生成処理部171で生成された輝度成分画像データBISを、各画素ごとに、それぞれ加算することによって、画像データIDを生成する。より具体的には、G成分の画像データID−Gにおけるm行n列のデータ(各画素値)DVID−G,mnは、図26Aに示すように、輝度成分画像データBISにおけるm行n列のデータ値DVBIS,mnにG色別色度成分画像データICIS−Gにおけるm行n列のデータ値DVICIS−G,mnを加算することによって求められる(DVID−G,mn=DVBIS,mn+DVICIS−G,mn)。同様に、R成分の画像データID−Rにおけるm行n列のデータ(各画素値)DVID−R,mnは、図26Bに示すように、輝度成分画像データBISにおけるm行n列のデータ値DVBIS,mnにR色別色度成分画像データICIS−Rにおけるm行n列のデータ値DVICIS−R,mnを加算することによって求められる(DVID−R,mn=DVBIS,mn+DVICIS−R,mn)。同様に、B成分の画像データID−Bにおけるm行n列のデータ(各画素値)DVID−B,mnは、図26Cに示すように、輝度成分画像データBISにおけるm行n列のデータ値DVBIS,mnにB色別色度成分画像データICIS−Bにおけるm行n列のデータ値DVICIS−B,mnを加算することによって求められる(DVID−B,mn=DVBIS,mn+DVICIS−B,mn)。これによって各画素ごとに、G成分DVID−R,mn、R成分DVID−R,mnおよびB成分DVID−B,mnの各色成分を持つ画像データIDが生成される。
このようにデモザイク処理を実行すると、画像処理装置Dは、相対的に低解像度な複数の画像から相対的に高解像度な1つの画像を生成する場合に生じるギザギザな線をより低減できる。
このギザギザな線の発生について図27を用いて以下に説明する。上述のデモザイク処理ではなく、ベイヤー配列の色フィルタ部32aによって生成された原画像データに用いられる従前の一般的なデモザイクによって生成された複数の画像データから高解像度な1つの画像を生成すると、この生成した高解像度な画像では、本来、滑らかな直線や曲線がギザギザな線になってしまうことがある。例えば、図27Aに示すように、直線的な境界線で段階状に濃度の異なる被写体が、図7の個眼4、5に撮像された場合、図27Bおよび図27Cに示すように、撮像素子(イメージセンサ)の各光電変換素子(各画素)は、その受光面の全面積で受光した光量に応じたレベル(大きさ)の電気信号、すなわち、その受光面内で濃度が異なることがあっても平均濃度の情報を表す電気信号を出力する一方、撮像素子(イメージセンサ)上で同じ位置(m行n列の位置同士)であっても、前記基線長および被写体までの距離に応じてずれて被写体を撮像することになる。なお、図27Bおよび図27Cは、ベイヤー配列のイメージセンサにおけるR(赤色)の画素(R成分の濃度データを生成する画素)について示し、それら左側の図は、R光を光電変換するRの光電変換素子(Rの画素、実線の矩形)と被写体との関係、すなわち、Rの画素に映り込む被写体を示し、それら右側の図は、その映り込んだ被写体を光電変換することによってRの画素から出力される電気信号のレベルを濃淡で示す。実際には9眼の画像を用いるが、説明の都合上、仮に個眼4、5の画像から、より高解像度な画像を生成するものとすると、図27Dに示すように、高解像度な画像における同じライン上の画素であっても、異なるカメラで撮像した電気信号で画素値が生成される。例えば、画素Px1は、左カメラで撮像した電気信号で画素値が生成される一方、画素Px1と同じライン上の画素Px2は、右カメラで撮像した電気信号で画素値が生成される。これら電気信号は、上述したように、平均濃度の情報を表し、それらレベルが異なると、生成した高解像度な画像では、濃度の違いとなって図27Dに示すように、本来、滑らかな直線や曲線がギザギザな線になってしまう。このようなギザギザな線の発生は、上述した発生過程から分かるように、例えば、R成分の濃度データが個眼ごとに離散的に得られ、横方向には一定濃度であるという被写体本来の情報が得られないためである。しかしながら、上述では、第2画像フィルタFL2によって単位配列の色組成比と同じ色組成比を持つデータに原画像データISを変換するように前記輝度成分生成処理部171によってフィルタリングするので、このフィルタリングで生成された輝度成分画像データBISにおける全ての画素のデータは、同じ色成分を持つデータとして扱うことができるようになり、全ての画素で適切に比較できる。そして、上述では、デモザイク処理の補間には前記単位配列に含まれる同色の個数および輝度成分生成処理部171で生成された輝度成分画像データBISに基づいた補間方法が用いられるので、前記画素間の相互関係を考慮した適切な補間方法の選択が可能となり、この結果、このデモザイク処理部17を備える画像処理装置D等は、前記ギザギザな線をより低減できる。
単位配列に含まれる同色の個数が1つである色の色度成分データをバイリニア補間法で補間しても前記ギザギザな線を生じないので、このデモザイク処理部17を備える画像処理装置D等は、比較的情報処理の容易なバイリニア補間法をこのような場合に用いることで、前記ギザギザな線をより低減しつつ、簡易に補間処理できる。
単位配列に含まれる同色の個数が複数である色の色度成分データをバイリニア補間法で補間すると前記ギザギザな線を生じてしまうが、このデモザイク処理部17を備える画像処理装置D等は、前記単位配列に含まれる同色の個数が複数である色の色度成分データを前記輝度成分画像データに基づいた補間方法で補間するので、前記ギザギザな線をより適切に低減できる。そして、前記補間方法は、前記相関の有無に応じて選択されるので、より適切な補間方法を選択できる。上述では、前記単位配列に含まれる同色の個数が複数である色の色度成分データを補間する場合でも、周辺画素と相関関係に無ければ、高解像化に用いる高周波のモアレ成分である可能性が高い。このため、前記補間方法としてバイリニア補間法が選択され、バイリニア補間法でギザギザを残し、これを高解像化で解像力を上げるために用いることができる。一方、周辺画素と相関が有れば、前記補間方法として、その相関に応じた重み付け補間法が選択され、ギザギザを低減できる。したがって、本実施形態における画像処理装置D等は、前記単位配列に含まれる同色の個数が複数である色の色度成分データを補間する場合に、前記ギザギザな線をより適切に低減できる。
このデモザイク処理部17を備える画像処理装置D等は、フィルタ係数の各値が中心位置に対し対称に配置されているので、全ての画素のデータをより同等な色成分を持つデータとして扱うことができるから、前記ギザギザな線をより低減できる。
このデモザイク処理部17を備える画像処理装置D等は、画像フィルタサイズおよび高周波成分の除去率の異なる第2−1および第2−2画像フィルタFL2a、FL2bを用いて輝度成分画像データBISを生成するので、画像の鮮鋭度を保持しつつ、前記ギザギザな線の少ない輝度成分画像データBISを生成できる。
なお、上述の輝度成分生成処理部171は、前処理部12と兼用されても良い。
本明細書は、上記のように様々な態様の技術を開示しているが、そのうち主な技術を以下に纏める。
一態様にかかる画像処理装置は、原画像データを画像フィルタでフィルタリングすることによって前処理後画像データを生成する前処理部と、複数の原画像データから前記前処理部によって生成された複数の前処理後画像データそれぞれに対応する複数の画像の間で対応点探索を行う対応点探索処理部とを備え、前記原画像データは、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備え、前記画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備える。
対応点探索は、パターンマッチングによって対応点を探索するので、一般に、同じ色成分のデータしか利用できない。このため、例えばベイヤー配列の色フィルタを用いることによって得られた原画像データで対応点探索を実施する場合には、前記非特許文献1のように例えばG画素のデータで対応点探索が実施されることになり、原画像データの半分のデータ量しか利用できない。しかしながら、上記画像処理装置では、前記画像フィルタによって単位配列の色組成比と同じ色組成比を持つデータに原画像データを変換するように前記輝度成分生成処理部によってフィルタリングするので、全ての画素のデータを同じ色成分を持つデータとして扱うことができるようになり、この結果、全ての画素のデータを利用して対応点探索の実施が可能となる。したがって、このような画像処理装置は、対応点探索をより高精度に実施できる。
他の一態様では、上述の画像処理装置において、前記画像フィルタの各フィルタ係数は、中心位置に対し対称である。また、他の一態様では、上述の画像処理装置において、前記画像フィルタの各フィルタ係数は、前記画像フィルタ全域に前記単位配列を重ねた場合に、前記単位配列の同じ配列位置におけるフィルタ係数の和が全ての配列位置で同じ値になるように、設定されている。
このような画像処理装置は、全ての画素のデータをより同等な色成分を持つデータとして扱うことができるから、前記ギザギザな線を低減できる。
他の一態様では、これら上述の画像処理装置において、前記複数の原画像データは、3個以上の複数の撮像光学系と、前記複数の撮像光学系に対応し、前記複数の撮像光学系それぞれによって結像された被写体の光学像をそれぞれ撮像する複数の撮像部とを備える3眼以上のアレイカメラで撮像されたデータである。
このような画像処理装置は、3眼以上のアレイカメラを用いるので、複数の原画像データを同時に得ることができる。このため、対応点探索の結果から対応点間の位置ズレ量(視差)を求める場合に、同一の被写体を同時刻で写した複数の画像間で前記位置ズレ量を求めることになるので、このような画像処理装置は、より高精度に前記位置ズレ量を求めることができる。
他の一態様では、これら上述の画像処理装置において、前記複数の原画像データは、撮像光学系と、前記撮像光学系によって結像された被写体の光学像を撮像する撮像部とを備える少なくとも1個のカメラで異なる時刻で撮像されたデータである。
このような画像処理装置は、異なる時刻で撮像された複数の原画像データを得ることができる。
他の一態様では、これら上述の画像処理装置において、前記対応点探索処理部で探索された対応点間の距離である位置ズレ量を求める位置ズレ量演算部をさらに備える。
このような画像処理装置は、位置ズレ量演算部をさらに備えるので、前記対応点探索処理部で探索された対応点間の位置ズレ量を求めることができ、より高精度に実行された対応点探索の結果を位置ズレ量の推定に効果的に反映できる。
他の一態様では、上述の画像処理装置において、前記位置ズレ量演算部で求めた位置ズレ量に基づいて、前記複数の原画像データから前記原画像データの画像における解像度より高い高解像度の画像を生成する高解像処理部をさらに備える。
このような画像処理装置は、高解像処理部をさらに備えるので、前記対応点探索処理部で探索された対応点間の位置ズレ量を求め、これに基づいて複数の原画像データから高解像度な画像のデータを得ることができ、より高精度に実行された対応点探索の結果を高解像度な画像の生成に効果的に反映できる。
他の一態様では、上述の画像処理装置において、前記位置ズレ量演算部で求めた前記位置ズレ量を前記複数の原画像データに対応する前記複数の画像間における視差とし、前記視差に基づいて前記対応点の表す被写体までの距離を求める距離演算部をさらに備える。
このような画像処理装置は、距離演算部をさらに備えるので、前記対応点探索処理部で探索された対応点間の視差(位置ズレ量)を求めることができ、より高精度に実行された対応点探索の結果を距離の演算に効果的に反映できる。
他の一態様では、上述の画像処理装置において、前記原画像データをデモザイクすることによって各色成分データを各画素ごとに持つ画像データの少なくとも1色を生成するデモザイク処理部をさらに備え、前記原画像データを第2画像フィルタでフィルタリングすることによって輝度成分画像データを生成する輝度成分生成処理部と、前記原画像データから、前記輝度成分生成処理部で生成された輝度成分画像データを、各画素ごとに、減算することによって、色度成分画像データを生成する色度成分生成処理部と、前記色度成分生成処理部で生成された色度成分画像データにおいて、前記複数色ごとに、欠落する画素の色度成分データを、前記単位配列に含まれる同色の個数および前記輝度成分生成処理部で生成された輝度成分画像データに基づいた補間方法で補間することによって、前記複数色ごとの各色別色度成分画像データを生成する色度成分補間処理部と、前記色度成分補間処理部で生成された前記複数色ごとの各色別色度成分画像データそれぞれに、前記輝度成分生成処理部で生成された輝度成分画像データを、各画素ごとに、それぞれ加算することによって、前記画像データを生成する画像生成処理部とを備え、前記第2画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備える。
このような画像処理装置では、前記画像フィルタによって単位配列の色組成比と同じ色組成比を持つデータに原画像データを変換するように前記輝度成分生成処理部によってフィルタリングするので、このフィルタリングで生成された輝度成分画像データにおける全ての画素のデータは、同じ色成分を持つデータとして扱うことができるようになり、全ての画素で適切に比較できる。そして、上記画像処理装置では、デモザイク処理の補間には前記単位配列に含まれる同色の個数および前記輝度成分生成処理部で生成された輝度成分画像データに基づいた補間方法が用いられるので、前記画素間の相互関係を考慮した適切な補間方法の選択が可能となり、この結果、上記画像処理装置は、高解像度化に伴うギザギザな線をより低減できる。
そして、他の一態様にかかる画像処理方法は、原画像データを画像フィルタでフィルタリングすることによって前処理後画像データを生成する前処理工程と、複数の原画像データから前記前処理工程によって生成された複数の前処理後画像データに対応する複数の画像間で対応点探索を行う対応点探索処理工程とを備え、前記原画像データは、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備え、前記画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備える。
そして、他の一態様にかかる画像処理プログラムは、コンピュータに、原画像データを画像フィルタでフィルタリングすることによって前処理後画像データを生成する前処理部と、複数の原画像データから前記前処理部によって生成された複数の前処理後画像データに対応する複数の画像間で対応点探索を行う対応点探索処理部とを実現させるための画像処理プログラムであって、前記原画像データは、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備え、前記画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備える。
このような画像処理方法および画像処理プログラムでは、前記画像フィルタによって単位配列の色組成比と同じ色組成比を持つデータに原画像データを変換するように前記輝度成分生成処理部によってフィルタリングするので、全ての画素のデータを同じ色成分を持つデータとして扱うことができるようになり、この結果、全ての画素のデータを利用して対応点探索の実施が可能となる。したがって、このような画像処理方法および画像処理プログラムは、対応点探索をより高精度に実施できる。
この出願は、2013年12月2日に出願された日本国特許出願特願2013−249607を基礎とするものであり、その内容は、本願に含まれるものである。
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
本発明によれば、画像を処理する画像処理技術、画像処理方法および画像処理プログラムを提供できる。
Claims (11)
- 原画像データを画像フィルタでフィルタリングすることによって前処理後画像データを生成する前処理部と、
複数の原画像データから前記前処理部によって生成された複数の前処理後画像データそれぞれに対応する複数の画像の間で対応点探索を行う対応点探索処理部とを備え、
前記原画像データは、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備え、
前記画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備えること
を特徴とする画像処理装置。 - 前記画像フィルタの各フィルタ係数は、中心位置に対し対称であること
を特徴とする請求項1に記載の画像処理装置。 - 前記画像フィルタの各フィルタ係数は、前記画像フィルタ全域に前記単位配列を重ねた場合に、前記単位配列の同じ配列位置におけるフィルタ係数の和が、全ての配列位置で同じ値になるように、設定されていること
を特徴とする請求項1に記載の画像処理装置。 - 前記複数の原画像データは、3個以上の複数の撮像光学系と、前記複数の撮像光学系に対応し、前記複数の撮像光学系それぞれによって結像された被写体の光学像をそれぞれ撮像する複数の撮像部とを備える3眼以上のアレイカメラで撮像されたデータであること
を特徴とする請求項1ないし請求項3のいずれか1項に記載の画像処理装置。 - 前記複数の原画像データは、撮像光学系と、前記撮像光学系によって結像された被写体の光学像を撮像する撮像部とを備える少なくとも1個のカメラで異なる時刻で撮像されたデータであること
を特徴とする請求項1ないし請求項3のいずれか1項に記載の画像処理装置。 - 前記対応点探索処理部で探索された対応点間の距離である位置ズレ量を求める位置ズレ量演算部をさらに備えること
を特徴とする請求項1ないし請求項5のいずれか1項に記載の画像処理装置。 - 前記位置ズレ量演算部で求めた位置ズレ量に基づいて、前記複数の原画像データから前記原画像データの画像における解像度より高い高解像度の画像を生成する高解像処理部をさらに備えること
を特徴とする請求項6に記載の画像処理装置。 - 前記位置ズレ量演算部で求めた前記位置ズレ量を前記複数の原画像データに対応する前記複数の画像間における視差とし、前記視差に基づいて前記対応点の表す被写体までの距離を求める距離演算部をさらに備えること
を特徴とする請求項6に記載の画像処理装置。 - 前記原画像データをデモザイクすることによって各色成分データを各画素ごとに持つ画像データの少なくとも1色を生成するデモザイク処理部をさらに備え、
前記原画像データを第2画像フィルタでフィルタリングすることによって輝度成分画像データを生成する輝度成分生成処理部と、
前記原画像データから、前記輝度成分生成処理部で生成された輝度成分画像データを、各画素ごとに、減算することによって、色度成分画像データを生成する色度成分生成処理部と、
前記色度成分生成処理部で生成された色度成分画像データにおいて、前記複数色ごとに、欠落する画素の色度成分データを、前記単位配列に含まれる同色の個数および前記輝度成分生成処理部で生成された輝度成分画像データに基づいた補間方法で補間することによって、前記複数色ごとの各色別色度成分画像データを生成する色度成分補間処理部と、
前記色度成分補間処理部で生成された前記複数色ごとの各色別色度成分画像データそれぞれに、前記輝度成分生成処理部で生成された輝度成分画像データを、各画素ごとに、それぞれ加算することによって、前記画像データを生成する画像生成処理部とを備え、
前記第2画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備えること
を特徴とする請求項7に記載の画像処理装置。 - 原画像データを画像フィルタでフィルタリングすることによって前処理後画像データを生成する前処理工程と、
複数の原画像データから前記前処理工程によって生成された複数の前処理後画像データに対応する複数の画像間で対応点探索を行う対応点探索処理工程とを備え、
前記原画像データは、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備え、
前記画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備えること
を特徴とする画像処理方法。 - コンピュータに、
原画像データを画像フィルタでフィルタリングすることによって前処理後画像データを生成する前処理部と、
複数の原画像データから前記前処理部によって生成された複数の前処理後画像データに対応する複数の画像間で対応点探索を行う対応点探索処理部とを実現させるための画像処理プログラムであって、
前記原画像データは、2次元アレイ状に配列された複数の画素それぞれに対応する複数のデータであって、互いに異なる複数色の複数の濃度データを所定のパターンで配列した単位配列を、複数、さらに2次元アレイ状に配列した前記複数のデータを備え、
前記画像フィルタは、フィルタリングするデータである対象データに対応する画素の周辺に位置する画素に対応するデータに基づいて、前記対象データを、前記単位配列の色組成比と同じ色組成比を持つデータに変換するフィルタ係数を備えること
を特徴とする画像処理プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013249607 | 2013-12-02 | ||
JP2013249607 | 2013-12-02 | ||
PCT/JP2014/079767 WO2015083499A1 (ja) | 2013-12-02 | 2014-11-10 | 画像処理装置、該方法および該プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2015083499A1 true JPWO2015083499A1 (ja) | 2017-03-16 |
Family
ID=53273270
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015551440A Pending JPWO2015083499A1 (ja) | 2013-12-02 | 2014-11-10 | 画像処理装置、該方法および該プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JPWO2015083499A1 (ja) |
WO (1) | WO2015083499A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7182437B2 (ja) * | 2018-11-28 | 2022-12-02 | 株式会社アサヒ電子研究所 | 複眼撮像装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7515747B2 (en) * | 2003-01-31 | 2009-04-07 | The Circle For The Promotion Of Science And Engineering | Method for creating high resolution color image, system for creating high resolution color image and program creating high resolution color image |
JP2010276469A (ja) * | 2009-05-28 | 2010-12-09 | Konica Minolta Holdings Inc | 画像処理装置及び測距装置の画像処理方法 |
JP5747797B2 (ja) * | 2011-11-29 | 2015-07-15 | コニカミノルタ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
-
2014
- 2014-11-10 JP JP2015551440A patent/JPWO2015083499A1/ja active Pending
- 2014-11-10 WO PCT/JP2014/079767 patent/WO2015083499A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2015083499A1 (ja) | 2015-06-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9275463B2 (en) | Stereo image processing device and stereo image processing method | |
JP6168794B2 (ja) | 情報処理方法および装置、プログラム。 | |
US9509978B2 (en) | Image processing method, image processing apparatus, image-capturing apparatus, and image processing program | |
KR101373987B1 (ko) | 화상 처리 장치 및 화상 처리 방법, 화상 처리 프로그램 | |
US6252577B1 (en) | Efficient methodology for scaling and transferring images | |
KR101356286B1 (ko) | 화상 처리 장치, 화상 처리 방법, 프로그램 및 촬상 장치 | |
CN111510691B (zh) | 颜色插值方法及装置、设备、存储介质 | |
US20080123997A1 (en) | Providing a desired resolution color image | |
US9338364B2 (en) | Imaging device and image generation method | |
US8520099B2 (en) | Imaging apparatus, integrated circuit, and image processing method | |
JP5709131B2 (ja) | 画像処理システム | |
WO2006048962A1 (ja) | 画素信号処理装置及び画素信号処理方法 | |
JP5718138B2 (ja) | 画像信号処理装置及びプログラム | |
US20110032269A1 (en) | Automatically Resizing Demosaicked Full-Color Images Using Edge-Orientation Maps Formed In The Demosaicking Process | |
JP5911166B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、撮像装置、及び画像表示装置 | |
JP2014042176A (ja) | 画像処理装置および方法、プログラム、並びに、固体撮像装置 | |
WO2015083502A1 (ja) | 画像処理装置、該方法および該プログラム | |
JP5738904B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
WO2015083499A1 (ja) | 画像処理装置、該方法および該プログラム | |
EP4102828A1 (en) | Image sensor including image signal processor and operating method of the image sensor | |
WO2014077024A1 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP5036524B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像装置 | |
CN112669355A (zh) | 基于rgb-d超像素分割的聚焦堆栈数据拼接融合的方法及系统 | |
JP2013126123A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
US20120002845A1 (en) | Method of determining shift between two images |