JP5528139B2 - 画像処理装置、撮像装置および画像処理プログラム - Google Patents

画像処理装置、撮像装置および画像処理プログラム Download PDF

Info

Publication number
JP5528139B2
JP5528139B2 JP2010021015A JP2010021015A JP5528139B2 JP 5528139 B2 JP5528139 B2 JP 5528139B2 JP 2010021015 A JP2010021015 A JP 2010021015A JP 2010021015 A JP2010021015 A JP 2010021015A JP 5528139 B2 JP5528139 B2 JP 5528139B2
Authority
JP
Japan
Prior art keywords
image
color
image processing
imaging
color blur
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010021015A
Other languages
English (en)
Other versions
JP2011160255A (ja
JP2011160255A5 (ja
Inventor
智暁 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010021015A priority Critical patent/JP5528139B2/ja
Priority to US13/018,887 priority patent/US9013609B2/en
Publication of JP2011160255A publication Critical patent/JP2011160255A/ja
Publication of JP2011160255A5 publication Critical patent/JP2011160255A5/ja
Application granted granted Critical
Publication of JP5528139B2 publication Critical patent/JP5528139B2/ja
Priority to US14/670,500 priority patent/US9756307B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/40Circuit details for pick-up tubes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Geometry (AREA)

Description

本発明は、撮像により生成された画像の色にじみを補正する画像処理に関する。
デジタルカメラ等の撮像装置を用いた撮像によって生成された画像は、該撮像装置に設けられた撮影光学系の収差によって劣化していることが多い。特に、カラー画像において生じる色にじみの原因の1つとして、撮影光学系の軸上色収差の影響がある。
光は波長によって屈折率が異なるため、撮影光学系に入射した互いに波長が異なる光は、撮影光学系の光軸方向における互いに異なる位置に結像する。一般に、撮像装置において撮影光学系により形成された被写体像(光学像)を電子的な画像情報に変換する撮像素子は、受光面が平面であり、該受光面上に形成された光学像のみが鮮明な画像情報に変換される。このため、軸上色収差の影響がある場合には、撮像素子により得られる画像情報は、ピントがぼけた色画像成分が重ね合わさることにより生じた色にじみを含む画像となる。
軸上色収差による色にじみを補正する方法として、特許文献1にて開示された方法がある。この方法では、撮影光学系と撮像素子の相対距離を各波長の光が撮像素子上に結像するように変化させながら各波長の鮮明な画像を取得し、これら画像を合成することで軸上色収差が補正されたカラー画像を得る。
また、一般にパープルフリンジ (Purple Fringe)と呼ばれる色にじみも画像を劣化させる原因である。パープルフリンジは、軸上色収差、色の球面収差および色のコマ収差により波長ごとの点像分布が異なっているために、画像中における高輝度領域の近傍等に紫系の色にじみが発生する現象である。このようなパープルフリンジを補正する方法としては、特許文献2にて開示された方法がある。この方法では、パープルフリンジの発生領域を輝度飽和領域からの距離と特定色の彩度および色相に対する近さとから判定し、該判定した領域に所定の空間演算処理を行うことで補正を行う。これは、パープルフリンジが輝度飽和領域の近傍で生じやすいことと、紫系の特定色となり易いことを利用した方法である。
特許文献1にて開示された方法によれば、波長ごとの合焦画像を合成することで、軸上色収差を補正して画質を向上させることができる。また、特許文献2にて開示された方法によれば、パープルフリンジの発生領域を推測して、パープルフリンジをある程度補正することが可能である。
特開2008−85773号公報 特開2006−115039号公報
しかしながら、実際には、特許文献1,2にて開示された方法では色にじみを良好に補正できない場合がある。例えば、立体被写体を撮像して得られた画像に発生する色にじみである。撮像装置は、オートフォーカス機能やマニュアルフォーカスによって被写体空間の1つの面に焦点を合わせて撮像するが、被写体が立体物である場合には画角によって被写体距離が異なる。このとき、合焦点では比較的鮮鋭に撮像されるが、非合焦点はその被写体距離に応じたぼけ状態で撮像される。このとき、色にじみについては、軸上色収差、色の球面収差および色のコマ収差が被写体距離に応じて変動することから、合焦点からの距離に応じて異なる色にじみが生じる。このような被写体距離に応じて変動する色にじみを、本明細書では「デフォーカスによる色にじみ」と称する。
特許文献1にて開示された方法では、特定距離に位置する合焦被写体についてのみ軸上色収差に起因する色にじみを補正することが可能であり、デフォーカスによる色にじみは補正できない。また、特許文献2にて開示された方法でも、合焦点における色にじみの発生傾向を利用した方法であるため、デフォーカスによる色にじみについては良好な補正効果は得られない。
本発明は、デフォーカスによる色にじみを良好に補正できるようにした画像処理装置、撮像装置および画像処理プログラムを提供する。
本発明の一側面としての画像処理装置は、撮像系により生成された互いにフォーカス状態が異なる第1の画像および第2の画像における対応画素の色に関する情報の差から、第1の画像にデフォーカスによる色にじみが発生しているか否かを判定する判定手段と、第1の画像に対して、該判定手段によって判定された色にじみを補正する処理を行う補正手段とを有することを特徴とする。
なお、上記画像処理装置を有する撮像装置も本発明の他の一側面を構成する。
また、本発明のさらに他の一側面としての画像処理プログラムは、コンピュータに、撮像系により生成された互いにフォーカス状態が異なる第1の画像および第2の画像を取得するステップと、第1および第2の画像における対応画素の色に関する情報の差から、第1の画像にデフォーカスによる色にじみが発生しているか否かを判定する判定ステップと、第1の画像に対して、判定ステップにて判定された色にじみを補正する処理を行う補正ステップとを含む画像処理を行わせることを特徴とする。
本発明によれば、撮像により生成されたカラー画像に含まれるデフォーカスによる色にじみを低減(補正)することができ、高画質な出力画像を得ることができる。
本発明の実施例1である撮像装置の構成を示すブロック図。 実施例1における撮像処理を示すフローチャート。 実施例1における撮像の様子を示す図。 実施例1における撮影画像を示す図。 実施例1における撮影画像中の色情報を示す図。 実施例1における色収差を説明する図。 実施例1における色情報を説明する図。 実施例1における色にじみ領域の判定を説明する図。 実施例1における色にじみ量の判定を説明する図。 本発明の実施例3である画像処理装置の構成を示す概略図。
以下、本発明の実施例について図面を参照しながら説明する。
図1には、本発明の実施例1である撮像装置の構成を示している。撮影光学系101は、開口径を変化させて光量(Fナンバー)を調節する絞り101aと、ピント調整を行うために光軸方向に移動するフォーカスレンズ101bとを含む。フォーカスレンズ101bの位置は、オートフォーカス(AF)によって制御されたり、マニュアルフォーカスによって変更されたりする。撮影光学系101は、不図示の被写体からの光に光学像である被写体像を形成させる。該被写体像は、CCDセンサやCMSOセンサ等の光電変換素子より構成された撮像素子102によって電気信号に変換される。
撮像素子102から出力された電気信号(アナログ信号)は、A/Dコンバータ103によってデジタル信号に変換され、画像処理部104に入力される。画像処理部104は、入力されたデジタル信号に対して種々の信号処理を行って画像データ(撮影画像)を生成する。撮影光学系101、撮像素子102および画像処理部104は、撮像系を構成する。
また、画像処理部(画像処理装置)104は、生成した撮影画像に対して、後述するデフォーカスによる色にじみの補正処理(以下、単に色にじみ補正という)を行う。具体的には、画像処理部104は、状態検知部107から撮影光学系101の状態(撮影条件)に関する情報を取得する。そして、画像処理部104は、撮像条件に応じた色変動情報を記憶部108から選択し、画像処理部104に入力された画像に対して色にじみ補正を行う。画像処理部104は、補正手段に相当する。
次に、図2のフローチャートを用いて、本実施例の撮像装置における上述した色にじみ補正を含む撮像処理の流れを説明する。撮像処理は、図1に示したマイクロコンピュータとしてのシステムコントローラ110がコンピュータプログラムに従って実行する。ここでは、撮影光学系101を、焦点距離が可変であるズームレンズとする。
ユーザ操作による撮像開始信号が入力されると、システムコントローラ110は、そのときの撮影光学系101のズーム位置において被写体に対して合焦する位置にフォーカスレンズ101bを移動させる(ステップS1)。このフォーカス制御は、撮影光学系制御部106を通じて行う。これにより、撮像の主たる対象である主被写体の光学像(以下、主被写体像という)が、撮像素子102の受光面上に鮮明に形成される。このときのフォーカスレンズ101bの位置を第1フォーカス位置という。
次に、システムコントローラ110は、状態検知部107から撮影条件に関する情報を取得する(ステップS2)。ここにいう撮影条件とは、撮影光学系101のズーム位置、絞り値(F値)およびフォーカスレンズ101bの位置である。
次に、システムコントローラ110は、取得した撮影条件に関する情報を用いてデフォーカスによる色にじみが発生し得る被写体距離範囲を算出する。そして、該被写体距離範囲内において、第1フォーカス位置とは異なるフォーカスレンズ101bの位置である第2フォーカス位置を決定する(ステップS3)。
次に、システムコントローラ110は、フォーカスレンズ101bが第1フォーカス位置にある状態で1回目の撮像を行い、画像処理部104に色にじみ補正前の第1の撮影画像(第1の画像)を生成させる(ステップS4)。この第1の撮影画像を、本実施例における色にじみ補正における基準画像とする。システムコントローラ110は、基準画像を画像処理部104に一時的に格納する。
こうして1回目の撮像が完了すると、システムコントローラ110は、撮影光学系制御部106を介してフォーカスレンズ101bを第2フォーカス位置に移動させる(ステップS5)。
そして、システムコントローラ110は、フォーカスレンズ101bが第2フォーカス位置にある状態で2回目の撮像を行い、画像処理部104に色にじみ補正前の第2の撮影画像(第2の画像)を生成させる(ステップS6)。この第2の撮影画像を、本実施例における色にじみ補正におけるが比較画像とする。システムコントローラ110は、比較画像を画像処理部104に一時的に格納する。
以下、システムコントローラ110は、上記コンピュータプログラムの一部(または別のコンピュータプログラムであってもよい)である画像処理プログラムに従って色にじみ補正を行う。
システムコントローラ110は、画像処理部104に格納された基準画像と比較画像の対応画素ごとに色に関する情報を検出する(ステップS7)。色に関する情報は、色差、彩度および色相のうち少なくとも1つを含めばよいが、本実施例では、彩度および色相を用いる。なお、以下の説明では、色に関する情報を色情報と略記する。
彩度および色相を検出するため、RGB成分により構成される基準画像と比較画像を、輝度成分と色成分を別々に持つ色空間に変換する。変換データの色空間としては、例えば、YCbCrやCIE Lなどが適用可能である。本実施例ではCIE L色空間の場合について説明する。
CIE L色空間における色情報である彩度Cと色相θは、色度a,bによって決まる量である。基準画像の任意の座標である(x,y)における色情報を彩度C1(x,y)、色相θ1(x,y)と表記する。また、比較画像の座標(x,y)における色情報を彩度C2(x,y)、色相θ2(x,y)と表記する。基準画像中の座標(x,y)の画素と比較画像中の座標(x,y)の画素とは、互いに座標が同じ対応画素である。
次に、システムコントローラ110は、判定手段として、色にじみ補正における第1の処理である色にじみ判定(色にじみ領域判定)を行う(ステップS8)。
ここでは、撮像時のフォーカスレンズ101bの位置が異なるためにフォーカス状態が異なる基準画像と比較画像における対応画素の色情報の変動量(つまりは色情報の差)を判定することで、デフォーカスによる色にじみが発生しているか否かを判定する。そして、この判定により、色にじみが発生している領域(色にじみ領域)を判定することができる。色にじみが発生しているか否かおよび色にじみ領域の判定は、以下の式を用いて行うことができる。Jc,Jθはそれぞれ、以下の式で定義される色情報、すなわち彩度および色相の変化量である。
Jc=C1(x,y)−C2(x,y)
Jθ=θ1(x,y)−θ2(x,y)
彩度および色相の変化量Jc,Jθが0となる場合は、フォーカス状態の違いによって色情報の変動(差)が生じていない、つまりデフォーカスによる色にじみが発生していないことを意味する。一方、彩度および色相の変化量Jc,Jθが0以外の値である場合は、デフォーカスによる色にじみが発生していることを意味する。これにより、色にじみが発生していることおよび色にじみ領域を判定することが可能となる。
ここで、彩度および色相の変化量が0となる場合と0以外の値となる場合の例を図3〜8を用いて説明する。図3は、近点から遠点に向かって斜めに配置された被写体である黒い棒611〜615を撮像装置601で撮像している状態を示している。撮像装置601のピントは被写体613に合っている。この状態で撮像された画像を図4に示す。また、図4中の被写体613,614を含む領域(図中に矢印で示す部分)の色情報を図5に断面図として示す。
図5中の被写体613は、撮像装置601が合焦する被写体距離(合焦距離)に位置し、被写体614は合焦距離よりも遠距離に位置している。図5中の上段には、基準画像における被写体613,614を含む領域の色情報を示している。また、中段は被写体613と被写体612との間の距離を合焦距離として取得された比較画像における被写体613,614を含む領域の色情報を示している。
基準画像では、合焦距離に位置する被写体613に対してG成分が合焦している。このため、G成分のエッジのぼけが最も少なくなっている。R成分およびB成分はほぼ同じ量だけG成分に比べてぼけている。このときの結像状態を、図6を用いて説明する。
図6は合焦距離(中段)、合焦距離よりも近距離(上段)および合焦距離よりも遠距離(下段)に位置する被写体から撮像素子102に入射する、互いに波長が異なるR,G,Bの光線を示している。合焦距離では、G光線は撮像素子102上にて結像して鮮明なG成分の被写体像を形成しているが、R光線およびB光線は撮像素子102上では広がりを有し、RおよびB成分の被写体像はぼけている。
また、遠距離では、R光線およびB光線は撮像素子102上にて結像して鮮明なR,B成分の被写体像を形成しているが、G光線は撮像素子102上で広がりを有し、G成分の被写体像はぼけている。さらに、近距離では、R,G,B光線のいずれも広がりを有し、特にRおよびB光線の広がりがG光線の広がりよりも大きい。
なお、図6は、撮像装置601の撮影光学系の軸上色収差を示しているが、撮影画角のうち撮影光学系の光軸から離れた位置においても撮影光学系の基本の結像特性に非対称性が発生するものの、色情報の変動については同様の現象が発生する。
さらに、図5の中段に示す比較画像では、被写体613の結像状態は、該被写体613が合焦距離に位置する場合(基準画像の場合)に比べて、合焦距離よりも遠距離に位置する場合の結像状態に近づき、G成分の被写体像のぼけが主に増大する。また、比較画像では、被写体614の結像状態は、該被写体614がさらに遠距離に位置する場合の結像状態になり、R,G成分のぼけが主に増大する。
ここで、図5中の被写体614の近傍の画素の座標1(x1,y1)と、被写体614の中心近傍の画素の座標2(x2,y2)と、被写体613の近傍の画素の座標3(x3,y3)における色情報について説明する。図7には、例として、a空間における基準画像および比較画像の座標1(x1,y1)での色情報を示す。図5から明らかなように、座標1(x1,y1)では、RGB各色のフォーカス状態の変動によるぼけ量の違いが生じている。このため、図7に示すように、彩度および色相はともに変動する。この変動は、撮影光学系101のデフォーカス特性に対応するものであり、特定距離の被写体に対してフォーカス状態の異なる2つの画像間では同様の変動が必ず生じる。同様に、座標3(x3,y3)においても彩度および色相がともに変動する。また、座標2(x2,y2)では、図5から明らかなように、フォーカス変動によるぼけ量の違いが生じていないため、彩度および色相はともに変動しない。
それぞれの座標における彩度および色相の変化量は、以下の式により、基準画像と比較画像の対応画素間の色情報の差を算出することで求められる。
Jc(x1,y1)=C1(x1,y1)−C2(x1,y1)
Jθ(x1,y1)=θ1(x1,y1)−θ2(x1,y1)
Jc(x2,y2)=C1(x2,y2)−C2(x2,y2)
Jθ(x2,y2)=θ1(x2,y2)−θ2(x2,y2)
図5および図7より明らかなように、彩度および色相の変化量は以下のようになる。
Jc(x1,y1)>0
Jθ(x1,y1)>0
Jc(x2,y2)=0
Jθ(x2,y2)=0
つまり、彩度の変化量Jcと色相の変化量Jθが0以外の値となる場合は、その座標でデフォーカスによる色にじみが発生していることを示し、JcとJθがいずれも0となる座標では色にじみが発生していないことを示す。このような判定を、画像全体に対して行うことで、図8に示すように、基準画像におけるデフォーカスによる色にじみが発生している領域(色にじみ領域)を判定することが可能となる。
色にじみ領域が存在する場合には、システムコントローラ110は、色にじみ補正における第2の処理としての色にじみ量推定を行う(ステップS9)。基準画像中に色にじみ領域が存在しない場合は、デフォーカスによる色にじみが生じていないとして、色にじみ補正を終了する。
次に、色にじみ量推定について説明する。上述したように、フォーカス状態が異なる基準画像と比較画像との間でのデフォーカスによる色にじみによる色情報の変動は、撮影光学系101のデフォーカス特性に対応する。つまり、ある撮影条件下において、軸上色収差、色のコマ収差および色の球面収差が、ピントが合っている被写体距離位置(合焦基準位置)からの被写体距離のずれ量(デフォーカス量)dに応じて変動することに対応する。
図9には、本実施例の撮影光学系101における第1フォーカス位置を合焦基準位置としたときのデフォーカス量と彩度Cおよび色相θとの関係を示す。これらの関係から分かるように、デフォーカスによる色にじみが発生している領域内での色情報の変動は、デフォーカス量を変数とした関数として考えることができる。
ここで、彩度Cおよび色相θのデフォーカス量を変数とした関数として、彩度変動関数fc(d)および色相変動関数fθ(d)を定義する。これらの2つの関数を特定することができれば、基準画像における色にじみを容易に補正できる。
彩度変動関数fc(d)および色相変動関数fθ(d)を特定するためには、原理的に被写体距離の情報、被写体色の情報および撮影条件に応じたフォーカス状態の変動に伴う撮影光学系101の光学性能の変動に関する情報(光学性能変動情報)が必要である。被写体距離に関しては、従来様々な測定手法が提案されているが、そのほとんどが撮影光学系以外に特殊な装置が必要である等、実施することが容易でないものであった。
そこで、本実施例では、既知のデフォーカス量だけフォーカス状態を異ならせた基準画像と比較画像との間での色情報の変動量から、被写体距離情報および被写体色情報と同等の情報を得る。
具体的には、システムコントローラ110は、まず基準画像の取得時(生成時)の撮影条件下におけるフォーカス状態の変動に伴う撮影光学系101の光学性能の変動に関する情報である光学性能変動情報を、予めこれら情報が記憶された記憶部108から取得する。光学性能変動情報は、軸上色収差、色のコマ収差および色の球面収差といった色収差の変動を示す情報である。この光学性能変動情報から、彩度変動関数fc(d)および色相変動関数fθ(d)のデフォーカス量に対する変動率が求められる。
そして、システムコントローラ110は、光学性能変動情報、基準画像と比較画像の各画素の色情報、C1,C2,θ1,θ2、被写体距離および被写体色をパラメータとして彩度変動関数fc(d)と色相変動関数fθ(d)を推定する演算を行う。すなわち、図9に示すfc(d)とfθ(d)グラフがC1,C2,θ1,θ2を通るように彩度変動関数と色相変動関数を推定する。
なお、本実施例では、基準画像と比較画像の2つの画像を用いて彩度変動関数fc(d)および色相変動関数fθ(d)を推定する場合について説明しているが、比較画像の数を増加させてより推定精度を向上させることもできる。
最後に、システムコントローラ110は、色にじみ補正の第3の処理として、彩度変動関数fc(d)および色相変動関数fθ(d)から、被写体色と色にじみ推定量とを算出する。そして、画像処理部104に、これら被写体色と色にじみ推定量とを用いて、基準画像に対してデフォーカスによる色にじみを低減するための色補正処理を行わせる(ステップS10)。
図5の下段に、色にじみ補正後の画像を示す。ここでは、G成分を基準として色にじみ補正を行っているが、R成分やB成分を基準とした色にじみ補正を行うことも可能である。
また、上述した各処理は、1画素ごとに行ってもよいし、高速化等の目的に応じて複数の画素を含む領域ごとに行ってもよい。
以上のようにして基準画像中の各画素に対する色にじみ補正が完了し、色にじみ補正後の出力画像を、図1に示す表示部105に表示したり、半導体メモリ等の記録媒体109に記録したりすることで、撮像処理が終了する。
本実施例では、撮影光学系101を撮像装置に一体的に設けた場合について説明したが、撮影光学系を含む交換レンズと該交換レンズが着脱される撮像装置本体とにより撮像装置を構成してもよい。
次に、本発明の実施例2について説明する。本実施例では、撮像素子102として、RGBのカラーフィルタがベイヤー配列形式で並べられた撮像素子(ベイヤー型撮像素子)を用いて撮影画像を生成する撮像装置について説明する。
ベイヤー型撮像素子の各画素から得られる信号は、RGBのいずれか1つの色成分の信号値を有している。このような信号によって形成される画像データをRAW画像データと称する。RAW画像データの各画素は、1つの色成分の信号値しか有していないため、出力画像として各画素にRGB値を持たせるために色合成処理(デモザイキング処理)を行う。色合成処理は、対象とする画素の周辺の複数の画素の信号値を用いて補間処理を行うことで、各画素にRGB値を持たせることができる。
しかし、RAW画像データは各画素に1つの信号値しか持たないため、色情報を抽出することができない。本実施例では、基準画像および比較画像がともにRAW画像である場合の色にじみ補正について説明する。本実施例の撮像装置の構成は、図1に示したものと基本的に同じであるので、共通する構成要素には図1と同符号を付す。
まず、システムコントローラ110は、各画素の色情報を得るため、色情報の取得対象画素の周辺の画素の信号値を用いて、取得対象画素の色に関する特徴量を抽出する。これは、上述した色合成処理によって行ってもよいし、色合成処理を必要最小限に簡易化した処理によって行ってもよい。また、色情報として、実施例1で説明した彩度や色相を用いてもよい。これ以外にも、YCbCr、XYZ、YuvおよびJChで表現される色空間のいずれかを選択して用いることができる。
このように、色に関する特徴量の表現方法は様々存在し、任意の表現方法で画素の色情報を表現することができる。このように本実施例にいう「色情報」は、色に関する特徴量であれば、どのような表現方法によって表される情報であってもよい。このことは、先に説明した実施例1のように、もともとの1画素がRGB値を有する場合も同じである。
システムコントローラ110は、このようにして取得した各画素の色情報を一旦保存しておく。そして、実施例1と同様に、フォーカス状態の異なる基準画像と比較画像の対応画素の色情報の変動量を判定することで、色にじみ領域を判定する。
なお、色にじみ領域の判定については、YCbCr等の色空間に対応した比較方法を用いて行ってもよい。その他、YuvのuvやLuvのuvを用いてもよい。
次に、システムコントローラ110は、色にじみ領域について、実施例1と同様の手法により、色にじみ量を推定して色にじみを補正する。
なお、色にじみ補正として、補正対象画素の近隣の画素を用いた補完による空間演算等の手法を用いることも可能である。また、色にじみ補正量に関しては、得ようとする出力画像の画質レベルや処理の負荷量の許容値等に応じて決定すればよい。
さらに、上記各実施例にて説明した色にじみ補正をより正確に行うために、基準画像と比較画像のエッジ部を抽出し、該エッジ部を参照してこれら画像の座標合わせを行ってもよい。
上記各実施例では、撮像装置に、画像処理装置としての画像処理部104を内蔵した場合について説明したが、本発明はこれに限らない。
例えば図10に示すように、撮像装置1401による撮像によって生成された画像をパーソナルコンピュータ1402に送信する。送信方法は、ケーブル方式、無線方式のいずれでもよく、インターネットやLANを介して送信してもよい。
そして、パーソナルコンピュータ1402において、図2のフローチャートのうちステップS7〜S10の色にじみ補正処理を行ってもよい。この場合、パーソナルコンピュータが本発明にいう画像処理装置として機能する。
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
デフォーカスによる色にじみを良好に補正可能な画像処理装置や撮像装置を提供できる。
101 撮影光学系
102 撮像素子
104 画像処理部
110 システムコントローラ

Claims (5)

  1. 撮像系により生成された互いにフォーカス状態が異なる第1の画像および第2の画像における対応画素の色に関する情報の差から、前記第1の画像にデフォーカスによる色にじみが発生しているか否かを判定する判定手段と、
    前記第1の画像に対して、前記判定手段によって判定された色にじみを補正する処理を行う補正手段とを有することを特徴とする画像処理装置。
  2. 前記補正手段は、前記撮像系のフォーカス状態の変動に応じた色収差の変動を示す情報と前記第1および第2の画像における各画素の前記色に関する情報とを用いて前記色にじみの量を推定し、該推定量に基づいて前記色にじみを補正する処理を行うことを特徴とする請求項1に記載の画像処理装置。
  3. 撮像により画像を生成する撮像系と、
    請求項1又は2に記載の画像処理装置とを有することを特徴とする撮像装置。
  4. コンピュータに、
    撮像系により生成された互いにフォーカス状態が異なる第1の画像および第2の画像を取得するステップと、
    前記第1および第2の画像における対応画素の色に関する情報の差から、前記第1の画像にデフォーカスによる色にじみが発生しているか否かを判定する判定ステップと、
    前記第1の画像に対して、前記判定ステップにて判定された前記色にじみを補正する処理を行う補正ステップとを含む画像処理を行わせることを特徴とする画像処理プログラム。
  5. 前記補正ステップは、前記コンピュータに、前記撮像系のフォーカス状態の変動に応じた色収差の変動を示す情報と、前記第1および第2の画像における各画素の前記色に関する情報とを用いて前記色にじみの量を推定させ、該推定量に基づいて前記色にじみを補正する処理を行わせることを特徴とする請求項に記載の画像処理プログラム。

JP2010021015A 2010-02-02 2010-02-02 画像処理装置、撮像装置および画像処理プログラム Expired - Fee Related JP5528139B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010021015A JP5528139B2 (ja) 2010-02-02 2010-02-02 画像処理装置、撮像装置および画像処理プログラム
US13/018,887 US9013609B2 (en) 2010-02-02 2011-02-01 Image processing apparatus, image pickup apparatus and image processing program for correcting color blur
US14/670,500 US9756307B2 (en) 2010-02-02 2015-03-27 Image processing apparatus, image pickup apparatus and image processing program for correcting color blur

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010021015A JP5528139B2 (ja) 2010-02-02 2010-02-02 画像処理装置、撮像装置および画像処理プログラム

Publications (3)

Publication Number Publication Date
JP2011160255A JP2011160255A (ja) 2011-08-18
JP2011160255A5 JP2011160255A5 (ja) 2013-03-14
JP5528139B2 true JP5528139B2 (ja) 2014-06-25

Family

ID=44341321

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010021015A Expired - Fee Related JP5528139B2 (ja) 2010-02-02 2010-02-02 画像処理装置、撮像装置および画像処理プログラム

Country Status (2)

Country Link
US (2) US9013609B2 (ja)
JP (1) JP5528139B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10992854B2 (en) 2017-11-02 2021-04-27 Canon Kabushiki Kaisha Image processing apparatus, imaging apparatus, image processing method, and storage medium

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8520125B2 (en) * 2009-10-27 2013-08-27 Panasonic Corporation Imaging device and distance-measuring device using same
DE102011108754A1 (de) * 2011-07-28 2013-01-31 Khs Gmbh Inspektionseinheit
US9401012B2 (en) * 2012-10-18 2016-07-26 Athentech Technologies Inc. Method for correcting purple distortion in digital images and a computing device employing same
JP6916416B2 (ja) * 2016-07-05 2021-08-11 株式会社ニコン 撮像装置
JP7310750B2 (ja) * 2020-08-07 2023-07-19 トヨタ自動車株式会社 色味補正システム及び色味補正方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7231097B2 (en) * 2003-12-16 2007-06-12 Searete, Llc Lens defect correction
US7147332B2 (en) * 2004-07-21 2006-12-12 3M Innovative Properties Company Projection system with scrolling color illumination
US8035721B2 (en) * 2004-08-05 2011-10-11 Panasonic Corporation Imaging apparatus
JP4539278B2 (ja) 2004-10-13 2010-09-08 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4536641B2 (ja) * 2005-11-02 2010-09-01 ルネサスエレクトロニクス株式会社 画像ぶれ補正装置、画像ぶれ補正方法及び画像ぶれ補正プログラム
JP2008085773A (ja) 2006-09-28 2008-04-10 Olympus Corp 色収差補正撮像装置及び色収差補正方法
JP4757185B2 (ja) * 2006-12-20 2011-08-24 キヤノン株式会社 光学機器
US7859588B2 (en) * 2007-03-09 2010-12-28 Eastman Kodak Company Method and apparatus for operating a dual lens camera to augment an image
JP4678603B2 (ja) * 2007-04-20 2011-04-27 富士フイルム株式会社 撮像装置及び撮像方法
JP4825748B2 (ja) * 2007-07-13 2011-11-30 株式会社モルフォ 画像データ処理方法および撮像装置
CN101601306B (zh) * 2007-09-07 2011-05-18 松下电器产业株式会社 多色图像处理装置以及信号处理装置
KR101399012B1 (ko) * 2007-09-12 2014-05-26 삼성전기주식회사 영상 복원 장치 및 방법
US8279318B2 (en) * 2007-12-14 2012-10-02 Canon Kabushiki Kaisha Image pickup apparatus and display control method for the same
JP5188846B2 (ja) * 2008-03-10 2013-04-24 日本電子株式会社 走査型透過電子顕微鏡の収差補正装置及び収差補正方法
JP5132401B2 (ja) * 2008-04-16 2013-01-30 キヤノン株式会社 画像処理装置及び画像処理方法
KR101000623B1 (ko) * 2008-12-31 2010-12-10 포항공과대학교 산학협력단 색수차 검출 및 보정 방법, 이를 이용한 영상 처리 장치 및그 방법
US8111300B2 (en) * 2009-04-22 2012-02-07 Qualcomm Incorporated System and method to selectively combine video frame image data

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10992854B2 (en) 2017-11-02 2021-04-27 Canon Kabushiki Kaisha Image processing apparatus, imaging apparatus, image processing method, and storage medium

Also Published As

Publication number Publication date
US20150201173A1 (en) 2015-07-16
JP2011160255A (ja) 2011-08-18
US9013609B2 (en) 2015-04-21
US9756307B2 (en) 2017-09-05
US20110187887A1 (en) 2011-08-04

Similar Documents

Publication Publication Date Title
JP5546229B2 (ja) 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
JP6327922B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US8531545B2 (en) Image processing apparatus, including a filter acquisition part, and image pickup apparatus
JP5709911B2 (ja) 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置
JP5959976B2 (ja) 画像処理方法、画像処理プログラム、画像処理装置および撮像装置
US8849055B2 (en) Image processing apparatus and method
JP6516429B2 (ja) 距離計測装置、撮像装置、および距離計測方法
JP2011123589A5 (ja)
US8724008B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and program for performing image restoration
JP5528139B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
EP3276955A1 (en) Image processing apparatus, image processing method, and image processing program
JP2011160255A5 (ja)
JP2013045404A (ja) 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
EP3276944B1 (en) Image processing apparatus, image capturing apparatus, image processing method, and image processing program
JP6494416B2 (ja) 画像処理装置、撮像装置、画像処理方法および画像処理プログラム
JP5268533B2 (ja) 画像処理方法、画像処理装置、撮像装置及び画像処理プログラム
JP5786355B2 (ja) デフォーカス量検出装置および電子カメラ
JP6415108B2 (ja) 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体
JP6436840B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2015109681A (ja) 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置
JP6238673B2 (ja) 画像処理装置、撮像装置、撮像システム、画像処理方法、画像処理プログラム、および、記憶媒体
JP6486076B2 (ja) 画像処理装置および画像処理方法
JP6604737B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2007174089A (ja) 画像処理装置
JP2017118293A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130128

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140318

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140415

R151 Written notification of patent or utility model registration

Ref document number: 5528139

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees