JP4706635B2 - 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ - Google Patents

色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ Download PDF

Info

Publication number
JP4706635B2
JP4706635B2 JP2006512318A JP2006512318A JP4706635B2 JP 4706635 B2 JP4706635 B2 JP 4706635B2 JP 2006512318 A JP2006512318 A JP 2006512318A JP 2006512318 A JP2006512318 A JP 2006512318A JP 4706635 B2 JP4706635 B2 JP 4706635B2
Authority
JP
Japan
Prior art keywords
image
color
correction
image processing
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006512318A
Other languages
English (en)
Other versions
JPWO2005101854A1 (ja
Inventor
暁彦 宇津木
健一 石賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2006512318A priority Critical patent/JP4706635B2/ja
Publication of JPWO2005101854A1 publication Critical patent/JPWO2005101854A1/ja
Application granted granted Critical
Publication of JP4706635B2 publication Critical patent/JP4706635B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Processing Of Color Television Signals (AREA)
  • Color Image Communication Systems (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像処理装置、画像処理プログラム、および電子カメラに関する。
一般に、電子カメラでは、撮影光学系の倍率色収差によって、撮像された画像データに色ズレを生じることが知られている。このような色ズレを、画像処理によって補正する技術が従来提案されている。
例えば、特許文献1の従来装置は、まず、画像のエッジ部分について色ズレを検出し、その色ズレに基づいて画像処理を行って倍率色収差を補正する。
また、特許文献2の従来装置は、画像の色コンポーネントごとに倍率調整を行い、色コンポーネント間の差分の最小点を探すことで、倍率色収差を補正する。
また、特許文献3には、動画撮影時などに発生する色ずれを補正する技術として、局所的に色ずれを検出する技術が記載されている。
特開2000−299874号公報 特開2002−344978号公報(図1,図3) 特許2528826号
ところで、単板式の撮像素子を搭載した電子カメラでは、撮像面にRGBなどの色フィルタが配列され、画素単位に色成分一種類ずつを配置したRAWデータが生成される。
電子カメラは、このRAWデータの欠落色成分を色補間処理で生成することにより、画素ごとに全色揃った画像データを生成する。この色補間処理に伴って、画像データには偽色ノイズが発生する。この偽色ノイズを軽減するため、電子カメラは、画像データの色差成分に対して空間周波数ローパスフィルタを施す(以下、この処理を『色差LPF』という)。
本願発明者は、この色差LPFや偽色の影響によって、特許文献1,2における収差量の検出や補正に弊害を生じることに気が付いた。以下、この弊害について説明する。
[色差LPFによる弊害]
空間周波数の高い画像領域(つまりエッジ部分や微細な絵柄部分)では、倍率色収差による色ズレが、細かな色差変化となって現れる。この細かな色差変化は、高域の色差成分となるため、上述した色差LPFによって除去される。その結果、空間周波数の高い画像領域では、色差LPFの処理よって倍率色収差の色ズレが軽減される。
一方、空間周波数の低い画像領域(緩やかに変化するグラデーション部分)では、倍率色収差による色ズレが、緩やかで低域の色差変化となって現れる。この低域の色差変化は、上述した色差LPFでは除去されずに、そのまま通過する。すなわち、空間周波数の低い画像領域では、色差LPFの処理を経ても倍率色収差の色ズレが残存する。
このように色差LPFを経ることによって、画面内において、倍率色収差の軽減された領域と、倍率色収差の残存した領域とが混在した状態(ムラ)となる。
上述した特許文献1,2は、倍率色収差による色ズレが画面中心(光軸中心)に対して点対称に発生することを前提とする。しかしながら、色差LPFを経ると、倍率色収差にはムラが生じ、この点対称性は簡単に崩れてしまう。このような状態で、収差量検出を行えば、検出結果に誤りが生じるようになる。
[偽色による弊害]
ところで、上述した倍率色収差の検出や補正に対する弊害を避けるために、色差LPFを外したり、弱めたりすると、今度は色補間時の偽色ノイズがそのまま残存するという問題を生じる。この場合、画面内には、倍率色収差による色ズレと、偽色ノイズとが複雑に混在した状態となる。このような状態でも、収差量の検出結果に誤りが生じるようになる。
特に、特許文献1,2では、倍率色収差の色ズレ補正を画面に対して一律に施すため、この誤りを避けることができない。そのため、色差LPFによって倍率色収差の色ズレが予め軽減されている領域では、色ズレ補正が過剰に作用し、しばしば逆方向の色ズレを生じてしまう。その結果、一段と複雑な偽色ノイズが生じてしまう。
[色ずれが中心点対称に発生していない場合の弊害]
また、特許文献1,2では、画像の画面中心を、撮影時に使用した撮影レンズの光軸とし、この光軸を中心として規則的に倍率色収差が発生することを前提としている。したがって、あおりレンズや手振れ補正機能付きレンズのように、倍率色収差の中心が画面中心からずれる場合には、これを補正することができない。また、処理対象の画像がトリミング後の画像であって、光軸に対応する位置がわからない場合も補正することができない。
なお、前述した特許文献3では、局所的に色ずれを検出する。しかし、補正を行う必要のない箇所でも検出を行うため、処理に時間がかかる。また、補正対象箇所の位置や構造によらず、すべての箇所で同じように色ずれを検出するため、余計な処理時間がかかる。さらに、補正が適切に行われない場合もある。
[本発明の目的]
そこで、本発明は、複数の色成分面を有する画像に対し、色ずれ補正を適正化するための技術を提供することを目的とする。
また、本発明は、画像の色ずれ補正に際して、色ずれの誤補正を監視するという新しいアイデアを提案することを目的とする。
また、本発明は、偽色などの影響を勘案することで、倍率色収差の色ずれを正しく検出する技術を提案することを目的とする。
発明の画像処理装置は、複数の色成分面で表された画像に対して画像処理を施す画像処理装置であって、補正手段、および誤補正検出手段を備える。
この補正手段は、画像の取得時に用いられた光学系の収差によって画像に生じた色ずれを補正する。
一方、誤補正検出手段は、補正手段による補正前後の画像を比較して、補正手段による誤補正を判定する。
お好ましくは、誤補正検出手段は、補正手段により色ずれが補正された画像の処理対象箇所の色差が、補正前画像を基準に設定される許容範囲内にない場合を誤補正とすることを特徴とする。
た好ましくは、誤補正検出手段は、補画像の色差を許容範囲内に制限することにより、誤補正を抑制することを特徴とする。
お好ましくは、誤補正検出手段は、補正前の画像の処理対象箇所を含む局所域の色差、および所定の低彩度色差からなる群の最小色差から最大色差までを求めて、許容範囲とすることを特徴とする。
た好ましくは、補正手段は、誤補正検出手段が誤補正を判定すると、色ずれ補正のずらし幅を抑制することにより、誤補正を抑制することを特徴とする。
お好ましくは、上記の光学系の収差倍率色収差あり、補正手段は、倍率色収差をうち消す方向に、色成分面の倍率調整(リサイズ)を行うことを特徴とする。
発明の画像処理プログラムは、コンピュータを、本発明の画像処理装置として機能させることを特徴とする。
発明の電子カメラは、本発明の画像処理装置と、被写体像を撮像して画像を生成する撮像部とを備える。この電子カメラでは、撮像部で生成された画像が画像処理装置で処理される。
本発明の画像処理装置は、単に色ずれを検出して補正するだけではなく、その色ずれの補正に伴い、補正前後の画像について比較を実施する。その比較結果から、色ずれの誤補正を判別する。
このように色ずれの誤補正発生を監視することによって、色ずれ補正を実施するだけでは対処できなった誤補正の問題に対して、警告や事後的な対処が可能になる。
例えば、誤補正箇所に限って色ずれ補正を修復するなどの対処が可能になる。
また例えば、誤補正箇所が所定数(所定面積)以上となった場合、その判定結果を参考材料にして、色ずれ補正を修正してやり直すなどの対処が可能になる。
特に、本発明の画像処理装置は、色ずれ補正の前後の色差変化に従って、誤補正を検出する。通常、色ずれが正しく補正されれば、色ずれ箇所の異常な色差は打ち消される方向に変化する。一方、色ずれが過剰に補正され、逆向きの色ずれが生じる場合には、色ずれ箇所の色差は逆符号に変化することが多い。そこで、色ずれの補正前後において色差変化を監視することによって、誤補正を一段と適確に判定することが可能になる。
お、本発明における上述した目的およびそれ以外の目的は、以下の説明と添付図面とによって容易に確認することができる。
第1の実施形態におけるプログラムを説明する流れ図である。 分割領域と動径方向の設定例を示す図である。 レベル変化箇所の検出を説明する図である。 倍率差のヒストグラム分布を示す図である。 逆向きの色ズレの軽減作用を説明する図である。 許容範囲による効果を説明する図である。 第2の実施形態における領域分割を説明する流れ図である。 変位ベクトルの算出を説明する図である。 コンピュータ10の構成を示すブロック図である。 第3の実施形態の動作を示すフローチャートである。 色ずれ検出方向について説明する図である。 フィルタについて説明する図である。 エッジの幅の検出について説明する図である。 動径方向について説明する図である。 エッジの幅の検出について説明する図である。 第5の実施形態の動作を示すフローチャートである。 電子カメラの実施形態を示す図である。
《第1の実施形態》
図1は、画像処理プログラムによるコンピュータ動作を説明する流れ図である。この画像処理プログラムにより、コンピュータを、画像処理装置として機能させることができる。
以下、図1に示すステップ番号に沿って、第1の実施形態の動作を説明する。
[ステップS1]
コンピュータは、電子カメラで撮像された画像データ(以下『入力画像』という)を、記録媒体や通信インターフェースを経由して取り込む。この入力画像には、電子カメラ内において、色補間および色差LPFが既に施されている。
[ステップS2]
コンピュータは、入力画像の画面内に、撮影光学系の光軸中心を設定する。通常は、入力画像の画面中心を、この光軸中心としてデフォルト設定する。なお、コンピュータは、入力画像の付随情報(Exif情報など)から、光軸中心の位置を取得してもよい。特に、クロップ画像(トリミング等した部分画像)について光軸中心の位置を取得することが好ましい。
次に、コンピュータは、この光軸中心を原点にして入力画像を周方向に分割し、複数の分割領域と、各分割領域の動径方向を設定する。
図2は、この分割領域と動径方向の設定例を示す図である。この設定では、まず、入力画像を8個の分割領域N、NE、E、SE、S、SW、W、NWに分割し、分割領域ごとに図示する矢印を動径方向とする。
続いて、コンピュータは、入力画像のRGB成分から輝度Yを下式などによって簡易に演算する。
Y=(R+G+B)/3
コンピュータは、倍率色収差が視認可能な画面域(光軸中心から最大像高の5割以上離れた領域など)において、輝度Yの動径方向のレベル変化を算出する。
ここでは、動径方向を分割領域ごとに固定することで、下式に基づいた簡易演算を行うことが可能になる。
分割領域N : gradY(x,y)=Y(x,y-1)-Y(x,y)
分割領域NE: gradY(x,y)=Y(x+1,y-1)-Y(x,y)
分割領域E : gradY(x,y)=Y(x+1,y)-Y(x,y)
分割領域SE: gradY(x,y)=Y(x+1,y+1)-Y(x,y)
分割領域S : gradY(x,y)=Y(x,y+1)-Y(x,y)
分割領域SW: gradY(x,y)=Y(x-1,y+1)-Y(x,y)
分割領域W : gradY(x,y)=Y(x-1,y)-Y(x,y)
分割領域NW: gradY(x,y)=Y(x-1,y-1)-Y(x,y)
コンピュータは、求めたgradY(x,y)の絶対値が、所定値Th(たとえば256階調データにおいて10程度)以上を示す画素位置(x,y)を探索する。
このとき、コンピュータは、図3に示すような箇所において、明暗の変わり始める始点aと、変わり終わる終点bとを求める。次に、コンピュータは、これらabの中間点cをレベル変化箇所として記憶し、ab間の距離をエッジの太さとして記憶する。
なお、このレベル変化箇所の検出は、画面上において所定のサンプリング間隔を置いて離散的に実施してもよい。
[ステップS3]
コンピュータは、レベル変化箇所を中心に局所的なウィンドウを設定し、このウィンドウ内のG配列を取得する。さらに、コンピュータは、このウィンドウを動径方向に変位させた位置からR配列を取得する。次に、コンピュータは、G配列の平均値とR配列の平均値とが一致するようにR配列の各信号レベルを調整した後、G配列とR配列の要素単位の差分を取り、この差分の絶対値を累積加算して重ね合わせ誤差を求める。
コンピュータは、G配列に対するR配列の変位幅を変化させながら、重ね合わせ誤差が最小(または極小)となる変位幅を探索し、このときの変位幅をRG成分間の色ズレ幅として記憶する。
なお、このとき、重ね合わせ誤差の値を内挿することにより、色ズレ幅を画素間隔以下の精度で求めることが好ましい。
また、ステップS2で求めたエッジ太さが太いほど、このウィンドウを広く設定することが好ましい。特に、ウィンドウの幅をエッジ太さの4倍程度に設定することが好ましい。このようなウィンドウ調整により、急峻なエッジと、緩やかなエッジの双方において、エッジ部分のレベル変化の特徴をウィンドウ内に収めることが可能となる。その結果、急峻なエッジと、緩やかなエッジの双方において、色ズレ幅を適切に検出することが可能になる。
[ステップS4]
コンピュータは、レベル変化箇所ごとに求めた色ズレ幅を、そのレベル変化箇所の像高(光軸中心からの動径)でそれぞれ割って、R面とG面の倍率差を算出する。
[ステップS5]
コンピュータは、レベル変化箇所ごとに求めた倍率差の度数を集計して、ヒストグラム分布を作成する。
図4は、このヒストグラム分布の一例を示す図である。図4に示す実線は、上述した色差LPF後の入力画像について求めたヒストグラム分布である。この場合の最頻度値はほぼゼロの値をとる。これは、色差LPFによって倍率色収差の大部分が軽減されていることを示す。一方、この最頻度値から広がる裾野形状は非対称となり、図4ではマイナス側に偏った裾野形状を示す。この裾野形状の偏りは、残存する倍率色収差を示すものである。すなわち、残存する倍率色収差による倍率差がほぼ一様にマイナスの値をとるためである。したがって、求めるべき撮影光学系の真の倍率差は、この裾野形状の偏った側に存在する。
一方、図4に示す点線は、RAWデータ(色補間前および色差LPF前のデータ)について、実験的に倍率差のヒストグラム分布をとったものである。このRAWデータの場合、色差LPFによる倍率色収差の軽減作用を受けていないため、最頻度値を中心として裾野形状はほぼ対称形になり、ほぼ正規分布になると考えられる。この場合、最頻度値の値が、求めるべき撮影光学系の倍率差を示していると考えてよい。
[ステップS6]
しかしながら、電子カメラ側においてRAWデータが保存されず、色差LPF後の入力画像のみの場合には、実線ヒストグラムから倍率差を求める必要がある。そこで、改めて両ヒストグラムの特徴を比較すると、つぎのような経験則が見いだせる。
(1) まず、実線ヒストグラムの最大度数の2割程度に該当する裾野範囲を求め、この裾野範囲の上下限の内、絶対値の大きな方の倍率差の値を選択する。この処理により、RAWデータから得られる最頻度値の倍率差とほぼ等しい値を推定できる。
(2) また、RAWデータから求めた最頻度値の倍率差は、色差LPF後の入力画像から求めた実線ヒストグラムの裾野形状の偏った側のほぼ中央の値にも等しい。
(3) さらに、実線ヒストグラムの偏りの少ない側を、最頻度値を中心に対称に折り返すことで色差LPFの影響を受けた箇所の倍率差バラツキを推定できる。これを実線ヒストグラムから減算することにより、倍率色収差の残存する箇所のみの倍率差バラツキを抽出することができる。この抽出された倍率差バラツキについて最頻度値や平均値や中央値などを求めることで、色差LPFの影響を受けない『真の倍率差』を推定することもできる。
コンピュータは、ここでは上記(1)(2)(3)のいずれかの推定方法に従って、色差LPF後の実線ヒストグラムから撮影光学系の倍率差を算出し、R面の倍率差係数kとして記憶する。
[ステップS7]
このように求めたR面の倍率差係数kを用いて、コンピュータは、R面の倍率調整を行い、G面とR面の色ズレを補正する。
しかしながら、色差LPFの影響を受けた箇所にまで色ズレ補正を施すと、逆向きの色ズレを発生してしまう。そこで、コンピュータは、この逆向きの色ズレを抑制するため、色ズレ補正後の色差の許容範囲を定める。
この許容範囲の第1候補として、コンピュータは、入力画像の画素位置ごとに色差データCrを求める。この色差データCrは、入力画像の画素位置(x,y)ごとに
Cr=R(x,y)−G(x,y)
を算出すればよい。
[ステップS8]
次に、コンピュータは、R面の倍率差係数kを用いて下式を算出し、G面の画素位置(x,y)ごとに、対応するR面の色ズレを変位ベクトル(dx,dy)として求める。
dx=-k(x-xo)
dy=-k(y-yo)
ただし、(xo,yo)は光軸中心である。
続いて、コンピュータは、G面の画素位置(x,y)と変位ベクトル(dx,dy)とから、倍率色収差によって変位したR画素の位置(x-dx,y-dy)を求め、参照位置とする。
[ステップS9]
次に、コンピュータは、入力画像の補間処理により、参照位置(x-dx,y-dy)における画素値R′,G′を算出する。
続いて、コンピュータは、上述した許容範囲の第2候補として、参照位置の色差Cr′を下式により算出する。
Cr′=R′−G′
[ステップS10]
さらに、コンピュータは、上述した許容範囲の第3候補として低彩度色差(ここでは色差ゼロ)を選択する。この低彩度色差は、逆向きの色ズレによって色差Cr、Cr′と異符号の色差が発生する可能性が高いために、補正後の色差を低彩度に制限しようとするものである。
そのため、低彩度色差は、色差ゼロに限らず、低彩度を示す色差であればよい。
コンピュータは、これら3つの候補を用いて、G画素位置ごとに許容範囲の上限および下限を次のように定める。
色差上限=max(0,Cr,Cr′)
色差下限=min(0,Cr,Cr′)
なお、補正前画像から収集した画素位置(x,y)を含む局所域の色差と、低彩度色差とからなる色差群を収集し、この色差群の色差上限と色差下限とをもって許容範囲を決定してもよい。この許容範囲は、補正前画像から許容範囲を簡易に決定できるという利点がある。
[ステップS11]
次に、コンピュータは、参照位置(x-dx,y-dy)の画素値R′と、画素位置(x,y)の画素値Gとから、色ズレ補正後に現れる色差(R'-G)を仮に求める。
コンピュータは、この色差(R'-G)を、ステップS10で定めた色差上限および色差下限により制限する。このとき、この許容範囲から色差がはみ出す箇所が、色ずれ誤補正の検出箇所となる。
具体的には、
色差下限≦色差(R'-G)≦色差上限ならば、画素値R′を補正後のR成分Routとする。
色差下限>色差(R'-G)ならば、下限の画素値(G+色差下限)をR成分Routとする。
色差上限<色差(R'-G)ならば、上限の画素値(G+色差上限)をR成分Routとする。
コンピュータは、このような制限処理を、画素位置(x,y)ごとに実施することにより、
倍率色収差を補正し、かつ逆向きの色ズレを抑制したR面が完成する。
なお、G値を基準に色差下限および色差上限だけ振った幅で、R′値を制限する演算により、上記の誤補正の判定とその抑制とを同時に実施してもよい。
また、上記とは別の方法として、色差(R'-G)が許容範囲内にない場合には、その箇所について色ずれの補正幅を小さくして補正をやり直してもよい。また、許容範囲内にない箇所が一定量(一定面積)以上に発生した場合には、倍率差の値を小さくしてR面全体について色ずれ補正をやり直してもよい。
[ステップS12]
次に、コンピュータは、入力画像のB成分についても同様の処理を実施し、色ズレ補正後のB成分Boutを、画素位置(x,y)ごとに求める。
[ステップS13]
コンピュータは、入力画像の元々のG成分、色ズレ補正で求めたR成分Rout、および同様の色ズレ補正で求めたB成分Boutを、カラーコンポーネントとする出力画像を出力する。
《第1の実施形態の効果など》
図5は、本実施形態の作用効果を説明する図である。
まず、図5[A]には、緩やかなエッジ(R,G)と、急峻なエッジ(R″,G″)を示す。これら両エッジの像高が等しければ、両エッジには倍率色収差による色ズレΔCが等しく発生する。
図5[B]は、両エッジの色差をそれぞれ示したものである。この場合、色ズレΔCによって、緩やかなエッジには、低域の色差変化(R−G)が現れる。一方、急峻なエッジには、色ズレΔCによって、高域の色差変化(R″−G″)が現れる。
図5[C]は、この両方の色差変化に対して、色差LPFを施した結果である。この場合、緩やかなエッジでは、低域の色差変化が温存されてそのまま通過する。一方、急峻なエッジでは、高域の色差変化が色差LPFによって抑制される。
図5[D]は、色差LPF後のRG成分(図中のR1およびG)を示す。この場合、緩やかなエッジでは、色差LPF前後のR成分R,R1はさほど変化せず、倍率色収差の色ズレΔCがそのまま残存する。
一方、急峻なエッジでは、色差LPFの作用により高域の色差変化が抑制されるため、色差LPF後のRG成分(図中のR1″およびG″)の位相差が小さくなり、結果的に倍率色収差による色ズレが改善される。
このような理由から、色差LPFの完了後、空間周波数の低域箇所に倍率色収差が残存し、高域箇所では倍率色収差が軽減される。
このように、局所的な画像構造によって、画面内に倍率色収差のムラが生じる。そのため、図4に示す実線ヒストグラムは、単純な正規分布とはならず、ヒストグラムのバラツキに非対称な偏りが発生する。本実施形態のステップS6では、この非対称な偏りに着目することにより、本来は対称になるべき倍率差のバラツキ分布を推定し、その推定結果から真の倍率差(倍率差係数)を決定することに成功している。
図5[E]は、このように決定した倍率差係数を用いてR成分の色ズレΔCを元の画素位置に戻した状態を示す。この場合、緩やかなエッジでは、図中のR2まで変位することにより、倍率色収差の除去に成功する。一方、急峻なエッジは、色差LPFの影響を受けているために、色ズレ補正が過剰に作用して図中のR2″まで変位し、逆向きの色ズレが発生してしまう。
図5[F]は、この色ズレ補正後の色差(R2−G)、および(R2″−G″)を示す。この場合、緩やかなエッジは、良好に色ズレが補正されるため、色ズレ補正の前後で色差(R2−G)は大きく変化しない。一方、急峻なエッジは、逆向きの色ズレが発生しているため、色ズレ補正の前後で色差(R2″−G″)は大きく変化する。この性質に着目して、本実施形態のステップS10では色ズレ補正の前後で色差が大きく変化しないよう、許容範囲を定める。
図5[G]は、このように定められた許容範囲(図中の縦縞領域)を示す。緩やかなエッジでは、色ズレ補正の前後の色差変化が小さく、この許容範囲にほぼ収まるため、色ズレ補正の制限は積極的にはかからない。一方、急峻なエッジでは、逆向きの色ズレにより、色ズレ補正の前後の色差変化は大きく、この許容範囲によってその色差変化が積極的に制限される。
図5[H]は、色差制限を実施した色ズレ補正後の画像データである。緩やかなエッジでは、図中に示すR2とGのように、色差制限が殆どかからず、良好な色ズレ補正がそのまま維持される。一方、急峻なエッジでは、図中に示すR3″とG″のように、色差制限がかかるために、色ズレ補正が弱くなる。その結果、逆向きの色ズレが抑制される。
なお、ここで説明した色差制限は、色差LPF処理をされた画像に対してだけではなく、一般の画像の色ずれを補正するときの誤補正(特に過補正)を抑制する場合にも有効である。
図6は、色差の上限と下限をそれぞれmax(0,Cr,Cr′),min(0,Cr,Cr′)とした理由を説明する図である。
図6[A]は、許容範囲の色差上限を仮にmax(0,Cr)とした場合に、画像構造が消滅してしまう一例である。この画像はG成分に変化がなく、R成分R1が局所的に大きく変動する。その結果、R成分R1のピーク箇所では色差も大きくなる。このR成分R1を図6[B]に示すように図面右方向にずらして補正すると、補正後の色差に新たなピークが生じる。この補正後の色差が大きなピークを持つのは、画像の構造に由来するものであり、偽色や副次的な色ずれによって生じるものではない。ここで、仮に色差上限max(0,Cr)とすると、許容範囲は図6[C]に示す斜線領域となり、補正後の色差は図6[D]に示すRG成分のように消えてしまう。
このような画像構造の破壊を回避するためには、『参照位置の色差Cr′』または『近傍の局所域の色差群Cr』を許容範囲に反映させることが重要となる。このような工夫により、許容範囲は、図6[E]または図6[F]の斜線範囲となる。このような許容範囲では、補正後の色差ピークが保たれ、図6[G]に示すR2,Gのように画像構造が正しく保たれる。
同様にして、図6[H]は、許容範囲の色差下限をmin(0,Cr)とした場合に、画像構造が破壊される一例である。図6[I]は、許容範囲の色差上限をmax(0,Cr′)とした場合に、画像構造が破壊される一例である。図6[J]は、許容範囲の色差下限をmin(0,Cr′)とした場合に、画像構造が破壊される一例である。これらケースのいずれも、図6[A]〜[G]と同様の手順で、補正後の画像構造が正しく保たれることを検証できる。
《第2の実施形態》
図7および図8は、第2の実施形態を説明する図である。
一般に、撮影光学系の光軸中心は、画像データの画面中心にほぼ位置する。そのため、通常は、画面中心に対して点対称に倍率色収差が生じる。
しかしながら、一部の撮影光学系(シフトレンズや手振れ補正レンズ)では、撮影光学系の光軸中心が、画像データの画面中心と必ずしも一致しない。また、電子カメラやコンピュータ上の処理で画像データをトリミング(クロッピング)することにより、撮影光学系の光軸中心と、画面データの画面中心とが一致しなくなるケースも想定される。また、万一にもレンズに製造誤差が発生すれば、倍率色収差が画面中心に対して点対称に生じない場合も懸念される。また、画像に生ずる色ずれは被写体の分光分布にも依存するため、領域ごとに異なった色ずれが生じる場合もある。このようなケースにおいて、画面中心に色ズレ補正を施すと、補正効果が若干低くなる。
そこで、第2の実施形態では、このように光軸中心が画面中心からずれているケースにおいても、有効な色ズレ補正を開示する。
以下、この第2の実施形態の動作を説明する。
(1) コンピュータは、上述したステップS2〜S4、あるいはステップS21〜S24の動作を実行し、8個の分割領域N、NE、E、SE、S、SW、W、NWごとに色ズレの倍率差を算出する。
(2) 次に、コンピュータは、図7に示すように、これらの分割領域を3個ずつ組み合わせて、上側グループ(NW,N,NE)、右側グループ(NE,E,SE)、下側グループ(SE,S,SW)、左側グループ(SW,W,NW)に分類する。コンピュータは、これらの4つの分類ごとに、倍率差のヒストグラム解析を行い、4つの倍率差係数Kn,Ke,Ks,Kwをそれぞれ求める。
(3) 続いて、コンピュータは、図14に示すように、画面を右上,右下,左下,左上に区分する。コンピュータは、隣接グループの倍率差係数を組み合わせて、下式に従ってベクトル合成することにより、色ズレの変位ベクトル(dx,dy)を算出する。
右上:dx=−ke(x−xo)、dy=−kn(y−yo)
右下:dx=−ke(x−xo)、dy=−ks(y−yo)
左下:dx=−kw(x−xo)、dy=−ks(y−yo)
左上:dx=−kw(x−xo)、dy=−kn(y−yo)
ただし、(xo,yo)は画面中心である。
このように複数方向の倍率差係数をベクトル合成して使用する。このとき、各方向の倍率差係数が異なれば、上式の変位ベクトルの交差点すなわち光軸中心は、画面中心(xo,yo)からずれる。したがって、光軸中心が画面中心(xo,yo)からずれているケースであって、上記計算によって柔軟に対応することが可能となり、より適切かつ汎用的な変位ベクトルを算出することが可能になる。
なお、この変位ベクトル(dx,dy)を求めた後の動作については、第1の実施形態と同様であるため、ここでの説明を省略する。
《第3の実施形態》
第3の実施形態では、本発明の画像処理機能を備えたコンピュータを用いて説明を行う。
コンピュータ10は、図9に示すように、制御部1,外部インタフェース部2,操作部3を備える。制御部1は、本発明の画像処理を行うためのプログラムを予め記録している。また、外部インタフェース部2は、所定のケーブルや無線伝送路を介して電子カメラなどの外部機器とのインタフェースをとる。また、操作部3は、不図示のキーボードやマウスなどを備える。
図9のような構成のコンピュータ10において、外部インタフェース部2は、制御部1の指示にしたがって、不図示の電子カメラなどの外部機器から、画像を取り込み可能である。また、操作部3は、各種ユーザ操作を受け付ける。操作部3の状態は、制御部1によって検知される。
図10は、色ずれ補正の大まかな流れを示す図である。以下、ステップ番号に沿って説明する。
[ステップS101]
コンピュータ10はまず、外部インタフェース部2を介して、不図示の電子カメラなどの外部機器から画像を読み込む。なお、コンピュータ10内の不図示の記録部に記録されている画像を読み込む(読み出す)ようにしても良い。このとき、読み込まれる画像は処理対象の画像であり、R,G,Bの色成分面を有する画像である。
ここでは、読み込む画像のx軸方向の画素数をNx、y軸方向の画素数をNyとし、原点を画像の四隅の何れかとする。
[ステップS102]
制御部1は、まず、エッジを検出する。エッジの検出は、まず、輝度Yを、例えば、Y=(R+G+B)÷3として求め、画像の全画素について輝度の微分を縦方向、横方向、斜め45度方向、斜め135度方向の8方向について行う。この8方向は、図11のa〜hに示す方向である。また、輝度の微分は、ぞれぞれ図12のa〜hに示すフィルタを用いて行う。そして、8方向における輝度の微分の何れかが、所定値(例えば、256階調で10程度)よりも大きい場合にその箇所をエッジとする。
制御部1は、以上の処理を画像全体について行い、エッジを検出する。
そして、検出したエッジの近傍に、数画素間隔で色ずれ方向検出箇所を設け、その箇所において上記で輝度の微分を求めた8方向のうち、輝度の微分が最も大きい方向をエッジの輝度の勾配方向とする。そして、このエッジの輝度の勾配方向を、後述する色ずれ検出方向とする。
次に、制御部1は、前述した輝度の勾配方向について、エッジの幅を検出する。図13を用いて具体的に説明する。図13(a)は処理対象の画像の全体図であり、図13(b)は、部分拡大図である。図13中の画素Aは前述した色ずれ検出箇所の一例を示す。なお、図13は、輝度の勾配方向が、図11の矢印dの方向である例を示す。図13中の斜線部分は被写体領域を示す。
図13に示すように矢印dの方向について、エッジの幅を検出する場合、画素Aと、矢印dに沿って画素Aに隣接する画素との微分を求める。次に、さらに隣接する画素間の微分を求め、ある画素P(p)がエッジでなく、次の画素P(p+1)がエッジである場合、画素P(p)を、画素Bとする(図13参照)。さらに、反対方向についても同様の処理を行い、ある画素P(q)がエッジであり、次の画素P(q+1)がエッジでない場合、画素P(q)を、画素Cとする(図13参照)。このようにして求められた画素Bおよび画素Cは、図13に示すように、略エッジ端の画素に相当する。そして、制御部1は、画素Bと画素Cとの距離をエッジの幅とする。このエッジの幅に基づき、後述するウィンドウの大きさを決める。具体的には、ウィンドウの大きさを、エッジの幅の4倍程度にする。
さらに、制御部1は、画素A,B,CにおいてRの色差Cr=(R−G)、Bの色差Cb=(B−G)を求め、画素AのCrの絶対値が画素B,CのCrの絶対値よりも大きいか、または画素AのCbの絶対値が画素B,CのCbの絶対値よりも大きい場合に、画素Aを色ずれを検出する対象とし、画素Bと画素Cとの間の領域を色ずれを補正する領域とする。ここでは、画素B,Cの色差の絶対値が、上記[14]の「所定値」に対応する。すなわち、このような処理によりエッジ部分の彩度を見ることになり、色ずれの検出と補正の対象を画像のエッジに倍率色収差が発生した部分のみとすることができる。
[ステップS103]
次に、コンピュータ10は、G成分の画像に対するR成分の画像の色ずれを検出する。なお、コンピュータは、G成分の画像に対するB成分の画像の色ずれも同様に検出する。
ここで、G成分の画像は、「複数の色成分面のうち、任意の色成分面の画像信号」に該当し、R成分の画像(B成分の画像)は、「任意の色成分面とは別の色成分面の画像信号」に該当する。
制御部1は、G成分の画像に対するR成分の画像の色ずれの検出を、ステップS102で定めた色ずれ検出箇所ごとに行う。制御部1は、まず、色ずれ検出箇所を中心として、ウィンドウを設ける。ウィンドウは正方形の領域とし、その一辺の長さはステップS102で求めたエッジの幅の4倍程度とする。そして、処理対象の画像のうち、G成分の画像から、ウィンドウの画像を取り出す。このG成分の画像から取り出したウィンドウの画像を「G成分ウィンドウ」と称する。
そして、G成分ウィンドウに対してx方向およびy方向にずらし量(dx,dy)だけずらした位置から、R成分の画像を取り出す。なお、取り出されるR成分の画像は、G成分ウィンドウからずらし量(dx,dy)だけずれた位置の画像であり、以下、「R成分ウィンドウ」と称する。
そして、G成分ウィンドウとR成分ウィンドウとの信号値の平均を求め、その値を差し引いて両者の平均信号値を揃える。そして、G成分ウィンドウとR成分ウィンドウとの信号値の差分の絶対値をウィンドウ全体について積分したものを、RとGの重ね合わせ誤差とする。
以上をずらし量(dx,dy)を少しずつ変えながら繰り返し、RとGの重ね合わせ誤差が最小(または極小)となるときのずらし量を、色ずれ検出値とし、この色ずれ検出値に基づいて倍率色収差検出値dminを決定する。このとき、3点内挿法などの演算を行うことよって、倍率色収差検出値dminを小数点以下の精度で検出するのが好ましい。
ここで、ずらし量(dx,dy)は、S2で求めた色ずれ検出方向に応じて条件付けられる。具体的には、色ずれ検出方向が横方向(図11矢印c、g)の場合は、dx=−dmax・・・dmax,dy=0となり、縦方向(図11矢印a、e)の場合は、dx=0,dy=−dmax・・・dmaxとなり、斜め45度方向(図11矢印b、f)の場合は、dx=dy,dy=−dmax・・・dmaxとなり、斜め135度方向(図11矢印d、h)の場合には、dx=−dy,dy=−dmax・・・dmaxとなる。
ここで、dmaxは色ずれが検出される最大値であり、dmax=10とすれば、ほとんどの色ずれに対応することができる。以上のようにdxとdyを決めると、dxとdyをそれぞれ独立に−dmaxからdmaxまで変えるよりもRとGの重ね合わせ誤差を求める回数が減り、処理を効率化できる。
なお、エッジ領域が画像の端および端に近い部分にあるときには、画像の周辺でその画像を折り返しコピーして画像を拡張し、同様の検出を行う。
制御部1は、以上説明した処理を、ステップS102で検出した色ずれ検出箇所ごとに行う。
[ステップS104]
次に、コンピュータ10は、G成分の画像に対するR成分(B成分)の画像の色ずれを補正する
制御部1は、エッジ領域ごとに、G成分の画像に対するR成分の画像の色ずれの補正を行う。制御部1は、そのエッジ領域について、予め求めた倍率色収差検出値dminを読み出し、G成分の画像に対して、R成分の画像を、倍率色収差検出値dminが示す色ずれの方向と逆の方向に、倍率色収差検出値dminが示すずれ量だけ移動する。
なお、R成分の画像の移動が、小数点画素単位の場合は、バイキュービックやバイリニア等の既存の補間方法で中間値を生成するものとする。
制御部1は、以上説明した処理を、ステップS102で検出したエッジ領域ごとに行う。
[ステップS105]
最後に、コンピュータ10は、ステップS101で読み込んだ画像のうち、G成分の画像(G成分の原画像)と、補正後のR成分の画像およびB成分の画像とを合成して、コンピュータ10内の不図示の記録部に記録する。
まず、制御部1は、ステップS101で読み込んだ画像のうち、G成分の画像(G成分の原画像)と、ステップS104で補正したR成分の画像と、ステップS106で補正したB成分の画像とを合成して、コンピュータ10内の不図示の記録部に記録する。
すなわち、R,G,Bの各色成分の画像のうち、輝度を担う色成分の画像であるG成分の画像に対して、もう一方の色成分の画像であるR成分の画像(またはB成分の画像)を移動して補正を行う。したがって、高周波成分が劣化することなく、画質(鮮鋭感)を保ったまま、倍率色収差を補正することができる。
<変形例>
・色ずれの検出を行った後に、検出した色ずれを評価し、評価の結果に基づいて倍率色収差の補正を行うようにしても良い。
制御部1は、エッジ領域ごとに倍率色収差検出値dminを求めた後に、エッジ領域内のある画素における倍率色収差検出値dminが、周囲の色ずれ検出箇所における倍率色収差検出値dminに比べて大きく異なる場合、その倍率色収差検出値dminを無効として、近傍の画素の倍率色収差検出値dminを代入して補正を行うようにしても良い。または、その倍率色収差検出値dminが、適切でないということをユーザに通知するようにしても良い。このように、検出した倍率色収差検出値dminを評価することにより、適切でない補正が行われるのを防ぐことができる。なお、評価は、エッジ領域内の各画素ごとに求めた倍率色収差検出値dminの標準偏差を求めることにより行い、その偏差値が30以下か70以上である場合には、その倍率色収差検出値dminを無効とするか、その倍率色収差検出値dminが、適切でないということをユーザに通知すると良い。
・エッジ領域内の各画素ごとに求めた倍率色収差検出値dminに対して、ローパスフィルタ処理を行ってから、補正を行うようにしても良い。特に、画像の特定の部分に対してのみ補正を行う場合、例えば、3×3の平均フィルタなどを用いてローパスフィルタ処理を行うことにより、補正量が不連続になって補正後の画像が悪化するのを防ぐことができる。
・補正前の画像と補正後の画像を比較して、誤補正を検出するようにしても良い。
制御部1は、例えば、G成分の画像に対するR成分の画像の色ずれを補正した場合に、G成分の画像と補正前のR成分の画像との信号値の差分を求め、さらに、G成分の画像と補正後のR成分の画像との信号値の差分を求め、2つの差分を比較する。G成分の画像と補正後のR成分の画像との信号値の差分の方が小さく、かつ、2つの差分が同符号である場合には、制御部1は、補正が正しく行われたと見なす。一方、G成分の画像と補正後のR成分の画像との信号値の差分の方が大きい場合には、制御部1は、誤補正が行われたと見なす。そして、制御部1は、求めた倍率色収差検出値dminに基づく補正よりも、補正度合いを小さくして、再び色ずれの補正を行う。
なお、このような色ずれの再補正を行う場合、元の画像に対して、色ずれの再補正を行っても良いし、一度色ずれの補正を行った後の画像に対して、逆方向に再補正を行うようにしても良い。また、補正度合いを小さくできない場合には、補正前の状態に戻しても良いし、色ずれの検出からやり直すようにしても良い。このように、誤補正の検出を行うことにより、より適切な補正を自動的に行うことができる。
以上説明したように、本実施形態によれば、複数の色成分(R,G,Bの各色成分)面で表された画像のうち、エッジ領域を検出して、エッジ領域ごとに、エッジの輝度の勾配方向を検出し、エッジ領域ごとに、そのエッジ領域の画像における任意の色成分面の画像信号と、任意の色成分面とは別の色成分面の画像信号との色ずれを、輝度の勾配方向について検出し、検出した色ずれを補正するエッジ領域ごとに補正する。
上述したように色補間後の画像は、色ずれ量にムラが生じ、エッジ領域ごとに色ずれ量が異なる。しかし、本実施形態のように画像からエッジ領域を選びだし、そのエッジ領域ごとに色ずれを検出して補正することにより、色補間後のような色ずれムラにも適切に対処することができる。
また、倍率色収差は、一般に、平坦部分には発生しにくく、エッジ部分に発生しやすい。したがって、エッジ領域を検出して、そのエッジ領域について色ずれの検出を行うことで、効率よく検出を行いつつ、色ずれの検出および補正にかかる処理時間を短縮することができる。
また、倍率色収差は、一般に、輝度の勾配方向に発生する場合に目立ちやすい。したがって、輝度の勾配方向を検出して、その方向について色ずれの検出を行うことで、検出の精度を落とさずに、色ずれの検出および補正にかかる処理時間を短縮することができる。また、この方法は、処理対象の画像がトリミングされた画像である場合などでも、倍率色収差検出値dminを求めることができる。
また、倍率色収差を検出する対象とされた領域と補正を行う領域を一致させることにより、局所的に発生する倍率色収差も適切に補正することができる。
したがって、上記各理由により、本実施形態によれば、処理対象の画像に発生した不規則な倍率色収差も、高精度かつ高速に補正することができる。
また、本実施形態によれば、エッジ領域ごとに、そのエッジ領域の画像の彩度を検出して、その彩度が所定値よりも高いか否かを判定し、彩度が所定値より高いと判定されると、色ずれを検出する。そのため、色ずれの検出と補正の対象は画像のエッジに倍率色収差が発生した部分のみとなり、処理が効率化される。さらに、被写体の彩度が高い領域のエッジは補正対象とはならないので、色ずれの誤検出による画像の劣化も抑えられる。
また、本実施形態によれば、エッジ領域の大きさを、エッジの幅に基づいて変更する。
一般に、くっきりとした画像(エッジの幅が狭い画像)では、色ずれの検出を行うのに適したエッジ領域の大きさは小さくて良い。一方、ピンぼけした画像(エッジの幅が広い画像)では、色ずれの検出を行うのに必要なエッジ領域の大きさはある程度大きくなければならない。したがって、エッジの幅が狭い場合には、エッジ領域の大きさを小さくし、エッジの幅が広い場合には、エッジ領域の大きさを大きくする。このようにエッジ領域の大きさを変更することにより、効率よく色ずれの検出を行うことができる。
《第4の実施形態》
以下、第4の実施形態について説明する。本実施形態では、第3の実施形態と同様に、本発明の画像処理装置が行う画像処理の機能を備えたコンピュータ10を用いて説明を行う。なお、第4の実施形態は、第3の実施形態をより簡略化した実施形態である。
色ずれの補正の大まかな流れは第3の実施形態と同様である(図10参照)。以下、第3の実施形態と異なるステップS102について説明する。
ステップS102において、制御部1は、エッジ領域を検出した後、輝度の勾配方向を検出する代わりに以下の処理を行う。
制御部1は、まず、処理対象の画像を、画像の中心を中心として、図14に示すように8つの領域に分割し、エッジ領域がある領域に存在する場合には、その領域を代表する方向(矢印a〜h)を、色ずれ検出方向とする。倍率色収差は、一般に、その画像が生成された際に用いられた光学系の光軸に対応する部分(処理対象の画像の中心に相当)を中心とした動径方向(図14矢印a〜hの方向)に、発生することが多い。したがって、動径方向についてずらして色ずれの検出を行うことで、検出の精度を落とさずに、色ずれの検出にかかる処理時間を短縮することができる。
図15を用いて具体的に説明する。図15(a)は処理対象の画像の全体図であり、図15(b)は、部分拡大図である。図15は、図11の矢印dの方向に輝度の微分を求めている(エッジ領域が図14領域dにある)例を示す。図15中の斜線部分は被写体領域を示す。輝度Yは例えば、Y=(R+G+B)÷3とする。
図15に示すように矢印dの方向に輝度の微分を求める場合、矢印dに沿って隣接する2画素の微分を求め、ある画素P(p)がエッジでなく、次の画素P(p+1)がエッジである場合、画素P(p)を、画素Aとする(図15参照)。さらに、続けて微分を行い、ある画素P(q)がエッジであり、次の画素P(q+1)がエッジでない場合、画素P(q)を、画素Bとする(図15参照)。そして、最後に画素Aと画素Bとの中点に相当する画素を、画素Cとする(図15参照)。このようにして求められた画素A〜画素Cは、図15に示すように、画素Aおよび画素Bは略エッジ端の画素を示し、画素Cは略エッジ境界上の画素を示す。
そして、画素Aと画素Bとの距離をエッジの幅とする。このエッジの幅に基づき、エッジ領域の大きさを決める。具体的には、エッジ領域の大きさを、エッジの幅の4倍程度にする。
以下の各処理は、第3の実施形態と同様であるため説明を省略する。
以上説明したように、本実施形態によれば、複数の色成分(R,G,Bの各色成分)面で表された画像のうち、エッジ領域を検出して、エッジ領域ごとに、そのエッジ領域の画像における任意の色成分面の画像信号と、任意の色成分面とは別の色成分面の画像信号との色ずれを、画像が生成された際に用いられた光学系の光軸に対応する部分を中心とした動径方向について検出し、検出した色ずれを補正するエッジ領域ごとに補正する。
したがって、検出の精度を落とさずに、色ずれの検出および補正にかかる処理時間を短縮することができる。
《第5の実施形態》
以下、第5の実施形態について説明する。本実施形態では、第3の実施形態および第4の実施形態と同様に、本発明の画像処理装置が行う画像処理の機能を備えたコンピュータを用いて説明を行う。なお、第5の実施形態は、第3の実施形態および第4の実施形態で説明した倍率色収差の補正に加えて、色にじみを補正する実施形態である。
デジタルカメラ等で撮影を行う際、倍率色収差は色にじみの原因にもなる。例えば、Rのカラーフィルタに対応するR撮像素子が受光する波長の範囲は幅を持ち、異なる波長λ1とλ2がともにR撮像素子に受光される。したがって撮影レンズに倍率色収差があると、被写体の同一点から出たλ1とλ2の光がR撮像素子の異なる位置に結像するのでR成分の画像がぼけてしまい色にじみとなる。本実施形態では、この色にじみを補正する。
図16は、この補正動作を説明する流れ図である。
[ステップS111〜S113]
第3の実施形態のステップS101〜104と同じ処理。
[ステップS114]
制御部1は、G成分の画像と補正前のR成分の画像との信号値の差分を求め、さらに、G成分の画像と補正後のR成分の画像との信号値の差分を求め、2つの差分を比較する。G成分の画像と補正後のR成分の画像との信号値の差分の方が小さく、かつ、2つの差分が同符号である場合には、制御部1は、補正が正しく行われたと見なす。一方、G成分の画像と補正後のR成分の画像との信号値の差分の方が大きい場合には、制御部1は、誤補正が行われたと見なす。そして、制御部1は、求めた倍率色収差検出値dminに基づく補正よりも、補正度合いを小さくして、再び色ずれの補正を行う。
なお、このような色ずれの再補正を行う場合、元の画像に対して、色ずれの再補正を行っても良いし、一度色ずれの補正を行った後の画像に対して、逆方向に再補正を行うようにしても良い。また、補正度合いを小さくできない場合には、補正前の状態に戻しても良いし、色ずれの検出からやり直すようにしても良い。
[ステップS115]
制御部1は、処理対象の画像全体についてR成分の色差Crを計算する。Crは例えば、(R−G)で与える。そして、上記で求めたCrの画像について、エッジ領域にローパスフィルタをかける。ローパスフィルタは、例えば、ある箇所の色差Crを、その箇所を中心とする正方形領域の加重平均値で置き換えるものとする。また、その正方形領域の広さを、ステップS113で求めた倍率色収差検出値dminに応じて決める。具体的には、上記正方形領域の一辺の長さを色ずれ検出値(単位:画素)の2〜4倍とする。
以上の処理を画像全体について行う。そして、処理後のRの色差をCr’とすると、補正後のR成分を、(Cr’+G)で与える。
なお、同様の処理を、B成分についても実行する。
[ステップS116]
第3の実施形態のステップS105と同じ処理。
以上説明したように、本実施形態によれば、色ずれの補正を行った後に、エッジ領域ごとに、色差を平滑化する。一般に、倍率色収差が大きく発生するほど、色にじみの度合いも大きくなるので、このような処理を行うことにより、倍率色収差に加えて色にじみも除去することが可能となり、より画質を向上させることができる。
なお、上記で説明した方法によれば、倍率色収差に起因しない色にじみをも補正することが期待できる。
なお、上記した実施形態では、処理対象の画像がRGBの色成分を含む例を示したが、シアン、マゼンダ、イエローなど別の表色系であっても良い。また、処理対象の画像に基づいて別の表色系の画像を生成し、これを処理対象の画像として同様の検出および補正を行うようにしても良い。
なお、上記した実施形態では、色ずれを検出して補正する画像処理装置について説明したが、色ずれの検出のみを行うようにしても良い。そして、このような色ずれを検出する画像処理装置を、レンズの製造工程における検品工程などに用いることができる。
《第6の実施形態》
第6の実施形態は、電子カメラの実施形態である。
図17は、本実施形態の構成を示すブロック図である。
図17において、電子カメラ11には、撮影レンズ12が装着される。この撮影レンズ12の像空間には、撮像素子13の受光面が配置される。この撮像素子13は、タイミングジェネレータ22bの出力パルスによって動作が制御される。
この撮像素子13で生成される画像は、A/D変換部15および信号処理部16を介して、バッファメモリ17に一時記憶される。
このバッファメモリ17は、バス18に接続される。このバス18には、画像処理部19、カードインターフェース20、マイクロプロセッサ22、圧縮伸張部23、および画像表示部24が接続される。この内、カードインターフェース20は、着脱自在なメモリカード21に対するデータの読み書きを行う。また、マイクロプロセッサ22には、電子カメラ11のスイッチ群22aからユーザー操作の信号が入力される。さらに、画像表示部24は、電子カメラ11の背面に設けられたモニタ画面25に画像を表示する。
このような構成の電子カメラ11は、マイクロプロセッサ22および画像処理部19によって、第1〜第5の実施形態の画像処理を実行する。
その結果、撮影レンズ12の倍率色収差の影響を軽減した画像データを、電子カメラ11内で作成することができる。
なお、本発明は、その精神または主要な特徴から逸脱することなく、他のいろいろな形で実施することができる。そのため、前述の実施例はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。本発明の範囲は、特許請求の範囲によって示すものであって、明細書本文には、なんら拘束されない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、すべて本発明の範囲内のものである。
以上説明したように、本発明は、画像処理装置、画像処理プログラム、および電子カメラなどに利用可能な技術である。

Claims (8)

  1. 複数の色成分面で表された画像に対して画像処理を施す画像処理装置であって、
    前記画像の取得時に用いられた光学系の収差によって前記画像に生じた色ずれを補正する補正手段と、
    前記画像と、前記補正手段による補正前後の前記画像を比較して、前記補正手段による誤補正を判定する誤補正検出手段を備えた
    ことを特徴とする画像処理装置。
  2. 請求項1に記載の画像処理装置において、
    前記誤補正検出手段は、
    前記補正手段により前記色ずれが補正された画像の処理対象箇所の色差が、補正前の前記画像を基準に設定される許容範囲内にない場合を誤補正とする
    ことを特徴とする画像処理装置。
  3. 請求項2に記載の画像処理装置において、
    前記誤補正検出手段は、前記補画像の色差を前記許容範囲内に制限することにより、前記誤補正を抑制する
    ことを特徴とする画像処理装置。
  4. 請求項2または請求項3に記載の画像処理装置において、
    前記誤補正検出手段は、補正前の前記画像の前記処理対象箇所を含む局所域の色差、および所定の低彩度色差からなる群の最小色差から最大色差までを求めて、前記許容範囲とする
    ことを特徴とする画像処理装置。
  5. 請求項1または請求項2に記載の画像処理装置において、
    前記補正手段は、前記誤補正検出手段が誤補正を判定すると、前記色ずれ補正のずらし幅を抑制することにより、前記誤補正を抑制する
    ことを特徴とする画像処理装置。
  6. 請求項1ないし請求項5のいずれか1項に記載の画像処理装置において、
    前記光学系の収差倍率色収差あり、
    前記補正手段は、前記倍率色収差をうち消す方向に、前記色成分面の倍率調整(リサイズ)を行う
    ことを特徴とする画像処理装置。
  7. コンピュータを、請求項1ないし請求項6のいずれか1項に記載の画像処理装置として機能させるための画像処理プログラム。
  8. 請求項1ないし請求項6のいずれか1項に記載の画像処理装置と、
    被写体像を撮像して画像を生成する撮像部とを備え、
    前記撮像部で生成された前記画像を前記画像処理装置で処理する
    ことを特徴とする電子カメラ。
JP2006512318A 2004-04-12 2005-04-08 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ Active JP4706635B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006512318A JP4706635B2 (ja) 2004-04-12 2005-04-08 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2004116584 2004-04-12
JP2004116584 2004-04-12
JP2004161474 2004-05-31
JP2004161474 2004-05-31
JP2006512318A JP4706635B2 (ja) 2004-04-12 2005-04-08 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ
PCT/JP2005/006951 WO2005101854A1 (ja) 2004-04-12 2005-04-08 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ

Publications (2)

Publication Number Publication Date
JPWO2005101854A1 JPWO2005101854A1 (ja) 2008-03-06
JP4706635B2 true JP4706635B2 (ja) 2011-06-22

Family

ID=35150362

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006512318A Active JP4706635B2 (ja) 2004-04-12 2005-04-08 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ

Country Status (4)

Country Link
US (1) US7916937B2 (ja)
EP (1) EP1746846B1 (ja)
JP (1) JP4706635B2 (ja)
WO (1) WO2005101854A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11134234B2 (en) 2017-02-27 2021-09-28 Olympus Corporation Image processing apparatus, image processing method, and recording medium

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4415318B2 (ja) * 2004-04-27 2010-02-17 富士フイルム株式会社 カラー画像の色ずれ補正方法及びカラー画像撮像装置
JP4469324B2 (ja) * 2005-11-01 2010-05-26 イーストマン コダック カンパニー 色収差抑圧回路及び色収差抑圧プログラム
WO2007105359A1 (ja) * 2006-03-01 2007-09-20 Nikon Corporation 倍率色収差を画像解析する画像処理装置、画像処理プログラム、電子カメラ、および画像処理方法
JP4923987B2 (ja) 2006-11-30 2012-04-25 株式会社ニコン 画像の色を補正する画像処理装置、および画像処理プログラム
US8144984B2 (en) * 2006-12-08 2012-03-27 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and program for color fringing estimation and compensation
KR101340518B1 (ko) 2007-08-23 2013-12-11 삼성전기주식회사 영상의 색수차 보정 방법 및 장치
JP5017597B2 (ja) * 2007-11-27 2012-09-05 株式会社メガチップス 画素補間方法
KR101257942B1 (ko) * 2008-04-23 2013-04-23 고려대학교 산학협력단 광역 역광보정 영상처리에서의 전처리 방법 및 장치
KR101460610B1 (ko) * 2008-07-30 2014-11-13 삼성전자주식회사 색수차 제거 방법 및 장치
JP4730412B2 (ja) * 2008-08-12 2011-07-20 ソニー株式会社 画像処理装置及び画像処理方法
JP4986965B2 (ja) * 2008-09-30 2012-07-25 キヤノン株式会社 画像処理方法、画像処理装置、画像処理プログラム及び撮像装置
US8477206B2 (en) * 2008-09-30 2013-07-02 Canon Kabushiki Kaisha Image processing apparatus and image processing method for performing image restoration using restoration filter
KR101517407B1 (ko) 2008-11-06 2015-05-06 삼성전자주식회사 색수차 제거 방법 및 장치
KR101532605B1 (ko) * 2008-11-06 2015-07-01 삼성전자주식회사 색수차 제거 방법 및 장치
US8237823B2 (en) 2008-11-06 2012-08-07 Samsung Electronics Co., Ltd. Method and apparatus for canceling chromatic aberration
JP5562242B2 (ja) * 2008-12-22 2014-07-30 パナソニック株式会社 画像拡大装置、方法、集積回路及びプログラム
JP5486273B2 (ja) * 2008-12-26 2014-05-07 キヤノン株式会社 画像処理装置及び画像処理方法
JP5159715B2 (ja) * 2009-06-30 2013-03-13 株式会社東芝 画像処理装置
TWI389576B (zh) * 2009-07-02 2013-03-11 Mstar Semiconductor Inc 影像處理裝置以及影像處理方法
US20110018993A1 (en) * 2009-07-24 2011-01-27 Sen Wang Ranging apparatus using split complementary color filters
JP4796666B2 (ja) 2009-10-27 2011-10-19 パナソニック株式会社 撮像装置およびそれを用いた測距装置
JP5627215B2 (ja) * 2009-11-04 2014-11-19 キヤノン株式会社 画像処理装置及びその制御方法
US8958009B2 (en) * 2010-01-12 2015-02-17 Nikon Corporation Image-capturing device
JP5458906B2 (ja) * 2010-01-21 2014-04-02 株式会社ニコン 画像処理装置
JP5757099B2 (ja) 2010-02-15 2015-07-29 株式会社ニコン 焦点調節装置、及び焦点調節プログラム
EP2429194B1 (en) 2010-03-25 2016-04-20 FUJIFILM Corporation Image processing method and device, image processing program, and medium having said program recorded thereon
WO2011122283A1 (ja) * 2010-03-31 2011-10-06 キヤノン株式会社 画像処理装置、およびそれを用いた撮像装置
JP5505135B2 (ja) * 2010-06-30 2014-05-28 ソニー株式会社 画像処理装置、画像処理方法、および、プログラム
DE112010005744B4 (de) * 2010-07-16 2021-09-09 Robert Bosch Gmbh Verfahren für die Detektion und Korrektur einer lateralen chromatischen Aberration
DE112010005743B4 (de) * 2010-07-16 2021-09-02 Robert Bosch Gmbh Verfahren für die Detektion und Korrektur von lateraler chromatischer Aberration
JP5665451B2 (ja) * 2010-09-21 2015-02-04 キヤノン株式会社 画像処理装置及びその倍率色収差補正方法、撮像装置、倍率色収差補正プログラム、並びに記録媒体
JP5264968B2 (ja) * 2011-08-08 2013-08-14 キヤノン株式会社 画像処理装置、画像処理方法、撮像装置、および、画像処理プログラム
JP5414752B2 (ja) 2011-08-08 2014-02-12 キヤノン株式会社 画像処理方法、画像処理装置、撮像装置、および、画像処理プログラム
JP2013066146A (ja) 2011-08-31 2013-04-11 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
WO2013031238A1 (ja) 2011-09-02 2013-03-07 株式会社ニコン 合焦評価装置、撮像装置およびプログラム
JP6066866B2 (ja) * 2013-08-22 2017-01-25 キヤノン株式会社 画像処理装置、その制御方法、および制御プログラム
JP6395398B2 (ja) * 2014-03-05 2018-09-26 キヤノン株式会社 画像処理装置および画像処理方法
KR102211592B1 (ko) * 2014-03-19 2021-02-04 삼성전자주식회사 전자 장치 및 이의 영상 처리 방법
DE102014112666A1 (de) 2014-08-29 2016-03-03 Carl Zeiss Ag Bildaufnahmevorrichtung und Verfahren zur Bildaufnahme
US10999515B2 (en) 2016-06-29 2021-05-04 Sony Corporation Imaging device, control method, and program
EP3493522B1 (en) 2016-08-01 2020-10-28 Sony Corporation Image processing apparatus, image processing method, and program
JP6812214B2 (ja) * 2016-11-14 2021-01-13 キヤノン株式会社 画像符号化装置、画像符号化方法、及びプログラム
CN111447426B (zh) * 2020-05-13 2021-12-31 中测新图(北京)遥感技术有限责任公司 一种影像色彩校正方法以及装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07203475A (ja) * 1993-12-30 1995-08-04 Victor Co Of Japan Ltd 映像信号改善装置
JP2001356173A (ja) * 2000-06-13 2001-12-26 Konica Corp 放射線画像撮像装置及び放射線画像撮像方法
JP2003255424A (ja) * 2002-03-05 2003-09-10 Sony Corp 画像撮影装置及び色収差補正方法
JP2004062651A (ja) * 2002-07-30 2004-02-26 Canon Inc 画像処理装置、画像処理方法、その記録媒体およびそのプログラム
JP2004064710A (ja) * 2002-07-31 2004-02-26 Fuji Photo Film Co Ltd 撮像装置及びディストーション補正方法
JP2004153323A (ja) * 2002-10-28 2004-05-27 Nec Micro Systems Ltd 色収差補正画像処理システム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2528826B2 (ja) 1985-12-20 1996-08-28 池上通信機株式会社 画像の位置ずれ補正装置
JPH03263993A (ja) 1990-03-14 1991-11-25 Hitachi Denshi Ltd レジストレーション検出装置
EP0878970A3 (en) * 1997-05-16 1999-08-18 Matsushita Electric Industrial Co., Ltd. Imager registration error and chromatic aberration measurement system for a video camera
US6853400B1 (en) * 1998-06-16 2005-02-08 Fuji Photo Film Co., Ltd. System and method for correcting aberration of lenses through which images are projected
JP3758377B2 (ja) * 1998-09-14 2006-03-22 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置および色収差補正方法
JP2000299874A (ja) 1999-04-12 2000-10-24 Sony Corp 信号処理装置及び方法並びに撮像装置及び方法
US6483941B1 (en) * 1999-09-10 2002-11-19 Xerox Corporation Crominance channel overshoot control in image enhancement
US6952283B2 (en) * 2001-04-17 2005-10-04 Xerox Corporation Sampling of customer images as color data for process control
JP2002344978A (ja) 2001-05-17 2002-11-29 Ichikawa Soft Laboratory:Kk 画像処理装置
JP2004248077A (ja) * 2003-02-14 2004-09-02 Konica Minolta Holdings Inc 画像処理装置及び画像処理方法並びに画像処理プログラム
JP4250513B2 (ja) * 2003-12-01 2009-04-08 キヤノン株式会社 画像処理装置及び画像処理方法
US7454081B2 (en) * 2004-01-30 2008-11-18 Broadcom Corporation Method and system for video edge enhancement

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07203475A (ja) * 1993-12-30 1995-08-04 Victor Co Of Japan Ltd 映像信号改善装置
JP2001356173A (ja) * 2000-06-13 2001-12-26 Konica Corp 放射線画像撮像装置及び放射線画像撮像方法
JP2003255424A (ja) * 2002-03-05 2003-09-10 Sony Corp 画像撮影装置及び色収差補正方法
JP2004062651A (ja) * 2002-07-30 2004-02-26 Canon Inc 画像処理装置、画像処理方法、その記録媒体およびそのプログラム
JP2004064710A (ja) * 2002-07-31 2004-02-26 Fuji Photo Film Co Ltd 撮像装置及びディストーション補正方法
JP2004153323A (ja) * 2002-10-28 2004-05-27 Nec Micro Systems Ltd 色収差補正画像処理システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11134234B2 (en) 2017-02-27 2021-09-28 Olympus Corporation Image processing apparatus, image processing method, and recording medium

Also Published As

Publication number Publication date
US7916937B2 (en) 2011-03-29
EP1746846B1 (en) 2019-03-20
US20070116375A1 (en) 2007-05-24
EP1746846A1 (en) 2007-01-24
JPWO2005101854A1 (ja) 2008-03-06
WO2005101854A1 (ja) 2005-10-27
EP1746846A4 (en) 2008-12-24

Similar Documents

Publication Publication Date Title
JP4706635B2 (ja) 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ
JP4815807B2 (ja) Rawデータから倍率色収差を検出する画像処理装置、画像処理プログラム、および電子カメラ
US8233710B2 (en) Image processing device and image processing method
US8754957B2 (en) Image processing apparatus and method
JP5546229B2 (ja) 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
JP5040655B2 (ja) 画像処理装置および画像処理方法
EP1528793B1 (en) Image processing apparatus, image-taking system and image processing method
US8565524B2 (en) Image processing apparatus, and image pickup apparatus using same
JP2011123589A5 (ja)
JP4329542B2 (ja) 画素の類似度判定を行う画像処理装置、および画像処理プログラム
JP4945942B2 (ja) 画像処理装置
JP4945943B2 (ja) 画像処理装置
JP4934839B2 (ja) 画像処理装置及びその方法並びにプログラム
JP4797478B2 (ja) 画像処理装置
JP4539299B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2004201207A (ja) ノイズ低減装置、撮像装置、およびノイズ低減プログラム
JP6238673B2 (ja) 画像処理装置、撮像装置、撮像システム、画像処理方法、画像処理プログラム、および、記憶媒体
JP6604737B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2010130033A (ja) 画像処理装置
JP2008148003A (ja) 画像の色を補正する画像処理装置、および画像処理プログラム
JP2008042749A (ja) 電子カメラ、および画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110228

R150 Certificate of patent or registration of utility model

Ref document number: 4706635

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140325

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250