JP6633624B2 - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP6633624B2
JP6633624B2 JP2017517499A JP2017517499A JP6633624B2 JP 6633624 B2 JP6633624 B2 JP 6633624B2 JP 2017517499 A JP2017517499 A JP 2017517499A JP 2017517499 A JP2017517499 A JP 2017517499A JP 6633624 B2 JP6633624 B2 JP 6633624B2
Authority
JP
Japan
Prior art keywords
pixel
sum
pixel values
pixels arranged
color space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017517499A
Other languages
English (en)
Other versions
JPWO2016181476A1 (ja
Inventor
武史 福冨
武史 福冨
理子 朝倉
理子 朝倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2016181476A1 publication Critical patent/JPWO2016181476A1/ja
Application granted granted Critical
Publication of JP6633624B2 publication Critical patent/JP6633624B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本発明は、画像処理装置、画像処理方法及び画像処理プログラムに関するものである。
通常の光学系を通して撮影された画像には軸上色収差が発生することが知られている。ここで、軸上色収差とは、光学系、撮像系及び画像処理系に起因し、光軸上の焦点位置が波長によって異なるために生じる偽色、すなわち本来の被写体には生じない色付きをいう。そして、このような軸上色収差を画像処理で補正するための技術が提案されている(例えば、特許文献1参照。)。
特許文献1では、画像データ中の注目画素について、偽色可能性を示すパラメータとして、白とびへの近さ、彩度の大きさ及び特定色相への近さを評価し、これらの少なくともいずれかを適用して軸上色収差を補正している。
特許第4539278号公報
しかしながら、軸上色収差を補正するに際し、特許文献1のように注目画素について評価し、これに基づいて補正を行うだけでは不十分である。すなわち、いくつかの注目画素が本来同一色であったとしても、当該注目画素に隣接する画素との関係によって、人間にはその視覚特性上それら注目画素が互いに異なる色であるように見える。このため、人間の視覚特性に鑑みると、注目画素のみを評価して軸上色収差を補正するだけでは不十分となる。
本発明は、上述した事情に鑑みてなされたものであって、人間の視覚特性に基づいて軸上色収差を精度よく補正することを目的としている。
上記目的を達成するため、本発明は以下の手段を提供する。
本発明の一態様は、入力画像中の注目画素を含み一列に配列する複数の画素について、該注目画素を挟んで一方向及び他方向に配列する画素の画素値を夫々色毎に合計する合計画素値算出部と、該合計画素値算出部による算出結果又は前記注目画素の画素値の少なくとも一方に基づいて、前記注目画素が軸上色収差の発生起点であるか否かを判定し、発生起点を検出する発生起点検出部と、前記発生起点として検出された注目画素を中心とする所定の周辺領域を軸上色収差領域と判定する領域判定部と、前記発生起点として検出された前記注目画素に対し、前記合計画素値算出部による算出結果に基づいて、前記一方向及び前記他方向について特定色空間上の色空間情報を夫々算出する色空間情報算出部と、該色空間情報算出部により算出された前記一方向の色空間情報と前記他方向の色空間情報との差分を算出する色空間差分算出部と、該色空間差分算出部により算出された差分に応じて軸上色収差補正の補正量を算出する補正量算出部と、前記軸上色収差領域について前記補正量を用いて補正する補正部と、を備える画像処理装置である。
本態様によれば、注目画素を挟む両側に一直線上に配列されている画素の画素値の合計を合計画素値算出部により算出し、この算出結果又は注目画素の画素値に基づいて発生起点検出部により注目画素が軸上色収差の発生起点であるか判定し、発生起点を検出する。注目画素が軸上色収差の発生起点であるとして検出された場合、色空間情報算出部により、注目画素について、特定色空間上の色空間情報を一方向及び他方向について夫々算出し、色空間差分算出部によりこれらの差分を算出する。そして、この差分に基づいて算出された補正量を用いて、注目画素を中心とする周辺領域からなる軸上色収差領域について補正処理を行う。このように、注目画素だけでなく、注目画素を挟んで両側に一直線上に配列されている画素の画素値をも評価した補正量を算出することで、人間の視覚特性に基づいて軸上色収差補正を行うことができる。
上記態様においては、前記色空間情報算出部が、特定色空間上の色空間情報として、色の角度に関する情報、色の強度に関する情報、及び色の明るさに関する情報の少なくとも1つを算出し、前記色空間差分算出部が、前記色空間情報算出部による算出結果に基づいて、前記一方向の色空間情報と前記他方向の色空間情報との差分として、前記色の角度の差分、前記色の強度の差分、及び前記色の明るさの差分のうち少なくとも1つを算出し、前記補正量算出部が、前記色空間差分算出部による算出結果に基づいて軸上色収差補正の補正量を算出することとしてもよい。
このようにすることで、人間がその視覚特性上、軸上色収差を知覚しやすい隣接する領域の色の角度の差、色の強度の差、明るさの差に応じた最適な補正量を算出することができる。
また上記様態においては、前記補正量算出部が、前記色の角度の差分が180度に近いほど大きな補正量を算出し、180度から離れている程小さな補正量を算出することとしてもよい。
このようにすることで、色空間の角度を色相環のように0度から360度で表した場合に、2つの色が対極となる180度のように、人間の視覚的に色付きが検知されやすい場合に適切な補正量を算出することができる。
また上記様態においては、前記補正量算出部が、前記色の強度の差分の絶対値が大きいほど大きな補正量を算出し、絶対値が小さいほど小さな補正量を算出することとしてもよい。
このようにすることで、色の強度の差分が大きく、人間の視覚的に色付きが検知されやすい場合に適切な補正量を算出することができる。
また上記様態においては、前記補正量算出部が、前記色の明るさの差分の絶対値が大きいほど大きな補正量を算出し、絶対値が小さいほど小さな補正量を算出することとしてもよい。
このようにすることで、色の明るさの差分が大きく、人間の視覚的に色付きが検知されやすい場合にも適切な補正量を算出することができる。
また上記様態においては、前記補正量算出部が、前記色の角度が前記一方向と前記他方向で同方向となる補正量を算出することとしてもよい。
このようにすることで、補正後に色の角度の差分がなくなり、人間の視覚的に色付きに対する望ましい補正量を算出することができる。
また上記様態においては、前記補正量算出部が、前記色の強度が前記一方向と前記他方向とで同一となる補正量を算出することとしてもよい。
このようにすることで、補正後に色の強度の差分がなくなり、人間の視覚的に色付きに対する望ましい補正量を算出することができる。
また上記様態においては、前記補正量算出部が、前記色の明るさが前記一方向と前記他方向とで同一となる補正量を算出することとしてもよい。
このようにすることで、補正後に色の明るさの差分がなくなり、人間の視覚的に色付きに対する望ましい補正量を算出することができる。
また上記様態においては、前記特定色空間が、HSV空間であることとしてもよい。
このようにすることで、比較的に低い計算コストで色空間の算出を行うことができる。
また上記様態においては、前記特定色空間が、L*a*b*空間であることとしてもよい。
このようにすることで、人間の視覚的な感覚に近い色空間の算出を行うことができる。
また、上記態様においては、前記発生起点検出部が、前記注目画素の画素値が所定の閾値よりも大きい場合、又は、前記合計画素値算出部により算出された前記一方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係と逆である場合、若しくは、前記一方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係と逆である場合に、前記注目画素を軸上色収差の発生起点として検出することとしてもよい。
このようにすることで、近飽和領域、近飽和以外の領域の少なくとも一方を軸上色収差の発生起点として検出することができる。
また、上記態様においては、前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定してもよい。
PgD1>PrD1
PgD2<PrD2
ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計である。
このようにすることで、フォーカス位置近傍における軸上色収差の発生起点を検出することができる。
また、上記態様においては、前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定してもよい。
PgD1>PbD1
PgD2<PbD2
ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計である。
このようにすることによっても、フォーカス位置近傍における軸上色収差の発生起点を検出することができる。
また、上記態様においては、前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定してもよい。
PgD1>PrD1
PgD2<PrD2
PgD2<PbD2
ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計である。
このようにすることで、他方向にパープルフリンジが発生し、一方向のRの画素値の合計が、Gの画素値の合計より小さく、色相環で反対色に近い色となってパープルフリンジが目立つ場所を軸上色収差の発生起点として検出することができる。
また、上記態様においては、前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定してもよい。
PgD1>PbD1
PgD2<PrD2
PgD2<PbD2
ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計である。
このようにすることによっても、他方向にパープルフリンジが発生し、一方向のBの画素値の合計が、Gの画素値の合計より小さく、色相環で反対色に近い色となってパープルフリンジが目立つ場所を軸上色収差の発生起点として検出することができる。
また、上記態様においては、前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定してもよい。
PgD1>PrD1
PgD1>PbD1
PgD2<PrD2
ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計である。
このようにすることで、一方向にグリーンフリンジが発生し、他方向のRの画素値の合計がGの画素値の合計より大きく、色相環で反対色に近い色となってグリーンフリンジが目立つ場所を軸上色収差の発生起点として検出することができる。
また、上記態様においては、前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定してもよい。
PgD1>PrD1
PgD1>PbD1
PgD2<PbD2
ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計である。
このようにすることによっても、一方向にグリーンフリンジが発生し、他方向のBの画素値の合計がGの画素値の合計より大きく、色相環で反対色に近い色となってグリーンフリンジが目立つ場所を軸上色収差の発生起点として検出することができる。
また、上記態様においては、前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定してもよい。
PgD1+THR1>PrD1
PgD2−THR2<PrD2
PgD1+THB1>PbD1
PgD2−THB2<PbD2
ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計、THR1,THR2,THB1,THB2は任意の定数である。
このようにすることで、THR1,THR2,THB1,THB2を適当に選択することにより、ノイズの影響を低減し、軸上色収差の発生起点を安定して検出することができる。
また、上記態様においては、前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定してもよい。
PgD1+TH>PrD1
PgD2+TH<PrD2
PgD1+TH>PbD1
PgD2+TH<PbD2
ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計、TH,THは任意の定数である。
このようにすることで、TH,THを適当に選択することにより、無彩色ではなく、色付き被写体上に発生した軸上色収差の発生起点を検出することができる。
また、上記態様においては、前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定してもよい。
PgD1>PrD1×K
PgD2<PrD2×K
PgD1>PbD1×K
PgD2<PbD2×K
ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計、K,Kは任意の定数である。
このようにすることによっても、K,Kを適当に選択することにより、無彩色ではなく、色付き被写体上に発生した軸上色収差の発生起点を検出することができる。
また、上記態様においては、前記画像が、各画素にRGB全ての画素値を有していてもよい。
このようにすることで、各画素においてRGB全ての画素値を同時に取得する同時化された画像に対しても軸上色収差の発生起点を検出する処理を行うことができる。
また、上記態様においては、前記画像が、各画素においてRGBの少なくとも1つの画素値が欠落した画素値を有していてもよい。
このようにすることで、各画素においてRGB全ての画素値が同時に取得されない、同時化されていない画像に対しても軸上色収差の発生起点を検出することができ、検出時に同時化のための補間エラーの影響をなくすことができる。
また、本発明の他の態様は、入力画像中の注目画素を含み一列に配列する複数の画素について、該注目画素を挟んで一方向及び他方向に配列する画素の画素値を夫々色毎に合計する合計画素値算出ステップと、該合計画素値算出ステップにおける算出結果又は前記注目画素の画素値の少なくとも一方に基づいて、前記注目画素を軸上色収差の発生起点として検出する発生起点検出ステップと、前記発生起点として検出された注目画素を中心とする所定の周辺領域を軸上色収差領域と判定する領域判定ステップと、前記発生起点として検出された前記注目画素に対し、前記合計画素値算出ステップにおける算出結果に基づいて、前記一方向及び前記他方向について特定色空間上の色空間情報を夫々算出する色空間情報算出ステップと、該色空間情報算出ステップにおいて算出された前記一方向の色空間情報と前記他方向の色空間情報との差分を算出する色空間差分算出ステップと、該色空間差分算出ステップにおいて算出された差分に応じて軸上色収差補正の補正量を算出する補正量算出ステップと、前記軸上色収差領域について前記補正量を用いて補正する補正ステップと、を備える画像処理方法である。
上記他の態様において、前記色空間情報算出ステップにおいて、特定色空間上の色空間情報として、色の角度に関する情報、色の強度に関する情報、及び色の明るさに関する情報の少なくとも1つを算出し、前記色空間差分算出ステップにおいて、前記色空間情報算出ステップによる算出結果に基づいて、前記一方向の色空間情報と前記他方向の色空間情報との差分として、前記色の角度の差分、前記色の強度の差分、及び前記色の明るさの差分のうち少なくとも1つを算出し、前記補正量算出ステップにおいて、前記色空間差分算出ステップによる算出結果に基づいて軸上色収差補正の補正量を算出することとしてもよい。
また、上記他の態様において、前記発生起点検出ステップにおいて、前記注目画素の画素値が所定の閾値よりも大きい場合、又は、前記合計画素値算出ステップにおいて算出された前記一方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係と逆である場合、若しくは、前記一方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係と逆である場合に、前記注目画素を軸上色収差の発生起点として検出することとしてもよい。
また、本発明の他の態様は、入力画像中の注目画素を含み一列に配列する複数の画素について、該注目画素を挟んで一方向及び他方向に配列する画素の画素値を夫々色毎に合計する合計画素値算出ステップと、該合計画素値算出ステップにおける算出結果又は前記注目画素の画素値の少なくとも一方に基づいて、前記注目画素を軸上色収差の発生起点として検出する発生起点検出ステップと、前記発生起点として検出された注目画素を中心とする所定の周辺領域を軸上色収差領域と判定する領域判定ステップと、前記発生起点として検出された前記注目画素に対し、前記合計画素値算出ステップにおける算出結果に基づいて、前記一方向及び前記他方向について特定色空間上の色空間情報を夫々算出する色空間情報算出ステップと、該色空間情報算出ステップにおいて算出された前記一方向の色空間情報と前記他方向の色空間情報との差分を算出する色空間差分算出ステップと、該色空間差分算出ステップにおいて算出された差分に応じて軸上色収差補正の補正量を算出する補正量算出ステップと、前記軸上色収差領域について前記補正量を用いて補正する補正ステップと、をコンピュータに実行させる画像処理プログラムである。
上記他の態様において、前記コンピュータが、前記色空間情報算出ステップにおいて、特定色空間上の色空間情報として、色の角度に関する情報、色の強度に関する情報、及び色の明るさに関する情報の少なくとも1つを算出し、前記色空間差分算出ステップにおいて、前記色空間情報算出ステップによる算出結果に基づいて、前記一方向の色空間情報と前記他方向の色空間情報との差分として、前記色の角度の差分、前記色の強度の差分、及び前記色の明るさの差分のうち少なくとも1つを算出し、前記補正量算出ステップにおいて、前記色空間差分算出ステップによる算出結果に基づいて軸上色収差補正の補正量を算出することとしてもよい。
また、上記他の態様において、前記コンピュータが、前記発生起点検出ステップにおいて、前記注目画素の画素値が所定の閾値よりも大きい場合、又は、前記合計画素値算出ステップにおいて算出された前記一方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係と逆である場合、若しくは、前記一方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係と逆である場合に、前記注目画素を軸上色収差の発生起点として検出することとしてもよい。
本発明によれば、近飽和領域もしくは近飽和領域以外の領域少なくとも一方においても軸上色収差を検出して人間の視覚特性に基づいて補正することができるという効果を奏する。
本発明の一実施形態に係る画像処理装置を示すブロック図である。 図1の画像処理装置を適用する光学系と軸上色収差との関係を模式的に示す図である。 図1の画像処理装置を適用する光学系と軸上色収差との関係を模式的に示す図である。 図1の画像処理装置を用いた画像処理方法を説明するフローチャートである。 図1の画像処理装置おいて設定される注目画素とその周辺画素との座標関係を示す図である。 図1の画像処理装置おいて設定される注目画素とその周辺画素との座標関係を示す図であり、特に、補正前の注目画素とその周辺画素との座標関係を示す。 図1の画像処理装置おいて設定される注目画素とその周辺画素との座標関係を示す図であり、特に、補正後の注目画素とその周辺画素との座標関係を示す。 図1の画像処理装置おいて設定される注目画素とその周辺画素との座標関係を示す図であり、特に、注目画素の画素位置がD1方向として定まっている場合の補正前の注目画素とその周辺画素との座標関係を示す。 図1の画像処理装置おいて設定される注目画素とその周辺画素との座標関係を示す図であり、特に、注目画素の画素位置がD1方向として定まっている場合の補正後の注目画素とその周辺画素との座標関係を示す。 図2とは異なる態様で軸上色収差が発生している場合のステップエッジの第1の例を示す図である。 図2とは異なる態様で軸上色収差が発生している場合のステップエッジの第2の例を示す図である。 画像信号にノイズが含まれる場合の対応例をノイズのない場合及び対応前の状態との比較で示す図である。 有彩色のステップエッジの場合の対応例を無彩色の場合及び対応前の状態との比較で示す図である。 有彩色のステップエッジの場合の他の対応例を無彩色の場合及び対応前の状態との比較で示す図である。 ベイヤ配列された撮像素子により取得された画像のRを注目画素とする場合の画素配列を示す図である。 ベイヤ配列された撮像素子により取得された画像のBを注目画素とする場合の画素配列を示す図である。 ベイヤ配列された撮像素子により取得された画像のGRを注目画素とする場合の画素配列を示す図である。 ベイヤ配列された撮像素子により取得された画像のGBを注目画素とする場合の画素配列を示す図である。
本発明の一実施形態に係る画像処理装置及び画像処理方法について、図面を参照して以下に説明する。
ここで、本実施形態に係る画像処理装置は、カメラにより取得された入力画像に対して後述する画像処理を施すものである。そして、画像処理装置1の処理対象である入力画像は、図示しない撮像光学系を通して入射された光線が固体撮像素子において電気信号に変換され、固定ノイズパターン除去及びアナログゲイン調整等が行われた後に、A/D変換器でディジタル信号に変換され、各種画像処理が施された画像信号である。この入力画像は、各画素においてRGB全ての信号値が得られるフルカラー画像であり、三板撮像素子により取得された三板カラー画像、もしくは、単板撮像素子により取得された単板カラー画像を各画素でRGB値が得られるように補間処理された画像である。
本実施形態に係る画像処理装置は、図1に示すように、入力画像において軸上色収差が発生している軸上色収差領域を抽出する領域抽出部2と、領域抽出部2により抽出された軸上色収差領域に対する補正量を算出する軸上色収差補正量算出部3と、軸上色収差領域の軸上色収差を補正した出力画像を出力する収差補正部4とを備えている。
領域抽出部2は、合計画素値算出部10、発生起点検出部11、及び領域判定部12を備えている。
合計画素値算出部10は、入力画像中の注目画素を設定し、設定された注目画素を含んで一列に配列している複数の画素について、注目画素を中心として一方向(D1)及び他方向(D2)に配列している画素の画素値を夫々色毎に合計する。
発生起点検出部11は、注目画素の画素値、又は合計画素値算出部11により算出された注目画素を挟んで一方向に並ぶ画素の合計画素値若しくは他方向に並ぶ画素の合計画素値の少なくとも一方に基づいて、注目画素が軸上色収差の発生起点であるかを判定し、発生起点となる注目画素を検出する。
発生起点検出部5により検出する軸上色収差の発生起点とは、図2に示すように、例えば、注目画素のG画素値の大きさが飽和レベルになる注目画素、又は図3に示すように、注目画素を挟んで一直線に並ぶ一方向及び他方向の色が異なる場合の注目画素の少なくとも一方を意味している。
すなわち、図2及び図3に示すように、通常の光学系7では、波長の異なる光は光軸の奥行き方向に結像位置が異なることが知られている。一般にGに対して長波長のRは光軸方向の奥側に結像し、Gに対して短波長のBは光軸方向の手前側に結像する。このRGBの結像位置のずれが軸上色収差となって現れる。
無彩色のステップエッジを撮影した場合、像面ではGがステップエッジの形状を有するが、R,Bは結像せずにステップエッジの形状が鈍っている。一方、像面奥では、Gは結像しないためステップエッジの形状が鈍っているが、Rが結像してステップエッジの形状を保持している。BはGよりさらに鈍った形状となる。
反対に、像面手前では、Gは結像しないためステップエッジの形状が鈍り、Bが結像してステップエッジの形状を保持している。RはGよりさらに鈍った形状となる。
領域判定部12は、発生起点検出部5により検出された発生起点である注目画素の所定の周辺領域を軸上色収差領域として判定する。すなわち、注目画素が軸上色収差の発生起点として検出された場合には、軸上色収差の補正対象となるので、注目画素と注目画素を中心とする所定の周辺画素からなる領域を軸上色収差領域として判定する。軸上色収差領域としては、例えば、注目画素を中心とする5×5画素の領域や7×7画素の領域等、適宜設定することができる。
軸上色収差補正量算出部3は、色空間情報算出部15と、色空間差分算出部16と、補正量算出部17とを備えている。
色空間情報算出部15は、発生起点検出部5により発生起点であると検出された注目画素について、特定色空間上の色空間情報を、注目画素に対する一方向及び他方向の夫々について算出する。特定色空間としては、例えば、HSV空間やl*a*b空間などを適用することができる。そして、色空間情報は、合計画素値算出部10により算出された、注目画素を中心として一方向(D1)及び他方向(D2)に配列している画素についての色毎の画素値の合計に基づいて算出する。
色空間差分算出部16は、色空間情報算出部15により算出された一方向の色空間情報と他方向の色空間情報との差分を算出する。
補正量算出部17は、色空間差分算出部16により算出された差分に応じて軸上色収差領域に対する補正量を算出する。
収差補正部4は、補正量算出部17により算出された補正量を用いて軸上色収差領域を補正する。
以下に、このように構成された本実施形態に係る画像処理装置の作用としての画像処理方法について、図4のフローチャートを参照して説明する。
ステップS1において、合計画素値算出部10は、図5に示すように、入力画像中に注目画素(0,0)を設定し、次のステップS2(合計画素値算出ステップ)において、この注目画素を中心として、図5中の縦方向、横方向、右斜め方向及び左斜め方向の4方向について、注目画素を挟んで両側に並ぶ複数画素の画素値の合計を夫々算出する(ステップS2)。
具体的には、数1に示す式に従って、各方向の色毎の画素値の合計を算出する。
Figure 0006633624
ここで、P(x,y)は、座標(x,y)に位置する画素の画素値、PcLは注目画素の左側の画素列の画素値の合計、PcRは注目画素の右側の画素列の画素値の合計、PcTは注目画素の上側の画素列の画素値の合計、PcBは注目画素の下側の画素列の画素値の合計、PcLTは注目画素の左上側の画素列の画素値の合計、PcLBは注目画素の左下側の画素列の画素値の合計、PcRTは注目画素の右上側の画素列の画素値の合計、PcRBは注目画素の右下側の画素列の画素値の合計である。また、添字cはカラーを意味し、r、g、bに置き換えることができ、置き換えることにより色毎の画素値の合計を算出する。また、i,mは正の整数である。
ステップS3(発生起点検出ステップ)において、発生起点検出部11は、以下の条件式(1)又は、合計画素値算出部10により算出された画素値の合計が、条件式(2)〜(5)の全てを満たす場合に、注目画素を軸上色収差の発生起点として検出する。
条件式(1)は、注目画素のG画素値の大きさが任意の飽和レベル閾値THsatより大きい場合に、注目画素を軸上色収差の発生起点として検出することを示す。
Pg(0,0)>THsat …(1)
PgD1>PrD1 …(2)
PgD2<PrD2 …(3)
PgD1>PbD1 …(4)
PgD2<PbD2 …(5)
ここで、PgD1は注目画素から一方向D1に配列している画素のGの画素値の合計、PgD2は注目画素から他方向D2に配列している画素のGの画素値の合計、PrD1は注目画素から一方向D1に配列している画素のRの画素値の合計、PrD2は注目画素から他方向D2に配列している画素のRの画素値の合計、PbD1は注目画素から一方向D1に配列している画素のBの画素値の合計、PbD2は注目画素から他方向D2に配列している画素のBの画素値の合計である。
添字のD1は注目画素からの一方向であることを示し、例えば、数1におけるL、T、LT、LBが該当する。また、添字のD2は注目画素からの他方向であることを示し、例えば、R、B、RT、RBが該当する。方向の定義は任意であるが、D1としてL、T、LT、LBを選択した場合にはD2はR、B、RT、RBとなる。
なお、条件式(1)において、注目画素と任意の飽和レベル閾値THsatとを比較する際に、注目画素のG画素のみを用いることとしたが、必ずしもこれに限られない。例えば、飽和レベル閾値と輝度値とを比較することもできる他、その他公知の方法を用いることもできる。また、近飽和以外の領域の軸上色収差の発生起点を算出する方法についても上記した例に限られず、公知の方法を用いることができる。
ステップS4(検出情報生成ステップ)において、発生起点検出部11は、軸上色収差の発生起点であると検出された注目画素について「0」、発生起点ではないと検出された画素について「1」とする検出情報を生成する。発生起点検出部11は、注目画素が、軸上色収差の発生起点であると検出された場合、その画素位置に対応してPrD1,PrD2,PgD1,PgD2,PbD1,PbD2を保持する。
また、注目画素が、軸上色収差の発生起点であると検出された場合には、その画素位置と対応させて、図5中の縦方向、横方向、右斜め方向及び左斜め方向の4方向の何れの方向が上記条件式(2)〜(5)を満たしたのかを保持し、その方向についての一方向D1及び他方向D2を保持する。
つまり、発生起点検出部11は、検出情報に関連する情報として、D1が、L、T、LT、LBの何れであるのか、及びD2がR、B、RT、RBの何れであるのかを保持しておく。
ステップS5(領域判定ステップ)において、領域判定部12は、注目画素が軸上色収差の発生起点であると検出された場合、すなわち、注目画素について発生起点検出部11により生成された検出情報が「0」であった場合、当該注目画素とその所定の周辺画素を含む領域を軸上色収差領域と判定する。軸上色収差領域として、例えば、検出情報が「0」である画素を中心とした7×7画素を含む領域の等、適宜設定することができる。
ステップS6(色空間情報算出ステップ)において、色空間情報算出部15は、検出情報が「0」であった画素位置に対応するPrD1,PgD1,PbD1及びPrD2,PgD2,PbD2から特定色空間の色空間情報を算出する。
例えば、特定色空間をHSV空間とすると、PrD1,PgD1,PbD1からPhD1,PsD1,PvD1の少なくとも1つを、PrD2,PgD2,PbD2からPhD2,PsD2,PvD2の内D1方向と同じ色空間情報を算出する。
なお、PhD1,PhD2は、発生起点であると検出された注目画素におけるD1方向、D2方向についての角度(色相)に関する色空間情報を示し、PsD1,PsD2は、発生起点であると検出された注目画素におけるD1方向、D2方向についての強度(彩度)に関する色空間情報を示し、PvD1,PvD2は、発生起点であると検出された注目画素におけるD1方向、D2方向についての明るさ(明度)に関する色空間情報を示す。
また、特定色空間をL*a*b*空間とすると、PrD1,PgD1,PbD1からPl*D1,Pa*D1,Pb*D1の少なくとも1つを、PrD2,PgD2,PbD2からPl*D2,Pa*D2,Pb*D2の内D1方向と同じ色空間情報を算出する。なお、Pl*D1,Pl*D2は、発生起点であると検出された注目画素におけるD1方向、D2方向についての明るさ(明度)に関する色空間情報を示し、Pa*D1,Pb*D1,Pa*D2,Pb*D2は、補色に関する情報であって、角度及び強度に関する色空間情報として利用することができる。
ステップS7(色空間差分算出ステップ)において、色空間差分算出部16により、2つの方向の色空間情報から色空間の差分を算出する。色区間情報算出部16は、差分として、色の角度の差分、色の強度の差分、明るさの差分の少なくとも1つを算出する。
ステップS8(補正量算出ステップ)では、色空間差分算出部16により算出された差分に基づいて、補正量を算出し、次のステップS9において、全ての画素について処理が行われたか判定し、全ての画素についての処理が完了していない場合には、ステップS1に戻り、処理が未だ行われていない画素を注目画素としてステップS2〜S7の工程が繰り返される。
全ての画素について処理が行われた場合には、ステップS10(収差補正ステップ)において、領域判定部12により設定された軸上色収差領域について、補正量算出部17により算出された補正量を用いて収差補正部4により補正処理を実施し、処理を終了する。
上述したように、色空間情報として、色についての、角度、強度及び明るさの少なくとも一つを算出し、これらの色空間情報から角度の差分、強度の差分、明るさの差分の少なくとも一つを算出し、これら差分のうち何れか一又は複数を組み合わせた情報に基づいて補正量を算出し、軸上色収差領域の補正を行うことができる。
以下、角度の差分、強度の差分及び明るさの差分のうち、何れか1つまたは複数を組み合わせて補正量を算出する場合の具体例について説明する。
(角度に関する色空間情報に基づいて補正を行う場合)
色空間角度情報算出部15は、発生起点検出部11が検出情報に関連する情報として保持している2つの方向(D1,D2)について、角度に関する色空間情報を夫々算出する(ステップS6)。
色空間角度差分算出部16は、算出した角度に関する色空間情報からその差分を算出する(ステップS7)。
具体的には、特定色空間がHSV空間である場合、角度に関する色空間情報として、PhD1,PhD2を算出し、これらの差分の絶対値Pangleを以下の式(6)に従って算出する。
Pangle=|PhD1-PhD2| …(6)
また、特定色空間がL*a*b*空間である場合、角度に関する色空間情報として、Pa*D1,Pb*D1,Pa*D2,Pb*D2を算出し、これらの差分の絶対値Pangleを以下の式(7)に従って算出する。
Pangle=|tan-1(Pb*D1/Pa*D1)-
tan-1(Pb*D2/Pa*D2)| …(7)
ここで、発生起点検出部11において、条件式(1)を満たすことにより注目画素のG画素値の大きさが任意の飽和レベル閾値THsatより大きいとして、当該注目画素が発生起点と判定された場合は、特定方向のD1,D2が定まっていない。この場合には、例えば、上述した縦、横、斜めの計4つの全ての方向のD1,D2についてPangleを算出し、Pangleが最も大きい値を採用することができる。また、全ての方向のD1,D2についてPangleを算出し、これらの平均値を採用することもできる。
補正量算出部17は、Pangleから補正量Caを算出する。補正量Caは、例えば、Pangleが0から360度の値の場合、Pangleが180度に近い程補正量を大きくし、Pangleが180度から離れている程補正量を小さくする。色空間の角度を色相環のように0度から360度で表した場合に、2つの色が対極となる180度のように、人間の視覚的に色付きが検知されやすい場合に適切な補正量を算出することができる。色の角度が一方向と他方向で同方向となるような補正量を算出することで、補正後に色の角度の差分がなくなり、人間の視覚的に色付きに対する望ましい補正量を算出することができる。
そして、全ての画素について補正量が算出されると、角度に関する色空間情報から算出された補正量に基づく収差補正部の補正処理は、例えば、図6に示すように補正前の画素値をPr,Pg,Pb、図7に示すように補正後の画素値をPr’,Pg’,Pb’として以下の式(8)〜(10)に従って行われる。
Pr’=Pr-Ca …(8)
Pg’=Pg …(9)
Pb’=Pb-Ca …(10)
また、補正前の画素値の角度をPa、補正後の画素値の角度をPa’として、以下の式(11)に従って補正を行うこともできる。
Pa’=Pa-Ca …(11)
以下、角度に関する色空間情報に基づいて補正を行う場合の他の例について説明する。
色空間情報算出部15は、例えば、特定色空間がHSV空間である場合には、角度に関する色空間情報としてのPangle1,Pangle2を以下の式(12)及び式(13)に従って算出する。
Pangle1=PhD1 …(12)
Pangle2=PhD2 …(13)
また、特定色空間がL*a*b*空間である場合、角度に関する色空間情報としてPangle1,Pangle2を以下の式(14)及び式(15)に従って算出する。
Pangle1=tan-1(Pb*D1/Pa*D1) …(14)
Pangle2=tan-1(Pb*D2/Pa*D2) …(15)
ここで、発生起点検出部11において、条件式(1)を満たすことにより注目画素が発生起点と判定された場合には、特定方向のD1,D2が定まっていない。この場合には、色空間情報算出部15は、例えば、上述した縦、横、斜めの計4つの全ての方向のD1,D2でPangle1,Pangle2を算出し、色空間差分算出部16は、Pangle1とPangle2の差の絶対値の最大値を、角度に関する色空間情報の差分として採用し、最大の絶対値を示すD1,D2を特定方向とすることができる。
例えば、角度に関する色空間情報の差分の絶対値Pangleは式(16)により算出する。
Pangle=|Pangle1-Pangle2| …(16)
補正量算出部17はPangle,Pangle1,Pangle2から補正量Ca1,Ca2を、例えば、以下の式(17)〜(20)に従って算出する。
Pangle1がPangle2より大きい場合
Ca1=Pangle …(17)
Ca2=0 …(18)
Pangle2がPangle1より大きい場合
Ca1=0 …(19)
Ca2=Pangle …(20)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された角度に基づく補正量を用いて収差補正部4により補正処理を実施する。
収差補正部4による角度に基づく補正処理は、例えば、図8に示すように補正対象の画素位置がD1方向の場合、補正前の画素値をPr1,Pg1,Pb1(図8)、補正後の画素値をPr1’,Pg1’,Pb1’(図9)として、以下の式(21)〜(23)で表すことができる。
Pr1’=Pr-Ca1 …(21)
Pg1’=Pg …(22)
Pb1’=Pb-Ca1 …(23)
なお、補正前の画素値の角度をPangle1、補正後の画素値の角度をPangle1’とし、次の式(24)に従って補正処理を行うこともできる。。
Pangle1’=Pangle1-Ca1 …(24)
同様に、補正対象の画素位置がD2方向の場合、補正前の画素値をPr2,Pg2,Pb2、補正後の画素値をPr2’,Pg2’,Pb2’とし、次の式(25)〜(27)に従って補正処理を行うことができる。
Pr2’=Pr-Ca2 …(25)
Pg2’=Pg …(26)
Pb2’=Pb-Ca2 …(27)
また、補正前の画素値の角度をPangle2、補正後の画素値の角度をPaangle2’として、次の式(28)で補正処理を行うこともできる。
Pangle2’=Pangle2-Ca2 …(28)
角度に基づく色空間情報に従って軸上色収差を補正する場合、画像処理等により色空間上で特定の色について角度の差が広がるような処理が行われる場合に特に有効である。
(強度に関する色空間情報に基づいて補正を行う場合)
色空間角度情報算出部15は、発生起点検出部11が検出情報に関連する情報として保持している2つの方向(D1,D2)について、強度に関する色空間情報を夫々算出する(ステップS6)。
色空間角度差分算出部16は、算出した強度に関する色空間情報からその差分を算出する(ステップS7)。
具体的には、特定色空間がHSV空間である場合、強度に関する色空間情報として、PsD1,PsD2を算出し、これらの差分の絶対値Pstrengthを以下の式(29)に従って算出する。
Pstrength=|PsD1-PsD2| …(29)
また、特定色空間がL*a*b*空間である場合、強度に関する色空間情報として、Pa*D1,Pb*D1,Pa*D2,Pb*D2を算出し、これらの差分の絶対値Pstrengthを以下の式(30)に従って算出する。
Pstrength=|√(Pa*D1^2+Pb*D1^2)-√(Pa*D2^2+Pb*D2^2)|…(30)
発生起点検出部11において、条件式(1)を満たすことにより注目画素が発生起点と判定され、特定方向のD1,D2が定まっていない場合には、例えば、上述した縦、横、斜めの計4つの全ての方向のD1,D2でPstrengthを算出し、Pstrengthの最大値を採用し、その最大値を示すD1,D2を特定方向とすることができる。
補正量算出部17は、Pstrengthから以下の式(31)に従って、補正量Cbを算出する。Kは任意の定数とする。
Cb=K*Pstrength …(31)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部により算出された強度に基づく補正量を用いて収差補正部4により補正処理を実施する。収差補正部4の強度に基づく補正処理は、例えば、図6に示すように補正前の画素値をPr,Pg,Pb、図7に示すように補正後の画素値をPr’,Pg’,Pb’とし、以下の式(32)〜(34)で表すことができる。
Pr’=Pr-Cb …(32)
Pg’=Pg …(33)
Pb’=Pb-Cb …(34)
また、補正前の画素値の強度をPs、補正後の画素値の強度をPs’とし、次の式(35)に従って補正処理を行うこともできる。
Ps’=Ps-Cb …(35)
色の強度の差分の絶対値が大きいほど大きな補正量を算出し、絶対値が小さいほど小さな補正量を算出することで、色の強度の差分が大きく、人間の視覚的に色付きが検知されやすい場合に適切な補正量を算出することができる。
また、色の強度が一方向と他方向とで同一となる補正量を算出することで、補正後に色の強度の差分がなくなり、人間の視覚的に色付きに対する望ましい補正量を算出することができる。
続いて、強度に関する色空間情報に基づいて補正を行う場合の他の例について説明する。色空間情報算出部15は、例えば、特定色空間がHSV空間である場合には、強度に関する色空間情報としてのPstrength1,Pstrength2を以下の式(36)及び式(37)に従って算出する
Pstrength1=PsD1 …(36)
Pstrength2=PsD2 …(37)
また、特定色空間がL*a*b*空間である場合、強度に関する色空間情報としてPstrength1,Pstrength2を以下の式(38)及び式(39)に従って算出する。
Pstrength1=√(Pa*D1^2+Pb*D1^2) …(38)
Pstrength2=√(Pa*D2^2+Pb*D2^2) …(39)
ここで、発生起点検出部11において、条件式(1)を満たすことにより注目画素が発生起点と判定され、特定方向のD1,D2が定まっていない場合、例えば、色空間情報算出部15が上述した縦、横、斜めの計4つの全ての方向のD1,D2でPstrength1,Pstrength2を算出し、色空間差分算出部16がPstrength1とPstrength2の差の絶対値の最大値を強度に関する色空間情報の差分として採用し、最大の絶対値を示すD1,D2を特定方向とすることができる。
例えば、強度に関する色空間情報の差分の絶対値Pstrengthは次の式(40)により算出する。
Pstrength=|Pstrength1-Pstrength2| …(40)
補正量算出部17はPstrength,Pstrength1,Pstrength2から補正量Cb1,Cb2を、例えば、以下の式(41)〜(44)に従って算出する。
Pstrength1がPstrength2より大きい場合
Cb1=Pstrength …(41)
Cb2=0 …(42)
Pstrength2がPstrength1より大きい場合
Cb1=0 …(43)
Cb2=Pstrength …(44)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された強度に基づく補正量を用いて収差補正部4により補正処理を実施する。
収差補正部17による強度に基づく補正処理は、例えば、図8に示すように補正対象の画素位置がD1方向の場合、補正前の画素値をPr1,Pg1,Pb1(図8)、補正後の画素値をPr1’,Pg1’,Pb1’(図9)として、以下の式次の式(45)〜(47)で表すことができる。
Pr1’=Pr-Cb1 …(45)
Pg1’=Pg …(46)
Pb1’=Pb-Cb1 …(47)
なお、補正前の画素値の強度をPstrength1、補正後の画素値の強度をPstrength1’とし、次の式(48)に従って補正処理を行うこともできる。
Pstrength1’=Pstrength1-Cb1 …(48)
同様に、補正対象の画素位置がD2方向の場合、補正前の画素値をPr2,Pg2,Pb2、補正後の画素値をPr2’,Pg2’,Pb2’とし、次の式(49)〜(51)に従って補正処理を行うことができる。
Pr2’=Pr-Cb2 …(49)
Pg2’=Pg …(50)
Pb2’=Pb-Cb2 …(51)
また、補正前の画素値の強度をPstrength2、補正後の画素値の強度をPstrength2’として、次の式(52)で補正処理を行うこともできる。
Pstrength2’=Pstrength2-Cb2 …(52)
強度に基づく色空間情報に従って軸上色収差を補正する場合、画像処理等により色空間上で特定の色の強度の差が広がるような処理が行われる場合に特に有効である。
(明度に関する色空間情報に基づいて補正を行う場合)
色空間角度情報算出部15は、発生起点検出部11が検出情報に関連する情報として保持している2つの方向(D1,D2)について、明るさに関する色空間情報を夫々算出する(ステップS6)。
色空間角度差分算出部16は、算出した明るさに関する色空間情報からその差分を算出する(ステップS7)。
具体的には、特定色空間がHSV空間である場合、明るさに関する色空間情報として、PvD1,PvD2を算出し、これらの差分の絶対値Plightnessを以下の式(53)に従って算出する。
色空間の2つの明るさの差の絶対値Plightnessは次式で表される。
Plightness=|PvD1-PvD2| …(53)
また、特定色空間がL*a*b*空間である場合、明るさに関する色空間情報として、Pl*D1,Pl*D2を算出し、これらの差分の絶対値Plightnessを次の式(54)に従って算出する。
Plightness=|Pl*D1-Pl*D2| …(54)
発生起点検出部11において、条件式(1)を満たすことにより注目画素が発生起点と判定され、特定方向のD1,D2が定まっていない場合には、例えば、上述した縦、横、斜めの計4つの全ての方向のD1,D2でPlightnessを算出し、Plightnessの最大値を採用し、その最大値を示すD1,D2を特定方向とすることができる。
補正量算出部17は、Plightnessから以下の式に従って、補正量Ccを算出する。Kは任意の定数とする。
Cc=K*Plightness …(55)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部により算出された明るさに基づく補正量を用いて収差補正部4により補正処理を実施する。
収差補正部の補正処理は、図7に示すように補正後の画素値をPr’,Pg’,Pb’とし、以下の式(56)〜(58)で表すことができる。
Pr’=Pr-Cc …(56)
Pg’=Pg …(57)
Pb’=Pb-Cc …(58)
また、補正前の画素値の明度をPl、補正後の画素値の明度をPl’とし、次の式(59)に従って補正処理を行うこともできる。
Pl’=Pl-Cc …(59)
色の明るさの差分の絶対値が大きいほど大きな補正量を算出し、絶対値が小さいほど小さな補正量を算出することで、色の明るさの差分が大きく、人間の視覚的に色付きが検知されやすい場合にも適切な補正量を算出することができる。
また、色の明るさが一方向と他方向とで同一となるような補正量を算出することで、補正後に色の明るさの差分がなくなり、人間の視覚的に色付きに対する望ましい補正量を算出することができる。
続いて、明るさに関する色空間情報に基づいて補正を行う場合の他の例について説明する。色空間情報算出部15は、例えば、特定色空間がHSV空間である場合には、明るさに関する色空間情報としてのPlightness1,Plightness2を以下の式(60)及び式(61)に従って算出する。
Plightness1=PvD1 …(60)
Plightness2=PvD2 …(61)
また、特定色空間がL*a*b*空間である場合、明るさに関する色空間情報としてPlightness1,Plightness2を以下の式(62)及び式(63)に従って算出する。
Plightness1=Pl*D1 …(62)
Plightnss2=Pl*D2 …(63)
ここで、発生起点検出部11において、条件式(1)を満たすことにより注目画素が発生起点と判定され、特定方向のD1,D2が定まっていない場合、例えば、色空間情報算出部15が上述した縦、横、斜めの計4つの全ての方向のD1,D2でPlightness1,Plightness2を算出し、色空間差分算出部16がPlightness1とPlightness2の差分の絶対値の最大値を明るさに関する色空間情報の差分として採用し、最大の絶対値を示すD1,D2を特定方向とすることができる。
例えば、明るさに関する色空間情報差分の絶対値Plightnessは次の式(64)で表される。
Plightness=|Plightness1-Plightness2| …(64)
補正量算出部17はPlightness,Plightness1,Plightness2から補正量Cc1,Cc2を、例えば、以下の式(65)〜(68)に従って算出する。
Plightness1がPlightness2より大きい場合
Cc1=Plightness …(65)
Cc2=0 …(66)
Plightness2がPlightness1より大きい場合
Cc1=0 …(67)
Cc2=Plightness …(68)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された明るさに基づく補正量を用いて収差補正部4により補正処理を実施する。収差補正部17による明るさに基づく補正処理は、例えば、図8に示すように補正対象の画素位置がD1方向の場合、補正前の画素値をPr1,Pg1,Pb1(図8)、補正後の画素値をPr1’,Pg1’,Pb1’(図9)として、以下の式(69)〜(71)で表すことができる。
Pr1’=Pr-Cc1 …(69)
Pg1’=Pg …(70)
Pb1’=Pb-Cc1 …(71)
また、補正前の画素値の明度をPlightness1、補正後の画素値の強度をPlightness1’とし、次の式(72)に従って補正処理を行うこともできる。
Plightness1’=Plightness1-Cc1 …(72)
同様に、補正対象の画素位置がD2方向の場合、補正前の画素値をPr2,Pg2,Pb2、補正後の画素値をPr2’,Pg2’,Pb2’とし、次の式(73)〜(75)に従って補正処理を行うことができる。
Pr2’=Pr-Cc2 …(73)
Pg2’=Pg …(74)
Pb2’=Pb-Cc2 …(75)
また、補正前の画素値の明度をPlightness2、補正後の画素値の明度をPlightness2’として、次の式(76)で補正処理を行うこともできる。
Plightness2’=Plightness2-Cc2 …(76)
明るさに基づく色空間情報に従って軸上色収差を補正する場合、画像処理などにより色空間上で特定の色の明るさの差が広がるような処理が行われる場合に特に有効である。
(角度及び強度に関する色空間情報に基づいて補正を行う場合)
色空間角度情報算出部15は、発生起点検出部11が検出情報に関連する情報として保持している2つの方向(D1,D2)について、角度及び強度に関する色空間情報を夫々算出する(ステップS6)。
色空間角度差分算出部16は、算出した角度及び強度に関する色空間情報からそれらの差分を夫々算出する(ステップS7)。
補正量算出部17は、上記した角度に基づく補正量Ca及び強度に基づく補正量Cbを算出し、これら2つの補正量に基づいて角度及び強度に基づく補正量Cabを、例えば、以下の式(77)に従って算出する。
Cab=Ca+Cb …(77)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された角度及び強度に基づく補正量Cabを用いて収差補正部4により補正処理を実施する。収差補正部4の補正処理は、図6に示すように補正前の画素値をPr,Pg,Pb、図7に示すように補正後の画素値をPr’,Pg’,Pb’として以下の式(78)〜(80)に従って行われる。
Pr’=Pr-Cab …(78)
Pg’=Pg …(79)
Pb’=Pb-Cab …(80)
なお、補正前の画素値の角度をPa、補正後の画素値の角度をPa’として、次の式(81)に従って補正を行うこともできる。
Pa’=Pa-Ca …(81)
また、補正前の画素値の強度をPs、補正後の画素値の強度をPs’として、以下の式(82)に従って補正を行うこともできる。
Ps’=Ps-Cb …(82)
続いて、角度及び強度に関する色空間情報に基づいて補正を行う場合の他の例について説明する。
補正量算出部17により、例えば式(17)〜(20)に従って補正量Ca1,Ca2及びCb1,Cb2を算出し、これらを用いて角度及び強度に基づく補正量Cab1,Cab2を、例えば、以下の式(83)及び(84)に従って算出することができる。算出方法は例えば次のようにする。
Cab1=Ca1+Cb1 …(83)
Cab2=Ca2+Cb2 …(84)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された角度に基づく補正量を用いて収差補正部4により補正処理を実施する。
収差補正部17による角度に基づく補正処理は、例えば、図8に示すように補正対象の画素位置がD1方向の場合、補正前の画素値をPr1,Pg1,Pb1(図8)、補正後の画素値をPr1’,Pg1’,Pb1’(図9)として、以下の式(85)〜(87)で表すことができる。
Pr1’=Pr-Cab1 …(85)
Pg1’=Pg …(86)
Pb1’=Pb-Cab1 …(87)
なお、補正前の画素値の角度をPangle1、補正後の画素値の角度をPangle1’とし、次の式(88)に従って補正処理を行うこともできる。
Pangle1’=Pangle1-Cb1 …(88)
また補正前の画素値の強度をPstrength1、補正後の画素値の強度をPstrength1’とし、次の式(89)に従って補正処理を行うこともできる。
Pstrength1’=Pstrength1-Cb1 …(89)
同様に、補正対象の画素位置がD2方向の場合、補正前の画素値をPr2,Pg2,Pb2、補正後の画素値をPr2’,Pg2’,Pb2’とし、次の式(90)〜(92)に従って補正処理を行うことができる。
Pr2’=Pr-Cab2 …(90)
Pg2’=Pg …(91)
Pb2’=Pb-Cab2 …(92)
また、補正前の画素値の角度をPangle2、補正後の画素値の角度をPangle2’として、次の式(93)で補正処理を行うこともできる。
Pangle2’=Pangle2-Cb2 …(93)
さらに、補正前の画素値の強度をPstrength2、補正後の画素値の強度をPstrength2’として、次の式(94)で補正処理を行うこともできる。
Pstrength2’=Pstrength2-Cb2 …(94)
角度及び強度に基づく色空間情報に従って軸上色収差を補正する場合、、その他画像処理などにより色空間上で特定の色の角度の差及び強度の差が広がるような処理が行われる場合に特に有効である。
(角度及び明るさに関する色空間情報に基づいて補正を行う場合)
色空間角度情報算出部15は、発生起点検出部11が検出情報に関連する情報として保持している2つの方向(D1,D2)について、角度及び明るさに関する色空間情報を夫々算出する(ステップS6)。
色空間角度差分算出部16は、算出した角度及び明るさに関する色空間情報からそれらの差分を夫々算出する(ステップS7)。
補正量算出部17で算出した角度に基づく補正量Ca及び明るさに基づく補正量Ccを用いて角度及び明るさに基づく補正量Cacを、例えば、以下の式(95)に従って算出する。
Cac=Ca+Cc …(95)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された角度及び明度に基づく補正量Cacを用いて収差補正部4により補正処理を実施する。収差補正部4の補正処理は、図6に示すように補正前の画素値をPr,Pg,Pb、図7に示すように補正後の画素値をPr’,Pg’,Pb’として以下の式(96)〜(98)に従って行われる。
Pr’=Pr-Cac …(96)
Pg’=Pg …(97)
Pb’=Pb-Cac …(98)
なお、補正前の画素値の角度をPa、補正後の画素値の角度をPa’として、以下の式(99)に従って補正を行うこともできる。
Pa’=Pa-Ca …(99)
また、補正前の画素値の明度をPl、補正後の画素値の明度をPl’として、以下の式(100)に従って補正を行うこともできる。
Pl’=Pl-Cc …(100)
続いて、角度及び明るさに関する色空間情報に基づいて補正を行う場合の他の例について説明する。補正量算出部17により、角度に基づく補正量Ca1、Ca2及び明るさに基づく補正量Cc1,Cc2を算出し、これらを用いて角度及び明るさに基づく補正量Cac1,Cac2を、例えば、以下の式に従って算出することができる。
Cac1=Ca1+Cc1 …(101)
Cac2=Ca2+Cc2 …(102)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された角度及び明度に基づく補正量を用いて収差補正部4により補正処理を実施する。収差補正部17による角度及び明度に基づく補正処理は、例えば、図8に示すように補正対象の画素位置がD1方向の場合、補正前の画素値をPr1,Pg1,Pb1(図8)、補正後の画素値をPr1’,Pg1’,Pb1’(図9)として、以下の式(103)〜(105)で表すことができる。
Pr1’=Pr-Cac1 …(103)
Pg1’=Pg …(104)
Pb1’=Pb- Cac1 …(105)
なお、補正前の画素値の角度をPangle1、補正後の画素値の角度をPangle1’とし、次の式(106)に従って補正処理を行うこともできる。
Pangle1’=Pangle1-Cb1 …(106)
また、補正前の画素値の明度をPlightness1、補正後の画素値の明度をPlightness1’とすると次式で補正を行っても良い。
Plightness1’=Plightness1-Cc1 …(107)
同様に、補正対象の画素位置がD2方向の場合、補正前の画素値をPr2,Pg2,Pb2、補正後の画素値をPr2’,Pg2’,Pb2’とし、次の式(108)〜(110)に従って補正処理を行うことができる。
Pr2’=Pr-Cac2 …(108)
Pg2’=Pg …(109)
Pb2’=Pb-Cac2 …(110)
また、補正前の画素値の角度をPangle2、補正後の画素値の角度をPangle2’とし、次の式(111)に従って補正処理を行うことができる。
Pangle2’=Pangle2-Cb2 …(111)
また、補正前の画素値の明度をPlightness2、補正後の画素値の明度をPlightness2’とし、次の式(112)に従って補正処理を行うことができる。
Plightness2’=Plightness2-Cc2 …(112)
角度及び明るさに基づく色空間情報に従って軸上色収差を補正する場合、画像処理などにより色空間上で特定の色の角度の差及び明るさの差が広がるような処理が行われる場合に特に有効である。
(強度及び明るさに関する色空間情報に基づいて補正を行う場合)
色空間角度情報算出部15は、発生起点検出部11が検出情報に関連する情報として保持している2つの方向(D1,D2)について、強度及び明るさに関する色空間情報を夫々算出する(ステップS6)。
色空間角度差分算出部16は、算出した強度及び明るさに関する色空間情報からそれらの差分を夫々算出する(ステップS7)。
補正量算出部17で算出した強度に基づく補正量Cb及び明るさに基づく補正量Ccを用いて強度及び明るさに基づく補正量Cbcを、例えば、以下の式(113)に従って算出する。
Cbc=Cb+Cc …(113)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された強度及び明度に基づく補正量Cacを用いて収差補正部4により補正処理を実施する。
収差補正部4の補正処理は、図6に示すように補正前の画素値をPr,Pg,Pb、図7に示すように補正後の画素値をPr’,Pg’,Pb’として以下の式(114)〜(116)に従って行われる。
Pr’=Pr-Cbc …(114)
Pg’=Pg …(115)
Pb’=Pb-Cbc …(116)
なお、補正前の画素値の強度をPs、補正後の画素値の強度をPs’として、以下の式(117)に従って補正を行うこともできる。
Ps’=Ps-Cb …(117)
また、補正前の画素値の明度をPl、補正後の画素値の明度をPl’として、以下の式(118)に従って補正を行うこともできる。
Pl’=Pl-Cc …(118)
続いて、強度及び明るさに関する色空間情報に基づいて補正を行う場合の他の例について説明する。補正量算出部17により、強度に基づく補正量Cb1,Cb2及び明るさに基づく補正量Cc1,Cc2を算出し、これらを用いて強度及び明るさに基づく補正量Cbc1,Cbc2を例えば、以下の式(119)及び(120)に従って算出する。
Cbc1=Cb1+Cc1 …(119)
Cbc2=Cb2+Cc2 …(120)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された強度及び明度に基づく補正量を用いて収差補正部4により補正処理を実施する。収差補正部17による強度及び明度に基づく補正処理は、例えば、図8に示すように補正対象の画素位置がD1方向の場合、補正前の画素値をPr1,Pg1,Pb1(図8)、補正後の画素値をPr1’,Pg1’,Pb1’(図9)として、以下の式(121)〜(123)で表すことができる。
Pr1’=Pr-Cbc1 …(121)
Pg1’=Pg …(122)
Pb1’=Pb-Cbc1 …(123)
なお、補正前の画素値の強度をPstrength1、補正後の画素値の強度をPstrength1’とし、次の式(124)に従って補正処理を行うこともできる。
Pstrength1’=Pstrength1-Cb1 …(124)
また、補正前の画素値の明度をPlightness1、補正後の画素値の明度をPlightness1’とし、次の式(125)に従って補正処理を行うこともできる。
Plightness1’=Plightness1-Cc1 …(125)
同様に、補正対象の画素位置がD2方向の場合、補正前の画素値をPr2,Pg2,Pb2、補正後の画素値をPr2’,Pg2’,Pb2’とし、次の式(126)〜(128)に従って補正処理を行うことができる。
Pr2’=Pr-Cbc2 …(126)
Pg2’=Pg …(127)
Pb2’=Pb-Cbc2 …(128)
なお、補正前の画素値の強度をPstrength2、補正後の画素値の強度をPstrength2’とし、次の式(129)に従って補正処理を行うことができる。
Pstrength2’=Pstrength2-Cb2 …(129)
さらに、補正前の画素値の明度をPlightness2、補正後の画素値の明度をPlightness2’とし、次の式(130)に従って補正処理を行うことができる。
Plightness2’=Plightness2-Cc2 …(130)
強度及び明るさに基づく色空間情報に従って軸上色収差を補正する場合、画像処理等により色空間上で特定の色の強度の差及び明るさの差が広がるような処理が行われる場合に特に有効である。
角度、強度及び明るさに関する色空間情報に基づいて補正を行う場合)
色空間角度情報算出部15は、発生起点検出部11が検出情報に関連する情報として保持している2つの方向(D1,D2)について、角度、強度及び明るさに関する色空間情報を夫々算出する(ステップS6)。
色空間角度差分算出部16は、算出した角度、強度及び明るさに関する色空間情報からそれらの差分を夫々算出する(ステップS7)。
補正量算出部で算出した角度に基づく補正量Ca、強度に基づく補正量Cb、明るさに基づく補正量Ccを用いて角度、強度及び明るさに基づく補正量Cabc、例えば、以下の式(131)に従って算出する。
Cabc=Ca+Cb+Cc …(131)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された角度、強度及び明度に基づく補正量Cabcを用いて収差補正部4により補正処理を実施する。収差補正部4の補正処理は、図6に示すように補正前の画素値をPr,Pg,Pb、図7に示すように補正後の画素値をPr’,Pg’,Pb’として以下の式(132)〜(134)に従って行われる。
Pr’=Pr-Cabc …(132)
Pg’=Pg …(133)
Pb’=Pb-Cabc …(134)
なお、補正前の画素値の角度をPa、補正後の画素値の角度をPa’として、以下の式(135)に従って補正を行うこともできる。
Pa’=Pa-Ca …(135)
また、補正前の画素値の強度をPs、補正後の画素値の強度をPs’として、以下の式(136)に従って補正を行うこともできる。
Ps’=Ps-Cb …(136)
さらに、補正前の画素値の明度をPl、補正後の画素値の明度をPl’として、以下の式(137)に従って補正を行うこともできる。
Pl’=Pl-Cc …(137)
続いて、角度、強度及び明るさに関する色空間情報に基づいて補正を行う場合の他の例について説明する。 補正量算出部17で算出した角度に基づく補正量Ca1,Ca2、強度に基づく補正量Cb1,Cb2、明るさに基づく補正量Cc1,Cc2を用いて角度、強度及び明るさに基づく補正量Cabc1,Cabc2を、例えば、以下の式(138)及び(139)に従って算出する。
Cabc1=Ca1+Cb1+Cc1 …(138)
Cabc2=Ca2+Cb2+Cc2 …(139)
入力画像中の全ての画素について処理が完了したら、軸上色収差領域について、補正量算出部17により算出された角度、強度及び明度に基づく補正量を用いて収差補正部4により補正処理を実施する。収差補正部17による角度に基づく補正処理は、例えば、図8に示すように補正対象の画素位置がD1方向の場合、補正前の画素値をPr1,Pg1,Pb1(図8)、補正後の画素値をPr1’,Pg1’,Pb1’(図9)として、以下の式(140)〜(142)で表すことができる。
Pr1’=Pr-Cabc1 …(140)
Pg1’=Pg …(141)
Pb1’=Pb-Cabc1 …(142)
なお、補正前の画素値の角度をPangle1、補正後の画素値の角度をPangle1’とし、次の式(143)に従って補正処理を行うこともできる。
Pangle1’=Pangle1-Ca1 …(143)
また、補正前の画素値の強度をPstrength1、補正後の画素値の強度をPstrength1’とし、次の式(144)に従って補正処理を行うこともできる。
Pstrength1’=Pstrength1-Cb1 …(144)
さらに、補正前の画素値の明度をPlightness1、補正後の画素値の明度をPlightness1’とし、次の式(145)に従って補正処理を行うこともできる。
Plightness1’=Plightness1-Cc1 …(145)
同様に、補正対象の画素位置がD2方向の場合、補正前の画素値をPr2,Pg2,Pb2、補正後の画素値をPr2’,Pg2’,Pb2’と
し、次の式(146)〜(148)に従って補正処理を行うことができる。
Pr2’=Pr-Cabc2 …(146)
Pg2’=Pg …(147)
Pb2’=Pb-Cabc2 …(148)
なお、補正前の画素値の角度をPangle2、補正後の画素値の角度をPaangle2’とし、次の式(149)に従って補正処理を行うことができる。
Pangle2’=Pangle2-Ca2 …(149)
た補正前の画素値の強度をPstrength2、補正後の画素値の強度をPstrength2’とし、次の式(150)に従って補正処理を行うことができる。
Pstrength2’=Pstrength2-Cb2 …(150)
また、補正前の画素値の明度をPlightness2、補正後の画素値の明度をPlightness2’とし、次の式(151)に従って補正処理を行うことができる。
Plightness2’=Plightness2-Cc2 …(151)
角度、強度及び明るさに基づく色空間情報に従って軸上色収差を補正する場合、画像処理などにより色空間上で特定の色の角度の差、強度の差及び明るさの差が広がるような処理が行われる場合に特に有効である。
このように、本実施形態に係る画像処理装置及び画像処理装置によって実施される画像処理方法によれば、近飽和領域もしくは近飽和領域以外の領域少なくとも一方においても軸上色収差を検出して人間の視覚特性に基づいて補正することができる。
なお、本実施形態に係る画像処理装置1においては、上述した条件式(2)〜(5)全てを満たす場合に軸上色収差の発生起点であるとして検出することとしたが、これに代えて、図10及び図11に示されるように、条件式(2)及び条件式(3)を満たす場合、または、条件式(4)及び条件式(5)を満たす場合に、注目画素を軸上色収差の発生起点であるとして検出することにしてもよい。
このようにすることで、フォーカス位置より広い奥行き範囲で軸上色収差の発生起点を検出することができるという利点がある。
また、条件式(2)、(3)、(5)を全て満たす場合、または、条件式(3)、(4)、(5)を全て満たす場合に、注目画素を軸上色収差の発生起点として検出してもよい。
このようにすることで、他方向D2にパープルフリンジが発生し、一方向D1のRの画素値の合計またはBの画素値の合計が、Gの画素値の合計より小さく、色相環で反対色に近い色となってパープルフリンジが目立つ場所を軸上色収差の発生起点として検出することができる。
また、条件式(2)、(3)、(4)を全て満たす場合、または、条件式(2)、(4)、(5)を全て満たす場合に、注目画素を軸上色収差の発生起点として検出してもよい。
このようにすることで、一方向D1にグリーンフリンジが発生し、他方向D2のRの画素値の合計またはBの画素値の合計が、Gの画素値の合計より大きく、色相環で反対色に近い色となってグリーンフリンジが目立つ場所を軸上色収差の発生起点として検出することができる。
また、数1で算出された画素値の合計が、次の条件式(152)〜(155)を全て満たす場合に注目画素を軸上色収差の発生起点として検出することにしてもよい。
PgD1+THR1>PrD1 …(152)
PgD2−THR2<PrD2 …(153)
PgD1+THB1>PbD1 …(154)
PgD2−THB2<PbD2 …(155)
ここで、THR1,THR2,THB1,THB2は任意の定数である。
THR1,THR2,THB1,THB2としては、図12に示すように、例えば、処理対象の画素位置におけるGとR、または、GとBのノイズ量を示す標準偏差の差を例示することができる。一方向D1及び他方向D2のR,G,B夫々のノイズ量をNrD1、NgD1、NbD1、NrD2、NgD2、NbD2として、以下の式(156)〜式(159)で示すことができる。
THR1=NrD1−NgD1 …(156)
THR2=NrD2−NgD2 …(157)
THB1=NbD1−NgD1 …(158)
THB2=NbD2−NgD2 …(159)
このようにすることで、ノイズの影響を低減し、安定して軸上色収差の発生起点を検出することができるという利点がある。
また、数1で算出された画素値の合計が、次の条件式(160)〜(163)を全て満たす場合に注目画素を軸上色収差の発生起点として検出することにしてもよい。
PgD1+TH>PrD1 …(160)
PgD2+TH<PrD2 …(161)
PgD1+TH>PbD1 …(162)
PgD2+TH<PbD2 …(163)
ここで、TH,THは任意の定数である。
定数TH,THとしては、図13に示されるように、例えば、処理対象の画素位置におけるGとR、または、GとBの画素値の差分を例示することができる。注目画素のR,G,Bの夫々の画素値をPr(0,0)、Pg(0,0)、Pb(0,0)とすると、以下の式(164)及び式(165)となる。
TH=Pg(0,0)−−Pr(0,0) …(164)
TH=Pg(0,0)−−Pb(0,0) …(165)
このようにすることで、無彩色ではなく、色つきの被写体上に発生した軸上色収差の発生起点を検出することができるという利点がある。
また、数1で算出された画素値の合計が、次の条件式(166)〜(169)を全て満たす場合に注目画素を軸上色収差の発生起点として検出することにしてもよい。
PgD1>PrD1×K …(166)
PgD2<PrD2×K …(167)
PgD1>PbD1×K …(168)
PgD2<PbD2×K …(169)
ここで、K,Kは任意の定数である。
定数K,Kとしては、図14に示されるように、例えば、処理対象の画素位置におけるGとR、または、GとBの画素値の比率を例示することができる。注目画素のR,G,Bの夫々の画素値をPr(0,0)、Pg(0,0)、Pb(0,0)とすると、以下の式(170)及び式(171)となる。
=Pg(0,0)/Pr(0,0) …(170)
=Pg(0,0)/Pb(0,0) …(171)
このようにすることによっても、無彩色ではなく、色つきの被写体上に発生した軸上色収差の発生起点を検出することができるという利点がある。
また、本実施形態においては、各画素においてRGB全ての信号値が得られるフルカラー画像が入力画像として入力される場合について例示したが、これに代えて、いわゆるベイヤ画像である場合に適用することにしてもよい。この場合、一方向D1の合計画素値算出部4における合計画素値の算出方法は数2〜数4の通りとなる。
図15に示すように、注目画素がR(斜線部分)である場合には、数2及び数3に示す数式により合計画素値が算出される。
Figure 0006633624

Figure 0006633624
図16に示されるように、注目画素がB(斜線部分)である場合には、数4及び数5に示される数式により合計画素値が算出される。
Figure 0006633624

Figure 0006633624
図17に示されるように、注目画素がGR(斜線部分)である場合には、数6及び数7に示される数式により合計画素値が算出される。
Figure 0006633624

Figure 0006633624
図18に示されるように、注目画素がGB(斜線部分)である場合には、数8及び数9に示される数式により合計画素値が算出される。
Figure 0006633624

Figure 0006633624
このようにすることで、同時化されていない画像に対しても軸上色収差の発生起点を検出することができ、検出時に同時化のための補間エラーの影響をなくすことができる。
本実施形態に係る画像処理装置1は、放送用据え置き型カメラ、ENGカメラ、民生用ハンディカメラ、デジタルカメラ等の製品に搭載して使用される。また、動画を扱う画像信号補正プログラム(CGプログラム)や画像編集装置等にも用いることができる。また、本実施形態に係る画像処理方法をコンピュータ(例えば、パーソナルコンピュータ)に実行させる画像処理プログラムとして用いることもできる。
2 領域抽出部
3 軸上色収差補正量算出部
4 収差補正部
10 合計画素値算出部
11 発生起点検出部
12 領域判定部
15 色空間情報算出部
16 色空間差分算出部
17 補正量算出部

Claims (20)

  1. 入力画像中の注目画素を含み一列に配列する複数の画素について、該注目画素を挟んで一方向及び他方向に配列する画素の画素値を夫々色毎に合計する合計画素値算出部と、
    該合計画素値算出部による算出結果又は前記注目画素の画素値の少なくとも一方に基づいて、前記注目画素が軸上色収差の発生起点であるか否かを判定し、発生起点を検出する発生起点検出部と、
    前記発生起点として検出された注目画素を中心とする所定の周辺領域を軸上色収差領域と判定する領域判定部と、
    前記発生起点として検出された前記注目画素に対し、前記合計画素値算出部による算出結果に基づいて、前記一方向及び前記他方向について特定色空間上の色空間情報を夫々算出する色空間情報算出部と、
    該色空間情報算出部により算出された前記一方向の色空間情報と前記他方向の色空間情報との差分を算出する色空間差分算出部と、
    該色空間差分算出部により算出された差分に応じて軸上色収差補正の補正量を算出する補正量算出部と、
    前記軸上色収差領域について前記補正量を用いて補正する補正部と、
    を備える画像処理装置。
  2. 前記色空間情報算出部が、特定色空間上の色空間情報として、色の角度に関する情報、色の強度に関する情報、及び色の明るさに関する情報の少なくとも1つを算出し、
    前記色空間差分算出部が、前記色空間情報算出部による算出結果に基づいて、前記一方向の色空間情報と前記他方向の色空間情報との差分として、前記色の角度の差分、前記色の強度の差分、及び前記色の明るさの差分のうち少なくとも1つを算出し、
    前記補正量算出部が、前記色空間差分算出部による算出結果に基づいて軸上色収差補正の補正量を算出する請求項1記載の画像処理装置。
  3. 前記発生起点検出部が、前記注目画素の画素値が所定の閾値よりも大きい場合、又は、前記合計画素値算出部により算出された前記一方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係と逆である場合、若しくは、前記一方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係と逆である場合に、前記注目画素を軸上色収差の発生起点として検出する請求項1または2記載の画像処理装置。
  4. 前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定する請求項1または2記載の画像処理装置。
    PgD1>PrD1
    PgD2<PrD2
    ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計である。
  5. 前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定する請求項1または2記載の画像処理装置。
    PgD1>PbD1
    PgD2<PbD2
    ここで、
    PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計である。
  6. 前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定する請求項1または2記載の画像処理装置。
    PgD1>PrD1
    PgD2<PrD2
    PgD2<PbD2
    ここで、
    PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計である。
  7. 前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定する請求項1または2記載の画像処理装置。
    PgD1>PbD1
    PgD2<PrD2
    PgD2<PbD2
    ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計である。
  8. 前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定する請求項1または2記載の画像処理装置。
    PgD1>PrD1
    PgD1>PbD1
    PgD2<PrD2
    ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、である。
  9. 前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定する請求項1または2記載の画像処理装置。
    PgD1>PrD1
    PgD1>PbD1
    PgD2<PbD2
    ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計
    である。
  10. 前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定する請求項1または2記載の画像処理装置。
    PgD1+THR1>PrD1
    PgD2−−THR2<PrD2
    PgD1+THB1>PbD1
    PgD2−−THB2<PbD2
    ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計、THR1,THR2,THB1,THB2は任意の定数である。
  11. 前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定する請求項1または2記載の画像処理装置。
    PgD1+TH>PrD1
    PgD2+TH<PrD2
    PgD1+TH>PbD1
    PgD2+TH<PbD2
    ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計、TH,THは任意の定数である。
  12. 前記発生起点検出部が、以下の条件式を満足する場合に、前記注目画素を軸上色収差の発生起点であると判定する請求項1または2記載の画像処理装置。
    PgD1>PrD1×K
    PgD2<PrD2×K
    PgD1>PbD1×K
    PgD2<PbD2×K
    ここで、PgD1は前記注目画素から前記一方向に配列している画素のGの画素値の合計、PgD2は前記注目画素から前記他方向に配列している画素のGの画素値の合計、PrD1は前記注目画素から前記一方向に配列している画素のRの画素値の合計、PrD2は前記注目画素から前記他方向に配列している画素のRの画素値の合計、PbD1は前記注目画素から前記一方向に配列している画素のBの画素値の合計、PbD2は前記注目画素から前記他方向に配列している画素のBの画素値の合計、K,Kは任意の定数である。
  13. 前記画像が、各画素にRGB全ての画素値を有する請求項1または2記載の画像処理装置。
  14. 前記画像が、各画素においてRGBの少なくとも1つの画素値が欠落した画素値を有する請求項1または2記載の画像処理装置。
  15. 入力画像中の注目画素を含み一列に配列する複数の画素について、該注目画素を挟んで一方向及び他方向に配列する画素の画素値を夫々色毎に合計する合計画素値算出ステップと、
    該合計画素値算出ステップにおける算出結果又は前記注目画素の画素値の少なくとも一方に基づいて、前記注目画素を軸上色収差の発生起点として検出する発生起点検出ステップと、
    前記発生起点として検出された注目画素を中心とする所定の周辺領域を軸上色収差領域と判定する領域判定ステップと、
    前記発生起点として検出された前記注目画素に対し、前記合計画素値算出ステップにおける算出結果に基づいて、前記一方向及び前記他方向について特定色空間上の色空間情報を夫々算出する色空間情報算出ステップと、
    該色空間情報算出ステップにおいて算出された前記一方向の色空間情報と前記他方向の色空間情報との差分を算出する色空間差分算出ステップと、
    該色空間差分算出ステップにおいて算出された差分に応じて軸上色収差補正の補正量を算出する補正量算出ステップと、
    前記軸上色収差領域について前記補正量を用いて補正する補正ステップと、
    を備える画像処理方法。
  16. 前記色空間情報算出ステップにおいて、特定色空間上の色空間情報として、色の角度に関する情報、色の強度に関する情報、及び色の明るさに関する情報の少なくとも1つを算出し、
    前記色空間差分算出ステップにおいて、前記色空間情報算出ステップによる算出結果に基づいて、前記一方向の色空間情報と前記他方向の色空間情報との差分として、前記色の角度の差分、前記色の強度の差分、及び前記色の明るさの差分のうち少なくとも1つを算出し、
    前記補正量算出ステップにおいて、前記色空間差分算出ステップによる算出結果に基づいて軸上色収差補正の補正量を算出する請求項15記載の画像処理方法。
  17. 前記発生起点検出ステップにおいて、前記注目画素の画素値が所定の閾値よりも大きい場合、又は、前記合計画素値算出ステップにおいて算出された前記一方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係と逆である場合、若しくは、前記一方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係と逆である場合に、前記注目画素を軸上色収差の発生起点として検出する請求項15又は16記載の画像処理方法。
  18. 入力画像中の注目画素を含み一列に配列する複数の画素について、該注目画素を挟んで一方向及び他方向に配列する画素の画素値を夫々色毎に合計する合計画素値算出ステップと、
    該合計画素値算出ステップにおける算出結果又は前記注目画素の画素値の少なくとも一方に基づいて、前記注目画素を軸上色収差の発生起点として検出する発生起点検出ステップと、
    前記発生起点として検出された注目画素を中心とする所定の周辺領域を軸上色収差領域と判定する領域判定ステップと、
    前記発生起点として検出された前記注目画素に対し、前記合計画素値算出ステップにおける算出結果に基づいて、前記一方向及び前記他方向について特定色空間上の色空間情報を夫々算出する色空間情報算出ステップと、
    該色空間情報算出ステップにおいて算出された前記一方向の色空間情報と前記他方向の色空間情報との差分を算出する色空間差分算出ステップと、
    該色空間差分算出ステップにおいて算出された差分に応じて軸上色収差補正の補正量を算出する補正量算出ステップと、
    前記軸上色収差領域について前記補正量を用いて補正する補正ステップと、
    をコンピュータに実行させる画像処理プログラム。
  19. 前記コンピュータが、
    前記色空間情報算出ステップにおいて、特定色空間上の色空間情報として、色の角度に関する情報、色の強度に関する情報、及び色の明るさに関する情報の少なくとも1つを算出し、
    前記色空間差分算出ステップにおいて、前記色空間情報算出ステップによる算出結果に基づいて、前記一方向の色空間情報と前記他方向の色空間情報との差分として、前記色の角度の差分、前記色の強度の差分、及び前記色の明るさの差分のうち少なくとも1つを算出し、
    前記補正量算出ステップにおいて、前記色空間差分算出ステップによる算出結果に基づいて軸上色収差補正の補正量を算出する請求項18記載の画像処理プログラム。
  20. 前記コンピュータが、
    前記発生起点検出ステップにおいて、前記注目画素の画素値が所定の閾値よりも大きい場合、又は、前記合計画素値算出ステップにおいて算出された前記一方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とRの画素値の合計との大小関係と逆である場合、若しくは、前記一方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係が、前記他方向に配列している画素のGの画素値の合計とBの画素値の合計との大小関係と逆である場合に、前記注目画素を軸上色収差の発生起点として検出する請求項18記載の画像処理プログラム。
JP2017517499A 2015-05-12 2015-05-12 画像処理装置、画像処理方法及び画像処理プログラム Active JP6633624B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/063540 WO2016181476A1 (ja) 2015-05-12 2015-05-12 画像処理装置、画像処理方法及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2016181476A1 JPWO2016181476A1 (ja) 2018-03-01
JP6633624B2 true JP6633624B2 (ja) 2020-01-22

Family

ID=57247848

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017517499A Active JP6633624B2 (ja) 2015-05-12 2015-05-12 画像処理装置、画像処理方法及び画像処理プログラム

Country Status (4)

Country Link
US (1) US10659738B2 (ja)
JP (1) JP6633624B2 (ja)
CN (1) CN107534758B (ja)
WO (1) WO2016181476A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106454054B (zh) 2016-11-29 2019-03-19 Oppo广东移动通信有限公司 控制方法、控制装置及电子装置
CN106341670B (zh) 2016-11-29 2017-09-22 广东欧珀移动通信有限公司 控制方法、控制装置及电子装置
CN106454288B (zh) 2016-11-29 2018-01-19 广东欧珀移动通信有限公司 控制方法、控制装置、成像装置及电子装置
CN106504218B (zh) 2016-11-29 2019-03-12 Oppo广东移动通信有限公司 控制方法、控制装置及电子装置
GB2568261B (en) * 2017-11-08 2022-01-26 Displaylink Uk Ltd System and method for presenting data at variable quality
US11442266B1 (en) * 2019-09-09 2022-09-13 Apple Inc. Method and device for correcting chromatic aberration in multiple bands

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4539278B2 (ja) 2004-10-13 2010-09-08 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
WO2007007878A1 (ja) 2005-07-14 2007-01-18 Nikon Corporation 画像処理装置および画像処理方法
JP4487902B2 (ja) 2005-11-09 2010-06-23 ソニー株式会社 画像処理装置および方法、並びにプログラム
US7577292B2 (en) 2005-12-30 2009-08-18 Microsoft Corporation Automatic removal of purple fringing from images
JP4192975B2 (ja) * 2006-07-26 2008-12-10 ソニー株式会社 画像処理装置および方法、プログラム並びに記録媒体
JP5200645B2 (ja) 2008-04-24 2013-06-05 株式会社ニコン 画像処理装置、撮像装置、画像処理方法およびプログラム
US8958009B2 (en) 2010-01-12 2015-02-17 Nikon Corporation Image-capturing device
JP5163733B2 (ja) 2010-06-17 2013-03-13 株式会社ニコン 撮像装置、および焦点判定プログラム
JP5324508B2 (ja) 2010-03-26 2013-10-23 富士フイルム株式会社 画像処理装置および方法,ならびに画像処理プログラム
JP5552956B2 (ja) 2010-08-12 2014-07-16 株式会社ニコン 画像処理装置、画像処理方法およびプログラム
US8553978B2 (en) * 2010-11-03 2013-10-08 Csr Technology Inc. System and method for providing multi resolution purple fringing detection and correction
JP5840008B2 (ja) 2011-02-21 2016-01-06 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP2012209709A (ja) * 2011-03-29 2012-10-25 Sony Corp 画像処理装置および方法、記録媒体並びにプログラム
JP5847471B2 (ja) 2011-07-20 2016-01-20 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法および画像処理プログラム
JP2013172402A (ja) * 2012-02-22 2013-09-02 Nikon Corp 画像処理装置、撮像装置および画像処理プログラム
JP2014086932A (ja) 2012-10-25 2014-05-12 Sony Corp 画像処理装置、画像処理方法、および画像処理プログラム
JP6441379B2 (ja) 2014-11-28 2018-12-19 オリンパス株式会社 画像処理装置、画像処理方法および画像処理プログラム

Also Published As

Publication number Publication date
US10659738B2 (en) 2020-05-19
CN107534758B (zh) 2019-05-28
WO2016181476A1 (ja) 2016-11-17
US20180077392A1 (en) 2018-03-15
JPWO2016181476A1 (ja) 2018-03-01
CN107534758A (zh) 2018-01-02

Similar Documents

Publication Publication Date Title
JP6633624B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
KR102170686B1 (ko) 화이트 밸런스 보정 장치 및 방법
JP6600936B2 (ja) 画像処理装置、画像処理方法、画像処理システム、プログラム、及び記録媒体
JP4346634B2 (ja) 目標物検出装置
JP2016510108A5 (ja)
JP2015211319A5 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6239358B2 (ja) 画素補間装置、撮像装置、プログラムおよび集積回路
JP2014086932A (ja) 画像処理装置、画像処理方法、および画像処理プログラム
JP6282123B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5718138B2 (ja) 画像信号処理装置及びプログラム
WO2009098827A1 (ja) 画像処理装置及び画像処理プログラム
US10489890B2 (en) Image-processing apparatus, image-processing method, and image-processing program
JP6415093B2 (ja) 画像処理装置、画像処理方法、及びプログラム
KR101810393B1 (ko) 화상처리장치, 촬상장치, 화상처리방법 및 기억매체
JP2015211343A5 (ja)
CN107340296A (zh) 变化程度导出设备、变化程度导出系统和已知颜色体
JP2013038655A (ja) 画像処理装置及びその制御方法
JP6552248B2 (ja) 画像処理装置及び方法、撮像装置、並びにプログラム
JP4334150B2 (ja) 画像補間装置
JP5836878B2 (ja) 画像処理装置、方法、及びプログラム
JP2014158165A (ja) 画像処理装置、画像処理方法およびプログラム
JP6725060B2 (ja) 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP4334152B2 (ja) 画像補間装置
JP2021170767A (ja) 画像処理装置、画像処理方法、および画像処理システム
JP6033182B2 (ja) 画像読取装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171108

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190611

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190718

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191212

R151 Written notification of patent or utility model registration

Ref document number: 6633624

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250