JP4539278B2 - 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム - Google Patents

画像処理装置、および画像処理方法、並びにコンピュータ・プログラム Download PDF

Info

Publication number
JP4539278B2
JP4539278B2 JP2004298321A JP2004298321A JP4539278B2 JP 4539278 B2 JP4539278 B2 JP 4539278B2 JP 2004298321 A JP2004298321 A JP 2004298321A JP 2004298321 A JP2004298321 A JP 2004298321A JP 4539278 B2 JP4539278 B2 JP 4539278B2
Authority
JP
Japan
Prior art keywords
pixel
value
false color
target pixel
interpolation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004298321A
Other languages
English (en)
Other versions
JP2006115039A (ja
Inventor
類 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004298321A priority Critical patent/JP4539278B2/ja
Publication of JP2006115039A publication Critical patent/JP2006115039A/ja
Application granted granted Critical
Publication of JP4539278B2 publication Critical patent/JP4539278B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、画像処理装置、および画像処理方法、並びにコンピュータ・プログラムに関する。さらに詳細には、例えばレンズの収差による偽色の発生した画像データを補正し、高品質な画像データを生成する画像処理装置、および画像処理方法、並びにコンピュータ・プログラムに関する。
カメラで画像撮影を行なう際には、レンズの収差によりさまざまな問題が引き起こされる。典型的な収差の例として、単色収差であるザイデルの五収差が挙げられる。これはドイツのザイデルによって分析されたレンズの球面に基づく5つの収差であり、球面収差、コマ収差、非点収差、歪曲収差、像面歪曲の各収差の総称である。さらに、これらの収差とは別に、色収差も重要な問題を引き起こすことが知られている。色収差は、レンズ素材に対する光の屈折率がその波長により異なることに起因し、撮像面にて偽色を生ずる。
色収差の代表的な例として、光軸上の焦点位置が波長によって異なるため色のにじみが起こる軸上色収差や、波長により像倍率が異なるため色ずれが起こる倍率色収差などがよく知られているが、英語で一般的にPurple Fringe(パープルフリンジ)と呼ばれる現象も画像の劣化を引き起こす重要な原因となる。これは、光の波長により点像分布が異なっているために、画像中のエッジ部分に偽色が発生する現象である。通常の画素ではそれほど目立たない場合でも、輝度レベルにおける飽和状態としての白とびが起こっているハイコントラストのエッジ部分があれば、その周辺に紫色の偽色が発生し、不自然な像が結像されてしまう。一般に、白とびの近傍に発生する偽色は紫系の色が多く発生するためパープルフリンジと呼ばれる。ただし、レンズ、撮影条件などに応じて、偽色の色は緑がかった色となる場合など様々である。以下、パープルフリンジとは、発生する色に関わらず白とびが起こっているハイコントラストのエッジ部分における偽色発生現象を指すものとする。
色収差を軽減するための技術としては、蛍石など特殊な素材で出来たガラスを用いたレンズがある。しかし、このようなレンズを製造するのはコストがかるため価格も高く、レンズ交換式のカメラ用など一部の高級なカメラで用いられているが、一般に広く普及しているとは言えない。
また、特許文献1には、色収差によって発生する偽色を画像処理により軽減する方法が示されている。これは、緑チャンネルの高周波成分が高い部分に関して、色を抑制、つまり彩度を低下させる処理を行うものである。また、白とびが起こっている場合の対策として、露出を変えて2枚の画像を撮像し白とび部分の本来の輝度を推定し、彩度を低下させる処理を行う構成を開示している。
しかし、特許文献1に記載の処理は、彩度の低下により偽色の軽減を行っているため、本来の被写体の色についての彩度も低下し、被写体本来の忠実な色の再現ができなくなりその結果、不自然な画像が出力されるという問題がある。また、白とび部分の輝度推定のために、2回撮影を行う必要があり、この2回の撮影の間に手ぶれや被写体ぶれなどが起こった場合、正しい結果を得ることが困難になるという問題がある。
特開2003−60983号公報
本発明は、上述の問題点に鑑みてなされたものであり、白とび周辺に発生するパープルフリンジ等の偽色に注目し、この偽色領域を効率的に検出し、部分的な補正を実行することにより、画像全体に対する影響を発生させることなく高品質な画像データを生成、出力することを可能とした画像処理装置、および画像処理方法、並びにコンピュータ・プログラムを提供することを目的とする。
本発明は、特に、画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いを算出し、偽色度合いに応じて注目画素の元画素値と、周囲画素の画素値に基づいて生成する補間値との寄与率を変更して注目画素の補正画素値を算出する構成とすることで、ユーザによるパラメータ設定などのアシストのない自動補正処理を行った場合にも画像が破綻することのない高品質な画像データを生成可能な画像処理装置、および画像処理方法、並びにコンピュータ・プログラムを提供することを目的とする。
本発明の第1の側面は、
画像処理装置であり、
画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いpを算出する偽色度合い算出部と、
注目画素近傍領域の画素値に基づいて、注目画素に対応する補間値を算出する補間値算出部と、
注目画素の元画素値と前記補間値とを適用し、注目画素の偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出する補正画素値算出部と、
を有し、
前記偽色度合い算出部は、
注目画素についての、
(a)白とび(高輝度画素)への近さを示す白とび距離評価値P
(b)彩度の大きさを示す彩度評価値P
(c)偽色に対応する特定色相への近さを示す色相評価値P θ
の少なくともいずれかを適用して注目画素の偽色度合いpを算出する構成であることを特徴とする画像処理装置にある。
さらに、本発明の画像処理装置の一実施態様において、前記偽色度合い算出部は、注目画素についての、
(a)白とび(高輝度画素)への近さを示す白とび距離評価値P
(b)彩度の大きさを示す彩度評価値P
(c)偽色に対応する特定色相への近さを示す色相評価値Pθ
を適用し、偽色度合いpを、下記式、
p=P・Pθ・P
に従って算出する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記補正画素値算出部は、注目画素(x,y)の元画素値対応の色情報をC(x,y)、前記補間値をFとし、注目画素の偽色度合いをpとした場合、注目画素の補正画素値に対応する色情報C'(x,y)を、式:C'(x,y)=pF+(1−p)C(x,y)
ただしp=0〜1であり、偽色度合いが高い場合1に近づく値を持つ、
上記式に従って算出する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記補間値算出部は、注目画素近傍領域に設定した補間値算出範囲の構成画素に設定した重み情報に基づいて、補間値算出範囲の全構成画素に基づく重み総和保存変数Wtotalと、色情報補間値保存変数Ctmpとを算出し、該変数に基づいて、注目画素に対応する補間値(Ctmp/Wtotal)を算出する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記補正画素値算出部は、前記偽色度合いpに基づいてフィルタリング態様を設定したローパスフィルタを適用して生成した補間値に基づいて注目画素の補正画素値を算出する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記画像処理装置は、さらに、偽色と判定された注目画素の画素値を周囲画素の画素値に基づいて補正する穴埋め補間処理を実行する穴埋め補間処理部と、前記穴埋め補間処理部において実行された補間処理において算出する注目画素対応の第1の補正画素値と、前記補正画素値算出部において偽色度合いpを適用して算出する第2の補正画素値とをブレンドして最終補正画素値を算出するブレンド処理部と、を有することを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記偽色はパープルフリンジであり、前記偽色度合い算出部は、画像データの構成画素から選択された注目画素について、パープルフリンジである可能性を示すパラメータとしての偽色度合いpを算出する構成であり、前記補正画素値算出部は、注目画素の元画素値と前記補間値とを適用し、注目画素がパープルフリンジである可能性を示すパラメータとしての偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出する構成であることを特徴とする。
さらに、本発明の第2の側面は、
画像処理方法であり、
画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いpを算出する偽色度合い算出ステップと、
注目画素近傍領域の画素値に基づいて、注目画素に対応する補間値を算出する補間値算出ステップと、
注目画素の元画素値と前記補間値とを適用し、注目画素の偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出する補正画素値算出ステップと、
を有し、
前記偽色度合い算出ステップは、
注目画素についての、
(a)白とび(高輝度画素)への近さを示す白とび距離評価値P
(b)彩度の大きさを示す彩度評価値P
(c)偽色に対応する特定色相への近さを示す色相評価値P θ
の少なくともいずれかを適用して注目画素の偽色度合いpを算出するステップであることを特徴とする画像処理方法にある。
さらに、本発明の画像処理方法の一実施態様において、前記偽色度合い算出ステップは、注目画素についての、
(a)白とび(高輝度画素)への近さを示す白とび距離評価値P
(b)彩度の大きさを示す彩度評価値P
(c)偽色に対応する特定色相への近さを示す色相評価値Pθ
を適用し、偽色度合いpを、下記式、
p=P・Pθ・P
に従って算出するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記補正画素値算出ステップは、注目画素(x,y)の元画素値対応の色情報をC(x,y)、前記補間値をFとし、注目画素の偽色度合いをpとした場合、注目画素の補正画素値に対応する色情報C'(x,y)を、式:C'(x,y)=pF+(1−p)C(x,y)
ただしp=0〜1であり、偽色度合いが高い場合1に近づく値を持つ、
上記式に従って算出するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記補間値算出ステップは、注目画素近傍領域に設定した補間値算出範囲の構成画素に設定した重み情報に基づいて、補間値算出範囲の全構成画素に基づく重み総和保存変数Wtotalと、色情報補間値保存変数Ctmpとを算出し、該変数に基づいて、注目画素に対応する補間値(Ctmp/Wtotal)を算出するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記補正画素値算出ステップは、前記偽色度合いpに基づいてフィルタリング態様を設定したローパスフィルタを適用して生成した補間値に基づいて注目画素の補正画素値を算出するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記画像処理方法は、さらに、偽色と判定された注目画素の画素値を周囲画素の画素値に基づいて補正する穴埋め補間処理を実行する穴埋め補間処理ステップと、前記穴埋め補間処理ステップにおいて実行された補間処理において算出する注目画素対応の第1の補正画素値と、前記補正画素値算出部において偽色度合いpを適用して算出する第2の補正画素値とをブレンドして最終補正画素値を算出するブレンド処理ステップとを有することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記偽色はパープルフリンジであり、前記偽色度合い算出ステップは、画像データの構成画素から選択された注目画素について、パープルフリンジである可能性を示すパラメータとしての偽色度合いpを算出するステップであり、前記補正画素値算出ステップは、注目画素の元画素値と前記補間値とを適用し、注目画素がパープルフリンジである可能性を示すパラメータとしての偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出するステップであることを特徴とする。
さらに、本発明の第3の側面は、
画像処理をコンピュータ上で実行させるコンピュータ・プログラムであり、
画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いpを算出する偽色度合い算出ステップと、
注目画素近傍領域の画素値に基づいて、注目画素に対応する補間値を算出する補間値算出ステップと、
注目画素の元画素値と前記補間値とを適用し、注目画素の偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出する補正画素値算出ステップと、
を有し、
前記偽色度合い算出ステップは、
注目画素についての、
(a)白とび(高輝度画素)への近さを示す白とび距離評価値P
(b)彩度の大きさを示す彩度評価値P
(c)偽色に対応する特定色相への近さを示す色相評価値P θ
の少なくともいずれかを適用して注目画素の偽色度合いpを算出するステップであることを特徴とするコンピュータ・プログラムにある。
なお、本発明のコンピュータ・プログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、CDやFD、MOなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なコンピュータ・プログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ・システム上でプログラムに応じた処理が実現される。
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施例や添付する図面に基づく、より詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本発明の構成によれば、画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いpを算出し、注目画素近傍領域の画素値に基づいて、注目画素に対応する補間値を算出し、注目画素の偽色度合いpに応じて元画素値と前記補間値との寄与率を変更して注目画素の補正画素値を算出する構成としたので、カメラで撮影した画像に起こる色収差によるパープルフリンジ等の偽色に対する適正な補正が可能となり、高品質な画像データの生成、出力を実現することができる。特に、本発明の処理構成では、ユーザのアシスト、すなわち画像に応じた最適なパラメータの設定などの処理を行なうことなく、すべてを自動処理として行なった場合でも、破綻の無い画像を生成することが可能となる。本発明の画像処理を適用することにより、撮影画像を、より自然に見えるように補正をすることが可能である。従って、撮影時にパープルフリンジが起こらないようにレンズの絞りや焦点距離などに注意を払う必要がなく、より高い自由度で撮影を行なうことが可能となる。
さらに、本発明の構成によれば、偽色である可能性を示すパラメータとしての注目画素の偽色度合いpを、(a)白とび(高輝度画素)への近さを示す白とび距離評価値P、(b)彩度の大きさを示す彩度評価値P、(c)偽色に対応する特定色相への近さを示す色相評価値Pθ、を適用して算出する構成としたので、パープルフリンジ等の偽色の可能性の高い画素については周囲画素に基づく補間値の寄与率を高め、偽色の可能性の低い画素については、元画素値の寄与率を高くした補正が実行されることになり、破綻の無い高品質な画像を取得することが可能となる。
以下、図面を参照しながら、本発明の画像処理装置、および画像処理方法、並びにコンピュータ・プログラムの詳細について説明する。
まず、画像処理装置の構成例について図1を参照して説明する。なお、図1に示す画像処理装置は、撮像部を備え、撮像部において撮影した画像データの補正処理を実行する装置例として示してあるが、本発明の画像処理装置は、たとえばハードディスクなどの記憶部に格納された画像データを入力して入力画像の補正を実行することも可能であり、補正処理対象の画像データは、撮像部を介して入力されるデータのみならず、記憶手段、あるいはネットワークを介して入力する画像データなどあらゆる入力画像データに対応可能である。図1は本発明の画像処理装置の一構成例を示すものである。
図1に示す画像処理装置の詳細構成について説明する。図1に示すように、画像処理装置は、レンズ101、絞り102、固体撮像素子103、相関2重サンプリング回路104、A/Dコンバータ105、DSPブロック106、タイミングジェネレータ107、D/Aコンバータ108、ビデオエンコーダ109、ビデオモニタ110、コーデック(CODEC)111、メモリ112、CPU113、入力デバイス114、フラッシュ制御装置115、フラッシュ発光装置116から構成される。
ここで、入力デバイス114はカメラ本体にある録画ボタンなどの操作ボタン類をさす。また、DSPブロック106は信号処理用プロセッサと画像用RAMを持つブロックで、信号処理用プロセッサが画像用RAMに格納された画像データに対してあらかじめプログラムされた画像処理をおこなうことができるようになっている。以下DSPブロックを単にDSPと呼ぶ。
本実施例の全体的な動作を以下に説明する。
光学系を通過して固体撮像素子103に到達した入射光は、まず撮像面上の各受光素子に到達し、受光素子での光電変換によって電気信号に変換され、相関2重サンプリング回路104によってノイズ除去され、A/Dコンバータ105によってデジタ。信号に変換された後、デジタル信号処理部(DSP)106中の画像メモリに一時格納される。なお、必要があれば、撮影の際に、フラッシュ制御装置115を介して、フラッシュ発光装置116を発光させることができる。
撮像中の状態においては、一定のフレームレートによる画像取り込みを維持するようにタイミングジェネレータ107が信号処理系を制御する。デジタル信号処理部(DSP)106へも一定のレートで画素のストリームが送られ、そこで適切な画像処理がおこなわれた後、画像データはD/Aコンバータ108もしくはコーデック(CODEC)111あるいはその両方に送られる。D/Aコンバータ108はデジタル信号処理部(DSP)106から送られる画像データをアナログ信号に変換し、それをビデオエンコーダ109がビデオ信号に変換し、そのビデオ信号をビデオモニタ110でモニタできるようになっていて、このビデオモニタ110は本実施例においてカメラのファインダの役割を担っている。また、コーデック(CODEC)111はデジタル信号処理部(DSP)106から送られる画像データに対する符号化をおこない、符号化された画像データはメモリ112に記録される。ここで、メモリ112は半導体、磁気記録媒体、光磁気記録媒体、光記録媒体などを用いた記録装置などであってよい。
以上が本実施例の画像処理装置の一例としてのデジタルビデオカメラのシステム全体の説明であるが、本発明に係る画像処理、すなわち画像データの補正処理はデジタル信号処理部(DSP)106において実行される。以下、この画像処理の詳細について説明する。なお、本実施例で扱う画像の色空間としては、輝度情報と色情報が独立に定義されているものを用いる。例えば、YCbCr空間やCIEL*a*b*空間などが挙げられる。
以下、本発明の画像処理装置のデジタル信号処理部(DSP)106において実行する画像データ補正処理の詳細について説明する。本発明の画像処理装置は、白とび周辺に発生するパープルフリンジ等の偽色に注目し、この偽色領域を効率的に検出し、部分的な補正を実行することにより、画像全体に対する影響を発生させることなく高品質な画像データを生成、出力することを可能とした構成を持つ。
まず、偽色(パープルフリンジ)の発生の仕方の特徴について説明する。偽色(パープルフリンジ)とは、色収差による色ずれが、白とび部分周辺で目立って現れる現象で、例えば紫色の偽色を生ずることを特徴とする。偽色が発生する白とびの周り範囲大きさは、光学系の絞り、焦点距離に連動しており、また、光学中心からの距離にも依存し、大きさが変わる。また、偽色が出る方向も、光学中心から白とび画素の外側に向かう方向、白とび画素から光学中心に向かう方向それぞれに発生し、その傾向は、撮像する光学系により異なる。
白とび近傍に発生する偽色を補正して、より正しい色に修正するための処理として、本出願人は、先の特許出願(特願2004−157098)において、白とび近傍の偽色画素(着目画素)を選択し、選択した偽色画素の画素値補正処理として、周囲の画素値に基づいて画素値を決定する穴埋め(Hole filling)による画像補正処理構成を提案した。この手法は、白とびと判断される画素を特定し、さらに、白とび近傍に発生す偽色と判定される画素を偽色画素(着目画素)として選択して、この偽色画素(着目画素)の画素値を周囲の正常と判定される画素値に基づいて決定する手法である。この処理は、穴埋め(Hole filling)処理、あるいは穴埋め補間処理と呼ばれる。
先の特許出願(特願2004−157098)において提案した穴埋め補間処理の概要について説明する。図2(A)に例えば色収差によるパープルフリンジの発生した画像データの例を示す。図2(A)に示されるように、画素は、「白とび画素151」、「偽色(パープルフリンジ)画素152」、「白とびでもパープルフリンジでもないその他の画素153」のいずれかに分類される。この中で、画素値の再設定が必要な画素は、「白とび画素151」、「偽色(パープルフリンジ)画素152」であり、これらの画素の画素値を「白とびでもパープルフリンジでもないその他の画素153」に基づいて決定する。すなわち、「白とび画素151」、「偽色(パープルフリンジ)画素152」のような補正の必要な画素を、その周囲にある正しい画素値の設定された画素の画素値の平均値などを取得して、補正すべき画素の画素値に設定する処理などが行なわれる。
この穴埋め補間処理は、図2(B)の矢印155の方向に、順次、繰り返し実行され、順次「補間済み画素154」として、各画素の画素値が設定される。すなわち、最初の穴埋め補間処理で「白とびでもパープルフリンジでもないその他の画素153」に隣接する「偽色(パープルフリンジ)画素152」の補正画素値が決定され「補間済み画素154」に設定される。
次に、2回目の穴埋め補間処理で、「白とびでもパープルフリンジでもないその他の画素153」または初回の穴埋め補間処理で生成された「補間済み画素154」に隣接する「偽色(パープルフリンジ)画素152」の補正画素値が、これらの画素に基づいて決定されて新たに「補間済み画素154」に設定される。これらの処理が予め定められた回数、またはユーザの設定した回数分繰り返し実行される。
穴埋め補間処理を適用した画像データ補正処理の処理手順について説明する。パープルフリンジに対する穴埋め補間処理を適用した画像データの補正処理は、例えば図3に示すフローに従った処理手順によって実行される。
ステップS101は、色空間変換処理であり、入力画像に対し、色空間の変換を施し輝度成分画像と色成分画像に分離する。具体的には、例えば入力画像がRGB画像である場合、これを変換し、輝度成分画像Lと色成分画像Cに分離する。つまりRGBカラーの入力画像を、輝度成分と色成分を別々に持つ色空間データに変換する。変換データの色空間としては、例えばYCbCrやCIE Lなどが適用可能である。
次に、ステップS102は、白とび領域検出処理であり、補正対象の入力画像データ中から白とび部分を検出する。色収差の目立つ紫色をおびた画素は、画像の中で「白とび」を起こしている周囲の部分であることより、ステップS102で、「白とび」の画素を検出する。「白とび」の画素検出は、画素値の値が所定の値より高い画素(高輝度画素)を選択する処理として実行される。
ステップS103は、偽色画素検出領域設定(Dilate)処理であり、「白とび」の周囲において偽色、すなわちパープルフリンジが存在する可能性のある画像中の領域を偽色発生部検索領域として設定する。
ステップS104は、偽色画素検出処理であり、検索領域内にある紫色画素を検出する。すなわち、紫色をおびた画素を選択し、これを偽色(パーブルフリンジ)画素、すなわち補間処理対象画素として選択する。
ステップS105は、偽色画素補正処理であり、検出された紫色の画素の色成分を補正する。具体的には、補正処理対象画素を、周囲の画素の画素値に基づいて補間する処理を実行する。この処理は、穴埋め補間処理と呼ばれ、図2を参照して説明したように、図2(B)の矢印155の方向に、順次、繰り返し実行される。繰り返し実行回数は、例えばユーザが設定することができる。なお、この際、補正すべきであるにも係わらず補正できなかった画素については、例外的に、彩度を落とす処理を実行する。
さらに、ステップS106は、色ぼかし処理(フィルタリング処理)であり、自然な結果を得るためのフィルタリング処理である。ステップS105での補正処理を行った画素(周囲より補間した画素)と、例外処理の画素(彩度を落とした画素)との画素値の差を目立たなくするために、全体的にぼかす処理を実行する。ぼかし処理は、例えば複数の隣接画素についてなだらかな画素値変化を示すように画素値を再設定する処理として実行される。最後に、ステップS107が色空間逆変換処理であり、補正結果の輝度成分画像、色成分画像、例えばYCbCrやCIE Lなどを変換しRGBのカラー画像として、結果画像を出力する。
上述の画像補正処理、すなわち、穴埋めによる補間処理により、ほとんどのパープルフリンジの偽色は軽減され、大きな効果がある。しかし、上述の処理工程において、白とび画素の近傍にあるどの画素をパープルフリンジと判定するかによって、補正後の結果画像が大きく変わる可能性がある。予め設定されたパラメータを適用して自動補正処理を行う場合、多くの画像については、上述した補正処理が有効に働き画像データが改善するが、ごく一部の画像に対して結果が不自然なものになり、補正前の画像より劣化した画像、すなわち画像が破綻してしまう場合がある。
つまり、ユーザのアシストなしに一定のパラメータを固定的に適用した穴埋め補間処理を、様々な画像に対して適用した場合、その一部において、破綻画像が現れるという問題があり、様々なタイプの画像データのすべてにおいて、見た目の自然な補正結果を生成するのは難しいという問題がある。
本発明は、このような問題を解決するものであり、破綻の少ないパープルフリンジ等の偽色補正のための画像処理方法を提案する。本発明の構成は、ユーザのアシストなしの自動処理によりパープルフリンジ等の偽色補正を行う場合でも、破綻の無い結果画像を常に生成することができる。
なお、前述したように、輝度レベルにおける飽和状態としての白とびが起こっているハイコントラストのエッジ部分に発生するレンズ収差による偽色の代表的な現象をパープルフリンジと呼ぶが、偽色の色は紫に限定されるものではなく、例えば緑がかった色となる場合などもある。以下の実施例では、紫色の偽色を生じた例として説明するが、本発明は、紫色に限らず、白とび近傍に発生する任意の色を有する偽色の補正処理に適用可能である。
本発明の画像処理では、例えば図1に示す画像処理装置の撮像部において撮影され、デジタル信号処理部(DSP)106に入力された画像データの構成画素について1つずつ、後述する偽色度合い(PF度合い)を算出し、算出した各画素対応の偽色度合い(PF度合い)に基づく補正処理を行なう。PFはパープルフリンジ(Purple Fringe)を意味する。
本発明の画像処理シーケンスについて、図4以下を参照して説明する。図4、図5は、本発明の画像処理の手順を示すフローチャートである。図4、図5に示すフローチートの各ステップの処理の詳細を順次説明する。
ステップS201、S202において、補正対象画像データの検査対象画素位置の初期設定を実行する。初期設定として注目画素の画素位置を(0,0)、すなわちx=0、y=0として設定する。本発明の処理では、上述のように、補正対象として入力される画像データの構成画素について1つずつ、偽色度合い(PF度合い)を算出し、算出した各画素対応の偽色度合い(PF度合い)に基づく補正処理を行なう。ステップS201、S202にあるように座標(0,0)から始めて、画像中の各画素を順番に注目画素として色情報の補正を行う。
注目画素が決定されたあとは、偽色度合い、すなわちパープルフリンジ度合い(PF度合い)を算出する。本実施例においては、偽色度合い(PF度合い)の算出に、以下の各尺度、すなわち、
(a)白とび(高輝度画素)への近さ、
(b)彩度の大きさ、
(c)偽色に相当する特定色相への近さ
の3種類の尺度を考慮する。
まず、上記尺度(a)〜(c)中の、「(a)白とび(高輝度画素)への近さ」に関して説明する。パープルフリンジは、主に白とびの周囲に発生する。逆に、注目画素がパープルフリンジであるときには、注目画素の周囲に、白とびが存在する。注目画素が白とびに近ければ近いほど、その画素はパープルフリンジである可能性が高いといえる。
ところで、パープルフリンジは白とびが発生している部分を中心として発生するが、白とびの画像上での位置によりパープルフリンジが発生する範囲は異なる。例えば、光学中心に当たる画像中心部から画像端に向かう方向に、パープルフリンジが発生しやすい場合がある。これは、光学系の種類や、絞り・焦点距離などの設定、注目画素の位置によっても、パープルフリンジが発生する範囲の特徴は異なる。
本実施例では、ステップS203において、注目画素がパープルフリンジであるとしたときに白とびが起こっている可能性のある範囲、白とび探索範囲(x,y,x,y)を算出する。白とび探索範囲の算出方法としては、例えば、注目画素が白とびであった場合に、注目画素から画像中心に向かう方向とその180度反対側の方向またそれらと直行する方向に、どの程度の大きさのパープルフリンジが発生するかを算出すればよい。そのためには、あらかじめ本実施例に用いる光学系に関して、パープルフリンジの発生する可能性のある範囲を調べておき、ルックアップテーブルなどにそのデータを保存し、注目画素の画素位置に基づいてルックアップテーブルを検索して、画素位置対応の白とび探索範囲(x,y,x,y)のデータを抽出する。あるいは、ルックアップテーブルには、白とび探索範囲(x,y,x,y)を算出するために必用なデータを格納し、これを抽出して演算によって白とび探索範囲(x,y,x,y)を算出する構成としてもよい。あるいは、ルックアップテーブルを適用せずに、予め設定された関数に従った演算処理を実行して、白とび探索範囲(x,y,x,y)を算出する構成としてもよい。
ステップS203においては、定義済みのルックアップテーブルの参照、演算処理の少なくともいずれかの処理によって、光学系の設定、注目画素位置等の各種情報に基づいて、探索範囲(x,y,x,y)を算出する。探索範囲(x,y,x,y)は、注目画素がパープルフリンジである場合に白とび存在する可能性のある範囲として算出される範囲である。
図6を参照して、光学系にあわせた白とび探索範囲(x,y,x,y)の設定の一例を述べる。図6に示す補正対象となる画像データ210において、ある画素211が白とびを起こしていると仮定する。画素が白とび画素であるか否かは、予め定めた閾値以上の輝度値を持つ画素であるかの判定処理によって行われ、閾値以上の輝度値を持つ画素であれば、白とび画素として判定する。
画素211が白とび画素である場合、画素211の周囲において、パープルフリンジが発生する可能性のある範囲は、撮像手段における使用レンズの特性と、撮影時のF値と焦点距離に基づいて算出することができる。これらの各データは、画像データの撮影時に撮影画像に対応する属性情報として、画像データとともに画像処理実行部としてのデジタル図信号処理部(DSP)106(図1参照)に入力され、デジタル信号処理部(DSP)106は、これらの入力データと注目画素の画素位置に基づいてルックアップテーブルを検索して、画素位置対応の白とび探索範囲を算出するために必用なデータを抽出して、白とび探索範囲(x,y,x,y)の算出を実行する。
図6を参照して、白とび探索範囲(x,y,x,y)の詳細について説明する。例えば、ある撮影条件における画像で、図6に示す画像データ210の画素211が白とび画素であるとき、白とび画素211の右下側に幅:Wa、高さ:Ha、左上側に幅:Wb、高さ:Hbでパープルフリンジが発生するとする。図6に示す画素領域212と画素領域213によって規定される領域である。
一方、逆に、画素211がパープルフリンジ画素であると仮定すると、パープルフリンジ画素は、白とび画素の近傍に発生するという前提から、パープルフリンジ画素211の近傍には、必ず白とびの画素があるはずである。パープルフリンジ画素211の周囲において、白とびの発生している可能性のある領域は、上述した画素領域212と画素領域213とを、画素211と画像データ中心画素250を結ぶ直線に沿って画素211を中心として折り返して設定される領域、すなわち、図6に示す画素領域222、画素領域223である。
このように、図6に示す画素211がパープルフリンジ画素である場合、図6に示す画素領域222、画素領域223に白とび画素が発生していると推定できる。従って、画素211がパープルフリンジ画素の場合、図6に示す画素領域222、画素領域223を含む矩形領域として設定される画素領域230を探索領域として探索処理を実行すれば、白とび画素が発見できるはずである。
図4に示すフローのステップS203では、注目画素(x,y)がパープルフリンジ画素である場合に、その画素の周囲に存在すると判断される白とび画素を検出することを目的として、白とび探索範囲(x,y,x,y)を設定するものである。上述した説明から理解されるように、図6において画素211が注目画素である場合、画素領域230を白とび探索範囲(x,y,x,y)として設定すれば、画素211がパープルフリンジ画素である場合に、白とび画素をこの探索範囲において検出できることになる。
このように、撮影手段の特性、撮影条件によって決定される白とび画素周囲のハープルフリンジ発生領域に基づいて、パープルフリンジ画素周囲の白とび画素探索領域が設定される。図4に示すフローのステップS203では、処理対象の画素、すなわち注目画素毎に白とび探索範囲(x,y,x,y)を算出する。
図7を参照して、白とび探索範囲(x,y,x,y)の領域について説明する。図7は、注目画素(x,y)300の周囲に設定される白とび探索範囲(x,y,x,y)301を示している。白とび探索範囲(x,y,x,y)301は、左上端が座標(x,y)の画素302であり、右下端が座標(x,y)の画素303である矩形領域からなる白とび探索範囲(x,y,x,y)である。
図7に示す白とび探索範囲(x0,y0,x1,y1)301は、図6に示す矩形領域230に相当する領域であり、図6に示す画素領域223は、図7に示す注目画素(x,y)300の左上部の高さH1、幅W1からなる画素領域311に相当し、図6に示す画素領域222は、図7に示す注目画素(x,y)300の右下部の高さH2、幅W2からなる画素領域312に相当する。画素321は座標(x0,y1)の画素、画素322は座標(x1,y)の画素、画素323は座標(x,y0)の画素、画素324は座標(x,y1)の画素である。
図4に示すフローのステップS203では、例えば、図7に示す画素(x,y)300を注目画素とした場合、注目画素(x,y)300の左にW1、右にW2、上にH1、下にH2の領域からなる探索範囲(x,y,x,y)301を設定する。この設定によって、注目画素(x,y)300がパープルフリンジ画素である場合に、探索範囲(x,y,x,y)301内から白とび画素を、ほぼ間違いなく検出することができる。
このように、図4のステップS203では、注目画素(x,y)がパープルフリンジ画素である場合に、その画素の周囲に存在すると判断される白とび画素を検出することを目的として、白とび探索範囲(x,y,x,y)を設定するものである。なお、前述したように、白とび探索範囲(x,y,x,y)の算出にはルックアップテーブルの参照、演算処理の少なくともいずれかの処理が実行される。撮像手段における使用レンズの特性、撮影時のF値、焦点距離等の各データを撮影画像に対応する属性情報として、画像データとともに画像処理実行部としてのデジタル図信号処理部(DSP)106(図1参照)に入力し、デジタル信号処理部(DSP)106において、これらの入力データ、注目画素位置情報等に基づいてルックアップテーブルの参照、演算処理の少なくともいずれかの処理を実行して、白とび探索範囲(x,y,x,y)を算出する。
図4のステップS203において、注目画素(x,y)に対応する白とび探索範囲(x,y,x,y)が算出されると、算出した白とび探索範囲(x,y,x,y)において、白とび画素の検索を行い、注目画素(x,y)と最も近接した白とび画素との距離としての最小距離:dminを算出する。この処理が、図4、図5のフローに示すステップS204〜S214の処理である。
ここで算出する注目画素(x,y)と白とび画素との距離:dは、注目画素(x,y)を中心点として白とび探索範囲(x,y,x,y)の領域を正規化して算出した距離データを用いる。正規化された距離データを比較して、最小距離:dminを算出する。正規化した距離データを用いる理由について説明する。注目画素から白とびへの距離を算出する際には、パープルフリンジの発生する方向を考慮する必要がある。すなわち、注目画素の周囲に白とび画素があり、その白とび画素を原因として注目画素にパープルフリンジが発生する可能性を算出するためには、白とび画素の位置と注目画素の距離ならびにその位置関係を考慮する必要がある。
図6、図7を参照して説明したように、白とび画素探索領域は、注目画素の周囲に均等に設定されない。例えば図7に示す白とび画素探索領域301は、注目画素300(x,y)の左上部の小さな画素領域311と、右下の大きな画素領域312を含む領域として設定され、注目画素300(x,y)は白とび画素探索領域301の中心に設定されておらず、左上部にかたよって設定された状態となっている。注目画素(x,y)と白とび画素との最小距離:dminを算出する際、実際の距離データとして算出すると、左上部の小さな画素領域311にも白とびがあり、右下の大きな画素領域312にも白とびがある場合、ほとんどの最小距離データは、左上部の小さな画素領域311との距離として算出される可能性が高くなる。
しかし、注目画素300(x,y)のパープルフリンジを引き起こしている原因としての白とび画素は、注目画素との実際の距離がより大きな右下の画素領域312内の白とび画素である場合がある。このような誤認を防止するため、すなわち、注目画素(x,y)のパープルフリンジを引き起こしている要因としての白とび画素との距離を最小距離:dminとして正確に算出するため、白とび探索範囲(x,y,x,y)の中心に注目画素(x,y)が設定された状態とするため、正規化距離データを用いる。
正規化距離データを用いることで、例えば図7に示す注目画素300(x,y)と、白とび探索範囲(x,y,x,y)の端点の画素321(x,y)との距離:W1、注目画素300(x,y)と画素322(x,y)との距離:W2、注目画素300(x,y)と画素323(x,y)との距離:H1、注目画素300(x,y)と画素324(x,y)との距離:H2は全て等しいものとして処理される。この正規化距離データを用いることで、注目画素300(x,y)と正規化最小距離:dminを持つ白とび画素が、注目画素300(x,y)のパープルフリンジを引き起こしている要因となった白とび画素であるとの推定が正しい確立を向上させることができる。
本実施例においては、例えば図7に示す白とび探索範囲(x,y,x,y)の設定において、白とび画素位置と注目画素それぞれのx座標の差の絶対値を、注目画素300(x,y)と白とび探索範囲(x,y,x,y)の端点の画素321(x,y)との距離:W1、または注目画素300(x,y)と画素322(x,y)との距離:W2を用いて正規化し、さらに、注目画素300(x,y)と画素323(x,y)との距離:H1、注目画素300(x,y)と画素324(x,y)との距離:H2を用いて正規化して距離:dを算出する。
具体的な距離算出式について説明する。白とび探索範囲で見つかった白とび画素の位置が(a,b)であるとする。注目画素から白とび位置(a,b)への距離:dは以下の式(式1)に従って算出する。
Figure 0004539278
上記式(式1)を用いれば、注目画素から300(x,y)から、白とび探索範囲(x,y,x,y)の端点の画素321(x,y)との距離:W1、画素322(x,y)との距離:W2、画素323(x,y)との距離:H1、画素324(x,y)との距離:H2は全て等距離とされる。この正規化距離データを適用して最小距離:dminを持つ白とび画素を選択することで、注目画素300(x,y)のパープルフリンジを引き起こしている要因となった白とび画素を正しく抽出することができる。
図4のフローの説明を続ける。ステップS203において白とび探索範囲(x,y,x,y)を算出した後、まず、ステップS204で、最小距離:dminを初期化、例えばdmin=∞あるいは注目画素と白とび探索範囲(x,y,x,y)の最大距離より十分大きい値に設定する。次に、ステップS205,S206において、白とび探索範囲(x,y,x,y)の構成画素を1つ選択し、ステップS207において、選択画素(s,t)が白とび画素であるか否かを判定する。白とび画素であるか否かの判定処理は、例えば予め定めた輝度以上の画素を白とび画素として判定する処理として実行される。
選択画素(s,t)が白とび画素で無い場合は、ステップS211〜S214の処理によって選択画素の更新、すなわち白とび探索範囲(x,y,x,y)内において次の画素を選択画素として設定し、ステップS207以下の処理を繰り返し実行する。
選択画素(s,t)が白とび画素であると判定すると、ステップS208において、注目画素(x,y)と白とび画素(s,t)との距離dが算出する。この距離dは、前述の式(式1)を適用した演算によって、正規化距離データとして算出する。ステップS209では、算出距離データ:dと初期化されたあるいはその後更新された最小距離:dminとの比較が実行され、算出距離データ:dが、最小距離:dminより小さい値を持つ場合は、ステップS210において、算出距離データ:dを、最小距離:dminとする最小距離:dminの更新処理を実行する。
以上の処理を、注目画素(x,y)の周囲に設定した白とび探索範囲(x,y,x,y)内の全画素について実行し、注目画素に対応する1つの最小距離:dminを決定する。白とび探索範囲(x,y,x,y)内に白とび画素が検出されなかった場合は、最小距離:dminは、初期値のままとなる。
次に、図5に示すフローチャートのステップS215に進む。ステップS215では、注目画素(x,y)の偽色度合い、すなわち、PF(パープルフリンジ)度合いを算出するためのパラメータを注目画素(x,y)の色情報c(x,y)に基づいて算出する。これは、注目画素(x,y)がパープルフリンジに近い彩度と色相を持つか否かを判定する尺度としての偽色(PF)度合いp、すなわちパープルフリンジ等の偽色(PF)である可能性を示すパラメータとしての偽色(PF)度合いpの算出に適用するパラメータを求める処理である。
ステップS215における注目画素(x,y)の色情報c(x,y)に基づくパラメータ算出処理について、図8を参照して説明する。図8は、2次元の色情報空間の一例を表わしている。ここでは、色情報としてYCbCr空間の、CbCrを用いる。図8では、横軸にCb、縦軸にCr、原点400はCb=128,Cr=128となる色値を持つ。パープルフリンジ色相ライン401は、パープルフリンジの色であるとしてあらかじめ指定された色相を表わすラインである。注目画素色相402は、注目画素(x,y)の色相(Cb,Cr)をプロットしたものである。
図5に示すフローにおけるステップS215においては、注目画素の彩度sならびに、パープルフリンジの色相への近さθをパラメータとして求める。図8で示す例においては、彩度sは原点400から注目画素色相402への距離として算出される値であり、パープルフリンジの色相への近さθはパープルフリンジ色相ライン401と、原点と注目画素色相402を結ぶラインとのなす角度として算出される値である。なお、本実施例では、注目画素(x,y)の偽色度合い、すなわち、PF(パープルフリンジ)度合いを算出するためのパラメータとして彩度sならびに、パープルフリンジの色相への近さθを、上記処理によってパラメータとして算出する処理を適用しているが、これらは、彩度、色相への近さの尺度としての一例であり、他の方法を適用してもよい。なお、ここで述べるθは、2つの色相のなす角度であり、必ず0以上の値となる。
次にステップS216において、ステップS215で求めた注目画素(x,y)の色情報c(x,y)に基づくパラメータs,θを適用して、注目画素の偽色度合いp、すなわち、PF(パープルフリンジ)度合いを表わす値pを算出する。前述したようにパープルフリンジ度合いpとして、本実施例の処理では以下の各尺度、すなわち、
(a)白とび(高輝度画素)への近さ、
(b)彩度の大きさ、
(c)偽色に相当する特定色相への近さ
の3種類の尺度を考慮すると説明した。最終的な偽色(PF)度合いpの算出には、上記(a)〜(c)の尺度が適用される。
上述の(a)〜(c)の各尺度を、
(a)白とび(高輝度画素)への近さ=白とび距離評価値P
(b)彩度の大きさ=彩度評価値P
(c)偽色に相当する特定色相への近さ=色相評価値Pθ
とする。
以下、各評価値の算出処理の詳細について説明する。
(a)白とび(高輝度画素)への近さ=白とび距離評価値P
白とび距離評価値Pは、下式(式2)によって算出する。
Figure 0004539278
上記式において、dには、先にステップS204〜S214の処理において求められたデータ、すなわち、注目画素(x,y)に対応する最小距離:dminを代入する。dmaxは、あらかじめ設定された距離データであり、dのとり得る範囲において最大値に近い値、あるいは最大値以上の値に設定する。ただし、dmaxをdのとり得る範囲において最大値に近い値として設定した場合においてd>dmaxとなった場合は、dmax=dであると仮定して、d−dmax=0として処理する。例えば、前述の式(式1)によると、dは、0から√2までの値を取る。したがって、dmaxとしては、例えば、√2を設定すればよい。
このようにして、注目画素(x,y)から白とび画素までの距離dが小さいほど、距離評価値Pは1に近づき、一方、注目画素(x,y)から白とび画素までの距離dが大きいほど、距離評価値Pは0に近づく値に設定される。すなわち、距離評価値Pは0〜1の範囲で、注目画素(x,y)から白とび画素までの距離に応じた値に設定されることになる。
また、(c)偽色に相当する特定色相への近さ=色相評価値Pθ、すなわち、パープルフリンジ色相への近さを表わす値としての色相評価値pθは以下の式(式3)により算出される。
Figure 0004539278
上記式(式3)のθは、ステップS215において求めた注目画素のパープルフリンジの色相への近さθを代入する。図8を参照して説明したように、パープルフリンジの色相への近さθはパープルフリンジ色相ライン401と、原点と注目画素色相402を結ぶラインとのなす角度として算出される値である。上記式(式3)のθmaxは、あらかじめ指定された値であり、θのとり得る範囲において最大値に近い値、あるいは最大値以上の値に設定する。ただし、θmaxをθのとり得る範囲において最大値に近い値として設定した場合においてθ>θmaxとなった場合は、θmax=θであると仮定して、θ−θmax=0として処理する。撮影に用いたレンズによりあらかじめどのような色相の偽色が発生するかはあらかじめ予想することができる。発生する可能性のある偽色の色相をすべてカバーできるように、最適な値をθmaxとして設定すればよい。
このようにして、注目画素(x,y)の色相が偽色としてのパープルフリンジの色相に近いほど、色相評価値pθは1に近づき、一方、注目画素(x,y)の色相が偽色としてのパープルフリンジの色相から遠いほど、色相評価値pθは0に近づく値に設定される。すなわち、色相評価値pθは0〜1の範囲で、注目画素(x,y)の色相とパープルフリンジの色相との差異に応じた値に設定されることになる。
また、(b)彩度の大きさ=彩度評価値Pは以下の式(式4)により算出される。
Figure 0004539278
上記式(式4)のsは、ステップS215において求めた注目画素の彩度sを代入する。図8を参照して説明したように、彩度sは原点400から注目画素色相402への距離として算出される値である。上記式(式4)のsmaxは、あらかじめ指定された値であり、sのとり得る範囲において最大値に近い値、あるいは最大値以上の値に設定する。ただし、smaxをsのとり得る範囲において最大値に近い値として設定した場合においてs>smaxとなった場合は、smax=sであると仮定して、s−smax=0として処理する。
このようにして、注目画素(x,y)の彩度が大きいほど、彩度評価値Pは1に近づき、一方、注目画素(x,y)の彩度が小さいほど、彩度評価値Pは0に近づく値に設定される。すなわち、彩度評価値Pは0〜1の範囲で、注目画素(x,y)の彩度に応じた値に設定されることになる。
図9は、パープルフリンジの発生した画像データの画像領域と彩度の対応を示した図である。図9の縦軸は彩度を表わし、横軸は画像上での位置を表わす。図9では、画像位置の画像範囲451に白とび画素があり、画像範囲452と画像範囲453に渡ってパープルフリンジが発生し、画像範囲454には被写体の本来の色が撮像されているとする。画像範囲452のパープルフリンジは彩度が大きくとても目立つため、なるべく強く補正をかけるのが望ましい。一方、画像範囲453では、パープルフリンジから被写体本来の色への遷移部分となっているため、補正度合いとしては、強い補正度合いからだんだん弱めて補正しないレベルまで、連続的に変化させるのが望ましい。上記式(式4)で算出される彩度評価値Pは、このような彩度に応じた最適な補正のレベルに対応させることが好ましい。この設定とするためには、上記式(式4)で適用する固定値としてのsmaxを、図9に示すように、例えば、画像範囲453の最大彩度付近の彩度として設定すればよい。
この設定とすることで、図9に示す画像領域452では、上記式(式4)によって算出される彩度評価値Pは1となり、画像領域453では、上記式(式4)によって算出される彩度評価値Pは、画像領域452の接点では1となり、画像領域454に近づくに従って、彩度評価値Pが減少し、徐々に0に近づく値に設定されることになる。
図5のフローチャートに戻り画像処理シーケンスの説明を続ける。ステップS216においては、上述した3つの評価値、すなわち、
(a)白とび(高輝度画素)への近さ=白とび距離評価値P
(b)彩度の大きさ=彩度評価値P
(c)偽色に相当する特定色相への近さ=色相評価値Pθ
に基づいて、下式(式5)に従って、偽色(PF)度合いpを算出する。
Figure 0004539278
上記式(式5)は、3つの評価値、すなわち、白とび距離評価値Pと、色相評価値Pθと、彩度評価値Pとの乗算値に基づいて偽色(PF)度合いp、すなわち、偽色である可能性を示すパラメータである偽色(PF)度合いpを算出する式である。
次にステップS217において、注目画素の色情報を補正する処理を行う。ステップS217の詳細処理について、図10のフローチャートを参照して説明する。本実施例においては、注目画素の周囲の画素の色情報から求めた色情報補間値を、偽色(PF)度合いpに応じてオリジナルの色情報C(x,y)と案分することにより、補正を行う。また、補間値としては、注目画素とその周辺画素の重み付き平均を用いる。補間値算出範囲の色情報の重み付き平均を補間値とすることにより、パープルフリンジ等の偽色を完全に除去することはできないが、特に彩度が高く非常に目立つ部分などを、目立たなくさせることにより、パープルフリンジ等の偽色を軽減する処理を施すことができる。
図10に示すフローの各ステップの処理について説明する。最初にステップS301において、補間値算出範囲(x,y,x,y)を算出する。補間値算出範囲は、前述の白とび探索範囲と同様に、光学系の種類や設定、注目画素の位置基づいたデータを元に、注目画素が白とびである場合にどの範囲にパープルフリンジが発生するかを表わした範囲を補間値算出範囲として算出する。ここでは、注目画素がパープルフリンジである場合の補正を行うが、その場合本来の被写体の色が残っている可能性のある範囲として、補間値算出範囲(x,y,x,y)を用い、その範囲の画素の色情報の重み付き平均を求める。
補間値算出範囲(x,y,x,y)の具体的な設定処理について、図11を参照して説明する。図11は、先に説明した図6に対応する図であり、補正対象となる画像データ510において注目画素が画素511であるとする。仮に画素511がパープルフリンジ等の偽色画素である場合、この偽色画素を周囲の画素の画素値に基づいて補正することになる。画素511がパープルフリンジ等の偽色画素である場合、図6を参照して説明したように、白とび探索範囲520の中に白とび画素が存在する。白とび探索範囲520は、図6における画素領域230に対応し、画素領域521と、画素領域522を含む矩形領域として設定される白とび探索範囲520である。
画素511がパープルフリンジであった場合は、画素511の周囲の画素を用いて補間処理、すなわち、画素511の周囲の画素の画素値を適用して画素511の画素値を決定する処理を行なう。その際、補間処理に適用する対象となる画素、すなわち参照する画素は、なるべく偽色(パープルフリンジ)画素ではない方が望ましい。画素511がパープルフリンジであった場合、例えば、白とび探索範囲520内に検出された白とび画素531と、注目画素511との間に存在する画素はすべてパープルフリンジになるはずである。ここで白とび画素531は、図4のフローにおけるステップS204〜S214の処理において注目画素511からの最小距離dminを持つ白とび画素531であるとする。この場合、パーブルフリンジである画素511は、白とび画素531の直接的影響によってパープルフリンジとなっており、より白とび画素531に近い画素は、すべてパープルフリンジになるはずである。
この様な場合、注目画素511から白とび画素531がある方向の反対側に進むにつれて被写体本来の色に近づくといえる。したがって、補間値算出範囲としては、例えば画素511から白とび画素531へ向かう方向の反対側の領域を設定することで、より正常な画素値を多く含む領域を設定することができると判断される。このような場合は、例えば図11に示すように補間値算出範囲541を設定すればよい。
図11に示す例では、注目画素511の画素値は、補間値算出範囲541の構成画素の画素値に基づいて算出される値によって決定されることになる。このように、補間値算出範囲(x,y,x,y)の設定の際には、注目画素511からの最小距離dminを持つ白とび画素の方向から遠い方向の画素を多く含む領域設定を行うことで、より効果的な補間処理が可能となる。
図10のフローに戻り、補間処理シーケンスについての説明を続ける。ステップS302において、初期設定として、色情報の補間値を保存する変数(ベクトル値)Ctmpをゼロベクトルに、重みの総和を保存する変数(スカラー値)Wtotalを0にする。ステップS303,S304においては、補間値算出範囲(x,y,x,y)から選択する各画素の座標(s,t)を表わす変数s,tの初期設定処理を行なう。初期的には、補間値算出範囲(x,y,x,y)の1つの頂点に対応する画素座標(s,t)を選択し、それぞれs=x、t=yに設定する。
次にステップS305において、選択画素(s,t)に対して適用する重みw(x,y,s,t)を算出し、算出した重みw(x,y,s,t)を、重み総和保存変数(スカラー値)Wtotalに加算し、重み総和保存変数(スカラー値)Wtotalを更新し、さらに、選択画素(s,t)の色情報C(s,t)に、重みw(x,y,s,t)を乗じて、色情報補間値保存変数Ctmpに加算して、色情報補間値保存変数Ctmpを更新する処理を行う。すなわち、
total=Wtotal+w(x,y,s,t)
tmp=Ctmp+w(x,y,s,t)×C(s,t)
これらの算出式により、処理対象画素(s,t)に対する重みw(x,y,s,t)を適用して、色情報補間値保存変数(ベクトル値)Ctmpと、重み総和保存変数(スカラー値)Wtotalとの更新を行なう。
なお、最も単純な処理例では、すべての選択画素(s,t)の重みw(x,y,s,t)を1とする設定が適用できる。すべての画素(s,t)において重みw(x,y,s,t)=1とする設定では、補間値算出範囲(x,y,x,y)から選択されるすべての参照画素の平均値を、注目画素(x,y)の画素値決定に適用する補間処理となる。
この他、重みw(x,y,s,t)の設定態様としては、パープルフリンジ画素を最適に補間するための重みwの設定例として、注目画素(x,y)と座標(s,t)の距離に応じた値を重みwとして用いる構成としてもよい。さらに、画素(s,t)の色情報C(s,t)の色相がパープルフリンジ色相から離れているほど重みを大きな値にする設定とするなど、入力画像の色情報を考慮する方法を採用してもよい。
ステップS305における色情報補間値保存変数(ベクトル値)Ctmpと、重み総和保存変数(スカラー値)Wtotalとの更新処理の後、ステップS306において、選択画素の座標(s,t)のx成分値:sを1増加させ、ステップS307においてsが、s>x、すなわち、補間値算出範囲(x,y,x,y)を超えるか否かを判定しYesならS308へ進みNoならS305へ戻る。ステップS308では、選択座標(s,t)のy成分値:tを1増加させ、ステップS309においてtが、t>y、すなわち、補間値算出範囲(x,y,x,y)を超えるか否かを判定しYesならS310へ進みNoならS304へ戻る。これらの処理は、補間値算出範囲(x,y,x,y)において、選択画素(s,t)を1つずつ移動させる処理であり、ステップS309がYesと判定されると、補間値算出範囲(x,y,x,y)の全画素についての処理が終了し、補間値算出範囲(x,y,x,y)の全画素に基づいて算出された最終的な色情報補間値保存変数Ctmpと、重み総和保存変数Wtotalとが決定する。
最後に、ステップS310において、これらの補間値算出範囲(x,y,x,y)の全画素に基づいて算出された最終的な色情報補間値保存変数Ctmpと、重み総和保存変数Wtotalとに基づいて、注目画素(x,y)の補正色としての補正色情報C'(x,y)を、下式(式6)、すなわち、
Figure 0004539278
上記式(式6)に基づいて決定する。
上記式(式6)において、pは、先に説明した図5のステップS216において算出した偽色(PF)度合いpである。すなわち、
(a)白とび(高輝度画素)への近さ=白とび距離評価値P
(b)彩度の大きさ=彩度評価値P
(c)偽色に相当する特定色相への近さ=色相評価値Pθ
(a)〜(c)の乗算値として、前述の式(式5)に基づいて算出された注目画素(x,y)の偽色(PF)度合いpである。
tmp、Wtotalは、前述のステップS309までの処理において求めた補間値算出範囲(x,y,x,y)の全画素に基づいて算出された最終的な色情報補間値保存変数Ctmpと、重み総和保存変数Wtotalであり、C(x,y)は、補間処理前の注目画素(x,y)の色情報であり、(Ctmp/Wtotal)は、注目画素(x,y)の近傍領域に設定された補間値算出範囲(x,y,x,y)の全画素に基づいて算出された補間値に相当する。
上記式は、注目画素(x,y)の偽色(PF)度合いpの値が高い(1に近い)ほど、注目画素(x,y)の補間処理前の元画素の画素値に相当する色情報C(x,y)の影響が小さく、補間値算出範囲(x,y,x,y)の構成画素の色情報から算出される補間値の影響度が高くなる調整処理によって、注目画素(x,y)の補正画素値としての補正色情報C'(x,y)が設定されることを示す。上記式において、[p×Ctmp/Wtotal]は、補間値算出範囲(x,y,x,y)の構成画素の色情報に基づいて決定される値である。
一方、注目画素(x,y)の偽色(PF)度合いpの値が小さい(0に近い)ほど、注目画素(x,y)の補間処理前の元画素値に対応する色情報C(x,y)の影響が大きく、補間値算出範囲(x,y,x,y)の構成画素の色情報に基づく補間値の影響度が小さくなる調整処理によって注目画素(x,y)の補正色情報C'(x,y)が設定される。
以上の処理が、図5のステップS217の処理であり、この処理によって1つの注目画素に対する画素値補間処理、すなわち、注目画素の元画素値と、補間値算出範囲(x,y,x,y)の構成画素の色情報に基づく補間値とを適用し、注目画素の偽色度合いpに応じて元画素値と補間値との寄与率を変更して注目画素の補正画素値を算出する処理が終了する。
上述したように、本発明処理の画像処理では、偽色である可能性を示すパラメータとしての注目画素の偽色度合いpを、(a)白とび(高輝度画素)への近さを示す白とび距離評価値P、(b)彩度の大きさを示す彩度評価値P、(c)偽色に対応する特定色相への近さを示す色相評価値Pθを適用して算出し、上記式(式6)によって偽色度合いpを適用して補正画素値を算出する構成としたことにより、パープルフリンジ等の偽色の可能性の高い画素については周囲画素に基づく補間値の寄与率を高め、偽色の可能性の低い画素については、元画素値の寄与率を高くした補正が実行されることになり、破綻の無い高品質な画像を取得することが可能となる。
なお、本処理例では、パープルフリンジ等の偽色画素を補正する方法の一例として、図10のフローチャートに従った処理例を挙げたが、本方法に限らず、他にも、パープルフリンジ度合いpを用いて彩度を削減する方法もある。色空間として例えばYCbCrを用いる場合、この方法は、以下の式(式7)で示す算出処理によって実現される。
Cb'=(1.0−p)*(Cb−128)+128
Cr'=(1.0−p)*(Cr−128)+128
・・・(式7)
上記式(式7)において、Cb,Crは、補正対象となる注目画素の元の色を示し、YCbCr色空間における値(Cb,Cr)である。これらの値は0〜128の値を持つ。これらの値に、注目画素(x,y)の偽色(PF)度合いpを適用して、補正後の注目画素の色情報Cb',Cr'を決定する。上記式においても、注目画素(x,y)の偽色(PF)度合いpが高いほど、注目画素の元の色データとしての(Cb,Cr)の影響の少ない補正がなされることになる。
また、上述の式(式7)で算出される彩度を削減した画素に対して、図10のフローに示すステップS302〜S309の処理を実行して、補間値算出範囲(x,y,x,y)の全画素に基づく色情報補間値保存変数Ctmpと、重み総和保存変数Wtotalを算出し、この値を用いて、ステップS310の処理、すなわち、前述の式(式6)を適用して、注目画素の補正色情報C'(x,y)を算出する構成としてもよい。この補正処理によっても、効果的な偽色(パープルフリンジ)軽減が実現される。
ほかにも、パープルフリンジ等の偽色を補正する方法として、前述の式(式5)で算出した偽色(PF)度合いpを基にして、そのカーネルサイズを設定したローパスフィルタを施す方法も適用可能である。例えば、注目画素(x,y)の偽色(PF)度合いpが低い場合は、注目画素(x,y)の比較的近くにある画素の画素値のみを選択して、これらの画素値を適用した補間処理を実行し、注目画素(x,y)の偽色(PF)度合いpが高い場合は、注目画素(x,y)の近傍のみではなく、より広い範囲の周辺画素を参照画素として選択して、これらの広範囲の画素の画素値を適用した補間処理を実行する構成としてもよい。
すなわち、前述の式(式5)で算出した偽色(PF)度合いpに基づいて、フィルタリング態様を変更したローパスフィルタを適用して修正された補間値、すなわち注目画素近傍の画素値に基づいて生成される補間値を修正して修正補間値を適用して注目画素の補正画素値を算出する構成としてもよい。
また、前述の式(式5)で算出した偽色(PF)度合いpをそのまま使うと補正結果が安定しない場合は、偽色(PF)度合いp、または、白とび距離評価値P、彩度評価値P、色相評価値Pθ、それぞれを入力として、各値に対応する最適な補正態様を設定したルックアップテーブルを用意し、ルックアップテーブルに基づく補正処理を実行することで、効果的にパープルフリンジが削減されるようパープルフリンジ度合いを修正する構成としてもよい。
図5のフローに戻り画像処理のシーケンスについての説明を続ける。ステップS217において、図10を参照して説明した処理に従って、1つの注目画素(x,y)の補正された色情報C'(x,y)、すなわち、上述の処理によって注目画素の周囲画素の画素値を適用した補間画素値が決定される。1つの注目画素(x,y)の補正画素値が決定すると、次にステップS218において、注目画素の座標(x,y)のx成分値を1増加させ、ステップS219においてxが、x>w−1、すなわち、画像サイズの幅wに達したか否かを判定しYesならS220へ進みNoならS203へ戻る。ステップS220では、注目画素(x,y)のy成分値を1増加させ、ステップS221においてyが、y>h−1、すなわち、画像サイズの高さhに達したか否かを判定しYesなら処理を終了し、NoならS202へ戻る。これらの処理は、処理対象画像(幅w画素、高さh画素)の画像データにおいて、注目画素(x,y)を1つずつ移動させる処理であり、ステップS221がYesと判定されると、処理対象画像(幅w画素、高さh画素)の全画素についての処理が終了し、すべての画素を注目画素として設定した上で補正した画素値が決定される。
図12に、上述した処理を実行する本発明の画像処理装置におけるデジタル信号処理部(DSP)(図1のDSP106に相当)の機能構成を示すブロック図を示す。図12のブロック図を参照して、上述の説明において参照したフローチャートと対比しながらデジタル信号処理部(DSP)106の実行する処理について説明する。
デジタル信号処理部(DSP)106は、機能的には、図12に示すように、白とび距離評価値P算出部551、彩度評価値P算出部552、色相評価値Pθ算出部553、偽色(PF)度合いp算出部554、補間値[Ctmp/Wtotal]算出部555、出力色[C'(x,y)]算出部556を有する。
デジタル信号処理部(DSP)106は、入力画像フレームメモリ571から処理対象画像フレームを入力する。なお、入力画像は、ここでは、フレームメモリ571からの入力として示すが、フレームメモリを介さず、撮影画像データをデジタル信号処理部(DSP)106に直接入力して処理する構成としてもよい。
デジタル信号処理部(DSP)106は、まず、入力フレームを構成する各画素を1つずつ注目画素(x,y)として選択し、先に図4、図5のフローチャートを参照して説明した処理に従って、注目画素(x,y)に対応する以下の評価値、すなわち、
(a)白とび(高輝度画素)への近さ=白とび距離評価値P
(b)彩度の大きさ=彩度評価値P
(c)偽色に相当する特定色相への近さ=色相評価値Pθ
をそれぞれ白とび距離評価値P算出部551、彩度評価値P算出部552、色相評価値Pθ算出部553において算出する。白とび距離評価値P算出部551における白とび距離評価値P算出処理は、図4、図5のフローにおけるステップS204〜S214の処理によって実行される処理であり、前述の式(式2)によって算出される。
彩度評価値P算出部552、色相評価値Pθ算出部553における彩度評価値Pと、色相評価値Pθの算出はステップS215の処理、すなわち、図8を参照して説明したsおよびθの値に基づいて算出され、前述の式(式3)によって色相評価値Pθが算出され、前述の式(式4)によって彩度評価値Pが算出される。
偽色(PF)度合いp算出部554は、白とび距離評価値P算出部551、彩度評価値P算出部552、色相評価値Pθ算出部553において算出された各評価値に基づいて、注目画素(x,y)の偽色(PF)度合いpを算出する。偽色(PF)度合いpは、前述の式(式5)に従って算出される。
補間値[Ctmp/Wtotal]算出部555と、出力色[C'(x,y)]算出部556の処理は、図5のフローにおけるステップS217の処理、すなわち、図10のフローに従った処理を実行する。補間値[Ctmp/Wtotal]算出部555では、注目画素(x,y)の周囲に、補間値算出範囲(x,y,x,y)を設定し、この範囲の構成画素の色情報に基づいて補間処理パラメータとしての重み総和保存変数Wtotalと、色情報補間値保存変数Ctmpとを算出し、補間値[Ctmp/Wtotal]を算出する。この処理は、図10のフローにおけるステップS301〜S309の処理に相当する。
出力色[C'(x,y)]算出部556は、図10のフローにおけるステップS310の処理を実行して、注目画素の最終的な補正画素値情報としての色情報C'(x,y)を算出する。色情報C'(x,y)の算出は、前述の式(式6)に従って実行される。入力画像フレームを構成する画素に対する補正画素値が決定された画像データは、出力画像フレームメモリ572に格納される。
なお、出力色[C'(x,y)]算出部556は、例えば、前述の式(式5)で算出した偽色(PF)度合いpを基にして、そのカーネルサイズを設定したローパスフィルタを適用して求められる補間値を適用した処理を実行する構成としてもよい。すなわち、偽色度合いpに基づいてフィルタリング態様を設定したローパスフィルタを適用して生成した補間値に基づいて注目画素の補正画素値を算出する構成としてもよい。
上述した本発明の画素値補正処理を適用することにより、カメラで撮影した画像に起こる色収差によるパープルフリンジ等の偽色に対する適正な補正が可能となり、高品質な画像データの生成、出力を実現することができる。特に、ユーザのアシスト、すなわち画像に応じた最適なパラメータの設定などの処理を行なうことなく、すべてを自動処理として行なった場合でも、破綻の無い画像を生成することが可能となる。本発明の画像処理を適用することにより、撮影画像を、より自然に見えるように補正をすることが可能である。従って、撮影時にパープルフリンジが起こらないようにレンズの絞りや焦点距離などに注意を払う必要がなく、より高い自由度で撮影を行なうことが可能となる。
なお、先に、図2、図3を参照して説明した穴埋め補間処理と、図4以下を参照して説明した偽色(PF)度合いpを適用した補正処理との両者を実行して、それぞれの補正結果をブレンドして最終的な補正画素値を決定する構成としてもよい。
図13に、穴埋め補間処理と、偽色(PF)度合いpを適用した補正処理をそれぞれ実行し、それぞれの結果として得られるデータをブレンドして最終的な補正画素値を得る処理の手順を示すフローを示す。
ステップS401において、補正対象の画像フレームデータの各画素を注目画素(x,y)として設定し、先に説明した図3のフローに従った処理を実行して穴埋め補間処理を実行する。すなわち、
補正対象の入力画像データ中から白とび部分を検出する白とび領域検出処理、
「白とび」の周囲において偽色、すなわちパープルフリンジが存在する可能性のある画像中の領域を偽色発生部検索領域として設定する偽色画素検出領域設定(Dilate)処理、
検索領域内にある紫色画素を検出する偽色(PF)画素検出処理、
検出された紫色の画素の色成分を周囲の画素の画素値に基づいて補間する穴埋め補間処理による偽色画素補正処理、
自然な結果を得るためのフィルタリング処理として実行される色ぼかし処理(フィルタリング処理)
上記各処理によって、注目画素の第1の補正画素値A(x,y)を取得する。
次にステップS402において、図4以下を参照して説明した偽色(PF)度合いpを適用した補正処理によって注目画素(x,y)の第2の補正画素値B(x,y)を算出する。すなわち、
(a)白とび(高輝度画素)への近さ=白とび距離評価値P
(b)彩度の大きさ=彩度評価値P
(c)偽色に相当する特定色相への近さ=色相評価値Pθ
に基づいて、式(式5)に従って偽色(PF)度合いpを算出し、さらに、注目画素(x,y)の周囲に、補間値算出範囲(x,y,x,y)を設定し、この範囲の構成画素の色情報に基づいて補間処理パラメータとしての重み総和保存変数Wtotalと、色情報補間値保存変数Ctmpとを算出し、注目画素の補正画素値B(x,y)を前述の式(式6)に従って算出する。
ステップS403では、穴埋め補間処理によって算出した第1の補正画素値A(x,y)と、偽色(PF)度合いpを適用した補正処理によって取得した第2の補正画素値B(x,y)とのブレンド処理によって、注目画素(x,y)の最終的な補正画素値C"(x,y)を算出する処理を実行する。
このブレンド処理は、所定のブレンド比率kを適用して、例えば、以下に示す式、すなわち、
C"(x,y)=k×A(x,y)+(1−k)×B(x,y)
に従って算出する。ブレンド比率kは0〜1の範囲で決定する。ブレンド比率をどのような値に設定するかは、それぞれの処理の特徴を踏まえて決定する。例えばより大きな補正を望む場合は、穴埋め法の処理結果の反映比率を大きくする設定とし、また、なるべく破綻のない結果画像を取得したい場合は、偽色(PF)度合いpを適用した補正結果データをより反映するようなブレンド比率kの設定とする。
図14に穴埋め補間処理と、偽色(PF)度合いpを適用した補正処理をそれぞれ実行し、それぞれの結果として得られるデータをブレンドして最終的な補正画素値を得る処理を実行する画像処理装置におけるデジタル信号処理部(DSP)(図1のDSP106に相当)の機能構成を示すブロック図を示す。図14のブロック図において、先に説明した図12のブロック図と同様の構成については同一の参照符号を示している。
図14に示すように、デジタル信号処理部(DSP)106は、図12を参照して説明したと同様の構成として、白とび距離評価値P算出部551、彩度評価値P算出部552、色相評価値Pθ算出部553、偽色(PF)度合いp算出部554、補間値[Ctmp/Wtotal]算出部555を有する。さらに、補正画素値算出部602は、図12に示す出力色算出部556と同様の処理によって、偽色(PF)度合いpを適用した補正結果データとしての第2の補正画素値B(x,y)を算出する。
穴埋め補間処理部601は、図3を参照して説明したフローに従った穴埋め補間処理を実行して第1の補正画素値A(x,y)を算出する。
ブレンド処理部603は、穴埋め補間処理によって算出した第1の補正画素値A(x,y)と、偽色(PF)度合いpを適用した補正処理によって取得した第2の補正画素値B(x,y)とのブレンド処理によって、注目画素(x,y)の最終的な補正画素値C"(x,y)を、所定のブレンド比率kを適用し、例えば、下式、すなわち、
C"(x,y)=k×A(x,y)+(1−k)×B(x,y)
に従って算出する。入力画像フレームを構成する画素に対する最終補正画素値C(x,y)が決定された画像データは、出力画像フレームメモリ572に格納される。
上述したブレンド処理を適用することにより、穴埋め補間処理と、偽色(PF)度合いpを適用した補正処理とのそれぞれの利点を融合した調和された画素値補正が可能となり、パープルフリンジ等の偽色が軽減されるとともに破綻することのない補正画像を取得することが可能となる。結果として、カメラで撮影した画像に起こる色収差によるパープルフリンジ等の偽色に対する適正な補正が可能となり、高品質な画像データの生成、出力を実現することができる。
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウエアとして提供することができる。
なお、プログラムは、上述したようなリムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトから、コンピュータに無線転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本発明の構成によれば、画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いpを算出し、注目画素近傍領域の画素値に基づいて、注目画素に対応する補間値を算出し、注目画素の偽色度合いpに応じて元画素値と前記補間値との寄与率を変更して注目画素の補正画素値を算出する構成としたので、カメラで撮影した画像に起こる色収差によるパープルフリンジ等の偽色に対する適正な補正が可能となり、高品質な画像データの生成、出力を実現することができる。特に、ユーザのアシスト、すなわち画像に応じた最適なパラメータの設定などの処理を行なうことなく、すべてを自動処理として行なった場合でも、破綻の無い画像を生成することが可能となる。本発明の画像処理を適用することにより、撮影画像を、より自然に見えるように補正をすることが可能である。従って、撮影時にパープルフリンジが起こらないようにレンズの絞りや焦点距離などに注意を払う必要がなく、より高い自由度で撮影を行なうことが可能となる。
さらに、本発明の構成によれば、偽色である可能性を示すパラメータとしての注目画素の偽色度合いpを、(a)白とび(高輝度画素)への近さを示す白とび距離評価値P、(b)彩度の大きさを示す彩度評価値P、(c)偽色に対応する特定色相への近さを示す色相評価値Pθ、を適用して算出する構成としたので、パープルフリンジ等の偽色の可能性の高い画素については周囲画素に基づく補間値の寄与率を高め、偽色の可能性の低い画素については、元画素値の寄与率を高くした補正が実行されることになり、破綻の無い高品質な画像を取得することが可能となる。
本発明の画像処理装置の構成を示す図である。 穴埋め補間処理の処理概要について説明する図である。 穴埋め補間処理の処理シーケンスを説明するフローチャートである。 本発明の画像処理としての偽色度合いを適用した補正処理のシーケンスを説明するフロー図(その1)である。 本発明の画像処理としての偽色度合いを適用した補正処理のシーケンスを説明するフロー図(その2)である。 白とび画素の探索領域の設定構成について説明する図である。 白とび画素の探索領域の設定構成および白とび距離評価値P算出に適用する距離の算出処理について説明する図である。 注目画素の彩度評価値P、色相評価値Pθ、の算出に必用なパラメータの求め方の例について説明する図である。 彩度評価値Pの算出に適用する最大彩度Smaxの適切な設定例について説明する図である。 本発明の画像処理において実行する偽色度合いを適用した補正画素値の算出処理手順を説明するフロー図である。 偽色度合いを適用した補正画素値の算出処理の際に適用する補間値算出範囲の設定処理例について説明する図である。 本発明の画像処理装置において偽色補正を実行するデジタル信号処理部の機能構成を説明するブロック図である。 穴埋め補間処理と、偽色度合いを適用した補正画素値の算出の両処理を実行してブレンド処理を実行する処理例の手順を説明するフロー図である。 穴埋め補間処理と、偽色度合いを適用した補正画素値の算出の両処理を実行してブレンド処理を実行する処理を実行するデジタル信号処理部の機能構成を説明するブロック図である。
符号の説明
101 レンズ
102 絞り
103 固体撮像素子
104 相関2重サンプリング回路
105 A/Dコンバータ
106 DSPブロック
107 タイミングジェネレータ
108 D/Aコンバータ
109 ビデオエンコーダ
110 ビデオモニタ
111 コーデック(CODEC)
112 メモリ
113 CPU
114 入力デバイス
115 フラッシュ制御装置
116 フラッシュ発光装置
151 白とび画素
152 偽色画素
153 その他の画素
154 補間済み画素
210 画像データ
211 画素
212,213 画素領域
222,223 画素領域
230 画素領域
250 画像データ中心画素
300 注目画素
301 白とび探索範囲
302,303 画素
311,312 画素領域
321〜324 画素
400 原点
401 パープルフリンジ色相ライン
402 注目画素色相
451〜454 画像範囲
510 画像データ
511 画素
520 白とび探索範囲
521,522 画素領域
531 白とび画素
551 白とび距離評価値P算出部
552 彩度評価値P算出部
553 色相評価値Pθ算出部
554 偽色(PF)度合いp算出部
555 補間値[Ctmp/Wtotal]算出部
556 出力色[C'(x,y)]算出部
571 入力画像フレームメモリ
572 出力画像フレームメモリ
601 穴埋め補間処理部
602 補正画素値算出部
603 ブレンド処理部

Claims (15)

  1. 画像処理装置であり、
    画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いpを算出する偽色度合い算出部と、
    注目画素近傍領域の画素値に基づいて、注目画素に対応する補間値を算出する補間値算出部と、
    注目画素の元画素値と前記補間値とを適用し、注目画素の偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出する補正画素値算出部と、
    を有し、
    前記偽色度合い算出部は、
    注目画素についての、
    (a)白とび(高輝度画素)への近さを示す白とび距離評価値P
    (b)彩度の大きさを示す彩度評価値P
    (c)偽色に対応する特定色相への近さを示す色相評価値P θ
    の少なくともいずれかを適用して注目画素の偽色度合いpを算出する構成であることを特徴とする画像処理装置。
  2. 前記偽色度合い算出部は、
    注目画素についての、
    (a)白とび(高輝度画素)への近さを示す白とび距離評価値P
    (b)彩度の大きさを示す彩度評価値P
    (c)偽色に対応する特定色相への近さを示す色相評価値Pθ
    を適用し、偽色度合いpを、下記式、
    p=P・Pθ・P
    に従って算出する構成であることを特徴とする請求項1に記載の画像処理装置。
  3. 前記補正画素値算出部は、
    注目画素(x,y)の元画素値対応の色情報をC(x,y)、前記補間値をFとし、注目画素の偽色度合いをpとした場合、注目画素の補正画素値に対応する色情報C'(x,y)を、式:C'(x,y)=pF+(1−p)C(x,y)
    ただしp=0〜1であり、偽色度合いが高い場合1に近づく値を持つ、
    上記式に従って算出する構成であることを特徴とする請求項1に記載の画像処理装置。
  4. 前記補間値算出部は、
    注目画素近傍領域に設定した補間値算出範囲の構成画素に設定した重み情報に基づいて、補間値算出範囲の全構成画素に基づく重み総和保存変数Wtotalと、色情報補間値保存変数Ctmpとを算出し、該変数に基づいて、注目画素に対応する補間値(Ctmp/Wtotal)を算出する構成であることを特徴とする請求項1に記載の画像処理装置。
  5. 前記補正画素値算出部は、
    前記偽色度合いpに基づいてフィルタリング態様を設定したローパスフィルタを適用して生成した補間値に基づいて注目画素の補正画素値を算出する構成であることを特徴とする請求項1に記載の画像処理装置。
  6. 前記画像処理装置は、さらに、
    偽色と判定された注目画素の画素値を周囲画素の画素値に基づいて補正する穴埋め補間処理を実行する穴埋め補間処理部と、
    前記穴埋め補間処理部において実行された補間処理において算出する注目画素対応の第1の補正画素値と、前記補正画素値算出部において偽色度合いpを適用して算出する第2の補正画素値とをブレンドして最終補正画素値を算出するブレンド処理部と、
    を有することを特徴とする請求項1に記載の画像処理装置。
  7. 前記偽色はパープルフリンジであり、
    前記偽色度合い算出部は、
    画像データの構成画素から選択された注目画素について、パープルフリンジである可能性を示すパラメータとしての偽色度合いpを算出する構成であり、
    前記補正画素値算出部は、
    注目画素の元画素値と前記補間値とを適用し、注目画素がパープルフリンジである可能性を示すパラメータとしての偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出する構成であることを特徴とする請求項1乃至いずれかに記載の画像処理装置。
  8. 画像処理方法であり、
    画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いpを算出する偽色度合い算出ステップと、
    注目画素近傍領域の画素値に基づいて、注目画素に対応する補間値を算出する補間値算出ステップと、
    注目画素の元画素値と前記補間値とを適用し、注目画素の偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出する補正画素値算出ステップと、
    を有し、
    前記偽色度合い算出ステップは、
    注目画素についての、
    (a)白とび(高輝度画素)への近さを示す白とび距離評価値P
    (b)彩度の大きさを示す彩度評価値P
    (c)偽色に対応する特定色相への近さを示す色相評価値P θ
    の少なくともいずれかを適用して注目画素の偽色度合いpを算出するステップであることを特徴とする画像処理方法。
  9. 前記偽色度合い算出ステップは、
    注目画素についての、
    (a)白とび(高輝度画素)への近さを示す白とび距離評価値P
    (b)彩度の大きさを示す彩度評価値P
    (c)偽色に対応する特定色相への近さを示す色相評価値Pθ
    を適用し、偽色度合いpを、下記式、
    p=P・Pθ・P
    に従って算出するステップであることを特徴とする請求項に記載の画像処理方法。
  10. 前記補正画素値算出ステップは、
    注目画素(x,y)の元画素値対応の色情報をC(x,y)、前記補間値をFとし、注目画素の偽色度合いをpとした場合、注目画素の補正画素値に対応する色情報C'(x,y)を、式:C'(x,y)=pF+(1−p)C(x,y)
    ただしp=0〜1であり、偽色度合いが高い場合1に近づく値を持つ、
    上記式に従って算出するステップであることを特徴とする請求項に記載の画像処理方法。
  11. 前記補間値算出ステップは、
    注目画素近傍領域に設定した補間値算出範囲の構成画素に設定した重み情報に基づいて、補間値算出範囲の全構成画素に基づく重み総和保存変数Wtotalと、色情報補間値保存変数Ctmpとを算出し、該変数に基づいて、注目画素に対応する補間値(Ctmp/Wtotal)を算出するステップであることを特徴とする請求項に記載の画像処理方法。
  12. 前記補正画素値算出ステップは、
    前記偽色度合いpに基づいてフィルタリング態様を設定したローパスフィルタを適用して生成した補間値に基づいて注目画素の補正画素値を算出するステップであることを特徴とする請求項に記載の画像処理方法。
  13. 前記画像処理方法は、さらに、
    偽色と判定された注目画素の画素値を周囲画素の画素値に基づいて補正する穴埋め補間処理を実行する穴埋め補間処理ステップと、
    前記穴埋め補間処理ステップにおいて実行された補間処理において算出する注目画素対応の第1の補正画素値と、前記補正画素値算出部において偽色度合いpを適用して算出する第2の補正画素値とをブレンドして最終補正画素値を算出するブレンド処理ステップと、
    を有することを特徴とする請求項に記載の画像処理方法。
  14. 前記偽色はパープルフリンジであり、
    前記偽色度合い算出ステップは、
    画像データの構成画素から選択された注目画素について、パープルフリンジである可能性を示すパラメータとしての偽色度合いpを算出するステップであり、
    前記補正画素値算出ステップは、
    注目画素の元画素値と前記補間値とを適用し、注目画素がパープルフリンジである可能性を示すパラメータとしての偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出するステップであることを特徴とする請求項8乃至13いずれかに記載の画像処理方法。
  15. 画像処理をコンピュータ上で実行させるコンピュータ・プログラムであり、
    画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いpを算出する偽色度合い算出ステップと、
    注目画素近傍領域の画素値に基づいて、注目画素に対応する補間値を算出する補間値算出ステップと、
    注目画素の元画素値と前記補間値とを適用し、注目画素の偽色度合いpに応じて前記元画素値と前記補間値との寄与率を変更して前記注目画素の補正画素値を算出する補正画素値算出ステップと、
    を有し、
    前記偽色度合い算出ステップは、
    注目画素についての、
    (a)白とび(高輝度画素)への近さを示す白とび距離評価値P
    (b)彩度の大きさを示す彩度評価値P
    (c)偽色に対応する特定色相への近さを示す色相評価値P θ
    の少なくともいずれかを適用して注目画素の偽色度合いpを算出するステップであることを特徴とするコンピュータ・プログラム。
JP2004298321A 2004-10-13 2004-10-13 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム Expired - Fee Related JP4539278B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004298321A JP4539278B2 (ja) 2004-10-13 2004-10-13 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004298321A JP4539278B2 (ja) 2004-10-13 2004-10-13 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Publications (2)

Publication Number Publication Date
JP2006115039A JP2006115039A (ja) 2006-04-27
JP4539278B2 true JP4539278B2 (ja) 2010-09-08

Family

ID=36383209

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004298321A Expired - Fee Related JP4539278B2 (ja) 2004-10-13 2004-10-13 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Country Status (1)

Country Link
JP (1) JP4539278B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9047679B2 (en) 2013-01-10 2015-06-02 Samsung Electronics Co., Ltd. Method and device for processing an image to remove color fringe
US10659738B2 (en) 2015-05-12 2020-05-19 Olympus Corporation Image processing apparatus, image processing method, and image processing program product

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8339462B2 (en) 2008-01-28 2012-12-25 DigitalOptics Corporation Europe Limited Methods and apparatuses for addressing chromatic abberations and purple fringing
JP4539280B2 (ja) * 2004-10-19 2010-09-08 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4770154B2 (ja) * 2004-11-08 2011-09-14 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4539299B2 (ja) * 2004-11-08 2010-09-08 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP5020615B2 (ja) * 2006-12-08 2012-09-05 キヤノン株式会社 画像処理装置及び撮像装置及び画像処理方法及びプログラム
JP4963598B2 (ja) * 2006-12-08 2012-06-27 キヤノン株式会社 画像処理装置及び撮像装置及び画像処理方法及びプログラム
KR101340518B1 (ko) 2007-08-23 2013-12-11 삼성전기주식회사 영상의 색수차 보정 방법 및 장치
KR101174742B1 (ko) * 2008-01-28 2012-08-17 디지털옵틱스 코포레이션 유럽 리미티드 색수차들 및 퍼플 프린징을 해결하기 위한 방법 및 장치
JP5121498B2 (ja) * 2008-02-25 2013-01-16 キヤノン株式会社 撮像装置及び画像データの補正方法
JP5200645B2 (ja) * 2008-04-24 2013-06-05 株式会社ニコン 画像処理装置、撮像装置、画像処理方法およびプログラム
US8339471B2 (en) 2009-12-31 2012-12-25 DigitalOptics Corporation Europe Limited Auto white balance algorithm using RGB product measure
JP5528139B2 (ja) 2010-02-02 2014-06-25 キヤノン株式会社 画像処理装置、撮像装置および画像処理プログラム
CN113784101A (zh) * 2021-09-26 2021-12-10 三星半导体(中国)研究开发有限公司 紫边校正方法和紫边校正装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244939A (ja) * 1999-02-19 2000-09-08 Canon Inc 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2001245307A (ja) * 2000-03-01 2001-09-07 Matsushita Electric Ind Co Ltd 撮像装置
JP2002010286A (ja) * 2000-06-26 2002-01-11 Canon Inc 信号処理装置、信号処理方法、及び撮像装置
JP2002262299A (ja) * 2001-02-28 2002-09-13 Seiko Epson Corp 偽色除去装置、偽色除去プログラム、偽色除去方法およびデジタルカメラ

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3969836B2 (ja) * 1998-04-24 2007-09-05 キヤノン株式会社 信号処理装置および撮像用信号処理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244939A (ja) * 1999-02-19 2000-09-08 Canon Inc 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2001245307A (ja) * 2000-03-01 2001-09-07 Matsushita Electric Ind Co Ltd 撮像装置
JP2002010286A (ja) * 2000-06-26 2002-01-11 Canon Inc 信号処理装置、信号処理方法、及び撮像装置
JP2002262299A (ja) * 2001-02-28 2002-09-13 Seiko Epson Corp 偽色除去装置、偽色除去プログラム、偽色除去方法およびデジタルカメラ

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9047679B2 (en) 2013-01-10 2015-06-02 Samsung Electronics Co., Ltd. Method and device for processing an image to remove color fringe
US10659738B2 (en) 2015-05-12 2020-05-19 Olympus Corporation Image processing apparatus, image processing method, and image processing program product

Also Published As

Publication number Publication date
JP2006115039A (ja) 2006-04-27

Similar Documents

Publication Publication Date Title
JP4770154B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4479457B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4539278B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP5047048B2 (ja) 画像処理装置、撮像装置、制御方法、プログラム、及び記憶媒体
US8233710B2 (en) Image processing device and image processing method
JPWO2005101854A1 (ja) 色ずれ補正機能を有する画像処理装置、画像処理プログラム、および電子カメラ
JP2013219705A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2008263507A (ja) 映像処理装置及び映像処理プログラム
JP4945942B2 (ja) 画像処理装置
JP4539280B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
US9576341B2 (en) Image-processing system, imaging apparatus and image-processing method
JP4539299B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2009200635A (ja) 画像処理装置及びその方法並びにプログラム
US9007494B2 (en) Image processing apparatus, method for controlling the same and storage medium
JP5274697B2 (ja) 画像処理装置及び画像処理方法
JP5330291B2 (ja) 信号処理装置及び撮像装置
JP6631161B2 (ja) 画像処理装置、撮像装置、制御プログラム
JP2007028041A (ja) 画像処理装置
JP2019004281A (ja) 画像処理装置
JP2005354585A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP6627422B2 (ja) 画像処理装置、撮像装置、制御プログラム
JP2013229809A (ja) 画像処理装置、方法、及びプログラム
JP2010199849A (ja) 画像処理装置、画像処理方法、撮像装置
JP2009027615A (ja) 映像処理装置および映像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071009

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100216

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100414

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100601

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100614

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130702

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees