JP4539299B2 - 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム - Google Patents

画像処理装置、および画像処理方法、並びにコンピュータ・プログラム Download PDF

Info

Publication number
JP4539299B2
JP4539299B2 JP2004323591A JP2004323591A JP4539299B2 JP 4539299 B2 JP4539299 B2 JP 4539299B2 JP 2004323591 A JP2004323591 A JP 2004323591A JP 2004323591 A JP2004323591 A JP 2004323591A JP 4539299 B2 JP4539299 B2 JP 4539299B2
Authority
JP
Japan
Prior art keywords
pixel
image
whiteout
false
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004323591A
Other languages
English (en)
Other versions
JP2006135744A (ja
Inventor
智経 増野
光晴 大木
類 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004323591A priority Critical patent/JP4539299B2/ja
Publication of JP2006135744A publication Critical patent/JP2006135744A/ja
Application granted granted Critical
Publication of JP4539299B2 publication Critical patent/JP4539299B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、画像処理装置、および画像処理方法、並びにコンピュータ・プログラムに関する。さらに詳細には、例えばレンズの収差による偽色の発生した画像データを補正し、高品質な画像データを生成する画像処理装置、および画像処理方法、並びにコンピュータ・プログラムに関する。
カメラで画像撮影を行なう際には、レンズの収差によりさまざまな問題が引き起こされる。特に、倍率の高いレンズや、製造コストの安いレンズを使用してカメラ撮影を行う際に、その撮影した画像に、レンズの収差を起因とした偽色が生じる場合がある。この偽色の中でも、輝度差が著しく大きいようなシーン(例えば木漏れ日)を撮影した際に、低輝度部分のエッジ付近に、紫色の非常に彩度の強い偽色が生じることがある。これはパープルフリンジ(PF)と呼ばれていて、画質に悪影響をおよぼしている。
これは、光の波長により点像分布が異なっているために、画像中のエッジ部分に偽色が発生する現象である。通常の画素ではそれほど目立たない場合でも、輝度レベルにおける飽和状態としての白とびが起こっているハイコントラストのエッジ部分があれば、その周辺に紫色の偽色が発生し、不自然な像が結像されてしまう。一般に、白とびの近傍に発生する偽色は紫系の色が多く発生するためパープルフリンジと呼ばれる。ただし、レンズ、撮影条件などに応じて、偽色の色は緑がかった色となる場合など様々である。以下、パープルフリンジとは、発生する色に関わらず白とびが起こっているハイコントラストのエッジ部分における偽色発生現象を指すものとする。
色収差を軽減するための技術としては、蛍石など特殊な素材で出来たガラスを用いたレンズを適用する構成がある。しかし、このようなレンズを製造するのはコストがかるため価格も高く、レンズ交換式のカメラ用など一部の高級なカメラで用いられているが、一般に広く普及しているとは言えない。
また、特許文献1には、色収差によって発生する偽色を画像処理により軽減する方法が示されている。これは、緑チャンネルの高周波成分が高い部分に関して、色を抑制、つまり彩度を低下させる処理を行うものである。また、白とびが起こっている場合の対策として、露出を変えて2枚の画像を撮像し白とび部分の本来の輝度を推定し、彩度を低下させる処理を行う構成を開示している。
しかし、特許文献1に記載の処理では、白とび部分の輝度の推定結果からどの程度彩度を落とせるか判定しているため、仮に推定が間違ってしまった場合、本来の被写体の色が過度に落ちてしまう可能性があり、その結果、不自然な結果画像を生じる場合がある。また、白とび部分の輝度推定のために露出を変えて2回撮影を行う必要があり、手ぶれや被写体ぶれなどが起こった場合、正しい結果を得ることは困難になるという問題がある。さらに、露出を変えて撮影しなければならないので、ビデオカメラなどで動画撮影を行う場合、この方法は適用できないという問題がある。
特開2003−60983号公報
本発明は、上述の問題点に鑑みてなされたものであり、ビデオカメラなどで撮影された動画像に対する効率的な画像補正処理を可能としたものであり、撮像手段から入力される一定のフレームレートの画像データに対してリアルタイムの画像処理を施してメモリに格納、あるいは出力する処理を実行する画像処理装置、および画像処理方法、並びにコンピュータ・プログラムを提供することを目的とする。
本発明は、具体的には、白とび周辺に発生するパープルフリンジ等の偽色に注目し、この偽色領域を効率的に検出し、偽色に対する補正を中心とした画像処理を実行することにより、高品質な画像データを生成することを可能とした画像処理装置、および画像処理方法、並びにコンピュータ・プログラムを提供することを目的とする。
本発明は、特に、画像データの構成画素から選択された注目画素について、偽色である可能性を示すパラメータとしての偽色度合いを算出し、偽色度合いに基づく彩度削減処理により、高品質な画像データを生成することを可能とした画像処理装置、および画像処理方法、並びにコンピュータ・プログラムを提供することを目的とする。
本発明は、さらに、偽色である可能性を示すパラメータとしての偽色度合いを算出する際に、画像データの縮小処理を実行し、縮小画像データに基づいて、飽和レベルの高輝度画素としての白とび画素の検出を実行し、白とび検出データを用いて偽色度合いを算出する構成とすることで、パラメータ算出時の計算量を削減し、効率的な画素補正を可能とした画像処理装置、および画像処理方法、並びにコンピュータ・プログラムを提供することを目的とする。
本発明の第1の側面は、
画像処理装置であり、
処理画像の構成画素の補正パラメータとして、画素の偽色に対する類似性情報である画素対応の偽色度を算出する補正パラメータ算出部と、
前記偽色度を適用して、処理画像の構成画素の彩度削減処理を含む画素値補正処理を実行する補正処理部とを有し、
前記補正パラメータ算出部は、
処理画像に基づく縮小画像データを生成する縮小画像生成部と、
前記縮小画像生成部の生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行する白とび検出部と、
処理画像から選択された注目画素の色相と偽色の色相との類似性情報としての紫度を算出する紫度計算部と、
前記白とび検出部の検出する白とび検出情報を適用して前記注目画素の白とび画素からの距離情報としての白とび度を算出する白とび度計算部と、
前記紫度および白とび度とに基づいて注目画素の偽色度を算出する偽色度算出部とを有する構成であることを特徴とする画像処理装置にある。
さらに、本発明の画像処理装置の一実施態様において、前記白とび検出部は、前記縮小画像生成部の生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行し、縮小画像における構成画素が白とび画素であるか否かを示すフラグ情報を持つ縮小白とび検出マップを生成しメモリに格納する構成であり、前記補正パラメータ算出部は、前記メモリに格納された縮小白とび検出マップの拡大処理を実行する白とびマップ拡大部を有し、前記白とび度計算部は、前記白とびマップ拡大部の拡大したマップに基づいて前記白とび度を算出する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記白とび度計算部は、前記紫度計算部の処理対象画像フレームの前フレームに対する白とび検出処理の結果データとしてメモリに格納された白とび検出マップに基づいて白とび度を算出する構成であり、前記偽色度算出部は、フレームnの画像データに基づいて算出された紫度、およびフレームn−1の画像データに基づいて算出された白とび度とに基づいて注目画素の偽色度を算出する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記補正パラメータ算出部は、
(a)入力画像データに基づく縮小画像の生成および白とび検出処理、
(b)入力画像データに基づく紫度の計算処理、
(c)メモリに格納された前フレームの画像に基づく縮小白とび検出マップの拡大処理および該拡大結果としてのマップに基づく白とび度計算処理、
上記(a),(b),(c)の各処理を並列に実行する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記補正処理部は、前記補正パラメータ算出部の算出する偽色度に基づいて各画素の彩度削減処理を実行する画素彩度削減処理部と、画素彩度削減処理部の出力データに対して、彩度削減処理を施した画素と周囲画素の色相の差分を減少させるぼかし処理を実行するぼかし処理部を有する構成であることを特徴とする。
さらに、本発明の画像処理装置の一実施態様において、前記偽色はパープルフリンジであり、前記補正パラメータ算出部は、処理画像の構成画素の補正パラメータとして、画素のパープルフリンジに対する類似性情報である画素対応の偽色度を算出する構成であることを特徴とする。
さらに、本発明の第2の側面は、
画像処理方法であり、
処理画像の構成画素の補正パラメータとして、画素の偽色に対する類似性情報である画素対応の偽色度を算出する補正パラメータ算出ステップと、
前記偽色度を適用して、処理画像の構成画素の彩度削減処理を含む画素値補正処理を実行する補正処理ステップとを有し、
前記補正パラメータ算出ステップは、
処理画像に基づく縮小画像データを生成する縮小画像生成ステップと、
前記縮小画像生成ステップにおいて生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行する白とび検出ステップと、
処理画像から選択された注目画素の色相と偽色の色相との類似性情報としての紫度を算出する紫度計算ステップと、
前記白とび検出ステップにおいて検出した白とび検出情報を適用して前記注目画素の白とび画素からの距離情報としての白とび度を算出する白とび度計算ステップと、
前記紫度および白とび度とに基づいて注目画素の偽色度を算出する偽色度算出ステップと、
を有することを特徴とする画像処理方法にある。
さらに、本発明の画像処理方法の一実施態様において、前記白とび検出ステップは、前記縮小画像生成ステップにおいて生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行し、縮小画像における構成画素が白とび画素であるか否かを示すフラグ情報を持つ縮小白とび検出マップを生成しメモリに格納する処理を実行するステップであり、前記補正パラメータ算出ステップは、さらに、前記メモリに格納された縮小白とび検出マップの拡大処理を実行する白とびマップ拡大ステップを有し、前記白とび度計算ステップは、前記白とびマップ拡大ステップの拡大したマップに基づいて前記白とび度を算出するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記白とび度計算ステップは、前記紫度計算ステップにおける処理対象画像フレームの前フレームに対する白とび検出処理の結果データとしてメモリに格納された白とび検出マップに基づいて白とび度を算出するステップであり、前記偽色度算出ステップは、フレームnの画像データに基づいて算出された紫度、およびフレームn−1の画像データに基づいて算出された白とび度とに基づいて注目画素の偽色度を算出するステップであることを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記補正パラメータ算出ステップは、
(a)入力画像データに基づく縮小画像の生成および白とび検出処理、
(b)入力画像データに基づく紫度の計算処理、
(c)メモリに格納された前フレームの画像に基づく縮小白とび検出マップの拡大処理および該拡大結果としてのマップに基づく白とび度計算処理、
上記(a),(b),(c)の各処理を並列に実行することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記補正処理ステップは、前記補正パラメータ算出ステップにおいて算出する偽色度に基づいて各画素の彩度削減処理を実行する画素彩度削減処理ステップと、画素彩度削減処理ステップにおける処理結果としての出力データに対して、彩度削減処理を施した画素と周囲画素の色相の差分を減少させるぼかし処理を実行するぼかし処理ステップとを有することを特徴とする。
さらに、本発明の画像処理方法の一実施態様において、前記偽色はパープルフリンジであり、前記補正パラメータ算出ステップは、処理画像の構成画素の補正パラメータとして、画素のパープルフリンジに対する類似性情報である画素対応の偽色度を算出するステップであることを特徴とする。
さらに、本発明の第3の側面は、
画像処理をコンピュータ上において実行させるコンピュータ・プログラムであり、
処理画像の構成画素の補正パラメータとして、画素の偽色に対する類似性情報である画素対応の偽色度を算出する補正パラメータ算出ステップと、
前記偽色度を適用して、処理画像の構成画素の彩度削減処理を含む画素値補正処理を実行する補正処理ステップとを有し、
前記補正パラメータ算出ステップは、
処理画像に基づく縮小画像データを生成する縮小画像生成ステップと、
前記縮小画像生成ステップにおいて生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行する白とび検出ステップと、
処理画像から選択された注目画素の色相と偽色の色相との類似性情報としての紫度を算出する紫度計算ステップと、
前記白とび検出ステップにおいて検出した白とび検出情報を適用して前記注目画素の白とび画素からの距離情報としての白とび度を算出する白とび度計算ステップと、
前記紫度および白とび度とに基づいて注目画素の偽色度を算出する偽色度算出ステップと、
を有することを特徴とするコンピュータ・プログラムにある。
なお、本発明のコンピュータ・プログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、CDやFD、MOなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なコンピュータ・プログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ・システム上でプログラムに応じた処理が実現される。
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施例や添付する図面に基づく、より詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本発明の構成によれば、処理画像の構成画素の補正パラメータとして、各画素に対応する偽色度を算出し、算出した偽色度に基づいて各画素の彩度削減処理を実行する構成とし、補正パラメータとしての偽色度の算出処理においては、縮小画像を生成し、時間の要する白とび検出処理を縮小画像に基づいて実行する構成としたので、計算量の削減により処理時間の短縮が可能となる。また、偽色度算出に適用する紫度を現フレーム(n)に基づいて取得し、白とび度を前フレーム(n−1)に基づいて取得する構成としたので、処理時間の遅延の防止が可能となり、所定のフレームレートで入力する動画像データのリアルタイムでの補正処理が可能となり、パープルフリンジ等の偽色の彩度削減処理およびぼかし処理を実行することで高品質な補正画像データの高速生成処理が実現される。
さらに、本発明の構成によれば、補正パラメータとしての偽色度の算出において、注目画素の色相が偽色色相と類似し、白とび画素からの距離が近いほど、大きな値の偽色度を算出する構成とし、画素彩度削減処理においては、この偽色度に基づいて各画素の彩度削減処理を実行する構成としたので、偽色度のレベルに応じた最適な彩度削減処理が実現され、パープルフリンジ等の偽色画素の存在する画像データから偽色画素を効率的に抽出した補正手処理が可能となり、効率的な高品質補正画像データの生成が可能となる。
以下、図面を参照しながら、本発明の画像処理装置、および画像処理方法、並びにコンピュータ・プログラムの詳細について説明する。
まず、画像処理装置の構成例について図1を参照して説明する。なお、図1に示す画像処理装置は、撮像部を備え、撮像部において撮影した画像データの補正処理を実行する装置例として示してあるが、本発明の画像処理装置は、たとえばハードディスクなどの記憶部に格納された画像データを入力して入力画像の補正を実行することも可能であり、補正処理対象の画像データは、撮像部を介して入力されるデータのみならず、記憶手段、あるいはネットワークを介して入力する画像データなどあらゆる入力画像データに対応可能である。図1は本発明の画像処理装置の一構成例を示すものである。
図1に示す画像処理装置の詳細構成について説明する。図1に示すように、画像処理装置は、レンズ101、絞り102、固体撮像素子(CCD)103、相関2重サンプリング回路104、A/Dコンバータ105、DSPブロック106、タイミングジェネレータ107、D/Aコンバータ108、ビデオエンコーダ109、ビデオモニタ110、コーデック(CODEC)111、メモリ112、CPU113、入力デバイス114から構成される。
入力デバイス114はカメラ本体にある録画ボタンなどの操作ボタン類を含む。また、DSPブロック106は信号処理用プロセッサと画像用RAMを持つブロックで、信号処理用プロセッサが画像用RAMに格納された画像データに対してあらかじめプログラムされた画像処理をおこなうことができるようになっている。以下DSPブロックを単にDSPと呼ぶ。
本実施例の全体的な動作を以下に説明する。
光学系を通過して固体撮像素子(CCD)103に到達した入射光は、まず撮像面上の各受光素子に到達し、受光素子での光電変換によって電気信号に変換され、相関2重サンプリング回路104によってノイズ除去され、A/Dコンバータ105によってデジタ。信号に変換された後、デジタル信号処理部(DSP)106中の画像メモリに一時格納される。
撮像中の状態においては、一定のフレームレートによる画像取り込みを維持するようにタイミングジェネレータ107が信号処理系を制御する。デジタル信号処理部(DSP)106へも一定のレートで画素のストリームが送られ、そこで適切な画像処理がおこなわれた後、画像データはD/Aコンバータ108もしくはコーデック(CODEC)111あるいはその両方に送られる。D/Aコンバータ108はデジタル信号処理部(DSP)106から送られる画像データをアナログ信号に変換し、それをビデオエンコーダ109がビデオ信号に変換し、そのビデオ信号をビデオモニタ110でモニタできるようになっていて、このビデオモニタ110は本実施例においてカメラのファインダの役割を担っている。また、コーデック(CODEC)111はデジタル信号処理部(DSP)106から送られる画像データに対する符号化をおこない、符号化された画像データはメモリ112に記録される。ここで、メモリ112は半導体、磁気記録媒体、光磁気記録媒体、光記録媒体などを用いた記録装置などであってよい。
以上が本実施例の画像処理装置の一例としてのデジタルビデオカメラのシステム全体の説明であるが、本発明に係る画像処理、すなわち画像データの補正処理はデジタル信号処理部(DSP)106において実行される。
以下、本発明の画像処理装置のデジタル信号処理部(DSP)106において実行する画像データ補正処理の詳細について説明する。本発明の画像処理装置において実行する画像処理は、主として白とび周辺に発生するパープルフリンジ等の偽色を検出して各画素の偽色度合いを算出し、算出した偽色度合いに対応する適切な補正を実行するものであり、この補正処理により高品質な画像データを生成する。
偽色(パープルフリンジ)は、色収差による色ずれが、白とび画素部分周辺で目立って現れる現象である。白とび画素とは、輝度レベルが飽和レベルに近い高輝度の画素である。このような高輝度画素である白とび画素の周辺の画素に、本来の被写体の色相とは異なる例えば紫色の偽色を生ずる。この偽色画素がパープルフリンジ(PF)と呼ばれる。
偽色(PF:パープルフリンジ)が発生する白とびの周り範囲大きさは、光学系の絞り、焦点距離に連動しており、また、光学中心からの距離にも依存し、大きさが変わる。また、偽色が出る方向も、光学中心から白とび画素の外側に向かう方向、白とび画素から光学中心に向かう方向それぞれに発生し、その傾向は、撮像する光学系により異なる。
本発明の画像処理においては、撮影画像として入力される画像フレームの構成画素を順次、注目画素として選択し、注目画素の近傍に白とび画素が存在するかを判定し、さらに、その注目画素が紫色でかつ彩度が非常に強いかを判定する。すなわち、
(a)注目画素近傍に白とび画素が存在する。
(b)注目画素が紫色
これらの条件を満足する画素は、偽色(PF:パープルフリンジ)画素であると判定して、補正処理を実行する。
補正処理の態様としては、例えば、検出された偽色画素の周辺にある偽色(PF)でない画素の画素値を取得し、取得した画素値の平均値を偽色画素の画素値とするなど、いわゆる周辺画素に基づく補間処理を実行することで偽色(PF)画素の補正処理を行うことも1つの方法ではあるが、このような周辺画素の画素値を取得し、取得した画素値に基づいて偽色画素に設定する画素値を算出し、算出画素値を偽色画素の画素値に再設定する補間処理は処理負荷として大きくなるという問題がある。
例えばビデオカメラによる撮影画像で一定のフレームレートで入力される画像に対して上述の補間処理を実行した場合、補正処理がビデオフレームレートに追いつかない可能性が高く、ビデオカメラによる撮影画像に対する処理とすることは現実的でない。
本発明の画像処理では、上述の周囲画素の画素値を適用した補間処理ではなく、画素の彩度の低下処理を行なう構成としている。偽色である可能性を示すパラメータとしての偽色度を算出し、算出した偽色度に基づいて各画素の彩度削減処理を実行する。さらに、パラメータ算出処理において、画像データの縮小処理を実行し、縮小画像データに基づいて、飽和レベルの高輝度画素としての白とび画素の検出を実行し、白とび検出データを用いて偽色度を算出する構成とすることで、パラメータ算出時の計算量を削減し、効率的な画素補正を可能としている。
本発明の画像処理では、例えば図1に示す画像処理装置の撮像部において撮影され、デジタル信号処理部(DSP)106に入力される各画像フレームの構成画素について、後述する偽色度合い(PF度合い)を算出し、算出した各画素対応の偽色度合い(PF度合い)に基づく補正処理を行なう。PFはパープルフリンジ(Purple Fringe)を意味する。
なお、前述したように、輝度レベルにおける飽和状態としての白とびが起こっているハイコントラストのエッジ部分に発生するレンズ収差による偽色の代表的な現象をパープルフリンジと呼ぶが、偽色の色は紫に限定されるものではなく、例えば緑がかった色となる場合などもある。以下の実施例では、紫色の偽色を生じた例として説明するが、本発明は、紫色に限らず、白とび近傍に発生する任意の色を有する偽色の補正処理に適用可能である。
図2を参照して、本発明の画像処理装置におけるデジタル信号処理部(DSP)106において実行する画像処理の全体シーケンスについて説明する。デジタル信号処理部(DSP)106では例えばコンピュータ・プログラムに従ったデータ処理が実行される。図2は、デジタル信号処理部(DSP)106において実行される処理を説明するため、機能別のブロックとして示したブロック図である。
デジタル信号処理部(DSP)106は、図2に示すように、ホワイトバランス調整手段201、ガンマ補正処理手段202、デモザイク処理手段203、YcbCr変換手段204、エッジ強調処理手段205、偽色(PF)補正処理手段206から構成されている。
図1に示した画像処理装置の固体撮像素子(CCD)103で取得された画像信号は色のモザイク画像251である。例えば原色系の色配列(例えばベイヤー配列)などの色配列を持つカラーフィルタを介した撮像を行なうと、各画素に対して特定の波長の信号、すなわち特定波長の色成分データだけを取得する。例えばベイヤー配列の単板カラー方式の固体撮像素子を用いた場合、固体撮像素子の出力画像は、各画素にR,G,Bいずれかの情報のみを持つ色モザイク画像データ251となる。
デジタル信号処理部(DSP)106は、この色モザイク画像データ251を入力し、まずホワイトバランス調整手段201でホワイトバランスを調整を実行し、ついでガンマ補正処理手段202でガンマ補正処理を行い、デモザイク手段203において色モザイク画像からRGBデータがすべての画素に設定されたデータ生成処理としてのデモザイク処理を実行する。
その後、RGBデータがすべての画素に設定されたデモザイク画像データをYCbCr変換手段204に入力し、YCbCr変換手段204において、RGB信号のYcbCr色空間への変換処理を実行し、輝度信号(Y)と、色信号(Cb,Cr)とに分離し、輝度信号(Y)をエッジ強調処理手段205に入力して、輝度信号(Y)に基づくエッジ強調処理を実行する。
次に、偽色(PF)補正処理手段206において、エッジ強調処理後の輝度信号(Y)と、色信号(Cb,Cr)を入力し、偽色(PF)補正処理を実行し、補正された輝度信号(Y)と、色信号(Cb,Cr)とからなるYCbCr画像データ252を出力する。YCbCr画像データ252に基づく画像データが画像処理装置内のメモリに格納され、またモニタ手段などの出力部に出力される。
図2に示す処理構成中、ホワイトバランス調整手段201〜エッジ強調処理手段205における処理は、従来のデジタルビデオカメラ等の画像処理装置において実行される処理と同様の処理であり、詳細な説明は省略する。偽色(PF)補正処理手段206における処理は、本発明に特有の処理であり、以下、偽色(PF)補正処理手段206において実行する処理の詳細について説明する。
図3に、偽色(PF)補正処理手段206の処理を説明するブロック図を示す。前述したように、デジタル信号処理部(DSP)106では例えばコンピュータ・プログラムに従ったデータ処理が実行される。図3は、図2と同様、デジタル信号処理部(DSP)106において実行される処理を説明するため、機能別のブロックとして示したブロック図である。図3に示す各ブロックは、偽色(PF)補正処理手段206で実行する個々の処理機能に対応し、各処理機能間で受け渡しされるデータを、上下の線によって挟まれたデータとして示してある。
偽色(PF)補正処理手段206は、図3に示すように、大きく2つの処理部に分割される。1つは、補正パラメータ(偽色度)算出部300であり、もう1つは補正処理部310である。補正パラメータ(偽色度)算出部300では、入力画像データであるYCbCr入力画像351に基づいて、入力画像の構成画素各々について、どれだけ偽色(PF)に近いかという指標値である偽色度を算出する。偽色度[R]359は、画像データの構成画素各々についての画素対応値として順次、算出される。
補正処理部310は、補正パラメータ(偽色度)算出部300の算出した画素対応の偽色度[R]359を入力し、入力した偽色度に基づいて、入力画像データであるYCbCr入力画像351の構成画素の画素値補正、具体的には、彩度削減処理、ぼかし処理の各処理を実行する。補正処理部310における補正処理の結果が、補正結果画像、すなわちYCbCr出力画像371として出力され、YCbCr出力画像371に基づく画像データがメモリに格納あるいはモニタに出力される。
まず、図3に示す偽色(PF)補正処理手段206において実行する一連の処理の概要について説明する。各構成部の処理の詳細については後段で説明する。図2のYCbCr変換手段204とエッジ強調処理手段205からエッジ強調処理の施されたYCbCr画像351が、輝度成分[Y]352と色差成分[C]353とに分けて偽色(PF)補正処理手段206に入力される。入力は、たとえばスキャンラインに沿った各画素毎に、輝度成分[Y]352と色差成分[C]353とが順次入力される。
まず、補正パラメータ(偽色度)算出部300の縮小画像生成部301は、輝度成分[Y]352の縮小処理を実行する。輝度成分[Y]352は、YCbCr入力画像351の輝度成分情報のみを抽出したデータであり、フレーム画像データの構成画素各々の輝度[Y]情報のみから構成されるデータである。縮小画像生成部301は、この輝度成分画像の縮小処理を実行して、[縮小画像Yp]354を生成し、白とび検出部302に出力する。
白とび検出部302は、[縮小画像Yp]354に基づいて、縮小画像における輝度レベルがほぼ飽和レベルである白とび画素の検出、すなわち白とび検出処理を行い、縮小白とび検出マップ[Wp]354を出力する。縮小白とび検出マップ[Wp]354は、縮小画像における構成画素が白とび画素であるか否かを示すフラグが各画素毎に設定されたマップである。
白とび検出部302は、縮小画像に基づいて生成した縮小白とび検出マップ[Wp]354をメモリ303へ格納する。メモリ303に格納された縮小白とび検出マップ[Wp]354は、次の画像フレームの画像補正処理の際に読み出されて補正パラメータとしての偽色度を算出する際に使用される。
縮小白とび検出マップ拡大部304は、メモリ303に格納された前フレームの縮小白とび検出マップ[Wp]を読み出して、撮像した画像と同じサイズに拡大する拡大処理を実行する。
ここで縮小画像に基づいて生成した縮小白とび検出マップ[Wp]354をメモリ303に格納し、格納データを直接拡大せず、次フレームの処理において使用する理由は、白とび検出部302における白とびの検出処理が時間を要する処理であり、同じフレームにおける白とび検出完了を待ってそれ以降の処理を行った場合、次のフレームの処理開始タイミングまでに全ての処理を終わらせることができなくなってしまうためである。
すなわち、nフレームにおける画像補正パラメータとしての偽色(PF)度の算出は、現フレーム(nフレーム)のデータと、前フレーム(n−1フレーム)のデータを用いて実行される。具体的には、
(a)すでにメモリ303に格納済みの前フレーム(n−1フレーム)の縮小白とび検出マップ[Wp]355'を読み出して、縮小白とび検出マップ拡大部304において拡大処理を実行して生成した白とび検出マップに基づいて、注目画素(x,y)と最近接白とび画素までの距離に対応する値としての距離値[Wi]356を取得し、取得した距離値[Wi]356に基づいて、白とび度計算部305で算出した白とび度[Wr]357と、
(b)現フレーム(nフレーム)の色差成分[C]353に基づいて、紫度計算部306で算出した紫度[Pr]358と、
上記の(a)前フレームデータに基づく白とび度[Wr]357と、(b)現フレームデータに基づく紫度[Pr]358とに基づいて、偽色度計算部307において偽色度[R]359を算出する。算出した偽色度[R]359を適用して補正処理部310において、現フレーム(nフレーム)の画像データに対する補正処理が実行される。
補正処理部310では、画素彩度削減処理部311において、入力画像351の色差成分[C]353を入力し、補正パラメータ(偽色度)算出部300から入力する偽色度[R]359に基づいて偽色(PF)画素部分の彩度削減処理を行い、彩度削減画像[Cs]361を画素色差成分ぼかし処理部312に出力する。画素色差成分ぼかし処理部312は、彩度削減画像[Cs]361における色差成分に対してBlurを掛ける処理、すなわち、ぼかし処理を実行する。ぼかし処理については全ての画素について実行するのではなく、彩度削減処理の実行された画素を含む領域が処理対象として選択されぼかし処理が実行される。画素色差成分ぼかし処理部312は、この処理対象領域の選択のために偽色度[R]359を入力し、偽色度[R]359≠0の画素を選択し、ぼかし処理の処理対象領域を決定してぼかし処理を行なう。
画素色差成分ぼかし処理部312は、ぼかし処理を実行して、補正結果としての補正色差成分画像[Ctemp]362を生成し出力する。補正色差成分画像[Ctemp]362は、輝度成分[Y]365と合成されて、最終的な[YCbCr出力画像]371として出力される。この補正処理の結果としての出力[YCbCr出力画像]371が画像処理装置内のメモリに格納され、またモニタ手段などの出力部に出力される。
図4を参照して、補正パラメータ(偽色度)算出部300の各処理部において実行する処理タイミングについて説明する。図4は、図4下部に示す矢印に示すように、時間軸(t)に沿って左から右に時間が経過することを示している。
時間t1〜t3では、フレーム(n)に対する処理、時間t4〜t6ではフレーム(n+1)に対する処理が実行されることを示している。例えば、時間t1では、入力画像として撮影画像フレーム(n)381を入力し、縮小画像生成部301におけるフレーム(n)の画像縮小処理と、縮小白とび検出マップ拡大部304において、メモリ303から読み出した前フレームであるフレーム(n−1)の縮小白とび検出マップに対する拡大処理が並列して実行される。
次に、時間t2では、紫度計算部306におけるフレーム(n)のデータに基づく紫度算出と、白とび検出部302におけるフレーム(n)の縮小データに基づく白とび検出処理、さらに、白とび度計算部305におけるフレーム(n−1)のデータに基づく白とび度計算処理が実行される。
次の時間t3では、偽色度計算部307において、フレーム(n−1)のデータに基づいて算出された白とび度と、フレーム(n)のデータに基づいて算出された紫度とに基づいて、偽色度が算出され、その後、算出された偽色度が補正処理部に出力され、補正処理部における画素彩度削減処理部311において、フレーム(n)のデータに対する画素彩度削減処理が実行され、その後、図示していないが、画素色差成分ぼかし処理部312において、フレーム(n)のデータに対するぼかし処理が実行される。
時間t4〜t6ではフレーム(n+1)に対して、同様のシーケンスで処理が実行される。時間t4では、入力画像として撮影画像フレーム(n+1)382を入力し、縮小画像生成部301におけるフレーム(n+1)の画像縮小処理と、縮小白とび検出マップ拡大部304において、メモリ303から読み出した前フレームであるフレーム(n)の縮小白とび検出マップに対する拡大処理が並列して実行される。
次に、時間t5では、紫度計算部306におけるフレーム(n+1)のデータに基づく紫度算出と、白とび検出部302におけるフレーム(n+1)の縮小データに基づく白とび検出処理、さらに、白とび度計算部305におけるフレーム(n)のデータに基づく白とび度計算処理が実行される。
次の時間t6では、偽色度計算部307において、フレーム(n)のデータに基づいて算出された白とび度と、フレーム(n+1)のデータに基づいて算出された紫度とに基づいて、偽色度が算出され、その後、算出された偽色度が補正処理部に出力され、補正処理部における画素彩度削減処理部311において、フレーム(n+1)のデータに対する画素彩度削減処理が実行され、その後、図示していないが、画素色差成分ぼかし処理部312において、フレーム(n+1)のデータに対するぼかし処理が実行される。なお、時間t1〜t6は、処理シーケンスを説明するために設定した時間であり、明確な処理時間の間隔に必ずしも対応しているものではない。
図4に示すように、各処理部での処理を並列に実行し、また前フレームのデータを活用した処理を実行することにより、各画像フレームに対応する補正パラメータ(偽色度)算出処理を短時間で効率的に行なうことが可能となり、撮影データとして入力するフレームデータの補正を、撮影速度に遅れることなく実行でき、リアルタイムでの画像処理が実現される。
図5に、上述した偽色(PF)補正処理手段206の実行する一連の処理の処理手順を説明するフローチャートを示す。ステップS101〜S107の処理は、補正パラメータ(偽色度)算出部300の処理に相当し、ステップS108〜S109の処理は、補正処理部310の処理に相当する。ステップS101〜S103の処理と、ステップS104〜S105の処理、およびステップS106の処理は並列に実行することが可能である。また、ステップS101〜S103の処理およびステップS106の処理は、現フレーム(n)に対する処理として実行され、ステップS104〜S105の処理は、前レーム(n−1)に対する処理として実行される。
ステップS101は、補正パラメータ(偽色度)算出部300の縮小画像生成部301における画像縮小処理による[縮小画像Yp]354の生成処理、ステップS102は、白とび検出部302における[縮小画像Yp]354に基づく白とび検出処理による宿所白とび検出マップ[Wp]355の生成処理、ステップS103は、縮小白とび検出マップ[Wp]355のメモリ303に対する格納処理である。これらの処理は、入力現フレームに対する処理として実行される。
ステップS104は、縮小白とび検出マップ拡大部304における処理であり、メモリ303から読み出した前フレームの縮小白とび検出マップ[Wp']355を拡大し、注目画素(x,y)から最も近い白とび画素までの距離に対応する距離値[Wi]を算出する処理である。ステップS105は、白とび度計算部305の処理であり、前フレーム拡大データから算出した距離値[Wi]に基づいて、白とび度[Wr]を算出する処理である。これらの処理は、前フレームに対する処理として実行される。
ステップS106は、紫度計算部306における処理であり、現フレームの色差成分[C]353に基づいて、紫度計算部306で紫度[Pr]358を算出する。
ステップS107は、偽色度計算部307において実行する偽色度[R]359算出処理であり、ステップS104〜S105において、算出した前フレームデータに基づく白とび度[Wr]357と、ステップS106において算出した現フレームデータに基づく紫度[Pr]358とに基づいて偽色度[R]359を算出する。
ステップS108は、補正処理部310の画素彩度削減処理部311における偽色(PF)画素彩度削減処理、ステップS109は、画素色差成分ぼかし処理部312における偽色(PF)画素色差成分ぼかし処理である。以上の処理ステップが実行されて、最終的な補正画像データであるYCbCr出力画像371が生成、出力される。
以下、偽色(PF)補正処理手段206の各構成部の処理の詳細について説明する。なお、本実施例において、処理対象とする画像データは、画像の横幅=width、画像の縦幅=heightの画像フレームデータであり、縮小画像生成部301における画像縮小処理によって生成する[縮小画像Yp]354は、画像の横幅=swidth、画像の縦幅=sheightの縮小画像データであるとする。
まず、補正パラメータ(偽色度)算出部300の処理について説明する。前述したように、補正パラメータ(偽色度)算出部300では、現フレームデータと前フレームデータとに基づいて補正パラメータ(偽色(PF)度)を算出する。本実施例では、白とび画素から近い位置にあり、紫色である画素を偽色(PF:パープルフリンジ)画素であると推定する。従って偽色(PF)度は、白とび画素からの距離が近く、紫色に近いものほど高くなる。
縮小画像生成部301
補正パラメータ(偽色度)算出部300の縮小画像生成部301は、輝度成分[Y]352の縮小処理を実行する。輝度成分[Y]352は、YCbCr入力画像351の輝度成分情報のみを抽出したデータであり、フレーム画像データの構成画素各々の輝度[Y]情報のみから構成されるデータである。縮小画像生成部301は、この輝度成分画像の縮小処理を実行して、[縮小画像Yp]354を生成し、白とび検出部302に出力する。
図6に縮小画像生成部301の実行する処理手順を説明するフローチャートを示す。フローチャートに従って縮小画像生成部301の実行する処理について説明する。図6に示すフローは、図5のフローチャートのステップS101の処理に対応する処理である。
なお、図6に示す処理フロー中、ステップS201〜S204の処理は、処理対象画像データである画像、すなわち、画像の横幅=width、画像の縦幅=heightの画像フレームデータの解析処理であり、ステップS211〜S213の処理は、縮小ガゾウデータ、すなわち画像の横幅=swidth、画像の縦幅=sheightの縮小画像データの生成処理である。
図6において、ステップS201〜S204の処理部分には、2つの枠を示し、
外枠に、For(y=0;y<height;y=y+1)と示し、
内枠に、For(x=0;x<width;x=x+1)として示してあるが、
ステップS201〜S204を示す内枠は、
For(x=0;x<width;x=x+1)
に対する処理、すなわち画像データの1つのスキャンラインであるx軸に沿った処理として実行され、x軸に沿って0〜widthの各画素毎にステップS201〜S204の処理を実行することを意味している。1つのスキャンラインが終了すると、次のスキャンラインの処理が同様に実行される。これは、外枠に示すように、
For(y=0;y<height;y=y+1)
に対する処理として実行され、スキャンラインに垂直なy軸に沿って、1つずつスキャンラインを移動させて、For(x=0;x<width;x=x+1)の処理、すなわち、x軸に沿って0〜widthの各画素毎にステップS201〜S204の処理を実行することを意味している。結果として、画像フレームにおける(x=0〜width,y=0〜height)の全構成画素について、順次ステップS201〜S204の処理が実行されることになる。
同様に、ステップS211〜S213の処理部分には、2つの枠を示し、
外枠に、For(t=0;t<sheight;t=t+1)と示し、
内枠に、For(s=0;s<swidth;s=s+1)として示してあるが、
ステップS211〜S213を示す内枠は、
For(s=0;s<swidth;s=s+1)
に対する処理、すなわち縮小画像データの1つのスキャンラインであるs軸に沿った処理として実行され、s軸に沿って0〜swidthの各画素毎にステップS211〜S213の処理を実行することを意味している。1つのスキャンラインが終了すると、次のスキャンラインの処理が同様に実行される。これは、外枠に示すように、
For(t=0;t<sheight;t=y+1)
に対する処理として実行され、スキャンラインに垂直なt軸に沿って、1つずつスキャンラインを移動させて、For(s=0;s<swidth;s=s+1)の処理、すなわち、s軸に沿って0〜swidthの各画素毎にステップS211〜S213の処理を実行することを意味している。結果として、縮小画像における(s=0〜swidth,t=0〜theight)の全構成画素について、順次ステップS211〜S213の処理が実行されることになる。
図6のフローに示す各ステップの処理について説明する。ステップS201において、画像の横幅=width、画像の縦幅=heightの画像フレームデータの構成画素(x,y)を1つ選択し、選択画素の輝度Y(x,y)を取得する。なお、図3を参照して説明したように、縮小画像生成部301は、YCbCr入力画像データ351に基づく輝度成分[Y]352を入力して処理を行なう。
ステップS202、S203では、縮小画像の座標位置(j,k)を設定する処理を実行する。ステップS202,S203に示す[blockwidth]、[blockheight]は、縮小画像の1画素に対応するオリジナル画像の横画素数と縦画素数に対応する。すなわち、
[blockwidth]=オリジナル画像の横画素数
[blockheight]=オリジナル画像の縦画素数
であり、この[blockwidth]×[blockheight]のオリジナル画像の画素に基づいて、縮小画像の1画素の輝度が決定する。
オリジナル画像と縮小画像の対応について図7を参照して説明する。図7には、縮小処理を施すオリジナル画像410と、縮小処理によって生成される縮小画像420を示している。オリジナル画像410はwidth×heightであり、これを縮小してswidth×sheightの縮小画像420を生成する。オリジナル画像410に基づいて縮小画像420を生成する処理において、縮小画像410の構成画素の輝度を順次算出する処理が図6に示す処理フローにおいて実行する処理である。
図7において、オリジナル画像410の部分画像データ411は、[blockwidth]×[blockheight]の画像データであり、この部分画像データ411を構成する画素、例えば図に示す画素412他の部分画像データ411を構成する複数画素の輝度値に基づいて、縮小画像420の1つの画素(s,t)421の輝度Yp(s,t)を決定する。
図6のステップS202、S203の処理は、オリジナル画像における注目画素(x,y)の、縮小画像の対応画素位置(j,k)を算出する処理である。ステップS204の処理[Yp(j,k)+=value]は、縮小画像の画素位置(j,k)に対応する輝度値Yp(j,k)を、オリジナル画像の画素領域、すなわち、図7における部分画像データ411の各画素の輝度を加算した値に設定する処理である。
ステップS201〜S204の処理によって、縮小画像の1つの画素(j,k)に対応する輝度値データ[Yp(j,k)+]として、オリジナル画像の画素領域、すなわち、図7における部分画像データ411の構成画素の輝度値の積算値が算出される。
ステップS211〜S213は、縮小画像の構成画素(s,t)について、順次、輝度値Yp(s,t)を設定する処理である。まず、ステップS211において、縮小画像の構成画素(s,t)の輝度値をステップS204で算出した[value]、すなわち縮小画像の1つの画素に対応する輝度値データ[Yp(s,t)+]として、オリジナル画像の画素領域、すなわち、図7における部分画像データ411の構成画素の輝度値積算値を設定する。
次に、ステップS212において、以下の式に従って、値[value]の更新を実行する。
value=value/(blockwidth×blockheight)
上記式は、縮小画像の1つの画素に対応するオリジナル画像データの部分画像、すなわち、図7の例における部分画像データ411の構成画素の画素数で、ステップS204で算出した積算値データ[Yp(s,t)+]を除算する処理である。すなわち、縮小画像の1つの画素に対応するオリジナル画像データの部分画像の構成画素の輝度値の平均値を[value]の新たな値として設定する。
次に、ステップS213において、ステップS212で算出した縮小画像の1つの画素(s,t)に対応するオリジナル画像データの部分画像の構成画素の輝度値の平均値を縮小画像の画素(s,t)に対応する輝度Yp(s,t)として決定する。これらの処理を縮小画像の構成画素、すべてについて実行し、縮小画像(swidth×sheight)の全構成画素(s=0〜swidth,t=0〜sheight)の輝度値Yp(s,t)を決定する。
上述の処理が、図3に示す補正パラメータ(偽色度)算出部300の縮小画像生成部301における画像縮小処理であり、この処理によって[縮小画像Yp]354が生成される。上述した説明から明らかなように、[縮小画像Yp]354は、縮小画像(swidth×sheight)の全構成画素(s=0〜swidth,t=0〜sheight)についての輝度値Yp(s,t)データのみからなるデータである。縮小画像生成部301は、このように、輝度成分画像の縮小処理を実行して、[縮小画像Yp]354を生成し、白とび検出部302に出力する。
白とび検出部302
次に、図3に示す補正パラメータ(偽色度)算出部300の白とび検出部302の実行する処理の詳細について説明する。白とび検出部302は、[縮小画像Yp]354に基づいて、縮小画像における輝度レベルがほぼ飽和レベルである白とび画素の検出、すなわち白とび検出処理を行い、縮小白とび検出マップ[Wp]354を出力する。縮小白とび検出マップ[Wp]354は、縮小画像における構成画素が白とび画素であるか否かを示すフラグが各画素毎に設定されたマップである。白とび検出部302は、縮小画像に基づいて生成した縮小白とび検出マップ[Wp]354をメモリ303へ格納する。
図8に白とび検出部302の実行する処理手順を説明するフローチャートを示す。フローチャートに従って白とび検出部302の実行する処理について説明する。図8に示すフローは、図5のフローチャートのステップS102の処理に対応する処理である。
図8に示す処理フローは、2つの枠を示し、
外枠に、For(y=0;y<sheight;y=y+1)と示し、
内枠に、For(x=0;x<swidth;x=x+1)として示してある。
これは、ステップS301〜S305の処理を、縮小画像生成部301の生成した[縮小画像Yp]354(swidth×sheight)の全構成画素(s=0〜swidth,t=0〜sheight)について、順次実行することを意味している。
各ステップの処理について説明する。ステップS301において、白とび検出部302は、[縮小画像Yp]354の構成画素から選択された注目画素(x,y)の輝度値Yp(x,y)を取得する。注目画素は画素(x,y)であり、注目画素(x,y)の輝度値をYp(x,y)とする。ステップS302において、注目画素の輝度値Yp(x,y)と、予め設定した閾値と比較する。
白とび画素は、画素の輝度レベルがほぼ飽和レベルである画素であり、閾値は、白とび画素として判定する輝度レベルに相当する値が設定される。ステップS303〜S305では、注目画素(x,y)の輝度値Yp(x,y)=valueが閾値よりも大きければ、注目画素(x,y)のフラグ(flag)=[true]、そうでなければフラグ(flag)=[false]とし、白とび検出マップ[Wp(x,y)]354を設定する。これを横幅=width、縦幅=heightの画像を構成する全ての画素(x=0〜width,y=0〜height)について判定し、各画素対応のフラグ(trueまたはfalse)を設定した縮小白とび検出マップ[Wp(x,y)]354を完成させて、メモリ303へ格納する。
この処理によって、メモリ303に格納された縮小白とび検出マップ[Wp(x,y)]354は、次の画像フレームの処理、すなわち次のフレームに対応する補正パラメータとしての偽色度算出処理において利用される。
縮小白とび検出マップ拡大部304
次に、縮小白とび検出マップ拡大部304の処理の詳細について説明する。縮小白とび検出マップ拡大部304は、メモリ303に格納された前フレームの縮小白とび検出マップ[Wp]を読み出して、撮像した画像と同じサイズに拡大する拡大処理を実行する。さらに、拡大処理を実行して生成した白とび検出マップから注目画素(x,y)と最近接白とび画素までの距離に対応する値としての距離値[Wi]356を取得し、取得した距離値[Wi]356を白とび度計算部305に出力する。
図9に縮小白とび検出マップ拡大部304の実行する処理手順を説明するフローチャートを示す。フローチャートに従って縮小白とび検出マップ拡大部304の実行する処理について説明する。図9に示すフローは、図5のフローチャートのステップS104の処理に対応する処理である。
図9に示す処理フローにも、2つの枠が示され、
外枠に、For(y=0;y<height;y=y+1)と示し、
内枠に、For(x=0;x<width;x=x+1)として示してある。
これは、ステップS401〜S404の処理を、オリジナル画像と同一の大きさを持つ拡大画像(width×height)の全構成画素(x=0〜width,y=0〜height)について、順次実行することを意味している。
各ステップの処理について説明する。ステップS401、S402の処理は、オリジナル画像と同一の大きさを持つ拡大処理画像の1つの画素(x,y)の、縮小画像の対応画素位置(j,k)を算出する処理である。次に、ステップS403において、拡大補間において必要な縮小画像の対応画素(j,k)の画素情報を取得する。なお、ここでは縮小画像は、輝度情報のみを有しており、対応画素の輝度情報Wp(j,k)を取得する。ステップS403では、取得した縮小画像の画素情報、すなわち対応画素(j,k)の輝度情報Wp(j,k)をAとおく。
次に、ステップS404において、取得した輝度情報Wp(j,k)=Aに基づいて、縮小画像の対応画素位置(j,k)に対応するオリジナル画像と同一の大きさを持つ画像の対応領域に含まれる複数画素の輝度値を補間値Wi(x,y)として算出する。ステップS404では、補間値Wi=Bicubic(A)として示してあるが、これは、縮小画像における1つの対応画素の輝度情報Wp(j,k)=Aに基づいて、双三次補間処理を実行して、拡大処理画像における各画素の画素値としての補間値(輝度値)を設定する処理を行なうことを意味している。
図10を参照して、双三次補間処理について説明する。拡大補間に双三次補間を使用する場合、縮小画像で対応する画素位置の周囲16点を拡大補間に必要とする。画像データ450は、縮小白とび検出マップ拡大部304において、メモリ303に格納された前フレームの縮小白とび検出マップ[Wp]であり、サイズ(swidth×sheight)を持つ。これを元に拡大画像データ、すなわちオリジナル画像データと同様のサイズ(width×height)を持つ画像データを生成する。
画像データ450の各矩形領域、例えば領域452が縮小画像における1画素である。この各画素には輝度値Yp(s,t)が設定されている。また、図に示す点q451は、拡大した画像データにおける1画素を示す。この点q451の画素値(輝度値)を補間処理により算出する。
点q451の含まれる拡大画像の領域は、縮小画像における画素A[1,1]に対応する。双三次補間処理では、例えば、点q451の画素値(輝度値)を決定するのに、縮小画像における画素A[1,1]を含む複数画素、すなわち、A[0,0]〜A[3,3]の16画素の画素情報(輝度値)を適用する。拡大画像の画素値、すなわちここでは輝度値に対応する補間値は、以下の式(式1)によって算出する。
Figure 0004539299
・・・(式1)
上記式において、A[i,j]は、縮小画像における16画素、すなわち、A[0,0]〜A[3,3]の画素値(輝度値)であり、k[j],k[i]は、以下の算出式によって算出される値である。
Figure 0004539299
ただし、
sは、点qから画素[i,j]までのx方向の距離、
tは、点sから画素[i,j]までのy方向の距離、
である。
縮小白とび検出マップ拡大部304は、上記式(式1)によって算出される補間値Wi(x,y)を白とびまでの近さをあらわす値としての距離値[Wi]として、距離値[Wi]356を白とび度計算部305に出力する。なお、本実施例では、本実施例では双三次補間を使用しているが、滑らかに拡大を行うことができれば、他の補間方法であっても構わない。
白とび度計算部305
次に、白とび度計算部305の処理の詳細について説明する。白とび度計算部305は、注目画素と注目画素に最も近接した最寄の白とび画素との距離情報として、縮小白とび検出マップ拡大部304から入力する距離値[Wi]356を入力として白とび度計算処理を行い、白とび度[Wr]357を算出して偽色度計算部307に出力する。
白とび度計算部305は、注目画素(x,y)と白とび画素との距離に対応する距離値[Wi]356を入力し、入力距離値[Wi]に基づいてルックアップテーブル(LUT)を適用したデータ変換を行い、白とび度[Wr]357を算出して偽色度計算部307に出力する。図5のフローチャートのステップS105の処理に対応する処理である。白とび度計算部305の適用するルックアップテーブル(LUT)をグラフ化した例を図11に示す。
図11は、横軸が、縮小白とび検出マップ拡大部304から入力する最寄の白とび画素との距離[Wi]データであり、縦軸が、偽色度計算部307に出力する白とび度[Wr]を示す。距離[Wi]データと白とび度[Wr]は1対1に対応しており、白とび度計算部305は白とびからの距離・方向ベクトル計算部302から入力する最寄の白とび画素との距離[Wi]データに基づいて、対応する白とび度[Wr]の値を取得して偽色度計算部307に出力する。例えば、図11に示すルックアップテーブル(LUT)を適用した場合、
白とび画素との距離[Wi]=0の場合、白とび度[Wr]=0
白とび画素との距離[Wi]=025の場合、白とび度[Wr]=0.5
白とび画素との距離[Wi]=0.5の場合、白とび度[Wr]=0.65
白とび画素との距離[Wi]=1.0の場合、白とび度[Wr]=1.0
の白とび度[Wr]の各値を取得して、偽色度計算部307に出力する。
この処理は、各画素毎に実行され、各画素対応の白とび度[Wr]が算出されて偽色度計算部307に出力される。なお、図11に示すルックアップテーブル(LUT)は一例であり、これは偽色(PF)の発生態様を考慮して設定されたもので、特にこの形に限定されるものではない。
紫度計算部306
次に、図3に示す紫度計算部306の処理の詳細について説明する。紫度計算部306は、図3に示すように、入力画像351の色差成分[C]353を入力し、色差成分[C]353に基づく紫度[Pr]358を算出し、算出した紫度[Pr]358を偽色度計算部307に出力する処理を実行する。紫度計算部306の処理について説明する。
紫度計算部306において処理を実行する注目画素(x,y)の色差成分[C]データを(Cr,Cb)とする。本実施例では、YCbCr色空間に展開したデータに対して処理を実行する例であり、色情報としてはCbCr色差平面において、各画素の色情報が定義される。紫度計算部306は、注目画素(x,y)の色差データ(Cb,Cr)を入力として、偽色(PF)の色相への近さ情報としての紫度[Pr(x,y)]を各注目画素毎に算出して偽色度計算部307に出力する。
紫度[Pr(x,y)]は、0.0〜1.0の値で表され、Pr=0.0は、偽色(PF)色相から遠い色であることを表し、Pr=1.0は、最も偽色(PF)色相に近い色であることを表す。
図12を用いて、CbCr色差平面における偽色(PF)色相と、紫度[Pr]の設定例について説明する。図12に示すグラフは、CbCr色差平面を示し、図中のライン601(Fθ)は、CbCr色差平面における偽色(PF)の色相に対応する偽色(PF)色相ライン601である。典型的なパープルフリンジは、この偽色(PF)色相ライン601上の色相を持つ。
図中のライン602は、一例として示す注目画素(x,y)の色相に対応する注目画素色相ライン602である。注目画素色相ライン602が、偽色(PF)色相ライン601に近いほど、注目画素(x,y)の色相は偽色(PF)色相に近い色相であり、注目画素色相ライン602が、偽色(PF)色相ライン601から遠いほど、注目画素(x,y)の色相は偽色(PF)色相から遠い色相である。
図中のライン611,612は、偽色(PF)色相ライン601から角度:θmax回転させた色相ラインであり、紫度[Pr]0ライン611,612である。θmaxは予設定される角度であり、例えば30°に設定される。紫度[Pr]0ライン611,612から、偽色(PF)色相ライン601に近づくほど、紫度[Pr]の値は大きくなり、偽色(PF)色相ライン601上で、紫度[Pr]は1となる。すなわち、注目画素色相ライン602が、紫度[Pr]0ライン611,612の間にある場合、注目画素(x,y)の紫度[Pr]は0〜1の間に設定される。注目画素色相ライン602が、紫度[Pr]0ライン611,612の間にない場合、注目画素(x,y)の紫度[Pr]は0に設定される。
注目画素(x,y)紫度[Pr(x,y)]は、以下の算出式によって求められる。
Figure 0004539299
・・・(式2)
上記式において、
θ:CbCr平面において、軸Cbと偽色(PF)色相ラインとのなす角
θ(x,y):CbCr平面において、軸Cbと注目画素色相ラインとのなす角
θmax:CbCr平面において、偽色(PF)色相ラインと紫度[Pr]0ラインのなす角、予設定される角度であり、例えば30°に設定される
このように、紫度計算部306は、入力画像351の色差成分[C]353を入力し、色差成分[C]353に基づく紫度[Pr]358を、上記算出式(式2)に従って算出し、算出した紫度[Pr]358を偽色度計算部307に出力する処理を実行する。
偽色度計算部307
次に、偽色度計算部307の処理の詳細について説明する。偽色度計算部307は、図3に示すように、紫度計算部306から入力する紫度[Pr]358と、白とび度計算部305から入力する白とび度[Wr]356とに基づいて、偽色度[R]358を算出し、算出した偽色度[R]358を補正処理部310の各処理部、すなわち、画素彩度削減処理部311、画素色差成分ぼかし処理部312に出力する。
偽色度計算部307は、以下の算出式に従って、注目画素(x,y)の偽色度[PFr(x,y)]を、注目画素(x,y)の紫度[Pr(x,y)]と、注目画素(x,y)の白とび度[Wr(x,y)]とに基づいて算出する。
PFr(x,y)=Pr(x,y)×Wr(x,y) ・・・(式3)
上記式(式3)は、注目画素(x,y)の偽色度[PFr(x,y)]を、注目画素(x,y)の紫度[Pr(x,y)]と、注目画素(x,y)の白とび度[Wr(x,y)]との乗算によって算出することを示している。
上記式(式3)において、紫度[Pr(x,y)]は0〜1の値であり、白とび度[Wr(x,y)]も0〜1の値であるので、偽色度[PFr(x,y)]も0〜1の範囲で設定されることになる。偽色度[R]=1.0が偽色度が最も高い、すなわち注目画素が偽色(PF)である可能性が最も高いことを示し、偽色度[R]=0.0が偽色度が最も低い、すなわち注目画素が偽色(PF)である可能性が最も低いことを示す。
以上の処理が、図3に示す補正パラメータ(偽色度)算出部300の処理の詳細であり、この処理によって、注目画素(x,y)に対応する偽色度R(x,y)が設定されて、補正処理部310の、画素彩度削減処理部311画素色差成分ぼかし処理部312において、偽色度R(x,y)を適用した画素値補正処理が実行される。
以下、補正処理部310の画素彩度削減処理部311画素色差成分ぼかし処理部312において実行する処理の詳細について、順次説明する。
画素彩度削減処理部311
画素彩度削減処理部311は、図3に示すように、入力画像351の色差成分[C]353を入力し、補正パラメータ(偽色度)算出部300から入力する偽色度[R]359に基づいて偽色(PF)画素部分の彩度削減処理を行い、偽色(PF)部分彩度削減結果画像[Cs]361を画素色差成分ぼかし処理部312に出力する。
画素彩度削減処理部311の具体的な処理について説明する。画素彩度削減処理部311は、入力画像351の色差成分[C]353に基づいて取得される注目画素(x,y)のCrCb各成分のオリジナル彩度C(x,y)CrとC(x,y)Cbと、補正パラメータ(偽色度)算出部300から入力する注目画素(x,y)偽色度[R(x,y)]とに基づいて、下式(式4)に従って、彩度削減後の注目画素(x,y)のCrCb各成分の削減彩度Cs(x,y)CrとCs(x,y)Cbを算出する。
Cs(x,y)Cr=C(x,y)Cr×{1.0−R(x,y)}
Cs(x,y)Cb=C(x,y)Cb×{1.0−R(x,y)}
・・・(式4)
上記式(式4)において、注目画素(x,y)の偽色度[R(x,y)]は0〜1の範囲の値であり、注目画素(x,y)の偽色度が高いほど1に近い値をとる。上記式において、
{1.0−R(x,y)}
は、注目画素(x,y)の偽色度が高いほど値が小さく0に近くなり、上記式(式4)は、オリジナル彩度C(x,y)に対して、{1.0−R(x,y)}の値を乗算する処理であるので、注目画素(x,y)の偽色度が高いほど彩度の削減される度合いが高くなる。
すなわち、上記式(式4)は、注目画素(x,y)の偽色度が高い(1に近い)ほど、彩度を落とし、注目画素(x,y)の偽色度が低い(0に近い)ほど、彩度の落としかたを弱める処理を実行することを意味している。画素彩度削減処理部311は、上記処理によって生成した彩度削減結果画像[Cs]361を画素色差成分ぼかし処理部312に出力する。
画素色差成分ぼかし処理部312
次に、画素色差成分ぼかし処理部312の処理について説明する。画素色差成分ぼかし処理部312は、画素彩度削減処理部311から入力する彩度削減結果画像[Cs]361における色差成分に対してBlurを掛ける処理、すなわち、ぼかし処理を実行する。画素色差成分ぼかし処理部312は、彩度削減処理を施した画素と周囲画素の色相の差分を減少させる処理を実行する。
なお、画素色差成分ぼかし処理部312において実行するぼかし処理は全ての画素について行なうのではなく、彩度削減処理の実行された画素を含む画素領域が処理対象として選択されぼかし処理が実行される。画素色差成分ぼかし処理部312は、この処理対象領域の選択のために偽色度[R]359を入力し、偽色度[R]359≠0の画素を選択し、ぼかし処理の処理対象領域を決定してぼかし処理を行なう。画素色差成分ぼかし処理部312の処理の詳細について、図13に示す処理フローを参照して説明する。なお、図13に示す処理フローは、図5のフローチャートのステップS109の偽色(PF)画素色差成分ぼかし処理の詳細処理に対応する。
画素色差成分ぼかし処理部312における処理は、彩度補正を行った部分の彩度変化を平滑にすると共に、彩度を落とした部分と、そうでない通常画素部分の境界部をなじませるためにBlur(ぼかし)を掛ける処理である。このBlur処理に関しても、処理の軽量化および回路規模の削減の観点から、注目画素の左右に存在するスキャンラインに沿った画素の画素情報のみを用いて処理を行う。
なお、図13に示す処理フローも、前述の他のフローと同様、2つの枠、すなわち、For(y=0;y<height;y=y+1)と示す外枠と、For(x=0;x<width;x=x+1)として示す内枠とを有し、処理対象画像フレームにおける(x=0〜width,y=0〜height)の構成画素について、順次各ステップの処理が実行される。ただし、画素色差成分ぼかし処理部312は、偽色度[R]≠0の画素を選択し、ぼかし処理の処理対象領域を決定してぼかし処理を行なう。従って、ステップS501の前段階として、入力画素が、偽色度[R]≠0の画素であるか否かを判定した後、偽色度[R]≠0の画素である場合にのみ、これを注目画素(x,y)として選択して、ステップS501以下の処理を実行することになる。
図13に示すフローチャートの各ステップの処理について説明する。ステップS501は初期設定であり、注目画素(x,y)に対して、ぼかし処理を実行するか否かを示すフラグ[flag]である[execBlur]=falseとして、ぼかしをかけない設定のフラグに初期設定する。
その後、ステップS502では、注目画素(x,y)周辺の取得可能な参照画素の画素情報として、周辺画素(s,y)の偽色度R(s,y)を取得し、周辺画素(s,y)の偽色度R(s,y)が0より大の画素が検出された場合(ステップS503:Yes)に、ステップS504において、ぼかし処理を実行するか否かを示すフラグ[flag]である[execBlur]=trueとして、ぼかしを実行する設定のフラグに更新する。なお、注目画素の近傍領域から取得可能な参照画素情報は、スキャンラインに沿って注目画素に近接する画素の画素情報である。例えば、注目画素を中心として、左右j(例えばj=7)画素を探索範囲として画素情報[偽色度R(s,y)]を取得して、ステップS502(S503〜S504)の処理を実行する。
次に、ステップS505において、フラグ[execBlur]が[true]に設定されていると判定した場合は、ステップS507に進み、注目画素(x,y)を中心にぼかし(Blur)フィルタを掛ける処理を実行する。ぼかし(Blur)フィルタによる注目画素(x,y)のぼかし処理後の色成分[Blur(Cs(x,y))]は、以下の式(式5)で算出される。
Figure 0004539299
・・・(式5)
上記式に従って、注目画素(x,y)のCr,Cbに対して行い、それぞれのぼかし処理後の色成分[Blur(Cs(x,y))]を算出する。なお、上記式において、
Cs(x,y)は、注目画素(x,y)の彩度削減後の色成分[Cs(x,y)]
Cs(x+i,y)、Cs(x−i,y)は、注目画素(x,y)のスキャンライン上の±i画素移動した画素における彩度削減後の色成分[Cs]
を示している。
上記式では、注目画素の±7画素の色成分を適用したぼかし処理を実行した例である。なお、ぼかし処理の態様は、上記式(式5)を適用したものに限定されるものではなく、彩度を落とした部分と、そうでない通常画素部分の境界部をなじませる効果のある処理であれば、その他の態様によるぼかし処理でもよい。
画素色差成分ぼかし処理部312では、上述の処理を実行して、図3に示すように、補正結果としての補正色差成分画像[Ctemp]362を生成し出力する。補正色差成分画像[Ctemp]362は、輝度成分[Y]365と合成されて、最終的なYCbCr出力画像371として出力される。この補正処理の結果としての出力YCbCr出力画像371が画像処理装置内のメモリに格納され、またモニタ手段などの出力部に出力される。
なお、上述した実施例の処理はYcbCr色空間を適用した処理として説明したが、その他の色空間、例えばCIEL*a*b*空間など、輝度情報と色相情報とが分かれている情報であれば、上述した本発明に従った処理が適用可能である。
上述した本発明の処理により、時間の要する白とび検出処理を縮小画像に基づいて実行することで処理時間を短縮することが可能となり、また、偽色度算出に適用する紫度を現フレームに基づいて取得し、白とび度を前フレームに基づいて取得する構成とすることで、処理時間の遅延を防止することが可能となり、所定のフレームレートで入力する動画像データをリアルタイムで補正することが可能であり、パープルフリンジ等の偽色の彩度削減処理およびぼかし処理により高品質な補正画像データを生成することができる。
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウエアとして提供することができる。
なお、プログラムは、上述したようなリムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトから、コンピュータに無線転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本発明の構成によれば、処理画像の構成画素の補正パラメータとして、各画素に対応する偽色度を算出し、算出した偽色度に基づいて各画素の彩度削減処理を実行する構成とし、補正パラメータとしての偽色度の算出処理においては、縮小画像を生成し、時間の要する白とび検出処理を縮小画像に基づいて実行する構成としたので、計算量の削減により処理時間の短縮が可能となる。また、偽色度算出に適用する紫度を現フレーム(n)に基づいて取得し、白とび度を前フレーム(n−1)に基づいて取得する構成としたので、処理時間の遅延の防止が可能となり、所定のフレームレートで入力する動画像データのリアルタイムでの補正処理が可能となり、パープルフリンジ等の偽色の彩度削減処理およびぼかし処理を実行することで高品質な補正画像データの高速生成処理が実現される。
さらに、本発明の構成によれば、補正パラメータとしての偽色度の算出において、注目画素の色相が偽色色相と類似し、白とび画素からの距離が近いほど、大きな値の偽色度を算出する構成とし、画素彩度削減処理においては、この偽色度に基づいて各画素の彩度削減処理を実行する構成としたので、偽色度のレベルに応じた最適な彩度削減処理が実現され、パープルフリンジ等の偽色画素の存在する画像データから偽色画素を効率的に抽出した補正手処理が可能となり、効率的な高品質補正画像データの生成が可能となる。
本発明の画像処理装置の構成を示す図である。 本発明の画像処理装置のデジタル信号処理部(DSP)の処理構成について説明する図である。 本発明の画像処理装置のデジタル信号処理部(DSP)の偽色(PF)補正処理手段の処理構成について説明する図である。 本発明の画像処理装置のデジタル信号処理部(DSP)の偽色(PF)補正処理手段の処理シーケンスについて説明する図である。 本発明の画像処理装置のデジタル信号処理部(DSP)の偽色(PF)補正処理手段の処理手順について説明するフロー図である。 偽色(PF)補正処理手段の実行する縮小画像生成処理の処理手順について説明するフロー図である。 偽色(PF)補正処理手段の実行する縮小画像生成処理の処理について説明する図である。 偽色(PF)補正処理手段の実行する白とび検出処理の処理手順について説明するフロー図である。 偽色(PF)補正処理手段の実行する白とび検出マップの拡大処理の処理手順について説明するフロー図である。 偽色(PF)補正処理手段の実行する白とび検出マップの拡大処理の処理について説明する図である。 白とび度計算部の適用するルックアップテーブル(LUT)について説明する図である。 CbCr色差平面における偽色(PF)色相と、紫度[Pr]の設定例について説明する図である。 画素色差成分ぼかし処理部の処理の詳細について説明するフロー図である。
符号の説明
101 レンズ
102 絞り
103 固体撮像素子
104 相関2重サンプリング回路
105 A/Dコンバータ
106 DSPブロック
107 タイミングジェネレータ
108 D/Aコンバータ
109 ビデオエンコーダ
110 ビデオモニタ
111 コーデック(CODEC)
112 メモリ
113 CPU
114 入力デバイス
201 ホワイトバランス調整手段
202 ガンマ補正処理手段
203 デモザイク処理手段
204 YcbCr変換手段
205 エッジ強調処理手段
206 偽色(PF)補正処理手段
251 モザイク画像データ
252 YCbCr画像
300 補正パラメータ(偽色度)算出部
301 縮小処理部
302 白とび検出部
303 メモリ
304 縮小白とび検出マップ拡大部
305 白とび度計算部
306 紫度計算部
307 偽色度計算部
310 補正処理部
311 画素彩度削減処理部
312 画素色差成分ぼかし処理部
351 YCbCr入力画像
371 YCbCr出力画像
381 撮影画像n
382 撮影画像n+1
410 オリジナル画像
411 部分画像データ
412 画素
420 縮小画像
421 画素
450 画像データ
451 点q
452 領域
601 偽色(PF)色相ライン
602 注目画素色相ライン
611,612 紫度[Pr]0ライン

Claims (13)

  1. 画像処理装置であり、
    処理画像の構成画素の補正パラメータとして、画素の偽色に対する類似性情報である画素対応の偽色度を算出する補正パラメータ算出部と、
    前記偽色度を適用して、処理画像の構成画素の彩度削減処理を含む画素値補正処理を実行する補正処理部とを有し、
    前記補正パラメータ算出部は、
    処理画像に基づく縮小画像データを生成する縮小画像生成部と、
    前記縮小画像生成部の生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行する白とび検出部と、
    処理画像から選択された注目画素の色相と偽色の色相との類似性情報としての紫度を算出する紫度計算部と、
    前記白とび検出部の検出する白とび検出情報を適用して前記注目画素の白とび画素からの距離情報としての白とび度を算出する白とび度計算部と、
    前記紫度および白とび度とに基づいて注目画素の偽色度を算出する偽色度算出部とを有する構成であることを特徴とする画像処理装置。
  2. 前記白とび検出部は、
    前記縮小画像生成部の生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行し、縮小画像における構成画素が白とび画素であるか否かを示すフラグ情報を持つ縮小白とび検出マップを生成しメモリに格納する構成であり、
    前記補正パラメータ算出部は、
    前記メモリに格納された縮小白とび検出マップの拡大処理を実行する白とびマップ拡大部を有し、
    前記白とび度計算部は、
    前記白とびマップ拡大部の拡大したマップに基づいて前記白とび度を算出する構成であることを特徴とする請求項に記載の画像処理装置。
  3. 前記白とび度計算部は、
    前記紫度計算部の処理対象画像フレームの前フレームに対する白とび検出処理の結果データとしてメモリに格納された白とび検出マップに基づいて白とび度を算出する構成であり、
    前記偽色度算出部は、
    フレームnの画像データに基づいて算出された紫度、およびフレームn−1の画像データに基づいて算出された白とび度とに基づいて注目画素の偽色度を算出する構成であることを特徴とする請求項に記載の画像処理装置。
  4. 前記補正パラメータ算出部は、
    (a)入力画像データに基づく縮小画像の生成および白とび検出処理、
    (b)入力画像データに基づく紫度の計算処理、
    (c)メモリに格納された前フレームの画像に基づく縮小白とび検出マップの拡大処理および該拡大結果としてのマップに基づく白とび度計算処理、
    上記(a),(b),(c)の各処理を並列に実行する構成であることを特徴とする請求項に記載の画像処理装置。
  5. 前記補正処理部は、
    前記補正パラメータ算出部の算出する偽色度に基づいて各画素の彩度削減処理を実行する画素彩度削減処理部と、
    画素彩度削減処理部の出力データに対して、彩度削減処理を施した画素と周囲画素の色相の差分を減少させるぼかし処理を実行するぼかし処理部を有する構成であることを特徴とする請求項1に記載の画像処理装置。
  6. 前記偽色はパープルフリンジであり、
    前記補正パラメータ算出部は、
    処理画像の構成画素の補正パラメータとして、画素のパープルフリンジに対する類似性情報である画素対応の偽色度を算出する構成であることを特徴とする請求項1乃至いずれかに記載の画像処理装置。
  7. 画像処理方法であり、
    処理画像の構成画素の補正パラメータとして、画素の偽色に対する類似性情報である画素対応の偽色度を算出する補正パラメータ算出ステップと、
    前記偽色度を適用して、処理画像の構成画素の彩度削減処理を含む画素値補正処理を実行する補正処理ステップとを有し、
    前記補正パラメータ算出ステップは、
    処理画像に基づく縮小画像データを生成する縮小画像生成ステップと、
    前記縮小画像生成ステップにおいて生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行する白とび検出ステップと、
    処理画像から選択された注目画素の色相と偽色の色相との類似性情報としての紫度を算出する紫度計算ステップと、
    前記白とび検出ステップにおいて検出した白とび検出情報を適用して前記注目画素の白とび画素からの距離情報としての白とび度を算出する白とび度計算ステップと、
    前記紫度および白とび度とに基づいて注目画素の偽色度を算出する偽色度算出ステップと、
    を有することを特徴とする画像処理方法。
  8. 前記白とび検出ステップは、
    前記縮小画像生成ステップにおいて生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行し、縮小画像における構成画素が白とび画素であるか否かを示すフラグ情報を持つ縮小白とび検出マップを生成しメモリに格納する処理を実行するステップであり、
    前記補正パラメータ算出ステップは、さらに、
    前記メモリに格納された縮小白とび検出マップの拡大処理を実行する白とびマップ拡大ステップを有し、
    前記白とび度計算ステップは、
    前記白とびマップ拡大ステップの拡大したマップに基づいて前記白とび度を算出するステップであることを特徴とする請求項に記載の画像処理方法。
  9. 前記白とび度計算ステップは、
    前記紫度計算ステップにおける処理対象画像フレームの前フレームに対する白とび検出処理の結果データとしてメモリに格納された白とび検出マップに基づいて白とび度を算出するステップであり、
    前記偽色度算出ステップは、
    フレームnの画像データに基づいて算出された紫度、およびフレームn−1の画像データに基づいて算出された白とび度とに基づいて注目画素の偽色度を算出するステップであることを特徴とする請求項に記載の画像処理方法。
  10. 前記補正パラメータ算出ステップは、
    (a)入力画像データに基づく縮小画像の生成および白とび検出処理、
    (b)入力画像データに基づく紫度の計算処理、
    (c)メモリに格納された前フレームの画像に基づく縮小白とび検出マップの拡大処理および該拡大結果としてのマップに基づく白とび度計算処理、
    上記(a),(b),(c)の各処理を並列に実行することを特徴とする請求項に記載の画像処理方法。
  11. 前記補正処理ステップは、
    前記補正パラメータ算出ステップにおいて算出する偽色度に基づいて各画素の彩度削減処理を実行する画素彩度削減処理ステップと、
    画素彩度削減処理ステップにおける処理結果としての出力データに対して、彩度削減処理を施した画素と周囲画素の色相の差分を減少させるぼかし処理を実行するぼかし処理ステップと、
    を有することを特徴とする請求項に記載の画像処理方法。
  12. 前記偽色はパープルフリンジであり、
    前記補正パラメータ算出ステップは、
    処理画像の構成画素の補正パラメータとして、画素のパープルフリンジに対する類似性情報である画素対応の偽色度を算出するステップであることを特徴とする請求項に記載の画像処理方法。
  13. 画像処理をコンピュータ上において実行させるコンピュータ・プログラムであり、
    処理画像の構成画素の補正パラメータとして、画素の偽色に対する類似性情報である画素対応の偽色度を算出する補正パラメータ算出ステップと、
    前記偽色度を適用して、処理画像の構成画素の彩度削減処理を含む画素値補正処理を実行する補正処理ステップとを有し、
    前記補正パラメータ算出ステップは、
    処理画像に基づく縮小画像データを生成する縮小画像生成ステップと、
    前記縮小画像生成ステップにおいて生成した縮小画像データに基づく高輝度画素としての白とび画素検出を実行する白とび検出ステップと、
    処理画像から選択された注目画素の色相と偽色の色相との類似性情報としての紫度を算出する紫度計算ステップと、
    前記白とび検出ステップにおいて検出した白とび検出情報を適用して前記注目画素の白とび画素からの距離情報としての白とび度を算出する白とび度計算ステップと、
    前記紫度および白とび度とに基づいて注目画素の偽色度を算出する偽色度算出ステップと、
    を有することを特徴とするコンピュータ・プログラム。
JP2004323591A 2004-11-08 2004-11-08 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム Expired - Fee Related JP4539299B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004323591A JP4539299B2 (ja) 2004-11-08 2004-11-08 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004323591A JP4539299B2 (ja) 2004-11-08 2004-11-08 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Publications (2)

Publication Number Publication Date
JP2006135744A JP2006135744A (ja) 2006-05-25
JP4539299B2 true JP4539299B2 (ja) 2010-09-08

Family

ID=36728855

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004323591A Expired - Fee Related JP4539299B2 (ja) 2004-11-08 2004-11-08 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Country Status (1)

Country Link
JP (1) JP4539299B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4770154B2 (ja) * 2004-11-08 2011-09-14 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4986820B2 (ja) 2007-11-16 2012-07-25 キヤノン株式会社 画像処理装置及び画像処理方法
JP5589446B2 (ja) * 2009-09-18 2014-09-17 ソニー株式会社 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
KR101257946B1 (ko) 2011-08-08 2013-04-23 연세대학교 산학협력단 영상의 색수차를 제거하는 장치 및 그 방법
JP6331258B2 (ja) * 2013-04-16 2018-05-30 リコーイメージング株式会社 撮像装置及び方法
CN104795050B (zh) * 2015-04-20 2017-07-04 京东方科技集团股份有限公司 一种进行显示输出的方法和显示设备
CN111199524B (zh) * 2019-12-26 2023-03-17 浙江大学 一种针对可调光圈光学系统的图像紫边校正方法
CN112887693B (zh) * 2021-01-12 2023-04-18 浙江大华技术股份有限公司 图像紫边消除方法、设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000032482A (ja) * 1998-07-14 2000-01-28 Canon Inc 信号処理装置、信号処理方法及び記憶媒体
JP2000244939A (ja) * 1999-02-19 2000-09-08 Canon Inc 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2000261816A (ja) * 1999-03-05 2000-09-22 Sharp Corp 固体撮像装置
JP2000354250A (ja) * 1999-06-11 2000-12-19 Ricoh Co Ltd 撮像装置
JP2002095009A (ja) * 2000-09-14 2002-03-29 Olympus Optical Co Ltd 電子カメラ及びプリンタ
JP2002262299A (ja) * 2001-02-28 2002-09-13 Seiko Epson Corp 偽色除去装置、偽色除去プログラム、偽色除去方法およびデジタルカメラ
JP2004226272A (ja) * 2003-01-23 2004-08-12 Seiko Epson Corp シミ欠陥の検出方法及び装置
JP2004272578A (ja) * 2003-03-07 2004-09-30 Minolta Co Ltd 撮像装置及び歪み補正方法
JP2006115039A (ja) * 2004-10-13 2006-04-27 Sony Corp 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2006121138A (ja) * 2004-10-19 2006-05-11 Sony Corp 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000032482A (ja) * 1998-07-14 2000-01-28 Canon Inc 信号処理装置、信号処理方法及び記憶媒体
JP2000244939A (ja) * 1999-02-19 2000-09-08 Canon Inc 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2000261816A (ja) * 1999-03-05 2000-09-22 Sharp Corp 固体撮像装置
JP2000354250A (ja) * 1999-06-11 2000-12-19 Ricoh Co Ltd 撮像装置
JP2002095009A (ja) * 2000-09-14 2002-03-29 Olympus Optical Co Ltd 電子カメラ及びプリンタ
JP2002262299A (ja) * 2001-02-28 2002-09-13 Seiko Epson Corp 偽色除去装置、偽色除去プログラム、偽色除去方法およびデジタルカメラ
JP2004226272A (ja) * 2003-01-23 2004-08-12 Seiko Epson Corp シミ欠陥の検出方法及び装置
JP2004272578A (ja) * 2003-03-07 2004-09-30 Minolta Co Ltd 撮像装置及び歪み補正方法
JP2006115039A (ja) * 2004-10-13 2006-04-27 Sony Corp 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2006121138A (ja) * 2004-10-19 2006-05-11 Sony Corp 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Also Published As

Publication number Publication date
JP2006135744A (ja) 2006-05-25

Similar Documents

Publication Publication Date Title
JP4770154B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4479457B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2004088149A (ja) 撮像システムおよび画像処理プログラム
KR101352440B1 (ko) 화상처리장치, 화상처리방법, 및 기록매체
JP2009124598A (ja) 画像処理装置及び画像処理方法
JP2009268033A (ja) 画像処理装置、撮像装置、制御方法、プログラム、及び記憶媒体
JP6021465B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP2014123809A (ja) 撮像装置、撮像システム、および、撮像装置の制御方法
JP5541205B2 (ja) 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法
JP4539278B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP5430379B2 (ja) 撮像装置及びその制御方法及びプログラム
JP2008263507A (ja) 映像処理装置及び映像処理プログラム
JP4539299B2 (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP2009284009A (ja) 画像処理装置、撮像装置及び画像処理方法
JP5291788B2 (ja) 撮像装置
JP7051365B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2010178226A (ja) 撮像装置、色収差抑制方法、色収差抑制回路及びプログラム
JP2006157599A (ja) 撮像装置
JP2009055415A (ja) カメラ
JP4960597B2 (ja) ホワイトバランス補正装置及び方法、及び撮像装置
JP2009022044A (ja) 画像処理装置及び画像処理プログラム
JP2009065691A (ja) 画像処理装置、記録媒体及び画像処理プログラム
JP6238673B2 (ja) 画像処理装置、撮像装置、撮像システム、画像処理方法、画像処理プログラム、および、記憶媒体
JP5147577B2 (ja) 画像処理装置およびその方法
JP2017183813A (ja) 画像処理装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071029

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100414

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100601

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100614

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130702

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees