JP3935528B2 - カラー画像処理装置 - Google Patents
カラー画像処理装置 Download PDFInfo
- Publication number
- JP3935528B2 JP3935528B2 JP17031196A JP17031196A JP3935528B2 JP 3935528 B2 JP3935528 B2 JP 3935528B2 JP 17031196 A JP17031196 A JP 17031196A JP 17031196 A JP17031196 A JP 17031196A JP 3935528 B2 JP3935528 B2 JP 3935528B2
- Authority
- JP
- Japan
- Prior art keywords
- color
- interpolation
- matrix
- image
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
本発明はカラー画像処理装置に関し、少なくとも1つ以上の色信号が欠落する撮像画素を有する撮像手段から得られた信号を処理するカラー画像処理装置に関する。
【0002】
【従来の技術】
高品位なカラー画像を撮像するには、高い空間解像度で各位置につき少なくとも三つの異なる光の波長帯で情報を集める必要がある。この条件を満たす装置構成として、従来から分光系と高画素数の撮像素子三枚とを用いたいわゆる三板方式の撮像装置が用いられてきた。しかしこの装置構成は高価であるため、カラー画像を撮像するより安価な構成として、モザイク色フィルタを用いた単板CCD撮像素子や、一枚はG(緑)フィルタ、もう一枚はR(赤)とB(青)のモザイクフィルタを用いて計2枚のCCDで撮像を行う二枚方式のカラーカメラが用いられてきた。
【0003】
また三枚方式であるが安価な低解像度の撮像素子を用い、それらをずらして配置することで空間解像度を上げる試みもなされてきた。しかし、これらの方式では最終的に生成される画像としては画素ごとに全ての色成分情報は得られず、情報の欠落が生じる。そのため、欠落している情報を補うための種々の補間、補正法が提案されてきた。従来提案された手法は注目画素の近傍の他の画素値から線形補間により値を求めるものが多いが、大別すると二種類に分類できる。
【0004】
第1の従来技術は色成分独立に補間を行うものである。例えば、特開昭61−501423号公報は、原色RGBモザイクフィルタのG成分に特化した補間法を開示している。この方法では、G成分の欠落を復元するに際し、欠落画素周辺の3×3近傍内のG画素の値を用いて近傍を平坦部か稜か筋か隅かに分類する。そして、この分類結果に応じて最適な線形補間係数を選択し、欠落画素を線形補間により求めている。
【0005】
一方、第2の従来技術は異なる色成分の画素値を関連づけて補間を行うものである。例えば特開平5−56446号公報は、局所領域では輝度成分の変化に対して色差成分の変化が少ないという仮定のもとで、色成分同士を関連づけて補間を行う方法を開示している。この方法では、ある位置の欠落色成分を回復するにあたり、近傍における色成分の低域成分間の比を求め、その比に基づいて当該位置に存在する色成分から欠落色成分を計算している。
【0006】
【発明が解決しようとする課題】
しかしながら、上記した従来の撮像装置はいずれも、欠落色成分を十分に補間することができず、偽色が発生したりして高品位のカラー画像信号を得ることができなかった。
【0007】
本発明のカラー画像処理装置はこのような課題に着目してなされたものであり、その目的とするところは、色信号間の空間的相関情報を用いて欠落色成分を補間することにより、より高品位のカラー画像信号を生成することができるカラー画像処理装置を提供することにある。
【0008】
【課題を解決するための手段】
上記の目的を達成するために、本発明の第1の態様は、複数の色信号のうち少なくとも1つ以上の色信号が欠落する撮像画素を有する撮像手段から得られた色信号を処理するカラー画像処理装置において、上記撮像画素の色信号に関する配置情報を格納する格納手段と、複数の被写体に関して予め得られた色信号間の空間的相関情報を複数保存した色相関情報保持手段と、上記格納手段に格納された色信号に関する配置情報と、上記色相関情報保持手段に保存された上記複数の空間的相関情報の中から上記撮像手段で得られた観測画像に応じて選択された前記色信号間の空間的相関情報とを用いた線形演算で算出した補間行列によって、上記所定領域内の欠落する色信号を補間する補間手段と、を具備する。
【0009】
また、本発明の第2の態様は、複数の色信号のうち少なくとも1つ以上の色信号が欠落する撮像画素を有する撮像手段から得られた色信号を処理するカラー画像処理装置において、上記撮像画素の色信号に関する配置情報と、被写体に関して予め得られた色信号間の空間的相関情報とを用いた線形演算によって予め算出された補間行列を保持した補間行列保持手段と、この補間行列保持手段に保持された上記補間行列を用いて、上記撮像手段から得られた色信号の所定領域内の情報に対して線形演算により補間を行う線形補間手段と、を具備し、上記補間行列保持手段は、上記補間行列を複数種保持し、上記所定領域の情報に基づき上記複数種の補間行列から補間に用いる補間行列を選択する補間行列選択手段を有し、上記線形補間手段は上記補間行列選択手段によって選択された補間行列を用いて補間を行う。
【0010】
また、本発明の第3の態様は、第2の態様において、上記補間行列保持手段は着脱可能である。
【0012】
【発明の実施の形態】
まず、本発明の実施の形態の第1の概略を説明する。本実施形態では先験的に得られた色信号間の空間的相関情報に関する知識に基づき、撮像手段によって被写体を撮像したときに欠落する色信号成分を補間するものである。以下に、補間に際して先験的な色成分間の空間的相関情報を用いたときの作用について述べる。以下の説明では、二次元領域で値をもつ情報を、行ごとに値を並べた1次元のベクトルとして表現する。所定領域に関して、撮像手段を通じて、n種類の色信号が観測されたとする。観測された各色信号をgi (iは色成分を表わす添え字)、各画素位置でまったく色成分の欠落が生じない場合に得られる色信号をfi とする。撮像手段にモザイクフィルタを用いている場合は対応する色フィルタのない画素位置でのgi の値は0となる。欠落の生じ方を明らかにするために、各色信号について、各画素位置における値の有無(あれば1、なければ0)、あるいはその位置の色フィルタの対応する色成分に対する透過率を表わす行列Hi を定義する。Hi を用いると、所定領域のfi とgi の関係は
gi =Hi fi とかける。ここで全ての色成分をまとめて扱うことにすると、原画像と観測画像の関係は、
【0013】
【数1】
となる。本実施形態では、情報の欠落を含む画像に関する欠落情報の補間を、このように全ての色成分をまとめた観測画像を表わすベクトルgから、所定の規範のもとで全ての色成分をまとめた原画像fに対する推測画像feを作成することにより行う。望ましい規範としては、例えば、推測画像feと原画像fの平均最小自乗誤差を最小にする方法が考えられる。具体的な推定方法として、gからfを線形に推定する場合をとりあげる。この場合、推測画素feはある行列Pを用いてfe=Pgと表現される。推測画像feと原画像fの平均最小自乗誤差<│f−fe│2>を最小にするという規範を用いると、行列Pの満たすべき条件は、
【0014】
【数2】
となる。この式を解くと、
【0015】
【数3】
となる。ここで、Rfgはfとgの相互相関行列、Rggは観測画像gの自己相関行列であり、<>は集合平均を表す。また、Rffは原画像fの自己相関行列である。(3)式の解は行列Hによっては一意に定まる保証はないが、その場合でもRggの一般逆行列を用いたり、行列Pに関する所定の制約を設けたりすることで解くことができる。
【0016】
この例で示されるように、事前に原画像の色信号間の空間的相関情報に関する知識が得られている場合には所定の最適化規範に従う最適な補間画像を得ることができ、経験的に得られた知識に基づいた他の補間法に比して高い精度での補正が可能である。
また、すべての色成分をまとめて扱う場合、上式(3)中の原画像の自己相関は、
【0017】
【数4】
(Rijは色成分iとjの相互相関行列)と書けるので、あらかじめ原画像の色信号間の相互相関に関する先験的な知識が得られている場合にはその知識を有効に活用することができる。また、先験的知識がない場合でも、一般の自然画像では各成分が完全に無相関と思われることは少ないため、色成分を独立に扱う場合と比較して(3)式におけるRggの推定精度を高めることができ、更に全観測画像の情報を有効に活用できる。
【0018】
次に第2の概略を説明する。全ての色信号をまとめた観測画像gから、推測画像fe と原画像fの最小自乗誤差|f−fe |2 を最小にするように線形推定を行なう場合は、第1の概略で述べたように、(3)式を満たす行列Pを用いてfe =Pgとかける。観測画像gに対する原画像の色信号間の相関行列Rffがあらかじめわかっている場合は、(3)式から一般逆行列を用いて求めることができる。すなわち、
P=RffH(HRffH)-1 (5)
と解ける。ここでPを事前に計算しておくことができ、観測画像gとの行列積をとるだけで補間が完了する。
【0019】
第2の概略の作用は補間手段の動作以外は第1の概略と同じである。第2の概略における補間手段では、補間行列計算手段が先験的な情報より求められた原画像の色信号間の空間的相関情報Rffと格納手段に格納されたフィルタ配置情報Hを用いて(5)式のPを補間行列として計算するか、あるいはあらかじめ(5)式で計算され格納されているPを読み出す。そして、線形補間手段によって所定領域内の色信号と、補間行列計算手段から得られた補間行列との行列積Pgを計算することにより補間を行う。
【0020】
次に第3の概略を説明する。上記所定領域がm×m画素からなる場合は、各色成分ベクトルはm×m行1列になる色成分がn個あるとすれば、全ての色成分を合わせた画像ベクトルはn×(m×m)行1列のベクトルである。(5)式で求めた補間行列はn×(m×m)次正方行列となる。これに対し、(5)式右辺の逆行列を
【0021】
【数5】
のように、m×m次の正方小行列{Vij}を用いて表現すると、色成分iの推測画像は
【0022】
【数6】
と書ける。ここでQijはm×m次正方行列で、すべて観測画像とは独立に計算しておける。ここではQijを部分補間行列と呼ぶ。(7)式を各iについて順に計算すれば、線形演算に必要なメモリはfe =Pgを直接計算した場合と比較してn2 分の1に減少する。実際は、観測される色成分gj は画素が欠落しているため全ての列についてQijを保持しておく必要はなく、さらにワークエリアを少なくすることができる。
【0023】
第3の概略の作用は、補間手段の動作以外は上記した第1の概略と同じである。第3の概略における補間手段では、補間行列計算手段が(7)式に従ってRijと、格納手段に格納されたフィルタ配置情報Hとを用いて部分補間行列Qを計算するか、あるいはあらかじめ(7)式を用いて計算され格納されている補間行列Qを読み出す。色成分取得手段は所定領域内の画素値を色成分ごとに読み出す。線形補間手段は色成分取得手段より得られた所定領域の色成分画像gj と部分補間行列計算手段より得られた(7)式中の対応する部分補間行列Qijを用いて推定色成分画像fe i を計算する。
以下に第4の概略を述べる。第2の概略で述べた原画像の線形推定
【0024】
【数7】
においては、(5)式に従えばPを事前に計算しておくことができたが、(5)式のままの補間行列を用いると、補間時に観測画像を色成分画像ごとに並べてgを作る必要がある。そこで、(5)式でPを求めた後、以下のように変形を行って補間に都合の良い形にする。
【0025】
色成分ごとの観測画像gi はHi に対応する欠落を含むため0の要素が含まれているが、各位置には少なくとも一つの色成分が存在することから、gi が0になる位置で値をもつ色成分画像gj が必ずある。また、信号が一つ以上のモザイクフィルタで得られ、撮像手段が各画素を所定の順序で読み出すものとすれば、gi が0になる位置でgj のどの画素が撮像手段により読み出されるのかもわかる。そこで、gi の0となる各画素位置について、対応するPの列と、その位置で読み出されるgj の画素に対応するPの列を交換する操作を繰り返して、(8)式を
【0026】
【数8】
と変形することができる。ここで、sは撮像手段から出力される信号そのものである。撮像手段の色信号配置に関する情報は、上記の列の交換操作の結果、すべてPe に含まれることになる。そのため、事前にPe を観測画像とは独立に計算しておくことで、補間時には撮像手段の色信号配置情報は不要となり、装置構成を簡単化できる。
【0027】
変形した補間行列Pe を用いる場合の撮像装置の動作は以下のようになる。被写体を撮像手段が撮像すると、撮像手段により全ての色信号が存在しない信号が生成される。補間行列保持手段は、あらかじめ計算されたPe を保持している。補間手段は、補間行列保持手段から補間行列を読み出し、撮像手段から得られた所定サイズの領域内の信号と直接行列演算を行って補間画像を生成する。画像の全ての領域について補間手段による処理が繰り返される。
【0028】
以下に、撮像手段の色信号配置をランダムに構成する第5の概略を述べる。上記した第1の概略における(3)式に例示されたように、補間行列を求めるにはRggの逆行列の特異性が小さい事が望ましい。モザイクフィルタで撮像が行われる場合には、Rggには、原画像の自己相関Rffの各要素Xijのうち、Hのiおよびj列がともに0でないものだけが伝達され、Rggはその他の位置では値は0となる。すなわち、Rggの特異性はモザイクフィルタのパターンを表わすHとRffの関係に依存する。特異生が大きくなるのはモザイクパターンHの持つ周期性と原画像の持つ周期性が類似してしまった場合で、最悪の条件ではRggに伝達されたRffが全て同じ値となり、Rggのランクは1に低下してしまう。そこで、どのような原画像に対してもRggの特異性が大きく変動しないという観点から考えると、Hの非ゼロ要素の自己相関が周期性を持たないこと、すなわちランダムに分布していることが望ましい。特に事前に求められる補間行列以外に変更を要しない場合、ランダムにすることによるデメリットは非常に小さい。
【0029】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
まず、第1実施形態について説明する。図1は第1実施形態に係るカメラシステムの構成を示す図であり、Gフィルタ付CCD100aとR/B市松モザイクフィルタ付CCD100bとを有する二板式カラースチルカメラ(以下、カメラ部と呼ぶ)100と、カラー画像処理装置101と、データサーバ102とから構成されている。すなわち、カメラ部100は画像入力端子103とフィルタ配置情報入力端子104とを介してカラー画像処理装置101に接続されている。カメラ部100とカラー画像処理装置101の着脱は自由であり、カメラシステムのカメラ部100は別の撮像系、例えば単板モザイクフィルタCCDカメラや三板式カメラなどに置き換えることもできる。ただし、カラー画像処理装置101のフィルタ配置情報入力端子104へ撮像系の色フィルタ配置情報を提供するために、カメラ部100はフィルタ配置情報保持ROM100dを備えている。また、データサーバ102は色相関・補正情報通信端子108を介してカラー画像処理装置101と接続されているが、接続形態は実際のケーブルによるものでもよいし、通信回線によるものでもよい。
【0030】
カラー画像処理装置101には上記した三つの端子があるが、カメラ部100からの入力を受ける端子のうち、画像入力端子103には入力される画像を蓄える画像メモリ106が接続され、この画像メモリ106は処理結果出力用の画像出力端子114に接続されるとともに、ブロックI/O部107を介してブロックバッファ111に接続されている。一方、フィルタ配置情報入力端子104はフィルタ配置情報保持RAM105に接続されている。
【0031】
さらに、データサーバ102との入出力を行う色相関・補正情報通信端子108は色相関推定部109を介して部分補間行列計算部112に接続されるとともに、補正情報バッファ110を介して部分補間行列計算部112に接続されている。色相関推定部109と部分補間行列計算部112とはさらにフィルタ配置情報保持RAM105からも入力を受ける。部分補間行列計算部112は線形演算部113に部分補間行列を出力すべく接続されている。この線形演算部113はさらにブロックバッファ111中の色成分ブロックバッファ111aからも入力を受け、ブロックバッファ111中の復元ブロックバッファ111bに出力信号を出力する。
【0032】
以下に、上記した構成のカメラシステムの作用を説明する。図1においては、実線が画像データの流れ、点線がその他の情報の流れを表わしている。カメラ部100によって被写体を撮像すると、カメラ部100内のGフィルタ付CCD100aおよびR/B市松モザイクフィルタ付CCD100bから画像信号が出力される。この画像信号はA/D変換部100cによってデジタル化されてカラー画像処理装置101の画像入力端子103に入力され、画像メモリ106に全て格納される。このとき、カメラ部100のフィルタ配置情報保持ROM100dからは各色信号の欠落を表わす行列Hi が読み出されて、カラー画像処理装置101のフィルタ配置情報入力端子104に出力される。カラー画像処理装置101はこの情報をフィルタ配置情報保持RAM105に保持する。
【0033】
カメラ部100からの入力が終わると、制御部115は所定サイズの領域を設定する。所定領域が定まると、まず所定領域の色信号間の相関が近似的に計算され、相関情報のデータベースをもつデータサーバ102と交信することで、補間行列計算の準備が整えられる。
【0034】
以下の説明では、自然画像の相関行列を近似できるようなパラメータ表示の関数があらかじめ格納されているものとする。ブロックI/O部107は、フィルタ配置情報保持ROM105に記憶されたデータに基づいて所定領域から色成分ごとの信号gi を読み出す機能を有する。ブロックI/O部107は、全ての二つの色信号の組(gi ,gj )について、画像メモリ106から制御部115に指定された所定領域の画像を順次読み出して色成分ブロックバッファ111aに格納する。
【0035】
色相関推定部109は、ブロックバッファ111に書き込まれた色成分ごとの観測画像gi とgj からgi gj t を計算し、観測画像の相関行列とみなす。そして、計算結果を予め求められたパラメータ表示の関数にあてはまることで、推定される原画像の近似的な色相関パラメータベクトルBe ijを計算する。色相関推定部109は、全ての2色信号の組(gi ,gj )についてパラメータ{Be ij}を求めた後、全てのHi と共に色相関・補正情報通信端子108に出力する。
【0036】
データサーバ102では、あらかじめ様々な対象についての先験的な色成分間の空間的相関情報が測定されて求められ、測定結果は、上記所定のパラメータ表示関数に近似して得られるパラメータベクトルの組{Bij}x を各対象xごとに、データベース化して保存される。また、これらのパラメータを使った色信号間の相互相関行列と、欠落情報の配置を表わすいくつかの色信号配置情報{Hi }の組から観測画像gの自己相関行列Rggを(3)式に従って事前に計算し、その逆行列を求めて(6)式にあるような小行列Vの集まりとして同じくデータベース化して保存しておく。
【0037】
カラー画像処理装置101から色相関・補正情報通信端子108を介してパラメータの組{Be ij}及び色信号配置情報{Hi }が送られてくると、データサーバ102は保持しているパラメータの組{Bij}x のうち、送られてきたパラメータに最も近いパラメータの組{Bij}を選び、さらに色信号配置情報{Hi }と組み合わせて逆行列{V}を検索する。データサーバ102は選択されたパラメータの組{Bij}を返送し、色相関推定部109は返送された{Bij}を保持する。
【0038】
次に、部分補間行列計算部112と線形演算部113とは、色相関推定部109と、ブロックI/O部107と、データサーバ102とともに上記(7)式に基づいて部分補間行列Qijと推定色成分画像を順次計算し、推測画像fe i を算出する。
【0039】
部分補間行列計算部112は、(7)式のQijの定義における右辺の各項を計算するごとに、データサーバ102と通信して補正情報バッファ110に対応する小逆行列Vkjを得る。そして、この小行列Vkjと、色相関推定部109がパラメータ{Bij}を用いて計算した原画像の推定色間相互相関行列Rijと、フィルタ配置情報保持RAM105が保持するHk とを用いて右辺の項を一つ計算し、線形演算部113に送る。
【0040】
線形演算部113では、この行列とブロックI/O部107が読み出した行列gi との行列積を演算し、演算結果は復元ブロックバッファ111bに加算される。全ての添え字j、kについて計算がなされると、推測画像fe i が復元ブロックバッファ111bに得られるので、ブロックI/O部107は画像メモリ106に結果を書き込む。この処理が全ての添え字iについてなされると、所定領域の色信号の補正が全て終了したことになる。
【0041】
画像を覆う全ての所定領域での補正が完了すると、補正された画像は画像出力端子114を経て外部からの読み出しが可能になる。
なお、上記した説明では、データサーバ102へ送信されるデータ量を考慮して色相関パラメータベクトルBe ijのみをデータサーバ102に送信するようにしたが、色成分ブロックバッファ111aに格納されたブロック画像データをそのまま色相関・補正情報通信端子108を介してデータサーバ102に送信するようにしてもよい。
【0042】
以下に図2を参照して本発明を電子スチルカメラに適用した第2実施形態を説明する。図2において、電子スチルカメラ212は単板カラーランダムモザイクフィルタCCD(以下単にCCDと呼ぶ)200を備えている。このCCD200はCCDドライバ201によって駆動され、A/D変換部202を介して画像メモリ203に画像信号を出力する。画像メモリ203はブロックI/O部204を介してブロックバッファ205に接続されるとともに、画像メモリカードスロット210にも接続されている。
【0043】
ブロックバッファ205には線形補間部209と撮影モード選択部208とが接続され、線形補間部209と撮影モード選択部208とは共に画像メモリカードスロット210にも接続されている。画像メモリカードスロット210には、補間情報保持ROM206が着脱可能である。制御部211は上記した各部の動作を統括する。
【0044】
以下に、上記した構成の電子スチルカメラ212の作用を説明する。まず、撮影者は電子スチルカメラ212で被写体を撮影する。このとき、被写体の種類をカメラに知らせるため、ユーザは撮影モード選択部208に接続されているスイッチを操作して、撮影モード(人物、風景、夕焼け等)を設定する。被写体像はCCDドライバ201によって駆動されるCCD200によってカラー画像信号に変換され、A/D変換部202を経由して画像メモリ203に保持される。画像の取り込みが終了すると、ブロックI/O部204は制御部211の制御の基に所定サイズの領域のデータを画像メモリ203から読み出してブロックバッファ205に格納する。
【0045】
補間情報保持ROM206には、撮影モードに応じた複数の補間行列のデータベースが保持されている。これらは情報の欠落のない原色3板式撮像系を用いて予め以下のように作成される。
【0046】
すなわち、まず、用意された各撮影モードについて、そのモードで撮影されると思われる様々な被写体の組み合わせについて、そのモードで想定される撮影条件のもとで、画像を数多く撮影する。得られた画像から色信号間の相関を求め、CCD200の色フィルタ配置情報と合わせて上記(5)式に従って補間行列を計算し、その後、上記(9)式で与えられるように観測画像の再配置の必要がないように構成する。同時に、例えば画像のテクスチャに関する統計量や色成分間の領域内の平均の比といった、対応する被写体を特徴づける量を画像から算出し、索引として設ける。
【0047】
撮影モード選択部208はブロックバッファ205にアクセスし、所定領域の画像から、現在の撮影モードでの補間情報保持ROM206の索引として有効な特徴量を算出する。その後、画像メモリカードスロット207を介して補間情報保持ROM206にアクセスし、算出した特徴量とその差の最小値を与える索引を求める。そして、線形補間部209に索引に対応する補間行列のアドレスを伝達する。線形補間部209は、撮影モード選択部208から伝達されたアドレスに従ってメモリカードスロット207を介して補間情報保持ROM206から選択された補間行列を読み出し、ブロックバッファ205に記憶された画像信号に補間行列をかけて補間画像を計算する。計算された補間画像はブロックI/O部204を介して画像メモリ203に書き戻される。画像メモリ203に保持された画像の全領域がこの繰り返しで処理された後、完成した補間画像は画像メモリカードスロット210を通じて図示せぬメモリカードに書き込まれる。
【0048】
なお、上記した具体的実施形態には以下の構成を有する発明が含まれており、各発明の対応する発明の実施の形態及び効果は次の通りである。
(1) 複数の色信号のうち少なくとも1つ以上の色信号が欠落する撮像画素を有する撮像手段から得られた色信号を処理するカラー画像処理装置において、
上記撮像画素の色信号に関する配置情報を格納する格納手段と、
上記撮像手段から得られた色信号に関して所定領域の色信号間の空間的相関情報を生成する色相関情報生成手段と、
上記格納手段に格納された色信号に関する配置情報と、上記色相関情報生成手段によって生成された色信号間の空間的相関情報とに基づき、上記所定領域内の欠落する色信号を補間する補間手段と、
を具備することを特徴とするカラー画像処理装置。
(対応する発明の実施の形態)
この発明に関する実施の形態は上記した第1実施形態に対応する。構成中の色信号が欠落する撮像画素を有する撮像手段は、図1中の二板式カラースチルカメラ100に対応するが、図2に示す第2実施形態の単板カラーランダムモザイクフィルタCCD200および通常の単板ベイヤー配列CCDや補色モザイクフィルタ方式の単体CCD、さらにはCCDの位置を互いにずらした三板式のカメラ等でもよい。構成中の格納手段は図1中のフィルタ配置情報保持RAM105に対応するが、図2の第2実施形態中のモザイクパターンROM201のように、あらかじめ内部に設定されたROMでもよい。構成中の色相関情報生成手段は図1中のデータサーバ102および色相関推定部109に対応するが、必ずしも装置内部で計算する必要はなく、先験的な相関情報を保持するROMであってもよい。構成中の補間手段は図1中の部分補間行列計算部112及び線形演算部113に対応するが、行われる演算は繰り返しによる最適化手法に基づいたものでもよい。また、最適化の規範も補正画像と原画像との最小自乗誤差を最小にするものに限らず、更にノイズの影響やその他の補正画像に要求される種々の制約を加えたものでもよい。
【0049】
次に、上記した構成(1)に係る画像撮像装置の作用を説明する。
撮像手段が被写体を撮像すると少なくとも1つ以上の色信号が欠落する画素位置が存在する。この欠落色信号の画素位置は格納手段にあらかじめ設定されるか、外部から撮像手段の種類に応じて入力される。色相関情報生成手段は、所定サイズの領域ごとに、観測された信号と格納手段からの色信号配置情報、および事前に得られた色信号間の相関に関する知識に基づいて推定するか、あるいはあらかじめ設定してあった先験的な色信号間の相関情報を読み出して補間手段に伝える。先験的な情報は、例えば設定のカテゴリーの対象をあらかじめ高精細な三板カメラ、あるいはマルチスペクトルカメラ等を用いて繰り返し撮影、測定し、そのカテゴリーの被写体に関する色信号間の相関情報の特徴を把握することで得ることができる。補間手段は、全色信号をまとめて取り扱う所定の規範に基づいた補間手法を用い、色信号間の相関情報を利用した補間を行う。画像の全ての領域についてこの処理が繰り返される。
(効果)
各色信号を独立に扱う補間に比較して事前に測定あるいは予見される色信号間の空間的相関情報という付加的な知識を利用することができるのでより高精度の補間が可能となり、これによってより高品位のカラー画像信号を得ることができる。また、最適化規範に基づいているため、得られる補正画像の画質が保証される。
(2) 上記補間手段は、上記所定領域内で色信号が欠落する上記撮像画素から得られた色信号を補間処理した画像と、上記所定領域内で色信号が欠落しない撮像画素から得られた画像との間における各色信号ごとの自乗誤差の全色信号にわたる平均が最小になるように補間を行うこと、
を特徴とする構成(1)に記載のカラー画像処理装置。
(対応する発明の実施の形態)
この発明の実施の形態は上記した第1実施形態に対応する。構成中の補間手段は部分補間行列計算部112及び線形演算部113に対応するが、行われる演算は繰り返しによる最適化手法に基づいたものでもよい。
(効果)
補間する際の規範として特に原画像と補正画像の自乗誤差を最小にするものを選ぶことで、原画像に最も近い画像を得ることができる。また、上記(3)式に見られるように先験的に得られている原画像の色信号間の相互相関の知識を直接活用して最適な補正を行うことができる。
(3) 上記補間手段は、上記格納手段から得られた色信号に関する配置情報および上記色相関情報生成手段からの色信号間の空間的相関情報に基づき補間行列を算出する補間行列計算手段と、この補間行列計算手段により得られた補間行列と上記撮像手段から得られた色信号の所定領域内の情報に基づき線形演算により補間を行う線形補間手段とからなること、
を特徴とする構成(1)に記載のカラー画像処理装置。
(対応する発明の実施の形態)
この発明の実施の形態は上記した第1実施形態に対応する。構成中の補間行列計算手段は部分補間行列計算部112に対応し、線形補間手段は線形演算部113に対応するが、第1実施形態のように所定領域内の色信号ごとに計算するのではなく、まとめて行列積演算を行ってもよい。
(効果)
原画像の線形推定における推定行列を、事前に得られた原画像の相関に関する情報から観測画像とは独立に求められるため、実際の補間時には高速、単純な構成による線形演算だけで補間を行える。
(4) 上記補間手段は、上記格納手段に格納された色信号に関する配置情報に基づき上記所定領域内の各色信号を抽出する色信号抽出手段を有し、
上記補間行列は、上記所定領域内の二つの色信号の全組み合わせにおける空間的相互相関と上記格納手段に格納された色信号に関する配置情報から定まる各色信号の強度を表わす行列との線形演算により定まる部分補間行列により構成され、上記補間行列計算手段は、上記部分補間行列を算出し上記色信号抽出手段により得られた各色信号と部分補間行列との線形演算により補間を行うこと、
を特徴とする構成(3)に記載のカラー画像処理装置。
(対応する発明の実施の形態)
この発明の実施の形態は上記した第1実施形態に対応する。構成中の色成分取得手段はブロックI/O部107およびブロックバッファ111に対応する。補間行列計算手段は部分補間行列計算部112に対応する。
(効果)
全ての色成分をまとめた場合の線形推定演算を観測された色成分画像ごとの部分的な線形演算の和に置き換えることで推定時の線形演算に必要なメモリを大幅に減らせる。
(5) 上記色相関情報算出手段は、被写体に関して予め得られた色信号間の空間的相関情報を保持する色相関情報保持手段を有すること、
を特徴とする構成(1)に記載のカラー画像処理装置。
【0050】
(対応する発明の実施の形態)
この発明の実施の形態は上記した第1実施形態に対応する。構成中の色相関情報算出手段は図1中のデータサーバ102および色相関推定部109に対応する。構成中の色相関情報保持手段は図1中のデータサーバ102に対応するが、先験的な相関情報を保持するROMであってもよい。
(効果)
先験的に相関情報を利用することで対象となる画像ごとに最適な補正を行うことができる。さらに、撮影対象に固有の情報を一箇所に保持しておくことにより、撮影対象に固有の情報が様々な構成要素に分散化されてハード化された場合に比して新たに色信号間の空間的相関情報が得られた場合の更新や付加が容易になる。
(6) 上記色相関情報保持手段はその保持内容が変更可能であること、
を特徴とする構成(5)に記載のカラー画像処理装置。
(対応する発明の実施の形態)
この発明の実施の形態は上記した第1実施形態に対応する。構成中の色相関情報保持手段は図1中のデータサーバ102に対応するが、先験的な相関情報を保持するメモリカードやリムーバブルメディア等であってよい。
(効果)
先験的な相関情報を交換可能にすることで、種々の画像について最適な補正を行うことができる。
(7) 上記色相関情報保持手段は色相関情報を複数種保持し、
上記所定領域内の情報に基づき上記複数種の色相関情報のうち一つ以上を選択する相関情報選択手段を有し、上記補間手段はこの相関情報選択手段によって選択された色相関情報に基づき補間を行うこと、
を特徴とする構成(5)に記載のカラー画像処理装置。
(対応する発明の実施の形態)
この発明の実施の形態は上記した第1実施形態に対応する。構成中の色相関情報保持手段は図1中のデータサーバ102に対応するが、装置に内蔵されたROMや先験的な相関情報を保持するメモリカードやリムーバブルメディア等であってよい。構成中の相関情報選択手段は図1中の色相関推定部109およびデータサーバー102に対応するが、選択を装置が行うのではなく、人間が被写体の種類に応じて選べるようにしてもよい。
(効果)
画像の領域ごとに先験的に得られた色信号間の空間的相関情報を切り替えられるようにすることで、種々の被写体が混在する複雑な画像に対しても最適な補間ができるようになる。
(8) 複数の色信号のうち少なくとも1つ以上の色信号が欠落する撮像画素を有する撮像手段から得られた色信号を処理するカラー画像処理装置において、
上記撮像画素の色信号に関する配置情報と、被写体に関して予め得られた色信号間の空間的相関情報とに基づき算出された補間行列を保持する補間行列保持手段と、
この補間行列保持手段に保持された補間行列を用いて、上記撮像手段から得られた色信号の所定領域内の情報に対して線形演算により補間を行う線形補間手段と、
を具備することを特徴とするカラー画像処理装置。
(対応する発明の実施の形態)
この発明の実施の形態は上記した第2実施形態に対応する。構成中の色信号が欠落する撮像画素を有する撮像手段は図2中の単板カラーランダムモザイクフィルタCCD200に対応するが、第1実施形態における図1中の二板式カラースチルカメラ100および通常の単板ベイヤー配列CCDや補色モザイクフィルタ方式の単板CCD、さらには互いにCCDの位置を互いにずらした三板式のカメラ等でもよい。構成中の補間行列保持手段は図2中の補間行列保持ROM206に対応するが、特に着脱式である必要はなく、装置に内蔵されていてもよいし、ROMに限らずその他のメディア、外部から情報が供給されるRAM等でもよい。構成中の線形補間手段は線形補間部209に対応する。
(効果)
原画像の相関に関する先験的な知識および撮像手段の色信号の配置情報を反映する補間行列を事前に計算しておくことにより、補間行列と入力信号との線形演算だけで、対象画像に対する補間を高速に行える。
(9) 上記補間行列保持手段は着脱可能であることを特徴とする構成(8)に記載のカラー画像処理装置。
(対応する発明の実施の形態)
この発明の実施の形態は上記した第2実施形態に対応する。構成中の補間行列保持手段は図2中の補間行列保持ROM206に対応するが、特にメモリカードである必要はなく、その他のリムーバブルメディア、外部から情報が供給されるRAM等でもよい。
(効果)
先験的な相関情報を交換可能にすることで、種々の画像について最適な条件で補正を行うことができる。
(10) 上記補間行列保持手段は上記補間行列を複数種保持し、
上記所定領域の情報に基づき上記複数種の補間行列のうち一つ以上を選択する補間行列選択手段を有し、
上記補間手段は上記補間行列手段によって選択された補間行列を用いて補間を行うこと、
を特徴とする構成(8)に記載のカラー画像処理装置。
(対応する発明の実施の形態)
この発明の実施の形態は上記した第2実施形態に対応する。構成中の補間行列保持手段は図2中の補間行列保持ROM206に対応するが、特に着脱式である必要はなく、装置に内蔵されていてもよいし、ROMに限らずその他のメディア、外部から情報が供給されるRAM等でもよい。補間行列選択手段は図2中の撮影モード選択部208に対応するが、選択は人間が行う必要はなく、コンピュータが所定領域の色信号に基づいて選択してもよい。
(効果)
画像の領域ごとに先験的に得られた色信号間の相関情報を切り替えられるようにすることで、種々の画像に対して柔軟に対処できるようになる。
(11) 上記撮像手段から得られる色信号において、各色信号が得られる撮像画素の座標位置が空間的にランダムであること、
を特徴とする構成(1)〜(8)のいずれか1つに記載のカラー画像処理装置。
(対応する発明の実施の形態)
この発明の実施の形態は上記した第2実施形態に対応する。構成中の色信号が欠落する撮像画素を有する撮像手段は図2中の単板カラーランダムモザイクフィルタCCD200に対応する。モザイクフィルタの色フィルタの種類は原色、補色等の制約はない。
(効果)
撮像手段の色信号配置をランダムにすることにより、どのような画像に対しても最適な補間処理を行えるようになる。
【0051】
【発明の効果】
本発明によれば、より高品位のカラー画像信号を生成することができるカラー画像処理装置を提供することができる。
【図面の簡単な説明】
【図1】本発明の第1実施形態が適用されるカラー画像処理システムの構成を示す図である。
【図2】本発明の第2実施形態が適用される電子スチルカメラの構成を示す図である。
【符号の説明】
100…二板式カラースチルカメラ、100a…Gフィルタ付CCD、100b…R/B市松モザイクフィルタ付CCD、100c…A/D変換部、100d…フィルタ配置情報保持ROM、101…カラー画像処理装置、102…データサーバ、103…画像入力端子、104…フィルタ配置情報入力端子、105…フィルタ配置情報保持RAM、106…画像メモリ、107…ブロックI/O部、108…色相関・補正情報通信端子、109…色相関推定部、110…補正情報バッファ、111…ブロックバッファ、111a…色成分ブロックバッファ、111b…復元ブロックバッファ、112…部分補間行列計算部、113…線形演算部、114…画像出力端子、115…制御部。
Claims (3)
- 複数の色信号のうち少なくとも1つ以上の色信号が欠落する撮像画素を有する撮像手段から得られた色信号を処理するカラー画像処理装置において、
上記撮像画素の色信号に関する配置情報を格納する格納手段と、
複数の被写体に関して予め得られた色信号間の空間的相関情報を複数保存した色相関情報保持手段と、
上記格納手段に格納された色信号に関する配置情報と、上記色相関情報保持手段に保存された上記複数の空間的相関情報の中から上記撮像手段で得られた観測画像に応じて選択された前記色信号間の空間的相関情報とを用いた線形演算で算出した補間行列によって、上記所定領域内の欠落する色信号を補間する補間手段と、
を具備することを特徴とするカラー画像処理装置。 - 複数の色信号のうち少なくとも1つ以上の色信号が欠落する撮像画素を有する撮像手段から得られた色信号を処理するカラー画像処理装置において、
上記撮像画素の色信号に関する配置情報と、被写体に関して予め得られた色信号間の空間的相関情報とを用いた線形演算によって予め算出された補間行列を保持した補間行列保持手段と、
この補間行列保持手段に保持された上記補間行列を用いて、上記撮像手段から得られた色信号の所定領域内の情報に対して線形演算により補間を行う線形補間手段と、
を具備し、
上記補間行列保持手段は、上記補間行列を複数種保持し、上記所定領域の情報に基づき上記複数種の補間行列から補間に用いる補間行列を選択する補間行列選択手段を有し、上記線形補間手段は上記補間行列選択手段によって選択された補間行列を用いて補間を行うことを特徴とするカラー画像処理装置。 - 上記補間行列保持手段は着脱可能であることを特徴とする請求項2記載のカラー画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP17031196A JP3935528B2 (ja) | 1996-06-28 | 1996-06-28 | カラー画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP17031196A JP3935528B2 (ja) | 1996-06-28 | 1996-06-28 | カラー画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1023448A JPH1023448A (ja) | 1998-01-23 |
JP3935528B2 true JP3935528B2 (ja) | 2007-06-27 |
Family
ID=15902627
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP17031196A Expired - Fee Related JP3935528B2 (ja) | 1996-06-28 | 1996-06-28 | カラー画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3935528B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020191104A1 (en) | 2001-03-26 | 2002-12-19 | Mega Chips Corporation | Image conversion device, image conversion method and data conversion circuit as well as digital camera |
JP4545206B2 (ja) * | 2008-05-09 | 2010-09-15 | オリンパス株式会社 | 画像処理装置及び画像処理プログラムを格納した記録媒体 |
WO2023234079A1 (ja) * | 2022-06-01 | 2023-12-07 | コニカミノルタ株式会社 | データ処理装置、データ処理システム、データ処理方法及びプログラム |
-
1996
- 1996-06-28 JP JP17031196A patent/JP3935528B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH1023448A (ja) | 1998-01-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3753385B2 (ja) | 輝度階調を用いたフルカラーイメージ適応的補間装置 | |
EP1977613B1 (en) | Interpolation of panchromatic and color pixels | |
US6809765B1 (en) | Demosaicing for digital imaging device using perceptually uniform color space | |
US5808674A (en) | Producing and improved digital image from digital signals corresponding to pairs of photosites | |
JP3429061B2 (ja) | 電子スチルカメラ | |
US9338364B2 (en) | Imaging device and image generation method | |
US7072509B2 (en) | Electronic image color plane reconstruction | |
US20020101524A1 (en) | Integrated color interpolation and color space conversion algorithm from 8-bit bayer pattern RGB color space to 12-bit YCrCb color space | |
US20030086606A1 (en) | Electronic image colour plane reconstruction | |
CN107623844B (zh) | 中间位置处的像素的颜色值的确定 | |
JP3771054B2 (ja) | 画像処理装置及び画像処理方法 | |
US6205245B1 (en) | Method and apparatus for rapid down-scaling of color images directly from sensor color filter array space | |
JPH08298670A (ja) | 適応カラー補間単一センサカラー電子カメラ | |
EP3547680A1 (en) | Image processing method and filter array | |
WO2005122554A1 (ja) | 撮像装置 | |
KR20080106585A (ko) | 컬러 비디오 신호 생성 방법 및 장치 | |
JP2010537228A (ja) | パンクロ画素を使用する画素アスペクト比の補正 | |
US7071978B2 (en) | Image mosaic data reconstruction | |
JP3908169B2 (ja) | カラー画像データをセンシングかつ補間するための方法およびシステム | |
JP4934991B2 (ja) | 撮像信号処理装置及び方法並びに撮像装置 | |
JP3935528B2 (ja) | カラー画像処理装置 | |
JP3777861B2 (ja) | 画像処理方法及び画像処理装置並びに画像処理プログラムを記録したコンピュータに読み取り可能な記録媒体 | |
JP2004201311A (ja) | オフセットセンサアレイを変形する方法 | |
JP2004056640A (ja) | 補色系単板式カラーディジタルカメラにおける撮像画像の補間方法、その補間装置及びそれを備えたディジタルカメラ | |
JP5572992B2 (ja) | 画像処理装置、撮像装置及び画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040909 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050920 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061219 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070216 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070313 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070320 |
|
LAPS | Cancellation because of no payment of annual fees |