JP2005532004A - 信号処理方法、信号処理装置、コンピュータプログラムプロダクト、コンピュータシステム、およびカメラ - Google Patents
信号処理方法、信号処理装置、コンピュータプログラムプロダクト、コンピュータシステム、およびカメラ Download PDFInfo
- Publication number
- JP2005532004A JP2005532004A JP2004519066A JP2004519066A JP2005532004A JP 2005532004 A JP2005532004 A JP 2005532004A JP 2004519066 A JP2004519066 A JP 2004519066A JP 2004519066 A JP2004519066 A JP 2004519066A JP 2005532004 A JP2005532004 A JP 2005532004A
- Authority
- JP
- Japan
- Prior art keywords
- filter
- color
- pixels
- green
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000012545 processing Methods 0.000 title claims description 38
- 238000004590 computer program Methods 0.000 title claims description 8
- 238000003672 processing method Methods 0.000 title description 4
- 238000000034 method Methods 0.000 claims abstract description 67
- 230000003287 optical effect Effects 0.000 claims abstract description 44
- 239000011159 matrix material Substances 0.000 claims abstract description 43
- 230000005540 biological transmission Effects 0.000 claims description 43
- 238000001914 filtration Methods 0.000 claims description 15
- 239000003086 colorant Substances 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 2
- 239000004065 semiconductor Substances 0.000 claims description 2
- 238000012546 transfer Methods 0.000 abstract description 27
- 230000015654 memory Effects 0.000 description 25
- 238000010586 diagram Methods 0.000 description 11
- 238000012937 correction Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 8
- 230000008901 benefit Effects 0.000 description 7
- 230000006872 improvement Effects 0.000 description 7
- 238000013461 design Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 235000021384 green leafy vegetables Nutrition 0.000 description 5
- 238000003491 array Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 229920006395 saturated elastomer Polymers 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/841—Camera processing pipelines; Components thereof for processing colour signals to modify gamut
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
- Hardware Redundancy (AREA)
- Processing Of Color Television Signals (AREA)
Abstract
ホワイト補正された輝度復元を基本とし且つスマートグリーンパラメータと称されるフィルタ重みを使用する復元方法が提案されている。サンプル周波数の倍数であっても、光ローパスフィルタが無いカメラの場合でも、エイリアシングが無い輝度信号が得られる。また、このホワイト補正された輝度信号は、信号歪みが無い。提案された方法によれば、適切なローパスフィルタを加える或いは組み合わせることができ、提案された方法は、エイリアシングが無い様々なカラーフィルタおよび輪郭フィルタを実施するのに特に良く適している。RGBカラー信号は、センサマトリクスの重さ及びカメラの光学的伝達に応じて選択できるフィルタ重みを使用して復元される。
Description
本発明は信号処理方法に関し、該方法では、画像センサのセンサ信号が入力として供給され、この入力がフィルタ内で復元されることにより、更なる処理のための出力が生成される。前記フィルタは、輝度復元フィルタ、赤緑青カラー復元フィルタ、輪郭復元フィルタから成るグループから選択された少なくとも1つの復元フィルタを備えている。前記入力は複数のピクセルを含み、1つのピクセルは、赤、緑、または、青のカラーのうちの少なくとも1つに対して割り当てられた明度を提供する。また、本発明は、特に前記方法を実行する信号処理装置であって、センサ信号を入力として供給する画像センサと、前記入力を復元して更なる処理のための出力を生成するフィルタとを備え、前記フィルタは、輝度復元フィルタ、赤緑青カラー復元フィルタ、輪郭復元フィルタから成るグループから選択された少なくとも1つの復元フィルタを備え、前記入力は複数のピクセルを含み、1つのピクセルは、赤、緑、または青のカラーのうちの少なくとも1つに対して割り当てられた明度を提供する。更に本発明は、信号を処理するように適合されたコンピュータプログラムプロダクト、コンピュータシステム、およびカメラに関する。
例えばビデオ画像および静止画像のデジタル信号画像検出に基づくデジタルカメラは、有利なことに、赤緑青(RGB)ベイヤー(Bayer)カラーフィルタアレイを備える画像センサを備えることが可能である。かかるRGBベイヤーカラーフィルタアレイにおいて、各ピクセルは、赤緑青の三原色を所定のパターンで検出する。このパターンは、緑/赤の列と緑/青の列とが交互に形成されて成る。かかるセンサは、原色毎に別個の画像センサを使用するカメラと比較して、解像度が制限される場合がある。しかし、3つの画像センサを有するカメラは、1つのRGBベイヤーセンサよりも、解像度に寄与するピクセルが3倍も多い。殆どの装置においては、3つのセンサを使用すると、その装置のサイズおよびコスト要件のために不利となる。一方、単一の画像センサを使用して、単一のアレイ内、好ましくはRGBベイヤーカラーフィルタアレイ内の三原色赤緑青の全てを検出する場合には、一貫した全体の画像を処理するために、或るカラーの欠けているピクセルを復元する必要がある。RGBベイヤー構造に起因して、緑、赤、青の各色に関して異なるナイキスト領域により、解像度や、場合よってはエイリアシングパターンが色に依存する結果となる。それにもかかわらず、RGBベイヤー構造は、最良に実行できる信号カラーアレイのうちの1つである。
信号の質を高めるために、幾つかの補間方式が提供され得る。WO99/39509には、従来の補間方法が一般的な言葉で記載されている。この補間方法では、所与のカラーの信号が存在しない位置に中間カラー信号が補間され、所与のカラーの平均が生成される。
更に別の信号処理方法は、WO99/04555および未公開の欧州特許出願(出願番号EP 01 200 422.2)に記載されるように、より有利な補間方式を使用する。しかし、そのような方法は依然として、例えば、自由な輝度信号のエイリアシングまたは更なる信号歪みの影響を受ける。そのような信号歪みにより、特に画像にフォールスカラーが誤って生成されてしまう結果となる。
WO99/04555には、RGBベイヤー画像センサの緑復元方法が緑色の復元のみに関して記載されている。赤色および青色については、従来の方法で復元されている。欠けている緑ピクセルだけが復元される。欠けている緑ピクセルの復元は、3つの特定の変数を記憶するメジアンフィルタによって行なわれる。その変数のうちの2つは緑色より得られ、3番目の変数は、赤色または青色から得られる。この方法の欠点は、高飽和色のエッジに副作用が生じ、郵便切手の縁のように見えるという点である。WO99/04555に開示されたアルゴリズムをスマートグリーン1アルゴリズムと称することにする。このアルゴリズムは、解像度の劣化が白色部分付近の高周波領域で最も良く観察され、有色部分付近ではさほど良くは観察されないという概念に基づいている。この概念を念頭に、赤ピクセルおよび青ピクセルの寄与が、欠けている緑ピクセルの復元値の決定に役立つ。スマートグリーン1復元アルゴリズムの目的は、緑色の解像度を最大にすることである。このため、メジアンフィルタアルゴリズムが以下のように適用される。必然的に、赤(R)または青(B)ピクセルによって占められる場所が、欠けている緑ピクセルの場所となる。スマートグリーン1復元アルゴリズムにおいて、メジアン値とも称される3×3ピクセルアレイの中心値が、欠けている緑ピクセルの復元のために適用される。その結果、緑に対する簡単なメジアンフィルタが、緑復元の従来の補間法の概念に取って代わるだけである。これに対し、従来の赤および青の復元方法は、簡易な補間法のままである。また、輝度フィルタリング、カラーフィルタリング、輪郭フィルタリングも、緑に対するフィルタリングに制限される。またフォールスカラー検出は、単に、緑復元についての従来の補間法の概念に基づいており、また、従来の赤および青の復元は、簡易な補間法のままである。
このようなスマートグリーン1復元方法は、赤及び/又は青ピクセルの情報を活用して、緑ピクセルの解像度を水平方向および垂直方向に改善する。この従来の方法は、単に同じ場所からの異なるカラーサンプルおよび同じカラーサンプルといった隣り合うカラーサンプルに基づいて、補間されるべきカラーサンプルを補間することに依存している。その結果、復元された信号は、赤及び/又は青のカラーエイリアシングの影響を受ける。垂直および水平方向のカラーエッジは、緑輝度変調を各方向で受け、郵便切手の縁のようになってしまう。
本文中でスマートグリーン2復元アルゴリズムと称されている、EP01200422.2に概説された更なる改良によれば、解像度を十分に高めることができたが、前述した信号歪み及び信号エイリアシングの欠点を除くことはできなかった。特にエッジや高周波領域では、隣接するピクセルのカラーが交互するように、特定の信号歪みが依然として見られる。副作用として黒ドットや白ドットも誤って形成される。
本発明は上記のような問題に対処するものであり、本発明の目的は、信号の質が向上されるように、信号処理方法および信号処理装置を明らかにすることであり、また、信号処理のためのコンピュータプログラムプロダクト、計算システムおよび信号処理に適合したカメラを明らかにすることである。特に、信号は、信号歪み及びエイリアシングに関して改善されるべきであるが、また、信号は十分な解像度を提供しなければならない。
方法に関して、上述の目的は序文に記載された方法によって達成される。本発明において、当該方法は、
− 多数のピクセルを備え所定のアレイサイズを有するピクセルアレイに復元フィルタを適用するステップであって、多数のピクセルのうち少なくとも1つのピクセルは、赤のカラーに対して割り当てられた赤ピクセルによって形成され、多数のピクセルのうち少なくとも1つのピクセルは、青のカラーに対して割り当てられた青ピクセルによって形成され、多数のピクセルのうち少なくとも1つのピクセルは、緑のカラーに対して割り当てられた緑ピクセルによって形成されているステップと、
− 赤ピクセル及び/又は青ピクセルを緑パラメータによって重み付けをするステップと、
− アレイの複数のピクセルを1つの出力ピクセルにまとめるステップと、
− 出力ピクセルをアレイにセンタリングするステップと、
をさらに含む。
− 赤ピクセル及び/又は青ピクセルを緑パラメータによって重み付けをするステップと、
− アレイの複数のピクセルを1つの出力ピクセルにまとめるステップと、
− 出力ピクセルをアレイにセンタリングするステップと、
をさらに含む。
この装置に関して、上記目的は序文に記載された装置によって達成される。本発明によれば、
− 復元フィルタは、多数のピクセルを備え所定のアレイサイズを有するピクセルアレイに適用されるように構成されており、多数のピクセルのうち少なくとも1つのピクセルは、赤のカラーに対して割り当てられた赤ピクセルによって形成され、多数のピクセルのうち少なくとも1つのピクセルは、青のカラーに対して割り当てられた青ピクセルによって形成され、多数のピクセルのうち少なくとも1つのピクセルは、緑のカラーに対して割り当てられた緑ピクセルによって形成され、
当該装置は、
− 赤ピクセル及び/又は青ピクセルを緑パラメータによって重み付けをする手段と、
− アレイの複数のピクセルを1つの出力ピクセルにまとめる手段と、
− 出力ピクセルをアレイにセンタリングする手段とを更に備えることが提案される。
− 復元フィルタは、多数のピクセルを備え所定のアレイサイズを有するピクセルアレイに適用されるように構成されており、多数のピクセルのうち少なくとも1つのピクセルは、赤のカラーに対して割り当てられた赤ピクセルによって形成され、多数のピクセルのうち少なくとも1つのピクセルは、青のカラーに対して割り当てられた青ピクセルによって形成され、多数のピクセルのうち少なくとも1つのピクセルは、緑のカラーに対して割り当てられた緑ピクセルによって形成され、
当該装置は、
− 赤ピクセル及び/又は青ピクセルを緑パラメータによって重み付けをする手段と、
− アレイの複数のピクセルを1つの出力ピクセルにまとめる手段と、
− 出力ピクセルをアレイにセンタリングする手段とを更に備えることが提案される。
ここで使用される用語ピクセルとは、特に、信号中のカラーサンプルの値のことをいう。
本発明は、画像の復元についてのフレキシブルな設計というコンセプトを提供するためのアイデアから生じており、また、ホワイト補正される輝度復元に基づいている。この発想は、基本的に、緑パラメータを用いて赤及び/又は青ピクセルの重み付けをすることによって実現される。これに対し、従来の概念は、単に欠けている緑ピクセルの復元に依存している。提案された復元フィルタは、所定のアレイサイズのピクセルアレイに適用されるように設計されている。その結果、フィルタリングは、このアレイ上において有利な方法で実行される。これに対し、従来の方法は、単に隣接するサンプルまたは同じ場所のサンプルに基づく簡単な補間法に依存しており、提案された概念は、アレイの全てのピクセルを考慮に入れた、厳密に適応した復元フィルタを提供する。提案されたホワイト補正という概念は、有利なことに、光ローパスフィルタが無いカメラの場合にサンプル周波数の倍数であっても、結果としてエイリアシングが無い輝度信号をもたらす。更に、このホワイト補正された輝度信号には、信号歪みが無い。提案された基本的な方法および装置は、幅広くかつフレキシブルな拡張性を提供するのに適合している。例えば光学系の光学的伝達及び/又は画像センサのセンサマトリクスに応じて選択され、調整され得る様々な幾つかの復元フィルタを提供することができる。提案された方法および装置は、光ローパスフィルタの独立性をかなり維持することができる。これは、潜在的な顧客についてのカメラ設計が変更する場合には特に有利である。以下に概説するように、提案された方法および装置は、様々な方法且つ簡単な手法で、調整可能なフォールスカラーフィルタ(false-color-filters)を実施することができる。
更に発展した方法の構成は、方法に関する従属請求項に記載されている。提案された装置は、方法を実行するための各手段によって改良されても良い。
特に、第1のフィルタに続く第2のフィルタの中心出力ピクセルは、出力ピクセルと同じ位相で位置決めされ、特に、中心出力ピクセルは、出力ピクセルと同様にアレイの中心位置にセンタリングされることが好ましい。最も好ましくは、これは、追加のポストフィルタ、特に後述するポストフィルタによって実行される。
好ましい構成においては、復元フィルタは輝度復元フィルタによって形成され、アレイの複数のピクセルは、1つのホワイトピクセル内で互いに加えられて出力ピクセルとなる。緑パラメータまたは多くの緑パラメータは、画像センサのセンサマトリクスに基づいて選択されることが最も好ましい。2つの緑パラメータが与えられることが最も好ましい。さらに、緑パラメータまたは多くの緑パラメータは、画像信号を画像センサに供給する光学系の光学的伝達に基づいて選択されても良い。これにより、RGBカラー信号は、有利なことに、カメラの光学的伝達とセンサマトリクスの重み(heaviness)との組み合わせに応じて選択され得るフィルタの重み付け(filter weights)を用いて復元される。したがって、用途および画像の明確な質の向上が得られる。
1またはそれ以上の好ましい構成に関して前述した輝度復元の基本的な概念は、以下においては、RGBベイヤー画像センサのための“ホワイト補正された輝度復元”と称され、または、単に“RGB復元”と称される。また、緑パラメータは、“スマートグリーンパラメータ”とも称される。提案された方法及びその更に発展した構成によって規定されるように赤ピクセル及び/又は青ピクセルと共にスマートグリーンパラメータを使用することは、“スマートグリーン3”復元方法と称される。また、緑パラメータを決定する特定の方法は、WO99/04555およびEP01200422.2に記載されており、また、スマートグリーン3の範囲内において適用され使用されても良い。
提案された方法の特定の種類のフィルタ配置およびフィルタサイズにより、エイリアシングが無い信号が得られ、特に、緑同士の間の差が無くなる。この詳細については、好ましい実施形態に関する詳細な説明の第2章および第3章において図面を参照しつつ概説する。具体的には、輝度復元フィルタは、2×2または4×4または6×6または好ましい場合にはこれよりも更に大きいアレイサイズを有するアレイのピクセルに適用される。特定の好ましい構成において、輝度復元フィルタは、2×2または4×4のアレイサイズに適用される。フィルタサイズは、光学的伝達に応じて選択されても良い。また、各フィルタごとの重み付けは、別々に選択されても良い。有利なことに、装置のために様々な輝度復元フィルタが提供される。特に、輝度復元フィルタは、光ローパスフィルタリングが全く無く或いは僅かしか無い場合、2×2のアレイサイズに適用される。更に、各輝度復元フィルタは、光ローパスフィルタリングが更に重い(heavier)場合、より大きな4×4または6×6のアレイサイズに適用される。
また、ローパス輝度信号は、有利なことに、4×4または6×6の各アレイサイズに適用されるローパスフィルタによって形成されても良い。有利な構成においては、4×4または6×6のローパスフィルタは、2×2または4×4の輝度復元フィルタとそれぞれ組み合わされて、単一のフィルタが形成される。その結果として得られる信号は、いずれも、センサに起因する緑不均一性の副作用の影響を受けない。
それにもかかわらず、光学的伝達およびマトリクスに基づいて復元されたRGB信号は、ナイキストの法則に基づき、カラーエイリアシングの残存量の影響を受ける。エイリアシングの残存量を更に減らすため、輝度復元フィルタに加えて、カラー復元フィルタ及び/又は輪郭復元フィルタが適用されても良い。したがって、特に、フォールスカラーフィルタを適用して、入力からのフォールスカラーを排除しても良い。カラー復元フィルタがフォールスカラーフィルタを備えていることが好ましい。
また、有利なことに、特に、図面の図15,16および17,18に関して、詳細な説明の第3.3章において述べるように、全RGB伝達に可能な限り等しい伝達特性を有するローパス輝度信号が実現される。4×4または6×6のローパス輝度フィルタと3×3または5×5の緑復元フィルタとのそれぞれのマッチングは、2×2ポストフィルタによって達成されることが好ましい。これについては、図面を参照して、詳細な説明の第3章における好適な実施形態で詳細に説明する。
更に好ましい構成においては、画像信号を画像センサに供給する光学系の光学的伝達に基づいて、高周波輝度フィルタが適用される。これにより、高周波のエイリアシングの無い輝度成分を低周波復元カラー信号に加えることによって、カラーアーチファクトをマスキングすることができる。これに対応する好ましい実施形態は、図面の図2および図12に関連する詳細な説明に記載されている。
提案された方法は、カメラの光学的伝達が適切なフィルタの用途を制限しないように適用される。換言すると、有利なことに、顧客の用途だけに依存した任意の光ローパスフィルタが適用され得る。光ローパスフィルタを全く適用しないことも可能である。特に、これは、提案されたフォールスカラーフィルタの装置、特に、カメラの光学的伝達またはセンサマトリクスとは無関係に調整することができる装置、によって実現される。特に、カメラの光学的伝達に応じて、ピクセル周波数の半分にフォールスカラーフィルタを調整することができる。また、光学的伝達およびセンサマトリクスに基づいて、カラー復元フィルタが提供されても良い。光学的伝達およびセンサマトリクスに応じて、カラー復元フィルタの係数を適切に選択すると、平均的な場面の場合に最も重要な眼を引くと思われるホワイト近傍のカラーに関して解像度が最大になる。特に、十分な解像度が提供され、一方、信号歪みの大きさが最小限に抑えられる。これについては、詳細な説明の第4章において概説する。
前述した一連の処理全体、すなわちRGB復元は、特に、
− 位相整合のためのポストフィルタの実施、
− 輝度信号処理、
− カラー復元信号処理、特にフォールスカラーフィルタおよび更に別のポストフィルタの実施を含む、
− 輪郭信号処理、
を含み、信号歪みの大きさは、極めて低いレベルに制限される。
− 位相整合のためのポストフィルタの実施、
− 輝度信号処理、
− カラー復元信号処理、特にフォールスカラーフィルタおよび更に別のポストフィルタの実施を含む、
− 輪郭信号処理、
を含み、信号歪みの大きさは、極めて低いレベルに制限される。
また、これは、最終的なJPEG変換に有効である。好ましい構成においては、提案された方法にしたがってスマートグリーン3復元アルゴリズムを実行するために、列と同様に行に関する処理も行なわれる。このような処理は、有利なことに、内部メモリの量および外部メモリとの間でのデータ交換量を減少させる。これは、処理効率および処理速度をサポートする。また、このような手法は、全てのデータ伝送が90°だけ回転される場合にも有効である。
提案された方法は、有利なことに、先に提案した装置、特に計算システム及び/又は半導体デバイス上で実行される。このようなシステムは、有益なことに、画像センサと処理チップとの間に配置される中間メモリインタフェースを備えていてもよい。これにより、有利なことに、フィルタ処理されるピクセルアレイの行の長さ及び数がもはや制限されなくなり、それとともに、無論、外部メモリとの間でのデータ交換量によって処理時間が大きく遅れることはない。その結果、更にリアルタイムな処理が可能になる。計算システムは、任意の種類のプロセッサユニット、システムまたはコンピュータであって良い。
また、リアルタイム処理は、好ましいことに、中間インタフェースとしてのいかなるメモリをも要することなく実行され得る。しかし、この場合、コスト的な理由により、利用可能な行遅延の合計が、特に2に、制限される場合がある。これにより、結果として、輪郭信号の実現化(realization)とともにRGB復元を利用できる垂直タップは3つだけとなる。
また、本発明は、計算システムによって読み取り可能な媒体上に記憶することができるコンピュータプログラムプロダクトであって、プログラムプロダクトが計算システム上で実行される際、特に、プログラムプロダクトがカメラの計算システム上で実行される際に、提案された方法を計算システムに実行させるソフトウェアコードセクションを備えたコンピュータプログラムプロダクトに関する。
ここで、添付図面を参照しつつ、本発明について説明する。詳細な説明は、本発明の好ましい実施形態と見なされるものについて明示して説明している。本発明の思想から逸脱しない範囲で、形態または詳細な内容における様々な改良および変更を簡単に行なうことができることは言うまでもない。したがって、本発明はここで図示して説明した形態や詳細な内容に限定されるものではなく、また、ここに開示され、且つ添付の請求項において記載された本発明の全範囲よりも狭く解釈されるべきではない。更に、単独または併合を考慮した本発明にとって、発明を開示する明細書本文、図面、請求項に記載された特徴は不可欠なものである。
以下の章において、本発明を、図面を参照して詳細に説明する。
1.ホワイト補正された輝度の復元方法の処理フロー
2.ホワイト補正された輝度信号
3.ローパスフィルタ処理された輝度信号Ylf
3.1.マトリクスおよびホワイトバランスの後における高周波成分の付加
3.2.カラーエッジにおける脱飽和
3.3.Ylfフィルタ伝達の決定
3.4.回路の簡略化
4.光学的伝達およびセンサマトリクスに応じてスマートグリーン3を規定
5.結論
1.ホワイト補正された輝度の復元方法の処理フロー
2.ホワイト補正された輝度信号
3.ローパスフィルタ処理された輝度信号Ylf
3.1.マトリクスおよびホワイトバランスの後における高周波成分の付加
3.2.カラーエッジにおける脱飽和
3.3.Ylfフィルタ伝達の決定
3.4.回路の簡略化
4.光学的伝達およびセンサマトリクスに応じてスマートグリーン3を規定
5.結論
添付図面の図は、本発明の好ましい実施形態を示す。
1.ホワイト補正された輝度の復元方法の処理フロー
図1には、中央バスおよび外部メモリインタフェースを有する集積回路の全体的なアーキテクチャの一部が示されている。外部メモリには、中央バスを介して、センサ信号が与えられる。RGBカラー復元および平行輪郭復元を実現するために、センサデータは、外部メモリから、中央バスを介して、上記復元へと回収される。復元後、データは、処理ブロックへと直接に送られ、あるいは、外部メモリへと送り戻される。
1.ホワイト補正された輝度の復元方法の処理フロー
図1には、中央バスおよび外部メモリインタフェースを有する集積回路の全体的なアーキテクチャの一部が示されている。外部メモリには、中央バスを介して、センサ信号が与えられる。RGBカラー復元および平行輪郭復元を実現するために、センサデータは、外部メモリから、中央バスを介して、上記復元へと回収される。復元後、データは、処理ブロックへと直接に送られ、あるいは、外部メモリへと送り戻される。
処理ブロックは、多かれ少なかれ、マトリクス、ホワイトバランス、ニー(knee)およびガンマとして、規格化されたカメラ機能を含む。静止画像またはビデオデータに関して速い実行時間を得るためには、メモリとの間でのデータ交換にかかる時間を制限しなければならないので、復元されたデータを処理ブロックへと直接送ることは重大な問題である。
図2には、提案された方法の好ましい実施形態の更に詳細なブロック図が示されている。以下、この方法を、“スマートグリーン3”信号復元と称する。センサデータは、中央バスを介して、小さいパケットで外部メモリから、復元ブロック内の小さい内部メモリアレイへと送られる。一例として、1つの信号(16ビット)と64個の水平ピクセル×6個の垂直ピクセル(768バイト)とを含む図2におけるこの[1S×64H×6V]アレイから、未処理のセンサデータを復元のためにランダムに読み出すことができる。特に、(64−2×ho)ピクセルの倍数単位で行のセンサデータを処理することができる。ここで、hoは、フィルタアレイの水平オフセットである。n×m復元アレイ(“n”は水平ピクセルであり、“m”は垂直ピクセルである)において、オフセットは、ho=n div 2である。“div”は、最も近い整数へ0の方向に切り捨てることを意味している。したがって、n=3の場合にはho=1であり、n=4またはn=5の場合には、ho=2であり、n=6の場合には、ho=3である。復元できる最初のピクセルは、位置(1+ho)にあり、最後のピクセルは、位置(N−ho)にある。ここで、Nは、センサの行内のピクセルの総数である。センサの行の全てを復元するには、N/(64−2×ho)個のパッケージを復元ブロックへと送る必要がある。図2の下側の部分においては、未処理のセンサデータを用いてRGBカラー信号が復元されている。(低)周波数伝達は、フィルタの重みの選択により、カメラの光学的伝達によって決定される。また、フォールスカラーキラーおよび2×2ポストフィルタが使用されるか否かについても、光学的伝達によって決定される。図2の上側部分においては、RピクセルおよびBピクセルがスマートグリーンパラメータを用いて乗じられている。スマートグリーンパラメータは、例えば、WO99/04555またはEP 01 200 422.2に開示された方法にしたがって取り出されても良い。この特定の信号を用いて、エイリアシングの無い3つの輝度信号、すなわち、輪郭信号、ホワイト補正された輝度信号Yn、低周波輝度信号Ylfが復元される。後者は、復元されたRGB信号とほぼ同じ伝達特性を有している。ホワイト補正された輝度信号Ynから低周波信号Ylfを差し引くことにより、高周波輝度成分、すなわち、(Yn−Ylf)が生成される。好ましい実施形態においては、高周波で望ましくないフォールスカラーを防止するために、(Yn−Ylf)信号は、できれば、各色信号に対して早期に加えられるべきではなく、処理ブロックでのマトリクス機能およびホワイトバランス機能の後に加えられるべきであるという事実を認識することが重要である。全く同じことが輪郭信号においても言える。前述した望ましくないフォールスカラーを防止することが、復元ブロックの総出力が4つ又は3つの信号から成ることの理由である。可能な限り最も速い実行時間の他に、これは、全ての信号を処理ブロックに対して直接に送ることが好ましいということに対する第2の理由である。第3の理由としては、1つの[4S×64H×1V]内部メモリを2倍(1つは、復元ブロックにおいて4つの信号を外部メモリに送るためのものであり、もう1つは、処理ブロックにおいてこれらの信号を再び取り戻すためのものである)を不要にすることを挙げることができる。[4S×64H×1V]内部メモリは、1つの垂直な行の(64−2×ho)個の水平ピクセルから成る4つ(16ビット)の信号の記憶部の意味であり、64個のピクセルに対して概算する場合には、全部で640バイトを収容できる。
例えば、時間のかかる復元及び/又はCPUを介した特定のソフトウェアによる処理において、設計の自由度を最大にする必要がある場合には、2つの[4S×64H×1V]内部メモリ(1つは、復元用であり、もう1つは、処理用である)が適用されなければならない。
図2の上方では、低周波でのオーバーシュートおよびアンダーシュートを防止するオーバーシュート制御プロセッサにより、エイリアシングが無い輪郭が実現される。2次元ステップ過渡信号を用いた2次元鮮明度の改善は、オーバーシュートを制御するのに適した二次元検出信号を実現することによって達成される。いわゆる、このステップ過渡信号は、幾つかのオーバーシュート(およびアンダーシュート)制御方法において使用することができ、それにより、誇張された不自然に見えるオーバーシュートの無い、非常に見栄えのする鮮明度の改善が得られる。内部[4S×64H×1V]メモリに送られる単一の信号に、輪郭および(Yn−Ylf)信号を加えることができる。
以下の章は、以下のように要約することができる。
第2章では、2×2および4×4のフィルタアレイを用いたエイリアシングの無い歪みがゼロの輝度信号Ynの実現化について説明する。次に、低周波RGB復元の実現化について説明する。カラー復元フィルタの詳細は、この出願と同じ日に提出された、国内出願番号ID606638−IIの特許出願に開示され、この特許出願の内容は、これを参照することにより本願に組み込まれる。4×4および6×6のローパスフィルタアレイを用いた低周波輝度信号については、第3章で説明する。4×4および6×6のエイリアシングの無い輪郭信号は、5×5のエイリアシングの無い輪郭−復元−フィルタの代わりに或いは当該フィルタに加えて与えられても良い。輪郭−復元−フィルタの詳細は、この出願と同じ日に提出された、国内出願番号ID505538−IIIの特許出願に開示され、この特許出願の内容は、これを参照することにより本願に組み込まれる。提案された概念は、第4章で詳しく説明するセンサマトリクスおよび光学的伝達に応じて、フレキシブルな方法で改良されても良い。
2.ホワイト補正された輝度信号
ホワイト補正された輝度信号は、スマートグリーンパラメータの計算に基づいている。その例がWO99/04555およびEP 01 200 422.2に示されている。パラメータSmartGcntrlRおよびSmartGcntrlBはそれぞれ、wbrおよびwbbと称される。図3は、赤ピクセルおよび青ピクセルがスマートグリーンパラメータに乗算される様子を示している。次に、4つのピクセルが互いに加えられることにより、ホワイト補正された輝度ピクセルYnが得られる。ピクセルYnの中心は、Rピクセルが最初のピクセルであると見なすと、右側および下側にピクセルの半分だけシフトされている。その結果、復元されるべき他の全ての信号、すなわち、赤緑青および輪郭信号は、このYn信号と同じ中心位置を得なければならない。
ホワイト補正された輝度信号は、スマートグリーンパラメータの計算に基づいている。その例がWO99/04555およびEP 01 200 422.2に示されている。パラメータSmartGcntrlRおよびSmartGcntrlBはそれぞれ、wbrおよびwbbと称される。図3は、赤ピクセルおよび青ピクセルがスマートグリーンパラメータに乗算される様子を示している。次に、4つのピクセルが互いに加えられることにより、ホワイト補正された輝度ピクセルYnが得られる。ピクセルYnの中心は、Rピクセルが最初のピクセルであると見なすと、右側および下側にピクセルの半分だけシフトされている。その結果、復元されるべき他の全ての信号、すなわち、赤緑青および輪郭信号は、このYn信号と同じ中心位置を得なければならない。
ホワイト補正された輝度信号Ynの利点は、5×5のエイリアシングの無い輪郭信号の場合と全く同じである。RGBベイヤー画像センサにおけるエイリアシングの無い輪郭信号は、光ローパスフィルタを必要とすることなく第1のRGBサンプル周波数でスループットがゼロになる固有の5×5平行輪郭フィルタに基づいている。その信号の歪みは、ほぼゼロであり、その結果、目に見えるアーチファクトの無い輪郭信号が得られる。なお、従来から公知の輪郭フィルタは、センサのナイキスト領域の外側で、後に折り返された望ましくない周波数をも増幅する。これにより歪が生じ、その結果画像中における望ましくないエイリアシング成分の視認性を良好にしてしまう。この固有の5×5輪郭フィルタは、これらのエイリアシング副作用を防止するとともに、画像センサの緑チャンネルで生じる緑同士間の差を排除する。特定の利点は以下の通りである。
1.OLPF(光ローパスフィルタ)を必要とすることなく、Yn信号は、第1のRGBサンプル周波数でスループットがゼロになる。そのため、それらの点でエイリアシングが生じなくなる。サンプル周波数の第2の更に高い倍数では、スループットが低いが、レンズのローパスおよびセンサの変調伝達関数(MTF)がここでも有効となる。
2.信号歪みがほぼゼロであり、その結果、目に見えるアーチファクトの無い輝度信号Ynが得られる。
以下では、2×2のホワイト補正された輝度フィルタが特に有利である理由について説明する。
1.画像センサの一連のRGBベイヤーカラー信号中の変調されたカラー情報を排除し、また、画像センサによって生じる緑の不均一性を排除するためには、2×2の単位行列が必要とされる。画像センサによって生じる緑−緑間の差を排除する二次元平行輪郭フィルタを開発するための方法により、RGBベイヤー画像センサの平行輪郭信号中の緑の不均一性を防止することができる。ベイヤー画像センサにおける平行輪郭処理により、画像センサからの緑信号を使用して、RGBカラー復元と並行して二次元輪郭信号を生成することができる。
利点は、シリアル輪郭処理と同様に、余計な行の遅延が必要ないという点である。なお、どのようなOLPF型が使用されたとしても、それが大きな飽和色領域内でこの色変調に影響を及ぼすことはなく、また、緑の不均一性に影響を及ぼすこともない。
2.スマートグリーンパラメータによる乗算は、マトリクスの効果を取り消すために必要である。この場合、マトリクスの係数の合計は単位行列及び/又は周囲のカラー温度の効果に等しくない。
これらは、スマートグリーンパラメータが計算される2つの理由である。これらのパラメータが単位行列でない場合には、カラーセンサは白黒センサとしての機能を果たさない。
図4において、左上部分には試験画像の当初の場面が示されており、一方右下部分には、理論的なFT33マトリクスを用いて実現される画像センサからの画像の信号が示されている。カラー領域部分の変調をはっきりと見ることができ、また明らかに、RGBナイキスト領域の外側にエイリアシングが見られる。
図5において、左上部分にはホワイト補正されていない2×2のフィルタ処理された輝度信号が示されている。一方右下部分には、ホワイト補正された2×2のフィルタ処理された輝度信号が示されている。これらの両方の部分は、理論的なFT33マトリクスを用いてシミュレートされている。そのため、スマートグリーンパラメータは単位行列に等しくない。これは、所望のエイリアシングの無い歪みゼロの輝度信号Ynを実現するためのこれらのパラメータの利点をはっきりと示している。
2×2のホワイト補正された輝度信号Ynの僅かな欠点は、光ローパスフィルタ(OLPF)が適用される際に解像度が減少するという点かもしれない。しかし、この欠点は、4×4フィルタを適用してYnを復元することにより、補償することができる。OLPFのローパス伝達の量に応じて、重みの大きいYnフィルタを選択することができる。図6の左側には、既に述べた2×2のYnフィルタが示されている。中央および右側には、2つの4×4Ynフィルタが示されている。右側のフィルタが“最も重い(heaviest)”フィルタである。これらのフィルタは、OLPFの伝達損失を補償する以外に、レンズの伝達損失を補償するために適用することもできる。
図7,図8,図9には、図6の輝度フィルタに対応する3Dプロットが示されている。これらの3Dプロットは、垂直方向の絶対伝達値を示している。無論、第2および第3のフィルタの重みは、最終的に望ましい伝達特性に応じて、他の値に変えることができる。
4×4のYnフィルタは、緑の均一性を回復するとともに、カラー領域の変調をも排除する。RGBベイヤー画像センサの平行輪郭信号中の緑の不均一性を防止することにより、緑の均一性を回復させることができる。この場合緑の不均一性の防止は、画像センサによって生じる緑同士の間の差を排除する二次元平行輪郭フィルタを発展させることにより行なうことができる。ベイヤー画像センサにおける平行輪郭処理により、画像センサからの緑信号を使用して、RGBカラー復元と同時に二次元輪郭信号を生成することができる。その利点は、シリアル輪郭処理の場合と同様に、余計な行の遅延が必要ないという点である。該して以下の規則が言える。すなわち、隣接する対角フィルタ係数(neighbor diagonal filter coefficients)を差し引きすることにより、寄与度がゼロになる。これにより、隣の緑ピクセルの緑同士の間の差が平均化され、その結果、当該差が無くなる。
図10には、その規則にしたがって緑同士の間の差を無くす方法が示されている。
図11には、カラー領域における変調を無くすための2つの方法が示されている。プラスの係数を有する中央の円は、常に、2つの緑ピクセルと、1つの赤ピクセルと、1つの青ピクセルとを加える。また、結果的に常に2つの緑ピクセルと1つの赤ピクセルと1つの青ピクセルとを加えることになるマイナスの係数の図示の組み合わせは、色変調において伝達がゼロになるという利点を有している。なお、光学的伝達全体と任意の4×4Ynフィルタの重みとの組み合わせに応じて、最終的に望ましくないオーバーシュートおよびアンダーシュートが生じ得ることに注意すべきである。光学的伝達が分かっている場合にだけ、例えばゾーンプレート場面を射止めて処理することにより、係数の選択を行なうことができる。
3.ローパスフィルタ処理された輝度信号Ylf
図12は、2×2のポストフィルタにとって必要な内部メモリを含む列に関するパッケージ伝達を示す他の基本的なブロック図である。この場合、メモリは僅か64ピクセル幅である。
ローパスフィルタ処理された輝度信号Ylfは、3×3または5×5のRGB復元フィルタの伝達特性にほぼ適合させて実現されることが好ましい。ホワイト補正された輝度信号Ynとローパスフィルタ処理された信号Ylfとの間の差、すなわち、(Yn−Ylf)信号は、ローパス復元されたRGBカラー信号の相補的なハイパスフィルタとしての機能を果たす。このハイパス信号は、各RGBカラー信号に対して加えられる。これをマトリクスおよびホワイトバランス後に行なうべきことが好ましい理由について最初に説明する。
3.1.マトリクスおよびホワイトバランスの後における高周波成分の付加
図13の左上部分は、マトリクスおよびホワイトバランスの後に、RGBカラー信号に対して高周波輝度成分Yhfを加えた結果を示している。ここで、Yhfは、(Yn−Ylf)に等しいが、輪郭信号のような他の付加された高周波信号においても全く同じことが言える。右下の部分は、マトリクス前にYhfが加えられた際の望ましくないフォールスカラーを示している。RGBカラーに対して等しい高周波成分Yhfを加えるということは、既存のカラーエッジに対してブラック・ホワイト(すなわち、グレー)成分を加えることを意味している。マトリクスおよびホワイトバランスに起因して、付加されたグレー成分が乱される場合には、高周波においてフォールスカラーが生じる。マトリクスおよびホワイトバランスの前にYhfが加えられた場合には、以下が適用される。
図13の左上部分は、マトリクスおよびホワイトバランスの後に、RGBカラー信号に対して高周波輝度成分Yhfを加えた結果を示している。ここで、Yhfは、(Yn−Ylf)に等しいが、輪郭信号のような他の付加された高周波信号においても全く同じことが言える。右下の部分は、マトリクス前にYhfが加えられた際の望ましくないフォールスカラーを示している。RGBカラーに対して等しい高周波成分Yhfを加えるということは、既存のカラーエッジに対してブラック・ホワイト(すなわち、グレー)成分を加えることを意味している。マトリクスおよびホワイトバランスに起因して、付加されたグレー成分が乱される場合には、高周波においてフォールスカラーが生じる。マトリクスおよびホワイトバランスの前にYhfが加えられた場合には、以下が適用される。
Ro’=(a11×(Ri+Yhf)+a12×(Gi+Yhf)+a13×(Bi+Yhf))×awbR
Go’=(a21×(Ri+Yhf)+a22×(Gi+Yhf)+a23×(Bi+Yhf))
Bo’=(a31×(Ri+Yhf)+a32×(Gi+Yhf)+a33×(Bi+Yhf))×awbB
Go’=(a21×(Ri+Yhf)+a22×(Gi+Yhf)+a23×(Bi+Yhf))
Bo’=(a31×(Ri+Yhf)+a32×(Gi+Yhf)+a33×(Bi+Yhf))×awbB
Ro’,Go’およびBo’は、マトリクスおよびホワイトバランス後の出力信号である。“axx”パラメータは、センサマトリクス値である。(Ri+Yhf)、(Gi+Yhf)、(Bi+Yhf)は、等しいYlf成分が加えられた、マトリクス前のカラー入力信号である。ホワイトバランスパラメータは、awbRおよびawbBである。出力信号の高周波成分を分離させると、以下のようになる。
Ro’=(a11×Ri+a12×Gi+a13×Bi)×awbR+Yhf×(a11+a12+a13)×awbR
Go’=(a21×Ri+a22×Gi+a23×Bi)+Yhf×(a21+a22+a23)
Bo’=(a31×(Ri+a32×Gi+a33×Bi)×awbB+Yhf×(a31+a32+a33)×awbB
Go’=(a21×Ri+a22×Gi+a23×Bi)+Yhf×(a21+a22+a23)
Bo’=(a31×(Ri+a32×Gi+a33×Bi)×awbB+Yhf×(a31+a32+a33)×awbB
ホワイトバランスパラメータawbR,awbBと組み合わせた各マトリクス係数の合計が単位行列になる可能性は極めて小さい。この非常に見込みがない場合においてのみ、高周波におけるカラーバランスが乱されず、他の全ての場合には、カラーバランスが乱される。このような事態を防止するために、マトリクスおよびホワイトバランスの後に、高周波成分Yhfが加えられる。これにより、以下のように有利な結果が得られる。
Ro’=(a11×Ri+a12×Gi+a13×Bi)×awbR+Yhf
Go’=(a21×Ri+a22×Gi+a23×Bi)+Yhf
Bo’=(a31×(Ri+a32×Gi+a33×Bi)×awbB+Yhf
Go’=(a21×Ri+a22×Gi+a23×Bi)+Yhf
Bo’=(a31×(Ri+a32×Gi+a33×Bi)×awbB+Yhf
3.2.カラーエッジにおける脱飽和
各RGBカラー信号に対して(Yn−Ylf)信号を加えることにより、カラー信号の帯域幅が大きくなるが、加えられる周波数成分が高くなればなるほど、カラー飽和度が低くなる。エッジにおけるカラー脱飽和度の大きさは、復元されたRGB信号の伝達特性と(Yn−Ylf)信号の伝達特性との間の差に依存する。(Yn−Ylf)信号の最も高い周波数では、飽和度がゼロになり、その結果、ブラック・ホワイトRGBカラー信号が生じる。図14には、Yn信号の伝達特性と、カラー・輝度低周波信号Rolf,Glf,BlfおよびYlfの伝達特性との間の差に起因する脱飽和度の図が示されている。後者は全て、理想的には、等しい伝達特性を有しているものとする。この特定のケースにおいて、低周波YifとYn伝達曲線との間の領域は、各カラーに対して加えられた輝度成分(Yn−Ylf)である。
各RGBカラー信号に対して(Yn−Ylf)信号を加えることにより、カラー信号の帯域幅が大きくなるが、加えられる周波数成分が高くなればなるほど、カラー飽和度が低くなる。エッジにおけるカラー脱飽和度の大きさは、復元されたRGB信号の伝達特性と(Yn−Ylf)信号の伝達特性との間の差に依存する。(Yn−Ylf)信号の最も高い周波数では、飽和度がゼロになり、その結果、ブラック・ホワイトRGBカラー信号が生じる。図14には、Yn信号の伝達特性と、カラー・輝度低周波信号Rolf,Glf,BlfおよびYlfの伝達特性との間の差に起因する脱飽和度の図が示されている。後者は全て、理想的には、等しい伝達特性を有しているものとする。この特定のケースにおいて、低周波YifとYn伝達曲線との間の領域は、各カラーに対して加えられた輝度成分(Yn−Ylf)である。
また、(図6のフィルタによって有利にもたらされるように)Yn信号の帯域幅を増大させると、すなわち、ゲイン制御によって(Yn−Ylf)高周波成分を増大させる(図2に示される好ましい実施形態の場合のように)と、周波数に応じて脱飽和度が増大する。輪郭フィルタの場合には、(Yn−Ylf)信号の場合と同じ脱飽和規則が重要である。
3.3.Ylfフィルタ伝達の規定
脱飽和の特徴よりも更に重要なことは、カラー信号に対して(Yn−Ylf)を加えることによって得られる鮮明度である。実際には、Ylf伝達特性とカラーフィルタ伝達特性との一致は重要ではない。それにもかかわらず、ここでは、2つの良く一致するローパス輝度フィルタが与えられる。そのうちの1つは、3×3カラー復元フィルタ用であり、もう1つは、5×5カラー復元フィルタ用であり、いずれも2×2ポストフィルタリングを含んでいる。
脱飽和の特徴よりも更に重要なことは、カラー信号に対して(Yn−Ylf)を加えることによって得られる鮮明度である。実際には、Ylf伝達特性とカラーフィルタ伝達特性との一致は重要ではない。それにもかかわらず、ここでは、2つの良く一致するローパス輝度フィルタが与えられる。そのうちの1つは、3×3カラー復元フィルタ用であり、もう1つは、5×5カラー復元フィルタ用であり、いずれも2×2ポストフィルタリングを含んでいる。
フィルタの重みが同じであるため、全(トータル)R,G,B伝達特性は、完全に等しい。ここで、“全(トータル)”とは、Ylfフィルタが一致しなければならない基準伝達特性を得るために、2×2ポストフィルタを含む、1つのカラーの全フィルタの重みが使用されることを意味している。図15には、全RGB伝達特性が示されており、図16には、非常に良く一致するYlf伝達が示されている。これらの4×4フィルタの重みは、緑の不均一性とともに、変調されたカラー情報(第2章の始めで説明した)が排除されるように選択されている。図15および図16の左上角部には、フィルタの重みが示されている。
5×5カラー復元フィルタの赤/青と緑との伝達特性は、一般に、完全には一致していないため、緑伝達特性が基準として選択されている。人間の眼にとって、緑光は、輝度に対する寄与度が最も大きい。図17には、2×2ポストフィルタリングを含む全5×5緑伝達特性が示されている。図18は、厳密に一致する6×6ローパスYlf伝達曲線を示している。このフィルタも、変調されたカラー情報および緑の不均一性を排除している。
図19の右手側には、左手側の3×3RGB復元された信号と2×2ポストフィルタ処理された信号とに対して(Yn−4×4Ylf)高周波信号が加えられた場合における、鮮明度の改善が示されている。2×2Yn信号および単位行列が加えられている。同様の結果が図20に示されている。右手側には、左手側の5×5 3×3RGB復元された信号と2×2ポストフィルタ処理された信号とに対して(Yn−6×6Ylf)高周波信号が加えられた場合における、線明度の改善が見受けられる。ここでは、2×2Yn信号およびFT19マトリクスが加えられている。
ローパスフィルタ処理された輝度信号の帯域幅がカラー信号に対して非常に大きい場合には、高周波成分(Yn−Ylf)の寄与度は小さい。帯域幅が非常に低い場合には、(Yn−Ylf)の寄与度はより大きくなる。小さい帯域幅が好ましいか或いは大きい帯域幅が好ましいかに応じて、他の全ての種類のYlfフィルタを試してみる代わりに、図12に示されるようにゲイン制御を用いて(Yn−Ylf)振幅を変えることが好ましい場合がある。4×4Yn信号(図6に示される)を選択することにより、高周波伝達を制御するための更なる可能性が与えられる。図12は、2×2ポストフィルタにおいて必要な内部メモリを含む、列に関するパッケージ伝達の基本的なブロック図である。なお、この内部メモリは、たった64ピクセル幅である。
Ylfおよびカラーの伝達特性が完全に一致する可能性が以下に示されている。すなわち、図15および図17の全3×3および5×5カラーフィルタの場合と全く同じ係数を用いてローパスYlfフィルタを実現することができる。図24に示されるように何らかの追加の内部メモリを加えることにより、2×2ポストフィルタを実現することができる。ここで、Ylf伝達特性は、カラー伝達曲線と完全に一致する。また、ポストフィルタは、5×5緑フィルタの緑不均一性を排除する。この一致はあまり重要ではなく、回路を簡略化する可能性を排除できる(第3.4章参照)ため、この完全一致の選択肢は好ましくはないが想定し得るものである。
3.4.回路の簡略化
YnおよびYlfフィルタの重みが規定されると、図12のブロック図に示されるように、YnフィルタとYlfフィルタとを組み合わせることができる。
YnおよびYlfフィルタの重みが規定されると、図12のブロック図に示されるように、YnフィルタとYlfフィルタとを組み合わせることができる。
第1の例として、図6の2×2Ynフィルタと図16の4×4Ylfフィルタとが組み合わされる。両方のフィルタの全重み係数は等しくなければならない。Ynフィルタの重みに11を乗じることにより、両方に関して、重みの総和が44になる。2つのフィルタの代わりに1つのフィルタを用いて(Yn−Ylf)信号を得るためには、Ylfの重みがYnの重みから差し引かれなければならない。これにより、図21の左手側に示されるようなフィルタの重みが得られる。振幅を維持するためには、このフィルタの出力信号を22の因数で割らなければならない。図23には、各ハイパス伝達特性が示されている。
第2の例として、図6の中間Ynフィルタとまた図16のYlfフィルタとが組み合わされる。これらのフィルタの重みの合計はそれぞれ、28および44である。これらを4で割ることにより、最も小さい合計因数(sum factors)、すなわち、7および11が得られる。ここで、Ynフィルタの全ての重みに11の因数が掛けられ、Ylfフィルタの全ての重みに7が掛けられることにより、9ビットを必要とする両方に関して308という全重みが得られる。Ynフィルタの乗じられた重み係数からYlfフィルタの乗じられた重み係数を差し引くことにより、図21の真中に示されるように、組み合わされたフィルタの重みが得られる。出力振幅を維持するためには、308の因数で割ることが必要である。
最後の例として、図6の中間Ynフィルタと図18のYlfフィルタとが組み合わされる。これらのフィルタの重みの合計はそれぞれ、28および84である。これらを28で割ることにより、最も小さい合計因数、すなわち、1および3が得られる。ここで、Ynフィルタの全ての重みに3の因数が掛けられ、Ylfフィルタの全ての重みに1が掛けられることにより、両方に関して84という全重みが得られる。Ynフィルタの乗じられた重み係数からYlfフィルタの乗じられた重み係数を差し引くことにより、図21の右側に示されるように、組み合わされたフィルタの重みが得られる。出力振幅を維持するためには、84の因数で割ることが必要である。
図22には、スマートグリーン3の簡略化されたブロック図が示されている。これは、図12から得られる。実験を行なうためには、この構成は、図12の構成よりも幾分自由度がないが、最終的なチップ設計のためには、全く不利ではない。このため、チップ面積および複雑度を軽減するとともに、速度を高めることが更に重要であり得る。したがって、この簡略化提案、すなわち、オーバーシュート制御プロセッサにおけるYn信号の必要性が取り消されても良い。
4.光学的伝達およびセンサマトリクスに応じたスマートグリーン3の規定
これまでのスマートグリーン3の説明では、光学的伝達およびセンサマトリクスの重みに応じてその構成を規定することができた。
これまでのスマートグリーン3の説明では、光学的伝達およびセンサマトリクスの重みに応じてその構成を規定することができた。
重いマトリクスの場合には、光学的伝達とは無関係に、常に、5×5カラー復元フィルタが適用されなければならない。図6の第1、第2、第3のYnフィルタが適用されなければならないか否かは、光学的伝達によって決まる。光学的伝達が高い場合には、第1の2×2信号を使用しなければならず、光学的伝達が低い場合には、第2の2×2信号、あるいは、場合によっては第3の2×2信号を使用しなければならない。赤/青ナイキスト周波数の周辺のフォールスカラーを排除するためには、OLPFが重い場合であっても、フォールスカラーキラーをONに切換えなければならない。
赤/青サンプル周波数を発端とするスループットがほぼゼロの重いOLPFおよび軽いマトリクスの場合には、3×3カラー復元フィルタが選択されても良い。3×3カラーフィルタの結果、図16の4×4Ylfフィルタが選択される。所定の解像度を得るために、第2のYnフィルタ、あるいは、第3のYnフィルタでさえもが適用される場合がある。フォールスカラーキラーをONに切換えることができるが、殆ど有効でない場合には、フォールスカラーキラーをOFFに切換えても良い。OLPFが殆ど無い又は全く無い場合には、3×3カラー復元フィルタ、図16の4×4Ylfフィルタ、2×2Yn信号が使用されても良い。フォールスカラーキラーはONに切換えられなければならない。図6の左のYnフィルタ、中央のYnフィルタ、右のYnフィルタの選択は、光ローパスフィルタリングの量に依存することが明らかになった。OLPFが殆ど無い又は全く無い場合には2×2Yn信号が選択され、そうでない場合には、重いOLPFが使用されるときに、4×4Ynフィルタが選択される。スマートグリーン3カラー復元の場合、フォールスカラーキラーの調整は、従来のスマートグリーン2方法の場合よりも重要度が非常に低い。また、調整手法を適用することもできる。
輪郭フィルタの選択および調整は、個人的な好みに依存する。唯一の指示としては、3×3カラー復元の場合には4×4輪郭フィルタを適用し、5×5カラー復元の場合には6×6輪郭フィルタを適用することである。これらの場合においても、カラーエッジの脱飽和に特に注意を払わなければならない。
5.結論
スマートグリーン3復元方法を用いると、従来のスマートグリーン1方法およびスマートグリーン2方法と比べて、以下の特定の利点が得られる。
スマートグリーン3復元方法を用いると、従来のスマートグリーン1方法およびスマートグリーン2方法と比べて、以下の特定の利点が得られる。
・設計がフレキシブルになる。センサマトリクスの重みに応じて、2つのカラー復元フィルタ間で選択を行なうことができる。その結果(ローパス)輝度フィルタは、規定のアプリケーション仕様となり得る。カメラの光学的伝達に応じて、幾つかの高周波輝度フィルタを選択して調整することができる。
・フォールスカラーキラーが必要な場合には、選択されたカラー復元に応じて、信号は、目に見えるアーチファクト(ホワイトおよびブラックの点)によって殆ど、あるいは、全く影響を受けない。その理由は、スマートグリーン1またはスマートグリーン2よりも強力にローパスフィルタ処理されたカラー復元が使用されるからである。
・生成された全ての輝度信号は、いわゆる輝度ホワイト補正とフィルタの重みとの組み合わせにより、エイリアシングおよび歪みが無い。
・ここで与えられているスマートグリーン3設計の全てのフィルタは、センサによって生じる緑の不均一を排除する。5×5緑復元フィルタは、最終的には、2×2ポストフィルタの助けを借りて、それを行なう。
要約すると、スマートグリーン3は、その自由度および信号の歪みおよびその随意的なフォールスカラーキラーにより、デジタル画像の復元および処理、並びに、ベイヤーカラーフィルタアレイを有するセンサの隣合うビデオピクセルの復元および処理に良好に適合する。
Claims (17)
- 画像センサのセンサ信号が入力として供給され、この入力がフィルタ内で復元されることにより更なる処理のための出力が生成され、前記フィルタは、輝度復元フィルタ、赤緑青カラー復元フィルタおよび輪郭復元フィルタから成るグループから選択された少なくとも1つの復元フィルタを備え、
− 前記入力が複数のピクセルを含み、1つのピクセルが、赤、緑、または、青のカラーのうちの少なくとも1つに対して割り当てられた明度を与える信号処理方法であって、
− 多数のピクセルを備え所定のアレイサイズを有するピクセルアレイに前記復元フィルタを適用するステップであって、前記多数のピクセルのうち少なくとも1つのピクセルは、赤のカラーに対して割り当てられた赤ピクセルによって形成され、前記多数のピクセルのうち少なくとも1つのピクセルは、青のカラーに対して割り当てられた青ピクセルによって形成され、前記多数のピクセルのうち少なくとも1つのピクセルは、緑のカラーに対して割り当てられた緑ピクセルによって形成されているステップと、
− 前記赤ピクセル及び/又は青ピクセルを緑パラメータによって重み付けをするステップと、
− 前記アレイの前記複数のピクセルを1つの出力ピクセルにまとめるステップと、
− 前記出力ピクセルを前記アレイにセンタリングするステップとを具備することを特徴とする信号処理方法。 - 第1のフィルタに続く第2のフィルタの中心出力ピクセルを、前記出力ピクセルと同位相で位置決めすることを、特に、前記中心出力ピクセルを前記出力ピクセルと同じ前記アレイの中心位置にセンタリングすることによって、実行することを特徴とする請求項1に記載の方法。
- 前記復元フィルタが輝度復元フィルタであり、前記アレイの複数のピクセルは、1つのホワイトピクセル内で互いに加えられて出力ピクセルとなることを特徴とする請求項1または請求項2に記載の方法。
- 前記画像センサのセンサマトリクスに基づいて、前記緑パラメータを選択することを特徴とする請求項1から請求項3のいずれか1項に記載の方法。
- 画像信号を前記画像センサに対して供給する光学系の光学的伝達に基づいて、前記緑パラメータを選択することを特徴とする請求項1から請求項4のいずれか1項に記載の方法。
- 前記輝度復元フィルタを2×2または4×4または6×6のアレイサイズに適用することを特徴とする請求項1から請求項5のいずれか1項に記載の方法。
- ローパスフィルタを前記4×4または6×6のアレイサイズに適用することを特徴とする請求項6に記載の方法。
- 前記輝度復元フィルタと前記ローパスフィルタとが1つのフィルタに組み合わされることを特徴とする請求項6または請求項7に記載の方法。
- 前記輝度復元フィルタに続いて、前記カラー復元フィルタを適用し、
特に、前記カラー復元フィルタは、前記入力からフォールスカラーを排除するためにフォールスカラーフィルタを備えることを特徴とする請求項1から請求項8のいずれか1項に記載の方法。 - ポストフィルタを適用することにより、以前に適用された復元フィルタの出力の位相をその出力で維持し、
特に、フォールスカラーフィルタに続く前記ポストフィルタを適用することにより、以前に適用している輝度復元フィルタの位相を維持することを特徴とする請求項1から請求項9のいずれか1項に記載の方法。 - フォールスカラーフィルタに続いて、2×2アレイサイズのポストフィルタを適用することにより、グルーンピクセルの所定の小さなアレイの中心出力ピクセルを、輝度復元フィルタが適用されたアレイと同じアレイに対してセンタリングされたホワイトピクセルと同じ位相で位置決めをすることを特徴とする請求項10に記載の方法。
- 特に、光ローパスフィルタリングが全く無い場合あるいは僅かしか無い場合に輝度復元フィルタを2×2のアレイサイズに適用することにより、及び/又は、光ローパスフィルタリングがより重い場合に各輝度復元フィルタを更に大きい4×4または6×6のアレイサイズに適用することにより、装置に対して様々な輝度復元フィルタを提供することを特徴とする請求項1から請求項11のいずれか1項に記載の方法。
- 特に、4×4輝度復元フィルタの場合に3×3カラー復元フィルタを適用することにより、及び/又は、6×6輝度復元フィルタの場合に5×5カラー復元フィルタを適用することにより、装置に対して様々なカラー復元フィルタを提供することを特徴とする請求項1から請求項12のいずれか1項に記載の方法。
- 請求項1から請求項13のいずれか1項に記載の方法を特に実行するように適合された信号処理装置であって、
センサ信号を入力として供給する画像センサと、前記入力を復元して更なる処理のための出力を生成するフィルタとを備え、前記フィルタは、輝度復元フィルタ、赤緑青カラー復元フィルタおよび輪郭復元フィルタから成るグループから選択される少なくとも1つの復元フィルタを備え、
− 前記入力が複数のピクセルを含み、1つのピクセルが、赤、緑、または、青のカラーのうちの少なくとも1つに対して割り当てられる明度を与える信号処理装置において、
− 前記復元フィルタは、多数のピクセルを備え所定のアレイサイズを有するピクセルアレイに適用されるように構成されており、前記多数のピクセルのうち少なくとも1つのピクセルは、赤のカラーに対して割り当てられた赤ピクセルによって形成され、前記多数のピクセルのうち少なくとも1つのピクセルは、青のカラーに対して割り当てられた青ピクセルによって形成され、前記多数のピクセルのうち少なくとも1つのピクセルは、緑のカラーに対して割り当てられた緑ピクセルによって形成され、
− 前記赤ピクセル及び/又は青ピクセルを緑パラメータによって重み付けをする手段と、
− 前記アレイの前記複数のピクセルを1つの出力ピクセルにまとめる手段と、
− 前記出力ピクセルを前記アレイにセンタリングする手段とを更に備えることを特徴とする信号処理装置。 - 前記計算システム、特にカメラの計算システムによって読み取り可能な媒体上に記憶することができるコンピュータプログラムプロダクトであって、
前記計算システムを含むソフトウェアコードセクションを備え、前記プログラムプロダクトが前記計算システム上で実行される際、特に、前記プログラムプロダクトがカメラの計算システム上で実行される際に、請求項1から請求項13のいずれか1項に記載の方法を実行するコンピュータプログラムプロダクト。 - 請求項15に記載のコンピュータプログラムプロダクトを実行し及び/又は記憶するための計算システム及び/又は半導体デバイス、特にカメラの計算システム。
- 光学系と、画像センサと、請求項12に記載の装置または請求項16に記載の計算システムとを備えるカメラ。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP02077689 | 2002-07-04 | ||
PCT/IB2003/002656 WO2004006565A2 (en) | 2002-07-04 | 2003-06-24 | Method and apparatus for signal processing, computer program product, computing system and camera |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005532004A true JP2005532004A (ja) | 2005-10-20 |
Family
ID=30011155
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004519066A Withdrawn JP2005532004A (ja) | 2002-07-04 | 2003-06-24 | 信号処理方法、信号処理装置、コンピュータプログラムプロダクト、コンピュータシステム、およびカメラ |
Country Status (8)
Country | Link |
---|---|
US (1) | US7573515B2 (ja) |
EP (1) | EP1522046B1 (ja) |
JP (1) | JP2005532004A (ja) |
CN (1) | CN1666229A (ja) |
AT (1) | ATE426869T1 (ja) |
AU (1) | AU2003239746A1 (ja) |
DE (1) | DE60326852D1 (ja) |
WO (1) | WO2004006565A2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2003236988A1 (en) * | 2002-07-04 | 2004-01-23 | Koninklijke Philips Electronics N.V. | Method and apparatus for signal processing, computer program product, computing system and camera |
JP2005532002A (ja) * | 2002-07-04 | 2005-10-20 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 信号処理方法、信号処理装置、コンピュータプログラムプロダクト、コンピュータシステム、および、カメラ |
US7456881B2 (en) | 2006-01-12 | 2008-11-25 | Aptina Imaging Corporation | Method and apparatus for producing Bayer color mosaic interpolation for imagers |
US8005297B2 (en) * | 2006-01-18 | 2011-08-23 | Qualcomm Incorporated | Method and apparatus for adaptive and self-calibrated sensor green channel gain balancing |
EP2377307B1 (en) * | 2008-12-18 | 2015-11-11 | Omnivision Technologies, Inc. | Image sensor apparatus and method for line buffer efficient lens distortion correction |
KR101391161B1 (ko) * | 2009-12-04 | 2014-05-07 | 캐논 가부시끼가이샤 | 화상처리장치 |
CN105556944B (zh) * | 2012-11-28 | 2019-03-08 | 核心光电有限公司 | 多孔径成像系统和方法 |
CN116074484A (zh) * | 2023-01-15 | 2023-05-05 | 山东产研卫星信息技术产业研究院有限公司 | 一种CMOS卫星影像的Bayer色彩重建方法 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3704238B2 (ja) * | 1997-03-31 | 2005-10-12 | 株式会社リコー | 撮像装置 |
WO1999004555A2 (en) | 1997-07-15 | 1999-01-28 | Koninklijke Philips Electronics N.V. | Color sample interpolation |
JP4408962B2 (ja) | 1998-01-29 | 2010-02-03 | エヌエックスピー ビー ヴィ | 色信号補間方法、装置及びカメラ |
US6507364B1 (en) * | 1998-03-13 | 2003-01-14 | Pictos Technologies, Inc. | Edge-dependent interpolation method for color reconstruction in image processing devices |
US6330029B1 (en) * | 1998-03-17 | 2001-12-11 | Eastman Kodak Company | Particular pattern of pixels for a color filter array which is used to derive luminance and chrominance values |
US6320593B1 (en) * | 1999-04-20 | 2001-11-20 | Agilent Technologies, Inc. | Method of fast bi-cubic interpolation of image information |
US6791609B2 (en) * | 1999-12-20 | 2004-09-14 | Texas Instruments Incorporated | Digital still camera system and method |
NL1014018C2 (nl) | 2000-01-05 | 2001-07-24 | Arnoud Bruins Jan Van Houten | Serviceplatform voor interactief berichtenverkeer. |
JP3706789B2 (ja) * | 2000-05-12 | 2005-10-19 | キヤノン株式会社 | 信号処理装置及び信号処理方法 |
JP4055927B2 (ja) * | 2000-08-25 | 2008-03-05 | シャープ株式会社 | 画像処理装置およびデジタルカメラ |
-
2003
- 2003-06-24 EP EP03732935A patent/EP1522046B1/en not_active Expired - Lifetime
- 2003-06-24 WO PCT/IB2003/002656 patent/WO2004006565A2/en active Application Filing
- 2003-06-24 CN CN038158973A patent/CN1666229A/zh active Pending
- 2003-06-24 JP JP2004519066A patent/JP2005532004A/ja not_active Withdrawn
- 2003-06-24 US US10/519,060 patent/US7573515B2/en not_active Expired - Fee Related
- 2003-06-24 AT AT03732935T patent/ATE426869T1/de not_active IP Right Cessation
- 2003-06-24 AU AU2003239746A patent/AU2003239746A1/en not_active Abandoned
- 2003-06-24 DE DE60326852T patent/DE60326852D1/de not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
US20050254117A1 (en) | 2005-11-17 |
AU2003239746A1 (en) | 2004-01-23 |
US7573515B2 (en) | 2009-08-11 |
WO2004006565A3 (en) | 2004-03-04 |
ATE426869T1 (de) | 2009-04-15 |
EP1522046A2 (en) | 2005-04-13 |
EP1522046B1 (en) | 2009-03-25 |
CN1666229A (zh) | 2005-09-07 |
DE60326852D1 (de) | 2009-05-07 |
WO2004006565A2 (en) | 2004-01-15 |
AU2003239746A8 (en) | 2004-01-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5155871B2 (ja) | モザイクドメインにおける画像向上 | |
US7907791B2 (en) | Processing of mosaic images | |
US8537234B2 (en) | Image restoration with enhanced filtering | |
US20030169353A1 (en) | Method and apparatus for processing sensor images | |
US20060227222A1 (en) | Green reconstruction for image sensors | |
GB2408888A (en) | Reducing the effects of noise in colour correction | |
JP2007325253A (ja) | ビデオ信号に関する再帰的フィルタ・システム | |
JP2005532004A (ja) | 信号処理方法、信号処理装置、コンピュータプログラムプロダクト、コンピュータシステム、およびカメラ | |
EP1522048B1 (en) | Method and apparatus for signal processing, computer program product, computing system and camera | |
EP1522047B1 (en) | Method and apparatus for signal processing, computer program product, computing system and camera | |
JP2004173060A (ja) | ノイズ除去方法、撮像装置およびノイズ除去プログラム | |
KR20050016750A (ko) | 신호 처리 방법 및 장치, 컴퓨터 프로그램 제품, 컴퓨터시스템, 반도체 장치, 및 카메라 | |
TWI419079B (zh) | 於馬賽克域之影像加強 | |
KR20050016978A (ko) | 신호 처리 방법 및 장치, 컴퓨터 프로그램 제품, 컴퓨팅시스템 및 카메라 | |
IL191290A (en) | Image enhancement in the mosaic domain |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060622 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20070508 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20080321 |