JP5428628B2 - 画像処理装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP5428628B2 JP5428628B2 JP2009183130A JP2009183130A JP5428628B2 JP 5428628 B2 JP5428628 B2 JP 5428628B2 JP 2009183130 A JP2009183130 A JP 2009183130A JP 2009183130 A JP2009183130 A JP 2009183130A JP 5428628 B2 JP5428628 B2 JP 5428628B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- component
- edge
- pixels
- edge direction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
- H04N2209/046—Colour interpolation to calculate the missing colour values
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Description
は、光の三原色に相当するR(赤)、G(緑)、B(青)の微細なカラーフィルターがモ
ザイク状に配列されたカラーフィルターアレイを使用して、カラー画像データを生成する
技術に関する。
り扱うことが一般的になっている。例えば、デジタルカメラなどの撮影機器を用いれば、
画像を撮影すると直ちに、画像データの形態で出力することが可能である。このような撮
影機器には、光の強さを電気信号に変換する小さな素子が集まって構成された言わば電子
的な撮像板が搭載されている。そして、光学系を用いて被写体の像を撮像板の上に結像さ
せ、個々の素子での光の強さを電気信号として検出することによって、画像データを生成
している。また、光学系に入射した光を、光の三原色に相当するR、G、Bの各成分に分
離した後に撮像板上に結像させて、各成分の光の強さに対応する電気信号を出力すれば、
カラー画像データを生成することも可能である。
像させる方法としては、最も単純には、入射光を分光プリズムによって色成分毎に分離し
た後に、撮像板に結像させてR、G、Bの成分毎に画像データを生成する方法が考えられ
る。もっとも、これでは3つの撮像板が必要になる。そこで、撮像板を構成する各素子に
R、G、Bの何れかの色成分を割り振っておき、1つの撮像板でR、G、Bの各成分を検
出する方式も広く用いられている。この方式では、R成分を検出する素子の前にはR成分
のみを透過する小さなカラーフィルターを設け、G成分を検出する素子の前にはG成分の
みを透過するカラーフィルターを、そしてB成分を検出する素子の前にはB成分のみを透
過するカラーフィルターを設けることで、1つの撮像板でR、G、Bの各成分の画像デー
タを同時に検出する。もちろん、1つの撮像板でR、G、Bの各成分を検出する方式では
、ある成分(例えばR成分)を検出した素子では他の成分(例えばG成分やB成分)を検
出することはできない。従って、得られる画像データは、R成分を検出した画素と、G成
分を検出した画素と、B成分を検出した画素とが組み合わさったモザイク状の画像データ
となるが、足らない色成分は周辺の画素から補間することによって、全ての画素について
R、G、Bの各成分が揃ったカラー画像データを生成することが可能である。
で、R、G、Bの各成分の画像データを生成する撮影機器は、「3板式」の撮影機器と呼
ばれることがある。また、1つの撮像板を用いてモザイク状の画像データを生成した後、
欠落した色成分を補間によって求める方式の撮影機器は、「単板式」の撮影機器と呼ばれ
ることがある。更に、モザイク状の画像データから欠落した色成分を補って、R、G、B
の各成分が揃ったカラー画像データを生成する処理は、「デモザイク処理」と呼ばれるこ
とがある。
り、その演算のための時間が必要になるだけでなく、演算時に生じる補間誤差によってい
わゆる偽色が発生することがある。そこで、偽色の発生を回避しながら、出来るだけ補間
演算に要する時間の増加は抑制することを目的として種々の技術が提案されている。例え
ば、欠落した色成分を求めた後、各画素についての色差成分(例えばG成分とR成分との
差)を求めておき、注目画素を含んだ所定数の画素列の中で、色差成分が最大の画素およ
び最小の画素はノイズとして省いた上で、注目画素の各色成分を再計算する技術が提案さ
れている(特許文献1参照)。あるいは、各画素について求めた色差成分にローパスフィ
ルターを施した後、ノイズ成分が除去された色成分に基づいて各色成分を再計算する技術
も提案されている(特許文献2参照)。
より一層抑制することの可能なデモザイク処理技術の開発が要請されている。また、消費
者の画質に対する要請に対応するべく、撮影機器で撮影する画像の画素数も年々増加して
おり、このことに対応して、より迅速に実行することの可能なデモザイク処理技術の開発
が要請されている。
同時に満足させるためになされたものであり、偽色の発生をより一層抑制可能でありなが
ら、迅速にデモザイク処理を実行可能な技術の提供を目的とする。
採用した。すなわち、光の三原色に対応するR、G、Bの色成分が画素毎に一成分ずつ設
定された画像データであるモザイク画像データを受け取って、該モザイク画像データに所
定の画像処理を施すことにより、各画素にR、G、Bの全ての色成分が設定されたカラー
画像データを生成する画像処理装置であって、前記モザイク画像データは、前記R成分の
画素と前記G成分の画素とが縦方向に交互に並んだ画素列と、前記G成分の画素と前記B
成分の画素とが縦方向に交互に並んだ画素列と、前記R成分の画素と前記G成分の画素と
が横方向に交互に並んだ画素行と、前記G成分の画素と前記B成分の画素とが横方向に交
互に並んだ画素行とが組み合わされて構成された画像データであり、前記モザイク画像デ
ータの前記画素列毎に、該画素列内の各画素での前記G成分と他の色成分とを補間によっ
て算出し、該G成分と該他の色成分との差を示す縦方向色差成分を、該画素列の各画素に
ついて算出する縦方向色差成分算出手段と、前記モザイク画像データの前記画素行毎に、
該画素行内の各画素での前記G成分と他の色成分とを補間によって算出し、該G成分と該
他の色成分との差を示す横方向色差成分を、該画素行の各画素について算出する横方向色
差成分算出手段と、前記モザイク画像データの中から前記R成分または前記B成分が設定
された画素を選択し、該選択された画素の前記縦方向色差成分の変化量と前記横方向色差
成分の変化量とを比較することにより、該画素でのエッジ方向を決定するエッジ方向決定
手段と、前記決定されたエッジ方向を前記選択された画素毎に記憶することにより、前記
R成分の各画素および前記B成分の各画素に該エッジ方向が設定されたエッジ方向マップ
を生成するエッジ方向マップ生成手段と、前記エッジ方向マップに設定された前記エッジ
方向を、周辺の画素の該エッジ方向と比較することにより、誤って決定された該エッジ方
向であるエッジノイズを検出して、該エッジノイズを除去するエッジノイズ除去手段と、
前記モザイク画像データの各画素について該画素に設定されていない色成分である欠落色
成分を、前記エッジノイズが除去された前記エッジ方向マップを参照しながら、該モザイ
ク画像データに設定されている前記色成分に基づいて補間する欠落色成分補間手段とを備
えることを要旨とする。
R、G、Bの色成分が画素毎に一成分ずつ設定された画像データであるモザイク画像デー
タを受け取って、該モザイク画像データに所定の画像処理を施すことにより、各画素にR
、G、Bの全ての色成分が設定されたカラー画像データを生成する画像処理方法であって
、前記モザイク画像データは、前記R成分の画素と前記G成分の画素とが縦方向に交互に
並んだ画素列と、前記G成分の画素と前記B成分の画素とが縦方向に交互に並んだ画素列
と、前記R成分の画素と前記G成分の画素とが横方向に交互に並んだ画素行と、前記G成
分の画素と前記B成分の画素とが横方向に交互に並んだ画素行とが組み合わされて構成さ
れた画像データを受け取る第1の工程と、前記モザイク画像データの前記画素列毎に、該
画素列内の各画素での前記G成分と他の色成分とを補間によって算出し、該G成分と該他
の色成分との差を示す縦方向色差成分を、該画素列の各画素について算出する第2の工程
と、前記モザイク画像データの前記画素行毎に、該画素行内の各画素での前記G成分と他
の色成分とを補間によって算出し、該G成分と該他の色成分との差を示す横方向色差成分
を、該画素行の各画素について算出する第3の工程と、前記モザイク画像データの中から
前記R成分または前記B成分が設定された画素を選択し、該選択された画素の前記縦方向
色差成分の変化量と前記横方向色差成分の変化量とを比較することにより、該画素でのエ
ッジ方向を決定する第4の工程と、前記決定されたエッジ方向を前記選択された画素毎に
記憶することにより、前記R成分の各画素および前記B成分の各画素に該エッジ方向が設
定されたエッジ方向マップを生成する第5の工程と、前記エッジ方向マップに設定された
前記エッジ方向を、周辺の画素の該エッジ方向と比較することにより、誤って決定された
該エッジ方向であるエッジノイズを検出して、該エッジノイズを除去する第6の工程と、
前記モザイク画像データの各画素について該画素に設定されていない色成分である欠落色
成分を、前記エッジノイズが除去された前記エッジ方向マップを参照しながら、該モザイ
ク画像データに設定されている前記色成分に基づいて補間する第7の工程とを備えること
を要旨とする。
け取ると、該モザイク画像データを構成する画素列毎に縦方向色差成分を算出するととも
に、該モザイク画像データを構成する画素行毎に横方向色差成分を算出する。モザイク画
像データは、画素列としては、R成分の画素とG成分の画素とが縦方向に交互に並んだ画
素列と、G成分の画素とB成分の画素とが縦方向に交互に並んだ画素列とから構成されて
おり、画素行としては、R成分の画素とG成分の画素とが横方向に交互に並んだ画素行と
、G成分の画素とB成分の画素とが横方向に交互に並んだ画素行とから構成されている。
従って、縦方向色差成分としては、G成分とR成分との差を表す色差成分、あるいはG成
分とB成分との差を表す色差成分の何れかが、画素列毎に得られることになる。同様に、
横方向色差成分としては、G成分とR成分との差を表す色差成分、あるいはG成分とB成
分との差を表す色差成分の何れかが、画素行毎に得られることになる。次いで、モザイク
画像データ中からR成分またはB成分が設定された画素を選択し、選択した画素での縦方
向色差成分の変化量と横方向色差成分の変化量とを比較することによって、その画素での
エッジ方向を決定する。上述したように、縦方向色差成分および横方向色差成分は、何れ
もG成分とR成分との色差成分か、G成分とB成分との色差成分の何れかしか取り得ない
から、R成分が設定された画素であれば、縦方向色差成分も横方向色差成分もG成分とR
成分との色差成分となるため、縦横の色差成分を比較することによって、その画素でのエ
ッジの方向を決定することができる。同様に、B成分が設定された画素であれば、縦方向
色差成分も横方向色差成分もG成分とB成分との色差成分となるため、縦横の色差成分を
比較することでエッジの方向を決定することができる。こうして、R成分の画素およびB
成分の各画素についてエッジ方向を決定することにより、エッジ方向マップを生成する。
次いで、エッジ方向マップに設定されたエッジ方向を周辺のエッジ方向と比較して、エッ
ジノイズを除去することにより、正確なエッジ方向マップを生成する。モザイク画像デー
タの各画素について、その画素に設定されていない色成分である欠落色成分を補間する際
には、こうして正しく決定されたエッジの方向を参照しながら補間することで、モザイク
画像データに設定されている色成分から、欠落色成分を適切に補間することが可能となり
、適切なカラー画像データを生成することが可能となる。
としても良い。先ず、エッジ方向マップの中からエッジ方向が設定されている画素を1つ
選択して、エッジ方向がエッジノイズか否かを判断するための判断画素として設定する。
次いで、判断画素から縦方向へ2画素目の位置にある2つの画素でのエッジ方向が同じか
否か、または判断画素から横方向へ2画素目の位置にある2つの画素でのエッジ方向が同
じか否かを判断する。そして、少なくとも何れか一方の2つのエッジ方向が同じで、且つ
、そのエッジ方向が、判断画素のエッジ方向とは異なる場合に、判断画素のエッジ方向が
エッジノイズであると判断して、そのエッジ方向を異なるエッジ方向に変更することとし
てもよい。
た方法を適用することにより、エッジ方向マップに含まれるエッジ方向を効果的に除去す
ることが可能となる。
イズか否かを判断するための判断画素を、エッジ方向マップの中から1つ選択する。次い
で、判断画素に斜め方向に隣接する4つの画素を選択し、それら4つの画素に設定されて
いるエッジ方向が全て同じであり、且つ、判断画素のエッジ方向とは異なっているか否か
を判断する。そして、このような判断画素が見つかった場合には、次の条件を満たさない
限り、その判断画素のエッジ方向はエッジノイズであると判断して、エッジ方向を変更す
る。すなわち、その判断画素から、縦方向へ所定画素数以内にある全ての画素、または横
方向へ所定画素数以内にある全ての画素の何れか一方を選択する。そして、選択した画素
に設定されている全てのエッジ方向が、判断画素のエッジ方向と同じでない限り、判断画
素のエッジ方向は、エッジノイズであると判断する。
なっている。従って、判断画素から斜め方向に見たときに、両側から異なるエッジ方向で
挟まれた状態となっていたとしても、直ちに判断画素のエッジ方向がエッジノイズである
と判断することはできない。しかし、判断画素に斜めに隣接する4つの画素のエッジ方向
が全て同じであり、且つ、そのエッジ方向が判断画素のエッジ方向とは異なっている場合
には、判断画素のエッジ方向がエッジノイズである可能性が高くなる。従って、このよう
な場合には、判断画素を中心として、縦方向または横方向に存在する同じ色成分の画素の
エッジ方向を参照する。すなわち、判断画素を中心として、縦方向へ所定画素数以内にあ
る全ての画素、または横方向へ所定画素数以内にある全ての画素の何れか一方を選択して
、これらの画素のエッジ方向を参照する。そして、縦方向または横方向の何れかで、判断
画素を含めて同じエッジ方向が連続していれば、判断画素のエッジ方向はエッジノイズで
はないが、そうでない場合は、エッジノイズであると判断すれば、適切にエッジノイズを
除去することができる。
像データの同じ色成分間での変化量が、所定の第1の閾値よりも小さく、且つ、第2の閾
値(第1の閾値よりは小さい)よりも大きな領域を抽出する。そして、この領域内の画素
に設定されているエッジ方向に対して、エッジノイズを除去するようにしてもよい。
誤判定してしまう可能性も無いとは言いきれない。そして、こうした事態が発生すると、
エッジ方向マップに、却って新たなエッジノイズを導入する結果になってしまう。そこで
、エッジ方向マップの全領域に対してエッジノイズを除去するのではなく、真に必要のあ
る領域に対してだけ、エッジノイズを除去するようにすれば、新たなエッジノイズを導入
する可能性を減少させることができる。すなわち、偽色の発生し難い領域では、エッジノ
イズの存在が問題となることはなく、モザイク画像データが同じ色成分間で大きく変化す
る領域や、ほとんど変化しない領域では、偽色が発生し難いことが、経験上から分かって
いる。従って、モザイク画像データの同じ色成分間での変化量が、所定の第1の閾値より
も小さく、且つ、第2の閾値(第1の閾値よりは小さい)よりも大きな領域を抽出して、
この領域についてだけエッジノイズを除去することとすれば、エッジ方向マップに新たな
エッジノイズを導入する可能性を減少させることができる。また、エッジノイズを除去す
る領域が限定されるため、エッジ方向マップからエッジノイズを迅速に除去することが可
能となる。
除去するようにしても良い。
とは限らない。エッジノイズの配置によっては、僅かなエッジノイズが残ってしまう可能
性もある。また、エッジノイズの特性によっては、1つの方法では、エッジノイズを除去
しきれない可能性もある。このような場合でも、エッジノイズを除去してエッジ方向マッ
プに対して、同じ方法あるは違う方法を用いて、重ねてエッジノイズを除去してやること
で、より確実にエッジノイズを除去することが可能となる。
に読み込ませ、所定の機能を実行させることで、コンピューターを用いても実現すること
が可能である。従って、本発明は、次のようなプログラムとしての態様も含んでいる。す
なわち、上述した画像処理方法に対応する本発明のプログラムは、光の三原色に対応する
R、G、Bの色成分が画素毎に一成分ずつ設定された画像データであるモザイク画像デー
タを受け取って、該モザイク画像データに所定の画像処理を施すことにより、各画素にR
、G、Bの全ての色成分が設定されたカラー画像データを生成する方法を、コンピュータ
ーを用いて実現するためのプログラムであって、前記モザイク画像データは、前記R成分
の画素と前記G成分の画素とが縦方向に交互に並んだ画素列と、前記G成分の画素と前記
B成分の画素とが縦方向に交互に並んだ画素列と、前記R成分の画素と前記G成分の画素
とが横方向に交互に並んだ画素行と、前記G成分の画素と前記B成分の画素とが横方向に
交互に並んだ画素行とが組み合わされて構成された画像データを受け取る第1の機能と、
前記モザイク画像データの前記画素列毎に、該画素列内の各画素での前記G成分と他の色
成分とを補間によって算出し、該G成分と該他の色成分との差を示す縦方向色差成分を、
該画素列の各画素について算出する第2の機能と、前記モザイク画像データの前記画素行
毎に、該画素行内の各画素での前記G成分と他の色成分とを補間によって算出し、該G成
分と該他の色成分との差を示す横方向色差成分を、該画素行の各画素について算出する第
3の機能と、前記モザイク画像データの中から前記R成分または前記B成分が設定された
画素を選択し、該選択された画素の前記縦方向色差成分の変化量と前記横方向色差成分の
変化量とを比較することにより、該画素でのエッジ方向を決定する第4の機能と、前記決
定されたエッジ方向を前記選択された画素毎に記憶することにより、前記R成分の各画素
および前記B成分の各画素に該エッジ方向が設定されたエッジ方向マップを生成する第5
の機能と、前記エッジ方向マップに設定された前記エッジ方向を、周辺の画素の該エッジ
方向と比較することにより、誤って決定された該エッジ方向であるエッジノイズを検出し
て、該エッジノイズを除去する第6の機能と、前記モザイク画像データの各画素について
該画素に設定されていない色成分である欠落色成分を、前記エッジノイズが除去された前
記エッジ方向マップを参照しながら、該モザイク画像データに設定されている前記色成分
に基づいて補間する第7の機能とを実現させることを要旨とする。
せることにより、モザイク画像データの欠落色成分を適切に補間して、偽色の発生を回避
しながら、迅速にカラー画像データを生成することが可能となる。
例を説明する。
A.装置構成:
B.カラー画像データ生成処理の概要:
C.エッジ方向マップ生成処理:
D.エッジノイズ除去処理:
D−1.孤立ノイズ(isolated noise)除去処理:
D−2.クラスターノイズ(small cluster noise)除去処理:
E.G成分補間処理:
F.非G画素補間処理:
G.G画素補間処理:
H.変形例:
H−1.第1の変形例:
H−2.第2の変形例:
H−3.第3の変形例:
図1は、本実施例の画像処理装置30を搭載したデジタルカメラ100の構成を示す説
明図である。図示されるように、デジタルカメラ100は、複数のレンズ群から構成され
る光学系10と、光学系10によって結像された被写体の像を電気信号に変換する撮像部
20と、撮像部20で得られた電気信号を受け取って所定の画像処理を施すことにより、
カラー画像データを生成する画像処理装置30などから構成されている。
て構成された撮像板24が搭載されており、撮像板24の手前側には、R(赤)、G(緑
)、B(青)の微細なカラーフィルターがモザイク状に配列されたカラーフィルターアレ
イ22が設けられている。カラーフィルターアレイ22を構成するR、G、Bのカラーフ
ィルターの配置については後述するが、RのカラーフィルターではR色の光を主に透過し
、GのカラーフィルターではG色の光を主に透過し、BのカラーフィルターではB色の光
を主に透過するため、撮像板24では、R、G、Bのカラーフィルターの配置に従って、
Rの光の強さに対応する部分と、Gの光の強さに対応する部分と、Bの光の強さに対応す
る部分とが、モザイク状に組み合わされた画像データが得られることになる。
データを撮像部20から受け取って、各画素にR成分、G成分、B成分が設定されたカラ
ー画像データを生成する処理を行う。図示されているように、本実施例の画像処理装置3
0は、CPUや、ROM、RAM、データの入出力を行うI/Fなどが、バスを介して互
いにデータをやり取り可能に接続されて構成されており、カラー画像データを生成する処
理は、ROMに記憶されているプログラムに従ってCPUが所定の動作を行うことによっ
て実現されている。また、こうして得られたカラー画像データは、外部出力端子40を介
して外部機器に出力したり、あるいは外部記録媒体50に出力することも可能となってい
る。
像データは、画像処理装置30が、各画素にR、G、Bの各成分が設定されたカラー画像
データを生成するための元になる画像データであることから、撮像板24で得られるモザ
イク状の画像データは「RAW画像データ」と呼ばれることがある。
である。前述したように撮像板24は、光の強さに応じた電気信号を出力する微細な撮像
素子が、二次元的に配置されて構成されている。図2では、微細な撮像素子が格子状に配
置されている場合を表しており、撮像板24を格子状に分割する小さなマス目の1つ1つ
は、撮像素子を概念的に表したものである。
ーフィルター、Gのカラーフィルター、Bのカラーフィルターの何れかが設定された構成
となっている。図2では、Rのカラーフィルターには粗い斜線を施して表示し、Bのカラ
ーフィルターには細かい斜線を施して表示してある。また、斜線を施していない部分は、
Gのカラーフィルターが設定されていることを示している。これらR、G、Bのカラーフ
ィルターの配置は、先ずGのフィルターを、互いが斜めの位置となるように(すなわち、
チェッカーフラッグ状となるように)配置する。この結果、カラーフィルターアレイ22
の半分の位置にはGのフィルターが配置されることになる。次いで、残りの半分の位置に
、RのフィルターおよびBのフィルターを、それぞれ同数ずつ均等に配置する。このよう
にして得られた図2に示す配置のカラーフィルターは、「ベイヤー型カラーフィルター」
と呼ばれている。
はR色の光のみを、BのカラーフィルターはB色の光のみを透すから、撮像板24の手前
側にベイヤー型のカラーフィルターアレイ22を設けると、図2に示すように、撮像板2
4ではモザイク状の画像データが生成されることになる。もちろん、このような形式の画
像データは、通常の画像データと同じように取り扱うことはできず、そのままでは画像を
表示することができない。そこで、画像処理装置30は、このような画像データ(RAW
画像データ)を受け取って、画素毎にR、G、Bの各成分が設定された通常のカラー画像
データを生成する処理を行う。
図3は、本実施例の画像処理装置30が、RAW画像データからカラー画像データを生
成するために実行するカラー画像データ生成処理の流れを示すフローチャートである。尚
、かかる処理は、本実施例では画像処理装置30に搭載されたCPUが実行するものとし
て説明するが、もちろん、シグナルプロセッサーなどの専用のハードウェアを用いて実行
することとしてもよい。
4から読み込む処理を行う(ステップS100)。次いで、読み込んだRAW画像データ
を、色差成分のデータに変換する処理を行う(ステップS102)。これは次のような処
理である。
である。図の上段には、撮像板24から読み込んだRAW画像データが概念的に示されて
いる。ベイヤー型のカラーフィルターによって得られたRAW画像データは、R成分、G
成分、B成分の画素がモザイク状に配置された画像データとなっているが、水平方向に注
目して観察すると、水平方向の画素列には、G画素(G成分が得られている画素)とR画
素(R成分が得られている画素)とが交互に現れる画素列か、若しくは、G画素とB画素
(B成分が得られている画素)とが交互に現れる画素列の何れかしか存在しない。また、
上下方向に注目して観察した場合も同様に、上下方向の画素列には、G画素とR画素とが
交互に現れる画素列か、G画素とB画素とが交互に現れる画素列しか存在しない。図4の
中段には、水平方向あるいは上下方向に着目して観察すると、RAW画像データが、G画
素およびR画素から構成される画素列と、G画素およびB画素から構成される画素列とに
よって構成されている様子が示されている。
に、R、G、Bの各成分から構成されるRAW画像データを、水平方向の画素列を構成す
る各色成分の差(水平方向の色差成分)を表すデータと、上下方向の画素列を構成する各
色成分の差(上下方向の色差成分)を表すデータとに変換する。例えば、G画素およびR
画素から構成される画素列であれば、G成分とR成分との色差成分に変換し、G画素およ
びB画素の画素列であれば、G成分とB成分との色差成分に変換する。尚、色差成分を求
めるための算出式については後述する。
が概念的に示されている。例えば、下段の左側の図には、RAW画像データを上下方向に
観察することで、上下方向の色差成分CDvが得られる様子が示されている。図中に斜線
を付した画素列は、G画素およびB画素からなる画素列であるから、その画素列で得られ
る色差成分CDvは、G成分とB成分との差を表す色差成分となる。また、その他の画素
列は、G画素およびR画素の画素列であるから、その画素列で得られる色差成分CDvは
、G成分とR成分との差を表す色差成分となる。水平方向についても全く同様なことが成
立する。すなわち、RAW画像データを水平方向に観察すれば分かるように、斜線を付し
て示した画素列からは、G成分とB成分との差を表す色差成分CDhが得られ、斜線を付
さない画素列からは、G成分とR成分との差を表す色差成分CDhを得ることができる。
図5(a)には、上下方向の色差成分CDvを求めるための算出式が示されており、図5
(b)には水平方向の色差成分CDhを求めるための算出式が示されている。尚、図中に
示した階調値zは、撮像板24で得られたRAW画像データの階調値を表している。また
、階調値z(r,s)は、その階調値が、画像中に取った原点の位置から下方向に向かっ
てr番目、右方向に向かってs番目にある画素位置での階調値であることを示している(
図4の上段を参照のこと)。
ついて説明する。色差成分CDvを求めようとしている画素が、G成分が得られている画
素(G画素)である場合には、図5(a)の上式に示されるように、先ず、上下の画素で
得られた階調値の平均値を求め(一点鎖線で囲って示した第2項)、次いで、求めようと
している画素で得られたG成分から(破線で囲って示した第1項)、平均値の値を減算す
ることによって、上下方向の色差成分CDvを算出する。すなわち、ここではG画素での
色差成分を求める場合について考えているから、色差成分を求めようとしている画素での
階調値z(r,s)は、当然ながらG成分である。また、第2項に現れる階調値z(r−
1,s)は、この画素に隣接する上側の画素で得られたRAW画像データの階調値であり
、階調値z(r+1,s)は下側の隣接する画素で得られたRAW画像データの階調値で
ある。そして、図4を用いて説明したように、G画素の上下の画素はR画素またはB画素
の何れの場合もあり得るが、上下に来る画素が互いに異なる色成分の画素となることはな
い。従って、図5(a)の上式に一点鎖線で囲って示した第2項は、上下の画素(すなわ
ち、R画素またはG画素)の階調値から算出したG画素でのR成分またはB成分を表して
いる。このことから、G成分が得られている画素(G画素)については、上下の画素がR
画素またはB画素の何れの場合でも、図5(a)の上式を適用することで、上下方向の色
差成分CDvを求めることが可能となる。
によって、得られる色差成分CDvの中身は異なったものとなる点に注意しておく必要が
ある。すなわち、上下の画素がR画素である場合には、得られた上下方向の色差成分CD
vは、G成分とR成分との差を表す色差成分となり、上下の画素がB画素である場合には
、G成分とB成分との差を表す色差成分となる。
求める場合も、ほぼ同様にして求めることができる。例えば、色差成分CDvを求めよう
としている画素がR画素であったとすると、図4を用いて説明したように上下の画素はG
画素となるから、上下の画素の階調値の平均値は、色差成分CDvを求めようとしている
着目画素でのG成分を表していると考えることができる。そこで、求めたG成分の値から
、着目画素の階調値(ここではR成分)を減算してやれば、色差成分CDvを求めること
ができる。着目画素がB画素である場合についても全く同様なことが成立する。結局、G
画素以外の画素については、図5(a)の下式に示したように、右辺に破線で囲った第1
項から、一点鎖線で囲った第2項を減算することで、上下方向の色差成分CDvを求める
ことができる。
R画素またはB画素の何れであるかに拘わらず同じ式を用いて算出するが、その画素がR
画素またはB画素の何れであるかによって、得られる色差成分CDvの中身が異なる点に
注意しておく必要がある。すなわち、その画素がR画素である場合には、G成分とR成分
との差を表す色差成分CDvとなり、その画素がB画素である場合には、G成分とB成分
との差を表す色差成分CDvとなる。
差成分CDvを用いた高度な処理をしているにも拘わらず、実際の計算式は全く同じ式を
使用することができる。このため、2種類の色差成分CDvを同時に扱っているにも拘わ
らず単純な処理を行った場合と同じ程度に簡素な処理となり、迅速に実行することができ
る。もちろん、実際の中身は高度な処理を行っているため、後述するように、偽色を発生
させることなく、適切にデモザイク処理を行うことが可能となっている。
分CDhについても同様にして求めることができる。以下、図5(b)を参照しながら簡
単に説明すると、先ず、G画素での水平方向の色差成分CDhを求める場合には、上式に
示したように、破線で囲って示した第1項から、一点鎖線で囲った第2項を減算すること
によって、水平方向の色差成分CDhを求めることができる。ここで、階調値z(r,s
)は、色差成分を求めようとしている着目画素で得られたRAW画像データの階調値(す
なわち、G成分)である。また、階調値z(r,s−1)は着目画素の左隣の画素での階
調値であり、階調値z(r,s+1)は着目画素の右隣の画素での階調値である。着目画
素の左右の画素は、R画素またはB画素の何れの場合もあり得るが、左右の画素が異なる
色成分の画素となることはない。
求める場合は、着目画素の左右の画素がG画素となり、着目画素がR画素またはB画素の
何れかとなる。従って、図5(b)の下式に示すように、破線で囲った第1項(左右の画
素の平均値)から、一点鎖線で囲った第2項(着目画素の階調値)を減算することによっ
て、水平方向の色差成分CDhを求めることができる。
何れであるか、あるいはその画素がR画素またはB画素の何れであるかに拘わらず、同じ
式を用いて色差成分CDhを算出している。しかし、得られる色差成分CDvの中身は、
G成分とR成分との差を表している場合と、G成分とB成分との差を表している場合とが
存在している。このように、水平方向の色差成分CDhについても、中身の異なる2種類
の色差成分CDhを取り扱っているにも拘わらず、実際の計算式は全く同じ式を使用する
ことが可能であり、単純な処理と同じ程度に簡素な処理となり、迅速に実行可能である。
hとについても、互いに極めて良く似た計算式を用いて求めることが可能である。その結
果、方向の異なる2種類の色差成分(すなわち色差成分CDvおよび色差成分CDh)を
算出する処理も、処理内容を共通化することができ、簡素で迅速に実行可能な処理を実現
することが可能となっている。
画像データを、上下方向の色差成分CDvおよび水平方向の色差成分CDhに変換する処
理を行う。尚、必ずしも必須の処理ではないが、得られた色差成分に混入しているノイズ
を除去するために、上下方向の色差成分CDvおよび水平方向の色差成分CDhに、ロー
パスフィルターを作用させておくことが望ましい。後述するように、本実施例のカラー画
像データ生成処理では、画像中に含まれるエッジの方向を、色差成分を用いて検出してお
り、ローパスフィルターを作用させることはエッジを鈍らせてエッジの検出精度を低下さ
せることになるため、本来であれば望ましいことではない。しかし本実施例では、後述す
る方法によって極めて精度良くエッジ方向を検出することが可能であるため、多少、エッ
ジが鈍っても検出精度はほとんど低下することはなく、むしろ、ノイズが除去されること
によって、エッジの方向を安定して検出することが可能となっている。
例示した説明図である。図6(a)には、上下方向の色差成分CDvおよび水平方向の色
差成分CDhのそれぞれについて、ローパスフィルターが示されている。また、理解の便
宜のために、図6(b)には、水平方向の色差成分CDhにローパスフィルターを作用さ
せる様子が例示されている。ローパスフィルターを作用させようとしている画素(着目画
素)は、図6(b)中では斜線を付して示されている。本実施例のローパスフィルターで
は、着目画素の左右2画素ずつの色差成分と、着目画素の色差成分とを加算する。この時
、着目画素の色差成分については4画素分の重みを付けて、全体で加算する色差成分が8
画素分となるように調整している。加算した色差成分が8画素分であれば、加算値を下位
ビット側に3ビットシフトさせるだけで、加算値を8で割った1画素分の色差成分を得る
ことが可能であり、ローパスフィルターを作用させる処理を迅速に実行することができる
。
、G成分とR成分との差を表す場合と、G成分とB成分との差を表す場合とが存在するが
、ローパスフィルターを作用させる処理は、こうした違いを全く考慮することなく実行す
ることが可能である。このため、本実施例のカラー画像データ生成処理は、実際には高度
な処理を行っているにも拘わらず、極めて簡素で迅速に実行可能な処理となっている。
の色差成分CDvおよび水平方向の色差成分CDhを求めたら(図3のステップS102
)、今度は、これら色差成分のデータを用いてエッジ方向マップを生成する処理(エッジ
方向マップ生成処理)を開始する(ステップS104)。エッジ方向マップとは、画像中
のエッジが、上下あるいは左右の何れの方向に走っているのか表したマップである。エッ
ジの方向は、全ての画素に設定しておいても良いが、本実施例では、処理の迅速化を図る
ために、G画素以外の画素(R画素およびB画素)について、エッジの方向を設定するこ
とにする。
参照しながら、RAW画像データ中の欠落した色成分(例えば、G画素であればR成分お
よびB成分、R画素であればG成分およびB成分、B画素であればG成分およびR成分)
を補間する処理を行う。ここで、エッジ方向マップに設定されたエッジの方向にノイズが
含まれていたのでは、RAW画像データ中の欠落した色成分を適切に補間することはでき
なくなる。そこで、エッジ方向マップを生成したら、欠落した色成分の補間を始める前に
、エッジ方向マップ内のノイズ(エッジノイズ)を除去する処理(エッジノイズ除去処理
)を行う(ステップS106)。エッジノイズ除去処理の詳細については後述する。
ち、R画素およびB画素)について、G成分の階調値を補間によって決定する処理(G成
分補間処理)を行う(ステップS108)。G成分を補間する際には、エッジ方向マップ
を参照しながら、周囲の画素から補間することによって、適切な階調値を決定することが
可能である。エッジ方向マップを参照しながらG成分を補間するG成分補間処理の具体的
な処理内容については後述する。
始する(ステップS110)。G画素以外の画素ということは、R画素またはB画素の何
れかであるが、何れの場合についても先のステップS108でG成分が求められているこ
とから、R画素であればB成分を補間し、B画素であればR成分を補間することになる。
この結果、G画素以外の画素については、R、G、Bの全ての色成分を得ることができる
。G画素以外の画素について、G成分を補間した後に、最後の色成分を補間する処理(非
G画素補間処理)の詳細については後述する。
像データに欠落している色成分(すなわち、R成分およびB成分)を補間する処理(G画
素補間処理)を行う(ステップS112)。G画素で欠落している色成分を補間する際も
、エッジ方向マップを参照することによって、適切な階調値を算出することができる。G
画素で欠落している各成分を決定するG画素補間処理の具体的な処理内容については後述
する。
8およびステップS110)、G画素について欠落した成分を補間したら(ステップS1
12)、全ての画素についてR、G、Bの各成分が揃ったことになる。そこで、最終的に
得られたR、G、Bの各成分を、RAW画像データから生成されたカラー画像データとし
て出力した後(ステップS114)、図3に示した本実施例のカラー画像データ生成処理
を終了する。
分に基づいてエッジ方向を検出し、エッジ方向マップを生成する。このとき、上下方向の
色差成分CDvおよび水平方向の色差成分CDhの各々について、異なる2種類の色差成
分(G成分とR成分との差に対応する色差成分、およびG成分とB成分との差に対応する
色差成分)を用いてエッジ方向を検出することによって、精度良くエッジ方向マップを生
成する。更に、こうして求めたエッジ方向マップに対してノイズを除去する処理を施すこ
とにより、より一層、精度の高いエッジ方向マップを生成することが可能となっている。
そして、RAW画像データに欠落した色成分を補間する際には、非常に精度の良いエッジ
方向マップを参照しながら補間することで、適切に補間することが可能となっている。し
かも、エッジ方向マップを生成する処理も、エッジ方向マップ内のエッジノイズを除去す
る処理も、欠落した色成分を補間する処理も、決して複雑な処理ではなく、迅速に実行可
能である。その結果、R、G、Bの各成分がモザイク状に組み合わされたRAW画像デー
タから、適切なカラー画像データを迅速に生成することが可能となっている。以下では、
こうしたことを実現するためにエッジ方向マップを生成する処理(エッジ方向マップ生成
処理)、エッジ方向マップ内のエッジノイズを除去する処理(エッジノイズ除去処理)、
G成分を補間する処理(G成分補間処理)、G画素以外の画素で欠落した最後の色成分を
補間する処理(非G画素補間処理)、およびG画素で欠落した色成分を補間する処理(G
画素補間処理)について説明する。
図7は、本実施例の画像処理装置30内で行われるエッジ方向マップ生成処理の流れを
示したフローチャートである。前述したように、かかる処理は、図3のカラー画像データ
生成処理の中で、画像処理装置30によって実行される処理である。
画素(判断画素)を1つ選択する(ステップS200)。次いで、判断画素について、色
差成分の上下方向への変化量Vvを算出する(ステップS202)。尚、上下方向への変
化量Vvを算出するのであるから、色差成分は、当然ながら、上下方向の色差成分CDv
を用いて算出する。
した説明図である。図8(a)には、算出式が例示されており、図8(b)には、例示さ
れた算出式を用いて、上下方向への変化量Vvを算出する様子が概念的に示されている。
また、図8(b)に示した斜線は、判断画素の位置を表している。上下方向への変化量V
vを算出する際には、先ず、判断画素とその上の画素との間で、色差成分CDvの差の二
乗値を算出する。また、判断画素とその下の画素との間でも、色差成分CDvの差の二乗
値を算出する。図8(b)中に、斜線を付した判断画素と上の画素、あるいは下の画素と
の間に示された白抜きの矢印は、それぞれの画素の間で色差成分CDvの差の二乗値を算
出している様子を模式的に表したものである。
断画素の左隣の画素と、その上下の画素との間でも、同様にして色差成分CDvの差の二
乗値を算出する。更に、判断画素の右隣の画素についても同様にして、右隣の画素とその
上下の画素との間で、色差成分CDvの差の二乗値を算出する。図8(b)には、このよ
うにして、上下に並んだ6組の画素から1つずつ、合計6つの二乗値が得られた様子が模
式的に示されている。そして、こうして得られた6つの二乗値を加算した値を、判断画素
についての上下方向への変化量Vvとする。
の変化量Vhを算出する(図7のステップS204)。水平方向への変化量Vhも、上述
した上下方向への変化量Vvと同様にして算出することができるが、上下方向への変化量
Vvを算出することと対応して、当然ながら、算出に用いる色差成分は水平方向の色差成
分CDhとなる。
した説明図である。図9(a)には、算出式が例示されており、図9(b)には、例示さ
れた算出式を用いて、水平方向への変化量Vhを算出する様子が概念的に示されている。
水平方向への変化量Vhを算出する際には、図9(b)に白抜きの矢印で示したように、
判断画素と左右の画素との間で、色差成分CDhの差の二乗値を算出する。また、判断画
素の上の画素とその左右の画素との間や、判断画素の下の画素とその左右の画素との間で
も、色差成分CDhの差の二乗値を算出する。そして、これら6つの二乗値を加算して、
判断画素についての水平方向への変化量Vhとする。図9(a)には、このようにして色
差成分の水平方向の変化量Vhを求めるための算出式が示されている。
方向への変化量Vhとが得られたら、これら変化量の大きさを比較する(図7のステップ
S206)。そして、水平方向への変化量Vhの方が、上下方向への変化量Vvよりも大
きかった場合は(ステップS206:yes)、その判断画素では上下方向にエッジが走
っているものと判断して、エッジ方向を示すエッジ方向dの値に「1」を設定する(ステ
ップS208)。逆に、上下方向への変化量Vvの方が水平方向への変化量Vhよりも大
きかった場合は(ステップS206:no)、その判断画素では水平方向にエッジが走っ
ているものと判断して、エッジ方向を示すエッジ方向dの値に「3」を設定する(ステッ
プS210)。従って、エッジ方向dに「1」が設定されている画素では、エッジが上下
方向に走っており、エッジ方向dに「3」が設定されている画素では、エッジが水平方向
に走っていることになる。
)を求める際に、色差成分の差の二乗値を算出しているのは、色差成分の差の符号を考慮
することなく、エッジ方向を判断するためである。従って、色差成分の差の二乗値の替わ
りに絶対値を算出し、隣接する画素間での絶対値を加算することによって、上下方向への
変化量Vvおよび水平方向への変化量Vhを求めることも可能である。もっとも、二乗値
の方が絶対値よりも、色差成分の差が強調されるため、エッジの方向をより精度良く検出
することが可能となる。
意が必要であり、これに伴って、図7に示すエッジ方向マップ生成処理にもバリエーショ
ンが存在している。以下では、この点について補足説明を行う。
説明図である。判断画素を1つ選択すると、その周囲の状態は、必ず図10(a)〜図1
0(d)の何れかの状態となっている。このうち、図10(a)の場合について説明する
と、上下方向の変化量Vvは、判断画素が位置する上下方向の画素列からは、G成分とR
成分との差を示す色差成分(以下では、CDGRと表記する)に由来する二乗値が得られ、
その左右にある上下方向の画素列からは、G成分とB成分との差を示す色差成分(以下で
は、CDGBと表記する)に由来する二乗値が得られるから、結局、上下方向の変化量Vv
は、色差成分CDGRに由来する2つの二乗値と、色差成分CDGBに由来する4つの二乗値
とを加算した値となっている。水平方向への変化量Vhについても同様に、色差成分CD
GRに由来する2つの二乗値と、色差成分CDGBに由来する4つの二乗値とを加算した値と
なっている。従って、上下方向の変化量Vvと水平方向への変化量Vhとを比較すること
で、エッジの方向を適切に判断することができる。
化量Vhの何れも、色差成分CDGBに由来する2つの二乗値と、色差成分CDGRに由来す
る4つの二乗値とを加算した値となっている。このため、上下方向の変化量Vvと水平方
向への変化量Vhとを比較することで、エッジの方向を適切に判断することができる。
たない。例えば、図10(c)についていえば、上下方向の変化量Vvは、色差成分CD
GBに由来する2つの二乗値と、色差成分CDGRに由来する4つの二乗値とを加算した値で
あるが、水平方向の変化量Vhは、色差成分CDGBに由来する4つの二乗値と、色差成分
CDGRに由来する2つの二乗値とを加算した値となっており、上下方向の変化量Vvと水
平方向の変化量Vhとは単純には比較できない値となっている。図10(d)についても
事態は全く同様で、上下方向の変化量Vvと水平方向の変化量Vhとを単純に比較するこ
とはできない。
画素列での重みとを異ならせて、色差成分の変化量を算出すればよい。例えば、図11(
a)には、上下方向の変化量Vvを求めるための算出式が例示されており、図11(b)
には、水平方向の変化量Vhを求めるための算出式が例示されている。これらの算出式で
は、判断画素が存在する画素列での重みが、判断画素が存在しない画素列での重みの2倍
に設定されている。このような算出式を用いれば、図10(c)に示した画素や、図10
(d)に示した画素についても、上下方向の変化量Vvと水平方向の変化量Vhとを比較
して、エッジ方向を決定することが可能となる。尚、図11に示した算出式では、判断画
素が存在する画素列での重みを、判断画素が存在しない画素列での重みの2倍に設定した
が、判断画素が存在しない画素列での重みを、判断画素が存在する画素列での重みの半分
にしても良い。あるいは、図12に示すような算出式を用いて、上下方向の変化量Vvと
水平方向の変化量Vhとを算出することも可能である。
B画素)についてのみ、エッジ方向を決定することとしても良い。図2を用いて前述した
ように、ベイヤー型カラーフィルターではG画素が半分を占めており、残りの半分をR画
素およびB画素が占めている。従って、R画素およびB画素についてのみエッジ方向を判
断することとすれば、判断すべき画素が半分になるため、エッジ方向マップを迅速に生成
することが可能となる。また、G画素でのエッジ方向が分からなくても、エッジ方向が分
かっている画素が、チェッカーフラッグ状の配置で存在しているため、補間方法を工夫す
ることで、画質に悪影響を与えることは回避することが可能である。
画素についてのみ、エッジ方向を決定する方法を採用している。従って、図7に示したエ
ッジ方向マップ生成処理のステップS200では、G画素以外の画素(すなわちR画素ま
たはB画素)を判断画素として選択している。そして、選択した判断画素について、色差
成分の上下方向の変化量Vvと、水平方向の変化量Vhとを算出し(ステップS202,
S204)、両者を比較することによってエッジ方向を決定した後(ステップS206〜
S210)、全ての判断画素(すなわちR画素およびB画素)についてエッジ方向を決定
したか否かを判断する(ステップS212)。そして、未だ決定していない判断画素が残
っている場合は(ステップS212:no)、未決定の画素の中から新たな判断画素を1
つ選択した後(ステップS200)、続く上述した一連の処理を行う。こうした処理を繰
り返しているうちに、全ての判断画素についてエッジ方向を決定したと判断されたら(ス
テップS212:yes)、図7に示すエッジ方向マップ生成処理を終了する。
向を、精度良く決定することが可能である。以下では、本実施例のエッジ方向マップ生成
処理において、正確なエッジ方向マップを生成可能な理由について説明する。
タでは、R、G、Bの何れの色成分についても、飛び飛びの画素位置でしかデータが得ら
れていない。例えば、G画素では2画素に1つの割合でしかデータが得られておらず、R
画素やB画素に到っては4画素に1つの割合でしかデータが得られていない。従って、色
成分毎に階調値の変化からエッジを検出しようとしても、R、G、Bの何れの成分につい
ても、まばらにしかデータが得られていないため、精度良くエッジを検出することは困難
である。
する。すなわち、G成分およびR成分が交互に得られている画素列については、RAW画
像データを、G成分とR成分との差を表す色差成分のデータに変換する。また、G成分お
よびB成分が交互に得られている画素列については、RAW画像データを、G成分とB成
分との差を表す色差成分のデータに変換する。図4の下段には、このようにしてRAW画
像データを、上下方向の色差成分CDv、および水平方向の色差成分CDhに変換した様
子が示されている。尚、図4中で斜線が付されているのは、G成分とB成分との差を表す
色差成分が得られている画素列である。
データを連続して得ることができる。もっとも、前述したように、隣接する画素列で得ら
れた色差成分は、互いに意味が異なる色差成分であるため、隣接する画素列の間で色差成
分の値を比較しても意味はない。従って、意味の同じ色差成分を用いてエッジを検出しよ
うとすると(例えば、図4中で斜線を付したG成分とB成分との差を表す色差成分を用い
てエッジを検出しようとすると)、隣接する画素列を飛ばして、1つおきの画素列の色差
成分を用いなければならず、画素列にして5列前後に亘るような、規模の大きなエッジで
なければ検出することが困難である。
る。例えば、画像中で明るさが急変する箇所では、G成分とR成分との差の値も、G成分
とB成分との差の値も、何れも大きく変化する。同様に、色が急変する箇所でも、G成分
とR成分との差、およびG成分とB成分との差の何れの値も大きく変化する。従って、色
差成分の変化量に着目すれば、意味の異なる色差成分から得られた変化量であっても同じ
ように取り扱うことが可能であり、隣接する画素列で得られた色差成分を用いてエッジを
検出することができる。そして、このように隣接する画素列の色差成分に基づいて検出す
ることができれば、規模の小さなエッジであっても精度良く検出することが可能となる。
ジ方向を検出することにより、正確なエッジ方向マップを生成可能としたものであって、
先ず、ベイヤー型カラーフィルターによるRAW画像データを、上下方向の色差成分CD
vおよび水平方向の色差成分CDhに変換する。こうして得られた色差成分のデータは、
図4の下段に示したように、G成分とR成分との差を表す色差成分CDGRの画素列と、G
成分とB成分との差を表す色差成分CDGBの画素列とが、交互に並んだデータとなってい
る。次いで、図8および図9、あるいは図11を用いて色差成分の変化量を算出する。こ
うして算出した変化量は、互いに隣接する画素列の色差成分ではあるが、意味の異なる色
差成分から求めた変化量となっている。しかし上述したように、意味の異なる色差成分か
ら求めた値であっても、変化量は同じように取り扱ってエッジを検出することができる。
そして、隣接する画素列の色差成分に基づいてエッジを検出することで、規模の小さなエ
ッジであっても精度良く検出することができる。そして、こうして上下方向および水平方
向について求めた変化量を比較することにより、エッジの方向を精度良く検出することが
可能となるのである。
向の変化量Vvおよび水平方向の変化量Vhを算出する際に、隣接する画素列の色差成分
に基づいて算出することが重要である。逆に言えば、上下方向の変化量Vvおよび水平方
向の変化量Vhを算出するために、どのような算出式を用いるかはそれほど重要なことで
はなく、図8、図9、あるいは図11に例示した算出式の他にも種々の算出式を用いるこ
とが可能である。例えば、図12に示すような算出式を用いて、上下方向の変化量Vvと
水平方向の変化量Vhとを算出することも可能である。
後述するように、本実施例のカラー画像データ生成処理では、こうして生成したエッジ
方向マップを参照することによって、RAW画像データの欠落成分を適切に補間すること
が可能となっている。もっとも、ノイズが混入したエッジ方向マップを参照したのでは、
良好な結果を得ることはできない。そこで、本実施例のカラー画像データ生成処理では、
エッジ方向マップを生成すると(図3のステップS104)、そのエッジ方向マップを参
照してRAW画像データの欠落成分を補間するに先立って、エッジ方向マップに含まれる
ノイズ(エッジノイズ)を除去する処理(エッジノイズ除去処理)を行う。
ように、エッジ方向マップ内のエッジノイズを除去する処理は、孤立ノイズを除去する処
理(ステップS300)と、クラスターノイズを除去する処理(ステップS330)とか
ら構成されている。ここで、孤立ノイズとは、1画素だけ孤立して存在しているノイズや
、幅が1画素分しかない線状のノイズのことである。また、クラスターノイズとは、複数
の画素に亘って固まって発生しているが、孤立ノイズではないノイズのことである。例え
ば、幅が数画素分以上の線状のノイズは、クラスターノイズに分類される。
図14は、ノイズ除去処理の中で孤立ノイズを除去する処理の流れを示したフローチャ
ートである。孤立ノイズ除去処理(ステップS300)を開始すると、先ず始めに、ノイ
ズか否かを判断する対象となる画素(判断画素)を1つ選択する(ステップS302)。
ここで前述したように、本実施例のエッジ方向マップ生成処理では、R画素およびB画素
についてのみエッジ方向dを決定していることから、そのエッジ方向dがノイズか否かの
判断対象となる判断画素としては、当然、R画素あるいはB画素が選択されることになる
。
プS304)、エッジ方向dが「1」であった場合には(ステップS304:yes)、
次のような判断を行う。先ず、判断画素の上下にある画素のエッジ方向dを参照して、そ
の判断画素が、エッジ方向d=「3」の画素に上下を挟まれて存在する画素か否かを判断
する(ステップS306)。フローチャートに示されたエッジ方向d(r−2,s)は、
判断画素の2つ上の画素で得られたエッジ方向dを示しており、エッジ方向d(r+2,
s)は、判断画素の2つ下の画素で得られたエッジ方向dを示している。また、判断画素
の2つ上、または2つ下の画素のエッジ方向を参照するのは、本実施例では、R画素およ
びB画素についてのみエッジ方向dを決定している関係上、上下方向には1つ飛びの画素
でしか、エッジ方向dが得られていないためである。そして、エッジ方向dは「1」また
は「3」の何れかしか取り得ないから、エッジ方向d(r−2,s)とエッジ方向d(r
+2,s)との加算値が「6」ということは、これらのエッジ方向dが何れも「3」であ
ることを意味している。従って、ステップS306において「yes」と判断された場合
は、判断画素のエッジ方向dを「3」に変更する(ステップS310)。すなわち、その
判断画素の直ぐ上で得られたエッジ方向dも、直ぐ下で得られたエッジ方向dも、何れも
「3」であるにも拘わらず、その判断画素のエッジ方向dだけが「1」となっているため
、これはエッジノイズと判断して、エッジ方向dを「1」から「3」に変更するのである
。
右にある画素のエッジ方向dを参照して、左右のエッジ方向dが何れも「3」であるか否
かを判断する。フローチャートに示されたエッジ方向d(r,s−2)は、判断画素の2
つ左の画素で得られたエッジ方向dを示しており、エッジ方向d(r,s+2)は、判断
画素の2つ右の画素で得られたエッジ方向dを示している。また、判断画素の2つ右、ま
たは2つ左の画素のエッジ方向を参照するのは、R画素およびB画素についてのみエッジ
方向dを決定しているためである。そして、エッジ方向d(r,s−2)とエッジ方向d
(r,s+2)との加算値が「6」か否かを判断して(ステップS308)、加算値が「
6」であれば(ステップS308:yes)、判断画素のエッジ方向dを「3」に変更す
る(ステップS310)。すなわち、その判断画素は、左右で得られているエッジ方向d
が何れも「3」であるにも拘わらず、その判断画素のエッジ方向dだけが「1」となって
いるため、エッジノイズと判断して、判断画素のエッジ方向dを変更するのである。
o)、同様な処理を行う。すなわち、この場合は、判断画素のエッジ方向dは「3」であ
るから、判断画素の上下で得られたエッジ方向dが何れも「1」ではないか(ステップS
312)、あるいは判断画素の左右で得られたエッジ方向dが何れも「1」ではないか(
ステップS314)を判断する。そして、上下のエッジ方向dが何れも「1」であった場
合(ステップS312:yes)、あるいは左右のエッジ方向dが何れも「1」であった
場合(ステップS314:yes)には、判断画素のエッジ方向dはノイズであると判断
して、エッジ方向dを「3」から「1」に変更する処理を行う(ステップS316)。
れた場合には、エッジ方向dの値を変更したら(ステップS310、ステップS316)
、こうした処理を、全ての判断画素について行ったか否かを判断する(ステップS318
)。そして、未だ処理していない判断画素が残っている場合は(ステップS318:no
)、先頭に戻って新たな判断画素を1つ選択した後(ステップS302)、その新たな判
断画素に対して、上述した続く一連の処理を行う。こうした処理を繰り返し、全ての判断
画素について処理を行ったと判断されたら(ステップS318:yes)、図14に示す
孤立ノイズ除去処理を終了する。
を判断する様子をまとめた説明図である。図中では、判断画素は斜線を付して示されてい
る。孤立ノイズ除去処理では、先ず、判断画素のエッジ方向dを取得し、次いで、上下で
得られたエッジ方向d(図中で○印を付けた2つの画素のエッジ方向d)、あるいは、左
右で得られたエッジ方向d(図中で×印を付けた2つの画素のエッジ方向d)を参照する
。そして、判断画素のエッジ方向dが、異なる値のエッジ方向dによって上下あるいは左
右を挟まれた状態となっているか否かを判断し、異なる値のエッジ方向dによって挟まれ
た状態となっている場合には、その判断画素のエッジ方向dは孤立ノイズであると判断す
る。
。図16では、エッジ方向dが「1」の領域の中に、エッジ方向dが「3」の画素が、所
々に存在している場合を例示している。図中に「a」と表示したように、1画素だけエッ
ジ方向dが「3」となっている箇所や、図中に「b」〜「f」と表示した箇所のように、
エッジ方向dが「3」の画素が1画素分の幅で線状に連なっている箇所は、孤立ノイズと
判断されて、エッジ方向dが「1」に変更されることになる。そして、これらの孤立ノイ
ズを除去した後には、図中に「g」、「h」と表示した箇所のように、上下方向および左
右方向の何れについても、少なくとも2つ以上の画素で同じエッジ方向dが連続している
箇所にだけエッジ方向d「3」が残り、原則として、孤立ノイズの無いエッジ方向マップ
を得ることができる。
ノイズが含まれないと表現したのは、次のような理由によるものである。図16中の「f
」と表示した箇所には、3つの画素からなる線状の孤立ノイズが存在しているが、この孤
立ノイズの中で、破線で囲った画素を最初に判断画素として選択した場合は、その画素に
ついてだけは孤立ノイズであることが検出できずに、エッジ方向dが「3」のまま残って
しまうためである。もっともこのような場合でも、もう一度、孤立ノイズ除去処理を行え
ば、このような場合も含めて完全に孤立ノイズを除去することが可能となる。
として孤立ノイズは除去されて、後には、図16中に「g」または「h」で例示したよう
に、同じエッジ方向dが集まった領域が残される。こうして残った領域を観察すると、四
隅の位置に同じエッジ方向dが設定されており、その中心にも1つだけエッジ方向dが含
まれる構造となっていることが分かる。説明の便宜上、このような5つのエッジ方向dか
ら構成されるこのような構造を、「クラスター」と呼ぶことにする。
ッジ方向dは「3」であるにも拘わらず、中心のエッジ方向dは「1」となっている。す
なわち、中心のエッジ方向dが、周囲のエッジ方向dとは異なった状態となっており、従
って、中心のエッジ方向dは、ノイズである可能性がある。図16中の「h」についても
同様のことが当て嵌まる。「h」の領域には3つのクラスターが存在するが、何れのクラ
スターについても、中心のエッジ方向dは周囲のエッジ方向dとは異なっており、従って
、中心にあるエッジ方向dはノイズである可能性がある。そこで、図14に示した孤立ノ
イズ除去処理を終了して、図13のエッジノイズ除去処理に復帰したら、続いて、クラス
ターの中心のエッジ方向dがノイズか否かを判断して、ノイズであれば除去する処理(ク
ラスターノイズ除去処理)を行う(図13のステップS330)。尚、以下では、クラス
ターの中心にあるノイズを「クラスターノイズ」と呼ぶことにする。
図17は、クラスターノイズ除去処理の流れを示したフローチャートである。クラスタ
ーノイズ除去処理を開始すると、先ず始めに、エッジ方向マップの中から1つの判断画素
を選択し(ステップS332)、その判断画素が、クラスターの中心にある画素か否かを
判断する(ステップS334)。前述したように「クラスター」は、ある画素を中心とし
て、その画素に対して斜めに隣接する四隅の画素に同じエッジ方向dが設定された5つの
画素から構成されている。従って、選択した判断画素がクラスターの中心にある画素であ
れば、斜めに隣接する四隅の画素に設定されているエッジ方向dは、全て同じ値となって
いるはずである。そこで、ステップS334では、判断画素に対して斜め方向に隣接する
四隅の画素のエッジ方向dを読み出して、それら4つのエッジ方向dが何れも同じ方向で
あれば、判断画素はクラスターの中心画素であると判断し(ステップS334:yes)
、逆に、4つのエッジ方向dの中の1つでも異なっていれば、クラスターの中心画素では
ないと判断する(ステップS334:no)。
画素に設定されているエッジ方向dが、四隅の画素のエッジ方向dと同じか否かを判断す
る(ステップS336)。そして、判断画素のエッジ方向dが、四隅の画素のエッジ方向
dとは異なっている場合(ステップS336:no)、中心のエッジ方向dだけが四隅の
エッジ方向dと異なっていることになるため、判断画素のエッジ方向dがクラスターノイ
ズである可能性がある。そこで、次のようにして、判断画素のエッジ方向dがクラスター
ノイズか否かを判断する。
。そして、クラスターの中心にある判断画素のエッジ方向dが「1」であった場合には(
ステップS338:yes)、判断画素の左右方向に2つずつ、合計で4つのエッジ方向
dを読み出して、それらを加算し(ステップS340)、加算値が「4」か否かを判断す
る(ステップS342)。そして、加算値が「4」であれば(ステップS342:yes
)、判断画素のエッジ方向dは、本当に「1」である(すなわち、クラスターノイズでは
ない)と判断するが、加算値が「4」で無かった場合(ステップS342:no)、すな
わち、判断画素の左右2つずつのエッジ方向dの中に、「1」でないエッジ方向dが1つ
でも存在していた場合は、判断画素のエッジ方向dはクラスターノイズであると判断して
、エッジ方向dを「3」に変更する(ステップS344)。
である。図中に斜線を付した画素は、判断画素を表している。また、図18(a)は、判
断画素のエッジ方向dが「1」である場合を示しており、図18(b)は、判断画素のエ
ッジ方向dが「3」である場合を示している。図示されているように、判断画素に斜めに
隣接する四隅の画素のエッジ方向dは全て同じであるにも拘わらず、中心にある判断画素
のエッジ方向dが異なっている場合は、判断画素のエッジ方向dがクラスターノイズであ
る可能性がある。そこで、判断画素のエッジ方向dがクラスターノイズであるか否かを判
断する。以下、図18(a)の場合について説明すると、判断画素のエッジ方向dが「1
」であるから、仮にこのエッジ方向dがクラスターノイズではないとすると、ここには左
右方向のエッジが存在する筈であり、左右方向の画素でも、エッジ方向dが「1」になっ
ている筈である。そこで、図18(a)中で○印を付した4つの画素についてのエッジ方
向dを参照する。そして、図18(a)に示されているように、これら4つの画素のエッ
ジ方向dが全て「1」である場合にだけ、判断画素のエッジ方向dは正しいエッジ方向で
あるが、それ以外の場合はクラスターノイズであると判断して、判断画素のエッジ方向d
を「3」に変更してしまうのである。
可能性があると判断され(ステップS334:yes、ステップS336:no)、且つ
、判断画素のエッジ方向dが「1」であると判断された場合は(ステップS338:ye
s)、以上のようにして、そのエッジ方向dがクラスターノイズか否かを判断して、クラ
スターノイズを除去する処理を行う。
(ステップS334:yes、ステップS336:no)、判断画素のエッジ方向dが「
1」ではないと判断された場合は(ステップS338:no)、上下方向に2つずつ、合
計で4つのエッジ方向dを読み出して、それらを加算し(ステップS346)、加算値が
「12」か否かを判断する(ステップS348)。そして、加算値が「12」であれば(
ステップS348:yes)、判断画素のエッジ方向dは、本当に「3」である(すなわ
ち、クラスターノイズではない)と判断するが、加算値が「12」でなかった場合には(
ステップS348:no)、判断画素のエッジ方向dはクラスターノイズであると判断し
て、エッジ方向dを「1」に変更する(ステップS350)。図18(b)には、四隅の
画素のエッジ方向dが「1」であるにも拘わらず、クラスターの中心にある判断画素のエ
ッジ方向dが「3」である場合に、判断画素のエッジ方向dがクラスターノイズか否かを
判断する様子が示されている。すなわち、判断画素の上下方向の2つずつの画素(図18
(b)中で○印を付した4つの画素)でのエッジ方向dを参照して、これら4つの画素の
エッジ方向dが全て「3」であるのでない限り、判断画素のエッジ方向dはクラスターノ
イズであると判断して、判断画素のエッジ方向dを「1」に変更してしまうのである。
合(すなわち、ステップS334:yes、且つ、ステップS336:no)に、クラス
ターノイズか否かを判断して、クラスターノイズを除去する処理について説明した。これ
に対して、判断画素がクラスターの中心画素ではないと判断された場合(ステップS33
4:no)、あるいは、クラスターの中心画素であるが、四隅の画素とエッジ方向が同一
であると判断された場合(ステップS336:yes)は、判断画素のエッジ方向dがク
ラスターノイズである可能性はない。そこで、この場合は、クラスターノイズであるか否
かを判断する処理(ステップS338〜ステップS350)はスキップする。
の判断画素について、以上の処理を終了したか否かを判断し(ステップS352)、未処
理の判断画素が残っていると判断された場合は(ステップS352:no)、先頭に戻っ
て新たな判断画素を選択した後(ステップS332)、上述した続く一連の処理を行う。
こうした操作を繰り返して、やがて、全ての判断画素についての処理が終了したと判断さ
れたら(ステップS352:yes)、図17に示したクラスターノイズ除去処理を終了
した後、図13のエッジノイズ除去処理を経由して、図3のカラー画像データ生成処理に
復帰する。
変化量に着目することで、細かなエッジも精度良く検出することが可能であるが、反面、
上下方向の変化量Vvと水平方向の変化量Vhとを比較して、両者の違いが僅かであって
も、エッジ方向dを決定している。このため、明確なエッジの存在しないところでは、画
素間の色差成分の僅かな違いによって、上下方向の変化量Vvと水平方向の変化量Vhと
の大小関係が逆転することが考えられ、こうした部分では、孤立ノイズやクラスターノイ
ズが発生し易くなっていると考えられる。もっとも、こうした部分では、そもそも明確な
エッジが存在しないため、エッジ方向を誤判断したとしても、大きく画質を悪化させるこ
とはない。すなわち、エッジ方向マップに多少のエッジノイズが含まれていても、それほ
ど大きく画質が悪化することはない。しかし、RAW画像データの欠落した色成分を適切
に補間するためには、ノイズの含まれていないエッジ方向マップを参照する方が望ましい
。そこで、図3に示した本実施例のカラー画像データ生成処理では、エッジ方向マップを
生成すると(ステップS104)、上述したエッジノイズ除去処理(ステップS106)
を行って、エッジ方向マップのエッジノイズを除去しておくのである。そして、エッジノ
イズのないエッジ方向マップが得られたら、このエッジ方向マップを参照しながら、以下
のようにしてRAW画像データの欠落した色成分を補間する処理を行う。
図3に示されるように、本実施例のカラー画像データ生成処理では、エッジノイズ除去
処理を終了すると(ステップS106)、G画素ではない画素(R画素およびB画素)で
、G成分を補間する処理を開始する(ステップS108)。
ある。図示されているように、G成分補間処理を開始すると、先ず始めに、先に生成した
エッジ方向マップを参照することによって、補間しようとする画素(補間画素)でのエッ
ジ方向dを取得する(ステップS400)。前述したように、本実施例ではエッジ方向d
は、R画素およびB画素についてのみ決定しているが、ここでは非G画素(R画素および
B画素)について補間しようとしているのであるから、エッジ方向マップを参照すること
で必ずエッジ方向dを取得することができる。
2)。そして、エッジ方向dが「1」であれば(ステップS402:yes)、補間画素
の上下の画素での色差成分から、補間画素での色差成分を補間によって推定する(ステッ
プS404)。逆に、エッジ方向dが「3」であれば(ステップS402:no)、補間
画素の左右の画素での色差成分から、補間画素での色差成分を補間によって推定する(ス
テップS406)。続いて、補間画素で得られたRAW画像データを取得し(ステップS
408)、先に算出した補間画素での色差成分に、RAW画像データを加算することによ
って、補間画素についてのG成分を算出する(ステップS410)。これら一連の処理に
ついて、補足して説明する。
明図である。補間画素は非G画素であるから、R画素またはB画素の何れかとなる。R画
素であれば、周囲の画素の分布は図20(a)に示した状態となっており、B画素であれ
ば、図20(b)に示した状態となっている。ここでは、G成分を補間する画素がR画素
であり、エッジ方向dは「1」であったものとして説明する。
向の色差成分の変化量Vvよりも大きいということである。一般に、大きく変化している
状況下で補間するよりも、変化の少ない(定常状態により近い)状況下で補間した方が適
切な補間結果が得られるから、ここでも、変化量の少ない上下方向の色差成分を用いて、
G成分を算出することにする。すなわち、図20(a)から明らかなように、非G画素で
は、上下方向の色差成分も水平方向の色差成分も、何れもG成分からR成分を減算した値
の色差成分が得られるため、何れの方向の色差成分を用いてもG成分を求めることができ
るのであるが、より適切なG成分を得るために、変化の少ない方の色差成分である上下方
向の色差成分に基づいて、補間画素のG成分を決定するのである。
れているRAW画像データはR成分である。従って、色差成分の値にRAW画像データの
値を加算することで、直ちに補間画素でのG成分を求めることができる。尚、G成分を算
出するための色差成分としては、エッジ方向を決定する際に、既に、図5の算出式を用い
て補間画素についての色差成分を算出しているため、この値を読み出して使用することが
できる。あるいは、図6に示したローパスフィルターを用いてノイズが除去された色差成
分が得られている場合には、この色差成分を用いてG成分を算出することが望ましい。
差成分から算出するようにしても良い。すなわち、ここでは上下方向の色差成分を用いる
こととしているから、補間画素の上下の画素について得られている上下方向の色差成分を
読み出して、これら色差成分の値から、補間画素での色差成分を算出するようにしても良
い。図19に示したステップS404あるいはステップS406では、このようにして、
補間画素に隣接する画素から色差成分を算出する場合について示している。
了して、図3のカラー画像データ生成処理に復帰する。カラー画像データ生成処理では、
G成分を補間したら、続いて、G画素以外の画素について残りの色成分を補間する処理(
非G画素補間処理)を開始する。
図21は、非G画素補間処理の流れを示すフローチャートである。前述したように、か
かる処理では、R画素およびB画素でのG成分を補間した後に、残りの1つの色成分(す
なわち、R画素であればB成分、B画素であればR成分)の補間を行う。ここで、処理内
容の詳細な説明に入る前に、非G画素補間処理の基本的な考え方について簡単に説明して
おく。
についてはR成分の補間を行う。ここで、例えばR画素に着目すると、図20(a)に示
したように、斜めに隣接する4つの画素はB画素であり、これらの画素ではB成分がRA
W画像データとして得られている。同様に、B画素に着目すると、図20(b)に示した
ように、斜めに隣接する4つの画素はR画素であり、これらの画素ではR成分がRAW画
像データとして得られている。従って、最も単純には、これら斜めに隣接する4つの画素
のRAW画像データから補間することによって、求める色成分の階調値を決定することが
考えられる。
なく、これら4つの画素での色差成分から補間画素での色差成分を求め、この色差成分に
基づいて、求める色成分を決定ことも可能である。R、G、Bのカラー画像データでは一
般に、R、G、Bの各成分間での差の値が、表現される色相に強く関係していることから
、求めようとする色成分を周囲の画素から直接補間したのでは、他の色成分との差の値が
微妙に狂って、いわゆる偽色が発生することがあり、こうしたことを考えると、周囲の画
素から色差成分を補間して、得られた色差成分に基づいて補間画素での色成分を決定する
方がより望ましい。例えば、図20(a)に示したR画素であればB成分を求めようとし
ているのであるから、斜めに隣接する4つのB画素で、G成分とB成分との差を示す色差
成分CDGBを求め、これら4つの色差成分CDGBから補間画素での色差成分CDGBを算出
する。そして、得られた色差成分CDGBと、補間画素でのG成分とに基づいて、最後の色
成分であるB成分を求めることも可能である。
式を適用して得られている色差成分は、上下方向の色差成分CDvも水平方向の色差成分
CDhも、G成分とB成分との差を示す色差成分CDGBとなっている。従って、これらの
8つの色差成分CDGBに基づいて、補間画素での色差成分CDGBを算出することも可能で
ある。例えば、各画素での上下方向の色差成分CDvと水平方向の色差成分CDhとの平
均を取ることによって、各画素を代表する色差成分を求めた後、それら4つの画素(補間
画素に斜めに隣接する画素)を代表する色差成分から、補間画素での色差成分を求めるよ
うにしてもよい。あるいは、補間画素でのエッジ方向を検出して、エッジ方向に合致する
色差成分CDGBのみに基づいて、補間画素での色差成分CDGBを算出することも可能であ
る。もっとも、これらのように、上下方向の色差成分CDvおよび水平方向の色差成分C
Dhを考慮しながら補間画素の色差成分を決定する方法は、処理が複雑となるため、補間
画素に斜めに隣接する各画素で得られたG成分とB成分とに基づいて算出した方が、色差
成分CDGBを迅速に算出することが可能である。
分を補間した後に、非G画素での最後の色成分を補間する処理を行う。以下、フローチャ
ートに従って、非G画素補間処理の具体的な処理内容について説明する。
画素での、G成分とRAW画像データとを取得する(ステップS450)。図20(a)
あるいは図20(b)に示したように、補間画素がR画素であれば、斜めに隣接する画素
はB画素であるからRAW画像データはB成分であり、また、補間画素がB画素であれば
、斜めに隣接する画素はR画素であるからRAW画像データはR成分となる。
成分を減算した値を算出して、それらの平均を取ることによって、補間画素での色差成分
を算出する(ステップS452)。尚、本明細書中で色差成分というと、図5に示したよ
うに、通常は、G成分からR成分あるいはB成分を減算した値を用いているのに対して、
ステップS452では、色差成分の符号を変えて、RAW画像データ(すなわちR成分あ
るいはB成分)からG成分を減算している。これは、後の計算で、符号を変える手間を省
くための、言わば計算の便宜によるものである。
る(ステップS454)。補間画素は非G画素であるから、RAW画像データはG成分で
はないが、先に図19を用いて説明したG成分補間処理において、既にG成分が求められ
ている。
タからG成分を減算した値)に、ステップS454で取得したG成分を加算することによ
って、補間画素についての最後の色差成分を算出することができる(ステップS456)
。
素補間処理を終了して、図3のカラー画像データ生成処理に復帰する。図3に示したよう
に、カラー画像データ生成処理では、非G画素補間処理から復帰すると、G画素での欠落
成分を補間する処理(G画素補間処理)を開始する。
図22は、G画素補間処理の流れを示すフローチャートである。G画素補間処理を開始
すると、先ず始めに、補間画素のエッジ方向を取得する(ステップS500)。エッジ方
向は、図7を用いて前述したエッジ方向マップ生成処理において予め決定されて、エッジ
方向マップに設定されている。尚、前述したようにエッジ方向は、全ての画素について決
定しておいても良いが、ここでは、処理の迅速化を図るために、非G画素(R画素および
B画素)についてのみエッジ方向を決定しており、G画素については、エッジ方向は決定
していない。しかし、図2に示したように、G画素は周囲を非G画素に囲まれており、非
G画素でのエッジ方向は求められているから、周囲に存在する画素のエッジ方向から、補
間しようとしているG画素でのエッジ方向を推定することができる。
た説明図である。G画素補間処理は、G画素について欠落した色成分を補間する処理であ
るから、補間画素の周囲の画素の配置は、図23(a)に示す配置、または図23(b)
に示す配置の何れかである。尚、図23(a)および図23(b)では、補間画素に斜線
を付して表示している。ここでは、非G画素についてのみエッジ方向が決定されている場
合を想定しているから、補間画素の上下左右の4つの画素では、エッジ方向が設定されて
いることになる。
dが設定されている様子が例示されている。例えば周囲の4つの画素に設定されているエ
ッジ方向dが、図23(c)に示した配列となっていた場合、補間画素の周囲ではエッジ
方向dが「3」の画素よりもエッジ方向dが「1」の画素の方が多いから、補間画素のエ
ッジ方向dは、「1」と推定することが適当である。また、周囲の画素のエッジ方向dが
図23(d)に示した配列であれば、エッジ方向dが「1」の画素よりもエッジ方向dが
「3」の画素の方が多いから、補間画素のエッジ方向dは「3」と推定することが適当で
ある。
」の画素を数えて、画素数の多い方のエッジ方向dを、補間画素のエッジ方向dとすれば
よい。あるいは、画素数を数える代わりに、補間画素の上下左右の4つの画素に設定され
ているエッジ方向dの総和を求めてもよい。エッジ方向dが「1」の画素数と、エッジ方
向dが「3」の画素数とが同数ずつ存在する場合、エッジ方向dの総和値は「8」になる
から、総和値が「8」未満であれば、エッジ方向dが「1」の画素が多いものと判断して
、補間画素のエッジ方向dを「1」とすればよい。逆に、総和値が「8」を超過していれ
ば、エッジ方向dが「3」の画素が多いものと判断して、補間画素のエッジ方向dを「3
」すればよい。また、総和値が「8」である場合(エッジ方向dが「1」の画素およびエ
ッジ方向dが「3」の画素が同数存在する場合)は、補間画素のエッジ方向dは「1」あ
るいは「3」の何れかとしておけばよい。
エッジ方向dが設定されている場合であれば、補間画素のエッジ方向dを読み出すことに
より、また、非G画素についてのみエッジ方向dが設定されている場合であれば、補間画
素の周囲にある画素のエッジ方向dを読み出すことによって、補間画素のエッジ方向dを
取得する。
が「1」であるか否かを判断する(ステップS502)。そして、エッジ方向dが「1」
であった場合は(ステップS502:yes)、補間画素ではエッジが上下方向に走って
いると判断されるため、補間画素の上下に隣接する画素のR成分、G成分、およびB成分
を取得する(ステップS504)。図23(a)あるいは図23(b)に示したように、
補間画素の上下の画素は必ず非G画素であり、非G画素の欠落した色成分は、図19のG
成分補間処理および図21の非G画素補間処理によって既に求められているため、直ちに
、R成分、G成分、およびB成分を取得することができる。
2:no)、補間画素ではエッジが水平方向に走っていると判断されるため、補間画素の
左右に隣接する画素のR成分、G成分、およびB成分を取得する(ステップS506)。
補間画素の左右の画素も非G画素であるから、これらの画素のR成分、G成分、B成分を
直ちに取得することができる。
S508)。補間画素のエッジ方向dが「1」であった場合は(ステップS502:ye
s)、上下に隣接する画素での色差成分が算出され、逆に、補間画素のエッジ方向dが「
1」でなかった場合は(ステップS502:no)、左右に隣接する画素での色差成分が
算出されることになる。尚、図21に示した非G画素補間処理の場合と同様に、このとき
算出する色差成分も、R成分からG成分を減算し、あるいはB成分からG成分を減算する
ことによって、符号を変えた色差成分を算出する。こうすることで、後ほど、補間画素の
R成分およびB成分を算出する際に、符号を変える手間を省くことが可能となる。
8)、これらの画素での色差成分から補間することにより、今度は、補間画素での色差成
分を算出する(ステップS510)。上述したように、上下の画素あるいは左右の画素で
得られている色差成分は、符号を変えた色差成分(すなわち、R成分からG成分を減算し
た色差成分、およびB成分からG成分を減算した色差成分)であるから、補間によって得
られた色差成分も、符号を変えた色差成分となる。
から、RAW画像データがそのままG成分となっている。そして、先に算出した色差成分
と、補間画素のG成分とに基づいて、補間画素のR成分およびB成分を算出する(ステッ
プS514)。上述したように、色差成分は符号を変えた色差成分となっているから、単
に色差成分にG成分を加算するだけで、R成分、B成分を算出することが可能である。
を求めたら、図22に示すG画素補間処理を終了して、図3のカラー画像データ生成処理
に復帰する。
ると、全画素について欠落している色成分の補間が終了したことになるため、各画素につ
いて得られたR、G、Bの各成分を、RAW画像データから生成されたカラー画像データ
として出力して(ステップS114)、図3に示した本実施例のカラー画像データ生成処
理を終了する。
て、カラー画像データを生成する処理について、詳しく説明した。かかるカラー画像デー
タ生成処理では、デモザイク処理に先立ってエッジ方向マップを生成する。このとき、上
下方向の色差成分CDvおよび水平方向の色差成分CDhの各々についての変化量に着目
することで、異なる2種類の色差成分(G成分とR成分との差に対応する色差成分、およ
びG成分とB成分との差に対応する色差成分)を用いてエッジ方向を検出することが可能
となる。その結果、規模の小さなエッジも精度良く検出することができるようになり、正
確なエッジ方向マップを生成することが可能となる。そして、続いて行うデモザイク処理
では、正確なエッジ方向マップに従って、欠落した色成分を補間することで、適切に補間
することが可能となる。
て複雑な処理ではなく、迅速に実行可能である。その結果、R、G、Bの各成分がモザイ
ク状に組み合わされたRAW画像データから、適切なカラー画像データを迅速に生成する
ことが可能となる。
れて、エッジノイズの無いエッジ方向マップとなっているため、より適切にデモザイク処
理を行うことが可能となっている。
以上に説明した本実施例のカラー画像データ生成処理には、種々の変形例が存在してい
る。以下では、これら変形例について簡単に説明する。
図13を用いて前述した本実施例のエッジノイズ除去処理では、エッジ方向マップに記
憶されている全てのエッジ方向dについて、図14に示した孤立ノイズ除去処理、および
図17に示したクラスターノイズ除去処理を施すものとして説明した。しかし、これら孤
立ノイズ除去処理あるいはクラスターノイズ除去処理では、正しいエッジ方向dに対して
も、エッジノイズと誤判断して、エッジ方向dを誤ったエッジ方向dに変更してしまう可
能性も無いではない。正しいエッジ方向dが必要なのは、偽色が発生し易い領域において
もRAW画像データの欠落色成分を適切に補間するためであることに鑑みれば、偽色が発
生し易い領域についてだけ、エッジノイズを除去することとしても良い。
かかる第1の変形例のエッジノイズ除去処理(ステップS160)は、図3に示したカラ
ー画像データ生成処理の中で、エッジノイズ除去処理(ステップS106)に代えて実行
される処理である。図示されているように、第1の変形例のエッジノイズ除去処理では、
前述した孤立ノイズ除去処理(ステップS300)およびクラスターノイズ除去処理(ス
テップS330)に先立って、偽色が発生し易い領域(偽色領域:aliasing sensitive a
rea)であるか否かを判断し(ステップS600)、偽色領域についてだけ(ステップS
600:no)、前述した孤立ノイズ除去処理およびクラスターノイズ除去処理とほぼ同
等の処理(ステップS164、ステップS166)を施すようになっている。
チャートである。図示されているように、偽色領域判断処理を開始すると、先ず始めに、
判断画素を1つ選択する(ステップS602)。ここでいう判断画素とは、偽色領域であ
るか否かの判断対象とする画素であり、エッジ方向マップの中でエッジ方向dが設定され
ている画素の中から選択される。
プS604)。急なエッジがあるか否かの判断は、種々の方法を用いて行うことが可能で
あるが、ここでは、RAW画像データから直接判断することにする。
て判断する方法を例示した説明図である。図26(a)は、判断に用いる判定式を示して
おり、判断画素のRAW画像データが、図26(a)に示した何れかの判定式を満足して
いれば、急なエッジが存在するものと判断する。先ず始めに、図26(a)に示した上側
の判定式について説明する。図26(a)に示した階調値z(r,s)は、判断画素で得
られたRAW画像データを表している。また、階調値z(r,s−2)は判断画素の2つ
左の画素で得られたRAW画像データを表しており、階調値z(r,s+2)は判断画素
の2つ右の画素で得られたRAW画像データを表している。図26(b)には、これら3
つの画素、すなわち判断画素と判断画素の左右の画素との位置関係が示されている。
って得られた画像データであるとしているから、図26(b)に斜線を付して示した判断
画素のRAW画像データの階調値z(r,s)と、図26(b)中に○印を付して示した
左の画素のRAW画像データの階調値z(r,s−2)、および右の画素のRAW画像デ
ータの階調値z(r,s+2)は、何れも同じ色成分の画像データである。従って、判断
画素の位置で、少なくとも左右方向にはRAW画像データが大きく変化していない場合に
は、判断画素の左右のRAW画像データの平均値と、判断画素のRAW画像データとは、
大きくは異ならない筈である。この点について、図26(d)を参照して説明する。
像データと、左右の画素のRAW画像データの平均値との大小関係が例示されている。図
示した例では、判断画素と、右側の画素との間でRAW画像データが大きく変化している
が、このような大きな変化が存在する場合には、判断画素のRAW画像データと、判断画
素の左右の画素のRAW画像データの平均値との偏差が大きくなる。逆に、RAW画像デ
ータがほぼ一定であったり、単調に増加あるいは減少しているのであれば、この偏差は小
さくなる。そこで、予め閾値を決めておき、判断画素のRAW画像データと、判断画素の
左右の画素のRAW画像データの平均値との偏差が閾値よりも大きければ、水平方向にR
AW画像データが大きく変化していると考えることができる。
く変化しているか否かを判断するための判定式である。変化量の正負を区別することなく
判定可能なように、判定式では偏差の二乗値と所定の閾値Tとを比較している。そして、
偏差の二乗値の方が閾値Tよりも大きければ、RAW画像データが水平方向に大きく変化
しているものと考えられるため、判断画素に急なエッジが存在すると判断されることにな
る。
否かを判断するための判定式である。すなわち、下側の判定式に現れるRAW画像データ
の階調値z(r−2,s)は判断画素の2つ上の画素で得られたRAW画像データであり
、RAW画像データの階調値z(r+2,s)は判断画素の2つ下の画素で得られたRA
W画像データを表している。また、図26(c)には、判断画素と、判断画素の左右の画
素との位置関係が示されている。これら3つの画素には、同じ色成分のRAW画像データ
が得られているから、判断画素の位置で、少なくとも上下方向にRAW画像データが大き
く変化していなければ、図26(c)中に×印を付した画素のRAW画像データの平均値
と、判断画素のRAW画像データとは、大きくは異ならない筈である。従って、図26(
a)の下側の判定式が成り立てば、RAW画像データが上下方向に大きく変化しているも
のと考えられるため、判断画素に急なエッジが存在すると判断されることになる。
ジが存在するか否かを、図26(a)に示した判定式を用いることによってRAW画像デ
ータから直接、判断している。そして、経験上、急なエッジが存在する箇所には、偽色は
発生し難いことが分かっている。そこで、急なエッジが存在していると判断された場合に
は(ステップS604:yes)、判断画素は偽色領域ではないと考えられるため、偽色
領域か否かを示す変数cに、偽色領域ではないことを示す値「1」を設定する(ステップ
S610)。尚、判断画素に急なエッジが存在するか否かを判断する方法としては、図2
6に例示した方法に限らず、種々の方法を適用することが可能である。
)、今度は、判断画素のある位置が、十分に平滑な領域内であるか否かを判断する(ステ
ップS606)。判断画素のある位置が、十分に平滑な領域内であるか否かの判断も、上
述した大きなエッジの有無についての判断と同様に、種々の方法を用いて行うことが可能
であるが、ここでも、RAW画像データから直接判断することにする。
タに基づいて判断する方法を例示した説明図である。先ず始めに、図27(a)を参照し
ながら、判断に際しての基本的な考え方について説明する。図中に斜線を付して示した画
素は、判断画素を表している。前述したように、判断画素はエッジ方向dが求められてい
る画素から選択されており、エッジ方向dは、R画素およびB画素についてのみ求められ
ているから、判断画素はR画素またはB画素の何れかである。また、図2に示したように
、RAW画像データはベイヤー型のカラーフィルターによって得られた画像データである
としている。従って、判断画素の上下左右に隣接する4つの画素で得られたRAW画像デ
ータは、何れもG成分の画像データとなっている。そして、判断画素が、十分に平滑な領
域に存在するなら、上下左右に隣接する4つの画素でのRAW画像データは、ほとんど同
じ値となっている筈である。そこで、図27(a)中に○印を付して示した画素でのRA
W画像データが、互いに近似した値となっているか否かを判断し、近似した値となってい
れば、判断画素は十分に平滑な領域に存在すると判断することができる。
るか否かは、種々の方法を用いて判断することができる。例えば、最も単純には、4つの
画素のRAW画像データの中の最大値と最小値との偏差を調べて、偏差が十分に小さけれ
ば、4つのRAW画像データは互いに近似した値を有すると判断することも可能である。
しかし、ここでは、次のような方法を用いて判断する。
るか否かを判断するために用いた判定式を示している。図中には4つの判定式が示されて
いるが、これらの判定式が全て満足された場合に、判断画素が平滑な領域にあるものと判
断する。先ず始めに、図27(b)の一番上の判定式について説明する。
は、判断画素の左隣にある画素のRAW画像データを表しており、RAW画像データの階
調値z(r−1,s)は判断画素の上隣の画素のRAW画像データを、そして、RAW画
像データの階調値z(r+1,s)は判断画素の下隣の画素のRAW画像データを表して
いる。また、図27(c)には、これら3つの画素と判断画素との位置関係が示されてい
る。仮に判断画素が十分に平滑な領域に存在しているなら、図27(c)で×印を付した
上下の画素でのRAW画像データの平均値と、○印を付した画素のRAW画像データとは
、ほぼ同じ値となる筈である。そこで、これらの偏差の二乗値を求め、この二乗値が所定
の閾値αよりも小さければ、図27(c)中で○印を付した画素および×印を付した2つ
の画素のRAW画像データは、ほぼ同じ値である可能性が高い。もっとも、図中で×印を
付した画素のRAW画像データは大きく違っているが、これらの平均値が偶然に、○印の
画素のRAW画像データとほぼ同じになっている場合も考えられる。そこで、このような
可能性を排除するために、向きを変えて同様な判断を行う。
て行うために用いる判定式である。また、図27(d)は、上から2番目の判定式で参照
する画素位置を示した説明図である。かかる判断においても、図27(d)中で×印を付
した画素でのRAW画像データの平均値と、○印を付した画素でのRAW画像データとの
偏差を求め、その偏差の二乗値と所定の閾値αとを比較する。そして、偏差の二乗値が閾
値αよりも小さければ、図27(d)に示した3つの画素のRAW画像データは、ほぼ同
じ値であると考える。同様にして、図27(b)の上から3番目の判定式、および一番下
の判定式についても確認する。図27(e)には、上から3番目の判定式で参照する画素
位置が示されており、図27(f)には、一番下の判定式で参照する画素位置が示されて
いる。図27(e)あるいは図27(f)の何れの場合でも、図中に×印を付した画素で
のRAW画像データの平均値と、図中に○印を付した画素のRAW画像データとの偏差を
求め、偏差の二乗値と所定の閾値αとを比較する。その結果、図27(b)に示した4つ
の判定式が全て満足されていれば、図27(a)に○印を付した4つの画素のRAW画像
データは、何れもほぼ同じ値を有するものと考えられるため、判断画素は十分に平滑な領
域に存在すると判断することができる。
囲にある画素のRAW画像データに応じて、適切な閾値αを算出して用いることとしても
良い。図27(g)には、閾値αの代表的な算出式が例示されている。
が十分に平滑な領域に存在するか否かを判断する。ここで、経験上から、十分に平滑な領
域では、偽色は発生し難いことが分かっている。従って、判断画素が十分に平滑な領域に
存在すると判断された場合は(ステップS606:yes)、判断画素は偽色領域ではな
いと考えられるため、偽色領域か否かを示す変数cに、偽色領域ではないことを示す値「
1」を設定する(ステップS610)。
(ステップS606:no)、偽色領域か否かを示す変数cに、偽色領域であることを示
す値「0」を設定する(ステップS608)。すなわち、前述したように、急なエッジが
存在する領域や十分に平滑な領域では、偽色は発生し難いことが経験上から分かっている
ため、これら以外の領域については、偽色が発生する可能性があるものと判断して、偽色
領域か否かを示す変数cに、偽色領域であることを示す値「0」を設定するのである。
判断したら、一旦、図25に示した偽色領域判断処理を終了して、図24の第1変形例の
エッジノイズ除去処理に復帰する。図24に示されるように、第1変形例のエッジノイズ
除去処理では、偽色領域判断処理から復帰すると、判断画素が偽色領域内の画素か否かを
判断する(ステップS162)。ここで判断画素とは、図25のステップS602で選択
された画素である。図25を用いて前述したように、判断画素が偽色領域内の画素であれ
ば、変数cに「0」が設定されており、偽色領域内の画素でなければ、変数cには「1」
が設定されている。従って、図24のステップS162では、変数cの値を参照すること
により、判断画素が偽色領域内の画素か否かを直ちに判断することができる。
エッジノイズ除去処理の先頭に戻って、前述した偽色領域判断処理を再開する(ステップ
S600)。偽色領域判断処理では、新たな判断画素を選択して(図25のステップS6
02)、その判断画素が偽色領域にあるか否かを判断し、その判断結果を変数cに設定し
た後、再び図24のエッジノイズ除去処理に復帰する。そして、エッジノイズ除去処理で
は、判断画素が偽色領域内の画素であるか否かを判断する(図24のステップS162)
。こうした操作を繰り返して、偽色領域内の判断画素が見つかったら(ステップS162
:yes)、孤立ノイズ除去処理(ステップS164)およびクラスターノイズ除去処理
(ステップS166)を行う。
4)およびクラスターノイズ除去処理(ステップS166)は、それぞれ図14を用いて
前述した孤立ノイズ除去処理(ステップS300)、および図17を用いて前述したクラ
スターノイズ除去処理(ステップS330)とほぼ同様であり、次の点のみが異なってい
る。すなわち、図14に示した孤立ノイズ除去処理(ステップS300)あるいは図17
に示したクラスターノイズ除去処理(ステップS330)では、それぞれ処理の先頭にお
いて、判断画素を選択し、処理の最後では、全ての判断画素についての処理が終了したか
否かを判断していた。これに対して、第1の変形例の孤立ノイズ除去処理(ステップS1
64)およびクラスターノイズ除去処理(ステップS166)では、これらの処理は行っ
ていない点のみが異なっている。
理(ステップS164)について、概要のみ説明する。図14のフローチャートでは、先
ず始めに判断画素を選択しているが(ステップS302)、第1の変形例の孤立ノイズ除
去処理(ステップS164)では、このような処理は行わない。これは、図24に示され
ているように、第1の変形例の孤立ノイズ除去処理(ステップS164)は、偽色領域判
断処理の中で選択された判断画素が、偽色領域内の画素であると判断された場合に(ステ
ップS162:yes)、その判断画素に対して実行されるためである。
ッジ方向dが「1」であるか否かを判断し(図14のステップS304相当)、エッジ方
向dが「1」であれば、上下のエッジ方向dが2つとも「3」になっていないか(図14
のステップS306相当)、あるいは左右のエッジ方向dが2つとも「3」になっていな
いか(図14のステップS308相当)を判断して、何れか一方でも成り立っていれば、
孤立ノイズであると判断して、判断画素のエッジ方向dを「3」に変更する(図14のス
テップS310相当)。
も「1」になっていないか(図14のステップS312相当)、あるいは左右のエッジ方
向dが2つとも「1」になっていないか(図14のステップS314相当)を判断して、
何れか一方でも成り立っていれば、孤立ノイズであると判断して、判断画素のエッジ方向
dを「1」に変更する(図14のステップS316相当)。
ような判断を行ったら、直ちに処理を終了して、図24に示したエッジノイズ除去処理に
復帰する。そして、続いて、クラスターノイズ除去処理(ステップS166)を開始する
。以下では、図17のフローチャートを参照しながら、第1の変形例のクラスターノイズ
除去処理(ステップS166)について、概要のみ説明する。
S332)、第1の変形例のクラスターノイズ除去処理(ステップS166)では、この
ような処理は行わない。これは、第1の変形例のクラスターノイズ除去処理(ステップS
166)は、上述した第1の変形例の孤立ノイズ除去処理(ステップS164)で判断さ
れた判断画素に対して、引き続いて実行される処理だからである。
めに、判断画素のエッジ方向dが、前述したクラスターノイズである可能性があるか否か
を判断する(図17のステップS334,S336相当)。そして、クラスターノイズの
可能性があると判断された場合は(図17のステップS334:yes、且つ、ステップ
S336:no相当)、判断画素のエッジ方向dに応じて、上下方向あるいは水平方向の
画素でのエッジ方向dを参照することによってクラスターノイズか否かを判断し、クラス
ターノイズであれば、判断画素のエッジ方向dを変更する(図17のステップS338〜
S350相当)。
以上のような操作を行ったら、直ちに処理を終了して、図24に示したエッジノイズ除去
処理に復帰する。そして、エッジ方向マップにエッジ方向dが設定されている全ての画素
(判断画素)について、上述した一連の処理を終了したか否かを判断し(図24のステッ
プS168)、未処理の判断画素が残っている場合は(ステップS168:no)、再び
第1の変形例のエッジノイズ除去処理(ステップS160)の先頭に戻って、図25を用
いて前述した偽色領域判断処理を再開する(ステップS600)。偽色領域判断処理では
、新たな判断画素が選択されて、その判断画素に対して、上述した一連の処理が行われる
。こうした操作を繰り返して、最終的に全ての判断画素について処理が終了したと判断さ
れたら(図24のステップS168:yes)、第1の変形例のエッジノイズ除去処理を
終了する。
い領域)を検出して、この領域についてのみ、孤立ノイズ除去処理およびクラスターノイ
ズ除去処理を行っている。このため、偽色の発生し難い領域に対して、不必要に孤立ノイ
ズ除去処理およびクラスターノイズ除去処理を行って、正しいエッジ方向dを、エッジノ
イズと誤判断してしまうことを回避することができる。その結果、第1の変形例のエッジ
ノイズ除去処理によれば、より正確なエッジ方向マップを得ることが可能となり、このよ
うなエッジ方向マップを参照しながら、RAW画像データの欠落した色成分を補間するこ
とで、より適切にデモザイク処理を実行することが可能となる。
上述した第1の変形例では、判断画素が偽色領域の画素か否かを調べて、偽色領域の画
素であれば、孤立ノイズ除去処理(図24のステップS164)およびクラスターノイズ
除去処理(ステップS166)を施すこととした。しかし、偽色領域か否かの判断も誤判
断する可能性がある。そこで、偽色領域か否かの判断結果を示す変数cをマップに記憶し
ておき、このマップ(偽色領域マップ)に対してノイズ(誤判断された変数c)を除去す
る処理を施してもよい。
明図である。図示した例では、第1段階、第2段階、第3段階の3段階に分けて、偽色領
域マップのノイズを除去する処理を行う。また、図中には、各段階でノイズ検出する様子
が示されている。
検出して、「0(偽色領域である)」に変更する処理を行う。変数cが誤って「1」と判
断されている箇所は、次のようにして検出する。先ず、偽色領域マップの中で、変数cの
値として「1」が設定されている画素を1つ選択する。図25を用いて前述したように、
偽色領域か否かの判断は、エッジ方向dが求められている画素に対して行われるから、偽
色領域マップには、変数cがチェッカーフラッグ状に設定されている。そこで、偽色領域
マップに設定された変数cの中から、「1」の値が設定されている画素を1つ選択して、
この画素を判断対象の画素(判断画素)とする。
偽色領域マップには、チェッカーフラッグ状に変数cが設定されているから、判断画素の
周囲には、斜め方向に隣接する四隅の位置に変数cが設定されていることになる。そして
、これら四隅に設定されている変数cの値が全て「0」であった場合には、判断画素の変
数cは、誤って「1」に設定されているものと判断する。図28中に「第1段階」と表示
した部分には、判断画素の変数cが、誤って「1」に設定されている(すなわち、ノイズ
である)と判断される場合が示されている。図示されているように、判断画素の変数cは
「1」であるが、四隅に隣接する画素での変数cは全て「0」となっている。このような
場合は、判断画素の変数cは誤って「1」に設定されていると考えられるため、変数cの
値を「0」に変更する。第1段階では、偽色領域マップに変数cの値として「1」が設定
されている全ての画素について、上述した操作を行う。
定されている画素を検出したが、第2段階および第3段階では、逆に、誤って「0(偽色
領域である)」と設定されている画素を検出して、「1(偽色領域である)」に変更する
処理を行う。
定されている画素を選択する。そして、判断画素の四隅に隣接する画素での変数cを読み
出して、これら4つの変数cの中で3つ以上の変数cに「1」が設定されているか否かを
判断する。その結果、3つ以上の変数cが「1」であった場合には、判断画素の変数cは
、誤って「0」に設定されたものと判断して、変数cの値を「1」に変更する。図28中
に「第2段階」と表示した部分には、判断画素の変数cが、誤って「0」に設定されてい
る(すなわち、ノイズである)と判断される場合が例示されている。図示されているよう
に、判断画素の変数cは「0」であるが、四隅に隣接する画素では「1」の方が多く設定
されている。このような場合は、判断画素の変数cは誤って「0」に設定されていると判
断して、変数cの値を「1」に変更する。第2段階では、偽色領域マップに変数cの値と
して「0」が設定されている全ての画素について、上述した操作を行う。
0」に設定されている画素を選択する。しかし、第3段階では、判断画素から上下左右に
4画素だけ離れた画素に設定されている4つの変数cを取得する。図28中に「第3段階
」と表示した部分には、これら4つの画素に設定された変数cを取得する様子が示されて
いる。図中に斜線を付した画素が判断画素であり、判断画素から上下左右に4画素だけ離
れた画素には、○印が付されている。そして、○印が付された画素に設定されている4つ
の変数cの中で3つ以上の変数cに「1」が設定されているか否かを判断する。その結果
、3つ以上の変数cが「1」であった場合には、判断画素の変数cは、誤って「0」に設
定されたものと判断して、変数cの値を「1」に変更する。図示した例では、判断画素の
変数cは、誤って「0」に設定されたものと判断されて、変数cの値が「0」に変更され
ることになる。第3段階では、偽色領域マップに変数cの値として「0」が設定されてい
る全ての画素について、上述した操作を行う。
し、その偽色領域マップに対して上述した3段階の処理を行うことによって、マップ内の
ノイズを除去する処理を行う。その結果、偽色領域か否かが正しく判断された偽色領域マ
ップを得ることができる。そして、このような偽色領域マップを参照して、偽色領域であ
ると判断された画素のエッジ方向dについてだけ、前述した孤立ノイズ除去処理(ステッ
プS300あるいはステップS164)、および前述したクラスターノイズ除去処理(ス
テップS330あるいはステップS166)を施してやる。こうすれば、偽色の発生し難
い領域に対して、孤立ノイズ除去処理およびクラスターノイズ除去処理を行って、正しい
エッジ方向dを、エッジノイズと誤判断してしまうことを回避することが可能となる。そ
の結果、より正確なエッジ方向マップを得ることが可能となり、このようなエッジ方向マ
ップを参照しながら、RAW画像データの欠落した色成分を補間することで、より適切に
デモザイク処理を実行することが可能となる。
上述した孤立ノイズ除去処理(ステップS300あるいはステップS164)およびク
ラスターノイズ除去処理(ステップS330あるいはステップS166)は、比較的狭い
領域を参照してエッジノイズを除去する処理である。従って、個々の狭い領域を観察する
限りではエッジノイズが存在しているようには見えないが、より広い範囲を観察するとエ
ッジノイズが集まっているように見える場合には、このようなエッジノイズの集まり(la
rge block)を効果的に除去することができない可能性がある。尚、以下では、このよう
なエッジノイズの集まりを構成する個々のエッジノイズを「ブロックノイズ」と呼ぶこと
にする。このような問題が発生する場合でも、次のようにすることで解決することが可能
である。尚、以下では、上述したエッジノイズの集まりを構成する個々のエッジノイズを
「ブロックノイズ」と呼ぶことにする。
図示した第3の変形例のエッジノイズ除去処理は、図13を用いて前述したエッジノイズ
除去処理に対して、孤立ノイズ除去処理(ステップS300)およびクラスターノイズ除
去処理(ステップS330)の後に、ブロックノイズ除去処理(ステップS700)を行
い、その後、再び孤立ノイズ除去処理(ステップS300)を行う点が異なっている。孤
立ノイズ除去処理(ステップS300)およびクラスターノイズ除去処理(ステップS3
30)については、前述した処理と全く同様であるために、ここでは説明を省略して、ブ
ロックノイズ除去処理について説明する。
立ノイズ除去処理(ステップS300)を行うものとしているが、1回だけに限らず、複
数回行っても良い。あるいは、ブロックノイズ除去処理(ステップS700)を行った後
は、孤立ノイズ除去処理(ステップS300)を行わずに、そのままエッジノイズ除去処
理を終了するようにしても良い。この点については、ブロックノイズ除去処理(ステップ
S700)について説明した後に、補足して説明する。
に、この処理は、第3の変形例のエッジノイズ除去処理の中で、孤立ノイズ除去処理(ス
テップS300)およびクラスターノイズ除去処理(ステップS330)が行われたエッ
ジ方向マップに対して行われる処理である。
マップの中から、エッジ方向dが設定された判断画素を1つ選択する(ステップS702
)。次いで、選択した判断画素の左方向および右方向に偽色領域が続いているか否かを判
断する(ステップS704)。かかる判断は、予め生成しておいた偽色領域マップを参照
することによって行う。
否かを判断する様子を示した説明図である。図中に斜線を付した画素が判断画素であり、
破線の矩形で囲った領域の画素が、全て偽色領域か否か、すなわち偽色領域マップに「0
」が設定されているか否かを判断する。尚、図31では、左方向にも6画素分、右方向に
も6画素分の領域について、偽色領域か否かを判断しているが、領域の大きさについては
適宜変更することが可能である。そして、これらの領域内の画素が全て偽色領域であれば
、判断画素の左右方向に偽色領域が続いていると判断し(ステップS704:yes)、
逆に、偽色領域でない画素が1つでも含まれていれば、偽色領域が続いていないと判断す
る(ステップS704:no)。
場合は(ステップS704:yes)、今度は、エッジ方向マップを参照することによっ
て、判断画素のエッジ方向dがブロックノイズか否かを判断する(ステップS706)。
かかる判断は、次のようにして行う。
説明図である。ブロックノイズか否かの判断は、判断画素を中心として左右の画素に、判
断画素のエッジ方向dとは異なるエッジ方向dが設定されているか否かを確認することに
よって行う。図32では、判断画素は斜線を付して示されており、エッジ方向dを確認す
る画素は、○印を付して示されている。尚、判断画素を中心として左右の画素のエッジ方
向を確認するのは、図30のステップS704において、判断画素から左右方向に偽色領
域が続いていることが、既に確認されているからである。
めの画素、右方向にも4つめの画素および6つめの画素に設定されているエッジ方向dを
参照する。そして、これら4つの画素に設定されている全てのエッジ方向dが、判断画素
に設定されているエッジ方向dとは異なっている場合、判断画素のエッジ方向dは、ブロ
ックノイズであると判断する。また、図32(b)に示した例では、判断画素から左方向
に6つめの画素および8つめの画素、右方向にも6つめの画素および8つめの画素のエッ
ジ方向dを参照して、これら全てのエッジ方向dが、判断画素のエッジ方向dとは異なっ
ている場合に、判断画素のエッジ方向dはブロックノイズであると判断する。図32(c
)についても同様に、判断画素から左右方向に8つめの画素および10つめの画素のエッ
ジ方向dを参照して、これら全てのエッジ方向dが、判断画素のエッジ方向dとは異なっ
ていれば、判断画素のエッジ方向dはブロックノイズであると判断する。
の判断基準の何れか1つでも該当すれば、その判断画素のエッジ方向dはブロックノイズ
であると判断する(ステップS706:yes)。尚、ブロックノイズか否かを判断する
に際しては、図32に示した判断基準の他にも、例えば、判断画素から左右方向の更に遠
くのエッジ方向dを参照するような判断基準を用いても良い。あるいは、判断画素の左右
から3つずつのエッジ方向dを参照するような判断基準を用いることも可能である。そし
て、判断画素のエッジ方向dがブロックノイズであると判断された場合は(ステップS7
06:yes)、そのエッジ方向dの値を変更する(ステップS708)。すなわち、判
断画素のエッジ方向dが「1」であれば「3」に変更し、判断画素のエッジ方向dが「3
」であれば「1」に変更する。
ステップS706:no)、あるいは、そもそも判断画素から左右方向には偽色領域が続
いていないと判断された場合は(ステップS704:no)、今度は上下方向について同
様な操作を行う。すなわち、先ず、判断画素から上下方向に偽色領域が続いているか否か
を判断する(ステップS710)。図31を参照して前述したステップS704では、判
断画素から左右方向に6画素分の領域(図31中で破線の矩形で示した領域)について、
領域内の全ての画素が偽色領域の画素か否かを判断したが、これに対してステップS71
0では、判断画素から上下方向に6画素分の領域について、領域内の全ての画素が偽色領
域の画素か否かを判断する。
s)、今度は、判断画素から上下方向の画素に設定されているエッジ方向dを参照しなが
ら、図32と同様の判断基準に該当するか否かを判断する。すなわち、図32(a)に対
応する判断基準では、判断画素から上下方向に4つめ、および6つめの合計4つの画素に
設定されているエッジ方向dを参照して、これら全てのエッジ方向dが、判断画素のエッ
ジ方向dとは異なっている場合に、判断画素のエッジ方向dはブロックノイズであると判
断する。図32(b)および図32(c)に対しても同様にして、対応する判断基準に基
づいて、判断画素のエッジ方向dがブロックノイズであるか否かを判断する。そして、こ
れら何れかの判断基準に該当すれば、その判断画素のエッジ方向dはブロックノイズであ
ると判断して(ステップS712:yes)、エッジ方向dの値を変更する(ステップS
714)。
ステップS712:no)、あるいは、判断画素から上下方向には偽色領域が続いていな
いと判断された場合は(ステップS710:no)、全ての判断画素について上述した処
理を終了したか否かを判断する(ステップS716)。そして、未だ処理していない判断
画素が残っていれば(ステップS716:no)、先頭に戻って、新たな判断画素を1つ
選択し(ステップS702)、その判断画素に対して、上述した一連の処理を行う。こう
した処理を繰り返しているうちに、全ての判断画素について処理が終了したと判断された
ら(ステップS716:yes)、図30に示すブロックノイズ除去処理を終了して、図
29に示した第3の変形例のエッジノイズ除去処理に復帰する。
除去する際に、判断画素が、偽色領域の境界付近から十分に内側にあるか否かを判断する
ことにより、十分に内側の領域でだけ、ブロックノイズを除去している。このため、ブロ
ックノイズを除去しようとして、エッジ方向マップ内に新たなエッジノイズを作ってしま
う危険性を十分に小さくすることができる。
を行うことが特に有効である。何故なら、1回目の孤立ノイズ除去処理では除去できない
エッジノイズが存在していたとしても、ブロックノイズを除去することで、これらエッジ
ノイズは除去可能なノイズになっている可能性が高く、従って、再度、孤立ノイズ除去処
理(ステップS300)を行うことで、残ったエッジノイズをほとんど除去することが可
能となるからである。
S170)では、ブロックノイズ除去処理(ステップS700)の後に、再度、孤立ノイ
ズ除去処理(ステップS300)を行うこととしている。尚、孤立ノイズ除去処理を1回
だけでなく、複数回行っても良いし、あるいは孤立ノイズ除去処理の後に、クラスターノ
イズ除去処理も行っても良い。
170)を終了したら、図3のカラー画像データ生成処理に復帰した後、RAW画像デー
タの欠落した色成分を補間する処理を行う(図3のステップS108〜S112)。この
とき参照するエッジ方向マップは、エッジノイズが除去された正確なエッジ方向マップと
なっているため、RAW画像データの欠落した色成分を適切に補間して、適切なカラー画
像データを生成することが可能となる。
を生成する処理について説明したが、本発明は上記すべての実施例に限られるものではな
く、その要旨を逸脱しない範囲において種々の態様で実施することが可能である。
画像処理装置、40…外部出力端子、50…外部記録媒体、100…デジタルカメラ、C
DGB,CDGR,CDh,CDv…色差成分、T,α…閾値、Vh,Vv…変化量、c…変
数、d,d(r,s+2),d(r,s−2),d(r+2,s),d(r−2,s)…
エッジ方向、z(r,s),z(r,s+1),z(r,s+2),z(r,s−1),
z(r,s−2),z(r+1,s),z(r+2,s),z(r−1,s),z(r−
2,s)…階調値。
Claims (2)
- 光の三原色に対応するR、G、Bの色成分が画素毎に一成分ずつ設定された画像データであるモザイク画像データを受け取って、該モザイク画像データに所定の画像処理を施すことにより、各画素にR、G、Bの全ての色成分が設定されたカラー画像データを生成する画像処理装置であって、
前記モザイク画像データは、前記R成分の画素と前記G成分の画素とが縦方向に交互に並んだ画素列と、前記G成分の画素と前記B成分の画素とが縦方向に交互に並んだ画素列と、前記R成分の画素と前記G成分の画素とが横方向に交互に並んだ画素行と、前記G成分の画素と前記B成分の画素とが横方向に交互に並んだ画素行とが組み合わされて構成された画像データであり、
前記モザイク画像データの前記画素列毎に、該画素列内の各画素での前記G成分と他の色成分とを補間によって算出し、該G成分と該他の色成分との差を示す縦方向色差成分を、該画素列の各画素について算出する縦方向色差成分算出手段と、
前記モザイク画像データの前記画素行毎に、該画素行内の各画素での前記G成分と他の色成分とを補間によって算出し、該G成分と該他の色成分との差を示す横方向色差成分を、該画素行の各画素について算出する横方向色差成分算出手段と、
前記モザイク画像データの中から前記R成分または前記B成分が設定された画素を選択し、該選択された画素の前記縦方向色差成分の変化量と前記横方向色差成分の変化量とを比較することにより、該画素でのエッジ方向を決定するエッジ方向決定手段と、
前記決定されたエッジ方向を前記選択された画素毎に記憶することにより、前記R成分の各画素および前記B成分の各画素に該エッジ方向が設定されたエッジ方向マップを生成するエッジ方向マップ生成手段と、
前記エッジ方向マップに設定された前記エッジ方向を、周辺の画素の該エッジ方向と比較することにより、誤って決定された該エッジ方向であるエッジノイズを検出して、該エッジノイズを除去するエッジノイズ除去手段と、
前記モザイク画像データの各画素について該画素に設定されていない色成分である欠落色成分を、前記エッジノイズが除去された前記エッジ方向マップを参照しながら、該モザイク画像データに設定されている前記色成分に基づいて補間する欠落色成分補間手段と
を備え、
前記エッジノイズ除去手段は、
前記エッジ方向マップの中から前記エッジ方向が設定されている画素を1つ選択して、該エッジ方向が前記エッジノイズか否かを判断するための判断画素として設定する判断画素設定手段と、
前記判断画素に斜め方向に隣接する4つの画素を選択し、該選択した4つの画素に設定されている前記エッジ方向が全て同じで、且つ、該判断画素に設定されている該エッジ方向とは異なる場合に、所定の前提条件を満たしているものと判断する前提条件判断手段と、
前記前提条件を満足する前記判断画素から前記縦方向へ所定画素数以内にある全ての画素、または前記横方向へ該所定画素数以内にある全ての画素の何れか一方を選択し、該選択した画素に設定されている全ての前記エッジ方向が、該判断画素の前記エッジ方向と同じでない限り、該判断画素の該エッジ方向を前記エッジノイズとして検出するエッジノイズ検出手段と、
前記エッジノイズとして検出された前記エッジ方向を、異なるエッジ方向に変更するエッジ方向変更手段と
を備えることを特徴とする画像処理装置。 - 光の三原色に対応するR、G、Bの色成分が画素毎に一成分ずつ設定された画像データであるモザイク画像データを受け取って、該モザイク画像データに所定の画像処理を施すことにより、各画素にR、G、Bの全ての色成分が設定されたカラー画像データを生成する画像処理装置であって、
前記モザイク画像データは、前記R成分の画素と前記G成分の画素とが縦方向に交互に並んだ画素列と、前記G成分の画素と前記B成分の画素とが縦方向に交互に並んだ画素列と、前記R成分の画素と前記G成分の画素とが横方向に交互に並んだ画素行と、前記G成分の画素と前記B成分の画素とが横方向に交互に並んだ画素行とが組み合わされて構成された画像データであり、
前記モザイク画像データの前記画素列毎に、該画素列内の各画素での前記G成分と他の色成分とを補間によって算出し、該G成分と該他の色成分との差を示す縦方向色差成分を、該画素列の各画素について算出する縦方向色差成分算出手段と、
前記モザイク画像データの前記画素行毎に、該画素行内の各画素での前記G成分と他の色成分とを補間によって算出し、該G成分と該他の色成分との差を示す横方向色差成分を、該画素行の各画素について算出する横方向色差成分算出手段と、
前記モザイク画像データの中から前記R成分または前記B成分が設定された画素を選択し、該選択された画素の前記縦方向色差成分の変化量と前記横方向色差成分の変化量とを比較することにより、該画素でのエッジ方向を決定するエッジ方向決定手段と、
前記決定されたエッジ方向を前記選択された画素毎に記憶することにより、前記R成分の各画素および前記B成分の各画素に該エッジ方向が設定されたエッジ方向マップを生成するエッジ方向マップ生成手段と、
前記エッジ方向マップに設定された前記エッジ方向を、周辺の画素の該エッジ方向と比較することにより、誤って決定された該エッジ方向であるエッジノイズを検出して、該エッジノイズを除去するエッジノイズ除去手段と、
前記モザイク画像データの各画素について該画素に設定されていない色成分である欠落色成分を、前記エッジノイズが除去された前記エッジ方向マップを参照しながら、該モザイク画像データに設定されている前記色成分に基づいて補間する欠落色成分補間手段と
を備え、
前記モザイク画像データの同じ色成分間での変化量が、所定の第1の閾値よりも小さく、且つ、該第1の閾値よりも小さい所定の第2の閾値よりも大きな領域を、前記エッジノイズを除去する対象領域として抽出する対象領域抽出手段を備え、
前記エッジノイズ除去手段は、前記対象領域内の画素に設定されている前記エッジ方向に対して、前記エッジノイズを除去する手段であることを特徴とする画像処理装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/199,610 | 2008-08-27 | ||
US12/199,610 US8004588B2 (en) | 2008-08-27 | 2008-08-27 | Image processing procedure for receiving mosaic image data and calculating vertical and horizontal-direction color difference components for each pixel |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010057172A JP2010057172A (ja) | 2010-03-11 |
JP5428628B2 true JP5428628B2 (ja) | 2014-02-26 |
Family
ID=41724797
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009183130A Expired - Fee Related JP5428628B2 (ja) | 2008-08-27 | 2009-08-06 | 画像処理装置、画像処理方法、およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US8004588B2 (ja) |
JP (1) | JP5428628B2 (ja) |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8111299B2 (en) * | 2008-08-15 | 2012-02-07 | Seiko Epson Corporation | Demosaicking single-sensor camera raw data |
US8131067B2 (en) * | 2008-09-11 | 2012-03-06 | Seiko Epson Corporation | Image processing apparatus, image processing method, and computer-readable media for attaining image processing |
US20100150022A1 (en) * | 2008-12-17 | 2010-06-17 | Research In Motion Corporation | System and Method for a Relay Protocol Stack |
JP5182523B2 (ja) * | 2009-03-04 | 2013-04-17 | 富士ゼロックス株式会社 | 画像処理装置及び画像処理プログラム |
JP5169994B2 (ja) * | 2009-05-27 | 2013-03-27 | ソニー株式会社 | 画像処理装置、撮像装置及び画像処理方法 |
JP5315157B2 (ja) * | 2009-07-27 | 2013-10-16 | キヤノン株式会社 | 情報処理装置、ライン状ノイズ低減処理方法、及びプログラム |
JP2012129743A (ja) * | 2010-12-14 | 2012-07-05 | Nec Access Technica Ltd | 画像処理装置、画像処理方法および画像処理プログラム |
BR112012027309A2 (pt) | 2011-02-28 | 2016-08-02 | Fujifilm Corp | aparelho de geração de imagens coloridas |
WO2012135018A2 (en) | 2011-03-25 | 2012-10-04 | Tk Holdings Inc. | System and method for determining driver alertness |
US8849508B2 (en) | 2011-03-28 | 2014-09-30 | Tk Holdings Inc. | Driver assistance system and method |
US20130077858A1 (en) * | 2011-09-22 | 2013-03-28 | Himax Imaging Limited | Image processing module and image processing method |
US9076232B2 (en) * | 2011-11-29 | 2015-07-07 | Industry-Academic Cooperation Foundation, Yonsei University | Apparatus and method for interpolating image, and apparatus for processing image using the same |
CN103593822B (zh) * | 2012-08-17 | 2018-05-22 | 腾讯科技(深圳)有限公司 | 对数据图像进行磨砂特效处理的方法和装置 |
JP6071419B2 (ja) * | 2012-10-25 | 2017-02-01 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
US8995719B2 (en) * | 2012-12-10 | 2015-03-31 | Intel Corporation | Techniques for improved image disparity estimation |
KR101929560B1 (ko) * | 2013-01-29 | 2019-03-14 | 삼성전자주식회사 | 이미지 에지 검출 방법 및 장치 |
US10210599B2 (en) | 2013-08-09 | 2019-02-19 | Intuitive Surgical Operations, Inc. | Efficient image demosaicing and local contrast enhancement |
US9749686B2 (en) * | 2015-09-21 | 2017-08-29 | Sling Media Pvt Ltd. | Video analyzer |
US9693063B2 (en) * | 2015-09-21 | 2017-06-27 | Sling Media Pvt Ltd. | Video analyzer |
GB2578523B (en) * | 2019-09-25 | 2021-08-11 | Dualitas Ltd | Holographic projection |
CN113436678A (zh) * | 2021-07-07 | 2021-09-24 | 哈尔滨因极科技有限公司 | 一种基于滤波降噪的基因组结构变异检测方法 |
CN113936015B (zh) * | 2021-12-17 | 2022-03-25 | 青岛美迪康数字工程有限公司 | 一种图像有效区域的提取方法及装置 |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07184084A (ja) | 1993-12-24 | 1995-07-21 | Matsushita Electric Ind Co Ltd | 輪郭補正装置 |
JPH1141565A (ja) | 1997-07-23 | 1999-02-12 | Sharp Corp | 画像データ補間装置 |
JPH11331858A (ja) * | 1998-05-15 | 1999-11-30 | Fuji Film Microdevices Co Ltd | 画像信号処理装置およびプログラムを記録した媒体 |
US6836572B2 (en) * | 1998-06-01 | 2004-12-28 | Nikon Corporation | Interpolation processing apparatus and recording medium having interpolation processing program recorded therein |
JP2000224602A (ja) * | 1999-02-02 | 2000-08-11 | Nikon Corp | 補間処理装置および補間処理プログラムを記録した記録媒体 |
US6933970B2 (en) * | 1999-12-20 | 2005-08-23 | Texas Instruments Incorporated | Digital still camera system and method |
EP1223553A3 (en) * | 2000-10-17 | 2003-09-24 | Fuji Photo Film Co., Ltd. | Apparatus for suppressing noise by adapting filter characteristics to input image signal based on characteristics of input image signal |
JP4046969B2 (ja) * | 2000-11-09 | 2008-02-13 | キヤノン株式会社 | 画像処理装置、及びその方法、並びにプログラム、記憶媒体 |
EP1387315B1 (en) | 2002-06-07 | 2007-09-12 | Honda Research Institute Europe GmbH | Preparation of a digital image with subsequent edge detection |
US7110602B2 (en) * | 2002-08-21 | 2006-09-19 | Raytheon Company | System and method for detection of image edges using a polar algorithm process |
US6798422B2 (en) * | 2002-11-08 | 2004-09-28 | Samsung Electronics Co., Ltd. | Method and filtering system for filtering edge directions |
KR100505663B1 (ko) * | 2003-01-02 | 2005-08-03 | 삼성전자주식회사 | 적응형 윤곽 상관 보간에 의한 디스플레이 장치의 순차주사 방법 |
US7379625B2 (en) * | 2003-05-30 | 2008-05-27 | Samsung Electronics Co., Ltd. | Edge direction based image interpolation method |
JP4133908B2 (ja) * | 2004-03-31 | 2008-08-13 | シャープ株式会社 | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを格納した記憶媒体 |
TWI295449B (en) * | 2005-05-09 | 2008-04-01 | Sunplus Technology Co Ltd | Edge enhancement method and apparatus for bayer image and an image acquisition system |
US7623712B2 (en) * | 2005-06-09 | 2009-11-24 | Canon Kabushiki Kaisha | Image processing method and apparatus |
US7982798B2 (en) * | 2005-09-08 | 2011-07-19 | Silicon Image, Inc. | Edge detection |
US7859580B2 (en) * | 2007-10-16 | 2010-12-28 | Aptina Imaging Corporation | Method and apparatus for anisotropic demosaicing of image data |
-
2008
- 2008-08-27 US US12/199,610 patent/US8004588B2/en not_active Expired - Fee Related
-
2009
- 2009-08-06 JP JP2009183130A patent/JP5428628B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010057172A (ja) | 2010-03-11 |
US20100053351A1 (en) | 2010-03-04 |
US8004588B2 (en) | 2011-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5428628B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP5287585B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP4840468B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP4378746B2 (ja) | 欠陥ピクセルの検出可能なディジタル・イメージ・センサおよび方法 | |
JP4054184B2 (ja) | 欠陥画素補正装置 | |
JP4374488B2 (ja) | デモザイク処理及び不良ピクセル補正を組み合わせるためのディジタル画像システム及び方法 | |
TWI516132B (zh) | An image processing apparatus, an image processing method, and a program | |
JP2005159957A (ja) | 色補間方法 | |
CN102055988B (zh) | 图像处理设备及其控制方法 | |
US8837852B2 (en) | Apparatus and method for removing defective pixels | |
US20130077858A1 (en) | Image processing module and image processing method | |
US8045826B2 (en) | Detecting edges in a digital images | |
JP3905708B2 (ja) | 画像補間装置 | |
CN114359050B (zh) | 图像处理方法、装置、计算机设备、存储介质及程序产品 | |
JP2013232829A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP4380399B2 (ja) | 撮像装置、ノイズリダクション装置およびノイズリダクション方法並びにプログラム | |
KR101327790B1 (ko) | 영상 보간 방법 및 장치 | |
KR100996797B1 (ko) | 화상 처리 장치, 화상 처리 방법, 및 화상 처리를 달성하는프로그램 | |
JP4732153B2 (ja) | 画素補間方法及び装置、画像読取装置 | |
JP2008028475A (ja) | 画像処理装置、画像処理プログラム、画像処理プログラムを記録する記録媒体、画像処理方法 | |
JP6552248B2 (ja) | 画像処理装置及び方法、撮像装置、並びにプログラム | |
JP6184277B2 (ja) | 画像処理装置 | |
JP5846100B2 (ja) | 表示装置の欠陥検査方法 | |
JP2009182733A (ja) | 画像データ生成方法および画像データ生成装置、並びに情報コード読取装置 | |
JP2006191231A (ja) | カメラモジュールの検査方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120719 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130729 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130827 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131015 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131105 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131118 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5428628 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |