JP4197821B2 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP4197821B2 JP4197821B2 JP2000050073A JP2000050073A JP4197821B2 JP 4197821 B2 JP4197821 B2 JP 4197821B2 JP 2000050073 A JP2000050073 A JP 2000050073A JP 2000050073 A JP2000050073 A JP 2000050073A JP 4197821 B2 JP4197821 B2 JP 4197821B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- equivalent signal
- luminance
- image
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 86
- 238000006243 chemical reaction Methods 0.000 claims description 35
- 238000000605 extraction Methods 0.000 claims description 32
- 238000012937 correction Methods 0.000 claims description 28
- 230000002194 synthesizing effect Effects 0.000 claims description 8
- 230000000295 complement effect Effects 0.000 claims description 7
- 238000003384 imaging method Methods 0.000 claims description 7
- 239000000872 buffer Substances 0.000 description 19
- 230000015654 memory Effects 0.000 description 15
- 230000000875 corresponding effect Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 238000000034 method Methods 0.000 description 10
- 238000001514 detection method Methods 0.000 description 8
- 239000000284 extract Substances 0.000 description 7
- 239000000203 mixture Substances 0.000 description 5
- 230000000694 effects Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005375 photometry Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000003936 working memory Effects 0.000 description 1
Images
Landscapes
- Editing Of Facsimile Originals (AREA)
- Facsimile Image Signal Circuits (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
Description
【発明の属する技術分野】
本発明は、画像処理装置、より詳しくは、異なる露光条件で撮像された複数の画像から一の広ダイナミックレンジ画像を生成する画像処理装置に関する。
【0002】
【従来の技術】
従来より、異なる露光条件で撮像された複数の画像を合成して一の広ダイナミックレンジ画像を生成する画像処理装置が提案されている。
【0003】
このようなものの一例として、特願平11−338551号には、各画像を適正露光領域と不適正露光領域に分割して、各適正露光領域毎に階調補正を行い、階調補正された各画像毎の適正露光領域を合成して一の広ダイナミックレンジ画像を生成する画像処理装置が記載されており、さらに、この画像処理装置を適用した機器の例として、被写体をより広いダイナミックレンジで撮像することができるスーパーラチチュードデジタルカメラが記載されている。
【0004】
このようなデジタルカメラにおいては、より詳しくは、次のような処理を基本的に行うようになっている。
【0005】
まず、例えばRGBのカラーフィルタがベイヤー(Bayer)配列になされた単板CCD(本発明の実施形態を示す図4(A)参照)を使用して撮像を行い、その撮像信号中のR画素に係る信号を補間処理することにより1画面分のR画像を作成し、同様にG画素に係る信号を補間処理し、B画素に係る信号を補間処理することにより、各1画面分のG画像とB画像を作成する、いわゆる3板化の処理を行う。
【0006】
次に、これらのRGB信号に基づき、画素毎に次の演算を行って、輝度信号Yと輝度差信号Cb,Crを算出する。
【0007】
Y = 0.29900R+0.58700G+0.14400B
Cb=−0.16874R−0.33126G+0.50000B
Cr= 0.50000R−0.41869G−0.08131B
その後に、これらの内の輝度信号Yに例えばラプラシアン等のフィルタをかけることにより画面内のエッジ成分を抽出し、さらに所定の閾値と比較する2値化処理を行ってエッジを検出する。
【0008】
その後、輝度に対するエッジの出現頻度をヒストグラムとして作成して、さらに累積ヒストグラム等に変換し、ヒストグラム平坦化に基づいて階調変換曲線を求める処理を行っている。
【0009】
このヒストグラム平坦化は、主要被写体はエッジが多く、背景などの非主要部はエッジが少ないことを前提とした技術である。
【0010】
【発明が解決しようとする課題】
上述したような一般的な処理では、階調変換特性を算出するために、単板信号から作成したRGB各3画面分の画像メモリと、これらRGB3板信号から作成した輝度信号Yを記憶する1画面分のメモリと、さらに、この輝度信号Yから抽出したエッジ成分を記憶する1画面分のメモリと、の5画面分の画像メモリが必要となってしまっている。
【0011】
また、階調変換特性を算出する際に必要な演算は、次のようになっている。まず、単板信号から3板RGB信号を算出する際には、
R信号: (加算1,除算1)×画素数×3/4
G信号: (加算3,除算1)×画素数/2
B信号: (加算1,除算1)×画素数×3/4
だけの演算が必要である。
【0012】
次に、これらのRGB信号から輝度信号Yを算出する際には、上記輝度信号Yの演算式から、
Y信号: (加算2,乗算3)×画素数
だけの演算が必要である。
【0013】
さらに、輝度信号からエッジ成分を算出する際には、
エッジ成分:(加算10,減算2,乗算4,論理4)×画素数
だけの演算が必要となる。
【0014】
そして、抽出したエッジ成分を2値化処理する際には、
2値化: (論理1)×画素数
だけの演算が必要となる。
【0015】
加えて、2値化して検出したエッジからヒストグラムを算出する際には、
ヒストグラム:(加算1,減算2,除算2,論理1)×画素数
だけの演算が必要である。
【0016】
こうして、トータルとして、ヒストグラムが算出されるまでに、
(加算16,減算4,乗算7,除算4,論理6)×画素数
の演算が必要となる。
【0017】
また、補色系のカラーフィルタを備えたCCD(本発明の実施形態を示す図5(A)参照)の場合には、同様に、ヒストグラムが算出されるまでに、
(加算16,減算4,乗算7,除算5,論理7)×画素数
の演算と、6画面分のメモリが必要となっている。
【0018】
このように、従来からの一般的な処理を行うと、大きな作業用メモリが必要になると共に、多数の演算が必要となって、コストや処理時間を要することになってしまっている。さらに、こうした処理回路をIC化することを考えた場合には、大容量メモリがネックとなって、1チップ化するのに適しているとはいえなかった。
【0019】
本発明は上記事情に鑑みてなされたものであり、より少ない演算回数とより少ないメモリで階調変換特性を求めることが可能な画像処理装置を提供することを目的としている。
【0020】
【課題を解決するための手段】
上記の目的を達成するために、第1の発明による画像処理装置は、同一被写体に対して異なる露光条件で撮像された複数の画像からなる画像群を処理して
一の広ダイナミックレンジ画像を生成する画像処理装置であって、
上記画像群中の各画像毎に整数座標外の画素位置を中心として所定サイズの局所領域を抽出する局所領域抽出手段と、
上記局所領域内の画素情報から、一の整数座標外の画素位置における輝度信号に相当する信号である第1の輝度相当信号と、上記一の整数座標外の画素位置から縦方向または横方向に1画素分離れた位置に存在する他の整数座標外の画素位置における輝度信号に相当する信号である第2の輝度相当信号と、を画像の特徴量として求めるとともに、その求めた第1の輝度相当信号と第2の輝度相当信号との差分として示される微分フィルタを用い、上記一の整数座標外の画素位置におけるエッジ成分を画像の特徴量として算出するエッジ算出手段と、
上記エッジ算出手段により得られた上記輝度相当信号各々を所定値と比較することで、上記整数座標外の画素位置に対応した画素が適正露光であるか否かを判別して、その適正露光であると判別した画素の集合からなる長時間露光画像における適正露光域を抽出する適正露光抽出手段と、
上記特徴量に基づき上記適正露光域の階調補正を行う階調補正手段と、
この階調補正手段により階調補正された適正露光域を合成して3板状態に補間することにより一の広ダイナミックレンジ画像を生成する合成手段と、を備えたものである。
【0021】
また、第2の発明による画像処理装置は、上記第1の発明による画像処理装置において、上記階調補正手段は、上記適正露光域を構成する各画素について、その画素に対応した画素位置における上記エッジ成分と所定値との比較結果に基づいてエッジを抽出することで、その抽出したエッジを有する画素の輝度信号とその輝度信号を有する画素の出現頻度との対応関係を示すヒストグラムを作成するヒストグラム作成手段と、上記ヒストグラムに基づき階調変換曲線を算出する階調変換曲線算出手段と、上記階調変換曲線を用いて階調変換を行う変換手段と、を具備したものである。
【0022】
さらに、第3の発明による画像処理装置は、上記第1または第2の発明による画像処理装置において、上記複数の画像は、単板の撮像素子を用いて得られた画像である。
第4の発明による画像処理装置は、上記第3の発明による画像処理装置において、上記複数の画像は、原色ベイヤー配列のフィルタを有する単板の撮像素子を用いて得られた画像であり、上記整数座標外の画素位置は、上記画像群中の各画像毎に水平方向及び垂直方向にそれぞれ1/2画素ずれた位置であり、上記エッジ算出手段は、上記得られた画像に含まれる局所領域内の画素情報から、上記1/2画素ずれた位置である上記一の整数座標外の画素位置としての一の注目格子点における上記第1の輝度相当信号と、上記一の注目格子点から縦方向または横方向に1画素分離れた位置に存在する格子点である上記他の整数座標外の画素位置としての隣接格子点における上記第2の輝度相当信号とを求め、その求めた第1の輝度相当信号と第2の輝度相当信号をもとに、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出する。
第5の発明による画像処理装置は、上記第4の発明による画像処理装置において、上記エッジ算出手段は、上記一の注目格子点を共有する二つのG成分の画素情報を用いて、上記一の注目格子点における上記第1の輝度相当信号を求める。
第6の発明による画像処理装置は、上記第4の発明による画像処理装置において、上記エッジ算出手段は、上記隣接格子点を共有する二つのG成分の画素情報を用いて、上記隣接格子点における上記第2の輝度相当信号を求める。
第7の発明による画像処理装置は、上記第5または第6の発明による画像処理装置において、上記二つのG成分の画素のそれぞれは、互いに斜め方向に隣接して配置される。
第8の発明による画像処理装置は、上記第5から第7のいずれかの発明による画像処理装置において、上記エッジ算出手段は、上記二つのG成分の画素情報を加算することで、上記第1の輝度相当信号または上記第2の輝度相当信号を求める。
第9の発明による画像処理装置は、上記第4から第8のいずれかの発明による画像処理装置において、上記隣接格子点は、上記一の注目格子点に対して4つ存在し、上記エッジ算出手段は、上記一の注目格子点における上記第1の輝度相当信号をcとして算出し、上記一の注目格子点に対応する各隣接格子点における上記第2の輝度相当信号を夫々a、b、d及びeとして算出した後、算出結果を、上記第1の輝度相当信号と上記第2の輝度相当信号との差分に応じて上記一の整数座標外の画素位置におけるエッジ成分が定まる数式|4c−a−b−d−e|に代入することにより、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出する。
第10の発明による画像処理装置は、上記第8の発明による画像処理装置において、上記隣接格子点は、上記一の注目格子点に対して4つ存在し、上記一の注目格子点は、上記局所領域における中央の画素を構成する4つの格子点のうちのいずれかであり、上記エッジ算出手段は、上記一の注目格子点における上記第1の輝度相当信号をcとして算出し、上記一の注目格子点に対応する各隣接格子点における上記第2の輝度相当信号を夫々a、b、d及びeとして算出した後、算出結果を、上記第1の輝度相当信号と上記第2の輝度相当信号との差分に応じて上記一の整数座標外の画素位置におけるエッジ成分が定まる数式|4c−a−b−d−e|に代入することにより、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出する。
第11の発明による画像処理装置は、上記第3の発明による画像処理装置において、上記複数の画像は、補色系のフィルタを有する単板の撮像素子を用いて得られた画像であり、上記整数座標外の画素位置は、上記画像群中の各画像毎に水平方向及び垂直方向にそれぞれ1/2画素ずれた位置であり、上記エッジ算出手段は、上記得られた画像に含まれる局所領域内の画素情報から、上記1/2画素ずれた位置である上記一の整数座標外の画素位置としての一の注目格子点における上記第1の輝度相当信号と、上記一の注目格子点から縦方向または横方向に1画素分離れた位置に存在する格子点である上記他の整数座標外の画素位置としての隣接格子点における上記第2の輝度相当信号とを求め、その求めた第1の輝度相当信号と第2の輝度相当信号をもとに、上記一の整数座標外の画素位置として の上記一の注目格子点におけるエッジ成分を算出する。
第12の発明による画像処理装置は、上記第11の発明による画像処理装置において、上記エッジ算出手段は、上記一の注目格子点を共有する四つの画素情報を用いて、上記一の注目格子点における上記第1の輝度相当信号を求める。
第13の発明による画像処理装置は、上記第11の発明による画像処理装置において、 上記エッジ算出手段は、上記隣接格子点を共有する四つの画素情報を用いて、上記隣接格子点における上記第2の輝度相当信号を求める。
第14の発明による画像処理装置は、上記第12または第13の発明による画像処理装置において、上記エッジ算出手段は、上記四つの画素のそれぞれの画素情報を加算することで、上記第1の輝度相当信号または上記第2の輝度相当信号を求める。
第15の発明による画像処理装置は、上記第11から第14のいずれかの発明による画像処理装置において、上記隣接格子点は、上記一の注目格子点に対して4つ存在し、上記エッジ算出手段は、上記一の注目格子点における上記第1の輝度相当信号をcとして算出し、各隣接格子点における上記第2の輝度相当信号を夫々a、b、d及びeとして算出した後、算出結果を、上記第1の輝度相当信号と上記第2の輝度相当信号との差分に応じて上記一の整数座標外の画素位置におけるエッジ成分が定まる数式|4c−a−b−d−e|に代入することにより、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出する。
第16の発明による画像処理装置は、上記第14の発明による画像処理装置において、上記隣接格子点は、上記一の注目格子点に対して4つ存在し、上記一の注目格子点は、上記局所領域における中央の画素を構成する4つの格子点のうちのいずれかであり、上記エッジ算出手段は、上記一の注目格子点における上記第1の輝度相当信号をcとして算出し、上記一の注目格子点に対応する各隣接格子点における上記第2の輝度相当信号を夫々a、b、d及びeとして算出した後、算出結果を、上記第1の輝度相当信号と上記第2の輝度相当信号との差分に応じて上記一の整数座標外の画素位置におけるエッジ成分が定まる数式|4c−a−b−d−e|に代入することにより、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出する。
【0023】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。
図1から図6は本発明の一実施形態を示したものであり、図1は電子カメラの基本的な構成を示すブロック図である。
【0024】
本実施形態は、本発明の画像処理装置を電子カメラに適用したものであり、簡単のために短時間露光による画像と長時間露光による画像との2画像を合成して一の広ダイナミックレンジ画像を得る場合について説明するが、もちろんより多数の画像を合成する場合に適用することも可能である。
【0025】
この電子カメラは、電子シャッタ機能を有する単板式のカラーCCD等でなり、被写体像を光電変換して画像信号として出力するためのCCD4と、このCCD4上に被写体像を結像するためのレンズ系1と、このレンズ系1を通過した光束の通過範囲を制御するための絞り2と、この絞り2を通過した光束から不要な高周波成分を除去するための光学フィルタでなるローパスフィルタ3と、上記CCD4から出力された後に図示しない相関二重サンプリング回路等でノイズ成分の除去が行われその後に増幅等がなされたアナログの画像信号をデジタル信号に変換するためのA/D変換器5と、このA/D変換器5によりデジタル化された一画面分の画像データを各蓄積するものであり長時間露光による画像と短時間露光による画像とをそれぞれ記憶する第1画像用バッファ6aおよび第2画像用バッファ6bと、これらの内の測光用および焦点検出用のデータを蓄積するのにも用いられる第1画像用バッファ6aから画像データを読み出して輝度分布を求め撮像時に適正露光となるように上記絞り2の開口径や上記CCD4の電子シャッタを制御する測光評価部7と、上記第1画像用バッファ6aから画像データを読み出して合焦位置の検出を行いその検出結果に基づいて後述するAFモータ9を制御する合焦点検出部8と、この合焦点検出部8に制御されて上記レンズ系1のAF用レンズを駆動し上記CCD4上に被写体像を結像させるようにするAFモータ9と、上記第1,第2画像用バッファ6a,6bから読み出された画像データから特徴量であるエッジ成分を抽出する特徴量算出手段たる特徴量算出部10と、この特徴量算出部10から出力される長時間露光に係る輝度信号に相当する信号に基づいて、画面全体を構成する各画素について、その画素が適切な露出であるか否かを信号レベルにより判別し、その結果に基づき分割画像情報を抽出して出力する適正露光抽出手段たる適正露光抽出部11と、上記特徴量算出部10から出力されるエッジ成分に基づき階調変換曲線を作成して上記適正露光抽出部11から出力される適正露光域の階調変換を行う階調補正手段たる階調補正部12と、この階調補正部12から出力される階調変換後の長時間露光に係る適正露光域および短時間露光に係る適正露光域を合成して3板状態に補間することにより一の広ダイナミックレンジ画像を生成する合成手段たる画像合成補間部13と、この画像合成補間部13により合成された広ダイナミックレンジ画像を例えば記録媒体や表示装置などに出力する出力部14と、上記測光評価部7や合焦点検出部8の検出結果を受け取るとともに、上記特徴量算出部10、階調補正部12、画像合成補間部13、出力部14を含むこの電子カメラ全体の制御を行う制御部15と、を有して構成されている。
【0026】
次に、図2は上記特徴量算出部10の詳細な構成を示すブロック図である。
【0027】
この特徴量算出部10は、長時間露光画像を記憶している上記第1画像用バッファ6aから画像データを読み出して、輝度信号に相当する信号を生成し上記適正露光抽出部11に出力すると共に、長時間露光画像と短時間露光画像の特徴量であるエッジ成分を順に算出して上記階調補正部12に出力するものであり、例えば5×5画素でなる局所領域を抽出する局所領域抽出手段たる局所領域抽出部20と、抽出された局所領域の画像データを記憶する作業用バッファ21と、輝度信号に相当する第1信号を抽出するエッジ算出手段たる第1信号抽出部22と、特徴量であるエッジ成分としての第2信号を抽出する同エッジ算出手段たる第2信号抽出部23と、を有して構成されている。
【0028】
また、図3は、上記階調補正部12の詳細な構成を示すブロック図である。
【0029】
この階調補正部12は、長時間露光画像と短時間露光画像を、後段の画像合成補間部13で合成して広ダイナミックレンジ画像とするのに適するように階調補正するものであり、上記適正露光抽出部11により抽出された適正露光領域について上記特徴量算出部10から出力されるエッジ成分からエッジを判別してエッジヒストグラムを作成するヒストグラム作成手段たるヒストグラム作成部30と、このエッジヒストグラムに基づき階調変換曲線を算出する階調変換曲線算出手段たる変換曲線算出部31と、算出された階調変換曲線に基づき上記特徴量算出部10から出力される画像データの階調補正を行う変換手段たる変換部32とを有して構成されている。
【0030】
次に、図6は、階調変換特性の算出処理を示すフローチャートであり、図4は、ベイヤー配列の原色系フィルタCCDにおけるエッジ成分を算出する手段を示す図である。
【0031】
まず、単板でなる上記CCD4が、図4(A)に示すような原色ベイヤー配列のカラーフィルタアレイを備えたものである場合について説明する。
【0032】
このCCD4に結像された被写体像は、異なる露光条件で複数回撮像されるようになっており、上述したように、例えば長時間露光による撮像と短時間露光による撮像とがこの順に行われて、順次画像信号として出力される。
【0033】
これらの画像信号は、A/D変換器5によってデジタル信号に変換された後に、第1画像用バッファ6aと第2画像用バッファ6bにそれぞれ記憶される。
【0034】
上記測光評価部7と合焦点検出部8は、これらの内の一方の第1画像用バッファ6aに蓄積された長時間露光の画像データに基づいて、AE情報とAF情報を制御部17にそれぞれ出力する。
【0035】
一方、特徴量算出部10は、上記第1画像用バッファ6aおよび第2画像用バッファ6bに記憶されている画像データを、画素配列に沿う所定方向に順次読み込むことにより(ステップS1)、映像信号の走査を行う(ステップS2)。
【0036】
そして、局所領域抽出部20において、図4(A)に示すような例えば5×5画素でなる局所領域の信号を抽出して(ステップS3)、この局所領域の信号を後段の階調補正部12で使用するために出力する(ステップS4)とともに、作業用バッファ21に一旦記憶させておく。
【0037】
第1信号抽出部22は、この作業用バッファ21に記憶されている図4(A)に示すような局所領域のデータから、輝度信号に相当する第1信号を抽出する(ステップS5)。
【0038】
すなわち、この第1信号抽出部22においては、縦横に配列された画素同士の間の格子点となる位置、つまり、縦方向および横方向に各0.5画素分ずらした画素位置における輝度信号を、G信号で代用して補間演算し抽出するようになっている。
【0039】
具体的には、図4(B)に示すように、画素G1 と画素G3 との間の格子点の相対的な輝度相当信号をG1 +G3 として算出し、同様に、画素G1 と画素G4 との間の格子点の相対的な輝度相当信号をG1 +G4 、画素G3 と画素G6 との間の格子点の相対的な輝度相当信号をG3 +G6 、画素G4 と画素G6 との間の格子点の相対的な輝度相当信号をG4 +G6 、などととして算出する。
【0040】
このG信号で代用した輝度相当信号は、本来ならば2で除算して平均値をとるべきであるが、後段の適正露光抽出部11において適正露光域を抽出するためには、相対的な信号でも事足りるために、2で除算するのを省くことにより、演算回数を減少させている。
【0041】
こうして第1信号である輝度相当信号が算出されたら、第1信号抽出部22から適正露光抽出部11に出力する(ステップS6)。
【0042】
次に、第2信号抽出部23は、上記作業用バッファ21に記憶されている図4(A)に示すような局所領域のデータから、特徴量であるエッジ成分(第2信号)を抽出する(ステップS7)。
【0043】
すなわち、この第2信号抽出部23においては、例えばラプラシアン等の2次微分フィルタをかけることにより、第2信号であるエッジ成分を取り出すようになっている。2次元のラプラシアンは、良く知られているように、x方向の2階微分とy方向の2階微分との線形結合でなる。従って、図4(C)に示すような格子点の内の符号cで示す点におけるエッジ成分をラプラシアンにより求める際には、点cを中心としてx方向およびy方向にそれぞれ2階差分をとって線形結合することにより行われる。
【0044】
まず、x方向についての2階差分は、
(c−b)−(d−c)=2c−b−d
であり、y方向についての2階差分は、
(c−a)−(e−c)=2c−a−e
となるために、結局、
cのエッジ=|4c−a−b−d−e|
を算出すればよいことになる。
【0045】
図4(A)の点I1 を点cとしたときには、a,b,c,d,eの各格子点における輝度相当信号は、
a=(G1 +G4 )
b=(G3 +G6 )
c=(G4 +G6 )
d=(G4 +G7 )
e=(G6 +G9 )
となるために、これらを代入すれば、点I1 のエッジ成分は、
I1 =|2(G4 +G6 )−G1 −G3 −G7 −G9 |
として求められることが分かる。
【0046】
図4(A)に示したような5×5画素でなる局所領域においては、さらに、点I2 ,I3 ,I4 のエッジ成分も求めることができ、それぞれ、
I2 =|2(G4 +G7 )−G2 −G5 −G6 −G9 |
I3 =|2(G6 +G9 )−G4 −G7 −G8 −G11|
I4 =|2(G7 +G9 )−G4 −G6 −G10−G12|
となる。
【0047】
このような5×5画素単位の処理を2画素間隔で繰り返して行うことにより、画面周辺の2行2列を除いた全画面のエッジ成分を算出することができる。
【0048】
上記点I1 ,I2 ,I3 ,I4 のエッジ成分を算出する式を見れば分かるように、係数2が乗算されている()内の量は、各点I1 ,I2 ,I3 ,I4 における輝度相当信号となっている。すなわち、輝度相当信号である第1信号は、特徴量であるエッジ成分を算出する過程で得られるようになっている。
【0049】
このような処理における演算回数は、一格子点毎に、輝度相当信号である第1信号を算出する際に加算を1回行い、さらにエッジ成分を続けて算出する過程で、減算を4回、乗算を1回、絶対値をとる論理演算を1回うだけで済むようになっている。
【0050】
また、この処理は、単板データを3板データに補間処理するときのような画素位置に応じた分岐処理が不要となるために、近年の複数段のパイプライン処理を行うことができるプロセッサ等を有効に用いて、深い段数での処理を行うことが可能となり、処理速度を向上させることができる。
【0051】
この第2信号抽出部23から出力される第2信号は、上記階調補正部12に入力される。
【0052】
階調補正部12のヒストグラム作成部30は、上記制御部15の指令により、上記第2信号抽出部23から出力されたエッジ成分と、上記適正露光抽出部11から出力される適正露光領域情報とに基づいて、エッジヒストグラムを算出する(ステップS8)。
【0053】
ここに、上記適正露光抽出部11は、上記第1画像用バッファ6aから読み出した長時間露光の画像データから得られる輝度相当信号である第1信号に基づいて、長時間露光に係る適正露光域を判断し、それ以外の部分を短時間露光に係る適正露光域とするようになっている。
【0054】
つまり、適正露光抽出部11において、上述したようにG信号を補間して作成された格子点における輝度相当信号の信号レベルを、所定値と比較することにより、その画素が、適切な露光であるか否かを判別し、適正露光と判断された画素の集合を長時間露光画像における適正露光域として、その結果を上記ヒストグラム作成部30に出力する。
【0055】
こうして、ヒストグラム作成部30において、適正露光領域内のエッジ成分と所定の閾値とを比較することにより、エッジを抽出する。このときの閾値との比較による2値化処理では、論理演算1回を画素数分だけ行うことになる。
【0056】
さらに、ヒストグラム作成部30は、エッジを構成する画素の輝度レベルに対する出現頻度を示すエッジヒストグラムを作成する。このエッジヒストグラムの算出においては、例えば、加算1,減算2,除算2,論理1の各演算が画素数分だけ行われることになる。
【0057】
こうしてヒストグラム作成部30は、適正露光領域内の全ての画素について走査をし終えてエッジヒストグラムを作成したところで(ステップS9)、そのエッジヒストグラムを変換曲線算出部31に出力する。
【0058】
変換曲線算出部31では、エッジヒストグラムをガウシアンカーネル等を用いてコンボリューションすることにより目標ヒストグラムを生成し、この目標ヒストグラムと上記ヒストグラム作成部30から出力されたエッジヒストグラムとを各積分して累積ヒストグラムに変換し、これらに基づいて階調補正特性となるトーンカーブを算出する(ステップS10)。
【0059】
変換部32は、上記制御部15の指令により、上記局所領域抽出部20から出力される画像データに、この変換曲線算出部31から得られるトーンカーブに基づいた階調補正を行い、階調補正後の画像データを上記画像合成補間部13に出力する。
【0060】
画像合成補間部13では、上述したように、階調補正された長時間露光の適正露光域に係る画像データと、階調補正された短時間露光の適正露光域に係る画像データとを受け取って合成して3板状態に補間することにより、一の広ダイナミックレンジ画像を生成するようになっている。
【0061】
生成された広ダイナミックレンジ画像は、その後、出力部14から出力される。
【0062】
こうして、原色単板のCCD4の場合には、画像データからエッジヒストグラムを算出するまでに、合計で、
(加算2,減算6,乗算1,除算2,論理3)×画素数
だけの演算が行われることになり、上述したような従来における演算回数、
(加算16,減算4,乗算7,除算4,論理6)×画素数
に比してかなり演算回数を減少させることができるために、処理回路の負荷を軽減して処理時間を短縮することが可能となる。
【0063】
さらに、演算途中のデータを記憶するメモリも、算出したエッジ成分を記憶する1画面分のメモリだけで済むために、上述した従来例においては5画面分のメモリが必要であったのに比べて大幅に減少させることができ、回路規模を縮小させて基板面積を小さくすることができるために、処理回路を1チップのIC化する際に大きな利点となる。
【0064】
また、上述したような処理は、原色系のカラーフィルタアレイを備えた単板CCDにのみ適用されるものではなく、図5(A)に示すような補色系のカラーフィルタアレイを備えたものについても同様に適用することができる。図5は、補色系フィルタCCDにおけるエッジ成分を算出する手段を示す図である。
【0065】
すなわち、局所領域抽出部20において、図5(A)に示すような5×5画素でなる局所領域を抽出し、縦横に配列された画素同士の間の格子点となる位置、つまり、縦横に各0.5画素分ずらした画素位置における輝度相当信号を、図5(B)に示すような補間演算を用いて算出する。
【0066】
すなわち、各格子点の周りの4つの画素データを加算することにより、図5(B)における4つの格子点に関する輝度相当信号を、(M1 +Y1 +G1 +C1 )、(Y1 +M2 +C1 +G2 )、(G1 +C1 +M4 +Y4 )、(C1 +G2 +Y4 +M5 )などととして算出する。
【0067】
そして、ラプラシアンを用いた場合には、格子点cにおけるエッジは、上記図4(C)と同様の図5(C)に示すように、
cのエッジ=|4c−a−b−d−e|
として算出されるために、図4(A)の点I1 ,I2 ,I3 ,I4 のエッジ成分は、
となる。
【0068】
その後に、この輝度相当信号を2値化処理して、ヒストグラムを作成するのは、上述と同様である。
【0069】
こうして、補色単板のCCD4の場合には、画像データからエッジヒストグラムを算出するまでに、合計で、
(加算4,減算10,乗算1,除算2,論理3)×画素数
だけの演算が行われることになり、上述したような従来における演算回数、
(加算16,減算4,乗算7,除算5,論理7)×画素数
に比してかなり演算回数を減少させることができるために、処理回路の負荷を軽減して処理時間を短縮することが可能となる。
【0070】
さらに、演算途中のデータを記憶するメモリとしても、算出したエッジ成分を記憶する1画面分のメモリで済むために、上述した従来例においては6画面分のメモリが必要であったのに比べて大幅に減少させることができ、回路規模を縮小させて基板面積を小さくすることができるために、処理回路を1チップのIC化する際に大きな利点となる。
【0071】
このような実施形態によれば、より少ない演算回数で階調補正を行うことができるために、処理回路の負荷を軽減して処理時間を短縮することが可能となる。さらに、演算途中のデータを記憶するメモリが1画面分のもので済むために、必要なメモリ量を大幅に減少させることができて、回路規模を縮小させて基板面積を小さくすることが可能となるために、処理回路を1チップのIC化する際に大きな利点となる。
【0072】
なお、本発明は上述した実施形態に限定されるものではなく、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。
【0073】
【発明の効果】
以上説明したように本発明の画像処理装置によれば、整数座標外の画素位置における特徴量を算出して、その過程で得られた画像信号に基づき適正露光域を抽出し、上記特徴量に基づき階調補正を行うようにしたために、階調補正を行うまでの演算回数やメモリ量を減少させることが可能となる。
【0074】
また、本発明の画像処理装置によれば、請求項1に記載の発明と同様の効果を奏するとともに、特徴量を算出する画素位置を水平方向及び垂直方向にそれぞれ1/2画素ずれた画素位置とすることにより、輝度信号に相当する信号及び輝度信号に相当する信号のエッジ成分をより簡略に算出することが可能となる。
【0075】
さらに、本発明の画像処理装置によれば、請求項1に記載の発明と同様の効果を奏するとともに、特徴量に基づいてヒストグラムを作成し階調変換曲線を算出しているために、より効果的な階調変換を行うことが可能となる。
【図面の簡単な説明】
【図1】本発明の実施形態の電子カメラの基本的な構成を示すブロック図。
【図2】上記実施形態の特徴量算出部の詳細な構成を示すブロック図。
【図3】上記実施形態の階調補正部の詳細な構成を示すブロック図。
【図4】上記実施形態において、ベイヤー配列の原色系フィルタCCDにおけるエッジ成分を算出する手段を示す図。
【図5】上記実施形態において、補色系フィルタCCDにおけるエッジ成分を算出する手段を示す図。
【図6】上記実施形態における階調変換特性の算出処理を示すフローチャート。
【符号の説明】
4…CCD
6a…第1画像用バッファ
6b…第2画像用バッファ
10…特徴量算出部(特徴量算出手段)
11…適正露光抽出部(適正露光抽出手段)
12…階調補正部(階調補正手段)
13…画像合成補間部(合成手段)
14…出力部
15…制御部
20…局所領域抽出部(局所領域抽出手段)
21…作業用バッファ
22…第1信号抽出部(エッジ算出手段)
23…第2信号抽出部(エッジ算出手段)
30…ヒストグラム作成部(ヒストグラム作成手段)
31…変換曲線算出部(階調変換曲線算出手段)
32…変換部(変換手段)
Claims (16)
- 同一被写体に対して異なる露光条件で撮像された複数の画像からなる画像群を処理して一の広ダイナミックレンジ画像を生成する画像処理装置であって、
上記画像群中の各画像毎に整数座標外の画素位置を中心として所定サイズの局所領域を抽出する局所領域抽出手段と、
上記局所領域内の画素情報から、一の整数座標外の画素位置における輝度信号に相当する信号である第1の輝度相当信号と、上記一の整数座標外の画素位置から縦方向または横方向に1画素分離れた位置に存在する他の整数座標外の画素位置における輝度信号に相当する信号である第2の輝度相当信号と、を画像の特徴量として求めるとともに、その求めた第1の輝度相当信号と第2の輝度相当信号との差分として示される微分フィルタを用い、上記一の整数座標外の画素位置におけるエッジ成分を画像の特徴量として算出するエッジ算出手段と、
上記エッジ算出手段により得られた上記輝度相当信号各々を所定値と比較することで、上記整数座標外の画素位置に対応した画素が適正露光であるか否かを判別して、その適正露光であると判別した画素の集合からなる長時間露光画像における適正露光域を抽出する適正露光抽出手段と、
上記特徴量に基づき上記適正露光域の階調補正を行う階調補正手段と、
この階調補正手段により階調補正された適正露光域を合成して3板状態に補間することにより一の広ダイナミックレンジ画像を生成する合成手段と、
を具備したことを特徴とする画像処理装置。 - 上記階調補正手段は、
上記適正露光域を構成する各画素について、その画素に対応した画素位置における上記エッジ成分と所定値との比較結果に基づいてエッジを抽出することで、その抽出したエッジを有する画素の輝度信号とその輝度信号を有する画素の出現頻度との対応関係を示すヒストグラムを作成するヒストグラム作成手段と、
上記ヒストグラムに基づき階調変換曲線を算出する階調変換曲線算出手段と、
上記階調変換曲線を用いて階調変換を行う変換手段と、
を具備したことを特徴とする請求項1に記載の画像処理装置。 - 上記複数の画像は、単板の撮像素子を用いて得られた画像であることを特徴とする請求項1または2に記載の画像処理装置。
- 上記複数の画像は、原色ベイヤー配列のフィルタを有する単板の撮像素子を用いて得られた画像であり、
上記整数座標外の画素位置は、上記画像群中の各画像毎に水平方向及び垂直方向にそれぞれ1/2画素ずれた位置であり、
上記エッジ算出手段は、上記得られた画像に含まれる局所領域内の画素情報から、上記1/2画素ずれた位置である上記一の整数座標外の画素位置としての一の注目格子点における上記第1の輝度相当信号と、上記一の注目格子点から縦方向または横方向に1画素分離れた位置に存在する格子点である上記他の整数座標外の画素位置としての隣接格子点における上記第2の輝度相当信号とを求め、その求めた第1の輝度相当信号と第2の輝度相当信号をもとに、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出することを特徴とする請求項3に記載の画像処理装置。 - 上記エッジ算出手段は、上記一の注目格子点を共有する二つのG成分の画素情報を用いて、上記一の注目格子点における上記第1の輝度相当信号を求めることを特徴とする請求項4に記載の画像処理装置。
- 上記エッジ算出手段は、上記隣接格子点を共有する二つのG成分の画素情報を用いて、上記隣接格子点における上記第2の輝度相当信号を求めることを特徴とする請求項4に記載の画像処理装置。
- 上記二つのG成分の画素のそれぞれは、互いに斜め方向に隣接して配置されることを特徴とする請求項5または6に記載の画像処理装置。
- 上記エッジ算出手段は、上記二つのG成分の画素情報を加算することで、上記第1の輝度相当信号または上記第2の輝度相当信号を求めることを特徴とする請求項5から7のいずれかに記載の画像処理装置。
- 上記隣接格子点は、上記一の注目格子点に対して4つ存在し、
上記エッジ算出手段は、上記一の注目格子点における上記第1の輝度相当信号をcとして算出し、上記一の注目格子点に対応する各隣接格子点における上記第2の輝度相当信号を夫々a、b、d及びeとして算出した後、算出結果を、上記第1の輝度相当信号と上記第2の輝度相当信号との差分に応じて上記一の整数座標外の画素位置におけるエッジ成分が定まる数式|4c−a−b−d−e|に代入することにより、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出することを特徴とする請求項4から8のいずれかに記載の画像処理装置。 - 上記隣接格子点は、上記一の注目格子点に対して4つ存在し、
上記一の注目格子点は、上記局所領域における中央の画素を構成する4つの格子点のうちのいずれかであり、
上記エッジ算出手段は、上記一の注目格子点における上記第1の輝度相当信号をcとして算出し、上記一の注目格子点に対応する各隣接格子点における上記第2の輝度相当信号を夫々a、b、d及びeとして算出した後、算出結果を、上記第1の輝度相当信号と上記第2の輝度相当信号との差分に応じて上記一の整数座標外の画素位置におけるエッジ成分が定まる数式|4c−a−b−d−e|に代入することにより、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出することを特徴とする請求項8に記載の画像処理装置。 - 上記複数の画像は、補色系のフィルタを有する単板の撮像素子を用いて得られた画像であり、
上記整数座標外の画素位置は、上記画像群中の各画像毎に水平方向及び垂直方向にそれぞれ1/2画素ずれた位置であり、
上記エッジ算出手段は、上記得られた画像に含まれる局所領域内の画素情報から、上記1/2画素ずれた位置である上記一の整数座標外の画素位置としての一の注目格子点における上記第1の輝度相当信号と、上記一の注目格子点から縦方向または横方向に1画素分離れた位置に存在する格子点である上記他の整数座標外の画素位置としての隣接格子点における上記第2の輝度相当信号とを求め、その求めた第1の輝度相当信号と第2の輝度相当信号をもとに、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出することを特徴とする請求項3に記載の画像処理装置。 - 上記エッジ算出手段は、上記一の注目格子点を共有する四つの画素情報を用いて、上記一の注目格子点における上記第1の輝度相当信号を求めることを特徴とする請求項11に記載の画像処理装置。
- 上記エッジ算出手段は、上記隣接格子点を共有する四つの画素情報を用いて、上記隣接格子点における上記第2の輝度相当信号を求めることを特徴とする請求項11に記載の画像処理装置。
- 上記エッジ算出手段は、上記四つの画素のそれぞれの画素情報を加算することで、上記第1の輝度相当信号または上記第2の輝度相当信号を求めることを特徴とする請求項12または13に記載の画像処理装置。
- 上記隣接格子点は、上記一の注目格子点に対して4つ存在し、
上記エッジ算出手段は、上記一の注目格子点における上記第1の輝度相当信号をcとして算出し、各隣接格子点における上記第2の輝度相当信号を夫々a、b、d及びeとして算出した後、算出結果を、上記第1の輝度相当信号と上記第2の輝度相当信号との差分に応じて上記一の整数座標外の画素位置におけるエッジ成分が定まる数式|4c−a−b−d−e|に代入することにより、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出することを特徴とする請求項11から14のいずれかに記載の画像処理装置。 - 上記隣接格子点は、上記一の注目格子点に対して4つ存在し、
上記一の注目格子点は、上記局所領域における中央の画素を構成する4つの格子点のうちのいずれかであり、
上記エッジ算出手段は、上記一の注目格子点における上記第1の輝度相当信号をcとして算出し、上記一の注目格子点に対応する各隣接格子点における上記第2の輝度相当信号を夫々a、b、d及びeとして算出した後、算出結果を、上記第1の輝度相当信号と上記第2の輝度相当信号との差分に応じて上記一の整数座標外の画素位置におけるエッジ成分が定まる数式|4c−a−b−d−e|に代入することにより、上記一の整数座標外の画素位置としての上記一の注目格子点におけるエッジ成分を算出することを特徴とする請求項14に記載の画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000050073A JP4197821B2 (ja) | 2000-02-25 | 2000-02-25 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000050073A JP4197821B2 (ja) | 2000-02-25 | 2000-02-25 | 画像処理装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008219421A Division JP2009017583A (ja) | 2008-08-28 | 2008-08-28 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001245129A JP2001245129A (ja) | 2001-09-07 |
JP4197821B2 true JP4197821B2 (ja) | 2008-12-17 |
Family
ID=18571907
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000050073A Expired - Fee Related JP4197821B2 (ja) | 2000-02-25 | 2000-02-25 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4197821B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7386186B2 (en) * | 2004-08-27 | 2008-06-10 | Micron Technology, Inc. | Apparatus and method for processing images |
JP4550016B2 (ja) * | 2006-06-19 | 2010-09-22 | パナソニック株式会社 | 輝度変換装置 |
US10546368B2 (en) * | 2017-09-05 | 2020-01-28 | Solomon Systech (Shenzhen) Limited | Method and device for compensating the perceptual bias of edge boost in a display panel |
-
2000
- 2000-02-25 JP JP2000050073A patent/JP4197821B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001245129A (ja) | 2001-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4284628B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 | |
JP4465002B2 (ja) | ノイズ低減システム、ノイズ低減プログラム及び撮像システム。 | |
US7432985B2 (en) | Image processing method | |
JP5016255B2 (ja) | ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ | |
JP4054184B2 (ja) | 欠陥画素補正装置 | |
JP4977395B2 (ja) | 画像処理装置及び方法 | |
JP4668185B2 (ja) | 画像処理方法 | |
JP2003101886A (ja) | 撮像装置 | |
US8520099B2 (en) | Imaging apparatus, integrated circuit, and image processing method | |
JP5041886B2 (ja) | 画像処理装置、画像処理プログラム、画像処理方法 | |
JP2010239492A (ja) | 撮像装置および映像信号のノイズ低減方法 | |
JP5291788B2 (ja) | 撮像装置 | |
JP5268321B2 (ja) | 画像処理装置及び画像処理方法、画像処理プログラム | |
JP4197821B2 (ja) | 画像処理装置 | |
JP4380399B2 (ja) | 撮像装置、ノイズリダクション装置およびノイズリダクション方法並びにプログラム | |
JP2009017583A (ja) | 画像処理装置 | |
KR101327790B1 (ko) | 영상 보간 방법 및 장치 | |
JP2003348382A (ja) | 輪郭強調回路 | |
JP3660504B2 (ja) | カラー固体撮像装置 | |
JP2003134523A (ja) | 撮像装置及び撮像方法 | |
KR100776385B1 (ko) | 에지 향상과 노이즈 제거를 위한 컬러 보간 장치 | |
JP4478981B2 (ja) | 色雑音低減手法およびカラー撮像装置 | |
JP5454820B2 (ja) | 画像処理装置及び画像処理方法、画像処理プログラム | |
WO2016051911A1 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP2009253760A (ja) | 画像処理装置、画像処理方法及び電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060706 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080331 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080408 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080605 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080701 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080827 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080924 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080930 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111010 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111010 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111010 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121010 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131010 Year of fee payment: 5 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |