JP2004072196A - 撮像装置および画像信号処理方法 - Google Patents
撮像装置および画像信号処理方法 Download PDFInfo
- Publication number
- JP2004072196A JP2004072196A JP2002225202A JP2002225202A JP2004072196A JP 2004072196 A JP2004072196 A JP 2004072196A JP 2002225202 A JP2002225202 A JP 2002225202A JP 2002225202 A JP2002225202 A JP 2002225202A JP 2004072196 A JP2004072196 A JP 2004072196A
- Authority
- JP
- Japan
- Prior art keywords
- image
- knee
- signal
- color
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Abstract
【課題】広いダイナミックレンジを持ちホワイトバランスの合った合成画像を真数加算方式で求める。
【解決手段】撮像画像データを色信号毎に出力する固体撮像素子と、固体撮像素子で撮像した高出力画像の画像データと低出力画像の画像データとを合成する画像合成手段41と、画像合成手段41にて合成された合成画像データを各色信号毎にニー補正するニー補正手段42と、ニー補正手段42から出力される合成画像データに対し色信号毎にホワイトバランスゲインをかけるゲイン補正手段43とを備える撮像装置において、色信号のうち予め定められた1色の色信号に対するニー特性と各色信号毎のホワイトバランスゲインとから前記色信号のうちの他の色信号に対するニー特性を自動決定しニー補正手段42にて当該色信号に対するニー補正を行わせる。
【選択図】 図2
【解決手段】撮像画像データを色信号毎に出力する固体撮像素子と、固体撮像素子で撮像した高出力画像の画像データと低出力画像の画像データとを合成する画像合成手段41と、画像合成手段41にて合成された合成画像データを各色信号毎にニー補正するニー補正手段42と、ニー補正手段42から出力される合成画像データに対し色信号毎にホワイトバランスゲインをかけるゲイン補正手段43とを備える撮像装置において、色信号のうち予め定められた1色の色信号に対するニー特性と各色信号毎のホワイトバランスゲインとから前記色信号のうちの他の色信号に対するニー特性を自動決定しニー補正手段42にて当該色信号に対するニー補正を行わせる。
【選択図】 図2
Description
【0001】
【発明の属する技術分野】
本発明はデジタルスチルカメラ等の撮像装置および画像信号処理方法に係り、特に、ホワイトバランスをとりながらダイナミックレンジを広げた画像信号を得ることができる撮像装置および画像信号処理方法に関する。
【0002】
【従来の技術】
デジタルスチルカメラ等の撮像装置で、例えば室内風景を撮像した場合、室内に存在する被写体の映像は良く映っても、窓から見える青い空が白飛びしてしまい、全体的に不自然な画像になってしまうことがある。これは画像のダイナミックレンジが狭いためであり、この問題を解決するために、従来から、2枚の画像を撮像し合成することで、画像のダイナミックレンジを広げることが行われている。
【0003】
例えば、高速シャッタを切って1枚目の短時間露光画像(低感度画像)を撮像し、これに連続して低速シャッタを切って2枚目の長時間露光画像(高感度画像)を撮像し、2枚の画像を合成することで、低感度画像中に映っている窓の外の風景が、室内風景の良く映っている高感度画像に重なるようにしている。
【0004】
特開2000―307963号公報に記載されている従来の撮像装置では、2枚の画像を合成するとき、動きのある被写体部分が低感度画像と高感度画像とでピッタリ一致しないため、マスクを使って部分毎に高感度画像と低感度画像を置き換え、画像合成を行う様にしている。
【0005】
【発明が解決しようとする課題】
上述した従来技術では、2枚の撮像画像の画像信号をマスクを使って合成しているが、ホワイトバランスのズレに関しては考慮していない。このため、合成画像中の高感度画像と低感度画像とでホワイトバランスが異なってしまい、撮影シーンによって違和感のある合成画像になってしまうという問題がある。
【0006】
本発明の目的は、ホワイトバランスをとりながらダイナミックレンジの広い画像を合成し出力することができる撮像装置および画像信号処理方法を提供することにある。
【0007】
【課題を解決するための手段】
上記目的を達成する撮像装置は、撮像画像データを色信号毎に出力する固体撮像素子と、該固体撮像素子で撮像した高出力画像の画像データと低出力画像の画像データとを合成する画像合成手段と、該画像合成手段にて合成された合成画像データを各色信号毎にニー補正するニー補正手段と、該ニー補正手段から出力される合成画像データに対し色信号毎にホワイトバランスゲインをかけるゲイン補正手段とを備える撮像装置において、前記色信号のうち予め定められた1色の色信号に対するニー特性と各色信号毎のホワイトバランスゲインとから前記色信号のうちの他の色信号に対するニー特性を自動決定し前記ニー補正手段にて当該色信号に対するニー補正を行わせる手段を搭載したことを特徴とする。この構成により、真数加算方式でもホワイトバランスの合った良好な広ダイナミックレンジの合成画像を得ることが可能となる。
【0008】
好適には、上記において、前記色信号のうちの前記1色は、信号量の大きさに基づいて決めることを特徴とする。この構成により、S/Nの良好な合成画像を得ることが可能となる。
【0009】
上記目的を達成する画像信号処理方法は、高出力画像の画像データと低出力画像の画像データとを真数加算方式により合成する画像信号処理方法において、色信号のうち1色の色信号に対するニー特性を定め、該ニー特性と各色信号に対する各ホワイトバランスゲインとから他の色信号に対するニー特性を決定し、各ニー特性に基づいて当該色信号に対するニー補正処理を行い、各色信号に対するニー補正処理毎の信号に各ホワイトバランスゲインを乗算することを特徴とする。この構成により、ホワイトバランスの合ったダイナミックレンジの広い合成画像を作成することが可能となる。
【0010】
【発明の実施の形態】
以下、本発明の一実施形態について、図面を参照して説明する。
【0011】
図1は、本発明の一実施形態に係るデジタルスチルカメラの構成図である。この実施形態ではデジタルスチルカメラを例にしているが、デジタルビデオカメラ等の他の種類の撮像装置にも本発明を適用可能である。
【0012】
図1に示すデジタルスチルカメラは、撮影レンズ10と、固体撮像素子11と、この両者の間に設けられた絞り12と、赤外線カットフィルタ13と、光学ローパスフィルタ14とを備える。デジタルスチルカメラの全体を制御するCPU15は、フラッシュ用の発光部16及び受光部17を制御し、また、レンズ駆動部18を制御して撮影レンズ10の位置をフォーカス位置に調整し、絞り駆動部19を介し絞り12の開口量を制御して露光量が適正露光量となるように調整する。
【0013】
また、CPU15は、撮像素子駆動部20を介して固体撮像素子11を駆動し、撮影レンズ10を通して撮像した被写体画像を色信号として出力させる。また、CPU15には、操作部21を通してユーザの指示信号が入力され、CPU15はこの指示に従って各種制御を行う。固体撮像素子11は、ハニカム画素配置のCCDやベイヤー方式のCCD、あるいはCMOSセンサである。
【0014】
デジタルスチルカメラの電気制御系は、固体撮像素子11の出力に接続されたアナログ信号処理部22と、このアナログ信号処理部22から出力されたRGBの色信号をデジタル信号に変換するA/D変換回路23とを備え、これらはCPU15によって制御される。
【0015】
更に、このデジタルスチルカメラの電気制御系は、メインメモリ24に接続されたメモリ制御部25と、詳細は後述するデジタル信号処理部26と、撮像画像をJPEG画像に圧縮したり圧縮画像を伸張したりする圧縮伸張処理部27と、固体撮像素子11から出力されデジタルデータに変換された画像データをR,G,B毎に積算し積算値をデジタル信号処理部26に出力する積算部28と、着脱自在の記録媒体29が接続される外部メモリ制御部30と、カメラ背面等に搭載された液晶表示部31が接続される表示制御部32とを備え、これらは、制御バス33及びデータバス34によって相互に接続され、CPU15からの指令によって制御される。
【0016】
図1に示すデジタル信号処理部26や、アナログ信号処理部22,A/D変換回路23等は、これを夫々別回路としてデジタルスチルカメラに搭載することもできるが、これらを固体撮像素子11と同一半導体基板上にLSI製造技術を用いて製造し、1つの固体撮像装置とするのがよい。
【0017】
図2は、図1に示すデジタル信号処理部26の詳細構成図である。このデジタル信号処理部26は、ハードウェア回路で構成しても、ソフトウェアにて構成することも可能である。本実施形態では、高速シャッタで撮像した低感度画像(各画素からの出力値が低いため、低出力画像ともいう。)と、これに連続して低速シャッタで撮像した高感度画像(各画素からの出力値が低出力画像のデータより高くなるため、高出力画像ともいう。)とを合成する場合のデジタル信号処理部26の機能構成について説明する。
【0018】
図示する例のデジタル信号処理部26は、ガンマ変換前の低感度画像と高感度画像とを画像合成し、その後にガンマ変換する真数加算方式を採用しており、図1に示す積算部28の出力データを取り込んでホワイトバランス調整用のゲイン値を色(R,G,B)毎に算出するホワイトバランスゲイン算出回路40と、高感度画像のRGB色信号と低感度画像のRGB色信号とを画素単位に取り込み後述する加算式(数1)により加算合成する画像合成回路41と、画像合成回路41の出力データ(合成画像データ)にニー補正処理を施すニー補正回路42と、ニー補正後の合成画像データにホワイトバランス等のゲイン補正を施すゲイン補正回路43と、ゲイン補正後の合成画像データにガンマ補正を施すガンマ補正回路44とを備える。
【0019】
デジタル信号処理部26は更に、合成した画像データ(ガンマ補正回路44の出力データ)のRGB色信号を補間演算して各画素位置におけるRGB3色の信号を求めるRGB補間演算部45と、RGB補間演算後のRGB信号から輝度信号Yと色差信号Cr,Cbとを求めるRGB/YC変換回路46と、輝度信号Yと色差信号Cr,Cbからノイズを低減するノイズフィルタ47と、ノイズ低減後の輝度信号Yに対して輪郭補正を行う輪郭補正回路48と、ノイズ低減後の色差信号Cr,Cbに対して色差マトリクスを乗算して色調補正を行う色差マトリクス回路49とを備える。
【0020】
RGB補間演算部44は、固体撮像素子11が3板式の撮像素子であれば不要であるが、本実施形態で使用する固体撮像素子11は単板式の固体撮像素子であり、各画素からは、R,G,Bのうちの一色の信号しか出力されないため、出力しない色、即ち、Rを出力する画素では、この画素位置においてG,Bの色信号がどの程度になるかを、周りの画素のG,B信号から補間演算により求めるものである。
【0021】
本実施形態に係る画像合成回路41は、次の数1に従って、高感度画像データ(high)と低感度画像データ(low)とを画素単位に加算し、ニー補正回路42に出力する。
【0022】
〔数1〕
data={wh・high+wl・(low−th/S+th)}/(wh+wl)
ここで、high:高感度画像のデータ
low:低感度画像のデータ
S:高感度画像と低感度画像の感度比
th:閾値
wh:高感度画像のデータに対する重み
wl:低感度画像のデータに対する重み
である。
【0023】
閾値thとは、12ビットデータ(4096階調)なら0〜4095のうちの“2500”とデジタルスチルカメラの使用者あるいはデジタルスチルカメラの設計者が指定する値である。
【0024】
本実施形態で採用している真数加算方式では、画像合成回路41による画像合成後にゲイン補正回路43によってホワイトバランスゲインを乗算する構成をとっている。このため、ホワイトバランスゲインを乗算したときデータがオーバーフローしてしまわないように、ゲイン補正回路43の前段にニー補正回路42を設ける必要がある。
【0025】
しかし、ゲイン補正回路43の前段で行うR,G,Bの3色夫々のニー補正処理は、ホワイトバランスが揃っていない状態で行われるため、ニー補正回路42で行うニー補正処理のニー特性を、ホワイトバランスが合うニー特性とする必要がある。そこで、本実施形態では、先ず、3色のうちの1色でニー補正処理を行い、次に、この1色のニー補正処理後の信号に対してホワイトバランスが合う様に残りの2色夫々のニー特性を決定し、夫々のニー補正処理を行う構成とする。
【0026】
即ち、本実施形態では、R,G,Bの3色のうち信号量が一番大きい色信号のニー特性を撮像装置の設計者が予め決めておき、撮影シーンに応じて、ホワイトバランスがとれる様に、残り2色のニー特性を、詳細は後述するように自動的に決定する様にしている。この例では、信号量が一番大きい色をG(多くの撮影シーンで該当する。)とし、残りの2色をR,Bとする。
【0027】
次に、上述した構成のデジタルスチルカメラの動作を、ニー特性の自動決定処理を中心に説明する。
【0028】
ユーザが操作部21を操作してダイナミックレンジの広い合成画像の撮像を指示入力した場合、CPU15は、先ず高速シャッタを切って被写体の低感度画像を撮像し、次に低速シャッタを切って同一被写体の高感度画像を撮像し、2枚の画像データをデジタル信号処理部26が取り込んで合成することになる。
【0029】
高感度画像のRGB信号(デジタル信号)と低感度画像のRGB信号(デジタル信号)は画素単位にデジタル信号処理部26に取り込まれ、先ず、画像合成回路41により、上記の数1に従って加算処理される。この加算処理された合成信号のうち、合成Gと合成Rの大きさ(図示の例では、12ビット信号)と光量との関係を図3の第1象限に示す。合成Gと合成Rの各信号線は、数1で加算処理されることで、図示するように夫々2点の折れ線となっている。
【0030】
以下、合成Gの信号線から、合成Rのニー特性を自動決定する手順について説明する。図3中の○付き数字がニー特性の自動決定手順の順番を示し、合成Gの信号線(▲1▼)から、合成Rのニー特性(▲7▼)を自動決定することを目的とする。尚、合成Gの信号線から合成Bのニー特性も同様にして自動決定されるが、説明が重複するため省略する。
【0031】
点A,Cで折れる合成Gの信号線(▲1▼)が求まると、A点をX軸に平行に延ばしてGのニー特性(▲2▼:このニー特性は、撮像装置の設計者が予め設定しておく。ニー特性▲2▼のニーポイントをDとする。)との交点を求め、この交点をY軸に平行に延ばしてGのゲイン特性線(▲3▼:このゲイン特性線は図2のホワイトバランスゲイン算出回路40で求められる。)との交点を求め、この交点をX軸に平行に延ばした線と信号線▲1▼の折れ点AをY軸に平行に延ばした線との交点Eを求める。
【0032】
同様にして、信号線▲1▼の折れ点CをX軸に平行に延ばしてGのニー特性線▲2▼との交点を求め、この交点をY軸に平行に延ばしてGのゲイン特性線▲3▼との交点を求め、この交点をX軸に平行に延ばした線と信号線▲1▼の折れ点CをY軸に平行に延ばした線との交点Fを求める。
【0033】
次に、GのニーポイントDをY軸に平行に延ばしてGのゲイン特性線▲3▼との交点を求め、この交点をX軸に平行に延ばした線と、ニーポイントDをX軸に平行に延ばして得た信号線▲1▼との交点をY軸に平行に延ばした線との交点Hを求める。
【0034】
原点から、上記の交点H,E,Fと順に接続した第4象限内の信号線▲4▼は、ホワイトバランスゲイン後にグレーの被写体がR=G=Bになっているという仮定に基づいて得られた合成信号(ホワイトバランスの合った、図2のゲイン補正回路43の出力信号)ということができ、このGの信号線▲4▼は、Rの特性線▲5▼と一致する。
【0035】
次に、特性線▲5▼の折れ点H,E,Fを夫々X軸に平行に延ばしてRのゲイン特性線(▲6▼:このゲイン特性線も図2のホワイトバランスゲイン算出回路40で求められる。)との交点を求め、各交点をY軸に平行に延ばした線と、折れ点H,E,FからY軸に平行に延ばした線と合成Rの信号線との交点を夫々X軸に平行に延ばした線との交点I,J,Kとを求める。
【0036】
この様にして求めた交点I,J,Kを原点から順に接続することで、合成Rのニー特性▲7▼が求まり、同様にして、合成Bのニー特性を求める。そして、画像合成回路41から出力される合成R信号をニー特性▲7▼でニー補正処理してからRのホワイトゲイン特性▲6▼でゲイン補正した信号と、画像合成回路41から出力される合成B信号をニー特性でニー補正処理してからBのホワイトバランスゲイン特性(これも図2のホワイトバランスゲイン算出回路40で求まる。)でゲイン補正した信号と、先にニー特性▲2▼でニー補正処理しゲイン▲3▼でゲイン補正した信号とは、ホワイトバランスの合った信号となり、真数加算方式を採用した場合でも、ホワイトバランスの良好な合成画像が得られることになる。
【0037】
この様に、本実施形態によれば、3色のうち1色の色信号を基準として他の2色のニー特性を決定するため、ホワイトバランスの良好な合成画像を得ることができ、しかも、信号量の一番大きな色信号を基準とするためノイズが少ない合成画像を得ることが可能となる。
【0038】
尚、上述した実施形態では、高速シャッタを切って撮像した画像を低感度画像といい、低速シッャタを切って撮像した画像を高感度画像といったが、本発明は感度の違う画像を合成する場合に制限されるものではなく、シャッタ速度は同じであっても絞りの開口量が異なる複数の画像を合成する場合にも適用できる。
【0039】
例えば、コントラストの高い静物を露出をふって複数枚連続して撮像した場合、開口量の広い絞りで撮像した画像は固体撮像素子11の各画素からの出力レベルが高いため高出力画像となり、開口量の狭い絞りの基で撮像した画像は高出力画像よりも各画素からの出力レベルが低いため低出力画像となる。
【0040】
また、上述した実施形態では、高速シャッタと低速シッャタを連続して切って得た複数枚の画像を合成する例について述べたが、高感度画像を撮像する固体撮像素子と低感度画像を撮像する固体撮像素子を複数枚撮像装置に搭載し、両固体撮像素子から得られる画像を合成する場合にも本発明を適用することができる。
【0041】
更に、1枚の固体撮像素子に、高感度画素と低感度画素の両方を搭載し、高感度画素から読み出した画像と低感度画素から読み出した画像とを合成する場合にも適用できる。これらの場合、同一シッャタ速度同一絞りで信号電荷蓄積量が大きくなる固体撮像素子や高感度画素からの高出力画像を基準としてホワイトバランスのゲイン値を算出するのが良い。
【0042】
尚、上述した実施形態では、デジタルスチルカメラで撮像した高出力画像と低出力画像とをデジタルスチルカメラ内で合成する例について述べたが、撮像装置で撮像された高感度画像データと低感度画像データとをCCD―RAWデータとしてメモリに格納して撮像装置から取り出し、この高感度画像データと低感度画像データとをパソコン等に読み込み、上述した実施形態で述べたデジタル信号処理部26と同様の画像信号処理を行う場合にも適用でき、ホワイトバランス調整のとれたダイナミックレンジの広い合成画像を生成することができる。
【0043】
【発明の効果】
本発明によれば、複数の画像をホワイトバランスをとりながら合成しダイナミックレンジを広げることができるため、違和感の少ない画像を得ることが可能となる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係るデジタルスチルカメラの構成図である。
【図2】図1に示すデジタル信号処理部の詳細構成図である。
【図3】ニー特性の自動設定方法の説明図である。
【符号の説明】
11 固体撮像素子
15 CPU
26 デジタル信号処理部
28 積算部
40 ホワイトバランスゲイン算出回路
41 画像合成回路
42 ニー補正回路
43 ゲイン補正回路
【発明の属する技術分野】
本発明はデジタルスチルカメラ等の撮像装置および画像信号処理方法に係り、特に、ホワイトバランスをとりながらダイナミックレンジを広げた画像信号を得ることができる撮像装置および画像信号処理方法に関する。
【0002】
【従来の技術】
デジタルスチルカメラ等の撮像装置で、例えば室内風景を撮像した場合、室内に存在する被写体の映像は良く映っても、窓から見える青い空が白飛びしてしまい、全体的に不自然な画像になってしまうことがある。これは画像のダイナミックレンジが狭いためであり、この問題を解決するために、従来から、2枚の画像を撮像し合成することで、画像のダイナミックレンジを広げることが行われている。
【0003】
例えば、高速シャッタを切って1枚目の短時間露光画像(低感度画像)を撮像し、これに連続して低速シャッタを切って2枚目の長時間露光画像(高感度画像)を撮像し、2枚の画像を合成することで、低感度画像中に映っている窓の外の風景が、室内風景の良く映っている高感度画像に重なるようにしている。
【0004】
特開2000―307963号公報に記載されている従来の撮像装置では、2枚の画像を合成するとき、動きのある被写体部分が低感度画像と高感度画像とでピッタリ一致しないため、マスクを使って部分毎に高感度画像と低感度画像を置き換え、画像合成を行う様にしている。
【0005】
【発明が解決しようとする課題】
上述した従来技術では、2枚の撮像画像の画像信号をマスクを使って合成しているが、ホワイトバランスのズレに関しては考慮していない。このため、合成画像中の高感度画像と低感度画像とでホワイトバランスが異なってしまい、撮影シーンによって違和感のある合成画像になってしまうという問題がある。
【0006】
本発明の目的は、ホワイトバランスをとりながらダイナミックレンジの広い画像を合成し出力することができる撮像装置および画像信号処理方法を提供することにある。
【0007】
【課題を解決するための手段】
上記目的を達成する撮像装置は、撮像画像データを色信号毎に出力する固体撮像素子と、該固体撮像素子で撮像した高出力画像の画像データと低出力画像の画像データとを合成する画像合成手段と、該画像合成手段にて合成された合成画像データを各色信号毎にニー補正するニー補正手段と、該ニー補正手段から出力される合成画像データに対し色信号毎にホワイトバランスゲインをかけるゲイン補正手段とを備える撮像装置において、前記色信号のうち予め定められた1色の色信号に対するニー特性と各色信号毎のホワイトバランスゲインとから前記色信号のうちの他の色信号に対するニー特性を自動決定し前記ニー補正手段にて当該色信号に対するニー補正を行わせる手段を搭載したことを特徴とする。この構成により、真数加算方式でもホワイトバランスの合った良好な広ダイナミックレンジの合成画像を得ることが可能となる。
【0008】
好適には、上記において、前記色信号のうちの前記1色は、信号量の大きさに基づいて決めることを特徴とする。この構成により、S/Nの良好な合成画像を得ることが可能となる。
【0009】
上記目的を達成する画像信号処理方法は、高出力画像の画像データと低出力画像の画像データとを真数加算方式により合成する画像信号処理方法において、色信号のうち1色の色信号に対するニー特性を定め、該ニー特性と各色信号に対する各ホワイトバランスゲインとから他の色信号に対するニー特性を決定し、各ニー特性に基づいて当該色信号に対するニー補正処理を行い、各色信号に対するニー補正処理毎の信号に各ホワイトバランスゲインを乗算することを特徴とする。この構成により、ホワイトバランスの合ったダイナミックレンジの広い合成画像を作成することが可能となる。
【0010】
【発明の実施の形態】
以下、本発明の一実施形態について、図面を参照して説明する。
【0011】
図1は、本発明の一実施形態に係るデジタルスチルカメラの構成図である。この実施形態ではデジタルスチルカメラを例にしているが、デジタルビデオカメラ等の他の種類の撮像装置にも本発明を適用可能である。
【0012】
図1に示すデジタルスチルカメラは、撮影レンズ10と、固体撮像素子11と、この両者の間に設けられた絞り12と、赤外線カットフィルタ13と、光学ローパスフィルタ14とを備える。デジタルスチルカメラの全体を制御するCPU15は、フラッシュ用の発光部16及び受光部17を制御し、また、レンズ駆動部18を制御して撮影レンズ10の位置をフォーカス位置に調整し、絞り駆動部19を介し絞り12の開口量を制御して露光量が適正露光量となるように調整する。
【0013】
また、CPU15は、撮像素子駆動部20を介して固体撮像素子11を駆動し、撮影レンズ10を通して撮像した被写体画像を色信号として出力させる。また、CPU15には、操作部21を通してユーザの指示信号が入力され、CPU15はこの指示に従って各種制御を行う。固体撮像素子11は、ハニカム画素配置のCCDやベイヤー方式のCCD、あるいはCMOSセンサである。
【0014】
デジタルスチルカメラの電気制御系は、固体撮像素子11の出力に接続されたアナログ信号処理部22と、このアナログ信号処理部22から出力されたRGBの色信号をデジタル信号に変換するA/D変換回路23とを備え、これらはCPU15によって制御される。
【0015】
更に、このデジタルスチルカメラの電気制御系は、メインメモリ24に接続されたメモリ制御部25と、詳細は後述するデジタル信号処理部26と、撮像画像をJPEG画像に圧縮したり圧縮画像を伸張したりする圧縮伸張処理部27と、固体撮像素子11から出力されデジタルデータに変換された画像データをR,G,B毎に積算し積算値をデジタル信号処理部26に出力する積算部28と、着脱自在の記録媒体29が接続される外部メモリ制御部30と、カメラ背面等に搭載された液晶表示部31が接続される表示制御部32とを備え、これらは、制御バス33及びデータバス34によって相互に接続され、CPU15からの指令によって制御される。
【0016】
図1に示すデジタル信号処理部26や、アナログ信号処理部22,A/D変換回路23等は、これを夫々別回路としてデジタルスチルカメラに搭載することもできるが、これらを固体撮像素子11と同一半導体基板上にLSI製造技術を用いて製造し、1つの固体撮像装置とするのがよい。
【0017】
図2は、図1に示すデジタル信号処理部26の詳細構成図である。このデジタル信号処理部26は、ハードウェア回路で構成しても、ソフトウェアにて構成することも可能である。本実施形態では、高速シャッタで撮像した低感度画像(各画素からの出力値が低いため、低出力画像ともいう。)と、これに連続して低速シャッタで撮像した高感度画像(各画素からの出力値が低出力画像のデータより高くなるため、高出力画像ともいう。)とを合成する場合のデジタル信号処理部26の機能構成について説明する。
【0018】
図示する例のデジタル信号処理部26は、ガンマ変換前の低感度画像と高感度画像とを画像合成し、その後にガンマ変換する真数加算方式を採用しており、図1に示す積算部28の出力データを取り込んでホワイトバランス調整用のゲイン値を色(R,G,B)毎に算出するホワイトバランスゲイン算出回路40と、高感度画像のRGB色信号と低感度画像のRGB色信号とを画素単位に取り込み後述する加算式(数1)により加算合成する画像合成回路41と、画像合成回路41の出力データ(合成画像データ)にニー補正処理を施すニー補正回路42と、ニー補正後の合成画像データにホワイトバランス等のゲイン補正を施すゲイン補正回路43と、ゲイン補正後の合成画像データにガンマ補正を施すガンマ補正回路44とを備える。
【0019】
デジタル信号処理部26は更に、合成した画像データ(ガンマ補正回路44の出力データ)のRGB色信号を補間演算して各画素位置におけるRGB3色の信号を求めるRGB補間演算部45と、RGB補間演算後のRGB信号から輝度信号Yと色差信号Cr,Cbとを求めるRGB/YC変換回路46と、輝度信号Yと色差信号Cr,Cbからノイズを低減するノイズフィルタ47と、ノイズ低減後の輝度信号Yに対して輪郭補正を行う輪郭補正回路48と、ノイズ低減後の色差信号Cr,Cbに対して色差マトリクスを乗算して色調補正を行う色差マトリクス回路49とを備える。
【0020】
RGB補間演算部44は、固体撮像素子11が3板式の撮像素子であれば不要であるが、本実施形態で使用する固体撮像素子11は単板式の固体撮像素子であり、各画素からは、R,G,Bのうちの一色の信号しか出力されないため、出力しない色、即ち、Rを出力する画素では、この画素位置においてG,Bの色信号がどの程度になるかを、周りの画素のG,B信号から補間演算により求めるものである。
【0021】
本実施形態に係る画像合成回路41は、次の数1に従って、高感度画像データ(high)と低感度画像データ(low)とを画素単位に加算し、ニー補正回路42に出力する。
【0022】
〔数1〕
data={wh・high+wl・(low−th/S+th)}/(wh+wl)
ここで、high:高感度画像のデータ
low:低感度画像のデータ
S:高感度画像と低感度画像の感度比
th:閾値
wh:高感度画像のデータに対する重み
wl:低感度画像のデータに対する重み
である。
【0023】
閾値thとは、12ビットデータ(4096階調)なら0〜4095のうちの“2500”とデジタルスチルカメラの使用者あるいはデジタルスチルカメラの設計者が指定する値である。
【0024】
本実施形態で採用している真数加算方式では、画像合成回路41による画像合成後にゲイン補正回路43によってホワイトバランスゲインを乗算する構成をとっている。このため、ホワイトバランスゲインを乗算したときデータがオーバーフローしてしまわないように、ゲイン補正回路43の前段にニー補正回路42を設ける必要がある。
【0025】
しかし、ゲイン補正回路43の前段で行うR,G,Bの3色夫々のニー補正処理は、ホワイトバランスが揃っていない状態で行われるため、ニー補正回路42で行うニー補正処理のニー特性を、ホワイトバランスが合うニー特性とする必要がある。そこで、本実施形態では、先ず、3色のうちの1色でニー補正処理を行い、次に、この1色のニー補正処理後の信号に対してホワイトバランスが合う様に残りの2色夫々のニー特性を決定し、夫々のニー補正処理を行う構成とする。
【0026】
即ち、本実施形態では、R,G,Bの3色のうち信号量が一番大きい色信号のニー特性を撮像装置の設計者が予め決めておき、撮影シーンに応じて、ホワイトバランスがとれる様に、残り2色のニー特性を、詳細は後述するように自動的に決定する様にしている。この例では、信号量が一番大きい色をG(多くの撮影シーンで該当する。)とし、残りの2色をR,Bとする。
【0027】
次に、上述した構成のデジタルスチルカメラの動作を、ニー特性の自動決定処理を中心に説明する。
【0028】
ユーザが操作部21を操作してダイナミックレンジの広い合成画像の撮像を指示入力した場合、CPU15は、先ず高速シャッタを切って被写体の低感度画像を撮像し、次に低速シャッタを切って同一被写体の高感度画像を撮像し、2枚の画像データをデジタル信号処理部26が取り込んで合成することになる。
【0029】
高感度画像のRGB信号(デジタル信号)と低感度画像のRGB信号(デジタル信号)は画素単位にデジタル信号処理部26に取り込まれ、先ず、画像合成回路41により、上記の数1に従って加算処理される。この加算処理された合成信号のうち、合成Gと合成Rの大きさ(図示の例では、12ビット信号)と光量との関係を図3の第1象限に示す。合成Gと合成Rの各信号線は、数1で加算処理されることで、図示するように夫々2点の折れ線となっている。
【0030】
以下、合成Gの信号線から、合成Rのニー特性を自動決定する手順について説明する。図3中の○付き数字がニー特性の自動決定手順の順番を示し、合成Gの信号線(▲1▼)から、合成Rのニー特性(▲7▼)を自動決定することを目的とする。尚、合成Gの信号線から合成Bのニー特性も同様にして自動決定されるが、説明が重複するため省略する。
【0031】
点A,Cで折れる合成Gの信号線(▲1▼)が求まると、A点をX軸に平行に延ばしてGのニー特性(▲2▼:このニー特性は、撮像装置の設計者が予め設定しておく。ニー特性▲2▼のニーポイントをDとする。)との交点を求め、この交点をY軸に平行に延ばしてGのゲイン特性線(▲3▼:このゲイン特性線は図2のホワイトバランスゲイン算出回路40で求められる。)との交点を求め、この交点をX軸に平行に延ばした線と信号線▲1▼の折れ点AをY軸に平行に延ばした線との交点Eを求める。
【0032】
同様にして、信号線▲1▼の折れ点CをX軸に平行に延ばしてGのニー特性線▲2▼との交点を求め、この交点をY軸に平行に延ばしてGのゲイン特性線▲3▼との交点を求め、この交点をX軸に平行に延ばした線と信号線▲1▼の折れ点CをY軸に平行に延ばした線との交点Fを求める。
【0033】
次に、GのニーポイントDをY軸に平行に延ばしてGのゲイン特性線▲3▼との交点を求め、この交点をX軸に平行に延ばした線と、ニーポイントDをX軸に平行に延ばして得た信号線▲1▼との交点をY軸に平行に延ばした線との交点Hを求める。
【0034】
原点から、上記の交点H,E,Fと順に接続した第4象限内の信号線▲4▼は、ホワイトバランスゲイン後にグレーの被写体がR=G=Bになっているという仮定に基づいて得られた合成信号(ホワイトバランスの合った、図2のゲイン補正回路43の出力信号)ということができ、このGの信号線▲4▼は、Rの特性線▲5▼と一致する。
【0035】
次に、特性線▲5▼の折れ点H,E,Fを夫々X軸に平行に延ばしてRのゲイン特性線(▲6▼:このゲイン特性線も図2のホワイトバランスゲイン算出回路40で求められる。)との交点を求め、各交点をY軸に平行に延ばした線と、折れ点H,E,FからY軸に平行に延ばした線と合成Rの信号線との交点を夫々X軸に平行に延ばした線との交点I,J,Kとを求める。
【0036】
この様にして求めた交点I,J,Kを原点から順に接続することで、合成Rのニー特性▲7▼が求まり、同様にして、合成Bのニー特性を求める。そして、画像合成回路41から出力される合成R信号をニー特性▲7▼でニー補正処理してからRのホワイトゲイン特性▲6▼でゲイン補正した信号と、画像合成回路41から出力される合成B信号をニー特性でニー補正処理してからBのホワイトバランスゲイン特性(これも図2のホワイトバランスゲイン算出回路40で求まる。)でゲイン補正した信号と、先にニー特性▲2▼でニー補正処理しゲイン▲3▼でゲイン補正した信号とは、ホワイトバランスの合った信号となり、真数加算方式を採用した場合でも、ホワイトバランスの良好な合成画像が得られることになる。
【0037】
この様に、本実施形態によれば、3色のうち1色の色信号を基準として他の2色のニー特性を決定するため、ホワイトバランスの良好な合成画像を得ることができ、しかも、信号量の一番大きな色信号を基準とするためノイズが少ない合成画像を得ることが可能となる。
【0038】
尚、上述した実施形態では、高速シャッタを切って撮像した画像を低感度画像といい、低速シッャタを切って撮像した画像を高感度画像といったが、本発明は感度の違う画像を合成する場合に制限されるものではなく、シャッタ速度は同じであっても絞りの開口量が異なる複数の画像を合成する場合にも適用できる。
【0039】
例えば、コントラストの高い静物を露出をふって複数枚連続して撮像した場合、開口量の広い絞りで撮像した画像は固体撮像素子11の各画素からの出力レベルが高いため高出力画像となり、開口量の狭い絞りの基で撮像した画像は高出力画像よりも各画素からの出力レベルが低いため低出力画像となる。
【0040】
また、上述した実施形態では、高速シャッタと低速シッャタを連続して切って得た複数枚の画像を合成する例について述べたが、高感度画像を撮像する固体撮像素子と低感度画像を撮像する固体撮像素子を複数枚撮像装置に搭載し、両固体撮像素子から得られる画像を合成する場合にも本発明を適用することができる。
【0041】
更に、1枚の固体撮像素子に、高感度画素と低感度画素の両方を搭載し、高感度画素から読み出した画像と低感度画素から読み出した画像とを合成する場合にも適用できる。これらの場合、同一シッャタ速度同一絞りで信号電荷蓄積量が大きくなる固体撮像素子や高感度画素からの高出力画像を基準としてホワイトバランスのゲイン値を算出するのが良い。
【0042】
尚、上述した実施形態では、デジタルスチルカメラで撮像した高出力画像と低出力画像とをデジタルスチルカメラ内で合成する例について述べたが、撮像装置で撮像された高感度画像データと低感度画像データとをCCD―RAWデータとしてメモリに格納して撮像装置から取り出し、この高感度画像データと低感度画像データとをパソコン等に読み込み、上述した実施形態で述べたデジタル信号処理部26と同様の画像信号処理を行う場合にも適用でき、ホワイトバランス調整のとれたダイナミックレンジの広い合成画像を生成することができる。
【0043】
【発明の効果】
本発明によれば、複数の画像をホワイトバランスをとりながら合成しダイナミックレンジを広げることができるため、違和感の少ない画像を得ることが可能となる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係るデジタルスチルカメラの構成図である。
【図2】図1に示すデジタル信号処理部の詳細構成図である。
【図3】ニー特性の自動設定方法の説明図である。
【符号の説明】
11 固体撮像素子
15 CPU
26 デジタル信号処理部
28 積算部
40 ホワイトバランスゲイン算出回路
41 画像合成回路
42 ニー補正回路
43 ゲイン補正回路
Claims (3)
- 撮像画像データを色信号毎に出力する固体撮像素子と、該固体撮像素子で撮像した高出力画像の画像データと低出力画像の画像データとを合成する画像合成手段と、該画像合成手段にて合成された合成画像データを各色信号毎にニー補正するニー補正手段と、該ニー補正手段から出力される合成画像データに対し色信号毎にホワイトバランスゲインをかけるゲイン補正手段とを備える撮像装置において、前記色信号のうち予め定められた1色の色信号に対するニー特性と各色信号毎のホワイトバランスゲインとから前記色信号のうちの他の色信号に対するニー特性を自動決定し前記ニー補正手段にて当該色信号に対するニー補正を行わせる手段を搭載したことを特徴とする撮像装置。
- 前記色信号のうちの前記1色は、信号量の大きさに基づいて決めることを特徴とする請求項1に記載の撮像装置。
- 高出力画像の画像データと低出力画像の画像データとを真数加算方式により合成する画像信号処理方法において、色信号のうち1色の色信号に対するニー特性を定め、該ニー特性と各色信号に対する各ホワイトバランスゲインとから他の色信号に対するニー特性を決定し、各ニー特性に基づいて当該色信号に対するニー補正処理を行い、各色信号に対するニー補正処理毎の信号に各ホワイトバランスゲインを乗算することを特徴とする画像信号処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002225202A JP2004072196A (ja) | 2002-08-01 | 2002-08-01 | 撮像装置および画像信号処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002225202A JP2004072196A (ja) | 2002-08-01 | 2002-08-01 | 撮像装置および画像信号処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004072196A true JP2004072196A (ja) | 2004-03-04 |
Family
ID=32012938
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002225202A Pending JP2004072196A (ja) | 2002-08-01 | 2002-08-01 | 撮像装置および画像信号処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004072196A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006148248A (ja) * | 2004-11-16 | 2006-06-08 | Olympus Corp | 撮像システム及び撮像処理プログラム |
-
2002
- 2002-08-01 JP JP2002225202A patent/JP2004072196A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006148248A (ja) * | 2004-11-16 | 2006-06-08 | Olympus Corp | 撮像システム及び撮像処理プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4004943B2 (ja) | 画像合成方法および撮像装置 | |
WO2020029732A1 (zh) | 全景拍摄方法、装置和成像设备 | |
JP4914026B2 (ja) | 画像処理装置及び画像処理方法 | |
US9661244B2 (en) | Image sensing apparatus | |
KR101352440B1 (ko) | 화상처리장치, 화상처리방법, 및 기록매체 | |
KR20070068977A (ko) | 촬상 장치 및 촬영 방법 | |
JP4136464B2 (ja) | 撮像装置及び撮像方法 | |
JP4121493B2 (ja) | デジタルカメラとその信号処理方法及び信号処理装置 | |
JP7247609B2 (ja) | 撮像装置、撮像方法およびプログラム | |
JP2000307941A (ja) | デジタルカメラ | |
JP4150599B2 (ja) | 露出補正機能付きデジタルカメラ | |
JP2001268345A (ja) | 画像合成装置 | |
JP4178046B2 (ja) | デジタルカメラ | |
JP4235408B2 (ja) | ノイズ低減回路及び撮像装置 | |
JP4015492B2 (ja) | 画像合成方法および撮像装置 | |
JP2006217249A (ja) | 電子カメラ、電子カメラシステムおよびプログラム | |
JPH11155108A (ja) | 映像信号処理装置と処理方法、それを用いたビデオカメラ | |
JP2004048563A (ja) | 撮像装置および画像処理方法 | |
JP2004072196A (ja) | 撮像装置および画像信号処理方法 | |
JP2001359116A (ja) | 電子カメラ及びオートホワイトバランス制御方法 | |
JP2004032171A (ja) | 撮像装置 | |
JP2006295708A (ja) | 撮像装置及びその制御方法 | |
JP2000050160A (ja) | 画像合成装置,画像合成方法及び画像合成方法を記憶した記憶媒体 | |
JP3977260B2 (ja) | デジタルカメラと撮像画像データ記録方法 | |
JP2002223350A (ja) | 画像処理装置 |