JP2004222182A - Digital camera - Google Patents

Digital camera Download PDF

Info

Publication number
JP2004222182A
JP2004222182A JP2003009988A JP2003009988A JP2004222182A JP 2004222182 A JP2004222182 A JP 2004222182A JP 2003009988 A JP2003009988 A JP 2003009988A JP 2003009988 A JP2003009988 A JP 2003009988A JP 2004222182 A JP2004222182 A JP 2004222182A
Authority
JP
Japan
Prior art keywords
sensitivity
image data
low
exposure time
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003009988A
Other languages
Japanese (ja)
Other versions
JP4178046B2 (en
Inventor
Masahiko Sugimoto
雅彦 杉本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP2003009988A priority Critical patent/JP4178046B2/en
Publication of JP2004222182A publication Critical patent/JP2004222182A/en
Application granted granted Critical
Publication of JP4178046B2 publication Critical patent/JP4178046B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To prevent a noise amount of a final image from increasing by picked up image data with a bad S/N due to low sensitivity pixels. <P>SOLUTION: A digital camera is provided with a solid-state image pickup element having the low sensitivity pixels and high sensitivity pixels, an exposure time determining means for determining whether an exposure period of time for photographing is equal to or greater than a prescribed threshold, and a control means for outputting image data read from the high sensitivity pixels when the exposure time determining means determines that photographing is performed for an exposure period of time that is equal to or greater than the prescribed threshold and for combining the image data read from the high sensitivity pixels with image data read from the low sensitivity pixels to output the combined image data when the exposure time determining means determines that photographing is performed for an exposure period of time which is less than the prescribed threshold. <P>COPYRIGHT: (C)2004,JPO&NCIPI

Description

【0001】
【発明の属する技術分野】
本発明は低感度画素と高感度画素の両方を有する固体撮像素子を搭載したデジタルカメラに関する。
【0002】
【従来の技術】
デジタルスチルカメラやデジタルビデオカメラ等のデジタルカメラでは、固体撮像素子の各画素を構成するフォトダイオードに蓄積される電荷の飽和量が高画素化すなわちフォトダイオードの微細化に伴って小さくなり、撮像画像のダイナミックレンジが狭くなってしまうという欠点を有している。
【0003】
この欠点を克服するため、例えば特開2001―8104号公報記載の従来技術では、固体撮像素子に、高感度画素と低感度画素の2種類の画素を設け、高感度画素から得られた撮像画像データと、低感度画素から得られた撮像画像データとを合成することで、撮像画像のダイナミックレンジを広げるようにしている。
【0004】
また、近年の様に固体撮像素子の高画素化が進展してくると、銀塩カメラと同等の画像が撮像されるようになり、このため、固体撮像素子から出力される撮像画像データを、ホワイトバランス補正やガンマ補正,JPEG圧縮などせずに未加工のままRAWデータ(固体撮像素子から出力された撮像画像データの生データ)でメモリに保存し、パーソナルコンピュータ等でこの画像データを読み取り、ホワイトバランス補正やガンマ補正,色調補正などを自分の好みに応じて行いたいというユーザの要望が高くなってきている。このため、デジタルカメラには、特開平11―261933号公報(特許文献2)や特開2001―223979号公報(特許文献3)に記載されている様に、RAWデータで画像データを記録するものが増えてきている。
【0005】
【特許文献1】
特開2001―8104号公報
【特許文献2】
特開平11―261933号公報
【特許文献3】
特開2001―223979号公報
【0006】
【発明が解決しようとする課題】
低感度画素で低感度の画像データを撮像し、高感度画素で高感度の画像データを撮像する従来のデジタルカメラでは、低感度の画像データと高感度の画像データとを一律に合成し出力してしまう。このため、例えば夜間に長時間露光撮影を行う撮影状況の場合、即ち、高感度画素ですら信号電荷の蓄積量が少ない撮影状況の場合には、低感度画素には殆ど信号電荷の蓄積量は無く、その殆どがノイズによる電荷量となる場合がある。斯かる場合でも高感度画素による画像データと低感度画素による画像データとを合成して出力すると、その合成画像は非常にノイズの多い画像になってしまうという問題がある。
【0007】
また、撮像画像データをRAWデータでメモリに出力し記録する場合、低感度の画像データと高感度の画像データの両方を記録することになり、あるいは、デジタルカメラで低感度の撮像画像データと高感度の撮像画像データを合成し合成後の撮像画像データをメモリに出力し記録することになるが、RAWデータで撮像画像データをメモリに出力し記録する場合、上述した様に低感度画素の蓄積電荷が殆どノイズである蓋然性が高いときに低感度の撮像画像データまでメモリに記録するとメモリ容量が無駄になり、また、合成した撮像画像データでメモリに記録すると、画像中のノイズが多くなってしまうという問題がある。
【0008】
本発明の目的は、低感度画素による画像データと高感度画素による画像データの両方を撮像したとき撮影状況によらずに常に良好な画質の画像データを出力することができるデジタルカメラを提供することにある。
【0009】
【課題を解決するための手段】
上記目的を達成するデジタルカメラは、低感度画素と高感度画素を有する固体撮像素子と、撮影の露光時間が所定閾値以上であるか否かを判定する露光時間判定手段と、該露光時間判定手段が前記所定閾値以上の露光時間で撮影が行われると判定した場合には前記高感度画素から読み出された画像データを出力し前記露光時間判定手段が前記所定閾値に満たない露光時間で撮影が行われると判定した場合には前記高感度画素から読み出された画像データに前記低感度画素から読み出された画像データを合成して出力する制御手段を備えることを特徴とする。
【0010】
この構成により、低感度画素の蓄積電荷量が微小となる撮影のときには低感度画素による撮像画像データを不使用とするため、暗いシーンを撮影しても画像中のノイズを低減することができる。
【0011】
上記目的とするデジタルカメラは、低感度画素と高感度画素を有する固体撮像素子と、撮影の露光時間が所定閾値以上であるか否かを判定する露光時間判定手段と、該露光時間判定手段が前記所定閾値以上の露光時間で撮影が行われると判定した場合には前記高感度画素から読み出された画像データをRAWデータで出力し前記露光時間判定手段が前記所定閾値に満たない露光時間で撮影が行われると判定した場合には前記高感度画素から読み出された画像データと前記低感度画素から読み出された画像データとを夫々RAWデータで出力する制御手段を備えることを特徴とする。
【0012】
この構成により、低感度画素から得られる画像データ中にノイズの混入量が多いと推定される場合には、高感度画素から得られた画像データのみがRAWデータとして出力されるため、暗いシーンを撮影しても画像中のノイズを低減することができる。
【0013】
上記デジタルカメラの前記制御手段は、前記露光時間判定手段が前記所定閾値以上の露光時間で撮影が行われると判定したとき前記低感度画素から読み出した画像データを破棄しあるいは前記低感度画素からの画像データの読み出しを停止することを特徴とする。
【0014】
この構成により、露光時間が所定閾値以上のとき、使用しない低感度画素の撮像画像データを、読み出した後に破棄しても、読み出さなくてもよい。
【0015】
上記デジタルカメラの前記露光時間判定手段の代わりに、感度設定が所定感度以上であるか否かの判定を行う設定感度判定手段を設けたことを特徴とする。
【0016】
この構成により、低感度画素による撮像画像データの使用,不使用を感度設定(マニュアル設定、オート設定のいずれでもよい。)によっても選択可能となる。
【0017】
【発明の実施の形態】
以下、本発明の一実施形態を図面を参照して説明する。
【0018】
図1は、本発明の一実施形態に係るデジタルスチルカメラの構成図である。この実施形態ではデジタルスチルカメラを例に説明するが、デジタルビデオカメラや携帯電話機等の小型電子機器に搭載されたカメラ等の他の種類のデジタルカメラにも本発明を適用可能である。
【0019】
図1に示すデジタルスチルカメラは、撮影レンズ10と、固体撮像素子11と、この両者の間に設けられた絞り12と、赤外線カットフィルタ13と、光学ローパスフィルタ14とを備える。デジタルスチルカメラの全体を制御するCPU15は、フラッシュ用の発光部16及び受光部17を制御し、また、レンズ駆動部18を制御して撮影レンズ10の位置をフォーカス位置に調整し、絞り駆動部19を介し絞り12の開口量を制御して露光量が適正露光量となるように調整する。
【0020】
また、CPU15は、撮像素子駆動部20を介して固体撮像素子11を駆動し、撮影レンズ10を通して撮像した被写体画像を色信号として出力させる。また、CPU15には、操作部21を通してユーザの指示信号が入力され、CPU15はこの指示に従って各種制御を行う。
【0021】
デジタルスチルカメラの電気制御系は、固体撮像素子11の出力に接続されたアナログ信号処理部22と、このアナログ信号処理部22から出力されたRGBの色信号をデジタル信号に変換するA/D変換回路23とを備え、これらはCPU15によって制御される。
【0022】
更に、このデジタルスチルカメラの電気制御系は、メインメモリ24に接続されたメモリ制御部25と、詳細は後述するデジタル信号処理部26と、撮像画像をJPEG画像に圧縮したり圧縮画像を伸張したりする圧縮伸張処理部27と、測光データを積算してホワイトバランスのゲインを調整させる積算部28と、着脱自在の記録媒体29が接続される外部メモリ制御部30と、カメラ背面等に搭載された液晶表示部31が接続される表示制御部32とを備え、これらは、制御バス33及びデータバス34によって相互に接続され、CPU15からの指令によって制御される。
【0023】
図1に示すデジタル信号処理部26や、アナログ信号処理部22,A/D変換回路23等は、これを夫々別回路としてデジタルスチルカメラに搭載することもできるが、これらを固体撮像素子11と同一半導体基板上にLSI製造技術を用いて製造し、1つの固体撮像装置とするのがよい。
【0024】
図2は、本実施形態で使用する固体撮像素子11の画素配置図である。広ダイナミックレンジの画像を撮像するCCD部分の画素1は、例えば特開平10―136391号公報に記載されている画素配置をとり、偶数行の各画素に対して奇数行の各画素が水平方向に1/2ピッチずらして配置され、各画素から読み出された信号電荷を垂直方向に転送する垂直転送路(図示せず)が、垂直方向の各画素を避けるように蛇行配置される構成をとっている。
【0025】
そして、本実施形態に係る各画素1は、図示する例では、画素1の面積の約1/5を占める低感度画素(副画素)2と、残りの約4/5を占める高感度画素(主画素)3とに分割して設けられ、各低感度画素2の信号電荷と、各高感度画素3の信号電荷とを区別して上記垂直転送路に読み出し転送することができるようになっている。尚、画素1をどのような割合、どの様な位置で分割するかは設計的に決められるものであり、図2は単なる例示に過ぎない。
【0026】
尚、固体撮像素子11は、図2に示す様なハニカム画素配置のCCDを例に説明したが、ベイヤー方式のCCDやCMOSセンサでも良い。
【0027】
本実施形態のデジタルカメラには、撮像画像データの出力モードして、完成画像出力モードとRAWデータ出力モードがあり、更に、完成画像出力モードには、合成画像出力モードと非合成画像出力モードがあり、RAWデータ出力モードには低感度画像データ出力モードと低感度画像データ非出力モードとがある。
【0028】
完成画像出力モードの合成画像出力モードとは、1回の撮像で得られた低感度画像データ(低感度画素2で得られた画像データ)と高感度画像データ(高感度画素3で得られた画像データ)を詳細は後述するように合成して完成画像を生成し、これを出力して記録媒体29に記録するモードである。
【0029】
完成画像出力モードの非合成画像出力モードとは、低感度画素から読み出した低感度画像データは破棄してしまいあるいは低感度画素から画像データの読み出しをせずに(以下の実施形態の説明では、破棄する例について述べる。)、高感度画像データのみから完成画像を生成して出力し、記録媒体29に記録するモードである。
【0030】
RAWデータ出力モードの低感度画像データ出力モードとは、低感度画像データと高感度画像データの両方をRAWデータで出力し記録媒体29に記録するモードである。
【0031】
RAWデータ出力モードの低感度画像データ非出力モードとは、低感度画素から読み出した低感度画像データは破棄してしまいあるいは低感度画素から画像データの読み出しをせずに(以下の実施形態の説明では、破棄する例について述べる。)、高感度画像データのみをRAWデータで出力し記録媒体29に記録するモードである。
【0032】
画像データの出力モードを完成画像出力モードとするかRAWデータ出力モードとするかは、ユーザが操作部21から指示入力することで行い、合成画像出力モードとするか非合成画像出力モードとするかは、あるいは、低感度画像データ出力モードとするか低感度画像データ非出力モードとするかは、CPU15がシャッタースピードや露光量,撮影モード等の撮影状況に応じて判断し選択する。
【0033】
図3は、上述したデジタルスチルカメラの動作説明図である。固体撮像素子11の高感度画素3から出力されるアナログの高感度画像信号Hは、A/D変換器23によって例えば10ビットのデジタルデータに変換され、固体撮像素子11の低感度画素2から出力されるアナログの低感度画像信号Lは、A/D変換器23によって例えば8ビットのデジタルデータに変換される。
【0034】
ユーザが操作部21で完成画像出力モードを設定しておくと、A/D変換器23から出力される10ビットの高感度画像データと8ビットの低感度画像データをデジタル信号処理部26が取り込み、合成画像出力モードのときは両画像データの合成処理その他の画像処理を行って完成画像データを生成し、非合成画像出力モードのときは低感度画像データを破棄し高感度画像データから完成画像データを生成し、外部メモリ制御部(記録回路)30は、デジタル信号処理部26から図1の圧縮伸張処理部27(図3では図示省略)を介して渡された例えばJPEG圧縮された完成画像データを記録媒体29に出力し記録する。
【0035】
ユーザが操作部21でRAWデータ出力モードを設定しておくと、A/D変換器23から出力される10ビットの高感度画像データと8ビットの低感度画像データを、低感度画像データ出力モードのときは両方ともに外部メモリ制御部30がそのまま記録媒体29に出力して記録し、低感度画像データ非出力モードのときは低感度画像データを破棄し高感度画像データのみをそのまま記録媒体29に出力して記録する。
【0036】
図4は、完成画像出力モードのときに動作するデジタル信号処理部26の処理構成図である。尚、以下、合成画像出力モードの場合を例に説明するが、非合成画像出力モードのときは、低感度画像データを入力時に破棄して高感度画像データのみで完成画像を生成し出力する。
【0037】
このデジタル信号処理部26は、高感度画像データと低感度画像データとを夫々ガンマ補正した後に加算処理する対数加算方式を採用しており、A/D変換回路23から出力される高感度画像のデジタル信号でなるRGB色信号を取り込んでオフセット処理を行うオフセット補正回路41aと、オフセット補正回路41aの出力信号のホワイトバランスをとるゲイン補正回路42aと、ゲイン補正後の色信号に対してガンマ補正を行うガンマ補正回路43aと、図1に示すA/D変換回路23から出力される低感度画像のデジタル信号でなるRGB色信号を取り込んでオフセット処理を行うオフセット補正回路41bと、オフセット補正回路41bの出力信号のホワイトバランスをとるゲイン補正回路42bと、ゲイン補正後の色信号に対してガンマ補正を行うガンマ補正回路43bとを備える。オフセット補正後の信号に対してリニアマトリクス処理などを行う場合には、ゲイン補正回路42a,42bとガンマ補正回路43a,43bとの間で行う。
【0038】
デジタル信号処理部26は、更に、各ガンマ補正回路43a,43bの両出力信号を取り込んで画像合成処理を行う画像合成処理回路44と、画像合成後のRGB色信号を補間演算して各画素位置におけるRGB3色の信号を求めるRGB補間演算部45と、RGB信号から輝度信号Yと色差信号Cr,Cbとを求めるRGB/YC変換回路46と、輝度信号Yや色差信号Cr,Cbからノイズを低減するノイズフィルタ47と、ノイズ低減後の輝度信号Yに対して輪郭補正を行う輪郭補正回路48と、色差信号Cr,Cbに対して色差マトリクスを乗算して色調補正を行う色差マトリクス回路49とを備える。
【0039】
上述した画像合成処理回路44は、ガンマ補正回路43aから出力される高感度画像データと、ガンマ補正回路43bから出力される低感度画像データとを次の数1に基づいて画素単位に合成し、出力する。
【0040】
【数1】
data=〔high+MIN(high/th,1)×low〕×MAX〔(−k×high/th)+α,p〕
ここで、high:高感度(高出力)画像信号のガンマ補正後のデータ
low:低感度(低出力)画像信号のガンマ補正後のデータ
p:total gain(トータルゲイン)
k:係数
th:閾値
α:シーンにより決める値(≒1)
である。尚、α=1と固定してもよい。
【0041】
閾値thとは、ガンマ補正後のデータが8ビットデータ(256階調)であれば、例えば値0〜255のうちの“219”とデジタルスチルカメラの使用者あるいはデジタルスチルカメラの設計者が指定する値である。
【0042】
図5は、数1のMIN(high/th,1)の変化の様子を示すグラフである。この図5に示されるように、数1の第1項は、高感度画像データhighが閾値thを越えているとき高感度画像データhighにそのまま低感度画像データlowを加算し、高感度画像データhighが閾値thに達していないときは、高感度画像データhighの閾値thに対する割合に対し低感度画像データlowを乗算した値を高感度画像データhighに加算することを示している。
【0043】
本実施形態では、この第1項で求めた加算データをそのまま合成画像データとするのではなく、この第1項に、第2項(MAX〔(−k×high/th)+α,p〕)を乗算した値を合成画像のデータとしている。図6は、このMAX〔(−k×high/th)+α,p〕で、k=0.2としたときの変化の様子を示す図である。
【0044】
この第2項において、係数kは、図2に示す実施形態の固体撮像素子11では、値“0.2”を用いるのが良い。図2に示す固体撮像素子11の様に、高感度画素3と低感度画素2の信号電荷の飽和比が異なる場合、係数kは、次の数2で便宜的に求めることができる。
【0045】
【数2】
係数k=1−Sh/(Sh+Sl)
ここで、Sh:高感度画素の信号電荷飽和量
Sl:低感度画素の信号電荷飽和量
【0046】
図2に示す例で、フォトダイオードの面積比がそのまま飽和比になるわけではないが、便宜的に面積比と見ることができ、上記例を当てはめると、
k=1−4/(4+1)=1−0.8
=0.2
となる。
【0047】
高感度画素と低感度画素とを合わせ持つ固体撮像素子は、図2に例示するものに限らず、例えば、図7に示す様に、同一寸法形状に形成された多数のフォトダイオード(図示せず)の上に設けるマイクロレンズの開口面積を変え、高感度画素3と低感度画素2とを設けるものが考えられる。この場合には、高感度画素と低感度画素の信号電荷の飽和量は同じになるため数2は適用できないが、係数kの値を実験的に求めたり、あるいはマイクロレンズ等の開口面積などから係数値を求めることで、数1を適用することができる。この係数kの値は、固体撮像素子の構成によって決まってしまう値であり、使用者が任意に変更するものではなく、撮像装置の出荷時に固定値に設定されるものである。
【0048】
数1において、トータルゲインpの値として、本実施形態では、実験的に定めた値を採用する。pは、合成画像データの全体に対するゲインであり、このpの値を制御することで、画像のダイナミックレンジの制御を行うことができる。
【0049】
pのパラメータ値は可変であるが、その下限値pminも次の数3により決定される。
【0050】
【数3】
pmin=Sh/(Sh+Sl)
【0051】
高感度画像データが最大値で出力されたときに最終出力が最大値となるようなデジタルカメラでは、高感度画像データと低感度画像データとの合成値が最大値となるように高感度画像データと低感度画像データに対してゲイン操作が必要となる。つまり、飽和量分の高感度画像データと低感度画像データが固体撮像素子から出力されたとき、その出力値に対してpmin(<1)分のゲインを掛けて、最終出力値が最大値となるように画像データを変換する必要がある。
【0052】
例えば、高感度画素と低感度画素の飽和比が4対1であった場合には
pmin=4/(4+1)=0.8
となり、コントラストの高い撮影シーンではp=pminにすればよく、また、あまりコントラストが高くない撮影シーンではトータルゲインpの値をpminより大きな値に設定する。
【0053】
トータルゲインpの値は小さいほどダイナミックレンジが広く、大きいほどダイナミックレンジは狭くなる。具体的には、コントラストの高い撮影シーン(真夏の晴天など)では、p=0.8、曇りや日陰ではp=0.86、室内蛍光灯下ではp=0.9というように、撮影シーンに応じてpの値を変化させる。これにより、ガンマ補正後のデータが8ビットデータである場合、8ビット階調値をより有効に使用することが可能となる。
【0054】
pの値は、ユーザが図1に示す操作部21でシーンの種類を指定することでpの値を設定することでも、デジタルスチルカメラ自体が各種センサの検出値に基づいて撮像画像のシーンを自動判定し自動設定することでもよい。例えば、積算部28による測光データの積算値からホワイトバランスのゲイン量を求めるが、このホワイトバランスの値から如何なるシーンであるかを自動判別可能であるため、pの値の自動設定は可能である。
【0055】
図8は、pの値を変えたときのダイナミックレンジの変化の様子を示す図である。トータルゲインpの値を大きくしたときの特性線イはダイナミックレンジが小さく、トータルゲインpの値を小さくしていくとダイナミックレンジが大きい特性線ロまで変化する。
【0056】
このように、本実施形態の完成画像出力モードの合成画像出力モードでは、高感度画像データと低感度画像データとを加算した後に撮影シーンに応じたトータルゲインを乗算するため、ホワイトバランスのとれたダイナミックレンジの広い画像を生成可能となる。また、対数加算方式を採用して高感度画像データと低感度画像データの夫々のビット数を落としてから画像合成するため、回路規模が小さくて済み、低コスト化を図ることが可能となる。
【0057】
以上、完成画像出力モードにおける合成画像出力モードを詳細に説明したが、完成画像出力モードにおける非合成画像出力モードでは、低感度画像データは破棄してしまい、高感度画像データに対してのみ図4のオフセット補正、ゲイン補正、ガンマ補正、RGB補間処理を行い、RGB/YC変換処理、ノイズ低減処理、輪郭補正、色差マトリクス処理を施し、得られた輝度信号Y,色差信号Cr,Cbを、合成画像出力モードと同様に図1の圧縮伸張処理部27にてJPEGデータに変換し、記録媒体29に出力する。
【0058】
図9は、完成画像出力モードのときに、合成画像出力モードで画像データを出力するか、非合成画像モードで画像データを出力するかの判定を行ってデジタル信号処理部26に指示するCPU15の判定手順を示すフローチャートである。
【0059】
先ず、デジタルスチルカメラのユーザは、図1の操作部21で銀塩フィルムカメラのISO感度ど同様のISO感度を設定する(ステップS1)。CPU15は、この入力設定データを取り込み、設定されたISO感度が所定の閾値感度以上であるか否かを判定する。例えば、設定されたISO感度がISO1600以上であるか否かを判定する(ステップS2)。
【0060】
このステップS2における判定結果が肯定(YES)すなわちISO感度が高く低感度画素2の蓄積電荷が微小でノイズ成分の割合が大きいと判定される場合には、ステップS3に進み、デジタル信号処理部26に非合成画像出力モードを実行させて、低感度画像データを高感度画像データに合成させることはしない。
【0061】
ステップS2における判定結果が否定(NO)すなわちISO感度が高くなく低感度画素2の蓄積電荷のノイズ成分の割合が小さいと判定される場合には、ステップS4に進み、デジタル信号処理部26に合成画像出力モードを実行させて、低感度画像データを高感度画像データに合成させる。
【0062】
尚、上述したステップS1では、ユーザが感度設定を行ったが、デジタルスチルカメラ自身が自動で感度設定をすることでもよい。
【0063】
図10は、CPU15が完成画像出力モードのときに行う図9に代わる処理手順を示すフローチャートである。デジタルスチルカメラのユーザは、図1の操作部21で、撮影モードの設定を行う(ステップS11)。CPU15は、この設定が為されたとき、撮影モードが夜景モードであるか否かを判定する(ステップS12)。そして、判定結果が否定(NO)となり夜景モードでない場合には、ステップS13に進み、デジタル信号処理部26に合成画像出力モードを実行させ、低感度画像データを高感度画像データに合成させる。
【0064】
ステップS12の判定結果が肯定(YES)の場合、即ち、夜景モードの場合には、シャッタースピードを遅くまで使用できるため、次にステップS14に進んで測光を行い、この測光結果に基づいて決定されたシャッタースピードが所定の閾値よりも大きいか否かを判定する(ステップS15)。例えば、シャッタースピードが1秒以上であるか否かを判定する。
【0065】
このステップS15における判定結果が否定(NO)の場合、即ち、測光結果により露光量がある程度とれる場合には低感度画素の蓄積電荷が有意であることが期待されるため、ステップS13に進んでデジタル信号処理部26に合成画像出力モードを実行させる。
【0066】
ステップS15における判定結果が肯定(YES)の場合、即ち、シャッタースピードが1秒以上あり、長時間露光しなければ信号電荷の蓄積が期待できない場合には、低感度画素の蓄積電荷のノイズ成分量が多いと判断されるため、ステップS16に進み、デジタル信号処理部26に非合成画像出力モードを実行させ、低感度画像データを高感度画像データに合成させることはしない。
【0067】
このように、本実施形態では、低感度画像データと高感度画像データの合成処理を行うか否かの判断を、夜景モードのときだけ測光結果に応じて行う構成としている。即ち、本実施形態のステップS14の測光作業は、夜景モード時のシャッタースピードを求めるために行うものであり、測光作業自体は、夜景モード以外の他の撮影モードでも行う。
【0068】
図11は、CPU15が完成画像出力モードのときに行う図10に代わる処理手順を示すフローチャートである。先ず、デジタルスチルカメラのユーザは、図1の操作部21から撮影モードの設定を行う(ステップS21)。CPU15は、次のステップS22で、ユーザ設定の撮影モードがマニュアルモードまたはシャッター優先モードであるか否かを判定する。ロングシャッターの領域(シャッタースピードが閾値より遅い領域)は、シャッタースピードを意図的に操作できる系でのみ設定可能であり、そのため、シャッター優先では、ロングシャッターは可能であるが、絞り優先では、ロングシャッター撮影はできないため、ステップS22での判定を行う。そして、判定結果が、マニュアルモードでなくしかもシャッター優先モードでない場合には、ステップS23に進み、デジタル信号処理部26に合成画像出力モードを実行させる。
【0069】
ステップS22の判定の結果、マニュアルモードまたはシャッター優先モードの場合には次にステップS24に進み、今度はシャッタースピードが所定の閾値例えば1秒より大であるか否かを判定する。この判定結果が否定(NO)の場合にはステップS23に進み、デジタル信号処理部26に合成画像出力モードを実行させる。
【0070】
ステップS24の判定結果が肯定(YES)の場合には、シャッター速度を大きくして露光時間を長時間とらないと有意な信号電荷の蓄積が期待できない撮影状況であると判断でき、ステップS25に進み、デジタル信号処理部26に非合成画像出力モードを実行させる。
【0071】
尚、デジタルカメラの撮影モードとして、夜景モードと、マニュアル撮影モードと、シャッタ優先撮影モードとが混在する場合には、図11の処理手順を実行し、ステップS23の前で、図10の処理手順を実行することになる。
【0072】
以上、図9,図10,図11で説明したように、CPU15は、撮影状況を判断して低感度画素に有意な信号電荷の蓄積が期待できる場合には低感度画素による撮像画像データを高感度画像データに合成し、低感度画素に有意な信号電荷の蓄積が期待できずノイズ成分が多いと判断される場合には、低感度画素による撮像画像データを完成画像生成に使用しないようにしたため、撮影状況にかかわらず、ノイズ成分の少ない良好な画像を得ることが可能となる。
【0073】
CPU15は、RAWデータ出力モードの場合にも、低感度画像データ出力モードと低感度画像データ非出力モードとを撮影状況に基づいて選択する。この選択の判定処理は、上述した図9,図10,図11と同様であり、ステップS3,ステップS16,ステップS25に進んだとき低感度画像非出力モードが実行されて、高感度画像データのみがRAWデータとして出力され、記録媒体29に記録される。そして、ステップS4,ステップS13,ステップS23に進んだとき低感度画像データ出力モードが実行されて、高感度画像データと低感度画像データの両方がRAWデータとして出力され、記録媒体29に記録される。
【0074】
この低感度画像データ非出力モードを設けたことにより、記録媒体29に格納するデータ量を削減でき、記録の高速化を図ることが可能となる。尚、RAWデータ読み出し装置が記録媒体29上に低感度画像データが無いということを容易に判断して高感度画像データのみから完成画像をアプリケーションソフトで生成できるように、低感度画像データが記録されないモードであることをタグ情報として記録媒体29に記録するのがよい。これにより、対応アプリケーションソフトのエラーが回避可能となる。
【0075】
【発明の効果】
本発明によれば、低感度画素による画像データと高感度画素による画像データの両方を撮像したとき撮影状況によらずに常に良好な画質の画像データを出力することが可能となる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係るデジタルスチルカメラのブロック構成図である。
【図2】図1に示す固体撮像素子の表面模式図である。
【図3】図1に示すデジタルスチルカメラの動作説明図である。
【図4】図3に示すデジタル信号処理部の処理構成図である。
【図5】本発明の一実施形態に係る合成画像出力モードで演算処理される数式の説明図である。
【図6】本発明の一実施形態に係る合成画像出力モードで演算処理される数式の説明図である。
【図7】固体撮像素子の別実施形態に係る画素配置図である。
【図8】ダイナミックレンジの変化の様子を示す図である。
【図9】本発明の一実施形態で合成画像出力モードと非合成画像出力モードを選択判定する処理手順を示すフローチャートである。
【図10】図9のフローチャートに代わる別実施形態に係る処理手順を示すフローチャートである。
【図11】図10のフローチャートに代わる更に別実施形態に係る処理手順を示すフローチャートである。
【符号の説明】
1 画素
2 低感度画素(副画素)
3 高感度画素(主画素)
10 レンズ
11 固体撮像素子
15 CPU
23 A/D変換器
26 デジタル信号処理部
29 記録媒体
44 画像合成処理回路
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a digital camera equipped with a solid-state imaging device having both low-sensitivity pixels and high-sensitivity pixels.
[0002]
[Prior art]
In digital cameras such as digital still cameras and digital video cameras, the saturation amount of charge accumulated in the photodiodes that make up each pixel of the solid-state image sensor decreases as the number of pixels increases, that is, the photodiodes become smaller. Has a drawback that the dynamic range becomes narrow.
[0003]
In order to overcome this drawback, for example, in the conventional technique described in Japanese Patent Application Laid-Open No. 2001-8104, a solid-state image sensor is provided with two types of pixels, a high-sensitivity pixel and a low-sensitivity pixel, and a captured image obtained from the high-sensitivity pixel. The dynamic range of the captured image is expanded by combining the data and the captured image data obtained from the low sensitivity pixels.
[0004]
In addition, when the number of pixels of a solid-state image sensor is increased as in recent years, an image equivalent to a silver salt camera is picked up. For this reason, captured image data output from the solid-state image sensor is RAW data (raw data of captured image data output from the solid-state image sensor) is stored in the memory without being processed without white balance correction, gamma correction, JPEG compression, etc., and this image data is read by a personal computer or the like. There is an increasing demand for users to perform white balance correction, gamma correction, color tone correction, etc. according to their own preferences. For this reason, digital cameras record image data as RAW data as described in JP-A-11-261933 (Patent Document 2) and JP-A-2001-2231979 (Patent Document 3). Is increasing.
[0005]
[Patent Document 1]
Japanese Patent Laid-Open No. 2001-8104 [Patent Document 2]
JP-A-11-261933 [Patent Document 3]
[Patent Document 1] Japanese Patent Application Laid-Open No. 2001-223979
[Problems to be solved by the invention]
Conventional digital cameras that capture low-sensitivity image data with low-sensitivity pixels and high-sensitivity image data with high-sensitivity pixels uniformly synthesize and output low-sensitivity image data and high-sensitivity image data. End up. For this reason, for example, in the case of a shooting situation where long exposure shooting is performed at night, that is, in a shooting situation where even a high-sensitivity pixel has a small amount of signal charge accumulation, the low-sensitivity pixel has almost no signal charge accumulation amount. There are cases where almost all of the charge is due to noise. Even in such a case, there is a problem that when the image data of the high sensitivity pixel and the image data of the low sensitivity pixel are combined and output, the combined image becomes a very noisy image.
[0007]
In addition, when the captured image data is output to the memory as RAW data and recorded, both low-sensitivity image data and high-sensitivity image data are recorded, or the low-sensitivity captured image data and high-sensitivity image data are recorded with a digital camera. Sensitive captured image data is combined and the combined captured image data is output to the memory and recorded. However, when the captured image data is output to the memory and recorded as RAW data, the low-sensitivity pixels are accumulated as described above. If there is a high probability that the electric charge is almost noise, recording low-sensitivity captured image data in the memory wastes memory capacity, and recording the combined captured image data in the memory increases the noise in the image. There is a problem of end.
[0008]
SUMMARY OF THE INVENTION An object of the present invention is to provide a digital camera that can always output image data with good image quality regardless of shooting conditions when both image data by low sensitivity pixels and image data by high sensitivity pixels are imaged. It is in.
[0009]
[Means for Solving the Problems]
A digital camera that achieves the above object includes a solid-state imaging device having a low-sensitivity pixel and a high-sensitivity pixel, an exposure time determination unit that determines whether or not an exposure time of shooting is equal to or greater than a predetermined threshold, and the exposure time determination unit When it is determined that shooting is performed with an exposure time that is equal to or greater than the predetermined threshold, the image data read from the high-sensitivity pixel is output, and the exposure time determination unit performs shooting with an exposure time that does not satisfy the predetermined threshold. When it is determined to be performed, the image processing apparatus includes a control unit that synthesizes and outputs the image data read from the low sensitivity pixel to the image data read from the high sensitivity pixel.
[0010]
With this configuration, the imaged image data from the low-sensitivity pixels is not used at the time of shooting when the accumulated charge amount of the low-sensitivity pixels is very small, so that noise in the image can be reduced even when a dark scene is shot.
[0011]
The above-described digital camera includes a solid-state imaging device having a low-sensitivity pixel and a high-sensitivity pixel, an exposure time determination unit that determines whether or not an exposure time for shooting is equal to or greater than a predetermined threshold, and the exposure time determination unit includes: When it is determined that shooting is performed with an exposure time equal to or greater than the predetermined threshold, the image data read from the high-sensitivity pixel is output as RAW data, and the exposure time determination means has an exposure time less than the predetermined threshold. When it is determined that shooting is performed, the image processing apparatus includes a control unit that outputs the image data read from the high sensitivity pixel and the image data read from the low sensitivity pixel as RAW data. .
[0012]
With this configuration, when it is estimated that the amount of noise mixed in the image data obtained from the low-sensitivity pixels is large, only the image data obtained from the high-sensitivity pixels is output as RAW data. Even in shooting, noise in the image can be reduced.
[0013]
The control unit of the digital camera discards the image data read from the low sensitivity pixel when the exposure time determination unit determines that shooting is performed with an exposure time that is equal to or greater than the predetermined threshold, or from the low sensitivity pixel. The image data reading is stopped.
[0014]
With this configuration, when the exposure time is equal to or greater than the predetermined threshold, captured image data of low-sensitivity pixels that are not used may be discarded after being read out or may not be read out.
[0015]
Instead of the exposure time determining means of the digital camera, there is provided a setting sensitivity determining means for determining whether or not the sensitivity setting is equal to or higher than a predetermined sensitivity.
[0016]
With this configuration, use or non-use of captured image data by low-sensitivity pixels can be selected by sensitivity setting (either manual setting or auto setting may be used).
[0017]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
[0018]
FIG. 1 is a configuration diagram of a digital still camera according to an embodiment of the present invention. In this embodiment, a digital still camera will be described as an example. However, the present invention can also be applied to other types of digital cameras such as a camera mounted on a small electronic device such as a digital video camera or a mobile phone.
[0019]
The digital still camera shown in FIG. 1 includes a photographic lens 10, a solid-state image sensor 11, a diaphragm 12 provided between them, an infrared cut filter 13, and an optical low-pass filter 14. The CPU 15 that controls the entire digital still camera controls the light emitting unit 16 and the light receiving unit 17 for flash, controls the lens driving unit 18 to adjust the position of the photographing lens 10 to the focus position, and stops the aperture driving unit. The opening amount of the diaphragm 12 is controlled via 19 to adjust the exposure amount to an appropriate exposure amount.
[0020]
Further, the CPU 15 drives the solid-state image sensor 11 via the image sensor driving unit 20 and outputs the subject image captured through the photographing lens 10 as a color signal. In addition, a user instruction signal is input to the CPU 15 through the operation unit 21, and the CPU 15 performs various controls according to the instruction.
[0021]
The electric control system of the digital still camera includes an analog signal processing unit 22 connected to the output of the solid-state imaging device 11, and an A / D conversion that converts RGB color signals output from the analog signal processing unit 22 into digital signals. The circuit 23 is provided and these are controlled by the CPU 15.
[0022]
Further, the electric control system of this digital still camera includes a memory control unit 25 connected to the main memory 24, a digital signal processing unit 26 described later in detail, and compresses the captured image into a JPEG image and decompresses the compressed image. Mounted on the back side of the camera, the compression / decompression processing unit 27, the integration unit 28 for integrating the photometric data and adjusting the white balance gain, the external memory control unit 30 to which the removable recording medium 29 is connected. And a display control unit 32 to which the liquid crystal display unit 31 is connected. These are connected to each other by a control bus 33 and a data bus 34, and are controlled by a command from the CPU 15.
[0023]
The digital signal processing unit 26, the analog signal processing unit 22, the A / D conversion circuit 23, and the like shown in FIG. 1 can be mounted on the digital still camera as separate circuits. It is preferable to manufacture on the same semiconductor substrate using LSI manufacturing technology to form one solid-state imaging device.
[0024]
FIG. 2 is a pixel arrangement diagram of the solid-state imaging device 11 used in the present embodiment. The pixel 1 in the CCD portion that captures an image with a wide dynamic range has a pixel arrangement described in, for example, Japanese Patent Laid-Open No. 10-136391, and each pixel in the odd row is horizontally aligned with each pixel in the even row. A vertical transfer path (not shown) that is arranged with a ½ pitch shift and transfers signal charges read from each pixel in the vertical direction is meandered so as to avoid each pixel in the vertical direction. ing.
[0025]
In the illustrated example, each pixel 1 according to the present embodiment includes a low-sensitivity pixel (sub-pixel) 2 that occupies about 1/5 of the area of the pixel 1 and a high-sensitivity pixel (subpixel) that occupies the remaining about 4/5. Main signal) 3 so that the signal charge of each low-sensitivity pixel 2 and the signal charge of each high-sensitivity pixel 3 can be distinguished and transferred to the vertical transfer path. . It should be noted that the ratio and the position at which the pixel 1 is divided are determined by design, and FIG. 2 is merely an example.
[0026]
The solid-state imaging device 11 has been described by taking a CCD having a honeycomb pixel arrangement as shown in FIG. 2 as an example, but may be a Bayer CCD or a CMOS sensor.
[0027]
The digital camera of the present embodiment has a captured image data output mode, a completed image output mode and a RAW data output mode, and the completed image output mode includes a composite image output mode and a non-synthesized image output mode. The RAW data output mode includes a low sensitivity image data output mode and a low sensitivity image data non-output mode.
[0028]
The composite image output mode of the completed image output mode is a low-sensitivity image data (image data obtained by the low-sensitivity pixel 2) obtained by one imaging and a high-sensitivity image data (obtained by the high-sensitivity pixel 3). As will be described later in detail, the image data) is synthesized to generate a completed image, which is output and recorded on the recording medium 29.
[0029]
The non-composite image output mode of the completed image output mode means that the low-sensitivity image data read from the low-sensitivity pixels is discarded or the image data is not read from the low-sensitivity pixels (in the description of the following embodiment, An example of discarding will be described.) In this mode, a completed image is generated and output only from high-sensitivity image data, and is recorded on the recording medium 29.
[0030]
The low-sensitivity image data output mode of the RAW data output mode is a mode in which both low-sensitivity image data and high-sensitivity image data are output as RAW data and recorded on the recording medium 29.
[0031]
The low-sensitivity image data non-output mode of the RAW data output mode means that the low-sensitivity image data read from the low-sensitivity pixels is discarded or the image data is not read from the low-sensitivity pixels (description of the following embodiment) Now, an example of discarding will be described.) In this mode, only high-sensitivity image data is output as RAW data and recorded on the recording medium 29.
[0032]
Whether the output mode of the image data is the completed image output mode or the RAW data output mode is determined by the user inputting an instruction from the operation unit 21 to select the composite image output mode or the non-composite image output mode. Alternatively, the CPU 15 determines and selects whether to use the low-sensitivity image data output mode or the low-sensitivity image data non-output mode according to shooting conditions such as the shutter speed, exposure amount, and shooting mode.
[0033]
FIG. 3 is a diagram for explaining the operation of the digital still camera described above. An analog high-sensitivity image signal H output from the high-sensitivity pixel 3 of the solid-state image sensor 11 is converted into, for example, 10-bit digital data by the A / D converter 23 and output from the low-sensitivity pixel 2 of the solid-state image sensor 11. The analog low-sensitivity image signal L is converted into, for example, 8-bit digital data by the A / D converter 23.
[0034]
When the user sets the completed image output mode with the operation unit 21, the digital signal processing unit 26 takes in the 10-bit high sensitivity image data and the 8-bit low sensitivity image data output from the A / D converter 23. In composite image output mode, both image data are combined and other image processing is performed to generate completed image data. In non-composite image output mode, low-sensitivity image data is discarded and high-sensitivity image data is used to complete the image. The external memory control unit (recording circuit) 30 generates data, for example, a JPEG-compressed completed image passed from the digital signal processing unit 26 via the compression / decompression processing unit 27 (not shown in FIG. 3) in FIG. Data is output to the recording medium 29 and recorded.
[0035]
When the user sets the RAW data output mode with the operation unit 21, the 10-bit high sensitivity image data and the 8-bit low sensitivity image data output from the A / D converter 23 are converted into the low sensitivity image data output mode. In both cases, the external memory control unit 30 outputs and records the data on the recording medium 29 as it is. In the low-sensitivity image data non-output mode, the low-sensitivity image data is discarded and only the high-sensitivity image data is directly stored on the recording medium 29. Output and record.
[0036]
FIG. 4 is a processing configuration diagram of the digital signal processing unit 26 that operates in the completed image output mode. Hereinafter, the case of the composite image output mode will be described as an example. However, in the non-composite image output mode, the low-sensitivity image data is discarded at the time of input, and a completed image is generated and output only from the high-sensitivity image data.
[0037]
The digital signal processing unit 26 employs a logarithmic addition method in which high-sensitivity image data and low-sensitivity image data are each subjected to gamma correction and then subjected to addition processing, and the high-sensitivity image output from the A / D conversion circuit 23 is used. An offset correction circuit 41a that takes an RGB color signal that is a digital signal and performs an offset process, a gain correction circuit 42a that white balances an output signal of the offset correction circuit 41a, and a gamma correction for the color signal after gain correction. A gamma correction circuit 43a for performing, an offset correction circuit 41b for performing an offset process by taking in RGB color signals which are digital signals of low-sensitivity images output from the A / D conversion circuit 23 shown in FIG. 1, and an offset correction circuit 41b The gain correction circuit 42b for white balance of the output signal and the color signal after gain correction And a gamma correction circuit 43b for performing gamma correction. When linear matrix processing or the like is performed on the signal after offset correction, it is performed between the gain correction circuits 42a and 42b and the gamma correction circuits 43a and 43b.
[0038]
The digital signal processing unit 26 further interpolates the RGB color signal after the image composition by performing an image composition process by taking both output signals of each of the gamma correction circuits 43a and 43b and performing image composition processing. Reduces noise from the RGB interpolation calculation unit 45 for obtaining RGB three-color signals, the RGB / YC conversion circuit 46 for obtaining the luminance signal Y and the color difference signals Cr and Cb from the RGB signal, and the luminance signal Y and the color difference signals Cr and Cb. A noise filter 47, a contour correction circuit 48 that performs contour correction on the luminance signal Y after noise reduction, and a color difference matrix circuit 49 that performs color correction by multiplying the color difference signals Cr and Cb by the color difference matrix. Prepare.
[0039]
The above-described image composition processing circuit 44 synthesizes the high-sensitivity image data output from the gamma correction circuit 43a and the low-sensitivity image data output from the gamma correction circuit 43b in units of pixels based on the following equation 1. Output.
[0040]
[Expression 1]
data = [high + MIN (high / th, 1) × low] × MAX [(−k × high / th) + α, p]
Here, high: data after gamma correction of high sensitivity (high output) image signal low: data after gamma correction of low sensitivity (low output) image signal p: total gain (total gain)
k: coefficient th: threshold α: value determined by the scene (≈1)
It is. Note that α = 1 may be fixed.
[0041]
If the data after gamma correction is 8-bit data (256 gradations), the threshold value th is designated by, for example, “219” of the value 0 to 255 and the user of the digital still camera or the designer of the digital still camera. The value to be
[0042]
FIG. 5 is a graph showing how the MIN (high / th, 1) in Equation 1 changes. As shown in FIG. 5, the first term of Equation 1 adds the low-sensitivity image data low as it is to the high-sensitivity image data high when the high-sensitivity image data high exceeds the threshold value th. When high does not reach the threshold th, it indicates that a value obtained by multiplying the ratio of the high sensitivity image data high to the threshold th by the low sensitivity image data low is added to the high sensitivity image data high.
[0043]
In the present embodiment, the addition data obtained in the first term is not used as the synthesized image data as it is, but the second term (MAX [(− k × high / th) + α, p]) is added to the first term. A value obtained by multiplying is used as composite image data. FIG. 6 is a diagram showing a change state when k = 0.2 in MAX [(− k × high / th) + α, p].
[0044]
In the second term, the coefficient “k” is preferably a value “0.2” in the solid-state imaging device 11 of the embodiment shown in FIG. When the signal charge saturation ratios of the high-sensitivity pixel 3 and the low-sensitivity pixel 2 are different as in the solid-state imaging device 11 shown in FIG. 2, the coefficient k can be conveniently obtained by the following equation 2.
[0045]
[Expression 2]
Coefficient k = 1−Sh / (Sh + Sl)
Here, Sh: signal charge saturation amount of high sensitivity pixel Sl: signal charge saturation amount of low sensitivity pixel
In the example shown in FIG. 2, the area ratio of the photodiode does not become the saturation ratio as it is, but it can be regarded as an area ratio for convenience, and when the above example is applied,
k = 1-4 / (4 + 1) = 1-0.8
= 0.2
It becomes.
[0047]
The solid-state imaging device having both high-sensitivity pixels and low-sensitivity pixels is not limited to that illustrated in FIG. 2, and for example, as shown in FIG. 7, a large number of photodiodes (not shown) formed in the same size and shape. It is conceivable to change the aperture area of the microlens provided on top of the above and provide the high-sensitivity pixel 3 and the low-sensitivity pixel 2. In this case, the saturation amount of the signal charge of the high-sensitivity pixel and the low-sensitivity pixel is the same, and thus Equation 2 cannot be applied. However, the value of the coefficient k is obtained experimentally or from the opening area of a microlens or the like. Equation 1 can be applied by obtaining the coefficient value. The value of the coefficient k is a value that is determined by the configuration of the solid-state imaging device, and is not arbitrarily changed by the user, but is set to a fixed value when the imaging apparatus is shipped.
[0048]
In Equation 1, an experimentally determined value is used as the value of the total gain p in this embodiment. p is a gain for the entire composite image data, and the dynamic range of the image can be controlled by controlling the value of p.
[0049]
The parameter value of p is variable, but the lower limit value pmin is also determined by the following equation (3).
[0050]
[Equation 3]
pmin = Sh / (Sh + Sl)
[0051]
For digital cameras that have a maximum final output when the high-sensitivity image data is output at the maximum value, the high-sensitivity image data is set so that the combined value of the high-sensitivity image data and the low-sensitivity image data becomes the maximum value. And gain operation is required for low-sensitivity image data. That is, when high-sensitivity image data and low-sensitivity image data corresponding to the saturation amount are output from the solid-state imaging device, the output value is multiplied by a gain corresponding to pmin (<1), and the final output value becomes the maximum value. Therefore, it is necessary to convert the image data.
[0052]
For example, when the saturation ratio of the high sensitivity pixel and the low sensitivity pixel is 4: 1, pmin = 4 / (4 + 1) = 0.8
Therefore, p = pmin may be set for a high-contrast shooting scene, and the total gain p is set to a value larger than pmin for a shooting scene with low contrast.
[0053]
The smaller the total gain p value, the wider the dynamic range, and the larger the value, the narrower the dynamic range. Specifically, in a high-contrast shooting scene (such as midsummer clear sky), p = 0.8, p = 0.86 in cloudy or shaded, p = 0.9 under indoor fluorescent lamp, and so on. The value of p is changed according to. Thereby, when the data after gamma correction is 8-bit data, the 8-bit gradation value can be used more effectively.
[0054]
Even if the user sets the value of p by specifying the type of scene using the operation unit 21 shown in FIG. 1, the digital still camera itself can change the scene of the captured image based on the detection values of various sensors. Automatic determination and automatic setting may be used. For example, the white balance gain amount is obtained from the integrated value of the photometric data obtained by the integrating unit 28. Since the scene can be automatically determined from the white balance value, the value of p can be automatically set. .
[0055]
FIG. 8 is a diagram showing how the dynamic range changes when the value of p is changed. When the total gain p is increased, the characteristic line a has a small dynamic range, and when the total gain p is decreased, the characteristic line a changes to a characteristic line B having a large dynamic range.
[0056]
As described above, in the composite image output mode of the completed image output mode of the present embodiment, the high gain image data and the low sensitivity image data are added and then multiplied by the total gain according to the shooting scene. An image with a wide dynamic range can be generated. In addition, since the logarithmic addition method is employed to combine the images after reducing the number of bits of the high-sensitivity image data and the low-sensitivity image data, the circuit scale can be reduced and the cost can be reduced.
[0057]
Although the composite image output mode in the completed image output mode has been described in detail above, in the non-composite image output mode in the completed image output mode, the low-sensitivity image data is discarded, and only the high-sensitivity image data is shown in FIG. Offset correction, gain correction, gamma correction, and RGB interpolation processing, RGB / YC conversion processing, noise reduction processing, contour correction, and color difference matrix processing are performed, and the resulting luminance signal Y and color difference signals Cr and Cb are combined. As in the image output mode, the compression / decompression processing unit 27 in FIG.
[0058]
FIG. 9 shows the CPU 15 instructing the digital signal processing unit 26 to determine whether to output image data in the composite image output mode or to output image data in the non-composite image mode in the completed image output mode. It is a flowchart which shows the determination procedure.
[0059]
First, the user of the digital still camera sets an ISO sensitivity similar to the ISO sensitivity of the silver halide film camera by using the operation unit 21 in FIG. 1 (step S1). The CPU 15 takes in the input setting data and determines whether or not the set ISO sensitivity is equal to or higher than a predetermined threshold sensitivity. For example, it is determined whether the set ISO sensitivity is ISO 1600 or more (step S2).
[0060]
If the determination result in step S2 is affirmative (YES), that is, if it is determined that the ISO sensitivity is high and the accumulated charge of the low-sensitivity pixel 2 is small and the ratio of the noise component is large, the process proceeds to step S3 and the digital signal processing unit 26 The non-composite image output mode is not executed and the low-sensitivity image data is not combined with the high-sensitivity image data.
[0061]
If the determination result in step S2 is negative (NO), that is, it is determined that the ISO sensitivity is not high and the ratio of the noise component of the accumulated charge of the low-sensitivity pixel 2 is small, the process proceeds to step S4 and is combined with the digital signal processing unit 26. An image output mode is executed to synthesize low-sensitivity image data with high-sensitivity image data.
[0062]
In step S1, the user has set the sensitivity. However, the digital still camera itself may automatically set the sensitivity.
[0063]
FIG. 10 is a flowchart showing a processing procedure instead of FIG. 9 performed when the CPU 15 is in the completed image output mode. The user of the digital still camera sets the shooting mode using the operation unit 21 in FIG. 1 (step S11). When this setting is made, the CPU 15 determines whether or not the shooting mode is the night view mode (step S12). If the determination result is negative (NO) and the night scene mode is not set, the process advances to step S13 to cause the digital signal processing unit 26 to execute the composite image output mode, and the low-sensitivity image data is combined with the high-sensitivity image data.
[0064]
If the determination result in step S12 is affirmative (YES), that is, in the night scene mode, the shutter speed can be used until it is late, so the process proceeds to step S14 to perform photometry, which is determined based on the photometry result. It is determined whether the shutter speed is greater than a predetermined threshold (step S15). For example, it is determined whether the shutter speed is 1 second or more.
[0065]
If the determination result in step S15 is negative (NO), that is, if the exposure amount can be taken to some extent according to the photometric result, it is expected that the accumulated charge of the low-sensitivity pixel is significant. The signal processing unit 26 is caused to execute the composite image output mode.
[0066]
If the determination result in step S15 is affirmative (YES), that is, if the shutter speed is 1 second or longer and signal charge cannot be accumulated unless exposed for a long time, the noise component amount of the accumulated charge of the low-sensitivity pixel Therefore, the process proceeds to step S16, and the digital signal processing unit 26 is not allowed to execute the non-synthesized image output mode, and the low-sensitivity image data is not synthesized with the high-sensitivity image data.
[0067]
As described above, in this embodiment, the determination as to whether or not the low-sensitivity image data and the high-sensitivity image data are to be combined is performed according to the photometry result only in the night scene mode. That is, the photometric operation in step S14 of the present embodiment is performed in order to obtain the shutter speed in the night scene mode, and the photometric operation itself is performed in other shooting modes other than the night scene mode.
[0068]
FIG. 11 is a flowchart showing a processing procedure in place of FIG. 10 performed when the CPU 15 is in the completed image output mode. First, the user of the digital still camera sets the shooting mode from the operation unit 21 in FIG. 1 (step S21). In the next step S22, the CPU 15 determines whether or not the user-set shooting mode is the manual mode or the shutter priority mode. The long shutter area (the area where the shutter speed is slower than the threshold) can be set only in a system that can intentionally operate the shutter speed. Therefore, long shutter is possible with shutter priority, but long with aperture priority. Since shutter photography is not possible, the determination in step S22 is performed. If the determination result is not the manual mode and the shutter priority mode is not selected, the process proceeds to step S23, and the digital signal processing unit 26 is caused to execute the composite image output mode.
[0069]
If the result of determination in step S22 is manual mode or shutter priority mode, then control proceeds to step S24, where it is determined whether or not the shutter speed is greater than a predetermined threshold, for example, 1 second. If the determination result is negative (NO), the process proceeds to step S23, and the digital signal processing unit 26 is caused to execute the composite image output mode.
[0070]
If the determination result in step S24 is affirmative (YES), it can be determined that a significant signal charge cannot be accumulated unless the shutter speed is increased and the exposure time is long, and the process proceeds to step S25. Then, the digital signal processing unit 26 is caused to execute the non-synthesized image output mode.
[0071]
When the night view mode, the manual shooting mode, and the shutter priority shooting mode are mixed as the shooting mode of the digital camera, the processing procedure of FIG. 11 is executed, and the processing procedure of FIG. 10 is performed before step S23. Will be executed.
[0072]
As described above with reference to FIGS. 9, 10, and 11, the CPU 15 determines the shooting situation, and if significant signal charge can be expected to be accumulated in the low sensitivity pixels, the CPU 15 increases the captured image data by the low sensitivity pixels. When combined with the sensitivity image data and significant signal charge cannot be expected to be accumulated in the low-sensitivity pixels, and it is judged that there are many noise components, the captured image data from the low-sensitivity pixels is not used for generating the completed image. Regardless of the shooting situation, it is possible to obtain a good image with less noise components.
[0073]
Even in the RAW data output mode, the CPU 15 selects the low-sensitivity image data output mode and the low-sensitivity image data non-output mode based on the shooting situation. This selection determination process is the same as that in FIG. 9, FIG. 10, and FIG. 11 described above. When the process proceeds to step S3, step S16, or step S25, the low-sensitivity image non-output mode is executed and only the high-sensitivity image data is displayed. Is output as RAW data and recorded on the recording medium 29. When the process proceeds to step S4, step S13, or step S23, the low sensitivity image data output mode is executed, and both the high sensitivity image data and the low sensitivity image data are output as RAW data and recorded on the recording medium 29. .
[0074]
By providing this low-sensitivity image data non-output mode, the amount of data stored in the recording medium 29 can be reduced, and the recording speed can be increased. Note that the low-sensitivity image data is not recorded so that the RAW data reading device can easily determine that there is no low-sensitivity image data on the recording medium 29 and can generate a completed image from only the high-sensitivity image data by application software. The mode is preferably recorded on the recording medium 29 as tag information. This makes it possible to avoid errors in the corresponding application software.
[0075]
【The invention's effect】
According to the present invention, it is possible to always output image data with good image quality regardless of the shooting situation when both image data by low-sensitivity pixels and image data by high-sensitivity pixels are imaged.
[Brief description of the drawings]
FIG. 1 is a block diagram of a digital still camera according to an embodiment of the present invention.
FIG. 2 is a schematic surface view of the solid-state imaging device shown in FIG.
3 is an operation explanatory diagram of the digital still camera shown in FIG. 1. FIG.
4 is a processing configuration diagram of a digital signal processing unit shown in FIG. 3. FIG.
FIG. 5 is an explanatory diagram of mathematical expressions that are arithmetically processed in a composite image output mode according to an embodiment of the present invention.
FIG. 6 is an explanatory diagram of mathematical expressions that are arithmetically processed in a composite image output mode according to an embodiment of the present invention.
FIG. 7 is a pixel arrangement diagram according to another embodiment of the solid-state imaging device.
FIG. 8 is a diagram showing how the dynamic range changes.
FIG. 9 is a flowchart illustrating a processing procedure for selecting and determining a composite image output mode and a non-composite image output mode according to an embodiment of the present invention.
FIG. 10 is a flowchart showing a processing procedure according to another embodiment instead of the flowchart of FIG. 9;
FIG. 11 is a flowchart illustrating a processing procedure according to another embodiment instead of the flowchart of FIG. 10;
[Explanation of symbols]
1 pixel 2 low sensitivity pixel (sub pixel)
3 High sensitivity pixels (main pixels)
10 Lens 11 Solid-state imaging device 15 CPU
23 A / D converter 26 Digital signal processing unit 29 Recording medium 44 Image composition processing circuit

Claims (4)

低感度画素と高感度画素を有する固体撮像素子と、撮影の露光時間が所定閾値以上であるか否かを判定する露光時間判定手段と、該露光時間判定手段が前記所定閾値以上の露光時間で撮影が行われると判定した場合には前記高感度画素から読み出された画像データを出力し前記露光時間判定手段が前記所定閾値に満たない露光時間で撮影が行われると判定した場合には前記高感度画素から読み出された画像データに前記低感度画素から読み出された画像データを合成して出力する制御手段を備えることを特徴とするデジタルカメラ。A solid-state imaging device having a low-sensitivity pixel and a high-sensitivity pixel; an exposure time determination unit that determines whether or not an exposure time for shooting is equal to or greater than a predetermined threshold; and When it is determined that shooting is performed, image data read from the high-sensitivity pixel is output, and when the exposure time determination unit determines that shooting is performed with an exposure time that does not satisfy the predetermined threshold, A digital camera comprising control means for synthesizing and outputting image data read from the low-sensitivity pixels to image data read from high-sensitivity pixels. 低感度画素と高感度画素を有する固体撮像素子と、撮影の露光時間が所定閾値以上であるか否かを判定する露光時間判定手段と、該露光時間判定手段が前記所定閾値以上の露光時間で撮影が行われると判定した場合には前記高感度画素から読み出された画像データをRAWデータで出力し前記露光時間判定手段が前記所定閾値に満たない露光時間で撮影が行われると判定した場合には前記高感度画素から読み出された画像データと前記低感度画素から読み出された画像データとを夫々RAWデータで出力する制御手段を備えることを特徴とするデジタルカメラ。A solid-state imaging device having a low-sensitivity pixel and a high-sensitivity pixel; an exposure time determination unit that determines whether or not an exposure time for shooting is equal to or greater than a predetermined threshold; and When it is determined that shooting is performed, the image data read from the high-sensitivity pixel is output as RAW data, and the exposure time determination unit determines that shooting is performed with an exposure time less than the predetermined threshold The digital camera comprises control means for outputting the image data read from the high sensitivity pixel and the image data read from the low sensitivity pixel as RAW data. 前記制御手段は、前記露光時間判定手段が前記所定閾値以上の露光時間で撮影が行われると判定したとき前記低感度画素から読み出した画像データを破棄しあるいは前記低感度画素からの画像データの読み出しを停止することを特徴とする請求項1または請求項2に記載のデジタルカメラ。The control unit discards the image data read from the low-sensitivity pixel or reads the image data from the low-sensitivity pixel when the exposure time determination unit determines that shooting is performed with an exposure time equal to or greater than the predetermined threshold. The digital camera according to claim 1, wherein the digital camera is stopped. 前記露光時間判定手段の代わりに、感度設定が所定感度以上であるか否かの判定を行う設定感度判定手段を設けたことを特徴とする請求項1乃至請求項3のいずれかに記載のデジタルカメラ。4. The digital according to claim 1, further comprising a setting sensitivity determination unit that determines whether or not a sensitivity setting is equal to or higher than a predetermined sensitivity, instead of the exposure time determination unit. camera.
JP2003009988A 2003-01-17 2003-01-17 Digital camera Expired - Fee Related JP4178046B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003009988A JP4178046B2 (en) 2003-01-17 2003-01-17 Digital camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003009988A JP4178046B2 (en) 2003-01-17 2003-01-17 Digital camera

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2008064115A Division JP4604098B2 (en) 2008-03-13 2008-03-13 Digital camera

Publications (2)

Publication Number Publication Date
JP2004222182A true JP2004222182A (en) 2004-08-05
JP4178046B2 JP4178046B2 (en) 2008-11-12

Family

ID=32899323

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003009988A Expired - Fee Related JP4178046B2 (en) 2003-01-17 2003-01-17 Digital camera

Country Status (1)

Country Link
JP (1) JP4178046B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005110236A (en) * 2003-09-09 2005-04-21 Konica Minolta Holdings Inc Imaging apparatus
KR100769561B1 (en) 2005-12-29 2007-10-23 엠텍비젼 주식회사 Apparatus and method for setting up threshold used for noise removal
KR100803896B1 (en) 2006-04-18 2008-02-15 후지쯔 가부시끼가이샤 Image shooting device with camera shake correction function, camera shake correction method and storage medium recording pre-process program for camera shake correction process
JP2010074635A (en) * 2008-09-19 2010-04-02 Fujifilm Corp Imaging apparatus and imaging method
US8488016B2 (en) 2010-05-31 2013-07-16 Sony Corporation Imaging processing apparatus, camera system, image processing method, and program
JP2018029374A (en) * 2017-10-05 2018-02-22 株式会社ニコン Imaging apparatus
JP2019134488A (en) * 2019-04-25 2019-08-08 株式会社ニコン Imaging apparatus

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005110236A (en) * 2003-09-09 2005-04-21 Konica Minolta Holdings Inc Imaging apparatus
JP4720130B2 (en) * 2003-09-09 2011-07-13 コニカミノルタホールディングス株式会社 Imaging device
KR100769561B1 (en) 2005-12-29 2007-10-23 엠텍비젼 주식회사 Apparatus and method for setting up threshold used for noise removal
KR100803896B1 (en) 2006-04-18 2008-02-15 후지쯔 가부시끼가이샤 Image shooting device with camera shake correction function, camera shake correction method and storage medium recording pre-process program for camera shake correction process
JP2010074635A (en) * 2008-09-19 2010-04-02 Fujifilm Corp Imaging apparatus and imaging method
US8488016B2 (en) 2010-05-31 2013-07-16 Sony Corporation Imaging processing apparatus, camera system, image processing method, and program
US8786726B2 (en) 2010-05-31 2014-07-22 Sony Corporation Imaging processing apparatus, camera system, image processing method, and program
US9030573B2 (en) 2010-05-31 2015-05-12 Sony Corporation Imaging processing apparatus, camera system, image processing method, and program
JP2018029374A (en) * 2017-10-05 2018-02-22 株式会社ニコン Imaging apparatus
JP2019134488A (en) * 2019-04-25 2019-08-08 株式会社ニコン Imaging apparatus

Also Published As

Publication number Publication date
JP4178046B2 (en) 2008-11-12

Similar Documents

Publication Publication Date Title
JP4004943B2 (en) Image composition method and imaging apparatus
TWI293846B (en) Image pickup device with brightness correcting function and method of correcting brightness of image
JP4025207B2 (en) Solid-state image sensor and digital camera
JP4679685B2 (en) Digital camera composition auxiliary frame selection method and digital camera
JP4717720B2 (en) Image processing apparatus and method, and program
JP5223686B2 (en) Imaging apparatus and imaging method
US20050206750A1 (en) Digital still camera and image processing program, imaging device and method and program for same
JP4178046B2 (en) Digital camera
JP4150599B2 (en) Digital camera with exposure compensation
JP2008219271A (en) Image processor, image processing method and photographing device
JP4235408B2 (en) Noise reduction circuit and imaging device
JP4015492B2 (en) Image composition method and imaging apparatus
JP4604098B2 (en) Digital camera
JP4307862B2 (en) Signal processing method, signal processing circuit, and imaging apparatus
JP3977260B2 (en) Digital camera and recorded image data recording method
JP2004120511A (en) Imaging apparatus
JP2004274473A (en) Digital camera
JP4105556B2 (en) Digital camera and recorded image data recording method
JP4276847B2 (en) Imaging device
JP2006109046A (en) Imaging device
JP2003087802A (en) Color imaging device
JP4769851B2 (en) Imaging device
JP2002290824A (en) Digital camera
JP2004242015A (en) Histogram calculation method, histogram calculation circuit, and imaging apparatus
JP2000278590A (en) Digital camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050215

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060325

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071003

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071108

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071115

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071203

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080313

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080521

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080714

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080806

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080825

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130829

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees