以下、本発明の一実施の形態を図にしたがって説明する。本実施の形態は、光学ズーム機能と電子ズーム(以下、デジタルズーム)機能とを備えたデジタルカメラに関するものである。
(実施形態1)
図1は、本実施の形態におけるデジタルカメラの全体構成を示すブロック図である。図に示すように、デジタルカメラは、撮影光学系1と、撮影光学系1により結像された被写体の光学像を電気信号に変換するイメージセンサ2、イメージセンサ2から出力された撮像信号を処理するDSP(Digital Signal Processor、デジタル信号処理回路)3を有している。
前記撮影光学系1は、光軸上に配置された焦点レンズ5、ズームレンズ6、絞り7、メカニカルシャッタ8から構成され、各々が、制御回路10から送られる制御信号に従いドライバブロック9における各駆動回路(図で焦点レンズ駆動やズームレンズ駆動等)が生成する駆動信号によって適宜駆動される。
制御回路10は、主としてCPU11と、CPU11にデータバス12を介してそれぞれ接続されたインタフェース13、音声入出力回路14、入力回路15、メモリカード・インタフェース16、USBコントローラ17、ハードディスク・インタフェース18といった周辺回路から構成されている。
前記DSP3は制御回路10に接続され、また画像データバス19を介して前記インタフェース13にも接続されており、CPU11によって制御される。前記インタフェース13には、画像データバス19を介してバッファメモリ20と、画像CODEC(Coder & Decoder、符号器/復号器)21、動画像CODEC22、表示駆動回路23が接続され、表示駆動回路23にLCD(液晶表示器)24が接続されている。また、前記制御回路10内のデータバス12には、音声CODEC(Coder & Decoder、符号器/復号器)27、プログラム・メモリ28、不揮発性の内蔵メモリであるデータ・メモリ29が接続されている。
前記DSP3によって処理された画像データはバッファメモリ20に順次記憶されるとともに、表示駆動回路23によってLCD24にスルー画像として表示される。
そして、静止画撮影時に前記DSP3によって処理された画像データは、画像CODEC21によってJPEG規格等に準じた圧縮符号化画像データ、もしくはRAWデータなど非圧縮の符号化画像データなどに符号化される。符号化された画像データは、EXIF、JPEGなどのファイル形式で前記データ・メモリ29に記録されたり、前記メモリカード・インタフェース16を介してフラッシュメモリカードなどの着脱自在な画像メモリ媒体25に記録されるか、前記ハードディスク・インタフェース18を介して小型のHDD(Hard Disk Drive:ハードディスク記録装置)26に記録される。
また、動画撮影時に前記DSP3によって処理された画像データは、動画像CODEC22によってMPEG4やH.264/AVCなどの圧縮符号化方式で圧縮符号化され、AVIやMP4などのファイル形式で前記データ・メモリ29や画像メモリ媒体25又はHDD26に記録され、画像メモリ媒体25等に記録された静止画像や動画像は、画像CODEC21や動画像CODEC22によって復号された後、LCD24に画面表示される。
前記音声CODEC27は、MIC30から入力し、アンプ31、A/D変換器32を経て前記音声入出力回路14に入力した音声データを符号化する。音声CODEC27により符号化された音声データは、例えば音声付きの動画撮影時においては、動画像CODEC22により圧縮符号化された動画データと重畳されて動画ファイルとして記録される。また、前記音声CODEC27は、音声付きの動画像の再生時には、動画データに重畳されている音声データを復号する。復号された音声データは、音声入出力回路14、D/A変換器33、アンプ34、スピーカ35を介して出力される。
前記USBコントローラ17にはUSB端子36が接続されており、記録された静止画像や動画像の画像データファイルは、画像メモリ媒体25とは別にUSBなど外部入出力インタフェースを介して、必要に応じてPC(パーソナル・コンピュータ)やプリンタに転送可能となっている。なお、転送した画像データファイルは、PC内の大容量HDD装置に蓄積記録されたり、さらにはCD−RやDVDなどディスク媒体等に保存記録されたり、あるいは、PC内の画像編集ソフトなどを用いて撮影画像や録画済みの映像を編集されたり、モニターに再生表示されたり、プリンタで印刷されたりする。
前記入力回路15には操作入力部37が接続されている。操作入力部36は電源キーと、静止画撮影モード、動画撮影モード、再生モードの動作モードの切り替えを行う動作モード切替キー、MENUキー、レリーズ(シャッター)ボタン、ズームキー等の複数の操作キー、ユーザが変更可能な各種機能における設定内容の選択や変更等に使用されるカーソルキーを含み、ユーザによるキー操作に応じたキー入力信号を生成する。生成されたキー入力信号は、入力回路15を介してCPU11に出力される。
また、本実施の形態において、前記操作入力部36には、ユーザがズームキーの操作によってズーム倍率を変化させる間に、後述するように画角を固定(ロック)したり、画角の固定を解除(ロック解除)したりすることを可能とするための画角ロックボタンが含まれている。なお、レリーズボタンは、半押しと全押しの2段階操作が可能な所謂ハーフシャッター機能を有するとともに、動画撮影時には録画開始/終了ボタンとしても機能する。
また、前記制御回路10には、CPU11の指令に基づきストロボ(キセノン管等の発光管)38を駆動するためのストロボ駆動回路39と、被写体の明るさを検出するための測光センサや被写体までの距離を計測するための測距センサを含むセンサ回路40から出力される各センサの検出信号を処理しCPU11へ出力する検出回路41が接続されている。さらに、制御回路10には、ニッケル水素電池等の充電可能な電池42の電力を各部に供給するための電源制御回路43が接続されている。
前記プログラム・メモリ28には、CPU11に前述した各部を制御させるための各種プログラム(AE、AF、AWB等の制御用プログラムを含む)、及びCPU11が使用する各種データが格納されている。特に、CPU11を本発明の第1のズーム制御手段、第2のズーム制御手段、モード設定手段、設定手段、調整設定手段、表示制御手段、領域設定、領域制御手段、加算数制御手段として機能させ、CPU11に後述する制御を行わせるためのプログラムが格納されている。
また、前記データ・メモリ29には、前述した静止画像や動画像の画像データファイル以外にも、デジタルカメラの動作を規定するとともに、必要に応じてユーザにより変更または設定された各種の設定データが保持されている。さらにデータ・メモリ29は、CPU11の作業用メモリとしても使用される。
・イメージセンサ
図2は、前述した撮像部2、DSP3の詳細を示したシステム構成図、図3は、前記イメージセンサ2の詳細を示した回路図である。
イメージセンサ2は、主として感光部201と、垂直走査回路202、タイミング発生回路203、CDS/ADC回路(図でCDS/AD変換)204、デジタル画素加算回路206、デジタル信号読出し回路207、水平走査回路208、並列/直列変換回路(P/S)209から構成される。
本実施の形態のイメージセンサ2は、CMOS(Complementary Meta1 0xide Semiconductor:相補型金属酸化膜半導体)イメージセンサであり、より詳しくは一般的なAPS(Active Pixel Sensor:増幅型画素センサ)型である。
前記感光部201は、図4(a)に示したように、フォトダイオード251を含む単位画素回路252からなり、単位画素回路252毎にFD(Floating Dihsion)アンプ253を内蔵することにより、暗電流とkTC雑音を低減できるようにした構成である。
図4(b)は上記の単位画素回路252の構造図、同図(c)は単位画素回路252の動作を示した図である。前記フォトダイオード251で光電変換された信号電荷はFD(Floating Dihsion)アンプ253で一旦増幅され、垂直走査回路202からの行アドレス選択信号と水平走査回路208からの列選択信号によりXYアドレス方式で選択された画素毎の撮像信号が、出力から順次電圧または電流として取り出される。つまり、CCD(Charge Coupled Device:電荷結合素子)のように順番に取り出さなくとも、任意の画素や領域の撮像信号だけを、任意の順序で取り出すことができ、これにより後述するようにデジタルズーム処理で所定領域のみを切り出して読み出す場合には、撮像信号を高速で読み出せるようになっている。
前記デジタル画素加算回路206は、各画素に隣接する同色(フィルタ)の複数の画素の撮像信号同士をデジタル信号で加算する回路(本発明の画素加算手段)であり、デジタルズーム時に、選択領域内の画素データを任意の行列毎に所定の複数画素分加算された撮像信号の読出しが可能であるとともに、スルー画像や動画撮影において、高速レートでも、画像データ量の小さい撮像信号に変換して出力できるようになっている。
前述したように選択読出しされた選択領域の撮像信号、さらに画素加算された撮像信号は、列回路(図3に破線で示した部分)のCDS/ADC回路204、すなわちCDS回路(Correlated Double Sampling:相関二重サンプル回路)204a、及びA/D変換回路204bから水平走査回路208の列選択信号により選択され列信号として順次出力され、並列/直列変換回路209によって直列のデジタル撮像信号に変換された後、DSP3に高速フレームレートで転送出力される。
なお、CDS/ADC回路204、デジタル画素加算回路206は列信号線毎に並列に並んだ前記列回路にそれぞれ設けられており、これによりフォトダイオード251をリセットする前と後の信号を減算して固定パターンノイズを除去できるとともに、デジタル信号での撮像信号の出力が容易となっている。なお、A/D変換回路204bには積分型や巡回型、逐次型などが使用できる。
図5は、CDS/ADC回路204及びデジタル画素加算回路206の具体的構成を示した回路図である。並列に並んだ列回路に設けるCDS/ADC回路204には、各種の方式が開発されているが、本実施の形態では、いわゆる、「Column ADC方式」のCDS/ADC回路を用いて、列毎に並列処理するA/D変換器204bにより、画素の固定パターンノイズ(FPN)を抑圧しながらデジタル信号に変換する。Column ADC方式のCDS回路204aでは、固定パターンノイズを抑圧するために、粗精度と高精度の2段階のクランプ(Clamp)回路を用いる。クランプは、信号のあるレベルを基準電圧に置き換える動作で、クランプ回路は例えば、キャパシタとスイッチで構成され、キャパシタの出力側がスイッチにより基準電圧にセットされる。
図6に示した信号読み出し時の動作タイミングチャートにあるように、まず、列回路のA1とA2のクランプスイッチS1、S2を同時に閉じてから、S1を先に開くと、点Vinの電圧が、A1の閾値電圧にS1スイッチングのバラツキが加算された電圧に粗い精度でクランプされるが、S2は閉じたままなので、その電圧がA2入力の閾値電圧になる。
その後、S2を開くと、A2にもスイッチングのバラツキを含む電圧がクランプされ、クランプ動作が完了する。S2スイッチングのバラツキ成分はA2の利得で割った分かVin側のバラツキに還元されるので、Vin側から見るとクランプ精度が向上して、クランプ回路で発生する縦筋状の固定パターンノイズ(FPN)の発生が抑えられる。
次に、行読出し線(転送ゲート線TG)にパルスが立ち上がると、画素信号が列信号線に現れるので、スイッチS4を閉じてサンプリングする。サンプリング完了後、スイッチSSを開いて、ランプ波形(順次電圧が上昇する階段状波形)をしたA/D変換用の基準信号をスイッチS4から加えると、ランプ波形に応じてVinの電圧がやがてクランプ回路の閾値を越えてA2の出力が反転し、反転する電圧までの10ビットカウンタの値がデジタルの画素信号値としてラッチに記憶され、A/D変換処理が終了する。
また、画素加算については、図5に示したように、前記CDS/ADC回路204を含む列回路の後に、列加算回路(垂直加算回路)などのデジタル演算回路206aを設け、行アドレス選択された画素の信号を列信号線から読み出し、CDS/ADC回路204でノイズ除去されデジタル変換されたデジタル並列信号を、タイミング信号でラッチ回路にラッチし、同じく選択された同じ列で異なる行の画素のデジタル並列信号を、同様に別のタイミング信号で別のラッチ回路にラッチして、ラッチ回路の出力同士をデジタル演算回路206a(列加算回路)でデジタル加算する。
また、水平信号線からの信号出力部に、行加算回路(水平加算回路)などのデジタル演算回路206bを設け、列加算された信号同士をタイミング信号で選択して水平信号線に読み出し、ラッチ回路にラッチして、ラッチ回路の出力同士をデジタル演算回路206b(行加算回路)でデジタル加算する。
カラー撮像の場合には、例えば、Bayer配列等の千鳥状に2画素周期で交互に並んだRGB各色カラーフィルタに対応する各画素から、列方向に(一つ飛ばしで)隣接する同色フィルタの画素同士を、R画素はR画素同士で、G画素はG画素同士で、B画素はB画素同士で、列方向に複数加算し、また、行方向に(一つ飛ばしで)隣接する同色フィルタの値数の画素を行方向に加算して読み出すことで同色の画素の信号同士が複数画素分加算できる。
また、加算された撮像信号のデジタル信号は所定の符号化を行うとともに、並列/直列変換回路で順次シリアル(直列)のデジタル信号に変換されて出力され、DSP3に転送される。
・DSP(デジタル信号処理回路)
前記DSP3は、イメージセンサ2から出力されたシリアル(直列)の撮像信号が入力する直列/並列変換回路(S/P)301と、バッファメモリ302、WB/カラー補正回路303、リサイズ/補間処理回路304、カラー補間回路305、輪郭補正回路306、ガンマ補正回路307、カラーマトリクス回路308から構成されている。
イメージセンサ2からDSP3に入力した撮像信号は直列/並列変換回路(S/P)301によりパラレル(並列)のデジタル信号に変換され、バッファメモリ302にフレーム毎に画像データとして蓄積され、蓄積された画像データは、WB/カラー補正回路303によってホワイトバランス調整やカラーバランス調整を行われる。係る段階の画像データは、撮像素子の前面に設けられ、モザイク状の「ベイヤー(Bayer)配列」や、水平/垂直に2画素単位の繰り返し周期で千鳥配列されたGreen市松R/B色差線順次方式など、RGB原色フィルタなどカラーフィルタ配列にしたがって、画素毎には一つの色成分しか持たないが、カラー補間回路305により、他の色差成分の画素値が、近隣周辺の画素値から画素補間(Pixel Signal lnterpolation)して求められ(カラー補間処理)、各画素毎にRGB各色差成分毎の階調値を持つデジタル画像データに変換される。
また、上記カラー補間を行う前には、必要に応じて、リサイズ/補間処理回路304が、撮像画像サイズを異なる画像サイズに変換する解像度変換処理(Resolution Conversion)を行う。例えば、スルー画像や再生画像をファインダやモニタに表示する為に表示駆動回路23内の表示メモリ(Video RAMでもよい)23aに書き込む為に、所定の画像サイズ(VGAサイズなど)に変換するリサイズ(Resize)、もしくは、補間処理(lnterpolation)を行う。
あるいは、撮影記録時に、所望の記録画像サイズで記録する為に、設定記録画像サイズの画像に縮小/拡大処理や、リサイズ/補間処理もしくは解像度変換処理を行う。リサイズや補間処理を行った場合に、画像がぼけたり解像感が落ちたりしやすいので、合わせて、各種のアンシャープネス・フィルタ(Unsharpness Filtering)など輪郭強調フィルタ演算や画像鮮鋭化フィルタ処理なども行う。
さらに、DSP3では、ガンマ補正回路307により階調補正されたRGB系のデジタル画像信号は前述したバッファメモリ20に一時記憶された後、LCD24など電子ファインダに再生表示されるか、カラーマトリクス回路308でRGB系からYUV系/YCbCr系など所定の色空間の画像信号に変換され、前述した画像CODEC21や動画像CODEC22により、JPEG静止画像データやMPEG4やH.264動画像データなどに圧縮/符号化処理される。
そして、スルー画像や再生画像を前記LCD24に表示する場合には、前記表示駆動回路23は、その表示メモリ23aに所定サイズで更新書き込みされた画像データを定期的に繰り返し読み出してLCD24に繰り返し更新表示される。
一方、前記リサイズ/補間処理回路304では、単に間引き(Decimation)や平均化を行うとギザギザやデジタルノイズ、偽信号が発生したり画質が劣化しやすいので、「最近傍法」(各画素値をその最も近い近傍の画素の画素値から求める)や「線形補間法」(周りの4〜8画素の周囲画像や64画素など近傍の画素値から求める)などを用いて、各画素をその周辺近傍の画素から補間演算したり、幾何学変換処理したりする二次元フィルタ演算処理を行う。
以下に、上述した構成からなるデジタルカメラの本発明に係る動作を説明する。図7は、動画撮影モードが設定されているときのCPU11による制御(動画撮影制御)の内容を示すフローチャートである。
動画撮影モードが設定されているときCPU11は、動画撮影中であるか否かを随時判別している(ステップSA1)。ここで動画撮影モードの設定直後や録画停止中であったときには(ステップSA1でNO)、イメージセンサ2により撮像可能な最大画像サイズである撮像フル画像サイズ(XF、YF)と表示メモリ23aの書込み画像サイズ(Xd、Yd)とに応じて、(画質劣化しない)デジタルズーム倍率(DZ)の限度(DZmax)を設定する(ステップSA2)。また、動画撮影中であれば(ステップSA1でYES)、撮像フル画像サイズ(XF、YF)と、その時点で設定されている動画像の記録画像サイズ(XR、YR)に応じて、(画質劣化しない)デジタルズーム倍率(DZ)の限度(DZmax)を設定する(ステップSA3)。なお、ここで設定される限度(DZmax)は、後述するステップSA10,SA11のデジタルズーム処理(1)、(2)で使用されるパラメータである。
引き続き、測光処理及びホワイトバランス調整処理を行い(ステップSA4)、視野(撮像範囲)の中央をデジタルズームの中央位置に設定する(ステップSA5)。なお、設定した中央位置はデータ・メモリ29に記憶する。その後、図8に示したズーム設定処理に移行し、係る処理において、ズームモード(通常ズーム・モード、又は画角ロック・モード)の設定や、ユーザのズーム操作(ズーム・イン/アウト操作)に応じた光学ズーム倍率(OpZ)とデジタルズーム倍率(DZ)の設定を行う(ステップSA6)。なお、詳細については後述する。
次に、上記ズーム設定処理で設定した上記の光学ズーム倍率(OpZ)に従いズームレンズ6を駆動する光学ズーム処理を行った後(ステップSA7)、視野中央をフォーカス検出領域とし、被写体距離に応じて焦点レンズ5を駆動するAF処理を行う(ステップSA8)。
そして、録画停止中には(ステップSA9でNO)、図9に示したデジタルズーム処理(1)へ移行し、上記ズーム設定処理で設定したデジタルズーム倍率(DZ)に基づき、前述したイメージセンサ(CMOSイメージセンサ)2の領域選択読出し機能、および画素加算機能を用いた画像データの読み出しを行い、前記表示メモリ23aの書込み画像サイズ(Xd、Yd)以上の画像サイズ(X’,Y’)の画像データを取得する(ステップSA10)。なお、詳細については後述する。
その後、直ちにステップSA13へ進み、上記デジタルズーム処理(1)で取得した画像データに対し、撮像画像サイズ(X’,Y’)と、表示メモリ23aの書込みサイズ(Xd,Yd)に応じたリサイズ率(IPx=Xd/X’、IPy=Yd/Y’)でのリサイズ/補間処理を行いスルー画像用の画像データを取得する。しかる後、取得した画像データに基づくスルー画像をLCD24に表示させるとともに、ズーム倍率や、後述する画角のロック範囲(必要時のみ)をスルー画像に重ねて表示させる(ステップSA14)。なお、ズーム倍率や画角のロック範囲の表示は、例えばOSD表示によって行う。
また、ステップSA9の判別結果がYESであって動画撮影中である場合には、図10な示したデジタルズーム処理(2)へ移行し、ズーム設定処理で設定したデジタルズーム倍率(DZ)に基づき、前述したイメージセンサ(CMOSイメージセンサ)2の領域選択読出し機能、および画素加算機能を用いた画像データの読み出しを行い、そのとき設定されている記録画像サイズ(XR,YR)と等しい画像サイズ(X’,Y’)の画像データを取得する(ステップSA11)。なお、詳細については後述する。
その後、上記デジタルズーム処理(2)で取得した画像データ(リサイズ/補間処理前の画像データ)を動画像CODEC22に出力して圧縮符号化し、符号化後の動画データをデータ・メモリ29や画像メモリ媒体25等に記録した後(ステップSA12)、前述したリサイズ/補間処理(ステップSA13)、スルー画像や、ズーム倍率、画角のロック範囲の表示処理(ステップSA14)を行う。
しかる後、必要に応じてユーザのキー操作に応じたその他のキー処理(録画の開始/停止/終了など)を行った後(ステップSA15)、ステップSA1へ戻る。以後、上述した処理を繰り返す。
・ズーム設定処理
次に、前述したステップSA6におけるズーム設定処理の詳細を図8のフローチャートに従い説明する。係る処理に際してCPU11は、まず、ユーザによるズーム操作(ズーム・イン/アウト操作)の有無を判断する(ステップSB1)。ここで、ズーム操作がなければ(ステップSB2でNO)、さらに、ユーザによる画角ロック操作の有無、画角ロック解除操作の有無、ロック範囲の設定操作の有無を順に判断し、いずれの操作もなければ(ステップSB2,SB5,SB7が全てNO)、その他のキー処理(録画の開始/停止/終了など)を行ってから(ステップSB9)、前述した図7のメインルーチンへ戻る。
また、ユーザによって所定のキー操作によるロック範囲の設定操作があったときには(ステップSB7でYES)、ステップSB3で設定するロック倍率Zlockの計算に用いる比率(α)、ズームレンズ6による光学ズーム倍率(OpZ)と、デジタルズーム機能による現在のデジタルズーム倍率(DZ)とによって確保される全体ズーム倍率(Z=OpZ×DZ)に対する比率(α)を設定操作に応じて設定(記憶)し(ステップSB8)、そのまま前述した図7のメインルーチンへ戻る。
ここで、画角のロック範囲とは、ズームキーの操作によってズーム倍率を変化させる間に固定(維持)すべき範囲、つまり撮像画像に収めるべき被写体範囲であり、ロック範囲の設定操作は、例えばカーソルキー操作によるロック範囲の段階的な増減操作や選択操作である。また、設定する比率(α)は、例えば1を基準値とした0.5〜2.0の範囲の値である。
また、ユーザによる画角ロック操作(前述した画角ロックボタンの押下)があったときには(ステップSB2でYES)、現在の全体ズーム倍率(Z)、すなわちズームレンズ6による現在の光学ズーム倍率(OpZ)と、デジタルズーム機能による現在のデジタルズーム倍率(DZ)とによって確保されるズーム倍率(OpZ×DZ)に、前記比率(α)を乗じたズーム倍率(α×Z)を取得し、その倍率をロック倍率Zlockとして設定(記憶)した後(ステップSB3)、画像ロックの有無を示すフラグ(FLAGlock)をオン状態とすることにより、ズームモードとして、予め用意されている画角ロック・モード(第2のモード)を設定し(ステップSB4)、そのまま前述した図7のメインルーチンへ戻る。
また、ユーザによる画角ロック解除操作(画角ロック・モードが設定されている状態での画角ロックボタンの押下)があったときには(ステップSB5でYES)、前記フラグ(FLAGlock)をオフ状態とする、つまり画角ロック・モードを解除することにより、ズームモードを通常ズーム・モード(第1のモード)に設定し(ステップSB6)、そのまま前述した図7のメインルーチンへ戻る。
一方、ステップSB1の判別結果がYESであって、ユーザによるズーム操作があったときには、以下の処理により光学ズーム倍率(OpZ)とデジタルズーム倍率(DZ)を設定する。なお、本実施の形態において、設定可能なズーム倍率の範囲は、光学ズーム倍率(OpZ)が1倍〜5倍、デジタルズーム倍率(DZ)が1倍〜4.5倍であり、双方により得られる全体ズーム倍率(Z)は1倍〜22.5倍(OpZ×DZ)である。
まず、ズーム操作があったときズームモードが通常ズーム・モードであった場合には(ステップSB10でNO)、ズーム操作に応じて全体ズーム倍率(Z)を増減設定する(ステップSB11)。次に、このときの全体ズーム倍率(Z)が1未満であれば(ステップSB12でYES)、光学ズーム倍率(OpZ)及びデジタルズーム倍率(DZ)をそれぞれ最小値(OpZmin、DZmin)に設定し(ステップSB13)、図7のメインルーチンへ戻る。
また、全体ズーム倍率(Z)がデジタルズーム倍率(DZ)の設定範囲内(1≦Z≦DZmax)であれば(ステップSB14でNO)、デジタルズーム倍率(DZ)を優先するように、光学ズーム倍率(OpZ)を最小値に保持したまま(OpZ=OpZmin)、デジタルズーム倍率(DZ)を設定範囲内で増減させて(DZ=Z/OpZmin)、全体ズーム倍率(Z)を確保する(ステップSB15)、図7のメインルーチンへ戻る。
また、全体ズーム倍率(Z)がデジタルズーム倍率(DZ)の最大値を超える(Z>DZmax)場合には(ステップSB14でYES)、デジタルズーム倍率(DZ)を最大値に保持したまま(DZ=DZmax)、光学ズーム倍率(OpZ)を増減させて(OpZ=Z/DZmax)、全体ズーム倍率(Z)を確保する(ステップSB16)。
そして、光学ズーム倍率(OpZ)が最大値を超えていなれば(ステップSB17でYES)、そのまま図7のメインルーチンへ戻り、光学ズーム倍率(OpZ)が最大値を超えていれば(ステップSB17でYES)、光学ズーム倍率(OpZ)を最大値(OpZ=OpZmax)とした後(ステップSB18)、図7のメインルーチンへ戻る。
つまり通常ズーム・モードでは、全体ズーム倍率(Z)が、最低倍率を含む低倍率側の範囲のあるときにはデジタルズームを優先し、かつ最高倍率含む高倍率側の範囲のあるときには光学ズームを優先して使用しながら、ズーム操作に応じて画角を増減させる制御を行う。
これにより、先に説明した図7のステップSA14で表示するスルー画像や、動画撮影中にステップSA11で記録する画像データにおいては、ズーム操作に応じて被写体の大きさが変化することとなる。つまり、従来からの一般的なズーム動作が行われる。
これに対して、ズーム操作があったときズームモードが画角ロック・モードであった場合には(ステップSB10でYES)、まず、ズーム操作に応じて光学ズーム倍率(OpZ)を増減設定する(ステップSB19)。さらに、ここで設定した光学ズーム倍率(OpZ)が最小値未満である場合には(ステップSB20でYES)、光学ズーム倍率(OpZ)を最小値(OpZ=OpZmin)に修正し(ステップSB21)、また光学ズーム倍率(OpZ)が最大値を超えていれば(ステップSB20でNO、SB22でYES)、光学ズーム倍率(OpZ)を最大値(OpZ=OpZmax)に修正する(ステップSB23)。
引き続き、増減後の光学ズーム倍率(OpZ)と、ステップSB2で設定したロック倍率(Zlock)とを用いて次式
DZ = Zlock / OpZ
によって、全体ズーム倍率(Z)として上記ロック倍率(Zlock)が確保できるデジタルズーム倍率(DZ)を演算し、それをズーム制御値として設定する(ステップSB24)。
さらに、ここで設定したデジタルズーム倍率(DZ)が最小値未満であれば(ステップSB25でYES)、デジタルズーム倍率(DZ)を最小値(DZ=DZmin)に修正し、かつそれに応じて光学ズーム倍率(OpZ)を次式
OpZ = Zlock / DZmin
により修正し(ステップSB26)、図7のメインルーチンへ戻る。
また、デジタルズーム倍率(DZ)が最大値を超えていれば(ステップSB25でNO、SB27でYES)、デジタルズーム倍率(DZ)を最大値(DZ=DZmax)に修正し、かつそれに応じて光学ズーム倍率(OpZ)を次式
OpZ = Zlock / DZmax
により修正し(ステップSB27)、図7のメインルーチンへ戻る。
以上のように画角ロック・モードでは、ズーム操作に応じて光学ズーム倍率(OpZ)を増減すると同時に、その増減分を相殺するようにデジタルズーム倍率(DZ)を増減することにより、全体ズーム倍率(Z)すなわち画角を、それ以前(画角ロック・モードによるズーム操作の直前)の画角等に維持する制御を行う。つまり全体ズーム倍率(Z)を同一(又は略同一)とする範囲内で、ズーム操作に応じて光学ズーム倍率(OpZ)とデジタルズーム倍率(DZ)との組合せを任意の組合せに変化させる。
これにより、先に説明した図7のステップSA14で表示するスルー画像や、動画撮影中にステップSA11で記録する画像データにおいては、ズーム操作に応じ、主たる被写体の大きさが略同一のままで、背景部分の大きさ(及びボケ度合)のみが大きく変化することとなる。つまり、光学ズームのみによりズーム・イン/アウトを行う間に、主たる被写体を画面内に同じ大きさにフレーミングするように被写体距離を変化(撮影位置を前後)させる場合と同様の、光学ズームの特性を利用した遠近感の変化を生じさせることができる。
図11(b)に、以上のズーム設定処理が行われることにより変化するスルー画像(記録画像)の例を示す。上から1番目の画像が画角ロックが行われる直前の画像であり、2番目以降の画像が、画角ロック後におけるズーム・イン/アウト操作による変化を示した画像である。また、2番目以降の画像に1点鎖線の枠線Aにより示された範囲が、その時点で設定されている画角のロック範囲(被写体範囲)である。そして、図7のステップSA14においては、画角ロック状態で、かつ前述した全体ズーム倍率(Z)に対する前記比率(α)が1を超える値に設定されているとき、図示したように上記枠線Aを表示させる。
したがって、動画撮影モードにおいては、例えばズーム操作によって画面内おける主たる被写体の大きさを所望する大きさに調整し、その時点でいったん画角ロック操作を行った後、急激にズーム・アウト操作すると、周りの風景がどんどん遠ざかっていくような、あるいは、らせん階段が急にストーンと落ちていくような、先に述べた「めまいカット」(図19参照)のように、「Trackup & Zoomout」などの光学ズームの特性を生かした撮影技法による映像と同様の、遠近感が変化していくような映像シーンが、カメラを前進や後進移動しなくても、小型カメラで手持ちでも容易に撮影できる。
また、全体ズーム倍率(Z)に対する前記比率(α)、つまり画角のロック範囲を所定のキー操作により設定できるため、上記撮影技法を用いる場合における描写表現の幅を拡げることができる。
さらに、画角ロック・モードでの動作中にはスルー画像上に枠線Aを表示させるため、画角のロック範囲(被写体範囲)が容易に識別できるとともに、通常ズーム・モードの状態にあるか、画角ロック・モードの状態にあるかも容易に区別することができる。なお、画角のロック範囲は、枠線Aの表示に限らず他の方法(画角のロック範囲を除く領域の輝度を低下させる等の方法)により表示してもよい。
なお、本実施の形態のズーム設定処理では、画角ロック・モードにおいて制御目標とするロック倍率(Zlock)を、画角ロック操作が行われた時点の全体ズーム倍率(Z)に前記比率(α)を乗じた倍率としたが、全体ズーム倍率(Z)をそのまま制御目標として使用してもよい。
また、デジタルズーム倍率(DZ)を制御するときの制御目標は、全体ズーム倍率(Z)やロック倍率(Zlock)でなくともよく、画角ロック操作時の全体ズーム画角(θlock)や被写体範囲(Ylock)としてもよい。
すなわち全体ズーム倍率(Z)の代わりに、固定ロック操作時の全体ズーム画角(θlock)や被写体範囲(Ylock)等を記憶しておいて、それらが一定になるように、デジタルズーム倍率(DZ)をより精密に制御できするようにしてもよい。その場合、
焦点距離f=Y’/2tan (θ/2)より、レンズ画角θ'=2tan−1 (Y’/ 2f)となるので、
固定画角の比率(α)とデジタルズーム倍率(DZ)を考慮した全体ズーム画角(θ)は、
θ=2tan-1{α×Y’/2×f×DZ}、
(f:焦点距離、Y’:撮像面サイズ(イメージ・サークルの直径))
となるので、
θlock=2tan-1{α×Y’/2×flock×DZlock}
(flock :固定ロック操作時の焦点距離、DZlock :デジタルズーム倍率)
である。
そして、光学ズーム(OpZ)の増減に応じて、焦点距離(f)=OpZ×fminが増減される際、全体画角(θ’)が略一定に維持される(θ=θlock)ように、デジタルズーム倍率(DZ)を、
DZ=(α×Y')/{2×f×tan(θlock/2)}、または、
=(α×Y')/{OpZ×fmin×2tan(θlock/2)}
となるように制御すればよい。
または、上式より、tan(θ/2)=tan(θlock/2)が満たされるように、
{(α/DZ)×Y’/2f}={(α/DZlock)×Y’/2flock}、
から、固定ロック操作時の焦点距離(flock)と、デジタルズーム倍率(DZlock)とを記憶しておき、焦点距離(f)、または、光学ズーム倍率(OpZ)の増減に応じて、デジタルズーム倍率(DZ)が、
DZ=DZlock×(flock/f)=DZlock×{flock/(OpZ×fmin)}、
となるように制御してもよい。
さらに、撮影距離が変動する場合にも対応できるように、主要被写体の撮影距離(L)が検出できる場合には、前記制御目標を被写体範囲としてもよい。
つまり、次のような固定ロック操作時の際のAF枠で合焦する主要被写体の被写体範囲(=撮影される被写体の大きさ)(Ylock)を算出して記憶し、それが一定になるように、デジタルズーム倍率(DZ)を制御してもよい。
すなわち、被写体範囲(Y)は、
Y=(α/DZ)×L×Y’/f、
(L:撮影距離、Y’:撮像面サイズ(イメージ・サークルの直径)、f:焦点距離)
となるので、
固定ロック操作時点の被写体範囲(Ylock)は、
Ylock=(α/DZlock)×Llock×Y’/flock、
(Llock、flock、DZlock:ロック操作時点の撮影距離、焦点距離、デジタルズーム倍率)
光学ズーム(OpZ)の増減に応じて、焦点距離(f)=OpZ×fminが増減される際、上記の被写体範囲(Y)が略一定(Y=Ylock)に維持されるように、
Y=(α/DZ)×L×Y’/f=Ylockを満たすためには、
DZ=(α×L×Y’)/(f×Ylock)=(α×L×Y’)/(OpZ×fmin×Ylock)
となるように、デジタルズーム倍率(DZ)を制御すればよい。
または、上式から、Y/Ylock=1の条件を満たす為には、
(α×L×Y’)/(f×DZ)=(α×Llock×Y’)/(flock×DZlock)、
(DZ/DZlock)=(L/Llock)/(f/flock)、
すなわち、ロック操作時のflock、DZlockを記憶しておいて、デジタルズーム倍率(DZ)が、
DZ=DZlock×(L/Llock)×(flock/f)、
=DZlock×(L/Llock)×{flock/(OpZ×fmin)}、
となるように制御してもよい。
また、画角ロック・モードが設定されているとき、ズーム操作に応じて光学ズーム倍率(OpZ)を増減させるようにしたが、光学ズーム倍率(OpZ)を自動的に連続して変化させ、その間の電子ズーム倍率(DZ)を、全体ズーム倍率(Z)を、それ以前(光学ズーム倍率の変化を開始する直前)の画角等に維持する制御を行うようにしてもよい。
例えばズームキーを望遠又は広角といったズーム方向のみを指示するためのキーとして使用させ、ズームキーによりズーム方向が指示されたとき、それに応答して、指示されたズーム方向に向けて光学ズーム倍率(OpZ)を自動的に最小倍率または最大倍率まで連続的に変化させてもよい。また、任意の操作キーに予めズーム開始を指示する機能を割り当てておき、ズーム開始が指示されたとき、それに応答して光学ズーム倍率(OpZ)を自動的にいったん最小倍率または最大倍率まで変化させた後、最大倍率または最小倍率まで変化させてもよい。
その場合でも、光学ズームの特性を生かした撮影技法による映像と同様の映像シーンが、カメラを前進や後進移動しなくても、小型カメラで手持ちでも容易に撮影できる。
また、前述した通常ズーム・モードでは、全体ズーム倍率(Z)が、最低倍率を含む低倍率側の範囲のあるときにはデジタルズームを優先し、かつ最高倍率含む高倍率側の範囲のあるときには光学ズームを優先して使用するようにしたが、これとは逆に、全体ズーム倍率(Z)が最低倍率を含む低倍率側の範囲のあるときには光学ズームを優先し、かつ全体ズーム倍率(Z)が最高倍率を含む高倍率側の範囲のあるときにはデジタルズームを優先して使用するようにしたりしてもよい。
・デジタルズーム処理(1)、(2)
次に、前述したステップSA10におけるデジタルズーム処理(1)、及びステップSA11におけるデジタルズーム処理(2)の詳細について説明する。
図9はデジタルズーム処理(1)の内容を示すフローチャートである。デジタルズーム処理(1)では、前述したズーム設定処理(図8)で設定したデジタルズーム倍率(DZ)に基づきスルー画像として表示する画像データを以下のように読み出す。図12は、そのときの全体ズーム倍率(Z)と光学ズーム倍率(OpZ)とデジタルズーム倍率(DZ)との関係(但し、通常ズーム・モード時の関係)と、デジタルズーム倍率(DZ)に対する画素加算数および選択領域を示した図である(画角ロック・モード時も同様)。
以下説明すると、図9に示したようにCPU11は、まず、画素加算数の切替ステップ段数(i)、及び初期の画素加算数、すなわち水平および垂直方向の加算数(m,n)の初期値(m(i),n(i))を、例えば、i=3、m(i)=m(3)、n(i)=n(3)に設定した後(ステップSC1)、前述したステップSA5で設定したデジタルズ−ムの中央位置(XC,YC)をデータ・メモリ29から読み込む(ステップSC2)。
引き続き、前述した感光部201から撮像信号を読み出すときの画素加算数(m,n)を予め設定する。つまり画素加算における水平および/または垂直方向の加算数(m,n)を、デジタルズーム倍率(DZ)に応じて、DZが低倍率になるほど加算数が大きく、高倍率になるほど加算数が小さくなるように、段階的に切り替えて加算数の自動調整を行う(ステップSC3〜SC9)。
これにより、低倍率で表示画角が広い時には、加算処理によって撮像信号のデータ量を、1/(m×n)に小さくするとともに、画素加算効果によって、撮像感度を上げ画質の劣化を補う。また、高倍率で画角が狭い時には、加算数を減らすことにより、高精細の解像度を優先させるとともに、画角(=選択領域)を狭くすることでデータ量を所定以下に抑える。
なお、上記の加算読出しにおける各段階の加算数(m(i),n(i))は、スルー表示の画質が劣化しないように、選択領域の加算読出し画像サイズ(X’,Y’)が、少なくとも表示メモリ23aヘ書込みする(VGAサイズ=640×480など)所定の画像サイズ(Xd,Yd)以上となる加算数の切替条件、すなわち、
X’=X/m=INT(XF/DZ)/m ≧Xd、
かつ、
Y’=Y/n=INT(YF/DZ)/n ≧Yd、
が満足される範囲とする。
すなわち、デジタルズーム時の加算数(m(i),n(i))に応じて、デジタルズーム倍率(DZ)が次式で表されるデジタルズーム倍率限度DZL(i)以内となるように、
DZ≦DZL(i)、
但し、
DZL(i)=INT{XF/m(i)}/Xd、またはINT{YF/n(i)}/Yd
となる範囲内で、デジタルズーム倍率を可変するように制御すれば、スルー表示での画質劣化が抑えられるので、それを超える高倍率が選択された場合には、選択領域の加算読出し画像サイズ(X’,Y’)が、表示書込み用画像サイズ(Xd,Yd)未満になる場合には、各デジタルズーム倍率限度に達する度に、加算数(m(i),n(i))を、順次小さい加算数(m(i−1),n(i−1))、(m(i−2),n(i−2))、・・・等に段階的に切り替える。
例えば、XF=2,880、YF=2,160、Xd=640、Yd=480のとき、初期の加算数をm=n=3からはじめる場合には、
DZL(3)=1.5、DZL(2)=2.25、DZL(1)=4.5となるので、
DZ=1〜1.5倍のとき、m=n=3として、(3×3)の加算読出しを行い、
DZ=1.5〜2.25倍のとき、m=n=2として、(2×2)の加算読出しを行い、
DZ=2.25〜4.5倍のとき、m=n=1として、(1×1)の加算なし読出しを行うようにする。
引き続き、そのときのデジタルズーム倍率(DZ)と前記中央位置(XC,YC)に応じて、感光部201における選択読出し領域の画像サイズ(ヨコX×タテY)と、読出し範囲(X1〜X2,Y1〜Y2)、つまり(ヨコ)×1/(DZ)、(タテ)×1/(DZ)の大きさの部分領域(選択領域)を設定する(ステップSC10)。
すなわち、感光部201の有効領域の大きさ(画素数)を(XF,YF)とすると、選択する部分領域の大きさ(画素数)(X,Y)は、
X=INT(XF/DZ)、Y=INT(YF/DZ)、
また、視野中央(もしくは選択AF枠など)の画素位置を(XC,YC)とすると、選択する部分領域の範囲(例:左上からの画素座標)(X1〜X2)、(Y1〜Y2)は、
X1=XC−X/2、X2=XC+X/2、Y1=YC−Y/2、Y2=YC+Y/2、
ただし、X1<0のとき、X1=0、X2=X、または、
X2>XFのとき、X1=XF−X、X2=XF、
および、Y1<0のときY1=0、Y2=Y、または、
Y2>YFのときY1=YF−Y、Y2=YF、
として、上下左右の端から超えるときには、各端からはみ出さないようにずらせて、設定された部分領域の大きさ(X,Y)を確保する。
そして、前述したイメージセンサ2の領域選択読出し機能を利用して、上記のように設定した読出し範囲(X1〜X2,Y1〜Y2)の画像信号を、加算数(m,n)に従って加算して(又は加算なしで)読出し、画像サイズ(X’,Y’)=(X/m,Y/n)の画像信号をDSP3(バッファメモリ302)に読み込み(ステップSC11)、前述した図7のメインルーチンへ戻る。
図13及び図14は、以上のデジタルズーム処理(1)、及びそれに続く図7のリサイズ/補間処理(ステップSA7)による処理内容の具体例を示した図である。
例えばXF=2,880、YF=2,160、Xd=640、Yd=480であれば、デジタルズーム倍率DZ=1.2倍のとき、デジタルズーム処理(1)では、
X=INT(XF/DZ)=(2,880/1.2)=2,400、Y=INT(YF/DZ)=(2,160/1.2)=1,800、
の大きさの撮像領域を選択読出しし、かつ、DZ≦DZL(3)=1.5なので、加算数m=3、n=3で加算読出しすることにより、
X’=X/m=(2,400/3)=800、Y’=Y/n=(1,800/3)=600、
すなわち(800×600)画素の(3×3)加算読出し画像を得る。
また、続くリサイズ/補間処理では、(800×600)画素の(3×3)加算読出し画像を元に、表示用書込みサイズの(640×480)画素に合わせて、
IPx=Xd/X’=640/800=1/1.25、および、IPy=Yd/Y’=480/600=1/1.25、
に相当するリサイズ/補間処理(1/1.25×1/1.25)を行って、(640×480)画素の画像を表示メモリ23aに書き込む。
図11の左側部分に、ズーム操作に応じて光学ズーム倍率(OpZ)が変化する間における撮像可能な全被写体像の変化と、実際に撮像される選択読出し領域(図で実線)の変化を示す。なお、図に破線で示した範囲が、前述したズーム設定処理によって維持される画角のロック範囲である。
一方、図10は、デジタルズーム処理(2)の内容を示すフローチャートである。係る処理では、前述したズーム設定処理で設定したデジタルズーム倍率(DZ)に基づき、以下のように動画像として記録する画像データを読み出す。
CPU11は、まず、ユーザにより設定されている記録画像サイズ(XR,YR)に応じて、あらかじめ、画素加算する加算数の上限値を、
mmax=INT(XF/XR)、または、nmax=INT(YF/YR)
のように、つまりイメージセンサ2から読み出される撮像画像サイズが、設定記録画像サイズより大きくなるように設定する(ステップSD1〜SD4)。
例えば、XF=2,880、YF=2,160で、設定記録画像サイズが、XR=1,280、YR=960のとき、加算数の限度は、
mmax≦INT(2,880/1,280)=2、nmax≦INT(2,160/960)=2となるので、m1=n1=1、m2=n2=2、とすると、
加算数m2の限度倍率DZL(2)=INT(2,880/2)/1,280=1.125、
加算数m1の限度倍率DZL(1)=INT(2,880/1)/1,280=2.25、となるので、
初期加算数をi=2、m=n=2からはじめたとき、
DZ=1〜1.125倍のとき、m=n=2(2×2加算読出し)、
DZ=1.125〜2.25倍のとき、m=n=1(1×1加算なし読出し)
となるように、DZ=1.125にて、加算数を切り替える。
そして、前述したステップSA5で設定したデジタルズ−ムの中央位置(XC,YC)をデータ・メモリ29から読み込む(ステップSD5)。
引き続き、選択領域の加算読出し画像サイズ(X’,Y’)が、少なくとも、ユーザにより設定されている所望の動画記録の画像サイズ(XR,YR)以上となる条件、
X’=X/m=INT(XF/DZ)/m(i)≧XR、かつ、
Y’=Y/n=INT(YF/DZ)/n(i)≧Y、
が満足される範囲で、デジタルズーム倍率(DZ)を可変するようにして、つまり、加算数(m(i−1),n(i−1))に応じて、デジタルズーム倍率(DZ)が
DZ≦DZL(i)、但し、DZL(i)=INT{XF/m(i)}/XR、または、INT{YF/nL(i)}/YR
となる範囲内で、デジタルズーム倍率(DZ)を可変するように制御すれば、記録される動画像の画質劣化が抑えられるので、それを超える高倍率を選択し、選択領域の加算読出し画像サイズが設定記録画像サイズ(XR,YR)未満になる場合には、加算数(m(i),n(i))を順次小さい加算数に切り替える。これにより、加算数を決定する(ステップSD6〜SD12)。
なお、表示書込み用画像サイズ(Xd,Yd)の代わりに、設定された記録画像サイズ(XR,YR)よりも小さな読出し画像サイズにならないように、画素加算数を切り替える以外は、図9の既説したデジタルズーム処理(1)とほぼ同様である。その際、拡大や伸張処理などを伴う画質が劣化しやすいリサイズや補間処理を行わない範囲内において、画素加算数を切り替えて、記録動画像の画質が劣化したり解像感が落ちない範囲で、読出し画像のデータ量を削減して、所要メモリ容量や信号処理量などを抑えるようにする。
すなわちステップSD13,SD14においては、例えば、XF=2,880、YF=2,160で、設定記録画像サイズが、XR=1,280、YR=960であれば、
(例1)デジタルズーム倍率DZ=1.0倍のとき、選択読み出しする領域の大きさ(X,Y)は、
X=INT(XF/DZ)=(2,880/1)=2,800、Y=INT(YF/DZ)=(2,160/1)=2,160、
DZは、DZL(2)=1.125より小さい範囲内に入るので、加算数m=2、n=2として加算読出しし、
X’=X/m=(2,800/2)=1,440、Y’=Y/n=(2,160/2)=1,080、
すなわち、1,440×1,080画素の(2×2)加算画像を得る。
(例2)同様に、デジタルズーム倍率DZ=2.0倍のとき、選択読み出しする領域の大きさ(X,Y)は、
X=(2,880/2)=1,440、Y=(2,160/2)=1,080、
DZは、DZL(2)=1.125より大きいが、DZL(1)=2.25よりは小さいので、加算数m=1、n=1として加算読出しして、
X’=(1,440/1)=1,440、Y’=(1,080/1)=1,080、
すなわち、1,440×1,080画素の(1×1)加算画像を得る。
しかる後、前述した図7のメインルーチンへ戻る。
以上のようにデジタルズーム処理(1)、(2)では、表示書込み用画像サイズが確保できる範囲で、かつ動画撮影中にあっては設定された記録画像サイズが確保できる範囲で、デジタルズーム倍率(DZ)に応じて、低倍率のときには加算数を上げ、また高倍率のときには段階的に加算数を下げることにより、スルー画像や記録する動画像における解像度や画質の向上を図ることができる。
さらに、本実施の形態では、イメージセンサ2として領域選択読出しと水平/垂直の画素加算読出しができる高速CMOSイメージセンサを用い、所定領域の画素を所定の加算数で画素加算する処理を撮像信号の読み出し段階で行うことから、その処理を、イメージセンサ2から全画素分の撮像信号を読み出した後の画像処理段階で行う場合とは異なり、高解像度で高速フレームレートの場合でも、荒い間引きやフレームレートの低減などを行わなくでも、画質を劣化させたり解像感が段階的に落ちたりすることなく、スムーズで滑らかなデジタルズーム撮影や動画撮影が実現できる。
なお、前述したズーム設定処理で決定したデジタルズーム倍率(DZ)を確保するには、上述したデジタルズーム処理(1)、(2)に限らず、これ以外の他の処理によって行うようにしてもよい。例えばイメージセンサ2から全画素分の撮像信号を読み出し、その撮像信号に基づく画像データから全体ズーム倍率(Z)に応じた画角に対応する画像領域を単に切り出す処理によって行うようにしてもよい。また、イメージセンサ2はCMOSイメージセンサに限らずCCDとしても構わない。
一方、ここでは、動画撮影モードが設定されているときの動作について説明したが、前述したズーム設定処理は、静止画撮影モードが設定されている場合に行ってもよい。その場合、ユーザは、必要に応じて画角ロック操作を行ってズームモードを画角ロック・モードに切り替えてからズーム操作を行えば、任意の倍率や画角を維持したまま光学ズーム倍率や焦点距離を変えることができ、同じ構図の被写体に対して遠近感の強調や圧縮、あるいは背景のボケ具合などを自由に可変調整して撮影でき、所望の構図を自由に選択して撮影できる。
(実施形態2)
以下、本発明の第2の実施形態について説明する。本実施の形態は、図1に示した構成において、前記操作入力部36に、第1の実施の形態で説明した通常ズーム・モードにおけるズーム(以下、通常ズームと呼ぶ。)を行うための第1のズームキーと、画角ロック・モードにおけるズーム(以下、遠近感制御ズームと呼ぶ。)を行うための第2のズームキー、すなわち本発明における第1の操作手段、第2の操作手段とが独立して設けられているデジタルカメラに関するものである。
図15は、本実施の形態において、静止画撮影モードが設定されているときのCPU11による制御(静止画撮影制御)の内容を示すフローチャートである。
静止画撮影モードが設定されているときCPU11は、まず、イメージセンサ2により撮像可能な最大画像サイズである撮像フル画像サイズ(XF、YF)と表示メモリ23aの書込み画像サイズ(Xd、Yd)とに応じて、(画質劣化しない)デジタルズーム倍率(DZ)の限度(DZmax)を設定する(ステップSE1)。なお、ここで設定される限度(DZmax)は、後述するステップSE9のデジタルズーム処理(1)で使用されるパラメータである。
引き続き、測光処理及びホワイトバランス調整処理を行い(ステップSE2)、ユーザによるAF枠の選択があれば(ステップSE3でYES)、操作に応じてAF枠を選択し、選択されたAF枠(の中心)をデジタルズ−ムの中央位置(XC,YC)に設定し(ステップSE4)、ユーザによるAF枠の選択がなければ(ステップSE3でNO)、視野の中央をデジタルズームの中央位置(XC,YC)に設定する(ステップSE5)。なお、設定した中央位置(XC,YC)はデータ・メモリ29に記憶する。
その後、図17に示す、第1の実施の形態とは異なるズーム設定処理に移行し、係る処理において、ユーザのズーム操作(ズーム・イン/アウト操作)に応じた光学ズーム倍率(OpZ)とデジタルズーム倍率(DZ)の設定を行う(ステップSE6)。なお、詳細については後述する。
次に、上記ズーム設定処理で設定した上記の光学ズーム倍率(OpZ)に従いズームレンズ6を駆動する光学ズーム処理を行った後(ステップSE7)、選択されたAF枠又は視野中央をフォーカス検出領域として焦点レンズ5を駆動するAF処理を行う(ステップSE8)。
そして、第1の実施の形態で既説した図9のデジタルズーム処理(1)へ移行し、上記ズーム設定処理で設定したデジタルズーム倍率(DZ)に基づき、イメージセンサ2の領域選択読出し機能、および画素加算機能を用いた画像データの読み出しを行い、前記表示メモリ23aの書込み画像サイズ(Xd、Yd)以上の画像サイズ(X’,Y’)の画像データを取得する(ステップSE9)。
次に、上記デジタルズーム処理(1)で取得した画像データに対し、撮像画像サイズ(X’,Y’)と、表示メモリ23aの書込みサイズ(Xd,Yd)に応じたリサイズ率(IPx=Xd/X’、IPy=Yd/Y’)でのリサイズ/補間処理を行いスルー画像用の画像データを取得する(ステップSE10)。
しかる後、取得した画像データに基づくスルー画像をLCD24に表示させるとともに、ズーム倍率や、後述する固定画角領域(必要時のみ)をスルー画像に重ねて表示させる(ステップSE11)。なお、ズーム倍率や固定画角領域の表示は、例えばOSD表示によって行う。
その後、図16に示したように、レリーズボタンが半押しされなければ(ステップSE12でNO)、その他のキー処理を行ってから(ステップSE13)、図15のステップSE2へ戻る。レリーズボタンが半押しされたら(ステップSE12でYES)、測光処理を行うとともに、測光値と撮影条件とに応じて露出条件を設定する(ステップSE14)。ここで、レリーズボタンが全押しされなければ(ステップSE15でNO)、ステップSE12へ戻る。
一方、レリーズボタンが全押しされたら(ステップSE15でYES)、設定撮影条件と露出条件に従って、露出&撮影処理(デジタルズーム倍率DZに応じて、領域選択した画像を、加算なしで読み出して撮影)を行う(ステップSE16)。そして、設定記録画像サイズに応じて、(必要な場合のみ)撮影画像データのリサイズ/補間処理を行った後(ステップSE17)、撮影した画像データの符号化/圧縮符号化、撮影画像データのメモリへの記録、撮影画像のレビュー表示を行い(ステップSE18〜SE20)、ステップSE1へ戻る。以後、前述した処理を繰り返す。
・ズーム設定処理
次に、前述したステップSE6における本実施の形態のズーム設定処理の詳細を図17のフローチャートに従い説明する。係る処理に際してCPU11は、まず、第2のズームキーによる遠近感制御ズーム操作の有無、第1のズームキーによる通常ズーム操作の有無、固定画角範囲の設定操作の有無を順に判断し、いずれの操作もなければ(ステップSF1,SF15,SF22が全てNO)、その他のキー処理を行ってから(ステップSF23)、図15のメインルーチンへ戻る。
一方、ユーザにより固定画角範囲の設定操作があったときには(ステップSF22でYES)、後述するステップSF3で設定するロック倍率Zlockの計算に用いる比率(α)であって、ズームレンズ6による現在の光学ズーム倍率(OpZ)と、デジタルズーム機能による現在のデジタルズーム倍率(DZ)とによって確保される全体ズーム倍率(Z=OpZ×DZ)に対する比率(α)を設定操作に応じて設定(記憶)し(ステップSF24)、ステップSF1へ戻る。ここで、固定画角範囲とは、遠近感制御ズームによってズーム倍率を変化させる間に固定(維持)すべき範囲、つまり撮像画像に収めるべき被写体範囲であり、その設定操作は、例えばカーソルキー操作による固定画角範囲の段階的な増減操作や選択操作である。また、設定する比率(α)は、例えば1を基準値とした0.5〜2.0の範囲の値である。
また、通常ズーム操作があったときには(ステップSF15でYES)、まず、現在のデジタルズーム倍率(DZ)を維持したままで、ズーム操作に応じて光学ズーム倍率(OpZ)のみを増減し(ステップSF15)、遠近感制御ズーム操作中であることを示すフラグ(FLAG)をオフ状態とする(ステップSF16)。
引き続き、増減後の光学ズーム倍率(OpZ)が設定可能な最小値(OpZmin)よりも小さければ(ステップSF18でYES)、それを最小値(OpZ=OpZmin)に修正し(ステップSF19)、また、増減後の光学ズーム倍率(OpZ)が設定可能な最大値(OpZmax)よりも小さければ(ステップSF18でNO、ステップSF18でYES)、それを最大値(OpZ=OpZmax)に修正し(ステップSF19)、それぞれ図15のメインルーチンへ戻る。
つまり通常ズーム操作があったときには、全体ズーム倍率(Z)を、その時点のデジタルズーム倍率(DZ)に応じた範囲内(DZ×OpZmin ≦Z≦DZ×OpZmax)で変化させる。これにより、先に説明した図15のステップSE11で表示するスルー画像においては、ズーム操作に応じて画角が変化することにより、被写体の大きさが変化することとなる。つまり、従来からの一般的なズーム動作が行われる。その場合におけるスルー画像の変化を図18(a)に示す。
これに対して、遠近感制御ズーム操作があったときには(ステップSF2でYES)、まず、前述したフラグ(FLAG)の状態から、前回のズーム操作が通常ズーム操作であったか否かを確認する(ステップS3)。そして、通常ズーム操作であった場合には(ステップSF3でYES)、現在の全体ズーム倍率(Z=OpZ×DZ)に前記比率(α)を乗じたズーム倍率(α×Z)を取得し、その倍率をロック倍率Zlockとして設定(記憶)した後(ステップSF3)、前記フラグ(FLAG)をオン状態とする(ステップSF4)。また、前回のズーム操作が通常ズーム操作でない場合、つまり前回も遠近感制御ズーム操作であった場合には(ステップSF2でNO)、そのままステップSF5へ進む。
続くステップSF5では、ズーム操作に応じて光学ズーム倍率(OpZ)を増減設定する。ここで設定した光学ズーム倍率(OpZ)が最小値未満である場合には(ステップSF6でYES)、光学ズーム倍率(OpZ)を最小値(OpZ=OpZmin)に修正し(ステップSF7)、また光学ズーム倍率(OpZ)が最大値を超えていれば(ステップSF6でNO、SF8でYES)、光学ズーム倍率(OpZ)を最大値(OpZ=OpZmax)に修正する(ステップSF9)。
引き続き、増減後の光学ズーム倍率(OpZ)と、ステップSF3で設定したロック倍率(Zlock)とを用いて次式
DZ = Zlock / OpZ
によって、全体ズーム倍率(Z)として上記ロック倍率(Zlock)が確保できるデジタルズーム倍率(DZ)を演算し、それをズーム制御値として設定する(ステップSF10)。
さらに、ここで設定したデジタルズーム倍率(DZ)が最小値未満であれば(ステップSF11でYES)、デジタルズーム倍率(DZ)を最小値(DZ=DZmin)に修正し、かつそれに応じて光学ズーム倍率(OpZ)を次式
OpZ = Zlock / DZmin
により修正する(ステップSF12)。
また、デジタルズーム倍率(DZ)が最大値を超えていれば(ステップSF11でNO、SF13でYES)、デジタルズーム倍率(DZ)を最大値(DZ=DZmax)に修正し、かつそれに応じて光学ズーム倍率(OpZ)を次式
OpZ = Zlock / DZmax
により修正する(ステップSF14)。
以上のように遠近感制御ズーム操作があったときには、ズーム操作に応じて光学ズーム倍率(OpZ)を増減すると同時に、その増減分を相殺するようにデジタルズーム倍率(DZ)を増減することにより、全体ズーム倍率(Z)すなわち画角を、それ以前(遠近感ズーム操作の直前)の画角等に維持する制御を行う。つまり全体ズーム倍率(Z)を同一(又は略同一)とする範囲内で、ズーム操作に応じて光学ズーム倍率(OpZ)とデジタルズーム倍率(DZ)との組合せを任意の組合せに変化させる。
これにより、先に説明した図15のステップSE11で表示するスルー画像においては、ズーム操作に応じ、主たる被写体の大きさが略同一のままで、背景部分の大きさ(及びボケ度合)のみが大きく変化することとなる。つまり、光学ズームのみによりズーム・イン/アウトを行う間に、主たる被写体を画面内に同じ大きさにフレーミングするように被写体距離を変化(撮影位置を前後)させる場合と同様の、光学ズームの特性を利用した遠近感の変化を生じさせることができる。
その場合におけるスルー画像の変化を図18(b)に示す。図18(b)は、上から2番目の画像が、前回、通常ズーム操作があった直後の状態のスルー画像であり、各画像に1点鎖線の枠線Aにより示された範囲が、その時点で設定されている固定画角範囲(被写体範囲)である。そして、図15のステップSE11では、前述した全体ズーム倍率(Z)に対する前記比率(α)が1を超える値に設定されている状態で、かつ遠近感制御ズーム操作があってから次に通常ズーム操作があるまでの間に、図示したように上記枠線Aを表示させる。
したがって、静止画撮影モードによる撮影時には、任意の時点で遠近感制御ズーム操作を行うことにより、主要被写体が同じ範囲に写るように、任意の倍率や画角を維持したまま光学ズーム倍率や焦点距離を変えることができ、同じ構図の被写体に対して遠近感の強調や圧縮、あるいは背景のボケ具合などを自由に可変調整して撮影でき、所望の構図を自由に選択して撮影できる。
また、遠近感制御ズーム操作中にはスルー画像上に枠線Aを表示させるため、固定画角範囲(被写体範囲)が容易に識別できる。なお、固定画角範囲は、枠線Aの表示に限らず他の方法(固定画角範囲を除く領域の輝度を低下させる等の方法)により表示してもよい。
また、前述したズーム設定処理で決定したデジタルズーム倍率(DZ)を、上述したデジタルズーム処理(1)によって確保し、表示書込み用画像サイズが確保できる範囲で、デジタルズーム倍率(DZ)に応じて、低倍率のときには加算数を上げ、また高倍率のときには段階的に加算数を下げることにより、スルー画像における解像度や画質の向上を図ることができる。
なお、本実施の形態では、通常ズーム操作があったとき、現在のデジタルズーム倍率(DZ)を維持したままで、ズーム操作に応じて光学ズーム倍率(OpZ)のみを増減させるようにしたが、現在の全体ズーム倍率(Z)に応じてデジタルズーム倍率(DZ)も増減させるようにしてもよい。
その場合、第1の実施の形態における通常ズーム・モードでの制御と同様、全体ズーム倍率(Z)が最低倍率を含む低倍率側の範囲のあるときにはデジタルズームを優先し、かつ全体ズーム倍率(Z)が最高倍率を含む高倍率側の範囲のあるときには光学ズームを優先して使用するようにしたり、逆に、全体ズーム倍率(Z)が最低倍率を含む低倍率側の範囲のあるときには光学ズームを優先し、かつ全体ズーム倍率(Z)が最高倍率を含む高倍率側の範囲のあるときにはデジタルズームを優先して使用するようにしたりしてもよい。
また、本実施の形態のズーム設定処理では、遠近感制御ズームを行うとき、制御目標とするロック倍率(Zlock)を、遠近感制御ズームが行われた時点の全体ズーム倍率(Z)に前記比率(α)を乗じた倍率としたが、全体ズーム倍率(Z)をそのまま制御目標として使用してもよい。さらに、第1の実施の形態で述べたように、制御目標は、全体ズーム倍率(Z)やロック倍率(Zlock)でなくともよく、画角ロック操作時の全体ズーム画角(θlock)や被写体範囲(Ylock)としたり、さらには主要被写体の撮影距離(L)が検出できる場合には被写体範囲としてもよい。
また、第1の実施の形態と同様、前述したズーム設定処理で決定したデジタルズーム倍率(DZ)を確保するには、上述したデジタルズーム処理(1)に限らず、これ以外の他の処理によって行うようにしてもよい。例えばイメージセンサ2から全画素分の撮像信号を読み出し、その撮像信号に基づく画像データから全体ズーム倍率(Z)に応じた画角に対応する画像領域を単に切り出す処理によって行うようにしてもよい。また、イメージセンサ2はCMOSイメージセンサに限らずCCDとしても構わない。
一方、ここでは、静止画撮影モードが設定されているときの動作について説明したが、前述したズーム設定処理は、動画撮影モードが設定されている場合に行ってもよい。その場合、ユーザは、第1のズームキーによる通常ズーム操作によって画面内おける主たる被写体の大きさを所望する大きさに調整した後、今度は第2のズームキーによる遠近感制御ズーム操作によって急激にズーム・アウトを行うことにより、先に述べた「めまいカット」(図19参照)のように、「Trackup & Zoomout」などの光学ズームの特性を生かした撮影技法による映像と同様の、遠近感が変化していくような映像シーンを、カメラを前進や後進移動しなくても、小型カメラで手持ちでも容易に撮影できる。
さらに、以上説明した第1及び第2の実施の形態では、本発明をデジタルカメラに適用する場合について説明したが、本発明は電子ズーム機能を有しているものであれば、光学ズームの有無に関係なくデジタルビデオカメラ、カメラ付き携帯電話端末、カメラ付きPDA等の他の撮像装置にも採用することができる。