以下に、本発明の実施の形態による撮像装置の一例について図面を参照して説明する。
[第1の実施形態]
図1は、本発明の第1の実施形態による撮像装置の一例についてその構成を示すブロック図である。
図示の撮像装置は、例えば、動画撮影機能付きの電子スチルカメラ又はデジタルビデオカメラ(以下単にカメラと呼ぶ)である。カメラは、第1の撮像部および第2の撮像部を有している。そして、第1の撮像部は、撮影レンズユニット(以下単にレンズと呼ぶ)110、レンズ制御部111、撮像素子112、および撮像素子駆動回路113を備えている。同様に、第2の撮像部は、レンズ120、レンズ制御部121、撮像素子122、および撮像素子駆動回路123を備えている。さらに、カメラは、信号処理部130、圧縮伸長部140、制御部150、発光部160、操作部170、画像表示部180、および画像記録部190を有している。
図示はしないが、レンズ110および120の各々は、複数のレンズおよび光学機構部を備えている。そして、レンズ110および120はそれぞれ被写体像(光学像)を撮像素子112および122に結像する。
光学機構部は、例えば、AF機構、ズーム駆動機構、メカニカルシャッタ機構、および絞り機構を備えている。レンズ制御部111および121は制御部150の制御下でそれぞれレンズ110およびレンズ120に備えられた光学機構部を駆動制御する。
なお、以下の説明では、レンズ110および120は独立のレンズとして説明するが、本実施形態の効果が得られれば、二つのレンズ110および120を同一としてもよい。
撮像素子112および122の各々は、画素部およびA/Dコンバータ(図示せず)を有し、例えば、所謂XY読み出し方式のCMOS型イメージセンサである。そして、撮像素子駆動回路113および123は制御部150の制御下で、撮像素子112および122の露光処理、信号読み出し処理、およびリセット処理などを行う。これによって、撮像素子112および122はそれぞれ第1および第2の撮像信号(第1および第2の画像信号ともいう)を出力する。
信号処理部130は、制御部150の制御下で、第1および第2の画像信号に対して、ホワイトバランス調整処理、色補正処理、およびAE(Auto Exposure)処理などの信号処理を行い、第1および第2の画像データを出力する。なお、信号処理部130には、注目被写体判別部1301が備えられている。そして、注目被写体判別部1301には、動体検出部1302、人物検出部1303、および顔検出部1304が備えられている。
動体検出部1302は、後述するように、第1および第2の画像信号の各々においてフレーム間の相関演算を行って動く被写体(動体)を検出する。図示の例では、動体検出部1302は、検出した動体を含むアスペクト比16:9の画角を動体検知領域として制御部150に出力する。
人物検出部1303は、第1および第2の画像信号の各々においてパターンマッチングを行って人物を検出する。図示の例では、人物検出部1303は検出して人物を含むアスペクト比16:9の画角を人物検知領域として制御部150に出力する。
また、顔検出部1304は、第1および第2の画像信号の各々においてパターンマッチングを行って人物の顔を検出する。図示の例では、顔検出部1304は検出した顔を含むアスペクト比16:9の画角を顔検知領域として制御部150に出力する。
圧縮伸長部140は、制御部150の制御下で、信号処理部130の出力である第1および第2の画像データに対して、JPEG(Joint Photographic Coding Experts Group)方式などの所定の静止画像データフォーマットに応じて圧縮符号化処理を行ってそれぞれ第1および第2の符号化画像データを生成する。さらに、圧縮伸長部140は制御部150から送られた第1および第2の符号化画像データに対して伸長復号化処理を行って復号化画像データ(つまり、第1および第2の画像データ)とする。
なお、圧縮伸長部140は、MPEG(Moving Picture Experts Group)方式などに応じて第1および第2の画像データである動画像データについて圧縮符号化/伸長復号化処理を行うようにしてもよい。
制御部150は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、およびRAM(Random Access Memory)などを備えるマイクロコントローラである。そして、CPUがROMに記憶されたプログラムを実行することによって、カメラ全体を制御する。
制御部150は、信号処理部130によるAE処理によって被写体の露光値が所定の露光値よりも低いと判定すると、発光部160を制御して発光を行い被写体を照明する。なお、発光部160として、例えば、キセノン管を用いたストロボ装置又はLED発光装置が用いられる。
操作部170は、例えば、シャッタレリーズボタンなどの各種操作キー、レバー、ダイヤル、およびタッチパネルを有している。操作部170はユーザの入力操作に応じた操作信号を制御部150に与える。
画像表示部180は、例えば、LCD(Liquid Crystal Display)などの表示デバイスおよび当該表示デバイスのインタフェース回路を備えている。そして、画像表示部180は、制御部150から送られた画像データに応じた画像を表示デバイスに表示する。
画像記録部190は、例えば、可搬型の半導体メモリ、光ディスク、HDD(Hard Disk Drive)、又は磁気テープなどの記録媒体である。画像記録部190には、圧縮伸長部140によって圧縮符号化処理された符号化画像データが画像ファイルとして記憶される。また、画像記録部190は制御部150によって指定された画像ファイルを読み出して制御部150に出力する。そして、制御部150は読みだされた符号化画像データを圧縮伸長部140で伸長復号化処理して復号化画像データとする。
ここで、図1に示すカメラの基本的な動作について説明する。
例えば、静止画像を撮影する際には、撮像前(つまり、本撮影前)において、撮像素子112および122の各々では、画素から出力されたアナログ信号について順次CDS(Correlated Double Sampling)処理およびAGC(Automatic Gain Control)処理が施される。その後、撮像素子112および122の各々では、A/Dコンバータによってアナログ信号をA/D変換して画像信号(デジタル画像信号)を出力する。そして、この画像信号は信号処理部130に送られる。
信号処理部130において、注目被写体判別部1301は、第1の撮像部の出力である第1の画像信号について被写体判別処理を行う。そして、注目被写体判別部1301は注目被写体領域(つまり、動体検知領域、人物検知領域、および顔検知領域)を示す注目被写体領域情報を制御部150に出力する。
なお、制御部150は、後述するように、注目被写体領域情報に基づいて第2の撮像部における撮影条件を決定して、撮像素子駆動回路123を制御する。これによって、第2の撮像部においては撮像素子122の撮影画角のうち注目被写体領域を切り出して撮影が行われる。
信号処理部130は、第1および第2の画像信号に対して、例えば、画質補正処理を行ってそれぞれ第1および第2のカメラスルー画像信号を生成する。そして、信号処理部130は、制御部150の制御下で第1および第2のカメラスルー画像信号を制画像表示部180に送る。これによって、画像表示部180には第1および第2のカメラスルー画像信号に応じたカメラスルー画像(ライブビュー画像)が表示される。ユーザはこれらカメラスルー画像を目視しつつ、注目被写体に画角合わせを行うことができる。
上述の状態で、つまり、カメラスルー画像が画像表示部180に表示された状態で、操作部190に備えられたシャッタレリーズボタンが押下されたとする。これによって、制御部150は撮像素子駆動回路113および撮像素子駆動回路123を制御して、撮像素子112および撮像素子122からそれぞれ1フレーム分の第1および第2の画像信号を信号処理部130に取り込む。信号処理部130は当該1フレーム分の第1および第2の画像信号に画質補正処理して、処理後のデジタル画像信号(つまり、第1および第2の画像データ)を圧縮伸長部140に送る。
圧縮伸長部140は、第1および第2の画像データを圧縮符号化する。圧縮伸長部140は、制御部150の制御下で第1および第2の符号化画像データを画像記録部190に送る。これによって、第1および第2の符号化画像データが静止画像に係る画像ファイル(第1および第2の画像ファイル)として画像記録部190に記録されることになる。
画像記録部190に記録された画像ファイルを再生する際には、制御部150は、操作部170からの操作入力に応じて選択された画像ファイルを画像記録部190から読み込む。そして、制御部150は当読み込んだ該画像ファイルを圧縮伸長部140に送る。圧縮伸長部140は画像ファイルを伸長復号化処理し復号化画像データを得る。制御部150は復号化画像データを画像表示部180に送って、画像表示部180に復号化画像データに応じた静止画像を再生表示する。
動画像データを記録する際には、制御部150の制御下で、撮像素子112および122から出力された第1および第2画像信号が信号処理部130に取り込まれる。信号処理部130は第1および第2の画像信号を順次処理して第1および第2の画像データ(つまり、ここでは動画像データ)を生成する。これら動画像データは圧縮伸長部140で圧縮符号化処理されて、符号化動画像データが順次画像記録部190に転送されて動画像ファイルとして記録される。
画像記録部190に記録された動画像ファイルを再生する際には、制御部150は、操作部170からの操作入力に応じて、選択された動画像ファイルを画像記録部190から読み込む。そして、制御部150は読み込んだ動画像ファイルを圧縮伸長部140に送る。圧縮伸長部140は動画像ファイルを伸長復号化処理し復号化動画像データを得る。制御部150は復号化動画像データを画像表示部180に送って、画像表示部180に動画像データに応じた動画像を再生表示する。
図2は、図1に示す第1の撮像部によって行われる間引き駆動の一例を説明するための図である。
なお、以下の説明では、撮像素子112および122の画素数および第1および第2の撮像部で撮影する被写体の画角は同一であるとして説明するが、本実施の形態による効果がある範囲においてそれぞれ異ならせるようにしてもよい。
図2においては、説明の便宜上、撮像素子112および122の各々は32行×18列の画素部を有するものとする。実際には、撮像素子(つまり、画素部)の画素数は7680行×4320列である。また、一般に画素部において画素はベイヤ配列されるが、ここでは説明の便宜上カラーフィルタについては省略するものとする。
まず、第1の撮像部における間引き読み出しについて説明する。第1の撮像部においては撮像素子112の画角全域を取得するように、撮像素子112の読み出しが行われる。図2に示すように、第1の撮像部においては、水平および垂直方向の各々について画素を1/6に間引いて読み出しが行われるものとする。この読み出しによって1280×720画素が読み出されて、第1の画像データはHDの動画像データとして記録および表示される。これによって、画角全域に係る画像を得ることができる。
図3は、図1に示す第2の撮像部によって行われる間引き駆動の一例を説明するための図である。
第2の撮像部について間引き読み出しをする際には、第2の撮像部においては、後述するように制御部150よって指定された注目領域が、撮像素子駆動回路123によって切り出されて読み出しが行われる。なお、注目領域について、注目被写体判別部1301によって第1の画像信号から判別される。
図3に示すように、ここでは、人物周辺が注目領域とされている。注目領域の大きさに応じた適切な解像度が得られる間引き率を考慮して、第2の撮像部においては、水平および垂直方向の各々について画素を1/2に間引いて読み出しが行われるものとする。この読み出しによって1920×1080画素が読み出されて、第2の画像データはフルHDの動画像データとして記録および表示される。これによって、人物周辺の領域の画像を高解像度で得ることができる。
図4は、図1に示す第2の撮像部によって行われる間引き駆動の他の例を説明するための図である。
図4に示す例では、図3に示す例よりも注目領域が狭い。注目領域に係る画像は解像度が高いほど高画質となる。よって、図4においては図3と比べて間引き率を低くして読み出しが行われる。
図4に示す例では、人物の顔周辺が注目領域としてされている。そして、当該注目の大きさに応じた適切な解像度が得られる間引き率を考慮して、第2の撮像部においては、水平および垂直方向ともに間引きを行わずに読み出しが行われる。この読み出しによって1920×1080画素が読み出されて、第2の画像データはフルHDの動画像データとして記録および表示される。これによって、人物の顔周辺の領域の画像を高解像度で得ることができる。
上述のように、第1の撮像部で読み出された第1の画像信号においてその注目領域の画素数は、第2の撮像部で読み出された第2の画像信号の画素数に及ばない。つまり、第1の撮像部で読み出された第1の画像信号においてその注目領域を拡大処理して引き延ばした画像に比べて、第2の撮像部において読み出された第2の画像信号が示す画像は格段に高画質となる。
図5は、図1に示すカメラにおいて動画モードの際の撮像タイミングを説明するためのタイミング図である。
図示のように、制御部150の制御下で撮像素子駆動回路113および123から送られる垂直同期信号(VD)によって撮像タイミングが規定されている。図示の例では、説明の便宜上、第1の撮像部におけるフレームレートは第2の撮像部におけるフレームレートの2倍とする。
ここでは、第1の撮像部の出力である第1の画像信号はライブビュー表示として用いられ、撮像素子112は常時駆動されている。期間T0〜T1のフレームの前に操作部170によって動画記録の開始命令が行われたとする。期間T0〜T1におけるフレームでは、第1の撮像部で得られた第1の画像信号が画像表示部180にライブビュー画像として表示される。この際、注目被写体判別部1301によって第1の画像信号において注目被写体の領域(注目領域)が判別されて、注目被写体領域情報として制御部150に与えられる。
制御部150は、注目被写体領域情報に応じて、第2の撮像部による撮影の際に用いる切り出し位置情報および間引き率等などの駆動条件(つまり、撮像条件)を撮像素子駆動回路123に送る。
期間T1〜T3のフレームにおいては、第2の撮像部では時間T1の時点で撮像素子駆動回路123に与えられた切り出し位置情報および間引き率などの駆動条件に基づいて第2の画像信号が読み出される。そして、第2の画像信号は、信号処理部130で処理された後、注目被写体を高解像度で撮影した画像データ(動画像データ)として記録されることになる。
同様にして、期間T1〜T2および期間T2〜T3においては、第1の撮像部の出力である第1の画像信号はライブビュー画像として用いられる。この際には、前述のように、注目被写体判別部1301によって注目領域の判別処理が行われて、制御部150は撮像素子駆動回路123に駆動条件を送る。
上述のようにして、期間T0〜T5において、第1および第2の撮像部ともに動画記録が停止されるまで、フレーム毎に同様の動作を行う。
このようにして、読み出し処理および注目領域の判別処理を行うことによって、第2の撮像部で得られる第2の画像信号(ここでは、動画像)は、注目被写体領域に限定された高解像度画像となり、当該高解像度画像が記録されることになる。
図6は、図1に示すカメラで行われる撮影処理を説明するためのフローチャートである。なお、図示のフローチャートは制御部150の制御下で行われる。
カメラの電源がオンとされて、操作部170によってカメラが撮影モードとされると、制御部150は撮像素子駆動回路113を制御して第1の撮像部によるライブビュー撮像を開始する。
続いて、制御部150は、図5に示す期間T0〜T1において、第1の撮像部によってライブビュー画像(第1の画像信号)を1フレーム分(Fr1)撮像する(ステップS401)。ステップS401の処理においては、図2〜図5に関連して説明したように、撮像素子112が捕える画角全体を撮影するように画角が設定され、かつ十分なフレームレートを維持するため間引き処理が行われる。
なお、ステップS401の処理で得られた第1の画像信号をFr1−0と呼ぶことにする。また、ステップS401の処理で読み出された第1の画像信号(ライブビュー画像)は、ライブビュー又は記録動画像として画像処理および画面表示されるが、ここでは詳細な説明を省略する。
次に、制御部150は、操作部170のユーザ操作によって注目被写体領域がマニュアル設定されているか否かを示すユーザ設定有無フラグU=0であるか否かを確認する(ステップS402)。ユーザ設定有無フラグUは、注目被写体領域をユーザがマニュアル操作によって一意に決定する際に用いられるフラグである。例えば、操作部170がタッチパネルディスプレイである場合には、ユーザは注目領域を指などでタッチして注目被写体領域を指定することができる。
なお、ここでは、設定される注目被写体領域はアスペクト比16:9の領域とされる。そして、ユーザが注目被写体領域をマニュアル設定した場合には、ユーザ設定フラグU=1となる。また、ユーザが注目被写体領域をマニュアル設定していない場合には、ユーザ設定フラグU=0となる。
ユーザ設定有無フラグU=1であると(ステップS402において、NO)、制御部150はユーザが設定した注目被写体領域を内蔵メモリに領域Aとして保存する(ステップS403)。そして、制御部150は、後述するステップS414の処理に進む。
ユーザ設定有無フラグU=0であると(ステップS402において、YES)、制御部150は、操作部170による操作によって注目被写体領域の検出条件が動体検出の設定となっているか否かを示す動体検出設定有無フラグM=0であるか否かを確認する(ステップS404)。
この動体検出設定有無フラグMは、画像において動く被写体を注目領域として設定ためのフラグである。この動体検出設定有無フラグMはユーザ自身が動体を最適な大きさとなるようにフレーミングすることが困難な場合などに用いられる。そして、ユーザが動体検出設定を行った場合には、動体検出設定有無フラグM=1となる。また、ユーザが動体検出設定を行っていない場合には、動体検出設定有無フラグM=0となる。
動体検出設定有無フラグM=1であると(ステップS404において、NO)、制御部150は第1の撮像部で得られた第1の画像信号Fr1を動体検出部1302に入力する。そして、制御部150の制御下で、動体検出部1302は、第1の画像信号Fr1から輪郭を抜き出して輪郭情報(現在の輪郭情報)を得る。そして、動体検出部1302は第1の画像信号Fr1が入力される前に記憶された過去の輪郭情報と現在の輪郭情報とを比較して動体領域を検出する動体検出処理を行う(ステップS405)。そして、動体検出部1302は現在の輪郭情報を内蔵メモリに過去の輪郭情報として記憶する。なお、動体領域はその周囲を含めてアスペクト比16:9の領域とされる。
続いて、制御部150は動体検出部1302によって検出された動体領域を注目被写体領域とする。そして、制御部150は当該注目被写体領域を内蔵メモリに領域Aとして保存する(ステップS406)。その後、制御部150は、後述するステップS414の処理に進む。
動体検出設定有無フラグM=0であると(ステップS404において、YES)、制御部150は、操作部170による操作によって注目被写体領域の検出条件が人物検出の設定となっているか否かを示す人物検出設定有無フラグP=0であるか否かを確認する(ステップS407)。
この人物検出設定有無フラグPは、画像において人物を注目領域として設定ためのフラグである。この人物検出設定有無フラグPはユーザ自身が人物を最適な大きさとなるようにフレーミングすることが困難な場合などに用いられる。そして、ユーザが人物検出設定を行った場合には、人物検出設定有無フラグP=1となる。また、ユーザが人物検出設定を行っていない場合には、人物検出設定有無フラグP=0となる。
人物検出設定有無フラグP=1であると(ステップS407において、NO)、制御部150は第1の撮像部で得られた第1の画像信号Fr1を人物検出部1303に入力する。そして、制御部150の制御下で、人物検出部1303は、第1の画像信号Fr1が示す画像においてパターンマッチングを用いて人物の形状と比較して人物領域を検出する人物検出処理を行う(ステップS408)。なお、人物領域はその周囲を含めてアスペクト比16:9の領域とされる。
続いて、制御部150は人物検出部1303によって検出された人物領域を注目被写体領域とする。そして、制御部150は当該注目被写体領域を内蔵メモリに領域Aとして保存する(ステップS409)。その後、制御部150は、後述するステップS414の処理に進む。
人物検出設定有無フラグP=0であると(ステップS407において、YES)、制御部150は、操作部170による操作によって注目被写体領域の検出条件が顔検出の設定となっているか否かを示す顔検出設定有無フラグF=0であるか否かを確認する(ステップS410)。
この顔検出設定有無フラグFは、画像において顔を注目領域として設定ためのフラグである。この顔検出設定有無フラグFはユーザ自身が人物の顔を最適な大きさとなるようにフレーミングすることが困難な場合などに用いられる。そして、ユーザが顔検出設定を行った場合には、顔検出設定有無フラグF=1となる。また、ユーザが顔検出設定を行っていない場合には、顔検出設定有無フラグF=0となる。
顔検出設定有無フラグF=1であると(ステップS410において、NO)、制御部150は第1の撮像部で得られた第1の画像信号Fr1を顔検出部1304に入力する。そして、制御部150の制御下で、顔検出部1304は、第1の画像信号Fr1が示す画像においてパターンマッチングを用いて人物の顔の形状と比較して顔領域を検出する顔検出処理を行う(ステップS411)。なお、顔領域はその周囲を含めてアスペクト比16:9の領域とされる。
続いて、制御部150は顔検出部1304によって検出された顔領域を注目被写体領域とする。そして、制御部150は当該注目被写体領域を内蔵メモリに領域Aとして保存する(ステップS412)。その後、制御部150は、後述するステップS414の処理に進む。
顔検出設定有無フラグF=0であると(ステップS410において、YES)、制御部150は、注目被写体領域の検出条件が設定されていないので、画像全体を注目被写体領域とする。そして、制御部150は当該注目被写体領域を内蔵メモリに領域Aとして保存する(ステップS413)。
次に、制御部150は領域A(つまり、注目被写体領域)の画像全体に占める割合rを算出する(ステップS414)。そして、制御部150は当該割合rに応じて後述する撮像素子駆動選択テーブルTbl1に応じて撮像素子122の駆動方法を選択する(ステップS415)。
図7は、図1に示すカメラで用いられる撮像素子駆動選択テーブルの一例を示す図である。なお、この撮像素子駆動選択テーブルは、制御部150に備えられたROMに格納されている。
撮像素子駆動選択テーブルTbl1は注目被写体領域Aの画像に占める割合rに応じて、第2の撮像部による撮影の際の水平および垂直方向の間引き率又は画素加算数を定めるものである。図示の例では、割合rが56.25%以上の場合には水平および垂直方向の間引き率は1/4間引きとされる。また、割合rが25%以上で56.25%未満の場合は水平および垂直方向の間引き率は1/3間引きとされる。
さらに、割合rが6.25%以上で25%未満の場合には、水平および垂直方向の間引き率は1/2間引きとされる。そして、割合rが6.25%未満の場合には、水平および垂直方向の間引きはなしとされる。
なお、ここでは、撮像素子駆動選択テーブルTbl1は割合rに応じて間引き率を規定するテーブルとしたが、注目被写体領域を最適な画素数又は最適なフレームレートで読み出す際には、撮像素子駆動選択テーブルTbl1は割合rに応じて画素加算数を規定するテーブルとされる。
再び図6を参照して、制御部150は撮像素子駆動回路123に、ステップS415の処理で選択した撮像素子駆動方法(つまり、ここでは、間引き率)および注目被写体領域Aの画像における位置を送る。つまり、制御部150は第2の撮像部に撮影条件を指示する(ステップS416)。この際、割合rが56.25%以上である場合には(つまり、注目被写体領域が所定のサイズ以上である場合には)、制御部150はレンズ制御部121に、画角を予め定められた分だけ広角側になるようにする駆動指示を行う。つまり、制御部150は画角を予め定められた分だけ広角側にシフトする。これによって、注目被写体が以降のフレームで画像内から外れてしまうリスクを事前に回避する。
次に、制御部150の制御下で、図5に示す期間T1〜T3において、第2の撮像部は1フレームの撮像を行う(ステップS417)。この撮像によって得られた第2の画像信号は注目被写体領域を高い解像度で読み出した画像となる。
なお、ここでは得られた第2の画像信号をFr2−1と呼ぶ。また、当該第2の画像信号は動画像として画像処理および画面表示されるが、ここでは詳細な説明を省略する。
その後、制御部150は次フレームの処理を行う。つまり、制御部150はステップS417の処理を行った後、ステップS401の処理に戻って、図5に示す期間T1〜T2の期間において、第1の撮像部によって撮像を行ってライブビュー画像(第1の画像信号)を1フレーム分得る。ここで得られた第1の画像信号をFr1−1と呼ぶ。
その後、図5に示す期間T2〜T3の期間においても第1の撮像部によって撮像を行いライブビュー画像を1フレーム分得る。ここで得られた第1の画像信号をFr1−2と呼ぶ。第1の画像信号Fr1−1およびFr1−2はステップS401〜S416で説明したようにして処理される。そして、これら第1の画像信号Fr1−1およびFr1−2において得られた注目被写体領域情報は、ステップS417において第2の撮像部による撮像に反映される。
このように、本発明の第1の実施形態では、第1の撮像部で得られた第1の画像信号において注目被写体領域を判別する。そして、当該注目被写体領域に応じて第2の撮像部による撮像を制御する。これによって、所望の画角を有する画像を十分な解像度で切り出して撮像を行うことができる。そして、無駄な画素の読み出しおよび消費電力を抑制することができる。
なお、注目被写体領域を切り出す際には、注目被写体領域のみを切り出すようにしてもよく、さらには、注目被写体領域を含む所定の範囲の領域を切り出すようにしてもよい。
[第2の実施形態]
続いて、本発明の第2の実施形態によるカメラの一例について説明する。
図8は、本発明の第2の実施形態によるカメラの一例についてその構成を示すブロック図である。なお、図8において、図1に示すカメラと同一の構成要素については同一の参照番号を付して説明を省略する。
図示のカメラは撮像部を有しており、撮像部は、レンズ610、レンズ制御部611、撮像素子612、および撮像素子駆動回路613を備えている。なお、図示はしないが、レンズ610は、複数のレンズおよび光学機構部を備えている。そして、レンズ610は被写体像(光学像)を撮像素子612に結像する。
光学機構部は、例えば、AF機構、ズーム駆動機構、メカニカルシャッタ機構、および絞り機構を備えている。レンズ制御部611は制御部650の制御下でレンズ610に備えられた光学機構部を駆動制御する。
撮像素子612は、画素部およびA/Dコンバータ(図示せず)を有し、例えば、所謂XY読み出し方式のCMOS型イメージセンサである。そして、撮像素子駆動回路613は制御部650の制御下で、撮像素子612の露光処理、信号読み出し処理、およびリセット処理などを行う。これによって、撮像素子612は後述するようにして第1および第2の画像信号を出力する。
制御部150は、例えば、CPU、ROM、およびRAMなどを備えるマイクロコントローラである。そして、CPUがROMに記憶されたプログラムを実行することによって、カメラ全体を制御する。また、制御部650は、信号処理部130によるAE処理によって被写体の露光値が所定の露光値よりも低いと判定すると、発光部160を制御して発光を行って被写体を照明する。
ここで、図8に示すカメラの基本的な動作について説明する。
例えば、静止画像を撮影する際には、撮像前(つまり、本撮影前)において、撮像素子612では、画素から出力されたアナログ信号について順次CDS処理およびAGC処理が施される。その後、撮像素子612では、A/Dコンバータによってアナログ信号をA/D変換して画像信号(デジタル画像信号)を出力する。そして、この画像信号は信号処理部130に送られる。
信号処理部130において、注目被写体判別部1301は、後述する第1の読み出し動作において撮像素子612から出力された第1の画像信号について被写体判別処理を行う。そして、注目被写体判別部1301は注目被写体領域(つまり、動体検知領域、人物検知領域、および顔検知領域)を示す注目被写体領域情報を制御部650に出力する。
なお、制御部650は、後述するように、注目被写体領域情報に基づいて第2の読み出し動作における撮影条件を決定して、撮像素子駆動回路613を制御する。これによって、第2の読み出し動作では撮像素子612の撮影画角のうち注目被写体領域を切り出す画素読み出しが行われて、第2の画像信号として出力される。
信号処理部130は、第1および第2の読み出し処理でそれぞれ得られた第1および第2の画像信号に対して、例えば、画質補正処理を行って第1および第2のカメラスルー画像信号を生成する。そして、信号処理部130は、制御部650の制御下で第1および第2のカメラスルー画像信号を制画像表示部180に送る。これによって、画像表示部180には第1および第2のカメラスルー画像信号に応じたカメラスルー画像(ライブビュー画像)が表示される。ユーザはこれらカメラスルー画像を目視しつつ、注目被写体に画角合わせを行うことができる。
上述の状態で、つまり、カメラスルー画像が画像表示部180に表示された状態で、操作部190に備えられたシャッタレリーズボタンが押下されたとする。これによって、制御部650は撮像素子駆動回路613を制御して、撮像素子612から第1および第2の読み出し動作で得られた1フレーム分の第1および第2の画像信号を信号処理部130に取り込む。信号処理部130は当該1フレーム分の第1および第2の画像信号に画質補正処理して、処理後のデジタル画像信号(つまり、第1および第2の画像データ)を圧縮伸長部140に送る。
動画像データを記録する際には、制御部650の制御下で、撮像素子612から出力された第1および第2画像信号が信号処理部130に取り込まれる。信号処理部130は第1および第2の画像信号を順次処理して第1および第2の画像データ(つまり、ここでは動画像データ)を生成する。これら動画像データは圧縮伸長部140で圧縮符号化処理されて、符号化動画像データが順次画像記録部190に転送されて動画像ファイルとして記録される。
図9は、図8に示す撮像素子の構造を示す斜視図である。
撮像素子612は第1のチップ(画素部)70および第2のチップ71を有しており、第2のチップ(第2の素子部ともいう)71上に第1のチップ(第1の素子部ともいう)70が積層されている。第1のチップ70は2次元マトリックス状に配列された複数の画素を有しており、第1のチップ70は光入射側に配置されている(つまり、光学像の受光側に位置している)。第2のチップ71には後述する列走査回路および行走査回路などの画素駆動回路が形成されている。
このように、第1のチップ70に画素を形成し、第2のチップ71に画素駆動回路を形成すれば、撮像素子612の周辺回路および画素部の製造プロセスを分けることができる。この結果、周辺回路における配線の細線化および高密度化による読み出し動作の高速化、撮像素子の小型化および高機能化を図ることができる。
図10は、図9の示す撮像素子の構成の一例を説明するためのブロック図である。なお、図示の例においては、説明の便宜上、信号処理部130が2つ示されている。
第1のチップ70において、複数の画素701が2次元マトリクス状に配列されている。画素701は水平方向(行方向)において転送信号線703、リセット信号線704、および行選択信号線705に接続され、垂直方向(列方向)において列信号線702−aおよび702−bに接続されている。なお、列信号線702−aおよび702−bの各々は読み出し行単位に応じて接続先が異なる。
図示のように、画素701の各々は、光電変換素子であるフォトダイオードPD、転送トランジスタM1、リセットトランジスタM2、増幅トランジスタM3、選択トランジスタM4、およびフローティングディフュージョンFDを有している。
なお、図示の例では、トランジスタの各々はnチャネルMOSFET(MOS Field−Effect Transistor)である。
転送トランジスタM1、リセットトランジスタM2、および選択トランジスタM4のゲートには、それぞれ転送信号線703、リセット信号線704、および行選択信号線705が接続されている。これら信号線703〜705は水平方向に延在し、同一行の画素701が同時に駆動される。これによって、ライン順次動作型のローリングシャッタ又は全行同時動作型のグローバルシャッタの動作を制御することができる。さらに、選択トランジスタM4のソースには列信号線702−a又は702−bが行単位で接続されている。
フォトダイオードPDは、光電変換によって生成された電荷を蓄積する。そして、フォトダイオードPDのP側が接地され、N側が転送トランジスタM1のソースに接続されている。転送トランジスタM1がオンすると、フォトダイオードPDの電荷がFDに転送され、当該FDには寄生容量が存在するので、FDに転送された電荷が蓄積される。
増幅トランジスタM3のドレインには電源電圧Vddが印加され、そのゲートはFDに接続されている。増幅トランジスタM3は、FDの電荷(つまり、電圧)を増幅して電圧信号に変換する。選択トランジスタM4は、信号を読み出す画素701を行単位で選択するためのものであり、そのドレインは増幅トランジスタM3のソースに接続されている。また、選択トランジスタM4のソースは、列信号線702に接続されている。
選択トランジスタM4がオンすると、FDの電圧に対応する電圧信号が列信号線702に出力される。リセットトランジスタM2のドレインには電源電圧Vddが印加され、そのソースはFDに接続されている。リセットトランジスタM2のオンによって、FDの電圧は電源電圧Vddにリセットされる。
第2のチップ71には、カラムADCブロック711が備えられており、カラムADC711は列信号線702−a又は702−bに接続されている。さらに、第2のチップ71には、行走査回路712、列走査回路713−aおよび713−b、タイミング制御回路714、水平信号線(出力手段)715−aおよび715−bが備えられている。
タイミング制御回路714は制御部650の制御下で行走査回路712、列走査回路713−aおよび713−b、およびカラムADCブロック711の動作タイミングを制御する。行走査回路712は各行の走査を行い、列走査回路713aおよび713bはそれぞれ各列の走査を行う。
水平信号線715−aおよび715−bは、それぞれ列走査回路713−aおよび713−bで制御されるタイミングに応じてカラムADCブロック711の出力信号(画像信号)を転送する。
なお、後述するように、水平信号線715−aに転送された画像信号は信号処理部650に第1の読み出し動作によって得られる第1の画像信号(ライブビュー用の画像信号)として信号処理部130に与えられる。一方、水平信号線715−bに転送された画像信号は第2の読み出し動作によって得られる第2の画像信号(注目被写体の画像信号)として信号処理部130に与えられる。
図11は、図10に示す撮像素子を第1の読み出し動作で駆動した際の画素選択の一例を説明するための図である。
また、図12は、図10に示す撮像素子を第2の読み出し動作で駆動した際の画素選択の一例を説明するための図である。
なお、ここでは、説明の便宜上、撮像素子612は32行×18列の画素を有するものとする。実際には、撮像素子612の画素数は7680行×4320列である。また、一般に画素はベイヤ配列されるが、ここでは説明の便宜上カラーフィルタについては省略するものとする。
図11において、第1の読み出し動作によって読み出される画素は、列信号線702−aに接続された画素701の全て又は一部である。また、第2の読み出し動作によって読み出される画素は、列信号線702−bに接続された画素701の全て又は一部である。
列信号線702−aおよび702−bは物理的に独立しており、この結果、第1および第2の読み出し動作を同時に行うことができる。よって、撮像素子612は第1の読み出し動作で得られる第1の画像信号と、第2の読み出し動作で得られる第2の画像信号とを同時に出力することができる。
図示の例では第1の読み出し動作によって読み出される特定の画素群(第1の画素群)については画角全体をカバーするが、間引き率が大きく、かつ総画素数は少ない。これによって、注目被写体判別処理に必要な解像度を保つとともに、フレームレートを積雪なレートする。
一方、第2の読み出し動作によって読み出される画素群(第2の画素群)については、注目被写体を可能な限り高解像度で得るため、間引き率が小さく、総画素数も第1の画素群と比較して多い。なお、第2の画素群は注目被写体判別処理の結果に応じてその領域が可変であるので、第1の画素群を除く全ての画素を第2の画素群としてもよい。
上述のように、選択行毎にライブビュー撮像(第1の読み出し動作)と注目被写体の撮像(第2の読み出し)とを分けることによって、互いに異なる電荷蓄積時間でデータサイズの異なるフレームレートの画像信号を得ることができる。
次に、列信号線702−aおよび702−bの各々に出力された電圧信号(アナログ信号)は、図10に示すカラムADCブロック711においてデジタル信号(画像信号)に変換される。
カラムADCブロック711の出力である画像信号は、列走査回路713−a又は713−bによってカラムADCブロック711から水平信号線715−a又は715−bに読み出される。水平信号線715−aおよび715−bに読み出された画像信号は信号処理部130に送られる。
ここで、図11を参照して、第1の読み出し動作における間引き読み出しについて説明する。
第1の読み出し動作においては撮像素子612の画角全域を取得するように、撮像素子612の読み出しが行われる。第1の読み出し動作においては、水平および垂直方向の各々について画素を1/6に間引いて読み出しが行われるものとする。この読み出し動作によって1280×720画素が読み出されて、第1の画像データがHDの動画像データとして記録および表示される。これによって、画角全域に係る画像を得ることができる。
次に、図12を参照して、第2の読み出し動作における間引き読み出しについて説明する。
第2の読み出し動作においては、後述するように制御部650よって指定された注目領域が、撮像素子駆動回路623によって切り出されて読み出しが行われる。なお、注目領域については、注目被写体判別部1301によって第1の画像信号から判別される。
図12においては、人物周辺が注目領域とされている。注目領域の大きさに応じた適切な解像度が得られる間引き率を考慮して、第2の読み出し動作においては、水平および垂直方向の各々について画素を1/2に間引いて読み出しが行われるものとする。この読み出し動作によって1920×1080画素が読み出されて、第2の画像データがフルHDの動画像データとして記録および表示される。これによって、人物周辺の領域の画像を高解像度で得ることができる。
上述のように、第1の読み出し動作で読み出された第1の画像信号においてその注目領域の画素数は、第2の読み出し動作で読み出された第2の画像信号の画素数に及ばない。つまり、第1の読み出し動作で読み出された第1の画像信号においてその注目領域を拡大処理して引き延ばした画像に比べて、第2の読み出し動作において読み出された第2の画像信号が示す画像は格段に高画質となる。
図13は、図8に示すカメラにおいて動画モードの際の撮像タイミングを説明するためのタイミング図である。
図示のように、制御部650の制御下で撮像素子駆動回路613から送られる垂直同期信号(VD)によって撮像タイミングが規定されている。図示の例では、説明の便宜上、第1の読み出し動作におけるフレームレートは第2の読み出し動作におけるフレームレートの2倍とする。
ここでは、第1の読み出し動作で得られる第1の画像信号はライブビュー表示として用いられ、撮像素子612は常時駆動されている。期間T0〜T1のフレームの前に操作部170によって動画記録の開始命令が行われたとする。期間T0〜T1におけるフレームでは、第1の読み出し動作で得られた第1の画像信号が画像表示部180にライブビュー画像として表示される。この際、注目被写体判別部1301によって第1の画像信号において注目被写体の領域(注目領域)が判別されて、注目被写体領域情報として制御部650に与えられる。
制御部650は、注目被写体領域情報に応じて、第2の読み出し動作で用いる切り出し位置情報および間引き率等などの駆動条件(つまり、撮像条件)を撮像素子駆動回路623に送る。
期間T1〜T3のフレームにおいては、第2の読み出し動作では時間T1の時点で撮像素子駆動回路623に与えられた切り出し位置情報および間引き率などの駆動条件に基づいて第2の画像信号が読み出される。そして、第2の画像信号は、信号処理部130で処理された後、注目被写体を高解像度で撮影した画像データ(動画像データ)として記録されることになる。
同様にして、期間T1〜T2および期間T2〜T3においては、第1の読み出し動作で得られた第1の画像信号はライブビュー画像として用いられる。この際には、前述のように、注目被写体判別部1301によって注目領域の判別処理が行われて、制御部650は撮像素子駆動回路623に駆動条件を送る。
上述のようにして、期間T0〜T5において、第1および第2の読み出し動作ともに動画記録が停止されるまでフレーム毎に行われる。
上述のようにして、読み出し処理および注目領域の判別処理を行うことによって、第2の読み出し動作で得られる第2の画像信号(ここでは、動画像)は、注目被写体領域に限定された高解像度画像となり、当該高解像度画像が記録されることになる。
図14は、図8に示すカメラで行われる撮影処理を説明するためのフローチャートである。
なお、図示のフローチャートは制御部650の制御下で行われる。また、図示のフローチャートにおいて、ステップS1102〜S1115の処理は、図6に示すステップS402〜S415の処理と同様であるので、説明を省略する。
カメラの電源がオンとされて、操作部170によってカメラが撮影モードとされると、制御部650は撮像素子駆動回路613を制御して第1の読み出し動作を開始する。
続いて、制御部650は、図13に示す期間T0〜T1において、第1の読み出し動作によってライブビュー画像(第1の画像信号)を1フレーム分(Fr1)撮像する(ステップS1101)。ステップS1101の処理においては、図11〜図13に関連して説明したように、撮像素子612が捕える画角全体を撮影するように画角が設定され、かつ十分なフレームレートを維持するため間引き処理が行われる。
なお、ステップS1101の処理で得られた第1の画像信号をFr1−0と呼ぶことにする。また、ステップS1101の処理で読み出された第1の画像信号(ライブビュー画像)は、ライブビュー又は記録動画像として画像処理および画面表示されるが、ここでは詳細な説明を省略する。
その後、図6に関連して説明したようにして、制御部650は注目被写体判別部1301を用いてステップS1102〜S1115の処理を行う。そして、制御部650は、ステップS115において、当該割合rに応じて後述する撮像素子駆動選択テーブルTbl2に応じて撮像素子122の駆動方法を選択する。
図15は、図8に示すカメラで用いられる撮像素子駆動選択テーブルの一例を示す図である。なお、この撮像素子駆動選択テーブルは、制御部650に備えられたROMに格納されている。
撮像素子駆動選択テーブルTbl2は注目被写体領域Aの画像に占める割合rに応じて、第2の読みだと動作の際の水平および垂直方向の間引き率又は画素加算数を定めるものである。図示の例では、割合rが56.25%以上の場合には水平および垂直方向の間引き率は1/4間引きとされる。また、割合rが25%以上で56.25%未満の場合は水平および垂直方向の間引き率は1/3間引きとされる。
さらに、割合rが25%未満の場合には、水平および垂直方向の間引き率は1/2間引きとされる。なお、ここでは、撮像素子駆動選択テーブルTbl2は割合rに応じて間引き率を規定するテーブルとしたが、注目被写体領域を最適な画素数又は最適なフレームレートで読み出す際には、撮像素子駆動選択テーブルTbl2は割合rに応じて画素加算数を規定するテーブルとされる。
再び図14を参照して、制御部650は撮像素子駆動回路613に、ステップS1115の処理で選択した撮像素子駆動方法(つまり、ここでは、間引き率)および注目被写体領域Aの画像における位置を送る。つまり、制御部650は第2の読み出し動作で用いられる撮影条件を指示する(ステップS1116)。この際、割合rが56.25%以上である場合には、制御部650はレンズ制御部611に、画角を予め定められた分だけ広角側になるようにする駆動指示を行う。これによって、注目被写体が以降のフレームで画像内から外れてしまうリスクを事前に回避する。
次に、制御部650は、撮像素子駆動回路613を制御して、図13に示す期間T1〜T3において、第2の読み出し動作で1フレームの撮像を行う(ステップS1117)。この撮像によって得られた第2の画像信号は注目被写体領域を高い解像度で読み出した画像となる。
なお、ここでは得られた第2の画像信号をFr2−1と呼ぶ。また、当該第2の画像信号は動画像として画像処理および画面表示されるが、ここでは詳細な説明を省略する。
その後、制御部650は次フレームの処理を行う。つまり、制御部650はステップS1117の処理を行った後、ステップS1101の処理に戻って、図13に示す期間T1〜T2の期間において、第1の読み出し動作による撮像を行ってライブビュー画像(第1の画像信号)を1フレーム分得る。ここで得られた第1の画像信号をFr1−1と呼ぶ。
さらに、図13に示す期間T2〜T3の期間においても第1の読み出し動作によって撮像を行ってライブビュー画像を1フレーム分得る。ここで得られた第1の画像信号をFr1−2と呼ぶ。第1の画像信号Fr1−1およびFr1−2はステップS1101〜S1116において処理される。そして、これら第1の画像信号Fr1−1およびFr1−2において得られた注目被写体領域情報は、ステップS117において第2の読み出し動作に反映される。
このように、本発明の第2の実施形態では、第1の読み出し動作で得られた第1の画像信号において注目被写体領域を判別する。そして、当該注目被写体領域に応じて第2の読み出し動作を制御する。これによって、所望の画角を有する画像を十分な解像度で切り出して撮像を行うことができる。そして、無駄な画素の読み出しおよび消費電力を抑制することができる。
なお、注目被写体領域を切り出す際には、注目被写体領域のみを切り出すようにしてもよく、さらには、注目被写体領域を含む所定の範囲の領域を切り出すようにしてもよい。
上述の説明から明らかなように、図1および図8に示す例においては、注目被写体判別部1301および制御部150又は650が判別手段として機能し、制御部150又は650、レンズ制御部121又は611、および撮像素子駆動回路123又は613が制御手段として機能する。また、制御部650および撮像素子駆動回路613は読み出し手段として機能する。
以上、本発明について実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。
また、上記の実施の形態の機能を制御方法として、この制御方法を撮像装置に実行させるようにすればよい。また、上述の実施の形態の機能を有するプログラムを制御プログラムとして、当該制御プログラムを撮像装置が備えるコンピュータに実行させるようにしてもよい。なお、制御プログラムは、例えば、コンピュータに読み取り可能な記録媒体に記録される。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。