以下、本発明の実施形態について図面を参照して説明する。ただし、本発明はこれに限定されるものではない。また、図面においては、実施形態を説明するため、一部分を大きくまたは強調して記載するなど適宜縮尺を変更して表現している。
<第1実施形態>
図1は、積層型撮像素子の断面図である。なお、この積層型撮像素子100は、本願出願人が先に出願した特願2012−139026号に記載されているものである。撮像素子100は、入射光に対応した画素信号を出力する撮像チップ113と、画素信号を処理する信号処理チップ111と、画素信号を記憶するメモリチップ112とを備える。これら撮像チップ113、信号処理チップ111、及びメモリチップ112は積層されており、Cu等の導電性を有するバンプ109により互いに電気的に接続される。
なお、図示するように、入射光は主に白抜き矢印で示すZ軸プラス方向へ向かって入射する。本実施形態においては、撮像チップ113において、入射光が入射する側の面を裏面と称する。また、座標軸に示すように、Z軸に直交する紙面左方向をX軸プラス方向、Z軸及びX軸に直交する紙面手前方向をY軸プラス方向とする。以降のいくつかの図においては、図1の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。
撮像チップ113の一例は、裏面照射型のMOSイメージセンサである。PD層106は、配線層108の裏面側に配されている。PD層106は、二次元的に配され、入射光に応じた電荷を蓄積する複数のフォトダイオード(Photodiode;以下、PDという。)104、及び、PD104に対応して設けられたトランジスタ105を有する。
PD層106における入射光の入射側にはパッシベーション膜103を介してカラーフィルタ102が設けられる。カラーフィルタ102は、可視光のうち特定の波長領域を通過させるフィルタである。このカラーフィルタ102は、互いに異なる波長領域を透過する複数の種類を有しており、PD104のそれぞれに対応して特定の配列を有している。カラーフィルタ102の配列については後述する。カラーフィルタ102、PD104、及びトランジスタ105の組が一つの画素を形成する。
カラーフィルタ102における入射光の入射側には、それぞれの画素に対応して、マイクロレンズ101が設けられる。マイクロレンズ101は、対応するPD104へ向けて入射光を集光する。
配線層108は、PD層106からの画素信号を信号処理チップ111に伝送する配線107を有する。配線107は多層であってもよく、また、受動素子及び能動素子が設けられてもよい。配線層108の表面には複数のバンプ109が配される。これら複数のバンプ109が信号処理チップ111の対向する面に設けられた複数のバンプ109と位置合わせされる。そして、撮像チップ113と信号処理チップ111とが加圧等されることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。
同様に、信号処理チップ111及びメモリチップ112の互いに対向する面には、複数のバンプ109が配される。これらのバンプ109が互いに位置合わせされる。そして、信号処理チップ111とメモリチップ112とが加圧等されることにより、位置合わせされたバンプ109同士が接合されて、電気的に接続される。
なお、バンプ109間の接合には、固相拡散によるCuバンプ接合に限らず、はんだ溶融によるマイクロバンプ結合を採用してもよい。また、バンプ109は、例えば後述する一つの単位グループに対して一つ程度設ければよい。従って、バンプ109の大きさは、PD104のピッチよりも大きくてもよい。また、画素が配列された画素領域(図2に示す画素領域113A)以外の周辺領域において、画素領域に対応するバンプ109よりも大きなバンプを併せて設けてもよい。
信号処理チップ111は、表面及び裏面にそれぞれ設けられた回路を互いに接続するTSV(Through-Silicon Via;シリコン貫通電極)110を有する。TSV110は、周辺領域に設けられる。また、TSV110は、撮像チップ113の周辺領域や、メモリチップ112に設けられてもよい。
図2は、撮像チップの画素配列と単位グループを説明する図である。図2では、特に、撮像チップ113を裏面側から観察した様子を示す。撮像チップ113において画素が配列された領域を画素領域113Aという。画素領域113Aには2000万個以上もの画素がマトリックス状に配列されている。図2に示す例では、隣接する4画素×4画素の16画素が一つの単位グループ131を形成する。図2の格子線は、隣接する画素がグループ化されて単位グループ131を形成する概念を示す。単位グループ131を形成する画素の数はこれに限られず1000個程度、例えば32画素×64画素でもよいし、それ以上でもそれ以下でもよい。
画素領域113Aの部分拡大図に示すように、単位グループ131は、緑色画素Gb,Gr、青色画素B、及び赤色画素Rの4画素から成るいわゆるベイヤー配列を、上下左右に4つ内包する。緑色画素は、カラーフィルタ102として緑色フィルタを有する画素であり、入射光のうち緑色波長帯の光を受光する。同様に、青色画素は、カラーフィルタ102として青色フィルタを有する画素であって青色波長帯の光を受光する。赤色画素は、カラーフィルタ102として赤色フィルタを有する画素であって赤色波長帯の光を受光する。
図3は、撮像チップの単位グループに対応する回路図である。図3において、代表的に点線で囲む矩形が、1画素に対応する回路を表す。なお、以下に説明する各トランジスタの少なくとも一部は、図1のトランジスタ105に対応する。
上述したように、単位グループ131は、16画素から形成される。それぞれの画素に対応する16個のPD104は、それぞれ転送トランジスタ302に接続される。各転送トランジスタ302のゲートには、転送パルスが供給されるTX配線307に接続される。本実施形態において、TX配線307は、16個の転送トランジスタ302に対して共通接続される。
各転送トランジスタ302のドレインは、対応する各リセットトランジスタ303のソースに接続されるとともに、転送トランジスタ302のドレインと各リセットトランジスタ303のソース間のいわゆるフローティングディフュージョンFD(電荷検出部)が増幅トランジスタ304のゲートに接続される。各リセットトランジスタ303のドレインは電源電圧が供給されるVdd配線310に接続される。各リセットトランジスタ303のゲートはリセットパルスが供給されるリセット配線306に接続される。本実施形態において、リセット配線306は、16個のリセットトランジスタ303に対して共通接続される。
各々の増幅トランジスタ304のドレインは電源電圧が供給されるVdd配線310に接続される。また、各々の増幅トランジスタ304のソースは、対応する各々の選択トランジスタ305のドレインに接続される。各々の選択トランジスタ305のゲートには、選択パルスが供給されるデコーダ配線308に接続される。本実施形態において、デコーダ配線308は、16個の選択トランジスタ305に対してそれぞれ独立に設けられる。そして、各々の選択トランジスタ305のソースは、共通の出力配線309に接続される。負荷電流源311は、出力配線309に電流を供給する。すなわち、選択トランジスタ305に対する出力配線309は、ソースフォロアにより形成される。なお、負荷電流源311は、撮像チップ113側に設けてもよいし、信号処理チップ111側に設けてもよい。
ここで、電荷の蓄積開始から蓄積終了後の画素出力までの流れを説明する。リセット配線306を通じてリセットパルスがリセットトランジスタ303に印加される。これと同時に、TX配線307を通じて転送パルスが転送トランジスタ302に印加される。これにより、PD104及びフローティングディフュージョンFDの電位はリセットされる。
PD104は、転送パルスの印加が解除されると、受光する入射光を電荷に変換して蓄積する。その後、リセットパルスが印加されていない状態で再び転送パルスが印加されると、PD104において蓄積された電荷はフローティングディフュージョンFDへ転送される。これにより、フローティングディフュージョンFDの電位は、リセット電位から電荷蓄積後の信号電位になる。そして、デコーダ配線308を通じて選択パルスが選択トランジスタ305に印加されると、フローティングディフュージョンFDの信号電位の変動が、増幅トランジスタ304及び選択トランジスタ305を介して出力配線309に伝わる。このような回路の動作により、リセット電位と信号電位とに対応する画素信号は、単位画素から出力配線309に出力される。
図3に示すように、本実施形態においては、単位グループ131を形成する16画素に対して、リセット配線306とTX配線307が共通である。すなわち、リセットパルスと転送パルスはそれぞれ、16画素すべてに対して同時に印加される。従って、単位グループ131を形成するすべての画素は、同一のタイミングで電荷蓄積を開始し、同一のタイミングで電荷蓄積を終了する。ただし、蓄積された電荷に対応する画素信号は、それぞれの選択トランジスタ305に選択パルスが順次印加されることにより、選択的に出力配線309に出力される。また、リセット配線306、TX配線307、出力配線309は、単位グループ131毎に別個に設けられる。
このように単位グループ131を基準として回路を構成することにより、単位グループ131ごとに電荷蓄積時間を制御することができる。換言すると、単位グループ131間で、異なった電荷蓄積時間による画素信号をそれぞれ出力させることができる。更に言えば、一方の単位グループ131に1回の電荷蓄積を行わせている間に、他方の単位グループ131に何回もの電荷蓄積を繰り返させてその都度画素信号を出力させることにより、これらの単位グループ131間で異なるフレームレートで動画用の各フレームを出力することもできる。
図4は、撮像素子の機能的構成を示すブロック図である。アナログのマルチプレクサ411は、単位グループ131を形成する16個のPD104を順番に選択する。そして、マルチプレクサ411は、16個のPD104のそれぞれの画素信号を当該単位グループ131に対応して設けられた出力配線309へ出力させる。マルチプレクサ411は、PD104とともに、撮像チップ113に形成される。
マルチプレクサ411を介して出力されたアナログ信号の画素信号は、信号処理チップ111に形成されたアンプ412により増幅される。そして、アンプ412で増幅された画素信号は、信号処理チップ111に形成された、相関二重サンプリング(CDS;Correlated Double Sampling)・アナログ/デジタル(Analog/Digital)変換を行う信号処理回路413により、相関二重サンプリングの信号処理が行われるとともに、A/D変換(アナログ信号からデジタル信号への変換)が行われる。画素信号が信号処理回路413において相関二重サンプリングの信号処理が行われることにより、画素信号のノイズが低減される。A/D変換された画素信号は、デマルチプレクサ414に引き渡され、それぞれの画素に対応する画素メモリ415に格納される。デマルチプレクサ414及び画素メモリ415は、メモリチップ112に形成される。
演算回路(手振れ量算出部)416は、画素メモリ415に格納された画素信号を処理して後段の画像処理部に引き渡す。本実施形態では、演算回路416は、信号処理チップ111に設けられている。ただし、演算回路416は、メモリチップ112に設けられてもよい。なお、図4では1つの単位グループ131の分の接続を示すが、実際にはこれらが単位グループ131ごとに存在して、並列で動作する。ただし、演算回路416は単位グループ131ごとに存在しなくてもよい。例えば、一つの演算回路416がそれぞれの単位グループ131に対応する画素メモリ415の値を順に参照しながらシーケンシャルに処理してもよい。
上記した通り、単位グループ131のそれぞれに対応して出力配線309が設けられている。撮像素子100は、撮像チップ113、信号処理チップ111、及びメモリチップ112を積層している。このため、これら出力配線309にバンプ109を用いたチップ間の電気的接続を用いることにより、各チップを面方向に大きくすることなく配線を引き回すことができる。
次に、撮像素子100の画素領域113A(図2参照)に設定されるブロックについて説明する。本実施形態において、撮像素子100の画素領域113Aは、複数のブロックに分割される。複数のブロックは、1ブロックにつき単位グループ131を少なくとも1つ含むように定義される。各ブロックはそれぞれ異なる制御パラメータで各ブロックに含まれる画素が制御される。つまり、あるブロックに含まれる画素群と、別のブロックに含まれる画素群とで、制御パラメータが異なる画素信号が取得される。制御パラメータとしては、例えば、電荷の蓄積時間又は蓄積回数、フレームレート、ゲイン、間引き率、画素信号を加算する加算行数又は加算列数、デジタル化のビット数などがあげられる。さらに、制御パラメータは、画素からの画像信号取得後の画像処理におけるパラメータであってもよい。
ここで、電荷の蓄積時間とは、PD104が電荷の蓄積を開始してから終了するまでの時間のことをいう。また、電荷の蓄積回数とは、単位時間あたりにPD104が電荷を蓄積する回数のことをいう。また、フレームレートとは、動画において単位時間あたりに処理(表示又は記録)されるフレーム数を表す値のことをいう。フレームレートの単位はfps(Frames Per Second)で表される。フレームレートが高くなる程、動画における被写体(すなわち撮像される対象物)の動きが滑らかになる。
また、ゲインとは、アンプ412の利得率(増幅率)のことをいう。このゲインを変更することにより、ISO感度を変更することができる。このISO感度は、ISOで策定された写真フィルムの規格であり、写真フィルムがどの程度弱い光まで記録することができるかを表す。ただし、一般に、撮像素子100の感度を表現する場合もISO感度が用いられる。この場合、ISO感度は撮像素子100が光をとらえる能力を表す値となる。ゲインを上げるとISO感度も向上する。例えば、ゲインを倍にすると電気信号(画素信号)も倍になり、入射光の光量が半分でも適切な明るさとなる。しかし、ゲインを上げると、電気信号に含まれるノイズも増幅されるため、ノイズが多くなってしまう。
また、間引き率とは、所定領域においてすべての画素数に対する画素信号の読み出しを行わない画素数の割合をいう。例えば、所定領域の間引き率が0である場合は、その所定領域内のすべての画素から画素信号の読み出しが行われることを意味する。また、所定領域の間引き率が0.5である場合は、その所定領域内の半分の画素から画素信号を読み出しが行われることを意味する。具体的には、単位グループ131がベイヤー配列である場合、垂直方向についてベイヤー配列の単位の一つ置き、すなわち、画素単位の2画素ずつ(2行ずつ)交互に画素信号が読み出される画素と読み出されない画素とが設定される。なお、画素信号の読み出しの間引きが行われると画像の解像度が低下する。しかし、撮像素子100には2000万以上の画素が配置されているため、例えば間引き率0.5で間引きを行ったとしても、1000万以上の画素で画像を表示することができる。このため、使用者(撮影者)にとって解像度の低下は気にならないものと考えられる。
また、加算行数とは、垂直方向に隣接する画素の画素信号を加算する場合に、その加算する垂直方向の画素の数(行数)をいう。また、加算列数とは、水平方向に隣接する画素の画素信号を加算する場合に、その加算する水平方向の画素の数(列数)をいう。このような加算の処理は、例えば演算回路416において行われる。演算回路416が垂直方向又は水平方向に隣接する所定数の画素の画素信号を加算する処理を行うことにより、所定の間引き率で間引いて画素信号を読み出す処理と同じような効果を奏する。なお、上記した加算の処理において、演算回路416が加算した行数または列数で加算値を割ることにより平均値を算出するようにしてもよい。
また、デジタル化のビット数とは、信号処理回路413がA/D変換においてアナログ信号をデジタル信号に変換したときのビット数をいう。デジタル信号のビット数が多くなる程、輝度や色変化などがより詳細に表現される。
本実施形態において、蓄積条件とは、撮像素子100における電荷の蓄積に関する条件のことをいう。具体的には、蓄積条件は、上記した制御パラメータのうち、電荷の蓄積時間又は蓄積回数、フレームレート、及びゲインのことをいう。フレームレートは電荷の蓄積時間や蓄積回数に応じて変化し得るので、フレームレートが蓄積条件に含まれる。また、ゲインに応じて適正露出の光量は変化し、適正露出の光量に応じて電荷の蓄積時間又は蓄積回数も変化し得る。このため、ゲインは蓄積条件に含まれる。
また、撮像条件とは、被写体の撮像に関する条件をいう。具体的には、撮像条件は、上記した蓄積条件を含む制御パラメータのことをいう。撮像条件は、撮像素子100を制御するための制御パラメータ(例えば、電荷の蓄積時間又は蓄積回数、フレームレート、ゲイン)のほかに、撮像素子100からの信号の読み出しを制御するための制御パラメータ(例えば、間引き率)、撮像素子100からの信号を処理するための制御パラメータ(例えば、画素信号を加算する加算行数又は加算列数、デジタル化のビット数、後述する画像処理部30が画像処理を実行するための制御パラメータ)も含まれる。
図5は、第1実施形態に係る撮像装置の構成を示すブロック図である。図5に示す撮像装置1は、例えば撮像機能を備えたデジタルカメラ、スマートフォン、携帯電話、パーソナルコンピュータなどの機器で構成される。図5に示すように、撮像装置1は、レンズ部10、撮像部20、画像処理部30、ワークメモリ40、表示部50、操作部55、記録部60、及びシステム制御部70を備える。レンズ部10は、複数のレンズ群から構成された撮像光学系である。このレンズ部10は、被写体からの光束を撮像部20へ導く。このレンズ部10は、撮像装置1と一体構成であってもよく、また撮像装置1に対して着脱可能な交換式レンズであってもよい。また、このレンズ部10は、フォーカスレンズを内蔵していてもよく、またズームレンズを内蔵していてもよい。
撮像部20は、撮像素子100及び駆動部21を有している。駆動部21は、システム制御部70からの指示に従って、撮像素子100の駆動を制御する制御回路である。ここで、駆動部21は、リセットパルス及び転送パルスをそれぞれリセットトランジスタ303及び転送トランジスタ302に印加するタイミング(又はタイミングの周期)を制御することにより、制御パラメータである電荷の蓄積時間又は蓄積回数を制御する。また、駆動部21は、リセットパルス、転送パルス、及び選択パルスをそれぞれリセットトランジスタ303、転送トランジスタ302、及び選択トランジスタ305に印加するタイミング(又はタイミングの周期)を制御することにより、フレームレートを制御する。また、駆動部21は、リセットパルス、転送パルス、及び選択パルスを印加する画素を設定することにより、間引き率を制御する。
また、駆動部21は、アンプ412のゲイン(利得率、増幅率ともいう。)を制御することにより、撮像素子100のISO感度を制御する。また、駆動部21は、演算回路416に指示を送ることにより、画素信号を加算する加算行数又は加算列数を設定する。また、駆動部21は、信号処理回路413に指示を送ることにより、デジタル化のビット数を設定する。さらに、駆動部21は、撮像素子100の画素領域113Aにおけるブロックの設定を行う。このように、駆動部21は、撮像素子100に対して複数のブロックごとに異なる撮像条件で撮像させて画素信号を出力させる撮像素子制御部の機能を担う。システム制御部70は、駆動部21に対するブロックの位置、形状、範囲などの指示を行う。
撮像素子100は、撮像素子100からの画素信号を画像処理部30へ引き渡す。画像処理部30は、ワークメモリ40をワークスペースとして、各画素の画素信号からなるRAWデータに対して種々の画像処理を施し、所定のファイル形式(例えば、JPEG形式等)の画像データを生成する。なお、本明細書において、「画像データ」は、撮像部20で撮像された画像(静止画、動画、ライブビュー画像)を構成するデータであり、画像処理部30において画像処理が行われる前のデータ(すなわちRAWデータ)と画像処理が行われた後のデータとを含む。また、本明細書において、「RAWデータ」とは、画像処理部30において画像処理が行われる前の画像データのことをいう。また、本明細書において、「画像データ」のことを「画像信号」ということがある。
画像処理部30は、種々の画像処理を実行する。例えば、画像処理部30は、ベイヤー配列で得られた信号に対して色信号処理(色調補正)を行うことによりRGB画像信号を生成する。また、画像処理部30は、RGB画像信号に対して、ホワイトバランス調整、シャープネス調整、ガンマ補正、階調調整などの画像処理を行う。また、画像処理部30は、必要に応じて、所定の圧縮形式(JPEG形式、MPEG形式等)で圧縮する処理を行う。画像処理部30は、生成した画像データを記録部60に出力する。また、画像処理部30は、生成した画像データを表示部50に出力する。
画像処理部30が画像処理を行う際に参照されるパラメータも制御パラメータ(撮像条件)に含まれる。例えば、色信号処理(色調補正)、ホワイトバランス調整、階調調整、圧縮率などのパラメータが制御パラメータに含まれる。電荷の蓄積時間などに応じて撮像素子100から読み出される信号が変化し、その信号の変化に応じて画像処理を行う際に参照されるパラメータも変化する。画像処理部30は、ブロック単位ごとに異なる制御パラメータを設定し、これらの制御パラメータに基づいて色信号処理などの画像処理を実行する。
画像処理部30は、撮像部20から時系列的に得られる複数のフレームのうち所定タイミングごとのフレームを抽出する。または、画像処理部30は、撮像部20から時系列的に得られる複数のフレームのうち所定タイミングごとのフレームを廃棄する。これにより、データ量を減らすことができるため、後段処理の負荷を軽減することができる。また、画像処理部30は、撮像部20から時系列的に得られる複数のフレームに基づいて、各フレーム間に補間する1又は複数のフレームを算出する。そして、画像処理部30は、算出した1又は複数のフレームを各フレーム間に追加する。これにより、動画再生時においてより滑らかな動きの動画を再生することができる。また、駆動部21が間引き率を制御するように構成しているが、このような構成に限られない。例えば、駆動部21はすべての画素から画素信号を読み出すが、画像処理部30又は演算回路416は読み出した画素信号のうち所定の画素信号を廃棄することにより、間引き率を制御するようにしてもよい。
本実施形態では、画像処理部30は、上記した処理のほかに、撮像素子100から読み出された画像データの解析処理により手振れ量(手振れによる動き量)を算出する処理を行う。すなわち、画像処理部30は、撮像部20から時系列的に得られる複数のフレーム(少なくとも現フレームと、現フレームよりも前のフレーム)における被写体の移動方向及び移動量に基づいて手振れ量を算出する(例えば図9参照)。そして、画像処理部30は、算出した手振れ量を示す手振れ量情報をシステム制御部70に出力する。
ワークメモリ40は、画像処理部30による画像処理が行われる際に画像データなどを一時的に記憶する。表示部50は、例えば液晶表示パネルによって構成されている。表示部50は、撮像部20で撮像された画像(静止画、動画、ライブビュー画像)や各種情報を表示する。この表示部50は、図5に示すように、タッチパネル51を有している。タッチパネル51は、表示部50の表示画面上に形成されている。このタッチパネル51は、使用者が画像の選択などを行う際に、使用者が触れた位置を示す信号をシステム制御部70に出力する。
操作部55は、使用者によって操作されるレリーズスイッチ、動画スイッチ、各種の操作スイッチなどである。この操作部55は、使用者による操作に応じた信号をシステム制御部70に出力する。記録部60は、メモリカードなどの記憶媒体を装着可能なカードスロットを有する。記録部60は、カードスロットに装着された記録媒体に画像処理部30において生成された画像データや各種データを記憶する。また、記録部60は、内部メモリを有する。記録部60は、画像処理部30において生成された画像データや各種データを内部メモリに記録することも可能である。
システム制御部70は、撮像装置1の全体の処理及び動作を制御する。このシステム制御部70はCPU(Central Processing Unit)を有する。本実施形態において、システム制御部70は、撮像素子100(撮像チップ113)の撮像面(画素領域113A)を複数のブロックに分け、ブロック間において異なる電荷蓄積時間(又は電荷蓄積回数)、フレームレート、ゲインで画像を取得させる。このため、システム制御部70は、ブロックの位置、形状、範囲、及び各ブロック用の蓄積条件を駆動部21に対して指示する。また、システム制御部70は、ブロック間で異なる間引き率、画素信号を加算する加算行数又は加算列数、及びデジタル化のビット数で画像を取得させる。このため、システム制御部70は、各ブロック用の撮像条件(間引き率、画素信号を加算する加算行数又は加算列数、及びデジタル化のビット数)を駆動部21に対して指示する。また、画像処理部30は、ブロック間で異なる撮像条件(色信号処理、ホワイトバランス調整、階調調整、圧縮率などの制御パラメータ)で画像処理を実行する。このため、システム制御部70は、各ブロック用の撮像条件(色信号処理、ホワイトバランス調整、階調調整、圧縮率などの制御パラメータ)を画像処理部30に対して指示する。
また、システム制御部70は、画像処理部30において生成された画像データを記録部60に記録させる。また、システム制御部70は、画像処理部30において生成された画像データを表示部50に出力させることにより、表示部50に画像を表示させる。また、システム制御部70は、記録部60に記録されている画像データを読み出して表示部50に出力させることにより、表示部50に画像を表示させる。表示部50に表示される画像としては、静止画、動画、ライブビュー画像が含まれる。ここで、ライブビュー画像は、画像処理部30で生成された画像データを表示部50に順次出力して表示部50に表示される画像である。ライブビュー画像は、撮像部20により撮像されている被写体の画像を使用者が確認するために用いられる。ライブビュー画像は、スルー画やプレビュー画像とも呼ばれる。
本実施形態では、システム制御部70は、上記した処理のほかに、画像処理部30からの手振れ量情報が示す手振れ量に応じて撮像素子100を駆動制御する領域を選択する処理を行う。そして、システム制御部70は、選択した領域を指定する指示信号を駆動部21に出力する。駆動部21は、システム制御部70からの指示信号に基づいて、画素領域113A内の領域のみ画素信号の読み出し、その領域内の各画素の画素信号からなる画像データ(RAWデータ)を画像処理部30に転送する。なお、システム制御部70が手振れ量に応じて選択する画素領域113A内の領域を「転送領域」という。
図6は、第1実施形態に係る信号処理チップの具体的構成を示すブロック図である。なお、図6には、信号処理チップ111のほかに、撮像チップ113、メモリチップ112、画像処理部30、及びシステム制御部70も示している。
信号処理チップ111は、駆動部21の機能を担う。信号処理チップ111は、分担化された制御機能としてのセンサ制御部441、ブロック制御部442、同期制御部443、及び信号制御部444を含んでいる。また、信号処理チップ111は、センサ制御部441、ブロック制御部442、同期制御部443、及び信号制御部444を統括制御する制御部(駆動制御部)420を含んでいる。制御部420は、システム制御部70からの指示を、各制御部441〜444が実行可能な制御信号に変換してそれぞれに引き渡す。
センサ制御部441は、制御部420からの制御信号に基づいて、各画素の電荷蓄積及び電荷読み出しに関わる制御パルス(リセットパルス、転送パルス、選択パルス)を撮像チップ113に対して送出する制御を行う。具体的には、センサ制御部441は、対象画素に対してリセットパルスと転送パルスを送出することにより、電荷蓄積の開始と終了を制御する。また、センサ制御部441は、画素信号の読み出し画素に対して選択パルスを送出することにより、画素信号を出力配線309へ出力させる。
ブロック制御部442は、制御部420からの制御信号に基づいて、駆動制御される単位グループ131を特定する特定パルスを撮像チップ113に対して送出する制御を行う。上述したように、撮像素子100の画素領域113Aは、複数のブロックに分割される。複数のブロックは、1ブロックにつき単位グループ131を少なくとも1つ含む。同一のブロックに含まれる画素は、同一のタイミングで電荷蓄積を開始し、同一のタイミングで電荷蓄積を終了する。そこで、ブロック制御部442は、制御部420からの制御信号に基づいて、対象となる単位グループ131に特定パルスを送出することにより、一又は複数の単位グループ131をブロック化する。各画素がTX配線307及びリセット配線306を介して受ける転送パルス及びリセットパルスは、センサ制御部441が送出する各パルスとブロック制御部442が送出する特定パルスの論理積となる。このように、ブロック制御部442が各領域を互いに独立したブロックとして制御することにより、領域毎の電荷蓄積制御を実現する。
同期制御部443は、制御部420からの制御信号に基づいて、同期信号を撮像チップ113に対して送出する制御を行う。各パルス(リセットパルス、転送パルス、選択パルス)は、同期信号に同期して撮像チップ113においてアクティブとなる。例えば、同期制御部443が同期信号を調整することにより、同一の単位グループ131に属する画素の特定画素のみを駆動制御の対象とするランダム制御、間引き制御等を実現する。
信号制御部444は、制御部420からの制御信号に基づいて、アンプ412のゲイン(利得率、増幅率)の制御を行う。また、信号制御部444は、制御部420からの制御信号に基づいて、A/D変換器413bに対するタイミング制御を行う。出力配線309を介して出力された画素信号は、アンプ412及びCDS回路413aを経てA/D変換器413bに入力される。A/D変換器413bは、信号制御部444で制御されることにより、入力された画素信号をデジタル信号に変換する。デジタル信号に変換された画素信号は、デマルチプレクサ414に引き渡される。そして、画素信号は、デマルチプレクサ414により、それぞれの画素に対応する画素メモリ415にデジタルデータの画素値として格納される。
信号処理チップ111は、タイミングメモリ430を有する。制御部420は、システム制御部70からの指示に基づいて、いずれの単位グループ131を組み合わせてブロックを形成するかについてのブロック区分情報と、形成されたそれぞれのブロックが何回の電荷蓄積を繰り返すか(つまり、電荷蓄積のタイミング)についての蓄積回数情報とをタイミングメモリ430に格納する。タイミングメモリ430は、例えばフラッシュRAMによって構成される。制御部420は、タイミングメモリ430に格納されたブロック区分情報と蓄積回数情報とを参照することにより、ブロック単位で電荷蓄積制御を実行する。
上述したように、システム制御部70は、手振れ量に応じて撮像素子100を駆動制御する転送領域を選択する。そして、システム制御部70は、選択した転送領域を指定する指示信号を制御部420に出力する。制御部420は、システム制御部70からの指示信号に基づいて、複数の単位グループを組み合わせて転送領域に対応するブロックを形成するように制御する。
図7は、図5に示す画像処理部及びシステム制御部の機能ブロック図である。図7に示すように、画像処理部30は画像生成部31及び手振れ検出部(手振れ量算出部)32を含んでいる。画像生成部31は、撮像部20から出力される各画素の画素信号からなるRAWデータに対して種々の画像処理を施すことにより画像データを生成する。手振れ検出部32は、撮像部20から時系列的に得られる複数のフレームにおける手振れによる被写体の移動方向及び移動量に基づいて動きベクトルを検出する。動きベクトルは、基準となるフレームと、そのフレームからの動きをベクトルとして表現したものである。そして、手振れ検出部32は、検出した動きベクトルから次フレームにおける被写体の位置を予測する。手振れ検出部32は、現フレームと次フレームとの間の被写体のずれ量を手振れ量として算出(検出)する。そして、手振れ検出部32は、算出した手振れ量を示す手振れ量情報をシステム制御部70に出力する。
また、システム制御部70は、表示制御部71及び撮像制御部(駆動制御部)72を含んでいる。表示制御部71は、画像生成部31によって生成された画像データを表示部50に出力させ、表示部50の表示画面に画像(静止画、動画、ライブビュー画像)を表示させる制御を行う。撮像制御部72は、撮像素子100の駆動制御を実行する。すなわち、撮像制御部72は、例えば適正露出となるような撮像条件を指示する指示信号を駆動部21に出力する。また、撮像制御部72は、手振れ検出部32からの手振れ量情報が示す手振れ量に応じて転送領域を選択し、選択した転送領域を指定する指示信号を駆動部21に出力する。駆動部21は、撮像制御部72からの指示信号に基づいて撮像素子100において転送領域を設定する。また、駆動部21は、撮像制御部72からの指示信号で指示された撮像条件に従って、撮像素子100の転送領域を駆動制御する。
なお、システム制御部70において、表示制御部71及び撮像制御部72は、それぞれCPUが制御プログラムに基づいて処理を実行することにより実現される。
次に、第1実施形態に係る撮影動作について説明する。図8は、第1実施形態に係る撮像装置の制御方法の一例を示すフローチャートである。また、図9は、手振れ時の被写体の移動方向及び移動量を示す図であって、(A)は正常撮影時の被写体の位置を示し、(B)は手振れ撮影時の被写体の位置を示している。
図8に示す処理において、使用者により撮像装置1の電源が投入されると、撮像制御部72は、ライブビュー画像の撮影を開始する(ステップS1)。また、表示制御部71は、撮像部20で撮像されたライブビュー画像を表示部50の表示画面に表示する(ステップS2)。このとき、ライブビュー画像は被写体の動きの滑らかな画像である必要がないため、撮像制御部72は、例えば低いフレームレートで撮像するように撮像素子100を駆動制御する。また、撮像装置1の電源の投入時は、撮像制御部72は、例えば撮像素子100のすべての画素領域113Aについて駆動制御する。
画像処理部30は、撮像部20で撮像されたライブビュー画像の画像データを受け取る。そして、画像生成部31は、受け取った画像データに対して種々の画像処理を行う。また、画像生成部31は、時系列的に得られる複数のフレームにおいて動きベクトルの評価値を作成する。また、手振れ検出部32は、動きベクトルの評価値に基づいて手振れによる被写体の移動方向及び移動量を示す動きベクトルを検出する。
ここで、手振れ検出部32は、複数の被写体のうちの背景の被写体を用いて動きベクトルを検出する。人物などの移動可能な被写体の場合は、その被写体が移動しているのか、手振れによって被写体が移動しているのかについて、手振れ検出部32において判別することが困難だからである。このため、手振れ検出部32は、時系列的に得られる複数のフレームを比較して、移動する被写体を検出する。また、手振れ検出部32は、例えば特開2010−16621号公報(US2010/0002940号)に記載されているような顔検出機能を用いて人物の被写体を検出する。また、手振れ検出部32は、顔検出に加えて、例えば特開2010−16621号公報(US2010/0002940号)に記載されているように、画像データに含まれる人体を検出することにより人物の被写体を検出する。手振れ検出部32は、上記のように検出した移動する被写体以外の被写体は背景の被写体と認識する。
図9に示す例では、ライブビュー画像として、人物の被写体O1と、ビルの被写体O2を含む背景の被写体とが撮像されている。手振れ検出部32は、現フレームよりも前のフレーム(図9(A)に示す画像のフレーム)における人物の被写体O1やビルの被写体O2を含む背景の被写体を検出する。また、手振れ検出部32は、現フレーム(図9(B)に示す画像のフレーム)における人物の被写体O1やビルの被写体O2を含む背景の被写体を検出する。
そして、手振れ検出部32は、複数のフレーム間における背景の被写体の動き(位置の変化)を特定することにより、動きベクトルを検出する。図9に示す例において、(A)におけるライブビュー画像内の領域201は、使用者の手振れによって、(B)におけるライブビュー画像内に領域202の位置へ移動している。手振れ検出部32は、前フレームにおけるビルの被写体O2のエッジ部分を抽出するとともに、現フレームにおけるビルの被写体O2のエッジ部分を抽出する。手振れ検出部32は、ビルの被写体O2のエッジ部分の移動方向及び移動量を特定することにより、動きベクトル203を検出する。
手振れ検出部32は、検出した動きベクトルから次フレームにおける被写体の位置を予測する。手振れ検出部32は、現フレームと次フレームとの間の被写体のずれ量を手振れ量として算出(検出)する。そして、手振れ検出部32は、算出した手振れ量を示す手振れ量情報をシステム制御部70に出力する。このような手振れ検出部32による手振れ量を算出する処理は、フレームごとに実行される。ただし、手振れ検出部32の処理負担や消費電力を軽減するために、1フレームごとではなく、数フレームごとに手振れ量を算出する処理を実行するようにしてもよい。
撮像制御部72は、手振れ検出部32からの手振れ量情報を取得する(ステップS3)。そして、撮像制御部72は、手振れ量情報が示す手振れ量に応じてフレームごとに転送領域を選択し、選択した転送領域を指定する指示信号を駆動部21に出力する(ステップS4)。駆動部21は、撮像制御部72からの指示信号に基づいてフレームごとに撮像素子100において転送領域を設定する。また、駆動部21は、撮像素子100の転送領域を駆動制御する。このように転送領域を駆動制御する領域を選択する処理は、フレームごとに実行される。ただし、撮像制御部72や駆動部21などの処理負担や消費電力を軽減するために、1フレームごとではなく、数フレームごとに転送領域を駆動制御する領域を選択する処理を実行するようにしてもよい。
このように、撮像制御部72は、手振れ検出部32が算出した手振れ量に応じた転送領域を設定し、その転送領域のみを用いて被写体の撮像を行うように制御する。図10は、第1実施形態に係る撮像部、画像処理部、及び記録部における画像データのサイズを示す図である。図10(a1)に示すように、一般に、電子式手振れ補正では、システム制御部70は、撮像素子100の画素領域113Aにおいて撮像を行うように制御する。そして、画像処理部30において、手振れ検出部32が画像データに基づいて手振れ量を算出する。また、画像生成部31が手振れ量に基づいて、画素領域113Aの画像データのうち、記録画像サイズの領域200(記録部60への記録用の画角)の画像データだけを抽出(トリミング)する。その後、図10(a2)に示すように、記録画像サイズの領域200の画像データが、画像処理部30から記録部60に出力され、記録部60に記録される。また、記録画像サイズの領域200の画像データが、画像処理部30から表示部50に出力され、表示部50において表示される。
一方、本実施形態では、図10(b1)に示すように、撮像制御部72は、手振れ検出部32が算出した手振れ量に応じた転送領域(図10の記録画像サイズの領域)200を設定し、その転送領域200のみを用いて被写体の撮像を行うように制御する。従って、画像処理部30において、画像生成部31は、転送領域200の画像データに対してのみ画像処理を行う。そして、図10(b2)に示すように、転送領域200の画像データは、画像処理部30から記録部60に出力され、記録部60に記録される。また、転送領域200の画像データは、画像処理部30から表示部50に出力され、表示部50において表示される。
その後、撮像制御部72は、使用者によってレリーズスイッチが押されたか否かを確認することにより、静止画の記録が開始されたか否かを判定する(ステップS5)。撮像制御部72は、静止画の記録が開始されたと判定した場合は、撮像部20による静止画の撮影、及び記録部60への静止画の記録の処理を行う(ステップS6)。なお、レリーズスイッチの半押し操作が行われたことに応じて、撮像制御部72は、AF(Automatic
Focusing)やAE(Automatic Exposure)などの撮影準備を行う。そして、レリーズスイッチの半押し操作に続いて、レリーズスイッチの全押し操作が行われたことに応じて、撮像制御部72は、適正露出となるような撮像条件を決定し、その撮像条件での撮像を駆動部21に実行させるように制御する。その後、撮像制御部72は、使用者による電源をオフする操作が行われたか否かを判定する(ステップS8)。撮像制御部72は、電源をオフする操作が行われていないと判定した場合は、ステップS1〜S4の処理を繰り返し実行する。これにより、図10(b1)及び(b2)に示したように撮像素子100の転送領域のみ駆動部21により駆動制御され、画像処理部30において転送領域200の画像データのみ画像処理部30により画像処理が行われる。撮像制御部72は、使用者による電源をオフする操作が行われたと判定した場合は、処理を終了する。
撮像制御部72は、静止画の記録が開始されていないと判定した場合は、動画スイッチが押されたか否かを確認することにより、動画の記録が開始されたか否かを判定する(ステップS7)。撮像制御部72は、動画の記録が開始されたと判定した場合は、撮像部20による動画の撮影、及び記録部60への動画の記録を開始する(ステップS11)。また、表示制御部71は、撮像部20で撮影された動画を表示部50の表示画面に表示する(ステップS12)。このとき、動画はライブビュー画像よりも被写体の動きの滑らかな画像であることが好ましい。このため、撮像制御部72は、ライブビュー画像の撮影時よりも高いフレームレートで撮像するように撮像素子100を駆動制御する。
動画の撮影中においても、手振れ検出部32は、動画の各フレームに基づいて手振れ量を算出する。そして、手振れ検出部32は、算出した手振れ量を示す手振れ量情報をシステム制御部70に出力する。このような手振れ検出部32による手振れ量を算出する処理は、フレームごとに実行される。ただし、手振れ検出部32の処理負担や消費電力を軽減するために、1フレームごとではなく、数フレームごとに手振れ量を算出する処理を実行するようにしてもよい。
撮像制御部72は、手振れ検出部32からの手振れ量情報を取得する(ステップS13)。そして、撮像制御部72は、手振れ量情報が示す手振れ量に応じてフレームごとに転送領域を選択し、選択した転送領域を指定する指示信号を駆動部21に出力する(ステップS14)。駆動部21は、撮像制御部72からの指示信号に基づいてフレームごとに撮像素子100において転送領域を設定する。また、駆動部21は、撮像素子100の転送領域を駆動制御する。このように転送領域を駆動制御する領域を選択する処理は、フレームごとに実行される。ただし、撮像制御部72や駆動部21などの処理負担や消費電力を軽減するために、1フレームごとではなく、数フレームごとに転送領域を駆動制御する領域を選択する処理を実行するようにしてもよい。
その後、撮像制御部72は、動画の記録が終了されたか否かを判定する(ステップS15)。撮像制御部72は、動画の記録が終了されていないと判定した場合は、ステップS11〜S14の処理を繰り返し実行する。これにより、図10(b1)及び(b2)に示したように撮像素子100の転送領域のみ駆動部21により駆動制御され、画像処理部30において転送領域200の画像データのみ画像処理部30により画像処理が行われる。そして、撮像制御部72は、動画の記録が終了されたと判定した場合は、使用者による電源をオフする操作が行われたと判定する(ステップS8)。撮像制御部72は、使用者による電源をオフする操作が行われていないと判定した場合は、ステップS1の処理に戻り、ステップS1〜S4の処理を繰り返し実行する。撮像制御部72は、使用者による電源をオフする操作が行われたと判定した場合は、処理を終了する。
以上に説明したように、第1実施形態によれば、手振れ量を算出する手振れ量算出部32と、撮像素子100を駆動制御し、手振れ量算出部32により算出された手振れ量に応じて撮像素子100を駆動制御する領域(図10に示す転送領域200)を選択する撮像制御部72と、を備える。このような構成によれば、撮像装置1における消費電力や処理負担を軽減することができる。すなわち、一般に行われている電子式手振れ補正では、撮像素子100の画素領域113Aにおいて撮像が行われ、画像処理部30において画素領域113Aの画像データに対して種々の画像処理が行われる。その後、画像処理部30において画像処理された画素領域113Aの画像データが記録画像サイズの領域の画像データにトリミングされる。従って、画像処理部30は、実際に記録部60に記録される転送領域(記録画像サイズの領域)200以外の余分な画像データに対しても画像処理を行うことになる。具体的には、余分な画像データとして、図10に示す転送領域200の上下左右10%程度の領域の画像データが画像処理される。このため、撮像部20及び画像処理部30において消費電力が増加する。また、画像処理部30において処理負担も増加し、高速な画像処理が困難となる。これに対して、第1実施形態では、画像処理部30において転送領域(記録画像サイズの領域)200のみ画像処理が行われる。このため、手振れ補正を行うことができるとともに、撮像部20及び画像処理部30における消費電力が軽減され、また画像処理部30における処理負担も軽減される。
また、上記した第1実施形態において、撮像制御部72は、選択された撮像素子100の領域の画像信号の出力を行うので、撮像部20における消費電力や処理負担を軽減することができる。また、撮像制御部72は、フレームごとに撮像素子100を駆動制御する領域を選択するので、被写体の動きに合わせて精度よく撮像素子100を駆動制御する領域を選択することができる。
また、上記した第1実施形態では、手振れ量算出部32は、撮像素子100から読み出された画像信号の解析処理により手振れ量を算出するので、特別な機構を用いずに手振れ量を算出することができる。従って、撮像装置1のコストが増加しない。また、上記した第1実施形態では、手振れ量算出部32は、時系列で得られる画像信号における被写体の移動方向及び移動量に基づいて手振れ量を算出するので、正確な手振れ量を算出することができる。また、上記した第1実施形態では、手振れ量算出部32は、背景の被写体(例えば図9に示すビルの被写体O2)の移動方向及び移動量に基づいて手振れ量を算出するので、手振れでない被写体の動きに基づいて誤った手振れ量を算出することを回避することができる。また、上記した第1実施形態では、手振れ量算出部32は、画像信号の画像処理を実行する画像処理部30に設けられるので、電子式手振れ補正と同様又は略同様の処理により手振れ量を算出する処理を実現することができる。
<第2実施形態>
上記した第1実施形態では、手振れ検出部32が複数のフレームに基づいて手振れ量を算出するように構成していた。これに対して、第2実施形態では、システム制御部70が加速度センサからの加速度情報に基づいて手振れ量を算出する。そして、システム制御部70は、算出した手振れ量に基づいて転送領域を選択する。
図11は、第2実施形態に係る撮像装置の構成を示すブロック図である。図11に示すように、第2実施形態における撮像装置1Aは、加速度センサ65が設けられている。この加速度センサ65は、センサ自体の加速度(ここでは角加速度)を検出するセンサである。この加速度センサ65として、XYZ軸の3方向の加速度を検出することが可能な3軸加速度センサを用いる。この加速度センサ65は、検出した加速度を表す加速度情報をシステム制御部70に出力する。また、画像処理部30Aは、図5に示した画像処理部30と同様に種々の画像処理を行うが、手振れ量を算出する処理については行わない。また、システム制御部70Aは、図5に示したシステム制御部70が実行する処理のほかに、加速度センサ65からの加速度情報が示す加速度に基づいて手振れ量を算出する処理を行う。なお、図11に示す撮像装置1Aのうち、レンズ部10、撮像部20、画像処理部30、ワークメモリ40、表示部50、操作部55、及び記録部60の構成は、図5に示した構成と同様である。従って、同一構成には同一符号を付し、重複する説明を省略する。
図12は、図11に示す画像処理部及びシステム制御部の機能ブロック図である。図12に示すように、第2実施形態における画像処理部30Aは、画像生成部31のみ含んでいる。すなわち、画像処理部30Aは、図7に示した画像処理部30と異なり、手振れ検出部32が設けられていない。また、第2実施形態におけるシステム制御部70Aは、図7に示したシステム制御部70と異なり、表示制御部71及び撮像制御部72のほかに、手振れ補正部(手振れ量算出部)73を含んでいる。手振れ補正部73は、加速度センサ65からの加速度情報が示す加速度に基づいて手振れ量を算出する処理を行う。具体的には、手振れ補正部73は、加速度情報が示す加速度の方向に基づいて手振れの方向を特定する。また、手振れ補正部73は、加速度情報が示す加速度の値に対応した手振れ量を算出する。本実施形態では、撮像制御部72は、手振れ補正部73が算出した手振れ量に基づいて、転送領域を指定する指示信号を駆動部21に出力する。駆動部21は、撮像制御部72からの指示信号に基づいて転送領域を設定する。そして、駆動部21は、転送領域を駆動制御する。
なお、図11に示す構成のうち、画像生成部31、表示制御部71、及び撮像制御部72の構成は、図7に示した構成と同様である。従って、同一構成には同一符号を付し、重複する説明を省略する。
図13は、第2実施形態に係る撮像装置の制御方法の一例を示すフローチャートである。図13に示す処理において、使用者により撮像装置1の電源が投入されると、手振れ補正部73は、加速度センサ65からの加速度情報を取得する(ステップS21)。また、撮像制御部72は、ライブビュー画像の撮影を開始する(ステップS22)。また、表示制御部71は、撮像部20で撮像されたライブビュー画像を表示部50の表示画面に表示する(ステップS23)。なお、ステップS22及びS23の処理は、図8に示すステップS1及びS2の処理に相当する。
手振れ補正部73は、加速度センサ65からの加速度情報に基づいて手振れ量を算出する(ステップS24)。すなわち、手振れ補正部73は、加速度情報が示す加速度の方向に基づいて手振れの方向を特定する。また、手振れ補正部73は、加速度情報が示す加速度の値に基づいて、次フレームにおける被写体の位置を予測する。そして、手振れ補正部73は、予測した被写体の位置に対応する手振れ量を算出する。そして、撮像制御部72は、手振れ補正部73が算出した手振れ量に応じてフレームごとに転送領域を選択し、選択した転送領域を指定する指示信号を駆動部21に出力する(ステップS25)。駆動部21は、撮像制御部72からの指示信号に基づいてフレームごとに撮像素子100において転送領域を設定する。また、駆動部21は、撮像素子100の転送領域を駆動制御する。このように転送領域を駆動制御する領域を選択する処理は、フレームごとに実行される。ただし、撮像制御部72や駆動部21などの処理負担や消費電力を軽減するために、1フレームごとではなく、数フレームごとに転送領域を駆動制御する領域を選択する処理を実行するようにしてもよい。
その後、撮像制御部72は、使用者によってレリーズスイッチが押されたか否かを確認することにより、静止画の記録が開始されたか否かを判定する(ステップS26)。撮像制御部72は、静止画の記録が開始されたと判定した場合は、撮像部20による静止画の撮影、及び記録部60への静止画の記録の処理を行う(ステップS27)。なお、ステップS26及びS27の処理は、図8に示したステップS5及びS6の処理に相当する。その後、撮像制御部72は、使用者による電源をオフする操作が行われたか否かを判定する(ステップS29)。撮像制御部72は、電源をオフする操作が行われていないと判定した場合は、ステップS21〜S25の処理を繰り返し実行する。これにより、撮像素子100の転送領域のみ駆動部21により駆動制御され、画像処理部30において転送領域200の画像データのみ画像処理部30により画像処理が行われる(第1実施形態における図10参照)。撮像制御部72は、使用者による電源をオフする操作が行われたと判定した場合は、処理を終了する。
撮像制御部72は、静止画の記録が開始されていないと判定した場合は、動画スイッチが押されたか否かを確認することにより、動画の記録が開始されたか否かを判定する(ステップS28)。動画の記録が開始されたと判定した場合は、手振れ補正部73は、加速度センサ65からの加速度情報を取得する(ステップS30)。また、撮像制御部72は、撮像部20による動画の撮影、及び記録部60への動画の記録を開始する(ステップS31)。また、表示制御部71は、撮像部20で撮影された動画を表示部50の表示画面に表示する(ステップS32)。なお、ステップS28、S31、及びS32の処理は、図8に示したステップS7、S11、及びS12の処理に相当する。
手振れ補正部73は、加速度センサ65からの加速度情報に基づいて手振れ量を算出する(ステップS33)。そして、撮像制御部72は、手振れ補正部73が算出した手振れ量に応じてフレームごとに転送領域を選択し、選択した転送領域を指定する指示信号を駆動部21に出力する(ステップS34)。駆動部21は、撮像制御部72からの指示信号に基づいてフレームごとに撮像素子100において転送領域を設定する。また、駆動部21は、撮像素子100の転送領域を駆動制御する。このように転送領域を駆動制御する領域を選択する処理は、フレームごとに実行される。ただし、撮像制御部72や駆動部21などの処理負担や消費電力を軽減するために、1フレームごとではなく、数フレームごとに転送領域を駆動制御する領域を選択する処理を実行するようにしてもよい。
その後、撮像制御部72は、動画の記録が終了されたか否かを判定する(ステップS35)。撮像制御部72は、動画の記録が終了されていないと判定した場合は、ステップS30〜S34の処理を繰り返し実行する。これにより、撮像素子100の転送領域のみ駆動部21により駆動制御され、画像処理部30において転送領域200の画像データのみ画像処理部30により画像処理が行われる(図10参照)。そして、撮像制御部72は、動画の記録が終了されたと判定した場合は、使用者による電源をオフする操作が行われたと判定する(ステップS29)。撮像制御部72は、使用者による電源をオフする操作が行われていないと判定した場合は、ステップS21の処理に戻り、ステップS21〜S25の処理を繰り返し実行する。撮像制御部72は、使用者による電源をオフする操作が行われたと判定した場合は、処理を終了する。
以上のように、第2実施形態によれば、上記した第1実施形態と同様に、撮像装置1における消費電力や処理負担を軽減することができる。また、上記した第2実施形態では、加速度を検出する加速度センサ65を備え、手振れ量算出部32は、加速度センサ65からの加速度に基づいて手振れ量を算出するので、加速度センサ65を用いて正確な手振れ量を算出することができる。
なお、上記した第2実施形態においては、システム制御部70は、加速度情報に基づいて算出される手振れ量を、転送領域の選択にのみ利用していた。しかし、システム制御部70は、加速度情報に基づいて算出される手振れ量を光学式手振れ補正に利用してもよい。例えば、システム制御部70は、加速度センサ65からの加速度情報に基づいて手振れ量を算出する。そして、システム制御部70は、手振れ量に基づいて、レンズ部10の一部又は全部のレンズを動かすことによって手振れによる像のずれを補正する。または、システム制御部70は、手振れ量に基づいて、撮像素子100自体を動かすことによって手振れによる像のずれを補正する。または、システム制御部70は、レンズ部10の一部又は全部のレンズと撮像素子100自体とを動かすことによって手振れによる像のずれを補正する。
レンズ部10のレンズを動かす場合は、システム制御部70は、レンズ部10に対して手振れ量に応じた制御信号を出力する。レンズ部10は、システム制御部70からの制御信号に基づいて駆動装置(図示せず)を駆動させることにより、制御信号が示す方向及び移動量だけ、一部又は全部のレンズを移動させる制御を行う。また、撮像素子100を動かす場合は、システム制御部70は、撮像部20に対して手振れ量に応じた制御信号を出力する。撮像部20は、システム制御部70からの制御信号に基づいて駆動装置(図示せず)を駆動させることにより、制御信号が示す方向及び移動量だけ、撮像素子100を移動させる制御を行う。
このような構成の場合は、レンズ部10のレンズや撮像素子100自体が手振れ量に合わせて移動するので、手振れによる像のずれが補正される。しかし、光学式手振れ補正だけでは手振れによる像のずれが補いきれない場合がある。例えば、手振れの速度が速く、手振れの速度に追従させてレンズ等を動かすことが困難な場合などである。その場合、システム制御部70が、光学式手振れ補正で補いきれない像のずれに応じた転送領域を選択する。
具体的には、手振れ補正部73は、加速度センサ65からの加速度情報に基づいて手振れ量を算出する。そして、手振れ補正部73は、算出した手振れ量が所定の閾値以上であるか否かを判定する。手振れ補正部73は、手振れ量が所定の閾値以上であると判定した場合は、所定の閾値内の値を第1手振れ量として決定する。そして、手振れ補正部73は、第1手振れ量に応じた制御信号をレンズ部10や撮像部20に対して出力する。レンズ部10や撮像部20は、手振れ補正部73からの制御信号に基づいて、レンズや撮像素子100自体を移動させる。
また、手振れ補正部73は、加速度情報に基づき算出した手振れ量から第1手振れ量を引いた値を第2手振れ量として決定する。そして、撮像制御部72は、第2手振れ量に応じた転送領域を選択する。撮像制御部72は、選択した転送領域を指定する指示信号を駆動部21に出力する。駆動部21は、手振れ補正部73からの指示信号に基づいて転送領域において駆動制御を実行する。なお、撮像制御部72が第2手振れ量に基づいて選択する転送領域は、記録画像サイズの領域よりも大きな領域であることが好ましい。撮像制御部72が、光学式手振れ補正によるレンズや撮像素子100の移動量を考慮した上で、像のずれに合わせた記録画像サイズの転送領域を予測することは困難だからである。このような構成によっても、撮像装置1における消費電力や処理負担を軽減することができる。
なお、撮像制御部72が手振れ量に基づく転送領域の選択だけでは手振れによる像のずれが補いきれない場合に、光学式手振れ補正で像のずれを補正するようにしてもよい。
<第3実施形態>
上記した第1実施形態では、手振れ検出部32が複数のフレームに基づいて手振れ量を算出するように構成していた。また、上記した第2実施形態では、システム制御部70が加速度センサからの加速度情報に基づいて手振れ量を算出していた。これに対して、第3実施形態では、演算回路416が複数のフレームに基づいて手振れ量を算出し、または、演算回路416が加速度センサ65からの加速度情報に基づいて手振れ量を算出する。そして、演算回路416は、算出した手振れ量に基づいて転送領域を選択する。
図14は、第3実施形態に係る信号処理チップの具体的構成を示すブロック図である。図14に示す信号処理チップ111において、演算回路416は、画素メモリ415から各画素の画像データ(画像処理部30による画像処理前のRAWデータ)を読み出す。そして、演算回路416は、複数の画像データ(フレーム)に基づいて手振れ量を算出する。または、演算回路416は、加速度センサ65と接続され、加速度センサ65からの加速度情報を取得する。そして、演算回路416は、加速度センサ65からの加速度情報に基づいて手振れ量を算出する。また、演算回路416は、算出した手振れ量に基づいて転送領域を選択する。そして、演算回路416は、選択した転送領域を指定する制御信号を制御部420に出力する。なお、図14に示す構成のうち、加速度センサ65が設けられている以外は、図6に示した構成と同様である。従って、同一構成には同一符号を付し、重複する説明を省略する。
図15は、第3実施形態に係る撮像装置の制御方法の一例を示すフローチャートである。図15(M)は、演算回路416が画像データに基づいて手振れ量を算出する場合を示し、図15(N)は、演算回路416が加速度情報に基づいて手振れ量を算出する場合を示す。演算回路416が図15(M)及び(N)の処理を実行する前に、撮像制御部72が指示信号を制御部420に出力することにより、撮像素子100による撮像が開始されている。
図15(M)に示す処理について説明する。図15(M)に示すように、演算回路416は、画素メモリ415に格納されている各画素の画像データ(RAWデータ)をフレームごとに読み出す(ステップS41M)。そして、演算回路416は、画素メモリ415から時系列的に読み出した複数のフレームに基づいて手振れ量を算出する(ステップS42M)。このステップS42Mの処理(手振れ量の算出処理)としては、上記した手振れ検出部32による手振れ量の算出処理(第1実施形態で説明した手振れ量の算出処理)と同じ処理を用いることが可能である。すなわち、演算回路416は、時系列的に得られる複数のフレームにおける手振れによる被写体(背景の被写体のエッジ部分)の移動方向及び移動量に基づいて動きベクトルを検出する。そして、演算回路416は、検出した動きベクトルから次フレームにおける被写体の位置を予測する。演算回路416は、現フレームと次フレームとの間の被写体のずれ量を手振れ量として算出(検出)する。そして、演算回路416は、算出した手振れ量を示す制御信号を制御部420に出力する。このような演算回路416による手振れ量を算出する処理は、フレームごとに実行される。ただし、演算回路416の処理負担や消費電力を軽減するために、1フレームごとではなく、数フレームごとに手振れ量を算出する処理を実行するようにしてもよい。
上記した第1実施形態では、手振れ検出部32は、画像生成部31により画像処理された画像データに基づいて動きベクトルを算出していた。一方、第3実施形態では、演算回路416は、画像生成部31により画像処理される前の画像データ(すなわちRAWデータ)に基づいて動きベクトルを算出している。RAWデータは、色信号処理やガンマ補正などの画像処理が行われていない状態の単色の画像データである。上述したように、演算回路416は、画像データにおける背景の被写体のエッジ部分だけを抽出して、そのエッジ部分がどのくらい移動したかを判断することにより、被写体の動きベクトルを算出する。従って、画像データの色成分に関係なく、動きベクトルを算出することができる。このため、演算回路416は、画像生成部31により画像処理される前の画像データ(すなわちRAWデータ)に基づいて動きベクトルを算出することが可能である。
演算回路416は、ステップS42Mで算出した手振れ量に対応する転送領域を指定する制御信号を制御部420に出力する(ステップS43M)。制御部420は、演算回路416からの制御信号を、センサ制御部441、ブロック制御部442、及び同期制御部443が実行可能な制御信号に変換し、それらセンサ制御部441、ブロック制御部442、及び同期制御部443に出力する。
上述したように、センサ制御部441は、制御部420からの制御信号に基づいて、転送領域の各画素に対してリセットパルスと転送パルスを送出することにより、電荷蓄積の開始と終了を制御する。また、センサ制御部441は、転送領域の各画素に対して選択パルスを送出することにより、画素信号を出力配線309へ出力させる。また、ブロック制御部442は、制御部420からの制御信号に基づいて、転送領域の単位グループ131を特定する特定パルスを撮像チップ113に対して送出する。これにより、画素領域113Aのうちの転送領域の各画素について電荷蓄積制御が実行され、転送領域の各画素から画素信号の読み出しが行われる。
次に、図15(N)に示す処理について説明する。図15(N)に示すように、演算回路416は、加速度センサ65から加速度情報を取得する(ステップS41N)。そして、演算回路416は、加速度センサ65からの加速度情報に基づいて手振れ量を算出する(ステップS42N)。このステップS42Nの処理(手振れ量の算出処理)としては、上記した手振れ補正部73による手振れ量の算出処理(第2実施形態で説明した手振れ量の算出処理)と同じ処理を用いることが可能である。すなわち、演算回路416は、加速度情報が示す加速度の方向に基づいて手振れの方向を特定する。また、手振れ補正部73は、加速度情報が示す加速度の値に基づいて、次フレームにおける被写体の位置を予測する。そして、手振れ補正部73は、予測した被写体の位置に対応する手振れ量を算出する。このような演算回路416による手振れ量を算出する処理は、フレームごとに実行される。ただし、演算回路416の処理負担や消費電力を軽減するために、1フレームごとではなく、数フレームごとに手振れ量を算出する処理を実行するようにしてもよい。
演算回路416は、ステップS42Nで算出した手振れ量に対応する転送領域を指定する制御信号を制御部420に出力する(ステップS43N)。制御部420が演算回路416からの制御信号に基づいて、センサ制御部441及びブロック制御部442に対して制御信号を出力する。センサ制御部441及びブロック制御部442は、画素領域113Aのうちの転送領域の各画素について電荷蓄積制御を実行し、転送領域の各画素から画素信号の読み出しを行うように制御する。
図16は、第3実施形態に係る撮像部及び画像処理部における画像データのサイズを示す図である。図16(c1)に示すように、信号処理チップ111(すなわち、制御部420、センサ制御部441、ブロック制御部442)は、信号処理チップ111(すなわち演算回路416)が算出した手振れ量に応じた転送領域(図16の記録画像サイズの領域)200を撮像チップ113の画素領域113Aにおいて設定する。そして、撮像チップ113は、転送領域200のみを用いて被写体の撮像を行うように制御する。また、信号処理チップ111は、撮像チップ113から転送領域200の画像データを受け取ると、その画像データに対して所定の信号処理(アンプ412による増幅、CDS413aによるCDS処理、A/D413bによるA/D変換処理)を行う。そして、信号処理チップ111は、メモリチップ112の画素メモリ415に画像データを格納する。
その後、図16(c2)に示すように、画素メモリ415に格納された転送領域の各画素の画像データ(RAWデータ)が、制御部420による制御に従って画像処理部30に転送される。画像処理部30において、画像生成部31は転送領域の画像データに対して各種の画像処理を行う。画像処理部30は、画像処理した画像データを記録部60に出力する。これにより、転送領域(記録画像サイズの領域)の画像データが記録部60に記録される。また、画像処理部30は、画像処理した画像データを表示部50に出力する。これにより、転送領域の画像データが表示部50の表示画面に表示される。
以上に説明したように、第3実施形態によれば、上記した第1実施形態及び第2実施形態と同様に、撮像装置1における消費電力や処理負担を軽減することができる。また、画像処理部30やシステム制御部70において手振れ量を算出する必要がないため、画像処理部30やシステム制御部70の処理を軽減することができる。
また、上記した第3実施形態では、撮像素子100、駆動制御部(制御部420、センサ制御部441、ブロック制御部442、同期制御部443)、及び手振れ量算出部(演算回路416)が一体構成されている。すなわち、撮像チップ113、信号処理チップ111、及び撮像チップ113が積層され、信号処理チップ111の演算回路416において手振れ量を算出するようにしている。従って、撮像素子100等が一体構成されたチップを撮像装置1に組み込むだけで、手振れ量に応じて転送領域を選択する構成を実現することができる。
なお、上記した第3実施形態においては、信号処理チップ111は、加速度情報に基づいて算出される手振れ量を、転送領域の選択にのみ利用していた。しかし、信号処理チップ111は、加速度情報に基づいて算出される手振れ量を光学式手振れ補正に利用してもよい。例えば、信号処理チップ111の制御部420は、演算回路416が加速度情報に基づいて算出した手振れ量に基づいて、レンズ部10の一部又は全部のレンズを動かすことによって手振れによる像のずれを補正する。または、制御部420は、手振れ量に基づいて、撮像素子100自体を動かすことによって手振れによる像のずれを補正する。または、制御部420は、レンズ部10の一部又は全部のレンズと撮像素子100自体とを動かすことによって手振れによる像のずれを補正する。
このような構成の場合においても、上記した第2実施形態で説明したように、光学式手振れ補正だけでは手振れによる像のずれが補いきれない場合がある。その場合、制御部420が、光学式手振れ補正で補いきれない像のずれに応じた転送領域を選択する。
具体的には、制御部420は、演算回路416が算出した手振れ量が所定の閾値以上であるか否かを判定する。制御部420は、手振れ量が所定の閾値以上であると判定した場合は、所定の閾値内の値を第1手振れ量として決定する。そして、制御部420は、第1手振れ量に応じた制御信号をレンズ部10や撮像部20に対して出力する。レンズ部10や撮像部20は、手振れ補正部73からの制御信号に基づいて、レンズや撮像素子100自体を移動させる。
また、制御部420は、加速度情報に基づき算出した手振れ量から第1手振れ量を引いた値を第2手振れ量として決定する。そして、制御部420は、第2手振れ量に応じた転送領域を選択する。制御部420は、選択した転送領域を指定する制御信号をセンサ制御部441やブロック制御部442に出力する。センサ制御部441やブロック制御部442は、制御部420からの制御信号に基づいて転送領域において駆動制御を実行する。なお、制御部420が第2手振れ量に基づいて選択する転送領域は、記録画像サイズの領域よりも大きな領域であることが好ましい。制御部420が、光学式手振れ補正によるレンズや撮像素子100の移動量を考慮した上で、像のずれに合わせた記録画像サイズの転送領域を予測することは困難だからである。このような構成によっても、撮像装置1における消費電力や処理負担を軽減することができる。
なお、制御部420が手振れ量に基づく転送領域の選択だけでは手振れによる像のずれが補いきれない場合に、光学式手振れ補正で像のずれを補正するようにしてもよい。
<第4実施形態>
上記した第1実施形態、第2実施形態、及び第3実施形態では、手振れ量に応じて撮像素子100を駆動制御する転送領域が変更されるように構成されていた。これに対して、第4実施形態では、駆動部21は、撮像素子100のすべての画素領域113Aに対して駆動制御を実行する。また、駆動部21は、撮像素子100から読み出された画像データのうち、手振れ量に応じた領域の画像データを画像処理部30に出力する。
図17は、第4実施形態に係る撮像部及び画像処理部における画像データのサイズを示す図である。図17(d1)に示すように、駆動部21(制御部420、センサ制御部441、ブロック制御部442、同期制御部443)は、撮像素子100の画素領域113Aを分割せずに、すべての画素領域113Aに対して駆動制御を実行する。そして、駆動部21は、撮像素子100の画素領域113Aの各画素から画素信号を読み出す。一方、上記した第3実施形態と同様に、演算回路416は、複数のフレームに基づいて手振れ量を算出する。または、上記した第3実施形態と同様に、演算回路416は、加速度センサ65からの加速度情報に基づいて手振れ量を算出する。そして、演算回路416は、算出した手振れ量を示す制御信号を制御部420に出力する。
図17(d2)に示すように、制御部(信号出力部)420は、画素メモリ415に格納された画像データ(RAWデータ)のうち、手振れ量に対応する転送領域(記録画像サイズの領域)200の画像データをフレームごとに画像処理部30に出力させる。画像処理部30において、画像生成部31は転送領域の画像データに対して各種の画像処理を行う。画像処理部30は、画像処理した画像データを記録部60に出力する。これにより、転送領域(記録画像サイズの領域)の画像データが記録部60に記録される。また、画像処理部30は、画像処理した画像データを表示部50に出力する。これにより、転送領域の画像データが表示部50の表示画面に表示される。
以上に説明したように、第4実施形態によれば、撮像素子100を有する撮像部21と、撮像部21から出力される画像信号について画像処理を実行する画像処理部30と、を備え、撮像部21は、手振れ量を算出する手振れ量算出部(演算回路416)と、撮像素子100から読み出された画像信号のうち、手振れ量算出部416により算出された手振れ量に応じた領域200の画像信号を画像処理部30に出力する信号出力部(制御部420)と、を有する。このような構成によれば、画像処理部30が転送領域200に対してのみ画像処理を行えばよいため、画像処理部30における消費電力や処理負担を軽減することができる。
また、上記した第4実施形態では、信号出力部420は、フレームごとに手振れ量に応じた領域200の画像信号を画像処理部に出力するので、被写体の動きに合わせて精度よく手振れ量に応じた領域200を選択することができる。また、上記した第4実施形態では、加速度を検出する加速度センサ65を備え、手振れ量算出部416は、加速度センサ65からの加速度に基づいて手振れ量を算出する。このような構成によれば、加速度センサ65を用いて正確な手振れ量を算出することができる。また、上記した第4実施形態によれば、手振れ量算出部416は、撮像素子100から読み出された画像信号の解析処理により手振れ量を算出するので、特別な機構を用いずに手振れ量を算出することができる。従って、撮像装置1のコストが増加しない。
<第5実施形態>
第5実施形態では、上記した第2実施形態における撮像装置1Aを、撮像装置2Aと電子機器2Bとに分離した構成としている。
図18は、第5実施形態に係る撮像装置及び電子機器の構成を示すブロック図である。図18に示す構成において、撮像装置2Aは、被写体の撮像を行う装置である。この撮像装置2Aは、レンズ部10、撮像部20、画像処理部30A、ワークメモリ40、操作部55、記録部60、加速度センサ65、及び第1システム制御部75を備える。なお、撮像装置2Aのうち、レンズ部10、撮像部20、画像処理部30A、ワークメモリ40、操作部55、記録部60、及び加速度センサ65の構成は、図11に示した構成と同様である。従って、同一構成には同一符号を付し、重複する説明を省略する。
また、電子機器2Bは、画像(静止画、動画、ライブビュー画像)の表示を行う装置である。この電子機器2Bは、表示部50及び第2システム制御部75を備える。なお、電子機器2Bのうちの表示部50の構成は、図11に示した構成と同様である。従って、同一構成には同一符号を付し、重複する説明を省略する。
第1システム制御部75は、第1通信部75Aを有している。また、第2システム制御部76は、第2通信部76Bを有している。第1通信部75Aと第2通信部76Bとは、互いに有線又は無線で信号を送受信する。また、第1システム制御部75は、図11に示す構成のうち、例えば撮像制御部72及び手振れ補正部73に相当する構成を有している。また、第2システム制御部76は、図11に示す構成のうち、例えば表示制御部71に相当する構成のみ有している。
図11に示す構成(表示制御部71、制御部72、及び選択部73)は、第1システム制御部75と第2システム制御部76のいずれに設けられてもよい。図11に示すすべての構成は、第1システム制御部75又は第2システム制御部76に設けられてもよく、また図11に示す構成の一部が第1システム制御部75に設けられ、図11に示す構成の一部以外の構成が第2システム制御部76に設けられてもよい。
なお、撮像装置2Aは、例えば撮像機能と通信機能を備えたデジタルカメラ、スマートフォン、携帯電話、パーソナルコンピュータなどで構成され、電子機器2Bは、例えば表示機能と通信機能を備えたスマートフォン、携帯電話、携帯型パーソナルコンピュータなどの携帯端末で構成される。
図18に示す第1システム制御部75は、CPU(図示せず)が制御プログラムに基づいて処理を実行することにより実現される。また、図18に示す第2システム制御部76は、CPU(図示せず)が制御プログラムに基づいて処理を実行することにより実現される。
なお、図18に示す構成において、画像処理部30と第1システム制御部75とは一体で構成されてもよい。この場合、1つ又は複数のCPUを有するシステム制御部が制御プログラムに基づいて処理を行うことにより画像処理部30の機能と第1システム制御部75の機能を担う。
また、上記した第1実施形態における撮像装置1を、図18に示した分離の仕方と同様又は略同様に、撮像装置と電子機器とに分離してもよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は、上記実施の形態に記載の範囲には限定されない。本発明の趣旨を逸脱しない範囲で、上記実施の形態に、多様な変更または改良を加えることが可能である。また、上記の実施形態で説明した要件の1つ以上は、省略されることがある。そのような変更または改良、省略した形態も本発明の技術的範囲に含まれる。また、上記した実施形態や変形例の構成を適宜組み合わせて適用することも可能である。
上記した第1実施形態(図8参照)において、手振れ検出部32は、手振れ量を算出する処理を、ライブビュー画像の撮影時のみ又は動画の撮影時のみ実行するようにしてもよい。また、撮像制御部72は、手振れ量情報を取得する処理(ステップS3,S13)及び転送領域を指定する処理(ステップS4,S14)を、ライブビュー画像の撮影時のみ又は動画の撮影時のみ実行するようにしてもよい。すなわち、撮像制御部72は、ステップS3及びS4の処理のみ実行するようにしてもよく、またステップS13及びS14の処理のみ実行するようにしてもよい。
また、上記した第2実施形態(図13参照)において、手振れ補正部73及び撮像制御部72は、手振れ量を算出する処理(ステップS24,S33)及び転送領域を指定する処理(ステップS25,S34)を、ライブビュー画像の撮影時のみ又は動画の撮影時のみ実行するようにしてもよい。すなわち、撮像制御部72は、ステップS24及びS25の処理のみ実行するようにしてもよく、またステップS33及びS34の処理のみ実行するようにしてもよい。
また、上記した第1実施形態において、手振れ検出部32は、動画の撮影中においてのみ、手振れ量を算出する処理をフレームごとに実行し、ライブビュー画像の撮影中においては、手振れ量を算出する処理を数フレームごとに実行するようにしてもよい。また、上記した第2実施形態において、手振れ補正部73は、動画の撮影中においてのみ、手振れ量を算出する処理をフレームごとに実行し、ライブビュー画像の撮影中においては、手振れ量を算出する処理を数フレームごとに実行するようにしてもよい。このような構成によれば、ライブビュー画像の撮影中における手振れ検出部32や手振れ補正部73の処理負担や消費電力を軽減することができる。
また、上記した第1実施形態及び第2実施形態において、ライブビュー画像のフレームレートや動画のフレームレートによっては、撮像制御部72が駆動部21に対して転送領域を指定する指示信号を出力してから駆動部21が転送領域を駆動制御するまでに、撮像素子100において数フレーム分の信号の読み出しが行われることがある。このような場合は、手振れ検出部32及び手振れ補正部73は、現フレームから数フレームあとのフレームにおける被写体の位置を予測する。手振れ検出部32及び手振れ補正部73は、現フレームと、現フレームから数フレームあとのフレームとの間の被写体のずれ量を手振れ量として算出(検出)する。そして、手振れ検出部32及び手振れ補正部73は、算出した手振れ量を示す手振れ量情報をシステム制御部70に出力する。
また、上記した第3実施形態において、演算回路416は、複数のフレームから手振れ量を算出する処理(図15(M)参照)と、加速度情報から手振れ量を算出する処理(図15(N)参照)とを実行するようにしてもよい。この場合、演算回路416は、2つの処理に基づいて手振れ量を算出することにより、より精度の高い手振れ量を求めることができる。
なお、上記した各実施形態において、転送領域の指定の仕方としては、例えば、撮像制御部72などが、転送領域の開始位置の座標、転送領域の横方向のサイズ、転送領域の縦方向のサイズを指定する。また、上記した第2実施形態、第3実施形態、及び第4実施形態においては、加速度(角加速度)を検出する加速度センサ65を設けていたが、角速度を検出するジャイロを設けてもよい。この場合も、手振れ補正部73や演算回路416は、ジャイロが検出した角速度を示す角速度情報に基づいて手振れ量を算出することが可能である。また、加速度センサ65として3軸加速度センサを用いることとしていたが、5軸加速度センサなどであってもよい。
また、上記した第1実施形態において、手振れ検出部32は、時系列で得られる複数の画像データにおけるR,G,Bの各成分のデータ(輝度値など)に基づいて動きベクトルを算出してもよいし、R,G,Bのいずれか一つ又は二つのデータだけに基づいて動きベクトルを算出してもよい。
また、上記した各実施形態において、転送領域は記録画像サイズの領域(つまり、記録部60への記録用の画角)とされていたが、記録画像サイズよりも大きなサイズの領域であってもよい。
また、上記した各実施形態において、カラーフィルタ102の配列がベイヤー配列とされていたが、この配列以外の配列であってもよい。また、単位グループ131を形成する画素の数は、少なくとも1つの画素を含んでいればよい。また、ブロックも少なくとも1画素を含んでいればよい。従って、1画素ごとに異なる撮像条件で撮像を実行することも可能である。
また、上記した各実施形態において、駆動部21は、一部又はすべての構成が撮像チップ113に搭載されてもよいし、一部又はすべての構成が信号処理チップ111に搭載されてもよい。また、画像処理部30の一部の構成が撮像チップ113又は信号処理チップ111に搭載されてもよい。また、システム制御部70の一部の構成が撮像チップ113又は信号処理チップ111に搭載されてもよい。
また、上記した各実施形態では、ブロックの領域の大きさが予め設定されている場合について説明したが、使用者がブロックの領域の大きさを設定するように構成してもよい。