以下、添付図面に従って本発明に係る撮像装置の実施の形態の一例について説明する。
[第1実施形態]
図1は、第1実施形態に係る撮像装置100の外観の一例を示す斜視図であり、図2は、図1に示す撮像装置100の背面図である。
撮像装置100は、レンズ交換式カメラである。撮影装置100は、カメラ本体200と、カメラ本体200に交換可能に装着される交換レンズ300と、を含み、レフレックスミラーが省略されたデジタルカメラである。交換レンズ300は、手動操作により光軸方向に移動可能なフォーカスレンズ302を有する撮影レンズ16(図3参照)を含む。レフレックスミラーが省略されたデジタルカメラである。また、カメラ本体200には、ハイブリッドファインダー(登録商標)220が設けられている。ここで言うハイブリッドファインダー220とは、例えば光学ビューファインダー(以下、「OVF」という)及び電子ビューファインダー(以下、「EVF」という)が選択的に使用されるファインダーを指す。
交換レンズ300は、カメラ本体200に対して交換可能に装着される。また、交換レンズ300の鏡筒にはフォーカスリング301が設けられている。フォーカスリング301の手動による回転操作に伴ってフォーカスレンズ302は光軸方向に移動し、被写体距離に応じた合焦位置で後述の撮像素子20(図3参照)に被写体光が結像される。
カメラ本体200の前面には、ハイブリッドファインダー220に含まれるOVFのファインダー窓241が設けられている。また、カメラ本体200の前面には、ファインダー切替えレバー(ファインダー切替え部)214が設けられている。ファインダー切替えレバー214を矢印SW方向に回動させると、OVFで視認可能な光学像とEVFで視認可能な電子像(ライブビュー画像)との間で切り換わるようになっている(後述)。なお、OVFの光軸L2は、交換レンズ300の光軸L1とは異なる光軸である。また、カメラ本体200の上面には、主としてレリーズスイッチ211及び撮影モードや再生モード等の設定用のダイヤル212が設けられている。
撮影準備指示部及び撮影指示部としてのレリーズスイッチ211は、待機位置から中間位置(半押し位置)まで押下される状態(撮影準備指示状態)と、中間位置を超えた最終押下位置(全押し位置)まで押下される状態(撮影指示状態)と、の2段階の押圧操作が検出可能に構成されている。なお、以下では、「待機位置から半押し位置まで押下される状態」を「半押し状態」といい、「待機位置から全押し位置まで押下される状態」を「全押し状態」という。
本第1実施形態に係る撮像装置100では、レリーズボタン211を半押し状態にすることにより撮影条件の調整が行われ、その後、引き続き全押し状態にすると露光(撮影)が行われる。ここで言う「撮影条件」とは、例えば露出状態及び合焦状態の少なくとも1つを指す。なお、本第1実施形態に係る撮像装置100では、露出状態及び合焦状態の調整が行われる。つまり、レリーズボタン211を半押し状態にすることによりAE(Automatic Exposure:自動露出)機能が働いて露出状態(シャッタースピード、絞りの状態)が設定された後、AF(Auto-Focus:自動ピント)機能が働いて合焦制御される。
カメラ本体200の背面には、OVFのファインダー接眼部242、表示部213、十字キー222、MENU/OKキー224、BACK/DISPボタン225が設けられている。
十字キー222は、1つ又は複数のメニューの選択、ズームやコマ送り等の各種の指令信号を出力するマルチファンクションのキーとして機能する。MENU/OKキー224は、表示部213の画面上に1つ又は複数のメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。BACK/DISPボタン225は、選択項目など所望の対象の消去や指定内容の取消し、あるいは1つ前の操作状態に戻すときなどに使用される。
表示部213は、例えばLCDにより実現され、撮影モード時に連続フレームで撮像されて得られた連続フレーム画像の一例であるライブビュー画像(スルー画像)の表示に用いられる。また、表示部213は、静止画撮影の指示が与えられた場合に単一フレームで撮像されて得られた単一フレーム画像の一例である静止画像の表示にも用いられる。更に、表示部213は、再生モード時の再生画像の表示やメニュー画面等の表示にも用いられる。
図3は第1実施形態に係る撮像装置100の電気系の構成(内部構成)の一例を示すブロック図である。
撮像装置100は、カメラ本体200に備えられたマウント256と、マウント256に対応する交換レンズ300側のマウント346と、を含む。交換レンズ300は、マウント256にマウント346が結合されることによりカメラ本体200に交換可能に装着される。
交換レンズ300は、本発明に係る移動部の一例であるスライド機構303及びモータ304を含む。スライド機構303は、フォーカスリング301の操作が行われることでフォーカスレンズ302を光軸L1方向に移動させる。スライド機構303には光軸L1方向に対してスライド可能にフォーカスレンズ302が取り付けられている。また、スライド機構303にはモータ304が接続されており、スライド機構303は、モータ304の動力を受けてフォーカスレンズ302を光軸L1方向に沿ってスライドさせる。
モータ304は、マウント256,346を介してカメラ本体200に接続されており、カメラ本体200からの命令に従って駆動が制御される。なお、本第1実施形態では、モータ304の一例として、ステッピングモータを適用している。従って、モータ304は、カメラ本体200からの命令によりパルス電力に同期して動作する。
撮像装置100は、撮影した静止画像や動画像を記録するデジタルカメラであり、カメラ全体の動作は、CPU(central processing unit:中央処理装置)12によって制御されている。撮像装置100は、本発明に係る決定部及び制御部の一例であるCPU12を含む。また、撮像装置100は、操作部14、インタフェース部24、メモリ26及びエンコーダ34を含む。また、撮像部100は、本発明に係る表示制御部の一例である表示制御部36A,36Bを含む。また、撮像部100は、接眼検出部37を含む。また、撮像装置100は、本発明に係る画像取得部、視差算出部及び生成部の一例である画像処理部28を含む。なお、以下では、表示制御部36A,36Bを区別して説明する必要がない場合は「表示制御部36」と称する。また、本第1実施形態では、画像処理部28とは別のハードウェア構成として表示制御部36を設けているが、これに限らず、画像処理部28が表示制御部36と同様の機能を有するものとしてもよく、この場合、表示制御部36は不要となる。
CPU12、操作部14、インタフェース部24、記憶部の一例であるメモリ26、画像処理部28、エンコーダ34、表示制御部36A,36B、接眼検出部37及び外部インタフェース(I/F)39は、バス40を介して相互に接続されている。なお、メモリ26は、パラメータやプログラムなどが記憶された不揮発性の記憶領域(一例としてEEPROMなど)と画像などの各種情報が一時的に記憶される揮発性の記憶領域(一例としてSDRAMなど)とを有する。
なお、本第1実施形態に係る撮像装置100では、CPU12が、撮像によって得られた画像のコントラスト値が最大となるように焦点調整モータを駆動制御することによって合焦制御を行う。また、CPU12は、撮像によって得られた画像の明るさを示す物理量であるAE情報を算出する。CPU12は、レリーズスイッチ211が半押し状態とされたときには、AE情報により示される画像の明るさに応じたシャッタースピード及びF値を導出する。そして、導出したシャッタースピード及びF値となるように関係各部を制御することによって露出状態の設定を行う。
操作部14は、撮像装置100に対して各種指示を与える際に操作者によって操作されるユーザインタフェースである。操作部14によって受け付けられた各種指示は操作信号としてCPU12に出力され、CPU12は、操作部14から入力された操作信号に応じた処理を実行する。
操作部14は、レリーズスイッチ211、撮影モード等を選択するフォーカスモード切替え部212、表示部213、ファインダー切替えレバー214、十字キー222、MENU/OKキー224及びBACK/DISPボタン225を含む。また、操作部14は、各種情報を受け付けるタッチパネルも含む。このタッチパネルは、例えば表示部213の表示画面に重ねられている。
カメラ本体200は、位置検出部23を含む。位置検出部23は、CPU12に接続されている。位置検出部23は、マウント256,346を介してフォーカスリング301に接続されており、フォーカスリング301の回転角度を検出し、検出結果である回転角度を示す回転角度情報をCPU12に出力する。CPU12は、位置検出部23から入力された回転角度情報に応じた処理を実行する。
撮影モードが設定されると、被写体を示す画像光は、手動操作により移動可能なフォーカスレンズ302を含む撮影レンズ16及びシャッタ18を介してカラーの撮像素子(一例としてCMOSセンサ)20の受光面に結像される。撮像素子20に蓄積された信号電荷は、デバイス制御部22から加えられる読出し信号によって信号電荷(電圧)に応じたデジタル信号として順次読み出される。撮像素子20は、いわゆる電子シャッタ機能を有しており、電子シャッタ機能を働かせることで、読出し信号のタイミングによって各フォトセンサの電荷蓄積時間(シャッタスピード)を制御する。なお、本第1実施形態に係る撮像素子20は、CMOS型のイメージセンサであるが、これに限らず、CCDイメージセンサでもよい。
撮像素子20には一例として図4に示すカラーフィルタ21が設けられている。図4にはカラーフィルタ21の配列の一例が模式的に示されている。なお、図4に示す例では、画素数の一例として(4896×3264)画素を採用し、アスペクト比として3:2を採用しているが、画素数及びアスペクト比はこれに限られるものではない。一例として図4に示すように、カラーフィルタ21は、輝度信号を得るために最も寄与するG(緑)に対応する第1のフィルタG、R(赤)に対応する第2のフィルタR及びB(青)に対応する第3のフィルタBを含む。第1のフィルタG(以下、Gフィルタと称する)、第2のフィルタR(以下、Rフィルタと称する)及び第3のフィルタB(以下、Bフィルタと称する)の配列パターンは、第1の配列パターンAと第2の配列パターンBとに分類される。
第1の配列パターンAにおいて、Gフィルタは、3×3画素の正方配列の四隅及び中央の画素上に配置されている。第1の配列パターンAにおいて、Rフィルタは、正方配列の行方向(例えば水平方向)における中央の垂直ライン上に配置されている。第1の配列パターンAにおいて、Bフィルタは、正方配列の列方向(例えば垂直方向)における中央の水平ライン上に配置されている。第2の配列パターンBは、第1の基本配列パターンAとフィルタGの配置が同一で且つフィルタRの配置とフィルタBの配置とを入れ替えたパターンである。カラーフィルタ21は、6×6画素に対応する正方配列パターンからなる基本配列パターンCを含む。基本配列パターンCは、第1の配列パターンAと第2の配列パターンBとが点対称で配置された6×6画素のパターンであり、基本配列パターンCが行方向及び列方向に繰り返し配置されている。すなわち、カラーフィルタ21では、R,G,Bの各色のフィルタ(Rフィルタ、Gフィルタ及びBフィルタ)が所定の周期性をもって配列されている。そのため、カラー撮像素子から読み出されるR,G,B信号の同時化(補間)処理等を行う際に、繰り返しパターンにしたがって処理を行うことができる。
また、基本配列パターンCの単位で間引き処理して画像を縮小する場合、間引き処理した縮小画像のカラーフィルタ配列は、間引き処理前のカラーフィルタ配列と同じにすることができ、共通の処理回路を使用することができる。
カラーフィルタ21は、輝度信号を得るために最も寄与する色(本第1実施形態では、Gの色)に対応するGフィルタが、カラーフィルタ配列の行方向、列方向、及び斜め方向の各ライン内に配置されている。そのため、高周波となる方向によらず高周波領域での同時化処理の再現精度を向上させることができる。
カラーフィルタ21は、上記Gの色以外の2色以上の他の色(本第1実施形態では、R,Bの色)に対応するRフィルタ及びBフィルタが、カラーフィルタ配列の行方向及び列方向の各ライン内に配置されている。そのため、色モワレ(偽色)の発生が抑制され、これにより、偽色の発生を抑制するための光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにすることができる。また、光学ローパスフィルタを適用する場合でも、偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
基本配列パターンCは、破線の枠で囲んだ3×3画素の第1の配列パターンAと、一点鎖線の枠で囲んだ3×3画素の第2の配列パターンBとが、行方向、列方向に交互に並べられた配列となっていると捉えることもできる。
第1の配列パターンA及び第2の配列パターンBは、それぞれ輝度系画素であるGフィルタが4隅と中央に配置され、両対角線上に配置されている。また、第1の配列パターンAは、中央のGフィルタを挟んでBフィルタが水平方向に配列され、Rフィルタが列方向に配列される。一方、第2の配列パターンBは、中央のGフィルタを挟んでRフィルタが行方向に配列され、Bフィルタが列方向に配列されている。すなわち、第1の配列パターンAと第2の配列パターンBとは、RフィルタとBフィルタとの位置関係が逆転しているが、その他の配置は同様になっている。
また、第1の配列パターンAと第2の配列パターンBの4隅のGフィルタは、第1の配列パターンAと第2の配列パターンBとが行方向、列方向に交互に配置されることにより、一例として図5に示すように2×2画素に対応する正方配列のGフィルタが形成される。一例として図5に示すように取り出されたGフィルタからなる2×2画素については、行方向のG画素の画素値の差分絶対値、列方向のG画素の画素値の差分絶対値、斜め方向(右上斜め、左上斜め)のG画素の画素値の差分絶対値が算出される。これにより、行方向、列方向、及び斜め方向のうち、差分絶対値の小さい方向に相関があると判断することができる。すなわち、行方向、列方向、及び斜め方向のうちの相関の高い方向が最小画素間隔のG画素の情報を使用して判別される。この判別結果は、周囲の画素から補間する処理(同時化処理)に使用することができる。
カラーフィルタ21の基本配列パターンCは、その基本配列パターンCの中心(4つのGフィルタの中心)に対して点対称に配置されている。また、基本配列パターンC内の第1の配列パターンA及び第2の配列パターンBも、それぞれ中心のGフィルタに対して点対称に配置されている従って、後段の処理回路の回路規模を小さくしたり、簡略化したりすることが可能になる。
一例として図6に示すように基本配列パターンCにおいて、行方向の第1から第6のラインのうちの第1及び第3のラインのカラーフィルタ配列は、GRGGBGである。第2のラインのカラーフィルタ配列は、BGBRGRである。第4及び第6のラインのカラーフィルタ配列は、GBGGRGである。第5のラインのカラーフィルタ配列は、RGRBGBである。図6に示す例では、基本配列パターンC,C’,C”が示されている。基本配列パターンC’は基本配列パターンCを行方向及び列方向にそれぞれ1画素ずつシフトしたパターンを示し、基本配列パターンC”は、基本配列パターンCを行方向及び列方向にそれぞれ2画素ずつシフトしたパターンを示す。このように、カラーフィルタ21は、基本配列パターンC’,C”を行方向及び列方向に繰り返し配置しても、同じカラーフィルタ配列となる。
撮像装置100は、位相差AF機能を有する。撮像素子20は、位相差AF機能を働かせた場合に用いられる複数の位相差検出用の画素を含む。複数の位相差検出用の画素は予め定めたパターンで配置されている。
図7には、カラーフィルタ21の一部と一部の位相差検出用の画素の対応関係の一例が模式的に示されている。一例として図7に示すように、位相差検出用の画素は、行方向の左半分の画素が遮光された第1の画素L及び行方向の右半分の画素が遮光された第2の画素Rの何れかである。なお、以下では、第1の画素L及び第2の画素Rを区別して説明する必要がない場合は「位相差画素」と称する。
図8には撮像素子20に配置されている第1の画素L及び第2の画素Rの一例が示されている。一例として図8に示すように、第1の画素Lは遮光部材20Aを有し、第2の画素Rは遮光部材20Bを有する。遮光部材20Aは、フォトダイオードPDの前面側(マイクロレンズL側)に設けられており、受光面の左半分を遮光する。一方、遮光部材20Bは、フォトダイオードPDの前面側に設けられており、受光面の右半分を遮光する。
マイクロレンズL及び遮光部材20A,20Bは瞳分割部として機能し、第1の画素Lは、撮影レンズ16の射出瞳を通過する光束の光軸の左側のみを受光し、第2の画素Rは、撮影レンズ16の射出瞳を通過する光束の光軸の右側のみを受光する。このように、射出瞳を通過する光束は、瞳分割部であるマイクロレンズL及び遮光部材20A,20Bにより左右に分割され、それぞれ第1の画素Lおよび第2の画素Rに入射する。
また、撮影レンズ16の射出瞳を通過する光束のうちの左半分の光束に対応する被写体像と、右半分の光束に対応する被写体像のうち、ピントが合っている(合焦状態である)部分は、撮像素子20上の同じ位置に結像する。これに対し、前ピン又は後ピンの部分は、それぞれ撮像素子20上の異なる位置に入射する(位相がずれる)。これにより、左半分の光束に対応する被写体像と右半分の光束に対応する被写体像とは、視差が異なる視差画像(左目画像、右目画像)として取得することができる。
撮像装置100は、位相差AF機能を働かせることにより、第1の画素Lの画素値と第2の画素Rの画素値とに基づいて位相のずれ量を検出する。そして、検出した位相のずれ量に基づいて撮影レンズの焦点位置を調整する。なお、以下では、遮光部材20A,20Bを区別して説明する必要がない場合は符号を付さずに「遮光部材」と称する。
撮像素子20は、第1の画素群、第2の画素群及び第3の画素群に分類される。第1の画素群とは、例えば複数の第1の画素Lを指す。第2の画素群とは、例えば複数の第2の画素Rを指す。第3の画素群とは、例えば複数の通常画素(第3の画素の一例)を指す。ここで言う「通常画素」とは、例えば位相差画素以外の画素(例えば遮光部材を有しない画素)を指す。なお、以下では、第1の画素群から出力されるRAW画像を「第1の画像」と称し、第2の画素群から出力されるRAW画像を「第2の画像」と称し、第3の画素群から出力されるRAW画像を「第3の画像」と称する。
第1及び第2の画素群に含まれる各画素は、第1の画素群と第2の画素群との間で行方向についての位置が1画素内で揃う位置に配置されている。また、第1及び第2の画素群に含まれる各画素は、第1の画素群と第2の画素群との間で列方向についての位置も1画素内で揃う位置に配置されている。図7に示す例では、行方向及び列方向の各々について直線状に1の画素Lと第2の画素Rとが複数画素分の間隔を空けて交互に配置されている。
図7に示す例では、第1及び第2の画素群に含まれる各画素の位置を行方向及び列方向の各々について1画素内で揃う位置としているが、行方向及び列方向の少なくとも一方について所定画素数内(例えば2画素以内)に収まる位置としてもよい。なお、ピントずれ以外の要因で画像ずれが発生するのを最大限に抑制するためには、一例として図7に示すように第1及び第2の画素群に含まれる各画素の位置を行方向及び列方向の各々について1画素内で揃う位置とすることが好ましい。
位相差画素は、一例として図7に示すように、2×2画素に対応する正方配列のGフィルタの画素に対して設けられている。すなわち、図7に示す例では、2×2画素のGフィルタの図中正面視右上角の画素が位相差画素に対して割り当てられている。また、位相差画素間には通常画素が配置されており、2×2画素のGフィルタの残りの画素が通常画素に対して割り当てられる。また、図7に示す例では、行方向に第1の画素Lと第2の画素Rとが交互に配置された位相差画素の行は2行単位で一組とされており、各組が列方向に所定画素数(図7に示す例では8画素)分の間隔を空けて配置されている。
このように、カラーフィルタ21では、2×2画素のGフィルタの右上角部の画素に対して遮光部材が設けられており、列方向及び行方向ともに複数画素分の間隔を空けて位相差画素が規則的に配置されている。このため、位相差画素の周囲に通常画素が比較的多く配置されるので、通常画素の画素値から位相差画素の画素値を補間する場合における補間精度を向上させることができる。しかも、位相差画素間で補間に利用する通常画素が重複しないように第1〜第3の画素群に含まれる各画素が配置されているので、補間精度のより一層の向上が期待できる。
図3に戻って、撮像素子20は、第1の画素群から第1の画像(各第1の画素Lの画素値を示すデジタル信号)を出力し、第2の画素群から第2の画像(各第2の画素Rの画素値を示すデジタル信号)を出力する。また、撮像素子20は、第3の画素群から第3の画像(各通常画素の画素値を示すデジタル信号)を出力する。なお、第3の画素群から出力される第3の画像は有彩色の画像であり、例えば通常画素の配列と同じカラー配列のカラー画像である。撮像素子20から出力された第1の画像、第2の画像及び第3の画像は、インタフェース部24を介してメモリ26における揮発性の記憶領域に一時記憶される。
図9には、画像処理部28に含まれる複数の機能のうち本発明に関連する要部機能の一例が示されている。図9に示すように、画像処理部28は、画像取得部28A、視差算出部28B、及び生成部28Cを含み、画像処理に係る複数の機能の回路を1つにまとめた集積回路であるASIC(Application Specific Integrated Circuit)により実現される。但し、ハードウェア構成はこれに限定されるものではなく、例えばプログラマブルロジックデバイスや、CPU、ROM及びRAMを含むコンピュータなどの他のハードウェア構成であっても良い。
画像取得部28Aは、撮像素子20から出力された第1の画像及び第2の画像を取得する。視差算出部28Bは、画像取得部28Aにより取得された第1の画像の各画素と第2の画像の対応する画素とのずれ量を示す視差を算出する。生成部28Cは、撮像素子20から出力された第3の画像に基づいて第1の表示用画像を生成し、かつ、画像取得部28Aにより取得された第1及び第2の画像に基づいて合焦確認に使用する第2の表示用画像を生成する。
図10には、CPU12に含まれる複数の機能のうち本発明に関連する要部機能の一例が示されている。図10に示すように、CPU12は、決定部12A及び制御部12Bを含む。なお、本第1実施形態では、後述のレンズ移動制御処理プログラムを実行することにより本発明に係る決定部及び制御部として動作する決定部12A及び制御部12Bを実現しているが、本発明はこれに限定されるものではない。例えば、ASICやプログラマブルロジックデバイスによって決定部12A及び制御部12Bが実現されてもよい。
決定部12Aは、合焦状態と認められる許容範囲を示す深度を規定する因子(以下、単に「因子」という)及び視差算出部28Bにより算出された視差に基づいて、操作移動率を決定する。ここで言う「操作移動率」とは、フォーカスレンズ302の移動を指示する操作量(一例として回転量)をフォーカスレンズ302の移動量に変換する係数であって変換後のフォーカスレンズ302の移動量を視差の減少に応じて小さくする係数を指す。また、ここで言う「フォーカスレンズ302の移動量」とは、例えばフォーカスレンズ302の光軸L1方向の移動量を指す。また、本第1実施形態において、「視差の減少」とは、換言すると、視差の符号(プラス又はマイナス)に拘らず視差の値(例えば視差の絶対値)が小さくなることを指す。なお、本第1実施形態では、上記の「深度」として、被写界深度を適用しているが、これに限らず、焦点深度であってもよい。また、本第1実施形態では、上記の「因子」の一例として、フォーカスレンズ302の光軸L1上の位置を示す情報(例えばスライド機構303におけるスライド可能範囲内での現在位置を特定可能な位置情報(例えば一次元又は二次元座標))を適用している。
制御部12Bは、決定部12Aにより決定された操作移動率とフォーカスレンズ302の移動を指示する操作量(以下、単に「操作量」という)とに基づいて決定する移動量に相当する量、フォーカスレンズ302を移動させる制御をモータ304に対して行う。ここで言う「操作移動率と操作量とに基づいて決定する移動量に相当する量」としては、例えば操作移動率と操作量との積が挙げられるが、本発明はこれに限定されるものではない。例えば、操作移動率と操作量との積を所定の演算式に代入して得た値であってもよい。ここで言う「所定の演算式」とは、例えばスライド機構303やモータ304等の製造誤差を低減させる演算式や、操作移動率と操作量との積に対して単に所定の値(例えば誤差補正用の係数)を加算、減算、乗算又は除算する演算式などを指す。
本第1実施形態に係るモータ304は、駆動パルス数に応じて駆動量が定まるので、制御部12Bは、操作移動率と操作量とに基づいて定めた移動量に相当する量を示す駆動パルス数を決定し、決定した駆動パルス数によりモータ304を駆動させる。これにより、フォーカスレンズ302は、モータ304の駆動量に応じた移動量、光軸L1方向に移動する。
図11には、生成部28Cに含まれる機能の一例が示されている。図11に示すように、生成部28Cは、通常処理部30及びスプリットイメージ処理部32を含む。通常処理部30は、第3の画素群に対応するR,G,B信号を処理することで第1の表示用画像の一例である有彩色の通常画像を生成する。また、スプリットイメージ処理部32は、第1の画素群及び第2の画素群に対応するG信号を処理することで第2の表示用画像の一例である無彩色のスプリットイメージを生成する。
図3に戻って、エンコーダ34は、入力された信号を別の形式の信号に変換して出力する。ハイブリッドファインダー220は、電子像を表示するLCD247を有する。LCD247における所定方向の画素数(一例として視差発生方向である行方向の画素数)は、表示部213における同方向の画素数よりも少ない。表示制御部36Aは表示部213に、表示制御分36BはLCD247に各々接続されており、LCD247及び表示部213が選択的に制御されることによりLCD247又は表示部213により画像が表示される。なお、以下では、表示部213及びLCD247を区別して説明する必要がない場合は「表示装置」と称する。
なお、本第1実施形態に係る撮像装置100は、ダイヤル212(フォーカスモード切替え部)によりマニュアルフォーカスモードとオートフォーカスモードとを切り替え可能に構成されている。何れかのフォーカスモードが選択されると、表示制御部36は、スプリットイメージが合成されたライブビュー画像を表示装置に表示させる。また、ダイヤル212によりオートフォーカスモードが選択されると、CPU12は、位相差検出部及び自動焦点調整部として動作する。位相差検出部は、第1の画素群から出力された第1の画像と第2の画素群から出力された第2の画像との位相差を検出する。自動焦点調整部は、検出された位相差に基づいてフォーカスレンズ302のデフォーカス量をゼロにするように、デバイス制御部22からマウント256,346を介してモータ304を制御し、フォーカスレンズ302を合焦位置に移動させる。なお、上記の「デフォーカス量」とは、例えば第1の画像及び第2の画像の位相ずれ量を指す。
接眼検出部37は、人(例えば撮影者)がファインダー接眼部242を覗き込んだことを検出し、検出結果をCPU12に出力する。従って、CPU12は、接眼検出部37での検出結果に基づいてファインダー接眼部242が使用されているか否かを把握することができる。
外部I/F39は、LAN(Local Area Network)やインターネットなどの通信網に接続され、通信網を介して、外部装置(例えばプリンタ)とCPU12との間の各種情報の送受信を司る。従って、撮像装置100は、外部装置としてプリンタが接続されている場合、撮影した静止画像をプリンタに出力して印刷させることができる。また、撮像装置100は、外部装置としてディスプレイが接続されている場合は、撮影した静止画像やライブビュー画像をディスプレイに出力して表示させることができる。
図12は第1実施形態に係る撮像装置100の要部機能の一例を示す機能ブロック図である。なお、図3に示すブロック図と共通する部分には同一の符号が付されている。
通常処理部30及びスプリットイメージ処理部32は、それぞれWBゲイン部、ガンマ補正部及び同時化処理部を有し(図示省略)、メモリ26に一時記憶された元のデジタル信号(RAW画像)に対して各処理部で順次信号処理を行う。すなわち、WBゲイン部は、R,G,B信号のゲインを調整することによりホワイトバランス(WB)を実行する。ガンマ補正部は、WBゲイン部でWBが実行された各R,G,B信号をガンマ補正する。同時化処理部は、撮像素子20のカラーフィルタの配列に対応した色補間処理を行い、同時化したR,G,B信号を生成する。なお、通常処理部30及びスプリットイメージ処理部32は、撮像素子20により1画面分のRAW画像が取得される毎に、そのRAW画像に対して並列に画像処理を行う。
通常処理部30は、インタフェース部24からR,G,BのRAW画像が入力され、第3の画素群のR,G,B画素を、一例として図13に示すように、第1の画素群及び第2の画素群のうちの同色の周辺画素(例えば隣接するG画素)により補間して生成する。これにより、第3の画素群から出力された第3の画像に基づいて記録用の通常画像を生成することができる。
また、通常処理部30は、生成した記録用の通常画像の画像データをエンコーダ34に出力する。通常処理部30により処理されたR,G,B信号は、エンコーダ34により記録用の信号に変換(エンコーディング)され、記録部40に記録される。また、通常処理部30により処理された第3の画像に基づく画像である表示用の通常画像は、表示制御部36に出力される。なお、以下では、説明の便宜上、上記の「記録用の通常画像」及び「表示用の通常画像」を区別して説明する必要がない場合は「記録用の」との文言及び「表示用の」との文言を省略して「通常画像」と称する。
撮像素子20は、第1の画素群及び第2の画素群の各々の露出条件(一例として電子シャッタによるシャッタ速度)を変えることができ、これにより露出条件の異なる画像を同時に取得することができる。従って、画像処理部28は、露出条件の異なる画像に基づいて広ダイナミックレンジの画像を生成することができる。また、同じ露出条件で複数の画像を同時に取得することができ、これら画像を加算することによりノイズの少ない高感度の画像を生成し、あるいは高解像度の画像を生成することができる。
一方、スプリットイメージ処理部32は、メモリ26に一旦記憶されたRAW画像から第1の画素群及び第2の画素群のG信号を抽出し、第1の画素群及び第2の画素群のG信号に基づいて無彩色のスプリットイメージを生成する。RAW画像から抽出される第1の画素群及び第2の画素群の各々は、上述したようにGフィルタの画素による画素群である。そのため、スプリットイメージ処理部32は、第1の画素群及び第2の画素群のG信号に基づいて、無彩色の左の視差画像及び無彩色の右の視差画像を生成することができる。なお、以下では、説明の便宜上、上記の「無彩色の左の視差画像」を「左目画像」と称し、上記の「無彩色の右の視差画像」を「右目画像」と称する。
スプリットイメージ処理部32は、第1の画素群から出力された第1の画像に基づく左目画像と、第2の画素群から出力された第2の画像に基づく右目画像とを合成することによりスプリットイメージを生成する。生成したスプリットイメージの画像データは表示制御部36に出力される。
表示制御部36は、通常処理部30から入力された第3の画素群に対応する記録用の画像データと、スプリットイメージ処理部32から入力された第1、第2の画素群に対応するスプリットイメージの画像データとに基づいて表示用の画像データを生成する。例えば、表示制御部36は、通常処理部30から入力された第3の画素群に対応する記録用の画像データにより示される通常画像の表示領域内に、スプリットイメージ処理部32から入力された画像データにより示されるスプリットイメージを合成する。そして、合成して得た画像データを表示装置に出力する。すなわち、表示制御部36Aは画像データを表示部213に出力し、表示制御部36Bは画像データをLCD247に出力する。
スプリットイメージ処理部32により生成されるスプリットイメージは、左目画像の一部と右目画像の一部とを合成した複数分割の画像である。ここで言う「複数分割の画像」としては、例えば図14A,図14Bに示すスプリットイメージが挙げられる。図14に示すスプリットイメージは、左目画像のうちの上半分の画像と右目画像のうちの下半分の画像とを合成した画像であって、上下方向に2分割された画像間が合焦状態に応じて所定方向(例えば視差発生方向)にずれた画像である。なお、スプリットイメージの態様は図14A,図14Bに示す例に限定されるものではなく、表示部213の所定領域の位置に対応する位置の左目画像の一部と右目画像の一部とを合成した画像であってもよい。この場合、例えば上下方向に4分割された画像間が合焦状態に応じて所定方向(例えば視差発生方向)にずれる。
通常画像にスプリットイメージを合成する方法は、通常画像の一部の画像に代えて、スプリットイメージを嵌め込む合成方法に限定されない。例えば、通常画像の上にスプリットイメージを重畳させる合成方法であってもよい。また、スプリットイメージを重畳する際に、スプリットイメージが重畳される通常画像の一部の画像とスプリットイメージとの透過率を適宜調整して重畳させる合成方法であってもよい。これにより、連続的に撮影している被写体像を示すライブビュー画像が表示装置の画面上に表示されるが、表示されるライブビュー画像は、通常画像の表示領域内にスプリットイメージが表示された画像となる。
ハイブリッドファインダー220は、OVF240及びEVF248を含む。OVF240は、対物レンズ244と接眼レンズ246とを有する逆ガリレオ式ファインダーであり、EVF248は、LCD247、プリズム245及び接眼レンズ246を有する。
また、対物レンズ244の前方には、液晶シャッタ243が配設されており、液晶シャッタ243は、EVF248を使用する際に、対物レンズ244に光学像が入射しないように遮光する。
プリズム245は、LCD247に表示される電子像又は各種の情報を反射させて接眼レンズ246に導き、かつ、光学像とLCD247に表示される情報(電子像、各種の情報)とを合成する。
ここで、ファインダー切替えレバー214を図1に示す矢印SW方向に回動させると、回動させる毎にOVF240により光学像を視認することができるOVFモードと、EVF248により電子像を視認することができるEVFモードとが交互に切り替えられる。
表示制御部36Bは、OVFモードの場合、液晶シャッタ243が非遮光状態になるように制御し、接眼部から光学像が視認できるようにする。また、LCD247には、スプリットイメージのみを表示させる。これにより、光学像の一部にスプリットイメージが重畳されたファインダー像を表示させることができる。
一方、表示制御部36Bは、EVFモードの場合、液晶シャッタ243が遮光状態になるように制御し、接眼部からLCD247に表示される電子像のみが視認できるようにする。なお、LCD247には、表示部213に出力されるスプリットイメージが合成された画像データと同等の画像データが入力され、これにより、表示部213と同様に通常画像の一部にスプリットイメージが合成された電子像を表示させることができる。
図15には表示装置における通常画像及びスプリットイメージの各々の表示領域の一例が示されている。一例として図15に示すように、スプリットイメージは表示装置の画面中央部の矩形枠内に表示され、スプリットイメージの外周領域に通常画像が表示される。なお、図15に示す矩形枠を表す縁の線は実際には表示されないが、図15では説明の便宜上示されている。
次に本第1実施形態の作用として、第1〜第3の画像が入力される毎に画像処理部28で行われる視差算出処理について、図16を参照して説明する。なお、ここでは、視差算出処理が画像処理部28で行われる場合を例示するが、本発明はこれに限定されるものではなく、例えばCPU12が視差算出理プログラムを実行することにより撮像装置100で視差算出処理が行われるものとしてもよい。
図16において、ステップ400では、入力された第3の画像に基づく通常画像が生成部28Cにより生成されて所定の記憶領域(例えばメモリ26)及び表示制御部36に出力される。
次のステップ402では、先ず、画像取得部28Bにより、第1及び第2の画像が取得される。そして、生成部28Cにより、第1及び第2の画像に基づく左目画像及び右目画像が生成され、生成された左目画像及び右目画像に基づいてスプリットイメージが生成されて表示制御部36に出力される。表示制御部36は、上記ステップ400で出力された通常画像及び上記ステップ402で出力されたスプリットイメージが入力されると、表示装置に対して通常画像を表示させ、かつ、通常画像の表示領域内にスプリットイメージを表示させる制御を行う。
このように上記ステップ400,402が生成部28Cにより行われると、一例として図14A及び図14Bに示すように表示部213やハイブリッドファインダー220にライブビュー画像が表示される。図14A及び図14Bに示す例では、一例として図15に示すスプリットイメージの表示領域に相当する枠60の内側領域にスプリットイメージが表示されており、通常画像の表示領域に相当する枠60の外側領域に通常画像が表示されている。
すなわち、第1及び第2の画素群は、枠60のサイズに対応して設けられている。スプリットイメージは、第1の画素群から出力された第1の画像に対応する左目画像おける枠60の上半分60Aの画像(視差画像)と、第2の画素群から出力された第2の画像に対応する右目画像における枠60の下半分60Bの画像(視差画像)とに大別される。
ここで、枠60内の画像に対応する被写体に対して、撮影レンズ16のピントが合っていない場合は、図14Aに示すようにスプリットイメージの上半分60Aの視差画像と、下半分60Bの視差画像との境界の画像が視差発生方向(一例として行方向)にずれる。また、通常画像とスプリットイメージとの境界の画像も視差発生方向にずれる。これは、位相差が生じていることを表しており、撮影者はスプリットイメージを通して視覚的に位相差が生じていること及び視差発生方向を認識することができる。
一方、枠60内の画像に対応する被写体に対して、撮影レンズ16のピントが合っている場合は、図14Bに示すようにスプリットイメージの上半分60Aの視差画像と、下半分60Bの視差画像との境界の画像が一致する。また、通常画像とスプリットイメージとの境界の画像も一致する。これは、位相差が生じていないことを表しており、撮影者はスプリットイメージを通して視覚的に位相差が生じていないことを認識することができる。
このように、撮影者は、表示装置に表示されるスプリットイメージにより撮影レンズ16の合焦状態を確認することができる。また、マニュアルフォーカスモード時には、フォーカスリング301を手動操作することによりピントのずれ量(デフォーカス量)をゼロにすることができる。また、通常画像とスプリットイメージとをそれぞれ色ずれのないカラー画像で表示することができ、撮影者の手動によるフォーカス調整をカラーのスプリットイメージで支援することができる。
次のステップ403では、視差算出部28Bにより、視差算出条件を満足したか否かが判定される。視差算出条件としては、例えば視差算出周期が到来したとの条件が挙げられる。なお、本第1実施形態では、視差算出周期として、上記ステップ402でスプリットイメージが出力される毎の時間間隔(例えば毎フレームの時間間隔)を採用しているが、これに限定されるものではない。例えば、視差算出周期として複数フレーム毎(例えば2フレーム毎)の時間間隔を採用してもよいし、撮影モードが設定されてから所定の時間間隔(例えば1秒)を採用してもよい。また、視差算出条件は、視差算出周期が到来したとの条件に限定されるものではなく、例えば、ユーザから操作部14を介して所定指示が入力されたとの条件や、所定の被写体(例えば人間の顔)が検出されたとの条件が挙げられる。本ステップ403において視差算出条件を満足していない場合は判定が否定されて本視差算出処理を終了する。本ステップ403において視差算出条件を満足した場合は判定が肯定されてステップ404へ移行する。
次のステップ404では、視差算出部28Bにより、上記ステップ402で生成されたスプリットイメージのうちの視差算出対象の画素(注目画素(i,j))が設定される。
次のステップ406では、視差算出部28Bにより、ステップ404で設定された注目画素(i,j)を基準にした画素群であって所定のブロックサイズ[Cx×Cy][pixel]の画素群が抽出される。
次のステップ410では、視差算出部28Bにより、上記ステップ406で抽出された左目画像の各画素に対する上記ステップ406で抽出された右目画像の対応する画素のずれ量を示す視差が算出される。なお、本ステップ410では、視差算出部28Bが、顔認証や主要被写体の判別(オブジェクト認識)等で選ばれたAFエリアのスプリットイメージを使用して視差を算出してもよい。この場合、上記ステップ404にて、視差算出部28Bが、オブジェクト認識で選ばれたAFエリアを対象にして注目画素(i,j)を設定すればよい。
ステップ410において、画像処理部28は、例えば、先ず上記ステップ406で抽出した左目画像の画素群を元に、右目画像内から特徴点が一致する画素群を探索する。すなわち、左目画像から抽出した画素群(ブロック)と、右目画像のうちの左目画像から抽出した画素群(ブロック)に対応する右目画像内のブロックとの一致度を評価する。そして、ブロック間の一致度が最大となるときの右目画像のブロックの基準の画素を、左目画像の注目画素に対応する右目画像の対応点の画素とする。本第1実施形態では、ブロックマッチング法を用いてブロック間の一致度を評価しており、一致度を評価する関数として、例えば各ブロック内の画素の輝度差の2乗和(SSD)を使用するもの(SSDブロックマッチング法)がある。
SSDブロックマッチング法では、比較対象とされる両画像のブロック内の各画素f(i,j),g(i,j)について、次式の演算を行う。
上記[数1]式の演算を、右目画像上でブロックの位置を所定の探索領域内で移動させながら行い、SSD値が最小となるときの探索領域内の位置の画素を探索対象の画素とする。そして、左目画像上の注目画素と、探索した対応する右目画像上の画素との画素間のずれ量を示す視差を算出する。
次のステップ412では、視差算出部28Bにより、上記ステップ410で算出された視差がメモリ26の所定の記憶領域に記憶され、その後、本視差算出処理を終了する。なお、上記ステップ412において、メモリ26の所定の記憶領域に既に視差が記憶されている場合は本ステップ412が行われる度に最新の視差がメモリ26の所定の記憶領域に上書きされることで視差が更新される。
次に、本発明の要部作用の説明に先立ち、前提となる基本構成の作用である比較例としてのレンズ移動制御処理について説明する。図17には、実行開始条件を満足した際にCPU12によって実行されるレンズ移動制御処理プログラムの処理の流れの一例が示されている。なお、ここで言う「実行開始条件」とは、上記ステップ412の処理が行われることでメモリ26の所定の記憶領域に新たな視差が記憶された、との条件を指す。
先ず、ステップ452では、CPU12により、メモリ26の所定の記憶領域に記憶されている視差に基づいて操作移動率が決定される。なお、本第1実施形態では、操作移動率を下記の数式(1)に示す関数を含む関数(一例として図18に示す関数G)で規定しているが、本発明はこれに限定されるものではない。例えば、図18に示す関数Gの独立変数(視差)を入力とし、関数Gの従属変数を出力(操作移動率)とするLUT(ルックアップテーブル)を適用してもよい。
次のステップ454では、CPU12により、上記ステップ452で決定された操作移動率及び操作量に基づいて定まる移動量に相当する量、フォーカスレンズ302を移動させる制御をモータ304に対して行い、その後、本レンズ移動制御処理を終了する。
図18には、上記ステップ452が行われることでCPU12により決定される操作移動率を規定する関数Gの一例が示されている。図18に示すように、関数Gは、各々線形関数である関数g1〜g4を有する。数式(1)は、関数g1及び関数g3を示している。数式(1)は、αを傾きとし、視差D(視差の絶対値)を独立変数とし、操作移動率Vを従属変数とし、Vminを操作移動率Vの最小値である切片とする一次関数を示す。また、ここでは、錯綜を回避するために、切片Vminとして固定値を採用しているが、諸条件によって変化する可変値であってもよい。
V=α×|D|+Vmin・・・・・・(1)
傾きαは、メモリ26の所定の記憶領域に記憶されている視差によって一意に定まる係数であり、視差Dを操作移動率Vの単位に変換する係数を示す。また、傾きαにより示される関数g1,g3の勾配は、メモリ26の所定の記憶領域に記憶されている視差の絶対値の増加に従って緩やかになる。つまり、傾きαの絶対値は、メモリ26の所定の記憶領域に記憶されている視差の絶対値の増加に従って小さくなる、という特性を有している。
更に、関数g1の傾きは正の値であり、関数g3の傾きは負の値であり、いずれも視差Dの絶対値が小さいほど操作移動率Vを小さくする、という特性を有している。なお、関数g1及び関数g3は、(0,Vmin)の位置の変曲点a1を介して連続している。
以上の特性を有する傾きαは、例えばCPU12によりメモリ26の所定の記憶領域に記憶されている視差に基づいて決定され、決定された傾きα及び予め定められた切片Vminにより、関数g1,g3が決定される。
関数g2は、変曲点b1を介して関数g1に連続する関数であり、関数g4は、変曲点c1を介して関数g3に連続する関数である。操作移動率Vの最大値は予め定められているので、変曲点b1,c1は、傾きαが定まることによって一意に定まる。変曲点b1,c1が定まることによって、関数g2,g4の視差Dの範囲(最大値Vstが適用される視差Dの範囲)も定まる。すなわち、傾きαが緩やかなほど関数g2,g4について最大値Vstが適用される視差Dの範囲が拡がる。
ところで、図18に示す関数Gに含まれる関数g1,g3の傾きαは、メモリ26の所定の記憶領域に記憶されている視差が大きいほど軽勾配を示す値になる。これは、視差が大きいほどフォーカスレンズ302の位置は合焦位置から遠い可能性が高いという推測を前提にして傾きαが定められているからである。しかし、視差のみに頼って傾きαを決定すると、操作移動率Vを小さくする必要がない位置にフォーカスレンズ302があるにも拘らず操作移動率Vが小さくされてしまう場合がある。つまり、被写界深度が操作移動率Vを小さくする必要がない被写界深度であるにも拘らず操作移動率Vが小さくされてしまう場合がある。被写界深度が操作移動率Vを小さくする必要がない被写界深度であるにも拘らず操作移動率Vが小さくされてしまうとは、例えば傾きαが必要以上に軽勾配であるがゆえに視差を“0”に合わせ込むのに不必要に時間を要してしまうということである。視差を“0”に合わせ込むのに不必要に時間を要してしまうということは、フォーカスレンズ302をもっと速く移動させる必要があるということを意味する。
また、視差のみに頼って傾きαを決定すると、操作移動率Vを大きくする必要がない位置にフォーカスレンズ302があるにも拘らず操作移動率Vが大きくされてしまう場合がある。つまり、被写界深度が操作移動率Vを大きくする必要がない被写界深度であるにも拘らず操作移動率Vが大きくされてしまう場合がある。被写界深度が操作移動率Vを大きくする必要がない被写界深度であるにも拘らず操作移動率Vが大きくされてしまうとは、例えば傾きαが必要以上に急勾配であるがゆえに視差を“0”に合わせ込むのに時間が不足してしまうということである。視差を“0”に合わせ込むのに時間が不足してしまうということは、フォーカスレンズ302をもっとゆっくり移動させる必要があるということを意味する。
このように、CPU12により図18に示す関数Gにより操作移動率Vが規定されると、フォーカスレンズ302の現在位置に見合わない変曲点b1,c1が決定されてしまう場合がある。そこで、本第1実施形態に係る撮像装置100では、図19に示すレンズ移動制御処理が実行される。
次に本第1実施形態の作用として、上述した実行開始条件を満足した際にCPU12が本第1実施形態に係るレンズ移動処理プログラムを実行することで撮像装置100によって行われるレンズ移動処理について、図19を参照して説明する。
先ず、ステップ502では、決定部12Aにより、因子が取得される。次のステップ504では、決定部12Aにより、メモリ26の所定の記憶領域に記憶されている視差及び上記ステップ502で取得された因子に基づいて(例えば図20に示す関数Pに基づいて)操作移動率が決定される。なお、本第1実施形態では、操作移動率を下記の数式(2)に示す関数を含む関数(一例として図20に示す関数P)で規定しているが、本発明はこれに限定されるものではない。例えば、図20に示す関数Pの独立変数(視差)を入力とし、関数Pの従属変数を出力(操作移動率)とするLUTを適用してもよい。
次のステップ506では、制御部12Bにより、上記ステップ504で決定された操作移動率及び操作量に基づいて定まる移動量に相当する量、フォーカスレンズ302を移動させる制御をモータ304に対して行い、その後、本レンズ移動制御処理を終了する。
図20には、上記ステップ502が行われることで決定部12Aにより決定される操作移動率を規定する関数Pの一例が示されている。図20に示すように、関数Pは、各々線形関数である関数p1〜p4により規定される。数式(2)は、関数p1及び関数p3を示している。数式(2)は、αを傾きとし、因子β及び視差Dを考慮した関数により定まるf(β,D)を独立変数とし、操作移動率Vを従属変数とし、Vminを操作移動率Vの最小値である切片とする一次関数を示す。また、ここでは、錯綜を回避するために、独立変数f(β,D)の一例として、因子β及び視差Dを独立変数として有し、因子β及び視差Dが大きくなるほど値が大きくなる従属変数を有する関数の従属変数を採用している。ここでは、錯綜を回避するために、切片Vminとして固定値を採用しているが、諸条件(例えば視差D及び因子β)によって変化する可変値であってもよい。
V=α×f(β,D)+Vmin・・・・・・(2)
傾きαは、メモリ26の所定の記憶領域に記憶されている視差及びステップ502で取得された因子によって一意に定まる係数であり、独立変数f(β,D)を操作移動率Vの単位に変換する係数を示す。
また、傾きαにより示される関数p1,p3の勾配は、因子βの増大に従って緩やかになる。つまり、傾きαの絶対値は、因子βの増大に従って小さくなる(因子βが大きいほど傾きαが軽勾配になる)、という特性を有している。ここで言う「因子βの増大」とは、例えばフォーカスレンズ302の光軸L1上の現在位置が所定位置(例えば合焦位置)から遠くなることを指すが、本発明はこれに限定されるものではない。例えば、値が大きくなるほど被写界深度が深いことを表す因子の値が大きくなることを「因子βの増大」としてもよい。なお、本第1実施形態では、傾きαにより示される関数p1,p3の勾配が、因子βの増大に従って緩やかになるという特性を有する場合を例示しているが、本発明はこれに限定されるものではない。例えば、傾きαにより示される関数p1,p3の勾配は、独立変数f(β,D)の増加に従って緩やかになるという特性を有していてもよい。つまり、傾きαは、メモリ26の所定の記憶領域に記憶されている視差を視差Dとして含む独立変数f(β,D)(例えば独立変数f(β,D)の絶対値)が大きいほど絶対値が小さくなるという特性を有していてもよい。
また、関数p1の傾きは正の値であり、関数p3の傾きは負の値であり、いずれも独立変数f(β,D)が小さいほど(例えば独立変数f(β,D)の絶対値が小さいほど)操作移動率Vを小さくする、という特性を有している。なお、関数p1及び関数p3は、(0,Vmin)の位置の変曲点a2を介して連続している。
以上の特性を有する傾きαは、例えば決定部12Aにより独立変数f(β,D)に基づいて決定され、決定された傾きα及び予め定められた切片Vminにより、関数p1,p3が決定される。
関数p1,p3は、視差Dの絶対値が所定値以下(例えば図20に示す横軸の独立変数f(β,D)における“0”を中心とする所定範囲内)で用いられる関数であるのに対し、関数p2,p4は、視差Dが所定値を超える範囲で用いられる関数である。すなわち、関数p2は、関数p1と共にプラス側の独立変数f(β,D)で用いられ、変曲点b2を介して関数p1に連続している。関数p4は、関数p3と共にマイナス側の独立変数f(β,D)で用いられ、変曲点c2を介して関数p3に連続している。本第1実施形態では操作移動率Vの最大値は予め定められているので、変曲点b2,c2は、傾きαが定まることによって一意に定まる。変曲点b2,c2が定まることによって、関数p2,p4の独立変数f(β,D)の範囲(最大値Vstが適用される独立変数f(β,D)の範囲)も定まる。関数p2,p4について最大値Vstが適用される独立変数f(β,D)の範囲は、傾きαが緩やかなほど(傾きαの絶対値が小さいほど)拡がる。
以上に説明したように、本第1実施形態に係る撮像装置100では、操作移動率Vが、視差D及び因子βに基づいて決定され、決定された操作移動率Vと操作量とに基づいて定めた移動量に相当する量、フォーカスレンズ302を移動させる制御が行われる。そのため、本第1実施形態に係る撮像装置100は、本構成を有しない場合(例えば視差のみに頼って操作移動率Vを決定する場合)に比べ、フォーカスレンズ302の合焦位置への高精度な移動を迅速に行うことができる。
また、本第1実施形態では、制御部12Bが、視差Dが所定値を超えている間、関数p2,p4により規定される操作移動率Vの最大値Vstと操作量とに基づいて定めた移動量に相当する量、フォーカスレンズ302を移動させる制御を行う。ここで言う「視差Dが所定値を超えている」状態とは、図20に示す例では視差Dの絶対値が変曲点b2又は変曲点c2を示す独立変数f(β,D)に含まれる視差Dの絶対値を超えている状態を指し、例えば視差が検出不可能な状態を指す。従って、本第1実施形態に係る撮像装置100は、本構成を有しない場合に比べ、簡素な構成で、視差Dが所定値を超えている場合のフォーカスレンズ302の合焦位置への移動時間を短くすることができる。なお、本第1実施形態では、視差Dが所定値を超えている間、最大値Vstを用いる例を挙げたが、これに限らず、例えば独立変数f(β,D)(例えば独立変数f(β,D)の絶対値)が所定値を超えている間、最大値Vstを用いるようにしてもよい。
また、上記では「視差Dが所定値を超えている」状態として視差が検出不可能な状態を例示したが、「視差Dが所定値を超えている」状態とは、視差Dが視差“0”を中心とする所定の視差範囲を超えている状態ということである。所定の視差範囲とは、例えば操作移動率の最大値と操作量の標準値とに基づいて決定するフォーカスレンズ302の標準移動量に相当する量だけフォーカスレンズ302を仮に移動させた場合に合焦位置(視差が“0”となる位置)を通過しない視差範囲を指す。操作量の標準値の一例としては、撮像装置100のユーザが過去に行ったフォーカスリング301の1ストロークの操作量の平均値が挙げられる。
また、傾きαは、因子βが大きいほど緩やかになるという特性を有している。従って、本第1実施形態に係る撮像装置100は、本構成を有しない場合に比べ、高精度な操作移動率Vを決定することができる。
また、決定部12Aは、独立変数f(β,D)の増加(例えば独立変数f(β,D)の絶対値の増加)に従って減少する値(軽勾配になる値)を傾きαとして決定してもよい。この場合、本第1実施形態に係る撮像装置100は、本構成を有しない場合に比べ、簡素な構成で、高精度な操作移動率Vを決定することができる。
また、傾きαは、独立変数f(β,D)が小さいほど(例えば独立変数f(β,D)の絶対値が小さいほど)操作移動率Vを小さくする、という特性を有している。従って、本第1実施形態に係る撮像装置100は、本構成を有しない場合に比べ、高精度な操作移動率Vを決定することができる。
なお、上記第1実施形態では、制御部12Bが関数p2,p4を含む関数Pにより規定された操作移動率V及び操作量に基づいて定めた移動量に相当する量、フォーカスレンズ302を移動させる例を挙げたが、本発明はこれに限定されない。すなわち、制御部12Bは、視差Dが所定値以下の場合、関数Pから関数p2,p4を除いた関数(関数p1,p3で規定される関数)により規定された操作移動率V及び操作量に基づいて定めた移動量に相当する量、フォーカスレンズ302を移動させてもよい。但し、この場合、制御部12Bは、視差Dが所定値を超えている場合、操作移動率Vの最大値として予め定められた値と操作量とに基づいて定めた移動量に相当する量、フォーカスレンズ302を移動させる制御をモータ304に対して行うこととなる。
また、上記第1実施形態では、制御部12Bにより関数Pにより操作移動量Vが規定されているが、本発明はこれに限定されるものではない。例えば図21に示す関数Qにより操作移動量Vが規定されてもよい。関数Qは、関数Pに比べ、関数p1〜p4に代えて関数q1〜q4を有する点が異なる。関数q1〜q4は各々線形関数である。関数q1,q3は、下記の数式(3)により規定される。関数q1,q3は、関数p1,p3に比べ、傾きαに代えて傾きα/βを有する点、及び独立変数f(β,D)に代えて独立変数|D|を有する点が異なっており、関数q1は関数p1に対応し、関数q3は関数p3に対応している。関数q2,q4は、最大値Vstによって規定される関数であり、関数q2は関数p2に対応し、関数q4は、関数p4に対応している。また、関数Qも、関数Pと同様に、因子βが大きいほど(被写界深度が深いほど)傾きα/βは小さくなる(勾配が緩やかになる)。傾きα/βが小さくなると、一例として図21に示すように、実線で示す関数q1,q3が破線で示す関数q1,q3に変位する。
V=(α/β)×|D|+Vmin・・・・・・(3)
図21に示す例では、最大値Vstが上記第1実施形態と同様に固定値とされているが、これに限らず、最大値Vstを所定のパラメータ(例えば視差D及び因子βの少なくとも一方)によって決定してもよい。
また、関数q1,q3は、傾きα/β、最小値Vmin及び最大値Vstによって決定されるが、傾きα/β及び変曲点b3,c3(変曲点b1,c1の各位置に対応する変曲点)によって決定されてもよい。
また、関数q1,q3において、傾きα/βは、上記第1実施形態と同様に視差D及び因子βによって決定されるが、本発明はこれに限定されるものではない。例えば、決定部12Aが視差D及び因子βから関数q2,q4及び最小値Vminを決定し、決定した関数q2,q4及び最小値Vminから傾きα/βを決定することで関数Qを決定してもよい。また、決定部12Aが視差D及び因子βから関数Qの変曲点a3,b3,c3を決定し、決定した変曲点a3,b3,c3から関数Qを決定してもよい。つまり、関数Qにより規定される操作移動率Vは、操作移動率Vの最大値Vst及び最小値Vminの少なくとも一方と、独立変数f(β,D)と、傾きα/βとに基づいて決定すればよい。なお、これらの決定手法は、上記第1実施形態で説明した関数Pを決定する場合にも適用可能である。
また、関数P,Qに含まれる因子βは、フォーカスレンズ302の光軸L1上の位置を示す情報(例えば一次元又は二次元座標)に限定されるものではない。例えば、F値、被写体距離、焦点距離又は許容錯乱円の径(例えば直径)であってもよいし、フォーカスレンズ302の光軸L1上の位置を示す情報、絞り値、被写体距離、焦点距離及び許容錯乱円の径のうちの2つ以上の組み合わせであってもよい。ここで言う「組み合わせ」としては、例えば下記の数式(4)により規定される組み合わせが挙げられる。数式(4)において、“Depth”は被写体深度を示し、“Fno”はF値を示し、“f”は焦点距離を示す。また、“δ”は許容錯乱円の直径(撮像素子20の画素ピッチから決まる値)を示す。“L”は被写体距離を示す。被写体距離とは、焦点位置及びフォーカスレンズ302の位置から算出した値のことである。つまり、被写体距離は、合焦状態のときのフォーカスレンズ302の位置(フォーカス位置)Fpと被写体距離との対応関係(例えばフォーカス位置Fpが100のとき、2m先に焦点が合っているという対応関係)を示すテーブル又は演算式を利用することで導出される。なお、被写体に焦点が合うフォーカス位置Fpは、視差から導出されてもよい。被写体距離は、導出されたフォーカス位置Fpに対応する焦点までの距離が導出されることにより導出される。
上記の数式(4)は、被写体深度を示しているが、これに限らず、下記の数式(5)に示す焦点深度であってもよい。数式(5)において、“Depth”は焦点深度を示す。
Depth=2×Fno×δ・・・・・・(5)
また、上記第1実施形態では、切片Vminを固定値とした場合を例示しているが、これに限らず、可変値としてもよい。例えば、切片Vminは、数式(4)又は数式(5)の“Depth”によって規定されてもよく、この場合、例えば下記の数式(6)によって規定すればよい。数式(6)において、“S”はユーザの使用感や基本速度等で決まる値であり、適宜に変更可能な値である。また、基本速度は、撮影レンズ16によって予め決められている。
Vmin=S×Depth×基本速度・・・・・・(6)
関数P,Qは線形関数であるが、これに限らず、非線形関数を含む関数を用いてもよい。図22には、非線形関数を含む関数の一例である関数Rが示されている。関数Rは、関数Pと比較して、関数p1〜p4に代えて関数r1〜r3を有する点が異なる。関数r1は、非線形関数であり、下記の数式(7)により規定される。関数r1は、関数p1,p3と比較すると、傾きαに代えて係数α/βを有する点、及び独立変数f(β,D)に代えて独立変数D^2を有する点が異なっている。関数r2,r3は、最大値Vstによって規定される線形関数であり、関数r2は関数p2に対応し、関数r3は、関数p4に対応している。また、関数Rも、関数P,Qと同様に、因子βが大きいほど係数α/βは小さくなる。
V=(α/β)×D^2+Vmin・・・・・・(7)
また、関数Rに代えて関数Sを用いてもよい。図23には、関数Sの一例が示されている。関数Sは、関数Rと比較して、関数r1〜r3に代えて関数s1〜s3を有する点が異なる。関数s1は、非線形関数であり、下記の数式(8)により規定される。関数s1は、関数r1と比較すると、係数α/βに代えて係数αを有する点、及び独立変数D^2に代えて独立変数f(β,D)^2を有する点が異なっている。関数s2,s3は、最大値Vstによって規定される線形関数であり、関数s2は関数r2に対応し、関数s3は、関数r3に対応している。また、関数Sも、関数Rと同様に、因子βが大きいほど係数αは小さくなる。
V=α×f(β,D)^2+Vmin・・・・・・(8)
また、上記第1実施形態では、操作移動率Vを、フォーカスリング301の回転操作量をフォーカスレンズ302の移動量に変換する係数としたが、本発明はこれに限定されるものではない。例えば、ハードウェアキー又はソフトウェアキーによるプッシュ式キーの押圧操作によりフォーカスレンズ302を移動させる場合には、プッシュ式キーの押圧操作量をフォーカスレンズ302の移動量に変換する係数を採用してもよい。また、スライド部材をスライドさせることよりフォーカスレンズ302を移動させる場合には、スライド部材のスライド量をフォーカスレンズ302の移動量に変換する係数を採用してもよい。
また、上記第1実施形態で説明した視差算出処理の流れ(図16参照)及びレンズ移動制御処理の流れ(図19参照)はあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。また、上記第1実施形態で説明した視差算出処理及びレンズ移動制御処理に含まれる各処理は、プログラムを実行することにより、コンピュータを利用してソフトウェア構成により実現されてもよいし、その他のハードウェア構成で実現されてもよい。また、ハードウェア構成とソフトウェア構成の組み合わせによって実現してもよい。
上記第1実施形態で説明した視差算出処理及びレンズ移動制御処理の少なくとも一方を、コンピュータによりプログラムを実行することにより実現する場合は、プログラムを所定の記憶領域(例えばメモリ26)に予め記憶しておけばよい。なお、必ずしも最初からメモリ26に記憶させておく必要はない。例えば、コンピュータに接続されて使用されるSSD(Solid State Drive)、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの任意の「可搬型の記憶媒体」に先ずはプログラムを記憶させておいてもよい。そして、コンピュータがこれらの可搬型の記憶媒体からプログラムを取得して実行するようにしてもよい。また、インターネットやLAN(Local Area Network)などを介してコンピュータに接続される他のコンピュータまたはサーバ装置などに各プログラムを記憶させておき、コンピュータがこれらからプログラムを取得して実行するようにしてもよい。
[第2実施形態]
操作移動率Vを用いてフォーカスレンズ302の移動を制御する場合の形態例を挙げて説明したが、本第2実施形態では、操作移動率Vに代えてフォーカスリング301の回転を阻止する力(以下、「抗力」という)を用いる場合について説明する。なお、上記第1実施形態で説明した構成部材には同一の符号を付し、説明を省略する。
図24には、本第2実施形態に係る撮像装置100Aの構成の一例が示されている。図24に示す撮像装置100Aは、上記第1実施形態で説明した撮像装置100と比較して、交換レンズ300に代えて交換レンズ300Aを有する点、及びカメラ本体200に代えてカメラ本体200Aを有する点が異なっている。
交換レンズ300Aは、上記第1実施形態で説明した交換レンズ300と比較して、スライド機構303に代えてスライド機構303Aを有する点、及びフォーカスリング301に代えてフォーカスリング301Aを有する点が異なっている。また、交換レンズ300Aは、上記第1実施形態で説明した交換レンズ300と比較して、抗力発生器305を有する点が異なっている。
スライド機構303Aは、スライド機構303と比較して、フォーカスリング301Aに接続されている点が異なっている。スライド機構303Aは、スライド機構303が有する機能を具備し、かつ、フォーカスリング301Aの回転操作に従って動作する。フォーカスレンズ302は、フォーカスリング301Aの回転操作に従って、スライド機構303Aにより光軸L1方向に移動される。
フォーカスリング301Aには抗力発生器305が接続されている。抗力発生器305は、抗力(例えばフォーカスリング301Aに与える負荷トルク)を発生する。また、抗力発生器305は、アクチュエータ(例えば圧電素子)を有し、アクチュエータの動作を制御することで抗力を制御する。また、抗力発生器305は、マウント256,346を介してデバイス制御部22に接続されており、デバイス制御部22を介してCPU12によって制御される。つまり、フォーカスリング301Aの抗力は、CPU12によって抗力発生器305を介して制御される。
本第2実施形態に係るレンズ移動制御処理では、上記第1実施形態で説明したレンズ移動制御処理で用いた関数Pに代えて一例として図25に示す関数Uが用いられる。すなわち、本第2実施形態に係る撮像装置100Aでは、フォーカスレンズ302が、関数Uにより定まる抗力、フォーカスレンズ301に対する操作力及び操作時間に基づいて定まる移動量に相当する量、移動することとなる。
図25には、抗力を規定する関数Uの一例が示されている。図25に示すように、関数Uは、各々線形関数である関数u1〜u4により規定される。下記の数式(9)は、関数u1,u3を示す。数式(9)は、αを傾きとし、因子β及び視差Dを考慮した関数により定まるf(β,D)を独立変数とし、抗力Fを従属変数とし、Fmaxを抗力Fの最大値である切片とする一次関数を示す。また、ここでは、錯綜を回避するために、独立変数f(β,D)の一例として、因子β及び視差Dを独立変数として有し、因子β及び視差Dが大きくなるほど値が大きくなる従属変数を有する関数より示される変数を採用している。また、ここでは、錯綜を回避するために、切片Fmaxとして固定値を採用しているが、諸条件(例えば視差D及び因子β)によって変化する可変値であってもよい。
F=γ×f(β,D)+Fmax・・・・・・(9)
傾きγは、CPU12によって取得された視差及び因子によって一意に定まる係数であり、独立変数f(β,D)を抗力Fの単位に変換する係数を示す。
また、傾きγにより示される関数u1,u3の勾配は、因子βの増大に従って緩やかになる。つまり、傾きγの絶対値は、因子βの増大に従って小さくなる(因子βが大きいほど傾きγが軽勾配になる)、という特性を有している。なお、本第2実施形態では、傾きγにより示される関数u1,u3の勾配が、因子βの増大に従って緩やかになるという特性を有する場合を例示しているが、本発明はこれに限定されるものではない。例えば、傾きγにより示される関数u1,u3の勾配は、独立変数f(β,D)の増加に従って緩やかになるという特性を有していてもよい。つまり、傾きγは、メモリ26の所定の記憶領域に記憶されている視差を視差Dとして含む独立変数f(β,D)(例えば独立変数f(β,D)の絶対値)が大きいほど絶対値が小さくなるという特性を有していてもよい。
また、関数u1の傾きγは負の値であり、関数u3の傾きγは正の値であり、いずれも独立変数f(β,D)の絶対値が小さいほど抗力Fを大きくする、という特性を有している。なお、関数u1及び関数u3は、(0,Fmax)の位置の変曲点a4を介して連続している。
以上の特性を有する傾きγは、例えば決定部12Aにより独立変数f(β,D)に基づいて決定され、決定された傾きγ及び予め定められた切片Vminにより、関数u1,u3が決定される。
関数u1,u3は、視差Dの絶対値が所定値以下(ここでは一例として独立変数f(β,D)の“0”を中心とする所定範囲内)で用いられる関数であるのに対し、関数u2,u4は、視差Dが所定値を超える範囲で用いられる関数である。すなわち、関数u2は、関数u1と共にプラス側の独立変数f(β,D)で用いられ、変曲点b2を介して関数u1に連続している。関数u4は、関数u3と共に用いられ、変曲点c2を介して関数u3に連続している。本第2実施形態では抗力Fの最小値は予め定められているので、変曲点b4,c4は、傾きγが定まることによって一意に定まる。変曲点b4,c4が定まることによって、関数u2,u4の独立変数f(β,D)の範囲(最小値Fminが適用される独立変数f(β,D)の範囲)も定まる。関数u2,u4について最小値Fminが適用される独立変数f(β,D)の範囲は、傾きγが緩やかなほど(傾きγの絶対値が小さいほど)拡がる。
以上のように、本第2実施形態では、抗力Fが、視差D及び因子βに基づいて決定され、決定された抗力F、フォーカスリング301に対する操作力及び操作時間に基づいて定まる移動量に相当する量、フォーカスレンズ302が移動することとなる。そのため、本第2実施形態に係る撮像装置100Aは、本構成を有しない場合(例えば視差のみに頼って抗力Fを決定する場合)に比べ、フォーカスレンズ302の合焦位置への高精度な移動を迅速に行うことができる。
関数Uは線形関数であるが、これに限らず、非線形関数を含む関数を用いてもよい。図26には、非線形関数を含む関数の一例である関数Wが示されている。関数Wは、関数Uと比較して、関数u1〜u4に代えて関数w1〜w3を有する点が異なる。関数w1は、非線形関数であり、下記の数式(10)により規定される。関数w1は、関数u1,u3と比較すると、傾きγに代えて係数δを有する点、及び独立変数f(β,D)に代えて独立変数f(β,D)^2を有する点が異なっている。関数w2,w3は、最小値Fminによって規定される線形関数であり、関数w2は関数u2に対応し、関数w3は、関数u4に対応している。また、関数Wも、関数Uと同様に、因子βが大きいほど係数γは小さくなる。
F=δ×f(β,D)^2+Fmax・・・・・・(10)
[第3実施形態]
上記各実施形態では、撮像装置100(100A)を例示したが、撮像装置100の変形例である携帯端末装置としては、例えばカメラ機能を有する携帯電話機やスマートフォン、PDA(Personal Digital Assistants)、携帯型ゲーム機などが挙げられる。本第3実施形態では、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
図27は、スマートフォン500の外観の一例を示す斜視図である。図27に示すスマートフォン500は、平板状の筐体502を有し、筐体502の一方の面に表示部としての表示パネル521と、入力部としての操作パネル522とが一体となった表示入力部520を備えている。また、筐体502は、スピーカ531と、マイクロホン532と、操作部540と、カメラ部541とを備えている。なお、筐体502の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド構造を有する構成を採用することもできる。
図28は、図27に示すスマートフォン500の構成の一例を示すブロック図である。図28に示すように、スマートフォン500の主たる構成要素として、無線通信部510と、表示入力部520と、通話部530と、操作部540と、カメラ部541と、記憶部550と、外部入出力部560と、を備える。また、スマートフォン500の主たる構成要素として、GPS(Global Positioning System)受信部570と、モーションセンサ部580と、電源部590と、主制御部501と、を備える。また、スマートフォン500の主たる機能として、基地局装置BSと移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部510は、主制御部501の指示に従って、移動通信網NWに収容された基地局装置BSに対して無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部520は、いわゆるタッチパネルであって、表示パネル521と、操作パネル522とを備える。そのため、表示入力部520は、主制御部501の制御により、画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達し、かつ、表示した情報に対するユーザ操作を検出する。なお、生成された3Dを鑑賞する場合には、表示パネル521は、3D表示パネルであることが好ましい。
表示パネル521は、LCD、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル522は、表示パネル521の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。係るデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部501に出力する。次いで、主制御部501は、受信した検出信号に基づいて、表示パネル521上の操作位置(座標)を検出する。
図27に示すように、スマートフォン500の表示パネル521と操作パネル522とは一体となって表示入力部520を構成しているが、操作パネル522が表示パネル521を完全に覆うような配置となっている。この配置を採用した場合、操作パネル522は、表示パネル521外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル522は、表示パネル521に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル521に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル521の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル522が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体502の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル522で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部530は、スピーカ531やマイクロホン532を備える。通話部530は、マイクロホン532を通じて入力されたユーザの音声を主制御部501にて処理可能な音声データに変換して主制御部501に出力する。また、通話部530は、無線通信部510あるいは外部入出力部560により受信された音声データを復号してスピーカ531から出力する。また、図27に示すように、例えば、スピーカ531を表示入力部520が設けられた面と同じ面に搭載し、マイクロホン532を筐体502の側面に搭載することができる。
操作部540は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図27に示すように、操作部540は、スマートフォン500の筐体502の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部550は、主制御部501の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータを記憶する。また、記憶部550は、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶する。また、記憶部550は、ストリーミングデータなどを一時的に記憶する。また、記憶部550は、スマートフォン内蔵の内部記憶部551と着脱自在な外部メモリスロットを有する外部記憶部552を有する。なお、記憶部550を構成するそれぞれの内部記憶部551と外部記憶部552は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)などの格納媒体を用いて実現される。格納媒体としては、この他にも、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)が例示できる。
外部入出力部560は、スマートフォン500に連結される全ての外部機器とのインタフェースの役割を果たすものであり、他の外部機器に通信等又はネットワークにより直接的又は間接的に接続するためのものである。他の外部機器に通信等としては、例えば、ユニバーサルシリアルバス(USB)、IEEE1394などが挙げられる。ネットワークとしては、例えば、インターネット、無線LAN、ブルートゥース(Bluetooth(登録商標))、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA(登録商標))が挙げられる。また、ネットワークの他の例としては、UWB(Ultra Wideband(登録商標))、ジグビー(ZigBee(登録商標))などが挙げられる。
スマートフォン500に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)が挙げられる。外部機器の他の例としては、SIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器が挙げられる。外部オーディオ・ビデオ機器の他にも、無線接続される外部オーディオ・ビデオ機器が挙げられる。また、外部オーディオ・ビデオ機器に代えて、例えば有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなども適用可能である。
外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン500の内部の各構成要素に伝達することや、スマートフォン500の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部570は、主制御部501の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン500の緯度、経度、高度からなる位置を検出する。GPS受信部570は、無線通信部510や外部入出力部560(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部580は、例えば、3軸の加速度センサなどを備え、主制御部501の指示にしたがって、スマートフォン500の物理的な動きを検出する。スマートフォン500の物理的な動きを検出することにより、スマートフォン500の動く方向や加速度が検出される。この検出結果は、主制御部501に出力されるものである。
電源部590は、主制御部501の指示にしたがって、スマートフォン500の各部に、バッテリ(図示省略)に蓄えられる電力を供給するものである。
主制御部501は、マイクロプロセッサを備え、記憶部550が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン500の各部を統括して制御するものである。また、主制御部501は、無線通信部510を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部550が記憶するアプリケーションソフトウェアにしたがって主制御部501が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部560を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、主制御部501は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部520に表示する等の画像処理機能を備える。画像処理機能とは、主制御部501が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部520に表示する機能のことをいう。
更に、主制御部501は、表示パネル521に対する表示制御と、操作部540、操作パネル522を通じたユーザ操作を検出する操作検出制御とを実行する。
表示制御の実行により、主制御部501は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。なお、スクロールバーとは、表示パネル521の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部501は、操作部540を通じたユーザ操作を検出したり、操作パネル522を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたりする。また、操作検出制御の実行により、主制御部501は、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部501は、操作パネル522に対する操作位置が、表示パネル521に重なる重畳部分(表示領域)か、それ以外の表示パネル21に重ならない外縁部分(非表示領域)かを判定する。そして、この判定結果を受けて、操作パネル522の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部501は、操作パネル522に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部541は、CMOSやCCDなどの撮像素子を用いて撮像するデジタルカメラであり、図1等に示す撮像装置100と同様の機能を備えている。
また、カメラ部541は、マニュアルフォーカスモードとオートフォーカスモードとを切り替え可能である。マニュアルフォーカスモードが選択されると、操作部540又は表示入力部520に表示されるフォーカス用のアイコンボタン等を操作することにより、カメラ部541の撮影レンズのピント合わせを行うことができる。例えば、操作量決定部の一例である主制御部501は、マニュアルフォーカスモード時(移動指示期間の一例)に検知部の一例である操作パネル522によって検知された接触操作に基づいて、フォーカスレンズ302の移動を指示する操作量を決定する。例えば、アイコンボタン等に対して行った接触の回数、アイコンボタン等に対して行った接触操作の押圧力、又はアイコンボタン等に対して行った接触の継続時間などに基づいて操作量を決定する。そして、決定した操作量と操作移動率とに基づいて決定する移動量に相当する量、フォーカスレンズ302を移動させる制御を行う。
また、マニュアルフォーカスモード時には、スプリットイメージが合成されたライブビュー画像を表示パネル521に表示させ、これによりマニュアルフォーカス時の合焦状態を確認できるようにしている。なお、図12に示すハイブリッドファインダー220をスマートフォン500に設けるようにしてもよい。
また、カメラ部541は、主制御部501の制御により、撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換する。そして、変換して得た画像データを記憶部550に記録したり、入出力部560や無線通信部510を通じて出力することができる。図27に示すにスマートフォン500において、カメラ部541は表示入力部520と同じ面に搭載されているが、カメラ部541の搭載位置はこれに限らず、表示入力部520の背面に搭載されてもよいし、あるいは、複数のカメラ部541が搭載されてもよい。なお、複数のカメラ部541が搭載されている場合には、撮像に供するカメラ部541を切り替えて単独にて撮像したり、あるいは、複数のカメラ部541を同時に使用して撮像したりすることもできる。
また、カメラ部541はスマートフォン500の各種機能に利用することができる。例えば、表示パネル521にカメラ部541で取得した画像を表示することや、操作パネル522の操作入力のひとつとして、カメラ部541の画像を利用することができる。また、GPS受信部570が位置を検出する際に、カメラ部541からの画像を参照して位置を検出することもできる。更には、カメラ部541からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン500のカメラ部541の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部541からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データに各種情報を付加して記憶部550に記録したり、入出力部560や無線通信部510を通じて出力したりすることもできる。ここで言う「各種情報」としては、例えば、静止画又は動画の画像データにGPS受信部570により取得した位置情報、マイクロホン532により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)が挙げられる。この他にも、モーションセンサ部580により取得した姿勢情報等などであってもよい。
なお、上記各実施形態では、上下方向に2分割されたスプリットイメージを例示したが、これに限らず、左右方向又は斜め方向に複数分割された画像をスプリットイメージとして適用してもよい。
例えば、図29に示すスプリットイメージ66aは、行方向に平行な複数の分割線63aにより奇数ラインと偶数ラインとに分割されている。このスプリットイメージ66aでは、第1の画素群から出力された出力信号に基づいて生成されたライン状(一例として短冊状)の位相差画像66Laが奇数ライン(偶数ラインでも可)に表示される。また、第2の画素群から出力された出力信号に基づき生成されたライン状(一例として短冊状)の位相差画像66Raが偶数ラインに表示される。
また、図30に示すスプリットイメージ66bは、行方向に傾き角を有する分割線63b(例えば、スプリットイメージ66bの対角線)により2分割されている。このスプリットイメージ66bでは、第1の画素群から出力された出力信号に基づき生成された位相差画像66Lbが一方の領域に表示される。また、第2の画素群から出力された出力信号に基づき生成された位相差画像66Rbが他方の領域に表示される。
また、図31A及び図31Bに示すスプリットイメージ66cは、行方向及び列方向にそれぞれ平行な格子状の分割線63cにより分割されている。スプリットイメージ66cでは、第1の画素群から出力された出力信号に基づき生成された位相差画像66Lcが市松模様(チェッカーパターン)状に並べられて表示される。また、第2の画素群から出力された出力信号に基づき生成された位相差画像66Rcが市松模様状に並べられて表示される。
また、スプリットイメージに限らず、2つの位相差画像から他の合焦確認画像を生成し、合焦確認画像を表示するようにしてもよい。例えば、2つの位相差画像を重畳して合成表示し、ピントがずれている場合は2重像として表示され、ピントが合った状態ではクリアに画像が表示されるようにしてもよい。
また、上記各実施形態では、第1〜第3の画素群を有する撮像素子20を例示したが、本発明はこれに限定されるものではなく、第1の画素群及び第2の画素群のみからなる撮像素子であってもよい。この種の撮像素子を有するデジタルカメラは、第1の画素群から出力された第1の画像及び第2の画素群から出力された第2の画像に基づいて3次元画像(3D画像)を生成することができるし、2次元画像(2D画像)も生成することができる。この場合、2次元画像の生成は、例えば第1の画像及び第2の画像の相互における同色の画素間で補間処理を行うことで実現される。また、補間処理を行わずに、第1の画像又は第2の画像を2次元画像として採用してもよい。
また、上記各実施形態では、第1〜第3の画像が画像処理部28に入力された場合に通常画像とスプリットイメージとの双方を表示装置の同画面に同時に表示する態様を例示したが、本発明はこれに限定されるものではない。例えば、表示制御部36が、表示装置に対する通常画像の表示を抑止し、かつ、表示装置に対してスプリットイメージを表示させる制御を行うようにしてもよい。ここで言う「通常画像の表示を抑止する」とは、例えば表示装置に対して通常画像を表示させないことを指す。具体的には、通常画像を生成するものの表示装置に通常画像を出力しないことで表示装置に対して通常画像を表示させないことや通常画像を生成しないことで表示装置に対して通常画像を表示させないことを指す。表示装置の画面全体を利用してスプリットイメージを表示させてもよいし、一例として図15に示すスプリットイメージの表示領域の全体を利用してスプリットイメージを表示させてもよい。なお、ここで言う「スプリットイメージ」としては、特定の撮像素子を使用する場合において、位相差画群から出力された画像(例えば第1の画素群から出力された第1の画像及び第2の画素群から出力された第2の画像)に基づくスプリットイメージが例示できる。「特定の撮像素子を使用する場合」としては、例えば位相差画素群(例えば第1の画素群及び第2の画素群)のみからなる撮像素子を使用する場合が挙げられる。この他にも、通常画素に対して所定の割合で位相差画素(例えば第1の画素群及び第2の画素群)が配置された撮像素子を使用する場合が例示できる。
また、通常画像の表示を抑止してスプリットイメージを表示させるための条件としては、様々な条件が考えられる。例えば、スプリットイメージの表示が指示されている状態で通常画像の表示指示が解除された場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、撮影者がハイブリッドファインダーを覗きこんだ場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、レリーズボタン211が半押し状態にされた場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、レリーズボタン211に対して押圧操作が行われていない場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。また、例えば、被写体の顔を検出する顔検出機能を働かせた場合に表示制御部36が表示装置に対して通常画像を表示させずにスプリットイメージを表示させる制御を行うようにしてもよい。