以下に、図面を参照して、本発明を実施するための形態(以下、「実施の形態」という)について説明する。なお、以下の実施の形態により本発明が限定されるものではない。また、図面の記載において、同一の部分には同一の符号を付して説明する。
(実施の形態1)
図1は、本発明の実施の形態1にかかる撮像装置の被写体に面する側(前面側)の構成を示す斜視図である。図2は、本発明の実施の形態1にかかる撮像装置の撮影者に面する側(背面側)の構成を示す斜視図である。図3は、本発明の実施の形態1にかかる撮像装置の機能構成を示すブロック図である。
図1〜図3に示す撮像装置1は、本体部2と、本体部2に着脱自在であり、被写体像を結像する光学ズーム可能なレンズ部3と、を備える。
まず、本体部2について説明する。本体部2は、シャッタ201と、シャッタ駆動部202と、撮像素子203と、撮像素子駆動部204と、信号処理部205と、A/D変換部206と、画像処理部207と、AE処理部208と、AF処理部209と、画像圧縮展開部210と、入力部211と、アクセサリ通信部212と、接眼表示部213と、アイセンサ214と、可動部215と、背面表示部216と、タッチパネル217と、回動判定部218と、状態検出部219と、時計220と、記録媒体221と、メモリI/F222と、SDRAM(Synchronous Dynamic Random Access Memory)223と、Flashメモリ224と、本体通信部225と、バス226と、本体制御部227と、を備える。
シャッタ201は、撮像素子203の状態を露光状態または遮光状態に設定する。シャッタ201は、フォーカルプレーンシャッタ等の機械式のシャッタを用いて構成される。
シャッタ駆動部202は、本体制御部227から入力される指示信号に応じてシャッタ201を駆動する。シャッタ駆動部202は、ステッピングモータやDCモータ等を用いて構成される。
撮像素子203は、レンズ部3が集光した光を受光して光電変換を行うことによって電気信号を出力する複数の画素が2次元的に配列されたCMOS(Complementary Metal Oxide Semiconductor)等を用いて構成される。撮像素子203は、本体制御部227の制御のもと、所定のフレームレート、たとえば30fpsで連続的に画像データを生成して信号処理部205へ出力する。また、撮像素子203は、撮像装置1が位相差検出方式によって被写体までの距離を検出する測距処理およびレンズ部3の焦点を調整する像面位相差AF処理を行う際に用いられる焦点信号(以下、「焦点データ」という)を生成するAF画素203a(焦点検出用画素)と、撮像面に被写体像を受光して電気信号(以下、「画像データ」という)を生成する撮像画素203bと、を有する。
AF画素203aは、フォトダイオードや増幅回路等を用いて構成され、撮像素子203の撮像面に所定の間隔および所定の領域内に設けられる。たとえば、AF画素203aは、撮像素子203の受光面におけるAF領域または中央領域に所定の間隔で設けられる。
撮像画素203bは、フォトダイオード(photodiode)や増幅回路等を用いて構成される。撮像画素203bは、レンズ部3から入射された被写体像を受光して光電変換を行うことによって画像データを生成する。
撮像素子駆動部204は、所定のタイミングで撮像素子203から画像データ(アナログ信号)および焦点データ(アナログ信号)を信号処理部205へ出力させる。この意味で、撮像素子駆動部204は、電子シャッタとして機能する。
信号処理部205は、撮像素子203から入力される画像データおよび焦点データに対して、アナログ処理を施してA/D変換部206へ出力する。たとえば、信号処理部205は、画像データに対して、リセットノイズ等を低減した上で波形整形後、目的の明るさとなるようにゲインアップを行う。
A/D変換部206は、信号処理部205から入力されるアナログの画像データおよび焦点データに対してA/D変換を行うことによってデジタルの画像データ(RAWデータ)および焦点データを生成し、バス226を介してSDRAM223へ出力する。なお、本実施の形態1では、撮像素子203、信号処理部205およびA/D変換部206が撮像部として機能する。
画像処理部207は、基本画像処理部207aと、輪郭検出部207bと、距離算出部207cと、焦点位置取得部207dと、形状判定部207eと、を有する。
基本画像処理部207aは、バス226を介してSDRAM223から画像データ(RAWデータ)を取得し、取得した画像データに対して各種の画像処理を行って処理画像データを生成する。具体的には、画像処理部207は、オプティカルブラック減算処理、ホワイトバランス(WB)調整処理、カラーマトリクス演算処理、ガンマ補正処理、色再現処理およびエッジ強調処理等を含む基本の画像処理を行う。なお、画像処理部207は、撮像素子203がベイヤー配列の場合には画像データの同時化処理を行う。画像処理部207は、バス226を介して処理画像データをSDRAM223または背面表示部216へ出力する。
輪郭検出部207bは、撮像素子203が生成した画像データに対応する画像内における被写体の輪郭を検出する。具体的には、輪郭検出部207bは、画像データの輝度成分を抽出し、この抽出した輝度成分に対して2次微分の絶対値を算出することによって、被写体の輪郭(コントラスト)を構成する複数の輪郭点を検出する。なお、輪郭検出部207bは、画像データに対してエッジ検出処理を行うことによって、被写体の輪郭を構成する輪郭点を検出してもよい。さらに、輪郭検出部207bは、画像データに対して周知の技術を用いて画像内における被写体の輪郭を検出してもよい。
距離算出部207cは、撮像素子203から輪郭検出部207bによって検出された被写体の輪郭を構成する複数の輪郭点の少なくとも一部までの距離を算出する。具体的には、距離算出部207cは、AF画素203aが生成した焦点データに基づいて、輪郭検出部207bによって検出された被写体の輪郭を構成する複数の輪郭点の少なくとも一部までの距離を算出する。たとえば、距離算出部207cは、AF画素203aが生成した焦点データに基づいて、輪郭検出部207bによって検出された被写体の輪郭を構成する複数の輪郭点のうちの2点の距離を算出する。なお、距離算出部207cは、レンズ部3のフォーカスレンズ307が光軸Oに沿って焦点位置を中心に微小な幅で往復移動するWob駆動される毎に、被写体の輪郭を構成する複数の輪郭点それぞれの距離を算出してもよい。
焦点位置取得部207dは、後述するレンズ部3のフォーカスレンズ307の焦点位置を取得する。具体的には、焦点位置取得部207dは、後述するレンズ部3のフォーカス位置検出部309が検出したフォーカスレンズ307の光軸O上における位置を取得する。
形状判定部207eは、輪郭検出部207bが検出した被写体の輪郭と距離算出部207cが算出した距離とに基づいて、レンズ部3の光軸Oに沿って(奥行き方向)被写体の形状が同じであるか否かを判定する。また、形状判定部207eは、レンズ部3の光軸Oに沿って被写体の輪郭の幅が一定の範囲内で連続しているか否かを判定する。
AE処理部208は、バス226を介してSDRAM223に記録された画像データを取得し、取得した画像データに基づいて、撮像装置1が静止画撮影または動画撮影を行う際の露出条件を設定する。具体的には、AE処理部208は、画像データから輝度を算出し、算出した輝度に基づいて、たとえば絞り値、シャッタ速度、ISO感度等を決定することで撮像装置1の自動露出を行う。
AF処理部209は、バス226を介してSDRAM223に記録された焦点データを取得し、取得した焦点データに基づいて、撮像装置1の自動焦点の調整を行う。たとえば、AF処理部209は、焦点データに基づいて、被写体までの測距演算処理を行うことによってレンズ部3のデフォーカス量を算出し、この算出結果に従って撮像装置1の自動焦点の調整を行う位相差AF処理(像面位相差AF方式)を行う。なお、AF処理部209は、画像データから高周波成分の信号を取り出し、高周波成分の信号に対してAF(Auto Focus)演算処理(コントラストAF方式)を行うことによって、撮像装置1の合焦評価を決定することで撮像装置1の自動焦点の調整を行ってもよい。さらに、AF処理部209は、瞳分割位相差法を用いて撮像装置1の自動焦点の調整を行ってもよい。
画像圧縮展開部210は、バス226を介してSDRAM223から画像データや処理画像データを取得し、取得した画像データに対して所定の形式に従って圧縮し、この圧縮した画像データをメモリI/F222を介して記録媒体221へ出力する。ここで、所定の形式としては、JPEG(Joint Photographic Experts Group)方式、MotionJPEG方式およびMP4(H.264)方式等である。また、画像圧縮展開部210は、バス226およびメモリI/F222を介して記録媒体221に記録された画像データ(圧縮画像データ)を取得し、取得した画像データを展開(伸長)してSDRAM223へ出力する。
入力部211は、撮像装置1の電源状態をオン状態またはオフ状態に切り替える電源スイッチ211aと、静止画撮影の指示を与える静止画レリーズ信号の入力を受け付けるレリーズスイッチ211bと、撮像装置1の各種設定を切り替える操作スイッチ211cと、撮像装置1の各種設定を背面表示部216に表示させるメニュースイッチ211dと、動画撮影の指示を与える動画レリーズ信号の入力を受け付ける動画スイッチ211eと、記録媒体221に記録された画像データに対応する画像を背面表示部216に表示させる再生スイッチ211fと、を有する。レリーズスイッチ211bは、外部からの押圧により進退可能であり、半押しされた場合に撮影準備動作を指示する指示信号のファーストレリーズ信号の入力を受け付ける一方、全押しされた場合に静止画撮影を指示するセカンドレリーズ信号の入力を受け付ける。
アクセサリ通信部212は、本体部2に装着される外部機器との通信を行うための通信インターフェースである。
接眼表示部213は、本体制御部227の制御のもと、バス226を介してSDRAM223に記録された画像データに対応するライブビュー画像または再生画像を表示する。この意味で、接眼表示部213は、電子ビューファインダ(EVF)として機能する。接眼表示部213は、液晶または有機EL(Electro Luminescence)からなる表示パネルおよび駆動ドライバ等を用いて構成される。
アイセンサ214は、接眼表示部213に対するユーザ(物体)の接近を検出し、この検出結果を本体制御部227へ出力する。具体的には、アイセンサ214は、ユーザが接眼表示部213で画像を確認しているか否かを検出する。アイセンサ214は、接触センサや赤外線センサ等を用いて構成される。
可動部215は、背面表示部216およびタッチパネル217が設けられ、ヒンジ215aを介して可動可能に本体部2に設けられる。たとえば、可動部215は、本体部2の鉛直方向に対して背面表示部216が上向き、または下向きに変更可能に本体部2に設けられる(図2を参照)。
背面表示部216は、本体制御部227の制御のもと、バス226を介してSDRAM223に記録された画像データまたは記録媒体221に記録された画像データを取得し、取得した画像データに対応する画像を表示する。ここで、画像の表示には、撮影直後の画像データを所定時間(たとえば3秒間)だけ表示するレックビュー表示、記録媒体221に記録された画像データを再生する再生表示、および撮像素子203が連続的に生成する画像データに対応するライブビュー画像を時系列に沿って順次表示するライブビュー表示等が含まれる。背面表示部216は、液晶または有機ELからなる表示パネルおよび駆動ドライバ等を用いて構成される。また、背面表示部216は、撮像装置1の操作情報および撮影に関する情報を適宜表示する。なお、本実施の形態1では、接眼表示部213または背面表示部216が表示部として機能する。
タッチパネル217は、背面表示部216の表示画面上に重畳して設けられる。タッチパネル217は、外部からの物体のタッチを検出し、この検出したタッチ位置に応じた位置信号を本体制御部227へ出力する。また、タッチパネル217は、ユーザが背面表示部216で表示される情報、たとえばアイコン画像やサムネイル画像に基づいてタッチした位置を検出し、この検出したタッチ位置に応じて撮像装置1が行う動作を指示する指示信号や画像を選択する選択信号の入力を受け付けてもよい。一般に、タッチパネル217としては、抵抗膜方式、静電容量方式および光学方式等がある。本実施の形態1では、いずれの方式のタッチパネルであっても適用可能である。さらに、可動部215、背面表示部216およびタッチパネル217は、一体的に形成してもよい。
回動判定部218は、可動部215の回動状況を判定し、この検出結果を本体制御部227へ出力する。たとえば、回動判定部218は、本体部2に対して可動部215が可動しているか否かを判定し、この判定結果を本体制御部227へ出力する。
状態検出部219は、加速度センサおよびジャイロセンサを用いて構成され、撮像装置1に生じる加速度および角速度をそれぞれ検出し、この検出結果を本体制御部227へ出力する。
時計220は、計時機能および撮影日時の判定機能を有する。時計220は、撮像素子203によって撮像された画像データに日時データを付加するため、日時データを本体制御部227へ出力する。
記録媒体221は、撮像装置1の外部から装着されるメモリカード等を用いて構成される。記録媒体221は、メモリI/F222を介して撮像装置1に着脱自在に装着される。記録媒体221には、画像処理部207や画像圧縮展開部210が処理を施した画像データが書き込まれる。また、記録媒体221は、本体制御部227によって記録された画像データが読み出される。
SDRAM223は、バス226を介してA/D変換部206から入力される画像データ、画像処理部207から入力される画像データおよび撮像装置1の処理中の情報を一時的に記録する。たとえば、SDRAM223は、信号処理部205、A/D変換部206およびバス226を介して撮像素子203が1フレーム毎に順次出力する画像データを一時的に記録する。SDRAM223は、揮発メモリを用いて構成される。
Flashメモリ224は、プログラム記録部224aを有する。プログラム記録部224aは、撮像装置1を動作させるための各種プログラムや本実施の形態1にかかるプログラムおよびプログラムの実行中に使用される各種データおよび画像処理部207による画像処理の動作に必要な各画像処理のパラメータ等を記録する。Flashメモリ224は、不揮発性メモリを用いて構成される。
本体通信部225は、本体部2に装着されるレンズ部3との通信を行うための通信インターフェースである。
バス226は、撮像装置1の各構成部位を接続する伝送路等を用いて構成される。バス226は、撮像装置1の内部で発生した各種データを撮像装置1の各構成部に転送する。
本体制御部227は、CPU(Central Processing Unit)等を用いて構成される。本体制御部227は、入力部211からの指示信号またはタッチパネル217からの位置信号に応じて撮像装置1を構成する各部に対応する指示やデータの転送等を行って撮像装置1の動作を統括的に制御する。
本体制御部227の詳細な構成について説明する。本体制御部227は、撮像制御部227aと、表示制御部227bと、を有する。
撮像制御部271aは、レリーズスイッチ211bからレリーズ信号が入力された場合、撮像装置1における撮影動作を開始する制御を行う。ここで、撮像装置1における撮影動作とは、シャッタ駆動部202の駆動によって撮像素子203が出力した画像データに対し、信号処理部205、A/D変換部206および画像処理部207が所定の処理を施す動作をいう。このように処理が施された画像データは、撮像制御部227aの制御のもと、画像圧縮展開部210で圧縮され、バス226およびメモリI/F222を介して記録媒体221に記録される。
表示制御部227bは、画像データに対応する画像を背面表示部216および/または接眼表示部213に表示させる。具体的には、表示制御部227bは、接眼表示部213の電源がオン状態である場合、画像データに対応するライブビュー画像を接眼表示部213に表示させる一方、接眼表示部213の電源がオフ状態である場合、画像データに対応するライブビュー画像を背面表示部216に表示させる。また、表示制御部227dは、距離算出部207cが算出した距離と焦点位置取得部207dが取得した焦点位置とに基づいて、輪郭検出部20bが検出した被写体の輪郭を構成する輪郭のうち焦点位置に対応する距離の輪郭点を通る領域に、レンズ部3の焦点位置に関する焦点情報(補助線)を接眼表示部213または背面表示部216に表示させる。もちろん、撮影者がピント合わせ時の参考に出来れば良いので、焦点深度を加味したり、焦点位置と対応していれば、焦点位置と厳密に一致する必要はない。この補助線は、帯であってもよく、補助情報と記載しても良い。
以上の構成を有する本体部2に対して、音声入出力機能、フラッシュ機能および外部と双方向に通信可能な通信機能等を具備させてもよい。
次に、レンズ部3について説明する。レンズ部3は、ズームレンズ301と、ズーム駆動部302と、ズーム位置検出部303と、絞り304と、絞り駆動部305と、絞り値検出部306と、フォーカスレンズ307と、フォーカス駆動部308と、フォーカス位置検出部309と、レンズ操作部310と、レンズFlashメモリ311と、レンズ通信部312と、レンズ制御部313と、を備える。
ズームレンズ301は、一または複数のレンズを用いて構成される。ズームレンズ301は、レンズ部3の光軸O上に沿って移動することにより、撮像装置1の光学ズームの倍率を変更する。たとえば、ズームレンズ301は、焦点距離が12mm〜50mmの間で焦点距離を変更することができる。
ズーム駆動部302は、DCモータまたはステッピングモータ等を用いて構成され、レンズ制御部313の制御のもと、ズームレンズ301を光軸O上に沿って移動させることにより、撮像装置1の光学ズームの変更を行う。
ズーム位置検出部303は、フォトインタラプタ等を用いて構成され、光軸O上におけるズームレンズ301の位置を検出し、この検出結果をレンズ制御部313へ出力する。
絞り304は、ズームレンズ301が集光した光の入射量を制限することにより露出の調整を行う。
絞り駆動部305は、ステッピングモータ等を用いて構成され、レンズ制御部313の制御のもと、絞り304を駆動することにより、撮像装置1の絞り値(F値)を変更する。
絞り値検出部306は、フォトインタラプタやエンコーダ等を用いて構成され、絞り304の現在の状況から絞り値を検出し、この検出結果をレンズ制御部313へ出力する。
フォーカスレンズ307は、一または複数のレンズを用いて構成される。フォーカスレンズ307は、レンズ部3の光軸O上に沿って移動することにより、撮像装置1のピント位置を変更する。なお、本実施の形態1では、ズームレンズ301およびフォーカスレンズ307が光学系として機能する。
フォーカス駆動部308は、DCモータやステッピングモータ等を用いて構成され、レンズ制御部313の制御のもと、フォーカスレンズ307を光軸Oに沿って移動させることにより、撮像装置1のピント位置を調整する。
フォーカス位置検出部309は、フォトインタラプタ等を用いて構成され、光軸O上におけるフォーカスレンズ307の位置を検出し、この検出結果をレンズ制御部313へ出力する。
レンズ操作部310は、図1に示すように、レンズ部3のレンズ鏡筒の周囲に設けられるリングであり、レンズ部3における光学ズームの変更を指示する指示信号の入力またはレンズ部3におけるピント位置の調整を指示する指示信号の入力を受け付ける。なお、レンズ操作部310は、プッシュ式のスイッチやレバー式のスイッチ等であってもよい。
レンズFlashメモリ311は、ズームレンズ301、絞り304およびフォーカスレンズ307の位置および動きをそれぞれ決定するための制御プログラム、レンズ部3のレンズ特性および各種パラメータを記録する。ここで、レンズ特性とは、レンズ部3の色収差、画角情報、明るさ情報(f値)および焦点距離情報(たとえば50mm〜300mm)である。
レンズ通信部312は、レンズ部3が本体部2に装着された際に、本体部2の本体通信部225と通信を行うための通信インターフェースである。
レンズ制御部313は、CPU等を用いて構成される。レンズ制御部313は、レンズ操作部310からの指示信号または本体部2からの指示信号に応じてレンズ部3の動作を制御する。具体的には、レンズ制御部313は、レンズ操作部310からの指示信号に応じて、フォーカス駆動部308を駆動させてフォーカスレンズ307によるピント調整やズーム駆動部302を駆動させてズームレンズ301の光学ズームのズーム倍率の変更を行う。なお、レンズ制御部313は、レンズ部3が本体部2に装着された際に、レンズ部3のレンズ特性およびレンズ部3を識別する識別情報を本体部2に送信してもよい。
以上の構成を有する撮像装置1が実行する処理について説明する。図4は、撮像装置1が実行する処理の概要を示すフローチャートである。
図4に示すように、まず、撮像装置1が撮影モードに設定されている場合(ステップS101:Yes)について説明する。この場合において、アイセンサ214が外部からの物体を検出したとき(ステップS102:Yes)、表示制御部227bは、撮像素子203が生成した画像データに対応するライブビュー画像を接眼表示部213に表示させる(ステップS103)。たとえば、図5に示すように、表示制御部227bは、撮像素子203が生成した画像データに対応するライブビュー画像LV0を接眼表示部213に表示させる。これに対して、アイセンサ214が外部からの物体を検出していないとき(ステップS102:No)、表示制御部227bは、撮像素子203が生成した画像データに対応するライブビュー画像を背面表示部216に表示させる(ステップS104)。
ステップS103またはステップS104の後、レンズ操作部310を介してマニュアルフォーカス操作が行われた場合(ステップS105:Yes)、撮像装置1は、後述するステップS106へ移行する。これに対して、レンズ操作部310を介してマニュアルフォーカス操作が行われていない場合(ステップS105:No)、撮像装置1は、後述するステップS116へ移行する。
ステップS106において、本体制御部227は、レンズ部3から現在の焦点位置を取得する。
続いて、輪郭検出部207bは、SDRAM223から画像データを取得し、取得した画像データに含まれる輝度成分を抽出し(ステップS107)、抽出した輝度成分に対して2次微分の絶対値を算出することによって、被写体の輪郭を検出する(ステップS108)。
続いて、距離算出部207cは、SDRAM223に記録された焦点データに基づいて、撮像素子203から輪郭検出部207bが検出した被写体の輪郭を構成する輪郭点までの距離を算出する(ステップS109)。具体的には、距離算出部207cは、焦点データに基づいて、撮像素子203から輪郭検出部207bによって検出された被写体の輪郭を構成する輪郭点までの距離を算出する測距処理を行う。なお、距離算出部207cは、フォーカスレンズ307が光軸O上を移動する毎に、被写体の輪郭を構成する輪郭点までの距離を算出してもよい。さらに、距離算出部207cは、フォーカスレンズ307bが焦点位置を中心に微小な幅で往復するWob駆動される毎に、被写体の輪郭を構成する輪郭点までの距離を算出してもよい。
その後、形状判定部207eは、輪郭検出部207bが検出した被写体の輪郭と距離算出部207cが算出した被写体の輪郭を構成する輪郭点までの距離とに基づいて、被写体の輪郭内において同じ色(Low-Contrast)で互いに異なる距離の対象物の形状を判定する(ステップS110)。具体的には、形状判定部207eは、レンズ部3の光軸Oに沿って被写体の形状が同じであるか否かを判定する。
図6は、形状判定部207eによる互いに異なる距離の対象物の形状を判定する判定方法の概要を説明する模式図である。図7は、形状判定部207eが判定する画像の一例を示す。なお、図7の画像LV1上の被写体P1(レンズ部3の光軸Oに沿って遠ざかる方向に沿って存在する道)の輪郭L1,L2との幅は、撮像素子203上で結像される撮像面の幅に対応する。
図6に示すように、まず、形状判定部207eは、輪郭検出部207bが検出した被写体の輪郭と距離算出部207cが算出した被写体の輪郭点までの距離とに基づいて、輪郭内において同じ色で互いに異なる距離の対象物の形状として対象物の幅を判定する。具体的には、形状判定部207eは、撮像素子203上に形成される異なる像の幅をX1、X2、レンズ部3の焦点距離をFとした場合、以下の式(1)〜(4)によって、撮像装置1から距離D1,D2それぞれ離れた被写体の輪郭の幅W1,W2を判定する。
W1:D1=X1:F ・・・(1)
したがって、
W1=(D1X1)/F ・・・(2)
になる。同様に、
W2:D2=X2:F ・・・(3)
したがって、
W2=(D2X2)/F ・・・(4)
この場合において、W1≒W2のとき、式(2)および式(4)より、以下の式(5)が成り立つ。
D1X1≒D2X2 ・・・(5)
即ち、形状判定部207eは、式(2)、式(4)および式(5)を用いて、撮像装置1から遠ざかる奥行き方向にそって被写体P1の輪郭の幅(輪郭点の幅)が同じであるか否かを判定する。さらに、形状判定部207eは、撮像素子203上に形成される像の幅をX3、焦点距離をFとした場合、以下の式(6)および式(7))によって、撮像素子203から距離D3離れた対象物の幅W3を判定する。
W3:D3=X3:F ・・・(6)
したがって、
W3=(D3X3)/F ・・・(7)
この場合において、W1≒W3のとき、式(2)および式(7)より、以下の式(8)が成り立つ。
D1X1≒D3X3 ・・・(8)
したがって、
X3=D1X1/D3 ・・・(9)
になる。このように、形状判定部207eは、式(8)を用いて、レンズ部3の焦点位置における被写体P1の輪郭L1,L2の幅が同じであるか否かを判定する。
その後、形状判定部207eが輪郭検出部207bによって検出された被写体の輪郭が同じ幅であると判定した場合(ステップS111:Yes)、表示制御部227bは、距離算出部207cが算出した被写体の輪郭点の距離と焦点位置取得部207dが取得したレンズ部3の焦点位置とに基づいて、被写体の輪郭点のうち焦点位置に対応する距離の輪郭点を通る領域に、焦点位置に関する焦点情報として帯状のピントガイドをライブビュー画像上に重畳した背面表示部216または接眼表示部213に表示させる(ステップS112)。
具体的には、表示制御部227bは、上述した式(9)を用いて、レンズ部3のピント位置に対応するライブビュー画像上の位置にピントガイドを重畳して背面表示部216または接眼表示部213に表示させる。たとえば、図8または図9に示すように、表示制御部227bは、レンズ部3のピント位置に対応するライブビュー画像LV2上またはライブビュー画像LV3上に対して、被写体の輪郭点のうち焦点位置に対応する距離の輪郭点を通る領域にピントガイドG1を重畳して背面表示部216または接眼表示部213に表示させる。もちろん、ピントガイドは、撮影者がピント合わせ時の参考に出来れば良いので、焦点深度を加味したり、焦点位置と対応していれば、焦点位置と厳密に一致する必要はない。これにより、ユーザは、被写体にコントラストがない平面であっても、焦点位置を直感的に把握することができる。なお、表示制御部227bは、図10に示すように、水平方向だけでなく、鉛直方向にも焦点位置のピントガイドG1をライブビュー画像LV4上に重畳させて背面表示部216または接眼表示部213に表示させることもできる。つまり、これらの実施例では、遠近法によって、画面内の特定の位置に集約されていくような直線は、道の両脇や建物の壁、廊下などの略並行な線が奥行き方向に広がっていることを判定し、平行な線のそれぞれ同じ距離の点を結べば、コントラストがなく距離情報がなくとも、同じ距離の線を仮想的に判定、表示可能なことを利用している。
続いて、レリーズスイッチ211bからレリーズ信号が入力され撮影を行う場合(ステップS113:Yes)、撮像制御部227aは、撮像装置1に撮影を実行させる(ステップS114)。
その後、電源スイッチ211aが操作され、撮像装置1の電源がオフになった場合(ステップS115:Yes)、撮像装置1は、本処理を終了する。これに対して、電源スイッチ211aが操作されず、撮像装置1の電源がオフになっていない場合(ステップS115:No)、撮像装置1は、ステップS101へ戻る。
ステップS113において、レリーズスイッチ211bからレリーズ信号が入力されず、撮影を行わない場合(ステップS113:No)、撮像装置1は、ステップS101へ戻る。
形状判定部207eが輪郭検出部207bによって検出された被写体の輪郭が同じ幅でないと判定した場合(ステップS111:No)、撮像装置1は、ステップS113へ移行する。
ステップS116において、AF処理部209は、SDRAM223が記憶する焦点データを取得し、取得した焦点データに基づいて、撮像装置1のピントを自動的に調整するAF処理を実行する。ステップS116の後、撮像装置1は、ステップS113へ移行する。
ステップS101において、撮像装置1が撮影モードに設定されていない場合(ステップS101:No)において、撮像装置1が再生モードに設定されているとき(ステップS117:Yes)、表示制御部227bは、記録媒体221に記録された画像データに対応する再生画像を背面表示部216または接眼表示部213に表示させる再生表示処理を実行する(ステップS118)。ステップS118の後、撮像装置1は、ステップS115へ移行する。
ステップS101において、撮像装置1が撮影モードに設定されていない場合(ステップS101:No)において、撮像装置1が再生モードに設定されていないとき(ステップS117:No)、撮像装置1は、ステップS115へ移行する。
以上説明した本発明の実施の形態1によれば、コントラストがなく、撮像装置1から見て遠ざかる方向(奥行き方向)に沿って存在する被写体を撮影する場合であっても、合焦位置を直感的に把握することができる。
また、本発明の実施の形態1によれば、表示制御部227bがピントガイドをライブビュー画像上に重畳して接眼表示部213または背面表示部216に表示させるので、撮像装置1に向かってくる被写体、たとえば、運動会のリレー時における走る被写体、サーキット上で走行する車、および走行中の電車等に対して、容易にピントを合わせることができる(置きピン)。さらに、手動でレリーズ操作を行うことができるので、動体追尾フォーカスに比して被写体に対するピント合わせのタイムラグが生じることを防止することができる。
なお、本発明の実施の形態1では、表示制御部227bがピントガイドを被写体の輪郭を繋ぐ直線でライブビュー画像上に重畳して表示させていたが、図11に示すように、表示制御部227bは、焦点情報としてのピントガイドを被写体の輪郭を繋ぐ直線上を通過する壁状のピントガイドG1をアイコンとしてライブビュー画像LV5上に重畳して背面表示部216または接眼表示部213に表示させてもよい。これにより、置きピンで移動する被写体に対して、焦点位置を容易に合わせることができる。
また、本発明の実施の形態1では、基本画像処理部207aが距離算出部207cによって算出された距離と焦点位置取得部207dによって取得された焦点位置とに基づいて、輪郭検出部207bによって検出された被写体の輪郭を構成する複数の輪郭点のうち焦点位置に対応する距離の輪郭点を通る領域に、焦点位置に関する焦点情報を重畳して画像データまたはライブビュー画像を生成し、この画像データまたはライブビュー画像を接眼表示部213または背面表示部216へ出力してもよい。もちろん、撮影者がピント合わせ時の参考に出来れば良いので、焦点深度を加味したり、焦点位置と対応していれば、焦点位置と厳密に一致する必要はない。
また、本発明の実施の形態1では、画像処理部401を画像処理装置として他の機器、たとえば携帯電話や携帯型端末装置に搭載することにより、本発明を適用することができる。さらに、被検体内を撮像して被検体の画像データを生成する内視鏡装置と、内視鏡装置からの画像データに対して画像処理を行う処理装置と、処理装置が画像処理を施した画像データに対応する画像を表示装置と、を備えた内視鏡システムの処理装置に画像処理部401を搭載することにより、本発明を適用することができる。即ち、観察者や術者に直感的に焦点位置を把握させることができれば、産業用の観察装置や医療用の検査装置の補助情報表示にも有効であることは言うまでもない。
(実施の形態2)
次に、本発明の実施の形態2について説明する。本実施の形態2にかかる撮像装置は、上述した実施の形態1にかかる撮像装置1の画像処理部の構成が異なるとともに、撮像装置が実行する処理が異なる。このため、以下においては、本実施の形態2にかかる撮像装置の構成を説明後、本実施の形態2にかかる撮像装置が実行する処理について説明する。なお、上述した実施の形態1にかかる撮像装置1と同様の構成には同一の符号を付して説明を省略する。
図12は、本発明の実施の形態2にかかる撮像装置の機能構成を示すブロック図である。図12に示す撮像装置10は、上述した実施の形態1にかかる撮像装置1の本体部2に換えて本体部4を備える。また、本体部4は、上述した実施の形態1にかかる画像処理部207に換えて画像処理部401を備える。
画像処理部401は、基本画像処理部207aと、輪郭検出部207bと、距離算出部207cと、焦点位置取得部207dと、形状判定部207eと、焦点位置換算部401aと、を有する。
焦点位置換算部401aは、距離算出部207cが算出した被写体の輪郭に対応する位置の距離に基づいて、レンズ部3の焦点位置に対応するライブビュー画像上の位置を算出する。
次に、撮像装置10が実行する処理について説明する。図13は、撮像装置10が実行する処理の概要を示すフローチャートである。
図13に示すように、まず、撮像装置10が撮影モードに設定されている場合(ステップS201:Yes)について説明する。この場合、アイセンサ214が外部からの物体を検出したとき(ステップS202:Yes)、表示制御部227bは、撮像素子203が生成した画像データに対応するライブビュー画像を接眼表示部213に表示させる(ステップS203)。たとえば、図14に示すように、表示制御部227bは、撮像素子203が生成した画像データに対応するライブビュー画像LV11を接眼表示部213に表示させる。これに対して、アイセンサ214が外部からの物体を検出していないとき(ステップS202:No)、表示制御部227bは、撮像素子203が生成した画像データに対応するライブビュー画像を背面表示部216に表示させる(ステップS204)。
ステップS203またはステップS204の後、レンズ操作部310を介してマニュアルフォーカス操作が行われた場合(ステップS205:Yes)、撮像装置10は、後述するステップS206へ移行する。これに対して、レンズ操作部310を介してマニュアルフォーカス操作が行われていない場合(ステップS205:No)、撮像装置10は、後述するステップS220へ移行する。
ステップS206において、焦点位置取得部207dは、レンズ部3から現在の焦点位置を取得する。
続いて、輪郭検出部207bは、SDRAM223に記録された画像データを取得し、取得した画像データの輝度成分を抽出し(ステップS207)、画像データに対応する画像の上から1/3の位置を通る直線に沿って輝度成分が変化する変化点を検出するとともに(ステップS208)、画像の上から2/3の位置を通る直線に沿って輝度成分が変化する変化点を検出する(ステップS209)。
図15は、輪郭検出部207bによる輝度成分が変化する変化点の検出方法の概要を説明する模式図である。なお、図15においては、水平方向をX軸とし、鉛直方向をY軸として説明する。さらに、図15の直線Lcは、鉛直方向における画像LV11上の中心を示す。さらに、被写体P11を食パンとして説明する。
図15に示すように、まず、輪郭検出部207bは、画像LV11の上から1/3の位置を通る直線L11に沿って輝度が変化する変化点を検出する。具体的には、輪郭検出部207bは、画像LV11の上から1/3の位置を通る直線L11上における輝度成分に対して、2次微分の絶対値を算出処理またはエッジ処理を行うことによって、直線L11に沿って輝度成分が変化する変化点X11,X12を検出する。その後、輪郭検出部207bは、画像LV11の上から2/3の位置を通る直線L12上における輝度成分に対して、2次微分の絶対値を算出することによって、直線L12に沿って輝度成分が変化する変化点X21,X22を検出する。なお、図15において、輪郭検出部207bは、画像LV11の上から1/3および2/3の位置を通る直線L11、L12それぞれの輝度成分の変化点を検出しているが、少なくとも2つ以上の直線上に沿って輝度の変化点を検出できればよく、直線の間隔は適宜変更可能であり、たとえば画像の上から1/5、2/5、3/5、4/5の位置を通る直線に沿って輝度成分の変化点を検出してもよい。さらに、輪郭検出部207bは、画像の水平方向(横方向)に対して、輝度成分の変化点を検出していたが、画像の鉛直方向(縦方向)に対して、輝度成分の変化点を検出してもよい。
ステップS210において、距離算出部207cは、SDRAM223に記憶された焦点データに基づいて、輪郭検出部207bが検出した複数の変化点(輪郭点)それぞれの距離を算出する。具体的には、距離算出部207cは、輪郭検出部207bが検出した変化点X11,X12,X21,X22それぞれに対応する位置の距離を算出する。なお、距離算出部207cは、レンズ部3の光軸Oに沿ってフォーカスレンズ307を駆動することによって、輪郭検出部207bが検出した複数の変化点それぞれに対応する位置にレンズ部3の焦点位置を移動させて撮像素子203に焦点データを生成させ、この焦点データに基づいて、輪郭検出部207bが検出した複数の変化点それぞれに相当する位置の距離を算出してもよい。
続いて、形状判定部207eは、距離算出部207cによって算出された画像LV11の上から1/3の位置を通る直線L11の輝度の変化点X11,X12の距離が同じであるか否かを判定する(ステップS211)。形状判定部207eが距離算出部207cによって算出された画像LV11の上から1/3の位置を通る直線L11の輝度の変化点X11,X12の距離が同じであると判定した場合(ステップS211:Yes)、撮像装置10は、ステップS212へ移行する。これに対して、形状判定部207eが距離算出部207cによって算出された画像LV11の上から1/3の位置を通る直線L11の輝度の変化点X11,X12の距離が同じでないと判定した場合(ステップS211:No)、撮像装置10は、後述するステップS217へ移行する。
ステップS212において、形状判定部207eは、距離算出部207cによって算出された画像LV11の上から2/3の位置を通る直線L12の輝度の変化点X21,X22の距離が同じであるか否かを判定する。形状判定部207eが距離算出部207cによって算出された画像LV11の上から2/3の位置を通る直線L12の輝度の変化点X21,X22の距離が同じであると判定した場合(ステップS212:Yes)、撮像装置10は、ステップS213へ移行する。これに対して、形状判定部207eが距離算出部207cによって算出した画像LV11の上から2/3の位置を通る直線L12の輝度の変化点X21,X22の距離が同じでないと判定した場合(ステップS212:No)、撮像装置10は、ステップS217へ移行する。
図16は、形状判定部207eによる輝度成分の変化点における距離の判定方法の概要を説明する模式図である。図16において、縦軸が撮像装置10から輝度成分の変化点に対応する位置までの距離を示し、横軸が画像の変化点の位置を示す。
図16に示すように、形状判定部207eは、距離算出部207cによって算出された画像LV11の上から1/3の位置を通る直線L11の輝度成分の変化点X11,X12の距離および距離算出部207cによって算出された画像LV11の上から2/3の位置を通る直線L12の輝度成分の変化点X21,X22の距離が同じであるか否かを判定する。形状判定部207eは、距離算出部207cが変化点X11および変化点X12それぞれの距離を距離D11および距離D12と算出しているため、図16に示すように、変化点X11および変化点X12を撮像素子203からの距離が同じと判定する。同様に、形状判定部207eは、距離算出部207cが変化点X21および変化点X22それぞれの距離を距離D21および距離D22と算出しているため、図16に示すように、変化点X21および変化点X22を撮像素子203からの距離が同じと判定する。
ステップS213において、形状判定部207eは、画像LV11の上から1/3の位置を通る直線L11の輝度の変化点X11,X12の幅と、画像LV11の上から2/3の位置を通る直線L12の輝度の変化点X21,X22の幅とが同じ幅であるか否かを判定する。たとえば、図16に示す場合、形状判定部207eは、画像LV11の上から1/3の位置を通る直線L11の輝度の変化点X11,X12の幅(X12−X11)と、画像LV11の上から2/3の位置を通る直線L12の輝度の変化点X21,X22の幅(X22―X21)とが同じ幅であると判定する。形状判定部207eが画像LV11の上から1/3の位置を通る直線L11の輝度の変化点X11,X12の幅と、直線L12の輝度の変化点X21,X22の幅とが同じであると判定した場合(ステップS213:Yes)、撮像装置10は、後述するステップS214へ移行する。これに対して、形状判定部207eは、画像LV11の上から1/3の位置を通る直線L11の輝度の変化点X11,X12の幅と、画像LV11の上から2/3の位置を通る直線L12の輝度の変化点X21,X22の幅とが同じ幅でないと判定した場合(ステップS213:No)、撮像装置10は、後述するステップS217へ移行する。
ステップS214において、形状判定部207eは、距離算出部207cによって算出された変化点の距離に基づいて、画像LV11の直線L11上における輝度の変化点X11,X12の距離が直線L12上における輝度の変化点X21,X22の距離より大きいか否かを判定する(遠近判定)。形状判定部207eが画像LV11の直線L11上における輝度の変化点X11,X12の距離が直線L12上における輝度の変化点X21,X22の距離より大きい(D11>D21,D12>D22)と判定した場合(ステップS214:Yes)、撮像装置10は、後述するステップS215へ移行する。これに対して、形状判定部207eが画像LV11の直線L11上における輝度の変化点X11,X12の距離が直線L12上における輝度の変化点X21,X22の距離より大きくないと判定した場合(ステップS214:No)、撮像装置10は、後述するステップS217へ移行する。
ステップS215において、焦点位置換算部401aは、レンズ部3の焦点位置に対応するライブビュー画像上の位置を算出する。
図17は、焦点位置換算部401aが焦点位置を画像上に換算する換算方法の概要を説明する模式図である。なお、図17において、縦軸が焦点位置を示し、横軸が撮像装置10から輝度の変化点に相当する位置までの距離の逆数を示す。
図17に示すように、焦点位置換算部401aは、焦点位置P1に対応する距離の逆数を1/D12、焦点位置P2に対応する距離の逆数を1/D22、焦点位置P1に対応する距離の逆数を1/D12に対応する画像内縦方向の位置をP1、焦点位置P1に対応する距離の逆数を1/D22に対応する画像内縦方向の位置をP2とした場合、ピント位置Padjに対応する距離の逆数を1/Dpとしたとき、以下の式(10)によって、レンズ部3の焦点位置に対応するライブビュー画像上でピントガイドを表示するピントガイド位置Ypを換算する。
(1/D22―1/D12):(1/Dp―1/D12)=(Y2―Y1):(Yp―Y1)
・・・(10)
したがって、
Yp=((Y2―Y1)/Dp+(Y1/D22+Y2/D12))/(1/D22−1/D12)
・・・(11)
このように、焦点位置換算部401aは、式(11)を用いて、レンズ部3の焦点位置をライブビュー画像上におけるピントガイド位置Ypに換算する。
ステップS216において、表示制御部227bは、焦点位置換算部401aが換算したライブビュー画像上におけるピントガイド位置(輪郭点)にレンズ部3の焦点位置を示すピントガイドを重畳して接眼表示部213または背面表示部216に表示させる。たとえば、図18に示すように、表示制御部227bは、焦点位置換算部401aが算出したライブビュー画像LV12上の位置にレンズ部3の焦点位置を示すピントガイドG11を重畳して接眼表示部213または背面表示部216へ表示させる(図18(a)→図18(b))。これにより、撮影者は、マニュアルフォーカス操作で被写体を撮影する場合、被写体のコントラストが低いときであっても、レンズ部3の焦点位置を直感的に把握することができる。
ステップS217〜ステップS222は、図4のステップS113〜ステップS118にそれぞれ対応する。
以上説明した本発明の実施の形態2によれば、コントラストがなく、奥行き方向に延びる被写体を撮影する場合であっても、合焦位置を直感的に把握することができる。
(実施の形態3)
次に、本発明の実施の形態3について説明する。本実施の形態3にかかる撮像装置は、上述した実施の形態1にかかる撮像装置1の構成が異なるとともに、撮像装置が実行する処理も異なる。このため、以下においては、本実施の形態3にかかる撮像装置の構成を説明後、本実施の形態3にかかる撮像装置が実行する処理について説明する。なお、上述した実施の形態1にかかる撮像装置1と同様の構成には同一の符号を付して説明を省略する。
図19は、本発明の実施の形態3にかかる撮像装置の機能構成を示すブロック図である。図19に示す撮像装置20は、輪郭検出部207bと、距離算出部207cと、焦点位置取得部207dと、表示制御部227bと、フォーカスレンズ307と、撮像部501と、表示部502と、を備える。
撮像部501は、フォーカスレンズ307を介して被写体を撮像し、この被写体の画像データを生成する。撮像部501は、CCDやCMOS等の撮像素子、画像データに対してアナログ処理を行う信号処理回路およびA/D変換回路等を用いて構成される。
表示部502は、表示制御部227bの制御のもと、撮像部501が生成した画像データに対応する画像を表示する。表示部502は、液晶または有機ELからなる表示パネルおよび駆動ドライバ等を用いて構成される。
次に、撮像装置20が実行する処理について説明する。図20は、撮像装置20が実行する処理の概要を示すフローチャートである。
図20に示すように、まず、撮像部501は、フォーカスレンズ307を介して被写体を撮像し、被写体の画像データを生成する(ステップS301)。
続いて、輪郭検出部207bは、撮像部501が生成した画像データに対応する画像内における被写体の輪郭を検出する(ステップS302)。
その後、距離算出部207cは、撮像部501から輪郭検出部207bによって検出された被写体の輪郭を構成する輪郭点の少なくとも一部までの距離を算出する(ステップS303)。
続いて、焦点位置取得部207dは、フォーカスレンズ307の焦点位置を取得する(ステップS304)。
その後、表示制御部227bは、ライブビュー画像上に、距離算出部207cが算出した距離と同じ被写体の輪郭点と等しい距離の輪郭点を通る領域に帯状の焦点情報(補助線)を重畳して表示部502に表示させる(ステップS305)。もちろん、撮影者がピント合わせ時の参考に出来れば良いので、焦点深度を加味したり、焦点位置と対応していれば、焦点位置と厳密に一致する必要はない。つまり、これらの実施例では、遠近法によって、画面内の特定の位置に集約されていくような直線は、略立方体形状の構造物などの輪郭を構成する略並行な線が奥行き方向に続いて広がっていることを判定し、平行な線のそれぞれ同じ距離の点を結べば、コントラストがなく距離情報がなくとも、同じ距離の線を仮想的に判定、表示可能なことを利用した表示となっている。こうした直線間にコントラストがなかったり、小さかったり、直線の間が同じ色であったり、画像として均一な特徴を有する場合、これは同じ構造物の表面であったり一部であったりすることが考えられ、上記補助線を表示することが不自然でなく、撮影者に分かりやすい情報となる。複数の直線で構成された構造物、対象物であれば、このような補助情報は有効であり、幾何学的な形状を撮影した時に得られる画像の輪郭の分析によって、対象物の形状を分析し、コントラストの小さい平面部の識別のしやすい画像上に、明快な表示が可能となる。
続いて、撮像装置20が撮影を行う場合(ステップS306:Yes)、撮像装置20は、撮影を行う(ステップS307)。ステップS307の後、撮像装置20は、本処理を終了する。これに対して、撮像装置20が撮影を行わない場合(ステップS306:No)、撮像装置20は、ステップS301へ戻る。
以上説明した本発明の実施の形態3によれば、コントラストがなく、奥行き方向に延びる被写体を撮影する場合であっても、合焦位置を直感的に把握することができる。
(その他の実施の形態)
また、本発明にかかる撮像装置は、デジタル一眼レフカメラ以外にも、たとえデジタルカメラ、デジタルビデオカメラおよび撮像機能を有する携帯電話やタブレット型携帯機器等の電子機器にも適用することができる。
また、本発明にかかる撮像装置に実行させるプログラムは、インストール可能な形式又は実行可能な形式のファイルデータでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)、USB媒体、フラッシュメモリ等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
また、本発明にかかる撮像装置に実行させるプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。さらに、本発明にかかる撮像装置に実行させるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
なお、本明細書におけるフローチャートの説明では、「まず」、「その後」、「続いて」等の表現を用いてステップ間の処理の前後関係を明示していたが、本発明を実施するために必要な処理の順序は、それらの表現によって一意的に定められるわけではない。すなわち、本明細書で記載したフローチャートにおける処理の順序は、矛盾のない範囲で変更することができる。
このように、本発明は、ここでは記載していない様々な実施の形態を含みうるものであり、特許請求の範囲によって特定される技術的思想の範囲内で種々の設計変更等を行うことが可能である。