JP4784678B2 - 撮像装置、撮像方法及びプログラム - Google Patents
撮像装置、撮像方法及びプログラム Download PDFInfo
- Publication number
- JP4784678B2 JP4784678B2 JP2009103715A JP2009103715A JP4784678B2 JP 4784678 B2 JP4784678 B2 JP 4784678B2 JP 2009103715 A JP2009103715 A JP 2009103715A JP 2009103715 A JP2009103715 A JP 2009103715A JP 4784678 B2 JP4784678 B2 JP 4784678B2
- Authority
- JP
- Japan
- Prior art keywords
- focal length
- image
- management information
- imaging
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
- G02B7/28—Systems for automatic generation of focusing signals
- G02B7/36—Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/147—Details of sensors, e.g. sensor lenses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/19—Sensors therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Ophthalmology & Optometry (AREA)
- Vascular Medicine (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optics & Photonics (AREA)
- Studio Devices (AREA)
- Automatic Focus Adjustment (AREA)
- Focusing (AREA)
Description
請求項2に記載の発明は更に、前記管理手段は、新たな被写体を検出する検出処理と、既に検出済みの被写体を追跡する被写体追跡処理とを含む用途の異なる複数の画像処理の各々に対応させて、前記撮像手段による撮像の際のレンズの焦点距離を管理する管理情報を複数記憶し、前記可変手段は、前記複数の管理情報の各々により管理されるレンズの焦点距離を、各管理情報に対応する前記検出処理および前記被写体追跡処理の各々に応じた所定の可変条件に従って可変させ、更に、前記撮像手段により撮像された複数の画像に対して、当該各画像の撮像の際のレンズの焦点距離の決定に用いた管理情報に対応する前記検出処理または前記被写体追跡処理のいずれかの画像処理を交互に施す画像処理手段を備えたことを特徴としている。
前記変更手段は、更に、前記追跡対象として顔以外の被写体を追跡中に、画像内から顔が検出された場合に、新たに検出された顔を追跡対象に切り替えることを特徴としている。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
本実施形態の撮像装置100は、複数の管理情報に従って撮像の際の液体レンズの複数の焦点距離を所定の切替周期で切り替え、切り替えられた液体レンズの焦点距離の各々を当該各焦点距離の管理情報と対応付けて記憶されている各用途に応じた所定の可変条件に従って可変させ、撮像された複数の画像に対して、当該各画像を撮像した際の液体レンズの焦点距離の管理情報と対応付けて記憶されている各用途の画像処理を施す。
具体的には、図1に示すように、撮像装置100は、撮像部1と、撮像制御部2と、画像データ生成部3と、メモリ4と、画像処理部5と、情報管理部6と、表示処理部7と、表示部8と、記録媒体9と、操作入力部10と、CPU11とを備えている。
即ち、液体レンズの特長としては、印加する電圧レベルに応じてレンズ曲率を変化する点、レンズ曲率の変化スピードが高速である点、物理的な可動部がないため耐久性が高い点、電圧レベルは高電圧だが電流が流れないため消費電力が少ない点等が挙げられる。
CMOSイメージセンサは、CCDイメージセンサとは異なり、画像フレームの所定方向(例えば、水平方向)のラインごとに露光や転送を行う。即ち、CMOSイメージセンサは、当該センサの最上部から下方向に順次1ラインずつ画像信号の転送を行い、最下部のライン転送を終えることで1フレーム分の転送となり、その後、再び最上部のラインから順次転送を行う。具体的には、CMOSイメージセンサは、各画像フレームのデータを同期させるフレーム同期信号、各画像フレームのラインのデータの出力タイミングに同期したライン同期信号、出力データとそれに同期するためのクロック(図示略)を撮像制御部2に出力する(図2(a)参照)。
そして、撮像制御部2は、電子撮像部1bから出力された各ラインのデータをフレーム同期信号及びライン同期信号に同期しながら受信して画像データ生成部3に出力する。
電圧制御部2aは、電子撮像部1bから出力されたライン同期信号を受信すると、それに同期して、焦点調整テーブル6b(後述)に規定されている第1管理情報及び第2管理情報の焦点距離に従ってPWM(Pulse Width Modulation)比率を変更して、液体レンズに印加される駆動電圧を変化させる。例えば、図2(a)に示すように、電圧制御部2aは、一ライン毎に駆動電圧を焦点位置Aに対応する「High」と焦点位置Bに対応する「Low」とに切り替える。これにより、液体レンズの二つの液体の界面の曲率を変化させて当該液体レンズの焦点距離(焦点位置)を変化させる。この結果、電子撮像部1bから出力されるデータは、一ライン毎に焦点距離が異なることとなる。例えば、図2(b)に示すように、奇数ラインのキャプチャデータは、液体レンズの焦点位置が焦点位置Aで取得された画像(例えば、表示用画像)を構成する一方で、偶数ラインのキャプチャデータは、液体レンズの焦点位置が焦点位置Bで取得された画像(例えば、焦点調整用画像)を構成する。
ここで、電圧制御部2aは、複数の管理情報に従って撮像部及び撮像制御部2による撮像の際の液体レンズの複数の焦点距離を所定の切替周期で切り替える切替手段を構成している。
ここで、電圧制御部2aは、レンズの焦点距離の各々を当該各焦点距離の管理情報と対応付けて記憶されている各用途に応じた所定の可変条件に従って可変させる可変手段を構成している。
即ち、表示用画像の取得に係る液体レンズの焦点位置Aは、被写体にピントを合わせた後に固定されるので、被写体の距離が変化しない間は常にピントがあっている状態になるが、被写体の距離が変化したときには、一時的に(過渡的に)ピントが合わない状態も生じる。一方、焦点調整用画像の取得に係る液体レンズの焦点位置Bは、距離の変化する被写体にピントを合わせるために常に変化しているので、ピントが合っていない状態とピントが合っている状態とに変動する。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
即ち、画像処理部5は、液体レンズの焦点位置を焦点位置Bとして撮影した場合には、電子撮像部2により生成された画像フレームから所定の顔検出方法を用いて人の顔を検出する顔検出部5aを具備している。
具体的には、顔検出部5aは、液体レンズの焦点位置が焦点位置Bで撮影された画像フレームから顔画像領域を検出し、検出した各領域内から目、鼻、口等に相当する特徴部(顔パーツ)を検出する。また、顔検出部5aは、焦点位置Bで撮影された画像フレーム内から被写体追跡処理に係る被写体(顔)と異なる新たな顔を被写体として検出する顔検出処理を行う。
なお、顔検出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
具体的には、被写体追跡部5bは、液体レンズの焦点位置が焦点位置Aで撮影された画像フレーム内の顔などの主要被写体を追跡対象として、隣合う画像フレーム間で追跡する被写体追跡処理を行う。また、被写体追跡部5bは、追跡対象が顔検出処理にて新たに検出された顔に変更されると、液体レンズの焦点位置が焦点位置Bで撮影された画像フレーム内の顔を追跡対象として、隣合う画像フレーム間で追跡する被写体追跡処理を行う。
被写体追跡部5bは、先ず、顔の検出状態であるか非検出状態であるかを判定する。顔の検出状態であると判定された場合には、被写体追跡部5bは、メモリに記憶されている顔座標を取得して、当該顔座標で囲まれた領域内の撮像対象を主要被写体として特定する。一方、顔の非検出状態であると判定された場合には、AFモードに応じたAF領域(合焦箇所)内の撮像対象を主要被写体として特定する。
その後、主要被写体の輝度情報や色情報等の画像情報をテンプレートとして、次の画像フレームにて顔座標近傍の所定の動体探索範囲内を所定方向に走査してマッチングを行い、最も近似性の高い部分を主要被写体とする。
そして、被写体追跡部5bは、最も近似性が高いと判定された主要被写体の縁部を追跡枠とし、追跡枠の各角部の座標を取得した後、当該座標により顔座標を更新する。さらに、被写体追跡部5bは、追跡枠内の主要被写体の輝度情報や色情報等の画像情報をテンプレートとして更新する。
上記の処理を、被写体追跡部5bは、焦点位置Aで撮像された複数の画像フレームの各々に対して逐次実行することにより、マッチングに用いるテンプレートが更新されていく。そのため被写体が経時的に変化しても主要被写体を動体として追跡することができる。
人物認識部5cは、顔検出処理にて検出された顔が情報管理部6の優先度登録テーブル6c(後述)に登録されているか否かを判定し、当該判定の結果、顔が登録されていると判定されると、当該顔と対応付けて登録されている人物を特定する。
変更部6dは、顔検出処理にて検出された顔の個人の優先度に応じて追跡対象を変更する。具体的には、変更部6dは、液体レンズの焦点位置が焦点位置Aで撮影された画像フレーム内の一の顔を主要被写体として追跡中に、焦点位置Bで撮影された画像フレーム内から新たな顔が検出された場合には、人物認識部5cによる個人認識結果に基づいて情報管理部6の優先度登録テーブル6cを参照して、何れの顔の優先度が高いか否かを判定する。そして、変更部6dは、追跡中の一の顔の個人よりも焦点位置Bで撮影された画像フレーム内から検出された新たな顔の個人の優先度が高いと判定された場合には、新たな顔を追跡対象に変更する。
また、変更部6dは、液体レンズの焦点位置が焦点位置Aで撮影された画像フレーム内の顔以外の物体を追跡対象として追跡中に、焦点位置Bで撮影された画像フレーム内から顔が検出された場合には、新たに検出された顔を追跡対象に切り替える。
ここで、変更部6dは、焦点位置A(第1焦点距離)で撮影された画像内の一の被写体を追跡中に、当該一の被写体よりも焦点位置B(第2焦点距離)で撮影された画像内から検出された新たな被写体の優先度が高い場合に、当該新たな被写体を追跡対象に変更する変更手段を構成している。
焦点調整テーブル6bは、管理手段として、画像処理の複数の用途と、レンズの複数の焦点距離と、焦点距離の可変条件とを対応付けて複数の管理情報を記憶する。例えば、焦点調整テーブル6bは、第1画像の画像処理の第1用途「被写体追跡処理」と、液体レンズの焦点位置を焦点位置Aとする「被写体追跡用焦点距離」と、当該焦点距離Aの第1可変条件「追跡対象のコントラストをより高くする」とを対応付けて第1管理情報として記憶している。また、焦点調整テーブル6bは、第2画像の画像処理の第2用途「顔検出処理」と、液体レンズの焦点位置を焦点位置Bとする「被写体検出用焦点距離」と、当該焦点距離Bの第2可変条件「近距離から遠距離までの全域を画像フレームの各ライン毎に繰り返し走査」とを対応付けて第2管理情報として記憶している。
そして、変更制御部6aは、画像処理部5の変更部6dにより追跡対象が変更された場合に、被写体追跡用焦点距離を管理する第1管理情報の内容を被写体追跡用の第2画像を撮像した際の焦点距離に変更する。これにより、被写体追跡用画像(第1画像)の撮像の際の液体レンズの焦点距離が、被写体検出用画像(第2画像)を撮像した際の焦点距離に変更される。
優先度登録テーブル6cは、具体的には、人物登録手段として、顔検出処理にて検出された顔の個人毎に優先度を対応付けて登録する。例えば、人物Aよりも人物Bの優先度が高くなるように登録されている(図8(a)〜図8(c)参照)。また、優先度登録テーブル6cは、主要被写体として人以外の物体よりも人の方が優先度が高くなるように登録されている。
ここで、優先度登録テーブル6cは、被写体追跡処理にて追跡対象となる被写体毎に優先度を対応付けて記憶する優先度記憶手段を構成している。
具体的には、表示処理部7は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、CPU11の制御下にてメモリ4から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
ここで、CPU11、操作入力部10及び情報管理部6は、画像処理の複数の用途を設定する用途設定手段を構成している。
ここで、CPU11、操作入力部10及び情報管理部6は、液体レンズの焦点距離の所定の可変条件を設定する条件設定手段を構成している。
ここで、CPU11、操作入力部10及び情報管理部6は、液体レンズの焦点距離の所定の切替条件を設定する周期設定手段を構成している。また、CPU11、操作入力部10及び情報管理部6は、各画像フレーム毎か、或いは、画像フレームを構成する複数の画素からなる所定方向の各ライン毎を選択して指定する指定手段を構成している。
図3は、設定処理に係る動作の一例を示すフローチャートである。
設定処理は、焦点調整テーブル6bの管理情報を規定する画像処理の複数の用途及びレンズの各焦点距離の可変条件や、複数の焦点距離の切替周期を設定する一般的な処理である。また、設定処理は、ユーザによる操作入力部10の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から設定モードが選択指示された場合に実行される処理である。
次に、CPU11は、ユーザによる操作入力部10の所定操作に基づいて出力された設定指示信号が入力されると、当該設定指示信号に応じて焦点調整テーブル6bの第1管理情報の焦点距離Aの可変条件として、第1可変条件(例えば、「追跡対象のコントラストをより高くする」や「第1画像のコントラストが良くなるように焦点距離の更新」等)を情報管理部6に設定させる(ステップS2)。
次に、CPU11は、ユーザによる操作入力部10の所定操作に基づいて出力された設定指示信号が入力されると、当該設定指示信号に応じて焦点調整テーブル6bの第2管理情報の焦点距離Bの可変条件として、第2可変条件(例えば、「近距離から遠距離までの全域を画像フレームの各ライン毎に繰り返し走査」や「主要被写体のコントラストが良くなるように焦点距離の変更」等)を情報管理部6に設定させる(ステップS4)。
これにより、設定処理を終了する。
図4は、静止画撮像処理に係る動作の一例を示すフローチャートである。
静止画撮像処理は、ユーザによる操作入力部10の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から静止画撮像モードが選択指示された場合に実行される処理である。また、当該静止画撮像処理におけるライブビュー表示処理については、図6及び図7を参照して後述する。
そして、CPU11は、ライブビュー表示処理中に、ユーザによる操作入力部10のシャッタボタンの所定操作に基づいて静止画撮像指示が入力されたか否かを判定する(ステップS13A)。
そして、静止画撮像指示が入力されたと判定されると(ステップS13A;YES)、CPU11は、撮像制御部2に、焦点調整テーブル6bに基づいて液体レンズの焦点距離を表示用焦点距離(焦点距離A)に変更させ(ステップS14A)、露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の条件を調整させて、被写体の光学像を所定の条件で電子撮像部1bにより撮像させる。
その後、CPU11は、画像データ生成部3に、電子撮像部1bから転送された静止画像の記録用の画像フレームのYUVデータを生成させて、当該画像のYUVデータを記録媒体9の所定の記憶領域に保存させる(ステップS15A)。
これにより、静止画撮像処理を終了する。
図5は、動画撮像処理に係る動作の一例を示すフローチャートである。
動画撮像処理は、ユーザによる操作入力部10の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から動画撮像モードが選択指示された場合に実行される処理である。また、当該動画撮像処理におけるライブビュー表示処理については、図6及び図7を参照して後述する。
そして、CPU11は、ライブビュー表示処理中に、ユーザによる操作入力部10のシャッタボタンの所定操作に基づいて動画撮像開始指示が入力されたか否かを判定する(ステップS13B)。
そして、動画撮像開始指示が入力されたと判定されると(ステップS13B;YES)、CPU11は、露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の条件を撮像制御部2に調整させて、所定の条件で電子撮像部1bにより撮像された被写体の第1画像に係る画像フレームのYUVデータを画像データ生成部3に生成させて、メモリ4に動画像を構成する画像フレームとして追加記録させる(ステップS14B)。
ここで、動画撮像終了指示が入力されていないと判定された場合には(ステップS15B;NO)、ステップS15Bにて、動画撮像終了指示が入力されたと判定されるまで(ステップS15B;YES)、CPU11は処理をステップS12Bに移行させて、ライブビュー表示処理以降の処理を繰り返し行わせる。
そして、動画撮像終了指示が入力されたと判定されると(ステップS15B;YES)、CPU11は、メモリ4に記録されている複数の画像フレームからなる動画像を記録媒体9の所定の記憶領域に保存させる(ステップS16B)。
これにより、動画撮像処理を終了する。
図6及び図7は、ライブビュー表示処理に係る動作の一例を示すフローチャートである。
ライブビュー表示処理は、静止画撮像処理にて実行される処理内容と動画撮像処理にて実行される処理内容とで略同様となっており、以下にまとめて説明する。
ここで、焦点距離A、Bの切替周期であると判定されると(ステップS21;YES)、CPU11は、撮像制御部2の電圧制御部2aに、焦点調整テーブル6bの第2管理情報の焦点距離B(第1管理情報の焦点距離A)に従ってPWM比率を変更させて、液体レンズに印加される駆動電圧(例えば、「High」)を設定させる。そして、電圧制御部2aは、設定された駆動電圧を電極に印加して、液体レンズの二つの液体の界面の曲率を変化させて当該液体レンズの焦点距離を焦点距離Bから焦点距離A(焦点距離Aから焦点距離B)に変更させる(ステップS22)。そして、液体レンズを通過した被写体像が電子撮像部1bにより光電変換されて、当該電子撮像部1bから出力された第1画像(第2画像)のデータが画像データ生成部3に入力されると、画像データ生成部3は、当該第1画像(第2画像)のデータからYUVデータを生成する。そして、画像処理部5は、画像データ生成部3により生成された第1画像(第2画像)の画像データを取得する(ステップS23)。
次に、CPU11は、撮像制御部2の電圧制御部2aに、焦点調整テーブル6bの第1管理情報の第1可変条件(第2管理情報の第2可変条件)に従ってPWM比率を変更させて、液体レンズに印加される駆動電圧(例えば、「High」)を設定させる。そして、電圧制御部2aは、設定された駆動電圧を電極に印加して、液体レンズの二つの液体の界面の曲率を変化させて当該液体レンズの焦点距離を変化させる(ステップS25)。
ここで、新たな第2画像が取得されたと判定されると(ステップS26;YES)、CPU11は、画像処理部5の顔検出部5aに、顔の検出領域を第2画像全領域として、第2画像の全領域から所定の顔検出方法を用いて人の顔を検出させる(ステップS27)。
そして、CPU11は、顔検出処理にて新たな顔が検出されたか否かを判定する(ステップS28)。ここで、新たな顔とは、現に顔を主要被写体として被写体追跡処理を行っている場合には、当該追跡対象となっている顔以外の顔のことである。
続けて、CPU11は、変更部6dに、被写体追跡処理にて主要被写体として追跡中の顔と、顔検出処理にて検出された新たな顔の優先度どうしを比較させて、新たな顔の優先度が追跡対象の顔よりも高いか否かを判定させる(ステップS30)。
次に、CPU11は、被写体追跡部5bに、第2画像の画像フレーム内の顔を追跡対象として隣合う画像フレーム間で追跡させる(ステップS32)。
これにより、ライブビュー表示処理を終了する。
また、ステップS30にて、新たな顔の優先度の方が追跡対象の顔よりも高くないと判定された場合(ステップS30;NO)、即ち、顔検出処理にて新たな顔を検出したものの、追跡対象の顔の人物よりも優先度が低い場合にも、ライブビュー表示処理を終了する。
なお、この例では、カメラを固定した状態で画角内に背景の人物Aよりも優先度の高い人物Bが入ってきた場合で説明したが、カメラをパーンすることによって、画角の中央部に設けられたAF領域内の被写体が変化した場合(即ち、人物から人物への変化のほか、物体から物体への変化や、物体から人への変化や、未登録の人から登録済みの人物等)でも同様である。
即ち、撮像された画像を、例えば、被写体検出処理や被写体追跡処理といった画像処理の複数の異なる用途の処理で利用し、且つ、各々の用途が異なるレンズの焦点距離の制御を必要とするような場合であっても、本実施形態の撮像装置100では、可変焦点レンズとして液体レンズを用いて、管理情報に基づいて当該液体レンズの焦点を変化させることによって、第1画像及び第2画像を撮像する際の焦点距離を素早く変化させることができるとともに、画像処理の各々の用途にて液体レンズの焦点距離を変化させながら撮像された各画像を用いて当該用途の画像処理を行うことができる。つまり、従来の焦点調整レンズでは、移動速度が遅いため画像フレームごとに焦点を変化させる必要があり、そのため、シャッタボタンの半押しなどにより焦点調整のシーケンスを実行する場合は、焦点確認ポイント数ぶんの画像フレームの取得時間が必要となる。しかしながら、焦点距離を素早く変化させることができる液体レンズを用いることによって、第1管理情報に基づいて、例えば、所定の被写体追跡用焦点距離で所定の被写体を追跡する被写体追跡処理を行うことができるとともに、その裏で(時分割で並行して)、第2管理情報に基づいて所定の被写体検出用焦点距離で所定の被写体を検出する被写体検出処理を行うことができる。このように、焦点距離の異なる画像処理の複数の用途の処理を順次実行しながら撮像を継続することができる。
例えば、上記実施形態では、優先度登録テーブル6cに登録されている人物A、Bの優先度に応じて被写体追跡処理の追跡対象を切り替えるようにしたが、これに限られるものではなく、追跡対象として人以外の物体を追跡中に、画像内から人の顔が検出された場合に、新たに検出された顔を追跡対象に切り替えるようにしても良い。
従って、建物などの背景物体に焦点が合っている状態のときに、急に撮影フレーム内に人物が入ってきたような場合でも、建物などの背景物体に焦点を合わせつつ、人物を検出することができる。これによって、物体よりも優先度の高い人物の顔を追跡対象とすることができる。
ここで、第2画像の取得を一定時間毎に繰り返し行う場合には、取得された複数の第2画像間のコントラストを比較することによりコンティニュアスな焦点調整処理や顔検出処理等の画像処理を裏で実行するようにしてもよい。また、第2画像の取得を間欠的に行う場合には、裏でコンティニュアスな処理を実行することなく、第1画像と第2画像のコントラスト比較によって、ダイレクトに焦点調整処理を実行するようにしてもよい。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、切替処理ルーチン、可変処理ルーチン、画像処理ルーチンを含むプログラムを記憶しておく。そして、切替処理ルーチンによりCPU11に、複数の管理情報に従って撮像手段による撮像の際のレンズの複数の焦点距離を所定の切替周期で切り替えさせるようにしても良い。また、可変処理ルーチンによりCPU11に、切替手段により切り替えられたレンズの焦点距離の各々を当該各焦点距離の管理情報と対応付けて記憶されている各用途に応じた所定の可変条件に従って可変させるようにしても良い。また、画像処理ルーチンによりCPU11に、撮像手段により撮像された複数の画像に対して、当該各画像を撮像した際のレンズの焦点距離の管理情報と対応付けて記憶されている各用途の画像処理を施させるようにしても良い。
1 撮像部
1a レンズ部
1b 電子撮像部
2 撮像制御部
2a 電圧制御部
5 画像処理部
5a 顔検出部
5b 被写体追跡部
5c 人物認識部
5d 変更部
6 情報管理部
6a 変更制御部
6b 焦点調整テーブル
6c 優先度登録テーブル
8 表示部
11 CPU
Claims (11)
- レンズの焦点距離を変えて撮像する撮像手段と、
この撮像手段による撮像において被写体を検出または追跡する際のレンズの焦点距離を管理する管理情報であって、レンズの焦点距離および焦点距離の可変条件を含む管理情報を、複数の異なる画像処理の用途の各々に対応させて複数記憶する管理手段と、
前記複数の管理情報の各々により管理されるレンズの焦点距離を、各々の管理情報に対応する焦点距離の可変条件に従って別々に変化させる可変手段と、
前記複数の管理情報を所定の切替周期で切り替えながら、前記可変手段によって変化している各管理情報が示す焦点距離に従って、前記撮像手段による撮像の際のレンズの焦点距離を所定の切替周期で切り替える切替処理を繰り返し実行する切替手段と、
を備えたことを特徴とする撮像装置。 - 前記管理手段は、新たな被写体を検出する検出処理と、既に検出済みの被写体を追跡する被写体追跡処理とを含む用途の異なる複数の画像処理の各々に対応させて、前記撮像手段による撮像の際のレンズの焦点距離を管理する管理情報を複数記憶し、
前記可変手段は、前記複数の管理情報の各々により管理されるレンズの焦点距離を、各管理情報に対応する前記検出処理および前記被写体追跡処理の各々に応じた所定の可変条件に従って可変させ、
更に、前記撮像手段により撮像された複数の画像に対して、当該各画像の撮像の際のレンズの焦点距離の決定に用いた管理情報に対応する前記検出処理または前記被写体追跡処理のいずれかの画像処理を交互に施す画像処理手段を備えたことを特徴とする請求項1に記載の撮像装置。 - 前記被写体追跡処理は、第1焦点距離で撮影された画像内の一の被写体を追跡対象として追跡し、前記検出処理は、第2焦点距離で撮影された画像内から前記一の被写体と異なる新たな被写体を検出し、
前記追跡対象となる被写体毎に優先度を対応付けて記憶する優先度記憶手段と、
前記一の被写体を追跡中に、当該一の被写体よりも前記第2焦点距離で撮影された画像内から検出された新たな被写体の優先度が高い場合に、前記新たな被写体を追跡対象に変更する変更手段と、を更に備えることを特徴とする請求項2に記載の撮像装置。 - 前記検出処理は、画像内から人の顔を検出する顔検出処理であり、
前記変更手段は、更に、
前記追跡対象として顔以外の被写体を追跡中に、画像内から顔が検出された場合に、新たに検出された顔を追跡対象に切り替えることを特徴とする請求項3に記載の撮像装置。 - 人物毎に優先度を対応付けて登録する人物登録手段を更に備え、
前記検出処理は、画像内から検出される顔の個人を特定する個人認識処理であり、
前記変更手段は、更に、
前記追跡対象として顔を追跡中に、前記人物登録手段に登録されている人物の中で当該追跡対象の顔の人物よりも優先度の高い人物の顔が新たに検出された場合に、前記新たな顔を追跡対象に切り替えることを特徴とする請求項4に記載の撮像装置。 - 前記複数の管理情報の各々に対応する画像処理の用途を個別に設定する用途設定手段を更に備えることを特徴とする請求項2〜5の何れか一項に記載の撮像装置。
- 前記複数の管理情報の各々に対応する焦点距離の可変条件を個別に設定する条件設定手段を更に備えることを特徴とする請求項2〜6の何れか一項に記載の撮像装置。
- 前記所定の切替周期を設定する周期設定手段を更に備えることを特徴とする請求項2〜7の何れか一項に記載の撮像装置。
- 前記所定の切替周期を、各画像フレーム毎か、或いは、画像フレームを構成する複数の画素からなる所定方向の各ライン毎かを選択して指定する指定手段を備えることを特徴とする請求項2〜8の何れか一項に記載の撮像装置。
- レンズの焦点距離を変えて撮像する撮像手段と、この撮像手段による撮像において被写体を検出または追跡する際のレンズの焦点距離を管理する管理情報であって、レンズの焦点距離および焦点距離の可変条件を含む管理情報を、複数の異なる画像処理の用途の各々に対応させて複数記憶する管理手段と、を備える撮像装置に、
前記複数の管理情報の各々により管理されるレンズの焦点距離を、各々の管理情報に対応する焦点距離の可変条件に従って別々に変化させる処理と、
前記複数の管理情報を所定の切替周期で切り替えながら、前記可変手段によって変化している各管理情報が示す焦点距離に従って、前記撮像手段による撮像の際のレンズの焦点距離を所定の切替周期で切り替える切替処理を繰り返し実行する処理と、
を実行させることを特徴とする撮像方法。 - 撮像装置のコンピュータを、
レンズの焦点距離を変えて撮像する撮像手段と、
この撮像手段による撮像において被写体を検出または追跡する際のレンズの焦点距離を管理する管理情報であって、レンズの焦点距離および焦点距離の可変条件を含む管理情報を、複数の異なる画像処理の用途の各々に対応させて複数記憶する管理手段と、
前記複数の管理情報の各々により管理されるレンズの焦点距離を、各々の管理情報に対応する焦点距離の可変条件に従って別々に変化させる可変手段と、
前記複数の管理情報を所定の切替周期で切り替えながら、前記可変手段によって変化している各管理情報が示す焦点距離に従って、前記撮像手段による撮像の際のレンズの焦点距離を所定の切替周期で切り替える切替処理を繰り返し実行する切替手段と、
としての機能させることを特徴とするプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009103715A JP4784678B2 (ja) | 2009-04-22 | 2009-04-22 | 撮像装置、撮像方法及びプログラム |
US12/761,695 US8456567B2 (en) | 2009-04-22 | 2010-04-16 | Imaging apparatus, imaging method, and computer-readable storage medium storing program therein |
CN2010101700756A CN101873431B (zh) | 2009-04-22 | 2010-04-21 | 摄像装置及摄像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009103715A JP4784678B2 (ja) | 2009-04-22 | 2009-04-22 | 撮像装置、撮像方法及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2010258552A JP2010258552A (ja) | 2010-11-11 |
JP2010258552A5 JP2010258552A5 (ja) | 2010-12-24 |
JP4784678B2 true JP4784678B2 (ja) | 2011-10-05 |
Family
ID=42991814
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009103715A Expired - Fee Related JP4784678B2 (ja) | 2009-04-22 | 2009-04-22 | 撮像装置、撮像方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US8456567B2 (ja) |
JP (1) | JP4784678B2 (ja) |
CN (1) | CN101873431B (ja) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5594083B2 (ja) | 2010-11-19 | 2014-09-24 | ソニー株式会社 | 光ファイバアダプタ及びレーザ装置 |
WO2012073779A1 (ja) * | 2010-12-01 | 2012-06-07 | Necカシオモバイルコミュニケーションズ株式会社 | 携帯端末、画像処理方法およびプログラム |
US9389774B2 (en) | 2010-12-01 | 2016-07-12 | Sony Corporation | Display processing apparatus for performing image magnification based on face detection |
US8830378B2 (en) * | 2011-03-29 | 2014-09-09 | Olympus Corporation | Image capturing system and image capturing method, involving image restoration processing |
US20130169971A1 (en) * | 2011-11-23 | 2013-07-04 | Wasatch Photonics, Inc. | Oct imaging system for curved samples |
EP2792149A4 (en) * | 2011-12-12 | 2016-04-27 | Intel Corp | SCENE SEGMENTATION BY USING PREVIOUS IMAGING MOVEMENTS |
CN103905717B (zh) * | 2012-12-27 | 2018-07-06 | 联想(北京)有限公司 | 一种切换方法、装置及电子设备 |
KR20140102443A (ko) * | 2013-02-14 | 2014-08-22 | 삼성전자주식회사 | 카메라를 이용한 물체 추적 방법 및 이를 위한 카메라 시스템 |
JP6634298B2 (ja) * | 2016-01-23 | 2020-01-22 | オリンパス株式会社 | 撮像装置および撮像方法 |
US10534185B1 (en) * | 2017-02-14 | 2020-01-14 | Facebook Technologies, Llc | Multi-planar display with waveguide and lens stacks |
US10895746B1 (en) | 2017-08-07 | 2021-01-19 | Facebook Technologies, Llc | Expanding field-of-view in direct projection augmented reality and virtual reality systems |
US10534209B1 (en) | 2017-08-21 | 2020-01-14 | Facebook Technologies, Llc | Liquid crystal structure for controlling brightness uniformity in a waveguide display |
WO2019144263A1 (zh) | 2018-01-23 | 2019-08-01 | 深圳市大疆创新科技有限公司 | 可移动平台的控制方法、设备、计算机可读存储介质 |
US10613332B1 (en) | 2018-02-15 | 2020-04-07 | Facebook Technologies, Llc | Near-eye display assembly with enhanced display resolution |
JPWO2020261368A1 (ja) * | 2019-06-25 | 2020-12-30 | ||
WO2021171586A1 (ja) | 2020-02-28 | 2021-09-02 | 日本電気株式会社 | 画像取得装置、画像取得方法および画像処理装置 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3915265B2 (ja) * | 1998-08-18 | 2007-05-16 | カシオ計算機株式会社 | ズーム機能付きカメラ |
JP3732665B2 (ja) | 1998-12-22 | 2006-01-05 | 株式会社リコー | 自動焦点制御装置及びその合焦動作決定方法 |
JP2001257928A (ja) | 2000-03-09 | 2001-09-21 | Technosonic:Kk | 被写体追尾装置 |
JP3914060B2 (ja) * | 2002-02-08 | 2007-05-16 | 富士フイルム株式会社 | 合焦装置 |
JP2004289779A (ja) | 2003-03-06 | 2004-10-14 | Chuo Electronics Co Ltd | 移動体撮像方法、移動体撮像システム |
KR101156115B1 (ko) * | 2005-05-18 | 2012-06-21 | 삼성전자주식회사 | 디지털 영상 처리 장치의 제어 방법 |
CN101375590B (zh) * | 2006-02-15 | 2010-12-22 | 松下电器产业株式会社 | 摄影装置以及摄影方法 |
WO2007105804A1 (ja) * | 2006-03-13 | 2007-09-20 | Citizen Holdings Co., Ltd. | 自動合焦点装置及び光学素子 |
US7657171B2 (en) * | 2006-06-29 | 2010-02-02 | Scenera Technologies, Llc | Method and system for providing background blurring when capturing an image using an image capture device |
JP4571617B2 (ja) * | 2006-12-28 | 2010-10-27 | 三星デジタルイメージング株式会社 | 撮像装置及び撮像方法 |
JP2008301162A (ja) | 2007-05-31 | 2008-12-11 | Fujifilm Corp | 撮影装置、及び撮影方法 |
JP5064926B2 (ja) * | 2007-08-02 | 2012-10-31 | キヤノン株式会社 | 撮像装置及びその制御方法 |
-
2009
- 2009-04-22 JP JP2009103715A patent/JP4784678B2/ja not_active Expired - Fee Related
-
2010
- 2010-04-16 US US12/761,695 patent/US8456567B2/en not_active Expired - Fee Related
- 2010-04-21 CN CN2010101700756A patent/CN101873431B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010258552A (ja) | 2010-11-11 |
CN101873431B (zh) | 2012-10-10 |
CN101873431A (zh) | 2010-10-27 |
US8456567B2 (en) | 2013-06-04 |
US20100271537A1 (en) | 2010-10-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4784678B2 (ja) | 撮像装置、撮像方法及びプログラム | |
US7787762B2 (en) | Image photographing apparatus, image photographing method, and computer program | |
JP4732303B2 (ja) | 撮像装置 | |
JP5950678B2 (ja) | 撮像装置、制御方法、及びプログラム | |
JP2008109336A (ja) | 画像処理装置および撮像装置 | |
US20120257007A1 (en) | Image processing device capable of generating wide-range image | |
JP2011155396A (ja) | 撮像装置 | |
KR20140031804A (ko) | 촬상 장치, 촬상 방법 및 기록 매체 | |
JP2009213114A (ja) | 撮像装置及びプログラム | |
JP2002027312A (ja) | 撮像装置 | |
JP5407373B2 (ja) | 撮影装置、及びプログラム | |
JP4953770B2 (ja) | 撮像装置 | |
JP4748375B2 (ja) | 撮像装置、画像再生装置及びそのプログラム | |
JP2011066827A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6693071B2 (ja) | 撮像装置、撮像制御方法及びプログラム | |
JP6024135B2 (ja) | 被写体追尾表示制御装置、被写体追尾表示制御方法およびプログラム | |
JP4534250B2 (ja) | 動画撮像装置及びそのプログラム | |
JP2020115679A (ja) | 物体検出装置、検出制御方法及びプログラム | |
JP2010062825A (ja) | 撮像装置および撮像制御方法 | |
JP5644180B2 (ja) | 撮像装置、撮像方法及びプログラム | |
JP2018151415A (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
JP2009194469A (ja) | 撮像装置 | |
JP5051084B2 (ja) | 撮像装置、撮影方法及びプログラム | |
JP5471004B2 (ja) | 焦点調整装置、焦点調整方法及びプログラム | |
JP6486132B2 (ja) | 撮像装置およびその制御方法、並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100902 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100902 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20100902 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110118 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110308 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110329 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110530 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110614 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110627 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4784678 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140722 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |