JP4784678B2 - 撮像装置、撮像方法及びプログラム - Google Patents

撮像装置、撮像方法及びプログラム Download PDF

Info

Publication number
JP4784678B2
JP4784678B2 JP2009103715A JP2009103715A JP4784678B2 JP 4784678 B2 JP4784678 B2 JP 4784678B2 JP 2009103715 A JP2009103715 A JP 2009103715A JP 2009103715 A JP2009103715 A JP 2009103715A JP 4784678 B2 JP4784678 B2 JP 4784678B2
Authority
JP
Japan
Prior art keywords
focal length
image
management information
imaging
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009103715A
Other languages
English (en)
Other versions
JP2010258552A5 (ja
JP2010258552A (ja
Inventor
剛 遠藤
泰明 小川
恵一 谷岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2009103715A priority Critical patent/JP4784678B2/ja
Priority to US12/761,695 priority patent/US8456567B2/en
Priority to CN2010101700756A priority patent/CN101873431B/zh
Publication of JP2010258552A publication Critical patent/JP2010258552A/ja
Publication of JP2010258552A5 publication Critical patent/JP2010258552A5/ja
Application granted granted Critical
Publication of JP4784678B2 publication Critical patent/JP4784678B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Ophthalmology & Optometry (AREA)
  • Vascular Medicine (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Focusing (AREA)

Description

本発明は、複数の画像に対して画像処理を施す撮像装置、撮像方法及びプログラムに関する。
従来、顔検出処理などにより被写体を検出した後、この検出された被写体を追跡しながら当該被写体にピントを合わせ続ける追跡式のAF機能を備えたデジタルカメラが知られている(例えば、特許文献1参照)。
特開2000−188713号公報
しかしながら、上記特許文献1の方法では、追跡中の被写体よりも優先順位の高い被写体が撮影フレーム内に移動してきた場合であっても、この新たな被写体が追跡中の被写体とは異なる距離にあると、ピントが合っていないボケた画像となってしまい、新たな被写体を画像処理によって認識するのが難しいといった問題がある。かといって、新たな被写体にピントを合わせるように焦点距離を変化させると、追跡中の被写体を見失ってしまう虞もある。
そこで、本発明の課題は、複数の用途の画像処理を実行しながら撮像を継続することができる撮像装置、撮像方法及びプログラムを提供することである。
上記課題を解決するため、請求項1に記載の発明の撮像装置は、レンズの焦点距離を変えて撮像する撮像手段と、この撮像手段による撮像において被写体を検出または追跡する際のレンズの焦点距離を管理する管理情報であって、レンズの焦点距離および焦点距離の可変条件を含む管理情報を、複数の異なる画像処理の用途の各々に対応させて複数記憶する管理手段と、前記複数の管理情報の各々により管理されるレンズの焦点距離を、各々の管理情報に対応する焦点距離の可変条件に従って別々に変化させる可変手段と、前記複数の管理情報を所定の切替周期で切り替えながら、前記可変手段によって変化している各管理情報が示す焦点距離に従って、前記撮像手段による撮像の際のレンズの焦点距離を所定の切替周期で切り替える切替処理を繰り返し実行する切替手段と、を備えたことを特徴としている。
請求項2に記載の発明は更に、前記管理手段は、新たな被写体を検出する検出処理と、既に検出済みの被写体を追跡する被写体追跡処理とを含む用途の異なる複数の画像処理の各々に対応させて、前記撮像手段による撮像の際のレンズの焦点距離を管理する管理情報を複数記憶し、前記可変手段は、前記複数の管理情報の各々により管理されるレンズの焦点距離を、各管理情報に対応する前記検出処理および前記被写体追跡処理の各々に応じた所定の可変条件に従って可変させ、更に、前記撮像手段により撮像された複数の画像に対して、当該各画像の撮像の際のレンズの焦点距離の決定に用いた管理情報に対応する前記検出処理または前記被写体追跡処理のいずれかの画像処理を交互に施す画像処理手段を備えたことを特徴としている。
請求項3に記載の発明は更に、前記被写体追跡処理は、第1焦点距離で撮影された画像内の一の被写体を追跡対象として追跡し、前記検出処理は、第2焦点距離で撮影された画像内から前記一の被写体と異なる新たな被写体を検出し、前記追跡対象となる被写体毎に優先度を対応付けて記憶する優先度記憶手段と、前記一の被写体を追跡中に、当該一の被写体よりも前記第2焦点距離で撮影された画像内から検出された新たな被写体の優先度が高い場合に、前記新たな被写体を追跡対象に変更する変更手段と、を更に備えることを特徴としている。
請求項4に記載の発明は更に、前記検出処理は、画像内から人の顔を検出する顔検出処理であり、
前記変更手段は、更に、前記追跡対象として顔以外の被写体を追跡中に、画像内から顔が検出された場合に、新たに検出された顔を追跡対象に切り替えることを特徴としている。
請求項5に記載の発明は更に、人物毎に優先度を対応付けて登録する人物登録手段を更に備え、前記検出処理は、画像内から検出される顔の個人を特定する個人認識処理であり、前記変更手段は、更に、前記追跡対象として顔を追跡中に、前記人物登録手段に登録されている人物の中で当該追跡対象の顔の人物よりも優先度の高い人物の顔が新たに検出された場合に、前記新たな顔を追跡対象に切り替えることを特徴としている。
請求項6に記載の発明は更に、前記複数の管理情報の各々に対応する画像処理の用途を個別に設定する用途設定手段を更に備えることを特徴としている。
請求項7に記載の発明は更に、前記複数の管理情報の各々に対応する焦点距離の可変条件を個別に設定する条件設定手段を更に備えることを特徴としている。
請求項8に記載の発明は更に、前記所定の切替周期を設定する周期設定手段を更に備えることを特徴としている。
請求項9に記載の発明は更に、前記所定の切替周期を、各画像フレーム毎か、或いは、画像フレームを構成する複数の画素からなる所定方向の各ライン毎かを選択して指定する指定手段を備えることを特徴としている。
請求項10に記載の発明の撮影方法は、レンズの焦点距離を変えて撮像する撮像手段と、この撮像手段による撮像において被写体を検出または追跡する際のレンズの焦点距離を管理する管理情報であって、レンズの焦点距離および焦点距離の可変条件を含む管理情報を、複数の異なる画像処理の用途の各々に対応させて複数記憶する管理手段と、を備える撮像装置に、前記複数の管理情報の各々により管理されるレンズの焦点距離を、各々の管理情報に対応する焦点距離の可変条件に従って別々に変化させる処理と、前記複数の管理情報を所定の切替周期で切り替えながら、前記可変手段によって変化している各管理情報が示す焦点距離に従って、前記撮像手段による撮像の際のレンズの焦点距離を所定の切替周期で切り替える切替処理を繰り返し実行する処理と、を実行させることを特徴としている。
請求項11に記載の発明のプログラムは、撮像装置のコンピュータを、レンズの焦点距離を変えて撮像する撮像手段と、この撮像手段による撮像において被写体を検出または追跡する際のレンズの焦点距離を管理する管理情報であって、レンズの焦点距離および焦点距離の可変条件を含む管理情報を、複数の異なる画像処理の用途の各々に対応させて複数記憶する管理手段と、前記複数の管理情報の各々により管理されるレンズの焦点距離を、各々の管理情報に対応する焦点距離の可変条件に従って別々に変化させる可変手段と、前記複数の管理情報を所定の切替周期で切り替えながら、前記可変手段によって変化している各管理情報が示す焦点距離に従って、前記撮像手段による撮像の際のレンズの焦点距離を所定の切替周期で切り替える切替処理を繰り返し実行する切替手段と、としての機能させることを特徴としている。
本発明によれば、異なる焦点距離での撮像制御を必要とする複数の用途の画像処理を実行しながら撮像を継続することができる。
本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。 図1の撮像装置の撮像部による画像の撮像を説明するための図である。 図1の撮像装置による設定処理に係る動作の一例を示すフローチャートである。 図1の撮像装置による静止画撮像処理に係る動作の一例を示すフローチャートである。 図1の撮像装置による動画撮像処理に係る動作の一例を示すフローチャートである。 図1の撮像装置によるライブビュー表示処理に係る動作の一例を示すフローチャートである。 図6のライブビュー表示処理の続きを示すフローチャートである。 図1の撮像装置による焦点調整の一例を説明するための図である。
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
本実施形態の撮像装置100は、複数の管理情報に従って撮像の際の液体レンズの複数の焦点距離を所定の切替周期で切り替え、切り替えられた液体レンズの焦点距離の各々を当該各焦点距離の管理情報と対応付けて記憶されている各用途に応じた所定の可変条件に従って可変させ、撮像された複数の画像に対して、当該各画像を撮像した際の液体レンズの焦点距離の管理情報と対応付けて記憶されている各用途の画像処理を施す。
具体的には、図1に示すように、撮像装置100は、撮像部1と、撮像制御部2と、画像データ生成部3と、メモリ4と、画像処理部5と、情報管理部6と、表示処理部7と、表示部8と、記録媒体9と、操作入力部10と、CPU11とを備えている。
撮像部1は、撮像手段として、被写体を撮像して画像フレームを生成する。具体的には、撮像部1は、レンズ部1aと、電子撮像部1bを備えている。
レンズ部1aは、例えば、複数のレンズを備えて構成され、具体的には、印加電圧に応じて焦点を変化させる可変焦点レンズ(図示略)を備えている。可変焦点レンズとしては、例えば、液体レンズが挙げられる。
液体レンズは、所定の容器内に、互いに混合せず、且つ、屈折率の異なる二つの液体(例えば、所定の水溶液と油等)が密封された構造をなしている。また、容器の所定位置には電極が付設され、当該電極に対して撮像制御部2の電圧制御部2a(後述)から電圧が印加されることで、二つの液体の界面がレンズのように湾曲してレンズ機能を実現する。また、電圧制御部2aから印加される電圧レベルが変化することで、二つの液体の界面の曲率が変化して、この結果、液体レンズの焦点距離が変化する。
即ち、液体レンズの特長としては、印加する電圧レベルに応じてレンズ曲率を変化する点、レンズ曲率の変化スピードが高速である点、物理的な可動部がないため耐久性が高い点、電圧レベルは高電圧だが電流が流れないため消費電力が少ない点等が挙げられる。
電子撮像部1bは、例えば、CMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサを備え、レンズ部1aの各種レンズを通過した被写体像を二次元の画像信号に変換する。
撮像制御部2は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部2は、タイミング発生器、ドライバにより電子撮像部1bを走査駆動して、所定周期毎に光学像を電子撮像部1bにより二次元の画像信号に変換させ、当該電子撮像部1bの撮像領域から1画面分ずつ画像フレームを読み出して出力させる。
ここで、電子撮像部1bのCMOSイメージセンサによる画像の撮像について説明する。
CMOSイメージセンサは、CCDイメージセンサとは異なり、画像フレームの所定方向(例えば、水平方向)のラインごとに露光や転送を行う。即ち、CMOSイメージセンサは、当該センサの最上部から下方向に順次1ラインずつ画像信号の転送を行い、最下部のライン転送を終えることで1フレーム分の転送となり、その後、再び最上部のラインから順次転送を行う。具体的には、CMOSイメージセンサは、各画像フレームのデータを同期させるフレーム同期信号、各画像フレームのラインのデータの出力タイミングに同期したライン同期信号、出力データとそれに同期するためのクロック(図示略)を撮像制御部2に出力する(図2(a)参照)。
そして、撮像制御部2は、電子撮像部1bから出力された各ラインのデータをフレーム同期信号及びライン同期信号に同期しながら受信して画像データ生成部3に出力する。
また、撮像制御部2は、液体レンズの電極に対する印加電圧を制御する電圧制御部2aを備えている。
電圧制御部2aは、電子撮像部1bから出力されたライン同期信号を受信すると、それに同期して、焦点調整テーブル6b(後述)に規定されている第1管理情報及び第2管理情報の焦点距離に従ってPWM(Pulse Width Modulation)比率を変更して、液体レンズに印加される駆動電圧を変化させる。例えば、図2(a)に示すように、電圧制御部2aは、一ライン毎に駆動電圧を焦点位置Aに対応する「High」と焦点位置Bに対応する「Low」とに切り替える。これにより、液体レンズの二つの液体の界面の曲率を変化させて当該液体レンズの焦点距離(焦点位置)を変化させる。この結果、電子撮像部1bから出力されるデータは、一ライン毎に焦点距離が異なることとなる。例えば、図2(b)に示すように、奇数ラインのキャプチャデータは、液体レンズの焦点位置が焦点位置Aで取得された画像(例えば、表示用画像)を構成する一方で、偶数ラインのキャプチャデータは、液体レンズの焦点位置が焦点位置Bで取得された画像(例えば、焦点調整用画像)を構成する。
ここで、電圧制御部2aは、複数の管理情報に従って撮像部及び撮像制御部2による撮像の際の液体レンズの複数の焦点距離を所定の切替周期で切り替える切替手段を構成している。
また、電圧制御部2aは、切替後の液体レンズの焦点距離の各々を、焦点調整テーブル6b(後述)に規定されている管理情報と対応付けられている画像処理の用途に応じて所定の可変条件に従って可変させる。具体的には、電圧制御部2aは、液体レンズの焦点距離が被写体追跡用焦点距離に切り替えられた場合には、焦点調整テーブル6bの第1管理情報の第1可変条件に基づいて、追跡対象のコントラストがより高くなるように被写体追跡用焦点距離を可変させる。また、液体レンズの焦点距離が被写体検出用焦点距離に切り替えられた場合には、焦点調整テーブル6bの第2管理情報の第2可変条件に基づいて、近距離から遠距離までの全域を画像フレームの各ライン毎に繰り返し走査するように被写体検出用焦点距離を可変させる。
ここで、電圧制御部2aは、レンズの焦点距離の各々を当該各焦点距離の管理情報と対応付けて記憶されている各用途に応じた所定の可変条件に従って可変させる可変手段を構成している。
なお、図2(b)にあっては、焦点位置Aで取得された画像としてピントがあっている画像を例示し、焦点位置Bで取得された画像としてピントがあっていない画像を例示したが、これらに限られるものではない。
即ち、表示用画像の取得に係る液体レンズの焦点位置Aは、被写体にピントを合わせた後に固定されるので、被写体の距離が変化しない間は常にピントがあっている状態になるが、被写体の距離が変化したときには、一時的に(過渡的に)ピントが合わない状態も生じる。一方、焦点調整用画像の取得に係る液体レンズの焦点位置Bは、距離の変化する被写体にピントを合わせるために常に変化しているので、ピントが合っていない状態とピントが合っている状態とに変動する。
また、撮像制御部2は、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体を撮像する際の条件の調整制御を行う。
画像データ生成部3は、電子撮像部1bから転送された画像データのアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
メモリ4は、例えば、DRAM等により構成され、画像処理部5やCPU11等によって処理されるデータ等を一時記憶する。
画像処理部5は、画像処理手段として、撮像された複数の画像フレームに対して、当該各画像フレームを撮像した際のレンズの焦点距離の管理情報と対応付けて記憶されている各用途の画像処理を行う。
即ち、画像処理部5は、液体レンズの焦点位置を焦点位置Bとして撮影した場合には、電子撮像部2により生成された画像フレームから所定の顔検出方法を用いて人の顔を検出する顔検出部5aを具備している。
具体的には、顔検出部5aは、液体レンズの焦点位置が焦点位置Bで撮影された画像フレームから顔画像領域を検出し、検出した各領域内から目、鼻、口等に相当する特徴部(顔パーツ)を検出する。また、顔検出部5aは、焦点位置Bで撮影された画像フレーム内から被写体追跡処理に係る被写体(顔)と異なる新たな顔を被写体として検出する顔検出処理を行う。
なお、顔検出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
また、画像処理部5は、主要被写体を動体解析により追跡する被写体追跡部5bを具備している。
具体的には、被写体追跡部5bは、液体レンズの焦点位置が焦点位置Aで撮影された画像フレーム内の顔などの主要被写体を追跡対象として、隣合う画像フレーム間で追跡する被写体追跡処理を行う。また、被写体追跡部5bは、追跡対象が顔検出処理にて新たに検出された顔に変更されると、液体レンズの焦点位置が焦点位置Bで撮影された画像フレーム内の顔を追跡対象として、隣合う画像フレーム間で追跡する被写体追跡処理を行う。
ここで、動体解析の一例について詳細に説明する。
被写体追跡部5bは、先ず、顔の検出状態であるか非検出状態であるかを判定する。顔の検出状態であると判定された場合には、被写体追跡部5bは、メモリに記憶されている顔座標を取得して、当該顔座標で囲まれた領域内の撮像対象を主要被写体として特定する。一方、顔の非検出状態であると判定された場合には、AFモードに応じたAF領域(合焦箇所)内の撮像対象を主要被写体として特定する。
その後、主要被写体の輝度情報や色情報等の画像情報をテンプレートとして、次の画像フレームにて顔座標近傍の所定の動体探索範囲内を所定方向に走査してマッチングを行い、最も近似性の高い部分を主要被写体とする。
そして、被写体追跡部5bは、最も近似性が高いと判定された主要被写体の縁部を追跡枠とし、追跡枠の各角部の座標を取得した後、当該座標により顔座標を更新する。さらに、被写体追跡部5bは、追跡枠内の主要被写体の輝度情報や色情報等の画像情報をテンプレートとして更新する。
上記の処理を、被写体追跡部5bは、焦点位置Aで撮像された複数の画像フレームの各々に対して逐次実行することにより、マッチングに用いるテンプレートが更新されていく。そのため被写体が経時的に変化しても主要被写体を動体として追跡することができる。
また、画像処理部5は、顔検出処理にて検出された顔の個人を認識する人物認識部5cを具備している。
人物認識部5cは、顔検出処理にて検出された顔が情報管理部6の優先度登録テーブル6c(後述)に登録されているか否かを判定し、当該判定の結果、顔が登録されていると判定されると、当該顔と対応付けて登録されている人物を特定する。
また、画像処理部5は、被写体追跡処理における追跡対象を変更する変更部6dを具備している。
変更部6dは、顔検出処理にて検出された顔の個人の優先度に応じて追跡対象を変更する。具体的には、変更部6dは、液体レンズの焦点位置が焦点位置Aで撮影された画像フレーム内の一の顔を主要被写体として追跡中に、焦点位置Bで撮影された画像フレーム内から新たな顔が検出された場合には、人物認識部5cによる個人認識結果に基づいて情報管理部6の優先度登録テーブル6cを参照して、何れの顔の優先度が高いか否かを判定する。そして、変更部6dは、追跡中の一の顔の個人よりも焦点位置Bで撮影された画像フレーム内から検出された新たな顔の個人の優先度が高いと判定された場合には、新たな顔を追跡対象に変更する。
また、変更部6dは、液体レンズの焦点位置が焦点位置Aで撮影された画像フレーム内の顔以外の物体を追跡対象として追跡中に、焦点位置Bで撮影された画像フレーム内から顔が検出された場合には、新たに検出された顔を追跡対象に切り替える。
ここで、変更部6dは、焦点位置A(第1焦点距離)で撮影された画像内の一の被写体を追跡中に、当該一の被写体よりも焦点位置B(第2焦点距離)で撮影された画像内から検出された新たな被写体の優先度が高い場合に、当該新たな被写体を追跡対象に変更する変更手段を構成している。
情報管理部6は、レンズの焦点距離を管理する焦点調整テーブル6bの内容を変更する変更制御部6aを具備している。
焦点調整テーブル6bは、管理手段として、画像処理の複数の用途と、レンズの複数の焦点距離と、焦点距離の可変条件とを対応付けて複数の管理情報を記憶する。例えば、焦点調整テーブル6bは、第1画像の画像処理の第1用途「被写体追跡処理」と、液体レンズの焦点位置を焦点位置Aとする「被写体追跡用焦点距離」と、当該焦点距離Aの第1可変条件「追跡対象のコントラストをより高くする」とを対応付けて第1管理情報として記憶している。また、焦点調整テーブル6bは、第2画像の画像処理の第2用途「顔検出処理」と、液体レンズの焦点位置を焦点位置Bとする「被写体検出用焦点距離」と、当該焦点距離Bの第2可変条件「近距離から遠距離までの全域を画像フレームの各ライン毎に繰り返し走査」とを対応付けて第2管理情報として記憶している。
そして、変更制御部6aは、画像処理部5の変更部6dにより追跡対象が変更された場合に、被写体追跡用焦点距離を管理する第1管理情報の内容を被写体追跡用の第2画像を撮像した際の焦点距離に変更する。これにより、被写体追跡用画像(第1画像)の撮像の際の液体レンズの焦点距離が、被写体検出用画像(第2画像)を撮像した際の焦点距離に変更される。
なお、上記した焦点調整テーブル6bは、一例であってこれに限られるものではない。即ち、例えば、焦点調整テーブル6bは、第1管理情報として、第1画像の画像処理の第1用途「画像表示処理」と、液体レンズの焦点位置を焦点位置Aとする「表示用焦点距離」、当該焦点距離Aの第1可変条件「第1画像のコントラストが良くなるように焦点距離の更新」とを対応付けて記憶しても良いし、また、第2管理情報として、第2画像の画像処理の第2用途「焦点調整処理」と、液体レンズの焦点位置を焦点位置Bとする「AF用焦点距離」と、当該焦点距離Bの第2可変条件「主要被写体のコントラストが良くなるように焦点距離の変更」とを対応付けて記憶しても良い。
また、情報管理部6は、物体や人物といった被写体追跡処理にて追跡対象となる被写体毎に優先度が対応付けられている優先度登録テーブル6cを記憶している。
優先度登録テーブル6cは、具体的には、人物登録手段として、顔検出処理にて検出された顔の個人毎に優先度を対応付けて登録する。例えば、人物Aよりも人物Bの優先度が高くなるように登録されている(図8(a)〜図8(c)参照)。また、優先度登録テーブル6cは、主要被写体として人以外の物体よりも人の方が優先度が高くなるように登録されている。
ここで、優先度登録テーブル6cは、被写体追跡処理にて追跡対象となる被写体毎に優先度を対応付けて記憶する優先度記憶手段を構成している。
表示処理部7は、メモリ4に一時的に記憶されている表示用の画像データを読み出して表示部8に表示させる制御を行う。
具体的には、表示処理部7は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、CPU11の制御下にてメモリ4から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
表示部8は、例えば、液晶表示装置であり、表示処理部7からのビデオ信号に基づいて電子撮像部1bにより撮像された画像などを表示画面に表示する。具体的には、表示部8は、静止画撮像モードや動画撮像モードにて、撮像部1及び撮像制御部2による被写体の撮像により生成された複数の画像フレームを所定のフレームレートで逐次更新しながらライブビュー画像を表示する。また、表示部8は、静止画として記録される画像(レックビュー画像)を表示したり、動画として記録中の画像を表示する。
記録媒体9は、例えば、不揮発性メモリ(フラッシュメモリ)等により構成され、画像処理部5の符号化部(図示略)により所定の圧縮形式で符号化された記録用の静止画像データや複数の画像フレームからなる動画像データを記憶する。
操作入力部10は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部10は、被写体の撮影指示に係るシャッタボタン、撮像モードや機能等の選択指示に係る選択決定ボタン、ズーム量の調整指示に係るズームボタン等を備え(いずれも図示略)、これらのボタンの操作に応じて所定の操作信号をCPU11に出力する。
また、操作入力部10は、ユーザによる所定操作に基づいて画像処理部5による複数の用途(例えば、被写体追跡処理や被写体検出処理等)の選択設定に係る設定指示信号をCPU11に出力する。CPU11は、操作入力部10から出力された設定指示信号が入力されると、当該設定指示信号に応じて画像処理の用途を情報管理部6にそれぞれ設定させる。これにより、ユーザが所望の画像処理の用途を組み合わせて指定することができ、より使い勝手の良い撮像装置100を提供することができる。
ここで、CPU11、操作入力部10及び情報管理部6は、画像処理の複数の用途を設定する用途設定手段を構成している。
また、操作入力部10は、ユーザによる所定操作に基づいて液体レンズの焦点距離の所定の可変条件の選択設定に係る設定指示信号をCPU11に出力する。CPU11は、操作入力部10から出力された設定指示信号が入力されると、当該設定指示信号に応じて液体レンズの焦点距離の所定の可変条件を情報管理部6にそれぞれ設定させる。これにより、ユーザが液体レンズの焦点距離の可変条件として所望の条件を組み合わせて指定することができ、より使い勝手の良い撮像装置100を提供することができる。
ここで、CPU11、操作入力部10及び情報管理部6は、液体レンズの焦点距離の所定の可変条件を設定する条件設定手段を構成している。
また、操作入力部10は、ユーザによる所定操作に基づいて液体レンズの焦点距離の所定の切替周期の設定に係る設定指示信号をCPU11に出力する。CPU11は、操作入力部10から出力された設定指示信号が入力されると、当該設定指示信号に応じて液体レンズの焦点距離の所定の切替周期を情報管理部6に設定させる。具体的には、例えば、所定の切替周期としては、各画像フレーム毎か、或いは、画像フレームを構成するライン毎を選択して指定するようになっている。これにより、ユーザが液体レンズの焦点距離の切替周期として所望の周期を指定することができ、解像度や画像のちらつき方などが異なる所望の画質に対応することができる。また、切替周期として、各画像フレーム毎か、或いは、画像フレームを構成するライン毎を選択して指定することで、解像度と画像のちらつき方のうち、ユーザ所望の何れか一を優先的に選択することができる。これによって、より使い勝手の良い撮像装置100を提供することができる。
ここで、CPU11、操作入力部10及び情報管理部6は、液体レンズの焦点距離の所定の切替条件を設定する周期設定手段を構成している。また、CPU11、操作入力部10及び情報管理部6は、各画像フレーム毎か、或いは、画像フレームを構成する複数の画素からなる所定方向の各ライン毎を選択して指定する指定手段を構成している。
CPU11は、撮像装置100の各部を制御するものである。具体的には、CPU11は、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行うものである。
次に、撮像装置100による設定処理について図3を参照して説明する。
図3は、設定処理に係る動作の一例を示すフローチャートである。
設定処理は、焦点調整テーブル6bの管理情報を規定する画像処理の複数の用途及びレンズの各焦点距離の可変条件や、複数の焦点距離の切替周期を設定する一般的な処理である。また、設定処理は、ユーザによる操作入力部10の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から設定モードが選択指示された場合に実行される処理である。
先ず、CPU11は、ユーザによる操作入力部10の所定操作に基づいて出力された設定指示信号が入力されると、当該設定指示信号に応じて焦点調整テーブル6bの第1管理情報の焦点距離A(例えば、「被写体追跡用焦点距離」や「表示用焦点距離」等)で撮像される第1画像の用途として、第1用途(例えば、「被写体の追跡用」や「画像表示用」等)を情報管理部6に設定させる(ステップS1)。
次に、CPU11は、ユーザによる操作入力部10の所定操作に基づいて出力された設定指示信号が入力されると、当該設定指示信号に応じて焦点調整テーブル6bの第1管理情報の焦点距離Aの可変条件として、第1可変条件(例えば、「追跡対象のコントラストをより高くする」や「第1画像のコントラストが良くなるように焦点距離の更新」等)を情報管理部6に設定させる(ステップS2)。
続けて、CPU11は、ユーザによる操作入力部10の所定操作に基づいて出力された設定指示信号が入力されると、当該設定指示信号に応じて焦点調整テーブル6bの第2管理情報の焦点距離B(例えば、「被写体検出用焦点距離」や「AF用焦点距離」等)で撮像される第2画像の用途として、第2用途(例えば、「顔検出処理」や「焦点調整処理」等)を情報管理部6に設定させる(ステップS3)。
次に、CPU11は、ユーザによる操作入力部10の所定操作に基づいて出力された設定指示信号が入力されると、当該設定指示信号に応じて焦点調整テーブル6bの第2管理情報の焦点距離Bの可変条件として、第2可変条件(例えば、「近距離から遠距離までの全域を画像フレームの各ライン毎に繰り返し走査」や「主要被写体のコントラストが良くなるように焦点距離の変更」等)を情報管理部6に設定させる(ステップS4)。
そして、CPU11は、ユーザによる操作入力部10の所定操作に基づいて出力された設定指示信号が入力されると、当該設定指示信号に応じて焦点調整テーブル6bの第1管理情報及び第2管理情報に係る焦点距離A、Bの切替周期(例えば、被写体追跡処理や被写体検出処理にあっては、「各画像フレームを交互に切替え」、また、画像表示や焦点調整処理にあっては、「奇数ラインと偶数ラインを交互に切替え」等)を情報管理部6に設定させる(ステップS5)。
これにより、設定処理を終了する。
次に、撮像装置100による静止画撮像処理について、図4を参照して説明する。
図4は、静止画撮像処理に係る動作の一例を示すフローチャートである。
静止画撮像処理は、ユーザによる操作入力部10の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から静止画撮像モードが選択指示された場合に実行される処理である。また、当該静止画撮像処理におけるライブビュー表示処理については、図6及び図7を参照して後述する。
先ず、CPU11は、焦点調整テーブル6bの第1管理情報及び第2管理情報の各焦点距離を管理する変数を情報管理部6に初期化させる(ステップS11A)。具体的には、情報管理部6は、焦点調整テーブル6bの第1管理情報の初期値として所定の焦点距離Aを設定するとともに、第2管理情報の初期値として所定の焦点距離Bを設定する。
次に、CPU11は、撮像部1及び撮像制御部2による被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部8の表示画面に表示させるライブビュー表示処理を行う(ステップS12A;図6及び図7参照、詳細後述)。
そして、CPU11は、ライブビュー表示処理中に、ユーザによる操作入力部10のシャッタボタンの所定操作に基づいて静止画撮像指示が入力されたか否かを判定する(ステップS13A)。
ここで、静止画撮像指示が入力されていないと判定された場合には(ステップS13A;NO)、ステップS13Aにて、静止画撮像指示が入力されたと判定されるまで(ステップS13A;YES)、CPU11は処理をステップS12Aに移行させて、ライブビュー表示処理を繰り返し行わせる。
そして、静止画撮像指示が入力されたと判定されると(ステップS13A;YES)、CPU11は、撮像制御部2に、焦点調整テーブル6bに基づいて液体レンズの焦点距離を表示用焦点距離(焦点距離A)に変更させ(ステップS14A)、露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の条件を調整させて、被写体の光学像を所定の条件で電子撮像部1bにより撮像させる。
その後、CPU11は、画像データ生成部3に、電子撮像部1bから転送された静止画像の記録用の画像フレームのYUVデータを生成させて、当該画像のYUVデータを記録媒体9の所定の記憶領域に保存させる(ステップS15A)。
これにより、静止画撮像処理を終了する。
次に、撮像装置100による動画撮像処理について、図5を参照して説明する。
図5は、動画撮像処理に係る動作の一例を示すフローチャートである。
動画撮像処理は、ユーザによる操作入力部10の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の撮像モードの中から動画撮像モードが選択指示された場合に実行される処理である。また、当該動画撮像処理におけるライブビュー表示処理については、図6及び図7を参照して後述する。
先ず、CPU11は、焦点調整テーブル6bの第1管理情報及び第2管理情報の各焦点距離を管理する変数を情報管理部6に初期化させる(ステップS11B)。具体的には、情報管理部6は、焦点調整テーブル6bの第1管理情報の初期値として所定の焦点距離Aを設定するとともに、第2管理情報の初期値として所定の焦点距離Bを設定する。
次に、CPU11は、撮像部1及び撮像制御部2による被写体の撮像により生成された複数の画像フレームに基づいてライブビュー画像を表示部8の表示画面に表示させるライブビュー表示処理を行う(ステップS12B;図6及び図7参照、詳細後述)。
そして、CPU11は、ライブビュー表示処理中に、ユーザによる操作入力部10のシャッタボタンの所定操作に基づいて動画撮像開始指示が入力されたか否かを判定する(ステップS13B)。
ここで、動画撮像開始指示が入力されていないと判定された場合には(ステップS13B;NO)、ステップS13Bにて、動画撮像開始指示が入力されたと判定されるまで(ステップS13B;YES)、CPU11は処理をステップS12Bに移行させて、ライブビュー表示処理を繰り返し行わせる。
そして、動画撮像開始指示が入力されたと判定されると(ステップS13B;YES)、CPU11は、露出条件(シャッター速度、絞り、増幅率等)やホワイトバランス等の条件を撮像制御部2に調整させて、所定の条件で電子撮像部1bにより撮像された被写体の第1画像に係る画像フレームのYUVデータを画像データ生成部3に生成させて、メモリ4に動画像を構成する画像フレームとして追加記録させる(ステップS14B)。
次に、CPU11は、ユーザによる操作入力部10のシャッタボタンの所定操作に基づいて動画撮像終了指示が入力されたか否かを判定する(ステップS15B)。
ここで、動画撮像終了指示が入力されていないと判定された場合には(ステップS15B;NO)、ステップS15Bにて、動画撮像終了指示が入力されたと判定されるまで(ステップS15B;YES)、CPU11は処理をステップS12Bに移行させて、ライブビュー表示処理以降の処理を繰り返し行わせる。
そして、動画撮像終了指示が入力されたと判定されると(ステップS15B;YES)、CPU11は、メモリ4に記録されている複数の画像フレームからなる動画像を記録媒体9の所定の記憶領域に保存させる(ステップS16B)。
これにより、動画撮像処理を終了する。
次に、静止画撮像処理及び動画撮像処理におけるライブビュー表示処理について図6及び図7を参照して説明する。
図6及び図7は、ライブビュー表示処理に係る動作の一例を示すフローチャートである。
ライブビュー表示処理は、静止画撮像処理にて実行される処理内容と動画撮像処理にて実行される処理内容とで略同様となっており、以下にまとめて説明する。
図6に示すように、先ず、CPU11は、情報管理部6の焦点調整テーブル6bを参照して焦点距離A、Bの切替周期であるか否かを判定する(ステップS21)。
ここで、焦点距離A、Bの切替周期であると判定されると(ステップS21;YES)、CPU11は、撮像制御部2の電圧制御部2aに、焦点調整テーブル6bの第2管理情報の焦点距離B(第1管理情報の焦点距離A)に従ってPWM比率を変更させて、液体レンズに印加される駆動電圧(例えば、「High」)を設定させる。そして、電圧制御部2aは、設定された駆動電圧を電極に印加して、液体レンズの二つの液体の界面の曲率を変化させて当該液体レンズの焦点距離を焦点距離Bから焦点距離A(焦点距離Aから焦点距離B)に変更させる(ステップS22)。そして、液体レンズを通過した被写体像が電子撮像部1bにより光電変換されて、当該電子撮像部1bから出力された第1画像(第2画像)のデータが画像データ生成部3に入力されると、画像データ生成部3は、当該第1画像(第2画像)のデータからYUVデータを生成する。そして、画像処理部5は、画像データ生成部3により生成された第1画像(第2画像)の画像データを取得する(ステップS23)。
その後、CPU11は、画像処理部5の被写体追跡部5b(顔検出部5a)に、取得した第1画像(第2画像)を当該第1画像と焦点調整テーブル6bに対応付けられている第1用途(第2用途)として被写体追跡処理(顔検出処理)に利用させる(ステップS24)。
次に、CPU11は、撮像制御部2の電圧制御部2aに、焦点調整テーブル6bの第1管理情報の第1可変条件(第2管理情報の第2可変条件)に従ってPWM比率を変更させて、液体レンズに印加される駆動電圧(例えば、「High」)を設定させる。そして、電圧制御部2aは、設定された駆動電圧を電極に印加して、液体レンズの二つの液体の界面の曲率を変化させて当該液体レンズの焦点距離を変化させる(ステップS25)。
図7に示すように、次に、CPU11は、ステップS23にて、画像処理部5によって、画像データ生成部3により新たに生成された新たな第2画像が取得されたか否かを判定する(ステップS26)。
ここで、新たな第2画像が取得されたと判定されると(ステップS26;YES)、CPU11は、画像処理部5の顔検出部5aに、顔の検出領域を第2画像全領域として、第2画像の全領域から所定の顔検出方法を用いて人の顔を検出させる(ステップS27)。
そして、CPU11は、顔検出処理にて新たな顔が検出されたか否かを判定する(ステップS28)。ここで、新たな顔とは、現に顔を主要被写体として被写体追跡処理を行っている場合には、当該追跡対象となっている顔以外の顔のことである。
ステップS28にて、新たな顔が検出されたと判定されると(ステップS28;YES)、CPU11は、画像処理部5の人物認識部5cに、顔検出処理にて検出された新たな顔が情報管理部6の優先度登録テーブル6cに登録されているか否かを判定させる。そして、当該判定の結果、顔が登録されていると判定されると、人物認識部5cは、当該顔と対応付けて登録されている人物を特定して、個人認識結果に基づいて新たな顔の優先度を特定する(ステップS29)。
続けて、CPU11は、変更部6dに、被写体追跡処理にて主要被写体として追跡中の顔と、顔検出処理にて検出された新たな顔の優先度どうしを比較させて、新たな顔の優先度が追跡対象の顔よりも高いか否かを判定させる(ステップS30)。
ステップS30にて、新たな顔の優先度が高いと判定されると(ステップS30;YES)、CPU11は、変更部6dに、被写体追跡部5bによる追跡対象を新たな顔に変更させる(ステップS31)。
次に、CPU11は、被写体追跡部5bに、第2画像の画像フレーム内の顔を追跡対象として隣合う画像フレーム間で追跡させる(ステップS32)。
続けて、CPU11は、画像処理部5に、追跡対象の顔部分の画像データに基づいて、当該画像を構成する複数の画素における輝度の最大値及び最小値を特定して、その差を当該画像のコントラスト値として算出させる(ステップS33)。そして、画像処理部5は、算出された追跡対象のコントラスト値と直前の画像フレームにおける追跡対象のコントラスト値とを比較する。続けて、当該比較結果に基づいて、情報管理部6は、コントラストが良くなるようにコントラスト値が良い方の焦点距離を採用して第1管理情報の焦点距離Aを更新する(ステップS34)。
これにより、ライブビュー表示処理を終了する。
一方、ステップS28にて、新たな顔が検出されたと判定されると(ステップS28;YES)、CPU11は、撮像制御部2の電圧制御部2aに、焦点調整テーブル6bの第2管理情報の第2可変条件に従ってPWM(Pulse Width Modulation)比率を変更させて、液体レンズに印加される駆動電圧(例えば、「High」)を設定させる。そして、電圧制御部2aは、設定された駆動電圧を電極に印加して、液体レンズの二つの液体の界面の曲率を変化させて当該液体レンズの焦点距離を変化させた後(ステップS35)、処理をステップS32に移行させる。
また、ステップS26にて、新たな第2画像が取得されていないと判定されると(ステップS26;NO)、即ち、ステップS21にて、液体レンズの焦点距離を焦点距離Aに切り替えた場合には、新たな第2画像は取得されないことから、ライブビュー表示処理を終了する。
また、ステップS30にて、新たな顔の優先度の方が追跡対象の顔よりも高くないと判定された場合(ステップS30;NO)、即ち、顔検出処理にて新たな顔を検出したものの、追跡対象の顔の人物よりも優先度が低い場合にも、ライブビュー表示処理を終了する。
上記の静止画撮像処理や動画撮像処理においては、例えば、図8(a)〜図8(c)に示すように、被写体追跡AFで被写体として人物Aを追跡しながら撮像中は、人物Aに焦点があった状態となる。このとき、焦点調整テーブル6bに規定されている第1管理情報及び第2管理情報の焦点距離A(被写体追跡用焦点距離)と焦点距離B(被写体検出用焦点距離)は、等しくなっている(図8(a)参照)。
ここで、画角内に人物Aよりも優先度の高い人物Bが入ってきた場合に、液体レンズの焦点距離A(被写体追跡用焦点距離)は固定した状態で、焦点調整テーブル6bに規定されている第2管理情報の焦点距離B(被写体検出用焦点距離)を変更することで、液体レンズの焦点距離Bを変化させて人物Bに焦点を合わせるAF動作を行う(図8(b)参照)。
そして、個人認識処理の結果、人物Aと人物Bの優先度を比較判定して、人物Aよりも人物Bの方が優先度が高いと判定されると、被写体追跡処理の追跡対象を人物Bに切り替えるとともに、焦点調整テーブル6bに規定されている第1管理情報の焦点距離Aを第2管理情報の焦点距離Bに変更して、焦点距離A(被写体追跡用焦点距離)と焦点距離B(被写体検出用焦点距離)とを等しくさせる(図8(c)参照)。
なお、この例では、カメラを固定した状態で画角内に背景の人物Aよりも優先度の高い人物Bが入ってきた場合で説明したが、カメラをパーンすることによって、画角の中央部に設けられたAF領域内の被写体が変化した場合(即ち、人物から人物への変化のほか、物体から物体への変化や、物体から人への変化や、未登録の人から登録済みの人物等)でも同様である。
以上のように、本実施形態の撮像装置100によれば、撮像制御部2の電圧制御部2aによって、複数の管理情報に従って撮像部1及び撮像制御部2による撮像の際の液体レンズの複数の焦点距離を所定の切替周期で切り替え、切り替えられた液体レンズの焦点距離の各々を当該各焦点距離の管理情報と対応付けて記憶されている各用途に応じた所定の可変条件に従って変化させることができ、画像処理部5によって、撮像部1及び撮像制御部2により撮像された複数の画像に対して、当該各画像を撮像した際の液体レンズの焦点距離の管理情報と対応付けて記憶されている各用途の画像処理を施すことができる。
即ち、撮像された画像を、例えば、被写体検出処理や被写体追跡処理といった画像処理の複数の異なる用途の処理で利用し、且つ、各々の用途が異なるレンズの焦点距離の制御を必要とするような場合であっても、本実施形態の撮像装置100では、可変焦点レンズとして液体レンズを用いて、管理情報に基づいて当該液体レンズの焦点を変化させることによって、第1画像及び第2画像を撮像する際の焦点距離を素早く変化させることができるとともに、画像処理の各々の用途にて液体レンズの焦点距離を変化させながら撮像された各画像を用いて当該用途の画像処理を行うことができる。つまり、従来の焦点調整レンズでは、移動速度が遅いため画像フレームごとに焦点を変化させる必要があり、そのため、シャッタボタンの半押しなどにより焦点調整のシーケンスを実行する場合は、焦点確認ポイント数ぶんの画像フレームの取得時間が必要となる。しかしながら、焦点距離を素早く変化させることができる液体レンズを用いることによって、第1管理情報に基づいて、例えば、所定の被写体追跡用焦点距離で所定の被写体を追跡する被写体追跡処理を行うことができるとともに、その裏で(時分割で並行して)、第2管理情報に基づいて所定の被写体検出用焦点距離で所定の被写体を検出する被写体検出処理を行うことができる。このように、焦点距離の異なる画像処理の複数の用途の処理を順次実行しながら撮像を継続することができる。
また、被写体として人物の顔を追跡中に、当該顔の個人よりも液体レンズの第2焦点距離で撮影された画像フレーム内から検出された新たな顔の個人の優先度が高い場合に、新たな顔を追跡対象に切り替えるので、現に追跡中の被写体としての顔を見失わないように焦点を合わせつつ、異なる距離に存在し、且つ、より優先度の高い他の顔にも焦点を合わせて検出することができる。これによって、人物のうち、より優先度の高い人物の顔を追跡対象とすることができる。
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、上記実施形態では、優先度登録テーブル6cに登録されている人物A、Bの優先度に応じて被写体追跡処理の追跡対象を切り替えるようにしたが、これに限られるものではなく、追跡対象として人以外の物体を追跡中に、画像内から人の顔が検出された場合に、新たに検出された顔を追跡対象に切り替えるようにしても良い。
従って、建物などの背景物体に焦点が合っている状態のときに、急に撮影フレーム内に人物が入ってきたような場合でも、建物などの背景物体に焦点を合わせつつ、人物を検出することができる。これによって、物体よりも優先度の高い人物の顔を追跡対象とすることができる。
なお、第1画像に基づく画像処理の裏で行われる第2画像の取得動作は、一定時間毎に(短時間で)繰り返し行うようにしてもよいし、間欠的に(非定期に)行うようにしてもよい。
ここで、第2画像の取得を一定時間毎に繰り返し行う場合には、取得された複数の第2画像間のコントラストを比較することによりコンティニュアスな焦点調整処理や顔検出処理等の画像処理を裏で実行するようにしてもよい。また、第2画像の取得を間欠的に行う場合には、裏でコンティニュアスな処理を実行することなく、第1画像と第2画像のコントラスト比較によって、ダイレクトに焦点調整処理を実行するようにしてもよい。
また、上記実施形態では、電子撮像部1bをCMOSイメージセンサから構成するようにしたが、CCDイメージセンサから構成しても良く、この場合にあっては、第2画像の表示タイミングで表示部8に表示される画像を当該第2画像の前後の第1画像から補間生成することで、表示画像のフレームレートが低下することを防止することができる。
さらに、上記実施形態では、焦点調整テーブル6bの管理情報として、第1管理情報及び第2管理情報を例示したが、管理情報の数はこれに限られるものではない。即ち、管理情報は、複数であれば任意であり、3つ以上記憶されていても良い。
加えて、上記実施形態にあっては、切替手段、可変手段、画像処理手段としての機能を、CPU11の制御下にて、撮像制御部2の電圧制御部2a、画像処理部5が駆動することにより実現される構成としたが、これに限られるものではなく、CPU11によって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、切替処理ルーチン、可変処理ルーチン、画像処理ルーチンを含むプログラムを記憶しておく。そして、切替処理ルーチンによりCPU11に、複数の管理情報に従って撮像手段による撮像の際のレンズの複数の焦点距離を所定の切替周期で切り替えさせるようにしても良い。また、可変処理ルーチンによりCPU11に、切替手段により切り替えられたレンズの焦点距離の各々を当該各焦点距離の管理情報と対応付けて記憶されている各用途に応じた所定の可変条件に従って可変させるようにしても良い。また、画像処理ルーチンによりCPU11に、撮像手段により撮像された複数の画像に対して、当該各画像を撮像した際のレンズの焦点距離の管理情報と対応付けて記憶されている各用途の画像処理を施させるようにしても良い。
100 撮像装置
1 撮像部
1a レンズ部
1b 電子撮像部
2 撮像制御部
2a 電圧制御部
5 画像処理部
5a 顔検出部
5b 被写体追跡部
5c 人物認識部
5d 変更部
6 情報管理部
6a 変更制御部
6b 焦点調整テーブル
6c 優先度登録テーブル
8 表示部
11 CPU

Claims (11)

  1. レンズの焦点距離を変えて撮像する撮像手段と、
    この撮像手段による撮像において被写体を検出または追跡する際のレンズの焦点距離を管理する管理情報であって、レンズの焦点距離および焦点距離の可変条件を含む管理情報を、複数の異なる画像処理の用途の各々に対応させて複数記憶する管理手段と、
    前記複数の管理情報の各々により管理されるレンズの焦点距離を、各々の管理情報に対応する焦点距離の可変条件に従って別々に変化させる可変手段と、
    前記複数の管理情報を所定の切替周期で切り替えながら、前記可変手段によって変化している各管理情報が示す焦点距離に従って、前記撮像手段による撮像の際のレンズの焦点距離を所定の切替周期で切り替える切替処理を繰り返し実行する切替手段と、
    を備えたことを特徴とする撮像装置。
  2. 前記管理手段は、新たな被写体を検出する検出処理と、既に検出済みの被写体を追跡する被写体追跡処理とを含む用途の異なる複数の画像処理の各々に対応させて、前記撮像手段による撮像の際のレンズの焦点距離を管理する管理情報を複数記憶し、
    前記可変手段は、前記複数の管理情報の各々により管理されるレンズの焦点距離を、各管理情報に対応する前記検出処理および前記被写体追跡処理の各々に応じた所定の可変条件に従って可変させ、
    更に、前記撮像手段により撮像された複数の画像に対して、当該各画像の撮像の際のレンズの焦点距離の決定に用いた管理情報に対応する前記検出処理または前記被写体追跡処理のいずれかの画像処理を交互に施す画像処理手段を備えたことを特徴とする請求項1に記載の撮像装置。
  3. 前記被写体追跡処理は、第1焦点距離で撮影された画像内の一の被写体を追跡対象として追跡し、前記検出処理は、第2焦点距離で撮影された画像内から前記一の被写体と異なる新たな被写体を検出し、
    前記追跡対象となる被写体毎に優先度を対応付けて記憶する優先度記憶手段と、
    前記一の被写体を追跡中に、当該一の被写体よりも前記第2焦点距離で撮影された画像内から検出された新たな被写体の優先度が高い場合に、前記新たな被写体を追跡対象に変更する変更手段と、を更に備えることを特徴とする請求項2に記載の撮像装置。
  4. 前記検出処理は、画像内から人の顔を検出する顔検出処理であり、
    前記変更手段は、更に、
    前記追跡対象として顔以外の被写体を追跡中に、画像内から顔が検出された場合に、新たに検出された顔を追跡対象に切り替えることを特徴とする請求項3に記載の撮像装置。
  5. 人物毎に優先度を対応付けて登録する人物登録手段を更に備え、
    前記検出処理は、画像内から検出される顔の個人を特定する個人認識処理であり、
    前記変更手段は、更に、
    前記追跡対象として顔を追跡中に、前記人物登録手段に登録されている人物の中で当該追跡対象の顔の人物よりも優先度の高い人物の顔が新たに検出された場合に、前記新たな顔を追跡対象に切り替えることを特徴とする請求項4に記載の撮像装置。
  6. 前記複数の管理情報の各々に対応する画像処理の用途を個別に設定する用途設定手段を更に備えることを特徴とする請求項2〜5の何れか一項に記載の撮像装置。
  7. 前記複数の管理情報の各々に対応する焦点距離の可変条件を個別に設定する条件設定手段を更に備えることを特徴とする請求項2〜6の何れか一項に記載の撮像装置。
  8. 前記所定の切替周期を設定する周期設定手段を更に備えることを特徴とする請求項2〜7の何れか一項に記載の撮像装置。
  9. 前記所定の切替周期を、各画像フレーム毎か、或いは、画像フレームを構成する複数の画素からなる所定方向の各ライン毎かを選択して指定する指定手段を備えることを特徴とする請求項2〜8の何れか一項に記載の撮像装置。
  10. レンズの焦点距離を変えて撮像する撮像手段と、この撮像手段による撮像において被写体を検出または追跡する際のレンズの焦点距離を管理する管理情報であって、レンズの焦点距離および焦点距離の可変条件を含む管理情報を、複数の異なる画像処理の用途の各々に対応させて複数記憶する管理手段と、を備える撮像装置に、
    前記複数の管理情報の各々により管理されるレンズの焦点距離を、各々の管理情報に対応する焦点距離の可変条件に従って別々に変化させる処理と、
    前記複数の管理情報を所定の切替周期で切り替えながら、前記可変手段によって変化している各管理情報が示す焦点距離に従って、前記撮像手段による撮像の際のレンズの焦点距離を所定の切替周期で切り替える切替処理を繰り返し実行する処理と、
    を実行させることを特徴とする撮像方法。
  11. 撮像装置のコンピュータを、
    レンズの焦点距離を変えて撮像する撮像手段と、
    この撮像手段による撮像において被写体を検出または追跡する際のレンズの焦点距離を管理する管理情報であって、レンズの焦点距離および焦点距離の可変条件を含む管理情報を、複数の異なる画像処理の用途の各々に対応させて複数記憶する管理手段と、
    前記複数の管理情報の各々により管理されるレンズの焦点距離を、各々の管理情報に対応する焦点距離の可変条件に従って別々に変化させる可変手段と、
    前記複数の管理情報を所定の切替周期で切り替えながら、前記可変手段によって変化している各管理情報が示す焦点距離に従って、前記撮像手段による撮像の際のレンズの焦点距離を所定の切替周期で切り替える切替処理を繰り返し実行する切替手段と、
    としての機能させることを特徴とするプログラム。
JP2009103715A 2009-04-22 2009-04-22 撮像装置、撮像方法及びプログラム Expired - Fee Related JP4784678B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009103715A JP4784678B2 (ja) 2009-04-22 2009-04-22 撮像装置、撮像方法及びプログラム
US12/761,695 US8456567B2 (en) 2009-04-22 2010-04-16 Imaging apparatus, imaging method, and computer-readable storage medium storing program therein
CN2010101700756A CN101873431B (zh) 2009-04-22 2010-04-21 摄像装置及摄像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009103715A JP4784678B2 (ja) 2009-04-22 2009-04-22 撮像装置、撮像方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2010258552A JP2010258552A (ja) 2010-11-11
JP2010258552A5 JP2010258552A5 (ja) 2010-12-24
JP4784678B2 true JP4784678B2 (ja) 2011-10-05

Family

ID=42991814

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009103715A Expired - Fee Related JP4784678B2 (ja) 2009-04-22 2009-04-22 撮像装置、撮像方法及びプログラム

Country Status (3)

Country Link
US (1) US8456567B2 (ja)
JP (1) JP4784678B2 (ja)
CN (1) CN101873431B (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5594083B2 (ja) 2010-11-19 2014-09-24 ソニー株式会社 光ファイバアダプタ及びレーザ装置
CN103222258B (zh) * 2010-12-01 2016-06-08 日本电气株式会社 移动终端、图像处理的方法
US9389774B2 (en) * 2010-12-01 2016-07-12 Sony Corporation Display processing apparatus for performing image magnification based on face detection
US8830378B2 (en) * 2011-03-29 2014-09-09 Olympus Corporation Image capturing system and image capturing method, involving image restoration processing
US20130169971A1 (en) * 2011-11-23 2013-07-04 Wasatch Photonics, Inc. Oct imaging system for curved samples
WO2013089662A1 (en) * 2011-12-12 2013-06-20 Intel Corporation Scene segmentation using pre-capture image motion
CN103905717B (zh) * 2012-12-27 2018-07-06 联想(北京)有限公司 一种切换方法、装置及电子设备
KR20140102443A (ko) * 2013-02-14 2014-08-22 삼성전자주식회사 카메라를 이용한 물체 추적 방법 및 이를 위한 카메라 시스템
JP6634298B2 (ja) * 2016-01-23 2020-01-22 オリンパス株式会社 撮像装置および撮像方法
US10534185B1 (en) * 2017-02-14 2020-01-14 Facebook Technologies, Llc Multi-planar display with waveguide and lens stacks
US10895746B1 (en) 2017-08-07 2021-01-19 Facebook Technologies, Llc Expanding field-of-view in direct projection augmented reality and virtual reality systems
US10534209B1 (en) 2017-08-21 2020-01-14 Facebook Technologies, Llc Liquid crystal structure for controlling brightness uniformity in a waveguide display
CN109155067A (zh) * 2018-01-23 2019-01-04 深圳市大疆创新科技有限公司 可移动平台的控制方法、设备、计算机可读存储介质
US10613332B1 (en) 2018-02-15 2020-04-07 Facebook Technologies, Llc Near-eye display assembly with enhanced display resolution
EP3992899A4 (en) * 2019-06-25 2022-06-22 NEC Corporation IRIS RECOGNITION DEVICE AND METHOD, COMPUTER PROGRAM, AND RECORDING MEDIA
JP7355213B2 (ja) 2020-02-28 2023-10-03 日本電気株式会社 画像取得装置、画像取得方法および画像処理装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3915265B2 (ja) * 1998-08-18 2007-05-16 カシオ計算機株式会社 ズーム機能付きカメラ
JP3732665B2 (ja) 1998-12-22 2006-01-05 株式会社リコー 自動焦点制御装置及びその合焦動作決定方法
JP2001257928A (ja) 2000-03-09 2001-09-21 Technosonic:Kk 被写体追尾装置
JP3914060B2 (ja) * 2002-02-08 2007-05-16 富士フイルム株式会社 合焦装置
JP2004289779A (ja) 2003-03-06 2004-10-14 Chuo Electronics Co Ltd 移動体撮像方法、移動体撮像システム
KR101156115B1 (ko) * 2005-05-18 2012-06-21 삼성전자주식회사 디지털 영상 처리 장치의 제어 방법
CN101375590B (zh) * 2006-02-15 2010-12-22 松下电器产业株式会社 摄影装置以及摄影方法
EP1995619B1 (en) * 2006-03-13 2014-05-14 Citizen Holdings Co., Ltd. Automatic focusing apparatus and optical element
US7657171B2 (en) * 2006-06-29 2010-02-02 Scenera Technologies, Llc Method and system for providing background blurring when capturing an image using an image capture device
JP4571617B2 (ja) * 2006-12-28 2010-10-27 三星デジタルイメージング株式会社 撮像装置及び撮像方法
JP2008301162A (ja) 2007-05-31 2008-12-11 Fujifilm Corp 撮影装置、及び撮影方法
JP5064926B2 (ja) * 2007-08-02 2012-10-31 キヤノン株式会社 撮像装置及びその制御方法

Also Published As

Publication number Publication date
JP2010258552A (ja) 2010-11-11
US8456567B2 (en) 2013-06-04
CN101873431A (zh) 2010-10-27
CN101873431B (zh) 2012-10-10
US20100271537A1 (en) 2010-10-28

Similar Documents

Publication Publication Date Title
JP4784678B2 (ja) 撮像装置、撮像方法及びプログラム
US7787762B2 (en) Image photographing apparatus, image photographing method, and computer program
JP4732303B2 (ja) 撮像装置
JP5950678B2 (ja) 撮像装置、制御方法、及びプログラム
JP2008109336A (ja) 画像処理装置および撮像装置
US20120257007A1 (en) Image processing device capable of generating wide-range image
JP2011155396A (ja) 撮像装置
KR20140031804A (ko) 촬상 장치, 촬상 방법 및 기록 매체
JP2009213114A (ja) 撮像装置及びプログラム
JP2002027312A (ja) 撮像装置
JP5407373B2 (ja) 撮影装置、及びプログラム
JP4953770B2 (ja) 撮像装置
JP4748375B2 (ja) 撮像装置、画像再生装置及びそのプログラム
JP2011066827A (ja) 画像処理装置、画像処理方法及びプログラム
JP6693071B2 (ja) 撮像装置、撮像制御方法及びプログラム
JP6024135B2 (ja) 被写体追尾表示制御装置、被写体追尾表示制御方法およびプログラム
JP4534250B2 (ja) 動画撮像装置及びそのプログラム
JP2020115679A (ja) 物体検出装置、検出制御方法及びプログラム
JP2010062825A (ja) 撮像装置および撮像制御方法
JP5644180B2 (ja) 撮像装置、撮像方法及びプログラム
JP2018151415A (ja) 撮像装置、撮像装置の制御方法、及びプログラム
JP2009194469A (ja) 撮像装置
JP5051084B2 (ja) 撮像装置、撮影方法及びプログラム
JP5471004B2 (ja) 焦点調整装置、焦点調整方法及びプログラム
JP6486132B2 (ja) 撮像装置およびその制御方法、並びにプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100902

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100902

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100902

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110530

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110614

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110627

R150 Certificate of patent or registration of utility model

Ref document number: 4784678

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140722

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees