JP5612774B2 - 追尾枠の初期位置設定装置およびその動作制御方法 - Google Patents

追尾枠の初期位置設定装置およびその動作制御方法 Download PDF

Info

Publication number
JP5612774B2
JP5612774B2 JP2013536096A JP2013536096A JP5612774B2 JP 5612774 B2 JP5612774 B2 JP 5612774B2 JP 2013536096 A JP2013536096 A JP 2013536096A JP 2013536096 A JP2013536096 A JP 2013536096A JP 5612774 B2 JP5612774 B2 JP 5612774B2
Authority
JP
Japan
Prior art keywords
image
tracking
initial position
frame
frequency component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013536096A
Other languages
English (en)
Other versions
JPWO2013047066A1 (ja
Inventor
秀昭 國分
秀昭 國分
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2013536096A priority Critical patent/JP5612774B2/ja
Application granted granted Critical
Publication of JP5612774B2 publication Critical patent/JP5612774B2/ja
Publication of JPWO2013047066A1 publication Critical patent/JPWO2013047066A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Analysis (AREA)

Description

この発明は,ターゲット画像の自動追尾装置における追尾枠の初期位置設定装置およびその動作制御方法に関する。
ディジタル・カメラ(ディジタル・スチル・カメラ,ディジタル・ムービ・ビデオ・カメラ,ディジタル・カメラを備えた携帯電話を含む)には,ターゲット画像を追尾するものがある。たとえば,表示画面内に複数のウインドウを設定し,ウインドウごとに測距を行い,測距値にもとづいて追尾するもの(特許文献1),今回撮影された画像と前回撮影された画像とを比較して追尾対象を検出するもの(特許文献2),追尾する対象被写体の画像を基準パターン画像として取り込む範囲の大きさを,距離,撮影レンズの焦点距離などに応じて変更することにより追尾を行うもの(特許文献3)などがある。
ターゲット画像を追尾する場合,ターゲット画像を設定する必要がある。ターゲット画像の設定はユーザがターゲット画像を指定することにより行うことが多い。しかしながら,特徴がなく追尾しづらいターゲット画像を指定してしまうと,追尾が難しくなる。このために,追尾枠の初期位置を決定するものもある(特許文献4)。
特開平5-52562号公報 特開2005-114588号公報 特開2006-184742号公報 特開2011-160062号公報
特許文献1に記載のものでは,追尾用ウインドウを設定するときには,必ず近距離のものが選ばれるため,ターゲットよりも手前に物体がある場合には追尾できない。特許文献2に記載のものでは,中央が手前に突出している物体を想定しているので,そのような物体以外のものは追尾対象から外れやすい。特許文献3に記載のものでは,追尾対象の設定はユーザに任せられているので,特徴の無い部分をユーザがターゲットに設定した場合には追尾できないことがある。さらに,特許文献4に記載のものでは,追尾枠初期位置設定対象領域内で追尾枠の初期位置が決定されるが,その対象領域が大きい場合には追尾枠の初期位置を決定するのに必要な時間がかかってしまう。
この発明は,ターゲット画像を追尾しやすいように追尾枠の初期位置を決定する場合に,比較的短時間で決定できるようにすることを目的とする。
この発明は,連続して被写体を撮像して得られる被写体像に含まれる追尾対象のターゲット画像を特定する追尾枠の初期位置設定装置において,撮像により得られた被写体像を表示する表示装置,撮像範囲に含まれる被写体までの距離または距離に相当する値である距離値を表わす距離情報を生成する距離情報生成手段,追尾対象のターゲット画像を決定する追尾対象決定手段,および撮像により得られた被写体像のうち,上記追尾対象決定手段により決定された追尾対象のターゲット画像によって表わされる被写体までの距離値と同じ距離値(実質的に同じ距離と見なせればよい)の被写体を表わす画像部分において所定の領域ごとに高周波数成分の量を算出し,算出された高周波数成分の量が所定のしきい値以上または最大となる領域の位置を追尾枠の初期位置と決定する決定手段を備えていることを特徴とする。
この発明は,上記追尾枠の初期位置設定装置に適した動作制御方法も提供している。すなわち,この方法は,連続して被写体を撮像して得られる被写体像に含まれる追尾対象のターゲット画像を特定する追尾枠の初期位置設定装置の動作制御方法において,表示装置が,撮像により得られた被写体像を表示し,距離情報生成手段が,撮像範囲に含まれる被写体までの距離または距離に相当する値である距離値を表わす距離情報を生成し,追尾対象決定手段が,追尾対象のターゲット画像を決定し,決定手段が,撮像により得られた被写体像のうち,上記追尾対象決定手段により決定された追尾対象のターゲット画像によって表わされる被写体までの距離値と同じ距離値の被写体を表わす画像部分において所定の領域ごとに高周波数成分の量を算出し,算出された高周波数成分の量が所定のしきい値以上または最大となる領域の位置を追尾枠の初期位置と決定するものである。
この発明によると,連続して被写体が撮像され,撮像範囲に含まれる被写体までの距離を表わす距離画像が生成される。撮像により得られた被写体像のうち,決定された追尾対象のターゲット画像と同距離の画像部分において移動枠を移動し,移動ごとに移動枠内の画像の高周波数成分の量が算出される。算出された高周波数成分が所定のしきい値以上または最大となる移動枠の位置が追尾枠の初期位置と決定される。高周波数成分量がしきい値以上または最大となるような移動枠の位置の画像はエッジ成分が多く追尾しやすい。そのような位置が追尾枠の初期位置となるので追尾が比較的容易となる。しかも,決定された追尾対象のターゲット画像と同距離の画像部分という比較的狭い領域において,移動枠が移動するから,追尾枠の初期位置が決定するまでに必要な時間が短くて済む。画像の境界部分は高周波数成分が多くなるが,同距離の画像部分で移動枠を移動するので境界部分の高周波数成分が算出されてしまうおそれもない。
上記距離情報生成手段は,たとえば,異なる視点からの被写体を表わす二つの被写体像間において対応する画素同士の水平方向のずれ量から得られる距離画像を距離情報として生成するものである。
撮像により得られた被写体像のうち,上記追尾対象決定手段により決定された追尾対象のターゲット画像によって表わされる被写体までの距離値と同じ距離値の被写体を表わす画像部分において移動ごとに枠内の画像の高周波数成分の量が算出される移動枠を移動し,移動枠の移動ごとに移動枠内の画像の高周波数成分の量を算出する特定周波数成分量算出手段をさらに備えてもよい。この場合,上記決定手段は,たとえば,上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定するものとなろう。
上記追尾対象決定手段は,たとえば,ユーザによる指定された画像または上記距離情報生成手段により生成された距離情報において同じ距離値を表す画像部分のうち最大領域の画像,撮像範囲の中心を含む領域の画像もしくはもっとも手前の被写体を表わす領域の画像を追尾対象のターゲット画像と決定するものである。
上記連続して被写体を撮像して得られる被写体像は,たとえば,カラー画像である。この場合,上記所定の領域ごとに所定の色成分の成分量を算出する色成分量算出手段を備え,上記決定手段は,たとえば,上記色成分量算出手段によって算出された成分量が所定のしきい値以上または最大となる領域の位置を初期位置と決定するものである。
上記決定手段において算出された高周波数成分量が所定のしきい値以上とならないことに応じて,所定の領域の大きさを大きくして上記高周波数成分量の算出を行うように上記決定手段を制御する第1の制御手段をさらに備えてもよい。
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,所定の領域の大きさを大きくして上記色成分量算出処理を行うように上記色成分量算出手段を制御する第1の制御手段をさらに備えてもよい。
所定の領域の拡大指令を与える拡大指令手段をさらに備えてもよい。この場合,上記第1の制御手段は,たとえば,上記拡大指令手段から拡大指令が与えられており,かつ上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,所定の領域を大きくして上記高周波数成分量の算出を行うように上記決定手段を制御するものとなろう。
所定の領域の拡大指令を与える拡大指令手段をさらに備えてもよい。この場合,上記第1の制御手段は,たとえば,上記拡大指令手段から拡大指令が与えられており,かつ上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,所定の領域を大きくして上記色成分量算出処理を行うように上記色周波数成分量算出手段を制御するものとなろう。
所定の領域の拡大率を設定する拡大率設定手段をさらに備えてもよい。この場合,上記第1の制御手段は,たとえば,上記決定手段において算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって所定の領域を大きくして,上記高周波数成分量の算出を行うように上記決定手段を制御するものである。
所定の領域の拡大率を設定する拡大率設定手段をさらに備えてもよい。この場合,上記第1の制御手段は,たとえば,上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって所定の領域を大きくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御するものである。
上記決定手段において算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記被写体像を小さくして,上記高周波数成分量の算出を行うように上記決定手段を制御する第2の制御手段をさらに備えてもよい。
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記被写体像を小さくして,上記色成分量算出処理を行うように上記色成分量算出手段を制御する第3の制御手段をさらに備えてもよい。
上記決定手段において算出された高周波数成分量が所定のしきい値以上とならないことに応じて,エラーを報知する第1の報知手段をさらに備えてもよい。
上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,エラーを報知する第2の報知手段をさらに備えてもよい。
上記第1の報知手段は,たとえば,音声出力または移動枠の表示形態の変更によりエラーを報知するものである。また,上記第1の報知手段は,たとえば,移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更によりエラーを報知するものである。
上記第2の報知手段は,たとえば,音声出力または移動枠の表示形態の変更によりエラーを報知するものである。また,上記第2の報知手段は,たとえば,移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更によりエラーを報知するものである。
所定の領域よりも大きく,かつ上記被写体像以下の大きさである対象領域を設定する対象領域設定手段をさらに備えてもよい。この場合,上記追尾対象決定手段は,たとえば,上記対象領域設定手段により設定された対象領域内の追尾対象のターゲット画像を決定するものである。
上記対象領域設定手段は,たとえば,上記被写体像の中心が対象領域の中心と一致するように対象領域を上記被写体像に設定するものであり,上記特定周波数成分量算出手段は,たとえば,上記移動枠を上記対象領域の中心から外側に移動し,移動したごとに移動枠内の画像の高周波数成分量を算出するものである。
上記対象領域設定手段は,たとえば,上記被写体像の中心が対象領域の中心と一致するように対象領域を上記被写体像に設定するものであり,上記色成分量算出手段は,たとえば,上記移動枠を上記基準位置から外側に移動し,移動したごとに移動枠内の画像の所定の色成分の成分量を算出するものである。
上記特定周波数成分量算出手段は,たとえば,上記移動枠を移動し,移動したごとに移動枠内の画像の低周波数成分量または高周波数成分を除いた中間周波数成分量を算出するものであり,上記決定手段は,たとえば,上記特定周波数成分量算出手段によって算出された低周波数成分量または中間周波数成分量が所定のしきい値以上となる移動枠の位置を追尾枠の初期位置と決定するものである。
上記被写体像を表す画像データにノイズ低減処理を行うノイズ低減処理手段をさらに備えてもよい。この場合,上記ノイズ低減処理手段によってノイズ低減処理された画像データによって表される上記被写体像について上記決定手段による処理を行うこととなろう。
上記被写体像を表す画像データに偽色または偽信号低減処理を行う信号処理手段をさらに備えてもよい。この場合,上記信号処理手段によって偽色または偽信号低減処理された画像データによって表される上記被写体像について上記決定手段による処理を行うものとなろう。
追尾枠の初期位置の決定処理を停止する指令を与える停止指令手段をさらに備えてもよい。この場合,上記停止指令手段から停止する指令が与えられたことに応じて,上記決定手段による処理を停止して,上記基準位置を追尾枠の初期位置と決定するものとなろう。
上記特定周波数成分量算出手段は,たとえば,撮像により得られた被写体像のうち,上記追尾対象決定手段により決定された追尾対象のターゲット画像と同じ距離値の画像部分が含まれる割合が枠内の所定の割合以上を占めるように移動枠を移動し,移動ごとに移動枠内の画像の高周波数成分の量を算出するものである。
最大値優先設定モードまたは中央優先設定モードを設定するモード設定手段をさらに備えてもよい。この場合,上記モード設定手段による最大値優先設定モードが設定されたことに応じて,上記決定手段は,上記特定周波数成分量算出手段によって算出された高周波数成分量が最大となる移動枠の位置を追尾枠の初期位置と決定し,上記モード設定手段により中央優先設定モードが設定されたことに応じて,上記周波数成分量算出手段は,上記被写体像の中心から外側方向に向かって上記移動枠を移動し,移動ごとに移動枠内の画像の高周波数成分の量を算出するものであり,算出された高周波数成分量が所定しきい値以上となったことに応じて移動枠の移動を停止するものとなろう。
撮像により得られる被写体像のうち,上記決定手段によって決定された位置の追尾枠内の画像部分が表わす被写体までの距離と同じ距離値にある画像部分において追尾枠内の画像部分と同じ画像部分に追尾枠を移動する追尾手段をさらに備えてもよい。
上記追尾対象決定手段によって決定した位置に追尾枠を表示するように上記表示装置を制御する第1の表示制御手段をさらに備えてもよい。
上記決定手段により決定された追尾枠の初期位置と上記追尾対象決定手段によって決定した位置との位置ずれ量を表わすオフセット量を算出するオフセット量算出手段,および
上記追尾手段による追尾において用いられる追尾枠から上記オフセット量算出手段によって算出されたオフセット量分ずれた位置に表示枠を表示するように上記表示装置を制御する第2の表示制御手段をさらに備えてもよい。
ディジタル・スチル・カメラの電気的構成を示すブロック図である。 追尾枠の初期位置設定処理手順を示すフローチャートである。 被写体像の一例である。 被写体像の一例である。 被写体像の一例である。 距離画像の一例である。 被写体像の一例である。 被写体像の一例である。 被写体像の一部を示している。 被写体像の一部を示している。 左視点画像および右視点画像をそれぞれ表わしている。 追尾枠の初期位置設定処理手順を示すフローチャートである。 色成分ヒストグラムの一例である。 色成分ヒストグラムの一例である。 色成分ヒストグラムの一例である。 追尾枠の初期位置設定処理手順を示すフローチャートである。 追尾枠の初期位置設定メニュー画像の一例である。 追尾枠の初期位置設定処理手順を示すフローチャートである。 被写体像の一例である。 被写体像の一例である。 被写体像の一例である。 追尾枠の初期位置設定処理手順を示すフローチャートである。 追尾枠の初期位置設定方法メニュー画像の一例である。 追尾枠の初期位置設定処理手順を示すフローチャートである。 追尾枠拡大メニュー画像の一例である。 追尾枠の初期位置設定処理手順を示すフローチャートである。 追尾枠の初期位置設定処理手順を示すフローチャートである。 被写体像の一例である。 追尾枠の初期位置設定処理手順を示すフローチャートである。 追尾枠の初期位置設定処理手順を示すフローチャートである。 被写体像の一例である。 高周波数成分量算出処理手順を示すフローチャートである。 移動枠が移動する様子を示している。 RGB色空間を示している。 画素の分布の様子を示している。 自動追尾処理手順を示すフローチャートである。 自動追尾処理手順を示すフローチャートである。 被写体像の一例である。 テンプレート画像および距離情報の一例である。 被写体像の一例である。 追尾枠の初期位置設定処理手順を示すフローチャートである。 追尾枠の初期位置設定処理手順を示すフローチャートである。 被写体像の一例である。 自動追尾処理手順の一部を示すフローチャートである。
図1は,この発明の実施例を示すもので,ディジタル・スチル・カメラの電気的構成を示すブロック図である。ディジタル・スチル・カメラに限らず,ディジタル・ムービ・ビデオ・カメラにも,この発明の実施例を適用できるのはいうまでもない。
この実施例によるディジタル・スチル・カメラは,いわゆる複眼ディジタル・スチル・カメラであり,右目で見る右視点画像を撮像する第1の撮像装置10Rと左目で見る左視点画像を撮像する第2の撮像装置10Lとが含まれている。この実施例においては,詳しくは後述するように,右視点画像と左視点画像とから被写体までの距離を表わす距離画像が生成される。距離画像を利用して,所望の被写体を追尾する追尾枠の初期位置が決定される。もっとも距離画像が生成されればよいので,必ずしも複眼ディジタル・スチル・カメラを利用せずに,一つの撮像装置が含まれている,いわゆる単眼ディジタル・スチル・カメラを利用するようにしてもよい。
ディジタル・スチル・カメラの全体の動作は,CPU1によって統括される。
ディジタル・スチル・カメラには,操作器2が含まれている。この操作器2には,電源ボタン,モード設定ダイアル,二段ストローク・タイプのシャッタ・レリーズ・ボタンなどが含まれている。操作器2から出力される操作信号は,CPU1に入力する。モード設定ダイアルによって設定されるモードには撮像モード,再生モードなどがある。
上述したように,ディジタル・スチル・カメラには,第1の撮像装置10Rと第2の撮像装置10Lとが含まれている。
第1の撮像装置10Rには,右目視点で撮像する第1のCCD15Rが含まれている。この第1のCCD15Rの前方には,第1の撮像レンズ11R,第1の絞り12R,第1の赤外線カット・フィルタ13Rおよび第1の光学的ロウ・パス・フィルタ14Rが設けられている。第1のレンズ駆動回路5Rによって第1の撮像レンズ11Rが位置決めされ,第1の絞り駆動回路4Rによって第1の絞り12Rの開口が制御される。また,第1のCCD15Rは,第1の撮像素子制御回路3Rによって駆動する。
撮像モードが設定されると,被写体像を表す光線束は,第1の撮像レンズ11Rによって集光され,第1の絞り12R,第1の赤外線カット・フィルタ13Rおよび第1の光学的ロウ・パス・フィルタ14Rを介して第1のCCD15Rの受光面上に入射する。第1のCCD15Rの受光面上に被写体像が結像し,右目視点の被写体像を表すアナログ映像信号が第1のCCD15Rから出力する。このように,第1のCCD15Rによって一定周期で被写体が撮像され,一定周期で被写体像を表す映像信号が1フレーム分ずつ第1のCCD15Rから出力される。
第1のアナログ信号処理装置16Rには,相関二重サンプリング回路,信号増幅回路などが含まれている。第1のCCD15Rから出力されたアナログ映像信号は,第1のアナログ信号処理装置16Rに入力し,相関二重サンプリング,信号増幅などが行われる。第1のアナログ信号処理回路16Rから出力されたアナログ映像信号は,第1のアナログ/ディジタル変換回路18Rに入力し,右目視点のディジタル画像データに変換される。変換されたディジタル画像データは,メモリ制御回路19の制御のもとにメイン・メモリ20に一時的に記憶される。
第2の撮像装置10Lには,左目視点で撮像する第2のCCD15Lが含まれている。この第2のCCD15Lの前方には,第2の撮像レンズ11L,第2の絞り12L,第2の赤外線カット・フィルタ13Lおよび第2の光学的ロウ・パス・フィルタ14Lが設けられている。第2のレンズ駆動回路5Lによって第2の撮像レンズ11Lが位置決めされ,第2の絞り駆動回路4Lによって第2の絞り12Lの開口が制御される。また,第2のCCD15Lは,第2の撮像素子制御回路3Lによって駆動する。
撮像モードが設定されると,第1の撮像装置10Rと同様に,第2のCCD15Lの受光面上に被写体像が結像し,左目視点の被写体像を表すアナログ映像信号が第2のCCD15Lから出力する。このように,第2のCCD15Lによって一定周期で被写体が撮像され,一定周期で被写体像を表す映像信号が1フレーム分ずつ第2のCCD15Lから出力される。
第2のCCD15Lから出力されたアナログ映像信号は,第2のアナログ信号処理装置16Lに入力し,相関二重サンプリング,信号増幅などが行われる。第2のアナログ信号処理回路16Lから出力されたアナログ映像信号は,第2のアナログ/ディジタル変換回路18Lに入力し,左目視点のディジタル画像データに変換される。変換されたディジタル画像データは,メモリ制御回路19の制御のもとにメイン・メモリ20に一時的に記憶される。
右目視点の画像データおよび左目視点の画像データは,それぞれメイン・メモリ20から読み出されてディジタル信号処理回路21に入力する。ディジタル信号処理回路21おいて白バランス調整,ガンマ補正などの所定のディジタル信号処理が行われる。ディジタル信号処理回路21においてディジタル信号処理が行われた画像データは,表示制御回路26に与えられる。表示制御回路26によって表示装置27が制御されることにより,表示装置27の表示画面上に撮像により得られた被写体像が立体視表示される。もっとも,表示装置27の表示画面には,立体視画像を表示せずに右目視点画像または左目視点画像のいずれかが表示されるようにしてもよい。
シャッタ・レリーズ・ボタンの第一段階の押下があると,上述のようにして第1のアナログ/ディジタル変換回路18Rおよび第2のアナログ/ディジタル変換回路18Lから出力された右目視点画像データおよび左目視点画像データのうち,いずれか一方の画像データ(両方の画像データでもよい)は,メイン・メモリ20に記録される。メイン・メモリ20から読み出された画像データは,ディジタル信号処理回路21において輝度データに変換される。変換された輝度データが積算回路23に入力し,積算される。積算値を表すデータがCPU1に与えられ,露出量が算出される。算出された露出量となるように,絞り12の開口およびCCD15のシャッタ速度が制御される。
シャッタ・レリーズ・ボタンの第二段階の押下があると,同様にして第1のアナログ/ディジタル変換回路18Rおよび第2のアナログ/ディジタル変換回路18Lから出力された右目視点画像データおよび左目視点画像データは,いずれもメイン・メモリ20に記録される。メイン・メモリ20から読み出された右目視点画像データおよび左目視点画像データは,上述したのと同様に,ディジタル信号処理回路21において所定のディジタル信号処理が行われる。ディジタル信号処理回路21から出力された右目視点画像データおよび左目視点画像データは,圧縮伸長処理回路22においてデータ圧縮が行われる。データ圧縮された左目視点画像データおよび右目視点画像データが外部メモリ制御回路24の制御によりメモリ・カード25に記録される。
さらに,この実施例では,被写体像に含まれるターゲット画像について自動追尾することができる。自動追尾により,撮像により連続して得られる被写体像(動画)に含まれるターゲット画像に枠(追尾枠)を表示しつづけることができる。特定の人物を見失うことなく,撮像を繰り返すことができる。また,そのターゲット画像が適正な明るさとなるように露光調整,そのターゲット画像が合焦するような焦点調整ができる。
ターゲット画像を追尾する場合,ターゲット画像を設定する必要がある(初期ターゲット設定)。この実施例では,ユーザによってターゲット画像の部分が指定されると,その指定された部分近傍のうち,追尾しやすい部分をターゲット画像として追尾枠が決定される。追尾が比較的容易となる。
追尾枠の初期位置を決定するために,ディジタル・スチル・カメラには初期ターゲット設定装置28が含まれている。初期ターゲット設定装置28において設定された追尾枠は表示装置27の表示画面に表示される。初期ターゲット設定装置28において設定された追尾枠内の画像がターゲット画像とされて,そのターゲット画像が自動追尾装置29によって追尾される。ディジタル信号処理回路21にはノイズ低減フィルタ,偽色低減フィルタおよび偽信号低減フィルタが内蔵されており,ディジタル信号処理回路21において,ノイズ低減,偽色低減および偽信号低減された画像データが初期ターゲット設定装置28に入力し,後述の処理が行なわれる。
再生モードが設定されると,メモリ・カード25に記録されている圧縮画像データが読み取られる。読み取られた圧縮画像データは,圧縮伸長処理回路22において伸長される。伸長された画像データが表示制御回路26に与えられることにより,表示装置27の表示画面上に,再生画像が表示される。上述した自動追尾は記録時だけでなく,再生時に行われるようにしてもよい。
図2は,追尾枠の初期位置設定の処理手順を示すフローチャートである。図3から図5ならびに図7および図8は表示装置27の表示画面に表示される画像の一例である。図6は,距離画像の一例である。図3から図5ならびに図7および図8に示す画像40は,上述のように,撮像モードが設定されることにより被写体が一定周期で連続して撮像されて得られる多数フレームの画像を構成する一つの被写体像40である。
撮像モードが設定されると,上述のようにして被写体が一定周期で撮像され,表示装置27の表示画面には被写体像が動画(いわゆるスルー画像)で表示される。表示装置27の表示画面の中央部分である基準位置に追尾枠41が表示される(必ずしも中央でなくともよいし,複数でもよい)(ステップ30)。
図3は,追尾枠41が基準位置に表示されている様子を示している。
被写体を撮像することにより得られた被写体像40が表示装置27の表示画面に表示されている。被写体像40には,人物像I1,第1の木の画像I2,第2の木の画像I3,背景の画像I4が含まれている。人物像I1で表わされる人物がもっともディジタル・スチル・カメラに近く,第1の木の画像I2で表される木が次にディジタル・スチル・カメラに近い。第2の木の画像I3で表される木は,第1の木の画像I2で表される木よりもディジタル・スチル・カメラから遠い。背景の画像I4で表わされる背景がディジタル・スチル・カメラからもっとも遠い。表示画面の中央部分の基準位置に所定の大きさの矩形の追尾枠41が表示されている。追尾枠41の形状は矩形に限らず,他の形状でもよい。また,人物,顔などを認識し,認識した人物の形状,顔の形状を追尾枠としてもよい。
カメラマンは追尾枠41内に追尾したいターゲット画像が含まれるようにカメラ・アングルを決定する。ターゲット画像の少なくとも一部分が追尾枠41内に入ると,カメラマンによってシャッタ・レリーズ・ボタンの第1段階の押し下げ(初期位置決定処理の開始指令)が行われる。すると,追尾枠41の外側に追尾枠初期位置設定対象領域が設定される(図2ステップ31)。もっとも,シャッタ・レリーズ・ボタンの第1段階の押し下げが行われたことにより,追尾枠を表示する図2ステップ30の処理を行うようにしてもよい。また,初期位置決定処理の開始指令はシャッタ・レリーズ・ボタンの第1段階の押し下げではなく,他の専用のボタン,スイッチからディジタル・スチル・カメラに与えられるようにしてもよい。
図4は追尾枠初期位置設定対象領域が画像40に設定された様子を示している。
追尾枠処理位置設定対象領域42の中心は表示画面の中心と等しく,追尾枠41よりも大きく,かつ被写体像(表示画面)40の大きさ以下の大きさであり,追尾枠41を含むものである。図4においては,追尾枠処理位置設定対象領域42がわかるように鎖線で示されているが,追尾枠処理位置設定対象領域42は必ずしも表示画面に表示されなくともよい。もっともこの領域42自体無くともよい。
追尾枠処理位置設定対象領域42が設定されると,その領域42内に含まれるターゲット画像の高周波数成分が抽出されることにより高周波数成分画像が生成される(図2ステップ32)。
図5は,追尾枠処理位置設定対象領域42内に含まれる画像から高周波数成分が抽出されて高周波数成分画像が生成された様子を示している。
領域42内の画像から高周波数成分が抽出されることにより生成された高周波数成分画像43が領域42内に表示される。領域42内の画像が高周波数成分から構成されている画像43であることを示すために高周波数成分画像43にハッチングが付されている。領域42が無い場合には画像40全体から高周波数成分画像が抽出される。
つづいて,距離画像が生成される(図2ステップ33)。
図6は,距離画像40Aの一例である。
距離画像40Aは,被写体像40内に含まれる被写体までの距離を表わすものである。図6においては,ディジタル・スチル・カメラから被写体までの距離が濃度で表わされている。濃度が薄いほどディジタル・スチル・カメラからの距離が近く,濃度が濃いほどディジタル・スチル・カメラからの距離が遠い。
距離画像40Aには,上述した被写体像40に含まれる人物像I1,第1の木の画像I2,
第2の木の画像I3および背景画像I4のそれぞれに対応する領域a1,a2,a3およびa4が含まれている。上述したように,ディジタル・スチル・カメラからの距離は,人物像I1によって表わされる人物,第1の木の画像I2によって表される第1の木,第2の木の画像I3によって表される第2の木および背景画像I4によって表される背景の順に遠いから,領域a1,a2,a3およびa4の順に濃度が濃くなっている。
図6においては,被写体像40との関係が分るように,追尾枠処理位置設定対象領域42も図示されている。
生成された高周波数成分画像43内であり,かつ追尾枠41が設定された画像によって表わされる被写体までの距離と同距離にある被写体を表わす画像部分がサーチ領域とされ,そのサーチ領域内において,追尾枠41と同じ形状,同じ大きさの移動枠が設定される。その移動枠がサーチ領域内において1画素分ずつ水平方向および垂直方向に移動させられながら,高周波数成分量が算出される(図2ステップ34)。生成された高周波数成分画像43内であり,かつ追尾枠41が設定された画像によって表わされる被写体までの距離と同距離にある被写体を表わす画像部分が複数ある場合には,それらの複数の画像部分のうち,面積の大きい方の画像部分がサーチ領域とされる。
図7は,移動枠44が表示されている様子を示している。
上述のように,高周波数成分画像43内において,追尾枠41と同じ形状(同じ形状でなくともよい),同じ大きさ(同じ大きさでなくともよい)の移動枠44が設定される。移動枠44は表示されても表示されなくともよい。
上述のように,追尾枠41は,人物像I1に設定されているから,この人物像I1のうち,高周波数成分画像43内に含まれている領域IS(領域ISが太線で囲まれている)がサーチ領域ISとなる。このサーチ領域IS内において,移動枠44が1画素分ずつ水平方向および垂直方向に移動させられ,その移動した位置ごとに,移動枠内に含まれる画素のうち所定のしきい値以上の高周波数成分以上の高周波数成分をもつ画素の数がカウントされることにより,高周波数成分量(カウント値)が算出される。
高周波数成分量が最大となる移動枠44の位置が追尾枠41の初期位置と決定される(図2ステップ35)。
図8は追尾枠41の初期位置を決定する様子を示している。
上述のように,移動枠44がサーチ領域IS内を移動しながら高周波数成分量が算出された場合に,図8に示す移動枠44の位置にあるときが,高周波数成分量が最大であったとする。すると,そのときの移動枠44の位置が追尾枠41の初期位置と決定される。
上述の実施例においては,追尾枠処理位置設定対象領域42が設定され,追尾枠41が設定されている被写体像によって表わされる被写体までの距離と同距離の被写体を表わす画像部分であって,かつ追尾枠処理位置設定対象領域42内の領域がサーチ領域ISとされているが,追尾枠処理位置設定対象領域42が設定されずに追尾枠41が設定されている被写体像によって表わされる被写体までの距離と同距離の被写体を表わす画像部分がサーチ領域ISとされてもよい。たとえば,人物像I1の領域がサーチ領域ISとなる。
サーチ領域IS内で上述したように高周波数成分量の算出などの処理が行われて追尾枠41の初期位置が決定されるので,被写体像40の全体または追尾枠処理位置設定対象領域42において高周波数成分量の算出などの処理が行われて追尾枠41の初期位置が決定される場合に比べて迅速に追尾枠41の初期位置が決定される。被写体の境界部分などはエッジ成分などの特徴が出やすいが,そのような境界部分は距離画像40Aを利用してサーチ領域ISから除外されているので,追尾枠41の初期位置を適切に決定できる。
このようにして追尾枠41の初期位置が決定されると,その初期位置から,追尾枠41内の画像がターゲット画像として,次に入力する画像について追尾処理が開始される。初期位置として決定した追尾枠41内の画像はサーチ領域IS内において高周波数成分量が最大であり,画像に含まれるエッジが多いので追尾処理が比較的容易となる。追尾処理に用いられる追尾枠41内の画像は抽出された高周波数成分の画像でもよいし,高周波数成分が抽出される前の画像40についてのものでもよい。
上述の高周波数成分画像の生成は初期ターゲット設定装置内にハイ・パス・フィルタが含まれており,そのハイ・パス・フィルタを用いて行われるのはいうまでもない。もっとも,上述の処理の一部またはすべてを,ハードウェアを用いて行なってもよいし,上述した処理の一部またはすべてを,ソフトウェアを用いて行なってもよい。
上述の実施例においては,追尾枠を表示画面の中央の基準位置に表示することを決定し,追尾枠内の画像を含む人物像I1をターゲット画像と決定しているが,距離画像40Aのうち背景を除く領域の中から最大の領域によって表わされる被写体の画像をターゲット画像としてもよし,もっともディジタル・スチル・カメラに近い被写体の画像をターゲット画像としてもよい。
図9および図10は,追尾枠処理位置設定対象領域42内の画像を示している。
図9を参照して,上述のようにサーチ領域ISが設定されると,そのサーチ領域IS内において移動枠44が移動させられながら,その移動ごとに高周波数成分量が算出される。移動枠44は,サーチ領域ISからはみ出ないように移動させられる。
これに対して,図10においては,移動枠44の一部がサーチ領域ISからはみ出ることを許容している。移動枠44の面積のうち50%(または80%)以上がサーチ領域ISに含まれるように,移動枠44が移動させられる。移動ごとに高周波数成分量が算出されるのは上述の通りである。サーチ領域ISが狭い場合には,移動枠44がサーチ領域ISからはみ出ないように移動させられると,高周波数成分量を算出できる箇所が少なくなってしまうが,移動枠44の一部がサーチ領域ISからはみ出ることを許容することにより,高周波数成分量を算出できる箇所が多くなり,より正確に追尾枠の初期位置を決定できる。
図11は左視点画像40Lおよび右視点画像40Rの一例である。上述したように左視点画像40Lは第2の撮像装置10Lにより得られ,右視点画像40Rは第1の撮像装置10Rにより得られる。
これらの左視点画像40Lと右視点画像40Rとから上述した距離画像40A(図6参照)が生成される。
距離画像40Aを生成するために,左視点画像40Lを構成する画素のうち周波数成分が高いと思われる画素を表わす特徴点PLが検出される(右視点画像40Rから特徴点PRが検出されてもよい)。左視点画像40Lから検出された特徴点PLに対応する対応点PRが右視点画像40Rから検出される。左視点画像40Lから検出された特徴点PLと右視点画像40Rから検出された対応点PRとの水平方向の差分の長さを距離情報として,上述した距離画像40Aが生成される。
図12は,他の実施例を示すもので,追尾枠の初期位置設定の処理手順を示すフローチャートである。図12は,図2に対応するもので,図2に示す処理と同一の処理については同一符号を付して説明を省略する。
上述の実施例においては,追尾枠初期位置設定対象領域42内において,高周波数成分量が最大となる移動枠44の位置が追尾枠41の初期位置とされているが,図12に示す処理では,色成分量が最大となる移動枠44の位置が追尾枠41の初期位置とされる。
上述のように,追尾枠初期位置設定対象領域42が設定され(ステップ31),距離画像が生成される(ステップ33)。上述のようにサーチ領域ISが規定され,移動枠44がサーチ領域IS内を1画素ずつ上下左右に移動させられる(ステップ36)。それぞれの移動位置ごとに移動枠44内に存在する画像を構成する画素の色成分(赤色成分,緑色成分および青色成分。シアン,マゼンタ,イエローなどの他の三原色,Cr,Cbなどのような色差その他の色成分でもよい)がしきい値以上となる画素の数(色成分量)が算出される(ステップ36)。算出された色成分量が最大となる移動枠44の位置が追尾枠41の初期位置となる(ステップ37)。
図13から図15は色成分ヒストグラムの一例である。図13は赤色成分の色成分ヒストグラム,図14は緑色成分の色成分ヒストグラム,図15は青色成分の色成分ヒストグラムである。
図13を参照して,移動枠41が移動させられて,領域1から領域5の5つの移動箇所ごとに赤色成分量Q1〜Q5が算出されたものとする(実際には移動枠44は1画素ずつ移動するからもっと多くの移動箇所ごとの赤色成分量が得られるが,ここでは便宜的に5箇所の領域についての成分量が得られたものとする)。
同様に,図14を参照して移動枠41が移動させられて,領域1から領域5の5つの移動箇所ごとに緑色成分量Q6〜Q10が算出され,図15を参照して移動枠41が移動させられて,領域1〜5の5つの移動箇所ごとに青色成分量Q11〜Q15が算出されたものとする。
これらの赤色成分量Q1〜Q5,緑色成分量Q6〜Q10および青色成分量Q11〜Q15のうち,最大の色成分量となる移動枠44の位置が追尾枠41の初期位置となる。たとえば,赤色成分量Q3が最大の場合には領域3の位置が追尾枠41の初期位置となる。もっとも,これらの赤色成分量Q1〜Q5,緑色成分量Q6〜Q10および青色成分量Q11〜Q15のうち,最大の色成分量となる移動枠44の位置を追尾枠41の初期位置とするのではなく,カメラマンが指定したターゲット画像の色成分を解析して,そのターゲット画像に含まれる色成分のうち多い色成分と同じまたは近似の色成分の成分量が最大となる移動枠44の位置を追尾枠41の初期位置としてもよい。
図16は,変形例を示すもので,追尾枠の初期位置設定処理手順を示すフローチャートである。この図において,図12に示す処理と同一の処理については同一符号を付して説明を省略する。
図12に示す処理では,色成分量が最大となる移動枠41の位置が追尾枠44の初期位置とされているが,図16に示す処理では高周波数成分量と色成分量との両方を用いて追尾枠44の初期位置が決定される。
上述のように,追尾枠初期位置設定対象領域42内の画像から高周波数成分画像が生成され(ステップ33),かつ距離画像が生成される(ステップ33)。サーチ領域IS内で移動枠41を移動しながら,移動位置ごとに高周波数成分量および色成分量が算出される(ステップ34A)。算出された高周波数成分量および色成分量とから追尾枠の初期位置が決定される(ステップ35A)。
たとえば,移動枠41の移動位置ごとに式1にしたがって,総合成分量が算出される。この総合成分量が最大となる移動枠41の位置が追尾枠の初期位置となる。但し,wは重み付け係数であり,たとえば,0.5である。
総合成分量=w×高周波数成分量+(1−w)色成分量・・・式1
図17は,追尾枠の初期位置設定メニュー画像の一例である。
ディジタル・スチル・カメラのモード設定ボタンにおいてメニュー・モードが設定され,そのメニュー・モードの中から追尾枠の初期位置設定メニューが選択されると,図17に示す追尾枠の初期位置設定メニュー画像50が,表示装置27の表示画面に表示される。
追尾枠の初期位置設定メニュー画像50には,ほぼ中央に「追尾枠の初期位置設定」の文字列が表示されている。この文字列の右側に第1のチェック・ボックス51および第2のチェック・ボックス52が表示されている。第1のチェック・ボックス51の右側には「オン」の文字が表示され,第2のチェック・ボックス52の右側には「オフ」の文字が表示されている。操作装置2にはカーソルを上下左右に移動させるための上下左右ボタンが含まれている。上下左右ボタンから上指令が入力されることにより,第1のチェック・ボックス51がチェックされ,上下左右ボタンから下指令が入力されることにより,第2のチェック・ボックス52がチェックされる。
第1のチェック・ボックス51がチェックされると,上述のように追尾枠の初期位置設定が行われるようにディジタル・スチル・カメラが設定される。第2のチェック・ボックス52がチェックされると,上述の追尾枠の初期位置設定が行われないようにディジタル・スチル・カメラが設定される。追尾枠の初期位置設定が行われない場合には,上述したように表示画面の中央部分である基準位置が追尾枠の初期位置となって,自動追尾処理が行われる。
図18から図20は,他の実施例を示すものである。図18は追尾枠44の初期位置設定処理手順を示すフローチャートである。図18において,図2と同じ処理には同じ符号を付して説明を省略する。
上述のように,距離画像40Aが生成され(ステップ33),サーチ領域IS内において移動枠41が移動させられて移動位置ごとに高周波数成分量が算出される(ステップ34)。得られた高周波数成分量の最大値が所定のしきい値以上かどうかが判定される(ステップ61)。しきい値以上であれば(ステップ61でYES),高周波数成分量の最大となる移動枠41の位置が追尾枠44の初期位置決定される(ステップ35)。しきい値以上でなければ(ステップ61でNO),エラー報知される(ステップ62)。
エラーの報知は,エラー音の出力,エラーの旨の表示でもよいし,追尾枠44の色をかえるなど,追尾枠44の表示を初期位置が決定した場合と異なる表示とすることにより行っても良い。また,追尾枠の点灯,点滅を追尾枠44の初期位置が決定した場合と異なるようにしてエラー報知をしてもよい。
図19および図20は,エラー報知の場合に表示画面に表示される画像の一例である。
図19を参照して,画像40の中央部分にはエラー表示のための枠63が表示されている。この枠は追尾枠44が実線であるのに対して,破線とされている。破線の枠63が表示されることによりカメラマンはエラーが起きたことがわかる。
図20を参照して,画像40の中央部分にはエラー表示のためのばつ印64が表示されている。ばつ印64が表示されることによりカメラマンはエラーが起きたことがわかる。
図21および図22は,他の実施例を示している。
図21は,移動枠41の移動の仕方を示している。
上述した実施例においては,移動枠41の移動は任意であったが(通常は,テレビジョンの走査と同様に,左上から右方向に移動して順に下方向に移動することとなろう。),この実施例では,画像40の中央部分の基準位置から外側に向かって螺旋状のように移動する。
まず,基準位置にある移動枠41内において高周波数成分量が算出される。算出された高周波数成分量が所定のしきい値を越えなければ,移動枠41が左上に1画素分(移動距離b=1)移動させられる(符号81で示す位置)。符号81で示される位置において移動枠41内における高周波数成分量が算出される。算出された高周波数成分量が所定のしきい値を越えなければ,符号81で示される位置から右側に移動枠41が1画素分移動させられ,高周波数成分量が算出される。同様に,画像40の中央部分である基準位置に移動枠41が存在する場合における移動枠41の上下左右に1画素分外側に広げた領域82において高周波数成分量が所定のしきい値を越えるまで,移動枠41の移動および移動位置での高周波数成分量の算出が繰り返される。
上下左右に1画素分外側に広げた領域82において高周波数成分量が所定のしきい値を越えなければ,さらに,移動枠41が左上に1画素分(移動距離bは合計2)移動させられて,符号83で示す位置に移動枠41の移動が移動させられ,移動位置での高周波数成分量が算出される。同様に,高周波数成分量がしきい値を超えるまで移動枠41が上下左右に1画素分ずつ移動させられて,画像40の中央部分である基準位置に移動枠41が存在する場合における移動枠41の上下左右に2画素分外側に広げた領域84において高周波数成分量が所定のしきい値を越えるまで,移動枠41の移動および移動位置での高周波数成分量の算出が繰り返される。
このように,画像40の中央部分から外側に向かって移動枠41が移動させられて高周波数成分量が算出される。
図22は追尾枠の初期位置設定処理手順を示すフローチャートである。図22において,図14に示す処理と同一の処理については同一符号を付して説明を省略する。
上述のように,高周波数成分画像が生成され(ステップ32),かつ距離画像が生成される(ステップ33)。上述した移動距離bが0にセットされる(ステップ70)。また,高周波数成分の最大値が0にセットされ,かつ高周波数成分の最大値の位置が初期化される(ステップ71)。セットされた移動距離bが最大移動距離S1以下かどうかが判定される(ステップ72)。最大移動距離S1は,画像40(表示画面)の長辺または短辺のいずれかの辺の1/2の長さである。最大移動距離S1は,画像40の対角線の長さの1/2の長さから移動枠41の対角線の長さの1/2の長さを減算したものでもよい。
移動距離bが最大移動距離S1以上となると(ステップ72でNO),エラーが報知される(ステップ79)。移動距離bが最大移動距離S1未満であれば(ステップ72でYES),上述のように,基準位置での移動枠41内の高周波数成分量が算出される(ステップ73)。算出された高周波数成分量が所定のしきい値を越えていなければ(ステップ74でNO),移動距離b内の算出処理が終了したかどうかが確認される(ステップ77)。移動距離bが0の場合には,移動枠41は移動しないこととなるので,移動距離bが1だけインクレメントされる(ステップ77でYES,ステップ78)。
移動距離bが1となると,上述したように,高周波数成分量がしきい値を越えるまで領域82内の高周波数成分量が算出されることとなる。領域82内において算出された高周波数成分量が所定のしきい値を越えなければ,さらに移動距離bがインクレメントされ,領域84内の高周波数成分量が算出される。しきい値を越えると(ステップ74でYES),0にセットされていた高周波数成分が,しきい値を超えた高周波数成分量の最大値として更新され,そのときの位置が記憶される(ステップ75)。記憶された位置が追尾枠の初期位置として決定する(ステップ76)。
追尾枠初期位置設定対象領域42内のすべてについて高周波数成分量の算出処理を行う必要が必ずしも無いので,追尾枠を決定するまでの時間を短縮できる。
図23は,追尾枠の初期位置設定方法のメニュー画像の一例である。
ディジタル・スチル・カメラのモード設定ボタンにおいてメニュー・モードが設定され,そのメニュー・モードの中から追尾枠の初期位置設定方法のメニューが選択されると,図23に示す追尾枠の初期位置設定方法のメニュー画像90が,表示装置27の表示画面に表示される。
追尾枠の初期位置設定方法のメニュー画像90には,ほぼ中央に「追尾枠の初期位置設定方法」の文字列が表示されている。この文字列の右側に第1のチェック・ボックス91および第2のチェック・ボックス92が表示されている。第1のチェック・ボックス91の右側には「最大評価値位置」の文字が表示され,第2のチェック・ボックス92の右側には「中央重点位置」の文字が表示されている。上下左右ボタンから上指令が入力されることにより,第1のチェック・ボックス91がチェックされ,上下左右ボタンから下指令が入力されることにより,第2のチェック・ボックス92がチェックされる。
第1のチェック・ボックス91がチェックされると,追尾枠初期位置設定対象領域42内のすべてにおいて上述した高周波数成分量の算出処理が行われ,最大の高周波数成分量が得られる位置が追尾枠の初期位置として決定される。これに対して,第2のチェック・ボックス92がチェックされると,上述したように移動枠41が基準位置から順に外側に移動させられ,移動ごとに得られる高周波数成分量が所定のしきい値を最初に越えたときの移動枠41の位置が追尾枠の初期位置として決定される。
図24は,追尾枠の初期位置設定手順を示すフローチャートである。この図において,図22に示す処理と同一の処理については同一符号を付して説明を省略する。
この処理手順は,追尾枠の初期位置を画面の中央に近い位置に設定する中央優先と高周波数成分量が最大位置に設定する最大優先とに応じて設定するものである。上述のようにして移動枠41が移動し,移動後の位置で高周波数成分量が算出されると,算出された高周波数成分量がしきい値を越えたかどうかが判定される(ステップ74)。しきい値を越えると(ステップ74でYES),算出された高周波数成分量が最大値を越えたかどうかが判定される(ステップ74A)。ステップ74Aにおける判定処理は,最大優先が設定されている場合に,高周波数成分量が最大の位置を検出できるようにするためのものである。算出された高周波数成分量が最大値を越えると(ステップ74AでYES),算出された高周波数成分量が,それまで算出された高周波数成分量の最大値よりも大きいので最大値が更新される(ステップ75)。
上述のように,追尾枠の初期位置設定方法において中央重点位置が設定されていると(中央重点が設定されていると)(ステップ80でYES),最大値の位置が追尾枠の初期位置として決定される(ステップ76)。中央重点位置が設定されている場合には,画像40の中央に近い位置が初期位置と決定する。カメラマンがターゲット画像として想定している部分は画像の中央と考えられ,追尾枠44の初期位置として決定される位置も中央に近くなるので,カメラマンに違和感を与えることを未然に防止できる。追尾枠の初期位置設定方法において中央重点位置が設定されていなければ(中央重点が設定されてなければ)(ステップ80でNO),高周波数成分量がしきい値を越えても追尾枠初期位置設定対象領域42内のすべての位置において高周波数成分量の算出処理が繰り返される(ステップ77)。
移動距離bが最大移動距離S1より大きくなると(ステップ72でNO),高周波数成分量の最大値が未だに0にセットされているかどうかが判断される(ステップ85)。高周波数成分量の最大値が0にセットされていると(ステップ85でYES),しきい値を超えた高周波数成分量の最大値を検出できなかったので,追尾枠の初期位置の決定ができずにエラーとなる(ステップ79)。高周波数成分量の最大値が0にセットされていなければ(ステップ85でNO),しきい値を超えた高周波数成分量が見つかっているので,その位置が追尾枠の初期位置として決定される(ステップ76)。
図25から図28は,他の実施例を示している。
図25は,追尾枠拡大のメニュー画像の一例である。
ディジタル・スチル・カメラのモード設定ボタンにおいてメニュー・モードが設定され,そのメニュー・モードの中から追尾枠拡大のメニューが選択されると,図25に示す追尾枠拡大のメニュー画像100が,表示装置27の表示画面に表示される。
追尾枠拡大のメニュー画像100には,ほぼ中央に「追尾枠拡大」の文字列が表示されている。この文字列の右側に第1のチェック・ボックス101および第2のチェック・ボックス102が表示されている。第1のチェック・ボックス101の右側には「オン」の文字が表示され,第2のチェック・ボックス102の右側には「オフ」の文字が表示されている。第1のチェック・ボックス101の右側にある「オン」の文字のさらに右側には拡大率設定領域103が表示されている。拡大率設定領域103には数字が表示され,その数字が追尾枠41の拡大率を示すこととなる。
上下左右ボタンから上指令が入力されることにより,第1のチェック・ボックス91がチェックされ,上下左右ボタンから下指令が入力されることにより,第2のチェック・ボックス92がチェックされる。第1のチェック・ボックス91がチェックされているときに,上下左右ボタンから右指令が入力されると,拡大率設定領域103の設定が可能となる。第1のチェック・ボックス91がチェックされているときに上下左右ボタンの上指令入力に応じて拡大率が上がり,下指令入力に応じて拡大率が下がる。
図26および図27は,追尾枠の初期位置設定処理手順を示すフローチャートである。これらの図において図24と同じ処理については同一符号を付して説明を省略する。図28は被写体像の一例である。
この実施例は,移動枠41のサイズを上述したように設定された拡大率に応じて拡大するものである。移動枠41のサイズがリセットされて上述のように追尾枠が基準位置に表示される(ステップ30)。上述のようにして高周波数成分画像が生成され(ステップ32),かつ距離画像が生成されると(ステップ33),移動枠41のサイズ(一辺)aが,最大枠サイズS2以下かどうかが判定される(ステップ111)。最大枠サイズS2は,被写体像40の長辺または短辺以下に予め定められており,たとえば,S2=4aである。
移動枠サイズaが最大枠サイズS2より大きくなると(ステップ111でNO),エラーが報知される(ステップ79)。移動枠サイズaが最大枠サイズS2以下であれば(ステップ111でYES),移動枠位置がリセットされて移動枠41が基準位置に表示される(ステップ113)。また,移動距離bも0にセットされ(ステップ113),かつ高周波数成分量の最大値も0にセットされる(ステップ114)。最大値の位置の初期かされる(ステップ114)。図21,図22などを参照して説明したように,移動距離bが最大移動距離S2以下であれば(ステップ72でYES),移動距離bが徐々に大きくされて中央から外側に向かって移動枠41が移動させられながら,高周波数成分量の算出処理が繰り返される(ステップ72から80)。移動距離bが最大移動距離S1より大きくなると(ステップ72でNO),高周波数成分量の最大値が0にセットされているかどうかが判断される(ステップ85)。高周波数成分が0にセットされていなければ(ステップ85でNO),しきい値を超えている高周波数成分があるので,その高周波数成分が得られた位置が追尾枠の初期位置と決定される(ステップ76)。高周波数成分量の最大値が0にセットされていると(ステップ85でYES),その領域内では,しきい値以上の高周波数成分量の最大値が得られていないので,図28に示すように移動枠41のサイズが設定されている大きさに拡大される(拡大された移動枠120)(ステップ81)。拡大された移動枠120が再び移動されながら,移動位置ごとで高周波数成分量の算出処理が繰り返される。
高周波数成分量が所定のしきい値を越えない場合には,移動枠41が大きくされるので,高周波数成分量の値が大きくなる。高周波数成分量の値が所定のしきい値を超えるようになり,追尾枠44の初期位置を決定できる。
図29から図31は,さらに他の実施例を示すものである。
図29および図31は追尾枠の初期位置設定処理手順を示すフローチャートである。これらの図において図26および図27に示す処理と同一の処理については同一符号を付して説明を省略する。図31は,被写体像40の一例である。
上述の実施例では移動枠41の大きさを大きくしているが,この実施例では被写体像40の大きさを小さくしている。移動枠41の大きくした場合と同様に高周波数成分量がしきい値を越えやすくなる。
図31の上の図に示すように,被写体像40のサイズが所定の大きさに初期化される(ステップ131)。つづいて,被写体像40がリサイズされる(ステップ132)。このリサイズ処理は,最初は必要無いのでスキップしてもよい。画像が1/8以下となるようなリサイズが行われる場合には,偽色,偽信号低減処理が行なわれるようにしても良い。
画像サイズが最小サイズよりも大きくなければ(ステップ133でNO),エラーが報知される(ステップ134)。画像サイズが最小サイズよりも大きければ(ステップ133でYES),移動枠41内の高周波数成分量の算出処理が行われる(ステップ30〜33,ステップ112〜114,ステップ72〜80など)。
追尾枠44の初期位置が決定せずに移動距離bが最大移動距離S1より大きくなると(ステップ72でNO),高周波数成分量の最大値が0にセットされているかどうかが判断される(ステップ85)。高周波数成分量の最大値が0にセットされていなければ(ステップ85でNO),すでに,しきい値以上の高周波数成分量の最大値が得られた位置があるので,その位置が追尾枠の初期位置と決定される(ステップ76)。高周波数成分量の最大値が0にセットされていると(ステップ85でYES),画像サイズ(画像40の長辺または短辺)cが1/2とされる(ステップ135)。これにより図31の下の図に示すように,被写体像40が小さくなり,小さくなった被写体像40Bを用いて高周波数成分量の算出処理が繰り返される。移動枠41内の画像にもとづいて算出される高周波数成分量は多くなるので,高周波数成分量がしきい値を越え,追尾枠の初期位置を決定できるのは理解できよう。
上述の実施例においては,追尾枠初期位置設定対象領域内の画像から高周波数成分を抽出して得られる高周波数成分画像内において移動枠を移動させながら高周波数成分量を算出し,しきい値以上の高周波数成分量または最大の高周波数成分量が得られる移動枠の位置が追尾枠の初期位置と決定されている。しかしながら,高周波数成分量が多すぎる場合には(上記のしきい値を第1のしきい値とすると第1のしきい値より多い第2のしきい値以上の高周波数成分量をもつ場合など),高周波数成分画像を生成する前に一の画像についてロウ・パス・フィルタを用いて平滑化を行った後で高周波数成分画像を生成して,高周波数成分量の算出処理を行うようにしてもよい。初期位置決定処理において決定した追尾枠内のターゲット画像にエッジ成分が多く含まれすぎると,そのターゲット画像とテンプレート・マッチングなどを利用して,一の画像の後に入力する被写体像に含まれるターゲット画像を追尾する場合に,追尾枠が少しずれただけで追尾できなくなる可能性がある。平滑化を行った後で高周波数成分画像を生成して,高周波数成分量の算出処理を行うことにより,追尾枠が少しずれただけで追尾できなくなってしまうことを未然に防止できる。
上述の実施例において,追尾枠初期位置設定対象領域内の画像の高周波数成分画像を生成せずにロウ・パス・フィルタまたはバンド・パス・フィルタを用いて追尾枠初期位置設定対象領域内の画像の低周波数成分画像または中間周波数成分画像を生成して,上述したのと同様に低周波数成分量または中間周波数成分量が多くなる移動枠の位置を追尾枠の初期位置としてもよい。また,ターゲット画像の周波数帯域がわかっている場合には,その周波数帯域の成分量を抽出するようなバンド・パス・フィルタを用いて中間周波数成分量が多くなる移動枠の位置を追尾枠の初期位置とすることにより,ターゲット画像の追尾がより正確なる。
さらに上述の処理において,追尾枠初期位置設定対象領域内の画像から特定の周波数成分をもつ画像を生成するのではなく,設定の色成分(ターゲット画像の色成分)の成分量が多くなるような移動枠の位置を追尾枠の初期位置としてもよい。
上述の実施例では,追尾枠初期位置設定対象領域が設定され,その設定された領域内において高周波数成分画像を生成し,生成した高周波数成分画像内において移動枠を移動させながら,移動位置ごとに高周波数成分量を算出している。しかしながら,高周波数成分画像を生成せずに設定された領域内において移動枠を移動させて,その移動位置ごとに移動枠内の画像の高周波数成分量を算出するようにしてもよい。
また,追尾枠と移動枠とは同じ大きさ,形状でもよいし,異なる大きさ,形状でもよい。たとえば,移動枠を1辺aの矩形枠とした場合追尾枠を1辺(0.8×a)の矩形枠としてもよい。
図32は,変形例を示すもので,移動枠を移動させながら高周波数成分量を算出する処理手順(たとえば,図2ステップ34の処理手順)を示すフローチャートである。
この処理手順は,移動枠44内の高周波数成分量が所定のしきい値よりも小さい場合には,移動枠44をそれまでの移動距離よりも2画素増えるようにし,しきい値以上の場合には,移動枠44をそれまでの移動距離よりも1画素増えるようにするものである。
まず,最大高周波数成分量が0にリセットされる(ステップ141)。移動枠の垂直位置jが0にリセットされる(ステップ142)。
図33の左側の図は,移動枠44とサーチ領域ISとの関係を示している。サーチ領域ISに収まる移動枠44のうち,もっとも左上の位置に位置決めされる場合の移動枠の左上の座標を(0,0)の原点とされる。その原点の位置に移動枠44が位置決めされている場合が垂直位置j=0であり,後述するように水平位置i=0である。垂直位置jおよび水平位置iによって移動枠44の位置が決定される。
図32に戻って,サーチ領域ISの高さによって規定されるサーチ領域ISの垂直方向の高さ(長さ)よりも垂直位置jが小さいかどうかが確認される(ステップ143)。サーチ領域ISの垂直方向の長さよりも垂直位置jが小さければ(ステップ143でYES),移動枠44の少なくとも一部がサーチ領域ISに含まれていることとなる。すると,水平位置iが0にリセットされ(ステップ144),サーチ領域ISの水平方向の幅(長さ)よりも水平位置iが小さいかどうかが確認される(ステップ145)。サーチ領域ISの水平方向の長さよりも水平位置iが小さければ(ステップ145でYES),移動枠44の少なくとも一部がサーチ領域IS内に含まれていることとなる。すると,移動枠44の左上の位置が垂直位置jおよび水平位置iで規定される位置で,移動枠44内の画像の高周波数成分量が算出される(ステップ146)。
算出された高周波数成分量が最大高周波数成分量より大きければ,その算出された高周波数成分量が最大高周波数成分量に更新される(ステップ148)。
算出された高周波数成分量が所定のしきい値よりも小さいかどうかが確認され(ステップ149),算出された高周波数成分量が所定のしきい値以上であれば(ステップ150でNO),移動枠44内の画像は精細なものであり,図33の中央の図に示すように,移動枠44の移動距離は水平移動位置iに1画素加算したものとされる(ステップ150)。算出された高周波数成分量が所定のしきい値よりも小さければ(ステップ150でYES),移動枠44内の画像は精細なものとは言えず,図33の右側の図に示すように,移動枠44の移動距離は水平移動位置iに2画素加算したものとされる(ステップ151)。移動枠44が移動した後の位置でも,その位置で算出された高周波数成分量と最大高周波数成分量との比較が行われ,その比較結果に応じて移動枠44の移動距離が決定される(ステップ145から151)。
水平位置iの値が領域の水平方向の長さ以上となると(ステップ145でNO),移動枠44はサーチ領域ISの水平方向から外れ,移動枠44の一部もサーチ領域ISに含まれなくなる。移動枠44を垂直方向に移動させるべく移動位置jがインクレメントされる(ステップ152)。移動位置jがサーチ領域ISの高さ以上となると処理が終了する(ステップ143でNO)。
図34および図35は,変形例を示すものである。この変形例は,色成分を利用して追尾枠41の初期位置を決定する場合に,色空間上における色成分の分布状態を利用するものである。
図34は,RGB色空間を示している(CrCb色空間など他の色空間でもよい)。
(0,0,0),(0,255,0),(0,0,255),(0,255,255),(255,0,0),(255,0,255),および(255,255,255)で囲まれる空間160を考える。その空間160が各座標軸方向において3等分され(3等分でなくともよい),合計27個の小ブロックb1〜b27が形成されている。
上述したように,追尾枠初期位置設定対象領域32内において,移動枠44が移動させられ,その移動位置ごとに,移動枠44内の画素が図30に示す色空間上にプロットされる。図35に示すように,小ブロックb1〜b27のそれぞれにおいてプロットされた画素の数S1〜S27が算出される。算出された画素の数S1〜S27のうちのもっとも大きな画素の数が,その移動位置での最大画素数Smaxとして検出される。
上記のような最大画素数Smaxの算出処理が,移動枠44が移動した位置ごとに算出され,移動位置ごとの最大画素数Smaxのうち,もっとも大きな値が得られる移動位置が追尾枠44の初期位置として決定される。
図36から図40は,他の実施例を示すもので,上述のようにして設定された初期位置から自動追尾処理を行うものである。
図36および図37は自動追尾処理手順を示すフローチャートである。
まず,上述したようにして決定された初期位置が追尾位置とされる(ステップ171)。つづいて,被写体が撮像され,被写体像が得られる(ステップ172)。被写体像が得られると,追尾位置に追尾枠が表示される。さらに,上述のように,距離画像(図6参照)が生成される(ステップ173)。
図38は,得られた被写体像40の一例である。
被写体像40には,上述したのと同様に,人物像I1,第1の木の画像I2,第2の木の画像I3および背景画像I4が含まれている。被写体像40に含まれる人物像I1中の追尾位置に追尾枠190が表示されている。追尾枠190内の画像から,追尾のターゲット画像となる追尾用テンプレート画像が生成される(図36ステップ174)。
図39の上段は,追尾用テンプレート画像191の一例である。
テンプレート画像191は,上述したように,追尾枠190の初期位置として決定された位置に追尾枠190が位置決めされた場合において追尾枠190に含まれている画像である。上述したように,追尾枠190の初期位置は,高周波数成分が多い画像部分の位置であるから,テンプレート画像191も高周波数成分が多いものである。このために,テンプレート画像191を用いた追尾処理は比較的行いやすいものとなる。
追尾用テンプレート画像190が生成されると,その追尾用テンプレート画像190が得られた画像部分によって表される被写体までの距離を表わす距離情報が,距離画像から取得される(図36ステップ175)。
図39の下段は,距離情報192を示している。
距離情報192は,上述したように,追尾用テンプレート画像190が得られた画像部分によって表される被写体までの距離を表わしている。追尾用テンプレート画像190は,人物像I1から得られているから,追尾用テンプレート画像190の距離情報は,ディジタル・スチル・カメラから人物像I1によって表わされる人物までの距離を表わすものとなる。
つづいて,追尾枠がターゲット画像を追尾する領域である追尾対象領域が設定される(図36ステップ176)。
図40は,被写体像40の一例である。
上述したように,追尾枠190が人物像I1上に表示されており,その追尾枠190を囲むように追尾対象領域200が設定される。
追尾処理においても上述した追尾枠の初期位置決定処理と同様に,追尾対象領域200内のうち,追尾用テンプレート画像190の距離情報によって表わされる距離と同じ距離の被写体を表わす画像部分がサーチ領域ISとされる。上述のようにテンプレート画像190は人物像I1の一部であるから,追尾対象領域200内の人物像I1の領域がサーチ領域ISとなる。
つづいて,追尾用テンプレート画像190と類似している画像部分を見つけ出し,その画像部分に追尾枠を表示するのであるから,追尾用テンプレート画像190と画像部分との相違度が小さいほど,その画像部分が追尾用テンプレート画像190に類似しているものと考えられる。相違度が小さくなるように画像部分が見つけ出されるから,相違度の最小値がmaxにセットされ,その位置が初期化される(図36ステップ177)。
テンプレート画像190によるサーチ領域内のサーチが終了していなければ(図37ステップ178でNO),追尾枠190と同じ大きさの移動枠191がサーチ領域IS内に設定され,その移動枠191内の画像とテンプレート画像190との相違度が算出される(ステップ179)。相違度であるから,相違度が小さいほど移動枠191内の画像とテンプレート画像190とが類似する。すなわち,追尾用テンプレート画像190の距離情報と同じ距離にある領域IS内において移動枠191内の画像とテンプレート画像190との相違度が算出される。この相違度は,移動枠191内の画像とテンプレート画像190との差分絶対値RSADで表され,式1にしたがって算出される。但し,iを移動枠191内の画像(テンプレート画像190)を構成する画素のx座標,jを移動枠191内の画像(テンプレート画像190)を構成する画素のy座標とし,移動枠191内の画像の輝度値がI(i,j),テンプレート画像190の輝度値がT(i,j)で表わされている。Nは移動枠191内の画像(テンプレート画像190)を構成する画素のY方向の画素数,Mは移動枠191内の画像を構成する画素のX方向の画素数である。
また,相違度は,移動枠191内の画像とテンプレート画像190との差分二乗和RSSDで表されてもよい。差分二乗和RSSDは,式2にしたがって算出される。
算出された相違度が,すでに記憶されている相違度よりも大きければ(ステップ180でNO),相違度が得られた画像部分よりも,すでに記憶されている相違度が得られたときの画像部分の方が追尾用テンプレート190に類似していることとなる。このために,相違度の更新などは行われない。算出された相違度が,すでに記憶されている相違度よりも小さければ(ステップ180でYES),算出された相違度が所定のしきい値よりも小さいかどうかが判定される(ステップ181)。算出された相違度が所定のしきい値以上の場合に相違度が更新されてしまうと,仮にターゲット画像が被写体像40の中から存在しなくなっても追尾処理が行われてしまうことがあり,誤追尾となってしまう。このために,算出された相違度が所定のしきい値未満の場合に(ステップ181でYES),相違度の最小値の更新が行われ,かつそのときの位置が記憶される(ステップ182)。その後,移動枠がサーチ領域IS内で移動させられ,ステップ179から182までの処理が繰り返される。
移動枠191によるサーチ領域IS内のサーチが終了すると(ステップ178でYES),相違度の最小値がmaxに設定されているかどうかが確認される(ステップ184)。相違度の最小値がmaxに設定されていると(ステップ184でNO),ターゲット画像の追尾ができていないこととなる。一定時間,追尾位置の更新がなければ(ステップ187),ターゲット画像が撮像範囲から外れたと考えられるので,追尾処理が終了する。相違度の最小値がmaxに設定されていなければ(ステップ184でNO),最小値は更新されているので,その最小値の位置が追尾位置とされる(ステップ185)。シャッタ・レリーズ動作があれば(ステップ186でYES),追尾処理は終了する。シャッタ・レリーズ動作が無ければ(ステップ186でNO),再びステップ172からの処理が繰り返される。
図41から図43は,他の実施例を示すものである。
上述した実施例では,追尾枠190の初期位置は上述のようにして決定された位置であり,その初期位置に追尾枠190が最初に表示されるので,追尾枠の初期位置はユーザによって設定された位置とずれることがあるが,この実施例では,追尾枠の初期位置は上述のようにして決定された位置であるが,その位置に追尾枠が表示されるのではなく,ユーザによって設定された位置に表示枠が表示される。表示枠が表示される位置と追尾枠の初期位置とのオフセット量が算出され,その算出されたオフセット量の分だけ位置がずらされて追尾処理により表示枠が表示される。
図41および図42は,追尾枠の処理位置設定処理手順を示すフローチャートである。この図において,図24に示す処理と同一の処理については同一符号を付して説明を省略する。
上述のように,追尾枠の基準位置への表示(図41ステップ30),追尾枠初期位置設定対象領域が設定されると(図41ステップ31),上述したように表示枠位置のオフセット量が初期化される(図41ステップ211)。その後は,上述したようにステップ32以降の処理が行われる。
上述のように,追尾枠の初期位置が決定されると,基準位置と,決定された初期位置と,の位置ずれの方向および大きさを表わす表示枠位置オフセット量が算出される(図42ステップ212)。
図43は,基準位置に表示された追尾枠41と,決定された初期位置に表示された追尾枠41Aと,を示している。
この実施例では,追尾枠41Aが図示されているように初期位置が算出されても,基準位置の追尾枠として表示枠41が表示される。そのために,追尾枠41Aと表示枠41とのオフセット量が算出される。
図44は,追尾処理手順の一部を示すフローチャートである。この図は,図37に示すものに対応しており,図37に示す処理と同一の処理については同一符号を付して説明を省略する。
上述のようにして移動枠をサーチ領域IS内で移動しながら相違度が算出される(ステップ178−183)。相違度の最小値がmaxに設定されていなければ(ステップ184でNO),最小値の位置が追尾位置とされるが(ステップ185),その追尾位置からオフセット量を加算した位置が表示枠の表示位置とされる(ステップ189)。追尾位置には枠は表示されない。ユーザが設定された部分に表示枠が表示されるのでユーザは違和感を生じない。相違度の最小値の位置がmaxに設定されていても(ステップ184でYES),算出された初期位置からオフセット量分加算された位置が表示枠の表示位置となる(ステップ188)。
上述の実施例においては,相違度を用いて追尾処理が行われているが相違度ではなく,類似度を用いて追尾処理を行うこともできる。相互相関係数RNOCを類似度として利用できる。相互相関係数RNOCは,式3から算出できる。類似度を利用して追尾処理が行われる場合には,上述したように相違度を用いる場合と異なり,類似度が大きいほどテンプレート画像191に類似するものとなる。したがって,上述したように図36ステップ177において相違度の最小値をmaxにセットし,最小値の位置を初期化する代わりに,類似度の最大値をminにセットし,最大値の位置を初期化し,図37ステップ180において相違度が記憶されている最小値よりも小さいかどうかの判断の代わりに,類似度が記憶されている最大値よりも大きいかどうかの判断が行われる。また,図37ステップ181において相違度がしきい値未満かどうかの判断の代わりに,類似度がしきい値以上かどうかの判断が行われ,図37ステップ182において相違度の最小値を更新し,最小値の位置を記憶する代わりに,類似度の最大値を更新し,最大値の位置が記憶される。このようにして得られた最大値の位置が追尾位置となる。
また,上述の実施例では,距離画像40Aが利用されているが,距離画像40Aを生成しなくとも,被写体までの距離がわかればよい。
1 CPU
26 表示制御装置
27 表示装置
28 初期ターゲット設定装置
29 自動追尾装置

Claims (32)

  1. 連続して被写体を撮像して得られる被写体像に含まれる追尾対象のターゲット画像を特定する追尾枠の初期位置設定装置において,
    撮像により得られた被写体像を表示する表示装置,
    撮像範囲に含まれる被写体までの距離または距離に相当する値である距離値を表わす距離情報を生成する距離情報生成手段,
    追尾対象のターゲット画像を決定する追尾対象決定手段,および
    撮像により得られた被写体像のうち,上記追尾対象決定手段により決定された追尾対象のターゲット画像によって表わされる被写体までの距離値と同じ距離値の被写体を表わす画像部分において所定の領域ごとに高周波数成分の量を算出し,算出された高周波数成分の量が所定のしきい値以上または最大となる領域の位置を追尾枠の初期位置と決定する決定手段,
    を備えた追尾枠の初期位置設定装置。
  2. 上記距離情報生成手段は,
    異なる視点からの被写体を表わす二つの被写体像間において対応する画素同士の水平方向のずれ量から得られる距離画像を距離情報として生成するものである,
    請求項1に記載の追尾枠の初期位置設定装置。
  3. 撮像により得られた被写体像のうち,上記追尾対象決定手段により決定された追尾対象のターゲット画像によって表わされる被写体までの距離値と同じ距離値の被写体を表わす画像部分において移動ごとに枠内の画像の高周波数成分の量が算出される移動枠を移動し,移動枠の移動ごとに移動枠内の画像の高周波数成分の量を算出する特定周波数成分量算出手段をさらに備え,
    上記決定手段は,
    上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上または最大となる移動枠の位置を追尾枠の初期位置と決定するものである,
    請求項1または2に記載の追尾枠の初期位置設定装置。
  4. 上記追尾対象決定手段は,
    ユーザによる指定された画像または上記距離情報生成手段により生成された距離情報において同じ距離値を表す画像部分のうち最大領域の画像,撮像範囲の中心を含む領域の画像もしくはもっとも手前の被写体を表わす領域の画像を追尾対象のターゲット画像と決定するものである,
    請求項2または3に記載の追尾枠の初期位置設定装置。
  5. 上記連続して被写体を撮像して得られる被写体像はカラー画像であり,
    上記所定の領域ごとに所定の色成分の成分量を算出する色成分量算出手段を備え,
    上記決定手段は,
    上記色成分量算出手段によって算出された成分量が所定のしきい値以上または最大となる領域の位置を初期位置と決定するものである,
    請求項1から4のうち,いずれか一項に記載の追尾枠の初期位置設定装置。
  6. 上記決定手段において算出された高周波数成分量が所定のしきい値以上とならないことに応じて,所定の領域の大きさを大きくして上記高周波数成分量の算出を行うように上記決定手段を制御する第1の制御手段,
    をさらに備えた請求項1から4のうち,いずれか一項に記載の追尾枠の初期位置設定装置。
  7. 上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,所定の領域の大きさを大きくして上記所定の色成分の成分量を算出するように上記色成分量算出手段を制御する第1の制御手段,
    をさらに備えた請求項5に記載の追尾枠の初期位置設定装置。
  8. 所定の領域の拡大指令を与える拡大指令手段,および
    上記拡大指令手段から拡大指令が与えられており,かつ上記特定周波数成分量算出手段によって算出された高周波数成分量が所定のしきい値以上とならないことに応じて,所定の領域を大きくして上記高周波数成分量の算出を行うように上記決定手段を制御する第1の制御手段
    をさらに備えた請求項に記載の追尾枠の初期位置設定装置。
  9. 所定の領域の拡大指令を与える拡大指令手段をさらに備え,
    上記第1の制御手段は,
    上記拡大指令手段から拡大指令が与えられており,かつ上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,所定の領域を大きくして上記所定の色成分の成分量を算出するように上記色成分量算出手段を制御するものである,
    請求項7に記載の追尾枠の初期位置設定装置。
  10. 所定の領域の拡大率を設定する拡大率設定手段をさらに備え,
    上記第1の制御手段は,
    上記決定手段において算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって所定の領域を大きくして,上記高周波数成分量の算出を行うように上記決定手段を制御するものである,
    請求項6に記載の追尾枠の初期位置設定装置。
  11. 所定の領域の拡大率を設定する拡大率設定手段をさらに備え,
    上記第1の制御手段は,
    上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記拡大率設定手段によって設定された拡大率にしたがって所定の領域を大きくして,上記所定の色成分の成分量を算出するように上記色成分量算出手段を制御するものである,
    請求項7に記載の追尾枠の初期位置設定装置。
  12. 上記決定手段において算出された高周波数成分量が所定のしきい値以上とならないことに応じて,上記被写体像を小さくして,上記高周波数成分量の算出を行うように上記決定手段を制御する第2の制御手段,
    をさらに備えた請求項1から11のうちいずれか一項に記載の追尾枠の初期位置設定装置。
  13. 上記色成分量算出手段によって算出された色成分量が所定のしきい値以上とならないことに応じて,上記被写体像を小さくして,上記所定の色成分の成分量を算出するように上記色成分量算出手段を制御する第3の制御手段,
    をさらに備えた請求項5に記載の追尾枠の初期位置設定装置。
  14. 上記決定手段において算出された高周波数成分量が所定のしきい値以上とならないことに応じて,エラーを報知する第1の報知手段,
    をさらに備えた請求項1から13のうちいずれか一項に記載の追尾枠の初期位置設定装置。
  15. 上記色成分量算出手段によって算出された色成分の成分量が所定のしきい値以上とならないことに応じて,エラーを報知する第2の報知手段,
    をさらに備えた請求項5に記載の追尾枠の初期位置設定装置。
  16. 上記第1の報知手段は,
    音声出力または移動枠の表示形態の変更によりエラーを報知するものである,
    請求項14に記載の追尾枠の初期位置設定装置。
  17. 上記第1の報知手段は,
    移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更によりエラーを報知するものである,
    請求項14に記載の追尾枠の初期位置設定装置。
  18. 上記第2の報知手段は,
    音声出力または移動枠の表示形態の変更によりエラーを報知するものである,
    請求項15に記載の追尾枠の初期位置設定装置。
  19. 上記第2の報知手段は,
    移動枠の色,線の種類もしくは形状または移動枠の点灯もしくは点滅手法の変更によりエラーを報知するものである,
    請求項15に記載の追尾枠の初期位置設定装置。
  20. 所定の領域よりも大きく,かつ上記被写体像以下の大きさである対象領域を設定する対象領域設定手段をさらに備え,
    上記追尾対象決定手段は,
    上記対象領域設定手段により設定された対象領域内の追尾対象のターゲット画像を決定するものである,
    請求項1から19のうち,いずれか一項に記載の追尾枠の初期位置設定装置。
  21. 所定の領域よりも大きく,かつ上記被写体像以下の大きさである対象領域であって,上記被写体像の中心が対象領域の中心と一致するように対象領域を上記被写体像に設定する対象領域設定手段をさらに備え,
    上記特定周波数成分量算出手段は,
    上記移動枠を上記対象領域の中心から外側に移動し,移動したごとに移動枠内の画像の高周波数成分量を算出するものである,
    請求項記載の追尾枠の初期位置設定装置。
  22. 所定の領域よりも大きく,かつ上記被写体像以下の大きさである対象領域であって,上記被写体像の中心が対象領域の中心と一致するように対象領域を上記被写体像に設定する対象領域設定手段をさらに備え,
    上記色成分量算出手段は,
    動枠を基準位置から外側に移動し,移動したごとに移動枠内の画像の所定の色成分の成分量を算出するものである,
    請求項に記載の追尾枠の初期位置設定装置。
  23. 上記特定周波数成分量算出手段は,
    上記移動枠を移動し,移動したごとに移動枠内の画像の低周波数成分量または高周波数成分を除いた中間周波数成分量を算出するものであり,
    上記決定手段は,
    上記特定周波数成分量算出手段によって算出された低周波数成分量または中間周波数成分量が所定のしきい値以上となる移動枠の位置を追尾枠の初期位置と決定するものである,
    請求項3に記載の追尾枠の初期位置設定装置。
  24. 上記被写体像を表す画像データにノイズ低減処理を行うノイズ低減処理手段をさらに備え,
    上記ノイズ低減処理手段によってノイズ低減処理された画像データによって表される上記被写体像について上記決定手段による処理を行うものである,
    請求項1から23のうちいずれか一項に記載の追尾枠の初期位置設定装置。
  25. 上記被写体像を表す画像データに偽色または偽信号低減処理を行う信号処理手段をさらに備え,
    上記信号処理手段によって偽色または偽信号低減処理された画像データによって表される上記被写体像について上記決定手段による処理を行うものである,
    請求項1から24のうちいずれか一項に記載の追尾枠の初期位置設定装置。
  26. 追尾枠の初期位置の決定処理を停止する指令を与える停止指令手段をさらに備え,
    上記停止指令手段から停止する指令が与えられたことに応じて,上記決定手段による処理を停止して,基準位置を追尾枠の初期位置と決定するものである,
    請求項1から25のうちいずれか一項に記載の追尾枠の初期位置設定装置。
  27. 上記特定周波数成分量算出手段は,
    撮像により得られた被写体像のうち,上記追尾対象決定手段により決定された追尾対象のターゲット画像と同じ距離値の画像部分が含まれる割合が枠内の所定の割合以上を占めるように移動枠を移動し,移動ごとに移動枠内の画像の高周波数成分の量を算出するものである,
    請求項3に記載の追尾枠の初期位置設定装置。
  28. 最大値優先設定モードまたは中央優先設定モードを設定するモード設定手段をさらに備え,
    上記モード設定手段による最大値優先設定モードが設定されたことに応じて,上記決定手段は,上記特定周波数成分量算出手段によって算出された高周波数成分量が最大となる移動枠の位置を追尾枠の初期位置と決定し,
    上記モード設定手段により中央優先設定モードが設定されたことに応じて,上記特定周波数成分量算出手段は,上記被写体像の中心から外側方向に向かって上記移動枠を移動し,移動ごとに移動枠内の画像の高周波数成分の量を算出するものであり,算出された高周波数成分量が所定しきい値以上となったことに応じて移動枠の移動を停止するものである,
    請求項3に記載の追尾枠の初期位置設定装置。
  29. 撮像により得られる被写体像のうち,上記決定手段によって決定された位置の追尾枠内の画像部分が表わす被写体までの距離と同じ距離値にある画像部分において追尾枠内の画像部分と同じ画像部分に追尾枠を移動する追尾手段,
    をさらに備えた請求項1から28のうち,いずれか一項に記載の追尾枠の初期位置設定装置。
  30. 上記追尾対象決定手段によって決定した位置に追尾枠を表示するように上記表示装置を制御する第1の表示制御手段,
    をさらに備えた請求項1から29のうち,いずれか一項に記載の追尾枠の初期位置設定装置。
  31. 上記決定手段により決定された追尾枠の初期位置と上記追尾対象決定手段によって決定した位置との位置ずれ量を表わすオフセット量を算出するオフセット量算出手段,および
    上記追尾手段による追尾において用いられる追尾枠から上記オフセット量算出手段によって算出されたオフセット量分ずれた位置に表示枠を表示するように上記表示装置を制御する第2の表示制御手段,
    をさらに備えた請求項29に記載の追尾枠の初期位置設定装置。
  32. 連続して被写体を撮像して得られる被写体像に含まれる追尾対象のターゲット画像を特定する追尾枠の初期位置設定装置の動作制御方法において,
    表示装置が,撮像により得られた被写体像を表示し,
    距離情報生成手段が,撮像範囲に含まれる被写体までの距離または距離に相当する値である距離値を表わす距離情報を生成し,
    追尾対象決定手段が,追尾対象のターゲット画像を決定し,
    決定手段が,撮像により得られた被写体像のうち,上記追尾対象決定手段により決定された追尾対象のターゲット画像によって表わされる被写体までの距離値と同じ距離値の被写体を表わす画像部分において所定の領域ごとに高周波数成分の量を算出し,算出された高周波数成分の量が所定のしきい値以上または最大となる領域の位置を追尾枠の初期位置と決定する,
    追尾枠の初期位置設定装置の動作制御方法。
JP2013536096A 2011-09-30 2012-08-29 追尾枠の初期位置設定装置およびその動作制御方法 Expired - Fee Related JP5612774B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013536096A JP5612774B2 (ja) 2011-09-30 2012-08-29 追尾枠の初期位置設定装置およびその動作制御方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011216090 2011-09-30
JP2011216090 2011-09-30
PCT/JP2012/071843 WO2013047066A1 (ja) 2011-09-30 2012-08-29 追尾枠の初期位置設定装置およびその動作制御方法
JP2013536096A JP5612774B2 (ja) 2011-09-30 2012-08-29 追尾枠の初期位置設定装置およびその動作制御方法

Publications (2)

Publication Number Publication Date
JP5612774B2 true JP5612774B2 (ja) 2014-10-22
JPWO2013047066A1 JPWO2013047066A1 (ja) 2015-03-26

Family

ID=47995114

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013536096A Expired - Fee Related JP5612774B2 (ja) 2011-09-30 2012-08-29 追尾枠の初期位置設定装置およびその動作制御方法

Country Status (4)

Country Link
US (1) US8879794B2 (ja)
JP (1) JP5612774B2 (ja)
CN (1) CN104041005B (ja)
WO (1) WO2013047066A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4715909B2 (ja) * 2008-12-04 2011-07-06 ソニー株式会社 画像処理装置及び方法、画像処理システム、並びに、画像処理プログラム
JP5935779B2 (ja) * 2013-09-30 2016-06-15 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
KR102396036B1 (ko) 2015-05-18 2022-05-10 엘지전자 주식회사 디스플레이 디바이스 및 그 제어 방법
JP6389801B2 (ja) * 2015-05-27 2018-09-12 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP6924064B2 (ja) * 2016-06-21 2021-08-25 キヤノン株式会社 画像処理装置およびその制御方法、ならびに撮像装置
TWI659651B (zh) * 2017-09-29 2019-05-11 圓展科技股份有限公司 影像物件的追蹤方法
CN109671291B (zh) * 2018-11-21 2021-06-04 山东远瞻信息科技有限公司 一种基于智能传感器的全景监控方法
EP3964812A4 (en) * 2019-05-30 2022-06-29 Panasonic Intellectual Property Management Co., Ltd. Moving body stress analysis device
CN113379985B (zh) * 2020-02-25 2022-09-27 北京君正集成电路股份有限公司 一种看护电子围栏报警装置
CN113379984B (zh) * 2020-02-25 2022-09-23 北京君正集成电路股份有限公司 一种电子看护围栏系统
CN116721134B (zh) * 2023-08-10 2023-10-10 武汉能钠智能装备技术股份有限公司四川省成都市分公司 一种无特征目标的跟踪系统及其方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09243904A (ja) * 1996-03-05 1997-09-19 Eastman Kodak Japan Kk 画像の構図変化検出方法
JP2001111882A (ja) * 1999-10-04 2001-04-20 Canon Inc 被写体検出装置、画像処理装置、画像処理システム、被写体検出方法、画像処理方法、及び記憶媒体
JP2009111716A (ja) * 2007-10-30 2009-05-21 Nikon Corp 撮像装置、プログラムおよびテンプレート生成方法
JP2011160062A (ja) * 2010-01-29 2011-08-18 Fujifilm Corp 追尾枠の初期位置設定装置およびその動作制御方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2635246B2 (ja) 1991-08-28 1997-07-30 三菱電機株式会社 先行車追尾用車間距離検出装置
JP3215002B2 (ja) * 1995-02-14 2001-10-02 株式会社三協精機製作所 炎探知装置
JP2005114588A (ja) 2003-10-08 2005-04-28 Mitsubishi Heavy Ind Ltd 追尾装置
JP4596246B2 (ja) 2004-12-28 2010-12-08 富士フイルム株式会社 オートフォーカスシステム
JP4552997B2 (ja) * 2007-11-16 2010-09-29 カシオ計算機株式会社 撮像装置及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09243904A (ja) * 1996-03-05 1997-09-19 Eastman Kodak Japan Kk 画像の構図変化検出方法
JP2001111882A (ja) * 1999-10-04 2001-04-20 Canon Inc 被写体検出装置、画像処理装置、画像処理システム、被写体検出方法、画像処理方法、及び記憶媒体
JP2009111716A (ja) * 2007-10-30 2009-05-21 Nikon Corp 撮像装置、プログラムおよびテンプレート生成方法
JP2011160062A (ja) * 2010-01-29 2011-08-18 Fujifilm Corp 追尾枠の初期位置設定装置およびその動作制御方法

Also Published As

Publication number Publication date
CN104041005A (zh) 2014-09-10
US8879794B2 (en) 2014-11-04
WO2013047066A1 (ja) 2013-04-04
CN104041005B (zh) 2015-12-23
JPWO2013047066A1 (ja) 2015-03-26
US20140211997A1 (en) 2014-07-31

Similar Documents

Publication Publication Date Title
JP5612774B2 (ja) 追尾枠の初期位置設定装置およびその動作制御方法
JP6288952B2 (ja) 撮像装置およびその制御方法
US8531539B2 (en) Image capturing device, method for image capturing, and computer readable recording medium
JP4460560B2 (ja) 撮像装置及び撮影方法
KR101521441B1 (ko) 촬상장치, 촬상장치의 제어 방법, 및 기억매체
JP5331128B2 (ja) 撮像装置
JP5526233B2 (ja) 立体視用画像撮影装置およびその制御方法
JP6223059B2 (ja) 撮像装置、その制御方法およびプログラム
US8269819B2 (en) Image generating apparatus for generating three-dimensional image having high visibility
JP2015012482A (ja) 画像処理装置及び画像処理方法
JP5142825B2 (ja) 画像表示装置及び画像表示方法
US20130083169A1 (en) Image capturing apparatus, image processing apparatus, image processing method and program
JP5398562B2 (ja) 追尾枠の初期位置設定装置およびその動作制御方法
US20230379570A1 (en) Imaging apparatus, method of controlling imaging apparatus, and program
JP2011160062A5 (ja)
WO2013005477A1 (ja) 撮像装置、立体画像撮像方法及びプログラム
JP2008219367A (ja) 撮像装置及び撮像方法
JP2013175805A (ja) 表示装置および撮像装置
JP7134601B2 (ja) 画像処理装置、画像処理方法、撮像装置及び撮像装置の制御方法
JP5229371B2 (ja) 撮像装置
KR20160078878A (ko) 화상 처리 장치, 화상 처리 방법 및 프로그램
JP6346398B2 (ja) 撮像装置および撮像方法
JP5168424B2 (ja) 撮像装置
JP6409083B2 (ja) 撮像装置、撮像方法および撮像プログラム
JP2017184144A (ja) 画像処理装置、撮像装置、および画像処理プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140716

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140812

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140904

R150 Certificate of patent or registration of utility model

Ref document number: 5612774

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees