以下、添付図面を参照して、本発明に係るAF枠自動追尾システムについて詳細に説明する。
図1は、本発明に係るAF枠自動追尾システムの全体構成を示したブロック図である。同図に示すAF枠自動追尾システム1には、放送用又は業務用で使用されるテレビカメラ10と、AF枠自動追尾装置を構成する画像処理ユニット18及びAF枠操作部20とから構成されている。
テレビカメラ10は、ハイビジョンテレビ[HD(High Definition)TV]方式に対応したHDカメラからなるカメラ本体14と、カメラ本体14のレンズマウントに装着される撮影レンズ(光学系)を備えたレンズ装置12とから構成される。
カメラ本体14には、撮像素子(例えばCCD)や所要の信号処理回路等が搭載されており、レンズ装置12の撮影レンズにより結像された像は、撮像素子により光電変換された後、信号処理回路によって所要の信号処理が施されてHDTV方式の映像信号(HDTV信号)として、カメラ本体14の映像信号出力端子等から外部に出力される。
また、カメラ本体14には、ビューファインダ16が設置されており、そのビューファインダ16にテレビカメラ10の撮影映像が表示されるようになっている。また、ビューファインダ16には、撮影映像以外の各種情報が表示されるようになっており、例えば、現在の設定されているAF枠の範囲(位置、大きさ、形状)を示す画像(枠画像)が撮影映像に重畳されて表示されるようになっている。AF枠はオートフォーカス(AF)によりピントを合わせる被写体の範囲(輪郭)を示す。
レンズ装置12は、カメラ本体14のレンズマウントに装着される撮影レンズ(ズームレンズ)を備えており、その撮影レンズにより、被写体28がカメラ本体14の撮像素子の撮像面に結像されるようになっている。撮影レンズには、図示を省略するが、その構成要素としてフォーカスレンズ群、ズームレンズ群、絞りなどの撮影条件を調整するための可動部が設けられており、それらの可動部は、モータ(サーボ機構)によって電動駆動されるようになっている。例えば、フォーカスレンズ群やズームレンズ群は光軸方向に移動し、フォーカスレンズ群が移動することによってフォーカス(被写体距離)調整が行われ、またズームレンズ群が移動することによって焦点距離(ズーム倍率)調整が行われる。
尚、AFに関するシステムにおいては、少なくともフォーカスレンズ群が電動で駆動できればよく、その他の可動部は手動でのみ駆動可能であってもよい。
また、レンズ装置12には、AFユニット40及び図示しないレンズCPU等が搭載されている。レンズCPUはレンズ装置12全体を統括制御するものである。また、AFユニット40は、AFによるフォーカス制御(自動ピント調整)を行うために必要な情報を取得するための処理部であり、図示を省略するが、AF処理部、AF用撮像回路等から構成されている。
AF用撮像回路はAF処理用の映像信号を取得するためにレンズ装置12に配置されており、CCD等の撮像素子(AF用撮像素子という)やAF用撮像素子の出力信号を所定形式の映像信号として出力する処理回路等を備えている。尚、AF用撮像回路から出力される映像信号は輝度信号である。
AF用撮像素子の撮像面には、撮影レンズの光路上に配置されたハーフミラー等によってカメラ本体14の撮像素子に入射する被写体光から分岐された被写体光が結像するようになっている。AF用撮像素子の撮像エリアに対する撮影範囲及び被写体距離(ピントが合う被写体の距離)は、カメラ本体14の撮像素子の撮像エリアに対する撮影範囲及び被写体距離に一致するように構成されており、AF用撮像素子により取り込まれる被写体画像は、カメラ本体14の撮像素子により取り込まれる被写体画像と一致している。なお、両者の撮影範囲に関しては完全に一致している必要はなく、例えば、AF用撮像素子の撮影範囲の方がカメラ本体14の撮像素子の撮影範囲を包含する大きな範囲であってもよい。
AF処理部は、AF用撮像回路から映像信号を取得し、その映像信号に基づいてAFの対象範囲とするAFエリア(AF枠)の範囲内における被写体画像のコントラストの高低を示す焦点評価値を算出する。例えば、AF用撮像素子から得られた映像信号から高域周波数成分の信号をハイパスフィルタによって抽出した後、その高域周波数成分の信号のうち後述のようにして設定されるAFエリアに対応する範囲の信号を1画面(1フレーム)分ずつ積算する。このようにして1画面分ごとに得られる積算値はAFエリア内の被写体画像のコントラストの高低を示し、その積算値が焦点評価値としてレンズCPUに与えられる。
レンズCPUは、AFエリアの範囲(輪郭)を示すAF枠の情報(AF枠情報)を、後述するように画像処理ユニット18から取得し、そのAF枠情報により指定されたAF枠内の範囲をAFエリアとしてAF処理部に指定する。そして、そのAFエリア内の画像(映像信号)により求められる焦点評価値をAF処理部から取得する。
このようにしてAF用撮像回路から1画面分の映像信号が取得されるごとに(AF処理部で焦点評価値が求められるごとに)AF処理部から焦点評価値を取得すると共に、取得した焦点評価値が最大(極大)、即ち、AF枠内の被写体画像のコントラストが最大となるようにフォーカスレンズ群を制御する。例えば、焦点評価値に基づくフォーカスレンズ群の制御方式として山登り方式が一般的に知られており、フォーカスレンズ群を焦点評価値が増加する方向に移動させて行き、焦点評価値が減少し始める点を検出すると、その位置にフォーカスレンズ群を設定する。これにより、AF枠内の被写体に自動でピントが合わせられる。
尚、上述のAF処理部は、焦点評価値を算出するために、レンズ装置12に搭載されたAF用撮像素子から映像信号を取得しているが、カメラ本体14の撮像素子より撮影された映像の映像信号をカメラ本体14から取得するような構成としてもよい。また、AF枠内の被写体に自動でピントを合わせるためのAF手段はどのようなものであってもよい。
ここで、AFエリア200は、図2に示すようにカメラ本体14における撮像素子の撮像エリア202(又は撮影範囲)に対して四角形状の領域として設定され、その輪郭を示す枠204がAF枠を示し、撮像素子のAFエリア200(AF枠204内)の範囲で撮影される被写体がAFによりピントを合わせる対象となる。
尚、本明細書では、撮像エリア202に対するAF枠204(AFエリア200)の範囲は、AF枠204の位置、大きさ、及び、形状(縦横比)の3つの要素によって決まるものとし、AF枠の位置、大きさ、及び、形状の3つの要素のうち、少なくとも1つの要素が変更された場合にはAF枠の範囲が変更されたものとする。
また、レンズ装置12は、ケーブルを介して、又は、直接的にカメラ本体14と接続され、レンズ装置12とカメラ本体14の各々に設けられたシリアル通信インターフェース(SCI)12a、14aを通じて各種情報のやり取りが行えるようになっている。これによりAFユニット40において現在設定されているAF枠の情報もカメラ本体14に送信され、カメラ本体14内での処理によってビューファインダ16に表示される撮影映像に現在設定されているAF枠の位置、大きさ、形状に対応したAF枠の画像が重畳表示されるようになっている。
画像処理ユニット18は、AF枠自動追尾装置の構成要素であり、レンズ装置12のAFユニット40において設定されるAF枠の範囲(位置、大きさ、形状(縦横比))を後述のマニュアル操作又はAF枠自動追尾の処理により指定するための処理部である。例えば、筐体内に納められて、レンズ装置12の撮影レンズの鏡胴側部やカメラ本体14の筐体外壁面等に設置される。尚、画像処理ユニット18をレンズ装置12やカメラ本体14に設置する位置はこれに限らず他の任意の位置に設置するようにしてもよく、また、レンズ装置12やカメラ本体14以外の部分に配置するようにしてもよい。
画像処理ユニット18は、SCI58を備えており、そのSCI58は、レンズ装置12に接続され、SCI12aを通じてレンズCPUとの間で各種信号のやり取りが行えるようになっている。これにより、AF枠の範囲を指定するAF枠情報が画像処理ユニット18からレンズ装置12のレンズCPUに与えられ、そのAF枠情報に基づいてAFユニット40におけるAF枠の範囲が設定される。
また、画像処理ユニット18には映像信号を取り込むための映像入力コネクタが設けられており、その映像入力コネクタにカメラ本体14の映像出力コネクタがダウンコンバータ46を介してケーブルで接続される。これによって、カメラ本体14の映像出力コネクタから出力されたHDTV信号が、ダウンコンバータ46によって、標準テレビ[NTSC(National Television System Committee)]方式の映像信号(SDTV信号)に変換(ダウンコンバート)されて、画像処理ユニット18に入力されるようになっている。
詳細は後述するが画像処理ユニット18は、AF枠自動追尾処理を実行する際に、カメラ本体14から入力された映像信号から1コマ分の撮撮画像を順次取り込み、撮影画像の中から所定の追尾対象の被写体を検出する処理を行う。そして、AFによりその被写体にピントが合わせられるようにAF枠の範囲を決定し、決定したAF枠の範囲をレンズ装置12のレンズCPUに送信する。尚、画像処理ユニット18の構成及び処理内容については後述する。
AF枠操作部20は、AF枠自動追尾装置の構成要素であり、画像処理ユニット18と一体の装置として設けられる。尚、AF枠操作部20の一部又は全てが、画像処理ユニット18とは別体の装置として構成され、画像処理ユニット18とケーブル等で接続される態様であってもよい。また、本実施形態では、後述するタッチパネル付き液晶ディスプレイ(LCD)66は、画像処理ユニット18から取り外し可能に構成されている。
AF枠操作部20は、主にAF枠の制御に関する操作を行うための操作部であり、AF枠の範囲を操作者がマニュアル操作で指示入力するための操作部材や、AF枠を所望の被写体に自動で追尾させるAF枠自動追尾に関する操作を行うための操作部材を備えている。
詳細は省略するが、AF枠操作部20には、AF枠の位置をユーザの手動操作により上下左右に移動させるための位置操作部材60(例えば、ジョイスティックやトラックボール)、AF枠の大きさを手動操作により変更するためのサイズ操作部材62(例えば、ツマミ)、AF枠の形状を手動操作により変更するための形状操作部材64(例えば、ツマミ)、AF枠自動追尾の開始を指示する追尾開始スイッチ68、AF枠自動追尾の停止を指示する追尾停止スイッチ70が設けられており、これらの操作部材60、62、64、68、70の設定状態が、画像処理ユニット18におけるメインボード30のCPU38により読み取られるようになっている。
また、AF枠操作部20には、タッチパネル付き液晶ディスプレイ(以下、LCDという。)66が設けられている。LCD66は、AF枠自動追尾に関するモード等の設定をタッチ操作(タップ操作)で入力できるようにしたもので、画像処理ユニット18のCPU38によりLCD66に表示される画像が設定内容に応じて適宜切り換えられるようになっている。
尚、本実施の形態では、後述する全自動追尾モードによるAF枠自動追尾のみが行われる場合には、AF枠操作部20の各操作部材60、62、64、68、70の一部又は全てが設けられていなくてもよい。また、LCD66も必ずしも設けられていなくてもよい。後述する全自動追尾モードによれば、これらの操作部材60、62、64、68、70や、LCD66の操作を必要とすることなく、AF枠の自動追尾が可能であり、ハンディカメラのようなAF枠操作装置の設置がスペース上困難な小型のカメラに好ましく適用することができる。もし、スペース的に問題なく、操作性にも影響を与えなければ各操作部材60、62、64、68、70の一部又は全て、或いはLCD66を適宜設けて、AF枠の位置をマニュアルで変更できるようにしてもよい。
次に画像処理ユニット18の構成及び処理内容について説明する。
画像処理ユニット18は、主としてメインボード30、パターンマッチング処理演算ボード32、顔認識処理演算ボード34から構成されている。メインボード30、パターンマッチング処理演算ボード32、顔認識処理演算ボード34の各々にはCPU38、50、52が搭載されており、各ボード毎に個別の演算処理が行われると共に、各CPU38、50、52は、バスや制御線で接続され、相互にデータのやり取りや、演算処理の同期等が図られるようになっている。
画像処理ユニット18における処理は、メインボード30において統括的に行われるようになっている。そのメインボード30には、演算処理を行う上記CPU38の他に、SCI58、デコーダ(A/D変換器)36、スーパーインポーザ42、RAM39等が搭載されている。
SCI58は、上述のようにレンズ装置12のSCI12aとの間でシリアル通信を行うためのインターフェース回路であり、上記AF枠情報等をレンズ装置12に送信する。
デコーダ36は、上記ダウンコンバータ46から画像処理ユニット18に入力されるテレビカメラ10の撮影映像の映像信号(SDTV信号)を、画像処理ユニット18においてデジタル処理可能なデータに変換するための回路であり、アナログのSDTV信号をデジタルデータの映像信号に変換するA/D変換処理等を行っている。このデコーダ36から出力される撮影映像の映像信号は、パターンマッチング処理演算ボード32や顔認識処理演算ボード34にも送られ、パターンマッチング処理演算ボード32や顔認識処理演算ボード34においてもテレビカメラ10の撮影映像を1コマ単位の撮影画像として取得することができるようになっている。
尚、画像処理ユニット18は、CPU38により書込み・読出し可能なメモリ等も備えており、処理データの記憶などに適宜使用される。また、このメモリには、後述する全自動追尾モードにおけるAF枠設定処理(図4のステップS10)において設定されるAF枠の位置、大きさ、形状に関する情報が記憶されている。このAF枠の位置、大きさ、形状に関する設定情報は、操作者(カメラマン)の好みに応じてAF枠操作部20の所定操作により変更可能に構成されていることが好ましい。
スーパーインポーザ42は、上記のデコーダ36により得られた撮影映像の映像信号と、CPU38により生成される画像信号とを合成し、その合成した映像信号をLCD66に出力・表示する回路である。これにより、カメラ本体14に設置されているビューファインダ16と同様にテレビカメラ10の撮影映像がLCD66に表示されると共に、その撮影映像に重ねて、現在設定されているAF枠の範囲を示すAF枠の画像や、タッチパネルでの入力操作を行えるようにしたメニュー画面(メニュー画像)等がLCD66に表示される。尚、撮影映像に重畳させることなくCPU38で生成された画像のみを表示させることも当然可能である。
RAM39は、CPU38の演算処理において使用するデータを一時的に格納するメモリである。
一方、パターンマッチング処理演算ボード32や顔認識処理演算ボード34は、パターンマッチングと顔検出・認証処理を個別に行うための演算ボードであり、各々、演算処理を行うCPU50、52の他に画像データを一時的に格納するVRAM54、56等を備えている。
また、画像処理ユニット18には、SD(Secure Digital)カードやUSBメモリなどの外部メモリとして顔認証データカード74を装填するスロット(不図示)が設けられており、顔認識により特定の人物の顔を検出する際に、その特定の人物の顔を示す認証データを予め顔認証データカード74に保存しておき、その顔認証データカード74をスロットに装填することで、顔認識に必要な認証データを顔認証データカード74からCPU38が読み込めるようになっている。
続いて、上記のごとく構成された画像処理ユニット18によるAF枠の制御についてLCD66の表示及び操作に関する処理と共に説明する。
図3に示すようにLCD66の画面66aには、テレビカメラ10の撮影映像に重畳して各種ボタン300〜312からなるメニュー画面(メニュー画像)と、現在設定されているAF枠の範囲を示すAF枠の画像204(単にAF枠204という)が表示される。メニュー画面の各種ボタン300〜312やAF枠204のように撮影映像に重畳される画像は、図1に示した画像処理ユニット18におけるメインボード30のCPU38により生成され、それらの画像が、スーパーインポーザ42においてデコーダ36から出力されるテレビカメラ10の撮影映像に重畳されてLCD66に表示されるようになっている。尚、LCD66の表示(表示内容)に関する制御はCPU38により行われるものである。
一方、LCD66はタッチパネルを備えており、LCD66の画面66aに対して指先等が触れるタッチ操作が行われると、触れた位置(座標)を示す位置情報がCPU38に与えられるようになっている。これにより、LCD66の画面66aに対して行われたタッチ操作の位置や操作の種類(タップ操作、ダブルタップ操作等)がCPU38により検出されるようになっている。そして、その操作に従った処理がCPU38により実行されるようになっている。
LCD66の画面66aにおける基本的な操作として、各ボタン300〜312に予め割り当てられた指示を入力する操作や、AF枠204の範囲を指定する操作があり、前者の操作は、各ボタン300〜312の位置を指先等でタップ操作するものである。後者のAF枠204の範囲を指定する操作は、例えば、撮影映像が表示されたLCD66の画面66a上において、AF枠204を移動させたい位置をタップ操作すれば、その位置が中心となるようにAF枠204を移動させることができる。また、AF枠204の頂点や辺を指先等でタッチしてそのままスライドするドラッグ操作によってドラッグ操作した位置までタッチした頂点や辺の位置を移動させてAF枠204の大きさや形状を変更することができる。
尚、AF枠204の位置、大きさ、形状は、AF枠操作部20の位置操作部材60、サイズ操作部材62、形状操作部材64の操作でも変更可能である。
LCD66の画面66aに表示されるメニュー画面(メニュー画像)について説明すると、図3において、”固定”と表示された固定モード選択ボタン300、”物体追尾”と表示された物体追尾モード選択ボタン302、”顔検出”と表示された顔検出追尾モード選択ボタン304、”顔認識”と表示された顔認識追尾モード選択ボタン306、”全自動追尾”と表示された全自動追尾モード選択ボタン308は、AF枠の制御モードを選択するボタンであり、これらのボタン300〜308のいずれかをタップ操作することで、固定モード、物体追尾モード、顔検出追尾モード、顔認識追尾モード、全自動追尾モードのうちから所望のモードを選択することできるようになっている。
固定モードは、AF枠の範囲(位置、大きさ、形状)を操作者がマニュアル操作で指定し、その指定した位置にAF枠を固定するモード(マニュアルモード)である。この固定モードは、カメラをほとんど動かさないニュース番組などでの撮影に有益なモードである。
図3のLCD66の画面66aにおいて固定モード選択ボタン300をタップ操作すると固定モードが選択され、画像処理ユニット18のメインボード30に搭載されたCPU38は、固定モードの処理を実行する。
即ち、CPU38は、上記のようにLCD66の画面66aに対するAF枠の範囲を変更する操作や、AF枠操作部20に設けられたAF枠204をマニュアル操作で変更するための操作部材(位置操作部材60、サイズ操作部材62、形状操作部材64)の操作に基づいてAF枠の範囲を決定する。CPU38は、AF枠の範囲を決定すると、そのAF枠の範囲を示すAF枠情報をSCI58を通じてレンズ装置12のレンズCPUに送信する。
物体追尾モードは、AF枠の自動追尾を行う1つのモードであり、任意の種類の物体をAF枠で追尾させるモードである。この物体追尾モードは、人物の顔以外を追尾する競馬中継、カ−レース中継などでの撮影に有益なモードである。このモードでは、撮影映像に対して操作者が追尾対象としたい任意の物体の画像を含むようにAF枠の範囲を指定すると、その範囲の物体が追尾対象として設定される。そして、その追尾対象の画像が基準パターンとして登録され、パターンマッチング処理演算ボード32のCPU50において、順次得られる撮影画像に対して、基準パターンに一致する画像範囲を検出するためのパターンマッチング処理が行われる。メインボード30のCPU38は、その基準パターンが検出された範囲をAF枠の範囲として決定し、レンズ装置12のレンズCPUに送信する。尚、AF枠自動追尾を開始する際にレンズ装置12においてAFによるフォーカス制御が行われていない場合(AFモードとなっていない場合)には、AF枠自動追尾の開始と連動してAFの開始も指示される。
顔検出追尾モードは、AF枠の自動追尾を行う1つのモードであり、任意の人物の顔をAF枠で追尾させるモードである。この顔検出追尾モードは、人物の顔を検出して追尾する歌謡番組などでの撮影に有益なモードである。このモードでは、まず、顔認識処理演算ボード34のCPU52において撮影画像の中から任意の人物の顔画像を検出するための周知の顔検出処理が行われる。そして、検出された顔画像の中から追尾対象とする顔画像を操作者が指定すると、その顔画像が追尾対象として設定される。以後、順次得られる撮影画像に対して顔認識処理演算ボード34のCPU52により顔検出処理が行われると共に、検出された顔画像の中から追尾対象の顔画像を特定する処理がメインボード30のCPU38により行われる。メインボード30のCPU38は、検出された追尾対象の顔画像の範囲をAF枠の範囲として決定し、レンズ装置12のレンズCPUに送信する。
顔認識追尾モードは、AF枠の自動追尾を行う1つのモードであり、事前に認証データとして登録した人物の顔をAF枠で追尾させるモードである。この顔認識追尾モードは、撮影する人物が事前に決まっている歌謡番組やスポーツ中継などでの撮影に有益なモードである。このモードでは、図1に示したスロット(不図示)に装填された顔認証データカード74から追尾対象とする人物の顔の認証データが取り込まれる。そして、顔検出追尾モードと同様に顔認識処理演算ボード34のCPU52において顔検出処理が行われると共に、検出された顔画像の中から追尾対象の顔画像が認証データを用いた周知の顔認証処理により検出される。メインボード30のCPU38は、検出された追尾対象の顔画像の範囲をAF枠の範囲として決定し、レンズ装置12のレンズCPUに送信する。
全自動追尾モードは、AF枠自動追尾を行う1つのモードであり、AF枠自動追尾の開始の指示を操作者が行うことなく、AF枠の範囲内の被写体(物体または人物の顔)の判別結果に応じて、上述した顔検出追尾モード又は物体追尾モードによるAF枠の自動追尾が自動的に開始されるモードである。この全自動追尾モードについては、後で詳しく説明する。
尚、図3において、”セット”と表示されたセットボタン310と、”リセット”と表示されたリセットボタン312は、AF枠自動追尾の開始と停止を指示するボタンであり、これらのボタン310、312は、AF枠自動追尾の開始又は停止の指示を操作者が行う制御モード(物体追尾モード、顔検出モード)が選択された場合にのみ表示される。尚、これらのセットボタン310とリセットボタン312は、AF枠操作部20の追尾開始スイッチ68と追尾停止スイッチ70(図1参照)と同様に作用するボタンである。
続いて、上記のごとく構成された画像処理ユニット18によるAF枠自動追尾において全自動追尾モードが選択されたときの処理について説明する。図4は、画像処理ユニットのCPUにおける全自動追尾モードが選択されたときのAF枠自動追尾の処理手順を示したフローチャートである。
所定操作によって全自動追尾モードが選択されると、まず、メインボード30のCPU38は、AF枠の範囲を設定するAF枠設定処理を行う(ステップS10)。このAF枠設定処理では、メインボード30のメモリ(不図示)に記憶されているAF枠の位置、大きさ、形状に関する情報に基づいて、AF枠が撮影範囲(撮像エリア)の所定位置(例えば中心位置)となるように設定する。そして、このようにして設定したAF枠の範囲(位置、大きさ、形状)を示すAF枠情報をSCI58を通じてレンズ装置12のレンズCPUに送信する。これによって、レンズ装置12のAFユニット40において設定されるAF枠の範囲がAF枠情報により指定した範囲となる。
尚、メインボード30のCPU38は、LCD66が接続されているか否かを判断し、LCD66が接続されていないと判断した場合には、全自動追尾モードが選択されているものとして図4に示したフローチャートに従って各処理を行うようになっている。
続いてCPU38からの指示により顔認識処理演算ボード34のCPU52は、デコーダ36から1コマ分の撮影画像の画像データを取り込む(ステップS12)。そして、その撮影画像の中に含まれる任意の人物の顔(顔画像)を検出する周知の顔検出処理を行う(ステップS14)。尚、AF枠の範囲を含むAF枠の周辺部分に限定して顔検出処理を行うようにしてもよい。そして、検出した顔画像の範囲をメインボード30のCPU38に通知する。
次にCPU38は、ステップS14における顔検出処理によりAF枠内に顔が検出されたか否かを判定する(ステップS16)。ここで、検出された顔の一部がAF枠の範囲内となっている場合には、その顔がAF枠内に検出されたものとする。
このステップS16においてNOと判定した場合には、ステップS20〜ステップS30のパターンマッチング処理によるAF枠自動追尾の処理に移行し、YESと判定した場合には、ステップS40〜ステップS50の顔検出処理によるAF枠自動追尾の処理に移行する。
ステップS16においてNOと判定した場合、即ち、AF枠の範囲内に設定された追尾対象の被写体が顔以外の物体と判定した場合には、CPU38(及びパターンマッチング処理演算ボード32のCPU50)は、ステップS20〜ステップS30のパターンマッチング処理によるAF枠自動追尾の処理を開始する。この場合、CPU38は、まず、ステップS12により取り込んだ撮影画像のうちAF枠の範囲内の画像を基準パターンの画像として登録(記憶)する(ステップS20)。そして、以下のステップS22〜S30の処理を繰り返し実行する。
基準パターンの画像を登録すると、CPU38からの指示によりパターンマッチング処理演算ボード32のCPU50は、デコーダ36から1コマ分の撮影画像の画像データを取り込む(ステップS22)。そして、CPU50は、パターンマッチング処理を行って、撮影画像の中から基準パターンの画像に一致する画像範囲を検出する(ステップS24)。そして、その検出した画像範囲をメインボードのCPU38に通知する。
続いて、CPU38は、基準パターンの画像が移動したか否か、即ち、基準パターンを検出した画像範囲が、現在設定されているAF枠の範囲と相違しているか否かを判定する(ステップS26)。尚、撮影画像内での基準パターンの画像の大きさが変化した場合もこの判定処理でYESと判定される。
ステップS26においてYESと判定した場合には、ステップS24において検出した画像範囲を新たなAF枠の範囲として設定(更新)し、そのAF枠の範囲を示すAF枠情報をレンズ装置12のレンズCPUに送信する(ステップS28)。
また、ステップS24において検出した画像範囲の画像を新たな基準パターンの画像として更新する(ステップS30)。
ステップS26においてNOと判定した場合には、ステップS28におけるAF枠の更新は行わず、ステップS30における基準パターンの更新のみを行う。
ステップS30の処理が終了すると、ステップS22の処理に戻る。
尚、操作者によりAF枠自動追尾の停止を指示する操作、即ち、追尾停止スイッチがオンされると、AF枠自動追尾の処理を停止し、ステップS10に戻る。即ち、AF枠が撮影画像の所定位置(例えば中心位置)に戻されて固定され、AF枠自動追尾が実行されなくなる。
また、操作者によって追尾対象の被写体を撮影画像から意図的に外すカメラ操作が行われた場合にも、追尾停止スイッチがオンされた場合と同様、AF枠自動追尾の処理を停止するようにしてもよい。簡易な操作でAF枠自動追尾を停止させることができる。
一方、ステップS16においてYESと判定した場合、即ち、AF枠の範囲内に設定された追尾対象の被写体が顔であると判定した場合には、CPU38(及び顔認識処理演算ボード34のCPU52)は、ステップS40〜ステップS50の顔検出処理によるAF枠自動追尾の処理を開始する。この場合、CPU38は、まず、AF枠の範囲内に検出された顔に適合する位置、大きさ、形状の範囲となるようにAF枠の範囲を変更(更新)する(ステップS40)。例えば、ステップS14の顔検出処理により検出した際の顔と認識した範囲をAF枠の範囲に変更する。そして、ステップS42〜ステップS50の処理を繰り返す。
ここで、ステップS40のAF枠更新処理について詳しく説明すると、メインボード30のCPU38は、まず、ステップS14における顔検出処理によりAF枠内に検出された顔が1つか否かを判定する(ステップS60)。
このステップS60においてYESと判定した場合、即ち、AF枠の範囲内に検出された顔は1つであると判定した場合には、CPU38は、顔検出処理により検出された顔を追尾対象(AF対象)としてその顔の範囲(顔枠)をAF枠の範囲に変更(更新)する(ステップS62)。
一方、ステップS60においてNOと判定した場合、即ち、ステップS16における顔検出処理によりAF枠の範囲内に検出された顔は複数であると判定した場合には、CPU38は、これらの複数の顔の大きさに差があるか否かを判定する(ステップS64)。
このステップS64においてYESと判定した場合、即ち、顔検出処理により検出された複数の顔の大きさに差があると判定した場合には、CPU38は、これらの複数の顔のうち最も大きい顔の範囲をAF枠の範囲に変更(更新)する(ステップS66)。
一方、ステップS64においてNOと判定した場合、即ち、顔検出処理により検出された複数の顔の大きさに差がないと判定した場合には、CPU38は、これらの複数の顔のうちAF枠の範囲の中央側に位置する顔の範囲をAF枠の範囲に変更(更新)する(ステップS68)。
このようにステップS40のAF枠更新処理では、AF枠内に複数の人物の顔画像が検出された場合には、複数の顔画像の大きさに差がある場合には最も大きい顔画像を追尾対象(AFの対象)としてその顔画像の範囲(顔枠)にAF枠が設定され、複数の顔画像の大きさに差がない場合(各顔画像の大きさが同一の場合)にはAF枠内の中央側に位置する顔画像を追尾対象(AFの対象)としてその顔画像の範囲(顔枠)にAF枠が設定される。
次に、CPU38の指示により顔認識処理演算ボード34のCPU52は、デコーダ36から1コマ分の撮影画像の画像データを取り込む(ステップS42)。そして、CPU52は、ステップS14と同様に、その撮影画像の中に含まれる任意の人物の顔を検出する顔検出処理を行う(ステップS44)。そして、検出した顔画像の範囲をメインボード30のCPU38に通知する。
続いて、CPU38は、検出された顔画像の範囲のうち、現在設定されているAF枠の範囲に最も近接したものを追尾対象の顔画像の範囲として検出する(ステップS46)。尚、ステップS46において、顔を検出する範囲を撮影画像全体の範囲ではなく、現在設定されているAF枠の位置の周辺部分に制限してもよい。
そして、CPU38は、追尾対象の顔が移動したか否か、即ち、検出した顔画像の範囲が、現在設定されているAF枠の範囲と相違しているか否かを判定する(ステップS48)。尚、顔画像の大きさが変化した場合もこの判定処理でYESと判定される。
ステップS48においてYESと判定した場合には、ステップS46において検出した顔画像の範囲を新たなAF枠の範囲として設定(更新)し、そのAF枠の範囲を示すAF枠情報をレンズ装置12のレンズCPUに送信する(ステップS50)。そして、ステップS42の処理に戻る。ステップS48においてNOと判定した場合には、ステップS50におけるAF枠の更新は行わず、ステップS42の処理に戻る。
尚、操作者によりAF枠自動追尾の停止を指示する操作、即ち、追尾停止スイッチがオンされると、AF枠自動追尾の処理を停止し、ステップS10に戻る。即ち、AF枠が撮影画像の所定位置(例えば中心位置)に戻されて固定され、AF枠自動追尾が実行されなくなる。
また、操作者によって追尾対象の被写体を撮影画像から意図的に外すカメラ操作が行われた場合にも、追尾停止スイッチがオンされた場合と同様、AF枠自動追尾の処理を停止するようにしてもよい。簡易な操作でAF枠自動追尾を停止させることができる。
本実施形態のAF枠自動追尾システムによれば、全自動追尾モードによるAF枠の自動追尾処理では、操作者(カメラマン)は、撮影画像の所定位置に設定(固定)されているAF枠の範囲内に追尾対象としたい被写体が含まれるようにテレビカメラの撮影画角をパン/チルト操作などによって設定することによって、AF枠の範囲内の被写体が人物の顔であるか否かが判定され、その被写体が顔であれば顔検出処理によるAF枠自動追尾が自動的に選択されて実行され、顔以外であればパターンマッチング処理によるAF枠自動追尾が自動的に選択されて実行される。即ち、AF枠の範囲内の被写体の判別結果に応じて、顔検出追尾モード又は物体追尾モードによるAF枠自動追尾が自動的に開始される。
これにより、操作者は、追尾対象としたい被写体が人物の顔であるか否かを意識することなく、しかも自動追尾の開始操作を行うことなく、追尾対象としたい被写体をAF枠の範囲内となるように撮影画角を操作するだけでAF枠自動追尾を行うことができるようになる。したがって、AF枠自動追尾を開始する際の煩雑な操作が不要となり、操作者の負担を大幅に軽減することができる。
AF枠の範囲内に人物の顔画像が含まれると判定された際、AF枠の範囲内に複数の人物の顔画像が含まれる場合には、これらの顔画像のうち最も大きい顔画像が追尾対象の顔画像とされる。また、これらの顔画像の大きさが同一である場合には、AF枠の範囲内の中央側の顔画像が追尾対象の顔画像とされる。これにより、AF枠の範囲内に複数の人物の顔画像が含まれる場合でも、AF枠内の顔画像の大きさ又は位置に応じて追尾対象とする顔画像が決定され、煩雑な操作を要することなく、AF枠自動追尾を開始させることが可能となる。
また、本実施形態のAF枠自動追尾システムでは、上述のように全自動追尾モードを備えているので、AF枠操作部20の一部又は全部(例えば操作部材60、62、64、68、70やLCD66)が設けられていなくても、全自動追尾モードによるAF枠自動追尾が可能であり、ハンディカメラのようなAF枠操作装置の設置がスペース上困難な小型のカメラにおいても好ましく適用することができる。
以上、本発明のAF枠自動追尾システムについて詳細に説明したが、本発明は、以上の例には限定されず、本発明の要旨を逸脱しない範囲において、各種の改良や変形を行ってもよいのはもちろんである。