JP2011022203A - Af枠自動追尾システムおよびaf枠自動追尾方法 - Google Patents
Af枠自動追尾システムおよびaf枠自動追尾方法 Download PDFInfo
- Publication number
- JP2011022203A JP2011022203A JP2009164785A JP2009164785A JP2011022203A JP 2011022203 A JP2011022203 A JP 2011022203A JP 2009164785 A JP2009164785 A JP 2009164785A JP 2009164785 A JP2009164785 A JP 2009164785A JP 2011022203 A JP2011022203 A JP 2011022203A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- face
- image
- parameter
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
Images
Landscapes
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
Abstract
【課題】オートフォーカスによりピントを合わせる範囲であるAF枠の追尾を用途に合わせて最適に行なうこと。
【解決手段】撮像手段により撮像された撮像画像に設定されるAF枠内の被写体にピントが合うように光学系のフォーカス調整を行うオートフォーカス手段と、撮像画像について画像処理を行って画像処理の演算結果をもとにAF枠の範囲の情報をオートフォーカス手段に与えてAF枠を追尾対象の被写体に自動追尾させるAF枠自動追尾手段と、画像処理の演算に使用するパラメータの度合いの情報をAF枠自動追尾手段に与えるパラメータ授与手段と、を有し、パラメータとして、追尾対象の被写体に自動追尾させる正確性に影響を与えるパラメータおよび追尾対象の被写体に自動追尾させる速さに影響を与えるパラメータのうちの少なくともいずれか1つが含まれる。
【選択図】図2
【解決手段】撮像手段により撮像された撮像画像に設定されるAF枠内の被写体にピントが合うように光学系のフォーカス調整を行うオートフォーカス手段と、撮像画像について画像処理を行って画像処理の演算結果をもとにAF枠の範囲の情報をオートフォーカス手段に与えてAF枠を追尾対象の被写体に自動追尾させるAF枠自動追尾手段と、画像処理の演算に使用するパラメータの度合いの情報をAF枠自動追尾手段に与えるパラメータ授与手段と、を有し、パラメータとして、追尾対象の被写体に自動追尾させる正確性に影響を与えるパラメータおよび追尾対象の被写体に自動追尾させる速さに影響を与えるパラメータのうちの少なくともいずれか1つが含まれる。
【選択図】図2
Description
本発明はAF枠自動追尾システムおよびAF枠自動追尾方法に係り、特に、オートフォーカス(AF)によりピントを合わせる被写体の範囲を示すAF枠(AFエリア)を所定の被写体に自動追尾させる機能を備えたAF枠自動追尾システムおよびAF枠自動追尾方法に関する。
従来、カメラのフォーカスを自動的に合わせるオートフォーカス(AF)システムにおいては、どこにフォーカスを合わせるかをカメラに対して指示しなければならない。このとき、一般のカメラなどでは、フォーカスを合わせる位置は撮影範囲のセンターに固定されていて、例えば撮影範囲の中央にいる人物等にフォーカスが合うようになっている。
しかし、動いている被写体を撮影する場合などにおいては、このようにフォーカスを合わせる位置が固定されていては都合が悪い。そこで、例えば、テレビカメラなどで、スポーツのように被写体の動きの激しいシーンを撮影する場合において、被写体にピントを合わせる目的でAFエリア(AF枠)を被写体に自動追尾させるAF枠自動追尾システムが知られている(例えば、特許文献1等参照)。尚、本明細書では、AFエリアの範囲の輪郭を示すAF枠をAFエリアと同様にピントを合わせる被写体の範囲を意味する用語として主に使用するものとする。
また、撮像された画像中から人物の顔を表す画像を検出し、その被写体となった顔に対して自動的にピントを合わせたり、あるいは上記検出された画像中の顔を表す領域が拡大されるように自動的にズーム倍率を変更させるデジタルカメラが知られている(例えば、特許文献2等参照)。
ところで、上記のように所定の被写体にAF枠を自動追尾させるAF枠自動追尾システムでは、制御部においてAF枠の自動追尾に要する演算処理を非常に多く行なう必要がある。そして、刻一刻と移り変わる動画像においてAF枠を自動追尾させながら撮影を行なうので、AF枠の自動追尾に要する演算処理は瞬時に行う必要がある。
しかしながら、このようなAF枠の自動追尾に要する演算処理においては、処理結果の正確性を優先すると処理時間を要することになり、処理時間のスピードを優先すると処理結果を簡素化する必要があるので処理の正確性が低下してしまう。
特に、顔認識処理を行う場合には、顔認識の正確性を優先すると処理時間を要することになり、反対に、処理時間のスピードを優先すると顔認識の正確性が低下してしまうことになる。
ここで、AF枠自動追尾システムを使用するに際しては、その用途(例えば、テレビカメラの撮影の場合には撮影する番組のジャンルなど)によって要求される仕様が異なる。
例えば、対談番組において撮影を行なう場合には、被写体がそれほど激しい動きをしないので、AF枠の自動追尾に要する演算処理の処理スピードはそれほど要求されないが、被写体の顔認識の正確性は高めておきたい。そのため、処理時間よりも顔認識の正確性を優先させたい。
一方、スポーツ番組において撮影を行なう場合には、被写体が激しい動きをするので、被写体の顔認識の正確性はそれほど要求されないが、AF枠の自動追尾に要する演算処理の処理スピードを高めておきたい。そのため、顔認識の正確性よりも処理時間を優先させたい。
このように、AF枠自動追尾システムの用途、すなわち追尾対象の被写体が撮像される撮像場面によって要求される仕様が異なることに対しての解決手段については、前記の特許文献1,2には何ら示唆されていない。
そこで本発明は、AF枠自動追尾システムおよびAF枠自動追尾方法に係り、特にオートフォーカス(AF)によりピントを合わせる範囲であるAF枠(AFエリア)の追尾を用途に合わせて最適に行なうことができるAF枠自動追尾システムに関する。
前記目的を達成するために、本発明のAF枠自動追尾システムは、光学系により結像された被写体像を撮像する撮像手段と、前記撮像手段により撮像された撮像画像に設定されるAF枠内の被写体にピントが合うように前記光学系のフォーカス調整を行うオートフォーカス手段と、前記撮像画像について画像処理を行って当該画像処理の演算結果をもとに前記AF枠の範囲の情報を前記オートフォーカス手段に与えて前記AF枠を追尾対象の被写体に自動追尾させるAF枠自動追尾手段と、前記画像処理の演算に使用するパラメータの度合いの情報を前記AF枠自動追尾手段に与えるパラメータ授与手段と、を有し、前記パラメータとして、前記追尾対象の被写体に自動追尾させる正確性に影響を与えるパラメータおよび前記追尾対象の被写体に自動追尾させる速さに影響を与えるパラメータのうちの少なくともいずれか1つが含まれること、を特徴とする。
本発明によれば、AF枠の追尾を用途に合わせて最適に行なうことができる。
本発明の一態様として、前記パラメータ授与手段は、前記追尾対象の被写体が撮像される撮像場面に応じた前記パラメータの度合いの情報を与えること、を特徴とする。
本発明の一態様として、前記撮像場面を選択する選択手段を有すること、を特徴とする。
本発明の一態様として、前記パラメータ授与手段は、前記パラメータの度合いの情報が記憶された記憶手段が装着され当該記憶手段から前記パラメータの度合いの情報を取得するパラメータ情報取得手段を備えること、を特徴とする。
本発明の一態様として、前記AF枠自動追尾手段は、前記画像処理として前記追尾対象の被写体の顔画像が認識データに登録された特定人物の顔画像であるか否かを判断する顔認識処理を行うものであって、前記パラメータとして、前記顔認識処理における判断の正確性に影響を与えるパラメータが含まれること、を特徴とする。
本発明の一態様として、前記顔認識処理における判断の正確性に影響を与えるパラメータとして、前記顔認識処理におけるパターンマッチング評価値が含まれること、を特徴とする。
前記目的を達成するために、本発明のAF枠自動追尾方法は、光学系により結像された被写体像を撮像する撮像手段により撮像された撮像画像について画像処理を行って当該画像処理の演算結果をもとにAF枠を追尾対象の被写体に自動追尾させるAF枠自動追尾手段に対し前記画像処理の演算に使用するパラメータの度合いの情報を与えるものであって、前記パラメータとして、前記追尾対象の被写体に自動追尾させる正確性に影響を与えるパラメータおよび前記追尾対象の被写体に自動追尾させる速さに影響を与えるパラメータのうちの少なくともいずれか1つが含まれること、を特徴とする。
本発明によれば、オートフォーカス(AF)によりピントを合わせる範囲であるAF枠(AFエリア)の追尾を用途に合わせて最適に行なうことができる。
以下、添付図面を参照して、本発明に係るAF枠自動追尾システムについて詳細に説明する。
〔本発明が適用されるテレビカメラシステムの説明〕
図1は、本発明が適用されるテレビカメラシステムの一実施の形態を示した外観図である。同図に示すようにテレビカメラ10は、主に放送用又は業務用に使用されるテレビカメラであり、レンズ装置12とカメラ本体14とで構成され、ペデスタルドリー16上に設置された雲台18に支持されている。
図1は、本発明が適用されるテレビカメラシステムの一実施の形態を示した外観図である。同図に示すようにテレビカメラ10は、主に放送用又は業務用に使用されるテレビカメラであり、レンズ装置12とカメラ本体14とで構成され、ペデスタルドリー16上に設置された雲台18に支持されている。
雲台18には、左右2本のパン棒22、24が延設されており、右側のパン棒22のグリップ部22Aには、フォーカスデマンド(フォーカスコントローラ)26がマウンティングクランプ38によって設置され、左側のパン棒24のグリップ部にはズームデマンド(ズームコントローラ)28が設置されている。
フォーカスデマンド26には、回動可能なフォーカスノブ30が設けられており、マニュアルフォーカス(MF)によりフォーカス制御を行う際に、このフォーカスノブ30を回動操作すると、その回動位置に応じたフォーカス位置を目標位置としてフォーカス(フォーカスレンズ)の移動を指令するフォーカス制御信号がフォーカスデマンド26からレンズ装置12に与えられる。これにより、レンズ装置12のフォーカスレンズがフォーカス制御信号によって指令された目標位置に移動する。
ズームデマンド28には、回動可能なサムリング34が設けられており、そのサムリング34を左右方向に回動操作すると、回動位置に応じたズーム速度を目標速度としてズーム(ズームレンズ)の移動を指令するズーム制御信号がズームデマンド28からレンズ装置12に与えられる。これにより、レンズ装置12のズームレンズがズーム制御信号によって指令された目標速度で移動する。
また、図では省略するが、フォーカスデマンド26には、オートフォーカス(AF)に関する各種操作部材が設けられると共に、AFによりピントを合わせる対象の被写体範囲(AFの対象範囲)を示すAF枠の制御(位置等の変更)を行うためのAF枠制御装置(AF枠自動追尾装置)が組み込まれ、そのAF枠制御装置の各種操作部材もフォーカスデマンド26に設けられている。
更に、AF枠制御装置の構成要素として同図のようにタッチパネル付き液晶ディスプレイ(LCD)40が設置具によりフォーカスデマンド26の本体上部に設置され、図示しないケーブルでフォーカスデマンド26に接続されている。
尚、以下において、単にLCD40と記した場合にはこのタッチパネル付き液晶ディスプレイ40を示す。また、LCD40は、フォーカスデマンド26の本体上部以外の任意の位置に設置することが可能である。例えば、ビューファインダ36の横に設置してもよい。
カメラ本体14の上には、表示装置であるビューファインダ36が設置されている。このビューファインダ36には、本テレビカメラ10で撮影されている被写体の映像が表示されるため、カメラマンはその映像を見ながらフォーカスデマンド26やズームデマンド28を操作することによって所望の構図で被写体を撮影することができるようになっている。尚、以下において、撮影映像又は撮影画像と称した場合には、テレビカメラ10で現在撮影されている映像又は画像を示すものとする。
また、ビューファインダ36に表示される撮影映像には、現在AF枠が設定されている位置、大きさ、形状(縦横比)を示すAF枠の画像が重畳されて表示されるようになっている。そして、AFによりフォーカス制御を行う場合には撮影映像内のどの範囲の被写体にピントが合わせられるかを知ることができるようになっている。尚、MFとAFのフォーカス制御は、フォーカスデマンド26に設けられたモードスイッチ等で切り替えられるようになっている。
〔AF枠自動追尾システムの全体構成の説明〕
図2は、上記テレビカメラシステムに適用されるAF枠自動追尾システムの全体構成を示したブロック図である。
図2は、上記テレビカメラシステムに適用されるAF枠自動追尾システムの全体構成を示したブロック図である。
同図のAF枠自動追尾システム1には、図1に示したテレビカメラ10のレンズ装置12及びカメラ本体14とビューファインダ36が示されている。また、図1のフォーカスデマンド26の構成要素として、LCD40及びフォーカスデマンド26に組み込まれたAF枠制御装置(AF枠自動追尾装置)を構成する画像処理ユニット42が示されている。
テレビカメラ10は、ハイビジョンテレビ[HD(High Definition)TV]方式に対応したHDカメラからなるカメラ本体14と、カメラ本体14のレンズマウントに装着される撮影レンズ(光学系)を備えたレンズ装置12とから構成される。
カメラ本体14には、撮像素子(例えばCCD)や所要の信号処理回路等が搭載されており、レンズ装置12の撮影レンズにより結像された像は、撮像素子により光電変換された後、信号処理回路によって所要の信号処理が施されてHDTV方式の映像信号(HDTV信号)として、カメラ本体14の映像信号出力端子等から外部に出力される。
また、図1のようにカメラ本体14の上部等に設置されるビューファインダ36には、テレビカメラ10の撮影映像が表示されるようになっている。ビューファインダ36には、撮影映像以外の各種情報が表示されるようになっており、例えば、現在の設定されているAF枠の範囲(位置、大きさ、形状)を示す画像が撮影映像に重畳されて表示されるようになっている。
レンズ装置12は、カメラ本体14のレンズマウントに装着される撮影レンズ(ズームレンズ)44を備えており、その撮影レンズ44により、被写体46がカメラ本体14の撮像素子の撮像面に結像されるようになっている。撮影レンズ44には、図示を省略するが、その構成要素としてフォーカスレンズ群、ズームレンズ群、絞りなどの撮影条件を調整するための可動部が設けられており、それらの可動部は、モータ(サーボ機構)によって電動駆動されるようになっている。例えば、フォーカスレンズ群やズームレンズ群は光軸方向に移動し、フォーカスレンズ群が移動することによってフォーカス(被写体距離)調整が行われ、またズームレンズ群が移動することによって焦点距離(ズーム倍率)調整が行われる。
尚、AFに関するシステムにおいては、少なくともフォーカスレンズ群が電動で駆動できればよく、その他の可動部は手動でのみ駆動可能であってもよい。
また、レンズ装置12には、AFユニット48及び図示しないレンズCPU等が搭載されている。レンズCPUはレンズ装置12全体を統括制御するものである。また、AFユニット48は、AFによるフォーカス制御(自動ピント調整)を行うために必要な情報を取得するための処理部であり、図示を省略するが、AF処理部、AF用撮像回路等から構成されている。
AF用撮像回路はAF処理用の映像信号を取得するためにレンズ装置12に配置されており、CCD等の撮像素子(AF用撮像素子という)やAF用撮像素子の出力信号を所定形式の映像信号として出力する処理回路等を備えている。尚、AF用撮像回路から出力される映像信号は輝度信号である。
AF用撮像素子の撮像面には、撮影レンズ44の光路上に配置されたハーフミラー等によってカメラ本体14の撮像素子に入射する被写体光から分岐された被写体光が結像するようになっている。AF用撮像素子の撮像エリアに対する撮影範囲及び被写体距離(ピントが合う被写体の距離)は、カメラ本体14の撮像素子の撮像エリアに対する撮影範囲及び被写体距離に一致するように構成されており、AF用撮像素子により取り込まれる被写体画像は、カメラ本体14の撮像素子により取り込まれる被写体画像と一致している。なお、両者の撮影範囲に関しては完全に一致している必要はなく、例えば、AF用撮像素子の撮影範囲の方がカメラ本体14の撮像素子の撮影範囲を包含する大きな範囲であってもよい。
AF処理部は、AF用撮像回路から映像信号を取得し、その映像信号に基づいてAFの対象範囲とするAFエリア(AF枠)の範囲内における被写体画像のコントラストの高低を示す焦点評価値を算出する。例えば、AF用撮像素子から得られた映像信号から高域周波数成分の信号をハイパスフィルタによって抽出した後、その高域周波数成分の信号のうち後述のようにして設定されるAFエリアに対応する範囲の信号を1画面(1フレーム)分ずつ積算する。このようにして1画面分ごとに得られる積算値はAFエリア内の被写体画像のコントラストの高低を示し、その積算値が焦点評価値としてレンズCPUに与えられる。
レンズCPUは、AFエリアの範囲(輪郭)を示すAF枠の情報(AF枠情報)を、後述するように画像処理ユニット42から取得し、そのAF枠情報により指定されたAF枠内の範囲をAFエリアとしてAF処理部に指定する。そして、そのAFエリア内の画像(映像信号)により求められる焦点評価値をAF処理部から取得する。
このようにしてAF用撮像回路から1画面分の映像信号が取得されるごとに(AF処理部で焦点評価値が求められるごとに)AF処理部から焦点評価値を取得すると共に、取得した焦点評価値が最大(極大)、即ち、AF枠内の被写体画像のコントラストが最大となるようにフォーカスレンズ群を制御する。例えば、焦点評価値に基づくフォーカスレンズ群の制御方式として山登り方式が一般的に知られており、フォーカスレンズ群を焦点評価値が増加する方向に移動させて行き、焦点評価値が減少し始める点を検出すると、その位置にフォーカスレンズ群を設定する。これにより、AF枠内の被写体に自動でピントが合わせられる。
尚、上述のAF処理部は、焦点評価値を算出するために、レンズ装置12に搭載されたAF用撮像素子から映像信号を取得しているが、カメラ本体14の撮像素子より撮影された映像の映像信号をカメラ本体14から取得するような構成としてもよい。また、AF枠内の被写体に自動でピントを合わせるためのAF手段はどのようなものであってもよい。
ここで、AFエリア50は、図3に示すようにカメラ本体14における撮像素子の撮像エリア52に対して四角形状の領域として設定され、その輪郭を示す枠54がAF枠を示し、撮像素子のAFエリア50(AF枠54内)の範囲で撮影される被写体がAFによりピントを合わせる対象となる。
尚、本明細書では、撮像エリア52に対するAF枠54(AFエリア50)の範囲は、AF枠54の位置、大きさ、及び、形状(縦横比)の3つの要素によって決まるものとし、“AF枠の範囲を変更する”という趣旨の記載は、AF枠の位置、大きさ、及び、形状の3つの要素のうち、少なくとも1つの要素を変更することを意味するものとする。
また、レンズ装置12は、ケーブルを介して、又は、直接的にカメラ本体14と接続され、レンズ装置12とカメラ本体14の各々に設けられたシリアル通信インターフェース(SCI)12a、14aを通じて各種情報のやり取りが行えるようになっている。これによりAFユニット48において現在設定されているAF枠の情報もカメラ本体14に送信され、カメラ本体14内での処理によってビューファインダ36に表示される撮影映像に現在設定されているAF枠の位置、大きさ、形状に対応したAF枠の画像が重畳表示されるようになっている。
画像処理ユニット42は、フォーカスデマンド26にAF枠制御装置の構成要素として組み込まれた処理部であり、レンズ装置12のAFユニット48において設定されるAF枠の範囲(位置、大きさ、形状(縦横比))を後述のマニュアル操作又はAF枠自動追尾の処理により指定するための処理部である。
画像処理ユニット42は、SCI56aを備えており、そのSCI56aは、レンズ装置12に接続され、SCI12bを通じてレンズCPUとの間で各種信号のやり取りが行えるようになっている。これにより、AF枠の範囲を指定するAF枠情報が画像処理ユニット42からレンズ装置12のレンズCPUに与えられ、そのAF枠情報に基づいてAFユニット48におけるAF枠の範囲が設定される。
また、フォーカスデマンド26には画像処理ユニット42に映像信号を取り込むための映像入力コネクタが設けられており、その映像入力コネクタにカメラ本体14の映像出力コネクタがダウンコンバータ58を介してケーブルで接続される。これによって、カメラ本体14の映像出力コネクタから出力されたHDTV信号が、ダウンコンバータ58によって、標準テレビ[NTSC(National Television System Committee)]方式の映像信号(SDTV信号)に変換(ダウンコンバート)されて、画像処理ユニット42に入力されるようになっている。
また、詳しくは後述するように、画像処理ユニット42には、AF枠自動追尾を行う際に撮影する番組を選択することができるロータリスイッチSWにて選択された番組情報が入力されることとしてもよい。
詳細は後述するが画像処理ユニット42は、AF枠自動追尾処理を実行する際に、カメラ本体14から入力された映像信号から1コマ分の撮撮画像を順次取り込み、撮影画像の中から所定の追尾対象の被写体を検出する処理を行う。そして、AFによりその被写体にピントが合わせられるようにAF枠の範囲を決定し、決定したAF枠の範囲をレンズ装置12のレンズCPUに送信する。
尚、画像処理ユニット42の構成及び処理内容については後述する。
また、LCD40は、AF枠自動追尾に関するモード等の設定をタッチ操作(タップ操作)で入力できるようにしたもので、画像処理ユニット42のCPU60によりLCD40に表示される画像が設定内容に応じて適宜切り換えられるようになっている。詳しくは後述するが、LCD40には、AF枠自動追尾を行う際に撮影する番組を選択するためのメニュー表示も行なわれる。なお、LCD40の表示及び操作については後述する。
尚、本実施の形態では、画像処理ユニット42を備えたAF枠制御装置がフォーカスデマンド26に組み込まれた態様を示したが、AF枠制御装置はフォーカスデマンド26とは別体の装置として構成してもよい。
〔画像処理ユニットの構成及び処理内容〕
次に画像処理ユニット42の構成及び処理内容について説明する。
次に画像処理ユニット42の構成及び処理内容について説明する。
画像処理ユニット42は、主としてメインボード56、パターンマッチング処理演算ボード62、認識処理演算ボード64から構成されている。メインボード56、パターンマッチング処理演算ボード62、認識処理演算ボード64の各々にはCPU60、66、68が搭載されており、各ボード毎に個別の演算処理が行われると共に、各CPU60、66、68は、バスや制御線で接続され、相互にデータのやり取りや、演算処理の同期等が図られるようになっている。
画像処理ユニット42における処理は、メインボード56において統括的に行われるようになっている。そのメインボード56には、演算処理を行う上記CPU60の他に、SCI56a、デコーダ(A/D変換器)70、RAM72、スーパーインポーザ74等が搭載されている。
SCI56aは、上述のようにレンズ装置12のSCI12bとの間でシリアル通信を行うためのインターフェース回路であり、上記AF枠情報等をレンズ装置12に送信する。
デコーダ70は、上記ダウンコンバータ58から画像処理ユニット42に入力されるテレビカメラ10の撮影映像の映像信号(SDTV信号)を、画像処理ユニット42においてデジタル処理可能なデータに変換するための回路である。そして、デコーダ70は、アナログのSDTV信号をデジタルデータの映像信号に変換するA/D変換処理等を行っている。
スーパーインポーザ74は、上記のデコーダ70により得られた撮影映像の映像信号と、CPU60により生成される画像信号とを合成し、その合成した映像信号をLCD40に出力・表示する回路である。これにより、カメラ本体14に設置されているビューファインダ36と同様にテレビカメラ10の撮影映像がLCD40に表示されると共に、その撮影映像に重ねて、現在設定されているAF枠の範囲を示すAF枠の画像や、タッチパネルでの入力操作を行えるようにしたメニュー画面(メニュー画像)等がLCD40に表示される。尚、撮影映像に重畳させることなくCPU60で生成された画像のみを表示させることも当然可能である。
RAM72は、CPU60の演算処理において使用するデータを一時的に格納するメモリである。
一方、パターンマッチング処理演算ボード62や認識処理演算ボード64は、パターンマッチングと顔検出・認識処理を個別に行うための演算ボードであり、各々、演算処理を行うCPU66、68の他に画像データを一時的に格納するVRAM76、78等を備えている
また、画像処理ユニット42には、SD(Secure Digital)カードやUSBメモリなどの外部メモリとしてデータカードを装填するスロット80,82が設けられている。
また、画像処理ユニット42には、SD(Secure Digital)カードやUSBメモリなどの外部メモリとしてデータカードを装填するスロット80,82が設けられている。
本実施形態では、顔認識により特定の人物の顔を検出する際に、その特定の人物の顔を示す認証データを予め顔認識データカード84に記憶させておく。そして、その顔認識データカード84をスロット80に装填することで、顔認識に必要な認証データを顔認識データカード84からCPU60が読み込めるようになっている。
また、追尾対象の被写体にAF枠を自動追尾させるために必要なパラメータの度合いについて、番組ごとにデータを予めパラメータデータカード86に記憶させておく。そして、そのパラメータデータカード86がスロット82に装填されると、スロット82は当該データをパラメータデータカード86から取得しCPU60に与え、CPU60は当該データを読み込む。
なお、AF枠を自動追尾させるために必要なパラメータについての番組ごとのデータを、メインボード56内に設けたメモリ(不図示)に記憶させておいてもよい。そして、AF枠を自動追尾させるために必要なパラメータについての番組ごとのデータが、当該メモリからCPU60に与えられて読み込まれるようにしてもよい。
続いて、上記のごとく構成された画像処理ユニット42によるAF枠の制御についてLCD40の表示及び操作に関する処理と共に説明する。
まず、LCD40の表示及び操作に関して説明する。図4に示すように、LCD40の画面40aには、テレビカメラ10の撮影映像に重畳して各種ボタン90〜104からなるメニュー画面(メニュー画像)と、現在設定されているAF枠の範囲を示すAF枠の画像88(単にAF枠88という)が表示される。
メニュー画面の各種ボタン90〜104やAF枠88のように撮影映像に重畳される画像は、図2に示した画像処理ユニット42におけるメインボード56のCPU60により生成される。そして、それらの画像が、スーパーインポーザ74においてデコーダ70から得られるテレビカメラ10の撮影映像に重畳されてLCD40に表示されるようになっている。尚、LCD40の表示(表示内容)に関する制御はCPU60により行われるものである。
一方、LCD40はタッチパネルを備えており、LCD40の画面40aに対して指先等が触れるタッチ操作が行われると、触れた位置(座標)を示す位置情報がCPU60に与えられるようになっている。これにより、LCD40の画面40aに対して行われたタッチ操作の位置や操作の種類(タップ操作、ダブルタップ操作等)がCPU60により検出されるようになっている。そして、その操作に従った処理がCPU60により実行されるようになっている。
LCD40の画面40aにおける基本的な操作として、各ボタン90〜104に予め割り当てられた指示を入力する操作や、AF枠88の範囲を指定する操作があり、前者の操作は、各ボタン90〜104の位置を指先等でタップ操作するものである。後者のAF枠88の範囲を指定する操作は、例えば、撮影映像が表示されたLCD40の画面40a上において、AF枠88を移動させたい位置をタップ操作すれば、その位置が中心となるようにAF枠88を移動させることができる。また、AF枠88の頂点や辺を指先等でタッチしてそのままスライドするドラッグ操作によってドラッグ操作した位置までタッチした頂点や辺の位置を移動させてAF枠88の大きさや形状を変更することができる。
LCD40の画面40aに表示されるメニュー画面(メニュー画像)について説明すると、図4において、”固定”と表示された固定モード選択ボタン90、”物体追尾”と表示された物体追尾モード選択ボタン92、”顔検出”と表示された顔検出追尾モード選択ボタン94、”顔認識”と表示された顔認識追尾モード選択ボタン96は、AF枠の制御モードを選択するボタンであり、これらのボタン90〜96のいずれかをタップ操作することで、固定モード、物体追尾モード、顔検出追尾モード、顔認識追尾モードのうちから所望のモードを選択することできるようになっている。
尚、固定モードは、AF枠の範囲(位置、大きさ、形状)を操作者がマニュアル操作で指定し、その指定した位置にAF枠を固定するモード(マニュアルモード)であり、AF枠の自動追尾は行なわれない。その他の各モードの内容については後述する。
”セット”と表示されたセットボタン98と、”リセット”と表示されたリセットボタン100は、AF枠自動追尾の開始と停止を指示するボタンである。
図4において ”表示オフ”と表示されたメニュー表示オン/オフボタン102は、このボタン102以外のメニュー画面(メニュー画像)の表示をオフするためのボタンである。
”番組選択”と表示された番組選択ボタン104は、追尾対象の被写体が撮像される撮像場面に応じたAF枠自動追尾に必要なパラメータとして、撮影する番組に対応したAF枠自動追尾に必要なパラメータを選択して設定するためのボタンである。タップ操作することにより、LCD40の画面40aに図5に示すような番組選択用の画面が表示されることになる。
番組選択用の画面としては、例えば、図5に示すように、「1.ドラマ」、「2.歌番組」、「3.スポーツ」、「4.対談」、「5.風景」、「6.カスタム」の表示がなされる。「1.ドラマ」、「2.歌番組」、「3.スポーツ」、「4.対談」、「5.風景」は各番組を選択するための表示である。また、「6.カスタム」は、操作者がAF枠自動追尾に必要なパラメータの度合いを自由に設定することを選択するための表示である。図5では、「2.歌番組」が選択され、反転表示されている例を示している。
なお、図5に示す“戻る”と表示された戻りボタン105は、番組選択用の画面から図4に示すような撮像画面に戻るためのボタンである。
また、番組選択ボタン104がタップ操作されたときに、LCD40の画面40aが図5に示すような番組選択の画面に切り替わること以外にも、テレビカメラ10の撮影映像の画面に重畳して図5に示すような番組選択の画面が表示されることとしてもよい。
〔AF枠自動追尾の概要〕
次に、本発明のAF枠自動追尾の処理のフローについて説明する。
次に、本発明のAF枠自動追尾の処理のフローについて説明する。
図6は、本発明のAF枠自動追尾の処理の概要を示すフローチャート図である。まず、操作者はLCD40の画面40aに表示される番組選択ボタン104をタップ操作する。すると、LCD40の画面40aに前記の図5に示すような番組選択用の画面が表示され、操作者は撮影する番組を選択する(ステップS1)。このとき、CPU60は、LCD40から操作者により選択された番組情報を取得する。
次に、AF枠自動追尾における画像処理の演算に使用されるパラメータ(以下、単に「パラメータ」という場合あり)について、ステップS1で選択された番組に対応した当該パラメータの度合いが設定される(ステップS2)。具体的には、パラメータカード86(図2参照)に記憶されたパラメータの度合いの設定情報のうち、選択された番組に対応した設定情報がCPU60(図2参照)に入力される。
図7にパラメータの度合いの設定例を示す。図7に示すように、パラメータとしては、顔認識処理におけるパターンマッチングの評価値(図中「顔認識評価値」と表記)、顔認識処理において認識できる顔の向きの許容範囲(図中「顔の向き」と表記)、顔検出処理における最大検出人数(図中「最大検出人数」と表記)、顔検出処理において検出可能な最小顔サイズ(図中「最小顔サイズ」と表記)、物体追尾処理におけるパターンマッチングの評価値(図中「マッチング評価値」と表記)などが考えられる。そして、番組選択用の画面で選択された項目ごとに、各パラメータの度合いが設定されている。
なお、図7の設定例においては、顔認識処理におけるパターンマッチングの評価値および顔認識処理において認識できる顔の向きの許容範囲は、追尾対象の被写体に自動追尾させる正確性に影響を与えるパラメータである。また、顔検出処理における最大検出人数および顔検出処理において検出可能な最小顔サイズは、追尾対象の被写体に自動追尾させる速さに影響を与えるパラメータである。
また、図7の設定例においては、各パラメータの度合いを「大」、「中」、「小」で規定しているが、これに限らず数値で規定してもよい。なお、「カスタム」の選択項目においては、操作者が任意に各パラメータの度合いを設定できる。
次に、AF枠自動追尾の追尾モードを選択する(ステップS3)。具体的には、図4の画面40aにおいて示した物体追尾モード選択ボタン92、顔検出追尾モード選択ボタン94、顔認識追尾モード選択ボタン96のいずれかをタップ操作して選択する。
そして、各追尾モードによるAF枠自動追尾の処理が行われる(ステップS4)。
以上が本発明のAF枠自動追尾の処理の概要の説明である。
〔各追尾モードにおけるAF枠自動追尾の詳細な説明〕
続いて、図6のステップS4における各追尾モードにおけるAF枠自動追尾の処理について詳細に説明する。
続いて、図6のステップS4における各追尾モードにおけるAF枠自動追尾の処理について詳細に説明する。
<顔認識追尾モードが選択された場合>
まず、図6のステップS3において、図4のLCD40の画面40aにおける顔認識追尾モード選択ボタン96をタップ操作すると顔認識追尾モードが選択される。そして、画像処理ユニット42のメインボード56に搭載されたCPU60(図2参照)は、ステップS4において顔認識追尾モードの処理を開始する。
まず、図6のステップS3において、図4のLCD40の画面40aにおける顔認識追尾モード選択ボタン96をタップ操作すると顔認識追尾モードが選択される。そして、画像処理ユニット42のメインボード56に搭載されたCPU60(図2参照)は、ステップS4において顔認識追尾モードの処理を開始する。
顔認識追尾モードは、事前に認証データとして登録した人物の顔をAF枠で追尾させるモードである。
また、顔認識追尾モードが選択された場合、後述のように顔認識に関連する登録顔画像表示部106(106a〜106c)(図9参照)が表示される。また、AF枠自動追尾の開始は、後述のように認証データとして登録した顔を検出すると自動的に行われるための図4のセットボタン98も非表示となる。
図8は、顔認識追尾モードの処理手順を示したフローチャートであり、以下、顔認識追尾モードの処理をこのフローチャートに従って説明する。
メインボード56のCPU60は、顔認識追尾モードが選択されると、まず、追尾対象の顔を設定するための処理を行う。即ち、図2に示したスロット80に装填された顔認識データカード84には、追尾対象の候補となる1又は複数の人物の顔の認証データが登録されており、CPU60は、その認証データを顔認識データカード84から読み込む。そして、認識処理演算ボード64のCPU68に対して顔認識処理の開始を指示する。ここで認証データは、例えば、一人について、日の当たり方の違う顔や正面や左あるいは右向きの顔などの異なる顔画像、両目の距離、目と鼻の距離やこれらの比率などの複数のデータから構成されている。
顔認識処理の開始が指示されると、認識処理演算ボード64のCPU68は、デコーダ70から1コマ分の撮影画像の画像データを取り込み(ステップS11)、その撮影画像の中に含まれる任意の顔(顔画像)を周知の顔検出処理により検出する。続いて、メインボード56のCPU60から認証データを取得し、顔検出処理により検出した顔画像が認証データとして事前に登録されている特定人物の顔画像であるか否かをその認証データを用いて判断する顔認識処理を実行する(ステップS12)。
顔認識処理が終了すると、CPU68はその結果をメインボード56のCPU60に通知する。これにより、CPU60は、認証データとして登録されている特定人物の顔が検出された場合のその顔画像の範囲と、認証データとして登録されていない人物の顔が検出された場合のその顔画像の範囲とを取得する。
次にCPU60は、図9に示すように、LCD40の画面40a上において人物の顔が検出された顔画像の範囲に顔枠88a、88b、88cを表示する。ステップS12の顔認識処理により認証データとして登録されている人物の顔が検出された場合にはその顔枠に人物の名前も表示する。更に、上述のように認証データとして登録されている人物の顔画像を登録顔画像表示部106(106a〜106c)に表示する。
操作者は、登録顔画像表示部106に表示されている顔画像の中から、追尾対象とする顔画像を、選択ボタン108a又は108bをタップ操作して選択する。上側の選択ボタン108aをタップ操作する毎に、選択される顔画像が、現在選択されている顔画像の1つ上側の顔画像に変更され、下側の選択ボタン108bをタップ操作する毎に、選択される顔画像が、現在選択されている顔画像の1つ下側の顔画像に変更される。尚、登録顔画像表示部106において現在選択されている顔画像は他の顔画像より拡大表示される(106b参照)。
このようにして認証データとして登録されている顔の中から操作者が追尾対象とする顔を選択すると、CPU60はその選択された顔を追尾対象の顔として設定する(ステップS13)。
以上のようにして追尾対象の顔を設定すると、続いて、CPU60は、その追尾対象の顔がステップS11において検出されているか否かを判定する(ステップS14)。NOと判定した場合、即ち、撮影画像内に追尾対象の顔が検出されなかった場合にはステップS11の処理に戻り、上述の処理を繰り返す。即ち、追尾対処の顔がステップS12の顔認識処理によって撮影画像内で検出されるまで、ステップS11〜ステップS14の処理を繰り返す。
一方、ステップS14においてYESと判定した場合には、即ち、撮影画像内に追尾対象の顔が検出された場合にはその顔画像の範囲をAF枠の範囲として設定する。
そして、CPU60(及び認識処理演算ボード64のCPU68)は顔認識処理によるAF枠自動追尾の処理(ステップS16〜S22)を開始すると共に、このAF枠自動追尾の処理で決定されるAF枠の範囲をレンズ装置12のレンズCPUに指定する処理(AF枠情報の送信)を開始し、追尾スタートとなる(ステップS15)。
AF枠自動追尾の処理を開始すると、認識処理演算ボード64のCPU68は、CPU60からの顔認識処理の実行の指示によりデコーダ70から1コマ分の撮影画像の画像データを取り込む(ステップS16)。
そして、その撮影画像の中に含まれる任意の顔(顔画像)を周知の顔検出処理により検出する(ステップS17)。
次に、メインボード56のCPU60から認証データを取得し、顔検出処理により検出した顔画像が認証データとして事前に登録されている特定人物の顔画像であるか否かをその認証データを用いて判断する顔認識処理を実行する(ステップS18)。
次に、ステップS13において設定した追尾対象の顔が検出されたか否かを判断する(ステップS19)。
そして、設定した追尾対象の顔が検出されたと判断された場合には、その顔画像の範囲をCPU60に通知し、CPU60は、追尾対象の顔が移動したか否か、即ち、検出した顔画像の範囲が、現在設定されているAF枠の範囲と相違しているか否かを判定する(ステップS20)。
ステップS20においてYESと判定した場合には、ステップS18において検出した顔画像の範囲を新たなAF枠の範囲として更新する(ステップS21)。このとき、そのAF枠の範囲を示すAF枠情報をレンズ装置12のレンズCPUに送信する。
次に、リセットボタン100(図4参照)がタップ操作されてAF枠自動追尾の停止指示があったか否かを判定する(ステップS22)。
なお、ステップS19およびステップS20においてNOと判定した場合には、ステップS21におけるAF枠の更新は行わず、ステップS22の処理に移る。
そして、ステップS22において、停止指示があったと判定された場合にはAF枠自動追尾を終了する一方、停止指示がなかったと判定された場合にはステップS16の処理に戻る。
なお、追尾対象の顔として設定されている人物が撮影範囲外に移動した場合のように、ステップS19の処理において撮影画像の中に追尾対象の顔がないと判断された場合には、追尾不能と判断してAF枠自動追尾の処理を自動で停止し、ステップS11に戻ってもよい。
ここで本発明では、図6のステップS1にて番組を選択し、ステップS2においてAF枠自動追尾における画像処理の演算に使用されるパラメータについて選択した番組に対応した度合いが設定されている。そこで、以下のような効果を得ることができる。
まず、図6のステップS1にて対談番組が選択されていた場合には、図7に示すように、顔認識処理における評価値が「大」、顔認識処理において認識できる顔の向きの許容範囲が「大」、顔検出人数の上限値が「中」、検出可能とする顔サイズが「中」に設定されている。そのため、ステップS18において小さな顔サイズまで多くの人数の顔を検出し、ステップS19において検出された顔の向きがそれぞれ大きく異なっていても検出精度を高めつつ顔認識を行なうので、顔認識の正確性が高くなる。したがって、対談番組の出演者の顔を正確に認識でき、特定の出演者の顔を正確に自動追尾することができる。
また、ステップS1にてスポーツ番組が選択されていた場合には、図7に示すように、顔認識処理における評価値が「小」、顔認識処理において認識できる顔の向きの許容範囲が「小」、顔検出人数の上限値が「小」、検出可能とする顔サイズが「大」に設定されている。そのため、ステップS18においてできるだけサイズが大きい顔について人数を絞って検出し、ステップS19において評価値を下げて顔認識処理を行なうので、顔検出処理および顔認識処理のスピードが高くなる。したがって、スポーツ番組で素早い動作を行う選手の顔を、素早く自動追尾することができる。
また、ステップS1にて歌番組が選択されていた場合には、図7に示すように、顔認識処理における評価値が「中」、顔認識処理において認識できる顔の向きの許容範囲が「大」、顔検出人数の上限値が「大」、検出可能とする顔サイズが「中」に設定されている。そのため、ステップS18において中程度の顔サイズ以上の人数の顔を検出し、多くの人数を顔検出できる。また、ステップS19において中程度の評価値に基づき処理を行い、認識できる顔の向き許容範囲を大きくして処理を行う。したがって、歌番組で大人数の歌手が出演し各人の顔が異なる方向を向いている場合であっても、正確にAF枠を追尾させることができる。
また、ステップS1にてドラマが選択されていた場合には、図7に示すように、顔認識処理における評価値が「中」、顔認識処理において認識できる顔の向きの許容範囲が「中」、顔検出人数の上限値が「中」、検出可能とする顔サイズが「中」に設定されている。そのため、ステップS18において中程度の顔サイズ以上の顔を検出し、中程度の人数を顔検出できる。また、ステップS19において中程度の評価値に基づき処理を行い、認識できる顔の向きの許容範囲も中程度として処理を行う。したがって、ドラマにおいて複数の俳優が出演している場面においても、確実に特定の俳優についてその顔にAF枠を追尾させることができる。
なお、ステップS1にてカスタムが選択されていた場合には、操作者が予め設定した各パラメータの度合いに従って、顔検出処理および顔認識処理を行いながらAF枠の自動追尾を行なうことができる。
以上が、ステップS3において顔認識追尾モードを選択した場合の説明である。
<顔検出追尾モードが選択された場合>
次に、ステップS3において、図4のLCD40の画面40aにおいて顔検出追尾モード選択ボタン94をタップ操作すると顔検出追尾モードが選択され、画像処理ユニット42のメインボード56に搭載されたCPU60は、ステップS4において顔検出追尾モードの処理を開始する。
次に、ステップS3において、図4のLCD40の画面40aにおいて顔検出追尾モード選択ボタン94をタップ操作すると顔検出追尾モードが選択され、画像処理ユニット42のメインボード56に搭載されたCPU60は、ステップS4において顔検出追尾モードの処理を開始する。
顔検出追尾モードは、任意の人物の顔をAF枠で追尾させるモードである。
図10は、顔検出追尾モードの処理手順を示したフローチャートであり、以下、顔検出追尾モードの処理をこのフローチャートに従って説明する。
メインボード56のCPU60は、顔検出追尾モードが選択されると、まず、追尾対象の顔を設定するための処理を行う。即ち、CPU60は、認識処理演算ボード64のCPU68に対して顔検出処理の開始を指示する。これにより、まず、認識処理演算ボード64のCPU68は、デコーダ70から1コマ分の撮影画像の画像データを取り込む(ステップS31)。
次に、その撮影画像の中に含まれる任意の人物の顔(顔画像)を検出する周知の顔検出処理を、顔が検出されるまで行う(ステップS32,33)。そして、検出した顔画像の範囲をメインボード56のCPU60に通知する。
CPU60は、図11に示すように、検出された顔画像の範囲を顔枠88a、88b、88cとしてLCD40の画面40aに表示させる。そして、操作者が、それらの顔枠88a、88b、88cにより示された人物の顔のうち、追尾対象(AFの対象)とする顔をタップ操作によって選択(指定)すると、CPU60はその選択された顔を追尾対象とし、その追尾対象とした顔の顔枠をAF枠として設定する(ステップS34)。
次に、選択した顔枠内の顔画像を基準パターン画像としてCPU60に登録する(ステップS35)。
以上の追尾対象の顔を設定する処理によりAF枠を設定した後、操作者が、AF枠自動追尾の開始を指示する操作を行うと、CPU60(及び認識処理演算ボード64のCPU68)は顔検出処理によるAF枠自動追尾の処理(ステップS37〜S44)を開始すると共に、このAF枠自動追尾の処理で決定されるAF枠の範囲をレンズ装置12のレンズCPUに指定する処理(AF枠情報の送信)を開始する(ステップS36)。
ここで、AF枠自動追尾の開始の指示は、セットボタン98のタップ操作や、AF枠の位置のダブルタップ操作等によって行うことができる。
また、ステップS34において、追尾対象の顔とする顔枠を選択する際に(AF枠を設定する際に)、選択する顔枠をタップ操作する代わりにダブルタップ操作することによって、その顔枠をAF枠として設定すると同時にAF枠自動追尾の開始を指示することができる。ただし、任意の位置でのダブルタップ操作を単にAF枠自動追尾の開始を指示する操作とする態様も可能であり、その場合にはAF枠の設定とは無関係に任意の位置でダブルタップ操作を行ってAF枠自動追尾の開始を指示するものとなる。
また、ステップS34においてAF枠を設定した際に、自動的にAF枠自動追尾の処理を開始するようにしてもよい。
AF枠自動追尾の処理を開始すると、認識処理演算ボード64のCPU68は、ステップS30及びステップS32の処理と同様にCPU60からの顔検出処理の実行の指示によりデコーダ70から1コマ分の撮影画像の画像データを取り込み(ステップS37)、その撮影画像の中に含まれる任意の人物の顔を検出する顔検出処理を行う(ステップS38)。そして、検出した顔画像の範囲をメインボード56のCPU60に通知する。
CPU60は、ステップS35で登録した基準パターン画像と検出した顔画像のパターンマッチング処理を行い(ステップS39)、追尾対象の顔画像を検出する(ステップS40)。
続いてCPU60は、追尾対象の顔が移動したか否か、即ち、検出した顔画像の範囲が、現在設定されているAF枠の範囲と相違しているか否かを判定する(ステップS41)。
ステップS41においてYESと判定した場合、即ち、検出した顔画像の範囲が現在設定されているAF枠の範囲と相違していると判定した場合には、ステップS40において検出した顔画像の範囲を新たなAF枠の範囲として更新する(ステップS42)。このとき、そのAF枠の範囲を示すAF枠情報をレンズ装置12のレンズCPUに送信する。そして、ステップS40で検出した顔枠内の顔画像を基準パターン画像としてCPU60に更新登録する(ステップS43)。
一方、ステップS41においてNOと判定した場合、即ち、検出した顔画像の範囲が現在設定されているAF枠の範囲と相違していないと判定した場合には、ステップS42におけるAF枠の更新は行わず、ステップS43の処理に移る。
次に、リセットボタン100(図4参照)がタップ操作されてAF枠自動追尾の停止指示があったか否かを判定する(ステップS44)。そして、停止指示があったと判定された場合にはAF枠自動追尾を終了する一方、停止指示がなかったと判定された場合にはステップS37の処理に戻る。
また、ステップS38の顔検出処理において撮影画像の中に顔画像が全く検出されなかった場合や、ステップS40の追尾対象の顔画像の検出において全く検出されなかった場合には、追尾不能としてAF枠自動追尾の処理を自動的に停止してステップS31に戻ってもよい。
ここで本発明では、図6のステップS1にて番組を選択し、ステップS2においてAF枠自動追尾における画像処理の演算に使用されるパラメータについて選択した番組に対応した度合いが設定されている。そこで、以下のような効果を得ることができる。
まず、図6のステップS1にて対談番組が選択されていた場合には、図7に示すように、顔検出人数の上限値が「中」、検出可能とする顔サイズが「中」に設定されている。そのため、ステップS38において中程度の人数、中程度の顔サイズの検出が可能である。したがって、出演者の動きが小さいと考えられる対談番組において、確実にAF枠自動追尾の処理を行うことができる。
また、図6のステップS1にてスポーツ番組が選択されていた場合には、図7に示すように、顔検出人数の上限値が「小」、検出可能とする顔サイズが「大」に設定されている。そのため、ステップS38においてできるだけサイズが大きい顔について人数を絞って検出する。したがって、スポーツ番組で素早い動作を行う選手の顔を、素早く自動追尾することができる。
また、ステップS1にて歌番組が選択された場合には、図7に示すように、顔検出人数の上限値が「大」、検出可能とする顔サイズが「中」に設定されている。そのため、ステップS18において中程度の顔サイズ以上の人数の顔を検出し、多くの人数を顔検出できる。したがって、歌番組で大人数の歌手が出演している場合であっても、確実にAF枠自動追尾の処理を行うことができる。
また、ステップS1にてドラマが選択された場合には、図7に示すように、顔検出人数の上限値が「中」、検出可能とする顔サイズが「中」に設定されている。そのため、ステップS38において中程度の人数、中程度の顔サイズの検出が可能である。したがって、ドラマにおいて複数の俳優が出演している場面においても、確実にAF枠自動追尾の処理を行うことができる。
なお、ステップS1にてカスタムが選択された場合には、操作者が予め設定した各パラメータの度合いに従って、顔検出処理および顔認識処理を行いながらAF枠の自動追尾を行なうことができる。
以上が、ステップS3において顔検出追尾モードを選択した場合の説明である。
<物体追尾モードが選択された場合>
次に、ステップS3において、図4のLCD40の画面40aにおいて物体追尾モード選択ボタン92をタップ操作すると物体追尾モードが選択され、画像処理ユニット42のメインボード56に搭載されたCPU60は、ステップS4において物体追尾モードの処理を開始する。
次に、ステップS3において、図4のLCD40の画面40aにおいて物体追尾モード選択ボタン92をタップ操作すると物体追尾モードが選択され、画像処理ユニット42のメインボード56に搭載されたCPU60は、ステップS4において物体追尾モードの処理を開始する。
物体追尾モードは、AF枠自動追尾の1つのモードであり、任意の種類の物体をAF枠で追尾させるモードである。
図12は、物体追尾モードの処理手順を示したフローチャートであり、以下、物体追尾モードの処理をこのフローチャートに従って説明する。尚、物体追尾モードが選択された場合にLCD40の画面40aには、図4に示したものと同様のメニュー画面が表示される。
操作者は、追尾対象(AFの対象)とする被写体画像が含まれるようにAF枠の範囲を指定し、これに従ってCPU60はAF枠の範囲を設定する(ステップS51)。この物体追尾モードでは人物の顔以外の物体を追尾対象とすることができる。
続いて操作者が、AF枠自動追尾の開始を指示する操作を行うと、CPU60(及びパターンマッチング処理演算ボード62のCPU66)はパターンマッチングによるAF枠自動追尾の処理(ステップS53〜S59)を開始すると共に、AF枠自動追尾の処理で決定されるAF枠の範囲をレンズ装置12のレンズCPUに指定する処理(AF枠情報の送信)を開始する(ステップS52)。
尚、AF枠自動追尾の開始の指示は、図4に示したLCD40の画面40a上において、セットボタン98をタップ操作するか、又は、任意の位置(AF枠を設定する位置)をダブルタップ操作することによって行われる。LCD40の画面40a上において、ダブルタップ操作することによってAF枠自動追尾の開始を指示する場合には、ステップS10におけるAF枠の位置の設定も同時に行うことができる。ただし、任意の位置でのダブルタップ操作を単にAF枠自動追尾の開始を指示する操作とする態様も可能であり、その場合にはAF枠の位置の設定とは無関係のものとなる。
AF枠自動追尾の処理を開始すると、CPU60からの指示によりパターンマッチング処理演算ボード62のCPU66は、デコーダ70から1コマ分の撮影画像の画像データを取り込む(ステップS53)。続いて、現在設定されているAF枠の範囲をCPU60から取得し、取り込んだ撮影画像のうちAF枠の範囲内の画像を基準パターンの画像として設定(記憶)する(ステップS54)。そして、以下のステップS55〜S59の処理を繰り返し実行する。
まず、CPU66は、デコーダ70から1コマ分の撮影画像の画像データを取り込み(ステップS55)、パターンマッチング処理を行って、撮影画像の中から基準パターンの画像に一致する画像範囲を検出する(ステップS56)。そして、その検出した画像範囲をメインボード56のCPU60に通知する。
CPU60は、基準パターンの画像が移動したか否か、即ち、基準パターンを検出した画像範囲が、現在設定されているAF枠の範囲と相違しているか否かを判定する(ステップS57)。尚、撮影画像内での基準パターンの画像の大きさが変化した場合もこの判定処理でYESと判定される。
ステップS57においてYESと判定した場合には、ステップS20において検出した画像範囲を新たなAF枠の範囲として設定(更新)し、そのAF枠の範囲を示すAF枠情報をレンズ装置12のレンズCPUに送信する(ステップS58)。
また、パターンマッチング処理演算ボード62のCPU66は、ステップS22において検出した画像範囲の画像を新たな基準パターンの画像として更新する(ステップS59)
ステップS57においてNOと判定した場合には、ステップS58におけるAF枠の更新は行わず、ステップS59における基準パターンの更新のみが行われる。
ステップS57においてNOと判定した場合には、ステップS58におけるAF枠の更新は行わず、ステップS59における基準パターンの更新のみが行われる。
ステップS59の処理が終了すると、ステップS55の処理に戻る。
このような物体追尾モードは、ステップS1において風景を選択した場合に使用されるのに適しているが、その他の番組を選択した場合でも使用してもよい。
そして、このような物体追尾モードにおいても図7に示すように、ステップS56のパターンマッチング処理における評価値をパラメータとして、その度合いを設定しておくことで、番組に適したAF枠の自動追尾を行なうことができる。
〔他の実施形態〕
上記の実施形態においては、番組に対応させたAF枠を自動追尾をさせるために必要な各パラメータの度合いを設定することとしたが、これ以外にも番組に対応させてスイッチの画面配置やセーフティーゾーンなどの補助線の切り替えを行なうようにしてもよい。
上記の実施形態においては、番組に対応させたAF枠を自動追尾をさせるために必要な各パラメータの度合いを設定することとしたが、これ以外にも番組に対応させてスイッチの画面配置やセーフティーゾーンなどの補助線の切り替えを行なうようにしてもよい。
また、図5に示すような番組選択の画面ではなく、追尾スピード優先や顔認識優先などの項目を選択できる画面とし、各項目にAF枠を自動追尾させるために必要な各パラメータの度合いを設定することとしてもよい。
以上、本発明のAF枠自動追尾システムおよびAF枠自動追尾方法について詳細に説明したが、本発明は、以上の例には限定されず、本発明の要旨を逸脱しない範囲において、各種の改良や変形を行ってもよいのはもちろんである。
1…AF枠自動追尾システム、10…テレビカメラ、12…レンズ装置、14…カメラ本体、26…フォーカスデマンド、36…ビューファインダ、40…タッチパネル付き液晶ディスプレイ(LCD)、42…画像処理ユニット、48…AFユニット、58…ダウンコンバータ、56…メインボード、62…パターンマッチング処理演算ボード、64…認識処理演算ボード、70…デコーダ、60,66,68…CPU、74…スーパーインポーザ、80,82…スロット、84…顔認識データカード、86…パラメータデータカード、92…物体追尾モード選択ボタン、94…顔検出追尾モード選択ボタン、96…顔認識追尾モード選択ボタン、98…セットボタン、100…リセットボタン、102…メニュー表示オン/オフボタン、104…番組選択ボタン
Claims (7)
- 光学系により結像された被写体像を撮像する撮像手段と、
前記撮像手段により撮像された撮像画像に設定されるAF枠内の被写体にピントが合うように前記光学系のフォーカス調整を行うオートフォーカス手段と、
前記撮像画像について画像処理を行って当該画像処理の演算結果をもとに前記AF枠の範囲の情報を前記オートフォーカス手段に与えて前記AF枠を追尾対象の被写体に自動追尾させるAF枠自動追尾手段と、
前記画像処理の演算に使用するパラメータの度合いの情報を前記AF枠自動追尾手段に与えるパラメータ授与手段と、を有し、
前記パラメータとして、前記追尾対象の被写体に自動追尾させる正確性に影響を与えるパラメータおよび前記追尾対象の被写体に自動追尾させる速さに影響を与えるパラメータのうちの少なくともいずれか1つが含まれること、
を特徴とするAF枠自動追尾システム。 - 前記パラメータ授与手段は、前記追尾対象の被写体が撮像される撮像場面に応じた前記パラメータの度合いの情報を与えること、
を特徴とする請求項1のAF枠自動追尾システム。 - 前記撮像場面を選択する選択手段を有すること、
を特徴とする請求項2のAF枠自動追尾システム。 - 前記パラメータ授与手段は、前記パラメータの度合いの情報が記憶された記憶手段が装着され当該記憶手段から前記パラメータの度合いの情報を取得するパラメータ情報取得手段を備えること、
を特徴とする請求項1乃至3のいずれか1つのAF枠自動追尾システム。 - 前記AF枠自動追尾手段は、前記画像処理として前記追尾対象の被写体の顔画像が認識データに登録された特定人物の顔画像であるか否かを判断する顔認識処理を行うものであって、
前記パラメータとして、前記顔認識処理における判断の正確性に影響を与えるパラメータが含まれること、
を特徴とする請求項1乃至4のいずれか1つのAF枠自動追尾システム。 - 前記顔認識処理における判断の正確性に影響を与えるパラメータとして、前記顔認識処理におけるパターンマッチング評価値が含まれること、
を特徴とする請求項5のAF枠自動追尾システム。 - 光学系により結像された被写体像を撮像する撮像手段により撮像された撮像画像について画像処理を行って当該画像処理の演算結果をもとにAF枠を追尾対象の被写体に自動追尾させるAF枠自動追尾手段に対し前記画像処理の演算に使用するパラメータの度合いの情報を与えるものであって、
前記パラメータとして、前記追尾対象の被写体に自動追尾させる正確性に影響を与えるパラメータおよび前記追尾対象の被写体に自動追尾させる速さに影響を与えるパラメータのうちの少なくともいずれか1つが含まれること、
を特徴とするAF枠自動追尾方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009164785A JP2011022203A (ja) | 2009-07-13 | 2009-07-13 | Af枠自動追尾システムおよびaf枠自動追尾方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009164785A JP2011022203A (ja) | 2009-07-13 | 2009-07-13 | Af枠自動追尾システムおよびaf枠自動追尾方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011022203A true JP2011022203A (ja) | 2011-02-03 |
Family
ID=43632367
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009164785A Abandoned JP2011022203A (ja) | 2009-07-13 | 2009-07-13 | Af枠自動追尾システムおよびaf枠自動追尾方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011022203A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016218946A (ja) * | 2015-05-26 | 2016-12-22 | 沖電気工業株式会社 | 表示装置、表示方法及びプログラム |
JP2019016906A (ja) * | 2017-07-06 | 2019-01-31 | キヤノン株式会社 | 電子機器およびその制御方法 |
JP2019020716A (ja) * | 2017-07-13 | 2019-02-07 | キヤノン株式会社 | 制御装置、撮像装置、および、プログラム |
JP7424296B2 (ja) | 2018-09-13 | 2024-01-30 | ソニーグループ株式会社 | ネットワークシステム、ネットワーク管理装置、及びネットワーク管理方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001330882A (ja) * | 2000-05-24 | 2001-11-30 | Canon Inc | 被写体認識機能付きカメラ |
JP2004179883A (ja) * | 2002-11-26 | 2004-06-24 | Sharp Corp | 画像調整方法、画像入力装置、デジタルスチルカメラ、画像形成装置及びコンピュータプログラム |
JP2007179389A (ja) * | 2005-12-28 | 2007-07-12 | Nikon Corp | 撮影装置 |
JP2007181020A (ja) * | 2005-12-28 | 2007-07-12 | Nikon Corp | 撮影装置 |
JP2008153572A (ja) * | 2006-12-20 | 2008-07-03 | Hitachi High-Technologies Corp | 異物検査装置 |
JP2008206018A (ja) * | 2007-02-22 | 2008-09-04 | Nikon Corp | 撮像装置およびプログラム |
JP2008289006A (ja) * | 2007-05-18 | 2008-11-27 | Casio Comput Co Ltd | 撮像装置、及び顔検出方法、顔検出制御プログラム |
-
2009
- 2009-07-13 JP JP2009164785A patent/JP2011022203A/ja not_active Abandoned
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001330882A (ja) * | 2000-05-24 | 2001-11-30 | Canon Inc | 被写体認識機能付きカメラ |
JP2004179883A (ja) * | 2002-11-26 | 2004-06-24 | Sharp Corp | 画像調整方法、画像入力装置、デジタルスチルカメラ、画像形成装置及びコンピュータプログラム |
JP2007179389A (ja) * | 2005-12-28 | 2007-07-12 | Nikon Corp | 撮影装置 |
JP2007181020A (ja) * | 2005-12-28 | 2007-07-12 | Nikon Corp | 撮影装置 |
JP2008153572A (ja) * | 2006-12-20 | 2008-07-03 | Hitachi High-Technologies Corp | 異物検査装置 |
JP2008206018A (ja) * | 2007-02-22 | 2008-09-04 | Nikon Corp | 撮像装置およびプログラム |
JP2008289006A (ja) * | 2007-05-18 | 2008-11-27 | Casio Comput Co Ltd | 撮像装置、及び顔検出方法、顔検出制御プログラム |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016218946A (ja) * | 2015-05-26 | 2016-12-22 | 沖電気工業株式会社 | 表示装置、表示方法及びプログラム |
JP2019016906A (ja) * | 2017-07-06 | 2019-01-31 | キヤノン株式会社 | 電子機器およびその制御方法 |
US11082608B2 (en) | 2017-07-06 | 2021-08-03 | Canon Kabushiki Kaisha | Electronic apparatus, method, and storage medium |
JP7009096B2 (ja) | 2017-07-06 | 2022-01-25 | キヤノン株式会社 | 電子機器およびその制御方法 |
JP2019020716A (ja) * | 2017-07-13 | 2019-02-07 | キヤノン株式会社 | 制御装置、撮像装置、および、プログラム |
JP7424296B2 (ja) | 2018-09-13 | 2024-01-30 | ソニーグループ株式会社 | ネットワークシステム、ネットワーク管理装置、及びネットワーク管理方法 |
US11943103B2 (en) | 2018-09-13 | 2024-03-26 | Sony Corporation | Network system, network management apparatus, and network management method executing setting of a path and parameters |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5473551B2 (ja) | オートフォーカスシステム | |
JP2010124120A (ja) | オートフォーカスシステム | |
JP5914364B2 (ja) | オートフォーカスシステム | |
EP2293542A2 (en) | Autofocus frame auto-tracking system | |
JP2010096962A (ja) | Af枠自動追尾機能を備えたオートフォーカスシステム | |
US20100123790A1 (en) | Autofocus system | |
JP5384172B2 (ja) | オートフォーカスシステム | |
JP2011022203A (ja) | Af枠自動追尾システムおよびaf枠自動追尾方法 | |
JP5081133B2 (ja) | オートフォーカスシステム | |
JP2010085530A (ja) | オートフォーカスシステム | |
JP5328616B2 (ja) | Af枠自動追尾システム | |
JP2010230871A (ja) | オートフォーカスシステム | |
JP5276538B2 (ja) | Af枠自動追尾システム | |
WO2012099174A1 (ja) | オートフォーカスシステム | |
EP2187625B1 (en) | Autofocus system | |
JP2010224499A (ja) | オートフォーカスシステム | |
JP2010164637A (ja) | Af枠自動追尾システム | |
JP2011022499A (ja) | オートフォーカスシステム | |
JP5384173B2 (ja) | オートフォーカスシステム | |
JP2010122366A (ja) | オートフォーカスシステム | |
JP2010096963A (ja) | Af枠自動追尾機能を備えたオートフォーカスシステム | |
JP2010122365A (ja) | Af枠自動追尾システム | |
JP2010122367A (ja) | オートフォーカスシステム | |
JP5457008B2 (ja) | Af枠自動追尾機能を備えたオートフォーカスシステム | |
JP2011040957A (ja) | オートフォーカスシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120210 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120905 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120907 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20121101 |