JP3757404B2 - 被写体検出装置および被写体検出方法 - Google Patents
被写体検出装置および被写体検出方法 Download PDFInfo
- Publication number
- JP3757404B2 JP3757404B2 JP01165596A JP1165596A JP3757404B2 JP 3757404 B2 JP3757404 B2 JP 3757404B2 JP 01165596 A JP01165596 A JP 01165596A JP 1165596 A JP1165596 A JP 1165596A JP 3757404 B2 JP3757404 B2 JP 3757404B2
- Authority
- JP
- Japan
- Prior art keywords
- subject
- image data
- pixel
- model
- setting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
Description
【発明の属する技術分野】
本発明は、被写体検出装置および被写体検出方法に関する。特に、例えば監視カメラや、テレビ会議システム、その他、被写体を自動追尾するビデオカメラなどに用いて好適な被写体検出装置および被写体検出方法に関する。
【0002】
【従来の技術】
従来より、パン駆動機構およびチルト駆動機構を用いて、例えば表示画面の中央部に、追尾対象である被写体を表示させるように自動追尾を行うビデオカメラが提案されている。
【0003】
即ち、このようなビデオカメラにおいては、例えば表示画面(ビデオカメラにより撮像される画像)の所定の位置(例えば、表示画面の中央部など)に、所定の大きさの基準計測枠が設けられ、まず、その基準計測枠に、追尾対象の被写体が含まれるように撮像が行われて記憶される(自動追尾する被写体が設定される)。その後、ビデオカメラにより撮像された画像から、記憶された被写体が検出され、被写体を検出することができた場合には、その被写体が、表示画面の中央部に表示されるように、パンニングおよびチルティングが行われる。
【0004】
なお、追尾すべき被写体の設定は、その被写体が、基準計測枠に含まれている状態において、その被写体を追尾対象として設定するように操作(例えば、所定のボタンの操作)がなされることで行われる。この場合、ビデオカメラでは、基準計測枠内の画素すべての画素値(画像データ)や、その画素の中のいずれか1つの画素値などに基づいて、被写体の特徴を表す被写体モデルが生成される。そして、ビデオカメラにより撮像された画像の中からの被写体の検出(抽出)(認識)は、この被写体モデルに基づいて行われる。
【0005】
このような自動追尾を行うビデオカメラは、例えば監視カメラや、話者を自動追尾する話者自動追尾型テレビ会議システムなどに適用することができ、さらに、セキュリティシステムの無人化や、いわゆるハンズフリー撮影などを行うのに有効な手段である。
【0006】
【発明が解決しようとする課題】
ところで、従来のビデオカメラでは、被写体モデルの生成は、所定の状態にある被写体に対応する画像データに基づいて行われる。このため、被写体の追尾中に、その被写体の姿勢その他の状態が変化した場合、撮像される被写体の輝度などが、被写体モデルの生成時とは異なるものとなることがあり、これにより、被写体の検出性能(認識性能)が劣化する課題があった。
【0007】
そこで、この劣化を低減する方法として、被写体に種々の姿勢をとらせ、そのような種々の姿勢ごとの被写体モデルを生成することを、ある程度の検出性能が得られるまで繰り返す方法がある。しかしながら、この方法では、被写体モデルの生成を、何度も繰り返し行わなければならず、また、ユーザは、生成された被写体モデルによる検出性能を確認する必要があり、面倒であった。
【0008】
本発明は、このような状況に鑑みてなされたものであり、被写体の検出性能を、容易に向上させることができるようにするものである。
【0009】
【課題を解決するための手段】
請求項1に記載の被写体検出装置は、ユーザの操作に応じて、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定手段と、被写体設定手段により設定された被写体の画像データから、所定の量子化レベルの輝度を有する画素のうち、色差信号の分散が所定の閾値より大きいものである高分散画素を検出する画素検出手段と、被写体設定手段により設定された被写体の画像データから、画素検出手段により検出された高分散画素を除いたものに基づいて、被写体設定手段により設定された被写体の被写体モデルを生成するモデル生成手段と、モデル生成手段により生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出する被写体検出手段とを備えることを特徴とする。
【0010】
請求項4に記載の被写体検出方法は、ユーザの操作に応じて、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定ステップと、被写体設定ステップの処理により設定された被写体の画像データから、所定の量子化レベルの輝度を有する画素のうち、色差信号の分散が所定の閾値より大きいものである高分散画素を検出する画素検出ステップと、被写体設定ステップの処理により設定された被写体の画像データから、画素検出ステップの処理により検出された高分散画素を除いたものに基づいて、被写体設定ステップの処理により設定された被写体の被写体モデルを生成するモデル生成ステップと、モデル生成ステップの処理により生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出する被写体検出ステップとを含むことを特徴とする。
【0011】
請求項5に記載の被写体検出装置は、ユーザの操作に応じて、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定手段と、被写体設定手段により設定された被写体の画像データから、色差信号のピーク値を有するピーク値画素を検出し、そのピーク値画素の輝度より、輝度が大きいものである高画素値画素を検出する画素検出手段と、被写体設定手段により設定された被写体の画像データから、画素検出手段により検出された高画素値画素を除いたものに基づいて、被写体設定手段により設定された被写体の被写体モデルを生成するモデル生成手段と、モデル生成手段により生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出する被写体検出手段とを備えることを特徴とする。
【0012】
請求項6に記載の被写体検出方法は、ユーザの操作に応じて、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定ステップと、被写体設定ステップの処理により設定された被写体の画像データから、色差信号のピーク値を有するピーク値画素を検出し、そのピーク値画素の輝度より、輝度が大きいものである高画素値画素を検出する画素検出ステップと、被写体設定ステップの処理により設定された被写体の画像データから、画素検出ステップの処理により検出された高画素値画素を除いたものに基づいて、被写体設定ステップの処理により設定された被写体の被写体モデルを生成するモデル生成ステップと、モデル生成ステップの処理により生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出する被写体検出ステップとを含むことを特徴とする。
【0019】
請求項1に記載の被写体検出装置においては、被写体設定手段は、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定し、画素検出手段は、被写体設定手段により設定された被写体の画像データから、所定の量子化レベルの輝度を有する画素のうち、色差信号の分散が所定の閾値より大きいものである高分散画素を検出し、モデル生成手段は、被写体設定手段により設定された被写体の画像データから、画素検出手段により検出された高分散画素を除いたものに基づいて、被写体設定手段により設定された被写体の被写体モデルを生成し、被写体検出手段は、モデル生成手段により生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出するようになされている。
【0020】
請求項4に記載の被写体検出方法においては、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定し、設定された被写体の画像データから、所定の量子化レベルの輝度を有する画素のうち、色差信号の分散が所定の閾値より大きいものである高分散画素を検出し、設定された被写体の画像データから、検出された高分散画素を除いたものに基づいて、設定された被写体の被写体モデルを生成し、生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出するようになされている。
【0021】
請求項5に記載の被写体検出装置においては、被写体設定手段は、ユーザの操作に応じて、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定し、画素検出手段は、被写体設定手段により設定された被写体の画像データから、色差信号のピーク値を有するピーク値画素を検出し、そのピーク値画素の輝度より、輝度が大きいものである高画素値画素を検出し、モデル生成手段は、被写体設定手段により設定された被写体の画像データから、画素検出手段により検出された高画素値画素を除いたものに基づいて、被写体設定手段により設定された被写体の被写体モデルを生成し、被写体検出手段は、モデル生成手段により生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出するようになされている。
【0022】
請求項6に記載の被写体検出方法においては、ユーザの操作に応じて、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定し、設定された被写体の画像データから、色差信号のピーク値を有するピーク値画素を検出し、そのピーク値画素の輝度より、輝度が大きいものである高画素値画素を検出し、設定された被写体の画像データから、検出された高画素値画素を除いたものに基づいて、設定された被写体の被写体モデルを生成し、生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出するようになされている。
【0029】
【発明の実施の形態】
以下に、本発明の実施例を説明するが、その前に、特許請求の範囲に記載の発明の各手段と以下の実施例との対応関係を明らかにするために、各手段の後の括弧内に、対応する実施例(但し、一例)を付加して、本発明の特徴を記述すると、次のようになる。
【0030】
即ち、請求項1に記載の被写体検出装置は、ユーザの操作に応じて、検出される被写体を検出する被写体検出装置であって、ユーザの操作に応じて、被写体を撮像する撮像部(例えば、図1に示すレンズブロック1など)より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定手段(例えば、図2に示す被写体設定部26など)と、被写体設定手段により設定された被写体の画像データから、所定の量子化レベルの輝度を有する画素のうち、色差信号の分散が所定の閾値より大きいものである高分散画素を検出する画素検出手段(例えば、図2に示す被写体処理部21や、図13に示すプログラムの処理ステップS61など)と、被写体設定手段により設定された被写体の画像データから、画素検出手段により検出された高分散画素を除いたものに基づいて、被写体設定手段により設定された被写体の被写体モデルを生成するモデル生成手段(例えば、図2に示す被写体処理部21や、図4に示すプログラムの処理ステップS23など)と、モデル生成手段により生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出する被写体検出手段(例えば、図2に示す被写体処理部21や、図4に示すプログラムの処理ステップS24など)とを備えることを特徴とする。
【0031】
被写体検出装置には、被写体設定手段により被写体が設定されたときに撮像部より出力される画像の中の所定の範囲内の画像データを記憶する画像データ記憶手段(例えば、図2に示す被写体データ記憶部23や、図4に示すプログラムの処理ステップS22など)と、所定の範囲を変更する変更手段(例えば、図2に示す被写体設定部26や、図10に示すプログラムの処理ステップS42およびS43など)とをさらに設け、モデル生成手段は、画像データ記憶手段に記憶された画像データに基づいて、被写体モデルを生成するようにすることができる。
【0032】
被写体検出装置には、被写体設定手段により被写体が設定されたときに撮像部より出力される画像の中の所定の範囲内の画像データに基づいて、所定の初期モデルを生成する初期モデル生成手段(例えば、図2に示す被写体処理部21や、図11に示すプログラムの処理ステップS52など)と、撮像部より出力される画像データのうち、初期モデル生成手段により生成された初期モデルに適合するものを記憶する画像データ記憶手段(例えば、図2に示す被写体データ記憶部23や、図11に示すプログラムの処理ステップS53など)とをさらに設け、モデル生成手段は、画像データ記憶手段に記憶された画像データに基づいて、被写体モデルを生成するようにすることができる。
【0033】
請求項4に記載の被写体検出方法は、被写体を検出する被写体検出装置の被写体検出方法であって、ユーザの操作に応じて、被写体を撮像する撮像部(例えば、図1に示すレンズブロック1など)より出力された画像における所定の領域を被写体の画像データとして被写体を設定する被写体設定ステップ(例えば、図4に示すプログラムの処理ステップS21など)と、被写体設定ステップの処理により設定された被写体の画像データから、所定の量子化レベルの輝度を有する画素のうち、色差信号の分散が所定の閾値より大きいものである高分散画素を検出する画素検出ステップ(例えば、図13に示すプログラムの処理ステップS61など)と、被写体設定ステップの処理により設定された被写体の画像データから、画素検出ステップの処理により検出された高分散画素を除いたものに基づいて、被写体設定ステップの処理により設定された被写体の被写体モデルを生成するモデル生成ステップ(例えば、図13に示すプログラムの処理ステップS64など)と、モデル生成ステップの処理により生成された被写体モデルに基づいて、被写体より出力された画像から、被写体を検出する被写体検出ステップ(例えば、図4に示すプログラムの処理ステップS26など)とを含むことを特徴とする。
【0034】
請求項5に記載の被写体検出装置は、被写体を検出する被写体検出装置であって、ユーザの操作に応じて、被写体を撮像する撮像部(例えば、図1に示すレンズブロック1など)より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定手段(例えば、図2に示す被写体設定部26など)と、被写体設定手段により設定された被写体の画像データから、色差信号のピーク値を有するピーク値画素を検出し、そのピーク値画素の輝度より、輝度が大きいものである高画素値画素を検出する画素検出手段(例えば、図2に示す被写体処理部21や、図13に示すプログラムの処理ステップS62など)と、被写体設定手段により設定された被写体の画像データから、画素検出手段により検出された高画素値画素を除いたものに基づいて、被写体設定手段により設定された被写体の被写体モデルを生成するモデル生成手段(例えば、図2に示す被写体処理部21や、図4に示すプログラムの処理ステップS23など)と、モデル生成手段により生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出する被写体検出手段(例えば、図2に示す被写体処理部21や、図4に示すプログラムの処理ステップS24など)とを備えることを特徴とする。
【0035】
請求項6に記載の被写体検出方法は、被写体を検出する被写体検出装置の被写体検出方法であって、ユーザの操作に応じて、被写体を撮像する撮像部(例えば、図1に示すレンズブロック1など)より出力された画像における所定の領域を被写体の画像データとして被写体を設定する被写体設定ステップ(例えば、図4に示すプログラムの処理ステップS21など)と、被写体設定ステップの処理により設定された被写体の画像データから、色差信号のピーク値を有するピーク値画素を検出し、そのピーク値画素の輝度より、輝度が大きいものである高画素値画素を検出する画素検出ステップ(例えば、図13に示すプログラムの処理ステップS61など)と、被写体設定ステップの処理により設定された被写体の画像データから、画素検出ステップの処理により検出された高画素値画素を除いたものに基づいて、被写体設定ステップの処理により設定された被写体の被写体モデルを生成するモデル生成ステップ(例えば、図4に示すプログラムの処理ステップS23など)と、モデル生成ステップの処理により生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体を検出する被写体検出ステップ(例えば、図4に示すプログラムの処理ステップS26など)とを含むことを特徴とする。
【0040】
なお、勿論この記載は、各手段を上記したものに限定することを意味するものではない。
【0041】
図1は、本発明を適用したビデオカメラシステムの一実施例の構成を示している。レンズブロック1は、レンズ2、アイリス3、およびCCD(Charge Coupled Device)4から構成され、被写体からの光LAを撮像し、電気信号としての画像信号を出力する。即ち、被写体からの光LAは、レンズ2により、アイリス3を介してCCD4上に結像され、これにより、CCD4からは、その受光量に対応した画像信号が出力される。
【0042】
なお、アイリス3は、いわゆるオートアイリス(AE)機構を構成しており、CCD4で受光される光量を、適切な値に調整する(レンズブロック1の露光状態を適切な状態にする)ようになされている。
【0043】
レンズブロック1から出力された画像信号は、信号分離(S/H(Sample Hold)/自動利得調整(AGC(Automatic Gain Control))回路5において、サンプルホールドされ、さらに、オートアイリス機構からの制御信号によって、所定のゲインを持つように利得制御された後、A/D変換器6に出力される。
【0044】
A/D変換器6は、信号分離/自動利得調整回路5からの画像信号(アナログ信号)を、所定のクロックにしたがってA/D変換することによりディジタルの画像信号にする。なお、A/D変換器6がA/D変換を行うために用いる基準電圧は、図示せぬオートホワイトバランス(AWB)機構から供給されるようになされており、これにより、ホワイトバランスが適正に調整されるようになされている。
【0045】
ここで、本実施例では、オートアイリス機構およびオートホワイトバランス機構を機能させるようにしたが、オートアイリス機構およびオートホワイトバランス機構を機能させず、固定の露出およびホワイトバランスで、撮像を行うようにすることも可能である。
【0046】
A/D変換器6によってディジタル信号とされた画像信号は、ディジタルカメラ処理回路7に供給される。ディジタルカメラ処理回路7は、A/D変換器6からの画像信号に基づいて、その画像信号に対応する画像を構成する各画素の輝度信号(第1の画素値)Y、並びに色差信号(第2の画素値)R−Y,B−Y、およびクロマ信号Cを生成する。輝度信号Yおよびクロマ信号Cは、D/A変換器8に出力され、そこでD/A変換された後、モニタ14に供給される。これにより、モニタ14では、レンズブロック1で撮像された画像が表示される。
【0047】
また、ディジタルカメラ処理回路7で生成された輝度信号Yと、色差信号R−Y,B−Yは、被写体認識回路部9に供給される。被写体認識回路部9は、ディジタルカメラ処理回路7からの輝度信号Yと、色差信号R−Y,B−Yで構成される画像の中から、追尾すべき被写体を検出し、その被写体が、レンズブロック1から出力される画像の、例えば中央部分(所定の基準位置)に表示されるように、パンモータ12およびチルトモータ13を駆動する。
【0048】
即ち、被写体認識回路部9は、フレームメモリ構成の画像メモリ10と、マイクロプロセッサ構成の追尾信号処理回路11とで構成される。画像メモリ10は、追尾信号処理回路11から書き込み許可信号を受信すると、ディジタルカメラ処理回路7が出力する輝度信号Y、色差信号R−Y,B−Yそれぞれを、独立に、画素単位で記憶する。
【0049】
ここで、以下、適宜、色差信号R−YまたはB−Yを、それぞれRまたはBと略記する。また、レンズブロック1が出力する画像の最も左上の画素の位置を原点(0,0)とし、その位置の左または上からそれぞれiまたはj番目の画素の輝度信号Y、色差信号R,Bそれぞれを、以下、適宜、Yij,Rij,Bijとも表す。さらに、以下、適宜、輝度信号Y、色差信号R,Bをまとめて、画像データともいう。
【0050】
画像メモリ10は、1フレーム(または1フィールド)分の画像データを記憶すると、読み出し許可信号を、追尾信号処理回路11に出力する。そして、画像目メモリ10は、その後、追尾信号処理回路11が出力するアドレス(上述のi,jに対応する)を受信すると、そのアドレスに記憶された画像データを、追尾信号処理回路11に出力する。
【0051】
追尾信号処理回路11は、画像メモリ10から読み出し許可信号を受信すると、被写体の追尾に必要な画像データを、上述したように、画像メモリ10にアドレス(メモリアドレス)を与えることで読み出し、これにより、レンズブロック1より出力された画像から、追尾すべき被写体を検出する。その後、追尾信号処理回路11は、書き込み許可信号を、画像メモリ10に供給し、これにより、画像メモリ10では、レンズブロック1で撮像された画像が、新たに記憶される(既に記憶されている画像に上書きされる)。その後、画像メモリ10は、上述したように、読み出し許可信号を出力し、以下、同様にして、画像メモリ10では、レンズブロック1で撮像された画像が、順次記憶されていく。なお、以上のようにして、画像メモリ10の記憶内容が書き換えられるのは、追尾すべき被写体の設定が行われた後(後述する図4のステップS22以降の処理が行われる場合)であり、被写体の設定が行われる前(後述する図4のステップS21の処理が繰り返し行われている場合)は、画像メモリ10の記憶内容は、例えばフレーム周期(またはフィールド周期)で、レンズブロック1が出力する画像に書き換えられていく。
【0052】
また、追尾信号処理回路11は、被写体を検出すると、その被写体が、レンズブロック1から出力される画像の中央部分に表示されるように、パンモータ12およびチルトモータ13を駆動する。これにより、パンモータ12またはチルトモータ13において、レンズブロック1がそれぞれパンニングまたはチルティング駆動され、被写体が、レンズブロック1が出力する画像の中央部分に表示される。
【0053】
さらに、追尾信号処理回路11は、被写体を検出した場合、その被写体を囲む枠(以下、適宜、被写体枠という)を、モニタ14に表示させる。
【0054】
図2は、追尾信号処理回路11の機能的な構成例を示している。被写体処理部21は、上述した書き込み許可信号およびアドレスを画像メモリ10に出力するとともに、読み出し許可信号および画像データを受信し、モデル記憶部22および被写体データ記憶部23を参照しながら、被写体の追尾に必要な処理を行う。さらに、被写体処理部21では、その処理結果に応じて、モータ駆動部24および表示制御部25が制御される。また、被写体処理部21は、被写体設定部23により設定される、追尾すべき被写体の特徴を表す被写体モデル(追尾すべき被写体をモデル化したもの)を生成し、モデル記憶部22に記憶させるようにもなされている。
【0055】
モデル記憶部22は、初期モデル記憶部22Aおよび最終モデル記憶部22Bから構成される。初期モデル記憶部22Aは、後述するような初期被写体モデルを記憶するようになされている。最終モデル記憶部22Bは、最終的に被写体の検出に用いる被写体モデルを記憶するようになされている。
【0056】
被写体データ記憶部23は、被写体モデルを生成するのに用いる画像データ(画素値)を記憶するようになされている。
【0057】
モータ駆動部24は、被写体処理部21の制御の下、パンモータ12およびチルトモータ13を回転駆動するようになされている。表示制御部25は、被写体処理部21の制御の下、モニタ14の表示を制御するようになされている。
【0058】
被写体設定部26は、追尾すべき被写体を設定するときに操作されるようになされている。この被写体設定部26が被写体を設定するように操作されると(以下、適宜、このような操作を設定操作という)、被写体処理部21では、後述するようにして、その被写体に対応する被写体モデルが生成されるようになされている。
【0059】
また、被写体の設定は、レンズブロック1が出力する画像により構成される表示画面に設けられた所定の範囲としての基準計測枠D(図5乃至図7)内に、被写体が含まれるようにパンニングまたはチルティング(以下、適宜、両方含めてパンチルトという)が行われ、さらに、被写体設定部26が設定操作されることにより行われるが、このとき用いられる基準計測枠Dは、やはり、被写体設定部26を操作することで変更することができるようになされている。即ち、被写体設定部26は、被写体を設定するときの他、基準計測枠Dの大きさや表示位置を変更するときにも操作される。
【0060】
なお、基準計測枠Dは、被写体処理部21が表示制御部25を制御することにより、モニタ14に表示されるようになされている。
【0061】
次に、図3のフローチャートを参照して、図1のビデオカメラシステムの画像の撮像処理について説明する。まず最初に、ステップS1において、レンズブロック1における露出が適正な状態に制御され、ステップS2に進み、被写体からの光LAが、CCD4において光電変換されることにより電気信号としての画像信号とされ、ステップS3に進む。ステップS3では、CCD4より出力される画像信号が、信号分離/自動利得調整回路5においてサンプルホールド(信号分離)され、ステップS4に進み、そのサンプルホールドされた画像信号が、同じく信号分離/自動利得制御回路5において利得制御され、ステップS5に進む。ステップS5では、利得制御された画像信号が、A/D変換器6においてサンプリングされ、さらに所定のビット数(例えば、8ビットなど)に量子化されて、ディジタルカメラ処理回路7に出力される。
【0062】
ディジタルカメラ処理回路7では、ステップS6において、A/D変換器6からの画像信号に対し、ディジタル信号処理が施され、これにより、その画像信号に対応する画像を構成する各画素の輝度信号Y、並びに色差信号R,B、およびクロマ信号Cが生成される。そして、上述したように、輝度信号Yおよびクロマ信号Cは、D/A変換器8に出力され、輝度信号Yおよび色差信号R,Bは、被写体認識回路部9に出力される。
【0063】
その後、ステップS7に進み、D/A変換器8において、ディジタルカメラ処理回路7からの輝度信号Yおよびクロマ信号CはD/A変換され、モニタ14に供給されて表示される。そして、ステップS1に戻り、このステップS1からの処理が繰り返される。
【0064】
次に、図4のフローチャートを参照して、被写体認識回路部9の処理について説明する。被写体認識回路部9では、まず最初に、ステップS21において、被写体処理部26が設定操作されたかどうかが、被写体処理部21によって判定される。ステップS21において、被写体処理部26が設定操作されていないと判定された場合、ステップS21に戻る。また、ステップS21において、被写体処理部26が設定操作されたと判定された場合、ステップS22,S23に順次進み、被写体処理部21において、被写体データ記憶処理、被写体モデル生成処理が行われる。
【0065】
ここで、従来においては、ある状態にある被写体に対応する画像データであって、基準計測枠内にあるものにのみ、即ち、被写体の設定操作がされたときに撮像された1フレーム(または1フィールド)の画像の中の固定の基準計測枠内にある画像データにのみ基づいて、被写体モデルの生成が行われるため、追尾中の被写体の姿勢その他の状態が変化することにより、画像の輝度などが変化した場合には、被写体が被写体モデルに適合しなくなり、これにより、前述したように、被写体の検出性能が劣化する。
【0066】
従って、追尾中の被写体の状態が変化することにより、画像の輝度などが変化しても、被写体が被写体モデルに適合するようにするには、できるだけ広いレンジの輝度についての、被写体に対応する画像データに基づいて被写体モデルを生成するようにすれば良い。
【0067】
そこで、ステップS22の被写体データ記憶処理では、被写体モデルを生成するための画像データ(以下、適宜、被写体データという)を、できるだけ広いレンジの輝度について記憶するようになされており、ここでは、そのような被写体データを得る方法として、例えば、次のような第1乃至第3の方法が用意されている。なお、この第1乃至第3の方法のうちのいずれを用いるかは、図示せぬ操作部を操作することで、あらかじめ選択することができるようになされている。
【0068】
即ち、第1の方法では、設定操作がされた後、レンズブロック1が所定の時間(少なくても、1フレーム(または1フィールド)に相当する時間より長い時間)内に出力する画像の基準計測枠D内の画像データが、被写体データとして記憶される。この場合、図5に示すように、被写体に動いてもらうことで、種々の異なる状態にある被写体に対応する画像データ(異なる輝度の画像データ)を得ることができ、その結果、広いレンジの輝度についての被写体データを得ることができる。
【0069】
なお、設定操作がされた後、レンズブロック1が所定の時間内に出力する画像の基準計測枠D内の画像データを記憶する他、例えば、設定操作がされた後、レンズブロック1が出力する画像の基準計測枠D内の画像データを、あるレンジの輝度が得られるまで記憶することなどによっても、広いレンジの輝度についての被写体データを得ることができる。
【0070】
第2の方法では、被写体設定部26を操作することにより、基準計測枠Dの位置や大きさが変更され、そのような変更後の基準計測枠D内の画像データが、被写体データとして記憶される。この場合、図6(A)に示すように、基準計測枠D内に、被写体の特徴部分(図6の実施例では、顔)の一部しか収まらないときには、基準計測枠Dを適宜変更することで、図6(B)に示すように、基準計測枠D内に、被写体の特徴部分全体がほぼ収まるようにすることができる。
【0071】
基準計測枠D内に、被写体の特徴部分の一部しか収まらないときは、広いレンジの輝度についての被写体データを得ることが困難であるが、基準計測枠D内に、被写体の特徴部分全体がほぼ収まるときには、広いレンジの輝度についての被写体データを得ることができる。
【0072】
なお、第2の方法によれば、被写体の特徴部分が、複数存在する場合には、各特徴部分が収まるように、基準計測枠Dを順次移動し、これにより、各特徴部分に対応する画像データを、被写体データとして記憶するようにすることも可能である。
【0073】
第3の方法では、まず、図7(A)に示すように、従来の場合と同様にして、被写体の設定操作がされたときに撮像された画像の中の基準計測枠D内にある画像データにのみ基づいて、被写体モデルが生成される(以下、適宜、このようにして生成された被写体モデルを、初期被写体モデルという)。そして、同じく被写体の設定操作がされたときに撮像された画像を構成する画素から、初期被写体モデルに適合するもの(初期被写体モデルを生成するのに用いたものを含む)が検出され、その画素の画素値が、被写体データとして記憶される。
【0074】
この場合、例えば図7(B)に黒塗りで示すように、被写体の特徴部分(図7の実施例では、顔)のほぼ全体を構成する画素の画素値が得られるので、第2の方法における場合と同様に、広いレンジの輝度についての被写体データを得ることができる。
【0075】
なお、被写体データは、以上の第1乃至第3の方法のうちの2以上を組み合わせて得るようにすることが可能である。即ち、例えば第1および第2の方法を組合せ、変更後の基準計測枠D内の画像データを、所定の時間に亘って記憶するようにしたりすることなどが可能である。
【0076】
図8のフローチャートは、第1の方法による被写体データ記憶処理の詳細を示している。この場合、まず最初に、ステップS31において、基準計測枠D内の画像データが記憶される。即ち、ステップS21(図4)において、設定操作が行われたと判定された場合、ステップS31では、被写体処理部21により画像メモリ10に記憶された画像データのうち、基準計測枠D内にあるものが読み出され、被写体データとして、被写体データ記憶部23に記憶される。その後、ステップS32に進み、設定操作が行われてから所定の時間が経過したかどうかが、被写体処理部21によって判定される。
【0077】
ステップS32において、設定操作が行われてから所定の時間が経過していないと判定された場合、ステップS31に戻る。この場合、ユーザは、被写体に異なる姿勢をとらせることで、前回のステップS31の処理で記憶された画像データとは異なる輝度を有する画像データを、被写体データとして記憶させることができる。
【0078】
一方、ステップS32において、設定操作が行われてから所定の時間が経過したと判定された場合、処理(被写体データ記憶処理)を終了する。
【0079】
図9のフローチャートも、第1の方法による被写体データ記憶処理の詳細を示している。但し、図8における場合は、設定操作がされた後、レンズブロック1が所定の時間内に出力する画像の基準計測枠D内の画像データを記憶するようになされていたが、図9における場合は、設定操作がされた後、レンズブロック1が出力する画像の基準計測枠D内の画像データを、あるレンジの輝度が得られるまで記憶するようになされている。
【0080】
即ち、この場合、ステップS36において、図8のステップS31における場合と同様に、基準計測枠D内にある画像データが、被写体データとして、被写体データ記憶部23に記憶される。そして、ステップS37に進み、所定のレンジの輝度についての画像データが被写体データ記憶部23に記憶されたかどうかが、被写体処理部21によって判定される。ステップS37において、所定のレンジの輝度についての画像データが被写体データ記憶部23に記憶されていないと判定された場合、ステップS36に戻る。
【0081】
この場合も、ユーザは、被写体に異なる姿勢をとらせることで、前回のステップS36の処理で記憶された画像データとは異なる輝度を有する画像データを、被写体データとして記憶させることができる。
【0082】
一方、ステップS37において、所定のレンジの輝度についての画像データが被写体データ記憶部23に記憶されたと判定された場合、処理(被写体データ記憶処理)を終了する。
【0083】
図10のフローチャートは、第2の方法による被写体データ記憶処理の詳細を示している。この場合、まず最初に、ステップS41において、被写体設定部26が被写体の設定を終了するように操作されたか否かが、被写体処理部21によって判定される(以下、適宜、このような操作を設定終了操作という)。ステップS41において、設定終了操作が行われていないと判定された場合、ステップS42に進み、被写体設定部26が、基準計測枠Dを変更するように操作されたか否かが、被写体処理部21によって判定される(以下、適宜、このような操作を変更操作という)。ステップS42において、変更操作が行われていないと判定された場合、ステップS43をスキップして、ステップS41に戻る。
【0084】
また、ステップS42において、変更操作が行われたと判定された場合、ステップS43に進み、基準計測枠Dの大きさまたは位置が、その変更操作に対応して変更され、ステップS41に戻る。即ち、この場合、被写体処理部21では、被写体設定部26の変更操作に対応して、表示制御部25が制御され、これにより、表示制御部25において、基準計測枠Dの大きさまたは位置が変更される。
【0085】
一方、ステップS41において、設定終了操作が行われたと判定された場合、ステップS44に進み、図8のステップS31における場合と同様にして、基準計測枠D内の画像データが、被写体データとして、被写体データ記憶部23に記憶され、処理(被写体データ記憶処理)を終了する。従って、この場合、基準計測枠Dが変更されたときには、その変更後の基準計測枠D内にある画像データが、被写体データとして記憶される。
【0086】
図11のフローチャートは、第3の方法による被写体データ記憶処理の詳細を示している。この場合、ステップS51において、図8のステップS31における場合と同様にして、基準計測枠D内の画像データが、被写体データとして、被写体データ記憶部23に記憶され、ステップS52に進み、ステップS51で被写体データ記憶部23に記憶された被写体データのみを用いて、被写体モデル(初期被写体モデル)が、被写体処理部21によって生成される。
【0087】
即ち、被写体が基準計測枠D内に含まれるようにパンチルトが行われ、設定操作がされたときに基準計測枠D内にあり、ステップS51で被写体データ記憶部23に記憶された画像データとしての輝度信号Yijおよび色差信号Rij,Bijの組(Yij,Rij,Bij)で表される点の集合は、この被写体自身を表すため、この点の集合から、初期被写体モデルが生成される。但し、点(Yij,Rij,Bij)の集合にはノイズが含まれ、また、この点(Yij,Rij,Bij)の集合は、被写体を表す代表的な点の集合に過ぎない。
【0088】
そこで、点(Yij,Rij,Bij)の集合に、いわば幅を持たせるため(点(Yij,Rij,Bij)の集合のいずれもと一致しない被写体を構成する画素を検出することができるように許容誤差を認めるため)、点(Yij,Rij,Bij)の集合に基づいて、点(Yij,HRij,LRij)および(Yij,HBij,LBij)の集合が求められる。
【0089】
但し、HRij,LRij,HBij,LBijは、それぞれ次式にしたがって計算される。
HRij=1.1×Rij
LRij=0.9×Rij
HBij=1.1×Bij
LBij=0.9×Bij
【0090】
なお、上式においては、許容誤差を10%(±10%)に設定(1+0.1と、1−0.1)してあるが、許容誤差は、10%に限定されるものではない。
【0091】
ここで、図12(A)に、YまたはRをそれぞれ横軸または縦軸として、点(Yij,HRij)および(Yij,LRij)をプロットしたものを、また、図12(B)に、YまたはBをそれぞれ横軸または縦軸として、点(Yij,HBij)および(Yij,LBij)をプロットしたものを、それぞれ示す。なお、図12の実施例では、RおよびBを表す値として、−128乃至127の範囲の値(上述したように8ビット)が割り当てられている。
【0092】
点(Yij,HRij,LRij)および(Yij,HBij,LBij)の集合が求められた後は、Yを引数として、RまたはBそれぞれを、例えば2次関数で近似した初期被写体モデルが求められる。
【0093】
ここで、本実施例では、異なる被写体について、ある程度近似した形の初期被写体モデル(2次関数)が得られるように、2次関数のY切片(初期被写体モデルである2次関数がY軸と交わる点)が、被写体の色相によって決められている。
【0094】
即ち、被写体処理部21は、被写体の色相と、2次関数のY切片とを対応付けて記憶しており、RijおよびBijから、被写体の色相(例えば、その平均値など)を計算し、その色相に対応付けられているY切片を用いて、初期被写体モデルを求めるようになされている。
【0095】
具体的には、いま設定された被写体の色相に対応付けられているY切片が、Y−R座標系については、図12(A)に示すように、RlowおよびRhighであり(但し、Rlow<Rhighとする)、Y−B座標系については、図12(B)に示すように、BlowおよびBhighであるとき(但し、Blow<Bhighとする)、次式で示される初期被写体モデルとしての2次関数HFr(Y)(Yに関するRの特徴モデル),HFb(Y)(Yに関するBの特徴モデル),LFr(Y)(Yに関するRの特徴モデル),LFb(Y)(Yに関するBの特徴モデル)それぞれを決める定数A0,A1,A2,A3が算出される。
【0096】
HFr(Y)=A0×(Y−Rlow)×(Y−Rhigh)
HFb(Y)=A1×(Y−Blow)×(Y−Bhigh)
LFr(Y)=A2×(Y−Rlow)×(Y−Rhigh)
LFb(Y)=A3×(Y−Blow)×(Y−Bhigh)
【0097】
但し、定数A0乃至A3は、点(Yij,HRij)、(Yij,HBij)、(Yij,LRij)、または(Yij,LBij)それぞれの集合を用い、例えば最小自乗法によって求められる。
【0098】
図12に示したような点(Yij,HRij),(Yij,HBij),(Yij,LRij)、または(Yij,LBij)それぞれの集合から得られる2次関数HFr(Y),HFb(Y),LFr(Y)、またはLFb(Y)を、同じく図12に示す。
【0099】
なお、本実施例では、2次関数HFr(Y)およびLFr(Y)の頂点は、Y=(Rlow+Rhigh)/2の直線上に位置するようになされており、また、2次関数HFb(Y)およびLFb(Y)の頂点は、Y=(Blow+Bhigh)/2の直線上に位置するようになされている。さらに、図12の実施例では、(Rlow+Rhigh)/2および(Blow+Bhigh)/2は、いずれも255とされている。従って、図12の実施例の場合、2次関数HFr(Y),HFb(Y),LFr(Y)、およびLFb(Y)は、いずれもY=255に対して線対称となっている。
【0100】
また、本実施例においては、輝度信号Yを表す値として、0乃至255の範囲の値(上述したように8ビット)が割り当てられている。このため、Y>255の範囲の輝度信号Yは用いる必要がないので、図12においては、2次関数HFr(Y),HFb(Y),LFr(Y)、およびLFb(Y)のうちのY>255の範囲を点線で表してある。
【0101】
被写体処理部21は、ステップS52において、以上のようにして初期被写体モデルとしての2次関数を規定する定数A0乃至A3を求め、この定数A0乃至A3と、上述のY切片Rlow,Rhigh,Blow,Bhighを、モデル記憶部22の初期モデル記憶部22Aに記憶させる。
【0102】
以上のようにして、初期被写体モデルが生成された後は、被写体処理部21は、ステップS53において、画像メモリ10に記憶された画像を構成する各画素の画像データを読み出し、その中から、初期被写体モデルに適合するものを検出して、被写体データ記憶部23に記憶させる。
【0103】
即ち、ステップS53では、画像メモリ10に記憶された画像を構成する各画素のうち、その輝度Yijと、色差信号RijまたはBijそれぞれとが、次の2つの式の両方を満足するものが検出される。
【0104】
LFr(Yij)<Rij<HFr(Yij)
LFb(Yij)<Bij<HFb(Yij)
なお、2次関数LFr(Yij),HFr(Yij),LFb(Yij)、およびHFb(Yij)は、ステップS52で初期モデル記憶部22Aに記憶された初期被写体モデル(定数A0乃至A3、およびY切片Rlow,Rhigh,Blow,Bhigh)により規定されるものである。
【0105】
ステップS53では、上式を満たす画素、即ち、図12(A)に示した2つの2次関数LFr(Yij)とHFr(Yij)との間にプロットされ、かつ図12(B)に示した2つの2次関数LFb(Yij)とHFb(Yij)との間にプロットされる画素が、被写体を構成する画素として検出され、その輝度Yijと、色差信号Rij,Bijとが、被写体データとして、被写体データ記憶部23に記憶され、処理(被写体データ記憶処理)を終了する。
【0106】
被写体データ記憶処理が終了した後は、上述したように、ステップS22からステップS23に進み(図4)、被写体モデル生成処理が行われる。これにより、従来より広いレンジの、例えば輝度についての、被写体に対応する画像データに基づいて被写体モデルを生成することが可能となるので、被写体の検出性能の劣化を防止する(被写体の検出性能を向上させる)ことができる。
【0107】
図13のフローチャートは、被写体モデル生成処理の詳細を示している。被写体モデル生成処理では、まず最初に、ステップS61において、被写体処理部21によって、被写体データ記憶部23に記憶された被写体データの中から、被写体外データが検出されて除去される。
【0108】
即ち、ステップS61では、被写体データ記憶部23に被写体データが記憶された画素の中から、その輝度(第1の画素値)Yに対する色差信号(第2の画素値)RまたはYの分散が所定の閾値より大きいもの(以下、適宜、高分散画素という)が検出される。そして、この高分散画素の被写体データY,R,Bが、被写体外データとされ、被写体データ記憶部23から除去される。
【0109】
ここで、図14(A)に、図12(A)における場合と同様に、YまたはRをそれぞれ横軸または縦軸として、被写体データで構成される点(Yij,Rij)をプロットしたものを、また、図14(B)に、図12(B)における場合と同様に、YまたはBをそれぞれ横軸または縦軸として、被写体データで構成される点(Yij,Bij)をプロットしたものを、それぞれ示す。
【0110】
ステップS61では、図14に示した点のうち、縦軸方向(RまたはB軸方向)に、ある程度以上の広がりを有する輝度を持つ被写体データ、即ち、同図において点線で示す範囲内にある被写体外データが除去される。
【0111】
このように、ある輝度(ある量子化レベルの輝度)を有する画素に注目した場合に、そのような輝度を有する画素の色差信号の分散が、所定の閾値より大きいときには、そのような輝度を有する画素(高分散画素)には、被写体を構成しない画素が多く含まれていると考えられる。そこで、このような高分散画素の画像データ(被写体外データ)については、被写体モデルを生成するための被写体データから除外することで、被写体に、より対応した被写体モデルを生成することができる。
【0112】
ステップS61の処理後は、ステップS62に進み、被写体処理部21によって、被写体データ記憶部23に記憶された被写体データの中から、高輝度データが検出されて除去される。
【0113】
即ち、ステップS62では、被写体データ記憶部23に被写体データが記憶された画素の中から、その輝度(第1の画素値)Yが所定の閾値より大きいもの(以下、適宜、高画素値画素という)が検出される。そして、この高画素値画素の被写体データY,R,Bが、高輝度データとされ、被写体データ記憶部23から除去される。
【0114】
ここで、Y−R平面上における高画素値画素を検出する場合の所定の閾値は、被写体処理部21において、例えば次のようにして決定される。即ち、被写体データ記憶部23に記憶された被写体データから、色差信号(第2の画素値)Rのピーク値(絶対値が最も大きい値)が検出され、その色差信号(第2の画素値)Rのピーク値を有する画素の輝度(第1の画素値)Yが、所定の閾値とされる。
【0115】
従って、Y−R平面においては、図14(A)に示す、ピーク値Rpを有する点より右方向にプロットされている点(同図において、実線で囲む範囲にある点)に対応する画素の被写体データは、高輝度データとして除去される。
【0116】
Y−B平面についても同様で、図14(B)に示す、ピーク値Bpを有する点より右方向にプロットされている点(同図において、実線で囲む範囲にある点)に対応する画素の被写体データは、高輝度データとして除去される。
【0117】
所定の輝度より高い輝度を有する部分は、例えば照明の鏡面反射による照明色であると考えられるため、このような高画素値画素の画像データ(高輝度データ)については、被写体モデルを生成するための被写体データから除外することで、被写体に、より対応した被写体モデルを生成することができる。
【0118】
被写体データ記憶部23から高輝度データを除去した後は、ステップS63に進み、被写体処理部21において、被写体器データ記憶部23に記憶された被写体データを近似する近似式としての、例えば2次関数が算出される。
【0119】
即ち、ステップS63では、被写体データY,R,Bについて、初期被写体モデルを生成する場合と同様に、被写体データYを引数として、RまたはBそれぞれを近似する2次関数Fr(Y)またはFb(Y)が、例えば最小自乗法などによって求められる。
【0120】
ここで、2次関数Fr(Y)またはFb(Y)は、例えば、それぞれ次式で表されるものである。
Fr(Y)=A4×(Y−Rlow)×(Y−Rhigh)
Fb(Y)=A5×(Y−Blow)×(Y−Bhigh)
【0121】
また、ステップS63では、輝度Yのダイナミックレンジ(本実施例では、上述したように0乃至255)を有効に利用することができるように、2次関数Fr(Y)のY切片RlowまたはRhighが、それぞれ0または255付近の値とされるようになされている。
【0122】
即ち、ステップS63においては、図15(A)に示すように、Y切片RlowまたはRhighを、それぞれ0または255を中心として、±αまたは±βの範囲で、所定の幅で変化させ、そのように変化させたRlowとRhighの組すべてについて、最小自乗法により、自乗誤差の総和を最小にする定数A4が算出される。そして、このようにして求められたA4,Rlow、およびRhighにより規定される2次関数のうち、自乗誤差の総和が最小のものが、被写体データを最も精度良く近似する近似式として求められる。
【0123】
ここで、図15(A)においては、Y切片RlowおよびRhighと、それぞれを変化させて得られるA4とで規定される2次関数を、点線で示してあり、そのような2次関数の中で、自乗誤差の総和が最小のものを、実線で示してある。
【0124】
ステップS63では、2次関数Fb(Y)についても同様にして、被写体データを最も精度良く近似するためのA5,Blow、およびBhighが求められる。ここで、図15(B)に、Y切片BlowおよびBhighと、それぞれを変化させて得られるA5とで規定される2次関数を点線で、そのような2次関数のうち、自乗誤差の総和が最小のものを実線で、それぞれ示す。
【0125】
なお、図15の実施例では、Rlow(Blowも同様)は、0±αの範囲を、0を中心としてα/2の幅で変化させ、また、Rhigh(Bhighの同様)は、255±βの範囲を、255を中心としてβの幅で変化させるようにしている(但し、変化させる幅は、これに限定されるものではない)。
【0126】
ステップS63で近似式を算出した後は、ステップS64に進み、被写体処理部21において、被写体の検出に用いる最終的な被写体モデルが生成される。即ち、ステップS64では、2次関数Fr(Y)に対する許容誤差が、例えば10%(±10%)の2次関数HFr1(Y)およびLFr1(Y)が、次式にしたがって求められる。
【0127】
【0128】
ここで、2次関数Fr(Y)、HFr1(Y)、およびLFr1(Y)を、図16(A)に示す。
【0129】
同様に、ステップS64では、2次関数Fb(Y)に対する許容誤差が10%(±10%)の2次関数HFb1(Y)およびLFb1(Y)が、次式にしたがって求められる。
【0130】
【0131】
ここで、2次関数Fb(Y)、HFb1(Y)、およびLFb1(Y)を、図16(B)に示す。
【0132】
被写体処理部21は、ステップS64において、以上のようにして被写体モデルとしての2次関数を規定する定数1.1×A4,0.9×A4,1.1×A5、および0.9×A5、並びにY切片Rlow,Rhigh,Blow、およびBhighを求めた後、モデル記憶部22の最終モデル記憶部22Bに記憶させ、処理(被写体モデル生成処理)を終了する。
【0133】
なお、定数1.1×A4,0.9×A4,1.1×A5、および0.9×A5については、これらをすべて記憶させるのではなく、定数A4およびA5だけを記憶させるようにし、後述するステップS24(図4)の処理を行うときに、A4またはA5それぞれを、1.1,0.9倍して用いるようにしても良い。
【0134】
図4に戻り、以上のようにして、被写体モデルが生成された後は、被写体処理部21は、ステップS24において、被写体画素選択処理を行い、その処理結果に基づいて、レンズブロック1から出力された画像の中に被写体が存在するかどうかを、ステップS25において判定する。
【0135】
即ち、ステップS25では、レンズブロック1で撮像され、画像メモリ10に記憶された画像を構成する各画素のうち、その輝度Yijと、色差信号RijまたはBijそれぞれとが、次の2つの式の両方を満足するものが検出される。
【0136】
LFr1(Yij)<Rij<HFr1(Yij)
LFb1(Yij)<Bij<HFb1(Yij)
なお、2次関数LFr1(Yij),HFr1(Yij),LFb1(Yij)、およびHFb1(Yij)は、ステップS23で最終モデル記憶部22Bに記憶された被写体モデル(定数1.1×A4,0.9×A4,1.1×A5、および0.9×A5、並びにY切片Rlow,Rhigh,Blow、およびBhigh)により規定されるものである。
【0137】
ステップS24では、上式を満たす画素、即ち、図16(A)に示した2つの2次関数LFr1(Yij)とHFr1(Yij)との間にプロットされ、かつ図16(B)に示した2つの2次関数LFb1(Yij)とHFb1(Yij)との間にプロットされる画素が、被写体を構成する画素(以下、適宜、被写体構成画素という)として検出される。
【0138】
その後、ステップS25に進み、レンズブロック1で撮像され、画像メモリ10に記憶された画像の中に、被写体が存在するかどうかが判定される。即ち、ステップS25では、ステップS24で検出された被写体構成画素の総数が、所定の閾値γと比較される。そして、被写体構成画素数が所定の閾値γより多い場合、または被写体構成画素数が所定の閾値γ以下である場合、ステップS25では、それぞれ、画像メモリ10に記憶された画像の中に、被写体が存在する、または存在しないと判定される。
【0139】
ステップS25において、被写体が存在すると判定された場合、ステップS26に進み、被写体の位置が、被写体処理部21によって検出される。
【0140】
即ち、例えば、ステップS24で、図17(A)に影を付して示すように、被写体構成画素が検出され、さらに、ステップS25において、被写体が存在すると判定された場合には、ステップS26では、ステップS24で検出された被写体構成画素のうち、その被写体構成画素で構成される領域の周辺にある、いわばノイズ的なものを除去するために、被写体構成画素で構成される領域に対してフィルタリング処理が施される。これにより、図17(A)に示す被写体構成画素は、図17(B)に示すようにされる。そして、ステップS26では、フィルタリングの結果得られた被写体構成画素の集合の、例えば重心(例えば、水平方向または垂直方向をそれぞれx軸またはy軸とするxy平面上の重心)(図17(B)において、×印で示す部分)が求められ、これが、被写体の位置とされる。
【0141】
その後、ステップS27に進み、被写体処理部21において、例えば、図17(B)に太線で示すように、フィルタリングの結果得られた被写体構成画素の集合を囲む枠(被写体枠)を表示するように、表示制御部25が制御される。これに対応して、表示制御部25では、レンズブロック1で撮像された画像に、被写体枠がスーパインポーズして表示されるように、モニタ14が制御される。
【0142】
即ち、モニタ14の表示画面に、例えば図18(A)に白抜きで示すような被写体枠を表示させる場合には、表示制御部25において、同図(B)に示すようなパルス(枠パルス)が生成される。なお、図18(B)は、同図(A)のAA’で示す水平走査線に、被写体枠を表示させるための枠パルスを示している。
【0143】
そして、表示制御部25は、レンズブロック1で撮像された画像の、対応する水平走査線に、図18(C)に示すように、枠パルスを重畳する。これにより、モニタ14には、レンズブロック1で撮像された画像に、被写体枠がスーパインポーズされて表示される。
【0144】
その後、ステップS28に進み、被写体処理部21において、ステップS26で検出された被写体の位置が、モニタ14の表示画面(レンズブロック1から出力される画像)の中央の位置に一致するように、モータ駆動部24が制御される。これに対応して、モータ駆動部24では、パンモータ12、チルトモータ13が回転駆動され、これにより、被写体が、モニタの表示画面の中央に引き込まれるように、レンズブロック1がパンチルトされ、処理(被写体追尾処理)を終了する。
【0145】
以上のようにして、被写体の自動追尾が行われる。
【0146】
一方、ステップS25において、被写体が存在しないと判定された場合、即ち、被写体を見失った場合(レンズブロック1から出力される画像の中から被写体を抽出(検出)することができなかった場合)、例えば、被写体が存在する方向が予測され、さらに、そのような方向に、レンズブロック1がパンチルトされた後、ステップS24に戻る。あるいは、また、ユーザによって、被写体が存在する方向に、レンズブロック1が、手動でパンチルトされ、ステップS24に戻る。
【0147】
なお、本実施例では、被写体モデルの生成および被写体の検出を行うにあたって、3色表色系の1つである輝度信号および色差信号を用いるようにしたが、その他、例えばRGB表色系や、Lab表色系、Luv表色系、XYZ表色系などを用いるようにすることも可能である。
【0148】
さらに、本実施例では、追尾すべき被写体を2次関数で近似するようにしたが、即ち、被写体モデルとして2次関数を用いるようにしたが、被写体モデルとしては、その他の関数などを用いることが可能である。
【0149】
【発明の効果】
請求項1に記載の被写体検出装置および請求項4に記載の被写体検出方法によれば、ユーザの操作に応じて、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして被写体が設定され、設定された被写体の画像データから、所定の量子化レベルの輝度を有する画素のうち、色差信号の分散が所定の閾値より大きいものである高分散画素が検出され、設定された被写体の画像データから、検出された高分散画素を除いたものに基づいて、設定された被写体の被写体モデルが生成され、生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体が検出される。
請求項5に記載の被写体検出装置および請求項6記載の被写体検出方法によれば、ユーザの操作に応じて、被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして被写体が設定され、設定された被写体の画像データから、色差信号のピーク値を有するピーク値画素を検出し、そのピーク値画素の輝度より、輝度が大きいものである高画素値画素が検出され、設定された被写体の画像データから、検出された高画素値画素を除いたものに基づいて、設定された被写体の被写体モデルが生成され、生成された被写体モデルに基づいて、撮像部より出力された画像から、被写体が検出される。
従って、被写体を構成する画素として適当でないものを除いて、被写体モデルが生成されるので、被写体の検出性能の劣化を防止する(被写体の検出性能を向上させる)ことができる。
【図面の簡単な説明】
【図1】本発明を適用したビデオカメラシステムの一実施例の構成を示すブロック図である。
【図2】図1の追尾信号処理回路11の構成例を示すブロック図である。
【図3】図1のビデオカメラシステムの動作を説明するためのフローチャートである。
【図4】図1の被写体認識回路部9の動作を説明するためのフローチャートである。
【図5】第1の方法による被写体データ記憶処理を説明するための図である。
【図6】第2の方法による被写体データ記憶処理を説明するための図である。
【図7】第3の方法による被写体データ記憶処理を説明するための図である。
【図8】図4のステップS22の処理の詳細を説明するためのフローチャートである。
【図9】図4のステップS22の処理の詳細を説明するためのフローチャートである。
【図10】図4のステップS22の処理の詳細を説明するためのフローチャートである。
【図11】図4のステップS22の処理の詳細を説明するためのフローチャートである。
【図12】初期被写体モデルの生成方法を説明するための図である。
【図13】図4のステップS23の処理の詳細を説明するためのフローチャートである。
【図14】図13のステップS61およびS62の処理を説明するための図である。
【図15】図13のステップS63の処理を説明するための図である。
【図16】被写体モデルの生成方法を説明するための図である。
【図17】図4のステップS26の処理を説明するための図である。
【図18】被写体枠の表示について説明するための図である。
【符号の説明】
1 レンズブロック, 9 被写体認識回路部, 10 画像メモリ, 11追尾信号処理回路, 12 パンモータ, 13 チルトモータ, 14 モニタ, 21 被写体処理部, 22 モデル記憶部, 22A 初期モデル記憶部, 22B 最終モデル記憶部, 23 被写体データ記憶部, 24 モータ駆動部, 25 表示制御部, 26 被写体設定部
Claims (6)
- 被写体を検出する被写体検出装置であって、
ユーザの操作に応じて、前記被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定手段と、
前記被写体設定手段により設定された被写体の画像データから、所定の量子化レベルの輝度を有する画素のうち、色差信号の分散が所定の閾値より大きいものである高分散画素を検出する画素検出手段と、
前記被写体設定手段により設定された被写体の画像データから、前記画素検出手段により検出された高分散画素を除いたものに基づいて、前記被写体設定手段により設定された被写体の被写体モデルを生成するモデル生成手段と、
前記モデル生成手段により生成された被写体モデルに基づいて、前記撮像部より出力された画像から、前記被写体を検出する被写体検出手段と
を備えることを特徴とする被写体検出装置。 - 前記被写体設定手段により前記被写体が設定されたときに前記撮像部より出力される画像の中の所定の範囲内の画像データを記憶する画像データ記憶手段と、
前記所定の範囲を変更する変更手段と
をさらに備え、
前記モデル生成手段は、前記画像データ記憶手段に記憶された画像データに基づいて、前記被写体モデルを生成する
ことを特徴とする請求項1に記載の被写体検出装置。 - 前記被写体設定手段により前記被写体が設定されたときに前記撮像部より出力される画像の中の所定の範囲内の画像データに基づいて、所定の初期モデルを生成する初期モデル生成手段と、
前記撮像部より出力される画像データのうち、前記初期モデル生成手段により生成された初期モデルに適合するものを記憶する画像データ記憶手段と
をさらに備え、
前記モデル生成手段は、前記画像データ記憶手段に記憶された画像データに基づいて、前記被写体モデルを生成する
ことを特徴とする請求項1に記載の被写体検出装置。 - 被写体を検出する被写体検出装置の被写体検出方法であって、
ユーザの操作に応じて、前記被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定ステップと、
前記被写体設定ステップの処理により設定された被写体の画像データから、所定の量子化レベルの輝度を有する画素のうち、色差信号の分散が所定の閾値より大きいものである高分散画素を検出する画素検出ステップと、
前記被写体設定ステップの処理により設定された被写体の画像データから、前記画素検出ステップの処理により検出された高分散画素を除いたものに基づいて、前記被写体設定ステップの処理により設定された被写体の被写体モデルを生成するモデル生成ステップと、
前記モデル生成ステップの処理により生成された被写体モデルに基づいて、前記撮像部より出力された画像から、前記被写体を検出する被写体検出ステップと
を含むことを特徴とする被写体検出方法。 - 被写体を検出する被写体検出装置であって、
ユーザの操作に応じて、前記被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定手段と、
前記被写体設定手段により設定された被写体の画像データから、色差信号のピーク値を有するピーク値画素を検出し、そのピーク値画素の輝度より、輝度が大きいものである高画素値画素を検出する画素検出手段と、
前記被写体設定手段により設定された被写体の画像データから、前記画素検出手段により検出された高画素値画素を除いたものに基づいて、前記被写体設定手段により設定された被写体の被写体モデルを生成するモデル生成手段と、
前記モデル生成手段により生成された被写体モデルに基づいて、前記撮像部より出力された画像から、前記被写体を検出する被写体検出手段と
を備えることを特徴とする被写体検出装置。 - 被写体を検出する被写体検出装置の被写体検出方法であって、
ユーザの操作に応じて、前記被写体を撮像する撮像部より出力された画像における所定の領域を被写体の画像データとして設定する被写体設定ステップと、
前記被写体設定ステップの処理により設定された被写体の画像データから、色差信号のピーク値を有するピーク値画素を検出し、そのピーク値画素の輝度より、輝度が大きいものである高画素値画素を検出する画素検出ステップと、
前記被写体設定ステップの処理により設定された被写体の画像データから、前記画素検出ステップの処理により検出された高画素値画素を除いたものに基づいて、前記被写体設定ステップの処理により設定された被写体の被写体モデルを生成するモデル生成ステップと、
前記モデル生成ステップの処理により生成された被写体モデルに基づいて、前記撮像部より出力された画像から、前記被写体を検出する被写体検出ステップと
を含むことを特徴とする被写体検出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP01165596A JP3757404B2 (ja) | 1996-01-26 | 1996-01-26 | 被写体検出装置および被写体検出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP01165596A JP3757404B2 (ja) | 1996-01-26 | 1996-01-26 | 被写体検出装置および被写体検出方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH09205577A JPH09205577A (ja) | 1997-08-05 |
JP3757404B2 true JP3757404B2 (ja) | 2006-03-22 |
Family
ID=11783991
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP01165596A Expired - Fee Related JP3757404B2 (ja) | 1996-01-26 | 1996-01-26 | 被写体検出装置および被写体検出方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3757404B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6319545B2 (ja) * | 2013-03-15 | 2018-05-09 | パナソニックIpマネジメント株式会社 | 画像符号化装置、撮影システム、撮影記録システム、画質符号化方法、及び画像符号化制御プログラム |
-
1996
- 1996-01-26 JP JP01165596A patent/JP3757404B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH09205577A (ja) | 1997-08-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4079463B2 (ja) | 被写体検出装置および被写体検出方法 | |
US7873221B2 (en) | Image processing apparatus, image processing method, program for image processing method, and recording medium which records program for image processing method | |
JP4677753B2 (ja) | 動画像処理装置及び方法 | |
US20060115297A1 (en) | Imaging device and imaging method | |
JP3745067B2 (ja) | 撮像装置及びその制御方法 | |
US8629915B2 (en) | Digital photographing apparatus, method of controlling the same, and computer readable storage medium | |
US7425985B2 (en) | Image processing apparatus and method | |
JP3533756B2 (ja) | 画像入力装置 | |
JP3530907B2 (ja) | デジタルカメラ | |
US8319851B2 (en) | Image capturing apparatus, face area detecting method and program recording medium | |
US7030911B1 (en) | Digital camera and exposure control method of digital camera | |
JP4210021B2 (ja) | 画像信号処理装置および画像信号処理方法 | |
US20050179780A1 (en) | Face detecting apparatus and method | |
US20040114796A1 (en) | Image correction apparatus and image pickup apparatus | |
US20180061029A1 (en) | Image processing apparatus, imaging apparatus, image processing method, and storage medium storing image processing program of image processing apparatus | |
US8253850B2 (en) | Imaging apparatus and program thereof | |
JP2018205883A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2003046848A (ja) | 撮像システムおよび撮像プログラム | |
WO2007142049A1 (ja) | 撮影装置と映像信号処理プログラム | |
JP2921973B2 (ja) | 特定物体の画像抽出方法及び画像抽出装置 | |
JP3757404B2 (ja) | 被写体検出装置および被写体検出方法 | |
JP3108355B2 (ja) | 被写体追尾カメラ装置 | |
JP3757403B2 (ja) | 被写体検出装置および被写体検出方法 | |
JP3726972B2 (ja) | 被写体認識装置および方法 | |
JP2000308079A (ja) | 画像信号処理装置、画像信号処理方法、学習装置、学習方法及び記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050201 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050329 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050719 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050915 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051021 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051111 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051205 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051218 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100113 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100113 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110113 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120113 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |