JPH11296659A - 画像処理装置 - Google Patents
画像処理装置Info
- Publication number
- JPH11296659A JPH11296659A JP10160098A JP10160098A JPH11296659A JP H11296659 A JPH11296659 A JP H11296659A JP 10160098 A JP10160098 A JP 10160098A JP 10160098 A JP10160098 A JP 10160098A JP H11296659 A JPH11296659 A JP H11296659A
- Authority
- JP
- Japan
- Prior art keywords
- image
- area
- virtual
- specific object
- acquired
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
- G06V10/507—Summing image-intensity values; Histogram projection analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/162—Detection; Localisation; Normalisation using pixel segmentation or colour matching
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Abstract
に、熟練を必要とせず、迅速に、かつ取得画像内の照明
条件等に関わらずに特定物体領域の特定を正確にでき、
さらに、動画像中の特定物体領域に対する追跡処理を正
確に行うことができるように画像処理を行う画像処理装
置を提供することにある。 【解決手段】 電子画像(静止画像)あるいは電子画像
系列(動画像)を取得する画像取得装置11と、画像取
得装置11によって取得された取得画像から操作者が特
定物体領域を切り取って抽出するための画像抽出処理を
行う画像抽出処理装置12と、画像抽出処理装置12に
よって抽出された画像を出力する結果出力装置13とを
備える。画像抽出処理装置12は、互いに排他である2
つの仮想領域を取得画像中に設定し、これら仮想領域間
の分離度に基づいて特定物体領域を含む部分画像を抽出
する。
Description
メラ、パーソナルコンピュータ(パソコン)、ワードプ
ロセッサ(ワープロ)、ワークステーション、オフィス
コンピュータ(オフコン)、携帯型情報ツール、コピー
機、スキャナ装置、ファクシミリ装置(FAX)、テレ
ビジョン(テレビ)、テレビ電話、テレビ会議システム
等に用いられる電子化された画像(静止画像や動画像)
を処理するための画像処理装置に関するものである。
顔等の特定物体領域を含む画像(抽出対象画像)を抽出
する場合、取得画像が用紙に印刷された状態であるか、
あるいは取得画像が電子的に変換された状態であるかに
よって、画像の抽出方法は異なる。
印刷されている場合では、取得画像に対してハサミやカ
ッター等で目的の大きさに切り取ることで、元画像から
抽出対象画像を抽出している(1)。
スキャナ装置等の画像取得装置にて電子的に変換された
画像の場合では、画像取得装置によって取得された元画
像(以下、取得画像と称する)に対してコンピュータ等
によって画像処理(画像抽出処理)を行うことで、取得
画像から抽出対象画像を抽出している(2)。
ハサミやカッター等を用いて切り取り作業を行うことは
非常に手間であり、目的の物体をバランス良く配置した
状態で抽出対象画像を取得画像から切り取ることは熟練
を要する。
の場合には、取得画像をパーソナルコンピュータ(以
下、パソコンと称する)等において画像抽出のためのソ
フトウェアを使用して、取得画像から抽出対象画像を抽
出している。
得画像をディスプレイ装置等の表示装置に表示し、操作
者がマウス等の座標入力装置を用いて座標を指定するこ
とで、所望する抽出対象画像を特定するようになってい
る。このため、ソフトウェアの使用に慣れる必要がある
ものの、(1)の画像抽出方法に比べて熟練を必要とし
ないで、目的の物体をバランス良く配置した状態で抽出
対象画像を取得画像から容易に切り取ることができる。
像中の抽出対象画像が所望する特定物体領域が含まれた
画像であるか否かを同定する方法として、操作者がディ
スプレイ装置に表示された取得画像を見ながらマウス等
を用いて行っているが、この抽出対象画像の同定方法の
他の方法としては、所定の計算方法により抽出対象画像
を同定する方法が提案されている。
方法として、例えば、テンプレートマッチングがある。
このテンプレートマッチングとは、予め記憶された抽出
したい物体(特定物体領域)が有する特徴パターンと、
これに対応する取得画像中の特定物体領域の特徴パター
ンとの差異を計算して得られる評価量が特定の範囲内の
値となったとき、この特定物体領域の特徴パターンと記
憶された特徴パターンとが同等であると判断し、取得画
像中の抽出対象画像を同定する方法である。
同定した後、さらに、特定物体領域を特定する必要があ
る。この特定物体領域の特定方法としては、上記のテン
プレートマッチングによる抽出対象画像の同定に使用さ
れた特定物体領域の特徴パターンの形状をもとにして初
期値を設定し、同定した抽出対象画像に対して、動的輪
郭モデルや動的な網のモデルを用いて、抽出対象画像中
の特定物体領域を特定する。
ある場合、特徴パターンとして、人間の顔の色分布から
導出される確率密度関数を用いれば、取得画像から顔の
肌色部分だけを分離することができる。
れた画像系列であるので、動画像中の特定物体領域を追
跡する場合、上記の取得画像から抽出対象画像を同定
し、さらに抽出対象画像から特定物体領域を特定する方
法が適用される。
装置等において画像系列毎に表示する。この一枚の画像
系列を上述した取得画像と考える。そして、この取得画
像中の抽出対象画像を上述のように画像ツール(マウス
等の座標入力装置)やテンプレートマッチングによって
同定する。
定する場合には、画像ツールによって指定された領域を
特徴パターンとし、この特徴パターンおよび該領域の位
置と大きさを記憶する。一方、テンプレートマッチング
等を用いて抽出対象画像を同定する場合には、同定され
た領域を決めるのに用いられた特徴パターンの大きさ
と、この特徴パターンに対応する取得画像中の位置を記
憶しておく。
記憶した特徴パターンの大きさおよび位置を少しずつ変
えたものを用意し、それぞれについて取得画像との間で
評価値を計算する。このとき、複数の評価値が得られる
が、この中で最も評価値の優れたもの、すなわち記憶さ
れた特徴パターンと、それに対応する取得画像の部分と
が最も類似しているものの、記憶された特徴パターンの
大きさと位置より、その画像における特定物体領域をそ
の中に含む抽出対象画像を抽出することができる。
ても順次行い、次々と連続して処理することにより、動
画像中の特定物体領域の追跡を行うことができる。尚、
この一連の処理において、通常、記憶された特徴パター
ンは随時更新される。
とする特定物体領域が人間の顔であれば、上述したよう
に、予め記憶される特徴パターンとして、人間の顔の色
分布から導出される確率密度関数を用いれば、取得画像
から顔の肌色部分だけを分離することができる。つま
り、動画像中の人間の顔を追跡することができる。
ラ等により取得された画像等の電子的に変換された画像
から目的とする物体、すなわち特定物体領域を含む抽出
対象画像を抽出するために、パソコンと画像処理用のソ
フトウェアを利用する場合、取得画像中に存在する特定
物体領域をその中に含むように画像の一部を切り取り、
しかも、目的の物体をバランス良く配置した状態で切り
取るには、写真をハサミ等で切り取る方法と同様にある
程度の熟練が必要である。
域が画面の端に存在する場合、この特定物体領域を抽出
対象画像のなかでバランス良く配置して該抽出対象画像
を切り取るには、抽出対象画像を切り取った後でさらに
該特定物体領域が中央にくるように位置を変えるような
操作が要求され、画像抽出の処理が非常に煩雑なものと
なる。
るために、テンプレートマッチング等の方法を用いる場
合、取得画像の全ての位置について、予め記憶されてい
る特徴パターンとの差異を計算しなければならず、多く
の計算量が要求される。
ンの大きさが未知の場合、記憶された特徴パターンのサ
イズを小さいものから大きいものに、様々に変形して取
得画像の全ての位置との差異を計算することを繰り返す
必要があるので、計算量はさらに増加する。
回転していたり、照明条件が記憶さされている特徴パタ
ーンの作成時と取得画像で特徴パターンを見る場合とで
大きく異なっているときには、このテンプレートマッチ
ング方法では、抽出対象画像の同定をうまく行うことが
できないという問題が生じる。
領域を特定する場合、動的輪郭モデルや動的な網のモデ
ルを用いている。
れるのは特定物体領域の輪郭であるので、通常、その輪
郭が囲む領域を物体領域(特定物体領域)とみなす。こ
の方法では、差異を計算した評価値が極小値への収束の
ため、本来の物体輪郭ではない、別の輪郭を抽出する虞
がある。
も、上記動的輪郭モデルの場合と同様に、評価値が局所
解へ落ち込むことで、誤った領域を抽出してしまう虞が
ある。
演算を必要とする処理であり、多くの計算量が要求され
る。加えて、動的な網モデルは、一回の演算で計算すべ
き量が非常に多いため、動的輪郭モデルに比べてもさら
に多くの計算量が要求される。
領域が人間の顔である場合、予め人間の顔の色分布を調
べて確率密度関数を導出しておき、この確率密度関数を
取得画像に適用して顔の肌部分だけを分離しているが、
予め調べた時の照明条件と取得画像から特定物体領域を
抽出する時の照明条件とが大きくことなる場合には、特
定物体領域の特定が正確に行えないという問題が生じて
いる。
追跡処理においても、前述した静止画像における処理と
同様の問題が生じる。
なされたもので、その目的は、取得画像から目的とする
物体を抽出する際に、熟練を必要とせず、迅速に、かつ
取得画像内の照明条件等に関わらずに特定物体領域の特
定を正確にでき、さらに、動画像中の特定物体領域に対
する追跡処理を正確に行うことができるように画像処理
を行う画像処理装置を提供することにある。
は、上記の課題を解決するために、外部から取得した画
像から抽出対象となる特定物体領域を含む部分画像を抽
出する画像処理装置において、互いに排他である2つの
仮想領域を取得画像中に設定し、これら仮想領域間の分
離度に基づいて上記部分画像を抽出する画像抽出処理手
段を有していることを特徴としている。
想領域間の分離度に基づいて、取得画像から特定物体領
域を含む部分画像を抽出するようになっているので、抽
出しようとする特定物体領域とその他の画像領域とを明
確に区別することができる。すなわち、2つの仮想領域
間の分離度を求めることで、該仮想領域内に特定物体領
域が含まれた状態を検出することができる。
含まれた状態を検出した場合に、この仮想領域を含むよ
うな画像を、部分画像とすれば、必然的に特定物体領域
は部分画像中でバランス良く配置された状態となる。
ば、特定物体領域を抽出する部分画像中にバランス良く
配置した状態で、確実に、かつ高速に該部分画像を抽出
することができる。
例えば請求項2記載の画像処理装置が適用される。
記の課題を解決するために、請求項1の構成に加えて、
上記画像抽出処理手段は、取得された画像中の互いに排
他である2つの仮想領域を設定する領域設定手段と、上
記各仮想領域内の画像情報を取得する画像情報取得手段
と、上記画像情報から上記の2つの仮想領域間の分離度
を算出する算出手段と、得られた分離度に基づいて取得
画像中に存在する特定物体領域をその中に含むように画
像の一部を抽出する画像抽出手段とを含むことを特徴と
している。
域を抽出するためには、例えば請求項3記載の画像処理
装置が適用される。
記の課題を解決するために、請求項2の構成に加えて、
画像抽出手段は、特定物体領域を含むように抽出した部
分画像に対して、該部分画像の一部にさらに仮想領域を
設定し、この仮想領域内の画像情報を取得し、この画像
情報に基づいて、上記特定物体領域を含み、かつ上記部
分画像よりも小さい領域を抽出することを特徴としてい
る。
理装置に記載のように画素の分布情報としても良い。こ
の場合、請求項4の画像処理装置は、上記の課題を解決
するために、請求項3の構成に加えて、取得した画像情
報を画素の分布情報とした場合、この分布情報から確率
密度関数を求め、得られた確率密度関数を上記部分画像
に適用することで、上記特定物体領域を含み、かつ上記
部分画像よりも小さい領域を抽出することを特徴として
いる。
課題を解決するために、請求項1ないし4のいずれかの
構成に加えて、特定物体領域が人間の顔領域であること
を特徴としている。
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができる。
課題を解決するために、請求項5の構成に加えて、画像
抽出手段は、抽出された人間の顔領域内部の画像情報を
取得する手段と、上記画像情報より、顔の幅、左右の対
称軸、目、鼻、口の垂直位置からなる数値情報を検出す
る手段とを含み、上記数値情報に基づいて、上記顔領域
に含まれる顔部分が一定の大きさおよび位置になるよう
に、取得画像の一部を抽出することを特徴としている。
課題を解決するために、請求項1の構成に加えて、取得
画像中の任意の1点を指定する点指定手段を有し、画像
抽出処理手段は、上記点指定手段により取得画像中に存
在する特定物体領域の中央の1点が指定された場合、こ
の指定点を中に含むような第1の仮想領域と、この第1
の仮想領域と排他的な第2の仮想領域とを設定する領域
設定手段と、これら2つの仮想領域に含まれる画像情報
に基づいて、該2つの仮想領域間の分離度を算出する算
出手段と、上記2つの仮想領域の大きさを逐次変更する
ことによって得られる分離度の系列から、取得画像中に
存在し、かつ点指定手段によって指定された点をその中
央に含むような特定物体領域を、その中央に含むように
画像の一部を抽出する画像抽出手段とを含むことを特徴
としている。
えて、特定物体領域の中央の1点が指定され、この点に
基づいて仮想領域が設定されるので、仮想領域間の分離
度の計算が少なくて済む。この結果、部分画像の抽出に
かかる時間を大幅に短縮させることができる。
課題を解決するために、請求項7の構成に加えて、画像
抽出手段は、特定物体領域を含むように抽出した部分画
像に対して、該部分画像の一部に仮想領域を設定し、こ
の仮想領域内の画像情報を取得し、この画像情報に基づ
いて、上記特定物体領域を含み、かつ上記部分画像より
も小さい領域を抽出することを特徴としている。
画像が抽出され、その中から適当なものを選択する必要
があるが、請求項8の構成によれば、点指定手段によっ
て特定物体領域の一点が指定され、この指定された点に
基づいて部分画像が抽出されるようになるので、部分画
像から確実に特定物体領域を抽出することができる。
理装置に記載のように画素の分布情報としても良い。こ
の場合、請求項9の画像処理装置は、上記の課題を解決
するために、請求項8の構成に加えて、取得した画像情
報を画素の分布情報とした場合、この分布情報から確率
密度関数を求め、得られた確率密度関数を上記部分画像
に適用することで、上記特定物体領域を含み、かつ上記
部分画像よりも小さい領域を抽出することを特徴として
いる。
記の課題を解決するために、請求項7ないし9のいずれ
かの構成に加えて、特定物体領域が人間の顔領域である
ことを特徴としている。
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができる。
一点が指定されているので、確実に一つの人間の顔領域
を抽出することができる。
の課題を解決するために、請求項10の構成に加えて、
画像抽出手段は、抽出された人間の顔領域内部の画像情
報を取得する手段と、上記画像情報より、顔の幅、左右
の対称軸、目、鼻、口の垂直位置からなる数値情報を検
出する手段とを含み、上記数値情報に基づいて、上記顔
領域に含まれる顔部分が一定の大きさおよび位置になる
ように、取得画像の一部を抽出することを特徴としてい
る。
加えて、人間の顔領域からポートレート画像を抽出する
場合、確実に一つのポートレート画像を抽出することが
できる。
を解決するために、請求項7の構成に加えて、画像抽出
処理手段は、上記点指定手段により取得画像中に存在す
る特定物体領域の中央でない位置に点が指定された場
合、設定される仮想領域の大きさと位置、あるいは仮想
領域の大きさ、位置と形状を逐次更新することによって
得られる分離度の系列から、取得画像中に存在し、かつ
点指定手段によって指定された点をその中に含むような
特定物体領域を、その中に含むように画像の一部を抽出
することを特徴としている。
領域の中心位置とがほぼ同位置にある場合には、点指定
手段により特定物体領域のほぼ中央に点を指定しても問
題はないが、仮想領域の中心位置と特定物体領域の中心
位置とが大きくずれている場合には、特定物体領域の中
央に点を指定してもうまく仮想領域が設定されないの
で、誤った特定物体領域を抽出してしまう虞がある。
ば、請求項7の作用に加えて、点指定手段により取得画
像中に存在する特定物体領域の中央でない位置に点を指
定することにより、仮想領域の中心と特定物体領域の中
心位置がずれた場合でも確実に特定物体領域を抽出する
ことができる。
の課題を解決するために、請求項12の構成に加えて、
画像抽出手段は、特定物体領域を含むように抽出した部
分画像に対して、該部分画像の一部に仮想領域を設定
し、この仮想領域内の画像情報を取得し、この画像情報
に基づいて、上記特定物体領域を含み、かつ上記部分画
像よりも小さい領域を抽出することを特徴としている。
の課題を解決するために、請求項13の構成に加えて、
画像抽出手段は、取得した画像情報を画素の分布情報と
した場合、この分布情報から確率密度関数を求め、得ら
れた確率密度関数を上記部分画像に適用することで、上
記特定物体領域を含み、かつ上記部分画像よりも小さい
領域を抽出することを特徴としている。
記の課題を解決するために、請求項12ないし14のい
ずれかの構成に加えて、特定物体領域が人間の顔領域で
あることを特徴としている。
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができる。
一点が特定物体領域の中央よりもずれた位置に指定され
るので、特定物体領域の中心と抽出対象となっている部
分画像の中心とが大きくずれていても、誤りなく特定物
体領域である人間の顔領域を抽出することができる。
の課題を解決するために、請求項15の構成に加えて、
画像抽出手段は、抽出された人間の顔領域内部の画像情
報を取得する手段と、上記画像情報より、顔の幅、左右
の対称軸、目、鼻、口の垂直位置からなる数値情報を検
出する手段とを含み、上記数値情報に基づいて、上記顔
領域に含まれる顔部分が一定の大きさおよび位置になる
ように、取得画像の一部を抽出することを特徴としてい
る。
加えて、人間の顔領域からポートレート画像を抽出する
場合、確実に一つのポートレート画像を抽出することが
できる。
の課題を解決するために、請求項1の構成に加えて、画
像抽出処理手段は、取得画像を記憶する記憶手段を含
み、取得画像が一連の電子画像系列からなる動画像であ
る場合、記憶手段に記憶された系列中の特定の一枚の画
像を注目画像として読み出し、この注目画像中に存在す
る特定物体領域をその中に含むように、画像の一部を抽
出すると共に、上記注目画像に対して2つの仮想領域か
らなる1組のウィンドウを設定し、この1組のウィンド
ウ内の画像情報を次の系列の取得画像に対する初期値と
して仮想領域の大きさ、位置を様々に変化させて得られ
る種々の画像情報から、最も適当な1組のウィンドウを
決定することを特徴としている。
えて、時系列的に特定物体領域をバランス良く配置した
部分画像を抽出するようになるので、動画像中の特定物
体領域を追跡することが可能となる。
記の課題を解決するために、請求項17の構成に加え
て、画像抽出手段は、特定物体領域を含むように抽出し
た部分画像に対して、該部分画像の一部にさらに仮想領
域を設定し、この仮想領域内の画像情報を取得し、この
画像情報に基づいて、上記特定物体領域を含み、かつ上
記部分画像よりも小さい領域を抽出することを特徴とし
ている。
の課題を解決するために、請求項17または18の構成
に加えて、記憶手段に記憶されている一連の電子画像の
中の特定物体領域が人間の顔領域であることを特徴とし
ている。
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができる。
の課題を解決するために、請求項17の構成に加えて、
取得画像中の任意の1点を指定する点指定手段が設けら
れ、上記画像抽出処理手段は、取得画像を記憶する記憶
手段と、取得画像が一連の電子画像系列からなる動画像
であり、かつ上記記憶手段に記憶された系列中の特定の
一枚の画像を注目画像として読み出し、この注目画像中
に存在する特定物体領域の中央が上記点指定手段により
指定された場合、この指定点を中に含むような第1の仮
想領域と、この第1の仮想領域と排他的な第2の仮想領
域とを設定する手段と、これら2つの仮想領域に含まれ
る画像情報に基づいて、該特定物体領域と2つの仮想領
域間の分離度を算出する手段と、上記2つの仮想領域の
大きさを逐次変更することによって得られる分離度の系
列から、取得画像中に存在し、かつ点指定手段によって
指定された点をその中央に含むような特定物体領域を、
その中央に含むように画像の一部を抽出する手段とを有
し、上記の2つの仮想領域の画素値を次の系列の取得画
像に対する初期値として仮想領域の大きさ、位置を様々
に変化させて得られる種々の画像情報から、最も適当な
1組のウィンドウを決定することを特徴としている。
加えて、特定物体領域の中央の1点が指定され、この点
に基づいて仮想領域が設定されるので、仮想領域間の分
離度の計算が少なくて済む。この結果、部分画像の抽出
にかかる時間を大幅に短縮させることができる。
記の課題を解決するために、請求項20の構成に加え
て、画像抽出手段は、特定物体領域を含むように抽出し
た部分画像に対して、該部分画像の一部にさらに仮想領
域を設定し、この仮想領域内の画像情報を取得し、この
画像情報に基づいて、上記特定物体領域を含み、かつ上
記部分画像よりも小さい領域を抽出することを特徴とし
ている。
加えて、特定物体領域を含むように抽出した部分画像に
対して、該部分画像の一部にさらに仮想領域を設定し、
この仮想領域内の画像情報を取得し、この画像情報に基
づいて、上記特定物体領域を含み、かつ上記部分画像よ
りも小さい領域を抽出するようになっているので、部分
画像から特定物体領域を確実に抽出することができ、こ
の結果、特定物体領域の追跡をさらに正確に行うことが
できる。
の課題を解決するために、請求項20または21の構成
に加えて、上記記憶手段に記憶されている一連の電子画
像の中の特定物体領域が人間の顔領域であることを特徴
としている。
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができる。
の課題を解決するために、請求項17の構成に加えて、
取得画像中の任意の1点を指定する点指定手段が設けら
れ、画像抽出処理手段は、取得画像を記憶する記憶手段
と、取得画像が一連の電子画像系列からなる動画像であ
り、かつ記憶手段に記憶された系列中の特定の一枚の画
像を注目画像として読み出し、この注目画像中に存在す
る特定物体領域の任意の一点が上記点指定手段により指
定された場合、この指定点を中に含むような第1の仮想
領域と、この第1の仮想領域と排他的な第2の仮想領域
とを設定する手段と、これら2つの仮想領域に含まれる
画像情報に基づいて、該特定物体領域と2つの仮想領域
間の分離度を算出する手段と、上記2つの仮想領域の大
きさを逐次変更することによって得られる分離度の系列
から、取得画像中に存在し、かつ点指定手段によって指
定された点をその中央に含むような特定物体領域を、そ
の中央に含むように画像の一部を抽出する手段とを有
し、上記の2つの仮想領域の画素値を次の系列の取得画
像に対する初期値として仮想領域の大きさ、位置を様々
に変化させて得られる種々の画像情報から、最も適当な
1組のウィンドウを決定することを特徴としている。
加えて、点指定手段により取得画像中に存在する特定物
体領域の中央でない位置に点を指定することにより、仮
想領域の中心と特定物体領域の中心位置がずれた場合で
も確実に特定物体領域を抽出することができるので、動
画像中の特定物体領域を含む部分画像の追跡を正確に行
うことができる。
記の課題を解決するために、請求項23の構成に加え
て、画像抽出手段は、上記取得した画像情報を画素の分
布情報とした場合、この分布情報から確率密度関数を求
め、得られた確率密度関数を上記部分画像に適用するこ
とで、上記特定物体を含み、かつ上記部分画像よりも小
さい領域を抽出することを特徴としている。
の課題を解決するために、請求項23の構成に加えて、
画像抽出手段は、特定物体領域を含むように抽出した部
分画像に対して、該部分画像の一部にさらに仮想領域を
設定し、この仮想領域内の画像情報を取得し、この画像
情報に基づいて、上記特定物体領域を含み、かつ上記部
分画像よりも小さい領域を抽出することを特徴としてい
る。
の課題を解決するために、請求項23ないし25のいず
れかの構成に加えて、記憶手段に記憶されている一連の
電子画像の中の特定物体領域が人間の顔領域であること
を特徴としている。
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができる。
記の課題を解決するために、請求項26の構成に加え
て、上記画像抽出手段は、抽出された人間の顔領域内部
の画像情報を取得する手段と、上記画像情報より、顔の
幅、左右の対称軸、目、鼻、口の垂直位置からなる数値
情報を検出する手段とを含み、上記数値情報に基づい
て、上記顔領域に含まれる顔部分が一定の大きさおよび
位置になるように、取得画像の一部を抽出することを特
徴としている。
は、上述した請求項1ないし27までの各手段の他に、
コンピュータで読み取り可能な記録媒体に本願発明の画
像抽出処理を実行するためのプログラムを記録しても良
い。
取り可能な記録媒体は、上記の課題を解決するために、
取得画像中の互いに排他である2つの仮想領域を該取得
画像中に設定し、これら仮想領域内の画像情報に基づい
て上記特定物体領域を抽出する処理をコンピュータに実
行させるための画像抽出処理プログラムを記録したこと
を特徴としている。
可能な記録媒体は、上記の課題を解決するために、取得
された画像中の互いに排他である2つの仮想領域を設定
し、設定された各仮想領域内の画像情報を取得し、取得
された画像情報から上記の2つの仮想領域間の分離度を
算出し、得られた分離度に基づいて取得画像中に存在す
る特定物体領域をその中に含むように画像の一部を抽出
する処理をコンピュータに実行させるための画像抽出処
理プログラムを記録したことを特徴としている。
可能な記録媒体は、上記の課題を解決するために、取得
画像中に存在する特定物体領域の中央の1点が指定され
た場合、この指定点を中に含むような第1の仮想領域
と、この第1の仮想領域と排他的な第2の仮想領域とを
設定し、設定された2つの仮想領域に含まれる画像情報
に基づいて、該2つの仮想領域間の分離度を算出し、上
記2つの仮想領域の大きさを逐次変更することによって
得られる分離度の系列から、取得画像中に存在し、かつ
指定された点をその中央に含むような特定物体領域を、
その中央に含むように画像の一部を抽出する処理をコン
ピュータに実行させるための画像抽出処理プログラムを
記録したことを特徴としている。
可能な記録媒体は、上記の課題を解決するために、取得
画像中に存在する特定物体領域の中央でない位置に点が
指定された場合、設定される仮想領域の大きさと位置、
あるいは仮想領域の大きさ、位置と形状を逐次更新する
ことによって得られる分離度の系列から、取得画像中に
存在し、かつ指定された点をその中に含むような特定物
体領域を、その中に含むように画像の一部を抽出する処
理をコンピュータに実行させるための画像抽出処理プロ
グラムを記録したことを特徴としている。
可能な記録媒体は、上記の課題を解決するために、記憶
された取得画像が一連の電子画像系列からなる動画像で
ある場合、記憶された画像系列中の特定の一枚の画像を
注目画像として読み出し、この注目画像中に存在する特
定物体領域をその中に含むように、画像の一部を抽出す
ると共に、上記注目画像に対して2つの仮想領域からな
る1組のウィンドウを設定し、この1組のウィンドウ内
の画像情報を次の系列の取得画像に対する初期値として
仮想領域の大きさ、位置を様々に変化させて得られる種
々の画像情報から、最も適当な1組のウィンドウを決定
する処理をコンピュータに実行させるための画像抽出処
理プログラムを記録したことを特徴としている。
可能な記録媒体は、上記の課題を解決するために、記憶
された取得画像が一連の電子画像系列からなる動画像で
あり、かつ上記記憶手段に記憶された系列中の特定の一
枚の画像を注目画像として読み出し、この注目画像中に
存在する特定物体領域の中央が指定された場合、この指
定点を中に含むような第1の仮想領域と、この第1の仮
想領域と排他的な第2の仮想領域とを設定し、これら2
つの仮想領域からなる1組のウィンドウに含まれる画像
情報に基づいて、該特定物体領域と2つの仮想領域間の
分離度を算出し、上記2つの仮想領域の大きさを逐次変
更することによって得られる分離度の系列から、取得画
像中に存在し、かつ点指定手段によって指定された点を
その中央に含むような特定物体領域を、その中央に含む
ように画像の一部を抽出すると共に、上記注目画像に対
して2つの仮想領域からなる1組のウィンドウを設定
し、この1組のウィンドウ内の画像情報を次の系列の取
得画像に対する初期値として仮想領域の大きさ、位置を
様々に変化させて得られる種々の画像情報から、最も適
当な1組のウィンドウを決定する処理をコンピュータに
実行させるための画像抽出処理プログラムを記録したこ
とを特徴としている。
り可能な記録媒体は、上記の課題を解決するために、記
憶された取得画像が一連の電子画像系列からなる動画像
であり、かつ上記電子画像系列中の特定の一枚の画像を
注目画像として読み出し、この注目画像中に存在する特
定物体領域の任意の一点が指定された場合、この指定点
を中に含むような第1の仮想領域と、この第1の仮想領
域と排他的な第2の仮想領域とを設定し、これら2つの
仮想領域に含まれる画像情報に基づいて、該特定物体領
域と2つの仮想領域間の分離度を算出し、上記2つの仮
想領域の大きさを逐次変更することによって得られる分
離度の系列から、取得画像中に存在し、かつ点指定手段
によって指定された点をその中央に含むような特定物体
領域を、その中央に含むように画像の一部を抽出すると
共に、上記注目画像に対して2つの仮想領域からなる1
組のウィンドウを設定し、この1組のウィンドウ内の画
像情報を次の系列の取得画像に対する初期値として仮想
領域の大きさ、位置を様々に変化させて得られる種々の
画像情報から、最も適当な1組のウィンドウを決定する
処理をコンピュータに実行させるための画像抽出処理プ
ログラムを記録したことを特徴としている。
一形態について説明すれば、以下の通りである。
から入力された画像、すなわち装置が外部から取得した
画像(以下、取得画像と称する)に含まれる物体、例え
ば写真等における操作者が所望する人間の顔等を、該取
得画像から抽出処理する装置である。
2に示すように、電子画像(静止画像)あるいは電子画
像系列(動画像)を取得する画像取得手段としての画像
取得装置11と、画像取得装置11によって取得された
取得画像から操作者が所望する物体の画像領域(以下、
特定物体領域と称する)を切り取って抽出するための画
像抽出処理を行う画像抽出処理装置12と、画像抽出処
理装置12によって抽出された画像を出力する結果出力
装置13と、画像抽出処理装置12における処理に関す
る情報を記録あるいは再生する処理情報記録再生装置1
4が設けられている。
出処理装置12に内蔵されているコンピュータにより読
み取り可能な記録媒体に対して情報の記録再生を行う装
置である。処理情報記録再生装置14として、例えば、
フロッピーディスクドライブ、CD−ROMドライブ、
光磁気ディスクドライブ等の外部の記録再生装置が用い
られる。上記フロッピーディスクドライブでは、記録媒
体としてフロッピーディスクが用いられ、また、CD−
ROMドライブでは、記録媒体としてCD−ROMが用
いられ、光磁気ディスクドライブの場合には光磁気ディ
スクが用いられる。他の処理情報記録再生装置14であ
ってもその装置に応じた記録媒体が用いられることはい
うまでもない。
において処理に必要な処理用プログラムや処理に必要な
各種データ等が記録される一方、画像抽出処理装置12
において処理された情報が必要に応じて記録される。
尚、この記録媒体の詳細については後述する。
4は、画像抽出処理装置12において処理された情報を
記録媒体に記録する一方、画像抽出処理装置12におい
て処理に必要な処理用プログラムや処理用の各種データ
等の処理情報を読み出して画像抽出処理装置12に該処
理情報を転送するようになっている。
となる画像情報を記録した記録媒体を処理情報記録再生
装置14で再生し、画像抽出処理装置12に転送するこ
とで、処理情報記録再生装置14を画像取得装置11に
換えて用いることが可能となる。
情報記録再生装置14を兼ねる場合には、画像取得装置
11として、フロッピーディスク/CD−ROM/ハー
ドディスク/光磁気ディスク/デジタルビデオディスク
等の記録媒体からデジタルの静止画像あるいは動画像を
取得する装置が用いられる。尚、CD−ROMおよびデ
ジタルビデオディスクについては、情報の記録および再
生が可能なものを使用する。
処理対象となる画像が静止画像である写真/印刷物から
デジタルの静止画像を取得する例えばスキャナ装置、テ
レビ/ビデオから取得したアナログの動画像をデジタル
の動画像に変換するアナログ/デジタル変換装置、デジ
タルカメラ/デジタルビデオカメラ等のデジタルの静止
画像あるいは動画像を取得するデジタル画像取得装置、
インターネット/LAN等のネットワークからデジタル
の静止画像あるいは動画像を取得する装置等が用いられ
る。
出処理装置12に転送され、所定の画像抽出処理が施さ
れた後、処理結果が操作者に分かるように結果出力装置
13にて処理結果が出力される。
抽出処理装置12で抽出された特定物体領域を表示する
ためのディスプレイ等の表示装置や、他の電子機器(プ
リンタ等)が用いられる。
置11にて取得された取得画像から特定物体領域を仮想
領域を用いて抽出処理する装置であり、記憶部15、演
算部16を有している。ここで、仮想領域とは、ユーザ
が切り取りを希望する特定物体領域を含む画像領域を示
す。この仮想領域を用いた画像抽出処理の詳細について
は、後述する。
は、図3に示すように、仮想領域設定処理用プログラム
15a、顔パラメータ検出処理用プログラム15b、領
域抽出処理用プログラム15c等の処理用プログラムを
記憶したROM(図示せず)と、取得画像を一時的に記
憶すると共に、ROMに記憶された処理用プログラム等
を一時的に記憶するメインメモリ15dとなるRAM
(図示せず)とからなる。
は、後述する分離度を計算するために必要な仮想領域の
形状を設定するためのプログラムである。本実施の形態
では、仮想領域設定処理用プログラム15aとして、ユ
ーザがペンやマウス等の座標入力装置を用いて仮想領域
の形状を自由に描画できるようなプログラムを採用して
いる。
5bは、顔の幅、左右の対称軸、目、鼻、口の垂直位置
などの顔パラメータを検出するためのプログラムであ
る。本実施の形態では、顔パラメータ検出処理用プログ
ラム15bとして、例えば目、鼻、口の垂直位置を検出
する方法、すなわち顔肌領域を抽出した後に、それに対
応する顔画像の輝度値を水平方向に投影したヒストグラ
ムを用いるようなプログラムを採用している。この顔パ
ラメータ検出処理用プログラム15bを実行した場合の
処理の詳細は、実施の形態3で説明する。
物体の領域を抽出するためのプログラムである。本実施
の形態では、領域抽出処理用プログラム15cとして、
設定された仮想領域(分離度を計算する仮想領域とは別
に設定された仮想領域)中の画素値の分布が正規分布に
従っていると仮定して確率密度関数を算出し、この確率
密度関数を取得画像に適用することで物体の領域を抽出
するようなプログラムを採用している。
ROMに予め記憶させても良く、また、図18に示すよ
うに、CD−ROMやフロッピーディスク等の記録媒体
17に記憶させても良い。この場合、記録媒体17に
は、仮想領域設定処理用プログラム17a、顔パラメー
タ検出処理用プログラム17b、領域抽出処理用プログ
ラム17cの少なくとも1つのプログラムを記憶させて
いれば良い。そして、残りのプログラムについては、記
憶部15のROMに記憶させれば良い。
16は、図4に示すように、画像取得装置11にて取得
された画像に対して施す処理を行うための各種処理部か
ら構成されている。つまり、演算部16は、分離度計算
処理部16a、領域抽出処理部16b、画素情報読取処
理部16c、人物画像抽出処理部16d、基本演算処理
部16eで構成されており、上記記憶部15に記憶され
ている処理用プログラムや、取得画像の画像データ等と
連携して各種処理を行うようになっている。
想領域間の分離度を計算する処理部である。ここで、分
離度とは、一般に、ある集合を2つのクラスに分割した
場合、クラス間の変動が全集合の変動に占める割合であ
る。上記の2つのクラスが、完全に分離している場合、
分離度は最大値である1となり、完全に分離されていな
い場合、分離度は最小値である0に近くなる。したがっ
て、分離度は、2値化の際の最適しきい値の決定に使用
される。尚、分離度計算処理部16aにおける分離度の
計算の詳細については後述する。
領域設定処理用プログラム15aを実行することによっ
て設定された仮想領域の画素情報に基づいて物体の領域
を抽出する処理部である。
15に記憶されている取得画像から画像情報を読み出す
処理部である。
顔パラメータ検出処理用プログラム15bを実行するこ
とによって検出された顔パラメータに基づいて、取得画
像から人物画像の切り取りを行う処理部である。
その他の基本的な演算を行う処理部である。
する処理について以下に説明する。尚、ここで行われる
処理は、画像抽出処理装置12にて行われる。
いて説明する。抽出対象となる物体(以下、単に物体と
称する)の形が既知である場合、例えば物体の形状が円
である場合、図5に示すように、2つのサイズの異なる
第1の円101・第2の円102を、それぞれの円の中
心が重なるように設定する。そして、図6に示すよう
に、内側の第1の円101で囲まれた領域を第1の仮想
領域(第1のウィンドウ)103とし、外側の第2の円
102で囲まれ、かつ上記第1の円101を含まない領
域を第2の仮想領域(第2のウィンドウ)104とす
る。
物体の形状が円であれば、ウィンドウを円形状に設定
し、円以外の既知の形状の物体の場合、その物体の形状
と同じ形状のウィンドウを設定する。つまり、物体の形
状が既知のものであれば、ウィンドウの形状も特定物体
の形状に合わせることが望ましい。例えば、物体が矩形
状であれば、図7(a)に示すように、ウィンドウも矩
形状にする。また、物体が楕円形状であれば、図7
(b)に示すように、ウィンドウも楕円形状にする。さ
らに、物体が自動車型の形状であれば、図7(c)に示
すように、ウィンドウも自動車型の形状にするのが望ま
しい。
部15に記憶されている仮想領域設定処理用プログラム
15aが演算部16で実行されることにより、所望のウ
ィンドウが取得画像に対して設定される。
を用いた抽出対象画像の抽出処理について、図1に示す
フローチャートを参照しながら以下に説明する。
れた取得画像を、例えば図8(a)に示すように、物体
111〜113が表示面に存在する画像とした場合に、
この取得画像の中で操作者が抽出を希望する物体が円形
状の物体111とし、この物体111を含む抽出領域で
構成される抽出対象画像114を、取得画像から図8
(b)に示すように抽出する場合について考える。ここ
で、抽出対象画像とは、特定物体領域をそのなかに含む
状態で取得画像から切り取れる部分画像のことである。
1)。
イズのウィンドウ(初期ウィンドウ)を設定する。ここ
では、画像抽出処理装置12によって、図8(a)に示
すように、取得画像中の抽出対象となる物体111が円
形状であるので、図9に示すように、取得画像中の任意
の位置に初期ウィンドウ121が設定される。
直径の異なる2つの円を含み、それぞれの円によって、
内側の円で囲まれた領域の第1のウィンドウ121a、
外側の円で囲まれ、かつ内側の円を含まない領域の第2
のウィンドウ121bを構成している。
ィンドウのサイズは、対象となる物体の大きさのとり得
る値等に依存して設定されるが、通常、取得画像のサイ
ズよりも小さいサイズに設定される。
算する(S2)。
21a、第2のウィンドウ121bのそれぞれに含まれ
る画像情報を取得する。ここでの画像情報とは、各領域
に含まれる画素の数(画素数)と、各画素の画素値であ
る。上記画素値は、画素が持っている値であり、例えば
濃淡画像の場合には、画素の輝度値(明るさ)等を示
す。そして、画像抽出処理装置12は、演算部16の分
離度計算処理部16aにて取得された画素値に基づい
て、第1のウィンドウ121aと第2のウィンドウ12
1bとの間の分離度ηを計算する。
いて、次のようにして計算される。例えば、図9におい
て、ウィンドウの内側の領域(第1のウィンドウ121
a)をPinner 、ウィンドウの外側の領域( 第2のウィ
ンドウ121b)をPouter、両者を合わせた領域をP
とし、当該画像において領域Pinner 内に存在する画素
の数をninner 、領域Pouter 内に存在する画素の数を
nouter 、領域P内に存在する画素の数、すなわちnin
ner +nouter をNとする。領域P内での位置iにおけ
る画素値をPi 、領域Pでの画素値の平均をP〜、領域
Pinner での画素値の平均値をPinner 〜、領域Poute
r での画素値の平均値をPouter 〜とすると、以下の式
(1)〜(3)が成立する。
ーは領域Pでの画素値の平均を示すP〜、Pinner バー
は領域Pinner での画素値の平均値を示すPinner 〜、
Pouter バーは領域Pouter での画素値の平均値を示す
Pouter 〜を表す。
旦、画像抽出処理装置12の記憶部15のメインメモリ
15dに記憶される。
ると共に、拡大したウィンドウにおける分離度を計算す
る(S3)。
16の領域抽出処理部16bにおいて、算出した分離度
ηに基づいて初期ウィンドウ121を、図9に示すよう
に、該初期ウィンドウ121よりも若干大きくし、拡大
ウィンドウ122を設定する。このウィンドウの拡大時
に、ウィンドウ中心の位置は変えないようにする。例え
ば、初期ウィンドウ121の形状が円形であれば、円の
中心を固定したまま、直径を大きくして拡大ウィンドウ
122のサイズアップを図る。
ウィンドウ121a、第2のウィンドウ121bのサイ
ズを予め設定し、この設定値を定数倍にすることにより
行う。したがって、上記拡大ウィンドウ122は、初期
ウィンドウ121と同様に、同心円上に直径の異なる2
つの円を含み、それぞれの円によって、内側の円で囲ま
れた領域の第1のウィンドウ122a、外側の円で囲ま
れ、かつ内側の円を含まない領域の第2のウィンドウ1
22bを構成している。
たか否かを判断する(S4)。
において、第1のウィンドウ121aと第2のウィンド
ウ121bとの間の分離度と同様に、上記拡大ウィンド
ウ122に対して第1のウィンドウ122aと第2のウ
ィンドウ122bとの間の分離度を求める。
理部16aにて、ウィンドウを大きくしながら分離度を
計算する一方、該ウィンドウが十分な大きさになったと
判断されれば、上記ウィンドウの拡大とウィンドウの分
離度の計算とを停止する。
いないと判断されれば、S2に移行し、再びウィンドウ
の拡大と、分離度の計算とを行う。
ウのうち内側のウィンドウの領域の境界線が画面をはみ
出すようになったときの大きさとする。この画面とは、
操作者が最初に取得した取得画像の画面である。このよ
うに、ウィンドウを設定することにより、このウィンド
ウによって特定物体の抽出を含む画像(抽出対象画像)
の抽出を行うことができる。
である取得画像上の特定の位置について、ウィンドウを
徐々に大きくした場合に分離度の推移が見られる。すな
わち、特定物体上の任意の位置について、図10に示す
ように、分離度の推移のグラフが得られる。つまり、取
得画像は、量子化されているので、特定物体の任意の位
置に存在する画素について、当該グラフを得ることがで
きる。この取得画像上の任意の画素について、分離度の
推移グラフを得るプロセスを、分離度計測プロセスと称
する。
スを1枚の取得画像に含まれる全ての画素について行
う。例えば、図11に示す取得画像では、左上の画素か
ら右下の画素に向かって全ての画素について順に、分離
度計測プロセスを行っていることを示している。そし
て、このようにして得られた複数の分離度推移グラフの
中から、分離度の値や推移が一定のルールに従っている
ときのウィンドウの位置とウィンドウのサイズを画像抽
出処理装置12内の記憶部15に記憶する。
対してしきい値を設定し、分離度計測プロセスを行って
得られる分離度が上記のしきい値を超えた場合に記憶部
15にそのときのウィンドウの位置とサイズとを記憶す
るようにするルールとする。
測定された分離度がしきい値を超えない場合には、その
ウィンドウ内に特定物体領域が含まれている可能性は低
いと判断し、次のウィンドウにおける分離度を測定する
ようにする。
のかを図12を参照しながら以下に説明する。
の画像中に同一画素値からなる真円形領域131のみが
存在しており、分離度計算用のウィンドウの形状も真円
形とした場合について分離度の推移の説明を行う。そし
て、ウィンドウの中心を画像中の円形領域の中心に重
ね、分離度計測プロセスを実行する。
中に表示されている例を示している。ここでは、例え
ば、最内部側に存在する領域を初期ウィンドウ132と
し、この初期ウィンドウ132は、内側の第1のウィン
ドウ132aと外側の第2のウィンドウ132bとで構
成されている。
度を計算した後、この初期ウィンドウ132の外側に内
側の第1のウィンドウ133aと外側の第2のウィンド
ウ133bとで構成される第1拡大ウィンドウ133が
設定される。そして、同様に、上記第1拡大ウィンドウ
133についても分離度を計算した後、この第1拡大ウ
ィンドウ133の外側に、内側の第1のウィンドウ13
4aと外側の第2のウィンドウ134bとで構成される
第2拡大ウィンドウ134が設定される。尚、初期ウィ
ンドウ132と第1拡大ウィンドウ133との間や、第
1拡大ウィンドウ133と第2拡大ウィンドウ134と
の間においもて分離度が計測される。
内側の第1のウィンドウ133aの内側境界線と真円形
領域131の輪郭が一致している。
得られた分離度推移グラフを図13に示す。ここで、グ
ラフ中のウィンドウサイズaの値に相当する図12に示
すウィンドウは、初期ウィンドウ132であり、ウィン
ドウサイズcの値に相当するウィンドウは、第1拡大ウ
ィンドウ133であり、ウィンドウサイズdの値に相当
するウィンドウは、第2拡大ウィンドウ134である。
すなわち、初期ウィンドウ132は、初期サイズのウィ
ンドウであることを、また、第2拡大ウィンドウ134
は、最大サイズのウィンドウであることを示している。
また、第1拡大ウィンドウ133は、該第1拡大ウィン
ドウ133の内側境界と真円形領域131の輪郭が一致
していることを示している。
とが分かる。分離度計測プロセスでは、ウィンドウサイ
ズaから徐々にウィンドウサイズを大きくしながら分離
度を計算していくが、図12に示すように、初期ウィン
ドウ132においては真円形領域131内に全て含まれ
ている、すなわち内側領域の第1のウィンドウ132a
および外側領域の第2のウィンドウ132bとも全く同
じ画素値の画素で塗りつぶされた状態となっているの
で、分離度の値は0となる。この分離度の値は、ウィン
ドウの外側境界が真円形領域131の輪郭と一致するま
で0となる。
域131の輪郭を超えると、ウィンドウの外側領域に真
円形領域131を構成する画素と背景を構成する画素と
が混在することになり、分離度は上昇する。この分離度
の上昇は、ウィンドウサイズがcの値、すなわち、第1
拡大ウィンドウ133の第1のウィンドウ133aの境
界が真円形領域131の輪郭に一致するまで続く。
えれば、ウィンドウの内側領域にも背景を構成する画素
が入ってくるため、分離度は減少に転じ、ウィンドウサ
イズが大きくなるほど分離度は減少することになる。
内側領域である第1のウィンドウ133aの内側境界と
真円形領域131の輪郭が一致している点(図13のグ
ラフのcの値)で分離度が最大となるため、この点で第
1拡大ウィンドウ133の第1のウィンドウ133aで
囲まれた領域を物体領域と見なすことができる。
き、分離度が0を超えた時の、該ウィンドウの外側領域
で囲まれた領域も同様に物体領域とみなすことができ
る。
を適用する場合、取得画像中の背景が完全に均一になる
ことはないので、図13において計測する分離度に適当
なしきい値s1を設定しておき、分離度がしきい値s1
を超えた時点(ウィンドウサイズb)でのウィンドウの
内側境界で囲まれた領域を物体領域とみなすか、あるい
は、分離度が一定値をとるしきい値s2(<1)以上で
最大になる時点でのウィンドウの内側境界で囲まれた領
域を物体領域と見なす。つまり、分離度は、背景と物体
との画素値の差に依存しない正規化量なので、上述した
しきい値s1、s2を適当に設定しておけば、背景、物
体の画素値(色、輝度)に関係なく同じ値で適用可能と
なっている。
の物体をそのなかに含む境界を検出することが可能とな
る。この境界の位置、大きさに基づいて、取得画像の一
部を切り取ることができる。例えば、図14(a)は、
取得画像中の円形の物体(目的物体)135に対して、
物体領域136が検出された状態を示しており、この物
体領域136の外接矩形137を想定し、図14(b)
に示すように、この外接矩形137に適当なマージンを
つけて拡大した矩形をもって切取矩形138としてい
る。この結果、目的物体135をその中に含むように部
分画像である切取矩形(抽出対象画像)138を取得画
像から切り取ることができる。
物体を含む抽出対象画像である切取矩形138から、さ
らに該物体を抽出する処理について以下に説明する。こ
こでは、上記切取矩形138から目的物体135を抽出
するための処理について、図15および図16(a)〜
(c)を参照しながら以下に説明する。ここで、領域抽
出処理用プログラム15cが演算部16で実行されるこ
とにより抽出対象画像の抽出あるいは特定物体領域の抽
出処理が行われる。
する物体である目的物体135がほぼ中央に配置される
と共に、抽出対象外の物体である第1の物体139、第
2の物体140が上記目的物体135の近傍に配置され
ている。また、目的物体135、第1の物体139、第
2の物体140の各物体は、それぞれ均一な色や明るさ
を有する画素で構成されているものとする。
物体でも、該物体の領域中の画素の色や明るさ等を示す
画素値はまったく同一の値ではない。したがって、人間
が見て同色であると判断した画像領域内の画素の画素値
の分布を調べると、図17に示すような正規分布(正規
確率密度関数)に近似できる場合がある。この場合、平
均と分散の値から、図17で示す斜線領域Sの面積で表
される確からしさが適当な範囲に収まるときの画素値の
下限値P1および上限値P2を求めることができる。こ
のとき、確からしさの適当な範囲とは、例えば95%以
内等があげられる。
内の目的物体135においても同様のことが言える。つ
まり、目的物体135を構成する画素の画素値は正規分
布となる。また、目的物体135は、切取矩形138の
ほぼ中央にくるように配置されているので、該切取矩形
138の中央付近の画素の画素値の分布を調べることに
より、切取矩形138内の目的物体135を同定するこ
とができる。
うに、切取矩形138に対してほぼ中央付近の矩形状の
領域138aを設定し、この領域138aに含まれる画
素の画素値の分布を調べることで、目的物体135の画
素の画素値の分布の近似とすることができる。
分布(確率密度関数)から適当な確率範囲での画素値の
下限および上限を求め、画素値がその範囲にあるものと
ないものとで、切取矩形138内の画素を分離する。分
離した結果、図16(b)に示すように、画素の一部が
欠けた目的物体135と、ノイズ成分135a…とが得
られる。この状態では、目的物体135を正確に抽出し
たことにはならないので、目的物体135の欠けた画素
を補間する補間処理(膨張/収縮処理等)と、ノイズ成
分135aの除去処理(孤立点除去処理)を行うこと
で、図16(c)に示すように、目的物体135のみを
完全に抽出した状態にすることができる。
得画像のすべての位置、すなわち画素について行ってい
るが、これでは、処理に時間がかかり過ぎる虞がある。
そこで、取得画像の一点を指定して、この一点に対して
分離度計測プロセスを実行することにより処理時間を短
縮させることが考えられる。
て、例えば図19に示すように、図2で示した画像処理
装置の画像抽出処理装置12に点指定手段としての座標
指定装置21が接続されたものが考えられる。すなわ
ち、上記画像処理装置では、座標指定装置21によって
指定された任意の取得画像上の画素について、分離度計
測プロセスを実行し、分離度の推移を得るようになって
いる。この分離度の推移を、上述したルール、すなわち
図12に示したルールで調べることにより、取得画像中
に存在し、かつ座標指定装置21によって指定された点
をその中に含むような特定物体領域を含むような画像の
一部を抽出することができる。
置では、ユーザによって取得画像中に座標が指定される
ことがないため、抽出される領域範囲は複数の候補が存
在する。その中で、上述したようなルールで適当な領域
を選択するか、あるいはユーザが複数の候補の中から一
番適当な領域を選択するか等の操作が必要となる。これ
に対して、図19に示す画像処理装置は、座標指定装置
21を備えているため、分離度計測プロセスを一度だけ
実行することにより、確実に一つの領域範囲を抽出する
ことができる。
図2に示す画像処理装置に比べて、領域範囲の選択にか
かる時間を短縮させることができるので、物体の抽出に
かかる全体の処理時間を短縮させることができる。
出処理装置12は、図2に示す画像処理装置の画像抽出
処理装置12と同様に、特定物体領域を含むように抽出
した部分画像に対して、該部分画像の一部に仮想領域を
設定し、この仮想領域内の画像情報を取得し、この画像
情報に基づいて、上記特定物体を含み、かつ上記部分画
像よりも小さい領域を抽出するようになっている。
得した画像情報を画素の分布情報とした場合、この分布
情報から確率密度関数を求め、得られた確率密度関数を
上記部分画像に適用することで、上記特定物体を含み、
かつ上記部分画像よりも小さい領域を抽出するようにな
っている。
点を目的物体の抽出に使用されるウィンドウの中心に固
定することにより、バランスよく物体を配置した状態で
抽出対象画像を抽出することができる。
て、目的物体135と第1の物体139のみを残した画
像とした場合、目的物体135の抽出に用いられるウィ
ンドウ(以下、分離度ウィンドウと称する)は、座標指
定装置21によって指定された点Xに、中心を固定した
状態で使用される。
定された点Xを分離度ウィンドウの中心とした領域境界
に限定される。
た場合の抽出対象画像の抽出処理について、図19ない
し図23を参照しながら以下に説明する。
体135が存在している取得画像において、座標指定装
置21により目的物体135の中心点にほぼ一致する点
Xが指定された時、該目的物体135を覆うような境界
線142で囲まれた領域が円形状である分離度ウィンド
ウとして得られる。このようにして得られた分離度ウィ
ンドウを用いれば、目的物体135を適切に抽出処理す
ることができる。
体135が存在している取得画像において、座標指定装
置21により目的物体135の中心点とずれた位置に点
X’が指定されたとき、目的物体135よりも小さな範
囲を示す分離度ウィンドウの境界線142’が得られ
る。これは、ウィンドウの中心を固定して分離度測定プ
ロセスを実行しているためであり、外側ウィンドウの境
界線が境界線142’と重なった時に分離度の所定のし
きい値を超えるか、あるいは内側ウィンドウの境界線が
境界線142’に重なった時に分離度が最大になるため
である。
べき物体の中心とが同位置、あるいは近傍位置にない
と、分離度ウィンドウが適切に設定されないので、誤っ
た抽出対象画像を抽出してしまう虞がある。
ィンドウの中心を固定せずに適当にずらしながら分離度
測定プロセスを実行する。具体的には、ある時点での分
離度ウィンドウが図22(a)に示すような状態である
とき、次の時点のウィンドウは、図22(b)に示すよ
うに、図22(a)のウィンドウと中心が同一で、内側
および外側ウィンドウのサイズを一定のルールに従って
拡大したものが用いられる。
場合の取得画像の抽出処理について図23(a)
(b)、図26に示すフローチャートを参照しながら以
下に説明する。
上の任意の点を指定する。そして、この点を中心とし
て、内側ウィンドウ、外側ウィンドウの2つの初期ウィ
ンドウを設定する(S11)。
側ウィンドウと外側ウィンドウとが同心円状に配置され
た初期ウィンドウ150aが設定される。尚、図23
(a)(b)において、実線で描かれた円は外側ウィン
ドウを示し、破線で描かれた円は内側ウィンドウを示す
ものとする。
側ウィンドウを設定する(S12)。
分離度ウィンドウとし、この元分離度ウィンドウとは別
に、複数の分離度ウィンドウを設定する。ここでは、図
23(a)に示すように、初期ウィンドウ150aを含
めて、9個の分離度ウィンドウ150b〜150iが設
定される。
まで、外側ウィンドウの位置をずらしている。分離度ウ
ィンドウ150bでは、内側ウィンドウの半径分だけ、
外側ウィンドウを左上にずらしている。また、残りの分
離度ウィンドウについても同様にして、外側ウィンドウ
を内側ウィンドウの半径分だけ移動させる。すなわち、
分離度ウィンドウ150cでは上にずらし、分離度ウィ
ンドウ150dでは右上にずらし、分離度ウィンドウ1
50eでは左にずらし、分離度ウィンドウ150fでは
右にずらし、分離度ウィンドウ150gでは左下にずら
し、分離度ウィンドウ150hでは下にずらし、分離度
ウィンドウ150iでは右下にずらしている。
算する(S13)。
された9個の分離度ウィンドウ150a〜150iの分
離度を全て計算する。
選択する(S14)。このとき、分離度の最も小さい分
離度ウィンドウを最小分離度ウィンドウとして記憶して
おき、この時の分離度のを値を今回設定した9個の分離
度ウィンドウの代表分離度とする。本実施の形態では、
図23(a)に示す分離度ウィンドウ150dが最小分
離度ウィンドウとして記憶されたものとする。
離度ウィンドウに対して、内側ウィンドウと外側ウィン
ドウとの中心が一致しているか否かを判断する(S1
5)。ここで、内側ウィンドウと外側ウィンドウとの中
心が一致していないと判断されれば、S16に移行す
る。一方、内側ウィンドウと外側ウィンドウとの中心が
一致していれば、S17に移行する。
3(a)に示す分離度ウィンドウ150a以外の分離度
ウィンドウのように内側ウィンドウと外側ウィンドウと
の中心が一致していなければ、内側ウィンドウををずら
し、外側ウィンドウの中心に該内側ウィンドウの中心を
一致させる(S16)。
とのウィンドウサイズを若干大きくする(S17)。
側ウィンドウと外側ウィンドウとの中心がずれている最
小分離度ウィンドウ150dに対して、内側ウィンドウ
をずらして該内側ウィンドウと外側ウィンドウとの中心
を一致させた分離度ウィンドウ150jを得る。そし
て、この分離度ウィンドウ150jのウィンドウサイズ
を若干大きくして、分離度ウィンドウ150kを得る。
択された分離度ウィンドウの内側ウィンドウと外側ウィ
ンドウとの中心が一致していれば、すなわち、図23
(a)に示す初期ウィンドウ150aのように内側ウィ
ンドウと外側ウィンドウとの中心が一致していれば、S
17に移行してそのままウィンドウサイズを若干大きく
する。
ィンドウを基にし、中心を固定して内側および外側ウィ
ンドウのサイズを一定のルールに従って拡大したもの、
すなわち、図23(b)に示す分離度ウィンドウ150
kを次のステップの元分離度ウィンドウとする。
たか否かを判断する(S18)。
て、内側ウィンドウと外側ウィンドウとの間の分離度を
求める一方、該ウィンドウが十分な大きさになったと判
断されれば、上記ウィンドウの拡大を停止する。
いないと判断されれば、S12に移行し、分離度ウィン
ドウ150kを元分離度ウィンドウとして、内側ウィン
ドウを固定して外側ウィンドウをずらした複数の分離度
ウィンドウを設定する。ここで、十分な大きさとは、例
えば2つのウィンドウのうち内側のウィンドウの領域の
境界線が画面をはみ出すようになったときの大きさとす
る。この画面とは、操作者が最初に取得した取得画像の
画面である。このように、ウィンドウを設定することに
より、このウィンドウによって特定物体の抽出を含む画
像(抽出対象画像)の抽出を行うことができる。
とする。
を用いて、抽出対象画像の境界(以下、物体境界と称す
る)を得るには、以下に示す2通りの方法がある。
例えば図24に示すようなグラフで表せる。すなわち、
図24に示すグラフから、あるしきい値S1を超えた時
のウィンドウサイズW1の分離度ウィンドウの外側ウィ
ンドウを物体境界とすることができる。後は、この取得
画像中に存在し、かつ図19に示す画像処理装置の座標
指定装置21によって指定された点をその中に含むよう
な特定物体領域をさらにその中に含むなような抽出対象
画像を抽出できるような画像処理装置を実現できる。
離度ウィンドウが記憶されている。この記憶された最小
分離度ウィンドウを利用して、抽出対象画像を抽出す
る。すなわち、各分離度ウィンドウの外側ウィンドウ
を、新しい分離度ウィンドウの内側ウィンドウとして、
中心を固定したままで、その内側ウィンドウを大きくし
たものを外側ウィンドウとすることで、新しい分離度ウ
ィンドウを設定する。
テップの外側ウィンドウを内側ウィンドウとする分離度
ウィンドウの系列ができることになる。
分離度を計算することによって、図25に示すように、
新しい分離度の系列を示すグラフが得られる。この分離
度の系列を示すグラフから、分離度が最大となるステッ
プでの分離度ウィンドウの内側ウィンドウのサイズW2
を物体境界とすることができる。後は、この取得画像中
に存在し、かつ図19に示す画像処理装置の座標指定装
置21によって指定された点をその中に含むような特定
物体領域をさらにその中に含むなような抽出対象画像を
抽出できるような画像処理装置を実現できる。
得画像について処理を行っているので、画像処理装置に
入力される画像が静止した状態について説明した。これ
を利用して、動画像について追跡処理を行う方法につい
て以下の実施の形態2にて説明する。
について説明すれば以下の通りである。尚、この処理を
行う装置としては、図2および図19に示す装置が適用
されるので、装置についての説明は省略する。
に、物体の検出について、図29および図30のフロー
チャートを参照しながら説明する。
用いて、物体境界を検出する方法Aの処理の流れを示す
フローチャートである。また、図30は、前述した、分
離度ウィンドウを用いて、物体境界を検出する方法Bの
処理の流れを示すフローチャートである。
ず、分離度計測プロセスが実行される(S31)。ここ
での分離度計測プロセスは、図1あるいは図26で示し
た分離度計測プロセスのいずれかが実行される。
(ウィンドウ)の内側境界を物体境界とする(S3
2)。すなわち、分離度ウィンドウの内側ウィンドウを
物体境界としている。
に、まず、分離度計測プロセスが実行される(S4
1)。ここでの分離度計測プロセスは、図1あるいは図
26で示した分離度計測プロセスのいずれかが実行され
る。
(ウィンドウ)の外側境界を物体境界とする(S4
2)。すなわち、分離度ウィンドウの外側ウィンドウを
物体境界としている。
まず、物体境界を検出する(S21)。ここでの物体検
出は、上述した方法AあるいはBにて行われる。
すように、記憶部15に記憶された画像系列中の一枚の
画像(注目画像)中において、目的物体151に対して
得られる物体境界152である。そして、上記画像系列
中の図27(a)で示した画像の次の時刻の画像が示さ
れれば、図27(b)に示すように、目的物体151が
目的物体153の位置に移動したことが示され、このと
き、前時刻での物体境界152は同じ位置の物体境界1
54となっている。
は、分離度計測プロセスでの内側ウィンドウあるいは外
側ウィンドウの境界である。したがって、この物体境界
154をこの画像での元ウィンドウとする。ここで、分
離度計測プロセス後の物体境界の求め方により、物体境
界154が内側ウィンドウになるか外側ウィンドウにな
るかが決定される。
ドウが設定された後、この元ウィンドウに対し、ウィン
ドウ位置をずらしたものを複数パターン用意する(S2
2)。すなわち、図27(b)において、図27(a)
で示した物体の物体境界152の中心位置を示す点Xを
中心として、上下左右斜め方向に該点Xから等距離の位
置に8個の点X’…を設定し、これら各点X’を中心と
する8個の境界を想定する。尚、このように目的物体が
移動する方向やパターン数、距離は、入力される画像系
列における物体の移動量や、要求される物体の追跡精度
等によって決まる。
算する(S23)。
が点Xであるウィンドウ境界であり、他のウィンドウ中
心である点X’に対しては、中心のずれ量と同じだけウ
ィンドウ境界もずらしている。このため、最初の中心で
ある点Xを含む9個の中心を有し、それに対応した物体
境界154を、分離度計測プロセスに使用される分離度
ウィンドウの内側ウィンドウとしている。
た外側ウィンドウを考えることにより、これら9個の分
離度ウィンドウでの分離度をそれぞれ計算する。
ウを移動先ウィンドウとして記憶する(S24)。
となる点Xの右斜め下の点X’1を中心とするウィンド
ウ境界を分離度ウィンドウの分離度が最も小さいと判断
された場合、図27(c)に示すように、点X’1と、
この点X’1を中心とする物体境界155とが、移動先
ウィンドウとして選択された中心およびウィンドウの内
側境界となる。
の大きさが変化しているか否かを判定する(S25)。
ここで、物体の見かけ上の大きさが変化しない場合に
は、S29に移行して、ユーザの終了指示があったか否
かを判定する。そして、ユーザの終了指示があれば、動
画追跡処理を終了する。
なければ、記憶したウィンドウを次時刻画像の元ウィン
ドウとし、S22に移行する(S30)。
が変化しない場合には、S24で記憶したウィンドウを
次時刻の元ウィンドウとして処理を繰り返すようにな
り、結果として、目的物体の追跡を行うこととなる。こ
れにより、取得画像中の目的物体の見かけ上の大きさが
変化しないとき、すなわち、目的物体の移動がカメラと
平行である場合の物体の移動の追跡ができたことにな
る。
上の大きさが変化していると判定さた場合、すなわち、
カメラに対して奥行き方向にも目的物体が移動する場
合、上記のカメラに対する平行移動の追跡に加え、奥行
き方向の移動も追跡する必要がある。
153の平行移動が追跡された際のウィンドウ境界およ
びその中心点が、物体境界155と点X’1となってい
る。この物体境界155と点X’1とをこの画像におけ
る元ウィンドウとする。
定し、大きさを変えたウィンドウを複数パターン用意す
る(S26)。ここで、ウィンドウの中心となる点X’
1を固定し、ウィンドウの大きさを一定量小さくしたも
のと大きくしたものとを設定する。
さくした縮小ウィンドウ156と、元ウィンドウよりも
大きくした拡大ウィンドウ157との2種類設定してい
る。尚、この縮小ウィンドウ156の数と拡大ウィンド
ウ157の数はこれに限定するものではない。
ンドウとして、これに対応する外側ウィンドウをそれぞ
れ設定して分離度計測プロセスで使用する分離度ウィン
ドウとする。この分離度ウィンドウの個数や大きさの変
化量は、入力される画像系列における物体の移動量や、
要求される物体の追跡精度等によって決まる。
算する(S27)。すなわち、元ウィンドウを含めて、
上記のように設定した分離度ウィンドウにおける分離度
を計算する。
ウを移動先ウィンドウとして記憶する(S28)。図2
7(d)においては、縮小ウィンドウ156の物体境界
が移動先ウィンドウとして選択されたウィンドウの内側
境界となる。
かが判定される(S29)。ここで、ユーザにより終了
が指示されれば、動画追跡の処理を終了する。また、ユ
ーザが終了指示していなければ、S30に移行し、S2
8で記憶したウィンドウを次時刻画像の元ウィンドウと
する。そして、再びS22に移行して、処理を繰り返
す。これらの処理を繰り返すことで目的物体の奥行き方
向の追跡を行うことができる。
した動画像を追跡する機能を追加することにより、様々
な分野において利用が考えられる。
メラに持たせることにより、被写体を常にフレームの中
心にくるように制御することが考えられる。
に、この人物の動きに合わせてエアコンの出力を微妙に
調整することが考えられる。
カメラを自動車に取り付けて、他の車や障害物を追跡し
て自動運転等に応用することも考えられる。
象となる物体、すなわち目的物体について主に抽出方法
を具体的に説明しているが、以下の実施の形態3では、
目的物体の具体例として人間の顔を用いた場合について
説明する。
の形態について以下に説明する。
成および特定物体の抽出方法については、前記実施の形
態1および2と同じとし、その説明は省略する。したが
って、以下の説明は、静止画像および動画像のいずれで
も適用可能であり、前記実施の形態1および2で説明し
た特定物体の抽出方法についていずれの方法でも適用可
能である。
明した画像処理装置において、分離度を計算する時の画
素値、および特定物体を構成する画素値を、取得画像で
ある入力デジタル画像を構成する画措置のRGB値から
計算される彩度値、あるいは色相値とすることで、人間
の顔を抽出するのに適した構成にすることができる。
す画像処理装置の画像抽出手段である画像抽出処理装置
12は、抽出された人間の顔領域内部の画像情報を取得
する手段と、上記画像情報より、顔の幅、左右の対称
軸、目、鼻、口の垂直位置からなる数値情報を検出する
手段とを含み、上記数値情報に基づいて、上記顔領域に
含まれる顔部分が一定の大きさおよび位置になるよう
に、取得画像の一部を抽出することになる。
た場合の該特定物体領域の抽出処理の詳細について以下
に説明する。尚、以下の説明で処理される手順は、顔パ
ラメータ検出処理用プログラム15bに基づいて演算部
16内で行われるものとする。
問の顔の肌の色分布を解析しておく。すなわち、 1.人間が手作業により、人物顔が写っている画像(図
31(a))より顔の肌部分のみを抽出した画像(図3
1(b))を作成する。
し、複数人数分の画像を作成する。
分布を、図32に示す出現頻度のヒストグラムとして表
す。すなわち、図32(a)に示す曲線32aは色相の
ヒストグラム、図32(b)に示す曲線32cは彩度の
ヒストグラム、図32(c)に示す曲線32eは明度の
ヒストグラムを示している。
散を求め、分布に最もよくフィットするような正規確率
密度関数を求める。色相、彩度、明度の各正規確率密度
関数は、それぞれ図32(a)では曲線32b、図32
(b)では曲線32d、図32(c)では曲線32fで
示される。
度、明度それぞれについて、その平均値と分散(それぞ
れ、μhue 、σhue 2 、μsat 、σsat 2 、μval 、σ
val 2)の2つの引数で表される正規確率密度関数(Ph
ue(hue)、Psat(sat)、Pval(val)) で表すことができ
る。この関数を、肌領域確率密度関数と呼ぶ。各関数は
以下の式(4)〜(6)で表される。
均から大きくずれるような値(例えば、図32(a)の
色相の分布ヒストグラム(曲線32a)において、20
位を中心に±30程度にほとんどの画素の色相が分布す
るような場合に、100や−150といった値)は、例
え数が少なくとも、分散を大きく見積もってしまうこと
になるため、それらの色相値を持つ画素は異常値として
除去したのち、平均と分散を計算したほうが、より正し
い分布にあてはめられる正規分布曲線(確率密度関数)
を得ることができる。
ついて、図33に示すフローチャートおよび図34を参
照しながら以下に説明する。
定が行われる(S51)。すなわち、ユーザ入力に基づ
き最初の処理領域を設定する。例えば図16に示す目的
物体135を人物顔とした場合、図34(a)に示すよ
うに、元画像より切り取られた画像34aの中央付近に
サンプリング用の矩形、すなわち設定領域矩形34bを
設定する。そして、この設定領域矩形34b内の画素値
を調べて、後段の確率密度関数を導出する。
相、彩度、明度のいずれかが、一定の確率以下の画素、
あるいは色相値、彩度値、明度値が特定の範囲外にある
画素を除く(S52)。すなわち、設定領域内にて、前
節で求めた色相、彩度、明度をそれぞれ引数とする3つ
の正規確率密度関数に、各画素の色相値、彩度値、明度
値を代入して確率を求め、各確率が特定の比率以上にな
るような画素を最初の顔肌候補画素とする。この時、設
定する確率は、例えば5%のように、なるべく広い範囲
をとるように小さめに設定すべきである。このようにし
て、ユーザ指定によって設定された領域のなかで、多少
なりとも肌である可能性のある画素を最初の肌候補画素
とする。
平均および分散を求める(S53)。ここで、肌候補画
素の選択を、確率を基準にして行うことを述べたが、撮
像系の特性などにより、適宜、この確率での画素値(色
相、彩度、明度)に近い値で適当にしきい値を調整する
ことも有効である。
均、分散をそれぞれ、μhue ’、σhue ’2 、μsat
’、σsat ’2 、μval ’、σval ’2 とすると、色
相、彩度、明度を引数とした新しい確率密度関数 (Phu
e(hue)、Psat ’(sat) 、Pval ’(val))はそれぞれ、
以下の式(7)〜(9)で表される。
て顔肌を構成する画素を選択する。
散にもとづく正規確率密度関数を用い、画像全体に含ま
れるすべての画素から、一定の確率以下の画素、あるい
は色相値が特定の範囲外にある画素を除く(S54)。
を初期値とし、そのなかで、色相値を引数として得られ
た顔肌確率(Phue ’(hue) )が一定値以下の画素を除
去する。
ち、S53で求めた彩度の平均と分散にもとづく正規確
率密度関数を用い、一定の確率以下の画素、あるいは彩
度値が特定の範囲外にある画素を除く(S55)。
顔肌確率(Phue ’(sat) )が一定値以下の画素を除去
する。
ち、S53で求めた明度の平均と分散にもとづく正規確
率密度関数を用い、一定の確率以下の画素、あるいは明
度値が特定の範囲外にある画素を除く(S56)。
顔肌確率(Phue ’(val) )が一定値以下の画素を除去
する。
の集合を顔肌領域画像とする(S57)。すなわち、図
34(b)に示すような顔肌領域画像34cが得られ
る。得られた顔肌領域画像34cは、さらに、後述の顔
マスクの生成処理によって、図34(c)に示すような
顔マスク34dとなる。
下限は、最初の顔肌候補画素を求めた時より高く設定す
る。例えば、前者が5%なら、後者は30%というよう
にする。これにより、最初の顔肌候補画素を求めた時に
ノイズとして誤抽出されていたような画素も、後段で行
われた手法では誤抽出されないといった特徴があること
になる。
して行うことを述べたが、撮像系の特性などにより、適
宜、この確率での画素値(色相、彩度、明度)に近い値
で適当にしきい値を調整することも有効である。
の関係を表す図である。すなわち、図35(a)に示す
画像の明度に関して言及すると、顔肌と髪の毛では明ら
かに明度が異なり、図35(b)に示すヒストグラムを
とると明度値の小さいほうに髪の毛を表す山35aおよ
び、明度の比較的高いほうに顔肌領域を表す山35bが
現れることになる。
に確率をしきい値として画素を選択してしまうと、図3
5(b)の35cのような位置にしきい値が設定されて
しまい、髪の毛の一部も顔肌画素として抽出されてしま
う可能性がある。そこで、このような場合には、適当な
明度値以下で大津の判別分析のようなアルゴリズム(谷
内田、“ロボットビジョン”、昭晃堂、ISBN4-7856-307
4-4 C3355 、1990.に紹介)を適用し、明度のしきい値
を35dのように、より適当な値に設定することが可能
となる。
更新することにより、図36(a)に示すような処理対
象画像の場合、図36(c)に示すような顔肌領域画像
を得ることができる。これは、従来のような固定関数で
抽出する手法で得られる顔肌領域画像(図36(b))
に比べ、ノイズによる誤抽出が少なくなるという利点が
ある。
口の垂直位置からなる数値情報を得るのに用いられる顔
マスクの生成処理について、図37のフローチャートお
よび図38を参照しながら以下に説明する。尚、ここで
は、取得画像としてカラー画像を用いて説明するので、
以下の説明において取得画像を入力カラー画像とする。
1)。この顔肌領域画像は、例えば図34(b)に示す
ように、図33に示す処理(S51〜S57)によって
生成される。
最大面積領域を選択する(S62)。例えばS61によ
って得られた顔肌領域画像に対し、図38(a)に示す
ような入力カラー画像に対して図38(c)に示すよう
に、まず、連結画素を結合していくことによりラベル画
像を作成し、もっとも大きな面積をもつラベル領域のみ
を残し、図38(d)に示すような2値画像とする。
こで、残った領域について、白色画素で囲まれた黒色画
素(穴)を白色画素に置き換えることにより、図38
(e)に示すように、穴を塞いだ画像とする。
つまり、S63で得られた画像に対し、収縮処理を1回
施す。
5)。つまり、収縮処理を施した画像に対して、この時
点で再びラベル画像を作成し、最大面積領域のみを残
す。
その後、n回収縮処理を施す(S67)。続いて、最大
面積領域を選択し(S68)、これによって、図38
(f)に示すような顔マスクが得られる。
よって、上述したように、図34(b)に示す顔肌領域
画像34cから、図34(c)に示す顔マスク34dが
得られる。
特性などにより適当な値を選択すべきである。なお、膨
張処理、収縮処理は(谷内田、“ロボットビジョン”、
昭晃堂、ISBN4-7856-3074-4 C3355 、1990.に紹介)な
どに紹介されている。
顔マスク(図38(f))は、以下に示す顔の中心軸を
検出するための処理等における処理範囲を限定するのに
用いる。
の流れについて、図39のフローチャートおよび図38
を参照しながら以下に説明する。
こでは、図37に示す処理の流れによって顔マスクを生
成するものとする。
て、入力カラー画像を濃淡画像に変換する(S72)。
例えば図38(a)に示す入力カラー画像より輝度成分
のみを取り出し、図38(b)に示すような濃淡画像を
得る。
に微分する(S73)。すなわち、図38(b)に示す
濃淡画像に対し、図38(f)に示す顔マスクの白画素
に対応する画素における垂直方向の微分値を画素値とす
る微分画像を得る。この微分画像は、例えば図38
(g)のようになる。
黒画素に対応する画素の画素値は0とする。ここで、微
分画像を得るためには、Prewittのオペレータな
どによる方法が一般的である(谷内田、“ロボットビジ
ョン”、昭晃堂、ISBN4-7856-3074-4 C3355 、199
0.)。
影して、ヒストグラムを得る(S74)。このようにし
て得られたヒストグラムは、図38(h)のようにな
る。
が最小になる位置を検出する(S75)。ここで、ヒス
トグラムの垂直方向の軸は、該当する水平位置での微分
画像における画素値の合計が示される。そして、図40
(a)に示すように、ヒストグラムを左右に分割するよ
うな垂直の軸を考え、この軸に添ってヒストグラムを折
り曲げて重ねた時、図40(b)に示すように、対応す
る縦軸の値の差の2乗和が最小となるような軸の位置を
探し、これをもって顔の中心軸(図40(c))を表す
ものとする。
いて、図41のフローチャートおよび図42を参照しな
がら以下に説明する。
共に、入力カラー画像を濃淡画像に変換する(S8
2)。ここで、顔マスクおよび濃淡画像は、図42
(a)に示す入力カラー画像から生成および変換される
ものであり、図42(c)に示すように、顔マスクが生
成され、図42(b)に示すような濃淡画像に変換され
る。
向に投影する(S83)。すなわち、顔マスク内のみ濃
淡画像を水平方向に探索し、図42(d)に示すような
輝度値の平均値を投影したヒストグラムを生成する。
る(S84)。つまり、図42(e)に示すような生成
されたヒストグラムの解像度を低下させたヒストグラム
を生成する。
近のピーク位置を探す(S85)。例えば図42(e)
において、ヒストグラムのピーク位置42aが探索され
る。
る(S86)。ここで、ピークが存在しない場合、ヒス
トグラムの中央を鼻の垂直位置とする(S88)。
ると判定されれば、S85で検出された、ピーク位置に
対応する元解像度のヒストグラム位置の近辺を探索し、
そのピーク位置を鼻の垂直位置とする(S87)。
解像度ヒストグラムで検出されたピーク位置に対応する
元解像度ヒストグラムの位置の近傍を探索し、ピークを
探す。すなわち、図42(f)において、ヒストグラム
のピーク位置42bが探索される。このピーク位置42
bをもって、図42(g)に示すように、鼻の垂直位置
42cとする。
いて、図43のフローチャートおよび図44を参照しな
がら以下に説明する。
(S91)。この水平方向のヒストグラム生成は、前述
の図41に示すフローチャートで示した方法と同じ方法
で行われる。生成された水平方向のヒストグラムは、図
44(a)に示すようになる。
上を探索し、深いほうから2つの谷を見つける(S9
2)。
する(S93)。ここで、谷が2つ見つかれば、2つの
谷のうち下の方を目の垂直位置として選択する(S9
4)。すなわち、生成された水平方向のヒストグラムに
て、図41に示すフローチャートによって検出された鼻
の垂直位置、図44(a)に示す位置44aより上方位
置の範囲44bを探索し、図44(b)に示すように、
深いほうから谷を2つ検出する(谷44c,谷44
d)。谷が2つ見つかった場合、この2つの谷のうち、
下方の谷44cを目の垂直位置とする。
れば、さらに谷が1つだけ見つかったか否かを判定する
(S95)。ここで、谷が1つだけみつかれば、見つか
った谷を目の垂直位置とする(S96)。すなわち、谷
が1つだけ見つかった場合は、その谷を目の垂直位置と
する。
らなかった場合、鼻の垂直位置からヒストグラムの上端
の中央を目の垂直位置とする(S97)。すなわち、谷
が1つも見つからない場合は、鼻の垂直位置とヒストグ
ラムの上端との中央を目の垂直位置とする。つまり、図
44(c)における目の垂直位置44eとなる。
ついて、図45のフローチャートおよび図46を参照し
ながら以下に説明する。
(S101)。この水平方向のヒストグラム生成は、前
述の図41に示すフローチャートで示した方法と同じ方
法で行われる。生成された水平方向のヒストグラムは、
図46(a)に示すようになる。
を探索し、深いほうから3つの谷を見つける(S10
2)。
する(S103)。ここで、谷が3つ見つかった場合、
真ん中の谷位置を口の垂直位置とする(S104)。
ムにて、すでに検出されている鼻の垂直位置46aより
下方の範囲46bを探索し、図46(b)に示すよう
に、深いほうから谷位置46c〜46eの3つを検出す
る。谷が3つ見つかった場合、真ん中の谷位置46d
を、口の垂直位置とする。図46(c)における口の垂
直位置46fとなる。
ば、谷が2つみつかったか否かを判定する(S10
5)。ここで、谷が2つみつかった場合、2つの谷位置
での顔マスクの幅の比が特定の値を超えたか否かを判定
する(S106)。
定の値を超えていなければ、2つの谷のうち、下方の谷
位置を口の垂直位置とする(S108)。
比が特定の値を超えていれば、2つの谷のうち上方の谷
位置を口の垂直位置とする(S107)。
は、まず、図46(d)に示すように、2つの谷位置に
おける顔マスクの幅46g,46hを検出する。上の谷
位置での顔マスクの幅46gに対する、下の谷位置での
顔マスクの幅46hの比を求め、その値が一定の値(例
えば、0.7など)を超えた場合、2つの谷のうち上方
の谷位置を口の垂直位置とする。そうでない場合は、下
方の谷位置を口の垂直位置とする。
らない場合、谷が1つ見つかったか否かが判定される
(S109)。ここで、谷が1つ見つかった場合、見つ
かった谷を口の垂直位置とする(S110)。また、谷
が1つも見つからない場合、鼻の垂直位置からヒストグ
ラムの下端の中央を口の垂直位置とする(S111)。
顔マスク47a、目の垂直位置47b、口の垂直位置4
7cが得られる。このように、目の垂直位置から口の垂
直位置まで順に、水平に画素を探索して顔マスク47a
の幅を求める。当該区間における顔マスク47aの幅の
中央値をもって、顔の幅47dとする。
心軸、目・口の垂直位置より目〜口の高さ、顔の幅が検
出された後、これらの情報を用い、顔のサイズ、水平位
置、垂直位置がバランスよく収まるように顔が含まれる
ように、原画像から画像の一部を矩形状に切り出す処理
の流れについて、図48のフローチャートを参照しなが
ら以下に説明するまず、横幅の計測に失敗していないか
否かを判定する(S121)。すなわち、はじめに顔の
横幅が信用できるかどうかの判定を行なう。上述したよ
うに、目の垂直位置から口の垂直位置まで順に、水平に
画素を探索することによって顔の横幅を検出している。
そして、前述したように、顔の中心軸も得られており、
当該中心軸より左側を左顔幅、右側を右顔幅とする。
は、左顔幅、右顔幅が0ではないことを確認することに
よって判定することができる。
ないと判定されれば、左右の比率があまりにも大き過ぎ
ないか否かを判定する(S122)。すなわち、左顔幅
と右顔幅の比率を計算し、この比率が予め設定したしき
い値の範囲内に入っているか否かを確認する。
合、すなわち、左右の顔幅の比率が予め設定されたしき
い値の範囲内に入っている場合、目〜口高さとユーザ指
定の比が大き過ぎないか否かを判定する(S123)。
きるとした場合に、次に検出した目〜口の高さが信用で
きるか否かの判定を行なう。この判定方法として、例え
ば検出した目〜口高さと入力画像から抽出された抽出画
像の高さとの比率を計算し、この比率が予め設定したし
きい値の範囲内に入っていることを確認する。
ると判定された場合、目〜口高さおよび顔幅の重み付き
平均から切り出し矩形を決定する(S124)。すなわ
ち、顔の横幅及び目〜口の高さの両方が信用できる場合
には、両方の値から切り出し矩形を決定する。具体的に
は、まず検出した顔の中心軸及び検出した鼻の垂直位置
を基準点とする。次に顔の横幅及び目〜口の高さに予め
設定した倍率を掛けて重み付き相加平均を計算する。基
準点から上下左右それぞれの方向に対し予め設定した倍
率を先ほど計算した平均に掛けた長さを取り、それによ
り得られる矩形を切り出し矩形とする。
きないと判定された場合、横幅のみから切り出し矩形を
決定する(S125)。すなわち、目〜口高さの比率が
しきい値の範囲外であった場合には検出した目及び口の
垂直位置(及び目〜口の高さ)は信用できないとし、顔
の横幅から切り出し矩形を決定する。具体的には、検出
した顔の中心軸及びユーザ指定により得られる矩形の縦
方向の中心を基準点とし、上下左右それぞれの方向に対
し予め設定した倍率を顔の横幅に掛けた長さを取り、そ
れにより得られる矩形を切り出し矩形とする。
合、あるいはS122で左右の比率がしきい値の範囲外
であった場合には、推定した顔の横幅は信用できないと
し、検出した目〜口の高さより切り出し矩形を決定する
(S126)。具体的には、検出した顔の中心線及び検
出した鼻の位置を基準点とし、上下左右それぞれの方向
に対し予め設定した倍率を目〜口の高さに掛けた長さを
取り、それにより得られる矩形を切り出し矩形とする。
た切り出し矩形と設定領域矩形の比率が大き過ぎないか
否かを判定する(S127)。すなわち、切り出し矩形
のサイズと設定領域矩形から求められる矩形サイズの比
率を計算し、この比率が予め設定したしきい値の範囲内
に入っているか否かを判定する。ここで、設定領域矩形
とは、前記実施の形態1の画像処理装置にて目的物体1
35に対して得られる物体領域136に相当するもので
ある。
入っている場合には、処理を終了する。
囲内に入っていなかった場合には、切り出し矩形は適当
でないとし、設定領域矩形から切り出し矩形を決定する
(S128)。具体的には、設定領域矩形の中心を基準
点とし、この基準点から上下左右それぞれの方向に対し
予め設定した倍率を当該矩形の縦の長さに掛けた長さを
取り、それにより得られる矩形を切り出し矩形とする。
とした場合、人物の写った写真等の画像から、所望する
人間の画像をバランス良く抽出することができる。この
とき、人間の顔領域から得られる画像情報に基づいて該
顔領域を抽出することにより、正確、かつ迅速に顔領域
を抽出することができる。
のように、外部から取得した画像から抽出対象となる特
定物体領域を含む部分画像を抽出する画像処理装置にお
いて、互いに排他である2つの仮想領域を取得画像中に
設定し、これら仮想領域間の分離度に基づいて上記部分
画像を抽出する画像抽出処理手段を有している構成であ
る。
分離度に基づいて、取得画像から特定物体領域を含む部
分画像を抽出するようになっているので、抽出しようと
する特定物体領域とその他の画像領域とを明確に区別す
ることができる。すなわち、2つの仮想領域間の分離度
を求めることで、該仮想領域内に特定物体領域が含まれ
た状態を検出することができる。
含まれたことを検出した場合に、この仮想領域を含むよ
うな画像を、部分画像とすれば、必然的に特定物体領域
は部分画像中でバランス良く配置された状態となる。
れば、特定物体領域を抽出する部分画像中にバランス良
く配置した状態で、確実に、かつ高速に該部分画像を抽
出することができるという効果を奏する。
は、例えば請求項2の発明の画像処理装置が適用され
る。
は、以上のように、請求項1の構成に加えて、上記画像
抽出処理手段は、取得された画像中の互いに排他である
2つの仮想領域を設定する領域設定手段と、上記各仮想
領域内の画像情報を取得する画像情報取得手段と、上記
画像情報から上記の2つの仮想領域間の分離度を算出す
る算出手段と、得られた分離度に基づいて取得画像中に
存在する特定物体領域を、その中に含むように画像の一
部を抽出する画像抽出手段とを含む構成である。
域を抽出するためには、例えば請求項3の発明の画像処
理装置が適用される。
は、以上のように、請求項2の構成に加えて、画像抽出
手段は、特定物体領域を含むように抽出した部分画像に
対して、該部分画像の一部にさらに仮想領域を設定し、
この仮想領域内の画像情報を取得し、この画像情報に基
づいて、上記特定物体領域を含み、かつ上記部分画像よ
りも小さい領域を抽出する構成である。
画像処理装置に記載のように画素の分布情報としても良
い。この場合、請求項4の画像処理装置は、以上のよう
に、請求項3の構成に加えて、取得した画像情報を画素
の分布情報とした場合、この分布情報から確率密度関数
を求め、得られた確率密度関数を上記部分画像に適用す
ることで、上記特定物体領域を含み、かつ上記部分画像
よりも小さい領域を抽出する構成である。
以上のように、請求項1ないし4のいずれかの構成に加
えて、特定物体領域が人間の顔領域である構成である。
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができるという効果を奏する。
以上のように、請求項5の構成に加えて、画像抽出手段
は、抽出された人間の顔領域内部の画像情報を取得する
手段と、上記画像情報より、顔の幅、左右の対称軸、
目、鼻、口の垂直位置からなる数値情報を検出する手段
とを含み、上記数値情報に基づいて、上記顔領域に含ま
れる顔部分が一定の大きさおよび位置になるように、取
得画像の一部を抽出する構成である。
以上のように、請求項1の構成に加えて、取得画像中の
任意の1点を指定する点指定手段を有し、画像抽出処理
手段は、上記点指定手段により取得画像中に存在する特
定物体領域の中央の1点が指定された場合、この指定点
を中に含むような第1の仮想領域と、この第1の仮想領
域と排他的な第2の仮想領域とを設定する領域設定手段
と、これら2つの仮想領域に含まれる画像情報に基づい
て、該2つの仮想領域間の分離度を算出する算出手段
と、上記2つの仮想領域の大きさを逐次変更することに
よって得られる分離度の系列から、取得画像中に存在
し、かつ点指定手段によって指定された点をその中央に
含むような特定物体領域を、その中央に含むように画像
の一部を抽出する画像抽出手段とを含む構成である。
物体領域の中央の1点が指定され、この点に基づいて仮
想領域が設定されるので、仮想領域間の分離度の計算が
少なくて済む。この結果、部分画像の抽出にかかる時間
を大幅に短縮させることができるという効果を奏する。
以上のように、請求項7の構成に加えて、画像抽出手段
は、特定物体領域を含むように抽出した部分画像に対し
て、該部分画像の一部に仮想領域を設定し、この仮想領
域内の画像情報を取得し、この画像情報に基づいて、上
記特定物体領域を含み、かつ上記部分画像よりも小さい
領域を抽出する構成である。
画像が抽出され、その中から適当なものを選択する必要
があるが、請求項8の構成によれば、点指定手段によっ
て特定物体領域の一点が指定され、この指定された点に
基づいて部分画像が抽出されるようになるので、部分画
像から確実に特定物体領域を抽出することができるとい
う効果を奏する。
画像処理装置に記載のように画素の分布情報としても良
い。この場合、請求項9の発明の画像処理装置は、以上
のように、請求項8の構成に加えて、取得した画像情報
を画素の分布情報とした場合、この分布情報から確率密
度関数を求め、得られた確率密度関数を上記部分画像に
適用することで、上記特定物体領域を含み、かつ上記部
分画像よりも小さい領域を抽出する構成である。
は、以上のように、請求項7ないし9のいずれかの構成
に加えて、特定物体領域が人間の顔領域である構成であ
る。
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができるという効果を奏する。
一点が指定されているので、確実に一つの人間の顔領域
を抽出することができるという効果を奏する。
は、以上のように、請求項10の構成に加えて、画像抽
出手段は、抽出された人間の顔領域内部の画像情報を取
得する手段と、上記画像情報より、顔の幅、左右の対称
軸、目、鼻、口の垂直位置からなる数値情報を検出する
手段とを含み、上記数値情報に基づいて、上記顔領域に
含まれる顔部分が一定の大きさおよび位置になるよう
に、取得画像の一部を抽出する構成である。
間の顔領域からポートレート画像を抽出する場合、確実
に一つのポートレート画像を抽出することができるとい
う効果を奏する。
のように、請求項7の構成に加えて、画像抽出処理手段
は、上記点指定手段により取得画像中に存在する特定物
体領域の中央でない位置に点が指定された場合、設定さ
れる仮想領域の大きさと位置、あるいは仮想領域の大き
さ、位置と形状を逐次更新することによって得られる分
離度の系列から、取得画像中に存在し、かつ点指定手段
によって指定された点をその中に含むような特定物体領
域を、その中に含むように画像の一部を抽出する構成で
ある。
領域の中心位置とがほぼ同位置にある場合には、点指定
手段により特定物体領域のほぼ中央に点を指定しても問
題はないが、仮想領域の中心位置と特定物体領域の中心
位置とが大きくずれている場合には、特定物体領域の中
央に点を指定してもうまく仮想領域が設定されないの
で、誤った特定物体領域を抽出してしまう虞がある。
ば、請求項7の作用に加えて、点指定手段により取得画
像中に存在する特定物体領域の中央でない位置に点を指
定することにより、仮想領域の中心と特定物体領域の中
心位置がずれた場合でも確実に特定物体領域を抽出する
ことができるという効果を奏する。
は、以上のように、請求項12の構成に加えて、画像抽
出手段は、特定物体領域を含むように抽出した部分画像
に対して、該部分画像の一部に仮想領域を設定し、この
仮想領域内の画像情報を取得し、この画像情報に基づい
て、上記特定物体領域を含み、かつ上記部分画像よりも
小さい領域を抽出する構成である。
は、以上のように、請求項13の構成に加えて、画像抽
出手段は、上記取得した画像情報を画素の分布情報とし
た場合、この分布情報から確率密度関数を求め、得られ
た確率密度関数を上記部分画像に適用することで、上記
特定物体領域を含み、かつ上記部分画像よりも小さい領
域を抽出する構成である。
は、以上のように、請求項12ないし14のいずれかの
構成に加えて、特定物体領域が人間の顔領域である構成
である。
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができるという効果を奏する。
一点が特定物体領域の中央よりもずれた位置に指定され
るので、特定物体領域の中心と抽出対象となっている部
分画像の中心とが大きくずれていても、誤りなく特定物
体領域である人間の顔領域を抽出することができるとい
う効果を奏する。
は、以上のように、請求項15の構成に加えて、画像抽
出手段は、抽出された人間の顔領域内部の画像情報を取
得する手段と、上記画像情報より、顔の幅、左右の対称
軸、目、鼻、口の垂直位置からなる数値情報を検出する
手段とを含み、上記数値情報に基づいて、上記顔領域に
含まれる顔部分が一定の大きさおよび位置になるよう
に、取得画像の一部を抽出する構成である。
間の顔領域からポートレート画像を抽出する場合、確実
に一つのポートレート画像を抽出することができるとい
う効果を奏する。
は、以上のように、請求項1の構成に加えて、画像抽出
処理手段は、取得画像を記憶する記憶手段を含み、取得
画像が一連の電子画像系列からなる動画像である場合、
記憶手段に記憶された系列中の特定の一枚の画像を注目
画像として読み出し、この注目画像中に存在する特定物
体領域をその中に含むように、画像の一部を抽出すると
共に、上記注目画像に対して2つの仮想領域からなる1
組のウィンドウを設定し、この1組のウィンドウ内の画
像情報を次の系列の取得画像に対する初期値として仮想
領域の大きさ、位置を様々に変化させて得られる種々の
画像情報から、最も適当な1組のウィンドウを決定する
構成である。
列的に特定物体領域をバランス良く配置した部分画像を
抽出するようになるので、動画像中の特定物体領域を追
跡することが可能となる。
は、以上のように、請求項17の構成に加えて、画像抽
出手段は、特定物体領域を含むように抽出した部分画像
に対して、該部分画像の一部にさらに仮想領域を設定
し、この仮想領域内の画像情報を取得し、この画像情報
に基づいて、上記特定物体領域を含み、かつ上記部分画
像よりも小さい領域を抽出する構成である。
は、以上のように、請求項17または18の構成に加え
て、記憶手段に記憶されている一連の電子画像の中の特
定物体領域が人間の顔領域である構成である。
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができるという効果を奏する。
は、以上のように、請求項17の構成に加えて、取得画
像中の任意の1点を指定する点指定手段が設けられ、上
記画像抽出処理手段は、取得画像を記憶する記憶手段
と、取得画像が一連の電子画像系列からなる動画像であ
り、かつ上記記憶手段に記憶された系列中の特定の一枚
の画像を注目画像として読み出し、この注目画像中に存
在する特定物体領域の中央が上記点指定手段により指定
された場合、この指定点を中に含むような第1の仮想領
域と、この第1の仮想領域と排他的な第2の仮想領域と
を設定する手段と、これら2つの仮想領域に含まれる画
像情報に基づいて、該特定物体領域と2つの仮想領域間
の分離度を算出する手段と、上記2つの仮想領域の大き
さを逐次変更することによって得られる分離度の系列か
ら、取得画像中に存在し、かつ点指定手段によって指定
された点をその中央に含むような特定物体領域を、その
中央に含むように画像の一部を抽出する手段とを有し、
上記の2つの仮想領域の画素値を次の系列の取得画像に
対する初期値として仮想領域の大きさ、位置を様々に変
化させて得られる種々の画像情報から、最も適当な1組
のウィンドウを決定する構成である。
定物体領域の中央の1点が指定され、この点に基づいて
仮想領域が設定されるので、仮想領域間の分離度の計算
が少なくて済む。この結果、部分画像の抽出にかかる時
間を大幅に短縮させることができるという効果を奏す
る。
は、以上のように、請求項20の構成に加えて、画像抽
出手段は、特定物体領域を含むように抽出した部分画像
に対して、該部分画像の一部にさらに仮想領域を設定
し、この仮想領域内の画像情報を取得し、この画像情報
に基づいて、上記特定物体領域を含み、かつ上記部分画
像よりも小さい領域を抽出する構成である。
定物体領域を含むように抽出した部分画像に対して、該
部分画像の一部にさらに仮想領域を設定し、この仮想領
域内の画像情報を取得し、この画像情報に基づいて、上
記特定物体領域を含み、かつ上記部分画像よりも小さい
領域を抽出するようになっているので、部分画像から特
定物体領域を確実に抽出することができ、この結果、特
定物体領域の追跡をさらに正確に行うことができるとい
う効果を奏する。
は、以上のように、請求項20または21の構成に加え
て、上記記憶手段に記憶されている一連の電子画像の中
の特定物体領域が人間の顔領域である構成である。
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができるという効果を奏する。
は、以上のように、請求項17の構成に加えて、取得画
像中の任意の1点を指定する点指定手段が設けられ、画
像抽出処理手段は、取得画像を記憶する記憶手段と、取
得画像が一連の電子画像系列からなる動画像であり、か
つ記憶手段に記憶された系列中の特定の一枚の画像を注
目画像として読み出し、この注目画像中に存在する特定
物体領域の任意の一点が上記点指定手段により指定され
た場合、この指定点を中に含むような第1の仮想領域
と、この第1の仮想領域と排他的な第2の仮想領域とを
設定する手段と、これら2つの仮想領域に含まれる画像
情報に基づいて、該特定物体領域と2つの仮想領域間の
分離度を算出する手段と、上記2つの仮想領域の大きさ
を逐次変更することによって得られる分離度の系列か
ら、取得画像中に存在し、かつ点指定手段によって指定
された点をその中央に含むような特定物体領域を、その
中央に含むように画像の一部を抽出する手段とを有し、
上記の2つの仮想領域の画素値を次の系列の取得画像に
対する初期値として仮想領域の大きさ、位置を様々に変
化させて得られる種々の画像情報から、最も適当な1組
のウィンドウを決定する構成である。
指定手段により取得画像中に存在する特定物体領域の中
央でない位置に点を指定することにより、仮想領域の中
心と特定物体領域の中心位置がずれた場合でも確実に特
定物体領域を抽出することができるので、動画像中の特
定物体領域を含む部分画像の追跡を正確に行うことがで
きるという効果を奏する。
は、以上のように、請求項23の構成に加えて、画像抽
出手段は、上記取得した画像情報を画素の分布情報とし
た場合、この分布情報から確率密度関数を求め、得られ
た確率密度関数を上記部分画像に適用することで、上記
特定物体を含み、かつ上記部分画像よりも小さい領域を
抽出する構成である。
は、以上のように、請求項23の構成に加えて、画像抽
出手段は、特定物体領域を含むように抽出した部分画像
に対して、該部分画像の一部にさらに仮想領域を設定
し、この仮想領域内の画像情報を取得し、この画像情報
に基づいて、上記特定物体領域を含み、かつ上記部分画
像よりも小さい領域を抽出する構成である。
は、以上のように、請求項23ないし25のいずれかの
構成に加えて、記憶手段に記憶されている一連の電子画
像の中の特定物体領域が人間の顔領域である構成であ
る。
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができるという効果を奏する。
は、以上のように、請求項26の構成に加えて、上記画
像抽出手段は、抽出された人間の顔領域内部の画像情報
を取得する手段と、上記画像情報より、顔の幅、左右の
対称軸、目、鼻、口の垂直位置からなる数値情報を検出
する手段とを含み、上記数値情報に基づいて、上記顔領
域に含まれる顔部分が一定の大きさおよび位置になるよ
うに、取得画像の一部を抽出する構成である。
は、上述した請求項1ないし27までの各手段の他に、
コンピュータで読み取り可能な記録媒体に本願発明の画
像抽出処理を実行するためのプログラムを記録しても良
い。
取り可能な記録媒体は、以上のように、取得画像中の互
いに排他である2つの仮想領域を該取得画像中に設定
し、これら仮想領域内の画像情報に基づいて上記特定物
体領域を抽出する処理をコンピュータに実行させるため
の画像抽出処理プログラムを記録した構成である。
可能な記録媒体は、以上のように、取得された画像中の
互いに排他である2つの仮想領域を設定し、設定された
各仮想領域内の画像情報を取得し、取得された画像情報
から上記の2つの仮想領域間の分離度を算出し、得られ
た分離度に基づいて取得画像中に存在する特定物体領域
をその中に含むように画像の一部を抽出する処理をコン
ピュータに実行させるための画像抽出処理プログラムを
記録した構成である。
可能な記録媒体は、以上のように、取得画像中に存在す
る特定物体領域の中央の1点が指定された場合、この指
定点を中に含むような第1の仮想領域と、この第1の仮
想領域と排他的な第2の仮想領域とを設定し、設定され
た2つの仮想領域に含まれる画像情報に基づいて、該2
つの仮想領域間の分離度を算出し、上記2つの仮想領域
の大きさを逐次変更することによって得られる分離度の
系列から、取得画像中に存在し、かつ指定された点をそ
の中央に含むような特定物体領域を、その中央に含むよ
うに画像の一部を抽出する処理をコンピュータに実行さ
せるための画像抽出処理プログラムを記録した構成であ
る。
可能な記録媒体は、以上のように、取得画像中に存在す
る特定物体領域の中央でない位置に点が指定された場
合、設定される仮想領域の大きさと位置、あるいは仮想
領域の大きさ、位置と形状を逐次更新することによって
得られる分離度の系列から、取得画像中に存在し、かつ
指定された点をその中に含むような特定物体領域を、そ
の中に含むように画像の一部を抽出する処理をコンピュ
ータに実行させるための画像抽出処理プログラムを記録
した構成である。
可能な記録媒体は、以上のように、記憶された取得画像
が一連の電子画像系列からなる動画像である場合、記憶
された画像系列中の特定の一枚の画像を注目画像として
読み出し、この注目画像中に存在する特定物体領域をそ
の中に含むように、画像の一部を抽出すると共に、上記
注目画像に対して2つの仮想領域からなる1組のウィン
ドウを設定し、この1組のウィンドウ内の画像情報を次
の系列の取得画像に対する初期値として仮想領域の大き
さ、位置を様々に変化させて得られる種々の画像情報か
ら、最も適当な1組のウィンドウを決定する処理をコン
ピュータに実行させるための画像抽出処理プログラムを
記録した構成である。
可能な記録媒体は、以上のように、記憶された取得画像
が一連の電子画像系列からなる動画像であり、かつ上記
記憶手段に記憶された系列中の特定の一枚の画像を注目
画像として読み出し、この注目画像中に存在する特定物
体領域の中央が指定された場合、この指定点を中に含む
ような第1の仮想領域と、この第1の仮想領域と排他的
な第2の仮想領域とを設定し、これら2つの仮想領域か
らなる1組のウィンドウに含まれる画像情報に基づい
て、該特定物体領域と2つの仮想領域間の分離度を算出
し、上記2つの仮想領域の大きさを逐次変更することに
よって得られる分離度の系列から、取得画像中に存在
し、かつ点指定手段によって指定された点をその中央に
含むような特定物体領域を、その中央に含むように画像
の一部を抽出すると共に、上記注目画像に対して2つの
仮想領域からなる1組のウィンドウを設定し、この1組
のウィンドウ内の画像情報を次の系列の取得画像に対す
る初期値として仮想領域の大きさ、位置を様々に変化さ
せて得られる種々の画像情報から、最も適当な1組のウ
ィンドウを決定する処理をコンピュータに実行させるた
めの画像抽出処理プログラムを記録した構成である。
り可能な記録媒体は、以上のように、記憶された取得画
像が一連の電子画像系列からなる動画像であり、かつ上
記電子画像系列中の特定の一枚の画像を注目画像として
読み出し、この注目画像中に存在する特定物体領域の任
意の一点が指定された場合、この指定点を中に含むよう
な第1の仮想領域と、この第1の仮想領域と排他的な第
2の仮想領域とを設定し、これら2つの仮想領域に含ま
れる画像情報に基づいて、該特定物体領域と2つの仮想
領域間の分離度を算出し、上記2つの仮想領域の大きさ
を逐次変更することによって得られる分離度の系列か
ら、取得画像中に存在し、かつ点指定手段によって指定
された点をその中央に含むような特定物体領域を、その
中央に含むように画像の一部を抽出すると共に、上記注
目画像に対して2つの仮想領域からなる1組のウィンド
ウを設定し、この1組のウィンドウ内の画像情報を次の
系列の取得画像に対する初期値として仮想領域の大き
さ、位置を様々に変化させて得られる種々の画像情報か
ら、最も適当な1組のウィンドウを決定する処理をコン
ピュータに実行させるための画像抽出処理プログラムを
記録した構成である。
流れを示すフローチャートである。
概略ブロック図である。
詳細を示す説明図である。
詳細を示す説明図である。
用されるウィンドウを示す説明図である。
用されるウィンドウを示す説明図である。
て、(a)は矩形状のウィンドウを示し、(b)は楕円
形状のウィンドウを示し、(c)は自動車形状のウィン
ドウを示した説明図である。
(a)は取得画像を示し、(b)は(a)に示す取得画
像から抽出した抽出対象画像を示す説明図である。
る。
ウィンドウサイズと分離度との関係を示したグラフであ
る。
離度計測プロセスを示す説明図である。
である。
ラフである。
(a)は取得画像を示し、(b)は(a)に示す取得画
像から抽出した抽出対象画像を示す説明図である。
図である。
像から特定物体領域を抽出するための処理を示す説明図
である。
規確率密度関数を示すグラフである。
た内容をコンピュータで読み取れるようなプログラムと
して記録した記録媒体の説明図である。
略構成図である。
抽出対象画像の抽出処理の説明図である。
抽出対象画像の抽出処理の説明図である。
合のウィンドウの拡大処理を示す説明図である。
ずらしながら分離度測定プロセスを実行した場合の説明
図である。
を示したグラフである。
を示したグラフである。
抽出処理の流れを示すフローチャートである。
ある。
ある。
出するためのサブルーチンを示すフローチャートであ
る。
出するためのサブルーチンを示すフローチャートであ
る。
を抽出した画像を作成する例を示す説明図であり、
(a)は人物顔が写っている画像を示し、(b)は肌部
分のみを抽出した画像を示す説明図である。
を示したものであって、(a)は色相のヒストグラムで
あり、(b)は彩度のヒストグラムであり、(c)は明
度のヒストグラムである。
チャートである。
された状態を示す説明図である。
示した入力画像の明度と頻度との関係を示した説明図で
ある。
より顔の肌部分のみを抽出した画像を作成する例を示す
説明図である。
ートである。
示す説明図である。
ーチャートである。
理の説明図である。
ローチャートである。
処理の説明図である。
ローチャートである。
処理の説明図である。
ローチャートである。
処理の説明図である。
る。
理の流れを示すフローチャートである。
理プログラム) 17b 顔パラメータ検出処理用プログラム(画像抽
出処理プログラム) 17c 領域抽出処理用プログラム(画像抽出処理プ
ログラム) 21 座標指定装置(点指定手段)
Claims (34)
- 【請求項1】外部から取得した画像から抽出対象となる
特定物体領域を含む部分画像を抽出する画像処理装置に
おいて、 互いに排他である2つの仮想領域を取得画像中に設定
し、これら仮想領域間の分離度に基づいて上記部分画像
を抽出する画像抽出処理手段を有していることを特徴と
する画像処理装置。 - 【請求項2】上記画像抽出処理手段は、 取得された画像中の互いに排他である2つの仮想領域を
設定する領域設定手段と、 上記各仮想領域内の画像情報を取得する画像情報取得手
段と、 上記画像情報から上記の2つの仮想領域間の分離度を算
出する算出手段と、 得られた分離度に基づいて取得画像中に存在する特定物
体領域をその中に含むように画像の一部を抽出する画像
抽出手段と、を含むことを特徴とする請求項1記載の画
像処理装置。 - 【請求項3】上記画像抽出手段は、 特定物体領域を含むように抽出した部分画像に対して、
該部分画像の一部にさらに仮想領域を設定し、この仮想
領域内の画像情報を取得し、この画像情報に基づいて、
上記特定物体領域を含み、かつ上記部分画像よりも小さ
い領域を抽出することを特徴とする請求項2記載の画像
処理装置。 - 【請求項4】上記画像抽出手段は、取得した画像情報を
画素の分布情報とした場合、この分布情報から確率密度
関数を求め、得られた確率密度関数を上記部分画像に適
用することで、上記特定物体領域を含み、かつ上記部分
画像よりも小さい領域を抽出することを特徴とする請求
項3記載の画像処理装置。 - 【請求項5】上記特定物体領域が人間の顔領域であるこ
とを特徴とする請求項1ないし4のいずれかに記載の画
像処理装置。 - 【請求項6】上記画像抽出手段は、 抽出された人間の顔領域内部の画像情報を取得する手段
と、 上記画像情報より、顔の幅、左右の対称軸、目、鼻、口
の垂直位置からなる数値情報を検出する手段とを含み、 上記数値情報に基づいて、上記顔領域に含まれる顔部分
が一定の大きさおよび位置になるように、取得画像の一
部を抽出することを特徴とする請求項5記載の画像処理
装置。 - 【請求項7】取得画像中の任意の1点を指定する点指定
手段を有し、 上記画像抽出処理手段は、 上記点指定手段により取得画像中に存在する特定物体領
域の中央の1点が指定された場合、この指定点を中に含
むような第1の仮想領域と、この第1の仮想領域と排他
的な第2の仮想領域とを設定する領域設定手段と、 これら2つの仮想領域に含まれる画像情報に基づいて、
該2つの仮想領域間の分離度を算出する算出手段と、 上記2つの仮想領域の大きさを逐次変更することによっ
て得られる分離度の系列から、取得画像中に存在し、か
つ点指定手段によって指定された点をその中央に含むよ
うな特定物体領域を、その中央に含むように画像の一部
を抽出する画像抽出手段と、を含むことを特徴とする請
求項1記載の画像処理装置。 - 【請求項8】上記画像抽出手段は、 特定物体領域を含むように抽出した部分画像に対して、
該部分画像の一部に仮想領域を設定し、この仮想領域内
の画像情報を取得し、この画像情報に基づいて、上記特
定物体領域を含み、かつ上記部分画像よりも小さい領域
を抽出することを特徴とする請求項7記載の画像処理装
置。 - 【請求項9】上記画像抽出手段は、取得した画像情報を
画素の分布情報とした場合、この分布情報から確率密度
関数を求め、得られた確率密度関数を上記部分画像に適
用することで、上記特定物体領域を含み、かつ上記部分
画像よりも小さい領域を抽出することを特徴とする請求
項8記載の画像処理装置。 - 【請求項10】上記特定物体領域が人間の顔領域である
ことを特徴とする請求項7ないし9のいずれかに記載の
画像処理装置。 - 【請求項11】上記画像抽出手段は、 抽出された人間の顔領域内部の画像情報を取得する手段
と、 上記画像情報より、顔の幅、左右の対称軸、目、鼻、口
の垂直位置からなる数値情報を検出する手段とを含み、 上記数値情報に基づいて、上記顔領域に含まれる顔部分
が一定の大きさおよび位置になるように、取得画像の一
部を抽出することを特徴とする請求項10記載の画像処
理装置。 - 【請求項12】上記画像抽出処理手段は、 上記点指定手段により取得画像中に存在する特定物体領
域の中央でない位置に点が指定された場合、設定される
仮想領域の大きさと位置、あるいは仮想領域の大きさ、
位置と形状を逐次更新することによって得られる分離度
の系列から、取得画像中に存在し、かつ点指定手段によ
って指定された点をその中に含むような特定物体領域
を、その中に含むように画像の一部を抽出することを特
徴とする請求項7記載の画像処理装置。 - 【請求項13】上記画像抽出手段は、 特定物体領域を含むように抽出した部分画像に対して、
該部分画像の一部に仮想領域を設定し、この仮想領域内
の画像情報を取得し、この画像情報に基づいて、上記特
定物体領域を含み、かつ上記部分画像よりも小さい領域
を抽出することを特徴とする請求項12記載の画像処理
装置。 - 【請求項14】上記画像抽出手段は、取得した画像情報
を画素の分布情報とした場合、この分布情報から確率密
度関数を求め、得られた確率密度関数を上記部分画像に
適用することで、上記特定物体領域を含み、かつ上記部
分画像よりも小さい領域を抽出することを特徴とする請
求項13記載の画像処理装置。 - 【請求項15】上記特定物体領域が人間の顔領域である
ことを特徴とする請求項12ないし14のいずれかに記
載の画像処理装置。 - 【請求項16】上記画像抽出手段は、 抽出された人間の顔領域内部の画像情報を取得する手段
と、 上記画像情報より、顔の幅、左右の対称軸、目、鼻、口
の垂直位置からなる数値情報を検出する手段とを含み、 上記数値情報に基づいて、上記顔領域に含まれる顔部分
が一定の大きさおよび位置になるように、取得画像の一
部を抽出することを特徴とする請求項15記載の画像処
理装置。 - 【請求項17】上記画像抽出処理手段は、取得画像を記
憶する記憶手段を含み、 取得画像が一連の電子画像系列からなる動画像である場
合、記憶手段に記憶された系列中の特定の一枚の画像を
注目画像として読み出し、この注目画像中に存在する特
定物体領域をその中に含むように、画像の一部を抽出す
ると共に、上記注目画像に対して2つの仮想領域からな
る1組のウィンドウを設定し、この1組のウィンドウ内
の画像情報を次の系列の取得画像に対する初期値として
仮想領域の大きさ、位置を様々に変化させて得られる種
々の画像情報から、最も適当な1組のウィンドウを決定
することを特徴とする請求項1記載の画像処理装置。 - 【請求項18】上記画像抽出手段は、特定物体領域を含
むように抽出した部分画像に対して、 該部分画像の一部にさらに仮想領域を設定し、この仮想
領域内の画像情報を取得し、この画像情報に基づいて、
上記特定物体領域を含み、かつ上記部分画像よりも小さ
い領域を抽出することを特徴とする請求項17記載の画
像処理装置。 - 【請求項19】上記記憶手段に記憶されている一連の電
子画像の中の特定物体領域が人間の顔領域であることを
特徴とする請求項17または18記載の画像処理装置。 - 【請求項20】取得画像中の任意の1点を指定する点指
定手段が設けられ、 上記画像抽出処理手段は、 取得画像を記憶する記憶手段と、 取得画像が一連の電子画像系列からなる動画像であり、
かつ上記記憶手段に記憶された系列中の特定の一枚の画
像を注目画像として読み出し、この注目画像中に存在す
る特定物体領域の中央が上記点指定手段により指定され
た場合、この指定点を中に含むような第1の仮想領域
と、この第1の仮想領域と排他的な第2の仮想領域とを
設定する手段と、 これら2つの仮想領域に含まれる画像情報に基づいて、
該特定物体領域と2つの仮想領域間の分離度を算出する
手段と、 上記2つの仮想領域の大きさを逐次変更することによっ
て得られる分離度の系列から、取得画像中に存在し、か
つ点指定手段によって指定された点をその中央に含むよ
うな特定物体領域を、その中央に含むように画像の一部
を抽出する手段とを有し、 上記の2つの仮想領域の画素値を次の系列の取得画像に
対する初期値として仮想領域の大きさ、位置を様々に変
化させて得られる種々の画像情報から、最も適当な1組
のウィンドウを決定することを特徴とする請求項17記
載の画像処理装置。 - 【請求項21】上記画像抽出手段は、特定物体領域を含
むように抽出した部分画像に対して、該部分画像の一部
にさらに仮想領域を設定し、この仮想領域内の画像情報
を取得し、この画像情報に基づいて、上記特定物体領域
を含み、かつ上記部分画像よりも小さい領域を抽出する
ことを特徴とする請求項20記載の画像処理装置。 - 【請求項22】上記記憶手段に記憶されている一連の電
子画像の中の特定物体領域が人間の顔領域であることを
特徴とする請求項20または21記載の画像処理装置。 - 【請求項23】取得画像中の任意の1点を指定する点指
定手段が設けられ、 上記画像抽出処理手段は、 取得画像を記憶する記憶手段と、 取得画像が一連の電子画像系列からなる動画像であり、
かつ記憶手段に記憶された系列中の特定の一枚の画像を
注目画像として読み出し、この注目画像中に存在する特
定物体領域の任意の一点が上記点指定手段により指定さ
れた場合、この指定点を中に含むような第1の仮想領域
と、この第1の仮想領域と排他的な第2の仮想領域とを
設定する手段と、 これら2つの仮想領域に含まれる画像情報に基づいて、
該特定物体領域と2つの仮想領域間の分離度を算出する
手段と、 上記2つの仮想領域の大きさを逐次変更することによっ
て得られる分離度の系列から、取得画像中に存在し、か
つ点指定手段によって指定された点をその中央に含むよ
うな特定物体領域を、その中央に含むように画像の一部
を抽出する手段とを有し、 上記の2つの仮想領域の画素値を次の系列の取得画像に
対する初期値として仮想領域の大きさ、位置を様々に変
化させて得られる種々の画像情報から、最も適当な1組
のウィンドウを決定することを特徴とする請求項17記
載の画像処理装置。 - 【請求項24】上記画像抽出手段は、上記取得した画像
情報を画素の分布情報とした場合、この分布情報から確
率密度関数を求め、得られた確率密度関数を上記部分画
像に適用することで、上記特定物体を含み、かつ上記部
分画像よりも小さい領域を抽出することを特徴とする請
求項23記載の画像処理装置。 - 【請求項25】上記画像抽出手段は、特定物体領域を含
むように抽出した部分画像に対して、該部分画像の一部
にさらに仮想領域を設定し、この仮想領域内の画像情報
を取得し、この画像情報に基づいて、上記特定物体領域
を含み、かつ上記部分画像よりも小さい領域を抽出する
ことを特徴とする請求項23記載の画像処理装置。 - 【請求項26】上記記憶手段に記憶されている一連の電
子画像の中の特定物体領域が人間の顔領域であることを
特徴とする請求項23ないし25のいずれかに記載の画
像処理装置。 - 【請求項27】上記画像抽出手段は、 抽出された人間の顔領域内部の画像情報を取得する手段
と、 上記画像情報より、顔の幅、左右の対称軸、目、鼻、口
の垂直位置からなる数値情報を検出する手段とを含み、 上記数値情報に基づいて、上記顔領域に含まれる顔部分
が一定の大きさおよび位置になるように、取得画像の一
部を抽出することを特徴とする請求項26記載の画像処
理装置。 - 【請求項28】取得画像中の互いに排他である2つの仮
想領域を該取得画像中に設定し、これら仮想領域内の画
像情報に基づいて上記特定物体領域を抽出する処理をコ
ンピュータに実行させるための画像抽出処理プログラム
を記録したことを特徴とするコンピュータ読み取り可能
な記録媒体。 - 【請求項29】取得された画像中の互いに排他である2
つの仮想領域を設定し、設定された各仮想領域内の画像
情報を取得し、取得された画像情報から上記の2つの仮
想領域間の分離度を算出し、得られた分離度に基づいて
取得画像中に存在する特定物体領域をその中に含むよう
に画像の一部を抽出する処理をコンピュータに実行させ
るための画像抽出処理プログラムを記録したことを特徴
とするコンピュータ読み取り可能な記録媒体。 - 【請求項30】取得画像中に存在する特定物体領域の中
央の1点が指定された場合、この指定点を中に含むよう
な第1の仮想領域と、この第1の仮想領域と排他的な第
2の仮想領域とを設定し、設定された2つの仮想領域に
含まれる画像情報に基づいて、該2つの仮想領域間の分
離度を算出し、上記2つの仮想領域の大きさを逐次変更
することによって得られる分離度の系列から、取得画像
中に存在し、かつ指定された点をその中央に含むような
特定物体領域を、その中央に含むように画像の一部を抽
出する処理をコンピュータに実行させるための画像抽出
処理プログラムを記録したことを特徴とするコンピュー
タ読み取り可能な記録媒体。 - 【請求項31】取得画像中に存在する特定物体領域の中
央でない位置に点が指定された場合、設定される仮想領
域の大きさと位置、あるいは仮想領域の大きさ、位置と
形状を逐次更新することによって得られる分離度の系列
から、取得画像中に存在し、かつ指定された点をその中
に含むような特定物体領域を、その中に含むように画像
の一部を抽出する処理をコンピュータに実行させるため
の画像抽出処理プログラムを記録したことを特徴とする
コンピュータ読み取り可能な記録媒体。 - 【請求項32】記憶された取得画像が一連の電子画像系
列からなる動画像である場合、記憶された画像系列中の
特定の一枚の画像を注目画像として読み出し、この注目
画像中に存在する特定物体領域をその中に含むように、
画像の一部を抽出すると共に、上記注目画像に対して2
つの仮想領域からなる1組のウィンドウを設定し、この
1組のウィンドウ内の画像情報を次の系列の取得画像に
対する初期値として仮想領域の大きさ、位置を様々に変
化させて得られる種々の画像情報から、最も適当な1組
のウィンドウを決定する処理をコンピュータに実行させ
るための画像抽出処理プログラムを記録したことを特徴
とするコンピュータ読み取り可能な記録媒体。 - 【請求項33】記憶された取得画像が一連の電子画像系
列からなる動画像であり、かつ上記記憶手段に記憶され
た系列中の特定の一枚の画像を注目画像として読み出
し、この注目画像中に存在する特定物体領域の中央が指
定された場合、この指定点を中に含むような第1の仮想
領域と、この第1の仮想領域と排他的な第2の仮想領域
とを設定し、これら2つの仮想領域からなる1組のウィ
ンドウに含まれる画像情報に基づいて、該特定物体領域
と2つの仮想領域間の分離度を算出し、上記2つの仮想
領域の大きさを逐次変更することによって得られる分離
度の系列から、取得画像中に存在し、かつ点指定手段に
よって指定された点をその中央に含むような特定物体領
域を、その中央に含むように画像の一部を抽出すると共
に、上記注目画像に対して2つの仮想領域からなる1組
のウィンドウを設定し、この1組のウィンドウ内の画像
情報を次の系列の取得画像に対する初期値として仮想領
域の大きさ、位置を様々に変化させて得られる種々の画
像情報から、最も適当な1組のウィンドウを決定する処
理をコンピュータに実行させるための画像抽出処理プロ
グラムを記録したことを特徴とするコンピュータ読み取
り可能な記録媒体。 - 【請求項34】記憶された取得画像が一連の電子画像系
列からなる動画像であり、かつ上記電子画像系列中の特
定の一枚の画像を注目画像として読み出し、この注目画
像中に存在する特定物体領域の任意の一点が指定された
場合、この指定点を中に含むような第1の仮想領域と、
この第1の仮想領域と排他的な第2の仮想領域とを設定
し、これら2つの仮想領域に含まれる画像情報に基づい
て、該特定物体領域と2つの仮想領域間の分離度を算出
し、上記2つの仮想領域の大きさを逐次変更することに
よって得られる分離度の系列から、取得画像中に存在
し、かつ点指定手段によって指定された点をその中央に
含むような特定物体領域を、その中央に含むように画像
の一部を抽出すると共に、上記注目画像に対して2つの
仮想領域からなる1組のウィンドウを設定し、この1組
のウィンドウ内の画像情報を次の系列の取得画像に対す
る初期値として仮想領域の大きさ、位置を様々に変化さ
せて得られる種々の画像情報から、最も適当な1組のウ
ィンドウを決定する処理をコンピュータに実行させるた
めの画像抽出処理プログラムを記録したことを特徴とす
るコンピュータ読み取り可能な記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP10160098A JP3549725B2 (ja) | 1998-04-13 | 1998-04-13 | 画像処理装置 |
US09/286,475 US6332038B1 (en) | 1998-04-13 | 1999-04-06 | Image processing device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP10160098A JP3549725B2 (ja) | 1998-04-13 | 1998-04-13 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11296659A true JPH11296659A (ja) | 1999-10-29 |
JP3549725B2 JP3549725B2 (ja) | 2004-08-04 |
Family
ID=14304892
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP10160098A Expired - Fee Related JP3549725B2 (ja) | 1998-04-13 | 1998-04-13 | 画像処理装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6332038B1 (ja) |
JP (1) | JP3549725B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010205067A (ja) * | 2009-03-04 | 2010-09-16 | Fujifilm Corp | 領域抽出装置、領域抽出方法及び領域抽出プログラム |
JP2011134117A (ja) * | 2009-12-24 | 2011-07-07 | Canon Inc | 被写体領域抽出装置およびその制御方法、被写体追跡装置、並びにプログラム |
JP2013058017A (ja) * | 2011-09-07 | 2013-03-28 | Nippon Hoso Kyokai <Nhk> | 特定領域抽出装置及び特定領域抽出プログラム |
Families Citing this family (53)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000048184A (ja) * | 1998-05-29 | 2000-02-18 | Canon Inc | 画像処理方法及び顔領域抽出方法とその装置 |
JP2001188910A (ja) * | 1999-10-22 | 2001-07-10 | Toshiba Corp | 画像の輪郭抽出方法、画像からの物体抽出方法およびこの物体抽出方法を用いた画像伝送システム |
US6614452B1 (en) * | 1999-11-15 | 2003-09-02 | Xenogen Corporation | Graphical user interface for in-vivo imaging |
US7581191B2 (en) | 1999-11-15 | 2009-08-25 | Xenogen Corporation | Graphical user interface for 3-D in-vivo imaging |
AU2001280040A1 (en) * | 2000-07-31 | 2002-02-13 | Galil Medical Ltd. | Planning and facilitation systems and methods for cryosurgery |
US6985609B2 (en) * | 2000-08-30 | 2006-01-10 | Giken Trastem Co., Ltd. | Method for identifying an object image |
US7095401B2 (en) * | 2000-11-02 | 2006-08-22 | Siemens Corporate Research, Inc. | System and method for gesture interface |
US7203648B1 (en) | 2000-11-03 | 2007-04-10 | At&T Corp. | Method for sending multi-media messages with customized audio |
US20080040227A1 (en) | 2000-11-03 | 2008-02-14 | At&T Corp. | System and method of marketing using a multi-media communication system |
US6963839B1 (en) | 2000-11-03 | 2005-11-08 | At&T Corp. | System and method of controlling sound in a multi-media communication application |
US6990452B1 (en) | 2000-11-03 | 2006-01-24 | At&T Corp. | Method for sending multi-media messages using emoticons |
US7091976B1 (en) | 2000-11-03 | 2006-08-15 | At&T Corp. | System and method of customizing animated entities for use in a multi-media communication application |
US6976082B1 (en) | 2000-11-03 | 2005-12-13 | At&T Corp. | System and method for receiving multi-media messages |
US7035803B1 (en) | 2000-11-03 | 2006-04-25 | At&T Corp. | Method for sending multi-media messages using customizable background images |
US6920237B2 (en) * | 2000-12-19 | 2005-07-19 | Eastman Kodak Company | Digital image processing method and computer program product for detecting human irises in an image |
US6792134B2 (en) * | 2000-12-19 | 2004-09-14 | Eastman Kodak Company | Multi-mode digital image processing method for detecting eyes |
JP3437555B2 (ja) * | 2001-03-06 | 2003-08-18 | キヤノン株式会社 | 特定点検出方法及び装置 |
US7671861B1 (en) * | 2001-11-02 | 2010-03-02 | At&T Intellectual Property Ii, L.P. | Apparatus and method of customizing animated entities for use in a multi-media communication application |
US7239726B2 (en) * | 2001-12-12 | 2007-07-03 | Sony Corporation | System and method for effectively extracting facial feature information |
WO2003063080A2 (en) * | 2002-01-22 | 2003-07-31 | Matchlight Software Inc. | System and method for image attribute recording and analysis for biometric applications |
JP2003264775A (ja) * | 2002-03-08 | 2003-09-19 | Sony Corp | 情報処理装置および方法、記録媒体、並びにプログラム |
US6928186B2 (en) | 2002-06-21 | 2005-08-09 | Seiko Epson Corporation | Semantic downscaling and cropping (SEDOC) of digital images |
CA2509644A1 (en) * | 2002-12-11 | 2004-06-24 | Nielsen Media Research, Inc. | Detecting a composition of an audience |
US7203338B2 (en) * | 2002-12-11 | 2007-04-10 | Nielsen Media Research, Inc. | Methods and apparatus to count people appearing in an image |
JP2005073015A (ja) * | 2003-08-26 | 2005-03-17 | Canon Inc | 画像処理装置及び画像処理方法及びコンピュータプログラム |
JP4476744B2 (ja) * | 2003-09-02 | 2010-06-09 | 富士フイルム株式会社 | 撮像システム、及びプログラム |
WO2005039181A1 (ja) * | 2003-10-21 | 2005-04-28 | Matsushita Electric Industrial Co., Ltd. | 監視装置 |
JP4257250B2 (ja) * | 2004-03-30 | 2009-04-22 | 富士通株式会社 | 生体情報照合装置並びに生体特徴情報絞込み装置,生体特徴情報絞込みプログラムおよび同プログラムを記録したコンピュータ読取可能な記録媒体 |
US20060182339A1 (en) * | 2005-02-17 | 2006-08-17 | Connell Jonathan H | Combining multiple cues in a visual object detection system |
US7595920B2 (en) * | 2005-02-23 | 2009-09-29 | Brother Kogyo Kabushiki Kaisha | Processing apparatus and processing method of color image information |
JP4654773B2 (ja) * | 2005-05-31 | 2011-03-23 | 富士フイルム株式会社 | 情報処理装置、動画像符号化装置、情報処理方法及び情報処理プログラム |
US7747071B2 (en) * | 2005-10-27 | 2010-06-29 | Hewlett-Packard Development Company, L.P. | Detecting and correcting peteye |
US20070099783A1 (en) * | 2005-10-27 | 2007-05-03 | Rennco, Inc. | Bag forming device |
JP4001162B2 (ja) * | 2005-11-04 | 2007-10-31 | オムロン株式会社 | 画像処理方法、画像処理用のプログラムならびにその記憶媒体、および画像処理装置 |
KR20080073933A (ko) * | 2007-02-07 | 2008-08-12 | 삼성전자주식회사 | 객체 트래킹 방법 및 장치, 그리고 객체 포즈 정보 산출방법 및 장치 |
TWI394088B (zh) * | 2007-12-26 | 2013-04-21 | Altek Corp | The adjustment method of the size of the selection of the image object |
US8411963B2 (en) | 2008-08-08 | 2013-04-02 | The Nielsen Company (U.S.), Llc | Methods and apparatus to count persons in a monitored environment |
JP2010066853A (ja) * | 2008-09-09 | 2010-03-25 | Fujifilm Corp | 画像処理装置、方法およびプログラム |
JP5183392B2 (ja) * | 2008-09-25 | 2013-04-17 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP5478928B2 (ja) * | 2009-03-31 | 2014-04-23 | 綜合警備保障株式会社 | 人物同定装置、人物同定方法、及び人物同定プログラム |
KR101662738B1 (ko) * | 2010-02-05 | 2016-10-05 | 삼성전자주식회사 | 영상 처리 방법 및 그 장치 |
US9098110B2 (en) * | 2011-06-06 | 2015-08-04 | Microsoft Technology Licensing, Llc | Head rotation tracking from depth-based center of mass |
US8620088B2 (en) | 2011-08-31 | 2013-12-31 | The Nielsen Company (Us), Llc | Methods and apparatus to count people in images |
US9141196B2 (en) | 2012-04-16 | 2015-09-22 | Qualcomm Incorporated | Robust and efficient learning object tracker |
TWI483193B (zh) * | 2012-12-13 | 2015-05-01 | Hongfujin Prec Ind Wuhan | 顯示螢幕移動系統及方法 |
JP6401922B2 (ja) * | 2014-03-13 | 2018-10-10 | 株式会社メガチップス | 物体検出装置 |
US9514364B2 (en) | 2014-05-29 | 2016-12-06 | Qualcomm Incorporated | Efficient forest sensing based eye tracking |
US9864901B2 (en) * | 2015-09-15 | 2018-01-09 | Google Llc | Feature detection and masking in images based on color distributions |
TWI582710B (zh) * | 2015-11-18 | 2017-05-11 | Bravo Ideas Digital Co Ltd | The method of recognizing the object of moving image and the interactive film establishment method of automatically intercepting target image |
US11250218B2 (en) * | 2015-12-11 | 2022-02-15 | Microsoft Technology Licensing, Llc | Personalizing natural language understanding systems |
US11711638B2 (en) | 2020-06-29 | 2023-07-25 | The Nielsen Company (Us), Llc | Audience monitoring systems and related methods |
US11860704B2 (en) | 2021-08-16 | 2024-01-02 | The Nielsen Company (Us), Llc | Methods and apparatus to determine user presence |
US11758223B2 (en) | 2021-12-23 | 2023-09-12 | The Nielsen Company (Us), Llc | Apparatus, systems, and methods for user presence detection for audience monitoring |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0820725B2 (ja) * | 1990-02-06 | 1996-03-04 | 大日本スクリーン製造株式会社 | 画像輪郭データの作成方法 |
US5617484A (en) * | 1992-09-25 | 1997-04-01 | Olympus Optical Co., Ltd. | Image binarizing apparatus |
CN1045129C (zh) * | 1993-03-29 | 1999-09-15 | 松下电器产业株式会社 | 个人识别装置 |
JP3490482B2 (ja) | 1993-09-20 | 2004-01-26 | 株式会社東芝 | エッジ及び輪郭抽出装置 |
JP3279913B2 (ja) * | 1996-03-18 | 2002-04-30 | 株式会社東芝 | 人物認証装置、特徴点抽出装置及び特徴点抽出方法 |
JP3392628B2 (ja) * | 1996-03-29 | 2003-03-31 | 富士通株式会社 | 輪郭抽出方法及びシステム |
JP3436293B2 (ja) * | 1996-07-25 | 2003-08-11 | 沖電気工業株式会社 | 動物の個体識別装置及び個体識別システム |
JP3512992B2 (ja) * | 1997-01-07 | 2004-03-31 | 株式会社東芝 | 画像処理装置および画像処理方法 |
US6118888A (en) * | 1997-02-28 | 2000-09-12 | Kabushiki Kaisha Toshiba | Multi-modal interface apparatus and method |
-
1998
- 1998-04-13 JP JP10160098A patent/JP3549725B2/ja not_active Expired - Fee Related
-
1999
- 1999-04-06 US US09/286,475 patent/US6332038B1/en not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010205067A (ja) * | 2009-03-04 | 2010-09-16 | Fujifilm Corp | 領域抽出装置、領域抽出方法及び領域抽出プログラム |
JP2011134117A (ja) * | 2009-12-24 | 2011-07-07 | Canon Inc | 被写体領域抽出装置およびその制御方法、被写体追跡装置、並びにプログラム |
JP2013058017A (ja) * | 2011-09-07 | 2013-03-28 | Nippon Hoso Kyokai <Nhk> | 特定領域抽出装置及び特定領域抽出プログラム |
Also Published As
Publication number | Publication date |
---|---|
US6332038B1 (en) | 2001-12-18 |
JP3549725B2 (ja) | 2004-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JPH11296659A (ja) | 画像処理装置 | |
KR100682889B1 (ko) | 영상에 기반한 사실감 있는 3차원 얼굴 모델링 방법 및 장치 | |
KR100617390B1 (ko) | 얼굴 식별 장치, 얼굴 식별 방법 및 기록매체 | |
US8331619B2 (en) | Image processing apparatus and image processing method | |
US7035461B2 (en) | Method for detecting objects in digital images | |
KR0158038B1 (ko) | 개인식별장치 | |
US8311336B2 (en) | Compositional analysis method, image apparatus having compositional analysis function, compositional analysis program, and computer-readable recording medium | |
US6389155B2 (en) | Image processing apparatus | |
RU2358319C2 (ru) | Способ и устройство для фотореалистического трехмерного моделирования лица на основе изображения | |
US6816611B1 (en) | Image processing method, facial region extraction method, and apparatus therefor | |
EP0977151B1 (en) | Image processing apparatus, image processing method, and storage medium | |
US9245330B2 (en) | Image processing device, image processing method, and computer readable medium | |
JP4597391B2 (ja) | 顔領域検出装置およびその方法並びにコンピュータ読み取り可能な記録媒体 | |
JP2003526841A (ja) | 生物測定学に基づく顔の抽出システム及び方法 | |
JP4912206B2 (ja) | 画像処理方法、画像処理装置、画像処理システム及びコンピュータプログラム | |
IL172480A (en) | Method for automatic detection and classification of objects and patterns in low resolution environments | |
KR20130108456A (ko) | 화상 처리 장치, 화상 처리 방법, 및 제어 프로그램 | |
JP2001043376A (ja) | 画像抽出方法及び装置並びに記憶媒体 | |
JP2000011145A (ja) | 口紅色変換システム | |
US20090116731A1 (en) | Method and system for detection of concha and intertragal notch point in 3D undetailed ear impressions | |
JP3814353B2 (ja) | 画像分割方法および画像分割装置 | |
JP7387261B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP3636936B2 (ja) | 濃淡画像の2値化方法および濃淡画像の2値化プログラムを記録した記録媒体 | |
JP4171354B2 (ja) | カラー画像処理装置及び方法 | |
JP2004288157A (ja) | デジタルイメージの定義スコアの決定 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040322 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040420 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040421 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080430 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090430 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |