JPH11296659A - 画像処理装置 - Google Patents

画像処理装置

Info

Publication number
JPH11296659A
JPH11296659A JP10160098A JP10160098A JPH11296659A JP H11296659 A JPH11296659 A JP H11296659A JP 10160098 A JP10160098 A JP 10160098A JP 10160098 A JP10160098 A JP 10160098A JP H11296659 A JPH11296659 A JP H11296659A
Authority
JP
Japan
Prior art keywords
image
area
virtual
specific object
acquired
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10160098A
Other languages
English (en)
Other versions
JP3549725B2 (ja
Inventor
Ryushi Funayama
竜士 船山
Minehiro Konya
峰弘 紺矢
So Takezawa
創 竹澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP10160098A priority Critical patent/JP3549725B2/ja
Priority to US09/286,475 priority patent/US6332038B1/en
Publication of JPH11296659A publication Critical patent/JPH11296659A/ja
Application granted granted Critical
Publication of JP3549725B2 publication Critical patent/JP3549725B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507Summing image-intensity values; Histogram projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Abstract

(57)【要約】 【課題】 取得画像から目的とする物体を抽出する際
に、熟練を必要とせず、迅速に、かつ取得画像内の照明
条件等に関わらずに特定物体領域の特定を正確にでき、
さらに、動画像中の特定物体領域に対する追跡処理を正
確に行うことができるように画像処理を行う画像処理装
置を提供することにある。 【解決手段】 電子画像(静止画像)あるいは電子画像
系列(動画像)を取得する画像取得装置11と、画像取
得装置11によって取得された取得画像から操作者が特
定物体領域を切り取って抽出するための画像抽出処理を
行う画像抽出処理装置12と、画像抽出処理装置12に
よって抽出された画像を出力する結果出力装置13とを
備える。画像抽出処理装置12は、互いに排他である2
つの仮想領域を取得画像中に設定し、これら仮想領域間
の分離度に基づいて特定物体領域を含む部分画像を抽出
する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ビデオ、ビデオカ
メラ、パーソナルコンピュータ(パソコン)、ワードプ
ロセッサ(ワープロ)、ワークステーション、オフィス
コンピュータ(オフコン)、携帯型情報ツール、コピー
機、スキャナ装置、ファクシミリ装置(FAX)、テレ
ビジョン(テレビ)、テレビ電話、テレビ会議システム
等に用いられる電子化された画像(静止画像や動画像)
を処理するための画像処理装置に関するものである。
【0002】
【従来の技術】一般に、取得画像から目的とする物体や
顔等の特定物体領域を含む画像(抽出対象画像)を抽出
する場合、取得画像が用紙に印刷された状態であるか、
あるいは取得画像が電子的に変換された状態であるかに
よって、画像の抽出方法は異なる。
【0003】例えば、写真等のように取得画像が用紙に
印刷されている場合では、取得画像に対してハサミやカ
ッター等で目的の大きさに切り取ることで、元画像から
抽出対象画像を抽出している(1)。
【0004】CCD(Charge Coupled Device)カメラや
スキャナ装置等の画像取得装置にて電子的に変換された
画像の場合では、画像取得装置によって取得された元画
像(以下、取得画像と称する)に対してコンピュータ等
によって画像処理(画像抽出処理)を行うことで、取得
画像から抽出対象画像を抽出している(2)。
【0005】上記(1)の画像抽出方法の場合、実際に
ハサミやカッター等を用いて切り取り作業を行うことは
非常に手間であり、目的の物体をバランス良く配置した
状態で抽出対象画像を取得画像から切り取ることは熟練
を要する。
【0006】これに対して、上記(2)の画像抽出方法
の場合には、取得画像をパーソナルコンピュータ(以
下、パソコンと称する)等において画像抽出のためのソ
フトウェアを使用して、取得画像から抽出対象画像を抽
出している。
【0007】通常、上記(2)の画像抽出方法では、取
得画像をディスプレイ装置等の表示装置に表示し、操作
者がマウス等の座標入力装置を用いて座標を指定するこ
とで、所望する抽出対象画像を特定するようになってい
る。このため、ソフトウェアの使用に慣れる必要がある
ものの、(1)の画像抽出方法に比べて熟練を必要とし
ないで、目的の物体をバランス良く配置した状態で抽出
対象画像を取得画像から容易に切り取ることができる。
【0008】また、(2)の画像抽出方法では、取得画
像中の抽出対象画像が所望する特定物体領域が含まれた
画像であるか否かを同定する方法として、操作者がディ
スプレイ装置に表示された取得画像を見ながらマウス等
を用いて行っているが、この抽出対象画像の同定方法の
他の方法としては、所定の計算方法により抽出対象画像
を同定する方法が提案されている。
【0009】このような計算による抽出対象画像の同定
方法として、例えば、テンプレートマッチングがある。
このテンプレートマッチングとは、予め記憶された抽出
したい物体(特定物体領域)が有する特徴パターンと、
これに対応する取得画像中の特定物体領域の特徴パター
ンとの差異を計算して得られる評価量が特定の範囲内の
値となったとき、この特定物体領域の特徴パターンと記
憶された特徴パターンとが同等であると判断し、取得画
像中の抽出対象画像を同定する方法である。
【0010】上記のように取得画像から抽出対象画像を
同定した後、さらに、特定物体領域を特定する必要があ
る。この特定物体領域の特定方法としては、上記のテン
プレートマッチングによる抽出対象画像の同定に使用さ
れた特定物体領域の特徴パターンの形状をもとにして初
期値を設定し、同定した抽出対象画像に対して、動的輪
郭モデルや動的な網のモデルを用いて、抽出対象画像中
の特定物体領域を特定する。
【0011】例えば、上記の特定物体領域が人間の顔で
ある場合、特徴パターンとして、人間の顔の色分布から
導出される確率密度関数を用いれば、取得画像から顔の
肌色部分だけを分離することができる。
【0012】また、動画像は静止画像が時系列に配置さ
れた画像系列であるので、動画像中の特定物体領域を追
跡する場合、上記の取得画像から抽出対象画像を同定
し、さらに抽出対象画像から特定物体領域を特定する方
法が適用される。
【0013】具体的には、まず、動画像をディスプレイ
装置等において画像系列毎に表示する。この一枚の画像
系列を上述した取得画像と考える。そして、この取得画
像中の抽出対象画像を上述のように画像ツール(マウス
等の座標入力装置)やテンプレートマッチングによって
同定する。
【0014】この時、マウスを用いて抽出対象画像を同
定する場合には、画像ツールによって指定された領域を
特徴パターンとし、この特徴パターンおよび該領域の位
置と大きさを記憶する。一方、テンプレートマッチング
等を用いて抽出対象画像を同定する場合には、同定され
た領域を決めるのに用いられた特徴パターンの大きさ
と、この特徴パターンに対応する取得画像中の位置を記
憶しておく。
【0015】続いて、画像系列中の次の画像において、
記憶した特徴パターンの大きさおよび位置を少しずつ変
えたものを用意し、それぞれについて取得画像との間で
評価値を計算する。このとき、複数の評価値が得られる
が、この中で最も評価値の優れたもの、すなわち記憶さ
れた特徴パターンと、それに対応する取得画像の部分と
が最も類似しているものの、記憶された特徴パターンの
大きさと位置より、その画像における特定物体領域をそ
の中に含む抽出対象画像を抽出することができる。
【0016】上記のような処理を次の系列の画像に対し
ても順次行い、次々と連続して処理することにより、動
画像中の特定物体領域の追跡を行うことができる。尚、
この一連の処理において、通常、記憶された特徴パター
ンは随時更新される。
【0017】したがって、動画像中において追跡しよう
とする特定物体領域が人間の顔であれば、上述したよう
に、予め記憶される特徴パターンとして、人間の顔の色
分布から導出される確率密度関数を用いれば、取得画像
から顔の肌色部分だけを分離することができる。つま
り、動画像中の人間の顔を追跡することができる。
【0018】
【発明が解決しようとする課題】ところが、CCDカメ
ラ等により取得された画像等の電子的に変換された画像
から目的とする物体、すなわち特定物体領域を含む抽出
対象画像を抽出するために、パソコンと画像処理用のソ
フトウェアを利用する場合、取得画像中に存在する特定
物体領域をその中に含むように画像の一部を切り取り、
しかも、目的の物体をバランス良く配置した状態で切り
取るには、写真をハサミ等で切り取る方法と同様にある
程度の熟練が必要である。
【0019】例えば、抽出対象画像のなかの特定物体領
域が画面の端に存在する場合、この特定物体領域を抽出
対象画像のなかでバランス良く配置して該抽出対象画像
を切り取るには、抽出対象画像を切り取った後でさらに
該特定物体領域が中央にくるように位置を変えるような
操作が要求され、画像抽出の処理が非常に煩雑なものと
なる。
【0020】また、取得画像から抽出対象画像を同定す
るために、テンプレートマッチング等の方法を用いる場
合、取得画像の全ての位置について、予め記憶されてい
る特徴パターンとの差異を計算しなければならず、多く
の計算量が要求される。
【0021】さらに、取得画像中に含まれる特徴パター
ンの大きさが未知の場合、記憶された特徴パターンのサ
イズを小さいものから大きいものに、様々に変形して取
得画像の全ての位置との差異を計算することを繰り返す
必要があるので、計算量はさらに増加する。
【0022】また、取得画像中の特徴パターンが変形や
回転していたり、照明条件が記憶さされている特徴パタ
ーンの作成時と取得画像で特徴パターンを見る場合とで
大きく異なっているときには、このテンプレートマッチ
ング方法では、抽出対象画像の同定をうまく行うことが
できないという問題が生じる。
【0023】また、同定した抽出対象画像から特定物体
領域を特定する場合、動的輪郭モデルや動的な網のモデ
ルを用いている。
【0024】この動的輪郭モデルを用いた場合、抽出さ
れるのは特定物体領域の輪郭であるので、通常、その輪
郭が囲む領域を物体領域(特定物体領域)とみなす。こ
の方法では、差異を計算した評価値が極小値への収束の
ため、本来の物体輪郭ではない、別の輪郭を抽出する虞
がある。
【0025】一方、動的な網のモデルを用いた場合に
も、上記動的輪郭モデルの場合と同様に、評価値が局所
解へ落ち込むことで、誤った領域を抽出してしまう虞が
ある。
【0026】しかも、両モデルともに、多数の繰り返し
演算を必要とする処理であり、多くの計算量が要求され
る。加えて、動的な網モデルは、一回の演算で計算すべ
き量が非常に多いため、動的輪郭モデルに比べてもさら
に多くの計算量が要求される。
【0027】また、抽出対象画像から特定する特定物体
領域が人間の顔である場合、予め人間の顔の色分布を調
べて確率密度関数を導出しておき、この確率密度関数を
取得画像に適用して顔の肌部分だけを分離しているが、
予め調べた時の照明条件と取得画像から特定物体領域を
抽出する時の照明条件とが大きくことなる場合には、特
定物体領域の特定が正確に行えないという問題が生じて
いる。
【0028】さらに、従来の動画像中の特定物体領域の
追跡処理においても、前述した静止画像における処理と
同様の問題が生じる。
【0029】本発明は、上記の問題点を解決するために
なされたもので、その目的は、取得画像から目的とする
物体を抽出する際に、熟練を必要とせず、迅速に、かつ
取得画像内の照明条件等に関わらずに特定物体領域の特
定を正確にでき、さらに、動画像中の特定物体領域に対
する追跡処理を正確に行うことができるように画像処理
を行う画像処理装置を提供することにある。
【0030】
【課題を解決するための手段】請求項1の画像処理装置
は、上記の課題を解決するために、外部から取得した画
像から抽出対象となる特定物体領域を含む部分画像を抽
出する画像処理装置において、互いに排他である2つの
仮想領域を取得画像中に設定し、これら仮想領域間の分
離度に基づいて上記部分画像を抽出する画像抽出処理手
段を有していることを特徴としている。
【0031】上記の構成によれば、設定された2つの仮
想領域間の分離度に基づいて、取得画像から特定物体領
域を含む部分画像を抽出するようになっているので、抽
出しようとする特定物体領域とその他の画像領域とを明
確に区別することができる。すなわち、2つの仮想領域
間の分離度を求めることで、該仮想領域内に特定物体領
域が含まれた状態を検出することができる。
【0032】これにより、仮想領域内に特定物体領域が
含まれた状態を検出した場合に、この仮想領域を含むよ
うな画像を、部分画像とすれば、必然的に特定物体領域
は部分画像中でバランス良く配置された状態となる。
【0033】したがって、上記画像抽出手段を用いれ
ば、特定物体領域を抽出する部分画像中にバランス良く
配置した状態で、確実に、かつ高速に該部分画像を抽出
することができる。
【0034】上記の画像抽出手段を実現するためには、
例えば請求項2記載の画像処理装置が適用される。
【0035】すなわち、請求項2の画像処理装置は、上
記の課題を解決するために、請求項1の構成に加えて、
上記画像抽出処理手段は、取得された画像中の互いに排
他である2つの仮想領域を設定する領域設定手段と、上
記各仮想領域内の画像情報を取得する画像情報取得手段
と、上記画像情報から上記の2つの仮想領域間の分離度
を算出する算出手段と、得られた分離度に基づいて取得
画像中に存在する特定物体領域をその中に含むように画
像の一部を抽出する画像抽出手段とを含むことを特徴と
している。
【0036】さらに、抽出した部分画像から特定物体領
域を抽出するためには、例えば請求項3記載の画像処理
装置が適用される。
【0037】すなわち、請求項3の画像処理装置は、上
記の課題を解決するために、請求項2の構成に加えて、
画像抽出手段は、特定物体領域を含むように抽出した部
分画像に対して、該部分画像の一部にさらに仮想領域を
設定し、この仮想領域内の画像情報を取得し、この画像
情報に基づいて、上記特定物体領域を含み、かつ上記部
分画像よりも小さい領域を抽出することを特徴としてい
る。
【0038】また、上記画像情報は、請求項4の画像処
理装置に記載のように画素の分布情報としても良い。こ
の場合、請求項4の画像処理装置は、上記の課題を解決
するために、請求項3の構成に加えて、取得した画像情
報を画素の分布情報とした場合、この分布情報から確率
密度関数を求め、得られた確率密度関数を上記部分画像
に適用することで、上記特定物体領域を含み、かつ上記
部分画像よりも小さい領域を抽出することを特徴として
いる。
【0039】また、請求項5の画像処理装置は、上記の
課題を解決するために、請求項1ないし4のいずれかの
構成に加えて、特定物体領域が人間の顔領域であること
を特徴としている。
【0040】このように、特定物体領域を人間の顔領域
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができる。
【0041】また、請求項6の画像処理装置は、上記の
課題を解決するために、請求項5の構成に加えて、画像
抽出手段は、抽出された人間の顔領域内部の画像情報を
取得する手段と、上記画像情報より、顔の幅、左右の対
称軸、目、鼻、口の垂直位置からなる数値情報を検出す
る手段とを含み、上記数値情報に基づいて、上記顔領域
に含まれる顔部分が一定の大きさおよび位置になるよう
に、取得画像の一部を抽出することを特徴としている。
【0042】また、請求項7の画像処理装置は、上記の
課題を解決するために、請求項1の構成に加えて、取得
画像中の任意の1点を指定する点指定手段を有し、画像
抽出処理手段は、上記点指定手段により取得画像中に存
在する特定物体領域の中央の1点が指定された場合、こ
の指定点を中に含むような第1の仮想領域と、この第1
の仮想領域と排他的な第2の仮想領域とを設定する領域
設定手段と、これら2つの仮想領域に含まれる画像情報
に基づいて、該2つの仮想領域間の分離度を算出する算
出手段と、上記2つの仮想領域の大きさを逐次変更する
ことによって得られる分離度の系列から、取得画像中に
存在し、かつ点指定手段によって指定された点をその中
央に含むような特定物体領域を、その中央に含むように
画像の一部を抽出する画像抽出手段とを含むことを特徴
としている。
【0043】上記の構成によれば、請求項1の作用に加
えて、特定物体領域の中央の1点が指定され、この点に
基づいて仮想領域が設定されるので、仮想領域間の分離
度の計算が少なくて済む。この結果、部分画像の抽出に
かかる時間を大幅に短縮させることができる。
【0044】また、請求項8の画像処理装置は、上記の
課題を解決するために、請求項7の構成に加えて、画像
抽出手段は、特定物体領域を含むように抽出した部分画
像に対して、該部分画像の一部に仮想領域を設定し、こ
の仮想領域内の画像情報を取得し、この画像情報に基づ
いて、上記特定物体領域を含み、かつ上記部分画像より
も小さい領域を抽出することを特徴としている。
【0045】請求項3では、複数の領域候補である部分
画像が抽出され、その中から適当なものを選択する必要
があるが、請求項8の構成によれば、点指定手段によっ
て特定物体領域の一点が指定され、この指定された点に
基づいて部分画像が抽出されるようになるので、部分画
像から確実に特定物体領域を抽出することができる。
【0046】また、上記画像情報は、請求項9の画像処
理装置に記載のように画素の分布情報としても良い。こ
の場合、請求項9の画像処理装置は、上記の課題を解決
するために、請求項8の構成に加えて、取得した画像情
報を画素の分布情報とした場合、この分布情報から確率
密度関数を求め、得られた確率密度関数を上記部分画像
に適用することで、上記特定物体領域を含み、かつ上記
部分画像よりも小さい領域を抽出することを特徴として
いる。
【0047】さらに、請求項10の画像処理装置は、上
記の課題を解決するために、請求項7ないし9のいずれ
かの構成に加えて、特定物体領域が人間の顔領域である
ことを特徴としている。
【0048】このように、特定物体領域を人間の顔領域
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができる。
【0049】しかも、点指定手段により特定物体領域の
一点が指定されているので、確実に一つの人間の顔領域
を抽出することができる。
【0050】また、請求項11の画像処理装置は、上記
の課題を解決するために、請求項10の構成に加えて、
画像抽出手段は、抽出された人間の顔領域内部の画像情
報を取得する手段と、上記画像情報より、顔の幅、左右
の対称軸、目、鼻、口の垂直位置からなる数値情報を検
出する手段とを含み、上記数値情報に基づいて、上記顔
領域に含まれる顔部分が一定の大きさおよび位置になる
ように、取得画像の一部を抽出することを特徴としてい
る。
【0051】上記の構成によれば、請求項11の作用に
加えて、人間の顔領域からポートレート画像を抽出する
場合、確実に一つのポートレート画像を抽出することが
できる。
【0052】請求項12の画像処理装置は、上記の課題
を解決するために、請求項7の構成に加えて、画像抽出
処理手段は、上記点指定手段により取得画像中に存在す
る特定物体領域の中央でない位置に点が指定された場
合、設定される仮想領域の大きさと位置、あるいは仮想
領域の大きさ、位置と形状を逐次更新することによって
得られる分離度の系列から、取得画像中に存在し、かつ
点指定手段によって指定された点をその中に含むような
特定物体領域を、その中に含むように画像の一部を抽出
することを特徴としている。
【0053】ところで、仮想領域の中心位置と特定物体
領域の中心位置とがほぼ同位置にある場合には、点指定
手段により特定物体領域のほぼ中央に点を指定しても問
題はないが、仮想領域の中心位置と特定物体領域の中心
位置とが大きくずれている場合には、特定物体領域の中
央に点を指定してもうまく仮想領域が設定されないの
で、誤った特定物体領域を抽出してしまう虞がある。
【0054】ところが、上記の請求項12の構成によれ
ば、請求項7の作用に加えて、点指定手段により取得画
像中に存在する特定物体領域の中央でない位置に点を指
定することにより、仮想領域の中心と特定物体領域の中
心位置がずれた場合でも確実に特定物体領域を抽出する
ことができる。
【0055】また、請求項13の画像処理装置は、上記
の課題を解決するために、請求項12の構成に加えて、
画像抽出手段は、特定物体領域を含むように抽出した部
分画像に対して、該部分画像の一部に仮想領域を設定
し、この仮想領域内の画像情報を取得し、この画像情報
に基づいて、上記特定物体領域を含み、かつ上記部分画
像よりも小さい領域を抽出することを特徴としている。
【0056】また、請求項14の画像処理装置は、上記
の課題を解決するために、請求項13の構成に加えて、
画像抽出手段は、取得した画像情報を画素の分布情報と
した場合、この分布情報から確率密度関数を求め、得ら
れた確率密度関数を上記部分画像に適用することで、上
記特定物体領域を含み、かつ上記部分画像よりも小さい
領域を抽出することを特徴としている。
【0057】さらに、請求項15の画像処理装置は、上
記の課題を解決するために、請求項12ないし14のい
ずれかの構成に加えて、特定物体領域が人間の顔領域で
あることを特徴としている。
【0058】このように、特定物体領域を人間の顔領域
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができる。
【0059】しかも、点指定手段により特定物体領域の
一点が特定物体領域の中央よりもずれた位置に指定され
るので、特定物体領域の中心と抽出対象となっている部
分画像の中心とが大きくずれていても、誤りなく特定物
体領域である人間の顔領域を抽出することができる。
【0060】また、請求項16の画像処理装置は、上記
の課題を解決するために、請求項15の構成に加えて、
画像抽出手段は、抽出された人間の顔領域内部の画像情
報を取得する手段と、上記画像情報より、顔の幅、左右
の対称軸、目、鼻、口の垂直位置からなる数値情報を検
出する手段とを含み、上記数値情報に基づいて、上記顔
領域に含まれる顔部分が一定の大きさおよび位置になる
ように、取得画像の一部を抽出することを特徴としてい
る。
【0061】上記の構成によれば、請求項15の作用に
加えて、人間の顔領域からポートレート画像を抽出する
場合、確実に一つのポートレート画像を抽出することが
できる。
【0062】また、請求項17の画像処理装置は、上記
の課題を解決するために、請求項1の構成に加えて、画
像抽出処理手段は、取得画像を記憶する記憶手段を含
み、取得画像が一連の電子画像系列からなる動画像であ
る場合、記憶手段に記憶された系列中の特定の一枚の画
像を注目画像として読み出し、この注目画像中に存在す
る特定物体領域をその中に含むように、画像の一部を抽
出すると共に、上記注目画像に対して2つの仮想領域か
らなる1組のウィンドウを設定し、この1組のウィンド
ウ内の画像情報を次の系列の取得画像に対する初期値と
して仮想領域の大きさ、位置を様々に変化させて得られ
る種々の画像情報から、最も適当な1組のウィンドウを
決定することを特徴としている。
【0063】上記の構成によれば、請求項1の作用に加
えて、時系列的に特定物体領域をバランス良く配置した
部分画像を抽出するようになるので、動画像中の特定物
体領域を追跡することが可能となる。
【0064】さらに、請求項18の画像処理装置は、上
記の課題を解決するために、請求項17の構成に加え
て、画像抽出手段は、特定物体領域を含むように抽出し
た部分画像に対して、該部分画像の一部にさらに仮想領
域を設定し、この仮想領域内の画像情報を取得し、この
画像情報に基づいて、上記特定物体領域を含み、かつ上
記部分画像よりも小さい領域を抽出することを特徴とし
ている。
【0065】また、請求項19の画像処理装置は、上記
の課題を解決するために、請求項17または18の構成
に加えて、記憶手段に記憶されている一連の電子画像の
中の特定物体領域が人間の顔領域であることを特徴とし
ている。
【0066】このように、記憶手段に記憶されている一
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができる。
【0067】また、請求項20の画像処理装置は、上記
の課題を解決するために、請求項17の構成に加えて、
取得画像中の任意の1点を指定する点指定手段が設けら
れ、上記画像抽出処理手段は、取得画像を記憶する記憶
手段と、取得画像が一連の電子画像系列からなる動画像
であり、かつ上記記憶手段に記憶された系列中の特定の
一枚の画像を注目画像として読み出し、この注目画像中
に存在する特定物体領域の中央が上記点指定手段により
指定された場合、この指定点を中に含むような第1の仮
想領域と、この第1の仮想領域と排他的な第2の仮想領
域とを設定する手段と、これら2つの仮想領域に含まれ
る画像情報に基づいて、該特定物体領域と2つの仮想領
域間の分離度を算出する手段と、上記2つの仮想領域の
大きさを逐次変更することによって得られる分離度の系
列から、取得画像中に存在し、かつ点指定手段によって
指定された点をその中央に含むような特定物体領域を、
その中央に含むように画像の一部を抽出する手段とを有
し、上記の2つの仮想領域の画素値を次の系列の取得画
像に対する初期値として仮想領域の大きさ、位置を様々
に変化させて得られる種々の画像情報から、最も適当な
1組のウィンドウを決定することを特徴としている。
【0068】上記の構成によれば、請求項17の作用に
加えて、特定物体領域の中央の1点が指定され、この点
に基づいて仮想領域が設定されるので、仮想領域間の分
離度の計算が少なくて済む。この結果、部分画像の抽出
にかかる時間を大幅に短縮させることができる。
【0069】さらに、請求項21の画像処理装置は、上
記の課題を解決するために、請求項20の構成に加え
て、画像抽出手段は、特定物体領域を含むように抽出し
た部分画像に対して、該部分画像の一部にさらに仮想領
域を設定し、この仮想領域内の画像情報を取得し、この
画像情報に基づいて、上記特定物体領域を含み、かつ上
記部分画像よりも小さい領域を抽出することを特徴とし
ている。
【0070】上記の構成によれば、請求項20の作用に
加えて、特定物体領域を含むように抽出した部分画像に
対して、該部分画像の一部にさらに仮想領域を設定し、
この仮想領域内の画像情報を取得し、この画像情報に基
づいて、上記特定物体領域を含み、かつ上記部分画像よ
りも小さい領域を抽出するようになっているので、部分
画像から特定物体領域を確実に抽出することができ、こ
の結果、特定物体領域の追跡をさらに正確に行うことが
できる。
【0071】また、請求項22の画像処理装置は、上記
の課題を解決するために、請求項20または21の構成
に加えて、上記記憶手段に記憶されている一連の電子画
像の中の特定物体領域が人間の顔領域であることを特徴
としている。
【0072】このように、記憶手段に記憶されている一
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができる。
【0073】また、請求項23の画像処理装置は、上記
の課題を解決するために、請求項17の構成に加えて、
取得画像中の任意の1点を指定する点指定手段が設けら
れ、画像抽出処理手段は、取得画像を記憶する記憶手段
と、取得画像が一連の電子画像系列からなる動画像であ
り、かつ記憶手段に記憶された系列中の特定の一枚の画
像を注目画像として読み出し、この注目画像中に存在す
る特定物体領域の任意の一点が上記点指定手段により指
定された場合、この指定点を中に含むような第1の仮想
領域と、この第1の仮想領域と排他的な第2の仮想領域
とを設定する手段と、これら2つの仮想領域に含まれる
画像情報に基づいて、該特定物体領域と2つの仮想領域
間の分離度を算出する手段と、上記2つの仮想領域の大
きさを逐次変更することによって得られる分離度の系列
から、取得画像中に存在し、かつ点指定手段によって指
定された点をその中央に含むような特定物体領域を、そ
の中央に含むように画像の一部を抽出する手段とを有
し、上記の2つの仮想領域の画素値を次の系列の取得画
像に対する初期値として仮想領域の大きさ、位置を様々
に変化させて得られる種々の画像情報から、最も適当な
1組のウィンドウを決定することを特徴としている。
【0074】上記の構成によれば、請求項17の作用に
加えて、点指定手段により取得画像中に存在する特定物
体領域の中央でない位置に点を指定することにより、仮
想領域の中心と特定物体領域の中心位置がずれた場合で
も確実に特定物体領域を抽出することができるので、動
画像中の特定物体領域を含む部分画像の追跡を正確に行
うことができる。
【0075】さらに、請求項24の画像処理装置は、上
記の課題を解決するために、請求項23の構成に加え
て、画像抽出手段は、上記取得した画像情報を画素の分
布情報とした場合、この分布情報から確率密度関数を求
め、得られた確率密度関数を上記部分画像に適用するこ
とで、上記特定物体を含み、かつ上記部分画像よりも小
さい領域を抽出することを特徴としている。
【0076】また、請求項25の画像処理装置は、上記
の課題を解決するために、請求項23の構成に加えて、
画像抽出手段は、特定物体領域を含むように抽出した部
分画像に対して、該部分画像の一部にさらに仮想領域を
設定し、この仮想領域内の画像情報を取得し、この画像
情報に基づいて、上記特定物体領域を含み、かつ上記部
分画像よりも小さい領域を抽出することを特徴としてい
る。
【0077】また、請求項26の画像処理装置は、上記
の課題を解決するために、請求項23ないし25のいず
れかの構成に加えて、記憶手段に記憶されている一連の
電子画像の中の特定物体領域が人間の顔領域であること
を特徴としている。
【0078】このように、記憶手段に記憶されている一
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができる。
【0079】さらに、請求項27の画像処理装置は、上
記の課題を解決するために、請求項26の構成に加え
て、上記画像抽出手段は、抽出された人間の顔領域内部
の画像情報を取得する手段と、上記画像情報より、顔の
幅、左右の対称軸、目、鼻、口の垂直位置からなる数値
情報を検出する手段とを含み、上記数値情報に基づい
て、上記顔領域に含まれる顔部分が一定の大きさおよび
位置になるように、取得画像の一部を抽出することを特
徴としている。
【0080】また、上記の課題を解決する手段として
は、上述した請求項1ないし27までの各手段の他に、
コンピュータで読み取り可能な記録媒体に本願発明の画
像抽出処理を実行するためのプログラムを記録しても良
い。
【0081】すなわち、請求項28のコンピュータ読み
取り可能な記録媒体は、上記の課題を解決するために、
取得画像中の互いに排他である2つの仮想領域を該取得
画像中に設定し、これら仮想領域内の画像情報に基づい
て上記特定物体領域を抽出する処理をコンピュータに実
行させるための画像抽出処理プログラムを記録したこと
を特徴としている。
【0082】また、請求項29のコンピュータ読み取り
可能な記録媒体は、上記の課題を解決するために、取得
された画像中の互いに排他である2つの仮想領域を設定
し、設定された各仮想領域内の画像情報を取得し、取得
された画像情報から上記の2つの仮想領域間の分離度を
算出し、得られた分離度に基づいて取得画像中に存在す
る特定物体領域をその中に含むように画像の一部を抽出
する処理をコンピュータに実行させるための画像抽出処
理プログラムを記録したことを特徴としている。
【0083】また、請求項30のコンピュータ読み取り
可能な記録媒体は、上記の課題を解決するために、取得
画像中に存在する特定物体領域の中央の1点が指定され
た場合、この指定点を中に含むような第1の仮想領域
と、この第1の仮想領域と排他的な第2の仮想領域とを
設定し、設定された2つの仮想領域に含まれる画像情報
に基づいて、該2つの仮想領域間の分離度を算出し、上
記2つの仮想領域の大きさを逐次変更することによって
得られる分離度の系列から、取得画像中に存在し、かつ
指定された点をその中央に含むような特定物体領域を、
その中央に含むように画像の一部を抽出する処理をコン
ピュータに実行させるための画像抽出処理プログラムを
記録したことを特徴としている。
【0084】また、請求項31のコンピュータ読み取り
可能な記録媒体は、上記の課題を解決するために、取得
画像中に存在する特定物体領域の中央でない位置に点が
指定された場合、設定される仮想領域の大きさと位置、
あるいは仮想領域の大きさ、位置と形状を逐次更新する
ことによって得られる分離度の系列から、取得画像中に
存在し、かつ指定された点をその中に含むような特定物
体領域を、その中に含むように画像の一部を抽出する処
理をコンピュータに実行させるための画像抽出処理プロ
グラムを記録したことを特徴としている。
【0085】また、請求項32のコンピュータ読み取り
可能な記録媒体は、上記の課題を解決するために、記憶
された取得画像が一連の電子画像系列からなる動画像で
ある場合、記憶された画像系列中の特定の一枚の画像を
注目画像として読み出し、この注目画像中に存在する特
定物体領域をその中に含むように、画像の一部を抽出す
ると共に、上記注目画像に対して2つの仮想領域からな
る1組のウィンドウを設定し、この1組のウィンドウ内
の画像情報を次の系列の取得画像に対する初期値として
仮想領域の大きさ、位置を様々に変化させて得られる種
々の画像情報から、最も適当な1組のウィンドウを決定
する処理をコンピュータに実行させるための画像抽出処
理プログラムを記録したことを特徴としている。
【0086】また、請求項33のコンピュータ読み取り
可能な記録媒体は、上記の課題を解決するために、記憶
された取得画像が一連の電子画像系列からなる動画像で
あり、かつ上記記憶手段に記憶された系列中の特定の一
枚の画像を注目画像として読み出し、この注目画像中に
存在する特定物体領域の中央が指定された場合、この指
定点を中に含むような第1の仮想領域と、この第1の仮
想領域と排他的な第2の仮想領域とを設定し、これら2
つの仮想領域からなる1組のウィンドウに含まれる画像
情報に基づいて、該特定物体領域と2つの仮想領域間の
分離度を算出し、上記2つの仮想領域の大きさを逐次変
更することによって得られる分離度の系列から、取得画
像中に存在し、かつ点指定手段によって指定された点を
その中央に含むような特定物体領域を、その中央に含む
ように画像の一部を抽出すると共に、上記注目画像に対
して2つの仮想領域からなる1組のウィンドウを設定
し、この1組のウィンドウ内の画像情報を次の系列の取
得画像に対する初期値として仮想領域の大きさ、位置を
様々に変化させて得られる種々の画像情報から、最も適
当な1組のウィンドウを決定する処理をコンピュータに
実行させるための画像抽出処理プログラムを記録したこ
とを特徴としている。
【0087】さらに、請求項34のコンピュータ読み取
り可能な記録媒体は、上記の課題を解決するために、記
憶された取得画像が一連の電子画像系列からなる動画像
であり、かつ上記電子画像系列中の特定の一枚の画像を
注目画像として読み出し、この注目画像中に存在する特
定物体領域の任意の一点が指定された場合、この指定点
を中に含むような第1の仮想領域と、この第1の仮想領
域と排他的な第2の仮想領域とを設定し、これら2つの
仮想領域に含まれる画像情報に基づいて、該特定物体領
域と2つの仮想領域間の分離度を算出し、上記2つの仮
想領域の大きさを逐次変更することによって得られる分
離度の系列から、取得画像中に存在し、かつ点指定手段
によって指定された点をその中央に含むような特定物体
領域を、その中央に含むように画像の一部を抽出すると
共に、上記注目画像に対して2つの仮想領域からなる1
組のウィンドウを設定し、この1組のウィンドウ内の画
像情報を次の系列の取得画像に対する初期値として仮想
領域の大きさ、位置を様々に変化させて得られる種々の
画像情報から、最も適当な1組のウィンドウを決定する
処理をコンピュータに実行させるための画像抽出処理プ
ログラムを記録したことを特徴としている。
【0088】
【発明の実施の形態】〔実施の形態1〕本発明の実施の
一形態について説明すれば、以下の通りである。
【0089】本実施の形態に係る画像処理装置は、外部
から入力された画像、すなわち装置が外部から取得した
画像(以下、取得画像と称する)に含まれる物体、例え
ば写真等における操作者が所望する人間の顔等を、該取
得画像から抽出処理する装置である。
【0090】すなわち、上記画像処理装置は、例えば図
2に示すように、電子画像(静止画像)あるいは電子画
像系列(動画像)を取得する画像取得手段としての画像
取得装置11と、画像取得装置11によって取得された
取得画像から操作者が所望する物体の画像領域(以下、
特定物体領域と称する)を切り取って抽出するための画
像抽出処理を行う画像抽出処理装置12と、画像抽出処
理装置12によって抽出された画像を出力する結果出力
装置13と、画像抽出処理装置12における処理に関す
る情報を記録あるいは再生する処理情報記録再生装置1
4が設けられている。
【0091】上記処理情報記録再生装置14は、画像抽
出処理装置12に内蔵されているコンピュータにより読
み取り可能な記録媒体に対して情報の記録再生を行う装
置である。処理情報記録再生装置14として、例えば、
フロッピーディスクドライブ、CD−ROMドライブ、
光磁気ディスクドライブ等の外部の記録再生装置が用い
られる。上記フロッピーディスクドライブでは、記録媒
体としてフロッピーディスクが用いられ、また、CD−
ROMドライブでは、記録媒体としてCD−ROMが用
いられ、光磁気ディスクドライブの場合には光磁気ディ
スクが用いられる。他の処理情報記録再生装置14であ
ってもその装置に応じた記録媒体が用いられることはい
うまでもない。
【0092】上記記録媒体には、画像抽出処理装置12
において処理に必要な処理用プログラムや処理に必要な
各種データ等が記録される一方、画像抽出処理装置12
において処理された情報が必要に応じて記録される。
尚、この記録媒体の詳細については後述する。
【0093】したがって、上記処理情報記録再生装置1
4は、画像抽出処理装置12において処理された情報を
記録媒体に記録する一方、画像抽出処理装置12におい
て処理に必要な処理用プログラムや処理用の各種データ
等の処理情報を読み出して画像抽出処理装置12に該処
理情報を転送するようになっている。
【0094】また、画像抽出処理装置12内で処理対象
となる画像情報を記録した記録媒体を処理情報記録再生
装置14で再生し、画像抽出処理装置12に転送するこ
とで、処理情報記録再生装置14を画像取得装置11に
換えて用いることが可能となる。
【0095】したがって、上記画像取得装置11が処理
情報記録再生装置14を兼ねる場合には、画像取得装置
11として、フロッピーディスク/CD−ROM/ハー
ドディスク/光磁気ディスク/デジタルビデオディスク
等の記録媒体からデジタルの静止画像あるいは動画像を
取得する装置が用いられる。尚、CD−ROMおよびデ
ジタルビデオディスクについては、情報の記録および再
生が可能なものを使用する。
【0096】また、画像取得装置11としては、例えば
処理対象となる画像が静止画像である写真/印刷物から
デジタルの静止画像を取得する例えばスキャナ装置、テ
レビ/ビデオから取得したアナログの動画像をデジタル
の動画像に変換するアナログ/デジタル変換装置、デジ
タルカメラ/デジタルビデオカメラ等のデジタルの静止
画像あるいは動画像を取得するデジタル画像取得装置、
インターネット/LAN等のネットワークからデジタル
の静止画像あるいは動画像を取得する装置等が用いられ
る。
【0097】このようにして取得された画像は、画像抽
出処理装置12に転送され、所定の画像抽出処理が施さ
れた後、処理結果が操作者に分かるように結果出力装置
13にて処理結果が出力される。
【0098】上記結果出力装置13としては、上記画像
抽出処理装置12で抽出された特定物体領域を表示する
ためのディスプレイ等の表示装置や、他の電子機器(プ
リンタ等)が用いられる。
【0099】上記画像抽出処理装置12は、画像取得装
置11にて取得された取得画像から特定物体領域を仮想
領域を用いて抽出処理する装置であり、記憶部15、演
算部16を有している。ここで、仮想領域とは、ユーザ
が切り取りを希望する特定物体領域を含む画像領域を示
す。この仮想領域を用いた画像抽出処理の詳細について
は、後述する。
【0100】上記画像抽出処理装置12の記憶部15
は、図3に示すように、仮想領域設定処理用プログラム
15a、顔パラメータ検出処理用プログラム15b、領
域抽出処理用プログラム15c等の処理用プログラムを
記憶したROM(図示せず)と、取得画像を一時的に記
憶すると共に、ROMに記憶された処理用プログラム等
を一時的に記憶するメインメモリ15dとなるRAM
(図示せず)とからなる。
【0101】上記仮想領域設定処理用プログラム15a
は、後述する分離度を計算するために必要な仮想領域の
形状を設定するためのプログラムである。本実施の形態
では、仮想領域設定処理用プログラム15aとして、ユ
ーザがペンやマウス等の座標入力装置を用いて仮想領域
の形状を自由に描画できるようなプログラムを採用して
いる。
【0102】上記顔パラメータ検出処理用プログラム1
5bは、顔の幅、左右の対称軸、目、鼻、口の垂直位置
などの顔パラメータを検出するためのプログラムであ
る。本実施の形態では、顔パラメータ検出処理用プログ
ラム15bとして、例えば目、鼻、口の垂直位置を検出
する方法、すなわち顔肌領域を抽出した後に、それに対
応する顔画像の輝度値を水平方向に投影したヒストグラ
ムを用いるようなプログラムを採用している。この顔パ
ラメータ検出処理用プログラム15bを実行した場合の
処理の詳細は、実施の形態3で説明する。
【0103】上記領域抽出処理用プログラム15cは、
物体の領域を抽出するためのプログラムである。本実施
の形態では、領域抽出処理用プログラム15cとして、
設定された仮想領域(分離度を計算する仮想領域とは別
に設定された仮想領域)中の画素値の分布が正規分布に
従っていると仮定して確率密度関数を算出し、この確率
密度関数を取得画像に適用することで物体の領域を抽出
するようなプログラムを採用している。
【0104】尚、上記の各プログラムは、上述のように
ROMに予め記憶させても良く、また、図18に示すよ
うに、CD−ROMやフロッピーディスク等の記録媒体
17に記憶させても良い。この場合、記録媒体17に
は、仮想領域設定処理用プログラム17a、顔パラメー
タ検出処理用プログラム17b、領域抽出処理用プログ
ラム17cの少なくとも1つのプログラムを記憶させて
いれば良い。そして、残りのプログラムについては、記
憶部15のROMに記憶させれば良い。
【0105】また、上記画像抽出処理装置12の演算部
16は、図4に示すように、画像取得装置11にて取得
された画像に対して施す処理を行うための各種処理部か
ら構成されている。つまり、演算部16は、分離度計算
処理部16a、領域抽出処理部16b、画素情報読取処
理部16c、人物画像抽出処理部16d、基本演算処理
部16eで構成されており、上記記憶部15に記憶され
ている処理用プログラムや、取得画像の画像データ等と
連携して各種処理を行うようになっている。
【0106】上記分離度計算処理部16aは、2つの仮
想領域間の分離度を計算する処理部である。ここで、分
離度とは、一般に、ある集合を2つのクラスに分割した
場合、クラス間の変動が全集合の変動に占める割合であ
る。上記の2つのクラスが、完全に分離している場合、
分離度は最大値である1となり、完全に分離されていな
い場合、分離度は最小値である0に近くなる。したがっ
て、分離度は、2値化の際の最適しきい値の決定に使用
される。尚、分離度計算処理部16aにおける分離度の
計算の詳細については後述する。
【0107】上記領域抽出処理部16bは、上述の仮想
領域設定処理用プログラム15aを実行することによっ
て設定された仮想領域の画素情報に基づいて物体の領域
を抽出する処理部である。
【0108】上記画素情報読取処理部16cは、記憶部
15に記憶されている取得画像から画像情報を読み出す
処理部である。
【0109】上記人物画像抽出処理部16dは、上述の
顔パラメータ検出処理用プログラム15bを実行するこ
とによって検出された顔パラメータに基づいて、取得画
像から人物画像の切り取りを行う処理部である。
【0110】上記基本演算処理部16eは、四則演算や
その他の基本的な演算を行う処理部である。
【0111】ここで、取得画像から特定物体領域を抽出
する処理について以下に説明する。尚、ここで行われる
処理は、画像抽出処理装置12にて行われる。
【0112】先ず、取得画像に設定される仮想領域につ
いて説明する。抽出対象となる物体(以下、単に物体と
称する)の形が既知である場合、例えば物体の形状が円
である場合、図5に示すように、2つのサイズの異なる
第1の円101・第2の円102を、それぞれの円の中
心が重なるように設定する。そして、図6に示すよう
に、内側の第1の円101で囲まれた領域を第1の仮想
領域(第1のウィンドウ)103とし、外側の第2の円
102で囲まれ、かつ上記第1の円101を含まない領
域を第2の仮想領域(第2のウィンドウ)104とす
る。
【0113】このように、ユーザが切り取りを希望する
物体の形状が円であれば、ウィンドウを円形状に設定
し、円以外の既知の形状の物体の場合、その物体の形状
と同じ形状のウィンドウを設定する。つまり、物体の形
状が既知のものであれば、ウィンドウの形状も特定物体
の形状に合わせることが望ましい。例えば、物体が矩形
状であれば、図7(a)に示すように、ウィンドウも矩
形状にする。また、物体が楕円形状であれば、図7
(b)に示すように、ウィンドウも楕円形状にする。さ
らに、物体が自動車型の形状であれば、図7(c)に示
すように、ウィンドウも自動車型の形状にするのが望ま
しい。
【0114】具体的には、画像抽出処理装置12の記憶
部15に記憶されている仮想領域設定処理用プログラム
15aが演算部16で実行されることにより、所望のウ
ィンドウが取得画像に対して設定される。
【0115】次に、上述のように設定されるウィンドウ
を用いた抽出対象画像の抽出処理について、図1に示す
フローチャートを参照しながら以下に説明する。
【0116】ここでは、画像取得装置11により取得さ
れた取得画像を、例えば図8(a)に示すように、物体
111〜113が表示面に存在する画像とした場合に、
この取得画像の中で操作者が抽出を希望する物体が円形
状の物体111とし、この物体111を含む抽出領域で
構成される抽出対象画像114を、取得画像から図8
(b)に示すように抽出する場合について考える。ここ
で、抽出対象画像とは、特定物体領域をそのなかに含む
状態で取得画像から切り取れる部分画像のことである。
【0117】始めに、初期ウィンドウを設定する(S
1)。
【0118】つまり、取得画像上の任意の位置に初期サ
イズのウィンドウ(初期ウィンドウ)を設定する。ここ
では、画像抽出処理装置12によって、図8(a)に示
すように、取得画像中の抽出対象となる物体111が円
形状であるので、図9に示すように、取得画像中の任意
の位置に初期ウィンドウ121が設定される。
【0119】上記初期ウィンドウ121は、同心円上に
直径の異なる2つの円を含み、それぞれの円によって、
内側の円で囲まれた領域の第1のウィンドウ121a、
外側の円で囲まれ、かつ内側の円を含まない領域の第2
のウィンドウ121bを構成している。
【0120】上記初期ウィンドウ121を構成する各ウ
ィンドウのサイズは、対象となる物体の大きさのとり得
る値等に依存して設定されるが、通常、取得画像のサイ
ズよりも小さいサイズに設定される。
【0121】続いて、ウィンドウに基づき、分離度を計
算する(S2)。
【0122】つまり、上記の2つの第1のウィンドウ1
21a、第2のウィンドウ121bのそれぞれに含まれ
る画像情報を取得する。ここでの画像情報とは、各領域
に含まれる画素の数(画素数)と、各画素の画素値であ
る。上記画素値は、画素が持っている値であり、例えば
濃淡画像の場合には、画素の輝度値(明るさ)等を示
す。そして、画像抽出処理装置12は、演算部16の分
離度計算処理部16aにて取得された画素値に基づい
て、第1のウィンドウ121aと第2のウィンドウ12
1bとの間の分離度ηを計算する。
【0123】分離度ηは、分離度計算処理部16aにお
いて、次のようにして計算される。例えば、図9におい
て、ウィンドウの内側の領域(第1のウィンドウ121
a)をPinner 、ウィンドウの外側の領域( 第2のウィ
ンドウ121b)をPouter、両者を合わせた領域をP
とし、当該画像において領域Pinner 内に存在する画素
の数をninner 、領域Pouter 内に存在する画素の数を
nouter 、領域P内に存在する画素の数、すなわちnin
ner +nouter をNとする。領域P内での位置iにおけ
る画素値をPi 、領域Pでの画素値の平均をP〜、領域
Pinner での画素値の平均値をPinner 〜、領域Poute
r での画素値の平均値をPouter 〜とすると、以下の式
(1)〜(3)が成立する。
【0124】
【数1】
【0125】
【数2】
【0126】
【数3】
【0127】尚、上記式(1)〜(3)において、Pバ
ーは領域Pでの画素値の平均を示すP〜、Pinner バー
は領域Pinner での画素値の平均値を示すPinner 〜、
Pouter バーは領域Pouter での画素値の平均値を示す
Pouter 〜を表す。
【0128】上記のように算出された分離度ηは、一
旦、画像抽出処理装置12の記憶部15のメインメモリ
15dに記憶される。
【0129】次に、ウィンドウのサイズを若干大きくす
ると共に、拡大したウィンドウにおける分離度を計算す
る(S3)。
【0130】つまり、画像抽出処理装置12は、演算部
16の領域抽出処理部16bにおいて、算出した分離度
ηに基づいて初期ウィンドウ121を、図9に示すよう
に、該初期ウィンドウ121よりも若干大きくし、拡大
ウィンドウ122を設定する。このウィンドウの拡大時
に、ウィンドウ中心の位置は変えないようにする。例え
ば、初期ウィンドウ121の形状が円形であれば、円の
中心を固定したまま、直径を大きくして拡大ウィンドウ
122のサイズアップを図る。
【0131】このときのサイズアップは、例えば第1の
ウィンドウ121a、第2のウィンドウ121bのサイ
ズを予め設定し、この設定値を定数倍にすることにより
行う。したがって、上記拡大ウィンドウ122は、初期
ウィンドウ121と同様に、同心円上に直径の異なる2
つの円を含み、それぞれの円によって、内側の円で囲ま
れた領域の第1のウィンドウ122a、外側の円で囲ま
れ、かつ内側の円を含まない領域の第2のウィンドウ1
22bを構成している。
【0132】続いて、ウィンドウが十分な大きさになっ
たか否かを判断する(S4)。
【0133】ここでは、上述した初期ウィンドウ121
において、第1のウィンドウ121aと第2のウィンド
ウ121bとの間の分離度と同様に、上記拡大ウィンド
ウ122に対して第1のウィンドウ122aと第2のウ
ィンドウ122bとの間の分離度を求める。
【0134】上記のように、演算部16の分離度計算処
理部16aにて、ウィンドウを大きくしながら分離度を
計算する一方、該ウィンドウが十分な大きさになったと
判断されれば、上記ウィンドウの拡大とウィンドウの分
離度の計算とを停止する。
【0135】一方、ウィンドウが十分な大きさになって
いないと判断されれば、S2に移行し、再びウィンドウ
の拡大と、分離度の計算とを行う。
【0136】十分な大きさとは、例えば2つのウィンド
ウのうち内側のウィンドウの領域の境界線が画面をはみ
出すようになったときの大きさとする。この画面とは、
操作者が最初に取得した取得画像の画面である。このよ
うに、ウィンドウを設定することにより、このウィンド
ウによって特定物体の抽出を含む画像(抽出対象画像)
の抽出を行うことができる。
【0137】以上のようなプロセスを経ると、入力画像
である取得画像上の特定の位置について、ウィンドウを
徐々に大きくした場合に分離度の推移が見られる。すな
わち、特定物体上の任意の位置について、図10に示す
ように、分離度の推移のグラフが得られる。つまり、取
得画像は、量子化されているので、特定物体の任意の位
置に存在する画素について、当該グラフを得ることがで
きる。この取得画像上の任意の画素について、分離度の
推移グラフを得るプロセスを、分離度計測プロセスと称
する。
【0138】本実施の形態では、上記分離度計測プロセ
スを1枚の取得画像に含まれる全ての画素について行
う。例えば、図11に示す取得画像では、左上の画素か
ら右下の画素に向かって全ての画素について順に、分離
度計測プロセスを行っていることを示している。そし
て、このようにして得られた複数の分離度推移グラフの
中から、分離度の値や推移が一定のルールに従っている
ときのウィンドウの位置とウィンドウのサイズを画像抽
出処理装置12内の記憶部15に記憶する。
【0139】ここで、上記一定のルールとは、分離度に
対してしきい値を設定し、分離度計測プロセスを行って
得られる分離度が上記のしきい値を超えた場合に記憶部
15にそのときのウィンドウの位置とサイズとを記憶す
るようにするルールとする。
【0140】したがって、分離度計測プロセスによって
測定された分離度がしきい値を超えない場合には、その
ウィンドウ内に特定物体領域が含まれている可能性は低
いと判断し、次のウィンドウにおける分離度を測定する
ようにする。
【0141】次に、分離度の推移がどのように行われる
のかを図12を参照しながら以下に説明する。
【0142】ここでは、図12に示すように、均一背景
の画像中に同一画素値からなる真円形領域131のみが
存在しており、分離度計算用のウィンドウの形状も真円
形とした場合について分離度の推移の説明を行う。そし
て、ウィンドウの中心を画像中の円形領域の中心に重
ね、分離度計測プロセスを実行する。
【0143】図12では、3つのウィンドウが取得画像
中に表示されている例を示している。ここでは、例え
ば、最内部側に存在する領域を初期ウィンドウ132と
し、この初期ウィンドウ132は、内側の第1のウィン
ドウ132aと外側の第2のウィンドウ132bとで構
成されている。
【0144】この初期ウィンドウ132について、分離
度を計算した後、この初期ウィンドウ132の外側に内
側の第1のウィンドウ133aと外側の第2のウィンド
ウ133bとで構成される第1拡大ウィンドウ133が
設定される。そして、同様に、上記第1拡大ウィンドウ
133についても分離度を計算した後、この第1拡大ウ
ィンドウ133の外側に、内側の第1のウィンドウ13
4aと外側の第2のウィンドウ134bとで構成される
第2拡大ウィンドウ134が設定される。尚、初期ウィ
ンドウ132と第1拡大ウィンドウ133との間や、第
1拡大ウィンドウ133と第2拡大ウィンドウ134と
の間においもて分離度が計測される。
【0145】図12では、第1拡大ウィンドウ133の
内側の第1のウィンドウ133aの内側境界線と真円形
領域131の輪郭が一致している。
【0146】上述のような分離度計測プロセスによって
得られた分離度推移グラフを図13に示す。ここで、グ
ラフ中のウィンドウサイズaの値に相当する図12に示
すウィンドウは、初期ウィンドウ132であり、ウィン
ドウサイズcの値に相当するウィンドウは、第1拡大ウ
ィンドウ133であり、ウィンドウサイズdの値に相当
するウィンドウは、第2拡大ウィンドウ134である。
すなわち、初期ウィンドウ132は、初期サイズのウィ
ンドウであることを、また、第2拡大ウィンドウ134
は、最大サイズのウィンドウであることを示している。
また、第1拡大ウィンドウ133は、該第1拡大ウィン
ドウ133の内側境界と真円形領域131の輪郭が一致
していることを示している。
【0147】また、図13に示すグラフから、以下のこ
とが分かる。分離度計測プロセスでは、ウィンドウサイ
ズaから徐々にウィンドウサイズを大きくしながら分離
度を計算していくが、図12に示すように、初期ウィン
ドウ132においては真円形領域131内に全て含まれ
ている、すなわち内側領域の第1のウィンドウ132a
および外側領域の第2のウィンドウ132bとも全く同
じ画素値の画素で塗りつぶされた状態となっているの
で、分離度の値は0となる。この分離度の値は、ウィン
ドウの外側境界が真円形領域131の輪郭と一致するま
で0となる。
【0148】そして、ウィンドウの外側境界が真円形領
域131の輪郭を超えると、ウィンドウの外側領域に真
円形領域131を構成する画素と背景を構成する画素と
が混在することになり、分離度は上昇する。この分離度
の上昇は、ウィンドウサイズがcの値、すなわち、第1
拡大ウィンドウ133の第1のウィンドウ133aの境
界が真円形領域131の輪郭に一致するまで続く。
【0149】さらに、ウィンドウのサイズがcの値を超
えれば、ウィンドウの内側領域にも背景を構成する画素
が入ってくるため、分離度は減少に転じ、ウィンドウサ
イズが大きくなるほど分離度は減少することになる。
【0150】したがって、第1拡大ウィンドウ133の
内側領域である第1のウィンドウ133aの内側境界と
真円形領域131の輪郭が一致している点(図13のグ
ラフのcの値)で分離度が最大となるため、この点で第
1拡大ウィンドウ133の第1のウィンドウ133aで
囲まれた領域を物体領域と見なすことができる。
【0151】また、ウィンドウサイズを大きくしてい
き、分離度が0を超えた時の、該ウィンドウの外側領域
で囲まれた領域も同様に物体領域とみなすことができ
る。
【0152】ここで、実画像に上記分離度計測プロセス
を適用する場合、取得画像中の背景が完全に均一になる
ことはないので、図13において計測する分離度に適当
なしきい値s1を設定しておき、分離度がしきい値s1
を超えた時点(ウィンドウサイズb)でのウィンドウの
内側境界で囲まれた領域を物体領域とみなすか、あるい
は、分離度が一定値をとるしきい値s2(<1)以上で
最大になる時点でのウィンドウの内側境界で囲まれた領
域を物体領域と見なす。つまり、分離度は、背景と物体
との画素値の差に依存しない正規化量なので、上述した
しきい値s1、s2を適当に設定しておけば、背景、物
体の画素値(色、輝度)に関係なく同じ値で適用可能と
なっている。
【0153】以上のようにして、ユーザが所望する特定
の物体をそのなかに含む境界を検出することが可能とな
る。この境界の位置、大きさに基づいて、取得画像の一
部を切り取ることができる。例えば、図14(a)は、
取得画像中の円形の物体(目的物体)135に対して、
物体領域136が検出された状態を示しており、この物
体領域136の外接矩形137を想定し、図14(b)
に示すように、この外接矩形137に適当なマージンを
つけて拡大した矩形をもって切取矩形138としてい
る。この結果、目的物体135をその中に含むように部
分画像である切取矩形(抽出対象画像)138を取得画
像から切り取ることができる。
【0154】つぎに、取得画像から切り取られた目的の
物体を含む抽出対象画像である切取矩形138から、さ
らに該物体を抽出する処理について以下に説明する。こ
こでは、上記切取矩形138から目的物体135を抽出
するための処理について、図15および図16(a)〜
(c)を参照しながら以下に説明する。ここで、領域抽
出処理用プログラム15cが演算部16で実行されるこ
とにより抽出対象画像の抽出あるいは特定物体領域の抽
出処理が行われる。
【0155】図15に示す切取矩形138では、目的と
する物体である目的物体135がほぼ中央に配置される
と共に、抽出対象外の物体である第1の物体139、第
2の物体140が上記目的物体135の近傍に配置され
ている。また、目的物体135、第1の物体139、第
2の物体140の各物体は、それぞれ均一な色や明るさ
を有する画素で構成されているものとする。
【0156】一般に、人間が見て均一の明るさに見える
物体でも、該物体の領域中の画素の色や明るさ等を示す
画素値はまったく同一の値ではない。したがって、人間
が見て同色であると判断した画像領域内の画素の画素値
の分布を調べると、図17に示すような正規分布(正規
確率密度関数)に近似できる場合がある。この場合、平
均と分散の値から、図17で示す斜線領域Sの面積で表
される確からしさが適当な範囲に収まるときの画素値の
下限値P1および上限値P2を求めることができる。こ
のとき、確からしさの適当な範囲とは、例えば95%以
内等があげられる。
【0157】したがって、図15に示す切取矩形138
内の目的物体135においても同様のことが言える。つ
まり、目的物体135を構成する画素の画素値は正規分
布となる。また、目的物体135は、切取矩形138の
ほぼ中央にくるように配置されているので、該切取矩形
138の中央付近の画素の画素値の分布を調べることに
より、切取矩形138内の目的物体135を同定するこ
とができる。
【0158】具体的には、まず、図16(a)に示すよ
うに、切取矩形138に対してほぼ中央付近の矩形状の
領域138aを設定し、この領域138aに含まれる画
素の画素値の分布を調べることで、目的物体135の画
素の画素値の分布の近似とすることができる。
【0159】続いて、上述のようにして求めた画素値の
分布(確率密度関数)から適当な確率範囲での画素値の
下限および上限を求め、画素値がその範囲にあるものと
ないものとで、切取矩形138内の画素を分離する。分
離した結果、図16(b)に示すように、画素の一部が
欠けた目的物体135と、ノイズ成分135a…とが得
られる。この状態では、目的物体135を正確に抽出し
たことにはならないので、目的物体135の欠けた画素
を補間する補間処理(膨張/収縮処理等)と、ノイズ成
分135aの除去処理(孤立点除去処理)を行うこと
で、図16(c)に示すように、目的物体135のみを
完全に抽出した状態にすることができる。
【0160】以上の説明では、分離度計測プロセスを取
得画像のすべての位置、すなわち画素について行ってい
るが、これでは、処理に時間がかかり過ぎる虞がある。
そこで、取得画像の一点を指定して、この一点に対して
分離度計測プロセスを実行することにより処理時間を短
縮させることが考えられる。
【0161】そこで、上記のような画像処理装置とし
て、例えば図19に示すように、図2で示した画像処理
装置の画像抽出処理装置12に点指定手段としての座標
指定装置21が接続されたものが考えられる。すなわ
ち、上記画像処理装置では、座標指定装置21によって
指定された任意の取得画像上の画素について、分離度計
測プロセスを実行し、分離度の推移を得るようになって
いる。この分離度の推移を、上述したルール、すなわち
図12に示したルールで調べることにより、取得画像中
に存在し、かつ座標指定装置21によって指定された点
をその中に含むような特定物体領域を含むような画像の
一部を抽出することができる。
【0162】したがって、図2に示すような画像処理装
置では、ユーザによって取得画像中に座標が指定される
ことがないため、抽出される領域範囲は複数の候補が存
在する。その中で、上述したようなルールで適当な領域
を選択するか、あるいはユーザが複数の候補の中から一
番適当な領域を選択するか等の操作が必要となる。これ
に対して、図19に示す画像処理装置は、座標指定装置
21を備えているため、分離度計測プロセスを一度だけ
実行することにより、確実に一つの領域範囲を抽出する
ことができる。
【0163】この結果、図19に示す画像処理装置は、
図2に示す画像処理装置に比べて、領域範囲の選択にか
かる時間を短縮させることができるので、物体の抽出に
かかる全体の処理時間を短縮させることができる。
【0164】また、図19に示す画像処理装置の画像抽
出処理装置12は、図2に示す画像処理装置の画像抽出
処理装置12と同様に、特定物体領域を含むように抽出
した部分画像に対して、該部分画像の一部に仮想領域を
設定し、この仮想領域内の画像情報を取得し、この画像
情報に基づいて、上記特定物体を含み、かつ上記部分画
像よりも小さい領域を抽出するようになっている。
【0165】さらに、上記画像抽出処理装置12は、取
得した画像情報を画素の分布情報とした場合、この分布
情報から確率密度関数を求め、得られた確率密度関数を
上記部分画像に適用することで、上記特定物体を含み、
かつ上記部分画像よりも小さい領域を抽出するようにな
っている。
【0166】上記座標指定装置21において指定される
点を目的物体の抽出に使用されるウィンドウの中心に固
定することにより、バランスよく物体を配置した状態で
抽出対象画像を抽出することができる。
【0167】例えば図20に示す切取矩形138におい
て、目的物体135と第1の物体139のみを残した画
像とした場合、目的物体135の抽出に用いられるウィ
ンドウ(以下、分離度ウィンドウと称する)は、座標指
定装置21によって指定された点Xに、中心を固定した
状態で使用される。
【0168】したがって、得られる抽出対象画像は、指
定された点Xを分離度ウィンドウの中心とした領域境界
に限定される。
【0169】さらに、分離度ウィンドウの中心を固定し
た場合の抽出対象画像の抽出処理について、図19ない
し図23を参照しながら以下に説明する。
【0170】まず、図20に示すように、円形の目的物
体135が存在している取得画像において、座標指定装
置21により目的物体135の中心点にほぼ一致する点
Xが指定された時、該目的物体135を覆うような境界
線142で囲まれた領域が円形状である分離度ウィンド
ウとして得られる。このようにして得られた分離度ウィ
ンドウを用いれば、目的物体135を適切に抽出処理す
ることができる。
【0171】一方、図21に示すように、円形の目的物
体135が存在している取得画像において、座標指定装
置21により目的物体135の中心点とずれた位置に点
X’が指定されたとき、目的物体135よりも小さな範
囲を示す分離度ウィンドウの境界線142’が得られ
る。これは、ウィンドウの中心を固定して分離度測定プ
ロセスを実行しているためであり、外側ウィンドウの境
界線が境界線142’と重なった時に分離度の所定のし
きい値を超えるか、あるいは内側ウィンドウの境界線が
境界線142’に重なった時に分離度が最大になるため
である。
【0172】このように、ウィンドウの中心と、抽出す
べき物体の中心とが同位置、あるいは近傍位置にない
と、分離度ウィンドウが適切に設定されないので、誤っ
た抽出対象画像を抽出してしまう虞がある。
【0173】そこで、上記の問題を解決するために、ウ
ィンドウの中心を固定せずに適当にずらしながら分離度
測定プロセスを実行する。具体的には、ある時点での分
離度ウィンドウが図22(a)に示すような状態である
とき、次の時点のウィンドウは、図22(b)に示すよ
うに、図22(a)のウィンドウと中心が同一で、内側
および外側ウィンドウのサイズを一定のルールに従って
拡大したものが用いられる。
【0174】ここで、上記の分離度ウィンドウを用いた
場合の取得画像の抽出処理について図23(a)
(b)、図26に示すフローチャートを参照しながら以
下に説明する。
【0175】まず、座標指定装置21を用いて取得画像
上の任意の点を指定する。そして、この点を中心とし
て、内側ウィンドウ、外側ウィンドウの2つの初期ウィ
ンドウを設定する(S11)。
【0176】ここでは、図23(a)に示すように、内
側ウィンドウと外側ウィンドウとが同心円状に配置され
た初期ウィンドウ150aが設定される。尚、図23
(a)(b)において、実線で描かれた円は外側ウィン
ドウを示し、破線で描かれた円は内側ウィンドウを示す
ものとする。
【0177】次に、内側ウィンドウを固定し、複数の外
側ウィンドウを設定する(S12)。
【0178】つまり、上記初期ウィンドウ150aを元
分離度ウィンドウとし、この元分離度ウィンドウとは別
に、複数の分離度ウィンドウを設定する。ここでは、図
23(a)に示すように、初期ウィンドウ150aを含
めて、9個の分離度ウィンドウ150b〜150iが設
定される。
【0179】このとき、内側ウィンドウの位置はそのま
まで、外側ウィンドウの位置をずらしている。分離度ウ
ィンドウ150bでは、内側ウィンドウの半径分だけ、
外側ウィンドウを左上にずらしている。また、残りの分
離度ウィンドウについても同様にして、外側ウィンドウ
を内側ウィンドウの半径分だけ移動させる。すなわち、
分離度ウィンドウ150cでは上にずらし、分離度ウィ
ンドウ150dでは右上にずらし、分離度ウィンドウ1
50eでは左にずらし、分離度ウィンドウ150fでは
右にずらし、分離度ウィンドウ150gでは左下にずら
し、分離度ウィンドウ150hでは下にずらし、分離度
ウィンドウ150iでは右下にずらしている。
【0180】続いて、すべてのウィンドウの分離度を計
算する(S13)。
【0181】すなわち、図23(a)に示すように設定
された9個の分離度ウィンドウ150a〜150iの分
離度を全て計算する。
【0182】そして、分離度の一番小さいウィンドウを
選択する(S14)。このとき、分離度の最も小さい分
離度ウィンドウを最小分離度ウィンドウとして記憶して
おき、この時の分離度のを値を今回設定した9個の分離
度ウィンドウの代表分離度とする。本実施の形態では、
図23(a)に示す分離度ウィンドウ150dが最小分
離度ウィンドウとして記憶されたものとする。
【0183】続いて、S14において記憶された最小分
離度ウィンドウに対して、内側ウィンドウと外側ウィン
ドウとの中心が一致しているか否かを判断する(S1
5)。ここで、内側ウィンドウと外側ウィンドウとの中
心が一致していないと判断されれば、S16に移行す
る。一方、内側ウィンドウと外側ウィンドウとの中心が
一致していれば、S17に移行する。
【0184】すなわち、最小分離度ウィンドウが、図2
3(a)に示す分離度ウィンドウ150a以外の分離度
ウィンドウのように内側ウィンドウと外側ウィンドウと
の中心が一致していなければ、内側ウィンドウををずら
し、外側ウィンドウの中心に該内側ウィンドウの中心を
一致させる(S16)。
【0185】そして、内側ウィンドウと外側ウィンドウ
とのウィンドウサイズを若干大きくする(S17)。
【0186】すなわち、図23(b)に示すように、内
側ウィンドウと外側ウィンドウとの中心がずれている最
小分離度ウィンドウ150dに対して、内側ウィンドウ
をずらして該内側ウィンドウと外側ウィンドウとの中心
を一致させた分離度ウィンドウ150jを得る。そし
て、この分離度ウィンドウ150jのウィンドウサイズ
を若干大きくして、分離度ウィンドウ150kを得る。
【0187】したがって、S15において、S14で選
択された分離度ウィンドウの内側ウィンドウと外側ウィ
ンドウとの中心が一致していれば、すなわち、図23
(a)に示す初期ウィンドウ150aのように内側ウィ
ンドウと外側ウィンドウとの中心が一致していれば、S
17に移行してそのままウィンドウサイズを若干大きく
する。
【0188】上記のようにして、中心を一致させた新ウ
ィンドウを基にし、中心を固定して内側および外側ウィ
ンドウのサイズを一定のルールに従って拡大したもの、
すなわち、図23(b)に示す分離度ウィンドウ150
kを次のステップの元分離度ウィンドウとする。
【0189】続いて、ウィンドウが十分な大きさになっ
たか否かを判断する(S18)。
【0190】つまり、分離度ウィンドウ150kにおい
て、内側ウィンドウと外側ウィンドウとの間の分離度を
求める一方、該ウィンドウが十分な大きさになったと判
断されれば、上記ウィンドウの拡大を停止する。
【0191】一方、ウィンドウが十分な大きさになって
いないと判断されれば、S12に移行し、分離度ウィン
ドウ150kを元分離度ウィンドウとして、内側ウィン
ドウを固定して外側ウィンドウをずらした複数の分離度
ウィンドウを設定する。ここで、十分な大きさとは、例
えば2つのウィンドウのうち内側のウィンドウの領域の
境界線が画面をはみ出すようになったときの大きさとす
る。この画面とは、操作者が最初に取得した取得画像の
画面である。このように、ウィンドウを設定することに
より、このウィンドウによって特定物体の抽出を含む画
像(抽出対象画像)の抽出を行うことができる。
【0192】上述のような処理を分離度計測プロセス1
とする。
【0193】続いて、適当な大きさの分離度ウィンドウ
を用いて、抽出対象画像の境界(以下、物体境界と称す
る)を得るには、以下に示す2通りの方法がある。
【0194】方法A 上記分離度計測プロセス1で得られた分離度の系列は、
例えば図24に示すようなグラフで表せる。すなわち、
図24に示すグラフから、あるしきい値S1を超えた時
のウィンドウサイズW1の分離度ウィンドウの外側ウィ
ンドウを物体境界とすることができる。後は、この取得
画像中に存在し、かつ図19に示す画像処理装置の座標
指定装置21によって指定された点をその中に含むよう
な特定物体領域をさらにその中に含むなような抽出対象
画像を抽出できるような画像処理装置を実現できる。
【0195】方法B 上記分離度計測プロセス1にて、各ステップでの最小分
離度ウィンドウが記憶されている。この記憶された最小
分離度ウィンドウを利用して、抽出対象画像を抽出す
る。すなわち、各分離度ウィンドウの外側ウィンドウ
を、新しい分離度ウィンドウの内側ウィンドウとして、
中心を固定したままで、その内側ウィンドウを大きくし
たものを外側ウィンドウとすることで、新しい分離度ウ
ィンドウを設定する。
【0196】すなわち、分離度計測プロセス1での各ス
テップの外側ウィンドウを内側ウィンドウとする分離度
ウィンドウの系列ができることになる。
【0197】そして、この新しい分離度ウィンドウでの
分離度を計算することによって、図25に示すように、
新しい分離度の系列を示すグラフが得られる。この分離
度の系列を示すグラフから、分離度が最大となるステッ
プでの分離度ウィンドウの内側ウィンドウのサイズW2
を物体境界とすることができる。後は、この取得画像中
に存在し、かつ図19に示す画像処理装置の座標指定装
置21によって指定された点をその中に含むような特定
物体領域をさらにその中に含むなような抽出対象画像を
抽出できるような画像処理装置を実現できる。
【0198】ここまでは、取り込んだ画像、すなわち取
得画像について処理を行っているので、画像処理装置に
入力される画像が静止した状態について説明した。これ
を利用して、動画像について追跡処理を行う方法につい
て以下の実施の形態2にて説明する。
【0199】〔実施の形態2〕本発明の他の実施の形態
について説明すれば以下の通りである。尚、この処理を
行う装置としては、図2および図19に示す装置が適用
されるので、装置についての説明は省略する。
【0200】はじめに、動画追跡処理を説明するまえ
に、物体の検出について、図29および図30のフロー
チャートを参照しながら説明する。
【0201】図29は、前述した、分離度ウィンドウを
用いて、物体境界を検出する方法Aの処理の流れを示す
フローチャートである。また、図30は、前述した、分
離度ウィンドウを用いて、物体境界を検出する方法Bの
処理の流れを示すフローチャートである。
【0202】方法Aによれば、図29に示すように、ま
ず、分離度計測プロセスが実行される(S31)。ここ
での分離度計測プロセスは、図1あるいは図26で示し
た分離度計測プロセスのいずれかが実行される。
【0203】次に、得られた分離度の結果から仮想領域
(ウィンドウ)の内側境界を物体境界とする(S3
2)。すなわち、分離度ウィンドウの内側ウィンドウを
物体境界としている。
【0204】また、方法Bによれば、図30に示すよう
に、まず、分離度計測プロセスが実行される(S4
1)。ここでの分離度計測プロセスは、図1あるいは図
26で示した分離度計測プロセスのいずれかが実行され
る。
【0205】次に、得られた分離度の結果から仮想領域
(ウィンドウ)の外側境界を物体境界とする(S4
2)。すなわち、分離度ウィンドウの外側ウィンドウを
物体境界としている。
【0206】続いて、動画追跡処理について説明する。
まず、物体境界を検出する(S21)。ここでの物体検
出は、上述した方法AあるいはBにて行われる。
【0207】検出された物体境界は、図27(a)に示
すように、記憶部15に記憶された画像系列中の一枚の
画像(注目画像)中において、目的物体151に対して
得られる物体境界152である。そして、上記画像系列
中の図27(a)で示した画像の次の時刻の画像が示さ
れれば、図27(b)に示すように、目的物体151が
目的物体153の位置に移動したことが示され、このと
き、前時刻での物体境界152は同じ位置の物体境界1
54となっている。
【0208】図27(b)に示す物体の物体境界154
は、分離度計測プロセスでの内側ウィンドウあるいは外
側ウィンドウの境界である。したがって、この物体境界
154をこの画像での元ウィンドウとする。ここで、分
離度計測プロセス後の物体境界の求め方により、物体境
界154が内側ウィンドウになるか外側ウィンドウにな
るかが決定される。
【0209】そして、S21で物体検出され、元ウィン
ドウが設定された後、この元ウィンドウに対し、ウィン
ドウ位置をずらしたものを複数パターン用意する(S2
2)。すなわち、図27(b)において、図27(a)
で示した物体の物体境界152の中心位置を示す点Xを
中心として、上下左右斜め方向に該点Xから等距離の位
置に8個の点X’…を設定し、これら各点X’を中心と
する8個の境界を想定する。尚、このように目的物体が
移動する方向やパターン数、距離は、入力される画像系
列における物体の移動量や、要求される物体の追跡精度
等によって決まる。
【0210】次いで、すべてのウィンドウで分離度を計
算する(S23)。
【0211】つまり、上記物体境界154は、中心位置
が点Xであるウィンドウ境界であり、他のウィンドウ中
心である点X’に対しては、中心のずれ量と同じだけウ
ィンドウ境界もずらしている。このため、最初の中心で
ある点Xを含む9個の中心を有し、それに対応した物体
境界154を、分離度計測プロセスに使用される分離度
ウィンドウの内側ウィンドウとしている。
【0212】したがって、この内側ウィンドウに対応し
た外側ウィンドウを考えることにより、これら9個の分
離度ウィンドウでの分離度をそれぞれ計算する。
【0213】そして、分離度がもっとも大きいウィンド
ウを移動先ウィンドウとして記憶する(S24)。
【0214】つまり、図27(b)に示すように、中心
となる点Xの右斜め下の点X’1を中心とするウィンド
ウ境界を分離度ウィンドウの分離度が最も小さいと判断
された場合、図27(c)に示すように、点X’1と、
この点X’1を中心とする物体境界155とが、移動先
ウィンドウとして選択された中心およびウィンドウの内
側境界となる。
【0215】続いて、追跡しようとする物体の見かけ上
の大きさが変化しているか否かを判定する(S25)。
ここで、物体の見かけ上の大きさが変化しない場合に
は、S29に移行して、ユーザの終了指示があったか否
かを判定する。そして、ユーザの終了指示があれば、動
画追跡処理を終了する。
【0216】一方、S29で、ユーザによる終了指示が
なければ、記憶したウィンドウを次時刻画像の元ウィン
ドウとし、S22に移行する(S30)。
【0217】これにより、目的物体の見かけ上の大きさ
が変化しない場合には、S24で記憶したウィンドウを
次時刻の元ウィンドウとして処理を繰り返すようにな
り、結果として、目的物体の追跡を行うこととなる。こ
れにより、取得画像中の目的物体の見かけ上の大きさが
変化しないとき、すなわち、目的物体の移動がカメラと
平行である場合の物体の移動の追跡ができたことにな
る。
【0218】一方、S25において、目的物体の見かけ
上の大きさが変化していると判定さた場合、すなわち、
カメラに対して奥行き方向にも目的物体が移動する場
合、上記のカメラに対する平行移動の追跡に加え、奥行
き方向の移動も追跡する必要がある。
【0219】そこで、図27(d)において、目的物体
153の平行移動が追跡された際のウィンドウ境界およ
びその中心点が、物体境界155と点X’1となってい
る。この物体境界155と点X’1とをこの画像におけ
る元ウィンドウとする。
【0220】したがって、移動先ウィンドウの中心を固
定し、大きさを変えたウィンドウを複数パターン用意す
る(S26)。ここで、ウィンドウの中心となる点X’
1を固定し、ウィンドウの大きさを一定量小さくしたも
のと大きくしたものとを設定する。
【0221】図27(d)では、元ウィンドウよりも小
さくした縮小ウィンドウ156と、元ウィンドウよりも
大きくした拡大ウィンドウ157との2種類設定してい
る。尚、この縮小ウィンドウ156の数と拡大ウィンド
ウ157の数はこれに限定するものではない。
【0222】そして、これらの各ウィンドウを内側ウィ
ンドウとして、これに対応する外側ウィンドウをそれぞ
れ設定して分離度計測プロセスで使用する分離度ウィン
ドウとする。この分離度ウィンドウの個数や大きさの変
化量は、入力される画像系列における物体の移動量や、
要求される物体の追跡精度等によって決まる。
【0223】続いて、すべてのウィンドウで分離度を計
算する(S27)。すなわち、元ウィンドウを含めて、
上記のように設定した分離度ウィンドウにおける分離度
を計算する。
【0224】そして、分離度がもっとも大きいウィンド
ウを移動先ウィンドウとして記憶する(S28)。図2
7(d)においては、縮小ウィンドウ156の物体境界
が移動先ウィンドウとして選択されたウィンドウの内側
境界となる。
【0225】次に、ユーザによる終了指示があったか否
かが判定される(S29)。ここで、ユーザにより終了
が指示されれば、動画追跡の処理を終了する。また、ユ
ーザが終了指示していなければ、S30に移行し、S2
8で記憶したウィンドウを次時刻画像の元ウィンドウと
する。そして、再びS22に移行して、処理を繰り返
す。これらの処理を繰り返すことで目的物体の奥行き方
向の追跡を行うことができる。
【0226】したがって、例えばビデオカメラ等に上述
した動画像を追跡する機能を追加することにより、様々
な分野において利用が考えられる。
【0227】例えば、動画像を追跡する機能をビデオカ
メラに持たせることにより、被写体を常にフレームの中
心にくるように制御することが考えられる。
【0228】また、被写体を部屋内の人物とした場合
に、この人物の動きに合わせてエアコンの出力を微妙に
調整することが考えられる。
【0229】さらに、被写体の追跡機能を有するビデオ
カメラを自動車に取り付けて、他の車や障害物を追跡し
て自動運転等に応用することも考えられる。
【0230】以上の実施の形態1および2では、抽出対
象となる物体、すなわち目的物体について主に抽出方法
を具体的に説明しているが、以下の実施の形態3では、
目的物体の具体例として人間の顔を用いた場合について
説明する。
【0231】〔実施の形態3〕本発明のさらに他の実施
の形態について以下に説明する。
【0232】尚、本実施の形態では、画像処理装置の構
成および特定物体の抽出方法については、前記実施の形
態1および2と同じとし、その説明は省略する。したが
って、以下の説明は、静止画像および動画像のいずれで
も適用可能であり、前記実施の形態1および2で説明し
た特定物体の抽出方法についていずれの方法でも適用可
能である。
【0233】すなわち、前記実施の形態1および2で説
明した画像処理装置において、分離度を計算する時の画
素値、および特定物体を構成する画素値を、取得画像で
ある入力デジタル画像を構成する画措置のRGB値から
計算される彩度値、あるいは色相値とすることで、人間
の顔を抽出するのに適した構成にすることができる。
【0234】具体的に示すと、図2あるいは図19に示
す画像処理装置の画像抽出手段である画像抽出処理装置
12は、抽出された人間の顔領域内部の画像情報を取得
する手段と、上記画像情報より、顔の幅、左右の対称
軸、目、鼻、口の垂直位置からなる数値情報を検出する
手段とを含み、上記数値情報に基づいて、上記顔領域に
含まれる顔部分が一定の大きさおよび位置になるよう
に、取得画像の一部を抽出することになる。
【0235】ここで、特定物体領域を人間の顔領域とし
た場合の該特定物体領域の抽出処理の詳細について以下
に説明する。尚、以下の説明で処理される手順は、顔パ
ラメータ検出処理用プログラム15bに基づいて演算部
16内で行われるものとする。
【0236】本処理を始める前に、予め以下の手順で人
問の顔の肌の色分布を解析しておく。すなわち、 1.人間が手作業により、人物顔が写っている画像(図
31(a))より顔の肌部分のみを抽出した画像(図3
1(b))を作成する。
【0237】2.同様の画像を別の人物についても作成
し、複数人数分の画像を作成する。
【0238】3.それら肌部分画像において、画素の色
分布を、図32に示す出現頻度のヒストグラムとして表
す。すなわち、図32(a)に示す曲線32aは色相の
ヒストグラム、図32(b)に示す曲線32cは彩度の
ヒストグラム、図32(c)に示す曲線32eは明度の
ヒストグラムを示している。
【0239】4.各ヒストグラムにて、分布の平均と分
散を求め、分布に最もよくフィットするような正規確率
密度関数を求める。色相、彩度、明度の各正規確率密度
関数は、それぞれ図32(a)では曲線32b、図32
(b)では曲線32d、図32(c)では曲線32fで
示される。
【0240】かくして、顔の肌の色分布は、色相、彩
度、明度それぞれについて、その平均値と分散(それぞ
れ、μhue 、σhue 2 、μsat 、σsat 2 、μval 、σ
val 2)の2つの引数で表される正規確率密度関数(Ph
ue(hue)、Psat(sat)、Pval(val)) で表すことができ
る。この関数を、肌領域確率密度関数と呼ぶ。各関数は
以下の式(4)〜(6)で表される。
【0241】 Phue(hue)〜N( μhue,σhue2)・・・(4) Psat(sat)〜N(μsat,σsat2)・・・(5) Pval(val)〜N(μval,σval2)・・・(6) なお、平均と分散を求めて正規分布にあてはめる際、平
均から大きくずれるような値(例えば、図32(a)の
色相の分布ヒストグラム(曲線32a)において、20
位を中心に±30程度にほとんどの画素の色相が分布す
るような場合に、100や−150といった値)は、例
え数が少なくとも、分散を大きく見積もってしまうこと
になるため、それらの色相値を持つ画素は異常値として
除去したのち、平均と分散を計算したほうが、より正し
い分布にあてはめられる正規分布曲線(確率密度関数)
を得ることができる。
【0242】さて、顔肌領域画像の生成の処理の流れに
ついて、図33に示すフローチャートおよび図34を参
照しながら以下に説明する。
【0243】まず、ユーザによる位置あるいは領域の指
定が行われる(S51)。すなわち、ユーザ入力に基づ
き最初の処理領域を設定する。例えば図16に示す目的
物体135を人物顔とした場合、図34(a)に示すよ
うに、元画像より切り取られた画像34aの中央付近に
サンプリング用の矩形、すなわち設定領域矩形34bを
設定する。そして、この設定領域矩形34b内の画素値
を調べて、後段の確率密度関数を導出する。
【0244】続いて、設定領域矩形34b内にて、色
相、彩度、明度のいずれかが、一定の確率以下の画素、
あるいは色相値、彩度値、明度値が特定の範囲外にある
画素を除く(S52)。すなわち、設定領域内にて、前
節で求めた色相、彩度、明度をそれぞれ引数とする3つ
の正規確率密度関数に、各画素の色相値、彩度値、明度
値を代入して確率を求め、各確率が特定の比率以上にな
るような画素を最初の顔肌候補画素とする。この時、設
定する確率は、例えば5%のように、なるべく広い範囲
をとるように小さめに設定すべきである。このようにし
て、ユーザ指定によって設定された領域のなかで、多少
なりとも肌である可能性のある画素を最初の肌候補画素
とする。
【0245】そして、残った画素の色相、彩度、明度の
平均および分散を求める(S53)。ここで、肌候補画
素の選択を、確率を基準にして行うことを述べたが、撮
像系の特性などにより、適宜、この確率での画素値(色
相、彩度、明度)に近い値で適当にしきい値を調整する
ことも有効である。
【0246】新しく計算された色相、彩度、明度の平
均、分散をそれぞれ、μhue ’、σhue ’2 、μsat
’、σsat ’2 、μval ’、σval ’2 とすると、色
相、彩度、明度を引数とした新しい確率密度関数 (Phu
e(hue)、Psat ’(sat) 、Pval ’(val))はそれぞれ、
以下の式(7)〜(9)で表される。
【0247】 Phue ’(hue) 〜N( μhue ’, σhue ’2 )・・・(7) Psat ’(sat) 〜N( μsat ’, σsat ’2 )・・・(8) Pval ’(val) 〜N( μval ’, σval ’2 )・・・(9) 上記の式(7)〜(9)で示された確率密度関数を用い
て顔肌を構成する画素を選択する。
【0248】すなわち、S53で求めた色相の平均と分
散にもとづく正規確率密度関数を用い、画像全体に含ま
れるすべての画素から、一定の確率以下の画素、あるい
は色相値が特定の範囲外にある画素を除く(S54)。
【0249】具体的には、画像に含まれるすべての画素
を初期値とし、そのなかで、色相値を引数として得られ
た顔肌確率(Phue ’(hue) )が一定値以下の画素を除
去する。
【0250】次いで、S54の処理で残った画素のう
ち、S53で求めた彩度の平均と分散にもとづく正規確
率密度関数を用い、一定の確率以下の画素、あるいは彩
度値が特定の範囲外にある画素を除く(S55)。
【0251】具体的には、彩度値を引数として得られた
顔肌確率(Phue ’(sat) )が一定値以下の画素を除去
する。
【0252】次いで、S55の処理で残った画素のう
ち、S53で求めた明度の平均と分散にもとづく正規確
率密度関数を用い、一定の確率以下の画素、あるいは明
度値が特定の範囲外にある画素を除く(S56)。
【0253】具体的には、明度値を引数として得られた
顔肌確率(Phue ’(val) )が一定値以下の画素を除去
する。
【0254】最後に、上記の各処理において残った画素
の集合を顔肌領域画像とする(S57)。すなわち、図
34(b)に示すような顔肌領域画像34cが得られ
る。得られた顔肌領域画像34cは、さらに、後述の顔
マスクの生成処理によって、図34(c)に示すような
顔マスク34dとなる。
【0255】ここで、しきい値として設定される確率の
下限は、最初の顔肌候補画素を求めた時より高く設定す
る。例えば、前者が5%なら、後者は30%というよう
にする。これにより、最初の顔肌候補画素を求めた時に
ノイズとして誤抽出されていたような画素も、後段で行
われた手法では誤抽出されないといった特徴があること
になる。
【0256】ここで、顔肌画素の選択を、確率を基準に
して行うことを述べたが、撮像系の特性などにより、適
宜、この確率での画素値(色相、彩度、明度)に近い値
で適当にしきい値を調整することも有効である。
【0257】例えば、図35(a)(b)は明度と頻度
の関係を表す図である。すなわち、図35(a)に示す
画像の明度に関して言及すると、顔肌と髪の毛では明ら
かに明度が異なり、図35(b)に示すヒストグラムを
とると明度値の小さいほうに髪の毛を表す山35aおよ
び、明度の比較的高いほうに顔肌領域を表す山35bが
現れることになる。
【0258】図35(a)に示した画像に対して、単純
に確率をしきい値として画素を選択してしまうと、図3
5(b)の35cのような位置にしきい値が設定されて
しまい、髪の毛の一部も顔肌画素として抽出されてしま
う可能性がある。そこで、このような場合には、適当な
明度値以下で大津の判別分析のようなアルゴリズム(谷
内田、“ロボットビジョン”、昭晃堂、ISBN4-7856-307
4-4 C3355 、1990.に紹介)を適用し、明度のしきい値
を35dのように、より適当な値に設定することが可能
となる。
【0259】以上のような方法で、適応的に顔肌関数を
更新することにより、図36(a)に示すような処理対
象画像の場合、図36(c)に示すような顔肌領域画像
を得ることができる。これは、従来のような固定関数で
抽出する手法で得られる顔肌領域画像(図36(b))
に比べ、ノイズによる誤抽出が少なくなるという利点が
ある。
【0260】続いて、顔の幅、左右の対称軸、目、鼻、
口の垂直位置からなる数値情報を得るのに用いられる顔
マスクの生成処理について、図37のフローチャートお
よび図38を参照しながら以下に説明する。尚、ここで
は、取得画像としてカラー画像を用いて説明するので、
以下の説明において取得画像を入力カラー画像とする。
【0261】まず、顔肌領域画像の生成を行う(S6
1)。この顔肌領域画像は、例えば図34(b)に示す
ように、図33に示す処理(S51〜S57)によって
生成される。
【0262】次いで、生成された顔肌領域画像に対して
最大面積領域を選択する(S62)。例えばS61によ
って得られた顔肌領域画像に対し、図38(a)に示す
ような入力カラー画像に対して図38(c)に示すよう
に、まず、連結画素を結合していくことによりラベル画
像を作成し、もっとも大きな面積をもつラベル領域のみ
を残し、図38(d)に示すような2値画像とする。
【0263】続いて、穴埋め処理を行う(S63)。こ
こで、残った領域について、白色画素で囲まれた黒色画
素(穴)を白色画素に置き換えることにより、図38
(e)に示すように、穴を塞いだ画像とする。
【0264】そして、1回収縮処理を施す(S64)。
つまり、S63で得られた画像に対し、収縮処理を1回
施す。
【0265】次いで、最大面積領域を選択する(S6
5)。つまり、収縮処理を施した画像に対して、この時
点で再びラベル画像を作成し、最大面積領域のみを残
す。
【0266】続いて、n回膨張処理を施す(S66)。
その後、n回収縮処理を施す(S67)。続いて、最大
面積領域を選択し(S68)、これによって、図38
(f)に示すような顔マスクが得られる。
【0267】したがって、上記の顔マスクの生成処理に
よって、上述したように、図34(b)に示す顔肌領域
画像34cから、図34(c)に示す顔マスク34dが
得られる。
【0268】ここでnは、3〜4などの、画像サイズや
特性などにより適当な値を選択すべきである。なお、膨
張処理、収縮処理は(谷内田、“ロボットビジョン”、
昭晃堂、ISBN4-7856-3074-4 C3355 、1990.に紹介)な
どに紹介されている。
【0269】上記の顔マスク生成処理において得られた
顔マスク(図38(f))は、以下に示す顔の中心軸を
検出するための処理等における処理範囲を限定するのに
用いる。
【0270】ここで、顔の中心軸を検出するための処理
の流れについて、図39のフローチャートおよび図38
を参照しながら以下に説明する。
【0271】まず、顔マスクを生成する(S71)。こ
こでは、図37に示す処理の流れによって顔マスクを生
成するものとする。
【0272】S71における顔マスクの生成と並行し
て、入力カラー画像を濃淡画像に変換する(S72)。
例えば図38(a)に示す入力カラー画像より輝度成分
のみを取り出し、図38(b)に示すような濃淡画像を
得る。
【0273】次に、顔マスク内のみ濃淡画像を垂直方向
に微分する(S73)。すなわち、図38(b)に示す
濃淡画像に対し、図38(f)に示す顔マスクの白画素
に対応する画素における垂直方向の微分値を画素値とす
る微分画像を得る。この微分画像は、例えば図38
(g)のようになる。
【0274】なお、この微分画像において、顔マスクの
黒画素に対応する画素の画素値は0とする。ここで、微
分画像を得るためには、Prewittのオペレータな
どによる方法が一般的である(谷内田、“ロボットビジ
ョン”、昭晃堂、ISBN4-7856-3074-4 C3355 、199
0.)。
【0275】続いて、得られた微分画像を垂直方向に投
影して、ヒストグラムを得る(S74)。このようにし
て得られたヒストグラムは、図38(h)のようにな
る。
【0276】次いで、上記ヒストグラムの折り返し誤差
が最小になる位置を検出する(S75)。ここで、ヒス
トグラムの垂直方向の軸は、該当する水平位置での微分
画像における画素値の合計が示される。そして、図40
(a)に示すように、ヒストグラムを左右に分割するよ
うな垂直の軸を考え、この軸に添ってヒストグラムを折
り曲げて重ねた時、図40(b)に示すように、対応す
る縦軸の値の差の2乗和が最小となるような軸の位置を
探し、これをもって顔の中心軸(図40(c))を表す
ものとする。
【0277】次に、鼻の垂直位置の検出処理の流れにつ
いて、図41のフローチャートおよび図42を参照しな
がら以下に説明する。
【0278】まず、顔マスクの生成を行う(S81)と
共に、入力カラー画像を濃淡画像に変換する(S8
2)。ここで、顔マスクおよび濃淡画像は、図42
(a)に示す入力カラー画像から生成および変換される
ものであり、図42(c)に示すように、顔マスクが生
成され、図42(b)に示すような濃淡画像に変換され
る。
【0279】次いで、顔マスク内のみ濃淡画像を水平方
向に投影する(S83)。すなわち、顔マスク内のみ濃
淡画像を水平方向に探索し、図42(d)に示すような
輝度値の平均値を投影したヒストグラムを生成する。
【0280】続いて、低解像度のヒストグラムを生成す
る(S84)。つまり、図42(e)に示すような生成
されたヒストグラムの解像度を低下させたヒストグラム
を生成する。
【0281】次に、低解像度のヒストグラムにて中央付
近のピーク位置を探す(S85)。例えば図42(e)
において、ヒストグラムのピーク位置42aが探索され
る。
【0282】そして、ピークが存在するか否かを判定す
る(S86)。ここで、ピークが存在しない場合、ヒス
トグラムの中央を鼻の垂直位置とする(S88)。
【0283】一方、S86においてピークが存在してい
ると判定されれば、S85で検出された、ピーク位置に
対応する元解像度のヒストグラム位置の近辺を探索し、
そのピーク位置を鼻の垂直位置とする(S87)。
【0284】このように、ピークが見つかった場合、低
解像度ヒストグラムで検出されたピーク位置に対応する
元解像度ヒストグラムの位置の近傍を探索し、ピークを
探す。すなわち、図42(f)において、ヒストグラム
のピーク位置42bが探索される。このピーク位置42
bをもって、図42(g)に示すように、鼻の垂直位置
42cとする。
【0285】次に、目の垂直位置を検出処理の流れにつ
いて、図43のフローチャートおよび図44を参照しな
がら以下に説明する。
【0286】まず、水平方向のヒストグラム生成を行う
(S91)。この水平方向のヒストグラム生成は、前述
の図41に示すフローチャートで示した方法と同じ方法
で行われる。生成された水平方向のヒストグラムは、図
44(a)に示すようになる。
【0287】次いで、ヒストグラムの鼻の垂直位置より
上を探索し、深いほうから2つの谷を見つける(S9
2)。
【0288】そして、谷が2つ見つかったか否かを判定
する(S93)。ここで、谷が2つ見つかれば、2つの
谷のうち下の方を目の垂直位置として選択する(S9
4)。すなわち、生成された水平方向のヒストグラムに
て、図41に示すフローチャートによって検出された鼻
の垂直位置、図44(a)に示す位置44aより上方位
置の範囲44bを探索し、図44(b)に示すように、
深いほうから谷を2つ検出する(谷44c,谷44
d)。谷が2つ見つかった場合、この2つの谷のうち、
下方の谷44cを目の垂直位置とする。
【0289】一方、S93で谷が2つでないと判定され
れば、さらに谷が1つだけ見つかったか否かを判定する
(S95)。ここで、谷が1つだけみつかれば、見つか
った谷を目の垂直位置とする(S96)。すなわち、谷
が1つだけ見つかった場合は、その谷を目の垂直位置と
する。
【0290】また、S95において、谷が1つもみつか
らなかった場合、鼻の垂直位置からヒストグラムの上端
の中央を目の垂直位置とする(S97)。すなわち、谷
が1つも見つからない場合は、鼻の垂直位置とヒストグ
ラムの上端との中央を目の垂直位置とする。つまり、図
44(c)における目の垂直位置44eとなる。
【0291】続いて、口の垂直位置の検出処理の流れに
ついて、図45のフローチャートおよび図46を参照し
ながら以下に説明する。
【0292】まず、水平方向のヒストグラム生成を行う
(S101)。この水平方向のヒストグラム生成は、前
述の図41に示すフローチャートで示した方法と同じ方
法で行われる。生成された水平方向のヒストグラムは、
図46(a)に示すようになる。
【0293】次いで、ヒストグラムの垂直位置より下方
を探索し、深いほうから3つの谷を見つける(S10
2)。
【0294】そして、谷が3つ見つかったか否かを判定
する(S103)。ここで、谷が3つ見つかった場合、
真ん中の谷位置を口の垂直位置とする(S104)。
【0295】すなわち、図46(a)に示すヒストグラ
ムにて、すでに検出されている鼻の垂直位置46aより
下方の範囲46bを探索し、図46(b)に示すよう
に、深いほうから谷位置46c〜46eの3つを検出す
る。谷が3つ見つかった場合、真ん中の谷位置46d
を、口の垂直位置とする。図46(c)における口の垂
直位置46fとなる。
【0296】一方、S103で谷が3つ見つからなけれ
ば、谷が2つみつかったか否かを判定する(S10
5)。ここで、谷が2つみつかった場合、2つの谷位置
での顔マスクの幅の比が特定の値を超えたか否かを判定
する(S106)。
【0297】S106において、顔マスクの幅の比が特
定の値を超えていなければ、2つの谷のうち、下方の谷
位置を口の垂直位置とする(S108)。
【0298】また、S106において、顔マスクの幅の
比が特定の値を超えていれば、2つの谷のうち上方の谷
位置を口の垂直位置とする(S107)。
【0299】すなわち、谷が2つしか見つからない場合
は、まず、図46(d)に示すように、2つの谷位置に
おける顔マスクの幅46g,46hを検出する。上の谷
位置での顔マスクの幅46gに対する、下の谷位置での
顔マスクの幅46hの比を求め、その値が一定の値(例
えば、0.7など)を超えた場合、2つの谷のうち上方
の谷位置を口の垂直位置とする。そうでない場合は、下
方の谷位置を口の垂直位置とする。
【0300】一方、S105において、谷が2つ見つか
らない場合、谷が1つ見つかったか否かが判定される
(S109)。ここで、谷が1つ見つかった場合、見つ
かった谷を口の垂直位置とする(S110)。また、谷
が1つも見つからない場合、鼻の垂直位置からヒストグ
ラムの下端の中央を口の垂直位置とする(S111)。
【0301】以上のようにして、図47に示すように、
顔マスク47a、目の垂直位置47b、口の垂直位置4
7cが得られる。このように、目の垂直位置から口の垂
直位置まで順に、水平に画素を探索して顔マスク47a
の幅を求める。当該区間における顔マスク47aの幅の
中央値をもって、顔の幅47dとする。
【0302】続いて、上述のように、顔マスク、顔の中
心軸、目・口の垂直位置より目〜口の高さ、顔の幅が検
出された後、これらの情報を用い、顔のサイズ、水平位
置、垂直位置がバランスよく収まるように顔が含まれる
ように、原画像から画像の一部を矩形状に切り出す処理
の流れについて、図48のフローチャートを参照しなが
ら以下に説明するまず、横幅の計測に失敗していないか
否かを判定する(S121)。すなわち、はじめに顔の
横幅が信用できるかどうかの判定を行なう。上述したよ
うに、目の垂直位置から口の垂直位置まで順に、水平に
画素を探索することによって顔の横幅を検出している。
そして、前述したように、顔の中心軸も得られており、
当該中心軸より左側を左顔幅、右側を右顔幅とする。
【0303】したがって、顔の横幅の計測の失敗の有無
は、左顔幅、右顔幅が0ではないことを確認することに
よって判定することができる。
【0304】そして、S121にて顔幅の計測が失敗で
ないと判定されれば、左右の比率があまりにも大き過ぎ
ないか否かを判定する(S122)。すなわち、左顔幅
と右顔幅の比率を計算し、この比率が予め設定したしき
い値の範囲内に入っているか否かを確認する。
【0305】S122にて左右の比率が大き過ぎない場
合、すなわち、左右の顔幅の比率が予め設定されたしき
い値の範囲内に入っている場合、目〜口高さとユーザ指
定の比が大き過ぎないか否かを判定する(S123)。
【0306】つまり、S123では、顔の横幅が信用で
きるとした場合に、次に検出した目〜口の高さが信用で
きるか否かの判定を行なう。この判定方法として、例え
ば検出した目〜口高さと入力画像から抽出された抽出画
像の高さとの比率を計算し、この比率が予め設定したし
きい値の範囲内に入っていることを確認する。
【0307】そして、S123にて顔の横幅が信用でき
ると判定された場合、目〜口高さおよび顔幅の重み付き
平均から切り出し矩形を決定する(S124)。すなわ
ち、顔の横幅及び目〜口の高さの両方が信用できる場合
には、両方の値から切り出し矩形を決定する。具体的に
は、まず検出した顔の中心軸及び検出した鼻の垂直位置
を基準点とする。次に顔の横幅及び目〜口の高さに予め
設定した倍率を掛けて重み付き相加平均を計算する。基
準点から上下左右それぞれの方向に対し予め設定した倍
率を先ほど計算した平均に掛けた長さを取り、それによ
り得られる矩形を切り出し矩形とする。
【0308】一方、S123にて目〜口の高さが信用で
きないと判定された場合、横幅のみから切り出し矩形を
決定する(S125)。すなわち、目〜口高さの比率が
しきい値の範囲外であった場合には検出した目及び口の
垂直位置(及び目〜口の高さ)は信用できないとし、顔
の横幅から切り出し矩形を決定する。具体的には、検出
した顔の中心軸及びユーザ指定により得られる矩形の縦
方向の中心を基準点とし、上下左右それぞれの方向に対
し予め設定した倍率を顔の横幅に掛けた長さを取り、そ
れにより得られる矩形を切り出し矩形とする。
【0309】また、S121で横幅の計測に失敗した場
合、あるいはS122で左右の比率がしきい値の範囲外
であった場合には、推定した顔の横幅は信用できないと
し、検出した目〜口の高さより切り出し矩形を決定する
(S126)。具体的には、検出した顔の中心線及び検
出した鼻の位置を基準点とし、上下左右それぞれの方向
に対し予め設定した倍率を目〜口の高さに掛けた長さを
取り、それにより得られる矩形を切り出し矩形とする。
【0310】最後に、S124〜S126にて求められ
た切り出し矩形と設定領域矩形の比率が大き過ぎないか
否かを判定する(S127)。すなわち、切り出し矩形
のサイズと設定領域矩形から求められる矩形サイズの比
率を計算し、この比率が予め設定したしきい値の範囲内
に入っているか否かを判定する。ここで、設定領域矩形
とは、前記実施の形態1の画像処理装置にて目的物体1
35に対して得られる物体領域136に相当するもので
ある。
【0311】S127にて、比率がしきい値の範囲内に
入っている場合には、処理を終了する。
【0312】一方、S127にて、比率がしきい値の範
囲内に入っていなかった場合には、切り出し矩形は適当
でないとし、設定領域矩形から切り出し矩形を決定する
(S128)。具体的には、設定領域矩形の中心を基準
点とし、この基準点から上下左右それぞれの方向に対し
予め設定した倍率を当該矩形の縦の長さに掛けた長さを
取り、それにより得られる矩形を切り出し矩形とする。
【0313】以上のように特定物体領域を人間の顔領域
とした場合、人物の写った写真等の画像から、所望する
人間の画像をバランス良く抽出することができる。この
とき、人間の顔領域から得られる画像情報に基づいて該
顔領域を抽出することにより、正確、かつ迅速に顔領域
を抽出することができる。
【0314】
【発明の効果】請求項1の発明の画像処理装置は、以上
のように、外部から取得した画像から抽出対象となる特
定物体領域を含む部分画像を抽出する画像処理装置にお
いて、互いに排他である2つの仮想領域を取得画像中に
設定し、これら仮想領域間の分離度に基づいて上記部分
画像を抽出する画像抽出処理手段を有している構成であ
る。
【0315】それゆえ、設定された2つの仮想領域間の
分離度に基づいて、取得画像から特定物体領域を含む部
分画像を抽出するようになっているので、抽出しようと
する特定物体領域とその他の画像領域とを明確に区別す
ることができる。すなわち、2つの仮想領域間の分離度
を求めることで、該仮想領域内に特定物体領域が含まれ
た状態を検出することができる。
【0316】これにより、仮想領域内に特定物体領域が
含まれたことを検出した場合に、この仮想領域を含むよ
うな画像を、部分画像とすれば、必然的に特定物体領域
は部分画像中でバランス良く配置された状態となる。
【0317】したがって、上記画像抽出処理手段を用い
れば、特定物体領域を抽出する部分画像中にバランス良
く配置した状態で、確実に、かつ高速に該部分画像を抽
出することができるという効果を奏する。
【0318】上記の画像抽出処理手段を実現するために
は、例えば請求項2の発明の画像処理装置が適用され
る。
【0319】すなわち、請求項2の発明の画像処理装置
は、以上のように、請求項1の構成に加えて、上記画像
抽出処理手段は、取得された画像中の互いに排他である
2つの仮想領域を設定する領域設定手段と、上記各仮想
領域内の画像情報を取得する画像情報取得手段と、上記
画像情報から上記の2つの仮想領域間の分離度を算出す
る算出手段と、得られた分離度に基づいて取得画像中に
存在する特定物体領域を、その中に含むように画像の一
部を抽出する画像抽出手段とを含む構成である。
【0320】さらに、抽出した部分画像から特定物体領
域を抽出するためには、例えば請求項3の発明の画像処
理装置が適用される。
【0321】すなわち、請求項3の発明の画像処理装置
は、以上のように、請求項2の構成に加えて、画像抽出
手段は、特定物体領域を含むように抽出した部分画像に
対して、該部分画像の一部にさらに仮想領域を設定し、
この仮想領域内の画像情報を取得し、この画像情報に基
づいて、上記特定物体領域を含み、かつ上記部分画像よ
りも小さい領域を抽出する構成である。
【0322】また、上記画像情報は、請求項4の発明の
画像処理装置に記載のように画素の分布情報としても良
い。この場合、請求項4の画像処理装置は、以上のよう
に、請求項3の構成に加えて、取得した画像情報を画素
の分布情報とした場合、この分布情報から確率密度関数
を求め、得られた確率密度関数を上記部分画像に適用す
ることで、上記特定物体領域を含み、かつ上記部分画像
よりも小さい領域を抽出する構成である。
【0323】また、請求項5の発明の画像処理装置は、
以上のように、請求項1ないし4のいずれかの構成に加
えて、特定物体領域が人間の顔領域である構成である。
【0324】このように、特定物体領域を人間の顔領域
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができるという効果を奏する。
【0325】また、請求項6の発明の画像処理装置は、
以上のように、請求項5の構成に加えて、画像抽出手段
は、抽出された人間の顔領域内部の画像情報を取得する
手段と、上記画像情報より、顔の幅、左右の対称軸、
目、鼻、口の垂直位置からなる数値情報を検出する手段
とを含み、上記数値情報に基づいて、上記顔領域に含ま
れる顔部分が一定の大きさおよび位置になるように、取
得画像の一部を抽出する構成である。
【0326】また、請求項7の発明の画像処理装置は、
以上のように、請求項1の構成に加えて、取得画像中の
任意の1点を指定する点指定手段を有し、画像抽出処理
手段は、上記点指定手段により取得画像中に存在する特
定物体領域の中央の1点が指定された場合、この指定点
を中に含むような第1の仮想領域と、この第1の仮想領
域と排他的な第2の仮想領域とを設定する領域設定手段
と、これら2つの仮想領域に含まれる画像情報に基づい
て、該2つの仮想領域間の分離度を算出する算出手段
と、上記2つの仮想領域の大きさを逐次変更することに
よって得られる分離度の系列から、取得画像中に存在
し、かつ点指定手段によって指定された点をその中央に
含むような特定物体領域を、その中央に含むように画像
の一部を抽出する画像抽出手段とを含む構成である。
【0327】それゆえ、請求項1の作用に加えて、特定
物体領域の中央の1点が指定され、この点に基づいて仮
想領域が設定されるので、仮想領域間の分離度の計算が
少なくて済む。この結果、部分画像の抽出にかかる時間
を大幅に短縮させることができるという効果を奏する。
【0328】また、請求項8の発明の画像処理装置は、
以上のように、請求項7の構成に加えて、画像抽出手段
は、特定物体領域を含むように抽出した部分画像に対し
て、該部分画像の一部に仮想領域を設定し、この仮想領
域内の画像情報を取得し、この画像情報に基づいて、上
記特定物体領域を含み、かつ上記部分画像よりも小さい
領域を抽出する構成である。
【0329】請求項3では、複数の領域候補である部分
画像が抽出され、その中から適当なものを選択する必要
があるが、請求項8の構成によれば、点指定手段によっ
て特定物体領域の一点が指定され、この指定された点に
基づいて部分画像が抽出されるようになるので、部分画
像から確実に特定物体領域を抽出することができるとい
う効果を奏する。
【0330】また、上記画像情報は、請求項9の発明の
画像処理装置に記載のように画素の分布情報としても良
い。この場合、請求項9の発明の画像処理装置は、以上
のように、請求項8の構成に加えて、取得した画像情報
を画素の分布情報とした場合、この分布情報から確率密
度関数を求め、得られた確率密度関数を上記部分画像に
適用することで、上記特定物体領域を含み、かつ上記部
分画像よりも小さい領域を抽出する構成である。
【0331】さらに、請求項10の発明の画像処理装置
は、以上のように、請求項7ないし9のいずれかの構成
に加えて、特定物体領域が人間の顔領域である構成であ
る。
【0332】このように、特定物体領域を人間の顔領域
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができるという効果を奏する。
【0333】しかも、点指定手段により特定物体領域の
一点が指定されているので、確実に一つの人間の顔領域
を抽出することができるという効果を奏する。
【0334】また、請求項11の発明の画像処理装置
は、以上のように、請求項10の構成に加えて、画像抽
出手段は、抽出された人間の顔領域内部の画像情報を取
得する手段と、上記画像情報より、顔の幅、左右の対称
軸、目、鼻、口の垂直位置からなる数値情報を検出する
手段とを含み、上記数値情報に基づいて、上記顔領域に
含まれる顔部分が一定の大きさおよび位置になるよう
に、取得画像の一部を抽出する構成である。
【0335】それゆえ、請求項11の作用に加えて、人
間の顔領域からポートレート画像を抽出する場合、確実
に一つのポートレート画像を抽出することができるとい
う効果を奏する。
【0336】請求項12の発明の画像処理装置は、以上
のように、請求項7の構成に加えて、画像抽出処理手段
は、上記点指定手段により取得画像中に存在する特定物
体領域の中央でない位置に点が指定された場合、設定さ
れる仮想領域の大きさと位置、あるいは仮想領域の大き
さ、位置と形状を逐次更新することによって得られる分
離度の系列から、取得画像中に存在し、かつ点指定手段
によって指定された点をその中に含むような特定物体領
域を、その中に含むように画像の一部を抽出する構成で
ある。
【0337】ところで、仮想領域の中心位置と特定物体
領域の中心位置とがほぼ同位置にある場合には、点指定
手段により特定物体領域のほぼ中央に点を指定しても問
題はないが、仮想領域の中心位置と特定物体領域の中心
位置とが大きくずれている場合には、特定物体領域の中
央に点を指定してもうまく仮想領域が設定されないの
で、誤った特定物体領域を抽出してしまう虞がある。
【0338】ところが、上記の請求項12の構成によれ
ば、請求項7の作用に加えて、点指定手段により取得画
像中に存在する特定物体領域の中央でない位置に点を指
定することにより、仮想領域の中心と特定物体領域の中
心位置がずれた場合でも確実に特定物体領域を抽出する
ことができるという効果を奏する。
【0339】また、請求項13の発明の画像処理装置
は、以上のように、請求項12の構成に加えて、画像抽
出手段は、特定物体領域を含むように抽出した部分画像
に対して、該部分画像の一部に仮想領域を設定し、この
仮想領域内の画像情報を取得し、この画像情報に基づい
て、上記特定物体領域を含み、かつ上記部分画像よりも
小さい領域を抽出する構成である。
【0340】また、請求項14の発明の画像処理装置
は、以上のように、請求項13の構成に加えて、画像抽
出手段は、上記取得した画像情報を画素の分布情報とし
た場合、この分布情報から確率密度関数を求め、得られ
た確率密度関数を上記部分画像に適用することで、上記
特定物体領域を含み、かつ上記部分画像よりも小さい領
域を抽出する構成である。
【0341】さらに、請求項15の発明の画像処理装置
は、以上のように、請求項12ないし14のいずれかの
構成に加えて、特定物体領域が人間の顔領域である構成
である。
【0342】このように、特定物体領域を人間の顔領域
にすれば、人物の写った写真等の画像から、所望する人
間の画像をバランス良く抽出することができる。このと
き、人間の顔領域から得られる画像情報に基づいて該顔
領域を抽出することにより、正確、かつ迅速に顔領域を
抽出することができるという効果を奏する。
【0343】しかも、点指定手段により特定物体領域の
一点が特定物体領域の中央よりもずれた位置に指定され
るので、特定物体領域の中心と抽出対象となっている部
分画像の中心とが大きくずれていても、誤りなく特定物
体領域である人間の顔領域を抽出することができるとい
う効果を奏する。
【0344】また、請求項16の発明の画像処理装置
は、以上のように、請求項15の構成に加えて、画像抽
出手段は、抽出された人間の顔領域内部の画像情報を取
得する手段と、上記画像情報より、顔の幅、左右の対称
軸、目、鼻、口の垂直位置からなる数値情報を検出する
手段とを含み、上記数値情報に基づいて、上記顔領域に
含まれる顔部分が一定の大きさおよび位置になるよう
に、取得画像の一部を抽出する構成である。
【0345】それゆえ、請求項15の作用に加えて、人
間の顔領域からポートレート画像を抽出する場合、確実
に一つのポートレート画像を抽出することができるとい
う効果を奏する。
【0346】また、請求項17の発明の画像処理装置
は、以上のように、請求項1の構成に加えて、画像抽出
処理手段は、取得画像を記憶する記憶手段を含み、取得
画像が一連の電子画像系列からなる動画像である場合、
記憶手段に記憶された系列中の特定の一枚の画像を注目
画像として読み出し、この注目画像中に存在する特定物
体領域をその中に含むように、画像の一部を抽出すると
共に、上記注目画像に対して2つの仮想領域からなる1
組のウィンドウを設定し、この1組のウィンドウ内の画
像情報を次の系列の取得画像に対する初期値として仮想
領域の大きさ、位置を様々に変化させて得られる種々の
画像情報から、最も適当な1組のウィンドウを決定する
構成である。
【0347】それゆえ、請求項1の作用に加えて、時系
列的に特定物体領域をバランス良く配置した部分画像を
抽出するようになるので、動画像中の特定物体領域を追
跡することが可能となる。
【0348】さらに、請求項18の発明の画像処理装置
は、以上のように、請求項17の構成に加えて、画像抽
出手段は、特定物体領域を含むように抽出した部分画像
に対して、該部分画像の一部にさらに仮想領域を設定
し、この仮想領域内の画像情報を取得し、この画像情報
に基づいて、上記特定物体領域を含み、かつ上記部分画
像よりも小さい領域を抽出する構成である。
【0349】また、請求項19の発明の画像処理装置
は、以上のように、請求項17または18の構成に加え
て、記憶手段に記憶されている一連の電子画像の中の特
定物体領域が人間の顔領域である構成である。
【0350】このように、記憶手段に記憶されている一
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができるという効果を奏する。
【0351】また、請求項20の発明の画像処理装置
は、以上のように、請求項17の構成に加えて、取得画
像中の任意の1点を指定する点指定手段が設けられ、上
記画像抽出処理手段は、取得画像を記憶する記憶手段
と、取得画像が一連の電子画像系列からなる動画像であ
り、かつ上記記憶手段に記憶された系列中の特定の一枚
の画像を注目画像として読み出し、この注目画像中に存
在する特定物体領域の中央が上記点指定手段により指定
された場合、この指定点を中に含むような第1の仮想領
域と、この第1の仮想領域と排他的な第2の仮想領域と
を設定する手段と、これら2つの仮想領域に含まれる画
像情報に基づいて、該特定物体領域と2つの仮想領域間
の分離度を算出する手段と、上記2つの仮想領域の大き
さを逐次変更することによって得られる分離度の系列か
ら、取得画像中に存在し、かつ点指定手段によって指定
された点をその中央に含むような特定物体領域を、その
中央に含むように画像の一部を抽出する手段とを有し、
上記の2つの仮想領域の画素値を次の系列の取得画像に
対する初期値として仮想領域の大きさ、位置を様々に変
化させて得られる種々の画像情報から、最も適当な1組
のウィンドウを決定する構成である。
【0352】それゆえ、請求項17の作用に加えて、特
定物体領域の中央の1点が指定され、この点に基づいて
仮想領域が設定されるので、仮想領域間の分離度の計算
が少なくて済む。この結果、部分画像の抽出にかかる時
間を大幅に短縮させることができるという効果を奏す
る。
【0353】さらに、請求項21の発明の画像処理装置
は、以上のように、請求項20の構成に加えて、画像抽
出手段は、特定物体領域を含むように抽出した部分画像
に対して、該部分画像の一部にさらに仮想領域を設定
し、この仮想領域内の画像情報を取得し、この画像情報
に基づいて、上記特定物体領域を含み、かつ上記部分画
像よりも小さい領域を抽出する構成である。
【0354】それゆえ、請求項20の作用に加えて、特
定物体領域を含むように抽出した部分画像に対して、該
部分画像の一部にさらに仮想領域を設定し、この仮想領
域内の画像情報を取得し、この画像情報に基づいて、上
記特定物体領域を含み、かつ上記部分画像よりも小さい
領域を抽出するようになっているので、部分画像から特
定物体領域を確実に抽出することができ、この結果、特
定物体領域の追跡をさらに正確に行うことができるとい
う効果を奏する。
【0355】また、請求項22の発明の画像処理装置
は、以上のように、請求項20または21の構成に加え
て、上記記憶手段に記憶されている一連の電子画像の中
の特定物体領域が人間の顔領域である構成である。
【0356】このように、記憶手段に記憶されている一
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができるという効果を奏する。
【0357】また、請求項23の発明の画像処理装置
は、以上のように、請求項17の構成に加えて、取得画
像中の任意の1点を指定する点指定手段が設けられ、画
像抽出処理手段は、取得画像を記憶する記憶手段と、取
得画像が一連の電子画像系列からなる動画像であり、か
つ記憶手段に記憶された系列中の特定の一枚の画像を注
目画像として読み出し、この注目画像中に存在する特定
物体領域の任意の一点が上記点指定手段により指定され
た場合、この指定点を中に含むような第1の仮想領域
と、この第1の仮想領域と排他的な第2の仮想領域とを
設定する手段と、これら2つの仮想領域に含まれる画像
情報に基づいて、該特定物体領域と2つの仮想領域間の
分離度を算出する手段と、上記2つの仮想領域の大きさ
を逐次変更することによって得られる分離度の系列か
ら、取得画像中に存在し、かつ点指定手段によって指定
された点をその中央に含むような特定物体領域を、その
中央に含むように画像の一部を抽出する手段とを有し、
上記の2つの仮想領域の画素値を次の系列の取得画像に
対する初期値として仮想領域の大きさ、位置を様々に変
化させて得られる種々の画像情報から、最も適当な1組
のウィンドウを決定する構成である。
【0358】それゆえ、請求項17の作用に加えて、点
指定手段により取得画像中に存在する特定物体領域の中
央でない位置に点を指定することにより、仮想領域の中
心と特定物体領域の中心位置がずれた場合でも確実に特
定物体領域を抽出することができるので、動画像中の特
定物体領域を含む部分画像の追跡を正確に行うことがで
きるという効果を奏する。
【0359】さらに、請求項24の発明の画像処理装置
は、以上のように、請求項23の構成に加えて、画像抽
出手段は、上記取得した画像情報を画素の分布情報とし
た場合、この分布情報から確率密度関数を求め、得られ
た確率密度関数を上記部分画像に適用することで、上記
特定物体を含み、かつ上記部分画像よりも小さい領域を
抽出する構成である。
【0360】また、請求項25の発明の画像処理装置
は、以上のように、請求項23の構成に加えて、画像抽
出手段は、特定物体領域を含むように抽出した部分画像
に対して、該部分画像の一部にさらに仮想領域を設定
し、この仮想領域内の画像情報を取得し、この画像情報
に基づいて、上記特定物体領域を含み、かつ上記部分画
像よりも小さい領域を抽出する構成である。
【0361】また、請求項26の発明の画像処理装置
は、以上のように、請求項23ないし25のいずれかの
構成に加えて、記憶手段に記憶されている一連の電子画
像の中の特定物体領域が人間の顔領域である構成であ
る。
【0362】このように、記憶手段に記憶されている一
連の電子画像の中の特定物体領域を人間の顔領域にすれ
ば、人間が写っている動画像から、所望する人間の画像
をバランス良く抽出することができる。このようにすれ
ば、動画像中の特定物体領域である人間を追跡すること
ができるという効果を奏する。
【0363】さらに、請求項27の発明の画像処理装置
は、以上のように、請求項26の構成に加えて、上記画
像抽出手段は、抽出された人間の顔領域内部の画像情報
を取得する手段と、上記画像情報より、顔の幅、左右の
対称軸、目、鼻、口の垂直位置からなる数値情報を検出
する手段とを含み、上記数値情報に基づいて、上記顔領
域に含まれる顔部分が一定の大きさおよび位置になるよ
うに、取得画像の一部を抽出する構成である。
【0364】また、上記の課題を解決する手段として
は、上述した請求項1ないし27までの各手段の他に、
コンピュータで読み取り可能な記録媒体に本願発明の画
像抽出処理を実行するためのプログラムを記録しても良
い。
【0365】すなわち、請求項28のコンピュータ読み
取り可能な記録媒体は、以上のように、取得画像中の互
いに排他である2つの仮想領域を該取得画像中に設定
し、これら仮想領域内の画像情報に基づいて上記特定物
体領域を抽出する処理をコンピュータに実行させるため
の画像抽出処理プログラムを記録した構成である。
【0366】また、請求項29のコンピュータ読み取り
可能な記録媒体は、以上のように、取得された画像中の
互いに排他である2つの仮想領域を設定し、設定された
各仮想領域内の画像情報を取得し、取得された画像情報
から上記の2つの仮想領域間の分離度を算出し、得られ
た分離度に基づいて取得画像中に存在する特定物体領域
をその中に含むように画像の一部を抽出する処理をコン
ピュータに実行させるための画像抽出処理プログラムを
記録した構成である。
【0367】また、請求項30のコンピュータ読み取り
可能な記録媒体は、以上のように、取得画像中に存在す
る特定物体領域の中央の1点が指定された場合、この指
定点を中に含むような第1の仮想領域と、この第1の仮
想領域と排他的な第2の仮想領域とを設定し、設定され
た2つの仮想領域に含まれる画像情報に基づいて、該2
つの仮想領域間の分離度を算出し、上記2つの仮想領域
の大きさを逐次変更することによって得られる分離度の
系列から、取得画像中に存在し、かつ指定された点をそ
の中央に含むような特定物体領域を、その中央に含むよ
うに画像の一部を抽出する処理をコンピュータに実行さ
せるための画像抽出処理プログラムを記録した構成であ
る。
【0368】また、請求項31のコンピュータ読み取り
可能な記録媒体は、以上のように、取得画像中に存在す
る特定物体領域の中央でない位置に点が指定された場
合、設定される仮想領域の大きさと位置、あるいは仮想
領域の大きさ、位置と形状を逐次更新することによって
得られる分離度の系列から、取得画像中に存在し、かつ
指定された点をその中に含むような特定物体領域を、そ
の中に含むように画像の一部を抽出する処理をコンピュ
ータに実行させるための画像抽出処理プログラムを記録
した構成である。
【0369】また、請求項32のコンピュータ読み取り
可能な記録媒体は、以上のように、記憶された取得画像
が一連の電子画像系列からなる動画像である場合、記憶
された画像系列中の特定の一枚の画像を注目画像として
読み出し、この注目画像中に存在する特定物体領域をそ
の中に含むように、画像の一部を抽出すると共に、上記
注目画像に対して2つの仮想領域からなる1組のウィン
ドウを設定し、この1組のウィンドウ内の画像情報を次
の系列の取得画像に対する初期値として仮想領域の大き
さ、位置を様々に変化させて得られる種々の画像情報か
ら、最も適当な1組のウィンドウを決定する処理をコン
ピュータに実行させるための画像抽出処理プログラムを
記録した構成である。
【0370】また、請求項33のコンピュータ読み取り
可能な記録媒体は、以上のように、記憶された取得画像
が一連の電子画像系列からなる動画像であり、かつ上記
記憶手段に記憶された系列中の特定の一枚の画像を注目
画像として読み出し、この注目画像中に存在する特定物
体領域の中央が指定された場合、この指定点を中に含む
ような第1の仮想領域と、この第1の仮想領域と排他的
な第2の仮想領域とを設定し、これら2つの仮想領域か
らなる1組のウィンドウに含まれる画像情報に基づい
て、該特定物体領域と2つの仮想領域間の分離度を算出
し、上記2つの仮想領域の大きさを逐次変更することに
よって得られる分離度の系列から、取得画像中に存在
し、かつ点指定手段によって指定された点をその中央に
含むような特定物体領域を、その中央に含むように画像
の一部を抽出すると共に、上記注目画像に対して2つの
仮想領域からなる1組のウィンドウを設定し、この1組
のウィンドウ内の画像情報を次の系列の取得画像に対す
る初期値として仮想領域の大きさ、位置を様々に変化さ
せて得られる種々の画像情報から、最も適当な1組のウ
ィンドウを決定する処理をコンピュータに実行させるた
めの画像抽出処理プログラムを記録した構成である。
【0371】さらに、請求項34のコンピュータ読み取
り可能な記録媒体は、以上のように、記憶された取得画
像が一連の電子画像系列からなる動画像であり、かつ上
記電子画像系列中の特定の一枚の画像を注目画像として
読み出し、この注目画像中に存在する特定物体領域の任
意の一点が指定された場合、この指定点を中に含むよう
な第1の仮想領域と、この第1の仮想領域と排他的な第
2の仮想領域とを設定し、これら2つの仮想領域に含ま
れる画像情報に基づいて、該特定物体領域と2つの仮想
領域間の分離度を算出し、上記2つの仮想領域の大きさ
を逐次変更することによって得られる分離度の系列か
ら、取得画像中に存在し、かつ点指定手段によって指定
された点をその中央に含むような特定物体領域を、その
中央に含むように画像の一部を抽出すると共に、上記注
目画像に対して2つの仮想領域からなる1組のウィンド
ウを設定し、この1組のウィンドウ内の画像情報を次の
系列の取得画像に対する初期値として仮想領域の大き
さ、位置を様々に変化させて得られる種々の画像情報か
ら、最も適当な1組のウィンドウを決定する処理をコン
ピュータに実行させるための画像抽出処理プログラムを
記録した構成である。
【図面の簡単な説明】
【図1】本発明の画像処理装置における画像抽出処理の
流れを示すフローチャートである。
【図2】本発明の一実施の形態にかかる画像処理装置の
概略ブロック図である。
【図3】図2に示す画像処理装置に備えられた記憶部の
詳細を示す説明図である。
【図4】図2に示す画像処理装置に備えられた演算部の
詳細を示す説明図である。
【図5】図2に示す画像処理装置における画像抽出に使
用されるウィンドウを示す説明図である。
【図6】図2に示す画像処理装置における画像抽出に使
用されるウィンドウを示す説明図である。
【図7】上記ウィンドウの種々の形状を示す例であっ
て、(a)は矩形状のウィンドウを示し、(b)は楕円
形状のウィンドウを示し、(c)は自動車形状のウィン
ドウを示した説明図である。
【図8】画像抽出処理の概略を示すものであって、
(a)は取得画像を示し、(b)は(a)に示す取得画
像から抽出した抽出対象画像を示す説明図である。
【図9】上記ウィンドウの拡大処理を示す説明図であ
る。
【図10】図9に示すウィンドウを拡大処理した場合の
ウィンドウサイズと分離度との関係を示したグラフであ
る。
【図11】図2に示す画像処理装置において行われる分
離度計測プロセスを示す説明図である。
【図12】上記ウィンドウの分離度の推移を示す説明図
である。
【図13】図12のウィンドウの分離度の推移を示すグ
ラフである。
【図14】画像抽出処理の概略を示すものであって、
(a)は取得画像を示し、(b)は(a)に示す取得画
像から抽出した抽出対象画像を示す説明図である。
【図15】図14の(b)で示した抽出対象画像の拡大
図である。
【図16】(a) 〜(c) は、図15 に示す抽出対象画
像から特定物体領域を抽出するための処理を示す説明図
である。
【図17】画像領域内の画素の画素値の分布を表した正
規確率密度関数を示すグラフである。
【図18】図2に示す画像処理装置の記憶部に記憶され
た内容をコンピュータで読み取れるようなプログラムと
して記録した記録媒体の説明図である。
【図19】本発明の他の実施の形態の画像処理装置の概
略構成図である。
【図20】図19に示す画像処理装置によって行われる
抽出対象画像の抽出処理の説明図である。
【図21】図19に示す画像処理装置によって行われる
抽出対象画像の抽出処理の説明図である。
【図22】(a)(b)は、ウィンドウの中心が同じ場
合のウィンドウの拡大処理を示す説明図である。
【図23】(a)(b)は、ウィンドウの中心を適当に
ずらしながら分離度測定プロセスを実行した場合の説明
図である。
【図24】分離度計測プロセスで得られた分離度の系列
を示したグラフである。
【図25】分離度計測プロセスで得られた分離度の系列
を示したグラフである。
【図26】分離度ウィンドウを用いた場合の取得画像の
抽出処理の流れを示すフローチャートである。
【図27】(a)〜(d)は、動画追跡処理の説明図で
ある。
【図28】動画追跡処理の流れを示すフローチャートで
ある。
【図29】図28で示した動画追跡処理の物体境界を検
出するためのサブルーチンを示すフローチャートであ
る。
【図30】図28で示した動画追跡処理の物体境界を検
出するためのサブルーチンを示すフローチャートであ
る。
【図31】人物顔が写っている画像より顔の肌部分のみ
を抽出した画像を作成する例を示す説明図であり、
(a)は人物顔が写っている画像を示し、(b)は肌部
分のみを抽出した画像を示す説明図である。
【図32】画素の分布を示した出現頻度のヒストグラム
を示したものであって、(a)は色相のヒストグラムで
あり、(b)は彩度のヒストグラムであり、(c)は明
度のヒストグラムである。
【図33】顔肌領域画像の生成処理の流れを示すフロー
チャートである。
【図34】ユーザーによって領域を示すパターンが入力
された状態を示す説明図である。
【図35】(a)は入力画像を示し、(b)は(a)に
示した入力画像の明度と頻度との関係を示した説明図で
ある。
【図36】(a)〜(c)は、人物顔が写っている画像
より顔の肌部分のみを抽出した画像を作成する例を示す
説明図である。
【図37】顔マスクの生成処理の流れを示すフローチャ
ートである。
【図38】(a)〜(h)は、顔マスクの作成の流れを
示す説明図である。
【図39】顔の中心軸を検出する処理の流れを示すフロ
ーチャートである。
【図40】(a)〜(c)は、顔の中心軸を検出する処
理の説明図である。
【図41】鼻の垂直位置を検出する処理の流れを示すフ
ローチャートである。
【図42】(a)〜(g)は、鼻の垂直位置を検出する
処理の説明図である。
【図43】目の垂直位置を検出する処理の流れを示すフ
ローチャートである。
【図44】(a)〜(c)は、目の垂直位置を検出する
処理の説明図である。
【図45】口の垂直位置を検出する処理の流れを示すフ
ローチャートである。
【図46】(a)〜(d)は、口の垂直位置を検出する
処理の説明図である。
【図47】顔マスクの幅を検出する処理の説明図であ
る。
【図48】原画像から画像の一部を矩形状に切り出す処
理の流れを示すフローチャートである。
【符号の説明】
11 画像取得装置 12 画像抽出処理装置(画像抽出処理手段) 15 記憶部(記憶手段) 16 演算部(画像抽出処理手段) 16a 分離度計算処理部(算出手段) 16b 領域抽出処理部(画像抽出手段) 16c 画素情報読取処理部(画像情報取得手段) 16d 人物画像抽出処理部 16e 基本演算処理部 17 記録媒体 17a 仮想領域設定処理用プログラム(画像抽出処
理プログラム) 17b 顔パラメータ検出処理用プログラム(画像抽
出処理プログラム) 17c 領域抽出処理用プログラム(画像抽出処理プ
ログラム) 21 座標指定装置(点指定手段)

Claims (34)

    【特許請求の範囲】
  1. 【請求項1】外部から取得した画像から抽出対象となる
    特定物体領域を含む部分画像を抽出する画像処理装置に
    おいて、 互いに排他である2つの仮想領域を取得画像中に設定
    し、これら仮想領域間の分離度に基づいて上記部分画像
    を抽出する画像抽出処理手段を有していることを特徴と
    する画像処理装置。
  2. 【請求項2】上記画像抽出処理手段は、 取得された画像中の互いに排他である2つの仮想領域を
    設定する領域設定手段と、 上記各仮想領域内の画像情報を取得する画像情報取得手
    段と、 上記画像情報から上記の2つの仮想領域間の分離度を算
    出する算出手段と、 得られた分離度に基づいて取得画像中に存在する特定物
    体領域をその中に含むように画像の一部を抽出する画像
    抽出手段と、を含むことを特徴とする請求項1記載の画
    像処理装置。
  3. 【請求項3】上記画像抽出手段は、 特定物体領域を含むように抽出した部分画像に対して、
    該部分画像の一部にさらに仮想領域を設定し、この仮想
    領域内の画像情報を取得し、この画像情報に基づいて、
    上記特定物体領域を含み、かつ上記部分画像よりも小さ
    い領域を抽出することを特徴とする請求項2記載の画像
    処理装置。
  4. 【請求項4】上記画像抽出手段は、取得した画像情報を
    画素の分布情報とした場合、この分布情報から確率密度
    関数を求め、得られた確率密度関数を上記部分画像に適
    用することで、上記特定物体領域を含み、かつ上記部分
    画像よりも小さい領域を抽出することを特徴とする請求
    項3記載の画像処理装置。
  5. 【請求項5】上記特定物体領域が人間の顔領域であるこ
    とを特徴とする請求項1ないし4のいずれかに記載の画
    像処理装置。
  6. 【請求項6】上記画像抽出手段は、 抽出された人間の顔領域内部の画像情報を取得する手段
    と、 上記画像情報より、顔の幅、左右の対称軸、目、鼻、口
    の垂直位置からなる数値情報を検出する手段とを含み、 上記数値情報に基づいて、上記顔領域に含まれる顔部分
    が一定の大きさおよび位置になるように、取得画像の一
    部を抽出することを特徴とする請求項5記載の画像処理
    装置。
  7. 【請求項7】取得画像中の任意の1点を指定する点指定
    手段を有し、 上記画像抽出処理手段は、 上記点指定手段により取得画像中に存在する特定物体領
    域の中央の1点が指定された場合、この指定点を中に含
    むような第1の仮想領域と、この第1の仮想領域と排他
    的な第2の仮想領域とを設定する領域設定手段と、 これら2つの仮想領域に含まれる画像情報に基づいて、
    該2つの仮想領域間の分離度を算出する算出手段と、 上記2つの仮想領域の大きさを逐次変更することによっ
    て得られる分離度の系列から、取得画像中に存在し、か
    つ点指定手段によって指定された点をその中央に含むよ
    うな特定物体領域を、その中央に含むように画像の一部
    を抽出する画像抽出手段と、を含むことを特徴とする請
    求項1記載の画像処理装置。
  8. 【請求項8】上記画像抽出手段は、 特定物体領域を含むように抽出した部分画像に対して、
    該部分画像の一部に仮想領域を設定し、この仮想領域内
    の画像情報を取得し、この画像情報に基づいて、上記特
    定物体領域を含み、かつ上記部分画像よりも小さい領域
    を抽出することを特徴とする請求項7記載の画像処理装
    置。
  9. 【請求項9】上記画像抽出手段は、取得した画像情報を
    画素の分布情報とした場合、この分布情報から確率密度
    関数を求め、得られた確率密度関数を上記部分画像に適
    用することで、上記特定物体領域を含み、かつ上記部分
    画像よりも小さい領域を抽出することを特徴とする請求
    項8記載の画像処理装置。
  10. 【請求項10】上記特定物体領域が人間の顔領域である
    ことを特徴とする請求項7ないし9のいずれかに記載の
    画像処理装置。
  11. 【請求項11】上記画像抽出手段は、 抽出された人間の顔領域内部の画像情報を取得する手段
    と、 上記画像情報より、顔の幅、左右の対称軸、目、鼻、口
    の垂直位置からなる数値情報を検出する手段とを含み、 上記数値情報に基づいて、上記顔領域に含まれる顔部分
    が一定の大きさおよび位置になるように、取得画像の一
    部を抽出することを特徴とする請求項10記載の画像処
    理装置。
  12. 【請求項12】上記画像抽出処理手段は、 上記点指定手段により取得画像中に存在する特定物体領
    域の中央でない位置に点が指定された場合、設定される
    仮想領域の大きさと位置、あるいは仮想領域の大きさ、
    位置と形状を逐次更新することによって得られる分離度
    の系列から、取得画像中に存在し、かつ点指定手段によ
    って指定された点をその中に含むような特定物体領域
    を、その中に含むように画像の一部を抽出することを特
    徴とする請求項7記載の画像処理装置。
  13. 【請求項13】上記画像抽出手段は、 特定物体領域を含むように抽出した部分画像に対して、
    該部分画像の一部に仮想領域を設定し、この仮想領域内
    の画像情報を取得し、この画像情報に基づいて、上記特
    定物体領域を含み、かつ上記部分画像よりも小さい領域
    を抽出することを特徴とする請求項12記載の画像処理
    装置。
  14. 【請求項14】上記画像抽出手段は、取得した画像情報
    を画素の分布情報とした場合、この分布情報から確率密
    度関数を求め、得られた確率密度関数を上記部分画像に
    適用することで、上記特定物体領域を含み、かつ上記部
    分画像よりも小さい領域を抽出することを特徴とする請
    求項13記載の画像処理装置。
  15. 【請求項15】上記特定物体領域が人間の顔領域である
    ことを特徴とする請求項12ないし14のいずれかに記
    載の画像処理装置。
  16. 【請求項16】上記画像抽出手段は、 抽出された人間の顔領域内部の画像情報を取得する手段
    と、 上記画像情報より、顔の幅、左右の対称軸、目、鼻、口
    の垂直位置からなる数値情報を検出する手段とを含み、 上記数値情報に基づいて、上記顔領域に含まれる顔部分
    が一定の大きさおよび位置になるように、取得画像の一
    部を抽出することを特徴とする請求項15記載の画像処
    理装置。
  17. 【請求項17】上記画像抽出処理手段は、取得画像を記
    憶する記憶手段を含み、 取得画像が一連の電子画像系列からなる動画像である場
    合、記憶手段に記憶された系列中の特定の一枚の画像を
    注目画像として読み出し、この注目画像中に存在する特
    定物体領域をその中に含むように、画像の一部を抽出す
    ると共に、上記注目画像に対して2つの仮想領域からな
    る1組のウィンドウを設定し、この1組のウィンドウ内
    の画像情報を次の系列の取得画像に対する初期値として
    仮想領域の大きさ、位置を様々に変化させて得られる種
    々の画像情報から、最も適当な1組のウィンドウを決定
    することを特徴とする請求項1記載の画像処理装置。
  18. 【請求項18】上記画像抽出手段は、特定物体領域を含
    むように抽出した部分画像に対して、 該部分画像の一部にさらに仮想領域を設定し、この仮想
    領域内の画像情報を取得し、この画像情報に基づいて、
    上記特定物体領域を含み、かつ上記部分画像よりも小さ
    い領域を抽出することを特徴とする請求項17記載の画
    像処理装置。
  19. 【請求項19】上記記憶手段に記憶されている一連の電
    子画像の中の特定物体領域が人間の顔領域であることを
    特徴とする請求項17または18記載の画像処理装置。
  20. 【請求項20】取得画像中の任意の1点を指定する点指
    定手段が設けられ、 上記画像抽出処理手段は、 取得画像を記憶する記憶手段と、 取得画像が一連の電子画像系列からなる動画像であり、
    かつ上記記憶手段に記憶された系列中の特定の一枚の画
    像を注目画像として読み出し、この注目画像中に存在す
    る特定物体領域の中央が上記点指定手段により指定され
    た場合、この指定点を中に含むような第1の仮想領域
    と、この第1の仮想領域と排他的な第2の仮想領域とを
    設定する手段と、 これら2つの仮想領域に含まれる画像情報に基づいて、
    該特定物体領域と2つの仮想領域間の分離度を算出する
    手段と、 上記2つの仮想領域の大きさを逐次変更することによっ
    て得られる分離度の系列から、取得画像中に存在し、か
    つ点指定手段によって指定された点をその中央に含むよ
    うな特定物体領域を、その中央に含むように画像の一部
    を抽出する手段とを有し、 上記の2つの仮想領域の画素値を次の系列の取得画像に
    対する初期値として仮想領域の大きさ、位置を様々に変
    化させて得られる種々の画像情報から、最も適当な1組
    のウィンドウを決定することを特徴とする請求項17記
    載の画像処理装置。
  21. 【請求項21】上記画像抽出手段は、特定物体領域を含
    むように抽出した部分画像に対して、該部分画像の一部
    にさらに仮想領域を設定し、この仮想領域内の画像情報
    を取得し、この画像情報に基づいて、上記特定物体領域
    を含み、かつ上記部分画像よりも小さい領域を抽出する
    ことを特徴とする請求項20記載の画像処理装置。
  22. 【請求項22】上記記憶手段に記憶されている一連の電
    子画像の中の特定物体領域が人間の顔領域であることを
    特徴とする請求項20または21記載の画像処理装置。
  23. 【請求項23】取得画像中の任意の1点を指定する点指
    定手段が設けられ、 上記画像抽出処理手段は、 取得画像を記憶する記憶手段と、 取得画像が一連の電子画像系列からなる動画像であり、
    かつ記憶手段に記憶された系列中の特定の一枚の画像を
    注目画像として読み出し、この注目画像中に存在する特
    定物体領域の任意の一点が上記点指定手段により指定さ
    れた場合、この指定点を中に含むような第1の仮想領域
    と、この第1の仮想領域と排他的な第2の仮想領域とを
    設定する手段と、 これら2つの仮想領域に含まれる画像情報に基づいて、
    該特定物体領域と2つの仮想領域間の分離度を算出する
    手段と、 上記2つの仮想領域の大きさを逐次変更することによっ
    て得られる分離度の系列から、取得画像中に存在し、か
    つ点指定手段によって指定された点をその中央に含むよ
    うな特定物体領域を、その中央に含むように画像の一部
    を抽出する手段とを有し、 上記の2つの仮想領域の画素値を次の系列の取得画像に
    対する初期値として仮想領域の大きさ、位置を様々に変
    化させて得られる種々の画像情報から、最も適当な1組
    のウィンドウを決定することを特徴とする請求項17記
    載の画像処理装置。
  24. 【請求項24】上記画像抽出手段は、上記取得した画像
    情報を画素の分布情報とした場合、この分布情報から確
    率密度関数を求め、得られた確率密度関数を上記部分画
    像に適用することで、上記特定物体を含み、かつ上記部
    分画像よりも小さい領域を抽出することを特徴とする請
    求項23記載の画像処理装置。
  25. 【請求項25】上記画像抽出手段は、特定物体領域を含
    むように抽出した部分画像に対して、該部分画像の一部
    にさらに仮想領域を設定し、この仮想領域内の画像情報
    を取得し、この画像情報に基づいて、上記特定物体領域
    を含み、かつ上記部分画像よりも小さい領域を抽出する
    ことを特徴とする請求項23記載の画像処理装置。
  26. 【請求項26】上記記憶手段に記憶されている一連の電
    子画像の中の特定物体領域が人間の顔領域であることを
    特徴とする請求項23ないし25のいずれかに記載の画
    像処理装置。
  27. 【請求項27】上記画像抽出手段は、 抽出された人間の顔領域内部の画像情報を取得する手段
    と、 上記画像情報より、顔の幅、左右の対称軸、目、鼻、口
    の垂直位置からなる数値情報を検出する手段とを含み、 上記数値情報に基づいて、上記顔領域に含まれる顔部分
    が一定の大きさおよび位置になるように、取得画像の一
    部を抽出することを特徴とする請求項26記載の画像処
    理装置。
  28. 【請求項28】取得画像中の互いに排他である2つの仮
    想領域を該取得画像中に設定し、これら仮想領域内の画
    像情報に基づいて上記特定物体領域を抽出する処理をコ
    ンピュータに実行させるための画像抽出処理プログラム
    を記録したことを特徴とするコンピュータ読み取り可能
    な記録媒体。
  29. 【請求項29】取得された画像中の互いに排他である2
    つの仮想領域を設定し、設定された各仮想領域内の画像
    情報を取得し、取得された画像情報から上記の2つの仮
    想領域間の分離度を算出し、得られた分離度に基づいて
    取得画像中に存在する特定物体領域をその中に含むよう
    に画像の一部を抽出する処理をコンピュータに実行させ
    るための画像抽出処理プログラムを記録したことを特徴
    とするコンピュータ読み取り可能な記録媒体。
  30. 【請求項30】取得画像中に存在する特定物体領域の中
    央の1点が指定された場合、この指定点を中に含むよう
    な第1の仮想領域と、この第1の仮想領域と排他的な第
    2の仮想領域とを設定し、設定された2つの仮想領域に
    含まれる画像情報に基づいて、該2つの仮想領域間の分
    離度を算出し、上記2つの仮想領域の大きさを逐次変更
    することによって得られる分離度の系列から、取得画像
    中に存在し、かつ指定された点をその中央に含むような
    特定物体領域を、その中央に含むように画像の一部を抽
    出する処理をコンピュータに実行させるための画像抽出
    処理プログラムを記録したことを特徴とするコンピュー
    タ読み取り可能な記録媒体。
  31. 【請求項31】取得画像中に存在する特定物体領域の中
    央でない位置に点が指定された場合、設定される仮想領
    域の大きさと位置、あるいは仮想領域の大きさ、位置と
    形状を逐次更新することによって得られる分離度の系列
    から、取得画像中に存在し、かつ指定された点をその中
    に含むような特定物体領域を、その中に含むように画像
    の一部を抽出する処理をコンピュータに実行させるため
    の画像抽出処理プログラムを記録したことを特徴とする
    コンピュータ読み取り可能な記録媒体。
  32. 【請求項32】記憶された取得画像が一連の電子画像系
    列からなる動画像である場合、記憶された画像系列中の
    特定の一枚の画像を注目画像として読み出し、この注目
    画像中に存在する特定物体領域をその中に含むように、
    画像の一部を抽出すると共に、上記注目画像に対して2
    つの仮想領域からなる1組のウィンドウを設定し、この
    1組のウィンドウ内の画像情報を次の系列の取得画像に
    対する初期値として仮想領域の大きさ、位置を様々に変
    化させて得られる種々の画像情報から、最も適当な1組
    のウィンドウを決定する処理をコンピュータに実行させ
    るための画像抽出処理プログラムを記録したことを特徴
    とするコンピュータ読み取り可能な記録媒体。
  33. 【請求項33】記憶された取得画像が一連の電子画像系
    列からなる動画像であり、かつ上記記憶手段に記憶され
    た系列中の特定の一枚の画像を注目画像として読み出
    し、この注目画像中に存在する特定物体領域の中央が指
    定された場合、この指定点を中に含むような第1の仮想
    領域と、この第1の仮想領域と排他的な第2の仮想領域
    とを設定し、これら2つの仮想領域からなる1組のウィ
    ンドウに含まれる画像情報に基づいて、該特定物体領域
    と2つの仮想領域間の分離度を算出し、上記2つの仮想
    領域の大きさを逐次変更することによって得られる分離
    度の系列から、取得画像中に存在し、かつ点指定手段に
    よって指定された点をその中央に含むような特定物体領
    域を、その中央に含むように画像の一部を抽出すると共
    に、上記注目画像に対して2つの仮想領域からなる1組
    のウィンドウを設定し、この1組のウィンドウ内の画像
    情報を次の系列の取得画像に対する初期値として仮想領
    域の大きさ、位置を様々に変化させて得られる種々の画
    像情報から、最も適当な1組のウィンドウを決定する処
    理をコンピュータに実行させるための画像抽出処理プロ
    グラムを記録したことを特徴とするコンピュータ読み取
    り可能な記録媒体。
  34. 【請求項34】記憶された取得画像が一連の電子画像系
    列からなる動画像であり、かつ上記電子画像系列中の特
    定の一枚の画像を注目画像として読み出し、この注目画
    像中に存在する特定物体領域の任意の一点が指定された
    場合、この指定点を中に含むような第1の仮想領域と、
    この第1の仮想領域と排他的な第2の仮想領域とを設定
    し、これら2つの仮想領域に含まれる画像情報に基づい
    て、該特定物体領域と2つの仮想領域間の分離度を算出
    し、上記2つの仮想領域の大きさを逐次変更することに
    よって得られる分離度の系列から、取得画像中に存在
    し、かつ点指定手段によって指定された点をその中央に
    含むような特定物体領域を、その中央に含むように画像
    の一部を抽出すると共に、上記注目画像に対して2つの
    仮想領域からなる1組のウィンドウを設定し、この1組
    のウィンドウ内の画像情報を次の系列の取得画像に対す
    る初期値として仮想領域の大きさ、位置を様々に変化さ
    せて得られる種々の画像情報から、最も適当な1組のウ
    ィンドウを決定する処理をコンピュータに実行させるた
    めの画像抽出処理プログラムを記録したことを特徴とす
    るコンピュータ読み取り可能な記録媒体。
JP10160098A 1998-04-13 1998-04-13 画像処理装置 Expired - Fee Related JP3549725B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP10160098A JP3549725B2 (ja) 1998-04-13 1998-04-13 画像処理装置
US09/286,475 US6332038B1 (en) 1998-04-13 1999-04-06 Image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10160098A JP3549725B2 (ja) 1998-04-13 1998-04-13 画像処理装置

Publications (2)

Publication Number Publication Date
JPH11296659A true JPH11296659A (ja) 1999-10-29
JP3549725B2 JP3549725B2 (ja) 2004-08-04

Family

ID=14304892

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10160098A Expired - Fee Related JP3549725B2 (ja) 1998-04-13 1998-04-13 画像処理装置

Country Status (2)

Country Link
US (1) US6332038B1 (ja)
JP (1) JP3549725B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010205067A (ja) * 2009-03-04 2010-09-16 Fujifilm Corp 領域抽出装置、領域抽出方法及び領域抽出プログラム
JP2011134117A (ja) * 2009-12-24 2011-07-07 Canon Inc 被写体領域抽出装置およびその制御方法、被写体追跡装置、並びにプログラム
JP2013058017A (ja) * 2011-09-07 2013-03-28 Nippon Hoso Kyokai <Nhk> 特定領域抽出装置及び特定領域抽出プログラム

Families Citing this family (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000048184A (ja) * 1998-05-29 2000-02-18 Canon Inc 画像処理方法及び顔領域抽出方法とその装置
JP2001188910A (ja) * 1999-10-22 2001-07-10 Toshiba Corp 画像の輪郭抽出方法、画像からの物体抽出方法およびこの物体抽出方法を用いた画像伝送システム
US6614452B1 (en) * 1999-11-15 2003-09-02 Xenogen Corporation Graphical user interface for in-vivo imaging
US7581191B2 (en) 1999-11-15 2009-08-25 Xenogen Corporation Graphical user interface for 3-D in-vivo imaging
AU2001280040A1 (en) * 2000-07-31 2002-02-13 Galil Medical Ltd. Planning and facilitation systems and methods for cryosurgery
US6985609B2 (en) * 2000-08-30 2006-01-10 Giken Trastem Co., Ltd. Method for identifying an object image
US7095401B2 (en) * 2000-11-02 2006-08-22 Siemens Corporate Research, Inc. System and method for gesture interface
US7203648B1 (en) 2000-11-03 2007-04-10 At&T Corp. Method for sending multi-media messages with customized audio
US20080040227A1 (en) 2000-11-03 2008-02-14 At&T Corp. System and method of marketing using a multi-media communication system
US6963839B1 (en) 2000-11-03 2005-11-08 At&T Corp. System and method of controlling sound in a multi-media communication application
US6990452B1 (en) 2000-11-03 2006-01-24 At&T Corp. Method for sending multi-media messages using emoticons
US7091976B1 (en) 2000-11-03 2006-08-15 At&T Corp. System and method of customizing animated entities for use in a multi-media communication application
US6976082B1 (en) 2000-11-03 2005-12-13 At&T Corp. System and method for receiving multi-media messages
US7035803B1 (en) 2000-11-03 2006-04-25 At&T Corp. Method for sending multi-media messages using customizable background images
US6920237B2 (en) * 2000-12-19 2005-07-19 Eastman Kodak Company Digital image processing method and computer program product for detecting human irises in an image
US6792134B2 (en) * 2000-12-19 2004-09-14 Eastman Kodak Company Multi-mode digital image processing method for detecting eyes
JP3437555B2 (ja) * 2001-03-06 2003-08-18 キヤノン株式会社 特定点検出方法及び装置
US7671861B1 (en) * 2001-11-02 2010-03-02 At&T Intellectual Property Ii, L.P. Apparatus and method of customizing animated entities for use in a multi-media communication application
US7239726B2 (en) * 2001-12-12 2007-07-03 Sony Corporation System and method for effectively extracting facial feature information
WO2003063080A2 (en) * 2002-01-22 2003-07-31 Matchlight Software Inc. System and method for image attribute recording and analysis for biometric applications
JP2003264775A (ja) * 2002-03-08 2003-09-19 Sony Corp 情報処理装置および方法、記録媒体、並びにプログラム
US6928186B2 (en) 2002-06-21 2005-08-09 Seiko Epson Corporation Semantic downscaling and cropping (SEDOC) of digital images
CA2509644A1 (en) * 2002-12-11 2004-06-24 Nielsen Media Research, Inc. Detecting a composition of an audience
US7203338B2 (en) * 2002-12-11 2007-04-10 Nielsen Media Research, Inc. Methods and apparatus to count people appearing in an image
JP2005073015A (ja) * 2003-08-26 2005-03-17 Canon Inc 画像処理装置及び画像処理方法及びコンピュータプログラム
JP4476744B2 (ja) * 2003-09-02 2010-06-09 富士フイルム株式会社 撮像システム、及びプログラム
WO2005039181A1 (ja) * 2003-10-21 2005-04-28 Matsushita Electric Industrial Co., Ltd. 監視装置
JP4257250B2 (ja) * 2004-03-30 2009-04-22 富士通株式会社 生体情報照合装置並びに生体特徴情報絞込み装置,生体特徴情報絞込みプログラムおよび同プログラムを記録したコンピュータ読取可能な記録媒体
US20060182339A1 (en) * 2005-02-17 2006-08-17 Connell Jonathan H Combining multiple cues in a visual object detection system
US7595920B2 (en) * 2005-02-23 2009-09-29 Brother Kogyo Kabushiki Kaisha Processing apparatus and processing method of color image information
JP4654773B2 (ja) * 2005-05-31 2011-03-23 富士フイルム株式会社 情報処理装置、動画像符号化装置、情報処理方法及び情報処理プログラム
US7747071B2 (en) * 2005-10-27 2010-06-29 Hewlett-Packard Development Company, L.P. Detecting and correcting peteye
US20070099783A1 (en) * 2005-10-27 2007-05-03 Rennco, Inc. Bag forming device
JP4001162B2 (ja) * 2005-11-04 2007-10-31 オムロン株式会社 画像処理方法、画像処理用のプログラムならびにその記憶媒体、および画像処理装置
KR20080073933A (ko) * 2007-02-07 2008-08-12 삼성전자주식회사 객체 트래킹 방법 및 장치, 그리고 객체 포즈 정보 산출방법 및 장치
TWI394088B (zh) * 2007-12-26 2013-04-21 Altek Corp The adjustment method of the size of the selection of the image object
US8411963B2 (en) 2008-08-08 2013-04-02 The Nielsen Company (U.S.), Llc Methods and apparatus to count persons in a monitored environment
JP2010066853A (ja) * 2008-09-09 2010-03-25 Fujifilm Corp 画像処理装置、方法およびプログラム
JP5183392B2 (ja) * 2008-09-25 2013-04-17 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP5478928B2 (ja) * 2009-03-31 2014-04-23 綜合警備保障株式会社 人物同定装置、人物同定方法、及び人物同定プログラム
KR101662738B1 (ko) * 2010-02-05 2016-10-05 삼성전자주식회사 영상 처리 방법 및 그 장치
US9098110B2 (en) * 2011-06-06 2015-08-04 Microsoft Technology Licensing, Llc Head rotation tracking from depth-based center of mass
US8620088B2 (en) 2011-08-31 2013-12-31 The Nielsen Company (Us), Llc Methods and apparatus to count people in images
US9141196B2 (en) 2012-04-16 2015-09-22 Qualcomm Incorporated Robust and efficient learning object tracker
TWI483193B (zh) * 2012-12-13 2015-05-01 Hongfujin Prec Ind Wuhan 顯示螢幕移動系統及方法
JP6401922B2 (ja) * 2014-03-13 2018-10-10 株式会社メガチップス 物体検出装置
US9514364B2 (en) 2014-05-29 2016-12-06 Qualcomm Incorporated Efficient forest sensing based eye tracking
US9864901B2 (en) * 2015-09-15 2018-01-09 Google Llc Feature detection and masking in images based on color distributions
TWI582710B (zh) * 2015-11-18 2017-05-11 Bravo Ideas Digital Co Ltd The method of recognizing the object of moving image and the interactive film establishment method of automatically intercepting target image
US11250218B2 (en) * 2015-12-11 2022-02-15 Microsoft Technology Licensing, Llc Personalizing natural language understanding systems
US11711638B2 (en) 2020-06-29 2023-07-25 The Nielsen Company (Us), Llc Audience monitoring systems and related methods
US11860704B2 (en) 2021-08-16 2024-01-02 The Nielsen Company (Us), Llc Methods and apparatus to determine user presence
US11758223B2 (en) 2021-12-23 2023-09-12 The Nielsen Company (Us), Llc Apparatus, systems, and methods for user presence detection for audience monitoring

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0820725B2 (ja) * 1990-02-06 1996-03-04 大日本スクリーン製造株式会社 画像輪郭データの作成方法
US5617484A (en) * 1992-09-25 1997-04-01 Olympus Optical Co., Ltd. Image binarizing apparatus
CN1045129C (zh) * 1993-03-29 1999-09-15 松下电器产业株式会社 个人识别装置
JP3490482B2 (ja) 1993-09-20 2004-01-26 株式会社東芝 エッジ及び輪郭抽出装置
JP3279913B2 (ja) * 1996-03-18 2002-04-30 株式会社東芝 人物認証装置、特徴点抽出装置及び特徴点抽出方法
JP3392628B2 (ja) * 1996-03-29 2003-03-31 富士通株式会社 輪郭抽出方法及びシステム
JP3436293B2 (ja) * 1996-07-25 2003-08-11 沖電気工業株式会社 動物の個体識別装置及び個体識別システム
JP3512992B2 (ja) * 1997-01-07 2004-03-31 株式会社東芝 画像処理装置および画像処理方法
US6118888A (en) * 1997-02-28 2000-09-12 Kabushiki Kaisha Toshiba Multi-modal interface apparatus and method

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010205067A (ja) * 2009-03-04 2010-09-16 Fujifilm Corp 領域抽出装置、領域抽出方法及び領域抽出プログラム
JP2011134117A (ja) * 2009-12-24 2011-07-07 Canon Inc 被写体領域抽出装置およびその制御方法、被写体追跡装置、並びにプログラム
JP2013058017A (ja) * 2011-09-07 2013-03-28 Nippon Hoso Kyokai <Nhk> 特定領域抽出装置及び特定領域抽出プログラム

Also Published As

Publication number Publication date
US6332038B1 (en) 2001-12-18
JP3549725B2 (ja) 2004-08-04

Similar Documents

Publication Publication Date Title
JPH11296659A (ja) 画像処理装置
KR100682889B1 (ko) 영상에 기반한 사실감 있는 3차원 얼굴 모델링 방법 및 장치
KR100617390B1 (ko) 얼굴 식별 장치, 얼굴 식별 방법 및 기록매체
US8331619B2 (en) Image processing apparatus and image processing method
US7035461B2 (en) Method for detecting objects in digital images
KR0158038B1 (ko) 개인식별장치
US8311336B2 (en) Compositional analysis method, image apparatus having compositional analysis function, compositional analysis program, and computer-readable recording medium
US6389155B2 (en) Image processing apparatus
RU2358319C2 (ru) Способ и устройство для фотореалистического трехмерного моделирования лица на основе изображения
US6816611B1 (en) Image processing method, facial region extraction method, and apparatus therefor
EP0977151B1 (en) Image processing apparatus, image processing method, and storage medium
US9245330B2 (en) Image processing device, image processing method, and computer readable medium
JP4597391B2 (ja) 顔領域検出装置およびその方法並びにコンピュータ読み取り可能な記録媒体
JP2003526841A (ja) 生物測定学に基づく顔の抽出システム及び方法
JP4912206B2 (ja) 画像処理方法、画像処理装置、画像処理システム及びコンピュータプログラム
IL172480A (en) Method for automatic detection and classification of objects and patterns in low resolution environments
KR20130108456A (ko) 화상 처리 장치, 화상 처리 방법, 및 제어 프로그램
JP2001043376A (ja) 画像抽出方法及び装置並びに記憶媒体
JP2000011145A (ja) 口紅色変換システム
US20090116731A1 (en) Method and system for detection of concha and intertragal notch point in 3D undetailed ear impressions
JP3814353B2 (ja) 画像分割方法および画像分割装置
JP7387261B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP3636936B2 (ja) 濃淡画像の2値化方法および濃淡画像の2値化プログラムを記録した記録媒体
JP4171354B2 (ja) カラー画像処理装置及び方法
JP2004288157A (ja) デジタルイメージの定義スコアの決定

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040420

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040421

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080430

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090430

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees