JP4410732B2 - 顔画像検出装置、顔画像検出方法および顔画像検出プログラム - Google Patents

顔画像検出装置、顔画像検出方法および顔画像検出プログラム Download PDF

Info

Publication number
JP4410732B2
JP4410732B2 JP2005217711A JP2005217711A JP4410732B2 JP 4410732 B2 JP4410732 B2 JP 4410732B2 JP 2005217711 A JP2005217711 A JP 2005217711A JP 2005217711 A JP2005217711 A JP 2005217711A JP 4410732 B2 JP4410732 B2 JP 4410732B2
Authority
JP
Japan
Prior art keywords
image
face
face part
detected
part image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005217711A
Other languages
English (en)
Other versions
JP2007034723A (ja
Inventor
亨 米澤
耕三 河田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Glory Ltd
Original Assignee
Glory Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2005217711A priority Critical patent/JP4410732B2/ja
Application filed by Glory Ltd filed Critical Glory Ltd
Priority to EP06781718.9A priority patent/EP1909228B1/en
Priority to US11/996,569 priority patent/US8311291B2/en
Priority to PCT/JP2006/314806 priority patent/WO2007013529A1/ja
Priority to CA002616460A priority patent/CA2616460A1/en
Priority to KR1020087002114A priority patent/KR101445281B1/ko
Priority to BRPI0614109A priority patent/BRPI0614109A2/pt
Priority to CN2006800269651A priority patent/CN101228552B/zh
Publication of JP2007034723A publication Critical patent/JP2007034723A/ja
Application granted granted Critical
Publication of JP4410732B2 publication Critical patent/JP4410732B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、画像中に存在する顔画像を検出する顔画像検出装置、顔画像検出方法および顔画像検出プログラムに関し、特に、顔画像の検出精度を向上させるとともに、検出処理に要する時間を短縮することができる顔画像検出装置、顔画像検出方法および顔画像検出プログラムに関する。
従来、監視カメラシステムなどにおいて、監視カメラが捉えた画像に人物の顔が映っているか否かを自動的に認識させる顔画像検出技術が知られている。このような顔画像検出技術の例として、部分空間法によるものやIntegral Image法によるものなどがある。
部分空間法を用いた顔画像検出技術の例としては、画像中の目や鼻などの顔パーツを部分空間を用いて認識し、さらに各顔パーツの位置の個人差を吸収するよう各顔パーツの認識結果を統合して顔の基準点を算出することにより顔画像検出をおこなうことを可能とした技術がある(特許文献1を参照)。
また、Integral Image法を用いた顔画像検出技術の例としては、画像中に複数の矩形領域を設定し、各矩形領域に含まれるすべての画素の特徴量の合計値を比較することにより顔画像検出をおこなう技術がある(特許文献2および非特許文献1を参照)。
特開2004−54442号公報 特開2004−362468号公報 Paul Viola, Michael Jones, "Rapid Object Detection using a Boosted Cascade of Simple Features", In Proceedings of IEEE Computer Society Conference on Computer Vision and Pattern Recognition, Volume 1, pp.511-518, December 2001
しかしながら、上述した従来技術では、顔画像の検出処理に要する時間をさらに短縮しつつ、検出精度を向上させることが難しいという問題があった。
具体的には、部分空間法を用いた顔画像検出技術においては、顔パーツを認識する際に顔パーツごとに処理が複雑な部分空間法を適用する必要があるため、処理時間が長くなってしまう。また、顔パーツの認識結果を単に統合することにより顔の基準点を算定しているため、エッジ部分が多い画像などで顔パーツでないものが顔パーツとして誤認識されると顔の検出精度が低くなってしまう。
また、Integral Image法を用いた顔画像検出技術においては、顔画像の検出処理に要する時間を短縮するため、特徴量の合計値を算出する矩形領域の面積が比較的大きく設定される。ところが、直射日光が顔に当たっている画像などでは矩形領域の面積が大きいと、特徴量の合計値が直射日光の影響により大きく変動し、顔画像検出が正常におこなわれなくなる可能性があった。
そのため、顔の検出精度を向上させるとともに、検出処理に要する時間を短縮することができる技術の開発が依然重要な課題として残っている。
この発明は、上述した従来技術による問題点を解消するためになされたものであり、顔画像の検出精度を向上させるとともに、検出処理に要する時間を短縮することができる顔画像検出装置、顔画像検出方法および顔画像検出プログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するため、本発明は、画像中に存在する顔画像を検出する顔画像検出装置であって、顔パーツ画像の検出対象とする画素の周辺画素のうち所定の数の画素を抽出する範囲がそれぞれ異なる複数の抽出パターンに係る情報を記憶する抽出パターン記憶手段と、所定の前記抽出パターンによって抽出した画素の特徴量を用いて前記検出対象とする画素ごとに照合値を算出し、該照合値を前記複数の抽出パターンについて加算した加算値に基づいて前記画像から顔パーツ画像を検出する顔パーツ画像検出手段と、前記顔パーツ画像検出手段により検出された顔パーツ画像に基づいて前記画像から前記顔画像を検出する顔画像検出手段とを備えたことを特徴とする。
また、本発明、顔パーツ画像の検出に用いられる抽出パターンの機械学習を実行する抽出パターン学習手段をさらに備え、前記抽出パターン記憶手段は、前記抽出パターン学習手段により機械学習がなされた抽出パターンに係る情報を記憶することを特徴とする。
また、本発明、前記顔パーツ画像検出手段は、ある抽出パターンを用いて顔パーツ画像の検出をおこなった場合に、顔パーツ画像が検出されなかった際の検出対象であった画素をつぎの抽出パターンを用いて顔パーツ画像の検出をおこなう際の検出対象とする画素から除外することを特徴とする。
また、本発明、前記顔パーツ検出手段は、抽出した画素の特徴量を用いて画像が顔パーツ画像であるか否かを判別する判別分析を実行し、当該判別分析の結果に基づいて顔パーツ画像を検出することを特徴とする。
また、本発明、前記顔パーツ画像検出手段は、画像中に含まれる画像パターンの方向および強度を算出し、算出した画像パターンの方向および強度を画素の特徴量として用いることにより画像中の顔パーツ画像を検出することを特徴とする。
また、本発明、前記顔画像検出手段は、前記顔パーツ画像検出手段により検出された顔パーツ画像の位置に基づいて画像が顔画像であるか否かを判定し、判定結果に基づいて前記画像から顔画像を検出することを特徴とする。
また、本発明、前記顔画像検出手段は、顔パーツ検出手段により検出された顔パーツ画像の位置に基づいて顔画像の代表点を算出し、算出した代表点と前記顔パーツ画像検出手段により検出された顔パーツ画像の位置との間の位置関係に基づいて画像が顔画像であるか否かを判定することを特徴とする。
また、本発明、前記顔画像検出手段は、前記代表点を基準として画像を複数の領域に分割し、前記顔パーツ画像検出手段により顔パーツ画像が検出された場合の顔パーツ画像が位置する領域の情報に基づいて画像が顔画像であるか否かを判定することにより顔画像を検出することを特徴とする。
また、本発明、前記顔画像検出手段は、顔パーツ画像の検出対象であった画素が位置する領域の情報を用いて画像が顔画像であるか否かを判別する判別分析を実行し、当該判別分析の結果に基づいて顔画像を検出することを特徴とする。
また、本発明は、画像中に存在する顔画像を検出する顔画像検出方法であって、顔パーツ画像の検出対象とする画素の周辺画素のうち所定の数の画素を抽出する範囲がそれぞれ異なる複数の抽出パターンに係る情報を記憶する抽出パターン記憶工程と、所定の前記抽出パターンによって抽出した画素の特徴量を用いて前記検出対象とする画素ごとに照合値を算出し、該照合値を前記複数の抽出パターンについて加算した加算値に基づいて前記画像から顔パーツ画像を検出する顔パーツ画像検出工程と、前記顔パーツ画像検出工程により検出された顔パーツ画像に基づいて前記画像から前記顔画像を検出する顔画像検出工程とを含んだことを特徴とする。
また、本発明は、画像中に存在する顔画像を検出する顔画像検出プログラムであって、顔パーツ画像の検出対象とする画素の周辺画素のうち所定の数の画素を抽出する範囲がそれぞれ異なる複数の抽出パターンに係る情報を記憶する抽出パターン記憶手順と、所定の前記抽出パターンによって抽出した画素の特徴量を用いて前記検出対象とする画素ごとに照合値を算出し、該照合値を前記複数の抽出パターンについて加算した加算値に基づいて前記画像から顔パーツ画像を検出する顔パーツ画像検出手順と、前記顔パーツ画像検出手順により検出された顔パーツ画像に基づいて前記画像から顔画像を検出する顔画像検出手順とをコンピュータに実行させることを特徴とする。
発明によれば、顔パーツ画像の検出対象とする画素の周辺画素のうち所定の数の画素を抽出する範囲がそれぞれ異なる複数の抽出パターンに係る情報を記憶し、所定の抽出パターンによって抽出した画素の特徴量を用いて検出対象とする画素ごとに照合値を算出し、算出した照合値を複数の抽出パターンについて加算した加算値に基づいて画像から顔パーツ画像を検出し、検出した顔パーツ画像に基づいて画像から顔画像を検出することとしたので、抽出する画素の数を制御することにより顔パーツ画像の検出処理を高速におこなうことができ、それによって顔画像の検出に要する時間を短縮することができるとともに、顔画像を検出する際の基となる顔パーツ画像を複数回検出することにより顔の検出精度を向上させることができるという効果を奏する。
また、発明によれば、顔パーツ画像の検出に用いられる抽出パターンの機械学習を実行し、機械学習がなされた抽出パターンに係る情報を記憶することとしたので、照明変動を受けにくい部分の画素を抽出する抽出パターンなどを効率的に選択することができるという効果を奏する。
また、発明によれば、ある抽出パターンを用いて顔パーツ画像の検出をおこなった場合に、顔パーツ画像が検出されなかった際の検出対象であった画素をつぎの抽出パターンを用いて顔パーツ画像の検出をおこなう際の検出対象とする画素から除外することとしたので、顔画像の検出処理に要する時間をさらに短縮することができるという効果を奏する。
また、発明によれば、抽出した画素の特徴量を用いて画像が顔パーツ画像であるか否かを判別する判別分析を実行し、当該判別分析の結果に基づいて顔パーツ画像を検出することとしたので、画像が顔パーツ画像であるか否かを効率的に判定することができ、顔画像の検出処理に要する時間をさらに短縮することができるという効果を奏する。
また、発明によれば、画像中に含まれる画像パターンの方向および強度を算出し、算出した画像パターンの方向および強度を画素の特徴量として用いることにより画像中の顔パーツ画像を検出することとしたので、画像パターンの方向および強度を特徴量として用いることによりエッジなどの画像パターンを精度よく検出でき、顔パーツ画像の検出精度を向上させることができるという効果を奏する。
また、発明によれば、検出した顔パーツ画像の位置に基づいて画像が顔画像であるか否かを判定し、判定結果に基づいて画像から顔画像を検出することとしたので、たとえ顔パーツ画像でないものを顔パーツ画像として誤検出した場合でも、適切にそれを把握することができ、顔画像の検出精度を向上させることができるという効果を奏する。
また、発明によれば、検出した顔パーツ画像の位置に基づいて顔画像の代表点を算出し、算出した代表点と検出した顔パーツ画像との間の位置関係に基づいて画像が顔画像であるか否かを判定することとしたので、画像中の顔画像を代表する点の位置を適切に検出することができ、顔画像の検出精度を向上させることができるという効果を奏する。
また、発明によれば、代表点を基準として画像を複数の領域に分割し、顔パーツ画像が検出された場合の顔パーツ画像が位置する領域の情報に基づいて画像が顔画像であるか否かを判定することにより顔画像を検出することとしたので、どの領域に顔パーツ画像があるかを調べることにより、顔パーツでないものを顔パーツとして誤検出した場合でも適切かつ効率的にそれを検出することができ、顔画像の検出精度を向上させることができるという効果を奏する。
また、発明によれば、顔パーツ画像が位置する領域の情報を用いて画像が顔画像であるか否かを判別する判別分析を実行し、当該判別分析の結果に基づいて顔画像を検出することとしたので、画像が顔画像であるか否かを効率的に判定することができ、顔画像の検出精度を向上させることができるという効果を奏する。
また、発明によれば、顔パーツ画像の検出対象とする画素の周辺画素のうち所定の数の画素を抽出する範囲がそれぞれ異なる複数の抽出パターンに係る情報を記憶し、所定の抽出パターンによって抽出した画素の特徴量を用いて検出対象とする画素ごとに照合値を算出し、算出した照合値を複数の抽出パターンについて加算した加算値に基づいて画像から顔パーツ画像を検出し、検出した顔パーツ画像に基づいて画像から顔画像を検出することとしたので、抽出する画素の数を制御することにより顔パーツ画像の検出処理を高速におこなうことができ、それによって顔画像の検出に要する時間を短縮することができるとともに、顔画像を検出する際の基となる顔パーツ画像を複数回検出することにより顔の検出精度を向上させることができるという効果を奏する。
また、発明によれば、顔パーツ画像の検出対象とする画素の周辺画素のうち所定の数の画素を抽出する範囲がそれぞれ異なる複数の抽出パターンに係る情報を記憶し、所定の抽出パターンによって抽出した画素の特徴量を用いて検出対象とする画素ごとに照合値を算出し、算出した照合値を複数の抽出パターンについて加算した加算値に基づいて画像から顔パーツ画像を検出し、検出した顔パーツ画像に基づいて画像から顔画像を検出することとしたので、抽出する画素の数を制御することにより顔パーツ画像の検出処理を高速におこなうことができ、それによって顔画像の検出に要する時間を短縮することができるとともに、顔画像を検出する際の基となる顔パーツ画像を複数回検出することにより顔の検出精度を向上させることができるという効果を奏する。
以下に添付図面を参照して、本発明に係る顔画像検出装置、顔画像検出方法および顔画像検出プログラムの好適な実施例を詳細に説明する。
まず、本発明に係る顔画像検出処理の概念について説明する。図1は、本発明に係る顔画像検出処理の概念について説明する図である。
図1に示すように、この顔画像検出処理においては、まず、顔画像が含まれているか否かを検出する対象となる入力画像10から、縮小率が異なる複数の縮小画像11a〜11cが生成される。なお、ここでは、縮小画像11a〜11cを生成する場合について説明するが、入力画像10に含まれる顔画像の大きさが所定の大きさよりも小さいとあらかじめ予測される場合には拡大率が異なる複数の拡大画像が生成される。また、入力画像10に含まれる顔画像の大きさが予測できない場合には、縮小画像11a〜11cおよび拡大画像が両方とも生成される。これは、以下で説明するテンプレート12a〜12cを画像に適用可能とするためである。そして、各画像に、右目、左目、鼻、口の顔パーツの画像が含まれているか否かが線形判別分析により判定される。
具体的には、画像の各画素の画素値に対してガボールフィルタが適用され、画素ごとにエッジ強度およびエッジ方向が算出される。そして、顔パーツ画像の検出対象となる画素を中心とする四角形のテンプレート12a〜12cが選択され、上記検出対象となる画素、および、その画素の周辺にある所定の数の画素におけるエッジ強度およびエッジ方向の情報が取得される。
ここでは、顔パーツ画像の検出対象となる画素の周辺にある画素として、四角形の四隅の点に対応する画素と、四角形の各辺の中点に対応する画素とが抽出され、検出対象となる画素と併せて合計9つの画素におけるエッジ強度およびエッジ方向の情報が取得される。また、使用されるテンプレート12a〜12cは、照明変動が少ない顔の部分の画素が選択されるように機械学習がなされたものである。
その後、取得された9つの画素におけるエッジ強度およびエッジ方向の情報を用いて、顔パーツ画像の検出対象となる画素に対応する画像部分が顔パーツ画像であるか否かを判別する線形判別分析が実行される。
具体的には、画像が顔パーツ画像か否かを判別する線形判別式にエッジ強度およびエッジ方向の値を入力して判別スコアを算出し、その判別スコアの値に基づいて上記判別がおこなわれる。
このように、9つ分の画素の情報を用いて画像が顔パーツ画像であるか否かを判定するので顔パーツの検出を高速に実行でき、また、9つの画素間でのエッジ画像の変化を捉えることにより顔パーツの検出を適切におこなうことができる。
なお、テンプレート12a〜12cは縦横の長さが異なるものが複数種類用意されており、そのような複数のテンプレート12a〜12cを用いて顔パーツ画像の検出をおこなうことにより顔パーツ画像の検出精度を向上させる。
また、ここでは、テンプレート12a〜12cの形状を四角形にすることとしたが、四角形に限らず楕円形や円形などの形状にすることとしてもよい。ただし、特定の人の目などの顔パーツの形状にテンプレート12a〜12cの形状を依存させると、その他の人の顔パーツの検出精度が悪くなる可能性があるので、テンプレート12a〜12cの形状を顔パーツの形状に依存しない形状とするのが望ましい。
さらに、エッジ強度およびエッジ方向の情報を取得する画素の数は、9つに限定されるものではない。画素の数を増やせば、顔パーツ画像の検出精度が上がり、画素の数を減らせば顔パーツ画像の処理速度が短縮される。したがって、この画素の数を適切に設定することにより、検出精度と処理速度とのバランスを調整することができる。
また、あるテンプレート12a〜12cを用いて顔パーツ画像の検出処理をおこなった際、顔パーツ画像ではないと判定された場合には、顔パーツ画像の検出対象であった画素を他のテンプレート12a〜12cを用いておこなう顔パーツ画像の検出の検出対象となる画素から除外する。これにより、顔パーツ画像の検出処理に要する時間を大幅に縮小することができ、それによって顔画像検出処理の処理時間を短縮することができるようになる。
上記処理により各顔パーツ画像が検出された場合には、検出された各顔パーツ画像の位置に基づいて、顔画像の位置を代表する代表点13が決定される。具体的には、各テンプレート12a〜12cを用いて顔パーツ画像が検出された検出対象の画素からみて、顔画像の代表点13が存在する方向、および、距離(画素数)をあらかじめ設定しておく。
そして、その方向および距離の設定情報に基づいて、各顔パーツ画像の位置から顔画像の代表点13の位置の分布を算出し、その分布のピークを求めることにより顔画像の代表点13を決定する。
顔の代表点13が決定されると、その代表点13を中心として画像を所定の画素数で区切り、9つの分割領域14に分割する。具体的には、右目、左目、鼻、口の4つの顔パーツ画像がそれぞれ左上、右上、中央、中央下の分割領域14に含まれるように各分割領域14の範囲を設定する。
このように各分割領域14の範囲を設定すると、画像が顔画像である場合には顔パーツ画像が所定の位置に存在し、他の位置には無いはずであるため、それを確認することにより顔パーツ画像でないものが誤って顔パーツ画像として検出された場合に画像が顔画像ではないと判定でき、顔画像検出の精度を向上させることができる。
具体的には、各分割領域14に位置する右目、左目、鼻、口の4つの顔パーツ画像の判別スコアの合計値を算出し、その合計値から画像が顔か顔以外かを判定するための36次元(9領域×4顔パーツ)の特徴量を生成する。
そして、生成した特徴量を用いて、画像が顔画像か顔画像以外かを判定する36次元の線形判別分析をおこなう。具体的には、線形判別式に特徴量を入力して判別スコアを算出し、その判別スコアが所定の閾値よりも大きい場合に画像が顔画像であると判定する。
上述してきたような方法で顔画像検出処理をおこなうことにより、顔画像の検出に要する時間を従来の10分の1程度に短縮することができ、また、エッジの多い(高周波成分の多い)画像においては顔画像の検出精度を従来の10倍程度に向上させることができるようになる。
つぎに、本実施例に係る顔画像検出装置の機能構成について説明する。図2は、本実施例に係る顔画像検出装置の機能構成を示す図である。
図2に示すように、この顔画像検出装置は、入力部20、表示部21、学習処理部22、縮小拡大画像生成部23、ガボール特徴画像生成部24、テンプレート選択部25、顔パーツ画像検出部26、顔画像代表点算出部27、顔画像検出用特徴量生成部28、顔画像検出処理部29、記憶部30および制御部31を有する。
入力部20は、キーボードやマウスなどの入力デバイスである。表示部21は、ディスプレイなどの表示デバイスである。学習処理部22は、顔パーツ画像を検出する際に画像に適したテンプレート12a〜12cがどれかを学習する処理部である。具体的には、この学習処理部22は、ブースティングアルゴリズムを用いて、照明変動が少ない画素などを抽出することができるテンプレート12a〜12cがどれかを学習する。
縮小拡大画像生成部23は、入力画像10を受け付けた場合に、その入力画像10を異なる縮小率で縮小した複数の縮小画像11a〜11cや異なる拡大率で拡大した複数の拡大画像を生成する生成部である。具体的には、縮小拡大画像生成部23は、線形補間をおこなうことにより複数の縮小画像11a〜11cや拡大画像を生成する。ここで、入力画像10を縮小するか拡大するかは、使用するテンプレート12a〜12cの大きさと、入力画像10に含まれる顔画像の予測される大きさとの関係により決定される。たとえば、使用するテンプレート12a〜12cの大きさが縦横20画素程度であり、予測される顔画像の大きさが縦横20画素以下である場合には、縮小拡大画像生成部23は、入力画像10の拡大画像を生成する。顔画像の大きさが予測できない場合には、縮小拡大画像生成部23は、縮小画像11a〜11cおよび拡大画像の両方を生成する。
ガボール特徴画像生成部24は、縮小拡大画像生成部23により生成された各画像に対してガボールフィルタを適用し、ガボール特徴画像を生成する生成部である。具体的には、ガボール特徴画像生成部24は、画像から7画素四方の領域を選択し、領域の90度ごとの4つの方向に対してガボールフィルタを適用することによりガボール特徴画像を生成する。なお、7画素四方という大きさは、顔画像の大きさが24画素四方のときに画像の右目と左目とが12画素程度離れていることを仮定して設定されている。
ここで、ガボールフィルタは、
Figure 0004410732
のように表される。また、jは虚数単位であり、θは方向(角度)であり、λは波長であり、σ1,σ2はスケールであり、kは90度ごとの4つの方向である。
ガボール特徴画像生成部24は、ガボールフィルタの実部gk realおよび虚部gk imagの値を算出し、それらの値から画像中の各画素に対して、以下に示す5次元の要素V1〜V5からなる特徴量を算出することによりガボール特徴画像を生成する。
ここで、上記特徴量の1次元目の要素V1は、
Figure 0004410732
のように表される。この1次元目の要素V1は、画像に含まれるエッジの強度を表す量である。
また、2次元目から5次元目までの要素V2からV5は、
Figure 0004410732
のように表される。この2次元目から5次元目までの要素は、画像に含まれるエッジの方向を表す量である。
テンプレート選択部25は、顔パーツ画像を検出する際に、学習処理部22により学習された結果を用いて画像に適したテンプレート12a〜12cを複数選択する選択部である。顔パーツ画像検出部26は、テンプレート選択部25により選択されたテンプレート12a〜12cを用いて顔パーツ画像を検出する検出部である。
具体的には、顔パーツ画像検出部26は、最初のテンプレート12a〜12cを用いて画像の画素を9点ずつ選択し、それらの画素に対応するガボール特徴画像のエッジ強度およびエッジ方向の情報に基づいて画像が顔パーツ画像であるか否かを判別する線形判別分析を実行する。
この線形判別分析で用いられる線形判別式は、
Figure 0004410732
のように表される。ここで、a0,aiは係数であり、wiはテンプレート12a〜12cにより選択された9点における5次元の特徴量V1〜V5の値が代入される変数であり、iは1から45(9点×5次元)までの値をとる。
線形判別式の係数aiは、画像が顔パーツ画像か否かを適切に判別できるようにあらかじめ算出されたものである。この線形判別式に9点における5次元の特徴量V1〜V5の値を代入した際のzの値(判別スコア)が大きいほど、画像が顔パーツ画像である確度が高いと判定される。
そして、顔パーツ画像検出部26は、使用したテンプレート12a〜12cの重みと判別スコアとを乗算した値を顔パーツ画像の検出対象である画素ごとに算出して照合値として設定し、照合値が所定の閾値よりも小さい場合には画像が顔パーツ画像ではないと判定する。
照合値が所定の閾値よりも大きい場合には、顔パーツ画像検出部26は、つぎのテンプレート12a〜12cを使用して判別スコアを算出し、使用したテンプレート12a〜12cの重みと判別スコアとを乗算した値を上記照合値に加算して新たな照合値として設定する。ここでも、照合値が所定の閾値よりも小さくなった場合には、顔パーツ画像検出部26は、画像が顔パーツ画像ではないと判定する。
また、顔パーツ画像検出部26は、画像が顔パーツ画像ではないと判定し、つぎのテンプレート12a〜12cを用いて新たに顔パーツ画像の検出をおこなう場合に、画像が顔パーツ画像ではないと判定した際の顔パーツ画像の検出対象画素をつぎのテンプレート12a〜12cを用いて顔パーツ画像の検出をおこなう際の検出対象画素から除外する。
図3は、顔パーツ画像の検出をおこなう場合の顔パーツ画像の検出対象画素の除外処理について説明する図である。図3には、右目の画像を検出する場合の例が示されているが、他の顔パーツ画像を検出する場合も同様にして検出対象画素の除外処理がおこなわれる。
図3に示すように、顔パーツ画像検出部26は、はじめのテンプレート12a〜12cを適用する場合には、すべての画素のマスク値を「1」に設定し、すべての画素を右目の画像を検出する際の検出対象画素とする。
そして、顔パーツ画像検出部26は、はじめのテンプレート12a〜12cを適用して右目の画像の検出をおこなった結果、右目の画像ではないと判定した際の検出対象画素のマスク値を「0」に設定し、つぎのテンプレート12a〜12cを用いて右目の画像の検出をおこなう場合の検出対象画素からその画素を除外する処理をおこなう。
図2の説明に戻ると、顔画像代表点算出部27は、顔パーツ画像検出部26により検出された各顔パーツ画像の位置から顔画像の位置を代表する代表点13の位置を算出する算出部である。
具体的には、顔画像代表点算出部27は、各テンプレート12a〜12cを用いて各顔パーツ画像を検出した際の検出対象画素からみて、顔画像の代表点13がどの方向に何画素分の距離にあるかを設定した代表点に係る設定情報を取得する。
そして、顔画像代表点算出部27は、その代表点に係る情報と各顔パーツ画像の位置の情報とに基づいて、顔画像の代表点13の位置の分布を算出し、所定のしきい値以上である点を求めることにより顔画像の代表点13の位置を決定する。
顔画像検出用特徴量生成部28は、画像から顔画像を線形判別分析により検出する際に用いられる特徴量を生成する生成部である。具体的には、顔画像検出用特徴量生成部28は、顔画像代表点算出部27により算出された代表点13を中心として画像を所定の画素数で区切ることにより画像を9つの分割領域14に分割する。
そして、顔画像検出用特徴量生成部28は、各テンプレート12a〜12cを適用することにより得られた顔パーツ画像ごとの照合値の合計値を、顔パーツ画像を検出した検出対象画素が位置する分割領域14ごとに算出し、その合計値から画像が顔画像か顔画像以外かを判定するための36次元(9領域×右目、左目、鼻、口の4つの顔パーツ)の特徴量を生成する。
顔画像検出処理部29は、顔画像検出用特徴量生成部28により生成された36次元の特徴量を用いて36次元の線形判別分析をおこなうことにより画像から顔画像を検出する処理部である。
なお、この線形判別分析により用いられる線形判別式は、式(4)と同様のものである。ただし、この場合、a0,aiは画像が顔画像か否かを適切に判別できるようにあらかじめ算出された係数であり、wiは36次元の特徴量の各値が代入される変数であり、iは1から36までの値をとる。
記憶部30は、ハードディスク装置などの記憶デバイスである。この記憶部30は、入力画像30a、縮小拡大画像30b、ガボール特徴画像30c、テンプレート情報30d、顔パーツ画像検出用線形判別式30e、顔パーツ画像判別結果30f、代表点設定情報30g、顔画像検出用線形判別式30h、および、顔画像判別結果30iなどの各データを記憶する。
入力画像30aは、顔画像が検出される対象となる画像である。縮小拡大画像30bは、入力画像30aから生成された縮小率または拡大率が異なる複数の画像である。この縮小拡大画像30bは、図1などで説明した縮小画像11a〜11cまたは拡大画像に対応する。ガボール特徴画像30cは、縮小拡大画像30bに対してガボールフィルタを適用することにより得られた各画素5次元の特徴情報からなる画像である。
テンプレート情報30dは、顔パーツ画像を検出する際に利用されるテンプレート12a〜12cの情報である。具体的には、テンプレート情報30dは、顔パーツ画像の検出対象画素に対する顔パーツ画像の検出時に抽出される8つの画素の相対位置の情報、および、各テンプレート12a〜12cの重みの情報である。
顔パーツ画像検出用線形判別式30eは、顔パーツ画像を検出する際に用いられる線形判別式の情報である。顔パーツ画像判別結果30fは、顔パーツ画像を検出した際の線形判別分析の結果の情報を記憶したものである。具体的には、顔パーツ画像判別結果30fは、線形判別分析により検出された各顔パーツ画像を検出した検出対象画素の位置情報や使用したテンプレートの情報12a〜12c、判別スコア、照合値の情報などを記憶したものである。
代表点設定情報30gは、各顔パーツ画像と顔画像の代表点13との間の位置関係の設定情報を記憶したものである。具体的には、代表点設定情報30gは、顔パーツ画像が検出された際の検出対象の画素からみた場合の代表点13が存在する方向、および、距離(画素数)を設定した情報を各顔パーツごとに記憶したものである。
顔画像検出用線形判別式30hは、顔画像を検出する際に用いられる線形判別式の情報である。顔画像判別結果30iは、顔画像を検出した際の線形判別分析の結果の情報を記憶したものである。具体的には、顔画像判別結果30iは、顔画像の代表点13の位置情報や、画像が顔画像であるか否かを線形判別分析により判別した場合の判別スコアの情報などを記憶したものである。
制御部31は、顔画像検出装置を全体制御する制御部であり、顔画像検出装置の各機能部間におけるデータの授受を司る。
つぎに、本実施例に係る顔画像検出処理の処理手順について説明する。図4は、本実施例に係る顔画像検出処理の処理手順を示すフローチャートである。
図4に示すように、まず、顔画像検出装置の縮小拡大画像生成部23は、顔画像の検出がおこなわれる画像の入力を受け付け(ステップS101)、受け付けた画像から縮小率が異なる複数の縮小画像11a〜11cを生成する(ステップS102)。なお、ここでは、縮小拡大画像生成部23が縮小画像11a〜11cを生成する場合を例として記載しているが、縮小拡大画像生成部23が拡大画像を生成する場合、あるいは、縮小画像11a〜11cおよび拡大画像の両方を生成する場合も以下に説明する処理と同様の処理がおこなわれる。
続いて、ガボール特徴画像生成部24、テンプレート選択部25、および、顔パーツ画像検出部26は、縮小率が異なる複数の縮小画像11a〜11cに対して複数のテンプレート12a〜12cを適用し、線形判別分析により照合値を算出して、右目、左目、鼻、口の各顔パーツ画像を検出する処理をおこなう(ステップS103)。この顔パーツ画像の検出処理については、図5において詳しく説明する。
そして、顔画像代表点算出部27は、ガボール特徴画像生成部24、テンプレート選択部25、および、顔パーツ画像検出部26により検出された顔パーツ画像の位置から顔画像の代表点13の位置を算出する(ステップS104)。
続いて、顔画像検出用特徴量生成部28は、顔画像代表点算出部27により算出された代表点13を中心として画像を所定の画素数で区切ることにより画像を9つの分割領域14に分割し、顔パーツ画像ごとの照合値の合計値を、顔パーツ画像を検出した検出対象画素が位置する分割領域14ごとに算出し、その合計値から画像が顔画像か顔画像以外かを判定するための36次元の特徴量を生成する(ステップS105)。
その後、顔画像検出処理部29は、36次元の特徴量を用いた線形判別分析により画像から顔画像を検出する顔画像検出処理を実行し(ステップS106)、顔画像の検出結果を出力して(ステップS107)、この顔画像検出処理を終了する。
つぎに、図4のステップS103に示した顔パーツ画像の検出処理の処理手順について説明する。図5は、図4のステップS103に示した顔パーツ画像の検出処理の処理手順を示すフローチャートである。
図5に示すように、まず、ガボール特徴画像生成部24は、式(2)および式(3)を用いて、各画素が5次元の要素から構成されるガボール特徴画像を生成する(ステップS201)。そして、顔パーツ画像検出部26は、はじめに画像を検出する顔パーツを設定する(ステップS202)。
続いて、顔パーツ画像検出部26は、すべての画素を顔パーツ画像を検出する検出対象画素とするように、画像のすべての画素のマスク値を「1」に初期化する(ステップS203)。そして、テンプレート選択部25は、学習処理部により学習された結果に基づいて、入力画像10から顔パーツ画像を検出するのに適したテンプレート12a〜12cを選択する(ステップS204)。
その後、顔パーツ画像検出部26は、顔パーツ画像を検出する対象画素を1つ選択し(ステップS205)、選択した画素のマスク値が「1」であるか否かを調べる(ステップS206)。
マスク値が「1」である場合には(ステップS206,Yes)、顔パーツ画像検出部26は、テンプレート12a〜12cにより指定された画素のガボール特徴画像における5次元の特徴量を用いて線形判別分析を実行し(ステップS207)、判別スコアと各テンプレート12a〜12cの重みとから、画像が顔パーツ画像であるか否かの判定に用いられる照合値を算出する(ステップS208)。
そして、顔パーツ画像検出部26は、照合値が所定の閾値以上であるか否かを調べ(ステップS209)、照合値が所定の閾値以上である場合には(ステップS209,Yes)、画像が顔パーツ画像であると判定し(ステップS210)、その顔パーツ画像を検出した検出対象画素の位置、判別スコア、照合値などの情報を記憶する(ステップS211)。
その後、顔パーツ画像検出部26は、すべての画素が選択されることにより画像の走査が完了したか否かを調べる(ステップS214)。ステップS209において、照合値が所定の閾値以上でなかった場合には(ステップS209,No)、顔パーツ画像検出部26は、画像が顔パーツ画像ではないと判定し(ステップS212)、検出対象画素を顔パーツ画像を検出する対象画素から除外するよう当該画素のマスク値を「0」に設定し(ステップS213)、そのままステップS214に移行する。
また、ステップS206において、選択された画素のマスク値が「1」でなかった場合には(ステップS206,No)、そのままステップS214に移行する。ステップS214において、画像の走査がまだ完了していない場合には(ステップS214,No)、顔パーツ画像検出部26は、顔パーツ画像を検出するつぎの検出対象画素を選択し(ステップS215)、ステップS206に移行して、それ以後の処理を継続する。
画像の走査が完了した場合には(ステップS214,Yes)、顔パーツ画像検出部26は、すべてのテンプレート12a〜12cを使用したか否かを調べる(ステップS216)。
すべてのテンプレート12a〜12cを使用していない場合には(ステップS216,No)、テンプレート選択部25は、つぎのテンプレート12a〜12cを選択し(ステップS217)、ステップS205に移行して、それ以後の処理を継続する。
すべてのテンプレート12a〜12cを使用した場合には(ステップS216,Yes)、顔パーツ画像検出部26は、すべての顔パーツ画像の検出処理が完了したか否かを調べる(ステップS218)。
そして、すべての顔パーツ画像の検出処理が完了していない場合には(ステップS218,No)、顔パーツ画像検出部26は、つぎに画像を検出する顔パーツの設定をおこない(ステップS219)、ステップS203に移行して、それ以後の処理を継続する。すべての顔パーツ画像の検出処理が完了した場合には(ステップS218,Yes)、この顔パーツ画像の検出処理を終了する。
つぎに、図2に示した顔画像検出装置のハードウェア構成について説明する。図6は、図2に示した画像処理装置のハードウェア構成を示す図である。図6に示すように、この顔画像検出装置は、キーボード100、ディスプレイ101、ROM(Read Only Memory)102、各種プログラムを記録した記録媒体からプログラムを読み取る媒体読取装置103、ネットワークを介して他のコンピュータとの間でデータの授受をおこなうネットワークインターフェース104、CPU(Central Processing Unit)105、HDD(Hard Disk Drive)106およびRAM(Random Access Memory)108をバス109で接続した構成となる。
HDD106が格納および読み出し制御する記憶媒体であるHD(Hard Disk)107には、本実施例で示される顔画像検出方法をコンピュータで実行することにより実現する顔画像検出プログラム107aが記憶され、実行時に顔画像検出プログラム107aがHD107から読み出された後、CPU105によりそれが解析され、顔画像検出プロセス105aの実行がおこなわれる。
この顔画像検出プロセス105aが、図2に示した学習処理部22、縮小拡大画像生成部23、ガボール特徴画像生成部24、テンプレート選択部25、顔パーツ画像検出部26、顔画像代表点算出部27、顔画像検出用特徴量生成部28、顔画像検出処理部29の各機能に対応する。
また、HD107には、各種データ107bが記憶され、顔画像検出プログラム107aの実行時には各種データ107bがRAM108に記憶され、RAM108に記憶された各種データ108aがCPU105により参照される。
この各種データ107bは、図2に示した入力画像30a、縮小拡大画像30b、ガボール特徴画像30c、テンプレート情報30d、顔パーツ画像検出用線形判別式30e、顔パーツ画像判別結果30f、代表点設定情報30g、顔画像検出用線形判別式30h、および、顔画像判別結果30iなどの各種データに対応する。
上述してきたように、本実施例では、顔画像検出装置の記憶部30が、顔パーツ画像の検出対象とする画素の周辺画素のうち所定の数の画素を抽出する異なる複数のテンプレート12a〜12cに係る情報を記憶し、顔パーツ画像検出部26が、記憶部30に記憶された異なる複数のテンプレート12a〜12cを用いることにより画素を抽出し、抽出した画素の特徴量を用いて画像中の顔パーツ画像を検出し、顔画像検出部29が、顔パーツ検出部26により検出された顔パーツ画像に基づいて画像から顔画像を検出することとしたので、抽出する画素の数を制御することにより顔パーツ画像の検出処理を高速におこなうことができ、それによって顔画像の検出に要する時間を短縮することができるとともに、顔画像を検出する際の基となる顔パーツ画像を複数回検出することにより顔の検出精度を向上させることができる。
また、本実施例では、学習処理部22が、顔パーツ画像の検出に用いられるテンプレート12a〜12cの機械学習を実行し、記憶部30が、機械学習がなされたテンプレート12a〜12cの情報を記憶することとしたので、照明変動を受けにくい部分の画素を抽出する抽出パターンなどを効率的に選択することができる。
また、本実施例では、顔パーツ画像検出部26が、あるテンプレート12a〜12cを用いて顔パーツ画像の検出をおこなった場合に、顔パーツ画像が検出されなかった画素をつぎのテンプレート12a〜12cを用いて顔パーツ画像の検出をおこなう場合の検出対象とする画素から除外することとしたので、顔画像の検出処理に要する時間をさらに短縮することができる。
また、本実施例では、顔パーツ画像検出部26が、テンプレート12a〜12cを用いて抽出した画素の特徴量を用いて画像が顔パーツ画像であるか否かを判別する判別分析を実行し、当該判別分析の結果に基づいて顔パーツ画像を検出することとしたので、画像が顔パーツ画像であるか否かを効率的に判定することができ、顔画像の検出処理に要する時間をさらに短縮することができる。
また、本実施例では、ガボール特徴画像生成部24が、入力画像10中に含まれるエッジなどの画像パターンの方向および強度を算出し、顔パーツ画像検出部26が、ガボール特徴画像生成部24により算出された画像パターンの方向および強度を画素の特徴量として用いることにより画像中の顔パーツ画像を検出することとしたので、画像パターンの方向および強度を特徴量として用いることによりエッジなどのパターンを精度よく検出でき、顔パーツ画像の検出精度を向上させることができる。
また、本実施例では、顔画像検出部29が、顔パーツ画像検出部26により検出された顔パーツ画像の位置に基づいて画像が顔画像であるか否かを判定し、判定結果に基づいて画像から顔画像を検出することとしたので、たとえ顔パーツ画像でないものを顔パーツ画像として誤検出した場合でも、適切にそれを把握することができ、顔画像の検出精度を向上させることができる。
また、本実施例では、顔画像代表点算出部27が、顔パーツ画像検出部26により検出された顔パーツ画像に基づいて顔の代表点13を算出し、顔画像検出部29が、顔画像代表点算出部27により算出された代表点13と、顔パーツ画像検出部26により検出された顔パーツ画像との間の位置関係に基づいて画像が顔画像であるか否かを判定することとしたので、画像中の顔画像を代表する点の位置を適切に検出することができ、顔画像の検出精度を向上させることができる。
また、本実施例では、顔画像検出用特徴量生成部28が、代表点13を基準として画像を複数の分割領域14に分割し、顔画像検出部29が、顔パーツ画像が検出された場合の顔パーツ画像が位置する分割領域14の情報に基づいて画像が顔画像であるか否かを判定することにより顔画像を検出することとしたので、顔パーツ画像の検出対象であった画素がどの分割領域14にあるかを調べることにより、顔パーツでないものを顔パーツとして誤検出した場合でも適切にそれを検出することができ、顔画像の検出精度を向上させることができる。
また、本実施例では、顔画像検出部29が、顔パーツ画像が位置する分割領域14の情報を用いて画像が顔画像であるか否かを判別する判別分析を実行し、当該判別分析の結果に基づいて顔画像を検出することとしたので、画像が顔画像であるか否かを効率的に判定することができ、顔画像の検出精度を向上させることができる。
さて、これまで本発明の実施例について説明したが、本発明は上述した実施例以外にも、特許請求の範囲に記載した技術的思想の範囲内において種々の異なる実施例にて実施されてもよいものである。
たとえば、上記実施例では、画像を9つの分割領域14に分割し、顔パーツ画像がどの分割領域14で検出されたかを調べることにより、画像が顔画像か否かを判定することとしたが、本発明はこれに限定されるものではなく、顔パーツ画像が存在すると予測される位置に顔パーツ画像があるか否かを判定することにより画像が顔画像か否かを判定することとしてもよい。
図7は、顔パーツ画像が存在すると予測される位置に顔パーツ画像があるか否かを判定する判定処理について説明する図である。図7に示すように、この判定処理においては、顔の代表点13の位置を基準として顔パーツ画像が存在すると予測される分布(図7に示す存在確率分布40a,40b)をあらかじめ学習しておく。
そして、顔画像検出部29は、顔パーツ画像の位置がその分布における閾値以上の範囲に含まれる場合に顔パーツが適切な位置にあるものと判定する。顔画像検出部29は、この判定処理をすべての顔パーツに対しておこない、すべての顔パーツ画像が適切な位置にあると判定された場合に、画像が顔画像であると判定する。
この例では、顔画像検出部29が、顔パーツ画像と代表点13との間の位置関係に基づいて画像が顔画像であるか否かを判定することとしたので、顔パーツ画像が代表点13に対してどのような位置関係にあるかを調べることにより、顔パーツ画像でないものを顔パーツ画像として誤検出した場合でも適切にそれを検出することができ、顔画像の検出精度を向上させることができる。
また、上記実施例では、顔パーツ画像または顔画像を線形判別分析をおこなうことにより検出することとしたが、本発明はこれに限定されるものではなく、顔パーツ画像または顔画像の検出をその他の統計手法を用いて実行することとしてもよい。その他の統計手法としては、たとえば、非線形判別分析やSupport Vector Machine(SVM)法、ニューラルネットワーク法、部分空間法などを用いた顔パーツ画像または顔画像の識別手法が挙げられる。
また、本実施例において説明した各処理のうち、自動的におこなわれるものとして説明した処理の全部または一部を手動的におこなうこともでき、あるいは、手動的におこなわれるものとして説明した処理の全部または一部を公知の方法で自動的におこなうこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
また、図示した顔画像検出装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、顔画像検出装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
さらに、顔画像検出装置にて行なわれる各処理機能は、その全部または任意の一部が、CPUおよび当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
なお、本実施の形態で説明した顔画像検出方法は、あらかじめ用意されたプログラムをパーソナル・コンピュータやワークステーションなどのコンピュータで実行することによって実現することができる。
このプログラムは、インターネットなどのネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク(FD)、CD−ROM、MO、DVDなどのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することもできる。
以上のように、本発明に係る顔画像検出装置、顔画像検出方法および顔画像検出プログラムは、顔画像の検出精度を向上させるとともに、顔画像の検出処理に要する時間を短縮することが必要な顔画像検出システムに有用である。
本発明に係る顔画像検出処理の概念について説明する図である。 本実施例に係る顔画像検出装置の機能構成を示す図である。 顔パーツ画像の検出をおこなう場合の顔パーツ画像の検出対象画素の除外処理について説明する図である。 本実施例に係る顔画像検出処理の処理手順を示すフローチャートである。 図4のステップS103に示した顔パーツ画像の検出処理の処理手順を示すフローチャートである。 図2に示した画像処理装置のハードウェア構成を示す図である。 顔パーツ画像が存在すると予測される位置に顔パーツ画像があるか否かを判定する判定処理について説明する図である。
符号の説明
10 入力画像
11a,11b,11c 縮小画像
12a,12b,12c テンプレート
13 代表点
14 分割領域
20 入力部
21 表示部
22 学習処理部
23 縮小拡大画像生成部
24 ガボール特徴画像生成部
25 テンプレート選択部
26 顔パーツ画像検出部
27 顔画像代表点算出部
28 顔画像検出用特徴量生成部
29 顔画像検出部
30 記憶部
30a 入力画像
30b 縮小拡大画像
30c ガボール特徴画像
30d テンプレート情報
30e 顔パーツ画像検出用線形判別式
30f 顔パーツ画像判別結果
30g 代表点設定情報
30h 顔画像検出用線形判別式
30i 顔画像判別結果
31 制御部
40a,40b 存在確率分布
100 キーボード
101 ディスプレイ
102 ROM
103 媒体読取装置
104 ネットワークインターフェース
105 CPU
105a 顔画像検出プロセス
106 HDD
107 HD
107a 顔画像検出プログラム
107b 各種データ
108 RAM
108a 各種データ
109 バス

Claims (5)

  1. 画像中に存在する顔画像を検出する顔画像検出装置であって、
    顔パーツ画像の検出対象とする画素の周辺画素のうち特徴量を抽出する画素の組合せがそれぞれ異なる複数の抽出パターンに係る情報を記憶する抽出パターン記憶手段と、
    所定の前記抽出パターンを前記画像に適用することによって抽出した画素の特徴量を用いて前記検出対象とする画素ごとに照合値を算出し、該照合値を前記複数の抽出パターンについて加算した加算値に基づいて前記画像から顔パーツ画像を検出する処理を、顔パーツごとに行う顔パーツ画像検出手段と、
    各顔パーツ画像と顔画像の代表点との位置関係をあらかじめ定めた設定情報を用い、前記顔パーツ画像検出手段により検出された顔パーツ画像の位置および前記設定情報に基づいて顔画像の代表点を算出し、算出した代表点と前記顔パーツ画像検出手段により検出された顔パーツ画像との間の位置関係に基づき、前記代表点に対して各顔パーツ画像が所定の位置に存在する場合に、前記代表点に関する前記画像が前記顔画像であると判定することで、前記画像から前記顔画像を検出する顔画像検出手段と
    を備えたことを特徴とする顔画像検出装置。
  2. 前記顔パーツ画像検出手段は、ある抽出パターンを用いて顔パーツ画像の検出をおこなった場合に、顔パーツ画像が検出されなかった際の検出対象であった画素をつぎの抽出パターンを用いて顔パーツ画像の検出をおこなう際の検出対象とする画素から除外することを特徴とする請求項1に記載の顔画像検出装置。
  3. 前記顔画像検出手段は、前記代表点を基準として画像を複数の領域に分割し、前記顔パーツ画像検出手段により顔パーツ画像が検出された場合の顔パーツ画像が位置する領域の情報に基づいて画像が顔画像であるか否かを判定することにより顔画像を検出することを特徴とする請求項1または2に記載の顔画像検出装置。
  4. 画像中に存在する顔画像を検出する顔画像検出方法であって、
    顔パーツ画像の検出対象とする画素の周辺画素のうち特徴量を抽出する画素の組合せがそれぞれ異なる複数の抽出パターンに係る情報を記憶する抽出パターン記憶工程と、
    所定の前記抽出パターンを前記画像に適用することによって抽出した画素の特徴量を用いて前記検出対象とする画素ごとに照合値を算出し、該照合値を前記複数の抽出パターンについて加算した加算値に基づいて前記画像から顔パーツ画像を検出する処理を、顔パーツごとに行う顔パーツ画像検出工程と、
    各顔パーツ画像と顔画像の代表点との位置関係をあらかじめ定めた設定情報を用い、前記顔パーツ画像検出工程により検出された顔パーツ画像の位置および前記設定情報に基づいて顔画像の代表点を算出し、算出した代表点と前記顔パーツ画像検出工程により検出された顔パーツ画像との間の位置関係に基づき、前記代表点に対して各顔パーツ画像が所定の位置に存在する場合に、前記代表点に関する前記画像が前記顔画像であると判定することで、前記画像から前記顔画像を検出する顔画像検出工程と
    を含んだことを特徴とする顔画像検出方法。
  5. 画像中に存在する顔画像を検出する顔画像検出プログラムであって、
    顔パーツ画像の検出対象とする画素の周辺画素のうち特徴量を抽出する画素の組合せがそれぞれ異なる複数の抽出パターンに係る情報を記憶する抽出パターン記憶手順と、
    所定の前記抽出パターンを前記画像に適用することによって抽出した画素の特徴量を用いて前記検出対象とする画素ごとに照合値を算出し、該照合値を前記複数の抽出パターンについて加算した加算値に基づいて前記画像から顔パーツ画像を検出する処理を、顔パーツごとに行う顔パーツ画像検出手順と、
    各顔パーツ画像と顔画像の代表点との位置関係をあらかじめ定めた設定情報を用い、前記顔パーツ画像検出手順により検出された顔パーツ画像の位置および前記設定情報に基づいて顔画像の代表点を算出し、算出した代表点と前記顔パーツ画像検出手順により検出された顔パーツ画像との間の位置関係に基づき、前記代表点に対して各顔パーツ画像が所定の位置に存在する場合に、前記代表点に関する前記画像が前記顔画像であると判定することで、前記画像から前記顔画像を検出する顔画像検出手順と
    をコンピュータに実行させることを特徴とする顔画像検出プログラム。
JP2005217711A 2005-07-27 2005-07-27 顔画像検出装置、顔画像検出方法および顔画像検出プログラム Expired - Fee Related JP4410732B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2005217711A JP4410732B2 (ja) 2005-07-27 2005-07-27 顔画像検出装置、顔画像検出方法および顔画像検出プログラム
US11/996,569 US8311291B2 (en) 2005-07-27 2006-07-26 Face image detecting device, face image detecting method, and face image detecting program
PCT/JP2006/314806 WO2007013529A1 (ja) 2005-07-27 2006-07-26 顔画像検出装置、顔画像検出方法および顔画像検出プログラム
CA002616460A CA2616460A1 (en) 2005-07-27 2006-07-26 Face-image detecting apparatus, face-image detecting method, and face-image detecting program
EP06781718.9A EP1909228B1 (en) 2005-07-27 2006-07-26 Face image detecting device, face image detecting method, and face image detecting program
KR1020087002114A KR101445281B1 (ko) 2005-07-27 2006-07-26 얼굴 화상 검출장치, 얼굴 화상 검출방법 및 얼굴 화상 검출프로그램을 기록한 컴퓨터 판독 가능한 기록매체
BRPI0614109A BRPI0614109A2 (pt) 2005-07-27 2006-07-26 aparelho de detecção de imagem facial que detecta uma imagem facial incluída em uma imagem, e, método e programa de detecção de imagem facial para detectar uma imagem facial incluída em uma imagem
CN2006800269651A CN101228552B (zh) 2005-07-27 2006-07-26 脸图像检测装置、脸图像检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005217711A JP4410732B2 (ja) 2005-07-27 2005-07-27 顔画像検出装置、顔画像検出方法および顔画像検出プログラム

Publications (2)

Publication Number Publication Date
JP2007034723A JP2007034723A (ja) 2007-02-08
JP4410732B2 true JP4410732B2 (ja) 2010-02-03

Family

ID=37683420

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005217711A Expired - Fee Related JP4410732B2 (ja) 2005-07-27 2005-07-27 顔画像検出装置、顔画像検出方法および顔画像検出プログラム

Country Status (8)

Country Link
US (1) US8311291B2 (ja)
EP (1) EP1909228B1 (ja)
JP (1) JP4410732B2 (ja)
KR (1) KR101445281B1 (ja)
CN (1) CN101228552B (ja)
BR (1) BRPI0614109A2 (ja)
CA (1) CA2616460A1 (ja)
WO (1) WO2007013529A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4532419B2 (ja) * 2006-02-22 2010-08-25 富士フイルム株式会社 特徴点検出方法および装置並びにプログラム
CN101315670B (zh) * 2007-06-01 2010-08-11 清华大学 特定被摄体检测装置及其学习装置和学习方法
JP2008311921A (ja) * 2007-06-14 2008-12-25 Fujifilm Corp 撮像装置
JP2008311922A (ja) * 2007-06-14 2008-12-25 Fujifilm Corp 撮像装置
EP2033766B1 (en) 2007-08-09 2011-09-07 Murata Machinery, Ltd. Automated filament winding system
WO2009038559A1 (en) * 2007-09-19 2009-03-26 Thomson Licensing System and method for scaling images
JP4930433B2 (ja) * 2008-04-01 2012-05-16 セイコーエプソン株式会社 画像処理装置、画像処理方法、および画像処理プログラム
JP4742193B2 (ja) * 2009-04-28 2011-08-10 Necソフト株式会社 年齢推定装置、年齢推定方法及びプログラム
ES2377303B1 (es) * 2009-06-05 2013-02-01 Vodafone España S.A.U. Método y sistema para recomendar fotografías.
WO2011037579A1 (en) * 2009-09-25 2011-03-31 Hewlett-Packard Development Company, L.P. Face recognition apparatus and methods
JP2011170690A (ja) * 2010-02-19 2011-09-01 Sony Corp 情報処理装置、情報処理方法、およびプログラム。
US9195501B2 (en) * 2011-07-12 2015-11-24 Qualcomm Incorporated Instruction culling in graphics processing unit
US8774508B2 (en) * 2012-02-27 2014-07-08 Denso It Laboratory, Inc. Local feature amount calculating device, method of calculating local feature amount, corresponding point searching apparatus, and method of searching corresponding point
WO2013138268A1 (en) * 2012-03-12 2013-09-19 Diy, Co. Automatic face detection and parental approval in images and video and applications thereof
US9443137B2 (en) * 2012-05-08 2016-09-13 Samsung Electronics Co., Ltd. Apparatus and method for detecting body parts
CN103455234A (zh) * 2012-06-01 2013-12-18 腾讯科技(深圳)有限公司 显示应用程序界面的方法及装置
WO2015042976A1 (zh) * 2013-09-30 2015-04-02 酷派软件技术(深圳)有限公司 图像编码、解码方法和系统以及终端
JP6524910B2 (ja) * 2013-10-01 2019-06-05 日本電気株式会社 物体検出装置、物体検出方法および学習装置
US9807316B2 (en) 2014-09-04 2017-10-31 Htc Corporation Method for image segmentation
WO2020049933A1 (ja) * 2018-09-05 2020-03-12 日本電産株式会社 物体認識装置および物体認識方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6463176B1 (en) 1994-02-02 2002-10-08 Canon Kabushiki Kaisha Image recognition/reproduction method and apparatus
JP3078166B2 (ja) 1994-02-02 2000-08-21 キヤノン株式会社 物体認識方法
US5710590A (en) * 1994-04-15 1998-01-20 Hitachi, Ltd. Image signal encoding and communicating apparatus using means for extracting particular portions of an object image
JPH11120351A (ja) * 1997-10-15 1999-04-30 Fujitsu Ltd 画像マッチング装置および画像マッチングプログラムを格納する記憶媒体
US6108437A (en) * 1997-11-14 2000-08-22 Seiko Epson Corporation Face recognition apparatus, method, system and computer readable medium thereof
GB2341231A (en) * 1998-09-05 2000-03-08 Sharp Kk Face detection in an image
JP3636927B2 (ja) * 1999-05-18 2005-04-06 三菱電機株式会社 顔画像処理装置
EP1107166A3 (en) * 1999-12-01 2008-08-06 Matsushita Electric Industrial Co., Ltd. Device and method for face image extraction, and recording medium having recorded program for the method
JP2001216515A (ja) * 2000-02-01 2001-08-10 Matsushita Electric Ind Co Ltd 人物の顔の検出方法およびその装置
JP2001285787A (ja) * 2000-03-31 2001-10-12 Nec Corp 映像録画方法およびそのシステムとその記録媒体
US7155036B2 (en) * 2000-12-04 2006-12-26 Sony Corporation Face detection under varying rotation
JP3846851B2 (ja) 2001-02-01 2006-11-15 松下電器産業株式会社 画像のマッチング処理方法及びその装置
GB0112773D0 (en) * 2001-05-25 2001-07-18 Univ Manchester Object identification
US7050607B2 (en) * 2001-12-08 2006-05-23 Microsoft Corp. System and method for multi-view face detection
AUPS140502A0 (en) * 2002-03-27 2002-05-09 Seeing Machines Pty Ltd Method for automatic detection of facial features
JP2003317084A (ja) 2002-04-19 2003-11-07 Nec Corp 顔画像からの目検出システム、目検出方法および目検出用プログラム
JP4011426B2 (ja) * 2002-07-17 2007-11-21 グローリー株式会社 顔検出装置、顔検出方法および顔検出プログラム
JP4447245B2 (ja) 2003-06-06 2010-04-07 オムロン株式会社 特定被写体検出装置
DE602004008282T2 (de) * 2003-06-30 2008-05-15 Honda Motor Co., Ltd. System und verfahren zur gesichtserkennung
US7920725B2 (en) * 2003-09-09 2011-04-05 Fujifilm Corporation Apparatus, method, and program for discriminating subjects

Also Published As

Publication number Publication date
BRPI0614109A2 (pt) 2016-11-22
JP2007034723A (ja) 2007-02-08
EP1909228B1 (en) 2014-07-02
US20090041357A1 (en) 2009-02-12
US8311291B2 (en) 2012-11-13
EP1909228A4 (en) 2009-07-01
KR20080031031A (ko) 2008-04-07
WO2007013529A1 (ja) 2007-02-01
CA2616460A1 (en) 2007-02-01
EP1909228A1 (en) 2008-04-09
KR101445281B1 (ko) 2014-09-26
CN101228552B (zh) 2012-10-03
CN101228552A (zh) 2008-07-23

Similar Documents

Publication Publication Date Title
JP4410732B2 (ja) 顔画像検出装置、顔画像検出方法および顔画像検出プログラム
KR100724932B1 (ko) 얼굴 검출 장치 및 방법
US7840037B2 (en) Adaptive scanning for performance enhancement in image detection systems
US10438059B2 (en) Image recognition method, image recognition apparatus, and recording medium
KR101877981B1 (ko) 가버 특징과 svm 분류기를 이용하여 위변조 얼굴을 인식하기 위한 시스템 및 그 방법
KR102290392B1 (ko) 얼굴 등록 방법 및 장치, 얼굴 인식 방법 및 장치
US8401250B2 (en) Detecting objects of interest in still images
EP1918850A2 (en) Method and apparatus for detecting faces in digital images
WO2016138838A1 (zh) 基于投影极速学习机的唇语识别方法和装置
Kawulok et al. Precise multi-level face detector for advanced analysis of facial images
JP6756406B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
KR20170045813A (ko) 사용자 인증을 위한 생체 영역을 검출하는 방법 및 장치
US7831068B2 (en) Image processing apparatus and method for detecting an object in an image with a determining step using combination of neighborhoods of a first and second region
Mayer et al. Adjusted pixel features for robust facial component classification
Abaza et al. Ear recognition: a complete system
JP4749884B2 (ja) 顔判別装置の学習方法、顔判別方法および装置並びにプログラム
JP2006323779A (ja) 画像処理方法、画像処理装置
JP2006133941A (ja) 画像処理装置、画像処理方法、画像処理プログラム及び携帯型端末
Goswami et al. Kernel group sparse representation based classifier for multimodal biometrics
KR101473991B1 (ko) 얼굴 검출 방법 및 그 장치
JP2017084006A (ja) 画像処理装置およびその方法
JP2006244385A (ja) 顔判別装置およびプログラム並びに顔判別装置の学習方法
KR101306576B1 (ko) 차분 성분을 고려한 조명 변화에 강인한 얼굴 인식 시스템
Paul et al. Automatic adaptive facial feature extraction using CDF analysis
CN111832460B (zh) 一种基于多特征融合的人脸图像提取方法及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090605

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091007

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20091019

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091110

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091113

R150 Certificate of patent or registration of utility model

Ref document number: 4410732

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131120

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131120

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees