JP2014102713A - 顔構成部抽出装置、顔構成部抽出方法及びプログラム - Google Patents

顔構成部抽出装置、顔構成部抽出方法及びプログラム Download PDF

Info

Publication number
JP2014102713A
JP2014102713A JP2012254824A JP2012254824A JP2014102713A JP 2014102713 A JP2014102713 A JP 2014102713A JP 2012254824 A JP2012254824 A JP 2012254824A JP 2012254824 A JP2012254824 A JP 2012254824A JP 2014102713 A JP2014102713 A JP 2014102713A
Authority
JP
Japan
Prior art keywords
image
face
eye
evaluation value
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012254824A
Other languages
English (en)
Other versions
JP6098133B2 (ja
Inventor
Daisei Kasahara
大聖 笠原
Keisuke Shimada
敬輔 島田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2012254824A priority Critical patent/JP6098133B2/ja
Priority to US14/051,236 priority patent/US9323981B2/en
Publication of JP2014102713A publication Critical patent/JP2014102713A/ja
Application granted granted Critical
Publication of JP6098133B2 publication Critical patent/JP6098133B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】画像からの顔構成部の抽出を適正に行う。
【解決手段】撮像装置100であって、画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出部5cと、検出された複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1評価値算出部5dと、算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、複数の顔構成部を抽出するための複数の抽出用モデルを画像内で適合させるモデル適合部5eと、複数の抽出用モデルの適合状態に係る第2評価値を所定数の一対の目領域毎に算出する第2評価値算出部5fと、所定数の第2評価値の算出結果に基づいて、複数の抽出用モデルの適合態様を決定する適合態様決定部5gと、を備えている。
【選択図】図1

Description

本発明は、顔構成部抽出装置、顔構成部抽出方法及びプログラムに関する。
従来、目、鼻、口、耳、顔の輪郭等の顔構成部の特徴点を用いて似顔絵を作成する似顔絵作成装置が知られている(例えば、特許文献1参照)。
特開2004−145625号公報
ところで、画像内から目や口などの顔構成部を抽出するための抽出用モデルを当該画像内で適合させる場合、当該抽出用モデルを適正に適合させるために画像の顔領域の目の位置を基準として行うのが好ましい。しかしながら、画像内のヒトが黒縁眼鏡などの太い縁で濃い色の眼鏡などをかけていると、目の検出を適正に行うことができず、結果として、抽出用モデルの適合を適正に行うことができない虞がある。
そこで、本発明の課題は、画像からの顔構成部の抽出を適正に行うことができる顔構成部抽出装置、顔構成部抽出方法及びプログラムを提供することである。
上記課題を解決するため、本発明に係る顔構成部抽出装置は、
画像を取得する取得手段と、前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段と、前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段と、前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段と、前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段と、前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段と、を備えたことを特徴としている。
また、本発明に係る顔構成部抽出方法は、
顔構成部抽出装置を用いた顔構成部抽出方法であって、画像を取得する処理と、取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する処理と、検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する処理と、算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる処理と、前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する処理と、所定数の第2評価値の算出結果に基づいて、前記複数の抽出用モデルの適合態様を決定する処理と、を含むことを特徴としている。
また、本発明に係るプログラムは、
顔構成部抽出装置のコンピュータを、画像を取得する取得手段、前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段、前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段、前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段、前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段、前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段、として機能させることを特徴としている。
本発明によれば、画像からの顔構成部の抽出を適正に行うことができる。
本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。 図1の撮像装置による似顔絵画像生成処理に係る動作の一例を示すフローチャートである。 図2の似顔絵画像生成処理に係る画像の一例を模式的に示す図である。 図2の似顔絵画像生成処理に係る画像の一例を模式的に示す図である。 図2の似顔絵画像生成処理に係る画像の一例を模式的に示す図である。 図2の似顔絵画像生成処理に係る画像の一例を模式的に示す図である。
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
図1に示すように、本実施形態の撮像装置100は、具体的には、撮像部1と、撮像制御部2と、画像データ生成部3と、メモリ4と、画像処理部5と、記録媒体制御部6と、表示制御部7と、表示部8と、操作入力部9と、中央制御部10とを備えている。
また、撮像部1、撮像制御部2、画像データ生成部3、メモリ4、画像処理部5、記録媒体制御部6、表示制御部7及び中央制御部10は、バスライン11を介して接続されている。
撮像部1は、特定の被写体を撮像してフレーム画像を生成する。
具体的には、撮像部1は、レンズ部1aと、電子撮像部1bと、レンズ駆動部1cとを備えている。
レンズ部1aは、例えば、ズームレンズやフォーカスレンズ等の複数のレンズから構成されている。
電子撮像部1bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサ(撮像素子)から構成されている。そして、電子撮像部1bは、レンズ部1aの各種レンズを通過した光学像を二次元の画像信号に変換する。
レンズ駆動部1cは、例えば、図示は省略するが、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えている。
なお、撮像部1は、レンズ部1a、電子撮像部1b及びレンズ駆動部1cに加えて、レンズ部1aを通過する光の量を調整する絞り(図示略)を備えても良い。
撮像制御部2は、撮像部1による特定の被写体の撮像を制御する。即ち、撮像制御部2は、図示は省略するが、タイミング発生器、ドライバなどを備えている。そして、撮像制御部2は、タイミング発生器、ドライバにより電子撮像部1bを走査駆動して、レンズ部1aを通過した光学像を電子撮像部1bにより所定周期毎に二次元の画像信号に変換させ、当該電子撮像部1bの撮像領域から1画面分ずつフレーム画像を読み出して画像データ生成部3に出力させる。
なお、撮像制御部2は、レンズ部1aのフォーカスレンズに代えて、電子撮像部1bを光軸方向に移動させてレンズ部1aの合焦位置を調整するようにしても良い。
また、撮像制御部2は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の特定の被写体を撮像する際の条件の調整制御を行っても良い。
画像データ生成部3は、電子撮像部1bから転送されたフレーム画像のアナログ値の信号に対してRGBの各色成分毎に適宜ゲイン調整した後に、サンプルホールド回路(図示略)でサンプルホールドしてA/D変換器(図示略)でデジタルデータに変換し、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理を行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用されるメモリ4にDMA転送される。
メモリ4は、例えば、DRAM(Dynamic Random Access Memory)等により構成され、画像処理部5や中央制御部10等によって処理されるデータ等を一時的に格納する。
画像処理部5は、画像取得部5aと、顔検出部5bと、目検出部5cと、第1評価値算出部5dと、モデル適合部5eと、第2評価値算出部5fと、適合態様決定部5gと、構成部画像生成部5hと、似顔絵画像生成部5iとを具備している。
なお、画像処理部5の各部は、例えば、所定のロジック回路から構成されているが、当該構成は一例であってこれに限られるものではない。
画像取得部5aは、顔構成部抽出処理の処理対象となる画像を取得する。
即ち、画像取得部(取得手段)5aは、元画像となる画像(例えば、写真画像等)P1の画像データを取得する。具体的には、画像取得部5aは、撮像部1及び撮像制御部2による特定の被写体(例えば、ヒトの顔)の撮像によって画像データ生成部3により生成された画像P1の画像データ(RGBデータやYUVデータ)の複製をメモリ4から取得したり、記録媒体Cに記録されている画像P1の画像データの複製を取得する(図3参照)。
なお、後述する画像処理部5による各処理は、画像P1の画像データ自体に対して行われても良いし、必要に応じて画像P1の画像データを所定の比率で縮小した所定サイズ(例えば、VGAサイズ等)の画像データに対して行われても良い。
また、以下の説明では、画像P1の画像データは、各画素の画素値(例えば、輝度値)を8bit(256階調)で表した画像データとして説明する。
顔検出部5bは、画像P1から顔領域Fを検出する。
即ち、顔検出部(顔検出手段)5bは、画像取得部5aにより取得された画像P1から顔領域Fを検出する。具体的には、顔検出部5bは、画像P1に対して所定のアルゴリズムを用いた顔検出処理を施す。例えば、顔検出部5bは、画像P1を処理対象として、顔領域Fの候補領域として所定サイズ(例えば、24×24[画素])の検出候補領域を複数生成する。そして、顔検出部5bは、例えば、各検出候補領域の画像データと所定の基準画像の画像データとの類似度をadaboost(アダブースト)出力計算を用いて算出し、算出された類似度が所定の閾値以上である検出候補領域の画像データを顔領域Fの画像データとして特定する(図4(a)等参照)。
なお、顔検出部5bによる顔検出処理の内容は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
目検出部5cは、画像P1から目に対応する目領域Eを検出する。
即ち、目検出部(目検出手段)5cは、画像取得部5aにより取得された画像P1の顔領域から一対の目に対応する一対の目領域E、Eを複数検出する。具体的には、目検出部5cは、顔検出部5bにより検出された顔領域Fに対して目検出処理を施して、一対の目領域E、Eを検出する。
この目検出処理では、例えば、目検出部5cは、顔検出処理により検出された顔領域Fに対応する矩形枠部分を切り出した画像を処理対象画像として、256階調のグレースケール画像に変換する。また、目検出部5cは、グレースケール画像を水平(x軸)及び垂直(y軸)ともに所定の比率で縮小した所定サイズ(例えば、80×80、72×72、64×64、56×56、48×48画素等)の縮小画像を逐次生成する。
そして、目検出部5cは、所定サイズの縮小画像の各々を処理対象として、目検出用フィルタ(例えば、リング状のリングフィルタ等)を用いて目の候補点を検出する。具体的には、目検出部5cは、例えば、処理対象画像内で、リングフィルタの中心の輝度値が当該リングの全ての縁部分の輝度値よりも低い(即ち、暗い)場合に目の候補点の一部とみなし、該当する座標の輝度画像「リングイメージ」を出力する。そして、目検出部5cは、所定サイズの縮小画像の各々から出力された輝度画像「リングイメージ」を同一の所定サイズ(例えば、80×80画素等)となるように変形し、これらをまとめた一枚の合成画像を生成する。
また、目検出部5cは、合成画像中の複数の輝度画像「リングイメージ」の各々の重心(図中、「+」印で表す)の位置座標を算出して目候補点として特定する。このとき、目検出部5cは、輝度画像「リングイメージ」の各々の最大輝度値も算出して、目候補点と対応付けて所定の格納手段に記憶する。
そして、目検出部5cは、複数の目候補点のうちの何れか2点を選択して、一対の目領域E、Eとみなす。また、目候補点が3点以上特定されている場合には、目検出部5cは、取り得る組み合わせ全てについて一対の目領域E、Eとみなす。
なお、目検出部5cによる目検出処理の内容は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
第1評価値算出部5dは、目らしさに係る第1評価値を算出する。
即ち、第1評価値算出部(第1算出手段)5dは、目検出部5cにより検出された複数の一対の目領域E、Eについて、目らしさに係る第1評価値をそれぞれ算出する。
具体的には、第1評価値算出部5dは、目検出部5cにより検出された複数の一対の目領域E、Eの各々について、目らしさを表す第1評価値を所定の演算式を用いて算出する。例えば、第1評価値算出部5dは、基準となる平均的な目の位置に対する距離が大きいほど低下し、また、目候補点に対応する最大輝度値が大きいほど高くなるような演算式に従って第1評価値をそれぞれ算出する。そして、第1評価値算出部5dは、算出された第1評価値が高い方から順に所定数(例えば、3つ)特定して、これらの第1評価値と一対の目領域E、Eの位置座標とをそれぞれ対応付けて所定の格納手段に記憶する。
なお、第1評価値算出部5dによる第1評価値の算出処理の内容は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
モデル適合部5eは、複数の抽出用モデルM、…を画像P1内で適合させる。
即ち、モデル適合部(適合手段)5eは、第1評価値算出部5dにより算出された第1評価値が所定値以上の所定数の一対の目領域E、Eに基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルM、…を画像P1内で適合させる。このとき、モデル適合部5eは、目検出部5cによる目領域Eの検出結果に加えて、顔検出部5bによる顔領域Fの検出結果に基づいて、複数の抽出用モデルM、…を画像P1内で適合させても良い。
具体的には、モデル適合部5eは、第1評価値算出部5dにより算出された複数の第1評価値のうちの最も評価値が高い第1評価値を基準として、評価値が所定値以上の所定数の一対の目領域E、Eを特定する。
例えば、モデル適合部5eは、第1評価値算出部5dにより算出された所定数の第1評価値を比較して、これらの中で最も評価値が高い第1評価値を特定する。そして、モデル適合部5eは、最も評価値が高い第1評価値と対応付けられている一対の目領域E、Eに基づいて、複数の抽出用モデルM、…を画像P1内で適合させる。
また、モデル適合部5eは、第1評価値算出部5dにより算出された所定数の第1評価値の中で、評価値が最も高い第1評価値の次に高い第1評価値を特定し、特定された第1評価値が最も高い評価値に対して所定の割合(例えば、80%等)以上であるか否かを判定する。そして、モデル適合部5eは、所定の割合以上であると判定された第1評価値と対応付けられている一対の目領域E、Eに基づいて、複数の抽出用モデルM、…を画像P1内で適合させる。
モデル適合部5eは、複数の抽出用モデルM、…の適合態様が所定数(例えば、3つ等)となるように、上記の処理を繰り返し行う。
ここで、モデル適合部5eによる画像P1内での複数の抽出用モデルM、…の適合処理について説明する。
具体的には、後述するように、画像処理部5は、例えば、AAM(Active Appearance Model)を用いた微細部抽出処理により画像P1から顔構成部を抽出し、モデル適合部5eは、当該AAMにて画像P1の顔領域F内に配置される複数の抽出用モデルM、…が当該画像P1内で合致(適合)する箇所を探索する。
ここで、AAMとは、視覚的事象のモデル化の一手法であり、任意の顔領域Fの画像のモデル化を行う処理である。例えば、後述するように画像処理部5の構成部画像生成部5hは、複数のサンプル顔画像における所定の特徴部位(例えば、目じりや鼻頭やフェイスライン等)の位置や画素値(例えば、輝度値)の統計的分析結果を所定の登録手段に登録しておく。そして、構成部画像生成部5hは、上記の特徴部位の位置を基準として設定された各種のモデル、即ち、顔構成部の形状を表す形状モデル(抽出用モデルM)や平均的な形状における「Appearance」を表すテクスチャーモデルを用いて、顔領域Fの画像をモデル化する。
このとき、モデル適合部5eは、複数の顔構成部に対応する複数の抽出用モデルM、…、即ち、一対の目や眉や鼻や口や顔(特に、顎)の輪郭等に対応する抽出用モデルMの画像P1内における初期配置を設定する。具体的には、モデル適合部5eは、目検出部5cにより検出された一対の目領域E、Eの画像P1における位置に、一対の目を抽出するための一対の目抽出用モデルM1、M1が重なるように複数の抽出用モデルM、…の初期配置を設定する。即ち、複数の顔構成部に対応する複数の抽出用モデルM、…は、基準状態にて相対的な位置関係や間隔が予め設定されているため、モデル適合部5eは、複数の抽出用モデルM、…を一体として相似変形させることでこれら複数の抽出用モデルM、…の相対的な位置関係を変化させないように、一対の目抽出用モデルM1、M1の位置(初期配置)を決定する。また、モデル適合部5eは、目検出部5cにより検出された一対の目領域E、Eの画像P1における位置に加えて、これら一対の目領域E、Eの重心の中点を通り、当該一対の目領域E、Eの重心どうしを結ぶ直線に対して直交する直線が顔領域Fの矩形枠の顎側の辺と交わる交点の位置を基準として、一対の目抽出用モデルM1、M1の位置(初期配置)を決定するようにしても良い。
これにより、画像P1内で他の顔構成部(例えば、口等)に対応する複数の抽出用モデルM、…が適合する位置(初期配置)も決定される(図4(b)等参照)。
そして、モデル適合部5eは、複数の抽出用モデルM、…の各々の形状や大きさ等を個別に変形させて当該抽出用モデルMの各々が最も合致する領域を画像P1の顔領域F内で探索して、その適合結果を第2評価値算出部5fに出力する(図4(c)等参照)。
なお、各抽出用モデルMのデータは、形状や色に関する情報を含むデータであるが、図4(b)等には、抽出用モデルMの外形やその輪郭部分のみを模式的に表している。
第2評価値算出部5fは、複数の抽出用モデルM、…の適合状態に係る第2評価値を算出する。
即ち、第2評価値算出部(第2算出手段)5fは、所定数の一対の目領域E、E毎に、モデル適合部5eによる複数の抽出用モデルM、…の適合状態に係る第2評価値を所定の演算式に従って算出する。具体的には、第2評価値算出部5fは、例えば、モデル適合部5eにより所定数の一対の目領域E、Eの各々を基準として画像P1内に複数の抽出用モデルM、…が適合される毎に、各抽出用モデルMと対応する合致領域との画素値や位置座標のずれ量等を基準として当該複数の抽出用モデルM、…の適合状態に係る第2評価値を算出する。そして、第2評価値算出部5fは、算出された第2評価値を一対の目領域E、Eと対応付けて所定の格納手段に記憶する。
なお、ここでの第2評価値算出部5fによる第2評価値の算出手法は、公知の技術であるので詳細な説明は省略する。また、第2評価値の算出処理の内容は、一例であってこれに限られるものではなく、適宜任意に変更可能である。
適合態様決定部5gは、複数の抽出用モデルM、…の適合態様を決定する。
即ち、適合態様決定部(決定手段)5hは、第2評価値算出部5fによる所定数の第2評価値の算出結果に基づいて、モデル適合部5eによる複数の抽出用モデルM、…の適合態様を決定する。具体的には、適合態様決定部5gは、例えば、第2評価値算出部5fにより算出された所定数の第2評価値を比較して評価値が最も高い第2評価値を特定し、当該第2評価値に対応する複数の抽出用モデルM、…の適合態様を微細部抽出処理(AAM)用の適合態様として特定する。
なお、複数の抽出用モデルM、…の適合態様の決定手法は、一例であってこれに限られるものではなく、適宜任意に変更可能である。例えば、適合態様決定部5gは、第2評価値が算出された所定数の一対の目領域E、Eに対応する複数の抽出用モデルM、…の適合態様の中で、ユーザによる操作入力部9の所定操作に基づいてユーザ所望の適合態様が選択指定されることで、当該複数の抽出用モデルM、…の適合態様を決定するようにしても良い。
構成部画像生成部5hは、顔の主要な顔構成部を表した顔構成部画像を生成する。
即ち、構成部画像生成部(第1生成手段)5hは、適合態様決定部5gにより決定された複数の抽出用モデルM、…の適合態様に基づいて、画像P1内の顔の主要な構成部に係る顔構成部画像(図示略)を生成する。具体的には、構成部画像生成部5hは、例えば、適合態様決定部5gにより決定された複数の抽出用モデルM、…を用いた微細部抽出処理(AAM)により顔領域Fの画像をモデル化する。そして、構成部画像生成部5hは、画像P1内の主要な構成を抽出して線で表した顔微細部画像(図示略)を生成する。
また、構成部画像生成部5hは、顔領域F内の顔の輪郭内に存する顔構成部及び当該輪郭と接する顔構成部を線で表した顔構成部画像を生成する。具体的には、構成部画像生成部5hは、顔微細部画像内で顔の輪郭と接する画素を特定し、当該画素と連続する画素のうち、顔の輪郭よりも外側に存する画素集合を消去する。つまり、構成部画像生成部5hは、顔微細部画像のうち、顔の輪郭よりも外側に存する部分を消去するとともに、顔の輪郭よりも内側に存し、且つ、当該輪郭と接する部分を残して、例えば、目、鼻、口、眉等の主要な顔構成部のパーツ画像を含む顔構成部画像を生成する。
なお、微細部抽出処理として、AAMを用いた処理を例示したが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
似顔絵画像生成部5iは、顔構成部画像を用いて似顔絵画像を生成する。
即ち、似顔絵画像生成部(第2生成手段)5iは、構成部画像生成部5hにより生成された顔構成部画像を用いて画像P1の似顔絵画像(図示略)を生成する。具体的には、似顔絵画像生成部5iは、所定の髪型画像の顔の輪郭よりも内側にて、例えば、目、鼻、口、眉等の各顔構成部のパーツ画像を重畳させる位置を特定し、当該位置に各顔構成部のパーツ画像を重畳させて、画像P1を似顔絵で表した似顔絵画像の画像データを生成する。
また、似顔絵画像生成部5iは、似顔絵画像の所定の部分(例えば、目、口、眉等の顔構成部等)に所定の色を付けて表した画像を生成しても良い。
記録媒体制御部6は、記録媒体Cが着脱自在に構成され、装着された記録媒体Cからのデータの読み出しや記録媒体Cに対するデータの書き込みを制御する。
即ち、記録媒体制御部6は、画像処理部5の符号化部(図示略)により所定の圧縮形式(例えば、JPEG形式等)で符号化された記録用の画像データを記録媒体Cに記録させる。
なお、記録媒体Cは、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
表示制御部7は、メモリ4に一時的に格納されている表示用の画像データを読み出して表示部8に表示させる制御を行う。
具体的には、表示制御部7は、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、中央制御部10の制御下にてメモリ4から読み出されてVRAM(図示略)に格納されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
表示部8は、例えば、液晶表示パネルであり、表示制御部7からのビデオ信号に基づいて撮像部1により撮像された画像などを表示画面に表示する。具体的には、表示部8は、静止画撮像モードや動画撮像モードにて、撮像部1及び撮像制御部2による特定の被写体の撮像により生成された複数のフレーム画像を所定のフレームレートで逐次更新しながらライブビュー画像を表示する。また、表示部8は、静止画として記録される画像(レックビュー画像)を表示したり、動画として記録中の画像を表示する。
操作入力部9は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部9は、被写体の撮像指示に係るシャッタボタン、撮像モードや機能等の選択指示に係る選択決定ボタン、ズーム量の調整指示に係るズームボタン等(何れも図示略)の操作部を備え、当該操作部の各ボタンの操作に応じて所定の操作信号を中央制御部10に出力する。
中央制御部10は、撮像装置100の各部を制御するものである。具体的には、中央制御部10は、図示は省略するが、CPU(Central Processing Unit)等を備え、撮像装置100用の各種処理プログラム(図示略)に従って各種の制御動作を行う。
次に、撮像装置100による似顔絵画像生成処理について、図2〜図6を参照して説明する。
図2は、似顔絵画像生成処理に係る動作の一例を示すフローチャートである。
似顔絵画像生成処理は、ユーザによる操作入力部9の選択決定ボタンの所定操作に基づいて、メニュー画面に表示された複数の動作モードの中から似顔絵画像生成モードが選択指示された場合に、中央制御部10の制御下にて当該撮像装置100の各部、特に画像処理部5により実行される処理である。
また、似顔絵画像生成処理の処理対象となる画像P1の画像データは、予め記録媒体Cに記録されているものとする。
図2に示すように、先ず、記録媒体制御部6は、記録媒体Cに記録されている画像データの中で、ユーザによる操作入力部9の所定操作に基づいて指定された画像P1(図3参照)の画像データを読み出し、画像処理部5の画像取得部5aは、読み出された画像データを当該似顔絵画像生成処理の処理対象として取得する(ステップS1)。
次に、顔検出部5bは、画像取得部5aにより取得された画像P1の画像データに対して所定のアルゴリズム(例えば、adaboost等)を用いた顔検出処理を施し、顔領域Fの画像データを特定する(ステップS2;図4(a)等参照)。続けて、目検出部5cは、顔検出部5bにより検出された顔領域Fの画像データに対して、一対の目に対応する一対の目領域E、Eを検出する目検出処理を施す(ステップS3)。これにより、目検出部5cは、画像P1の顔領域Fから一対の目領域E、Eを候補領域として複数検出する(図4(a)、図5(a)、図6(a)参照)。
なお、図4(a)は、一対の目領域E、Eのうち、一方の目領域Eの重心が眼鏡の縁から検出されている誤検出状態を模式的に表し、図6(a)は、一対の目領域E、Eの両方の目領域Eの重心が眼鏡の縁から検出されている誤検出状態を模式的に表している。
そして、第1評価値算出部5dは、目検出部5cにより検出された複数の一対の目領域E、Eの各々について、目らしさを表す第1評価値を所定の演算式を用いて算出する(ステップS4)。その後、第1評価値算出部5dは、算出された第1評価値が高い方から順に所定数(例えば、3つ)特定して、これらの第1評価値と一対の目領域E、Eの位置座標とをそれぞれ対応付けて所定の格納手段に記憶する(ステップS5)。
なお、一対の目領域E、Eについて算出された第1評価値は、例えば、図4(a)に示されているものが最も高く、図5(a)に示されているものがその次に高く、図6(a)に示されているものがその次に高くなっている。
次に、モデル適合部5eは、第1評価値算出部5dにより算出された複数の第1評価値のうちの最も評価値が高い第1評価値と対応付けられている一対の目領域E、E(図4(a)参照)に基づいて、複数の抽出用モデルM、…を画像P1内で適合させる(ステップS6)。具体的には、モデル適合部5eは、画像P1における一対の目領域E、Eの位置に一対の目抽出用モデルM1、M1が重なるように複数の抽出用モデルM、…の初期配置を設定する(図4(b)参照)。そして、モデル適合部5eは、複数の抽出用モデルM、…の各々の形状や大きさ等を個別に変形させて当該抽出用モデルMの各々が最も合致する領域を画像P1の顔領域F内で探索して、その適合結果を第2評価値算出部5fに出力する(図4(c)参照)。
続けて、第2評価値算出部5fは、モデル適合部5eによる複数の抽出用モデルM、…の適合状態に係る第2評価値を所定の演算式に従って算出して、算出された第2評価値を一対の目領域E、Eと対応付けて所定の格納手段に記憶する(ステップS7)。
次に、モデル適合部5eは、評価値が最も高い第1評価値の次に評価値が高い第1評価値を特定し、特定された第1評価値が最も高い評価値に対して所定の割合(例えば、80%等)以上であるか否かを判定する(ステップS8)。
ステップS8にて、第1評価値が所定の割合以上であると判定されると(ステップS8;YES)、モデル適合部5eは、当該第1評価値と対応付けられている一対の目領域E、E(図5(a)参照)に基づいて、複数の抽出用モデルM、…を画像P1内で適合させる(ステップS9)。
ここでの複数の抽出用モデルM、…を適合させる処理は、上記のステップS6の処理と略同様である。具体的には、モデル適合部5eは、複数の抽出用モデルM、…の初期配置を設定した後(図5(b)参照)、複数の抽出用モデルM、…の各々の形状や大きさ等を個別に変形させて当該抽出用モデルMの各々が最も合致する領域を画像P1の顔領域F内で探索する(図5(c)参照)。
そして、上記のステップS7の処理と略同様に、第2評価値算出部5fは、複数の抽出用モデルM、…の適合状態に係る第2評価値を所定の演算式に従って算出して、算出された第2評価値を一対の目領域E、Eと対応付けて所定の格納手段に記憶する(ステップS10)。
次に、モデル適合部5eは、次に評価値が高い第1評価値を特定し、特定された第1評価値が最も高い評価値に対して所定の割合(例えば、80%等)以上であるか否かを判定する(ステップS11)。
ステップS11にて、第1評価値が所定の割合以上であると判定されると(ステップS11;YES)、モデル適合部5eは、当該第1評価値と対応付けられている一対の目領域E、E(図6(a)参照)に基づいて、複数の抽出用モデルM、…を画像P1内で適合させる(ステップS12)。
ここでの複数の抽出用モデルM、…を適合させる処理は、上記のステップS6、S9の各処理と略同様である。具体的には、モデル適合部5eは、複数の抽出用モデルM、…の初期配置を設定した後(図6(b)参照)、複数の抽出用モデルM、…の各々の形状や大きさ等を個別に変形させて当該抽出用モデルMの各々が最も合致する領域を画像P1の顔領域F内で探索する(図6(c)参照)。
そして、上記のステップS7、S10の各処理と略同様に、第2評価値算出部5fは、複数の抽出用モデルM、…の適合状態に係る第2評価値を所定の演算式に従って算出して、算出された第2評価値を一対の目領域E、Eと対応付けて所定の格納手段に記憶する(ステップS13)。
その後、適合態様決定部5gは、所定の格納手段から算出済みの3つの第2評価値を取得して、これらの第2評価値を比較して評価値が最も高い第2評価値を特定し、当該第2評価値に対応する複数の抽出用モデルM、…の適合態様(例えば、図5(c)に係る複数の抽出用モデルM、…の適合態様等)を特定する(ステップS14)。
また、ステップS11にて、第1評価値が所定の割合以上でないと判定された場合にも(ステップS11;NO)、適合態様決定部5gは、所定の格納手段から算出済みの2つの第2評価値を取得して、これらの第2評価値を比較して評価値が最も高い第2評価値を特定し、当該第2評価値に対応する複数の抽出用モデルM、…の適合態様を特定する(ステップS14)。
そして、構成部画像生成部5hは、適合態様決定部5gにより決定された複数の抽出用モデルM、…の適合態様に基づいて微細部抽出処理(AAM)を行って、画像P1内の顔の主要な構成部に係る顔構成部画像(図示略)を生成する(ステップS15)。これにより、構成部画像生成部5hは、顔構成部(例えば、目、鼻、口、眉、髪の毛、顔の輪郭等)を線で表した顔微細部画像を生成する。
また、ステップS8にて、第1評価値が所定の割合以上でないと判定された場合(ステップS8;NO)、構成部画像生成部5hは、最も評価値が高い第1評価値と対応付けられている一対の目領域E、E(図4(a)参照)に対応する複数の抽出用モデルM、…の適合態様(図4(c)参照)に基づいて微細部抽出処理(AAM)を行って、画像P1内の顔の主要な構成部に係る顔構成部画像を生成する(ステップS15)。
続けて、構成部画像生成部5hは、微細部抽出処理により顔領域F内の顔の輪郭を特定して、顔の輪郭内に存する顔構成部及び当該輪郭と接する顔構成部、即ち、例えば、目、鼻、口、眉等の主要な顔構成部のパーツ画像を含む顔構成部画像を生成する(ステップS16)。
その後、似顔絵画像生成部5iは、顔構成部画像を用いて画像P1の似顔絵画像を生成する(ステップS17)。具体的には、似顔絵画像生成部5iは、所定の髪型画像を取得して、当該髪型画像の顔の輪郭よりも内側にて、例えば、目、鼻、口、眉等の各顔構成部のパーツ画像を重畳させる位置を特定し、当該位置に各顔構成部のパーツ画像を重畳させて、画像P1を似顔絵で表した似顔絵画像の画像データを生成する。
そして、記録媒体制御部6は、似顔絵画像生成部5iにより生成された似顔絵画像の画像データ(YUVデータ)を取得して記録する。
これにより、似顔絵画像生成処理を終了する。
以上のように、本実施形態の撮像装置100によれば、目検出部5cにより検出された複数の一対の目領域E、Eについて算出された目らしさに係る第1評価値が所定値以上の所定数の一対の目領域E、Eに基づいて、複数の顔構成部を抽出するための複数の抽出用モデルM、…を画像P1内で適合させ、複数の抽出用モデルM、…の適合状態に係る第2評価値を所定数の一対の目領域E、E毎に算出して、所定数の第2評価値の算出結果に基づいて、複数の抽出用モデルM、…の適合態様を決定するので、例えば、画像P1内のヒトが黒縁眼鏡などの太い縁で濃い色の眼鏡などをかけている場合であっても、所定数の一対の目領域E、Eに対応する複数の抽出用モデルM、…の適合状態に係る第2評価値を考慮して、複数の抽出用モデルM、…の適正な適合態様を決定することができる。即ち、例えば、黒縁眼鏡などは黒目の部分と輝度値が近似しているため目領域Eの誤検出が生じ易くなり、当該目領域Eを基準とする複数の抽出用モデルM、…の初期配置を適正に行うことができない虞がある(図4(b)、図6(b)等参照)。そこで、画像P1の顔領域Fから検出された最も評価値が高い(最も目らしいと判断された)一対の目領域E、Eだけでなく、当該最も評価値が高い第1評価値を基準として特定された評価値が所定値以上の所定数の一対の目領域E、Eも用いて、複数の抽出用モデルM、…の適合を行い、それらの適合状態に係る所定数の第2評価値の中で評価値が最も高い第2評価値を特定する。そして、当該第2評価値に対応する複数の抽出用モデルM、…の適合態様を顔構成部の抽出用の適合態様として決定することで、当該複数の抽出用モデルM、…を画像P1内で適正に適合させることができる。
従って、画像P1から複数の顔構成部を適正に抽出することができる。
また、画像P1から顔領域Fを検出し、検出された顔領域Fから一対の目に対応する一対の目領域E、Eを検出するので、所定数の一対の目領域E、Eの検出を適正に行うことができ、当該所定数の一対の目領域E、Eに基づいて、画像P1内で複数の顔構成部に対応する複数の抽出用モデルM、…を適正に適合させることができる。特に、顔領域Fの検出結果に基づいて、複数の抽出用モデルM、…を画像P1内で適合させるので、所定数の一対の目領域E、Eの検出結果だけでなく、顔領域Fの検出結果を考慮して、複数の抽出用モデルM、…の画像P1内での適合をより適正に行うことができる。
さらに、決定された複数の抽出用モデルM、…の適合態様に基づいて、画像P1内の顔の主要な構成部に係る顔構成部画像を生成して、当該顔構成部画像を用いて画像P1の似顔絵画像を生成するので、画像P1内に適正に適合させた複数の抽出用モデルM、…を用いて複数の顔構成部を抽出して顔構成部画像を生成することができ、結果として、似顔絵画像の生成を適正に行うことができる。
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、上記実施形態にあっては、画像P1内の顔の主要な構成部に係る顔構成部画像を生成し、当該顔構成部画像を用いて似顔絵画像を生成するようにしたが、必ずしも顔構成部画像や似顔絵画像を生成する必要はなく、当該顔構成部画像や似顔絵画像を生成するか否かは適宜任意に変更可能である。
また、画像P1を記録する記録媒体制御部6を備える構成としたが、これに限られず、例えば、当該装置本体と所定の通信ネットワークを介して接続可能な所定のサーバに画像P1を記録しておく構成とし、図示しない通信処理部から通信ネットワークを介して所定のサーバにアクセスして、画像取得部5aは、当該サーバから画像P1を取得する構成としても良い。
さらに、撮像装置100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではない。また、顔構成部抽出装置として、撮像装置100を例示したが、これに限られるものではなく、本発明に係る顔構成部抽出処理を実行可能なものであれば如何なる構成であっても良い。
加えて、上記実施形態にあっては、取得手段、目検出手段、第1算出手段、適合手段、第2算出手段、決定手段としての機能を、中央制御部10の制御下にて、画像取得部5a、目検出部5c、第1評価値算出部5d、モデル適合部5e、第2評価値算出部5f、適合態様決定部5gが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部10によって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、目検出処理ルーチン、第1算出処理ルーチン、適合処理ルーチン、第2算出処理ルーチン、決定処理ルーチンを含むプログラムを記憶しておく。そして、取得処理ルーチンにより中央制御部10のCPUを、画像P1を取得する手段として機能させるようにしても良い。また、目検出処理ルーチンにより中央制御部10のCPUを、取得された画像P1の顔領域Fから一対の目に対応する一対の目領域E、Eを複数検出する手段として機能させるようにしても良い。また、第1算出処理ルーチンにより中央制御部10のCPUを、検出された複数の一対の目領域E、Eについて、目らしさに係る第1評価値をそれぞれ算出する手段として機能させるようにしても良い。また、適合処理ルーチンにより中央制御部10のCPUを、算出された第1評価値が所定値以上の所定数の一対の目領域E、Eに基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルM、…を画像P1内で適合させる手段として機能させるようにしても良い。また、第2算出処理ルーチンにより中央制御部10のCPUを、複数の抽出用モデルM、…の適合状態に係る第2評価値を、所定数の一対の目領域E、E毎に算出する手段として機能させるようにしても良い。また、決定処理ルーチンにより中央制御部10のCPUを、所定数の第2評価値の算出結果に基づいて、複数の抽出用モデルM、…の適合態様を決定する手段として機能させるようにしても良い。
同様に、顔検出手段、第1生成手段、第2生成手段についても、中央制御部10のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
画像を取得する取得手段と、
前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段と、
前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段と、
前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段と、
前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段と、
前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段と、
を備えたことを特徴とする顔構成部抽出装置。
<請求項2>
前記決定手段は、前記第2算出手段により算出された所定数の第2評価値の中で評価値が最も高い第2評価値を特定し、当該第2評価値に対応する前記複数の抽出用モデルの適合態様を決定することを特徴とする請求項1に記載の顔構成部抽出装置。
<請求項3>
前記適合手段は、前記第1算出手段により算出された複数の第1評価値のうちの最も評価値が高い第1評価値を基準として評価値が所定値以上の所定数の一対の目領域を特定して、当該一対の目領域の各々に基づいて、前記複数の抽出用モデルを前記画像内で適合させることを特徴とする請求項1又は2に記載の顔構成部抽出装置。
<請求項4>
前記取得手段により取得された画像から顔領域を検出する顔検出手段を更に備え、
前記目検出手段は、前記顔検出手段により検出された顔領域から前記一対の目に対応する一対の目領域を検出することを特徴とする請求項1〜3の何れか一項に記載の顔構成部抽出装置。
<請求項5>
前記適合手段は、更に、前記顔検出手段による顔領域の検出結果に基づいて、前記複数の抽出用モデルを前記画像内で適合させることを特徴とする請求項4に記載の顔構成部抽出装置。
<請求項6>
前記決定手段により決定された前記複数の抽出用モデルの適合態様に基づいて、前記複数の顔構成部に係る顔構成部画像を生成する第1生成手段と、
前記第1生成手段により生成された顔構成部画像を用いて前記画像の似顔絵画像を生成する第2生成手段と、を更に備えることを特徴とする請求項1〜5の何れか一項に記載の顔構成部抽出装置。
<請求項7>
顔構成部抽出装置を用いた顔構成部抽出方法であって、
画像を取得する処理と、
取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する処理と、
検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する処理と、
算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる処理と、
前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する処理と、
所定数の第2評価値の算出結果に基づいて、前記複数の抽出用モデルの適合態様を決定する処理と、
を含むことを特徴とする顔構成部抽出方法。
<請求項8>
顔構成部抽出装置のコンピュータを、
画像を取得する取得手段、
前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段、
前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段、
前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段、
前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段、
前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段、
として機能させることを特徴とするプログラム。
100 撮像装置
5 画像処理部
5a 画像取得部
5b 顔検出部
5c 目検出部
5d 第1評価値算出部
5e モデル適合部
5f 第2評価値算出部
5g 適合態様決定部
5h 構成部画像生成部
5i 似顔絵画像生成部
10 中央制御部

Claims (8)

  1. 画像を取得する取得手段と、
    前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段と、
    前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段と、
    前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段と、
    前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段と、
    前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段と、
    を備えたことを特徴とする顔構成部抽出装置。
  2. 前記決定手段は、前記第2算出手段により算出された所定数の第2評価値の中で評価値が最も高い第2評価値を特定し、当該第2評価値に対応する前記複数の抽出用モデルの適合態様を決定することを特徴とする請求項1に記載の顔構成部抽出装置。
  3. 前記適合手段は、前記第1算出手段により算出された複数の第1評価値のうちの最も評価値が高い第1評価値を基準として評価値が所定値以上の所定数の一対の目領域を特定して、当該一対の目領域の各々に基づいて、前記複数の抽出用モデルを前記画像内で適合させることを特徴とする請求項1又は2に記載の顔構成部抽出装置。
  4. 前記取得手段により取得された画像から顔領域を検出する顔検出手段を更に備え、
    前記目検出手段は、前記顔検出手段により検出された顔領域から前記一対の目に対応する一対の目領域を検出することを特徴とする請求項1〜3の何れか一項に記載の顔構成部抽出装置。
  5. 前記適合手段は、更に、前記顔検出手段による顔領域の検出結果に基づいて、前記複数の抽出用モデルを前記画像内で適合させることを特徴とする請求項4に記載の顔構成部抽出装置。
  6. 前記決定手段により決定された前記複数の抽出用モデルの適合態様に基づいて、前記複数の顔構成部に係る顔構成部画像を生成する第1生成手段と、
    前記第1生成手段により生成された顔構成部画像を用いて前記画像の似顔絵画像を生成する第2生成手段と、を更に備えることを特徴とする請求項1〜5の何れか一項に記載の顔構成部抽出装置。
  7. 顔構成部抽出装置を用いた顔構成部抽出方法であって、
    画像を取得する処理と、
    取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する処理と、
    検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する処理と、
    算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる処理と、
    前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する処理と、
    所定数の第2評価値の算出結果に基づいて、前記複数の抽出用モデルの適合態様を決定する処理と、
    を含むことを特徴とする顔構成部抽出方法。
  8. 顔構成部抽出装置のコンピュータを、
    画像を取得する取得手段、
    前記取得手段により取得された画像の顔領域から一対の目に対応する一対の目領域を複数検出する目検出手段、
    前記目検出手段により検出された前記複数の一対の目領域について、目らしさに係る第1評価値をそれぞれ算出する第1算出手段、
    前記第1算出手段により算出された第1評価値が所定値以上の所定数の一対の目領域に基づいて、顔を構成する複数の顔構成部を抽出するための複数の抽出用モデルを前記画像内で適合させる適合手段、
    前記適合手段による前記複数の抽出用モデルの適合状態に係る第2評価値を、前記所定数の一対の目領域毎に算出する第2算出手段、
    前記第2算出手段による所定数の第2評価値の算出結果に基づいて、前記適合手段による前記複数の抽出用モデルの適合態様を決定する決定手段、
    として機能させることを特徴とするプログラム。
JP2012254824A 2012-11-21 2012-11-21 顔構成部抽出装置、顔構成部抽出方法及びプログラム Active JP6098133B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012254824A JP6098133B2 (ja) 2012-11-21 2012-11-21 顔構成部抽出装置、顔構成部抽出方法及びプログラム
US14/051,236 US9323981B2 (en) 2012-11-21 2013-10-10 Face component extraction apparatus, face component extraction method and recording medium in which program for face component extraction method is stored

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012254824A JP6098133B2 (ja) 2012-11-21 2012-11-21 顔構成部抽出装置、顔構成部抽出方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2014102713A true JP2014102713A (ja) 2014-06-05
JP6098133B2 JP6098133B2 (ja) 2017-03-22

Family

ID=50728018

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012254824A Active JP6098133B2 (ja) 2012-11-21 2012-11-21 顔構成部抽出装置、顔構成部抽出方法及びプログラム

Country Status (2)

Country Link
US (1) US9323981B2 (ja)
JP (1) JP6098133B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5911634B1 (ja) * 2015-10-07 2016-04-27 株式会社LinkPro 画像処理装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103996033B (zh) * 2014-05-29 2017-02-22 厦门瑞为信息技术有限公司 一种基于人脸五官坐标跟踪的真人识别方法
US10671837B2 (en) 2015-09-08 2020-06-02 Nec Corporation Face recognition system, face recognition method, display control apparatus, display control method, and display control program
JP6872742B2 (ja) * 2016-06-30 2021-05-19 学校法人明治大学 顔画像処理システム、顔画像処理方法及び顔画像処理プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050041867A1 (en) * 2002-03-27 2005-02-24 Gareth Loy Method and apparatus for the automatic detection of facial features
JP2005293539A (ja) * 2004-03-08 2005-10-20 Matsushita Electric Works Ltd 表情認識装置
JP2007286923A (ja) * 2006-04-17 2007-11-01 Kao Corp 顔パーツの位置の検出方法及び検出システム
JP2012186821A (ja) * 2012-04-18 2012-09-27 Toshiba Corp 顔画像処理装置、顔画像処理方法、電子スチルカメラ、デジタル画像処理装置およびデジタル画像処理方法

Family Cites Families (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3017384B2 (ja) * 1993-07-19 2000-03-06 シャープ株式会社 特徴領域抽出装置
US6529630B1 (en) * 1998-03-02 2003-03-04 Fuji Photo Film Co., Ltd. Method and device for extracting principal image subjects
US6154559A (en) * 1998-10-01 2000-11-28 Mitsubishi Electric Information Technology Center America, Inc. (Ita) System for classifying an individual's gaze direction
US6807290B2 (en) * 2000-03-09 2004-10-19 Microsoft Corporation Rapid computer modeling of faces for animation
AUPQ896000A0 (en) * 2000-07-24 2000-08-17 Seeing Machines Pty Ltd Facial image processing system
KR100523742B1 (ko) * 2002-03-26 2005-10-26 김소운 3차원 안경 시뮬레이션 시스템 및 방법
JP2004062651A (ja) * 2002-07-30 2004-02-26 Canon Inc 画像処理装置、画像処理方法、その記録媒体およびそのプログラム
WO2008156437A1 (en) * 2006-04-10 2008-12-24 Avaworks Incorporated Do-it-yourself photo realistic talking head creation system and method
JP2004145625A (ja) 2002-10-24 2004-05-20 Mitsubishi Electric Corp 似顔絵の作成装置
JP2004206688A (ja) * 2002-12-12 2004-07-22 Fuji Photo Film Co Ltd 顔認識方法、顔切出方法、および撮像装置
CN100465985C (zh) * 2002-12-31 2009-03-04 佳能株式会社 人眼探测方法及设备
US6989754B2 (en) * 2003-06-02 2006-01-24 Delphi Technologies, Inc. Target awareness determination system and method
US20050063568A1 (en) * 2003-09-24 2005-03-24 Shih-Ching Sun Robust face detection algorithm for real-time video sequence
JP2005202562A (ja) * 2004-01-14 2005-07-28 Konica Minolta Photo Imaging Inc 画像処理方法、画像処理装置及び画像処理プログラム
JP4505362B2 (ja) * 2004-03-30 2010-07-21 富士フイルム株式会社 赤目検出装置および方法並びにプログラム
JP4320272B2 (ja) * 2004-03-31 2009-08-26 富士フイルム株式会社 特定領域検出方法、特定領域検出装置、およびプログラム
KR100590572B1 (ko) * 2004-12-15 2006-06-19 삼성전자주식회사 눈 위치 검출 방법 및 장치
JP2006254229A (ja) * 2005-03-11 2006-09-21 Fuji Photo Film Co Ltd 撮像装置、撮像方法及び撮像プログラム
JP2007025900A (ja) * 2005-07-13 2007-02-01 Canon Inc 画像処理装置、画像処理方法
KR100735549B1 (ko) * 2005-08-08 2007-07-04 삼성전자주식회사 영상의 피부색을 변환하는 영상 처리 방법 및 장치
JP4712563B2 (ja) * 2006-01-16 2011-06-29 富士フイルム株式会社 顔検出方法および装置並びにプログラム
JP2007265367A (ja) * 2006-03-30 2007-10-11 Fujifilm Corp 視線検出方法および装置ならびにプログラム
JP4998026B2 (ja) * 2007-03-15 2012-08-15 ソニー株式会社 画像処理装置、撮像装置、および画像表示制御方法、並びにコンピュータ・プログラム
JP4309928B2 (ja) * 2007-03-15 2009-08-05 アイシン精機株式会社 瞼検出装置、瞼検出方法、及び、プログラム
US20080298643A1 (en) * 2007-05-30 2008-12-04 Lawther Joel S Composite person model from image collection
JP4919297B2 (ja) * 2008-03-13 2012-04-18 富士フイルム株式会社 画像評価装置および方法並びにプログラム
FR2933218B1 (fr) * 2008-06-30 2011-02-11 Total Immersion Procede et dispositif permettant de detecter en temps reel des interactions entre un utilisateur et une scene de realite augmentee
JP4719825B2 (ja) * 2008-09-17 2011-07-06 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP5187139B2 (ja) * 2008-10-30 2013-04-24 セイコーエプソン株式会社 画像処理装置およびプログラム
KR100954835B1 (ko) * 2009-08-04 2010-04-30 주식회사 크라스아이디 얼굴변화 검출 시스템 및 얼굴변화 감지에 따른 지능형 시스템
WO2011046128A1 (ja) * 2009-10-16 2011-04-21 日本電気株式会社 人物服装特徴抽出装置、人物検索装置、及びその処理方法
JP5476955B2 (ja) * 2009-12-04 2014-04-23 ソニー株式会社 画像処理装置および画像処理方法、並びにプログラム
US9013489B2 (en) * 2011-06-06 2015-04-21 Microsoft Technology Licensing, Llc Generation of avatar reflecting player appearance
JP2013003662A (ja) * 2011-06-13 2013-01-07 Sony Corp 情報処理装置及び方法、並びにプログラム
US9082235B2 (en) * 2011-07-12 2015-07-14 Microsoft Technology Licensing, Llc Using facial data for device authentication or subject identification
US8885882B1 (en) * 2011-07-14 2014-11-11 The Research Foundation For The State University Of New York Real time eye tracking for human computer interaction
KR101322168B1 (ko) * 2012-01-17 2013-10-28 성균관대학교산학협력단 실시간 얼굴 인식 장치
JP5880182B2 (ja) * 2012-03-19 2016-03-08 カシオ計算機株式会社 画像生成装置、画像生成方法及びプログラム
JP5949030B2 (ja) * 2012-03-26 2016-07-06 カシオ計算機株式会社 画像生成装置、画像生成方法及びプログラム
JP5966657B2 (ja) * 2012-06-22 2016-08-10 カシオ計算機株式会社 画像生成装置、画像生成方法及びプログラム
JP6111723B2 (ja) * 2013-02-18 2017-04-12 カシオ計算機株式会社 画像生成装置、画像生成方法及びプログラム
KR20150065445A (ko) * 2013-12-05 2015-06-15 한국전자통신연구원 얼굴 포즈를 이용한 정면 얼굴 검출 장치 및 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050041867A1 (en) * 2002-03-27 2005-02-24 Gareth Loy Method and apparatus for the automatic detection of facial features
JP2005293539A (ja) * 2004-03-08 2005-10-20 Matsushita Electric Works Ltd 表情認識装置
JP2007286923A (ja) * 2006-04-17 2007-11-01 Kao Corp 顔パーツの位置の検出方法及び検出システム
JP2012186821A (ja) * 2012-04-18 2012-09-27 Toshiba Corp 顔画像処理装置、顔画像処理方法、電子スチルカメラ、デジタル画像処理装置およびデジタル画像処理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6016039524; 押田 昌大、外6名: '"Hough変換などを用いた顔部品認識の試み-似顔絵生成システムPICASSOの顔入力部自動化-"' 電子情報通信学会技術研究報告 Vol.98 No.608 IEICE Technical Report Vol.98, No.608, 19990218, pp.41-48, 社団法人電子情報通信学会 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5911634B1 (ja) * 2015-10-07 2016-04-27 株式会社LinkPro 画像処理装置

Also Published As

Publication number Publication date
JP6098133B2 (ja) 2017-03-22
US9323981B2 (en) 2016-04-26
US20140140624A1 (en) 2014-05-22

Similar Documents

Publication Publication Date Title
JP5880182B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP5949331B2 (ja) 画像生成装置、画像生成方法及びプログラム
US20170323465A1 (en) Image processing apparatus, image processing method, and storage medium
JP4739870B2 (ja) サングラス検出装置及び顔中心位置検出装置
JP6111723B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP5949030B2 (ja) 画像生成装置、画像生成方法及びプログラム
WO2015008717A1 (en) Image processing device and imaging apparatus
JP6098133B2 (ja) 顔構成部抽出装置、顔構成部抽出方法及びプログラム
JP2005149370A (ja) 画像撮影装置、個人認証装置及び画像撮影方法
US8971636B2 (en) Image creating device, image creating method and recording medium
JP2015184701A (ja) 画像処理装置、画像処理方法及びプログラム
JP2008129901A (ja) 眼鏡検出装置、画像処理装置、眼鏡検出方法、及び、コンピュータプログラム
JP6070098B2 (ja) 閾値設定装置、閾値設定方法及びプログラム
JP2014174855A (ja) 画像処理装置、画像処理方法及びプログラム
JP6260094B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6354118B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7110657B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2014099077A (ja) 顔構成部抽出装置、顔構成部抽出方法及びプログラム
JP6668646B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5927972B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP5962268B2 (ja) 画像処理装置、画像処理方法、画像生成方法及びプログラム
JP6142604B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2014048767A (ja) 画像生成装置、画像生成方法及びプログラム
JP2009055168A (ja) 撮像装置及び画像処理方法
JP2014186404A (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161006

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161018

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170206

R150 Certificate of patent or registration of utility model

Ref document number: 6098133

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150