JP4483042B2 - 影成分除去装置および影成分除去方法 - Google Patents
影成分除去装置および影成分除去方法 Download PDFInfo
- Publication number
- JP4483042B2 JP4483042B2 JP2000211190A JP2000211190A JP4483042B2 JP 4483042 B2 JP4483042 B2 JP 4483042B2 JP 2000211190 A JP2000211190 A JP 2000211190A JP 2000211190 A JP2000211190 A JP 2000211190A JP 4483042 B2 JP4483042 B2 JP 4483042B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- component
- face
- shadow
- eigenspace
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/164—Detection; Localisation; Normalisation using holistic features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/273—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion removing elements interfering with the pattern to be recognised
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
この発明は影成分除去装置に関し、特に、入力された画像に含まれる影を除去する影成分除去装置に関する。
【0002】
【従来の技術】
近年、人物の顔をカメラで撮影して得られる顔画像を用いて、統計的画像処理を行なう研究が進められている。統計的画像処理の応用技術として顔画像に映し出された人物を特定する個人認識の技術などである。
【0003】
この統計的画像処理において、統計のサンプルとなる顔画像から撮影条件の違いを取り除く処理が必要となる。撮影条件が異なると人の顔に照射される光線の方向が異なるため、同一人物であっても撮影して得られる顔画像に表れる影の場所が異なるため、顔画像だけからは異なる人物として認識される場合がある。
【0004】
このように、顔画像から影を除去する技術としては、特開平11−185025号公報、特開平6−342465号公報、特開2000−30065号公報がある。
【0005】
特開平11−185025号公報には、顔画像を顔の左右対象軸で折返し、折返し前の画像と折返し後の画像とを加算することにより、正面から光が照射された顔画像に近似する技術が記載されている。
【0006】
特開平6−342465号公報には、2次元の顔画像を3次元の楕円球に近似する変換を行ない、変換された3次元の顔画像から反射光を分離および合成することにより、影成分を除去する技術が記載されている。
【0007】
特開2000−30065号公報には、照明条件が均一な状態で予め撮影された認証対象となる人物の顔画像の集合を用いて、照明条件以外の条件を抽出して認証を行なう技術が記載されている。
【0008】
【発明が解決しようとする課題】
しかしながら、特開平11−185025号公報に記載の技術は、顔画像を顔の左右対象軸で折返した画像を用いるため、顔の左右方向から光が照射される照明条件で撮像されて得られる顔画像から影を除去することはできるが、光が上下方向または前後方向から照射される照明条件で撮像されて得られる顔画像から影を除去することはできない。
【0009】
特開平6−342465号公報に記載の技術は、2次元の顔画像を3次元の楕円球の画像に変換する処理が複雑で困難である。また、実際の人の顔は楕円球とは異なるため、楕円球とは異なる部分、たとえば、鼻などの部分で生じる影の分離および合成が正確にできないといった問題がある。
【0010】
特開2000−30065号公報に記載の技術は、認識の対象となる人物の顔画像を、同一の照明条件で事前に準備しておく必要があり、制約が大きいといった問題がある。
【0011】
この発明は上述の問題点を解決するためになされたもので、この発明の目的の1つは、入力された顔画像に影が表れている場合であっても、顔画像から影を容易に除去することが可能な影成分除去装置を提供することである。
【0012】
この発明の他の目的は、入力された顔画像に表れる影が、いかなる方向からの光により生じたものであっても、影を除去することが可能な影成分除去装置を提供することである。
【0013】
【課題を解決するための手段】
上述の目的を達成するためにこの発明のある局面に従うと、影成分除去装置は、多種類の影を持つ顔画像の集合に対して主成分分析を行ない固有空間を演算する演算手段と、演算手段で演算された固有ベクトルを記憶する記憶手段と、新たな顔画像を入力する入力手段と、入力手段により入力された顔画像を記憶手段に記憶されている固有空間に射影する射影手段と、入力手段により入力された顔画像および射影手段により固有空間に射影された画像に基づいて、影成分を除去した顔画像を合成する合成手段とを備える。
【0014】
この発明に従えば、多種類の影を持つ顔画像の集合に対して主成分分析を行ない固有空間が演算され、演算された固有ベクトルが記憶される。そして、新たに入力された顔画像が固有空間に射影され、入力された顔画像および固有空間に射影された画像に基づいて、影成分を除去した顔画像が合成される。このため、入力された顔画像に影が表れている場合であっても、顔画像から影を除去することが可能な影成分除去装置を提供することができる。また、入力された顔画像および固有空間に射影された画像に基づいて、影成分を除去した顔画像を合成するので、入力された顔画像に表れる影が、いかなる方向からの光により生じたものであっても、その影を除去することが可能な影成分除去装置を提供することができる。
【0015】
好ましくは、影成分除去装置の演算手段は、それぞれの顔画像の各部位の形状を抽出する顔成分抽出手段と、顔画像の集合に対する平均形状を算出する平均形状算出手段と、各顔画像を算出された平均形状に変換する平均形状変換手段と、平均形状に変換された顔画像に対して主成分分析を行ない固有ベクトルを演算する主成分分析手段とを含むことを特徴とする。
【0016】
この発明に従えば、それぞれの顔画像の各部位の形状が抽出され、顔画像の集合に対する平均形状が算出される。各顔画像が、算出された平均形状に変換され、平均形状に変換された顔画像に対して主成分分析を行ない固有ベクトルが演算される。このため、入力された顔画像が平均形状に変換されるので、顔画像のテクスチャの情報のみを考慮して主成分分析を行なうことができる。その結果、顔画像に表れる影の成分を容易に抽出することが可能な影成分抽出装置を提供することができる。
【0017】
さらに好ましくは、影成分抽出装置の射影手段は、入力された顔画像の各部位の形状を抽出する顔成分抽出手段と、入力された顔画像を演算手段で演算された平均形状に変換する平均形状変換手段と、平均形状に変換された顔画像を固有空間に射影する固有空間射影手段とを含むことを特徴とする。
【0018】
この発明に従えば、入力された顔画像の各部位の形状が抽出され、入力された顔画像が平均形状に変換され、平均形状に変換された顔画像が固有空間に射影される。このため、新たに入力された顔画像の形状が固有空間で表現される顔画像の形状に合わせられる。その結果、新たに入力される顔画像のテクスチャを固有空間に正確に射影することができる。また、より正確に影成分を除去することが可能な影成分除去装置を提供することができる。
【0019】
さらに好ましくは、影成分抽出装置の合成手段は、固有空間に射影した画像と固有空間に射影して影成分を除去した画像との差成分を演算し、この差成分を入力手段により入力された顔画像から減算することにより影成分を除去した顔画像を合成することを特徴とする。
【0020】
この発明に従えば、固有空間に射影した画像と固有空間に射影して影成分を除去した画像との差成分が演算され、この差成分が入力された顔画像から減算されることにより影成分を除去した顔画像が合成される。このため、入力された顔画像から影成分を容易に除去することが可能な影成分除去装置を提供することができる。
【0021】
さらに好ましくは、影成分除去装置は、固有空間に射影した画像の第1成分から第3または第4成分までが影成分の影響を受けた画像であることを特徴とする。
【0022】
この発明に従えば、固有空間に射影した画像の第1成分から第3または4成分までが影成分の影響を受けた画像なので、影成分の影響を効果的に除去することができる。
【0023】
さらに好ましくは、影成分除去装置は、合成手段により合成された顔画像の形状を平均形状から元の顔画像の形状に戻す元形状変換手段をさらに備える。
【0024】
この発明に従えば、合成された顔画像の形状が平均形状から元の顔画像の形状に戻されるので、元の顔画像に表れる影を除去することができる。
【0025】
この発明の他の局面に従えば、影成分除去装置は、多種類の影を持つ画像の集合に対して統計的処理を施して所定の画像空間を演算する演算手段と、演算手段で演算された画像空間を記憶する記憶手段と、新たな画像を入力する入力手段と、入力手段により入力された画像を記憶手段に記憶されている画像空間に射影する射影手段と、入力手段により入力された画像および射影手段により画像空間に射影された画像に基づいて、影成分を除去した画像を合成する合成手段とを備える。
【0026】
この発明に従えば、多種類の影を持つ画像の集合に対して統計的処理を施して所定の画像空間が演算され、演算された画像空間が記憶される。そして、新たな画像が入力され、入力された画像が画像空間に射影され、入力された画像および画像空間に射影された画像に基づいて、影成分を除去した画像が合成される。このため、入力された画像に影が表れている場合であっても、画像から影を除去することが可能な影成分除去装置を提供することができる。また、入力された画像および固有空間に射影された画像に基づいて、影成分を除去した画像を合成するので、入力された画像に表れる影が、いかなる方向からの光により生じたものであっても、影を除去することが可能な影成分除去装置を提供することができる。
【0027】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照して説明する。なお、図中同一符号は同一または相当する部材を示す。
【0028】
図1は、本発明の実施の形態における影成分除去装置の概略構成を示すブロック図である。図を参照して、影成分除去装置100は、制御部101と、人の顔の画像を入力するための画像入力部102と、装置の使用者がデータや種々の指示を入力するための操作部103と、制御部101で実行するプログラムを記録したり、制御部101でプログラムを実行するために必要な情報等を記憶するための記憶部104と、画像を出力するための出力部105と、外部記憶装置106とを含む。
【0029】
制御部101は、中央演算装置(CPU)であり、画像処理装置の全体を制御する。画像入力部102は、イメージスキャナであり、ライン型のCCDセンサを有する。顔が撮影された写真等を読込み、2次元の顔画像を出力する。なお、実際の人物を撮影して2次元の顔画像を出力することができるデジタルカメラ等を用いることもできる。さらに、外部のイメージスキャナやデジタルカメラ等と接続するための入力端子であってもよい。
【0030】
記憶部104は、制御部101で実行するためのプログラムを記憶するROMと、制御部101でプログラムを実行するのに必要な変数等を一時記憶するためのRAMと、種々のデータを記憶するためのハードディスク等からなる。
【0031】
出力部105は、画像入力部102で入力された画像や画像処理された後の画像を表示するためのディスプレイである。また、ディスプレイとともにプリンタを用いてもよい。
【0032】
外部記憶装置106は、記録媒体107に記録されたプログラムや2次元の顔画像等を読込むためのドライブである。記録媒体107は、光磁気ディスク、デジタルビデオディスク、または、コンパクトディスクドライブ等である。また、外部記録装置106は、制御部101で影成分が除去された画像を記録媒体107に書込むことができる。
【0033】
記録媒体107に影成分除去プログラムを記録し、外部記憶装置106で読み込まれた影成分除去プログラムを制御部101で実行するようにしてもよい。
【0034】
図2は、影成分除去装置が有する影成分辞書作成機能の概略を示す機能ブロック図である。図2を参照して、制御部101は、顔画像から顔の各部位の形状を抽出するための顔成分抽出部111と、顔画像データベースに記憶されている顔画像の集合について平均の形状を算出する平均形状算出部113と、顔画像を平均の形状に変換して平均顔画像を生成する平均形状変換部115と、平均顔画像に対して主成分分析を施して辞書空間を生成する主成分分析部117と、生成された辞書空間から影成分を抽出して影成分除去空間を生成する影成分抽出部119とを含む。
【0035】
記憶部104は、人の顔を含む顔画像データベースと、平均形状算出部で算出された平均形状と、主成分分析部117で生成された辞書空間と、影成分抽出部119で生成された影成分除去空間とを記憶する。
【0036】
記憶部104の顔画像データベースには、人物の顔を含む画像(以下「顔画像」という)が複数記憶される。顔画像は、画像入力部102から入力される。また、外部記憶装置106を介して記録媒体107に記録された顔画像を読み込むことにより、記憶部104に記憶するようにしてもよい。顔画像データベースに記憶される顔画像は、複数の人物それぞれについて複数であってもよいし、複数の人物ごとに1枚であってもよい。さらに、1人の人物について複数であってもよい。
【0037】
複数枚の顔画像は、光源から被写体となる顔に照射される光の方向が異なる必要がある。従って、複数の顔画像は、一定の方向から顔に光が照射された状態で撮影されて得られる顔画像ではなく、顔に照射される光の方向を変えた状態で撮像されることにより得られる画像であることが好ましい。光が被写体に照射される方向は、上下方向、左右方向、前後方向の3自由度ある。この3自由度のうち少なくとも1つが異なるように光が照射された状態で撮影された顔画像であるのが望ましい。また、複数の顔画像は、撮影時に被写体に照射される光の方向が、上記3自由のいずれかに偏らず、一様に分布しているのが望ましい。
【0038】
従って、画像データベースに記憶される顔画像は、複数の人物について、それぞれ照明条件を異ならせて撮影した複数の顔画像であることが好ましい。
【0039】
顔成分抽出部111は、記憶部104の顔画像データベースに記憶されている顔画像のそれぞれについて、顔の輪郭と、顔画像に含まれる顔の目、鼻、口、眉などの顔の各部分とを抽出して、それらの形状を認識する。
【0040】
顔成分抽出部111で行なわれる形状の認識は、予め定められた特徴点を手入力で指示する方法を用いることができる。特徴点は、例えば、口元や目じりといった、異なる人物間でも共通するポイントをいう。操作者が、出力部105のディスプレイに表示された顔画像を見て、特徴点を操作部103に備えられるマウスなどのポインティングデバイスで指示することにより、特徴点の位置が入力される。特徴点の位置が入力されることにより、顔の輪郭と顔の各部分の形状を認識することができる。
【0041】
また、エッジ検出処理や色抽出処理等の画像処理技術を組み合わせることによっても、顔の輪郭と顔の各部分それぞれの特徴点の位置を抽出することができる。
【0042】
平均形状算出部113は、記憶部104の顔画像データベースに記憶されている顔画像で集合を形成し、顔画像の集合に対して顔の平均の形状を算出する。算出された平均形状は、記憶部104に記憶される。平均形状は、顔成分抽出部で認識された特徴点を用いて算出される。平均形状の算出は、顔画像を顔の大きさで正規化した正規化画像を用いて行なわれる。正規化画像は、顔の面積や顔の部位間の長さを同じにした画像である。そして、正規化画像の原点を定め、各特徴点の平均位置が算出される。原点は、例えば、左右の目じりの特徴点を結んだ直線をX軸とし、顔の垂直方向の中心線となるY軸としたときのX軸とY軸の交点とすることができる。
【0043】
平均形状変換部115は、集合に含まれる顔画像を平均の形状に変換して平均顔画像を生成する。これは、特徴点を用いて行なわれるが、特徴点以外の領域も線型変換することにより変換される。平均形状への変換は、集合に含まれる顔画像の画素ごとに、画素の座標を平均形状の対応する座標へ変換するものである。これにより、顔の形状が同じで、テクスチャが異なる平均顔画像が、集合に含まれる顔画像の数だけ生成される。
【0044】
主成分分析部117は、平均顔画像の画素値をベクトルとみなし、固有空間法を用いて固有ベクトルと固有値とを算出する。算出された固有ベクトルは、それらを基底ベクトルとする辞書空間として、記憶部104に記憶される。
【0045】
影成分抽出部119は、主成分分析部117で生成された辞書空間から影成分を抽出して影成分除去空間を生成する。主成分分析部117で生成された辞書空間において、固有値の大きい順に第1成分から第4成分までに、照明条件の影響が表れる。影成分抽出部119では、辞書空間を定義する固有ベクトルのうち第5成分以降を、それらを基底ベクトルとする影成分除去空間として、記憶部104に記憶する。第1成分から第4成分までは、平均形状に変換された顔画像のテクスチャを正規化するためのオフセット成分と、照明条件として光源の方向の3自由度の成分とを表す。
【0046】
記憶部104の顔画像データベースに記憶されている顔画像が、テクスチャを正規化した画像である場合には、主成分分析部117で生成された辞書空間において、固有値の大きい順に第1成分から第3成分までに、照明条件の影響が表れる。したがって、影成分抽出部119では、辞書空間を定義する固有ベクトルのうち第4成分以降を、それらを基底ベクトルとする影成分除去空間として、記憶部104に記憶する。第1成分から第3成分までは、照明条件として光源の方向の3自由度の成分を表す。
【0047】
ここで、テクスチャの正規化は、例えば、各顔画像間で画素値のヒストグラムを等しくするヒストグラム正規化や、マンチェスター大学のコートらが提案したアクティブ・アピアランス・モデル(AAM)で用いられる正規化を用いることができる。
【0048】
図3は、影成分除去装置が有する影成分除去画像合成機能の概略を示す機能ブロック図である。図3を参照して、制御部101は、画像入力部102から入力された顔画像から顔の各部位の形状を抽出するための顔成分抽出部111と、顔画像を平均の形状に変換して平均顔画像を生成する平均形状変換部115と、平均顔画像を辞書空間に射影して辞書画像を生成し、平均顔画像を影成分除去空間に射影して除去画像を生成するための辞書空間射影部123と、平均顔画像、辞書画像および除去画像に基づき、平均顔画像から影成分を除去した影成分除去画像を生成する画像合成部125と、影成分除去画像を元の形状に逆変換する元形状変換部127とを含む。
【0049】
顔成分抽出部111は、画像入力部102から新たに入力された顔画像について、顔の輪郭と、顔画像に含まれる顔の目、鼻、口、眉などの顔の各部分とを抽出して、それらの形状を認識する。
【0050】
平均形状変換部115は、画像入力部102から新たに入力された顔画像を平均形状に変換する。顔画像を平均形状に変換した画像を平均顔画像という。平均形状は、上述した平均形状算出部113で算出され、記憶部104に記憶された平均形状である。平均形状への変換式は、後述する元形状変換部127に送信される。
【0051】
辞書空間射影部123は、平均顔画像を辞書空間へ射影して、辞書パラメータを求める。求められた辞書パラメータは、画像合成部125に送信される。また、辞書空間射影部123は、平均顔画像を影成分除去空間へ射影して除去パラメータを求める。求められた除去パラメータは、画像合成部125に送信される。
【0052】
辞書空間において、辞書パラメータで表される画像を辞書画像という。影成分除去空間において、除去パラメータで表される画像を除去画像という。
【0053】
画像合成部125は、平均顔画像、辞書画像、および、除去画像で対応する画素値を式(1)に基づき演算することにより、顔画像から影成分を除去した影成分除去画像を合成する。
【0054】
影成分除去画像=平均顔画像―(辞書画像―除去画像) … (1)
元形状変換部127は、影成分除去画像を平均形状変換部115で求めた変換式を用いて逆変換する。これにより、影成分除去画像の形状が、入力された顔画像の形状に変換される。元の形状に変換された顔画像は、出力部105から出力される。また、記憶部104に記憶するようにしてもよい。
【0055】
図4は、影成分除去装置で行なわれる影成分辞書作成処理の流れを示すフローチャートである。図4を参照して、まず、記憶部104の顔画像データベースに複数の顔画像が記憶される(ステップS01)。記憶される顔画像は、後述する辞書空間を生成するための顔画像の集合とされる。顔画像データベースに記憶される顔画像は、画像入力部102から入力するようにしてもよいし、記録媒体107に記憶された顔画像を外部記憶装置106から読み込むようにしてもよい。
【0056】
記憶部104の顔画像データベースに記憶されている顔画像が順に、顔の輪郭と、顔画像に含まれる顔の目、鼻、口、眉などの顔の各部分とが抽出され、それらの形状が認識される(ステップS02)。形状の認識は、特徴点を用いて行なわれる。そして、顔画像データベースに記憶されている集合とされた顔画像のすべてについて、ステップS02が実行されたか否かが判断される(ステップS03)。すべてについてステップS02が実行された場合には、ステップS04に進み、そうでない場合には、ステップS02が繰返し行なわれる。
【0057】
次に、顔画像の集合に対して、顔の平均の形状が算出される(ステップS04)。算出された平均形状は、記憶部104に記憶される。平均形状は、ステップS02で認識された形状を用いて算出される。また、平均形状の算出は、顔画像に含まれる顔の大きさで正規化した正規化画像を用いて行なわれる。
【0058】
そして、集合に含まれる顔画像が順に、求められた平均形状に変換され、平均顔画像が生成される(ステップS05)。平均形状への変換は、特徴点を用いて行なわれる。また、特徴点以外の領域も線型変換することにより変換される。
【0059】
集合に含まれる顔画像のすべてが平均形状に変換されたか否かが判断される(ステップS06)。集合に含まれる全ての顔画像が平均形状に変換された場合には、ステップS07に進み、そうでない場合にはステップS05が繰返し行なわれる。
【0060】
ステップS05で生成された平均顔画像の画素値をベクトルとみなし、固有空間法を用いて、固有ベクトルと固有値とが算出される。算出された固有ベクトルは、それらを基底ベクトルとする辞書空間として、記憶部104に記憶される。
【0061】
そして、生成された辞書空間から影成分が抽出され、影成分を抽出した影成分除去空間が求められる(ステップS08)。生成された辞書空間において、固有値の大きい順に第1成分から第4成分までを影成分として抽出し、辞書空間を定義する固有ベクトルのうち、第5成分以降を基底ベクトルとする固有空間を影成分除去空間として、記憶部104に記憶する。第1成分から第4成分までは、顔画像のテクスチャを正規化するためのオフセット成分と、照明条件として光源の方向の3自由度の成分を表す。
【0062】
集合に含まれる顔画像が、テクスチャを正規化した画像である場合には、辞書空間において、固有値の大きい順に第1成分から第3成分までを影成分として抽出し、辞書空間を定義する固有ベクトルのうち第4成分以降を基底ベクトルとする固有空間を影成分除去空間として、記憶部104に記憶する。第1成分から第3成分までは、照明条件として光源の方向の3自由度の成分を表す。
【0063】
図5は、影成分除去装置で行なわれる影成分除去画像合成処理の流れを示すフローチャートである。図5を参照して、影成分除去画像合成処理では、まず、新たに処理するべき顔画像が入力される(ステップS11)。新たに入力される顔画像は、影成分を除去する対象となる画像である。顔画像は、画像入力部102より入力される。
【0064】
新たに入力された顔画像は、顔画像に含まれる顔の輪郭と、目、鼻、口、眉などの顔の各部分とが抽出される(ステップS12)。これにより、入力された顔画像に含まれる顔の形状が認識される。
【0065】
そして、顔の形状が認識された顔画像が平均形状に変換される(ステップS13)。平均形状は、記憶部104に記憶されている平均形状が用いられる。これにより、新たに入力された顔画像に含まれる顔の形状が、記憶部104に記憶されている辞書空間および影成分除去空間で表される顔の形状と同じになる。平均形状への変換式は、平均形状を元の顔の形状に逆変換するステップS16で用いるためにメモリに記憶される。
【0066】
次に、平均形状に変換された顔画像が辞書空間へ射影されて辞書パラメータが求められ、かつ、平均形状に変換された顔画像が影成分除去空間へ射影されて除去パラメータが求められる(ステップS14)。辞書空間および影成分除去空間は、記憶部104に記憶されている辞書空間および影成分除去空間が用いられる。辞書空間において、辞書パラメータで表される画像を辞書画像といい、影成分除去空間において、除去パラメータで表される画像を除去画像という。
【0067】
そして、平均形状に変換された顔画像、辞書画像、および、除去画像で対応する画素値を上述の式(1)に基づき演算することにより、顔画像から影成分を除去した影成分除去画像が合成される(ステップS15)。
【0068】
合成された影成分除去画像は、入力された顔画像に含まれる顔の形状に逆変換される(ステップS16)。逆変換のための変換式は、ステップS13で求められた平均形状への変換式に基づき求められる。これにより、影成分除去画像の形状が、入力された顔画像の形状に変換される。
【0069】
以上説明したように、本実施の形態における影成分除去装置100は、光源の方向が限定されない照明条件で撮影されて得られる画像の集合を用いて辞書空間を生成するようにしたので、辞書空間を生成するために用いられる画像の照明条件を特に定める必要がなく、容易に辞書空間を生成することができる。
【0070】
また、光源の方向が多種多様な画像を用いて辞書空間を生成するようにしたので、任意の方向からの光が照射される照明条件で撮影された顔画像から、影成分を除去することができる。
【0071】
また、辞書空間の生成と影成分の除去とに、顔画像に含まれる顔の形状を正規化した顔画像を平均形状へ変換した平均顔画像を用いるので、辞書空間の生成に用いた顔画像の人物に含まれない人物の顔画像であっても、影成分を除去することができる。
【0072】
さらに、あらゆる照明条件で撮像された顔画像、また、あらゆる人物の顔画像から影成分を除去することができるので、撮影する環境の条件を一致させることなく、認証用の画像を収集することができる。
【0073】
なお、本実施の形態においては、主成分分析を例に説明したが、他の多変量解析手法を用いることができる。また、本実施の形態においては影成分除去装置について説明したが、図4および図5のフローチャートで示した処理を実行する影成分除去方法、または、影成分除去プログラムを記録した記録媒体としても発明を捉えることができる。
【0074】
また、本実施の形態における影成分除去装置は、顔画像以外の画像にも適用することができ、例えば、人物の全身の画像から影成分を除去することができる。
【0075】
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【図面の簡単な説明】
【図1】 本発明の実施の形態の1つにおける影成分除去装置の概略構成を示すブロック図である。
【図2】 影成分除去装置が有する影成分辞書作成機能の概略を示す機能ブロック図である。
【図3】 影成分除去装置が有する影成分除去画像合成機能の概略を示す機能ブロック図である。
【図4】 影成分除去装置で行なわれる影成分辞書作成処理の流れを示すフローチャートである。
【図5】 影成分除去装置で行なわれる影成分除去画像合成処理の流れを示すフローチャートである。
【符号の説明】
100 影成分除去装置、101 制御部、102 画像入力部、103 操作部、104 記憶部、105 出力部、106 外部記憶装置、107 記録媒体、111 顔成分抽出部、113 平均形状算出部、115 平均形状変換部、117 主成分分析部、119 影成分抽出部、123 辞書空間射影部、125 画像合成部、127 元形状変換部。
Claims (6)
- 複数の顔画像の各々について、各部位の形状を抽出する顔成分抽出手段と、
前記顔画像の集合に対する平均形状を算出する平均形状算出手段と、
各顔画像を算出された前記平均形状に変換する平均形状変換手段と、
前記平均形状に変換された顔画像に対して主成分分析を行ない固有ベクトルを演算する主成分分析手段と、
前記固有ベクトルを記憶する記憶手段と、
新たな顔画像を入力する入力手段とを備え、
前記平均形状変換手段は、入力された前記新たな顔画像を前記平均形状に変換し、
前記平均形状に変換された前記新たな顔画像を前記固有ベクトルに対応する固有空間に射影する固有空間射影手段と、
前記固有空間に射影された画像と前記固有空間に射影されて影成分が除去された画像との差成分を演算し、当該差成分を前記新たな顔画像から減算することにより影成分を除去した顔画像を合成する合成手段とをさらに備え、
前記影成分は、前記顔画像のテクスチャを正規化するためのオフセット成分を含めた画像に対する前記固有空間に射影された画像のうちの第1成分から第4成分まで、あるいは正規化された画像に対する前記固有空間に射影された画像のうちの第1成分から第3成分までである、影成分除去装置。 - 前記合成手段により合成された顔画像の形状を平均形状から元の顔画像の形状に戻す元形状変換手段をさらに備えた、請求項1に記載の影成分除去装置。
- 複数の画像の各々について、各部位の形状を抽出する成分抽出手段と、
前記画像の集合に対する平均形状を算出する平均形状算出手段と、
各画像を算出された前記平均形状に変換する平均形状変換手段と、
前記平均形状に変換された画像に対して多変量解析を行ない固有ベクトルを演算する主成分分析手段と、
前記固有ベクトルを記憶する記憶手段と、
新たな画像を入力する入力手段とを備え、
前記平均形状変換手段は、入力された前記新たな画像を前記平均形状に変換し、
前記平均形状に変換された前記新たな画像を前記固有ベクトルに対応する固有空間に射影する固有空間射影手段と、
前記固有空間に射影された画像と前記固有空間に射影されて影成分が除去された画像との差成分を演算し、当該差成分を前記新たな画像から減算することにより影成分を除去した画像を合成する合成手段とをさらに備え、
前記影成分は、前記画像のテクスチャを正規化するためのオフセット成分を含めた画像に対する前記固有空間に射影された画像のうちの第1成分から第4成分まで、あるいは正規化された画像に対する前記固有空間に射影された画像のうちの第1成分から第3成分までである、影成分除去装置。 - 制御部と記憶部とを含む影成分除去装置における影成分除去方法であって、
前記制御部が、複数の顔画像の各々について、各部位の形状を抽出するステップと、
前記制御部が、前記顔画像の集合に対する平均形状を算出するステップと、
前記制御部が、各顔画像を算出された前記平均形状に変換するステップと、
前記制御部が、前記平均形状に変換された顔画像に対して主成分分析を行ない固有ベクトルを演算するステップと、
前記制御部が、前記固有ベクトルを前記記憶部に記憶させるステップと、
前記制御部が、新たな顔画像を受け付けるステップと、
前記制御部が、前記新たな顔画像を前記平均形状に変換するステップと、
前記制御部が、前記平均形状に変換された新たな顔画像を前記固有ベクトルに対応する固有空間に射影するステップと、
前記制御部が、前記固有空間に射影された画像と前記固有空間に射影されて影成分が除去された画像との差成分を演算するステップと、
前記制御部が、当該差成分を前記新たな顔画像から減算することにより影成分を除去した顔画像を合成するステップとを備え、
前記影成分は、前記顔画像のテクスチャを正規化するためのオフセット成分を含めた画像に対する前記固有空間に射影された画像のうちの第1成分から第4成分まで、あるいは正規化された画像に対する前記固有空間に射影された画像のうちの第1成分から第3成分までである、影成分除去方法。 - 前記制御部が、合成された前記顔画像の形状を平均形状から元の顔画像の形状に戻すステップをさらに備えた、請求項4に記載の影成分除去装置。
- 制御部と記憶部とを含む影成分除去装置における影成分除去方法であって、
前記制御部が、複数の画像の各々について、各部位の形状を抽出するステップと、
前記制御部が、前記画像の集合に対する平均形状を算出するステップと、
前記制御部が、各画像を算出された前記平均形状に変換するステップと、
前記制御部が、前記平均形状に変換された画像に対して多変量解析を行ない固有ベクトルを演算するステップと、
前記制御部が、前記固有ベクトルを前記記憶部に記憶させるステップと、
前記制御部が、新たな画像を受け付けるステップと、
前記制御部が、前記新たな画像を前記平均形状に変換するステップと、
前記制御部が、前記平均形状に変換された新たな画像を前記固有ベクトルに対応する固有空間に射影するステップと、
前記制御部が、前記固有空間に射影された画像と前記固有空間に射影されて影成分が除去された画像との差成分を演算するステップと、
前記制御部が、当該差成分を前記新たな画像から減算することにより影成分を除去した画像を合成するステップとを備え、
前記影成分は、前記画像のテクスチャを正規化するためのオフセット成分を含めた画像に対する前記固有空間に射影された画像のうちの第1成分から第4成分まで、あるいは正規化された画像に対する前記固有空間に射影された画像のうちの第1成分から第3成分までである、影成分除去方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000211190A JP4483042B2 (ja) | 2000-07-12 | 2000-07-12 | 影成分除去装置および影成分除去方法 |
US09/902,098 US6975763B2 (en) | 2000-07-12 | 2001-07-11 | Shade component removing apparatus and shade component removing method for removing shade in image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000211190A JP4483042B2 (ja) | 2000-07-12 | 2000-07-12 | 影成分除去装置および影成分除去方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002024811A JP2002024811A (ja) | 2002-01-25 |
JP4483042B2 true JP4483042B2 (ja) | 2010-06-16 |
Family
ID=18707344
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000211190A Expired - Fee Related JP4483042B2 (ja) | 2000-07-12 | 2000-07-12 | 影成分除去装置および影成分除去方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6975763B2 (ja) |
JP (1) | JP4483042B2 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7190843B2 (en) * | 2002-02-01 | 2007-03-13 | Siemens Corporate Research, Inc. | Integrated approach to brightness and contrast normalization in appearance-based object detection |
JP2004041694A (ja) | 2002-05-13 | 2004-02-12 | Fuji Photo Film Co Ltd | 画像生成装置およびプログラム、画像選択装置、画像出力装置、画像提供サービスシステム |
JP3855939B2 (ja) * | 2003-01-31 | 2006-12-13 | ソニー株式会社 | 画像処理装置、画像処理方法及び撮影装置 |
JP2004304041A (ja) * | 2003-03-31 | 2004-10-28 | Citizen Electronics Co Ltd | 発光ダイオード |
JP4571378B2 (ja) * | 2003-06-26 | 2010-10-27 | 富士フイルム株式会社 | 画像処理方法および装置並びにプログラム |
CN1313962C (zh) * | 2004-07-05 | 2007-05-02 | 南京大学 | 基于选择性多本征空间集成的数字人脸图像识别方法 |
JP2007066227A (ja) * | 2005-09-02 | 2007-03-15 | Fujifilm Corp | 画像処理装置および方法並びにプログラム |
KR100647322B1 (ko) * | 2005-03-02 | 2006-11-23 | 삼성전자주식회사 | 객체의 모양모델 생성장치 및 방법과 이를 이용한 객체의특징점 자동탐색장치 및 방법 |
JP4906034B2 (ja) * | 2005-05-16 | 2012-03-28 | 富士フイルム株式会社 | 撮影装置および方法並びにプログラム |
US7295716B1 (en) * | 2006-06-30 | 2007-11-13 | Fujifilm Corporation | Method and apparatus for diffusion based image relighting |
US7642949B2 (en) * | 2006-08-03 | 2010-01-05 | Lockheed Martin Corporation | Illumination source for millimeter wave imaging |
KR100858087B1 (ko) * | 2007-02-14 | 2008-09-10 | 삼성전자주식회사 | 객체 포즈 정규화 방법과 장치 및 객체 인식 방법 |
WO2008107002A1 (en) | 2007-03-05 | 2008-09-12 | Fotonation Vision Limited | Face searching and detection in a digital image acquisition device |
US20100177095A1 (en) * | 2009-01-14 | 2010-07-15 | Harris Corporation | Geospatial modeling system for reducing shadows and other obscuration artifacts and related methods |
JP2010250419A (ja) * | 2009-04-13 | 2010-11-04 | Seiko Epson Corp | 目の様態を検出する画像処理装置 |
JPWO2012144648A1 (ja) * | 2011-04-19 | 2014-07-28 | 日本電気株式会社 | 顔画像補正システム、顔画像補正方法及び顔画像補正用プログラム |
JP6584179B2 (ja) * | 2015-07-13 | 2019-10-02 | キヤノン株式会社 | 情報処理装置、情報処理方法、コンピュータプログラム |
JP6624827B2 (ja) | 2015-07-13 | 2019-12-25 | キヤノン株式会社 | 情報処理装置、情報処理方法、コンピュータプログラム |
US10891502B1 (en) * | 2017-01-19 | 2021-01-12 | State Farm Mutual Automobile Insurance Company | Apparatuses, systems and methods for alleviating driver distractions |
Family Cites Families (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5164992A (en) * | 1990-11-01 | 1992-11-17 | Massachusetts Institute Of Technology | Face recognition system |
US5388167A (en) * | 1991-03-12 | 1995-02-07 | Hitachi, Ltd. | Document image processing system and document image processing method |
JPH06342465A (ja) | 1993-06-01 | 1994-12-13 | Matsushita Electric Ind Co Ltd | 画像処理装置 |
KR19980703120A (ko) * | 1995-03-20 | 1998-10-15 | 조안나 티. 라우 | 이미지 식별 시스템 및 방법 |
US5844573A (en) * | 1995-06-07 | 1998-12-01 | Massachusetts Institute Of Technology | Image compression by pointwise prototype correspondence using shape and texture information |
US5842194A (en) * | 1995-07-28 | 1998-11-24 | Mitsubishi Denki Kabushiki Kaisha | Method of recognizing images of faces or general images using fuzzy combination of multiple resolutions |
JPH09329527A (ja) * | 1996-04-08 | 1997-12-22 | Advantest Corp | 画像処理方法および画像処理装置 |
US6122408A (en) * | 1996-04-30 | 2000-09-19 | Siemens Corporate Research, Inc. | Light normalization method for machine vision |
JPH09326026A (ja) * | 1996-06-07 | 1997-12-16 | Advantest Corp | 画像処理方法及び画像処理装置 |
US6430307B1 (en) * | 1996-06-18 | 2002-08-06 | Matsushita Electric Industrial Co., Ltd. | Feature extraction system and face image recognition system |
US5901244A (en) * | 1996-06-18 | 1999-05-04 | Matsushita Electric Industrial Co., Ltd. | Feature extraction system and face image recognition system |
US6044168A (en) * | 1996-11-25 | 2000-03-28 | Texas Instruments Incorporated | Model based faced coding and decoding using feature detection and eigenface coding |
US6345109B1 (en) * | 1996-12-05 | 2002-02-05 | Matsushita Electric Industrial Co., Ltd. | Face recognition-matching system effective to images obtained in different imaging conditions |
US6185337B1 (en) * | 1996-12-17 | 2001-02-06 | Honda Giken Kogyo Kabushiki Kaisha | System and method for image recognition |
JP3621245B2 (ja) * | 1997-12-12 | 2005-02-16 | 株式会社東芝 | 人物認識装置、人物認識方法、および、人物認識プログラムの記録媒体 |
JPH11185025A (ja) | 1997-12-22 | 1999-07-09 | Victor Co Of Japan Ltd | 顔画像正規化装置 |
US6088470A (en) * | 1998-01-27 | 2000-07-11 | Sensar, Inc. | Method and apparatus for removal of bright or dark spots by the fusion of multiple images |
JP4087953B2 (ja) | 1998-07-14 | 2008-05-21 | 株式会社東芝 | パターン認識装置及びその方法 |
US6466685B1 (en) * | 1998-07-14 | 2002-10-15 | Kabushiki Kaisha Toshiba | Pattern recognition apparatus and method |
US6292575B1 (en) * | 1998-07-20 | 2001-09-18 | Lau Technologies | Real-time facial recognition and verification system |
US6625303B1 (en) * | 1999-02-01 | 2003-09-23 | Eastman Kodak Company | Method for automatically locating an image pattern in digital images using eigenvector analysis |
EP1039417B1 (en) * | 1999-03-19 | 2006-12-20 | Max-Planck-Gesellschaft zur Förderung der Wissenschaften e.V. | Method and device for the processing of images based on morphable models |
JP4143305B2 (ja) * | 2001-01-30 | 2008-09-03 | 日本電気株式会社 | ロボット装置、照合環境判定方法、及び照合環境判定プログラム |
-
2000
- 2000-07-12 JP JP2000211190A patent/JP4483042B2/ja not_active Expired - Fee Related
-
2001
- 2001-07-11 US US09/902,098 patent/US6975763B2/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
US20020006226A1 (en) | 2002-01-17 |
US6975763B2 (en) | 2005-12-13 |
JP2002024811A (ja) | 2002-01-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4483042B2 (ja) | 影成分除去装置および影成分除去方法 | |
US7860340B2 (en) | Three-dimensional shape estimation system and image generation system | |
JP5049356B2 (ja) | テクスチャ空間分解に基づく統計的顔モデリングにおける指向性照明変動性の分離 | |
JP5812599B2 (ja) | 情報処理方法及びその装置 | |
US9053388B2 (en) | Image processing apparatus and method, and computer-readable storage medium | |
KR100682889B1 (ko) | 영상에 기반한 사실감 있는 3차원 얼굴 모델링 방법 및 장치 | |
JP4950787B2 (ja) | 画像処理装置及びその方法 | |
KR101198322B1 (ko) | 얼굴 표정 인식 방법 및 시스템 | |
US20170323465A1 (en) | Image processing apparatus, image processing method, and storage medium | |
KR100896643B1 (ko) | Aam을 이용한 3차원 얼굴 모델링 방법 및 시스템,그리고 이에 적용되는 장치 | |
WO2010122721A1 (ja) | 照合装置、照合方法および照合プログラム | |
JP2013178816A (ja) | 画像処理装置、撮像装置、画像処理方法 | |
Ouanan et al. | Facial landmark localization: Past, present and future | |
JP2000357221A (ja) | 画像処理装置および画像処理方法、ならびに画像処理プログラムを記録した記録媒体 | |
JP5419757B2 (ja) | 顔画像合成装置 | |
JP3970573B2 (ja) | 顔画像認識装置および方法 | |
Niese et al. | Towards pain recognition in post-operative phases using 3d-based features from video and support vector machines | |
JP2001291108A (ja) | 画像処理装置およびその方法ならびにプログラム記録媒体 | |
JP3062181B1 (ja) | 実時間表情検出装置 | |
JP2006215743A (ja) | 画像処理装置及び画像処理方法 | |
JP5419777B2 (ja) | 顔画像合成装置 | |
JP5639499B2 (ja) | 顔画像処理装置 | |
JP5419773B2 (ja) | 顔画像合成装置 | |
Braun et al. | Detecting and following humans with a mobile robot | |
KR20020014298A (ko) | 캐리커처 영상 생성 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20050613 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061025 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090831 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090915 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091022 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100302 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100315 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130402 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140402 Year of fee payment: 4 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |