JP2006243849A - 機器制御装置及びその方法 - Google Patents

機器制御装置及びその方法 Download PDF

Info

Publication number
JP2006243849A
JP2006243849A JP2005055149A JP2005055149A JP2006243849A JP 2006243849 A JP2006243849 A JP 2006243849A JP 2005055149 A JP2005055149 A JP 2005055149A JP 2005055149 A JP2005055149 A JP 2005055149A JP 2006243849 A JP2006243849 A JP 2006243849A
Authority
JP
Japan
Prior art keywords
person
registered
personal
device environment
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005055149A
Other languages
English (en)
Other versions
JP4267584B2 (ja
Inventor
Osamu Yamaguchi
修 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2005055149A priority Critical patent/JP4267584B2/ja
Priority to US11/363,744 priority patent/US7734072B2/en
Publication of JP2006243849A publication Critical patent/JP2006243849A/ja
Application granted granted Critical
Publication of JP4267584B2 publication Critical patent/JP4267584B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/28Determining representative reference patterns, e.g. by averaging or distorting; Generating dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/772Determining representative reference patterns, e.g. averaging or distorting patterns; Generating dictionaries

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Collating Specific Patterns (AREA)
  • Seats For Vehicles (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】登録作業を明示的な作業として行わない個人識別機能をもつシステムにおいて、認識結果に対する確認を簡素化して辞書更新の利便性の向上を行うことを目的とする。
【解決手段】機器制御装置10は、顔認識処理部12、機器設定部14、対話処理部16とから構成され、ユーザの顔画像に関する個人データを取得し、取得した個人データと、登録された個人辞書データと比較して、取得した個人データに対応する人物を認識し、認識した人物に対応する登録時の顔画像を、前記登録されている個人辞書データに基づいて表示し、表示した人物が前記ユーザに一致するか否かの確認情報を前記ユーザから受け、確認された人物に対応する前記機器環境パラメータに設定する。
【選択図】 図1

Description

本発明は、人物認識による機器制御装置及びその方法に関する。
近年、バイオメトリクスを用いた個人認証技術など、セキュリティへの関心が高まっている。人間の生体情報を利用する個人認識法としては、顔、声紋、指紋、虹彩などを利用したものがある。それらの中でも顔を利用した場合は、精神的、肉体的負担をかけることなく認識でき、利用しやすいといった特徴がある。また、さまざまなバイオメトリクスの中で、判断のための特徴量(顔画像)を人間が認識、識別が可能な手段である。
顔認識の技術は、セキュリティとしての応用だけではなく、インターフェースの利便性を向上させるために、システムのユーザ対応のために個人識別技術が利用されている。しかしながら、既にこれまでに提案されているものについては、セキュリティを意識したものが多く、「登録作業」「更新作業」などが明示的に発生する。より利便性の高いインターフェースの構築のためには、明示的な「登録作業」「更新作業」などを省略することが必要である。
車のドライバーの顔を認識して、シートなどの設定を行うというものが特許文献1に開示されている。これらの発明では、利用者が特定できない場合、新たにデータベースに登録するという機能がある。また、特許文献2では、通行者の識別を行うために未登録の人物が通過した場合に、新たにデータベースに登録する方法が開示されている。
但し、これらの自動登録を行う場合には、いくつかの問題がある。
(1)認識に間違いあった際、別人の設定が成される可能性がありその場合の復旧方法が示されていない。
(2)登録されているにもかかわらず、顔認識に間違いがあり、新たな人物だと判断された場合に、システムに伝える方法が明らかではない。
(3)顔認識の精度を向上させるために、自動的に更新する方法が必要であるが、システムが人物を間違えて認識していた場合には、ある登録人物に別人のデータが混入するという問題がある。
(4)自動登録が行われる場合、同じ人物が二重化される場合があり、辞書の統合、廃棄などのメンテナンスをする必要がある。
また、認識に間違いがある可能性に対する処理としては、特許文献3では、本人に確認をする手段が開示されているが、セキュリティ応用を目的としているため、認識結果から本人を拒絶する発明となっており、インターフェース応用には適さない。
特開2002−288670公報 特開2004−54580公報 特許第3590285号公報
そこで、本発明では、登録作業を明示的な作業として行わない個人識別機能をもつシステムにおいて、認識結果に対する確認を簡素化する方法や、辞書更新の利便性の向上を行うことを目的とする。
本発明は、ユーザが操作する一または複数の機器の状態または動作に関する機器環境パラメータを制御する機器制御装置において、前記ユーザの顔画像を入力し、前記顔画像から顔認識用の個人データを取得する取得手段と、一または複数の人物の顔画像及び顔認識用の個人データに関する個人辞書データが予め登録されている登録情報保持手段と、前記取得した個人データと、前記登録された個人辞書データにおける個人データと比較して、前記取得した個人データに対応する人物を認識する顔認識処理手段と、前記登録されている人物毎に前記機器環境パラメータを記憶している機器環境情報記憶手段と、前記認識した人物に対応する登録時の顔画像を、前記登録されている個人辞書データに基づいて表示する表示手段と、前記表示した人物が前記ユーザに一致するか否かの確認情報を前記ユーザから受ける対話処理手段と、前記確認された人物に対応する前記機器環境パラメータを前記機器環境情報記憶手段から呼び出し、前記機器をその機器環境パラメータに設定する機器設定手段と、を具備することを特徴とする機器制御装置である。
本発明によれば、明示的な登録作業を行わない自動的に登録される顔認識機能をもつシステムにおいて、できるだけユーザとのインタラクションを簡素化して、利便性が高いシステムが構築できる。
以下に本発明の一実施形態について説明する。
本実施形態では、自動登録機能を有する人物認識による機器制御装置10の適用例として、自動車のドライバーを認識し、その個人に合わせてルームミラー、シートの位置などの機器18の設定を行う装置について説明を行う。
図1のブロック図に示すように、機器制御装置10は、顔認識処理部12、機器設定部14、対話処理部16とから構成され、ルームミラー、シートの位置などの各種の機器18を制御する。
(1)顔認識処理部12
顔認識処理部12について説明する。顔認識処理部12は、図2のブロック図に示すように、画像入力部121、特徴量抽出部122、部分空間算出部123、認識部124、登録情報保持部125、登録情報更新部126とから構成され、カメラなどを用いて顔画像を入力し、画像処理行った後、顔パターンの類似度を用いて人物の識別を行う。
(1−1)画像入力部121
画像入力部121は、顔画像をコンピュータに入力するための装置からなり、CCDカメラなどの画像入力装置から構成される。画像入力装置の数に関しては限定せず複数の台数から構成されても良い。入力された画像は画像入力ボードなどでA/D変換されてデジタル化され、画像メモリに蓄えられる。
(1−2)特徴量抽出部122
特徴量抽出部122では、顔領域検出部、顔部品検出部、特徴量変換部から構成され、入力された画像から顔領域を決定する顔画像解析を行ない、認識のための特徴量に変換する。
(1−2−1)顔領域検出部
顔領域検出部では、画像メモリに蓄えられた画像中から顔の領域、もしくは頭部領域を検出する。
本実施形態の検出方法は、予め用意された顔検出のためのテンプレートを、画像中を移動させながら相関値を求めることによって、最も高い相関値をもった場所を顔領域とする。
相関値を計算する代わりに、Eigenface法や部分空間法を利用して距離や類似度を求め、その類似度の高い場所を抽出する方法などの顔検出手段でもよく、方法は問わない。また、大きく横を向いた頭部から顔領域をとり出すために、数方向の横向き顔のテンプレートを用意しておき利用してもよい。顔領域を含んだ部分画像を顔部品検出部に送る。
(1−2−2)顔部品検出部
次に、顔部品検出部では、目、鼻、口といった顔部品を検出する。本実施形態では、検出された顔領域の部品の中から、目、鼻の位置を検出する。検出方法は、非特許文献1(福井 和広、山口 修:「形状抽出とパターン照合の組合せによる顔特徴点抽出」,電子情報通信学会論文誌(D),vol.J80−D−II,No.8,pp2170−2177(1997))などの方法を用いて良い。
(1−2−3)特徴量変換部
特徴量変換部では、検出された部品の位置と顔領域をもとに、顔領域を一定の大きさ、形状に切り出し、その濃淡情報を特徴量としている。いくつかの顔部品のうち、2つの組み合わせを考え、その2つの顔部品特徴点を結ぶ線分が、一定の割合で顔領域検出部分に収まっていればよい。部品が収まっていない場合や、部品位置との割合が条件を満たさない場合には、矩形を拡大、縮小し、同様にmピクセルxnピクセルの領域に変換する。図3上は、入力画像を特徴量抽出部122によって処理し得られた顔画像データであり、時系列的に得られたものである。
本実施形態では、各ピクセルの濃淡値を特徴ベクトルの要素情報として、m×n次元の情報を用いる。この特徴ベクトルについての内容についてはこの限りではなく、各種変換を施したようなものでも構わない。
(1−3)部分空間算出部123
部分空間算出部123は、特徴量抽出部122で得られた特徴ベクトルの相関行列(または共分散行列)を求め、そのK−L展開による正規直交ベクトル(固有ベクトル)を求めることにより、部分空間を計算する。部分空間は、固有値に対応する固有ベクトルを、固有値の大きな順にk個選び、その固有ベクトル集合を用いて表現する。
本実施形態では、相関行列Cを特徴ベクトルから求め、相関行列C=ΦΛΦ と対角化して、固有ベクトルの行列Φを求める。
図3は、入力画像を特徴量抽出部122によって処理し得られた顔画像データである。これらのデータを特徴ベクトルの相関行列を求め、K−L展開による正規直交ベクトルを求めることにより、部分空間を計算する。図3下は、その固有ベクトルを画像化して表示したものである。
この部分空間は、人物の同定を行うための識別辞書として利用する。後で述べるように、自動登録の際に入力系列から計算された部分空間を辞書とする。また、部分空間自身を識別を行うため入力データとしてもよい。部分空間算出部123での計算結果は、認識部124、また、登録情報保持部125に送られる。
(1−4)認識部124
次に、認識部124について説明する。
認識部124は、登録情報保持部125に蓄えられた登録データ(部分空間)と特徴量抽出部122で得られた特徴量、または部分空間算出部123で得られる部分空間とを比較することにより、カメラに写っている人物が誰であるかを識別する。
人物を識別するためには、どの人物のデータに最も類似しているかを求めればよく、最大類似度をとるデータに対応する人物を識別結果とすればよい。
認識の方法としては、特徴量算出部の情報を用いる場合は、部分空間法や複合類似度法などの方法を用いてよい。本実施形態での認識方法は、非特許文献2(前田賢一、渡辺貞一:“局所的構造を導入したパターン・マッチング法”,電子情報通信学会論文誌(D),vol.J68−D,No.3,pp345−352(1985))にある相互部分空間法や非特許文献3(福井和広,山口修,鈴木薫,前田賢一,制約相互部分空間法を用いた環境変動にロバストな顔画像認識−照明変動の影響を抑える制約相互部分空間の学習−,信学論D−IIVol.J82−D−II,No.4,613−620,1999)にある制約相互部分空間法を用いてもよい。これらの方法では、予め蓄えられた登録データも、入力されるデータも部分空間として表現され、2つの部分空間のなす「角度」から類似度が定義される。
入力データ列に対して同様に相関行列Cinを求め、ΦinΛinΦin と対角化し、固有ベクトルΦinを求める。
二つのΦin,Φで表される部分空間の部分空間間類似度(0.0〜1.0)を求め、それを認識するための類似度とする。
制約相互部分空間法の場合は、それぞれの部分空間を制約空間に射影することにより識別に有効な特徴を引き出した後、部分空間間類似度を求める。
認識部124は、図4のように動作する。
認識部124は、識別作業を行い識別対象となる登録データ(部分空間)をすべて登録情報保持部125により読み出す。そして、それぞれの登録情報との類似度を入力ベクトルまたは入力部分空間との類似度を計算する。次に計算された類似度の中から最大のものを選択し、それを認識結果として出力する。識別結果は、類似度の順に並べ変えをしておく。
図4のように、類似度を閾値判定することによって、認識結果が正しいかどうかを検証する。例えば類似度があまりに低い場合には、どの識別対象でもないと判断することもでき、登録作業を行う。ここでの登録作業とは、入力部分空間を登録情報保持部125におくり、個人辞書として保存することである。
ここで計算された類似度、判定結果などは、登録情報更新部126にも送られ、更新のための情報として利用される。
(1−5)登録情報保持部125
登録情報保持部125は、人物を同定するために利用する部分空間(または相関行列など)や、また登録の際の時刻、日時、場所などの状況情報などを蓄積できる。画像入力データや抽出した特徴量などでもよい。本実施形態では、部分空間を保持するだけでなく、部分空間を計算するための前段階の相関行列も保持する形態での説明を行う。
登録情報保持部125は、一人の人物、またはあるIDコードに対応して、一つまたは複数の登録データを保持する。部分空間は、その取得された時間などの付帯情報とともに記憶される。また、これらの登録情報は、登録情報更新部126の指示により、新規作成、変更、削除などが行われる。
(1−5)登録情報更新部126
登録情報更新部126は、登録情報保持部125の登録データを必要に応じて更新する。
登録情報更新部126の一実施形態として、図5のようなフローチャートで動作する。まず、認識部124で認識が行われた際の、認識の結果を受け取る。次に、どの登録データを用いて認識が行われたかの情報を登録情報保持部125から得る。これにより、いずれの登録データに対してどの程度の類似度があるかを得る。登録情報の更新は、相関行列のレベルでの更新について説明する。登録されている登録情報の相関行列をCとすると、入力データによって得られる相関行列をCとすると、C´=αC+βCによる相関行列同士の和を求めることで、相関行列を更新し、さらにC´をK−Lを展開することで、辞書を更新する。α,βについては、例えば収集時間に依存するパラメータなどで重みを変えるために使われる。
また、登録情報更新部126は、登録情報保持部125の中から重複している辞書を見つけ、同一人物の辞書を1つにまとめる処理も行う。登録されている辞書がn個の場合、n(n−1)個の組み合わせについて、辞書同士の類似度を相互部分空間法、制約相互部分空間法などで求める。その類似度が設定した閾値を超えた場合に、同一人物であると判定する。統合処理は、2つの登録情報の相関行列をC,Cとすると、C´=C+Cのような相関行列同士の和を求め、1つの新たな相関行列とすることで行われる。
(2)機器設定部14
次に、機器設定部14について説明する。機器設定部14は、顔による個人認識の結果をうけとり、機器を制御を行う。
図6のブロック図に示すように、機器設定部14は、個人認識の結果を判断する個人識別判断部141、機器の情報を送受信する機器制御部142、各種個人に対応した機器のパラメータ情報を記憶する機器環境情報記憶部143、機器の状態の変更に応じて人物の推定を行う機器情報個人推定部144からなる。
(2−1)個人識別判断部141
個人認識の結果を判断する個人識別判断部141は、顔画像処理部の結果を受けとり、その識別結果から、各種機器への操作、処理の判断を行う。また、未登録者の自動登録の判断も行う。
(2−2)機器制御部142
機器制御部142は、各アクチュエータに機器環境情報記憶部143の機器環境パラメータを送信したり、各センサの値を読み取り、機器の状態の変更を検知するための情報をやりとりする。
(2−3)機器環境情報記憶部143
各登録されている個人に対応する各機器環境パラメータを記憶する。各種機器環境パラメータが変わった場合には、データベースを更新する。
(2−4)機器情報個人推定部144
機器情報個人推定部144は、機器環境情報記憶部143の内容と現在の各種機器18のセンサの状態を比較し、各機器環境パラメータが近いと思われるパラメータセットに対応する人物のIDを出力する。
なお、各種機器18とは、自動車のシート、バックミラー、ハンドル、サイドミラーなどの運転にかかわる装置、また、オーディオ装置、クーラーなどの車内装置などである。これらは機器設定部14からの指示によって電子的に制御可能なように各種アクチュエータ等が装備されていると同時に、各種機器18の状態をセンシングできるように、エンコーダ、センサなどが設置されている。
(3)対話処理部16
対話処理部16は、システムの情報を提示する画面、スピーカーなどの出力装置とボタン、マイク、ジョイスティックはどの入力装置からなる。また、図7に示すように、顔画像処理部161があり、登録されている人物の顔画像を顔認識処理部12から受け取り、状況に応じて出力装置に提示する。
(4)第1の動作例
基本的な動作のフローチャートについて、図8を用いて説明する。
まず、顔認識処理部12では顔検出処理が行われる(s1000)、顔検出が可能かどうかを判断し(s1001)、顔検出が行われた場合、認識処理を行う。顔が検出できない場合は、見つかるまで処理を繰り返す。認識処理(s1002)は先に説明した図4のように処理が行われる。
認識結果を受け取った個人識別判断部141では、登録されていた人物であるかどうか判断を行い(s1003)、登録人物である場合、登録されていた環境設定を行う(s1010)。
全ての登録人物との類似度が設定した閾値を下まわった場合には、登録人物ではないと判断される。このとき、ドライバーに確認を行う(s1006)。登録人物ではないと判断される場合は2つあり、第1の状態はドライバーが本当に未登録者との場合と、第2の状態は、登録人物であるのに、類似度が閾値に達しないために未登録者と間違えられている場合である。
確認は対話処理部16を通して、未登録者か登録者かどうかを問い合わせる。対話処理部16では、最も類似度が高いとされる登録人物の登録時写真と未登録アイコンが表示される。未登録者の場合は、ドライバーは未登録であることを入力する。未登録者かどうかを判断が確定した場合(s1007)、未登録者の場合は登録処理を行う(s1008)。登録処理では、入力データを登録データに変換するとともに、撮影した顔画像を取得しておき、その顔画像を表示に利用する。そして、現在の機器環境パラメータである機器環境パラメータを機器環境情報記憶部143で記憶する(s1009)。登録者の場合は選択された人物の機器環境パラメータを機器環境情報記憶部143から呼び出し、機器制御部142に各種機器の設定を行う指示を出し、環境設定を行う(s1010)。
(5)第2の動作例
次に、第1の動作例での認識処理で、システムが人物を間違えてしまった場合には、次のような問題が起こる。
第1の問題は、異なる人物と判定されて場合、異なる環境設定がなされることとなり、例えば、シートの設定の場合であれば、全く違う位置にセットされてしまう。
第2の問題は、異なる人物と判定されたままであると、更新処理が行われると、別の人物のデータが混入してしまうことになる。これを避けるために認識処理の後にも確認処理を行う。
第2の動作例を図9のフローチャートで説明する。
第1の動作例と同様、顔認識処理部12では顔検出処理が行われる(s1100)、顔検出が可能かどうかを判断し(s1101)、顔検出が行われた場合、認識処理(s1102)を行う。登録されていた人物であるかどうか判断を行い(s1103)、登録人物である場合、ドライバーに確認を行う(s1104)。ドライバーに確認を行う場合、システムがどの人物と認識したのかをドライバーに示す必要がある。しかし、登録時には名前などを登録をしていないし、ID番号も示していない。よって、ドライバーが確認するには、登録処理を行ったとき(すなわち、最初にシステムを使ったとき)の顔画像を表示することのみで、ドライバーに伝えることができる。
登録時の顔画像を表示し、認識した人物があっているかどうかを問い合わせる手段は、対話処理部16が行う。例えば、カーナビゲーションシステムの画面に顔画像を表示し、その人物とドライバーが同じであるかどうかを確認し、Yes/Noで返答する。ドライバーが登録人物と確認した場合は、登録されていた環境設定を行う(s1110)。登録人物でないと判断された場合にも、ドライバーに確認を行う(s1106)。登録者でない場合は、未登録者かどうかを判断し(s1107)、未登録者の場合は登録処理を行う(s1108)。そして、現在の機器環境パラメータを機器環境情報記憶部143で記憶する(s1109)。本人と確認が行われた場合、もしくは、登録処理を行った直後は、その人が入れ替わることが少ないため、更新処理を行う。なお、途中で人が変わるなどが検出された場合は、更新処理を中止する。
(6)第3の動作例
第1の動作例、第2の動作例の場合では、確認作業があるものの、自動登録が行われる場合に、同じ人物が二重化されてしまう場合がある。よって、個人辞書の統合、廃棄などのユーザによるメンテナンスが必要となる。本実施形態では、この作業の自動化(統合化処理)について説明する。なお、ここでの二重化とは、ある人物の登録がすでになされており、その人物が未登録者と確認されたのち、登録処理が行われることを指す。
このとき、登録時に統合のチェックを行い、統合処理を強要すると、異なる環境設定を望むドライバー(例えば、状況に応じた2種類の設定を所有する)の場合もあるため、一度は登録が行われた状態にし、エンジンを切る直前、もしくは、エンジンをかけたときなど、登録状態が複数になった後、統合化処理を行う。
統合化処理は、図10のフローチャートを用いて説明する。
まず、全ての個人辞書同士の類似性を判定するために、全ての個人辞書の組み合わせについて、辞書同士の類似度を相互部分空間法、制約相互部分空間法などて求める(s1201)。その類似度の高いものがあるかどうかを予め定めた閾値により判定し(s1202)、類似した辞書がある場合には、さらに、機器環境パラメータの類似性を比較する(s1203)。機器環境パラメータも類似している場合は、同じ人である場合が高い。よって、統合処理を行う(s1204)。機器環境パラメータが似ていない場合、確認処理を行い、2つの辞書の人物が同じであるかどうかをドライバーに判断を委ねる(s1205)。もし、多重化(2つ以上の設定を持ちたい場合)を認める場合には、統合化処理を行わない。多重化をするのではなく、統合をしてもよいという判断が下された場合は、2つの辞書を統合する(s1204)。
なお、辞書の統合処理は、顔認識処理部12での登録処理更新部で行われ、登録処理保持部の辞書が統合される。また、それに伴い、対応する機器環境パラメータは、同一人物のものの1つを選択し、機器環境情報記憶部143に記憶し直す。
(7)第4の動作例
上記動作例に加えて、さらに機器18の状態をセンシングしてその機器環境パラメータを利用する方法について説明する。
第2の動作例のような確認作業を行う際に、選択処理をより簡便にするには、選択可能な人物の数を制限するのがよい。手動で機器18の設定が変わった場合、変更のあった機器環境パラメータをデータベースから検索して、人物の絞込みを行う。
具体例として、顔認識が失敗する場合、すなわち、設定閾値を超えない場合に、ある機器18を手動で操作することを考える。通常、認識が成功していれば所望の状態に機器18が設定されるのに対し、顔認識が失敗しているため、未登録者であることの確認や誤認識の確認を待って、システムはなにも動作を起こさない。
そこで、ユーザが対話処理部16の操作をすることなく、機器設定部14に接続されているある機器18を動かす。一例として、自動車の場合、顔認識がうまくいかないで、ルームミラーを動かす場合を考える。この場合、ルームミラーの方向を表すエンコーダのパラメータがRd0からRd1になったとする。そこで、機器情報個人推定部144では、機器環境情報記憶部143の環境設定データベースからルームミラーの機器環境パラメータがRd1に近い値をもつものを抽出する。そして、この抽出された人物であるかどうかのみを選択肢として提示すればよい。これは、認識結果が不確定であるときに、ある機器18の設定情報から、人物を推定することができる。確認をとるための情報として有用である。
このように、各機器18の操作による推定結果は、対話処理部16における応答の代わりとして利用できる。また、この各機器18の操作による推定結果を顔認識処理部12に送り、抽出されたものだけを認識すれば、さらに高速に処理することも可能となる。
(8)変形例
本発明は上記各実施形態に限らず、その主旨を逸脱しない限り種々に変更することができる。
例えば、上記実施形態では、自動車における顔認識と機器制御について述べたが、別の乗り物や電子機器などの操作についてでもよい。また、自動的な個人情報の登録機能を有するロボットなどに応用できる。
本発明の一実施形態の機器制御装置のブロック図である。 顔認識処理部12のブロック図である。 特徴例を示す図である。 顔認識のフローチャートである。 辞書更新のフローチャートである。 機器設定部14のブロック図である。 対話処理部16のブロック図である。 第1の動作例の機器設定のフローチャートである。 第2の動作例の機器設定のフローチャートである。 第3の動作例の自動辞書統合のフローチャートである。
符号の説明
10 機器制御装置
12 顔認識処理部
14 機器設定部
16 対話処理部
121 画像入力部
122 特徴量抽出部
123 部分空間算出部
124 認識部
125 登録情報保持部
126 登録情報更新部
141 個人識別判断部
142 機器制御部
143 機器環境情報記憶部
144 機器情報個人推定部

Claims (8)

  1. ユーザが操作する一または複数の機器の状態または動作に関する機器環境パラメータを制御する機器制御装置において、
    前記ユーザの顔画像を入力し、前記顔画像から顔認識用の個人データを取得する取得手段と、
    一または複数の人物の顔画像及び顔認識用の個人データに関する個人辞書データが予め登録されている登録情報保持手段と、
    前記取得した個人データと、前記登録された個人辞書データにおける個人データと比較して、前記取得した個人データに対応する人物を認識する顔認識処理手段と、
    前記登録されている人物毎に前記機器環境パラメータを記憶している機器環境情報記憶手段と、
    前記認識した人物に対応する登録時の顔画像を、前記登録されている個人辞書データに基づいて表示する表示手段と、
    前記表示した人物が前記ユーザに一致するか否かの確認情報を前記ユーザから受ける対話処理手段と、
    前記確認された人物に対応する前記機器環境パラメータを前記機器環境情報記憶手段から呼び出し、前記機器をその機器環境パラメータに設定する機器設定手段と、
    を具備する
    ことを特徴とする機器制御装置。
  2. 前記登録情報保持手段に登録されている複数の個人辞書データの互いの類似度を求め、
    前記類似度が閾値より高い個人辞書データ同士を統合する登録情報更新手段を有する
    ことを特徴とする請求項1記載の機器制御装置。
  3. 前記登録情報保持手段に登録されている複数の個人辞書データの互いの類似度を求め、前記類似度が閾値より高い個人辞書データに対応する前記機器環境パラメータを機器環境情報記憶手段から呼び出し、前記呼び出した機器環境パラメータ同士の類似度を比較し、前記機器環境パラメータの類似度が閾値より高いときは、前記個人辞書データ同士を統合する統合処理手段を有する
    ことを特徴とする請求項1記載の機器制御装置。
  4. 前記ユーザにより前記機器が操作されて、前記機器環境パラメータが変更された場合に、前記変更された機器環境パラメータに対応する一または複数の人物を前記機器環境情報記憶手段から呼び出す機器情報個人推定手段を有し、
    前記表示手段は、前記呼び出した人物に関する顔画像を前記登録されている個人辞書データに基づいて表示する
    ことを特徴とする請求項1記載の機器制御装置。
  5. 前記ユーザにより前記機器が操作されて、前記機器環境パラメータが変更された場合に、前記変更された機器環境パラメータに対応する一または複数の人物を前記機器環境情報記憶手段から呼び出す機器情報個人推定手段を有し、
    前記顔認識処理手段は、前記呼び出した人物の中から顔認識を行う
    ことを特徴とする請求項1記載の機器制御装置。
  6. 前記ユーザにより前記機器が操作されて、前記機器環境パラメータが変更された場合に、前記変更された機器環境パラメータに対応する一または複数の人物を前記機器環境情報記憶手段から呼び出す機器情報個人推定手段を有し、
    前記対話処理手段は、前記機器情報個人推定手段によって人物が呼び出された場合に前記ユーザから確認情報を受けたとする
    ことを特徴とする請求項1記載の機器制御装置。
  7. ユーザが操作する一または複数の機器の状態または動作に関する機器環境パラメータを制御する機器制御方法において、
    前記ユーザの顔画像を入力し、前記顔画像から顔認識用の個人データを取得する取得ステップと、
    一または複数の人物の顔画像及び顔認識用の個人データに関する個人辞書データが予め登録されている登録情報保持ステップと、
    前記取得した個人データと、前記登録された個人辞書データにおける個人データと比較して、前記取得した個人データに対応する人物を認識する顔認識処理ステップと、
    前記登録されている人物毎に前記機器環境パラメータを記憶している機器環境情報記憶ステップと、
    前記認識した人物に対応する登録時の顔画像を、前記登録されている個人辞書データに基づいて表示する表示ステップと、
    前記表示した人物が前記ユーザに一致するか否かの確認情報を前記ユーザから受ける対話処理ステップと、
    前記確認された人物に対応する前記機器環境パラメータを呼び出し、前記機器をその機器環境パラメータに設定する機器設定ステップと、
    を具備する
    ことを特徴とする機器制御方法。
  8. ユーザが操作する一または複数の機器の状態または動作に関する機器環境パラメータを制御する機器制御方法をコンピュータによって実現するプログラムにおいて、
    前記ユーザの顔画像を入力し、前記顔画像から顔認識用の個人データを取得する取得機能と、
    一または複数の人物の顔画像及び顔認識用の個人データに関する個人辞書データが予め登録されている登録情報保持機能と、
    前記取得した個人データと、前記登録された個人辞書データにおける個人データと比較して、前記取得した個人データに対応する人物を認識する顔認識処理機能と、
    前記登録されている人物毎に前記機器環境パラメータを記憶している機器環境情報記憶機能と、
    前記認識した人物に対応する登録時の顔画像を、前記登録されている個人辞書データに基づいて表示する表示機能と、
    前記表示した人物が前記ユーザに一致するか否かの確認情報を前記ユーザから受ける対話処理機能と、
    前記確認された人物に対応する前記機器環境パラメータを呼び出し、前記機器をその機器環境パラメータに設定する機器設定機能と、
    を実現する
    ことを特徴とする機器制御方法のプログラム。
JP2005055149A 2005-02-28 2005-02-28 機器制御装置及びその方法 Active JP4267584B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005055149A JP4267584B2 (ja) 2005-02-28 2005-02-28 機器制御装置及びその方法
US11/363,744 US7734072B2 (en) 2005-02-28 2006-02-28 Face recognition for automatic adjustment of personalized device parameters

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005055149A JP4267584B2 (ja) 2005-02-28 2005-02-28 機器制御装置及びその方法

Publications (2)

Publication Number Publication Date
JP2006243849A true JP2006243849A (ja) 2006-09-14
JP4267584B2 JP4267584B2 (ja) 2009-05-27

Family

ID=36931967

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005055149A Active JP4267584B2 (ja) 2005-02-28 2005-02-28 機器制御装置及びその方法

Country Status (2)

Country Link
US (1) US7734072B2 (ja)
JP (1) JP4267584B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010131435A1 (en) * 2009-05-11 2010-11-18 Canon Kabushiki Kaisha Pattern recognition apparatus and method therefor configured to recognize object and another lower-order object
JP2011516966A (ja) * 2008-04-02 2011-05-26 グーグル インコーポレイテッド デジタル画像集合内に自動顔認識を組み込む方法および装置
US8036432B2 (en) 2007-07-24 2011-10-11 Samsung Electronics Co., Ltd. System and method of saving digital content classified by person-based clustering
JP2012048400A (ja) * 2010-08-25 2012-03-08 Canon Inc オブジェクト認識装置およびその認識方法
JP2013117875A (ja) * 2011-12-02 2013-06-13 Sogo Keibi Hosho Co Ltd 顔認証データベース管理方法、顔認証データベース管理装置及び顔認証データベース管理プログラム
KR20190037669A (ko) * 2017-09-29 2019-04-08 주식회사 토룩 자율 행동 로봇을 이용하여 대화 서비스를 제공하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
JP2020198132A (ja) * 2020-09-08 2020-12-10 パイオニア株式会社 シーン推定装置及び方法、コンピュータプログラム並びに記録媒体

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007281680A (ja) * 2006-04-04 2007-10-25 Sony Corp 画像処理装置および画像表示方法
US7707616B2 (en) * 2006-08-09 2010-04-27 The Runway Club, Inc. Unique production forum
JP4305672B2 (ja) * 2006-11-21 2009-07-29 ソニー株式会社 個人識別装置、個人識別方法、識別用辞書データの更新方法および識別用辞書データの更新プログラム
JP4986720B2 (ja) * 2007-06-07 2012-07-25 株式会社ユニバーサルエンターテインメント 個人識別データ登録装置
JP4577410B2 (ja) * 2008-06-18 2010-11-10 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
KR20100086262A (ko) * 2009-01-22 2010-07-30 삼성전자주식회사 로봇 및 그 제어방법
US20120023134A1 (en) * 2009-03-27 2012-01-26 Nec Corporation Pattern matching device, pattern matching method, and pattern matching program
US8429398B2 (en) * 2009-05-08 2013-04-23 Nokia Corporation Method and apparatus of providing personalized virtual environment
US9135277B2 (en) 2009-08-07 2015-09-15 Google Inc. Architecture for responding to a visual query
US8670597B2 (en) 2009-08-07 2014-03-11 Google Inc. Facial recognition with social network aiding
US9087059B2 (en) 2009-08-07 2015-07-21 Google Inc. User interface for presenting search results for multiple regions of a visual query
US8811742B2 (en) 2009-12-02 2014-08-19 Google Inc. Identifying matching canonical documents consistent with visual query structural information
US20110128288A1 (en) * 2009-12-02 2011-06-02 David Petrou Region of Interest Selector for Visual Queries
US9405772B2 (en) * 2009-12-02 2016-08-02 Google Inc. Actionable search results for street view visual queries
US8977639B2 (en) * 2009-12-02 2015-03-10 Google Inc. Actionable search results for visual queries
US8805079B2 (en) 2009-12-02 2014-08-12 Google Inc. Identifying matching canonical documents in response to a visual query and in accordance with geographic information
US9183224B2 (en) * 2009-12-02 2015-11-10 Google Inc. Identifying matching canonical documents in response to a visual query
US9852156B2 (en) 2009-12-03 2017-12-26 Google Inc. Hybrid use of location sensor data and visual query to return local listings for visual query
TWI466034B (zh) * 2009-12-23 2014-12-21 Altek Corp Methods to Improve Face Recognition
US9536046B2 (en) * 2010-01-12 2017-01-03 Microsoft Technology Licensing, Llc Automated acquisition of facial images
TW201226245A (en) * 2010-12-31 2012-07-01 Altek Corp Vehicle apparatus control system and method thereof
KR20130004824A (ko) * 2011-07-04 2013-01-14 현대자동차주식회사 차량의 제어 시스템
JP5956860B2 (ja) * 2012-07-09 2016-07-27 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
US8935246B2 (en) 2012-08-08 2015-01-13 Google Inc. Identifying textual terms in response to a visual query
US10890965B2 (en) 2012-08-15 2021-01-12 Ebay Inc. Display orientation adjustment using facial landmark information
EP2894629B1 (en) 2012-11-30 2019-03-06 Maxell, Ltd. Picture display device, and setting modification method and setting modification program therefor
CN102982321B (zh) * 2012-12-05 2016-09-21 深圳Tcl新技术有限公司 人脸库采集方法及装置
US9443354B2 (en) 2013-04-29 2016-09-13 Microsoft Technology Licensing, Llc Mixed reality interactions
US9085269B2 (en) 2013-05-16 2015-07-21 International Business Machines Corporation Detect driver persona in a vehicle
TWI508057B (zh) * 2013-07-15 2015-11-11 Chunghwa Picture Tubes Ltd 語音辨識系統以及方法
WO2017210419A1 (en) * 2016-06-03 2017-12-07 Magic Leaf, Inc. Augmented reality identity verification
US10237740B2 (en) 2016-10-27 2019-03-19 International Business Machines Corporation Smart management of mobile applications based on visual recognition

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0676061A (ja) * 1992-08-25 1994-03-18 N T T Data Tsushin Kk パターン認識用辞書作成方法
JPH09319877A (ja) * 1996-05-30 1997-12-12 Toshiba Corp 本人確認方法、本人確認装置及び入退室管理システム
JP2000090264A (ja) * 1998-09-11 2000-03-31 Omron Corp 生体照合方法およびその装置
JP2002288670A (ja) * 2001-03-22 2002-10-04 Honda Motor Co Ltd 顔画像を使用した個人認証装置
JP2003067744A (ja) * 2001-08-24 2003-03-07 Toshiba Corp 個人認証装置および個人認証方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9125540D0 (en) * 1991-11-30 1992-01-29 Davies John H E Access control systems
US5699449A (en) * 1994-11-14 1997-12-16 The University Of Connecticut Method and apparatus for implementation of neural networks for face recognition
JPH08320677A (ja) 1995-05-24 1996-12-03 Sharp Corp 電子機器
JP3279913B2 (ja) 1996-03-18 2002-04-30 株式会社東芝 人物認証装置、特徴点抽出装置及び特徴点抽出方法
US6400835B1 (en) * 1996-05-15 2002-06-04 Jerome H. Lemelson Taillight mounted vehicle security system employing facial recognition using a reflected image
DE19714556A1 (de) * 1997-04-09 1998-10-15 Claas Ohg Vorrichtung und Verfahren zur fahrerspezifischen Einstellung von Fahrzeugeinrichtungen
US7134130B1 (en) * 1998-12-15 2006-11-07 Gateway Inc. Apparatus and method for user-based control of television content
JP3590285B2 (ja) 1999-01-27 2004-11-17 株式会社東芝 生体情報認識装置およびその方法
US6198996B1 (en) * 1999-01-28 2001-03-06 International Business Machines Corporation Method and apparatus for setting automotive performance tuned preferences set differently by a driver
US7039221B1 (en) * 1999-04-09 2006-05-02 Tumey David M Facial image verification utilizing smart-card with integrated video camera
JP2001014052A (ja) * 1999-06-25 2001-01-19 Toshiba Corp コンピュータシステムの個人認証方法、コンピュータシステム、及び記録媒体
DE19952854C1 (de) * 1999-11-03 2001-08-09 Bosch Gmbh Robert Assistenzvorrichtung in einem Fahrzeug
TWI282941B (en) * 2001-03-15 2007-06-21 Toshiba Corp Entrance management apparatus and entrance management method by using face features identification
US7020345B2 (en) * 2001-04-26 2006-03-28 Industrial Technology Research Institute Methods and system for illuminant-compensation
TWI299471B (en) * 2001-08-24 2008-08-01 Toshiba Kk Person recognition apparatus
US7818206B2 (en) * 2001-10-29 2010-10-19 Teradata Us, Inc. System and method for profiling different users having a common computer identifier
JP2004054580A (ja) 2002-07-19 2004-02-19 Sharp Corp 情報処理方法、情報処理装置、情報処理プログラムおよび記録媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0676061A (ja) * 1992-08-25 1994-03-18 N T T Data Tsushin Kk パターン認識用辞書作成方法
JPH09319877A (ja) * 1996-05-30 1997-12-12 Toshiba Corp 本人確認方法、本人確認装置及び入退室管理システム
JP2000090264A (ja) * 1998-09-11 2000-03-31 Omron Corp 生体照合方法およびその装置
JP2002288670A (ja) * 2001-03-22 2002-10-04 Honda Motor Co Ltd 顔画像を使用した個人認証装置
JP2003067744A (ja) * 2001-08-24 2003-03-07 Toshiba Corp 個人認証装置および個人認証方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8036432B2 (en) 2007-07-24 2011-10-11 Samsung Electronics Co., Ltd. System and method of saving digital content classified by person-based clustering
JP2011516966A (ja) * 2008-04-02 2011-05-26 グーグル インコーポレイテッド デジタル画像集合内に自動顔認識を組み込む方法および装置
US8897508B2 (en) 2008-04-02 2014-11-25 Google Inc. Method and apparatus to incorporate automatic face recognition in digital image collections
WO2010131435A1 (en) * 2009-05-11 2010-11-18 Canon Kabushiki Kaisha Pattern recognition apparatus and method therefor configured to recognize object and another lower-order object
JP2010262601A (ja) * 2009-05-11 2010-11-18 Canon Inc パターン認識システム及びパターン認識方法
US8938117B2 (en) 2009-05-11 2015-01-20 Canon Kabushiki Kaisha Pattern recognition apparatus and method therefor configured to recognize object and another lower-order object
JP2012048400A (ja) * 2010-08-25 2012-03-08 Canon Inc オブジェクト認識装置およびその認識方法
US8781235B2 (en) 2010-08-25 2014-07-15 Canon Kabushiki Kaisha Object recognition apparatus, recognition method thereof, and non-transitory computer-readable storage medium
JP2013117875A (ja) * 2011-12-02 2013-06-13 Sogo Keibi Hosho Co Ltd 顔認証データベース管理方法、顔認証データベース管理装置及び顔認証データベース管理プログラム
KR20190037669A (ko) * 2017-09-29 2019-04-08 주식회사 토룩 자율 행동 로봇을 이용하여 대화 서비스를 제공하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
KR101985793B1 (ko) * 2017-09-29 2019-06-04 주식회사 토룩 자율 행동 로봇을 이용하여 대화 서비스를 제공하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체
JP2020198132A (ja) * 2020-09-08 2020-12-10 パイオニア株式会社 シーン推定装置及び方法、コンピュータプログラム並びに記録媒体

Also Published As

Publication number Publication date
US20060193502A1 (en) 2006-08-31
JP4267584B2 (ja) 2009-05-27
US7734072B2 (en) 2010-06-08

Similar Documents

Publication Publication Date Title
JP4267584B2 (ja) 機器制御装置及びその方法
JP4675660B2 (ja) 複数同時バイオメトリクス認証装置
JP4294853B2 (ja) 操作指示装置
KR101165106B1 (ko) 얼굴 인식에 기반한 운전자 인증 장치 및 방법
US9330308B2 (en) Apparatus method and computer-readable medium that detects different regions of user's hand for recognizing gesture for carrying out operation of vehicle
EP1291807B1 (en) Person recognition apparatus and method
JP2002352228A (ja) 画像処理システム及びこれを用いた運転支援システム
EP2797794A1 (en) Systems, methods, and apparatus for identifying an occupant of a vehicle
JP4760049B2 (ja) 顔認証装置、その顔認証方法、その顔認証装置を組み込んだ電子機器およびその顔認証プログラムを記録した記録媒体
JP5662670B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6969254B2 (ja) 画像処理装置及びプログラム
WO2013101052A1 (en) Systems, methods, and apparatus for learning the identity of an occupant of a vehicle
JP2004213087A (ja) 個人認証装置および個人認証方法
EP3666596B1 (en) Method for identifying occupant-specific settings and vehicle for performing method for identifying occupant-specific settings
EP3422253A1 (en) Authentication device and authentication method
JP2006293909A (ja) 運転者の視線方向検出装置
JP2004234355A (ja) 人物認識装置、人物認識方法および通行制御装置
US20020089413A1 (en) Authentication of a person by hand recognition
KR101976498B1 (ko) 차량용 제스처 인식 시스템 및 그 방법
CN113173142B (zh) 生物体认证系统、控制装置以及计算机可读取的记录介质
JPH10261083A (ja) 個人同定装置及び個人同定方法
CN111807173A (zh) 基于深度学习的电梯控制方法、电子设备及存储介质
JP2005215963A (ja) 個人認証装置及び個人認証方法
JP2005202732A (ja) 生体照合装置、生体照合方法および通行制御装置
JP4645301B2 (ja) 顔形状変化情報抽出装置、顔画像登録装置および顔画像認証装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090210

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090218

R151 Written notification of patent or utility model registration

Ref document number: 4267584

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120227

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120227

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130227

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140227

Year of fee payment: 5