JP4855180B2 - 画像処理システム - Google Patents

画像処理システム Download PDF

Info

Publication number
JP4855180B2
JP4855180B2 JP2006229057A JP2006229057A JP4855180B2 JP 4855180 B2 JP4855180 B2 JP 4855180B2 JP 2006229057 A JP2006229057 A JP 2006229057A JP 2006229057 A JP2006229057 A JP 2006229057A JP 4855180 B2 JP4855180 B2 JP 4855180B2
Authority
JP
Japan
Prior art keywords
feature
feature amount
authentication
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006229057A
Other languages
English (en)
Other versions
JP2008052549A (ja
Inventor
誠一 平井
直樹 橋口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Kokusai Electric Inc
Original Assignee
Hitachi Kokusai Electric Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Kokusai Electric Inc filed Critical Hitachi Kokusai Electric Inc
Priority to JP2006229057A priority Critical patent/JP4855180B2/ja
Publication of JP2008052549A publication Critical patent/JP2008052549A/ja
Application granted granted Critical
Publication of JP4855180B2 publication Critical patent/JP4855180B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Collating Specific Patterns (AREA)

Description

本発明は、画像処理システムに関し、特に、画像に基づいて対象を認証する処理を効率化した画像処理システムに関する。
例えば、従来から、映像(画像)をデジタル化し、映像の各画素が有する輝度や色情報や、それらの時系列変化、空間的分布等から、映像に映っている物体の存在や種類、動き等を識別する画像認識と呼ばれる技術が検討等されている。
昨今のCPU(Central Processing Unit)の高性能化に伴い、この技術で識別可能な事物は拡大し、近年では、人間や犬、猫、車といった物体識別や、人の顔識別、更には挙動識別まで可能になってきている。
こうした画像認識技術を適用したアプリケーションとして、顔認証入退管理システムがある。
これは、高度な資産を有するエリア、例えば、企業内の顧客情報を管理している部屋への人の入出の際に、カメラにより対象者の顔を撮影し、撮影画像から画像認識技術により顔の特徴量を抽出し、事前抽出しておいた顔の特徴量データベースとの照合を行い、その一致又は不一致によりドアの開錠、施錠を行うことで、セキュリティ確保を図るシステムである。
図5には、顔認証入退管理システムの構成例を示してある。
本例の顔認証入退管理システムは、トリガ装置111と、カメラ112と、顔認証装置113と、電気錠114と、各伝送媒体121、122、123を備えている。
また、図5には、入退が管理される扉115や、認証対象となる人131を示してある。
カメラ112は、撮像部と映像データ出力部を有しており、認証対象131の顔周辺を撮像し、撮像映像を伝送媒体122を介して顔認証装置113へ伝送する。
トリガ装置111は、トリガ信号出力部を有しており、顔認証装置113に対して伝送媒体121を介して顔認証開始のトリガを与える。
顔認証装置113は、映像データ入力部、特徴量抽出処理部、特徴量照合部、特徴量データベース部、電気錠制御信号出力部、トリガ信号入力部を有する。
顔認証装置113は、トリガ信号の入力をきっかけに、入力映像データに対して、特徴量抽出処理部により特徴量抽出処理、本例では、顔の特徴量抽出処理を行う。更に、抽出した特徴量を特徴量照合部により特徴量データベース部から取得した情報と照合し、一致する顔の存在の有無を判定し、存在した場合にはその人の入退許可情報を取り出し、入退の可否を決定する。入退可と判定した場合には、電気錠制御信号出力部から信号を出力し、伝送媒体123を介して、電気錠114へ伝達する。
電気錠114は、電気錠制御信号入力部を有しており、入力信号に応じて、錠の開閉を行う。
特開2006−101028号公報
しかしながら、上記のような顔認証入退管理システムでは、抽出した特徴量と特徴量データベースとの照合は、データベースに登録された1人目の情報から一致する顔が見付かるまで、顔認証装置113内で順に実施されるため、認証処理に膨大な時間がかかるといった問題があった。
特に、特徴量データベースに登録された母数が大きくなればなるほど、顔認証装置113における照合処理の負荷が大きくなり、照合結果の出力までに多くの時間を要するようになる。また、一致する顔が見付からない場合には、全ての登録データとの照合が必要になり、その負荷は最大となる。
また、上記のような顔認証入退管理システムでは、特徴量データベースの登録人数が多ければ多いほど、似た特徴量を持つ人物がデータベース上に存在する確率が増大し、そして、似た特徴量を持つ人物が増えれば増えるほど、誤認証は増加し、認証における正解率は低下するといった問題があった。
本発明は、このような従来の事情に鑑み為されたもので、画像に基づいて対象を認証する処理を効率化することができる画像処理システムを提供することを目的とする。
上記目的を達成するため、本発明に係る画像処理システムでは、次のような構成により、所定の領域に存在する認証対象の画像に基づいて認証を行う。
すなわち、無線端末装置が、前記認証対象を識別する識別情報を無線により送信する機能を有しており、前記認証対象により所持される。
無線通信手段が、前記所定の領域に存在する認証対象により所持される無線端末装置から無線により送信された識別情報を受信する。
画像取得手段が、前記所定の領域に存在する認証対象の画像を取得する。
特徴量取得手段が、前記画像取得手段により取得された画像に基づいて、前記認証対象に関する特徴量を取得する。
記憶手段が、認証対象となり得る複数の対象について、それぞれの識別情報に対応付けて、特徴量を記憶するとともに、1つ以上の対象について特徴量の判定の仕方を規定する特徴量判定情報を記憶する。
認証手段が、前記無線通信手段により受信された識別情報に対応付けて前記記憶手段に標準的な判定の仕方とは異なる判定の仕方を規定する特徴量判定情報が記憶されている場合には、当該特徴量判定情報により規定される判定の仕方を用いて、当該識別情報に対応付けて前記記憶手段に記憶された特徴量と前記特徴量取得手段により取得された特徴量とを照合して、認証対象に対する認証を行う。他の場合には、前記認証手段が、前記標準的な判定の仕方を用いて、当該識別情報に対応付けて前記記憶手段に記憶された特徴量と前記特徴量取得手段により取得された特徴量とを照合して、認証対象に対する認証を行う。
従って、所定の領域に存在する認証対象の画像に基づいて当該認証対象に対する認証を行うに際して、当該所定の領域に存在する認証対象の識別情報を取得し、当該識別情報に対応して記憶されている特徴量を参照して画像から取得された特徴量と照合するようにしたため、例えば、当該所定の領域に存在しない認証対象の識別情報に対応した特徴量については照合時に参照しないことにより、照合処理に要する処理時間や処理負荷を低減させることができ、照合時の誤認識を低減させることができる。
また、それぞれの認証対象毎に、特徴量の判定の仕方を規定することを可能としたため、例えば、認証対象毎の特徴に適した判定の仕方を用いることができ、これにより、照合処理に要する処理時間や処理負荷を低減させることができ、照合の精度を向上させることができる。
このように、画像に基づいて対象を認証する処理を効率化することができる。
ここで、所定の領域としては、種々な領域が用いられてもよく、例えば、部屋の入り口やゲートの前の領域などを用いることができる。
また、認証対象としては、種々なものが用いられてもよく、例えば、人であってもよく、或いは、物であってもよい。人の場合には無線端末装置を身に付けるなどして携帯し、物の場合には無線端末装置が付される。
また、認証対象を識別する識別情報としては、種々な情報が用いられてもよく、例えば、個人番号などを用いることができる。
また、所定の領域に存在する認証対象の画像を取得する手段としては、例えば、当該所定の領域を撮像するカメラなどを用いて構成することができる。
また、認証対象に関する特徴量としては、種々なものが用いられてもよく、また、種々な数が用いられてもよい。例えば、認証対象が人である場合にはその顔の特徴を表す値(量)などを用いることができ、認証対象が物である場合にはその物の表面上の形や絵柄などの特徴を表す値(量)を用いることができる。
また、画像に基づいて認証対象に関する特徴量を取得する態様としては、例えば、画像を処理してその画像に映っている対象について照合に使用する特徴量を演算により算出するような態様を用いることができる。
また、照合時に参照するために特徴量を予め記憶しておく複数の対象としては、認証対象となり得る種々なものが用いられてもよく、また、種々な数が用いられてもよい。例えば、所定の部屋への入室を管理する場合には、その部屋への入室が許可された複数の人について、特徴量を予め測定等して記憶させておくことができる。
また、特徴量について標準的な判定の仕方としては、種々なものが用いられてもよく、例えば、多くの認証対象に適するような標準的なものを用いることができる。
また、特徴量について標準的な判定の仕方とは異なる判定の仕方を規定する特徴量判定情報が記憶される対象(識別情報)やその数としては、種々な態様が用いられてもよい。
また、特徴量について標準的な判定の仕方とは異なる判定の仕方としては、種々なものが用いられてもよく、例えば、複数の特徴量を1つずつ判定していく順序(優先順位)を特別なものとした判定の仕方や、所定の特徴量を算出するための演算式を特別なものとした判定の仕方や、複数の特徴量のそれぞれの一致度に対する重み付けを特別なものとした判定の仕方や、複数の特徴量のうちで照合に使用する1つ以上の特徴量の種類や数を指定した判定の仕方や、これらの2つ以上の組み合わせなどを用いることができる。
また、記憶手段としては、例えば、メモリを用いて構成することができる。
また、特徴量を照合して認証を行う態様としては、種々な態様が用いられてもよく、例えば、取得された特徴量と参照される特徴量との一致度(例えば、値の近さ)が予め設定された条件を満たす場合には一致するとみなして正当に認証されたと判定する態様を用いることができ、また、複数の特徴量について照合する場合には、全ての特徴量が一致するときに正当に認証されたと判定する態様や、或いは、予め設定された所定の1つ以上の特徴量が一致するときに正当に認証されたと判定する態様などを用いることができる。
また、例えば、参照される特徴量が1つの値である場合には、取得された特徴量がその1つの値と一致するときに両者が一致すると判定する態様や、或いは、取得された特徴量がその1つの値と所定の許容誤差の範囲内で一致するときに両者が一致すると判定する態様を用いることができ、また、参照される特徴量が幅を持った値の範囲である場合には、取得された特徴量がその範囲内であるときに両者が一致すると判定する態様を用いることができる。
また、所定の領域に複数の認証対象が存在して複数の識別情報が取得された場合には、例えば、これら複数の識別情報について1つずつ順番に照合を行っていく態様を用いることができる。なお、複数の識別情報について1つずつ順番に照合を行っていく途中で最終的な認証結果が得られた場合には、以降の照合については行わなくともよい。
また、所定の領域の画像に複数の認証対象が映っている場合には、例えば、これら複数の認証対象のうちの1つのみについて照合を行う態様を用いることや、或いは、これら複数の認証対象について1つずつ順番に照合を行っていく態様を用いることができる。
また、無線端末装置から無線送信される識別情報を受信する無線通信手段の無線通信可能範囲と、認証対象の画像を取得する画像取得手段の画像取得範囲(例えば、カメラの撮像範囲)としては、必ずしも一致しなくともよく、実用上で有効であれば、それぞれ種々な範囲が用いられてもよく、例えば、両者により共通してカバーされる範囲が所定の領域となる。
なお、本発明は、方法や、プログラムや、記録媒体などとして提供することも可能である。
本発明に係る方法では、装置やシステムにおいて各手段が各種の処理を実行する。
本発明に係るプログラムでは、装置やシステムを構成するコンピュータに実行させるものであって、各種の機能を当該コンピュータにより実現する。
本発明に係る記録媒体では、装置やシステムを構成するコンピュータに実行させるプログラムを当該コンピュータの入力手段により読み取り可能に記録したものであって、当該プログラムは各種の処理を当該コンピュータに実行させる。
以上説明したように、本発明によると、所定の領域に存在する認証対象の画像に基づいて当該認証対象に対する認証を行うに際して、それぞれの認証対象毎に、特徴量の判定の仕方を規定することを可能としたため、例えば、認証対象毎の特徴に適した判定の仕方を用いることができ、これにより、照合処理に要する処理時間や処理負荷を低減させることができ、照合の精度を向上させることができる。このように、画像に基づいて対象を認証する処理を効率化することができる。
本発明に係る実施例を図面を参照して説明する。
図1には、本発明の一実施例に係る顔認証入退管理システムの構成例を示してある。
本例の顔認証入退管理システムは、トリガ装置1と、無線基地局装置2と、カメラ3と、顔認証装置4と、電気錠5と、無線タグ6と、トリガ装置1と顔認証装置4を接続する伝送媒体11と、無線基地局装置2と顔認証装置4を接続する伝送媒体12と、カメラ3と顔認証装置4を接続する伝送媒体13と、電気錠5と顔認証装置4を接続する伝送媒体14を備えている。
また、図1には、入退が管理される扉7や、認証対象となる人21や、無線基地局装置2により無線通信が可能な無線エリア22を示してある。
また、トリガ装置1や無線基地局装置2やカメラ3や電気錠5は扉7に対して設けられており、無線タグ6は人21に取り付けられており、顔認証装置4は例えば扉7の近辺或いは離隔した所などの任意の場所に設けられている。
本例では、認証対象は、扉7の向こう側の領域へ移動することを望む人21であり、無線タグ6を所持している。
また、扉7は、例えば、ドアノブがついており、手動で開閉する扉である。他の構成例として、引き戸の扉や自動ドア、鉄道の改札口のようなゲート、踏み切りのようなバーによって出入りが制御されるゲートなどが用いられてもよい。
また、無線エリア22は、無線基地局装置2からの無線電波が到達する(無線基地局装置2との無線通信が可能な)範囲である。
図2には、本例の顔認証入退管理システムに備えられた各構成機器1〜6とこれらの接続関係の詳細な構成例を示してある。
カメラ3は、撮像部51と映像データ出力部52を有する装置であり、例えば、アナログタイプのカメラである。カメラ3は、図1に示されるように、認証対象となる人21の顔を撮影することができる位置に設置されている。
撮像部51は、入力された光信号(映像)を電気信号へ変換する。
映像データ出力部52は、変換された電気信号(映像データ)を外部出力し、本例では、伝送媒体13を介して顔認証装置4へ送信する。
なお、他の構成例として、ネットワークカメラなどが用いられてもよい。ネットワークカメラが用いられる場合には、カメラ3は、例えば、本例の構成に加えて、撮像映像をデジタル化し、(必要な場合には)圧縮処理を施す画像コーデックを備える。
無線タグ6は、メモリ部81とアンテナ部82を有する装置であり、例えば、パッシブ型のRF−IDタグである。他の構成例として、アクティブ型のRF−IDタグや、ZigBeeセンサノードなどが用いられてもよい。
メモリ部81は、個人を識別する情報、例えば社員番号等が、予め、不揮発的に記録されている。本例では、個人を識別する情報として、個人番号を用いる。他の構成例として、個人を識別する情報としては、アルファベット等、番号以外の情報が使用されてもよい。
アンテナ部82は、無線基地局装置2との間で無線によりデータを送受信する。本例では、特に、メモリ部81に記憶された個人識別情報(本例では、個人番号)のデータを送信する。
無線基地局装置2は、アンテナ部41とタグデータ出力部42と制御部43を有する装置である。無線基地局装置2は、その無線エリア22が扉7の前の領域を含むように設置されている。なお、図1に示される伝送媒体12は、図2に示される伝送媒体12a、12bから構成されている。
アンテナ部41は、無線タグ6との間で無線によりデータを送受信する。
タグデータ出力部42は、無線タグ6から受信したデータを外部出力し、本例では、伝送媒体12bを介して顔認証装置4へ送信する。
制御部43は、外部から制御命令を受信して実行し、本例では、伝送媒体12aを介して顔認証装置4から制御命令を入力する。
顔認証装置4は、映像データ入力部61と、特徴量抽出処理部62と、特徴量データベース部63と、特徴量照合部64と、フィルタリング部65と、タグデータ管理部66と、タグデータ入力部67と、電気錠制御信号出力部68と、トリガ信号入力部69を有する装置であり、例えば、コンピュータから構成されている。
映像データ入力部61は、外部からの入力映像を受信し、装置内部で扱える信号へ変換する。本例では、カメラ3から伝送媒体13を介して映像(画像)を受信する。
特徴量抽出処理部62は、画像認識アルゴリズムを用いて、映像から特徴量を抽出する処理、本例では、顔の特徴量を抽出する処理を行う。
特徴量データベース部63は、認証対象とする全人物の特徴量を保持し、これらの人物に対する入退の許可情報を保持し、これらの人物に対する特徴量の判定の仕方を示す特徴量判定情報を保持する。ここで、各人物の特徴量は、例えば、予め算出される。本例では、特徴量データベース部63に保持された情報により特徴量データベースが構成されている。
なお、人物の顔の特徴量としては、種々なものが用いられてもよく、例えば、目、目と目の間の幅、鼻、目と鼻の配置などに関する特徴量を用いることができ、また、距離、形状、輝度、色相などに関する特徴量を用いることができる。
図3には、特徴量データベースの一例を示してある。
特徴量データベース91は、個人番号列101と、第1の特徴量Aに関する特徴量列102と、第2の特徴量Bに関する特徴量列103と、第3の特徴量Cに関する特徴量列104と、入退許可情報列105と、特徴量判定情報列106から構成されている。
個人番号列101には、各人の個人番号が格納される。
各特徴量列102、103、104には、各人に関する特徴量(例えば、特徴を表す数値)が格納される。本例では、それぞれの人に関して3種類の特徴量を格納する構成としたが、1種類以上の任意の数の特徴量が格納されてもよい。
入退許可情報列105には、扉7を入り口とする部屋への入退許可を示す情報として、「許可」又は「不許可」を示す情報が格納される。なお、本例では、入退管理を行うエリアが1箇所であるため、入退許可情報列105が1つのみ設けられているが、他の構成例として、複数箇所のエリアの入退管理を行う場合には、各エリアについて入退許可情報列105を設けて、総じて複数列が設けられてもよい。また、本例では、特徴量として、範囲を有した値を用いたが、他の構成例として、範囲がない1つの値が用いられてもよい。
特徴量判定情報列106には、各人に対する特徴量の判定の仕方を示す特徴量判定情報が格納される。
本例では、まず、特徴量の判定の仕方の基準として、標準的な判定方法が設定されている。標準的な判定方法では、例えば、特徴量A、特徴量B、特徴量Cの順といったように予め判定する順序が設定されており、また、それぞれの特徴量を算出するための標準的な計算式(演算式)が設定されており、また、各特徴量についての重み付けは無い。
特徴量判定情報では、標準的な判定方法とは異なる判定方法を規定し、例えば、標準的な判定方法とは異なる順序で複数の特徴量を判定する優先順位を用いることを規定することや、或いは、所定の特徴量について標準的な計算式とは異なる計算式を使用することを規定することや、或いは、複数の特徴量について標準的な判定方法とは異なる重み付けを与えることを規定することや、或いは、これらの2つ以上の組み合わせを規定することなどができる。
具体的には、各人毎に、それぞれの人を認証するために適した判定方法を設定することができ、例えば、或る人については目の幅に大きな特徴があるため目の幅の特徴量の判定を優先順位の1番にすることや、或る人については目と鼻の配置を算出するための計算式として他の人とは異なる式を使用すると適合性が高いためその式を使用することや、或る人についての各種の特徴量の重要度等に基づいてこれらの特徴量に重み付けをすることなどが可能である。
図3の例では、所定の優先順位を用いることを指定する「優先順位A」或いは「優先順位B」という情報や、所定の計算式を用いることを指定する「計算式A」或いは「計算式B」という情報が設定されている。なお、これら以外にも、種々な特徴量判定情報が用いられてもよい。
また、本例では、特徴量判定情報列106に特に情報が設定されていない場合には、標準的な判定方法を用いることが設定されているとする。
特徴量照合部64は、映像から抽出された人21の顔に関する特徴量と参照した特徴量データベース91の特徴量との照合を行い、撮影された人物の特定を行い、認証対象の入退可否を決定する。
フィルタリング部65は、特徴量照合部64において照合対象とする参照特徴量の候補を、無線タグ6からのデータに基づいて取得される個人番号一覧に従って絞り込む。本例では、この絞り込んで得られた参照特徴量の一覧から、滞在者データベースが構成される。
タグデータ入力部67は、外部からのタグデータ入力を受信し、装置内部で扱える信号へ変換する。本例では、無線基地局装置2から伝送媒体12bを介してタグデータを受信する。タグデータには、特に、無線タグ6に格納された個人識別情報(本例では、個人番号)が含まれる。
タグデータ管理部66は、タグデータ入力部67を介して入力されたタグデータを例えばメモリに記憶して管理し、無線基地局装置2に対して伝送媒体12aを介して制御命令を送る。本例では、現在において、無線基地局装置2の無線到達範囲(無線エリア22)内に存在する無線タグ6から取得された個人番号の一覧を保持する。
電気錠制御信号出力部68は、錠の開閉信号を外部出力し、本例では、伝送媒体14を介して電気錠5に対して開閉信号を送信する。
トリガ信号入力部69は、外部入力されたトリガ信号を受信し、本例では、トリガ装置1から伝送媒体11を介してトリガ信号を受信する。
電気錠5は、電気錠制御信号入力部71と錠開閉部72を有する装置である。
電気錠制御信号入力部71は、外部入力された錠の開閉信号を受信し、本例では、顔認証装置4から伝送媒体14を介して開閉信号を受信する。
錠開閉部72は、入力信号に応じて錠の開閉を行い、本例では、受信された開閉信号に応じて錠の開閉を行う。なお、本例では、手動で開閉するドアとの組み合わせで、錠の開閉を制御する構成を示したが、他の構成例として、自動ドアとの組み合わせで、自動ドアの開閉を制御する装置を設ける構成を用いることもできる。
トリガ装置1は、スイッチ部31とトリガ信号出力部32を有する装置であり、例えば、スイッチ付きのマットから構成される。他の構成例として、赤外線センサ装置や、ボタンチャイムや、ICカードのリーダ装置などを用いてトリガ装置1が構成されてもよい。
スイッチ部31は、認証対象が認証場所に来た場合にスイッチがオフからオンへ切り替わるものであり、本例では、人21が扉7の前に置かれたトリガ装置1の上に載ったことに応じてスイッチがオンへ切り替わる。
トリガ信号出力部32は、スイッチ部31のスイッチがオンになったことに応じて、トリガ信号を外部出力し、本例では、伝送媒体11を介してトリガ信号入力部69へ送信する。
伝送媒体13は、カメラ3の映像データ出力部52と顔認証装置4の映像データ入力部61を接続するものであり、例えば、アナログ映像を伝送する同軸ケーブルを用いることができる。他の構成例として、デジタル映像を伝送するネットワークケーブルやシリアルケーブルなどが用いられてもよい。
伝送媒体12aは、無線基地局装置2の制御部43と顔認証装置4のタグデータ管理部66を接続するものであり、例えば、ネットワークケーブルを用いることができる。他の構成例として、接点信号を伝送する接点ケーブルや、シリアルケーブルなどが用いられてもよい。
伝送媒体12bは、無線基地局装置2のタグデータ出力部42と顔認証装置4のタグデータ入力部67を接続するものであり、例えば、ネットワークケーブルやシリアルケーブルを用いることができる。
なお、伝送媒体12aと伝送媒体12bは、本例では、別個の媒体として構成したが、他の構成例として、1本のネットワークケーブルで兼用することも可能である。
伝送媒体14は、電気錠5の電気錠制御信号入力部71と顔認証装置4の電気錠制御信号出力部68を接続するものであり、例えば、ネットワークケーブルを用いることができる。他の構成例として、接点ケーブルやシリアルケーブルが用いられてもよい。
伝送媒体11は、トリガ装置1のトリガ信号出力部32と顔認証装置4のトリガ信号入力部69を接続するものであり、例えば、ネットワークケーブルを用いることができる。他の構成例として、接点信号を伝送する接点ケーブルが用いられてもよい。
なお、本例では、各伝送媒体11、12a、12b、13、14には、増幅器やルータやスイッチやハブ等のネットワーク機器や映像分配器などが含まれていてもよく、また、無線LAN(Local Area Network)等が用いられてもよい。
ここで、本例では、各機能を明確化して説明をわかり易くするために、無線基地局装置2とカメラ3と顔認証装置4と電気錠5を、それぞれ物理的に離れた別個の装置として構成したが、他の構成例として、それぞれ任意の組み合わせで一体化させた装置が用いられてもよい。具体例として、カメラ3と顔認証装置4が一体化された装置や、カメラ3と無線基地局装置2が一体化された装置や、これら全ての装置が一体化された装置などが用いられてもよい。
また、本例では、説明を簡略化するために、カメラ3、無線タグ6、無線基地局装置2、顔認証装置4、電気錠5、トリガ装置1は、各1台の構成で示したが、それぞれ適宜複数台の構成とすることも可能である。
また、本例では、入退管理システムによる管理対象の一例として扉7を示したが、例えば、入場管理はするが、入場阻止まではしなくてよいようなシステム要件である場合には、扉7や電気錠5は設けられなくともよい。
更には、入場阻止まではしなくてよいが、入場注意程度まではしたいというシステム要件である場合には、例えば、電気錠5を、不許可時の入場警告や注意喚起を目的にした音声や光による警報装置に置き換えることができる。また、この場合には、無線タグ6の側に音声や光による警報部を設けて、無線基地局装置2からの不許可時の警報信号に応じて無線タグ6により警報を発する構成とすることも可能である。
次に、本例の顔認証入退管理システムにおいて行われる入退時の処理の流れの一例を示す。
まず、認証対象である人21が、無線タグ6を所持した状態で、扉7の前に立つ。扉7の前には、トリガ装置1として例えばスイッチ付きのマットが設置されており、人21はトリガ装置1にアクション、例えばマットを踏む行為、を与える。
トリガ装置1は、人21から与えられたアクションをスイッチ部31により検出し、トリガ信号をトリガ信号出力部32から出力する。出力されたトリガ信号は、伝送媒体11を介して、顔認証装置4のトリガ信号入力部69に入力される。
顔認証装置4は、トリガ信号入力部69に入力されたトリガ信号を検出すると、タグデータ管理部66からタグ確認命令信号を出力する。また、映像データ入力部61により映像受信処理を開始する。
ここで、カメラ3が撮像部51により光信号を電気信号へ変換して映像データ出力部52から出力する処理としては、常時に実施される構成が用いられてもよく、或いは、顔認証装置4からの要求に応じて逐次出力する構成が用いられてもよい。例えば、カメラ3がアナログカメラである場合には常時出力の構成とされることが多いと考えられ、また、カメラ3がネットワークカメラである場合には逐次出力の構成とされることが多いと考えられる。
カメラ3の出力が逐次出力である場合には、顔認証装置4は、カメラ3に対して映像データ入力部61から映像要求を送信する。
カメラ3の映像データ出力部52から出力された映像データは、伝送媒体13を介して、顔認証装置4の映像データ入力部61に入力される。
一方、顔認証装置4のタグデータ管理部66から出力されたタグ確認命令信号は、伝送媒体12aを介して、無線基地局装置2の制御部43に入力される。
無線基地局装置2は、制御部43に入力されたタグ確認命令信号を検出すると、アンテナ部41から無線エリア22に向けて個人番号要求を無線送信する。
無線エリア22に存在する無線タグ6は、アンテナ部82により個人番号要求を受信すると、メモリ部81に格納されている個人番号を読み出し、この個人番号をアンテナ部82から無線送信する。ここで、この処理は、認証対象となる人21が所持している無線タグ6だけではなく、無線エリア22に存在する全ての無線タグにより実施される。
なお、本例では、個人番号の発信を無線タグ6側が無線基地局装置2からの求めに応じる形で受動的に実施する構成を示したが、他の構成例として、無線タグ6側が定期的に自発送信を実施する構成が用いられてもよい。
無線基地局装置2は、無線タグ6から送信された個人番号をアンテナ部41により受信し、この個人番号を含むタグデータをタグデータ出力部42から出力する。出力された個人番号は、伝送媒体12bを介して、顔認証装置4のタグデータ入力部67に入力される。
顔認証装置4は、タグデータ入力部67に入力された個人番号を受信し、タグデータ管理部66へ渡す。更に、タグデータ管理部66により、タグ確認命令信号の出力以降に入力された個人番号の一覧、すなわち、無線エリア22内に現在存在する無線タグ6に格納された個人番号の一覧を作成し、フィルタリング部65へ渡す。
顔認証装置4は、フィルタリング部65により、特徴量データベース部63から、個人番号一覧に含まれる個人番号についての特徴量や入退許可情報や特徴量判定情報だけを取り出して、これにより滞在者データベースを作成し、特徴量抽出処理部62や特徴量照合部64へ渡す。
図4には、特徴量データベース91から作成される滞在者データベース92の一例を示してある。本例では、特徴量データベース91に含まれる複数の個人番号に関する情報の中で、無線エリア22内に現在存在する無線タグ6(本例では、3個の無線タグ)に対応した個人番号である1、3、4に関する情報のみがフィルタリング部65により抽出されて、抽出された情報により滞在者データベース92が構成される。つまり、滞在者データベース92は、特徴量データベース91に対して、無線エリア22内に現在存在するユーザのみをフィルタリングして得られる特徴量データベース91の部分集合データベースに相当する。
また、顔認証装置4は、映像データ入力部61に入力された映像データを受信し、装置内部で扱える信号へ変換した上で、特徴量抽出処理部62へ渡す。この変換としては、例えば、入力された映像データがアナログデータである場合にはデジタル変換が用いられ、また、入力された映像データがデジタル圧縮データである場合には伸張変換が用いられる。
特徴量抽出処理部62は、渡された映像データに対して、画像認識アルゴリズムを用いて映像から顔の特徴量を抽出する処理を実施し、得られた特徴量をメモリに保持する。
この場合に、本例では、特徴量抽出処理部62は、滞在者データベース92に含まれる各個人番号に対応した特徴量判定情報を参照し、標準的な計算式を用いる個人番号についてはその計算式を用いて特徴量を算出し、標準的な計算式とは異なる計算式を用いることが規定された個人番号についてはその計算式を用いて特徴量を算出する。
なお、滞在者データベース92に含まれる各個人番号に対応した計算式が2種類以上ある場合には、例えば、予め全ての計算式による特徴量の算出結果を求めてメモリに記憶しておいてもよいが、一例として、滞在者データベース92に含まれる各個人番号毎に順に照合を行うような場合には、各照合を行う際に各照合について指定された計算式を用いて特徴量を算出し、また、既に使用された計算式による特徴量の算出結果についてはメモリに記憶しておいて、後に同一の計算式が指定されたときには記憶された算出結果を使用するような構成とすると、効率化が図られる。
特徴量照合部64は、特徴量抽出処理部62により得られた顔に関する特徴量を、滞在者データベース92に格納された1つ以上の参照特徴量と照合し、一致の有無を判定し、一致する参照特徴量が存在する場合にはその参照特徴量を持つ人物の入退許可情報を取り出す。
この場合に、本例では、特徴量照合部64は、滞在者データベース92に含まれる各個人番号に対応した特徴量判定情報を参照し、優先順位や重み付けなどが規定されている個人番号については、その規定内容に従って照合を行う。
具体例として、各判定方法を用いて照合を行う場合には、滞在者データベース92に格納された個人番号の順(図4の例では、1、3、4の順)に、各個人番号毎に、画像から算出された人21の顔に関する特徴量が各個人番号に対応した全ての特徴量(本例では、特徴量A、B、C)を満たすか否かを判定し、全て満たす場合にはその個人番号に対応する人であると判定して照合処理を終了し、一方、一部が満たされない場合には次の順番の個人番号についての照合へ移行する。
ここで、標準的な判定方法を用いて照合を行う場合には、予め規定された標準的な判定方法に従って照合が行われる。
また、標準的な判定方法とは異なる判定方法として、例えば、優先順位が規定されている場合には、その個人番号について、その優先順位に従った特徴量の順に照合を行っていく。例えば、優先順位の1番目の特徴量がその人には非常に適合するが他の多くの人には適合しないようなものである場合には、1番目の特徴量の判定のみで、他の多くの人ではないことを判定して、当該他の多くの人については2番目以降の特徴量の判定処理を省略することができ、照合処理の効率化が図られる。
また、標準的な判定方法とは異なる判定方法として、例えば、複数の特徴量に関する重み付けが規定されている場合には、その個人番号について、各特徴量についての一致度(特徴量の値の近さの度合い)を求めて各特徴量に対応した重み付け係数を乗算し、複数の特徴量についての当該乗算結果の総和値(ここでは、大きい方が一致度が高いとする)を求め、当該総和値が所定の閾値以上(或いは、所定の閾値を超えた)場合にその個人番号に対応する人であることを判定することができる。
また、標準的な判定方法とは異なる判定方法として、例えば、所定の特徴量の算出に使用する計算式が規定されている場合には、その個人番号について、特徴量抽出処理部62により、規定された計算式を使用してその特徴量を算出する。
なお、ここで示した判定方法は例示であり、他の種々な判定方法が照合に用いられてもよい。他の判定方法として、例えば、各個人番号毎に、照合を行う特徴量の数(1つ以上の数)や種類を規定することも可能である。
特徴量照合部64は、取り出した入退許可情報が許可であった場合には、電気錠制御信号出力部68から開錠を指示する信号を出力する。出力された開錠信号は、伝送媒体14を介して、電気錠5の電気錠制御信号入力部71に入力される。
電気錠5は、電気錠制御信号入力部71に入力された開錠信号を検知すると、錠開閉部72により開錠をする。
このように、本例では、無線エリア22内に存在する無線タグ6から得られた個人番号によって特徴量データベース91から絞り込んだ滞在者データベース92を抽出特徴量の照合対象にすることにより、顔認証装置4に掛かる負荷を低減することができ、高速な照合処理を可能にすることができる。例えば、特徴量データベース91に登録される人が増加した場合においても、通常は、或る一定時間に実際に無線エリア22内に存在する人数の増加分は、特徴量データベース91の増加分ほど多いことはなく、特徴量データベース91の登録母数の増加に対して負荷の増加が少ない方式であると言うことができる。
また、本例では、滞在者データベース92を抽出特徴量の照合対象にすることにより、抽出特徴量に似た特徴量を持つ人物がデータベース上に存在する確率を減少させることができる。例えば、図4では、個人番号1に該当する人物に対して行った抽出処理において、特徴量Aが215、特徴量Bが56、特徴量Cが35であると算出された場合には、特徴量データベース91に直接的に照合する方式では、個人番号1と個人番号5の人物が該当してしまうことになり、どちらであるかの判断がつかない状態になる。一方、滞在者データベース92を照合対象にする方式では、個人番号5の人物は、無線エリア22にいないため、予め排除され、個人番号1の人物を間違うことはない。このように、本例の方式は、特徴量データベース91の登録母数の増加に対して誤認証の確率を低減させる方式であると言うことができる。
また、本例では、各人物(各個人番号)毎に、特徴量を判定する仕方(特徴量判定情報)を設定することが可能であり、設定されている場合にはそれに従って照合処理を行うことにより、例えば、各人物毎に特に当てはまる特徴部分を有効に利用して照合を行うことができ、これにより、各人物毎の照合処理に要する処理時間や処理負荷を低減することや、各人物毎の照合の精度を向上させることができる。
ここで、本例では、扉7の前に立つ1名の人21に対してトリガ装置1から送られるトリガ信号をきっかけに顔認証を実施する構成を示したが、他の構成例として、無線エリア22の全体を撮像することができる位置にカメラを設置して、無線エリア22に滞在する無線タグ6の数を常時観測するようにし、その滞在数に増減があった場合をトリガにして、無線エリア22に滞在する人物全員に対して顔認証処理を実施するような構成を用いることも可能であり、このような構成では、滞在者データベース92を照合対象にすることによる認証高速化が非常に有効であり、複数人が同時通行する場所での入退管理等も実現可能である。なお、複数の人物についての認証処理は、例えば、並列的に行われてもよく、或いは、各人物毎に順番に行われてもよい。
また、本例では、扉7を有する部屋への入室を管理する構成を示したが、他の構成例として、扉がない場合には、人が管理対象の部屋などに入ったときに周囲に他の人が存在すると、自分がシステムにより認証されたのか否かが不明な場合が発生し得ると考えられる。これに対して、一例として、無線基地局装置2と人に付された無線タグ6とが双方向で無線通信するようにし、まず、無線タグ6が無線基地局装置2へ個人番号を送信し、次に、この個人番号について人の顔画像の特徴量に基づいて顔認証装置4により正当に認証された場合にはその旨を示す認証確認信号を無線基地局装置2から無線タグ6へ送信し、無線タグ6は当該認証確認信号を受信したことに応じて音を鳴らす或いは振動する或いは光を発するなどの所定の動作を行うような構成を用いることができる。このような構成では、部屋などに入る人は、自分が認証された場合には、自分に付された無線タグ6が所定の動作を行うことから、自分が認証されたことを把握することができる。これにより、他の人の認証を自分の認証として誤認してしまうことを防止することができる。
以上のように、本例の顔認証入退管理システムでは、映像撮像装置(本例では、カメラ3)、画像認識処理装置(本例では、顔認証装置4)、無線基地局装置2、無線端末装置(本例では、無線タグ6)を有する画像認識システムにおいて、無線端末装置から送られてくるID情報(本例では、個人番号)に従って特徴量の照合を行う対象とするデータを絞り込むことが行われ、また、各認証対象(各ID情報)毎に特徴量の判定の仕方を規定してそれに従った照合処理を実施することが可能である。
従って、本例の顔認証入退管理システムでは、照合対象の絞り込みにより、例えば、特徴量データベース91に登録されている母数が多い場合においても、高速に照合処理をすることが可能になり、より高速な認証を実現することができる。具体的には、例えば、従来と同等の性能の装置を用いた場合には、同一の時間内に、より多数の人の同時認証などを実現することができる。或いは、認証の高速化を図る代わりに、例えば、従来と比べてより廉価で低速な装置を用いた場合においても、従来と同等の速度での認証を実現することができる。
このように、本例では、従来において特徴量データベース91に登録されている母数に比例して増加していた顔認証装置における照合処理の負荷を低減させることができ、また、特徴量データベース91に登録されている母数のサイズが顔認証の精度に対して与える影響を低減させることができ、特徴量データベース91に登録されている母数のサイズに影響を受けにくい高精度な認証を実現することができる。
また、本例の顔認証入退管理システムでは、各認証対象毎に特徴量の判定の仕方を規定することを可能とすることにより、例えば、各認証対象毎に適した判定方法を用いることを実現することができ、これにより、認証処理の高速化や低負荷化を図ることや、認証処理の精度の向上を図ることができる。
なお、本例の顔認証入退室管理システム(画像処理システムの一例)では、識別情報(本例では、個人番号)を無線により送信する無線タグ6により無線端末装置が構成されており、無線基地局装置2が無線タグ6から無線送信された識別情報を受信する機能により無線通信手段が構成されており、カメラ3が所定の領域の画像を撮像して取得する機能により画像取得手段が構成されており、顔認証装置4が取得された画像に基づいて認証対象(本例では、人21)に関する特徴量を取得する機能により特徴量取得手段が構成されており、顔認証装置4が複数の識別情報について参照される特徴量や特徴量判定情報の内容(本例では、特徴量データベース91)をメモリに記憶する機能により記憶手段が構成されており、顔認証装置4が記憶された特徴量や特徴量判定情報の内容に基づいて取得された特徴量を照合して認証を行う機能により認証手段が構成されている。
ここで、本発明に係るシステムや装置などの構成としては、必ずしも以上に示したものに限られず、種々な構成が用いられてもよい。また、本発明は、例えば、本発明に係る処理を実行する方法或いは方式や、このような方法や方式を実現するためのプログラムや当該プログラムを記録する記録媒体などとして提供することも可能であり、また、種々なシステムや装置として提供することも可能である。
また、本発明の適用分野としては、必ずしも以上に示したものに限られず、本発明は、種々な分野に適用することが可能なものである。
また、本発明に係るシステムや装置などにおいて行われる各種の処理としては、例えばプロセッサやメモリ等を備えたハードウエア資源においてプロセッサがROM(Read Only Memory)に格納された制御プログラムを実行することにより制御される構成が用いられてもよく、また、例えば当該処理を実行するための各機能手段が独立したハードウエア回路として構成されてもよい。
また、本発明は上記の制御プログラムを格納したフロッピー(登録商標)ディスクやCD(Compact Disc)−ROM等のコンピュータにより読み取り可能な記録媒体や当該プログラム(自体)として把握することもでき、当該制御プログラムを当該記録媒体からコンピュータに入力してプロセッサに実行させることにより、本発明に係る処理を遂行させることができる。
本発明の一実施例に係る顔認証入退管理システムの構成例を示す図である。 顔認証入退管理システムの詳細な構成例を示す図である。 特徴量データベースの一例を示す図である。 特徴量データベースから滞在者データベースを取得する様子の一例を示す図である。 顔認証入退管理システムの一例を示す図である。
符号の説明
1、111・・トリガ装置、 2・・無線基地局装置、 3、112・・カメラ、 4、113・・顔認証装置、 5、114・・電気錠、 6・・無線タグ、 7、115・・扉、 11〜14、121〜123・・伝送媒体、 21、131・・認証対象、 22・・無線エリア、 31・・スイッチ部、 32・・トリガ信号出力部、 41・・アンテナ部、 42・・タグデータ出力部、 43・・制御部、 51・・撮像部、 52・・映像データ出力部、 61・・映像データ入力部、 62・・特徴量抽出処理部、 63・・特徴量データベース部、 64・・特徴量照合部、 65・・フィルタリング部、 66・・タグデータ管理部、 67・・タグデータ入力部、 68・・電気錠制御信号出力部、 69・・トリガ信号入力部、 71・・電気錠制御信号入力部、 72・・錠開閉部、 81・・メモリ部、 82・・アンテナ部、 91・・特徴量データベース、 92・・滞在者データベース、 101・・個人番号列、 102〜104・・特徴量列、 105・・入退許可情報列、 106・・特徴量判定情報列、

Claims (2)

  1. 所定の領域に存在する認証対象の画像に基づいて認証を行う画像処理システムにおいて、
    前記認証対象を識別する識別情報を無線により送信する機能を有しており前記認証対象により所持される無線端末装置と、
    前記所定の領域に存在する認証対象により所持される無線端末装置から無線により送信された識別情報を受信する無線通信手段と、
    前記所定の領域に存在する認証対象の画像を取得する画像取得手段と、
    前記画像取得手段により取得された画像に基づいて前記認証対象に関する特徴量を取得する特徴量取得手段と、
    認証対象となり得る複数の対象について、それぞれの識別情報に対応付けて、特徴量を記憶するとともに、1つ以上の対象について特徴量の判定の仕方を規定する特徴量判定情報を記憶する記憶手段と、
    前記無線通信手段により受信された識別情報に対応付けて前記記憶手段に標準的な判定の仕方とは異なる判定の仕方を規定する特徴量判定情報が記憶されている場合には、当該特徴量判定情報により規定される判定の仕方を用いて、当該識別情報に対応付けて前記記憶手段に記憶された特徴量と前記特徴量取得手段により取得された特徴量とを照合して認証対象に対する認証を行い、他の場合には、前記標準的な判定の仕方を用いて、当該識別情報に対応付けて前記記憶手段に記憶された特徴量と前記特徴量取得手段により取得された特徴量とを照合して認証対象に対する認証を行う認証手段と、を備え、
    前記標準的な判定の仕方として、前記特徴量取得手段が画像に基づいて前記認証対象に関する特徴量を取得する計算式、又は、前記特徴量取得手段が取得した複数の特徴量についてこれら特徴量を判定する優先順位、又は、当該計算式と当該優先順位との組み合わせを予め設定し、
    前記標準的な判定の仕方とは異なる判定の仕方として、前記計算式又は前記優先順位又は当該計算式と当該順位との組み合わせを、前記標準的な判定の仕方とは異なるものに予め設定したことを特徴とする画像処理システム。
  2. 請求項1に記載の画像処理システムにおいて、
    前記認証手段は、前記特徴量取得手段が取得した複数の特徴量についてこれら特徴量を判定する優先順位を予め設定した特徴量判定情報に基づいて、前記標準的な判定の仕方とは異なる判定の仕方を用いる場合には、優先順位が上位の特徴量のみ判定し、当該上位の優先順位より下位の優先順位の特徴量の判定を省略することを特徴とする画像処理システム。
JP2006229057A 2006-08-25 2006-08-25 画像処理システム Active JP4855180B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006229057A JP4855180B2 (ja) 2006-08-25 2006-08-25 画像処理システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006229057A JP4855180B2 (ja) 2006-08-25 2006-08-25 画像処理システム

Publications (2)

Publication Number Publication Date
JP2008052549A JP2008052549A (ja) 2008-03-06
JP4855180B2 true JP4855180B2 (ja) 2012-01-18

Family

ID=39236539

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006229057A Active JP4855180B2 (ja) 2006-08-25 2006-08-25 画像処理システム

Country Status (1)

Country Link
JP (1) JP4855180B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014052726A (ja) * 2012-09-05 2014-03-20 Nec Corp 顔画像照合装置、顔画像照合方法、及び、プログラム
EP3557525B1 (en) * 2016-12-16 2021-04-07 Panasonic Intellectual Property Management Co., Ltd. Face image processing method and face image processing device
KR102370063B1 (ko) * 2017-03-28 2022-03-04 삼성전자주식회사 얼굴 인증 방법 및 장치
US11315375B2 (en) 2017-03-31 2022-04-26 Nec Corporation Facial authentication system, apparatus, method and program
WO2021060256A1 (ja) * 2019-09-24 2021-04-01 Necソリューションイノベータ株式会社 顔認証装置、顔認証方法、及びコンピュータ読み取り可能な記録媒体

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4275794B2 (ja) * 1998-03-31 2009-06-10 三菱電機株式会社 人体照合装置
JP4553526B2 (ja) * 2001-08-15 2010-09-29 セコム株式会社 個人照合装置
JP2006018707A (ja) * 2004-07-05 2006-01-19 Nippon Telegr & Teleph Corp <Ntt> 被写体識別装置、その識別方法とその識別プログラム、および被写体識別器設定装置、その設定方法とその設定プログラム
JP2005149527A (ja) * 2004-12-27 2005-06-09 Toshiba Corp 顔認証装置および顔認証方法

Also Published As

Publication number Publication date
JP2008052549A (ja) 2008-03-06

Similar Documents

Publication Publication Date Title
US10796514B2 (en) System and method for optimizing a facial recognition-based system for controlling access to a building
JP5012247B2 (ja) 認証装置、入場管理装置、入退場管理装置、入場管理システム、入退場管理システム、認証処理方法およびプログラム
US11205312B2 (en) Applying image analytics and machine learning to lock systems in hotels
WO2015136938A1 (ja) 情報処理方法および情報処理システム
US20230401914A1 (en) Information processing apparatus, information processing system, and information processing method
JP2005242775A (ja) ゲートシステム
US20240021006A1 (en) Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
JP4855180B2 (ja) 画像処理システム
KR100965428B1 (ko) 2개의 지능카메라를 이용한 인증자입장 자동검증시스템 및 운영방법
JPWO2019017439A1 (ja) 入退場管理システムおよび入退場管理方法
JP2008040828A (ja) 入退室管理装置
Sreedevi et al. Image processing based real time vehicle theft detection and prevention system
JP2010009389A (ja) 辞書情報登録装置、辞書情報登録方法、顔認証装置および入退場管理システム
EP4207112A1 (en) Authentication method and apparatus for gate entrance
JP5955056B2 (ja) 顔画像認証装置
JP2002342862A (ja) アクセス管理システム
KR102089030B1 (ko) 조합 인증 기반 출입 통제 시스템 및 방법
JP2006099687A (ja) 利用者認証装置
KR101926709B1 (ko) 생체 인증 및 제어 장치 및 그 방법
JP5955057B2 (ja) 顔画像認証装置
KR102462434B1 (ko) 출입인원체크 보안강화 시스템
Nethravathi et al. Advanced Face Recognition Based Door Unlock System Using Arduino & MATLAB
US20220198861A1 (en) Access control system screen capture facial detection and recognition
JP7194901B2 (ja) 認証装置、認証方法、認証システムおよびプログラム
JP2006178591A (ja) 認証装置、セキュリティ装置およびセキュリティ装置における認証方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090325

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20101226

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20110509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110913

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111018

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111026

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141104

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4855180

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250