JP2005234947A - 人数計数装置 - Google Patents

人数計数装置 Download PDF

Info

Publication number
JP2005234947A
JP2005234947A JP2004044241A JP2004044241A JP2005234947A JP 2005234947 A JP2005234947 A JP 2005234947A JP 2004044241 A JP2004044241 A JP 2004044241A JP 2004044241 A JP2004044241 A JP 2004044241A JP 2005234947 A JP2005234947 A JP 2005234947A
Authority
JP
Japan
Prior art keywords
person
passing
feature data
determination
counting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004044241A
Other languages
English (en)
Other versions
JP4374609B2 (ja
Inventor
Koji Sogo
浩二 十河
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2004044241A priority Critical patent/JP4374609B2/ja
Publication of JP2005234947A publication Critical patent/JP2005234947A/ja
Application granted granted Critical
Publication of JP4374609B2 publication Critical patent/JP4374609B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Abstract

【課題】同一人物を重複計数しない正味の通過人数を計数することができ、かつ、特定者が頻繁に通過しても通過人数の計数処理に時間がかからない人数計数装置を提供する。
【解決手段】特定場所を頻繁に通過することが予め分かっていて、通過人数から除外したい人物を特定者として設定し、特定者の顔の特徴量を予め特定者データベースに記憶しておく。カメラで撮影した特定場所の通過者の画像データを取得して、当該画像データから顔を検出した後に顔の特徴量を抽出する。抽出した特徴量と特定者データベースに記憶された特徴量とを照合して通過者が特定者であるか否かの判定を行い、特定者でないと判定した場合にのみ、抽出した特徴量と通過者データベースに記憶された既通過者の特徴量とを照合して通過者と同一人物が既通過者の中に居るか否かの判定を行う。そして、同一人物が居ないと判定した場合に、通過人数カウンタに1を加算して通過人数を計数する。
【選択図】 図5

Description

本発明は、通過する人の数を計数する人数計数装置に関するものである。
店舗、駅、施設等のような特定場所の通路等を通過する人の数を計数することが従来から行われている。例えば、下記の特許文献1では、通路の上方から真下に向けてカメラを設置しておき、カメラによって撮像した画像から移動物体を抽出して、当該移動物体が人の頭か否かを判定し、人の頭であれば通過人数として計数する。また、下記の特許文献2では、バスの乗降口にカメラを設置しておき、カメラによって撮像した画像から人の顔の特徴を示す顔データを抽出して記憶手段に記憶し、記憶した顔データに基づいて乗降者数を計数管理する。さらに、下記の特許文献3では、出入口の床面に感圧センサを敷設しておき、人が踏み付けたときの感圧センサからの出力に基づいて人の足跡情報を抽出して記憶手段に記憶し、今回記憶した足跡情報と先に記憶した足跡情報とを比較して一致するか否かの判定を行い、一致していれば今回の足跡情報と先の足跡情報とは同一人物のものであるとして通過人数のカウントから除外することにより、同一人物の二重カウントを防止する。
特公平8−23882号公報(第3頁、第4図) 特開平11−175782号公報(段落0018〜0024) 特開2000−259809号公報(段落0017、0018、図4)
上述した特許文献1、2のような技術では、同一人物が何度も通路を通過した場合に、同一人物を毎回計数してしまうので、延べ通過人数は計数することができるが、同一人物を重複計数しない正味の通過人数は計数することができないという問題がある。これに対して、特許文献3のような技術では、上述したように同一人物の二重カウントを防止するので、正味の通過人数は計数することができる。しかしながら、例えば来店客数の計数を目的として店舗の出入口に適用した場合には、店員が作業を行うために出入口を頻繁に出入りしたときも、毎回店員の足跡情報と先に記憶手段に記憶した全ての足跡情報とを比較して一致するか否かを判定しなければならないので、処理に時間がかかるという問題がある。特に、多くの来客の足跡情報を記憶手段に記憶した後では、店員の足跡情報と比較する対象が多くなっているので、処理に非常に長い時間がかかってしまう。
本発明は、上記課題を解決するものであって、その目的とするところは、同一人物を重複計数しない正味の通過人数を計数することができ、かつ、特定者が頻繁に通過しても通過人数の計数処理に時間がかからない人数計数装置を提供することにある。
本発明に係る人数計数装置は、通過する人の特徴を示す特徴データを抽出する抽出手段と、特定者の特徴を示す特徴データを予め記憶する第1の記憶手段と、抽出手段が抽出した通過する人の特徴データを複数記憶する第2の記憶手段とを備えていて、通過する人から抽出した特徴データと第1の記憶手段に記憶された特徴データとを照合して通過する人が特定者であるか否かの第1の判定を行い、当該第1の判定で特定者でないと判定した場合にのみ、抽出した特徴データと第2の記憶手段に記憶された特徴データとを照合して同一人物が居るか否かの第2の判定を行い、当該第2の判定で同一人物が居ないと判定した場合に、通過人数として計数する。なお、特定者としては、通過人数の計数を行う特定場所を頻繁に通過することが予め分かっていて、通過人数から除外したい人物を設定する。
上記のように、まず通過者(通過した人)が特定者であるか否かの第1の判定を行い、当該第1の判定で特定者でないと判定された場合にのみ、通過者と同一人物が既通過者(既に通過した人)の中に居るか否かの第2の判定を行うことで、通過者が特定者である場合には、通過者の特徴データと第2の記憶手段に記憶された既通過者の特徴データとを照合して第2の判定を行わなくなる。このため、特定者が通過人数の計数を行う特定場所を頻繁に通過しても、通過人数の計数処理に時間がかからないようにすることができる。また、第2の判定で同一人物が居ないと判定した場合にのみ、通過人数として計数することで、同一人物を重複計数しない正味の通過人数を計数することができる。
通過人数の具体的な計数方法としては、例えば、通過人数をカウントする通過人数カウント手段を設け、第2の判定で同一人物が居ないと判定した場合に、通過人数カウント手段が示す値に1を加算して、当該加算した結果の値を通過人数とする。このようにすることで、特定者や既通過者ではない初めての通過者毎に、通過人数カウント手段が示す値に1を加算して、正味の通過人数を確実に計数することができる。
また、本発明の他の人数計数装置では、上述した抽出手段、第1の記憶手段、および第2の記憶手段に加えて、通過する人を検知して延べ通過人数をカウントする延べ通過人数カウント手段を備えていて、第1の判定で特定者であると判定した場合に、延べ通過人数カウント手段が示す値から1を減算し、特定者でないと判定した場合に、第2の判定を行い、当該第2の判定で同一人物が居ると判定した場合に、延べ通過人数カウント手段が示す値から1を減算して、当該減算した結果の値を通過人数とする。このようにすることで、特定者が通過する毎にまたは既通過者と同一人物が通過する毎に、延べ通過人数カウント手段が示す延べ通過人数から1を減算して、正味の通過人数を確実に計数することができる。
また、上述した人数計数装置では、第1の判定で特定者でないと判定した場合にのみ、抽出手段が抽出した特徴データを第2の記憶手段に記憶する。このようにすることで、第2の記憶手段に特定者の特徴データが記憶されなくなるので、通過者の特徴データと照合および第2の判定を行う対象となる特徴データ数が増大するのを抑えることができ、当該照合および判定にかかる時間を短縮して、通過人数の計数処理に一層時間がかからないようにすることができる。
また、本発明の他の人数計数装置では、上述した抽出手段、第1の記憶手段、第2の記憶手段、および延べ通過人数カウント手段を備えていて、当該第1の判定で特定者でないと判定した場合にのみ、抽出手段が抽出した特徴データを第2の記憶手段に記憶し、第2の記憶手段に記憶された1の特徴データとその他の特徴データとを照合して同一人物が居るか否かの第2の判定を行い、当該第2の判定で同一人物が居ないと判定したときの他の特徴データについては、その後1の特徴データとして第2の判定を行い、同一人物が居ると判定したときの他の特徴データについては、その後1の特徴データとして第2の判定を行わないようにし、延べ通過人数カウント手段が示す値から、第1の判定で特定者であると判定した数と、第2の判定で同一人物が居ると判定した数とを減算して、当該減算した結果の値を通過人数とする。このように、第2の判定で同一人物が居ると判定した他の特徴データを、その後1の特徴データとして同判定を行わないようにすることで、他の特徴データに含まれる同一人物の特徴データ同士の照合および第2の判定が行われなくなるので、当該照合および判定の回数を減少させて、通過人数の計数処理に一層時間がかからないようにすることができる。また、延べ通過人数カウント手段が示す値から、第1の判定で特定者であると判定した数と、第2の判定で同一人物が居ると判定した数とを減算することで、延べ通過人数から特定者の通過数および既通過者と同一人物の通過数が減算され、正味の通過人数を確実に計数することができる。
さらに、上述した人数計数装置では、通過する人を撮像する撮像手段を備えていて、抽出手段は、撮像手段が撮像した画像から人の顔の特徴を示す顔データを特徴データとして抽出し、第1の記憶手段は、特定者の顔の特徴を示す顔データを特徴データとして予め記憶する。このように、特徴データとして顔データを採用することで、撮像手段および抽出手段により通過者の通行を妨げることなくデータを容易に抽出することができる。また、顔データは各人で確実に異なっていて各人を精度良く識別することが可能なデータであるので、通過者が特定者であるか否かの第1の判定と、通過者と同一人物が既通過者の中に居るか否かの第2の判定とを正確に行うことができる。
本発明によれば、まず通過者が特定者であるか否かの判定を行い、通過者が特定者でない場合にのみ、通過者と同一人物が既通過者の中に居るか否かの判定を行うので、特定者が通過人数の計数を行う特定場所を頻繁に通過しても、通過人数の計数処理に時間がかからず、また、通過者と同一人物が既通過者の中に居ない場合にのみ、通過人数として計数するので、同一人物を重複計数しない正味の通過人数を計数することが可能となる。
図1は、本発明の第1実施形態に係る人数計数装置のブロック図である。図1において、破線で囲んでいる部分が本実施形態にかかる人数計数装置101である。1はコンピュータであって、制御部11、記憶部12、操作部13、および表示部14から構成されている。制御部11は、CPUと、RAMやROM等のメモリとから構成されていて、コンピュータ1の各部を制御する。記憶部12は、RAMや不揮発性メモリ等のメモリとハードディスクとから構成されていて、通過人数をカウントするための領域である通過人数カウンタC1が設けられている。操作部13は、キーボードとマウスとから構成されている。表示部14は、CRT(陰極線管)から構成されていて、後述するように通過人数を表示する。2は動画像を撮像する監視用カメラである。この監視用カメラ2は、店舗、駅、施設等のような特定場所の通路に向けて設置されていて、通路を通過する人を撮像して、撮像した画像をコンピュータ1に出力する。コンピュータ1の制御部11は、監視用カメラ2で撮像された画像から人の顔を検出し、検出した顔から当該顔の特徴を示す顔データを人の特徴データとして抽出する。
3はハードディスクから構成されている第1記憶装置であって、特定者データベース30を格納している。この特定者データベース30には、特定者の顔の特徴を示す顔データが予め記憶される。なお、特定者としては、通過人数の計数を行う特定場所を頻繁に通過することが予め分かっていて、通過人数から除外したい人物を設定する。具体例を挙げると、店舗であれば店員、空港や駅といった交通機関であれば当該交通機関の係員、遊園地やテーマパークといった施設であれば当該施設のスタッフ等である。4はハードディスクから構成されている第2記憶装置であって、通過者データベース40を格納している。この通過者データベース40には、制御部11が監視用カメラ2で撮像された画像から抽出した顔データが記憶される。
5はスキャナまたはデジタルカメラ等から構成されている顔画像入力装置である。この顔画像入力装置5は、特定者を撮像した画像を取り込むためにコンピュータ1に接続される。コンピュータ1の制御部11は、顔画像入力装置5から特定者の画像を取り込むと、当該画像から特定者の顔を検出し、検出した顔から当該顔の特徴を示す顔データを抽出する。そして、制御部11は、抽出した特定者の顔データを後述するように特定者データベース30に登録する。
以上の構成において、コンピュータ1の制御部11は、本発明における抽出手段の一実施形態を構成する。監視用カメラ2は、本発明における撮像手段の一実施形態を構成する。特定者データベース30を格納した第1記憶装置3は、本発明における第1の記憶手段の一実施形態を構成し、通過者データベース40を格納した第2記憶装置4は、本発明における第2の記憶手段の一実施形態を構成する。また、通過人数カウンタC1は、通過人数をカウントする通過人数カウント手段の一実施形態を構成し、表示部14は、人数計数装置101で計数した通過人数を通知する通知手段の一実施形態を構成する。
図2は、上述した特定者データベース30の記憶内容の一例を示す図である。特定者データベース30には、前述の制御部11によって特定者の顔データの登録処理が行われる毎に、特定者の顔の特徴量32が記憶されるとともに、登録日時33と、特定者を識別するために特徴量毎に割り付けられたID番号34とが記憶される。31は登録順を示す登録番号である。
図3は、上述した通過者データベース40の記憶内容の一例を示す図である。通過者データベース40には、制御部11によって特定場所を通過した人(以下、通過者という)の顔データの保存処理が行われる毎に、通過者の顔の特徴量42が記憶されるとともに、通過日時43と、通過者を識別するために特徴量毎に割り付けられたID番号44とが記憶される。41は保存順を示す保存番号である。
図4は、特定者データベース30への特定者の顔データの登録手順を示すフローチャートである。なお、本手順は、例えば前述の表示部14に登録開始ボタン(図示省略)が表示され、当該登録開始ボタンが前述の操作部13により操作されたときに、コンピュータ1の制御部11が実行する。図4において、前述の顔画像入力装置5がコンピュータ1に接続された後、登録開始ボタンが操作されると、制御部11は、特定者を撮像した画像のデータを顔画像入力装置5から取得する(ステップS1)。次に、制御部11は、取得した画像データより顔を検出する(ステップS2)。この顔の検出には、肌色検出による方法、背景画像との差分を抽出する方法、パターンマッチングから顔らしさを抽出する方法など、公知の方法が用いられる。顔を検出すると、制御部11は、顔画像から目、鼻、口、耳等の特徴点を検出し、検出した各特徴点についてそれらの形状や位置に関する特徴量を抽出する(ステップS3)。この特徴量の抽出も、目、鼻、口、耳等の濃淡画像からテンプレートマッチングにより特徴量を抽出する方法など、公知の方法を用いて行うことができる。特徴量を抽出すると、制御部11は、当該特徴量を特定者の顔データとして特定者データベース30に記憶させて登録して(ステップS4)、処理を終了する。これにより、特定者データベース30には、図2に示したように特定者の特徴量32とともに、登録番号31、登録日時33、およびID番号34が記憶される。
図5は、本発明の第1実施形態に係る通過人数の計数手順を示すフローチャートである。なお、本手順は、例えば前述の表示部14に計数開始ボタン(図示省略)と計数終了ボタンが表示され、計数開始ボタンが前述の操作部13により操作されたときにコンピュータ1の制御部11が実行し、計数終了ボタンが操作部13により操作されたときに制御部11が終了する。また、上記の方法に代えて、本手順は、例えば操作部13が操作されて計数開始時刻(店舗の開店時刻等)と計数終了時刻(店舗の閉店時刻等)とが設定された後に、計数開始時刻になると制御部11が実行し、計数終了時刻になると制御部11が終了するようにしてもよい。
図5において、例えば上述した計数開始ボタンが操作されると、制御部11は、通過者データベース40の記憶内容をクリア(全消去)し(ステップS11)、記憶部12の通過人数カウンタC1の示す値をクリア(0に初期化)する(ステップS12)。この後、制御部11は、監視用カメラ2から出力される画像データを取得し(ステップS13)、取得した画像データより通過者の顔を検出する(ステップS14)。顔を検出すると、制御部11は、検出した顔をトラッキングし(ステップS15)、トラッキングして取得できた静止画像である顔画像から目、鼻、口、耳等の特徴点を検出し、検出した各特徴点についてそれらの形状や位置に関する特徴量を抽出する(ステップS16)。なお、トラッキングすることで、複数枚の顔画像が取得できるが、本例では、複数枚の顔画像のそれぞれについて、大まかに目、鼻、口、耳等の位置をとらえてテンプレートと比較し、比較結果から顔らしさの度合いを示すスコア値を算出して、当該スコア値の最も高い1枚の顔画像、即ち目、鼻、口、耳等が1番しっかりとらえられた最も顔らしい1枚の顔画像から特徴量を抽出する。
上記のように特徴量を抽出すると、制御部11は、抽出した特徴量と特定者データベース30に記憶されている特定者の特徴量32(図2)とを照合して(ステップS17)、今回の通過者が特定者であるか否かを判定する(ステップS18)。ここで、抽出した特徴量と特定者データベース30の特徴量32とが一致すると、制御部11は、特定者であると判断する(ステップS18:YES)。このように判断すると、制御部11は、次の通過者を処理するためにステップS13へ移行し、再びステップS13〜ステップS18を上述した手順で実行する。
一方、ステップS18で、抽出した特徴量と特定者データベース30の特徴量32とが一致しなければ、制御部11は、特定者ではないと判断する(ステップS18:NO)。このように判断すると、制御部11は、抽出した特徴量と通過者データベース40に記憶されている既に通過した人(以下、既通過者という)の特徴量42(図3)とを照合して(ステップS19)、今回の通過者と同一人物が既通過者の中に居るか否かを判定する(ステップS20)。ここで、抽出した特徴量と通過者データベース40の特徴量42とが一致しなければ、制御部11は、同一人物は居ないと判断する(ステップS20:NO)。なお、ステップS11で通過者データベース40の記憶内容をクリアしたため、通過者データベース40に何も特徴量42が記憶されていない場合にも、制御部11はステップS20で、抽出した特徴量と一致する通過者データベース40の特徴量42がないので、同一人物は居ないと判断する(ステップS20:NO)。このように判断すると、制御部11は、通過人数カウンタC1の示す値に1を加算し(ステップS21)、抽出した特徴量を通過者の顔データとして通過者データベース40に記憶させて保存する(ステップS23)。このとき、通過者データベース40には、図3に示したように通過者の特徴量42とともに、保存番号41、通過日時43、およびID番号44が記憶される。
上記に対して、ステップS20で、抽出した特徴量と通過者データベース40の特徴量42とが一致すると、制御部11は、同一人物が居ると判断する(ステップS20:YES)。このように判断すると、制御部11は、今回抽出した特徴量に関連付けて同一人物検出フラグを立てる(ステップS22)。なお、同一人物検出フラグを立てる領域は、通過者データベース40に設けてもよいし、制御部11に内蔵されたメモリまたは記憶部12に設けてもよい。同一人物検出フラグを立てると、制御部11は、抽出した特徴量を通過者の顔データとして通過者データベース40に記憶させて保存する(ステップS23)。このときにも、通過者データベース40には、図3に示したように通過者の特徴量42とともに、保存番号41、通過日時43、およびID番号44が記憶される。
特徴量を保存すると、制御部11は、通過人数の計数を終了するか否かを判断する(ステップS24)。ここで、例えば上述した計数終了ボタンが未だ操作されていなければ、制御部11は、通過人数の計数を終了しないと判断し(ステップS24:NO)、次の通過者を処理するためにステップS13へ移行して、再びステップS13〜ステップS24を上述した手順で実行する。そして、ステップS13〜ステップS24を何回か繰り返し実行した後に、ステップS24で、計数終了ボタンが操作されていると、制御部11は、通過人数の計数を終了すると判断し(ステップS24:YES)、処理を終了する。
上記のように処理を終了した後、制御部11は、このときの通過人数カウンタC1の示す値を特定場所の通過人数として前述の表示部14に表示させて通知する。図6は、このとき表示部14に表示される画面の一例を示す図である。図6において、表示画面50には、通過人数の計数を行った計数場所51、計数日52、計数時間53、そして通過人数カウンタC1の示す値である通過人数54が表示されている。
上述した第1実施形態のように、まず通過者が特定者であるか否かの判定を行い、当該判定で特定者でないと判定された場合にのみ、通過者と同一人物が既通過者の中に居るか否かの判定を行うことで、通過者が特定者である場合には、通過者の特徴量と通過者データベース40に記憶された既通過者の特徴量とを照合して判定を行わなくなる。このため、特定者が通過人数の計数を行う特定場所を頻繁に通過しても、通過人数の計数処理に時間がかからないようにすることができる。また、同一人物判定において同一人物が居ないと判定した場合にのみ、つまり特定者や既通過者ではない初めての通過者が通過する毎に、通過人数カウンタC1の示す値に1を加算することで、同一人物を重複計数しない正味の通過人数を確実に計数することができる。
また、特定者判定において特定者でないと判定した場合にのみ、抽出した特徴量を通過者データベース40に記憶することで、通過者データベース40に特定者の特徴量が記憶されなくなるので、抽出した特徴量と照合および同一人物判定を行う対象となる特徴量数が増大するのを抑えることができ、当該照合および判定にかかる時間を短縮して、通過人数の計数処理に一層時間がかからないようにすることができる。また、人の特徴データとして顔の特徴量を採用することで、監視用カメラ2および制御部11により通過者の通行を妨げることなくデータを容易に抽出することができ、加えて、顔の特徴量は各人で確実に異なっていて各人を精度良く識別することが可能なデータであるので、特定者判定と同一人物判定とを正確に行うことができる。さらに、上述した計数手順により計数した通過人数を表示部14に表示させて通知することで、特定場所における正味の通過人数を一目瞭然で把握することが可能となる。
図7は、本発明の第2実施形態に係る人数計数装置のブロック図である。図中、図1で説明したものと同一部分には同一符号を付してある。図7において、本実施形態に係る人数計数装置102には、図1の人数計数装置101が備える構成に加えて、人検知センサ6が設けられている。この人検知センサ6は、フォトセンサや感熱センサ等といった人を検知することが可能なセンサから構成されていて、特定場所の通路を通過する人を検知して、検知信号をコンピュータ1に送信する。コンピュータ1の制御部11は、人検知センサ6から検知信号を受信する毎に、記憶部12の所定の領域に設けられた延べ通過人数カウンタC2の示す値に1を加算して、通路を通過する全ての人の数である延べ通過人数をカウントする。人検知センサ6と記憶部12の延べ通過人数カウンタC2とは、本発明における延べ通過人数カウント手段の一実施形態を構成する。
図8は、本発明の第2実施形態に係る通過人数の計数手順を示すフローチャートである。図8において、例えば予め設定された前述の計数開始時刻になると、制御部11は、通過者データベース40の記憶内容をクリアし(ステップS31)、記憶部12の延べ通過人数カウンタC2の示す値をクリアする(ステップS32)。この後、制御部11は、人検知センサ6から特定場所の通路を通過する人を検知したことを示す検知信号を受信すると(ステップS33:YES)、延べ通過人数カウンタC2の示す値に1を加算する(ステップS34)。そして、制御部11は、監視用カメラ2から出力される画像データを取得し(ステップS35)、取得した画像データより通過者の顔を検出する(ステップS36)。顔を検出すると、制御部11は、検出した顔をトラッキングし(ステップS37)、トラッキングした顔画像から特徴量を抽出する(ステップS38)。そして、制御部11は、抽出した特徴量と特定者データベース30に記憶されている特定者の特徴量32とを照合して(ステップS39)、今回の通過者が特定者であるか否かを判定する(ステップS40)。ここで、抽出した特徴量と特定者データベース30の特徴量32とが一致すると、制御部11は、特定者であると判断する(ステップS40:YES)。このように判断すると、制御部11は、延べ通過人数カウンタC2の示す値から1を減算し(ステップS41)、次の通過者を処理するためにステップS33へ移行して、再びステップS33〜ステップS41を上述した手順で実行する。
一方、ステップS40で、抽出した特徴量と特定者データベース30の特徴量32とが一致しなければ、制御部11は、特定者ではないと判断する(ステップS40:NO)。このように判断すると、制御部11は、抽出した特徴量と通過者データベース40に記憶されている既通過者の特徴量42とを照合して(ステップS42)、通過者と同一人物が既通過者の中に居るか否かを判定する(ステップS43)。ここで、抽出した特徴量と通過者データベース40の特徴量42とが一致しなければ、制御部11は、同一人物は居ないと判断する(ステップS43:NO)。このように判断すると、制御部11は、抽出した特徴量を通過者の顔データとして通過者データベース40に記憶させて保存する(ステップS46)。
上記に対して、ステップS43で、抽出した特徴量と通過者データベース40の特徴量42とが一致すると、制御部11は、同一人物が居ると判断する(ステップS43:YES)。このように判断すると、制御部11は、抽出した特徴量に関連付けて同一人物検出フラグを立て(ステップS44)、延べ通過人数カウンタC2の示す値から1を減算する(ステップS45)。この後、制御部11は、抽出した特徴量を通過者の顔データとして通過者データベース40に記憶させて保存する(ステップS46)。
特徴量を保存すると、制御部11は、通過人数の計数を終了するか否かを判断する(ステップS47)。ここで、例えば予め設定された前述の計数終了時刻に未だなっていなければ、制御部11は、通過人数の計数を終了しないと判断し(ステップS47:NO)、次の通過者を処理するためにステップS33へ移行して、再びステップS33〜ステップS47を上述した手順で実行する。そして、ステップS33〜ステップS47を何回か繰り返し実行した後に、ステップS47で、計数終了時刻になっていると、制御部11は、通過人数の計数を終了すると判断し(ステップS47:YES)、処理を終了する。処理を終了した後、制御部11は、例えば前述した図6の表示画面50を表示部14に表示させ、当該画面50中の通過人数54の欄に、このときの延べ通過人数カウンタC2の示す値を特定場所の通過人数として表示させる。
上述した第2実施形態のようにすると、通過者が特定者である場合には、通過者の特徴量と通過者データベース40に記憶された既通過者の特徴量とを照合して判定を行わなくなるので、特定者が通過人数の計数を行う特定場所を頻繁に通過しても、通過人数の計数処理に時間がかからないようにすることができる。また、特定者判定において特定者であると判定した場合に(つまり特定者が通過する毎に)、または、同一人物判定において同一人物が居ると判定した場合に(つまり既通過者と同一人物が通過する毎に)、延べ通過人数カウンタC2が示す延べ通過人数から1を減算することで、正味の通過人数を確実に計数することができる。
図9は、本発明の第3実施形態に係る人数計数装置のブロック図である。図中、図1で説明したものと同一部分には同一符号を付してある。図9において、本実施形態に係る人数計数装置103には、図1の人数計数装置101が備える構成に加えて、特定場所の通路を通過する人を検知して延べ通過人数をカウントする人数カウント機器7が設けられている。この人数カウント機器7は、例えば、通路の天井部分に設置した赤外線センサの下を通過する移動体を検出してカウントする機器や、通過者の上からカメラで撮影した映像より頭を検出してカウントする機器や、通過者の上から3Dカメラで撮影した映像より頭と当該頭の高さを検出して、人と人以外の犬や猫等とを区別してカウントする機器等のような公知のカウント機器から構成されている。人数カウント機器7は、本発明における延べ通過人数カウント手段の一実施形態を構成する。コンピュータ1の制御部11は、接続された人数カウント機器7から延べ通過人数を示す延べ通過人数データを取得する。コンピュータ1の記憶部12には、特定者の通過数をカウントするための領域である特定者通過カウンタC3が設けられている。
図10は、本発明の第3実施形態に係る通過者データベース40への通過者の顔データの保存手順を示すフローチャートである。なお、本手順は、例えば予め設定された保存開始時刻(店舗の開店時刻等)から保存終了時刻(店舗の閉店時刻等)までの間に、コンピュータ1の制御部11が所定の周期で実行する。また、制御部11は、例えば保存開始時刻より前に、通過者データベース40の記憶内容をクリアするとともに、記憶部12の特定者通過カウンタC3の示す値をクリアする。人数カウント機器7は、例えば保存開始時刻より前に、延べ通過人数のカウント値をクリア(0に初期化)し、例えば保存開始時刻から保存終了時刻までの間に、延べ通過人数のカウントを行う。
図10において、まず制御部11は、監視用カメラ2から出力される画像データを取得し(ステップS51)、取得した画像データより通過者の顔を検出する(ステップS52)。顔を検出すると、制御部11は、検出した顔をトラッキングし(ステップS53)、トラッキングした顔画像から特徴量を抽出する(ステップS54)。そして、制御部11は、抽出した特徴量と特定者データベース30に記憶されている特定者の特徴量32とを照合して(ステップS55)、今回の通過者が特定者であるか否かを判定する(ステップS56)。ここで、抽出した特徴量と特定者データベース30の特徴量32とが一致しなければ、制御部11は、特定者ではないと判断する(ステップS56:NO)。このように判断すると、制御部11は、抽出した特徴量を通過者の顔データとして通過者データベース40に記憶させて保存し(ステップS57)、処理を終了する。一方、ステップS56で、抽出した特徴量と特定者データベース30の特徴量32とが一致すると、制御部11は、特定者であると判断する(ステップS56:YES)。このように判断すると、制御部11は、特定者通過カウンタC3の示す値に1を加算して(ステップS58)、処理を終了する。この後、制御部11は、上述したようにステップS51〜ステップS58を所定の周期で繰り返し実行する。
図11は、本発明の第3実施形態に係る通過人数の計数手順を示すフローチャートである。なお、本手順は、例えば表示部14に表示される計数開始ボタン(図示省略)が操作されたとき、または、予め設定された計数開始時刻になったときに、コンピュータ1の制御部11が実行する。
図11において、例えば上述した計数開始ボタンが操作されると、制御部11は、人数カウント機器7から延べ通過人数データを取得し(ステップS61)、記憶部12から特定者通過カウンタC3の示す値を読み込む(ステップS62)。続いて、制御部11は、延べ通過人数データの示す延べ通過人数から特定者通過カウンタC3の示す特定者通過数を減算して、通過人数を算出する(ステップS63)。なお、制御部11は、算出した通過人数を制御部11に内蔵されたメモリの所定の領域、または記憶部12の所定の領域に一旦記憶させる。
次に、制御部11は、通過者データベース40から1の特徴量42を読み出す(ステップS64)。なお、通過者データベース40からの特徴量42の読み出しは、例えば保存された順番の早いものまたは遅いものから一つずつ順に行われる。1の特徴量42を読み出すと、制御部11は、当該特徴量42に関連付けて同一人物検出フラグが有るか否かを判定する(ステップS65)。このときはまだ、通過者データベース40から特徴量42を1つしか読み出しておらず、同一人物検出フラグを何も立てていないので、制御部11は、同一人物検出フラグは無いと判断する(ステップS65:NO)。このように判断すると、制御部11は、読み出した1の特徴量42と、通過者データベース40に記憶されている他の特徴量42とを照合して(ステップS66)、1の特徴量42に対応する通過者と同一人物が他の特徴量42に対応する通過者の中に居るか否かを判定する(ステップS67)。ここで、1の特徴量42と他の特徴量42とが一致しなければ、制御部11は、同一人物が居ないと判断し(ステップS67:NO)、ステップS70へ移行する。これに対して、ステップS67で、1の特徴量42と他の特徴量42のいずれかとが一致すると、制御部11は、同一人物が居ると判断し(ステップS67:YES)、1の特徴量42と一致した同一人物に相当する他の特徴量42に関連付けて同一人物検出フラグを立てる(ステップS68)。そして、同一人物検出フラグを全て立て終えると、制御部11は、ステップS70へ移行する。
ステップS70へ移行すると、制御部11は、通過者データベース40から特徴量42を全て読み出したか否かを判定する。このときはまだ、通過者データベース40から特徴量42を1つしか読み出していないので、制御部11は、特徴量42を全て読み出していないと判断する(ステップS70:NO)。このように判断すると、制御部11は、ステップS64へ移行して、通過者データベース40から次の1の特徴量42を読み出し、当該特徴量42に関連付けて同一人物検出フラグが有るか否かを判定する(ステップS65)。このとき、読み出した1の特徴量42が、上述したステップS68において同一人物検出フラグを立てた他の特徴量42であれば、制御部11は、同一人物検出フラグが有ると判断する(ステップS65:YES)。このように判断すると、制御部11は、上述したステップS63において算出した通過人数から1を減算して(ステップS69)、ステップS70へ移行する。なお、制御部11は、減算後の通過人数を減算前の通過人数に上書きして、通過人数を更新する。
再びステップS70へ移行すると、制御部11は、通過者データベース40から特徴量42を全て読み出したか否かを判定し、特徴量42を全て読み出していないと判断すると(ステップS70:NO)、ステップS64へ移行して、ステップS64〜ステップS70を上述した手順で繰り返し実行する。そして、ステップS64〜ステップS70を何回か繰り返して実行した後、制御部11はステップS70で、通過者データベース40から特徴量42を全て読み出したと判断すると(ステップS70:YES)、処理を終了する。処理を終了した後、制御部11は、例えば前述した図6の表示画面50を表示部14に表示させ、当該画面50中の通過人数54の欄に、このときの通過人数を特定場所の通過人数として表示させる。また、図6に示した項目以外に、人数カウント機器7から取得した延べ通過人数と、特定者通過カウンタC3の示す特定者通過数も表示画面50に表示させるようにしてもよい。
上述した第3実施形態のようにすると、通過者が特定者である場合には、図10の保存手順において抽出した特定者の特徴量が通過者データベース40に保存されないので、図11の計数手順において同一人物判定および当該判定のための照合が行われなくなり、通過人数の計数処理に時間がかからないようにすることができる。また、同一人物判定において同一人物が居ると判定した通過者データベース40の他の特徴量42を、その後1の特徴量42として同判定を行わないようにすることで、他の特徴量42に含まれる同一人物の特徴量42同士の照合および同一人物判定が行われなくなるので、当該照合および判定の回数を減少させて、通過人数の計数処理に一層時間がかからないようにすることができる。さらに、人数カウント機器7から取得した延べ通過人数から、特定者通過カウンタC3の示す特定者通過数と、同一人物判定において同一人物が居ると判定して同一人物検出フラグを立てた特徴量42の数とを減算することで、正味の通過人数を確実に計数することができる。
本発明は、以上述べた実施形態以外にも種々の形態を採用することができる。例えば、図7および図8に示した第2実施形態では、延べ通過人数をカウントするために人検知センサ6および述べ通過人数カウンタC2を設けた場合を例に挙げているが、これらに代えて、図9に示した人数カウント機器7を設けるようにしてもよい。この場合、人数カウント機器7がカウントした延べ通過人数を、制御部11で変更できるように制御すればよい。また、図9〜図11に示した第3実施形態では、延べ通過人数をカウントするために人数カウント機器7を設けた場合を例に挙げているが、これに代えて、人検知センサ6および述べ通過人数カウンタC2を設けるようにしてもよい。また、上記以外に、例えば監視用カメラ2からの画像データより人の顔を検出する毎に、延べ通過人数をカウントするようにしてもよい。
また、以上の実施形態では、人の顔の特徴量を、特定者データベース30および通過者データベース40に記憶させた場合を例に挙げているが、特徴量に代えて顔画像自体を記憶させたり、特徴量と顔画像とを両方とも記憶させるようにしてもよい。
また、以上の実施形態では、計数した通過人数を通知する通知手段として、コンピュータ1の表示部14を用いた場合を例に挙げているが、本発明はこれのみに限定するものではない。これ以外に、通知手段として、例えば電光掲示板のような通過人数を表示可能な表示装置や、音声出力回路とスピーカのような通過人数を音声として出力可能な音声出力装置や、プリンタのような通過人数を紙葉類に印字可能な印字装置等を用いるようにしてもよい。つまり、通知手段としては、計数した通過人数を把握できるように通知する手段であればよい。
さらに、以上の実施形態では、人の特徴を示す特徴データとして、人の顔の特徴を示す特徴量を採用した場合を例に挙げているが、本発明はこれのみに限定するものではない。これ以外に、特徴データとして、例えば人の全身のシルエットの特徴を示すデータや、足跡の特徴を示すデータのようなものを採用してもよい。つまり、特徴データとしては各人を識別することが可能なデータであればよい。
第1実施形態に係る人数計数装置のブロック図である。 特定者データベースの記憶内容の一例を示す図である。 通過者データベースの記憶内容の一例を示す図である。 特定者の顔データの登録手順を示すフローチャートである。 第1実施形態に係る計数手順を示すフローチャートである。 表示部に表示される画面の一例を示す図である。 第2実施形態に係る人数計数装置のブロック図である。 第2実施形態に係る計数手順を示すフローチャートである。 第3実施形態に係る人数計数装置のブロック図である。 第3実施形態に係る保存手順を示すフローチャートである。 第3実施形態に係る計数手順を示すフローチャートである。
符号の説明
1 コンピュータ
2 監視用カメラ
3 第1記憶装置
4 第2記憶装置
6 人検知センサ
7 人数カウント機器
11 制御部
C2 延べ通過人数カウンタ
101、102、103 人数計数装置

Claims (5)

  1. 通過する人の特徴を示す特徴データを抽出する抽出手段と、
    特定者の特徴を示す特徴データを予め記憶する第1の記憶手段と、
    前記抽出手段が抽出した通過する人の特徴データを複数記憶する第2の記憶手段と、を備え、
    通過する人から抽出した特徴データと前記第1の記憶手段に記憶された特徴データとを照合して通過する人が特定者であるか否かの第1の判定を行い、当該第1の判定で特定者でないと判定した場合にのみ、前記抽出した特徴データと前記第2の記憶手段に記憶された特徴データとを照合して同一人物が居るか否かの第2の判定を行い、当該第2の判定で同一人物が居ないと判定した場合に、通過人数として計数することを特徴とする人数計数装置。
  2. 通過する人の特徴を示す特徴データを抽出する抽出手段と、
    特定者の特徴を示す特徴データを予め記憶する第1の記憶手段と、
    前記抽出手段が抽出した通過する人の特徴データを複数記憶する第2の記憶手段と、
    通過する人を検知して延べ通過人数をカウントする延べ通過人数カウント手段と、を備え、
    通過する人から抽出した特徴データと前記第1の記憶手段に記憶された特徴データとを照合して通過する人が特定者であるか否かの第1の判定を行い、当該第1の判定で特定者であると判定した場合に、前記延べ通過人数カウント手段が示す値から1を減算し、特定者でないと判定した場合に、前記抽出した特徴データと前記第2の記憶手段に記憶された特徴データとを照合して同一人物が居るか否かの第2の判定を行い、当該第2の判定で同一人物が居ると判定した場合に、前記延べ通過人数カウント手段が示す値から1を減算して、当該減算した結果の値を通過人数とすることを特徴とする人数計数装置。
  3. 請求項1または請求項2に記載の人数計数装置において、
    前記第1の判定で特定者でないと判定した場合にのみ、前記抽出手段が抽出した前記特徴データを前記第2の記憶手段に記憶することを特徴とする人数計数装置。
  4. 通過する人の特徴を示す特徴データを抽出する抽出手段と、
    特定者の特徴を示す特徴データを予め記憶する第1の記憶手段と、
    前記抽出手段が抽出した通過する人の特徴データを複数記憶する第2の記憶手段と、
    通過する人を検知して延べ通過人数をカウントする延べ通過人数カウント手段と、を備え、
    通過する人から抽出した特徴データと前記第1の記憶手段に記憶された特徴データとを照合して通過する人が特定者であるか否かの第1の判定を行い、当該第1の判定で特定者でないと判定した場合にのみ、前記抽出手段が抽出した前記特徴データを前記第2の記憶手段に記憶し、
    前記第2の記憶手段に記憶された1の前記特徴データとその他の前記特徴データとを照合して同一人物が居るか否かの第2の判定を行い、当該第2の判定で同一人物が居ないと判定したときの他の前記特徴データについては、その後1の前記特徴データとして第2の判定を行い、同一人物が居ると判定したときの他の前記特徴データについては、その後1の前記特徴データとして第2の判定を行わず、
    前記延べ通過人数カウント手段が示す値から、前記第1の判定で特定者であると判定した数と、前記第2の判定で同一人物が居ると判定した数とを減算して、当該減算した結果の値を通過人数とすることを特徴とする人数計数装置。
  5. 請求項1ないし請求項4のいずれかに記載の人数計数装置において、
    通過する人を撮像する撮像手段を備え、
    前記抽出手段は、前記撮像手段が撮像した画像から人の顔の特徴を示す顔データを前記特徴データとして抽出し、
    前記第1の記憶手段は、特定者の顔の特徴を示す顔データを前記特徴データとして予め記憶することを特徴とする人数計数装置。
JP2004044241A 2004-02-20 2004-02-20 人数計数装置 Expired - Lifetime JP4374609B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004044241A JP4374609B2 (ja) 2004-02-20 2004-02-20 人数計数装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004044241A JP4374609B2 (ja) 2004-02-20 2004-02-20 人数計数装置

Publications (2)

Publication Number Publication Date
JP2005234947A true JP2005234947A (ja) 2005-09-02
JP4374609B2 JP4374609B2 (ja) 2009-12-02

Family

ID=35017839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004044241A Expired - Lifetime JP4374609B2 (ja) 2004-02-20 2004-02-20 人数計数装置

Country Status (1)

Country Link
JP (1) JP4374609B2 (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006142822A (ja) * 2004-11-17 2006-06-08 Heidelberger Druckmas Ag 機械の状態に応じた安全性確保
JP2008040828A (ja) * 2006-08-07 2008-02-21 Mitsubishi Electric Corp 入退室管理装置
KR100974944B1 (ko) * 2008-06-24 2010-08-09 계영정보통신(주) 공동주택 보안 시스템 및 그것의 서비스방법
JP2013054739A (ja) * 2011-08-31 2013-03-21 Nielsen Co (Us) Llc 画像中の人をカウントするための方法及び装置
TWI397866B (zh) * 2009-04-21 2013-06-01 Hon Hai Prec Ind Co Ltd 物體偵測系統及方法
EP2808838A1 (en) 2013-05-30 2014-12-03 Panasonic Corporation Customer category analysis device, customer category analysis system and customer category analysis method
KR20160078154A (ko) * 2014-12-24 2016-07-04 주식회사 케이티 고객 정보 제공 방법, 장치 및 컴퓨터 프로그램
JP2016122300A (ja) * 2014-12-24 2016-07-07 Necソリューションイノベータ株式会社 画像処理装置、画像処理方法、およびプログラム
JP2017117107A (ja) * 2015-12-22 2017-06-29 株式会社リクルートホールディングス ユーザ数推定システム
JP2017162372A (ja) * 2016-03-11 2017-09-14 富士ゼロックス株式会社 制御装置、処理装置及びプログラム
JP2019061665A (ja) * 2017-09-27 2019-04-18 キヤノンマーケティングジャパン株式会社 画像処理システム、画像処理システムの制御方法、およびプログラム
JP2020068030A (ja) * 2018-10-24 2020-04-30 株式会社リコー 人数カウント方法及び人数カウントシステム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101776706B1 (ko) 2012-11-30 2017-09-08 한화테크윈 주식회사 복수의 카메라 기반 사람계수장치 및 방법
CN105100683A (zh) * 2014-05-04 2015-11-25 深圳市贝尔信智能系统有限公司 一种基于视频的客流统计的方法,装置及系统

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006142822A (ja) * 2004-11-17 2006-06-08 Heidelberger Druckmas Ag 機械の状態に応じた安全性確保
JP2008040828A (ja) * 2006-08-07 2008-02-21 Mitsubishi Electric Corp 入退室管理装置
KR100974944B1 (ko) * 2008-06-24 2010-08-09 계영정보통신(주) 공동주택 보안 시스템 및 그것의 서비스방법
TWI397866B (zh) * 2009-04-21 2013-06-01 Hon Hai Prec Ind Co Ltd 物體偵測系統及方法
JP2013054739A (ja) * 2011-08-31 2013-03-21 Nielsen Co (Us) Llc 画像中の人をカウントするための方法及び装置
US8620088B2 (en) 2011-08-31 2013-12-31 The Nielsen Company (Us), Llc Methods and apparatus to count people in images
US9237379B2 (en) 2011-08-31 2016-01-12 The Nielsen Company (Us), Llc Methods and apparatus to count people in images
EP2808838A1 (en) 2013-05-30 2014-12-03 Panasonic Corporation Customer category analysis device, customer category analysis system and customer category analysis method
KR20160078154A (ko) * 2014-12-24 2016-07-04 주식회사 케이티 고객 정보 제공 방법, 장치 및 컴퓨터 프로그램
JP2016122300A (ja) * 2014-12-24 2016-07-07 Necソリューションイノベータ株式会社 画像処理装置、画像処理方法、およびプログラム
KR102428319B1 (ko) * 2014-12-24 2022-08-02 주식회사 케이티 고객 정보 제공 방법, 장치 및 컴퓨터 프로그램
JP2017117107A (ja) * 2015-12-22 2017-06-29 株式会社リクルートホールディングス ユーザ数推定システム
WO2017110725A1 (ja) * 2015-12-22 2017-06-29 株式会社リクルートホールディングス ユーザ数推定システム
JP2017162372A (ja) * 2016-03-11 2017-09-14 富士ゼロックス株式会社 制御装置、処理装置及びプログラム
JP2019061665A (ja) * 2017-09-27 2019-04-18 キヤノンマーケティングジャパン株式会社 画像処理システム、画像処理システムの制御方法、およびプログラム
JP2020068030A (ja) * 2018-10-24 2020-04-30 株式会社リコー 人数カウント方法及び人数カウントシステム

Also Published As

Publication number Publication date
JP4374609B2 (ja) 2009-12-02

Similar Documents

Publication Publication Date Title
JP4374609B2 (ja) 人数計数装置
TWI336054B (en) Person identification device and person identification method
JP3584334B2 (ja) 人間検出追跡システムおよび人間検出追跡方法
JP5629803B2 (ja) 画像処理装置、撮像装置、画像処理方法
JP5217922B2 (ja) 電子広告システム、電子広告配信装置、及びプログラム
US9530078B2 (en) Person recognition apparatus and person recognition method
JP5390322B2 (ja) 画像処理装置、及び画像処理方法
US7215798B2 (en) Method for forgery recognition in fingerprint recognition by using a texture classification of gray scale differential images
CN106169071B (zh) 一种基于动态人脸与胸卡识别的考勤方法及系统
JP4743823B2 (ja) 画像処理装置、撮像装置、画像処理方法
WO2020134527A1 (zh) 人脸识别的方法及装置
JP2007334623A (ja) 顔認証装置、顔認証方法、および入退場管理装置
JP2007241500A (ja) 顔認証装置および顔認証方法
JP4910717B2 (ja) 年齢確認装置、年齢確認方法、及び年齢確認プログラム
CN106778636A (zh) 身份验证方法及装置
JP4992517B2 (ja) 顔照合装置
JP2007061394A (ja) 監視装置および方法、並びにプログラム
JP2007011723A (ja) 集計装置、集計方法、プログラム及び記録媒体
CN110709857A (zh) 人数管理设备、人数管理方法以及程序
JP2006215858A (ja) 入退場管理システムおよび入退場管理方法
JP2002304651A (ja) 入退室管理装置とその方法、およびこの方法の実行プログラムとこの実行プログラムを記録した記録媒体
CN114299606A (zh) 一种基于前端相机的睡觉检测方法及装置
JP2011068469A (ja) エレベータ制御装置、監視システム、検索再生プログラム、入退室管理システム
JP2013077067A (ja) 顔認証データベース管理方法、顔認証データベース管理装置及び顔認証データベース管理プログラム
JP2007058828A (ja) 映像データにおける不特定多数者の集計処理システム及びプログラム並びに情報記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061031

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090817

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090830

R150 Certificate of patent or registration of utility model

Ref document number: 4374609

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120918

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130918

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250