JP4969291B2 - 移動物体追跡装置 - Google Patents
移動物体追跡装置 Download PDFInfo
- Publication number
- JP4969291B2 JP4969291B2 JP2007092439A JP2007092439A JP4969291B2 JP 4969291 B2 JP4969291 B2 JP 4969291B2 JP 2007092439 A JP2007092439 A JP 2007092439A JP 2007092439 A JP2007092439 A JP 2007092439A JP 4969291 B2 JP4969291 B2 JP 4969291B2
- Authority
- JP
- Japan
- Prior art keywords
- template
- moving object
- unit
- templates
- input image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000008859 change Effects 0.000 claims description 123
- 238000000034 method Methods 0.000 claims description 99
- 238000000605 extraction Methods 0.000 claims description 23
- 239000000284 extract Substances 0.000 claims description 12
- 238000012545 processing Methods 0.000 description 41
- 230000008569 process Effects 0.000 description 37
- 238000002372 labelling Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 9
- 239000006185 dispersion Substances 0.000 description 8
- 238000011156 evaluation Methods 0.000 description 8
- 230000007704 transition Effects 0.000 description 5
- 238000012544 monitoring process Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000012806 monitoring device Methods 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000002265 prevention Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000009194 climbing Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000012854 evaluation process Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012731 temporal analysis Methods 0.000 description 1
- 238000000700 time series analysis Methods 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Description
特許文献1には、交差前の各々の移動物体に関する特徴量(色ヒストグラム)を記憶しておき、交差が解消されたことが検出された場合には、記憶してある特徴量と、交差解消後に各々の移動物体に関して得られる特徴量とを比較して、交差前後の移動物体の対応関係を決定する物体追跡方法が開示されている。
また本装置1において、抽出部30は、変化領域を用いて、移動物体に複数のテンプレートを生成して関連づけ、追跡部40は、複数の該テンプレートを用いて、同一移動物体を追跡する。
また本装置1は、複数のテンプレートを更新する更新部50と、追跡した結果を外部に出力する出力部40とを備えており、これらの処理は制御部10により制御される。また本装置1では、抽出部30および追跡部40における画像処理として、デジタル処理を用いている。
入力部60は、入力インターフェースであり、外部から本装置1により追跡される移動物体の画像を入力する働きを主に有する。入力された画像は、記憶部20に記憶される。本装置1の入力部60には、図1に示すように、外部のカメラ61が接続されている。例えば、カメラ61が画像データをアナログ信号で出力する場合には、このアナログ信号をデジタル信号に変換して、本装置1の各構成要素に出力できるように、入力部60は、A/D変換機能を有していることが好ましい。
本装置1では、カメラ61により、所定の間隔で1フレームの画像が撮像されて、この画像が入力部60に出力される。
記憶部20は、図1に示すように、背景画像記憶領域21および追跡情報記憶領域22を有している。また記憶部20には、制御部10が使用するプログラム、各種設定ファイル、パラメータなどが記憶されている。このプログラムとしては、例えば抽出処理、追跡処理および更新処理に用いるものがある。各種設定ファイルまたはパラメータとしては、例えば、各処理で用いられる閾値または処理の状態を表すフラグなどがある。また記憶部20は、各プログラムが実行される場合のワークエリアを有している。
抽出部30は、入力画像から、移動物体により生じた変化領域を抽出し、この変化領域を用いて、移動物体に複数のテンプレートを生成して関連づける。抽出部30は、図1に示すように、差分処理手段31と、ラベリング手段32と、テンプレート生成手段33とを有している。
具体的には本装置1では、差分処理手段31が、まずカメラ61により取得された入カ画像と、背景画像記憶領域21に記憶されている背景画像との差分の絶対値を画素毎に求めて、差分画像を作成し、次にこの差分画像を、記憶部20に記憶されている2値化の閾値にしたがって2値化処理を行う。このように差分処理手段31は、入カ画像から所定の値以上の変化が生じた画素を、移動物体の属性を有する画素として上記差分画像から抽出して、2値画像を作成する。
上記基準としては、例えば中心画素に対して、上下左右方向の計4画素を連結させること、または、斜め方向の画素を含めた計8画素を連結させることが挙げられる。
入力画像における移動物体の位置および寸法は、上述した変化領域の情報として追跡情報記憶領域22に記憶される。テンプレートの生成に際しては、この情報が用いられる。
カメラ61の視野内を人が立って歩行している場合には、図2(a)〜(e)に示すように、人の形状は細長い。したがって、立って歩行する人から抽出された変化領域は、細長い形状を有している。そこで、この変化領域の長手方向の軸である主軸を求め、それを基準に対称性などを考慮して、幾何学的にテンプレートを生成する方法がある。
図2(a)〜(e)に示す例では、いずれにおいても、頭部は、その輪郭全体が覆われるように、1つのテンプレートが生成して配置されている。
一般に、人を追跡する際には、生成する追跡用テンプレートの数は、2〜8個、特に3〜5個であることが、上述した観点から好ましい。
上述した幾何学的にテンプレートを生成する方法は、単純であり画像処理が容易である。
また、移動物体の特徴的な部分に着目し、その部分を含むようにテンプレートを生成することができる。移動物体間で異なる部分の指標となる特徴量としては、例えばテクスチャまたは色などの情報を用いることができる。
まず、複数の移動物体それぞれを、テクスチャを測度として、複数のセグメントに領域分割(セグメンテーション)して、テンプレートを生成する。
上述したテンプレートを生成する方法は、複数の移動物体の画像情報それぞれについて、他の移動物体とは異なる特徴的な部分に着目するので、移動物体の高い追跡精度が期待できる。
また、テンプレート内の輝度分散が大きくなるように、すなわち、テンプレート内に多くの輝度値が含まれるようにテンプレート生成してもよい。
具体的には、テンプレートを移動物体の主軸上で中心の位置をずらし、該テンプレート内部の輝度分散を計算しながら、複数のテンプレートを生成し、生成したテンプレートを、その輝度分散の値が大きい順に並べる。そして、輝度分散の値が大きい順から必要な数だけのテンプレートを選択して、移動物体に関連づけてもよい。
また、前述の幾何学的な方法によりテンプレートを生成した場合、移動物体によってはテンプレート内の輝度分散がごく小さくなることがある。このような場合、テンプレートが単輝度(単色)となってしまい、テンプレート追跡においてその一致箇所を一意に特定できない、という問題(開口問題と呼ばれる)が起こり得る。本手法を用いてテンプレートを作成すれば、このような問題を回避し、安定に追跡を行うことができる。
追跡部40は、図1に示すように、予測手段41と、マッチング手段42と、判定手段43とを有している。追跡部40は、追跡情報記憶領域22に記憶されている全ての移動物体に対して、この移動物体に関連づけられている各テンプレートを用いて、移動物体の追跡処理を行う。
予測されたテンプレートの位置は、移動物体に関連づけられて、追跡情報記憶領域22に記憶される。
なお、本実施の形態では、予測手段41にてテンプレートの位置を予測しているが、コンピュータの処理負荷に余裕があれば予測手段41を省略し、画像全体に対してマッチングスコアを求めるようにしてもよい。
上述したマッチング手段42で用いられる、最大マッチングスコアの判定に使用される閾値、および、上記所定の期間は、記憶部20に記憶されている。
このような場合には、判定手段43が、以下に述べるように、重み付きの評価処理を行うことによって、対応する移動物体を決定する。
次に、判定手段43は、各テンプレートについて、テンプレートと入力画像との一致の度合いを表わす量δmを求める。δmは、例えば、最大マッチングスコアの時間平均から求めることができる。
そして、判定手段43は、最大の評価値を有する変化領域に、現時点の移動物体が対応すると考える。このようにして、移動物体の現時点の位置が追跡される。
一方、過去の時点において複数の移動物体それぞれに関連づけられていた複数のテンプレートが、現時点における1つの変化領域に関連づけられる場合もある。これは、複数の移動物体が移動により交差して重なることにより、それらに対応した変化領域が結合して、一体化した変化領域となった場合である。このような交差した状態は、状態の変化として、追跡情報記憶領域22に記憶される。
更新部50は、図1に示すように、背景画像更新手段51と、テンプレート更新手段52とを有している。
カメラ61の視野の状況には、例えば、日照変動により、明るさまたは影の形状などに経時変化がある。そこで、視野内に移動物体が存在しないという条件のもと、背景画像更新手段51により、背景画像が更新される。上記基準としては、例えば、所定の時間間隔を用いてもよい。
この方法では、ある一定の間隔(例えば5フレームごとなど)をあけて、テンプレートの更新処理が行われる。
この方法では、マッチング手段42により得られた上記最大マッチングスコアの値が、所定の値以下になった場合に、テンプレートの更新処理が行われる。つまり、過去の時点の最大マッチングスコアと比べて現時点での最大マッチングスコアが減少して、テンプレートが有する誤差が大きくなったと判断された場合に、テンプレートが更新される。
マッチング手段42でヒストグラムマッチング法が用いられた場合、この方法では、マッチング手段42によって上記最大マッチングスコアが得られた位置における入力画像の輝度ヒストグラムと、テンプレートの輝度ヒストグラムとを用いて、各輝度ヒストグラムに重みづけをして線形和をとり、この線形和を更新されたテンプレートとすることもできる。
詳述すると、複数のテンプレートの中から基準となる基準テンプレートを選択し、この基準テンプレートから所定の距離以上を離れた乖離テンプレートを、基準プレートの位置を加味して、この乖離テンプレートの位置を修正する。上記基準テンプレートとしては、例えば最大マッチングスコアが最も高い値を有するテンプレートを選択することが、関連付けられている移動物体の動きを適切にとらえる観点から好ましい。上記乖離テンプレートの位置の修正方法としては、例えば、乖離テンプレートの位置の変化量(例えば重心の位置の変化量)と、基準テンプレートの変化量とに、所定の重みを付けて線形和をとる方法が挙げられる。この重みは、固定値でもよいし、または、基準テンプレートと乖離テンプレートとの間の距離にしたがって大きくしてもよい。また上記重みは、テンプレートごとに異なった値を有していてもよい。
このテンプレートの更新処理を、図3に示す例を用いて説明する。図3(a)および(c)に示すように、移動物体M1、M2があり、頭部、胴体部および脚部に、それぞれテクスチャが異なった特徴的な部分を有している。具体的に移動物体M1に着目してみると、移動物体M1は、頭部の上部に移動物体M2とは異なる特徴的なテクスチャを有しており、また胴体部から脚部にかけて、その中央部には上下に縦長の特徴的なテクスチャを有している。
出力部70は、本装置1の処理の結果などを外部に出力する。出力部70は、画面、プリンタ、出力インターフェースなどの出力手段を有している。本装置1が、監視装置の一部として用いられている場合には、移動物体に関する追跡結果が、監視装置本体に、出力部70から出力される。追跡結果の内容は、具体的には、移動物体の番号、移動物体から抽出された変化領域の番号、各時点における位置および速度などの情報がある。また、追跡している移動物体の動きが、所定の基準にしたがって異常と判断される場合には、異常の警報を、出力部70から出力してもよい。
制御部10は、記憶部20に記憶されているプログラムに基づいて、上述した各構成要素の処理を制御する。また制御部10は、外部から入力される画像などのデータを、入力部60により入力する処理を制御し、追跡結果などの情報を、出力部70から外部に出力する処理を制御する。
そこで、テンプレートの対応づけがされていない全ての変化領域に対して、下記ステップS108の処理を行う。
図7(a)に示すように、もし、1つの変化領域に、ある移動物体に関連づけられている全てのテンプレートが対応しているのならば、S200の判断はYesであり、次に、ステップS204の前に進む。
図7(a)に示す例では、移動物体M1から抽出された変化領域S1には、移動物体に関連づけられている全てのテンプレートM1−1、M1−2、M1−3が対応している。
図7(b)に示す例では、移動物体M1から抽出された変化領域S1に、2つのテンプレートM1−1、M1−2が対応しており、移動物体M2から抽出された変化領域S2に、テンプレートM1−3が対応している。このテンプレートM1−3は、移動物体M1に関連づけられていたテンプレートである。実際には、この段階では、変化領域S1が移動物体M1に対応しており、変化領域S2が移動物体M2に対応しているとは判断されていない。
図7(c)に示す例では、変化領域S1に対応しているテンプレートM1−1、M1−2の重みが、それぞれ、0.7、1.2であり、変化領域S2に対応しているテンプレートM1−3の重みが、1.0となっている。
図7(d)に示す例では、変化領域S1に関する評価値は、1.9であり、変化領域S2に関する評価値は1.0である。
図7(e)に示す例のように、変化領域S1が、テンプレートM1−1およびM1−2と対応付けられることにより、変化領域S1が移動物体M1であると判断される。
この移動物体M1のように、追跡を誤ってテンプレートの数が減少した場合には、残されたテンプレートを参照して、テンプレート生成手段33により、新たなテンプレートを生成して移動物体M1に関連づけてもよい。
図9に示す例では、追跡情報記憶領域22に記憶されている記憶内容として、時点、移動物体番号、変化領域番号、移動物体に対応づけられているテンプレート番号、状況および追跡状態が示されている。
追跡情報記憶領域22には、移動物体M1に関連した情報として、移動物体番号、変化領域番号、テンプレート番号が記憶される。また、こうした状況と、追跡開始の状態が記憶される。
この状態は判定手段43により、交差状態と判定され、追跡情報記憶領域22には、図9に示すように、状況が、交差と記憶される。
10 制御部
20 記憶部
21 背景画像記憶領域
22 追跡情報記憶領域
30 抽出部
31 差分処理手段
32 ラベリング手段
33 テンプレート生成手段
40 追跡部
41 予測手段
42 マッチング手段
43 判定手段
50 更新部
51 背景画像更新手段
52 テンプレート更新手段
60 入力部
61 カメラ
70 出力部
Claims (6)
- 順次入力される入力画像から同一移動物体をテンプレートを用いて追跡する移動物体追跡装置であって、
前記入力画像から移動物体に起因する変化領域を抽出する抽出部と、
前記変化領域から異なる複数の前記テンプレートを生成するテンプレート生成手段と、
前記移動物体と前記複数のテンプレートとを関連づけて記憶した記憶部と、
前記記憶部に記憶している前記テンプレートと前記入力画像との類似したテンプレート候補を抽出するマッチング手段と、
前記テンプレート候補が前記入力画像にて抽出された変化領域と重なりを有するか否かを判定し、前記重なりを有すると判定されたテンプレート候補が当該変化領域に対応づくと判定する判定手段と、
前記判定手段が対応づくと判定したテンプレート候補にて前記記憶部のテンプレートを更新する更新手段と、
を備えていることを特徴とする移動物体追跡装置。 - 前記テンプレート生成手段は、複数の前記テンプレートのうち少なくとも1のテンプレートが、前記変化領域の少なくとも輪郭の一部を有するようにテンプレートを生成する請求項1に記載の移動物体追跡装置。
- 前記記憶部は、更に前記テンプレートごとに位置情報を記憶しており、
前記記憶部に記憶されている前記テンプレートごとに、前記入力画像における前記テンプレート候補の位置を前記位置情報に基づき予測する予測手段を有し、
前記マッチング手段は、前記予測手段が予測した範囲にて前記テンプレート候補を抽出し、
前記更新手段は、更新した前記テンプレートの位置情報も併せて更新する請求項1または2に記載の移動物体追跡装置。 - 前記マッチング手段は、前記テンプレートと前記入力画像とのマッチングを調べてマッチングスコアを求め、該マッチングスコアが所定の閾値以上である該入力画像の部分を前記テンプレート候補とする請求項1から3のいずれか一項に記載の移動物体追跡装置。
- 前記判定手段は、一つの変化領域に同一移動物体に対応した複数の前記テンプレートのテンプレート候補の全てが対応していると、複数の該テンプレート候補の全てを前記変化領域に対応づけ、
複数の変化領域に同一移動物体に対応した複数の前記テンプレートのテンプレート候補の一部が対応していると、当該テンプレート候補と前記入力画像との類似度合いの総和を前記変化領域ごとに算出し、該テンプレート候補が前記総和の最大の変化領域に対応づくと判定する請求項1から4のいずれか一項に記載の移動物体追跡装置。 - 前記入力画像は、天井に設置され下方向に撮影した画像である請求項1から5のいずれか一項に記載の移動物体追跡装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007092439A JP4969291B2 (ja) | 2007-03-30 | 2007-03-30 | 移動物体追跡装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007092439A JP4969291B2 (ja) | 2007-03-30 | 2007-03-30 | 移動物体追跡装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008250772A JP2008250772A (ja) | 2008-10-16 |
JP4969291B2 true JP4969291B2 (ja) | 2012-07-04 |
Family
ID=39975621
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007092439A Active JP4969291B2 (ja) | 2007-03-30 | 2007-03-30 | 移動物体追跡装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4969291B2 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5399756B2 (ja) * | 2009-03-31 | 2014-01-29 | セコム株式会社 | 複合型監視装置 |
JP5365327B2 (ja) * | 2009-04-22 | 2013-12-11 | 株式会社ニコン | 被写体追尾装置、およびカメラ |
JP5236607B2 (ja) * | 2009-09-25 | 2013-07-17 | セコム株式会社 | 異常検知装置 |
JP5476955B2 (ja) * | 2009-12-04 | 2014-04-23 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
JP5758165B2 (ja) * | 2011-03-30 | 2015-08-05 | セコム株式会社 | 物品検出装置および静止人物検出装置 |
JP5746926B2 (ja) * | 2011-07-27 | 2015-07-08 | 日立アロカメディカル株式会社 | 超音波画像処理装置 |
JP6521626B2 (ja) * | 2014-12-25 | 2019-05-29 | キヤノン株式会社 | 被写体追跡装置、方法およびプログラム |
JP6768537B2 (ja) * | 2017-01-19 | 2020-10-14 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム |
JP7396115B2 (ja) | 2020-02-26 | 2023-12-12 | 富士通株式会社 | テンプレート画像更新プログラム、テンプレート画像更新方法、及びテンプレート画像更新装置 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3200950B2 (ja) * | 1992-04-24 | 2001-08-20 | 株式会社日立製作所 | 物体認識装置 |
JPH096947A (ja) * | 1995-06-23 | 1997-01-10 | Toyota Central Res & Dev Lab Inc | 物体追跡装置 |
JP3850602B2 (ja) * | 1999-10-18 | 2006-11-29 | 三菱電機株式会社 | 移動体検出装置および移動体検出方法 |
JP3448640B2 (ja) * | 2000-06-14 | 2003-09-22 | 国土交通省国土技術政策総合研究所長 | 車両追跡方法及び車両追跡装置 |
JP2005149145A (ja) * | 2003-11-14 | 2005-06-09 | Konica Minolta Holdings Inc | 物体検出装置、物体検出方法、およびコンピュータプログラム |
JP4469980B2 (ja) * | 2004-12-21 | 2010-06-02 | 国立大学法人静岡大学 | 移動体追跡のための画像処理方法 |
-
2007
- 2007-03-30 JP JP2007092439A patent/JP4969291B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2008250772A (ja) | 2008-10-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4874150B2 (ja) | 移動物体追跡装置 | |
JP4969291B2 (ja) | 移動物体追跡装置 | |
US11789545B2 (en) | Information processing device and method, program and recording medium for identifying a gesture of a person from captured image data | |
JP4884331B2 (ja) | 移動物体追跡装置 | |
JP7003628B2 (ja) | 物体追跡プログラム、物体追跡装置、及び物体追跡方法 | |
US7916944B2 (en) | System and method for feature level foreground segmentation | |
JP5498454B2 (ja) | 追跡装置、追跡方法およびプログラム | |
JP2016099941A (ja) | オブジェクト位置推定システム、及びそのプログラム | |
JP4373840B2 (ja) | 動物体追跡方法、動物体追跡プログラムおよびその記録媒体、ならびに、動物体追跡装置 | |
JP6362085B2 (ja) | 画像認識システム、画像認識方法およびプログラム | |
JP5925557B2 (ja) | 画像照合装置 | |
US10762372B2 (en) | Image processing apparatus and control method therefor | |
JP2007188294A (ja) | 画像処理による移動体候補の検出方法及び移動体候補から移動体を検出する移動体検出方法、移動体検出装置及び移動体検出プログラム | |
JP2008035301A (ja) | 移動体追跡装置 | |
JP2011089784A (ja) | 物体方向推定装置 | |
JP2007219603A (ja) | 人物追跡装置、人物追跡方法および人物追跡プログラム | |
TWI503790B (zh) | 多重目標影像辨識與追蹤方法 | |
JP5241687B2 (ja) | 物体検出装置及び物体検出プログラム | |
JP6555940B2 (ja) | 被写体追跡装置、撮像装置、及び被写体追跡装置の制御方法 | |
JP6265370B2 (ja) | 対象物追跡方法及び対象物追跡システム | |
JP2008009498A (ja) | 転倒検知装置、プログラム、転倒検知方法、及び転倒検知システム | |
JP6350331B2 (ja) | 追尾装置、追尾方法及び追尾プログラム | |
JP2004295416A (ja) | 画像処理装置 | |
AlGhamdi et al. | Automatic motion tracking of a human in a surveillance video | |
JP2011043863A (ja) | 対象領域判定・追跡装置、方法、プログラム及び対象領域判定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100310 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110722 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110809 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111007 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120306 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120403 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150413 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4969291 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |