JP4922472B1 - 情報処理装置、情報処理方法、情報処理装置用プログラム、および、記録媒体 - Google Patents
情報処理装置、情報処理方法、情報処理装置用プログラム、および、記録媒体 Download PDFInfo
- Publication number
- JP4922472B1 JP4922472B1 JP2011215415A JP2011215415A JP4922472B1 JP 4922472 B1 JP4922472 B1 JP 4922472B1 JP 2011215415 A JP2011215415 A JP 2011215415A JP 2011215415 A JP2011215415 A JP 2011215415A JP 4922472 B1 JP4922472 B1 JP 4922472B1
- Authority
- JP
- Japan
- Prior art keywords
- particle
- image
- frame
- information processing
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20076—Probabilistic image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20224—Image subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30221—Sports video; Sports image
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
【解決手段】動画の予め選択された1のフレームの画像における対象物2上に少なくとも1つのパーティクルpを設定し(S3)、予め選択された1のフレーム20以降、動画における時間的に前のフレームと時間的に後のフレームとを順次取得し(S4)、取得される前のフレームの画像と後のフレームの画像との背景差分画像30を算出し(S5)、算出された背景差分画像に応じて、パーティクルの追跡範囲の外縁3aを決定し、前のフレームの画像におけるパーティクルの位置を基準とする所定範囲内かつ追跡範囲の外縁内であって、基準としたパーティクルの位置の画素の色情報と類似の色情報を有する画素の位置に、後のフレームの画像におけるパーティクルを設定し(S6)、設定されたパーティクルの位置から、後のフレームの画像における対象物の位置を特定する(S9)。
【選択図】図2
Description
まず、本発明の一実施形態に係る情報処理装置の構成および概要機能について、図1を用いて説明する。
(2.1 情報処理装置10の動作例)
次に、本発明の1実施形態に係る情報処理装置10の動作例について図2から図8を用い説明する。図2は、情報処理装置10の動作例を示すフローチャートである。図3は、情報処理装置10が処理する動画のフレームの一例を示す模式図である。図4は、フレーム内の対象物にパーティクルを設定の一例を示す模式図である。図5は、フレームに対する背景差分画像一例を示す模式図である。図6は、対象物にパーティクルに対する色相角度の一例を示す模式図である。図7は、情報処理装置10が処理する動画のフレームにおいて、対象物の追跡の一例を示す模式図である。図8は、パーティクルの増減の一例を示す模式図である。
(2.2.1 パーティクルの生成)
次に、パーティクル設定のサブルーチンにおけるパーティクルの生成について図9から図11を用いて説明する。
次に、パーティクル設定のサブルーチンにおけるパーティクルの消失について図9、図12および図13を用いて説明する。
図14は、本実施形態の方法を使用した場合と、使用しない場合とにおけるパーティクル数の推移の一例を示す線図である。なお、パーティクル数は、フレーム内全体のパーティクルの数を示した。
次に、パーティクル設定のサブルーチンの変形例について図15を用いて説明する。
図15は、パーティクル設定のサブルーチンの変形例を示すフローチャートである。
2a:ヘルメット部分
2b:勝負服部分
3a:背景差分画像のヘルメット部分(追跡範囲の外縁)
10:情報処理装置
12:記憶部(記憶手段)
16:システム制御部
16c:RAM(記憶手段)
20:フレーム
25、26:サーチ領域
30:背景差分画像
p:パーティクル
Claims (7)
- 複数のフレームからなる動画中における所定の対象物を追跡する情報処理装置において、
前記動画の予め選択された1のフレームの画像における前記対象物上に少なくとも1つのパーティクルを設定するパーティクル初期設定手段と、
前記予め選択された1のフレーム以降、前記動画における時間的に前のフレームと時間的に後のフレームとを順次取得するフレーム取得手段と、
前記フレーム取得手段により取得される前記前のフレームの画像と前記後のフレームの画像との画素値の相違度が閾値以上であって、前記前のフレームの画像における前記対象物に対応する部分をパーティクルの追跡範囲の外縁として決定する追跡範囲外縁決定手段と、
前記前のフレームの画像におけるパーティクルの位置を基準とする所定範囲内かつ前記追跡範囲外縁決定手段により決定された外縁内であって、前記基準としたパーティクルの位置の画素の色情報と類似の色情報を有する画素の位置に、前記後のフレームの画像におけるパーティクルを設定するパーティクル設定手段と、
前記パーティクル設定手段により設定されたパーティクルの位置から、前記後のフレームの画像における前記対象物の位置を特定する対象物特定手段と、
を備えることを特徴とする情報処理装置。 - 請求項1に記載の情報処理装置において、
前記パーティクル初期設定手段が、前記対象物の複数の部分に、各々前記パーティクルを設定し、
前記対象物の各部分のパーティクルが位置する画素の色相を各々算出し、前記部分間の色相の角度を算出する色相角度算出手段を更に備え、
前記対象物特定手段が、前記色相角度算出手段により算出された部分間の色相の角度にも基づき、前記対象物の位置を特定することを特徴とする情報処理装置。 - 請求項1または請求項2に記載の情報処理装置において、
前記パーティクル設定手段により設定されたパーティクルに基づき、前記対象物の追跡が可能か否かを判定する追跡判定手段と、
前記追跡判定手段が追跡不可能と判定した場合に、前記パーティクル初期設定手段または前記パーティクル設定手段により設定されたパーティクルの位置に応じて、前記後のフレームの画像におけるパーティクルを再設定するパーティクル再設定手段と、
を更に備えたことを特徴とする情報処理装置。 - 請求項1から請求項3のいずれか1項に記載の情報処理装置において、
前記パーティクル初期設定手段またはパーティクル設定手段が設定したパーティクルの位置を記憶する記憶手段を更に備え、
前記追跡範囲外縁決定手段が前記追跡範囲の外縁を決定することが不可能である場合に、前記パーティクル設定手段が、前記記憶手段を参照し、前記追跡範囲の外縁を決定することが不可能とされる前のフレームにおけるパーティクルの位置に応じて、前記後のフレームの画像におけるパーティクルを設定することを特徴とする情報処理装置。 - 複数のフレームからなる動画中における所定の対象物を追跡する情報処理方法において、
前記動画の予め選択された1のフレームの画像における前記対象物上に少なくとも1つのパーティクルを設定するパーティクル初期設定ステップと、
前記予め選択された1のフレーム以降、前記動画における時間的に前のフレームと時間的に後のフレームとを順次取得するフレーム取得ステップと、
前記フレーム取得ステップにおいて取得される前記前のフレームの画像と前記後のフレームの画像との画素値の相違度が閾値以上であって、前記前のフレームの画像における前記対象物に対応する部分をパーティクルの追跡範囲の外縁として決定する追跡範囲外縁決定ステップと、
前記前のフレームの画像におけるパーティクルの位置を基準とする所定範囲内かつ前記追跡範囲外縁決定ステップにおいて決定された外縁内であって、前記基準としたパーティクルの位置の画素の色情報と類似の色情報を有する画素の位置に、前記後のフレームの画像におけるパーティクルを設定するパーティクル設定ステップと、
前記パーティクル設定ステップにおいて設定されたパーティクルの位置から、前記後のフレームの画像における前記対象物の位置を特定する対象物特定ステップと、
を含むことを特徴とする情報処理方法。 - 複数のフレームからなる動画中における所定の対象物を追跡する情報処理装置用のプログラムにおいて、
コンピュータを、
前記動画の予め選択された1のフレームの画像における前記対象物上に少なくとも1つのパーティクルを設定するパーティクル初期設定手段、
前記予め選択された1のフレーム以降、前記動画における時間的に前のフレームと時間的に後のフレームとを順次取得するフレーム取得手段、
前記フレーム取得手段により取得される前記前のフレームの画像と前記後のフレームの画像との画素値の相違度が閾値以上であって、前記前のフレームの画像における前記対象物に対応する部分をパーティクルの追跡範囲の外縁として決定する追跡範囲外縁決定手段、
前記前のフレームの画像におけるパーティクルの位置を基準とする所定範囲内かつ前記追跡範囲外縁決定手段により決定された外縁内であって、前記基準としたパーティクルの位置の画素の色情報と類似の色情報を有する画素の位置に、前記後のフレームの画像におけるパーティクルを設定するパーティクル設定手段、および、
前記パーティクル設定手段により設定されたパーティクルの位置から、前記後のフレームの画像における前記対象物の位置を特定する対象物特定手段として機能させることを特徴とする情報処理装置用プログラム。 - 複数のフレームからなる動画中における所定の対象物を追跡する情報処理装置用のプログラムであって、
コンピュータを、
前記動画の予め選択された1のフレームの画像における前記対象物上に少なくとも1つのパーティクルを設定するパーティクル初期設定手段、
前記予め選択された1のフレーム以降、前記動画における時間的に前のフレームと時間的に後のフレームとを順次取得するフレーム取得手段、
前記フレーム取得手段により取得される前記前のフレームの画像と前記後のフレームの画像との画素値の相違度が閾値以上であって、前記前のフレームの画像における前記対象物に対応する部分をパーティクルの追跡範囲の外縁として決定する追跡範囲外縁決定手段、
前記前のフレームの画像におけるパーティクルの位置を基準とする所定範囲内かつ前記追跡範囲外縁決定手段により決定された外縁内であって、前記基準としたパーティクルの位置の画素の色情報と類似の色情報を有する画素の位置に、前記後のフレームの画像におけるパーティクルを設定するパーティクル設定手段、および、
前記パーティクル設定手段により設定されたパーティクルの位置から、前記後のフレームの画像における前記対象物の位置を特定する対象物特定手段として機能させることを特徴とする情報処理装置用プログラムがコンピュータ読み取り可能に記録された記録媒体。
Priority Applications (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011215415A JP4922472B1 (ja) | 2011-09-29 | 2011-09-29 | 情報処理装置、情報処理方法、情報処理装置用プログラム、および、記録媒体 |
CN201280002614.2A CN103140876B (zh) | 2011-09-29 | 2012-03-06 | 信息处理装置、信息处理方法、信息处理装置用程序以及记录介质 |
EP12824838.2A EP2605215B1 (en) | 2011-09-29 | 2012-03-06 | Information processing device, information processing method, program for information processing device, and recording medium |
ES12824838.2T ES2586553T3 (es) | 2011-09-29 | 2012-03-06 | Dispositivo de procesamiento de información, método de procesamiento de información, programa para dispositivo de procesamiento de información y medio de grabación |
PCT/JP2012/055681 WO2013046749A1 (ja) | 2011-09-29 | 2012-03-06 | 情報処理装置、情報処理方法、情報処理装置用プログラム、および、記録媒体 |
US13/816,886 US8836791B2 (en) | 2011-09-29 | 2012-03-06 | Information processing device, information processing method, program for information processing device, and recording medium |
TW101108926A TWI399705B (zh) | 2011-09-29 | 2012-03-15 | Information processing apparatus, information processing method, information processing apparatus, program product and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011215415A JP4922472B1 (ja) | 2011-09-29 | 2011-09-29 | 情報処理装置、情報処理方法、情報処理装置用プログラム、および、記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP4922472B1 true JP4922472B1 (ja) | 2012-04-25 |
JP2013077073A JP2013077073A (ja) | 2013-04-25 |
Family
ID=46243830
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011215415A Active JP4922472B1 (ja) | 2011-09-29 | 2011-09-29 | 情報処理装置、情報処理方法、情報処理装置用プログラム、および、記録媒体 |
Country Status (7)
Country | Link |
---|---|
US (1) | US8836791B2 (ja) |
EP (1) | EP2605215B1 (ja) |
JP (1) | JP4922472B1 (ja) |
CN (1) | CN103140876B (ja) |
ES (1) | ES2586553T3 (ja) |
TW (1) | TWI399705B (ja) |
WO (1) | WO2013046749A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8836791B2 (en) | 2011-09-29 | 2014-09-16 | Rakuten, Inc. | Information processing device, information processing method, program for information processing device, and recording medium |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5248685B1 (ja) * | 2012-01-20 | 2013-07-31 | 楽天株式会社 | 動画検索装置、動画検索方法、記録媒体、ならびに、プログラム |
JP6071419B2 (ja) * | 2012-10-25 | 2017-02-01 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP5894707B2 (ja) * | 2013-06-28 | 2016-03-30 | 楽天株式会社 | 情報処理装置、情報処理方法、および、情報処理装置用プログラム |
JP5818050B1 (ja) * | 2015-01-28 | 2015-11-18 | ビックリック株式会社 | ステータス判定システム |
JP2017187969A (ja) * | 2016-04-07 | 2017-10-12 | 富士通株式会社 | 画像処理装置、画像処理プログラム、及び画像処理方法 |
WO2017203705A1 (ja) * | 2016-05-27 | 2017-11-30 | 楽天株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
EP3582181B1 (en) * | 2018-06-14 | 2020-04-01 | Axis AB | Method, device and system for determining whether pixel positions in an image frame belong to a background or a foreground |
CN109859149B (zh) * | 2019-01-25 | 2023-08-08 | 成都泰盟软件有限公司 | 一种设定目标查找区域小动物运动跟踪方法 |
US11631251B2 (en) * | 2020-02-23 | 2023-04-18 | Tfi Digital Media Limited | Method and system for jockey and horse recognition and tracking |
CN117409044B (zh) * | 2023-12-14 | 2024-06-14 | 深圳卡思科电子有限公司 | 一种基于机器学习的智能对象动态跟随方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007233798A (ja) * | 2006-03-02 | 2007-09-13 | Nippon Hoso Kyokai <Nhk> | 映像オブジェクト追跡装置および映像オブジェクト追跡プログラム |
JP2007249885A (ja) * | 2006-03-20 | 2007-09-27 | Nippon Telegr & Teleph Corp <Ntt> | 動体追跡装置、動体追跡方法及びその方法を実現したプログラムを格納した記録媒体 |
JP2010061478A (ja) * | 2008-09-04 | 2010-03-18 | Sony Computer Entertainment Inc | 画像処理装置、対象物追跡装置および画像処理方法 |
JP2010147560A (ja) * | 2008-12-16 | 2010-07-01 | Victor Co Of Japan Ltd | 目標追尾装置 |
JP2011107839A (ja) * | 2009-11-13 | 2011-06-02 | Fujitsu Ltd | 追跡方法、監視システム及びプログラム |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100754385B1 (ko) * | 2004-09-30 | 2007-08-31 | 삼성전자주식회사 | 오디오/비디오 센서를 이용한 위치 파악, 추적 및 분리장치와 그 방법 |
JP4687772B2 (ja) * | 2008-11-06 | 2011-05-25 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム |
JP5468773B2 (ja) | 2008-12-24 | 2014-04-09 | 株式会社ソニー・コンピュータエンタテインメント | 画像処理装置および画像処理方法 |
JP4922472B1 (ja) | 2011-09-29 | 2012-04-25 | 楽天株式会社 | 情報処理装置、情報処理方法、情報処理装置用プログラム、および、記録媒体 |
-
2011
- 2011-09-29 JP JP2011215415A patent/JP4922472B1/ja active Active
-
2012
- 2012-03-06 CN CN201280002614.2A patent/CN103140876B/zh active Active
- 2012-03-06 US US13/816,886 patent/US8836791B2/en active Active
- 2012-03-06 ES ES12824838.2T patent/ES2586553T3/es active Active
- 2012-03-06 EP EP12824838.2A patent/EP2605215B1/en active Active
- 2012-03-06 WO PCT/JP2012/055681 patent/WO2013046749A1/ja active Application Filing
- 2012-03-15 TW TW101108926A patent/TWI399705B/zh active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007233798A (ja) * | 2006-03-02 | 2007-09-13 | Nippon Hoso Kyokai <Nhk> | 映像オブジェクト追跡装置および映像オブジェクト追跡プログラム |
JP2007249885A (ja) * | 2006-03-20 | 2007-09-27 | Nippon Telegr & Teleph Corp <Ntt> | 動体追跡装置、動体追跡方法及びその方法を実現したプログラムを格納した記録媒体 |
JP2010061478A (ja) * | 2008-09-04 | 2010-03-18 | Sony Computer Entertainment Inc | 画像処理装置、対象物追跡装置および画像処理方法 |
JP2010147560A (ja) * | 2008-12-16 | 2010-07-01 | Victor Co Of Japan Ltd | 目標追尾装置 |
JP2011107839A (ja) * | 2009-11-13 | 2011-06-02 | Fujitsu Ltd | 追跡方法、監視システム及びプログラム |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8836791B2 (en) | 2011-09-29 | 2014-09-16 | Rakuten, Inc. | Information processing device, information processing method, program for information processing device, and recording medium |
Also Published As
Publication number | Publication date |
---|---|
CN103140876B (zh) | 2014-10-08 |
EP2605215B1 (en) | 2016-05-18 |
JP2013077073A (ja) | 2013-04-25 |
TWI399705B (zh) | 2013-06-21 |
CN103140876A (zh) | 2013-06-05 |
EP2605215A4 (en) | 2014-06-04 |
EP2605215A1 (en) | 2013-06-19 |
ES2586553T3 (es) | 2016-10-17 |
US8836791B2 (en) | 2014-09-16 |
TW201235979A (en) | 2012-09-01 |
US20130235208A1 (en) | 2013-09-12 |
WO2013046749A1 (ja) | 2013-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4922472B1 (ja) | 情報処理装置、情報処理方法、情報処理装置用プログラム、および、記録媒体 | |
JP4991595B2 (ja) | パーティクルフィルタを使用する追跡システム | |
JP5885398B2 (ja) | 画像処理装置、画像処理方法 | |
JP4498104B2 (ja) | 監視装置、その制御方法、およびプログラム | |
CN112121423B (zh) | 一种虚拟摄像机的控制方法及装置、设备 | |
US9398349B2 (en) | Comment information generation device, and comment display device | |
JP6938123B2 (ja) | 表示制御装置、表示制御方法及びプログラム | |
JP6758834B2 (ja) | 表示装置、表示方法及びプログラム | |
JP6352126B2 (ja) | 広告表示装置、広告表示方法、及び広告表示プログラム | |
JPWO2017122810A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記憶媒体 | |
US20200275084A1 (en) | Information processing apparatus, information processing method, and storage medium | |
JP4962304B2 (ja) | 歩行者検出装置 | |
CN112698764A (zh) | 一种处理方法及装置 | |
JP5520459B2 (ja) | 双方向映像フレーム検索システム及び方法 | |
JP6819785B2 (ja) | 位置推定装置、位置推定方法及びプログラム | |
US11127141B2 (en) | Image processing apparatus, image processing method, and a non-transitory computer readable storage medium | |
JP2020523668A5 (ja) | ||
JP6171651B2 (ja) | 画像処理プログラム及び画像処理装置 | |
JP5177030B2 (ja) | 目標追尾装置 | |
CN110945867B (zh) | 监视装置、监视方法和存储介质 | |
JP4482933B2 (ja) | 動きベクトル検出装置、画像表示装置、画像撮像装置、動きベクトル検出方法、プログラムおよび記録媒体 | |
JP2022529414A (ja) | 誤動作のない動き検出のための方法及びシステム | |
EP4012666A1 (en) | Image processing apparatus, image processing method, and computer program | |
JP2015079329A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2012169826A (ja) | 画像処理装置、画像表示システム及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120124 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120203 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4922472 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150210 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |