JP2005092465A - データ認識装置 - Google Patents
データ認識装置 Download PDFInfo
- Publication number
- JP2005092465A JP2005092465A JP2003323759A JP2003323759A JP2005092465A JP 2005092465 A JP2005092465 A JP 2005092465A JP 2003323759 A JP2003323759 A JP 2003323759A JP 2003323759 A JP2003323759 A JP 2003323759A JP 2005092465 A JP2005092465 A JP 2005092465A
- Authority
- JP
- Japan
- Prior art keywords
- recognition
- target data
- processing
- data
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
- G06V10/7515—Shifting the patterns to accommodate for positional errors
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】 時系列に変化する処理対象データから、予め定められた認識対象データ部分を第1番目から第n番目まで順次特定するデータ認識装置であって、処理対象データから、所定の処理パラメータを用いて認識対象データ部分を探索処理し、少なくとも、第i番目(1≦i<n)の認識対象データ部分を特定したときの処理パラメータを、認識関係情報として記憶部2に記憶しておき、制御部1が、この記憶されている認識関係情報を、第i+1番目の認識対象データ部分の探索処理における処理パラメータの決定に利用する。
【選択図】 図1
Description
Rotation Invariant NeuralNetwork-Based Face Detection, H.A. Rowley, S. Baluja, and T. Kanade,Proceedings of IEEE Conference on Computer Vision and Pattern Recognition,1998, pp.38-44
ここで認識処理部12の具体的構成の例について説明する。この認識処理部12は、本実施の形態の装置に用いるだけでなく、他の処理においても利用可能な汎用のものであり、具体的には、次に例示するような構成を有している。
次に、図3に示した認識処理部12の学習時の動作を説明する。図10は、認識処理部12の学習時の動作の流れを示すフローチャートである。
次に、図3に示した認識処理部12の認識時の動作を説明する。図11および図12は、認識処理部12の認識時の動作の流れを示すフローチャートである。
ここで説明した、第1の例に係る認識処理部12を利用する場合、制御部1は、記憶処理部13の処理として、次のような処理を行うこととなる。すなわち、処理対象の画像データが参照データに一致すると判定したとき(ステップ213)に、記憶処理部13は、処理対象となった画像データに対して行った変形操作の内容を表す情報として、回転角とシフト量との累算値(ここでの例では、回転とシフトだけであるので、注目領域として原画像中で画定している矩形形状を特定する座標情報としている)を認識関係情報として記憶部2に格納する。
なお、部分空間への射影、変形度推定、推定誤差評価の処理は、ここまでで説明したものに限られるものではない。そこで以下、これらの処理の変形例について述べる。すなわち認識装置の別の構成は、図3に示した第1の例に係るものと同様であり、また、制御部1によって行われる処理も、図4に示したものと略同様であるが、部分空間射影計算部32、変形度推定部33、および推定誤差評価部34における処理などが異なる。ここでは、これら部分空間射影計算部32、変形度推定部33、および推定誤差評価部34での処理を中心として説明し、他の部分についての詳細な説明は省略する。
さらに、ここでの認識処理部12は、画像データだけでなく、音声データについて、例えば、「あ」に対応する音声など、特定の音声を認識する装置として実現することもできる。そこで次に、音声データについての認識を行う場合を例として、認識処理部12の第3の例について説明する。この例における認識処理部12の構成は、図3に示した第1の例の認識処理部12の構成における「画像」を「音声」と読み替えたものとなる。
次に、本実施の形態に係るデータ認識装置の動作について説明する。以下の例では、動画像データから顔部分を認識する場合を例として説明する。本実施の形態のデータ認識装置の制御部1がまず、フレームをカウントする変数Fを「0」にリセットする(ステップ301)。そして、入出力部3を介して入力される動画像データのF番目のフレームの画像データの全域を対象として所定の方法で顔部分を検出する処理を行う(ステップ302)。この処理は、エントロピー等の量を利用した簡便な方法で顔候補部分を特定し、当該特定した顔候補部分を対象として、学習により獲得したデータベースを利用した顔検出を行うこととするなど、さまざまな処理を利用できる。
本実施の形態のように構成することで、例えば動画像データから顔部分を連続的に認識する場合に、探索の開始時の条件を、それより前の探索処理の結果(いわば処理の履歴)に基づいて決定することで、実際に探索を行う範囲を狭め、かつ個々の探索は、通常と同様の処理によって行われるため、従来のようにマッチング度の局所的な変化を利用する場合に比べ、顔でない領域を誤って顔部分と判断してしまうことが防止される。つまり、本実施の形態では、動画像データを構成する各静止画に含まれる顔部分の位置等、正規化に利用される情報を、処理中のフレーム以前のフレームでの正規化の結果に基づいて決定するのである。これによって、正規化の処理負荷を軽減し、時系列に連続性をもって変化する動画像等のデータから、所定の部分の認識を短時間で認識できるようにし、実時間の処理を可能とする。
Claims (9)
- 時系列に変化する処理対象データから、予め定められた認識対象データ部分を第1番目から第n番目まで順次特定するデータ認識装置であって、
前記処理対象データから、所定の処理パラメータを用いて認識対象データ部分を探索処理する手段と、
少なくとも、第i番目(1≦i<n)の認識対象データ部分を特定したときの、前記処理パラメータを、認識関係情報として記憶する手段と、
を含み、
前記記憶されている認識関係情報が、第i+1番目の認識対象データ部分の前記探索処理における前記処理パラメータの決定に利用される
ことを特徴とするデータ認識装置。 - 時系列に変化する処理対象データから、予め定められた認識対象データ部分を断続的に特定するデータ認識装置であって、
前記処理対象データの少なくとも一部を注目部分として特定する手段と、
予め設定された参照データを用いて定義される所定の演算ルールによって、前記注目部分と、前記参照データとの間の類似度を演算する演算手段と、
当該類似度に基づいて、前記注目部分が認識対象データ部分であるか否かを判断する認識手段と、
前記認識手段により、認識対象データ部分が特定されたときに、前記演算ルールに関する情報と、前記注目部分を特定する情報と、のうち少なくとも一方の情報を記憶する記憶手段と、
を含み、
前記記憶手段に記憶される情報が、次の前記類似度の演算又は、注目部分の特定の少なくとも一方の処理に供されることを特徴とするデータ認識装置。 - 請求項2に記載のデータ認識装置において、
前記演算手段は、前記注目部分と前記参照データとの類似度を演算する際に、
(1)前記注目部分と前記参照データとの類似度を仮演算し、
(2)前記仮演算の結果に基づき、前記注目部分を、予め定められた少なくとも一つの変形自由度で変形処理して、当該変形処理後の注目部分を新たな注目部分として設定する、
(1),(2)の処理を、前記仮演算された類似度が、予め定められた条件を満足するか、繰り返し回数が所定回数を越えるまで繰り返して行い、
前記仮演算された類似度が予め定められた条件を満足した場合に、前記認識手段が、当該仮演算された類似度に基づき、前記注目部分が認識対象データ部分であるか否かを判断し、
前記記憶手段が記憶する情報には、前記演算ルールに関する情報として、前記変形処理の内容を特定する情報が含まれることを特徴とするデータ認識装置。 - 請求項3に記載のデータ認識装置において、
前記演算手段は、
前記(2)の処理における変形処理を行う際に、
前記注目部分を、互いに異なる少なくとも一つの変形自由度で変形処理して、複数の変形処理結果を得ておき、
前記複数の変形処理結果のうち、所定の選択ルールに基づいて、一つの変形処理結果を選択し、
当該選択した変形処理結果としての、変形処理後の注目部分を新たな注目部分として設定する、
ことを特徴とするデータ認識装置。 - 時系列に変化する一連の処理対象データについて、少なくとも一部の処理対象データ内において予め定められた認識対象データ部分を特定するデータ認識装置であって、
前記一連の処理対象データのうち、一つの処理対象データを選択する手段と、
前記選択された処理対象データの少なくとも一部を注目部分として特定する手段と、
予め設定された参照データを用いて定義される所定の演算ルールによって、前記注目部分と、前記参照データとの間の類似度を演算する演算手段と、
当該類似度に基づいて、前記注目部分が認識対象データ部分であるか否かを判断する認識手段と、
前記認識手段により、認識対象データ部分が特定されたときに、前記演算ルールに関する情報と、前記注目部分を特定する情報と、のうち少なくとも一方の情報を記憶する記憶手段と、
を含み、
前記記憶手段に記憶される情報が、次に選択される処理対象データ内の注目部分に対する前記類似度の演算又は、次に選択される処理対象データ内の注目部分の特定の少なくとも一方の処理に供されることを特徴とするデータ認識装置。 - 記憶手段を備えたコンピュータを用い、時系列に変化する処理対象データから、予め定められた認識対象データ部分を第1番目から第n番目まで順次特定するデータ認識方法であって、
前記処理対象データから、所定の処理パラメータを用いて認識対象データ部分を探索処理する工程と、
少なくとも、第i番目(1≦i<n)の認識対象データ部分を特定したときの、前記処理パラメータを、認識関係情報として、前記記憶手段に記憶する工程と、
を含み、
前記記憶されている認識関係情報が、第i+1番目の認識対象データ部分の前記探索処理における前記処理パラメータの決定に利用される
ことを特徴とするデータ認識方法。 - 時系列に変化する処理対象データから、予め定められた認識対象データ部分を断続的に特定するデータ認識方法であって、
前記処理対象データの少なくとも一部を注目部分として特定する工程と、
予め設定された参照データを用いて定義される所定の演算ルールによって、前記注目部分と、前記参照データとの間の類似度を演算する工程と、
当該類似度に基づいて、前記注目部分が認識対象データ部分であるか否かを判断する工程と、
前記認識対象データ部分が特定されたときに、前記演算ルールに関する情報と、前記注目部分を特定する情報と、のうち少なくとも一方の情報を、記憶手段に記憶する工程と、
を含み、
前記記憶手段に記憶される情報が、次の前記類似度の演算又は、注目部分の特定の少なくとも一方の処理に供されることを特徴とするデータ認識方法。 - 時系列に変化する処理対象データから、予め定められた認識対象データ部分を第1番目から第n番目まで順次特定するデータ認識プログラムであって、コンピュータに、
前記処理対象データから、所定の処理パラメータを用いて認識対象データ部分を探索処理する手順と、
少なくとも、第i番目(1≦i<n)の認識対象データ部分を特定したときの、前記処理パラメータを、認識関係情報として、前記記憶手段に記憶する手順と、
前記記憶されている認識関係情報に基づき、第i+1番目の認識対象データ部分の前記探索処理における前記処理パラメータを決定する手順と、
を実行させることを特徴とするデータ認識プログラム。 - 時系列に変化する処理対象データから、予め定められた認識対象データ部分を断続的に特定するデータ認識プログラムであって、コンピュータに、
前記処理対象データの少なくとも一部を注目部分として特定する手順と、
予め設定された参照データを用いて定義される所定の演算ルールによって、前記注目部分と、前記参照データとの間の類似度を演算する手順と、
当該類似度に基づいて、前記注目部分が認識対象データ部分であるか否かを判断する手順と、
前記認識対象データ部分が特定されたときに、前記演算ルールに関する情報と、前記注目部分を特定する情報と、のうち少なくとも一方の情報を、記憶する手順と、
を実行させ、前記記憶される情報を、次の前記類似度の演算又は、注目部分の特定の少なくとも一方の処理に供されるよう、前記コンピュータを制御することを特徴とするデータ認識プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003323759A JP4543644B2 (ja) | 2003-09-16 | 2003-09-16 | データ認識装置 |
US10/940,983 US7593566B2 (en) | 2003-09-16 | 2004-09-15 | Data recognition device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003323759A JP4543644B2 (ja) | 2003-09-16 | 2003-09-16 | データ認識装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005092465A true JP2005092465A (ja) | 2005-04-07 |
JP4543644B2 JP4543644B2 (ja) | 2010-09-15 |
Family
ID=34270038
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003323759A Expired - Fee Related JP4543644B2 (ja) | 2003-09-16 | 2003-09-16 | データ認識装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7593566B2 (ja) |
JP (1) | JP4543644B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6320649B1 (ja) * | 2017-03-31 | 2018-05-09 | 三菱電機株式会社 | 機械学習装置及び画像認識装置 |
JP2018524711A (ja) * | 2015-06-19 | 2018-08-30 | 株式会社Preferred Networks | クロスドメイン時系列データ変換装置、方法、およびシステム |
JP2019514046A (ja) * | 2016-03-22 | 2019-05-30 | エスアールアイ インターナショナルSRI International | 雑音の多い未知のチャネル条件における音声認識のためのシステムおよび方法 |
WO2021251005A1 (ja) * | 2020-06-09 | 2021-12-16 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、信号処理方法 |
JP7400719B2 (ja) | 2018-12-17 | 2023-12-19 | ソニーグループ株式会社 | 学習装置、識別装置およびプログラム |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IL168035A (en) * | 2005-04-14 | 2011-09-27 | Rafael Advanced Defense Sys | Normalization of face for identification and registration |
JP4431532B2 (ja) * | 2005-09-16 | 2010-03-17 | 富士フイルム株式会社 | 対象画像の位置検出装置および方法ならびに対象画像の位置検出装置を制御するプログラム |
CN100587701C (zh) * | 2005-10-18 | 2010-02-03 | 松下电器产业株式会社 | 信息处理装置及其方法 |
NO323257B1 (no) * | 2005-10-28 | 2007-02-19 | Telenor Asa | Fremgangsmater for a analysere strukturen av et nettverk |
KR100886557B1 (ko) * | 2007-05-03 | 2009-03-02 | 삼성전자주식회사 | 적응형 학습에 기반한 얼굴 인식 시스템 및 방법 |
JP2009129337A (ja) * | 2007-11-27 | 2009-06-11 | Hitachi Ltd | 三次元類似形状検索装置 |
JP4697289B2 (ja) | 2008-11-05 | 2011-06-08 | ソニー株式会社 | 撮像装置、撮像装置の表示制御方法 |
JP5178662B2 (ja) * | 2009-07-31 | 2013-04-10 | 富士フイルム株式会社 | 画像処理装置及び方法、データ処理装置及び方法、並びにプログラム |
JP5506272B2 (ja) | 2009-07-31 | 2014-05-28 | 富士フイルム株式会社 | 画像処理装置及び方法、データ処理装置及び方法、並びにプログラム |
US8447119B2 (en) * | 2010-03-16 | 2013-05-21 | Nec Laboratories America, Inc. | Method and system for image classification |
US9177226B2 (en) * | 2013-03-15 | 2015-11-03 | Google Inc. | Object detection in images based on affinity determinations |
US10424052B2 (en) * | 2015-09-15 | 2019-09-24 | Peking University Shenzhen Graduate School | Image representation method and processing device based on local PCA whitening |
US10249289B2 (en) | 2017-03-14 | 2019-04-02 | Google Llc | Text-to-speech synthesis using an autoencoder |
US10311556B1 (en) * | 2018-07-02 | 2019-06-04 | Capital One Services, Llc | Systems and methods for image data processing to remove deformations contained in documents |
US11892857B2 (en) * | 2020-06-05 | 2024-02-06 | Ghost Autonomy Inc. | Distributed data sampling |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11266450A (ja) * | 1998-03-17 | 1999-09-28 | Toshiba Corp | 物体領域追跡装置および物体領域追跡方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5550928A (en) * | 1992-12-15 | 1996-08-27 | A.C. Nielsen Company | Audience measurement system and method |
US5844573A (en) * | 1995-06-07 | 1998-12-01 | Massachusetts Institute Of Technology | Image compression by pointwise prototype correspondence using shape and texture information |
US5852672A (en) * | 1995-07-10 | 1998-12-22 | The Regents Of The University Of California | Image system for three dimensional, 360 DEGREE, time sequence surface mapping of moving objects |
US5842194A (en) * | 1995-07-28 | 1998-11-24 | Mitsubishi Denki Kabushiki Kaisha | Method of recognizing images of faces or general images using fuzzy combination of multiple resolutions |
US6345109B1 (en) * | 1996-12-05 | 2002-02-05 | Matsushita Electric Industrial Co., Ltd. | Face recognition-matching system effective to images obtained in different imaging conditions |
GB2324428A (en) * | 1997-04-17 | 1998-10-21 | Sharp Kk | Image tracking; observer tracking stereoscopic display |
GB2341231A (en) * | 1998-09-05 | 2000-03-08 | Sharp Kk | Face detection in an image |
JP3639476B2 (ja) * | 1999-10-06 | 2005-04-20 | シャープ株式会社 | 画像処理装置および画像処理方法ならびに画像処理プログラムを記録した記録媒体 |
JP3979007B2 (ja) * | 2000-12-22 | 2007-09-19 | 富士ゼロックス株式会社 | パターン識別方法および装置 |
-
2003
- 2003-09-16 JP JP2003323759A patent/JP4543644B2/ja not_active Expired - Fee Related
-
2004
- 2004-09-15 US US10/940,983 patent/US7593566B2/en not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11266450A (ja) * | 1998-03-17 | 1999-09-28 | Toshiba Corp | 物体領域追跡装置および物体領域追跡方法 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018524711A (ja) * | 2015-06-19 | 2018-08-30 | 株式会社Preferred Networks | クロスドメイン時系列データ変換装置、方法、およびシステム |
JP2019514046A (ja) * | 2016-03-22 | 2019-05-30 | エスアールアイ インターナショナルSRI International | 雑音の多い未知のチャネル条件における音声認識のためのシステムおよび方法 |
JP6320649B1 (ja) * | 2017-03-31 | 2018-05-09 | 三菱電機株式会社 | 機械学習装置及び画像認識装置 |
WO2018179338A1 (ja) * | 2017-03-31 | 2018-10-04 | 三菱電機株式会社 | 機械学習装置及び画像認識装置 |
JP7400719B2 (ja) | 2018-12-17 | 2023-12-19 | ソニーグループ株式会社 | 学習装置、識別装置およびプログラム |
WO2021251005A1 (ja) * | 2020-06-09 | 2021-12-16 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、信号処理方法 |
US11974042B2 (en) | 2020-06-09 | 2024-04-30 | Sony Semiconductor Solutions Corporation | Signal processing device and signal processing method |
Also Published As
Publication number | Publication date |
---|---|
US20050058339A1 (en) | 2005-03-17 |
US7593566B2 (en) | 2009-09-22 |
JP4543644B2 (ja) | 2010-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4543644B2 (ja) | データ認識装置 | |
EP3971772B1 (en) | Model training method and apparatus, and terminal and storage medium | |
CN108647583B (zh) | 一种基于多目标学习的人脸识别算法训练方法 | |
JP3979136B2 (ja) | 認識装置および方法 | |
CN109977757B (zh) | 一种基于混合深度回归网络的多模态的头部姿态估计方法 | |
Matthews et al. | Extraction of visual features for lipreading | |
JP4595750B2 (ja) | 画像処理装置および方法、並びにプログラム | |
JP4928601B2 (ja) | オブジェクトの特徴を位置特定する方法 | |
JP4514687B2 (ja) | パターン認識装置 | |
CN112085055B (zh) | 一种基于迁移模型雅克比阵特征向量扰动的黑盒攻击方法 | |
CN109544603B (zh) | 基于深度迁移学习的目标跟踪方法 | |
CN112232241A (zh) | 一种行人重识别方法、装置、电子设备和可读存储介质 | |
EP3745309A1 (en) | Training a generative adversarial network | |
US11301723B2 (en) | Data generation device, data generation method, and computer program product | |
CN114842343A (zh) | 一种基于ViT的航空图像识别方法 | |
JP2005309765A (ja) | 画像認識装置、画像抽出装置、画像抽出方法及びプログラム | |
KR20140024206A (ko) | 입술 검출 및 추적을 위한 방법 및 장치 | |
JP6955233B2 (ja) | 予測モデル作成装置、予測モデル作成方法、および予測モデル作成プログラム | |
KR102211762B1 (ko) | 딥러닝 기반 컬러링 방법, 시스템 및 프로그램 | |
JPH10171988A (ja) | パターン認識・照合装置 | |
Paterson et al. | 3D head tracking using non-linear optimization. | |
WO2011018823A1 (ja) | パターン認識装置、その方法、及びそのプログラム | |
JP4238537B2 (ja) | 画像処理装置 | |
WO2019116497A1 (ja) | 識別装置、識別方法、および記憶媒体 | |
KR100621883B1 (ko) | 학습에 기반을 둔 적응형 실시간 얼굴검출방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060824 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20071112 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20071115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091106 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100104 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100223 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100423 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100608 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100621 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130709 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4543644 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140709 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |