JP4494561B2 - パターン識別装置 - Google Patents
パターン識別装置 Download PDFInfo
- Publication number
- JP4494561B2 JP4494561B2 JP26289499A JP26289499A JP4494561B2 JP 4494561 B2 JP4494561 B2 JP 4494561B2 JP 26289499 A JP26289499 A JP 26289499A JP 26289499 A JP26289499 A JP 26289499A JP 4494561 B2 JP4494561 B2 JP 4494561B2
- Authority
- JP
- Japan
- Prior art keywords
- stage
- processing
- learning
- pattern
- ann
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、情報処理分野で用いられる人工ニューラルネットワーク(ANN)型のパターン識別装置(パターン予測装置を含む)、及びその学習処理手順に関するものである。より具体的には、既に学習済みのパターンに類似したパターンが本装置に入力された場合には、ANNが持つ高い汎化能力と並列処理能力によって短時間の一定時間以内に自動識別し、一方、全くの未知パターンが入力された場合には、論理積演算によって一旦不明(該当なし)と判定後、その不明パターンをパイプライン状に配置された後段へと順次引き渡し、識別処理を継続して遂行することで、全体として高い識別能力と信頼性とを同時に実現するパターン識別装置、及び同装置における学習と識別処理を並列多段型の処理によって高速化するためのANN構成方式とその学習処理手順に関するものである。
【0002】
なお、本明細書の中でいう「パターン」とは、後述の実施例に示した手書文字のような2値化画像に限らず、紙幣または硬貨画像などのような多値のグレースケールやカラー画像はもとより、X線CT画像や各種音響信号などの各種スペクトラムからなる一般の信号を含んでいる。
【0003】
【従来の技術】
近年、人工ニューラル・ネットワーク(ANN)技術に基づく情報処理手法が普及し、産業界においてもその応用事例が数多く見られるようになった。その上、単なる試行的応用例から脱却し、本格的な量産型工業製品の制御部分へ組み込もうとする例も増えている。しかしながら、現状のANN技術には、学習時点で関連情報を教えていなかった全くの未知の入力に対してはその出力が予測できないという致命的な欠陥があり、そのままではPL法に代表される製造物の責任問題をクリアすることができない。
【0004】
ANN技術に基づく製品を安全なものとするためには、まず第一に、ANNの処理結果に対する信頼性を向上させる必要があり、これを達成しうる概念に、ソフトウェア工学における「複数版ソフトウェアにおける失敗の合致モデル:B. Littlewood and D. R. Miller, 1989, “Conceptual modeling of coincident failures in multiversion software,” IEEE trans. on Software Engineering, 15, 1596-1614」と呼ばれるものがある。実際に、この概念をANN処理系へ適用したとみなせる技術も複数存在する(例えば、「東洋電機製造株式会社、小河敏幸、1992、“統合ニューラルネットワーク及びその学習方式”、特開平4−328669号公報」や「堀川圭一、中川徹、北川一、1998、“複数の乱数化ANNを用いたパターン識別における信頼性の向上”、電子情報通信学会総合大会、D-2-13」)。
【0005】
以下、上記技術における共通部分を要約する。まず、異なる乱数系列でANNの結合係数やしきい値を初期化して複数版のANNを生成し、これらを既知の学習セット(すなわち、学習入力パターンと教師出力パターンからなる組)でANN学習させる。またこの時の学習法には、最急降下法を基にした一般的なBP学習法またはその修正学習法が用いられる。次いで、これら複数版の学習済みANNへ識別したいパターンを入力し、それらの出力間で論理積結合等を生成して統合判定を行い、ANNの処理結果に対する信頼性の向上を図っている。
【0006】
【発明が解決しようとする課題】
しかしながら、上記の従来技術においては、▲1▼高度な学習と統合処理における処理時間の増大問題、▲2▼処理結果おける信頼性と正答率の相反問題、▲3▼未知パターンに対する学習セットの生成問題が未解決のまま残されており、これらが信頼性の高いANN応用製品を開発する際に大きな障害となっている。
【0007】
▲1▼は、識別したいパターンの種類やその変形数あるいは総入力点数などが増加すると、学習すべき内容がより複雑・高度になって学習が収束しないという状況に陥ってしまい、その対策としてANNの規模を大きくすると、今度は学習にかかる時間が非常に長くなる、あるいは、学習に成功したとしても識別時の統合処理において時間がかかってしまうといった問題をさす。
【0008】
▲2▼は、処理結果の信頼性を上げたい場合には、統合処理において論理積演算を行う必要があるが、反面、ANNの汎化能力を論理積で切り捨てることにもなってしまい、結果として正答率が実用に耐えないほどに低下してしまうという問題をさす。
【0009】
▲3▼は、実際の応用場面では、学習を始める前に可能性のある全ての入力パターンを予測することができず、したがって、予め完全な学習セットを用意することはできないという現実の問題をさす。
【0010】
本発明はこのような現状にかんがみてなされたものであり、上記のような問題を解決して、高速かつ高信頼なパターン識別処理とそのための学習処理を容易に行えるようにすることを目的とする。
【0011】
【課題を解決するための手段】
本発明者らは、上記の目的を達成するため鋭意検討した結果、以下に述べる(i)並列多段型のANN構成法に基づく新規なパターン識別装置、及び(ii)このパターン識別装置における学習処理手順をそれぞれ見出し、上記問題を解決した。
【0012】
すなわち、本発明は、入力されたパターンの自動識別結果を出力する、異なる乱数系列で初期化して並列に教師付き学習させた人工ニューラルネットワーク(以下、「乱数化ANN」と称する)複数個と、各乱数化ANNの出力側でしきい値判定を並列して実行する前処理回路複数個と、各前処理回路からの一次判定出力を論理積演算によって統合処理する統合演算回路とからなる組を基本処理単位とし、該基本処理単位の複数組を多段に接続して並列多段型の人工ニューラルネットワーク処理を行うパイプライン状の処理系と、前記パイプライン状処理系を構成する各基本処理単位が備える統合演算回路で得られる各段の判定結果を論理和演算で総合することで最終的な識別判定を行う総合判定部とで構成されているパターン識別装置を提供する。
【0013】
なお、本明細書では、上記のパターン識別装置を教師付き学習させる並列多段型の学習処理手順であって、前段までのすべての基本処理単位で行われる識別処理で不明(すなわち、該当なし)と判定された入力パターンの中から、前段における論理積演算時の投票数(すなわち、論理「1」の総数)に基づいて、新たに学習入力パターンと教師出力パターンの学習セットを外部に依頼して抽出、創生し、その学習セットを用いて、認識システムの最後尾に追加する乱数化ANN複数個を並列学習させることを特徴とする並列多段型の人工ニューラルネットワーク学習処理手順についても説明する。
【0014】
このANN学習処理手順の基本的な考え方は、新たに学習すべき入力パターンと教師出力パターンの学習セットが生じた時点で、上記パターン識別装置におけるパイプライン状処理系の最終段の後尾に新しい段(基本処理単位)を追加し、この段のみを学習させるというものである。全学習過程の始めでは一段分の基本処理単位しか存在しないので、本発明では、この学習手順を並列多段型のANN学習処理手順と呼ぶ。
【0015】
なお、本明細書の中でいう「乱数化ANN」とは、後述の実施例で用いた3層(学習層2層の)ANNを異なる乱数系列で初期化(乱数化)したものに限らず、より一般的な多層ANNはもとより、SOM、Hopfield形ANNなどを乱数化したものを含んでいる。また、単に「学習」と記載されている場合、BP学習法に代表される教師付きの学習を意味している。
【0016】
【作用】
本発明に記載した多段接続形の乱数化ANN構成法により、装置内にパイプライン形式の処理系を構成し、各段(基本処理単位)内での乱数化ANN複数個による並列処理と、各段間でのある種パイプライン的処理によって高速な学習・判定処理を達成することができる。なお、本発明におけるパイプライン形式の処理系は、通常のパイプライン処理とは、▲1▼前段の処理結果が総合判定部へ送られる点、▲2▼処理できなかった不明パターンが次段へそのままパスされて送られる点で、作用上大きく異なる。さらに、本発明では、論理和演算で多段にわたる処理結果の総合処理を行うため、一種の多段フィルタ的効果が得られ、高い正答率と信頼性とを同時に実現することができる。
【0017】
以下、より具体的に本発明に基づく装置の作用として説明する。
本発明の請求項1の特徴を持つ装置においては、ある段(基本処理単位)への入力として既に学習済みのパターンに類似のものが入力された場合、ANNが本来持っている高い汎化能力と並列接続された乱数化ANNの並列処理能力によって短時間の一定時間以内に自動識別することができる。
【0018】
また、その一方で、同段への入力として全く未知のパターンが入力された場合には、論理積演算によって一旦不明(該当なし)と判定後、その不明パターンをパイプライン状に配置された後段へ順次引き渡し、識別処理を継続して遂行することで、全体として高い識別能力と信頼性とを同時に実現することができる。この場合の処理時間は使用した基本処理単位の段数に比例し、本発明に基づく装置はリアルタイム処理に向いた良い性質を提供できる。
【0019】
最終段に至っても識別できない不明のパターンが残った場合には、本発明の請求項2に示した並列多段型のANN学習処理手順によって、新たな学習入力パターンと教師出力パターンからなる学習セットを不明パターン群の中から生成し、そのセットによって、最終段の後尾に追加した新しい段を学習させることができ、高度な学習と統合処理を最小限の処理時間で容易に実現できる。
【0020】
【発明の実施の形態】
以下、本発明の実施例を図面に基づいて具体的に説明する。
図1は本発明のパターン識別装置における認識システムの一例を示す概略図であり、図中のRANN1、RANN2、…、RANNnは1段目の基本処理単位内(Stage1)に用意されたn個の乱数化ANNを、RANN'1、RANN'2、…、RANN'nは2段目(Stage2)の乱数化ANNを、RANN''1、RANN''2、…、RANN''3は最終段であるp段目(Stagep)の乱数化ANNをそれぞれ示している。また、図中のTH1、TH2、…、THnは初段のStage1内でしきい値処理を行うn個の前処理回路を、それらの後に接続された統合演算回路は論理積演算を行う回路をそれぞれ示し、これらが1段目の統合処理を実行する。以下、同様にして、TH'1、TH'2、…、TH'n、ならびに統合演算回路'は、それぞれStage2内でしきい値処理を行うn個の前処理回路、ならびに論理積演算を行う回路であり、これらが2段目の統合処理を実行する。最終段のTH''1、TH''2、…、TH''n、ならびに統合演算回路''は、それぞれStagep内でしきい値処理を行うn個の前処理回路、ならびに論理積演算を行う回路であり、これらがp段目の統合処理を実行する。
【0021】
そして、図中、各段(Stage1、Stage2、…、Stagep)の左側にある(特に1段目のみ入力データと記載してある)端子へは、認識時には識別すべきパターンが入力され、一方、学習時には学習すべきパターンが入力される。もし、認識時において識別に失敗したパターンがあれば、そのパターンは図中上部のゲート(G1、G2、…、またはGp)を介して次段へパスされ、別の学習セットで予め学習をさせておいた次段で次の識別処理が実行される。
【0022】
最終的に、上記いずれかの段において識別に成功した場合、その判定結果は図中下部の総合判定部に送られ、そこで論理和演算が施されて、本認識システムの最終出力となる。一方、最終段に至っても識別できなかった場合、そのパターンは、新たな学習セットを作り出すためのデータとして、最終段の右側にある学習候補一時記憶部に蓄えられる。
【0023】
ここでnとpの値が実用上問題となる。実験の結果、例えば、日本国硬貨6種と韓国硬貨4種の計10種の識別を行う実験(事例1)においては、n=3、p=2で、識別試行1回当りの平均正答率を91%以上、かつ、その時の誤答率を0%にすることができ、加えて、その場合における乱数化ANN単体の規模としては、入力点数154、中間層のニューロン数35、出力層のニューロン数20程度でよいことも分かった。もう一つの事例である手書き文字認識の実験(事例2)では、n=3、p=7で、識別試行1回当たりの平均正答率を82%以上、かつ、その時の誤答率を3%程度にすることができた。この事例2における乱数化ANN単体の規模は、入力点数が441、中間層のニューロン数が30、出力層のニューロン数が46である。
【0024】
事例1と事例2のいずれの場合でも、識別判定処理における総計算量は意外に少なく、仮に30フレーム/毎秒の連続パターンを識別すると仮定したとしても、現在市販されている量産型マイクロプロセッサの性能値に換算して数十MFLOPSのものが1個あればよく、そのANN規模は実際に装置を実現することが可能な大きさに納まっている。もちろん、並列多段型の構成を生かした並列処理を複数の量産型マイクロプロセッサによって行えば、千フレーム/毎秒以上の高速処理も達成可能である。
【0025】
次に、図2のフローチャートに従って、並列多段型の学習処理手順と統合化識別処理手順を説明する。
101:処理の開始を示す(ただし、この101以下のプログラムは、利用者からのブレーク指示が制御卓等を介して入力されるまで、無限に処理を繰返す)。
102:異なるシード(すなわち、乱数の種)をn個用いて、RANN'''1、RANN'''2、…、RANN'''n、をそれぞれ初期化し、複数の乱数化ANNを生成後、それらを本認識システム(以下、認識部)の最後尾に追加する。
103:利用者によって学習候補の一時記憶から創生された新たな学習セットを、n個の追加されたRANN'''1、RANN'''2、…、RANN'''nのそれぞれへ配布する。
104:ここからRANN'''1、RANN'''2、…、RANN'''nが並列して学習処理を開始する。
105:RANN'''1におけるBP学習処理を実行する。
106:RANN'''2におけるBP学習処理を実行する。
107:RANN'''3におけるBP学習処理を実行する。
108:ここで、RANN'''1、RANN'''2、…、RANN'''n間で実行完了の同期を取り、104からの並列化学習処理が終結する。
【0026】
109:前段のゲートG(具体的には、このプロセスが1段目の時は入力データ端子、2段目の時はG1、同様にして、p段目の時はGP-1)からデータを1つ受け取り、自己のRANN'''1、RANN'''2、…、RANN'''nへ配布する。
110:ここから、RANN'''1、RANN'''2、…、RANN'''nが並列して識別処理を開始する。
111:RANN'''1の識別処理を実行し、出力端子ごとに各々のアナログ判定値を出力する。
112:111の各出力値を前処理回路TH'''1でしきい値判定し、デジタル値に変換する。
113:RANN'''2の識別処理を実行し、出力端子ごとに各々のアナログ判定値を出力する。
114:113の各出力値を前処理回路TH'''2でしきい値判定し、デジタル値に変換する。
115:RANN'''nの識別処理を実行し、出力端子ごとに各々のアナログ判定値を出力する。
116:115の各出力値を前処理回路TH'''nでしきい値判定し、デジタル値(つまり、論理「1」又は「φ」)に変換する。
117:ここで、RANN'''1、RANN'''2、…、RANN'''n間で実行完了の同期を取り、110からの並列化識別処理が終結する。
【0027】
118:統合演算回路'''の処理として、各前処理回路(TH'''1、TH'''2、…、TH'''n)の出力端子ごとに論理「1」の総数、すなわち投票数を求める。
119:118で求めた投票数の中で最大のものがn(つまり乱数化ANNの総数)と等しくなければ、論理積が成立していないので、121へ飛ぶ。
120:論理積が成立したので、その結果を総合判定部へ送り出す。
121:自己のプロセスが認識部の最終段ならば123へ飛ぶ。
122:自己のゲートG(具体的には、このプロセスが1段目の時はG1、2段目の時はG2、同様にして、p段目の時はGp)を開き、該当なしと判定された不明パターンを次段へパスさせる。
123:ここまでの識別で該当なしとなった不明パターン及びその投票結果を認識部で共通の学習候補一時記憶部に格納する。
124:学習候補の総数が予め定めた上限値より少ないならば109へ飛ぶ。
125:学習候補の総数が上限値に達したので、新規の学習セットを創生することを外部(現在は人間)へ依頼し、自己のプロセス(つまりこのプログラム)をフォーク(分岐起動)後、109へ飛ぶ。
なお、以上の手順においては、第1段目の学習に用いる学習セットが人手によって予め用意されている。
【0028】
【発明の効果】
本発明に基づくパターン識別装置では、多段接続された基本処理単位の各段における並列処理と、各段間でのある種パイプライン的処理と、最終段の後尾に動的に追加学習される新たな基本処理単位とによって、高速な学習処理と同識別処理を達成する機構を持ち、一般的に困難とされている「高度な学習と統合処理における処理時間の増大問題」を解決する一手段を提供している。この結果得られる能力、すなわち、短時間の一定時間以内に自動識別できる能力は特にリアルタイムな識別処理において効果を発揮する。
【0029】
また、課題で述べた「処理結果における信頼性と正答率の相反問題」に対しては、提案した装置内における多段の統合処理によって、一種の多段フィルタ的性質を得、その段数を増加させることにより、高い正答率と信頼性とを同時に実現している。また、使用する段数を調整することで正答率と信頼性を実用域に留めつつ装置コストを押さえられる点も実用上有益である。
【0030】
さらに、もう一つの問題である「未知パターンに対する学習セットの生成問題」に対しては、ある時点で既に分かっている範囲の学習入力パターンと教師出力パターンのセットのみで学習を開始できる点、及び、不明(該当なし)と判定されたパターンを再利用して新たな学習が容易に追加できる点において実用上の効果が大きい。
【0031】
特に本発明は、全くの未知の入力パターンを含んだ実際の入力パターンを高速度にて自動分類するパターン識別装置に利用した場合の効果が高く、本発明の特徴である並列多段型の乱数化ANNに識別すべき入力パターンを順次通すことで、動画等の連続したパターン列も高速度にて識別処理できる。
【図面の簡単な説明】
【図1】本発明のパターン識別装置における認識システムの一例を示し、一段当りの乱数化ANN数がn、総段数がpの場合のシステム概略図である。
【図2】本発明における並列多段型のANN学習処理手順と統合化識別処理手順を説明するフローチャートである。
Claims (1)
- 入力されたパターンの自動識別結果を出力する、異なる乱数系列で初期化して並列に教師付き学習させた人工ニューラルネットワーク(以下、「乱数化ANN」と称する)複数個と、各乱数化ANNの出力側でしきい値判定を並列して実行する前処理回路複数個と、各前処理回路からの一次判定出力を論理積演算によって統合処理する統合演算回路とからなる組を基本処理単位とし、該基本処理単位の複数組を多段に接続して並列多段型の人工ニューラルネットワーク処理を行うパイプライン状の処理系と、前記パイプライン状処理系を構成する各基本処理単位が備える統合演算回路で得られる各段の判定結果を論理和演算で総合することで最終的な識別判定を行う総合判定部とで構成されているパターン識別装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP26289499A JP4494561B2 (ja) | 1999-09-17 | 1999-09-17 | パターン識別装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP26289499A JP4494561B2 (ja) | 1999-09-17 | 1999-09-17 | パターン識別装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001084236A JP2001084236A (ja) | 2001-03-30 |
JP4494561B2 true JP4494561B2 (ja) | 2010-06-30 |
Family
ID=17382103
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP26289499A Expired - Fee Related JP4494561B2 (ja) | 1999-09-17 | 1999-09-17 | パターン識別装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4494561B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10540957B2 (en) | 2014-12-15 | 2020-01-21 | Baidu Usa Llc | Systems and methods for speech transcription |
CN113168466A (zh) * | 2018-12-14 | 2021-07-23 | 三菱电机株式会社 | 学习识别装置、学习识别方法以及学习识别程序 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05101187A (ja) * | 1991-10-09 | 1993-04-23 | Kawasaki Steel Corp | 画像認識装置及びその学習方法 |
JPH05258114A (ja) * | 1992-03-11 | 1993-10-08 | Toshiba Corp | 文字認識装置 |
JPH09152480A (ja) * | 1995-11-30 | 1997-06-10 | Mitsubishi Electric Corp | 自動目標認識装置 |
-
1999
- 1999-09-17 JP JP26289499A patent/JP4494561B2/ja not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05101187A (ja) * | 1991-10-09 | 1993-04-23 | Kawasaki Steel Corp | 画像認識装置及びその学習方法 |
JPH05258114A (ja) * | 1992-03-11 | 1993-10-08 | Toshiba Corp | 文字認識装置 |
JPH09152480A (ja) * | 1995-11-30 | 1997-06-10 | Mitsubishi Electric Corp | 自動目標認識装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2001084236A (ja) | 2001-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11354578B2 (en) | Mixture of generators model | |
Neil et al. | Learning to be efficient: Algorithms for training low-latency, low-compute deep spiking neural networks | |
US9619749B2 (en) | Neural network and method of neural network training | |
KR102166105B1 (ko) | 신경망 및 신경망 트레이닝의 방법 | |
CN107844481B (zh) | 识别文本检错方法及装置 | |
JPH04288662A (ja) | ニュ−ラルネットワ−クシステムの学習方法 | |
KR20160112186A (ko) | 뉴럴 네트워크에서 이벤트에 기반한 학습 방법 및 장치 | |
KR20200087348A (ko) | 깊이 기반 가분 합성곱 신경망 인공지능을 이용한 나이/감정/성별 분류 시스템 | |
CN114511860A (zh) | 一种差异描述语句生成方法、装置、设备及介质 | |
Sinkov et al. | Neural networks in data mining | |
Schuman et al. | Spatiotemporal classification using neuroscience-inspired dynamic architectures | |
US20210097141A1 (en) | Artificial intelligence based word generation | |
Garg et al. | Neural network captcha crackers | |
CN115408502A (zh) | 在同步会议中认知学习以生成模拟现场代理动作的脚本 | |
Hoai et al. | An attention-based method for action unit detection at the 3rd abaw competition | |
JP4494561B2 (ja) | パターン識別装置 | |
WO2024109597A1 (zh) | 文本合并判断模型的训练方法和文本合并判断方法 | |
WO2021180243A1 (zh) | 基于机器学习的图像信息识别的优化方法及装置 | |
CN112000793B (zh) | 一种面向人机交互的对话目标规划方法 | |
CN112274935A (zh) | Ai模型训练方法、使用方法、计算机设备及存储介质 | |
Robinson et al. | Exploring some commercial applications of genetic programming | |
Wan et al. | A neural network with logical reasoning based on auxiliary inputs | |
Le Hoai et al. | An attention-based method for multi-label facial action unit detection | |
Elbrecht et al. | Evolving ensembles of spiking neural networks for neuromorphic systems | |
JP2021189727A (ja) | 計算機システム、学習方法、および脳型コンピューティングデバイス |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060317 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090414 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090611 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100330 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100408 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130416 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130416 Year of fee payment: 3 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130416 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140416 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |