JP3747800B2 - 技能向上支援装置 - Google Patents

技能向上支援装置 Download PDF

Info

Publication number
JP3747800B2
JP3747800B2 JP2001139583A JP2001139583A JP3747800B2 JP 3747800 B2 JP3747800 B2 JP 3747800B2 JP 2001139583 A JP2001139583 A JP 2001139583A JP 2001139583 A JP2001139583 A JP 2001139583A JP 3747800 B2 JP3747800 B2 JP 3747800B2
Authority
JP
Japan
Prior art keywords
symbol
information
difference
action
support information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2001139583A
Other languages
English (en)
Other versions
JP2002333826A (ja
Inventor
智治 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2001139583A priority Critical patent/JP3747800B2/ja
Publication of JP2002333826A publication Critical patent/JP2002333826A/ja
Application granted granted Critical
Publication of JP3747800B2 publication Critical patent/JP3747800B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技能分野】
本発明は技能向上支援装置に係り、特にコンピュータやセンサを用いて計測された人間の身体の動作を記録し、支援すべき動作と理想的な動作の比較のために記録されたデータを再利用する技能向上支援装置に関する。
【0002】
【従来の技能】
スポーツや特定の作業などで必要とされる人間の身体の動作、すなわち運動技能を習得・向上させるために、従来は、VTRを用いて理想的な動作を磁気テープに録画し、その磁気テープの再生動画像を教示例として技能向上支援に用いることが多い。最近では、モーションキャプチャなどの方法で人間の身体の動作を数値データとして計測し、コンピュータで処理することが一般的に行われている。
【0003】
また、人間の身体の動作を解析し、理想的な動作と比較して、その誤差を修正させるように指示する技能向上支援方法も従来より提案されている。例えば、特開平9−68444号公報(発明の名称:運動測定装置この装置を利用した仮想空間再現装置、フォーム矯正装置)には、加速度センサと角速度センサとを組み合わせて姿勢検出手段を構成し、この姿勢検出手段によって人間の各部位の姿勢変化を検出する構成とすることにより、どこの場所でも人間の各部位の姿勢変化を計測できる方法が開示されている。すなわち、この従来方法では、予め記憶された基準フォームのデータと人体に装着したセンサからの信号入力とを直接比較してズレ量を算出し、色つきのランプなどでズレの存在を表示することでスポーツなどのフォーム矯正を行う。
【0004】
また、特許第2558943号公報(発明の名称:ニューラルネットワークを用いた人間の動作自動認識装置)には、人間の形態データを収集する動作測定部と、この動作測定部からのデータにより、人間の姿勢なるポスチャーの内容と人間の動作なるジェスチャーの開始点を識別判断するポスチャーニューラルネットワーク部と、ポスチャーニューラルネットワーク部でジェスチャーの開始点が識別された場合に、動作測定部からの形態データを得てジェスチャーの内容を認識判断するジェスチャーニューラルネットワークと、上記のポスチャーニューラルネットワーク部でジェスチャーの開始点が識別された場合に、ジェスチャーニューラルネットワーク部への形態データの導入を制御すると共に、ポスチャーニューラルネットワーク部とジェスチャーニューラルネットワーク部の出力結果を比較して最終的な認識結果を選択決定する動作判断部を設けた構成の動作自動認識装置が開示されている。この動作自動認識装置では、人間の姿勢と動作をニューラルネットワーク部で判定して、その動作の意味を自動認識することができる。
【0005】
また、特開2000−149056公報(発明の名称:多関節物体の表示方法及び表示装置)には、人体のような多関節物体の動作を関節角を対象データとして単位時間の倍数と単位角度の倍数との組み合わせからなる座標点で近似する基本動作の記述方法が開示されている。この従来方法によれば、基本動作による動作表現によれば、単位時間以下の時間ズレや単位角度以下の揺らぎを吸収して、動作の合成や比較が可能である。
【0006】
【発明が解決しようとする課題】
しかしながら、再生動画像を教示例として技能向上支援に用いる従来方法では、モーションキャプチャなどの方法で人間の身体の動作を計測して得た計測データを数値データのまま取り扱っているために、データ量が膨大になるのみならず、データに対する意味付けが容易でなく、同一性と差異の境界が不鮮明で、行動の要約や比較が困難である。
【0007】
また、特開平9−68444号公報記載の従来方法では、センサ信号データで基準フォームと矯正対象の比較を行っているために、同じ動作でも、速度が異なるものについての比較は困難である。また、基準フォームとの差の表示も抽象的で、利用者にとって矯正すべき点がわかりにくい。
【0008】
また、特許第2558943号公報記載の従来方法では、ポスチャーやジェスチャーにおいて特定の動作に類似する動作の認識は可能であるが、類似する動作同士での差異の検出は行えない。更に、特開2000−149056号公報記載の従来方法では、単位時間や単位角度による量子化のため、量子化境界をまたぐ場合に微少な差でも吸収できない。また、固定された量子化間隔のため、動作の前半と後半で速さの比が異なるデータを正しく比較できないなどの問題がある。
【0009】
本発明は以上の点に鑑みなされたもので、同じ動作で速度が異なるものを同じ動作と判定でき、また、動作の前半と後半が異なる速度であるようなデータの比較が可能で、更に、計測時間に対するゆらぎに強い動作比較が可能な技能向上支援装置を提供することを目的とする。
【0010】
また、本発明の他の目的は、ゆらぎに強い動作比較に基づいて、熟練動作と利用者の動作との効率的な差異検出を行い得る技能向上支援装置を提供することにある。
【0011】
更に、本発明の他の目的は、差異がある動作に関して注意すべき具体的なアドバイスを提供することで効果的な支援を可能にする技能向上支援装置を提供することにある。
【0012】
【課題を解決するための手段】
本発明は上記の目的を達成するため、動作計測装置により、主に人間の身体の動作を計測して得られた数値データを入力として受け、数値データの数学的な特徴を検出し、各特徴に対応付けられた記号からなる記号列を出力する記号化手段と、記号化手段からの記号列を記憶する動作データベース手段と、動作データベース手段に記憶されている記号列のうちで教師例となる理想的な動作を記録した記号列と、記号化手段から出力される支援対象となる動作の記号列とを比較して差異を検出する動作比較手段と、動作比較手段が検出した差異を表示する情報提示手段とを有し、上記の情報提示手段は、動作比較手段が検出する差異に対応した支援情報を保持している支援情報手段と、動作比較手段が検出した差異を入力として受け、入力された差異をキーとして支援情報手段を参照して入力された差異に対応する支援情報を出力する支援情報出力手段とよりなり、数値データを記号化することで、定量的な動作計測データの蓄積および比較を定性的に処理可能にし、比較によって検出される差異に対応する支援情報を出力する構成としたものである。
【0013】
本発明では、動作を計測して得られた数値データを記号化して動作比較手段で理想的な動作の記号列と比較するようにしたため、計測時間に対するゆらぎに強い動作比較ができ、また、動作計測データの記号化によって、動作データベース手段の記憶容量が削減できる。また、情報提示手段により、比較によって検出される差異に対応する支援情報を出力することができる。
【0015】
ここで、上記の支援情報手段は、差異に対応して注意すべき動作について具体的なアドバイスを提供する情報を、対応する差異と関連付けて支援情報として保持していることを特徴とする。また、上記の支援情報出力手段は、入力された差異に対応する支援情報と共に、動作比較手段により比較される、理想的な動作の記号列のグラフと、支援対象となる動作の記号列のグラフとを各記号の対応をとったうえで重ね合わせて差異部分を強調表示することを特徴とする。この発明では、動作の差異に基づく支援情報の提示により注意すべき動作について具体的なアドバイスを提供することで効果的な技能向上支援装置の提供ができる。
【0016】
【発明の実施の形態】
次に、本発明の一実施の形態について図面と共に説明する。図1は本発明になる技能向上支援装置の一実施の形態のブロック図を示す。この実施の形態における技能向上支援装置100は、モーションキャプチャ装置など、人間の動きを計測して数値化する動作計測装置200が出力する定量的な数値である計測データを入力として受け、その計測データに対応する定性的な記号列を出力する記号化手段110と、記号化手段によって出力された記号列を蓄積する動作データベース手段140と、動作データベース手段140に蓄積された記号列のうちで教師例となる理想的な動作を記録した記号列と、支援対象となる動作の記号化手段110の出力の記号列とを比較し、その差異を検出する動作比較手段120と、動作比較手段120によって検出される差異を表示する情報提示手段130とを含んで構成される。
【0017】
図2は図1中の記号化手段110の一実施の形態を詳細に示すブロック図である。図2において、図1と同一構成部分には同一符号を付し、その説明を省略する。図2において、技能向上支援装置100の記号化手段110は、特徴検出手段111、記号変換手段112及び記号情報手段113より構成され、入力される数値データに対応する記号を出力する。特徴検出手段111は、入力となる数値データについて極大値や極小値などの数学的な特徴を検出する。記号変換手段112は、記号情報手段113を参照して、特徴検出手段111によって検出された特徴に対応する記号を出力する。
【0018】
図3は図1中の情報提示手段130の一実施の形態を詳細に示すブロック図である。図3において、図1と同一構成部分には同一符号を付し、その説明を省略する。図3において、技能向上支援装置100の情報提示手段130は、動作比較手段120が検出する差異に対応した支援情報を保持する支援情報手段131と、動作比較手段120が検出した差異に基づいて支援情報手段131を参照して支援情報を出力する支援情報出力手段132とを含んで構成される。
【0019】
次に、本発明の実施の形態の動作について詳細に説明する。人間の身体の動作を計測して数値化する動作計測装置200には、例えば、人体の各関節にマーカーを貼付して複数台のカメラにより撮影し、各マーカーの三次元位置を同定するという方法で、各関節の三次元座標位置を計測データとして出力する装置、あるいは各関節に曲げセンサを装置して各関節角を計測データとして出力する装置などが利用可能である。
【0020】
図4は動作計測装置200が出力する計測データの一例であり、一定時間間隔でサンプリングされた人間の身体の各部の関節の高さ座標がデジタルな数値データとして各行に記述されている。以下、データの各行の一番左にある右手首関節の高さに着目して説明する。
【0021】
図5は同じデータをグラフで表示したものである。計測開始(時刻t=0)に高さ20の位置にあり、t=2で高さ30まで上がった後に、t=7で高さ−20まで下がる。そこからt=14で高さ50まで上がって、t=20まで維持して、その後再度下がりはじめるという動きの様子がみてとれる。
【0022】
記号化手段110は、このようにして得られる計測データについて数学的な特徴を検出し、各特徴に対応付けられた記号により計測データを記号化する。例えば、特徴検出手段111は、データが極大値をとる極大点、極小値をとる極小点、ゼロとなるゼロ点、以降に同じ値が連続する停止始点、同じ値の連続が終了する停止終点などの特徴を検出する。
【0023】
記号情報手段113は、特徴検出手段111が検出する特徴と対応する記号を、例えば図7のように表形式で保持する。記号変換手段112は記号情報手段113を参照して、特徴検出手段111が検出する各特徴を記号に変換して出力する。このように、動作計測データを記号化することで計測時間に対するゆらぎに強い動作比較ができ、熟練動作と利用者の動作との効率的な差異検出ができる。
【0024】
図5に例示されたデータを入力として図7に記された特徴を検出する場合、検出される特徴と記号の対応を図5のグラフに重ね合わせて表示すると図6のようになる。時刻t1で極大点、t2でゼロ点、t3で極小点、t4でゼロ点、t5で停止始点、t6で停止終点が特徴検出手段111によって検出され、記号変換手段112はそれぞれの特徴について記号情報手段113を参照して時刻順にX、Z、N、Z、S、Eという記号に変換し、記号化手段110は、入力データに対応する記号列として「X−Z−N−Z−S−E」を出力する。
【0025】
動作データベース手段140には、記号化手段110が出力する記号列のうち、特に手本となるようなデータを蓄積しておく。例えば、図5に示したデータが、手本とすべき熟練者の動作を計測したものであるとすると、そのデータを入力として記号化手段110が出力した記号列「X−Z−N−Z−S−E」を動作データベース手段140に蓄積しておく。ここで、動作計測データの記号化によって、データを蓄積するためのデータベース手段140の記憶容量が削減でき、より多くの種類の基準データを蓄積可能である。
【0026】
これとは別に、図8にグラフで示す計測データが記号化手段110に入力されたとする。記号化手段110は図8にグラフで示す計測データに対応する記号列として「X−N−S−E」を出力する。動作比較手段120は、動作データベース手段140に蓄積されている記号列「X−Z−N−Z−S−E」と、図8にグラフで示す計測データに対応する記号列として記号化手段110が出力した記号列「X−N−S−E」とを比較し、図8にグラフで示す計測データに対応する記号化手段110の出力である記号列には「N」の前後の「Z」が欠けていることを検出し、その差異を情報提示手段130内の支援情報出力手段132に出力する。
【0027】
支援情報出力手段132は動作比較手段120から入力された「N」の前後の「Z」が欠けている場合に関する知識を、支援情報手段131を参照して取得する。支援情報手段131には、例えば図9に示すような、表形式の情報が格納されている。支援情報出力手段132は、ここでは「N」の前後の「Z」が欠けている場合に関する知識を取得するために、基準データ欄が「Z−N−Z」で、対象データ欄「N」である行の支援情報欄にある支援情報「高さの下げ量が不十分なので、しっかりと下げるように心がける」を取得する。
【0028】
情報提示手段130内の支援情報出力手段132は、このようにして支援情報手段131から取得した支援情報を利用者に提示する。動作の差異に基づく支援情報の利用者への提示により、注意すべき動作について具体的なアドバイスを提供することで効果的な技能向上の支援ができる。図10は、情報提示手段130によるコンピュータ画面表示の一例である。このように情報提示手段130は支援情報により技能向上の支援ができ、更にこれに加えて、計測データIと基準データIIとを重ね合わせて差異部分をIIIで示すように強調表示するとより一層効果的である。
【0029】
図11は別の計測データの例を示す。図6の計測データと比べると、開始の高さが若干高く、続く下げがやや早い。そのために後半部分が図6のデータよりも早い時刻になっているが、基本的には同じ動作である。これらの動きは同じでも速さが異なる計測データを従来一般的な方法のように時刻を基準として比較すると、図12に図11のデータと図6のデータを重ねて、差異部分に網掛け表示を施して示すように、ほぼ全体で差異が現れてしまい、類似の動作とはみなされない。
【0030】
これに対し、本実施の形態では、記号化手段110による出力は図11に示す計測データの記号列「X−Z−N−Z−S−E」であり、これは動作データベース手段140から出力される、手本とすべき熟練者の動作を計測した図6に示した計測データの記号列「X−Z−N−Z−S−E」と同じであるから、動作比較手段120はこれらが同じ動作であると正しく判定できる。
【0031】
【発明の効果】
以上説明したように、本発明によれば、動作を計測して得られた数値データを記号化して動作比較手段で理想的な動作の記号列と比較することにより、計測時間に対するゆらぎに強い動作比較ができ、熟練動作と利用者の動作との効率的な差異検出ができる。また、本発明によれば、動作計測データの記号化によって、動作データベース手段の記憶容量が削減できるため、より多くの種類の理想的な動作の記号列の数値データを蓄積でき、よって、豊富な動作種類をカバーする技能向上支援装置が実現できる。
【0032】
また、本発明によれば、動作の差異に基づく支援情報の提示により注意すべき動作について具体的なアドバイスを提供するようにしたため、効果的な技能向上支援ができる。
【図面の簡単な説明】
【図1】 本発明装置の一実施の形態のブロック図である。
【図2】 図1中の記号化手段の一実施の形態のブロック図である。
【図3】 図1中の情報提示手段の一実施の形態のブロック図である。
【図4】 動作計測装置の出力である数値計測データの一例である。
【図5】 手首の高さに着目した数値データの例をグラフ表示した図である。
【図6】 図5のグラフに特徴検出手段の出力する特徴および対応する記号を重ねて表示した図である。
【図7】 図2中の記号情報手段に保持される情報の一例である。
【図8】 熟練者の行動データと比較される対象データの例をグラフ表示した図である。
【図9】 支援情報手段に保持される情報の一例である。
【図10】 情報提示手段によるコンピュータ画面表示の例である。
【図11】 図6のデータと同じ行動であると判定されるべき行動データの例をグラフ表示した図である。
【図12】 図6のデータと図11のデータを重ね合わせて差分を表示した図である。
【符号の説明】
100 技能向上支援装置
110 記号化手段
111 特徴検出手段
112 記号変換手段
113 記号情報手段
120 動作比較手段
130 情報提示手段
131 支援情報手段
132 支援情報出力手段
140 動作データベース手段
200 動作計測装置

Claims (5)

  1. 動作計測装置により、主に人間の身体の動作を計測して得られた数値データを入力として受け、該数値データの数学的な特徴を検出し、各特徴に対応付けられた記号からなる記号列を出力する記号化手段と、
    前記記号化手段からの記号列を記憶する動作データベース手段と、
    前記動作データベース手段に記憶されている記号列のうちで教師例となる理想的な動作を記録した記号列と、前記記号化手段から出力される支援対象となる動作の記号列とを比較して差異を検出する動作比較手段と、
    該動作比較手段が検出した差異を表示する情報提示手段と
    を有し、
    前記情報提示手段は、前記動作比較手段が検出する差異に対応した支援情報を保持している支援情報手段と、前記動作比較手段が検出した差異を入力として受け、入力された該差異をキーとして該支援情報手段を参照して入力された該差異に対応する支援情報を出力する支援情報出力手段とよりなり、
    前記数値データを記号化することで、定量的な動作計測データの蓄積および比較を定性的に処理可能にし、比較によって検出される差異に対応する支援情報を出力することを特徴とする技能向上支援装置。
  2. 前記記号化手段は、前記動作計測装置からの前記数値データの数学的な特徴を検出する特徴検出手段と、該特徴検出手段が検出する特徴と対応する記号を保持している記号情報手段と、該記号情報手段を参照して前記特徴検出手段が出力する特徴に対応する記号を出力する記号変換手段とからなることを特徴とする請求項1記載の技能向上支援装置。
  3. 前記特徴検出手段は、前記特徴として、極大点、極小点、ゼロ点、停止始点及び停止終点を含む複数の特徴を検出し、前記記号情報手段は、複数の前記特徴のそれぞれについて対応する記号と特徴とを表形式で予め記憶保持していることを特徴とする請求項2記載の技能向上支援装置。
  4. 前記支援情報手段は、前記差異に対応して注意すべき動作について具体的なアドバイスを提供する情報を、対応する差異と関連付けて前記支援情報として保持していることを特徴とする請求項1乃至3のうちいずれか一項記載の技能向上支援装置。
  5. 前記支援情報出力手段は、入力された前記差異に対応する支援情報と共に、前記動作比較手段により比較される、理想的な動作の記号列のグラフと、前記支援対象となる動作の記号列のグラフとを各記号の対応をとったうえで重ね合わせて差異部分を強調表示することを特徴とする請求項1乃至3のうちいずれか一項記載の技能向上支援装置。
JP2001139583A 2001-05-10 2001-05-10 技能向上支援装置 Expired - Lifetime JP3747800B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001139583A JP3747800B2 (ja) 2001-05-10 2001-05-10 技能向上支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001139583A JP3747800B2 (ja) 2001-05-10 2001-05-10 技能向上支援装置

Publications (2)

Publication Number Publication Date
JP2002333826A JP2002333826A (ja) 2002-11-22
JP3747800B2 true JP3747800B2 (ja) 2006-02-22

Family

ID=18986334

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001139583A Expired - Lifetime JP3747800B2 (ja) 2001-05-10 2001-05-10 技能向上支援装置

Country Status (1)

Country Link
JP (1) JP3747800B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005259160A (ja) * 2003-05-26 2005-09-22 Matsushita Electric Ind Co Ltd 操作履歴利用システム
WO2004104881A1 (ja) 2003-05-26 2004-12-02 Matsushita Electric Industrial Co., Ltd. 操作履歴利用システム
JP2006171184A (ja) * 2004-12-14 2006-06-29 Toshiba Corp 技能評価システムおよび技能評価方法
JP5159263B2 (ja) * 2007-11-14 2013-03-06 株式会社日立製作所 作業情報処理装置、プログラム及び作業情報処理方法
JP2011516915A (ja) * 2008-04-03 2011-05-26 韓國電子通信研究院 モーションコンテンツベースの学習装置及び方法
JP5041370B2 (ja) * 2008-09-02 2012-10-03 Necシステムテクノロジー株式会社 身体訓練装置およびプログラム
JP5525202B2 (ja) * 2009-07-30 2014-06-18 株式会社構造計画研究所 動作分析装置、動作分析方法及び動作分析プログラム
JP6689239B2 (ja) * 2017-08-25 2020-04-28 株式会社東芝 検出システムおよび検出方法
JP7125872B2 (ja) * 2018-07-13 2022-08-25 株式会社日立製作所 作業支援装置、および、作業支援方法
JP7137150B2 (ja) * 2019-03-14 2022-09-14 オムロン株式会社 動作分析装置、動作分析方法及び動作分析プログラム
JP7158633B2 (ja) * 2020-08-14 2022-10-21 三菱電機株式会社 説明提示装置、説明提示方法、及び説明提示プログラム

Also Published As

Publication number Publication date
JP2002333826A (ja) 2002-11-22

Similar Documents

Publication Publication Date Title
JP3747800B2 (ja) 技能向上支援装置
US7110592B2 (en) Image recording apparatus, image reproducing apparatus and methods therefor
US8139818B2 (en) Trajectory processing apparatus and method
US20040246229A1 (en) Information display system, information processing apparatus, pointing apparatus, and pointer cursor display method in information display system
JP6444573B2 (ja) 作業認識装置および作業認識方法
JP2004504675A (ja) ビデオ会議及び他のカメラベースのシステム適用におけるポインティング方向の較正方法
US8483859B2 (en) Image processing device and image processing method
JP2008108008A (ja) 移動パターン特定装置、移動パターン特定方法、移動パターン特定プログラム、およびこれを記録した記録媒体
JP3906729B2 (ja) 手話教育用システム及び該システムを実現するためのプログラム
CN113674565A (zh) 一种用于钢琴教学的教学系统及方法
US20050251741A1 (en) Methods and apparatus for capturing images
JP5329130B2 (ja) 検索結果表示方法
KR100412932B1 (ko) 모션 게임 장치의 모션 데이터 디스플레이 방법 및 평가방법
JP2000180162A (ja) 作業分析装置
JP3372096B2 (ja) 画像情報アクセス装置
JP3775446B2 (ja) 会議情報記録方法および会議情報記録装置並びに会議情報再生装置
JP2019159885A (ja) 動作分析装置、動作分析方法、動作分析プログラム及び動作分析システム
JP3907344B2 (ja) 動画アンカー設定装置
JP3511278B2 (ja) 動画アンカー設定装置
JPH08167022A (ja) 画像監視装置
JP4914031B2 (ja) 移動体計測装置及び移動体の計測方法
JPH0360311A (ja) 架空線点検用画像処理装置
JP6010062B2 (ja) キューポイント制御装置およびキューポイント制御プログラム
JP3380937B2 (ja) 動画像内の物体の同定方法及び動画像内の物体の同定装置
JP5012644B2 (ja) プレゼンテーション記録装置、プレゼンテーション再生装置及びプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050802

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051121

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3747800

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091209

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091209

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101209

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101209

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111209

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111209

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121209

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121209

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131209

Year of fee payment: 8

EXPY Cancellation because of completion of term