JP3548222B2 - 視線検出装置を備えたビデオカメラ - Google Patents

視線検出装置を備えたビデオカメラ Download PDF

Info

Publication number
JP3548222B2
JP3548222B2 JP07364294A JP7364294A JP3548222B2 JP 3548222 B2 JP3548222 B2 JP 3548222B2 JP 07364294 A JP07364294 A JP 07364294A JP 7364294 A JP7364294 A JP 7364294A JP 3548222 B2 JP3548222 B2 JP 3548222B2
Authority
JP
Japan
Prior art keywords
sight
gaze
line
video camera
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP07364294A
Other languages
English (en)
Other versions
JPH07283975A (ja
Inventor
広文 中野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP07364294A priority Critical patent/JP3548222B2/ja
Publication of JPH07283975A publication Critical patent/JPH07283975A/ja
Application granted granted Critical
Publication of JP3548222B2 publication Critical patent/JP3548222B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Focusing (AREA)
  • Viewfinders (AREA)
  • Automatic Focus Adjustment (AREA)

Description

【0001】
【産業上の利用分野】
本発明は視線検出装置を備えたビデオカメラに係わる。
【0002】
【従来の技術】
観察者の視軸と注視点の偏差を補正する手段を備えた視線検出手段が、例えば、特願平4−262750号明細書により既に提案されている。上記特願平4−262750号明細書には、観察者の視軸と注視点の偏差を補正する手段と、上記補正手段の情報(個人差データ)を求めてカメラに登録する手段(以後キャリブレーション)について記載されている。
【0003】
特に、同一撮影者がいろいろな撮影条件のもとで同一のキャリブレーション登録ナンバーに再登録を繰り返すことにより、個人差データを蓄積更新することができる。したがって、蓄積更新されたデータを使って上記偏差を補正することにより、より視線検出精度が向上することが記載されている。
【0004】
一方、本願の出願人は、以前にビデオカメラのファインダ画面に、例えばズーム、フェードなどの機能を意味する指標を表示し、それを視線で選択させる機能を既に提案している(特願平4−202号明細書)。上記提案では、視線が上記指標に略一致したと判断される範囲は最初の設定のまま変更されないようになっていた。
【0005】
また、視線位置にフォーカスを自動的に合わせる手段や、視線位置により測光感度分布の中心点を変更する手段を持ったカメラが既に提案されている(特願平1−241511号明細書)。上記特願平1−241511号明細書においても、その設定された範囲は最初の設定から変更されることはない。
【0006】
【発明が解決しようとする課題】
しかし、上記特願平4−213795号明細書に記載されているように、観察者が1度しかキャリブレーション動作をしていない場合においては、キャリブレーションを実行したときとは異なる明るさで視線検出を実行したときと、異なる明るさの下で複数回キャリブレーション動作を実行した後視線検出をしたときとでは、視線の精度が異なる。それにも関わらず、視線スイッチの作動する範囲が一定であると次のような問題が生ずる。
【0007】
すなわち、第1に、観察者が1度しかキャリブレーション動作をしていないときにキャリブレーションを実行したときとは異なる明るさで視線検出を実行したときには、撮影者は指標を見ているつもりでもその指標が意味する機能がなかなか作動しない。
【0008】
第2に、撮影者が異なる明るさの下で何度もキャリブレーションを実行して視線の精度が向上しているにもかかわらず、相対的に視線スイッチの作動する範囲が広いことになり、作動させるつもりはないのに不注意に視線スイッチが入ってしまう不都合が生じることがある。
【0009】
第3に、視線AF/AEの設定枠の大きさが当初の設定のまま大きいと、ファインダ光学系内の視線AF/AEの設定枠内に大きな被写体とそれに比して小さな被写体が遠近競合していたときは、大きな被写体しかAF/AEの対象にすることができないので、使いこなすのにはある程度の熟練を必要とし、初心者には使いにくい問題があった。
【0010】
本発明は上述の問題点にかんがみ、初心者でも簡単に使いこなすことができる視線スイッチおよび視線AF/AE機能を提供することを目的とする。
【0011】
【課題を解決するための手段】
本発明の視線検出装置を備えたビデオカメラは、被写体を観察するためのファインダ光学系と、上記ファインダ光学系を観察する観察者の視線位置を検出する視線検出手段と、上記視線検出手段の検出出力に視軸方向と注視点方向の偏差に当たる補正を行って上記観察者の注視点方向の情報を出力する補正手段と、上記視線検出手段の出力に応じてビデオカメラの撮影条件を設定するための撮影条件設定手段とを具備し上記補正手段の出力回数に応じて上記撮影条件設定手段の設定範囲を変更するようにしている。
また、本発明の他の特徴とするところは、上記補正手段の出力回数が多いほど上記撮影条件設定手段が設定範囲を狭くするようにしている。
【0012】
また、本発明のその他の特徴とするところは、上記撮影条件手段は測距枠を設定する自動焦点調節装置であり、上記視線検出手段が検出した視線の位置に応じて上記測距枠が設定され、上記測距枠の範囲に含まれる被写体に対し自動焦点調節を行うようにしている。
【0013】
また、本発明のその他の特徴とするところは、上記撮影条件手段は測光枠を設定する自動露出制御装置であり、上記視線検出手段が検出した視線の位置に応じて上記測光枠が設定され、上記測光枠の範囲に含まれる被写体を中心に重み付けをする自動露出制御を行うようにしている。
【0014】
また、本発明のその他の特徴とするところは、被写体を観察するためのファインダ光学系と、上記ファインダ光学系を観察する観察者の視線位置を検出する視線検出手段と、上記視線検出手段による検出出力に視軸方向と注視点方向の偏差に当たる補正を行って観察者の注視点方向の情報を出力する補正手段と、上記ファインダ光学系のファインダ画面上に互いに異なる動作機能を意味する複数の指標を表示する表示手段と、上記複数の指標のうち1つの指標を含む所定の範囲の中に視線が駐留した場合に、その指標が意味する機能が作動する視線スイッチとを有し、上記視線が駐留したときに、上記視線スイッチが作動する所定の範囲上記補正手段の出力回数に応じて変更するようにしている。
また、本発明のその他の特徴とするところは、上記補正手段の出力回数が多いほど上記視線スイッチが作動する所定の範囲を狭くするようにしている。
【0015】
【作用】
本発明は上記技術手段を有するので、キャリブレーションが実行された回数が少なくて視線検出精度が低いうちは、視線スイッチの入力範囲および視線AF/AEの設定枠を比較的広く設定し、キャリブレーションを数回実行し終えて視線検出精度が向上したら、視線スイッチの入力範囲および視線AF/AEの設定枠を狭く設定するので、使いやすくなるとともに誤動作が生じる可能性が少なくなる。
【0016】
【実施例】
以下、本発明の視線検出装置を備えたビデオカメラの一実施例を図面を参照して説明する。
図1は、本実施例の視線検出装置を備えたビデオカメラの概略構成を示すブロック図である。
【0017】
図1に示したように、本実施例の視線検出装置を備えたビデオカメラは、ファインダ光学系3と、視線検出手段6と、表示回路7と、補正手段30と、視線スイッチ31と、撮影条件設定手段32と、メモリ33とを具備している。
【0018】
上記ファインダ光学系3は、ビデオカメラで撮影する被写体を観察するために設けられているものであり、上記視線検出手段6は上記ファインダ光学系3を観察する観察者の視線位置を検出するためのものである。
【0019】
また、補正手段30は上記視線検出手段6から導出される検出出力P1に視軸方向と注視点方向の偏差に当たる補正を行って上記観察者眼の注視点方向の情報を出力するために設けられている。さらに、撮影条件設定手段32は、ビデオカメラの撮影条件を種々に設定するためのものである。
【0020】
上述のように構成された本実施例のビデオカメラは、上記視線検出手段6の検出出力P1に応じて上記撮影条件設定手段32の方向を少なくとも一つは制御するようにしている。具体的には、上記補正手段30の補正結果に応じて上記撮影条件設定手段32の設定範囲を変更するようにしている。
【0021】
以下、本実施例の視線検出装置を備えたビデオカメラの詳細を図面を参照して説明する。
本実施例のビデオカメラは、図4に示したように、レンズ撮像系1と、ファインダ画面2と、ファインダ光学系3と、接眼レンズ4と、視線検出手段6と、表示回路7と、システムコントロール手段8とを有している。
【0022】
上記レンズ撮像系1は、被写体を撮像するために設けられているものであり、ズームレンズを備えている。また、ファインダ光学系3は、レンズ撮像系1により撮像される被写体を観察するために設けられているものであり、ファインダ画面2を備えている。
【0023】
上記接眼レンズ4は、上記ファインダ光学系3の前に配置されていて、撮影者は上記接眼レンズ4を介して上記ファインダ画面2を見るようになされている。また、上記視線検出手段6は、撮影者の眼5の視線Eを検出するためのものである。
【0024】
表示回路7は、フォーカスエリアの概略を表すAF枠や、後述する視線スイッチの指標や、その他テープカウンターや撮影モードなど撮影者に必要な情報等をファインダ画面2へ表示する。また、システムコントロール手段8はこのカメラの各部を制御するために設けられているものである。
【0025】
上記視線検出手段6は、撮影者の眼5に赤外光を照射する赤外発光ダイオード60と、可視光を透過して赤外光を反射するダイクロイックミラー61と、上記ダイクロイックミラー61にて反射された赤外光を集光する集光レンズ62と、上記集光レンズ62により集光された赤外光を電気信号に変換する光電変換素子63と、上記光電変換素子63上の撮影者の眼5の像を基に、撮影者のファインダ画面2上の注視点を求める注視点検出回路64とを具備している。
【0026】
ダイクロイックミラー61は、可視光を透過するため、撮影者は接眼レンズ4を通してファインダ画面2を観察することができる。
また、ダイクロイックミラー61は、赤外光を反射するため、赤外発光ダイオード60によって照射された眼5の反射像を反射させる。この反射像が集光レンズ62で集光され、光電変換素子63上に像を結ぶようになっている。
【0027】
注視点検出回路64は、光電変換素子63上の撮影者の眼5の像を基に、例えば、特開平1−241511号公報、特開平2−32312号公報等によって開示されたアルゴリズムに従い、撮影者がファインダ画面2上を注視している点を求めるようにしている。
【0028】
ところで、一般的に、人間の眼球の視軸方向と注視点方向は一致していないことが多い。そこで、キャリブレーションを行って視軸方向と注視点方向の偏差を補正することが必要になる。キャリブレーションの手法は、例えば、特願平4−262750号明細書に記載してある方法による。
【0029】
その動作について簡単に説明すると、観察者が不図示のモード切り替え手段によりキャリブレーションモードにすると、図5(a)に示すようなマークがファインダ画面2上の所定の位置に表示される。観察者はこのマークを見ながら所定のボタンを押すと、そのときの視線を所定の回数だけ検出し、注視点座標の平均(x1,y1)と瞳孔径の平均(r1)を、図1に示したメモリ33に記憶する。
【0030】
なお、注視点座標と瞳孔径の有効なデータが所定の数以上とれなければ再び同じ位置に指標を表示し、その指標を見させる。次に、ファインダ画面2の表示は、図5(b)に示す位置に変わる。観察者はマークを見て再び所定のボタンを押すと、指標[1]のときと同様にそのときの注視点座標の平均(x2,y2)と瞳孔径の平均(r2)をメモリ33に格納する。
【0031】
補正手段30は、以上の操作でメモリ33に格納された2つの注視点座標と2つの瞳孔径より所定のキャリブレーション係数を求め、そのキャリブレーション係数とキャリブレーションを実行した回数をメモリ33に格納する。補正手段はこのキャリブレーション係数で求めた視軸方向と注視点方向の偏差を視線検出手段の出力に加える。上記偏差は、同一観察者においても眼の瞳孔径により変わるため、異なる明るさの下数回キャリブレーション動作を行えば視線検出精度が向上する。
【0032】
ここで、本実施例のビデオカメラのファインダ光学系3に搭載されている視線スイッチの機能について説明する。
上記ファインダ画面2の表示例の模式図を図6に示す。同図に示すように、アルファベット「W」、「T」、「F」で示す互いに異なる動作機能を意味する指標21(21a、21b、21c)からなるメニューがファインダ画面2上に表示されている。
【0033】
それぞれの視線スイッチの指標を含む所定の範囲の座標は、それぞれ読み出し専用メモリ(図示せず)に記憶されている(例えばワイドは座標α、テレは座標β、フェードは座標γ)。観察者は、目的の指標を含む所定の範囲を注視すると上記指標に割り当てられた機能が働く。
【0034】
図3は、本実施例におけるファインダ画面2上の上記視線スイッチ31の入力範囲を示す図である。同図に示すように、視線スイッチ31の指標を含む所定の範囲は可変であり、システムコントロール手段で制御される。
【0035】
図2に上記システムコントロール手段の視線スイッチ31の枠を設定する部分のフローチャートを示す。
図2に示したように、先ず、ビデオカメラの電源がステップS1でオンされると、メモリ33に格納されたキャリブレーションデータとキャリブレーションが実行された回数とを読み込み、その回数に応じて分岐する(ステップS2〜ステップS4)。本実施例では、キャリブレーションの実行回数に応じて設定範囲は3通り変更される。
【0036】
すなわち、キャリブレーション実行回数が0ないし1回では図3(a)に示す一番広く設定された範囲に設定し(ステップS4)、2〜4回では図3(b)に示すようにそれよりひとまわり狭い範囲に設定する(ステップS7)。
【0037】
また、キャリブレーション実行回数が5回以上では、図3(c)に示すように、最も狭い範囲に設定する(ステップS6)。このようにして視線スイッチ31の枠を設定した後でキャリブレーションモードに入らなければ、視線検出を繰り返す(ステップS8〜ステップS9)。
【0038】
一方、キャリブレーションモードに移れば、キャリブレーションを実行した後(ステップS10)、ステップS2に戻り、キャリブレーション回数に応じて視線スイッチ31の入力枠を更新する。
【0039】
以下、第2の実施例を図面を参照して詳述する。なお、ビデオカメラの構成と視線検出手段、ならびにキャリブレーションの方法は第1の実施例と同じであるので説明を省く。
【0040】
ここで、本実施例のビデオカメラのファインダ光学系3に搭載されている視線AFの機能について説明する。
このファインダ画面2の表示例の模式図を図7に示す。同図に示すように、オートフォーカスの測距枠がファインダ画面2上に示されている。上記測距枠の位置は視線により移動可能であり、視線位置を略中心とし、ファインダ画面2上に表示されている枠の範囲内にあって最も多く面積を占める被写体に自動的にフォーカスを合わす。
【0041】
上記オートフォーカスの測距枠は可変であり、システムコントロール手段で制御される。図8に上記システムコントロール手段のAF枠を設定する部分のフローチャートを示す。
先ず、ビデオカメラの電源がオンされるとメモリ33に格納されているキャリブレーションデータとキャリブレーションが実行されている回数を読み込み、その回数に応じて分岐する。
【0042】
本実施例ではキャリブレーションの実行回数に応じて測距枠の大きさは3通り変更される。キャリブレーション実行回数が1回以下では、図7(a)の一番広く設定されている測距枠に設定(ステップS5)、2〜4回では同図(b)に示すそれより一回り狭い測距枠に設定(ステップS7)、5回以上では同図(c)に示したように、最も狭い測距枠が設定される(ステップS6)。
【0043】
このようにして測距枠を設定した後、キャリブレーションモードに入らなければ、視線検出を繰り返す(ステップS9)。また、キャリブレーションモードに移れば、キャリブレーションを実行した後(ステップS10)、ステップS2に帰り、キャリブレーション回数に応じて測距枠を更新する。
【0044】
以下、第3の実施例を図面を参照して詳述する。なお、この場合もビデオカメラの構成と視線検出手段、ならびにキャリブレーションの方法は第1の実施例と同じであるので説明を省く。
【0045】
ここで、本実施例のビデオカメラのファインダ光学系3に搭載されている視線AEの機能について説明する。
このファインダ画面でも図7に示したような枠が自動露出制御装置の重点測光枠として表示される。上記重点測光枠の位置は視線位置を略中心とする位置に移動可能であり、ファインダ画面全体と重点測光枠の範囲内を測光し、重点測光枠の平均値を中心とした測光感度分布を持つように測光手段の出力の重み付けを変更する。
【0046】
上記自動露出制御手段の測光枠は可変であり、システムコントロール手段で制御される。図9に上記システムコントロール手段の重点測光枠を設定する部分のフローチャートを示す。
【0047】
先ず、ビデオカメラの電源がオンされるとメモリ33に格納されているキャリブレーションデータとキャリブレーションが実行されている回数を読み込む。本実施例では、キャリブレーションの実行回数に応じて測光枠の大きさは3通り変更される。すなわち、キャリブレーション実行回数が3回以下では一番広い測光枠が設定され、4〜6回ではそれより一回り狭い測光枠が設定され、7回以上では最も狭い測光枠が設定される。このようにして設定される測光枠は、キャリブレーションを実行するごとに、そのキャリブレーション実行回数に応じて更新される。
【0048】
【発明の効果】
本発明は上述したように、補正手段の補正結果に応じて撮影条件設定手段の設定範囲を変更するようにしたので、キャリブレーションが実行された回数が少なくて視線検出精度が低いうちは、視線スイッチの入力範囲および視線AF/AEの設定枠を比較的広く設定し、キャリブレーションを数回実行し終えて視線検出精度が向上したら、視線スイッチの入力範囲および視線AF/AEの設定枠を狭く設定することができる。これにより、視線スイッチの入力範囲とAF/AEの設定範囲とが視線検出精度に応じて変化するようになるので、誤動作が少ない上に、初心者、習熟者を問わず使い易い視線スイッチおよび視線AF/AE機能を提供することができる。
【図面の簡単な説明】
【図1】本発明の視線検出装置を備えたビデオカメラの機能構成の概略を示すブロック図である。
【図2】本発明の第1の実施例のシステムコントロール手段の手順を示すフローチャートである。
【図3】視線スイッチが入力する範囲を示す図である。
【図4】本発明のビデオカメラの概略構成図を示すブロック図である。
【図5】キャリブレーションの指標を示す図である。
【図6】視線スイッチの指標を示す図である。
【図7】AFの測距枠およびAEの重点測光枠を示す図である。
【図8】第2の実施例のシステムコントロール手段の処理手順を示すフローチャートである。
【図9】第3の実施例のシステムコントロール手段の処理手順を示すフローチャート図である。
【符号の説明】
1 レンズ撮像系
2 ファインダ画面
3 ファインダ光学系
4 接眼レンズ
5 撮影者の目
6 視線検出手段
7 表示回路
8 システムコントロール手段
21a、21b、21c 視線スイッチの指標
30 補正手段
31 視線スイッチ
32 撮影条件設定手段
33 メモリ
60 赤外発光ダイオード
61 ダイクロイックミラー
62 集光レンズ
63 光電変換素子
64 注視点検出回路

Claims (6)

  1. 被写体を観察するためのファインダ光学系と、上記ファインダ光学系を観察する観察者の視線位置を検出する視線検出手段と、上記視線検出手段の検出出力に視軸方向と注視点方向の偏差に当たる補正を行って上記観察者の注視点方向の情報を出力する補正手段と、上記視線検出手段の出力に応じてビデオカメラの撮影条件を設定するための撮影条件設定手段とを具備し
    上記補正手段の出力回数に応じて上記撮影条件設定手段の設定範囲を変更することを特徴とする視線検出装置を備えたビデオカメラ。
  2. 上記補正手段の出力回数が多いほど上記撮影条件設定手段の設定範囲を狭くすることを特徴とする請求項1に記載の視線検出装置を備えたビデオカメラ。
  3. 上記撮影条件設定手段は測距枠を設定する自動焦点調節装置であり、上記視線検出手段が検出した視線の位置に応じて上記測距枠が設定され、上記測距枠の範囲に含まれる被写体に対し自動焦点調節を行うことを特徴とする請求項1又は2に記載の視線検出装置を備えたビデオカメラ。
  4. 上記撮影条件設定手段は測光枠を設定する自動露出制御装置であり、上記視線検出手段が検出した視線の位置に応じて上記測光枠が設定され、上記測光枠の範囲に含まれる被写体を中心に重み付けをする自動露出制御を行うことを特徴とする請求項1又は2に記載の視線検出装置を備えたビデオカメラ。
  5. 被写体を観察するためのファインダ光学系と、上記ファインダ光学系を観察する観察者の視線位置を検出する視線検出手段と、上記視線検出手段による検出出力に視軸方向と注視点方向の偏差に当たる補正を行って観察者の注視点方向の情報を出力する補正手段と、上記ファインダ光学系のファインダ画面上に互いに異なる動作機能を意味する複数の指標を表示する表示手段と、上記複数の指標のうち1つの指標を含む所定の範囲の中に視線が駐留した場合に、その指標が意味する機能が作動する視線スイッチとを有し、
    上記視線が駐留したときに、上記視線スイッチが作動する所定の範囲を上記補正手段の出力回数に応じて変更することを特徴とする視線検出装置を備えたビデオカメラ。
  6. 上記補正手段の出力回数が多いほど上記所定の範囲を狭くすることを特徴とする請求項5に記載の視線検出装置を備えたビデオカメラ。
JP07364294A 1994-04-12 1994-04-12 視線検出装置を備えたビデオカメラ Expired - Fee Related JP3548222B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP07364294A JP3548222B2 (ja) 1994-04-12 1994-04-12 視線検出装置を備えたビデオカメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP07364294A JP3548222B2 (ja) 1994-04-12 1994-04-12 視線検出装置を備えたビデオカメラ

Publications (2)

Publication Number Publication Date
JPH07283975A JPH07283975A (ja) 1995-10-27
JP3548222B2 true JP3548222B2 (ja) 2004-07-28

Family

ID=13524157

Family Applications (1)

Application Number Title Priority Date Filing Date
JP07364294A Expired - Fee Related JP3548222B2 (ja) 1994-04-12 1994-04-12 視線検出装置を備えたビデオカメラ

Country Status (1)

Country Link
JP (1) JP3548222B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6123694B2 (ja) * 2014-02-10 2017-05-10 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム

Also Published As

Publication number Publication date
JPH07283975A (ja) 1995-10-27

Similar Documents

Publication Publication Date Title
JPH05232373A (ja) カメラの視線方向検出装置
JP7358530B2 (ja) 被写体認識装置及び被写体認識装置の制御方法
US6674964B2 (en) Visual axis detecting apparatus
JP3548222B2 (ja) 視線検出装置を備えたビデオカメラ
JP2004008323A (ja) 視線機能付光学装置
JP3186212B2 (ja) 視線入力可能なカメラ
JP2002301030A (ja) 視線検出機能付き機器
JP3530647B2 (ja) 視線検出装置及び光学装置
JPH07283974A (ja) 視線検出装置を備えたビデオカメラ
JPH10148864A (ja) カメラの測光装置
JP2003339642A (ja) 視線検出装置及びそれを有した光学装置
JP3219491B2 (ja) 視線検出装置
JP3184634B2 (ja) 視線検出装置を有する光学装置
JPH03107934A (ja) 光学機器
JP2004012503A (ja) カメラ
JPH06148505A (ja) 視線検知装置付きカメラ
JP3605080B2 (ja) 視線検出装置
JP3211427B2 (ja) 視線検出装置
JP2002341239A (ja) 視線検出装置
JP3530648B2 (ja) 視線検出装置及び光学装置
JPH07323008A (ja) 視線検出装置、カメラ、及び、視線補正方法
JPH07275207A (ja) 視線検出装置
JPH07311333A (ja) 視線検出手段を備えたカメラ
JPH08194154A (ja) 視線検出機能付き観察装置
JPH07168256A (ja) オートフォーカスカメラ

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040416

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090423

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090423

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100423

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110423

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees