JP3544793B2 - 飲食代金自動精算装置 - Google Patents

飲食代金自動精算装置 Download PDF

Info

Publication number
JP3544793B2
JP3544793B2 JP22673196A JP22673196A JP3544793B2 JP 3544793 B2 JP3544793 B2 JP 3544793B2 JP 22673196 A JP22673196 A JP 22673196A JP 22673196 A JP22673196 A JP 22673196A JP 3544793 B2 JP3544793 B2 JP 3544793B2
Authority
JP
Japan
Prior art keywords
tableware
information
imaging
height
angle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP22673196A
Other languages
English (en)
Other versions
JPH1069579A (ja
Inventor
信一 猿楽
英夫 加藤
幸一 持田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi KE Systems Ltd
Original Assignee
Hitachi KE Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi KE Systems Ltd filed Critical Hitachi KE Systems Ltd
Priority to JP22673196A priority Critical patent/JP3544793B2/ja
Publication of JPH1069579A publication Critical patent/JPH1069579A/ja
Application granted granted Critical
Publication of JP3544793B2 publication Critical patent/JP3544793B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Image Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、食堂などにおける飲食代金の自動精算装置に係り、特にカフェテリア方式の食堂に好適な飲食代金の自動精算装置に関する。
【0002】
【従来の技術】
カフェテリア形式の食堂においては、多種類用意してある総菜などの調理済み食品を利用者が自由に選択して食事に供するようになっており、このため、利用者が選択した食品の種類に応じて代金(料金)が異なってくるため、代金精算の自動化が困難である。
【0003】
しかして、この命題に取組み、代金の精算を自動的に行うようにした自動精算装置が、従来から種々提案されているが、これらの従来技術は、いずれも食品の種類に応じて使用する食器の種類を決め、それに価格を設定しておき、食器を判別することにより代金の自動精算を行うようになっていた。
【0004】
例えば特開昭55−47558号公報では、食器を取り分けるトレイ(盆)の材質を透明体、或いは半透明体とし、このトレイに乗せられている食器を下からテレビカメラによって撮像し、食器の底面(糸じり)の大きさを検出することにより食器を判別し、食器毎に予め設定されている価格によって代金を精算する方法について提案している。
【0005】
しかして、このように、底面の大きさだけに頼っていたのでは、判別可能な食器の種類が限られてしまう。
そこで、特公平5−7745号公報では、使用する食器の糸じりに識別可能な標識を付加し、これにより識別可能な食器の種類を増やすことができるようにした装置について提案している。
【0006】
一方、特開平4−304597号公報では、トレイの上に乗せられている食器を、上方からテレビカメラによって撮像し、食器の平面形状によって食器を判別し、食器毎に予め設定されている価格によって代金を精算する装置について提案している。
【0007】
【発明が解決しようとする課題】
従来技術は、判別可能な食器の種類を多くする点についての配慮がされておらず、メニュー(総菜の種類)が多い食堂の代金自動精算には適用が困難になるという問題があった。
すなわち、従来技術では、食器の2次元的な形状にだけ着目して識別していたので、識別可能な食器の種類に限度があり、このため、食器の種別多様化に対応するのが困難になってしまうのである。
【0008】
一方、食器に標識を付加する方法では、そのために食器に加工を施す必要があり、この結果、以下の問題があった。
すなわち、食器に標識を付加するためには余分なコストが掛かり、特に利用者数の多い食堂では、使用している食器数が多いため、多大のコストを要する。 さらに、この方法では、食器の洗浄により標識が消失してゆく虞れがあり、食器の反復利用回数に制限が生じ、さらにコストの上昇がもたらされてしまうという問題があった。
【0009】
本発明の目的は、食器に特別な加工を要することなく、判別可能な食器の種類が充分に増やせるようにした食堂用代金自動精算装置を提供することにある。
【0010】
【課題を解決するための手段】
本発明は、上記目的を達成するため、食器取り分け用の盆を上方から撮像した画像データに基づいて、当該盆に載置された食器の種別と個数を判別して飲食代金を自動的に精算する方式の飲食代金自動精算装置において、上記画像データの検出手段として、スリット光を一方向に振って前記盆の全体を走査する照明手段と上記食器によって反射された上記スリット光の反射光を撮像する撮像手段とを備え、上記照明手段による照明光軸と上記撮像手段による撮像光軸とに角度を持たせ、上記撮像手段にて撮像された上記画像データから上記食器の平面形状に関する情報と高さ方向の情報とを検出し、これら平面形状に関する情報と高さ方向の情報とに基づいて上記食器の種別を判定識別するという構成にした。
また、上記構成の飲食代金自動精算装置において、上記照明手段として液晶プロジェクタを用いると共に、上記撮像手段としてテレビカメラを用いるという構成にした。
すなわち、食器の平面的な形状だけでなく、更にその高さを情報として取り込むことにより、例えばラーメン用の食器と大きな平皿といった、2次元形状が同じでも、高さが異なった食器の識別が可能になるので、判別可能な食器の種類が充分に増やせるのである。
【0011】
このとき、本発明では、食器の高さを情報として取り込むため、3角測量の原理を用いた検出手段を用いるようになっている。
図2は、本発明で、食器の高さを情報として取り込むために用いた光学系の一例で、パターン照射装置3により、照射面にスリット状の照明が得られるように平板状の光を発生させ、これにより、トレイ6の上に載置されている茶碗や皿などの食器8a、8bにスリット光9a、9bを照射し、この照射部分をテレビカメラ2により撮像して画像信号を得るようになっている。
【0012】
このとき、テレビカメラ2の撮像光軸Xと、パターン照射装置3の照射光軸Yに、図示のように、一定の角度θを付けておき、この状態で撮像する。
そうすると、その画像は図3に示すようになり、食器の高い部分に照射された光は、トレイ6の表面の光からずれ、例えば図示のように、右側に観測される。
【0013】
そして、このときのスリット光の照射角度と光のずれの程度により、光が照射された位置の高さ、すなわち、食器の高さを計算することができる。
この図3の例では、茶碗などの食器8aの部分の光のずれかたが、皿などの食器8bより大きいので、食器8aの高さの方が高いことが判別できる。
【0014】
そして、このとき、矢印Aに示すように、スリット光9a、9bを左から右に振りながら照射してトレイ6全体を走査することにより、トレイ6の表面からの高さ方向の情報を含んだ画像データが生成され、従って、この画像データの解析により3次元的な食器の種別判別ができるようになり、メニューの多様化に容易に対応することができる。
【0015】
【発明の実施の形態】
以下、本発明による飲食代金自動精算装置について、図示の実施形態により詳細に説明する。
図1は、本発明の一実施形態を示す全体構成図で、図において、1は認識装置で、コンピュータを備え、食器の認識と代金の清算に必要な所定の処理を実行する。
テレビカメラ2とパターン照射装置3は、既に図2、図3で説明した通りで、互いに角度をもってスリット光の照射と画像データの取り込みを行う。
【0016】
この実施形態例では、このパターン照射装置3として640×480ドットの光点の照射が可能な液晶プロジェクタを用いており、これにより640本のスリット光、すなわち、640種類の角度が異なった方向にスリット光発生させるようになっている。そして、このときのテレビカメラ2とパターン照射装置3の角度θは約28°に設定配置されている。
【0017】
次に4はカードリーダで、食堂利用者が提示したIDカードの読み取り用である。
5はタッチパネルで、認識した結果と清算された代金の表示を行うと共に、画面上に設定されたタッチスイッチを備え、これにより食堂利用者からのデータ入力を可能にしている。
【0018】
6はトレイで、上記したように、食堂利用者は、総菜などの飲食物が盛りつけられた食器8a、8bを選択し、それらをこのトレイ6に乗せ、食事に供するため持ち運ぶようになっている。
7は精算用の台で、食堂利用者は、この台7の上に持ち運び途中のトレイ6を置き、精算を待つのである。
【0019】
次に、この実施形態例の動作について説明する。
まず、食堂利用者は、各種のメニューを選択し、選んだ総菜などの食品が盛られた食器8a、8bをトレイ6に取り、台7の上に持ってきて置く。
その後、自分のIDカードをカードリーダ4に差し込む。
そして、IDカードのデータが読み取られると食器の認識と代金の清算が行われ、結果がタッチパネル5に表示される。
そこで、食堂利用者は、表示された清算内容を確認し、結果に間違いがなければ、IDカードを抜き取り、これで清算が完了する。
【0020】
次に認識装置1による処理について説明する。
まず図4は、この認識装置1のハードウエア構成図で、図において、10はデータバスで、各機器を接続している。
11はコンピュータのCPUで、この装置での全ての演算を行っている。
【0021】
12はROMで、電源投入時の初期化プログラムが格納されている。
13はRAMで、この装置で実行するプログラムと演算の途中結果、それにテレビカメラ2から取り込んだ画像データなどが格納されるものである。
【0022】
14はシリアルI/Oで、CPU11は、このシリアルI/O14を介してカードリーダ4及びタッチパネル5と情報の授受を行う。
15はカメラインターフェースで、このカメラインターフェース15は、CPU11からの撮像命令が発行されると、テレビカメラ2の撮像制御を行い、取り込んだ画像データを、バス10を介してRAM13に転送する。
16は照射制御部で、CPU11の命令によりパターン照射装置3を制御し、種々の角度のスリット光を発生させる。
【0023】
17はDISKインターフェース、18はハードディスクで、まずDISKインターフェース17はハードディスク18のインターフェース用で、次にハードディスク18は、この装置で実行すべきプログラムと食器の判別に必要な教示データ、食器の金額テーブルなどの格納用である。
そして、このハードディスク18に格納されているプログラムは、先ず電源投入時、ROM12に格納されているプログラムによってRAM13に転送され、以後、CPU11によって実行される。
【0024】
19はLANインターフェースで、上位コンピュータとのデータのやりとりを行う。
この実施形態例では、清算結果は上位コンピュータに転送され、給与からの天引きにより、或いは銀行などの預金からの引き落しにより、実際の代金の決済が行われる。
【0025】
図5はCPU11で実行されるプログラムの全体処理フローである。
この処理は、電源の投入により開始され、まずステップ101で初期化が行われる。そして、この初期化処理では、ハードディスク18に格納されているプログラムと教示データ、金額テーブルなどをRAM14に転送し、さらに、I/O14、15とLANインターフェース19の初期化も行う。
【0026】
次にステップ102では、カードリーダ4とタッチパネル5からの入力をチェックし、なんらかの入力があるまで待つ。
そして、タッチパネル5からの終了キーの入力があったときには、ここで処理を終了する。
そして、カードリーダ4からIDカードの読み取り入力があったとき、ステップ103の処理に進む。
【0027】
ステップ103では食器の種別認識を行う。なお、処理の詳細については後述する。
認識結果は、食器番号として出力される。
ステップ104では認識された食器番号から、その食器に決められた代金を計算する。
この代金計算では、図8に示す金額テーブルが用いられる。そして、この金額テーブルには、図8に示されているように、食器番号と食器の名称、それに、その金額が表形式で格納されており、認識された食器番号を用いて代金の合計金額を計算する。
【0028】
ステップ105ではタッチパネル5に金額の表示を行う。表示内容は合計金額と認識した食器の名称、それに、それぞれの金額である。
そして、処理が終了したら、ステップ102に戻る。
このとき、カードリーダ4で読み取ったIDカードの番号と合計金額が、清算情報としてハードディスク18に書き込まれ、要求に応じて上位コンピュータに転送される。
【0029】
図6は、ステップ103での食器認識の処理フローである。
まずステップ201で高さ画像を生成する。
この高さ画像とは、通常の濃淡画像データでの濃淡情報が食器の高さ情報になっているものである。なお、この高さ画像の生成方法については後述する。
【0030】
生成された高さ画像の例を図10に示す。この図10は、図2のトレイ6と食器8a、8bの画像を対象としたもので、明るい部分が食器の高くなっている部分を表わしている。
そして、この図10のA−A’での断面図(断面輝度)を表したのが図11であり、このようにして、画像の各部分の情報を取り出すことによって、その位置と高さを求めることができる。
【0031】
次にステップ202では領域分離処理を行う。
この領域分離処理では、高さがトレイ6の表面から10mm以上の部分で2値化して連続領域を検出する。
ステップ203では分離された1区画の領域について特徴量の計算を行う。この1区画は食器1個に対応した領域であり、この特徴量として、ここでは、領域の縁の平均高さと領域の面積、領域の周囲長が選ばれており、これらを算出している。
【0032】
次にステップ204では教示データとの比較を行う。
この教示データは、図7に示すテーブルとして予め登録してあり、このテーブルには、図示のように、食器番号、食器の名称、縁の平均高さ、面積、周囲長が登録されている。
【0033】
そして、算出した特徴量と、このテーブルの各値とを比較し、差が所定の閾値以下になるものを探して一致するものとする。そして、一致したものが見つかったら、ステップ205で食器番号の認識結果として登録し、一致するものがなかったときは、ステップ206に進む。
【0034】
ステップ206では分離した全領域について処理が完了したかをチェックし、完了していなければステップ203に戻り、完了していたときは、ここで処理を終了する。
以上の処理により、トレイ6上の全ての食器についての認識が得られることにる。
【0035】
次に、図9はステップ201での高さ画像生成の処理フローである。
まずステップ301で角度θを0にする。
この角度θはパターン照射装置3によるスリット光の照射角度で、従って、角度0は検出領域の走査開始点、つまり、図1の場合、台7の一方の端、例えば図の左端にスリット光の照射位置がくる角度に対応している。
【0036】
次に、ステップ302で照射角度θでのスリット光の照射を行い、ステップ303でスリット光が照射された画像の取り込みを行う。
このとき取り込まれた画像は、図3に示すようになる。なお、この図3では、説明を判り易くするため、2本のスリット光9a、9bが示されているが、実際には、スリット光は1本だけ照射され、順次移動してゆくものである。
【0037】
次にステップ304では高さの計算を行う。この高さの計算は、スリット光による画像を抽出し、スリット光の横方向の位置Xを、縦方向の各画素Yについて検出して行う。
すなわち、高さHは、横方向の位置Xとスリット光の照射角度θ、テレビカメラ2の位置と傾き角度、パターン照射装置3の位置と傾き角度から、幾何学的計算によって、縦方向の各画素Yについて算出される。
【0038】
ステップ305では高さの計算結果を高さ画像に書き込む。具体的には1ラインについて、縦方向の各画素位置Yと、横方向の位置Xに対応するメモリに、計算した高さHを書き込んでゆくのである。
【0039】
次にステップ306では角度θを或る微小角度Δθだけ変化させる。この微小角度Δθの値により、高さ画像の横方向分解能が決められる。
ここでは、この微小角度Δθとして、約2mmの横方向分解能に対応する値が設定してある。
【0040】
ステップ307では角度θと最大角度θMaxとを比較する。
そして、この角度θが最大角度θMaxよりも大きければ、検出領域の走査が終了していることを意味するので、ここで処理を終了する。つまり、この最大角度θMaxは、スリット光による照射位置が台7のもう片方の端、例えば、図1では台7の右端になる角度に対応している。
【0041】
一方、角度θが最大角度θMax未満のときには、ステップ302に戻り、再び微小角度Δθだけ変化させて撮像する処理を繰り替えす。
従って、以上の処理により、微小角度Δθづつ照射角度を変えて画像を取り込むという操作が繰り返され、この結果、例えば、図1のトレイ6と食器8a、8bの場合には、図10に示した高さ画像を得ることができる。
【0042】
従って、以上の実施形態例によれば、以下に列挙する効果が得られる。
▲1▼
食器の認識を3次元情報によって行っているので、使用する食器の種別についての制限が少なく、多種類のメニューの設定が可能である。
例えば、図7の食器番号1の飯椀小と食器番号5の平皿小、食器番号2の飯椀大と食器番号4の平皿中は、平面形状が同一なので、面積、周囲長などの2次元情報だけでは判別できないが、上記実施形態では、高さ情報を用いているので、明確に、しかも確実に判別することができる。
【0043】
上記実施形態例では、高さの判別性能を約10mmに調整している。
一方、通常使用される食器の高さは20mmから100mm程度であるので、従来技術のように、平面形状だけに頼っていた場合に比べて、本発明の場合には約9倍のメニューが設定できる。
【0044】
▲2▼
食器の3次元形状だけで、種別の判別が可能なので、食器に別途、標識などの識別情報を付加する必要がなく、従来から使用していた汎用の食器がそのまま使用できる。
【0045】
▲3▼
トレイの上側からの撮像だけで済むので、トレイの材質が問わないることはなく、また、単純な濃淡画像情報による識別ではないので、トレイと食器の画像にコントラストを必要としないため、使用するトレイ、食器の相対的な色の制限がなく、従来から使用していた汎用のトレイがそのまま使用できる。
【0046】
▲4▼
スリット光の照射に液晶プロジェクタを用いているため、可動部が全くなく、保守が容易である。
▲5▼
食器の外形に着目して認識を行っているため、食器に盛られている料理の影響がなく、食前、食後、いずれの清算処理も可能である。
▲6▼
カードによる清算方式になっているので、現金を扱う必要がない。
【0047】
▲7▼
教示データテーブルと金額テーブルが分離されているため、メニューの設定に際しても、金額テーブルのデータのみを設定すればよく、金額の変更が容易である。
▲8▼
高さ画像を用いているので、例えば高さが10mm以上のものだけを検出するようにでき、この結果、特別な処理や設定無しで、箸、スプーンなど、食器以外の物を清算対象外にする処理が得られる。
従って、上記本発明の実施形態によれば、以上のような効果により、カフェテリア方式の食堂において、容易に清算の自動化を図ることができる。
【0048】
なお、上記実施形態では、スリット光で走査しているが、撮像を高速化するため、光のパターンをコード化し、空間コード法という手法を用いて本発明を実施してもよく、これによれば、精算時間の短縮を図ることができる。
また、上記実施形態では、利用者識別用にIDカードを用いているが、カードリーダの変更により、プリペイドカードによる精算にも容易に対応可能なことは言うまでもない。
【0049】
【発明の効果】
本発明によれば、食器の識別に立体形状情報を用いているので、食器の形状の違いを確実に識別でき、従って、食器に特別な標識を付加することなく、多種類の食器の識別が可能になり、この結果、メニューの数を大幅に増加させることができる。
【0050】
そして、この結果、本発明によれば、利用者数の多いカフェテリア方式の食堂にも容易に適用可能な飲食代金自動精算装置を提供することができる。
【図面の簡単な説明】
【図1】本発明による飲食代金自動精算装置の一実施形態における全体構成を示すブロック図である。
【図2】本発明の一実施形態の動作原理を示す光学系配置図である。
【図3】本発明の一実施形態による撮像画像の説明図である。
【図4】本発明の一実施形態のハードウエア構成図。
【図5】本発明の一実施形態による全体処理フローの説明図である。
【図6】本発明の一実施形態での食器認識処理フローの説明図である。
【図7】本発明の一実施形態で使用する教示データテーブルの説明図である。
【図8】本発明の一実施形態で使用する金額テーブルの説明図である。
【図9】本発明の一実施形態による高さ画像生成処理フローの説明図である。
【図10】本発明の一実施形態により得られた高さ画像の一例を示す説明図である。
【図11】本発明の一実施形態により得られた高さ画像の一例における断面図である。
【符号の説明】
1 認識装置
2 テレビカメラ
3 パターン照射装置
4 カードリーダ
5 タッチパネル
6 トレイ(盆)
7 精算用の台
8a、8b 食器

Claims (2)

  1. 食器取り分け用の盆を上方から撮像した画像データに基づいて、当該盆に載置された食器の種別と個数を判別して飲食代金を自動的に精算する方式の飲食代金自動精算装置にいて、
    上記画像データの検出手段として、スリット光を一方向に振って前記盆の全体を走査する照明手段と上記食器によって反射された上記スリット光の反射光を撮像する撮像手段とを備え、上記照明手段による照明光軸と上記撮像手段による撮像光軸とに角度を持たせ、上記撮像手段にて撮像された上記画像データから上記食器の平面形状に関する情報と高さ方向の情報とを検出し、
    これら平面形状に関する情報と高さ方向の情報に基づいて上記食器の種別を判定識別することを特徴とする飲食代金自動精算装置。
  2. 上記照明手段として液晶プロジェクタを用いると共に、上記撮像手段としてテレビカメラを用いたことを特徴とする請求項1に記載の飲食代金自動精算装置。
JP22673196A 1996-08-28 1996-08-28 飲食代金自動精算装置 Expired - Fee Related JP3544793B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP22673196A JP3544793B2 (ja) 1996-08-28 1996-08-28 飲食代金自動精算装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP22673196A JP3544793B2 (ja) 1996-08-28 1996-08-28 飲食代金自動精算装置

Publications (2)

Publication Number Publication Date
JPH1069579A JPH1069579A (ja) 1998-03-10
JP3544793B2 true JP3544793B2 (ja) 2004-07-21

Family

ID=16849732

Family Applications (1)

Application Number Title Priority Date Filing Date
JP22673196A Expired - Fee Related JP3544793B2 (ja) 1996-08-28 1996-08-28 飲食代金自動精算装置

Country Status (1)

Country Link
JP (1) JP3544793B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4974044B2 (ja) * 2006-03-23 2012-07-11 ブラザー工業株式会社 刺繍縫製可能なミシン
JP2009176209A (ja) * 2008-01-28 2009-08-06 Hitachi Keiyo Engineerring & System Ltd 食堂用自動精算装置
JP6459448B2 (ja) * 2014-12-01 2019-01-30 カシオ計算機株式会社 商品注文装置、商品注文方法およびプログラム
US10424121B1 (en) 2016-11-06 2019-09-24 Oded Melinek Generated offering exposure
KR102027275B1 (ko) * 2017-11-14 2019-10-01 김대훈 급식관리 시스템 및 이의 운영방법

Also Published As

Publication number Publication date
JPH1069579A (ja) 1998-03-10

Similar Documents

Publication Publication Date Title
US20140112524A1 (en) Methods and arrangements for identifying objects
US6592033B2 (en) Item recognition method and apparatus
JP4254347B2 (ja) 容器内液体中の異物検出方法及びその装置
US11227141B2 (en) Fingerprint identification device and fingerprint identification method
JP2014102766A (ja) ディスク判別方法、ディスク判別装置およびディスク選別装置
JPH07302343A (ja) 物体認識システム及び方法
JP3544793B2 (ja) 飲食代金自動精算装置
US20130320084A1 (en) Checkout device with multi-touch input device
JP2009176209A (ja) 食堂用自動精算装置
CA1283212C (en) Optical character reader
JP3552872B2 (ja) 飲食代金自動精算装置
CN104680113B (zh) 图像捕捉装置
CN110326032A (zh) 图像识别系统、图像识别方法和存储介质
JP2002032862A (ja) 食堂料金精算システム
JP6891389B2 (ja) 商品登録装置、プログラム、制御方法、及び精算システム
JP4169201B2 (ja) ゲーム機
JP7215474B2 (ja) 登録システム、登録方法及びプログラム
US20210056818A1 (en) Registration system, registration method, and program
JP2020177295A (ja) 飲料提供用容器の識別装置、識別方法、及び識別プログラム
JP6481126B2 (ja) ディスクの色判別装置および色判別方法
JPH08212462A (ja) セルフサ−ビス式食堂の自動精算システムに於ける料理価格判別認識方法
JPH0219992A (ja) 汚損紙幣検出装置
US20140313319A1 (en) Disk image acquiring device and disk sorting device
JPH06266890A (ja) エンボス文字認識装置
EP2804154A1 (en) Disk image acquiring device and disk sorting device

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040323

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040406

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110416

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees