JP4010708B2 - 機器制御装置 - Google Patents
機器制御装置 Download PDFInfo
- Publication number
- JP4010708B2 JP4010708B2 JP17374799A JP17374799A JP4010708B2 JP 4010708 B2 JP4010708 B2 JP 4010708B2 JP 17374799 A JP17374799 A JP 17374799A JP 17374799 A JP17374799 A JP 17374799A JP 4010708 B2 JP4010708 B2 JP 4010708B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- motion
- window
- detected
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Description
【発明の属する技術分野】
本発明は、機器を遠隔制御するための装置に関し、特にカメラで検出した画像情報、動き情報、又は双方の情報を用いて機器の制御を行う機器制御装置に関する。
【0002】
【従来の技術】
従来、テレビやビデオ等に用いられている赤外線を利用したリモコンがある。また、CCDカメラ等を使用して、画像の動きを認識し、動きが検出された場合に、カメラに接続しているVTRの録画を開始させる監視システム等の装置が存在している。
【0003】
特開平5−307793号公報に開示された遠隔制御装置は、図16に示すように、使用者とのインターフェースとなり、表示内容を変更可能な表示・入力部100と、マイコン(演算処理部)200と、VTR等の制御対象部400と、メモリ等の記憶手段300とで構成されている。そして、表示・入力部100によって指示された命令を、演算処理部200によって演算処理し、命令を解釈した後実行し、メモリ300に新しい表示・入力部100のための情報を保存して、その情報により表示・入力部100を使用状態によって可変できるようにしている。これは、制御対象部400を使用している間に、使用者の使用状態(癖や特徴や傾向など)を学習し、より使いやすいインターフェースに自動的に設定する目的で発明されたものである。
【0004】
【発明が解決しようとする課題】
しかしながら、上記した従来の機器制御装置では、入力装置としてユーザーとのインターフェース用のボタンやタッチパネルが必要であった。このような入力装置では、ユーザーが入力装置の前まで移動して操作する必要があった。また、ユーザーが入力装置の前まで移動せずに操作するために赤外線などの制御信号を送信するリモートコントロール(遠隔制御)装置が必要であったが、リモートコントロール装置がユーザーの近くに無かったり、一時的に紛失することで操作上の不便を感じることが多々あった。
【0005】
更に、監視システムにおいて、カメラによって撮影した画像の動きを検出してVTRの録画を開始するように制御する方法があるが、これはあくまでも画像の動きの有無を検出して簡単な制御を行うものであり、ユーザーインターフェースとしての役割を果たしているとは言い難いものであった。
【0006】
【課題を解決するための手段】
上述した課題を解決するために、
撮影手段と、
前記撮影手段によって撮影された画像全体を複数のブロックに分割し、前記各ブロック毎に動き量情報を検出する動き検出手段と、
前記動き検出手段で検出された動き量情報に基づき、前記複数のブロックから動きのあるブロックを抽出する動き部分抽出手段と、
少なくとも前記抽出されたブロックを含む領域に、操作コマンドを認識するためのウインドウを設定する被写体ウインドウ設定手段と、
前記ウインドウ内における複数の特定部分について、各特定部分ごとに画素データの輝度レベル変化を検出し、前記各特定部分ごとに検出した前記輝度レベル変化の頻度に基づき、前記ウインドウ内の被写体の向きと形状とを検出する画像認識手段と、
前記画像認識手段で検出された前記ウインドウ内の被写体の向きと形状とに基づき、複数の操作対象機器から一つの操作対象機器を特定する動作と、その特定した一つの操作対象機器に対する操作コマンドを決定する動作とを行い、前記特定した一つの操作対象機器に対応したインターフェース部を介して前記特定した一つの操作対象機器に前記決定した操作コマンドを送信する操作機器インターフェース手段と、
を備えることを特徴とする機器制御装置、
を提供する。
【0011】
このような構成によって、ユーザーは入力装置の前まで移動したり、赤外線などで制御信号を送信するリモートコントロール装置を使用しなくても、体の一部、例えば手の動きによって機器を制御することが可能となる。
【0013】
【発明の実施の形態】
以下、本発明に係る機器制御装置について、その概念を説明する。本発明では、まず、カメラによって撮影した画像の動き検出を行い、動きのある部分にウインドウをかける。次に、ウインドウ内の画像を認識し、その認識結果によって機器を操作する。
【0014】
この場合、カメラは制御機器として設置されており、常にユーザーの動きを捉えている。ユーザーの動きとしてはユーザーの手の動きを認識するようにしている。なお、カメラはCCDカメラを使用すれば良く、NTSCの画像のように、29.97Hzのフレームレートで作動しているのが好ましいが、10Hz程度でも構わない。
【0015】
撮影された画像データはAD変換され、デジタル化されたフレーム画像データは連続する2フレームをフレームメモリに取り込む。そして、この2つのフレームの画像データに対して動き検出を行う。動き検出は図1に示すように、時間tで連続する2つのフレームの中で対象画像である花aが右上に向かって動いていたとすると、右側のカレント画像の花aのあるブロックb′が1フレーム前の画像においてどこに存在していたかを検出する動作のことであり、この場合は1フレーム前のにはbの位置にあった。
【0016】
実際には、カレント画像を16画素×16画素程度のブロックに分けて、その一つ一つのブロックが一つ前の画像でどのブロックに一番似ているかを、差分を取ってパターンマッチングをし、その差分データの総和や、2乗和の最も小さい場所(アドレス)を求める。アドレスは水平方向画素と垂直方向画素の数で示すことが多いので、これを動きベクトルと呼ぶこともある。
【0017】
パターンマッチングの検索エリアは、サーチレンジといって、29.97Hzのフレームレートで水平方向解像度が720画素の場合、1フレーム離れたとき、±15画素程度で行う。この技術はMPEGなどの画像データ圧縮技術にて既に実施されている技術である。
【0018】
例えば、図2に示すようにカメラによって撮影されているエリア内で手cを左右に振ったと仮定する。すると、手cを振った部分のブロックにのみ動きベクトルは有効な大きさを示す。即ち、図3に示す有効ブロックdのみ動きベクトルは有効な大きさを示し、それ以外のブロックは略静止しているため有効な動きベクトルの値を持たない。実際のベクトルの水平方向(X画素)、垂直方向(Y画素)のデータに対して、それぞれの2乗和の平方根を、そのベクトルの大きさとし、その大きさが8以上の場合に有効であるとする。そこで、動いた部分に相当する画像に対して長方形のウインドウを設定する。
【0019】
このウインドウは図4に示すように、有効な動きベクトル値を有するブロックが上下、左右全て含まれるエリアを長方形に設定する。そして、動きベクトルが8以上の大きさを持つことを検出し、ウインドウ内の画像を取り込む。これによって、手cを所定の時間振った後、指を1本立てて上に向けた状態の、ほぼ手首より上の部分だけの画像が図5のように取り込まれる。
【0020】
次に、図6に示すように取り込んだ画像の認識を行う。ここでは、手cの指が何本立っているか、また、その方向が上を向いているか、下を向いているかを認識する。図6の右側の画像は取り込んだ手cの画像を拡大した画像である。この拡大画像において、上から約1/4の位置にある水平方向の線Aと、下から約1/4の位置にある水平方向の線Bとの輝度信号のレベル変化を検出する。
【0021】
図7は線Aと線Bにおける輝度信号のレベル変化の検出例を示している。これは、背景の輝度レベルの方が手cの部分の輝度レベルよりも大きい(明るい)場合の例である。図7のAは輝度の変化が頻繁に起きるため、手cの指が1本出されていると考えられ、図7のBは輝度の変化がウインドウ幅のうちほとんど起きないので手のひらに相当していると判別できる。これによって手cが上を向いているか、下を向いているかを認識する。また、Bの手のひらに相当する部分の中にAの指に相当する部分がいくつ存在するかで、画像内に何本の指が立っているかを認識することが可能である。
【0022】
この方式で、立っている指の数、指が指す方向(上下)を認識できるので、全部で10種類の制御を実行することができる。例えば、このうち、手cを数回振ったあとで、
(1)1本の指を上にする・・・TVのスイッチON
(2)1本の指を下にする・・・TVのスイッチOFF
(3)2本の指を上にする・・・TVのチャンネルをインクリメント(+)する
(4)2本の指を下にする・・・TVにチャンネルをデクリメント(−)する
などのコマンドを実行することが可能である。
【0023】
次に、このような画像認識の精度を向上するための方法を説明する。手cを振ったときにその背景にある画像と手cの画像とを区別するために、カメラと被写体である振られた手cとの距離を認識し、その距離に相当する画像のみを検出する。そのためにはカメラを2台使用し、その2台のカメラに映る画像の視差を用いることで、画像の距離を検出することができる。その原理を以下に説明する。
【0024】
ステレオ画像を用いた3次元画像入力装置は、例えば、「グラフィックスとビジョン」(オーム社刊:P28)に記載されている。これは図8に示すように、光軸間に一定の距離Lを置いて配置された左右の画像の各画素の対応を求め、その視差からその画像に対応する測定点までの距離を求める方法が採用されている。ここで、ステレオ画像を用いた3次元画像入力装置では、通常、2台のカメラの光軸が同一平面上に含まれるように配置するので、対応点探索はエピポーラ線である同じ走査線上で行えば良い(エピポーラ拘束条件)。すなわち、カメラの光軸間の距離をL、焦点距離をfとすると、対象物上の点P(x、y、z)が左右の画面上の点Pl(Xl,Yl)、Pr(Xr,Yr)にそれぞれ投影されたとき、距離zは
z=L×f/(Xl−Xr)
で表される。ここで、Xl−Xrは視差を表し、向かって左の画像を基準画像とした場合、点Pl(Xl,Yl)における視差ベクトルはVp(Xl−Xr,Yl−Yr)と表される。
【0025】
この方法によれば、画像の画素毎の距離を検出することが可能になるので、例えば図9に示すように、モニター用のTV1にカメラ2が1台設置されており、前述した方法で手cを認識しようとした場合、その背景に家具3やカーテン4が存在していて、家具3やカーテン4の模様などで手cの指の検出が良好に行われないときでも、図10に示すようにモニター用のTV1にカメラ2a及びカメラ2bの2台のカメラが設置されている場合、2台のカメラ2a,2bによって撮影された画像の視差ベクトルを上記エピポーラ拘束条件を使用して演算し、手cのカメラ2a,2bからの距離を検出し、前述した動き検出と共に距離検出した部分の距離に存在する画像のみを抽出することが可能となる。
【0026】
即ち、図11に示すように、コマンドを送信するための被写体である手cと家具3とカーテン4が存在していた画像から、動き領域であって、動いた部分と同じ距離に存在する領域であるという2つの条件を満たしている部分を抽出すると、図12に示すように手cの部分のみが抽出できる。そして、背景の距離が大きい領域には例えば、黒や白などを埋め込むことによって、より手cの上下認識や指の本数認識を精度良く行うことが可能となる。
【0027】
上述したような技術を用いて本発明に係る第1実施例の機器制御装置について図13を使用して説明する。まず、カメラ2によって撮影された画像は動き検出器5に送信される。動き検出器5に送信された画像は所定のブロックに分割されて、フレーム毎に動き検出がなされる。動き検出されたブロック毎の動きベクトル情報は、動き部分抽出器6に送信される。次に、コマンド送信被写体ウインドウ設定部7では、動きのあるブロックとして検出されたブロックを含む長方形のウインドウ領域を設定し、そのウインドウ領域内に存在する画像を画像認識器9へ送信する。画像認識器9では前述したコマンドを送信するための被写体(手c)の指の本数及び指の指す方向の上下を認識する。認識した情報は操作機器インターフェース8へ送られ、スイッチのON/OFFなどの予め設定した操作機器10に対する制御信号に変換される。そして、この制御信号によって操作機器10が制御される。
【0028】
次に、図10に示すように、2台のカメラを所定の間隔で設置した場合と対応して本発明に係る第2実施例の機器制御装置について図14を使用して説明する。2台のカメラ2a,2bによって撮影された画像はそれぞれエピポーラ拘束視差ベクトル抽出器11に送信される。エピポーラ拘束視差ベクトル抽出器11では2つの画像の視差ベクトルをエピポーラ拘束条件を使用して演算し、距離算出器12へ送信する。距離算出器12では入力された視差ベクトルからコマンドを送信する被写体(手c)の各カメラ面からの距離を検出し、画素毎の距離情報をコマンド送信被写体ウインドウ設定器7へ送信する。その一方で、カメラ2bによって撮影された画像は動き検出器5に送信される。動き検出器5に送信された画像は所定のブロックに分割されて、フレーム毎に動き検出される。そして、動き検出されたブロック毎の動きベクトル情報は動き部分抽出器6に送信され、ここで動きベクトルの絶対値を演算し8以上の値を持つブロックを抽出する。
【0029】
抽出されたブロックのアドレスはコマンド送信被写体ウインドウ設定部7に送信される。コマンド送信被写体ウインドウ設定部7では、動き部分抽出器6から入力された動きブロックのアドレス情報と、距離算出器12から入力された画素毎の距離情報を基に、動いている部分の距離と等しい画像部分を抽出し、動きのあるブロックとして検出されたブロックとを含む長方形のウインドウ領域を設定し、コマンドを送信する被写体以外の背景画像は白(画素レベル255)に設定し、そのウインドウ内に存在する画像を画像認識器9へ送信する。画像認識部9では前述したコマンドを送信する被写体である手cの立っている指の本数及び指の指す方向の上下を認識する。認識した指の本数情報や上下の情報は操作機器インターフェース8に送信されて、スイッチのON/OFFなどの予め設定した機器制御に対応した制御信号に変換される。そして、制御信号は操作機器10へと送信され、操作機器10が制御される。
【0030】
次に、カメラを2台使用し、複数の機器を制御する場合として本発明に係る第3実施例の機器制御装置について、図15を使用して説明する。
【0031】
2台のカメラ2a,2bによって撮影された画像はそれぞれエピポーラ拘束視差ベクトル抽出器11に送信される。エピポーラ拘束視差ベクトル抽出器11では、2台のカメラ2a、2bによって撮影された2つの画像の視差ベクトルをエピポーラ拘束条件を使用して演算し、距離算出器12に送信する。距離算出器12では入力された視差ベクトルからコマンドを送信するための被写体である手cの各カメラ面からの距離を検出し、画素毎の距離情報をコマンド送信被写体ウインドウ設定器7に送信する。一方、カメラ2bによって撮影された画像は動き検出器5に送信される。動き検出器5に送信された画像は所定のブロックに分割されて、フレーム毎に動き検出される。動き検出されたブロック毎の動きベクトル情報は動き部分抽出器6に送信され、動き部分抽出器6では動きベクトルの絶対値を計算し、8以上の値を持つブロックを抽出するするようにしている。このように抽出されたブロックのアドレスはコマンド送信被写体ウインドウ設定器7に送信される。
【0032】
コマンド送信被写体ウインドウ設定器7では、入力された動きブロックのアドレス情報と、画素毎の距離情報とを基にして、動いている部分の距離と等しい画像部分を抽出し、動きのあるブロックとして検出されたブロックを含む長方形のウインドウ領域を設定し、コマンド送信被写体以外の背景画像は白(画素レベル255)に設定し、そのウインドウ内に存在する画像を画像認識器9へ送信する。画像認識器9では、前述したコマンドを送信するための被写体である手cの立っている指の本数、指の指す方向の上下を認識する。そして、このような情報は操作機器判定器13に送信され、操作機器を特定する。
【0033】
例えば、手を数回振った後に、その位置で
(1)1本の指を上にする・・・操作機器AのスイッチをONにする。
(2)1本の指を下にする・・・操作機器AのスイッチをOFFにする。
(3)2本の指を上にする・・・操作機器BのスイッチをONにする。
(4)2本の指を下にする・・・操作機器BのスイッチをOFFにする。
(5)3本の指を上にする・・・操作機器CのスイッチをONにする。
(6)3本の指を下にする・・・操作機器CのスイッチをOFFにする。
(7)4本の指を上にする・・・操作機器DのスイッチをONにする。
(8)4本の指を下にする・・・操作機器DのスイッチをOFFにする。
というコマンドを割り当てていたとすると、立っている指の本数で操作機器を特定し、特定された操作機器では、指の上下(手cの方向)の情報が対象の機器に接続した操作機器インターフェース8a〜8dのいずれかに送信され、スイッチのON/OFFなど予め設定した機器制御に対応した制御信号に変換され、その信号は制御機器10a〜10dのいずれかに送信されて、各機器の制御が行われる。ここで、操作機器としては、TVやVTR、エアコン、証明など、リモコンが使用できるものであれば適応可能である。
【0034】
なお、本実施例では、コマンドを送信するための被写体として、人間の体の一部である手を用いて説明したが、画像認識の技術の進歩によって、顔や目の動きなどを用いても良い。また、人間の体の一部ではなく、所定のパターンの印刷物やバーコードなどを使用しても良い。
【0035】
以上、詳述したように、本発明に係る機器制御装置によれば、ユーザーが入力装置の前に移動したり、別途リモートコントロール装置を使用しなくても機器を制御することが可能となる。
【図面の簡単な説明】
【図1】 動き検出を説明するための図である。
【図2】 動き部分の抽出を説明するための図である。
【図3】 動き部分の抽出を説明するための図である。
【図4】 コマンド送信被写体のウインドウの設定を説明するための図である。
【図5】 コマンド送信被写体のウインドウの設定を説明するための図である。
【図6】 コマンド送信被写体の画像認識方法を説明するための図である。
【図7】 コマンド送信被写体の画像認識方法を説明するための図である。
【図8】 3次元入力とエピポーラ拘束条件を説明するための図である。
【図9】 カメラが2台ある場合のカメラ設定位置の説明図である。
【図10】 カメラが2台ある場合のカメラ設定位置の説明図である。
【図11】 カメラが2台ある場合のウインドウ設定を説明するための図である。
【図12】 カメラが2台ある場合のウインドウ設定を説明するための図である。
【図13】 本発明に係る第1実施例の機器制御装置の一実施例を示すブロック図である。
【図14】 本発明に係る第2実施例の機器制御装置の一実施例を示すブロック図である。
【図15】 本発明に係る第3実施例の機器制御装置の一実施例を示すブロック図である。
【図16】 従来の機器制御装置を示すブロック図である。
【符号の説明】
1 TV
2,2a,2b カメラ
3 家具
4 カーテン
5 動き検出器
6 動き部分抽出器
7 コマンド送信被写体ウインドウ設定部
8 操作機器インターフェース
9 画像認識器
10 操作機器
11 エピポーラ拘束視差ベクトル抽出器
12 距離算出器
13 操作機器判別器
Claims (1)
- 撮影手段と、
前記撮影手段によって撮影された画像全体を複数のブロックに分割し、前記各ブロック毎に動き量情報を検出する動き検出手段と、
前記動き検出手段で検出された動き量情報に基づき、前記複数のブロックから動きのあるブロックを抽出する動き部分抽出手段と、
少なくとも前記抽出されたブロックを含む領域に、操作コマンドを認識するためのウインドウを設定する被写体ウインドウ設定手段と、
前記ウインドウ内における複数の特定部分について、各特定部分ごとに画素データの輝度レベル変化を検出し、前記各特定部分ごとに検出した前記輝度レベル変化の頻度に基づき、前記ウインドウ内の被写体の向きと形状とを検出する画像認識手段と、
前記画像認識手段で検出された前記ウインドウ内の被写体の向きと形状とに基づき、複数の操作対象機器から一つの操作対象機器を特定する動作と、その特定した一つの操作対象機器に対する操作コマンドを決定する動作とを行い、前記特定した一つの操作対象機器に対応したインターフェース部を介して前記特定した一つの操作対象機器に前記決定した操作コマンドを送信する操作機器インターフェース手段と、
を備えることを特徴とする機器制御装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP17374799A JP4010708B2 (ja) | 1999-06-21 | 1999-06-21 | 機器制御装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP17374799A JP4010708B2 (ja) | 1999-06-21 | 1999-06-21 | 機器制御装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001005975A JP2001005975A (ja) | 2001-01-12 |
JP4010708B2 true JP4010708B2 (ja) | 2007-11-21 |
Family
ID=15966392
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP17374799A Expired - Lifetime JP4010708B2 (ja) | 1999-06-21 | 1999-06-21 | 機器制御装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4010708B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7251346B2 (en) | 2002-11-19 | 2007-07-31 | Honda Motor Co., Ltd. | Moving object detection device, moving object detection method, and moving object detection program |
JP3952460B2 (ja) * | 2002-11-19 | 2007-08-01 | 本田技研工業株式会社 | 移動物体検出装置、移動物体検出方法及び移動物体検出プログラム |
JP5353196B2 (ja) * | 2008-11-17 | 2013-11-27 | 株式会社リコー | 移動計測装置および移動計測プログラム |
JP5439347B2 (ja) | 2010-12-06 | 2014-03-12 | 日立コンシューマエレクトロニクス株式会社 | 操作制御装置 |
JP5713938B2 (ja) * | 2012-03-05 | 2015-05-07 | 三菱電機株式会社 | 空気調和機の室内機 |
JP5770251B2 (ja) * | 2013-12-02 | 2015-08-26 | 日立マクセル株式会社 | 操作制御装置 |
JP5661905B2 (ja) * | 2013-12-11 | 2015-01-28 | 日立マクセル株式会社 | 操作制御装置 |
-
1999
- 1999-06-21 JP JP17374799A patent/JP4010708B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2001005975A (ja) | 2001-01-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9538115B2 (en) | Operation controlling apparatus | |
US5594469A (en) | Hand gesture machine control system | |
US8971629B2 (en) | User interface system based on pointing device | |
KR101666397B1 (ko) | 객체 영상 획득 장치 및 방법 | |
US8159537B2 (en) | Video surveillance equipment and video surveillance system | |
KR100776801B1 (ko) | 화상 처리 시스템에서의 제스처 인식 장치 및 방법 | |
US20150035752A1 (en) | Image processing apparatus and method, and program therefor | |
KR101964861B1 (ko) | 카메라 장치 및 상기 카메라 장치에서의 물체 추적 방법 | |
JPH0335399A (ja) | 変化領域統合装置 | |
JP4516665B2 (ja) | 監視装置 | |
KR20080029548A (ko) | 실사기반 이동기기 제어 방법 및 장치 | |
CN115016678A (zh) | 显示装置 | |
JPH0844490A (ja) | インターフェイス装置 | |
KR20090062881A (ko) | 이동 로봇 및 그 이동 객체 검출 방법 | |
WO2002061583A2 (en) | A system and method for robust foreground and background image data separation for location of objects in front of a controllable display within a camera view | |
JP4010708B2 (ja) | 機器制御装置 | |
JP5254897B2 (ja) | 手画像認識装置 | |
WO2018150569A1 (ja) | ジェスチャー認識装置、ジェスチャー認識方法、ジェスチャー認識装置を備えたプロジェクタおよび映像信号供給装置 | |
JPH1169342A (ja) | 侵入物体追尾画像処理システム | |
WO2011096571A1 (ja) | 入力装置 | |
KR20210003515A (ko) | 인터렉티브모드를지원하는증강현실구현장치 | |
JPH10126766A (ja) | 監視カメラ装置 | |
KR20020077255A (ko) | 촬상장치의 시야 제어방법과 장치 및 그것을 위한컴퓨터프로그램 | |
KR200452031Y1 (ko) | 공간 터치를 이용한 선택 메뉴 인식 시스템 | |
JPH11311682A (ja) | 室内監視装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040526 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040601 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040802 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041102 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041228 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050315 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050513 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20050627 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20050715 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070904 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4010708 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100914 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100914 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110914 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120914 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120914 Year of fee payment: 5 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120914 Year of fee payment: 5 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120914 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130914 Year of fee payment: 6 |
|
EXPY | Cancellation because of completion of term |