JP4217021B2 - 座標入力装置 - Google Patents
座標入力装置 Download PDFInfo
- Publication number
- JP4217021B2 JP4217021B2 JP2002029602A JP2002029602A JP4217021B2 JP 4217021 B2 JP4217021 B2 JP 4217021B2 JP 2002029602 A JP2002029602 A JP 2002029602A JP 2002029602 A JP2002029602 A JP 2002029602A JP 4217021 B2 JP4217021 B2 JP 4217021B2
- Authority
- JP
- Japan
- Prior art keywords
- pattern
- image
- unit
- input device
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Position Input By Displaying (AREA)
Description
【発明の属する技術分野】
本発明は、座標入力装置に関し、さらに詳しくは、パーソナルコンピュータ等において、情報の入力や選択をするために指示棒等の指示部材によって指示された座標位置を検出する座標入力装置に関するものである。
【0002】
【従来の技術】
近年、コンピュータでCRT等の表示装置に文字や図形等のグラフィックを表示してマウス等を用いてカーソルにより画面上の所定の座標を指示し、カーソルの座標情報を画像処理装置に入力することにより、表示画像を変更したり、特定のプログラムを起動させたりする手法が広く用いられている。また、プレゼンテーション等において説明者は、参加者の理解を促進するために説明資料を拡大表示して利用することがしばしばある。拡大表示には通常プロジェクタ装置やOHP等の拡大表示装置が用いられ、いずれも大画面のスクリーン上に画像が表示される。その時説明者は、説明内容に応じてスクリーン上の所望の座標(位置)を指示棒等の指示部材で指示し、表示画像を変更していくことが行われている。しかし、表示画像を制御する装置と指示部材とは独立して存在し、それらの間はインターフェースされていないため、指示部材から直接表示画面の内容を変更したり、他のプログラムを起動することができなかった。
特開平2−158822号公報には、ビデオプロジェクタを用いて電子黒板上に画像を投影し、指示棒やマーカ等により指示された位置情報を処理して、その画像を電子黒板上に画像表示する装置について開示されている。しかし、本発明における位置情報検出方法は、指示棒やマーカの位置を電子黒板のX−Y情報により検出するものであり、離れた位置から画像を指示することができず、また、画像を投影する場所が電子黒板に限られていた。
【0003】
また、特許第2592743号公報には、指示棒の利点を生かしてながら、画像処理装置とのインタフェースが可能な、つまり、プロジェクタ装置等の大画面スクリーン上を直接指示することによって座標入力によるインターフェースを可能にする座標入力用指示棒について開示されている。これによると、スクリーン上に画像処理装置からの画像をプロジェクタ手段(装置)に表示し、スクリーン上の所定光をカメラでとらえて、その画像を処理して所定光の座標を座標検出手段で検出し、検知手段が座標特定信号を検知し、座標特定信号を受けた時の所定光の座標(特定座標)を特定し画像処理装置に入力して、画像上のカーソルを移動する方法である。しかしながら、発光部の発生する光の輝度とスクリーン上の光の輝度の区別がつきにくく、また、反射型スクリーンを用いる場合は、発光部の発生する光の輝度が視聴者に向かって発せられるという欠点があった。
【0004】
【発明が解決しようとする課題】
本発明は、かかる課題に鑑み、任意サイズのスクリーンや壁面等に、座標入力装置のオペレータが指示手段により指示した座標を精度良く取得する座標入力装置を提供することを目的とする。
【0005】
【課題を解決するための手段】
本発明はかかる課題を解決するために、請求項1は、指示部材によって指示された座標位置を検出する座標入力装置において、画像表示面上の任意の位置を指示する指示手段と、該指示手段により指示された所定領域の画像を撮像する撮像手段と、該撮像手段により得られた画像情報から指示位置を二次元座標情報に変換する座標変換手段と、前記二次元座標情報を含むパターンを前記画像表示面上に投影するパターン投影手段と、前記二次元座標情報を含むパターンを識別するパターン識別手段と、を備え、前記パターン投影手段により前記画像表示面上に前記パターンを投影し、前記指示手段が指示した前記画像表示面上の領域のパターンを前記撮像手段により撮像し、該撮像画像から前記座標変換手段により二次元座標を取得すると共に、前記撮像手段により撮像された画像情報に基づいて前記パターン投影手段を制御するフィードバック制御手段を備え、前記撮像手段により撮像された画像情報から座標情報を取得し、該座標情報から得られた座標及び該座標近傍の輝度を強くするように前記パターン投影手段を制御することを特徴とする。
コンピュータはパターン信号をパターン投影手段に送る。このパターン信号は個別のパターンの集合体からなり、個々のパターンは、それぞれ予め定められた個別の座標情報を持つパターンより構成され、それらが二次元マトリックス状に並んでいる。パターン投影手段はパターン信号を任意の平面状の画像表示面上に投影する。座標入力装置の使用者であるオペレータは、指示手段を手に持ち、画像が投影された投影面に対し指示手段を操作する。該指示手段により指示された所定領域の画像を撮像手段が撮像し、撮像したパターン信号をコンピュータに通知する。そして、投影面に埋め込まれているパターンをパターン識別手段により識別し、コンピュータは座標変換手段により撮像されたパターン信号を座標情報に変換する。また、従来、オペレータが画像表示面上で指示棒を操作する際、オペレータが画像表示面上で指示している場所と指示していない場所でパターンの投影状況が変わらなかった。そのため、どの場所を指示しているのか判然としなかった。これを解消するため、本発明ではフィードバック制御手段をコンピュータと一体となって備え、撮像手段から得られた座標情報を基に、その情報をパターン投影手段にフィードバックして、その座標付近のパターンを高輝度に投影するようにした。これにより、指示棒が指示する指示位置をより精度よく特定することができる。
かかる発明によれば、前記パターン投影手段により前記画像表示面上に前記パターンを投影し、前記指示手段が指示した前記画像表示面上の領域のパターンを前記撮像手段により撮像し、該撮像画像から前記座標変換手段により二次元座標を取得することにより、任意サイズのスクリーンや壁面等において座標入力装置のオペレータが指示手段により指示した座標を精度良く取得することができる。また、前記撮像手段により撮像された画像情報に基づいて前記パターン投影手段を制御するフィードバック制御手段を備え、前記撮像手段により撮像された画像情報から座標情報を取得し、該座標情報から得られた座標及び該座標近傍の輝度を強くするように前記パターン投影手段を制御するため、指示棒が指示する指示位置をより精度よく特定することができる。
【0006】
請求項2は、前記撮像手段は、前記指示手段と一体形成された棒状の光学系と、該光学系により結像された光学画像を光電変換する光電変換手段と、を備えたことも本発明の有効な手段である。
指示手段により指示された表示画面上の画像を精度良く取得するには、棒状の指示部材に一体に形成された撮像手段が必要である。特に、画像と撮像手段との指向性を高めるには、撮像手段に画像を結像させる距離を光学手段(レンズ)により近づけることが好ましい。その方法として筒状筐体の中に対物レンズ、リレーレンズ、接眼レンズが格納された画像伝送レンズを使用するのが有効である。かかる技術手段によれば、前記撮像手段は、前記指示手段と一体形成された棒状の光学系と、該光学系により結像された光学画像を光電変換する光電変換手段と、を備えたことにより、指示手段により狙った画像を的確に捉えることができる。
請求項3は、前記パターン投影手段は、光源として不可視光領域の波長を有する光を使用し、該光源により投影される一組のパターンは複数のドットから構成され、該パターンには予め登録された座標情報が含まれていることも本発明の有効な手段である。
画像表示面上には、可視像の投影像と位置情報としてのパターンの両方を投影手段により投影される。従って、パターンが可視像であると当然投影像と重なって、投影像を見難くしてしまう。そこで、位置情報としてのパターンは不可視光領域の波長の光で投影し、そのパターンを撮像する手段として不可視光領域の波長まで感知できる撮像手段を使用する。また、パターン信号は個別のパターンの集合体からなり、個々のパターンはそれぞれ予め定められた個別の座標情報を持つパターンよりなっており、それらが二次元マトリックス状に並んでいる。かかる技術手段によれば、前記パターン投影手段は、光源として不可視光領域の波長を有する光を使用し、該光源により投影される一組のパターンは複数のドットから構成され、該パターンには予め登録された座標情報が含まれているので、可視投影像とパターンを重ねて投影することができ、しかも、そのパターンから座標情報を同時に検出することができる。
【0007】
請求項4は、前記パターン投影手段は、前記画像表示面の前方若しくは後方の何れか一方から前記画像表示面上に前記パターンを投影することも本発明の有効な手段である。
本構成によるとパターン投影手段は画像表示面の前方から画像表示面上にパターンを投影するため、例えば建物の壁面やホワイトボード等、所定面積を有した略平面状の面において広く用いることができる。また、別構成としてパターン投影手段は画像表示面後方から画像表示面上にパターンを投影しても良く、この場合パターン投影手段と画像表示面の間に、例えば人等の投影上障害となるものが入る余地を無くすことができるため、常に良好な状態でパターンを画像表示面上に投影することができる。かかる技術手段によれば、前記パターン投影手段は、前記画像表示面の前方若しくは後方の何れか一方から前記画像表示面上に前記パターンを投影するので、常に良好な状態でパターンを画像表示面上に投影することができる。
請求項5は、前記指示手段は、該指示手段の姿勢を検出する姿勢検出手段を更に備え、前記撮像手段が捉えた画像情報と前記姿勢検出手段からの姿勢情報に基づいて前記画像情報の姿勢を補正することも本発明の有効な手段である。
オペレータが画像表示面上で指示棒を操作する際、オペレータが画像表示面上で指示している時の指示棒の姿勢は常に変化し、また各オペレータにより指示棒の姿勢に対する個人差が現れやすい。このため、例えば90度回転した状態でパターンを認識をしてしまう等の誤認識の問題があり、指示棒の操作上の不具合点となっていた。これを解決するために、本発明は姿勢検出手段が指示棒と一体となって備えられており、コンピュータが指示棒の姿勢情報を基に補正処理を施すことができるようなしているため、オペレータは指示棒の姿勢を気にすることなく指示棒を操作することができ、パターンの誤認識を防止することができる。かかる技術手段によれば、前記指示手段は、該指示手段の姿勢を検出する姿勢検出手段を更に備え、前記撮像手段が捉えた画像情報と前記姿勢検出手段からの姿勢情報に基づいて前記画像情報の姿勢を補正することにより、パターンの誤認識を防止することができる。
請求項6は、前記撮像手段は、該撮像手段により撮像された画像情報を無線により伝送する無線伝送手段を更に備え、前記撮像手段により撮像された前記画像表示面上のパターン画像を無線により前記パターン識別手段に伝送することも本発明の有効な手段である。
オペレータが画像表示面上で指示棒を操作する際、信号ケーブルは操作上の妨げになるケースがあり、また足に引っ掛けて、人やケーブル接続された機器が転倒する危険性もあった。これを解消するため本発明は無線伝送手段が指示棒とコンピュータのそれぞれに備えられており、撮像手段が捉えた画像情報が電気信号に変換された後、無線によりコンピュータに通知されるようになっているため、オペレータは信号ケーブルに気を取られることなく安全にプレゼンテーションを行うことができ、また指示棒の操作性も向上させることができる。かかる技術手段によれば、前記撮像手段は、該撮像手段により撮像された画像情報を無線により伝送する無線伝送手段を更に備え、前記撮像手段により撮像された前記画像表示面上のパターン画像を無線により前記パターン識別手段に伝送するので、指示棒の操作性を向上させることができる。
【0008】
請求項7は、前記撮像手段は、前記指示手段と一体に構成され先端に対物レンズを有する複数の光ファイバから成る光伝送手段と、該光伝送手段により伝送された光学画像を光電変換する光電変換手段と、を備え、前記光伝送手段の先端が前記指示手段の先端となるように構成され、前記指示手段には前記光伝送手段のみ搭載されていることも本発明の有効な手段である。
指示手段はオペレータが手に持って表示画面上を指示する。従って、その重量は可能な限り軽いほうが好ましい。従って、指示手段には必要最小限の部品のみ搭載する構成にする。それを実現するためには、光ファイバ等の軽い材質で構成された光伝送手段を使用することが有望である。かかる技術手段によれば、前記光伝送手段の先端が前記指示手段の先端となるように構成され、前記指示手段には前記光伝送手段のみ搭載するようにしたので、指示手段が軽くなり、操作性を高めることができる。
【0009】
請求項8は、前記光伝送手段は、その表面を軟性部材により覆われていることも本発明の有効な手段である。
光伝送手段は数千から数万本の光ファイバの束からなり、先端に対物レンズを配し周りは湾曲可能なように合成樹脂などの軟性部材で覆われている。これにより、光ファイバを外力から保護し、傷や切断といった障碍を防ぐことができる。
請求項9は、前記指示手段は、前記光伝送手段と共に前記対物レンズの視野角内に光ビームを投影する光投影手段を更に備えたことも本発明の有効な手段である。
オペレータが表示画面上で指示手段を操作する際、オペレータが表示画面上で指示している場所は、指示手段先端の延長線上であったり、指示手段先端が表示画面上で最も近い場所であったり、各オペレータにより個人差が現れやすい。そして、対物レンズはオペレータの指示位置に応じて表示画面上の画像を捉えるが、オペレータによっては指示している場所と、画像を捉える場所が一致しないという問題があり、指示手段の操作上の不具合点となっていた。これを解決するため本発明は、光投影手段が表示画面上で対物レンズの視野角の範囲内にビーム光を投影するようになしているため、オペレータは対物レンズの画像を捉える位置をビーム光で確認しながら指示することができ、指示位置と撮像位置が一致しないという不具合を解決することができる。かかる技術手段によれば、前記指示手段は、前記光伝送手段と共に前記対物レンズの視野角内に光ビームを投影する光投影手段を更に備えたことにより、指示位置と撮像位置が一致しないという不具合を解決することができる。
請求項10は、前記光投影手段は、可視領域のレーザビーム若しくは可視光源からの光束を複数の光ファイバにより伝送して該光ファイバの先端から放射するライトガイドであることも本発明の有効な手段である。
レーザビームはその光束が遠方に到達しても拡散しないという性質があり、そのため、光通信等に利用されている。もっと身近な例として、プロジェクタにより投影された画像の位置を指し示すポインタとしても利用されている。また、可視光源からの光を光ファイバにより指示手段の先端まで導いて、その先端から放射して指示位置を示すことも可能である。かかる技術手段によれば、前記光投影手段は、可視領域のレーザビーム若しくは可視光源からの光束を複数の光ファイバにより伝送して該光ファイバの先端から放射するライトガイドであるので、投影された光を参考に指示位置を適切な位置に変更することができる。
【0010】
【発明の実施の形態】
以下、本発明を図に示した実施形態を用いて詳細に説明する。但し、この実施形態に記載される構成要素、種類、組み合わせ、形状、その相対配置などは特定的な記載がない限り、この発明の範囲をそれのみに限定する主旨ではなく単なる説明例に過ぎない。
【0011】
図1は、本発明の第1の実施形態に係る座標入力装置の構成図である。この構成は、スクリーン2の全面に投影され、座標情報を含むパターン1と、投影画像とパターン1を投影するスクリーン2と、パターン1の画像をCCDカメラに伝送する画像伝送レンズ4と、このレンズから受けた光画像を光電変換するCCDカメラ5と、前記画像伝送レンズ4とCCDカメラ5を搭載してスクリーン2上の画像を指示する指示棒6と、CCDカメラ5から光電変換された画像信号を受け、パターンと座標情報を検出するコンピュータ8と、コンピュータ8からの指示によりパターンを投影するパターン用プロジェクタ9から構成され、CCDカメラ5とコンピュータ8は信号ケーブル7により接続されている。
本発明に係る座標入力装置においては、コンピュータ8はパターン信号をパターン用プロジェクタ9に通知する。パターン信号は個別のパターンの集合体からなり、個々のパターンは、それぞれ予め定められた個別の座標情報を持つパターンより構成され、それらが二次元マトリックス状に並んでいる。パターン用プロジェクタ9はパターン信号を任意の平面状のスクリーン2上に投影する。座標入力装置の使用者であるオペレータは画像伝送レンズ4とCCDカメラ5を備えた指示棒6を手に持ち、画像が投影されたスクリーン2に対し指示棒6を操作する。CCDカメラ5は画像伝送レンズ4を介して投影面に埋め込まれているパターン1を撮像し、撮像したパターン信号をコンピュータ8に通知する。コンピュータ8は撮像されたパターン信号を座標情報に変換する。
【0012】
ここで、パターン用プロジェクタ9は赤外線プロジェクタであり、スクリーン2の後方に配設してもよい。パターン用プロジェクタ9の解像度は横1024画素、縦768画素である。液晶パネルの垂直操作周波数は60Hzで1フレームの表示には16.7ms要する。液晶パネルは縦方向に走査し、その1ゲートパスの走査時間は21.7μs(16.7ms/768)である。ここで、パターン用プロジェクタ9は、不可視光である赤外光を投影するので可視光との干渉を避けることができる。また、パターン1は、異なる太さや間隔をもつ平行な縦線の組み合わせによって文字を表現するコードであって、横断走査によって光学的に読み取るものであるバーコードを用いてもよい。バーコードとして、例えば、水平方向の一次元方向に情報を有する一次元バーコードがある。一次元バーコードとしては、例えば、NarrowとWideの2種類の太さのバー4本、スペース3本の計7本で1キャラクターが表されるNW−7(CODABAR)がある。NW−7はJIS規格であり、比較的単純な構成と高い印刷精度が要求されなことから広く用いられている。また、バーコードとして、例えば、水平方向と垂直方向の二次元方向に情報を有する二次元バーコードがある。二次元バーコードとしては、一次元バーコードを縦に積み重ねて縦横で情報を表示したバーコードであるスタック式、あるいは、情報を白黒交互の桝目(セル)で縦横モザイク状に表示したバーコードであるマトリックス式の二次元バーコードがある。
【0013】
図2は、本発明のパターン図であり、x座標とy座標の二次元座標情報を持つパターンを用いる。個々のパターンはパターン投影面に格子状に分布しており、それぞれパターン投影面の相対座標を表している。一組のパターン10は25の点(画素)よりなり、5×5の格子中に格納されている。そして、それぞれの点に対する赤外光の投影のオンオフ状況により二次元座標情報を表している。5×5の25点からなる一組のパターン10は、縦横それぞれに1点ずつの間隔をおいて配置される。ここで、パターン用プロジェクタ9の画素数が横1024、縦768であるから、パターンは横に170、縦に128程パターン投影面上に配置される。また、それぞれのパターンにはコンピュータに登録された座標情報が書き込まれている。
オペレータは画像伝送レンズ4とCCDカメラ5を具備した指示棒6を手に持って、指示棒の先端でスクリーン2上の点を指示するが、指示棒6の代わりにオペレータ自身の指先に画像伝送レンズ4を具備し、指先でスクリーン2上の点を指示してもよい。
また、画像伝送レンズ4はステンレスの筒状筐体の中に図示しない対物レンズ、リレーレンズ、接眼レンズが格納されており、先端の対物レンズが捉えた画像を複数のリレーレンズでリレーしながらCCDカメラ5まで伝送する。また、画像伝送レンズ4は指示棒6と一体となって配設されており、指示棒6の先端と画像伝送レンズ4の先端はほぼ同じ所に位置しており、指示棒6で指示する場所の画像を取り込めるようになっている。
また、CCDカメラ5には可視光から赤外光までの波長領域を感知する図示しないシリコンフォトダイオードを具備しており、パターン用プロジェクタ9の投影するパターン1を検知できるようになっている。CCDカメラ5はパターンリーダーとしてパターンを検知し、電気信号に変換してコンピュータに通知する。ここで、市販されている赤外線カメラを用いることで、背景色や外来光、照明の変化に影響されずパターン領域だけを安定して抽出することができる。
【0014】
コンピュータ8はCCDカメラ5により得られた画像情報からパターンを識別するパターン識別機能と、識別されたパターンを二次元座標情報に変換する変換機能を有している。また、コンピュータ8は演算装置と記憶装置からなり、記憶装置にはパターン情報と二次元xy座標情報の対からなるルックアップテーブルが格納されている。ここで、スクリーン上には原点が予め定められており、個々のパターンの座標値はスクリーン上の原点を基に定められている。また、演算装置は、CCDカメラ5により通知された画像情報を一定の閾値で2値化処理し、パターン領域を抽出する。次に、演算装置は抽出されたパターン領域をルックアップテーブル内のパターン情報と照合し、CCDカメラ5により通知された画像情報がパターン情報を含んでいるかどうかを判別する。パターン情報を含んでいない場合は、座標情報として認識せずに処理を終了する。パターン情報を含んでいる場合は、CCDカメラ5により通知された情報を座標情報として認識し、パターン情報を取得する。次に、ルックアップテーブル内のパターン情報に対応する二次元xy座標情報を検索する。次に、一致するパターン情報より二次元xy座標情報を取得し、オペレータが指示棒6により指示した位置のx座標値、y座標値を決定する。
オペレータがスクリーン2上を指示棒6で指示すると、上述した一連の作用によってコンピュータ8は指示棒6の座標を取得し、指示棒6を走査すると、その軌跡を座標情報として取得することができる。ここで、対物レンズはスクリーン2上に投影されたパターン1をスクリーン2近傍で捉え、CCDカメラ5は対物レンズが捕らえた画像を画像伝送レンズ4を介して入力するため、座標情報を精度良く取得することができる。また、CCDカメラ5は画像伝送レンズ4を介して画像を取り込むため、CCDカメラ5自体を指示棒6の先端に配設することなく画像の入力が行え、指示棒6の操作において、例えばCCDカメラ5とスクリーン2との接触による破損を防止することができる。
さらに、本構成によるとパターン用プロジェクタ9はスクリーン2の前方からパターンを投影するため、例えば建物の壁面やホワイトボード等、所定面積を有した略平面状の面において広く用いることができる。また、別の構成として図3のようにパターン用プロジェクタ9は、スクリーン2の後方からパターン1を投影しても良く、この場合パターン用プロジェクタ9とスクリーン2の間に例えば人等の投影上障害となるものが入る余地を無くすことができるため、常に良好な状態でパターンをスクリーン上に投影することができる。
【0015】
図4は、本発明の第2の実施形態に係る座標入力装置の構成図である。同じ構成要素には同じ参照番号が付されており、重複する説明は省略する。図4が図1と異なる点は、指示棒6に姿勢を検出する圧電ジャイロ10を追加した点である。本発明に係る座標入力装置においては、圧電ジャイロ10は指示棒6と一体となって配設されており、CCDカメラ5が捉えた画像情報と圧電ジャイロ10が捉えた指示棒6の姿勢情報が電気信号に変換された後、一体となってコンピュータ8に通知されるようになっている。コンピュータ8はCCDカメラ5が捉えた画像情報と圧電ジャイロ10が捉えた指示棒6の姿勢情報を処理する。指示棒6が傾いている場合にも、指示棒6の姿勢情報を基に補正処理を施すことにより精度よくパターンを認識することができる。
つまり、オペレータがスクリーン2上で指示棒6を操作する際、オペレータがスクリーン2上で指示している時の指示棒6の姿勢は常に変化し、また各オペレータにより指示棒6の姿勢に対する個人差が現れやすい。このため、例えば90度回転した状態でパターン1を認識をしてしまう等の誤認識の問題があり、指示棒6の操作上の不具合点となっていた。しかし、本発明は圧電ジャイロ10が指示棒6と一体となって配設されており、コンピュータ8が指示棒6の姿勢情報を基に補正処理を施すことができるようにしているため、オペレータは指示棒6の姿勢を気にすることなく操作することができ、パターン1の誤認識を防止することができる。
【0016】
図5は、本発明の第3の実施形態に係る座標入力装置の構成図である。同じ構成要素には同じ参照番号が付されており、重複する説明は省略する。図5が図1と異なる点は、指示棒6にCCDカメラ5により得られた画像情報を送信する送信機11aと、コンピュータ8にその情報を受信する受信機11bを追加した点である。本発明に係る座標入力装置においては、Bluetooth用送信機11aが指示棒6に、受信機11bがコンピュータ8のそれぞれに配設されており、CCDカメラ5が捉えた画像情報が電気信号に変換された後、送信機11aから無線によりコンピュータ8の受信機11bに通知されるようになっている。
ここで、Bluetoothは、パーソナルネットワーク市場に革命をもたらす画期的なワイヤレス通信技術である。小規模で低コストなワイヤレス通信技術の世界標準規格として、ノートブックコンピュータや携帯電話、その他のモバイル機器を結び、さらにインターネットへの接続が将来的には可能になる。電気通信、コンピュータ、ネットワーク分野の世界主要メーカーで構成するBluetooth SIG(Special Interest Group)によって技術の標準化が行われ、参加企業により技術開発と製品化が進められている。Bluetooth SIGには、現在2,000社以上のノートブックコンピュータ、携帯電話、家電機器のメーカーなどが全世界から参加している。また、Bluetoothを使うと、1台のマスター機器(Bluetoothにおいて、通信の基準となる周波数やタイミングを制御する機器)と、最大7台のスレーブ機器(Bluetoothにおいて、周波数やタイミングをマスター機器に同期する機器)を無線ネットワークで接続し、データをやりとりすることができる。マスター機器は、周辺にあるBluetooth対応機器に呼びかけ、呼びかけに応えたBluetooth対応機器は、スレーブ機器としてマスター機器に接続することができる。コンピュータのような機器は、マスター機器として周辺にあるBluetooth対応機器に呼びかけることができる。また、マスター機器からの呼びかけに応じて、スレーブ機器としてマスター機器と接続することもできる。そして、Bluetoothは、最大723Kbpsのデータ転送に対応しているが、実際の転送速度は、通信機器間の距離や障害物、電波状況、使用するソフトウェア、OS、通信する機器の受信感度、アンテナ性能などにより自動的に、最適のデータ転送速度に調整される。また、Bluetooth対応機器には、見通し距離約100〜10mで通信できるPower class 1の機器と、見通し距離約10m以下で通信できるPower class 2,3の機器がある。障害物がない場合。実際の通信距離は、通信機器間の障害物や電波状況、使用するソフトウェア、OS、通信する機器の受信感度、アンテナ性能などによって異なる。
さらに、各社のBluetooth対応機器がBluetoothを使ってスムーズに通信ができるように、Bluetooth SIGがBluetooth標準規格として、無線通信の方式、セキュリティの方式、用途別のデータ通信方式などを定めている。すべてのBluetooth対応機器は、Bluetooth SIGが定めている方法でBluetooth標準規格に適合していることを確認し、認証を受けることが義務付けられている。ただし、Bluetooth標準規格に適合していても、接続する機器の特性や仕様によって操作方法が異なったり、接続してもデータのやりとりができない場合がある。しかし、今後オフィスソリューションを実現する各種OA機器はBluetooth対応が順次取られるのは確実な情勢となっている。
【0017】
このように、オペレータがスクリーン1上で指示棒6を操作する際、図1の信号ケーブル7は操作上の妨げになるケースがあり、また足に引っ掛けて人やケーブル接続された機器が転倒する危険性もあった。しかし、本発明はBluetooth用デバイス11a、11bが指示棒6とコンピュータ8のそれぞれに配設されており、CCDカメラ5が捉えた画像情報が電気信号に変換されたあと無線によりコンピュータ8に通知されるようになっているため、オペレータは信号ケーブルに気を取られることなく、安全にプレゼンテーションを行うことができ、また指示棒6の操作性も向上させることができる。
【0018】
図6は、本発明の第4の実施形態に係る座標入力装置の構成図である。同じ構成要素には同じ参照番号が付されており、重複する説明は省略する。図6が図1と異なる点は、CCDカメラ5により得られた画像情報に基づきパターン用プロジェクタ9を制御するフィードバック回路12を追加した点である。フィードバック回路12はコンピュータ8と一体となって配設されており、CCDカメラ5が捉えた画像情報が電気信号に変換されたあと、フィードバック回路12及びコンピュータ8に通知されるようになっている。フィードバック回路12及びコンピュータ8は指示棒6が指示する座標情報を取得し、その座標近辺のパターンの輝度を強くするようパターン用プロジェクタ9に信号を通知する。パターン用プロジェクタ9は指示棒6が指示する指示位置近辺のみ高輝度のパターン13を投影する。CCDカメラ5は高輝度パターン13を撮像することにより、精度よくパターン1を入力することができる。フィードバック回路12及びコンピュータ8は精度よくパターン1が入力されたCCDカメラ5が捉えた画像情報を電気信号として受け取る。これにより、フィードバック回路12及びコンピュータ8は、より精度よくパターンを認識し、指示棒6が指示する指示位置をより精度よく特定することができる。つまり、従来、オペレータがスクリーン2上で指示棒6を操作する際、オペレータがスクリーン2上で指示している場所と、その他の場所でパターンの投影状況が変わらなかった。しかし、本発明はフィードバック回路12がコンピュータ8と一体となって配設されており、得られた座標情報を基にその座標付近のパターンを高輝度13で投影するフィードバックの作用を施すようにしているため、指示棒6が指示する指示位置をより精度よく特定することができる。
【0019】
図7は、本発明の第5の実施形態に係る座標入力装置の構成図である。同じ構成要素には同じ参照番号が付されており、重複する説明は省略する。図7が図1と異なる点は、指示棒6に画像伝送レンズ4の変わりにイメージガイドファイバ14のみを配設し、コンピュータ8の近くに信号ケーブル15aにより接続されたCCDカメラ5を配設した点である。本発明に係る座標入力装置においては、画像伝送手段は、先端にスクリーン2上の画像を捉える対物レンズを、後端に該画像伝送手段とCCDカメラを接続するイメージガイドコネクタを配し、周囲に合成樹脂等の軟性部材で覆い、石英ガラスやプラスチックを材料とした光の伝送路として用いられる屈折率の高い部材からなるコアと、該コアの周囲を取り囲む屈折率の低い部材からなるクラッドとの2層構造による極めて細いグラスファイバーからなる光ファイバを数千〜数万本束ねたイメージガイドファイバを備えた。
つまり、オペレータはイメージガイドファイバ14を具備した指示棒6を手に持って、指示棒6の先端でスクリーン2上の点を指示するが、指示棒6の代わりにオペレータ自身の指先にイメージガイドファイバ14を具備し、指先でスクリーン2上の点を指示してもよい。
【0020】
図8は、本発明の第1の実施形態に係る指示装置の断面構成図である。イメージガイドファイバ14は数千から数万本の光ファイバ20の束からなり、先端に対物レンズ17を配し、周りは湾曲可能なように合成樹脂などの軟性部材19で覆われている。対物レンズ17で捉えられた画像はイメージガイドファイバ14を通じてCCDカメラ5に伝送される。対物レンズで捉えられた画像はCCDカメラ5に入力されたあと電気信号に変換され、信号ケーブル15aを介してコンピュータ8に通知される。また、イメージガイドファイバ14は指示棒6と一体となって配設されており、指示棒6の先端とイメージガイドファイバ14の先端はほぼ同じ所に位置しており、指示棒6で指示する場所の画像を取り込めるようになっている。また、CCDカメラ5は指示棒6と分離してもよく、CCDカメラ5は指示棒6と一体となったイメージガイドファイバ14を延長することによって対物レンズ17が捉えた画像を直接入力することができる。
つまり、オペレータがスクリーン2上を指示棒6で指示すると、上述した一連の作用によってコンピュータ8は指示棒6の座標を取得し、指示棒6を走査することにより、その軌跡を座標情報として取得することができる。ここで、対物レンズ17はスクリーン2上に投影されたパターン1をスクリーン2近傍で捉え、CCDカメラ5は対物レンズ17が捕らえた画像をイメージガイドファイバ14を介して入力するため、座標情報を精度良く取得することができる。また、CCDカメラ5はイメージガイドファイバ14を介して画像を取り込むため、CCDカメラ5自体を指示棒6の先端に配設することなく画像の入力が行え、指示棒6の操作において、例えばCCDカメラ5とスクリーン2との接触による破損を防止することができる。また、軟性部材19からなるイメージガイドファイバ14を介すことにより、CCDカメラ5を指示棒6から分離することができるため、指示棒6の軽量化が図れ、指示棒6の操作性を向上させることができる。
【0021】
図9は、本発明の第2の実施形態に係る指示装置の断面構成図である。同じ構成要素には同じ参照番号が付されており、重複する説明は省略する。図9が図8と異なる点は、指示棒にレーザビームポインタを追加した点である。イメージガイドファイバ14は指示棒6と一体となって配設されており、対物レンズ17の視野角16の範囲で画像を捉えイメージガイドファイバ14とイメージガイドコネクタ18を介して対物レンズ17が捉えた画像がCCDカメラ5に伝送され、CCDカメラ5で電気信号に変換されたあとコンピュータ8に通知されるようになっている。また、指示棒6には光投影装置としてレーザビームポインタ21が格納されており、対物レンズ17の視野角16内にビーム光22を投影するように配設されており、スクリーン2上の点をポインティングする。
つまり、オペレータがスクリーン2上で指示棒6を操作する際、オペレータがスクリーン2上で指示している場所は指示棒6先端の延長線上であったり、指示棒6先端がスクリーン2上で最も近い場所であったり、各オペレータにより個人差が現れやすい。対物レンズ17はオペレータの指示位置に応じてスクリーン2上の画像を捉えるが、オペレータによっては指示している場所と画像を捉える場所が一致しないという問題があり、指示棒6の操作上の不具合点となっていた。しかし、本発明はレーザビームポインタ21がスクリーン2上で対物レンズ17の視野角16の範囲内にビーム光22を投影するようにしているため、オペレータは対物レンズ17の画像を捉える位置をビーム光22で確認しながら指示することができ、指示位置と撮像位置が一致しないという不具合を解決することができる。
【0022】
図10は、本発明の第3の実施形態に係る指示装置の断面構成図である。同じ構成要素には同じ参照番号が付されており、重複する説明は省略する。図10が図8と異なる点は、イメージガイドファイバ14に併設して、ライトガイドコネクタ26と光源27を備えたライトガイドファイバ24を設けた点である。本発明に係る座標入力装置においては、照明光を発生させる光源27と、この光源27とライトガイドファイバ24を接続するライトガイドコネクタ26と、図8の指示装置の周囲を合成樹脂等の軟性部材25を配した構成である。イメージガイドファイバ14は先端に対物レンズ17を備え、合成樹脂などの軟性部材25で覆われ指示棒と一体となって配設されている。また同様に、ライトガイドファイバ24はイメージガイドファイバ14と同じ軟性部材25の中に格納され、光源27が発する光をライトガイドコネクタ26を介して受け取り、ライトガイドファイバ24先端から投影光3を放出する。ライトガイドファイバ26はイメージガイドファイバ14と同じ石英ガラスやプラスチックを材料とする極めて細いグラスファイバーを数千から数万本束ねた光ファイバ20を用いてもよい。
指示棒はイメージガイドファイバ14とライトガイドファイバ24を格納した軟性部材25と一体となっており、指示棒先端とイメージガイドファイバ14及びライトガイドファイバ24の先端はほぼ同じ場所に位置している。CCDカメラ5や光源27は指示棒から分離されており、イメージガイドファイバ14とライトガイドファイバ24を格納した湾曲可能な軟性部材25により接続されている。
【0023】
オペレータが指示棒を操作してスクリーン2上の点を指示すると、対物レンズ17は視野角16の範囲で画像を捉え、捉えられた画像はイメージガイドファイバ14とイメージガイドコネクタ18を介してCCDカメラ5に伝送される。CCDカメラ5で撮像された画像は電気信号に変換され、信号ケーブル15aによりコンピュータ8に通知される。また、光源27は図示しない内部に電球と反射ミラーを備え、光をライトガイドコネクタ26に向かって放射する。ライトガイドファイバ24はライトガイドコネクタ26を介して光源27の光を受け取り、イメージガイドファイバ14の先端に取り付けられた対物レンズ17の視野角16内に受け取った光を投影する。オペレータは指示棒を操作するとスクリーン2上に投影された光をみてパターン1の撮像範囲を確認し、指示位置が意図した位置と異なっている場合にはライトガイドファイバ24から投影された光23を参考に指示位置を適切な位置に変更する。このように、本発明の座標入力装置によると、オペレータはライトガイドファイバ24の投影光23を参考にすることにより、CCDカメラ5の撮像位置を確認することができるため、撮像位置に準拠した適切な位置を指示棒で指示することができる。また、CCDカメラ5や光源27などをイメージガイドファイバ14とライトガイドファイバ24を格納した軟性部材25を介して指示棒から分離することができるため、指示棒に光源等を備える必要がなく、軽量化による指示棒の操作性向上を図ることができる。この際、イメージガイドファイバ14とライトガイドファイバ24を格納する軟性部材25は湾曲可能であるから、指示棒の操作を妨げることがない。
【0024】
【発明の効果】
以上記載のごとく請求項1の発明によれば、前記パターン投影手段により前記画像表示面上に前記パターンを投影し、前記指示手段が指示した前記画像表示面上の領域のパターンを前記撮像手段により撮像し、該撮像画像から前記座標変換手段により二次元座標を取得することにより、任意サイズのスクリーンや壁面等において座標入力装置のオペレータが指示手段により指示した座標を精度良く取得することができる。また、前記撮像手段により撮像された画像情報に基づいて前記パターン投影手段を制御するフィードバック制御手段を備え、前記撮像手段により撮像された画像情報から座標情報を取得し、該座標情報から得られた座標及び該座標近傍の輝度を強くするように前記パターン投影手段を制御するため、指示棒が指示する指示位置をより精度よく特定することができる。
また請求項2では、前記撮像手段は、前記指示手段と一体形成された棒状の光学系と、該光学系により結像された光学画像を光電変換する光電変換手段と、を備えたことにより、指示手段により狙った画像を的確に捉えることができる。
また請求項3では、前記パターン投影手段は、光源として不可視光領域の波長を有する光を使用し、該光源により投影される一組のパターンは複数のドットから構成され、該パターンには予め登録された座標情報が含まれているので、可視投影像とパターンを重ねて投影することができ、しかも、そのパターンから座標情報を同時に検出することができる。
また請求項4では、前記パターン投影手段は、前記画像表示面の前方若しくは後方の何れか一方から前記画像表示面上に前記パターンを投影するので、常に良好な状態でパターンを画像表示面上に投影することができる。
また請求項5では、前記指示手段は、該指示手段の姿勢を検出する姿勢検出手段を更に備え、前記撮像手段が捉えた画像情報と前記姿勢検出手段からの姿勢情報に基づいて前記画像情報の姿勢を補正することにより、パターンの誤認識を防止することができる。
また請求項6では、前記撮像手段は、該撮像手段により撮像された画像情報を無線により伝送する無線伝送手段を更に備え、前記撮像手段により撮像された前記画像表示面上のパターン画像を無線により前記パターン識別手段に伝送するので、指示棒の操作性を向上させることができる。
【0025】
また請求項7では、前記光伝送手段の先端が前記指示手段の先端となるように構成され、前記指示手段には前記光伝送手段のみ搭載するようにしたので、指示手段が軽くなり、操作性を高めることができる。
また請求項8では、光ファイバを外力から保護し、傷や切断といった障碍を防ぐことができる。
また請求項9では、前記指示手段は、前記光伝送手段と共に前記対物レンズの視野角内に光ビームを投影する光投影手段を更に備えたことにより、指示位置と撮像位置が一致しないという不具合を解決することができる。
また請求項10では、前記光投影手段は、可視領域のレーザビーム若しくは可視光源からの光束を複数の光ファイバにより伝送して該光ファイバの先端から放射するライトガイドであるので、投影された光を参考に指示位置を適切な位置に変更することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る座標入力装置の構成図である。
【図2】本発明のパターンの一例を示す図である。
【図3】本発明の第1の実施形態に係る座標入力装置において、スクリーンの後方から投影した図である。
【図4】本発明の第2の実施形態に係る座標入力装置の構成図である。
【図5】本発明の第3の実施形態に係る座標入力装置の構成図である。
【図6】本発明の第4の実施形態に係る座標入力装置の構成図である。
【図7】本発明の第5の実施形態に係る座標入力装置の構成図である。
【図8】本発明の第1の実施形態に係る指示装置の断面構成図である。
【図9】本発明の第2の実施形態に係る指示装置の断面構成図である。
【図10】本発明の第3の実施形態に係る指示装置の断面構成図である。
【符号の説明】
1 パターン、2 スクリーン、4 画像伝送レンズ、5 CCDカメラ、6指示棒、7 信号ケーブル、8 コンピュータ、9 パターン用プロジェクタ
Claims (10)
- 指示部材によって指示された座標位置を検出する座標入力装置において、
画像表示面上の任意の位置を指示する指示手段と、該指示手段により指示された所定領域の画像を撮像する撮像手段と、該撮像手段により得られた画像情報から指示位置を二次元座標情報に変換する座標変換手段と、前記二次元座標情報を含むパターンを前記画像表示面上に投影するパターン投影手段と、前記二次元座標情報を含むパターンを識別するパターン識別手段と、を備え、
前記パターン投影手段により前記画像表示面上に前記パターンを投影し、前記指示手段が指示した前記画像表示面上の領域のパターンを前記撮像手段により撮像し、該撮像画像から前記座標変換手段により二次元座標を取得すると共に、前記撮像手段により撮像された画像情報に基づいて前記パターン投影手段を制御するフィードバック制御手段を備え、前記撮像手段により撮像された画像情報から座標情報を取得し、該座標情報から得られた座標及び該座標近傍の輝度を強くするように前記パターン投影手段を制御することを特徴とする座標入力装置。 - 前記撮像手段は、前記指示手段と一体形成された棒状の光学系と、該光学系により結像された光学画像を光電変換する光電変換手段と、を備えたことを特徴とする請求項1に記載の座標入力装置。
- 前記パターン投影手段は、光源として不可視光領域の波長を有する光を使用し、該光源により投影される一組のパターンは複数のドットから構成され、該パターンには予め登録された座標情報が含まれていることを特徴とする請求項1に記載の座標入力装置。
- 前記パターン投影手段は、前記画像表示面の前方若しくは後方の何れか一方から前記画像表示面上に前記パターンを投影することを特徴とする請求項1又は3に記載の座標入力装置。
- 前記指示手段は、該指示手段の姿勢を検出する姿勢検出手段を更に備え、前記撮像手段が捉えた画像情報と前記姿勢検出手段からの姿勢情報に基づいて前記画像情報の姿勢を補正することを特徴とする請求項1乃至4の何れか一項に記載の座標入力装置。
- 前記撮像手段は、該撮像手段により撮像された画像情報を無線により伝送する無線伝送手段を更に備え、前記撮像手段により撮像された前記画像表示面上のパターン画像を無線により前記パターン識別手段に伝送することを特徴とする請求項1乃至4の何れか一項に記載の座標入力装置。
- 前記撮像手段は、前記指示手段と一体に構成され先端に対物レンズを有する複数の光ファイバから成る光伝送手段と、該光伝送手段により伝送された光学画像を光電変換する光電変換手段と、を備え、前記光伝送手段の先端が前記指示手段の先端となるように構成され、前記指示手段には前記光伝送手段のみ搭載されていることを特徴とする請求項1に記載の座標入力装置。
- 前記光伝送手段は、その表面を軟性部材により覆われていることを特徴とする請求項7に記載の座標入力装置。
- 前記指示手段は、前記光伝送手段と共に前記対物レンズの視野角内に光ビームを投影する光投影手段を更に備えたことを特徴とする請求項8に記載の座標入力装置。
- 前記光投影手段は、可視領域のレーザビーム若しくは可視光源からの光束を複数の光ファイバにより伝送して該光ファイバの先端から放射するライトガイドであることを特徴とする請求項9に記載の座標入力装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002029602A JP4217021B2 (ja) | 2002-02-06 | 2002-02-06 | 座標入力装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002029602A JP4217021B2 (ja) | 2002-02-06 | 2002-02-06 | 座標入力装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003233460A JP2003233460A (ja) | 2003-08-22 |
JP4217021B2 true JP4217021B2 (ja) | 2009-01-28 |
Family
ID=27773754
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002029602A Expired - Fee Related JP4217021B2 (ja) | 2002-02-06 | 2002-02-06 | 座標入力装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4217021B2 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7421111B2 (en) * | 2003-11-07 | 2008-09-02 | Mitsubishi Electric Research Laboratories, Inc. | Light pen system for pixel-based displays |
WO2005119356A2 (en) | 2004-05-28 | 2005-12-15 | Erik Jan Banning | Interactive direct-pointing system and calibration method |
JP4552685B2 (ja) * | 2005-02-22 | 2010-09-29 | カシオ計算機株式会社 | 座標検出装置および座標検出方法 |
JP4572758B2 (ja) * | 2005-07-06 | 2010-11-04 | ソニー株式会社 | 位置座標入力装置 |
US9285897B2 (en) | 2005-07-13 | 2016-03-15 | Ultimate Pointer, L.L.C. | Easily deployable interactive direct-pointing system and calibration method therefor |
US8106884B2 (en) | 2006-03-20 | 2012-01-31 | Samsung Electronics Co., Ltd. | Pointing input device, method, and system using image pattern |
JP2009020891A (ja) * | 2007-07-12 | 2009-01-29 | Utechzone Co Ltd | 光学式ポインターの光レールによるコンピュータの遠隔制御用システム、制御モジュール及び方法 |
JP2009245349A (ja) * | 2008-03-31 | 2009-10-22 | Namco Bandai Games Inc | 位置検出システム、プログラム、情報記憶媒体及び画像生成装置 |
JP4703744B2 (ja) * | 2009-05-22 | 2011-06-15 | シャープ株式会社 | コンテンツ表現制御装置、コンテンツ表現制御システム、コンテンツ表現制御用基準物体およびコンテンツ表現制御プログラム |
JP5347800B2 (ja) * | 2009-07-27 | 2013-11-20 | ソニー株式会社 | 検出システムおよび検出方法 |
JP5408175B2 (ja) | 2011-03-31 | 2014-02-05 | カシオ計算機株式会社 | 投影装置、投影方法及びプログラム |
KR101423536B1 (ko) | 2011-06-14 | 2014-08-01 | 한국전자통신연구원 | 인쇄매체 기반 혼합현실 구현 장치 및 방법 |
TWI468214B (zh) * | 2012-10-18 | 2015-01-11 | Zeroplus Technology Co Ltd | Index positioning system |
CN103793185B (zh) * | 2012-10-30 | 2016-12-21 | 孕龙科技股份有限公司 | 指针定位系统 |
-
2002
- 2002-02-06 JP JP2002029602A patent/JP4217021B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003233460A (ja) | 2003-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11073901B2 (en) | Display device, control method for display device, and computer program | |
JP4217021B2 (ja) | 座標入力装置 | |
US10564919B2 (en) | Display system, display apparatus, method for controlling display apparatus, and program | |
US10643390B2 (en) | Head mounted display, method for controlling head mounted display, and computer program | |
EP2550797B1 (en) | Hand-held scanner | |
EP2063347B1 (en) | Projector and method for projecting images | |
JP4681629B2 (ja) | 表示デバイスのキャリブレーション方法及び装置 | |
US10073262B2 (en) | Information distribution system, head mounted display, method for controlling head mounted display, and computer program | |
KR20140092267A (ko) | 햅틱 피드백을 갖는 증강 현실 유저 인터페이스 | |
JP2013042221A (ja) | 通信端末、通信方法、マーカ装置及び通信システム | |
JP6554948B2 (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
CN111344663A (zh) | 渲染装置及渲染方法 | |
EP1696363A2 (en) | Hand-free data acquisition system | |
JP2012033073A (ja) | 付加情報提供システム及び撮像装置 | |
JP6450498B2 (ja) | 画像処理装置、画像処理システム、及び画像処理方法 | |
US20140292636A1 (en) | Head-Worn Infrared-Based Mobile User-Interface | |
WO2015111655A1 (ja) | ヘッドマウントディスプレイ装置 | |
US11243674B2 (en) | Display apparatus and image processing method | |
CN111813232A (zh) | Vr键盘和vr办公装置 | |
US11720313B2 (en) | Display system, display method and program | |
US20190086677A1 (en) | Head mounted display device and control method for head mounted display device | |
KR20170026002A (ko) | 3차원 깊이 카메라 모듈 및 이를 구비하는 이동 단말기 | |
CN209044430U (zh) | 一种设备 | |
CN209044428U (zh) | 一种设备 | |
CN212749772U (zh) | Vr键盘和vr办公装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041208 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050106 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070219 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070828 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071012 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081104 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081107 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111114 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111114 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121114 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131114 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |