JP4261696B2 - Coordinate input device - Google Patents
Coordinate input device Download PDFInfo
- Publication number
- JP4261696B2 JP4261696B2 JP23541499A JP23541499A JP4261696B2 JP 4261696 B2 JP4261696 B2 JP 4261696B2 JP 23541499 A JP23541499 A JP 23541499A JP 23541499 A JP23541499 A JP 23541499A JP 4261696 B2 JP4261696 B2 JP 4261696B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- sensor
- light emitting
- light
- circuit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Position Input By Displaying (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、3次元座標を入力する座標入力装置に関するものである。
【0002】
【従来の技術】
従来、3次元CAD、3次元レイアウトツール、3次元動作ゲーム、3次元運動測定装置などのような3次元座標を扱うシステムあるいはアプリケーションソフトにおける座標入力装置、操作装置の分野および、各種ヒューマンインタフェースとして使用者の動作、合図等を入力情報として取り込む用途のあるマルチメディア装置、アミューズメント装置、教育装置としては、
1)多関節メカによって支持されるセンサを用いて、そのセンサと座標入力対象物との機械的接触あるいは機械的変形により、その座標入力対象物の3次元位置を検知するもの。
【0003】
2)ジョイスティックなどのように2次元的入力作業の組み合わせによって、3次元座標の入力が成り立つもの。
【0004】
3)可視光または赤外線に感度のある複数のビデオカメラによって得られるステレオ画像を計算処理して3次元座標を算出するもの等があった。
【0005】
【発明が解決しようとする課題】
しかしながら、上記従来の座標入力装置において、1)の方法では、メカニズムが大掛かりとなり広範な用途に対応できるものではなかった。2)の方法では、使用者にとって3次元座標の入力が直感的でない、リアルタイム性がない、連続性がない等の問題点があった。また、3)の方法では、演算量が多く、コンピュータ側のCPUへの負担が大きいため、リアルタイム性がない、他の処理が遅れるなどの問題点があった。
【0006】
本発明は上記の問題点に鑑みてなされたものであり、3次元座標を効率的にかつ容易に入力することができる座標入力装置を提供することを目的とする。
【0007】
上記の目的を達成するための本発明による座標入力装置は以下の構成を備える。即ち、
3次元座標を入力する座標入力装置であって、
発光素子を有し、3次元的位置を指示する指示手段と、
前記発光素子から照射される光を受光し、該発光素子の存在する3次元的位置を計測する複数のラインセンサと、
前記発光素子から照射される光を受光する受光素子と、
前記受光素子からの出力信号を2値化する2値化手段と、
前記2値化手段から出力される2値化信号と前記複数のラインセンサで計測される計測値に基づいて、前記指示手段が位置する3次元座標を算出する算出手段と
を備え、
前記2値化手段は、前記出力信号を2値化するためのしきい値信号を生成する生成手段を備え、
前記生成手段で生成されるしきい値信号のしきい値レベルは、第1信号、第2信号、第3信号の和から生成され、
前記第1信号は、前記受光素子からの出力信号をローパスフィルタ、遅延回路、減衰回路を通過させることにより生成され、
前記ローパスフィルタ、前記遅延回路、前記減衰回路の三つ含めての時定数は、前記指示手段の発光素子の点滅周期よりも大きく、
前記第2信号は、直流電圧に基づいて生成される一定信号であり、
前記第3信号は、前記2値化手段から出力される2値化信号をNOT回路、減衰回路を通過させることにより生成される。
【0024】
【発明の実施の形態】
[本発明の構成]
本発明は、主として以下の要素にて構成される
すなわち、赤外線を放射する指示具、指示具から照射される赤外線の入射角を検知し複数のデータ列を生成する受光ユニット、受光ユニットにて生成される複数のデータ列から指示具の存在する3次元位置を演算処理によって算出し、これをデータとしてホストコンピュータに送る機能と、かつ受光ユニット上のセンサを制御する制御部からなる本体部から構成される。
【0025】
本発明において、使用者は、指示具を適切な方向に向けることにより、指示具から放射される赤外線を、受光センサーが具わる受光ユニットの所定の位置に照射することができる。
【0026】
指示具は、赤外線を放射する発光素子と、使用者が切替ないし押し込みが可能な複数のスイッチとを備える。指示具は、赤外線を数キロヘルツ程度の周波数で点滅させ、かつ点滅の点灯部分において複数のスイッチ情報を赤外線に載せて送信するための何らかの変調手段を有する。
【0027】
受光ユニットの受光部は、複数のセンサによって構成される。最も簡単な典型的な場合のその構成は、X軸方向のラインセンサ2個(X1ラインセンサ、X2ラインセンサ)、Y軸方向のラインセンサ1個(Yラインセンサ)、単画素の受光センサ1個(Tセンサ)である。
【0028】
X1、X2ラインセンサは、指示具の発光点からの入射角度のX軸成分を示すデータ列を夫々検出する。Yラインセンサは、指示具の発光点からの入射角度のY軸成分を示すデータ列を検出する。Tセンサは、変調信号の受信など、時間軸情報を検知するための信号波形を生成する。
【0029】
また、X1ラインセンサとX2ラインセンサは、X軸方向に所定の距離Lだけ隔てて配置され、所謂、三角測量の考え方に基づいて取り扱われる。
【0030】
本体部は、X1ラインセンサ、X2ラインセンサから得られるデータ列から3次元座標を計算する第一信号処理機能、Tセンサから得られる信号波形をもとに、指示具上のスイッチ情報を検知し、かつ赤外線点滅のタイミングを検知する第二信号処理機能、受光ユニットの動作を制御する制御機能、更に、第一、第二信号処理機能によって得られた情報を、リアルタイムでホストコンピュータに送信する通信機能を備える。
【0031】
また、Tセンサからの信号を2値化する際に、所定の時定数をもってしきい値を適応的に変化させ、かつ、しきい値の下限値を所定値にする。これにより、Tセンサに照射される赤外線に対し、広いダイナミックレンジで、かつ外乱ノイズに強い形で時間軸信号の抽出を可能とする。その結果、外乱ノイズが多い環境や、指示具の扱いがラフな状況であっても、安定した3次元入力が可能となる。
【0032】
本発明においては、その主たる特徴として、ラインセンサとしてリング型CCDを用いる(これについての詳細は後述)。このリング型CCDは、外部より制御される電子シャッター機能を有する。本発明においては、指示具に備わる発光素子において所定の周波数にて点滅する赤外光を発光させ、これに電子シャッター機能を同期させることにより、外乱光の抑圧(外乱光による影響の排除)を行なっている。また、このリング型CCDは、循環型電荷転送経路を有し、光電変換部(後述)で発生した電荷は、循環型電荷転送経路に転送され、さらにこれを循環するごとに、新たに電荷を逐次追加蓄積する機能を有する。また、逐次追加蓄積しつつ循環する状態と、逐次追加蓄積せずに循環のみ行なうという状態を外部制御で切り替えることができる、本発明では、指示具から照射される光量に応じて、この切り替え制御を適応的に行なうことにより、例えば、レベルの小さい光を受光する場合は多数回蓄積し、また、例えば、レベルの大きい光を受光するときは少数回蓄積するという制御を行う。これにより、広い受光ダイナミックレンジを持たせることができる。
【0033】
本発明のもう一つの特徴は、Tセンサを備えることである。Tセンサは、上述した通り、単画素の受光センサである。リング型CCDは、指示具から発せられる赤外線の位置情報(正確には入射方向の情報)を検知するものであるが、これに対し、Tセンサは、指示具から発せられる赤外線の時間軸情報を検知するものである。ここで、時間軸情報とは、点滅のタイミングとしての時間軸情報と、それに変調により載せられる信号そのものである、また、これは指示具上のスイッチの判別情報である。
【0034】
ここで、点滅信号のうち、結果的にTセンサで補らえるべき信号は、全て点滅より十分高い周波数(実際には数キロヘルツ)で変調されている。また、スイッチ情報は、この変調方法を変化させることにより、付帯信号として伝送している。Tセンサは、このような用途に用いるのでキャリヤ周波数に十分応答できる周波数特性を持っている必要がある。
【0035】
また、Tセンサによって生成される信号は、キャリア周波数と同一周波数のバンドパスフィルタを通した後、整流することにより外乱光によるノイズの少ない信号として抽出することができる。
【0036】
本発明においては、このTセンサで得られる点滅のタイミング信号をもとに、リング型CCDを制御することにより、リング型CCDの電子シャッターを点滅信号に同期させている。
【0037】
以下、図面を参照して本発明の好適な実施形態を詳細に説明する。
[実施形態1]
図1は実施形態1の3次元座標入力装置の外観を示す図である。
【0038】
実施形態1においては、ホストコンピュータ20の表示装置22の下に3次元入力用の受光ユニット8が設置されている。使用者は、赤外線発光素子6を備える指示具1を受光ユニット8の方向に向けることにより、受光ユニット8に赤外線を照射する。これにより、ワイヤレスリモコン等の指示具1の位置(センサ中央部に対する相対的3次元位置)をホストコンピュータ20に入力することができる。また、この入力動作はリアルタイムで行うことができる。
【0039】
次に、受光ユニット8の構成について、図2を用いて説明する。
【0040】
図2は実施形態1の受光ユニットの構成を示す図である。
【0041】
図2に示すように、受光ユニット8は、X軸方向に2個のラインセンサ(X1センサ9、X2センサ10)を構成し、各X1センサ9、X2センサ10の前には、それぞれ円筒レンズ23、24が配置されている。また、Y軸方向に1個のラインセンサ(Yセンサ11)を構成し、Yセンサ11の前には円筒レンズ25が配置されている。更に、単画素のTセンサ12を構成している。
【0042】
次に、指示具1と受光ユニット8との位置関係について、図3を用いて説明する。
【0043】
図3は実施形態1の指示具と受光ユニットの位置関係を示す図である。
【0044】
尚、図3では、特に、指示具1とX1センサ9と円筒レンズ23との位置関係を例に挙げて説明する。
【0045】
図3に示すように、座標中央の線は円筒レンズ23の中央とX1センサ9の中央を貫く。従って、指示具1の赤外線発光素子6が座標中央にある場合、赤外線発光素子6から発光される光線はX1センサ9の中央部に結像する。また、指示具1の赤外線発光素子6がXZ面内で中心軸よりθxだけずれた方向にある場合、赤外線発光素子6から発光される光線はX1センサ9の中心よりAxだけずれたところに結像する。
【0046】
この時、式(1)に示すような関係が成り立つ。
【0047】
Ax=d×tan(θx)……(1)
以下、AxをX方向パラメータと称する。また、同様に、Yセンサの中心からの結像位置を示すAyをY方向パラメータと称する。
【0048】
次に、3次元座標の算出原理について、図4を用いて説明する。
【0049】
図4は実施形態1の3次元座標の算出原理を説明するための図である。
【0050】
図4に示すように、実施形態1では、指示具1の赤外線発光素子6と、受光ユニット8の中央に対する相対的3次元位置を算出する。即ち、3次元位置ベクトルR(X,Y,Z)26を算出する。
【0051】
以下、3次元位置ベクトルR(X,Y,Z)26の算出手順について説明する。
【0052】
まず、θxとZの算出手順について、図5を用いて説明する。
【0053】
図5は実施形態1のθxとZの算出手順を説明するための図である。
【0054】
実施形態1においては、同一面内にX軸方向のX1センサ9、X2センサ10が距離Lを隔てて設置され、それぞれにおいて、指示具1と図3で説明した位置関係を持っている。そこで、X1センサ9、X2センサ10それぞれのX方向パラメータをAx1、Ax2と定義すると、式(1)と同様に、以下の式(2)、(3)が成り立つ。
【0055】
Ax1/d=tan(θx1)……(2)
Ax2/d=tan(θx2)……(3)
また、式(4)が成り立つ
tan(θx)={tan(θx1)+tan(θx2)}/2……(4)
従って、X方向パラメータAxを
Ax≡{Ax1+Ax2}/2……(5)
のように定義すると、次式(6)が成り立つ。
【0056】
tan(θx)=Ax/d……(6)
即ち、Ax1、Ax2が計測できれば、θxを算出することができる。
【0057】
次に、Zを算出する。図5に示すように、X1センサ9とX2センサ10は距離Lだけ隔てて設置されているので、次の関係が成り立つ。
【0058】
{X+(L/2)}/Z=tan(θx1)=Ax1/d……(7)
{X−(L/2)}/Z=tan(θx2)=Ax2/d……(8)
従って、式(7)、(8)より
Z=(d×L)/{Ax1−Ax2}……(9)
即ち、Ax1、Ax2が計測できればZを算出することができる。
【0059】
次に、θyの算出手順について、図6を用いて説明する。
【0060】
図6は実施形態1のθyの算出手順を説明するための図である。
【0061】
式(2)、(3)と同様に次の式が成り立つ
tan(θy)=Ay/d……(10)
即ち、Ayを計測できればθyを算出することができる。
【0062】
以上、式(6)、(9)、(10)により(θx、Z、θy)を算出することができる。
【0063】
そして、図5、図6より、X、Y、Zには以下の関係がある。
【0064】
X=Z×tan(θx)……(11)
Y=Z×tan(θy)……(12)
即ち、式(11)、(12)より(X,Y)を算出することができる。
【0065】
以上説明した算出手順によって、3次元位置ベクトルR(X,Y,Z)を算出することができる。
【0066】
次に、実施形態1の3次元座標入力装置の機能構成について、図7を用いて説明する。
【0067】
図7は実施形態1の3次元座標入力装置の機能構成を示すブロック図である。
【0068】
実施形態1では、主として、赤外線を放射する指示具1、放射される赤外線を受光し電気信号乃至データ列に変換する受光ユニット8、受光ユニットを制御しかつ受光ユニット8にて生成される電気信号乃至データ列から指示具1の存在する3次元位置を算出し、この算出結果をホストコンピュータ20に送信する本体部13からなる。ホストコンピュータ20と、本体部13は、シリアルポート21を介して接続され、シリアルポートとしては、RS232CポートやUSBポートを使用する。
【0069】
まず、指示具1の構成について、図7、図8を用いて説明する。
【0070】
図8は実施形態1の指示具の詳細構成を示す図である。
【0071】
図8に示すように、指示具1は、光ビームを照射する発光素子(IRED)6と、その発光パターンを作成する点滅信号作成回路3、スイッチ情報に従って変調をかける変調回路4、発光素子を駆動するドライブ回路5が構成される。ここで、スイッチ情報は、スイッチ群(SW)2から入力される。特に、実施形態1では、スイッチ群2は、4つのスイッチSW1〜SW4で構成されており、これらのスイッチSW1〜SW4の役割については、後述する。
【0072】
図7において、受光ユニット8は、X1ラインセンサ9、X2ラインセンサ10、Yセンサ11及びそれらに赤外線を結像させるために組み合わせられる円筒レンズ23、24、25(図1参照)と、これらに加えて単画素のTセンサ12で構成される。ここで、X1ラインセンサ9、X2ラインセンサ10は夫々赤外線の入射角度のX軸方向の成分、同様にYラインセンサ11は入射角度のY軸方向の成分を検知する。
【0073】
X1ラインセンサ9、X2ラインセンサ10、Yラインセンサ11は、リング型CCDである。これらから得られるアナログ信号(データ列)26は、図9に示され、そのデータ列の最大振幅値の位置(図21中、Aiで示す)が各ラインセンサ上の結像位置、すなわち入射角度を表すこととなる。また、アナログ信号(データ列)26は、AD変換部16によってデジタル信号に変換され、このデジタル信号を基にCPU18にて指示具1(正確には指示具1上の発光素子6)の3次元位置座標が算出され、ホストコンピュータ20に送信される。ここで、X1ラインセンサ9、X2ラインセンサ10、Yラインセンサ11は、制御信号作成回路15によって作成されるタイミングシーケンスによって制御される。
【0074】
一方、Tセンサ12は、上述したように単画素の光電変換素子である。このTセンサ12は、指示具1より照射される光の時間軸情報を検知する。Tセンサ12で得られた信号(変調信号)27は、波形処理部14において、バンドパスフィルタにかけられ、全波整流、平滑化、2値化がなされて、信号“IR”となり制御信号作成回路15に送信される。
【0075】
制御信号作成回路15においては、信号“IR”を所定の条件で判定することにより、付帯情報(指示具1上のスイッチ情報)を判別検知するとともに、信号“IR”の立ち下がりタイミングを検知し、それを基準として、リセット信号“RESET”を作成する。更に、このリセット信号“RESET”をトリガーとしてタイミングシーケンスをスタートさせ、これが制御信号28として、X1ラインセンサ9、X2ラインセンサ10、Yラインセンサ11に送信される。
【0076】
このタイミングシーケンスは、1点の3次元位置座標を取り込むごとに一回ずつ繰り返されるものであり、それに従ってX1ラインセンサ9、X2ラインセンサ10、Yラインセンサ11は制御される。
【0077】
また、このタイミングシーケンスを実行させるために、後述する信号”LED_CLK”、信号”CCD_CLK”をCPU18に供給するLED_CLK発生回路17a、CCD_CLK発生回路17bが制御信号作成回路15に接続されている。
【0078】
また、メモリ19は、CPU18が各種処理を実行するためための作業領域、各種データの一時退避領域として機能する。
【0079】
次に、指示具1の発光素子6のドライブ波形について、図9の“LED_DRIVE”に示す。指示具1の変調回路4においては、信号“LED_CLK”(例えば、972.8KHz)を、例えば、128分周した周期Tの信号“LED_IRCLK”が作成される。信号“LED_IR”は、信号“LED_IRCLK”と同じ周期で、所定のデューティーを持った信号(例えば、Hiの期間が33ms)である。信号“LED_DRIVE”は、実際に発光素子6をドライブする信号であり、信号“LED_CLK”を信号“LED_IR”でゲートしたものである。
【0080】
次に、波形処理部30の詳細構成について、図10を用いて説明する。
【0081】
図10は実施形態1の波形処理部の詳細構成を示すブロック図である。
【0082】
Tセンサ12において、光電変換された光信号は増幅器31にて所定レベルに増幅され、信号“LED_CLK”とほぼ同一周波数の共振周波数を持つバンドパスフィルタ32を通過する。次に、検波回路33、平滑化回路34、2値化回路35を通過することにより、信号“IR”となり、制御信号作成回路15に送信される。ここで、バンドパスフィルタ32の出力信号“FILTER_OUT”を図9に示す。
【0083】
このようにして、指示具1から送信された信号“LED_IR”は、信号“IR”として再現される。ここで、信号“IR”は、バンドパスフィルタ32、平滑化回路34の位相特性の影響で立ち上がり、立ち下がりとも若干の時間遅延t1、t2が発生する(実施形態1においては、5μsec程度である)。従って、信号“IR”は、信号“LED_IR”に対して前記時間遅延を持つこととなる。
【0084】
本発明においては、指示具1にスイッチ群2が備わっている。これは、例えば、マウスの右ボタン乃至左ボタン、あるいはペン(デジタイザ)のペンアップダウンスイッチなどに代表されるスイッチ入力に用いるが、他の用途に用いることもある。
【0085】
本発明においては、指示具の点滅信号の点灯期間を、前記点滅周波数より十分大きいキャリヤ周波数によって全部または部分的に変調をかけるようにしている。このようにすると、X1ラインセンサ9、X2ラインセンサ10、Yラインセンサによる受光と言う意味では、点灯の全てが有効となり、また、Tセンサ12においては、変調をかけた部分のみが有効に検知される。
【0086】
従って、その変調をかけた部分のみ時間軸情報としての意味を持つこととなる。本発明においては、スイッチ群2が押されていない場合には、図11に示すように、常に変調をかけるようにする。これに対し、スイッチ群2の内、ある特定のスイッチが押された場合には、図11に示すように、一回おきに変調の有無を切り替えるように構成している。
【0087】
このようにすることにより、リング型CCDから見ると、前述のとおり、このどちらの場合の発光パターンも、いずれも同一の周期(T)で点滅している信号として見え、また、Tセンサ12から見ると、スイッチが押されていないときは、同一の周期Tで点滅しているように見え、スイッチが押されているときは一回おきに(またはT×2の周期で)点滅しているように見える。従って、このとき、リング型CCDによる座標検出は、スイッチのオンオフどちらにおいても同等におこなわれ、かつ、スイッチ情報として、1ビット分の情報を受光ユニット8に対して通信することができる。
【0088】
次に、2値化回路35の詳細構成について、図12を用いて説明する。
【0089】
図12は実施形態1の2値化回路の詳細構成を示す図である。
【0090】
尚、実施形態1の2値化回路35は、Tセンサ12によって検出した時間軸波形から、時間軸情報を示す論理信号を抽出する際の2値化を行う。
【0091】
また、2値化回路35中のレべル比較器80における正側入力、負側入力、2値化信号の関係について、図14〜図17に示す。レベル比較器80の正側入力は、入力信号であり、これをV_envelopと称する(図10中の平滑化回路34の出力)。また、負側入力は、しきい値信号であり、V_thresholdと称する(図12中のしきい値作成回路81の出力)。
【0092】
一般に、この種の2値化回路においては、最も単純な場合には、予め指定された固定の入力電圧がレベル比較器80の負側入力に“しきい値信号”として入力される。また、多くの場合は、入力信号に対し十分長い時定数をもって、入力信号に追従するような“しきい値信号”が入力される。図14はこの十分長い時定数の場合のV_envelop、V_thresholdの関係を示している。このような場合、しきい値信号は、入力信号に対して、50%程度のレべルに成るよう設定され、入力信号の比較的ゆっくりした変動に対して、しきい値信号は十分追従して変化する。
【0093】
本発明においては、使用者が赤外線を発光する指示具1を受光ユニット8に向けることにより、赤外線が照射される、従って、その扱い次第では、照射レべルは短時間で激しく変化する、実際に、その変動に要する時間は点滅周期に対し必ずしも十分長いとは言いがたい。
【0094】
ここで、本発明が問題にしているのは、十分長い時定数によって変化するしきい値信号を用いている座標入力装置で、このような急激な変動がある信号が入力される場合である。このような場合のV_envelop、V_thresholdの関係を図15に示す。
【0095】
図15中の4番目のパルスは、3番目のパルスに対して振幅が1/3程度に突然低下している。このような場合、図のように、しきい値信号の追従は間にあわなくなり、その結果、2値化回路は4番目のパルスを取り逃すこととなる。
【0096】
本発明においては、このような弊害をなくすために、しきい値信号の変化する時定数を以下のようにしている。
【0097】
τ_thsh>>τ_dtct,τ_thsh<<T_blink
としている。
【0098】
ここで、τ_thshは、“しきい値信号”変化の時定数、τ_dtctは検波後の平滑化回路の時定数、T_blinkは点滅の周期である。
【0099】
そして、2値化回路35のしきい値を、次の式で定義する。
【0100】
V_thshpld=V_delay+V_botom+V_hys
ここで、V_delay、V_botom、V_hysについて夫々説明する。
【0101】
まず、V_hysは、レベル比較器80において、一般的に用いられるものであり、レベル比較器80の反転出力に対応してしきい値信号を僅かに逆方向に変化させ、所謂、ヒステリシスを僅かにもたせる信号である。実際には、NOT回路89、減衰回路87を介して生成される。これは、発振防止とチャタリング防止である。これらの機能については、これを具えるのが一般的であり、発明には該当しないので、本発明においてはこれを前提として扱い、以降の説明においては省略する。また、図14〜図18においても、その影響を省略する。
【0102】
V_delayは、V_envelopeに追従する信号である、Vdelayは、V_envelopeをローパスフィルタ(LPF)82及び一次の位相遅延回路83を通しさらに、減衰回路84で40%〜50%程度に減衰した信号である。尚、ローパスフィルタ(LPF)82、位相遅延回路83、減衰回路84の三つ含めての時定数がτ_thshである。
【0103】
本発明においては、図17に示すように、VdelayはVenvelopeに対しあまり波形をあまり崩すことなく、T_blinkの1/5〜1/8程度、時間を遅らせる必要がある。しかるに、ローパスフィルタの位相のみで、この遅延を実現しようとすると著しくなまった波形となる。そこで、時間のみ遅らせることが可能な位相遅延回路83を挿入している。尚、ローパスフィルタ82と位相遅延回路83の詳細構成を示すと、図13のようになる。
【0104】
V_botomは、図18に示すように、しきい値信号の直流的なオフセットであり、定電圧発生回路85から生成される。以下、これが必要な理由を説明する。本発明においては、Vdelayの時定数がτ_delay>T_blinkである。従って、図16に示す様にVenvelope≒0の区間においては、V_delay≒V_envelope≒0となる。
【0105】
従って、この区間においては、両者の大小関係が明確ではなく、むしろノイズに支配されることとなり、このままでは、2値化の結果は不良となる。そこで、しきい値信号全体をV_botomだけ、言わば上げ底する。これにより、V_delay≒0の領域でも、ノイズに影響されることなく、かつA点も明確に検出可能となる。実際に、V_botomの値は、V_envelope≒0の領域におけるノイズレべルよりも十分大きくかつ最小検出レべルにおけるV_envelopeの値及びそれに対応するV_delayの値よりも十分小さい必要がある。このような条件によって、2値化を施した様子が図25である。
【0106】
次に、リング型CCDの構成について、図19を用いて説明する。
【0107】
図19は実施形態1のリング型CCDの構成を示す図である。
【0108】
X1ラインセンサ9、X2ラインセンサ10、Yラインセンサを構成するリング型CCDは、一種のラインセンサである。これが一般のラインセンサと大きく異なる点は、光電変換によって得られた電荷を転送する部分が循環型(リング状)になっている点である。
【0109】
リング型CCDは、特開平8−233571号等で示されるように、ライン状に並ぶn個の画素からなる光電変換部40と、リング状に並ぶm個の転送部(転送セル)群からなる循環型電荷転送経路51と、循環型電荷転送経路51の途中に接続される電圧読出部53からなる。実施形態1においては、例えば、n=64、m=150とする。
【0110】
光電変換部40にて、光電変換された電荷は、外部制御信号によって蓄積部/クリア部41に蓄積/あるいは放電される。これが電子シャッター機能となる。また、外部制御信号は、電子シャッター機能が発光側の発光に同期するように(詳しくは、一回の点滅における発光時と消光時にそれぞれ一回ずつオンオフするように)構成されている。また、蓄積部/クリア部41は、次の蓄積を行なう前に残った電荷を放電する(グランドに放電)。
【0111】
まず、発光側が発光しているときに電子シャッター機能を一定時間をオンにし、次に、発光していないときに再度電子シャッター機能を一定時間オンにする。また、それぞれのタイミングで光電変換された電荷は、各光電変換部に対応づけられた2つのホールド部に別々に貯えられる。また、各ホールド部は、貯えた電荷を転送するための転送部に1対1で対応づけられている。
【0112】
例えば、i番目の光電変換部40で光電変換された電荷について説明すると、発光側が発光しているときに蓄積された電荷はホールド部44aに転送される。また、発光側が発光していないときに蓄積された電荷はホールド部44bに転送される。更に、ホールド部44aの電荷は2i−1番目の転送部45aに、ホールド部44bの電荷は2i番目の転送部45bに同時に転送される。この転送は、i番目の光電変換部40に限らず、全ての光電変換部40(1〜n番目)に対応する各ホールド部に蓄積された電荷に関して同時になされる。また、この転送タイミングは、一回の点滅に対して一回である。(即ち、発光と同一周期で全転送される)。
【0113】
次に、図19のi番目の光電変換部40から循環型電荷転送経路51の2i−1番目(転送部45a)、2i番目(転送部45b)の部分の詳細構成について、図20を用いて説明する。
【0114】
図20は実施形態1のリング型CCDの部分詳細構成を示す図である。また、図22は、図20に示す各スイッチのタイミングチャートである。
【0115】
図22に示す各スイッチのタイミングチャートは、信号“IRCLK”を基本周期として行われる。信号“IRCLK”の周期は、例えば、7.6KHzであり、図9に示した信号“LED_IRCLK”とほぼ等しい。信号“IRCLK”は、信号“CCD_CLK”(例えば、9.12KHz)を8分周したものをさらに150(=m)分周したものである。実際に、本発明では、この部分が電子シャッター機能の役割を持っており、信号“IRCLK”一周期で2回電子シャッター機能をONしている。
【0116】
図22中のグレイ部分が、一組の電子シャッター動作(電子シャッターON2回分)に相当する。電子シャッター動作は、まず、Cのタイミングで蓄積部/クリア部41の電荷がSW1(48)によってクリアされる。次に、Aのタイミングの間、光電変換部40で発生した電流は蓄積部/クリア部41に蓄積され、EのタイミングでSW2_1(42)がONし、ホールド部44aに転送される。同様に、Dのタイミングで蓄積部/クリア部41の電荷がSW1(48)によってクリアされる。次に、Bのタイミングの間、光電変換部40で発生した電流は蓄積部/クリア部41に蓄積され、FのタイミングでSW2_2(43)がONし、ホールド部44bに転送される。
【0117】
ホールド部44a、ホールド部44bにホールドされている電荷は、Gのタイミングで同時にそれぞれ2i−1番目、2i番目の転送セルに転送される。
【0118】
本発明においては、信号“IRCLK”と信号“LED_IRCLK”を同期させることにより、図22のAの部分で指示具1が発光し、Bの部分では発光しないと言う時間関係をつくる。このようにすると、ホールド部44aには発光時の電荷、ホールド部44bには非発光時の電荷がホールドされ、その結果、転送部の2i−1番目のセルには発光時の電荷、2i番目のセルには非発光時の電荷が転送される。また、A,B,C,D,E,F,Gのタイミングで示される動作は全画素に対して同時に実行される。
【0119】
次に、図19の循環型電荷転送経路51の動作について説明する。
【0120】
循環型電荷転送経路51は、図22に示す信号“IRCLK”1周期分で一循するようになっている、従って、例えば、2i−1番目、2i番目の転送セルにある電荷は、信号“IRCLK”1周期ごとにそれぞれ同じセルに戻ってくる。そして、その都度、それぞれホールド部44a、ホールド部44bに新たにホールドされている電荷が追加蓄積される。
【0121】
本実施形態においては、循環型電荷転送経路51は、150セル(m=150)で構成されている。従って、この循環型電荷転送経路51の転送クロック“CCD_SP”は、信号“IRCLK”の150分の1の周期(1.14MHz)である。
【0122】
また、循環型電荷転送経路51には、その経路の途中に備わる電圧読出部53において、循環型電荷転送経路51を通過する電荷を非破壊で、電圧値に変換し読み出すことができる、さらに、隣接した2つの転送セルの電圧値の差分を読み出すこともできる。従って、例えば、2i−1番目と2i番目の転送セルにおいて、ホールド部44a、ホールド部44bより転送された電荷の値の差を読み出すことができる。
【0123】
本発明においては、この機能により、指示具1が発光しているときと、発光していないときの蓄積電荷の差分の電荷に相当する電圧信号を読み出すことができる。これにより、少なくとも点滅より十分低い周波数成分における外乱光は排除される。
【0124】
電圧読出部53から読み出される信号は、実際に転送部にならんでいる順番と同じ時間的順番で読み出される。図21は、この様子を示した図であり、n番目の画素から1番目の画素の順に電圧値が読み出されている。ここで、i番目の近傍のレベルが高いのは、スポット3から照射された光が、リング型CCDを構成する転送部群の内、i番目の転送部付近で結像していることを示す。即ち、図14のAiの値を、X1ラインセンサ9、X2ラインセンサ10、Yラインセンサ11の夫々に関して計算で算出することにより、X1ラインセンサ9、X2ラインセンサ10、Yラインセンサ11が検出する赤外光の入射角のもととなるパラメータを算出することができる。
【0125】
次に、リング型CCDの制御について説明する。
【0126】
本発明において、リング型CCDは、制御信号作成回路15によって作成されたタイミングシーケンスによって、1点の座標データを取り込むごとに繰り返し制御される。
【0127】
図22、図23において[]付きで示されている信号は、リング型CCD内部で生成される信号である。それ以外の信号は、外部からリング型CCDに供給される信号である。
【0128】
信号“CCD_RESET”を供給すると、リング型CCDは、これをトリガーとして信号“CCD_CLK”を8分周して、信号“CCD_SP”を生成し、さらに150分周して(トータル1200分周して)信号“IRCLK”を生成する。尚、信号“CCD_SP”は、上述したとおり、循環型電荷転送経路51の転送クロックである。
【0129】
信号“IRCLK”は、上述したとおり、2度の電子シャッターONと電荷を光電変換部41から循環型電荷転送経路51に転送する動作の基準である。
【0130】
次に、図23のタイミングチャートについて説明する。
【0131】
まず、外部より信号“IRCLK”に同期した形で、信号“LOOP_CLR”が供給される。この信号“LOOP_CLR”により、循環型電荷転送経路51に残留している電荷がクリアされる。その後、信号“IRCLK”に伴って、順次電荷が追加蓄積され、電圧読出部53の読出波形V_OUT(X)は次第に大きくなる。この読出波形のレベルは、制御信号作成回路15によって監視されており、このレベルがある一定の値に到達したところで、信号“CCD_READ”がHiとなる。本発明におけるリング型CCDは、信号“CCD_READ”がLoの間は蓄積を続け、信号“CCD_READ”がHiになると、蓄積を停止し、電荷の循環動作のみを行なう。従って、読出波形V_OUT(X)は不変となる。その後、信号“AD_READ”がHiとなり、これに伴って、読出波形V_OUT(X)は、AD変換部16に読み込まれ、デジタル信号となりCPU18に送信される。
【0132】
ここで、上述のとおり、信号“CCD_READ”は読出波形V_OUT(X)が一定値になるまでLoである。従って、信号レベルが大きいとき(照射される光のレベルが大きいとき)、信号“CCD_READ”がLoである時間は短い。逆に、信号レベルがが小さいとき(照射される光のレベルが小さいとき)、信号“CCD_READ”がbである時間が長い。このようにして、実際に取り込まれる読出波形は、信号レベルの大小によらず一定レベルの波形となる。
【0133】
次に、指示具1上の発光素子6の点滅と、リング型CCDの電子シャッター動作の同期処理について説明する。
【0134】
本発明においては、指示具1の発光(信号“LED_DRIVE”)の周期は、信号“LED_CLK”を128分周した7.6KHzである。また、受光側のリング型CCDの電子シャッター動作の繰り返し周波数(シャッター2回ONで一周期)の周波数は、信号“IRCLK”で7.6KHzである、また、これは、信号“CCD_CLK”をトータル1200分周した周波数である。即ち、発光側の点滅周波数と受光側の電子シャッター動作の繰り返し周期は、あらかじめ、ほぼ同一に設定されている。
【0135】
ここで、図23に示すように、リング型CCDのタイミングシーケンスは、信号“CCD_RESET”でスタートするよう作成されているが、特に、リング型CCDで生成される信号“IRCLK”の立ち上がりが、信号“CCD_RESET”の立ち下がりの直後になるように予め構成されている。従って、信号“CCD_RESET”のタイミングを制御することにより、信号“IRCLK”のタイミング(位相)を制御することができる。詳しくは、指示具1の発光をTセンサ12で検知した信号を、波形処理部14を経て得られた信号“IR”に対し、所定時間T1(例えば、77.2μs)だけ遅延させた時点で信号“CCD_RESET”が立ち下がるようにタイミングを設定することにより、少なくとも信号“CCD_RESET”の直後において、信号“IRCLK”と信号“LED_IR”の位相をあわせることができる。このことは、指示具1の点滅とリング型CCDの電子シャッター動作の位相をあわせることに等しい。
【0136】
ここで、指示具1上の発光素子6の点滅と、リング型CCDの電子シャッター動作の同期処理について、図24を用いて説明する。
【0137】
図24は実施形態1の指示具の点滅とリング型CCDの電子シャッター動作の同期処理を示すフローチャートである。
【0138】
本発明における同期処理は、図23に示すタイミングシーケンスが始まる直前で時間調整することにより、その時点で信号“IRCLK”と信号“LED_IR”の位相をあわせ、その後、1ポイント分の期間は(すなわちタイミングシーケンス一回分の間)信号“IRCLK”と信号“LED_IR”をそれぞれフリーランさせる。更に、そのタイミングシーケンスが終わると、再び、信号“CCD_RSET”の立ち下がり検知を待つ状態に入る(ステップS101)。ここで、次の最初の立ち下がりを検知した場合(ステップS101でYES)、再び時間を調整して(所定時間T1だけ待って)位相をあわせ(ステップS102)、次のタイミングシーケンスを再度スタートさせる(ステップS103)。
【0139】
ここで、問題となるのは、フリーランの期間と信号“IRCLK”、信号“LED_CLK”の周波数偏差である。以下、これについて説明する。本発明においては、1ポイント分の座標を取り込む周期を最大で40msとしている。これは、図23における信号“CCD_RESET”の周期が最大40ms、即ち、フリーランの最大期間がおよそ40msであるということである。
【0140】
本発明においては、“LED_CLK”発生回路17a、“CCD_CLK”発生回路17bとも水晶振動子を使うことを前提としている。一般に、大半の水晶振動子の周波数精度は、100ppmより優れている。ここで、例えば、水晶振動子の周波数精度を100ppmとしたとき、フリーランの期間に発生しうる位相の偏差は40ms×100ppm=4μsである。これは、信号“IRCLK”の周期(131.6μs)乃至その点灯期間33μsに比べて、十分小さい値である。
【0141】
従って、上述した同期処理によって、フリーランの期間も、ほぼ信号“IRCLK”と信号“LED_IR”の同期関係が維持される。これにより、指示具1上の発光素子6の点滅と、リング型CCDの電子シャッター動作を同期させることができる。
【0142】
以上説明したように、実施形態1によれば、Tセンサ12の出力信号を2値化する際に、所定の時定数をもってしきい値信号を適応的に変化させ、かつ、しきい値の下限値を所定値にする。これにより、外乱ノイズが多い環境、乃至、指示具1の扱いがラフな状況であっても、Tセンサ12の出力信号から安定して時間情報を抽出することができる。その結果、外乱ノイズが多い環境、乃至、指示具1の扱いがラフな状況であっても、安定した3次元座標の入力が可能となる。
[実施形態2]
実施形態2は、2値化回路35の変形例である。具体的には、上述したV_envelopeに対してV_delayを遅延させるための位相遅延回路83に、2次の位相遅延回路を用いる。その詳細構成を示したのが、図25である。
【0143】
この位相遅延回路83を用いることにより、二次の位相遅延回路の共振周波数、共振のQを適宜コントロールするでき、V_delayの波形をより細やかに波形整形できる。つまり、よりノイズマージンの大きい、かつ、ノイズによるジッターのより少ない2値化処理が可能となり、安定した信号“IR”を生成でき、結果として安定した3次元座標の入力ができる。
【0144】
尚、本発明は、複数の機器(例えばホストコンピュータ、インタフェース機器、リーダ、プリンタなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置など)に適用してもよい。
【0145】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読出し実行することによっても、達成されることは言うまでもない。
【0146】
この場合、記憶媒体から読出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0147】
プログラムコードを供給するための記憶媒体としては、例えば、フロッピディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。
【0148】
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0149】
更に、記憶媒体から読出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0150】
以上説明したように、本発明によれば、3次元座標を効率的にかつ容易に入力することができる座標入力装置を提供できる。
【図面の簡単な説明】
【図1】実施形態1の3次元座標入力装置の外観を示す図である。
【図2】実施形態1の受光ユニットの構成を示す図である。
【図3】実施形態1の指示具と受光ユニットの位置関係を示す図である。
【図4】実施形態1の3次元座標の算出原理を説明するための図である。
【図5】実施形態1のθxとZの算出手順を説明するための図である。
【図6】実施形態1のθyの算出手順を説明するための図である。
【図7】実施形態1の3次元座標入力装置の機能構成を示すブロック図である。
【図8】実施形態1の指示具の詳細構成を示す図である。
【図9】実施形態1の指示具と本体部間で送受信される信号のタイミングチャートである。
【図10】実施形態1の波形処理部の詳細構成を示すブロック図である。
【図11】実施形態1の指示具と本体部間で送受信される信号のタイミングチャートである。
【図12】実施形態1の2値化回路の詳細構成を示す図である。
【図13】実施形態1のローパスフィルタと位相遅延回路の詳細構成を示す図である。
【図14】実施形態1のしきい値信号とTセンサの出力信号との関係を示すである。
【図15】実施形態1のしきい値信号とTセンサの出力信号との関係を示すである。
【図16】実施形態1のしきい値信号とTセンサの出力信号との関係を示すである。
【図17】実施形態1のしきい値信号とTセンサの出力信号との関係を示すである。
【図18】実施形態1のしきい値信号とTセンサの出力信号との関係を示すである。
【図19】実施形態1のリング型CCDの構成を示す図である。
【図20】実施形態1のリング型CCDの部分詳細構成を示す図である。
【図21】実施形態1のリング型CCDの各転送部の出力レベルを示す図である。
【図22】実施形態1の図20に示す各スイッチのタイミングチャートである。
【図23】実施形態1の制御信号作成回路が生成する信号群のタイミングチャートである。
【図24】実施形態1の指示具の点滅とリング型CCDの電子シャッター動作の同期処理を示すフローチャートである。
【図25】実施形態2のローパスフィルタと位相遅延回路の詳細構成を示す図である。
【符号の説明】
1 指示具
2 スイッチ群
3 点滅信号作成回路
4 変調回路
5 ドライブ回路
6 発光素子
8 受光ユニット
9 X1センサ
10 X2センサ
11 Yセンサ
12 Tセンサ
13 本体部
14 波形処理部
15 制御信号作成回路
16 AD変換部
17a LED_CLK発生回路
17b CCD_CLK発生回路
18 CPU
19 メモリ
20 ホストコンピュータ
21 シリアルポート
22 表示装置[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a coordinate input device that inputs three-dimensional coordinates.
[0002]
[Prior art]
Conventionally, 3D CAD, 3D layout tool, 3D motion game, 3D coordinate handling system such as 3D motion measurement device, etc. Used as coordinate input device and operation device field in application software and various human interfaces As a multimedia device, an amusement device, and an educational device that can be used to capture the user's actions and cues as input information,
1) Using a sensor supported by a multi-joint mechanism, the three-dimensional position of the coordinate input object is detected by mechanical contact or mechanical deformation between the sensor and the coordinate input object.
[0003]
2) A device such as a joystick that can input three-dimensional coordinates by combining two-dimensional input operations.
[0004]
3) Some of them calculate three-dimensional coordinates by calculating a stereo image obtained by a plurality of video cameras sensitive to visible light or infrared rays.
[0005]
[Problems to be solved by the invention]
However, in the conventional coordinate input apparatus, the method 1) has a large mechanism and cannot be used for a wide range of applications. In the method 2), there are problems that the input of the three-dimensional coordinates is not intuitive for the user, there is no real-time property, and there is no continuity. Further, the method 3) has problems such as a large amount of calculation and a heavy burden on the CPU on the computer side, so that there is no real-time property and other processing is delayed.
[0006]
The present invention has been made in view of the above problems, and an object of the present invention is to provide a coordinate input device capable of inputting three-dimensional coordinates efficiently and easily.
[0007]
In order to achieve the above object, a coordinate input device according to the present invention comprises the following arrangement. That is,
A coordinate input device for inputting three-dimensional coordinates,
An indicating means having a light emitting element and indicating a three-dimensional position;
A plurality of line sensors that receive light emitted from the light emitting element and measure a three-dimensional position of the light emitting element;
A light receiving element that receives light emitted from the light emitting element;
Binarization means for binarizing an output signal from the light receiving element;
Calculation means for calculating three-dimensional coordinates where the instruction means is located based on a binarization signal output from the binarization means and measurement values measured by the plurality of line sensors;
With,
The binarization means includes generation means for generating a threshold signal for binarizing the output signal,
The threshold level of the threshold signal generated by the generating means is generated from the sum of the first signal, the second signal, and the third signal,
The first signal is generated by passing an output signal from the light receiving element through a low-pass filter, a delay circuit, and an attenuation circuit,
The time constants including the low-pass filter, the delay circuit, and the attenuation circuit are larger than the blinking cycle of the light emitting element of the indicating means,
The second signal is a constant signal generated based on a DC voltage,
The third signal is generated by passing the binarized signal output from the binarizing means through a NOT circuit and an attenuation circuit..
[0024]
DETAILED DESCRIPTION OF THE INVENTION
[Configuration of the present invention]
The present invention mainly comprises the following elements.
That is, there is an indicator that emits infrared rays, a light receiving unit that detects an incident angle of infrared rays emitted from the indicator and generates a plurality of data strings, and a pointer that exists from a plurality of data strings generated by the
[0025]
In the present invention, the user can irradiate the predetermined position of the light receiving unit provided with the light receiving sensor with the infrared rays emitted from the pointing tool by directing the pointing tool in an appropriate direction.
[0026]
The indicator includes a light emitting element that emits infrared rays and a plurality of switches that can be switched or pushed by the user. The indicator has some modulation means for causing infrared rays to blink at a frequency of about several kilohertz and transmitting a plurality of switch information on the infrared rays in the blinking lighting portion.
[0027]
The light receiving unit of the light receiving unit includes a plurality of sensors. The configuration in the simplest typical case consists of two line sensors in the X-axis direction (X1 line sensor and X2 line sensor), one line sensor in the Y-axis direction (Y line sensor), and a single pixel
[0028]
The X1 and X2 line sensors respectively detect data strings indicating the X-axis component of the incident angle from the light emitting point of the pointing tool. The Y line sensor detects a data string indicating the Y axis component of the incident angle from the light emitting point of the pointing tool. The T sensor generates a signal waveform for detecting time axis information such as reception of a modulation signal.
[0029]
Further, the X1 line sensor and the X2 line sensor are arranged at a predetermined distance L in the X-axis direction, and are handled based on the so-called triangulation concept.
[0030]
The main unit detects switch information on the pointing device based on the first signal processing function for calculating three-dimensional coordinates from the data strings obtained from the X1 line sensor and X2 line sensor, and the signal waveform obtained from the T sensor. In addition, a second signal processing function for detecting the timing of infrared blinking, a control function for controlling the operation of the light receiving unit, and a communication for transmitting information obtained by the first and second signal processing functions to the host computer in real time It has a function.
[0031]
Further, when the signal from the T sensor is binarized, the threshold value is adaptively changed with a predetermined time constant, and the lower limit value of the threshold value is set to a predetermined value. This makes it possible to extract a time axis signal with a wide dynamic range and strong against disturbance noise with respect to the infrared rays irradiated to the T sensor. As a result, stable three-dimensional input is possible even in an environment with a lot of disturbance noise or in situations where the handling of the pointing tool is rough.
[0032]
In the present invention, as its main feature, a ring CCD is used as a line sensor (details will be described later). This ring CCD has an electronic shutter function controlled from the outside. In the present invention, infrared light blinking at a predetermined frequency is emitted from a light emitting element provided in the pointing device, and the electronic shutter function is synchronized with the infrared light, thereby suppressing disturbance light (excluding the influence of disturbance light). Is doing. In addition, this ring CCD has a circulation type charge transfer path, and the charge generated in the photoelectric conversion unit (described later) is transferred to the circulation type charge transfer path. It has a function to add and accumulate sequentially. In addition, in the present invention, the switching control can be performed according to the amount of light emitted from the pointing tool. For example, when light having a low level is received, the light is accumulated many times. For example, when light having a high level is received, the light is accumulated a few times. Thereby, a wide light receiving dynamic range can be provided.
[0033]
Another feature of the present invention is the provision of a T sensor. As described above, the T sensor is a single pixel light receiving sensor. The ring CCD detects the position information of the infrared rays emitted from the pointing tool (more precisely, the information on the incident direction). On the other hand, the T sensor uses the time axis information of the infrared rays emitted from the pointing tool. It is something to detect. Here, the time axis information is the time axis information as the blinking timing and the signal itself carried by the modulation, and this is the discrimination information of the switch on the indicator.
[0034]
Here, among the blinking signals, the signals that should be supplemented by the T sensor as a result are all modulated at a frequency sufficiently higher than the blinking (actually several kilohertz). The switch information is transmitted as an incidental signal by changing the modulation method. Since the T sensor is used for such applications, it needs to have a frequency characteristic that can sufficiently respond to the carrier frequency.
[0035]
The signal generated by the T sensor can be extracted as a signal with less noise due to ambient light by rectification after passing through a bandpass filter having the same frequency as the carrier frequency.
[0036]
In the present invention, the ring CCD electronic shutter is synchronized with the flashing signal by controlling the ring CCD based on the flashing timing signal obtained by the T sensor.
[0037]
Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings.
[Embodiment 1]
FIG. 1 is a diagram illustrating an appearance of the three-dimensional coordinate input apparatus according to the first embodiment.
[0038]
In the first embodiment, the
[0039]
Next, the configuration of the
[0040]
FIG. 2 is a diagram illustrating a configuration of the light receiving unit according to the first embodiment.
[0041]
As shown in FIG. 2, the
[0042]
Next, the positional relationship between the
[0043]
FIG. 3 is a diagram illustrating a positional relationship between the pointing tool and the light receiving unit according to the first embodiment.
[0044]
In FIG. 3, the positional relationship among the pointing
[0045]
As shown in FIG. 3, the coordinate center line passes through the center of the
[0046]
At this time, the relationship shown in Expression (1) is established.
[0047]
Ax = d × tan (θx) (1)
Hereinafter, Ax is referred to as an X direction parameter. Similarly, Ay indicating the imaging position from the center of the Y sensor is referred to as a Y direction parameter.
[0048]
Next, the calculation principle of the three-dimensional coordinates will be described with reference to FIG.
[0049]
FIG. 4 is a diagram for explaining the calculation principle of the three-dimensional coordinates according to the first embodiment.
[0050]
As shown in FIG. 4, in the first embodiment, a relative three-dimensional position with respect to the infrared
[0051]
Hereinafter, a calculation procedure of the three-dimensional position vector R (X, Y, Z) 26 will be described.
[0052]
First, the calculation procedure of θx and Z will be described with reference to FIG.
[0053]
FIG. 5 is a diagram for explaining the calculation procedure of θx and Z in the first embodiment.
[0054]
In the first embodiment, the
[0055]
Ax1 / d = tan (θx1) (2)
Ax2 / d = tan (θx2) (3)
Moreover, Formula (4) is materialized.
tan (θx) = {tan (θx1) + tan (θx2)} / 2 (4)
Therefore, the X direction parameter Ax is set to
Ax≡ {Ax1 + Ax2} / 2 (5)
Then, the following equation (6) is established.
[0056]
tan (θx) = Ax / d (6)
That is, if Ax1 and Ax2 can be measured, θx can be calculated.
[0057]
Next, Z is calculated. As shown in FIG. 5, since the
[0058]
{X + (L / 2)} / Z = tan (θx1) = Ax1 / d (7)
{X- (L / 2)} / Z = tan (θx2) = Ax2 / d (8)
Therefore, from equations (7) and (8)
Z = (d × L) / {Ax1-Ax2} (9)
That is, if Ax1 and Ax2 can be measured, Z can be calculated.
[0059]
Next, the procedure for calculating θy will be described with reference to FIG.
[0060]
FIG. 6 is a diagram for explaining a calculation procedure of θy according to the first embodiment.
[0061]
The following equations hold in the same way as equations (2) and (3)
tan (θy) = Ay / d (10)
That is, if Ay can be measured, θy can be calculated.
[0062]
As described above, (θx, Z, θy) can be calculated by the equations (6), (9), and (10).
[0063]
5 and 6, X, Y, and Z have the following relationship.
[0064]
X = Z × tan (θx) (11)
Y = Z × tan (θy) (12)
That is, (X, Y) can be calculated from the equations (11) and (12).
[0065]
The three-dimensional position vector R (X, Y, Z) can be calculated by the calculation procedure described above.
[0066]
Next, the functional configuration of the three-dimensional coordinate input apparatus according to the first embodiment will be described with reference to FIG.
[0067]
FIG. 7 is a block diagram illustrating a functional configuration of the three-dimensional coordinate input apparatus according to the first embodiment.
[0068]
In the first embodiment, an
[0069]
First, the configuration of the
[0070]
FIG. 8 is a diagram illustrating a detailed configuration of the pointing tool according to the first embodiment.
[0071]
As shown in FIG. 8, the
[0072]
In FIG. 7, a
[0073]
The
[0074]
On the other hand, the
[0075]
The control
[0076]
This timing sequence is repeated once every time a three-dimensional position coordinate of one point is captured, and the
[0077]
Further, in order to execute this timing sequence, an
[0078]
The
[0079]
Next, the drive waveform of the
[0080]
Next, a detailed configuration of the waveform processing unit 30 will be described with reference to FIG.
[0081]
FIG. 10 is a block diagram illustrating a detailed configuration of the waveform processing unit according to the first embodiment.
[0082]
In the
[0083]
In this way, the signal “LED_IR” transmitted from the
[0084]
In the present invention, the
[0085]
In the present invention, the lighting period of the blinking signal of the indicator is modulated in whole or in part by a carrier frequency sufficiently larger than the blinking frequency. In this way, in the sense of light reception by the
[0086]
Therefore, only the portion subjected to the modulation has meaning as time axis information. In the present invention, when the
[0087]
In this way, when viewed from the ring CCD, as described above, the light emission patterns in either case appear as flashing signals with the same period (T) and from the
[0088]
Next, the detailed configuration of the
[0089]
FIG. 12 is a diagram illustrating a detailed configuration of the binarization circuit according to the first embodiment.
[0090]
The
[0091]
14 to 17 show the relationship between the positive side input, the negative side input, and the binary signal in the
[0092]
In general, in this type of binarization circuit, in the simplest case, a fixed input voltage designated in advance is inputted to the negative side input of the
[0093]
In the present invention, the user directs the
[0094]
Here, the present invention has a problem when a signal having such a rapid fluctuation is input in a coordinate input device using a threshold signal that changes with a sufficiently long time constant. FIG. 15 shows the relationship between V_envelop and V_threshold in such a case.
[0095]
The fourth pulse in FIG. 15 suddenly decreases in amplitude to about 1/3 of the third pulse. In such a case, as shown in the figure, the tracking of the threshold signal is not in time, and as a result, the binarization circuit misses the fourth pulse.
[0096]
In the present invention, in order to eliminate such an adverse effect, the time constant for changing the threshold signal is set as follows.
[0097]
τ_thsh >> τ_dtct, τ_thsh << T_blink
It is said.
[0098]
Here, τ_thsh is a time constant of “threshold signal” change, τ_dtct is a time constant of the smoothing circuit after detection, and T_blink is a blinking period.
[0099]
The threshold value of the
[0100]
V_thshpld = V_delay + V_bottom + V_hys
Here, V_delay, V_bottom, and V_hys will be described.
[0101]
First, V_hys is generally used in the
[0102]
V_delay is a signal that follows V_envelope. Vdelay is a signal obtained by passing V_envelope through a low-pass filter (LPF) 82 and a first-order
[0103]
In the present invention, as shown in FIG. 17, Vdelay needs to be delayed by about 1/5 to 1/8 of T_blink without significantly damaging the waveform with respect to Venlope. However, this delay is achieved only with the phase of the low-pass filter.TryThen, the waveform becomes extremely distorted. Therefore, a
[0104]
As shown in FIG. 18, V_bottom is a DC offset of the threshold signal and is generated from the constant
[0105]
Accordingly, in this section, the magnitude relationship between the two is not clear, but rather is dominated by noise, and the binarization result is poor as it is. Therefore, the entire threshold signal is raised by V_bottom, so to speak. As a result, even in the region of V_delay≈0, the point A can be clearly detected without being affected by noise. Actually, the value of V_bottom needs to be sufficiently larger than the noise level in the region of V_envelope≈0 and sufficiently smaller than the value of V_envelop at the minimum detection level and the corresponding value of V_delay. FIG. 25 shows how binarization is performed under such conditions.
[0106]
Next, the configuration of the ring CCD will be described with reference to FIG.
[0107]
FIG. 19 is a diagram illustrating a configuration of the ring CCD according to the first embodiment.
[0108]
The ring CCD constituting the
[0109]
As shown in Japanese Patent Application Laid-Open No. 8-233571, the ring CCD is composed of a photoelectric conversion unit 40 composed of n pixels arranged in a line and a group of m transfer units (transfer cells) arranged in a ring. The circuit includes a circulating
[0110]
The charge photoelectrically converted by the photoelectric conversion unit 40 is accumulated / or discharged in the accumulation unit /
[0111]
First, the electronic shutter function is turned on for a certain time when the light emitting side is emitting light, and then the electronic shutter function is turned on again for a certain time when no light is emitted. Moreover, the electric charge photoelectrically converted at each timing is separately stored in two holding units associated with each photoelectric conversion unit. Each hold unit is associated one-to-one with a transfer unit for transferring the stored charges.
[0112]
For example, the charge photoelectrically converted by the i-th photoelectric conversion unit 40 will be described. The charge accumulated when the light emitting side emits light is transferred to the hold unit 44a. Further, the electric charge accumulated when the light emitting side is not emitting light is transferred to the holding
[0113]
Next, with reference to FIG. 20, the detailed configuration of the 2i-1th (transfer
[0114]
FIG. 20 is a diagram showing a partial detailed configuration of the ring CCD according to the first embodiment. FIG. 22 is a timing chart of each switch shown in FIG.
[0115]
The timing chart of each switch shown in FIG. 22 is performed using the signal “IRCLK” as a basic period. The period of the signal “IRCLK” is, for example, 7.6 KHz, and is substantially equal to the signal “LED_IRCLK” illustrated in FIG. The signal “IRCLK” is obtained by dividing the signal “CCD_CLK” (for example, 9.12 KHz) by 8 and further dividing it by 150 (= m). Actually, in the present invention, this portion has a role of an electronic shutter function, and the electronic shutter function is turned ON twice in one cycle of the signal “IRCLK”.
[0116]
A gray portion in FIG. 22 corresponds to a set of electronic shutter operations (for two electronic shutters ON). In the electronic shutter operation, first, the charge in the storage /
[0117]
The charges held in the hold unit 44a and the
[0118]
In the present invention, by synchronizing the signal “IRCLK” and the signal “LED_IRCLK”, a time relationship is established in which the
[0119]
Next, the operation of the cyclic
[0120]
The circulation type
[0121]
In the present embodiment, the circulating
[0122]
Further, the circulating
[0123]
In the present invention, with this function, it is possible to read a voltage signal corresponding to the charge of the difference between the accumulated charges when the
[0124]
The signals read from the
[0125]
Next, control of the ring CCD will be described.
[0126]
In the present invention, the ring CCD is repeatedly controlled every time the coordinate data of one point is taken in by the timing sequence created by the control
[0127]
22 and 23, signals indicated with [] are signals generated inside the ring CCD. Other signals are signals supplied to the ring CCD from outside.
[0128]
When the signal “CCD_RESET” is supplied, the ring CCD uses this as a trigger to divide the signal “CCD_CLK” by 8 to generate the signal “CCD_SP”, and further divide by 150 (divide by 1200 in total). The signal “IRCLK” is generated. The signal “CCD_SP” is a transfer clock of the circulating
[0129]
As described above, the signal “IRCLK” is a reference for the operation of transferring the electronic shutter ON twice and the charge from the
[0130]
Next, the timing chart of FIG. 23 will be described.
[0131]
First, the signal “LOOP_CLR” is supplied from the outside in synchronization with the signal “IRCLK”. With this signal “LOOP_CLR”, the charge remaining in the circulating
[0132]
Here, as described above, the signal “CCD_READ” is Lo until the read waveform V_OUT (X) becomes a constant value. Therefore, when the signal level is high (when the level of the irradiated light is high), the time during which the signal “CCD_READ” is Lo is short. On the contrary, when the signal level is small (when the level of irradiated light is small), the time during which the signal “CCD_READ” is b is long. In this way, the read waveform actually captured is a waveform of a constant level regardless of the signal level.
[0133]
Next, a process of synchronizing the blinking of the
[0134]
In the present invention, the period of light emission (signal “LED_DRIVE”) of the
[0135]
Here, as shown in FIG. 23, the timing sequence of the ring CCD is created so as to start with the signal “CCD_RESET”. In particular, the rise of the signal “IRCLK” generated by the ring CCD It is configured in advance so as to be immediately after the fall of “CCD_RESET”. Therefore, the timing (phase) of the signal “IRCLK” can be controlled by controlling the timing of the signal “CCD_RESET”. Specifically, when the signal detected by the
[0136]
Here, the blinking process of the
[0137]
FIG. 24 is a flowchart showing a synchronization process between blinking of the pointing tool and electronic shutter operation of the ring CCD according to the first embodiment.
[0138]
The synchronization processing in the present invention adjusts the time immediately before the start of the timing sequence shown in FIG. 23 to match the phases of the signal “IRCLK” and the signal “LED_IR” at that time, and thereafter, the period for one point (that is, The signal “IRCLK” and the signal “LED_IR” are free-runned for one timing sequence). Further, when the timing sequence ends, the process again waits for detection of the fall of the signal “CCD_RSET” (step S101). If the next first fall is detected (YES in step S101), the time is adjusted again (waiting for a predetermined time T1) to adjust the phase (step S102), and the next timing sequence is restarted. (Step S103).
[0139]
Here, the problem is the free run period and the frequency deviation between the signal “IRCLK” and the signal “LED_CLK”. This will be described below. In the present invention, the maximum period for capturing coordinates for one point is 40 ms. This means that the period of the signal “CCD_RESET” in FIG. 23 is 40 ms at the maximum, that is, the maximum free run period is approximately 40 ms.
[0140]
In the present invention, it is assumed that both the “LED_CLK”
[0141]
Therefore, by the above-described synchronization processing, the synchronization relationship between the signal “IRCLK” and the signal “LED_IR” is substantially maintained during the free-run period. Thereby, blinking of the
[0142]
As described above, according to the first embodiment, when the output signal of the
[Embodiment 2]
The second embodiment is a modification of the
[0143]
By using this
[0144]
Note that the present invention can be applied to a system (for example, a copier, a facsimile machine, etc.) consisting of a single device even if it is applied to a system composed of a plurality of devices (for example, a host computer, interface device, reader, printer, etc.). You may apply.
[0145]
Another object of the present invention is to supply a storage medium storing software program codes for implementing the functions of the above-described embodiments to a system or apparatus, and the computer (or CPU or MPU) of the system or apparatus stores the storage medium. Needless to say, this can also be achieved by reading and executing the program code stored in the.
[0146]
In this case, the program code itself read from the storage medium realizes the functions of the above-described embodiments, and the storage medium storing the program code constitutes the present invention.
[0147]
As a storage medium for supplying the program code, for example, a floppy disk, a hard disk, an optical disk, a magneto-optical disk, a CD-ROM, a CD-R, a magnetic tape, a nonvolatile memory card, a ROM, or the like can be used.
[0148]
Further, by executing the program code read by the computer, not only the functions of the above-described embodiments are realized, but also an OS (operating system) operating on the computer based on the instruction of the program code. It goes without saying that a case where the function of the above-described embodiment is realized by performing part or all of the actual processing and the processing is included.
[0149]
Further, after the program code read from the storage medium is written into a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer, the function expansion is performed based on the instruction of the program code. It goes without saying that the CPU or the like provided in the board or the function expansion unit performs part or all of the actual processing, and the functions of the above-described embodiments are realized by the processing.
[0150]
As described above, according to the present invention, it is possible to provide a coordinate input device capable of inputting three-dimensional coordinates efficiently and easily.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating an appearance of a three-dimensional coordinate input apparatus according to a first embodiment.
FIG. 2 is a diagram illustrating a configuration of a light receiving unit according to the first embodiment.
FIG. 3 is a diagram illustrating a positional relationship between an indicator and a light receiving unit according to the first embodiment.
FIG. 4 is a diagram for explaining a calculation principle of a three-dimensional coordinate according to the first embodiment.
FIG. 5 is a diagram for explaining a calculation procedure of θx and Z according to the first embodiment.
FIG. 6 is a diagram for explaining a calculation procedure of θy according to the first embodiment.
FIG. 7 is a block diagram illustrating a functional configuration of the three-dimensional coordinate input apparatus according to the first embodiment.
FIG. 8 is a diagram illustrating a detailed configuration of the pointing tool according to the first embodiment.
FIG. 9 is a timing chart of signals transmitted and received between the pointing device and the main body according to the first embodiment.
FIG. 10 is a block diagram illustrating a detailed configuration of a waveform processing unit according to the first embodiment.
FIG. 11 is a timing chart of signals transmitted and received between the pointing tool and the main body according to the first embodiment.
FIG. 12 is a diagram illustrating a detailed configuration of the binarization circuit according to the first embodiment.
FIG. 13 is a diagram illustrating a detailed configuration of a low-pass filter and a phase delay circuit according to the first embodiment.
FIG. 14 is a diagram showing the relationship between the threshold signal and the output signal of the T sensor according to the first embodiment.
FIG. 15 is a diagram illustrating a relationship between a threshold signal and an output signal of a T sensor according to the first embodiment.
FIG. 16 shows the relationship between the threshold signal and the output signal of the T sensor according to the first embodiment.
FIG. 17 is a diagram showing the relationship between the threshold signal and the output signal of the T sensor according to the first embodiment.
FIG. 18 shows a relationship between a threshold signal and an output signal of the T sensor according to the first embodiment.
FIG. 19 is a diagram illustrating a configuration of a ring CCD according to the first embodiment.
FIG. 20 is a diagram illustrating a partial detailed configuration of the ring CCD according to the first embodiment.
FIG. 21 is a diagram illustrating output levels of transfer units of the ring CCD according to the first embodiment.
22 is a timing chart of each switch shown in FIG. 20 of the first embodiment.
FIG. 23 is a timing chart of a signal group generated by the control signal generation circuit according to the first embodiment.
FIG. 24 is a flowchart showing a synchronization process between blinking of the pointing tool and electronic shutter operation of the ring CCD according to the first embodiment.
FIG. 25 is a diagram illustrating a detailed configuration of a low-pass filter and a phase delay circuit according to the second embodiment.
[Explanation of symbols]
1 indicator
2 Switch group
3 Flashing signal creation circuit
4 Modulation circuit
5 Drive circuit
6 Light emitting elements
8 Light receiving unit
9 X1 sensor
10 X2 sensor
11 Y sensor
12 T sensor
13 Body
14 Waveform processor
15 Control signal generation circuit
16 AD converter
17a LED_CLK generation circuit
17b CCD_CLK generation circuit
18 CPU
19 Memory
20 Host computer
21 Serial port
22 Display device
Claims (1)
発光素子を有し、3次元的位置を指示する指示手段と、
前記発光素子から照射される光を受光し、該発光素子の存在する3次元的位置を計測する複数のラインセンサと、
前記発光素子から照射される光を受光する受光素子と、
前記受光素子からの出力信号を2値化する2値化手段と、
前記2値化手段から出力される2値化信号と前記複数のラインセンサで計測される計測値に基づいて、前記指示手段が位置する3次元座標を算出する算出手段と
を備え、
前記2値化手段は、前記出力信号を2値化するためのしきい値信号を生成する生成手段を備え、
前記生成手段で生成されるしきい値信号のしきい値レベルは、第1信号、第2信号、第3信号の和から生成され、
前記第1信号は、前記受光素子からの出力信号をローパスフィルタ、遅延回路、減衰回路を通過させることにより生成され、
前記ローパスフィルタ、前記遅延回路、前記減衰回路の三つ含めての時定数は、前記指示手段の発光素子の点滅周期よりも大きく、
前記第2信号は、直流電圧に基づいて生成される一定信号であり、
前記第3信号は、前記2値化手段から出力される2値化信号をNOT回路、減衰回路を通過させることにより生成される
ことを特徴とする座標入力装置。A coordinate input device for inputting three-dimensional coordinates,
An indicating means having a light emitting element and indicating a three-dimensional position;
A plurality of line sensors that receive light emitted from the light emitting element and measure a three-dimensional position of the light emitting element;
A light receiving element that receives light emitted from the light emitting element;
Binarization means for binarizing an output signal from the light receiving element;
Calculation means for calculating three-dimensional coordinates where the instruction means is located based on a binarization signal output from the binarization means and measurement values measured by the plurality of line sensors ;
The binarization means includes generation means for generating a threshold signal for binarizing the output signal,
The threshold level of the threshold signal generated by the generating means is generated from the sum of the first signal, the second signal, and the third signal,
The first signal is generated by passing an output signal from the light receiving element through a low-pass filter, a delay circuit, and an attenuation circuit,
The time constants including the low-pass filter, the delay circuit, and the attenuation circuit are larger than the blinking cycle of the light emitting element of the indicating means,
The second signal is a constant signal generated based on a DC voltage,
The coordinate input device , wherein the third signal is generated by passing a binarized signal output from the binarizing means through a NOT circuit and an attenuation circuit .
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP23541499A JP4261696B2 (en) | 1999-08-23 | 1999-08-23 | Coordinate input device |
US09/406,868 US6967644B1 (en) | 1998-10-01 | 1999-09-28 | Coordinate input apparatus and control method thereof, and computer readable memory |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP23541499A JP4261696B2 (en) | 1999-08-23 | 1999-08-23 | Coordinate input device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001060141A JP2001060141A (en) | 2001-03-06 |
JP4261696B2 true JP4261696B2 (en) | 2009-04-30 |
Family
ID=16985753
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP23541499A Expired - Fee Related JP4261696B2 (en) | 1998-10-01 | 1999-08-23 | Coordinate input device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4261696B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20030075399A (en) * | 2002-03-18 | 2003-09-26 | 주식회사 소프트로닉스 | Motion Mouse System |
-
1999
- 1999-08-23 JP JP23541499A patent/JP4261696B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001060141A (en) | 2001-03-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6740860B2 (en) | Photodetector, photosensing position detector, coordinate input device, coordinate input/output apparatus, and photodetection method | |
US6967644B1 (en) | Coordinate input apparatus and control method thereof, and computer readable memory | |
US10313599B2 (en) | Motion sensor device having plurality of light sources | |
JP2001350577A (en) | Device, method, and indicator for coordinate input, storage medium, and computer program | |
US9435646B2 (en) | Displacement detection device and operating method thereof | |
CN103838371A (en) | Dynamic conservation of imaging power | |
CN112055820B (en) | Time-of-flight ranging with different transmit fields | |
JP2004220612A (en) | Control device of screen pointer that distinguishes between ambient light and light from its light source | |
JPH02276907A (en) | Arc sensor using ccd solid-state image pickup element | |
JP2013096941A (en) | Imaging device, imaging method, and program | |
US20160041632A1 (en) | Contact detection system, information processing method, and information processing apparatus | |
JPH10222285A (en) | Image extracting device | |
JP2011138503A (en) | Object detection device | |
US9761199B2 (en) | Optical navigation system and detection method thereof adapted for ambient light and liftoff detection | |
US20120086953A1 (en) | Methods and Systems for Realizing Reduced Complexity in Three-Dimensional Digitizer Systems | |
JP4261696B2 (en) | Coordinate input device | |
EP2976693B1 (en) | Projector and control method | |
JP2010152924A (en) | Light-pointing device and light-tracking receiver having function selection key and system using the same | |
US20140198025A1 (en) | System and method for discerning complex gestures using an array of optical sensors | |
KR20160021591A (en) | Image sensing apparatus and operating method thereof | |
WO2022181097A1 (en) | Distance measurement device, method for controlling same, and distance measurement system | |
JP3950625B2 (en) | Light receiving position detection device, coordinate input device, and coordinate input / output device | |
JP2020153715A (en) | Ranging device and ranging method | |
US20220272256A1 (en) | Information processing device, visual line detection system, visual line detection method, and visual line detection program | |
WO2021005939A1 (en) | Display system and display method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060731 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20060731 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080801 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080801 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080807 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080924 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090123 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090206 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120220 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130220 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140220 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |