JP4613456B2 - 画像表示装置、画像表示方法、および、プログラム - Google Patents
画像表示装置、画像表示方法、および、プログラム Download PDFInfo
- Publication number
- JP4613456B2 JP4613456B2 JP2001222377A JP2001222377A JP4613456B2 JP 4613456 B2 JP4613456 B2 JP 4613456B2 JP 2001222377 A JP2001222377 A JP 2001222377A JP 2001222377 A JP2001222377 A JP 2001222377A JP 4613456 B2 JP4613456 B2 JP 4613456B2
- Authority
- JP
- Japan
- Prior art keywords
- spot
- processing
- unit
- value
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
【発明の属する技術分野】
この発明は、操作者等の操作に従った画像を表示画面上に描画する画像表示装置、画像表示方法、および、プログラムに関する。
【0002】
【従来の技術】
スクリーンに映像を投影するとともに、このスクリーンに補助光が投影されたとき、レーザポインタ等が発する補助光の位置を検出して、映像のうち補助光が投射された位置にあたる部分を変更する技術として特許2622620号が知られている。
【0003】
【発明が解決しようとする課題】
しかし、特許2622620号の技術はスクリーンに投影された補助光(スポット)の位置を検出するため、スクリーンに投影された補助光を撮像する場合、撮像を行う撮像装置の受光面がスクリーン正面に正確に対向していないと、補助光の位置を正しく検出できなかった。
【0004】
従って、撮像装置を設置する位置が制約され、更には、レーザポインタ等の操作者の位置も制約される結果、操作性が悪くなっていた。また、撮像装置を設置する作業を正しく行うことも困難になり、特に撮像装置の光学系に収差等がある場合、正しい設置位置の決定は極めて困難であった。また、撮像装置とスクリーンの位置関係を、撮像装置が正確に設置された状態で固定してしまうと、撮像装置の位置が変更できないので、撮像装置を他の用途に用いることができなくなっていた。
【0005】
この発明は、上記実状に鑑みてなされたもので、撮像装置を任意の位置に置いても適正な表示画面を提供するとともに、撮像されたスポット(補助光)の位置を表示画面に正しく反映することができる、操作性が良好な画像表示装置、画像表示方法、および、プログラムを提供することを目的とする。
【0012】
【課題を解決するための手段】
上記目的を達成するため、この請求項1記載の発明は、
スポット及びこのスポットを含む領域を任意の位置から撮像する撮像手段と、この撮像手段によって撮像された領域の画像データを生成する生成手段と、この生成手段によって生成された画像データに基づく画像を表示する表示手段とを備えた画像表示装置において、
前記画像データを加工する加工手段と、前記領域における前記スポットの位置座標を計測する計測手段と、この計測手段によって計測された前記スポットの位置座標を、前記加工手段による加工の結果得られる加工後の画像データに反映される位置座標に変換する座標変換手段と、
を備え、
加工前の画像データが表す加工前の領域は四角形であり、前記加工手段による加工後の画像データが表す加工後の領域は長方形であり、前記加工手段は、加工前の領域をなす四角形の対向する2辺の交点の各々と当該四角形の対角線の交点とを結ぶ2本の直線により加工前の領域をなす四角形を4分割して得られる4つの四角形のうちいずれに前記スポットが含まれるかを判別し、加工後の領域をなす長方形の内部にある点を、スポットが含まれると判別された四角形の頂点のうち加工前の領域をなす四角形の頂点を兼ねている頂点に相当するものの方向へ、四角形の4分割を行った回数が多いほど小さくなるような所定量だけ移動する処理を行い、前記スポットが含まれると判別した四角形を加工前の領域をなす四角形とみなして、加工後の領域をなす長方形の内部にある点の位置が実質的に一定の位置に収束するまで更に前記処理を繰り返して行ったとした場合に、収束した点の位置が加工後の画像データが表すスポットの位置になるように、前記画像データを加工する、ことを特徴とする。
また、請求項2記載の発明は、上記請求項1記載の発明において、
前記計測手段は、複数の加工前の画像データに基づき、2つの時刻におけるスポットの位置及び速度を特定する手段を備え、
前記加工手段は、前記計測手段が特定した、前記2つの時刻におけるスポットの位置及び速度に基づき、当該2つの時刻間における当該スポットの推定位置を決定し、決定した推定位置にスポットが位置する画像を表すように、加工前の画像データを加工する、ことを特徴とする。
また、請求項3記載の発明は、上記請求項1記載の発明において、
前記計測手段は、複数の加工前の画像データに基づき、スポットの速度を特定する手段を備え、
前記加工手段は、前記計測手段が特定した速度、及び、加工後の画像データが表す画像内でスポットが占めた最新の位置に基づき、加工後の画像データが示す画像内でスポットが次に占めるべき位置を決定し、決定した位置にスポットが来るように画像データを加工する、ことを特徴とする。
【0030】
また、上記目的を達成するため、この請求項4記載の発明は、
スポットと、このスポットを含む領域を任意の位置から撮像する撮像ステップと、この撮像ステップにて撮像された領域の画像データを生成する生成ステップと、この生成ステップにて生成された画像データに基づく画像を表示画面に表示させる表示ステップとからなる画像表示方法であって、
前記画像データを加工する加工ステップと、前記領域における前記スポットの位置座標を計測する計測ステップと、この計測ステップにて計測された前記スポットの位置座標を、前記加工ステップでの加工の結果得られる加工後の画像データに反映される位置座標に変換する座標変換ステップと、
を含み、
加工前の画像データが表す加工前の領域は四角形であり、前記加工ステップでの加工後の画像データが表す加工後の領域は長方形であり、前記加工ステップでは、加工前の領域をなす四角形の対向する2辺の交点の各々と当該四角形の対角線の交点とを結ぶ2本の直線により加工前の領域をなす四角形を4分割して得られる4つの四角形のうちいずれに前記スポットが含まれるかを判別し、加工後の領域をなす長方形の内部にある点を、スポットが含まれると判別された四角形の頂点のうち加工前の領域をなす四角形の頂点を兼ねている頂点に相当するものの方向へ、四角形の4分割を行った回数が多いほど小さくなるような所定量だけ移動する処理を行い、前記スポットが含まれると判別した四角形を加工前の領域をなす四角形とみなして、加工後の領域をなす長方形の内部にある点の位置が実質的に一定の位置に収束するまで更に前記処理を繰り返して行ったとした場合に、収束した点の位置が加工後の画像データが表すスポットの位置になるように、前記画像データを加工する、ことを特徴とする。
【0044】
また、上記目的を達成するため、この請求項5記載の発明は、
表示装置と撮像装置とに接続されるコンピュータを、
前記撮像装置に対し、スポットと、このスポットを含む領域を任意の位置から撮像させる撮像制御手段と、この撮像制御手段によって撮像された領域の画像データを生成する生成手段と、この生成手段によって生成された画像データに基づく画像を前記表示装置の表示画面に表示させる表示制御手段として機能させ、更に、
前記画像データを加工する加工手段と、前記領域における前記スポットの位置座標を計測する計測手段と、この計測手段によって計測された前記スポットの位置座標を、前記加工手段による加工の結果得られる加工後の画像データに反映される位置座標に変換する座標変換手段として機能させる、ためのプログラムであって、
加工前の画像データが表す加工前の領域は四角形であり、前記加工手段による加工後の画像データが表す加工後の領域は長方形であり、前記加工手段は、加工前の領域をなす四角形の対向する2辺の交点の各々と当該四角形の対角線の交点とを結ぶ2本の直線により加工前の領域をなす四角形を4分割して得られる4つの四角形のうちいずれに前記スポットが含まれるかを判別し、加工後の領域をなす長方形の内部にある点を、スポットが含まれると判別された四角形の頂点のうち加工前の領域をなす四角形の頂点を兼ねている頂点に相当するものの方向へ、四角形の4分割を行った回数が多いほど小さくなるような所定量だけ移動する処理を行い、前記スポットが含まれると判別した四角形を加工前の領域をなす四角形とみなして、加工後の領域をなす長方形の内部にある点の位置が実質的に一定の位置に収束するまで更に前記処理を繰り返して行ったとした場合に、収束した点の位置が加工後の画像データが表すスポットの位置になるように、前記画像データを加工する、ことを特徴とする。
【0046】
【発明の実施の形態】
以下、この発明の実施の形態に係る画像表示装置及び画像表示方法を、描画システムを例とし、図面を参照して説明する。
【0047】
(第1の実施の形態)
図1は、この発明の第1の実施の形態にかかる描画システムの構成を示す図である。
図示するように、この描画システムは、データ処理装置1と、画像入力部2と、表示部3と、発光部4とより構成されている。データ処理装置1は、画像入力部2及び表示部3に接続されている。
【0048】
データ処理装置1は、図2に示すように、中央制御部11と、画像解析部12と、RAM(Random Access Memory)13と、外部記憶部14と、ユーザ操作入力部15とより構成されている。
中央制御部11は、バスBを介し、画像解析部12、RAM13及び外部記憶部14に接続されており、ユーザ操作入力部15は中央制御部11に接続されている。また、画像入力部2及び表示部3は、バスBに接続されている。
【0049】
中央制御部11は、CPU(Central Processing Unit)等より構成されている。中央制御部11は、ユーザがユーザ操作入力部15を操作して入力した指示に応答して、外部記憶部14が記憶しているプログラムを読み込み、このプログラムに従って、後述する処理を実行する。
RAM13は、中央制御部11及び画像解析部12の作業用メモリとして機能する。
【0050】
画像解析部12は、CPUやDSP(Digital Signal Processor)等より構成されており、スポット光抽出部12aと、座標変換部12bとより構成されていて、後述する画像解析処理を実行する。なお、同一のCPU等が中央制御部11及び画像解析部12の機能を行っていてもよい。
【0051】
スポット光抽出部12aは、画像入力部2が撮像した画像(つまり、画像入力部2が作成して中央制御部11がRAM13に格納した画像データが示す画像)のうち、発光部4が照射したスポット光に相当する部分を特定する処理(スポット光抽出処理)を、図5のフローチャートに基づいた手順で行う。
【0052】
座標変換部12bは、スポット光抽出部12aが特定した部分が、表示部3の後述する表示画面上のどの位置にあるかを、画像入力部2が作成した画像データに基づいて特定する処理(座標変換処理)を図6のフローチャートに基づいた手順で行う。
【0053】
外部記憶部14は、ハードディスク装置等より構成されており、中央制御部11が実行するプログラムを予め記憶する。
ユーザ操作入力部15は、キーボードやマウス等より構成されており、ユーザ等の操作に従った情報(例えば、外部記憶部14が記憶しているプログラムの実行の指示)を入力し、中央制御部11に供給する。
【0054】
画像入力部2は、ビデオカメラ等より構成されており、表示部3が備える表示画面を撮像し、撮像した画像を表す上述の画像データを作成して、この画像データを中央制御部11に供給する
表示部3は、フラットスクリーンのCRT(Cathode Ray Tube)及び制御回路等より構成されており、中央制御部11が供給する指示に従い、自己に供給された画像データが表す画像を、自己の表示画面上に表示する。
【0055】
発光部4はライトペン等より構成されており、ユーザの操作に従った明るさの単色のスポット光を発する。具体的には、例えば発光部4は、自己の発光部分に加えられた圧力の大きさを表す信号を生成する圧力センサを備え、この発光部分が表示部3の表示画面上に押しつけられる強さにより決まる明るさで発光するものとする。そして、この発光部分が発するスポット光の明るさは、この発光部分が表示部3の表示画面上に押しつけられる強さに従って単調増加するものとする。尚、本実施の形態では発光部4は赤色発光するものとする。
【0056】
(第1の実施の形態:動作)
次に、この描画システムの動作を、図3〜図6を参照して説明する。
図3は、描画処理を示すフローチャートである。
図4は、画像解析処理を示すフローチャートである。
図5は、スポット光抽出処理を示すフローチャートである。
図6は、座標変換処理を示すフローチャートである。
【0057】
この描画システムが描画処理を開始すると、まず、画像入力部2が、表示部3の表示画面を撮像して、撮像した画像を表す画像データを作成し、この画像データを、データ処理装置1の中央制御部11に供給する(図3、ステップS1)。この処理により表示部3の表示画面の画像が入力される。
【0058】
画像入力部2が作成する画像データは、表示部3の表示画面をマトリクス状に配列された画素の集合としてみた場合における各画素の位置及び画素値を表す画素データより構成されている。なお、画素値は、画素の色を、赤、緑及び青の各原色成分の輝度の組み合わせとして表す変数である。また、画素の位置は、画像入力部2が撮像した画像をx軸及びy軸を含む直交座標平面上においた場合における、この画素の位置のx軸方向成分及びy軸方向成分の値の組として表されているものとする。
【0059】
ステップS1で画像が入力された時点で、ユーザが発光部4を操作し、表示部3の表示画面上にスポット光を照射していれば、ステップS1で画像入力部2が作成する画像データは、このスポット光が表示部3の表示画面上に作る輝点(スポット)の画像も表すものとなる。
【0060】
なお以下では、理解を容易にするため、表示部3の表示画面上に表示される画像が占め得る領域は、図7(b)に示すように、点A’〜点D’を頂点とし、辺A’B’、辺B’C’、辺C’D’及び辺D’A’を有する長方形A’B’C’D’からなるものとする。
そして、画像入力部2は、必ずしも表示部3の表示画面を正面から撮像するものではない。このため、画像入力部2がステップS1で作成する画像データが表す画像のうち上述の領域に相当する領域は、必ずしも長方形A’B’C’D’に相似な形状とはならない。
【0061】
以下では、理解を容易にするため、画像入力部2がステップS1で作成する画像データが表す画像のうち長方形A’B’C’D’が占める領域に相当する領域は、図7(a)に示すように、点A、点B、点C及び点Dを頂点とし、辺AB、辺BC、辺CD及び辺DAを有する四角形ABCDからなるものとする。なお、作成された入力画像データに基づく画像において、点Aの位置座標(xa,ya)、点Bの位置座標(xb,yb)、点Cの位置座標(xc,yc)、及び点Dの位置座標(xd,yd)は、画像解析処理以前の初期設定時においてユーザーが所定の操作、例えば、発光部4を用いて表示部3の表示画面上の4点をポイントし、その4点の位置座標を示すデータをインプットする、等の操作を行うことにより設定されるものとする。そして、四角形ABCDの辺AB、辺BC、辺CD及び辺DAは、順に、長方形A’B’C’D’の辺A’B’、辺B’C’、辺C’D’及び辺D’A’に相当するようになっているものとする。
【0062】
(画像解析処理:スポット光抽出処理)
中央制御部11は、画像入力部2より画像データを供給されるとこの画像データをRAM13に格納し、画像解析部12に、画像解析処理の開始を指示する。画像解析部2は、この指示に従って、画像解析処理を開始する(ステップS2)。
【0063】
画像解析部12は、ステップS2で、具体的にはまず、スポット光抽出処理を実行する(図4、ステップS21)。
スポット光抽出処理を開始すると、画像解析部12のスポット光抽出部12aは、入力された画像データにおける各画素値の赤成分(R)、緑成分(G)、青成分(B)のうち赤成分(R)の輝度が最大である輝点(スポット)の赤成分の輝度を表す変数Rmaxと、このスポットの位置座標を示す変数(x,y)の使用を宣言し(つまり、RAM13の記憶領域内に、変数Rmax、変数x及び変数yの値を格納するための記憶領域を確保し)、変数Rmax及び変数(x,y)を初期化する(図5、ステップS211)。
【0064】
次に、スポット光抽出部12aは、RAM13に格納された画像データを構成する画素データのうちの1個を特定し、特定した画素データの画素値が示す赤色成分の輝度の値を取得する(ステップS212)。ただし、ステップS212では、既にステップS212の処理で特定された画素データは、特定の対象から除外するものとする。
【0065】
次に、スポット光抽出部12aは、ステップS212で最も新しく取得した赤色成分の輝度の値が、Rmaxより大きいか否かを判別する(ステップS213)。そして、赤色成分の輝度の値がRmax以下であると判別すると、処理をステップS215へと移す。
【0066】
一方、赤色成分の輝度の値がRmaxより大きいと判別したとき、スポット光抽出部12aは、ステップS212で新しく取得した赤色成分の輝度の値にRmaxを更新する(ステップS214)。また、ステップS214でスポット光抽出部12aは、(x,y)を、ステップS212で最も新しく特定した画素データが示す位置のx軸方向成分の値及びy軸方向成分の値へと更新する。ステップS214の処理が終わると、スポット光抽出部12aは処理をステップS215へと移す。
【0067】
ステップS215で、スポット光抽出部12aは、ステップS212の処理で特定されていない画素データがまだ残っているか否かを判別する。そして、残っていると判別すると、スポット光抽出部12aは処理をステップS212に戻す。一方、残っていないと判別すると、画像解析部12はスポット光抽出処理を終了し、処理を画像解析処理のステップS22へと移す。
【0068】
スポット光抽出処理が終了した時点での(x,y)は、ステップS1で画像入力部2が撮像した画像におけるスポットの位置のx軸方向成分及びy軸方向成分の値を表す。また、スポット光抽出処理が終了した時点でのRmaxは、このスポットの位置の赤成分の輝度を表す。
なお、以下では、スポット光抽出処理が終了した時点での(x,y)の値を、(xspot,yspot)とする。
【0069】
画像解析部12は、スポット光抽出処理を終えると、座標変換処理を開始する(ステップS22)。座標変換処理が始まると、画像解析部12の座標変換部12bは、まず、図6に示すように、ステップS221の処理を実行する。
【0070】
ステップS221で、座標変換部12bは、初期設定により定められた点A、B、C、Dの座標と、スポット光抽出処理によって分かったスポット(図7(a)に示す点P)の座標とに基づいて、以下説明する内分比s及びt(ただし、s及びtはいずれも0以上1以下の値)を求める。
【0071】
以下、s及びtを求める手順を詳細に示す。まず、図7(a)に示すように、点A、点S及び点Pの位置には、数式1に示す関係がある。
【数1】
【0072】
任意に設定された基準点を図7(a)に示す点Oとすると、図7(a)に示すように、点A、点D、点O、点Q及び点Sの位置には、数式2に示す関係がある。
【数2】
【0073】
従って、図7(a)に示すように、点A、点B、点C、点D及び点Pの位置には、数式3に示す関係がある。
【数3】
【0074】
そして、座標変換部12bは、数式3に対し点A、B、C、D、Pの各X座標値、Y座標値を代入し、X、Yの連立方程式を解くことにより内分比s,tを導出する。
【0075】
次に、座標変換部12bは、上記ステップS222で導出された内分比s、tに基づいて、表示画面、すなわち図7(b)に示す平面における点P’の座標(xdisp,ydisp)を求め、求めた各座標値xdisp及びydispと、スポット光抽出処理を終了した時点でのRmaxとを、互いに対応付けてRAM13に格納し(ステップS222)、座標変換処理を終える。つまり、点P’は、長方形A’B’C’D’の辺A’D’、及び辺B’C’をt:(1−t)に内分し、更に辺A’D’、及び辺B’C’をt:(1−t)に内分する線S’Q’をs:(1−s)に内分する点である。
【0076】
具体的には、座標変換部12bは、例えば、数式4及び数式5の各右辺の値を計算することにより、xdisp及びydispを求める。尚、w及びhは、長方形(表示画面)A’B’C’D’の幅及び高さであり、xdisp0、ydisp0は表示画面における基準位置(原点O’)を表す。
【0077】
【数4】
xdisp=(w×s)+xdisp0
【数5】
ydisp=(h×t)+ydisp0
【0078】
画像解析部12は、座標変換処理を終えると、画像解析処理を終え、描画処理のステップS3へと処理を移す。
ステップS3で、中央制御部11は、ステップS222でRAM13に格納されたxdisp、ydisp及びRmaxをRAM13より読み出す。そして、中央制御部11は、表示部3の表示画面上、座標(xdisp,ydisp)に相当する位置に、Rmaxに相当する輝度を有するスポットを表示するよう、表示部3に指示する。表示部3は、この指示に従ったスポットを表示画面上に表示する。従って、座標(xdisp,ydisp)が、ステップS3で表示される輝点(スポット)の表示位置となる。
【0079】
ステップS3でスポットが表示される位置は、表示画面上、発光部4が発する光が当たった位置となる。
なお、ステップS3において、この描画システムは、従前から表示されていたスポットを表示画面上から消去してもよいし、消去しなくてもよい。また、消去するか否かを、ユーザ等がユーザ操作入力部15を操作して入力する指示に基づいて決定するようにしてもよい。
従前から表示されていたスポットを表示画面上から消去しない場合、表示画面上には、発光部4が発する光が表示画面上で当たった位置の軌跡が表示されるので、発光部4の操作者は、発光部4を用いて表示画面上に文字や図形を描画することができる。
【0080】
次に、中央制御部11は、ユーザ等がユーザ操作入力部15を操作して画像の表示の終了を指示したか否かを判別する(ステップS4)。そして、指示していないと判別すると、処理をステップS1に戻す。一方、画像の表示の終了を指示したと判別すると、描画処理を終了する。
【0081】
なお、この描画システムの構成は上述のものに限定されることなく、種々の変形及び応用が可能である。
例えば、表示部3は液晶ディスプレイ等から構成されていてもよく、また、ステップS3で表示部3の表示画面上に表示されるスポットは必ずしも輝点である必要はなく、任意の色、若しくは図形であってもよい。また、発光部4による発光強度は必ずしも可変である必要はなく、また、発光部4が発する光は単色光である必要はない。
【0082】
また、スポット光抽出部12aは、互いに異なる色の複数のスポットを抽出し、座標変換部12bは、スポット光抽出部12aが抽出した各々のスポットについて、表示画面上での表示位置を決定するようにしてもよい。この場合、この描画システムは、ステップS3で、座標変換部12bが表示位置を決定した各スポットを互いに異なる色あるいは互いに異なる形状で表示するようにすればよい。
またこの場合、この描画システムは互いに異なる色の光を発する複数の発光部4を備えていてもよい。これらの発光部4は、互いに異なる操作者により操作され得る。
【0083】
また、図8に示すように、表示部3は、自ら表示画面を備える代わりに、壁面等の投影面に画像を投影するプロジェクタ等を備えていてもよい。この場合、画像入力部2は、表示部3が画像を投影している投影面の画像を撮像するものとし、この描画システムは、この投影面を表示部3の表示画面として扱い、上述の処理を実行するようにすればよい。
【0084】
また、この描画システムにおいては、画像入力部2が、単位格子をなす長方形が格子状に配列されたパターンの画像を撮像し、撮像した画像(歪みを有する格子パターン)を表す画像データを、表示部3が表示するようにしてもよい。
この場合、ユーザ等がユーザ操作入力部15のマウスを操作する等して、表示部3の表示画面上に表示された歪みを有する格子パターンの単位格子の頂点をなす4点の組を指定したとき、座標変換部12bが、この4点の表示画面上での位置を互いに対応付けて記憶するものとする。
【0085】
そして、座標変換部12bが視野領域の頂点の位置を記憶している場合、座標変換部12bは、座標変換処理として、上述のステップS221及びS222の処理に代えて、図9に示すステップS231〜S234の処理を行う。
【0086】
すなわち、まず、座標変換部12bは、スポット光抽出部12aが抽出したスポットの位置(すなわち、値xspot及びyspotの組が表すスポットの位置)が、いずれの視野領域に含まれるものかを、自らが記憶する視野領域の頂点の位置に基づいて判別する(図9、ステップS231)。
【0087】
次に、座標変換部12bは、スポット光抽出部12aが抽出したスポットの位置を含むと判別された視野領域を上述の四角形ABCDであるものとして扱い、また、表示部3の表示画面の一部を占める、各辺が所定の長さの長方形の領域(変換後の視野領域)を、上述の長方形A’B’C’D’であるものとして扱うものとして、上述のステップS221の処理と実質的に同一の処理を行う(ステップS232)。
【0088】
次に、座標変換部12bは、ステップS222の処理と実質的に同一の処理を行う(ステップS233)。ただし、求める対象の座標(線分PR及び線分QSの交点の座標)は、表示部3の表示画面上の特定の点を原点とした座標である必要はない。
【0089】
次に、座標変換部12bは、ステップS233で求めた座標と、スポット光抽出部12aが抽出したスポットの位置を含むとステップS231で判別された視野領域の頂点の位置とに基づいて、表示部3の表示画面上で当該スポットを表示する表示位置の座標(xdisp,ydisp)を決定する。そして、求めた値xdisp及びydispと、スポット光抽出処理を終了した時点での変数Rmaxの値とを、互いに対応付けてRAM13に格納し(ステップS234)、座標変換処理を終える。
【0090】
ただし、変換前の視野領域が複数ある場合、ステップS234で座標変換部12bは、図10に示すように、2個の変換前の視野領域により共有されている辺上にスポットが位置する場合、ステップS231でこれら変換前の視野領域のいずれが特定されても、表示画面上の同一の位置にスポットが表示されるよう、スポットの表示位置を決定するものとする。
【0091】
座標変換処理として上述のステップS231〜S234の処理を行うことにより、例えば画像入力部2が備える光学系が収差を有していても、スポットが表示部3の表示画面上の正しい位置(すなわち、表示画面上、発光部4が発する光が当たった位置)に表示される。
【0092】
また、表示部3が歪みを有する格子パターンを表示するものである場合、画像入力部2は、表示部3が表示する対象である歪みを有する格子パターンの画像データを作成するとき、歪みを有する格子パターンが完全に表示される程度に、撮像の感度を調整してもよい。
この場合、例えばユーザ等がユーザ操作入力部15を操作して歪みを有する格子パターンの表示を指示すると、データ処理装置1の中央制御部11がこの指示を画像入力部2に伝達し、画像入力部2は、伝達された指示に応答して、撮像の感度を、歪みを有する格子パターンが完全に表示されるような値に変化させるものとすればよい。
【0093】
(第1の実施の形態の変形例)
上記第1の実施の形態では、画像入力部2により撮像された画像と表示部3に表示された画像とが線型の座標変換で対応付け可能な場合について述べた。しかし実際は、画像入力部2が備えるカメラレンズのゆがみ、及び表示部3の歪み(CRT等、表示画面が多少湾曲しているような場合に生じる歪み)によって、入力画像に樽型歪み等の非線型歪みが生じるような場合がある。
このような場合、上記第1の実施の形態では、正確な座標変換処理が不可能であるため、描画処理以前にキャリブレーション(較正)処理を行うようにする。以下、キャリブレーション処理を行う、この描画システムの変形例を、図11〜図14を参照して詳述する。
尚、この変形例にかかるデータ処理装置1の回路構成は図2と同様であるので、説明を省略する。また、キャリブレーション処理を制御するプログラムは、外部記憶部14若しくは中央制御部11に記憶されているものとし、このプログラムの実行のため、作業用メモリとしてRAM13の所定のメモリエリアが使用されるものとする。
【0094】
(第1の実施の形態の変形例:動作)
キャリブレーション処理を含む、この変形例にかかる描画システムが行う処理全体のフローチャートを、図11に示す。すなわち、この描画システムは、図3に示す描画処理をステップA2で実行するものとし、その前段階としてキャリブレーション処理(ステップA1)を行う。
【0095】
図12は、キャリブレーション処理のフローチャートである。
キャリブレーション処理では、この描画システムは、まず、領域の設定を行う。入力画像のどの領域を座標変換するかを予め設定する。例えば対象となる領域の四隅の座標A、B、C、Dをユーザ操作入力部15が備えるマウス等を用いて設定したり、上記第1の実施の形態で詳述したように、発光部4を用いて表示部3の表示画面上の4点をポイントすることにより、領域を設定する(ステップA11)。
【0096】
ステップA11において、マウスを用いて領域を設定する手法をとった場合は、画像入力部2の視野と操作者の視野との視差や、表示部3の表示画面を覆う透明材質の表面での光の屈折などのため、操作者から見て、発光部4が発するスポット光が表示部3の表示画面上に当たって見える位置と、ステップS3で表示される輝点の位置とが、実質的に一致しなくなる、という問題が起こり得る。しかし、発光部4を用いて表示部3の表示画面上の4点をポイントする手法をとった場合、発光部4が発するスポット光は表示部3の表示画面の表面に当たって反射し、反射したスポット光が画像入力部2により撮像される。従って、スポット光が見える位置と表示される輝点の位置とが一致しなくなるという問題を回避することが可能となる。
【0097】
次に、この描画システムは、非線型歪みに関する情報の取得を行う(ステップA12)。具体的には、例えば、表示部3の表示画面上に格子を表示させ、ユーザが、この格子の各格子点の座標をユーザ操作入力部15のマウス等を用いて指定する。そして、中央制御部11が、指定の結果に基づき、非線型歪みに関する情報として格子点の座標を取得する。
【0098】
キャリブレーション処理の最後に、この描画システムは、画像入力部2の撮像に関する情報の設定、特に画像入力部2が備える図示しない撮像カメラ等(撮像カメラ部)のゲインの設定を行う(ステップA13)。ステップA13の処理は、投影像とスポットとを区別するため、スポットの輝度に対する投影像の輝度を絞る必要があるために行うものである。ステップA11の処理時(領域設定時)は、投影像の輝度を絞った状態では投影像は黒くつぶれるかスポットの輝度に対する輝度の差が極めて小さい場合もあり得る。そのため、領域設定時では、投影像が完全に表示されるように撮像カメラのゲイン設定を行い、領域設定を行い、非線型歪みに関する情報(補正情報)を取得した後、投影像とスポットとが区別される程度に、スポットの輝度に対する投影像の輝度を絞るのが望ましい。
【0099】
また、この変形例にかかる描画システムは、座標変換処理として、図13に示す処理を行う。
まず、ステップA12で取得した非線型歪みに関する情報、(即ち、格子点の座標)を利用して、スポットが含まれる格子領域を選択する(ステップS241)。次に、このスポットが含まれる格子領域に対し、図6のステップS221、S222の処理を行う(ステップS242)。そして座標変換処理の結果と、選択された格子領域の位置とに基づいて、領域全体におけるスポットの位置を取得する(ステップS243)。
【0100】
なお、画像入力部2は、描画処理が開始されたとき、表示部3の表示画面上に当たるスポット光の輝度が発光部4の発する光の最大強度に至ってもステップS3で表示されるスポットの輝度が飽和しないように、撮像の感度(ゲイン)を調整するが、変形例として、描画処理が開始されると、中央制御部11が感度調整の指示を画像入力部2に伝達し、画像入力部2がこの指示に応答して、撮像の感度を、表示部3の表示画面上に当たるスポット光の輝度が発光部4の発する光の最大強度に至ってもステップS3で表示されるスポットの輝度が飽和しないような値に変化させるものとしてもよい。
【0101】
また、画像入力部2は、この描画システムが描画処理を行っている間も、表示部3の表示画面上に当たるスポット光の輝度が発光部4の発する光の最大強度に至ってもステップS3で表示されるスポットの輝度が飽和しないように、撮像の感度を調整するようにしてもよい。
この場合は、例えば、描画処理が開始されると、中央制御部11又は画像解析部12が、画像入力部2から供給された画像データに基づいて画像入力部2の撮像の感度の値を決定し、決定した値へと感度を調整する指示を画像入力部2に伝達すればよい。そして、画像入力部2はこの指示に応答し、撮像の感度を、この指示に従った値に変化させるものとすればよい。
【0102】
さらに、第1の実施の形態およびその変形例では、スポット光の抽出、及び座標変換について述べているが、画像入力部2がデータ処理装置1の制御により連続的に撮像して、スポット光の時系列的な軌跡を逐次抽出して座標変換を行うようにすれば、スポットによって描画される軌跡を表示画面に反映させることができる。
【0103】
また、画像解析部12の座標変換部12bは、ステップS22の座標変換処理を、図15に示す手順で行ってもよい。
【0104】
すなわち、座標変換部12bは、スポット光抽出処理を終え、座標変換処理を開始すると、まず、変数dの使用を宣言する。また、上述の点P’の座標のx軸方向成分の値を示す変数xdisp及びy軸方向成分の値を示す変数ydisp)の使用も宣言する(図15、ステップSA1)。
【0105】
そして、座標変換部12bは、点P’の座標(xdisp,ydisp)及び変数dの値を初期化し、上述の点A〜点Dの座標を規格化する(ステップSA2)。具体的には、変数xdispに値「0.5」を代入し、変数ydispに値「0.5」を代入し、変数dに値「0.25」を代入し、また、ステップSA2の処理以降、点Aの座標を(0,0)、点Cの座標を(1,1)として扱うことと決定する。
【0106】
次に、座標変換部12bは、図16(a)に示すような、消失点V1(すなわち、直線ABと直線DCとの交点)の座標及び消失点V2(すなわち、直線BCと直線ADとの交点)の座標を求める(ステップSA3)。
次に、座標変換部12bは、線分ACと線分BDとの交点Gの座標を求める(ステップSA4)。
【0107】
次に、座標変換部12bは、交点Gと上述の点Pとの距離が所定量α1より小さいか否かを判別し(ステップSA5)、小さいと判別すると、処理を後述のステップSA17に移す。
【0108】
一方、交点Gと上述の点Pとの距離が所定量α1以上であると判別すると、座標変換部12bは、直線V1Gと線分BCとの交点Mの座標と、直線V1Gと線分DAとの交点Nの座標とを求める(ステップSA6)。また、座標変換部12bは、直線V2Gと線分CDとの交点Rの座標と、直線V2Gと線分ABとの交点Sの座標とを求める(ステップSA7)。
【0109】
次に、座標変換部12bは、変数xdisp及び変数ydispの現在の値により表される点P’が、直線RSより右側にあるか否か(換言すれば、線分AP’が直線RSと交わるか否か)を判別する(ステップSA8)。そして、右側にあると判別すると、変数xdispの値を変数dの値に相当する分増加させ(ステップSA9)、一方、右側にないと判別すると、変数xdispの値を変数dの値に相当する分減少させる(ステップSA10)。
【0110】
ステップSA9又はSA10の処理を終えると、座標変換部12bは、変数xdisp及び変数ydispの現在の値により表される点P’が、直線MNより上側にあるか否か(換言すれば、線分AP’が直線MNと交わるか否か)を判別する(ステップSA11)。
そして、上側にあると判別すると、変数ydispの値を変数dの値に相当する分増加させ(ステップSA12)、一方、上側にないと判別すると、変数ydispの値を変数dの値に相当する分減少させる(ステップSA13)。
【0111】
ステップSA12又はSA13の処理を終えると、座標変換部12bは、変数dの値を、変数dの現在の2分の1に変更し(ステップSA14)、変更後の変数dの値が所定量α2より小さいか否かを判別する(ステップSA15)。そして、小さいと判別すると、処理をステップSA17に移す。
【0112】
一方、変数dの値が所定量α2以上であると判別すると、座標変換部12bは、四角形ASGN、四角形SBMG、四角形GMCR及び四角形NGRDのうちから、変数xdisp及び変数ydispの現在の値により表される点P’を内部に含む四角形を特定し、特定した四角形を新たに四角形ABCDとして扱うことと決定して(ステップSA16)、処理をステップSA4に移す。
【0113】
ただし、座標変換部12bは、四角形ASGNを新たに四角形ABCDとして扱う場合は、点Aをそのまま新たな点Aとして扱い、点Sを新たな点Bとして扱い、点Gを新たな点Cとして扱い、点Nを新たな点Dとして扱うものとする。
また、四角形SBMGを新たに四角形ABCDとして扱う場合は、点Sを新たな点Aとして扱い、点Bをそのまま新たな点Bとして扱い、点Mを新たな点Cとして扱い、点Gを新たな点Dとして扱うものとする。
また、四角形GMCRを新たに四角形ABCDとして扱う場合は、点Gを新たな点Aとして扱い、点Mを新たな点Bとして扱い、点Cをそのまま新たな点Cとして扱い、点Rを新たな点Dとして扱うものとする。
また、四角形NGRDを新たに四角形ABCDとして扱う場合は、点Nを新たな点Aとして扱い、点Gを新たな点Bとして扱い、点Rを新たな点Cとして扱い、点Dをそのまま新たな点Dとして扱うものとする。
【0114】
ステップSA5又はSA15から処理がステップSA17へと移ると、座標変換部12bは、変数xdisp及び変数ydispの現在の値により表される座標を、規格化されていない状態へと戻す。すなわち、変数xdispの現在の値をXとして、変数xdispの値を{X・(xc−xa)+xa}へと変更し、変数ydispの現在の値をYとして、変数ydispの値を{Y・(yc−ya)+ya}へと変更する。
【0115】
そして、座標変換部12bは、規格化されていない状態へと戻された変数xdisp及び変数ydispの値により表される座標を点P’の座標と決定し、規格化されていない状態へと戻されたこれらの変数xdisp及びydispと、スポット光抽出処理を終了した時点でのRmaxとを、互いに対応付けてRAM13に格納し、座標変換処理を終了して処理をステップS3に移す。
【0116】
以上説明したステップSA1〜236の処理の結果、図16(a)に示す四角形A’B’C’D’点Pに対応する、長方形A’B’C’D’内の点P’が、例えば図16(b)に示すように決定される。
【0117】
また、この描画システムは、座標変換の対象となる領域を設定するための情報として、この領域の四隅を表す情報に限らず任意の情報を取得するようにしてよく、従って、例えば、この領域を複数の格子に分割した場合の各格子の頂点を表す情報を取得してもよい。一方、中央処理部11は、例えばステップA11の処理において、表示部3に、座標変換の対象となる領域の設定を容易にするための格子模様(あるいは市松模様等)を表示させるようにしてもよい。
【0118】
この描画システムが、座標変換の対象となる領域の設定を容易にするための格子模様を表示部3の表示画面上に表示し、一方、座標変換の対象となる領域を格子に分割した場合の各格子の頂点を表す情報をステップA11の処理等により取得するとする。
この場合、例えば、画像解析部12の座標変換部12bが、各格子の頂点を表す情報と、スポット光抽出処理により得られたスポットの位置の座標(xspot,yspot)とに基づき、スポットが存在する格子を特定するものとする。そして、座標変換部12bは、画像入力部2がステップS1で作成した画像データが表す画像のうち、自己が特定した格子に相当する領域を上述の長方形ABCDであるとみなして上述の座標変換処理(例えば、ステップS221〜S222の処理や、あるいはステップSA1〜SA17の処理)を行うものとする。
【0119】
次いで、座標変換部12bは、ステップS3に処理を移す前に、座標変換処理により得られた座標(xdisp,ydisp)と、特定した格子が座標変換の対象となる領域内で占める位置とに基づき、この領域全体のうちでのスポットの表示位置の座標を特定するものとする。こうすることにより、座標変換部12bは座標変換の対象となる領域の全体について座標変換領域を行うことを要せずに、この領域全体のうちでのスポットの表示位置の座標を特定する。このため、スポットの表示位置の座標を特定する処理の高速化が図られる。
【0120】
具体的には、例えば、座標変換の対象となる領域が行数J、列数Kのマトリクス状に配列された複数の長方形の格子が全体として形成する長方形を表示部3の表示画面上に表示して画像入力部2が撮像したものに相当する場合、座標変換部12bは、座標(xspot,yspot)が、座標変換の対象となる領域のうち、何行何列目の格子に相当する部分に含まれるかを特定すればよい。そして、特定した格子に相当する領域を上述の長方形ABCDであるとみなして座標変換処理を行い、得られた座標(xdisp,ydisp)を用い、数式6及び数式7の各右辺の値xdisp1及びydisp1を表すデータを生成することにより、座標変換の対象となる領域全体のうちでのスポットの表示位置の座標(xdisp1,ydisp1)を特定すればよい。
【0121】
【数6】
xdisp1=xdisp+w・{(k−1)/K}
(ただし、wは、長方形A’B’C’D’の幅)
【0122】
【数7】
ydisp1=ydisp+h・{(j−1)/J}
(ただし、hは、長方形A’B’C’D’の高さ)
【0123】
次に、ステップS3で、中央制御部11は、座標(xdisp,ydisp)に代えて、この領域全体のうちでのスポットの表示位置の座標として特定した座標に相当する位置に、Rmaxに相当する輝度を有するスポットを表示するよう、表示部3に指示するものとする。
【0124】
(第2の実施の形態)
上述のステップA11で、この描画システムは、ユーザ等が表示部3の表示画面上の点をポイントする手順を経ず自動的に領域の設定を行うようにしてもよい。以下、領域の設定を自動的に行う、この発明の第2の実施の形態を説明する。
【0125】
この描画システムの物理的構成は、図2に示す構成と実質的に同一である。
一方、機能的には、この描画システムのデータ処理装置1は、ステップA11の処理として、図17に示す処理を行うことにより、四角形ABCDの頂点をなす点A、点B、点C及び点Dの位置を取得する。
【0126】
すなわち、まず、中央制御部11は、表示部3に指示して、表示部3の表示画面上に、上述の長方形A’B’C’D’を表す長方形の枠を表示させる(図17、ステップSB1)。次いで、中央制御部11は、2次元配列変数の使用を宣言し、この2次元配列変数を構成する各要素に初期値「0」を代入することにより、この2次元配列変数を初期化する(ステップSB2)。
【0127】
ステップSB2で初期化された2次元配列変数を構成する要素は、後述する変数ρ及び変数θの各値を表すためのρθ直交座標平面内にある格子に、1対1に対応付けられているものとする。この格子は、四辺がρ軸又はθ軸に平行な長方形をマトリクス状に分割して得られるものであるとする。
【0128】
画像入力部2は、ステップSB1で表示された長方形の枠を撮像して画像データを作成して中央制御部11に供給し、中央制御部11はこの画像データをRAM13に格納する。
【0129】
次に、中央制御部11は、画像入力部2がRAM13に格納した画像データのが表す画像に含まれる画素(ただし、過去にステップSB3の処理の対象になっていない画素)1個につき、この画素が、表示部3の表示画面上に表示された枠上の点を表すか否かを判別する(ステップSB3)。そして、枠上の点を表すと判別すると処理をステップSB4に移し、表さないと判別すると処理をステップSB5に移す。
【0130】
なお、ステップSB1で表示された枠の色が赤色であるとした場合、ステップSB3での判別は、例えば、「この画素の画素値の赤成分(R)が所定値以上で、且つ、緑成分(G)及び青成分(B)がいずれも所定値以下である」か否かを判別することにより行えばよい。
【0131】
ステップSB4で、中央制御部11は、枠上の点を表すとステップSB3でもっとも新しく判別された画素のxy直交座標平面内の位置(u,v)を特定する。そして、数式8により示される関係を満たすρ及びθの値の組を表すρθ直交座標平面内の曲線が通過する各格子を特定し、ステップSB2で使用を宣言した2次元配列変数に含まれる各要素のうち、特定した各格子に対応付けられたものの値をインクリメントする(すなわち、1だけ増加させる)。そして、処理をステップSB5へと移す。
【0132】
なお、数式8を満たすθは、xy直交座標平面の原点からこのxy直交座標平面内の直線[{x・(sinθ)}+{y・(cosθ)}=ρ]におろした垂線とx軸とがなす角を表し、ρは、この直線と原点との距離を表す。
【0133】
【数8】
{u・(sinθ)}+{v・(cosθ)}=ρ
【0134】
ステップSB5で、中央制御部11は、画像入力部2がRAM13に格納した画像データが表す画像に含まれる画素のうち、未だステップSB3の処理の対象になっていない画素が残っているか否かを判別する。そして、残っていると判別すると処理をステップSB3に戻し、残っていないと判別すると、処理をステップSB6に進める。
【0135】
ステップSB6で、中央制御部11は、2次元配列変数に含まれる各要素のうち、値がもっとも大きいもの4個を特定する。次に、中央制御部11は、特定した4個の要素が表す4個の格子の位置を表すρ及びθの値の組4組を特定する。
この結果、特定した各々の組を数式8に代入して得られる、xy直交座標平面内の4本の直線が特定される。そして、中央制御部11は、特定された4本の直線がxy直交座標平面を切り取ることで形成される四角形を、上述の四角形ABCDとして特定する。
【0136】
なお、ρθ直交座標平面内の格子の位置は、この格子内の任意の点の位置で代表させてよく、例えば、この格子をなす四角形の対角線の交点の位置で代表させるものとすればよい。
【0137】
また、表示部3の表示画面上に表示させる枠の色は赤色である必要はなく、緑色でもよいし、青色でもよいし、その他、赤色、緑色及び青色の加色混合により得られる任意の色であってよい。そして、ステップSB3では、画素が、表示させた枠の色に合致する色を表すか否かを判定することにより、この画素が枠上の点を表すか否かを判別するようにすればよい。
【0138】
また、ステップA11でこの描画システムが表示部3の表示画面上に表示させる図形は、必ずしも枠状の図形である必要はなく、例えば、座標変換の対象となる領域の四隅を示す点状の図形より構成されていてもよい。
【0139】
ステップA11でこの描画システムが表示部3の表示画面上に表示させる図形が、座標変換の対象となる領域の四隅を示す点状の図形より構成されている場合、中央制御部11はステップSB6で、2次元配列変数に含まれる各要素のうち、値がもっとも大きい要素6個が表す6個の格子の位置を表す、ρ及びθの値の組6組を特定するものとする。そして、特定した6組を各々数式8に代入して得られる6本の直線を特定し、特定した6本の直線のうち3本が実質的に交わる点を4点特定するものとする。特定したこれら4点が、上述の四角形ABCDの頂点である点A、点B、点C及び点Dに相当する。
【0140】
(第2の実施の形態の変形例)
なお、ステップA11の処理として上述のステップSB1〜SB6の処理を行う場合、この描画システムは、描画処理において、キャリブレーション処理(ステップA1の処理)を、ステップS1の直前に行う代わりに、図18に示すタイミングで行うようにしてもよい。
【0141】
ただし、この描画システムが図18に示す処理を行う場合、画像入力部2が生成する画像データが表す画像は、行数Hd、列数Wdのマトリクス状に配列された、(Hd・Wd)個の画素より構成されているものとする。また、中央制御部11は、RAM13に、画像入力部2が生成した画像データを、少なくとも、最も新しく撮像した画像2枚分、記憶させておくものとする。
【0142】
この描画システムが図18に示す処理を行う場合、中央処理部1は、ステップS3で表示部3にスポットを新たに表示させた後、ステップS1で入力されRAM13に格納された画像データのうち、最も新しく格納された画像2枚分の画像データに基づいて、キャリブレーションを行うか否かを決定する(図18、ステップS3A)。
【0143】
ステップS3Aで中央制御部11は、具体的には、例えば、もっとも新しく格納された画像データが表すi行j列目(iはHd以下の自然数、jはWd以下の自然数)の画素の輝度ともっとも新しい方から2番目に格納された画像データが表すi行j列目の画素の輝度との差を2乗した値(又は、差の絶対値)を、取り得るすべてのi及びjの値について求め、求めた計(Hd・Wd)個の値の和を求める。そして、求めた和が所定の環境変化検出用の閾値を超えているか否かを判別し、超えていると判別したときはキャリブレーションを行うと決定し、超えていないと判別したときはキャリブレーションを行わないと決定する。
【0144】
なお、画像データを構成する画素の輝度が0以上255までの整数により256段階に表されるものである場合、中央制御部11が、もっとも新しく格納された画像2枚分の画像データが表すi行j列目の画素の輝度の差を2乗した値を求めるものならば、環境変化検出用の閾値は、例えば{(128)2・Hd・Wd}であればよい。また、もっとも新しく格納された画像2枚分の画像データが表すi行j列目の画素の輝度の差の絶対値を求めるものならば、環境変化検出用の閾値は、例えば(128・Hd・Wd)であればよい。
【0145】
そして、中央制御部11は、キャリブレーションを行わないと決定したときは処理をステップS4に移し、行うと決定したときは、上述のステップA1の処理と実質的に同一の処理を行うことによりキャリブレーションを実行し(ステップS3B)、キャリブレーションが終了すると、処理をステップS4に移す。
【0146】
(第3の実施の形態)
表示部3に表示される輝点は、発光部4が発するスポット光の明るさの段階に相当する所定の輝度を有するようにしてもよい。以下、表示部3に表示される輝点が、撮像されたスポット光の明るさの段階に相当する所定の輝度を有するような、この発明の第3の実施の形態にかかる描画システムを説明する。
【0147】
この描画システムの物理的構成は、図2に示す構成と実質的に同一である。ただし、発光部4が発するスポット光の明るさは、ユーザの操作に従って、N段階(Nは2以上の任意の整数)のいずれかに設定されるようになっているものとする。(なお、以下では、スポット光を発していない状態を、「暗い方から0段階目の明るさ」であるものとして扱う。また、理解を容易にするため、スポット光は赤色であるものとする。)
【0148】
この描画システムは、表示部3に表示されるスポットの輝度と発光部4が発するスポット光の明るさの範囲との対応関係を指定する値である「レベル閾値」を示すデータを、予め、又は操作者の操作に従って記憶する。そして、レベル閾値を示すデータと、撮像されたスポット光の明るさとに基づいて、表示部3に表示されるスポットの輝度を決定する。
【0149】
具体的には、操作者の操作に従ってレベル閾値を記憶するため、この描画システムは、例えば、上述のステップS1の処理を行う前に、図19に示す手順に従ってレベル閾値を決定するものとする。なお、表示部3に表示されるスポットの輝度は、L0〜LN−1のN段階に変わるものとし、暗い方からk段階目(kは0以上(N−1)以下の整数)の輝度はLkであり、輝度Lkは、k番目のレベル閾値θRkに対応付けられているものとする。そして、外部記憶部14は、輝度L0〜LN−1を表すN個のデータを予め記憶するものとする。
【0150】
以下、手順を具体的に説明すると、まず、この描画システムの中央制御部11は、四角形ABCDの設定が終わったとき等のタイミングで変数Iの使用を宣言し、変数Iに値0を代入することにより、変数Iを初期化する(図19、ステップSC1)。
【0151】
次に、中央処理部11は、変数Iの現在の値iが値Nより小さいか否かを判別する(ステップSC2)。そして、N以上であると判別すると、レベル閾値設定の処理を終了し、例えばステップS1へと処理を移す。一方、変数Iの値がNより小さいと判別すると、中央処理部11は、後述のステップSC5の処理を行うため、画像入力部2がステップSC4の処理を行うのを待機する。
【0152】
一方、操作者は、発光部4を操作して、発光部4に、暗い方からi段階目の明るさのスポット光を発させて、このスポット光を表示部3の表示画面に当てる(ステップSC3)。(ただし、i=0であるとき、操作者は、例えば発光部4を消灯させればよい。)
【0153】
一方、画像入力部2は、表示部3の表示画面を撮像して、撮像した画像を表す画像データを中央制御部11に供給する(ステップSC4)。中央制御部11は、この画像データが表す画像を表示部3に表示させる(ステップSC5)。
ステップSC5で表示部3が画像を表示すると、操作者は、ユーザ操作入力部15のマウスを操作する等して、表示部3の表示画面上、スポット光に相当する部分を指定する(ステップSC6)。(ただし、i=0であるとき、操作者は、表示部3の表示画面上、スポット光が当たっていない部分を指定すればよい。)
【0154】
すると、中央処理部11は、画像入力部2が供給した画像データに含まれる画素データのうち、操作者が指定した箇所を表すものを読み出して、この画素データが表す赤色成分の画素値を取得する(ステップSC7)。
【0155】
そして、中央処理部11は、取得した画素値に基づいて、i番目のレベル閾値θRiの値を表すデータを生成し、外部記憶部14に記憶させる(ステップSC8)。具体的には、中央処理部11は、数式9の右辺の値を求めることによりi番目のレベル閾値θRiの値を求め、θRiの値を表すデータを生成して、輝度Liに対応付けた形で外部記憶部14に記憶させるものとする。
【0156】
【数9】
θRi=(Ri−1+Ri)/2
(ただし、Riは、Iの値がiであるときにステップSC7で取得した赤色成分の画素値。また、R−1=0であるものとする。)
【0157】
そして、中央処理部11は、変数Iをインクリメントして(ステップSC9)、処理をステップSC2に戻す。
【0158】
この描画システムがレベル閾値を記憶する場合、この描画システムの画像解析部12のスポット光抽出部12aは、スポット光抽出処理を終えると、例えば、図20に示すレベル検出処理を行う。
【0159】
すなわち、スポット光抽出部12aは、スポット光抽出処理を終えると、まず、変数V及び変数Iの使用を宣言し、変数V及び変数Iに、それぞれ値0を代入することにより、変数V及びIの初期化を行う(図20、ステップSD1)
【0160】
次に、スポット光抽出部12aは、変数Iの現在の値iが上述の値Nより小さいか否かを判別し(ステップSD2)、値iが値N以上であると判別すると、レベル検出の処理を終了し、表示部3が表示すべきスポットの輝度を、暗い方からv番目(ただし、vは変数Vの現在の値)の輝度Lvと決定する。
【0161】
一方、値iが値Nより小さいと判別すると、スポット光抽出部12aは、スポット光抽出処理の結果得られた上述の値Rmaxが、値θRiより大きいか否かを判別する(ステップSD3)。そして、値Rmaxが値θRi以下であると判別すると、レベル検出の処理を終了し、表示部3が表示すべきスポットの輝度を、暗い方からv番目の輝度Lvと決定する。
【0162】
一方、値Rmaxが、値θRiより大きいと判別すると、スポット光抽出部12aは変数Iの値(すなわち、値i)を変数Vに代入し(ステップSD4)、変数Iをインクリメントして(ステップSD5)、処理をステップSD2に戻す。
【0163】
一方、ステップS3で、中央制御部11は、値Rmaxに相当する輝度を有するスポットを表示部3に表示させる代わりに、レベル検出処理により決定された値Lvに相当する輝度を有するスポットを表示部3に表示させるものとする。
なお、この描画システムは、レベル検出処理で決定したスポットの輝度に対応付けられた所定の処理を更に実行するようにしてもよい。換言すれば、ユーザは、発光部4を操作してスポットの輝度を変えることにより、データ処理装置1にN通りの情報を供給することができる。
【0164】
なお、この描画システムは、図19に示す手順に代えて、図21に示す手順でレベル閾値を示すデータを取得して記憶するようにしてもよい。
【0165】
すなわち、まず、四角形ABCDの設定が終わると、中央処理部11は、後述のステップSE4の処理を行うため、画像入力部2がステップSE3の処理を行うのを待機する。
【0166】
一方、操作者は、発光部4を操作して、発光部4に、N段階のうちもっとも暗い段階の明るさのスポット光を発させて、このスポット光を表示部3の表示画面に当てる(図21、ステップSE1)。または、ステップSE1においては、表示部3にスポット光を当てないようにしてもよい。
【0167】
画像入力部2は、表示部3の表示画面を撮像して、撮像した画像を表す画像データを中央制御部11に供給する(ステップSE2)。中央制御部11は、この画像データが表す画像を表示部3に表示させる(ステップSE3)。
【0168】
ステップSE3で表示部3が画像を表示すると、操作者は、上述のステップSC6と実質的に同一の操作を行って、表示部3の表示画面上、スポット光に相当する部分を指定する(ステップSE4)。
すると、中央処理部11は、画像入力部2が供給した画像データに含まれる画素データのうち、操作者が指定した箇所を表すものを読み出して、この画素データが表す赤色成分の画素値を取得する(ステップSE5)。
【0169】
次に、操作者は、発光部4に、N段階のうちもっとも明るい段階の明るさのスポット光を発させて、このスポット光を表示部3の表示画面に当てる(ステップSE6)。画像入力部2は、表示部3の表示画面を撮像した画像の画像データを中央制御部11に供給し(ステップSE7)。中央制御部11は、この画像を表示部3に表示させる(ステップSE8)。
【0170】
ステップSE8で表示部3が画像を表示すると、操作者は、上述のステップSE4と同様に、表示部3の表示画面上、スポット光に相当する部分を指定する(ステップSE9)。中央処理部11は、画像入力部2がステップSE7で供給した画像データに含まれる画素データのうち、操作者が指定した箇所を表す画素データが表す赤色成分の画素値を取得する(ステップSE10)。
【0171】
そして、中央処理部11は、ステップSE5及びSE10で取得した2個の画素値に基づき、N個のレベル閾値θR0〜θR(N−1)の値を表すN個のデータを生成して、外部記憶部14に記憶させる(ステップSE11)。
具体的には、中央処理部11は、例えば、数式10の右辺の値を求めることによりレベル閾値θR0の値を求め、また、数式11の右辺の値を、iの値を1から(N−1)までの各整数とした場合についてそれぞれ求めることにより、レベル閾値θR1〜θR(N−1)の値を求めるものとする。そして、θR0〜θR(N−1)の値を表す合計N個のデータを生成し、外部記憶部14に記憶させるものとする。
【0172】
【数10】
θR0=RMIN/2
(ただし、RMINは、ステップSE5で取得した画素値)
【0173】
【数11】
θRi=RMIN+i・(RMAX−RMAX)/(N−1)
−(RMAX−RMIN)/{2・(N−1)}
(ただし、RMAXは、ステップSE10で取得した画素値)
【0174】
(第3の実施の形態の変形例)
発光部4は、互いに異なる単色のスポット光を複数発する構成を有していてもよい(具体的には、例えば、発光部4は、互いに異なる単色のスポット光を発する複数の発光ダイオードを備えていてもよい)。
この場合、この描画システムは、当該発光部4が発するスポット光が表示部3の表示画面上に当たったときに表示画面上に形成される、当該発光部4に固有の配置を有するスポット光のパターンを抽出するようにしてもよい。スポットのパターンとしては、例えば図22(a)〜(d)に示すように、赤色、緑色及び青色のスポットが1個ずつ合計3個、ほぼ等間隔で直線上に並ぶようなパターンであればよい。スポット光のパターンを抽出するようにすれば、スポット1個を抽出する場合に比べ、スポットでない点を誤ってスポットとして検出する危険が減少する。
【0175】
なお、この描画システムが発光部4を複数備える場合、スポット光のパターンが当該発光部4に固有のものとなるようにするためには、例えば、当該発光部4のスポット光のパターンを回転させることで他の発光部4のスポット光のパターンと重なることがないように、スポット光を配置することが望ましい。従って、図22(a)及び(d)のパターンは、重複して用いないことが望ましい。
【0176】
発光部4が発するスポット光は、例えば、第1のスポット光と、第1のスポット光を中心として互いに点対称の位置に来るように配置された第2、第3のスポット光とからなるパターンを形成していればよい。この場合、この描画システムは、例えば、スポット光抽出処理(ステップS21の処理)として図23に示す処理を行うことにより、スポット光のパターンを抽出すればよい。なお、以下では、理解を容易にするため、第1のスポット光が赤色、第2のスポット光が緑色、第3のスポット光が青色であるものとする。(すなわち、図22(c)に示すようなパターンを形成するものとする。)
【0177】
すなわち、スポット光抽出処理を開始すると、まず、スポット光抽出部12aは、変数max、変数ss、変数tt、変数uu及び変数vvの使用を宣言し、これら5個の変数にそれぞれ値0を代入することにより、これら5個の変数を初期化する(図23、ステップSF1)。
【0178】
次に、スポット光抽出部12aは、RAM13に格納された画像データを構成する画素データのうちの1個を、第1のスポット光の候補を表す画素データとして特定する(ステップSF2)。ただし、ステップSF2では、既にステップSF2の処理で第1のスポット光の候補として特定された画素は、第1のスポット光として再び特定しないようにするものとする。
【0179】
次に、スポット光抽出部12aは、ステップSF2でもっとも新しく特定された第1のスポット光の候補と所定の位置関係にある画素を表す画素データを、第2のスポット光の候補を表す画素データとして特定する。さらに、第1のスポット光の候補を中心として第2のスポット光の候補と実質的に点対称の位置にある画素を表す画素データを、第3のスポット光の候補を表す画素データとして特定する(ステップSF3)。
ただし、ステップSF3は、ステップSF2でもっとも新しく特定された第1のスポット光の候補との関係で既にステップSF3の処理で第2(又は第3)のスポットの候補として特定された画素は、この第1のスポット光の候補との関係では、第2(又は第3)のスポットとして再び特定しないようにするものとする。
【0180】
そして、スポット光抽出部12aは、特定した3個の画素データが示す、第1、第2及び第3のスポット光の候補の特定の色成分の評価値を取得する(ステップSF4)。具体的には、第1のスポット光の候補の赤評価値ER、第2のスポット光の候補の緑評価値EG、及び、第3のスポット光の候補の青評価値EBを取得するものとする。
なお、赤評価値ERは、数式11の右辺の値に実質的に等しい値であり、緑評価値EGは、数式12の右辺の値に実質的に等しい値であり、青評価値EBは、数式13の右辺の値に実質的に等しい値である。
【0181】
【数11】
ER=R−{(G+B)/2}
(ただし、Rは、赤色成分の輝度値、Gは緑色成分の輝度値、Bは青色成分の輝度値)
【数12】
EG=G−{(R+B)/2}
【数13】
EB=B−{(R+G)/2}
【0182】
次に、スポット光抽出部12aは、取得した第1〜第3のスポット光の候補の各評価値のうちの最小値が、変数maxの現在の値より大きいか否かを判別する(ステップSF5)。そして、当該最小値が変数maxの値以下であると判別すると、処理をステップSF7へと進める。
【0183】
一方、最小値が変数maxの値より大きいと判別すると、スポット光抽出部12aは、変数maxの値を、ステップSF4で新しく取得した3個の評価値のうちの最小値へと更新する(ステップSF6)。
また、ステップSF6でスポット光抽出部12aは、変数ssの値を、ステップSF2で最も新しく第1のスポット光の候補として特定した画素の位置のx軸方向成分の値へと更新し、変数ttの値を、この画素のy軸方向成分の値へと更新する。
また、変数uuの値を、ステップSF2で最も新しく第1のスポット光の候補として特定した画素の位置のx軸方向成分の値とステップSF3で最も新しく第2のスポット光の候補として特定した画素の位置のx軸方向成分の値との差へと更新する。
また、変数vvの値を、ステップSF2で最も新しく第1のスポット光の候補として特定した画素の位置のy軸方向成分の値とステップSF3で最も新しく第2のスポット光の候補として特定した画素の位置のy軸方向成分の値との差へと更新する。
【0184】
次に、スポット光抽出部12aは、ステップSF2でもっとも新しく特定した第1のスポット光の候補と上述の所定の関係にある画素のうちに、未だ第2のスポット光の候補として特定されていない画素があるか否かを判別する(ステップSF7)。そして、あると判別するとステップSF3へと処理を戻し、ないと判別すると、処理をステップSF8へと進める。
【0185】
ステップSF8で、スポット光抽出部12aは、ステップSF2で未だ第1のスポット光の候補として特定されていない画素があるか否かを判別する。そして、あると判別するとステップSF2へと処理を戻し、ないと判別すると、処理を終了する。
【0186】
処理を終了した時点での変数ssの値が、第1のスポット光の位置のx軸方向成分を表し、変数ttの値が、第1のスポット光のy軸方向成分の値を表す。また、処理を終了した時点での変数ssの値と変数uuの値との和が、第2のスポット光の位置のx軸方向成分を表し、変数ttの値と変数vvの値との和が、第2のスポット光のy軸方向成分の値を表す。また、処理を終了した時点での変数maxの値が、第1〜第3のスポット光のうちもっとも暗いものの輝度を表す。
【0187】
また、発光部4が発するスポット光が、赤色の第1のスポット光と、第1のスポット光を中心として互いに点対称の位置に来るように配置された緑色の第2のスポット光及び青色の第3のスポット光とからなるパターンを形成している場合、この描画システムは、スポット光抽出処理として図24〜図27に示す処理を行うようにしてもよい。
【0188】
すなわち、スポット光抽出処理を開始すると、まず、スポット光抽出部12aは、変数Rm、変数Gm、変数Bm、変数Rx、変数Ry、変数Gx、変数Gy、変数Bx、変数By及び変数maxの使用を宣言し、これら10個の変数にそれぞれ値0を代入することにより初期化する(図24、ステップSG1)。
【0189】
次に、スポット光抽出部12aは、RAM13に格納された画像データを構成する画素データのうちの1個を特定する(ステップSG2)。ただし、ステップSG2では、既にステップSG2の処理で特定されたことのある画素は、再び特定しないようにするものとする。
【0190】
そして、スポット光抽出部12aは、特定した画素の赤評価値ERを取得し(ステップSG3)、取得した赤評価値が、変数Rmの値より大きいか否かを判別する(ステップSG4)。そして、赤評価値がRm以下であると判別すると、処理をステップSG6へと進める。
【0191】
一方、赤評価値がRmより大きいと判別すると、スポット光抽出部12aは、変数Rmの値を、ステップSG3で新しく取得した赤評価値へと更新し、変数Rxの値を、ステップSG2で最も新しく特定した画素の位置のx軸方向成分の値へと更新し、変数Ryの値を、この画素のy軸方向成分の値へと更新する(ステップSG5)。
【0192】
また、スポット光抽出部12aは、特定した画素の緑評価値EGを取得し(ステップSG6)、この緑評価値が変数Gmの値より大きいか否かを判別する(ステップSG7)。そして、緑評価値が変数Gm以下であると判別すると処理をステップSG9へと進める。一方、変数Gmより大きいと判別すると、変数Gmの値を、ステップSG6で新しく取得した緑評価値へと更新し、変数Gxの値を、ステップSG2で最も新しく特定した画素の位置のx軸方向成分の値へと更新し、変数Gyの値を、この画素のy軸方向成分の値へと更新する(ステップSG8)。
【0193】
また、スポット光抽出部12aは、特定した画素の青評価値EBを取得し(ステップSG9)、この青評価値が変数Bmの値より大きいか否かを判別する(ステップSG10)。そして、青評価値が変数Bm以下であると判別すると処理をステップSG12へと進める。一方、変数Bmより大きいと判別すると、変数Bmの値を、ステップSG9で新しく取得した青評価値へと更新し、変数Bxの値を、ステップSG2で最も新しく特定した画素の位置のx軸方向成分の値へと更新し、変数Byの値を、この画素のy軸方向成分の値へと更新する(ステップSG11)。
【0194】
ステップSG12で、スポット光抽出部12aは、ステップSG2で未だ特定されていない画素があるか否かを判別し、あると判別するとステップSG2へと処理を戻し、ないと判別すると、処理を、図25に示すステップSG13へと進める。
【0195】
ステップSG12までの処理を終了した時点での変数Rxの値が、赤色がもっとも強い画素の位置のx軸方向成分を表し、変数Ryの値が、この画素のy軸方向成分の値を表し、変数Rmの値が、この画素の赤評価値を表す。
同様に、変数Gxの値は、緑色がもっとも強い画素の位置のx軸方向成分を表し、変数Ryの値が、この画素のy軸方向成分の値を表し、変数Gmの値が、この画素の緑評価値を表す。
また、変数Bxの値は、青色がもっとも強い画素の位置のx軸方向成分を表し、変数Byの値が、この画素のy軸方向成分の値を表し、変数Bmの値が、この画素の青評価値を表す。
【0196】
ステップSG13で、スポット光抽出部12aは、赤色がもっと強いとして特定された画素を第1のスポット光とした場合に第2及び第3のスポット光となる位置関係にある2個の画素を、第2及び第3のスポット光の候補として特定する。
【0197】
ただし、ステップSG13では、既にステップSG13の処理で第2のスポット光の候補として特定された画素は、第2のスポット光の候補として再び特定しないようにするものとする。また、既にステップSG13の処理で第3のスポット光の候補として特定された画素は、第3のスポット光の候補として再び特定しないようにするものとする。
【0198】
そして、スポット光抽出部12aは、赤色がもっと強いとして特定された画素、の赤評価値、もっとも新しく特定された第2のスポット光の候補の緑評価値、及び、もっとも新しく特定された第3のスポット光の候補の青評価値を取得し、取得したこれら3個の評価値のうちの最小値が、変数maxの現在の値より大きいか否かを判別する(ステップSG14)。そして、評価値の最小値が変数maxの値以下であると判別すると、処理をステップSG16へと進める。
【0199】
一方、評価値の最小値が変数maxの値より大きいと判別すると、スポット光抽出部12aは、maxの値を、ステップSG14で新しく取得した3個の評価値のうちの最小値へと更新する(ステップSG15)。
また、変数ssの値を、赤色がもっとも強いとして特定した画素の位置のx軸方向成分の値へと更新し、変数ttの値を、この画素のy軸方向成分の値へと更新する。
また、変数uuの値を、赤色がもっとも強いとして特定した画素の位置のx軸方向成分の値とステップSG13で最も新しく第2のスポット光の候補として特定した画素の位置のx軸方向成分の値との差へと更新する。
また、変数vvの値を、赤色がもっとも強いとして特定した画素の位置のy軸方向成分の値とステップSG13で最も新しく第2のスポット光の候補として特定した画素の位置のy軸方向成分の値との差へと更新する。
【0200】
次に、スポット光抽出部12aは、もっとも赤色が強いとして特定した画素を第1のスポット光としたとき第2のスポット光となり得る画素が、ステップSG13で既に特定したものの他に存在するか否かを判別する(ステップSG16)。そして、存在すると判別するとステップSG13へと処理を戻す。
【0201】
一方、存在しないと判別すると、変数maxの現在の値MAX、変数ssの現在の値SS、変数ttの現在の値TT、変数uuの現在の値UU及び変数vvの現在の値VVを表すデータtmp1を作成してRAM13に一時記憶させる(ステップSG17)。
【0202】
次に、スポット光抽出部12aは、変数max、変数ss、変数tt、変数uu及び変数vvを初期化し(図26、ステップSG18)、処理をステップSG19へと進める。
ステップSG19でスポット光抽出部12aは、緑色がもっと強いとして特定された画素を第2のスポット光とした場合に第1及び第3のスポット光となる位置関係にある2個の画素を、第1及び第3のスポット光の候補として特定する。
【0203】
ただし、ステップSG19では、既にステップSG19の処理で第1のスポット光の候補として特定された画素は、第1のスポット光の候補として再び特定しないようにするものとする。また、既にステップSG19の処理で第3のスポット光の候補として特定された画素は、第3のスポット光の候補として再び特定しないようにするものとする。
【0204】
そして、スポット光抽出部12aは、緑色がもっと強いとして特定された画素、の緑評価値、もっとも新しく特定された第1のスポット光の候補の赤評価値、及び、もっとも新しく特定された第3のスポット光の候補の青評価値を取得し、取得したこれら3個の評価値のうちの最小値が、変数maxの値より大きいか否かを判別する(ステップSG20)。そして、変数maxの値以下であると判別すると、処理をステップSG22へと進める。
【0205】
一方、評価値の最小値が変数maxの値より大きいと判別すると、スポット光抽出部12aは、maxの値を、ステップSG20で新しく取得した3個の評価値のうちの最小値へと更新する(ステップSG21)。
また、変数ssの値を、ステップSG19でもっとも新しく第1のスポット光の候補として特定した画素の位置のx軸方向成分の値へと更新し、変数ttの値を、この画素のy軸方向成分の値へと更新する。
また、変数uuの値を、ステップSG19でもっとも新しく第1のスポット光の候補として特定した画素の位置のx軸方向成分の値ともっとも緑色が強いとして特定した画素の位置のx軸方向成分の値との差へと更新する。
また、変数vvの値を、ステップSG19でもっとも新しく第1のスポット光の候補として特定した画素の位置のy軸方向成分の値ともっとも緑色が強いとして特定した画素の位置のy軸方向成分の値との差へと更新する。
【0206】
次に、スポット光抽出部12aは、もっとも緑色が強いとして特定した画素を第2のスポット光としたとき第1のスポット光となり得る画素が、ステップSG19で既に特定したものの他に存在するか否かを判別する(ステップSG22)。そして、存在すると判別するとステップSG19へと処理を戻す。
一方、存在しないと判別すると、変数maxの現在の値MAX、変数ssの現在の値SS、変数ttの現在の値TT、変数uuの現在の値UU及び変数vvの現在の値VVを表すデータtmp2を作成してRAM13に一時記憶させ(ステップSG23)、変数max、変数ss、変数tt、変数uu及び変数vvを初期化して(図27、ステップSG24)、処理をステップSG25へと進める。
【0207】
ステップSG25で、スポット光抽出部12aは、青色がもっと強いとして特定された画素を第3のスポット光とした場合に第1及び第2のスポット光となる位置関係にある2個の画素を、第1及び第2のスポット光の候補として特定する。
ただし、ステップSG25では、既にステップSG25の処理で第1のスポット光の候補として特定された画素は、第1のスポット光の候補として再び特定しないようにするものとする。また、既にステップSG25の処理で第2のスポット光の候補として特定された画素は、第2のスポット光の候補として再び特定しないようにするものとする。
【0208】
そして、スポット光抽出部12aは、青色がもっと強いとして特定された画素、の緑評価値、もっとも新しく特定された第1のスポット光の候補の赤評価値、及び、もっとも新しく特定された第2のスポット光の候補の緑評価値を取得し、取得したこれら3個の評価値のうちの最小値が変数maxの現在より大きいか否かを判別する(ステップSG26)。そして、評価値の最小値が変数maxの値以下であると判別すると、処理をステップSG28へと進める。
【0209】
一方、評価値がmaxより大きいと判別すると、スポット光抽出部12aは、maxの値を、ステップSG26で新しく取得した3個の評価値のうちの最小値へと更新する(ステップSG27)。
また、変数ssの値を、ステップSG25でもっとも新しく第1のスポット光の候補として特定した画素の位置のx軸方向成分の値へと更新し、変数ttの値を、この画素のy軸方向成分の値へと更新する。
また、変数uuの値を、ステップSG25でもっとも新しく第1のスポット光の候補として特定した画素の位置のx軸方向成分の値ともっとも新しく第2のスポット光の候補として特定した画素の位置のx軸方向成分の値との差へと更新する。
また、変数uuの値を、ステップSG25でもっとも新しく第1のスポット光の候補として特定した画素の位置のy軸方向成分の値ともっとも新しく第2のスポット光の候補として特定した画素の位置のy軸方向成分の値との差へと更新する。
【0210】
次に、スポット光抽出部12aは、もっとも青色が強いとして特定した画素を第3のスポット光としたとき第1のスポット光となり得る画素が、ステップSG25で既に特定したものの他に存在するか否かを判別する(ステップSG28)。そして、存在すると判別するとステップSG25へと処理を戻す。
【0211】
一方、存在しないと判別すると、スポット光抽出部12aは、変数maxの現在の値MAX、変数ssの現在の値SS、変数ttの現在の値TT、変数uuの現在の値UU及び変数vvの現在の値VVを表すデータtmp3を作成する。そして、データtmp1、tmp2及びtmp3のうち、表す値MAXが最大の値をとっているデータを特定し、特定したデータにより表される値SS及び値TTの組により示される座標(SS,TT)にある画素を、第1のスポット光と決定する(ステップSG29)。
【0212】
また、ステップSG29でスポット光抽出部12aは、特定したデータにより表される値SS及び値UUの和と値TT及び値VVの和との組により示される座標((SS+UU),(TT+VV))にある画素を、第2のスポット光と決定する。また、特定したデータにより表される値SS及び値UUの差と値TT及び値VVの差との組により示される座標((SS−UU),(TT−VV))にある画素を、第3のスポット光と決定する。
【0213】
スポット光抽出処理として上述のステップSG1〜SG29の処理を行うことにより、発光部4が発するスポット光以外の光が表示部3の表示画面上に当たることによる誤動作が回避される。
【0214】
具体的に説明すると、例えば図28に示すように、発光部4が発するスポット光以外の光が作る青色で輝度200の点PA及び緑色で輝度210の点PBと、発光部4が発するスポット光が作る青色で輝度160の点PC、赤色で輝度180の点PD、及び緑色で輝度200の点PEとが表示部3の表示画面上に形成されたとする。この場合に、この描画システムがスポット光抽出処理としてステップSF1〜SF8の処理を行った場合は、点PA、点PB及び点PDの組が発光部4のスポット光であると誤って決定されることがあり得る。一方、スポット光抽出処理としてステップSG1〜SG29の処理を行った場合は、点PC、点PD及び点PEの組が発光部4のスポット光として正しく決定される。
【0215】
発光部4が複数発するスポット光の色は、互いに同一の色であってもよい。具体的には、例えば、図29(a)に示すような、同一色、同一輝度(なお、図29においては、円の面積が輝度の大きさを表すものとする)のスポット3個が直線上にほぼ等間隔に並ぶようなパターンであってもよい。また、図29(b)に示すように、同一色で互いに異なる輝度のスポット3個が直線上にほぼ等間隔に並ぶようなパターンであってもよい。また、図29(c)に示すような、図29(a)のパターンに加え更に、3個のスポットが並ぶ直線に垂直で、3個のスポットのうち中央のスポットを通るような直線上に並ぶ4個目のスポットを含むパターンであってもよい。
【0216】
発光部4が発するスポット光が、図29(a)に示すように、第1のスポット光と、第1のスポット光を中心として互いに点対称の位置に来るように配置された第2、第3のスポット光とからなるパターンを形成する場合、この描画システムは、例えば、スポット光抽出処理として図30に示す処理を行うことにより、スポット光のパターンを抽出してもよい。(なお、以下では、理解を容易にするため、第1〜第3のスポット光はいずれも赤色であるものとする。)
【0217】
すなわち、スポット光抽出処理を開始すると、まず、スポット光抽出部12aは、変数Rmax、変数x及び変数yの使用を宣言し、これら3個の変数をそれぞれ初期化する(図30、ステップSH1)。そして、上述のステップS211〜S214の処理と実質的に同一の処理を行うことにより、赤色がもっとも強い画素の座標及び赤評価値を取得する(ステップSH2)。なお、ステップSH2では、赤色成分の強さに代えて、上述の赤評価値を用いるものとする。もっとも、赤色成分の強さの値を用いることも差し支えない。
【0218】
次に、スポット光抽出部12aは、RAM13に格納された画像データを構成する画素のうち、ステップSH2で座標が取得された画素を除く画素について、ステップSH2の処理と実質的に同一の処理を行うことにより、赤色が2番目に強い画素の座標及び赤評価値を取得する(ステップSH3)。
【0219】
ただし、ステップSH3では、ステップSH3の処理の対象となる画素の元来の画素値に重み関数を乗じた値を、画素値であるものとして扱う。この重み関数は、例えば図31に示すような関数であるものとする。すなわち、ステップSH2で取得された座標からの距離が一定値以下である画素の画素値を元来の値より小さくし、また、ステップSH2で取得された座標からの距離が一定値以下である画素については、ステップSH2で取得された座標に近いものほど、乗じた後の画素値の元来の画素値に対する比率を小さくするような関数であるものとする。
【0220】
次に、スポット光抽出部12aは、RAM13に格納された画像データを構成する画素のうち、ステップSH2又はSH3で座標が取得された2個の画素を除く画素について、ステップSH3の処理と実質的に同一の処理を行うことにより、赤色が3番目に強い画素の座標及び赤評価値を取得する(ステップSH4)。
【0221】
ただし、ステップSH4で処理の対象となる画素の元来の画素値に乗じる重み関数は、ステップSH3で取得された座標からの距離が一定値以下である画素の画素値を元来の値より小さくし、また、ステップSH3で取得された座標からの距離が一定値以下である画素については、ステップSH3で取得された座標に近いものほど、乗じた後の画素値の元来の画素値に対する比率を小さくするような関数であるものとする。
【0222】
次に、スポット光抽出部12aは、ステップSH2〜SH4で赤評価値及び座標を取得した3個の画素を用いて、上述したステップSG13〜SG29の処理と実質的に同一の処理を行うことにより、第1〜第3のスポット光の位置を決定する(ステップSH5)。
【0223】
ただし、ステップSH5でスポット光抽出部12aは、もっとも緑色が強いとされた画素を用いる代わりに、2番目に赤色が強いとされた画素を用いる。また、もっとも青色が強いとされた画素を用いる代わりに、3番目に赤色が強いされた画素を用いる。また、緑評価値及び青評価値の代わりに、赤評価値(または、赤色成分の強さ)を用いる。
【0224】
(第4の実施の形態)
ステップS3の処理により表示部3の表示画面上で繰り返し輝点が表示される結果、この表示画面上に当たったスポット光の位置が移動すれば、上述の各実施の形態にかかる描画システムが表示する輝点も移動する。
しかし、スポット光の移動が高速である場合、これらの描画システムが表示する輝点の移動が視覚的にも不連続になって、輝点の移動を視認するユーザにとり不自然に感じられる場合があり得る。
このような場合、輝点の移動量について補間処理を行うことにより視覚上輝点が滑らかに移動するようにすることができる。以下では、補間処理を行うことにより輝点の移動を滑らかにする、この発明の第4の実施の形態を説明する。
【0225】
この描画システムは、図32に示す構成を有している。すなわち、この描画システムは、図2に示す構成と実質的に同一の物理的構成を有し、更に、画像解析部12が、CPU等からなり後述する処理を行う補間処理部12cと、水晶発振器等からなるタイマTを備える。タイマTは、現在時刻を表す時刻情報を生成し、補間処理部12cへと連続的に供給する。
【0226】
一方、この描画システムのRAM13は、スポット光抽出処理により抽出されたスポットの位置の座標を、最も新しく抽出された方から2個分記憶するものとする。そして、この描画システムは、座標変換処理(ステップS22の処理)を終えると、ステップS3に処理を移す前に、図33に示す補間処理を行う。
【0227】
すなわち、この描画システムがステップS22で座標(xdisp,ydisp)を求めると、ステップS3に処理を移す前に、補間処理部12cが、タイマTから供給される時刻情報を取得する(図33、ステップSI1)。そして、最も新しく求めた座標(xdisp,ydisp)と、最も新しく取得した時刻情報とを、互いに対応付けてRAM13に記憶させる。
【0228】
次に、補間処理部12cは、もっとも新しく取得した方から2点分のスポット(以下では、nを自然数として、n個目のスポットと(n+1)個目のスポットであるものとして説明する)の座標と、これら2点の座標に対応付けられているn番目及び(n+1)番目の時刻情報とを読み出し、読み出した座標及び時刻情報に基づいて数式14及び数式15の各右辺の値を求めることによって、(n+1)番目に時刻情報を取得した時刻におけるスポットの移動速度のx軸方向成分vxn+1及びy軸方向成分vyn+1を求め、求めた移動速度vxn+1及びvyn+1の値を、最も新しく取得した時刻情報に対応付けて、RAM13に記憶させる(ステップSI2)。
【0229】
【数14】
vxn+1=(xn+1−xn)/(tn+1−tn)
(ただし、xn+1は(n+1)番目に取得したスポットの座標のx軸方向成分、xnはn番目に取得したスポットの座標のx軸方向成分、tn+1は(n+1)番目に取得した現在時刻、tnはn番目に取得した現在時刻)
【0230】
【数15】
vyn+1=(yn+1−yn)/(tn+1−tn)
(ただし、yn+1は(n+1)番目に取得したスポットの座標のy軸方向成分、ynはn番目に取得したスポットの座標のy軸方向成分)
【0231】
次に、補間処理部12cは、数式16により示される補間用の関数X(t;tn<t≦tn+1)及び数式17により示される補間用の関数Y(t;tn<t≦tn+1)を特定する(ステップSI3)。
関数X(t)は、時刻tnからtn+1までの間にスポットの座標のx軸方向成分の推測値、関数Y(t)は、時刻tnからtn+1までの間にスポットの座標のy軸方向成分の推測値である。そして、座標(X(tn),Y(tn))は時刻tnにおけるスポットの位置を表し、座標(X(tn+1),Y(tn+1))は時刻tn+1におけるスポットの位置を表す。
【0232】
【数16】
X(t;tn<t≦tn+1)={−(tn+1−t)2・vxn}/{2・(tn+1−tn)}
+{(tn−t)2・vxn+1}/{2・(tn+1−tn)}
+xn+1−{vxn+1・(tn+1−tn)/2}(ただし、vx0=0)
【0233】
【数17】
Y(t;tn<t≦tn+1)={−(tn+1−t)2・vyn}/{2・(tn+1−tn)}
+{(tn−t)2・vyn+1}/{2・(tn+1−tn)}
+yn+1−{vyn+1・(tn+1−tn)/2}(ただし、vy0=0)
【0234】
次に、補間処理部12cは、座標(X(t),Y(t))に位置する点の時刻tnからtn+1までの移動の軌跡を表す曲線を特定し、この曲線を表すデータを作成してRAM13に格納し(ステップSI4)、補間処理を終えてステップS3に処理を移す。
【0235】
補間処理が終わりステップS3に処理が移ると、中央制御部11は、座標(xdisp,ydisp)を読み出す代わりに、ステップSI4でRAM13に格納された、曲線を表すデータをRAM13より読み出す。そして、表示部3の表示画面上に、このデータが表す曲線を表示するよう、表示部3に指示する。表示部3は、この指示に従った曲線を表示画面上に表示する。
なお、関数X(t)及びY(t)は上述のものに限られず、軌跡が連続する曲線となるような関数であればよい。
【0236】
(第4の実施の形態の変形例)
なお、RAM13は、スポット光抽出処理により抽出されたスポットの位置の座標を、最も新しく抽出された方から3個分以上記憶してもよい。
また、この描画システムは、スポットの位置の異なるタイミングで複数回抽出した結果に基づいて、これら複数の抽出結果により代表されるスポットの位置を決定し、決定された位置の座標を、座標変換処理以降の処理において、座標(xspot,yspot)に代えて用いるようにしてもよい。こうすることにより、ユーザが発光部4を操作してスポット光の位置を定める際の手ぶれを軽減することが可能となる。
【0237】
具体的には、スポット光抽出部12aは、例えば図34に示す処理を行うようにすればよい。(なお、この描画システムのRAM13は、スポット光抽出処理により抽出されたスポットの位置の座標を、最も新しく抽出された方からp個分(pは十分大きな正の整数)記憶するものとする。)
【0238】
すなわち、スポット光抽出部12aがステップS21で座標(xspot,yspot)を求めると、スポット光抽出部12aは、ステップS22に処理を移す前に、まず、もっとも新しく取得した方からp点分のスポットの座標を読み出し、また、変数mの使用を宣言し、変数mに値0を代入する(図34、ステップSJ1)。
【0239】
次に、スポット光抽出部12aは変数mをインクリメントし(ステップSJ2)、座標変換処理で最も新しく取得した方からM番目(Mは変数mの現在の値)のスポットと(M−1)番目のスポットとの間の距離が所定の静止判別用の閾値を超えているか否かを判別する(ステップSJ3)。
【0240】
そして、静止判別用の閾値を超えていないと判別すると、スポット光抽出部12aは、処理をステップSJ2に戻す。一方、静止判別用の閾値を超えていると判別すると、座標変換部12bが最も新しく取得した(M−1)個のスポットの座標のx軸方向成分の平均値xave及びy軸方向成分の平均値yaveを求める(ステップSJ4)。
【0241】
スポット光抽出部12aが平均値xave及びyaveを求めると、座標変換部12bは、座標(xave,yave)を、スポット光抽出処理によって分かったスポットの座標であるものとして扱い、座標変換処理を行う。
【0242】
なお、スポット光抽出部12aは、ステップS21で最も新しくRAM13に格納した座標(xspot,yspot)の値を、ステップSJ4で最も新しく求めた平均値xave及びyaveにより表される座標(xave,yave)の値へと書き換えるようにしてもよい。
【0243】
あるいは、スポット光抽出部12aは、例えば図35に示す処理を行うようにしてもよい。
【0244】
すなわち、スポット光抽出部12aがステップS21で座標(xspot,yspot)を求めると、スポット光抽出部12aは、ステップS22に処理を移す前に、まず、もっとも新しく取得した方からp点分のスポットの座標を読み出し、また、変数mの使用を宣言し、変数mに値1を代入する(図35、ステップSK1)。
【0245】
次に、スポット光抽出部12aは、変数mの値が所定値Nより小さいか否かを判別し(ステップSK2)、N以上であると判別すると、処理をステップSK6に移す。
【0246】
一方、Nより小さいと判別すると、スポット光抽出部12aは、座標変換部12bが最も新しく取得したM個(Mは変数mの現在の値)のスポットの座標のx軸方向成分の平均値xave(M)及びy軸方向成分の平均値yave(M)を求める(ステップSK3)。そして、求めた平均値の組が示す座標(xave( M),yave(M))と1番目のスポットとの間の距離が所定の静止判別用の閾値を超えているか否かを判別する(ステップSK4)。
【0247】
ステップSK4で、静止判別用の閾値を超えていないと判別すると、スポット光抽出部12aは変数mをインクリメントし(ステップSK5)、処理をステップSK2に戻す。一方、静止判別用の閾値を超えていると判別すると、座標変換部12bが最も新しく取得した(M−1)個のスポットの座標のx軸方向成分の平均値xave(M−1)及びy軸方向成分の平均値yave(M−1)により表される座標(xave(M−1),yave(M−1))を、スポット光抽出処理によって分かったスポットの座標として決定し(ステップSK6)、座標変換処理を行う。
【0248】
あるいは、スポット光抽出部12aは、ステップSJ1〜SJ4の処理やステップSK1〜SK6の処理に代えて、図36に示す処理を行うようにしてもよい。
すなわち、スポット光抽出部12aがステップS21で座標(xspot,yspot)を求めると、スポット光抽出部12aは、ステップS22に処理を移す前に、もっとも新しく取得した方からp点分のスポットの座標を読み出し、また、変数m及び変数fの使用を宣言し、変数m及び変数fに値0を代入する(図36、ステップSL1)。
【0249】
次に、スポット光抽出部12aは変数mをインクリメントし(ステップSL2)、座標変換処理で最も新しく取得した方からM番目(Mは変数mの現在の値)のスポットと(M−1)番目のスポットとの間の距離が所定の静止判別用の閾値以上であるか否かを判別する(ステップSL3)。
【0250】
そして、閾値を超えていないと判別すると、スポット光抽出部12aは、処理をステップSL2に戻す。一方、閾値を超えていると判別すると、現在の変数mの値MをRAM13に一時記憶させ(ステップSL4)、変数fをインクリメントして(ステップSL5)、変数fの値が所定値に達したか否かを判別する(ステップSL6)。
【0251】
変数fが所定値に達していないと判別すると、スポット光抽出部12aは処理をステップSL2に戻し、達していると判別すると、座標変換部12bが最も新しく取得した(M−1)個のスポットのうち、ステップSL4で一時記憶した変数mの値により示されるスポット(すなわち、例えば、一時記憶した値が「3」及び「7」であれば、最も新しく取得した方から3番目及び7番目のスポット)を除いたスポットについて、これらのスポット座標のx軸方向成分の平均値xave及びy軸方向成分の平均値yaveを求める(ステップSL7)。
【0252】
スポット光抽出部12aが平均値xave及びyaveを求めると、座標変換部12bは、座標(xave,yave)を、スポット光抽出処理によって分かったスポットの座標であるものとして扱い、座標変換処理を行う。
【0253】
あるいは、スポット光抽出部12aは、ステップSL1〜SL7の処理に代えて、図37に示す処理を行うようにしてもよい。
【0254】
すなわち、スポット光抽出部12aがステップS21で座標(xspot,yspot)を求めると、スポット光抽出部12aは、ステップS22に処理を移す前に、まず、もっとも新しく取得した方からp点分のスポットの座標を読み出し、また、変数m及び変数fの使用を宣言し、変数mに値1を代入し、変数fに値0を代入する(図37、ステップSM1)。また、スポット光抽出部12aは、p個のフラグの使用も宣言する。
【0255】
次に、スポット光抽出部12aは、変数mの値が所定値Nより小さいか否かを判別し(ステップSM2)、N以上であると判別すると、処理をステップSM10に移す。
【0256】
一方、Nより小さいと判別すると、スポット光抽出部12aは、M番目(Mは変数mの現在の値)のフラグをセットし(ステップSM3)、座標変換部12bが最も新しく取得したM個のスポットの座標のx軸方向成分の平均値xave(M)及びy軸方向成分の平均値yave(M)を求める(ステップSM4)。
【0257】
そして、スポット光抽出部12aは、ステップSM4で求めた平均値の組が示す座標(xave(M),yave(M))と1番目のスポットとの間の距離が所定の静止判別用の閾値を超えているか否かを判別する(ステップSM5)。
【0258】
ステップSM5で、静止判別用の閾値を超えていないと判別すると、スポット光抽出部12aは変数fに値0を代入し(ステップSM6)、変数mをインクリメントして(ステップSM7)、処理をステップSM2に戻す。
一方、静止判別用の閾値を超えていると判別すると、スポット光抽出部12aは、M番目のフラグをリセットし、変数fをインクリメントする(ステップSM8)。そして、変数fの値が所定値N以上であるか否かを判別し(ステップSM9)、Nより小さいと判別すると、処理をステップSM7に移す。
【0259】
一方、ステップSM9で、変数fの値がN以上であると判別すると、座標変換部12bが最も新しく取得したM個のスポットのうち、セットされているフラグに対応するスポット(すなわち、例えば、M番目までのフラグのうち3番目及び7番目のフラグがリセットされていて他のフラグがセットされていれば、最も新しく取得した方から3番目及び7番目のスポット以外のスポット)の座標のx軸方向成分の平均値xave及びy軸方向成分の平均値yaveを求める。そして、求めた平均値により表される座標(xave,yave)を、スポット光抽出処理によって分かったスポットの座標として決定し(ステップSM10)、座標変換処理を行う。
【0260】
また、発光部4は、操作者の操作に従い、複数種類の色のうち操作者が選択した色のスポット光1個を発する構成を有していてもよい。そして、この描画システムは、発光部4が発する各々の色を識別したり、識別結果に基づいて自己が行う処理の内容を決定したりしてよい。
たとえば、発光部4が、赤色、緑色及び青色の3色のうちユーザが選択した1色を発するよう構成されている場合、この描画システムは、発光部4をマウスとして機能させるために、赤色のスポットを抽出したときはマウスカーソルの移動が指示されたと判別し、緑色のスポットを抽出したときはマウスの左ボタンがクリックされたと判別し、青色のスポットを抽出したときはマウスの右ボタンがクリックされたと判別し、判別結果に基づいて、判別以後の処理の内容を決定してもよい。
【0261】
発光部4が複数種類の色のうち選択された色のスポット光を発する場合において、各色のスポット光を互いに異なる発光体(発光ダイオード等)から発する場合は、表示部3の表示画面に対する発光体4の位置を固定しても、スポット光が表示画面に当たる位置が、選択された色毎に異なり得る。この場合、ユーザが発光部4を用いて小さな点をポイントすることが難しくなるという不都合が生じ得る。
【0262】
発光部4が発するスポット光が表示部3の表示画面に当たる位置が、選択された色毎に異なる場合、スポット光抽出部12aは、色毎のスポットの位置のずれを補正するため、スポット光抽出処理として図38に示す処理を行ってもよい。こうすることにより、スポットの位置の色毎のずれに原因する上述の不都合が避けられる。
【0263】
なお、理解を容易にするため、図38の処理を行う構成においては、発光部4が、赤色、緑色及び青色の3色のうちユーザが選択した1色を発するよう構成されているものとする。また、発光部4は、緑色に発光している状態から、赤色に発光する状態を経ることなく青色に発光している状態に移ることはなく、また、青色に発光している状態から、赤色に発光する状態を経ることなく緑色に発光している状態に移ることもないものとする。
【0264】
図38に示すスポット光抽出処理を開始すると、まず、スポット光抽出部12aは、2次元変数(ss,tt)を構成する変数ss及び変数ttと、変数xoffと、変数yoffと、変数maxとの使用を宣言し、それぞれ値0を代入することにより初期化する(図38、ステップSN1)。
【0265】
また、この描画システムが動作を開始して最初のスポット光抽出処理においては、ステップSN1でスポット光抽出部12aは更に、2次元変数(xspot,yspot)を構成する変数xspot及び変数yspotと、変数colorと、変数excolorとの使用を宣言して初期化する。なお、変数colorび変数excolorは、黒色、赤色、緑色または青色の4色を示す4値をとる変数である。そして、スポット光抽出部12aは、変数colorび変数excolorに、それぞれ黒色を表す値を代入することにより変数colorび変数excolorを初期化する。
【0266】
次に、スポット光抽出部12aは、RAM13に格納された画像データを構成する画素データのうちの1個を、スポットの候補を表す画素データとして特定する(ステップSN2)。ただし、ステップSN2では、既にステップSN2の処理でスポットの候補として特定された画素は再び特定しないようにするものとする。
【0267】
次に、スポット光抽出部12aは、特定した画素データが示すスポットの候補の赤評価値、緑評価値及び青評価値を取得する。そして、取得した赤評価値、緑評価値及び青評価値のうちの最大値が、変数maxの現在の値より大きいか否かを判別する(ステップSN3)。そして、評価値が変数maxの値以下であると判別すると、処理をステップSN5へと進める。
【0268】
一方、赤評価値、緑評価値及び青評価値のうちの最大値がmaxより大きいと判別すると、スポット光抽出部12aは、変数maxの値を、ステップSN3で新しく取得した赤評価値、緑評価値及び青評価値のうちの最大値へと更新する(ステップSN4)。
また、ステップSN4でスポット光抽出部12aは、変数colorの値を、赤評価値、緑評価値及び青評価値のうち赤評価値が最大値をとっていれば赤色を、緑評価値が最大値をとっていれば緑色を、青評価値が最大値をとっていれば青色を表すように更新する。
更に、ステップSN4でスポット光抽出部12aは、変数ssの値を、ステップSN2で最も新しく第1のスポット光の候補として特定した画素の位置のx軸方向成分の値へと更新し、変数ttの値を、この画素のy軸方向成分の値へと更新する。
【0269】
次に、スポット光抽出部12aは、ステップSN2で未だスポットの候補として特定されていない画素があるか否かを判別する(ステップSN5)。そして、あると判別するとステップSN2へと処理を戻し、ないと判別すると、処理をステップSN6に移す。
【0270】
ステップSN6で、スポット光抽出部12aは、データcolorとデータexcolorとが、互いに同じ色を表しているか否かを判別する。
そして、異なる色を表していると判別すると、スポット光抽出部12aは、変数colorの値が赤色を示すか否かを判別し(ステップSN7)、赤色を示すと判別すると、変数xoff及び変数yoffに0を代入して(ステップSN8)、処理をステップS22に移す。一方、赤色を示さないと判別すると、変数ssの値から変数xspotの値を差し引いた値を変数xoffに代入し、変数ttの値から変数yspotの値差し引いた値を変数yoffに代入して(ステップSN9)、処理をステップS22に移す。
【0271】
一方、ステップSN6で、データcolorとデータexcolorとが同じ色を表していると判別すると、変数xspotに変数xoffの値と変数ssの値の和を代入し、変数yspotに変数yoffの値と変数ttの値との和を代入して(ステップSN10)、処理をステップS22に移す。
なお、データcolor及びデータexcolorがいずれも赤色を表している状態では、変数xoff及び変数yoffの値はいずれも0であるので、ステップSN10の処理では、変数xspotの値は変数ssの値に等しくなり、変数yspotの値は変数ttの値に等しくなる。
【0272】
ステップS22の処理が開始される時点での変数xspot及び変数yspotが示す座標(xspot,yspot)の値は、スポット光抽出処理で抽出されたスポットの色が赤色である場合は、最も赤評価値が高かった画素の位置の座標を示す。一方、緑色(又は青色)である場合は、最も緑評価値(又は青評価値)が高かった画素の位置の座標のx軸方向成分(又はy軸方向成分)に、スポットの色が赤色から緑色(又は青色)に切り替わった時点に生じたスポットの位置の座標のx軸方向成分(又はy軸方向成分)のずれにあたる量が加算された値を示す。
【0273】
(第5の実施の形態)
表示部3の表示画面上に表示される輝点の位置は、抽出されたスポット光の絶対的な位置に基づいて決定される必要はない。以下では、表示される輝点の位置が、輝点が表示された最新の位置と、スポット光が当たった点の移動速度とに基づいて決定される、この発明の第5の実施の形態にかかる描画システムを説明する。
【0274】
この描画システムは、図39に示す構成を有している。すなわち、この描画システムは、座標変換部12bを備えず、水晶発振器等からなるタイマTを備える点を除き、図2に示す構成と実質的に同一の物理的構成を有する。図39の構成のタイマTは、現在時刻を表す時刻情報を生成し、スポット光抽出部12aへと連続的に供給する。
【0275】
一方、この描画システムのRAM13は、変数locx、変数locy、2次元変数(xb,yb)を構成する変数xb及び変数ybを記憶し、中央制御部11は、この描画システムが動作を開始したとき、これら4個の変数にそれぞれ値0を代入することにより、これら4個の変数を初期化する。
そして、スポット光抽出部12aは、スポット光抽出処理を終え、座標(xspot,yspot)を終えると、ステップS3に処理を移す前に、図40に示す補間処理を行う。なお、この描画システムは、ステップS22の処理は行わなず、スポット光抽出処理を終えると、直ちにステップS3へと処理を移す。
【0276】
すなわち、スポット光抽出部12aは、ステップS21で座標(xspot,yspot)を求めた後、ステップS3に処理を移す前に、タイマTから供給される時刻情報を取得する(ステップSO1)。そして、最も新しく求めた座標(xspot,yspot)と、最も新しく取得した時刻情報とを、互いに対応付けてRAM13に記憶させる。
【0277】
次に、スポット光抽出部12aは、変数xspot、変数yspot、変数xb及び変数ybを読み出し、読み出したこれらの変数の値に基づき、数式18の右辺の値vx1及び数式19の右辺の値vy1を求め、RAM13に記憶させる(ステップSO2)。値vx1及び値vy1は、最も新しくスポットを求めた時刻におけるスポットの移動速度のx軸方向成分及びy軸方向成分である。
【0278】
【数18】
vx1=N・{(xspot−xb)/(t1−t0)}
(ただし、Nは所定の定数、t1は最も新しく取得した現在時刻、t0は最も新しい方から2番目に取得した現在時刻)
【数19】
vy1=N・{(yspot−yb)/(t1−t0)}
【0279】
次に、スポット光抽出部12aは、変数locxの値を、変数vx1の値の分増加させ、変数locyの値を、変数vy1の値の分増加させる(ステップSO3。ただし、値vx1や値vy1が負の値であれば、変数locxの値や変数locyの値は減少する)。
また、ステップSO3でスポット光抽出部12aは、2次元変数(xb,yb)にステップS21で最も新しく求めた座標(xspot,yspot)を代入し、2次元変数(xb,yb)に対応付けられている時刻情報があれば、この時刻情報を、新たに代入した座標(xspot,yspot)に対応付けられている時刻情報へと更新する。2次元変数(xb,yb)に対応付けられている時刻情報がないときは、新たに代入した座標(xspot,yspot)に対応付けられている時刻情報を2次元変数(xb,yb)に新たに対応付ければよい。
【0280】
そして、スポット光抽出部12aは、値を変更した変数locx及び変数locyにより表される座標(locx,locy)を、表示部3の表示画面上でスポットを表示する表示位置の座標と決定する。このようにしてスポットを表示する表示位置の座標を決定することにより、スポットの絶対的な位置のキャリブレーションを行う必要がなくなる。
【0281】
なお、上述の値Nは、必ずしも定数である必要はなく、例えば、変数xspot及び変数yspotのうち少なくともいずれかの関数であってもよい。従って、例えば図41に示すように、値Nが変数xspot及び変数yspotの関数N(xspot,yspot)であるものとして、関数N(xspot,yspot)の値は、座標(xspot,yspot)が示す位置が、画像入力部2が撮像する視野領域の中央に近い位置であるほど大きくなるものとしてもよい。
【0282】
(第5の実施の形態の変形例)
表示部3の表示画面上に表示される輝点の位置や形状は、発光部4の発光部分の空間内での位置に基づいて決定されてもよい。こうすることにより、たとえば、表示部3の表示画面上に、毛筆(あるいはその他筆圧の変化に従って筆先の形状が変わる筆記具)のタッチを擬似的に再現した輝点の軌跡を表示させることができる。
【0283】
表示部3の表示画面上に、毛筆のタッチを擬似的に再現した輝点の軌跡を表示させるためには、この描画システムは、たとえば図42に示す構成を有し、スポット光抽出処理として図43に示す処理を行うものとすればよい。
【0284】
図42に示するように、この描画システムは、画像入力部2に代えて、互いに実質的に同一の構成を有する画像入力部2A及び画像入力部2Bを備える。画像入力部2A及び2Bは、いずれも画像入力部2と実質的に同一の構成を有するものとし、図44に示すように、互いに視野が重なるように配置されているものとする。
【0285】
そして、ステップS1の処理において、画像入力部2A及び2Bは、それぞれ互いに重なる視野を撮像して、撮像した画像を表す画像データを作成し、データ処理装置1の中央制御部11に供給する。中央制御部11は、画像入力部2A及び2Bより1個ずつ、合計2個の画像データを供給されると、これらの画像データをRAM13に格納するものとする。
【0286】
また、発光部4は、赤色発光ダイオード等からなり赤色に発光する赤発光部と、青色発光ダイオード等からなり青色に発光する青発光部とを備えているものとする。赤発光部及び青発光部を結ぶ直線は、仮想の筆記具の軸を表すものであるとする。
【0287】
また、外部記憶部14は、筆先形状データを予め記憶している。筆先形状データは、表示部3の表示画面上に表示されるべき輝点の形状を表すデータである。
図45は、筆先形状データのデータ構造の例を示す図である。図示するように、筆先形状データは、発光部4の赤発光部と空間内の仮想の平面との距離と、赤発光部及び青発光部を結ぶ直線とこの仮想の平面とがなす角の角度とに対応付けられていて、この距離及び角度を特定することにより、輝点の形状が一意に特定されるようになっているものとする。
【0288】
そして、図42の描画システムのスポット光抽出部12aは、スポット光抽出処理を開始すると、上述したステップSG1〜SG12の処理と実質的に同一の処理を、画像入力部2Aから供給された画像データ及び画像入力部2Bから供給された画像データの各々について行う(図43、ステップSP1)。
【0289】
ただし、ステップSP1で、スポット光抽出部12aは、変数Gmや変数Gxを使用する必要はなく、また、ステップSG6〜ステップSG8の処理に相当する処理を行う必要はない。
また、スポット光抽出部12aは、画像入力部2Aが供給した画像データを用いてステップSG1〜SG12にあたる処理を行うときには、変数Rx、変数Ry及び変数Rmに代えて変数RxA、変数RyA及び変数RmAを用い、また、変数Bx、変数By及び変数Bmに代えて変数BxA、変数ByA及び変数BmAを用いる。
また、画像入力部2Bが供給した画像データを用いてステップSG1〜SG12にあたる処理を行うときには、変数Rx、変数Ry、変数Rm、変数Bx、変数By及び変数Bmに代えて、変数RxB、変数RyB、変数RmB、BxB、変数ByB及び変数BmBを用いる。
【0290】
ステップSP1の処理を終了した時点での変数RxA及びRyAの値は、画像入力部2Aが供給した画像データが表す画素のうち赤色がもっとも強い画素の位置のx軸方向成分及びy軸方向成分を表し、変数RmAの値が、この画素の赤評価値を表す。また、変数BxA及びByAの値は、画像入力部2Aが供給した画像データが表す画素のうち青色がもっとも強い画素の位置のx軸方向成分及びy軸方向成分を表し、変数BmAの値が、この画素の青評価値を表す。
【0291】
また、ステップSP1の処理を終了した時点での変数RxB及びRyBの値は、画像入力部2Bが供給した画像データが表す画素のうち赤色がもっとも強い画素の位置のx軸方向成分及びy軸方向成分を表し、変数RmBの値が、この画素の赤評価値を表す。また、変数BxB及びByBの値は、画像入力部2Bが供給した画像データが表す画素のうち青色がもっとも強い画素の位置のx軸方向成分及びy軸方向成分を表し、変数BmBの値が、この画素の青評価値を表す。
【0292】
次に、スポット光抽出部12aは、変数RxA、変数RyA、変数RxB及び変数RyBの値に基づいて、画像入力部2A及び2Bが撮像を行った時点における発光部4の赤発光部の空間内の位置を特定する(ステップSP2)。また、ステップSP2でスポット光抽出部12aは、変数BxA、変数ByA、変数BxB及び変数ByBの値に基づいて、画像入力部2A及び2Bが撮像を行った時点における発光部4の青発光部の空間内の位置も特定する。
【0293】
次に、スポット光抽出部12aは、ステップSP2で特定した、赤発光部及び青発光部の位置に基づき、空間内の仮想の平面と赤発光部との距離、及び、赤発光部及び青発光部を結ぶ直線とこの仮想の平面とがなす角の角度を求める(ステップSP3)。
【0294】
そして、スポット光抽出部12aは、外部記憶部14に記憶されている筆先形状データのうち、ステップSP3で特定された距離及び角度に対応付けられているものを特定する(ステップSP4)。
ステップSP4で特定した筆先形状データが、画像入力部2A及び2Bが撮像を行った時点における発光部4の仮想の筆先の形状を示す。ステップS3で、中央制御部11は、スポットの表示位置に、ステップSP4で特定した筆先形状データが示す形状のスポットを表示する。この結果、表示部3の表示画面上には、例えば図46に示すような、毛筆のタッチが再現された形の軌跡が表示される。
【0295】
(第6の実施の形態)
この発明の実施の形態にかかる描画システムでは、発光部4が、自己が発光しているか否かを示すデータをデータ処理装置1に送信し、データ処理装置1がこのデータを受信して、受信したデータに基づき、スポットが形成されているか否かを検知するようにしてもよい。このような動作を行う描画システムでは、発光部4が発光していないときに誤ってスポットの抽出や輝点の表示が行われることが防止される。以下、このような動作を行う、この発明の第6の実施の形態の描画システムを説明する。
【0296】
この描画システムは、図47に示す構成を有している。すなわち、この描画システムは、図2に示す構成と実質的に同一の物理的構成を有し、更に、発光部4が送信部401を備え、データ処理装置1が受信部16を備えている。また、発光部4の発光部分は、ユーザの操作に従って点灯又は消灯するものとする。
【0297】
発光部4の送信部401は、たとえば、図示するように、無線送信機401Aと、発光部4の発光部分をオン/オフするためのスイッチ401Bとより構成されており、ユーザがスイッチ401Bを操作して発光部分を点灯状態(又は消灯状態)にすると、無線送信機401Aがこの操作に応答して、発光部分が点灯状態(又は消灯状態)にあることを示すデータを無線送信する。ただし無線送信機401Aは、発光部分が点灯状態にあることを示すデータ又は消灯状態にあることを示すデータのうちいずれかは送信しないようにしてもよい。
【0298】
一方、データ処理装置1の受信部16は、例えば、無線受信機より構成されており、発光部4の送信部401より供給された、発光部分が点灯状態(又は消灯状態)にあることを示すデータを受信して中央制御部11に供給する。
ただし、受信部16は、発光部分が点灯状態(又は消灯状態)にあることを示すデータを受信していない間は、発光部分が消灯状態(又は点灯状態)にあることを示すデータを中央制御部11に供給するものとしてもよい。また、中央制御部11は、発光部分が点灯状態(又は消灯状態)にあることを示すデータが受信部16より供給されていない間は、発光部分が消灯状態(又は点灯状態)にあると判別するようにしてもよい。
【0299】
図47の描画システムの動作は、第1の実施の形態の描画システムの動作と実質的に同一である。ただし、中央制御部11は、受信部16から供給されるデータに基づいて、発光部4が発光しているか否かを示す情報をスポット光抽出部12aに供給する。スポット光抽出部12aは、中央制御部11より供給された情報が、発光部4が発光していることを示すか否かを判別して、示していないと判別したときは、座標(xspot,yspot)の抽出を行わないものとする。
そして、座標変換部12bは、座標(xspot,yspot)が抽出されていない間は座標(xdisp,ydisp)の決定を行わず、中央制御部11は、座標(xdisp,ydisp)が決定されない場合は、表示部3に輝点を表示させないものとする。
【0300】
(第7の実施の形態)
次に、この発明の第7の実施の形態にかかる描画システムを説明する。
この描画システムは、図48に示すように、発光部4を除いて図2に示す構成と実質的に同一の物理的構成を有している。
【0301】
図48の描画システムの発光部4は、発光ダイオード等からなる発光体41と、点灯用スイッチ42と、輝度増加用スイッチ43と、本体部44と、発光部駆動回路45とより構成されている。
本体部44は両端を有する棒状に形成されており、本体部44の一端には発光体41が固定されている。点灯用スイッチ42及び輝度増加用スイッチ43は、本体部44の側部に固定されている。発光部駆動回路45は、本体部44の内部に埋め込まれており、発光体41、点灯用スイッチ42及び輝度増加用スイッチ43は、発光部駆動回路45に接続されている。
【0302】
発光体41は、ユーザによる点灯用スイッチ42及び輝度増加用スイッチ43の操作に従い、「点灯していない」「高輝度で点灯している」「低輝度で点灯している」の3種類の点灯状態のうちいずれかをとる。
【0303】
具体的には、たとえば、ユーザが点灯用スイッチ42を操作し、発光体41の点灯を指示すると、発光部駆動回路45はこの指示に応答して発光体41を駆動し、発光体41を発光させる。また、ユーザが輝度増加用スイッチ43を操作し、発光体41を高輝度で点灯させるよう指示すると、発光部駆動回路45はこの指示に応答して発光体41を駆動し、発光体41を、高輝度での点灯が指示されていないときに比べて高輝度で発光させる。なお、ユーザが点灯用スイッチ42及び輝度増加用スイッチ43を同時に操作した場合、発光部駆動回路45は、たとえば、これら両者の同時の操作が開始された時点の点灯状態を維持する。
【0304】
あるいは、発光部駆動回路45は、たとえばユーザの操作に従って発光体41が発光している状態で、ユーザが更に輝度増加用スイッチ43を操作し、発光体41を高輝度で点灯させるよう指示したとき、発光体41を、高輝度での点灯が指示されていないときに比べて高輝度で発光させるようにしてもよい。
【0305】
図48の描画システム(または、発光部4以外の部分が図48に示す構成を有していて発光部4が2段階の輝度で発光する構成を有しているような描画システム)は、ステップS21の処理を終えた後、ステップS3の処理を行う前に、図49に示す処理を行うようにしてもよい。
【0306】
すなわち、ステップS21でスポットの輝度Rmaxを求めた後、スポット抽出部12aは、輝度Rmaxの値が、発光部4の点灯/非点灯を判別するための所定の低輝度側の閾値に達しているか否かを判別する(図49、ステップSQ1)。
【0307】
また、この描画システムが動作を開始して最初のスポット光抽出処理においては、ステップSQ1でスポット光抽出部12aは更に、変数STATの使用を宣言して初期化する。変数STATは、3種類の点灯状態(つまり「点灯していない」、「高輝度で点灯している」及び「低輝度で点灯している」の3種類の状態)示す3値をとる変数である。そして、スポット光抽出部12aは、変数STATに、発光部4が点灯していないことを示す値を代入することにより変数STATを初期化する。
【0308】
そして、ステップSQ1で、輝度Rmaxの値が低輝度側の閾値に達していないと判別すると、スポット光抽出部12aは、発光部4が点灯していないと判断し、処理をステップSQ3に移す。
【0309】
一方、低輝度側の閾値に達していると判別すると、スポット光抽出部12aは、輝度Rmaxの値が、発光部4の輝度の高低を判別するための高輝度側の閾値に達しているか否かを判別する(ステップSQ2)。そして、達していないと判別すると、発光部4が低輝度で点灯していると判断して処理をステップSQ3に移し、達していると判別すると発光部4が高輝度で点灯していると判断して、処理をステップSQ3に移す。
【0310】
ステップSQ3で、スポット光抽出部12aは、ステップSQ1又はSQ2で判断された発光部4の最新の点灯状態(すなわち、点灯していないか、低輝度で点灯しているか、又は高輝度で点灯しているか)と、変数STATが示す、直近の前回の発光部4の点灯状態とに基づき、中央制御部11に供給すべきデータの内容を決定し、決定結果に従ったデータを中央制御部11に供給する。
【0311】
具体的には、例えば、スポット光抽出部12aは、変数STATが示す前回の点灯状態が「点灯していない」である場合、最新の点灯状態が「点灯していない」又は「低輝度で点灯している」であれば、中央制御部11にはデータを供給しないことを決定する。一方、前回の点灯状態が「点灯していない」であって最新の点灯状態が「高輝度で点灯している」であれば、発光部4が高輝度での点灯を開始したことを示すデータを中央制御部11に供給する。
【0312】
また、前回の点灯状態が「低輝度で点灯している」である場合、最新の点灯状態が「点灯していない」であれば、中央制御部11にはデータを供給しないことを決定する。一方、前回及び最新の点灯状態がいずれも「低輝度で点灯している」であれば、スポット光抽出部12aは上述のステップSO1〜SO3の処理を行い、これらの処理の結果決定される上述の座標(locx,locy)を、表示部3の表示画面上でスポットを表示する表示位置の座標であるものとして中央制御部11に供給する。
【0313】
また、前回の点灯状態が「高輝度で点灯している」である場合、最新の点灯状態が「点灯していない」又は「低輝度で点灯している」であれば、発光部4が高輝度での点灯を終了したことを示すデータを中央制御部11に供給する。一方、前回及び最新の点灯状態がいずれも「高輝度で点灯している」であれば、ステップSO1〜SO3の処理を行い、決定された座標(locx,locy)を中央制御部11に供給する。
【0314】
座標(locx,locy)を供給された中央処理部11は、ステップS3で、表示部3に、座標(locx,locy)により表される位置にスポットを表示させる。
【0315】
また、発光部4が高輝度での点灯を開始したこと(又は終了したこと)を示すデータを供給された中央制御部11は、供給されたデータが示す点灯状態に基づいて自己が行う処理の内容を決定したりしてよい。
たとえば、中央制御部11は、発光部4をマウスとして機能させるために、発光部4が高輝度での点灯を開始した旨のデータを供給されたときはマウスのボタンが押下されたと判別し、高輝度での点灯を終了した旨のデータを供給されたときはマウスのボタンの押下が終了したと判別し、これらの判別の結果に基づいて、判別以後の処理の内容を決定してもよい。
【0316】
なお、ステップSQ3の処理が終わると、スポット光抽出部12aは、変数STATの値を、最新の点灯状態を表すよう更新する(ステップSQ4)。
【0317】
なお、発光部4の形状は任意であり、従って、たとえば図50に示すようなピストル型であってもよい。この場合たとえば、図示するように、発光体41は、ピストルの銃口にあたる位置に配置されればよい。また、点灯用スイッチ42は、ピストルの引き金にあたる位置に配置されればよい。また、輝度増加用スイッチ43は、ピストルの撃鉄にあたる位置に配置されればよい。なお、発光部駆動回路45は、図示するようにピストルの銃身の内部にあたる位置に配置されていてもよいし、ピストルのグリップの内部に当たる位置に配置されていてもよい。
そして、たとえば操作者がピストルのグリップにあたる部分を握り、人差し指あるいは中指を用いて点灯用スイッチ42を操作し、親指を用いて輝度増加用スイッチ43を操作するようにすれば、図50の発光部4は快適に操作される。
【0318】
あるいは、発光部4の形状は、たとえば図51に示すような形状であってもよい。すなわち、図示するように、発光体41は、棒状に形成された本体部44の一端に配置され、点灯用スイッチ42及び輝度増加用スイッチ43は、本体部44の側部に、本体部44を挟むように配置されていてもよい。
【0319】
また、図48の描画システムは、テレビ電話の機能を行うため、例えば図52に示すように、更に、ネットワークインターフェース部17、通信用画像入力部18、通信用音声入力部19及び通信用音声再生部20を更に備えていてもよい。
【0320】
ネットワークインターフェース部17、通信用画像入力部18、通信用音声入力部19及び通信用音声再生部20は、後述する処理を行うものであり、ネットワークインターフェース部17は、外部の電話回線等の通信回線を介して外部の通話先に接続されるモデムやターミナルアダプタ等より構成されている。通信用画像入力部18は、CCD(Charge Coupled Device)カメラ等より構成されている。通信用音声入力部19は、マイクロフォン及びAF(オーディオ周波数)増幅器等より構成されている。通信用音声再生部20は、スピーカ及びAF増幅器等より構成されている。
【0321】
図52の描画システムは、テレビ電話の機能を行うため、図53(a)〜(d)に示す処理を行う。
すなわち、中央制御部11は、通信用画像入力部18より供給された画像データを取得し(図53(a)、ステップSR1)、取得した画像データにデータ圧縮を施して、ネットワークインターフェース部17を介し、通話先へと送信する(ステップSR2)。そして、中央制御部11は、送信した画像データに基づいて、図54に示すように、この画像データが表す画像を縮小したものを表す縮小画像(ユーザ側の画像)を、表示部3に表示させる(ステップSR3)。
【0322】
また、圧縮されている画像データが通話先からネットワークインターフェース部17を介して中央制御部11に供給されたとき、中央制御部11はこの画像データを取得し(図53(b)、ステップSR4)、取得した画像データを解凍して、解凍された画像データが表す画像(相手側の画像)を、図54に示すように表示部3に表示させる(ステップSR5)。
【0323】
また、中央制御部11は、通信用音声入力部19より供給された音声データを取得し(図53(c)、ステップSR6)、取得した音声データにデータ圧縮を施して、ネットワークインターフェース部17を介し、通話先へと送信する(ステップSR2)。
【0324】
また、圧縮されている音声データが通話先からネットワークインターフェース部17を介して中央制御部11に供給されたとき、中央制御部11はこの音声データを取得し(図53(d)、ステップSR8)、取得した音声データを解凍して、解凍された音声データが表す音声を、通信用音声再生部20に再生させる(ステップSR9)。
【0325】
また、中央制御部11は、図54に示すように、表示部3に、更に、マイク音量アップボタンと、マイク音量ダウンボタンと、相手音量アップボタンと、相手音量ダウンボタンと、画像記録ボタンと、通話終了ボタンとを表示させる。
そして、ユーザが発光部4を用いてマイク音量アップボタンをポイントして高輝度で点灯させると、中央制御部11は、通信用音声入力部19のAF増幅器を制御してこのAF増幅器の利得を上げる。また、マイク音量ダウンボタンをポイントして高輝度で点灯させると、このAF増幅器の利得を下げる。
また、ユーザが発光部4を用いて相手音量アップボタンをポイントして高輝度で点灯させると、中央制御部11は、通信用音声再生部20のAF増幅器を制御してこのAF増幅器の利得を上げる。また、相手音量ダウンボタンをポイントして高輝度で点灯させると、このAF増幅器の利得を下げる。
また、ユーザが発光部4を用いて画像記録ボタンをポイントして高輝度で点灯させると、中央制御部11は、ステップSR4で取得して解凍した画像データを外部記憶部14に記憶させる。
また、ユーザが発光部4を用いて通話終了ボタンをポイントして高輝度で点灯させると、中央制御部11は、ネットワークインターフェース部17を制御して、通話先とのデータ交換を終了させる。
【0326】
(第8の実施の形態)
この発明は、スポット光を用いた文字の入力にも応用可能である。携帯電話やPHS(Personal Handyphone System)などの携帯端末において、テンキーを複数回押下することにより、押下したボタンの組み合わせに対応付けられた文字を入力する手法が用いられている。しかし、このようにテンキーを複数回押下する手法は非常に煩雑で入力の効率が悪い。この点、この発明に係る文字入力装置によれば、簡単で効率の良い文字入力を携帯端末等を用いて行うことが可能となる。以下では、そのような簡単で効率の良い文字入力が可能な、この発明の第8の実施の形態にかかる文字入力装置を説明する。
【0327】
この文字入力装置は、図56に示す構成を有する。すなわち、この文字入力装置は、図2の描画システムを構成するものと機能的には実質的に同一のデータ処理装置1、画像入力部2、表示部3及び発光部4を備え、更に、中央制御部11に接続された入力ボタン5を備えている。
入力ボタン5は、押しボタンスイッチ等より構成されており、操作者の操作に従った情報を、データ処理装置1の中央制御部11に供給する。
【0328】
なお、図57に示すように、この文字入力装置のデータ処理装置1、画像入力部2、表示部3及び入力ボタン5は、一体に形成されて本体部をなしている。本体部は、例えば、移動体電話(携帯電話やPHS等)の機能を行ってもよい。また、発光部4は、例えばストラップ等を介して本体部に装着される。
【0329】
また、この文字入力装置のデータ処理装置1の外部記憶部14は、仮想のキーボードを構成する各々の仮想のキーのキートップが表示部3の表示画面上で占める領域(キー領域)を示すキー領域データを、各々のキーが示す文字と対応付けて記憶するものとする。
【0330】
この文字入力装置の動作は、画像入力処理(ステップS1)、スポット光抽出処理(ステップS21)及び補間処理(ステップSO1〜SO3)については、図39に示す第5の実施の形態の描画システムの動作と実質的に同一である。一方で、この文字入力装置は、図58に示す処理も行う。
【0331】
すなわち、この文字入力装置の画像解析部12がステップSO3の処理を終えると、ステップS3で中央制御部11は、スポットを表示部3の表示画面上に表示させると共に、外部記憶部14よりキー領域データを読み出してRAM13に一時記憶させ、表示部3の表示画面上、このキー領域データが示す各領域に、図59に示すような、上述の仮想のキーのキートップを表示させる(図58、ステップSS1)。ただし、既にRAM13がキー領域データを一時記憶している場合は、改めて外部記憶部14からキー領域データを読み出す必要はない。
【0332】
ステップSS1の処理が行われる結果、ユーザは、スポットがどのキートップに重ねられたかを視認することができる。なお、仮想のキーのキートップの表示は、たとえば、キートップの形状を表すキートップ画像データを予めユーザ等が外部記憶部14に記憶させ、中央制御部11がこのキートップ画像データを外部記憶部14から読み出し、読み出したキートップ画像データが表す形状を表示部3に表示させることにより行えばよい。
【0333】
そして、ステップSS1でスポット及び仮想のキートップを表示させると、中央制御部11は、画像入力部2が新たな画像データを供給するまでの間、ユーザが入力ボタン5を操作して文字の決定を指示するのを待機する。そして、新たな画像データが供給されるまでにユーザによる文字の決定の指示があったか否かを判別し(ステップSS2)、指示がなかったと判別すると、ステップS21へと処理を戻す。
【0334】
一方、ユーザが文字の決定を指示したと判別すると、中央制御部11は、現にスポットが表示されている位置がいずれの文字を表すキーのキートップが示す領域に属するかを、ステップSO3でもっとも新しく取得したスポットの座標(locx,locy)に基づいて判別する(ステップSS3)。そして、画像解析部12は、ステップSS1で判別された文字(すなわち、ユーザが入力した文字)を表すデータを生成し、このデータをRAM13に格納する(ステップSS4)。
【0335】
ステップSS4の処理が終わると、中央制御部11は、画像入力部2が新たな画像データを供給するのを待機し、供給されると処理をステップS21に戻す。
【0336】
ステップSS4の処理が行われるたびに文字を表すデータがRAM13に順次格納される一方、中央処理部11は、例えば、RAM13に順次格納されたこれらのデータを解析することにより、例えばこれらのデータが全体として表す文字列がどのようなコマンドを表しているかを特定する。そして、特定したコマンドに従った処理を実行する。
【0337】
なお、文字の入力に際しては、ユーザが発光部4の位置の見当をつけやすくするため、予めキー領域データが示す領域に一致するようにキートップが印刷されたシートを、画像入力部2の視野内に掲げるようにしてもよい。また、キートップが印刷されたシートを掲げる代わりに、キートップの画像を投影するようにしてもよい。
【0338】
以上、この発明の実施の形態を説明したが、この発明の画像表示装置及び画像表示方法は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。例えば、画像を表示する表示装置及び画像を撮像してその画像を表す画像データを作成する撮像装置に接続されたコンピュータに、上述のデータ処理装置の動作を実行するためのプログラムを格納した媒体(磁気テープ、CD−ROM等)から該プログラムをインストールすることにより、上述の処理を実行する描画システムや文字入力装置を構成することができる。
【0339】
また、例えば、通信ネットワークの掲示板(BBS)に該プログラムを掲示し、これをネットワークを介して配信してもよい。また、プログラムにより搬送波を変調して得られる変調波を配信することにより、プログラムを供給するようにしても良い。
そして、このプログラムを起動し、OSの制御下に、他のアプリケーションプログラムと同様に実行することにより、上述の処理を実行することができる。
【0340】
なお、OSが処理の一部を分担する場合、あるいは、OSが本願発明の1つの構成要素の一部を構成するような場合には、記録媒体には、その部分をのぞいたプログラムを格納してもよい。この場合も、この発明では、その記録媒体には、コンピュータが実行する各機能又はステップを実行するためのプログラムが格納されているものとする。
【0341】
【発明の効果】
以上説明したように、この発明によれば、撮像装置を任意の位置に置いても適正な表示画面を提供するとともに、撮像されたスポット(補助光)の位置を表示画面に正しく反映することができる、操作性が良好な画像表示装置及び画像表示方法が実現される。
【図面の簡単な説明】
【図1】この発明の第1の実施の形態に係る描画システムの構成を示す図である。
【図2】図1の描画システムの各部の接続関係及びデータ処理装置の構成を示すブロック図である。
【図3】図1の描画システムの描画処理を示すフローチャートである。
【図4】図1の描画システムの画像解析処理を示すフローチャートである。
【図5】図1の描画システムのスポット光抽出処理を示すフローチャートである。
【図6】図1の描画システムの座標変換処理を示すフローチャートである。
【図7】(a)は、画像入力部が撮像した画像の形状を示す図であり、(b)は、表示部の表示画面上で画像が占める領域の形状を示す図である。
【図8】図1の描画システムの変形例の構成を示す図である。
【図9】座標変換処理を示すフローチャートである。
【図10】変換前の表示領域及び変換後の表示領域を示す図である。
【図11】第1の実施の形態の変形例におけるデータ処理装置の動作フローチャートである。
【図12】第1の実施の形態の変形例におけるキャリブレーション処理を示すフローチャートである。
【図13】第1の実施の形態の変形例における座標変換処理を示すフローチャートである。
【図14】第1の実施の形態の変形例における座標変換処理を説明する図である。
【図15】第1の実施の形態の変形例における座標変換処理を示すフローチャートである。
【図16】(a)は変換前の表示領域を示す図であり、(b)は変換後の表示領域を示す図である。
【図17】第2の実施の形態におけるキャリブレーション処理を示すフローチャートである。
【図18】第2の実施の形態における描画処理を示すフローチャートである。
【図19】第3の実施の形態におけるレベル閾値設定の処理を示すフローチャートである。
【図20】第3の実施の形態におけるレベル検出処理を示すフローチャートである。
【図21】レベル閾値設定の処理の変形例を示すフローチャートである。
【図22】(a)、(b)、(c)及び(d)は、発光部が発するスポット光のパターンを模式的に示す図である。
【図23】スポット光のパターンを検出するスポット光抽出処理を示すフローチャートである。
【図24】スポット光のパターンを検出するスポット光抽出処理の変形例を示すフローチャートである。
【図25】図24のフローチャートの続きである。
【図26】図25のフローチャートの続きである。
【図27】図26のフローチャートの続きである。
【図28】スポット光の検出の誤りが防止される様子を説明する図である。
【図29】(a)及び(b)は、発光部が発する単色のスポット光のパターンを模式的に示す図である。
【図30】単色のスポット光のパターンを検出するスポット光抽出処理を示すフローチャートである。
【図31】重み関数を表すグラフである。
【図32】この発明の第4の実施の形態に係る描画システムの構成を示す図である。
【図33】補間処理を示すフローチャートである。
【図34】スポットの平均位置を求める処理を示すフローチャートである。
【図35】スポットの平均位置を求める処理の変形例を示すフローチャートである。
【図36】スポットの平均位置を求める処理の変形例を示すフローチャートである。
【図37】スポットの平均位置を求める処理の変形例を示すフローチャートである。
【図38】スポット光抽出処理を示すフローチャートである。
【図39】この発明の第5の実施の形態に係る描画システムの構成を示す図である。
【図40】補間処理を示すフローチャートである。
【図41】表示画面上の位置と関数Nの値との関係を示す図である。
【図42】この発明の第5の実施の形態に係る描画システムの変形例の構成を示す図である。
【図43】図43の描画システムが行うスポット光抽出処理の各要素の配置を模式的に示す図である。
【図44】図43の描画システムの各要素の配置を模式的に示す図である。
【図45】筆先形状データのデータ構造を模式的に示す図である。
【図46】図43の描画システムが表示するスポットの軌跡を模式的に示す図である。
【図47】この発明の第6の実施の形態に係る描画システムの構成を示す図である。
【図48】この発明の第7の実施の形態に係る描画システムの構成を示す図である。
【図49】図48の描画システムが実行する処理を示すフローチャートである。
【図50】発光部の変形例を模式的に示す図である。
【図51】発光部の変形例を模式的に示す図である。
【図52】この発明の第7の実施の形態に係る描画システムの変形例の構成を示す図である。
【図53】(a)、(b)(c)及び(d)は、図52の描画システムが実行する処理を示すフローチャートである。
【図54】図52の描画システムが表示する画像を模式的に示す図である。
【図55】図54の画像内のボタンをクリックする様子を模式的に示す図である。
【図56】この発明の第8の実施の形態に係る文字入力装置の構成を示す図である。
【図57】図56の文字入力装置が一体に形成されている様子を模式的に示す図である。
【図58】図56の文字入力装置が実行する処理を示すフローチャートである。
【図59】図56の文字入力装置が表示するキートップの画像を模式的に示す図である。
【符号の説明】
1…データ処理装置、11…中央制御部(撮像制御手段、表示制御手段)、12…画像解析部(加工手段)、12a…スポット光抽出部(計測手段)、12b…座標変換部(座標変換手段)、12c…補間処理部、13…RAM、14…外部記憶部、15…ユーザ操作入力部、16…受信部、17…ネットワークインターフェース部、18…通信用画像入力部、19…通信用音声入力部、20…通信用音声再生部、2、2A、2B…画像入力部(撮像手段)、3…表示部(表示手段)、4…発光部、401…送信部、401A…無線送信機、401B…スイッチ、41…発光体、42…点灯用スイッチ、43…輝度増加用スイッチ、44…本体部、45…発光部駆動回路、5…入力ボタン、T…タイマ
Claims (5)
- スポット及びこのスポットを含む領域を任意の位置から撮像する撮像手段と、この撮像手段によって撮像された領域の画像データを生成する生成手段と、この生成手段によって生成された画像データに基づく画像を表示する表示手段とを備えた画像表示装置において、
前記画像データを加工する加工手段と、
前記領域における前記スポットの位置座標を計測する計測手段と、
この計測手段によって計測された前記スポットの位置座標を、前記加工手段による加工の結果得られる加工後の画像データに反映される位置座標に変換する座標変換手段と、
を備え、
加工前の画像データが表す加工前の領域は四角形であり、前記加工手段による加工後の画像データが表す加工後の領域は長方形であり、
前記加工手段は、加工前の領域をなす四角形の対向する2辺の交点の各々と当該四角形の対角線の交点とを結ぶ2本の直線により加工前の領域をなす四角形を4分割して得られる4つの四角形のうちいずれに前記スポットが含まれるかを判別し、加工後の領域をなす長方形の内部にある点を、スポットが含まれると判別された四角形の頂点のうち加工前の領域をなす四角形の頂点を兼ねている頂点に相当するものの方向へ、四角形の4分割を行った回数が多いほど小さくなるような所定量だけ移動する処理を行い、前記スポットが含まれると判別した四角形を加工前の領域をなす四角形とみなして、加工後の領域をなす長方形の内部にある点の位置が実質的に一定の位置に収束するまで更に前記処理を繰り返して行ったとした場合に、収束した点の位置が加工後の画像データが表すスポットの位置になるように、前記画像データを加工する、
ことを特徴とする画像表示装置。 - 前記計測手段は、複数の加工前の画像データに基づき、2つの時刻におけるスポットの位置及び速度を特定する手段を備え、
前記加工手段は、前記計測手段が特定した、前記2つの時刻におけるスポットの位置及び速度に基づき、当該2つの時刻間における当該スポットの推定位置を決定し、決定した推定位置にスポットが位置する画像を表すように、加工前の画像データを加工する、
ことを特徴とする請求項1に記載の画像表示装置。 - 前記計測手段は、複数の加工前の画像データに基づき、スポットの速度を特定する手段を備え、
前記加工手段は、前記計測手段が特定した速度、及び、加工後の画像データが表す画像内でスポットが占めた最新の位置に基づき、加工後の画像データが示す画像内でスポットが次に占めるべき位置を決定し、決定した位置にスポットが来るように画像データを加工する、
ことを特徴とする請求項1に記載の画像表示装置。 - スポットと、このスポットを含む領域を任意の位置から撮像する撮像ステップと、この撮像ステップにて撮像された領域の画像データを生成する生成ステップと、この生成ステップにて生成された画像データに基づく画像を表示画面に表示させる表示ステップとからなる画像表示方法であって、
前記画像データを加工する加工ステップと、
前記領域における前記スポットの位置座標を計測する計測ステップと、
この計測ステップにて計測された前記スポットの位置座標を、前記加工ステップでの加工の結果得られる加工後の画像データに反映される位置座標に変換する座標変換ステップと、
を含み、
加工前の画像データが表す加工前の領域は四角形であり、前記加工ステップでの加工後の画像データが表す加工後の領域は長方形であり、
前記加工ステップでは、加工前の領域をなす四角形の対向する2辺の交点の各々と当該四角形の対角線の交点とを結ぶ2本の直線により加工前の領域をなす四角形を4分割して得られる4つの四角形のうちいずれに前記スポットが含まれるかを判別し、加工後の領域をなす長方形の内部にある点を、スポットが含まれると判別された四角形の頂点のうち加工前の領域をなす四角形の頂点を兼ねている頂点に相当するものの方向へ、四角形の4分割を行った回数が多いほど小さくなるような所定量だけ移動する処理を行い、前記スポットが含まれると判別した四角形を加工前の領域をなす四角形とみなして、加工後の領域をなす長方形の内部にある点の位置が実質的に一定の位置に収束するまで更に前記処理を繰り返して行ったとした場合に、収束した点の位置が加工後の画像データが表すスポットの位置になるように、前記画像データを加工する、
ことを特徴とする画像表示方法。 - 表示装置と撮像装置とに接続されるコンピュータを、
前記撮像装置に対し、スポットと、このスポットを含む領域を任意の位置から撮像させる撮像制御手段と、この撮像制御手段によって撮像された領域の画像データを生成する生成手段と、この生成手段によって生成された画像データに基づく画像を前記表示装置の表示画面に表示させる表示制御手段として機能させ、更に、
前記画像データを加工する加工手段と、前記領域における前記スポットの位置座標を計測する計測手段と、この計測手段によって計測された前記スポットの位置座標を、前記加工手段による加工の結果得られる加工後の画像データに反映される位置座標に変換する座標変換手段として機能させる、
ためのプログラムであって、
加工前の画像データが表す加工前の領域は四角形であり、前記加工手段による加工後の画像データが表す加工後の領域は長方形であり、
前記加工手段は、加工前の領域をなす四角形の対向する2辺の交点の各々と当該四角形の対角線の交点とを結ぶ2本の直線により加工前の領域をなす四角形を4分割して得られる4つの四角形のうちいずれに前記スポットが含まれるかを判別し、加工後の領域をなす長方形の内部にある点を、スポットが含まれると判別された四角形の頂点のうち加工前の領域をなす四角形の頂点を兼ねている頂点に相当するものの方向へ、四角形の4分割を行った回数が多いほど小さくなるような所定量だけ移動する処理を行い、前記スポットが含まれると判別した四角形を加工前の領域をなす四角形とみなして、加工後の領域をなす長方形の内部にある点の位置が実質的に一定の位置に収束するまで更に前記処理を繰り返して行ったとした場合に、収束した点の位置が加工後の画像データが表すスポットの位置になるように、前記画像データを加工する、
ことを特徴とするプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001222377A JP4613456B2 (ja) | 2000-07-25 | 2001-07-24 | 画像表示装置、画像表示方法、および、プログラム |
US10/201,371 US7039253B2 (en) | 2001-07-24 | 2002-07-23 | Image display device, image display method, program, and projection system |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000223991 | 2000-07-25 | ||
JP2000-223991 | 2000-07-25 | ||
JP2001222377A JP4613456B2 (ja) | 2000-07-25 | 2001-07-24 | 画像表示装置、画像表示方法、および、プログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009264687A Division JP5158057B2 (ja) | 2000-07-25 | 2009-11-20 | 画像表示装置、画像表示方法、および、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002140058A JP2002140058A (ja) | 2002-05-17 |
JP4613456B2 true JP4613456B2 (ja) | 2011-01-19 |
Family
ID=26596627
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001222377A Expired - Fee Related JP4613456B2 (ja) | 2000-07-25 | 2001-07-24 | 画像表示装置、画像表示方法、および、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4613456B2 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7952570B2 (en) | 2002-06-08 | 2011-05-31 | Power2B, Inc. | Computer navigation |
JP2005157135A (ja) * | 2003-11-27 | 2005-06-16 | Nippon Telegr & Teleph Corp <Ntt> | 情報表示方法及びシステム及びプログラム |
US10452207B2 (en) | 2005-05-18 | 2019-10-22 | Power2B, Inc. | Displays and information input devices |
WO2008111079A2 (en) | 2007-03-14 | 2008-09-18 | Power2B, Inc. | Interactive devices |
TW200803482A (en) * | 2006-06-01 | 2008-01-01 | Micro Nits Co Ltd | Image processing method of indicator input system |
JP4340923B2 (ja) | 2007-02-23 | 2009-10-07 | セイコーエプソン株式会社 | プロジェクタ、プログラムおよび情報記憶媒体 |
JP5796733B2 (ja) | 2011-03-23 | 2015-10-21 | ソニー株式会社 | 光信号出力装置、信号処理装置、信号処理方法、信号処理システム、撮像装置、プロジェクタ、およびプログラム |
JP5849560B2 (ja) * | 2011-09-20 | 2016-01-27 | セイコーエプソン株式会社 | 表示装置、プロジェクター、及び、表示方法 |
JP6064321B2 (ja) * | 2012-01-05 | 2017-01-25 | セイコーエプソン株式会社 | 表示装置、及び、表示制御方法 |
JP6137247B2 (ja) * | 2015-08-21 | 2017-05-31 | ソニー株式会社 | プロジェクタ装置及びプロジェクタシステム |
US11610334B2 (en) | 2017-12-01 | 2023-03-21 | Nec Corporation | Image recognition apparatus using an object image data, image recognition method using an object image data, and program |
JP7168032B1 (ja) * | 2021-05-21 | 2022-11-09 | カシオ計算機株式会社 | 情報処理装置、情報処理システム、プログラム及び情報処理方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04506876A (ja) * | 1989-07-19 | 1992-11-26 | ベル コミュニケーションズ リサーチ インコーポレーテッド | ライトペンシステム |
JP2622620B2 (ja) * | 1989-11-07 | 1997-06-18 | プロクシマ コーポレイション | コンピュータにより発生されたデイスプレイ可視像を変更するためのコンピュータ入力システム |
US5914783A (en) * | 1997-03-24 | 1999-06-22 | Mistubishi Electric Information Technology Center America, Inc. | Method and apparatus for detecting the location of a light source |
JP2000081950A (ja) * | 1998-07-03 | 2000-03-21 | Sony Corp | 画像処理装置、画像処理方法、及び提供媒体、並びにプレゼンテーションシステム |
JP2000148375A (ja) * | 1998-11-11 | 2000-05-26 | Seiko Epson Corp | 入力システム及び投射型表示システム |
JP2001236179A (ja) * | 2000-02-22 | 2001-08-31 | Seiko Epson Corp | 指示位置検出システムおよび方法、プレゼンテーションシステム並びに情報記憶媒体 |
-
2001
- 2001-07-24 JP JP2001222377A patent/JP4613456B2/ja not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04506876A (ja) * | 1989-07-19 | 1992-11-26 | ベル コミュニケーションズ リサーチ インコーポレーテッド | ライトペンシステム |
JP2622620B2 (ja) * | 1989-11-07 | 1997-06-18 | プロクシマ コーポレイション | コンピュータにより発生されたデイスプレイ可視像を変更するためのコンピュータ入力システム |
US5914783A (en) * | 1997-03-24 | 1999-06-22 | Mistubishi Electric Information Technology Center America, Inc. | Method and apparatus for detecting the location of a light source |
JP2000081950A (ja) * | 1998-07-03 | 2000-03-21 | Sony Corp | 画像処理装置、画像処理方法、及び提供媒体、並びにプレゼンテーションシステム |
JP2000148375A (ja) * | 1998-11-11 | 2000-05-26 | Seiko Epson Corp | 入力システム及び投射型表示システム |
JP2001236179A (ja) * | 2000-02-22 | 2001-08-31 | Seiko Epson Corp | 指示位置検出システムおよび方法、プレゼンテーションシステム並びに情報記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP2002140058A (ja) | 2002-05-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7039253B2 (en) | Image display device, image display method, program, and projection system | |
JP4613456B2 (ja) | 画像表示装置、画像表示方法、および、プログラム | |
KR100298240B1 (ko) | 정보입력장치,정보입력방법및고체촬상장치 | |
JP3521187B2 (ja) | 固体撮像装置 | |
CA2378154C (en) | Computer presentation system and method with optical tracking of wireless pointer | |
US6729731B2 (en) | Untethered laser pointer for use with computer display | |
US6906702B1 (en) | Coordinate input device and its control method, and computer readable memory | |
US5422987A (en) | Method and apparatus for changing the perspective view of a three-dimensional object image displayed on a display screen | |
US6598978B2 (en) | Image display system, image display method, storage medium, and computer program | |
JP3321053B2 (ja) | 情報入力装置及び情報入力方法及び補正データ生成装置 | |
WO2006130243A2 (en) | User interface controller method and apparatus for a handheld electronic device | |
US7884802B2 (en) | Information selecting apparatus and storage medium storing information selecting program | |
WO2006020496A2 (en) | User interface controller method and apparatus for a handheld electronic device | |
KR20020052217A (ko) | 이미지 센서를 이용한 전자 기기 | |
KR100743798B1 (ko) | 투영 장치, 투영 시스템 및 화상 획득 방법 | |
KR20010052282A (ko) | 입력 유닛, 그 입력 유닛을 사용하기 위한 방법 및 입력시스템 | |
JP2003523572A (ja) | 入力ユニットの構成 | |
KR20090111913A (ko) | 모션 검출 방법 및 장치 | |
JP3792907B2 (ja) | ハンドポインティング装置 | |
JP5158057B2 (ja) | 画像表示装置、画像表示方法、および、プログラム | |
JP5261287B2 (ja) | 照明システム、空間演出システム、投影画像生成方法 | |
JP2020135096A (ja) | 表示方法、表示装置、及び、インタラクティブプロジェクター | |
JP2005115904A (ja) | 移動座標測定用光センサー装置及び2次元の連続的イメージプロセスを利用したイメージ処理方法 | |
JPH0437922A (ja) | プレゼンテーション装置 | |
JP2005052306A (ja) | 位置検出システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060315 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090924 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091120 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100316 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100513 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100921 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101004 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131029 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |