JP3729533B2 - ポインティングシステム - Google Patents
ポインティングシステム Download PDFInfo
- Publication number
- JP3729533B2 JP3729533B2 JP12624095A JP12624095A JP3729533B2 JP 3729533 B2 JP3729533 B2 JP 3729533B2 JP 12624095 A JP12624095 A JP 12624095A JP 12624095 A JP12624095 A JP 12624095A JP 3729533 B2 JP3729533 B2 JP 3729533B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- pointing
- display
- signal
- bar
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Position Input By Displaying (AREA)
- User Interface Of Digital Computer (AREA)
Description
【産業上の利用分野】
本発明はポインティングシステムに関し、特に、表示面から離れた位置からの指示を取込めると共に、ドローイング機能にも容易に対応できるようにしたものである。
【0002】
【従来の技術】
従来、コンピュータのディスプレイ面に対するポインティングデバイスとしてはマウスやキーボードが用いられ、ディスプレイ面上の位置を直接指し示すことが要求される場合にはタッチパネルやライトペン等のポインティングデバイスが用いられていた。
【0003】
ところで、プレゼンテーション等の複数の人が同時に表示内容を目視するような場合には、大画面のテレビジョン画面やビデオプロジェクタが利用され、このようなディスプレイ面に対しては、ディスプレイ面から離れた位置から、ディスプレイ面上のポイントを指示する利用形態が多い。このような環境下では、タッチパネルやライトペン等のポインティングデバイスを用いることはできず、ワイヤレスのマウスやキーボードをポイントデバイスとして用いて実現することになる。しかし、マウスやキーボードを用いる場合には、その操作のための台が必要であり、プレゼンテーション等を行なっている際には、プレゼンタの位置の制約を与える。
【0004】
そのため、操作者の位置自由度を高めることができるポインティングデバイスが望まれている。
【0005】
従来、このような操作者の位置自由度を高めることができるポインティングデバイスとして、特開平6−153280号公報に記載のリモコン装置が提案されている。図2は、かかるリモコン装置の構成を示すものである。
【0006】
このリモコン装置は、大きくは、送信側のリモコン送信部と、受信側の受信・信号処理部とから構成されている。
【0007】
リモコン送信部のキー入力部11の電源スイッチが押下されると、制御IC12はRGB発光部10からRGB原色信号を等強度で同一方向に向けて発光させる。ここで、RGB発光部10内の各原色信号に対応した発光素子の配置と、受信・信号処理部のRGBセンサ1の各原色信号に対応した受光素子の配置とは、リモコン送信部が左右上下に移動された場合に、各原色信号に対応した受光素子の受光量が異なるようになされている。そのため、A/D変換部2を介した3原色信号の受光量レベルの成分比を、制御部7が演算部4によって計算させた後、予めメモリ3に格納されている成分比と移動情報(方向及び量)又は位置情報との対応データを参照することにより移動情報又は位置情報を得、これに応じて、制御部7がキャラゼネ5を駆動して表示画面6上のカーソル等のマーカを移動させる。
【0008】
【発明が解決しようとする課題】
しかしながら、上記リモコン装置は、各原色信号に対応した受光素子のレベル変化とリモコン送信部の左右上下の移動量との関係を操作者が完全に習得するのは容易ではなく、バー表示の音量等の単純な選択ならば実用的であるが、ディスプレイ面全体を移動範囲とするようなポインティングデバイスとしては、所定位置にマーカを到達させる操作が容易ではなく、操作性上不十分である。
【0009】
また、リモコン送信部の向きは、基本的にはRGBセンサに向けられ、マーカの位置から離れているので、プロジェクタスクリーン面等を対象とした場合には操作し難いものである。すなわち、ビデオプロジェクタの場合には、マーカが表示されるスクリーン面に対向するプロジェクタ本体に向けて送信しなければならない。さらに、操作者はRGBセンサに向けて送信することを要し、受信側構成の位置が制約されてしまう。
【0010】
さらに、上記リモコン装置は、ポインティング機能の実現だけを対象としており、表示画像上の文章にマークを残したり、重ね書きしたりするドローイング機能には対応できない。そのため、このようなリモコン装置を利用してドローイング機能を実現しようとすると、ポインティングデバイスとしての当該リモコン装置とは別個の装置によらなければならない。例えば、ディスプレイ装置へのビデオ信号を発生するパーソナルコンピュータがドローイング機能をサポートしなければならない。また、リモコン送信部に、マーカを単に移動させる操作か、移動軌跡を残すドローイングの操作かを区別する制御スイッチ等を設けなければならない。
【0011】
そのため、大きなディスプレイ面(スクリーン面)であっても、操作者の位置自由度や操作性が高い、ドローイングモードか否かの指示も容易にできるポインティングデバイスが望まれている。
【0012】
【課題を解決するための手段】
かかる課題を解決するため、本発明のポインティングシステムは、(A) 表示ビデオ信号を電気/光変換してそのビデオ信号の画像をスクリーンに表示させる表示手段と、(B) スクリーン上の位置を指示するための指示棒状体と、(C) スクリーン面を撮像対象とし、撮像ビデオ信号を出力する撮像手段と、(D) 撮像ビデオ信号に基づいて、指示棒状体に関する少なくとも2個以上の領域情報を抽出する特定領域抽出手段と、(E) 抽出された1以上の領域情報から、指示棒状体による指示ポイント座標を得る指示ポイント検出手段と、(F) 抽出された2以上の領域情報から、指示棒状体とスクリーン面との接触、非接触を検出する接触検出手段とを有し、 (D) 特定領域抽出手段が、複数のフレームの撮像ビデオ信号を用いた動き検出により背景領域を検出する背景検出部と、検出された背景領域の撮像ビデオ信号だけを格納する背景信号記憶部と、撮像ビデオ信号と背景信号記憶部からの背景信号との相違に基づいて、指示棒状体の映像領域の情報を抽出する指示棒状体領域抽出部と、撮像ビデオ信号と背景信号記憶部からの背景信号との相違に基づいて、指示棒状体の陰影の映像領域の情報を抽出する陰影領域抽出部とでなって、撮像ビデオ信号における上記指示棒状体の映像領域の情報と、撮像ビデオ信号における上記指示棒状体の陰影の映像領域の情報とを抽出し、 (E) 指示ポイント検出手段が、指示棒状体の映像領域情報から、指示棒状体による指示ポイント座標を得、 (F) 接触検出手段が、抽出された指示棒状体の映像領域情報と、指示棒状体の陰影の映像領域情報とから、指示棒状体とスクリーン面との接触、非接触を検出することを特徴とする。
【0013】
【作用】
本発明のポインティングシステムにおいては、表示手段によって、表示ビデオ信号の画像がスクリーンに表示される。このようなスクリーン上の表示画像の任意位置が、操作者によって、指示棒状体を介して指示される。
【0014】
このようなスクリーン面の像が、撮像手段によって撮像される。そして、特定領域抽出手段が、この撮像ビデオ信号に基づいて、指示棒状体に関する少なくとも2個以上の領域情報を抽出し、指示ポイント検出手段が、抽出された1以上の領域情報から、指示棒状体による指示ポイント座標を得る。また、接触検出手段が、抽出された2以上の領域情報から、指示棒状体とスクリーン面との接触、非接触を検出し、制御信号として出力する。
【0015】
従って、スクリーン面が大きな画面であっても、操作者の任意位置からの自然な指示操作に応じた指示ポイントの情報を電子化できると共に、指示棒状体をスクリーン面に接触させるか否かという簡単な操作で少なくとも1個の制御信号(例えばドローイングオンオフ信号)を生成させることができるようになる。
【0016】
【実施例】
(A)第1実施例
以下、本発明によるポインティングシステムを、ビデオプロジェクタ表示システムに適用した第1実施例を図面を参照しながら詳述する。
【0017】
(A−1)第1実施例の空間的な要素配置
この第1実施例のポインティングシステムは、ポインティングシステム本体ユニット100と、表示制御ユニット20と、スクリーン(表示画面)30と、指示棒40とを構成要素としている。ポインティングシステム本体ユニット100は、ビデオプロジェクタ101及びポインティング検出用のビデオカメラ102を備えている。
【0018】
ポインティングシステム本体ユニット100内において、パーソナルコンピュータ等でなる表示制御ユニット20からのビデオ信号に対して、適宜ドローイング軌跡信号を重畳し、ビデオプロジェクタ101からスクリーン30に照射させる。これにより、表示制御ユニット20からのビデオ信号の画像がスクリーン30に表示されると共に、ドローイング表示モードであればドローイング軌跡34も表示される。また、指示棒40の陰影45もスクリーン30に現われる。例えば、カラー撮像のポインティング検出用ビデオカメラ102は、このようなスクリーン30の画像を撮像する。ポインティングシステム本体ユニット100内においては、後述する構成によって、このような撮像画像から、指示棒40の先端位置や、指示棒40の先端がスクリーン30に接していること等を捕らえて、表示制御ユニット20からのビデオ信号に、ドローイング軌跡の信号を適宜重畳して、スクリーン30にドローイング軌跡34を表示させる。
【0019】
(A−2)ポインティングシステム本体ユニット100の詳細構成
図3は、ポインティングシステム本体ユニット100の内部詳細構成を示すブロック図である。
【0020】
ポインティングシステム本体ユニット100は、大きくは、表示処理部100Aと、ポインティング検出部100Bとから構成されている。
【0021】
表示処理部100Aにおいて、ビデオ入力コネクタJ1を介した表示制御ユニット20からのビデオ信号VS3は、ドローイング重畳部150に与えられる。ドローイング重畳部150は、ポインティング検出部100Bからの信号に基づいて、このビデオ信号VS3に、ドローイング軌跡を適宜重畳し、重畳処理後のビデオ信号VS1をビデオプロジェクタ101に与える。ビデオプロジェクタ101には、他の回路部分より高圧の電源電圧PSが供給されている。ビデオプロジェクタ101は、入力ビデオ信号VS1を映像光に変換してスクリーン30に照射させる。
【0022】
ポインティング検出部100Bにおいて、ポインティング検出用ビデオカメラ102は、スクリーン30を含む画像をビデオ信号VS2に変換するものであり、得られたビデオ信号VS2を、デジタル化回路103に与えるものである。
【0023】
なお、詳細構成の図示は省略しているが、ビデオプロジェクタ101の対物レンズとビデオカメラ102の対物レンズとは連動してフォーカシングやズームを実現する機構になっており(図3の符号ZZZはこのことを表している)、照射画像と撮像画像との良好な対応を確保するようになっている。
【0024】
デジタル化回路103は、入力されたビデオ信号VS2をデジタル信号に変換すると共に、水平、垂直の同期信号等をビデオ信号VS2から分離するものである。デジタル化回路103は、分離した同期信号sを、ポインティング検出部100B内の各部に供給し、また、デジタル化したビデオデータdを、前フレーム用フレームメモリ104、動き検出回路105及び先端座標検出回路107に与える。
【0025】
フレームメモリ104は、1フレーム遅延回路として機能するものであり、デジタル化回路103から出力されているビデオデータdに同期して、その1フレーム前の同一画素位置のビデオデータdpを動き検出回路105及び背景メモリ回路106に出力するものである。
【0026】
動き検出回路105は、相前後するフレームの同一画素データ間の差分絶対値を閾値と比較して変動があった画素の座標を推定し、変動の有無を表す動き検出信号mを背景メモリ回路106に与えるものである。
【0027】
背景メモリ回路106は、動き検出信号mが変動なしを示している画素に係るフレームメモリ104からのビデオデータ(画素データ)dpを書込むと共に、動き検出信号mが変動ありを示している画素についてはビデオデータdpの書込みを禁止するものである。すなわち、背景メモリ回路106は、撮像画像の背景を表す背景データbgを格納するものである。この背景データbgは、先端座標検出回路107に与えられる。
【0028】
先端座標検出回路107は、現ビデオデータdと背景データbgとのフレーム間差分(d−bg)を含む画像処理により、指示棒40の先端位置の座標データ、すなわち指示ポイントの座標データxyと、指示棒40の陰影45の先端位置の座標データijを検出するものである。指示ポイントの座標データxyは、先端座標変動判定回路108、先端座標間距離判定回路120に与えられると共に、コネクタCN1を介して表示制御ユニット(例えばパーソナルコンピュータ)20に与えられる。一方、指示棒40の陰影45の先端位置の座標データijは、先端座標間距離判定回路120に与えられる。
【0029】
先端座標間距離判定回路120は、入力された2種類の座標データxy及びijの距離を求め、その算出距離を閾値と比較することを通じて、指示棒40がスクリーン30に接しているか(閾値より小)否か(閾値より大)を判定するものである。この第1実施例の場合、指示棒40がスクリーン30に接していることをドローイング軌跡の描画条件としており、先端座標間距離判定回路120は、接触、非接触を表す信号をドローイングオンオフ信号drとして、表示処理部100Aのドローイング重畳部150に与える。ドローイングオンオフ信号drはまた、先端座標変動判定回路108に与えられる。
【0030】
先端座標変動判定回路108は、コネクタCN2を介して、表示制御ユニット20と双方向に制御データc2を授受できるようになされている。先端座標変動判定回路108は、指示ポイントの座標データxyの時間的変動を検出するものである。時間的な変動としては、「一定時間静止」、「小刻みに変動する」、「V字状に変動する」、「○状に変動する」等があり、それぞれ特定の制御内容に対応付けられている。なお、2個の静止時間にはさまれたこれら変動軌跡の識別には、座標データ群から軌跡を捕らえるオンライン文字認識技術等に適用されている軌跡特定方法を適用すれば良い。また、軌跡の認識のもととなる制御データ(登録変動パターン等)は、表示制御ユニット20から適宜与えられて登録されるようになされている。
【0031】
この先端座標変動判定回路108は、大きくは、3個の機能を担っている。
【0032】
第1は、指示ポイントの静止を検出したときには、背景メモリ回路106に更新禁止信号c1を与えてその更新を禁止させることである。かかる処理を実行しない場合には、背景データbgに指示棒40やその陰影45のデータも含まれ、先端座標検出回路107における検出精度が低下する恐れがあるので、更新を禁止する。
【0033】
第2は、ドローイング重畳部150に対する各種信号を生成する。ドローイングオンオフ信号drがオンを指示しているときに与えられた指示ポイントの座標データを、表示処理部100Aにおけるビデオ信号(VS3又はVS1)の座標系での座標データc3に変換してドローイング重畳部150に与える。指示ポイントの時間的変動がドローイング軌跡表示の表示色の変更を指示している場合には、そのドローイング色信号csをドローイング重畳部150に与える。指示ポイントの時間的変動がドローイング軌跡の消去を指示している場合には、その消去信号crをドローイング重畳部150に与える。なお、表示色変更や消去を指示する時間的変動は、特定形状であっても良く、また、特定座標における所定時間の静止であっても良い。
【0034】
第3は、表示制御ユニット20に対する各種信号を生成する。例えば、所定時間静止している場合には、マウスがクリックされたと同様なデータを表示制御ユニット20に与えたり、時間的変動軌跡が特定形状の場合には、マウスがダブルクリックされたと同様なデータを表示制御ユニット20に与えたりする。
【0035】
(A−2−1)動き検出回路105
図4は、上述した動き検出回路105の詳細構成を示すものである。動き検出回路105は、第1及び第2の空間フィルタ200及び201、差分絶対値回路202、閾値比較回路203、2個のフレーム遅延回路204及び205、論理積回路206から構成されている。
【0036】
現フレーム及び前フレームのビデオデータ(処理対象の画素データ)d及びdpはそれぞれ、対応する空間フィルタ200及び201によって、周辺画素データを用いた空間周波数帯域の制限処理が施されて、ノイズの影響やタイミングの揺れ等の影響が軽減される。差分絶対値回路202は、かかる処理後の現フレーム及び前フレームの画素データの差分絶対値を算出して閾値比較回路203に与える。閾値比較回路203は、この差分絶対値を所定の閾値と比較し、画素単位にフレーム間の相関を評価し、動いた画素に対しては“0”、静止領域の画素に対しては“1”なる判定結果mnを出力する。この判定結果mnは、2個のフレーム遅延回路204及び205の縦続接続段に入力され、これにより、連続する3フレーム分の判定結果(mn)が取出されて論理積回路206に入力される。論理積回路206は、連続する3フレーム分の判定結果(mn)を正論理の論理積処理して、動き検出信号mとして出力する。
【0037】
以上のように、空間フィルタ200及び201を用いているのでノイズ等の悪影響を受けずに動き検出できると共に、連続する3フレームの検出結果の論理積をとっているので、確実に動かない画素のタイミングにおいてのみ静止を表す動き検出信号mを出力することができる。
【0038】
(A−2−2)先端座標検出回路107及び先端座標間距離判定回路120
上述したように、この第1実施例においては、指示棒40がスクリーン30面に接触しているか否かをドローイングのオンオフ指令情報として利用している。そして、指示棒40がスクリーン30面に接触しているか否かを指示棒40の先端座標(指示ポイント)と指示棒陰影45の先端座標の距離によって、判定している。
【0039】
ここではまず、指示棒40の先端座標(指示ポイント)と指示棒陰影45の先端座標の距離によって、指示棒40がスクリーン30面に接触しているか否かを判定できることを、図5を参照しながら説明する。
【0040】
図5において、ビデオプロジェクタ101の光源位置Lとビデオカメラ102の視点Vとを結ぶ線分(その長さをpとする)が、スクリーン30面に平行になるように(距離をmとする)、ポインティングシステム本体ユニット100が置かれている。スクリーン30面より距離gだけ前に位置する指示棒40の実際の先端Rはビデオカメラ102の視点Vから見ると、スクリーン30上のNなる位置に見える。一方、指示棒陰影45の先端位置Sは、ビデオプロジェクタ101の光源位置Lと実際の指示棒先端位置Rとを結ぶ直線とスクリーン30面との交差位置になる。ここで、ビデオカメラ102の視点Vから見た指示棒先端位置Nと、指示棒陰影45の先端位置Sとの距離eについては、3角形V−L−Rと3角形N−S−Rとが相似形であることから、下記(1) 式が成立する。
【0041】
p:e=(m−g):g
e=p・g/(m−g) …(1)
ここで、pは既知の値であり、mはgよりかなり大きいので(ビデオプロジェクタ101の対物レンズ位置情報を利用して既知の値としても処理できる)、eとgとに単調増加関係(ほぼ比例)が成立している。すなわち、ビデオカメラ102の視点Vから見た指示棒先端位置Nと、指示棒陰影45の先端位置Sとの距離eを捕らえることにより、距離gがほぼ0であるか(接触)否か(非接触)を検出できる。
【0042】
このようにドローイングのオンオフ指令を識別できるようにすべく、先端座標検出回路107は、指示棒先端位置(指示ポイント)Nの座標データxyだけでなく、指示棒陰影先端位置Sの座標データijをも検出するようにしている。
【0043】
図6は、先端座標検出回路107の内部構成を示す機能ブロック図である。なお、一部ソフトウェア処理が利用されており、ソフトウェア処理からは複数の機能が融合されて行なわれているが、ここでは、説明の簡単化のために、明確に分けた機能ブロック図で説明する。
【0044】
図6において、先端座標検出回路107は、基本表示映像領域識別回路300、指示棒映像抽出回路301、指示棒陰影像抽出回路302、基本表示映像領域座標検出回路303、指示棒映像座標検出回路304、指示棒陰影像座標検出回路305、座標発生回路306、指示棒先端座標特定回路307、指示棒陰影先端座標特定回路308、指示棒先端座標変換回路309及び指示棒陰影先端座標変換回路310から構成されている。
【0045】
基本表示映像領域識別回路300は、背景メモリ回路106からの背景データbgから、ビデオカメラ101による撮像領域中の中央部のほぼ長方形の表示映像領域(ラスタ領域)を識別して、ビデオデータdと同期した識別信号aaを出力する。
【0046】
指示棒映像抽出回路301は、背景メモリ回路106からの背景データbg及び前フレームのビデオデータdpから、指示棒40の映像領域rrを抽出する。同様に、指示棒陰影像抽出回路302は、背景メモリ回路106からの背景データbg及び現フレームのビデオデータdから、指示棒陰影45の映像領域ssを抽出する。
【0047】
座標発生回路306は、デジタル化回路103からの同期信号sを基準に、ビデオデータdのタイミングに対応した座標データを発生し、基本表示映像領域座標検出回路303、指示棒映像座標検出回路304及び指示棒陰影像座標検出回路305に出力する。
【0048】
基本表示映像領域座標検出回路303は、指示棒映像抽出回路301からの識別信号aaを受けて、座標発生回路306からの座標データを基準として、表示映像領域の座標データacoを作成する。同様に、指示棒映像座標検出回路304及び指示棒陰影像抽出回路305はそれぞれ、指示棒40の映像領域rr及び指示棒陰影45の映像領域ssを、指示棒映像座標データrco及び指示棒陰影像座標データscoに変換する。
【0049】
指示棒先端座標特定回路307は、棒状の座標集合でなる指示棒映像座標データrcoと、表示映像領域の座標データacoとから、指示棒先端の座標データrpcoを得る。同様に、指示棒陰影像先端座標特定回路308は、棒状の座標集合でなる指示棒陰影像座標データscoと、表示映像領域の座標データacoとから、指示棒陰影像先端の座標データspcoを得る。
【0050】
指示棒先端座標変換回路309は、撮像系での座標系に従う指示棒先端座標データrpcoを、表示映像領域座標データacoに基づいて、表示映像領域内での相対座標データxyに変換して出力する。同様に、指示棒陰影先端座標変換回路310は、撮像系での座標系に従う指示棒陰影像先端座標データspcoを、表示映像領域座標データacoに基づいて、表示映像領域内での相対座標データijに変換して出力する。
【0051】
このような両座標データxy及びijが与えられる先端座標間距離判定回路120(図3参照)は、これら入力座標データxy及びijから上記(1) 式に従う距離eを得て、この距離eを閾値距離と比較することで、指示棒40のスクリーン30面に対する接触、非接触を判定する。なお、表示映像領域における相対座標データに変換する前の座標データrpco及びspcoを先端座標間距離判定回路120に与えて、指示棒40のスクリーン30面に対する接触、非接触を判定させるようにしても良い。この場合には、指示棒陰影先端座標変換回路310は不要となる。
【0052】
次に、指示棒映像抽出回路301及び指示棒陰影像抽出回路302の動作について補足説明する。
【0053】
両検出回路301及び302は、基本的には差分演算回路であり、背景データbgと前フレームのビデオデータdpとの差分から動いた部分の映像を抽出する。差分データには、ビデオデータと同期して動く映像の領域において振幅の変化があり、静止領域では両者のレベルが非常に近いために差分はほぼ0になると考えられる。
【0054】
ここで、対象とする動く映像は指示棒40及び指示棒の陰影像45であり、差分絶対値をある閾値と比較して棒状の連続した画素の集合を検出し、孤立した検出座標を対象から除去し、隣接する検出画素間を補充することにより、画素の集合から棒状の画像を生成する。このようにすることにより、2種類の棒状画像が生成される。しかし、陰影像45は背景映像より暗いのでビデオデータの値が小さいことから、陰影像45に対する差分データ(すなわち遅延ビデオデータより背景ビデオデータを引いて得られるた差分データ)においては、負の成分が多くなる。この性質を利用して陰影像45の棒状領域を指示棒40の棒状領域と区別する。この区別に従って、指示棒映像抽出回路301は指示棒映像の棒状領域に対応して、指示棒陰影像抽出回路302は陰影像の棒状領域に対応して、それぞれビデオデータに同期したタイミングで指示棒及びその陰影像の領域を示すデータrr及びssを出力する。
【0055】
なお、以上では、輝度レベルの相違で2種類の棒状領域を区別する考え方を示したが、指示棒40を特定色に選定し、陰影像は黒成分画像となることとのカラー成分の相違を利用して2種類の棒状領域を識別するようにしても良い。
【0056】
次に、このようにして得られた指示棒40の映像領域データ、及び、指示棒の陰影像45の領域データと、背景映像(表示映像領域)とから、指示棒先端座標と指示棒陰影像先端座標とを求める方法について、図7及び図8を参照しながら具体的に説明する。
【0057】
まず、基本表示映像領域座標検出回路303が実行する背景データdpから基本表示映像領域の識別信号aaを生成する方法について、図7を用いて説明する。図7(A)において、ビデオカメラ102の有効撮陰影領域401内に、ビデオプロジェクタ101により照射された表示映像領域(ラスタ領域)402が存在する。今、ある水平走査ライン406の輝度レベル(背景データbgのレベル)Lbgを検討してみる。ここで、図7(B)がその輝度レベルの時間変化(水平方向での位置変化)を示している。ビデオデータdpの水平有効画素の開始タイミング(左端)Htfs 及び終了タイミング(右端)Htfe は、同期信号sとのタイミング関係が定まっているため、基準となるタイミングである。全体の撮像領域401の中に存在する長方形に近い形状の基本表示映像領域402は、ビデオ光線が照射されている領域であるので、ビデオ信号VS1の内容によって変動したとしても、その他の領域より輝度レベルは高い。そのため、基本表示映像領域402を識別するための閾値Th1を定めて、この閾値Th1を越える輝度レベルの最左端のタイミングHtds 及び最右端のタイミングHtde を検出して、その水平走査ライン406における水平方向の表示映像領域の境界座標とする。
【0058】
垂直方向の検出についても、同様の方法で、基本表示映像領域402の上側及び下側の境界の対応する水平走査ラインを検出し、ライン番号を対応させることができる。
【0059】
表示映像領域(ラスタ領域)402が撮像領域401内であってその中央部に位置するように、ビデオカメラ102のレンズ等の選択や調節がなされているため、以上のような方法によって、輝度レベルが周辺より高い長方形に近い表示映像領域402を困難なく検出することができる。
【0060】
次に、各先端座標特定回路307、308による棒状の座標集合でなる座標データから、その先端の座標データを特定する方法について説明する。
【0061】
上述した図7(A)に示すように、指示棒の映像領域404及び指示棒陰影の映像領域440の先端位置は、指示機能から考えて、表示映像領域402の内部にあり、また、表示に影響しない位置に操作者が位置して指示するので、指示棒の映像領域404及び指示棒陰影の映像領域440の基本軸線(細線化された場合の座標データ群に対応する)は、表示映像領域402の周囲のいずれかの境界線と交差する。このような性質を利用して先端座標を決定している。
【0062】
図8は、表示映像領域と棒状領域(指示棒映像領域又は指示棒陰影像領域)との関係を、8パターンに分類して示したものである。表示映像領域と棒状領域とは、上述したように交差しているので、共通する座標が存在する。
【0063】
図8(A)及び(B)は、棒状領域が右上り及び左上りの相違はあるが、表示映像領域と棒状領域との交差点が、表示映像領域の下辺Bにある場合である。この場合には、棒状領域の最上位置を先端と検出する。図8(C)及び(D)は、棒状領域が右上り及び左上りの相違はあるが、表示映像領域と棒状領域との交差点が、表示映像領域の右辺Rにある場合であり、この場合には、棒状領域の最左位置を先端と検出する。図8(E)及び(F)は、棒状領域が右上り及び左上りの相違はあるが、表示映像領域と棒状領域との交差点が、表示映像領域の左辺Lにある場合であり、この場合には、棒状領域の最右位置を先端と検出する。図8(G)及び(H)は、棒状領域が右上り及び左上りの相違はあるが、表示映像領域と棒状領域との交差点が、表示映像領域の上辺Tにある場合であり、この場合には、棒状領域の最下位置を先端と検出する。
【0064】
図8では、棒状領域が右上り及び左上りまでを考慮して8パターンに分類して示したが、上述のように、交差位置に基づいた4パターンの分類で先端座標を特定することができる。
【0065】
なお、表示映像領域は、ビデオプロジェクタ101及びスクリーン30間の距離等によってその大きさや形状が変化するので、上述したように、先端座標データを表示映像領域内での位置に正規化(相対化)する必要がある。
【0066】
(A−2−3)ドローイング重畳部150の詳細構成
図9は、ドローイング重畳部150の詳細構成を示すブロック図であり、この図9を参照しながらドローイング重畳部150を詳細に説明する。
【0067】
図9において、ドローイング重畳部150は、ビデオデータ選択用のアナログスイッチ501、ドローイング表示メモリ回路(その制御構成を含む)502、カラーパレット回路503、タイミング発生回路504、及び、黒レベル検出回路505から構成されている。
【0068】
アナログスイッチ501には、表示制御ユニット(パーソナルコンピュータ)20からのビデオ信号VS3(ここではアナログ信号を想定しているがビデオプロジェクタ部101の構成によってはデジタル信号であっても良い)における3原色信号R、G、Bが一方の選択入力端子に与えられると共に、他方の選択入力端子には、カラーパレット回路503が出力したドローイング用の3原色信号DR、DG、DBが与えられる。さらに、アナログスイッチ501には、選択制御信号として、ドローイング表示メモリ回路502から出力されたドローイング選択信号dgが与えられる。かくして、このアナログスイッチ501からは、ドローイング軌跡上のタイミングでドローイング用の3原色信号DR、DG、DBを選択し、その他のタイミングで表示制御ユニット20からの3原色信号R、G、Bを選択してビデオプロジェクタ101に与える。
【0069】
なお、表示制御ユニット20からの水平駆動信号HD及び垂直駆動信号VDは、当該ドローイング重畳部150をそのまま通過してビデオプロジェクタ101に与えられる。
【0070】
また、表示制御ユニット20からの水平駆動信号HD及び垂直駆動信号VDは、タイミング発生回路504に与えられる。タイミング発生回路504は、これら駆動信号(同期信号)に基づいて、垂直ブランキング期間をとらえて垂直ブランキング期間信号bltを黒レベル検出回路505に与えると共に、上記駆動信号に基づいて、1フレーム内での画素位置情報を得て画素位置信号rtを表示メモリ回路502に与える。
【0071】
黒レベル検出回路505は、垂直ブランキング期間信号bltがその期間を指示しているタイミングでの3原色信号R、G、Bが表しているレベル(黒レベル)を検出してその情報BLをカラーパレット回路503に与え、カラーパレット回路503は、自己が発生する3原色信号DR、DG、DB3の基準となる黒レベルが、その黒レベル信号BLと一致するようにクランプ動作して基準レベルを内部修正する。このようにして、表示制御ユニット20からのビデオ信号VS3と、カラーパレット回路503からのビデオ信号との色調整が実行されている。
【0072】
なお、表示制御ユニット20からの映像信号が、3原色信号ではなく、複号映像信号であれば、黒レベル検出回路505部分はペデスタルレベル検出回路に置き換わる。また、デジタル映像信号が与えられる場合には、かかる処理構成は省略できる。
【0073】
ドローイング表示メモリ回路502には、ポインティング検出部100Bからのドローイングオンオフ信号dr、ドローイング座標データc3、ドローイング軌跡消去信号cr、ドローイング色信号csが与えられる。
【0074】
ドローイング表示メモリ回路502は、ドローイングオンオフ信号drがオンを指示してときに与えられたドローイング座標データc3に基づいて、記憶しているフレーム内の所定画素をオン設定する(dg)と共に、その直前に与えられたドローイング色信号csの表示色dcをそのドローイング座標データc3に対応させてを格納する。
【0075】
また、ドローイング表示メモリ回路502は、ドローイング軌跡消去信号crが与えられたときには、格納している全てのドローイング座標データc3及びその表示色dcを消去する。
【0076】
ドローイング表示メモリ回路502は、タイミング発生回路504から画素位置信号rtが与えられる毎に、その画素がオン設定されているか否かを判定し、オン設定されているときには、有意なドローイング選択信号dgをアナログスイッチ501に与えると共に、その画素に割り当てられている表示色信号dcをカラーパレット回路503に出力する。
【0077】
以上のような各部構成でなるドローイング重畳部150によって、ドローイング軌跡が所望の表示色でスクリーン30上に表示される。
【0078】
(A−3)第1実施例の動作
次に、第1実施例の動作を説明する。ビデオプロジェクタ101によって、所定の画像がスクリーン30上に映写される。この際に、操作者が指示棒40を用いて、表示内容の所定の位置を指示していると、ビデオカメラ102が撮像したビデオ信号VS2には、映写された表示内容だけでなく指示棒40やその陰影45の映像も含まれる。
【0079】
このようなビデオ信号VS2は、デジタル化回路103によってデジタル信号に変換される。そして、フレームメモリ104によって遅延された前フレームのビデオデータdpと現フレームのビデオデータdとによって、動き検出回路105が動領域と静止領域とを弁別し、この弁別結果に基づいて、背景メモリ回路106は、静止領域のビデオデータdp(ビデオデータdであっても良い)に対してのみ更新動作を行なう。
【0080】
このようにして得られた指示棒40やその陰影45の映像を含まない背景データbgと、指示棒40やその陰影45の映像を含む現フレームのビデオデータdとの相違に基づいて、先端座標検出回路107によって、指示棒40の先端座標データ(指示ポイント)xyと、その陰影45の先端座標データijとが得られる。
【0081】
これらの両先端座標データxy及びijの距離が、先端座標間距離判定回路120によって求められ、閾値と比較されて、指示棒40のスクリーン30への接触、非接触を表すドローイングオンオフ信号drが得られる。
【0082】
先端座標検出回路107からの指示ポイントの座標データxyは、先端座標変動判定回路108によって、その時間的変動内容が判定される。例えば、その時間変動が、表示制御ユニット20(例えばパーソナルコンピュータ)に対する制御内容であれば、そのことを表す信号が表示制御ユニット20に与えられる。
【0083】
表示制御ユニット20には、指示ポイントの座標データxyも与えられており、この指示ポイントの座標データxyと、与えられた制御内容とに基づいて、表示制御ユニット20は、適宜処理を実行する。
【0084】
例えば、アイコンを含むメニュー画像のビデオ信号VS3を表示処理部100Aに与えて表示させている状態において、ポインティングシステム本体ユニット100(そのポインティング検出部100B)から、所定のアイコン位置の指示ポイントの座標データxyと、その指示ポイントで指示棒40が所定時間以上静止していることを表す制御内容が与えられると、表示制御ユニット20はそのアイコンが選択されたと認識してそのアイコンに対応した処理を実行する。
【0085】
また、先端座標変動判定回路108は、指示ポイントの静止を検出したときには、背景メモリ回路106に更新禁止信号c1を与えてその更新を禁止させて、背景データbgに指示棒40やその陰影45のデータが含まれることを禁止させる。
【0086】
先端座標変動判定回路108は、ドローイングオンオフ信号drがオンを指示しているときに与えられた指示ポイントの座標データを、表示処理部100Aにおけるビデオ信号(VS3又はVS1)の座標系での座標データc3に変換してドローイング重畳部150に与える。さらに、指示ポイントの時間的変動がドローイング軌跡表示の表示色の変更やドローイング軌跡の消去を指示している場合には、そのことを指示する信号をドローイング重畳部150に与える。
【0087】
ドローイング重畳部150においては、表示画素位置が、ドローイング軌跡上の位置になると、表示制御ユニット20からのビデオ信号を、所定の表示色のドローイングビデオ信号に置き換えてビデオプロジェクタ101に与えて、スクリーン30上にドローイング軌跡34を表示させる。
【0088】
(A−4)第1実施例の効果
(1) 以上のように、第1実施例によれば、単なるスクリーン上に投影された映像上のポイントを指示棒で指示し、その撮像画像を画像処理して指示ポイントを電子化するので、操作者は、指示ポイントを視覚的に容易に確認できると共に、特別の操作技術の訓練を要することなく自然な態様でしかも片手で指示でき、操作性が非常に高い。このように、操作性が良好であるため、不特定の人が操作者となることができる。
【0089】
(2) また、第1実施例によれば、操作者は、ポインティングシステム本体ユニットの位置を意識することなくスクリーン面に向かって操作でき、この点でも操作性が高いと共に、操作時の位置自由度も高い。
【0090】
(3) さらに、第1実施例によれば、指示ポイントの時間的変動に所定の制御内容を任意に割り当てられるようにすると共に、その時間的変動の判定回路を設けたので、単に指示ポイントを電子化するだけでなく、操作制御内容等も電子化して出力でき、これにより、インタラクティブな操作も可能になり、使い勝手が格段的に高くなっている。
【0091】
(4) さらにまた、第1実施例によれば、指示棒映像及び指示棒陰影像抽出のための背景メモリ回路を設け、動きのない領域のみを書き換えて、この静止領域のみでなる背景データを基準にして指示棒映像領域等を抽出するようにしたので、抽出精度が高く、その結果、指示ポイント等の指示情報の精度をかなり高くすることができる。
【0092】
(5) また、第1実施例によれば、表示映像領域を識別して、その領域内の相対座標として指示ポイントを出力するので、投影画像の上下で拡大率が異なるような表示映像領域の形状が歪む場合等においても、妥当な座標データを得ることができる。
【0093】
(6) さらに、第1実施例によれば、ビデオプロジェクタとビデオカメラの対物レンズを連動させているので、フォーカシングやズームを個別に行なうことは不要であり、この点でも使い勝手が良好である。
【0094】
(7) さらにまた、第1実施例によれば、ビデオプロジェクタの光源の光学的位置とビデオカメラの視点が異なるように配置しているので、ビデオカメラ視点からスクリーン上に見える指示棒と指示棒の陰影は、指示棒がスクリーン面に接して置かれない限り決して同一に重なって見えることはなく、指示棒先端座標と指示棒陰影像の先端座標との距離により、指示棒先端のスクリーンとの接触状況を確実に検出することができる。
【0095】
(8) また、第1実施例によれば、抽出した指示棒映像領域及び指示棒陰影像領域に基づいて、指示棒のスクリーン面の接触、非接触を検出してドローイングオンオフを判定すると共に、ドローイング重畳部を設けたので、ドローイング機能をも担えるシステムを構築でき、しかも、単なるポインティングとドローイングの切替えを容易に行なうことができる。
【0096】
(9) さらに、第1実施例によれば、指示ポイントの時間的変動に所定のドローイング制御内容を割り当て、その時間的変動の判定回路を設けたので、ドローイング軌跡の消去や表示色の変更等の操作も容易に実行することができる。
【0097】
(B)第2実施例
次に、本発明によるポインティングシステムの第2実施例を図面を参照しながら詳述する。
【0098】
この第2実施例のポインティングシステムは、第1実施例とは異なり、大型のCRTディスプレイや背面から投影するプロジェクションディスプレイ等の表示システムを対象としている。そのため、表示処理部(第1実施例の100Aに相当)と、ポインティング検出部(第1実施例の100Bに相当)とは空間上離間して設置されている。
【0099】
このような表示システムにおいては、指示棒の陰影がスクリーン(CRTディスプレイが適用されているとしてもこの第2実施例の説明ではスクリーンと呼ぶ)面に生じない。第2実施例は、指示棒の陰影がなくても、指示棒とスクリーン面との接触状況の検出を可能にしたものである。そのため、表示実行部としてビデオプロジェクタ(101)を適用しているか否かによっては第1実施例の表示処理部と内部構成は異なるが、その表示処理部には特徴はない。
【0100】
そこで、以下では、第2実施例のポインティング検出部について詳述することとする。
【0101】
まず、図10を用いて、この第2実施例における指示棒とスクリーン面との接触状況の検出原理について説明する。
【0102】
図10において、この第2実施例においては、かかる検出を行なうために、2個のビデオカメラ102−1及び102−2を用いている。これら2個のビデオカメラ102−1及び102−2は、それらの視点位置V1及びV2が所定距離qだけ離間されて例えば上下に設置されている。また、両視点位置V1及びV2を結ぶ線分がスクリーン30面に所定距離m1だけ離間して平行になるように設置されている。なお、ビデオカメラ102−1及び102−2の撮像領域が、例えば垂直方向について一致するように示したように(T〜B)、同一になるように、その撮像方向が固定されている。
【0103】
スクリーン30面に対して距離fだけ離間している指示棒の先端位置Rは、一方のビデオカメラ102−1からの視点位置V1からはスクリーン30面の位置N1として撮像され、他方のビデオカメラ102−2からの視点位置V2からはスクリーン30面の位置N2として撮像され、これら位置N1及びN2間には距離e1だけの隔たりがある。
【0104】
ここで、3角形V1−V2−Rと3角形N1−N2−Rとは相似形であるので、距離e1と、距離fとの間には下記(2) 式の関係が成立する。
【0105】
q:e1=(m1−f):f
e1=q・f/(m1−f) …(2)
ここで、qは既知の値であり、m1はfよりかなり大きいので(ビデオカメラの対物レンズ位置情報を利用して既知の値としても処理できる)、e1とfとに単調増加関係(ほぼ比例)が成立している。すなわち、両ビデオカメラ102−1及び102−2の視点V1及びV2から見た指示棒先端位置N1及びN2間の距離e1を捕らえることにより、距離fがほぼ0であるか(接触)否か(非接触)を検出できる。
【0106】
図11は、このような接触検出原理が適用されている第2実施例のポインティング検出部の、先端座標変動判定回路(図3の符号108参照)だけを除いた構成を示す機能ブロック図である。なお、図11では各ブロックが明確に分離されているように示しているが、これは説明の簡単化のためであり、複数のブロックの処理が融合して実行される構成もあり得る。
【0107】
各デジタル化回路600−1、600−2はそれぞれ、対応するビデオカメラ102−1、102−2からのビデオ信号の映像信号成分をデジタル信号vd1、vd2に変換するものである。なお、一方のデジタル化回路600−1は、同期信号syを分離抽出し、他方の処理系のビデオカメラ102−2の外部同期モード端子にその同期信号syを与えて、両ビデオカメラ102−1及び102−2からのビデオ信号を同期化させるようにしている。
【0108】
可変シフト回路601、フレーム間相関判定回路602及び試行動きベクトル発生回路603は、両デジタル化回路600−1及び600−2からのビデオデータvd1及びvd2の空間的な位置合わせを信号処理により行なうものである。すなわち、フレーム間相関判定回路602がビデオデータvd1と、ビデオデータvd2に対応したシフトビデオデータcvd2のフレーム相関を検出し、その検出信号dqの変化を見ながら、試行動きベクトル発生回路603が試行動きベクトル信号mcvを可変シフト回路601に与えて、可変シフト回路601がビデオデータvd2の空間位置を平行移動したビデオデータcvd2を出力し、このような処理を繰返すことにより、ビデオデータvd1とのフレーム相関が最も高いシフトビデオデータcvd2を得るものである。
【0109】
フレーム間相関判定回路602は、このような探索が終了したときには、空間的な位置合わせがなされたビデオデータvd1とシフトビデオデータcvd2との間で、差分絶対値が所定閾値より大きい画素位置を認識して、その画素位置以外の画素位置にのみ更新を認める背景更新信号sfを背景メモリ回路604に与える。
【0110】
この背景メモリ回路604には、ビデオデータvd1が入力されており、背景メモリ回路604は、背景更新信号sfが更新を許容している画素位置のビデオデータvd1を書き込む。このようにして、画素相関がない指示棒の映像領域等を除いた背景のビデオデータbgが背景メモリ回路604に格納される。
【0111】
これ以降の処理系は、第1実施例とほぼ同様である。異なる点は、ビデオカメラ102−2に係るビデオデータcvd1における指示棒映像を、第1実施例における指示棒の陰影映像と同様に取り扱っている点である。
【0112】
座標発生回路605は、デジタル化回路600−1からの同期信号syを基準に、ビデオデータvd1(従ってcvd2)のタイミングに対応した座標データを発生し、基本表示映像領域座標検出回路607、第1及び第2の指示棒映像座標検出回路610−1及び610−2に出力する。
【0113】
基本表示映像領域識別回路606は、背景メモリ回路604からの背景データbgから、ビデオカメラ102−1(102−2)による撮像領域中の中央部のほぼ長方形の表示映像領域(ラスタ領域)を識別して、ビデオデータvd1及びcvd2と同期した識別信号aaを出力する。
【0114】
第1の差分演算回路608−1は、背景メモリ回路604からの背景データbg及びデジタル化回路600−1からのビデオデータvd1の画素単位の差分を演算し、第1の指示棒映像抽出回路609−1は、その差分出力に基づいて、指示棒の映像領域rr1を抽出する。同様に、第2の差分演算回路608−2は、背景メモリ回路604からの背景データbg及び可変シフト回路601からのビデオデータcvd1の画素単位の差分を演算し、第2の指示棒映像抽出回路609−2は、その差分出力に基づいて、指示棒の映像領域rr2を抽出する。
【0115】
基本表示映像領域座標検出回路607は、基本表示映像領域識別回路606からの識別信号aaを受けて、座標発生回路605からの座標データを基準として、表示映像領域の座標データacoを作成する。同様に、第1及び第2の指示棒映像座標検出回路610−1及び610−2はそれぞれ、指示棒の映像領域rr1及びrr2を、指示棒映像座標データrco1及びrco2に変換する。
【0116】
第1及び第2の指示棒先端座標特定回路611−1及び611−2はそれぞれ、棒状の座標集合でなる指示棒映像座標データrco1、rco2と、表示映像領域の座標データacoとから、指示棒先端の座標データrpco1、rpco2を得る。
【0117】
指示棒先端座標変換回路612は、撮像系での座標系に従う指示棒先端座標データrpco1を、表示映像領域座標データacoに基づいて、表示映像領域内での相対座標データxyに変換して出力する。
【0118】
先端座標間距離判定回路120は、2個の指示棒先端の座標データrpco1及びrpco2間の上記(2) 式に従の距離e1を得て、この距離e1を閾値距離と比較することで、指示棒のスクリーン30面に対する接触、非接触を表すドローイングオンオフ信号drを出力する。
【0119】
以下、第2のビデオデータvd2の座標を平行移動させて、ちょうど2系統のビデオデータの大部分がぴったりと一致する遅延量を推定する回路構成601〜603の動作について補足説明する。
【0120】
試行動きベクトル発生回路603は、あらゆる大きさと方向の平行移動を試すために、試行動きベクトルmcvを発生する。それぞれの試行動きベクトルの発生毎に、その試行動きベクトルにより可変シフト回路601のシフト量(平行移動量)を制御する。試行毎にこの可変シフト回路601からのビデオデータcvd2と、第1のビデオデータvd1とはフレーム間相関判定回路602に入力され、フレーム間相関判定回路602は、両ビデオデータの画素単位での差分電力(例えば差分2乗)を算出し、予め設定した中央部(この場合、ビデオデータvd1が基準となる)の固定面積の差分電力総和を歪み量dgとして試行動きベクトル発生回路603に出力する。なお、中央部を用いるのは撮像領域が一致しない場合、周囲画素間の差分は大きくなるためである。
【0121】
この歪み量dgが大きいほど相関度が低いことを意味しており、試行動きベクトル発生回路603は、この歪み量dgの値を試行動きベクトルと対応させて評価し、最も歪み量dgの小さい試行動きベクトルを最終的なベクトルとして決定し、可変シフト回路601のシフト量(平行移動量)を固定する。
【0122】
次に、シフト量が固定された状態で、画素単位の両ビデオデータ間の差分電力をある閾値と比較して、相関の高い場合に有意な背景更新信号sfを背景メモリ回路604に書込み制御信号として出力する。
【0123】
有意な背景更新信号sfの画素に対してのみ背景メモリ回路604の書換えを許可することにより、背景メモリ回路604には、映像が動く動かないのみならず、2系統のビデオデータのぴったり一致した画素のみ、すなわち表示画面上の映像だけが格納されたことになる。
【0124】
従って、この第2実施例のポインティングシステムによれば、上記第1実施例の効果(1) 〜(6) 及び(9) と同一の効果を奏すると共に、さらに以下の効果を得ることができる。
【0125】
第2実施例によれば、2個のビデオカメラの視点が異なるように配置しているので、2個のビデオカメラ視点からスクリーン上に見える指示棒は、指示棒がスクリーン面に接して置かれない限り決して同一に重なって見えることはなく、2個の指示棒先端座標間の距離により、指示棒先端のスクリーンとの接触状況を確実に検出することができる。
【0126】
また、第2実施例によれば、抽出した2個の指示棒映像領域に基づいて、指示棒のスクリーン面の接触、非接触を検出してドローイングオンオフを判定すると共に、ドローイング重畳部を設けたので、ドローイング機能をも担えるシステムを構築でき、しかも、単なるポインティングとドローイングの切替えを容易に行なうことができる。
【0127】
さらに、第2実施例によれば、ビデオカメラを2個用いて近接した2つの視点からのビデオデータを用いることができるようにして、表示ディスプレイ面が、投影スクリーン面であってもCRTディスプレイ面等であっても良く、適用可能な表示ディスプレイの種類を多様にすることができる。
【0128】
さらにまた、第2実施例によれば、スクリーン面よりも離れた物体を動きと関係なく抽出できるため、第1実施例と異なり、表示映像が動画像であってもさらには指示棒の動きが静止した場合でも影響を受けない。また、スクリーン面上の映像と離れた物体が確実に分離できるため、仮に、ビデオプロジェクタでスクリーン上に投影した映像を用いるような環境においても、指示棒の陰影も人物の陰影も表示画面上の映像として指示棒と区別でき、指示棒の抽出性能に悪影響を与えない。
【0129】
(C)他の実施例
(1) 第1及び第2実施例においては、ビデオプロジェクタやビデオカメラ等がポインティングシステム専用のものを示したが、既存のビデオプロジェクタやオーバヘッドプロジェクタ等の表示装置に、ビデオカメラ等をアダプタとして取り付けることによってシステムを構成しても良い。
【0130】
(2) 第1及び第2実施例においては、指示棒とスクリーン(CRTディスプレイ面等を含む)との接触、非接触情報をドローイングのオンオフ情報として用いるものを示したが、接触、非接触情報を他の制御情報として利用するシステムであっても良い。
【0131】
(3) 表示処理構成は、上記各実施例のものに限定されず、その特徴構成を適用できるものであれば任意である。例えば、オーバーヘッドプロジェクタ構成やフラットディスプレイ構成等であっても良い。オーバーヘッドプロジェクタ構成であっても、その原稿載置面上にパーソナルコンピュータ等で制御される透過形の液晶パネルを適用した場合には、ドローイング機能を実現できる。フラットディスプレイ構成において、接触、非接触情報をポイント指示がなされたか否かとして利用するようにすれば、直接的な指示によるインタラクティブ操作のインタフェース技術として有効である。特許請求の範囲における「スクリーン」の用語は、表示面を意味し、フラットディスプレイ構成等の表示面も含むものである。
【0132】
なお、スクリーンと、表示処理部のビデオ信号の電気/光変換部との距離が大きい程、本発明システムを適用した効果はより大きい。例えば、ホームシアター用のビデオプロジェクタ等の場合には、上記距離が大きいので、本発明システムの適用効果は大きい。
【0133】
(4) 第1及び第2実施例においては、ドローイング重畳部を表示処理部内に設けたものを示したが、表示制御ユニット(例えばパーソナルコンピュータ)内にドローイング重畳部を設けるようにしても良い。同様に、先端座標変動判定回路も表示制御ユニット(例えばパーソナルコンピュータ)内に設けるようにしても良い。
【0134】
(5) 第1及び第2実施例においては、ドローイング軌跡の重畳をアナログ的に行なうものを示したが、デジタル的に行なうようにしても良い。この場合には、黒レベル検出回路等は不要となる。また、ドローイング軌跡の重畳も、表示ビデオ信号に対するドローイングビデオ信号の置き換えだけでなく、合成によって実現するものであっても良い。
【0135】
(6) 第1及び第2実施例においては、背景メモリ回路に格納されている背景データの見直しを常時行なうものを示したが、例えば、表示制御ユニットからのビデオ信号(表示画像)の変更情報を取込んで、変更された直後の撮像画像を背景メモリ回路に格納させて利用するようにしても良い。
【0136】
(7) ビデオカメラは、カラー撮像用のもの、白黒撮像用のものに限定されないことは勿論であり、さらには、特定色だけを通過させる色フィルタを前面に有するものであっても良い。また、その個数も上記各実施例のものに限定されない。例えば、第1実施例におけるビデオカメラを2台以上、第2実施例におけるビデオカメラを3台以上として、指示ポイント座標を複数得てその平均座標を最終的な指示ポイント座標とするようにしても良い。また、第2実施例の場合、2個のビデオカメラからのビデオ信号に基づいて、2個の指示ポイント座標を得て、その平均座標を最終的な指示ポイント座標とするようにしても良い。
【0137】
(8) 第1実施例の動き検出回路や、第2実施例の試行動きベクトル発生回路や可変シフト回路等に、1フレームを縦横に分割したブロック単位に処理するものを適用し、全体フレームの動きを推定するようにしても良い。このようにすると、動画像符号化用の既存の動き推定LSIを適用し得る。
【0138】
(9) 第1及び第2実施例においては、指示棒として直線的なものを示したが、曲線的なものであっても良い。また、先端が、丸、4角、星形等の特定形状を有するものであっても良い。この場合には、上記各実施例の先端座標(指示ポイント)の特定方法に加えて、又は、代えて、パターンマッチングによる先端座標の特定方法も利用できる。さらには、先端に高輝度又は所定色の発光体を取り付けたり、先端部の色だけを変えたりしたものであっても良い。また、人間の腕が指示棒の代りであっても良い。この場合にも、領域の細線化処理等によって指示棒と同様に取り扱うことができる。
【0139】
(10)第1及び第2実施例においては、各種閾値が固定値のものを示したが、ビデオカメラとスクリーンとの距離を規定する対物レンズの位置等に応じて、各種閾値を変更させるようなものであっても良い。
【0140】
(11)第1及び第2実施例においては、表示映像領域の情報を、一旦得た先端座標データを相対化させるために利用するものを示したが、表示映像領域の情報を、ビデオデータを所定の長方形に正規化させる情報として用い、このようにして正規化されたビデオデータを画像処理するようにしても良い。
【0141】
(12)ドローイングモードでなくても、指示ポイントにマーカを表示するシステムであっても良い。
【0142】
【発明の効果】
以上のように、本発明のポインティングシステムは、スクリーン上の位置を指示するための指示棒状体と、スクリーン面を撮像対象とし、撮像ビデオ信号を出力する撮像手段と、撮像ビデオ信号に基づいて、指示棒状体に関する少なくとも2個以上の領域情報を抽出する特定領域抽出手段と、抽出された1以上の領域情報から、指示棒状体による指示ポイント座標を得る指示ポイント検出手段と、抽出された2以上の領域情報から、指示棒状体とスクリーン面との接触、非接触を検出する接触検出手段とを有するので、大きなディスプレイ面(スクリーン面)であっても、操作者の位置自由度や操作性が高い、ドローイングモードか否か等の指示も容易にできるポインティングデバイスを実現できる。
【図面の簡単な説明】
【図1】第1実施例システムの各種要素の空間的な配置図である。
【図2】従来に係るリモコン装置のブロック図である。
【図3】第1実施例のポインティングシステム本体ユニットのブロック図である。
【図4】第1実施例の動き検出回路のブロック図である。
【図5】第1実施例の接触判定方法の原理説明図である。
【図6】第1実施例の先端座標検出回路のブロック図である。
【図7】第1実施例の表示映像領域の抽出方法の説明図である。
【図8】第1実施例の先端座標の特定方法の説明図である。
【図9】第1実施例のドローイング重畳部のブロック図である。
【図10】第2実施例システムの各種要素の空間的な配置図である。
【図11】第2実施例のポインティングシステム本体ユニットの要部構成を示すブロック図である。
【符号の説明】
20…表示制御ユニット、30…スクリーン(表示面)、34…ドローイング軌跡、40…指示棒、45…指示棒陰影、100…ポインティングシステム本体ユニット、101…ビデオプロジェクタ、102、102−1、102−2…ビデオカメラ、103、600−1、600−2…デジタル化回路、104…フレームメモリ、105…動き検出回路、106、604…背景メモリ回路、107…先端座標検出回路、108…先端座標変動判定回路、120…先端座標間距離判定回路、601…可変シフト回路、602…フレーム間相関判定回路、603…試行動きベクトル発生回路。
Claims (4)
- 表示ビデオ信号を電気/光変換してそのビデオ信号の画像をスクリーンに表示させる表示手段と、
上記スクリーン上の位置を指示するための指示棒状体と、
上記スクリーン面を撮像対象とし、撮像ビデオ信号を出力する撮像手段と、
撮像ビデオ信号に基づいて、上記指示棒状体に関する少なくとも2個以上の領域情報を抽出する特定領域抽出手段と、
抽出された1以上の領域情報から、上記指示棒状体による指示ポイント座標を得る指示ポイント検出手段と、
抽出された2以上の領域情報から、上記指示棒状体と上記スクリーン面との接触、非接触を検出する接触検出手段とを有し、
上記特定領域抽出手段が、複数のフレームの撮像ビデオ信号を用いた動き検出により背景領域を検出する背景検出部と、検出された背景領域の撮像ビデオ信号だけを格納する背景信号記憶部と、撮像ビデオ信号と上記背景信号記憶部からの背景信号との相違に基づいて、上記指示棒状体の映像領域の情報を抽出する指示棒状体領域抽出部と、撮像ビデオ信号と上記背景信号記憶部からの背景信号との相違に基づいて、上記指示棒状体の陰影の映像領域の情報を抽出する陰影領域抽出部とでなって、撮像ビデオ信号における上記指示棒状体の映像領域の情報と、撮像ビデオ信号における上記指示棒状体の陰影の映像領域の情報とを抽出し、
上記指示ポイント検出手段が、上記指示棒状体の映像領域情報から、上記指示棒状体による指示ポイント座標を得、
上記接触検出手段が、抽出された上記指示棒状体の映像領域情報と、上記指示棒状体の陰影の映像領域情報とから、上記指示棒状体と上記スクリーン面との接触、非接触を検出する
ことを特徴とするポインティングシステム。 - 上記表示手段に与える表示ビデオ信号の経路に設けられたドローイング重畳手段をさらに備え、このドローイング重畳手段が、上記接触検出手段による検出結果を、ドローイング軌跡の描画を実行するか否かの指示信号として取込むことを特徴とする請求項1に記載のポインティングシステム。
- 上記指示ポイント検出手段からの指示ポイント座標信号の時間的変動を、予め登録されている時間的変動パターンと照合し、合致する時間的変動パターンが検出されたときに、その時間的変動パターンに係る制御信号を出力する時間変動判定手段をさらに有することを特徴とする請求項1又は2に記載のポインティングシステム。
- 上記時間変動判定手段が登録する時間的変動パターン及び制御信号の組み合わせが、外部から更新可能であることを特徴とする請求項3に記載のポインティングシステム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12624095A JP3729533B2 (ja) | 1995-05-25 | 1995-05-25 | ポインティングシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12624095A JP3729533B2 (ja) | 1995-05-25 | 1995-05-25 | ポインティングシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH08320921A JPH08320921A (ja) | 1996-12-03 |
JP3729533B2 true JP3729533B2 (ja) | 2005-12-21 |
Family
ID=14930269
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP12624095A Expired - Fee Related JP3729533B2 (ja) | 1995-05-25 | 1995-05-25 | ポインティングシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3729533B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9417712B2 (en) | 2012-05-18 | 2016-08-16 | Ricoh Company, Ltd. | Image processing apparatus, computer-readable recording medium, and image processing method |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11282083A (ja) | 1998-03-27 | 1999-10-15 | Minolta Co Ltd | プロジェクター装置 |
JP2001222375A (ja) | 2000-02-08 | 2001-08-17 | Seiko Epson Corp | 指示位置検出システムおよび方法、プレゼンテーションシステム並びに情報記憶媒体 |
JP3640156B2 (ja) | 2000-02-22 | 2005-04-20 | セイコーエプソン株式会社 | 指示位置検出システムおよび方法、プレゼンテーションシステム並びに情報記憶媒体 |
NL1014538C2 (nl) * | 2000-03-02 | 2001-09-04 | Nedap Nv | Flexibel interactief grafisch gebruikersinterface. |
JP4666808B2 (ja) * | 2000-07-27 | 2011-04-06 | キヤノン株式会社 | 画像表示システム、画像表示方法、及び記憶媒体、プログラム |
CN100394366C (zh) * | 2001-04-09 | 2008-06-11 | 华邦电子股份有限公司 | 应用于计算机的撷取影像和操控光标的装置及方法 |
JP4500036B2 (ja) * | 2003-11-18 | 2010-07-14 | 株式会社リコー | 画像投影表示装置、画像投影表示方法および画像投影表示プログラム |
JP3880582B2 (ja) * | 2004-02-13 | 2007-02-14 | Necビューテクノロジー株式会社 | 複数のカメラを備えたプロジェクタ |
JP2009032123A (ja) * | 2007-07-27 | 2009-02-12 | Hiroshima Industrial Promotion Organization | 画像処理装置、画像処理方法およびプログラム |
CN104536623B (zh) * | 2009-03-25 | 2018-02-27 | 上海聚然智能科技有限公司 | 无线光学触摸屏系统及其用途 |
JP5510907B2 (ja) * | 2009-12-01 | 2014-06-04 | 学校法人東京電機大学 | タッチ位置入力装置及びタッチ位置入力方法 |
JP4858631B2 (ja) * | 2010-06-17 | 2012-01-18 | パナソニック株式会社 | 画像投影装置、判定方法及び判定プログラム |
WO2014016994A1 (ja) * | 2012-07-26 | 2014-01-30 | 日本電気株式会社 | インターフェース装置、プログラム、及び制御方法 |
WO2015075767A1 (ja) * | 2013-11-19 | 2015-05-28 | 日立マクセル株式会社 | 投射型映像表示装置 |
WO2016092656A1 (ja) * | 2014-12-10 | 2016-06-16 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
WO2016129489A1 (ja) * | 2015-02-10 | 2016-08-18 | シャープ株式会社 | 表示装置、表示装置の制御方法、制御プログラム、記録媒体 |
GB201807749D0 (en) * | 2018-05-13 | 2018-06-27 | Sinden Andrew James | A control device for detection |
CN112887430B (zh) * | 2021-03-12 | 2022-12-20 | 深圳市环阳通信息技术有限公司 | 居家健康管理装置 |
-
1995
- 1995-05-25 JP JP12624095A patent/JP3729533B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9417712B2 (en) | 2012-05-18 | 2016-08-16 | Ricoh Company, Ltd. | Image processing apparatus, computer-readable recording medium, and image processing method |
Also Published As
Publication number | Publication date |
---|---|
JPH08320921A (ja) | 1996-12-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3729533B2 (ja) | ポインティングシステム | |
JP3909554B2 (ja) | プレゼンテーション制御システム及びその制御方法 | |
US6788289B2 (en) | System and method of pointed position detection system, projector and program | |
JP3938257B2 (ja) | 顔のような領域を検出する方法および装置、ならびに観察者トラッキングディスプレイ | |
KR950011822B1 (ko) | 입체 영상을 발생시키기 위한 장치 및 그 방법 | |
KR20010020668A (ko) | 컴퓨터-생성 투사 영상의 캘리브레이션을 위한 방법 및 장치 | |
CN106851234B (zh) | 投影仪以及投影仪的控制方法 | |
JPH08331667A (ja) | ポインティングシステム | |
JP2009205556A (ja) | ユーザインタフェース装置 | |
KR101691880B1 (ko) | 자동 캘리브레이션 기능이 구비된 인터액티브 시스템 및 인터액티브 시스템의 자동 캘리브레이션 방법 | |
CN107817924B (zh) | 显示装置和显示装置的控制方法 | |
JP2004535610A (ja) | カメラビュー内の制御可能なディスプレイの前にある物体の位置の決定のための前景および背景画像データのロバストな分離のためのシステムおよび方法 | |
JP4848521B2 (ja) | プロジェクタ投影映像のマウス代替操作方法およびそのマウス代替操作システム | |
CN101405763B (zh) | 用于获取实时视频输出的对象的多个视图的方法和系统 | |
US20120062593A1 (en) | Image display apparatus | |
JP4572190B2 (ja) | 物体検出装置 | |
JP2013080266A (ja) | 入力装置 | |
JP2000081950A (ja) | 画像処理装置、画像処理方法、及び提供媒体、並びにプレゼンテーションシステム | |
JP4836878B2 (ja) | 画像識別表示装置及び画像識別表示方法 | |
JP6726889B2 (ja) | 映像表示システム | |
JPH1063421A (ja) | ディスプレイの座標入力方法及びディスプレイ装置 | |
KR100457302B1 (ko) | 영상 처리를 이용한 다채널 자동 트랙킹 및 자동 줌 방법 | |
JP2007287093A (ja) | 移動体検出装置、方法、及びプログラム | |
KR100596140B1 (ko) | 카메라를 내장한 리모트 컨트롤 장치 및 이를 이용한포인팅 방법 | |
TW201638719A (zh) | 遙控裝置與根據至少一靜態手勢產生控制指令的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050317 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050322 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050419 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050628 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050817 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051004 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051004 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081014 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091014 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101014 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |