JPH1138949A - 描画装置、描画方法及び記録媒体 - Google Patents

描画装置、描画方法及び記録媒体

Info

Publication number
JPH1138949A
JPH1138949A JP18999097A JP18999097A JPH1138949A JP H1138949 A JPH1138949 A JP H1138949A JP 18999097 A JP18999097 A JP 18999097A JP 18999097 A JP18999097 A JP 18999097A JP H1138949 A JPH1138949 A JP H1138949A
Authority
JP
Japan
Prior art keywords
image
information
translucent surface
points
operation information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP18999097A
Other languages
English (en)
Other versions
JP3997566B2 (ja
Inventor
Jiyunichi Rekimoto
純一 暦本
Nobuyuki Matsushita
伸行 松下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP18999097A priority Critical patent/JP3997566B2/ja
Publication of JPH1138949A publication Critical patent/JPH1138949A/ja
Application granted granted Critical
Publication of JP3997566B2 publication Critical patent/JP3997566B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Position Input By Displaying (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

(57)【要約】 【課題】 多様な操作により描画を行うことのできる描
画システムの提供。 【解決手段】 半透明面2の背面側に対して、赤外線
光を定常的に照射する赤外線LEDパネル3と、半透明
面2側から入射してくる赤外線光のみを撮像するCCD
カメラ4と、半透明面2に対して画像(赤外線光は含ま
ない)を投影表示するプロジェクタ5を設ける。ユーザ
が半透明面2の前面側で操作を行うと赤外線反射光量が
変化するので、制御装置6では、CCDカメラ4の撮像
信号に基づいて上記反射光量の変化を検出画像情報とし
て捉えた上で、この画像情報に基づいて得られる操作情
報に従って、例えば描画処理を行うと共に描画画像を半
透明面2に対して表示する制御を実行する。この場合、
操作方法としては赤外線光の反射によって検出画像情報
に変化が現れるような形態をとればよく、多様な操作方
法による描画が可能となる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、インタラクティブ
な入出力が可能な表示システムを利用して描画を実現す
るための描画装置、描画方法、及び描画用のプログラム
が格納された記録媒体に関するものである。
【0002】
【従来の技術】例えばコンピュータ装置などでは、様々
なアプリケーションプログラムなどのもとで、ユーザの
操作に応答してコンピュータ装置側が所定の反応を表示
等によって提示する、いわゆるインタラクティブな入出
力形態が広く採用されている。そして、上記のようなイ
ンタラクティブな入出力が実現された環境のもとで、い
わゆるドローやペインティングなどのソフトウェアを利
用して、ユーザが行った所定の入力操作に従って線や図
形などの描画を行うことが行われている。
【0003】例えば、上記のような描画の入力操作に用
いる入力装置の1つとして、例えばタッチパネルやタブ
レットなどが広く知られている。タッチパネルは、パネ
ル上に対して例えばユーザの指を接触させながら、任意
の方向にスライド操作させるようにして、所要の操作を
行うものである。また、タブレットは、専用のペンの先
端をタブレットの操作面上に対して接触させながら動か
すことで、このペン先の動きに対応した絵や文字などの
画像がモニタ等に描画されるものである。
【0004】また、コンピュータ化されたホワイトボー
ドとして機能するプロジェクションディスプレイも知ら
れている。このようなプロジェクションディスプレイで
は、例えばユーザが専用の赤外線発光ペンを利用して、
上記ホワイトボード上に対して図形や文字などの描画操
作を行うようにされる。
【0005】また、「ビデオプレイス」といわれるイン
タラクティブな効果をねらった装置が知られている。こ
のビデオプレイスは、例えばビデオカメラを利用した芸
術性を有する装置とされる。例えばビデオプレイスの鑑
賞者は、ビデオカメラに自身の手あるいはその他の人体
の一部をシルエットとして撮影させる。鑑賞者は、この
撮影画像と例えば他の画像とが合成された何らかの画像
をモニタ装置でみながら自在に手や人体の一部を動かす
ことにより、モニタ装置に表示される画像の反応や変化
を楽しむことができるようになっている。
【0006】
【発明が解決しようとする課題】ところで、更に拡大さ
れたインタラクティブな入出力環境のもとで描画を行お
うとした場合、上記したようなこれまでの入力装置では
次のような点で限界が見えてくる。タッチパネルやタブ
レットを例に採った場合、ポインティングの操作は概し
て指又は専用のペン等に限定される。また、タッチパネ
ルやタブレットの面上の空間での操作は行えず、操作面
に対して指やペンなどの物理的な操作体をパネル面上に
接触させる必要がある。更に、タッチパネルやタブレッ
トは、その構造上比較的高価なので大型の操作パネルと
しては好適でない。また、タッチパネルやタブレットに
対する操作により得られる描画画像は、通常、タッチパ
ネルやタブレット本体とは別体とされるモニタ装置など
に対して表示されるので、その描画操作が間接的にな
る。また、コンピュータ化されたホワイトボードとして
機能するプロジェクションディスプレイの場合、操作画
面の大型化は容易に実現可能なのであるが、例えば上記
したように赤外線発光ペンなどの特殊なポインティング
デバイスが必要となる点では、上記したタブレットと同
様となる。
【0007】また、ビデオプレイスの場合には、手や人
体のシルエットを利用して何らかのインタラクティブな
操作を実現するため、この場合にも、その入出力間のイ
ンターフェイスが間接的であり、直接的な操作を望む場
合には機能的に不十分となる。
【0008】このように、これまでの入力装置ではイン
タラクティブな入出力環境を強化拡大したうえで、描画
を行おうとした場合には様々な障害となる要因が存在す
る。
【0009】
【課題を解決するための手段】そこで、本発明は上記し
た課題を解決するため、半透明面と、この半透明面側の
方向から入射する所定の波長帯域の光又は電磁波のみを
像として捉える撮像手段と、この撮像手段から入力され
た撮像信号に基づいて半透明面に対して与えられた操作
が反映される検出用画像情報を生成し、この検出用画像
情報に基づいて識別した操作情報に基づいて所要の制御
処理を実行する制御処理手段と、撮像手段が撮像すべき
光又は電磁波の波長帯域を含まない可視光による画像を
上記半透明面に対して投影表示可能に設けられる投影表
示手段とを備え、上記制御処理手段は、操作情報に基づ
いて描画画像を生成する描画画像生成処理と、この描画
画像生成処理によって得られた描画画像が半透明面に投
影表示されるための投影表示手段に対する表示制御とを
実行するように構成することとした。
【0010】また、半透明面側の方向から入射する所定
の波長帯域の光又は電磁波のみを像として捉える撮像動
作と、この撮像動作により得られる撮像信号に基づいて
半透明面に対して与えられた操作が反映される検出用画
像情報を生成し、この検出用画像情報に基づいて識別し
た操作情報に基づいて実行される所要の制御処理と、撮
像動作として撮像すべき光又は電磁波の波長帯域を含ま
ない可視光による画像を半透明面に対して投影表示動作
と実行させるように構成したもとで描画を行うための描
画方法の構成として、上記した制御処理として、操作情
報に基づいて描画画像を生成する描画画像生成処理と、
描画画像生成処理によって得られた描画画像を上記半透
明面に投影表示させるための表示制御とを実行可能なよ
うに構成することとした。
【0011】また、半透明面と、この半透明面側の方向
から入射する所定の波長帯域の光又は電磁波のみを像と
して捉える撮像手段と、この撮像手段から入力された撮
像信号に基づいて半透明面に対して与えられた操作が反
映される検出用画像情報を生成し、この検出用画像情報
に基づいて識別した操作情報に基づいて所要の制御処理
を実行する制御処理手段と、撮像手段が撮像すべき光又
は電磁波の波長帯域を含まない可視光による画像を上記
半透明面に対して投影表示可能に設けられる投影表示手
段とを備えた表示装置に用いられる描画用プログラムが
格納される記録媒体に対して、上記制御処理手段に所要
の制御処理を実行させるプログラムとして、操作情報に
基づいて描画画像を生成する描画画像生成処理と、この
描画画像生成処理によって得られた描画画像を半透明面
に投影表示させるための上記投影表示手段に対する表示
制御とを実行可能とするための描画用プログラムを格納
することとした。
【0012】上記構成によると、例えば半透明面に近づ
いた物理的対象によって撮像手段に入射する光又は電磁
波の状態が変化することになる。本発明ではこのような
光又は電磁波の状態変化を画像情報として捉えることに
なる。そして、このようにして得られる画像情報を操作
情報として扱い、この操作情報に従って描画を行うシス
テムを構築することが可能となる。つまり、半透明面の
付近において、撮像手段により撮像される所定波長帯域
の光又は電磁波の状態に変化を与えることのできる何ら
かの物理的対象を近づけたり動かしたりすることによっ
て操作情報を与えることで描画を行うことが可能とな
る。また、本発明では半透明面が操作パネル及び表示パ
ネルの機能を兼用することになるので、ユーザが半透明
面に対して行った操作により描画される描画画像を直接
半透明面に対して反映させるようにして表示させること
が可能になる。また、本発明において操作パネル及び表
示パネルとして機能するのは単なる半透明面であり、こ
の半透明面としては容易に大型なものを形成することが
できることにもなる。
【0013】また、上述した描画装置としての構成に対
して、上記撮像手段が受像すべき光又は電磁波を半透明
面に対して定常的に輻射する輻射手段を備えれば、半透
明面に対して行われた操作情報を検出するための媒体が
容易に得られることになる。
【0014】
【発明の実施の形態】以下、本発明の実施の形態の情報
入力装置について説明する。なお、以降の説明は次の順
序で行う。 <1.描画装置の構成及び操作情報の検出動作> <2.基本的な多角形の描画操作> <3.四角形に関する描画> <4.三角形に関する描画> <5.楕円形に関する描画> <6.線の変形> <7.図形の移動操作例> <8.図形の拡大/縮小操作例> <9.ホワイトボード機能> <10.他の実施の形態としての描画装置の構成>
【0015】<1.描画装置の構成及び操作情報の検出
方法>先ず、図1〜図6を参照して、本発明の実施の形
態としての描画装置の構成例及び基本的な操作情報の検
出動作について説明する。図1は、本実施の形態として
の描画装置の構成例を概念的に示している。この図に示
す描画装置1は、半透明面2、赤外線発光ダイオード素
子(LED:Light Emitted Diode )パネル3、CC
D(Charge Coupled Device) カメラ4、プロジェクタ
5、及び制御装置6を備えて構成される。赤外線LED
パネル3、CCDカメラ4、及びプロジェクタ5は半透
明面2の背面側に対して設けられる。
【0016】半透明面2は、例えば透明なガラス板に対
してトレーシングペーパーのような見え方をする半透明
膜を貼り合わせる、あるいは磨りガラスのような半透明
の性質を有するものを利用するなどして形成され、後述
するようにして当該描画装置1における操作パネルと表
示パネルとの両者の機能を併せ持つ。赤外線LEDパネ
ル3は、例えばパネル面に対して多数の赤外線LEDが
集合的に配列されることによって構成され、上記赤外線
LEDから発光出力される赤外線光が半透明面の背面全
体に対して照射されるように設けられる。上記赤外線L
EDは制御装置6によって定常的に赤外線を発光するよ
うに駆動される。なお、赤外線LEDパネル3として
は、発光出力される赤外線光が半透明面2全体に対して
照射されるのに充分な数の赤外線LEDが設けられれば
よい。また、後述するように、初期の赤外線画像に対す
る現在の赤外線画像の差分に基づいて半透明面2側から
反射してくる画像情報を得るようにされることから、半
透明面2全体に対して照射される赤外線光量が一律であ
るべき必要もない。従って赤外線LEDパネル3のサイ
ズは、半透明面2よりもはるかに小さいもので済ませる
ことができる。
【0017】CCDカメラ4は、撮像素子としてCCD
を用いたカメラ装置であり、この場合には、半透明面2
に映る画像光として赤外線光の成分のみを撮像すること
により、半透明面2に対して行われた操作を画像情報と
して認識するために設けられる。このため、CCDカメ
ラ4の光学系の部分に対しては、赤外線領域の波長帯域
のみを透過する赤外線透過フィルタ4aが設けられる。
また、CCDカメラ4により撮影される構図として半透
明面2全体が含まれるようにその配置位置が設定され
る。
【0018】プロジェクタ5は、制御装置6から供給さ
れる画像情報に基づいて、可視光による画像光を半透明
面2の背面に対して投影表示する。例えばユーザは、半
透明面2に投影表示されたプロジェクタ5の画像を、半
透明面2の前面側から観察することができる。ここで、
プロジェクタ5の光学系には赤外線領域の波長を遮断す
る赤外線遮断フィルタ5aが設けられているが、これに
より、半透明面2に投影表示される画像光には赤外線が
含まれなくなるため、プロジェクタ5の投影画像は、C
CDカメラ4からは不可視となる。
【0019】制御装置6は、例えばマイクロコンピュー
タを備えて構成され、CCDカメラ4から供給される撮
像信号から画像情報(映像データ)を得て、更にこの画
像情報をもとに操作情報を得る。そして、この操作情報
に基づいて、例えばプロジェクタ5により半透明面2に
表示させる画像に関する表示制御を実行する他、各種所
要の制御処理を行う。また、赤外線LEDパネル3の赤
外線LEDの発光駆動を行う。なお、上記赤外線LED
パネル3、CCDカメラ4及びプロジェクタ5の配置位
置は、それぞれが果たすべき役割が充分機能することを
考慮して設定されればよい。また、制御装置6と接続さ
れるプリンタ20は、後述するようにして半透明面2に
対して表示される描画画像などを印刷出力するために設
けられる。
【0020】図2は、上記制御装置6の内部構成例を示
すブロック図である。この図に示す制御装置6におい
て、LED駆動部10は、赤外線LEDパネル3に設け
られた複数の赤外線LEDを発光駆動するための回路部
位である。
【0021】画像入力部11は、CCDカメラ4から供
給された撮像信号について所要の信号処理を施すことに
よって映像信号を生成して入力画像処理部12に供給す
る。つまり、画像入力部11では、半透明面2側からC
CDカメラ4を介して入射してきた赤外線光を映像情報
として出力する。
【0022】入力画像処理部12では、例えば画像入力
部11から供給された映像信号をデジタル信号による映
像信号データに変換する。入力画像処理部12において
は、この映像信号データに基づいて得られる「画像情報
(例えばフレーム単位の映像データ)」を利用して所要
の解析処理等を実行することで、半透明面2に対して行
われた操作情報を得るようにされる。ここで画像情報に
基づいて得られる操作情報としては、例えば、半透明面
2に対して操作を行っている操作体の画像上の位置(座
標)や画像の信号レベルなどが用いられる。この操作情
報はデータベース駆動部14に伝送される。また、上記
映像信号データは、画像合成部17に対しても供給可能
とされている。
【0023】しきい値制御部13は、入力画像処理部1
2にて実行される操作情報に関する処理に必要なしきい
値を設定して入力画像処理部12に伝送する。上記入力
画像処理部12では、しきい値制御部13において設定
されるしきい値を利用して画像情報について解析を行う
など所要の処理を実行することで操作情報を得る。ま
た、本実施の形態では後述するようにして入力画像デー
タのフレーム差分を算出することにより、現在の半透明
面2の画像状態(検出画像情報)を得るようにされる
が、フレーム差分演算に利用する基準値(基準画像入力
レベル)等の情報も、後述するようにして、しきい値制
御部13に格納されるものとする。
【0024】データベース駆動部14は、入力画像処理
部12により得られた操作情報を取り込み、この操作情
報に基づいて適宜所要の処理を実行する。この際、デー
タベース駆動部14が実行すべき制御処理に必要なプロ
グラムデータはデータベースメモリ15に格納されてお
り、データベース駆動部14は、データベースメモリ1
5に格納されたプログラムデータに基づいて所要の制御
処理を実行することになる。本実施の形態では、後述す
る各種描画動作を実現するための描画プログラムがデー
タベースメモリ14に格納されることになる。
【0025】画像生成部16は、データベース駆動部1
4の制御によって、必要な画像データ(デジタル信号に
よる映像信号データ)を生成して画像合成部17に出力
する。画像合成部17においては、必要があれば上記画
像生成部16から供給された映像信号データに対して、
入力画像処理部12から供給された映像信号データを合
成してRGB信号生成部18に対して出力する。RGB
信号生成部18では、上記画像合成部17から供給され
た映像信号データについて、例えばアナログによるRG
B信号に変換してプロジェクタ5に対して出力する。こ
れにより、プロジェクタ5からは、半透明面2に対して
行われる操作に応答した映像による画像光が半透明面2
に対して照射出力されることになる。
【0026】また、本実施の形態においては、制御装置
6に対して画像の印刷を行うためのプリンタ20を設け
ることができ、これに対応するため、制御装置6内にお
いてはプリンタ制御部19が設けられる。このプリンタ
制御部19は、当該制御装置6とプリンタ20間との通
信を行うために設けられるものであり、RGB信号生成
部18から出力された画像データについて、実際に接続
されたプリンタ20による印刷が可能な形態のデータに
変換してプリンタ20に伝送するほか、プリンタ20の
各種動作を制御するための制御信号を出力する。この制
御信号は例えばデータベース駆動部14から送信され
る。また、プリンタ20側から送信されてくるデータ信
号をデータベース駆動部14に伝送することにより、デ
ータベース駆動部14ではプリンタ20の動作状態を監
視する。そして、その動作状態に応じて適宜所要の処理
を実行するようにされる。
【0027】次に、上記構成による本実施の形態の描画
装置1における操作情報の検出方法について説明する。
前述のように、図1に示す半透明面2全体に対しては、
その背面から赤外線LEDパネル3により赤外線光が照
射されるのであるが、この赤外線光は半透明面2が半透
明であることから、全ての赤外線光が半透明面2を通過
するのではなく、幾分かの赤外線光が半透明面2の作用
によって反射されることになる。そして、本実施の形態
においては半透明面2に対して何も操作が行われていな
いとされる状態のもとで、半透明面2にて反射される赤
外線光をCCDカメラ4により撮像し、これにより得ら
れる映像信号データの初期レベルを「基準入力画像レベ
ル」として記憶する。この基準入力画像レベルは、入力
された映像信号データに基づいて例えば1フレームにお
ける画素ごとの信号レベルを検出することにより行うよ
うにすればよい。この検出処理は、入力画像処理部12
により行われるものとされる。このようにして検出され
た基準入力画像レベルの情報はしきい値検出部13に伝
送され、ここで保持されることになる。
【0028】上記基準入力画像レベルの検出処理は、例
えば図3のフローチャートに示すものとなる。この図に
示すように、先ず入力画像処理部12では、ステップS
101において、CCDカメラ4から画像入力部11を
介して供給された映像信号から得られる1フレーム分の
画像データに基づいて、上述のようにして画素ごとに信
号レベルを検出し、この検出結果を基準入力画像レベル
Lintとして得る。なお、具体的には画素ごとの輝度
信号成分のレベルを検出してこれを基準入力画像レベル
Lintとすることが考えられる。入力画像処理部12
は、続くステップS102において、上記基準入力画像
レベルLintをしきい値制御部13に伝送して記憶さ
せるように処理を実行する。
【0029】なお、基準入力画像レベルLintを検出
してしきい値制御部13に記憶させる処理(上記図3に
示す処理動作)は、例えば当該インタラクティブ表示シ
ステムの電源オン時などに実行させたり、あるいは何ら
かのユーザの指示によって必要なときに基準入力画像レ
ベルLintを更新させるように構成することが考えら
れる。
【0030】上記のようにして基準入力画像レベルLi
ntの情報が保持された状態のもとで、操作情報として
扱われる画像情報は次のようにして得るようにされる。
図4は、操作情報のもととなる画像情報(以下、この
「画像情報」については特に「検出画像情報」という)
を得るための入力画像処理部12の処理動作を示すフロ
ーチャートである。この場合、入力画像処理部12は、
先ずステップS201において現在の入力画像レベルL
prsを検出する処理を実行する。ここでいう入力画像
レベルLprsは、現在においてCCDカメラ4により
撮像された、赤外線光に基づく半透明面2の画像につい
てのフレーム単位のデータであり、このフレーム単位の
画像データにおける画素ごとの信号レベルを検出して得
られる情報である。続いて、入力画像処理部12はステ
ップS202において、基準入力画像レベルLintと
上記現在の入力画像レベルLprsの差分を演算する
(L=Lprs−Lint)ことによって差分入力画像
レベルLを算出する。具体的には、基準入力画像レベル
Lintと上記入力画像レベルLprsとして得られた
データ値を、同一位置の画素ごとに差分を求めることに
よって差分入力画像レベルLを得るようにされる。従っ
て、差分入力画像レベルLとしては、常に基準入力画像
レベルLintに対する現在の入力画像レベルLprs
との信号レベル差が画素ごとに得られることになる。そ
して、入力画像処理部12は、ステップS203に進
み、上記差分入力画像レベルLに基づいて、現在の検出
画像情報(フレーム単位で画素ごとのレベル情報を有す
る形式の映像データ)を生成するようにされる。
【0031】上記のごとき検出画像情報の検出動作を、
実際のユーザの半透明面2の前面側での動きと共に説明
する。例えばユーザは、半透明面2の前面側において赤
外線を反射可能な何らかの物体を利用して半透明面2の
前面側において操作を行うようにするのであるが、ここ
では、説明の簡単のためにユーザ自身の指や身体を用い
ることとする。ここで、例えば図1に示すように半透明
面2の前面側においてユーザが半透明面2から遠く離れ
た距離にいるときには、例えば半透明面2を通過してユ
ーザの身体に反射するとされる赤外線光量は少ないこと
から、そのほとんどが半透明面2の前面から背面を通過
して戻ることはない。このとき、上述した基準入力画像
レベルLintと上記現在の入力画像レベルLprsと
は同等であり、入力画像処理部12では、差分入力画像
レベルLとしてほぼ0であると検出することになる。つ
まり、差分入力画像レベルLに基づいて生成される検出
画像情報としては、初期状態と同様の変化の無いとされ
る状態が得られることになる。
【0032】ここで、例えば上記の状態からユーザが徐
々に半透明面2に対して近づいていったとすると、半透
明面2を通過してユーザの身体に反射する赤外線光のう
ち、半透明面2を通過して背面側に到達する光量が次第
に増加していくことになる。この状態を、入力画像処理
部12からみた場合には、ユーザの身体に対応する画像
部分の基準入力画像レベルLintに対する現在の入力
画像レベルLprsのレベルが徐々に増加していく状態
として捉えられる。これに応じて、検出画像情報として
は算出される差分入力画像レベルLに応じて、半透明面
2に接近するユーザの姿が徐々に捉えられていくことに
なる。そして、半透明面2に対して例えばユーザの体が
非常に接近した状態(しきい値の設定にもよるが例えば
半透明面2から30cm以内)では、その人体に反射し
た赤外線光がほとんど半透明面2を通過して背面側に到
達することになるので、その身体形状がより鮮明な状態
の検出画像情報が生成されることになる。
【0033】また、ここでユーザがその身体を半透明面
2からある程度距離を置いた状態で、例えば自身の指を
手前にかざして半透明面2の非常に近い位置においたと
する。この場合、半透明面2に近接するユーザの指は他
の身体部分よりも多くの赤外線光を反射するため、入力
画像処理部12において得られる画像情報としては、ユ
ーザの指にあたるに位置の画像領域のレベルが強く、そ
の背景となる部分においてユーザの身体部分にあたる位
置の画像領域のレベルは半透明面2からの距離に応じて
弱くなることになる。そして、例えばこの状態のもと
で、しきい値制御部13にて設定された所定のしきい値
と検出画像情報とを比較すれば、容易にユーザの指にあ
たる部分のみの画像を背景から分離させることが可能で
あり、同様にしきい値の設定によっては、半透明面2か
ら離れた距離にあるユーザの身体部分のみを抽出した画
像情報を得ることも可能である。このようなしきい値
は、前述のように実際に必要とされる条件に応じた値が
しきい値制御部13において設定されるものである。
【0034】このようにして、半透明面2の前面側の状
態を検出する構成を採ることにより、この半透明面2を
例えばインタラクティブなインターフェイスのための操
作パネルとして機能させる場合には次のような利点が得
られる。先ず、本実施の形態では半透明面2側からの赤
外線の反射光量によって得られる画像に基づいて操作情
報を得ることになるので、操作を行うための操作体とし
ては、特に特殊なポインティングデバイスを必要とせ
ず、赤外線を反射する物体であればその種類は問わない
ことになる。つまり、操作体としては、上述のように人
体全体もしくはその一部や、その他の何らかの物体を問
題なく使用することができる。
【0035】また、例えばタッチパネルなどでは操作パ
ネル面に対して指などの操作体を接触させる必要がある
が、本実施の形態の場合には操作体の位置や動きは赤外
線光の反射として検出されればよいことから、半透明面
2に操作体を接触させる必要性はなく、その前面の空間
において操作を行うような方法を採ることができる。
【0036】また、上述したように赤外線の反射光量
は、操作体の半透明面2に対する距離に応じて変化する
ために、例えば操作体の半透明面2からの距離を操作情
報として利用することも考えられる。
【0037】更に、半透明面2は前述のように例えば透
明のガラス板などに対してトレーシングペーパーのよう
な半透明の薄膜を組み合わせたり、磨りガラスのような
ものを利用するなどの簡略な手段により構成可能とさ
れ、特にパネルに固有の駆動回路などは不要なので、低
コストで容易に大型化を実現することができ、この点で
大型化が困難なタッチパネルなどとは大きく異なる。そ
して、半透明面2側からの赤外線の反射光により得られ
る画像に基づいて操作情報を得ることで、画像認識さえ
可能であれば複数の操作体を同時に認識して所要の制御
を実行させることが可能である。つまり、複数の異なる
操作対象に対する同時操作が可能となるものであり、特
に半透明面2が大画面として構成される場合には半透明
面2上のいろいろな領域を利用して異なる種類の操作を
同時に行うことができることにもなるので非常に有効と
なる。
【0038】そして、半透明面2は画像表示パネルとし
ての機能も有することから、例えば後述するように操作
対象となるメニュー画面のようなものを表示させた上
で、ユーザがこのメニュー画面に対して指などにより操
作を行えるようにするなどの直接的な操作を実現するこ
とも容易に可能となる。このように、本実施の形態とし
てのインタラクティブ表示システムでは、その操作情報
を入力するのに多くの可能性が得られるために、これま
でには無かったようなインタラクティブな入出力環境を
容易に構築することができる。
【0039】次に、上記構成による本実施の形態の描画
装置1の一般的な操作例として、メニュー画面に関する
操作方法例について説明する。図5には、本実施の形態
の描画装置1によりメニュー操作を行う場合が示されて
おり、ここでは半透明面2を前面側からみた状態が示さ
れている。例えばこの図に示すように、ユーザが半透明
面2の前面に近づいたとすると、先ず、描画装置1の制
御装置6では、このときに得られる検出画像情報に基づ
いてユーザが近づいた半透明面2上の位置を認識する。
そして、半透明面2上においてユーザが近づいたと認識
された位置に対して、図のようにメニュー画面Mを表示
するように表示制御を行う。このメニュー画面Mは当然
のこととしてプロジェクタ5から半透明面2に対して投
影された画像である。そして、ユーザ自身が位置してい
る付近の半透明面2上にメニュー画面Mが表示された状
態のもとで、例えばユーザは自身の指を用いて、メニュ
ー画面Mにおいて操作項目が表示されている任意の領域
を指さすように指定したとする。このとき、ユーザの指
先は、半透明面2上から3cm〜30cm程度の範囲内
の距離にあるようにされる。
【0040】これにより、例えばメニュー画面Mにおい
ては、ユーザが指し示した操作項目の領域が選択された
ことを示す何らかの指示表示(例えば選択領域に対する
カーソルの配置表示や所定の形態による強調表示など)
が行われることになる。この強調表示のための表示制御
は、検出画像情報に基づいてユーザの指が指し示してい
る領域の座標を検出することにより実現される。ここで
は、上記のようにして指示表示が開始された状態から所
定時間(例えば数秒程度)経過したときにエンター操作
が行われたとみなすこととする。そして、ユーザがエン
ター操作を行った、つまり、特定の操作項目が強調表示
された状態を所定時間以上維持させたとすると、指定さ
れた操作項目に従った所要の制御動作を実行することに
なる。例えば、指定された操作項目に従って、他の階層
のメニュー画面を表示させたり、当該描画装置1に対し
て所望の動作を実行させたりすることになる。あるい
は、当該描画装置1が何らかの外部機器を制御可能に構
成されており、メニュー画面がその外部機器の動作につ
いての操作制御を行うためのものであるとすれば、指定
された操作項目に従って外部機器の動作を制御すること
になる。なお、ユーザが半透明面2の前面から離れてい
き、ユーザと半透明面2との間にある程度以上の距離が
あいた場合には、それまで表示されていたメニュー画面
Mは自動的に消去されるものとされる。
【0041】ここで、図6のフローチャートに、上記図
5に示した操作例に対応して実行される制御装置6の処
理動作を示す。この図に示す処理動作は、主として制御
装置6内の入力画像処理部12が検出画像情報に基づい
て操作情報を認識すると共に、データベース駆動部14
がデータベースメモリ15に格納されたプログラムに従
って、上記操作情報に基づいて適宜処理動作を実行する
ことにより実現されるものである。
【0042】この図に示すルーチンにおいては、先ずス
テップS301において現在の検出画像情報から「接近
体」が検出されるか否かについて判別を行う。ここで、
「接近体」とは半透明面2に対して所定の距離範囲まで
接近した何らかの検出対象(図5ではユーザ自身の身体
とされている)をいうものとされる。この「接近体」の
検出は、例えば入力画像処理部12が検出画像情報と接
近体の検出用に設定されたしきい値(しきい値制御部1
3により設定される)を比較して、例えば検出画像情報
のある領域においてこのしきい値以上の値が得られた場
合には「接近体有り」と検出し、しきい値以上の値が得
られる領域がない場合には、「接近体無し」と検出する
ことになる。上記接近体検出用のしきい値は、例えば通
常、人体(ユーザ)が半透明面2にある程度(例えば数
十cm)近づいたときに検出画像情報として得られる人
体部分の画像レベルに基づいて設定されればよい。
【0043】上記ステップS301において接近体が検
出されなかった場合にはステップS308に進んで、こ
こで現在メニュー画面Mが表示中であるか否かについて
判別が行われ、ここでメニュー画面Mが表示されていな
い場合には元のルーチンに戻る(即ち再度ステップS3
01の処理に移行する)が、メニュー画面Mが表示中の
状態である場合にはステップS309に進み、メニュー
画面Mを消去するための制御処理を実行する。このメニ
ュー画面Mの消去処理は、例えばデータベース駆動部1
4が画像生成部16に対するメニュー画面Mの画像デー
タの生成処理を停止することで実現される。
【0044】これに対して、ステップS301において
接近体が検出された場合には、ステップS302に進ん
で、半透明面2上における上記接近体の位置を検出する
ことが行われる。この処理は、例えば検出画像情報にお
ける接近体の部分が占有する領域の座標を検出すること
で可能となる。この場合、検出すべき座標としては接近
体の領域の所定の一地点であっても、所定規則に従って
求められる複数地点であっても構わなく実際の使用環境
等に応じて任意に設定されればよい。
【0045】続くステップS303においては、上記ス
テップS302にて検出された接近体の位置に応じた半
透明面2の領域に対してメニュー画面Mを表示させるた
めの制御を実行する。この制御処理は、例えばデータベ
ース駆動部14がデータベースメモリ15に格納されて
いるメニュー画面表示用のプログラムに基づいて、画像
生成部16において所要の種類のメニュー画面の画像デ
ータが作成されるように制御を行うことになる。この
際、データベース駆動部14は、ステップS302にて
検出された接近体の位置に対応する表示領域に対して、
例えばメニュー画面の画像データをマッピングするよう
にして、表示用画像データを作成する。この結果、最終
的にプロジェクタ5から投影される画像としては、半透
明面2におけるユーザが近づいた位置に対してメニュー
画面Mが表示されたものとなる。
【0046】上記ステップS303の処理が実行された
後は、ステップS304において、現在表示中のメニュ
ー画面Mの操作項目とされる表示領域内において、「操
作体」が検出されたか否かについて判別が行われる。こ
こで、「操作体」とは半透明面2の前面において至近距
離(しきい値の設定にもよるが3cm〜30cm程度)
にある物体(検出対象)のことをいうものとされる。つ
まり、図5においてはメニュー画面Mを指し示す指が対
象となる。そして、この「操作体」の検出処理は、先
ず、操作体検出用としてしきい値制御部13において設
定されたしきい値と、検出画像情報の画像レベルとを比
較することにより、操作体の有無を検出することが行わ
れる。このとき設定されるしきい値としては、半透明面
2の前面において至近距離にある物体を背景から分離し
て検出する必要上、前述した接近体検出用のしきい値よ
りも大きい値が設定される。そして、例えばしきい値と
比較した結果、操作体が検出されたとすれば、その操作
体が検出された検出画像情報上の座標位置を検出し、こ
の検出位置とメニュー画面Mが表示されているとされる
画像情報上の位置が一致しているか否かを判別すること
で、現在表示中のメニュー画面の表示領域内における操
作体の有無を検出することになる。
【0047】上記ステップS304においてメニュー画
面Mの操作項目とされる表示領域内において操作体が検
出されない場合とは、検出画像情報上に操作体が検出さ
れなかった(ユーザが至近距離で半透明面2上を指し示
していないような状態)か、或いは、検出画像情報上に
操作体を検出したとしても、この操作体の検出位置(座
標)がメニュー画面Mの表示領域内に対応する画像情報
上の領域に無かった(ユーザが至近距離で半透明面2上
を指し示していた位置がメニュー画面Mの操作項目以外
の領域であったような状態)ことになるが、このような
場合にはステップS301に戻るようにされる。
【0048】なお、ここで操作体が人体の手又は指に特
定されるような場合には、ステップS304における操
作体の検出処理として、例えば、データベースメモリ1
5に対して操作時に現れる人体の手又は指の形状の情報
を記憶させておき、この手又は指の形状の情報と、検出
画像情報として得られた画像形状とを比較して、その一
致状態をみて操作体の検出の有無を識別するように構成
することが可能である。本発明では、画像情報から入力
情報を検出するために、検出画像情報に得られる画像の
形状に基づいてもこれを操作情報として認識可能であ
る。
【0049】ステップS304においてメニュー画面M
の操作項目とされる表示領域内において操作体が検出さ
れたと判別された場合には、ステップS305に進ん
で、操作体が検出された位置に対応するメニュー画面M
の操作項目について指示表示が行われるように制御を実
行してステップS306に進む。
【0050】ステップS306の処理はエンター操作の
待機処理となる。前述のように、ここでのエンター操作
は、指示表示が開始された状態から所定時間経過したと
きに確定されるものと規定している。そこで、ステップ
S306においては、ステップS304にて検出された
操作体の検出状態が所定時間以上維持されるか否かにつ
いて検出を行うようにしている。この検出処理は、入力
画像処理部12において現在の検出画像の状態遷移を監
視することにより行われる。そして、例えば現在の検出
画像情報上から操作体が検出されなくなったり、あるい
は現在の検出画像情報上における操作体の検出位置が、
ステップS304にて検出されたメニュー画面Mの操作
項目とされる表示領域内から外れたことが検出されたよ
うな場合には、ステップS306からステップS301
以降の処理に戻ることになる。(この処理により、例え
ばユーザがこれまでとは異なるメニュー画面M上の操作
項目を指し示すように、その指定位置を変更した場合に
は、新たに指定されたメニュー画面M上の操作項目に対
して指示表示が行われたりすることになる。)
【0051】これに対して、ステップS306におい
て、直前のステップS304にて検出された操作体の検
出状態が所定時間以上維持されたと判別された場合に
は、エンター操作が行われたものとしてステップS30
7に進む。ステップS307においては、メニュー画面
M上において操作体が検出された位置の操作項目に応じ
た所要の制御処理が実行される。この処理は、データベ
ース駆動部14がデータベースメモリ15に格納された
プログラムに従って実行することになる。
【0052】<2.基本的な多角形の描画操作>図7
に、本実施の形態の描画装置1による基本的な多角形の
描画方法例を示す。例えば、ユーザが半透明面2の前面
においてある任意の位置を指さすようにして指定するこ
とにより、ここでは、図7(a)に示すように半透明面
2のユーザに近い位置に対して描画用メニュー画面Mが
表示されるものとする。なお、描画用メニュー画面M
は、先に図5により説明したようにしてユーザが半透明
面2に接近したときに表示するようにしても構わない
が、ここでは、描画作業時の利便性などを考慮して、ユ
ーザが半透明面2に近接させた指などで位置指定を行う
ことで描画用メニュー画面Mが表示されるように規定し
ている。従って、この指定操作は、例えばユーザの指先
が図6において説明した「操作体」として認識されるよ
うに半透明面2に対して操作を行うようにすればよい。
この場合、図7(a)に示す描画用メニュー画面Mとし
ては、所定種類の図形(例えば線(直線又は曲線)、三
角形、四角形、五角形・・・)を選択するための複数の
項目が提示されているものとする。
【0053】ここで、例えばユーザが六角形を描画する
ための項目を選択してエンター操作(ここでは図5にて
説明した操作に準ずるものとする)を行ったとする。こ
れにより、次に説明するような操作によって任意の形状
(及びサイズ)による六角形の描画を行うことが可能に
なる。例えばユーザは、半透明面上に対して例えば自身
の指などによって半透明面2上の任意の位置に対して、
自分が描画したい形状の六角形の6つの頂点(ここでは
「端点Pe」ということにする)を指定する。この際、
端点Peの指定は1つずつ順に指定するようにしても構
わないが、本実施の形態では前述のように同時に複数の
操作情報を認識可能なので、例えば両手の指を利用して
同時に2つの端点Peを指定することも可能である。ま
た、端点の確定操作は例えば図5にて説明したエンター
操作に準ずればよい。なお、端点Peの指定が確定され
るごとにその指定位置に対して端点Peであることを示
す何らかの指示表示が行われるようにすることが好まし
い。上記のようにして例えば6つの端点Peが指定され
ると、これらの端点Peを結ぶようにして直線が表示さ
れ、この結果、例えば図7(b)に示すようにして六角
形の描画が半透明面2に対して行われることになる。
【0054】上記図7にて説明した多角形の描画動作
は、図8のフローチャートに示す処理動作により実現さ
れる。この処理動作は、制御装置6内の入力画像処理部
12が検出画像情報に基づいて操作情報を認識すると共
に、データベース駆動部14がデータベースメモリ15
に格納された描画プログラムに従って、上記操作情報に
基づいて適宜処理動作を実行することにより実現され
る。
【0055】この図に示すルーチンにおいては、先ずス
テップS401において描画モードとしての所定の初期
画面(例えば方眼を表示すること等が考えられる)が半
透明面2に対して表示されるように制御を実行する。例
えば初期画面としてのデータはデータベースメモリ15
における描画プログラム内のデータとして格納されてお
り、この初期画面データに基づいて画像生成部16によ
り作成した画像データをプロジェクタ5により投影表示
させるように、データベース駆動部14が制御を実行す
ることで実現される。
【0056】続くステップS402においては、半透明
面2に対して近接している操作体(図6参照)が検出さ
れたか否かについて判別を行っており、ここで操作体が
検出されたのであればステップS403に進んで描画用
メニュー画面(図形種類選択用)Mを表示させるための
制御を実行する。これに対して、ステップS402にお
いて操作体が検出されないのであればステップS411
に進み、描画用メニュー画面Mが現在表示中であればこ
の画面を消去してステップS401に戻る。なお、描画
用メニュー画面Mが現在表示中でなければステップS4
11においては特に処理を実行せずにステップS401
に戻るようにされる。
【0057】ステップS403において描画用メニュー
画面Mを表示出力させた後は、ステップS404におい
て、描画用メニュー画面M上に対して図形種類選択のた
めの操作が検出か否かが判別される。このときの検出処
理としては、例えば、図6のステップS304〜S30
6の処理に準ずればよい。ステップS404において、
図形種類選択のための項目に対する選択操作が検出され
なかった場合にはステップS402に戻ることになる
が、何らかの1つの項目が選択された場合にはステップ
S405に進み、選択された項目に対応する多角形(n
角形)についての描画モードを設定する。
【0058】続くステップS406においては、図7に
て説明した端点Peの指定操作を待機しており、端点P
eの指定操作があったと判別された場合にはステップS
407に進んで、上記ステップS406において指定さ
れた端点Peの確定操作が行われたか否かについて判別
を行う。ここでは、端点Pe指定操作の確定の判別は図
6に示したステップS306の処理に準ずるものとす
る。ステップS407において端点確定操作があったと
判別された場合には、ステップS408に進んで、確定
された端点Peの位置(座標)情報を保持してステップ
S409に進む。なお、ステップS408において、例
えば確定された端点Peが対応する半透明面2上の位置
に対して端点Peが指定されたことを示す投影表示がプ
ロジェクタ5により行われるための処理を実行させるこ
とも考えられる。ステップS409においては、これま
で確定された端点Peの数がn個に達したか否かが判別
され、未だ確定された端点Peの数がn個に満たないと
判別された場合にはステップS406の処理に戻るが、
確定された端点Peの数がn個に達したと判別された場
合には、ステップS410に進む。
【0059】ステップS410においては、その位置
(座標)情報が確定されたn個の端点Peに基づいて、
これらn個の端点Peを結ぶようにして形成されるn角
形の画像を生成(例えば画像生成部16を利用する)
し、このn角形の描画図形が半透明面2に対して投影表
示されるようにするための制御を実行する。この際、半
透明面2に対して表示されるn角形の描画図形は、実際
にユーザが半透明面2に対してその位置を指定した端点
Peを結ぶようにしてその見た目が表示されるように、
その表示位置やサイズを設定することになる。
【0060】また、図9には、ユーザの指先による半透
明面2に対する操作を、一般の描画プログラムアプリケ
ーションにおけるペンツールとして用いる場合が示され
ている。つまり、ユーザが指先を半透明面2に近接させ
た状態で任意に半透明面2上で指先を動かせると、この
指先の動きに従って半透明面2上に対して、線状の描画
図形DRが表示されることになる。この描画動作の実現
のための処理動作に関する詳しい説明は省略するが、制
御部6のデータベース駆動部14において、操作情報と
して逐次検出される指先の位置(座標)情報に基づい
て、線状の描画図形DRを形成するための処理を行うと
共に、この線状の描画図形DRが、ユーザの指先の移動
位置に追随して描画されるように表示させるための表示
制御を実行することで実現される。
【0061】<3.四角形に関する描画>次に、本実施
の形態の描画装置を利用して実現することのできる、四
角形に関する描画動作について説明する。図10は、四
角形の描画操作を示している。例えばユーザは、図10
に示すように両手の親指と人差し指とを開いて任意の指
開き角度Afin1(右手),Afin2(左手)を形
成して、半透明面2の前面の近接した位置に対してあて
がうようにして配置する。このとき、描画装置1側にお
いては、両手それぞれの親指と人差し指の付け根あたり
の位置を描画すべき四角形の対角点Poa1,Poa2
として認識する。また、両手の各上記指開き角度Afi
nは、上記対角点Poa1,Poa2を含む頂角の内角
の大きさとして認識される。例えば、この状態でユーザ
が一定時間以上、上記した両手の状態を維持したとする
と、これがエンター(確定)操作として認識され、半透
明面2に対して上記対角点Poa1,Poa2と、指開
き角度Afin1,Afin2に基づいてその形状及び
サイズが決定される四角形の描画図形DRが描画される
ことになる。このとき、半透明面2に対してユーザが指
定したとされる対角点Poa1,Poa2の位置と、実
際に半透明面2に表示される四角形の描画図形DRの対
角点が一致するようにされる。
【0062】例えば四角形を描画するモードが選択され
た場合には、図7に示すようにして端点Peを逐一指定
する方法の他に、上記図10のようにして四角形を描画
することが可能とされる。このような描画方法が可能と
されるのは、本実施の形態の描画装置において操作情報
のもととなる情報が、画像情報(検出画像情報)である
ことから、1対の対角点を同時に認識可能であること
と、手の形状自体の画像情報から、指開き角度Afin
1,Afin2を四角形の頂角として検出可能であるこ
とに依る。
【0063】また、本実施の形態では、例えばユーザが
自身の手などによって操作を行うことで、既に半透明面
2に対して表示されている描画図形DRに対して、移
動、回転、拡大/縮小などを行うことが可能である。図
11(a)には既に長方形の描画図形DRが半透明面2
に対して表示されている状態が示されている。ここで、
例えば所定のメニュー画面などに対する指定操作によっ
てユーザが描画図形の移動モードを選択したとする。こ
の移動モードのもとで、例えば図11(a)に示すよう
に描画図形DRの対角点Poa1,Poa2をつかむよ
うなイメージでユーザが半透明面2に近接した位置で両
手を配置したとする。そして、ほぼこの両手の位置関係
を保ったまま、任意の方向に移動するように操作する
と、図11(b)に示すように両手の動きに対角点Po
a1,Poa2の位置が追従するようにして長方形の描
画図形DRが移動することになる。つまり、ユーザは半
透明面2に表示された長方形の描画図形DRをあたかも
実際に掴むかのようなイメージで、図形の移動を行うこ
とができる。
【0064】同様に、描画画像DRを回転させたい場合
には、所要のメニュー操作などによって回転モードとし
たうえで、図11(c)に示すようにして長方形の描画
図形DRの対角点Poa1,Poa2をつかむようにし
て回転の操作を行うようにされる。また、例えば拡大/
縮小モードにおいては、長方形の描画図形DRの対角点
Poa1,Poa2をつかむようにして、その対角線方
向に両手の距離を延ばしたり縮めるようにして操作を行
うことで、図11(d)に示すように長方形の描画図形
DRの拡大/縮小が行えるように構成される。
【0065】続いて、上述した四角形に関する描画動作
を実現するための処理動作について図12〜図15のフ
ローチャートを参照して説明する。なお、これらの処理
は、データベース駆動部14がデータベースメモリ15
に格納された描画プログラムに従って所要の処理を実行
することにより実現される。
【0066】図12には、図10に示した四角形の描画
動作を実現するための処理動作が示されている。例え
ば、四角形描画モードとされると、先ずステップS50
1において対角点Poa1,Poa2の指定操作を待機
する。このためには、例えば、描画プログラムとして図
10に示すような親指と人差し指を開いたような手の形
状を記憶させておき、検出画像情報において、このよう
な手の形状とされる画像が2ヶ所検出され、例えばこの
画像状態が所定時間以上保たれたときに、この手の形状
における親指と人差し指の根本とされる位置(座標)を
対角点Poa1,Poa2として検出するように構成す
ればよい、ステップS501において対角点Poa1,
Poa2が検出されると、ステップS502に進み、上
記手の形状における親指と人差し指の開き具合から指開
き角度Afin1,Afin2を検出する。これは、例
えば画像情報として得られた親指と人差し指の延びた各
方向に沿って2本の直線を仮想し、この2つの仮想直線
により形成される角度を求めることにより指開き角度A
fin1,Afin2の各々の検出が可能となる。
【0067】続くステップS503においては、指定さ
れた対角点Poa1,Poa2の位置(座標)と指開き
角度Afin1,Afin2に基づいて、画像生成部1
6を利用して四角形の描画画像DRの描画処理を実行す
る。この画像生成部16で作成された描画画像DRは、
画像合成部17、RGB信号生成部18を介することに
よって、プロジェクタ5に供給されることで、図10に
示したようにして半透明面2に対して表示が行われるこ
とになる。
【0068】図13には、図11(a)→図11(b)
に示した移動モード時の処理動作が示されている。例え
ば所定のメニュー画面に対する操作などによって移動モ
ードが設定されると、データベース駆動部14は、ステ
ップS601において対角点Poa1,2の指定操作を
待機する。つまり、現在表示中である四角形の描画画像
DRの対角点にほぼ一致するとされる座標位置に対し
て、操作体(ここではユーザの手となる)が検出された
か否かが判別される。ここで、ユーザによる対角点Po
a1,2の指定操作があったことが判別されると、以降
の対角点Poa1,2の移動状態を監視し、ステップS
602→S603の処理として、逐次、対角点Poa
1,2の移動に応じて、その移動方向情報Dmvと、移
動量情報Qmvを検出する。そして、この移動方向情報
Dmvと、移動量情報Qmvとに基づいて四角形の描画
図形DRについて移動が行われるように画像生成部16
において移動された図形の画像を生成すると共に、この
画像が半透明面2に対して投影表示されるように制御を
実行する。
【0069】続いて、図14に回転モード時(図11
(a)→図11(c))の処理動作を示す。四角形の描
画画像DRについての回転モード時においては、ステッ
プS701において対角点Poa1,2の指定操作を待
機し、ここで、対角点Poa1,2の指定操作があった
ことが判別されると、次のステップS702において、
指定された対角点Poa1,2の移動に応じて描画図形
の回転角情報Aturを設定する。そして、続くステッ
プS703において、上記ステップSS702により求
められた回転角情報Aturだけ回転された四角形の描
画図形DRの描画処理と、この回転された四角形の描画
図形DRをプロジェクタ5により半透明面2に対して投
影表示するための制御を実行する。
【0070】図15は、四角形の描画画像DRについて
の拡大/縮小モード時(図11(a)→図11(d))
の処理動作を示している。この場合も、先ずステップS
801において対角点Poa1,2の指定操作を待機し
ており、対角点Poa1,2の指定操作があったことが
判別されると、ステップS802に進んで対角点Poa
1,2の移動に応じて拡大/縮小率Rtを設定する。そ
して、続くステップS803において、上記拡大/縮小
率Rtに基づいて拡大又は縮小した四角形の描画画像D
Rを描画する処理と、この拡大又は縮小された描画画像
を半透明面2に対して投影表示するための制御を行うよ
うにされる。
【0071】<4.三角形に関する描画>次に、本実施
の形態の描画装置を利用して実現することのできる、三
角形に関する描画動作について説明する。図16(a)
には、本実施の形態としての三角形の描画操作例が示さ
れている。例えば、所定の操作によって三角形の描画モ
ードとしたうえで、ユーザは、四角形の描画の場合と同
様に、両手の親指と人差し指の間に所望の角度(指開き
角度Afin1,Afin2)を与えると共に、この場
合には、両手の親指と人差し指の付け根の位置が、例え
ば描画すべき三角形の底辺の両端(端点Pe1,Pe
2)となるようにして、その両手を半透明面2上に配置
する。これにより、半透明面2上には図16(a)に示
すように、ユーザが指定した三角形の底辺の両端の位置
と、ユーザが与えた指開き角度Afin1,Afin2
により決定された三角形の底辺の両端の角度に従って得
られる形状及びサイズによる三角形の描画画像DRが描
画されるようにして表示されることになる。
【0072】そして、例えば上記のようにして描画され
た三角形の描画画像DRを移動、回転、又は拡大/縮小
するようなときは、移動モード、回転モード、及び拡大
/縮小モードのうちから適宜所望のモードを選択して設
定したうえで、例えば、図16(b)に示すようにし
て、三角形の描画図形DRの底辺の両端に相当する端点
Pe1,Pe2を掴むようなイメージで、前述した四角
形の描画図形DRのときのようにして両手を半透明面2
上で移動させるような操作を行うようにすればよい。
【0073】なお、図16(a)(b)により説明した
三角形の描画モード時の処理、及び移動モード、回転モ
ード、拡大/縮小モード時の処理動作は、先に図12〜
図15に示した四角形の描画画像DRについての処理に
準ずることにより実現可能であることからここでは詳し
い説明は省略するが、三角形の描画画像DRについての
処理時には、対角点Poa1,2の代わりに、三角形の
底辺の両端に対応する端点Pe1,Pe2の指定操作に
ついて検出を行うことになり、また、指開き角度Afi
n1,Afin2は三角形の底辺の両端の角の大きさと
して扱われることになる。
【0074】<5.楕円形に関する描画>図17(a)
には、本実施の形態における楕円形についての描画動作
例が示されている。楕円形を描画するのに当たっては、
これまでの多角形の描画操作と同様に、両手の親指と人
差し指の間に所望の指開き角度Afin1,Afin2
を与えながら半透明面2上に配置するようにされるが、
この場合には、両手の親指と人差し指の付け根の位置
(端点Pe1,Pe2)は描画すべき楕円形の長径又は
短径のの両端として認識されるものとする。また、上記
指開き角度Afin1,Afin2は、描画すべき楕円
形の曲率の情報として扱われるように処理が行われる。
なお、上記端点Pe1,Pe2が、楕円形の長径又は短
径の両端の何れとして設定されるのかについては、上記
指開き角度Afin1,Afin2の角度に依るものと
する。そして、描画された楕円形の描画画像DRを移
動、回転、又は拡大/縮小するようなときは、これまで
の多角形の場合と同様に、移動モード、回転モード、及
び拡大/縮小モードのうちから所望のモードを選択し、
図17(b)に示すようにして、楕円形の描画図形DR
の長径の端部とされる位置を端点Pe1,Pe2として
ここを掴むようなイメージで両手を半透明面2上で移動
させるような操作を行うようにされる。なお、上記楕円
形に関する描画、移動、回転、拡大/縮小モード時の処
理も、図12〜図15に示した四角形の描画画像DRに
ついての処理に準ずることにより実現可能であり、この
場合には、端点Pe1,Pe2を楕円形の長径の端部と
して扱うと共に、指開き角度Afin1,Afin2に
基づいて設定した曲率に従って楕円形を描画することに
なる。
【0075】<6.線の変形>これまでは、四角形、三
角形などの多角形に関する描画処理及び曲線に関する描
画処理を行う場合について説明したが、次に、本実施の
形態の描画装置により曲線を変形する場合について説明
する。図18には、曲線を変形させるための操作例が示
されている。例えば図18(a)に示すように曲線の描
画図形DRが表示されている状態で、所定の操作によっ
て変形モードを設定したとする。そして、ユーザはこの
図に示すように、例えば自身の手のひらを開くと共に指
を閉じた状態で、曲線(描画図形DR)上の任意の位置
に対応させて配置する。図18(a)においては、両手
のひらがほぼ曲線の描画図形DRの両端に配置された状
態が示されているが、この状態では、手のひらのほぼ中
心位置が、端点Peとして認識されることになる。曲線
の変形処理の場合、この端点Peは、曲線を変形させる
際に基準となる移動位置を指定するポイントであり、変
形後の曲線は必ず移動操作後の端点Peの位置を通過す
るものとされる。また、このときには、手の指が延びた
方向に沿って仮想的に基準接線Lが設定される。このと
き、ユーザにとっては、半透明面2上に表示されている
曲線(描画図形DR)の両端を掴んだようなイメージを
持つことになる。
【0076】例えば、図18(a)に示す状態から、ユ
ーザはあたかも曲線(描画図形DR)を撓ませるような
イメージで自身の両手を図18(b)に示すようにして
動かしたとする。この場合、手のひらのほぼ中心位置と
して認識される端点Pe,Peは、ユーザの手の動きに
応じて移動するものとされ、また、基準接線L,Lも同
様にユーザの手の動きに応じて変化することになる。こ
のようにして操作が行われると、半透明面2に対して表
示される曲線は、ユーザの手の動きに追従するようにし
て撓むようにして変形されていくものとされる。
【0077】上記図18に示す操作による曲線の変形処
理のための処理動作について図19のフローチャートを
参照して説明する。この処理は、データベースメモリ1
5に格納されたプログラムに基づいてデータベース駆動
部14が実行するものである。曲線の変形処理モードに
おいては、先ずステップS901において、操作体が検
出されることを待機している。この場合の操作体の検出
とは、例えば図18に示すような指を閉じながら延ばし
た状態の手のひらの形状が検出画像情報として認識され
ることをいう。なお、たとえ上記のような状態の手のひ
らの形状が検出されたとしても、その検出位置が描画表
示された曲線上にないような場合には、操作体としては
認識しないものとする。また、手のひら形状であること
の識別は、例えばデータベースメモリ15に格納された
手のひら形状を示すデータと、検出画像情報として得ら
れた画像の形状との一致状態を識別するようにすればよ
い。そして、ステップS901において操作体が検出さ
れた場合にはステップS902に進み、端点Peの位置
Posを検出すると共に、検出された手のひら形状の指
に沿った方向を識別することにより基準接線Lの傾きG
rdを算出する。
【0078】続いて、ステップS903においては、上
記ステップS902において算出された端点Peの位置
Pos及び基準接線Lの傾きGrdに基づいて、曲線上
(描画画像DR)に対して所定規則に従って設定された
複数地点の法線を変更するための演算処理を実行する。
そして、ステップS904において、上記ステップS9
03により得られた演算結果に基づいて曲線を変形する
ための描画処理を実行すると共に、変形された曲線を図
18(b)に示すようにして表示させるための制御を実
行することになる。なお、この図には示さないが、例え
ば途中で所定のメニュー操作等を行えば曲線の変形処理
モードを抜けることができるようにされている。
【0079】<7.図形の移動操作例>また、本実施の
形態の描画装置としては、次のようにして半透明面2に
対して表示された画像や図形を移動させることも可能で
ある。図20(a)には、一例として飛行機を描いた描
画画像DRが表示されている。なお、ここでの描画画像
は特にユーザの操作により描画されたものに限定され
ず、例えば単にデータベースメモリ15に格納されてい
るサンプルのような画像データに基づいて表示されるも
のであっても構わない。ここで、所定の操作によって表
示画像の移動モードが設定されている状態で、例えば図
20(a)に示すように、半透明面2において描画画像
DRが表示されているほぼ正面位置にユーザ自身が近づ
き、ここから、図20(b)に示すように、ユーザ自身
が半透明面2の前で移動したとする。この場合には、こ
のユーザ自身の身体の画像を移動のための位置指定情報
として扱うことにより、ユーザの半透明面2の前面での
左右方向への動きに追従するようにして、描画画像DR
が移動するように表示されるものである。
【0080】<8.図形の拡大/縮小操作例>また、本
実施の形態においては、図21(a)(b)に示すよう
な操作によっても図形の拡大/縮小を行わせることが可
能である。例えば図21(a)には、ユーザが半透明面
2の前で両腕を広げたり閉じたりする動作を行うこと
で、これに応答して半透明面2に対して表示された描画
画像DRが拡大又は縮小されるという操作形態が示され
ている。図21(b)には、ユーザが半透明面2に近づ
くと描画図形DRが拡大表示され、遠ざかると描画図形
DRが逆に縮小されるという操作形態が示されている。
ここでは、フローチャートなどによる詳しい処理動作の
説明は省略するが、図21(a)の場合には、制御装置
6において検出画像情報に基づいて人体の腕の開閉状態
が認識可能なように構成し、この腕の開き方の度合いを
拡大/縮小率に変換して画像処理を行うようにすればよ
い。また、図21(b)の場合であれば、前述のように
半透明面2からの距離に応じて検出画像情報として得ら
れる検出対象(ここでは人体とされる)の部分の画像レ
ベルが変化することを利用して、この画像レベルの変化
を拡大/縮小率に変換してやればよいことになる。な
お、図21(a)(b)において表示される画像も特に
ユーザが描画したものには限定されることなく、予め用
意された画像データを利用して表示されたものであって
も構わない。また、実際の利用形態としては、例えば地
図などを表示させ、所定の操作によって拡大/縮小中心
位置を決定した上で、上記図21(a)(b)の何れか
に示すような操作を行うことにより、地図上における任
意の領域を拡大/縮小表示させることなどが考えられ
る。
【0081】<9.ホワイトボード機能>また、これま
で説明してきた本実施の形態の描画装置を、例えば会議
や教育などの現場や掲示板等として用いられるホワイト
ボードとして利用することが考えられるが、この場合に
は、次のような機能を与えることが考えられる。図22
は、ホワイトボードの文字書き込み面として機能する半
透明面2が示されている。なお、この図には示さない
が、例えば半透明面2の背面側では図1に示した各装置
が配置されているものとする。図1に示した本実施の形
態の描画装置の構成では、例えばデータベースメモリに
格納されている画像データを利用して半透明面2に対す
る投影表示を行わせることが可能とされるが、図22に
はこのような機能を応用した利用例が示されている。例
えば、図22(a)には、ユーザが半透明面に対して、
例えば指や何らかのペン形状の物理対象等を用いてフリ
ーハンドにより描画図形DRを描いた状態が示されてい
る。ここでは、フリーハンドではあるが描画図形DRと
して四角形が描かれたものとする。なお、フリーハンド
でなくとも、先に図7や図10に示した操作方法によっ
て四角形を描画しても構わない。この場合、制御装置6
においてホワイトボードである半透明面2に対して四角
形が描画されると認識した場合、半透明面2に対して所
定の操作内容に従ったメニュー画面を表示するようにさ
れている。これにより、四角形が描画された場合には、
図22(b)に示すように所定内容のメニュー画面Mが
表示されることになる。なお、このときには、例えばユ
ーザ四角形の描画図形DRを描画した位置に対応してメ
ニュー画面Mが表示されるようにすることができる。ま
た、メニュー画面Mが表示された段階では図22(a)
に示す描画図形DRは消去されればよい。
【0082】図23は、上記図22に示したメニュー画
面呼び出し動作を実現するための制御装置6の処理動作
を示すフローチャートである。なお、この場合には、ホ
ワイトボードの描画動作として、少なくとも図9により
説明したように、ユーザがポインティングした位置に対
応して線を描画することができるように構成されている
ものとする。このルーチンにおいては、先ずステップS
1001において何らかの描画図形が描画されるのを待
機しており、描画が行われたと判別されると、ステップ
S1002において描画された図形の形状を識別するこ
とが行われる。そして続くステップS1003におい
て、識別された描画図形の形状がメニュー画面表示を呼
び出すのに適合する四角形であるか否かが判別される。
なお、ここでは描画図形の四角形であるか否かを判別す
る単なる形状判別に加えて、例えばメニュー画面表示を
呼び出すのには所定以上の面積を有する四角形が要求さ
れるものと規定されているような場合には、描画図形が
四角形であることとその面積が所定以上であることの2
つの要件を満たした場合に肯定結果が得られるように構
成されることになる。また、描画画像がフリーハンドに
より描かれたものである場合には、厳密には四角形とは
いえない場合のことのほうが多いが、ある程度の曲率に
よる曲線や直線の屈曲率は直線として見なすように処理
を実行することで、四角形として認識できるようにすれ
ばよい。そして、ステップS1003において肯定結果
が得られたのであればステップS1004に進み、所定
のメニュー画面を表示させるための処理を実行する。こ
の際、例えば表示制御として四角形の描画画像DRが描
かれた位置にほぼ対応するようにしてメニュー画面Mを
表示させたり、更には、ある程度の所定範囲内であれ
ば、四角形の描画画像DRが描かれたサイズにほぼ対応
するサイズによりメニュー画面を表示させるように構成
することも可能である。
【0083】一般のホワイトボードでは、例えばマーカ
ーペンなどにより文字や絵を描くと共に、白板ふきなど
の道具を利用して既に描かれた文字や絵を消去すること
が行われているが、本実施の形態の描画装置をホワイト
ボードとして機能させる際には、次のようにして同様の
ことを行うことが可能である。
【0084】例えば、図24(a)に示すように、ユー
ザが描画用ペンPenを利用してホワイトボード(半透
明面2)上に文字等を書き込むような操作をしたとす
る。この場合、描画用ペンPenのペン先は、検出画像
情報として画像による検出が行われたときに、その画像
領域として予め設定されたしきい値よりも小さくなるよ
うなサイズであるものとされる。そして、このような所
定のしきい値よりも小さいとされる操作体が検出された
場合には、この操作体により指定される位置に従って例
えば線による描画を行っていくようにされる。これによ
り、描画用ペンPenのペン先の軌跡に従って、線状の
描画画像として文字等が表示されることになる。図24
(a)では、ユーザが描画用ペンPenを用いたことに
より、何らかの文字等が半透明面2上に書き込まれたか
のようにして表示された状態を「〇〇〇〇〇〇〇」によ
り表している。なお、本実施の形態においては、赤外線
を反射可能な物理対象であれば操作体の種類は問わない
ので、上記描画用ペンPenとしては単にペン形状を有
するような個体であればよいことになる。従って、上記
しきい値さえ満足すれば当然のこととして描画用ペンP
enの代わりにユーザの指等を用いることも可能であ
る。
【0085】そして、半透明面2(ホワイトボード)に
対して描かれた内容を消去するには、例えば図24
(b)に示すように、検出画像情報として検出されたと
きにその画像領域が所定のしきい値を越えるようなサイ
ズの消去板Erを用意する。この消去板Erも、描画用
ペンPenと同様に赤外線を反射可能で、かつ、上記し
きい値を越えて画像として検出されるだけのサイズを有
するような物理対象であればよい。従って、所定のしき
い値さえ上回るサイズであれば、例えばユーザ自身の手
のひらを消去板Erの代わりに用いてもよい。そして、
例えばユーザが消去板Erを用いて、半透明面2上をな
ぞるように動かしたとすると、消去板Erの軌跡となる
領域においては、これまで描かれた文字や絵が消去さ
れ、所定の初期画像が表示されることになる。例えば、
初期画像として非表示の状態が設定されていたのであれ
ば、消去板Erでなぞられた半透明面2上の部分は非表
示となる。また、例えば初期画像として地図などが表示
され、その地図上に対してユーザにより描かれた文字や
絵が表示されているような状態では、消去板Erでなぞ
った文字や絵が消去されて元の地図の画像が表示される
ことになる。
【0086】図25は、上記図24にて説明した操作を
実現するための処理動作を示すフローチャートである。
このルーチンにおいては、先ずステップS1101にお
いて操作体が検出されるのを待機しており、ここで操作
体が検出されたのであれば、ステップS1102に進ん
で、上記操作体のサイズ(面積)Sが所定のしきい値a
よりも小さいか否かについて判別を行う。このしきい値
aは、描画用のポインタ(描画用ペンPen又は指)と
しての操作体を検出するために設定された値とされる。
そして、ステップS1102において肯定結果が得られ
た場合には、操作体は描画用のポインタであるとして、
ステップS1103に進み、操作体の検出位置(座標)
の移動に追随するようにして半透明面2の領域に対して
描画が行われていくように処理を実行することになる。
【0087】これに対して、ステップS1102におい
て否定結果が得られた場合には、ステップS1104に
おいて、操作体のサイズSがしきい値bよりも大きいか
否かについて判別が行われる。このしきい値bは、消去
用のポインタ(消去板Erもしくは手のひらなど)とし
ての操作体を検出するためのものとされる。ここで、否
定結果が得られた場合にはこのルーチンを抜けることに
なるが、ステップS1102及びS1104にて否定結
果が得られる場合とは、その操作体のサイズが描画用ポ
インタと消去用ポインタの何れのサイズにも該当しない
場合であり、この場合には特に描画処理も消去処理も実
行しないようにされる。ただし、しきい値a,bに同一
の値が設定されていれば、検出された操作体は描画用ポ
インタか消去用ポインタの何れかとして必ず認識される
ことになる。ステップS1104において肯定結果が得
られた場合には、検出画像情報内において操作体が検出
された領域については初期画像を表示するように制御を
行う。つまり、見かけ上は消去用ポインタがなぞった半
透明面2の部分において描画画像が表示されていれば、
これが消去される代わりに初期画像が表示されることに
なる。
【0088】<10.他の実施の形態としての描画装置
の構成>ところで、本実施の形態の描画装置としては、
図1に示す構成から赤外線LEDパネル3を省略するこ
とも可能である。たとえば、本発明に基づく描画装置を
屋外などの外光の強い環境で使用する場合、たとえば日
中の自然光に含まれる赤外線が強いために、図1に示す
ような赤外線LEDパネル3から照射される赤外線光を
操作情報検出用の光源とする構成では、赤外線LEDパ
ネル3から照射される赤外線光の強度が自然光に含まれ
る赤外線に対して相対的に弱まるので、場合によっては
適切な操作情報の検出が行われない(つまり操作情報を
認識可能な適正な検出画像情報が得られない)可能性が
ある。そこで、このような場合には、赤外線LEDパネ
ル3を省略し、その代わりに自然光に含まれる赤外線光
を操作情報検出用の光源として利用することができる。
この場合、検出画像情報を得るために必要な基準入力画
像レベルLintは、例えば接近体及び操作体等の検出
対象が無い(半透明面2に対して何の操作も行われてい
ない)とされる状態のもとで、その前面側から半透明面
2を透過してCCDカメラ4において撮像される撮像信
号から得た画像情報に基づいて検出するようにされる。
【0089】そして、例えば半透明面2に対して何らか
の操作が行われるとすると、このときの半透明面2にお
ける接近体及び操作体などの部分をCCDカメラ4側か
らみた場合には、接近体及び操作体などにより自然光の
赤外線が遮られることから、これを自然光に含まれる赤
外線光の影として見ることができる。本実施の形態のい
制御装置6では、基準入力画像レベルLintに対し
て、画像レベルがより低くなる(暗くなる)ようにして
変化する画像情報を操作情報として扱うことになる。こ
の場合、図2に示す制御装置6の内部構成としては、赤
外線LEDパネル3が省略されたことに応じて、LED
駆動部10が設けられないことになる。
【0090】また、本実施の形態の描画装置としては、
図1に示す構成において、例えば赤外線LEDパネル3
の代わりにマイクロ波発生器を設け、また、CCDカメ
ラ4の代わりにマイクロ波受信器を設けて構成すること
も考えられる。この場合、図2に示す制御装置6におい
ては、LED駆動部10(図1参照)の代わりに、マイ
クロ波発生器を駆動するためのマイクロ波駆動回路が備
えられる。また、マイクロ波受信器から供給される受信
マイクロ波を入力して例えば所定形式のデータに変換し
て出力する画像信号入力回路と、この画像信号入力回路
から供給されるマイクロ波の受信データを入力して所要
の処理を行うことにより、例えば検出画像情報を得ると
共にこの検出画像情報に基づいて操作情報を得る入力デ
ータ処理回路が設けられる必要がある。画像信号入力回
路及び入力データ処理回路は、それぞれ図2に示す画像
入力部11及び入力画像処理部12に代わる機能回路部
である。また、操作情報検出用の媒体としてマイクロ波
を利用するため、CCDカメラ4に備えられた赤外線透
過フィルタ4aや、プロジェクタ5に備えられた赤外線
遮断フィルタ5aは不要となる。
【0091】このように、それが照射された物体に反射
する性質を有するマイクロ波のような媒体を操作情報の
検出に利用するように構成しても、これまで説明してき
た実施の形態(赤外線を操作情報の検出に利用した例)
と同様にして本発明としての情報入力装置を構成するこ
とが可能である。
【0092】なお、これまで説明してきた描画方法等に
より半透明面2に表示された描画図などの画像情報は、
図2に示したプリンタ20を利用して印刷出力すること
が可能とされている。
【0093】また、本発明に基づいて構成される描画装
置において各種描画動作を実現するための操作方法及び
制御処理動作は、これまでの説明の内容に限定されるも
のではなく、本発明としての入力装置の利点を活かした
操作方法や制御処理方法等は他にも各種考えられるもの
である。また、図1においては音声出力系の図示は省略
したが、本発明の実施の形態としての描画装置におい
て、各種インタラクティブな応答を音声により行うこと
も考えられる。
【0094】
【発明の効果】以上説明したように本発明は、所定波長
帯域の光又は電磁波を反射するなどしてこれに状態変化
(この状態変化が検出画像情報として反映される)を与
えることのできる物体であれば、操作を行うための操作
体として成立するものである。つまり、操作のために特
殊なポインティングデバイスを必要としないことにな
る。従ってこれまでの説明のように、例えばユーザ自身
の手や指を用いることによって描画操作を行うことが可
能とされる。
【0095】また、半透明面に近い位置(例えば半透明
面の前面の中空位置)で操作体が認識可能なので、操作
方法としても、操作パネルである半透明面に対して操作
体を接触させることなくその前面の空間において操作を
行って描画図形を描いたり、半透明面に接近してくる物
体を認識することにより、例え描画図形に対する何らか
の編集処理を行わせるといったこともできることにな
る。
【0096】また、画像情報に基づいて操作情報を検出
するので、操作体が画像変化として認識される限り、画
像形状に基づいた操作情報の抽出、及び複数の操作情報
の同時抽出が可能であるため、例えば両手の操作により
図形の形状やサイズを決定するようにして描画を行うこ
と可能となり、また、操作体のサイズに応じて適宜異な
る描画に関する処理動作を実行させることが可能にな
る。
【0097】また、本発明の半透明面は操作パネル及び
表示パネルとして機能するため、ユーザの半透明面に対
する指などの動きに追従するようにして描画表示を行う
ことが可能となり、直接的な描画操作が実現されること
になる。また、従来のタッチパネルや各種表示デバイス
とは異なり、半透明面のサイズの大型化も安価で容易に
実現されることになり、例えばこれまで説明したような
操作方法を採る場合には特に有効となる。
【0098】このように本発明は、操作情報の入力に際
して上記のごとき自由度を与えると共に、表示パネルと
して兼用可能な操作パネルとして大型化されたものを容
易に提供できるようにすることで容易にインタラクティ
ブな入出力環境が強化拡大され、この環境下で構築され
る描画システムとしても、これまでにはないような操作
形態とこれに応答した表示形態を提供することが可能と
なるという効果を有している。
【図面の簡単な説明】
【図1】本発明の実施の形態としての描画装置の構成例
を示す概念図である。
【図2】本実施の形態の描画装置に備えられる制御装置
の内部構成を示す図である。
【図3】基準入力画像レベルを検出及び保持するための
処理動作を示すフローチャートである。
【図4】検出画像情報を生成するための処理動作を示す
フローチャートである。
【図5】本実施の形態の描画装置における基本的な操作
例を示す説明図である。
【図6】図5に示す操作を実現するための処理動作を示
すフローチャートである。
【図7】本実施の形態の描画装置における基本的な描画
操作例を示す説明図である。
【図8】図7に示す描画操作実現するための処理動作を
示すフローチャートである。
【図9】線についての描画操作を示す説明図である。
【図10】本実施の形態の描画装置における四角形の描
画操作を示す説明図である。
【図11】四角形の描画画像についての編集のための操
作例を示す説明図である。
【図12】図10に示す四角形描画モード時の処理動作
を示すフローチャートである。
【図13】図11に示す四角形の描画画像についての移
動モード時の処理動作を示すフローチャートである。
【図14】図11に示す四角形の描画画像についての回
転モード時の処理動作を示すフローチャートである。
【図15】図11に示す四角形の描画画像についての拡
大/縮小モード時の処理動作を示すフローチャートであ
る。
【図16】三角形についての描画及び編集操作を示す説
明図である。
【図17】楕円形についての描画及び編集操作を示す説
明図である。
【図18】曲線の変形操作例を示す説明図である。
【図19】図18に示す操作を実現するための処理動作
を示すフローチャートである。
【図20】表示画像の移動操作例を示す説明図である。
【図21】表示画像の拡大/縮小操作例を示す説明図で
ある。
【図22】本発明の描画装置をホワイトボードとして機
能させた場合の操作例を示す説明図である。
【図23】図22に示す操作を実現するための処理動作
を示すフローチャートである。
【図24】本発明の描画装置をホワイトボードとして機
能させた場合の他の操作例を示す説明図である。
【図25】図24に示す操作を実現するための処理動作
を示すフローチャートである。
【符号の説明】
1 描画装置、2 半透明面、3 赤外線LEDパネ
ル、4 CCDカメラ、4A 第1CCDカメラ、4B
第2CCDカメラ、5 プロジェクタ、6 制御装
置、10 LED駆動部、11 画像入力部、12 入
力画像処理部、13しきい値制御部、14 データベー
ス駆動部、15 データベースメモリ、16 画像生成
部、17 画像合成部、18 RGB信号生成部、M
メニュー画面、DR 描画画像、Poa1,Poa2
対角点、Afin1,Afin2指開き角度、Pe,P
e1,Pe2 端点

Claims (31)

    【特許請求の範囲】
  1. 【請求項1】 半透明面と、 上記半透明面側の方向から入射する所定の波長帯域の光
    又は電磁波のみを像として捉える撮像手段と、 上記撮像手段から入力された撮像信号に基づいて、上記
    半透明面に対して与えられた操作が反映される検出用画
    像情報を生成し、この検出用画像情報に基づいて識別し
    た操作情報に基づいて所要の制御処理を実行する制御処
    理手段と、 上記撮像手段が撮像すべき光又は電磁波の波長帯域を含
    まない可視光による画像を上記半透明面に対して投影表
    示可能に設けられる投影表示手段とを備え、 上記制御処理手段は、上記操作情報に基づいて描画画像
    を生成する描画画像生成処理と、この描画画像生成処理
    によって得られた描画画像が半透明面に投影表示される
    ための上記投影表示手段に対する表示制御とを実行する
    ように構成されている、 ことを特徴とする描画装置。
  2. 【請求項2】 上記撮像手段が受像すべき所定の波長帯
    域の光又は電磁波を上記半透明面に対して定常的に輻射
    する輻射手段を備えていることを特徴とする請求項1に
    記載の描画装置。
  3. 【請求項3】 上記制御処理手段は、上記操作情報とし
    て位置指定情報を認識し、それぞれ異なるn(nは自然
    数)個の位置指定情報に基づいて、n角形の図形を描画
    するための処理を実行可能に構成されていることを特徴
    とする請求項1に記載の描画装置。
  4. 【請求項4】 上記制御処理手段は、上記操作情報とし
    て位置指定情報を認識し、この位置指定情報の移動軌跡
    に従うようにして描画するための処理を実行可能に構成
    されていることを特徴とする請求項1に記載の描画装
    置。
  5. 【請求項5】 上記制御処理手段は、上記操作情報とし
    て得られた2地点の位置情報を1対の対角点の位置とし
    て認識し、この1対の対角点の位置情報に基づいて四角
    形を描画する処理を実行可能に構成されていることを特
    徴とする請求項1に記載の描画装置。
  6. 【請求項6】 上記制御処理手段は、上記操作情報とし
    て上記1対の対角点のそれぞれに対応して検出された検
    出用画像情報内の特定の画像形状を角度情報として認識
    可能とされたうえで、この角度情報に基づいて対角を設
    定して四角形を描画する処理を実行可能に構成されてい
    ることを特徴とする請求項5に記載の描画装置。
  7. 【請求項7】 上記制御処理手段は、 上記操作情報として得られた2地点の位置情報を三角形
    の一辺の両端の2点として認識すると共に、このときに
    上記三角形の一辺の両端の2点の位置情報にそれぞれ対
    応して検出された検出用画像情報内の特定の画像形状を
    角度情報として認識し、 上記三角形の一辺の両端の2点とされる位置情報と、上
    記角度情報とに基づいて設定した一辺の両端の角度とに
    基づいて三角形を描画する処理を実行可能なように構成
    されていることを特徴とする請求項1に記載の描画装
    置。
  8. 【請求項8】 上記制御処理手段は、 上記操作情報として得られた2地点の位置情報を楕円形
    の長径又は短径の両端として設定すると共に、このとき
    に上記2地点の位置情報にそれぞれ対応して検出された
    検出用画像情報内の特定の画像形状に基づいて楕円形の
    曲率を設定し、 上記楕円形の長径又は短径の両端とされる2地点の位置
    情報と、上記曲率の設定情報とに基づいて楕円形を描画
    する処理を実行可能なように構成されていることを特徴
    とする請求項1に記載の描画装置。
  9. 【請求項9】 上記制御処理手段は、 上記操作情報として得られた位置情報を曲線又は直線と
    しての描画画像上における位置指定情報として認識可能
    とされると共に、このときに上記位置情報に対応して検
    出された検出用画像情報内の特定の画像形状に基づいて
    方向情報を設定可能とされ、 上記位置指定情報の移動位置及び上記方向情報の変化に
    基づいて、上記曲線又は直線について変形を行う描画処
    理を実行可能ように構成されていることを特徴とする請
    求項1に記載の描画装置。
  10. 【請求項10】 上記制御処理手段は、 上記操作情報に従って描画した描画画像の形状が予め規
    定された所定形状に該当すると判別した場合には、所定
    の画像を作成して、上記投影表示手段により投影表示さ
    せるための制御を実行するように構成されていることを
    特徴とする請求項1に記載の描画装置。
  11. 【請求項11】 上記制御処理手段は、 上記検出用画像情報内において操作情報として認識され
    る操作情報画像のサイズが所定以下である場合には、こ
    の操作情報画像により指定される位置に対応する半透明
    面上の位置に対して描画が行われるようにし、 上記操作情報画像のサイズが所定以上である場合には、
    この操作情報画像により指定される位置に対応する半透
    明面上の位置に対して予め設定された初期画像が表示さ
    れるように、描画処理及び上記投影表示手段に対する表
    示制御を実行することを特徴とする請求項1に記載の描
    画装置。
  12. 【請求項12】 半透明面側の方向から入射する所定の
    波長帯域の光又は電磁波のみを像として捉える撮像動作
    と、 上記撮像動作により得られる撮像信号に基づいて、上記
    半透明面に対して与えられた操作が反映される検出用画
    像情報を生成し、この検出用画像情報に基づいて識別し
    た操作情報に基づいて実行される所要の制御処理と、 上記撮像動作として撮像すべき光又は電磁波の波長帯域
    を含まない可視光による画像を上記半透明面に対して投
    影表示動作と実行させるように構成したもとで描画を行
    うための描画方法であって、 上記制御処理として、 上記操作情報に基づいて描画画像を生成する描画画像生
    成処理と、 上記描画画像生成処理によって得られた描画画像を上記
    半透明面に投影表示させるための表示制御と、 を実行可能に構成したことを特徴とする描画方法。
  13. 【請求項13】 上記描画画像生成処理として、 上記操作情報として位置指定情報を認識し、この位置指
    定情報の移動軌跡に従うようにして描画画像を形成する
    処理を実行可能に構成されていることを特徴とする請求
    項12に記載の描画方法。
  14. 【請求項14】 上記描画画像生成処理として、 上記操作情報として位置指定情報を認識し、それぞれ異
    なるn(nは自然数)個の位置指定情報に基づいて、n
    角形の図形を描画するための処理を実行可能に構成され
    ていることを特徴とする請求項12に記載の描画方法。
  15. 【請求項15】 上記描画画像生成処理として、 上記操作情報として得られた2地点の位置情報を1対の
    対角点の位置として認識し、この1対の対角点の位置情
    報に基づいて四角形の描画画像を形成する処理を実行可
    能に構成されていることを特徴とする請求項12に記載
    の描画方法。
  16. 【請求項16】 上記描画画像生成処理として、 上記操作情報として上記1対の対角点のそれぞれに対応
    して検出された検出用画像情報内の特定の画像形状を角
    度情報として認識可能とされたうえで、この角度情報に
    基づいて対角を設定して四角形の描画画像を形成する処
    理を実行可能に構成されていることを特徴とする請求項
    15に記載の描画方法。
  17. 【請求項17】 上記描画画像生成処理として、 上記操作情報として得られた2地点の位置情報を三角形
    の一辺の両端の2点として認識すると共に、このときに
    上記三角形の一辺の両端の2点の位置情報にそれぞれ対
    応して検出された検出用画像情報内の特定の画像形状を
    角度情報として認識し、 上記三角形の一辺の両端の2点とされる位置情報と、上
    記角度情報とに基づいて設定した一辺の両端の角度とに
    基づいて三角形の描画画像を形成する処理を実行可能な
    ように構成されていることを特徴とする請求項12に記
    載の描画方法。
  18. 【請求項18】 上記描画画像生成処理として、 上記操作情報として得られた2地点の位置情報を楕円形
    の長径又は短径の両端として設定すると共に、このとき
    に上記2地点の位置情報にそれぞれ対応して検出された
    検出用画像情報内の特定の画像形状に基づいて楕円形の
    曲率を設定し、 上記楕円形の長径又は短径の両端とされる2地点の位置
    情報と、上記曲率の設定情報とに基づいて楕円形の描画
    画像を形成する処理を実行可能なように構成されている
    ことを特徴とする請求項12に記載の描画方法。
  19. 【請求項19】 上記描画画像生成処理として、 上記操作情報として得られた位置情報を曲線又は直線と
    しての描画画像上における位置指定情報として認識する
    位置指定情報認識処理と、上記位置情報に対応して検出
    された検出用画像情報内の特定の画像形状に基づいて方
    向情報を設定する方向情報設定処理と、 上記位置指定情報の移動位置及び上記方向情報の変化に
    基づいて、上記曲線又は直線について変形を行う描画処
    理と、 を実行可能に構成されていることを特徴とする請求項1
    2に記載の描画方法。
  20. 【請求項20】 上記投影表示動作に関する表示制御と
    して、 上記操作情報に従って描画した描画画像の形状が予め規
    定された所定形状に該当すると判別した場合には所定の
    画像を生成し、この生成された画像が投影表示されるよ
    うにするための処理を実行するように構成されているこ
    とを特徴とする請求項12に記載の描画方法。
  21. 【請求項21】 上記検出用画像情報内において操作情
    報として認識される操作情報画像のサイズが所定以下で
    ある場合には、この操作情報画像により指定される位置
    に対応する半透明面上の位置に対して描画が行われるよ
    うにし、 上記操作情報画像のサイズが所定以上である場合には、
    この操作情報画像により指定される位置に対応する半透
    明面上の位置に対して予め設定された初期画像が表示さ
    れるように、描画画像生成処理及び上記投影表示動作に
    関する表示制御を実行することを特徴とする請求項12
    に記載の描画方法。
  22. 【請求項22】 半透明面と、 上記半透明面側の方向から入射する所定の波長帯域の光
    又は電磁波のみを像として捉える撮像手段と、 上記撮像手段から入力された撮像信号に基づいて、上記
    半透明面に対して与えられた操作が反映される検出用画
    像情報を生成し、この検出用画像情報に基づいて識別し
    た操作情報に基づいて所要の制御処理を実行する制御処
    理手段と、 上記撮像手段が撮像すべき光又は電磁波の波長帯域を含
    まない可視光による画像を上記半透明面に対して投影表
    示可能に設けられる投影表示手段とを備えた情報入出力
    装置に用いられるプログラムが格納される記録媒体であ
    って、 上記制御処理手段に上記所要の制御処理を実行させるプ
    ログラムとして、 上記操作情報に基づいて描画画像を生成する描画画像生
    成処理と、 該描画画像生成処理によって得られた描画画像を上記半
    透明面に投影表示させるための上記投影表示手段に対す
    る表示制御と、 を実行可能とするための描画用プログラムが格納されて
    いることを特徴とする記録媒体。
  23. 【請求項23】 上記描画画像生成処理として、上記操
    作情報として位置指定情報を認識し、この位置指定情報
    の移動軌跡に従うようにして描画画像を形成する処理を
    実行可能とするための描画用プログラムが格納されてい
    ることを特徴とする請求項22に記載の記録媒体。
  24. 【請求項24】 上記描画画像生成処理として、上記操
    作情報として位置指定情報を認識し、それぞれ異なるn
    (nは自然数)個の位置指定情報に基づいて、n角形の
    図形を描画するための処理を実行可能とするための描画
    用プログラムが格納されていることを特徴とする請求項
    22に記載の記録媒体。
  25. 【請求項25】 上記描画画像生成処理として、上記操
    作情報として同時に得られた2地点の位置情報を1対の
    対角点の位置として認識し、この1対の対角点の位置情
    報に基づいて四角形の描画画像を形成する処理を実行可
    能とするための描画用プログラムが格納されていること
    を特徴とする請求項22に記載の記録媒体。
  26. 【請求項26】 上記描画画像生成処理として、上記操
    作情報として上記1対の対角点のそれぞれに対応して検
    出された検出用画像情報内の特定の画像形状を角度情報
    として認識可能とされたうえで、この角度情報に基づい
    て対角を設定して四角形の描画画像を形成する処理を実
    行可能とするための描画用プログラムが格納されている
    ことを特徴とする請求項25に記載の記録媒体。
  27. 【請求項27】 上記描画画像生成処理として、上記操
    作情報として得られた2地点の位置情報を三角形の一辺
    の両端の2点として認識すると共に、このときに上記三
    角形の一辺の両端の2点の位置情報にそれぞれ対応して
    検出された検出用画像情報内の特定の画像形状を角度情
    報として認識し、 上記三角形の一辺の両端の2点とされる位置情報と、上
    記角度情報とに基づいて設定した一辺の両端の角度とに
    基づいて三角形の描画画像を形成する処理を実行可能と
    するための描画用プログラムが格納されていることを特
    徴とする請求項22に記載の記録媒体。
  28. 【請求項28】 上記描画画像生成処理として、上記操
    作情報として得られた2地点の位置情報を楕円形の長径
    又は短径の両端として設定すると共に、このときに上記
    2地点の位置情報にそれぞれ対応して検出された検出用
    画像情報内の特定の画像形状に基づいて楕円形の曲率を
    設定し、 上記楕円形の長径又は短径の両端とされる2地点の位置
    情報と、上記曲率の設定情報とに基づいて楕円形の描画
    画像を形成する処理を実行可能とするための描画用プロ
    グラムが格納されていることを特徴とする請求項22に
    記載の記録媒体。
  29. 【請求項29】 上記描画画像生成処理として、上記操
    作情報として得られた位置情報を曲線又は直線としての
    描画画像上における位置指定情報として認識すると共
    に、上記位置情報に対応して検出された検出用画像情報
    内の特定の画像形状に基づいて方向情報を設定する処理
    と、 上記位置指定情報の移動位置及び上記方向情報の変化に
    基づいて、上記曲線又は直線について変形を行う描画処
    理と、 を実行可能とするための描画用プログラムが格納されて
    いることを特徴とする請求項22に記載の記録媒体。
  30. 【請求項30】 上記投影表示手段に対する表示制御と
    して、上記操作情報に従って描画した描画画像の形状が
    予め規定された所定形状に該当すると判別した場合には
    所定の画像を生成し、この生成された画像が上記投影表
    示手段により投影表示されるようにするための処理を実
    行可能とするための描画用プログラムが格納されている
    ことを特徴とする請求項22に記載の記録媒体。
  31. 【請求項31】 上記検出用画像情報内において操作情
    報として認識される操作情報画像のサイズが所定以下で
    ある場合には、この操作情報画像により指定される位置
    に対応する半透明面上の位置に対して描画を行い、 上記操作情報画像のサイズが所定以上である場合には、
    この操作情報画像により指定される位置に対応する半透
    明面上の位置に対して予め設定された初期画像を表示す
    るための、 描画画像生成処理及び投影表示手段に対する表示制御を
    実行可能とする描画用プログラムが格納されていること
    を特徴とする請求項22に記載の記録媒体。
JP18999097A 1997-07-15 1997-07-15 描画装置、及び描画方法 Expired - Fee Related JP3997566B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP18999097A JP3997566B2 (ja) 1997-07-15 1997-07-15 描画装置、及び描画方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP18999097A JP3997566B2 (ja) 1997-07-15 1997-07-15 描画装置、及び描画方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007166923A Division JP4513830B2 (ja) 2007-06-25 2007-06-25 描画装置、及び描画方法

Publications (2)

Publication Number Publication Date
JPH1138949A true JPH1138949A (ja) 1999-02-12
JP3997566B2 JP3997566B2 (ja) 2007-10-24

Family

ID=16250554

Family Applications (1)

Application Number Title Priority Date Filing Date
JP18999097A Expired - Fee Related JP3997566B2 (ja) 1997-07-15 1997-07-15 描画装置、及び描画方法

Country Status (1)

Country Link
JP (1) JP3997566B2 (ja)

Cited By (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001290585A (ja) * 2000-01-31 2001-10-19 Canon Inc 位置情報処理装置及びその方法及びそのプログラム、操作装置及びその方法及びそのプログラム
WO2005003948A1 (ja) * 2003-07-08 2005-01-13 Sony Computer Entertainment Inc. 制御システムおよび制御方法
JP2006072194A (ja) * 2004-09-06 2006-03-16 Clarion Co Ltd 地図表示装置
JP2007080187A (ja) * 2005-09-16 2007-03-29 Tokai Rika Co Ltd 操作入力装置
JP2007233076A (ja) * 2006-03-01 2007-09-13 Seiko Epson Corp 投射装置およびプログラム
JP2007323660A (ja) * 2007-06-25 2007-12-13 Sony Corp 描画装置、及び描画方法
JP2008505380A (ja) * 2004-06-29 2008-02-21 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ グラフィカルユーザインタフェースの多階層表示
JP2008090807A (ja) * 2006-09-06 2008-04-17 National Institute Of Advanced Industrial & Technology 小型携帯端末
JP2010092505A (ja) * 2006-10-13 2010-04-22 Sony Corp 表示制御装置、表示制御方法、およびプログラム
JP2010186335A (ja) * 2009-02-12 2010-08-26 Nec Corp キーボード、キーボード入力方法およびキーボード入力プログラム
JP2011014169A (ja) * 2000-01-31 2011-01-20 Canon Inc 操作装置及びその方法及びそのプログラム
EP2332007A1 (en) * 2008-10-10 2011-06-15 Institut National d'Optique Selective and adaptive illumination of a target
JP2011188024A (ja) * 2010-03-04 2011-09-22 Sony Corp 情報処理装置、情報処理方法およびプログラム
JP2013140582A (ja) * 2011-12-30 2013-07-18 Samsung Electronics Co Ltd 電子装置およびその制御方法
JP2013175216A (ja) * 2013-04-17 2013-09-05 Casio Comput Co Ltd 電子機器およびプログラム
WO2014123224A1 (ja) * 2013-02-08 2014-08-14 株式会社ニコン 電子制御装置、制御方法、及び制御プログラム
JP2014171121A (ja) * 2013-03-04 2014-09-18 Ricoh Co Ltd 投影システム、投影装置、投影方法、及び投影プログラム
US8840470B2 (en) 2008-02-27 2014-09-23 Sony Computer Entertainment America Llc Methods for capturing depth data of a scene and applying computer actions
US8961313B2 (en) 2009-05-29 2015-02-24 Sony Computer Entertainment America Llc Multi-positional three-dimensional controller
US8976265B2 (en) 2002-07-27 2015-03-10 Sony Computer Entertainment Inc. Apparatus for image and sound capture in a game environment
JP2016071408A (ja) * 2014-09-26 2016-05-09 裕一朗 今田 ポインチング装置
JP2017022782A (ja) * 2016-10-20 2017-01-26 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US9573056B2 (en) 2005-10-26 2017-02-21 Sony Interactive Entertainment Inc. Expandable control device via hardware attachment
WO2017072913A1 (ja) * 2015-10-29 2017-05-04 Necディスプレイソリューションズ株式会社 制御方法、電子黒板システム、表示装置およびプログラム
US9682320B2 (en) 2002-07-22 2017-06-20 Sony Interactive Entertainment Inc. Inertially trackable hand-held controller
US9682319B2 (en) 2002-07-31 2017-06-20 Sony Interactive Entertainment Inc. Combiner method for altering game gearing
US10099130B2 (en) 2002-07-27 2018-10-16 Sony Interactive Entertainment America Llc Method and system for applying gearing effects to visual tracking
US10099147B2 (en) 2004-08-19 2018-10-16 Sony Interactive Entertainment Inc. Using a portable device to interface with a video game rendered on a main display
US10279254B2 (en) 2005-10-26 2019-05-07 Sony Interactive Entertainment Inc. Controller having visually trackable object for interfacing with a gaming system
US10284832B2 (en) 2015-09-30 2019-05-07 Sony Corporation Image processing apparatus, image processing method, and program
WO2020166351A1 (ja) * 2019-02-13 2020-08-20 ソニー株式会社 情報処理装置、情報処理方法、および記録媒体
US11010971B2 (en) 2003-05-29 2021-05-18 Sony Interactive Entertainment Inc. User-driven three-dimensional interactive gaming environment

Cited By (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011014169A (ja) * 2000-01-31 2011-01-20 Canon Inc 操作装置及びその方法及びそのプログラム
US20140062924A1 (en) * 2000-01-31 2014-03-06 Canon Kabushiki Kaisha Method and apparatus for detecting and interpreting path of designated position
US8531421B2 (en) 2000-01-31 2013-09-10 Canon Kabushiki Kaisha Method and apparatus for detecting and interpreting path of designated position
US9158402B2 (en) 2000-01-31 2015-10-13 Canon Kabushiki Kaisha Method and apparatus for detecting and interpreting path of designated position
US7986308B2 (en) 2000-01-31 2011-07-26 Canon Kabushiki Kaisha Method and apparatus for detecting and interpreting path of designated position
JP2001290585A (ja) * 2000-01-31 2001-10-19 Canon Inc 位置情報処理装置及びその方法及びそのプログラム、操作装置及びその方法及びそのプログラム
US9682320B2 (en) 2002-07-22 2017-06-20 Sony Interactive Entertainment Inc. Inertially trackable hand-held controller
US8976265B2 (en) 2002-07-27 2015-03-10 Sony Computer Entertainment Inc. Apparatus for image and sound capture in a game environment
US10099130B2 (en) 2002-07-27 2018-10-16 Sony Interactive Entertainment America Llc Method and system for applying gearing effects to visual tracking
US10406433B2 (en) 2002-07-27 2019-09-10 Sony Interactive Entertainment America Llc Method and system for applying gearing effects to visual tracking
US9682319B2 (en) 2002-07-31 2017-06-20 Sony Interactive Entertainment Inc. Combiner method for altering game gearing
US11010971B2 (en) 2003-05-29 2021-05-18 Sony Interactive Entertainment Inc. User-driven three-dimensional interactive gaming environment
JP2005031799A (ja) * 2003-07-08 2005-02-03 Sony Computer Entertainment Inc 制御システムおよび制御方法
WO2005003948A1 (ja) * 2003-07-08 2005-01-13 Sony Computer Entertainment Inc. 制御システムおよび制御方法
JP2008505380A (ja) * 2004-06-29 2008-02-21 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ グラフィカルユーザインタフェースの多階層表示
US10099147B2 (en) 2004-08-19 2018-10-16 Sony Interactive Entertainment Inc. Using a portable device to interface with a video game rendered on a main display
JP4531497B2 (ja) * 2004-09-06 2010-08-25 クラリオン株式会社 地図表示装置
JP2006072194A (ja) * 2004-09-06 2006-03-16 Clarion Co Ltd 地図表示装置
JP2007080187A (ja) * 2005-09-16 2007-03-29 Tokai Rika Co Ltd 操作入力装置
US10279254B2 (en) 2005-10-26 2019-05-07 Sony Interactive Entertainment Inc. Controller having visually trackable object for interfacing with a gaming system
US9573056B2 (en) 2005-10-26 2017-02-21 Sony Interactive Entertainment Inc. Expandable control device via hardware attachment
JP2007233076A (ja) * 2006-03-01 2007-09-13 Seiko Epson Corp 投射装置およびプログラム
JP2008090807A (ja) * 2006-09-06 2008-04-17 National Institute Of Advanced Industrial & Technology 小型携帯端末
JP4747232B2 (ja) * 2006-09-06 2011-08-17 独立行政法人産業技術総合研究所 小型携帯端末
JP4688007B2 (ja) * 2006-10-13 2011-05-25 ソニー株式会社 表示制御装置、表示制御方法、およびプログラム
JP2010092505A (ja) * 2006-10-13 2010-04-22 Sony Corp 表示制御装置、表示制御方法、およびプログラム
JP2007323660A (ja) * 2007-06-25 2007-12-13 Sony Corp 描画装置、及び描画方法
JP4513830B2 (ja) * 2007-06-25 2010-07-28 ソニー株式会社 描画装置、及び描画方法
US8840470B2 (en) 2008-02-27 2014-09-23 Sony Computer Entertainment America Llc Methods for capturing depth data of a scene and applying computer actions
EP2332007A4 (en) * 2008-10-10 2013-05-01 Inst Nat Optique SELECTIVE AND ADAPTIVE LIGHTING OF A TARGET
EP2332007A1 (en) * 2008-10-10 2011-06-15 Institut National d'Optique Selective and adaptive illumination of a target
JP2010186335A (ja) * 2009-02-12 2010-08-26 Nec Corp キーボード、キーボード入力方法およびキーボード入力プログラム
US8961313B2 (en) 2009-05-29 2015-02-24 Sony Computer Entertainment America Llc Multi-positional three-dimensional controller
US9049376B2 (en) 2010-03-04 2015-06-02 Sony Corporation Information processing apparatus, information processing method, and program
US11190678B2 (en) 2010-03-04 2021-11-30 Sony Corporation Information processing apparatus, information processing method, and program
US10306136B2 (en) 2010-03-04 2019-05-28 Sony Corporation Information processing apparatus, information processing method, and program
US9516206B2 (en) 2010-03-04 2016-12-06 Sony Corporation Information processing apparatus, information processing method, and program
US10015392B2 (en) 2010-03-04 2018-07-03 Sony Corporation Information processing apparatus, information processing method, and program
JP2011188024A (ja) * 2010-03-04 2011-09-22 Sony Corp 情報処理装置、情報処理方法およびプログラム
US10659681B2 (en) 2010-03-04 2020-05-19 Sony Corporation Information processing apparatus, information processing method, and program
JP2013140582A (ja) * 2011-12-30 2013-07-18 Samsung Electronics Co Ltd 電子装置およびその制御方法
JPWO2014123224A1 (ja) * 2013-02-08 2017-02-02 株式会社ニコン 電子制御装置、制御方法、及び制御プログラム
JP6036856B2 (ja) * 2013-02-08 2016-11-30 株式会社ニコン 電子制御装置、制御方法、及び制御プログラム
WO2014123224A1 (ja) * 2013-02-08 2014-08-14 株式会社ニコン 電子制御装置、制御方法、及び制御プログラム
JP2014171121A (ja) * 2013-03-04 2014-09-18 Ricoh Co Ltd 投影システム、投影装置、投影方法、及び投影プログラム
JP2013175216A (ja) * 2013-04-17 2013-09-05 Casio Comput Co Ltd 電子機器およびプログラム
JP2016071408A (ja) * 2014-09-26 2016-05-09 裕一朗 今田 ポインチング装置
US10284832B2 (en) 2015-09-30 2019-05-07 Sony Corporation Image processing apparatus, image processing method, and program
JPWO2017072913A1 (ja) * 2015-10-29 2018-05-24 Necディスプレイソリューションズ株式会社 制御方法、電子黒板システム、表示装置およびプログラム
WO2017072913A1 (ja) * 2015-10-29 2017-05-04 Necディスプレイソリューションズ株式会社 制御方法、電子黒板システム、表示装置およびプログラム
JP2017022782A (ja) * 2016-10-20 2017-01-26 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
WO2020166351A1 (ja) * 2019-02-13 2020-08-20 ソニー株式会社 情報処理装置、情報処理方法、および記録媒体

Also Published As

Publication number Publication date
JP3997566B2 (ja) 2007-10-24

Similar Documents

Publication Publication Date Title
JPH1138949A (ja) 描画装置、描画方法及び記録媒体
JP4513830B2 (ja) 描画装置、及び描画方法
KR100953606B1 (ko) 화상 표시 장치, 화상 표시 방법 및 명령 입력 방법
US9489040B2 (en) Interactive input system having a 3D input space
US7701457B2 (en) Pen-based 3D drawing system with geometric-constraint based 3D cross curve drawing
CN116719413A (zh) 用于操纵环境中的对象的方法
WO2017075932A1 (zh) 基于三维显示的手势操控方法和系统
US9110512B2 (en) Interactive input system having a 3D input space
US11244511B2 (en) Augmented reality method, system and terminal device of displaying and controlling virtual content via interaction device
JP4694435B2 (ja) 断面画像表示装置、断面画像表示方法及び断面画像表示プログラム
CN110489027B (zh) 手持输入设备及其指示图标的显示位置控制方法和装置
US8643679B2 (en) Storage medium storing image conversion program and image conversion apparatus
CN115328304A (zh) 一种2d-3d融合的虚拟现实交互方法及设备
JP4296607B2 (ja) 情報入出力装置及び情報入出力方法
CN201369027Y (zh) 一种红外激光笔遥指虚拟触摸系统
JPH07319616A (ja) 位置入力方法およびそれを用いた会議支援システム
JP4266076B2 (ja) 電子黒板システム
Gross et al. Gesture Modelling: Using Video to Capture Freehand Modeling Commands
CN109144235A (zh) 基于头手协同动作的人机交互方法与系统
WO2022034745A1 (ja) 書き込み画面画像を重畳する情報処理装置
JP3186361B2 (ja) データ処理装置
JP2007272927A (ja) 情報入出力装置、及び情報入出力方法
JP4763431B2 (ja) 透視画像表示装置及び透視画像表示プログラム
JP4676353B2 (ja) 断面画像表示装置、断面画像表示方法及び断面画像表示プログラム
CN117687523A (zh) 一种解决激光笔无法投射在显示屏上的方法及装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070424

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070717

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070730

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100817

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110817

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110817

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120817

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120817

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130817

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees