JP2004348577A - 情報表示システムおよび情報表示システムにおけるポインティング装置制御方法 - Google Patents
情報表示システムおよび情報表示システムにおけるポインティング装置制御方法 Download PDFInfo
- Publication number
- JP2004348577A JP2004348577A JP2003146594A JP2003146594A JP2004348577A JP 2004348577 A JP2004348577 A JP 2004348577A JP 2003146594 A JP2003146594 A JP 2003146594A JP 2003146594 A JP2003146594 A JP 2003146594A JP 2004348577 A JP2004348577 A JP 2004348577A
- Authority
- JP
- Japan
- Prior art keywords
- pointing
- information
- image information
- pointing device
- display image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Position Input By Displaying (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
【課題】複数のポインティング装置を用いて同じ表示画像上をポインティング操作する際、不正なポインティング操作を防止する。
【解決手段】情報処理装置(PC)1と、このPC1に保持された情報を表示画像23上に表示可能なプロジェクタ21と、表示画像23上の任意の位置を指示する複数のポインティング装置3a,3bとを有する情報表示システムであって、複数のポインティング装置3a,3bは、ポインティング装置3a,3bそれぞれが自身をPC1に登録するに必要な処理をその処理機能の1つとして行うポインティング操作参加手段36を有し、PC1は、ポインティング装置3a,3bのポインティング操作参加手段36からの情報に基づいて当該ポインティング装置3a,3bの認証可否を判定して認証可と判定した場合に当該ポインティング装置3a,3bを登録する処理をその処理機能の1つとして行うポインティング操作受付手段15を有する。
【選択図】 図1
【解決手段】情報処理装置(PC)1と、このPC1に保持された情報を表示画像23上に表示可能なプロジェクタ21と、表示画像23上の任意の位置を指示する複数のポインティング装置3a,3bとを有する情報表示システムであって、複数のポインティング装置3a,3bは、ポインティング装置3a,3bそれぞれが自身をPC1に登録するに必要な処理をその処理機能の1つとして行うポインティング操作参加手段36を有し、PC1は、ポインティング装置3a,3bのポインティング操作参加手段36からの情報に基づいて当該ポインティング装置3a,3bの認証可否を判定して認証可と判定した場合に当該ポインティング装置3a,3bを登録する処理をその処理機能の1つとして行うポインティング操作受付手段15を有する。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、ポインティング位置の座標情報の取得が可能な情報表示システムおよび情報表示システムにおけるポインティング装置制御方法に係わり、特に複数のポインティング装置を用いて同じ表示画面上のポインティング操作の可能な情報表示システムおよび情報表示システムにおけるポインティング装置制御方法に関する。
【0002】
【従来技術】
画像表示装置の1つとして、最近ではプロジェクタが広く用いられるようになってきている。このプロジェクタによって投影された投影画面上の任意位置の座標をこのプロジェクタを接続する情報処理機器(たとえばパーソナルコンピュータ)が取得する方法としては、ポインティングを行う手段(指示棒、レーザポインタなど)の他に、投影画面を撮像するための固定カメラや光学センサが必要であり、情報表示システムが大掛かりなものとなるため、汎用性という点では問題がある。
【0003】
この問題を解決するために、従来から様々な提案がなされている。たとえば、特開平6−308879号公報の「光学式ポインティングシステム」(以下、従来技術1という)、特開2001−148025号公報の「位置検出装置及びその方法、平面姿勢検出装置及びその方法」(以下、従来技術2という)、特開2001−166881号公報の「ポインティング装置及びその方法」(以下、従来技術3という)、特開2001−325069号公報の「位置検出装置およびその方法」(以下、従来技術4という)などが挙げられる。
【0004】
従来技術1は、表示画面上に発光素子を設けて、この発行素子の発光する光を指示器(この指示器がポインティング装置としての役目をなす)に設けられた光電変換素子で受光し、光電変換素子の出力信号から指示器の軸の方向を算出し、その軸方向に対応する位置にポインタマークを表示させるものであるが、位置検出のために表示画面に1個以上の発光素子を設けなければならない。
【0005】
また、従来技術2,3,4は、撮像手段(カメラ)をポインティング装置として用いており、表示画像の特徴的な画像を撮影して、その特徴的な形状から座標を取得するものである。このため、カメラで撮影する画像に特徴的な形状が含まれている必要があり、たとえば、投影スクリーンの矩形であるとか、表示画像に表示された幾何学的図形をカメラで撮影する必要がある。
【0006】
また、従来技術4は、表示画面上の各位置にマーカとなるオブジェクトをいくつか配置しなければならず、画像本来の内容とは関係のないものまで表示されることになる。また、これら各従来技術2,3,4は、指示位置を絶対座標として取得するものであり、相対座標として取得することについては考慮されていない。
【0007】
また、以上の従来技術1から4は、ポインティング装置が1つであることを想定したポインティング位置検出について述べられたものである。しかし、プロジェクタを用いた会議やプレゼンテーションでは、その会議やプレゼンテーションに参加している複数の参加者が、表示画面上の任意の位置を同時に指示できるようにすることも望まれている。
【0008】
このように、複数の参加者が1つの表示画面上の任意の位置を同時に指示できるようにした画像表示システムとして、たとえば、特開平7−200160号公報の「情報提供装置及び情報表示装置」(以下、従来技術5という)、特開平7−261913号公報の「情報表示方法及び情報表示装置」(以下、従来技術6という)、特開平8−95157号公報の「表示装置」(以下、従来技術7という)などがある。
【0009】
【特許文献1】
特開平6−308879号公報
【特許文献2】
特開2001−148025号公報
【特許文献3】
特開2001−166881号公報
【特許文献4】
特開2001−325069号公報
【特許文献5】
特開平7−200160号公報
【特許文献6】
特開7−261913号公報
【特許文献7】
特開8−95157号公報
【0010】
【発明が解決しようとする課題】
従来技術1から4は、上述したように、複数のポインティング装置によるポインティング操作についての対応は考慮されてない。これに対して、従来技術5から7は、複数のポインティング装置によるポインティング操作を可能としているが、これら従来技術は、複数のポインティング装置によってポインティング操作を行う際のアクセス制御手段を持っていないため、たとえば、部外者などが会議やプレゼンテーションの妨害や混乱を目的として、不正なポインティング操作を行うといったことも可能となる。
【0011】
また、これら従来技術5から7は、個々のポインティング装置が発するポインタマークは、個々のポインティング装置ごとに異ならせることは可能であっても、そのポインタマークは、個々のポインティング装置の物理的な構造に依存した固定的なものであるため、個々のポインティング装置においてそれを使用するユーザが好みのポインタマークを設定したり選択したりすることはできない。
【0012】
また、複数のポインティング装置の使用が可能であると、たとえば、複数のポインティング装置によって表示画面上の同位置がポインティングされた場合、個々のポインティング装置から発せされたポインタマークが重畳することとなるが、このような複数のポインタマークの重畳を判別するための複雑な処理が必要となる。
【0013】
また、このとき、同じポインタマークを持つポインティング装置が使用されると、それを識別できず、たとえば、他の参加者が持つポインティング装置のポインタマークと同じポインタマークを持つポインティング装置を予め用意しておき、他の参加者になりすましてポインティングをするといった不正なポインティングも可能となるといった問題もある。
【0014】
また、従来技術5から7で用いられているポインティング装置は、レーザポインタであり、レーザ光によってポインティングするだけであるので、そのポインティング位置でのコマンド入力やその位置におけるデータの編集などを容易に行うことはできない。
【0015】
そこで本発明は、同一表示画面上において複数のポインティング装置によるポインティング操作を行う際、不正なポインティング操作を防止するとともに、複数のポインティング装置による円滑なポインティング操作を可能とし、かつ、それぞれのポインティング位置でのコマンド入力を可能とする情報表示システムおよび情報表示システムにおけるポインティング装置制御方法を提供することを目的としている。
【0016】
【課題を解決するための手段】
上述した目的を達成するために、本発明の情報表示システムは、情報処理装置と、この情報処理装置に保持された情報を表示画面上に表示可能な情報表示装置と、この情報表示装置によって表示された表示画像上の任意の位置を指示する複数のポインティング装置とを有する情報表示システムであって、前記複数のポインティング装置は、個々のポインティング装置において、自身を前記情報処理装置に登録するに必要な処理をその処理機能の1つとして行うポインティング操作参加手段を有し、前記情報処理装置は、前記ポインティング装置のポインティング操作参加手段からの情報に基づいて当該ポインティング装置の認証可否を判定して認証可と判定した場合に当該ポインティング装置を登録する処理をその処理機能の1つとして行うポインティング操作受付手段を有することを特徴としている。
【0017】
このように、複数のポインティング装置で同じ表示画面上をポインティング操作可能とする情報表示システムとする際、複数のポインティング装置では、パーソナルコンピュータなどの情報処理装置側に対し自身を登録するための処理を行い、情報処理装置側では個々のポインティング装置に対して認証可否判定を行った上で認証可とされたポインティング装置のみを登録するようにしているので、部外者などが勝手にポインティングするというような不正なポインティング操作を未然に防止することができる。これによって、会議やプレゼンテーションなどを行う場での不正や混乱を防止することができ、会議やプレゼンテーションを円滑に進行させることができる。
【0018】
また、上述の各情報表示システムにおいて、前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置に対し、当該ポインティング装置固有の識別情報を発行することが好ましい。
【0019】
このように、認証されたポインティング装置それぞれに対して識別情報(ID)を発行することによって、個々のポインティング装置をこのIDで適正に管理することができる。
【0020】
また、上述の各情報表示システムにおいて、前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置に対し、個々のポインティング装置ごとに異なるポインタマークを割り当てるポインタマーク割り当て処理を行うことが好ましい。
【0021】
これによって、個々のポインティング装置ごとに異なるポインタマークを割り当てることができるので、どのポインティング装置がどこを指示しているかが容易に把握でき、会議やプレゼンテーションでポインティング装置が多数使用されるような場合、会議やプレゼンテーションを円滑に進行させることができる。
【0022】
また、上述の各情報表示システムにおいて、前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置ごとにそのポインティング装置が行うポインティング操作実行用のポインティングタスクを生成することが好ましい。
【0023】
このように、ポインティング装置ごとのポインティングタスクが生成されることによって、ポインティング装置ごとに独立したポインティング操作を実行することができる。
【0024】
また、上述の各情報表示システムにおいて、前記複数のポインティング装置の指示位置が重複する場合、予め設定された規則に基づく優先度を設定し、その複数のポインティング装置から発せられるそれぞれのポインタマークのうちの優先度の最も高いポインタマークのみを当該座標位置で表示させることが好ましい。
【0025】
このようなポインタマークの表示制御を行うことによって、複数のポインタマークの指示位置が重複しても、いずれかのポインタマークをその指示位置で表示させることができ、しかも、予め設定された規則に基づく優先度を設定し、優先度の最も高いポインタマークのみを当該座標位置で表示させる制御を行うので、複数のポインティング装置を操作するそれぞれのユーザの納得の行くポインタマーク表示制御を行うことができる。
【0026】
また、上述した情報表示システムにおいて、前記ポインティング装置は、前記ポインティング操作参加手段に加えて、前記表示画像上で指示しようとする位置を含む所定範囲を撮影してその所定範囲に対応する撮影画像情報を出力可能な撮影手段を有し、前記情報処理装置は、前記ポインティング操作受付手段に加えて、このポインティング操作受付手段で認証可とされたポインティング装置からの撮影画像情報を受け取り、その撮影画像情報が撮影時点での表示画像に対応する表示画像情報のどの部分に対応するかを判定し、その判定結果から前記ポインティング装置それぞれが指示しようとする位置の座標を指示座標として特定する指示座標特定手段と、表示すべき画像に対する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、その表示画像上の前記指示座標特定手段で特定された指示座標にポインタマークを合成して表示する表示画像情報生成手段とを有する構成とすることが好ましい。
【0027】
これは、ポインティング装置による指示位置を絶対座標として取得可能とする情報表示システムであり、このような構成とすることによって、上述した不正なポインティング操作を防止するなどといった効果に加えて、表示画像上に特徴的な形状やマーカなどを特別に設けたり、特徴的な画像を同時に撮影するといったことをする必要がなく、単に、指示位置を含むように撮影するだけで指示位置を容易かつ正確に行うことができ、これにより、多数のポインティング装置を用いポインティング操作を行う場合の対応が容易なものとなる。
【0028】
また、この場合、指示座標特定は、情報報処理装置側で行っている。指示座標特定手段を情報処理装置側で行う利点は、ポインティング装置では、撮影画像情報を単に情報処理装置に送信するだけであり、ポインティング装置での演算量を少なくすることができ、また、ポインティング装置側に、指示座標特定に必要な(たとえば画像処理用の)ハードウエアやソフトウエアを搭載する必要がないといったことが挙げられ、さらに、ポインティング装置よりも情報処理装置の方が一般的に処理能力が高いので、より高速に座標特定などの処理が行え、複雑な画像演算処理も容易かつ高速に行うことができ、高精度な座標特定が可能となるといった利点もある。
【0029】
このように、ポインティング装置による指示位置を絶対座標として取得可能とする情報表示システムにおいて、指示座標の特定処理を情報処理装置側で行う場合においては、前記情報処理装置のポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記ポインティング装置が指示する指示座標を特定する指示座標特定処理と、前記表示画像上の当該特定された指示座標上にポインタマークを合成して表示する表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることが好ましい。
【0030】
これにより、処理能力の高い情報処理装置側で指示座標の特定を行うことができ、高速でかつ高精度な座標特定処理が可能となる。また、このポインティングタスクにはコマンドを実行するコマンド処理が含まれるので、ポインティング装置によって表示画像上の任意の位置を指示したあと、その指示位置に文字を入力させたり、表示内容を修正したりすることも可能となり、単に、ポインティング位置を指示するだけでなく、表示内容の編集・修正操作も可能となる。すなわち、これはコンピュータの遠隔操作をも可能とするということである。
【0031】
また、上述した情報表示システムにおいて、前記ポインティング装置は、前記ポインティング操作参加手段に加えて、前記表示画像上で指示しようとする位置を含む所定範囲を撮影してその所定範囲に対応する撮影画像情報を出力可能な撮影手段と、この撮影手段からの撮影画像情報を受け取り、その撮影画像情報が撮影時点での表示画像に対応する表示画像情報のどの部分に対応するかを判定し、その判定結果からこのポインティング装置が指示しようとする位置の座標を指示座標として特定する指示座標特定手段とを有し、前記情報処理装置は、前記ポインティング操作受付手段に加えて、表示すべき画像に対する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、前記認証可とされたポインティング装置の指示座標特定手段で特定された前記表示画像上の指示座標にポインタマークを合成して表示する表示画像情報生成手段とを有する構成とすることも可能である。
【0032】
これは、ポインティング装置による指示位置を絶対座標として取得可能とする情報表示システムにおいて、指示座標特定手段をポインティング装置側で行うものであり、このように、指示座標特定手段をポインティング装置側で行う利点は、情報処理装置側から見てポインティング装置を単なるデバイスとしてみなすことができる。すなわち、そのデバイス(ポインティング装置)に対して表示画像情報を送信しさえすれば、デバイスからは絶対座標情報が送信されてくるので、情報処理装置側では特に複雑な処理を行う必要が無く、情報処理装置側の演算量を削減できるので、ポインティング装置が多数用いられる状況において情報処理装置側の負担を軽減することができる。
【0033】
このように、ポインティング装置による指示位置を絶対座標として取得可能とする情報表示システムにおいて、指示座標の特定処理をポインティング装置側で行う場合においては、前記ポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記ポインティング装置で特定された前記表示画像上の指示座標にポインタマークを合成して表示する表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることが好ましい。
【0034】
これにより、情報処理装置側では、指示座標の特定処理を行わなくてすむので、情報処理装置側の演算量を削減でき、特に、ポインティング装置が多数用いられる状況においては、情報処理装置側の負担を軽減することができる。また、このポインティングタスクにはコマンドを実行するコマンド処理が含まれるので、ポインティング装置によって表示画像上の任意の位置を指示したあと、その指示位置に文字を入力させたり、表示内容を修正したりすることも可能となり、単に、ポインティング位置を指示するだけでなく、表示内容の編集・修正操作も可能となる。すなわち、これはコンピュータの遠隔操作をも可能とするということである。
【0035】
また、上述した情報表示システムにおいて、前記ポインティング装置は、前記ポインティング操作参加手段に加えて、当該ポインティング装置で撮影しようとする任意の範囲を撮影してその範囲に対応する撮影画像情報を出力可能な撮影手段と、この撮影手段による撮影位置と撮影角度の少なくとも一方を変化させあるいは変化させること無く複数回撮影することによって得られる現時点でのフレームよりも時間的に前のフレームの撮影画像情報を記憶する撮影画像情報記憶手段と、この撮影画像情報記憶手段に記憶された撮影画像情報と前記現時点でのフレームの撮影画像情報とを比較して、その比較結果から指示座標移動ベクトルを算出する指示座標移動ベクトル算出手段とを有し、前記情報処理装置は、前記ポインティング操作受付手段に加えて、前記表示すべき画像に対応する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、その表示画像上において現時点で表示されているあるポインティング装置のポインタマークを、そのポインティング装置で算出された前記指示座標移動ベクトルに対応する分だけ離れた位置で当該表示画像に合成して表示する表示画像情報生成手段とを有する構成とすることも可能である。
【0036】
これは、ポインティング装置による指示位置を相対座標として取得可能とする情報表示システムであり、指示位置を相対座標として取得する場合は、ポインティング装置による撮影対象は表示画面上でなくてもよいので、撮影場所の制約が少なく、広いプレゼンテーション会場などで多くの人によってポインティングを行うような場合に使い勝手のよいものとなる。また、ポインティング装置をパーソナルコンピュータのマウスの感覚で使うことができるので、ポインティング操作がやり易いことも特徴の1つである。
【0037】
このように、ポインティング装置による指示位置を相対座標として取得可能とする情報表示システムにおいて、指示座標の特定処理をポインティング装置側で行う場合においては、前記ポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記ポインティング装置で算出された指示座標移動ベクトルに基づいて得られる座標上で前記ポインタマークを前記表示画像に合成して表示する表示画像生成処理と、当該ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることが好ましい。
【0038】
これにより、情報処理装置側では、指示座標の特定処理を行わなくてすむので、情報処理装置側の演算量を削減でき、特に、ポインティング装置が多数用いられる状況においては、情報処理装置側の負担を軽減することができる。また、このポインティングタスクにはコマンドを実行するコマンド処理が含まれるので、ポインティング装置によって表示画像上の任意の位置を指示したあと、その指示位置に文字を入力させたり、表示内容を修正したりすることも可能となり、単に、ポインティング位置を指示するだけでなく、表示内容の編集・修正操作も可能となる。すなわち、これはコンピュータの遠隔操作をも可能とするということである。
【0039】
また、上述した情報表示システムにおいて、前記ポインティング装置は、前記ポインティング操作参加手段に加えて、ある所定範囲を撮影してその所定範囲に対応する撮影画像情報を出力可能な撮影手段を有し、前記情報処理装置は、前記ポインティング操作受付手段に加えて、このポインティング操作受付手段で認証可とされたポインティング装置の撮影手段による撮影位置と撮影角度の少なくとも一方を変化させあるいは変化させること無く複数回撮影することによって得られる現時点でのフレームよりも時間的に前のフレームの撮影画像情報を記憶する撮影画像情報記憶手段と、この撮影画像情報記憶手段に記憶された撮影画像と前記ポインティング装置の撮影手段から得られた現時点でのフレームの撮影画像情報とを比較して、その比較結果から指示座標移動ベクトルを算出する指示座標移動ベクトル算出手段と、表示すべき画像に対応する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、その表示画像上において現時点で表示されているあるポインティング装置のポインタマークを、前記指示座標移動ベクトル算出手段で算出された前記指示座標移動ベクトルに対応する分だけ離れた位置で当該表示画像に合成して表示する表示画像生成手段とを有する構成とすることも可能である。
【0040】
これは、ポインティング装置による指示位置を相対座標として取得可能とする情報表示システムにおいて、指示座標移動ベクトル算出を情報処理装置側で行うようにしたものであり、このように、指示座標移動ベクトル算出を情報処理装置側で行う利点は、ポインティング装置では、撮影画像情報を単に情報処理装置に送信するだけであり、ポインティング装置での演算量を少なくすることができる。また、ポインティング装置側に、指示座標移動ベクトルを算出するのに必要なハードウエアやソフトウエアを搭載する必要がない。したがって、ポインティング装置として、一般的な携帯情報機器を用いることができる。また、ポインティング装置よりも情報処理装置の方が一般的に処理能力が高いので、より高速に指示座標移動ベクトル算出処理が行え、高精度な指示座標移動ベクトルの算出が可能となる。
【0041】
このように、ポインティング装置による指示位置を相対座標として取得可能とする情報表示システムにおいて、指示座標の特定処理を情報処理装置側で行う場合においては、情報処理装置のポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記指示座標移動ベクトルを算出する指示座標移動ベクトル算出処理と、この指示座標移動ベクトル算出処理で算出された指示座標移動ベクトルに基づいて得られる座標上で前記ポインタマークを前記表示画像に合成して表示する表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることが好ましい。
【0042】
これにより、処理能力の高い情報処理装置側で指示座標位置の特定が行うことができ、高速でかつ高精度な座標特定処理が可能となる。また、このポインティングタスクにはコマンドを実行するコマンド処理が含まれるので、ポインティング装置によって表示画像上の任意の位置を指示したあと、その指示位置に文字を入力させたり、表示内容を修正したりすることも可能となり、単に、ポインティング位置を指示するだけでなく、表示内容の編集・修正操作も可能となる。すなわち、これはコンピュータの遠隔操作をも可能とするということである。
【0043】
また、本発明の情報表示システムにおけるポインティング装置制御方法は、情報処理装置と、この情報処理装置に保持された情報を表示画面上に表示可能な情報表示装置と、この情報表示装置によって表示された表示画像上の任意の位置を指示する複数のポインティング装置とを有する情報表示システムにおけるポインティング装置制御方法であって、前記複数のポインティング装置は、個々のポインティング装置において、自身を前記情報処理装置に登録するための処理を行うステップをその処理手順に含み、前記情報処理装置は、前記ポインティング装置のポインティング操作参加手段からの情報に基づいて当該ポインティング装置の認証可否を判定して認証可と判定した場合に当該ポインティング装置を登録する処理をその処理手順に含むことを特徴としている。
【0044】
このように、複数のポインティング装置で同じ表示画面上をポインティング操作可能とする情報表示システムとする際、複数のポインティング装置では情報処理装置側に対し自身を登録するための処理を行い、情報処理装置側では個々のポインティング装置に対して認証可否判定を行った上で認証可とされたポインティング装置のみを登録するようにしているので、部外者などが勝手にポインティングするというような不正なポインティング操作を未然に防止することができる。これによって、会議やプレゼンテーションなどを行う場での不正や混乱を防止することができ、会議やプレゼンテーションを円滑に進行させることができる。
【0045】
なお、この情報表示システムにおけるポインティング装置制御方法において、前記認証可とされたポインティング装置に対し、当該ポインティング装置固有の識別情報を発行することが好ましい。
【0046】
また、この情報表示システムにおけるポインティング装置制御方法において、前記認証可とされたポインティング装置に対し、個々のポインティング装置ごとに異なるポインタマークを割り当てるポインタマーク割り当て処理を行うことが好ましい。
【0047】
また、この情報表示システムにおけるポインティング装置制御方法において、上述の各情報表示システムにおいて、前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置ごとにそのポインティング装置が行うポインティング操作実行用のポインティングタスクを生成することが好ましい。
【0048】
また、この情報表示システムにおけるポインティング装置制御方法において、前記複数のポインティング装置が指示した座標位置が重複する場合、予め設定された規則に基づく優先度を設定し、その複数のポインティング装置から発せられるそれぞれのポインタマークのうちの優先度の最も高いポインタマークのみを当該座標位置で表示させることが好ましい。
【0049】
【発明の実施の形態】
以下、本発明の実施形態について説明する。この実施形態では、情報表示装置としてはプロジェクタおよび壁面ないしスクリーンを用いるものとし、このプロジェクタを情報処理装置としてのパーソナルコンピュータ(以下ではPCという)に接続して、当該PC上のデータをプロジェクタによって壁面やスクリーン上に投影し、その投影された画像に対して複数のポインティング装置で任意の位置を指定し、その指定された位置の座標情報を取得してその座標上にポインタマークを表示する例について説明する。
【0050】
また、ポインティング装置としては、画像を撮影する撮影機能とそれによって得られた画像情報をネットワークやPCに送信可能な通信機能を有する携帯用情報端末機器(たとえば、カメラ付き携帯電話機、通信機能を有したディジタルスチルカメラ、通信機能を有したディジタルビデオカメラなど)を用いるものとする。また、本発明では、プロジェクタによって投影された表示画像上の任意の位置を複数のポインティング装置で指示できるものとしているが、この実施形態では、説明をわかり易くするため、ポインティング装置は特別な場合を除いて2つである場合について説明する。
【0051】
なお、本発明は、指示位置を絶対座標として取得することも可能であり、また、相対座標として取得することも可能であるので、指示位置を絶対座標として取得する例を実施形態1、指示位置を相対座標として取得する例を実施形態2として説明する。
【0052】
〔実施形態1〕
図1はこの実施形態1を説明するに必要な構成要素を示す図であり、その構成要素を大きく分けると、情報処理装置としてのPC1、このPC1から出力される情報を表示する情報表示装置2、この情報表示装置2で表示された画像上の任意の位置を指示する2つのポインティング装置3a,3bからなる。
【0053】
なお、ポインティング装置3a,3bとしては、上述したように、撮影機能と通信機能を有した携帯用情報端末(通信機能を有したディジタルスチルカメラ、カメラ付き携帯電話機、通信機能を有したディジタルビデオカメラなど)を用いるものとするが、この実施形態では、ポインティング装置3aは通信機能を有したディジタルスチルカメラ、ポインティング装置3bはカメラ付き携帯電話機であるとして説明する。
【0054】
PC1は、表示すべき画像の画像情報を記憶する表示画像情報記憶手段11、現時点において表示すべき画像情報を生成するとともにポインタマークを表示画像上の指示された座標位置に合成する機能を有する表示画像情報生成手段12、ポインティング装置3a,3bで指示された座標(ポインタマークを表示したりコマンドを入力したりする座標)を特定する指示座標特定手段13、ポインティング装置3a,3bの認証可否を判定して認証可と判定した場合に当該ポインティング装置を登録する処理をその処理機能の1つとして行うポインティング操作受付手段15を有している。
【0055】
このポインティング操作受付手段15は、ポインティング装置3a,3bに対してこれらポインティング装置3a,3bがその会議やプレゼンテーションなどで使用されるポインティング装置として正当なポインティング装置であるか否かを判定する認証判定機能と、正当なポインティング装置であると判定された場合は、そのポインティング装置を認証されたポインティング装置とし、識別情報としてのIDを発行する機能と、その認証されたポインティング装置に対してポインタマークの割り当て(これについての詳細は後述する)を行う機能と、認証されたポインティング装置ごとにそのポインティング装置が行うポインティング操作を実行するためのポインティングタスク(これについての詳細は後述する)を生成する機能と、ポインティング装置からのポインティング操作情報を受け取り、IDに基づいてどのポインティング装置からの操作指示であるかを判定する機能とを有している。
【0056】
また、情報表示装置2は、画像情報を投影するプロジェクタ21と、画像情報が投影されるスクリーン22から構成されている。
【0057】
また、ポインティング装置3a,3bは、ファインダやディスプレイ画面などの視準手段31、この視準手段31で設定された所定範囲の画像を撮影する撮影手段32、PC1への登録や登録完了後にPC1から与えられたIDをポインティング操作情報に付加してPC1に出力する機能を有するポインティング操作参加手段36を有している。
【0058】
これらポインティング装置3a,3bからPC1に対して送信される情報は、無線LAN、赤外線通信、電話回線などを利用したネットワークなど何らかの通信手段によって送信できるようになっている。
【0059】
このような構成において、ポインティング装置3a,3bで指示した位置にそれぞれのポインタマークを表示させる具体的な処理手順について説明する。まずは、図2を参照しながら、本発明の全体の処理手順を説明する。なお、この処理は複数のポインティング装置(この場合、ポインティング装置3a,3b)で共通の処理であり、個々のポインティング装置3a,3bのポインティング操作参加手段36とPC1のポインティング操作受付手段15との間で行われる。
【0060】
ポインティング装置3a,3bのそれぞれのポインティング操作参加手段36は、まず、認証およびID発行要求を送信する(ステップS1)。このとき、ポインティング操作受付手段15が認証のためのパスワードを必要とする場合は、必要に応じて、そのパスワード情報を認証およびID発行要求に加えて送信するようにしてもよい。
【0061】
この認証およびID発行要求がポインティング装置3a,3bからPC1側に送信されると、PC1では、個々のポインティング装置3a,3bに対する認証可否判断を何らかの基準に基づいて行う(ステップS2)。この認証可否の判断は、人間が行ってもよいし、パスワード合否などの判断基準を予め設定しておき、ポインティング操作受付手段15がその判断基準を参照することで、自動的に判断するようにしてもよい。
【0062】
そして、その認証可否判断の結果、不可であれば、認証不可を示す通知を発行してそれを該当するポインティング装置に送信する(ステップS3)。この認証不可通知を受け取ったポインティング装置のユーザは、認証およびID要求を再試行するか否かを判断し(ステップS4)、再試行する場合は、認証不可となった原因などを調べて、原因がわかればそれを修正した上で、ステップS1に戻って、認証およびID要求を送信する。なお、再試行しない場合は、それ以降の処理の実行を行わないようにする。認証不可となって再試行を行わない場合は、そのポインティング装置からのそれ以上の操作指示要求は、PC1側では受け付けないようにする。
【0063】
一方、上述のステップS2における認証可否判断の結果、認証可であると判定された場合は、その認証可とされたポインティング装置を特定するための固有な識別情報であるIDを生成して、そのIDを認証可通知とともに、該当するポインティング装置に送信する(ステップS5)。
【0064】
このようにして、PC1側からIDが認証可通知とともに該当するポインティング装置に送られてくると(ここでは、ポインティング装置3a,3bはともにそれぞれのIDと認証通知が送られてきたものとする)、これらポインティング装置3a,3bでは、送られてきたIDを取得する(ステップS6)。
【0065】
以上、ステップS1からステップS6までの処理は、ポインティング装置3a,3bが適正であるか否かを判定する認証処理であり、この認証処理の終了した(認証可とされてIDの発行された)ポインティング装置3a,3bを認証済みポインティング装置と呼ぶ。このような認証処理が終了すると、今度は、その認証済みのポインティング装置3a,3bとPC1との間でポインタマーク割り当て処理を行う(ステップS7)。
【0066】
このポインタマーク割り当て処理は、認証済みのポインティング装置3a,3bに対して、ポインティング装置3a,3bごとに異なるポインタマークを割り当てるもので、これについては後に詳細に説明する。
【0067】
このポインタマーク割り当て処理が終了すると、個々のポインティング装置3a,3bによるポインティング操作の実行を可能とするためのポインティングタスクを、発行したIDごと(認証済みポインティング装置ごと)に生成し(ステップS8)、これによって、そのポインティング装置3a,3bはPC1への登録が完了する(ステップS9)。なお、ステップS8にて生成されるポインティングタスクについては後に説明する。
【0068】
以上のようにして、ポインティング装置3a,3bのPC1への登録が完了すると、これらポインティング装置3a,3bからはポインティング操作(所定位置をポインティングする操作だけでなくコマンド入力などの操作を含む)が可能となる。
【0069】
これによって、ポインティング装置3a,3bでポインティング操作を行うと(ステップS10)、取得したIDがその操作指示情報に付加されて(ステップS11)、PC1に送信され、PC1では送られてきたIDを確認し(ステップS12)、そのIDが適正であれば、そのIDに対応して生成されたポインティングタスクを実行する(ステップS13)。また、IDを確認した結果、適正でないと判定された場合は、ポインティングタスクの実行は行わない(ステップS14)。
【0070】
なお、上述の説明では、ポインティング装置は2つ(ポインティング装置3a,3b)として説明したが、ポインティング装置は3個以上であってもよいことは勿論であり、その場合、個々のポインティング装置について図2で示したと同様の処理を行えばよい。
【0071】
次に、図2のステップS7で示したポインタマークの割り当て処理について、図3、図4、図5を参照しながら説明する。このポインタマークの割り当て処理は、認証済みポインティング装置(この場合、ポインティング装置3a,3b)に対してPC1のポインティング操作受付手段15が行うもので、会議やプレゼンテーションなどに用いられる複数のポインティング装置に対してそれぞれ異なったポインタマークが割り当てられる。
【0072】
そのポインタマークの割り当ての仕方として、ここでは、3つの割り当て方法を例にとって説明し、図3の割り当て方法を第1のポインタマーク割り当て方法、図4の割り当て方法を第2のポインタマーク割り当て方法、図5の割り当て方法を第3のポインタマーク割り当て方法とする。なお、ここでも、ポインティング装置はポインティング装置3a,3bの2つであるとして説明する。
【0073】
まず、第1のポインタマーク割り当て方法について図3を参照しながら説明する。PC1側には、割り当て可能なポインタマークとして、たとえば、この図3に示すような複数種類のポインタマーク(説明の都合上、これらポインタマークに対して図示の上から順にM1,M2,M3,・・・という符号を付す)を記憶手段(たとえば表示画像情報記憶手段11)が保持している。
【0074】
そして、図2で説明した認証処理が終了したあと、認証済みポインティング装置3a,3bに対して、PC1側で設定された対応付け規則(たとえば、認証処理の終了順にポインタマークM1から順に割り当てるなど)に基づいて、すでに発行したID(発行済みID)に各ポインタマークM1,M2,・・・を割り当てることで、ID/ポインタマーク対応テーブルを作成する。そのID/ポインタマーク対応テーブルの内容は、たとえば、図3で示すように、ポインタマークM1に対しては発行済みID「○×○×」、ポインタマークM2に対しては発行済みID「×××△」というように、それぞれのポインタマークM1,M2,M3,・・・と発行済みIDとの対応付けがなされたものとなっている。
【0075】
このように、それぞれの発行済みIDに対するポインタマークM1,M2,M3,・・・の割り当てを終了すると、それぞれのポインティング装置3a,3bに対し、その割り当て結果を割り当て通知として送信する。
【0076】
ポインティング装置3a,3bでは、それぞれポインティング操作参加手段36が、PC1からの割り当て通知を受け取ると、その割り当てられたポインタマークを自分の視準手段31に表示させる。たとえば、この図3の例では、ポインティング装置3aは、取得したIDが「○×○×」であって、ポインタマークM1が割り当てられ、ポインティング装置3bは、取得したIDが「×××△」であって、ポインタマークM2が割り当てられているので、ポインティング装置3aの視準手段31には、ポインタマークM1の画像が表示され、ポインティング装置3bの視準手段31には、ポインタマークM2の画像が表示される。
【0077】
このポインティング装置の視準手段31で、そのポインティング装置に割り当てられたポインタマークを表示させる処理は、必須要件ではないが、これを行うことによって、そのポインティング装置3a,3bを使用するそれぞれのユーザは、自分の使用するポインティング装置にはどのようなポインタマークが割り当てられたかを容易に確認することができるので便利である。
【0078】
この第1のポインタマーク割り当て方法は、PC1側であらかじめ決められた規則に基づき、認証済みポインティング装置に対して機械的にポインタマークを割り当て、それをそれぞれのポインティング装置に通知する処理を行えばよいので、ポインティング装置を使用するそれぞれのユーザが好みのポインタマークを選ぶことはできないものの、PC1と各ポインティング装置3a,3bとの間でのポインタマーク割り当て処理に必要な通信データ量を最小限にとどめることができ、ポインタマーク割り当て処理の負荷を非常に軽くすることができるのが利点である。
【0079】
次に、第2のポインタマーク割り当て方法について図4を参照しながら説明する。この第2のポインタマーク割り当て方法においても、PC1側には、割り当て可能なポインタマークとして、たとえば、図3で示したと同様の複数種類のポインタマークM1,M2,M3,・・・を記憶手段(たとえば表示画像情報記憶手段11)が保持している。そして、この第2のポインタマーク割り当て方法は、これら各ポインタマークM1,M2,M3,・・・に対して、それぞれ固有のポインタマーク識別符号(この図4の例では、「001」、「002」、・・・など)が付されている。
【0080】
そして、このような様々なポインタマークがあることを認証済みポインティング装置(この例ではポインティング装置3a,3b)に対し通知し、ポインティング装置3a,3b側では、その中からいずれかのポインタマークを選択する。
【0081】
なお、複数種類のポインタマークがあることを個々のポインティング装置3a,3bに通知し、その中からそれぞれのユーザが選択する方法としては、PC1側が複数のポインタマークの全てまたはその中から幾つかを選んで、それを個々のポインティング装置3a,3bに送信し、ポインティング装置3a,3b側では、送信されてきたポインタマークを自身の視準手段31に表示させて、そのポインティング装置3a,3bを使用するそれぞれのユーザがその中から自分の好みのポインタマークを選ぶ(上述したポインタマーク識別符号を指定する)といった方法や、スクリーン22上に複数種類のポインタマークを表示させておき、その中からそれぞれのユーザが選択する(上述したポインタマーク識別符号を指定する)といった方法がある。
【0082】
このようにして、それぞれのポインティング装置3a,3b側で、そのポインティング装置3a,3bを使用するそれぞれのユーザが自分の好みのポインタマークを選択し、そのポインタマーク選択情報をPC1側に送信すると、PC1では、それぞれのポインティング装置3a,3bからのポインタマーク選択情報に基づいて、そのポインタマークの使用が可能であるか否かの判定(すでに他のポインティング装置で使用されているか否かの判定など)を行い、使用が可能であれば、それぞれのポインティング装置3a,3bにポインタマーク割り当て通知を発行するとともに、ポインタマークの識別符号と発行済みのID(個々のポインティング装置に与えられたID情報)とを対応付けたID/ポインタマーク識別符号対応テーブルを作成する。
【0083】
この図4の例では、識別符号「001」のポインタマークM1は「○×○×」のID(ポインティング装置3aが取得したID)に対応付けられ、識別符号「002」のポインタマークM2は「×××△」のID(ポインティング装置3bが取得したID)に対応付けられた例が示されている。
【0084】
このようにして、認証済みの個々のポインティング装置にポインタマークが割り当てられると、その割り当て結果がそれぞれのポインティング装置の視準手段31に表示される。この図4の例では、ポインティング装置3aの視準手段31には、ポインタマークM1の識別符号「001」が表示され、ポインティング装置3bの視準手段31には、ポインタマークM2の識別符号「002」が表示された例が示されている。なお、このとき、それぞれの視準手段31には、識別符号とともにそれに対応するポインタマークの画像を表示させるようにしてもよい。
【0085】
この第2のポインタマーク割り当て方法は、PC1側と各ポインティング装置3a,3bとの間でのポインタマーク割り当て処理に必要な通信データ量は、上述の第1のポインタマーク割り当て方法に比べるとやや増えるが、各ポインティング装置3a,3bにおいて、それを使用するユーザがポインタマークを限られた範囲ではあるが選択することができるという利点がある。
【0086】
次に、第3のポインタマーク割り当て方法について図5を参照しながら説明する。この第3のポインタマーク割り当て方法は、それぞれのポインティング装置側で1個以上のポインタマークをそれぞれのポインティング装置が持つ記憶手段(図5ではポインタマーク記憶手段37としている)に保持しておき、その中からそのポインティング装置を使用するユーザが好みのポインタマークを選択し、選択したポインタマークに対応するポインタマーク画像に当該ポインティング装置のIDを付加したものをポインタマーク登録情報としてPC1側に送信するものである。
【0087】
このとき、そのポインタマーク記憶手段37から読み出したポインタマークは、視準手段31に表示させ、それをユーザが確認した後にPC1側に送信することが好ましい。
【0088】
PC1側では、それぞれのポインティング装置3a,3bから送られてきたポインタマークを自身の記憶手段(表示画像情報記憶手段11など)に記憶し、そのポインタマークの使用が可能であるか否かの判定(すでに他のポインティング装置で使用されているか否かの判定など)を行い、使用が可能であれば、それぞれのポインティング装置3a,3bにポインタマーク割り当て通知を発行するとともに、そのポインタマークと当該ポインティング装置のIDとを対応付けしたID/ポインタマーク対応テーブルを作成する。
【0089】
この図5のID/ポインタマーク対応テーブルでは、ポインタマークM1は「○×○×」のID(ポインティング装置3aに対して発行した発行済みID)に対応つけられ、ポインタマークM2は「×××△」のID(ポインティング装置3bに対して発行した発行済みID)に対応付けられた例が示されている。
【0090】
この第3のポインタマーク割り当て方法は、各ポインティング装置3a,3bを使用するユーザが独自のポインタマークを種々用意しておき、その中から好みのポインタマークを選択できることが大きな特徴である。
【0091】
以上、図2で説明した本発明の全体的な処理のステップS9までの処理について詳述した。次に、図2におけるステップ10以降の処理、すなわち、複数のポインティング装置(ここではポインティング装置3a,3b)を用いての、スクリーン22上に表示された表示画像のポインティング操作について詳細に説明する。
【0092】
PC1の表示画像情報記憶手段11に記憶されている表示画像情報は、このPC1を操作する操作者の操作によって読み出され、読み出された表示画像情報は表示画像情報生成手段12によって、プロジェクタ21で表示処理が可能となるような表示画像情報生成処理がなされたのち、プロジェクタ21に送られ、プロジェクタ21によってスクリーン22(図6参照)などに投影される。
【0093】
図6はプロジェクタ21によってスクリーン22に投影された表示画像23上の任意の位置を2つのポインティング装置3a,3b(この図6の例において、ポインティング装置3aは通信機能付きのディジタルスチルカメラ(以下では単にディジタルカメラという)、ポインティング装置3bはカメラ付き携帯電話機(以下では単に携帯電話機という)で指示する例を示すものである。
【0094】
この図6からもわかるように、ポインティング装置3aでは、スクリーン22上に投影された表示画像23上の任意の位置Pa(図中、白丸で示されている)を含むように撮影する。また、ポインティング装置3bでは、スクリーン22上に投影された表示画像23上の任意の位置Pb(図中、白丸で示されている)を含むように撮影する。
【0095】
これら任意の位置Pa,Pbは、スクリーン22に投影された表示画像23上においてポインタマークM1,M2を表示しようとする位置であり、以下、これを指示位置Pa,Pbという。
【0096】
そして、ポインティング装置3aの視準手段31(ディジタルカメラのディスプレイ画面)で設定される撮影可能範囲の中央部に指示位置Paが位置するようにして撮影する。なお、表示画像23上に示されている破線枠Aaはこのポインティング装置3aの視準手段31で設定される撮影可能範囲(一般にはディスプレイ画面の表示範囲)であり、この破線枠Aaで囲まれた範囲が1回の撮影で撮影可能な範囲となる。同様に、ポインティング装置3bの視準手段31(携帯電話機のディスプレイ画面)で設定される撮影可能範囲の中央部に指示位置Pbが位置するようにして撮影する。なお、表示画像23上に示されている破線枠Abはこのポインティング装置3bの視準手段31で設定される撮影可能範囲であり、この破線枠Abで囲まれた範囲が1回の撮影で撮影可能な範囲となる。
【0097】
このようにして、ポインティング装置3aやポインティング装置3bを用いて、指示位置Pa,Pbをその視準手段31すなわち撮影可能範囲Aa,Abの中央部に位置させた状態で撮影を行うと、それぞれの撮影画像情報はポインティング操作参加手段36に渡され、ポインティング操作参加手段36では、自身に付与されたID情報をそれぞれの撮影画像情報に付加し、そのID情報の付加された撮影画像情報を通信手段を介してPC1に送信する。
【0098】
なお、この図6においては、ポインティング装置3aは、接続ケーブル6を用いUSBやIEEE1394などのインタフェースによってPC1に情報伝送する例が示され、ポインティング装置3bは、基地局4からインタネット5を介してPC1に情報伝送する例が示されている。
【0099】
図7はポインティング装置3a,3b側の上述したポインティング操作処理を説明するフローチャートであるが、この処理はポインティング装置3a,3bで共通であるので、ここでは、ポインティング装置3aを例にとって説明する。
【0100】
まず、視準手段31で設定される撮影可能範囲Aaの中央部に指示位置Paが位置するようにして撮影し(ステップS21)、撮影画像情報を取得し(ステップS22)、その撮影画像情報に自身のIDを付加して(ステップS23)、PC1に送信する(ステップS24)。
【0101】
なお、この図7におけるステップS21,S22の処理は、ポインティング位置を指示して、その指示座標位置を特定するための撮影画像情報を取得する操作であるが、ポインティング操作としては、これだけではなく、その指示座標位置におけるコマンド入力のための操作がある。
【0102】
このコマンド入力操作は、まず、ユーザがコマンド入力を行い(ステップS25)、そのコマンドがコマンド情報として取得される(ステップS26)。そして、取得されたコマンドに対して、自身に付与されたIDを付加(ステップS23)したのちに、PC1への送信を行う(ステップS24)。このコマンド入力操作については後に説明する。
【0103】
一方、PC1では図8に示すように、IDの付加された撮影画像情報(またはコマンド入力情報)をポインティング操作受付手段15で受信すると(ステップS30)、ポインティング装置を特定するためにIDを抽出し(ステップS31)、そのポインティング装置が認証済みのポインティング装置であるか否かを判定する認証確認を行う(ステップS32)。この認証確認の結果、認証不可であるとの判定がなされた場合には、それ以降の操作指示は受け付けないようにするが、認証可であるとの判定がなされると、ステップS31で抽出されたIDに対応するポインティングタスクに処理が移る。なお、同図では特に明記していないが、ステップS32はそれぞれのIDに対応するポインティングタスクに処理を移すためのIDスイッチとしての役割も兼ねている。このように、ポインティングタスクは、個々のポインティング装置ごとに生成・実行されるもので、個々のポインティング装置に付与されたIDによって管理される。
【0104】
このポインティングタスクの処理手順は、図8からもわかるように、まず、受信した情報が撮影画像情報/コマンドであるかを調べ(ステップS33)、撮影画像情報である場合には、撮影画像情報の取得を行い(ステップS34)、その取得した撮影画像情報を用いて指示座標特定手段13が指示座標特定処理を行う(ステップS35)。この指示座標特定処理によって指示座標が特定されると、表示画像情報生成手段12は、その特定された指示座標を取得し(ステップS36)、現在表示されている表示画像の指示座標(ステップS36で取得された指示座標)上にそのポインティング装置3aに割り当てられたポインタマークM1を表示させる表示画像情報生成処理を行う(ステップS37)。
【0105】
また、上述のステップS33において、受信した情報がコマンドである場合には、そのコマンドを取得し(ステップS38)、当該コマンドに対するコマンド処理を行って(ステップS39)、その処理結果を表示画像上のその時点におけるポインタマーク指示座標位置に反映させる(ステップS40)。
【0106】
なお、指示座標の特定とコマンド入力をほぼ同時に行うことも可能であり、その場合は、撮影画像情報とコマンドを取得して、撮影画像情報を用いた指示座標特定処理を行って、現在表示中の表示画像上におけるその特定された指示座標にポインタマークを合成して表示させる処理を行う(ステップS34〜S37)。一方、取得されたコマンドについてはコマンド処理を行い、その処理結果をステップS37で生成された表示画像上のポインタマーク指示座標位置に反映させる処理を行う(ステップS38〜S40)。
【0107】
図9は図8のステップS35の処理、すなわち、PC1の指示座標特定手段13が行う指示座標特定処理手順を示すもので、ポインティング装置(ポインティング装置3aとする)から送信された撮影画像情報を取得すると(ステップS41)、まず、歪や明るさなど各種の補正処理、さらに、拡大/縮小など各種の前処理を行い(ステップS42)、その前処理された撮影画像情報からテンプレート画像情報を生成する(ステップS43)。このテンプレート画像情報は、ステップS42で行われる前処理によって表示画像情報とのマッチングを調べるのに適した解像度となっている。
【0108】
そして、そのテンプレート画像情報がスクリーン22上に表示されている表示画像23全体の内のどの部分に対応するのかを判定するためには、そのテンプレート画像情報と、表示画像情報記憶手段11に記憶されている表示画像情報のうちの撮影時点で表示された表示画像に対応する表示画像情報とを用いてテンプレートマッチングなどの画像認識処理を行えばよい。(ステップS44)。
【0109】
そして、テンプレート画像情報が撮影時点で表示された表示画像に対応する表示画像情報のどの部分に対応するのかが判定されると、その判定された部分の中央部が指示位置Paであるとしてその指示位置Paに対応する座標を指示座標として抽出する(ステップS45)。
【0110】
このようにして、指示座標特定手段13によって指示位置Paに対応する指示座標が得られると、その指示座標上にポインタマークM1を合成して表示する(図6参照)。これによって、スクリーン22上に投影された表示画像23上の指示位置PaにはPC1上で生成されたポインタマークM1が表示される。
【0111】
なお、上述の処理手順において、そのテンプレート画像情報と表示画像情報記憶手段11に記憶されている表示画像情報のうち、現時点で表示されている表示画像に対応する表示画像情報とのパターンマッチングを行う際、撮影画像に他のポインティング装置のポインタマークが入ってしまう場合がある。
【0112】
これは、たとえば、ポインティング装置3aによって、ある指示位置を含む範囲を撮影しようとするとき、ポインティング装置3bのポインタマークM2がその撮影領域内に存在するような場合であり、このような場合、撮影画像(ポインタマークM1が含まれる)と表示画像情報記憶手段11に記憶されている表示画像情報のうちの現時点で表示されている表示画像に対応する表示画像情報とのパターンマッチングを行っても、指示座標特定がうまくいかない可能性がある。
【0113】
そこで、ポインティング装置3a,3bによって、ある画像領域を撮影する際、そのポインティング装置3a,3bからの撮影画像情報に撮影時のタイムスタンプ情報を付加してPC1に送信する。一方、PC1でも、撮影時と同一時刻の表示画像情報を、タイムスタンプ情報を付加して保存しておく。そして、同時刻のタイムスタンプ情報の付加された両者の画像を用いてパターンマッチングを行う。
【0114】
これによって、たとえば、ポインティング装置3aによって、ある表示領域を撮影した際、その領域内に他のポインティング装置3bのポインタマークM2が存在していても、PC1で保存されている同時刻の表示画像情報は、ポインタマークM2の合成されている表示画像情報であるので、両者ともに同じ位置にポインタマークM2が存在するため、適正なパターンマッチングを行うことができる。
【0115】
図10は図8のステップS37の処理、すなわち、スクリーン22上に投影されている表示画像23上の指示位置にポインタマークを表示させる処理手順を説明するフローチャートであり、上述の図9に示す処理によって、たとえば、ポインティング装置3aのポインティング操作に対応した指示座標が特定されると、その指示座標を取得し(ステップS51)、そのポインティング装置3aに割り当てられたポインタマークM1に対応するポインタマーク画像情報を読み出す(ステップS52)。
【0116】
このポインタマーク画像情報の読み出しは、たとえば、図3のポインタマーク割り当て方法によってポインタマークの割り当てがなされているとすれば、この図3に示すID/ポインタマーク対応テーブルを参照することによって、対応するポインタマーク画像情報の読み出しを行う。なお、このポインタマーク画像情報はたとえば、表示画像情報記憶手段11に保持されている。
【0117】
そして、その読み出されたポインタマーク画像情報が、現時点での表示画像に対応する表示画像情報の所定座標(図9によって特定された指示座標)に合成され(ステップS53)、その指示座標にポインタマークの付加された表示画像情報が生成される(ステップS54)。
【0118】
これによって、たとえば、図6で示すように、スクリーン22上に投影されている表示画像23には、この場合、ポインティング装置3aで指示した指示位置PaにポインタマークM1が表示される。
【0119】
以上は主にポインティング装置3aによる指示座標位置特定動作についての説明であるが、ポインティング装置3bによる指示座標特定動作もポインティング装置3bの視準手段(ディジタルカメラのディスプレイ画面)で設定される撮影可能範囲の中央部に指示位置Pbが位置するようにして撮影するだけで、あとは、ポインティング装置3aの場合と同様の処理によって、その指示位置Pbには、このポインティング装置3bに割り当てられたポインタマークM2を表示させることができる。
【0120】
このように、スクリーン22上に投影されている表示画像23上のある位置を指示したい場合、複数のポインティング装置(この実施形態では、ポインティング装置3a,3b)で指示したい位置(指示位置Pa,Pb)がそれぞれのポインティング装置3a,3bの視準手段(ディスプレイ画面)31の中心に位置するようにして、その部分の画像を撮影するだけで、表示画像の指示位置Pa,Pbに、ポインティング装置3aに割り当てられたポインタマークM1とポインティング装置3bに割り当てられたポインタマークM2を表示させることができる。
【0121】
また、複数のポインティング装置3a,3bによって指示されることによって得られた座標位置で、PC1に対して何らかのコマンドを与えると、PC1ではそのコマンドに対応した処理を行って、その結果を当該座標位置上で反映させることもできる。以下、このコマンド入力操作とその結果を反映させる処理について説明する。
【0122】
図11はこのコマンド入力操作とその結果を反映させる処理を実現するための構成図であり、図1で示した構成図に対して、ポインティング装置3a,3bにはそれぞれコマンド入力手段35が設けられ、PC1にはコマンド処理手段14が設けられている点が異なるだけで、それ以外の構成要素は図1と同様であるので、同一部分には同一符号を付すことによって、それらの説明は省略する。
【0123】
コマンド処理手段14は、ポインティング装置3a,3bから与えられコマンドに対応した処理を実行するものである。
【0124】
図12はスクリーン22上に投影された表示画像23のあるポインティング位置(ここでは、ポインティング装置3bによって指示された指示座標位置であるとする)にそのポインティング装置3bからコマンド入力を行って、そのコマンドに対する処理結果が反映された例を示すもので、この図12の例では、ポインティング装置3bからのコマンドは、基地局4からインタネット5などを介してPC1に送信される例が示されている。
【0125】
この例では、ポインティング装置3bから出力されたコマンドとしては、「Hello」という単語を、そのポインティング装置3bで指示した指示位置Pbに表示させるというものである。すなわち、前述したような手順によって、ポインタマークM2の指示座標を取得する処理を行い、その結果得られたポインタマークM2の指示座標上において、「Hello」という単語を表示させるコマンドを発生することで、PC1側ではそのコマンドを受け取り、その時点におけるポインタマークの指示座標上に「Hello」を表示させるというものである。
【0126】
このようなポインタマークM2の指示座標上でのコマンド実行処理は、ポインタマークM2の指示座標をPC1が把握できるために可能となるものである。
【0127】
図13は図12に対して他のコマンド入力例であり、この図13の場合は、数値をポインタマークの指示座標上で表示させる例を示すもので、この場合は、ポインティング装置3bからコマンドとしての数値入力を行うことで、PC1側ではたとえば表計算アプリケーションが働いてそのコマンドに対する処理を実行し、その処理結果が指定座標に表示される。
【0128】
なお、図12および図13ではポインティング装置3bからのコマンド入力操作について説明したが、ポインティング装置3aについても、コマンド入力手段を有していれば同様に実施することができる。
【0129】
以上説明したように、この実施形態1では、複数のポインティング装置(ここでは、ポインティング装置3a,3b)によって、スクリーン22に表示されている表示画像23上を同時にポインティング操作することが可能となるが、これを利用することによって、たとえば、図14に示すように、あるアプリケーションのあるプロセスが実行されているとき、複数のユーザの共同作業によるデータ編集などが可能となる。
【0130】
この図14の例では、3人のユーザがそれぞれポインティング装置を1つずつ用いて(これまでの説明で用いたポインティング装置3a、ポインティング装置3bの他に、図示されていないポインティング装置3cを用いるものとする)、データ編集を行う例であり、それぞれのポインティング装置3a,3b,3cに割り当てられたポインタマークM1,M2、M3が表示画像23上に表示され、その指示位置で、たとえば、データ入力やデータの移動などのデータ編集作業を共同で行う例である。
【0131】
この図14は、複数のポインティング装置で同じプロセスのデータ編集を共同で行う例であるが、複数のポインティング装置ごとにそれぞれが異なるアプリケーションを実行している場合やアプリケーション自体は同種であっても異なるプロセスを実行している場合がある。
【0132】
たとえば、図15のように、スクリーン22に表示されている表示画像23上で3つのアプリケーションA1,A2,A3の情報が表示領域W1,W2,W3に表示されていて、アプリケーションA1はポインティング装置3aによって指示操作され、アプリケーションA2はポインティング装置3bによって指示操作され、アプリケーションA3はポインティング装置3cによって指示操作されているとする。
【0133】
このような状況において、アプリケーションA1について操作指示しているポインティング装置3aのポインタマークM1が、自分の操作指示領域(表示領域W1)から外れて他のポインティング装置3b,3cの操作指示領域(表示領域W2,W3)に入って、その領域W2,W3を操作指示するそれぞれのユーザの意図しない操作(コマンド入力操作を含む)がなされるのは問題である。したがって、それぞれのポインティング装置3a,3b,3cの操作指示領域内に他のポインティング装置のポインタマークが入り込むことができないような排他制御を行うのが好ましい。
【0134】
その具体的な処理としては、たとえば、自分の操作指示領域外の表示領域をポインティングできないようにしたり、自分の操作指示領域からポインタマークが出ないようにするといったことが挙げられる。
【0135】
また、操作指示領域から外れた領域でのポインティング操作だけでなく、「電源を切る」などシステムに多大な影響を与える箇所でのコマンド実行操作も行えないようにすることが必要である。ただし、ルート権限を与えるような制度を設ければ、それが与えられたポインティング装置を使用するユーザのみが、そのようなコマンド実行を可能とするといったことはできるようにしておく。
【0136】
また、複数のポインティング装置(ここではポインティング装置3a,3b)で1つの表示画像23上をポインティング操作する際、複数のポインティング装置の指示位置が重複するような場合もある。たとえば、図6の例で説明すると、指示位置PbにあったポインタマークM2がポインタマークM1の指示位置Paまで移動したような場合などがあり、その場合、2つのポインティング装置3a,3bから発せられたそれぞれのポインタマークM1,M2が重複することになる。このように、異なるポインティング装置3a,3bに対応するそれぞれのポインタマークM1,M2が重複する場合は、重複するポインタマークの表示制御を行う必要がある。この複数のポインティング装置の指示位置が重複する場合のポインタマーク表示制御について以下に説明する。
【0137】
このポインタマーク表示制御は、基本的には、ポインタマークの重複を許す制御とポインタマークの重複を許さない制御がある。
【0138】
ポインタマークの重複を許す制御というのは、たとえば、当初からある座標位置を指示しているポインタマークに対し、他の座標位置にあるポインタマークが重複する座標位置に移動してきた場合、一方のポインタマークを他方のポインタマークに重ねて表示したり、どちらかのポインタマークを消去するといった制御である。
【0139】
また、ポインタマークの重複を許さない制御というのは、たとえば、一方のポインタマークの移動に伴って、その移動してきた一方のポインタマークが当初からその位置にある他方のポインタマークを押しのけてその一方のポインタマークを当該座標位置に表示させたり、移動してくるポインタマークを当初からある座標位置を指示しているポインタマークの座標位置まで移動させることができないようにするといった制御である。
【0140】
これらポインタマークの重複を許す制御またはポインタマークの重複を許さない制御を行うに際して、それぞれのポインタマークに優先度を設定する。その優先度としては、▲1▼重複する座標位置に当初から存在するポインタマークの優先度を、その座標位置にまで移動してくるポインタマークよりも高くする、▲2▼重複する座標位置まで移動してくるポインタマークの優先度を、当初からその座標位置に存在するポインタマークよりも高くする、▲3▼複数のポインティング装置のポインタマークに対し始めから優先度を設定しておくというようなことが考えられる。
【0141】
図16(a)〜(d)はポインタマークの重複を許す制御またはポインタマークの重複を許さない制御の具体例を説明する図である。
【0142】
ポインタマークの重複を許す制御として、たとえば、図16(a)に示すように、当初からある座標位置を指示しているポインタマーク(このポインタマークは説明の都合上、図3〜図5で示したポインタマークのうちのポインタマークM6を用いるものとする)が存在するとし、そのポインタマークM6の座標位置にポインタマークM1が移動してきた場合において、上述の▲3▼が適用されたとする。ここで、ポインタマークM1がポインタマークM6よりも優先度が高く設定されているとすれば、この場合は、ポインタマークM1をポインタマークM6の上に重ねて表示したりポインタマークM6を消去したりするが、ここでは、図16(b)に示すように、優先度の低いポインタマークM6を消去してそのポインタマークM6の指示座標位置にポインタマークM1のみを表示する。
【0143】
なお、この例において、▲2▼が適用された場合は、重複する座標位置まで移動してくるポインタマークM1の優先度が、当初からその座標位置に存在するポインタマークM6よりも高いので、▲3▼が適用された場合と同様、図16(b)のような処理がなされるが、▲1▼が適用された場合は、重複する座標位置に当初から存在するポインタマークの優先度が、その座標位置にまで移動してくるポインタマークよりも高いので、ここでは図示しないが、ポインタマークM1が消去されるなどしてポインタマークM6のみがその座標位置に表示されることになる。
【0144】
また、ポインタマークの重複を許さない制御として、たとえば、図16(a)に示すように、当初からある座標位置を指示しているポインタマークM6に、ポインタマークM1が重複する座標位置に移動してきた場合において、上述の▲3▼が適用されたとする。ここで、ポインタマークM1がポインタマークM4よりも優先度が高く設定されているとすれば、この場合は、図16(c)に示すように、ポインタマークM1がポインタマークM6を矢印a方向へ押しのける制御がなされて、ポインタマークM6の当初の指示座標位置にポインタマークM1のみが表示される。
【0145】
なお、この例の場合、▲2▼が適用された場合は、重複する座標位置まで移動してくるポインタマークの優先度が、当初からその座標位置に存在するポインタマークよりも高いので、▲3▼が適用された場合と同様、図16(c)のような処理がなされるが、▲1▼が適用された場合は、重複する座標位置に当初から存在するポインタマークの優先度が、その座標位置にまで移動してくるポインタマークよりも高いので、たとえば、図16(d)に示すように、ポインタマークM1の移動がポインタマークM6の座標位置の手前で止められるような制御がなされ、ポインタマークM1は、ポインタマークM6の指示座標位置にまで到達することができない。
【0146】
以上説明したように、この実施形態1によれば、複数のポインティング装置を用いる場合、使用するポインティング装置ごとに、認証およびID情報の付加処理を行い、認証済みのポインティング装置のみがポインティング操作を可能としているので、不正なポインティング操作などの問題の発生を確実に防止できる。
【0147】
また、認証済みのポインティング装置ごとに異なったポインタマークが割り当てられるので、1つの表示画面上に多数のポインティング装置でポインティングしたとき、どのポインティング装置がどこを指示しているかが容易に確認できる。
【0148】
なお、この実施形態1では、ポインティング装置3aとしてはディジタルカメラ、ポインティング装置3bとしては携帯電話機を用いた例で説明したが、ポインティング装置としては、ディジタルスチルカメラや携帯電話機だけでなく、通信機能を有するディジタルビデオカメラなどでも同様に実施可能であることは勿論である。
【0149】
また、この実施形態1では、各種のポインタマークに対するポインタマーク画像情報は、PC1の表示画像情報記憶手段11に保持されている例で説明したが、このポインタマーク画像情報は他の場所(たとえば、ポインティング装置3a,3b側)に保持されていてもよく、その保持場所からポインタマーク画像情報を読み出して、それをPC1に転送するようにしてもよい。
【0150】
なお、この実施形態1では、指示座標特定手段13はPC1側に設けられ、PC1側で指示座標特定処理を行う例について説明したが、この指示座標特定手段13をポインティング装置3a,3b側に設けるようにして、ポインティング装置3a,3b側で指示座標特定処理を行うようにしてもよい。この場合、ポインティング装置3a,3bの指示座標特定手段13がPC1側の表示画像情報記憶手段11から現時点で表示されている表示画像を読み出して、表示画像に対する指示座標特定処理を行い、それによって特定された指示座標をPC1側(表示画像情報生成手段12)へ送るようにする。
【0151】
このように、指示座標特定処理はPC1側でなく、ポインティング装置3a,3b側で行うこともできる。なお、指示座標特定処理をポインティング装置3a,3b側で行う場合は、PC1のポインティング操作受付手段15で生成されるポインティングタスクにおける指示座標特定処理(図8のステップS35)は不要となる。したがって、この場合、図8のステップS36の指示座標取得は、ポインティング装置3a,3b側で行われた指示座標特定処理により得られた指示座標を取得することになる。
【0152】
なお、すでに述べたが、指示座標特定手段13をPC1側に設けてPC1側で指示座標特定処理を行う利点は、ポインティング装置3a,3bでは撮影画像情報を単にPC1に送信するだけであり、ポインティング装置3a,3bでの演算量を少なくすることができる。また、ポインティング装置3a,3b側に、指示座標特定に必要なハードウエアやソフトウエアを搭載する必要がない。したがって、ポインティング装置3a,3bとして、一般的な携帯情報機器を用いることができる。また、ポインティング装置3a,3bよりもPC1の方が一般的に処理能力が高いので、より高速に座標特定などの処理が行え、複雑な画像演算処理も容易かつ高速に行うことができ、高精度な座標特定が可能となる。
【0153】
一方、指示座標特定手段13をポインティング装置3a,3b側に設けて、ポインティング装置3a,3b側で指示座標特定処理を行う利点は、PC1側から見てポインティング装置3a,3bを単なるデバイスとしてみなすことができる。すなわち、そのデバイス(ポインティング装置3a,3b)に対して表示画像情報を送信しさえすれば、デバイスからは絶対座標情報が送信されてくるので、PC1側では特に複雑な処理を行う必要が無く、画像処理のための複雑なハードウエアやソフトウエアを搭載する必要がなくなり、かつ、PC1側の演算量を削減できる。
【0154】
〔実施形態2〕
この実施形態2は指示位置を相対座標として取得する例である。この実施形態2においても実施形態1と同様、画像表示装置であるプロジェクタ21をPC1に接続して、当該PC1上のデータをプロジェクタ21によってスクリーン22上に投影し、そのスクリーン22上に投影された表示画像23に対して、複数のポインティング装置で任意の位置を指定し、その指定された位置にそれぞれのポインティング装置に割り当てられたポインタマークを表示する例について説明する。
【0155】
図17はこの実施形態2を説明するに必要な構成要素を示す図であり、その構成要素を大きく分けると、実施形態1と同様に、PC1、このPC1に接続されたプロジェクタ21、プロジェクタ21で投影された表示画像上の任意の位置を指示する複数のポインティング装置(この実施形態2でもポインティング装置3a,3bとする)からなる。なお、ポインティング装置3aはこの実施形態2においてもディジタルカメラ、ポインティング装置3bは携帯電話機であるものとして説明する。
【0156】
この実施形態2においては、PC1は表示すべき画像の画像データを記憶する表示画像情報記憶手段11、現時点において表示すべき画像データを生成するともに、それぞれのポインティング装置3a,3bに割り当てられたポインタマークM1,M2を表示画像23上の指示された位置に合成する機能を有する表示画像情報生成手段12を有している。
【0157】
また、ポインティング装置3a,3bは、視準手段31と、この視準手段31で設定される撮影可能範囲の画像を撮影する撮影手段32と、指示座標移動ベクトルを算出する指示座標移動ベクトル算出手段33と、1フレーム分の撮影画像から得られた特徴画像を記憶するフレームバッファとしての撮影画像情報記憶手段34と、ポインティング操作参加手段36とを有している。なお、このポインティング装置3a,3bからの情報は、無線LAN、赤外線通信、電話回線を利用したネットワークなど何らかの通信手段によってPC1に送信可能となっている。
【0158】
この実施形態2では指示位置を相対座標として取得する方式であるので、ポインティング装置3a,3bを動かした移動方向・移動量(指示座標移動ベクトル)を取得できればよい。このため、ポインティング装置3a,3bはどこを撮影してもよく、たとえば、図18に示すようにスクリーン22に投影された表示画像23から外れた場所を撮影するようにしてもよい。
【0159】
次に、この実施形態2の具体的なポインティング操作について図19のフローチャートを参照しながら説明する。まず、ポインティング操作に先立ち、使用するポインティング装置の認証処理や認証されたポインティング装置に対してポインタマークの割り当てなどの一連の処理を行うが、この一連の処理は、前述の実施形態1の説明で用いた図2の処理手順に従って行えばよいので、ここでは、その説明は省略する。
【0160】
ここで、ポインティング装置3a,3bはともに認証可とされてID情報が付与されたものとし、また、それぞれのポインタマークとして、ポインティング装置3aにはポインタマークM1が割り当てられ、ポインティング装置3bにはポインタマークM2が割り当てられたとする。なお、このポインタマークの割り当てについても、実施形態1の説明で用いた図3、図4、図5のいずれかの方法によって行えるのでその説明は省略する。
【0161】
今、スクリーン22上にはPC1の表示画像情報記憶手段11に記憶されている表示画像情報のうちのある表示画像情報がプロジェクタ21に送られて、その表示画像23がスクリーン22上に投影されているものとする。
【0162】
この状態で、ポインティング装置3a,3bによるポインティング操作を行う。 まず、ポインティング装置3aの撮影機能を用いて任意の場所を撮影する(ステップS61)。なお、この撮影は図18に示すように表示画像の外側でもよく、この図18では、表示画像23の外側の破線枠Aa0を撮影しており、そのときのポインタマークM1は、表示画像23中のある位置Pa0を指示しているものとする。
【0163】
同様に、ポインティング装置3bの撮影機能を用いて任意の場所を撮影する。この場合も、図18に示すように表示画像の外側を撮影してもよい。この図18では、表示画像23の外側の破線枠Ab0を撮影しており、そのときのポインタマークM2は、表示画像23中のある位置Pb0を指示しているものとする。
【0164】
次に、ポインティング装置3a,3bで次のフレーム(図18の実線枠Aa1,Ab1)を撮影し、先に撮影した直前のフレームと比較することで、指示座標移動ベクトル算出手段33によって指示座標移動ベクトル算出処理を行う(ステップS62)。この指示座標移動ベクトルの算出には、動画符号化の一方式であるMPEGなどで用いられる動き補償予測の技術を応用することができる。
【0165】
そして、この指示座標移動ベクトル算出処理によって得られた指示座標移動ベクトルを取得し(ステップS63)、その指示座標移動ベクトルにIDを付加して(ステップS64)、PC1に送信する(ステップS65)。
【0166】
なお、この図19におけるステップS61,S62の処理は、指示座標移動ベクトルを算出するための処理であるが、ポインティング装置が行うポインティング操作としては、これだけではなく、実施形態1で説明したように、その指示座標位置におけるコマンド入力のための操作がある。このコマンド入力操作は、まず、ユーザがコマンド入力を行い(ステップS66)、そのコマンドがコマンド情報として取得される(ステップS67)。そして、このコマンドに対しても、自身に付与されたIDを付加(ステップS64)したのちに、PC1への送信を行う(ステップS65)。
【0167】
一方、PC1では、図20に示すように、ID情報の付加された指示座標移動ベクトル情報をポインティング操作受付手段15で受信すると(ステップS70)、ポインティング装置を特定するためにIDを抽出し(ステップS71)、認証済みのポインティング装置であるか否かを判定する認証確認を行う(ステップS72)。この認証確認の結果、認証不可であるとの判定がなされた場合には、それ以降の操作指示は受け付けないようにするが、認証可であるとの判定がなされると、ステップS71で抽出されたIDに対応するポインティングタスクが実行される。なお、図8においても説明したように、この場合も、ステップS72(図8ではステップS32)はそれぞれのIDに対応するポインティングタスクに処理を移すためのIDスイッチとしての役割も兼ねている。このように、ポインティングタスクは、個々のポインティング装置ごとに生成・実行されるもので、個々のポインティング装置に付与されたIDによって管理される。
【0168】
ポインティングタスクの処理手順は、図20からもわかるように、まず、受信した情報が指示座標移動ベクトル/コマンドであるかを調べ(ステップS73)、指示座標移動ベクトルである場合には、その指示座標移動ベクトルの取得を行い(ステップS74)、表示画像情報生成手段12は、その指示座標移動ベクトルによって求められる指示座標上にそのポインティング装置に割り当てられたポインタマークを表示させる表示画像生成処理を行う(ステップS75)。
【0169】
また、上述のステップS73において、受信した情報がコマンドである場合には、そのコマンドを取得し(ステップS76)、当該コマンドに対するコマンド処理を行って(ステップS77)、その処理結果を表示画像情報生成手段12で生成されたポインタマーク指示座標位置に反映させる(ステップS78)。
【0170】
なお、この場合も実施形態1の図8で説明したように、指示座標の特定とコマンド入力をほぼ同時に行うことも可能である。
【0171】
図21は図19におけるステップS61とS62の処理をより詳細に説明するフローチャートであり、ここでは、ポインティング装置3aを例にとって説明する。
【0172】
まず、ポインティング装置3aの撮影機能を用いて任意の場所(図18に示すように表示画像の外側でもよい)を撮影し(ステップS81)、得られた撮影画像情報に対し、歪や明るさなどの補正処理、さらには、特徴点抽出のための2値化処理などを前処理として行い(ステップS82)、特徴画像情報を取得する(ステップS83)。
【0173】
そして、この特徴画像情報を撮影画像情報記憶手段34に保持されている1フレーム前の特徴画像情報と比較し、たとえば、動画符号化の一方式であるMPEGなどで用いられる動き補償予測の技術を応用して指示座標移動ベクトルを算出し(ステップS84)、それを指示座標移動ベクトルとして出力(ステップS85)するとともに、上述のステップS83で得られた特徴画像情報を、新たな1フレーム前の特徴画像情報として撮影画像情報記憶手段34に書き込むことで特徴画像情報の更新を行う(ステップS86)。そして、ポインティング装置3aの移動が続いていればステップS81に戻る。
【0174】
このようにして、指示座標移動ベクトル算出手段33によって指示座標移動ベクトルが算出されると、その算出された指示座標移動ベクトルに対応する分だけ離れた位置にポインタマークM1を表示させる。
【0175】
なお、ポインティング装置3aで撮影した撮影画像が、最初の撮影画像であって、1フレーム前の特徴画像が得られていない場合には、その最初の撮影画像によって得られた特徴画像が撮影画像情報記憶手段34に保存され、2番目以降の撮影操作を待ち、2番目の撮影によって特徴画像が得られると、その特徴画像と特徴画像記憶手段に保持されている1フレーム前(最初の撮影画像によって得られた特徴画像)とを比較し、指示座標移動ベクトルを求め、その2番目の撮影によって得られた特徴画像を1フレーム前の特徴画像として撮影画像情報記憶手段34に書き込むことで記憶内容を更新する。
【0176】
このようにして、指示座標移動ベクトルが求められると、図18に示すように、スクリーン22に投影された表示画像23上のポインタマークM1を現在の指示位置Pa0を基点に、算出された指示座標移動ベクトルに対応する分だけ離れた位置Pa1に表示させる。
【0177】
図22はスクリーン22上に投影されている表示画像23上の指示位置にポインタマークを合成して表示させる処理手順を説明するフローチャートであり、図10で示した実施形態1における処理に対して、上述の図21で説明した処理手順によって求められた指示座標移動ベクトルと現時点の指示座標とを用いて、ポインタマークMを表示すべき指示座標を求める処理が加わっている。
【0178】
すなわち、指示位置を相対座標として取得する場合は、現在位置からどの方向へどれだけ移動させるかのベクトル量(指示座標移動ベクトル)が求められるだけであるので、まず、現在のポインタマークの指示座標と、算出された指示座標移動ベクトルを取得し(ステップS91)、取得された現在の座標位置と指示座標移動ベクトルとから、新たに指示された指示座標を求める(ステップS92)。
【0179】
たとえば、ポインティング装置3aのポインティング操作に対応した指示座標が求められたとすると、その指示座標を取得し(ステップS93)、そのポインティング装置3aに割り当てられたポインタマークM1に対応するポインタマーク画像情報を読み出す(ステップS94)。このポインタマーク画像情報の読み出しは、たとえば、図3のポインタマーク割り当て方法によってポインタマークの割り当てがなされているとすれば、この図3に示すID/ポインタマーク対応テーブルを参照することによって、対応するポインタマーク画像情報の読み出しを行う。なお、このポインタマーク画像情報はたとえば、表示画像情報記憶手段11に保持されている。
【0180】
そして、その読み出されたポインタマーク画像情報が、現時点での表示画像に対応する表示画像情報の所定座標(ステップS93で取得された指示座標)に合成され(ステップS95)、その指示座標にポインタマークの付加された表示画像情報が生成される(ステップS96)。
【0181】
これによって、たとえば、図18で示すように、スクリーン22に投影された表示画像23上のポインタマークM1を現在の指示位置Pa0を基点に、算出された指示座標移動ベクトルに対応する分だけ離れた位置Pa1に表示させることができる。
【0182】
ここでの説明はポインティング装置3aを例にとって説明したが、ポインティング装置3bにおいても同様に実施することができる。
【0183】
このように、実施形態2では、ポインティング装置3a,3bを動かした移動方向・移動量(指示座標移動ベクトル)を取得できればよいので、ポインティング装置3a,3b側ではスクリーン22上に投影された表示画像でなく、他の場所を撮影してもよい。すなわち、ポインティング装置3a,3bをPCなどに接続されたマウスのように使うことができることから、使い勝手のよいものとなる。なお、この実施形態2の場合、ポインティング装置3a,3bは動画像の取得が可能なものの方がより都合がよいが、静止画のみを入力するカメラであってもよいことは勿論である。
【0184】
また、この実施形態2においても、ポインティング装置3a,3bとしてディジタルカメラや携帯電話機を用いた例で説明したが、これらに限られるものではなく、通信機能を有したディジタルビデオカメラなどでも同様に実施可能であることは勿論である。また、それぞれのポインタマークに対応するポインタマーク画像情報は、PC1の表示画像情報記憶手段11に保持されている例で説明したが、実施形態1でも述べたように、このポインタマーク画像情報は他の場所(たとえば、ポインティング装置3a,3b側)に保存されていてもよく、その保存場所からポインタマーク画像情報を読み出して、それをPC1に転送するようにすることもできる。
【0185】
このように、実施形態2では、ポインティング装置3a,3bでの撮影対象とする画像はプロジェクタ21から投影されている表示画像23でなくてもよいので、撮影場所の制約を少なくすることができる。これによって、たとえば、広いプレゼンテーション会場などで多くの人によってポインティングを行うような場合に使い勝手のよいものとなる。また、ポインティング装置3a,3bをPC1のマウスの感覚で使うことができるので、ポインティング操作がやり易いことも特徴の1つである。
【0186】
また、指示位置を相対座標として取得する場合は、相対座標を求めるための指示座標移動ベクトル算出に必要な情報として、PC1側に保存されている表示画像情報を必要としないので、指示座標移動ベクトル算出の演算はポインティング装置3a,3b側だけで行うことができる。
【0187】
このように、指示座標移動ベクトル算出を行う際に、表示画像情報を必要としないということは、表示画像情報をポインティング装置3a,3b側にロードするといった処理を行う必要がなく、また、ポインティング装置3a,3bで算出された指示座標移動ベクトルだけをPC1側に送信すればよいので、ポインティング装置3とPC1との間で、情報量の多い画像情報の授受の必要がなくなり、両者間の通信負荷を軽くすることができる。
【0188】
ところで、この実施形態2も実施形態1で説明したと同様に、ポインティング装置3a,3bによって指示されることによって得られた指示座標位置で、PC1に対して何らかのコマンドを与え、PC1ではそのコマンドに対応した処理を行って、その結果をポインタマーク位置で反映させることもできる。
【0189】
図23はこのコマンド入力操作とその結果を反映させる処理を実現するための構成図であり、図17で示した構成図に対して、ポインティング装置3a,3bにはそれぞれコマンド入力手段35が設けられ、PC1にはコマンド処理手段14が設けられている点が異なるだけで、それ以外の構成要素は図17と同様であるので、同一部分には同一符号を付すことによって、それらの説明は省略する。
【0190】
このような構成におけるコマンド処理は、前述の実施形態1の図12や図13で説明したと同様に実施できるのでここではその説明は省略する。
【0191】
なお、この実施形態2では、指示座標移動ベクトル算出処理は、ポインティング装置3a,3b側で行うようにしているが、この指示座標移動ベクトル算出処理はPC1側で行うこともできる。この場合、PC1側に指示座標移動ベクトル算出手段33と撮影画像情報記憶手段34を設け、ポインティング装置3からの撮影画像情報を撮影画像情報記憶手段34で保持し、その撮影画像情報を用いて指示座標移動ベクトル算出手段33が指示座標移動ベクトルを算出する。その指示座標移動ベクトル算出処理は上述したと同様の手順で行うことができる。
【0192】
このように、指示座標移動ベクトル算出は、ポインティング装置3a,3bではなく、PC1側で行うこともできる。なお、この場合、PC1のポインティング操作受付手段15で生成されるポインティングタスク(図20参照)には、ステップS74(指示座標移動ベクトル取得)の前段の処理として、ポインティング装置3a,3b側からの撮影画像情報をPC1側に設けられた撮影画像情報記憶手段34に保持する処理と、その撮影画像情報記憶手段34から処理対象となる撮影画像情報を取得し、その撮影画像情報に基づいて指示座標を特定する処理としての指示座標移動ベクトル算出処理が加わる。
【0193】
なお、指示座標移動ベクトル算出をポインティング装置3a,3b側で行う利点は、すでに述べたが、ポインティング装置3a,3bで算出された指示座標移動ベクトル情報だけを情報処理装置側に送信すればよいので、ポインティング装置3とPC1との間で、情報量の多い画像情報の授受の必要がなくなり、両者間の通信負荷を軽くすることができるといった利点の他に、PC1側から見てポインティング装置3a,3bを単なるデバイスとしてみなすことができる。すなわち、そのデバイス(ポインティング装置3a,3b)からPC1に対して単に相対座標情報(指示座標移動ベクトル情報)が送信されてくるので、PC1側では特に複雑な処理を行う必要が無く、画像処理のための複雑なハードウエアやソフトウエアを搭載する必要がなくなり、かつ、PC1側の演算量を削減できる。
【0194】
一方、指示座標移動ベクトル算出をPC1側で行う利点は、ポインティング装置3a,3bでは、撮影画像情報を単にPCに送信するだけであり、ポインティング装置3での演算量を少なくすることができる。また、ポインティング装置3a,3b側に、指示座標移動ベクトルを算出するに必要なハードウエアやソフトウエアを搭載する必要がない。したがって、ポインティング装置3a,3bとして、一般的な携帯情報機器を用いることができる。また、ポインティング装置3a,3bよりもPC1の方が一般的に処理能力が高いので、より高速に指示座標移動ベクトル算出処理が行え、高精度な指示座標移動ベクトルの算出が可能となる。
【0195】
また、この実施形態2においても、実施形態1で説明したように、複数のポインティング装置(ここでは、ポインティング装置3a,3b)によって、たとえば、図14に示すように、表示画面上であるアプリケーションのあるプロセスが実行されているとき、複数のユーザの共同作業によるデータ編集などが可能となる。
【0196】
また、複数のポインティング装置ごとにそれぞれ異なるアプリケーションを実行している場合やアプリケーション自体は同種であっても異なるプロセスを実行している場合があるが、その場合の対処については、実施形態1の図15によって説明したと同様の対処を行えばよい。
【0197】
また、複数のポインティング装置で1つの表示画像上をポインティング操作する際、異なるポインティング装置の指示位置が重複するような場合についても、実施形態1の図16(a)〜(d)により説明したと同様の処理を行うことができる。
【0198】
なお、本発明は上述の実施の形態に限られるものではなく、本発明の要旨を逸脱しない範囲で種々変形実施可能となるものである。たとえば、上述の各実施形態における複数のポインティング装置(実施形態1,2においてはポインティング装置3a,3b)とPC1との接続は、それぞれ異なった通信手段を用いた例が示されているが、図24に示すように、共通の通信手段を用いるものであってもよい。この図24の例では、ポインティング装置3a,3bは、ともにカメラ付き携帯電話機である場合が示されており、両者ともに、基地局4からインタネット5経由でPC1に接続された例である。なお、この図24は指示位置を絶対座標として取得する例であるが、相対座標として取得する場合についても同様である。
【0199】
また、上述の実施形態1では2つのポインティング装置がともに指示位置を絶対座標として取得する場合、実施形態2では2つのポインティング装置がともに指示位置を相対座標として取得する場合であったが、図25に示すように、一方のポインティング装置(この図25ではポインティング装置3a)は指示位置を絶対座標として取得し、他方のポインティング装置(この図25ではポインティング装置3b)は指示位置を相対座標として取得するというようにすることもできる。
【0200】
また、前述の各実施形態では、複数のポインティング装置として、ポインティング装置3a,3bの2つを用いた例について説明したが、ポインティング装置は、もっと多数であってもよいことは勿論である。
【0201】
また、前述の各実施形態では、プレゼンテーション会場などにおいて、プロジェクタによってスクリーン上に投影された表示画像に対するポインティング操作について説明したが、これ以外にもたとえばガンシューティングなどの各種ゲームにも応用可能である。
【0202】
また、本発明は以上説明した本発明を実現するための処理手順が記述された処理プログラムを作成し、その処理プログラムをフロッピィディスク、光ディスク、ハードディスクなどの記録媒体に記録させておくこともでき、本発明は、その処理プログラムの記録された記録媒体をも含むものである。また、ネットワークから当該処理プログラムを得るようにしてもよい。
【図面の簡単な説明】
【図1】本発明の実施形態1(指示位置を絶対座標として取得する場合)に係わる情報表示システムの構成図である。
【図2】本発明の実施形態1,2の全体的な処理の流れを説明する図である。
【図3】本発明の実施形態1,2に係わるポインタマーク割り当て処理(第1のポインタマーク割り当て方法)を説明する図である。
【図4】本発明の実施形態1,2に係わるポインタマーク割り当て処理(第2のポインタマーク割り当て方法)を説明する図である。
【図5】本発明の実施形態1,2に係わるポインタマーク割り当て処理(第3のポインタマーク割り当て方法)を説明する図である。
【図6】本発明の実施形態1において複数のポインティング装置を用いてのポインティング操作する例を示す図である。
【図7】本発明の実施形態1におけるポインティング装置側のポインティング操作時の処理手順を説明するフローチャートである。
【図8】本発明の実施形態2における情報処理装置(PC)側の処理手順を説明するフローチャートである。
【図9】図8における指示座標特定手段が行う指示座標特定処理を説明するフローチャートである。
【図10】図8における表示画像情報生成手段が行う表示画像情報生成処理を説明するフローチャートである。
【図11】実施形態1において指定位置を絶対座標として取得し、その際乃至そのあと、その指定座標上でコマンドを実行可能とするための構成図である。
【図12】コマンド入力を行って、そのコマンドに対する処理の実行結果が指定座標位置に表示された一例を示す図である。
【図13】コマンド入力を行って、そのコマンドに対する処理の実行結果が指定座標位置に表示された他の例を示す図である。
【図14】表示画面上である1つのアプリケーションの中のあるプロセスが実行されているとき、複数のユーザがそれぞれのポインティング装置を用いて共同作業を行う例を説明する図である。
【図15】表示画面上で異なったアプリケーションをそれぞれのユーザがそれぞれのポインティング装置を用いて作業を行う例を説明する図である。
【図16】複数のポインティング装置で1つの表示画像上をポインティング操作する際、異なるポインティング装置の指示位置が重複するような場合のポインタマーク表示制御を説明する図である。
【図17】本発明の実施形態2(指示位置を相対座標として取得する場合)に係わる情報表示システムの構成図である。
【図18】本発明の実施形態2において複数のポインティング装置を用いてのポインティング操作する例を示す図である。
【図19】本発明の実施形態2におけるポインティング装置側のポインティング操作時の処理手順を説明するフローチャートである。
【図20】本発明の実施形態2における情報処理装置(PC)側の処理手順を説明するフローチャートである。
【図21】図19におけるステップS61,S62をより詳細に説明するフローチャートである。
【図22】図20における表示画像情報生成手段が行う表示画像情報生成処理を説明するフローチャートである。
【図23】実施形態2において指定位置を絶対座標として取得し、その際乃至そのあと、その指定座標上でコマンドを実行可能とするための構成図である。
【図24】複数のポインティング装置を用いてポインティング操作を行う例において、ポインティング装置と情報処理装置(PC)との間を共通の通信手段で接続した例を示す図である
【図25】複数のポインティング装置を用いてポインティング操作を行う例において、指示位置を絶対座標として取得するポインティング装置と相対座標として取得するポインティング装置を混在させた例を示す図である。
【符号の説明】
1 情報処理装置(PC)、2 情報表示装置、3a ポインティング装置(通信機能付きのディジタルスチルカメラ)、3b ポインティング装置(カメラ付き携帯電話機)、4 携帯電話の基地局、5 インタネット、6 接続ケーブル、11 表示画像情報記憶手段、12 表示画像情報生成手段、13 指示座標特定手段、14 コマンド処理手段、15 ポインティング操作受付手段、21 プロジェクタ、22 スクリーン、23 表示画像、31 視準手段、32撮影手段、33 指示座標移動ベクトル算出手段、34 撮影画像情報記憶手段、35 コマンド入力手段、36 ポインティング操作参加手段、37 ポインタマーク記憶手段
【発明の属する技術分野】
本発明は、ポインティング位置の座標情報の取得が可能な情報表示システムおよび情報表示システムにおけるポインティング装置制御方法に係わり、特に複数のポインティング装置を用いて同じ表示画面上のポインティング操作の可能な情報表示システムおよび情報表示システムにおけるポインティング装置制御方法に関する。
【0002】
【従来技術】
画像表示装置の1つとして、最近ではプロジェクタが広く用いられるようになってきている。このプロジェクタによって投影された投影画面上の任意位置の座標をこのプロジェクタを接続する情報処理機器(たとえばパーソナルコンピュータ)が取得する方法としては、ポインティングを行う手段(指示棒、レーザポインタなど)の他に、投影画面を撮像するための固定カメラや光学センサが必要であり、情報表示システムが大掛かりなものとなるため、汎用性という点では問題がある。
【0003】
この問題を解決するために、従来から様々な提案がなされている。たとえば、特開平6−308879号公報の「光学式ポインティングシステム」(以下、従来技術1という)、特開2001−148025号公報の「位置検出装置及びその方法、平面姿勢検出装置及びその方法」(以下、従来技術2という)、特開2001−166881号公報の「ポインティング装置及びその方法」(以下、従来技術3という)、特開2001−325069号公報の「位置検出装置およびその方法」(以下、従来技術4という)などが挙げられる。
【0004】
従来技術1は、表示画面上に発光素子を設けて、この発行素子の発光する光を指示器(この指示器がポインティング装置としての役目をなす)に設けられた光電変換素子で受光し、光電変換素子の出力信号から指示器の軸の方向を算出し、その軸方向に対応する位置にポインタマークを表示させるものであるが、位置検出のために表示画面に1個以上の発光素子を設けなければならない。
【0005】
また、従来技術2,3,4は、撮像手段(カメラ)をポインティング装置として用いており、表示画像の特徴的な画像を撮影して、その特徴的な形状から座標を取得するものである。このため、カメラで撮影する画像に特徴的な形状が含まれている必要があり、たとえば、投影スクリーンの矩形であるとか、表示画像に表示された幾何学的図形をカメラで撮影する必要がある。
【0006】
また、従来技術4は、表示画面上の各位置にマーカとなるオブジェクトをいくつか配置しなければならず、画像本来の内容とは関係のないものまで表示されることになる。また、これら各従来技術2,3,4は、指示位置を絶対座標として取得するものであり、相対座標として取得することについては考慮されていない。
【0007】
また、以上の従来技術1から4は、ポインティング装置が1つであることを想定したポインティング位置検出について述べられたものである。しかし、プロジェクタを用いた会議やプレゼンテーションでは、その会議やプレゼンテーションに参加している複数の参加者が、表示画面上の任意の位置を同時に指示できるようにすることも望まれている。
【0008】
このように、複数の参加者が1つの表示画面上の任意の位置を同時に指示できるようにした画像表示システムとして、たとえば、特開平7−200160号公報の「情報提供装置及び情報表示装置」(以下、従来技術5という)、特開平7−261913号公報の「情報表示方法及び情報表示装置」(以下、従来技術6という)、特開平8−95157号公報の「表示装置」(以下、従来技術7という)などがある。
【0009】
【特許文献1】
特開平6−308879号公報
【特許文献2】
特開2001−148025号公報
【特許文献3】
特開2001−166881号公報
【特許文献4】
特開2001−325069号公報
【特許文献5】
特開平7−200160号公報
【特許文献6】
特開7−261913号公報
【特許文献7】
特開8−95157号公報
【0010】
【発明が解決しようとする課題】
従来技術1から4は、上述したように、複数のポインティング装置によるポインティング操作についての対応は考慮されてない。これに対して、従来技術5から7は、複数のポインティング装置によるポインティング操作を可能としているが、これら従来技術は、複数のポインティング装置によってポインティング操作を行う際のアクセス制御手段を持っていないため、たとえば、部外者などが会議やプレゼンテーションの妨害や混乱を目的として、不正なポインティング操作を行うといったことも可能となる。
【0011】
また、これら従来技術5から7は、個々のポインティング装置が発するポインタマークは、個々のポインティング装置ごとに異ならせることは可能であっても、そのポインタマークは、個々のポインティング装置の物理的な構造に依存した固定的なものであるため、個々のポインティング装置においてそれを使用するユーザが好みのポインタマークを設定したり選択したりすることはできない。
【0012】
また、複数のポインティング装置の使用が可能であると、たとえば、複数のポインティング装置によって表示画面上の同位置がポインティングされた場合、個々のポインティング装置から発せされたポインタマークが重畳することとなるが、このような複数のポインタマークの重畳を判別するための複雑な処理が必要となる。
【0013】
また、このとき、同じポインタマークを持つポインティング装置が使用されると、それを識別できず、たとえば、他の参加者が持つポインティング装置のポインタマークと同じポインタマークを持つポインティング装置を予め用意しておき、他の参加者になりすましてポインティングをするといった不正なポインティングも可能となるといった問題もある。
【0014】
また、従来技術5から7で用いられているポインティング装置は、レーザポインタであり、レーザ光によってポインティングするだけであるので、そのポインティング位置でのコマンド入力やその位置におけるデータの編集などを容易に行うことはできない。
【0015】
そこで本発明は、同一表示画面上において複数のポインティング装置によるポインティング操作を行う際、不正なポインティング操作を防止するとともに、複数のポインティング装置による円滑なポインティング操作を可能とし、かつ、それぞれのポインティング位置でのコマンド入力を可能とする情報表示システムおよび情報表示システムにおけるポインティング装置制御方法を提供することを目的としている。
【0016】
【課題を解決するための手段】
上述した目的を達成するために、本発明の情報表示システムは、情報処理装置と、この情報処理装置に保持された情報を表示画面上に表示可能な情報表示装置と、この情報表示装置によって表示された表示画像上の任意の位置を指示する複数のポインティング装置とを有する情報表示システムであって、前記複数のポインティング装置は、個々のポインティング装置において、自身を前記情報処理装置に登録するに必要な処理をその処理機能の1つとして行うポインティング操作参加手段を有し、前記情報処理装置は、前記ポインティング装置のポインティング操作参加手段からの情報に基づいて当該ポインティング装置の認証可否を判定して認証可と判定した場合に当該ポインティング装置を登録する処理をその処理機能の1つとして行うポインティング操作受付手段を有することを特徴としている。
【0017】
このように、複数のポインティング装置で同じ表示画面上をポインティング操作可能とする情報表示システムとする際、複数のポインティング装置では、パーソナルコンピュータなどの情報処理装置側に対し自身を登録するための処理を行い、情報処理装置側では個々のポインティング装置に対して認証可否判定を行った上で認証可とされたポインティング装置のみを登録するようにしているので、部外者などが勝手にポインティングするというような不正なポインティング操作を未然に防止することができる。これによって、会議やプレゼンテーションなどを行う場での不正や混乱を防止することができ、会議やプレゼンテーションを円滑に進行させることができる。
【0018】
また、上述の各情報表示システムにおいて、前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置に対し、当該ポインティング装置固有の識別情報を発行することが好ましい。
【0019】
このように、認証されたポインティング装置それぞれに対して識別情報(ID)を発行することによって、個々のポインティング装置をこのIDで適正に管理することができる。
【0020】
また、上述の各情報表示システムにおいて、前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置に対し、個々のポインティング装置ごとに異なるポインタマークを割り当てるポインタマーク割り当て処理を行うことが好ましい。
【0021】
これによって、個々のポインティング装置ごとに異なるポインタマークを割り当てることができるので、どのポインティング装置がどこを指示しているかが容易に把握でき、会議やプレゼンテーションでポインティング装置が多数使用されるような場合、会議やプレゼンテーションを円滑に進行させることができる。
【0022】
また、上述の各情報表示システムにおいて、前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置ごとにそのポインティング装置が行うポインティング操作実行用のポインティングタスクを生成することが好ましい。
【0023】
このように、ポインティング装置ごとのポインティングタスクが生成されることによって、ポインティング装置ごとに独立したポインティング操作を実行することができる。
【0024】
また、上述の各情報表示システムにおいて、前記複数のポインティング装置の指示位置が重複する場合、予め設定された規則に基づく優先度を設定し、その複数のポインティング装置から発せられるそれぞれのポインタマークのうちの優先度の最も高いポインタマークのみを当該座標位置で表示させることが好ましい。
【0025】
このようなポインタマークの表示制御を行うことによって、複数のポインタマークの指示位置が重複しても、いずれかのポインタマークをその指示位置で表示させることができ、しかも、予め設定された規則に基づく優先度を設定し、優先度の最も高いポインタマークのみを当該座標位置で表示させる制御を行うので、複数のポインティング装置を操作するそれぞれのユーザの納得の行くポインタマーク表示制御を行うことができる。
【0026】
また、上述した情報表示システムにおいて、前記ポインティング装置は、前記ポインティング操作参加手段に加えて、前記表示画像上で指示しようとする位置を含む所定範囲を撮影してその所定範囲に対応する撮影画像情報を出力可能な撮影手段を有し、前記情報処理装置は、前記ポインティング操作受付手段に加えて、このポインティング操作受付手段で認証可とされたポインティング装置からの撮影画像情報を受け取り、その撮影画像情報が撮影時点での表示画像に対応する表示画像情報のどの部分に対応するかを判定し、その判定結果から前記ポインティング装置それぞれが指示しようとする位置の座標を指示座標として特定する指示座標特定手段と、表示すべき画像に対する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、その表示画像上の前記指示座標特定手段で特定された指示座標にポインタマークを合成して表示する表示画像情報生成手段とを有する構成とすることが好ましい。
【0027】
これは、ポインティング装置による指示位置を絶対座標として取得可能とする情報表示システムであり、このような構成とすることによって、上述した不正なポインティング操作を防止するなどといった効果に加えて、表示画像上に特徴的な形状やマーカなどを特別に設けたり、特徴的な画像を同時に撮影するといったことをする必要がなく、単に、指示位置を含むように撮影するだけで指示位置を容易かつ正確に行うことができ、これにより、多数のポインティング装置を用いポインティング操作を行う場合の対応が容易なものとなる。
【0028】
また、この場合、指示座標特定は、情報報処理装置側で行っている。指示座標特定手段を情報処理装置側で行う利点は、ポインティング装置では、撮影画像情報を単に情報処理装置に送信するだけであり、ポインティング装置での演算量を少なくすることができ、また、ポインティング装置側に、指示座標特定に必要な(たとえば画像処理用の)ハードウエアやソフトウエアを搭載する必要がないといったことが挙げられ、さらに、ポインティング装置よりも情報処理装置の方が一般的に処理能力が高いので、より高速に座標特定などの処理が行え、複雑な画像演算処理も容易かつ高速に行うことができ、高精度な座標特定が可能となるといった利点もある。
【0029】
このように、ポインティング装置による指示位置を絶対座標として取得可能とする情報表示システムにおいて、指示座標の特定処理を情報処理装置側で行う場合においては、前記情報処理装置のポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記ポインティング装置が指示する指示座標を特定する指示座標特定処理と、前記表示画像上の当該特定された指示座標上にポインタマークを合成して表示する表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることが好ましい。
【0030】
これにより、処理能力の高い情報処理装置側で指示座標の特定を行うことができ、高速でかつ高精度な座標特定処理が可能となる。また、このポインティングタスクにはコマンドを実行するコマンド処理が含まれるので、ポインティング装置によって表示画像上の任意の位置を指示したあと、その指示位置に文字を入力させたり、表示内容を修正したりすることも可能となり、単に、ポインティング位置を指示するだけでなく、表示内容の編集・修正操作も可能となる。すなわち、これはコンピュータの遠隔操作をも可能とするということである。
【0031】
また、上述した情報表示システムにおいて、前記ポインティング装置は、前記ポインティング操作参加手段に加えて、前記表示画像上で指示しようとする位置を含む所定範囲を撮影してその所定範囲に対応する撮影画像情報を出力可能な撮影手段と、この撮影手段からの撮影画像情報を受け取り、その撮影画像情報が撮影時点での表示画像に対応する表示画像情報のどの部分に対応するかを判定し、その判定結果からこのポインティング装置が指示しようとする位置の座標を指示座標として特定する指示座標特定手段とを有し、前記情報処理装置は、前記ポインティング操作受付手段に加えて、表示すべき画像に対する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、前記認証可とされたポインティング装置の指示座標特定手段で特定された前記表示画像上の指示座標にポインタマークを合成して表示する表示画像情報生成手段とを有する構成とすることも可能である。
【0032】
これは、ポインティング装置による指示位置を絶対座標として取得可能とする情報表示システムにおいて、指示座標特定手段をポインティング装置側で行うものであり、このように、指示座標特定手段をポインティング装置側で行う利点は、情報処理装置側から見てポインティング装置を単なるデバイスとしてみなすことができる。すなわち、そのデバイス(ポインティング装置)に対して表示画像情報を送信しさえすれば、デバイスからは絶対座標情報が送信されてくるので、情報処理装置側では特に複雑な処理を行う必要が無く、情報処理装置側の演算量を削減できるので、ポインティング装置が多数用いられる状況において情報処理装置側の負担を軽減することができる。
【0033】
このように、ポインティング装置による指示位置を絶対座標として取得可能とする情報表示システムにおいて、指示座標の特定処理をポインティング装置側で行う場合においては、前記ポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記ポインティング装置で特定された前記表示画像上の指示座標にポインタマークを合成して表示する表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることが好ましい。
【0034】
これにより、情報処理装置側では、指示座標の特定処理を行わなくてすむので、情報処理装置側の演算量を削減でき、特に、ポインティング装置が多数用いられる状況においては、情報処理装置側の負担を軽減することができる。また、このポインティングタスクにはコマンドを実行するコマンド処理が含まれるので、ポインティング装置によって表示画像上の任意の位置を指示したあと、その指示位置に文字を入力させたり、表示内容を修正したりすることも可能となり、単に、ポインティング位置を指示するだけでなく、表示内容の編集・修正操作も可能となる。すなわち、これはコンピュータの遠隔操作をも可能とするということである。
【0035】
また、上述した情報表示システムにおいて、前記ポインティング装置は、前記ポインティング操作参加手段に加えて、当該ポインティング装置で撮影しようとする任意の範囲を撮影してその範囲に対応する撮影画像情報を出力可能な撮影手段と、この撮影手段による撮影位置と撮影角度の少なくとも一方を変化させあるいは変化させること無く複数回撮影することによって得られる現時点でのフレームよりも時間的に前のフレームの撮影画像情報を記憶する撮影画像情報記憶手段と、この撮影画像情報記憶手段に記憶された撮影画像情報と前記現時点でのフレームの撮影画像情報とを比較して、その比較結果から指示座標移動ベクトルを算出する指示座標移動ベクトル算出手段とを有し、前記情報処理装置は、前記ポインティング操作受付手段に加えて、前記表示すべき画像に対応する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、その表示画像上において現時点で表示されているあるポインティング装置のポインタマークを、そのポインティング装置で算出された前記指示座標移動ベクトルに対応する分だけ離れた位置で当該表示画像に合成して表示する表示画像情報生成手段とを有する構成とすることも可能である。
【0036】
これは、ポインティング装置による指示位置を相対座標として取得可能とする情報表示システムであり、指示位置を相対座標として取得する場合は、ポインティング装置による撮影対象は表示画面上でなくてもよいので、撮影場所の制約が少なく、広いプレゼンテーション会場などで多くの人によってポインティングを行うような場合に使い勝手のよいものとなる。また、ポインティング装置をパーソナルコンピュータのマウスの感覚で使うことができるので、ポインティング操作がやり易いことも特徴の1つである。
【0037】
このように、ポインティング装置による指示位置を相対座標として取得可能とする情報表示システムにおいて、指示座標の特定処理をポインティング装置側で行う場合においては、前記ポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記ポインティング装置で算出された指示座標移動ベクトルに基づいて得られる座標上で前記ポインタマークを前記表示画像に合成して表示する表示画像生成処理と、当該ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることが好ましい。
【0038】
これにより、情報処理装置側では、指示座標の特定処理を行わなくてすむので、情報処理装置側の演算量を削減でき、特に、ポインティング装置が多数用いられる状況においては、情報処理装置側の負担を軽減することができる。また、このポインティングタスクにはコマンドを実行するコマンド処理が含まれるので、ポインティング装置によって表示画像上の任意の位置を指示したあと、その指示位置に文字を入力させたり、表示内容を修正したりすることも可能となり、単に、ポインティング位置を指示するだけでなく、表示内容の編集・修正操作も可能となる。すなわち、これはコンピュータの遠隔操作をも可能とするということである。
【0039】
また、上述した情報表示システムにおいて、前記ポインティング装置は、前記ポインティング操作参加手段に加えて、ある所定範囲を撮影してその所定範囲に対応する撮影画像情報を出力可能な撮影手段を有し、前記情報処理装置は、前記ポインティング操作受付手段に加えて、このポインティング操作受付手段で認証可とされたポインティング装置の撮影手段による撮影位置と撮影角度の少なくとも一方を変化させあるいは変化させること無く複数回撮影することによって得られる現時点でのフレームよりも時間的に前のフレームの撮影画像情報を記憶する撮影画像情報記憶手段と、この撮影画像情報記憶手段に記憶された撮影画像と前記ポインティング装置の撮影手段から得られた現時点でのフレームの撮影画像情報とを比較して、その比較結果から指示座標移動ベクトルを算出する指示座標移動ベクトル算出手段と、表示すべき画像に対応する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、その表示画像上において現時点で表示されているあるポインティング装置のポインタマークを、前記指示座標移動ベクトル算出手段で算出された前記指示座標移動ベクトルに対応する分だけ離れた位置で当該表示画像に合成して表示する表示画像生成手段とを有する構成とすることも可能である。
【0040】
これは、ポインティング装置による指示位置を相対座標として取得可能とする情報表示システムにおいて、指示座標移動ベクトル算出を情報処理装置側で行うようにしたものであり、このように、指示座標移動ベクトル算出を情報処理装置側で行う利点は、ポインティング装置では、撮影画像情報を単に情報処理装置に送信するだけであり、ポインティング装置での演算量を少なくすることができる。また、ポインティング装置側に、指示座標移動ベクトルを算出するのに必要なハードウエアやソフトウエアを搭載する必要がない。したがって、ポインティング装置として、一般的な携帯情報機器を用いることができる。また、ポインティング装置よりも情報処理装置の方が一般的に処理能力が高いので、より高速に指示座標移動ベクトル算出処理が行え、高精度な指示座標移動ベクトルの算出が可能となる。
【0041】
このように、ポインティング装置による指示位置を相対座標として取得可能とする情報表示システムにおいて、指示座標の特定処理を情報処理装置側で行う場合においては、情報処理装置のポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記指示座標移動ベクトルを算出する指示座標移動ベクトル算出処理と、この指示座標移動ベクトル算出処理で算出された指示座標移動ベクトルに基づいて得られる座標上で前記ポインタマークを前記表示画像に合成して表示する表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることが好ましい。
【0042】
これにより、処理能力の高い情報処理装置側で指示座標位置の特定が行うことができ、高速でかつ高精度な座標特定処理が可能となる。また、このポインティングタスクにはコマンドを実行するコマンド処理が含まれるので、ポインティング装置によって表示画像上の任意の位置を指示したあと、その指示位置に文字を入力させたり、表示内容を修正したりすることも可能となり、単に、ポインティング位置を指示するだけでなく、表示内容の編集・修正操作も可能となる。すなわち、これはコンピュータの遠隔操作をも可能とするということである。
【0043】
また、本発明の情報表示システムにおけるポインティング装置制御方法は、情報処理装置と、この情報処理装置に保持された情報を表示画面上に表示可能な情報表示装置と、この情報表示装置によって表示された表示画像上の任意の位置を指示する複数のポインティング装置とを有する情報表示システムにおけるポインティング装置制御方法であって、前記複数のポインティング装置は、個々のポインティング装置において、自身を前記情報処理装置に登録するための処理を行うステップをその処理手順に含み、前記情報処理装置は、前記ポインティング装置のポインティング操作参加手段からの情報に基づいて当該ポインティング装置の認証可否を判定して認証可と判定した場合に当該ポインティング装置を登録する処理をその処理手順に含むことを特徴としている。
【0044】
このように、複数のポインティング装置で同じ表示画面上をポインティング操作可能とする情報表示システムとする際、複数のポインティング装置では情報処理装置側に対し自身を登録するための処理を行い、情報処理装置側では個々のポインティング装置に対して認証可否判定を行った上で認証可とされたポインティング装置のみを登録するようにしているので、部外者などが勝手にポインティングするというような不正なポインティング操作を未然に防止することができる。これによって、会議やプレゼンテーションなどを行う場での不正や混乱を防止することができ、会議やプレゼンテーションを円滑に進行させることができる。
【0045】
なお、この情報表示システムにおけるポインティング装置制御方法において、前記認証可とされたポインティング装置に対し、当該ポインティング装置固有の識別情報を発行することが好ましい。
【0046】
また、この情報表示システムにおけるポインティング装置制御方法において、前記認証可とされたポインティング装置に対し、個々のポインティング装置ごとに異なるポインタマークを割り当てるポインタマーク割り当て処理を行うことが好ましい。
【0047】
また、この情報表示システムにおけるポインティング装置制御方法において、上述の各情報表示システムにおいて、前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置ごとにそのポインティング装置が行うポインティング操作実行用のポインティングタスクを生成することが好ましい。
【0048】
また、この情報表示システムにおけるポインティング装置制御方法において、前記複数のポインティング装置が指示した座標位置が重複する場合、予め設定された規則に基づく優先度を設定し、その複数のポインティング装置から発せられるそれぞれのポインタマークのうちの優先度の最も高いポインタマークのみを当該座標位置で表示させることが好ましい。
【0049】
【発明の実施の形態】
以下、本発明の実施形態について説明する。この実施形態では、情報表示装置としてはプロジェクタおよび壁面ないしスクリーンを用いるものとし、このプロジェクタを情報処理装置としてのパーソナルコンピュータ(以下ではPCという)に接続して、当該PC上のデータをプロジェクタによって壁面やスクリーン上に投影し、その投影された画像に対して複数のポインティング装置で任意の位置を指定し、その指定された位置の座標情報を取得してその座標上にポインタマークを表示する例について説明する。
【0050】
また、ポインティング装置としては、画像を撮影する撮影機能とそれによって得られた画像情報をネットワークやPCに送信可能な通信機能を有する携帯用情報端末機器(たとえば、カメラ付き携帯電話機、通信機能を有したディジタルスチルカメラ、通信機能を有したディジタルビデオカメラなど)を用いるものとする。また、本発明では、プロジェクタによって投影された表示画像上の任意の位置を複数のポインティング装置で指示できるものとしているが、この実施形態では、説明をわかり易くするため、ポインティング装置は特別な場合を除いて2つである場合について説明する。
【0051】
なお、本発明は、指示位置を絶対座標として取得することも可能であり、また、相対座標として取得することも可能であるので、指示位置を絶対座標として取得する例を実施形態1、指示位置を相対座標として取得する例を実施形態2として説明する。
【0052】
〔実施形態1〕
図1はこの実施形態1を説明するに必要な構成要素を示す図であり、その構成要素を大きく分けると、情報処理装置としてのPC1、このPC1から出力される情報を表示する情報表示装置2、この情報表示装置2で表示された画像上の任意の位置を指示する2つのポインティング装置3a,3bからなる。
【0053】
なお、ポインティング装置3a,3bとしては、上述したように、撮影機能と通信機能を有した携帯用情報端末(通信機能を有したディジタルスチルカメラ、カメラ付き携帯電話機、通信機能を有したディジタルビデオカメラなど)を用いるものとするが、この実施形態では、ポインティング装置3aは通信機能を有したディジタルスチルカメラ、ポインティング装置3bはカメラ付き携帯電話機であるとして説明する。
【0054】
PC1は、表示すべき画像の画像情報を記憶する表示画像情報記憶手段11、現時点において表示すべき画像情報を生成するとともにポインタマークを表示画像上の指示された座標位置に合成する機能を有する表示画像情報生成手段12、ポインティング装置3a,3bで指示された座標(ポインタマークを表示したりコマンドを入力したりする座標)を特定する指示座標特定手段13、ポインティング装置3a,3bの認証可否を判定して認証可と判定した場合に当該ポインティング装置を登録する処理をその処理機能の1つとして行うポインティング操作受付手段15を有している。
【0055】
このポインティング操作受付手段15は、ポインティング装置3a,3bに対してこれらポインティング装置3a,3bがその会議やプレゼンテーションなどで使用されるポインティング装置として正当なポインティング装置であるか否かを判定する認証判定機能と、正当なポインティング装置であると判定された場合は、そのポインティング装置を認証されたポインティング装置とし、識別情報としてのIDを発行する機能と、その認証されたポインティング装置に対してポインタマークの割り当て(これについての詳細は後述する)を行う機能と、認証されたポインティング装置ごとにそのポインティング装置が行うポインティング操作を実行するためのポインティングタスク(これについての詳細は後述する)を生成する機能と、ポインティング装置からのポインティング操作情報を受け取り、IDに基づいてどのポインティング装置からの操作指示であるかを判定する機能とを有している。
【0056】
また、情報表示装置2は、画像情報を投影するプロジェクタ21と、画像情報が投影されるスクリーン22から構成されている。
【0057】
また、ポインティング装置3a,3bは、ファインダやディスプレイ画面などの視準手段31、この視準手段31で設定された所定範囲の画像を撮影する撮影手段32、PC1への登録や登録完了後にPC1から与えられたIDをポインティング操作情報に付加してPC1に出力する機能を有するポインティング操作参加手段36を有している。
【0058】
これらポインティング装置3a,3bからPC1に対して送信される情報は、無線LAN、赤外線通信、電話回線などを利用したネットワークなど何らかの通信手段によって送信できるようになっている。
【0059】
このような構成において、ポインティング装置3a,3bで指示した位置にそれぞれのポインタマークを表示させる具体的な処理手順について説明する。まずは、図2を参照しながら、本発明の全体の処理手順を説明する。なお、この処理は複数のポインティング装置(この場合、ポインティング装置3a,3b)で共通の処理であり、個々のポインティング装置3a,3bのポインティング操作参加手段36とPC1のポインティング操作受付手段15との間で行われる。
【0060】
ポインティング装置3a,3bのそれぞれのポインティング操作参加手段36は、まず、認証およびID発行要求を送信する(ステップS1)。このとき、ポインティング操作受付手段15が認証のためのパスワードを必要とする場合は、必要に応じて、そのパスワード情報を認証およびID発行要求に加えて送信するようにしてもよい。
【0061】
この認証およびID発行要求がポインティング装置3a,3bからPC1側に送信されると、PC1では、個々のポインティング装置3a,3bに対する認証可否判断を何らかの基準に基づいて行う(ステップS2)。この認証可否の判断は、人間が行ってもよいし、パスワード合否などの判断基準を予め設定しておき、ポインティング操作受付手段15がその判断基準を参照することで、自動的に判断するようにしてもよい。
【0062】
そして、その認証可否判断の結果、不可であれば、認証不可を示す通知を発行してそれを該当するポインティング装置に送信する(ステップS3)。この認証不可通知を受け取ったポインティング装置のユーザは、認証およびID要求を再試行するか否かを判断し(ステップS4)、再試行する場合は、認証不可となった原因などを調べて、原因がわかればそれを修正した上で、ステップS1に戻って、認証およびID要求を送信する。なお、再試行しない場合は、それ以降の処理の実行を行わないようにする。認証不可となって再試行を行わない場合は、そのポインティング装置からのそれ以上の操作指示要求は、PC1側では受け付けないようにする。
【0063】
一方、上述のステップS2における認証可否判断の結果、認証可であると判定された場合は、その認証可とされたポインティング装置を特定するための固有な識別情報であるIDを生成して、そのIDを認証可通知とともに、該当するポインティング装置に送信する(ステップS5)。
【0064】
このようにして、PC1側からIDが認証可通知とともに該当するポインティング装置に送られてくると(ここでは、ポインティング装置3a,3bはともにそれぞれのIDと認証通知が送られてきたものとする)、これらポインティング装置3a,3bでは、送られてきたIDを取得する(ステップS6)。
【0065】
以上、ステップS1からステップS6までの処理は、ポインティング装置3a,3bが適正であるか否かを判定する認証処理であり、この認証処理の終了した(認証可とされてIDの発行された)ポインティング装置3a,3bを認証済みポインティング装置と呼ぶ。このような認証処理が終了すると、今度は、その認証済みのポインティング装置3a,3bとPC1との間でポインタマーク割り当て処理を行う(ステップS7)。
【0066】
このポインタマーク割り当て処理は、認証済みのポインティング装置3a,3bに対して、ポインティング装置3a,3bごとに異なるポインタマークを割り当てるもので、これについては後に詳細に説明する。
【0067】
このポインタマーク割り当て処理が終了すると、個々のポインティング装置3a,3bによるポインティング操作の実行を可能とするためのポインティングタスクを、発行したIDごと(認証済みポインティング装置ごと)に生成し(ステップS8)、これによって、そのポインティング装置3a,3bはPC1への登録が完了する(ステップS9)。なお、ステップS8にて生成されるポインティングタスクについては後に説明する。
【0068】
以上のようにして、ポインティング装置3a,3bのPC1への登録が完了すると、これらポインティング装置3a,3bからはポインティング操作(所定位置をポインティングする操作だけでなくコマンド入力などの操作を含む)が可能となる。
【0069】
これによって、ポインティング装置3a,3bでポインティング操作を行うと(ステップS10)、取得したIDがその操作指示情報に付加されて(ステップS11)、PC1に送信され、PC1では送られてきたIDを確認し(ステップS12)、そのIDが適正であれば、そのIDに対応して生成されたポインティングタスクを実行する(ステップS13)。また、IDを確認した結果、適正でないと判定された場合は、ポインティングタスクの実行は行わない(ステップS14)。
【0070】
なお、上述の説明では、ポインティング装置は2つ(ポインティング装置3a,3b)として説明したが、ポインティング装置は3個以上であってもよいことは勿論であり、その場合、個々のポインティング装置について図2で示したと同様の処理を行えばよい。
【0071】
次に、図2のステップS7で示したポインタマークの割り当て処理について、図3、図4、図5を参照しながら説明する。このポインタマークの割り当て処理は、認証済みポインティング装置(この場合、ポインティング装置3a,3b)に対してPC1のポインティング操作受付手段15が行うもので、会議やプレゼンテーションなどに用いられる複数のポインティング装置に対してそれぞれ異なったポインタマークが割り当てられる。
【0072】
そのポインタマークの割り当ての仕方として、ここでは、3つの割り当て方法を例にとって説明し、図3の割り当て方法を第1のポインタマーク割り当て方法、図4の割り当て方法を第2のポインタマーク割り当て方法、図5の割り当て方法を第3のポインタマーク割り当て方法とする。なお、ここでも、ポインティング装置はポインティング装置3a,3bの2つであるとして説明する。
【0073】
まず、第1のポインタマーク割り当て方法について図3を参照しながら説明する。PC1側には、割り当て可能なポインタマークとして、たとえば、この図3に示すような複数種類のポインタマーク(説明の都合上、これらポインタマークに対して図示の上から順にM1,M2,M3,・・・という符号を付す)を記憶手段(たとえば表示画像情報記憶手段11)が保持している。
【0074】
そして、図2で説明した認証処理が終了したあと、認証済みポインティング装置3a,3bに対して、PC1側で設定された対応付け規則(たとえば、認証処理の終了順にポインタマークM1から順に割り当てるなど)に基づいて、すでに発行したID(発行済みID)に各ポインタマークM1,M2,・・・を割り当てることで、ID/ポインタマーク対応テーブルを作成する。そのID/ポインタマーク対応テーブルの内容は、たとえば、図3で示すように、ポインタマークM1に対しては発行済みID「○×○×」、ポインタマークM2に対しては発行済みID「×××△」というように、それぞれのポインタマークM1,M2,M3,・・・と発行済みIDとの対応付けがなされたものとなっている。
【0075】
このように、それぞれの発行済みIDに対するポインタマークM1,M2,M3,・・・の割り当てを終了すると、それぞれのポインティング装置3a,3bに対し、その割り当て結果を割り当て通知として送信する。
【0076】
ポインティング装置3a,3bでは、それぞれポインティング操作参加手段36が、PC1からの割り当て通知を受け取ると、その割り当てられたポインタマークを自分の視準手段31に表示させる。たとえば、この図3の例では、ポインティング装置3aは、取得したIDが「○×○×」であって、ポインタマークM1が割り当てられ、ポインティング装置3bは、取得したIDが「×××△」であって、ポインタマークM2が割り当てられているので、ポインティング装置3aの視準手段31には、ポインタマークM1の画像が表示され、ポインティング装置3bの視準手段31には、ポインタマークM2の画像が表示される。
【0077】
このポインティング装置の視準手段31で、そのポインティング装置に割り当てられたポインタマークを表示させる処理は、必須要件ではないが、これを行うことによって、そのポインティング装置3a,3bを使用するそれぞれのユーザは、自分の使用するポインティング装置にはどのようなポインタマークが割り当てられたかを容易に確認することができるので便利である。
【0078】
この第1のポインタマーク割り当て方法は、PC1側であらかじめ決められた規則に基づき、認証済みポインティング装置に対して機械的にポインタマークを割り当て、それをそれぞれのポインティング装置に通知する処理を行えばよいので、ポインティング装置を使用するそれぞれのユーザが好みのポインタマークを選ぶことはできないものの、PC1と各ポインティング装置3a,3bとの間でのポインタマーク割り当て処理に必要な通信データ量を最小限にとどめることができ、ポインタマーク割り当て処理の負荷を非常に軽くすることができるのが利点である。
【0079】
次に、第2のポインタマーク割り当て方法について図4を参照しながら説明する。この第2のポインタマーク割り当て方法においても、PC1側には、割り当て可能なポインタマークとして、たとえば、図3で示したと同様の複数種類のポインタマークM1,M2,M3,・・・を記憶手段(たとえば表示画像情報記憶手段11)が保持している。そして、この第2のポインタマーク割り当て方法は、これら各ポインタマークM1,M2,M3,・・・に対して、それぞれ固有のポインタマーク識別符号(この図4の例では、「001」、「002」、・・・など)が付されている。
【0080】
そして、このような様々なポインタマークがあることを認証済みポインティング装置(この例ではポインティング装置3a,3b)に対し通知し、ポインティング装置3a,3b側では、その中からいずれかのポインタマークを選択する。
【0081】
なお、複数種類のポインタマークがあることを個々のポインティング装置3a,3bに通知し、その中からそれぞれのユーザが選択する方法としては、PC1側が複数のポインタマークの全てまたはその中から幾つかを選んで、それを個々のポインティング装置3a,3bに送信し、ポインティング装置3a,3b側では、送信されてきたポインタマークを自身の視準手段31に表示させて、そのポインティング装置3a,3bを使用するそれぞれのユーザがその中から自分の好みのポインタマークを選ぶ(上述したポインタマーク識別符号を指定する)といった方法や、スクリーン22上に複数種類のポインタマークを表示させておき、その中からそれぞれのユーザが選択する(上述したポインタマーク識別符号を指定する)といった方法がある。
【0082】
このようにして、それぞれのポインティング装置3a,3b側で、そのポインティング装置3a,3bを使用するそれぞれのユーザが自分の好みのポインタマークを選択し、そのポインタマーク選択情報をPC1側に送信すると、PC1では、それぞれのポインティング装置3a,3bからのポインタマーク選択情報に基づいて、そのポインタマークの使用が可能であるか否かの判定(すでに他のポインティング装置で使用されているか否かの判定など)を行い、使用が可能であれば、それぞれのポインティング装置3a,3bにポインタマーク割り当て通知を発行するとともに、ポインタマークの識別符号と発行済みのID(個々のポインティング装置に与えられたID情報)とを対応付けたID/ポインタマーク識別符号対応テーブルを作成する。
【0083】
この図4の例では、識別符号「001」のポインタマークM1は「○×○×」のID(ポインティング装置3aが取得したID)に対応付けられ、識別符号「002」のポインタマークM2は「×××△」のID(ポインティング装置3bが取得したID)に対応付けられた例が示されている。
【0084】
このようにして、認証済みの個々のポインティング装置にポインタマークが割り当てられると、その割り当て結果がそれぞれのポインティング装置の視準手段31に表示される。この図4の例では、ポインティング装置3aの視準手段31には、ポインタマークM1の識別符号「001」が表示され、ポインティング装置3bの視準手段31には、ポインタマークM2の識別符号「002」が表示された例が示されている。なお、このとき、それぞれの視準手段31には、識別符号とともにそれに対応するポインタマークの画像を表示させるようにしてもよい。
【0085】
この第2のポインタマーク割り当て方法は、PC1側と各ポインティング装置3a,3bとの間でのポインタマーク割り当て処理に必要な通信データ量は、上述の第1のポインタマーク割り当て方法に比べるとやや増えるが、各ポインティング装置3a,3bにおいて、それを使用するユーザがポインタマークを限られた範囲ではあるが選択することができるという利点がある。
【0086】
次に、第3のポインタマーク割り当て方法について図5を参照しながら説明する。この第3のポインタマーク割り当て方法は、それぞれのポインティング装置側で1個以上のポインタマークをそれぞれのポインティング装置が持つ記憶手段(図5ではポインタマーク記憶手段37としている)に保持しておき、その中からそのポインティング装置を使用するユーザが好みのポインタマークを選択し、選択したポインタマークに対応するポインタマーク画像に当該ポインティング装置のIDを付加したものをポインタマーク登録情報としてPC1側に送信するものである。
【0087】
このとき、そのポインタマーク記憶手段37から読み出したポインタマークは、視準手段31に表示させ、それをユーザが確認した後にPC1側に送信することが好ましい。
【0088】
PC1側では、それぞれのポインティング装置3a,3bから送られてきたポインタマークを自身の記憶手段(表示画像情報記憶手段11など)に記憶し、そのポインタマークの使用が可能であるか否かの判定(すでに他のポインティング装置で使用されているか否かの判定など)を行い、使用が可能であれば、それぞれのポインティング装置3a,3bにポインタマーク割り当て通知を発行するとともに、そのポインタマークと当該ポインティング装置のIDとを対応付けしたID/ポインタマーク対応テーブルを作成する。
【0089】
この図5のID/ポインタマーク対応テーブルでは、ポインタマークM1は「○×○×」のID(ポインティング装置3aに対して発行した発行済みID)に対応つけられ、ポインタマークM2は「×××△」のID(ポインティング装置3bに対して発行した発行済みID)に対応付けられた例が示されている。
【0090】
この第3のポインタマーク割り当て方法は、各ポインティング装置3a,3bを使用するユーザが独自のポインタマークを種々用意しておき、その中から好みのポインタマークを選択できることが大きな特徴である。
【0091】
以上、図2で説明した本発明の全体的な処理のステップS9までの処理について詳述した。次に、図2におけるステップ10以降の処理、すなわち、複数のポインティング装置(ここではポインティング装置3a,3b)を用いての、スクリーン22上に表示された表示画像のポインティング操作について詳細に説明する。
【0092】
PC1の表示画像情報記憶手段11に記憶されている表示画像情報は、このPC1を操作する操作者の操作によって読み出され、読み出された表示画像情報は表示画像情報生成手段12によって、プロジェクタ21で表示処理が可能となるような表示画像情報生成処理がなされたのち、プロジェクタ21に送られ、プロジェクタ21によってスクリーン22(図6参照)などに投影される。
【0093】
図6はプロジェクタ21によってスクリーン22に投影された表示画像23上の任意の位置を2つのポインティング装置3a,3b(この図6の例において、ポインティング装置3aは通信機能付きのディジタルスチルカメラ(以下では単にディジタルカメラという)、ポインティング装置3bはカメラ付き携帯電話機(以下では単に携帯電話機という)で指示する例を示すものである。
【0094】
この図6からもわかるように、ポインティング装置3aでは、スクリーン22上に投影された表示画像23上の任意の位置Pa(図中、白丸で示されている)を含むように撮影する。また、ポインティング装置3bでは、スクリーン22上に投影された表示画像23上の任意の位置Pb(図中、白丸で示されている)を含むように撮影する。
【0095】
これら任意の位置Pa,Pbは、スクリーン22に投影された表示画像23上においてポインタマークM1,M2を表示しようとする位置であり、以下、これを指示位置Pa,Pbという。
【0096】
そして、ポインティング装置3aの視準手段31(ディジタルカメラのディスプレイ画面)で設定される撮影可能範囲の中央部に指示位置Paが位置するようにして撮影する。なお、表示画像23上に示されている破線枠Aaはこのポインティング装置3aの視準手段31で設定される撮影可能範囲(一般にはディスプレイ画面の表示範囲)であり、この破線枠Aaで囲まれた範囲が1回の撮影で撮影可能な範囲となる。同様に、ポインティング装置3bの視準手段31(携帯電話機のディスプレイ画面)で設定される撮影可能範囲の中央部に指示位置Pbが位置するようにして撮影する。なお、表示画像23上に示されている破線枠Abはこのポインティング装置3bの視準手段31で設定される撮影可能範囲であり、この破線枠Abで囲まれた範囲が1回の撮影で撮影可能な範囲となる。
【0097】
このようにして、ポインティング装置3aやポインティング装置3bを用いて、指示位置Pa,Pbをその視準手段31すなわち撮影可能範囲Aa,Abの中央部に位置させた状態で撮影を行うと、それぞれの撮影画像情報はポインティング操作参加手段36に渡され、ポインティング操作参加手段36では、自身に付与されたID情報をそれぞれの撮影画像情報に付加し、そのID情報の付加された撮影画像情報を通信手段を介してPC1に送信する。
【0098】
なお、この図6においては、ポインティング装置3aは、接続ケーブル6を用いUSBやIEEE1394などのインタフェースによってPC1に情報伝送する例が示され、ポインティング装置3bは、基地局4からインタネット5を介してPC1に情報伝送する例が示されている。
【0099】
図7はポインティング装置3a,3b側の上述したポインティング操作処理を説明するフローチャートであるが、この処理はポインティング装置3a,3bで共通であるので、ここでは、ポインティング装置3aを例にとって説明する。
【0100】
まず、視準手段31で設定される撮影可能範囲Aaの中央部に指示位置Paが位置するようにして撮影し(ステップS21)、撮影画像情報を取得し(ステップS22)、その撮影画像情報に自身のIDを付加して(ステップS23)、PC1に送信する(ステップS24)。
【0101】
なお、この図7におけるステップS21,S22の処理は、ポインティング位置を指示して、その指示座標位置を特定するための撮影画像情報を取得する操作であるが、ポインティング操作としては、これだけではなく、その指示座標位置におけるコマンド入力のための操作がある。
【0102】
このコマンド入力操作は、まず、ユーザがコマンド入力を行い(ステップS25)、そのコマンドがコマンド情報として取得される(ステップS26)。そして、取得されたコマンドに対して、自身に付与されたIDを付加(ステップS23)したのちに、PC1への送信を行う(ステップS24)。このコマンド入力操作については後に説明する。
【0103】
一方、PC1では図8に示すように、IDの付加された撮影画像情報(またはコマンド入力情報)をポインティング操作受付手段15で受信すると(ステップS30)、ポインティング装置を特定するためにIDを抽出し(ステップS31)、そのポインティング装置が認証済みのポインティング装置であるか否かを判定する認証確認を行う(ステップS32)。この認証確認の結果、認証不可であるとの判定がなされた場合には、それ以降の操作指示は受け付けないようにするが、認証可であるとの判定がなされると、ステップS31で抽出されたIDに対応するポインティングタスクに処理が移る。なお、同図では特に明記していないが、ステップS32はそれぞれのIDに対応するポインティングタスクに処理を移すためのIDスイッチとしての役割も兼ねている。このように、ポインティングタスクは、個々のポインティング装置ごとに生成・実行されるもので、個々のポインティング装置に付与されたIDによって管理される。
【0104】
このポインティングタスクの処理手順は、図8からもわかるように、まず、受信した情報が撮影画像情報/コマンドであるかを調べ(ステップS33)、撮影画像情報である場合には、撮影画像情報の取得を行い(ステップS34)、その取得した撮影画像情報を用いて指示座標特定手段13が指示座標特定処理を行う(ステップS35)。この指示座標特定処理によって指示座標が特定されると、表示画像情報生成手段12は、その特定された指示座標を取得し(ステップS36)、現在表示されている表示画像の指示座標(ステップS36で取得された指示座標)上にそのポインティング装置3aに割り当てられたポインタマークM1を表示させる表示画像情報生成処理を行う(ステップS37)。
【0105】
また、上述のステップS33において、受信した情報がコマンドである場合には、そのコマンドを取得し(ステップS38)、当該コマンドに対するコマンド処理を行って(ステップS39)、その処理結果を表示画像上のその時点におけるポインタマーク指示座標位置に反映させる(ステップS40)。
【0106】
なお、指示座標の特定とコマンド入力をほぼ同時に行うことも可能であり、その場合は、撮影画像情報とコマンドを取得して、撮影画像情報を用いた指示座標特定処理を行って、現在表示中の表示画像上におけるその特定された指示座標にポインタマークを合成して表示させる処理を行う(ステップS34〜S37)。一方、取得されたコマンドについてはコマンド処理を行い、その処理結果をステップS37で生成された表示画像上のポインタマーク指示座標位置に反映させる処理を行う(ステップS38〜S40)。
【0107】
図9は図8のステップS35の処理、すなわち、PC1の指示座標特定手段13が行う指示座標特定処理手順を示すもので、ポインティング装置(ポインティング装置3aとする)から送信された撮影画像情報を取得すると(ステップS41)、まず、歪や明るさなど各種の補正処理、さらに、拡大/縮小など各種の前処理を行い(ステップS42)、その前処理された撮影画像情報からテンプレート画像情報を生成する(ステップS43)。このテンプレート画像情報は、ステップS42で行われる前処理によって表示画像情報とのマッチングを調べるのに適した解像度となっている。
【0108】
そして、そのテンプレート画像情報がスクリーン22上に表示されている表示画像23全体の内のどの部分に対応するのかを判定するためには、そのテンプレート画像情報と、表示画像情報記憶手段11に記憶されている表示画像情報のうちの撮影時点で表示された表示画像に対応する表示画像情報とを用いてテンプレートマッチングなどの画像認識処理を行えばよい。(ステップS44)。
【0109】
そして、テンプレート画像情報が撮影時点で表示された表示画像に対応する表示画像情報のどの部分に対応するのかが判定されると、その判定された部分の中央部が指示位置Paであるとしてその指示位置Paに対応する座標を指示座標として抽出する(ステップS45)。
【0110】
このようにして、指示座標特定手段13によって指示位置Paに対応する指示座標が得られると、その指示座標上にポインタマークM1を合成して表示する(図6参照)。これによって、スクリーン22上に投影された表示画像23上の指示位置PaにはPC1上で生成されたポインタマークM1が表示される。
【0111】
なお、上述の処理手順において、そのテンプレート画像情報と表示画像情報記憶手段11に記憶されている表示画像情報のうち、現時点で表示されている表示画像に対応する表示画像情報とのパターンマッチングを行う際、撮影画像に他のポインティング装置のポインタマークが入ってしまう場合がある。
【0112】
これは、たとえば、ポインティング装置3aによって、ある指示位置を含む範囲を撮影しようとするとき、ポインティング装置3bのポインタマークM2がその撮影領域内に存在するような場合であり、このような場合、撮影画像(ポインタマークM1が含まれる)と表示画像情報記憶手段11に記憶されている表示画像情報のうちの現時点で表示されている表示画像に対応する表示画像情報とのパターンマッチングを行っても、指示座標特定がうまくいかない可能性がある。
【0113】
そこで、ポインティング装置3a,3bによって、ある画像領域を撮影する際、そのポインティング装置3a,3bからの撮影画像情報に撮影時のタイムスタンプ情報を付加してPC1に送信する。一方、PC1でも、撮影時と同一時刻の表示画像情報を、タイムスタンプ情報を付加して保存しておく。そして、同時刻のタイムスタンプ情報の付加された両者の画像を用いてパターンマッチングを行う。
【0114】
これによって、たとえば、ポインティング装置3aによって、ある表示領域を撮影した際、その領域内に他のポインティング装置3bのポインタマークM2が存在していても、PC1で保存されている同時刻の表示画像情報は、ポインタマークM2の合成されている表示画像情報であるので、両者ともに同じ位置にポインタマークM2が存在するため、適正なパターンマッチングを行うことができる。
【0115】
図10は図8のステップS37の処理、すなわち、スクリーン22上に投影されている表示画像23上の指示位置にポインタマークを表示させる処理手順を説明するフローチャートであり、上述の図9に示す処理によって、たとえば、ポインティング装置3aのポインティング操作に対応した指示座標が特定されると、その指示座標を取得し(ステップS51)、そのポインティング装置3aに割り当てられたポインタマークM1に対応するポインタマーク画像情報を読み出す(ステップS52)。
【0116】
このポインタマーク画像情報の読み出しは、たとえば、図3のポインタマーク割り当て方法によってポインタマークの割り当てがなされているとすれば、この図3に示すID/ポインタマーク対応テーブルを参照することによって、対応するポインタマーク画像情報の読み出しを行う。なお、このポインタマーク画像情報はたとえば、表示画像情報記憶手段11に保持されている。
【0117】
そして、その読み出されたポインタマーク画像情報が、現時点での表示画像に対応する表示画像情報の所定座標(図9によって特定された指示座標)に合成され(ステップS53)、その指示座標にポインタマークの付加された表示画像情報が生成される(ステップS54)。
【0118】
これによって、たとえば、図6で示すように、スクリーン22上に投影されている表示画像23には、この場合、ポインティング装置3aで指示した指示位置PaにポインタマークM1が表示される。
【0119】
以上は主にポインティング装置3aによる指示座標位置特定動作についての説明であるが、ポインティング装置3bによる指示座標特定動作もポインティング装置3bの視準手段(ディジタルカメラのディスプレイ画面)で設定される撮影可能範囲の中央部に指示位置Pbが位置するようにして撮影するだけで、あとは、ポインティング装置3aの場合と同様の処理によって、その指示位置Pbには、このポインティング装置3bに割り当てられたポインタマークM2を表示させることができる。
【0120】
このように、スクリーン22上に投影されている表示画像23上のある位置を指示したい場合、複数のポインティング装置(この実施形態では、ポインティング装置3a,3b)で指示したい位置(指示位置Pa,Pb)がそれぞれのポインティング装置3a,3bの視準手段(ディスプレイ画面)31の中心に位置するようにして、その部分の画像を撮影するだけで、表示画像の指示位置Pa,Pbに、ポインティング装置3aに割り当てられたポインタマークM1とポインティング装置3bに割り当てられたポインタマークM2を表示させることができる。
【0121】
また、複数のポインティング装置3a,3bによって指示されることによって得られた座標位置で、PC1に対して何らかのコマンドを与えると、PC1ではそのコマンドに対応した処理を行って、その結果を当該座標位置上で反映させることもできる。以下、このコマンド入力操作とその結果を反映させる処理について説明する。
【0122】
図11はこのコマンド入力操作とその結果を反映させる処理を実現するための構成図であり、図1で示した構成図に対して、ポインティング装置3a,3bにはそれぞれコマンド入力手段35が設けられ、PC1にはコマンド処理手段14が設けられている点が異なるだけで、それ以外の構成要素は図1と同様であるので、同一部分には同一符号を付すことによって、それらの説明は省略する。
【0123】
コマンド処理手段14は、ポインティング装置3a,3bから与えられコマンドに対応した処理を実行するものである。
【0124】
図12はスクリーン22上に投影された表示画像23のあるポインティング位置(ここでは、ポインティング装置3bによって指示された指示座標位置であるとする)にそのポインティング装置3bからコマンド入力を行って、そのコマンドに対する処理結果が反映された例を示すもので、この図12の例では、ポインティング装置3bからのコマンドは、基地局4からインタネット5などを介してPC1に送信される例が示されている。
【0125】
この例では、ポインティング装置3bから出力されたコマンドとしては、「Hello」という単語を、そのポインティング装置3bで指示した指示位置Pbに表示させるというものである。すなわち、前述したような手順によって、ポインタマークM2の指示座標を取得する処理を行い、その結果得られたポインタマークM2の指示座標上において、「Hello」という単語を表示させるコマンドを発生することで、PC1側ではそのコマンドを受け取り、その時点におけるポインタマークの指示座標上に「Hello」を表示させるというものである。
【0126】
このようなポインタマークM2の指示座標上でのコマンド実行処理は、ポインタマークM2の指示座標をPC1が把握できるために可能となるものである。
【0127】
図13は図12に対して他のコマンド入力例であり、この図13の場合は、数値をポインタマークの指示座標上で表示させる例を示すもので、この場合は、ポインティング装置3bからコマンドとしての数値入力を行うことで、PC1側ではたとえば表計算アプリケーションが働いてそのコマンドに対する処理を実行し、その処理結果が指定座標に表示される。
【0128】
なお、図12および図13ではポインティング装置3bからのコマンド入力操作について説明したが、ポインティング装置3aについても、コマンド入力手段を有していれば同様に実施することができる。
【0129】
以上説明したように、この実施形態1では、複数のポインティング装置(ここでは、ポインティング装置3a,3b)によって、スクリーン22に表示されている表示画像23上を同時にポインティング操作することが可能となるが、これを利用することによって、たとえば、図14に示すように、あるアプリケーションのあるプロセスが実行されているとき、複数のユーザの共同作業によるデータ編集などが可能となる。
【0130】
この図14の例では、3人のユーザがそれぞれポインティング装置を1つずつ用いて(これまでの説明で用いたポインティング装置3a、ポインティング装置3bの他に、図示されていないポインティング装置3cを用いるものとする)、データ編集を行う例であり、それぞれのポインティング装置3a,3b,3cに割り当てられたポインタマークM1,M2、M3が表示画像23上に表示され、その指示位置で、たとえば、データ入力やデータの移動などのデータ編集作業を共同で行う例である。
【0131】
この図14は、複数のポインティング装置で同じプロセスのデータ編集を共同で行う例であるが、複数のポインティング装置ごとにそれぞれが異なるアプリケーションを実行している場合やアプリケーション自体は同種であっても異なるプロセスを実行している場合がある。
【0132】
たとえば、図15のように、スクリーン22に表示されている表示画像23上で3つのアプリケーションA1,A2,A3の情報が表示領域W1,W2,W3に表示されていて、アプリケーションA1はポインティング装置3aによって指示操作され、アプリケーションA2はポインティング装置3bによって指示操作され、アプリケーションA3はポインティング装置3cによって指示操作されているとする。
【0133】
このような状況において、アプリケーションA1について操作指示しているポインティング装置3aのポインタマークM1が、自分の操作指示領域(表示領域W1)から外れて他のポインティング装置3b,3cの操作指示領域(表示領域W2,W3)に入って、その領域W2,W3を操作指示するそれぞれのユーザの意図しない操作(コマンド入力操作を含む)がなされるのは問題である。したがって、それぞれのポインティング装置3a,3b,3cの操作指示領域内に他のポインティング装置のポインタマークが入り込むことができないような排他制御を行うのが好ましい。
【0134】
その具体的な処理としては、たとえば、自分の操作指示領域外の表示領域をポインティングできないようにしたり、自分の操作指示領域からポインタマークが出ないようにするといったことが挙げられる。
【0135】
また、操作指示領域から外れた領域でのポインティング操作だけでなく、「電源を切る」などシステムに多大な影響を与える箇所でのコマンド実行操作も行えないようにすることが必要である。ただし、ルート権限を与えるような制度を設ければ、それが与えられたポインティング装置を使用するユーザのみが、そのようなコマンド実行を可能とするといったことはできるようにしておく。
【0136】
また、複数のポインティング装置(ここではポインティング装置3a,3b)で1つの表示画像23上をポインティング操作する際、複数のポインティング装置の指示位置が重複するような場合もある。たとえば、図6の例で説明すると、指示位置PbにあったポインタマークM2がポインタマークM1の指示位置Paまで移動したような場合などがあり、その場合、2つのポインティング装置3a,3bから発せられたそれぞれのポインタマークM1,M2が重複することになる。このように、異なるポインティング装置3a,3bに対応するそれぞれのポインタマークM1,M2が重複する場合は、重複するポインタマークの表示制御を行う必要がある。この複数のポインティング装置の指示位置が重複する場合のポインタマーク表示制御について以下に説明する。
【0137】
このポインタマーク表示制御は、基本的には、ポインタマークの重複を許す制御とポインタマークの重複を許さない制御がある。
【0138】
ポインタマークの重複を許す制御というのは、たとえば、当初からある座標位置を指示しているポインタマークに対し、他の座標位置にあるポインタマークが重複する座標位置に移動してきた場合、一方のポインタマークを他方のポインタマークに重ねて表示したり、どちらかのポインタマークを消去するといった制御である。
【0139】
また、ポインタマークの重複を許さない制御というのは、たとえば、一方のポインタマークの移動に伴って、その移動してきた一方のポインタマークが当初からその位置にある他方のポインタマークを押しのけてその一方のポインタマークを当該座標位置に表示させたり、移動してくるポインタマークを当初からある座標位置を指示しているポインタマークの座標位置まで移動させることができないようにするといった制御である。
【0140】
これらポインタマークの重複を許す制御またはポインタマークの重複を許さない制御を行うに際して、それぞれのポインタマークに優先度を設定する。その優先度としては、▲1▼重複する座標位置に当初から存在するポインタマークの優先度を、その座標位置にまで移動してくるポインタマークよりも高くする、▲2▼重複する座標位置まで移動してくるポインタマークの優先度を、当初からその座標位置に存在するポインタマークよりも高くする、▲3▼複数のポインティング装置のポインタマークに対し始めから優先度を設定しておくというようなことが考えられる。
【0141】
図16(a)〜(d)はポインタマークの重複を許す制御またはポインタマークの重複を許さない制御の具体例を説明する図である。
【0142】
ポインタマークの重複を許す制御として、たとえば、図16(a)に示すように、当初からある座標位置を指示しているポインタマーク(このポインタマークは説明の都合上、図3〜図5で示したポインタマークのうちのポインタマークM6を用いるものとする)が存在するとし、そのポインタマークM6の座標位置にポインタマークM1が移動してきた場合において、上述の▲3▼が適用されたとする。ここで、ポインタマークM1がポインタマークM6よりも優先度が高く設定されているとすれば、この場合は、ポインタマークM1をポインタマークM6の上に重ねて表示したりポインタマークM6を消去したりするが、ここでは、図16(b)に示すように、優先度の低いポインタマークM6を消去してそのポインタマークM6の指示座標位置にポインタマークM1のみを表示する。
【0143】
なお、この例において、▲2▼が適用された場合は、重複する座標位置まで移動してくるポインタマークM1の優先度が、当初からその座標位置に存在するポインタマークM6よりも高いので、▲3▼が適用された場合と同様、図16(b)のような処理がなされるが、▲1▼が適用された場合は、重複する座標位置に当初から存在するポインタマークの優先度が、その座標位置にまで移動してくるポインタマークよりも高いので、ここでは図示しないが、ポインタマークM1が消去されるなどしてポインタマークM6のみがその座標位置に表示されることになる。
【0144】
また、ポインタマークの重複を許さない制御として、たとえば、図16(a)に示すように、当初からある座標位置を指示しているポインタマークM6に、ポインタマークM1が重複する座標位置に移動してきた場合において、上述の▲3▼が適用されたとする。ここで、ポインタマークM1がポインタマークM4よりも優先度が高く設定されているとすれば、この場合は、図16(c)に示すように、ポインタマークM1がポインタマークM6を矢印a方向へ押しのける制御がなされて、ポインタマークM6の当初の指示座標位置にポインタマークM1のみが表示される。
【0145】
なお、この例の場合、▲2▼が適用された場合は、重複する座標位置まで移動してくるポインタマークの優先度が、当初からその座標位置に存在するポインタマークよりも高いので、▲3▼が適用された場合と同様、図16(c)のような処理がなされるが、▲1▼が適用された場合は、重複する座標位置に当初から存在するポインタマークの優先度が、その座標位置にまで移動してくるポインタマークよりも高いので、たとえば、図16(d)に示すように、ポインタマークM1の移動がポインタマークM6の座標位置の手前で止められるような制御がなされ、ポインタマークM1は、ポインタマークM6の指示座標位置にまで到達することができない。
【0146】
以上説明したように、この実施形態1によれば、複数のポインティング装置を用いる場合、使用するポインティング装置ごとに、認証およびID情報の付加処理を行い、認証済みのポインティング装置のみがポインティング操作を可能としているので、不正なポインティング操作などの問題の発生を確実に防止できる。
【0147】
また、認証済みのポインティング装置ごとに異なったポインタマークが割り当てられるので、1つの表示画面上に多数のポインティング装置でポインティングしたとき、どのポインティング装置がどこを指示しているかが容易に確認できる。
【0148】
なお、この実施形態1では、ポインティング装置3aとしてはディジタルカメラ、ポインティング装置3bとしては携帯電話機を用いた例で説明したが、ポインティング装置としては、ディジタルスチルカメラや携帯電話機だけでなく、通信機能を有するディジタルビデオカメラなどでも同様に実施可能であることは勿論である。
【0149】
また、この実施形態1では、各種のポインタマークに対するポインタマーク画像情報は、PC1の表示画像情報記憶手段11に保持されている例で説明したが、このポインタマーク画像情報は他の場所(たとえば、ポインティング装置3a,3b側)に保持されていてもよく、その保持場所からポインタマーク画像情報を読み出して、それをPC1に転送するようにしてもよい。
【0150】
なお、この実施形態1では、指示座標特定手段13はPC1側に設けられ、PC1側で指示座標特定処理を行う例について説明したが、この指示座標特定手段13をポインティング装置3a,3b側に設けるようにして、ポインティング装置3a,3b側で指示座標特定処理を行うようにしてもよい。この場合、ポインティング装置3a,3bの指示座標特定手段13がPC1側の表示画像情報記憶手段11から現時点で表示されている表示画像を読み出して、表示画像に対する指示座標特定処理を行い、それによって特定された指示座標をPC1側(表示画像情報生成手段12)へ送るようにする。
【0151】
このように、指示座標特定処理はPC1側でなく、ポインティング装置3a,3b側で行うこともできる。なお、指示座標特定処理をポインティング装置3a,3b側で行う場合は、PC1のポインティング操作受付手段15で生成されるポインティングタスクにおける指示座標特定処理(図8のステップS35)は不要となる。したがって、この場合、図8のステップS36の指示座標取得は、ポインティング装置3a,3b側で行われた指示座標特定処理により得られた指示座標を取得することになる。
【0152】
なお、すでに述べたが、指示座標特定手段13をPC1側に設けてPC1側で指示座標特定処理を行う利点は、ポインティング装置3a,3bでは撮影画像情報を単にPC1に送信するだけであり、ポインティング装置3a,3bでの演算量を少なくすることができる。また、ポインティング装置3a,3b側に、指示座標特定に必要なハードウエアやソフトウエアを搭載する必要がない。したがって、ポインティング装置3a,3bとして、一般的な携帯情報機器を用いることができる。また、ポインティング装置3a,3bよりもPC1の方が一般的に処理能力が高いので、より高速に座標特定などの処理が行え、複雑な画像演算処理も容易かつ高速に行うことができ、高精度な座標特定が可能となる。
【0153】
一方、指示座標特定手段13をポインティング装置3a,3b側に設けて、ポインティング装置3a,3b側で指示座標特定処理を行う利点は、PC1側から見てポインティング装置3a,3bを単なるデバイスとしてみなすことができる。すなわち、そのデバイス(ポインティング装置3a,3b)に対して表示画像情報を送信しさえすれば、デバイスからは絶対座標情報が送信されてくるので、PC1側では特に複雑な処理を行う必要が無く、画像処理のための複雑なハードウエアやソフトウエアを搭載する必要がなくなり、かつ、PC1側の演算量を削減できる。
【0154】
〔実施形態2〕
この実施形態2は指示位置を相対座標として取得する例である。この実施形態2においても実施形態1と同様、画像表示装置であるプロジェクタ21をPC1に接続して、当該PC1上のデータをプロジェクタ21によってスクリーン22上に投影し、そのスクリーン22上に投影された表示画像23に対して、複数のポインティング装置で任意の位置を指定し、その指定された位置にそれぞれのポインティング装置に割り当てられたポインタマークを表示する例について説明する。
【0155】
図17はこの実施形態2を説明するに必要な構成要素を示す図であり、その構成要素を大きく分けると、実施形態1と同様に、PC1、このPC1に接続されたプロジェクタ21、プロジェクタ21で投影された表示画像上の任意の位置を指示する複数のポインティング装置(この実施形態2でもポインティング装置3a,3bとする)からなる。なお、ポインティング装置3aはこの実施形態2においてもディジタルカメラ、ポインティング装置3bは携帯電話機であるものとして説明する。
【0156】
この実施形態2においては、PC1は表示すべき画像の画像データを記憶する表示画像情報記憶手段11、現時点において表示すべき画像データを生成するともに、それぞれのポインティング装置3a,3bに割り当てられたポインタマークM1,M2を表示画像23上の指示された位置に合成する機能を有する表示画像情報生成手段12を有している。
【0157】
また、ポインティング装置3a,3bは、視準手段31と、この視準手段31で設定される撮影可能範囲の画像を撮影する撮影手段32と、指示座標移動ベクトルを算出する指示座標移動ベクトル算出手段33と、1フレーム分の撮影画像から得られた特徴画像を記憶するフレームバッファとしての撮影画像情報記憶手段34と、ポインティング操作参加手段36とを有している。なお、このポインティング装置3a,3bからの情報は、無線LAN、赤外線通信、電話回線を利用したネットワークなど何らかの通信手段によってPC1に送信可能となっている。
【0158】
この実施形態2では指示位置を相対座標として取得する方式であるので、ポインティング装置3a,3bを動かした移動方向・移動量(指示座標移動ベクトル)を取得できればよい。このため、ポインティング装置3a,3bはどこを撮影してもよく、たとえば、図18に示すようにスクリーン22に投影された表示画像23から外れた場所を撮影するようにしてもよい。
【0159】
次に、この実施形態2の具体的なポインティング操作について図19のフローチャートを参照しながら説明する。まず、ポインティング操作に先立ち、使用するポインティング装置の認証処理や認証されたポインティング装置に対してポインタマークの割り当てなどの一連の処理を行うが、この一連の処理は、前述の実施形態1の説明で用いた図2の処理手順に従って行えばよいので、ここでは、その説明は省略する。
【0160】
ここで、ポインティング装置3a,3bはともに認証可とされてID情報が付与されたものとし、また、それぞれのポインタマークとして、ポインティング装置3aにはポインタマークM1が割り当てられ、ポインティング装置3bにはポインタマークM2が割り当てられたとする。なお、このポインタマークの割り当てについても、実施形態1の説明で用いた図3、図4、図5のいずれかの方法によって行えるのでその説明は省略する。
【0161】
今、スクリーン22上にはPC1の表示画像情報記憶手段11に記憶されている表示画像情報のうちのある表示画像情報がプロジェクタ21に送られて、その表示画像23がスクリーン22上に投影されているものとする。
【0162】
この状態で、ポインティング装置3a,3bによるポインティング操作を行う。 まず、ポインティング装置3aの撮影機能を用いて任意の場所を撮影する(ステップS61)。なお、この撮影は図18に示すように表示画像の外側でもよく、この図18では、表示画像23の外側の破線枠Aa0を撮影しており、そのときのポインタマークM1は、表示画像23中のある位置Pa0を指示しているものとする。
【0163】
同様に、ポインティング装置3bの撮影機能を用いて任意の場所を撮影する。この場合も、図18に示すように表示画像の外側を撮影してもよい。この図18では、表示画像23の外側の破線枠Ab0を撮影しており、そのときのポインタマークM2は、表示画像23中のある位置Pb0を指示しているものとする。
【0164】
次に、ポインティング装置3a,3bで次のフレーム(図18の実線枠Aa1,Ab1)を撮影し、先に撮影した直前のフレームと比較することで、指示座標移動ベクトル算出手段33によって指示座標移動ベクトル算出処理を行う(ステップS62)。この指示座標移動ベクトルの算出には、動画符号化の一方式であるMPEGなどで用いられる動き補償予測の技術を応用することができる。
【0165】
そして、この指示座標移動ベクトル算出処理によって得られた指示座標移動ベクトルを取得し(ステップS63)、その指示座標移動ベクトルにIDを付加して(ステップS64)、PC1に送信する(ステップS65)。
【0166】
なお、この図19におけるステップS61,S62の処理は、指示座標移動ベクトルを算出するための処理であるが、ポインティング装置が行うポインティング操作としては、これだけではなく、実施形態1で説明したように、その指示座標位置におけるコマンド入力のための操作がある。このコマンド入力操作は、まず、ユーザがコマンド入力を行い(ステップS66)、そのコマンドがコマンド情報として取得される(ステップS67)。そして、このコマンドに対しても、自身に付与されたIDを付加(ステップS64)したのちに、PC1への送信を行う(ステップS65)。
【0167】
一方、PC1では、図20に示すように、ID情報の付加された指示座標移動ベクトル情報をポインティング操作受付手段15で受信すると(ステップS70)、ポインティング装置を特定するためにIDを抽出し(ステップS71)、認証済みのポインティング装置であるか否かを判定する認証確認を行う(ステップS72)。この認証確認の結果、認証不可であるとの判定がなされた場合には、それ以降の操作指示は受け付けないようにするが、認証可であるとの判定がなされると、ステップS71で抽出されたIDに対応するポインティングタスクが実行される。なお、図8においても説明したように、この場合も、ステップS72(図8ではステップS32)はそれぞれのIDに対応するポインティングタスクに処理を移すためのIDスイッチとしての役割も兼ねている。このように、ポインティングタスクは、個々のポインティング装置ごとに生成・実行されるもので、個々のポインティング装置に付与されたIDによって管理される。
【0168】
ポインティングタスクの処理手順は、図20からもわかるように、まず、受信した情報が指示座標移動ベクトル/コマンドであるかを調べ(ステップS73)、指示座標移動ベクトルである場合には、その指示座標移動ベクトルの取得を行い(ステップS74)、表示画像情報生成手段12は、その指示座標移動ベクトルによって求められる指示座標上にそのポインティング装置に割り当てられたポインタマークを表示させる表示画像生成処理を行う(ステップS75)。
【0169】
また、上述のステップS73において、受信した情報がコマンドである場合には、そのコマンドを取得し(ステップS76)、当該コマンドに対するコマンド処理を行って(ステップS77)、その処理結果を表示画像情報生成手段12で生成されたポインタマーク指示座標位置に反映させる(ステップS78)。
【0170】
なお、この場合も実施形態1の図8で説明したように、指示座標の特定とコマンド入力をほぼ同時に行うことも可能である。
【0171】
図21は図19におけるステップS61とS62の処理をより詳細に説明するフローチャートであり、ここでは、ポインティング装置3aを例にとって説明する。
【0172】
まず、ポインティング装置3aの撮影機能を用いて任意の場所(図18に示すように表示画像の外側でもよい)を撮影し(ステップS81)、得られた撮影画像情報に対し、歪や明るさなどの補正処理、さらには、特徴点抽出のための2値化処理などを前処理として行い(ステップS82)、特徴画像情報を取得する(ステップS83)。
【0173】
そして、この特徴画像情報を撮影画像情報記憶手段34に保持されている1フレーム前の特徴画像情報と比較し、たとえば、動画符号化の一方式であるMPEGなどで用いられる動き補償予測の技術を応用して指示座標移動ベクトルを算出し(ステップS84)、それを指示座標移動ベクトルとして出力(ステップS85)するとともに、上述のステップS83で得られた特徴画像情報を、新たな1フレーム前の特徴画像情報として撮影画像情報記憶手段34に書き込むことで特徴画像情報の更新を行う(ステップS86)。そして、ポインティング装置3aの移動が続いていればステップS81に戻る。
【0174】
このようにして、指示座標移動ベクトル算出手段33によって指示座標移動ベクトルが算出されると、その算出された指示座標移動ベクトルに対応する分だけ離れた位置にポインタマークM1を表示させる。
【0175】
なお、ポインティング装置3aで撮影した撮影画像が、最初の撮影画像であって、1フレーム前の特徴画像が得られていない場合には、その最初の撮影画像によって得られた特徴画像が撮影画像情報記憶手段34に保存され、2番目以降の撮影操作を待ち、2番目の撮影によって特徴画像が得られると、その特徴画像と特徴画像記憶手段に保持されている1フレーム前(最初の撮影画像によって得られた特徴画像)とを比較し、指示座標移動ベクトルを求め、その2番目の撮影によって得られた特徴画像を1フレーム前の特徴画像として撮影画像情報記憶手段34に書き込むことで記憶内容を更新する。
【0176】
このようにして、指示座標移動ベクトルが求められると、図18に示すように、スクリーン22に投影された表示画像23上のポインタマークM1を現在の指示位置Pa0を基点に、算出された指示座標移動ベクトルに対応する分だけ離れた位置Pa1に表示させる。
【0177】
図22はスクリーン22上に投影されている表示画像23上の指示位置にポインタマークを合成して表示させる処理手順を説明するフローチャートであり、図10で示した実施形態1における処理に対して、上述の図21で説明した処理手順によって求められた指示座標移動ベクトルと現時点の指示座標とを用いて、ポインタマークMを表示すべき指示座標を求める処理が加わっている。
【0178】
すなわち、指示位置を相対座標として取得する場合は、現在位置からどの方向へどれだけ移動させるかのベクトル量(指示座標移動ベクトル)が求められるだけであるので、まず、現在のポインタマークの指示座標と、算出された指示座標移動ベクトルを取得し(ステップS91)、取得された現在の座標位置と指示座標移動ベクトルとから、新たに指示された指示座標を求める(ステップS92)。
【0179】
たとえば、ポインティング装置3aのポインティング操作に対応した指示座標が求められたとすると、その指示座標を取得し(ステップS93)、そのポインティング装置3aに割り当てられたポインタマークM1に対応するポインタマーク画像情報を読み出す(ステップS94)。このポインタマーク画像情報の読み出しは、たとえば、図3のポインタマーク割り当て方法によってポインタマークの割り当てがなされているとすれば、この図3に示すID/ポインタマーク対応テーブルを参照することによって、対応するポインタマーク画像情報の読み出しを行う。なお、このポインタマーク画像情報はたとえば、表示画像情報記憶手段11に保持されている。
【0180】
そして、その読み出されたポインタマーク画像情報が、現時点での表示画像に対応する表示画像情報の所定座標(ステップS93で取得された指示座標)に合成され(ステップS95)、その指示座標にポインタマークの付加された表示画像情報が生成される(ステップS96)。
【0181】
これによって、たとえば、図18で示すように、スクリーン22に投影された表示画像23上のポインタマークM1を現在の指示位置Pa0を基点に、算出された指示座標移動ベクトルに対応する分だけ離れた位置Pa1に表示させることができる。
【0182】
ここでの説明はポインティング装置3aを例にとって説明したが、ポインティング装置3bにおいても同様に実施することができる。
【0183】
このように、実施形態2では、ポインティング装置3a,3bを動かした移動方向・移動量(指示座標移動ベクトル)を取得できればよいので、ポインティング装置3a,3b側ではスクリーン22上に投影された表示画像でなく、他の場所を撮影してもよい。すなわち、ポインティング装置3a,3bをPCなどに接続されたマウスのように使うことができることから、使い勝手のよいものとなる。なお、この実施形態2の場合、ポインティング装置3a,3bは動画像の取得が可能なものの方がより都合がよいが、静止画のみを入力するカメラであってもよいことは勿論である。
【0184】
また、この実施形態2においても、ポインティング装置3a,3bとしてディジタルカメラや携帯電話機を用いた例で説明したが、これらに限られるものではなく、通信機能を有したディジタルビデオカメラなどでも同様に実施可能であることは勿論である。また、それぞれのポインタマークに対応するポインタマーク画像情報は、PC1の表示画像情報記憶手段11に保持されている例で説明したが、実施形態1でも述べたように、このポインタマーク画像情報は他の場所(たとえば、ポインティング装置3a,3b側)に保存されていてもよく、その保存場所からポインタマーク画像情報を読み出して、それをPC1に転送するようにすることもできる。
【0185】
このように、実施形態2では、ポインティング装置3a,3bでの撮影対象とする画像はプロジェクタ21から投影されている表示画像23でなくてもよいので、撮影場所の制約を少なくすることができる。これによって、たとえば、広いプレゼンテーション会場などで多くの人によってポインティングを行うような場合に使い勝手のよいものとなる。また、ポインティング装置3a,3bをPC1のマウスの感覚で使うことができるので、ポインティング操作がやり易いことも特徴の1つである。
【0186】
また、指示位置を相対座標として取得する場合は、相対座標を求めるための指示座標移動ベクトル算出に必要な情報として、PC1側に保存されている表示画像情報を必要としないので、指示座標移動ベクトル算出の演算はポインティング装置3a,3b側だけで行うことができる。
【0187】
このように、指示座標移動ベクトル算出を行う際に、表示画像情報を必要としないということは、表示画像情報をポインティング装置3a,3b側にロードするといった処理を行う必要がなく、また、ポインティング装置3a,3bで算出された指示座標移動ベクトルだけをPC1側に送信すればよいので、ポインティング装置3とPC1との間で、情報量の多い画像情報の授受の必要がなくなり、両者間の通信負荷を軽くすることができる。
【0188】
ところで、この実施形態2も実施形態1で説明したと同様に、ポインティング装置3a,3bによって指示されることによって得られた指示座標位置で、PC1に対して何らかのコマンドを与え、PC1ではそのコマンドに対応した処理を行って、その結果をポインタマーク位置で反映させることもできる。
【0189】
図23はこのコマンド入力操作とその結果を反映させる処理を実現するための構成図であり、図17で示した構成図に対して、ポインティング装置3a,3bにはそれぞれコマンド入力手段35が設けられ、PC1にはコマンド処理手段14が設けられている点が異なるだけで、それ以外の構成要素は図17と同様であるので、同一部分には同一符号を付すことによって、それらの説明は省略する。
【0190】
このような構成におけるコマンド処理は、前述の実施形態1の図12や図13で説明したと同様に実施できるのでここではその説明は省略する。
【0191】
なお、この実施形態2では、指示座標移動ベクトル算出処理は、ポインティング装置3a,3b側で行うようにしているが、この指示座標移動ベクトル算出処理はPC1側で行うこともできる。この場合、PC1側に指示座標移動ベクトル算出手段33と撮影画像情報記憶手段34を設け、ポインティング装置3からの撮影画像情報を撮影画像情報記憶手段34で保持し、その撮影画像情報を用いて指示座標移動ベクトル算出手段33が指示座標移動ベクトルを算出する。その指示座標移動ベクトル算出処理は上述したと同様の手順で行うことができる。
【0192】
このように、指示座標移動ベクトル算出は、ポインティング装置3a,3bではなく、PC1側で行うこともできる。なお、この場合、PC1のポインティング操作受付手段15で生成されるポインティングタスク(図20参照)には、ステップS74(指示座標移動ベクトル取得)の前段の処理として、ポインティング装置3a,3b側からの撮影画像情報をPC1側に設けられた撮影画像情報記憶手段34に保持する処理と、その撮影画像情報記憶手段34から処理対象となる撮影画像情報を取得し、その撮影画像情報に基づいて指示座標を特定する処理としての指示座標移動ベクトル算出処理が加わる。
【0193】
なお、指示座標移動ベクトル算出をポインティング装置3a,3b側で行う利点は、すでに述べたが、ポインティング装置3a,3bで算出された指示座標移動ベクトル情報だけを情報処理装置側に送信すればよいので、ポインティング装置3とPC1との間で、情報量の多い画像情報の授受の必要がなくなり、両者間の通信負荷を軽くすることができるといった利点の他に、PC1側から見てポインティング装置3a,3bを単なるデバイスとしてみなすことができる。すなわち、そのデバイス(ポインティング装置3a,3b)からPC1に対して単に相対座標情報(指示座標移動ベクトル情報)が送信されてくるので、PC1側では特に複雑な処理を行う必要が無く、画像処理のための複雑なハードウエアやソフトウエアを搭載する必要がなくなり、かつ、PC1側の演算量を削減できる。
【0194】
一方、指示座標移動ベクトル算出をPC1側で行う利点は、ポインティング装置3a,3bでは、撮影画像情報を単にPCに送信するだけであり、ポインティング装置3での演算量を少なくすることができる。また、ポインティング装置3a,3b側に、指示座標移動ベクトルを算出するに必要なハードウエアやソフトウエアを搭載する必要がない。したがって、ポインティング装置3a,3bとして、一般的な携帯情報機器を用いることができる。また、ポインティング装置3a,3bよりもPC1の方が一般的に処理能力が高いので、より高速に指示座標移動ベクトル算出処理が行え、高精度な指示座標移動ベクトルの算出が可能となる。
【0195】
また、この実施形態2においても、実施形態1で説明したように、複数のポインティング装置(ここでは、ポインティング装置3a,3b)によって、たとえば、図14に示すように、表示画面上であるアプリケーションのあるプロセスが実行されているとき、複数のユーザの共同作業によるデータ編集などが可能となる。
【0196】
また、複数のポインティング装置ごとにそれぞれ異なるアプリケーションを実行している場合やアプリケーション自体は同種であっても異なるプロセスを実行している場合があるが、その場合の対処については、実施形態1の図15によって説明したと同様の対処を行えばよい。
【0197】
また、複数のポインティング装置で1つの表示画像上をポインティング操作する際、異なるポインティング装置の指示位置が重複するような場合についても、実施形態1の図16(a)〜(d)により説明したと同様の処理を行うことができる。
【0198】
なお、本発明は上述の実施の形態に限られるものではなく、本発明の要旨を逸脱しない範囲で種々変形実施可能となるものである。たとえば、上述の各実施形態における複数のポインティング装置(実施形態1,2においてはポインティング装置3a,3b)とPC1との接続は、それぞれ異なった通信手段を用いた例が示されているが、図24に示すように、共通の通信手段を用いるものであってもよい。この図24の例では、ポインティング装置3a,3bは、ともにカメラ付き携帯電話機である場合が示されており、両者ともに、基地局4からインタネット5経由でPC1に接続された例である。なお、この図24は指示位置を絶対座標として取得する例であるが、相対座標として取得する場合についても同様である。
【0199】
また、上述の実施形態1では2つのポインティング装置がともに指示位置を絶対座標として取得する場合、実施形態2では2つのポインティング装置がともに指示位置を相対座標として取得する場合であったが、図25に示すように、一方のポインティング装置(この図25ではポインティング装置3a)は指示位置を絶対座標として取得し、他方のポインティング装置(この図25ではポインティング装置3b)は指示位置を相対座標として取得するというようにすることもできる。
【0200】
また、前述の各実施形態では、複数のポインティング装置として、ポインティング装置3a,3bの2つを用いた例について説明したが、ポインティング装置は、もっと多数であってもよいことは勿論である。
【0201】
また、前述の各実施形態では、プレゼンテーション会場などにおいて、プロジェクタによってスクリーン上に投影された表示画像に対するポインティング操作について説明したが、これ以外にもたとえばガンシューティングなどの各種ゲームにも応用可能である。
【0202】
また、本発明は以上説明した本発明を実現するための処理手順が記述された処理プログラムを作成し、その処理プログラムをフロッピィディスク、光ディスク、ハードディスクなどの記録媒体に記録させておくこともでき、本発明は、その処理プログラムの記録された記録媒体をも含むものである。また、ネットワークから当該処理プログラムを得るようにしてもよい。
【図面の簡単な説明】
【図1】本発明の実施形態1(指示位置を絶対座標として取得する場合)に係わる情報表示システムの構成図である。
【図2】本発明の実施形態1,2の全体的な処理の流れを説明する図である。
【図3】本発明の実施形態1,2に係わるポインタマーク割り当て処理(第1のポインタマーク割り当て方法)を説明する図である。
【図4】本発明の実施形態1,2に係わるポインタマーク割り当て処理(第2のポインタマーク割り当て方法)を説明する図である。
【図5】本発明の実施形態1,2に係わるポインタマーク割り当て処理(第3のポインタマーク割り当て方法)を説明する図である。
【図6】本発明の実施形態1において複数のポインティング装置を用いてのポインティング操作する例を示す図である。
【図7】本発明の実施形態1におけるポインティング装置側のポインティング操作時の処理手順を説明するフローチャートである。
【図8】本発明の実施形態2における情報処理装置(PC)側の処理手順を説明するフローチャートである。
【図9】図8における指示座標特定手段が行う指示座標特定処理を説明するフローチャートである。
【図10】図8における表示画像情報生成手段が行う表示画像情報生成処理を説明するフローチャートである。
【図11】実施形態1において指定位置を絶対座標として取得し、その際乃至そのあと、その指定座標上でコマンドを実行可能とするための構成図である。
【図12】コマンド入力を行って、そのコマンドに対する処理の実行結果が指定座標位置に表示された一例を示す図である。
【図13】コマンド入力を行って、そのコマンドに対する処理の実行結果が指定座標位置に表示された他の例を示す図である。
【図14】表示画面上である1つのアプリケーションの中のあるプロセスが実行されているとき、複数のユーザがそれぞれのポインティング装置を用いて共同作業を行う例を説明する図である。
【図15】表示画面上で異なったアプリケーションをそれぞれのユーザがそれぞれのポインティング装置を用いて作業を行う例を説明する図である。
【図16】複数のポインティング装置で1つの表示画像上をポインティング操作する際、異なるポインティング装置の指示位置が重複するような場合のポインタマーク表示制御を説明する図である。
【図17】本発明の実施形態2(指示位置を相対座標として取得する場合)に係わる情報表示システムの構成図である。
【図18】本発明の実施形態2において複数のポインティング装置を用いてのポインティング操作する例を示す図である。
【図19】本発明の実施形態2におけるポインティング装置側のポインティング操作時の処理手順を説明するフローチャートである。
【図20】本発明の実施形態2における情報処理装置(PC)側の処理手順を説明するフローチャートである。
【図21】図19におけるステップS61,S62をより詳細に説明するフローチャートである。
【図22】図20における表示画像情報生成手段が行う表示画像情報生成処理を説明するフローチャートである。
【図23】実施形態2において指定位置を絶対座標として取得し、その際乃至そのあと、その指定座標上でコマンドを実行可能とするための構成図である。
【図24】複数のポインティング装置を用いてポインティング操作を行う例において、ポインティング装置と情報処理装置(PC)との間を共通の通信手段で接続した例を示す図である
【図25】複数のポインティング装置を用いてポインティング操作を行う例において、指示位置を絶対座標として取得するポインティング装置と相対座標として取得するポインティング装置を混在させた例を示す図である。
【符号の説明】
1 情報処理装置(PC)、2 情報表示装置、3a ポインティング装置(通信機能付きのディジタルスチルカメラ)、3b ポインティング装置(カメラ付き携帯電話機)、4 携帯電話の基地局、5 インタネット、6 接続ケーブル、11 表示画像情報記憶手段、12 表示画像情報生成手段、13 指示座標特定手段、14 コマンド処理手段、15 ポインティング操作受付手段、21 プロジェクタ、22 スクリーン、23 表示画像、31 視準手段、32撮影手段、33 指示座標移動ベクトル算出手段、34 撮影画像情報記憶手段、35 コマンド入力手段、36 ポインティング操作参加手段、37 ポインタマーク記憶手段
Claims (14)
- 情報処理装置と、この情報処理装置に保持された情報を表示画面上に表示可能な情報表示装置と、この情報表示装置によって表示された表示画像上の任意の位置を指示する複数のポインティング装置とを有する情報表示システムであって、
前記複数のポインティング装置は、個々のポインティング装置において、自身を前記情報処理装置に登録するに必要な処理をその処理機能の1つとして行うポインティング操作参加手段を有し、
前記情報処理装置は、前記ポインティング装置のポインティング操作参加手段からの情報に基づいて当該ポインティング装置の認証可否を判定して認証可と判定した場合に当該ポインティング装置を登録する処理をその処理機能の1つとして行うポインティング操作受付手段を有する、
ことを特徴とする情報表示システム。 - 前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置に対し、当該ポインティング装置固有の識別情報を発行することを特徴とする請求項1記載の情報表示システム。
- 前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置に対し、個々のポインティング装置ごとに異なるポインタマークを割り当てるポインタマーク割り当て処理を行うことを特徴とする請求項1または2記載の情報表示システム。
- 前記情報処理装置のポインティング操作受付手段は、前記認証可とされたポインティング装置ごとにそのポインティング装置が行うポインティング操作実行用のポインティングタスクを生成することを特徴とする請求項1から3のいずれかに記載の情報表示システム。
- 前記複数のポインティング装置の指示位置が重複する場合、予め設定された規則に基づく優先度を設定し、その複数のポインティング装置から発せられるそれぞれのポインタマークのうちの優先度の最も高いポインタマークのみを当該座標位置で表示させることを特徴とする請求項1から4のいずれかに記載の情報表示システム。
- 前記ポインティング装置は、前記ポインティング操作参加手段に加えて、前記表示画像上で指示しようとする位置を含む所定範囲を撮影してその所定範囲に対応する撮影画像情報を出力可能な撮影手段を有し、
前記情報処理装置は、前記ポインティング操作受付手段に加えて、このポインティング操作受付手段で認証可とされたポインティング装置からの撮影画像情報を受け取り、その撮影画像情報が撮影時点での表示画像に対応する表示画像情報のどの部分に対応するかを判定し、その判定結果から前記ポインティング装置それぞれが指示しようとする位置の座標を指示座標として特定する指示座標特定手段と、表示すべき画像に対する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、その表示画像上の前記指示座標特定手段で特定された指示座標にポインタマークを合成して表示する表示画像情報生成手段とを有する、
ことを特徴とする請求項1から5のいずれかに記載の情報表示システム。 - 前記情報処理装置のポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記ポインティング装置が指示する指示座標を特定する指示座標特定処理と、前記表示画像上の当該特定された指示座標上にポインタマークを合成して表示させる表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることを特徴とする請求項6記載の情報表示システム。
- 前記ポインティング装置は、前記ポインティング操作参加手段に加えて、前記表示画像上で指示しようとする位置を含む所定範囲を撮影してその所定範囲に対応する撮影画像情報を出力可能な撮影手段と、この撮影手段からの撮影画像情報を受け取り、その撮影画像情報が撮影時点での表示画像に対応する表示画像情報のどの部分に対応するかを判定し、その判定結果からこのポインティング装置が指示しようとする位置の座標を指示座標として特定する指示座標特定手段とを有し、
前記情報処理装置は、前記ポインティング操作受付手段に加えて、表示すべき画像に対する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、前記認証可とされたポインティング装置の指示座標特定手段で特定された前記表示画像上の指示座標にポインタマークを合成して表示する表示画像情報生成手段とを有する、
ことを特徴とする請求項1から5のいずれかに記載の情報表示システム。 - 前記情報処理装置のポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記ポインティング装置で特定された前記表示画像上の指示座標にポインタマークを合成して表示する表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることを特徴とする請求項8記載の情報表示システム。
- 前記ポインティング装置は、前記ポインティング操作参加手段に加えて、当該ポインティング装置で撮影しようとする任意の範囲を撮影してその範囲に対応する撮影画像情報を出力可能な撮影手段と、この撮影手段による撮影位置と撮影角度の少なくとも一方を変化させあるいは変化させること無く複数回撮影することによって得られる現時点でのフレームよりも時間的に前のフレームの撮影画像情報を記憶する撮影画像情報記憶手段と、この撮影画像情報記憶手段に記憶された撮影画像情報と前記現時点でのフレームの撮影画像情報とを比較して、その比較結果から指示座標移動ベクトルを算出する指示座標移動ベクトル算出手段とを有し、
前記情報処理装置は、前記ポインティング操作受付手段に加えて、前記表示すべき画像に対応する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、その表示画像上において現時点で表示されているあるポインティング装置のポインタマークを、そのポインティング装置で算出された前記指示座標移動ベクトルに対応する分だけ離れた位置で当該表示画像に合成して表示する表示画像情報生成手段とを有する、
ことを特徴とする請求項1から5のいずれかに記載の情報表示システム。 - 前記情報処理装置のポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記ポインティング装置で算出された指示座標移動ベクトルに基づいて得られる座標上で前記ポインタマークを前記表示画像に合成して表示する表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることを特徴とする請求項10記載の情報表示システム。
- 前記ポインティング装置は、前記ポインティング操作参加手段に加えて、ある所定範囲を撮影してその所定範囲に対応する撮影画像情報を出力可能な撮影手段を有し、
前記情報処理装置は、前記ポインティング操作受付手段に加えて、このポインティング操作受付手段で認証可とされたポインティング装置の撮影手段による撮影位置と撮影角度の少なくとも一方を変化させあるいは変化させること無く複数回撮影することによって得られる現時点でのフレームよりも時間的に前のフレームの撮影画像情報を記憶する撮影画像情報記憶手段と、この撮影画像情報記憶手段に記憶された撮影画像と前記ポインティング装置の撮影手段から得られた現時点でのフレームの撮影画像情報とを比較して、その比較結果から指示座標移動ベクトルを算出する指示座標移動ベクトル算出手段と、表示すべき画像に対応する画像情報を記憶する表示画像情報記憶手段と、この表示画像情報記憶手段に記憶された画像情報を表示画像情報として生成するとともに、その表示画像上において現時点で表示されているあるポインティング装置のポインタマークを、前記指示座標移動ベクトル算出手段で算出された前記指示座標移動ベクトルに対応する分だけ離れた位置で当該表示画像に合成して表示する表示画像情報生成手段とを有する、
ことを特徴とする請求項1から5のいずれかに記載の情報表示システム。 - 前記情報処理装置のポインティング操作受付手段が前記ポインティングタスクを生成する場合、そのポインティングタスクには、前記指示座標移動ベクトルを算出する指示座標移動ベクトル算出処理と、この指示座標移動ベクトル算出処理で算出された前記指示座標移動ベクトルに基づいて得られる座標上で前記ポインタマークを前記表示画像に合成して表示する表示画像生成処理と、前記ポインティング装置により指示された座標上で入力されたコマンドを実行するコマンド処理とが含まれることを特徴とする請求項12記載の情報表示システム。
- 情報処理装置と、この情報処理装置に保持された情報を表示画面上に表示可能な情報表示装置と、この情報表示装置によって表示された表示画像上の任意の位置を指示する複数のポインティング装置とを有する情報表示システムにおけるポインティング装置制御方法であって、
前記複数のポインティング装置は、個々のポインティング装置において、自身を前記情報処理装置に登録するための処理を行うステップをその処理手順に含み、
前記情報処理装置は、前記ポインティング装置のポインティング操作参加手段からの情報に基づいて当該ポインティング装置の認証可否を判定して認証可と判定した場合に当該ポインティング装置を登録する処理をその処理手順に含む、
ことを特徴とする情報表示システムにおけるポインティング装置制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003146594A JP2004348577A (ja) | 2003-05-23 | 2003-05-23 | 情報表示システムおよび情報表示システムにおけるポインティング装置制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003146594A JP2004348577A (ja) | 2003-05-23 | 2003-05-23 | 情報表示システムおよび情報表示システムにおけるポインティング装置制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004348577A true JP2004348577A (ja) | 2004-12-09 |
Family
ID=33533404
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003146594A Withdrawn JP2004348577A (ja) | 2003-05-23 | 2003-05-23 | 情報表示システムおよび情報表示システムにおけるポインティング装置制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004348577A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008090795A (ja) * | 2006-10-05 | 2008-04-17 | Denso Corp | 車載マルチカーソルシステム |
JP2009048616A (ja) * | 2007-08-14 | 2009-03-05 | Fuji Xerox Co Ltd | ビデオカメラをポインティング装置として使用するときの画面上のカーソルの動的制御方法、システム、およびプログラム |
JP2015057746A (ja) * | 2014-12-25 | 2015-03-26 | シャープ株式会社 | 画像表示システムの制御方法及び制御装置 |
JP2015129999A (ja) * | 2014-01-06 | 2015-07-16 | 日本電信電話株式会社 | 属性制御装置および属性制御方法 |
JP2015228144A (ja) * | 2014-06-02 | 2015-12-17 | 株式会社ミツトヨ | 情報入出力装置、情報入出力方法及び位置計測装置 |
JP2016103109A (ja) * | 2014-11-27 | 2016-06-02 | 富士通株式会社 | 表示装置、表示方法及び表示プログラム |
JP2017021629A (ja) * | 2015-07-13 | 2017-01-26 | 凸版印刷株式会社 | ポインタ制御装置、ポインタ制御方法、プログラム、及びポインタ制御システム |
US10712841B2 (en) | 2017-03-22 | 2020-07-14 | Casio Computer Co., Ltd. | Display control device, display control system, display control method, and storage medium having stored thereon display control program |
-
2003
- 2003-05-23 JP JP2003146594A patent/JP2004348577A/ja not_active Withdrawn
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008090795A (ja) * | 2006-10-05 | 2008-04-17 | Denso Corp | 車載マルチカーソルシステム |
JP2009048616A (ja) * | 2007-08-14 | 2009-03-05 | Fuji Xerox Co Ltd | ビデオカメラをポインティング装置として使用するときの画面上のカーソルの動的制御方法、システム、およびプログラム |
JP2015129999A (ja) * | 2014-01-06 | 2015-07-16 | 日本電信電話株式会社 | 属性制御装置および属性制御方法 |
JP2015228144A (ja) * | 2014-06-02 | 2015-12-17 | 株式会社ミツトヨ | 情報入出力装置、情報入出力方法及び位置計測装置 |
JP2016103109A (ja) * | 2014-11-27 | 2016-06-02 | 富士通株式会社 | 表示装置、表示方法及び表示プログラム |
JP2015057746A (ja) * | 2014-12-25 | 2015-03-26 | シャープ株式会社 | 画像表示システムの制御方法及び制御装置 |
JP2017021629A (ja) * | 2015-07-13 | 2017-01-26 | 凸版印刷株式会社 | ポインタ制御装置、ポインタ制御方法、プログラム、及びポインタ制御システム |
US10712841B2 (en) | 2017-03-22 | 2020-07-14 | Casio Computer Co., Ltd. | Display control device, display control system, display control method, and storage medium having stored thereon display control program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100841281B1 (ko) | 전자 회의 시스템, 전자 회의 제어 장치, 정보 단말 기기,전자 회의 지원 방법 | |
US6243103B1 (en) | Panoramic image generation in digital photography | |
US8760399B2 (en) | Display system, display device and display method | |
US20170180680A1 (en) | Object following view presentation method and system | |
US20060098174A1 (en) | Image output apparatus and control method thereof, and image output system | |
JP4710734B2 (ja) | ポインティング装置、ポインティング位置検出方法及びプログラム | |
JP2007208741A (ja) | 遠隔指示システム及び遠隔指示方法 | |
JP4736381B2 (ja) | 撮像装置及び方法、監視システム、プログラム並びに記録媒体 | |
JP2004348577A (ja) | 情報表示システムおよび情報表示システムにおけるポインティング装置制御方法 | |
CN102025912B (zh) | 图像拍摄系统、设备和方法以及信息处理设备 | |
JP6635573B2 (ja) | 画像処理システム、画像処理方法、及びプログラム | |
JP6237028B2 (ja) | 投影装置、投影方法及び情報処理システム | |
JP2023121636A (ja) | 情報処理システム、通信システム、画像共有方法、プログラム | |
JP7439398B2 (ja) | 情報処理装置、プログラム及び情報処理システム | |
JP4839858B2 (ja) | 遠隔指示システム及び遠隔指示方法 | |
CN114866749B (zh) | 设定方法和记录介质 | |
JP2004021542A (ja) | 画像処理装置、撮影端末、及び画像処理システム | |
JP7390978B2 (ja) | アノテーション支援装置および方法 | |
JP4507665B2 (ja) | 電話機位置情報の登録方法 | |
JP2004194203A (ja) | 撮影システム、情報処理装置及びその処理方法、並びにプログラム | |
JP2017198945A (ja) | 投影装置、投影装置の制御方法、プログラム | |
JP2017085234A (ja) | 携帯端末、プロジェクター、投写システム、投写システムの制御方法およびプログラム | |
JP5533201B2 (ja) | 撮像画像表示装置、撮像画像表示システム、制御方法、撮像画像表示方法およびプログラム。 | |
JP2023168896A (ja) | 表示端末、通信システム、表示方法、通信方法、及びプログラム | |
CN117750189A (zh) | 一种图像获取方法、装置、设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060801 |