JP2011170545A

JP2011170545A - ポインティングシステム

Info

Publication number: JP2011170545A
Application number: JP2010032728A
Authority: JP
Inventors: Shinya Takayama; 伸也高山; Toshiharu Horiuchi; 俊治堀内; Tsuneo Kato; 恒夫加藤
Original assignee: KDDI Corp
Current assignee: KDDI Corp
Priority date: 2010-02-17
Filing date: 2010-02-17
Publication date: 2011-09-01
Anticipated expiration: 2030-02-17
Also published as: JP5462656B2

Abstract

【課題】ポインティングデバイスの姿勢（方向）を求めることにより、ポインティングデバイスがスクリーンから離れている場合でもポインタ機能を実現する。
【解決手段】相互に異なる疑似ランダム信号で変調された音波を発信する複数のスピーカ２０ａ、２０ｂ、２０ｃと、音波を受信する複数のマイク１０ａ、１０ｂと、各マイク１０ａ、１０ｂが受信した受信変調音波に相関処理を施して、変調音波の到達時間を求め、到達時間に基づいて、各スピーカ２０ａ、２０ｂ、２０ｃと各マイク１０ａ、１０ｂとの距離を算出する距離算出部３０−０と、算出した距離に基づいて、各マイク１０ａ、１０ｂの空間上の位置を推定する位置推定部３０−１と、ポインティングデバイス１０上の任意の一点を通り、方向ベクトルと平行な直線と平面としてのスクリーンとの交点を推定する指示点推定部３０−２と、を備える。
【選択図】図２

Description

本発明は、ポインティングデバイスが指し示すスクリーン上の位置を推定し、その推定した位置情報を表示装置に送信して、指示点を表示するポインティングシステムに関する。

従来から、プレゼンテーションにおいてオブジェクトを指示するために、指示棒やレーザポインタが用いられる。また、指示棒やレーザポインタ自体を赤外線カメラで撮影し、画像処理により指し示す向きを算出して、指示点を表示するシステムもある。

特許文献１に開示されている技術では、指示棒の先端と画面上の複数の位置との間で超音波の送受信を行なわせ、その送受信に要する時間に基づいて距離を求め、指示棒の平面位置座標を推定し、指示点を表示する。また、特許文献２に開示されている技術では、ポインティングデバイスから赤外線および超音波を同時に出力し、赤外線を画面上のフォトダイオードで受光すると共に、超音波を画面上の２つのマイクでそれぞれ受信する。そして、赤外線が受光されてから超音波が受信されるまでの間の時間差に基づいて、マイクからデバイスまで距離を求め、その指示点を表示する。

特開２００１−１２５７４０号公報特開２００５−１２２５３４号公報

しかしながら、指示棒やレーザポインタでは、指示点検出するために、スクリーン表面に受光素子を敷き詰めたり、カメラで指示点を撮影したりするなどの必要があり、ポインティングシステムの価格が著しく上昇してしまう。光波に識別子を埋め込ことで複数のポインティングデバイスを識別するシステムを構築することが困難である。さらに、遮蔽物がある場合は、オブジェクトを指示すること自体できない。

また、指示棒やレーザポインタ自体を赤外線カメラで撮影し、画像処理により指し示す向きを算出して、指示点を表示するシステムでは、赤外線カメラは、暗い屋内において、画像処理により位置測定を実現できるものの、遮蔽物がある場合など、重なりが発生すると、推定精度が劣化しやすい。

また、特許文献１に開示されている技術では、指示棒の先端が接する画面上の平面位置座標を推定し、指示点を表示するため、利用シーンが指示棒とスクリーンとが近い場合に限られてしまう。このため、利用者がスクリーンに接近しなければならず、利用者がスクリーンから離れている場合は、この技術を使うことができない。また、特許文献２に開示されている技術では、送受信における時刻同期を取るために赤外線を用いるが、ポインティングシステムに赤外線送受信機を装着する必要がある。このため、ポインティングデバイスが大型になると共に、ポインティングシステムが高価なものになってしまう。さらに、ポインティングデバイスと受光部との間に遮蔽物などがあると、推定精度が劣化しやすい。

また、複数の発信装置から同時時刻に音波を発信させる手法も考えられるが、異なる発信装置から発生された音波を受信装置で区別することができず、発信装置と受信装置との距離が正確に算出できない。一方、複数の発信装置から異なる時刻に音波を発信させると、その間にデバイスが移動することは大いに考えられ、その場合、指示点の推定精度が低下してしまう。さらに、変調を施していない音波は周囲の環境によって変化を生じやすく、とりわけ雑音環境下では、音波の到達時刻差を算出する精度に問題がある。

本発明は、このような事情に鑑みてなされたものであり、ポインティングデバイスの姿勢（方向）を求めることにより、ポインティングデバイスがスクリーンから離れている場合でもポインタ機能を実現する。また、赤外線を利用しないことにより、小型で安価かつ利便性の高いポインティングシステムを提供する。とりわけ、ポインティングデバイス側で音波を受信するポインティングシステムにおいては、安価かつ省電力なポインティングデバイスを実現する。さらに、受光素子の敷き詰めやカメラの設置をすることなく、指示点としてコンピュータへ渡す位置座標を検出することができる。また、ポインティングデバイスに識別子を付加することにより、複数のポインティングデバイスを識別するシステムを構築することができる。さらに、遮蔽物があってもポインタ機能を発揮できる。

また、変調音波を利用して音波到達時間を求めることで、雑音環境下やポインティングデバイスが移動している状況下であっても測定の精度を向上し、変調音波を複数の音波発信装置から同時に発信することを可能とすることで、高精度かつ高速な指示点の表示を可能とする。

（１）上記の目的を達成するために、本発明は、以下のような手段を講じた。すなわち、本発明のポインティングシステムは、ポインティングデバイスが指し示すスクリーン上の位置を推定するポインティングシステムであって、空間内で相互に異なる複数の位置に設けられ、相互に異なる疑似ランダム信号で変調された音波を発信する複数の音波発信装置と、ポインティングデバイス上の任意の位置に設けられ、音波を受信する複数の音波受信装置と、前記各音波受信装置が受信した受信変調音波に相関処理を施して、前記変調音波の到達時間を求め、前記到達時間に基づいて、前記各音波発信装置と前記各音波受信装置との距離を算出する距離算出部と、前記各音波発信装置と各音波受信装置との距離に基づいて、前記各音波受信装置の空間上の位置を推定する位置推定部と、前記推定した音波受信装置の各座標の任意の二点を結ぶ直線、または、前記推定した音波受信装置の各座標の任意の一点と前記推定した音波受信装置の各座標の重心とを結ぶ直線と、既知である前記ポインティングデバイスの方向を示すベクトルとの角度差に基づいて、前記ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、前記ポインティングデバイス上の任意の一点を通り、前記推定した方向ベクトルと平行な直線と平面としての前記スクリーンとの交点を推定する指示点推定部と、を備えることを特徴とする。

このように、超音波を擬似ランダム信号で変調させ、各音波発信装置から発信させた変調音波を各音波受信装置が受信し、その受信した変調音波に相関処理を施して変調音波の到達時間を求め、その求めた到達時間に基づいて、各音波発信装置と各音波受信装置との距離を算出し、その算出した各音波発信装置と各音波受信装置との距離に基づいて、各音波受信装置の空間上の位置を推定し、その推定した各音波受信装置の空間上の位置に基づいて、ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、方向ベクトルに平行な直線とスクリーンとの交点を推定するので、遮蔽物があってもポインティングデバイスが指示する点を正確に把握することが可能となる。また、ポインティングデバイス側に音波受信装置が設けられているため、ポインティングデバイスの小型化を図ることが可能となる。さらに、変調音波を利用して音波到達時間を算出することで雑音環境下やポインティングデバイスが移動している状況下であっても音波到達時間が正確に求まり、音波を複数の音波発信装置から同時に発信することが可能であるため、高精度かつ高速な指示点の表示が可能となる。

（２）また、本発明のポインティングシステムは、ポインティングデバイスが指し示すスクリーン上の位置を推定するポインティングシステムであって、空間内で相互に異なる複数の位置に設けられ、相互に異なる疑似ランダム信号で変調された音波を発信する複数の音波発信装置と、ポインティングデバイス上の任意の位置に設けられ、音波を受信する複数の音波受信装置と、前記各音波受信装置が受信した受信変調音波に相関処理を施して、前記変調音波の到達時間を求め、前記到達時間に基づいて、前記各音波発信装置と前記各音波受信装置との距離を算出する距離算出部と、前記各音波発信装置と各音波受信装置との距離に基づいて、前記各音波受信装置の空間上の位置を推定する位置推定部と、前記推定した音波発信装置の各座標の任意の二点を結ぶ直線、または、前記推定した音波発信装置の各座標の任意の一点と前記推定した音波発信装置の各座標の重心とを結ぶ直線と、既知である前記ポインティングデバイスの方向を示すベクトルとの角度差に基づいて、前記ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、前記ポインティングデバイス上にない任意の一点を通り、前記推定した方向ベクトルと平行な直線と平面としての前記スクリーンとの交点を推定する指示点推定部と、を備えることを特徴とする。

（３）また、本発明のポインティングシステムは、ポインティングデバイスが指し示すスクリーン上の位置を推定するポインティングシステムであって、ポインティングデバイス上の任意の位置に設けられ、相互に異なる疑似ランダム信号で変調された音波を発信する複数の音波発信装置と、空間内で相互に異なる複数の位置に設けられ、音波を受信する複数の音波受信装置と、前記各音波受信装置が受信した受信変調音波に相関処理を施して前記変調音波の到達時間を求め、前記到達時間に基づいて、前記各音波発信装置と各音波受信装置との距離を算出する距離算出部と、前記各音波受信装置と各音波発信装置との距離に基づいて、前記各音波発信装置の空間上の位置を推定する位置推定部と、前記推定した音波発信装置の各座標の任意の二点を結ぶ直線、または、前記推定した音波発信装置の各座標の任意の一点と前記推定した音波発信装置の各座標の重心とを結ぶ直線と、既知である前記ポインティングデバイスの方向を示すベクトルとの角度差に基づいて、前記ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、前記ポインティングデバイス上の任意の一点を通り、前記推定した方向ベクトルと平行な直線と平面としての前記スクリーンとの交点を推定する指示点推定部と、を備えることを特徴とする。

このように、超音波を擬似ランダム信号で変調させ、各音波発信装置から発信させた変調音波を各音波受信装置が受信し、その受信した変調音波に相関処理を施して変調音波の到達時間を求め、その求めた到達時間に基づいて、各音波発信装置と各音波受信装置との距離を算出し、その算出した各音波発信装置と各音波受信装置との距離に基づいて、各音波発信装置の空間上の位置を推定し、その推定した各音波発信装置の空間上の位置に基づいて、ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、方向ベクトルに平行な直線とスクリーンとの交点を推定するので、遮蔽物があってもポインティングデバイスが指示する点を正確に把握することが可能となる。また、変調音波を利用して音波到達時間を算出することで、雑音環境下やポインティングデバイスが移動している状況下であっても音波到達時間が正確に求まり、音波を複数の音波発信装置から同時に発信することが可能であるため、高精度かつ高速な指示点の表示が可能となる。

（４）また、本発明のポインティングシステムは、ポインティングデバイスが指し示すスクリーン上の位置を推定するポインティングシステムであって、ポインティングデバイス上の任意の位置に設けられ、相互に異なる疑似ランダム信号で変調された音波を発信する複数の音波発信装置と、空間内で相互に異なる複数の位置に設けられ、音波を受信する複数の音波受信装置と、前記各音波受信装置が受信した受信変調音波に相関処理を施して前記変調音波の到達時間を求め、前記到達時間に基づいて、前記各音波発信装置と各音波受信装置との距離を算出する距離算出部と、前記各音波受信装置と各音波発信装置との距離に基づいて、前記各音波発信装置の空間上の位置を推定する位置推定部と、前記推定した音波発信装置の各座標の任意の二点を結ぶ直線、または、前記推定した音波発信装置の各座標の任意の一点と前記推定した音波発信装置の各座標の重心とを結ぶ直線と、既知である前記ポインティングデバイスの方向を示すベクトルとの角度差に基づいて、前記ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、前記ポインティングデバイス上にない任意の一点を通り、前記推定した方向ベクトルと平行な直線と平面としての前記スクリーンとの交点を推定する指示点推定部と、を備えることを特徴とする。

（５）また、本発明のポインティングシステムにおいて、前記各音波発信装置は、同時時刻または異なる時刻の少なくとも一方に前記音波を発信することを特徴とする。

このように、各音波発信装置が、同時時刻に前記音波を発信することにより、指示点表示速度を向上させ、レスポンスの早いポインティングシステムを実現することが可能となる。一方、各音波発信装置が、異なる時刻前記音波を発信することによって、音波受信装置側では、どの音波発信装置から発信された音波であるのかを区別しやすくなるため、音波到達時間の算出精度を向上させることが可能となる。

（６）また、本発明のポインティングシステムは、前記交点を前記ポインティングデバイスが指示する指示点として画面に表示する表示部をさらに備えることを特徴とする。

このように、交点を前記ポインティングデバイスが指示する指示点として画面に表示するので、ユーザが指示点を容易に把握することができる。

（７）また、本発明のポインティングシステムは、前記表示部に表示されている画面を、前記スクリーンに投影する投影装置をさらに備えることを特徴とする。

このように、表示部に表示されている画面を、前記スクリーンに投影するので、プレゼンテーションでの利便性の向上を図ることができる。

本発明によれば、超音波を擬似ランダム信号で変調させ、各音波発信装置から発信させた変調音波を各音波受信装置が受信し、その受信した変調音波に相関処理を施して変調音波の到達時間を求め、その求めた到達時間に基づいて、各音波発信装置と各音波受信装置との距離を算出し、その算出した各音波発信装置と各音波受信装置との距離に基づいて、各音波受信装置の空間上の位置を推定し、その推定した各音波受信装置の空間上の位置に基づいて、ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、方向ベクトルと平行な直線と平面としてのスクリーンとの交点を推定するので、遮蔽物があってもポインティングデバイスが指示する点を正確に把握することが可能となる。また、ポインティングデバイス側に音波受信装置が設けられているため、ポインティングデバイスがスクリーンから離れている場合でも指示する点を正確に把握することが可能となる。また、ポインティングデバイス側に音波受信装置が設けられているため、ポインティングデバイスの小型化を図ることが可能となる。さらに、ポインティングデバイスに識別子を付加することにより、複数のポインティングデバイスを識別するシステムを構築することができる。また、遮蔽物があってもポインティングデバイスが指示する点を正確に把握することが可能となる。さらに、変調超音波を利用して到達時間を算出することで、雑音環境下やポインティングデバイスが移動している状況下であっても超音波到達時間が正確に求まり、変調超音波を複数の音波発信装置から同時に発信することが可能であるため、高精度かつ高速な指示点の表示が可能となる。

第１の実施形態に係るポインティングシステムの概略構成を示す図である。第１の実施形態に係るポインティングシステム１の機能を示すブロック図である。第１の実施形態に係るポインティングシステム１の動作を示すフローチャートである。相互相関値を示す図である。第２の実施形態に係るポインティングシステムの概略構成を示す図である。

本発明の実施形態に係るポインティングシステムは、既知の位置に設置された複数のスピーカと、ユーザが使用するポインティングデバイスに装着されたマイクとの間で変調を施した超音波を送受信し、受信した超音波に対して相関処理を行い超音波の到達時間を求めてスピーカとマイクとの距離を算出し、ポインティングデバイスに装着されたマイクの位置を推定する。また、ポインティングデバイスに複数のマイクを装着することにより、ポインティングデバイス上の複数の位置座標を求めることが可能となると共に、ポインティングデバイスの向き（指し示す方法）を推定し、これらの情報に基づいて、ＰＣの画面またはスクリーンに指示点を表示するポインタ機能を実現する。その結果、ポインティングデバイスがスクリーンから離れている場合であっても、ポインティング機能を発揮させることが可能となる。

また、本実施形態では、赤外線等の他の無線手段を使用せず、超音波のみを用いる。その結果、ポインティングデバイスに赤外線送受信機等を装着する必要が無いため、ポインティングデバイスの小型化が可能となる。さらに、本実施形態では、超音波を擬似ランダム信号で変調して送受信を行う。擬似ランダム信号はある規則に従って人工的に発生させた周期信号であり、再現性があり、その規則を知っていればその値が完全に確定する。そのため、雑音環境下やポインティングデバイスが移動している状況下であっても音波到達時間が正確に求まり、音波を複数の音波発信装置から同時に発信することが可能であるため、高精度かつ高速な指示点の表示が可能となる。なお、スピーカとマイクとは、相互に入れ替わったとしても、発明の本質は変わらない。

また、本発明の実施形態に係るポインティングシステムでは、赤外線等の光（電磁波）ではなく、音波を利用する。音波とは、いずれの音域も含む概念であるが、好ましくは、１８ｋＨｚ以上の帯域を利用する。本明細書では、一例として、いわゆる超音波を用いたポインティングデバイスを示すが、本発明の技術的思想は、超音波に限定されるわけではない。

さらに、本発明の実施形態に係るポインティングシステムでは、超音波の変調に擬似ランダム信号の一つであるＭ系列を利用する。本明細書では、一例として、Ｍ系列変調を示すが、本発明の技術的思想は、Ｍ系列変調に限定されるわけではない。

［第１の実施形態］
図１は、第１の実施形態に係るポインティングシステムの概略構成を示す図である。図１に示すように、ポインティングシステム１は、ポインティングデバイス１０と、スクリーン２０と、ＰＣ（Personal Computer）３０と、プロジェクタ４０と、から構成されている。ポインティングデバイス１０には、任意の位置に音波受信装置としての複数のマイクが設けられている。

具体的には、図１では、ポインティングデバイス１０の長手方向の先端部に２つのマイク１０ａ、１０ｂが設けられている。スクリーン２０の近傍には、発信装置毎に異なるＭ系列で変調を施した超音波を断続的に発信する音波発信装置としてのスピーカが複数設けられている。具体的には、図１では、３つのスピーカ２０ａ、２０ｂ、２０ｃが、スクリーン２０の３つの頂点部に設けられている。そして、マイク１０ａ、１０ｂは、３つのスピーカ２０ａ、２０ｂ、２０ｃが発信するＭ系列変調超音波を受信する。

ポインティングデバイス１０とＰＣ３０とは、無線インタフェースまたは有線インタフェースで接続されており、ポインティングデバイス１０のマイク１０ａ、１０ｂでＭ系列変調超音波を受信したときに、受信波を示すデータがＰＣ３０に発信されるように構成されている。ＰＣ３０では、受信波に相関処理を行ってＭ系列変調超音波の到達時間を求め、スピーカ２０ａ、２０ｂ、２０ｃとマイク１０ａ、１０ｂとの距離をそれぞれ算出すると共に、ポインティングデバイス１０の位置、およびその指し示す方向（図１においてＰで示す）、スクリーン２０上のポインティングデバイス１０の指示点の位置を推定する。推定した指示点（Ａ１）は、ＰＣ３０の画面上に表示される。なお、ＰＣ３０が３つのスピーカ２０ａ、２０ｂ、２０ｃからＭ系列変調超音波を発信するように指示しても良いし、３つのスピーカ２０ａ、２０ｂ、２０ｃがＭ系列変調超音波を発信したときに、発信時刻を示す情報をＰＣ３０に入力するようにしても良い。

ＰＣ３０は、ケーブル３０ａを介して投影装置としてのプロジェクタ４０に接続されている。ＰＣ３０の画面に表示される画像は、プロジェクタ４０を介して、スクリーン２０に投影される。その際、ＰＣ３０において推定されたポインティングデバイス１０の指示点Ａ１は、スクリーン２０上に指示点Ａ２として表示される。

図２は、第１の実施形態に係るポインティングシステム１の機能を示すブロック図である。ＰＣ３０の距離算出部３０−０は、ポインティングデバイス１０のマイク１０ａ、１０ｂが、スピーカ２０ａ、２０ｂ、２０ｃから受信したＭ系列変調超音波に対して相関処理を行ってＭ系列変調超音波の到達時間を求め、スピーカ２０ａ、２０ｂ、２０ｃとマイク１０ａ、１０ｂとの距離をそれぞれ算出する。また、ＰＣ３０の位置推定部３０−１は、距離算出部３０−０が算出したスピーカ２０ａ、２０ｂ、２０ｃとマイク１０ａ、１０ｂとの距離に基づいて、マイク１０ａ、１０ｂの空間上の位置を推定する。

さらに、指示点推定部３０−２は、位置推定部３０−１が推定した各マイク１０ａ、１０ｂの空間上の位置に基づいて、ポインティングデバイス１０の指示方向（Ｐの方向）を特定する方向ベクトルを推定する。また、指示点推定部３０−２は、ポインティングデバイス１０上の任意の一点を通り、方向ベクトルと平行な直線（Ｐ）と、平面としてのスクリーン２０との交点Ａ２を推定する。その他の構成については、図１で説明したとおりであるため、説明を省略する。

図３は、第１の実施形態に係るポインティングシステム１の動作を示すフローチャートである。まず、ＰＣ３０において、３つのスピーカ２０ａ、２０ｂ、２０ｃから発信させる超音波を変調するためのＭ系列をそれぞれ生成する（ステップＳ１）。ｉ＝１，…，３を３つのスピーカ２０ａ、２０ｂ、２０ｃの識別子とすると、Ｍ系列：Ｍ_ｉは、式（１）で表される。

一方、ｍ_ｉ（ｍ）を生成させる漸化式は、式（２）で表される。

ここで、ｇ_ｉ（ｌ）をフィードバック係数と呼び、その値は、０または１である。フィードバック係数は、原始多項式：Ｇ_ｉ（ｘ）として、式（３）で与えられる。

ここで、ｎをＭ系列の次数と呼ぶ。Ｍ系列の周期は２^ｎ−１で表せるから、生成するＭ系列の要素数Ｎとは、式（４）で示される関係が成り立つ。

本実施形態では、式（４）の関係を満せば、任意の原始多項式を与えても十分である。ただし、３つのスピーカ２０ａ、２０ｂ、２０ｃから発信させる変調超音波は全て異なる信号である必要があるから、式（５）で示される全条件を同時に満たさなければならない。

次に、ＰＣ３０において、生成したＭ系列：Ｍ_ｉを用い、搬送波である超音波を変調する（ステップＳ２）。本明細書では、一例として、振幅変調法を示すが、本発明の技術的思想は、振幅変調に限定されるわけではない。

本実施形態で使用する搬送波の波形をＵ（ｔ）、搬送波のサンプリング周波数をＱ、搬送波の時間長をＬとする。ここで、搬送波：Ｕ（ｔ）のθサンプルごとに、Ｍ系列の１要素を用いて振幅変調を施す。ゆえに、３つのスピーカ２０ａ、２０ｂ、２０ｃから発信する変調超音波：Ｆ_ｉ（ｔ）は、式（６）で表される。

ただし、式（７）は、ａを超える最大の整数を表す。

従って、式（４）より、式（８）が成り立つように、Ｍ系列の次数ｎを決定し、原始多項式を与える。

次に、周波数帯域が１８ｋＨｚ以上になるように、Ｆ_ｉ（ｔ）に帯域制限を施した変調超音波を３つのスピーカ２０ａ、２０ｂ、２０ｃから断続的にそれぞれ発信する（ステップＳ３）。さらに、２つのマイク１０ａ、１０ｂで、３つのスピーカ２０ａ、２０ｂ、２０ｃから発信された変調超音波をそれぞれ受信する（ステップＳ４）。ここで、ｊ＝１，２を２つのマイク１０ａ、１０ｂの識別子として、受信された変調超音波の波形をＰ_ｊ（ｘ）で表す。そして、ポインティングデバイス１０からＰＣ３０に対して、受信波形Ｐ_ｊ（ｘ）を送信する（ステップＳ５）。

次に、ＰＣ３０において、ポインティングデバイス１０から送信された受信波形Ｐ_ｊ（ｘ）に相関処理を施して、３つのスピーカ２０ａ、２０ｂ、２０ｃから発信された変調超音波が２つのマイク１０ａ、１０ｂで受信されるまでの到達時間Ｔ_ｉｊを算出する（ステップＳ６）。ここで、相互相関値：Ｄ_ｉｊ（τ）を、式（９）を用いて求める。

ただし、前述のとおりＰＣ３０は変調超音波の発信時刻を別途入手しているため、τをスピーカ２０ａ、２０ｂ、２０ｃから変調超音波が発信されてから経過した時間とすることができる。また、相関処理に用いるＭ系列：ｍ_ｉ（ｍ）の値は、その直流成分をほぼ０にするため、０または１のかわりに−１または１を用いる。そして、Ｄ_ｉｊ（τ）を最大とするτを算出し、その値を到達時間Ａ_ｉｊとする。

ここで、Ｍ系列は再現性があり、その規則を知っていればその値が完全に復元するという特徴がある。例として、式（１０）で示される、異なる２つの原始多項式から生成した５次のＭ系列：Ｍ１、Ｍ２を考える。

このとき、Ｍ１、Ｍ２を結合した搬送波：Ｕ（ｔ）を式（１１）で表す。

式（１１）に対し、Ｍ系列：Ｍ１、Ｍ２をそれぞれ用いて相互相関値：Ｄ_ｉ（τ）を求めた結果を図４に示す。

図４に示すように、相互相関値：Ｄ_ｉ（τ）は、Ｍ系列：Ｍ_ｉが受信された時のみ、ピークが鋭く立つことが分かる。ゆえに、雑音や他の音波が存在する環境であったとしても、到達時間Ａ_ｉｊが高精度で算出できる。従って、３つのスピーカ２０ａ、２０ｂ、２０ｃから変調超音波Ｆ_ｉ（ｔ）が同時に発信しても、スピーカ毎に異なるＭ系列で変調した超音波であれば、発明の本質は変わらない。

次に、ＰＣ３０において、到達時間Ａ_ｉｊに基づき、３つのスピーカ２０ａ、２０ｂ、２０ｃと、２つのマイク１０ａ、１０ｂとの距離ｒ_ｉｊを算出する。ここで、音速をＣとすると、ｒ_ｉｊは、式（１２）によって求められる。

式（１３）は、既知の位置に設置されたスピーカの３次元空間座標をそれぞれ（ｕ_ｉ，ｖ_ｉ，ｗ_ｉ）（ｉ＝１，…，ｍ）とし、ポインティングデバイス装着されたマイクの３次元空間座標をそれぞれ（ｘ_ｊ，ｙ_ｊ，ｚ_ｊ）（ｊ＝１，…，ｎ）として、各スピーカと各マイクとの距離ｒ_ｉｊの関係を示す連立方程式を表している。スピーカ及びマイクの数が一般的な場合を示しており、スピーカの数をｍ，マイクの数をｎとする。

ここで、式（１３）の連立方程式は、式数と未知数の関係から、ｍ≧３であれば解くことができる。これにより、既知の位置に設置されたスピーカの数が３つ以上であれば、十分である。

既知の位置に設置されたスピーカ２０ａ、２０ｂ、２０ｃの３次元空間座標をそれぞれ（ｕ_ｉ，ｖ_ｉ，ｗ_ｉ）（ｉ＝１，２，３）とし、ポインティングデバイス１０に装着されたマイク１０ａ、１０ｂの３次元空間座標をそれぞれ（ｘ_ｊ，ｙ_ｊ，ｚ_ｊ）（ｊ＝１，２）として、式（１３）に基づき、各スピーカ２０ａ、２０ｂ、２０ｃと各マイク１０ａ、１０ｂとの距離ｒ_ｉｊの関係を示す連立方程式を立てる。これらの非線形連立方程式を解くことにより、ポインティングデバイス１０に装着されたマイク１０ａ、１０ｂの３次元空間座標を（ｘ_ｊ，ｙ_ｊ，ｚ_ｊ）をそれぞれ算出する（ステップＳ７）。

ここで、既知の位置に設置されたスピーカの数が４つ以上ある場合、式（１３）で示した連立方程式において、式数が未知数を上回り、方程式の解として複数の候補（ｘ_ｊ，ｙ_ｊ，ｚ_ｊ）＝（α_ｋ，β_ｋ，γ_ｋ）（ｋ＝１，…，ｍ！／３！（ｍ−３）！）が得られるが、式（１５）で示す誤差δ_ｋが最小となる（α_ｋ，β_ｋ，γ_ｋ）を、ポインティングデバイス１０に装着された各マイクの３次元空間座標（ｘ_ｊ，ｙ_ｊ，ｚ_ｊ）として採用する。

一方、スピーカとマイクとの間で時刻の同期が取れていない場合は、各スピーカと各マイクとの距離に一定の距離差が発生する。この場合、スピーカとマイクとの時刻差をＴとして、距離ｒ_ｉｊの関係を示す連立方程式を立てる。これを式（１５）で表す。

ここで、式（１５）の連立方程式は、式数と未知数の関係から、ｍ≧４であれば解くことができる。これにより、スピーカとマイクとの間で時刻の同期が取れていない場合は、既知の位置に設置されたスピーカの数が４つ以上であれば、十分である。

次に、ポインティングデバイス１０に装着された複数のマイク１０ａ、１０ｂの３次元空間座標より、ポインティングデバイス１０の向きを表す方向ベクトルを求めて、ポインティングデバイス１０の向きを推定する（ステップＳ８）。例えば、図１に示したように、２つのマイク１０ａ、１０ｂがポインティングデバイス１０の両先端に装着されている場合、方向ベクトルは、式（１６）で与えられる。

ここで、ポインティングデバイス１０に装着されているマイク１０ａ、１０ｂの数が３つ以上の場合や、ポインティングデバイス１０の両先端以外に装着されている場合であっても、ポインティングデバイス１０上でのそれらの相対的位置関係は既知であるため、それらを考慮して方向ベクトルを求めれば十分である。

そして、式（１７）で示すように、空間上の任意の１点（ｘ_ｐ，ｙ_ｐ，ｚ_ｐ）を通り、式（１６）で与えた方向ベクトルに平行な直線の方程式を立てる。

ここで、（ｘ_ｐ，ｙ_ｐ，ｚ_ｐ）は指示点を得るために算出する方向ベクトルに平行な直線の起点である。例えば、ポインティングデバイス１０の利用者側の端にマイク１０ａがある場合は、（ｘ_ｐ，ｙ_ｐ，ｚ_ｐ）＝（ｘ_１，ｙ_１，ｚ_１）とすれば良い。なお、ポインティングデバイス１０から外れた点を（ｘ_ｐ，ｙ_ｐ，ｚ_ｐ）としても、発明の本質は変わらない。

最後に、式（１７）で与えられる直線の方程式と、指示画面平面（スクリーン２０）との交点を求めることにより、ポインティングデバイス１０の指示点（Ｘ，Ｙ）を推定する（ステップＳ９）。例えば、（ｘ_ｐ，ｙ_ｐ，ｚ_ｐ）＝（ｘ_１，ｙ_１，ｚ_１）で、指示画面（スクリーン２０）がｚ＝０にある場合、式（１８）で交点を求めることが可能である。

そして、推定された指示点（Ｘ，Ｙ）をＰＣ３０の画面上に表示すると共に、スクリーン２０上に表示する（ステップＳ１０）。

このように、第１の実施形態によれば、ＰＣ２０において超音波をＭ系列で変調し、スピーカ２０ａ、２０ｂ、２０ｃでその変調超音波を発信し、マイク１０ａ、１０ｂでその変調超音波を受信し、その受信した変調超音波に相関処理を施して変調超音波の到達時間を求め、その求めた到達時間に基づいてスピーカ２０ａ、２０ｂ、２０ｃとマイク１０ａ、１０ｂとの距離を算出し、その算出したスピーカ２０ａ、２０ｂ、２０ｃとマイク１０ａ、１０ｂとの距離に基づいてマイク１０ａ、１０ｂの空間上の位置を推定し、その推定したマイク１０ａ、１０ｂの空間上の位置に基づいてポインティングデバイス１０の指示方向を特定する方向ベクトルを推定すると共に、ポインティングデバイス１０上の任意の一点を通り、方向ベクトルと平行な直線と平面としてのスクリーン２０との交点を推定するので、遮蔽物があってもポインティングデバイス１０が指示する点を正確に把握することが可能となる。

また、ポインティングデバイス１０側にマイク１０ａ、１０ｂが設けられているため、ポインティングデバイス１０の小型化を図ることが可能となる。さらに、変調超音波を利用して到達時間を算出することで、雑音環境下やポインティングデバイスが移動している状況下であっても超音波到達時間が正確に求まり、変調超音波をスピーカ２０ａ、２０ｂ、２０ｃから同時に発信することが可能であるため、高精度かつ高速な指示点の表示が可能となる。

［第２の実施形態］
図５は、第２の実施形態に係るポインティングシステムの概略構成を示す図である。図５に示すように、第２の実施形態に係るポインティングシステム２は、第１の実施形態とは異なり、マイクとスピーカとが相互に交換されている。すなわち、ポインティングデバイス５０には、任意の位置に音波発信装置としての複数のスピーカが設けられている。具体的には、図５では、ポインティングデバイス５０の長手方向の先端部に２つのスピーカ５０ａ、５０ｂが設けられている。スクリーン２０の近傍には、変調超音波を受信する音波受信装置としてのマイクが複数設けられている。具体的には、図５では、３つのマイク６０ａ、６０ｂ、６０ｃが、スクリーン２０の３つの頂点部に設けられている。２つのスピーカ５０ａ、５０ｂが発信する変調超音波の生成は、ＰＣ５０において第１の実施形態と同様の動作を行う。そして、３つのマイク６０ａ、６０ｂ、６０ｃは、２つのスピーカ５０ａ、５０ｂが発信する変調超音波を受信する。

ポインティングデバイス５０とＰＣ３０とは、無線インタフェースまたは有線インタフェースで接続されており、ポインティングデバイス５０のスピーカ５０ａ、５０ｂで変調超音波を発信したときに、発信時刻を示すデータがＰＣ３０に発信されるように構成されている。また、図示しないが、マイク６０ａ、６０ｂ、６０ｃでスピーカ５０ａ、５０ｂが発信した変調超音波を受信したときに、変調超音波の受信波形を示すデータがＰＣ３０に発信されるように構成されている。ＰＣ３０にこれらの情報が入力された後は、第１の実施形態と同様の動作を行う。

このように、第２の実施形態によれば、ＰＣ２０において、超音波を発信装置毎に異なるＭ系列で変調させ、スピーカ５０ａ、５０ｂでその変調超音波を断続的に発信し、マイク６０ａ、６０ｂ、６０ｃでその変調超音波を受信し、その受信した変調超音波に相関処理を施して変調超音波の到達時間を求め、その求めた到達時間に基づいてスピーカ５０ａ、５０ｂとマイク６０ａ、６０ｂ、６０ｃとの距離を算出し、その算出したスピーカ５０ａ、５０ｂとマイク６０ａ、６０ｂ、６０ｃとの距離に基づいてスピーカ５０ａ、５０ｂの空間上の位置を推定し、その推定したスピーカ５０ａ、５０ｂの空間上の位置に基づいて、ポインティングデバイス５０の指示方向を特定する方向ベクトルを推定すると共に、方向ベクトルに平行な直線とスクリーン２０との交点を推定するので、遮蔽物があってもポインティングデバイス５０が指示する点を正確に把握することが可能となる。

また、変調超音波を利用して到達時間を算出することで、雑音環境下やポインティングデバイスが移動している状況下であっても超音波到達時間が正確に求まり、変調超音波をスピーカ５０ａ、５０ｂから同時に発信することが可能であるため、高精度かつ高速な指示点の表示が可能となる。

なお、以上の説明では、スピーカ３つとマイク２つの場合、およびスピーカ２つとマイク３つの場合を示したが、本発明は、この数に限定されるわけではない。スピーカおよびマイクの数が２つ以上であれば、いずれの態様を採ることも可能である。

なお、以上説明した内容の他、本発明は、ポインティングデバイスの一定の動作を検出し、またはポインティングデバイスを一定の方向に移動させることにより、コンピュータシステムに対するクリック操作として検出することも可能である。

また、本発明は、ポインティングデバイスに識別子を付加することにより、複数のポインティングデバイスを識別することも可能である。

また、本発明では、ポインティングデバイスを、ポインティングデバイス、携帯電話機、電話機、カメラ、マイク、定規、ペン、眼鏡、ヘッドフォン、指輪、ネックレス、イヤリング、ピアス、モーション測定デバイスのいずれかで構成することが可能である。

また、本発明では、スクリーンを、スクリーン、ディスプレイ、テレビ、ビルの壁面、窓、ガラス、鏡のいずれかで構成することが可能である。

１、２ポインティングシステム
１０ポインティングデバイス
１０ａ、１０ｂ、１０ｃマイク（音波受信装置）
２０スクリーン
２０ａ、２０ｂ、２０ｃスピーカ（音波発信装置）
３０ＰＣ
３０−０距離算出部
３０−１位置推定部
３０−２指示点推定部
４０プロジェクタ
５０ポインティングデバイス
５０ａ、５０ｂ、５０ｃスピーカ（音波発信装置）
６０ａ、６０ｂ、６０ｃマイク（音波受信装置）

Claims

ポインティングデバイスが指し示すスクリーン上の位置を推定するポインティングシステムであって、
空間内で相互に異なる複数の位置に設けられ、相互に異なる疑似ランダム信号で変調された音波を発信する複数の音波発信装置と、
ポインティングデバイス上の任意の位置に設けられ、音波を受信する複数の音波受信装置と、
前記各音波受信装置が受信した受信変調音波に相関処理を施して、前記変調音波の到達時間を求め、前記到達時間に基づいて、前記各音波発信装置と前記各音波受信装置との距離を算出する距離算出部と、
前記各音波発信装置と各音波受信装置との距離に基づいて、前記各音波受信装置の空間上の位置を推定する位置推定部と、
前記推定した音波受信装置の各座標の任意の二点を結ぶ直線、または、前記推定した音波受信装置の各座標の任意の一点と前記推定した音波受信装置の各座標の重心とを結ぶ直線と、既知である前記ポインティングデバイスの方向を示すベクトルとの角度差に基づいて、前記ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、前記ポインティングデバイス上の任意の一点を通り、前記推定した方向ベクトルと平行な直線と平面としての前記スクリーンとの交点を推定する指示点推定部と、を備えることを特徴とするポインティングシステム。
ポインティングデバイスが指し示すスクリーン上の位置を推定するポインティングシステムであって、
空間内で相互に異なる複数の位置に設けられ、相互に異なる疑似ランダム信号で変調された音波を発信する複数の音波発信装置と、
ポインティングデバイス上の任意の位置に設けられ、音波を受信する複数の音波受信装置と、
前記各音波受信装置が受信した受信変調音波に相関処理を施して、前記変調音波の到達時間を求め、前記到達時間に基づいて、前記各音波発信装置と前記各音波受信装置との距離を算出する距離算出部と、
前記各音波発信装置と各音波受信装置との距離に基づいて、前記各音波受信装置の空間上の位置を推定する位置推定部と、
前記推定した音波発信装置の各座標の任意の二点を結ぶ直線、または、前記推定した音波発信装置の各座標の任意の一点と前記推定した音波発信装置の各座標の重心とを結ぶ直線と、既知である前記ポインティングデバイスの方向を示すベクトルとの角度差に基づいて、前記ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、前記ポインティングデバイス上にない任意の一点を通り、前記推定した方向ベクトルと平行な直線と平面としての前記スクリーンとの交点を推定する指示点推定部と、を備えることを特徴とするポインティングシステム。
ポインティングデバイスが指し示すスクリーン上の位置を推定するポインティングシステムであって、
ポインティングデバイス上の任意の位置に設けられ、相互に異なる疑似ランダム信号で変調された音波を発信する複数の音波発信装置と、
空間内で相互に異なる複数の位置に設けられ、音波を受信する複数の音波受信装置と、
前記各音波受信装置が受信した受信変調音波に相関処理を施して前記変調音波の到達時間を求め、前記到達時間に基づいて、前記各音波発信装置と各音波受信装置との距離を算出する距離算出部と、
前記各音波受信装置と各音波発信装置との距離に基づいて、前記各音波発信装置の空間上の位置を推定する位置推定部と、
前記推定した音波発信装置の各座標の任意の二点を結ぶ直線、または、前記推定した音波発信装置の各座標の任意の一点と前記推定した音波発信装置の各座標の重心とを結ぶ直線と、既知である前記ポインティングデバイスの方向を示すベクトルとの角度差に基づいて、前記ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、前記ポインティングデバイス上の任意の一点を通り、前記推定した方向ベクトルと平行な直線と平面としての前記スクリーンとの交点を推定する指示点推定部と、を備えることを特徴とするポインティングシステム。
ポインティングデバイスが指し示すスクリーン上の位置を推定するポインティングシステムであって、
ポインティングデバイス上の任意の位置に設けられ、相互に異なる疑似ランダム信号で変調された音波を発信する複数の音波発信装置と、
空間内で相互に異なる複数の位置に設けられ、音波を受信する複数の音波受信装置と、
前記各音波受信装置が受信した受信変調音波に相関処理を施して前記変調音波の到達時間を求め、前記到達時間に基づいて、前記各音波発信装置と各音波受信装置との距離を算出する距離算出部と、
前記各音波受信装置と各音波発信装置との距離に基づいて、前記各音波発信装置の空間上の位置を推定する位置推定部と、
前記推定した音波発信装置の各座標の任意の二点を結ぶ直線、または、前記推定した音波発信装置の各座標の任意の一点と前記推定した音波発信装置の各座標の重心とを結ぶ直線と、既知である前記ポインティングデバイスの方向を示すベクトルとの角度差に基づいて、前記ポインティングデバイスの指示方向を特定する方向ベクトルを推定すると共に、前記ポインティングデバイス上にない任意の一点を通り、前記推定した方向ベクトルと平行な直線と平面としての前記スクリーンとの交点を推定する指示点推定部と、を備えることを特徴とするポインティングシステム。
前記各音波発信装置は、同時時刻または異なる時刻の少なくとも一方に前記音波を発信することを特徴とする請求項１から請求項４のいずれかに記載のポインティングシステム。
前記交点を前記ポインティングデバイスが指示する指示点として画面に表示する表示部をさらに備えることを特徴とする請求項１から請求項５のいずれかに記載のポインティングシステム。
前記表示部に表示されている画面を、前記スクリーンに投影する投影装置をさらに備えることを特徴とする請求項６記載のポインティングシステム。