JP2022142488A - ポインティング位置を推定する装置および方法、機器を制御する装置および方法、ならびにプログラム - Google Patents

ポインティング位置を推定する装置および方法、機器を制御する装置および方法、ならびにプログラム Download PDF

Info

Publication number
JP2022142488A
JP2022142488A JP2021042671A JP2021042671A JP2022142488A JP 2022142488 A JP2022142488 A JP 2022142488A JP 2021042671 A JP2021042671 A JP 2021042671A JP 2021042671 A JP2021042671 A JP 2021042671A JP 2022142488 A JP2022142488 A JP 2022142488A
Authority
JP
Japan
Prior art keywords
angle
pointing
coordinate information
reference point
point coordinate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021042671A
Other languages
English (en)
Inventor
光範 松下
Mitsunori Matsushita
光起 佐藤
Koki Sato
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kansai University
Original Assignee
Kansai University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kansai University filed Critical Kansai University
Priority to JP2021042671A priority Critical patent/JP2022142488A/ja
Publication of JP2022142488A publication Critical patent/JP2022142488A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】ポインティング操作の準備をさらに容易にする。【解決手段】ジャイロセンサ23を備えるデバイス2の所定平面におけるポインティング位置を推定する情報処理装置3であって、前記所定平面上に存在する2つの基準点P1,P2の座標を示す基準点座標情報D2を登録する座標情報登録部32と、デバイス2を同一位置から基準点P1,P2の各々に指向させた時の、デバイス2の上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸およびデバイス2の指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得部33と、前記角度情報と、基準点座標情報D2とに基づいて、前記ポインティング位置を算出する位置算出部34と、を備える情報処理装置3。【選択図】図1

Description

特許法第30条第2項適用申請有り (その1) ウェブサイトの掲載日 2021年2月15日 ウェブサイトのアドレス https://ipsj.ixsq.nii.ac.jp/ej/?action=pages_view_main&active_action=repository_view_main_item_detail&item_id=209442&item_no=1&page_id=13&block_id=8 (その2) ウェブサイトの掲載日 2021年2月15日 ウェブサイトのアドレス https://ci.nii.ac.jp/naid/170000184357
本発明は、デバイスのポインティング位置を推定する技術、および、デバイスを用いて機器を操作する技術に関する。
スクリーンを用いてプレゼンテーションをする場合、主にレーザポインタや指示棒が用いられる。また、スクリーンに投影されている情報がプレゼンテーションツールによるものであったり、計算機のミラーリング画面であったりする場合には、マウスやトラックパッドなどのポインティングデバイスがポインティング手段として用いられる。
大型スクリーンを用いた議論やプレゼンテーションの場面においては、単一のスクリーンを用いて、複数の人がポインティングをするという場合がある。しかし、従来のポインティング手段では、ポインティングデバイスが一つしかない場合が多く、ポインティングデバイスを把持しているユーザ以外は画面上の位置を指示しにくいという問題がある。そのため、同時に複数の箇所をポインティングするためには、複数のポインティングデバイスを事前に用意しておく必要がある。
また、正確なポインティングのために、マウスやジャイロマウスなどを用いた相対ポインティング位置ではなく、カメラなどを用いて絶対ポインティング位置を算出する手法も提案されているが、この方法ではカメラなどの専用機器が必要になるという問題がある。
これに対し、特許文献1には、スクリーンに画像を投写して投写像を表示するプロジェクタと、前記スクリーン上の箇所を指し示すためのポインティングデバイスとを有し、前記ポインティングデバイスの角度変化量に基づいて、前記ポインティングデバイスが指し示す位置にポインタを表示するプレゼンテーションシステムであって、前記スクリーン上に少なくとも3点を表示すると共に、前記ポインティングデバイスによって前記3点を撮像し、撮像された3点の各々の座標値に基づいて、前記ポインティングデバイスの角度変化量と前記ポインティングマークを表示する位置とのキャリブレーションを行う発明が開示されている。特許文献1に記載の発明において、ポインティングデバイスとして汎用の携帯端末を用いることにより、専用機器を用いることなく、複数の人がポインティングすることも可能となる。
特開2008-107886号公報
しかしながら、特許文献1に記載の発明では、ポインティングデバイスによって少なくとも3点を撮像する必要があるため、ポインティング操作の準備に手間がかかる。
本発明は、上記問題を解決するためになされたものであって、ポインティング操作の準備をさらに容易にすることを課題とする。
上記課題を解決するために、本発明は以下の態様を含む。
項1.
ジャイロセンサを備えるデバイスの所定平面におけるポインティング位置を推定する装置であって、
前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録部と、
前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得部と、
前記角度情報と、前記基準点座標情報登録部に登録された前記基準点座標情報とに基づいて、前記ポインティング位置を算出する位置算出部と、
を備える装置。
項2.
前記位置算出部は、下記式によって前記ポインティング位置を算出する、項1に記載の装置。
Figure 2022142488000002
x:前記ポインティング位置のx座標
y:前記ポインティング位置のy座標
α:算出時点のアルファ角
β:算出時点のベータ角
:前記2つの基準点を対頂点とする長方形の前記基準点以外の頂点の一方のx座標
:前記2つの基準点を対頂点とする長方形の前記基準点以外の頂点の一方のy座標
:前記2つの基準点を対頂点とする長方形の前記基準点以外の頂点の他方のx座標
:前記2つの基準点を対頂点とする長方形の前記基準点以外の頂点の他方のy座標
α:前記デバイスを前記基準点の一方に指向させたときのアルファ角
α:前記デバイスを前記基準点の他方に指向させたときのアルファ角
β:前記デバイスを前記基準点の一方に指向させたときのベータ角
β:前記デバイスを前記基準点の他方に指向させたときのベータ角
項3.
前記所定平面上に存在する機器の座標を示す機器座標情報を登録する機器座標情報登録部と、
前記機器座標情報に基づき、前記位置算出部が算出したポインティング位置にある機器を特定する操作対象特定部と、
前記デバイスへの操作に応じて、前記特定された機器を制御する機器制御部と、
をさらに備える、項1または2に記載の装置。
項4.
前記デバイスへの操作は、前記デバイスの指向方向に沿った第3軸周りに前記デバイスを回転させる動作であり、
前記角度情報取得部は、前記デバイスの前記第3軸周りのガンマ角をさらに取得し、
前記機器制御部は、前記ガンマ角の変化に基づいて前記特定された機器を制御する、項3に記載の装置。
項5.
項1~4のいずれかに記載の装置と、
前記装置によって推定されたポインティング位置にポインタを表示する表示手段と、
を備えるシステム。
項6.
ジャイロセンサを備えるデバイスの所定平面におけるポインティング位置を推定する位置推定方法であって、
前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録ステップと、
前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得ステップと、
前記角度情報と、前記基準点座標情報登録ステップにおいて登録された前記基準点座標情報とに基づいて、前記ポインティング位置を算出する位置算出ステップと、
を備える位置推定方法。
項7.
ジャイロセンサを備えるデバイスを用いて、所定平面上に存在する機器を制御する機器制御方法であって、
前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録ステップと、
前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得ステップと、
前記角度情報と、前記基準点座標情報登録ステップにおいて登録された前記基準点座標情報とに基づいて、前記デバイスの前記所定平面におけるポインティング位置を算出する位置算出ステップと、
前記機器の座標を示す機器座標情報を登録する機器座標情報登録ステップと、
前記機器座標情報に基づき、前記位置算出ステップで算出したポインティング位置にある機器を特定する操作対象特定ステップと、
前記デバイスへの操作に応じて、前記特定された機器を制御する機器制御ステップと、
を備える機器制御方法。
項8.
前記デバイスへの操作は、前記デバイスの指向方向に沿った第3軸周りに前記デバイスを回転させる動作であり、
前記角度情報取得ステップでは、前記デバイスの前記第3軸周りのガンマ角をさらに取得し、
前記機器制御ステップでは、前記ガンマ角の変化に基づいて前記特定された機器を制御する、項7に記載の機器制御方法。
項9.
ジャイロセンサを備えるデバイスの所定平面におけるポインティング位置を推定するプログラムであって、
コンピュータを、
前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録部、
前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得部、および
前記角度情報と、前記基準点座標情報登録部に登録された前記基準点座標情報とに基づいて、前記ポインティング位置を算出する位置算出部、
として機能させる、プログラム。
項10.
ジャイロセンサを備えるデバイスを用いて、所定平面上に存在する機器を制御するプログラムであって、
コンピュータを、
前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録部、
前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得部、
前記角度情報と、前記基準点座標情報登録部に登録された前記基準点座標情報とに基づいて、前記デバイスの前記所定平面におけるポインティング位置を算出する位置算出部、
前記機器の座標を示す機器座標情報を登録する機器座標情報登録部、
前記機器座標情報に基づき、前記位置算出部が算出したポインティング位置にある機器を特定する操作対象特定部、および
前記デバイスへの操作に応じて、前記特定された機器を制御する機器制御部、
として機能させる、プログラム。
項11.
前記デバイスへの操作は、前記デバイスの指向方向に沿った第3軸周りに前記デバイスを回転させる動作であり、
前記角度情報取得部は、前記デバイスの前記第3軸周りのガンマ角をさらに取得し、
前記機器制御部は、前記ガンマ角の変化に基づいて前記特定された機器を制御する、項10に記載のプログラム。
本発明によれば、ポインティング操作の準備をさらに容易にすることができる。
本発明の一実施形態に係るシステムのブロック図である。 デバイス、基準点表示部および機器が設けられている場所の概略図である。 デバイスの回転角の説明図である。 デバイスに表示される画面の一例である。 (a)は、基準点座標情報の一例であり、(b)は、機器座標情報の一例である。 (a)~(e)は、ガンマ角を利用した操作方法の一例である。 情報処理装置による演算処理の手順を示すフローチャートである。 デバイスに表示される画面の一例である。 ダミーカーソルを含む複数のポインタが表示された画面である。 リアルカーソルの発見にかかった時間とダミーカーソルの数との関係を示すグラフである。
以下、本発明の実施形態について添付図面を参照して説明する。なお、本発明は、下記の実施形態に限定されるものではない。
(システム構成)
図1は、本発明の一実施形態に係るシステム1のブロック図である。システム1は、デバイス2と、情報処理装置3(装置)と、基準点表示部4と、プロジェクタ5(表示手段)と、機器6とを備えている。本実施形態において、デバイス2、基準点表示部4、プロジェクタ5および機器6は、建物内の部屋にある。
デバイス2は、携帯電話、スマートフォン、タブレットなどの携帯端末でもよい。また、電話機能を有さない専用の機器でもよい。本実施形態では、デバイス2として携帯端末であるスマートフォンを用いて説明する。情報処理装置3は、デバイス2、プロジェクタ5および機器6とインターネット等のネットワークNを介して通信可能である。情報処理装置3が設けられる場所は特に限定されないが、本実施形態では部屋の外(例えばクラウド上)に設けられる。ただし、デバイス2が情報処理装置3の機能を有していてもよい。システム1では、情報処理装置3によって、デバイス2を用いて指し示される所定平面上におけるポインティング位置を推定し、推定されたポインティング位置をプロジェクタ5によって表示する。さらに、システム1では、デバイス2を介して機器6を制御することができる。
図2は、デバイス2、基準点表示部4および機器6のある場所の概略図である。デバイス2は、部屋内のユーザによって保持されている。プロジェクタ5は図2では省略されているが、部屋の天井等に配置される。
基準点P1,P2は、空間内の2次元平面である壁W上に配置される。より具体的には、基準点P1、P2は、ユーザから向かって壁Wの右上隅および左下隅の近傍に配置されている。なお、壁Wは基準点表示部4として機能している。なお、基準点P1,P2の位置は、壁Wを含む平面(所定平面)上であれば特に限定されない。
なお、壁Wに平行な水平軸をx軸とし、x軸に垂直な水平軸をy軸とし、上下方向の軸をz軸とする。また、基準点P1,P2を配置する態様は特に限定されず、紙を壁Wに貼付したり、プロジェクタ5によって壁Wに投影することにより、基準点P1,P2を表示することができる。また、壁Wの代わりに、ディスプレイ装置に基準点P1,P2を表示してもよい。基準点P1,P2の形状は特に限定されないが、本実施形態では円形である。
機器6は、ネットワークNを介して情報処理装置3と接続されたIoT機器である。機器6の種類および個数は、特に限定されない。機器6は壁Wに設けられているが、ユーザが視認できる位置であれば、壁Wを含む平面上に設けられてもよい。本実施形態では、機器6は、エアコンおよび電灯であるが、テレビや扇風機などでもよい。
(デバイスの構成)
図1に示すように、デバイス2は、読取部21と、入力部22と、ジャイロセンサ23と、角度情報生成部24とを備えている。
読取部21は、QRコード(登録商標)を読み取るためのアプリケーションによって実現することができる。入力部22は、タッチパネルによって構成することができる。
ジャイロセンサ23は、デバイス2の回転角を検知するセンサであり、大部分の機種に搭載されている。具体的には、ジャイロセンサ23は、アルファ(α)角、ベータ(β)角およびガンマ(γ)角を検知することができる。
図3(a)に示すように、アルファ角は、デバイス2の画面に垂直な軸周りの回転角度であり、0~360度の値で表現される。図3(b)に示すように、ベータ角は、デバイス2の画面を横方向に貫く軸の周りの回転角度であり、-180~180度の値で表現される。図3(c)に示すように、ガンマ角は、デバイス2の指向方向に沿った軸(第3軸)周りの回転角度であり、-90~90度の値で表現される。すなわち、図3(a)~(c)に示すXYZ座標において、アルファ角はZ軸まわりの回転角(デバイス2の上面に垂直な第1軸の周りの角)であり、ベータ角はX軸まわりの回転角(第1軸およびデバイス2の指向方向に垂直な第2軸周りの角)であり、ガンマ角はY軸まわりの回転角(デバイス2の指向方向に沿った第3軸周りの角)である。
角度情報生成部24は、HTML5およびJavaScript(登録商標)を用いて実装されるWebアプリケーションであり、読取部21が所定のQRコードを読み取ることにより起動する。角度情報生成部24は、JavaScriptのDevice Orientationイベントを用いてジャイロセンサ23のアルファ角、ベータ角およびガンマ角を検知して角度情報を生成する機能を有している。
具体的には、読取部21が所定のQRコードを読み取ると、Webアプリケーションが起動し、図4に示す画面がデバイス2に表示される。このとき、Device Orientationイベントが初期化され、ジャイロセンサ23のアルファ角、ベータ角およびガンマ角が0度に初期化される。なお、角度情報生成部24がWebアプリケーション以外のアプリケーションとしてあらかじめデバイス2にインストールされている場合は、QRコードの読み取りを省略してもよい。
続いて、ユーザは、デバイス2を基準点P1に指向させ、図4に示す「P1」のボタンをタップする。入力部22がタップ操作を検知すると、角度情報生成部24は、ジャイロセンサ23からアルファ角およびベータ角を検知することにより角度情報を生成し、基準点の番号(P1)およびデバイスの端末IDとともに、角度情報を情報処理装置3に送信する。
その後、ユーザは、デバイス2の中心位置を変えずに回転させることにより、デバイス2を基準点P2に指向させ、図4に示す「P2」のボタンをタップする。これに応じて、角度情報生成部24は、ジャイロセンサ23のアルファ角およびベータ角を検知することにより角度情報を生成し、基準点の番号(P2)およびデバイスの端末IDとともに、角度情報を情報処理装置3に送信する。
(情報処理装置の構成)
図1に示す情報処理装置3は、例えば汎用のコンピュータで構成することができる。情報処理装置3は、ハードウェア構成として、CPUやGPUなどのプロセッサ(図示省略)、SRAMやDRAMなどの主記憶装置(メモリ、図示省略)、およびHDDやSSDなどの補助記憶装置31を主に備えている。補助記憶装置31には、プログラムD1、基準点座標情報D2、機器座標情報D3などの各種データが記憶されている。なお、情報処理装置3を複数のコンピュータで構成してもよい。
また、情報処理装置3は、機能ブロックとして、座標情報登録部32(基準点座標情報登録部、機器座標情報登録部)と、角度情報取得部33と、位置算出部34と、操作対象特定部35と、機器制御部36とを備えている。これらの機能ブロックは、情報処理装置3のプロセッサが、プログラムD1をメモリに読み出して実行することによりソフトウェア的に実現することができる。すなわち、プログラムD1は、プロセッサによって実行されることにより、情報処理装置3の座標情報登録部32、角度情報取得部33、位置算出部34、操作対象特定部35および機器制御部36としてコンピュータを動作させる。
プログラムD1は、通信ネットワークを介して情報処理装置3にダウンロードしてもよいし、プログラムD1を記録したCD-ROM等のコンピュータ読み取り可能な非一時的な記録媒体を介して、プログラムD1を情報処理装置3に供給してもよい。
座標情報登録部32は、基準点P1,P2の座標を示す基準点座標情報D2および機器6の座標を示す機器座標情報D3を登録する機能を有している。基準点P1,P2および機器6の座標は、壁Wを含むxz平面における2次元座標である。座標情報登録部32は、基準点P1,P2および機器6が設置されたときに、システムの管理者等の操作によって、基準点P1,P2および機器6の座標を基準点座標情報D2および機器座標情報D3として補助記憶装置31に記憶させる。なお、座標情報登録部32は、特許請求の範囲に記載の基準点座標情報登録部および機器座標情報登録部の両方に対応する。
図5(a)は、基準点座標情報D2の一例であり、図5(b)は、機器座標情報D3の一例である。座標の原点は、壁Wを含むxz平面の任意の位置に設定することができ、例えばユーザから向かって壁Wの左上隅を原点として設定することができる。
図1に示す角度情報取得部33は、デバイス2の角度情報生成部24から、デバイス2の回転角を示す角度情報を取得する。角度情報には、デバイス2をユーザが保持している位置から基準点P1,P2の各々に指向させた時の、ジャイロセンサ23のアルファ角およびベータ角が含まれている。
位置算出部34は、角度情報取得部33によって取得された角度情報と、座標情報登録部32に登録された基準点座標情報D2とに基づいて、デバイス2の壁Wを含む平面におけるポインティング位置を算出する。以下、具体的な算出方法について説明する。
まず、デバイス2の回転角を基に座標を決定するため、ユーザの正面においてその値が連続する必要がある。角度情報取得部33によって取得されるアルファ角αは初期化された時点の値が0であるが、デバイス2を第1軸周りに反時計回りに回転させると360となり不連続である。そこで、角度情報取得部33は、ジャイロセンサ23から取得されるアルファ角の値をαrawとして下記の式(1)のように調整する。
Figure 2022142488000003
続いて、位置算出部34は、下記の式(2)によって線形補完を行うことでポインティング位置の座標(x、y)を算出する。
Figure 2022142488000004
式(2)において、α、βは算出時点のアルファ角、ベータ角であり、w、hは壁Wの左上隅近傍(基準点P1、P2を対頂点とする長方形の基準点P1、P2以外の頂点の一方)のx座標、y座標であり、w、hは壁Wの右下隅近傍(基準点P1、P2を対頂点とする長方形の基準点P1、P2以外の頂点の他方)のx座標、y座標であり、α、αは、デバイス2を基準点P1、基準点P2に指向させたときのアルファ角であり、β、βは、デバイス2を基準点P1、基準点P2に指向させたときのベータ角である。
情報処理装置3は、位置算出部34によって算出されたポインティング位置を、デバイス2のポインティング位置として推定する。さらに、プロジェクタ5が、情報処理装置3によって推定された壁W上のポインティング位置にポインタを表示する。
このように、ユーザは、2つの基準点P1,P2にデバイス2を指向させてアルファ角およびベータ角を取得するだけで、レーザポインタを使用せずにデバイス2のポインティング位置を認識できる。よって、ポインティング操作の準備を従来よりも容易にすることができる。
なお、ポインタの表示手段はプロジェクタ5に限定されず、ディスプレイ等であってもよい。また、複数のデバイス2を用いる場合、各デバイス2から受信したアルファ角およびベータ角の角度情報に基づいて、各デバイス2のポインティング位置を並行して算出することで、壁Wに複数のポインタを同時に表示することも可能となる。
図1に示す操作対象特定部35は、機器座標情報D3に基づき、位置算出部34が算出したポインティング位置にある機器6を特定する。具体的には、操作対象特定部35は、位置算出部34が算出したポインティング位置と、機器座標情報D3に登録されている各機器6の座標とを比較し、ポインティング位置に一致する、または所定距離以内に近接する機器6が存在する場合に、当該機器6を特定する。
機器制御部36は、デバイス2への操作に応じて、操作対象特定部35によって特定された機器6を制御する。本実施形態では、デバイス2への操作は、デバイス2の指向方向に沿った第3軸周りにデバイス2を回転させる動作である。デバイス2を第3軸周りに回転させると、角度情報取得部33が取得するガンマ角が変化し、機器制御部36は、ガンマ角の変化に基づいて機器6を制御する。
例えば、図6(a)に示すように、電源のON/OFFを、デバイス2を右回り(時計回り)/左回り(反時計回り)に所定角度以上回転させる動作に対応させてもよい。この動作は、コンピュータマウスのクリック操作に対応させることができる。具体的には、右回りの大きな回転を右クリック、左回りの大きな回転を左クリック、といったように右クリック/左クリック操作との対応付けを行えば、コンピュータマウスと同様の操作が実現できるため、コンピュータのGUI操作に適用できる。さらに、回転角度に複数の閾値を設定すれば、例えば、複数のラジオボタンから1つの選択肢を選ぶ操作にも適用できる。
また、図6(b)に示すように、音響機器のボリュームなどの連続的な操作量を、ガンマ角の変化量に対応させることも可能である。これにより,例えばユーザが手首をひねってダイヤルを回す感覚で、操作量を調節することができる。
同様に、図6(c)に示すように、GUIにおいて領域を選択する操作で、領域の大きさをガンマ角の変化量に対応させてもよい。例えば右周りの回転量が大きくなるほど、広い領域をまとめて選択するといった操作が実現する。これにより、選択したい領域の周囲を囲うことや、円形などの所定形状の図形のスケールを変化させることで、所望の大きさの領域を選択することができる。領域を囲うことによる選択操作では、ユーザの要求に応じて柔軟に範囲を選択できる利点があり、図形のスケールの変化による選択でも、選択操作が容易になる。こうした操作を三次元空間に適用してもよい。
さらに、図6(d)に示すように、ガンマ角の変化量を画像の深度に対応させてもよい。例えば、ディスプレイやスクリーンに投影された風景画像の深度をガンマ角の変化量に対応させることにより、表示されている風景を深度方向に進めることなどが可能となる。
また、図6(e)に示すように、ガンマ角の変化量をプロジェクタの投影画像の回転量に対応させてもよい。一般的にプロジェクタの投影は、投影範囲の上端および下端が地面と平行になるように行うことが多く、補正を要する角度の量は小さいため、ボタンの入力回数などで補正を行う一方で、近年はプロジェクションマッピングのように、様々な角度での投影を行う機会がある。この際に、デバイス2を用いて投影位置を選択し、ガンマ角の変化量に応じて投影画像を回転させることができる。
以上のように、機器制御部36は、ガンマ角の変化に基づいて機器6を制御することができる。これにより、ユーザは、タップやフリック等の細かい操作を行うことなく、デバイス2を回転させるだけで直感的に機器6を操作することができる。
(処理手順)
図7は、情報処理装置3による演算処理の手順を示すフローチャートである。
座標情報登録ステップS1(基準点座標情報登録ステップ、機器座標情報登録ステップ)では、座標情報登録部32が、基準点P1,P2の座標を示す基準点座標情報D2および機器6の座標を示す機器座標情報D3を登録する。
角度情報取得ステップS2では、角度情報取得部33が、デバイス2をユーザが保持している位置から基準点P1,P2の各々に指向させた時の、ジャイロセンサ23のアルファ角およびベータ角の角度情報を取得する。その後、図8に示す画面をデバイス2に表示して、ユーザにデバイス2を所望の機器6に指向させるよう指示してもよい。
位置算出ステップS3では、位置算出部34が、角度情報取得ステップS2において取得された角度情報と、座標情報登録部32が、座標情報登録ステップS1において登録した基準点座標情報D2とに基づいて、デバイス2の壁Wを含む平面におけるポインティング位置を算出する。
操作対象特定ステップS4では、操作対象特定部35が、機器座標情報D3に基づき、位置算出ステップS3において算出されたポインティング位置にある機器6を特定する。
機器制御ステップS5では、機器制御部36が、ユーザのデバイス2への操作に応じて、操作対象特定ステップS5において特定された機器6を制御する。
(付記事項)
以上、本発明の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて、種々の変更が可能である。
例えば、デバイスは携帯端末等に限定されず、ジャイロセンサや地磁気センサを備えるものであればよい。
以下、本発明の実施例について説明するが、本発明は下記実施例に限定されない。
本実施例では、上述のシステム1において、デバイス2のポインティング位置に表示されたポインタ(リアルカーソル)以外に多数のポインタ(ダミーカーソル)が存在する場合、ユーザが自身のデバイス2のポインタを認識することができるか実験を行った。すなわち、システム1を多数のユーザが同時に利用する場合を想定した。デバイスとしてスマートフォン(Apple社iPhone7)を用いた。大型ディスプレイの右上隅および左下隅を2つの基準点とし、デバイスを各基準点に指向させたときのアルファ角およびベータ角に基づいてポインティング位置を推定し、ポインタを当該ディスプレイに表示した。被験者(実験参加者)は、10代から50代の男女10名であった。
(実験環境)
本実施例では、デバイス2の動きと、それに伴うポインタの表示位置の動きとの間の通信に起因する遅延時間を最小化するため、情報処理装置3をローカルネットワーク上に設置した。情報処理装置3のOSはWindows7であった。実験環境における遅延時間を測定したところ13ミリ秒程度であった。具体的には、ラウンドトリップタイム(スマートフォン側アプリケーションからデータを送信し、ディスプレイ側アプリケーションがそれを受信後直ちに送り返し、スマートフォン側アプリケーションにてそのデータが確認されるまでの所要時間)を1000回測定し、その平均の半分の時間を通信による遅延時間とした。
(実験手続)
実験において実際に複数の被験者が同時にデバイスを操作した場合、同時に試行を行う被験者の組み合わせが実験結果に影響を与えることが想定され、再現性を損なうおそれがある。そこで、ディスプレイ上に複数のユーザが操作するポインタが多数存在する環境を、乱数を用いて擬似的に再現した。
具体的には、図9に示すように、ディスプレイ上に複数のポインタを表示した。そのうちの一つがユーザの操作によって移動するポインタ(リアルカーソル)であり、その他のポインタ(ダミーカーソル)はランダムに動く。またリアルカーソルが停止した場合、全てのダミーカーソルも同様に停止する。
被験者にはポインタを操作しながらリアルカーソルを探すタスクを課し、被験者がリアルカーソルを正しく発見できたかを評価し、発見できた場合は発見までにかかった時間を計測した。被験者は自身のポインタを発見した場合、スペースキーを入力し(同時に計測停止)、その後、実験者が被験者に、自身のものだと感じたポインタを尋ね、実験者がその正否を確認した。ダミーカーソルの数は各タスクで10、20、50、100個とし、それぞれのタスクで5回の計測を行った。また、ダミーカーソルの数が少ないタスクから多いタスクの順に、各タスクを連続して5回反復試行を行った。
(比較例)
比較例として、デバイス2の代わりに光学マウスおよびジャイロマウスを用いて、上記と同様に、ディスプレイ上にリアルカーソルとダミーカーソルを表示し、被験者がリアルカーソルを正しく発見できたかを評価し、発見できた場合の発見までにかかった時間を計測した。光学マウスはELECOM社M-IR01DRを、ジャイロマウスはLogicool社SpotlightPresentationRemoteを使用した。光学マウスのオプションはデフォルト設定(ポインタの速度:中間値、ポインタの精度を高めるオプション:有効)とした。
以下、光学マウスを用いた実験を比較例1、ジャイロマウスを用いた実験を比較例2とする。
(結果)
表1に、合計600回の試行における、リアルカーソルの正解回数および誤認識回数を示す。
Figure 2022142488000005
正解および誤認識の確率について、多重比較(Bonferroniの手法)を行った結果、本実施例の方が比較例よりも若干よい結果が得られたが、大きな有意差は認められなかった。
図10は、リアルカーソルの発見にかかった時間とダミーカーソルの数との関係を示すグラフである。なお、リアルカーソルを誤認識した場合は排除している。
ポインタ操作手法とダミーカーソル数について多重比較を行った結果、ダミーカーソル数50のタスクで、本実施例と比較例1との間に有意差が認められた(p=.005<.05)。ダミーカーソル数100のタスクでは、本実施例と比較例1との有意差(p=5.5×10-4<.05)だけでなく、本実施例と比較例2との有意差(p=1.7×10-4<.05)も認められた。このことから、ダミーカーソル数が増加するほど、本実施例の手法は比較例1,2に比べ有意にリアルカーソルの発見にかかる時間を抑えていることが示された。
このように認識にかかる時間に有意差が生じた理由は、ユーザの動作とポインタとの関連性にあると考えられる。光学マウスやジャイロマウスの手法は、操作量に応じてポインタが移動する相対ポインティング手法である一方、本実施例の手法は、デバイスが指向する先にポインタが表示される絶対ポインティング手法であるため、身体動作と強く関連がありポインタの発見を容易にしたと考えられる。
1 システム
2 デバイス
21 読取部
22 入力部
23 ジャイロセンサ
24 角度情報生成部
3 情報処理装置
4 基準点表示部
5 プロジェクタ(表示手段)
6 機器
31 補助記憶装置
32 座標情報登録部(基準点座標情報登録部、機器座標情報登録部)
33 角度情報取得部
34 位置算出部
35 操作対象特定部
36 機器制御部
D1 プログラム
D2 基準点座標情報
D3 機器座標情報
P1 基準点
P2 基準点
W 壁

Claims (11)

  1. ジャイロセンサを備えるデバイスの所定平面におけるポインティング位置を推定する装置であって、
    前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録部と、
    前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得部と、
    前記角度情報と、前記基準点座標情報登録部に登録された前記基準点座標情報とに基づいて、前記ポインティング位置を算出する位置算出部と、
    を備える装置。
  2. 前記位置算出部は、下記式によって前記ポインティング位置を算出する、請求項1に記載の装置。
    Figure 2022142488000006
    x:前記ポインティング位置のx座標
    y:前記ポインティング位置のy座標
    α:算出時点のアルファ角
    β:算出時点のベータ角
    :前記2つの基準点を対頂点とする長方形の前記基準点以外の頂点の一方のx座標
    :前記2つの基準点を対頂点とする長方形の前記基準点以外の頂点の一方のy座標
    :前記2つの基準点を対頂点とする長方形の前記基準点以外の頂点の他方のx座標
    :前記2つの基準点を対頂点とする長方形の前記基準点以外の頂点の他方のy座標
    α:前記デバイスを前記基準点の一方に指向させたときのアルファ角
    α:前記デバイスを前記基準点の他方に指向させたときのアルファ角
    β:前記デバイスを前記基準点の一方に指向させたときのベータ角
    β:前記デバイスを前記基準点の他方に指向させたときのベータ角
  3. 前記所定平面上に存在する機器の座標を示す機器座標情報を登録する機器座標情報登録部と、
    前記機器座標情報に基づき、前記位置算出部が算出したポインティング位置にある機器を特定する操作対象特定部と、
    前記デバイスへの操作に応じて、前記特定された機器を制御する機器制御部と、
    をさらに備える、請求項1または2に記載の装置。
  4. 前記デバイスへの操作は、前記デバイスの指向方向に沿った第3軸周りに前記デバイスを回転させる動作であり、
    前記角度情報取得部は、前記デバイスの前記第3軸周りのガンマ角をさらに取得し、
    前記機器制御部は、前記ガンマ角の変化に基づいて前記特定された機器を制御する、請求項3に記載の装置。
  5. 請求項1~4のいずれかに記載の装置と、
    前記装置によって推定されたポインティング位置にポインタを表示する表示手段と、
    を備えるシステム。
  6. ジャイロセンサを備えるデバイスの所定平面におけるポインティング位置を推定する位置推定方法であって、
    前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録ステップと、
    前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得ステップと、
    前記角度情報と、前記基準点座標情報登録ステップにおいて登録された前記基準点座標情報とに基づいて、前記ポインティング位置を算出する位置算出ステップと、
    を備える位置推定方法。
  7. ジャイロセンサを備えるデバイスを用いて、所定平面上に存在する機器を制御する機器制御方法であって、
    前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録ステップと、
    前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得ステップと、
    前記角度情報と、前記基準点座標情報登録ステップにおいて登録された前記基準点座標情報とに基づいて、前記デバイスの前記所定平面におけるポインティング位置を算出する位置算出ステップと、
    前記機器の座標を示す機器座標情報を登録する機器座標情報登録ステップと、
    前記機器座標情報に基づき、前記位置算出ステップで算出したポインティング位置にある機器を特定する操作対象特定ステップと、
    前記デバイスへの操作に応じて、前記特定された機器を制御する機器制御ステップと、
    を備える機器制御方法。
  8. 前記デバイスへの操作は、前記デバイスの指向方向に沿った第3軸周りに前記デバイスを回転させる動作であり、
    前記角度情報取得ステップでは、前記デバイスの前記第3軸周りのガンマ角をさらに取得し、
    前記機器制御ステップでは、前記ガンマ角の変化に基づいて前記特定された機器を制御する、請求項7に記載の機器制御方法。
  9. ジャイロセンサを備えるデバイスの所定平面におけるポインティング位置を推定するプログラムであって、
    コンピュータを、
    前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録部、
    前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得部、および
    前記角度情報と、前記基準点座標情報登録部に登録された前記基準点座標情報とに基づいて、前記ポインティング位置を算出する位置算出部、
    として機能させる、プログラム。
  10. ジャイロセンサを備えるデバイスを用いて、所定平面上に存在する機器を制御するプログラムであって、
    コンピュータを、
    前記所定平面上に存在する2つの基準点の座標を示す基準点座標情報を登録する基準点座標情報登録部、
    前記デバイスを同一位置から前記基準点の各々に指向させた時の、前記デバイスの上面に垂直な第1軸の周りのアルファ角、ならびに、前記第1軸および前記デバイスの指向方向に垂直な第2軸周りのベータ角の角度情報を取得する角度情報取得部、
    前記角度情報と、前記基準点座標情報登録部に登録された前記基準点座標情報とに基づいて、前記デバイスの前記所定平面におけるポインティング位置を算出する位置算出部、
    前記機器の座標を示す機器座標情報を登録する機器座標情報登録部、
    前記機器座標情報に基づき、前記位置算出部が算出したポインティング位置にある機器を特定する操作対象特定部、および
    前記デバイスへの操作に応じて、前記特定された機器を制御する機器制御部、
    として機能させる、プログラム。
  11. 前記デバイスへの操作は、前記デバイスの指向方向に沿った第3軸周りに前記デバイスを回転させる動作であり、
    前記角度情報取得部は、前記デバイスの前記第3軸周りのガンマ角をさらに取得し、
    前記機器制御部は、前記ガンマ角の変化に基づいて前記特定された機器を制御する、請求項10に記載のプログラム。
JP2021042671A 2021-03-16 2021-03-16 ポインティング位置を推定する装置および方法、機器を制御する装置および方法、ならびにプログラム Pending JP2022142488A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021042671A JP2022142488A (ja) 2021-03-16 2021-03-16 ポインティング位置を推定する装置および方法、機器を制御する装置および方法、ならびにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021042671A JP2022142488A (ja) 2021-03-16 2021-03-16 ポインティング位置を推定する装置および方法、機器を制御する装置および方法、ならびにプログラム

Publications (1)

Publication Number Publication Date
JP2022142488A true JP2022142488A (ja) 2022-09-30

Family

ID=83420541

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021042671A Pending JP2022142488A (ja) 2021-03-16 2021-03-16 ポインティング位置を推定する装置および方法、機器を制御する装置および方法、ならびにプログラム

Country Status (1)

Country Link
JP (1) JP2022142488A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024116907A1 (ja) * 2022-11-28 2024-06-06 キヤノン株式会社 放射線検出装置、放射線検出システム、制御装置、制御方法、プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024116907A1 (ja) * 2022-11-28 2024-06-06 キヤノン株式会社 放射線検出装置、放射線検出システム、制御装置、制御方法、プログラム

Similar Documents

Publication Publication Date Title
US20210118238A1 (en) Registration between actual mobile device position and environmental model
US10290155B2 (en) 3D virtual environment interaction system
US20190272674A1 (en) Information handling system augmented reality through a virtual object anchor
EP3015961B1 (en) Information processing device, control method, program, and storage medium
US20140247280A1 (en) Federated mobile device positioning
CN107562288B (zh) 基于红外触控装置的响应方法、红外触控装置和介质
US20160334884A1 (en) Remote Sensitivity Adjustment in an Interactive Display System
US11132842B2 (en) Method and system for synchronizing a plurality of augmented reality devices to a virtual reality device
US11609345B2 (en) System and method to determine positioning in a virtual coordinate system
US20200110929A1 (en) Identifying a local coordinate system for gesture recognition
US20160063764A1 (en) Image processing apparatus, image processing method, and computer program product
US10176556B2 (en) Display control apparatus, display control method, and non-transitory computer readable medium
JP6217437B2 (ja) 端末装置、情報処理装置、表示制御方法、及び表示制御プログラム
JP2010079834A (ja) 座標検出装置の取り付け位置判断装置及び電子ボードシステム
US20240071016A1 (en) Mixed reality system, program, mobile terminal device, and method
Schneider et al. Accuracy evaluation of touch tasks in commodity virtual and augmented reality head-mounted displays
JP2015225652A (ja) プロジェクタ−カメラシステム又はディスプレイ−カメラシステムに対する微細なユーザインタラクションを可能とするシステム、方法及びプログラム
WO2015159547A1 (ja) 情報処理システム、制御方法、及びプログラム記録媒体
EP3037936B1 (en) Image projection apparatus, and system employing interactive input-output capability
JP2022142488A (ja) ポインティング位置を推定する装置および方法、機器を制御する装置および方法、ならびにプログラム
WO2015062176A1 (zh) 多点触控的多媒体球幕演示仪及其多点触控方法
US11386612B2 (en) Non-transitory computer-readable medium, image processing method, and image processing system for controlling progress of information processing in response to a user operation
WO2021004413A1 (zh) 一种手持输入设备及其指示图标的消隐控制方法和装置
JP2018116346A (ja) 入力制御装置、表示装置、及び入力制御方法
JP2015046094A (ja) 情報処理装置、プログラム

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20210402