JP7254943B2 - 情報端末装置および位置認識共有方法 - Google Patents

情報端末装置および位置認識共有方法 Download PDF

Info

Publication number
JP7254943B2
JP7254943B2 JP2021546147A JP2021546147A JP7254943B2 JP 7254943 B2 JP7254943 B2 JP 7254943B2 JP 2021546147 A JP2021546147 A JP 2021546147A JP 2021546147 A JP2021546147 A JP 2021546147A JP 7254943 B2 JP7254943 B2 JP 7254943B2
Authority
JP
Japan
Prior art keywords
terminal
information
coordinate system
sharing
location
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021546147A
Other languages
English (en)
Other versions
JPWO2021053805A1 (ja
Inventor
康宣 橋本
尚久 高見澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maxell Ltd
Original Assignee
Maxell Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Maxell Ltd filed Critical Maxell Ltd
Publication of JPWO2021053805A1 publication Critical patent/JPWO2021053805A1/ja
Priority to JP2023053381A priority Critical patent/JP7428843B2/ja
Application granted granted Critical
Publication of JP7254943B2 publication Critical patent/JP7254943B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0176Head mounted characterised by mechanical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/025Services making use of location information using location based information parameters
    • H04W4/026Services making use of location information using location based information parameters using orientation information, e.g. compass
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、情報端末装置および位置認識共有方法等の技術に関する。
ユーザが装着または携帯する、ヘッドマウントディスプレイ(Head Mounted Display:HMD)、スマートフォン、タブレット端末等の、ユーザと共に移動可能なタイプの各種の情報端末装置が提供されている。この情報端末装置は、ユーザの視界に対応させた表示面に、仮想現実(VR)や拡張現実(AR)等に係わる仮想物体等の画像を表示する機能を持つものがある。この端末は、画像の表示のための基準となる座標系を持つ。
また、複数の各々のユーザが情報端末装置を持つ場合に、それらの端末間で、実空間内での位置認識を共有し、同じ位置に同じ仮想物体等の画像を表示しようとする技術も提案されている。この技術は、作業支援や娯楽等を含む各種の用途に有益として期待される。
上記に係わる先行技術例として、特表2014-514653号公報(特許文献1)が挙げられる。特許文献1には、複数の端末において、カメラのキャプチャに基づいて、実空間内の同一の物体、例えば机面を、アンカー表面として認識し、各端末からそのアンカー表面に仮想物体を表示することで、殆ど同じ位置に仮想物体を表示する旨の技術が記載されている。
特表2014-514653号公報
従来技術例の情報端末装置を含むシステムは、複数の端末間で実空間内の位置認識を共有するためには、課題がある。基本的に、各々の端末は異なる座標系を持つ。この前提では、端末間での位置認識の共有はできない。よって、各端末が持つ異なる座標系に基づいて、例えば端末間で基準となる座標系を共有する方式等、位置認識共有ができるようにするための何らかの工夫が必要である。
特許文献1のような従来技術例のシステムは、位置認識共有のためには、実空間内で端末の周囲の適当な場所に、固定されているアンカーまたはマーク等となる適当な実物(例えば机面)が必要である。そのような実物が無い環境や状況の場合には、位置認識共有はできない。従来技術例は、その場合の対処については考えられておらず、位置認識共有に関する制限が大きい。
本発明の目的は、情報端末装置等の技術に関して、実空間内にアンカー等となる適当な実物が無い場合でも、端末間での位置認識共有が実現できる技術を提供することである。上記以外の課題等については、発明を実施するための形態で説明される。
本発明のうち代表的な実施の形態は、以下に示す構成を有する。一実施の形態の情報端末装置は、ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置であって、前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行う。
本発明のうち代表的な実施の形態によれば、情報端末装置等の技術に関して、実空間内にアンカー等となる適当な実物が無い場合でも、端末間での位置認識共有が実現できる。
本発明の実施の形態1の情報端末装置を含む、位置認識共有システムの構成例を示す図である。 実施の形態1の情報端末装置であるHMDの外観構成例を示す図である。 実施の形態1の情報端末装置であるHMDの機能ブロック構成例を示す図である。 実施の形態1の情報端末装置で、コントローラの構成例を示す図である。 実施の形態1で、端末間での座標系や諸量について示す図である。 実施の形態1で、端末間での位置の伝達の際の変換の各例、および変換パラメータ等について示す図である。 実施の形態1で、情報端末装置がスマートフォンである場合のAR画像表示例を示す図である。 実施の形態1で、端末間での制御フローを示す図である。 実施の形態1で、端末間での座標系ペアリング時の出力例を示す図である。 実施の形態1で、座標系の変換および回転に関する説明図である。 実施の形態1で、実空間内での位置指定の例を示す図である。 実施の形態1で、位置指定の応用例を示す図である。 実施の形態1の変形例における、座標系ペアリング時の測定について示す図である。 本発明の実施の形態2の情報端末装置を含む、位置認識共有システムの構成例を示す図である。 本発明の実施の形態3の情報端末装置を含む、位置認識共有システムの構成例を示す図である。 実施の形態3の変形例における、複数端末との同時座標系ペアリングの例を示す図である。 本発明の実施の形態4の情報端末装置を含む、位置認識共有システムの構成例を示す図である。 実施の形態4で、変換パラメータの構成例を示す図である。 実施の形態4の変形例で、変換パラメータの構成例を示す図である。
以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において同一部には原則として同一符号を付し、繰り返しの説明は省略する。
(実施の形態1)
図1~図13を用いて、本発明の実施の形態1の情報端末装置を含む、位置認識共有システムおよび方法について説明する。なお、情報端末装置を端末と記載する場合がある。実施の形態1の情報端末装置は、端末間での位置認識共有のための機能を有する。実施の形態1の位置認識共有方法は、実施の形態1の情報端末装置によって実行されるステップを有する方法である。
実施の形態1の情報端末装置を含む、位置認識共有システムおよび方法は、例えば自端末と相手端末との2つの端末間で、各端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係の情報を用いて、各端末の各座標系を関係付ける。言い換えると、それらの情報を用いて、座標系間の変換を行う。これにより、このシステムおよび方法は、位置認識の共有を行う。ここで、各端末の各座標系間の相対的な向きの関係に関する情報とは、例えば各端末に関する実空間内の向きの異なる2つの特定方向に関する情報(特定方向情報)である。また、各座標系原点間の相対的位置関係の情報とは、例えば各端末の位置に関する情報(端末位置情報)である。向きの異なる2つの特定方向情報から、各端末の各座標系間の向きの変換を行う回転が求まり、端末位置情報から各座標系の原点間の関係が求まる。これらの情報から、座標系の変換パラメータが求まり、位置認識を共有することができる。位置認識を共有する状態となった端末間では、互いに実空間内の同じ位置を共有できる。例えば、一方の端末から他方の端末に、画像の表示対象位置を指定し、各端末は、その指定された同じ位置に同じ画像を表示できる。
実施の形態1では、特定方向情報の1つとして、後述(図5)の鉛直下方向の特定方向ベクトル(N,N)を用いる。端末位置情報は、自端末の第1座標系を基準とした相手端末の位置を表す位置情報(自端末の座標値dと端末間ベクトルPBA)と、相手端末の第2座標系を基準とした自端末の位置を表す位置情報(相手端末の座標値dと端末間ベクトルPAB)と、を合わせた情報である。実施の形態1では、端末間ベクトルは、もう1つの特定方向情報と、自端末の座標系を基準とした相手端末の位置情報との2つに係わる情報である。
[位置認識共有システム]
図1は、実施の形態1の情報端末装置を含む、位置認識共有システムの構成を示す。この位置認識共有システムは、実空間内において、実施の形態1の情報端末装置である複数の情報端末装置1を有し、本例では2台の端末として情報端末装置1A,1Bを有する。この位置認識共有システムは、複数の情報端末装置1間で実空間内での位置認識を共有するシステムであり、共有した同じ位置に同じ仮想物体等の画像を表示できる表示システムである。端末1(1A,1B)は、スマートグラス等のHMDでもよいし、スマートフォンやタブレット端末でもよい。本例では、ユーザA(例えば自分)は、端末1AとしてHMDを装着しており、ユーザB(例えば他者)は、端末1BとしてHMDを装着しており、ユーザA,Bの端末1A,1B間で位置認識共有を行う。端末1は、位置認識共有のための必要な機能を備える装置であれば、種類を限定せず、異種の端末1の組合せでの位置認識共有も可能である。
端末1(1A,1B)間では、位置認識共有前の状態から位置認識共有を行う際には、端末間での通信を伴う動作として、座標系ペアリングを行う。座標系ペアリングは、後述の諸量の交換や、座標系間の変換のための変換パラメータの設定等を含む動作である。座標系ペアリングによって、各端末1の座標系が関係付けられ、端末1間で位置認識が共有された状態になる。この状態では、実空間内で、各端末1(1A,1B)から見て同じ位置21を表示対象位置LGとして同じ仮想物体等の画像22を表示できる。
各端末1は、無線通信機能や画像表示機能を有する。各端末1は、通信網上のアクセスポイント23等に無線接続され、端末1間での無線通信や、通信網上のサーバ等の装置との通信が可能である。各端末1は、仮想物体等の画像データを生成してもよいし、通信網上の装置から画像データ等を取得してもよい。
[情報端末装置(HMD)]
図2は、情報端末装置1の例としてのHMDの外観構成例を示す。このHMDは、眼鏡状の筐体10に、表示面5を含む表示デバイスを備える。この表示デバイスは、例えば透過型表示デバイスであり、表示面5には外界の実像が透過され、その実像上に仮想物体等の画像が重畳表示される。筐体10には、センサ部4、カメラ6、測距センサ7等を備える。センサ部4は、HMDの位置および姿勢の状態を検出するためのセンサ群を含む位置姿勢センサである。カメラ6は、例えば筐体10の左右両側に配置されたカメラ6R,6Lを有し、HMDの前方を含む範囲を撮影して画像を取得する。測距センサ7は、HMDと外界の物体との距離を測定するセンサである。測距センサ7は、TOF(Time Of Flight)方式のセンサを用いてもよいし、ステレオカメラや他の方式を用いてもよい。また、筐体10の左右には、マイク81やスピーカ82を備える。
端末1には、リモコン等の操作器3が付属していてもよい。端末1は、操作器3との間で例えば近距離無線通信を行う。ユーザは、手で操作器3を操作することで、HMDの機能に関する指示入力やカーソル移動等ができる。端末1であるHMDは、外部のスマートフォン等と通信して連携を行ってもよい。例えば、HMDは、スマートフォンに備えるアプリケーションから画像データを受信してもよい。
端末1は、画像表示機能の要素として、作業支援や娯楽のために仮想物体等の画像を表示面5に表示させるアプリケーションプログラム等を備える。例えば、端末1は、作業支援のためのアプリケーションの処理によって、作業支援のための画像を生成し、表示面5において、実空間内の作業対象物の付近の所定の位置にその画像を配置し表示させる。
端末1は、画像の表示のための基準となる座標系(世界座標系と記載する場合がある)を有する。本例では、このHMDは、世界座標系WAを有する。世界座標系WAは、原点Oにおいて、直交する3軸として、軸X、軸Y、軸Zを有する。原点Oは実空間内の所定の位置に固定されている。
図3は、図2のHMDである場合の情報端末装置1の機能ブロック構成例を示す。端末1は、プロセッサ101、メモリ102、カメラ6、測距センサ7、センサ部4、表示デバイス50、通信デバイス80、マイク81を含む音声入力装置、スピーカ82やイヤホンを含む音声出力装置、操作入力部83、およびバッテリ84等を備える。これらの要素はバス等を通じて相互に接続されている。
プロセッサ101は、CPU、ROM、RAM等で構成され、HMDのコントローラを構成する。プロセッサ101は、メモリ102の制御プログラム31やアプリケーションプログラム32に従った処理を実行することにより、OS、ミドルウェア、アプリケーション等の機能や他の機能を実現する。メモリ102は、不揮発性記憶装置等で構成され、プロセッサ101等が扱う各種のデータや情報を記憶する。メモリ102には、制御プログラム31、アプリケーションプログラム32、設定情報33、座標系情報34、表示情報35等が格納されている。設定情報33は、システム設定情報やユーザ設定情報を含む。座標系情報34は、自端末の座標系を管理するための情報と、他端末との位置認識共有の際の管理情報として後述の諸量や変換パラメータ等の情報とを含む。表示情報35は、仮想物体等の画像の表示のためのデータを含む。また、メモリ102には、一時的な処理情報として、カメラ6、測距センサ7、センサ部4等によって取得した画像やセンサ情報等も格納される。
センサ部4は、HMD1の状態を検出するための各種のセンサとして、例えば、加速度センサ41、ジャイロセンサ(角速度センサ)42、地磁気センサ43、GPS受信器44等を含む。センサ部4は、これらのセンサの検出情報を用いて、HMDの位置、方向、姿勢(傾き)、動き等を検出する。HMDは、これに限らず、他のセンサとして、照度センサ、近接センサ、気圧センサ等を備えてもよい。
通信デバイス80は、モバイル網やWi-Fi(登録商標)やBlueTooth(登録商標)や赤外線等の各種の通信インタフェースに対応する通信処理回路やアンテナ等を含む。通信デバイス80は、他の端末1やアクセスポイント23との間での無線通信処理等を行う。
表示デバイス50は、表示駆動回路や表示面5を含み、画像データに基づいて、表示面5に画像を表示する。なお、表示デバイス50は、透過型表示デバイスに限らず、非透過型表示デバイス等としてもよい。その場合、表示面5には、VRに対応して生成された画像が表示される。
カメラ6は、レンズから入射した光を撮像素子で電気信号に変換して画像を取得する。測距センサ7は、例えばTOFセンサを用いる場合、外界に出射した光が物体に当たって戻ってくるまでの時間から、その物体までの距離を計算する。
音声入力装置は、マイク81からの入力音声を音声データに変換する。音声出力装置は、音声データに基づいてスピーカ82等から音声を出力する。音声入力装置は、音声認識機能を備えてもよい。音声出力装置は、音声合成機能を備えてもよい。
操作入力部83は、HMDに対する操作入力、例えば電源オン/オフや音量調整等を受け付ける部分であり、ハードウェアボタンやタッチセンサ等で構成される。バッテリ84は、各部に電力を供給する。
[コントローラ]
図4は、端末1のプロセッサ101によるコントローラ等の機能ブロック構成例を示す。コントローラは、プロセッサ101の処理によって実現される機能ブロックとして、通信制御部101A、表示制御部101B、データ処理部101C、およびデータ取得部101Dを有する。
通信制御部101Aは、通信デバイス80を用いた通信を制御する。表示制御部101Bは、表示情報35を用いて、表示デバイス50の表示面5への画像の表示を制御する。表示情報35には、表示対象の画像の画像データや表示位置座標等の情報を含む。
データ処理部101Cは、座標系情報34を用いて、自端末の世界座標系の管理のための処理や、位置認識共有の際の座標系ペアリングの処理や、共有後の座標系間の変換の処理等を行う。データ処理部101Cは、座標系ペアリングの際には、端末1間で諸量を測定し交換する処理や、座標系間の変換のための変換パラメータを生成して設定する処理等を行う。また、データ処理部101Cは、端末1間で位置を伝達する際には、変換パラメータを用いて共有位置を得る変換処理を行う。
データ取得部101Dは、センサ部4、カメラ6、および測距センサ7から、各検出データを取得する。データ取得部101Dは、座標系ペアリングの際には、諸量の測定を行う。座標系情報34には、自端末が基準となって変換を行う場合には、自端末の世界座標系情報と、相手端末の世界座標系情報と、自端末の諸量データと、相手端末の諸量データと、変換パラメータとを有する。
[座標系の共有]
図5は、図1の2台の情報端末装置1(1A,1B)間で、実空間内での位置認識共有を行う場合の座標系や諸量に関する説明図を示す。以下、図5を用いて、2台の端末1(1A,1B)間で実空間に固定されたそれぞれの世界座標系(WA,WB)の共有を行う場合について記述する。実施の形態では、各端末1(1A,1B)で、実空間内の位置を指定するための基準となる座標系を、世界座標系と呼ぶ。端末1Aの座標系を世界座標系WAとし、端末1Bの座標系を世界座標系WBとする。世界座標系の原点および方向は、実空間内に固定されている。これらの世界座標系は、端末1毎に設定されているため、基本的には異なる座標系であり、最初の状態では一致していない。世界座標系WAは、原点Oと、軸X、軸Y、および軸Zとを有する。世界座標系WBは、原点Oと、軸X、軸Y、および軸Zとを有する。各端末1の位置LA,LBは、予め規定される中心位置である。非透過型ディスプレイを搭載している端末の場合であっても、その端末の世界座標系が実空間に固定されている間は、表示しているオブジェクトの表示位置を他端末と共有できる。
図5の例では、世界座標系WAの原点Oの位置と端末1Aの位置LAとは異なり、世界座標系WBの原点Oの位置と端末1Bの位置LBとは異なるが、これに限定するものではない。以下では、図5のように世界座標系の原点と端末1の位置とが一致していない一般的な場合について、座標系間の関係を説明する。
端末1Aの位置LAについての世界座標系WAにおける座標値を、d=(x,y,z)とする。端末1Bの位置LBについての世界座標系WBにおける座標値を、d=(x,y,z)とする。これらの座標値は、世界座標系の設定に応じて定まるパラメータである。端末位置ベクトルVは、原点Oから位置LAまでのベクトルである。端末位置ベクトルVは、原点Oから位置LBまでのベクトルである。
[座標系ペアリングおよび諸量の測定]
実施の形態1で、各端末1は、他の端末1との間での位置認識共有を行う場合、例えば、端末1Aと端末1Bとの間で同じ位置21を同じ画像22の表示対象位置LGとして共有を行う場合、両者の世界座標系情報の共有を行う。この世界座標系情報の共有を行う動作を、座標系ペアリングと記載している。図5の2台の端末1(1A,1B)間で座標系ペアリングを行う場合、2台の端末1(1A,1B)を1つのペアとして、1回、座標系ペアリングの動作を行えばよい。3台以上の端末1がある場合でも、同様に、ペア毎に座標系ペアリングを行えばよい。
実施の形態1で、座標系ペアリングの際には、各端末1(1A,1B)は、所定の諸量を測定し、端末1(1A,1B)間で諸量データを交換する。すなわち、端末1Aは、自分の世界座標系WAにおいて測定した諸量データを相手の端末1Bに送信し、端末1Bは、自分の世界座標系WBにおいて測定した諸量データを端末1Aに送信する。各端末1は、諸量データに基づいて、ペアの各世界座標系の関係、具体的には座標系間での変換のための変換パラメータを、計算することができる。これにより、端末1(1A,1B)間では、世界座標系情報の共有ができ、位置認識の共有ができる。
実施の形態1では、座標系ペアリングの際の諸量としては、以下の3つの要素の情報を有する。諸量は、第1情報として特定方向ベクトルと、第2情報として端末間ベクトルと、第3情報として世界座標値とを有する。
(1)特定方向ベクトル: 各端末1は、各端末1の各世界座標系における実空間内の特定方向に関する情報として、特定方向ベクトルを用いる。実施の形態1では、特に、特定方向は、鉛直下方向とする。図5の例では、特定方向として鉛直下方向の特定方向ベクトルN,Nを用いる。特定方向ベクトルNは、端末1Aの鉛直下方向の方向ベクトルであり、単位方向ベクトルをnとする。特定方向ベクトルNは、端末1Bの鉛直下方向の方向ベクトルであり、単位方向ベクトルをnとする。
鉛直下方向は、例えば端末1に備える加速度センサ41である3軸加速度センサを用いて、重力加速度の方向として測定できる。あるいは、世界座標系WA,WBの設定において、鉛直下方向を、Z軸(Z,Z)の負方向として設定してもよい。いずれにせよ、この特定方向である鉛直下方向は、世界座標系において変化しないので、座標系ペアリング毎に毎回測定しなくてもよい。
(2)端末間ベクトル: 各端末1は、一方の端末1(例えば端末1A)から他方の端末1(例えば端末1B)への位置関係を表す情報として、端末位置間のベクトル(すなわち方向と距離)の情報を用いる。この情報を「端末間ベクトル」と記載する。図5の例では、端末間ベクトルPBA,PABを用いる。端末間ベクトルPBAは、端末1Aを基準として端末1Aの位置LAから端末1Bの位置LBをみた方向での位置関係を表すベクトルである。端末間ベクトルPABは、端末1Bを基準として端末1Bの位置LBから端末1Aの位置LAをみた方向での位置関係を表すベクトルである。この端末間ベクトルは、座標系の向きの関係を求めるための、もう1つの実空間内の特定方向に関する情報を含むものである。
座標系ペアリングの際、各端末1は、相手の端末1までの端末間ベクトルを、例えば図2の測距センサ7を用いて測定する。端末1Aから端末1Bまでの、世界座標系WAでのベクトル表現がPBAであり、端末1Bから端末1Aまでの、世界座標系WBでのベクトル表現がPABである。なお、端末1間の位置関係の測距は、詳しくは以下のようにしてもよい。例えば、端末1Aの測距センサ7は、前方に見える端末1Bとの距離を測定する。この際、端末1Aは、カメラ画像から端末1Bの筐体の形状を測定してもよいし、端末1Bの筐体に形成されているマーカ等を特徴点として測定してもよい。
(3)世界座標値: 各端末1は、各端末1の各世界座標系における位置を表す座標値の情報を用いる。図5の例では、世界座標値として、世界座標系WAでの座標値d、および世界座標系WBでの座標値dを用いる。
図5で、ベクトルFは、端末位置情報に相当する自端末(端末1A)の世界座標系WAでの相手端末1Bの位置を表すベクトルであり、自端末の座標値d(ベクトルV)と端末間ベクトルPBAとを合成したベクトルに相当する。ベクトルFは、自端末(端末1B)の世界座標系WBでの相手端末1Aの位置を表すベクトルであり、相手端末の座標値d(ベクトルV)と端末間ベクトルPABとを合成したベクトルに相当する。
座標系ペアリングの際、端末1Aは、自端末側の諸量データ501として、特定方向ベクトルNと、端末間ベクトルPBAと、座標値dとを測定し、これらの諸量データ501を端末1Bに送信する。端末1Bは、自端末側の諸量データ502として、特定方向ベクトルNと、端末間ベクトルPABと、座標値dとを測定し、これらの諸量データ502を端末1Aに送信する。
なお、端末1Aのみが座標系の関係を把握して座標系間の変換を行う場合には、端末1Aが自端末の諸量データ501と端末1Bからの諸量データ502とを取得すればよく、端末1Aから端末1Bへ諸量データ501を送信する必要は無い。逆に、端末1Bのみが変換を行う場合には、端末1Bから端末1Aへ諸量データ502を送信する必要は無い。
[変換パラメータ]
上記座標系ペアリングにより、端末1(1A,1B)間での世界座標系WA,WBの関係が分かり、世界座標系WA,WB間での変換が可能となる。すなわち、世界座標系WBを世界座標系WAに合わせるようにするための変換、あるいはその逆の変換が可能となる。世界座標系間の変換は、所定の変換パラメータで表される。変換パラメータは、座標系の方向の変換(言い換えると回転)と、座標系の原点の差との計算用のパラメータである。
図6は、端末1間での位置の伝達の際の変換の各例、および変換パラメータの例を示す。例えば、端末1Aは、自端末で座標系間の変換を行う場合、自端末と相手の端末1Bとの両方の諸量データ501,502を取得し、それらの諸量データ501,502から、世界座標系WA,WB間の関係を計算する。具体的には、図6のように、端末1Aは、変換のための変換パラメータTAを生成し保持する。世界座標系WA上の位置から、その変換パラメータTAを用いた変換によって、世界座標系WB上の位置が得られる。同様に、端末1Bは、自端末で座標系間の変換を行う場合、両方の諸量データ501,502から、世界座標系WA,WB間での変換のための変換パラメータTBを生成し保持する。
座標系ペアリングによる位置認識共有後の端末1(1A,1B)間では、実空間内の同じ位置21を指定できる。一方の端末1は、他方の端末1に、指定する位置21の情報を伝達する。一方の端末1または他方の端末1は、位置21に関して座標系間の変換を行う。
図5で、位置ベクトルGは、世界座標系WAにおける画像22の位置21のベクトルであり、位置座標値rは、その位置21の座標値である。位置ベクトルGは、世界座標系WBにおける位置21のベクトルであり、位置座標値rは、その位置21の座標値である。原点間ベクトルoBAは、原点Oから原点Oへのベクトル(世界座標系WAでの原点Oの表現)であり、原点間ベクトルoABは、原点Oから原点Oへのベクトル(世界座標系WBでの原点Oの表現)である。
位置の変換は、端末1Aで変換パラメータTAを用いて行ってもよいし、端末1Bで変換パラメータTBを用いて行ってもよい。端末1Aと端末1Bの一方が変換パラメータを保持してもよいし、両方が変換パラメータを保持してもよい。
図6の(A)は伝達に関する第1例である。例えば、端末1Aは、端末1Bに、画像22の表示対象位置LG等の位置情報を伝達する。その際、端末1Aは、世界座標系WA上の位置座標値rから、変換パラメータTAによる変換によって、世界座標系WB上の位置座標値rを得て、端末1Bに送信する。(B)は第2例である。端末1Aは、世界座標系WA上の位置座標値rを、端末1Bに送信する。端末1Bは、その位置座標値rから、変換パラメータTBによる変換によって、世界座標系WB上の位置座標値rを得る。(C)は第3例である。端末1Bは、世界座標系WB上の位置座標値rから、変換パラメータTBによる変換によって、世界座標系WA上の位置座標値rを得て、端末1Aに送信する。(D)は第4例である。端末1Bは、世界座標系WB上の位置座標値rを、端末1Aに送信する。端末1Aは、その位置座標値rから、変換パラメータTAによる変換によって、世界座標系WA上の位置座標値rを得る。
図6で、変換パラメータのテーブルは、例えば、相手端末(相手ユーザ)のID等の情報と、座標系間の回転の表現の情報と、座標系間の原点の表現の情報とを有する。例えば、端末1Aが持つ変換パラメータTAのテーブルは、相手端末1B(相手ユーザB)のIDと、相手の世界座標系WBに合わせるための回転の表現(qAB)と、世界座標系WAからみた世界座標系WBの原点の表現(oBA)とを有する。
図5で、各端末1の各ユーザは、実空間内の同じ位置21に表示される画像22を共通に視認できる。ベクトルEは、ユーザAの視点に対応する端末1Aの位置LAから位置21の画像22を見る場合のベクトルである。ベクトルEは、ユーザBの視点に対応する端末1Bの位置LBから位置21の画像22を見る場合のベクトルである。
[画像表示例]
図7は、情報端末装置1がスマートフォンである場合において、座標系ペアリング後、端末1(1A,1B)間で位置認識共有がされた同じ位置21である表示対象位置LGに、ARの同じ仮想物体の画像22を表示する例を示す。また、本例は、各端末1の位置が各世界座標系の原点と同じである場合を示す。座標系ペアリング後、実空間内のある位置21が、仮想物体の表示対象位置LGとして指定されている。
ユーザAの端末1Aの表示面5Aには、ARの画像22が、実物25に対し重畳表示される。同じく、ユーザBの端末1Bの表示面5Bには、ARの画像22が、実物25に対し重畳表示される。本例では、画像22に配置の向きが設定されている場合を示し、例えばAR表示例1では、位置21に画像22の正面が南を向く状態で配置されている。各端末1からの画像22の見え方は、画像22との位置関係に応じて異なる。端末1Aの表示面5Aでは、位置21の画像22は右に向いた状態で写っている。端末1Bの表示面5Bでは、位置21の画像22は左に向いた状態で写っている。
図7中に別の例(AR表示例2)も示している。この例は、各端末1から見て同じ画像22が見えるように制御する場合を示す。端末1Aの表示面5Aおよび端末1Bの表示面5Bのいずれも、位置21の画像22はユーザの端末1を向いた状態で写っている。
なお、上記位置認識共有後の位置の伝達および画像22の表示の際に、各画像22の表示毎に、一方の端末1から他方の端末1へ位置および画像データ等を送信する方式としてもよいし、他の方式としてもよい。例えば、端末1Aは、端末1Bに位置座標および画像データを送信し、端末1Bは、それに従って、即時に、表示面5における指定の位置21に画像22を表示する。あるいは、端末1Bは、自端末のアプリケーション等の処理を優先し、共有位置への画像表示を後回しにするか拒否してもよい。変形例としては、共有位置への画像表示制御の権限を設け、一方の端末1に他方の端末1の画像表示制御に関する権限を渡す形態でもよい。例えば、座標系ペアリングによる位置認識共有中、端末1Bは、端末1Aに、権限を渡す。権限を持つ端末1Aは、自端末だけでなく、相手の端末1Bの画像表示を制御する。端末1Aは、端末1Bでの画像表示制御のためのデータを作成し、端末1Bに送信する。端末1Bは、受信したデータに従って表示面5に画像を表示する。
[制御フロー]
図8は、実施の形態1の情報端末装置1における制御フローを示す。図8のフローは、端末1Aと端末1Bとの間で位置認識共有を行う場合の制御フローであり、端末1A側のステップS1A~S9Aと、対応する端末1B側のステップS1B~S9Bとを有する。この制御フローでは、座標系ペアリングの際に、ペアとなる各端末1が、ある程度タイミングを合わせて諸量の測定をほぼ同時に行う。
まず、ステップS1A,S1Bで、端末1A,1Bは、所定の無線通信方式を用いて端末1間の通信を確立する。なお、通信は、アクセスポイント23経由でもよいし、端末1間での直接通信でもよい。ステップS2Aで、例えば、端末1Aから端末1Bに、座標系ペアリング要求を送信する。本例では端末1Aを要求側とするが、端末1Bを要求側とする場合も同様である。ステップS2Bで、端末1Bは、端末1Aからの座標系ペアリング要求を受信し、座標系ペアリングに同意するか等を確認し、端末1Aに応答を行う。同意する場合、端末1Bは端末1Aに同意の旨の応答を送信する。なお、座標系ペアリングに際して、セキュリティを高めたい場合、端末1Bから端末1Aに、予め設定したパスコード等の入力を要求してもよい。また、座標系ペアリング要求は、ユーザからの指示操作を契機として行ってもよいし、端末1が自動で判断した契機で行ってもよい。
上記同意に基づいて、ステップS3A,S3B以降で、端末1(1A,1B)間では、座標系ペアリングの動作を開始する。まず、ステップS3A,S3Bで、各端末1は、図5のような諸量データを測定する。すなわち、例えば、端末1Aは、特定方向ベクトルNと、端末間ベクトルPBAと、座標値dとを得る。
なお、座標系ペアリング動作中には、両端末1が、なるべく同じタイミングで、またなるべく静止した状態で、諸量を測定した方が好ましい。よって、例えば、座標系ペアリング動作の際には、後述のように、各端末1は、座標系ペアリングのための所定のガイド等をユーザへ出力しながら、測定のタイミング等を合わせるように制御を行う。
特定方向ベクトル(N,N)は、座標系ペアリング毎に測定してもよいし、座標系ペアリング前に世界座標系の設定後に既に測定されて保持している設定値がある場合にはその設定値で代用してもよい。世界座標系のZ軸が鉛直方向になるように設定されている場合には、その鉛直方向は、測定値ではなく、設定値になるが、その設定値を特定方向ベクトルとして用いてもよい。実空間内の特定方向は、予め規約で決められてもよいし、座標系ペアリング毎に決められてもよい。
次に、ステップS4A,S4Bで、各端末1は、上記測定した諸量データ{(1)特定方向ベクトル、(2)端末間ベクトル、(3)座標値}を相手の端末1に送信することで、諸量データを交換する。すなわち、端末1Aは、図5の諸量データ501を端末1Bに送信し、端末1Bは、諸量データ502を端末1Aに送信する。なお、一方の端末1、例えば端末1Aのみが、座標系の関係を把握し変換を行う場合には、端末1Bから端末1Aへの諸量データの送信のみでよい。
次に、ステップS5A,S5Bで、各端末1は、相手の端末1からの諸量データを受信後、自端末での世界座標系間の変換のための変換パラメータを設定する。端末1Aは図6の変換パラメータTAを設定し、端末1Bは変換パラメータTBを設定する。上記座標系ペアリングによって、各端末1の世界座標系間で相互に位置座標の変換が可能となる。例えば、端末1Aから見た位置座標値rを、端末1Bから見た位置座標値rに変換することができる。
ステップS6A,S6Bで、一方または他方の端末1、例えば端末1Aは、共有する位置の情報、およびその位置に表示するための画像データ等のデータを、相手の端末1、例えば端末1Bに送信する。その際、一方または他方の端末1は、図6のように、適宜に、変換パラメータを用いて位置の変換を行う。
ステップS7A,S7Bで、端末1は、相手の端末1から受信した位置および画像データ等に基づいて、指定された共有位置に対応する表示面5内の位置に、その画像を表示する。これにより、両端末1は、実空間の同一の位置21に仮想物体等の画像22を表示でき、その画像22を介したコミュニケーション等が実現できる。
ステップS8A,S8Bで、各端末1は、座標系ペアリングによる位置認識共有を終了するかどうかを確認する。終了は、例えばユーザの指示入力を契機としてもよいし、端末1の自動的な判断を契機としてもよい。例えば、座標系ペアリングの開始から一定時間以上経過した場合に、ユーザに対する終了確認を行うようにしてもよい。終了しない場合にはS6A,S6Bに戻り同様の繰り返しである。終了する場合、ステップS9A,S9Bでは、端末1間で、座標系ペアリングの解除のための通信を行う。座標系ペアリングの開始から一定期間経過後に自動的に解除する方式としてもよい。
[座標系ペアリング時の出力例]
図9は、座標系ペアリング時の表示面5に対する出力例を示す。図9は、例えば、ユーザAの端末1Aが、ユーザBの端末1Bとの間で座標系ペアリングを行う際に、端末1Aの表示面5にガイド等の画像を表示する例を示す。表示面5内には、ユーザBおよび端末1Bが見えている。まず、端末1Aは、座標系ペアリングの開始の際に、表示面5内に、自端末から見た相手の端末1Bの位置に合わせるように、カーソル901を表示する。カーソル901は、ポインティングオブジェクト画像である。端末1は、例えばカメラ6の画像の解析から、相手の端末1を検出できる。また、端末1Aは、表示面5内に、複数のユーザの複数の端末1が見えている場合には、それぞれの端末1の位置に、座標系ペアリングの候補であることを表すカーソルを表示してもよい。
端末1Aは、カーソル901を合わせた端末1Bについて、ガイド画像902を表示する。ガイド画像902は、ユーザBの端末1Bとの座標系ペアリングを行うかどうかをユーザAに確認する情報を持つ画像である。ユーザAは、ガイド画像902に従って、ユーザBの端末1Bとの座標系ペアリングを行う場合にはその旨の指示入力を行う。その指示入力に従い、端末1Aは、端末1Bとの座標系ペアリングの動作(測定等)を開始する。
また、端末1Aは、座標系ペアリング動作中、特に、端末間ベクトルの測定の際に、表示面5内に、自端末から見た相手の端末1Bの位置に合わせるように、カーソル901を表示するとともに、ガイド画像903を表示する。ガイド画像903は、ユーザAに対し測定中であること、およびなるべく静止させることを伝える画像である。測定中にユーザおよび端末1が移動する場合、測定誤差になり得る。そのため、測定中にはユーザおよび端末1をなるべく静止させるように、各端末1はガイド画像903を出力する。
端末1Aは、測定が終了した時には、測定の終了の旨のガイド画像を表示してもよい。また、端末1Aは、座標系ペアリング確立後には、共有中の状態を表す画像を表示してもよい。相手の端末1B側でも同様に、対応するガイド画像が表示される。他の方式として、端末1Aは、例えば一定時間以上、表示面5内に相手の端末1Bが見えている等の条件で、自動的に座標系ペアリングを実行してもよい。その場合にも、端末1Aは、表示面5内にその旨のガイド画像を表示する。また、端末1は、画像表示に限らず、音声等によるガイドを出力してもよい。
なお、座標系の関係を計算するに当たって、図5の特定方向(例えばN)と、端末間ベクトル(例えばPBA)の方向とは異なる必要がある。そのため、もしそれらの方向が同じに重なっていた場合には、端末1からユーザに、位置を変更してから座標系ペアリングを実行し直すようにガイドを出力してもよい。端末1同士が鉛直上下方向に重なるケースは稀であるため、上記のような方向の重なりを避けるためには、特定方向として鉛直下方向を選ぶのが良い。
[座標変換(1)]
以下では、座標変換の詳細について補足説明する。まず、座標系の関係を説明するための記法をまとめる。実施の形態では、座標系は右手系に統一する。実施の形態では、座標系の回転を表すため、正規化四元数を用いる。正規化四元数とは、ノルムが1の四元数であり、軸の回りの回転を表すことができる。単位ベクトル(n,n,n)を回転軸とした角度ηの回転を表す正規化四元数qは、下記の式1となる。i,j,kは四元数の単位である。単位ベクトル(n,n,n)の方向に向いた場合の右回りの回転が、ηが正の回転方向である。任意の座標系の回転はこのような正規化四元数で表現できる。
式1: q=cos(η/2)+nsin(η/2)i+nsin(η/2)j+nsin(η/2)k
四元数qの実数部分をSc(q)で表す。四元数qの共役四元数をq*とする。四元数qのノルムを1に正規化する演算子を[・]で定義する。四元数qを任意の四元数とすると、式2が[・]の定義である。式2の右辺の分母が四元数qのノルムである。
式2: [q]=q/(qq*)1/2
次に、座標点あるいはベクトル(p,p,p)を表現する四元数pを、式3で定義する。
式3: p=pi+pj+p
本明細書においては、特に断りが無い限り、成分表示でない座標点やベクトルを表す記号は四元数表示であるとする。また、回転を表す記号は正規化四元数であるとする。
単位ベクトルnの方向と垂直な平面へのベクトルの射影演算子を、P(n)とする。ベクトルpの射影は、式4で表される。
式4: P(n)p=p+nSc(np)
座標点あるいは方向ベクトルpが四元数qで表される原点中心の回転操作により座標点あるいは方向ベクトルpに変換されたとすると、方向ベクトルpは式5で計算できる。
式5: p=qpq*
単位ベクトルnを単位ベクトルnに重ねるように、単位ベクトルnと単位ベクトルnとを含む平面に垂直な軸回りに回転させる正規化四元数R(n,n)は、下記の式6となる。
式6: R(n,n)=[1-n
[座標変換(2)]
図10は、座標系の変換についての説明図を示す。図10の(A)は、図5と同様に、世界座標系WAと世界座標系WBとの間で、実空間内の同じ位置21(表示対象位置LG)に関する表現と、座標原点(O,O)の差の表現とを示す。位置21の表現として、位置ベクトルG、位置座標値r、位置ベクトルGおよび位置座標値rを有する。座標原点の差の表現として、原点間ベクトルoBA,oABを有する。原点間ベクトルoBAは、世界座標系WAでの原点Oの表現である。原点間ベクトルoABは、世界座標系WBでの原点Oの表現である。
前述の諸量(図5)に基づいて、実空間内での異なる2つの特定方向(特定方向ベクトルと端末間ベクトル)についての各世界座標系WA,WBでの表現(N,N,PBA,PAB)が得られる。そうすれば、それらの表現を一致させるような座標系間の回転操作を、前述の正規化四元数を用いた演算によって求めることができる。よって、それらの情報と、各座標原点の情報とを合わせることで、座標系間での位置座標の変換が可能となる。
世界座標系WA,WBの関係は、以下のように計算できる。以下では、端末1Bの世界座標系WBでの座標値およびベクトル値の表現を、端末1Aの世界座標系WAでの表現に変換する場合における、回転と座標原点の差を求める計算について説明する。
図10の(B)は、世界座標系WAと世界座標系WBとの間で方向を合わせる回転の操作について示し、例えば世界座標系WBの各軸(X,Y,Z)の方向を世界座標系WAの各軸(X,Y,Z)の方向に合わせる回転1001(回転qAB)のイメージを簡易的に示す。
まず、世界座標系WAの方向と世界座標系WBの方向とを合わせるための回転を求める。前述の端末間ベクトルPBA,PABに基づいて、端末間の単位方向ベクトルm,mを、下記のように定義する。単位方向ベクトルm,mは、実空間で端末1Aから端末1Bに向かう方向の単位ベクトルについての世界座標系WAでの表現および世界座標系WBでの表現である。
=[PBA
=[-PAB
最初に、世界座標系WAの表現における回転において、特定方向の単位ベクトルnを単位ベクトルnに重ねる回転qT1を考える。回転qT1は、具体的には下記となる。
T1=R(n,n
次に、この回転qT1によって特定方向の単位ベクトルn,mが回転された方向を、nA1,mA1とする。
A1=qT1T1*=n
A1=qT1T1*
実空間において同じ方向間の角度であるから、方向nA1と方向mA1との成す角度は、単位ベクトルnと単位方向ベクトルmとの成す角度に等しい。また、前提として2つの特定方向は異なる方向としているので、単位ベクトルnと単位方向ベクトルmとの成す角度は0ではない。従って、方向nA1すなわち単位ベクトルnを軸とし、方向mA1を単位方向ベクトルmに重ねる回転qT2を構成できる。具体的に、回転qT2は下記で与えられる。
T2=R([P(n)mA1],[P(n)m])
方向nA1は回転qT2の回転軸方向nと同一方向であるので、この回転qT2により不変である。また、方向mA1は、この回転qT2により単位方向ベクトルmに回転される。
=qT2A1T2*
=qT2A1T2*
あらためて、回転qBAを下記で定義する。
BA=qT2T1
この回転qBAにより、単位ベクトルnと単位方向ベクトルmは、単位ベクトルnと単位方向ベクトルmに回転される。
=qBABA*
=qBABA
単位ベクトルnと単位方向ベクトルmは異なる2つの方向として選ばれているので、この回転qBAが、世界座標系WAでの方向表現を世界座標系WBでの方向表現に変換する回転である。逆に、世界座標系WBでの方向表現を世界座標系WAでの方向表現に変換する回転を回転qABとすると、回転qABは同様に以下となる。
AB=qBA*
次に、座標値d,d(図5)の変換式を求める。ここでの座標値d,dは、式3により定義される座標値の四元数表現である。まず、一方の座標系から見て他方の座標系の原点の座標値を求める。図10の(A)のように、世界座標系WAにおける世界座標系WBの原点Oの座標値の表現がoBA、世界座標系WBにおける世界座標系WAの原点Oの座標値の表現がoABである。各座標系における端末1の位置の座標値d,dは分かっているので、原点座標値表現(oBA,oAB)は、下記の式Aのように求まる。
式A:
BA=d+PBA-qABAB*
AB=d+PAB-qBABA*
また、容易に分かるように、下記の関係がある。
AB=-qBABABA*
最後に、実空間内の任意の点(位置21)の世界座標系WAでの座標値rと、世界座標系WBでの座標値rとの変換式は、以下のように与えられる。
=qBA(r-oBA)qBA*=qBABA*+oAB
=qAB(r-oAB)qAB*=qABAB*+oBA
上記のように、例えば端末1Aの世界座標系WAで見た特定の位置21(座標値r)を、端末1Bから見た場合の位置21(座標値r)に変換したい場合、回転qBA、座標値r、および原点表現oABを用いて計算できる。逆の変換も同様に計算できる。前述の図6の変換パラメータTA,TBは、上記座標系の変換の説明で登場したパラメータ(回転および原点表現)で構成することができる。なお、容易に変換できるので、qABの代わりにqBAを保持してもよく、oBAの代わりにoABを保持してもよく、その逆でもよい。
[応用例(1)]
位置認識共有による位置指定および画像表示の応用例として、以下も可能である。図11は、位置認識共有状態の端末1間で、実空間内の位置または対応する実物を指し示すためのポインティングオブジェクトのような仮想物体の画像を表示する応用例を示す。(A)は第1例、(B)は第2例を示す。(A)で、例えばユーザAの端末1Aは、他のユーザBの端末1Bとの間で、座標系ペアリング後の位置認識共有状態である。例えば、ユーザAは、視界内の任意の指し示したい位置、例えば作業対象物1100のうちの位置LG1を指定する。指定は、端末1Aに対する所定の入力操作(例えば操作器3の操作)によって可能である。ユーザAの指定の操作に応じて、端末1Aは、表示面5における位置LG1に、ポインティングオブジェクト画像1101を表示する。また、端末1Aは、端末1Bに、指定の位置LG1等の情報を送信する。端末1Bは、端末1Aからの情報に基づいて、端末1Bから見た同じ位置LG1に、同様のポインティングオブジェクト画像1101を表示する。本例のポインティングオブジェクト画像1101は、数字付きの点の画像であるが、これに限らず各種の画像を適用できる。同様に、ユーザAまたはユーザBは、他の任意の指定した位置LG2に、ポインティングオブジェクト画像1102を表示させることができる。このように、ユーザAとユーザBは、作業対象物1100が複雑な形状を持つ場合や手で触れない物体である場合等にも、ポインティングオブジェクトを介して同じ位置を共有して認識し、効率的な作業等が可能である。
(B)で、例えばユーザAの端末1Aは、建物内の天井の近くの壁面の位置LG3を指定している。端末1Aは、その位置LG3にポインティングオブジェクト画像1103を表示する。また、ユーザBの端末1Bは、同じ位置LG3にポインティングオブジェクト画像1103を表示する。本例のポインティングオブジェクト画像1103は×印の画像である。このように、ユーザから手が届かない位置の場合でも、ユーザ間でポインティングオブジェクトを介して同じ位置を共有して認識できる。
[応用例(2)]
この位置認識共有システムは、指定の位置に画像を表示することは必須ではなく、単に端末1間で位置を伝達するのみの利用も可能である。相手の端末1から位置を伝えられた側の端末1は、その位置の情報を用いて任意の応用が可能である。
図12は、位置の伝達の応用例を示す。(A)は第1例、(B)は第2例を示す。(A)で、例えばユーザAの端末1Aは、他のユーザBとの座標系ペアリング後、実空間内で、自分の付近の任意の領域1201を指定する操作を行う。この領域1201は、位置の集まりによる2次元または3次元の領域、本例では端末1Aの位置1202を中心とした3次元の立方体の領域である。端末1Aは、この領域1201の情報を、ユーザBの端末1Bに伝達する。この領域1201は、例えばユーザAが自分の身体およびHMDの動く範囲を一時的に確保するための領域である。端末1Bは、この領域1201の情報に応じて、その領域1201内にユーザBおよび端末1Bが入らないように、ユーザBに対する注意等を表示や音声で出力する。端末1Aや端末1Bの表示面5には、領域1201を表す線の画像が表示されてもよい。ユーザBは、その領域1201に入らないように気をつける。これにより、ユーザ同士の身体接触等が防止でき、ユーザAは、その領域1201内での作業等がしやすくなる。領域1201は、例えば中心の位置1202と幅等で規定してもよいし、領域1201を構成する頂点の位置で規定してもよいし、予め設定されたサイズや形状から選択できるようにしてもよい。
(B)で、例えばユーザAの端末1Aは、自分の前方に、領域1203を指定する操作を行い、端末1Aはその領域1203の情報をユーザBの端末1Bに伝達する。この領域1203は、端末1Aの位置を含まず、例えばユーザAの端末1Aが仮想物体の画像を表示させたい範囲を一時的に確保するための領域である。例えばユーザAの端末1Aがこの領域1203内に共有画像を優先的に表示できる権限が設定される。端末1Aは、その領域1203内の指定の位置1204に、共有の画像1205を表示する。端末1Bは、同様に、その位置1204に画像1205を表示する。端末1B側は、その領域1203内に、端末1A側が表示する画像1205以外の共有画像を表示しないように制限される。また、必要に応じて、ユーザ間で上記権限を移動させてもよい。これにより、領域1203内には、権限を持つ側のユーザが指定した共有画像が優先的に表示され、各ユーザによる複数の共有画像が混在しないようにでき、共有画像を見やすくすることができる。
[効果等]
上記のように、実施の形態1の情報端末装置によれば、実空間内にアンカーやマーク等となる適当な実物が無い場合でも、端末間での座標系の関係の計算、言い換えると座標系の共有のための変換等に基づいて、端末間での位置認識共有が実現できる。各ユーザは、少ない手間で位置認識共有ができ、ユーザ間での効率的な作業等が可能である。
実施の形態1の変形例として、諸量における特定方向を、図5の鉛直下方向(または重力加速度方向)に限らず、地磁気方向(例えば北方向)としてもよい。地磁気方向は、図3の地磁気センサ43によって測定可能である。
[変形例]
前述の各端末1による図5の端末間ベクトル(PBA,PAB)の測定の際(図8のステップS3A,S3B)に、精度の確保のためには、両端末1の測定タイミングをほぼ同時とし、各端末1の位置を一定、静止状態とする必要がある。実施の形態1では、端末1の位置変化が無視できるほど小さい時間差での測定を前提としていた。実施の形態1の変形例では、ペアとなる各端末1の測定タイミングのずれを許容し、そのずれを補正して高精度を実現する方法を示す。
図13は、実施の形態1の変形例における、座標系ペアリング時の諸量の測定について示す。上側の(A)は、端末1Aの諸量の測定タイミング、下側の(B)は、端末1Bの諸量の測定タイミングを示す。横軸が時間であり、期間1301は端末1Aの測定期間、期間1302は端末1Bの測定期間、期間1303は端末1Aの測定期間と端末1Bの測定期間とが重なる期間を示す。時点t11,t21等は測定回を示す。
変形例では、座標系ペアリング中、各端末1は、諸量(例えば端末間ベクトル)について、期間中に複数回の測定を行う。そして、各端末1は、端末1間で測定値を補完することにより、同一タイミングでの諸量の推定値を求めて使用する。
まず、両端末1での内部時計の時刻差がある場合には、前述の通信確立時(ステップS1A,S1B)に補正する。ペアとなる各端末1(1A,1B)は、ある程度タイミングを合わせながら、期間中に諸量の測定を複数回行う。各端末1での測定の期間および時刻は、重なる期間1303を持てば、一致しなくてもよい。本例では、端末1Aは期間1301で時点t11からt1NまでN回測定を行っている。端末1Bは、より遅れた期間1302で時点t21からt2NまでN回測定を行っている。
ここで、端末1Aにおける測定時刻tAnでの測定対象の量をD(tAn)とし、端末1Bにおける測定時刻tBnでの測定対象の量をD(tBn)とする。重なる期間1303でのある時刻をt0とした場合に、その前後の測定時刻の測定値から、時刻t0での値を内挿によって推定する。前後の測定時刻をtAn,tA(n+1),tBn´,tB(n´+1)とし、tAn≦t0<tA(n+1),tBn´≦t0<tB(n´+1)とする。この場合に、例えば下記の式によって推定値を求める。
(t)={(tA(n+1)-t0)D(tAn)+(t0-tAn)D(tA(n+1))}/(tA(n+1)-tAn
(t)={(tB(n´+1)-t0)D(tBn)+(t0-tBn´)D(tB(n´+1))}/(tB(n´+1)-tBn´
なお、推定方法は、上記例に限定されず、他の方法、例えば多くの測定値を使用した高次式を用いても構わない。
(実施の形態2)
図14を用いて、本発明の実施の形態2の情報端末装置について説明する。以下、実施の形態2等における実施の形態1とは異なる構成部分について説明する。実施の形態1では、各端末1に既に設定されている世界座標系を用いて、端末1間で座標系の共有を行う場合、および世界座標系の原点と端末1の位置とが異なる一般的な場合について示した。また、実施の形態1では、諸量の1つとして、各世界座標系での端末1の位置の座標値を用いる場合を示した。実施の形態2では、端末1間での座標系ペアリングの際に、それぞれの世界座標系をリセットし、各端末1の位置を中心(原点)とする座標系を、位置認識共有のための座標系として設定する。この新たに設定する座標系を、説明上、ポータル座標系と呼ぶことにする。実施の形態2では、このポータル座標系を用いて位置認識共有を行う。
図14は、実施の形態2での位置認識共有の例を示す。(A)はHMDの場合、(B)は同様にスマートフォンの場合である。端末1Aと端末1Bとの座標系ペアリングの際に、各端末1(1A,1B)は、自分の位置(LA,LB)を座標原点とするポータル座標系を設定する。実施の形態2では、図8の制御フローで、例えばステップS2A,S2Bの座標系ペアリングの要求および応答の処理後に、世界座標系のリセットによってポータル座標系を設定するステップを有する。
例えば、端末1Aはポータル座標系CAを設定し、端末1Bはポータル座標系CBを設定する。ポータル座標系CAは、端末1Aの世界座標系WAの原点Oを、その時の位置LA(座標値d)に合わせるようにして設定されている。すなわち、ポータル座標系CAは、原点Oと各軸(X,Y,Z)を持つ。端末1Aの位置LAは、ポータル座標系CAの原点Oと同じであり、座標値dは(0,0,0)となる。ポータル座標系CAの各軸(X,Y,Z)の方向は、例えば軸Zが鉛直上方向とされ、軸Xは端末1の正面方向に合わせた方向として設定される。端末1Bのポータル座標系CBも同様に設定される。
実施の形態2では、世界座標系のリセットによって端末1の位置が原点になるため、座標系ペアリングの際の諸量としては、(1)特定方向ベクトル、(2)端末間ベクトルの2つの要素でよい。あるいは、座標値d,dを0として授受しても同じである。
実施の形態1では、前述の原点座標値表現を求める式Aにおいて、項qBABA*があるため、座標値dが大きい場合には、回転qBAの誤差が大きな影響を与える。これに対し、実施の形態2では、リセットによって座標値dが0となるので、そのような回転qBAの誤差の影響を防ぐことができる。
さらに、ポータル座標系の設定に際しては、上記のように端末1の中心位置に原点を一致させる構成に限らず可能であり、座標値d,dの値が十分に小さい構成であればよい。例えば、端末1の中心位置の近傍、例えばユーザの頭部の中心位置、あるいは頭部の前方の位置等に、ポータル座標系の原点を配置する構成としてもよい。座標値d,dが十分に小さい場合、回転qBAの誤差の影響を低減できる。
新たにポータル座標系を設定するタイミングについて、より詳しくは、自分の端末1から相手の端末1への端末間ベクトルを測定するタイミングに合わせるとよい。端末1は、その測定時点の自分の端末1の中心位置を原点としてポータル座標系を設定する。
また、座標系ペアリングを終了して位置認識共有を終了する場合、各端末1は、ポータル座標系の設定を解除し、元の座標系ペアリング前の世界座標系の設定に戻すようにしてもよい。
また、実施の形態2によれば、効果の1つとして、過去に設定されている世界座標系にセンサのドリフトに基づいた誤差を有する場合でも、リセットによってその誤差を解消できる。
(実施の形態3)
図15を用いて、本発明の実施の形態3の情報端末装置について説明する。実施の形態1では、特定方向として1つの方向(鉛直下方向)を使用したが、実施の形態2では、2つの特定方向を用いる。この異なる2つの特定方向の方向ベクトルを使用して、座標系ペアリングの端末間で各座標系の方向を合わせることができる。実施の形態3では、例えば、第1特定方向を鉛直下方向とし、第2特定方向として地磁気の北方向を用いる。地磁気の北方向は図3の地磁気センサ43で測定できる。地磁気の方向が鉛直方向になることは極めて特殊な状況であるため、実際的には地磁気の北方向は鉛直方向とは異なると考えてよい。ただし、地磁気の方向は、構造物等の影響を受ける場合があるので、座標系ペアリングの都度測定することが望ましい。構造物等の影響が十分小さいと分かっている場合には、予め測定済みで保持している地磁気の方向の設定値を用いてもよい。
図15は、実施の形態3における座標系の共有を示す。端末1(1A,1B)における地磁気の北方向の単位方向ベクトルをM,Mで示す。実施の形態3では、端末1(1A,1B)の地磁気の北方向の単位方向ベクトルM,Mを、前述の端末間ベクトルPBA,PAB方向の単位ベクトルの各座標系での表現であるm,mの代わりに用いる。これにより、実施の形態1と同じ方式で、各世界座標系WA,WBの向きを合わせる回転qを計算できる。
座標原点の差を求めるためには、各端末1の各座標系における座標値d,dと、少なくとも一方の端末1から他方の端末1への端末間ベクトルと、が必要である。ここでは、端末1Aからみた端末1Bへの端末間ベクトルPBAを使用する。端末間ベクトルPBAが分かれば、端末間ベクトルPABは下記で計算できる。
AB=-qBABABA*
これにより、実施の形態1と同様に、他方の端末1の世界座標系の原点についての自分の端末1の世界座標系での座標値の表現(oBA,oAB)も求めることができ、前述の座標変換式が得られる。
実施の形態3の場合、端末間ベクトルの測定を一方の端末1、例えば座標系ペアリング要求を出す方の端末1だけで行えばよい利点がある。
[変形例]
図16は、実施の形態1~3に関する変形例における座標系ペアリングの構成例を示す。この変形例は、3台以上の端末1がある場合に、それらが同時に座標系ペアリングの動作を行う。本例では、対象として3台の端末1A,1B,1Cがあり、それらの3台が同時に座標系ペアリングを行う。この構成例は、ユーザCの端末1Cが追加されている。端末1Cは、世界座標系WCを有し、位置LC(座標値d)を有する。座標系の図示は省略する。本例では、3台のうち1台の端末1、例えば端末1Aを主端末とし、端末1B,1Cを従端末とし、図8の制御フローに基づいて、3台の端末1がタイミングを合わせながら、同時に座標系ペアリング処理を行う。
この処理の際、端末1Bは、自分の位置LBと端末1Aの位置LAとの位置関係1601を測定し、端末間ベクトルPAB等を得る。端末1Cは、自分の位置LCと端末1Aの位置LAとの位置関係1602を測定し、端末間ベクトルPAC等を得る。これにより、端末1Aと端末1Bとの間の座標変換の式(第1変換パラメータTABとする)と、端末1Aと端末1Cとの間の座標変換の式(第2変換パラメータTACとする)とを、ほぼ同時に求めることができる。そして、端末1Bと端末1Cとの間の位置関係1603に関する座標変換の式(第3変換パラメータTBCとする)は、第1変換パラメータTABと第2変換パラメータTACとから求めることができる。
(実施の形態4)
図17を用いて、本発明の実施の形態4の情報端末装置について説明する。実施の形態4では、位置認識共有の対象となる端末1が3台以上ある場合の取り扱い等について示す。実施の形態1等で示した2台の端末1間の座標系ペアリングを基本として、3台以上の端末1によるグループの場合でも位置認識共有を実現する。
図17は、実空間内での複数のユーザの複数の端末1の例として、ユーザA,B,C,Dに対応付けられる端末1A,1B,1C,1Dがある場合を示す。各端末1の座標系を、世界座標系WA,WB,WC,WDとし、各原点を原点O,O,O,Oとする。これらのユーザの端末1を1つのグループとして位置認識共有を行う場合を説明する。例えば端末1Cが自端末(第1端末)であるとする。まず、前述と同様に、例えば端末1A(第2端末)と端末1B(第3端末)との座標系ペアリング1701が確立される。この状態から、次に、端末1B(第3端末)と端末1C(第1端末)との座標系ペアリング1702が行われる。これにより、間接的に、端末1A(第2端末)と端末1C(第1端末)との座標系ペアリング1703ができる。このことを以下に説明する。
まず、座標系ペアリング1701により、端末1Bは、変換パラメータ1721として、回転qBAと原点表現oABとを得て保持する。回転qBAは、世界座標系WAを基準とした方向表現を、世界座標系WBを基準とした方向表現にする回転である。原点表現oABは、世界座標系WAの原点Oについての世界座標系WBでの座標値である。逆に、端末1Aは、変換パラメータ1711として、回転qABと原点表現oBAとを得て保持する。
次に、端末1Bと端末1Cとの座標系ペアリング1702が行われる。これにより、端末1Cは、変換パラメータ1731として、回転qCBと原点表現oBCとを得て保持する。回転qCBは、世界座標系WBを基準とした方向表現を、世界座標系WCを基準とした方向表現にする回転である。原点表現oBCは、世界座標系WBの原点Oについての世界座標系WCでの座標値である。逆に、端末1Bは、変換パラメータ1722として、回転qBCと原点表現oCBとを得て保持する。
ここで、端末1Cは、端末1Bから、変換パラメータ1721の回転qBAと原点表現oABの情報をもらう。端末1Cは、その情報を変換パラメータ1732として保持する。これにより、端末1Cは、変換パラメータ1731(qCB,oBC)および変換パラメータ1732(qBA,oAB)を用いて、端末1Aとの間の間接的な座標系ペアリング1703に関して、回転qCAと原点表現oACを、下記のように計算できる。回転qCAは、世界座標系WAを基準とした方向表現を、世界座標系WCを基準とした方向表現にする回転である。原点表現oACは、世界座標系WAの原点Oについての世界座標系WCでの座標値である。
CA=qCBBA
AC=oBC+qCBABCB*
端末1Cは、得られた情報(qCA,oAC)を変換パラメータ1733として保持する。端末1Cは、この変換パラメータ1733を用いて、下記のように、端末1Aの世界座標系WAでの位置21の表現rを、端末1Cの世界座標系WCでの表現rに変換することができる。
=qCA(r-oCA)qCA*=qCACA*+oAC
また、端末1Cは、上記変換パラメータ1733(qCA,oAC)の情報を、端末1Aに送信する。端末1Aは、その情報を、変換パラメータ1712(qCA,oAC)として保持する。そうすれば、一般に下記の関係があることから、端末1Aにおいても、世界座標系WAと世界座標系WCとの座標変換ができるようになる。すなわち、端末1Aは、逆の変換に関する変換パラメータ1713(qAC,oCA)を保持する。また、下記関係があるので、各端末において、qIJかqJIのどちらか一方を保持し、oJIとoIJのどちらか一方を保持することでもよい。
IJ=qJI*
JI=-qIJIJIJ*
図18は、上記グループにおける座標系共有状態における、端末1Aが保持する変換パラメータテーブル1801、端末1Bが保持する変換パラメータテーブル1802、端末1Cが保持する変換パラメータテーブル1803を示す。端末1Aは、グループの各端末1(1B,1C,1D)を相手端末として情報を交換しながら、それぞれのペア間の変換パラメータを保持する。具体的には、端末1Aの変換パラメータテーブル1801は、端末1Bとの変換パラメータとして回転qABおよび原点表現oBAを有し、端末1Cとの変換パラメータとして回転qACおよび原点表現oCAを有し、端末1Dとの変換パラメータとして回転qADおよび原点表現oDAを有する。同様に、端末1Bの変換パラメータテーブル1802は、端末1Aとの変換パラメータとして回転qBAおよび原点表現oABを有し、端末1Cとの変換パラメータとして回転qBCおよび原点表現oCBを有し、端末1Dとの変換パラメータとして回転qBDおよび原点表現oDBを有する。端末1Cの変換パラメータテーブル1803は、端末1Aとの変換パラメータとして回転qCAおよび原点表現oACを有し、端末1Bとの変換パラメータとして回転qCBおよび原点表現oBCを有し、端末1Dとの変換パラメータとして回転qCDおよび原点表現oDCを有する。端末1Dについても同様である。
上記のように、端末1Aと端末1Cとの間では、直接的な座標系ペアリングの処理が無くても、間接的な座標系ペアリング1703として座標系の共有ができる。同様に、ユーザDの端末1Dについても、グループのうちの1つの端末1(例えば端末1C)に対する同様の手続き(例えば座標系ペアリング1704等)を行うことで、グループでの座標系の共有が可能である。上記のように、実施の形態4では、複数の端末1がある場合に、任意の2台の端末1ずつ順次に座標系ペアリングを行うことで、グループでの位置認識共有が可能である。グループ内の各端末1は、いずれの相手の端末1との間でも位置の伝達が可能である。
上記のように、実施の形態4では、ある端末1(例えば端末1C)は、位置認識共有のグループのうちの1つの端末1(例えば端末1B)と座標系ペアリングを行い、グループの各端末1との間での変換パラメータを共有する。この新たに参加する端末1は、グループの全端末1の各端末1との直接的な座標系ペアリングを行う必要は無く、効率的に共有のグループに参加でき、ユーザの手間も少ない。
[変形例(1)]
実施の形態4の変形例として、グループの各端末1の座標系としては、実施の形態2と同様に、世界座標系のリセットによるポータル座標系の適用が可能である。例えば、あるグループに新たに参加する端末1(例えば端末1C)が、グループのある端末1との間で座標系ペアリングを行う際に、ポータル座標系を設定してもよい。これにより、その端末1に関して、前述の回転の誤差の影響を低減できる効果が期待できる。
位置認識共有を行う場面では、用途にも依るが、ユーザは座標系ペアリングを行った地点から大きくは移動しない。よって、グループへの参加時に世界座標系のリセットを行う場合、それ以後に端末1の位置座標の変化はあまり大きくはならない。その状態で、新たな端末1との座標系ペアリングが行われたとしても、上記回転の誤差の影響は大きくはならないと期待できる。
[変形例(2)]
実施の形態4では、図18のように、グループ内の端末1(例えば端末1A)は、グループ内の各端末1との変換パラメータを保持した。変換パラメータの保持に関する方式は、これに限らず可能である。実施の形態4の変形例では、グループにおいて代表的な端末1(代表端末と記載する)を設け、他の各端末1は、代表端末との間での座標変換のための変換パラメータを保持する。
図19は、変形例における変換パラメータの構成例を示す。図17,図18と同様のグループ(端末1A~1D)があるとする。例えば、端末1Aを代表端末とする。図19は、端末1Aが保持する変換パラメータテーブル1901、端末1Bが保持する変換パラメータテーブル1902、および端末1Cが保持する変換パラメータテーブル1903を示す。このグループでは、代表端末である端末1Aの世界座標系WAが、画像表示基準となる。また、共有された指定の位置に表示するための画像データは、代表端末の世界座標系WAを基準としてグループ内で共有される。
代表端末の変換パラメータテーブル1901は、図18の変換パラメータテーブル1801と同様に、各端末1との変換パラメータ情報を有する。端末1Bの変換パラメータテーブル1902は、代表端末との変換パラメータとして回転qBAおよび原点表現oABを有する。端末1Cの変換パラメータテーブル1903は、代表端末との変換パラメータとして回転qCAおよび原点表現oACを有する。既存のグループに対し、新たな端末1(例えば端末1D)が参加する場合、その端末1Dは、例えば代表端末と座標系ペアリングを行う。その端末1Dは、同様に、代表端末との変換パラメータ情報を保持すればよい。また、端末1Dが既存のグループ内の代表端末以外の端末と座標系ペアリングを行った場合でも、上述の方法と同様に、代表端末との間の変換パラメータを間接的に得ることができる。
グループ内での画像表示例としては、端末1Bが、ある位置21に画像を表示したい場合、その位置21の表現(位置座標値r)を、変換パラメータテーブル1902を用いて、代表端末の世界座標系WAでの位置の表現(位置座標値r)に変換し、代表端末に位置や画像の情報を伝達する。あるいは、代表端末が、その位置座標値rを、変換パラメータテーブル1901を用いて、世界座標系WAでの位置座標値rに変換してもよい。代表端末は、得た位置や画像の情報を、グループ内の他の端末1C,1Dに送信する。端末1C,1Dは、それぞれ、得た位置や画像の情報に従って、自分の座標系での位置の表現に変換し、その位置に画像を表示する。あるいは、代表端末が、その位置座標値rを、変換パラメータテーブル1901を用いて、各世界座標系WC,WDでの位置の表現(r,r)に変換し、端末1C,1Dに送信してもよい。
この変形例では、代表端末以外の端末1は、代表端末との間の変換パラメータ情報を保持すればよく、システム全体で変換パラメータ情報の準備や管理が簡単となる。他の変形例としては、代表端末のみが各変換パラメータ情報を保持して各変換を行う形態も可能である。
[変形例(3)]
上記変形例(2)において、グループ内の位置情報の各端末間での授受を、世界座標系WAでの位置座標値rに基づいて行うようにしてもよい。この場合、代表端末以外の端末は、自端末において、世界座標系WAでの位置表現を自端末の世界座標系の表現に変換する。この変形例においては、代表端末は、各端末間の変換パラメータを保持しなくてもよく、上記変形例(2)と同様に、システム全体でのパラメータの情報の準備や管理が簡単になる。また、位置データの授受を、代表端末を経由させることなく行うこともでき、データの授受が簡単となる。
以上、本発明を実施の形態に基づいて具体的に説明したが、本発明は前述の実施の形態に限定されず、要旨を逸脱しない範囲で種々変更可能である。
1,1A,1B…情報端末装置、21…位置、22…画像、501,502…諸量データ,WA,WB…世界座標系、LA,LB…位置,TA,TB…変換パラメータ。

Claims (18)

  1. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行
    前記各座標系間の相対的な向きの関係に関する情報は、各端末に関する実空間内の向きの異なる2つの特定方向に関する情報である特定方向情報を含む、
    情報端末装置。
  2. 請求項1記載の情報端末装置において、
    前記特定方向は、鉛直下方向もしくは重力加速度方向、または地磁気方向を含む、
    情報端末装置。
  3. 請求項1記載の情報端末装置において、
    前記特定方向情報は、鉛直下方向もしくは重力加速度方向の情報と、地磁気方向の情報とを含む、
    情報端末装置。
  4. 請求項1記載の情報端末装置において、
    前記各座標系原点間の相対的位置関係に関する情報は、各端末の位置に関する情報である端末位置情報を含む、
    情報端末装置。
  5. 請求項記載の情報端末装置において、
    前記端末位置情報は、前記第1座標系を基準とした前記第2端末の位置を表す情報と、前記第2座標系を基準とした前記第1端末の位置を表す情報と、を含む、
    情報端末装置。
  6. 請求項1記載の情報端末装置において、
    前記データは、前記第1端末の位置から前記第2端末の位置への方向および距離の情報、または、前記第2端末の位置から前記第1端末の位置への方向および距離の情報を含む、
    情報端末装置。
  7. 請求項6記載の情報端末装置において、
    測距センサを備え、
    前記測距センサを用いて、前記第1端末の位置から前記第2端末の位置への方向および距離を測定する、
    情報端末装置。
  8. 請求項1記載の情報端末装置において、
    前記位置認識の共有に基づいて、前記第1端末から前記第2端末へ前記実空間内の位置を指定する情報を送信する、または、前記第2端末から前記第1端末へ前記実空間内の位置を指定する情報を送信する、
    情報端末装置。
  9. 請求項8記載の情報端末装置において、
    前記第1端末および前記第2端末は、前記指定の位置に、指定の画像を表示する、
    情報端末装置。
  10. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行い、
    前記第1端末と前記第2端末との間でタイミングを合わせて前記データを測定し、
    前記第1端末の第1データと前記第2端末の第2データとを取得し、前記第1データと前記第2データとを用いて、前記第1座標系と前記第2座標系との間での変換パラメータを生成し、
    前記実空間内の位置に関して、前記変換パラメータを用いて、前記第1座標系での位置座標と、前記第2座標系での位置座標との間での変換を行う、
    情報端末装置。
  11. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行い、
    前記位置認識を共有する際に、前記第1端末の座標系をリセットして前記第1端末の位置に新たに前記第1座標系を設定し、前記第2端末の座標系をリセットして前記第2端末の位置に新たに前記第2座標系を設定する、
    情報端末装置。
  12. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行い、
    前記位置認識の共有を行うグループを構成する複数の情報端末装置として、前記第1端末と、前記他の情報端末装置である前記第2端末および第3端末と、を有する場合に、
    前記第2端末と前記第3端末との間で前記位置認識の共有を行って、前記第3端末が前記第2端末との間の第1変換に関する第1変換パラメータ情報を取得し、
    前記第1端末と前記第3端末との間で前記位置認識の共有を行って、前記第1端末が前記第3端末との間の第2変換に関する第2変換パラメータ情報を取得し、
    前記第1端末が、前記第3端末から取得した前記第1変換パラメータ情報と、前記第2変換パラメータ情報とを用いて、前記第2端末との間の第3変換のための第3変換パラメータ情報を取得する、
    情報端末装置。
  13. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行い、
    前記位置認識の共有を行うグループを構成する複数の情報端末装置として、前記第1端末と、前記他の情報端末装置である前記第2端末および第3端末と、を有する場合に、
    前記第1端末を代表端末とし、前記第1座標系を前記グループでの前記位置認識の共有のための基準とし、
    前記代表端末または前記第2端末は、前記代表端末と前記第2端末との間での第1変換のための第1変換パラメータ情報を取得し、
    前記代表端末または前記第3端末は、前記代表端末と前記第3端末との間での第2変換のための第2変換パラメータ情報を取得する、
    情報端末装置。
  14. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置における位置認識共有方法であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行うステップを有
    前記各座標系間の相対的な向きの関係に関する情報は、各端末に関する実空間内の向きの異なる2つの特定方向に関する情報である特定方向情報を含む、
    位置認識共有方法。
  15. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置における位置認識共有方法であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行うステップ、
    前記第1端末と前記第2端末との間でタイミングを合わせて前記データを測定するステップ、
    前記第1端末の第1データと前記第2端末の第2データとを取得し、前記第1データと前記第2データとを用いて、前記第1座標系と前記第2座標系との間での変換パラメータを生成するステップ、
    前記実空間内の位置に関して、前記変換パラメータを用いて、前記第1座標系での位置座標と、前記第2座標系での位置座標との間での変換を行うステップ、
    を有する、位置認識共有方法。
  16. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置における位置認識共有方法であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行うステップ、
    前記位置認識を共有する際に、前記第1端末の座標系をリセットして前記第1端末の位置に新たに前記第1座標系を設定し、前記第2端末の座標系をリセットして前記第2端末の位置に新たに前記第2座標系を設定するステップ、
    を有する、位置認識共有方法。
  17. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置における位置認識共有方法であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行うステップ、
    前記位置認識の共有を行うグループを構成する複数の情報端末装置として、前記第1端末と、前記他の情報端末装置である前記第2端末および第3端末と、を有する場合に、
    前記第2端末と前記第3端末との間で前記位置認識の共有を行って、前記第3端末が前記第2端末との間の第1変換に関する第1変換パラメータ情報を取得するステップ、
    前記第1端末と前記第3端末との間で前記位置認識の共有を行って、前記第1端末が前記第3端末との間の第2変換に関する第2変換パラメータ情報を取得するステップ、
    前記第1端末が、前記第3端末から取得した前記第1変換パラメータ情報と、前記第2変換パラメータ情報とを用いて、前記第2端末との間の第3変換のための第3変換パラメータ情報を取得するステップ、
    を有する、位置認識共有方法。
  18. ユーザが携帯または装着し、表示面に画像を表示する機能を有する情報端末装置における位置認識共有方法であって、
    前記情報端末装置を第1端末とし、少なくとも1つの他の情報端末装置を第2端末とし、前記第1端末と前記第2端末との間で、実空間内での位置認識の共有を行う場合に、前記第1端末と前記第2端末の各座標系間の相対的な向きの関係に関する情報と、各座標系原点間の相対的位置関係に関する情報とを含むデータを用いて、前記第1端末の第1座標系と前記第2端末の第2座標系との間での変換によって、前記位置認識の共有を行うステップ、
    前記位置認識の共有を行うグループを構成する複数の情報端末装置として、前記第1端末と、前記他の情報端末装置である前記第2端末および第3端末と、を有する場合に、
    前記第1端末を代表端末とし、前記第1座標系を前記グループでの前記位置認識の共有のための基準とし、
    前記代表端末または前記第2端末が、前記代表端末と前記第2端末との間での第1変換のための第1変換パラメータ情報を取得するステップ、
    前記代表端末または前記第3端末が、前記代表端末と前記第3端末との間での第2変換のための第2変換パラメータ情報を取得するステップ、
    を有する、位置認識共有方法。
JP2021546147A 2019-09-20 2019-09-20 情報端末装置および位置認識共有方法 Active JP7254943B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023053381A JP7428843B2 (ja) 2019-09-20 2023-03-29 情報端末装置および位置認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/036868 WO2021053805A1 (ja) 2019-09-20 2019-09-20 情報端末装置および位置認識共有方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023053381A Division JP7428843B2 (ja) 2019-09-20 2023-03-29 情報端末装置および位置認識方法

Publications (2)

Publication Number Publication Date
JPWO2021053805A1 JPWO2021053805A1 (ja) 2021-03-25
JP7254943B2 true JP7254943B2 (ja) 2023-04-10

Family

ID=74884459

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021546147A Active JP7254943B2 (ja) 2019-09-20 2019-09-20 情報端末装置および位置認識共有方法
JP2023053381A Active JP7428843B2 (ja) 2019-09-20 2023-03-29 情報端末装置および位置認識方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023053381A Active JP7428843B2 (ja) 2019-09-20 2023-03-29 情報端末装置および位置認識方法

Country Status (4)

Country Link
US (1) US20220284620A1 (ja)
JP (2) JP7254943B2 (ja)
CN (1) CN114127794A (ja)
WO (1) WO2021053805A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7486180B2 (ja) 2020-07-04 2024-05-17 Graffity株式会社 情報処理システム、情報処理装置、情報処理方法、及びプログラム
JP7266329B2 (ja) * 2021-05-14 2023-04-28 有限会社池谷製作所 現実空間で視認可能な位置に存在する副端末を特定する主端末、プログラム、システム及び方法
JP7130213B1 (ja) * 2021-05-14 2022-09-05 有限会社池谷製作所 現実空間における副端末との相対位置姿勢を仮想空間内で維持する主端末、プログラム、システム及び方法
JP7015081B1 (ja) 2021-05-14 2022-02-14 有限会社池谷製作所 副端末と同一の仮想空間へ参入する主端末、プログラム、システム及び方法
JP7285586B2 (ja) * 2021-10-21 2023-06-02 有限会社池谷製作所 副端末と同一の仮想空間へ主端末を参入させる方法、システム、主端末、副端末及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011107893A (ja) 2009-11-16 2011-06-02 Sony Corp 情報処理装置、情報処理方法、プログラムおよび情報処理システム
US20120314936A1 (en) 2010-03-17 2012-12-13 Sony Corporation Information processing device, information processing method, and program
WO2013145614A1 (ja) 2012-03-27 2013-10-03 パナソニック株式会社 情報処理装置、サーバ装置、情報処理方法、およびプログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140123507A1 (en) 2012-11-02 2014-05-08 Qualcomm Incorporated Reference coordinate system determination

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011107893A (ja) 2009-11-16 2011-06-02 Sony Corp 情報処理装置、情報処理方法、プログラムおよび情報処理システム
US20120314936A1 (en) 2010-03-17 2012-12-13 Sony Corporation Information processing device, information processing method, and program
WO2013145614A1 (ja) 2012-03-27 2013-10-03 パナソニック株式会社 情報処理装置、サーバ装置、情報処理方法、およびプログラム

Also Published As

Publication number Publication date
WO2021053805A1 (ja) 2021-03-25
JP2023098905A (ja) 2023-07-11
US20220284620A1 (en) 2022-09-08
JPWO2021053805A1 (ja) 2021-03-25
CN114127794A (zh) 2022-03-01
JP7428843B2 (ja) 2024-02-06

Similar Documents

Publication Publication Date Title
JP7254943B2 (ja) 情報端末装置および位置認識共有方法
US20230396888A1 (en) Imaging systems and methods
US11321929B2 (en) System and method for spatially registering multiple augmented reality devices
JP7223449B2 (ja) 撮影に基づく3dモデリングシステム
US10554883B2 (en) VR system, communication method, and non-transitory computer-readable medium
JP7386255B2 (ja) モバイル装置の相対的な空間位置決め
EP3822923B1 (en) Maintenance assistance system, maintenance assistance method, program, method for generating processed image, and processed image
JP7502346B2 (ja) 空間認識システム、情報端末、および空間認識方法
JP7379785B2 (ja) 3dツアーの比較表示システム及び方法
US9019348B2 (en) Display device, image pickup device, and video display system
JP7341861B2 (ja) アイウェア装置を用いた管理システムおよび管理方法
WO2021140631A1 (ja) 空間認識システム、空間認識方法、および情報端末
JP2023077246A (ja) 測量支援システムおよび測量支援方法
JP2011022662A (ja) 携帯電話端末及び情報処理システム
JP2020177490A (ja) Ar空間画像投影システム、ar空間画像投影方法及びユーザ端末
JP7294667B2 (ja) 映像送信システム、映像送信システムの動作方法及び映像送信システムの動作プログラム
KR102196683B1 (ko) 3d 투어 촬영 장치 및 방법
US20220012868A1 (en) Maintenance support system, maintenance support method, program, method for generating processed image, and processed image
CN108090933B (zh) 二维平面标定方法和装置
JP2023077070A (ja) 現実空間に対するヴァーチャル空間の位置合わせ方法
JP2023094344A (ja) 拡張現実表示装置、方法、及びプログラム
JP2023077071A (ja) マーカ設置方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20221111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230329

R150 Certificate of patent or registration of utility model

Ref document number: 7254943

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150