JP2017050735A - 通信装置、制御方法、及びプログラム - Google Patents
通信装置、制御方法、及びプログラム Download PDFInfo
- Publication number
- JP2017050735A JP2017050735A JP2015173196A JP2015173196A JP2017050735A JP 2017050735 A JP2017050735 A JP 2017050735A JP 2015173196 A JP2015173196 A JP 2015173196A JP 2015173196 A JP2015173196 A JP 2015173196A JP 2017050735 A JP2017050735 A JP 2017050735A
- Authority
- JP
- Japan
- Prior art keywords
- communication
- signal
- communication period
- period
- counterpart device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Mobile Radio Communication Systems (AREA)
Abstract
【課題】通信装置によって確保された通信期間の一部の相手装置への割り当てを、その相手装置から送信されるべきデータに応じて適切に行うこと。【解決手段】通信装置は、通信装置が相手装置へ信号を送信することができる通信期間を確保し、相手装置から要求があった場合には相手装置が通信装置へ信号を送信するのに通信期間の一部を割り当て、相手装置から要求がなかった場合には相手装置が通信装置へ信号を送信するための期間を割り当てないと判定し、通信期間の一部を相手装置が通信装置へ信号を送信するのに割り当てると判定した場合に、割り当てられる通信期間の一部に関する情報を相手装置へ通知する。【選択図】 図1
Description
本発明は、通信におけるリソースの効率的使用技術に関する。
IEEE802.11規格シリーズに準拠する無線LANでは、複数の通信装置によってそれぞれ送信された信号が受信側の通信装置において衝突するのを防ぐために、他の通信装置による信号の送信を抑制することができる。例えば、通信装置は、自身が相手装置へ信号を送信するための通信期間を確保するために、RTS(Request To Send)を送信し、相手装置は、RTSを受信したことに応じて、CTS(Clear To Send)を送信する。このCTSを受信した他の通信装置は、信号の送信を行わないようにする。これにより、相手装置が送信したCTSが届く範囲の、すなわち相手装置が受信機として動作する場合の干渉源となり得る、他の通信装置による信号の送信が行われなくなり、相手装置は干渉がない状態で通信装置が送信した信号を受信することが可能となる。
ここで、通信装置と相手装置との間の通信が、双方向通信である場合、すなわち、通信装置と相手装置とがそれぞれ送信機として機能しうる場合、通信装置と相手装置は、それぞれ通信期間を確保することとなる。すなわち、通信装置および相手装置は、それぞれ、自身が他方の装置へ信号を送信する際に、RTSを送信し、相手方からCTSを受信することによって、通信期間を確保する。しかしながら、通信装置と相手装置がそれぞれRTSを送信すると、それによって周辺の他の通信装置が通信を行うことができなくなるため、通信システム全体としてのリソースの利用効率が低下しうる。
これに対して、IEEE802.11n、IEEE802.11ac、IEEE802.11ad規格では、双方向伝送の高効率化するプロトコルとして、RD(Reverse Direction)プロトコルを規格化している。RDプロトコルでは、送信局が、CSMA/CAに基づいて通信期間を確保し、確保した通信期間の一部を受信局がACK伝送とデータ伝送とを実行するための期間として受信局に割り当てる。このとき、送信局は、確保した通信期間の一部を受信局に割り当てることを、RDG(Reverse Direction Grant)によって通知する。なお、RDGは、送信局が送信するデータと共に送信される。受信局は、RDGを受信することにより、送信局が確保した通信期間の一部が、自身のデータ送信のために割り当てられたことを認識することができる。これにより、受信局は、割り当てられた通信期間の一部において、送信局に対してACKとともにデータを送信することができる。
RDプロトコルを用いることにより、例えば通信装置と相手装置とが互いに1回ずつのデータの送信を行う際のRTSとCTSの送信回数が、RDプロトコルを用いない場合だと各2回であるのに対して、各1回に削減される。すなわち、RDプロトコルを用いると、例えば、通信装置がRTSを、相手装置がCTSを、それぞれ送信することにより、通信装置が、通信期間を確保してその期間の一部でデータを送信し、相手装置が、その通信期間の別の一部でデータを送信する。一方で、RDプロトコルを用いないと、通信装置がRTSを、相手装置がCTSを、それぞれ送信することにより、通信装置が通信期間を確保してその期間でデータを送信するが、相手装置はその通信期間ではデータを送信できない。このため、この場合、相手装置は、別途RTSを送信し、通信装置からCTSを受信することによって、通信期間を確保して、その確保した機関においてデータを送信する。RTS及びCTSの送信回数が減ることにより、通信システムにおけるオーバヘッドが削減され、さらに、RTS及びCTS自体が他の信号と衝突する確率が低くなるため、通信システム全体として無線リソースの利用効率が改善し得る。
なお、RDプロトコルを用いる場合は、RTSを送信する通信装置は、自身が送信するデータ量と相手装置が送信するデータ量とに応じて、確保すべき通信期間を特定することとなる。特許文献1には、このような場合に、相手装置が送信するデータ量を、伝送データ種別や、相手装置のバッファ残量に基づいて推定して、確保すべき通信期間を特定する手法が記載されている。
RDプロトコルは、通信装置が相手装置に通信期間の一部を割り当てるものであるため、相手装置が送信すべきデータを有していることが、無線リソースの有効活用のための前提となる。すなわち、相手装置が送信すべきデータを有していない場合に通信期間の一部がその相手装置に割り当てられると、その通信期間の一部は実際には使用されず、また、他の通信装置もその通信期間の一部において通信することができない。このような状況は、例えば、相手装置から通信装置へ伝送すべきデータ量がリアルタイムに大きく時間変動する場合に生じうる。これに対して、特許文献1に記載の技術では、伝送データ種別やバッファ残量に基づいて、時間変動が少ないデータや、すでに発生していたデータについて、確保すべき通信期間を特定することはできる。しかしながら、特許文献1に記載の技術では、相手装置から送信されるデータの量がリアルタイムに大きく時間変動する場合に、相手装置による信号の送信のために確保すべき通信期間を適切に特定することが困難となるという課題があった。
本発明は、上記課題に鑑みなされたものであり、通信装置によって確保された通信期間の一部の相手装置への割り当てを、その相手装置から送信されるべきデータに応じて適切に行うことを可能とすることを目的とする。
上記課題を解決するために、本発明の通信装置は、通信装置であって、前記通信装置が相手装置へ信号を送信することができる通信期間を確保する確保手段と、前記相手装置から要求があった場合には前記相手装置が前記通信装置へ信号を送信するのに前記通信期間の一部を割り当て、前記相手装置から前記要求がなかった場合には前記相手装置が前記通信装置へ信号を送信するための期間を割り当てないと判定する判定手段と、前記判定手段が前記通信期間の一部を前記相手装置が前記通信装置へ信号を送信するのに割り当てると判定した場合に、割り当てられる前記通信期間の一部に関する情報を前記相手装置へ通知する通知手段と、を有する。
本発明によれば、通信装置によって確保された通信期間の一部の相手装置への割り当てを、その相手装置から送信されるべきデータに応じて適切に行うことが可能となる。
<<実施形態1>>
以下、図面を参照しながら、本発明の実施形態について説明する。本実施形態では、通信装置と相手装置とが双方向通信を行うことが前提となる無線MR(Mixed Reality)システムを例として用いて説明する。ただし、無線MRシステム以外であっても、相手装置が送信するデータ量又は相手装置がデータを送信するか否かが時間変動するシステムであれば、以下の説明が適用されうる。
以下、図面を参照しながら、本発明の実施形態について説明する。本実施形態では、通信装置と相手装置とが双方向通信を行うことが前提となる無線MR(Mixed Reality)システムを例として用いて説明する。ただし、無線MRシステム以外であっても、相手装置が送信するデータ量又は相手装置がデータを送信するか否かが時間変動するシステムであれば、以下の説明が適用されうる。
MR技術では、現実世界で撮像された第1の画像に、CG(Computer Graphics)で表現された仮想世界の第2の画像が、合成(重畳)されて表示される。なお、ここでは、ビデオシースルーHMD(Head Mounted Display)を利用して、HMD使用者の瞳位置から観察される被写体と略一致する被写体をビデオカメラなどで撮像し、その撮像画像にCGが重畳表示されるものとする。このシステムでは、HMDは、撮像ユニットを用いて撮像した撮像画像に関する情報を、PC(Personal Computer)などの画像処理装置へ伝送し、PCは取得した撮像画像に基づいてCG描画処理を行う。その後、HMDは、PCが描画したCG画像を撮像画像と合成して表示を行い、HMDを装着しているユーザにMR空間の体験を提供する。
ここで、CG描画処理は、HMDの位置姿勢情報(位置と姿勢との少なくともいずれか)に基づいて行われる。ここで、HMDの位置とは例えば地理的な絶対位置であり、HMDの姿勢とは例えばHMDが撮像する(例えば3次元の)方向でありうる。また、HMDの位置姿勢情報は、撮像画像内におけるマーカー又は自然特徴を用いて抽出された特徴点に基づいて取得されうる。なお、HMDの位置姿勢情報のうち、位置情報が例えばGPSなどによって取得され、姿勢情報が例えば加速度センサなどによって取得されうる。
また、以下のシステムでは、HMDは、HMDの位置姿勢情報などのデータを、PCへ無線伝送する。PCは、HMDの位置姿勢情報を受信すると、その位置姿勢においてHMDに表示させるべきCG物体が存在する場合にはCG描画を行い、HMDにCG画像を無線伝送する。HMDは、CG画像を受信すると、メモリ内に記憶しておいた撮像画像に、CG画像を重畳したMR画像を生成して表示する。一方、PCは、受信した位置姿勢において、HMDに表示させるべきCG物体が存在しない場合は、CG描画及びCG画像の伝送を行わない。すなわち、HMDはPCへ位置姿勢情報を定期的に伝送し、PCは必要に応じてHMDへCG画像を伝送する。
無線MRシステムでは、HMDとPCとが、それぞれ自身が相手方へ信号を送信する際にRTSを送信して通信期間を確保すると、RTS/CTSの送信によって無線リソースが浪費されうる。さらに、HMDからPCへの特徴点送信が行われた後で、PCがCG画像の伝送のための通信期間を確保するための、RTS/CTSが他の信号と衝突すると、PCが通信期間を確保するまでの遅延時間が発生してしまう。この場合、HMDの撮像カメラが撮像処理を行ってから、HMDのディスプレイにMR画像を表示するまでの時間差が大きくなり、MRシステムにおけるユーザの没入感を損ねてしまう。このため、以下の無線MRシステムでは、上述のRDプロトコルを用いるものとする。ただし、以下の説明ではIEEE802.11規格シリーズ準拠の無線LANにおいて、RDプロトコルを用いる場合について説明するが、これに限られない。すなわち、任意のシステムにおける、通信装置が確保した通信期間の一部を相手装置へ割り当てるプロトコルが用いられてもよい。
一方で、上述のように、HMDは定期的に位置姿勢情報をPCへ送信するが、PCは、位置姿勢に応じてCG画像を送信する場合もあれば、送信しない場合もある。したがって、HMDが、RDプロトコルを用いて、自身が確保した通信期間の一部をPCへ常に割り当てるようにすると、PCは、その割り当てられた通信期間の一部で信号を送信しない場合が生じ得る。このため、本実施形態では、HMDは、PCから通信期間の要求があった場合には自信が確保した通信期間の一部を割り当てるが、PCからそのような要求がなかった場合には、通信期間の一部を割り当てないようにする。すなわち、PCは、HMDの位置と姿勢との少なくともいずれかに応じて、送信すべきCG画像が存在するかを判定して、送信すべきCG画像が存在する場合に通信期間の要求をHMDへ送信する。そして、HMDは、そのような要求を受信した場合に、自身がRTS/CTSによって確保した通信期間の一部をPCに割り当てる。一方で、PCは、送信すべきCG画像が存在しない場合には、通信期間の要求を送信しないため、この場合は、HMDは通信期間の一部のPCへの割り当てを行わない。これにより、PCが送信する情報が存在しないにもかかわらず、PCへHMDが確保した通信期間の一部が割り当てられて、無線リソースが浪費されるのを防ぐことができる。
なお、本実施形態に係る手法は、コンテンションベースのアクセスが生じる通信システムに適用可能である。すなわち、有線通信においても、コンテンションベースのアクセスが生じ、通信装置が通信期間を確保してから通信する場合には、以下の手法を適用することができる。それにより、有線通信に係る通信帯域などのリソースの有効利用を図ることが可能となる。
以下、無線MRシステムのHMD及びPCの構成と、それらが実行する処理の流れについて詳細に説明する。
(無線MRシステムの構成)
図1に、本実施形態に係る無線MRシステムの構成例を示す。本無線MRシステムは、利用者の頭部に装着され、撮像機能を有する表示装置である、HMD100と、画像処理装置であるPC120とを含んで構成される。HMD100とPC120とは、HMD100の無線I/F部109とPC120の無線I/F部129によって、互いに無線接続される。なお、ここでの無線通信には、例えば802.11acや802.11adなどのIEEE802.11規格シリーズに準拠する無線LAN規格などの任意の無線方式が用いられる。
図1に、本実施形態に係る無線MRシステムの構成例を示す。本無線MRシステムは、利用者の頭部に装着され、撮像機能を有する表示装置である、HMD100と、画像処理装置であるPC120とを含んで構成される。HMD100とPC120とは、HMD100の無線I/F部109とPC120の無線I/F部129によって、互いに無線接続される。なお、ここでの無線通信には、例えば802.11acや802.11adなどのIEEE802.11規格シリーズに準拠する無線LAN規格などの任意の無線方式が用いられる。
(HMDの構成例)
HMD100は、例えば、撮像部101、画像情報検出部102、メモリ103、画像合成部104、表示部105、要求判定部106、通信期間確保部107、割当判定部108、無線I/F部109及びCG取得部110を有する。
HMD100は、例えば、撮像部101、画像情報検出部102、メモリ103、画像合成部104、表示部105、要求判定部106、通信期間確保部107、割当判定部108、無線I/F部109及びCG取得部110を有する。
撮像部101は、HMD装着者の左右の視線と略一致する周辺環境をステレオ撮像し、撮像画像および撮像時刻を示すフレーム番号を取得する。なお、撮像部101は、例えば、ステレオ画像を生成するための右目用及び左目用の2組の撮像素子と光学系及び後段の画像処理を行うためのDSPなどによる信号処理回路とを含んで構成される撮像デバイスでありうる。メモリ103は、撮像部101が取得したステレオ撮像画像をフレーム番号とともに保持する。一方で、CG取得部110は、無線I/F部109を介して、PC120からCG画像を受信する。
画像合成部104は、メモリ103が保持している撮像画像と、CG取得部110が受信したCG画像とを重畳し、撮像画像にCG画像を重畳したMR画像を生成する。MR画像の生成処理では、撮像画像におけるCG画像の位置を示す座標情報、および撮像時刻を示すフレーム番号に基づいて、CGの位置ずれ・時間方向のずれがないように、CG画像の合成処理が行われる。なお、CG取得部110がCG画像を受信していない場合は、画像合成部104は、メモリ103から出力された撮像画像を、そのまま表示部105に出力する。表示部105は、画像合成部104が生成したMRステレオ画像を左右の目それぞれに対応したディスプレイに表示する。表示デバイスとして、例えば、小型の液晶ディスプレイや有機ELディスプレイなどが使用される。
画像情報検出部102は、撮像部101によって撮像された画像における特徴点を検出し、検出に用いた撮像のフレーム番号とともに無線I/F部109に出力する。本実施形態では、画像情報が特徴点である場合について説明するが、撮像画像データや、データ量削減のために色情報や画像の端部などを間引いた撮像画像データ等であってもよい。また、画像情報は、PC120が、その情報に基づいてHMD100の位置姿勢を検出できるものであればよい。特徴点は、HMD装着者の位置姿勢を求めることが可能な指標であればよく、例えばそれぞれが異なる色を有する円形状のマーカーによって構成されうる。また、それぞれが異なる特徴量を有する座標で、ある程度の面積を有する四角形領域によって形成されるような四角形指標が、特徴点として用いられてもよい。特徴点検出は、例えば公知の特徴点検出技術であるFAST(Features from Accelerated Segment Test)が用いられうる。また、マーカーを使用せずに特徴点検出を行う自然特徴点検出技術が用いられてもよい。自然特徴点検出技術では、特徴量の閾値を変更することで、検出する特徴点の数を任意に設定することが可能である。そのため、検出した特徴点の中から、無線帯域の使用率などの使用状況に応じて、例えばコントラスト比などのパラメータに基づいて、無線送信されるべき特徴点が選択されうる。なお、画像情報検出部102に代えて、HMD100の位置と姿勢との少なくともいずれかを特定できるセンサが用いられてもよく、この場合、画像情報ではなく、位置姿勢情報がPC120へ伝送されてもよい。
無線I/F部109は、無線通信チャネルを使用して、PC120との無線通信を行う無線通信インタフェースである。無線I/F部109は、画像情報検出部102が検出した特徴点を示す情報にCRC(Cyclic Redundancy Check)などのエラー検出符号を付加した特徴点パケットを、PC120を宛先として無線信号として送信する。また、無線I/F部109は、通信期間確保部107の制御に基づいて通信期間を確保するためのRTS信号を送信する。さらに、無線I/F部109は、割当判定部108の制御の下で、確保した通信期間のうちの一部を、PC120に割り当てる期間割当信号を送信しうる。また、無線I/F部109は、PC120からの無線信号を受信する。例えば、無線I/F部109は、PC120から、CTS信号、CG画像を含む信号、及び通信期間の割当要求信号などを受信する。
要求判定部106は、PC120が送信し、無線I/F部109が受信したパケット内に通信期間の割当要求信号が存在するか否かを判定し、また、割当要求信号が存在する場合は、その割当要求信号に含まれている内容を解析する。
通信期間確保部107は、少なくともHMD100からPC120へ信号を送信するための通信期間を確保するための、送信局をHMD100のMACアドレスとし、受信局をPC120のMACアドレスとしたRTS信号を、無線I/F部109に送信させる。また、通信期間確保部107は、要求判定部106による割当要求信号の解析結果に基づいて、送信するRTS信号のDurationを更新しうる。なお、無線I/F部109がPC120からCTS信号を受信したことに応じて、通信期間が確保される。なお、本実施形態では、通信期間を、CSMA/CAに基づいて確保する方式に関して説明するが、CSMA/CA以外の方式で通信期間が確保されてもよい。例えば、HMD100は、TDMA方式において、制御局にタイムスロット割当を要求することにより、通信期間を獲得してもよい。
割当判定部108は、要求判定部106が取得した通信期間の割当要求信号とCTS信号とに基づいて、PCに対して、通信期間確保部107が確保した通信期間の一部を、PCが信号を送信することが可能な通信期間として割り当てるかを判定する。そして、割当判定部108は、通信期間確保部107が確保した通信期間の一部をPC120に割り当てると判定した場合に、期間割当信号を生成して、無線I/F部109によって送信させることにより、PC120に対して通信期間の割り当てを通知する。
要求判定部106、通信期間確保部107、割当判定部108の動作、及び、通信期間の割当要求信号及び期間割当信号の詳細については後述する。
(PCの構成)
PC120は、画像情報取得部121、位置姿勢取得部122、視野範囲取得部123、仮想物体判定部124、CGデータベース部125、CG描画部126、要求信号生成部127、期間割当信号解析部128、無線I/F部129を含んで構成される。
PC120は、画像情報取得部121、位置姿勢取得部122、視野範囲取得部123、仮想物体判定部124、CGデータベース部125、CG描画部126、要求信号生成部127、期間割当信号解析部128、無線I/F部129を含んで構成される。
画像情報取得部121は、HMD100が送信した信号(パケット)から、HMD100において検出された特徴点の情報を取得する。位置姿勢取得部122は、画像情報取得部121が取得した特徴点に基づいて、HMD装着者の位置姿勢を算出する。位置姿勢取得部122は、特徴点の移動をフレームにまたがって追跡することにより、装着者の位置及び姿勢の変化を算出し、現在のHMD装着者の位置と姿勢(との少なくともいずれか)を算出することができる。なお、HMD100から、位置姿勢情報が直接的に送信されてきている場合は、画像情報取得部121及び位置姿勢取得部122に代えて、受信信号に含まれる位置姿勢情報を解析する機能部が用いられてもよい。
視野範囲取得部123は、詳細については後述するが、HMD100の表示部105に表示される表示画像の領域と略一致する領域、すなわち、HMD装着者の視野範囲の領域を算出し、仮想物体判定部124に出力する。視野範囲の領域は、マーカーを用いる場合にはマーカーを原点とした座標系によって定義されうる。なお、座標系の原点がマーカー上に設定されていなくてもよい。例えば、画像情報検出部102によって検出された任意の1つのマーカー座標、またはマーカー以外の自然特徴点が、原点として設定されてもよい。そのため、HMD装着者の現在位置が、座標系の原点として定義されてもよい。
仮想物体判定部124は、詳細については後述するが、視野範囲取得部123が取得したHMD装着者の視野範囲内に、HMD100に表示させるべき仮想物体が存在するか否かを判定し、判定結果をCG描画部126および要求信号生成部127に出力する。CGデータベース部125は、仮想物体の形状・質感・色・大きさに関する情報を保持する。CG描画部126は、CGデータベース部125が保存する仮想物体の情報から、位置姿勢取得部122が取得したHMD装着者の位置姿勢情報に基づいて、HMD装着者が観察した場合のCG画像を描画してCG画像データを生成する。そして、CG描画部126が描画したCG画像データは、無線信号として無線I/F部129からHMD100へと送信される。
無線I/F部129は、無線通信チャネルを使用して、HMD100との無線通信を行う無線通信インタフェースである。無線I/F部129は、CG描画部126が描画・生成したCG描画データにCRCなどのエラー検出符号を付加したCG描画パケットを、HMD100を宛先として無線信号として送信する。また、無線I/F部129は、HMD100が通信期間を確保するために送信したRTS信号に対する応答信号としてのCTS信号を送信する。また、無線I/F部129は、HMD100へ送信するCG画像データが存在するなど、信号を送信する必要がある場合に、要求信号生成部127が生成した、通信期間を要求するための割当要求信号を送信しうる。
要求信号生成部127は、仮想物体判定部124が、HMD装着者の視野内に仮想物体が存在すると判断した場合に、通信期間の割当要求信号を生成する。割当要求信号は、上述のように、無線I/F部129によって送信される。期間割当信号解析部128は、HMD100から受信したパケットに、PC120が信号を送信するための通信期間を割り当てる期間割当信号が含まれるかを判定する。また、期間割当信号解析部128は、HMD100から受信したパケットに期間割当信号が含まれていた場合に、期間割当信号に含まれる情報を解析しうる。要求信号生成部127、期間割当信号解析部128の動作、及び、通信期間の割当要求信号及び期間割当信号の詳細については後述する。なお、図1に示す各機能部は、ハードウェア又はソフトウェアとして装置に実装される。機能部がソフトウェアとして実装される場合には、例えば、これらの機能を実行するためのプログラムが、HMD100又はPC102が備える記憶部(ROM、RAM等のメモリ)に記憶される。そして、この場合、HMD100又はPC102が有するCPUが記憶部に記憶されたプログラムを実行することにより、これらの機能部が提供する機能が実現される。
(処理の流れ)
次に、図2及び図3を用いて、HMD100及びPC120のそれぞれの動作について説明する。図2は、HMD100が実行する処理の流れの例を示しており、図3は、PC120が実行する処理の流れの例を示している。以下の説明では、撮像画像のフレーム番号をNとし、CG画像のフレーム番号をMとする。なお、フレーム番号Mは、フレーム番号Nよりも過去のフレームであり、CG画像のフレーム番号は、CG描画を実行する際に用いた撮像画像のフレーム番号である。なお、HMD100及びPC120は、相互に信号の送受信を行うため、その信号の送受信の流れに沿って、処理の流れを説明する。
次に、図2及び図3を用いて、HMD100及びPC120のそれぞれの動作について説明する。図2は、HMD100が実行する処理の流れの例を示しており、図3は、PC120が実行する処理の流れの例を示している。以下の説明では、撮像画像のフレーム番号をNとし、CG画像のフレーム番号をMとする。なお、フレーム番号Mは、フレーム番号Nよりも過去のフレームであり、CG画像のフレーム番号は、CG描画を実行する際に用いた撮像画像のフレーム番号である。なお、HMD100及びPC120は、相互に信号の送受信を行うため、その信号の送受信の流れに沿って、処理の流れを説明する。
まず、HMD100において、撮像部101が周辺環境の撮像処理を行い、撮像画像を取得する(S201)。なお、HMD100では、メモリ103が、フレーム番号Nとともにその取得した撮像画像を保存する。そして、画像情報検出部102が、撮像画像における特徴点を検出して、フレーム番号Nとともにその検出結果を保存する(S202)。ここで、特徴点情報は、例えば特徴点の座標、特徴量を含んで構成され、データ量は特徴点の座標情報および特徴量を表すのに必要なデータ量×特徴点の個数に対応する大きさとなる。また、特徴点の座標情報は、撮像画像の画素数を表現できるビット数があれば足り、特徴量は、例えばFASTであれば、定義された最大の輝度差を分解能で表現できるビット数で表される。
その後、要求判定部106が、前のフレームにおいて期間要求信号を受信していたか否かに応じて、期間割当信号を送信するか否かを判定する(S203)。詳細については後述するが、HMD100がPC120に期間割当信号を送信しない条件は、例えば、HMD装着者の視野内にCG画像が存在しないこと、又は、HMD100が撮像を行ってからMR画像が表示されるまでのタイムラグが大きいことでありうる。
そして、期間割当信号を送信しない場合(S203でNO)、CG画像の伝送が行われないため、無線リソースが使用されない期間が生じうる。このため、この場合、無線I/F部109は、例えば、この期間を有効利用するために、通信品質を向上させるためのテスト信号などの追加データを生成する(S204)。例えば、無線I/F部109は、ミリ波無線システムなどの指向性通信を行っている場合には、指向性アンテナの指向特性を調整するための既知信号を生成し、送信しうる。また、無線I/F部109は、MIMO(Multi−Input Multi−Output)通信を行っている場合には、伝搬路推定を行うためのトレーニング信号を生成し、送信することも可能である。また、画像情報検出部102が検出した特徴点のうちの一部の特徴点を送信すべき特徴点として選択している場合には、無線I/F部109は、そこで選択されなかった特徴点の中から任意の特徴点に関する情報を追加データとして生成して送信しうる。また、画像情報として撮像画像を送信している場合では、無線I/F部109は、間引いた色情報や画像領域など、画質を向上させるデータを追加データとして生成して送信してもよい。無線I/F部109がこれらの追加データを送信することで、PC120における位置姿勢検出の精度が上がるため、無線MRシステムをより安定に動作させることが可能になる。
一方で、期間割当信号を送信する場合(S203でYES)は、PC120によってCG画像の伝送が行われることとなるため、追加データの生成は行われない。その後、追加データが生成されたか否かによらず、通信期間確保部107の制御によって、無線I/F部109がRTSを送信する(S205)。なお、通信期間確保部107は、RTSにおいて、送信局をHMD100のMACアドレスに設定すると共に、受信局をPC120のMACアドレスに設定し、Durationを、後述のステップで決定した期間に設定する。例えば、通信期間確保部107は、HMD100からPC120への特徴点の送信のための期間と、送信されるべきCG画像が存在する場合には、PC120からHMD100へのCG画像の送信のための期間との合計の期間を、Durationとして設定する。
図3に移り、PC120において、無線I/F部129は、RTS信号を受信し(S301)、そのRTS信号への応答信号としてCTS信号を生成して、送信する(S302)。
図2に戻り、HMD100において、通信期間確保部107は、無線I/F部109を介してCTS信号を受信し(S206)、これにより、HMD100が送信権を有する通信期間の確保を完了する。
その後、無線I/F部109が、フレーム番号を付与した特徴点の情報を含むパケットを生成して、PC120へ送信する(S207)。また、このとき、前のフレームにおけるS215及びS216の判定(通信期間の割当要求信号の有無および受信タイミングに関する判定)に基づいて、割当判定部108は、送信対象のパケットに期間割当信号を付与するかを判定する。期間割当信号の付与は、例えば、無線パケットのペイロードデータ部を使用する方法により、又は、無線パケットのヘッダ部のリサーブビットを使用する方法により、行われうる。他にも、RDGを含めたPPDU(PLCP Protocol Data Unit)によって期間が割り当てられることが通知されてもよい。また、CSMA/CAに基づいてHMD100が送信局として確保した通信期間の一部を、PC120が送信局として使用することをHMD100とPC120が互いに認識できる方法であれば、どのような方式が用いられてもよい。
図3に移り、HMD100がパケットを送信すると(S207)、PC120において、無線I/F部129は、その(特徴点の情報を含む)パケットを受信する(S303)。そして、期間割当信号解析部128は、例えば受信パケットにおいて、期間割当信号を受信したかを判定する(S304)。そして、期間割当信号解析部128が期間割当信号を受信したと判定した場合(S304でYES)は、無線I/F部129は、CG画像情報を含む無線パケットを生成する(S305)。一方、期間割当信号解析部128が期間割当信号を受信しなかったと判定した場合(S304でNO)は、無線パケットの生成を行わない。
なお、期間割当信号が受信されない場合とは、例えば、HMD100の視野範囲内に仮想物体が存在しない場合と、HMD100における撮像画像の取得時刻から割当要求信号の受信時刻までの時間差が所定値より大きい場合との少なくともいずれかでありうる。撮像画像を取得してからMR画像を表示するまでの時間差が大きい場合、MRシステムに対するユーザの没入感を損ねることがありうる。このため、本実施形態に係るMRシステムは、時間差を一定の範囲以内に収めるように動作しうる。例えば、HMD100が撮像画像を取得してからPC120がHMD装着者の位置姿勢算出を完了するまでの時間を指標として遅延時間が判定され、遅延時間が大きい場合にはCG画像の生成と無線通信とが省略されうる。これにより、画像の撮像とMR画像の表示との間の時間差を所定長の範囲内に収めることができ、ユーザの没入感を損ねないMRシステムを実現することができる。
その後、画像情報取得部121が、HMD100からの受信データにおける特徴点情報を取得する(S306)。そして、位置姿勢取得部122が、特徴点に基づいて、HMD100の装着者の位置と姿勢との情報を検出し、視野範囲取得部123がHMD100の視野範囲を取得する(S307)。なお、例えば、PC120は、HMD100の位置に応じて、その位置から所定範囲内に仮想物体が存在する場合に、その仮想物体に係るCG画像の情報をHMD100に送信し得る。この場合、HMD100は、自身の周囲に存在するCG画像を取得した後に、自身の姿勢に応じて、どのCG画像を表示させるかなどの判定を行い得る。また、PC120は、例えばHMD100が向いている方角に応じたCG画像をHMD100へ送信し、HMD100は、自身の位置に基づいて、具体的に表示するCG画像を特定してもよい。すなわち、PC120は、位置と姿勢との少なくともいずれかを特定して、送信対象となる仮想物体を特定できればよく、必ずしも視野範囲まで特定できなくてもよい。
その後、仮想物体判定部124は、仮想物体の中心座標を算出し(S308)、HMD100の装着者の視野範囲内に仮想物体が存在するかを判定する(S309)。仮想物体判定部124は、仮想物体が存在すると判定した場合(S309でYES)は、続いて仮想物体のサイズを推定する(S310)。
ここで、HMD100の装着者の視野範囲内に仮想物体が存在するかを判定する方法と、仮想物体のサイズを推定する方法について、図4及び図5を用いて説明する。図4は、HMD装着者の視野範囲、撮像画像およびCG画像の対応関係を4つの状態について示す図である。また、図5は、各状態における、HMD装着者の座標情報、視線ベクトル情報、仮想物体の中心座標情報、HMD装着者と仮想物体との直線距離を示す。
図4の(AA)、(BA)、(CA)及び(DA)は、状態A〜Dのそれぞれについての、HMD装着者と、その視野範囲と、仮想物体と、の位置関係を示している。状態Aは、視野範囲内の比較的遠い位置に仮想物体が存在する状態である。状態Bは、視野範囲内の比較的近い位置に仮想物体の中心および仮想物体が存在する状態である。状態Cは、視野範囲に比較的近い位置に仮想物体が存在するが、その仮想物体の中心は視野範囲外に存在する状態である。状態Dは、HMD装着者の視野外に仮想物体が存在する状態である。図4の(AA)、(BA)、(CA)及び(DA)において、400、405、410、415は各状態におけるHMD装着者を示し、401、406、411、416は各状態における視線ベクトルを示す。また、402、407、412、417は各状態におけるマーカーを、403、408、413、418は各状態における視野範囲を、404、409、414、419は各状態における座標系の原点を、それぞれ示す。HMD装着者の視野範囲は、例えば図4(AA)に着目すると、HMD装着者400の座標、視線ベクトル401、及び視野角度により決定することができる。視線ベクトルは、HMD装着者の正面方向として定義され、視線ベクトルを中心として水平方向に一定の角度広がりをもった領域が視野範囲として定義される。視野角度は、水平方向における視野の角度範囲を定義するもので、撮像カメラや表示デバイスの性能およびシステム要件により決定されるものであるが、ここでは例として±45度の場合について図示している。
図4の(AB)、(BB)、(CB)及び(DB)は、状態A〜Dのそれぞれにおいて、HMD装着者が観察している画像を示している。また、図4の(AC)、(BC)、(CC)及び(DC)は、状態A〜Dのそれぞれにおいて、描画されるCG画像を示す。CGを描画する位置は、マーカーによって決定される。本実施形態では、マーカーの真上にCGを描画する場合について説明するが、マーカーの真上にCGを描画するのではなく、撮像画像内の任意の座標とCG描画座標の相対位置を予め算出することで、任意の座標にCG描画することも可能である。
状態A(図4の(AA))では、図5に示す通り、HMD装着者400の座標は(100、50、50)である。したがって、呼の座標を始点とした、HMD装着者の視線ベクトル(0.0、1.0、0.0)から、視野角度である±45度の範囲403が視野範囲として特定される。この場合、CG描画座標であるマーカー座標(10、400、50)が、範囲403の中に存在する座標となるため、ユーザの視野内に仮想物体が存在していると判定されうる。また、状態C(図4の(CA))では、仮想物体の中心座標が視野範囲内に存在しない場合である。このような場合であっても、仮想物体の一部が視野範囲内に存在する場合がある。すなわち、仮想物体の中心座標が視野範囲内に存在しない場合には、視野範囲の端部から仮想物体の中心までの距離をR、仮想物体の横方向の長さをLとして、R<L/2を満たしている場合、仮想物体が視野範囲内に存在すると判断することができる。
視野内における仮想物体の大きさおよびCG物体伝送における伝送データ量は、HMD装着者とCG描画座標との距離に基づいて推定されうる。すなわち、仮想物体の大きさは、HMD装着者とCG描画座標との間の距離と反比例関係にあるため、距離に対するCG画像の見た目の大きさを予め取得することにより、任意の距離におけるCG画像の大きさ及び伝送データ量が推定されうる。例えば、HMD装着者と仮想物体との間の距離を示す値が25のときに仮想物体の大きさが1310キロピクセルとなるように予め設定しておいた場合、距離50のときには仮想物体の大きさは330キロピクセルと推定されうる。また、この場合、距離360のときには、仮想物体の大きさは25キロピクセルと推定されうる。また、仮想物体の中心座標が視野範囲内に存在しない場合も、視野における仮想物体の大きさを推定することができる。例えば、HMD装着者と仮想物体との間の距離に基づいて仮想物体の大きさを算出し、視野範囲の端部から仮想物体の中心までの距離と、仮想物体の横方向の長さとに基づいて、視野における仮想物体の大きさが推定されうる。仮想物体の画素数×色階調度×フレームレートによって伝送データ量を算出することができ、色階調度とフレームレートとが一定とすると、画素数を精度良く推定することで、CG画像伝送データ量を精度良く推定することができる。
図3に戻り、無線I/F部129は、S310で仮想物体判定部124によって推定された仮想物体のサイズ情報をパケットに付与した通信期間の割当要求信号を生成する。割当要求信号は、例えば無線パケットのペイロードデータ部を使用して、又は、無線パケットのヘッダ部のリサーブビットを使用して送信されることができる。なお、仮想物体のサイズ情報は、PC120が推定した仮想物体の大きさをHMD100が認識できるデータであれば足り、サイズそのものの情報ではなく、サイズに関する情報であれば足りる。
その後、無線I/F部129は、送信データの有無を判定する(S312)。送信データとは、CG画像データまたは通信期間の割当要求信号である。そのような送信データが存在しない場合(S312でNO)、無線I/F部129は、ACK信号のみをHMD100に送信する。送信データが存在する場合(S312でYES)は、無線I/F部129は、ACK信号に送信データを付与してHMD100に送信する(S313)。
図2に戻り、HMD100において、無線I/F部109は、PC120から無線信号を受信した際に、CG画像および割当要求信号の少なくともいずれかなどの、データ信号が含まれているかを判定する(S208)。受信した無線信号にデータ信号が含まれていない場合(S208でNO)、すなわち受信信号がACKのみの信号である場合、画像合成部104が、メモリ103から出力されたフレーム番号Mの撮像画像をそのまま表示部105に出力する。
一方、受信した無線信号にデータ信号が含まれている場合(S208でYES)、無線I/F部109が、受信データを復調し、CG画像データが存在するかを確認する(S210)。CG画像データが存在しない場合(S210でNO)は、画像合成部104がメモリ103から出力されたフレーム番号Mの撮像画像をそのまま表示部105に出力する(S213)。一方、CG画像データが存在する場合(S210でYES)は、画像合成部104がメモリ103から出力されたフレーム番号Mの撮像画像に、CG画像データ内の同じくフレーム番号MのCG画像を合成してMR画像を生成する(S211)。そして、画像合成部104は、生成したMR画像を表示部105に出力し、表示部105は、MR画像をディスプレイに表示する(S212)。
その後、要求判定部106が、S208で受信した受信データに割当要求信号が含まれているかを判定する(S214)。割当要求信号が存在する場合(S214でYES)は、要求判定部106が撮像画像を取得した時刻と、その撮像画像(フレーム)に関連する割当要求信号を受信した時刻との時間差を遅延時間として算出し、遅延時間が所定長を超えるかを判定する(S215)。遅延時間が所定値を超えて大きい場合(S215でYES)は、割当判定部108は、CG画像描画及び無線伝送に要する時間を削減するために、通信期間の期間割当信号を生成しないと判定する。期間割当信号の生成及び送信が行われないことにより、PC120がCG画像描画を実行しないため、少なくともそのフレーム分の処理がスキップされることにより、その次のフレーム以降の処理における遅延時間を削減することが可能になる。遅延時間が所定値以下である場合には(S215でNO)、通信期間確保部107は、通信期間の割当要求信号に含まれている仮想物体のサイズに基づいて、Duration期間を更新したRTS信号を生成する。
以上のように、本実施形態に係る通信装置は、相手装置において送信すべきデータが生じたことを相手装置からの期間要求信号を受信することにより知ることができ、期間要求信号を受信しない限りは通信期間の一部を割り当てないようにする。これにより、通信装置が、実際には相手装置から信号が送信されないにもかかわらず、相手装置に通信期間を割り当てるのを防ぐことができる。また、割り当てられなかった通信期間の一部を、さらなる詳細なデータの送信や、例えば指向特性が可変の指向性アンテナの指向特性を調整するための信号の送信など、様々な用途に用いることが可能となる。したがって、周波数資源などの無線リソースを効率的に用いることが可能となる。
また、本実施形態では、特徴点データの伝送と、場合によってはCG画像の伝送とを行う無線MRシステムにおいて、HMD装着者の位置姿勢、仮想物体の位置、及びHMD装着者と仮想物体との位置関係に基づいて、HMDが確保する通信期間を決定する。例えば、HMDは、例えばPCが送信するCG画像データなどがない場合には、HMDが位置姿勢を特定するための情報を送信するための通信期間のみを確保し、PCがCG画像データを送信するための期間を割り当てない。これにより、PCから送信されるべきCG画像データの有無の時間的変動がある場合であっても、無線リソースを効率的に用いることが可能となる。また、期間要求信号に、CG画像に関するデータサイズの情報を含めることにより、CG描画のデータサイズの時間的変動に応じて、適切な通信期間を確保することが可能となる。
<<実施形態2>>
実施形態1では、HMD装着者と仮想物体との位置関係に基づいて、HMDが通信期間を確保して、必要に応じて、PCへその一部を割り当てる例について説明した。本実施形態では、HMD装着者と仮想物体との位置関係に基づいて、通信期間を確保する通信装置を、HMDとPCとの間で適応的に変更する例について説明する。
実施形態1では、HMD装着者と仮想物体との位置関係に基づいて、HMDが通信期間を確保して、必要に応じて、PCへその一部を割り当てる例について説明した。本実施形態では、HMD装着者と仮想物体との位置関係に基づいて、通信期間を確保する通信装置を、HMDとPCとの間で適応的に変更する例について説明する。
(無線MRシステムの構成)
図6は、本実施形態に係る無線MRシステムの構成例を示す図である。HMD600は、例えば、撮像部601、画像情報検出部602、メモリ603、合成部604、表示部605、通信期間確保部606、期間割当信号解析部607、無線I/F部608、及びCG取得部609を有する。PC620は、画像情報取得部621、位置姿勢取得部622、視野範囲取得部623、仮想物体判定部624、CGデータベース部625、CG描画部626、通信期間確保部627、割当制御部628、及び無線I/F部629を有する。HMD600は、実施形態1のHMD100と比して、PC620が送信した期間割当信号を解析する期間割当信号解析部607を含む点で異なる。一方、PC620は、実施形態1のPC100と比して、さらに通信期間確保部627と割当制御部628とを有する。通信期間確保部627は、HMD装着者と仮想物体との位置関係に基づいて、確保すべき通信期間を特定する。割当制御部628は、PC620が送信局として確保した通信期間の一部を、HMD600によるACK信号及びデータ信号の送信のために割り当てるための制御を行う。割当制御部628は、例えば、上述のRDプロトコルによって、PC620が確保した通信期間の一部を、HMD600へと割り当てる。なお、各機能部は、実施形態1での説明と同様に、ハードウェア又はソフトウェアとして装置に実装される。
図6は、本実施形態に係る無線MRシステムの構成例を示す図である。HMD600は、例えば、撮像部601、画像情報検出部602、メモリ603、合成部604、表示部605、通信期間確保部606、期間割当信号解析部607、無線I/F部608、及びCG取得部609を有する。PC620は、画像情報取得部621、位置姿勢取得部622、視野範囲取得部623、仮想物体判定部624、CGデータベース部625、CG描画部626、通信期間確保部627、割当制御部628、及び無線I/F部629を有する。HMD600は、実施形態1のHMD100と比して、PC620が送信した期間割当信号を解析する期間割当信号解析部607を含む点で異なる。一方、PC620は、実施形態1のPC100と比して、さらに通信期間確保部627と割当制御部628とを有する。通信期間確保部627は、HMD装着者と仮想物体との位置関係に基づいて、確保すべき通信期間を特定する。割当制御部628は、PC620が送信局として確保した通信期間の一部を、HMD600によるACK信号及びデータ信号の送信のために割り当てるための制御を行う。割当制御部628は、例えば、上述のRDプロトコルによって、PC620が確保した通信期間の一部を、HMD600へと割り当てる。なお、各機能部は、実施形態1での説明と同様に、ハードウェア又はソフトウェアとして装置に実装される。
(処理の流れ)
次に、図7及び図8を用いて、本実施形態に係るHMD100及びPC120のそれぞれの動作について説明する。図7は、HMD600が実行する処理の流れの例を示しており、図8は、PC620が実行する処理の流れの例を示している。
次に、図7及び図8を用いて、本実施形態に係るHMD100及びPC120のそれぞれの動作について説明する。図7は、HMD600が実行する処理の流れの例を示しており、図8は、PC620が実行する処理の流れの例を示している。
まず、HMD600の動作について説明する。まず、撮像部601が周辺環境の撮像処理を行い、撮像画像を取得する(S701)。なお、撮像画像は、メモリ603に、フレーム番号Nとともに保存される。そして、画像情報検出部602は、撮像画像における特徴点を検出し(S702)、フレーム番号Nとともに保存する。その後、無線I/F部608は、PC620からRTS信号を指定の期間内に受信したかを判定する(S703)。
ここで、PC620は、前のフレームでの後述のS805における、送信されるべきCG描画データが存在するかの判定に従って、通信期間を確保するか否かを決定する。すなわち、PC620は、送信すべきCG描画データが存在する場合には、通信期間を確保するためにRTS信号を送信し、一方で、そのようなデータが存在しない場合には、RTS信号を送信しない。このため、HMD600は、RTS信号を受信したか否かに基づいて、PC620によって通信期間が確保されるかを判定することができる。ここで、HMD600には定常的に送信すべきデータが存在するため、PC620は、通信期間を確保する際には、HMD600に対して通信期間の一部を割り当てる。一方で、HMD600は、PC620が通信期間を確保しない場合には、自身がRTSを送信することによって、通信期間を確保する。なお、HMD600によるRTS信号の待ち時間は、システム要件やフレームレートに応じて決定されうる。例えば、待ち時間は、1フレーム前のCG画像データを受信してから1フレーム時間+任意の時間などのように設定されうる。任意の時間を短く設定すると、HMD600は、早く通信期間を確保することができる。また任意の時間を長く設定すると、PC620におけるCG描画処理による遅延に対して、マージンを持つことが可能となる。
無線I/F部608は、RTS信号を受信した場合(S703でYES)、受信したRTS信号に対する応答信号としてCTS信号を送信する(S704)。そして、無線I/F部608は、後述のS815においてPC620が送信したCG画像データを受信して(S705)、合成部604に出力する。合成部604は、メモリ603から出力されたフレーム番号Mの撮像画像に、受信したフレーム番号MのCG画像を合成して、MR画像を生成し(S706)、MR画像を表示部605に出力する。そして、表示部605は、MR画像をディスプレイに表示する(S707)。その後、無線I/F部608は、PC620が確保した通信期間のうちの割り当てられた一部において、PC620にフレーム番号Nの特徴点データを送信する(S708)。
一方、RTS信号を受信しなかった場合(S703でNO)、フレームMにおいてCG画像が存在しないこととなるため、合成部604は、メモリ603から出力されたフレーム番号Mの撮像画像をそのまま表示部605に出力する。そして、表示部605は、ディスプレイに撮像画像を表示する(S709)。その後、無線I/F部608は、S702で検出した特徴点をPC620に送信するための通信期間を確保するために、RTSを送信する(S710)。ここで送信されるRTSでは、送信局がHMD600のMACアドレスに、受信局がPC620のMACアドレスに設定され、Durationが特徴点送信が可能な期間に設定される。その後、無線I/F部608は、PC620により送信されたCTS信号を受信して(S711)、通信期間を確保する。その後、無線I/F部608は、自身が確保した通信期間において、PC620にフレーム番号Nの特徴点データを送信する(S708)。
続いて、PC620の動作について説明する。まず、無線I/F部629は、HMD600から送信された無線信号を受信する(S801)。ここで、後述のS812においてHMD600から特徴点情報を取得した時刻と、PC620がCG描画を完了した時刻の差を遅延量として評価するために、無線I/F部629がHMD600から無線信号を受信した時刻が記録される。そして、画像情報取得部621は、受信信号に含まれる特徴点情報を取得して、位置姿勢取得部622に出力する(S802)。位置姿勢取得部622は、特徴点に基づいて、HMD装着者の位置姿勢を特定して、視野範囲取得部623は視野範囲を特定する(S803)。そして、仮想物体判定部624は、仮想物体の描画座標を取得し(S804)、フレーム番号NにおいてHMD装着者の視野範囲に仮想物体が存在するかを判定する(S805)。
仮想物体の描画座標がHMD装着者の視野範囲内に存在する場合(S805でYES)、仮想物体判定部624は、仮想物体の大きさを算出し、CG描画部626および通信期間確保部627に出力する(S806)。そして、通信期間確保部627は、通信期間を確保するためにRTS信号を生成する(S807)。ここで、RTS信号では、送信局がPC620のMACアドレスに、受信局がHMD600のMACアドレスに設定され、Durationは仮想物体の大きさに基づいて推定したデータ量とHMD600からの特徴点情報の両方を送信可能な期間に設定される。一方、仮想物体の描画座標がHMD装着者の視野範囲内に存在しない場合(S805でNO)は、S806及びS807の処理は行われない。
その後、CG描画部626は、フレーム番号Mに関して、仮想物体の描画座標が視野範囲内にあったと判定されていたかを判定する(S808)ことにより、CG画像送信用のRTS信号が生成されているかを判定する。RTS信号が生成されていない場合(S808でNO)は、フレームMにおいて視野範囲内に仮想物体が存在せず、PC620からHMD600へのデータの送信は行われない。このため、無線I/F部629は、HMD600からRTS信号を受信するのを待ち受け(S810)、RTS信号を受信すると、CTS信号を送信する(S811)。その後、PC620は、HMD600から、HMD600が確保した通信期間において、フレームN+1の特徴点データを含んだ無線信号を受信する。
一方、RTS信号が生成されている場合(S808でYES)は、CG描画部626がCG画像を描画し(S809)、無線I/F部629にCG描画データが出力される。その後、CG描画部626は、CG描画を完了した時刻とS801でHMD600から無線信号を受信した時刻との時間差が、所定長を超えて大きいかを判定し(S812)、遅延量を評価する。遅延時間が所定長を超えて大きい場合(S812でYES)は、ユーザの没入感を損ねる可能性があるので、PC620によるCG画像の送信と、HMD600による画像の合成処理を行わずに、遅延時間を短くする。したがって、この場合、無線I/F部629は、HMD600からRTS信号を待ち受け(S816)、RTS信号を受信したことに応じて、HMD600に対してCTS信号を送信する(S817)。その後、無線I/F部629は、フレームN+1の特徴点データを含んだ無線信号を、HMD600から受信する。
一方、遅延時間が所定長以下である場合(S812でNO)は、無線I/F部629は、フレーム番号MのCG画像送信用に生成したRTS信号を送信する(S813)。そして、無線I/F部629は、CTS信号を受信し(S814)、通信期間を確保できたことを認識した後、HMD600へ、期間割当信号を付与したCG画像パケットを送信する(S815)。
以上のように、本実施形態に係るHMD600は、PC620からRTSを受信しない限りは、CG画像がないことを認識することができる。一方で、HMD600は、PC620からRTSを受信すると、PC620が確保した通信期間においてCG画像を受信すると共に、自身が検出した特徴点の情報を送信することができる。別の視点から述べれば、HMD装着者の位置姿勢、仮想物体の位置、及び、HMD装着者と仮想物体との位置関係に基づいて、通信期間を確保する無線局をHMDとPCの間で適応に変更することができる。これにより、不必要にPC620による信号伝送のために無線リソースを確保することがなくなるため、無線リソースを有効活用することが可能となる。
ここで、特徴点のデータ量は(概ね)一定であり、CG画像データ量はその画像の大きさに基づいて時間的に大きく変動する。これに対して、本実施形態では、CG画像データを有する側の通信装置であるPCが、通信期間を決定して通信期間を確保するため、より精度良く通信期間を設定することが可能となる。したがって、無線リソースを有効活用することが可能となる。
なお、上述の各手法は、無線MRシステムではなくとも、動的に送信すべきリソースの量が変動するシステムに適用されることで、通信帯域などのリソースの有効活用を図ることができる。特に、通信装置と相手装置との間の通信において、一方が定常的にデータを送信し、他方においてそのデータに応答して送信すべきデータが生じたり又は生じなかったりする(又はデータサイズが増減する)システムにおいて、本手法は有用である。
<<その他の実施形態>>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100、600:HMD、120、620:PC、106;要求判定部、107、606、627:通信期間確保部、108、628:割当判定部、109、129:無線I/F部、127:要求信号生成部、128、607:期間割当信号解析部
Claims (22)
- 通信装置であって、
前記通信装置が相手装置へ信号を送信することができる通信期間を確保する確保手段と、
前記相手装置から要求があった場合には前記相手装置が前記通信装置へ信号を送信するのに前記通信期間の一部を割り当て、前記相手装置から前記要求がなかった場合には前記相手装置が前記通信装置へ信号を送信するための期間を割り当てないと判定する判定手段と、
前記判定手段が前記通信期間の一部を前記相手装置が前記通信装置へ信号を送信するのに割り当てると判定した場合に、割り当てられる前記通信期間の一部に関する情報を前記相手装置へ通知する通知手段と、
を有することを特徴とする通信装置。 - 前記通信装置は、前記通信期間において前記相手装置へ第1のデータを送信し、
前記相手装置は、当該第1のデータに基づく第2のデータを送信すべき場合に、前記第2のデータを送信するための前記要求を前記通信装置へ送信し、
前記判定手段は、前記相手装置から前記要求があった場合であっても、前記通信装置が前記第1のデータを取得するための処理を行ってから当該第1のデータに関する前記第2のデータの送信のための前記要求を受信するまでの時間の長さが所定長を超えて大きい場合は、前記相手装置が前記通信装置へ当該信号を送信するのに、前記通信期間の一部を割り当てないと判定する、
ことを特徴とする請求項1に記載の通信装置。 - 前記第1のデータは、前記通信装置の位置と姿勢との少なくともいずれかに関するデータであり、
前記第1のデータを取得するための処理は、画像の撮像である、
ことを特徴とする請求項2に記載の通信装置。 - 前記要求には、前記相手装置が前記通信装置へ送信すべきデータのサイズに関する情報が含まれる、
ことを特徴とする請求項1から3のいずれか1項に記載の通信装置。 - 前記相手装置が前記通信装置へ送信すべきデータのサイズに応じて、前記相手装置へ割り当てる前記通信期間の一部の長さを特定する特定手段をさらに有する、
ことを特徴とする請求項4に記載の通信装置。 - 前記確保手段は、前記特定手段が特定した前記通信期間の一部の長さに応じた長さの前記通信期間を確保する、
ことを特徴とする請求項5に記載の通信装置。 - 撮像手段と、
前記撮像手段によって撮像された第1の画像と合成すべき第2の画像を、前記相手装置から、前記通信期間の一部において受信する受信手段と、
前記第1の画像と前記第2の画像とを合成して表示する表示手段と、
をさらに有することを特徴とする請求項1から6のいずれか1項に記載の通信装置。 - 前記通知手段は、前記通信期間において、前記通信期間の一部に関する情報を前記相手装置へ通知する、
ことを特徴とする請求項1から7のいずれか1項に記載の通信装置。 - 指向特性が可変のアンテナと、
前記判定手段が前記通信期間の一部を前記相手装置が前記通信装置へ信号を送信するのに割り当てないと判定した場合に、前記通信期間の当該一部を用いて、前記アンテナにおける指向特性を調整するための信号を送信する送信手段と、
をさらに有することを特徴とする請求項1から8のいずれか1項に記載の通信装置。 - 通信装置であって、
相手装置からデータを受信する受信手段と、
受信した前記データに応じて、前記相手装置へ送信すべき情報があるかを判定する判定手段と、
前記相手装置へ送信すべき情報がある場合には、前記相手装置へ、前記相手装置が前記通信装置へ信号を送信することができる通信期間のうちの一部を要求する信号を送信し、前記相手装置へ送信すべき情報がない場合には、前記通信期間のうちの一部を要求する信号を送信しない、送信手段と、
を有し、
前記送信手段は、前記通信期間のうちの一部を要求する信号を送信した場合であって、前記相手装置によって前記通信期間の一部が割り当てられた場合、当該割り当てられた通信期間を用いて、前記相手装置へ送信すべき情報を送信する、
ことを特徴とする通信装置。 - 前記相手装置は、当該相手装置が撮像した第1の画像と、前記通信装置が送信した第2の画像とを合成して表示する機能を有し、
前記データは、当該相手装置の位置と姿勢との少なくともいずれかに関するデータであり、
前記相手装置へ送信すべき情報は前記第2の画像であり、
前記判定手段は、前記相手装置の位置と姿勢との少なくともいずれかに基づいて、当該相手装置において前記第1の画像と合成すべき前記第2の画像があるかを判定する、
ことを特徴とする請求項10に記載の通信装置。 - 前記送信手段は、前記相手装置へ送信すべき情報のサイズの情報を前記要求に含めて当該要求を送信する、
ことを特徴とする請求項10又は11に記載の通信装置。 - 通信装置であって、
相手装置が前記通信装置へ信号を送信することができる通信期間を確保するための信号を送信したかを判定する判定手段と、
前記相手装置が通信期間を確保するための前記信号を送信していない場合に、前記通信装置が前記相手装置へ信号を送信することができる通信期間を確保する確保手段と、
前記相手装置が通信期間を確保するための前記信号を送信していない場合には前記確保手段によって確保された通信期間において信号を送信し、相手装置が通信期間を確保するための前記信号を送信している場合には当該相手装置によって確保された通信期間の一部において信号を送信する、送信手段と、
を有することを特徴とする通信装置。 - 通信装置であって、
相手装置からデータを受信する受信手段と、
受信した前記データに応じて、前記相手装置へ送信すべき情報があるかを判定する判定手段と、
前記相手装置へ送信すべき情報がある場合に、前記通信装置が前記相手装置へ信号を送信することができる通信期間を確保する確保手段と、
前記確保手段によって確保された前記通信期間において、前記相手装置へ送信すべき情報と、前記相手装置へ前記通信期間の一部を割り当てることを示す情報とを、前記相手装置へ送信する送信手段と、
を有し、
前記相手装置へ送信すべき情報がない場合、前記確保手段による通信期間の確保を行わずに、前記相手装置が、当該相手装置から前記通信装置へ信号を送信することができる通信期間を確保するのを待ち受ける、
ことを特徴とする通信装置。 - 前記相手装置は、当該相手装置が撮像した第1の画像と、前記通信装置が送信した第2の画像とを合成して表示する機能を有し、
前記データは、当該相手装置の位置と姿勢との少なくともいずれかに関するデータであり、
前記相手装置へ送信すべき情報は前記第2の画像であり、
前記判定手段は、前記相手装置の位置と姿勢との少なくともいずれかに基づいて、当該相手装置において前記第1の画像と合成すべき前記第2の画像があるかを判定する、
ことを特徴とする請求項14に記載の通信装置。 - 前記確保手段は、前記相手装置へ送信すべき情報がある場合であっても、前記データを受信してから前記第2の画像が描画されるまでの時間の長さが所定長を超えて大きい場合、前記通信期間を確保せず、前記通信装置は、前記相手装置が、当該相手装置から前記通信装置へ信号を送信することができる通信期間を確保するのを待ち受ける、
ことを特徴とする請求項15に記載の通信装置。 - 前記通信期間は、RTS(Request To Send)を用いることによって確保される期間である、
ことを特徴とする請求項1から16のいずれか1項に記載の通信装置。 - 相手装置へ信号を送信することができる通信期間を確保する確保手段を有する通信装置の制御方法であって、
判定手段が、前記相手装置から要求があった場合には前記相手装置が前記通信装置へ信号を送信するのに前記通信期間の一部を割り当て、前記相手装置から前記要求がなかった場合には前記相手装置が前記通信装置へ信号を送信するための期間を割り当てないと判定する判定工程と、
通知手段が、前記判定工程において前記通信期間の一部を前記相手装置が前記通信装置へ信号を送信するのに割り当てると判定した場合に、割り当てられる前記通信期間の一部に関する情報を前記相手装置へ通知する通知工程と、
を有することを特徴とする制御方法。 - 通信装置の制御方法であって、
受信手段が、相手装置からデータを受信する受信工程と、
判定手段が、受信した前記データに応じて、前記相手装置へ送信すべき情報があるかを判定する判定工程と、
送信手段が、前記相手装置へ送信すべき情報がある場合には、前記相手装置へ、前記相手装置が前記通信装置へ信号を送信することができる通信期間のうちの一部を要求する信号を送信し、前記相手装置へ送信すべき情報がない場合には、前記通信期間のうちの一部を要求する信号を送信しない、工程と、
前記送信手段が、前記通信期間のうちの一部を要求する信号を送信した場合であって、前記相手装置によって前記通信期間の一部が割り当てられた場合、当該割り当てられた通信期間を用いて、前記相手装置へ送信すべき情報を送信する工程と、
を有することを特徴とする制御方法。 - 通信装置の制御方法であって、
判定手段が、相手装置が前記通信装置へ信号を送信することができる通信期間を確保するための信号を送信したかを判定する判定工程と、
確保手段が、前記相手装置が通信期間を確保するための前記信号を送信していない場合に、前記通信装置が前記相手装置へ信号を送信することができる通信期間を確保する確保工程と、
送信手段が、前記相手装置が通信期間を確保するための前記信号を送信していない場合には前記確保工程において確保された通信期間において信号を送信し、相手装置が通信期間を確保するための前記信号を送信している場合には当該相手装置によって確保された通信期間の一部において信号を送信する、送信工程と、
を有することを特徴とする制御方法。 - 通信装置の制御方法であって、
受信手段が、相手装置からデータを受信する受信工程と、
判定手段が、受信した前記データに応じて、前記相手装置へ送信すべき情報があるかを判定する判定工程と、
確保手段が、前記相手装置へ送信すべき情報がある場合に、前記通信装置が前記相手装置へ信号を送信することができる通信期間を確保する確保工程と、
送信手段が、前記確保工程において確保された前記通信期間において、前記相手装置へ送信すべき情報と、前記相手装置へ前記通信期間の一部を割り当てることを示す情報とを、前記相手装置へ送信する送信工程と、
前記相手装置へ送信すべき情報がない場合、前記確保工程による通信期間の確保を行わずに、前記相手装置が、当該相手装置から前記通信装置へ信号を送信することができる通信期間を確保するのを待ち受ける工程と、
を有することを特徴とする制御方法。 - コンピュータを、請求項1から17のいずれか1項に記載の通信装置の各手段として動作させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015173196A JP2017050735A (ja) | 2015-09-02 | 2015-09-02 | 通信装置、制御方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015173196A JP2017050735A (ja) | 2015-09-02 | 2015-09-02 | 通信装置、制御方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017050735A true JP2017050735A (ja) | 2017-03-09 |
Family
ID=58280416
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015173196A Pending JP2017050735A (ja) | 2015-09-02 | 2015-09-02 | 通信装置、制御方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017050735A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020060984A1 (en) * | 2018-09-17 | 2020-03-26 | Qualcomm Incorporated | Cross layer traffic optimization for split xr |
-
2015
- 2015-09-02 JP JP2015173196A patent/JP2017050735A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020060984A1 (en) * | 2018-09-17 | 2020-03-26 | Qualcomm Incorporated | Cross layer traffic optimization for split xr |
CN112673642A (zh) * | 2018-09-17 | 2021-04-16 | 高通股份有限公司 | 针对拆分xr的跨层流量优化 |
US11127214B2 (en) | 2018-09-17 | 2021-09-21 | Qualcomm Incorporated | Cross layer traffic optimization for split XR |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10368212B2 (en) | Method and apparatus for providing augmented reality services | |
US11627587B2 (en) | Coexistence interference avoidance between two different radios operating in the same band | |
US9805691B2 (en) | Display, control method, and storage medium | |
US11402894B2 (en) | VR image sending method and apparatus | |
CN110663011A (zh) | 基于用户视图中的真实生活对象的持久性而对ar信息进行优先化排序的系统及方法 | |
JP2024523130A (ja) | 無線周波数検知に基づいてデバイスおよび処理設定を制御すること | |
CN109803437B (zh) | 一种随机接入方法、终端及网络设备 | |
US20230377273A1 (en) | Method for mirroring 3d objects to light field displays | |
JP2017050735A (ja) | 通信装置、制御方法、及びプログラム | |
CN111107487A (zh) | 位置显示控制方法及相关装置 | |
JP2017005387A (ja) | 通信装置およびその制御方法 | |
US11678220B2 (en) | Systems and method of slot assignment to traffic stream | |
US20220417568A1 (en) | Image transmission apparatus and display apparatus | |
US20230038033A1 (en) | Systems and methods of wireless triggering buffer status reporting for transmission streams | |
US20230180127A1 (en) | Systems and method for indicating service period information for restricted target wake time | |
US20230022424A1 (en) | Systems and methods of buffer status reporting for transmission streams | |
US20240098018A1 (en) | Systems and methods of qos management of wlan devices | |
US20240049230A1 (en) | Systems and methods of uwb configuration for application types | |
US20240323737A1 (en) | Systems and methods of wlan sensing procedure setup | |
US20220061047A1 (en) | Systems and method of describing slot information | |
KR20220005274A (ko) | 전자 장치에서 무선 통신 효율을 개선하기 위한 방법 및 그 장치 | |
JP2024079939A (ja) | 画像生成装置 | |
WO2023107374A1 (en) | Systems and method for indicating service period information for restricted target wake time |