JP5529927B2 - Wireless communication system, transmission output control method, information processing apparatus, and control method thereof - Google Patents

Wireless communication system, transmission output control method, information processing apparatus, and control method thereof Download PDF

Info

Publication number
JP5529927B2
JP5529927B2 JP2012131383A JP2012131383A JP5529927B2 JP 5529927 B2 JP5529927 B2 JP 5529927B2 JP 2012131383 A JP2012131383 A JP 2012131383A JP 2012131383 A JP2012131383 A JP 2012131383A JP 5529927 B2 JP5529927 B2 JP 5529927B2
Authority
JP
Japan
Prior art keywords
distance
wireless communication
unit
transmission
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012131383A
Other languages
Japanese (ja)
Other versions
JP2012191661A (en
Inventor
佳樹 梶田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012131383A priority Critical patent/JP5529927B2/en
Publication of JP2012191661A publication Critical patent/JP2012191661A/en
Application granted granted Critical
Publication of JP5529927B2 publication Critical patent/JP5529927B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は無線データ通信技術に関し、特に三次元位置情報から得られる送受信間の距離情報に基づき、無線の送信出力を制御する無線通信システムおよび送信出力制御方法、情報処理装置およびその制御方法に関するものである。
The present invention relates to wireless data communication technology, based on the distance information between the transmitting and receiving obtained from particular three-dimensional position information, to wireless communications systems and transmission output control method, an information processing apparatus and its control method for controlling a radio transmission output It is.

近年、無線通信システムの分野では、無線端末の高機能化に伴う消費電力の増大が懸念されており、省電力化技術が重要視されている。従来、無線端末の省電力化を実現する方法として、受信側の無線端末で受信状態(品質)を測定し、それらの変化に応じて送信制御を行う方法が提案されている。   In recent years, in the field of wireless communication systems, there is a concern about an increase in power consumption accompanying the enhancement of functions of wireless terminals, and power saving technology is regarded as important. Conventionally, as a method for realizing power saving of a wireless terminal, a method of measuring a reception state (quality) at a receiving wireless terminal and performing transmission control according to the change has been proposed.

図16は、無線通信システムにおいて、電波強度を測定し、電波強度に応じて送信出力の制御を行う無線端末の概略的な機能構成を示すブロック図である(特許文献1、特許文献2参照)。   FIG. 16 is a block diagram illustrating a schematic functional configuration of a wireless terminal that measures radio wave intensity and controls transmission output in accordance with the radio wave intensity in a radio communication system (see Patent Documents 1 and 2). .

無線端末は受信器1601で電波を受信すると、電波強度測定部1602で受信電波強度の測定を行う。送信制御部1603は、電波強度測定部1602において測定された電波強度の大きさに基づき、自身の無線送信出力の大きさを決定し、送信器1604より決定された出力でもってデータの送信を行う。送信制御部1603における送信出力制御では、例えば、電波強度測定部1602において測定された受信電波強度が小さい場合には送受信間の空間の伝搬損失が大きいと判断され、自身の送信出力を大きくするよう制御される。反対に電波強度測定部1602において測定された受信電波強度が大きい場合は、伝搬損失が小さいと判断され、自身の送信出力を小さくするといった制御を行う。これにより、伝搬損失が小さいときにも、大きな出力で送信するような無駄な電力消費を抑えることが可能となる。   When the radio terminal receives radio waves with the receiver 1601, the radio field intensity measurement unit 1602 measures the received radio wave intensity. The transmission control unit 1603 determines the size of its own wireless transmission output based on the magnitude of the radio field intensity measured by the radio field intensity measurement unit 1602, and transmits data with the output determined by the transmitter 1604. . In the transmission output control in the transmission control unit 1603, for example, when the received radio field intensity measured by the radio field intensity measurement unit 1602 is small, it is determined that the propagation loss of the space between transmission and reception is large, and the transmission output is increased. Be controlled. On the contrary, when the received radio field intensity measured by the radio field intensity measuring unit 1602 is large, it is determined that the propagation loss is small, and control is performed such that the own transmission output is decreased. Thereby, even when the propagation loss is small, it is possible to suppress wasteful power consumption such as transmission with a large output.

或いは、電波強度の測定ではなく、無線端末が受信したデータの全ビット数のうちのエラービット数の割合を表すBER(Bit Error Rate:ビット誤り率)を算出して送信電力を制御する手法も提案されている。この場合、BERが高いときには自身の送信出力を大きくし、BERがある基準値よりも低いときには自身の送信出力が小さくなるように制御が行われる(特許文献3)。   Alternatively, there is also a technique for controlling transmission power by calculating a BER (Bit Error Rate) representing a ratio of the number of error bits in the total number of bits of data received by the wireless terminal, instead of measuring the radio field intensity. Proposed. In this case, control is performed such that when the BER is high, the transmission output is increased, and when the BER is lower than a certain reference value, the transmission output is decreased (Patent Document 3).

どちらの方法も、受信側の無線端末で通信品質をモニタリングし、送信制御を行うという点では同じである。   Both methods are the same in that the communication quality is monitored and transmission control is performed by the receiving wireless terminal.

図17はGPSにより取得した位置情報を用いて、無線I/F部の電源制御を行う無線端末の簡単な機能ブロック図である(特許文献4参照)。   FIG. 17 is a simple functional block diagram of a wireless terminal that performs power control of the wireless I / F unit using position information acquired by GPS (see Patent Document 4).

制御部1701は受信電波の強度を測定し、GPS受信機1702によって取得された位置座標情報との関連付けを行った後、メモリ1703に位置座標と受信電波強度の情報を格納する。この作業を移動中に繰り返し行うことにより、無線端末が移動した軌跡上の受信電波強度情報が、位置座標情報とともにメモリ1703に蓄積される。データ蓄積後は、再度受信電波強度を測定することなく、GPS受信機1702によって取得された無線端末の位置情報に基づき、メモリ1703内のデータベースを参照して、無線端末が存在する位置座標の電波強度を把握することができる。例えば、GPS受信機1702において取得された位置情報とメモリ1703内のデータベースから、制御部1701は、当該無線端末が電波強度が非常に小さく、安定した通信が行えない位置座標に存在していると判定する。そして、この場合、制御部1701は、第1の電源部1704から供給する無線I/F部1705の無線回路ブロックへの電源や、第2の電源部1706から供給するベースバンドコーデック部1707への電源を遮断するといった制御が可能となる。また、安定して通信可能な電波強度をもつ位置座標に無線端末が存在すると判定した場合には、制御部1701は各部への電源供給を再開する。電源供給の再開においては、第1の電源部1704から無線I/F部1705の無線回路ブロックへの電力供給、第2の電源部1706からベースバンドコーデック部1707への電力供給が開始される。このような構成によれば、通信圏外時の無駄な電力消費を抑えることができる。   The control unit 1701 measures the intensity of the received radio wave, associates it with the position coordinate information acquired by the GPS receiver 1702, and then stores the information of the position coordinate and the received radio wave intensity in the memory 1703. By repeatedly performing this operation while moving, the received radio wave intensity information on the locus of movement of the wireless terminal is stored in the memory 1703 together with the position coordinate information. After data storage, the radio wave of the position coordinates where the radio terminal exists is referred to the database in the memory 1703 based on the location information of the radio terminal acquired by the GPS receiver 1702 without measuring the received radio wave intensity again. The strength can be grasped. For example, from the position information acquired by the GPS receiver 1702 and the database in the memory 1703, the control unit 1701 indicates that the wireless terminal is located at position coordinates where the radio wave intensity is very small and stable communication cannot be performed. judge. In this case, the control unit 1701 supplies power to the wireless circuit block of the wireless I / F unit 1705 supplied from the first power supply unit 1704 and to the baseband codec unit 1707 supplied from the second power supply unit 1706. Control such as shutting off the power supply becomes possible. In addition, when it is determined that a wireless terminal exists at a position coordinate having a radio wave intensity that allows stable communication, the control unit 1701 resumes power supply to each unit. In restarting power supply, power supply from the first power supply unit 1704 to the wireless circuit block of the wireless I / F unit 1705 and power supply from the second power supply unit 1706 to the baseband codec unit 1707 are started. According to such a configuration, wasteful power consumption when outside the communication range can be suppressed.

特開2004−193745号公報JP 2004-193745 A 特開平7−212303号公報JP 7-212303 A 特開平5−22211号公報Japanese Patent Laid-Open No. 5-22211 特開2002−246977号公報Japanese Patent Application Laid-Open No. 2002-246977

しかしながら上述した従来の技術においては、以下のような問題があった。   However, the conventional techniques described above have the following problems.

図2は理想環境下とフェージング環境下における電波強度と距離および電波強度と時間との関係を示した図である。   FIG. 2 is a diagram showing the relationship between the radio field intensity and distance, and the radio field intensity and time in an ideal environment and a fading environment.

図2の(a)および(b)において破線で示しているのは、理想環境下における電波強度と距離、電波強度と時間との関係である。しかしながら、現実空間では送信器から送信された電波は周囲の構造や地形、移動体などによって反射・回折を繰り返し、複数の経路に分散して伝搬する。その結果、受信器では、各経路の距離差によって位相がずれた複数の電波が重ね合わされた合成波を受信することになる。これをフェージングといい、図2(a)および(b)中に実線で示したように、距離的にも時間的にも非常に複雑な電波強度変化が生じることになる。   In FIGS. 2A and 2B, the broken lines indicate the relationship between the radio wave intensity and distance and the radio wave intensity and time in an ideal environment. However, in real space, radio waves transmitted from a transmitter are repeatedly reflected and diffracted by surrounding structures, topography, moving objects, etc., and are distributed and propagated to a plurality of paths. As a result, the receiver receives a composite wave in which a plurality of radio waves whose phases are shifted due to the distance difference between the paths are superimposed. This is called fading, and as shown by a solid line in FIGS. 2A and 2B, a very complicated change in radio field intensity occurs both in terms of distance and time.

上記フェージング環境下における無線通信を考えた場合、受信側の無線端末側で受信電波強度やBERなどの通信状態(品質)を測定し、それらの変化に応じて送信制御を行う方法の場合を考える。この方法では、無線端末側で常に激しく変動している通信品質を測定し続け、制御に反映させるため、無線端末の処理負荷が高くなり、省電力の効果は低くなる。また、位置座標と電波強度を対応付けてメモリに蓄積し、無線端末のメモリ内の情報を用いて送信制御を行う方法では、測定時に取得された電波強度に基づき、送信出力の制御が行われてしまう。そのため、同じ位置においても激しく強度が変動しているフェージング環境下では安定した通信を行うことが困難である。また、無線端末側でGPS情報を取得し続けるという点では上記方法と同様、省電力効果は低くなる。また、GPSによる位置計測は屋外でしか使用できない上に、位置計測誤差が数十メートルと大きい。そのため、屋内で使用される無線端末の送信制御や、WPANの無線規格に含まれるUWBのような、最大伝送距離が10メートル程度の近距離無線通信の送信制御には利用できない。尚、WPANとはWireless Personal Area Networkであり、UWBとはUltra Wide Band(超広帯域無線)である。   Considering wireless communication under the fading environment described above, a case is considered in which a communication state (quality) such as received radio wave intensity and BER is measured on the reception-side wireless terminal side, and transmission control is performed according to such changes. . In this method, since the communication quality that is constantly fluctuating on the wireless terminal side is continuously measured and reflected in the control, the processing load of the wireless terminal increases and the power saving effect decreases. In addition, in a method in which position coordinates and radio field strength are associated and stored in a memory and transmission control is performed using information in the memory of the wireless terminal, transmission output is controlled based on the radio field strength acquired at the time of measurement. End up. For this reason, it is difficult to perform stable communication in a fading environment where the intensity varies greatly even at the same position. In addition, the power saving effect is low as in the above method in that GPS information is continuously acquired on the wireless terminal side. Further, position measurement by GPS can be used only outdoors, and a position measurement error is as large as several tens of meters. For this reason, it cannot be used for transmission control of a wireless terminal used indoors or for transmission control of short-range wireless communication having a maximum transmission distance of about 10 meters, such as UWB included in the WPAN wireless standard. Note that WPAN is a wireless personal area network, and UWB is an ultra wide band.

本発明はかかる課題に鑑みなされたものであり、受信側の無線端末で常に通信品質をモニタリングすることなく安定した無線通信を可能とする送信出力制御を提供することを目的とする。   The present invention has been made in view of such a problem, and an object of the present invention is to provide transmission output control that enables stable wireless communication without constantly monitoring communication quality at a receiving wireless terminal.

上記の目的を達成するための本発明の一態様による無線通信システムは以下の構成を備える。すなわち、
第1の装置と第2の装置が無線通信により接続された無線通信システムであって、
前記第1及び第2の装置のいずれかにおいて、前記第1の装置が備える撮像装置によって撮影された画像に含まれる、前記第2の装置との相対位置関係が既知の指標と前記第1の装置が備える撮像装置との相対位置関係に基づいて、前記第1の装置の3次元位置を検出する位置検出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出手段と、
前記第1及び第2の装置のうちの前記距離算出手段を有する装置から他方の装置へ、前記距離算出手段により算出された装置間距離を前記無線通信を介して送信する距離送信手段と、
前記第1及び第2の装置のそれぞれにおいて、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備える。
In order to achieve the above object, a wireless communication system according to an aspect of the present invention has the following arrangement. That is,
A wireless communication system in which a first device and a second device are connected by wireless communication,
In any one of the first and second devices, an index whose relative positional relationship with the second device is included in an image photographed by an imaging device included in the first device and the first device is known. Position detecting means for detecting a three-dimensional position of the first device based on a relative positional relationship with an imaging device included in the device;
Distance calculation for calculating an inter-device distance between the first device and the second device based on the three-dimensional position detected by the position detection unit in any of the first and second devices. Means,
Wherein the other device from a device having the distance calculating unit of the first and second devices, the calculated inter-device distance by the distance calculation means, a distance transmitting means for transmitting via the wireless communication,
Each of the first and second devices includes output control means for controlling a transmission output for the wireless communication based on the distance between the devices.

本発明によれば、受信側の無線端末で常に通信品質をモニタリングすることなく安定した無線通信を実現できる。   According to the present invention, it is possible to realize stable wireless communication without constantly monitoring communication quality at a receiving wireless terminal.

第1実施形態におけるシステム構成例を示した機能ブロック図である。It is a functional block diagram showing a system configuration example in the first embodiment. (a)は電波強度と距離との関係を示した図であり、(b)は電波強度と時間との関係を示した図である。(A) is the figure which showed the relationship between radio wave intensity and distance, (b) is the figure which showed the relationship between radio wave intensity and time. 第1実施形態におけるMRシステムの構成例を示した図である。It is the figure which showed the structural example of MR system in 1st Embodiment. 第1実施形態における処理の流れを示したフローチャートである。It is the flowchart which showed the flow of the process in 1st Embodiment. (a)は第1実施形態における電波強度と距離の関係を示した図であり、(b)は第1実施形態における電波強度と時間との関係を示した図である。(A) is the figure which showed the relationship between the electromagnetic wave intensity and distance in 1st Embodiment, (b) is the figure which showed the relationship between the electromagnetic wave intensity and time in 1st Embodiment. 第1実施形態における画像情報を用いた3次元位置情報の生成を説明する図である。It is a figure explaining the production | generation of the three-dimensional position information using the image information in 1st Embodiment. 第2実施形態における送信レベル制御の概念を示した図である。It is the figure which showed the concept of the transmission level control in 2nd Embodiment. 第2実施形態におけるBER測定による送信レベル制御を行うシステム構成を示した機能ブロック図である。It is the functional block diagram which showed the system configuration | structure which performs transmission level control by BER measurement in 2nd Embodiment. 第2実施形態におけるBER測定による送信レベル制御を行うシステムにおける処理の流れを示したフローチャートである。It is the flowchart which showed the flow of the process in the system which performs transmission level control by BER measurement in 2nd Embodiment. 第3実施形態における電波強度測定による送信レベル制御を行うシステム構成を示した機能ブロック図である。It is the functional block diagram which showed the system configuration | structure which performs transmission level control by the radio field intensity measurement in 3rd Embodiment. 第3実施形態における電波強度測定による送信レベル制御を行うシステムの処理の流れを示したフローチャートである。It is the flowchart which showed the flow of the process of the system which performs transmission level control by the field intensity measurement in 3rd Embodiment. 第4実施形態におけるシステム構成の機能ブロック図である。It is a functional block diagram of a system configuration in a 4th embodiment. 第4実施形態におけるシステムの処理の流れを示したフローチャートである。It is the flowchart which showed the flow of the process of the system in 4th Embodiment. 第5実施形態におけるシステム構成の機能ブロック図である。It is a functional block diagram of the system configuration in a 5th embodiment. 第5実施形態におけるシステムの処理の流れを示したフローチャートである。It is the flowchart which showed the flow of the process of the system in 5th Embodiment. 一般的な、電波強度測定による送信制御を行うシステム構成の例を示した機能ブロック図である。It is the functional block diagram which showed the example of the system configuration which performs the transmission control by the general radio field intensity measurement. 一般的な、GPSを用いた位置計測による送信制御を行うシステム構成の例を示した機能ブロック図である。It is the functional block diagram which showed the example of the system configuration which performs transmission control by the general position measurement using GPS.

以下、本発明の実施の形態について添付の図面を参照して説明する。   Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings.

[第1実施形態]
本発明を実現する第1実施形態を図に従って説明する。以下の説明では、MR(MixedReality:複合現実感)システムに、本発明の実施形態に係る無線通信システムを適用した場合について説明する。
[First Embodiment]
1st Embodiment which implement | achieves this invention is described according to figures. In the following description, a case where the radio communication system according to the embodiment of the present invention is applied to an MR (Mixed Reality) system will be described.

MRとは、現実空間(現実画像)と仮想空間(仮想画像)をリアルタイムかつシームレスに融合して画像提示する映像技術である。MRシステムは、撮像部と表示部とを有するHMD(Head Mounted Display:頭部装着型画像表示装置)を通して、MR空間を提供するシステムである。ここで、HMDの撮像部は、装着者の視点で左右それぞれの目の画像を取得し、表示部は、装着者の左右それぞれの目に画像を表示する。より具体的には、HMDの装着者が観察している現実空間の画像をHMDの撮像部で取得し、撮像された現実空間画像に仮想空間のCG画像を重畳し、生成された合成画像をHMDの表示部に表示することにより、HMDの装着者にMR空間が提供される。   MR is a video technology that presents an image by fusing real space (real image) and virtual space (virtual image) seamlessly in real time. The MR system provides an MR space through an HMD (Head Mounted Display) having an imaging unit and a display unit. Here, the imaging unit of the HMD acquires images of the left and right eyes from the viewpoint of the wearer, and the display unit displays an image of the eyes of the wearer. More specifically, an image of the real space that the wearer of the HMD is observing is acquired by the imaging unit of the HMD, a CG image of the virtual space is superimposed on the captured real space image, and the generated composite image is displayed. By displaying on the display unit of the HMD, the MR space is provided to the wearer of the HMD.

図3は、第1実施形態におけるシステム構成例を示した図である。   FIG. 3 is a diagram illustrating a system configuration example according to the first embodiment.

図3において、HMD301は、装着者の観察している左目、右目それぞれの画像を取得するための撮像部と、MR空間を構成する左目、右目用のステレオ画像を装着者に提供するための画像表示部を有する。HMD301は、有線接続された中継器302を介して、撮像画像をコントローラ303に無線で伝送する。中継器302は、HMD301と同様に使用者の身体の一部に装着して使用される。HMD301および中継器302はバッテリーで駆動される。コントローラ303と有線接続されたPC304は、HMD301で撮像された現実空間の画像にCGを重畳する画像処理部を有する。PC304はコントローラ303を介し、CGが重畳された合成画像を中継器302に無線で伝送する。中継器302で受信された合成画像は、HMD301の画像表示部で表示され、装着者に提供される。本実施形態では、HMD301と中継器302を個々のハードウェアとしているが、中継器302の持つ機能を全てHMD301内に実装し、一体型の装置とすることも可能である。同様に、PC304とコントローラ303についても、コントローラ303の持つ機能をすべてPC304内に実装して、一体化することや、PC304とコントローラ303がそれぞれ有する機能を集め、専用の処理装置を構成することも可能である。   In FIG. 3, an HMD 301 is an image for obtaining images of the left eye and right eye that the wearer is observing, and an image for providing the wearer with stereo images for the left eye and right eye that constitute the MR space. It has a display part. The HMD 301 wirelessly transmits the captured image to the controller 303 via a wiredly connected repeater 302. Similar to the HMD 301, the repeater 302 is used by being attached to a part of the user's body. The HMD 301 and the repeater 302 are driven by a battery. The PC 304 wired to the controller 303 has an image processing unit that superimposes CG on an image in the real space captured by the HMD 301. The PC 304 wirelessly transmits the composite image on which the CG is superimposed to the repeater 302 via the controller 303. The composite image received by the repeater 302 is displayed on the image display unit of the HMD 301 and provided to the wearer. In the present embodiment, the HMD 301 and the repeater 302 are individual hardware, but all the functions of the repeater 302 can be mounted in the HMD 301 to form an integrated apparatus. Similarly, with respect to the PC 304 and the controller 303, all the functions of the controller 303 are mounted and integrated in the PC 304, or the functions possessed by the PC 304 and the controller 303 are collected to constitute a dedicated processing device. Is possible.

以下の説明では、機能的な観点から、HMD301と中継器302がそれぞれ有する機能を組み合わせたものをクライアント、PC304とコントローラ303がそれぞれ有する機能を組み合わせたものをサーバと分類して説明する。   In the following description, from a functional viewpoint, a combination of functions of the HMD 301 and the repeater 302 is classified as a client, and a combination of functions of the PC 304 and the controller 303 is classified as a server.

図1は、本発明の特徴を説明する第1の実施の形態における機能ブロック図である。クライアントとサーバは各々の送信部及び受信部により通信可能に接続されている。   FIG. 1 is a functional block diagram in the first embodiment for explaining the features of the present invention. The client and the server are communicably connected to each other by a transmission unit and a reception unit.

第1の装置としてのクライアントは画像入力部101により撮影した現実空間画像を取得し、送信部102から、初期設定で与えられた送信出力で第2の装置としてのサーバに送信する。サーバでは、受信部103で受信した現実空間画像の画像情報を用いて、位置情報生成部104が、サーバとクライアントの相対的な3次元位置情報を生成する。なお、位置情報生成部104は、MR処理を行うためのクライアント(撮像装置)の3次元位置姿勢を生成する位置姿勢検出部として機能するが、距離算出部106が用いるのはこのうちの3次元位置である。生成された3次元位置情報は、画像処理部105においては、現実空間画像(現実画像)上にCG(仮想画像)を描画する位置、大きさ、向きを決定するために利用される。また、3次元位置情報は、距離算出部106においては、サーバとクライアント間の距離(装置間距離)を算出するために利用される。画像処理部105で生成された合成画像および、距離算出部106で生成されたサーバとクライアント間の距離情報は、送信制御部107に送られる。送信制御部107は、距離情報に基づいて送信部108の送信出力を制御し、上記合成画像および距離情報を含むデータを送信部108を介して送信する。この点において、送信部108は、クライアントとサーバ間の装置間距離を送信する距離送信部として機能するものである。   The client as the first device acquires the real space image captured by the image input unit 101, and transmits it from the transmission unit 102 to the server as the second device with the transmission output given by the initial setting. In the server, using the image information of the real space image received by the reception unit 103, the position information generation unit 104 generates relative three-dimensional position information of the server and the client. The position information generation unit 104 functions as a position / orientation detection unit that generates a three-dimensional position / orientation of a client (imaging device) for performing MR processing. Position. The generated three-dimensional position information is used by the image processing unit 105 to determine the position, size, and orientation for drawing a CG (virtual image) on the real space image (real image). The three-dimensional position information is used in the distance calculation unit 106 to calculate the distance between the server and the client (inter-device distance). The composite image generated by the image processing unit 105 and the distance information between the server and the client generated by the distance calculation unit 106 are sent to the transmission control unit 107. The transmission control unit 107 controls the transmission output of the transmission unit 108 based on the distance information, and transmits the data including the composite image and the distance information via the transmission unit 108. In this respect, the transmission unit 108 functions as a distance transmission unit that transmits the inter-device distance between the client and the server.

クライアントの受信部109は、サーバ(送信部108)より受信した受信データの中から、合成画像データを画像出力部110に、距離情報を送信制御部111に送る。画像出力部110は、受信部109より送られてきた合成画像を、HMD装着者に提供するべく表示する。送信制御部111は、送られてきた距離情報に基づき、画像入力部101で取得された撮像画像を送信部102が送信する際の送信制御を行う。なお、上記送信部102,108と受信部103,109における通信、すなわち、サーバおよびクライアント間の無線通信には、例えば、WPAN規格に含まれる無線通信方式を利用することができる。   The reception unit 109 of the client transmits the composite image data to the image output unit 110 and the distance information to the transmission control unit 111 from the reception data received from the server (transmission unit 108). The image output unit 110 displays the composite image sent from the receiving unit 109 so as to provide it to the HMD wearer. The transmission control unit 111 performs transmission control when the transmission unit 102 transmits the captured image acquired by the image input unit 101 based on the transmitted distance information. Note that, for example, a wireless communication method included in the WPAN standard can be used for communication in the transmission units 102 and 108 and the reception units 103 and 109, that is, wireless communication between the server and the client.

図4は、第1実施形態におけるMRシステムの処理の流れを説明するフローチャートである。   FIG. 4 is a flowchart for explaining the flow of processing of the MR system in the first embodiment.

通信が開始されると、まずステップS401において、クライアント側の画像入力部101が、HMD装着者の視点で撮像された現実空間画像を取得する。続くステップS402において、クライアント側の送信部102がステップS401で取得された現実空間画像を、初期設定で与えられた送信出力でサーバに送信する。なお、初期設定の値は任意である。ステップS403において、サーバ側の受信部103が現実空間画像を受信する。ステップS404において、位置情報生成部104は、受信した現実空間画像の画像情報からクライアントの三次元位置情報を生成する。本実施形態において、位置情報生成部104は、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報が与えられることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。   When communication is started, first, in step S401, the image input unit 101 on the client side acquires a physical space image captured from the viewpoint of the HMD wearer. In subsequent step S402, the transmission unit 102 on the client side transmits the real space image acquired in step S401 to the server with the transmission output given by the initial setting. Note that the default value is arbitrary. In step S403, the server-side receiving unit 103 receives the real space image. In step S404, the position information generation unit 104 generates the three-dimensional position information of the client from the received image information of the real space image. In the present embodiment, the position information generation unit 104 can calculate the relative positional relationship between the server and the client by being given the position information of the server in the system usage space at the initial setting stage before communication. In addition to the relative positional relationship, each piece of positional information can be matched to absolute coordinates.

画像処理部105は、ステップS405において、ステップS404で生成された位置情報を参照し、ステップS406において現実空間画像にCG画像の重畳を行い、合成画像を生成する。ステップS407において、距離算出部106は、参照した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部107は、ステップS408において、距離算出部106が算出した距離情報を参照する。そして、ステップS409において、送信制御部107は、参照した距離情報に基づき、サーバから合成画像および距離情報のデータを送信する際の送信部108の送信出力を制御し、ステップS410でそれらデータを送信する。クライアント側では、ステップS411で受信部109が合成画像と距離情報を受信する。そして、ステップS412において、クライアント側の送信制御部111は、合成画像とともに受信部109が受信した距離情報を参照する。ステップS413において、送信制御部111は、参照した距離情報に基づき、現実空間画像をクライアントからサーバに送信する際の送信部102における送信出力の制御を行う。   In step S405, the image processing unit 105 refers to the position information generated in step S404, superimposes the CG image on the real space image in step S406, and generates a composite image. In step S407, the distance calculation unit 106 calculates the distance between the server and the client based on the referenced position information. The transmission controller 107 refers to the distance information calculated by the distance calculator 106 in step S408. In step S409, the transmission control unit 107 controls the transmission output of the transmission unit 108 when transmitting the composite image and distance information data from the server based on the referenced distance information, and transmits the data in step S410. To do. On the client side, the reception unit 109 receives the composite image and the distance information in step S411. In step S412, the client-side transmission control unit 111 refers to the distance information received by the reception unit 109 together with the composite image. In step S413, the transmission control unit 111 controls transmission output in the transmission unit 102 when transmitting a real space image from the client to the server based on the referenced distance information.

ステップS414において、クライアントは、送信すべき次の撮像画像があるか否かの判断を行う。撮像画像があると判断された場合は、処理はステップS401に戻り、上述の処理が繰り返される。ステップS401で取得された画像は、ステップS413で決定された送信出力に基づいて、ステップS402において送信部102から送信される。ステップS414で、送信すべき次の撮像画像がないと判断された場合には、通信を終了し本処理を抜ける。   In step S414, the client determines whether there is a next captured image to be transmitted. If it is determined that there is a captured image, the process returns to step S401, and the above-described process is repeated. The image acquired in step S401 is transmitted from the transmission unit 102 in step S402 based on the transmission output determined in step S413. If it is determined in step S414 that there is no next captured image to be transmitted, the communication is terminated and the process is exited.

図5は、第1実施形態における送信制御部107,111による送信部108,102の送信出力制御について説明する図である。以下、送信部102,108を総称して送信器、受信部103,109を総称して受信器という。   FIG. 5 is a diagram illustrating transmission output control of the transmission units 108 and 102 by the transmission control units 107 and 111 in the first embodiment. Hereinafter, the transmitters 102 and 108 are collectively referred to as a transmitter, and the receivers 103 and 109 are collectively referred to as a receiver.

図5の(a)は、時刻Tにおける電波強度と距離の関係を示したグラフである。破線は理想環境下において、送信器からの距離がDの位置に存在する受信器においてあるビットレートを維持するために必要な送信出力P1で送信を行った際の電波強度と距離の関係を示している。実線はフェージング環境下において送信出力をP2としたときの電波強度と距離の関係を示している。図5の(b)は、送信器からの距離がDの位置に存在する受信器における電波強度の時間変化を示したグラフである。破線は距離Dにおいて所望のビットレートを維持するために必要な電波強度を、実線はフェージング環境下において送信出力をP2Dしたときの電波強度の時間変化を示している。   FIG. 5A is a graph showing the relationship between the radio wave intensity and the distance at time T. The broken line shows the relationship between the radio wave intensity and the distance when transmission is performed at the transmission output P1 necessary for maintaining a certain bit rate in the receiver whose distance from the transmitter is at the position D in the ideal environment. ing. The solid line shows the relationship between the radio wave intensity and the distance when the transmission output is P2 in a fading environment. FIG. 5B is a graph showing the time variation of the radio wave intensity at the receiver whose distance from the transmitter is at the position D. A broken line indicates a radio wave intensity necessary for maintaining a desired bit rate at the distance D, and a solid line indicates a time change of the radio wave intensity when the transmission output is P2D in a fading environment.

図5の(a)より、理想環境下であれば、送信器の送信出力をP1に設定することにより、距離Dの位置であるビットレートでの通信を維持可能な受信電波強度P1Dを実現できることが分かる。しかし、フェージング環境下においては電波強度が非常に激しく変動するため、所望のビットレートを維持するためには、図5の(b)において実線で示されている電波強度の最低値が破線の示す電波強度P1Dよりも高くなるように送信出力を設定する必要がある。したがって、本実施形態における送信制御は、
1.送信器からの距離がDの地点において、送信出力がフェージングの影響によって最も電波強度の低い状態になった際にも、所望のビットレートを維持することが可能な受信電波強度P1Dを実現し、かつ、
2.受信電波強度の最低値がP1Dに対して十分なマージンを持つことができる、
ような送信出力P2を選択することを特徴としている。
As shown in FIG. 5A, in an ideal environment, by setting the transmission output of the transmitter to P1, it is possible to realize the received radio wave intensity P1D that can maintain communication at the bit rate that is the position of the distance D. I understand. However, in the fading environment, the radio wave intensity fluctuates very violently, and in order to maintain a desired bit rate, the minimum value of the radio wave intensity indicated by the solid line in FIG. It is necessary to set the transmission output so as to be higher than the radio wave intensity P1D. Therefore, the transmission control in this embodiment is
1. At the point where the distance from the transmitter is D, even when the transmission output becomes the lowest radio wave intensity due to the influence of fading, the reception radio wave intensity P1D capable of maintaining a desired bit rate is realized, And,
2. The minimum value of the received radio wave intensity can have a sufficient margin with respect to P1D.
Such a transmission output P2 is selected.

送信器と受信器との間の距離ごとの送信出力P2の設定値は、実際に無線通信システムを使用する環境において事前にデータを取得して、設定しておく。本実施形態においては、想定している最大通信距離は10数メートル程度であり、フェージングの影響による受信電波強度の変化は微小時間で取得できるため、事前の設定は容易に行うことができる。また、送信出力P2の設定は、任意の距離範囲ごとに設定することが可能である。距離範囲を細かく、例えばセンチメートル単位で送信出力P2を設定すれば極めて高精度な送信出力制御が可能となる。また、反対に、距離範囲を大きく、例えばメートル単位で送信出力P2を設定すれば、送信制御部の制御情報格納用のメモリ容量を減らすことができる。このように、第1実施形態では、送受信間距離に応じて必要な電波強度を得るための、送受信間距離と送信出力との関係を示す制御情報を例えばテーブルの形態で保持しておく。そして、このテーブルを参照することにより距離算出部106によって算出された装置間距離に対して適切な送信出力が決定される。   The set value of the transmission output P2 for each distance between the transmitter and the receiver is set by acquiring data in advance in an environment where the wireless communication system is actually used. In the present embodiment, the assumed maximum communication distance is about a few tens of meters, and the change in received radio wave intensity due to fading can be acquired in a very short time, so the prior setting can be easily performed. The transmission output P2 can be set for each arbitrary distance range. By setting the transmission output P2 in a fine distance range, for example, in centimeter units, it is possible to control transmission output with extremely high accuracy. Conversely, if the distance range is large, for example, the transmission output P2 is set in units of meters, the memory capacity for storing control information in the transmission control unit can be reduced. As described above, in the first embodiment, control information indicating the relationship between the transmission / reception distance and the transmission output for obtaining the required radio wave intensity according to the transmission / reception distance is held in the form of a table, for example. Then, by referring to this table, an appropriate transmission output is determined with respect to the inter-device distance calculated by the distance calculation unit 106.

図6は、第1実施形態における位置情報について説明する図である。   FIG. 6 is a diagram for describing position information in the first embodiment.

マーカ603は、あらかじめサーバと相対的位置関係を対応付けられているものとする。現実空間画像601にマーカ603が表示されている場合、位置情報生成部104は、画像データ中からマーカ603を検出する。そして、位置情報生成部104は、マーカ603の大きさや形、塗りつぶしのパターンなどの情報から、マーカ603とHMD本体の相対的位置関係およびHMD装着者がマーカを観察している方向に関する三次元位置情報を算出することができる。ここで、マーカ603とサーバの相対的位置関係は既に対応付けられているため、マーカ603とクライアントとの位置関係から、サーバとクライアントの相対的位置関係が求められる。これにより、サーバとクライアント間の距離を算出することができる。   It is assumed that the marker 603 is associated with a relative positional relationship with the server in advance. When the marker 603 is displayed on the real space image 601, the position information generation unit 104 detects the marker 603 from the image data. Then, the position information generation unit 104 determines the relative position relationship between the marker 603 and the HMD body and the three-dimensional position related to the direction in which the HMD wearer is observing the marker from information such as the size and shape of the marker 603 and the fill pattern. Information can be calculated. Here, since the relative positional relationship between the marker 603 and the server is already associated, the relative positional relationship between the server and the client is obtained from the positional relationship between the marker 603 and the client. Thereby, the distance between the server and the client can be calculated.

図6中では、例として、マーカ603の中心部を原点とする3次元座標系を想定している。但し、座標系の原点はマーカ603上に設定する必要はなく、座標系の原点とマーカ603との相対的位置関係を対応付けることにより、座標系の原点を任意の位置に設定することができる。   In FIG. 6, as an example, a three-dimensional coordinate system having the origin at the center of the marker 603 is assumed. However, the origin of the coordinate system does not need to be set on the marker 603, and the origin of the coordinate system can be set to an arbitrary position by associating the relative positional relationship between the origin of the coordinate system and the marker 603.

また、位置情報生成に用いるマーカは単独ではなく、複数のマーカを同時に用いることも可能である。複数のマーカを同時に用いる場合、各マーカの位置関係をあらかじめ定義しておくことによって、それらの相対的位置関係から、マーカを観察しているHMD(HMD装着者)方向を算出することが可能となる。その場合、図6に示したような内部の塗りつぶしパターンによって方向まで識別が可能なマーカではなく、例えば、特定色を用いたカラーマーカや、LEDなどの発光素子のような方向性のない印を利用することも可能となる。   Moreover, the marker used for position information generation is not single, but a plurality of markers can be used simultaneously. When using a plurality of markers at the same time, it is possible to calculate the direction of the HMD (HMD wearer) observing the marker from the relative positional relationship by defining the positional relationship between the markers in advance. Become. In that case, a marker that is not identifiable to the direction by the internal filling pattern as shown in FIG. 6 is used, for example, a color marker using a specific color or a non-directional mark such as a light emitting element such as an LED. It can also be used.

また、用意されたマーカではなく、テーブルの輪郭線604のような現実空間画像601の中の特徴点や、画像中の任意の色を抽出し、それらを用いて位置情報を生成することもできる。同一種類のマーカを複数用いたり、数種類のマーカを同時に用いたり、マーカ情報と画像中の特徴点の情報を組み合わせて用いたりすることによって、より高い精度の位置情報も生成できる。さらに、複数のマーカや特徴点の位置関係が対応付けられているため、全てのマーカや特徴点が画像内に表示されていなくても、それぞれのマーカや特徴点の位置を推定することが可能である。   Further, instead of the prepared marker, a feature point in the real space image 601 such as the outline 604 of the table or an arbitrary color in the image can be extracted, and position information can be generated using them. . By using a plurality of the same type of markers, using several types of markers at the same time, or using a combination of marker information and feature point information in the image, it is possible to generate position information with higher accuracy. In addition, since the positional relationship between multiple markers and feature points is associated, it is possible to estimate the position of each marker or feature point even if not all markers or feature points are displayed in the image. It is.

本実施形態では、上記の位置情報を用いて算出されるサーバとクライアント間の距離に基づいて送信制御を行う。クライアント側がHMD301と中継器302の別々の装置で構成されている場合、位置情報生成に用いる現実空間画像の撮像を行うHMD内の撮像部と、無線伝送を行う中継器の送受信アンテナは空間的に離れた位置に存在することになる。そのため、上記の位置情報を用いて算出される距離には、わずかながら誤差が生じることになる。その場合、HMD301内の撮像部と中継器302の送受信アンテナの相対的位置関係を補正することにより、サーバと送受信アンテナの相対的位置関係を把握することができ、距離精度の誤差を軽減することが可能となる。但し、より精度の高い制御を行うためには、クライアント側のHMD301と中継器302とを一体化し、HMD301内の撮像部と送受信アンテナの相対的位置関係が常に一定となるように構成することが好ましい。   In this embodiment, transmission control is performed based on the distance between the server and the client calculated using the position information. When the client side is composed of separate devices of the HMD 301 and the repeater 302, the image pickup unit in the HMD that picks up the real space image used for position information generation and the transmission / reception antenna of the repeater that performs wireless transmission are spatially separated. It exists in a distant position. Therefore, a slight error occurs in the distance calculated using the position information. In that case, by correcting the relative positional relationship between the imaging unit in the HMD 301 and the transmission / reception antenna of the repeater 302, the relative positional relationship between the server and the transmission / reception antenna can be grasped, and an error in distance accuracy can be reduced. Is possible. However, in order to perform control with higher accuracy, the client-side HMD 301 and the repeater 302 are integrated so that the relative positional relationship between the imaging unit in the HMD 301 and the transmission / reception antenna is always constant. preferable.

以上説明してきたように、上記システム構成を用いることにより、サーバとクライアントの3次元位置情報から送受信間の距離を高精度に把握することが可能となり、距離情報に基づいた精度の高い送信出力制御を実現できる。また、クライアント側での通信品質のモニタリングを行わないため、消費電力が減少し、バッテリーによる長時間駆動が可能となる。さらに、システム使用前の測定によって、フェージング影響下においても所望のビットレートを維持可能な送信出力を把握し、これを初期設定で与えることにより、安定した通信を実現できる。   As described above, by using the system configuration described above, it becomes possible to accurately grasp the distance between transmission and reception from the three-dimensional position information of the server and the client, and highly accurate transmission output control based on the distance information. Can be realized. Further, since the communication quality is not monitored on the client side, the power consumption is reduced and the battery can be driven for a long time. Further, by measuring before the system is used, a transmission output capable of maintaining a desired bit rate even under the fading influence is grasped, and stable communication can be realized by giving this as an initial setting.

[第2実施形態]
第2実施形態では、第1の実施形態で説明したサーバとクライアント間の距離情報に加えて、補助的にクライアント側における通信品質の測定結果を用いた送信レベル制御を実施する。これにより、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、予め設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行うことが可能となる。以下、通信品質の測定としてBERを用いた第2実施形態について図面を参照して説明する。
[Second Embodiment]
In the second embodiment, in addition to the information on the distance between the server and the client described in the first embodiment, transmission level control using the measurement result of the communication quality on the client side is implemented in an auxiliary manner. As a result, the radio wave environment deteriorates due to the influence of obstacles and moving objects in use of the system, interference by other wireless devices, etc., and the desired bit rate cannot be maintained with a preset transmission output. Even when it falls, stable communication can be performed. Hereinafter, a second embodiment using BER as a measurement of communication quality will be described with reference to the drawings.

図7は、第2実施形態による送信レベル制御を説明する図である。   FIG. 7 is a diagram illustrating transmission level control according to the second embodiment.

図7において、破線の直線は理想環境下において、送信器からの距離がDの位置に存在する受信器で所望のビットレートを維持するために必要な電波強度P1Dを得ることのできる送信出力P1で送信を行った際の電波強度と距離の関係を示す。また、破線の曲線はフェージング環境下において送信出力をP2としたときの電波強度と距離の関係を、実線の曲線はフェージング環境下において送信出力をP3としたときの電波強度と距離の関係をそれぞれ示している。また、P1D、P2D、P3Dは送信器からの距離がDの位置での、上記3種類の送信出力におけるそれぞれの受信電波強度を示している。   In FIG. 7, a broken line represents a transmission output P1 that can obtain a radio wave intensity P1D necessary for maintaining a desired bit rate in a receiver having a distance D from the transmitter in an ideal environment. The relationship between the radio wave intensity and the distance when transmitting with. The dashed curve shows the relationship between the radio wave intensity and distance when the transmission output is P2 in a fading environment, and the solid curve shows the relationship between the radio wave intensity and distance when the transmission output is P3 in a fading environment. Show. P1D, P2D, and P3D indicate the received radio wave intensities of the three types of transmission outputs at the position where the distance from the transmitter is D.

通常、システム使用前の初期設定によって、P2は送信器からの距離がDの位置に設置された受信器において、所望のビットレートを維持するために必要な電波強度P1Dに対して十分なマージンを持った電波強度を実現するように設定されている。しかし、システム使用中に周囲環境に障害物や移動体の増加や、他の無線機器の使用により、電波環境が悪化し、送信出力をP2としたときの電波強度が図7に示したように低下することがある。本実施形態では、このような電波強度の低下を、クライアント側(送信制御部111)でBERや電波強度を測定することにより検知する。そして、距離Dの位置においてP1Dに対し十分なマージンを持つ受信電波強度P3Dを実現する送信出力P3へと送信レベルを引き上げる制御を行う。反対に初期設定時よりも、システム使用中に電波環境が良好になった場合、BERや電波強度を測定することにより過剰な送信出力を検知し、送信レベルを引き下げる制御を行う。   Normally, P2 has a sufficient margin for the radio field intensity P1D necessary to maintain a desired bit rate in a receiver installed at a distance D from the transmitter by an initial setting before using the system. It is set to achieve the desired radio field strength. However, the radio wave environment deteriorates due to an increase in the number of obstacles and moving objects in the surrounding environment during use of the system, and the use of other wireless devices. May decrease. In the present embodiment, such a decrease in radio wave intensity is detected by measuring the BER and radio wave intensity on the client side (transmission control unit 111). Then, control is performed to raise the transmission level to the transmission output P3 that realizes the received radio wave intensity P3D having a sufficient margin with respect to P1D at the position of the distance D. On the contrary, when the radio wave environment becomes better during use of the system than at the initial setting, an excessive transmission output is detected by measuring the BER and the radio wave intensity, and control is performed to lower the transmission level.

以下にBER測定を用いた送信レベル制御について説明する。   The transmission level control using BER measurement will be described below.

図8は、第2実施形態におけるBER測定を用いた送信レベル制御について説明する機能ブロック図である。   FIG. 8 is a functional block diagram illustrating transmission level control using BER measurement in the second embodiment.

クライアントは画像入力部801により撮像した現実空間画像を取得し、送信部802を介してサーバに送信する。送信部802は、後述の送信レベル制御情報をサーバに送信する制御情報送信部としての機能も有している。初期状態ではサーバとクライアント間の距離情報および送信レベル制御情報を持っていないため、初期設定で与えられた送信出力で送信を行う。   The client acquires a real space image captured by the image input unit 801 and transmits it to the server via the transmission unit 802. The transmission unit 802 also has a function as a control information transmission unit that transmits transmission level control information described later to the server. Since there is no distance information and transmission level control information between the server and the client in the initial state, transmission is performed with the transmission output given by the initial setting.

サーバでは、受信部803が受信した画像情報を用いて、位置情報生成部804が、サーバとクライアントの相対的な3次元位置情報を生成する。生成された3次元位置情報は、画像処理部805においては現実空間画像上にCGを描画する位置、大きさ、向きの決定に利用される。また、3次元位置情報は、距離算出部806においてはサーバとクライアント間の距離を算出するために利用される。画像処理部805で生成された合成画像、距離算出部806で生成されたサーバとクライアント間の距離情報およびクライアントから送信された送信レベル制御情報は、送信制御部807に送られる。送信制御部807では距離情報と送信レベル制御情報に基づいて、送信部808においてデータ送信を行う際の送信出力を制御する。誤り制御部812では合成画像と距離情報を含む送信データに対して誤り制御を行う。誤り制御が実施された送信データ(合成画像と距離情報)は、上記制御された送信出力でもって送信部808からクライアントに送信される。   In the server, using the image information received by the reception unit 803, the position information generation unit 804 generates relative three-dimensional position information of the server and the client. The generated three-dimensional position information is used by the image processing unit 805 to determine the position, size, and orientation for drawing the CG on the real space image. The three-dimensional position information is used in the distance calculation unit 806 to calculate the distance between the server and the client. The composite image generated by the image processing unit 805, the distance information between the server and the client generated by the distance calculation unit 806, and the transmission level control information transmitted from the client are sent to the transmission control unit 807. Based on the distance information and the transmission level control information, the transmission control unit 807 controls the transmission output when the transmission unit 808 performs data transmission. The error control unit 812 performs error control on transmission data including the composite image and distance information. Transmission data (composite image and distance information) subjected to error control is transmitted from the transmission unit 808 to the client with the controlled transmission output.

クライアントにおいて、受信部809は送信部808から送信されたデータを受信する。BER測定部813は、受信部809で受信したデータに対してBER測定を行い、測定されたBERに応じて送信レベル制御情報を生成し、送信制御部811に送る。更にBER測定部813は、受信データの中から、合成画像データを画像出力部810に、距離情報を送信制御部811に送る。画像出力部810は、送られてきた合成画像をHMD装着者に提供するべく表示する。送信制御部811は、BER測定部813から送られてき送信レベル制御情報とた距離情報とに基づき、画像入力部801で取得された撮像画像を送信する際の送信制御を行う。   In the client, the reception unit 809 receives data transmitted from the transmission unit 808. The BER measurement unit 813 performs BER measurement on the data received by the reception unit 809, generates transmission level control information according to the measured BER, and sends the transmission level control information to the transmission control unit 811. Further, the BER measurement unit 813 sends the composite image data to the image output unit 810 and the distance information from the received data to the transmission control unit 811. The image output unit 810 displays the sent composite image so as to provide it to the HMD wearer. The transmission control unit 811 performs transmission control when transmitting the captured image acquired by the image input unit 801 based on the distance information that is transmitted from the BER measurement unit 813 and the transmission level control information.

図9は、第2実施形態におけるBER測定を用いた送信レベル制御における処理の流れを説明するフローチャートである。   FIG. 9 is a flowchart illustrating a process flow in transmission level control using BER measurement in the second embodiment.

通信が開始されると、まずクライアント側では、ステップS901において、画像入力部801がHMD装着者の視点による現実空間画像を取得する。続くステップS902において、送信部802は、ステップS901で取得された現実空間画像および初期設定で与えられた送信レベル制御情報を、初期設定で与えられた送信出力でサーバに送信する。なお、初期設定の値は任意である。   When communication is started, first, on the client side, in step S901, the image input unit 801 acquires a real space image from the viewpoint of the HMD wearer. In subsequent step S902, the transmission unit 802 transmits the real space image acquired in step S901 and the transmission level control information given by the initial setting to the server with the transmission output given by the initial setting. Note that the default value is arbitrary.

サーバ側では、ステップS903において受信部803がデータを受信すると、ステップS904において、位置情報生成部804は、画像情報からクライアントの3次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。画像処理部805は、ステップS905において位置情報を参照し、ステップS906でその位置情報に基づいて現実空間画像にCG画像の重畳を行い、合成画像を生成する。ステップS907において、距離算出部806は、ステップS904で参照した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部807は、ステップS908で算出された距離情報を参照し、ステップS909でクライアントから送られた送信レベル制御情報を参照する。そして、送信制御部807は、ステップS910において、参照した距離情報と送信レベル制御情報に基づき、サーバの送信部808から合成画像および距離情報を送信する際の送信出力を制御する。ステップS911において、誤り制御部812は、ステップS910で生成された、画像情報と距離情報および送信レベル制御情報を含むデータに対して、一般的な誤り検出符号、誤り訂正符号を付加する誤り制御を行う。そして、ステップS912で、送信部808は上記誤り訂正符号が付加されたデータを送信する。   On the server side, when the receiving unit 803 receives data in step S903, in step S904, the position information generating unit 804 generates the three-dimensional position information of the client from the image information. In this embodiment, the relative positional relationship between the server and the client can be calculated by providing the server position information in the system usage space at the initial setting stage before communication. In addition to the relative positional relationship, each piece of positional information can be matched to absolute coordinates. In step S905, the image processing unit 805 refers to the position information, and in step S906, superimposes the CG image on the real space image based on the position information to generate a composite image. In step S907, the distance calculation unit 806 calculates the distance between the server and the client based on the position information referenced in step S904. The transmission control unit 807 refers to the distance information calculated in step S908, and refers to the transmission level control information sent from the client in step S909. In step S910, the transmission control unit 807 controls the transmission output when transmitting the composite image and the distance information from the transmission unit 808 of the server based on the referenced distance information and transmission level control information. In step S911, the error control unit 812 performs error control for adding a general error detection code and error correction code to the data including the image information, the distance information, and the transmission level control information generated in step S910. Do. In step S912, the transmission unit 808 transmits the data to which the error correction code is added.

クライアント側では、ステップS913で受信部809がデータを受信する。そして、ステップS914において、BER測定部813がBERの測定を行う。ステップS915において、BER測定部813は、ステップS914で測定されたBERが現在の送信レベルで定められたBERの範囲以上であるか否かを判断する。測定されたBERが既定の範囲以上であった場合は、ステップS916において、送信レベルを増加する指示が送られる。ステップS915でBERが既定の範囲以上でないと判断されたときは、ステップ917でBERが既定の範囲以下であるか否かを判断する。測定されたBERが既定の範囲以下であった場合は、ステップS918において、送信レベルを減少する指示が送られる。ステップS917でBERが既定の範囲以下でないと判断されたときは、そのままステップS919の処理に移る。ステップS919において、BER測定部813は、送信レベルの指示に基づいて、送信レベル制御情報を生成し、送信制御部811に送る。ステップS919では、送信レベルの増加或いは減少の指示に応じて、所定量だけ送信出力を増加或いは減少させる。この結果、例えば、送信出力が図7のP2の状態で送信レベルを増加する指示を受けた場合に、図7のP3の送信出力が選択される。送信制御部811は、ステップS920において距離情報を、ステップ921において送信レベル制御情報を参照する。そして、ステップ922において、送信制御部811は、参照した情報に基づき、クライアントから次の撮像画像および送信レベル制御情報を送信する際の送信部802の送信出力を制御する。   On the client side, the receiving unit 809 receives data in step S913. In step S914, the BER measuring unit 813 measures the BER. In step S915, the BER measurement unit 813 determines whether or not the BER measured in step S914 is equal to or greater than the BER range determined by the current transmission level. If the measured BER is greater than or equal to the predetermined range, an instruction to increase the transmission level is sent in step S916. If it is determined in step S915 that the BER is not greater than or equal to the predetermined range, it is determined in step 917 whether or not the BER is less than or equal to the predetermined range. If the measured BER is below the predetermined range, an instruction to decrease the transmission level is sent in step S918. If it is determined in step S917 that the BER is not less than or equal to the predetermined range, the process proceeds to step S919. In step S919, the BER measurement unit 813 generates transmission level control information based on the transmission level instruction, and sends the transmission level control information to the transmission control unit 811. In step S919, the transmission output is increased or decreased by a predetermined amount in response to an instruction to increase or decrease the transmission level. As a result, for example, when the transmission output is instructed to increase the transmission level in the state of P2 in FIG. 7, the transmission output of P3 in FIG. 7 is selected. The transmission control unit 811 refers to the distance information in step S920 and the transmission level control information in step 921. In step 922, the transmission control unit 811 controls the transmission output of the transmission unit 802 when transmitting the next captured image and transmission level control information from the client based on the referenced information.

ステップS923では送信すべき次の画像があるか否かの判断を行い、画像があると判断された場合は、ステップS901に戻り、上記処理を繰り返す。ステップS901取得された画像は、ステップS922で決定された送信出力に基づいて、ステップS902で送信部802から送信される。すなわち、ステップS902において、送信部802は、ステップS901で取得された現実空間画像およびステップS921で設定された送信レベル制御情報を、ステップS922で制御された送信出力でサーバに送信する。ステップS923で、送信すべき次の画像がないと判断された場合には通信を終了し処理を抜ける。   In step S923, it is determined whether there is a next image to be transmitted. If it is determined that there is an image, the process returns to step S901 to repeat the above processing. The image acquired in step S901 is transmitted from the transmission unit 802 in step S902 based on the transmission output determined in step S922. That is, in step S902, the transmission unit 802 transmits the real space image acquired in step S901 and the transmission level control information set in step S921 to the server with the transmission output controlled in step S922. If it is determined in step S923 that there is no next image to be transmitted, the communication is terminated and the process is terminated.

[第3実施形態]
第3実施形態では、通信品質の測定として、BER測定の代わりに電波強度測定を行い、その測定結果に基づいて送信出力(送信レベル)を制御する構成について説明する。以下に受信電波強度測定を用いた送信レベル制御について説明する。
[Third Embodiment]
In the third embodiment, a configuration in which radio wave intensity measurement is performed instead of BER measurement as communication quality measurement, and a transmission output (transmission level) is controlled based on the measurement result will be described. The transmission level control using the received radio field intensity measurement will be described below.

図10は、第3実施形態における電波強度測定を用いた送信レベル制御を実現するシステムの構成を表す機能ブロック図である。   FIG. 10 is a functional block diagram showing the configuration of a system that realizes transmission level control using radio wave intensity measurement in the third embodiment.

クライアントは画像入力部1001により撮像した現実空間画像を取得し、送信部1002を介して画像を送信する。初期状態ではサーバとクライアント間の距離情報および送信レベル制御情報を持っていないため、送信部1002は初期設定で与えられた送信出力で送信を行う。   The client acquires a real space image captured by the image input unit 1001 and transmits the image via the transmission unit 1002. Since there is no distance information and transmission level control information between the server and the client in the initial state, the transmission unit 1002 performs transmission with the transmission output given by the initial setting.

サーバでは、受信部1003で受信した画像情報を用いて、位置情報生成部1004が、サーバとクライアントの相対的な3次元位置情報を生成する。生成された3次元位置情報は、画像処理部1005において現実空間画像上にCGを描画する際の位置、大きさ、向きの決定に利用される。また、距離算出部1006においては、3次元位置情報は、サーバとクライアント間の距離を算出するために利用される。画像処理部1005で処理された合成画像、距離算出部1006で生成されたサーバとクライアント間の距離情報、およびクライアントから送信された送信レベル制御情報は、送信制御部1007に送られる。送信制御部1007は、距離情報と送信レベル制御情報に基づいて、合成画像および距離情報を含むデータ送信を行う際の送信出力を制御し、送信部1008を介してデータを送信する。送信部1008から送信されたデータは、クライアントの受信部1009で受信される。電波強度測定部1012は、受信されたデータについて受信時の電波強度測定を行い、測定された電波強度に応じて送信レベル制御情報を生成する。また、電波強度測定部1012は、受信データの中から、合成画像データを画像出力部1010に、距離情報および生成した送信レベル制御情報を送信制御部1011に送る。画像出力部1010は、送られてきた合成画像をHMD装着者に提供するべく表示する。送信制御部1011は、電波強度測定部1012から送られてきた距離情報と送信レベル制御情報に基づき、画像入力部1001で取得された撮像画像を送信する際の送信部1002の送信出力を制御する。   In the server, using the image information received by the reception unit 1003, the position information generation unit 1004 generates relative three-dimensional position information of the server and the client. The generated three-dimensional position information is used for determining the position, size, and orientation when the CG is drawn on the real space image in the image processing unit 1005. In the distance calculation unit 1006, the three-dimensional position information is used to calculate the distance between the server and the client. The composite image processed by the image processing unit 1005, the distance information between the server and the client generated by the distance calculation unit 1006, and the transmission level control information transmitted from the client are sent to the transmission control unit 1007. The transmission control unit 1007 controls transmission output when performing data transmission including the composite image and the distance information based on the distance information and the transmission level control information, and transmits data via the transmission unit 1008. Data transmitted from the transmission unit 1008 is received by the reception unit 1009 of the client. The radio wave intensity measuring unit 1012 measures the radio wave intensity at the time of reception of the received data, and generates transmission level control information according to the measured radio wave intensity. Also, the radio wave intensity measuring unit 1012 sends the composite image data from the received data to the image output unit 1010 and the distance information and the generated transmission level control information to the transmission control unit 1011. The image output unit 1010 displays the sent composite image so as to provide it to the HMD wearer. The transmission control unit 1011 controls the transmission output of the transmission unit 1002 when transmitting the captured image acquired by the image input unit 1001 based on the distance information and the transmission level control information transmitted from the radio wave intensity measurement unit 1012. .

図11は、第3実施形態による、電波強度測定を用いた送信レベル制御の処理の流れを説明するフローチャートである。   FIG. 11 is a flowchart for explaining the processing flow of transmission level control using radio field intensity measurement according to the third embodiment.

通信が開始されると、まずステップS1101において、クライアント側の画像入力部1001がHMD装着者の視点による現実空間画像を取得する。続くステップS1102において、送信部1002は、ステップS1101で取得した現実空間画像および初期設定で与えられた送信レベル制御情報を、初期設定で与えられた送信出力でサーバに送信する。   When communication is started, first, in step S1101, the image input unit 1001 on the client side acquires a real space image from the viewpoint of the HMD wearer. In subsequent step S1102, the transmission unit 1002 transmits the real space image acquired in step S1101 and the transmission level control information given by the initial setting to the server with the transmission output given by the initial setting.

サーバ側ではステップS1103において受信部1003がデータを受信すると、ステップ1104において、位置情報生成部1004が受信した現実空間画像情報からクライアントの3次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。画像処理部1005は、ステップS1105において位置情報を参照し、ステップS1106において現実空間画像に参照した位置情報に基づいてCG画像の重畳を行い、合成画像を生成する。ステップ1107において、距離算出部1006は、参照した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部1007は、ステップ1108で距離算出部1006が算出した距離情報を、ステップ1109でクライアントから送られた送信レベル制御情報を参照する。そして、ステップ1110において、送信制御部1007は、それらの参照された情報に基づき、サーバから合成画像および距離情報を送信する際の送信部1008の送信出力を制御する。ステップ1111で、送信部1008はクライアントへデータを送信する。   On the server side, when the receiving unit 1003 receives data in step S1103, in step 1104, the three-dimensional position information of the client is generated from the real space image information received by the position information generating unit 1004. In this embodiment, the relative positional relationship between the server and the client can be calculated by providing the server position information in the system usage space at the initial setting stage before communication. In addition to the relative positional relationship, each piece of positional information can be matched to absolute coordinates. The image processing unit 1005 refers to the position information in step S1105, superimposes the CG image based on the position information referred to the real space image in step S1106, and generates a composite image. In step 1107, the distance calculation unit 1006 calculates the distance between the server and the client based on the referenced position information. The transmission control unit 1007 refers to the distance information calculated by the distance calculation unit 1006 in step 1108 and the transmission level control information sent from the client in step 1109. In step 1110, the transmission control unit 1007 controls the transmission output of the transmission unit 1008 when transmitting the composite image and the distance information from the server based on the referenced information. In step 1111, the transmission unit 1008 transmits data to the client.

クライアント側では、ステップ1112で受信部1009がデータを受信する。そして、ステップ1113で、電波強度測定部1012は、受信電波強度を測定する。ステップ1114において、電波強度測定部1012は、ステップ1113で測定された電波強度が現在の送信レベルで定められた範囲以上であるか否かを判断する。測定された電波強度が既定の範囲以上であった場合は、ステップS1115において、送信レベルを減少する指示が送られる。ステップS1114で電波強度が既定の範囲以上でないと判断されたときは、ステップS1116で電波強度が既定の範囲以下であるか否かを判断する。測定された電波強度が既定の範囲以下であった場合は、ステップS1117において、送信レベルを増加する指示が送られる。ステップ1116で電波強度が既定の範囲以下でないと判断されたときは、そのままステップS1118の処理に移る。   On the client side, the receiving unit 1009 receives data in step 1112. In step 1113, the radio wave intensity measuring unit 1012 measures the received radio wave intensity. In step 1114, the radio wave intensity measurement unit 1012 determines whether or not the radio wave intensity measured in step 1113 is equal to or greater than the range determined by the current transmission level. If the measured radio field intensity is greater than or equal to the predetermined range, an instruction to reduce the transmission level is sent in step S1115. If it is determined in step S1114 that the radio field intensity is not greater than or equal to the predetermined range, it is determined in step S1116 whether the radio field intensity is less than or equal to the predetermined range. If the measured radio field intensity is below a predetermined range, an instruction to increase the transmission level is sent in step S1117. If it is determined in step 1116 that the radio wave intensity is not below the predetermined range, the process proceeds to step S1118.

ステップ1118において、電波強度測定部1012は、送信レベルの指示に基づいて、送信レベル制御情報を生成し、送信制御部1011に送る。ステップS1118では、送信レベルの増加或いは減少の指示に応じて、所定量だけ送信出力を増加或いは減少させる。この結果、例えば、送信出力が図7のP2の状態で送信レベルを増加する指示を受けた場合にP3の送信出力が選択される。送信制御部1011は、ステップS1119で距離情報を、ステップS1120で送信レベル制御情報を参照する。そして、ステップ1121において、送信制御部1011は、参照した距離情報及び送信レベル制御情報に基づき、クライアントから次の撮像画像および送信レベル制御情報を送信する際の送信部1002における送信出力を制御する。   In step 1118, the radio wave intensity measurement unit 1012 generates transmission level control information based on the transmission level instruction and sends the transmission level control information to the transmission control unit 1011. In step S1118, the transmission output is increased or decreased by a predetermined amount in response to an instruction to increase or decrease the transmission level. As a result, for example, when an instruction to increase the transmission level is received in the state of P2 in FIG. 7, the transmission output of P3 is selected. The transmission control unit 1011 refers to the distance information in step S1119 and the transmission level control information in step S1120. In step 1121, the transmission control unit 1011 controls the transmission output in the transmission unit 1002 when transmitting the next captured image and transmission level control information from the client based on the referenced distance information and transmission level control information.

ステップS1122において、クライアントは送信すべき次の画像があるか否かの判断を行う。次の画像があると判断された場合は、ステップS1101に処理を戻し、画像を取得する。取得された画像は、ステップ1121で決定された送信出力に基づいて、ステップ1102で送信される。ステップ1122で送信すべき次の画像がないと判断された場合には、通信を終了し処理を抜ける。   In step S1122, the client determines whether there is a next image to be transmitted. If it is determined that there is a next image, the process returns to step S1101 to acquire the image. The acquired image is transmitted in step 1102 based on the transmission output determined in step 1121. If it is determined in step 1122 that there is no next image to be transmitted, the communication is terminated and the process is terminated.

尚、第2及び第3実施形態では、図9および図11のフローチャートで示されるように、1フレーム画像の送受信ごとに通信品質(BERまたは電波強度)を測定し、送信レベル制御を行っている。しかしながら、実際にはシステム使用中には、1フレーム画像の送受信ごとに電波環境が大きく変化することはないと考えられる。したがって、第2、第3実施形態において、BERまたは電波強度の測定回数は任意の時間毎もしくは任意の送受信回数毎に実行するように構成することが現実的である。さらに、使用者が画質の低下を感じた際に、任意のタイミングで送信レベル制御を実行できるような外部入力、送信レベル制御の実行指示をユーザが行うためのユーザインターフェースを持たせることも可能である。   In the second and third embodiments, as shown in the flowcharts of FIGS. 9 and 11, communication quality (BER or radio wave intensity) is measured for each transmission / reception of one frame image, and transmission level control is performed. . However, in reality, it is considered that the radio wave environment does not change greatly every time one frame image is transmitted / received during use of the system. Therefore, in the second and third embodiments, it is realistic to configure the BER or the radio wave intensity measurement frequency to be executed every arbitrary time or every arbitrary transmission / reception frequency. In addition, when the user feels that the image quality has deteriorated, it is possible to provide an external input that can execute transmission level control at an arbitrary timing, and a user interface for the user to issue a transmission level control execution instruction. is there.

また、図8〜図11に示されるシステム構成およびフローチャートでは、クライアント側でBERまたは電波強度を測定し、送信レベル制御を行っている。しかしながら、これらの測定機能および送信レベル制御機能をサーバ側に実装することも可能である。これらの機能をサーバ側に実装した場合、クライアント側の処理負荷が軽減しバッテリー消費を抑えることができるため、クライアント側の無線端末の長時間駆動が可能となる。   In the system configurations and flowcharts shown in FIGS. 8 to 11, BER or radio wave intensity is measured on the client side and transmission level control is performed. However, these measurement functions and transmission level control functions can also be implemented on the server side. When these functions are implemented on the server side, the processing load on the client side can be reduced and the battery consumption can be reduced, so that the wireless terminal on the client side can be driven for a long time.

以上説明してきたように、第2、第3実施形態によれば、第1実施形態の構成に加えて、補助的にBERまたは電波強度の測定結果を用いて送信レベル制御が実施される。これにより、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、あらかじめ設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行うことが可能となる。   As described above, according to the second and third embodiments, in addition to the configuration of the first embodiment, transmission level control is carried out supplementarily using the measurement result of BER or radio wave intensity. As a result, the radio wave environment deteriorates due to the influence of obstacles, moving objects, interference from other wireless devices, etc. during use of the system, and the desired bit rate cannot be maintained with the preset transmission output. Even when it falls, stable communication can be performed.

なお、上記第2、第3実施形態では、通信品質検出部としてのBER測定部813や電波強度測定部1012で得られた通信品質から派生した送信制御情報(送信レベル制御情報)を、他方の装置へ送信している。しかしながら、これに限られるものではなく、通信品質検出部で得られた通信品質(BER測定部813や電波強度測定部1012の測定結果)を他方の装置へ送信し、各装置で別個に通信品質に基づいて送信レベル制御情報を生成するように構成しても良い。   In the second and third embodiments, the transmission control information (transmission level control information) derived from the communication quality obtained by the BER measurement unit 813 or the radio wave intensity measurement unit 1012 as the communication quality detection unit is used for the other. Sending to the device. However, the present invention is not limited to this, and the communication quality obtained by the communication quality detection unit (measurement results of the BER measurement unit 813 and the radio wave intensity measurement unit 1012) is transmitted to the other device, and each device separately transmits the communication quality. The transmission level control information may be generated based on the above.

[第4実施形態]
次に、第4実施形態を図に従って説明する。
[Fourth Embodiment]
Next, a fourth embodiment will be described with reference to the drawings.

上述の第1乃至第3実施形態では、クライアント側で撮像された画像情報からサーバとクライアントの3次元位置情報を生成した。これに対して、第4実施形態では、クライアント側もしくは外部に設置された、3次元位置或いは3次元位置姿勢を検出可能な3次元位置姿勢センサによって取得されたセンシング情報から、サーバとクライアントの3次元位置情報を生成する。以下、この点を中心に第4実施形態を説明する。   In the first to third embodiments described above, the three-dimensional position information of the server and the client is generated from the image information captured on the client side. In contrast, in the fourth embodiment, the server and the client 3 are detected from sensing information acquired by a three-dimensional position or a three-dimensional position and orientation sensor that can detect a three-dimensional position or a three-dimensional position and orientation installed on the client side or outside. Generate dimension position information. Hereinafter, the fourth embodiment will be described focusing on this point.

MRシステムの3次元位置情報の生成には、HMDに内蔵された主観カメラ(内部イメージセンサ)で撮像した画像情報を用いる方法の他に、各種センシングデバイスによるセンシング情報を用いる方法がある。3次元位置姿勢センサとしてのセンシングデバイスの例としては、磁気センサ、ジャイロセンサ等のHMD自身に取り付けて使用するタイプのデバイスや、客観カメラ(外部イメージセンサ)等のHMDの外部に取り付けて使用するタイプのデバイスが挙げられる。これらのセンシングデバイスは一種類のみで使用することも、複数の種類のデバイスを組み合わせて使用することも可能である。また、第1実施形態で使用したHMDに内蔵された主観カメラで撮像した画像情報と、センシングデバイスで取得したセンシング情報を組み合わせて3次元位置情報の生成を行うことによって、より高い精度の3次元位置情報を得ることが可能となる。以下では、センシングデバイスで取得したセンシング情報のみを用いて3次元位置情報を生成する場合について説明する。   The generation of the three-dimensional position information of the MR system includes a method of using sensing information from various sensing devices in addition to a method of using image information captured by a subjective camera (internal image sensor) built in the HMD. As an example of a sensing device as a three-dimensional position and orientation sensor, a device of a type that is attached to the HMD itself such as a magnetic sensor, a gyro sensor, or an HMD such as an objective camera (external image sensor) is used. Type of device. These sensing devices can be used alone, or a plurality of types of devices can be used in combination. Further, by generating three-dimensional position information by combining image information captured by a subjective camera built in the HMD used in the first embodiment and sensing information acquired by a sensing device, three-dimensional position information with higher accuracy can be obtained. Position information can be obtained. Below, the case where 3D position information is produced | generated using only the sensing information acquired with the sensing device is demonstrated.

図12は、第4実施形態におけるMRシステムの機能構成を示すブロック図である。   FIG. 12 is a block diagram showing a functional configuration of the MR system in the fourth embodiment.

クライアントにおいて、送信部1202は、画像入力部1201が取得した現実空間画像と、センシング部1212が撮像のタイミングと同期して取得したセンシング情報を、初期設定で与えられた送信出力でサーバに送信する。尚、センシング部1212におけるセンシングデバイスの種類は一種類とは限らず、複数種類のセンシングデバイスを同時に使用することが可能である。   In the client, the transmission unit 1202 transmits the real space image acquired by the image input unit 1201 and the sensing information acquired by the sensing unit 1212 in synchronization with the imaging timing to the server with the transmission output given by the initial setting. . Note that the type of sensing device in the sensing unit 1212 is not limited to one type, and a plurality of types of sensing devices can be used simultaneously.

サーバにおいて、受信部1203は送信部1202から送信されたデータを受信する。位置情報生成部1204は、センシング部1212で取得された各種センシング情報を用いて、サーバとクライアントの相対的な3次元位置情報を生成する。生成された位置情報は、画像処理部1205において現実空間画像上にCGを描画する際の位置、大きさ、向きの決定に利用される。また、位置情報生成部1204で生成された3次元位置情報は、距離算出部1206においてサーバとクライアント間の距離を算出するために利用される。   In the server, the reception unit 1203 receives the data transmitted from the transmission unit 1202. The position information generation unit 1204 uses the various sensing information acquired by the sensing unit 1212 to generate relative three-dimensional position information of the server and the client. The generated position information is used for determining the position, size, and orientation when the CG is drawn on the real space image in the image processing unit 1205. Further, the three-dimensional position information generated by the position information generation unit 1204 is used by the distance calculation unit 1206 to calculate the distance between the server and the client.

画像処理部1205で生成された合成画像および、距離算出部1206で生成されたサーバとクライアント間の距離情報は、送信制御部1207に送られる。送信制御部1207は、距離情報に基づいて、合成画像および距離情報を含むデータ送信を行う際の送信部1208の送信出力を制御する。送信部1208は、送信制御部1207によって制御された送信出力でもってデータを送信する。   The composite image generated by the image processing unit 1205 and the distance information between the server and the client generated by the distance calculation unit 1206 are sent to the transmission control unit 1207. The transmission control unit 1207 controls the transmission output of the transmission unit 1208 when performing data transmission including the composite image and the distance information based on the distance information. The transmission unit 1208 transmits data with the transmission output controlled by the transmission control unit 1207.

クライアントの受信部1209は、送信部1208から送信された受信データの中から、合成画像データを画像出力部1210に、距離情報を送信制御部1211に送る。画像出力部1210は、送られてきた合成画像をHMD装着者に提供するべく表示する。送信制御部1211は、送られてきた距離情報に基づき、画像入力部1201で取得された撮像画像を送信する際の送信部1202における送信出力を制御する。   The reception unit 1209 of the client transmits the composite image data to the image output unit 1210 and the distance information to the transmission control unit 1211 from the reception data transmitted from the transmission unit 1208. The image output unit 1210 displays the sent composite image to be provided to the HMD wearer. The transmission control unit 1211 controls the transmission output in the transmission unit 1202 when transmitting the captured image acquired by the image input unit 1201 based on the transmitted distance information.

図13は、第4実施の形態における処理の流れを説明するフローチャートである。   FIG. 13 is a flowchart for explaining the flow of processing in the fourth embodiment.

通信が開始されると、まずクライアント側ではステップS1301において、センシング部1212は各種センシングデバイスからセンシング情報を取得し、画像入力部1201はHMD装着者の視点による現実空間画像情報を取得する。ステップS1302において、送信部1202は、ステップS1301で取得されたセンシング情報および画像情報を、初期設定で与えられた送信出力でサーバに送信する。   When communication is started, first, in step S1301, on the client side, the sensing unit 1212 acquires sensing information from various sensing devices, and the image input unit 1201 acquires real space image information from the viewpoint of the HMD wearer. In step S1302, the transmission unit 1202 transmits the sensing information and image information acquired in step S1301 to the server with the transmission output given by the initial setting.

サーバ側では、ステップ1303において、受信部1203がデータを受信する。位置情報生成部1204は、ステップS1304において、ステップS1303で受信した各種センシング情報を参照し、ステップS1305において、それらのセンシング情報からクライアントの3次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。画像処理部1205は、ステップS1306において上記生成された位置情報を参照し、ステップ1307において、その位置情報を用いて現実空間画像にCG画像の重畳を行い、合成画像を生成する。   On the server side, in step 1303, the receiving unit 1203 receives data. In step S1304, the position information generation unit 1204 refers to the various sensing information received in step S1303. In step S1305, the position information generation unit 1204 generates three-dimensional position information of the client from the sensing information. In this embodiment, the relative positional relationship between the server and the client can be calculated by providing the server position information in the system usage space at the initial setting stage before communication. In addition to the relative positional relationship, each piece of positional information can be matched to absolute coordinates. The image processing unit 1205 refers to the position information generated in step S1306, and in step 1307, superimposes the CG image on the real space image using the position information to generate a composite image.

ステップ1308において、距離算出部1206は、位置情報生成部1204が生成した位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部1207は、ステップS1309において上記算出された距離情報を参照し、ステップS1310において上記距離情報に基づいて、サーバから合成画像および距離情報を送信する際の送信部1208の送信出力を制御する。そして、ステップ1311において、送信部1208は、送信制御部1207によって制御された送信出力でもってデータを送信する。   In step 1308, the distance calculation unit 1206 calculates the distance between the server and the client based on the position information generated by the position information generation unit 1204. The transmission control unit 1207 refers to the calculated distance information in step S1309, and controls the transmission output of the transmission unit 1208 when transmitting the composite image and the distance information from the server based on the distance information in step S1310. . In step 1311, the transmission unit 1208 transmits data with the transmission output controlled by the transmission control unit 1207.

クライアント側では、ステップS1312において、受信部1209はデータを受信し、画像出力部1210は受信された画像データを表示する。ステップS1313において、送信制御部1211は、合成画像とともに受信された距離情報を参照する。ステップS1314において、送信制御部1211は、参照した距離情報に基づき、撮像画像をクライアントからサーバに送信する際の送信部1202の送信出力を制御する。   On the client side, in step S1312, the receiving unit 1209 receives data, and the image output unit 1210 displays the received image data. In step S1313, the transmission control unit 1211 refers to the distance information received together with the composite image. In step S1314, the transmission control unit 1211 controls the transmission output of the transmission unit 1202 when transmitting the captured image from the client to the server based on the referenced distance information.

ステップS1315において送信すべき次の撮像画像があるか否かの判断を行い、撮像画像があると判断された場合は、ステップS1301に戻り、次の撮像画像を取得する。そして、上記の処理を繰り返す。尚、取得された画像は、ステップ1314で決定された送信出力でもって、ステップ1302で送信部1202から送信される。一方、ステップS1315で、送信すべき次の画像がないと判断された場合には、通信を終了し処理を抜ける。   In step S1315, it is determined whether or not there is a next captured image to be transmitted. If it is determined that there is a captured image, the process returns to step S1301 to acquire the next captured image. Then, the above process is repeated. The acquired image is transmitted from the transmission unit 1202 in step 1302 with the transmission output determined in step 1314. On the other hand, if it is determined in step S1315 that there is no next image to be transmitted, the communication is terminated and the process is exited.

尚、図12および図13に記載の構成およびフローチャートでは、クライアント側にセンシング部1212を有するシステムとなっているが、サーバ側に設ける構成としても良い。例えば、客観カメラのようなセンシングを利用する場合には、センシング情報をサーバ側に直接入力することにより、クライアントからサーバに送信するデータ量を減らすことができ、さらなる省電力化が実現できる。   In the configuration and flowchart illustrated in FIGS. 12 and 13, the system includes the sensing unit 1212 on the client side, but may be configured on the server side. For example, when sensing such as an objective camera is used, the amount of data transmitted from the client to the server can be reduced by directly inputting the sensing information to the server side, and further power saving can be realized.

さらに、第2及び第3実施形態と同様に、第4実施形態ではサーバとクライアント間の距離情報に加えて、サーバ側またはクライアント側におけるBERや電波強度の測定結果を用いた送信レベル制御を実施するようにしてもよい。この構成によれば、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、予め設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行うことが可能となる。尚、BERや電波強度の測定結果を用いた送信レベル制御を実装したシステムについては、3次元位置情報の生成にセンシング情報を用いる点の他には、第2及び第3実施形態と大きな差異はないため、ここでは説明を省略する。   Furthermore, as in the second and third embodiments, in the fourth embodiment, transmission level control is performed using BER and radio wave intensity measurement results on the server side or client side in addition to the distance information between the server and client. You may make it do. According to this configuration, the radio wave environment is deteriorated due to the influence of obstacles and moving objects in use of the system, interference by other wireless devices, and the desired bit rate can be maintained at a preset transmission output. Stable communication can be performed even in a situation where it is impossible. The system that implements transmission level control using BER and radio field intensity measurement results is different from the second and third embodiments except that sensing information is used to generate three-dimensional position information. The explanation is omitted here.

以上説明してきたように、センシング情報を用いてサーバとクライアントの3次元位置情報を生成する記載のシステム構成を用いても、第1乃至第3実施形態と同様に、安定した通信品質の維持と省電力化を実現できる。また、BERや電波強度の測定結果を用いて送信レベル制御を行うことも可能である。さらに、第1実施形態で利用したHMDでの撮像画像情報と組み合わせて3次元位置情報を生成することが可能である。このような構成によれば、より精度の高い距離情報を得ることができるため、送信制御の精度も向上させることができる。   As described above, even when using the described system configuration that generates the three-dimensional position information of the server and the client using the sensing information, as in the first to third embodiments, it is possible to maintain stable communication quality. Power saving can be realized. It is also possible to perform transmission level control using measurement results of BER and radio wave intensity. Furthermore, it is possible to generate three-dimensional position information in combination with the captured image information in the HMD used in the first embodiment. According to such a configuration, distance information with higher accuracy can be obtained, so that the accuracy of transmission control can also be improved.

[第5実施形態]
次に第5実施形態を説明する。
[Fifth Embodiment]
Next, a fifth embodiment will be described.

第1乃至第4実施形態では、サーバ側で3次元位置情報を生成する構成を説明したが、第5実施形態では、3次元位置情報を生成する構成をクライアント側に設けた構成を説明する。   In the first to fourth embodiments, the configuration for generating three-dimensional position information on the server side has been described. In the fifth embodiment, a configuration in which a configuration for generating three-dimensional position information is provided on the client side will be described.

図14は、本発明の特徴を説明する第3の実施の形態におけるシステム構成を示した図である。   FIG. 14 is a diagram showing a system configuration in the third embodiment for explaining the features of the present invention.

クライアントは画像入力部1401により撮像した現実空間画像を取得し、フレームメモリ1421に画像データを格納する。位置情報生成部1404は、フレームメモリ1421内の画像情報およびセンシング部1412で取得された各種センシング情報、またはそれら情報のどちらか一方を用いて、サーバとクライアントの相対的な3次元位置情報を生成する。距離算出部1406は、位置情報生成部1404が生成した位置情報からサーバとクライアント間の距離を算出する。送信制御部1411は、算出された距離情報に基づき、クライアントからサーバに3次元位置情報および距離情報を含むデータを送信する際の送信部1402の送信出力を制御する。送信部1402は、送信制御部1411によって制御された送信出力でもって3次元位置情報および距離情報を含むデータをサーバに送信する。従って、第5実施形態では、送信部1402が、クライアントとサーバ間の装置間距離を送信する距離送信部として機能する。   The client acquires a physical space image captured by the image input unit 1401 and stores the image data in the frame memory 1421. The position information generation unit 1404 generates the relative three-dimensional position information of the server and the client by using either the image information in the frame memory 1421 and the various sensing information acquired by the sensing unit 1412 or the information. To do. The distance calculation unit 1406 calculates the distance between the server and the client from the position information generated by the position information generation unit 1404. The transmission control unit 1411 controls the transmission output of the transmission unit 1402 when transmitting data including the three-dimensional position information and the distance information from the client to the server based on the calculated distance information. The transmission unit 1402 transmits the data including the three-dimensional position information and the distance information to the server with the transmission output controlled by the transmission control unit 1411. Therefore, in the fifth embodiment, the transmission unit 1402 functions as a distance transmission unit that transmits the inter-device distance between the client and the server.

サーバは受信部1403でクライアントから送信されたデータを受信する。受信されたデータに含まれる位置情報は、CG描画部1422においてCG画像を描画する際の位置、大きさ、向きの決定に利用される。送信制御部1407は、受信データに含まれる距離情報を参照し、サーバからクライアントにCG画像を送信する際の送信部1408の送信出力を制御する。送信部1408は、送信制御部1407によって制御された送信出力でもってCG画像を送信する。   The server receives data transmitted from the client by the receiving unit 1403. The position information included in the received data is used to determine the position, size, and orientation when drawing a CG image in the CG drawing unit 1422. The transmission control unit 1407 controls the transmission output of the transmission unit 1408 when the CG image is transmitted from the server to the client with reference to the distance information included in the received data. The transmission unit 1408 transmits the CG image with the transmission output controlled by the transmission control unit 1407.

クライアントの受信部1409で受信されたCG画像は、画像合成部1423に送られる。画像合成部1423は、CG画像をフレームメモリ1421に格納されている現実空間画像と合成する。画像出力部1410は、画像合成部1423で生成された合成画像をHMD装着者に提供するべく表示する。   The CG image received by the reception unit 1409 of the client is sent to the image composition unit 1423. The image synthesis unit 1423 synthesizes the CG image with the real space image stored in the frame memory 1421. The image output unit 1410 displays the composite image generated by the image composition unit 1423 so as to provide it to the HMD wearer.

図15は、第5実施形態による処理の流れを説明するフローチャートである。   FIG. 15 is a flowchart for explaining the flow of processing according to the fifth embodiment.

通信が開始されると、まずステップS1501において、クライアント側の画像入力部1401が、HMD装着者の視点で撮像された現実空間画像を取得する。ステップ1502において、クライアントは、画像入力部1401が取得した画像データをフレームメモリ1421に格納する。位置情報生成部1404は、ステップS1503で画像情報を参照し、ステップ1504でセンシング部1412からのセンシング情報を取得する。そして、ステップ1505において、位置情報生成部1404は、画像情報とセンシング情報に基づいてクライアントの三次元位置情報を生成する。本実施形態においては、通信前の初期設定の段階でシステム使用空間におけるサーバの位置情報を与えることにより、サーバとクライアントの相対位置関係を算出することができる。また、相対位置関係だけでなく、それぞれの位置情報を絶対座標に合わせることも可能である。   When communication is started, first, in step S1501, the image input unit 1401 on the client side acquires a real space image captured from the viewpoint of the HMD wearer. In step 1502, the client stores the image data acquired by the image input unit 1401 in the frame memory 1421. The position information generation unit 1404 refers to the image information in step S1503, and acquires sensing information from the sensing unit 1412 in step 1504. In step 1505, the position information generation unit 1404 generates the three-dimensional position information of the client based on the image information and the sensing information. In this embodiment, the relative positional relationship between the server and the client can be calculated by providing the server position information in the system usage space at the initial setting stage before communication. In addition to the relative positional relationship, each piece of positional information can be matched to absolute coordinates.

ステップ1506において、距離算出部1406は、位置情報生成部1404で生成された位置情報をもとに、サーバとクライアント間の距離を算出する。送信制御部1411は、ステップ1507で、距離算出部1406が算出した距離情報を参照し、ステップ1508で、その距離情報に基づいてクライアントから3次元位置情報および距離情報を送信する際の送信出力を制御する。ステップS1509において、送信部1402は、送信制御部1411がステップS1508で制御した送信出力でもって、3次元位置情報および距離情報を含むデータを送信する。   In step 1506, the distance calculation unit 1406 calculates the distance between the server and the client based on the position information generated by the position information generation unit 1404. In step 1507, the transmission control unit 1411 refers to the distance information calculated by the distance calculation unit 1406. In step 1508, the transmission control unit 1411 outputs a transmission output when transmitting the three-dimensional position information and the distance information from the client based on the distance information. Control. In step S1509, the transmission unit 1402 transmits data including the three-dimensional position information and the distance information with the transmission output controlled by the transmission control unit 1411 in step S1508.

ステップS1510において、サーバ側の受信部1403は、ステップS1509において送信部1402が送信したデータを受信する。CG描画部1422は、ステップ1511で、ステップS1510で受信した3次元位置情報を参照し、ステップS1512で、その3次元位置情報に基づいてCG画像を描画する。送信制御部1407は、ステップS1513で、受信部1403が受信した距離情報を参照し、ステップ1514で、その距離情報に基づいて、サーバからクライアントにCG画像を送信する際の送信部1408の送信出力を制御する。ステップS1515において、送信部1408は、送信制御部1407によって制御された送信出力でもって、CG描画部1422が生成したCG画像を送信する。   In step S1510, the server-side receiving unit 1403 receives the data transmitted by the transmitting unit 1402 in step S1509. The CG rendering unit 1422 refers to the three-dimensional position information received in step S1510 in step 1511, and renders a CG image based on the three-dimensional position information in step S1512. The transmission control unit 1407 refers to the distance information received by the reception unit 1403 in step S1513, and in step 1514, based on the distance information, the transmission output of the transmission unit 1408 when transmitting a CG image from the server to the client. To control. In step S1515, the transmission unit 1408 transmits the CG image generated by the CG drawing unit 1422 with the transmission output controlled by the transmission control unit 1407.

ステップ1516において、クライアント側の受信部1409は、サーバ側の送信部1408が送信したCG画像を受信する。ステップS1517において、画像合成部1423は、受信データに含まれるCG画像に対応する現実空間画像をフレームメモリ1421から読込み、現実空間画像とCG画像を合成し、MR画像を生成する。そして、画像出力部1410は、このMR画像を表示する。   In step 1516, the client-side receiving unit 1409 receives the CG image transmitted by the server-side transmitting unit 1408. In step S1517, the image composition unit 1423 reads a real space image corresponding to the CG image included in the received data from the frame memory 1421, synthesizes the real space image and the CG image, and generates an MR image. Then, the image output unit 1410 displays this MR image.

ステップS1519において、クライアントは、次の撮像画像があるか否かの判断を行い、次の画像があると判断されると、処理をステップS1501に戻し、上記の処理を繰り返す。一方、ステップS1519において次の画像がないと判断された場合には、通信を終了し処理を抜ける。   In step S1519, the client determines whether there is a next captured image. If it is determined that there is a next image, the client returns the process to step S1501 and repeats the above processing. On the other hand, if it is determined in step S1519 that there is no next image, the communication is terminated and the process is exited.

以上のように、第5実施形態によれば、クライアントから送信されるデータは、位置情報および距離情報であり、画像データが含まれない。そのため、クライアントからサーバへ送信される情報量は非常に小さくなる。したがって、送信に要する消費電力を大幅に減らすことができ、バッテリーによるクライアント側の無線端末の長時間駆動が実現できる。   As described above, according to the fifth embodiment, data transmitted from the client is position information and distance information, and does not include image data. Therefore, the amount of information transmitted from the client to the server becomes very small. Therefore, power consumption required for transmission can be greatly reduced, and long-term driving of the client-side wireless terminal by the battery can be realized.

さらに、第2乃至第4実施形態と同様に、第5実施形態でもサーバとクライアント間の距離情報に加えて、サーバ側またはクライアント側におけるBERや電波強度の測定結果を用いた送信レベル制御を実施することができる。このような構成とすることで、システム使用中の障害物、移動体の増加や他の無線機器による干渉などの影響によって電波環境が悪化し、予め設定された送信出力では所望のビットレートを維持することができない状態に陥った際にも、安定した通信を行える。なお、BERや電波強度の測定結果を用いた送信レベル制御を実装したシステムについては、クライアント側に3次元位置情報生成機能を有する点の他には、第2、第3実施形態により上述した構成と大きな差異はないため、ここでは説明を省略する。   Further, similarly to the second to fourth embodiments, in the fifth embodiment, in addition to the distance information between the server and the client, the transmission level control using the BER and the radio wave intensity measurement result on the server side or the client side is performed. can do. With this configuration, the radio wave environment deteriorates due to the influence of obstacles, moving objects, interference from other wireless devices, etc. during use of the system, and the desired bit rate is maintained at the preset transmission output. Stable communication can be performed even in a situation where it cannot be performed. Note that a system that implements transmission level control using BER and radio field intensity measurement results has the above-described configuration according to the second and third embodiments, in addition to having a three-dimensional position information generation function on the client side. Since there is no big difference, explanation is omitted here.

以上説明してきたように、第5実施形態によれば、クライアント側に3次元位置情報生成機能を有するシステム構成を用いても、第1乃至第4実施形態と同様に、安定した通信品質の維持と省電力化を実現できる。また、BERや電波強度の測定結果を用いて送信レベル制御を行うことも可能である。また、第4実施形態と同様に、HMDでの撮像画像情報とセンシングデバイスでのセンシング情報を組み合わせて3次元位置情報を生成することが可能であり、より精度の高い距離情報を得ることができるため、送信制御の精度も向上させることができる。さらに、クライアントからサーバに送信するデータ量が大幅に減少するため、送信に要するバッテリー消費量を押さえ、長時間駆動が可能となる。   As described above, according to the fifth embodiment, even when a system configuration having a three-dimensional position information generation function on the client side is used, as in the first to fourth embodiments, stable communication quality is maintained. Power saving can be realized. It is also possible to perform transmission level control using measurement results of BER and radio wave intensity. Further, similarly to the fourth embodiment, it is possible to generate three-dimensional position information by combining captured image information in the HMD and sensing information in the sensing device, and more accurate distance information can be obtained. Therefore, the accuracy of transmission control can be improved. Furthermore, since the amount of data transmitted from the client to the server is greatly reduced, the battery consumption required for transmission can be suppressed and long-time driving can be achieved.

以上のように第1乃至第5実施形態によれば、送受信間の距離を3次元位置情報を用いて高精度で把握することにより、送信制御による省電力化と安定した通信品質の維持を可能とする無線通信システムを実現することができる。また、受信側の無線端末で常に通信品質を常時モニタリングすることなく送信制御を行えるため、無線端末の処理負荷、消費電力を抑えることが可能となる。また、フェージング環境下においても、一定のビットレートを維持して安定した通信が可能となる。また、屋内での近距離無線通信方式使用時においても、省電力化と安定したビットレートによるデータ通信を実現する無線通信システムを提供することができる。   As described above, according to the first to fifth embodiments, the distance between transmission and reception can be grasped with high accuracy using the three-dimensional position information, so that power saving by transmission control and stable communication quality can be maintained. A wireless communication system can be realized. In addition, since transmission control can be performed without constantly monitoring the communication quality at the receiving wireless terminal, it is possible to reduce the processing load and power consumption of the wireless terminal. Even in a fading environment, stable communication can be performed while maintaining a constant bit rate. Further, it is possible to provide a wireless communication system that realizes power saving and data communication with a stable bit rate even when the short-range wireless communication system is used indoors.

以上のように、第1乃至第5実施形態では、MR画像を提示するシステムにおいて、MR画像の生成に必要な観察者の3次元的な位置姿勢検出の結果を、無線の送信出力の制御に利用している。すなわち、3次元位置検出結果を効果的に利用することができる。   As described above, in the first to fifth embodiments, in the system for presenting MR images, the result of the three-dimensional position / orientation detection of the observer necessary for generating the MR images is used to control the wireless transmission output. We are using. That is, the three-dimensional position detection result can be used effectively.

以上、実施形態を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。   Although the embodiment has been described in detail above, the present invention can take an embodiment as a system, apparatus, method, program, storage medium, or the like. Specifically, the present invention may be applied to a system composed of a plurality of devices, or may be applied to an apparatus composed of a single device.

尚、本発明は、ソフトウェアのプログラムをシステム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによって前述した実施形態の機能が達成される場合を含む。この場合、供給されるプログラムは実施形態で図に示したフローチャートに対応したコンピュータプログラムである。   In the present invention, the functions of the above-described embodiments are achieved by supplying a software program directly or remotely to a system or apparatus, and the computer of the system or apparatus reads and executes the supplied program code. Including the case. In this case, the supplied program is a computer program corresponding to the flowchart shown in the drawings in the embodiment.

従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。   Accordingly, since the functions of the present invention are implemented by computer, the program code installed in the computer also implements the present invention. In other words, the present invention includes a computer program itself for realizing the functional processing of the present invention.

その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。   In that case, as long as it has the function of a program, it may be in the form of object code, a program executed by an interpreter, script data supplied to the OS, or the like.

コンピュータプログラムを供給するためのコンピュータ読み取り可能な記憶媒体としては以下が挙げられる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などである。   Examples of the computer-readable storage medium for supplying the computer program include the following. For example, floppy (registered trademark) disk, hard disk, optical disk, magneto-optical disk, MO, CD-ROM, CD-R, CD-RW, magnetic tape, nonvolatile memory card, ROM, DVD (DVD-ROM, DVD- R).

その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムをハードディスク等の記録媒体にダウンロードすることが挙げられる。この場合、ダウンロードされるプログラムは、圧縮され自動インストール機能を含むファイルであってもよい。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。   As another program supply method, a client computer browser is used to connect to a homepage on the Internet, and the computer program of the present invention is downloaded from the homepage to a recording medium such as a hard disk. In this case, the downloaded program may be a compressed file including an automatic installation function. It can also be realized by dividing the program code constituting the program of the present invention into a plurality of files and downloading each file from a different homepage. That is, a WWW server that allows a plurality of users to download a program file for realizing the functional processing of the present invention on a computer is also included in the present invention.

また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布するという形態をとることもできる。この場合、所定の条件をクリアしたユーザに、インターネットを介してホームページから暗号を解く鍵情報をダウンロードさせ、その鍵情報を使用して暗号化されたプログラムを実行し、プログラムをコンピュータにインストールさせるようにもできる。   Further, the program of the present invention may be encrypted, stored in a storage medium such as a CD-ROM, and distributed to users. In this case, a user who has cleared a predetermined condition is allowed to download key information for decryption from a homepage via the Internet, execute an encrypted program using the key information, and install the program on the computer. You can also.

また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどとの協働で実施形態の機能が実現されてもよい。この場合、OSなどが、実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される。   In addition to the functions of the above-described embodiment being realized by the computer executing the read program, the embodiment of the embodiment is implemented in cooperation with an OS or the like running on the computer based on an instruction of the program. A function may be realized. In this case, the OS or the like performs part or all of the actual processing, and the functions of the above-described embodiments are realized by the processing.

さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれて前述の実施形態の機能の一部或いは全てが実現されてもよい。この場合、機能拡張ボードや機能拡張ユニットにプログラムが書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行なう。   Furthermore, the program read from the recording medium is written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer, so that part or all of the functions of the above-described embodiments are realized. May be. In this case, after a program is written in the function expansion board or function expansion unit, the CPU or the like provided in the function expansion board or function expansion unit performs part or all of the actual processing based on the instructions of the program.

Claims (13)

第1の装置と第2の装置が無線通信により接続された無線通信システムであって、
前記第1及び第2の装置のいずれかにおいて、前記第1の装置が備える撮像装置によって撮影された画像に含まれる、前記第2の装置との相対位置関係が既知の指標と前記第1の装置が備える撮像装置との相対位置関係に基づいて、前記第1の装置の3次元位置を検出する位置検出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出手段と、
前記第1及び第2の装置のうちの前記距離算出手段を有する装置から他方の装置へ、前記距離算出手段により算出された装置間距離を前記無線通信を介して送信する距離送信手段と、
前記第1及び第2の装置のそれぞれにおいて、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備えることを特徴とする無線通信システム。
A wireless communication system in which a first device and a second device are connected by wireless communication,
In any one of the first and second devices, an index whose relative positional relationship with the second device is included in an image photographed by an imaging device included in the first device and the first device is known. Position detecting means for detecting a three-dimensional position of the first device based on a relative positional relationship with an imaging device included in the device;
Distance calculation for calculating an inter-device distance between the first device and the second device based on the three-dimensional position detected by the position detection unit in any of the first and second devices. Means,
Wherein the other device from a device having the distance calculating unit of the first and second devices, the calculated inter-device distance by the distance calculation means, a distance transmitting means for transmitting via the wireless communication,
Each of said 1st and 2nd apparatus is provided with the output control means which controls the transmission output for the said radio | wireless communication based on the said distance between apparatuses, The radio | wireless communications system characterized by the above-mentioned.
前記指標は、前記画像に含まれるマーカあるいは特徴点であり、
前記位置検出手段は、前記画像からマーカ、或いは特徴点を抽出し、その大きさ、形、パターン、位置関係に基づいて、前記第1の装置の3次元位置を検出することを特徴とする請求項1に記載の無線通信システム。
The index is a marker or feature point included in the image,
The position detecting means extracts a marker or a feature point from the image, and detects a three-dimensional position of the first device based on its size, shape, pattern, and positional relationship. Item 2. The wireless communication system according to Item 1.
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置に表示するためのCG画像を生成する生成手段を更に備えることを特徴とする請求項1または2に記載の無線通信システム。  In any one of the first and second apparatuses, the apparatus further includes a generating unit that generates a CG image to be displayed on the first apparatus based on the three-dimensional position detected by the position detecting unit. The wireless communication system according to claim 1, wherein the wireless communication system is characterized. 第1の装置と第2の装置が無線通信により接続された無線通信システムであって、
前記第1及び第2の装置のいずれかにおいて、前記第1の装置が備える3次元位置姿勢センサからの出力により、前記第1の装置の3次元位置を検出する位置検出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出手段と、
前記第1及び第2の装置のいずれかにおいて、前記位置検出手段で検出された3次元位置に基づいて、前記第1の装置に表示するためのCG画像を生成する生成手段と、
前記第1及び第2の装置のうちの前記距離算出手段を有する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信手段と、
前記第1及び第2の装置のそれぞれにおいて、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備えることを特徴とする無線通信システム。
A wireless communication system in which a first device and a second device are connected by wireless communication,
In any one of the first and second devices, position detection means for detecting a three-dimensional position of the first device based on an output from a three-dimensional position and orientation sensor provided in the first device;
Distance calculation for calculating an inter-device distance between the first device and the second device based on the three-dimensional position detected by the position detection unit in any of the first and second devices. Means,
Generating means for generating a CG image to be displayed on the first apparatus based on the three-dimensional position detected by the position detecting means in any of the first and second apparatuses;
Distance transmitting means for transmitting the distance between the devices from the device having the distance calculating means of the first and second devices to the other device via the wireless communication;
Each of said 1st and 2nd apparatus is provided with the output control means which controls the transmission output for the said radio | wireless communication based on the said distance between apparatuses, The radio | wireless communications system characterized by the above-mentioned.
前記第1及び第2の装置のいずれかにおいて、前記無線通信の通信品質を検出する通信品質検出手段を更に備え、  In any one of the first and second devices, further comprising communication quality detection means for detecting communication quality of the wireless communication,
前記出力制御手段は、前記検出された通信品質に基づいて前記送信出力を制御することを特徴とする請求項1乃至4の何れか1項に記載の無線通信システム。  The wireless communication system according to claim 1, wherein the output control unit controls the transmission output based on the detected communication quality.
前記通信品質検出手段は、無線通信のエラービット数の割合、或いは電波強度を検出することを特徴とする請求項5に記載の無線通信システム。  6. The wireless communication system according to claim 5, wherein the communication quality detection means detects a ratio of the number of error bits in wireless communication or a radio wave intensity. 前記出力制御手段は、前記通信品質検出手段により検出された通信品質が所定の条件を満たす場合に、前記通信品質に基づいて前記送信出力を制御することを特徴とする請求項5または6の何れか1項に記載の無線通信システム。  The output control means controls the transmission output based on the communication quality when the communication quality detected by the communication quality detection means satisfies a predetermined condition. A wireless communication system according to claim 1. 更に、前記第1及び第2の装置のうちの前記通信品質検出手段を有する装置から他方の装置へ、前記通信品質検出手段により検出された通信品質、或いは該通信品質から派生した送信制御情報を、前記無線通信を介して送信する制御情報送信手段を備え、  Further, the communication quality detected by the communication quality detection means or the transmission control information derived from the communication quality is transmitted from the apparatus having the communication quality detection means of the first and second apparatuses to the other apparatus. , Comprising control information transmitting means for transmitting via the wireless communication,
前記出力制御手段は、更に制御情報送信手段を介して受信された前記通信品質、或いは前記送信制御情報に基づいて前記送信出力を制御することを特徴とする請求項5乃至7の何れか1項に記載の無線通信システム。  The output control unit further controls the transmission output based on the communication quality received via the control information transmission unit or the transmission control information. The wireless communication system according to 1.
第1の装置と第2の装置が無線通信により接続された無線通信システムにおける送信出力制御方法であって、
前記第1及び第2の装置のいずれかが、前記第1の装置が備える撮像装置によって撮影された画像に含まれる、前記第2の装置との相対位置関係が既知の指標と前記第1の装置が備える撮像装置との相対位置関係に基づいて、前記第1の装置の3次元位置を検出する位置検出工程と、
前記第1及び第2の装置のいずれかが、前記位置検出工程で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出工程と、
前記第1及び第2の装置のうちの前記距離算出工程を実行する装置から他方の装置へ、前記距離算出工程で算出された装置間距離を前記無線通信を介して送信する距離送信工程と、
前記第1及び第2の装置のそれぞれが、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御工程とを備えることを特徴とする送信出力制御方法。
A transmission output control method in a wireless communication system in which a first device and a second device are connected by wireless communication,
Any of the first device and the second device is included in an image photographed by an imaging device included in the first device, and an index having a known relative positional relationship with the second device and the first device A position detection step of detecting a three-dimensional position of the first device based on a relative positional relationship with an imaging device included in the device;
Distance calculation in which either the first device or the second device calculates an inter-device distance between the first device and the second device based on the three-dimensional position detected in the position detection step. Process,
From an apparatus for performing the distance calculation process of the first and second device to the other, the distance transmission step of transmitting an inter-device distance calculated by said distance calculation step via the wireless communication,
Each of said 1st and 2nd apparatus is provided with the output control process which controls the transmission output for the said radio | wireless communication based on the said distance between apparatuses, The transmission output control method characterized by the above-mentioned.
第1の装置と第2の装置が無線通信により接続された無線通信システムにおける送信出力制御方法であって、
前記第1及び第2の装置のいずれかが、前記第1の装置が備える3次元位置姿勢センサからの出力により、前記第1の装置の3次元位置を検出する位置検出工程と、
前記第1及び第2の装置のいずれかが、前記位置検出工程で検出された3次元位置に基づいて、前記第1の装置と前記第2の装置の間の装置間距離を算出する距離算出工程と、
前記第1及び第2の装置のいずれかが、前記位置検出工程で検出された3次元位置に基づいて、前記第1の装置に表示するためのCG画像を生成する生成工程と、
前記第1及び第2の装置のうちの前記距離算出工程を実行する装置から他方の装置へ、前記装置間距離を前記無線通信を介して送信する距離送信工程と、
前記第1及び第2の装置のそれぞれが、前記装置間距離に基づいて、前記無線通信のための送信出力を制御する出力制御工程とを備えることを特徴とする送信出力制御方法。
A transmission output control method in a wireless communication system in which a first device and a second device are connected by wireless communication,
A position detection step in which one of the first device and the second device detects a three-dimensional position of the first device based on an output from a three-dimensional position and orientation sensor included in the first device;
Distance calculation in which either the first device or the second device calculates an inter-device distance between the first device and the second device based on the three-dimensional position detected in the position detection step. Process,
A generation step in which one of the first and second devices generates a CG image to be displayed on the first device based on the three-dimensional position detected in the position detection step;
A distance transmission step of transmitting the inter-device distance via the wireless communication from a device that executes the distance calculation step of the first and second devices to the other device;
Each of said 1st and 2nd apparatus is provided with the output control process which controls the transmission output for the said radio | wireless communication based on the said distance between apparatuses, The transmission output control method characterized by the above-mentioned.
撮像手段を備える表示装置と無線通信を行う情報処理装置であって、  An information processing apparatus that performs wireless communication with a display device including an imaging unit,
前記表示装置が備える撮像手段によって撮像された画像を前記無線通信を介して受信する受信手段と、  Receiving means for receiving an image captured by the imaging means included in the display device via the wireless communication;
前記受信した画像に含まれる、前記情報処理装置との相対位置関係が既知の指標と前記表示装置が備える撮像手段との相対位置関係に基づいて、前記撮像手段の3次元位置を検出する検出手段と、  Detection means for detecting a three-dimensional position of the imaging means based on a relative positional relation between an index included in the received image and a known relative positional relationship with the information processing apparatus and an imaging means included in the display device When,
前記検出手段で検出された3次元位置に基づいて、前記表示装置と前記情報処理装置との間の距離を算出する距離算出手段と、  Distance calculating means for calculating a distance between the display device and the information processing device based on the three-dimensional position detected by the detecting means;
前記表示装置に、前記距離算出手段により算出された距離を前記無線通信を介して送信する距離送信手段と、  Distance transmitting means for transmitting the distance calculated by the distance calculating means to the display device via the wireless communication;
前記距離算出手段で算出された距離に基づいて、前記無線通信のための送信出力を制御する出力制御手段とを備えることを特徴とする情報処理装置。  An information processing apparatus comprising: output control means for controlling transmission output for the wireless communication based on the distance calculated by the distance calculation means.
前記検出手段で検出された3次元位置に基づいて、前記表示装置に表示するためのCG画像を生成する生成手段を更に備えることを特徴とする請求項11に記載の情報処理装置。  The information processing apparatus according to claim 11, further comprising a generation unit that generates a CG image to be displayed on the display device based on the three-dimensional position detected by the detection unit. 撮像手段を備える表示装置と無線通信を行う情報処理装置の制御方法であって、  A method of controlling an information processing apparatus that performs wireless communication with a display device including an imaging unit,
受信手段が、前記表示装置が備える撮像手段によって撮像された画像を前記無線通信を介して受信する受信工程と、  A receiving step in which a receiving unit receives an image captured by the imaging unit included in the display device via the wireless communication;
検出手段が、前記受信した画像に含まれる、前記情報処理装置との相対位置関係が既知の指標と前記表示装置が備える撮像手段との相対位置関係に基づいて、前記撮像手段の3次元位置を検出する検出工程と、  A detection unit determines a three-dimensional position of the imaging unit based on a relative positional relationship between an index included in the received image and a known relative positional relationship with the information processing device and an imaging unit included in the display device. A detection process to detect;
距離算出手段が、前記検出工程で検出された3次元位置に基づいて、前記表示装置と前記情報処理装置との間の距離を算出する距離算出工程と、  A distance calculating unit that calculates a distance between the display device and the information processing device based on the three-dimensional position detected in the detecting step;
距離送信手段が、前記表示装置に、前記距離算出工程で算出された距離を前記無線通信を介して送信する距離送信工程と、  A distance transmitting step, wherein the distance transmitting means transmits the distance calculated in the distance calculating step to the display device via the wireless communication;
出力制御手段が、前記距離算出工程で算出された距離に基づいて、前記無線通信のための送信出力を制御する出力制御工程とを備えることを特徴とする情報処理装置の制御方法。  An output control means comprising: an output control step of controlling a transmission output for the wireless communication based on the distance calculated in the distance calculation step.
JP2012131383A 2012-06-08 2012-06-08 Wireless communication system, transmission output control method, information processing apparatus, and control method thereof Expired - Fee Related JP5529927B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012131383A JP5529927B2 (en) 2012-06-08 2012-06-08 Wireless communication system, transmission output control method, information processing apparatus, and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012131383A JP5529927B2 (en) 2012-06-08 2012-06-08 Wireless communication system, transmission output control method, information processing apparatus, and control method thereof

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2007146091A Division JP5060173B2 (en) 2007-05-31 2007-05-31 Wireless communication system, image presentation system, and transmission output control method

Publications (2)

Publication Number Publication Date
JP2012191661A JP2012191661A (en) 2012-10-04
JP5529927B2 true JP5529927B2 (en) 2014-06-25

Family

ID=47084266

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012131383A Expired - Fee Related JP5529927B2 (en) 2012-06-08 2012-06-08 Wireless communication system, transmission output control method, information processing apparatus, and control method thereof

Country Status (1)

Country Link
JP (1) JP5529927B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6424515B2 (en) * 2014-08-26 2018-11-21 沖電気工業株式会社 Wireless communication system, transmission power control method and wireless communication apparatus
JP2019013053A (en) * 2018-10-25 2019-01-24 沖電気工業株式会社 Radio communication system, transmission power control method, and radio communication device

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3848068B2 (en) * 2000-09-12 2006-11-22 株式会社エヌ・ティ・ティ・ドコモ CDMA radio transmission apparatus, CDMA radio transmission / reception system, transmission power control method for CDMA radio transmission apparatus, and transmission power control method for radio transmission apparatus in CDMA radio transmission / reception system
JP4158376B2 (en) * 2001-12-07 2008-10-01 株式会社ニコン Electronic camera, image display apparatus, and image display method
JP2004096501A (en) * 2002-08-30 2004-03-25 Ntt Advanced Technology Corp System and method for detecting position of mobile object and program
JP4411151B2 (en) * 2004-06-30 2010-02-10 ソニー・エリクソン・モバイルコミュニケーションズ株式会社 Communication terminal device and communication system
JP4498105B2 (en) * 2004-11-19 2010-07-07 キヤノン株式会社 COMMUNICATION DEVICE AND ITS CONTROL METHOD
JP2006244329A (en) * 2005-03-07 2006-09-14 Hitachi Ltd Portable terminal, information processor, and system
JP4321509B2 (en) * 2005-10-17 2009-08-26 株式会社デンソー Mobile communication device

Also Published As

Publication number Publication date
JP2012191661A (en) 2012-10-04

Similar Documents

Publication Publication Date Title
US11651561B2 (en) Real-time shared augmented reality experience
US20170094264A1 (en) Computer-readable storage medium having stored therein display control program, display control apparatus, display control system, and display control method
JP4679661B1 (en) Information presenting apparatus, information presenting method, and program
KR102349716B1 (en) Method for sharing images and electronic device performing thereof
US8885027B2 (en) Stereoscopic display device and control method therefor
JP5843340B2 (en) 3D environment sharing system and 3D environment sharing method
CN114616535A (en) Porting physical objects into virtual reality
JP2015142383A (en) Range calibration of binocular optical augmented reality system
US20190060742A1 (en) Method for controlling display of electronic device using multiple controllers and device for the same
KR20160124479A (en) Master device, slave device and control method thereof
JP2015125641A (en) Information processing device, control method therefor, and program
EP3229482B1 (en) Master device, slave device, and control method therefor
EP3693925B1 (en) Information processing device, information processing method, and recording medium
US20190259198A1 (en) Systems and methods for generating visual representations of a virtual object for display by user devices
JP5529927B2 (en) Wireless communication system, transmission output control method, information processing apparatus, and control method thereof
JP2016122277A (en) Content providing server, content display terminal, content providing system, content providing method, and content display program
TWI526915B (en) Methods and systems for displaying graphic representations in a user interface, and related computer program products
JP5060173B2 (en) Wireless communication system, image presentation system, and transmission output control method
JP7405083B2 (en) Information processing device, information processing method, and program
WO2016027527A1 (en) Information processing device, information processing method, and program
US10306215B2 (en) Object display utilizing monoscopic view with controlled convergence
CN106802712A (en) Interactive augmented reality system
KR102420166B1 (en) Method and system for customzing network transmssion prameter
KR102262019B1 (en) Method and system for extended reality communication soliciting network speed
JP6164177B2 (en) Information processing apparatus, information processing system, control method thereof, and program

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130612

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130618

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140320

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140417

R151 Written notification of patent or utility model registration

Ref document number: 5529927

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees