JP6681278B2 - Position detection system and position detection method - Google Patents

Position detection system and position detection method Download PDF

Info

Publication number
JP6681278B2
JP6681278B2 JP2016110445A JP2016110445A JP6681278B2 JP 6681278 B2 JP6681278 B2 JP 6681278B2 JP 2016110445 A JP2016110445 A JP 2016110445A JP 2016110445 A JP2016110445 A JP 2016110445A JP 6681278 B2 JP6681278 B2 JP 6681278B2
Authority
JP
Japan
Prior art keywords
vector
captured image
position detection
detection system
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016110445A
Other languages
Japanese (ja)
Other versions
JP2017215265A (en
Inventor
田中 奈緒
奈緒 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2016110445A priority Critical patent/JP6681278B2/en
Priority to US15/608,031 priority patent/US10388027B2/en
Publication of JP2017215265A publication Critical patent/JP2017215265A/en
Application granted granted Critical
Publication of JP6681278B2 publication Critical patent/JP6681278B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)

Description

本発明は、位置検出システム及び位置検出方法に関する。   The present invention relates to a position detection system and a position detection method.

従来、カメラを使用して物体の位置を検出するシステムが知られている。例えば、特許文献1には、マーカー検出用カメラを使用して自発光型マーカーが発する赤外線を検出することにより、自発光型マーカーを備える位置姿勢被計測物体の位置を特定するシステムが開示されている。   Conventionally, there is known a system that detects the position of an object using a camera. For example, Patent Document 1 discloses a system for identifying the position of a position / orientation measured object including a self-luminous marker by detecting infrared rays emitted by the self-luminous marker using a marker detection camera. There is.

特開2007−71782号公報JP, 2007-71782, A

しかしながら、従来のシステムには、例えば利便性向上の観点から、改善の余地があった。   However, the conventional system has room for improvement, for example, from the viewpoint of improving convenience.

かかる事情に鑑みてなされた本発明の目的は、利便性を向上させた位置検出システム及び位置検出方法を提供することにある。   An object of the present invention made in view of such circumstances is to provide a position detection system and a position detection method with improved convenience.

本発明の一実施形態に係る位置検出システムは、対象物に係る第1撮像画像を取得する第1撮像部と、前記対象物に係る第2撮像画像を取得する第2撮像部と、前記第1撮像画像及び前記第2撮像画像に基づいて前記対象物の位置を算出し、複数の該対象物を識別する制御部とを備える。前記制御部は、前記複数の対象物のうちの少なくとも一つがロスト状態となり、少なくとも1つの前記対象物の識別ができなくなると、前記複数の対象物に対する再識別処理を実行する。   A position detection system according to an embodiment of the present invention includes a first imaging unit that acquires a first captured image of an object, a second imaging unit that acquires a second captured image of the object, and A control unit that calculates the position of the target object based on one captured image and the second captured image and identifies a plurality of target objects. When at least one of the plurality of objects is in a lost state and the at least one object cannot be identified, the control unit executes a re-identification process for the plurality of objects.

また、本発明の一実施形態に係る位置検出方法は、対象物に係る第1撮像画像を取得する第1撮像部と、前記対象物に係る第2撮像画像を取得する第2撮像部とを備える位置検出システムにおける位置検出方法である。前記位置検出方法は、前記第1撮像画像及び前記第2撮像画像に基づいて前記対象物の位置を算出し、複数の該対象物を識別するステップと、前記複数の対象物のうちの少なくとも一つがロスト状態となり、少なくとも1つの前記対象物の識別ができなくなると、前記複数の対象物に対する再識別処理を実行するステップと、を含む。   In addition, a position detection method according to an embodiment of the present invention includes a first imaging unit that acquires a first captured image of an object and a second imaging unit that acquires a second captured image of the object. It is a position detection method in a position detection system provided. The position detecting method calculates a position of the target object based on the first captured image and the second captured image to identify a plurality of target objects, and at least one of the plurality of target objects. When one of the objects is lost, and at least one of the objects cannot be identified, a re-identification process is performed on the plurality of objects.

本発明によれば、利便性を向上させた位置検出システム及び位置検出方法を提供できる。   According to the present invention, a position detection system and a position detection method with improved convenience can be provided.

本発明の一実施形態に係る位置検出システムの概略構成を示す機能ブロック図である。It is a functional block diagram showing a schematic structure of a position detection system concerning one embodiment of the present invention. 図1の位置検出システムによる位置検出原理について説明する概略図である。It is a schematic diagram explaining the position detection principle by the position detection system of FIG. 図1の位置検出システムを用いた情報表示システムの概略構成を示す機能ブロック図である。It is a functional block diagram which shows schematic structure of the information display system using the position detection system of FIG. 図3のヘッドマウントディスプレイの一例を示す外観斜視図である。FIG. 4 is an external perspective view showing an example of the head mounted display of FIG. 3. 図3の情報表示システムによる情報表示処理の一例を示すシーケンス図である。FIG. 4 is a sequence diagram showing an example of information display processing by the information display system of FIG. 3. 複数のヘッドマウントディスプレイを備え、図1の位置検出システムを用いた情報表示システムの概略構成を示す機能ブロック図である。FIG. 2 is a functional block diagram showing a schematic configuration of an information display system including a plurality of head mounted displays and using the position detection system of FIG. 1.

以下、本発明の一実施形態について、図面を参照して詳細に説明する。   Hereinafter, an embodiment of the present invention will be described in detail with reference to the drawings.

図1は、本発明の一実施形態に係る位置検出システム100の概略構成を示す機能ブロック図である。本実施形態に係る位置検出システム100は、複数の撮像装置と、各撮像装置と通信可能に構成される情報処理装置130とを備える。本実施形態では、図1に示すように、位置検出システム100は、複数の撮像装置として、第1撮像装置110と、第2撮像装置120という、2つの撮像装置を備える。位置検出システム100は、3つ以上の撮像装置を備えていてもよい。   FIG. 1 is a functional block diagram showing a schematic configuration of a position detection system 100 according to an embodiment of the present invention. The position detection system 100 according to the present embodiment includes a plurality of image pickup devices and an information processing device 130 configured to communicate with each image pickup device. In the present embodiment, as shown in FIG. 1, the position detection system 100 includes two imaging devices, a first imaging device 110 and a second imaging device 120, as a plurality of imaging devices. The position detection system 100 may include three or more imaging devices.

図2は、図1の位置検出システム100による位置検出原理について説明する概略図である。本実施形態に係る位置検出システム100では、第1撮像装置110及び第2撮像装置120が、位置検出の対象である対象物Pを撮像し、情報処理装置130が、第1撮像装置110及び第2撮像装置120が取得した撮像画像に基づいて、対象物Pの位置を算出する。第1撮像装置110及び第2撮像装置120は、図2に一例として示すように、それぞれ異なる方向から対象物Pを撮像する。本実施形態において、対象物Pは、例えば700〜1500nm程度の近赤外線を発する赤外線LED(発光ダイオード:Light Emitting Diode)であるとして説明する。   FIG. 2 is a schematic diagram illustrating the principle of position detection by the position detection system 100 of FIG. In the position detection system 100 according to the present embodiment, the first image capturing device 110 and the second image capturing device 120 capture an image of the target object P that is the target of position detection, and the information processing device 130 causes the first image capturing device 110 2 The position of the object P is calculated based on the captured image acquired by the imaging device 120. The first imaging device 110 and the second imaging device 120 respectively image the target P from different directions, as shown in FIG. 2 as an example. In the present embodiment, the target P will be described as an infrared LED (Light Emitting Diode) that emits near-infrared rays of about 700 to 1500 nm, for example.

再び図1を参照すると、第1撮像装置110は、制御部111と、記憶部112と、通信部113と、第1撮像部114とを備える。第1撮像装置110は、対象物Pを撮像し、撮像画像を情報処理装置130に送信する。   Referring back to FIG. 1, the first imaging device 110 includes a control unit 111, a storage unit 112, a communication unit 113, and a first imaging unit 114. The first imaging device 110 images the target object P and transmits the captured image to the information processing device 130.

制御部111は、第1撮像装置110が備える各機能ブロックをはじめとして、第1撮像装置110の全体を制御及び管理するプロセッサである。制御部111は、制御手順を規定したプログラムを実行するCPU(Central Processing Unit)等のプロセッサで構成される。プロセッサにより実行されるプログラムは、例えば記憶部112又は外部の記憶媒体等に格納される。制御部111は、例えば第1撮像部114による撮像処理の制御を行う。   The control unit 111 is a processor that controls and manages the entire first imaging device 110, including the functional blocks included in the first imaging device 110. The control unit 111 includes a processor such as a CPU (Central Processing Unit) that executes a program that defines a control procedure. The program executed by the processor is stored in, for example, the storage unit 112 or an external storage medium. The control unit 111 controls the imaging process performed by the first imaging unit 114, for example.

記憶部112は、多様なメモリデバイスを有し、用途に応じてそれぞれ各種情報、例えば制御部111の動作に必要なデータ等を記憶する。また、記憶部112は、ワークメモリとして機能するRAM(Random Access Memory)等のデバイスも有する。記憶部112は、例えば第1撮像部114が撮像して取得した撮像画像(以下「第1撮像画像」ともいう)を記憶してもよい。   The storage unit 112 has various memory devices, and stores various kinds of information, such as data necessary for the operation of the control unit 111, depending on the application. The storage unit 112 also has a device such as a RAM (Random Access Memory) that functions as a work memory. The storage unit 112 may store, for example, a captured image captured by the first image capturing unit 114 (hereinafter, also referred to as “first captured image”).

通信部113は、情報処理装置130と有線通信又は無線通信を行うことにより、各種情報の送受信を行う。例えば、第1撮像装置110は、通信部113を介して、第1撮像画像を情報処理装置130に送信する。   The communication unit 113 performs various kinds of information transmission / reception by performing wired communication or wireless communication with the information processing device 130. For example, the first imaging device 110 transmits the first captured image to the information processing device 130 via the communication unit 113.

第1撮像部114は、対象物Pを撮像する。第1撮像部114は、光を電気信号に変換することにより素子上に投影された画像を撮像する撮像素子(イメージセンサ)を備える。本実施形態では、第1撮像部114は、対象物Pが発する近赤外光を検出する赤外線カメラである。   The first imaging unit 114 images the object P. The first image capturing unit 114 includes an image sensor (image sensor) that captures an image projected on the element by converting light into an electric signal. In the present embodiment, the first imaging unit 114 is an infrared camera that detects near infrared light emitted by the object P.

第2撮像装置120は、制御部121と、記憶部122と、通信部123と、第2撮像部124とを備える。制御部121、記憶部122、通信部123及び第2撮像部124の各機能は、それぞれ第1撮像装置110の制御部111、記憶部112、通信部113及び第1撮像部114と同様であるため、ここではその詳細な説明を省略する。なお、本明細書において、第2撮像部124が撮像して取得した撮像画像を、以下「第2撮像画像」ともいう。   The second imaging device 120 includes a control unit 121, a storage unit 122, a communication unit 123, and a second imaging unit 124. The respective functions of the control unit 121, the storage unit 122, the communication unit 123, and the second imaging unit 124 are the same as those of the control unit 111, the storage unit 112, the communication unit 113, and the first imaging unit 114 of the first imaging device 110, respectively. Therefore, detailed description thereof is omitted here. In the present specification, the captured image captured by the second image capturing unit 124 is also referred to as “second captured image” below.

情報処理装置130は、制御部131と、記憶部132と、通信部133とを備える。情報処理装置130は、第1撮像装置110及び第2撮像装置120が取得した撮像画像に基づいて、対象物Pの位置を算出する。   The information processing device 130 includes a control unit 131, a storage unit 132, and a communication unit 133. The information processing device 130 calculates the position of the object P based on the captured images acquired by the first imaging device 110 and the second imaging device 120.

制御部131は、情報処理装置130が備える各機能ブロックをはじめとして、情報処理装置130の全体を制御及び管理するプロセッサである。制御部131は、制御手順を規定したプログラムを実行するCPU等のプロセッサで構成される。プロセッサにより実行されるプログラムは、例えば記憶部132又は外部の記憶媒体等に格納される。制御部131は、第1撮像装置110が取得した第1撮像画像と、第2撮像装置120が取得した第2撮像画像とに基づいて、検出対象の位置を算出する。制御部131による検出対象の位置の算出処理の詳細については、後述する。   The control unit 131 is a processor that controls and manages the entire information processing apparatus 130 including each functional block included in the information processing apparatus 130. The control unit 131 includes a processor such as a CPU that executes a program that defines a control procedure. The program executed by the processor is stored in, for example, the storage unit 132 or an external storage medium. The control unit 131 calculates the position of the detection target based on the first captured image acquired by the first imaging device 110 and the second captured image acquired by the second imaging device 120. Details of the process of calculating the position of the detection target by the control unit 131 will be described later.

記憶部132は、多様なメモリデバイスを有し、用途に応じてそれぞれ各種情報、例えば制御部131の動作に必要なデータ等を記憶する。また、記憶部132は、ワークメモリとして機能するRAM等のデバイスも有する。記憶部132は、例えば第1撮像装置110及び第2撮像装置120からそれぞれ取得した第1撮像画像及び第2撮像画像を記憶してもよい。また、記憶部132は、例えば算出した対象物の位置の履歴を記憶してもよい。情報処理装置130は、対象物の位置の履歴に基づき、対象物の変位(軌跡)を算出できる。   The storage unit 132 has various memory devices, and stores various kinds of information, such as data necessary for the operation of the control unit 131, depending on the application. The storage unit 132 also has a device such as a RAM that functions as a work memory. The storage unit 132 may store, for example, the first captured image and the second captured image acquired from the first imaging device 110 and the second imaging device 120, respectively. Further, the storage unit 132 may store, for example, a history of the calculated position of the object. The information processing apparatus 130 can calculate the displacement (trajectory) of the target object based on the history of the position of the target object.

通信部133は、第1撮像装置110及び第2撮像装置120と有線通信又は無線通信を行うことにより、各種情報の送受信を行う。例えば、情報処理装置130は、通信部133を介して、第1撮像画像及び第2撮像画像を、それぞれ第1撮像装置110及び第2撮像装置120から取得する。   The communication unit 133 transmits and receives various types of information by performing wired communication or wireless communication with the first imaging device 110 and the second imaging device 120. For example, the information processing apparatus 130 acquires the first captured image and the second captured image from the first image capturing apparatus 110 and the second image capturing apparatus 120, respectively, via the communication unit 133.

次に、図2を参照しながら、情報処理装置130による検出対象の位置の算出処理の詳細について説明する。   Next, the details of the process of calculating the position of the detection target by the information processing device 130 will be described with reference to FIG.

図2には、第1撮像装置110の撮像範囲A及び第2撮像装置120の撮像範囲Bが、それぞれ仮想的に示されている。すなわち、図2において、撮像範囲Aは、第1撮像装置110が取得した第1撮像画像を仮想的に示し、撮像範囲Bは、第2撮像装置120が取得した第2撮像画像を仮想的に示す。第1撮像画像及び第2撮像画像には、それぞれ画像平面上の所定の位置に、対象物Pが映っている。第1撮像画像及び第2撮像画像において、対象物Pが映っている位置の座標は、例えば、それぞれ第1撮像部114及び第2撮像部124の注視点を基準にして定められる。   In FIG. 2, the imaging range A of the first imaging device 110 and the imaging range B of the second imaging device 120 are virtually shown. That is, in FIG. 2, the imaging range A virtually represents the first captured image acquired by the first imaging device 110, and the imaging range B virtually represents the second captured image acquired by the second imaging device 120. Show. In the first captured image and the second captured image, the object P is reflected at predetermined positions on the image plane. In the first captured image and the second captured image, the coordinates of the position where the object P is reflected are determined, for example, with reference to the gazing points of the first imaging unit 114 and the second imaging unit 124, respectively.

本実施形態において、第1撮像装置110及び第2撮像装置120の位置ベクトルを、それぞれベクトルc及びベクトルcで示す。また、第1撮像装置110から対象物Pに向かう方向ベクトルをベクトルaで、第2撮像装置120から対象物Pに向かう方向ベクトルをベクトルbで示す。方向ベクトルaは、例えば第1撮像部114が備える撮像素子の位置から第1撮像画像の画像平面上における検出対象Pに向かう方向ベクトルとして定義される。また、同様に、方向ベクトルbは、例えば第2撮像部124が備える撮像素子の位置から第2撮像画像の画像平面上における対象物Pに向かう方向ベクトルとして定義される。方向ベクトルa及び方向ベクトルbは、例えば、情報処理装置130の制御部131が、それぞれ第1撮像画像及び第2撮像画像に基づいて算出する。なお、図2では、方向ベクトルa及び方向ベクトルbの長さは、例示的なものとして示している。また、対象物Pの位置ベクトルをベクトルpで表す。 In the present embodiment, the position vectors of the first imaging device 110 and the second imaging device 120 are indicated by vector c 1 and vector c 2 , respectively. Further, a direction vector from the first imaging device 110 to the object P is shown as a vector a, and a direction vector from the second imaging device 120 to the object P is shown as a vector b. The direction vector a is defined as, for example, a direction vector from the position of the image sensor included in the first imaging unit 114 toward the detection target P on the image plane of the first captured image. Similarly, the direction vector b is defined as a direction vector from the position of the image sensor included in the second image capturing unit 124 toward the object P on the image plane of the second captured image. The direction vector a and the direction vector b are calculated, for example, by the control unit 131 of the information processing device 130 based on the first captured image and the second captured image, respectively. In addition, in FIG. 2, the lengths of the direction vector a and the direction vector b are shown as an example. Further, the position vector of the object P is represented by the vector p.

対象物Pの位置ベクトルpは、位置ベクトルc及び方向ベクトルaを用いて、下式(1)のように表される。情報処理装置130の制御部131は、位置ベクトルpを、下式(1)のように設定する。 The position vector p of the object P is represented by the following expression (1) using the position vector c 1 and the direction vector a. The control unit 131 of the information processing device 130 sets the position vector p as in the following expression (1).

Figure 0006681278
Figure 0006681278

式(1)において、nは、実数であり、例えば第1撮像部114のセンサ位置から検出対象Pまでの距離に応じて定まる。nが算出(決定)されることにより、位置ベクトルpが定まり、対象物Pの位置が定まる。   In Expression (1), n is a real number, and is determined according to the distance from the sensor position of the first imaging unit 114 to the detection target P, for example. By calculating (determining) n, the position vector p is determined and the position of the object P is determined.

ここで、第2撮像装置120から対象物Pに向かう方向ベクトル(ここではベクトルdとする)は、第2撮像装置120の位置ベクトルcを用いて、下式(2)のように表すことができる。制御部131は、方向ベクトルdを算出する。 Here, the direction vector (here, vector d) from the second image pickup device 120 toward the object P is expressed by the following equation (2) using the position vector c 2 of the second image pickup device 120. You can The control unit 131 calculates the direction vector d.

Figure 0006681278
Figure 0006681278

上式(2)に示す方向ベクトルdは、第2撮像装置120から対象物Pに向かう方向ベクトルとして定義したため、方向ベクトルbと方向が等しい。従って、方向ベクトルdと方向ベクトルbとのなす角が0°であるため、方向ベクトルdと方向ベクトルbとの外積の大きさは0となる。これを式で表現すると、下式(3)のように表現される。   Since the direction vector d shown in the above equation (2) is defined as the direction vector from the second imaging device 120 to the target P, the direction is equal to the direction vector b. Therefore, since the angle formed by the direction vector d and the direction vector b is 0 °, the magnitude of the outer product of the direction vector d and the direction vector b is 0. When this is expressed by an expression, it is expressed as the following expression (3).

Figure 0006681278
Figure 0006681278

上式(3)を、nについて解くと、下式(4)が導出される。   By solving the above equation (3) for n, the following equation (4) is derived.

Figure 0006681278
Figure 0006681278

上式(4)を、上式(1)に代入すると、位置ベクトルpは、下式(5)のように表される。   By substituting the above equation (4) into the above equation (1), the position vector p is expressed by the following equation (5).

Figure 0006681278
Figure 0006681278

上式(5)において、位置ベクトルc及び位置ベクトルcは、それぞれ第1撮像装置110及び第2撮像装置120を設置した位置により定まる。また、方向ベクトルa及び方向ベクトルbは、それぞれ第1撮像装置110及び第2撮像装置120が取得した第1撮像画像及び第2撮像画像から、情報処理装置130が算出することができる。従って、情報処理装置130は、上式(5)を用いて、対象物Pの位置ベクトルpを算出できる。制御部131は、式(3)から式(5)に示すように、方向ベクトルdと方向ベクトルbとに基づいて、対象物Pの位置を算出する。とくに、制御部131は、方向ベクトルdと方向ベクトルbとの外積の値に基づいて、外積の値が0であると仮定して、対象物Pの位置を算出する。このようにして、位置検出システム100によれば、対象物Pの位置を特定可能である。 In the above equation (5), the position vector c 1 and the position vector c 2 are determined by the positions where the first imaging device 110 and the second imaging device 120 are installed, respectively. Further, the direction vector a and the direction vector b can be calculated by the information processing apparatus 130 from the first captured image and the second captured image acquired by the first imaging device 110 and the second imaging device 120, respectively. Therefore, the information processing apparatus 130 can calculate the position vector p of the object P using the above equation (5). The control unit 131 calculates the position of the object P based on the direction vector d and the direction vector b as shown in Expressions (3) to (5). In particular, the control unit 131 calculates the position of the object P based on the value of the outer product of the direction vector d and the direction vector b, assuming that the value of the outer product is 0. In this way, the position detection system 100 can specify the position of the object P.

また、本実施形態に係る位置検出システム100によれば、第1撮像装置110及び第2撮像装置120が、それぞれ異なる方向から、対象物Pを撮像する。そのため、例えばステレオカメラ等のように、2つのカメラを使用して1つの方向から撮像した画像に基づいて、視差を利用して距離を算出するシステムと比較して、本実施形態に係る位置検出システム100は、位置検出の精度が向上する。   Further, according to the position detection system 100 according to the present embodiment, the first imaging device 110 and the second imaging device 120 image the object P from different directions. Therefore, the position detection according to the present embodiment is compared with a system such as a stereo camera that calculates a distance using parallax based on an image captured from one direction using two cameras. The system 100 improves the accuracy of position detection.

位置検出システム100は、第1撮像装置110及び第2撮像装置120による、各撮像フレームごと、又は所定の数フレームごとに、対象物Pの位置を特定してもよい。   The position detection system 100 may specify the position of the target object P for each imaging frame by the first imaging device 110 and the second imaging device 120, or for each predetermined number of frames.

次に、上述の位置検出システム100の応用例について説明する。本明細書では、位置検出システム100を、ユーザの頭部に装着される表示装置であるヘッドマウントディスプレイ(HMD:Head Mounted Display)の位置の特定に応用する場合の一例について説明する。位置検出システム100を応用した情報表示システムでは、上述の位置検出システム100によりHMDの位置を特定し、特定した位置に応じた情報をHMDが備える表示部に表示する。   Next, an application example of the position detection system 100 described above will be described. In this specification, an example in which the position detection system 100 is applied to specify the position of a head mounted display (HMD) which is a display device mounted on the head of a user will be described. In the information display system to which the position detection system 100 is applied, the position of the HMD is specified by the position detection system 100 described above, and information according to the specified position is displayed on the display unit included in the HMD.

図3は、位置検出システム100を応用した情報表示システム200の概略構成を示す機能ブロック図である。図3に示すように、情報表示システム200は、位置検出システム100が含む第1撮像装置110、第2撮像装置120及び情報処理装置130に加え、HMD140を備える。情報処理装置130と、HMD140とは、有線又は無線を介して通信可能に構成される。   FIG. 3 is a functional block diagram showing a schematic configuration of an information display system 200 to which the position detection system 100 is applied. As shown in FIG. 3, the information display system 200 includes an HMD 140 in addition to the first imaging device 110, the second imaging device 120, and the information processing device 130 included in the position detection system 100. The information processing device 130 and the HMD 140 are configured to be communicable via a wire or wirelessly.

図4は、HMD140の一例を示す外観斜視図である。HMD140は、ユーザが頭部に装着可能な略半球形状の装着部141と、ユーザがHMD140を装着した際にユーザに対して情報を表示する表示部142と、光源143とを備える。本実施形態では、HMD140は、図4に示すように、2つの光源143a及び143bを備えるとして説明する。なお、2つの光源143a及び143bを区別しない場合には、まとめて光源143と記載する。   FIG. 4 is an external perspective view showing an example of the HMD 140. The HMD 140 includes a substantially hemispherical mounting unit 141 that the user can wear on the head, a display unit 142 that displays information to the user when the user wears the HMD 140, and a light source 143. In the present embodiment, the HMD 140 will be described as including two light sources 143a and 143b, as shown in FIG. When the two light sources 143a and 143b are not distinguished, they are collectively referred to as the light source 143.

再び図3を参照すると、HMD140は、表示部142と、光源143と、制御部144と、記憶部145と、通信部146と、角速度検出部147とを備える。   Referring again to FIG. 3, the HMD 140 includes a display unit 142, a light source 143, a control unit 144, a storage unit 145, a communication unit 146, and an angular velocity detection unit 147.

表示部142は、HMD140を装着したユーザに情報を表示する。表示部142は、例えば情報を表示する液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)等のディスプレイと、ディスプレイを保持するハウジングとを有する。図4には、ユーザの視線を外界から遮断するハウジングを有する、いわゆる没入型の表示部142が示されているが、表示部142は、没入型に限られない。表示部142は、例えば、ユーザが表示部142を介して外界を視認可能ないわゆる透過型(シースルー型)であってもよい。   The display unit 142 displays information to the user who wears the HMD 140. The display unit 142 has a display such as a liquid crystal display (LCD: Liquid Crystal Display) or an organic EL display (OELD: Organic Electroluminescence Display) for displaying information, and a housing that holds the display. FIG. 4 shows a so-called immersive display unit 142 that has a housing that shields the user's line of sight from the outside, but the display unit 142 is not limited to the immersive display unit. The display unit 142 may be, for example, a so-called transmissive type (see-through type) that allows the user to visually recognize the outside world via the display unit 142.

光源143は、第1撮像装置110及び第2撮像装置120により検出される光を発するものであり、図2で説明した対象物Pに相当するものである。光源143は、例えば図2で説明したものと同様に、近赤外光を発する赤外線LEDである。本実施形態では、2つの光源143a及び143bは、図4に一例として示すように、ユーザがHMD140を装着した際に、前後方向に配列されるように、装着部141に設けられる。   The light source 143 emits light detected by the first imaging device 110 and the second imaging device 120, and corresponds to the object P described in FIG. The light source 143 is an infrared LED that emits near-infrared light, similar to that described in FIG. 2, for example. In the present embodiment, the two light sources 143a and 143b are provided in the mounting portion 141 so as to be arranged in the front-rear direction when the user wears the HMD 140, as shown as an example in FIG.

制御部144は、HMD140が備える各機能ブロックをはじめとして、HMD140の全体を制御及び管理するプロセッサである。制御部144は、制御手順を規定したプログラムを実行するCPU等のプロセッサで構成される。プロセッサにより実行されるプログラムは、例えば記憶部145又は外部の記憶媒体等に格納される。制御部144は、例えば、ユーザの位置及びユーザの頭部の向き等に基づいて、表示部142に多様な情報を表示する。具体的には、制御部144は、例えばユーザの位置及び頭部の向きに追従した仮想空間を表示部142に表示させる。なお、ユーザの位置は、情報処理装置130によって特定される、ユーザが装着したHMD140の位置により定められる。また、ユーザの頭部の向きは、例えば、頭部の3軸方向における向き又は向きの変化等を含む。   The control unit 144 is a processor that controls and manages the entire HMD 140 including each functional block included in the HMD 140. The control unit 144 is composed of a processor such as a CPU that executes a program that defines a control procedure. The program executed by the processor is stored in, for example, the storage unit 145 or an external storage medium. The control unit 144 displays various information on the display unit 142 based on, for example, the position of the user and the orientation of the user's head. Specifically, the control unit 144 causes the display unit 142 to display a virtual space that follows the position of the user and the orientation of the head. The position of the user is determined by the position of the HMD 140 worn by the user, which is specified by the information processing device 130. The orientation of the user's head includes, for example, the orientation of the head in the three axial directions or the change in orientation.

記憶部145は、多様なメモリデバイスを有し、用途に応じてそれぞれ各種情報、例えば制御部144の動作に必要なデータ等を記憶する。また、記憶部145は、ワークメモリとして機能するRAM等のデバイスも有する。また、記憶部145は、例えば表示部142に表示する仮想空間に関する各種データを記憶する。   The storage unit 145 has various memory devices, and stores various kinds of information, such as data necessary for the operation of the control unit 144, depending on the application. The storage unit 145 also has a device such as a RAM that functions as a work memory. Further, the storage unit 145 stores, for example, various data regarding the virtual space displayed on the display unit 142.

通信部146は、情報処理装置130と有線通信又は無線通信を行うことにより、各種情報の送受信を行う通信インターフェースを有する。例えば、HMD140は、通信部146を介して、情報処理装置130から、第1撮像画像及び第2撮像画像に基づいて情報処理装置130が特定したHMD140の位置に関する情報を取得する。   The communication unit 146 has a communication interface that transmits and receives various types of information by performing wired communication or wireless communication with the information processing device 130. For example, the HMD 140 acquires information regarding the position of the HMD 140 specified by the information processing apparatus 130 based on the first captured image and the second captured image from the information processing apparatus 130 via the communication unit 146.

角速度検出部147は、例えばHMD140の角速度の変化を検出するセンサである。角速度検出部147は、例えばジャイロセンサにより構成される。なお、角速度検出部147は、ジャイロセンサに限られない。角速度検出部147は、HMD140の角度変化を検出できればよい。従って、角速度検出部147は、例えば、加速度センサ、角度センサ、その他のモーションセンサ、又はこれらのセンサの組合せ等によって構成されていてもよい。角速度検出部147が検出した角速度の変化に関する情報は、制御部144に送信される。制御部144は、角速度検出部147から取得した角速度の変化に関する情報に基づき、ユーザの頭部の向きを推定できる。   The angular velocity detection unit 147 is a sensor that detects a change in the angular velocity of the HMD 140, for example. The angular velocity detector 147 is composed of, for example, a gyro sensor. The angular velocity detection unit 147 is not limited to the gyro sensor. The angular velocity detection unit 147 only needs to be able to detect the angle change of the HMD 140. Therefore, the angular velocity detector 147 may be configured by, for example, an acceleration sensor, an angle sensor, another motion sensor, or a combination of these sensors. Information regarding the change in the angular velocity detected by the angular velocity detection unit 147 is transmitted to the control unit 144. The control unit 144 can estimate the orientation of the user's head based on the information regarding the change in angular velocity acquired from the angular velocity detection unit 147.

次に、情報表示システム200における仮想空間の表示処理について、図5を参照して説明する。   Next, a virtual space display process in the information display system 200 will be described with reference to FIG.

まず、第1撮像装置110が、光源143の画像を撮像することにより、第1撮像画像を取得する(ステップS201)。   First, the first imaging device 110 acquires the first captured image by capturing an image of the light source 143 (step S201).

第1撮像装置110は、取得した第1撮像画像を情報処理装置130に送信する(ステップS202)。   The first imaging device 110 transmits the acquired first captured image to the information processing device 130 (step S202).

また、第2撮像装置120が、光源143の画像を撮像することにより、第2撮像画像を取得する(ステップS203)。   In addition, the second imaging device 120 acquires the second captured image by capturing the image of the light source 143 (step S203).

第2撮像装置120は、取得した第2撮像画像を情報処理装置130に送信する(ステップS204)。   The second imaging device 120 transmits the acquired second captured image to the information processing device 130 (step S204).

なお、第1撮像装置110によるステップS201及びS202の処理と、第2撮像装置120によるステップS203及びS204の処理とは、同時に実行されてもよい。   The processes of steps S201 and S202 by the first imaging device 110 and the processes of steps S203 and S204 by the second imaging device 120 may be executed at the same time.

情報処理装置130は、第1撮像装置110及び第2撮像装置120から、それぞれ第1撮像画像及び第2撮像画像を取得すると、取得した撮像画像に基づいて、HMD140の位置を特定する(ステップS205)。具体的には、情報処理装置130は、例えば予め記憶部132に記憶された第1撮像装置110の位置及び第2撮像装置120の位置と、取得した撮像画像とを用いて、式(5)により、光源143の位置を算出することにより、HMD140の位置を特定する。   When the information processing apparatus 130 acquires the first captured image and the second captured image from the first image capturing apparatus 110 and the second image capturing apparatus 120, respectively, the information processing apparatus 130 identifies the position of the HMD 140 based on the captured image acquired (step S205). ). Specifically, the information processing device 130 uses Expression (5) using, for example, the position of the first imaging device 110 and the position of the second imaging device 120, which are stored in advance in the storage unit 132, and the acquired captured image. Thus, the position of the HMD 140 is specified by calculating the position of the light source 143.

情報処理装置130は、特定したHMD140の位置に関する情報をHMD140に送信する(ステップS206)。   The information processing device 130 transmits information on the specified position of the HMD 140 to the HMD 140 (step S206).

HMD140は、角速度検出部147を用いて、HMD140の角速度の変化に関する情報を取得する(ステップS207)。   The HMD 140 uses the angular velocity detection unit 147 to acquire information regarding changes in the angular velocity of the HMD 140 (step S207).

そして、HMD140は、角速度検出部147が取得した角速度の変化に関する情報に基づいて、ユーザの頭部の向きを推定する(ステップS208)。   Then, the HMD 140 estimates the orientation of the user's head based on the information regarding the change in the angular velocity acquired by the angular velocity detection unit 147 (step S208).

HMD140は、ステップS206で情報処理装置130から取得した位置に関する情報と、ステップS208で推定した頭部の向きに基づいて、表示部142に仮想空間を表示する(ステップS209)。   The HMD 140 displays the virtual space on the display unit 142 based on the information regarding the position acquired from the information processing device 130 in step S206 and the head orientation estimated in step S208 (step S209).

このようにして、情報表示システム200は、HMD140の位置とユーザの頭部の向きとに基づいて、表示部142に仮想空間を表示する。情報表示システム200では、上述の位置検出システム100を応用して、HMD140の位置を特定しているため、HMD140の位置を正確に特定しやすくなる。   In this way, the information display system 200 displays the virtual space on the display unit 142 based on the position of the HMD 140 and the orientation of the user's head. In the information display system 200, the position of the HMD 140 is specified by applying the position detection system 100 described above, so that the position of the HMD 140 can be easily specified accurately.

続いて、図6を参照して、位置検出システム100を、複数のHMD140の位置の特定に応用する場合の一例について説明する。   Next, with reference to FIG. 6, an example in which the position detection system 100 is applied to specify the positions of a plurality of HMDs 140 will be described.

図6は、位置検出システム100を応用した情報表示システム300の概略構成を示す機能ブロック図である。図6に示すように、情報表示システム300は、位置検出システム100が含む第1撮像装置110、第2撮像装置120及び情報処理装置130に加え、複数のHMD140−1〜140−Nを備える。情報処理装置130と、HMD140−1〜140−Nとは、それぞれ、有線又は無線を介して通信可能に構成される。なお、HMD140−1〜140−Nの内部構成は、図3に示したHMD140の内部構成と同様であるため、図6においては記載を省略する。また、以後の説明において、HMD140−1〜140−Nを特に区別しない場合には、単にHMD140と記載する。   FIG. 6 is a functional block diagram showing a schematic configuration of an information display system 300 to which the position detection system 100 is applied. As shown in FIG. 6, the information display system 300 includes a plurality of HMDs 140-1 to 140-N in addition to the first imaging device 110, the second imaging device 120, and the information processing device 130 included in the position detection system 100. The information processing device 130 and the HMDs 140-1 to 140-N are configured to be communicable with each other by wire or wirelessly. Since the internal configuration of the HMDs 140-1 to 140-N is the same as the internal configuration of the HMD 140 shown in FIG. 3, the description thereof is omitted in FIG. Further, in the following description, the HMDs 140-1 to 140-N will be simply referred to as the HMD 140 unless otherwise distinguished.

制御部131は、図5のステップS201〜S205に示した処理によりHMD140の位置を特定することができる。図6に示すように複数のHMD140−1〜140−Nの位置を特定する場合、制御部131は、N個のHMD140のそれぞれについて、どの光源143の位置がどのHMD140の位置であるかを対応付けて特定している。以後、制御部131が、複数の光源143について、どの光源143がどのHMD140に対応しているかを特定することを、制御部131が複数の光源143を「識別」する、ともいう。   The control unit 131 can specify the position of the HMD 140 by the processing shown in steps S201 to S205 of FIG. When the positions of the plurality of HMDs 140-1 to 140-N are specified as illustrated in FIG. 6, the control unit 131 determines which of the light sources 143 is the position of which HMD 140 for each of the N HMDs 140. I have specified it. Hereinafter, that the control unit 131 specifies which light source 143 corresponds to which HMD 140 among the plurality of light sources 143 is also referred to as the control unit 131 "identifies" the plurality of light sources 143.

制御部131は、例えば、HMD140を使用する施設の営業開始時などに、光源143の識別処理を実行する。制御部131は、例えば、HMD140−1〜140−Nの光源143を順次点灯させる。そして、制御部131は、HMD140−1の光源143を点灯させたときに新たに検出した光源143の位置を、HMD140−1の位置として対応付け、同様にして、HMD140−2〜HMD140−Nについても、どの光源143が、HMD140−2〜HMD140−Nの位置に対応するかの対応付けを行う。   The control unit 131 executes the identification process of the light source 143, for example, when the business of the facility using the HMD 140 is started. The control unit 131 sequentially turns on the light sources 143 of the HMDs 140-1 to 140-N, for example. Then, the control unit 131 associates the position of the light source 143 newly detected when the light source 143 of the HMD 140-1 is turned on as the position of the HMD 140-1, and similarly, for the HMD 140-2 to HMD 140-N. Also, which light source 143 corresponds to the position of HMD140-2 to HMD140-N is matched.

制御部131は、一旦識別処理を実行すると、その後のHMD140の位置(光源143の位置)の履歴を記憶部132に記憶させることにより、どの光源143がどのHMD140に対応するかを追跡し続けることができる。   Once the identification processing is executed, the control unit 131 causes the storage unit 132 to store the history of the position of the HMD 140 (the position of the light source 143) after that, and keeps track of which light source 143 corresponds to which HMD 140. You can

ところで、特定の状況下では、情報処理装置130が、HMD140の光源143の位置を一時的に特定できない状態となる場合がある。例えば、ある光源143が障害物によって隠れることにより、第1撮像装置110又は第2撮像装置120の撮像画像に映らなくなる場合がある。このように光源143が撮像画像に映らない状態を、以下、本明細書では「マスク状態」という。マスク状態では、制御部131は、方向ベクトルa又は方向ベクトルbを算出することができなくなり、上述の式(5)によって光源143の位置を特定できなくなる。   By the way, under a specific situation, the information processing apparatus 130 may be in a state where the position of the light source 143 of the HMD 140 cannot be temporarily specified. For example, when a certain light source 143 is hidden by an obstacle, it may not be reflected in the captured image of the first imaging device 110 or the second imaging device 120. The state in which the light source 143 is not reflected in the captured image in this manner is hereinafter referred to as a “mask state”. In the masked state, the control unit 131 cannot calculate the direction vector a or the direction vector b, and cannot specify the position of the light source 143 by the above equation (5).

また、例えば、2つ以上のHMD140の光源143が第1撮像装置110又は第2撮像装置120の注視方向に対して直列に並ぶことにより、撮像画像において複数の光源143が重なる場合がある。このように、撮像画像において複数の光源143が重なる状態を、以下、本明細書では「カスケード状態」という。カスケード状態では、制御部131は、撮像画像における複数の光源143が重なった状態が解消された場合に、当該複数の光源143の位置を取り違えることにより、複数の光源143の位置を誤って決定する可能性がある。   Further, for example, the light sources 143 of two or more HMDs 140 may be arranged in series in the gaze direction of the first imaging device 110 or the second imaging device 120, so that the plurality of light sources 143 may overlap in the captured image. The state in which the plurality of light sources 143 overlap in the captured image in this manner is hereinafter referred to as a “cascade state” in the present specification. In the cascade state, the control unit 131 erroneously determines the positions of the light sources 143 by mistaking the positions of the light sources 143 when the overlapping state of the light sources 143 in the captured image is resolved. there is a possibility.

以下、本明細書では、マスク状態とカスケード状態とを合わせて、「ロスト状態」という。   Hereinafter, in this specification, the mask state and the cascade state are collectively referred to as a “lost state”.

光源143がマスク状態となった場合、第1撮像画像及び第2撮像画像の少なくともいずれかにおいて、光源143の個数が減少する。また、光源143がカスケード状態となった場合も、第1撮像画像及び第2撮像画像の少なくともいずれかにおいて複数の光源143が重なるため、撮像画像に映る光源143の個数が減少する。このように、第1撮像画像及び第2撮像画像の少なくともいずれかにおいて、光源143の個数が減少した場合、情報処理装置130の制御部131は、光源143がロスト状態になったと決定する。   When the light source 143 is in the masked state, the number of light sources 143 is reduced in at least one of the first captured image and the second captured image. Further, even when the light sources 143 are in the cascade state, the plurality of light sources 143 overlap in at least one of the first captured image and the second captured image, so that the number of light sources 143 shown in the captured image is reduced. As described above, when the number of the light sources 143 decreases in at least one of the first captured image and the second captured image, the control unit 131 of the information processing device 130 determines that the light sources 143 have become the lost state.

制御部131は、HMD140−1〜140−Nのうちのいくつかの光源143についてロスト状態が続くと、その後、光源143がロスト状態から回復しても、いくつかの光源143について、光源143とHMD140との対応付けができなくなる場合がある。すなわち、ロスト状態に起因して、制御部131が光源143の識別をできなくなる場合がある。例えば、2つの光源143がロスト状態となり、十分長い時間が経過してからロスト状態から復帰した場合、ロスト状態となった2つの光源143の位置の履歴をロスト状態となる直前まで追跡していたとしても、制御部131は、復帰した光源143がどのHMD140に対応するか判定できなくなる。   When the light source 143 of some of the HMDs 140-1 to 140-N continues to be in the lost state, the control unit 131 determines that the light source 143 of some of the light sources 143 is the light source 143 even after the light source 143 recovers from the lost state. It may not be possible to associate with the HMD 140. That is, the control unit 131 may not be able to identify the light source 143 due to the lost state. For example, when the two light sources 143 are in the lost state, and after returning from the lost state after a sufficiently long time has passed, the history of the positions of the two light sources 143 in the lost state is tracked until immediately before the lost state. However, the control unit 131 cannot determine which HMD 140 the restored light source 143 corresponds to.

このように、ロスト状態に起因して、制御部131が、少なくとも1つの光源143の識別ができなくなると、制御部131は、HMD140の表示部142に適切な情報を表示させることができなくなる。そのため、制御部131は、この場合、一旦全ての光源143を消灯してから識別処理を再度実行する。以後、識別処理を再度実行することを、「再識別処理」を実行するとも称する。   In this way, when the control unit 131 cannot identify at least one light source 143 due to the lost state, the control unit 131 cannot display appropriate information on the display unit 142 of the HMD 140. Therefore, in this case, the control unit 131 once turns off all the light sources 143 and then executes the identification process again. Hereinafter, re-execution of the identification process is also referred to as execution of “re-identification process”.

制御部131は、ロスト状態に起因して光源143が識別できなくなった場合、様々なタイミングで再識別処理を実行することができる。   When the light source 143 cannot be identified due to the lost state, the control unit 131 can execute the re-identification process at various timings.

例えば、制御部131は、全ての光源143の位置が算出可能になった段階で、再識別処理を実行してもよい。これにより、制御部131は、全てのHMD140−1〜140−Nについて、光源143との対応付けをすることができる。   For example, the control unit 131 may execute the re-identification process when the positions of all the light sources 143 can be calculated. Thereby, the control unit 131 can associate all the HMDs 140-1 to 140-N with the light source 143.

また、制御部131は、全ての光源143の数に対して所定の割合の数の光源143(例えば95%の光源143)の位置が算出可能となった段階で、再識別処理を実行してもよい。これにより、制御部131は、ロスト状態のまま長時間復帰しない光源143がある場合でも、その時点で位置が算出可能な光源143に対して、HMD140−1〜140−Nとの対応付けをすることができる。   Further, the control unit 131 executes the re-identification processing at the stage where the positions of the light sources 143 (for example, 95% of the light sources 143) of a predetermined ratio with respect to the number of all the light sources 143 can be calculated. Good. Thereby, even if there is a light source 143 that does not return for a long time in the lost state, the control unit 131 associates the light source 143 whose position can be calculated with the HMDs 140-1 to 140-N. be able to.

また、制御部131は、少なくとも1つの光源143がロスト状態から復帰して位置が算出可能になった段階で再識別処理を実行してもよい。また、制御部131は、少なくとも1つの光源143がロスト状態になってから所定の時間が経過した段階で再識別処理を実行してもよい。   Further, the control unit 131 may execute the re-identification process at a stage when at least one light source 143 has returned from the lost state and the position can be calculated. In addition, the control unit 131 may execute the re-identification processing at a stage when a predetermined time has elapsed since at least one light source 143 was in the lost state.

このように、位置検出システム100は、ロスト状態に起因して少なくとも1つの光源143が識別できなくなった場合、再識別処理を実行する。これにより、複数の光源143がどのHMD140に対応するかを再度対応づけることができ、位置検出システム100の利便性が向上する。   In this way, the position detection system 100 executes the re-identification processing when at least one light source 143 cannot be identified due to the lost state. As a result, which HMD 140 the plurality of light sources 143 correspond to can be associated again, and the convenience of the position detection system 100 is improved.

なお、本発明は、上記実施形態にのみ限定されるものではなく、幾多の変形または変更が可能である。例えば、各構成部等に含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の構成部等を1つに組み合わせたり、或いは分割したりすることが可能である。   It should be noted that the present invention is not limited to the above-described embodiment, and various modifications and changes can be made. For example, the functions and the like included in each component can be rearranged so as not to logically contradict, and a plurality of components can be combined into one or divided.

例えば、上記実施形態においては、位置検出システム100は、2つの撮像装置110及び120を備えるとして説明したが、位置検出システム100は、3つ以上の撮像装置を備えていてもよい。位置検出システム100が3つ以上の撮像装置を備える場合、情報処理装置130は、任意の2つの撮像装置が取得した撮像画像に基づいて、対象物Pの位置を特定できる。この場合、一部の撮像装置による撮像画像において、対象物Pが、例えば障害物に遮られることにより映っていない場合であっても、情報処理装置130は、対象物Pが映った他の撮像画像を用いて対象物Pの位置を特定することができる。   For example, in the above-described embodiment, the position detection system 100 has been described as including the two imaging devices 110 and 120, but the position detection system 100 may include three or more imaging devices. When the position detection system 100 includes three or more image capturing devices, the information processing device 130 can specify the position of the target object P based on the captured images acquired by any two image capturing devices. In this case, even if the target P is not displayed in the images captured by some of the image capturing devices due to being blocked by an obstacle, for example, the information processing apparatus 130 may capture another image of the target P. The position of the object P can be specified using the image.

また、上記応用例では、HMD140が2つの光源143a及び143bを備える場合について説明したが、HMD140が備える光源は2つに限られない。HMD140が備える光源は、1つであってもよく、3つ以上であってもよい。   Further, in the above application example, the case where the HMD 140 includes the two light sources 143a and 143b has been described, but the HMD 140 includes not only two light sources. The HMD 140 may include one light source or three or more light sources.

また、上記応用例では、HMD140が光源143を備える場合について説明したが、応用例はこれに限られない。光源143は、HMD140以外の他の機器が備えていてもよく、この場合、情報処理装置130は、光源を備える装置の位置を特定できる。   Further, in the above application example, the case where the HMD 140 includes the light source 143 has been described, but the application example is not limited to this. The light source 143 may be included in a device other than the HMD 140, and in this case, the information processing device 130 can identify the position of the device including the light source.

また、HMD140は、ユーザの頭部の向きに関する情報を、例えば情報処理装置130等の外部装置へ送信してもよい。かかる構成によって、以下に説明するように情報表示システム200の利便性が更に向上する。   The HMD 140 may also send information regarding the orientation of the user's head to an external device such as the information processing device 130. With this configuration, the convenience of the information display system 200 is further improved as described below.

例えば、ユーザの頭部の向きに関する情報を受信した情報処理装置130は、HMD140の位置とユーザの頭部の向きとに基づく所定の映像を、例えば外部の表示装置等に表示させることができる。所定の映像は、例えばHMD140に表示される映像と略同一の映像、及び仮想空間におけるユーザの位置及び向きを示すマップ映像等、多様な映像を含んでもよい。ここで、情報表示システム200が複数のHMD140を備える場合、情報処理装置130は、例えば第1のHMD140に表示される映像を第2のHMD140に表示させたり、複数のユーザの位置及び向きを示すマップ映像を複数のHMD140に表示させたりすることができる。   For example, the information processing device 130 that has received the information regarding the orientation of the user's head can display a predetermined image based on the position of the HMD 140 and the orientation of the user's head on, for example, an external display device. The predetermined image may include various images such as an image substantially the same as the image displayed on the HMD 140 and a map image showing the position and orientation of the user in the virtual space. Here, when the information display system 200 includes a plurality of HMDs 140, the information processing apparatus 130 causes the second HMD 140 to display an image displayed on the first HMD 140, and indicates the positions and orientations of a plurality of users. Map images can be displayed on a plurality of HMDs 140.

また、ユーザの頭部の向きに関する情報を受信した情報処理装置130は、当該向きに関する情報に基づき、ユーザの位置が次に変位する方向を予測することもできる。   Further, the information processing device 130 that has received the information regarding the orientation of the user's head can also predict the direction in which the user's position will be displaced next, based on the information regarding the orientation.

上記応用例において、情報処理装置130が実行するあらゆる処理をHMD140が実行できるようにしてもよい。このとき、情報表示システム200は、第1撮像装置110、第2撮像装置120及びHMD140からなるものであってよい。このとき、HMD140は、有線又は無線を介して、第1撮像装置110及び第2撮像装置120と通信可能に構成される。   In the above application example, the HMD 140 may be able to execute all the processes performed by the information processing device 130. At this time, the information display system 200 may include the first imaging device 110, the second imaging device 120, and the HMD 140. At this time, the HMD 140 is configured to be communicable with the first imaging device 110 and the second imaging device 120 via a wire or wirelessly.

100 位置検出システム
110 第1撮像装置
111、121、131、144 制御部
112、122、132、145 記憶部
113、123、133、146 通信部
114 第1撮像部
120 第2撮像装置
124 第2撮像部
130 情報処理装置
140 ヘッドマウントディスプレイ(HMD)
141 装着部
142 表示部
143 光源
147 角速度検出部
200、300 情報表示システム
100 Position Detection System 110 First Imaging Device 111, 121, 131, 144 Control Unit 112, 122, 132, 145 Storage Unit 113, 123, 133, 146 Communication Unit 114 First Imaging Unit 120 Second Imaging Device 124 Second Imaging Part 130 Information processing device 140 Head mounted display (HMD)
141 mounting unit 142 display unit 143 light source 147 angular velocity detection unit 200, 300 information display system

Claims (8)

対象物に係る第1撮像画像を取得する第1撮像部と、
前記対象物に係る第2撮像画像を取得する第2撮像部と、
前記第1撮像画像及び前記第2撮像画像に基づいて前記対象物の位置を算出し、複数の該対象物を識別する制御部とを備え、
前記制御部は、前記複数の対象物のうちの少なくとも一つがロスト状態となり、少なくとも1つの前記対象物の識別ができなくなると、前記複数の対象物に対する再識別処理を実行し、
前記制御部は、
前記第1撮像画像に基づいて、前記対象物の位置ベクトルを設定し、
前記設定した位置ベクトルを用いて前記第2撮像部から前記対象物への第1方向ベクトルを算出し、
前記第2撮像画像に基づいて、前記第2撮像部から前記対象物への第2方向ベクトルを算出し、
前記第1方向ベクトルと前記第2方向ベクトルの外積の値に基づいて算出される、下式(1)により表される前記対象物の位置ベクトルに基づいて、前記対象物の位置を算出する、位置検出システム。
Figure 0006681278
ただし、ベクトルpは前記対象物の位置ベクトルを示し、ベクトルaは前記第1撮像部から前記対象物に向かう方向ベクトルを示し、ベクトルbは前記第2方向ベクトルを示し、ベクトルc は前記第1撮像部の位置ベクトルを示し、ベクトルc は前記第2撮像部の位置ベクトルを示す。
A first imaging unit that acquires a first captured image of the object;
A second imaging unit that acquires a second captured image of the object;
A control unit that calculates the position of the target object based on the first captured image and the second captured image and identifies a plurality of the target objects;
The control unit performs re-identification processing on the plurality of objects when at least one of the plurality of objects is in a lost state and at least one of the objects cannot be identified ,
The control unit is
A position vector of the object is set based on the first captured image,
Calculating a first direction vector from the second imaging unit to the object using the set position vector,
Calculating a second direction vector from the second imaging unit to the object based on the second captured image,
Calculating the position of the object based on the position vector of the object represented by the following equation (1), which is calculated based on the value of the cross product of the first direction vector and the second direction vector, Position detection system.
Figure 0006681278
However, the vector p represents the position vector of the target object, the vector a represents the direction vector from the first imaging unit to the target object, the vector b represents the second direction vector, and the vector c 1 is the first vector . 1 shows the position vector of the image pickup unit, and vector c 2 shows the position vector of the second image pickup unit.
請求項1に記載の位置検出システムにおいて、前記制御部は、少なくとも1つの前記対象物の識別ができなくなった場合、位置が算出可能である前記対象物の数が所定の条件を満たすと、前記再識別処理を実行する、位置検出システム。   The position detection system according to claim 1, wherein the control unit re-identifies if the number of the objects whose positions can be calculated satisfies a predetermined condition when at least one of the objects cannot be identified. A position detection system that performs processing. 請求項2に記載の位置検出システムにおいて、前記制御部は、全ての前記複数の対象物の位置が算出可能となると、前記再識別処理を実行する、位置検出システム。   The position detection system according to claim 2, wherein the control unit executes the re-identification process when the positions of all the plurality of objects can be calculated. 請求項2に記載の位置検出システムにおいて、前記制御部は、位置が算出可能である前記対象物の数の、全ての前記複数の対象物の数に対する割合が所定の割合以上になると、前記再識別処理を実行する、位置検出システム。   The position detection system according to claim 2, wherein the control unit performs the re-identification processing when a ratio of the number of the objects whose positions can be calculated to the number of all the plurality of objects is equal to or more than a predetermined ratio. A position detection system. 請求項2に記載の位置検出システムにおいて、前記制御部は、ロスト状態となっていた前記対象物のうちの少なくとも一つの前記対象物の位置が算出可能となると、前記再識別処理を実行する、位置検出システム。   The position detection system according to claim 2, wherein the control unit executes the re-identification process when the position of at least one of the objects in the lost state can be calculated. Position detection system. 請求項1に記載の位置検出システムにおいて、前記制御部は、少なくとも1つの前記対象物がロスト状態となってから所定の時間が経過すると、前記再識別処理を実行する、位置検出システム。   The position detection system according to claim 1, wherein the control unit executes the re-identification processing when a predetermined time has elapsed after at least one of the objects is in a lost state. 請求項1から6のいずれか一項に記載の位置検出システムにおいて、前記対象物は光源であり、前記制御部は、前記複数の対象物を順次点灯させることにより再識別処理を実行する、位置検出システム。   The position detection system according to any one of claims 1 to 6, wherein the object is a light source, and the control unit executes re-identification processing by sequentially lighting the plurality of objects. Detection system. 対象物に係る第1撮像画像を取得する第1撮像部と、前記対象物に係る第2撮像画像を取得する第2撮像部とを備える位置検出システムにおける位置検出方法であって、
前記第1撮像画像及び前記第2撮像画像に基づいて前記対象物の位置を算出し、複数の該対象物を識別するステップと、
前記複数の対象物のうちの少なくとも一つがロスト状態となり、少なくとも1つの前記対象物の識別ができなくなると、前記複数の対象物に対する再識別処理を実行するステップと、を含み、
前記識別するステップにおける前記対象物の位置の算出は、
前記第1撮像画像に基づいて、前記対象物の位置ベクトルを設定することと、
前記設定した位置ベクトルを用いて前記第2撮像部から前記対象物への第1方向ベクトルを算出することと、
前記第2撮像画像に基づいて、前記第2撮像部から前記対象物への第2方向ベクトルを算出することと、
前記第1方向ベクトルと前記第2方向ベクトルの外積の値に基づいて算出される、下式(2)により表される前記対象物の位置ベクトルに基づいて、前記対象物の位置を算出することと、を含む、位置検出方法。
Figure 0006681278
ただし、ベクトルpは前記対象物の位置ベクトルを示し、ベクトルaは前記第1撮像部から前記対象物に向かう方向ベクトルを示し、ベクトルbは前記第2方向ベクトルを示し、ベクトルc は前記第1撮像部の位置ベクトルを示し、ベクトルc は前記第2撮像部の位置ベクトルを示す。
A position detection method in a position detection system, comprising: a first imaging unit that acquires a first captured image of an object; and a second imaging unit that acquires a second captured image of the object,
Calculating a position of the object based on the first captured image and the second captured image, and identifying a plurality of the objects;
Wherein at least one of the plurality of objects become lost state, viewed free it becomes impossible to identify the at least one of the object, and performing the re-identification process with respect to the plurality of objects, and
The calculation of the position of the object in the identifying step is
Setting a position vector of the object based on the first captured image;
Calculating a first direction vector from the second imaging unit to the object using the set position vector;
Calculating a second direction vector from the second imaging unit to the object based on the second captured image;
Calculating the position of the target object based on the position vector of the target object represented by the following equation (2), which is calculated based on the value of the cross product of the first direction vector and the second direction vector. And a position detection method including and .
Figure 0006681278
However, the vector p represents the position vector of the target object, the vector a represents the direction vector from the first imaging unit to the target object, the vector b represents the second direction vector, and the vector c 1 is the first vector . 1 shows the position vector of the image pickup unit, and vector c 2 shows the position vector of the second image pickup unit.
JP2016110445A 2016-06-01 2016-06-01 Position detection system and position detection method Active JP6681278B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016110445A JP6681278B2 (en) 2016-06-01 2016-06-01 Position detection system and position detection method
US15/608,031 US10388027B2 (en) 2016-06-01 2017-05-30 Detection method, display apparatus, and detection system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016110445A JP6681278B2 (en) 2016-06-01 2016-06-01 Position detection system and position detection method

Publications (2)

Publication Number Publication Date
JP2017215265A JP2017215265A (en) 2017-12-07
JP6681278B2 true JP6681278B2 (en) 2020-04-15

Family

ID=60575585

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016110445A Active JP6681278B2 (en) 2016-06-01 2016-06-01 Position detection system and position detection method

Country Status (1)

Country Link
JP (1) JP6681278B2 (en)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007071782A (en) * 2005-09-08 2007-03-22 Canon Inc System for measuring position attitude and method of measuring, same and control program
JP4663483B2 (en) * 2005-11-01 2011-04-06 三洋電機株式会社 Air conditioner
JP4961904B2 (en) * 2006-08-30 2012-06-27 株式会社島津製作所 Head motion tracker device
JP5681052B2 (en) * 2011-06-30 2015-03-04 東京エレクトロン株式会社 Substrate processing apparatus, substrate processing method, and storage medium storing program for executing the substrate processing method
US20150302648A1 (en) * 2014-02-18 2015-10-22 Sulon Technologies Inc. Systems and methods for mapping an environment using structured light
JP6237326B2 (en) * 2014-02-25 2017-11-29 富士通株式会社 Posture estimation apparatus, posture estimation method, and computer program for posture estimation

Also Published As

Publication number Publication date
JP2017215265A (en) 2017-12-07

Similar Documents

Publication Publication Date Title
CN110458961B (en) Augmented reality based system
KR102702585B1 (en) Electronic apparatus and Method for controlling the display apparatus thereof
TWI659398B (en) Intrusion detection with directional sensing
CN106575437B (en) Information processing apparatus, information processing method, and program
US10634918B2 (en) Internal edge verification
JP2007071782A (en) System for measuring position attitude and method of measuring, same and control program
CN110895676B (en) dynamic object tracking
US20170278269A1 (en) Corneal reflection position estimation system, corneal reflection position estimation method, corneal reflection position estimation program, pupil detection system, pupil detection method, pupil detection program, gaze detection system, gaze detection method, gaze detection program, face orientation detection system, face orientation detection method, and face orientation detection program
JP2012084149A (en) Navigation of mobile divice
US10388027B2 (en) Detection method, display apparatus, and detection system
US10509513B2 (en) Systems and methods for user input device tracking in a spatial operating environment
US9772679B1 (en) Object tracking for device input
JP2013124972A (en) Position estimation device and method and television receiver
US9606639B2 (en) Pointing system and display having improved operable range
US11656242B2 (en) Angular velocity detection device, image display apparatus, angular velocity detection method, and storage medium
JP6670682B2 (en) Position detection method and position detection system
JP6681278B2 (en) Position detection system and position detection method
CN116295327A (en) Positioning method, positioning device, electronic equipment and computer readable storage medium
CN115082520A (en) Positioning tracking method and device, terminal equipment and computer readable storage medium
JP6689679B2 (en) Display device, information display system, and program
JP6670681B2 (en) Position detection method and position detection system
JP6885909B2 (en) Robot control device
US11501459B2 (en) Information processing apparatus, method of information processing, and information processing system
JP6689678B2 (en) Detection method, object to be detected, and system
US20230028920A1 (en) Detection of seizure events

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200317

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200323

R150 Certificate of patent or registration of utility model

Ref document number: 6681278

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150