JP2017016542A - Wearable display device, display control method, and display control program - Google Patents

Wearable display device, display control method, and display control program Download PDF

Info

Publication number
JP2017016542A
JP2017016542A JP2015134930A JP2015134930A JP2017016542A JP 2017016542 A JP2017016542 A JP 2017016542A JP 2015134930 A JP2015134930 A JP 2015134930A JP 2015134930 A JP2015134930 A JP 2015134930A JP 2017016542 A JP2017016542 A JP 2017016542A
Authority
JP
Japan
Prior art keywords
content
image
display
marker
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015134930A
Other languages
Japanese (ja)
Inventor
潤 大桃
Jun Omomo
潤 大桃
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2015134930A priority Critical patent/JP2017016542A/en
Publication of JP2017016542A publication Critical patent/JP2017016542A/en
Pending legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To provide a wearable display device which displays specific information selected from multiple pieces of information, without input operation.SOLUTION: A wearable display device includes an imaging apparatus, a display unit, a determination unit, a selection unit, and a display control unit. On a display surface of the display unit, an image captured by an imaging apparatus is displayed. When multiple display information associated with a plurality of recognition objects included in an image is superimposed on the image, the determination unit determines overlap of the display information. When the determination unit determines overlap, the selection unit selects a recognition object closest to the center of the image. When the determination unit determines overlap, the display control unit displays an image formed by preferentially superimposing display information associated with the recognition object selected by the selection unit, on the display surface.SELECTED DRAWING: Figure 2

Description

本発明は、装着型表示装置、表示制御方法および表示制御プログラムに関する。   The present invention relates to a wearable display device, a display control method, and a display control program.

近年、ウェアラブルデバイスの1つとしてヘッドマウントディスプレイが用いられている。ヘッドマウントディスプレイは、使用者の頭部に装着される装置であり、使用者の眼前に位置する表示面に情報を表示する。   In recent years, a head-mounted display has been used as one of wearable devices. The head mounted display is a device worn on the user's head, and displays information on a display surface located in front of the user's eyes.

また、カメラが撮影した画像に含まれるマーカを認識して、認識したマーカに対応付けられた情報を画像に重畳して表示する技術が用いられている。この技術は、拡張現実(Augmented Reality(AR))とも称される。   In addition, a technique is used in which a marker included in an image captured by a camera is recognized, and information associated with the recognized marker is displayed superimposed on the image. This technology is also referred to as augmented reality (AR).

関連する技術として、実世界映像の視点とオブジェクトとの間の距離に応じた提示の仕方で、オブジェクトに関する情報を提示する技術が提案されている(例えば、特許文献1を参照)。   As a related technique, there has been proposed a technique for presenting information about an object in a manner of presentation according to the distance between the viewpoint of the real world video and the object (see, for example, Patent Document 1).

国際公開第2010/073616号International Publication No. 2010/073616

拡張現実の技術において、カメラが撮影した画像に複数のマーカが含まれる場合、各マーカに対応付けられた複数の情報が重なり合って画面に表示されることがある。この場合、重なり合った情報の一部または全部が表示されなくなる。   In the augmented reality technology, when a plurality of markers are included in an image captured by a camera, a plurality of information associated with each marker may be displayed on the screen in an overlapping manner. In this case, some or all of the overlapping information is not displayed.

ヘッドマウントディスプレイ等の装着型表示装置に拡張現実の技術を適用した場合も同様の問題が生じる。使用者の眼前に位置する表示面に情報を表示する装着型表示装置の場合、使用者は、眼前に位置する表示面に対して入力操作を行うことは難しい。従って、装着型表示装置の表示面に複数の拡張現実の情報が重なり合って表示される場合、複数の情報から特定の情報を選択することは難しい。   A similar problem occurs when augmented reality technology is applied to a wearable display device such as a head-mounted display. In the case of a wearable display device that displays information on a display surface positioned in front of the user's eyes, it is difficult for the user to perform an input operation on the display surface positioned in front of the eyes. Therefore, when a plurality of augmented reality information is displayed on the display surface of the wearable display device, it is difficult to select specific information from the plurality of information.

1つの側面として、本発明は、入力操作なしで複数の情報から特定の情報を選択して表示する装着型表示装置を提供することを目的とする。   In one aspect, an object of the present invention is to provide a wearable display device that selects and displays specific information from a plurality of information without an input operation.

1つの態様では、装着型表示装置は、撮影装置とディスプレイと判定部と選択部と表示制御部とを含む。ディスプレイの表示面には、撮影装置が撮影した画像が表示される。判定部は、画像に含まれる複数の認識対象物のそれぞれに対応付けられた複数の表示情報が画像に重畳された場合、表示情報が重なるか否かを判定する。選択部は、判定部が重なると判定した場合、画像の中心に最も近い認識対象物を選択する。表示制御部は、判定部が重なると判定した場合、選択部が選択した認識対象物に対応付けられた表示情報が優先的に重畳された画像を表示面に表示する。   In one aspect, the wearable display device includes an imaging device, a display, a determination unit, a selection unit, and a display control unit. An image photographed by the photographing apparatus is displayed on the display surface of the display. A determination part determines whether display information overlaps, when a plurality of display information matched with each of a plurality of recognition objects contained in an image is superimposed on an image. When it is determined that the determination unit overlaps, the selection unit selects a recognition object closest to the center of the image. When it is determined that the determination unit overlaps, the display control unit displays an image on which the display information associated with the recognition target selected by the selection unit is preferentially superimposed on the display surface.

1つの側面によれば、入力操作なしで複数の情報から特定の情報を選択して表示する装着型表示装置を提供することができる。   According to one aspect, it is possible to provide a wearable display device that selects and displays specific information from a plurality of information without an input operation.

実施形態のヘッドマウントディスプレイの外観の一例を示す図である。It is a figure which shows an example of the external appearance of the head mounted display of embodiment. 実施形態のヘッドマウントディスプレイの機能ブロックの一例を示す図である。It is a figure which shows an example of the functional block of the head mounted display of embodiment. ヘッドマウントディスプレイとコンテンツサーバとの通信の一例を示す図である。It is a figure which shows an example of communication with a head mounted display and a content server. 実施形態の画像の一例を示す図(その1)である。It is a figure (example 1) which shows an example of the image of embodiment. 実施形態の画像の一例を示す図(その2)である。It is a figure (the 2) which shows an example of the image of embodiment. 実施形態の画像の一例を示す図(その3)である。It is a figure (the 3) which shows an example of the image of embodiment. 実施形態の画像の一例を示す図(その4)である。It is a figure (the 4) which shows an example of the image of embodiment. 実施形態の画像の一例を示す図(その5)である。It is a figure (the 5) which shows an example of the image of embodiment. 実施形態の画像の一例を示す図(その6)である。It is FIG. (6) which shows an example of the image of embodiment. 実施形態の処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of the process of embodiment. 重なり判定処理の一例を示すフローチャートである。It is a flowchart which shows an example of an overlap determination process. コンテンツ関連情報の一例を示す図である。It is a figure which shows an example of content relevant information. マーカとコンテンツ領域との関係の一例を示す図である。It is a figure which shows an example of the relationship between a marker and a content area. X方向において、2つのコンテンツが重なる場合と重ならない場合との一例を示す図である。It is a figure which shows an example with the case where two contents do not overlap in the X direction. Y方向において、2つのコンテンツが重なる場合と重ならない場合との一例を示す図である。It is a figure which shows an example with the case where two content does not overlap in the Y direction. 2つのコンテンツを対象とした重なり判定処理の一例を示すフローチャートである。It is a flowchart which shows an example of the overlap determination process which made two content object. 第1変形例の画像の一例を示す図(その1)である。It is a figure (the 1) which shows an example of the image of a 1st modification. 第1変形例の画像の一例を示す図(その2)である。It is FIG. (2) which shows an example of the image of a 1st modification. 第1変形例の画像の一例を示す図(その3)である。It is FIG. (3) which shows an example of the image of a 1st modification. 第1変形例の画像の一例を示す図(その4)である。It is FIG. (4) which shows an example of the image of a 1st modification. 第1変形例の処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of a process of a 1st modification. 第2変形例の画像の一例を示す図(その1)である。It is a figure (the 1) which shows an example of the image of a 2nd modification. 第1変形例の処理の流れの一例を示すフローチャートである。It is a flowchart which shows an example of the flow of a process of a 1st modification. 第2変形例の画像の一例を示す図(その2)である。It is FIG. (2) which shows an example of the image of a 2nd modification. ヘッドマウントディスプレイのハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware constitutions of a head mounted display.

拡張現実の技術において、撮影装置が撮影した画像に複数のマーカが含まれる場合、各マーカに対応付けられた複数の表示情報が重なり合って表示され、重なり合った表示情報の一部または全部が表示されなくなることがある。   In augmented reality technology, when a plurality of markers are included in an image captured by the imaging device, a plurality of display information associated with each marker is displayed in an overlapping manner, and a part or all of the overlapping display information is displayed. It may disappear.

重なり合った表示情報のうち、ユーザ(使用者)が特定の表示情報を表示させたい場合、ユーザが特定の表示情報を選択することが考えられる。例えば、拡張現実の技術がタブレット端末やスマートフォン等に適用される場合、ユーザは、簡単に特定の表示情報を選択する入力操作を行うことができる。   Of the overlapping display information, when the user (user) wants to display specific display information, the user may select specific display information. For example, when augmented reality technology is applied to a tablet terminal, a smartphone, or the like, the user can easily perform an input operation to select specific display information.

例えば、タブレット端末の場合、ユーザは、タッチペン等を用いて、タブレット端末の画面に表示されている重なり合った表示情報のうち、特定の表示情報をタッチする。この入力操作が行われることにより、重なり合った表示情報のうち、ユーザが表示させたい特定の表示情報が簡単に選択される。この場合、タブレット端末の画面には、ユーザが選択した特定の表示情報が表示される。   For example, in the case of a tablet terminal, the user touches specific display information among the overlapping display information displayed on the screen of the tablet terminal using a touch pen or the like. By performing this input operation, specific display information that the user wants to display is easily selected from the overlapped display information. In this case, specific display information selected by the user is displayed on the screen of the tablet terminal.

一方、ヘッドマウントディスプレイのようにユーザの眼前に表示面が位置する装着型表示装置の場合、タブレット端末とは異なり、ユーザが表示面に対して何らかの入力操作(例えば、タッチペン等を用いて行う入力操作)を行うことは難しい。   On the other hand, in the case of a wearable display device in which the display surface is positioned in front of the user's eyes, such as a head-mounted display, unlike the tablet terminal, the user performs some input operation (for example, input using a touch pen or the like) Operation) is difficult.

そこで、以下の実施形態の装着型表示装置は、撮影装置が撮影した画像に複数のマーカが含まれ、且つマーカに対応付けられた複数の表示情報が表示されると重なり合うと判定された場合、画像の中心に最も近いマーカを選択する。そして、選択したマーカに対応付けられた表示情報が優先的に重畳した画像が表示面に表示される。   Therefore, when it is determined that the wearable display device of the following embodiment includes a plurality of markers in an image captured by the image capturing device and a plurality of display information associated with the markers is displayed, Select the marker closest to the center of the image. Then, an image in which display information associated with the selected marker is preferentially superimposed is displayed on the display surface.

これにより、撮影装置が撮影した画像に複数のマーカが含まれ、且つマーカに対応付けられた複数の表示情報が表示されると重なり合う場合であっても、何らかの入力操作が行われなくても、自動的に特定のマーカが選択される。   Thereby, even if it is a case where a plurality of markers are included in the image photographed by the photographing apparatus and a plurality of display information associated with the markers are displayed, even if no input operation is performed, A specific marker is automatically selected.

従って、ユーザがタッチペン等を用いて、表示情報を選択する入力操作を行うことが難しいヘッドマウントディスプレイのような装着が表示装置であっても、入力操作なしで特定の表示情報が自動的に選択されて、特定の表示情報が表示面に表示される。   Therefore, even if the display device is a head-mounted display that is difficult for the user to perform an input operation for selecting display information using a touch pen or the like, specific display information is automatically selected without an input operation. Then, specific display information is displayed on the display surface.

以下、図面を参照して、実施形態の装着型表示装置について説明する。実施形態の装着型表示装置は、使用者の身体の何れかの部位に装着される表示装置である。また、装着型表示装置は、使用者の眼前に位置する表示面に表示情報を表示する。   Hereinafter, with reference to the drawings, a wearable display device according to an embodiment will be described. The wearable display device according to the embodiment is a display device that is worn on any part of the user's body. Further, the wearable display device displays display information on a display surface located in front of the user's eyes.

装着型表示装置には撮影装置が設けられる。実施形態の装着型表示装置は、撮影装置が撮影している画像に対して表示情報を重畳し、表示情報が重畳された画像を表示面に表示する。   The wearable display device is provided with a photographing device. The wearable display device according to the embodiment superimposes display information on an image captured by a photographing device, and displays an image on which the display information is superimposed on a display surface.

実施形態では、画像に重畳される表示情報は、拡張現実の情報である。これにより、装着型表示装置は、撮影装置が撮影した画像に所定の拡張現実情報が重畳された画像を使用者に提示する。   In the embodiment, the display information superimposed on the image is augmented reality information. Thereby, the wearable display device presents the user with an image in which predetermined augmented reality information is superimposed on the image captured by the image capturing device.

実施形態の装着型表示装置の表示面は、入力操作を受け付ける機能を有していないものとする。以下、実施形態の装着型表示装置は、使用者の頭部に装着されるヘッドマウントディスプレイであるものとする。   It is assumed that the display surface of the wearable display device of the embodiment does not have a function of accepting an input operation. Hereinafter, it is assumed that the wearable display device of the embodiment is a head-mounted display that is worn on a user's head.

ただし、装着型表示装置は、使用者の頭部に装着されるヘッドマウントディスプレイには限定されない。装着型表示装置は、使用者の身体の任意の部位に装着されるものであってよい。   However, the wearable display device is not limited to a head mounted display worn on the user's head. The wearable display device may be worn on any part of the user's body.

<ヘッドマウントディスプレイの外観の一例>
図1は、実施形態のヘッドマウントディスプレイ1の一例を示している。ヘッドマウントディスプレイ1は、カメラ2と表示制御装置3とディスプレイ部4とを含む。ヘッドマウントディスプレイ1の外観は、図1の例には限定されない。
<Example of appearance of head mounted display>
FIG. 1 shows an example of a head mounted display 1 of the embodiment. The head mounted display 1 includes a camera 2, a display control device 3, and a display unit 4. The appearance of the head mounted display 1 is not limited to the example of FIG.

カメラ2は、ヘッドマウントディスプレイ1に設けられる撮影装置である。表示制御装置3は、カメラ2が撮影した画像に対して、所定の処理を行い、ディスプレイ部4の表示面4Aに画像を表示する制御を行うコンピュータである。図1の例では、表示制御装置3は、ヘッドマウントディスプレイ1に内蔵されている。   The camera 2 is a photographing device provided in the head mounted display 1. The display control device 3 is a computer that performs a predetermined process on the image captured by the camera 2 and performs control to display the image on the display surface 4 </ b> A of the display unit 4. In the example of FIG. 1, the display control device 3 is built in the head mounted display 1.

ヘッドマウントディスプレイ1の表示面4Aは、使用者の眼前に位置し、使用者に対して各種の表示情報を提示する。例えば、ヘッドマウントディスプレイ1は、ディスプレイ部4の位置を調整する調整機構を有していてもよい。   The display surface 4A of the head mounted display 1 is located in front of the user's eyes and presents various display information to the user. For example, the head mounted display 1 may have an adjustment mechanism that adjusts the position of the display unit 4.

実施形態では、使用者がヘッドマウントディスプレイ1を頭部に装着し、使用者の片眼の眼前に表示面4Aを位置させたとき、カメラ2の視野方向と使用者の視野方向とは一致するものとする。   In the embodiment, when the user wears the head mounted display 1 on the head and the display surface 4A is positioned in front of one eye of the user, the viewing direction of the camera 2 and the viewing direction of the user coincide with each other. Shall.

これにより、表示面4Aに表示される画像は、使用者の視野方向と同じ方向を撮影した画像になる。ただし、カメラ2の視野方向と使用者の視野方向とは異なっていてもよい。この場合、使用者が片眼で視認する方向とカメラ2の視野方向とが異なる。   Thereby, the image displayed on the display surface 4A is an image obtained by photographing the same direction as the visual field direction of the user. However, the viewing direction of the camera 2 and the viewing direction of the user may be different. In this case, the direction in which the user visually recognizes with one eye is different from the viewing direction of the camera 2.

表示面4Aは使用者の片眼の眼前に位置し、カメラ2が撮影した画像を表示する。よって、カメラ2の視野方向と使用者の視野方向とが異なると、表示面4Aには、使用者の片眼の視野方向とは異なる方向の画像が表示されるため、視認性が低下する。このため、使用者の視野方向とカメラ2の視野方向とは一致していることが好ましい。   The display surface 4A is located in front of one eye of the user and displays an image captured by the camera 2. Therefore, when the visual field direction of the camera 2 and the visual field direction of the user are different, an image in a direction different from the visual field direction of the user's one eye is displayed on the display surface 4A. For this reason, it is preferable that the visual field direction of a user and the visual field direction of the camera 2 correspond.

表示面4Aは、使用者の片眼の眼前に位置するため、使用者は表示面4Aに対して入力操作を行うことは難しい。また、実施形態の表示面4Aは、タッチパネルディスプレイのような入力機能を有していないものとする。   Since the display surface 4A is located in front of one eye of the user, it is difficult for the user to perform an input operation on the display surface 4A. Further, it is assumed that the display surface 4A of the embodiment does not have an input function like a touch panel display.

図1は、片眼タイプのヘッドマウントディスプレイ1の例を示しているが、ヘッドマウントディスプレイ1は、両眼タイプであってもよい。また、表示面4Aは、透過型であってもよいし、非透過型であってもよい。   Although FIG. 1 shows an example of a one-eye type head mounted display 1, the head mounted display 1 may be a binocular type. The display surface 4A may be transmissive or non-transmissive.

<ヘッドマウントディスプレイの機能ブロックの一例>
図2は、ヘッドマウントディスプレイ1の機能ブロックの一例を示している。ヘッドマウントディスプレイ1は、カメラ2と表示制御装置3とディスプレイ部4とを含む。ディスプレイ部4の表示面4Aに、カメラ2が撮影した画像が表示される。
<Example of functional block of head mounted display>
FIG. 2 shows an example of functional blocks of the head mounted display 1. The head mounted display 1 includes a camera 2, a display control device 3, and a display unit 4. An image captured by the camera 2 is displayed on the display surface 4 </ b> A of the display unit 4.

実施形態の表示制御装置3は、カメラ2が撮影した画像に、拡張現実情報を表示するためのマーカ(ARマーカとも称される)が含まれている場合、マーカ(例えば、バーコード等の図形)に対応付けられた拡張現実情報を画像に重畳する。マーカは、認識対象物の一例である。   The display control device 3 according to the embodiment, when an image captured by the camera 2 includes a marker (also referred to as an AR marker) for displaying augmented reality information, a marker (for example, a graphic such as a barcode) ) Is superposed on the image. A marker is an example of a recognition object.

拡張現実情報は、カメラ2が撮影した画像に重畳される情報である。拡張現実情報は、文字情報や絵柄、図柄等の任意の情報であってよい。以下、拡張現実情報をコンテンツと称する。コンテンツは、画像に重畳される表示情報の一例である。   Augmented reality information is information that is superimposed on an image captured by the camera 2. The augmented reality information may be arbitrary information such as character information, a pattern, and a pattern. Hereinafter, augmented reality information is referred to as content. Content is an example of display information superimposed on an image.

表示制御装置3は、カメラ2が撮影した画像内のマーカを認識する。表示制御装置3は、認識した画像に複数のマーカが含まれる場合、複数のマーカにそれぞれ対応付けられたコンテンツが画像に重畳されると、何れかのコンテンツが他のコンテンツと重なるか否かを判定する。   The display control device 3 recognizes the marker in the image captured by the camera 2. When a plurality of markers are included in the recognized image, the display control device 3 determines whether any content overlaps with other content when the contents respectively associated with the plurality of markers are superimposed on the image. judge.

表示制御装置3は、コンテンツが重なると判定した場合、画像の中心に最も近いマーカを選択し、選択されたマーカに対応付けられたコンテンツが表示面4Aに表示されるように制御を行う。   If the display control device 3 determines that the content overlaps, the display control device 3 selects the marker closest to the center of the image, and performs control so that the content associated with the selected marker is displayed on the display surface 4A.

表示制御装置3は、コンテンツが重なると判定した場合、画像の中心に最も近いマーカを選択し、選択したマーカに対応付けられたコンテンツを優先的に画像に重畳する。実施形態では、表示制御装置3は、選択したマーカに対応付けられたコンテンツのみを画像に重畳することで、該コンテンツを優先的に画像に重畳する。そして、表示制御装置3は、選択されたコンテンツのみが重畳された画像を表示面4Aに表示する制御を行う。   If the display control device 3 determines that the content overlaps, the display control device 3 selects the marker closest to the center of the image and preferentially superimposes the content associated with the selected marker on the image. In the embodiment, the display control device 3 preferentially superimposes the content on the image by superimposing only the content associated with the selected marker on the image. And the display control apparatus 3 performs control which displays the image on which only the selected content was superimposed on the display surface 4A.

表示制御装置3は、画像入力部11とマーカ認識部12と演算部13と判定部14と選択部15と記憶部16と通信部17と表示制御部18とを含む。画像入力部11には、カメラ2が撮影した画像(画像データ)が入力される。   The display control device 3 includes an image input unit 11, a marker recognition unit 12, a calculation unit 13, a determination unit 14, a selection unit 15, a storage unit 16, a communication unit 17, and a display control unit 18. An image (image data) captured by the camera 2 is input to the image input unit 11.

実施形態では、画像入力部11には、所定のフレームレートでカメラ2が撮影している画像が入力されるものとする。この場合、表示制御装置3は、動画像を表示面4Aに表示する制御を行う。なお、表示面4Aには静止画が表示されてもよい。   In the embodiment, an image captured by the camera 2 at a predetermined frame rate is input to the image input unit 11. In this case, the display control device 3 performs control to display a moving image on the display surface 4A. A still image may be displayed on the display surface 4A.

マーカ認識部12は、画像入力部11に入力された画像にマーカが含まれている場合、画像に含まれているマーカを認識する。マーカ認識部12は、入力した画像に対して、例えば画像処理を行うことにより、画像に含まれるマーカを認識する。画像には、複数のマーカが含まれている場合がある。この場合、マーカ認識部12は、画像に含まれる複数のマーカを認識する。   The marker recognition unit 12 recognizes a marker included in the image when the image input to the image input unit 11 includes a marker. The marker recognizing unit 12 recognizes a marker included in the image, for example, by performing image processing on the input image. An image may include a plurality of markers. In this case, the marker recognition unit 12 recognizes a plurality of markers included in the image.

演算部13は、各種の演算を行う。例えば、演算部13は、画像に含まれるマーカと画像の中心との距離を計算する。画像に複数のマーカが含まれる場合、演算部13は、複数のマーカのそれぞれについて、画像の中心との間の距離を計算する。   The calculation unit 13 performs various calculations. For example, the calculation unit 13 calculates the distance between the marker included in the image and the center of the image. When the image includes a plurality of markers, the calculation unit 13 calculates the distance between each of the plurality of markers and the center of the image.

実施形態では、画像中の位置は、XY座標系で表されるものとし、演算部13は、画像の中心の座標とマーカの座標との距離を計算する。   In the embodiment, it is assumed that the position in the image is expressed in the XY coordinate system, and the calculation unit 13 calculates the distance between the coordinates of the center of the image and the coordinates of the marker.

判定部14は、画像に複数のマーカが含まれる場合、複数のマーカのそれぞれに対応付けられたコンテンツが画像に重畳されると、複数のコンテンツのうち何れかのコンテンツが他のコンテンツと重なるか否かを判定する。   When the image includes a plurality of markers, when the content associated with each of the plurality of markers is superimposed on the image, the determination unit 14 determines which one of the plurality of contents overlaps with the other content. Determine whether or not.

コンテンツは、画像中のマーカの位置を基準とした相対位置に重畳される。以下、画像に重畳されるコンテンツに対して割り当てられる領域をコンテンツ領域と称する。判定部14は、コンテンツ領域が重なるか否かに基づいて、コンテンツが重なるか否かを判定する。   The content is superimposed on a relative position based on the position of the marker in the image. Hereinafter, an area assigned to content superimposed on an image is referred to as a content area. The determination unit 14 determines whether content overlaps based on whether the content areas overlap.

選択部15は、コンテンツが重なると判定部14が判定した場合、カメラ2の画角の中心(画像の中心)に最も近いマーカを選択する。選択部15は、選択したマーカに関する情報を表示制御部18に出力する。   When the determination unit 14 determines that the contents overlap, the selection unit 15 selects the marker closest to the center of the angle of view of the camera 2 (the center of the image). The selection unit 15 outputs information on the selected marker to the display control unit 18.

記憶部16は、マーカおよびコンテンツに関するコンテンツ関連情報を記憶する。コンテンツ関連情報は、マーカを識別するマーカIDとコンテンツを識別するコンテンツIDとの対応関係を記憶する。IDは、Identificationの略称である。   The memory | storage part 16 memorize | stores the content relevant information regarding a marker and a content. The content related information stores a correspondence relationship between a marker ID for identifying a marker and a content ID for identifying the content. ID is an abbreviation for Identification.

また、記憶部16は、コンテンツIDとコンテンツ領域のサイズとの対応関係を記憶する。また、記憶部16は、コンテンツIDとコンテンツの内容(以下、コンテンツデータと称する)との対応関係を記憶する。   In addition, the storage unit 16 stores a correspondence relationship between the content ID and the size of the content area. In addition, the storage unit 16 stores a correspondence relationship between content IDs and content details (hereinafter referred to as content data).

通信部17は、ヘッドマウントディスプレイ1の外部の装置と通信を行う。例えば、通信部17は、外部のサーバと通信を行うことにより、外部のサーバから各種の情報を取得(ダウンロード)してもよい。   The communication unit 17 communicates with a device external to the head mounted display 1. For example, the communication unit 17 may acquire (download) various types of information from an external server by communicating with the external server.

表示制御部18は、ディスプレイ部4の表示面4Aに表示される画像の表示制御を行う。例えば、カメラ2が撮影した画像にマーカが含まれていない場合、表示制御部18は、コンテンツが含まれていない画像をディスプレイ部4の表示面4Aに表示する制御を行う。   The display control unit 18 performs display control of an image displayed on the display surface 4 </ b> A of the display unit 4. For example, when the image captured by the camera 2 does not include a marker, the display control unit 18 performs control to display an image that does not include content on the display surface 4 </ b> A of the display unit 4.

カメラ2が撮影した画像に含まれているマーカが1つの場合、表示制御部18は、カメラ2が撮影した画像に対して、マーカに対応付けられたコンテンツを重畳する。そして、表示制御部18は、コンテンツが重畳された状態の画像をディスプレイ部4の表示面4Aに表示する制御を行う。   When there is one marker included in the image captured by the camera 2, the display control unit 18 superimposes the content associated with the marker on the image captured by the camera 2. Then, the display control unit 18 performs control to display the image with the content superimposed on the display surface 4 </ b> A of the display unit 4.

カメラ2が撮影した画像に複数のマーカが含まれている場合、表示制御部18は、判定部14の判定結果に応じて、異なる方法で画像に対してコンテンツを重畳する。   When the image captured by the camera 2 includes a plurality of markers, the display control unit 18 superimposes the content on the image by a different method according to the determination result of the determination unit 14.

各コンテンツのうち何れのコンテンツも他のコンテンツと重ならないと判定部14が判定した場合、表示制御部18は、各コンテンツを画像に重畳する。表示制御部18は、各コンテンツが重畳された画像をディスプレイ部4の表示面4Aに表示する制御を行う。   When the determination unit 14 determines that none of the contents overlaps with other contents, the display control unit 18 superimposes each content on the image. The display control unit 18 performs control to display an image on which each content is superimposed on the display surface 4 </ b> A of the display unit 4.

各コンテンツのうち何れかのコンテンツが他のコンテンツと重なると判定部14が判定した場合、表示制御部18は、選択部15が選択したマーカに対応付けられたコンテンツを画像に重畳する。つまり、表示制御部18は、画像の中心に最も近いマーカに対応付けられたコンテンツのみを画像に重畳する。この場合、表示面4Aには、画像の中心に最も近いマーカに対応付けられたコンテンツのみが表示される。   When the determination unit 14 determines that any one of the contents overlaps with another content, the display control unit 18 superimposes the content associated with the marker selected by the selection unit 15 on the image. That is, the display control unit 18 superimposes only the content associated with the marker closest to the center of the image on the image. In this case, only the content associated with the marker closest to the center of the image is displayed on the display surface 4A.

<コンテンツの取得の例>
図3は、ヘッドマウントディスプレイ1がコンテンツサーバ20からコンテンツを取得する例を示している。記憶部16は、上述したコンテンツ関連情報を記憶する。通信部17は、コンテンツサーバ20と通信を行い、コンテンツ関連情報をコンテンツサーバ20から取得(ダウンロード)する。
<Example of content acquisition>
FIG. 3 shows an example in which the head mounted display 1 acquires content from the content server 20. The storage unit 16 stores the content related information described above. The communication unit 17 communicates with the content server 20 and acquires (downloads) content-related information from the content server 20.

例えば、ヘッドマウントディスプレイ1を装着した使用者が作業現場で作業に従事している場合を想定する。この場合、作業現場ごとにコンテンツサーバ20が設置されてもよい。また、コンテンツサーバ20は、作業現場に存在する全てのマーカのコンテンツ関連情報を記憶する。   For example, it is assumed that the user wearing the head mounted display 1 is engaged in work at the work site. In this case, the content server 20 may be installed for each work site. In addition, the content server 20 stores content related information of all markers present at the work site.

ヘッドマウントディスプレイ1の通信部17は、予めコンテンツサーバ20からコンテンツ関連情報をダウンロードする。これにより、記憶部16は、作業現場に存在するマーカに対応付けられたコンテンツ関連情報を記憶する。   The communication unit 17 of the head mounted display 1 downloads content related information from the content server 20 in advance. Thereby, the memory | storage part 16 memorize | stores the content relevant information matched with the marker which exists in a work site.

図3は、通信部17がコンテンツサーバ20と通信し、記憶部16がコンテンツ関連情報を記憶する例を示したが、ヘッドマウントディスプレイ1がコンテンツ関連情報を記憶する例は図3の例には限定されない。   FIG. 3 shows an example in which the communication unit 17 communicates with the content server 20 and the storage unit 16 stores the content related information. However, an example in which the head mounted display 1 stores the content related information is shown in FIG. It is not limited.

例えば、ヘッドマウントディスプレイ1には、コンテンツ関連情報を記憶する半導体メモリが接続されてもよい。この場合、表示制御装置3は、ヘッドマウントディスプレイ1に接続される半導体メモリからコンテンツ関連情報を取得してもよい。   For example, a semiconductor memory that stores content-related information may be connected to the head mounted display 1. In this case, the display control device 3 may acquire the content related information from the semiconductor memory connected to the head mounted display 1.

<各種画像の例>
次に、各種画像の例について説明する。図4は、カメラ2から画像入力部11へ入力された画像30の一例を示している。この画像30は、コンテンツが重畳されていない状態を示している。原点40は、画像中の位置をXY座標で表した場合における、X座標およびY座標がゼロの点を示す。実施形態では、原点40は、画像30の角隅部に設定される。
<Examples of various images>
Next, examples of various images will be described. FIG. 4 shows an example of an image 30 input from the camera 2 to the image input unit 11. This image 30 shows a state in which no content is superimposed. The origin 40 indicates a point where the X coordinate and the Y coordinate are zero when the position in the image is represented by the XY coordinate. In the embodiment, the origin 40 is set at the corner of the image 30.

図4の例において、カメラ2の画角には、6つの配管D1乃至D6が含まれている。配管D1乃至D6を総称して、配管Dと称することがある。配管Dの数は6つには限定されない。   In the example of FIG. 4, the angle of view of the camera 2 includes six pipes D1 to D6. The pipes D1 to D6 may be collectively referred to as a pipe D. The number of pipes D is not limited to six.

配管D1乃至D6には、バルブB1乃至B6が取り付けられている。バルブB1乃至B6を総称して、バルブBと称することがある。バルブB1乃至B6の近傍には、マーカM1乃至M6が付されている。マーカM1乃至M6を総称して、マーカMと称することがある。実施形態では、バルブBおよびマーカMは、配管Dごとに設けられるものとする。   Valves B1 to B6 are attached to the pipes D1 to D6. The valves B1 to B6 may be collectively referred to as a valve B. Markers M1 to M6 are attached in the vicinity of the valves B1 to B6. The markers M1 to M6 may be collectively referred to as a marker M. In the embodiment, the valve B and the marker M are provided for each pipe D.

図5は、マーカM1乃至M6に対応付けられた全てのコンテンツC1乃至C6が重畳された場合の画像30の一例を示している。コンテンツC1乃至C6を総称して、コンテンツCと称することがある。   FIG. 5 shows an example of an image 30 when all the contents C1 to C6 associated with the markers M1 to M6 are superimposed. The contents C1 to C6 may be collectively referred to as contents C.

図5は、コンテンツCが文字情報を含む吹き出しである例を示している。コンテンツCは、文字情報を含む吹き出しの例には限定されない。文字情報は、マーカMが付されている配管DのバルブBの開閉要領を示している。   FIG. 5 shows an example in which the content C is a balloon including character information. The content C is not limited to an example of a balloon including character information. The character information indicates how to open and close the valve B of the pipe D to which the marker M is attached.

例えば、図5の例のように、コンテンツC1乃至C6が画像30に重畳されると、表示面4Aには、コンテンツCが相互に重なり合った画像30が表示される。この場合、各コンテンツCのうちの一部または全部の情報が表示面4Aに表示されなくなる。   For example, as shown in the example of FIG. 5, when the contents C1 to C6 are superimposed on the image 30, the image 30 in which the contents C overlap each other is displayed on the display surface 4A. In this case, part or all of the information of each content C is not displayed on the display surface 4A.

例えば、使用者が、バルブB4の開閉操作を行う場合、表示面4Aには、バルブB4の開閉要領を示すコンテンツC4が表示されていることが望ましい。しかし、図5に示す例では、コンテンツC4の一部を覆い隠すように、コンテンツC5が表示されている。すなわち、内容(開閉要領)が認識される程度には、コンテンツC4は表示がされていない。   For example, when the user performs the opening / closing operation of the valve B4, it is desirable that the content C4 indicating the opening / closing procedure of the valve B4 is displayed on the display surface 4A. However, in the example shown in FIG. 5, the content C5 is displayed so as to cover part of the content C4. That is, the content C4 is not displayed to the extent that the content (how to open and close) is recognized.

この場合、使用者は、コンテンツC4に基づいて、バルブB4の開閉要領を認識することは難しい。ここで、表示面4Aに対して入力操作が可能な場合、表示面4Aに表示される画像30に対して、コンテンツC4を選択する操作が行われることで、コンテンツC4を表示面4Aに見やすく表示させることができる。   In this case, it is difficult for the user to recognize the opening / closing procedure of the valve B4 based on the content C4. Here, when an input operation is possible on the display surface 4A, an operation for selecting the content C4 is performed on the image 30 displayed on the display surface 4A, whereby the content C4 is displayed on the display surface 4A in an easy-to-read manner. Can be made.

ただし、表示面4Aは、使用者の眼前に位置するため、使用者が表示面4Aに対してコンテンツC4を選択する操作を行うことは難しい。また、実施形態の表示面4Aは、タブレット端末やスマートフォン等とは異なり、タッチパネルのような入力機能を有していない。   However, since the display surface 4A is positioned in front of the user's eyes, it is difficult for the user to perform an operation of selecting the content C4 on the display surface 4A. Further, the display surface 4A of the embodiment does not have an input function like a touch panel, unlike a tablet terminal or a smartphone.

そこで、画像に複数のコンテンツCを重畳すると、コンテンツCが重なると判定部14が判定した場合、選択部15は、カメラ2の画角の中心(すなわち、画像30の中心)から最も近いマーカMを選択する。図6は、画像30の中心41と各マーカMとのそれぞれの距離の一例を示している。各マーカMのうち、中心41と最も近いマーカMは、マーカM4である。   Therefore, when the determination unit 14 determines that the content C overlaps when a plurality of contents C are superimposed on the image, the selection unit 15 selects the marker M closest to the center of the angle of view of the camera 2 (that is, the center of the image 30). Select. FIG. 6 shows an example of the distance between the center 41 of the image 30 and each marker M. Among the markers M, the marker M closest to the center 41 is the marker M4.

従って、選択部15は、マーカM4を選択する。表示制御部18は、記憶部16に記憶されているコンテンツ関連情報のうち、マーカM4に対応付けられているコンテンツ関連情報を参照する。表示制御部18は、認識したコンテンツ関連情報に基づいて、選択部15が選択したコンテンツC4に対応するコンテンツ領域を特定する。   Accordingly, the selection unit 15 selects the marker M4. The display control unit 18 refers to the content related information associated with the marker M4 among the content related information stored in the storage unit 16. The display control unit 18 specifies a content region corresponding to the content C4 selected by the selection unit 15 based on the recognized content related information.

表示制御部18は、画像30のコンテンツC4のコンテンツ領域に、コンテンツC4のコンテンツデータを重畳する。実施形態では、表示制御部18は、選択部15が選択したマーカM4に対応付けられたコンテンツC4のみを画像30に重畳する。そして、表示制御部18は、コンテンツC4が重畳された画像30を表示面4Aに表示する。   The display control unit 18 superimposes the content data of the content C4 on the content area of the content C4 of the image 30. In the embodiment, the display control unit 18 superimposes only the content C4 associated with the marker M4 selected by the selection unit 15 on the image 30. Then, the display control unit 18 displays the image 30 on which the content C4 is superimposed on the display surface 4A.

図7は、コンテンツC4のみが重畳された画像30の一例を示す。実施形態では、図7の画像30が表示面4Aに表示される。上述したように、使用者がヘッドマウントディスプレイ1を頭部に装着し、使用者の片眼の眼前に表示面4Aを位置させた状態のとき、カメラ2の視野方向は使用者の視野方向と同じ方向になる。   FIG. 7 shows an example of an image 30 on which only the content C4 is superimposed. In the embodiment, the image 30 of FIG. 7 is displayed on the display surface 4A. As described above, when the user wears the head mounted display 1 on the head and the display surface 4A is positioned in front of one eye of the user, the viewing direction of the camera 2 is the viewing direction of the user. In the same direction.

従って、使用者が目的のバルブB4を視認したときに、カメラ2の画角の中心にマーカM4が位置している可能性が高い。表示制御部18は、選択部15が選択したマーカM4に対応付けられたコンテンツC4のみを画像30に重畳し、コンテンツC4のみが重畳された画像30を表示面4Aに表示する。   Therefore, when the user visually recognizes the target valve B4, there is a high possibility that the marker M4 is located at the center of the angle of view of the camera 2. The display control unit 18 superimposes only the content C4 associated with the marker M4 selected by the selection unit 15 on the image 30, and displays the image 30 on which only the content C4 is superimposed on the display surface 4A.

このため、表示面4Aには、使用者がコンテンツC4を選択する操作を行うことなく、コンテンツC4が重畳された画像が表示される。これにより、使用者は、目的のバルブB4の開閉要領を示すコンテンツC4を認識できる。   For this reason, the image on which the content C4 is superimposed is displayed on the display surface 4A without the user performing an operation of selecting the content C4. Thereby, the user can recognize the content C4 indicating the opening and closing procedure of the target valve B4.

このように、コンテンツCが重なると判定部14が判定した場合、選択部15は画像30の中心41に最も近いマーカMを選択し、表示制御部18は、選択されたマーカMに対応付けられたコンテンツCのみを画像30に重畳する。   As described above, when the determination unit 14 determines that the content C overlaps, the selection unit 15 selects the marker M closest to the center 41 of the image 30, and the display control unit 18 is associated with the selected marker M. Only the content C is superimposed on the image 30.

そして、表示制御部18は、選択されたマーカMに対応付けられたコンテンツCのみが重畳された画像30を表示面4Aに表示する。これにより、選択されたマーカMに対応付けられたコンテンツCが優先的に表示面4Aに表示される。   Then, the display control unit 18 displays the image 30 on which only the content C associated with the selected marker M is superimposed on the display surface 4A. As a result, the content C associated with the selected marker M is preferentially displayed on the display surface 4A.

このため、使用者が、ヘッドマウントディスプレイ1に設けられるカメラ2の画角の中心を、所望のコンテンツCに対応付けているマーカMに近づけると、表示面4Aに所望のコンテンツCのみが重畳された画像が表示される。所望のコンテンツCは、使用者が目的とする特定のコンテンツである。   For this reason, when the user brings the center of the angle of view of the camera 2 provided in the head mounted display 1 close to the marker M associated with the desired content C, only the desired content C is superimposed on the display surface 4A. The displayed image is displayed. The desired content C is specific content intended by the user.

図8は、配管D3のバルブB3の開閉要領を示すコンテンツC3のみが重畳された画像30の一例を示している。この場合、使用者は、ヘッドマウントディスプレイ1に設けられるカメラ2の画角の中心を、コンテンツC3を対応付けているマーカM3に近づける。   FIG. 8 shows an example of an image 30 on which only the content C3 indicating the opening and closing procedure of the valve B3 of the pipe D3 is superimposed. In this case, the user brings the center of the angle of view of the camera 2 provided in the head mounted display 1 closer to the marker M3 associated with the content C3.

例えば、使用者は、マーカM3が付されている配管D3を視認する。これにより、カメラ2の画角の中心がコンテンツC3を対応付けているマーカM3に近づく。そして、カメラ2の画角の中心(画像30の中心)に最も近いマーカMがマーカM3になった場合、選択部15はマーカM3を選択する。   For example, the user visually recognizes the pipe D3 to which the marker M3 is attached. Thereby, the center of the angle of view of the camera 2 approaches the marker M3 associated with the content C3. When the marker M closest to the center of the angle of view of the camera 2 (the center of the image 30) becomes the marker M3, the selection unit 15 selects the marker M3.

この場合、表示制御部18は、マーカM3に対応付けられたコンテンツC3のみを画像30に重畳し、コンテンツC3のみが重畳された画像30を表示面4Aに表示する。これにより、使用者は、入力操作を行うことなく、バルブB3の開閉要領を示すコンテンツC3を視認できる。   In this case, the display control unit 18 superimposes only the content C3 associated with the marker M3 on the image 30, and displays the image 30 on which only the content C3 is superimposed on the display surface 4A. Thereby, the user can visually recognize the content C3 indicating the opening and closing procedure of the valve B3 without performing an input operation.

以上の処理は、画像30にコンテンツCを重畳した場合に、複数のコンテンツCのうち何れかのコンテンツCに重なりを生じると判定部14が判定した場合に行われる。   The above processing is performed when the determination unit 14 determines that any content C among the plurality of contents C is overlapped when the content C is superimposed on the image 30.

よって、画像30に複数のコンテンツCを重畳したとしても、コンテンツCが重ならないと判定部14が判定した場合には、表示制御部18は、各コンテンツCをそのまま画像30に重畳する。   Therefore, even if a plurality of contents C are superimposed on the image 30, if the determination unit 14 determines that the contents C do not overlap, the display control unit 18 directly superimposes each content C on the image 30.

例えば、図9は、画像30に、マーカM1とM4とM6とが含まれている例を示している。そして、画像30において、マーカM1に対応付けられたコンテンツC1と、マーカM4に対応付けられたコンテンツC4と、マーカM6に対応付けられたコンテンツC6とは相互に重ならないと判定部14は判定する。   For example, FIG. 9 shows an example in which the image 30 includes markers M1, M4, and M6. Then, in the image 30, the determination unit 14 determines that the content C1 associated with the marker M1, the content C4 associated with the marker M4, and the content C6 associated with the marker M6 do not overlap each other. .

この場合、表示制御部18は、画像30に対してコンテンツC1、C4およびC6を重畳し、各コンテンツCが重畳された画像30が表示面4Aに表示されるように制御する。従って、図9の例のように、各コンテンツCは表示面4Aに表示された状態になる。   In this case, the display control unit 18 superimposes the contents C1, C4, and C6 on the image 30, and controls the image 30 on which the contents C are superimposed on the display surface 4A. Accordingly, as in the example of FIG. 9, each content C is displayed on the display surface 4A.

<実施形態のフローチャート>
次に、実施形態のフローチャートについて説明する。上述したように、使用者の頭部に装着されたヘッドマウントディスプレイ1に設けられるカメラ2は、使用者の視野方向と同じ方向を撮影する。
<Flowchart of Embodiment>
Next, a flowchart of the embodiment will be described. As described above, the camera 2 provided in the head mounted display 1 mounted on the user's head shoots the same direction as the user's visual field direction.

画像入力部11には、カメラ2が撮影した画像30が入力される(ステップS1)。実施形態では、画像入力部11には、所定のフレームレートごとにカメラ2から画像30が入力される。そして、カメラ2から画像入力部11に画像30が入力されるごとに、以下の処理が行われる。   An image 30 captured by the camera 2 is input to the image input unit 11 (step S1). In the embodiment, the image 30 is input from the camera 2 to the image input unit 11 at every predetermined frame rate. Each time the image 30 is input from the camera 2 to the image input unit 11, the following processing is performed.

マーカ認識部12は、画像入力部11に入力された画像30にマーカMが含まれているか否かを判定する(ステップS2)。マーカ認識部12がマーカMを認識しない場合(ステップS2でNO)、表示制御部18は、コンテンツCを含まない画像30を表示面4Aに表示する(ステップS3)。そして、処理は終了する。   The marker recognition unit 12 determines whether or not the marker M is included in the image 30 input to the image input unit 11 (step S2). When the marker recognition unit 12 does not recognize the marker M (NO in step S2), the display control unit 18 displays the image 30 that does not include the content C on the display surface 4A (step S3). Then, the process ends.

マーカ認識部12がマーカMを認識した場合(ステップS2でYES)、マーカ認識部12は、画像30に複数のマーカMが含まれるか否かを判定する(ステップS4)。画像30に複数のマーカMが含まれていないとマーカ認識部12が判定した場合(ステップS4でNO)、ステップS2がYESのため、画像30に含まれるマーカMの数は1つである。   When the marker recognizing unit 12 recognizes the marker M (YES in step S2), the marker recognizing unit 12 determines whether or not the image 30 includes a plurality of markers M (step S4). When the marker recognizing unit 12 determines that a plurality of markers M are not included in the image 30 (NO in step S4), since step S2 is YES, the number of markers M included in the image 30 is one.

この場合、カメラ2の画角内に1つのマーカMが含まれている。従って、画像30に含まれるマーカMは1つであるため、コンテンツCの数も1つになる。表示制御部18は、認識した1つのマーカMに対応付けられている1つのコンテンツCを画像30に重畳する。表示制御部18は、1つのコンテンツCが重畳された画像30を表示面4Aに表示する(ステップS5)。そして、処理は終了する。   In this case, one marker M is included in the angle of view of the camera 2. Therefore, since the number of markers M included in the image 30 is one, the number of contents C is also one. The display control unit 18 superimposes one content C associated with one recognized marker M on the image 30. The display control unit 18 displays the image 30 on which one content C is superimposed on the display surface 4A (step S5). Then, the process ends.

画像30に複数のマーカMが含まれているとマーカ認識部12が判定した場合(ステップS4でYES)、カメラ2の画角内に複数のマーカMが含まれる。この場合、画像30に複数のマーカMが含まれる。   When the marker recognizing unit 12 determines that a plurality of markers M are included in the image 30 (YES in step S4), the plurality of markers M are included within the angle of view of the camera 2. In this case, the image 30 includes a plurality of markers M.

判定部14は、複数のマーカMのそれぞれに対応付けられたコンテンツCのうち何れかのコンテンツCが他のコンテンツCと重なるか否かを判定するコンテンツの重なり判定処理を行う(ステップS6)。重なり判定処理の詳細については、図11を参照しながら後述する。   The determination unit 14 performs content overlap determination processing for determining whether any content C among the content C associated with each of the plurality of markers M overlaps with other content C (step S6). Details of the overlap determination process will be described later with reference to FIG.

複数のマーカMのそれぞれに対応付けられたコンテンツCのうち何れのコンテンツCも他のコンテンツCと重ならないと判定部14が判定した場合(ステップS7でNO)、表示制御部18は、各コンテンツCを画像30に重畳する。そして、表示制御部18は、各コンテンツCが重畳された画像30を表示面4Aに表示する(ステップS8)。ステップS8の後、処理は終了する。   If the determination unit 14 determines that none of the content C associated with each of the plurality of markers M overlaps with the other content C (NO in step S7), the display control unit 18 C is superimposed on the image 30. Then, the display control unit 18 displays the image 30 on which the contents C are superimposed on the display surface 4A (step S8). After step S8, the process ends.

複数のマーカMのそれぞれに対応付けられたコンテンツCのうち何れかのコンテンツCが他のコンテンツCと重なると判定部14が判定した場合(ステップS7でYES)、演算部13は、画像30の中心座標を計算する(ステップS9)。画像30の中心は、カメラ2の画角の中心である。   When the determination unit 14 determines that any content C among the content C associated with each of the plurality of markers M overlaps with the other content C (YES in step S7), the calculation unit 13 Center coordinates are calculated (step S9). The center of the image 30 is the center of the angle of view of the camera 2.

演算部13は、画像30の中心41とマーカMとの間の距離を計算する(ステップS10)。ここで、ステップS10は、ステップS4でYESであるときに実行されるので、画像30には複数のマーカMが含まれている。よって、演算部13は、画像30の中心41と複数のマーカMとの距離をそれぞれ計算する。   The calculator 13 calculates the distance between the center 41 of the image 30 and the marker M (step S10). Here, since step S10 is executed when YES in step S4, the image 30 includes a plurality of markers M. Therefore, the calculation unit 13 calculates the distance between the center 41 of the image 30 and the plurality of markers M, respectively.

実施形態では、画像30の中心41およびマーカMの位置は、XY座標系で表される。この場合、演算部13は、画像30の中心座標と複数のマーカMの座標とのそれぞれの距離を計算する。   In the embodiment, the center 41 of the image 30 and the position of the marker M are expressed in the XY coordinate system. In this case, the calculation unit 13 calculates the distance between the center coordinates of the image 30 and the coordinates of the plurality of markers M.

選択部15は、演算部13が演算した距離のうち最も距離が短いマーカM、つまり画像30の中心41に最も近いマーカMを選択する(ステップS11)。表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCのみを画像30に重畳する(ステップS12)。   The selection unit 15 selects the marker M having the shortest distance among the distances calculated by the calculation unit 13, that is, the marker M closest to the center 41 of the image 30 (step S11). The display control unit 18 superimposes only the content C associated with the marker M selected by the selection unit 15 on the image 30 (step S12).

そして、表示制御部18は、上記のコンテンツCのみが重畳された画像30を表示面4Aに表示する(ステップS13)。これにより、表示面4Aには、カメラ2の画角の中心に最も近いマーカMに対応付けられたコンテンツCのみが重畳された画像30が表示される。すなわち、選択部15が選択したマーカMに対応付けられたコンテンツCが表示された画像が表示面4Aに表示される。   Then, the display control unit 18 displays the image 30 on which only the content C is superimposed on the display surface 4A (step S13). As a result, an image 30 on which only the content C associated with the marker M closest to the center of the angle of view of the camera 2 is superimposed is displayed on the display surface 4A. That is, an image on which the content C associated with the marker M selected by the selection unit 15 is displayed is displayed on the display surface 4A.

次に、図11を参照して、ステップS6のコンテンツの重なり判定処理について説明する。ステップS6のコンテンツの重なり判定処理は、画像30に複数のマーカMが含まれる場合に行われる。   Next, the content overlap determination process in step S6 will be described with reference to FIG. The content overlap determination process in step S6 is performed when the image 30 includes a plurality of markers M.

判定部14は、複数のマーカMにそれぞれ対応付けられたコンテンツCのうち、2つのコンテンツCを対象として、対象とする2つのコンテンツCを画像30に重畳した場合、重畳された2つのコンテンツCが相互に重なるか否かを判定する。   The determination unit 14, when the two contents C targeted for the two contents C among the contents C respectively associated with the plurality of markers M are superimposed on the image 30, the two superimposed contents C It is determined whether or not they overlap each other.

画像30に含まれるコンテンツCの数が3つ以上の場合、判定部14は、2つのコンテンツCの組み合わせを変えながら、全ての組み合わせについて、2つのコンテンツCが重なるか否かを判定する。   When the number of contents C included in the image 30 is three or more, the determination unit 14 determines whether or not the two contents C overlap for all combinations while changing the combination of the two contents C.

ただし、判定部14は、2つのコンテンツCが重なると判定した場合、その時点で、コンテンツの重なり判定処理を終了して、コンテンツCが重なっていることを前提とした処理(図10のステップS9以降の処理)を開始する。   However, if the determination unit 14 determines that the two contents C overlap, the content overlap determination process is terminated at that time, and the process is based on the assumption that the contents C overlap (step S9 in FIG. 10). Subsequent processing) is started.

図11の例では、判定部14は、画像30に含まれる複数のコンテンツCのうち2つのコンテンツCの全ての組み合わせを特定するために、自然数Nおよびnを用いる。Nは、比較対象のコンテンツCを特定するために用いられる。nは、比較対象のコンテンツCと重なるか否かが判定されるコンテンツCを特定するために用いられる。   In the example of FIG. 11, the determination unit 14 uses natural numbers N and n to identify all combinations of two contents C among the plurality of contents C included in the image 30. N is used to specify the content C to be compared. n is used to specify the content C for which it is determined whether or not it overlaps with the content C to be compared.

最初に、判定部14は、Nに1を設定し、nに1を設定する(ステップS21)。そして、判定部14は、N番目のコンテンツCと(N+n)番目のコンテンツCとが重なるか否かを判定する(ステップS22)。   First, the determination unit 14 sets 1 to N and 1 to n (step S21). Then, the determination unit 14 determines whether or not the Nth content C and the (N + n) th content C overlap (step S22).

上述したように、実施形態では、画像30における位置はXY座標系で表される。XY座標系の原点40に最も近いマーカMに対応付けられたコンテンツCを1番目のコンテンツCとする。また、マーカMが原点40から離れるに応じて、コンテンツCの番号が大きくなるものとする。   As described above, in the embodiment, the position in the image 30 is expressed in the XY coordinate system. The content C associated with the marker M closest to the origin 40 of the XY coordinate system is set as the first content C. Further, it is assumed that the number of the content C increases as the marker M moves away from the origin 40.

最初に、判定部14は、Nに1を設定し、nに1を設定している。従って、判定部14は、原点40に最も近いマーカMに対応付けられたコンテンツCとその次に近いマーカMに対応付けられたコンテンツCとが重なるか否かを判定する。   First, the determination unit 14 sets 1 to N and 1 to n. Therefore, the determination unit 14 determines whether or not the content C associated with the marker M closest to the origin 40 and the content C associated with the next closest marker M overlap.

ステップS22の判定の結果、N番目のコンテンツCと(N+n)番目のコンテンツCとが重なると判定部14が判定した場合(ステップS23でYES)、判定部14は、コンテンツCが重なると判定する(ステップS24)。この場合、コンテンツの重なり判定処理は終了する。   When the determination unit 14 determines that the Nth content C and the (N + n) th content C overlap as a result of the determination in step S22 (YES in step S23), the determination unit 14 determines that the content C overlaps. (Step S24). In this case, the content overlap determination process ends.

マーカ認識部12は、画像30に含まれるマーカMの数を認識している。画像に含まれるマーカMの数を自然数MAXとする。コンテンツCの数はMAX個になる。ステップS22において、N番目のコンテンツCと(N+n)番目のコンテンツCとが重ならないと判定部14が判定した場合(ステップS23でNO)、判定部14は、(N+n)がMAXに達したか否かを判定する(ステップS25)。   The marker recognition unit 12 recognizes the number of markers M included in the image 30. The number of markers M included in the image is a natural number MAX. The number of contents C is MAX. If the determination unit 14 determines in step S22 that the Nth content C and the (N + n) th content C do not overlap (NO in step S23), the determination unit 14 determines whether (N + n) has reached MAX. It is determined whether or not (step S25).

(N+n)がMAXに達していない場合(ステップS25でNO)、判定部14はnをインクリメントする(ステップS26)。そして、処理はステップS22に戻る。   When (N + n) has not reached MAX (NO in step S25), the determination unit 14 increments n (step S26). Then, the process returns to step S22.

(N+n)がMAXに達した場合(ステップS25でYES)、判定部14は、NがMAXに達したか否かを判定する(ステップS27)。上述したように、判定部14は、2つのコンテンツCの組み合わせを変えながら、組み合わせた2つのコンテンツCに重なりがあるか否かを判定する。   When (N + n) has reached MAX (YES in step S25), the determination unit 14 determines whether N has reached MAX (step S27). As described above, the determination unit 14 determines whether there is an overlap between the two combined contents C while changing the combination of the two contents C.

例えば、画像に含まれるマーカMの数が6であるとする。この場合、MAXは6になる。ステップS21において、判定部14は、Nに1を設定している。従って、判定部14は、原点40に最も近いマーカMに対応付けられたコンテンツCと残りの5つのコンテンツCとが重なるか否かを1つずつ順番に判定する。   For example, assume that the number of markers M included in the image is six. In this case, MAX is 6. In step S <b> 21, the determination unit 14 sets 1 to N. Accordingly, the determination unit 14 sequentially determines whether or not the content C associated with the marker M closest to the origin 40 and the remaining five content C overlap each other.

その結果、ステップS23の判定がNOであり、且つ、ステップS25の判定がYESになると、判定部14は、原点40に最も近いマーカMに対応付けられたコンテンツCと重なるコンテンツCはないと判定する。この場合、判定部14は、原点40に2番目に近いマーカMに対応付けられたコンテンツCと3番目以降のコンテンツCとが重なるか否かを1つずつ順番に判定する。   As a result, if the determination in step S23 is NO and the determination in step S25 is YES, the determination unit 14 determines that there is no content C overlapping the content C associated with the marker M closest to the origin 40. To do. In this case, the determination unit 14 sequentially determines whether or not the content C associated with the marker M closest to the origin 40 and the third and subsequent content C overlap each other.

上述したように、判定部14は、NがMAXに達したか否かを判定する。NがMAXに達していないと判定部14が判定した場合(ステップS27でNO)、Nをインクリメントし、nに1を設定する(ステップS28)。   As described above, the determination unit 14 determines whether N has reached MAX. If the determination unit 14 determines that N has not reached MAX (NO in step S27), N is incremented and 1 is set to n (step S28).

そして、処理はステップS22に戻る。判定部14は、ステップS22乃至S26の処理を繰り返し行う。NがMAXに達した場合(ステップS27でYES)、複数のコンテンツCのうち2つのコンテンツCの全ての組み合わせについて、判定部14は、2つのコンテンツCが重ならないと判定したことになる。   Then, the process returns to step S22. The determination unit 14 repeatedly performs the processes in steps S22 to S26. When N reaches MAX (YES in step S27), the determination unit 14 determines that the two contents C do not overlap for all combinations of the two contents C among the plurality of contents C.

このため、判定部14は、画像30に含まれる複数のコンテンツCのうち、何れのコンテンツCも他のコンテンツCと重ならないと判定する(ステップS29)。一方、ステップS23の判定がYESの場合、判定部14は、画像30に含まれる複数のコンテンツCのうち、何れかのコンテンツCが他のコンテンツCと重なると判定する。   For this reason, the determination unit 14 determines that none of the contents C included in the image 30 overlaps with the other contents C (step S29). On the other hand, when the determination in step S <b> 23 is YES, the determination unit 14 determines that any one of the contents C included in the image 30 overlaps with the other contents C.

次に、ステップS22における2つのコンテンツ(N番目のコンテンツCおよび(N+n)番目のコンテンツ)を対象とした重なり判定処理について説明する。マーカMに対応付けられたコンテンツCの位置やサイズ等は、同じ場合もあるが、異なる場合もある。   Next, the overlap determination process for two contents (Nth content C and (N + n) th content) in step S22 will be described. The position, size, and the like of the content C associated with the marker M may be the same or different.

従って、判定部14は、画像30に重畳されるコンテンツCの位置やサイズ等に基づいて、N番目のコンテンツCと(N+n)番目のコンテンツCとが相互に重なるか否かを判定する。   Accordingly, the determination unit 14 determines whether or not the Nth content C and the (N + n) th content C overlap each other based on the position, size, and the like of the content C superimposed on the image 30.

図12は、記憶部16が記憶するコンテンツ関連情報の一例を示している。図12(A)は、マーカIDとコンテンツIDとの対応関係をテーブル形式で示した一例である。このテーブルにより、マーカMとコンテンツCとが対応付けられる。図12(A)の例のテーブルにおいては、マーカIDにコンテンツIDとX座標相対位置とY座標相対位置とが対応付けられている。   FIG. 12 shows an example of content-related information stored in the storage unit 16. FIG. 12A is an example showing the correspondence between the marker ID and the content ID in a table format. This table associates the marker M with the content C. In the table in the example of FIG. 12A, the content ID, the X coordinate relative position, and the Y coordinate relative position are associated with the marker ID.

X座標相対位置およびY座標相対位置について説明する。表示制御部18は、マーカMの位置を基準とする所定の相対位置を始点として、コンテンツCを画像30に重畳する。実施形態では、表示制御部18は、図12(A)のテーブルに基づいて、マーカMの中心を基準としたX座標およびY座標の相対位置からコンテンツCを画像30に重畳する。   The X coordinate relative position and the Y coordinate relative position will be described. The display control unit 18 superimposes the content C on the image 30 with a predetermined relative position based on the position of the marker M as a starting point. In the embodiment, the display control unit 18 superimposes the content C on the image 30 from the relative position of the X coordinate and the Y coordinate based on the center of the marker M, based on the table of FIG.

X座標相対位置は、マーカMの中心を基準としたときの、X方向におけるコンテンツ領域の始点を示す位置である。Y座標相対位置は、マーカMの中心を基準としたときの、Y方向におけるコンテンツ領域の始点を示す位置である。   The X coordinate relative position is a position indicating the start point of the content area in the X direction when the center of the marker M is used as a reference. The Y coordinate relative position is a position indicating the start point of the content area in the Y direction when the center of the marker M is used as a reference.

図12(B)は、コンテンツIDとコンテンツサイズ(X方向サイズおよびY方向サイズ)との対応関係をテーブル形式で示した一例である。表示制御部18は、X座標相対位置およびY座標相対位置で特定される位置を始点として、コンテンツIDに対応するX方向サイズおよびY方向サイズで規定される領域にコンテンツCを重畳する。この領域が、上述したコンテンツ領域になる。   FIG. 12B is an example showing the correspondence relationship between the content ID and the content size (X direction size and Y direction size) in a table format. The display control unit 18 superimposes the content C on an area defined by the X-direction size and the Y-direction size corresponding to the content ID, starting from the position specified by the X-coordinate relative position and the Y-coordinate relative position. This area is the content area described above.

図12(C)は、コンテンツIDとコンテンツデータとの対応関係をテーブル形式で示した一例である。表示制御部18は、コンテンツIDに対応付けられたコンテンツデータを画像30中のコンテンツ領域に重畳する。   FIG. 12C is an example showing the correspondence between content IDs and content data in a table format. The display control unit 18 superimposes the content data associated with the content ID on the content area in the image 30.

図12の各テーブルは、1つのテーブルであってもよい。例えば、記憶部16は、マーカIDをキーとして、図12の各テーブルの項目の情報を対応付けたテーブルを記憶してもよい。   Each table in FIG. 12 may be one table. For example, the storage unit 16 may store a table in which information of items in each table in FIG. 12 is associated using the marker ID as a key.

図13は、マーカMと該マーカMに対応付けられたコンテンツCのコンテンツ領域との関係の一例を示す図である。図13の例では、マーカMの中心のX座標はマーカX座標であり、マーカMの中心のY座標はマーカY座標である。なお、マーカX座標およびマーカY座標は、マーカMの中心でなくてもよい。   FIG. 13 is a diagram illustrating an example of the relationship between the marker M and the content area of the content C associated with the marker M. In the example of FIG. 13, the X coordinate at the center of the marker M is the marker X coordinate, and the Y coordinate at the center of the marker M is the marker Y coordinate. Note that the marker X coordinate and the marker Y coordinate may not be the center of the marker M.

画像30に含まれるマーカMをマーカ認識部12が認識した場合、表示制御部18は、記憶部16に記憶されているテーブルのうち、マーカ認識部12が認識したマーカMに対応付けられたX座標相対位置およびY座標相対位置を参照する。   When the marker recognizing unit 12 recognizes the marker M included in the image 30, the display control unit 18 sets the X associated with the marker M recognized by the marker recognizing unit 12 in the table stored in the storage unit 16. Refer to the coordinate relative position and the Y coordinate relative position.

X座標相対位置は、マーカX座標を基準としたコンテンツCの始点のX座標(以下、コンテンツ始点X座標と称する)である。Y座標相対位置は、マーカY座標を基準としたコンテンツCの始点のY座標(以下、コンテンツ始点Y座標と称する)である。   The X coordinate relative position is the X coordinate of the start point of the content C with reference to the marker X coordinate (hereinafter referred to as the content start point X coordinate). The Y coordinate relative position is the Y coordinate of the start point of the content C with the marker Y coordinate as a reference (hereinafter referred to as the content start point Y coordinate).

表示制御部18は、記憶部16に記憶されているテーブルのうち、コンテンツCのX方向サイズおよびY方向サイズを参照する。コンテンツ始点X座標から、X方向において、X方向サイズ離れた座標をコンテンツ終点X座標とする。また、コンテンツ始点Y座標から、Y方向において、Y方向サイズ離れた座標をコンテンツ終点Y座標とする。   The display control unit 18 refers to the X direction size and the Y direction size of the content C among the tables stored in the storage unit 16. The content distance X coordinate in the X direction from the content start point X coordinate is set as the content end point X coordinate. In addition, a coordinate that is distant from the content start point Y coordinate in the Y direction in the Y direction is set as a content end point Y coordinate.

従って、コンテンツ領域は、コンテンツ始点X座標とコンテンツ始点Y座標とコンテンツ終点X座標とコンテンツ終点Y座標とにより規定される。表示制御部18は、コンテンツCを重畳する場合、コンテンツIDに対応付けられているコンテンツデータを画像のコンテンツ領域に重畳する。   Therefore, the content area is defined by the content start point X coordinate, the content start point Y coordinate, the content end point X coordinate, and the content end point Y coordinate. When superimposing the content C, the display control unit 18 superimposes the content data associated with the content ID on the content area of the image.

図13の例では、マーカMとコンテンツCを重畳するコンテンツ領域とは離間している。このため、表示制御部18は、コンテンツCとマーカMとを結ぶマーカ指示部PをコンテンツCに結合する。以下、画像30にコンテンツCが重畳される場合、表示制御部18は、コンテンツCと共にマーカ指示部Pも画像30に重畳するものとする。   In the example of FIG. 13, the marker M and the content area where the content C is superimposed are separated. Therefore, the display control unit 18 couples the marker instruction unit P that connects the content C and the marker M to the content C. Hereinafter, when the content C is superimposed on the image 30, the display control unit 18 also superimposes the marker instruction unit P on the image 30 together with the content C.

図14(A)は、X方向において、コンテンツC4とコンテンツC5とが重なる場合の一例を示している。図14(B)は、X方向において、コンテンツC4とコンテンツC5とが重ならない場合の一例を示している。   FIG. 14A illustrates an example in which the content C4 and the content C5 overlap in the X direction. FIG. 14B illustrates an example of the case where the content C4 and the content C5 do not overlap in the X direction.

図14(A)の場合、コンテンツC5のコンテンツ始点X座標は、コンテンツC4のコンテンツ終点X座標よりも原点40に近い。従って、コンテンツC4のコンテンツ終点X座標の座標値は、コンテンツC5のコンテンツ始点X座標の座標値より大きい値になる。   In the case of FIG. 14A, the content start point X coordinate of the content C5 is closer to the origin 40 than the content end point X coordinate of the content C4. Accordingly, the coordinate value of the content end point X coordinate of the content C4 is larger than the coordinate value of the content start point X coordinate of the content C5.

この場合、X方向において、コンテンツC4のコンテンツ領域とコンテンツC5のコンテンツ領域とは重なる。従って、判定部14は、X方向において、コンテンツC4とコンテンツC5とは重なると判定する。   In this case, the content area of the content C4 and the content area of the content C5 overlap in the X direction. Therefore, the determination unit 14 determines that the content C4 and the content C5 overlap in the X direction.

ここで、図14(A)および図14(B)の例において、Y方向にのみ着目すると、コンテンツC4とコンテンツC5とは、コンテンツ領域が相互に重なる関係にある。この場合、図14(A)の例では、判定部14は、X方向およびY方向において、コンテンツC4とコンテンツC5とは相互に重なると判定する。   Here, in the example of FIGS. 14A and 14B, when attention is paid only to the Y direction, the content C4 and the content C5 are in a relationship in which the content areas overlap each other. In this case, in the example of FIG. 14A, the determination unit 14 determines that the content C4 and the content C5 overlap each other in the X direction and the Y direction.

実施形態では、2つのコンテンツCのコンテンツ領域がX方向およびY方向の2方向で重なる場合、判定部14は、2つのコンテンツCが重なると判定する。また、2つのコンテンツCのコンテンツ領域がX方向とY方向とのうち何れか一方の方向で重ならない場合、判定部14は、2つのコンテンツCは重ならないと判定する。   In the embodiment, when the content areas of the two contents C overlap in the two directions of the X direction and the Y direction, the determination unit 14 determines that the two contents C overlap. If the content areas of the two contents C do not overlap in either the X direction or the Y direction, the determination unit 14 determines that the two contents C do not overlap.

よって、図14(A)の場合、コンテンツC4とコンテンツC5とは、X方向およびY方向において、コンテンツ領域が重なるため、判定部14は、コンテンツC4とコンテンツC5とは重なると判定する。   Therefore, in the case of FIG. 14A, since the content areas of the content C4 and the content C5 overlap in the X direction and the Y direction, the determination unit 14 determines that the content C4 and the content C5 overlap.

図14(B)におけるマーカM4とマーカM5との間隔は、図14(A)におけるマーカM4とマーカM5との間隔よりも長い。図14(B)の場合、コンテンツC4のコンテンツ終点X座標は、コンテンツC5のコンテンツ始点X座標よりも原点40に近い。   The interval between the marker M4 and the marker M5 in FIG. 14B is longer than the interval between the marker M4 and the marker M5 in FIG. In the case of FIG. 14B, the content end point X coordinate of the content C4 is closer to the origin 40 than the content start point X coordinate of the content C5.

従って、コンテンツC5のコンテンツ始点X座標の座標値は、コンテンツC4のコンテンツ終点X座標の座標値より大きい値になる。この場合、X方向においては、コンテンツC4のコンテンツ領域とコンテンツC5のコンテンツ領域とは重ならない。   Therefore, the coordinate value of the content start point X coordinate of the content C5 is larger than the coordinate value of the content end point X coordinate of the content C4. In this case, the content area of the content C4 and the content area of the content C5 do not overlap in the X direction.

判定部14は、X方向において、コンテンツC4とコンテンツC5とは重ならないと判定する。従って、図14(B)の例の場合、判定部14は、コンテンツC4とコンテンツC5とは重ならないと判定する。   The determination unit 14 determines that the content C4 and the content C5 do not overlap in the X direction. Therefore, in the example of FIG. 14B, the determination unit 14 determines that the content C4 and the content C5 do not overlap.

図15(A)は、Y方向において、コンテンツC4とコンテンツC5とが重なる場合の一例を示している。図15(B)は、Y方向において、コンテンツC4とコンテンツC5とが重ならない場合の一例を示している。   FIG. 15A illustrates an example in which the content C4 and the content C5 overlap in the Y direction. FIG. 15B illustrates an example in which the content C4 and the content C5 do not overlap in the Y direction.

ここで、図15(A)および図15(B)の例において、X方向にのみ着目すると、コンテンツC4とコンテンツC5とは、コンテンツ領域が重なる関係にある。   Here, in the example of FIGS. 15A and 15B, when attention is paid only to the X direction, the content C4 and the content C5 have a relationship in which the content areas overlap.

上述したX方向の場合と同様、2つのコンテンツCのコンテンツ領域がX方向およびY方向の2方向で重なる場合、判定部14は、2つのコンテンツCが重なると判定する。また、2つのコンテンツCのコンテンツ領域がX方向とY方向とのうち何れか一方の方向で重ならない場合、判定部14は、2つのコンテンツCは重ならないと判定する。   As in the case of the X direction described above, when the content areas of the two contents C overlap in the two directions of the X direction and the Y direction, the determination unit 14 determines that the two contents C overlap. If the content areas of the two contents C do not overlap in either the X direction or the Y direction, the determination unit 14 determines that the two contents C do not overlap.

図15(A)の場合、コンテンツC4のコンテンツ終点Y座標の座標値は、コンテンツC5のコンテンツ始点Y座標の座標値より大きい値になる。この場合、コンテンツC4のコンテンツ領域とコンテンツC5のコンテンツ領域とは重なるため、判定部14は、Y方向において、コンテンツC4とコンテンツC5とは重なると判定する。   In the case of FIG. 15A, the coordinate value of the content end point Y coordinate of the content C4 is larger than the coordinate value of the content start point Y coordinate of the content C5. In this case, since the content area of the content C4 and the content area of the content C5 overlap, the determination unit 14 determines that the content C4 and the content C5 overlap in the Y direction.

この場合、判定部14は、コンテンツC4とコンテンツC5とは、X方向およびY方向において、重なると判定する。従って、判定部14は、コンテンツC4とコンテンツC5とは重なると判定する。   In this case, the determination unit 14 determines that the content C4 and the content C5 overlap in the X direction and the Y direction. Therefore, the determination unit 14 determines that the content C4 and the content C5 overlap.

図15(B)の場合、コンテンツC5のコンテンツ始点Y座標の座標値は、コンテンツC4のコンテンツ終点Y座標の座標値より大きい値になる。この場合、コンテンツC4のコンテンツ領域とコンテンツC5のコンテンツ領域とは重ならない。従って、判定部14は、Y方向において、コンテンツC4とコンテンツC5とは重ならないと判定する。   In the case of FIG. 15B, the coordinate value of the content start point Y coordinate of the content C5 is larger than the coordinate value of the content end point Y coordinate of the content C4. In this case, the content area of the content C4 and the content area of the content C5 do not overlap. Therefore, the determination unit 14 determines that the content C4 and the content C5 do not overlap in the Y direction.

この場合、判定部14は、コンテンツC4とコンテンツC5とは、Y方向において重ならないと判定する。従って、判定部14は、コンテンツC4とコンテンツC5とは重ならないと判定する。   In this case, the determination unit 14 determines that the content C4 and the content C5 do not overlap in the Y direction. Therefore, the determination unit 14 determines that the content C4 and the content C5 do not overlap.

図16は、図11のステップS22のコンテンツの重なり判定の処理の一例を示すフローチャートである。以下、コンテンツ始点X座標を始点X座標、コンテンツ終点X座標を終点X座標、コンテンツ始点Y座標を始点Y座標、コンテンツ終点Y座標を終点Y座標と称する。   FIG. 16 is a flowchart illustrating an example of content overlap determination processing in step S22 of FIG. Hereinafter, the content start point X coordinate is referred to as a start point X coordinate, the content end point X coordinate is referred to as an end point X coordinate, the content start point Y coordinate is referred to as a start point Y coordinate, and the content end point Y coordinate is referred to as an end point Y coordinate.

判定部14は、N番目のコンテンツCの終点X座標と(N+n)番目のコンテンツCの始点X座標との座標値を比較する(ステップS31)。判定部14は、比較の結果に応じて、以下の処理を行う。   The determination unit 14 compares the coordinate values of the end point X coordinate of the Nth content C and the start point X coordinate of the (N + n) th content C (step S31). The determination unit 14 performs the following processing according to the comparison result.

N番目のコンテンツCの終点X座標の座標値が(N+n)番目のコンテンツCの始点X座標の座標値未満の場合(ステップS32でNO)、X方向において、N番目のコンテンツCと(N+n)番目のコンテンツCとは、コンテンツ領域が重ならない。   When the coordinate value of the end point X coordinate of the Nth content C is less than the coordinate value of the start point X coordinate of the (N + n) th content C (NO in step S32), the Nth content C and (N + n) in the X direction The content area does not overlap with the second content C.

この場合、判定部14は、N番目のコンテンツCと(N+n)番目のコンテンツCとは重ならないと判定する(ステップS33)。   In this case, the determination unit 14 determines that the Nth content C and the (N + n) th content C do not overlap (step S33).

N番目のコンテンツCの終点X座標の座標値が(N+n)番目のコンテンツCの始点X座標の座標値以上の場合(ステップS32でYES)、X方向において、N番目のコンテンツCと(N+n)番目のコンテンツCとは、コンテンツ領域が重なる。   When the coordinate value of the end point X coordinate of the Nth content C is equal to or greater than the coordinate value of the start point X coordinate of the (N + n) th content C (YES in step S32), the Nth content C and (N + n) in the X direction. The content area overlaps with the second content C.

この場合、判定部14は、N番目のコンテンツCの終点Y座標と(N+n)番目のコンテンツCの始点Y座標との座標値を比較する(ステップS34)。判定部14は、比較の結果に応じて、以下の処理を行う。   In this case, the determination unit 14 compares the coordinate values of the end point Y coordinate of the Nth content C and the start point Y coordinate of the (N + n) th content C (step S34). The determination unit 14 performs the following processing according to the comparison result.

N番目のコンテンツCの終点Y座標の座標値が(N+n)番目のコンテンツCの始点Y座標の座標値未満の場合(ステップS35でNO)、Y方向において、N番目のコンテンツCと(N+n)番目のコンテンツCとは、コンテンツ領域が重ならない。   When the coordinate value of the end point Y coordinate of the Nth content C is less than the coordinate value of the start point Y coordinate of the (N + n) th content C (NO in step S35), the Nth content C and (N + n) in the Y direction. The content area does not overlap with the second content C.

この場合、判定部14は、N番目のコンテンツCと(N+n)番目のコンテンツCとは重ならないと判定する(ステップS36)。   In this case, the determination unit 14 determines that the Nth content C and the (N + n) th content C do not overlap (step S36).

N番目のコンテンツCの終点Y座標の座標値が(N+n)番目のコンテンツCの始点Y座標の座標値以上の場合(ステップS35でYES)、Y方向において、N番目のコンテンツCと(N+n)番目のコンテンツCとは、コンテンツ領域が重なる。   When the coordinate value of the end point Y coordinate of the Nth content C is equal to or greater than the coordinate value of the start point Y coordinate of the (N + n) th content C (YES in step S35), the Nth content C and (N + n) in the Y direction. The content area overlaps with the second content C.

この場合、N番目のコンテンツCと(N+n)番目のコンテンツCとは、X方向においても、Y方向においても、コンテンツ領域が重なる。従って、判定部14は、N番目のコンテンツCと(N+n)番目のコンテンツCとは重なると判定する(ステップS37)。   In this case, the Nth content C and the (N + n) th content C overlap in the content area both in the X direction and in the Y direction. Therefore, the determination unit 14 determines that the Nth content C and the (N + n) th content C overlap (step S37).

判定部14は、以上の処理を行うことにより、N番目のコンテンツCと(N+n)番目のコンテンツCとが重なるか否かを判定する。   The determination unit 14 determines whether or not the Nth content C and the (N + n) th content C overlap by performing the above processing.

上述したように、判定部14は、Nおよびnの値を変化させることで、画像30に含まれる各マーカMに対応付けられたコンテンツCが重なると判定するまで、全ての組み合わせについて、コンテンツCが重なるか否かを判定する。   As described above, the determination unit 14 changes the values of N and n to determine that the content C associated with each marker M included in the image 30 overlaps the content C for all combinations. It is determined whether or not.

画像30に含まれる複数のコンテンツCのうち、何れのコンテンツCも他のコンテンツCと重ならないと判定部14が判定した場合、表示制御部18は、複数のマーカMに対応付けられたコンテンツCを画像30に重畳する。表示制御部18は、複数のコンテンツCが重畳された画像30を表示面4Aに表示する。   When the determination unit 14 determines that none of the content C included in the image 30 overlaps with the other content C, the display control unit 18 displays the content C associated with the plurality of markers M. Is superimposed on the image 30. The display control unit 18 displays the image 30 on which the plurality of contents C are superimposed on the display surface 4A.

画像30に含まれる複数のコンテンツCのうち、何れかのコンテンツCが他のコンテンツCと重なると判定部14が判定した場合、選択部15は、画像30の中心に最も近いマーカMを選択する。   When the determination unit 14 determines that any one of the content C included in the image 30 overlaps the other content C, the selection unit 15 selects the marker M closest to the center of the image 30. .

表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCのみを画像30に重畳し、選択されたコンテンツCのみが重畳された画像30を表示面4Aに表示する。   The display control unit 18 superimposes only the content C associated with the marker M selected by the selection unit 15 on the image 30, and displays the image 30 on which only the selected content C is superimposed on the display surface 4A.

従って、複数のコンテンツCを画像30に重畳すると、コンテンツCが重なる場合であっても、使用者は、入力操作を行うことなく、複数のコンテンツCのうち、特定のコンテンツCが表示された画像30を表示面4Aで視認することができる。   Therefore, when a plurality of contents C are superimposed on the image 30, even if the contents C overlap, the user does not perform an input operation, and the image in which the specific content C is displayed among the plurality of contents C. 30 can be visually recognized on the display surface 4A.

<第1変形例>
次に、第1変形例について説明する。第1変形例では、判定部14は、画像30の全範囲ではなく、画像30の中心41から所定の範囲(以下、対象範囲とする)に含まれるマーカMが重なるか否かを判定する。
<First Modification>
Next, a first modification will be described. In the first modification, the determination unit 14 determines whether or not the marker M included in a predetermined range (hereinafter referred to as a target range) overlaps from the center 41 of the image 30 instead of the entire range of the image 30.

図17は、画像30において、判定部14が判定の対象とする対象範囲43の一例を示している。対象範囲43は、任意の範囲であってよい。実施形態では、対象範囲43は、予め判定部14に設定されているものとする。   FIG. 17 shows an example of a target range 43 to be determined by the determination unit 14 in the image 30. The target range 43 may be an arbitrary range. In the embodiment, it is assumed that the target range 43 is set in the determination unit 14 in advance.

図17の例の場合、マーカM2乃至M5が対象範囲43に含まれる。従って、マーカM1およびM6は、対象範囲43に含まれないため、コンテンツC1およびコンテンツC6は、判定部14の判定の対象にはならない。   In the case of the example of FIG. 17, the markers M <b> 2 to M <b> 5 are included in the target range 43. Therefore, since the markers M1 and M6 are not included in the target range 43, the content C1 and the content C6 are not subject to determination by the determination unit 14.

判定部14は、マーカM2乃至M5に対応付けられたコンテンツC2乃至C5が重なるか否かを判定する。図18の例の場合、判定部14は、コンテンツC2乃至C5の全てのコンテンツCが重なると判定する。   The determination unit 14 determines whether the contents C2 to C5 associated with the markers M2 to M5 overlap. In the example of FIG. 18, the determination unit 14 determines that all the contents C of the contents C2 to C5 overlap.

コンテンツCが重なるか否かを判定部14が判定する手法は、上述した実施形態と同様である。第1変形例では、判定部14は、対象範囲43に含まれるマーカMに絞って、コンテンツCの重なり判定を行う。   The method by which the determination unit 14 determines whether or not the content C overlaps is the same as in the above-described embodiment. In the first modification, the determination unit 14 determines whether the content C overlaps by focusing on the marker M included in the target range 43.

上述した実施形態では、判定部14は、画像30の全範囲に含まれるマーカMを対象として、コンテンツCの重なり判定を行う。図18の例に示すように、画像30に含まれるマーカMの数は6である。よって、上述したMAXは6になる。   In the above-described embodiment, the determination unit 14 determines the overlap of the content C with respect to the marker M included in the entire range of the image 30. As shown in the example of FIG. 18, the number of markers M included in the image 30 is six. Therefore, the above-mentioned MAX is 6.

従って、上述した実施形態では、判定部14は、対象とする2つのコンテンツCが重なると判定するまで、6つのコンテンツCのうち2つのコンテンツCの全ての組み合わせについて、コンテンツCの重なり判定を行う。   Therefore, in the above-described embodiment, the determination unit 14 determines whether the content C overlaps for all combinations of the two contents C among the six contents C until it is determined that the two target contents C overlap. .

一方、第1変形例では、判定部14は、対象範囲43に含まれる4つのマーカM2乃至M5に対応付けられたコンテンツC2乃至C5を判定の対象とする。よって、判定部14は、4つのコンテンツCに判定の対象を絞って、対象とする2つのコンテンツCが重なると判定するまで、コンテンツCの重なり判定を行う。   On the other hand, in the first modification, the determination unit 14 sets the contents C2 to C5 associated with the four markers M2 to M5 included in the target range 43 as determination targets. Therefore, the determination unit 14 narrows the determination target to the four contents C, and performs overlapping determination of the contents C until it is determined that the two target contents C overlap.

このため、実施形態の場合と比較して、第1変形例では、判定部14が行う判定処理の回数が少なくなる。判定部14が行う処理量が少なくなるため、コンテンツCの重なり判定にかかる時間が短くなる。   For this reason, compared with the case of embodiment, in the 1st modification, the frequency | count of the determination process which the determination part 14 performs decreases. Since the amount of processing performed by the determination unit 14 is reduced, the time required for determining the overlap of the content C is shortened.

対象範囲43の範囲内でコンテンツCが重なると判定部14が判定した場合、演算部13は、画像30の中心41とマーカM2乃至M5とのそれぞれの距離を計算する。図19の例の場合、画像30の中心41に最も近いマーカMはマーカM4であるため、選択部15は、マーカM4を選択する。   When the determination unit 14 determines that the content C overlaps within the range of the target range 43, the calculation unit 13 calculates the distance between the center 41 of the image 30 and the markers M2 to M5. In the case of the example of FIG. 19, since the marker M closest to the center 41 of the image 30 is the marker M4, the selection unit 15 selects the marker M4.

表示制御部18は、選択部15が選択したマーカM4に対応付けられたコンテンツC4のみを画像30に重畳する。また、第1変形例では、表示制御部18は、中心特定図形44および対象範囲枠45を画像30に重畳する。   The display control unit 18 superimposes only the content C4 associated with the marker M4 selected by the selection unit 15 on the image 30. In the first modification, the display control unit 18 superimposes the center specifying graphic 44 and the target range frame 45 on the image 30.

図20は、コンテンツC4、中心特定図形44および対象範囲枠45が重畳された画像30の一例を示している。表示制御部18は、図18の例の画像30を表示面4Aに表示する。   FIG. 20 shows an example of an image 30 on which the content C4, the center specifying figure 44, and the target range frame 45 are superimposed. The display control unit 18 displays the image 30 in the example of FIG. 18 on the display surface 4A.

図20の例において、中心特定図形44は十字の点線であり、対象範囲枠45は、矩形の点線である。中心特定図形44は、画像30の中心41を特定する図形であり、図20の例では、十字の交点が画像30の中心41であることを示す。中心特定図形44および対象範囲枠45の態様は、図20の例には限定されない。   In the example of FIG. 20, the center specifying figure 44 is a cross dotted line, and the target range frame 45 is a rectangular dotted line. The center specifying figure 44 is a figure that specifies the center 41 of the image 30, and indicates that the intersection of the crosses is the center 41 of the image 30 in the example of FIG. 20. The aspect of the center specific figure 44 and the target range frame 45 is not limited to the example of FIG.

演算部13は、画像30の中心41を計算している。表示制御部18は、画像30の中心41を認識して、中心特定図形44を画像30に重畳する。また、判定部14には、対象範囲43が設定されている。表示制御部18は、対象範囲43を認識して、対象範囲43を示す対象範囲枠45を画像30に重畳する。   The calculation unit 13 calculates the center 41 of the image 30. The display control unit 18 recognizes the center 41 of the image 30 and superimposes the center specifying figure 44 on the image 30. Further, a target range 43 is set in the determination unit 14. The display control unit 18 recognizes the target range 43 and superimposes the target range frame 45 indicating the target range 43 on the image 30.

画像30に重畳された中心特定図形44は、特定のコンテンツCを表示させるときの手掛かりとなる。中心特定図形44が重畳された画像30が表示面4Aに表示されると、使用者は、表示面4Aに表示されている画像30のうち中心41を認識できる。   The center specific figure 44 superimposed on the image 30 serves as a clue when displaying the specific content C. When the image 30 on which the center specific figure 44 is superimposed is displayed on the display surface 4A, the user can recognize the center 41 in the image 30 displayed on the display surface 4A.

選択部15は、画像30の中心41に最も近いマーカMを選択する。表示制御部18は、選択部15が選択したマーカMを画像30に重畳し、マーカMが重畳された画像30を表示面4Aに表示する制御を行う。   The selection unit 15 selects the marker M that is closest to the center 41 of the image 30. The display control unit 18 performs control to superimpose the marker M selected by the selection unit 15 on the image 30 and display the image 30 on which the marker M is superimposed on the display surface 4A.

従って、画像30の中心41は、選択部15がマーカMを選択する基準となるため、ヘッドマウントディスプレイ1を装着した使用者は、画像30の中心41を認識することが好ましい。このため、第1変形例では、表示制御部18は、画像30に中心特定図形44を重畳する。   Accordingly, since the center 41 of the image 30 serves as a reference for the selection unit 15 to select the marker M, it is preferable that the user wearing the head mounted display 1 recognizes the center 41 of the image 30. For this reason, in the first modification, the display control unit 18 superimposes the center specifying figure 44 on the image 30.

例えば、ヘッドマウントディスプレイ1を装着した使用者は、表示面4Aに表示されている中心特定図形44が、開閉操作を行うバルブBの配管Dに近づくように、カメラ2の視野方向を変化させる。これにより、中心特定図形44が手掛かりとなるため、目的のコンテンツCと対応付けられているマーカMを画像30の中心41に近づけることができる。   For example, the user wearing the head mounted display 1 changes the viewing direction of the camera 2 so that the center specifying figure 44 displayed on the display surface 4A approaches the pipe D of the valve B that performs the opening / closing operation. Thereby, since the center specific figure 44 becomes a clue, the marker M associated with the target content C can be brought close to the center 41 of the image 30.

第1変形例では、表示制御部18は、画像30に対象範囲枠45を重畳し、対象範囲枠45が重畳された画像30を表示面4Aに表示する制御を行う。画像30に対象範囲枠45を重畳することで、対象範囲枠45の範囲外のマーカMに対応付けられたコンテンツCは表示されないことが使用者に提示される。   In the first modification, the display control unit 18 performs control to superimpose the target range frame 45 on the image 30 and display the image 30 on which the target range frame 45 is superimposed on the display surface 4A. By superimposing the target range frame 45 on the image 30, it is indicated to the user that the content C associated with the marker M outside the range of the target range frame 45 is not displayed.

図21は、第1変形例のフローチャートの一例を示している。第1変形例のフローチャートは、上述した実施形態の図10のフローチャートとステップS6−1およびステップS9−1が異なる。第1変形例のその他のステップは、図10のフローチャートのステップと同じである。   FIG. 21 shows an example of a flowchart of the first modification. The flowchart of the first modification is different from the flowchart of FIG. 10 of the above-described embodiment in steps S6-1 and S9-1. The other steps of the first modification are the same as the steps in the flowchart of FIG.

判定部14は、対象範囲43に含まれるマーカMに絞って、コンテンツCの重なり判定を行う(ステップS6−1)。判定部14がコンテンツCの重なり判定を行う手法は、上述した実施形態と同じである。ただし、判定対象のコンテンツCは、対象範囲43に含まれるマーカMに対応付けられたコンテンツCに絞られる。   The determination unit 14 determines whether the content C overlaps by focusing on the marker M included in the target range 43 (step S6-1). The method in which the determination unit 14 determines the overlap of the content C is the same as that in the above-described embodiment. However, the content C to be determined is narrowed down to the content C associated with the marker M included in the target range 43.

表示制御部18は、中心特定図形44および対象範囲枠45を画像30に重畳する(ステップS9−1)。また、ステップS12において、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCのみを画像30に重畳する。   The display control unit 18 superimposes the center specifying figure 44 and the target range frame 45 on the image 30 (step S9-1). In step S <b> 12, the display control unit 18 superimposes only the content C associated with the marker M selected by the selection unit 15 on the image 30.

ステップS13において、表示制御部18は、コンテンツCが重畳された画像30を表示面4Aに表示する。このとき、画像30には中心特定図形44および対象範囲枠45が重畳されている。   In step S13, the display control unit 18 displays the image 30 on which the content C is superimposed on the display surface 4A. At this time, the center specifying figure 44 and the target range frame 45 are superimposed on the image 30.

従って、表示面4Aには、選択部15が選択したマーカMに対応付けられたコンテンツC、中心特定図形44および対象範囲枠45が重畳された画像30が表示される。これにより、使用者は、表示面4Aに表示される画像30に基づいて、該画像30の中心を認識することができる。   Therefore, on the display surface 4A, the image 30 on which the content C associated with the marker M selected by the selection unit 15, the center specifying figure 44, and the target range frame 45 are superimposed is displayed. Accordingly, the user can recognize the center of the image 30 based on the image 30 displayed on the display surface 4A.

表示面4Aに画像30の中心を表示するという点では、ステップS9−1において、表示制御部18は、中心特定図形44を表示し、対象範囲枠45を表示しなくてもよい。これにより、表示面4Aには、中心特定図形44が重畳された画像30が表示される。   In the point that the center of the image 30 is displayed on the display surface 4A, the display control unit 18 may not display the target range frame 45 in step S9-1. Thereby, the image 30 on which the center specific figure 44 is superimposed is displayed on the display surface 4A.

<第2変形例>
次に、第2変形例について説明する。第2変形例では、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCだけでなく、このコンテンツC以外の1または複数のコンテンツCも画像30に重畳する。
<Second Modification>
Next, a second modification will be described. In the second modification, the display control unit 18 superimposes not only the content C associated with the marker M selected by the selection unit 15 but also one or a plurality of content C other than the content C on the image 30.

従って、表示面4Aに表示される画像30には、複数のコンテンツCが含まれる。第2変形例では、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCが最前面となるように、各コンテンツCを画像30に重畳する。これにより、選択部15が選択したマーカMに対応付けられたコンテンツCが優先的に画像30に重畳される。   Therefore, the image 30 displayed on the display surface 4A includes a plurality of contents C. In the second modification, the display control unit 18 superimposes each content C on the image 30 so that the content C associated with the marker M selected by the selection unit 15 is the foreground. Thereby, the content C associated with the marker M selected by the selection unit 15 is preferentially superimposed on the image 30.

このため、表示面4Aには、選択されたマーカMに対応付けられたコンテンツCが重畳された画像30が優先的に表示される。図22は、第2変形例の画像30の一例である。例えば、マーカM4が画像30の中心に最も近い場合、選択部15は、マーカM4を選択する。   For this reason, the image 30 on which the content C associated with the selected marker M is superimposed is preferentially displayed on the display surface 4A. FIG. 22 is an example of an image 30 of the second modified example. For example, when the marker M4 is closest to the center of the image 30, the selection unit 15 selects the marker M4.

表示制御部18は、対象範囲43に含まれるマーカM2乃至M5に対応付けられたコンテンツC2乃至C5を画像30に重畳するときに、マーカM4に対応付けられたコンテンツC4が最前面となるように、各コンテンツCを画像30に重畳する。   When the display control unit 18 superimposes the contents C2 to C5 associated with the markers M2 to M5 included in the target range 43 on the image 30, the content C4 associated with the marker M4 is brought to the forefront. Each content C is superimposed on the image 30.

従って、表示面4Aには、コンテンツC4が最前面に重畳された状態の画像30が表示される。このため、ヘッドマウントディスプレイ1を装着した使用者は、表示面4Aに対して入力操作を行うことなく、コンテンツC4の内容を視認することができる。   Accordingly, the image 30 with the content C4 superimposed on the foreground is displayed on the display surface 4A. For this reason, the user wearing the head mounted display 1 can visually recognize the contents of the content C4 without performing an input operation on the display surface 4A.

図23は、第2変形例のフローチャートの一例を示している。第2変形例のフローチャートは、第1変形例のフローチャートと、ステップS12−1が異なる。図23のフローチャートのその他のステップは、第1変形例のフローチャートと同じである。   FIG. 23 shows an example of a flowchart of the second modification. The flowchart of the second modification is different from the flowchart of the first modification in step S12-1. Other steps of the flowchart of FIG. 23 are the same as those of the first modification.

第2変形例では、表示制御部18は、対象範囲43に含まれる各マーカMに対応付けられたコンテンツCを画像30に重畳する。このとき、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCが最前面に表示されるように、各コンテンツCを画像30に重畳する(ステップS12−1)。   In the second modified example, the display control unit 18 superimposes the content C associated with each marker M included in the target range 43 on the image 30. At this time, the display control unit 18 superimposes each content C on the image 30 so that the content C associated with the marker M selected by the selection unit 15 is displayed in the foreground (step S12-1).

従って、第2変形例では、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCが最前面に表示されるように、各コンテンツCを画像30に重畳している。このため、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCが表示された画像を優先的に表示面4Aに表示する。   Therefore, in the second modification, the display control unit 18 superimposes each content C on the image 30 so that the content C associated with the marker M selected by the selection unit 15 is displayed in the foreground. . For this reason, the display control unit 18 preferentially displays an image on which the content C associated with the marker M selected by the selection unit 15 is displayed on the display surface 4A.

第2変形例の場合、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCだけでなく、対象範囲43に含まれるマーカMに対応付けられたコンテンツCも画像30に重畳する。   In the case of the second modification, the display control unit 18 displays not only the content C associated with the marker M selected by the selection unit 15 but also the content C associated with the marker M included in the target range 43 as the image 30. Superimpose on.

従って、表示面4Aには、選択部15が選択したコンテンツCが最前面に表示されているが、他のコンテンツCも表示されている。よって、使用者は、他のコンテンツCの存在を認識することができる。   Therefore, although the content C selected by the selection unit 15 is displayed on the foreground on the display surface 4A, other content C is also displayed. Therefore, the user can recognize the presence of other content C.

ただし、第2変形例の場合、上述した実施形態および第1変形例と比較して、視認性が低下するおそれがある。そこで、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツCを他のコンテンツCとは異なる表示態様にして、画像30に重畳してもよい。   However, in the case of the second modification, the visibility may be reduced as compared with the above-described embodiment and the first modification. Therefore, the display control unit 18 may superimpose the content C associated with the marker M selected by the selection unit 15 on the image 30 in a display mode different from that of the other content C.

例えば、図24の例では、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツC4の枠線を太くし、文字情報を太字にしている。また、表示制御部18は、選択部15が選択したマーカMに対応付けられたコンテンツC4の色と、他のコンテンツCの色とを異ならせてもよい。   For example, in the example of FIG. 24, the display control unit 18 thickens the frame line of the content C4 associated with the marker M selected by the selection unit 15 and makes the character information bold. Further, the display control unit 18 may make the color of the content C4 associated with the marker M selected by the selection unit 15 different from the color of the other content C.

これにより、表示面4Aには、コンテンツC4と他のコンテンツCとが異なる態様で表示される。この場合、選択部15が選択したマーカMに対応付けられたコンテンツC4の視認性が向上する。   Thereby, the content C4 and the other content C are displayed in a different manner on the display surface 4A. In this case, the visibility of the content C4 associated with the marker M selected by the selection unit 15 is improved.

第2変形例において、表示制御部18は、対象範囲43ではなく、画像30の全範囲に含まれるマーカM1乃至M6に対応付けられたコンテンツC1乃至C6を画像30に重畳してもよい。表示制御部18は、選択部15が選択したコンテンツCが最前面となるように、各コンテンツCを画像30に重畳する。   In the second modification, the display control unit 18 may superimpose the contents C1 to C6 associated with the markers M1 to M6 included in the entire range of the image 30 instead of the target range 43 on the image 30. The display control unit 18 superimposes each content C on the image 30 so that the content C selected by the selection unit 15 is in the foreground.

ただし、表示制御部18が、対象範囲43の外側のマーカMに対応付けられたコンテンツCを画像30に重畳すると、画像30に重畳されるコンテンツCの数が多くなる。このため、カメラ2が撮影した画像30のうち表示されない部分が多くなる。   However, when the display control unit 18 superimposes the content C associated with the marker M outside the target range 43 on the image 30, the number of the content C superimposed on the image 30 increases. For this reason, the part which is not displayed among the images 30 which the camera 2 image | photographed increases.

使用者は、カメラ2の画角の中心、つまり画像30の中心近傍のマーカMに対応付けられたコンテンツCに関心はあるが、画像30の端部のマーカMに対応付けられたコンテンツCには関心がない可能性が高い。   The user is interested in the content C associated with the center of the angle of view of the camera 2, that is, the marker M in the vicinity of the center of the image 30, but the content C associated with the marker M at the end of the image 30. Is likely not interested.

このため、カメラ2が撮影した画像が表示されるように、表示制御部18は、対象範囲43の外側のマーカMに対応付けられたコンテンツCを画像30に重畳しないことが好ましい。   For this reason, it is preferable that the display control unit 18 does not superimpose the content C associated with the marker M outside the target range 43 on the image 30 so that the image captured by the camera 2 is displayed.

<ヘッドマウントディスプレイのハードウェア構成の一例>
次に、図25の例を参照して、ヘッドマウントディスプレイ1のハードウェア構成の一例を説明する。図25の例では、バス100に対して、プロセッサ111とRandom Access Memory(RAM)112とRead Only Memory(ROM)113と補助記憶装置114とが接続されている。また、バス100に対して、媒体接続部115と通信インタフェース116と入出力インタフェース117とが接続されている。
<Example of hardware configuration of head mounted display>
Next, an example of the hardware configuration of the head mounted display 1 will be described with reference to the example of FIG. In the example of FIG. 25, a processor 111, a random access memory (RAM) 112, a read only memory (ROM) 113, and an auxiliary storage device 114 are connected to the bus 100. In addition, a medium connection unit 115, a communication interface 116, and an input / output interface 117 are connected to the bus 100.

プロセッサ111は任意の処理回路である。プロセッサ111はRAM112に展開されたプログラムを実行する。実行されるプログラムとしては、実施形態の処理を行うプログラムを適用してもよい。ROM113はRAM112に展開されるプログラムを記憶する不揮発性の記憶装置である。   The processor 111 is an arbitrary processing circuit. The processor 111 executes a program expanded in the RAM 112. As a program to be executed, a program for performing the processing of the embodiment may be applied. The ROM 113 is a non-volatile storage device that stores programs developed in the RAM 112.

補助記憶装置114は、種々の情報を記憶する記憶装置であり、例えば半導体メモリ等を補助記憶装置114に適用してもよい。媒体接続部115は、可搬型記録媒体118と接続可能に設けられている。   The auxiliary storage device 114 is a storage device that stores various information. For example, a semiconductor memory or the like may be applied to the auxiliary storage device 114. The medium connection unit 115 is provided so as to be connectable to the portable recording medium 118.

可搬型記録媒体118としては、可搬型のメモリ(例えば、半導体メモリ等)を適用してもよい。この可搬型記録媒体118に実施形態の処理を行うプログラムが記録されていてもよい。   As the portable recording medium 118, a portable memory (eg, a semiconductor memory) may be applied. A program for performing the processing of the embodiment may be recorded on the portable recording medium 118.

通信インタフェース116は、ヘッドマウントディスプレイ1の外部の装置と通信を行うインタフェースである。入出力インタフェース117は、カメラ2およびディスプレイ部4に接続される入出力用のインタフェースである。   The communication interface 116 is an interface that communicates with an external device of the head mounted display 1. The input / output interface 117 is an input / output interface connected to the camera 2 and the display unit 4.

表示制御装置3のうち、記憶部16および通信部17以外の各部は、プロセッサ111がプログラムを実行することにより実現されてもよい。記憶部16は、RAM112や補助記憶装置114等により実現されてもよい。通信部17は、通信インタフェース116により実現されてもよい。   In the display control device 3, each unit other than the storage unit 16 and the communication unit 17 may be realized by the processor 111 executing a program. The storage unit 16 may be realized by the RAM 112, the auxiliary storage device 114, or the like. The communication unit 17 may be realized by the communication interface 116.

RAM112、ROM113、補助記憶装置114および可搬型記録媒体118は、何れもコンピュータ読み取り可能な有形の記憶媒体の一例である。これらの有形な記憶媒体は、信号搬送波のような一時的な媒体ではない。   The RAM 112, the ROM 113, the auxiliary storage device 114, and the portable recording medium 118 are all examples of a tangible storage medium that can be read by a computer. These tangible storage media are not temporary media such as signal carriers.

<その他>
本実施形態は、以上に述べた実施の形態に限定されるものではなく、本実施形態の要旨を逸脱しない範囲内で種々の構成または実施形態を取ることができる。
<Others>
The present embodiment is not limited to the above-described embodiment, and various configurations or embodiments can be taken without departing from the gist of the present embodiment.

1 ヘッドマウントディスプレイ
2 カメラ
3 表示制御装置
4 ディスプレイ部
4A 表示面
11 画像入力部
12 マーカ認識部
13 演算部
14 判定部
15 選択部
16 記憶部
17 通信部
18 表示制御部
111 プロセッサ
DESCRIPTION OF SYMBOLS 1 Head mounted display 2 Camera 3 Display control apparatus 4 Display part 4A Display surface 11 Image input part 12 Marker recognition part 13 Calculation part 14 Judgment part 15 Selection part 16 Storage part 17 Communication part 18 Display control part 111 Processor

Claims (7)

撮影装置と、
前記撮影装置が撮影した画像が表示される表示面を有するディスプレイと、
前記画像に含まれる複数の認識対象物のそれぞれに対応付けられた表示情報が前記画像に重畳された場合、前記表示情報が重なるか否かを判定する判定部と、
前記判定部が重なると判定した場合、前記画像の中心に最も近い認識対象物を選択する選択部と、
前記判定部が重なると判定した場合、前記選択部が選択した認識対象物に対応付けられた表示情報が優先的に重畳された画像を前記表示面に表示する表示制御部と、
を備えることを特徴とする装着型表示装置。
A photographing device;
A display having a display surface on which an image photographed by the photographing device is displayed;
A determination unit that determines whether or not the display information overlaps when display information associated with each of the plurality of recognition objects included in the image is superimposed on the image;
When it is determined that the determination unit overlaps, a selection unit that selects a recognition object closest to the center of the image;
When it is determined that the determination unit overlaps, a display control unit that displays on the display surface an image in which display information associated with the recognition target selected by the selection unit is preferentially superimposed;
A wearable display device comprising:
前記表示制御部は、前記複数の認識対象物のうち前記選択部が選択した認識対象物に対応付けられた表示情報のみが重畳された画像を前記表示面に表示する制御を行う、
ことを特徴とする請求項1記載の装着型表示装置。
The display control unit performs control to display on the display surface an image in which only display information associated with the recognition object selected by the selection unit among the plurality of recognition objects is superimposed.
The wearable display device according to claim 1.
前記表示制御部は、前記複数の認識対象物にそれぞれ対応付けられた表示情報のうち、前記選択部が選択した認識対象物に対応付けられた表示情報が最前面に表示される制御を行う、
ことを特徴とする請求項1記載の装着型表示装置。
The display control unit performs control such that display information associated with a recognition object selected by the selection unit is displayed in the forefront among display information associated with the plurality of recognition objects.
The wearable display device according to claim 1.
前記判定部は、前記画像の中心から所定範囲内で前記表示情報が重なるか否かを判定する、
ことを特徴とする請求項1乃至3のうち何れか1項に記載の装着型表示装置。
The determination unit determines whether or not the display information overlaps within a predetermined range from the center of the image;
The wearable display device according to claim 1, wherein the display device is a wearable display device.
前記表示制御部は、前記画像の中心を特定する表示を行う、
ことを特徴とする請求項1乃至4のうち何れか1項に記載の装着型表示装置。
The display control unit performs display for specifying the center of the image.
The wearable display device according to any one of claims 1 to 4, wherein the wearable display device is provided.
コンピュータが、
装着型表示装置の撮影装置が撮影した画像に含まれる複数の認識対象物のそれぞれに対応付けられた複数の表示情報が前記画像に重畳された場合、前記表示情報が重なるか否かを判定し、
前記表示情報が重なると判定された場合、前記画像の中心に最も近い認識対象物を選択し、
選択された認識対象物に対応付けられた表示情報が優先的に重畳された画像を前記装着型表示装置の表示面に表示する、
ことを特徴とする表示制御方法。
Computer
When a plurality of display information associated with each of a plurality of recognition objects included in an image captured by the imaging device of the wearable display device is superimposed on the image, it is determined whether or not the display information overlaps. ,
If it is determined that the display information overlaps, select the recognition object closest to the center of the image,
Displaying an image on which display information associated with the selected recognition object is preferentially superimposed on the display surface of the wearable display device;
A display control method characterized by the above.
コンピュータに、
装着型表示装置の撮影装置が撮影した画像に含まれる複数の認識対象物のそれぞれに対応付けられた複数の表示情報が前記画像に重畳された場合、前記表示情報が重なるか否かを判定し、
前記表示情報が重なると判定された場合、前記画像の中心に最も近い認識対象物を選択し、
選択された認識対象物に対応付けられた表示情報が優先的に重畳された画像を前記装着型表示装置の表示面に表示する、
処理を実行させるための表示制御プログラム。
On the computer,
When a plurality of display information associated with each of a plurality of recognition objects included in an image captured by the imaging device of the wearable display device is superimposed on the image, it is determined whether or not the display information overlaps. ,
If it is determined that the display information overlaps, select the recognition object closest to the center of the image,
Displaying an image on which display information associated with the selected recognition object is preferentially superimposed on the display surface of the wearable display device;
A display control program for executing processing.
JP2015134930A 2015-07-06 2015-07-06 Wearable display device, display control method, and display control program Pending JP2017016542A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015134930A JP2017016542A (en) 2015-07-06 2015-07-06 Wearable display device, display control method, and display control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015134930A JP2017016542A (en) 2015-07-06 2015-07-06 Wearable display device, display control method, and display control program

Publications (1)

Publication Number Publication Date
JP2017016542A true JP2017016542A (en) 2017-01-19

Family

ID=57828183

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015134930A Pending JP2017016542A (en) 2015-07-06 2015-07-06 Wearable display device, display control method, and display control program

Country Status (1)

Country Link
JP (1) JP2017016542A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021043819A (en) * 2019-09-12 2021-03-18 株式会社ぴやまる Information presentation system, information analysis system, information presentation method, information analysis method, and program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021043819A (en) * 2019-09-12 2021-03-18 株式会社ぴやまる Information presentation system, information analysis system, information presentation method, information analysis method, and program

Similar Documents

Publication Publication Date Title
US11232639B2 (en) Rendering virtual objects in 3D environments
US10089794B2 (en) System and method for defining an augmented reality view in a specific location
US9857589B2 (en) Gesture registration device, gesture registration program, and gesture registration method
US9715743B2 (en) Image processing apparatus, image processing method, and program
US9619104B2 (en) Interactive input system having a 3D input space
US9489040B2 (en) Interactive input system having a 3D input space
US10739936B2 (en) Zero parallax drawing within a three dimensional display
JP6508280B2 (en) Control device, detection device, display system, electronic device, and program
US20140240225A1 (en) Method for touchless control of a device
WO2013035758A1 (en) Information display system, information display method, and storage medium
US10051244B2 (en) Display image formation device and display image formation method
US8847850B1 (en) Head mounted display device for displaying augmented reality image capture guide and control method for the same
US20170195664A1 (en) Three-dimensional viewing angle selecting method and apparatus
KR20130108643A (en) Systems and methods for a gaze and gesture interface
US10296359B2 (en) Interactive system control apparatus and method
CN112585564A (en) Method and apparatus for providing input for head-mounted image display device
US10551991B2 (en) Display method and terminal
JPWO2017057107A1 (en) Input device, input method, and program
JP2006119297A (en) Information terminal device
JP2016122392A (en) Information processing apparatus, information processing system, control method and program of the same
JP2017108263A (en) Terminal, positional relation calculation program and positional relation calculation method
CN105511620A (en) Chinese three-dimensional input device, head-wearing device and Chinese three-dimensional input method
JP2018092299A (en) Operation support device
JP2005339377A (en) Image processing method and image processor
JP6696925B2 (en) Operation support device