JP2012003598A - Augmented reality display system - Google Patents

Augmented reality display system Download PDF

Info

Publication number
JP2012003598A
JP2012003598A JP2010139431A JP2010139431A JP2012003598A JP 2012003598 A JP2012003598 A JP 2012003598A JP 2010139431 A JP2010139431 A JP 2010139431A JP 2010139431 A JP2010139431 A JP 2010139431A JP 2012003598 A JP2012003598 A JP 2012003598A
Authority
JP
Japan
Prior art keywords
marker
augmented reality
electronic information
reality display
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010139431A
Other languages
Japanese (ja)
Inventor
Mutsu Kubota
睦 久保田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Riso Kagaku Corp
Original Assignee
Riso Kagaku Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Riso Kagaku Corp filed Critical Riso Kagaku Corp
Priority to JP2010139431A priority Critical patent/JP2012003598A/en
Publication of JP2012003598A publication Critical patent/JP2012003598A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide an augmented reality display system capable of using markers capable of expressing many patterns while power supply is not needed and portability is excellent and preventing unneeded electronic information from being superimposed on video images when superimposing the electronic information corresponding to the respective markers on the video images.SOLUTION: The augmented reality display system 1 includes: a marker 4 with a sheet capable of individually expressing a plurality of patterns by a colored part and the other part by forming the colored part on at least a part of at least one of a front surface and a back surface and being folded by two or more procedures; a camera 3 for photographing an area including the marker 4; and an augmented reality display device 2 for superimposing the electronic information on the video images photographed by the camera 3 and displaying it. The augmented reality display device 2 includes: a marker detection part 242 for detecting the marker 4 in the video images photographed by the camera 3; a superimposing part 243 for superimposing the electronic information corresponding to the pattern of the marker 4 on the video images; and a display part 23 for displaying the video images on which the electronic information is superimposed.

Description

本発明は、拡張現実感(AR:Augmented Reality)技術を用いた拡張現実感表示システムに関する。   The present invention relates to an augmented reality display system using augmented reality (AR) technology.

従来、カメラによって撮影された現実環境(現実空間)の映像にコンピュータグラフィックス(CG)により作成された画像、文字情報等の電子情報を重畳して表示することにより、現実環境の情報を拡張する拡張現実感技術が知られている。   Conventionally, information on the real environment is expanded by superimposing and displaying electronic information such as images and character information created by computer graphics (CG) on video of the real environment (real space) photographed by the camera. Augmented reality technology is known.

この拡張現実感技術において、カメラで撮影された映像に電子情報を重畳するための目印としてマーカを用いる方法がある(例えば、特許文献1参照)。   In this augmented reality technology, there is a method in which a marker is used as a mark for superimposing electronic information on a video photographed by a camera (see, for example, Patent Document 1).

この場合に用いられるマーカは、例えば、紙等からなるシートに予め設定された大きさの黒い矩形の枠を印刷等により形成したものである。複数種類のマーカを使用する場合には、枠の内部にマーカの種類を特定するための文字、模様等からなるパターンが設けられる。   The marker used in this case is formed, for example, by printing a black rectangular frame having a predetermined size on a sheet made of paper or the like. When a plurality of types of markers are used, a pattern made up of characters, patterns, etc. for specifying the type of marker is provided inside the frame.

このようなマーカを用いた拡張現実感表示システムでは、現実環境に置かれたマーカをカメラで撮影し、映像中のマーカの位置、向き、サイズ、パターンを検出する。そして、拡張現実感表示システムは、検出結果に応じて映像に重畳する電子情報の位置、向き、サイズを決定し、マーカのパターンに応じた電子情報を映像に重畳する。   In an augmented reality display system using such a marker, a marker placed in a real environment is photographed by a camera, and the position, orientation, size, and pattern of the marker in the video are detected. The augmented reality display system determines the position, orientation, and size of the electronic information to be superimposed on the video according to the detection result, and superimposes the electronic information on the video according to the marker pattern.

特開2006−48484号公報JP 2006-48484 A

上述のように、マーカを用いた拡張現実感表示システムでは、映像に重畳する電子情報を変えるために、複数種類のマーカを用いる。   As described above, in the augmented reality display system using markers, a plurality of types of markers are used to change the electronic information to be superimposed on the video.

シートの両面にそれぞれ1種類ずつマーカを形成すると、1枚のシートあたりに最大で2種類のマーカしか設けられない。したがって、多くの種類のマーカが必要な場合は、多くの枚数のマーカシートを用意しなければならず、携帯等に不便である。   If one type of marker is formed on each side of the sheet, only two types of markers can be provided at maximum per sheet. Therefore, when many types of markers are required, a large number of marker sheets must be prepared, which is inconvenient for carrying.

これに対し、1枚のシートの両面にそれぞれ複数種類のマーカを形成すれば、1枚のシートあたりに形成できるマーカの種類を増やすことができる。しかし、このようなマーカシートでは、1つの種類のマーカだけを検出したい場合でも、同じ面上の他のマーカも検出してしまい、その結果、不要な電子情報が映像に重畳されてしまうおそれがある。   On the other hand, if a plurality of types of markers are formed on both sides of one sheet, the types of markers that can be formed per sheet can be increased. However, in such a marker sheet, even when it is desired to detect only one type of marker, other markers on the same surface are also detected, and as a result, unnecessary electronic information may be superimposed on the video. is there.

また、液晶表示装置等の電子表示装置を用いて、複数種類のマーカを切り替え表示可能とする方法もあるが、電子機器のため電源が必要であり、重量やフレキシブル性の点で携帯に不便であるという不都合がある。   In addition, there is a method that enables a plurality of types of markers to be switched and displayed using an electronic display device such as a liquid crystal display device, but a power source is necessary for the electronic device, which is inconvenient to carry in terms of weight and flexibility. There is an inconvenience.

本発明は上記に鑑みてなされたもので、電源が不要で携帯性に優れながら多くのパターンを表現できるマーカを用い、各マーカに対応した電子情報を映像に重畳する際に不要な電子情報が映像に重畳されることは回避できる拡張現実感表示システムを提供することを目的とする。   The present invention has been made in view of the above, and uses a marker that does not require a power source and can express many patterns while being excellent in portability, and there is unnecessary electronic information when superimposing electronic information corresponding to each marker on a video. An object of the present invention is to provide an augmented reality display system that can avoid being superimposed on video.

上記目的を達成するため、本発明に係る拡張現実感表示システムの第1の特徴は、表面および裏面の少なくともいずれか一方の少なくとも一部に着色部分が形成され、複数通りの手順で折られることで、前記着色部分と他の部分とにより複数のパターンを個別に表現可能なシートを有するマーカと、前記マーカを含む領域を撮影する撮影装置と、前記撮影装置で撮影された映像に電子情報を重畳して表示する拡張現実感表示装置とを備え、前記拡張現実感表示装置は、前記撮影装置で撮影された映像中の前記マーカを検出するマーカ検出部と、前記マーカ検出部で検出した前記マーカのパターンに対応した電子情報を、前記撮影装置で撮影された映像に重畳する重畳部と、前記重畳部で電子情報が重畳された映像を表示する表示部とを備えることにある。   In order to achieve the above object, the first feature of the augmented reality display system according to the present invention is that a colored portion is formed on at least a part of at least one of the front surface and the back surface and is folded in a plurality of procedures. Then, a marker having a sheet capable of individually expressing a plurality of patterns by the colored portion and the other portion, a photographing device for photographing a region including the marker, and electronic information on an image photographed by the photographing device An augmented reality display device that superimposes and displays the augmented reality display device, wherein the augmented reality display device detects the marker in the video imaged by the imaging device, and the marker detection unit detects the marker. A superimposing unit that superimposes electronic information corresponding to a marker pattern on an image captured by the imaging device, and a display unit that displays an image on which electronic information is superimposed on the superimposing unit. In the door.

本発明に係る拡張現実感表示システムの第2の特徴は、表面および裏面の少なくともいずれか一方の少なくとも一部に着色部分が形成され、複数通りの手順で折られることで、前記着色部分と他の部分とにより複数のパターンを個別に表現可能なシートを有するマーカと、前記マーカを含む領域を撮影する撮影装置と、前記撮影装置で撮影された映像をネットワークを介して取得し、取得した映像に電子情報を重畳するサーバ装置と、前記サーバ装置で電子情報が重畳された映像をネットワークを介して取得して表示する拡張現実感表示装置とを備え、前記サーバ装置は、前記撮影装置で撮影された映像中の前記マーカを検出するマーカ検出部と、前記マーカ検出部で検出した前記マーカのパターンに対応した電子情報を、前記撮影装置で撮影された映像に重畳する重畳部とを備えることにある。   A second feature of the augmented reality display system according to the present invention is that a colored portion is formed on at least a part of at least one of the front surface and the back surface, and is folded in a plurality of procedures, so that the colored portion and the other are And a marker having a sheet that can individually express a plurality of patterns by the portion, an imaging device that captures an area including the marker, and an image captured by the imaging device via a network. A server device that superimposes electronic information on the computer, and an augmented reality display device that acquires and displays a video on which the electronic information is superimposed on the server device via a network. A marker detection unit for detecting the marker in the recorded video, and electronic information corresponding to the marker pattern detected by the marker detection unit. In further comprising a superimposing unit for superimposing the video.

本発明に係る拡張現実感表示システムおいて、前記マーカは、前記複数のパターンにより、文字および記号の少なくともいずれか一方を含む文字記号列を表現可能であり、前記重畳部は、前記文字記号列の示す情報に関連する電子情報を映像に重畳することが好ましい。   In the augmented reality display system according to the present invention, the marker can represent a character symbol string including at least one of a character and a symbol by the plurality of patterns, and the superimposing unit includes the character symbol string. It is preferable to superimpose electronic information related to the information indicated by the image.

本発明に係る拡張現実感表示システムの第1の特徴によれば、折られることで着色部分と他の部分とにより複数のパターンを個別に表現可能なシートを有するマーカを用いるので、マーカは電源が不要で携帯性に優れながら多くのパターンを表現でき、また、所望のパターンが完成したときには、1つのマーカのみが表現されているため、マーカに対応した電子情報を映像に重畳する際に不要な電子情報が映像に重畳されることを回避できる。   According to the first feature of the augmented reality display system according to the present invention, since the marker having a sheet that can be individually expressed by a colored portion and another portion by being folded is used, the marker is a power source. It is unnecessary and can be expressed with many patterns while being portable, and when a desired pattern is completed, only one marker is expressed, so it is unnecessary when superimposing electronic information corresponding to the marker on the video It is possible to avoid superimposing electronic information on the video.

本発明に係る拡張現実感表示システムの第2の特徴によれば、上記第1の特徴と同様の効果とともに、電子情報を映像に重畳する処理をサーバ装置で行うことで、拡張現実感表示装置には拡張現実感技術に関するソフトウェアをインストールしなくても、電子情報が重畳された映像をユーザに提供できるという効果が得られる。   According to the second feature of the augmented reality display system of the present invention, the augmented reality display device has the same effect as the first feature and performs processing for superimposing electronic information on the video by the server device. Can provide the user with a video on which electronic information is superimposed without installing software related to augmented reality technology.

また、マーカのパターンにより文字記号列を表現可能とし、この文字記号列の示す情報に関連する電子情報を映像に重畳するようにすることで、ユーザに電子情報の内容を強く印象付けることができる。   In addition, the character symbol string can be expressed by the marker pattern, and the electronic information related to the information indicated by the character symbol string is superimposed on the video, so that the content of the electronic information can be strongly impressed to the user. .

第1の実施の形態に係る拡張現実感表示システムの概略構成図である。1 is a schematic configuration diagram of an augmented reality display system according to a first embodiment. 第1の実施の形態に係る拡張現実感表示システムの機能構成を示すブロック図である。It is a block diagram which shows the function structure of the augmented reality display system which concerns on 1st Embodiment. 第1の実施の形態におけるマーカを形成するためのシートの構成を示す図である。It is a figure which shows the structure of the sheet | seat for forming the marker in 1st Embodiment. 第1の実施の形態におけるシートの一例を示す図である。It is a figure which shows an example of the sheet | seat in 1st Embodiment. 第1の実施の形態におけるシートにより形成可能な各パターンの一例を示す図である。It is a figure which shows an example of each pattern which can be formed with the sheet | seat in 1st Embodiment. 拡張現実感表示装置のハードウェア構成例を示す図である。It is a figure which shows the hardware structural example of an augmented reality display apparatus. 電子情報が重畳された映像の一例を示す図である。It is a figure which shows an example of the image | video with which the electronic information was superimposed. 第2の実施の形態に係る拡張現実感表示システムの機能構成を示すブロック図である。It is a block diagram which shows the function structure of the augmented reality display system which concerns on 2nd Embodiment. 第2の実施の形態におけるマーカの構成を示す図である。It is a figure which shows the structure of the marker in 2nd Embodiment. 第2の実施の形態のマーカにおけるシートの折り方の一例を示す図である。It is a figure which shows an example of how to fold the sheet | seat in the marker of 2nd Embodiment. 第2の実施の形態のマーカにおけるシートで表現可能なパターンの具体例を示す図である。It is a figure which shows the specific example of the pattern which can be expressed with the sheet | seat in the marker of 2nd Embodiment. 電子情報が重畳された映像の他の例を示す図である。It is a figure which shows the other example of the image | video with which the electronic information was superimposed.

以下、本発明の実施の形態について、図面を参照して説明する。なお、各図面を通じて同一もしくは同等の部位や構成要素には、同一もしくは同等の符号を付し、その説明を省略もしくは簡略化する。   Embodiments of the present invention will be described below with reference to the drawings. Throughout the drawings, the same or equivalent parts and components are denoted by the same or equivalent reference numerals, and the description thereof is omitted or simplified.

(第1の実施の形態)
図1は、本発明の第1の実施の形態に係る拡張現実感表示システムの概略構成図、図2は、図1に示す拡張現実感表示システムの機能構成を示すブロック図である。
(First embodiment)
FIG. 1 is a schematic configuration diagram of an augmented reality display system according to the first embodiment of the present invention, and FIG. 2 is a block diagram showing a functional configuration of the augmented reality display system shown in FIG.

図1、図2に示すように、第1の実施の形態に係る拡張現実感表示システム1は、パーソナルコンピュータ(PC)等の情報処理装置からなる拡張現実感表示装置2と、カメラ(撮影装置)3と、拡張現実感技術で用いられるマーカ4とを備える。   As shown in FIGS. 1 and 2, an augmented reality display system 1 according to a first embodiment includes an augmented reality display device 2 including an information processing device such as a personal computer (PC), and a camera (photographing device). ) 3 and a marker 4 used in augmented reality technology.

拡張現実感表示装置2は、図2に示すように、入力部21と、記憶部22と、表示部23と、制御部24と、通信部25とを備える。   As shown in FIG. 2, the augmented reality display device 2 includes an input unit 21, a storage unit 22, a display unit 23, a control unit 24, and a communication unit 25.

入力部21は、ユーザによる各種入力操作を受け付け、操作に基づく操作信号を出力する。   The input unit 21 receives various input operations by the user and outputs operation signals based on the operations.

記憶部22は、マーカ4で表現可能なすべてのパターンに対応する電子情報を記憶している。記憶部22に記憶される電子情報は、拡張現実感表示装置2や外部装置等を用いて予め生成されたものである。電子情報は、記録媒体から読み取って拡張現実感表示装置2に取り込んでもよいし、通信部25によりネットワーク等を介して拡張現実感表示装置2に取り込んでもよい。電子情報としては、コンピュータグラフィックスにより作成された3次元(3D)モデル、実画像、アニメーション、文字情報等を用いることができる。   The storage unit 22 stores electronic information corresponding to all patterns that can be expressed by the marker 4. The electronic information stored in the storage unit 22 is generated in advance using the augmented reality display device 2 or an external device. The electronic information may be read from the recording medium and taken into the augmented reality display device 2 or may be taken into the augmented reality display device 2 via the network or the like by the communication unit 25. As the electronic information, a three-dimensional (3D) model created by computer graphics, a real image, animation, character information, or the like can be used.

表示部23は、カメラ3で撮影された映像、およびその映像に重畳された電子情報を表示する。   The display unit 23 displays an image captured by the camera 3 and electronic information superimposed on the image.

制御部24は、拡張現実感表示装置2に接続されたカメラ3を制御するカメラ制御部241と、カメラ3で撮影された映像中のマーカ4を検出するマーカ検出部242と、マーカ検出部242で検出したマーカ4のパターンに対応した電子情報をカメラ3で撮影された映像に重畳する重畳部243と、表示部23の表示を制御する表示制御部244とを備える。   The control unit 24 includes a camera control unit 241 that controls the camera 3 connected to the augmented reality display device 2, a marker detection unit 242 that detects the marker 4 in the video captured by the camera 3, and a marker detection unit 242. Are provided with a superimposing unit 243 that superimposes electronic information corresponding to the pattern of the marker 4 detected in step S3 on the video imaged by the camera 3, and a display control unit 244 that controls display on the display unit 23.

通信部25は、拡張現実感表示装置2をインターネット等のネットワークに接続するためのものである。   The communication unit 25 is for connecting the augmented reality display device 2 to a network such as the Internet.

カメラ3は、拡張現実感表示装置2に接続されたウェブカメラ等からなる。カメラ3は、ユーザ操作等に応じて、その撮影する方向を変えられるように構成されている。   The camera 3 includes a web camera connected to the augmented reality display device 2. The camera 3 is configured to be able to change the shooting direction in accordance with a user operation or the like.

マーカ4は、黒い矩形の枠と、この枠の内部に表示される文字、模様等からなるパターンとにより構成される。枠内のパターンによりマーカの種類が特定される。   The marker 4 includes a black rectangular frame and a pattern made up of characters, patterns, etc. displayed inside the frame. The type of marker is specified by the pattern in the frame.

本実施の形態におけるマーカ4は、図3に示すようなシート5を用いて構成される。シート5は、紙等の薄いシート状の折り曲げ可能な材質からなり、外形が正方形で、その中央部分がくり抜かれた形状を有する。シート5のくり抜かれた中央部分は、その一辺が外形の一辺の半分の長さの正方形になっている。   The marker 4 in the present embodiment is configured using a sheet 5 as shown in FIG. The sheet 5 is made of a thin sheet-like foldable material such as paper and has a square outer shape with a central portion cut out. The cut-out central portion of the sheet 5 is a square whose one side is half the length of one side of the outer shape.

そして、図3(a),(b)に示すように、シート5の両面それぞれに、図中の破線で区切られる12個の正方形のマス目が形成されている。各マス目を区切る破線は、ユーザによって山折りまたは谷折りにされる折り目線を示す。   And as shown to Fig.3 (a), (b), the twelve square grids divided | segmented by the broken line in a figure are formed in both surfaces of the sheet | seat 5, respectively. A broken line that divides each square indicates a crease line that is folded into a mountain or a valley by the user.

図中の各マス目に示した「A」〜「F」のアルファベットは、各マス目の対応関係を示している。同じアルファベットのマス目を組み合わせることで、1種類のマーカが形成されるようになっている。   The alphabets “A” to “F” shown in each square in the figure indicate the correspondence between the squares. One type of marker is formed by combining squares of the same alphabet.

例えば、図3(a)における折り目線6a,6c,6f,6hを谷折りし、折り目線6b,6d,6e,6gを山折りすることで、図3(c)に示すような、「A」に対応したマス目を組み合わせたマーカ4が形成される。なお、上記の折り方は一例であり、他の折り方でも「A」に対応したマーカ4を形成可能である。   For example, the crease lines 6a, 6c, 6f, and 6h in FIG. 3A are valley-folded, and the crease lines 6b, 6d, 6e, and 6g are fold-folded to obtain “A” as shown in FIG. The marker 4 is formed by combining the squares corresponding to "." The above folding method is an example, and the marker 4 corresponding to “A” can be formed by other folding methods.

「A」に対応する4つの各マス目には、例えば、図4(a)に示すような図柄が形成されている。図4(a)中において黒く塗られている部分は、シート5において黒く着色された部分であり、着色されていない他の部分は、シート5の地の色である白い部分である。なお、他のアルファベット「B」〜「F」に対応するマス目にも、それぞれに対応したパターンを有するマーカを形成するための着色部分が形成されているが、ここでは図示を省略している。   For example, a pattern as shown in FIG. 4A is formed in each of the four cells corresponding to “A”. In FIG. 4A, the portion painted black is a portion colored black in the sheet 5, and the other portion not colored is a white portion which is the background color of the sheet 5. In addition, colored portions for forming markers having patterns corresponding to the alphabets “B” to “F” are also formed, but the illustration is omitted here. .

図4(a)のようなシート5を上述の手順で折る作業をユーザが行うことで、図4(b)のような、黒い枠と、その内部に「abcd」という文字からなるパターンを有するマーカ4が形成される。   When the user performs the operation of folding the sheet 5 as shown in FIG. 4A according to the above-described procedure, a black frame and a pattern made up of characters “abcd” as shown in FIG. 4B are provided. A marker 4 is formed.

このように、シート5は、ユーザが折る作業を行うことでマーカ4を完成させる折り紙パズルになっている。各マス目に形成された着色部分と他の部分とにより、「A」〜「F」に対応した6種類のマーカ4を1枚のシート5で個別に表現可能である。   Thus, the sheet 5 is an origami puzzle that completes the marker 4 by performing a folding operation by the user. Six kinds of markers 4 corresponding to “A” to “F” can be individually expressed by one sheet 5 by the colored portion formed in each square and the other portions.

上記のようなシート5において、折り曲げたシート5の弾性でマーカ4において各マス目に高低差が生じると、光の陰影の影響により拡張現実感表示装置2でマーカ4が検出されにくくなるおそれがある。これを避けるために、無色透明のアクリル板等を用いてマーカ4を挟み込むようにしてもよい。   In the sheet 5 as described above, if the height of each cell in the marker 4 varies due to the elasticity of the folded sheet 5, the marker 4 may be difficult to be detected by the augmented reality display device 2 due to the influence of light shading. is there. In order to avoid this, the marker 4 may be sandwiched using a colorless and transparent acrylic plate or the like.

なお、1枚のシート5で表現可能な各パターンを文字または記号とし、各パターンにより、意味のある文字記号列を表現可能であるようにすることが望ましい。さらに、この文字記号列の示す情報に関連する電子情報を映像に重畳するようにすることが望ましい。   It is desirable that each pattern that can be expressed on one sheet 5 is a character or a symbol, and that each pattern can express a meaningful character / symbol string. Furthermore, it is desirable to superimpose electronic information related to the information indicated by the character symbol string on the video.

例えば、シート5で表現可能な各パターンのマーカにより、図5に示すように、「プリンターX」という文字列を表現できるようにする。そして、このようなマーカに対応して映像に重畳される電子情報を、プリンター(印刷装置)に関する情報とする。このようにすることで、ユーザに折り紙パズルの完成の動機付けを与えるとともに、電子情報の内容を強く印象付けることができる。   For example, a character string “printer X” can be expressed by markers of each pattern that can be expressed by the sheet 5 as shown in FIG. And the electronic information superimposed on an image | video corresponding to such a marker is set as the information regarding a printer (printing apparatus). In this way, the user can be motivated to complete the origami puzzle, and the contents of the electronic information can be strongly impressed.

ここで、拡張現実感表示装置2の具体的なハードウェア構成について説明する。図6は、拡張現実感表示装置2のハードウェア構成例を示す図である。   Here, a specific hardware configuration of the augmented reality display device 2 will be described. FIG. 6 is a diagram illustrating a hardware configuration example of the augmented reality display device 2.

図6において、CPU101、RAM102、ROM103、および入出力インタフェース108が、バス109を介して接続されている。入出力インタフェース108には、入力装置104、記憶装置105、表示装置106、および通信制御装置107が接続されている。   In FIG. 6, a CPU 101, a RAM 102, a ROM 103, and an input / output interface 108 are connected via a bus 109. An input device 104, a storage device 105, a display device 106, and a communication control device 107 are connected to the input / output interface 108.

CPU101は、拡張現実感表示装置2全体を制御する中央演算処理装置であり、図2の制御部24の機能を果たすものである。   The CPU 101 is a central processing unit that controls the entire augmented reality display device 2 and performs the function of the control unit 24 of FIG.

RAM102は、一時的なデータの保存や演算時におけるCPU101のワークエリアとして使用される。ROM103は、起動時の動作プログラム等を格納する。   The RAM 102 is used as a work area for the CPU 101 during temporary data storage and calculation. The ROM 103 stores an operation program at the time of startup.

入力装置104は、キーボードやマウス等からなり、図2の入力部21の機能を果たすものである。   The input device 104 includes a keyboard, a mouse, and the like, and fulfills the function of the input unit 21 in FIG.

記憶装置105は、ハードディスク等からなり、図2の記憶部22の機能を果たすものであり、カメラ3で撮影された映像に重畳する電子情報を記憶する。また、記憶装置105は、拡張現実感技術に関するアプリケーションソフト等の各種のプログラムを格納している。CPU101が記憶装置105からRAM102へプログラムを読み込んで実行すること等により、図2の制御部24のカメラ制御部241、マーカ検出部242、重畳部243、表示制御部244の機能が実現される。   The storage device 105 is composed of a hard disk or the like and fulfills the function of the storage unit 22 in FIG. 2, and stores electronic information to be superimposed on the video imaged by the camera 3. The storage device 105 stores various programs such as application software related to augmented reality technology. The functions of the camera control unit 241, the marker detection unit 242, the superimposition unit 243, and the display control unit 244 of the control unit 24 in FIG. 2 are realized by the CPU 101 reading the program from the storage device 105 into the RAM 102 and executing the program.

表示装置106は、液晶ディスプレイ等からなり、図2の表示部23に該当するものである。   The display device 106 includes a liquid crystal display and the like, and corresponds to the display unit 23 in FIG.

通信制御装置107は、図2の通信部25の機能を果たすものであり、拡張現実感表示装置2をインターネット等のネットワークに接続して通信を行うための装置である。   The communication control device 107 fulfills the function of the communication unit 25 in FIG. 2 and is a device for communicating by connecting the augmented reality display device 2 to a network such as the Internet.

次に、第1の実施の形態における拡張現実感表示システム1の動作について説明する。   Next, the operation of the augmented reality display system 1 in the first embodiment will be described.

本実施の形態では、図3に示したシート5における「A」〜「F」に対応した手順でユーザが折る作業を行うことにより、図5に示すような「プ」、「リ」、「ン」、「タ」、「ー」、「X」という6つの文字のパターンのマーカ4を形成できるような図柄が、シート5の各マス目に形成されているものとする。また、このようなマーカ4に対応して映像に重畳される電子情報が記憶部22に記憶されているものとする。また、図5のように「プ」→「リ」→「ン」→「タ」→「ー」→「X」の順でマーカを完成させるべきであるものとする。   In the present embodiment, the user performs the folding operation according to the procedure corresponding to “A” to “F” in the sheet 5 illustrated in FIG. 3, thereby performing “p”, “re”, “ It is assumed that a pattern capable of forming the marker 4 having a pattern of six characters “n”, “ta”, “−”, and “X” is formed in each square of the sheet 5. Further, it is assumed that electronic information superimposed on the video corresponding to the marker 4 is stored in the storage unit 22. Further, as shown in FIG. 5, it is assumed that the marker should be completed in the order of “p” → “re” → “n” → “ta” → “−” → “X”.

拡張現実感表示システム1において、カメラ3により撮影される領域にマーカ4が置かれていない状態では、カメラ3で撮影された映像が拡張現実感表示装置2の表示部23にそのまま表示される。   In the augmented reality display system 1, when the marker 4 is not placed in an area photographed by the camera 3, the image photographed by the camera 3 is displayed as it is on the display unit 23 of the augmented reality display device 2.

ユーザが、シート5により「プ」のパターンのマーカ4を完成させ、そのマーカ4をカメラ3で撮影される領域内に置くと、マーカ検出部242は、カメラ3で撮影された映像から、映像上のマーカ4の位置、向き、サイズを検出するとともに、公知のテンプレートマッチングの手法等を用いてマーカ4のパターンを検出する。   When the user completes the marker 4 having the pattern “P” using the sheet 5 and places the marker 4 in an area photographed by the camera 3, the marker detection unit 242 captures the image from the image photographed by the camera 3. The position, orientation, and size of the upper marker 4 are detected, and the pattern of the marker 4 is detected using a known template matching method or the like.

次いで、重畳部243は、マーカ検出部242で検出したマーカ4のパターンに対応する電子情報を記憶部22から取得し、この電子情報をカメラ3で撮影された映像に重畳する。この際、重畳部243は、マーカ検出部242で検出したマーカ4の位置、向き、サイズに基づいて、拡張現実感技術により、映像に重畳する電子情報の位置、向き、サイズを決定する。   Next, the superimposing unit 243 acquires electronic information corresponding to the pattern of the marker 4 detected by the marker detecting unit 242 from the storage unit 22 and superimposes the electronic information on the video imaged by the camera 3. At this time, the superimposing unit 243 determines the position, orientation, and size of the electronic information to be superimposed on the video by using augmented reality technology based on the position, orientation, and size of the marker 4 detected by the marker detecting unit 242.

そして、表示制御部244は、重畳部243により電子情報が重畳された映像を表示部23に表示するよう制御する。   Then, the display control unit 244 performs control so that the video on which the electronic information is superimposed by the superimposing unit 243 is displayed on the display unit 23.

表示部23に表示される電子情報が重畳された映像の一例を図7に示す。なお、図7では、簡略化のため、マーカ4以外の被写体は図示を省略している。   An example of an image on which electronic information displayed on the display unit 23 is superimposed is shown in FIG. In FIG. 7, for the sake of simplification, the subjects other than the marker 4 are not shown.

本実施の形態では、映像に重畳される電子情報は、印刷装置の新製品である「プリンターX」に関する情報であるものとする。図7に示す映像では、「プ」のパターンに対応する電子情報として、印刷装置の外観を示す画像30と、新製品の案内であることを示す文字情報31とが重畳されている。   In the present embodiment, it is assumed that the electronic information superimposed on the video is information related to “printer X” which is a new product of the printing apparatus. In the video shown in FIG. 7, as electronic information corresponding to the “P” pattern, an image 30 indicating the appearance of the printing apparatus and character information 31 indicating the guidance of a new product are superimposed.

なお、拡張現実感技術では、撮影中にカメラ3の向きが変わったり、マーカ4が移動されたりしたことにより映像中のマーカの位置、向き、サイズが変動した場合、それに連動して、映像に重畳される電子情報の表示位置等も変動する。特に3Dモデルでは、マーカの向きに応じて3Dモデルのアングルが変動する。そこで、印刷装置の画像30を3Dモデルとすると、ユーザはマーカ4の姿勢を変化させること等により、さまざまなアングルの印刷装置の3Dモデルを見ることができる。   In augmented reality technology, if the position, orientation, or size of the marker in the video changes due to the camera 3 changing its orientation or moving the marker 4 during shooting, The display position of the superimposed electronic information also varies. Particularly in the 3D model, the angle of the 3D model varies depending on the direction of the marker. Therefore, if the image 30 of the printing apparatus is a 3D model, the user can view the 3D model of the printing apparatus of various angles by changing the posture of the marker 4 or the like.

「プ」のパターンに対応する電子情報が重畳された画像を確認すると、次にユーザが完成させるべきなのは、「リ」のパターンのマーカ4である。図7に示すように、この順番をユーザに知らせるための文字情報32を映像に重畳するようにしてもよい。   When the image on which the electronic information corresponding to the “P” pattern is superimposed is confirmed, it is the marker 4 of the “Re” pattern that the user should complete next. As shown in FIG. 7, character information 32 for informing the user of this order may be superimposed on the video.

ユーザが、「リ」のパターンのマーカ4を完成させ、そのマーカ4をカメラ3で撮影される領域内に置くと、拡張現実感表示装置2は、上記説明と同様の手順により、「リ」のパターンに対応する電子情報を重畳した映像(図示せず)を表示する。以下、「ン」、「タ」、「ー」、「X」の各パターンについても同様である。   When the user completes the marker 4 having the pattern “Li” and places the marker 4 in an area photographed by the camera 3, the augmented reality display device 2 performs “Li” according to the same procedure as described above. A video (not shown) on which electronic information corresponding to the pattern is superimposed is displayed. The same applies to the patterns “n”, “ta”, “−”, and “X”.

この例では、各パターンに応じて映像に重畳表示される電子情報は、印刷装置の新製品に関する情報であるが、パターン順に応じて順に表示される各電子情報の内容が、連続性、ストーリー性、規則性等を有するようにすることが望ましい。このようにすることで、ユーザに電子情報の内容をより強く印象付けることができる。   In this example, the electronic information superimposed on the video according to each pattern is information on a new product of the printing apparatus, but the contents of each electronic information displayed in order according to the pattern order are continuity and story characteristics. It is desirable to have regularity. By doing in this way, the content of electronic information can be impressed more strongly to a user.

以上説明したように、第1の実施の形態によれば、折り紙パズルを構成するシート5を用いることで、少ない枚数のシート5で多くのパターンのマーカ4を形成できる。シート5は紙等で構成されるため、電源が不要で携帯性に優れる。   As described above, according to the first embodiment, by using the sheets 5 constituting the origami puzzle, the markers 4 having many patterns can be formed with a small number of sheets 5. Since the sheet 5 is made of paper or the like, the power source is unnecessary and the portability is excellent.

また、ユーザは、折り紙パズルを楽しみつつ、拡張現実感技術により映像に重畳された情報を得ることができる。   In addition, the user can obtain information superimposed on the video by the augmented reality technology while enjoying the origami puzzle.

また、所望のパターンが完成したときには、1つのマーカのみが表現されているため、他のマーカが映像中に検出され、その結果として不要な電子情報が映像に重畳されることを回避できる。   Further, when a desired pattern is completed, only one marker is expressed, so that other markers are detected in the video, and as a result, unnecessary electronic information can be avoided from being superimposed on the video.

(第2の実施の形態)
図8は、本発明の第2の実施の形態に係る拡張現実感表示システムの機能構成を示すブロック図である。図8に示すように、第2の実施の形態に係る拡張現実感表示システム1Aは、拡張現実感表示装置2Aと、カメラ3と、マーカ4と、サーバ装置6とを備えて概略構成される。拡張現実感表示装置2Aとサーバ装置6とはインターネット等のネットワーク10を介して接続可能である。
(Second Embodiment)
FIG. 8 is a block diagram showing a functional configuration of the augmented reality display system according to the second embodiment of the present invention. As shown in FIG. 8, the augmented reality display system 1A according to the second embodiment is roughly configured to include an augmented reality display device 2A, a camera 3, a marker 4, and a server device 6. . The augmented reality display device 2A and the server device 6 can be connected via a network 10 such as the Internet.

拡張現実感表示装置2Aは、入力部21と、表示部23と、通信部25と、制御部26とを備える。   The augmented reality display device 2 </ b> A includes an input unit 21, a display unit 23, a communication unit 25, and a control unit 26.

入力部21、表示部23、および通信部25は、図2に示した第1の実施の形態の拡張現実感表示装置2におけるものと同様である。   The input unit 21, the display unit 23, and the communication unit 25 are the same as those in the augmented reality display device 2 of the first embodiment shown in FIG.

制御部26は、拡張現実感表示装置2Aに接続されたカメラ3を制御するカメラ制御部261と、ネットワーク10上でサーバ装置6が公開するウェブサイトを閲覧するためのブラウザ部262とを備える。   The control unit 26 includes a camera control unit 261 that controls the camera 3 connected to the augmented reality display device 2 </ b> A, and a browser unit 262 for browsing a website published by the server device 6 on the network 10.

カメラ3は、拡張現実感表示装置2Aに接続されたウェブカメラである。マーカ4は、第1の実施の形態で説明した折り紙パズルを構成するシート5からなる。   The camera 3 is a web camera connected to the augmented reality display device 2A. The marker 4 includes a sheet 5 constituting the origami puzzle described in the first embodiment.

サーバ装置6は、ネットワーク10を介してアクセスされる拡張現実感表示装置2Aに対し、カメラ3で撮影された映像に拡張現実感技術により電子情報を重畳し、この電子情報が重畳された映像を提供する機能を有している。サーバ装置6は、記憶部61と、制御部62と、通信部63とを備える。   The server device 6 superimposes electronic information on the video captured by the camera 3 using augmented reality technology on the augmented reality display device 2A accessed via the network 10, and displays the video on which the electronic information is superimposed. Has the function to provide. The server device 6 includes a storage unit 61, a control unit 62, and a communication unit 63.

記憶部61は、マーカ4で表現可能な各パターンに対応する電子情報を記憶している。   The storage unit 61 stores electronic information corresponding to each pattern that can be expressed by the marker 4.

制御部62は、拡張現実感表示装置2Aから送られてくるカメラ3で撮影された映像中のマーカ4を検出するマーカ検出部621と、マーカ検出部621で検出したマーカ4のパターンに対応した電子情報をカメラ3で撮影された映像に重畳する重畳部622とを備える。   The control unit 62 corresponds to the marker detection unit 621 that detects the marker 4 in the video captured by the camera 3 sent from the augmented reality display device 2A, and the pattern of the marker 4 detected by the marker detection unit 621. A superimposing unit 622 that superimposes electronic information on the video imaged by the camera 3.

通信部63は、ネットワーク10を介して拡張現実感表示装置2Aとの通信を行い、映像等のデータの送受信を行う。   The communication unit 63 communicates with the augmented reality display device 2A via the network 10 to transmit / receive data such as video.

上記のような拡張現実感表示装置2Aおよびサーバ装置6も、図5に示した構成と同等のハードウェア構成で実現可能である。   The augmented reality display device 2A and the server device 6 as described above can also be realized with a hardware configuration equivalent to the configuration shown in FIG.

次に、第2の実施の形態における拡張現実感表示システム1Aの動作について説明する。   Next, the operation of the augmented reality display system 1A in the second embodiment will be described.

ここでは、業者がダイレクトメールを利用してマーカ4(シート5)をユーザに提供し、マーカ4を用いる拡張現実感技術を利用したサービスを提供するものとする。そして、サーバ装置6は、ダイレクトメールの送付元の業者のウェブサイトを公開するサーバであるとする。   Here, it is assumed that the trader provides the marker 4 (sheet 5) to the user using direct mail and provides a service using augmented reality technology using the marker 4. The server device 6 is assumed to be a server that publishes the website of a direct mail sender.

拡張現実感表示装置2Aのブラウザ部262は、ユーザの操作に応じて、ダイレクトメールの送付元の業者のウェブサイトにおける、拡張現実感技術による映像を見るためのウェブページにアクセスする。そして、ブラウザ部262は、カメラ3により撮影された映像を、サーバ装置6に送信する。   The browser unit 262 of the augmented reality display device 2A accesses a web page for viewing a video based on augmented reality technology on the website of the supplier of the direct mail in response to a user operation. Then, the browser unit 262 transmits the video captured by the camera 3 to the server device 6.

サーバ装置6のマーカ検出部621は、拡張現実感表示装置2Aから受信した映像から、マーカ4を検出する処理を行う。映像中にマーカ4が検出されない場合は、重畳部622による電子情報を重畳する処理は行わず、制御部62は、ウェブページの所定領域に拡張現実感表示装置2Aから受信した映像を加えたデータを拡張現実感表示装置2Aに送信する。   The marker detection unit 621 of the server device 6 performs processing for detecting the marker 4 from the video received from the augmented reality display device 2A. When the marker 4 is not detected in the video, the process of superimposing the electronic information by the superimposing unit 622 is not performed, and the control unit 62 adds the video received from the augmented reality display device 2A to a predetermined area of the web page. Is transmitted to the augmented reality display device 2A.

サーバ装置6からのデータを受信すると、拡張現実感表示装置2Aのブラウザ部262は、ブラウザ画面中に映像を表示する領域を有するウェブページを表示部23に表示させる。カメラ3により撮影される領域にマーカ4が置かれていない状態では、カメラ3で撮影された映像がそのままブラウザ画面中に表示される。   When the data from the server device 6 is received, the browser unit 262 of the augmented reality display device 2A causes the display unit 23 to display a web page having an area for displaying an image in the browser screen. In a state where the marker 4 is not placed in the area photographed by the camera 3, the video photographed by the camera 3 is displayed as it is on the browser screen.

ユーザが、シート5から「プ」のパターンのマーカ4を完成させ、そのマーカ4をカメラ3で撮影される領域内に置くと、サーバ装置6のマーカ検出部621は、拡張現実感表示装置2Aから受信した、カメラ3で撮影された映像から、映像上のマーカ4の位置、向き、サイズを検出するとともに、マーカ4のパターンを検出する。   When the user completes the marker 4 having the pattern “P” from the sheet 5 and places the marker 4 in an area photographed by the camera 3, the marker detection unit 621 of the server device 6 causes the augmented reality display device 2A. The position, orientation, and size of the marker 4 on the image are detected from the image captured by the camera 3 received from the above, and the pattern of the marker 4 is detected.

次いで、重畳部622は、マーカ検出部621で検出したマーカ4のパターンに対応する電子情報を記憶部61から取得し、この電子情報をカメラ3で撮影された映像に重畳する。この際、重畳部622は、マーカ検出部621で検出したマーカ4の位置、向き、サイズに基づいて、拡張現実感技術により、映像に重畳する電子情報の位置、向き、サイズを決定する。   Next, the superimposing unit 622 acquires electronic information corresponding to the pattern of the marker 4 detected by the marker detecting unit 621 from the storage unit 61, and superimposes this electronic information on the video imaged by the camera 3. At this time, the superimposing unit 622 determines the position, orientation, and size of the electronic information to be superimposed on the video based on the augmented reality technology based on the position, orientation, and size of the marker 4 detected by the marker detecting unit 621.

そして、重畳部622は、電子情報が重畳された映像を、通信部63を介して拡張現実感表示装置2Aに送信する。   Then, the superimposing unit 622 transmits the video on which the electronic information is superimposed to the augmented reality display device 2A via the communication unit 63.

拡張現実感表示装置2Aのブラウザ部262は、サーバ装置6において重畳部622により電子情報が重畳された映像をブラウザ画面中に表示させる。   The browser unit 262 of the augmented reality display device 2A displays the video on which the electronic information is superimposed by the superimposing unit 622 in the server device 6 on the browser screen.

これにより、第1の実施の形態で示した図7と同様の、電子情報が重畳された映像がブラウザ画面中に表示される。以下、第1の実施の形態と同様に、ユーザが各パターンのマーカ4を順次完成させ、そのマーカ4をカメラ3で撮影される領域内に置くと、それに応じて、各パターンに対応した電子情報が重畳された映像がブラウザ画面中に表示される。   As a result, a video on which electronic information is superimposed is displayed in the browser screen, similar to FIG. 7 described in the first embodiment. Thereafter, as in the first embodiment, when the user sequentially completes the markers 4 of each pattern and places the markers 4 in the area photographed by the camera 3, an electronic device corresponding to each pattern is obtained accordingly. A video on which information is superimposed is displayed in the browser screen.

このような第2の実施の形態においても、1枚で複数種類のマーカ4を個別に形成できる折り紙パズルからなるシート5を用いることで、第1の実施の形態と同様の効果が得られる。また、拡張現実感技術より電子情報を映像に重畳する処理をサーバ装置6で行うので、拡張現実感表示装置2Aには拡張現実感技術に関するソフトウェアをインストールしなくても、電子情報が重畳された映像をユーザに提供できる。   In the second embodiment as described above, the same effect as that of the first embodiment can be obtained by using the sheet 5 made of an origami puzzle in which a plurality of types of markers 4 can be individually formed. In addition, since the server device 6 performs processing for superimposing electronic information on video by using augmented reality technology, the electronic information is superimposed on the augmented reality display device 2A without installing software related to augmented reality technology. Video can be provided to the user.

なお、上記各実施の形態では、図3に示したようなシート5を用いて形成されるマーカ4を用いたが、マーカはこのようなものに限らず、折られることにより、表面および裏面の少なくともいずれか一方の少なくとも一部に形成された着色部分と他の部分とにより複数のパターンを個別に表現可能なシートを有するものであればよい。例えば、図9に示すような、シート7aとマーカ枠7bとにより構成されるマーカ7を用いてもよい。   In addition, in each said embodiment, although the marker 4 formed using the sheet | seat 5 as shown in FIG. 3 was used, a marker is not restricted to such a thing. What is necessary is just to have the sheet | seat which can express a some pattern separately by the colored part and other part which were formed in at least one part of at least any one. For example, you may use the marker 7 comprised by the sheet | seat 7a and the marker frame 7b as shown in FIG.

シート7aは、紙等の薄いシート状の折り曲げ可能な材質からなり、図9(a)に示すように、外形が正方形で、一方の面がシート7aの地の色である白になっており、他方の面が黒く着色されている。   The sheet 7a is made of a thin sheet-like foldable material such as paper, and as shown in FIG. 9A, the outer shape is square and one surface is white, which is the background color of the sheet 7a. The other surface is colored black.

シート7aを折ることにより、例えば図9(b)に示すようなパターンができる。このパターンに折られたシート7aを、図9(c)に示すように黒い矩形のマーカ枠7bの枠内に置くことで、マーカ7が形成される。   By folding the sheet 7a, for example, a pattern as shown in FIG. The marker 7 is formed by placing the sheet 7a folded in this pattern within the black rectangular marker frame 7b as shown in FIG. 9C.

マーカ枠7bは、例えば、無色透明のアクリル板に形成し、折り上がったシート7aを、このアクリル板と、白い板との間に挟みこむようにすればよい。これにより、図9(c)に示すように、シート7aの着色部分以外の領域を白くすることができる。   The marker frame 7b may be formed on a colorless and transparent acrylic plate, for example, and the folded sheet 7a may be sandwiched between the acrylic plate and a white plate. Thereby, as shown in FIG.9 (c), areas other than the colored part of the sheet | seat 7a can be whitened.

図9(b)に示すパターンは、例えば、図10に示す手順でシート7aを折ることにより形成される。まず、シート7aの頂点の1つを図10(a)のように折る。次いで、図10(a)の手順でできたものを裏返し、図10(b)に示すように、図中右側から3分の1だけ折り返す。そして、図10(c)に示すように、図中上側から3分の1だけ折り返すことにより完成する。   The pattern shown in FIG. 9B is formed, for example, by folding the sheet 7a according to the procedure shown in FIG. First, one of the vertices of the sheet 7a is folded as shown in FIG. Next, the one produced by the procedure of FIG. 10A is turned over, and as shown in FIG. 10B, it is folded back by one third from the right side in the figure. And as shown in FIG.10 (c), it completes by folding back only 1/3 from the upper side in the figure.

シート7aのようなシートは、折り方により、さまざまなパターンを形成できる。例えば、折り上がりの外形が正方形で、図11に示すようなさまざまなパターンを形成できる折り方があることが知られている。   A sheet like the sheet 7a can form various patterns depending on how it is folded. For example, it is known that there is a folding method that can form various patterns as shown in FIG.

なお、図11では、各パターンの外形を同じ大きさで描いているが、大きさは同じとは限らない。また、図11に示したような折り上がりが正方形になるパターン以外にもさまざまなパターンが形成可能である。マーカ枠7bの内寸をシート7aの外寸と同程度以上にすれば、どのようなパターンでも折り上がったシート7aをマーカ枠7bの枠内に納めることができる。   In addition, in FIG. 11, although the external shape of each pattern is drawn by the same magnitude | size, the magnitude | size is not necessarily the same. Further, various patterns can be formed other than the pattern in which the folding is square as shown in FIG. If the inner dimension of the marker frame 7b is set to be equal to or greater than the outer dimension of the sheet 7a, the folded sheet 7a can be placed in the marker frame 7b in any pattern.

このようなマーカ7を用いれば、1枚のシート7aから、上記各実施の形態におけるマーカ4よりもさらに多くのパターンを形成できる。拡張現実感表示システム1,1Aにおいては、マーカ7で形成可能な複数のパターン予め設定しておき、これらのパターンに対応する電子情報を、記憶部22,61に記憶しておく。   When such a marker 7 is used, more patterns can be formed from one sheet 7a than the marker 4 in each of the above embodiments. In the augmented reality display system 1, 1 </ b> A, a plurality of patterns that can be formed by the marker 7 are set in advance, and electronic information corresponding to these patterns is stored in the storage units 22 and 61.

なお、このようなマーカ7は、上記各実施の形態におけるマーカ4のような、各パターンにより意味のある文字記号列を表現する用途に用いることには好適でない。そこで、娯楽としての折り紙パズルをユーザに提供する用途として、マーカ7を用いるようにしてもよい。この場合、例えば、ユーザが所定のパターンを完成した場合に、拡張現実感表示システム1,1Aにおいて、図12に示すような電子情報33を重畳した映像を表示するようにすればよい。   Such a marker 7 is not suitable for use in a purpose of expressing a meaningful character / symbol string by each pattern, like the marker 4 in each of the above embodiments. Therefore, the marker 7 may be used for providing the user with an origami puzzle as entertainment. In this case, for example, when the user completes a predetermined pattern, the augmented reality display systems 1 and 1A may display an image on which electronic information 33 as shown in FIG. 12 is superimposed.

1,1A 拡張現実感表示システム
2,2A 拡張現実感表示装置
3 カメラ
4,7 マーカ
5,7a シート
7b マーカ枠
6 サーバ装置
21 入力部
22,61 記憶部
23 表示部
24,26,62 制御部
25,63 通信部
241,261 カメラ制御部
242,621 マーカ検出部
243,622 重畳部
244 表示制御部
262 ブラウザ部
DESCRIPTION OF SYMBOLS 1,1A Augmented reality display system 2,2A Augmented reality display apparatus 3 Camera 4,7 Marker 5,7a Sheet 7b Marker frame 6 Server apparatus 21 Input part 22,61 Storage part 23 Display part 24,26,62 Control part 25, 63 Communication unit 241, 261 Camera control unit 242, 621 Marker detection unit 243, 622 Superimposition unit 244 Display control unit 262 Browser unit

Claims (2)

表面および裏面の少なくともいずれか一方の少なくとも一部に着色部分が形成され、複数通りの手順で折られることで、前記着色部分と他の部分とにより複数のパターンを個別に表現可能なシートを有するマーカと、
前記マーカを含む領域を撮影する撮影装置と、
前記撮影装置で撮影された映像に電子情報を重畳して表示する拡張現実感表示装置とを備え、
前記拡張現実感表示装置は、
前記撮影装置で撮影された映像中の前記マーカを検出するマーカ検出部と、
前記マーカ検出部で検出した前記マーカのパターンに対応した電子情報を、前記撮影装置で撮影された映像に重畳する重畳部と、
前記重畳部で電子情報が重畳された映像を表示する表示部と
を備えることを特徴とする拡張現実感表示システム。
A colored portion is formed on at least a part of at least one of the front surface and the back surface, and has a sheet that can be individually expressed in a plurality of patterns by the colored portion and other portions by being folded in a plurality of procedures. Markers,
An imaging device for imaging an area including the marker;
An augmented reality display device that superimposes and displays electronic information on the video imaged by the imaging device,
The augmented reality display device includes:
A marker detection unit for detecting the marker in the video imaged by the imaging device;
A superimposing unit that superimposes electronic information corresponding to the marker pattern detected by the marker detecting unit on an image captured by the imaging device;
An augmented reality display system comprising: a display unit configured to display an image on which electronic information is superimposed by the superimposing unit.
表面および裏面の少なくともいずれか一方の少なくとも一部に着色部分が形成され、複数通りの手順で折られることで、前記着色部分と他の部分とにより複数のパターンを個別に表現可能なシートを有するマーカと、
前記マーカを含む領域を撮影する撮影装置と、
前記撮影装置で撮影された映像をネットワークを介して取得し、取得した映像に電子情報を重畳するサーバ装置と、
前記サーバ装置で電子情報が重畳された映像をネットワークを介して取得して表示する拡張現実感表示装置とを備え、
前記サーバ装置は、
前記撮影装置で撮影された映像中の前記マーカを検出するマーカ検出部と、
前記マーカ検出部で検出した前記マーカのパターンに対応した電子情報を、前記撮影装置で撮影された映像に重畳する重畳部と
を備えることを特徴とする拡張現実感表示システム。
A colored portion is formed on at least a part of at least one of the front surface and the back surface, and has a sheet that can be individually expressed in a plurality of patterns by the colored portion and other portions by being folded in a plurality of procedures. Markers,
An imaging device for imaging an area including the marker;
A server device for acquiring a video imaged by the imaging device via a network and superimposing electronic information on the acquired video image;
An augmented reality display device that acquires and displays a video on which electronic information is superimposed on the server device via a network;
The server device
A marker detection unit for detecting the marker in the video imaged by the imaging device;
An augmented reality display system comprising: a superimposing unit that superimposes electronic information corresponding to the marker pattern detected by the marker detecting unit on an image captured by the imaging device.
JP2010139431A 2010-06-18 2010-06-18 Augmented reality display system Pending JP2012003598A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010139431A JP2012003598A (en) 2010-06-18 2010-06-18 Augmented reality display system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010139431A JP2012003598A (en) 2010-06-18 2010-06-18 Augmented reality display system

Publications (1)

Publication Number Publication Date
JP2012003598A true JP2012003598A (en) 2012-01-05

Family

ID=45535487

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010139431A Pending JP2012003598A (en) 2010-06-18 2010-06-18 Augmented reality display system

Country Status (1)

Country Link
JP (1) JP2012003598A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013125099A1 (en) 2012-02-22 2013-08-29 株式会社マイクロネット Augmented reality image processing device and method
WO2013125098A1 (en) * 2012-02-22 2013-08-29 株式会社マイクロネット System and method for computer graphics image processing using augmented reality technology
JP2014182597A (en) * 2013-03-19 2014-09-29 Yasuaki Iwai Virtual reality presentation system, virtual reality presentation device, and virtual reality presentation method
WO2016005948A3 (en) * 2014-07-11 2016-05-26 Idvision Limited Augmented reality system
US10229543B2 (en) 2014-06-13 2019-03-12 Mitsubishi Electric Corporation Information processing device, information superimposed image display device, non-transitory computer readable medium recorded with marker display program, non-transitory computer readable medium recorded with information superimposed image display program, marker display method, and information-superimposed image display method

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013125099A1 (en) 2012-02-22 2013-08-29 株式会社マイクロネット Augmented reality image processing device and method
WO2013125098A1 (en) * 2012-02-22 2013-08-29 株式会社マイクロネット System and method for computer graphics image processing using augmented reality technology
JP2013171522A (en) * 2012-02-22 2013-09-02 Micronet Co Ltd System and method of computer graphics image processing using ar technology
TWI501193B (en) * 2012-02-22 2015-09-21 Micronet Co Ltd Computer graphics using AR technology. Image processing systems and methods
US9501872B2 (en) 2012-02-22 2016-11-22 Micronet Co., Ltd. AR image processing apparatus and method technical field
JP2014182597A (en) * 2013-03-19 2014-09-29 Yasuaki Iwai Virtual reality presentation system, virtual reality presentation device, and virtual reality presentation method
US10229543B2 (en) 2014-06-13 2019-03-12 Mitsubishi Electric Corporation Information processing device, information superimposed image display device, non-transitory computer readable medium recorded with marker display program, non-transitory computer readable medium recorded with information superimposed image display program, marker display method, and information-superimposed image display method
WO2016005948A3 (en) * 2014-07-11 2016-05-26 Idvision Limited Augmented reality system

Similar Documents

Publication Publication Date Title
US10210659B2 (en) Augmented reality system, method, and apparatus for displaying an item image in a contextual environment
US10186084B2 (en) Image processing to enhance variety of displayable augmented reality objects
JP5769392B2 (en) Information processing apparatus and method
US7756364B2 (en) Digital pen and paper system
JP2004199496A (en) Information processor and method, and program
CN104134414A (en) Display system, display method and display terminal
JP2012003598A (en) Augmented reality display system
US8643679B2 (en) Storage medium storing image conversion program and image conversion apparatus
JP5812550B1 (en) Image display device, image display method, and program
JP2014029566A (en) Image processing apparatus, image processing method, and image processing program
JP2013134538A (en) Information processing terminal, information processing method, and program
JP5661835B2 (en) Terminal device, display processing method, and display processing program
CN112912936A (en) Mixed reality system, program, mobile terminal device, and method
JP5830055B2 (en) Image processing apparatus and image processing system
JP4687102B2 (en) Image display device and image display system
JP7340806B2 (en) Image inspection equipment, image inspection systems, and image inspection programs
KR101850134B1 (en) Method and apparatus for generating 3d motion model
KR101643569B1 (en) Method of displaying video file and experience learning using this
JP2009075873A (en) Apparatus, method and program for creating two-dimensional code with logo
CN107742316A (en) Image mosaic point acquisition methods and acquisition device
JP2004309947A (en) Data display device, data display program, and program recording medium
JP5533311B2 (en) Exhibit information presentation device and presentation method
JP6172879B1 (en) Illustration using graph and its production method
JP6116081B1 (en) Illustration using graph and its production method
JP6836861B2 (en) Image formation system, image data processing device, image data processing method, and program