JP4253567B2 - データオーサリング処理装置 - Google Patents

データオーサリング処理装置 Download PDF

Info

Publication number
JP4253567B2
JP4253567B2 JP2003400877A JP2003400877A JP4253567B2 JP 4253567 B2 JP4253567 B2 JP 4253567B2 JP 2003400877 A JP2003400877 A JP 2003400877A JP 2003400877 A JP2003400877 A JP 2003400877A JP 4253567 B2 JP4253567 B2 JP 4253567B2
Authority
JP
Japan
Prior art keywords
information
marker
spatial localization
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003400877A
Other languages
English (en)
Other versions
JP2005135355A (ja
Inventor
和彦 ▲高▼橋
明人 斉藤
隆男 柴▲崎▼
岳雅 杉田
武夫 浅野
幹彦 寺島
祐一郎 赤塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2003400877A priority Critical patent/JP4253567B2/ja
Priority to PCT/JP2004/004336 priority patent/WO2004088595A1/ja
Priority to DE112004000529T priority patent/DE112004000529T5/de
Publication of JP2005135355A publication Critical patent/JP2005135355A/ja
Priority to US11/231,582 priority patent/US7031495B2/en
Application granted granted Critical
Publication of JP4253567B2 publication Critical patent/JP4253567B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、実世界中の対象物及び/または既定のマーカに対し、その空間定位情報に関連して所定の関連情報を出力する情報呈示装置のための、前記所定の関連情報を設定するデータオーサリング処理装置に関する。
実世界中の対象物及び/または既定のマーカに対し、所定の関連情報を出力する情報呈示装置としては、2次元コードを利用したものが非常によく知られている。そのうち、対象物及び/または既定のマーカの空間定位情報を利用して、関連情報を出力する装置としては、図30に示すように、対象物である名刺600上に印刷されたマーカとしての2次元コード601をカメラ(図示せず)で読み込み、図示しないコンピュータ内のプログラムで前記2次元コード化されたIDを解析し、そのIDに相当する人物の顔写真602をそのIDで特定される画像ファイルから読み出して、あたかも名刺600上の2次元コード601の横にあるかのように、コンピュータのディスプレイ700に表示する装置が提案されている(例えば、特許文献1参照)。
特開2000−82107号公報
特許文献1に開示された装置のように、名刺600上の2次元コード601の横に、顔写真602を表示するようなケースは、2次元コード601の位置座標から同一平面上を近隣に平行移動した座標領域に顔写真表示すれば良いので、容易に出力座標を計算して設定することができる。
しかし、任意の対象物及び/またはマーカに対しその空間定位情報を利用して情報を出力したいケースにおいては、その対象物及び/またはマーカは3次元空間でさまざまな位置をとる可能性があり、また関連情報も、3次元空間を考慮に入れて設定する必要性が生じる。例えば、2次元コードに対して同一平面上にない任意の箇所に、関連情報として3次元構造のキャラクターを浮かび上がらせて、画面上に出力したいケースにおいては、前者のケースに比べて、設定の位置、大きさ、方向等、自由度が極めて増大し、出力座標を計算して設定するのが非常に困難となってしまう。
また、対象物に付随して2次元コードを配置する場合に、情報呈示装置がコードを認識し易いよう設置する必要があるが、どのように設置すれば良いかについて指針を示せる装置は従来にはない。すなわち、情報呈示装置のなんらかの性能(例えば、対象物認識精度、出力の位置精度など)を向上させるように考慮されているものはない。
従って、従来においては、関連情報の設定は、実際の出力装置で実験を行ない実際に出力してから調整するという試行錯誤を行なっていたのが実情である。
本発明は、上述の問題点に鑑みてなされたものであり、実世界中の対象物及び/または既定のマーカに対し、その空間定位情報を利用して、所定の関連情報を出力する情報呈示装置のための、前記所定の関連情報を設定するデータオーサリング処理装置に関し、所定の関連情報を設定する際に用いられる空間定位情報が2次元平面に限定されることなく、任意の対応を容易に設定でき、また、情報呈示装置において、「より所望の出力が得られる」、「マーカが見易い位置にある」などの各種性能を向上させることを考慮してあるデータオーサリング処理装置を提供することを目的とする。
なお、本発明中で記述する実世界の対象物とは、ビルや家屋等の建造物、樹木等の自然物、信号機、配管、家具などの人工物など、既に実世界中に存在してあるものとし、マーカとは情報呈示装置の出力のために人為的に設定した各種のコードや数字や文字、記号を枠で囲んだものなどを指すものとする。また、前記実世界の対象物そのものも、情報呈示装置の出力のためのマーカとして登録した場合は、マーカとして扱うこととする。
上記の目的を達成するために、本発明の第1の態様に係る情報呈示装置は、実世界中の対象物及び/または既定のマーカに対し、それらが意味する空間定位情報を利用して、所定の関連情報を出力する情報呈示装置のための、前記所定の関連情報を設定するデータオーサリング処理装置であって、前記対象物及び/または既定のマーカの空間定位情報を入力する空間定位情報入力部と、前記空間定位情報表示部の表示を編集更新する、関連情報設定部と、前記空間定位情報入力部で入力された前記対象物及び/または既定のマーカの空間定位情報を表示すると共に、前記関連情報設定部によって設定された表示方法に従って前記所定の関連情報を表示する空間定位情報表示部と、前記関連情報設定部による表示の表示設定を記述するデータを出力するデータ出力部と、前記対象物の空間定位情報及び前記既定のマーカの空間定位情報のうち少なくともいずれかの幾何学特性を任意に設定する幾何学特性設定部と、を具備し、前記空間定位情報表示部は、前記対象物の空間定位情報と、前記既定のマーカの空間定位情報の両方を画面に表示し、前記幾何学特性設定部は、前記幾何学特性を適切に設定するための最適化部を有しており、前記最適化部は、前記情報呈示装置を構成する撮影手段のパラメータである撮影手段パラメータと、前記情報呈示装置が情報呈示を行う時の前記撮影手段の位置姿勢情報と、マーカの空間定位情報と、マーカの画像情報特性と、対象物の空間定位情報とを含む情報群のうち、少なくとも対象物の空間定位情報を含む空間定位情報入力部からの入力情報に基づいて、前記情報群のうち入力されなかった少なくとも1つの残余の情報の値もしくは当該値の取り得る範囲を算出し、算出情報出力部に出力する。
また、本発明の第2の態様に係る情報呈示装置は、実世界中の対象物及び/または既定のマーカに対し、それらが意味する空間定位情報を利用して、所定の関連情報を出力する情報呈示装置のための、前記所定の関連情報を設定するデータオーサリング処理装置であって、前記対象物及び/または既定のマーカの空間定位情報を入力する空間定位情報入力部と、前記空間定位情報表示部の表示を編集更新する、関連情報設定部と、前記空間定位情報入力部で入力された前記対象物及び/または既定のマーカの空間定位情報を表示すると共に、前記関連情報設定部によって設定された表示方法に従って前記所定の関連情報を表示する空間定位情報表示部と、前記関連情報設定部による表示の表示設定を記述するデータを出力するデータ出力部とを具備することを特徴とするデータオーサリング処理装置によって決定される情報を記憶する記憶装置と、基準マーカが未決定の場合に前記複数のマーカから基準マーカを選択する入力手段と、撮影範囲内の実世界に存在し前記基準マーカに対して位置姿勢が既知の前記マーカを少なくとも1つ含む画像を撮影する撮影手段と、前記撮影手段によって撮影された前記マーカを含む撮影画像と前記記憶装置内の情報から前記撮影手段の位置姿勢情報を算出する計算装置と、前記撮影画像及び情報の重畳表示を行う表示装置と、を具備する情報呈示装置であって、前記複数マーカのうち基準マーカ以外の未設置のマーカの空間定位情報を前記表示装置に表示する。
また、本発明の第3の態様に係る情報呈示装置は、複数のマーカの空間定位情報、複数のマーカの画像情報特性、撮影手段パラメータの3種類を記憶する記憶装置と、撮影範囲内の実世界に存在し基準となる基準マーカに対して位置姿勢が既知の前記マーカを少なくとも1つ含む画像を撮影する撮影手段と、前記撮影手段によって撮影された前記マーカを含む撮影画像と前記記憶装置内の情報から前記撮影手段の位置姿勢情報を算出する計算装置と、前記撮影画像及び情報の重畳表示を行う表示装置と、を具備する情報呈示装置であって、前記複数マーカのうち基準マーカ以外の未設置のマーカの空間定位情報を前記表示装置に表示する。
本発明によれば、実世界中の対象物、及び/または既定のマーカに対し、その空間定位情報を利用して、所定の関連情報を出力する情報呈示装置のための、前記所定の関連情報を設定するデータオーサリング処理装置であって、所定の関連情報を設定する際に用いられる空間定位情報が2次元平面に限定されることなく、任意の対応を容易に設定でき、また、情報呈示装置において、より所望の出力が得られる、マーカが見易い位置にあるなどの各種性能を向上させることを可能としたデータオーサリング処理装置を提供することができる。
以下、本発明を実施するための最良の形態を図面を参照して説明する。
[第1実施形態]
まず、本発明の第1実施形態に係るデータオーサリング処理装置を説明する。
本実施形態に係るデータオーサリング処理装置は、図1に示すように、空間定位情報入力部1、空間定位情報表示部2、関連情報設定部3、及びデータ出力部4から構成されている。ここで、空間定位情報入力部1は、実世界中の対象物と既定のマーカの空間定位情報aを入力するものであり、空間定位情報表示部2は、前記空間定位情報入力部1によって入力された空間定位情報を表示するものである。関連情報設定部3は、所定の関連情報bを設定するためのものであり、その設定された所定の関連情報bに従って、前記空間定位情報表示部2の表示が編集更新される。そして、データ出力部4は、前記空間定位情報表示部2に編集更新表示された表示設定を前記空間定位情報表示部2から受けて、その表示設定を記述するデータcを図示しない情報呈示装置へ出力するものである。
以下、このような構成の本実施形態に係るデータオーサリング処理装置の動作を説明する。なお、このようなデータオーサリング処理装置が利用される対象の情報呈示装置をカメラ付きPDAとし、該カメラ付きPDAは、画像を入力できるカメラを有し、そのカメラで入力したライブ画像及び内部処理によって作成される情報(画像、文字など)を画面出力できるものとする。またここで、この情報呈示装置の所望機能が、例えば「○○マートの看板をカメラ付きPDAでみると、PDA画面内では、店舗の上に人物が立って「いらっしゃいませ!」と発言するのがみえるようにしたい」であるとする。本実施形態は、このためのデータを作成するデータオーサリング処理装置である。なお、看板は、既に実世界中に存在しているものであるが、情報呈示装置の出力のためのマーカとして登録することとする。
まず、本実施形態に係るデータオーサリング処理装置の操作者の操作により、空間定位情報入力部1で、実世界中の対象物と既定のマーカの空間定位情報aを入力する。ここでは、対象物の空間定位情報aは○○マートの3次元座標データ、既定のマーカの空間定位情報aは看板の座標データが相当する。なおこの空間定位情報入力部1は、例えばコンピュータのメモリ読み込み装置で構成できる。またここでは、データファイルを外部メモリから参照して読み込むこととする。
続いて、前記空間定位情報入力部1で入力された空間定位情報aを空間定位情報表示部2にて表示し、該データオーサリング処理装置の操作者は、その表示された空間定位情報を確認しながら、関連情報設定部3において所定の関連情報bを設定する。本実施形態では、看板をみると所定情報が出力されるように設定したいので、看板をマーカとして設定する。また、所定の関連情報bは、人物の3DCGデータと「いらっしゃいませ」という音声データであり、店舗の上に人物の3DCGデータを配置し、看板を情報呈示装置が画像入力すると、その情報呈示装置の画面に表示されたその撮像画像上に人物が出現し、「いらっしゃいませ」という音声が発生するよう設定する。
具体的な設定方法としては、関連情報設定部3として図2のような関連情報設定画面3Aを用意し、空間定位情報表示部2によってディスプレイ画面10上に表示された空間定位情報表示画面2Aで看板11を選択すると、この関連情報設定画面3Aが表示され、各種設定ができるようにする。ここでは、選択したオブジェクト(看板11)はマーカとして利用するので、マーカとして定義登録する。かつ、出力は3DCGデータと音声データなので、その旨をこの関連情報設定画面3A上で設定する。このようにして3DCGデータを設定したならば、そのデータは空間定位情報表示部2により空間定位情報表示画面2A上に表示される。即ち、本実施形態では、人物の3DCG12を店舗13の上に出力させたいので、空間定位情報表示部2は、空間定位情報表示画面2A上で店舗13の上になるようにその人物の3DCG12を空間配置する。なお、空間定位情報表示部2は、3次元的な位置関係がわかり易いように、空間定位情報表示画面2Aに斜視図や三面図(正面、側面、上面)を用いて表示させても良い。
続いて、表示設定を記述するデータcをデータ出力部4にて出力する。この表示設定を記述するデータcは、マーカ(ここでは看板)座標、マーカ(ここでは看板)画像、出力画像(ここでは人物の3DCG)データ、出力画像の位置、姿勢、出力音声データなどである。なお、CG画像コンテンツなどの容量の大きいデータはデータ自体を記述せずに格納アドレスを記述しても良い。本実施形態では、すべて電子ファイルに記述するとし、この電子ファイルを利用対象となるカメラ付きPDAに読み込ませる。読み込ませるには、そのPDAを該データオーサリング処理装置と接続し、データオーサリング処理装置からデータを送信すれば良い。最終結果として、このカメラ付きPDAを実際の現場に持っていき、○○マートの看板をみると、PDA画面内では、店舗の上にCGキャラクターが重ね合わせて表示され、「いらっしゃいませ!」と発言するのが表現される。すなわち、情報呈示装置の所望機能が達成される。
このように、本実施形態に係るデータオーサリング処理装置では、所定の関連情報bを設定する際に、マーカ(ここでは看板)や対象物(ここでは店舗)の空間定位情報aを空間定位情報表示部2にて表示し、操作者はその空間定位情報aを確認しながら、関連情報設定部3において所定の関連情報b(ここでは3DCGと音声)を設定することができるので、用いられる空間定位情報が2次元平面に限定されることなく(この例では、看板をみると店舗の上に立つように人が出現する)、任意の出力を容易に設定できる。また、様々な空間定位情報と関連情報bを視覚的に同時に確認できるので、情報呈示装置でのシミュレーションも同時にできる。例えば、より演出効果の高いよう、人物の3DCGを所望の位置、方向に設定することができる。従って、操作者にとって所望の出力となるように調整できる効果がある。
なお、本実施形態に係るデータオーサリング処理装置中の各部、及び各部を構成する演算部分はすべて専用のプロセッサを使用しても良いし、プログラムを読み込んだCPUが計算するようにしても良い。また、対象物及びマーカの空間定位情報aは、綿密に計測あるいは作成された3次元データでなくとも、特徴的な位置だけが明確になっている粗いデータであっても構わない。テクスチャデータの有無もどちらでも良い。
また、本実施形態では関連情報bが画像データと音声データの場合を説明したが、画像データだけでも音声データだけでも構わない。また、空間定位情報表示部2と関連情報設定部3は図2のように別画面(ウィンドウ)で示しても、同一ウィンドウでどちらが包含していても構わない。また、対象物の選択や、関連情報の定義、マーカの定義などは、サブウィンドウから選択するようにしても、ファイル名を入力して選択しても良く、マーカ、対象物、関連情報などの空間定位情報を表示しながら設定できる手段であればどんな方法でも良い。
情報呈示装置については、画像を入力できる入力手段を有し、入力手段で入力したライブ画像及び、内部処理によって作成される情報(画像、文字など)を画面出力できるものであれば、カメラ付きPDA、カメラ付き携帯電話、カメラ付きPC、カメラ付きタブレットPC、上記機能に特化した専用機器など様々に適用できる。
さらには、本実施形態に係るデータオーサリング処理装置は、情報呈示装置とは別途の装置であっても、情報呈示装置内に組み込まれていても良い。
なお、空間定位情報表示部で表示される所定の関連情報は、関連情報設定部によって設定された表示方法に従って表示されるが、必ずしも情報呈示装置で実際に表示されるものと同一である必要はない。タイミングをずらして表示するものを同時に表示しておいたり、表示位置のみが明確にわかるようにしたり、画像を簡略化して表示させても構わない。
これらの実際の構成は、以下に説明する他の実施形態でもすべて同様に考えて良い。
[第2実施形態]
次に、本発明の第2実施形態を説明する。
本実施形態に係るデータオーサリング処理装置は、図3に示すように、前記第1実施形態に係るデータオーサリング処理装置の構成に加えて、更に、幾何学特性設定部5を備えている。この幾何学特性設定部5は、対象物及び規定のマーカのうち少なくともいずれかの幾何学特性を任意に設定するものである。なお、既定のマーカには、図4に示すような、例えば物品の種別を判別するバーコード14や、見ているカメラの位置・方向を計算で求めることを可能とする四角マーカ15などがある。
以下、このような構成の本実施形態に係るデータオーサリング処理装置の動作を説明する。なお、本実施形態では、前記第1実施形態と同様に、カメラ付きPDAを情報呈示装置とし、所望の機能は、店舗に人為的にマーカを貼り付け、そのマーカをみたら店舗の前に人物CGが立っているようにPDA画面に表示させるというものとする。この場合、情報呈示装置においては、画面上で見えるマーカの形状情報(歪み、大きさ)からPDAに備えられたカメラの位置、方向を計算し、三次元空間を設定し、その三次元空間上で店舗の前の位置に人物CGを立たせることが必要である。本実施形態は、上記の機能を満たす、情報呈示装置(カメラ付きPDA)のためのデータオーサリング処理装置である。
本実施形態に係るデータオーサリング処理装置の空間定位情報表示部2では、対象物の空間定位情報aと、前記既定のマーカの空間定位情報aの両方をディスプレイ画面に表示する。そして、このデータオーサリング処理装置の操作者は、対象物、マーカのうち少なくともいずれかの幾何学特性を幾何学特性設定部5によって任意に設定する。
さらに具体的に説明すると、図5のようなPC上のディスプレイ画面10を想定し、空間定位情報表示画面2A上の店舗13でマーカを貼り付けたい付近でマウスを右クリック操作すると、マーカ作成のダイアログ5Aが出現し、そのダイアログ5Aを更にマウス右クリックすることでマーカ作成を指定すると、マーカ16が空間定位情報表示画面2A上に表示されると共に、ディスプレイ画面10上にマーカの幾何学特性を設定する画面(幾何学特性設定画面(マーカ用)兼関連情報設定画面5B)が表示される(幾何学特性設定部5に相当する)。この幾何学特性設定画面(マーカ用)兼関連情報設定画面5Bでは、マーカの大きさ、マーカ内に表示されるべきテクスチャ情報などを設定する。このようにマーカの幾何学特性を設定することにより、空間定位情報表示画面2Aで表示されているマーカ16の幾何学特性も変化する。マーカの位置は、空間定位情報表示画面2Aへの表示後、任意の場所に変更することが可能で、より所望な位置に設定することが可能である。
マーカの設定後は、前記幾何学特性設定画面(マーカ用)兼関連情報設定画面5Bにより、出力として人物の3DCGを指定すると、空間定位情報表示画面2Aに人物の3DCG12が表示される。後は、この3DCG12の位置を適当な位置(ここでは店舗13の前)に設定すれば良い。
最後に以上の情報をデータ出力部4にて出力し、情報呈示装置に読み込ませれば、所望の機能を実現できる。
本実施形態では、前記対象物の空間定位情報aと、このようなマーカの空間定位情報aの両方を空間定位情報表示部2で表示した。マーカは、例えば紙やプラスティックに印刷されたものを対象物に貼り付けることが考えられるが、実際にどこに貼り付ければ良いのかは、目立ちすぎても景観上好ましくないし、かといって、情報呈示装置を使用する場面で画像入力できなければ意味がない。そこで、本実施形態のように、両者を空間定位情報表示部2で表示しながら設定すれば、より適当な条件で、しかも容易に設定することが可能となる。また、本実施形態においては、対象物の空間定位情報a、マーカの空間定位情報aの幾何学特性を任意に設定する幾何学特性設定部5を有する。幾何学特性設定部5では、マーカの大きさや形などを設定できるので、適当な条件(例えば景観を損ねずに、情報呈示装置を使用するエンドユーザが認識し易い条件)で設定することが可能となっている。
[第3実施形態]
次に、図6を用いて本発明の第3実施形態に係るデータオーサリング処理装置を説明する。なお、本実施形態では、前述の第1実施形態と同様にカメラ付きPDAを情報呈示装置とし、所望の機能は、街角に人為的にマーカを設置し、そのマーカをみたらマーカの前に任意の場所への矢印を画面表示させるというものとする。情報呈示装置においては、画面上で見えるマーカの形状情報(歪み、大きさ)からPDAに備えられたカメラの位置、方向を計算し、三次元空間を設定し、その三次元空間上でマーカの前に矢印を設置することが必要である。本実施形態は上記の機能を満たす、情報呈示装置(カメラ付きPDA)のためのデータオーサリング装置である。
本実施形態に係るデータオーサリング処理装置の空間定位情報表示部2では、既定のマーカの空間定位情報aと、画像情報オブジェクト(ここでは矢印が相当)の空間定位情報aの両方を画面に表示する。そして、既定のマーカ、画像情報オブジェクトの空間定位情報の幾何学特性を任意に設定する幾何学特性設定部5を有する。
さらに具体的に説明すると、図6のようなPC上のディスプレイ画面10を想定し、空間定位情報表示画面2A上の任意の位置でマウスを右クリック操作すると、マーカ作成のダイアログ5Aが出現し、そこでマーカ作成を指定すると、マーカ16が空間定位情報表示画面2A上に表示されると共に、ディスプレイ画面10上にマーカの幾何学特性を設定する画面(幾何学特性設定画面(マーカ用、矢印用)兼関連情報設定画面5C)が表示される(幾何学特性設定部5に相当する)。この幾何学特性設定画面(マーカ用、矢印用)兼関連情報設定画面5Cでは、マーカの大きさ、マーカ内に表示されるべきテクスチャ情報などを設定する。マーカの幾何学特性を設定することにより、空間定位情報表示画面2Aで表示されているマーカ16の幾何学特性も変化する。このマーカ16の位置は、空間定位情報表示画面2Aへの表示後、任意の場所に変更することが可能で、より所望な位置に設定することが可能である。
このマーカの設定後、関連情報設定部3による設定画面(本実施形態では、幾何学特性設定部5による設定画面と兼用した幾何学特性設定画面(マーカ用、矢印用)兼関連情報設定画面5C)にて、出力として矢印を指定すると、空間定位情報表示画面2Aに矢印17が表示される。幾何学特性設定部5では、このような画像情報オブジェクトである矢印の大きさ、矢印内に表示したいテクスチャ情報などを設定する。矢印17の位置は、空間定位情報表示画面2Aへの表示後、任意の場所に変更することが可能で、より所望な位置に設定することが可能である。
最後に、以上の情報をデータ出力部4にて出力し、情報呈示装置に読み込ませれば、所望の機能を実現できる。
マーカの手前のどれくらいの位置でどのような姿勢で出現するようにしたら、情報呈示装置を使用するエンドユーザにとってわかり易いのかなどを設定する必要がある場合、本実施形態のように、両者を空間定位情報表示部2で表示しながら設定すれば、両者の配置関係をより適当な条件で、しかも容易に設定することが可能となる。また、幾何学特性設定部5で、例えばマーカの大きさや形などを設定すれば、例えば景観を損ねずに、認識もし易い条件でマーカを設定できるし、画像情報オブジェクト(ここでは矢印)の大きさ、形などを設定すれば、エンドユーザにとってわかり易いように、例えば矢印が大きすぎてPDA画面からはみ出てしまうことがないようにするとか、向きがわかり易いように形状を変える、あるいは3次元矢印とするとか、画像情報オブジェクト(ここでは右向き矢印)を設定することができる。
[第4実施形態]
次に、図7を用いて本発明の第4実施形態に係るデータオーサリング処理装置を説明する。本実施形態に係るデータオーサリング処理装置の空間定位情報表示部2では、前記対象物の空間定位情報aと、既定のマーカの空間定位情報aと、画像情報オブジェクトの空間定位情報の三者を画面に表示する。そして、既定のマーカの空間定位情報aと、画像情報オブジェクトの空間定位情報の幾何学特性を任意に設定する幾何学特性設定部5を有する。
また、対象とする情報呈示装置はカメラ付きPDAとする。そして、壁に貼り付けたマーカを画像入力したら、壁から少し離れたところに、3DCGのキャラクターが浮かんで見えるようにしたいというケースを考える。
本実施形態は上記の機能を満たす、情報呈示装置(カメラ付きPDA)のためのデータオーサリング処理装置である。
図7のようなPC上のディスプレイ画面10を想定し、空間定位情報表示画面2A上の壁18付近の位置でマウスを右クリック操作すると、マーカ作成のダイアログ5Aが出現し、そこでマーカ作成を指定すると、マーカ16が空間定位情報表示画面2A上に表示されると共に、ディスプレイ画面10上にマーカの幾何学特性を設定する画面(幾何学特性設定画面(マーカ用、キャラクター用)兼関連情報設定画面5D)が表示される(幾何学特性設定部5に相当する)。この幾何学特性設定画面(マーカ用、キャラクター用)兼関連情報設定画面5Dでは、マーカの大きさ、マーカ内に表示されるべきテクスチャ情報などを設定する。マーカの幾何学特性を設定することにより、空間定位情報表示画面2Aで表示されているマーカ16の幾何学特性も変化する。このマーカの位置は、空間定位情報表示画面2Aへの表示後、任意の場所に変更することが可能で、より所望な位置に設定することが可能である。
このマーカの設定後、関連情報設定部3による設定画面(本実施形態では、幾何学特性設定部5による設定画面と兼用した幾何学特性設定画面(マーカ用、キャラクター用)兼関連情報設定画面5D)にて、出力として3Dキャラクターを指定すると、空間定位情報表示画面2Aに3Dキャラクター19が表示される。幾何学特性設定部5では、このような画像情報オブジェクトであるキャラクターの大きさなどを設定する。キャラクター19の位置は、空間定位情報表示画面2Aへの表示後、任意の場所に変更することが可能で、より所望な位置に設定することが可能である。
最後に、以上の情報をデータ出力部4にて出力し、情報呈示装置に読み込ませれば、所望の機能を実現できる。
情報呈示装置の所望の機能を実現したい場合、「壁」と「マーカ」と「キャラクター」の配置関係は、「壁のどの位置なら貼れるか」、「マーカはどこにおくと情報呈示装置を使用するエンドユーザが見易いか」、「キャラクターはどこにどのような姿勢で出現させると演出効果が高いか」、「マーカを確認しながらキャラクター全体もみえるか」といった様々なポイントを考慮して設定しなくてはならない。
そこで、本実施形態のように、この三者の空間定位情報を空間定位情報表示部2で3次元的に表示しながら設定すれば、上述したようなポイントを視覚的に確認しながら、三者の位置関係をより適当な条件でしかも容易に設定することが可能となる。
また、本実施形態は、マーカ、画像情報オブジェクトの幾何学特性を任意に設定する幾何学特性設定部5を有している。マーカの大きさや形などを適当に設定できるので、景観を損ねずに、認識もし易い条件でマーカを配置できるし、画像情報オブジェクトの大きさ、向きなどを適当に設定すれば、情報呈示装置を使用するエンドユーザに見え易いように、例えばキャラクターが大きすぎてPDA画面からはみ出てしまうことのないようにするとか、キャラクターの顔がわかり易くなるような姿勢にするなど設定することができる。このように、結果として情報呈示装置を動作させる場合において所望の出力が得られるように性能を向上させることに効果がある。
[第5実施形態]
次に、本発明の第5実施形態に係るデータオーサリング処理装置を説明する。
本実施形態では、幾何学特性には、空間的な大きさ、回転、形状を有し、図8のような幾何学特性設定画面5Eで、対象物、マーカ、画像情報オブジェクトの幾何学特性を調整することが可能である。効果として、情報呈示装置のマーカ認識性能や便用する環境に適合させて、マーカの大きさ変更、回転変換、形状変換を行なうことにより、より所望の出力が得られるように調整できる。また、画像情報オブジェクトの大きさ変更、回転変換、形状変換を行なうことにより、情報呈示装置で出現する画像を見易くしたり、より見せたい部分(例えばキャラクターの顔など)を画面表示することに効果がある。さらに、対象物の大きさ変更、回転変換、形状変換を行なうことにより、実際の利用場面での実物を変更・加工し、よりマーカを見易く、また演出効果を高くすることができる。
[第6実施形態]
次に、本発明の第6実施形態に係るデータオーサリング処理装置を説明する。
本実施形態に係るデータオーサリング処理装置は、図9に示すように、前述した第2実施形態に係るデータオーサリング処理装置の構成に加えて、更に、最適化部6を備えている。この最適化部6は、マーカの面と対象物の面とが空間的に接するように、自動配置する機能を有するものである。
即ち、情報呈示装置を実際に使用する場合、マーカを実際の対象物に貼付することがよく考えられる。本実施形態においては、マーカと対象物を空間定位情報表示部2にて表示する際に対象物の貼りたい部分を指定することにより、貼る面に接するようにマーカが自動配置できるようにする。
具体的には、空間定位情報表示画面2A上で壁付近で右クリックし、マーカ作成を指定するとマーカが出現するのはこれまでの実施形態で説明したが、その際に、マーカ出現後、さらに右クリックし、壁貼付を選択すると、その壁に接するようにマーカが配置されるようにする。内部処理としては、該データオーサリング処理装置の操作者が指定した点からの法線ベクトルとマーカ面の法線ベクトルとが一致するようマーカを配置させれば良い。
空間定位情報表示部2では、例えば三面図や斜視図によって表示を行なうことが考えられるが、このような図になれていない操作者がマーカを面に貼りつける際には微妙に傾いていたり、微妙に離れてしまうこともあり得る。また、慣れている操作者でもマーカの数が多くなると、手間が多くなって煩雑である。本実施形態のように、簡単な指定動作で面に貼り付けられれば、経験を問わずどんな操作者であっても、またマーカの数が多くなっても、容易に表示設定することが可能となる。
[第7実施形態]
次に、本発明の第7実施形態に係るデータオーサリング処理装置を説明する。
本実施形態に係るデータオーサリング処理装置の最適化部6では、情報呈示装置の特性と使用環境と前記画像情報オブジェクトの空間定位情報とに基づき、前記マーカの空間的範囲を自動設定する機能を有する。
具体的には、図10に示すように、空間定位情報表示部2による空間定位情報表示画面2Aにおいて、画像情報オブジェクトの出現すべき空間位置(画像情報オブジェクト想定位置20)を設定すると、情報呈示装置のカメラの画角データと想定カメラ位置(情報呈示装置想定位置21)のデータから、設置すべきマーカの範囲(マーカ設置良好範囲22)を表示するようにする。該データオーサリング処理装置の操作者はそのマーカ設置良好範囲22の中から適当な位置にマーカを設置すれば良い。また、外光の影響が少ないところ、物理的にマーカを貼ってはいけないところ(マーカ設置禁止範囲23)、良いところなども空間定位情報表示画面2Aにおいて、その範囲を表示させる。
情報呈示装置を実際に使用するために、マーカを実際の対象物に貼る場合、「どこに貼ると情報呈示装置を使用するエンドユーザにとって見易いのか」、「どこに貼ると外光の影響なく認識し易いか」、「どこに貼るとキャラクターを指定の場所に出現させられるか」などについて考慮することは、情報呈示装置の能力に影響を与える重要なポイントである。本実施形態のように、マーカの設置すべき範囲を自動的に設定してくれると、該データオーサリング処理装置の操作者にとってはその範囲に貼り付ける操作だけでマーカの設定ができるので、より容易に表示設定することが可能となるし、マーカを調整するたびに実際の情報呈示装置を用いて確認試験を行なう必要もなくなる。
[第8実施形態]
次に、本発明の第8実施形態に係るデータオーサリング処理装置を説明する。
本実施形態に係るデータオーサリング処理装置の最適化部6では、情報呈示装置の特性と使用環境とマーカの空間定位情報とに基づき、前記画像情報オブジェクトの空間的範囲を自動設定する機能を有する。
具体的には、図11に示すように、空間定位情報表示部2による空間定位情報表示画面2Aにて、マーカを貼るべき空間位置(マーカ想定位置24)を設定すると、情報呈示装置のカメラの画角範囲と想定カメラ位置(情報呈示装置想定位置21)から、出現させるべき画像情報オブジェクトの設置範囲(オブジェクト設置良好範囲25)を表示するようにする。当該データオーサリング処理装置の操作者は、そのオブジェクト設置良好範囲25の中から適当な位置に画像情報オブジェクトを設置すれば良い。また、画像情報オブジェクトを実際の対象物に対し、接する、重ならない等の所望の条件で出現させたい場合、その条件を満す範囲(オブジェクト設置条件範囲26)を空間定位情報表示画面2Aにて表示させても良い。
情報呈示装置を実際に使用する際に、画像情報オブジェクトを出現させる場合、「実際に貼るマーカをカメラでとらえながら、キャラクター画像を出現させるにはキャラクターをどの位置に設定すれば良いか」、「キャラクターが実際の柱と空間的に重ならないよう出現させたい」、「キャラクターが実際の地面と空間的に接するよう出現させたい」、「キャラクターがマーカを覆うように出現させ、マーカを情報呈示装置の画面から目立たなくさせたい」などについて考慮することは、情報呈示装置の性能に影響を与える重要なポイントである。
本実施形態のように、画像情報オブジェクトの設置すべき範囲を自動的に設定してくれると、当該データオーサリング処理装置の操作者にとってはその範囲に貼りつける操作だけで画像情報オブジェクトの設定ができるので、より容易に表示設定することが可能となるし、画像情報オブジェクトを調整するたびに実際の情報呈示装置を用いて確認試験を行なう必要もなくなる。
[第9実施形態]
次に、本発明の第9実施形態に係るデータオーサリング処理装置を説明する。
本実施形態に係るデータオーサリング処理装置の最適化部6では、マーカと画像情報オブジェクトの相対位置を一定に保ちながら、対象物に対する位置を設定する。具体的には、図12のように、空間定位情報表示部2による空間定位情報表示画面2Aにて、前記マーカと前記画像情報オブジェクトの相対位置を一定に保ちながら、前記対象物に対する位置を設定できるようにする。
情報呈示装置を実際に使用する際に、マーカと画像情報オブジェクトはペアの概念として扱われることも多い。例えば、マーカを情報呈示装置が画像入力すると画面上に方向指示の矢印が出現するようなケースは、図13に示すように、マーカ16と出現矢印17はペアの概念で設定した方がわかり易い。この場合、具体的には、例えば、空間定位情報表示画面2Aにて表示する際に、前記マーカ16と前記画像情報オブジェクト(矢印17)の相対位置を一定に保ちながら、前記対象物に対する位置を設定するようにできれば、マーカと前記画像情報オブジェクトの位置を順次設定しなくても、両者を同時に設定することが可能となる。
このように、マーカと画像情報オブジェクトの相対位置を一定に保ちながら、対象物に対する位置を設定すると、当該データオーサリング処理装置の操作者にとっては、このペアの位置を設定するだけで、両者の位置が同時に設定できるので、マーカと前記画像情報オブジェクトの位置を順次設定しなくても、両者を同時に設定することが可能となり、より容易に表示設定することが可能となる。
[第10実施形態]
次に、本発明の第10実施形態に係るデータオーサリング処理装置を説明する。
本実施形態に係るデータオーサリング処理装置は、図14に示すように、前述した第6実施形態に係るデータオーサリング処理装置の構成に加えて、更に、デモンストレーション出力部7を備えている。このデモンストレーション出力部7は、前記情報呈示装置が出力する情報を予めデモンストレーションできる機能を持つものである。
具体的には、本実施形態に係るデータオーサリング処理装置には、デモモードというモードを用意し、該デモンストレーション出力部7にて、所望の位置、画角での出力が確認できるようにする。
即ち、空間定位情報表示部2での表示設定時に、ある程度、情報呈示装置での出力を確認できるが、出力に順番をつけてその順にみたい場合や、実世界の経路を仮想的に歩きながら出力を確認したい場合は、別途、本実施形態のようにデモンストレーション出力部7を具備させてデモを行なえば、より実際の情報呈示装置に近い出力を体験することが可能になる。
また、空間定位情報表示部2の目的を、出力の設定を容易にさせることに絞り、対象物、マーカ、画像オブジェクトに関し、相対的にデータ量の軽い空間定位情報のみを出力し、データ量の大きい詳細なテクスチャ情報は表示させずに設定を行なうことで、計算処理を高速化させることができる。この場合、デモンストレーション出力部7において、テクスチャ情報を表示させて最終チェックを行なえば良い。
[第11実施形態]
次に、本発明の第11実施形態に係るデータオーサリング処理装置を説明する。
本実施形態に係るデータオーサリング処理装置は、図15に示すように、前記第10実施形態に係るデータオーサリング処理装置の構成に加えて、更に、画像情報特性設定部8を備えている。この画像情報特性設定部8は、画像情報オブジェクトと既定マーカの画像情報特性を任意に設定するものである。
具体的には、画像情報オブジェクトあるいは既定マーカに関し、その幾何学的特性以外の、前記画像の色、明るさ、画像サイズ、カラー白黒情報、フォーマット形式、文字フォントなどの各種画像情報を設定できるようにする。
その結果、「画像情報オブジェクトは背景に対して目立つようにしたい」、「マーカは背景に対して目立たない色にしたい」など、主に視覚的な情報を設定することが可能になる。従って、実際の情報呈示装置の性能を向上させることが可能になる。
[第12実施形態]
次に、本発明の第12実施形態に係るデータオーサリング処理装置を説明する。本実施形態では、画像情報オブジェクトは、3次元の座標を持つ画像である。
即ち、画像情報オブジェクトを出力する場合は、どのような空間配置で出力するのかがより重要なポイントとなるが、特に3次元座標の概念を持つ画像である場合は、配置やその姿勢によって見え方が大きく異なる。このような場合に、空間定位情報表示部2で画像情報オブジェクトの空間定位情報を表示して表示設定を行なえば、該データオーサリング処理装置の操作者にとって、容易に行なえるだけでなく、より所望な出力となるように調整することが可能である。即ち、用いられる空間定位情報が2次元平面に限定されることなく、任意の対応を容易に設定できるだけでなく、操作者にとって所望の出力となるように調整することが可能となる。
[第13実施形態]
次に、本発明の第13実施形態に係るデータオーサリング処理装置を説明する。本実施形態では、画像情報オブジェクトは、文字情報を有している。
即ち、情報呈示装置では、文字を3次元CGで立体的に作成して空間に浮かばせて表示させても良いし、文字情報を含んだある大きさの平面を空間に浮かばせて表示させても良い(仮想看板など)。いずれにしても空間定位情報表示部2にて表示しながら、所望の出力となるように設定する。なお、情報呈示装置で文字情報(画像情報があっても良い)を画面全体に表示させたい場合は、空間定位情報を考慮しなくてもよいので、空間定位情報表示部2にて表示させずに、関連情報設定部3で「画面全体表示」として、その旨、設定すれば良い。
[第14実施形態]
次に、本発明の第14実施形態に係るデータオーサリング処理装置を説明する。本実施形態では、実世界中の同一の対象物、あるいは同一の既定のマーカに対して、所定の関連情報が少なくとも2つ以上設定できるようにする。
このようにすると、情報呈示装置を利用するケースとして、例えば、ある同一のマーカをみた場合でも、時間によって朝は右向きの矢印、夕方は左向きの矢印を出現させるというように設定できるようになる。
[第15実施形態]
次に、本発明の第15実施形態に係るデータオーサリング処理装置を説明する。本実施形態では、実世界中の同一の対象物、あるいは同一の既定のマーカに対して、データ容量の異なる同種類の出力を、所定の関連として複数設定できるようにする。
即ち、情報呈示装置の対象として、同様の機能を実現する、PC版、PDA版、携帯電話版をすべて用意するケースが考えられる。その際に、データオーサリングを機器ごとに行なうのは煩雑である。しかし、それぞれの機器のパフォーマンスは異なり、特にメモリ容量、グラフィック処理性能は差が大きい。従って、所定の関連情報は同種のものでもそれぞれ容量を変えて準備する必要がある。例えば3DCGでのポリゴン数を変える、テクスチャ容量を換えるなどである。しかし、機器毎で、データオーサリングをやり直すのは煩雑なので、本実施形態のようにデータ容量の異なる同種類の出力を、所定の関連として複数設定できるようにすれば、オーサリングを一度だけ行ない、それぞれの機器に対応させることが可能となる。
[第16実施形態]
次に、本発明の第16実施形態に係るデータオーサリング処理装置を説明する。本実施形態に係るデータオーサリング処理装置は、図16に示すように、前述した第11実施形態に係るデータオーサリング処理装置の構成に加えて、更に、出力属性情報を設定できる出力属性情報設定部9を備えている。
ここで、この出力属性情報設定部9によって設定できる出力属性情報としては、情報を出力するタイミング(マーカをみて直ぐか、ある時間たってか)、音声の大きさ(大音量を出力するかどうか)、出力する画像の明るさ(屋外利用では明るくする)、出力する画像の解像度(情報呈示装置の機器性能によって変更)、出力する画像のデータ量(オブジェクトの種類によって変更)、前記情報呈示装置の特性あるいは使用環境によって規定される情報(情報呈示装置の画面種類により色相を変化させる)がある。
本実施形態においては、これらの出力属性情報を設定できる出力属性情報設定部9を有しているので、より所望の関連情報を出力できるよう調整することができる。
[第17実施形態]
次に、本発明の第17実施形態を説明する。本実施形態に係るデータオーサリング処理装置の構成は、前述した第1実施形態に係るデータオーサリング処理装置のそれと同様である。
本実施形態は、前述した第1実施形態における対象物の空間定位情報a(○○マートの3次元座標データ)と、既定のマーカの空間定位情報a(看板の座標データ)とを、3次元CADによる看板、店舗の3次元設計情報の中から抽出するようにしたものである。
具体的には、3次元CAD上で看板と店舗を設計し、看板の3次元設計情報の中の属性情報に「マーカ」を設定する。なおここで、3次元設計情報とは、形状、色、材質、名称、部品名、座標、等々の当該対象物を製造・設置するのに必要な各種情報である。また、上記3次元設計情報の中から、形状、座標等に関する情報を抽出したものを形状情報と称し、色、材質、名称、部品名等の上記形状情報以外の属性に関する情報を抽出したものを属性情報と称する。
そして、本実施形態に係るデータオーサリング処理装置においては、その空間定位情報入力部1で、上記3次元CADによる看板、店舗の3次元設計情報を読み込み、対象物の空間定位情報a(○○マートの3次元座標データ)と、属性情報に「マーカ」が設定されている看板の空間定位情報a(看板の座標データ)とを抽出し、空間定位情報表示部2にて、その抽出された空間定位情報aを表示することになる。
また、関連情報設定部3では、上記3次元CADによる看板、店舗の3次元設計情報を読み込み、対象物の形状や名称、看板の形状や名称といった所定の関連情報bを抽出し、空間定位情報表示部2にて、その抽出された所定の関連情報bを表示することになる。
これ以降の処理は、上記第1実施形態と同じであるので、説明は省略する。
[第18実施形態]
次に、本発明の第18実施形態を説明する。本実施形態に係るデータオーサリング処理装置の構成は、前述した第1実施形態に係るデータオーサリング処理装置のそれと同様である。
対象物固有の座標系である実空間と、その対象物の3次元設計情報固有の座標系であるモデル空間との関連付け(レジストレーション)を行うために、例えばマーカを設置する。このマーカを、3次元CADを用いて対象物を設計する時に、同時に設計を行う。即ち、はじめに、3次元CADを用いて対象物の3次元設計情報を作成する。次に、マーカの3次元設計情報を作成する。マーカは、例えば部品名を「マーカ」とする。対象物とマーカは、3次元CAD上のモデル空間座標系に配置されている。
データオーサリング処理装置の空間定位情報入力部1では、この3次元CAD上で作成された対象物の3次元設計情報とマーカの3次元設計情報とを読み込み、それら3次元設計情報の中からそれぞれの空間定位情報aを抽出する。この空間定位情報aに基づき情報呈示装置用のデータを出力する。具体的には、データオーサリング処理装置の空間定位情報入力部1で、対象物とマーカの3次元設計情報の中から部品名が「マーカ」のものを抽出し、その部品名が「マーカ」の3次元設計情報の中から、マーカの形状、マーカの名称、マーカの座標データを抽出する。同様に、対象物の3次元設計情報の中から、対象物の形状、対象物の名称、対象物の座標データを抽出する。マーカの座標データと、対象物の座標データは、それぞれの空間定位情報aである。また、マーカの形状、マーカの名称、対象物の形状、対象物の名称は、情報呈示装置で表示する所定の関連情報bであり、関連情報設定部3に入力される。
あるいは、関連情報設定部3において、上記3次元CAD上で作成された対象物の3次元設計情報とマーカの3次元設計情報を読み込み、それら3次元設計情報の中からそれぞれの上記所定の関連情報bを抽出するようにしても良い。
なお、情報呈示装置で関連情報を表示するためには、実空間上にデータオーサリング処理装置で設定したマーカを貼り付ける必要があるが、その貼り付け位置は、3次元CAD上での対象物とマーカの配置関係から求められる。この3次元CAD上での配置関係に関する情報を用いて、実空間上でマーカを配置することになる。
ここで、実空間上にマーカを先に貼り付ける場合には、モデル空間上の対象物とマーカの関係(位置姿勢)を修正することにより、実空間とモデル空間のレジストレーションを行う。即ち、情報呈示装置において、図17(A)に示すように、マーカ27を貼り付けた対象物28を撮影してマーカの画像27A及び対象物の画像28Aを得ると共に、マーカの形状情報29及び対象物の形状情報30からマーカのモデル31及び対象物モデル32を生成して、画面33に重畳表示する。このとき、マーカ27を基準とするので、マーカの画像27Aとマーカの形状情報29とは一致し、従って、画面33に表示されるマーカの画像27Aとマーカのモデル31とは一致するものの、対象物の画像28Aと対象物モデル32とは、ずれて表示されることになる。このとき、既に貼り付けられているマーカ27を移動することができないので、対象物の形状情報30に対するマーカの形状情報29の位置姿勢を移動し、形状情報29’とする。これにより、図17(B)に示すように、画面33に表示されるマーカの画像27Aとマーカの移動されたモデル31’とが一致し、また、対象物の画像28Aと対象物モデル32とも一致することとなる。そして、上記移動後のマーカの形状情報29’を空間定位情報入力部1に入力することで、実際に対象物28に貼り付けられたマーカ27に合致する空間定位情報aを抽出することが可能となる。
また、マーカを後から貼り付ける場合には、実空間上の対象物とマーカの関係(位置姿勢)を修正することにより、実空間とモデル空間のレジストレーションを行うこととなる。即ち、情報呈示装置において、図18(A)に示すように、マーカ27を貼り付けた対象物28を撮影してマーカの画像27A及び対象物の画像28Aを得ると共に、マーカの形状情報29及び対象物の形状情報30からマーカのモデル31及び対象物モデル32を生成して、画面33に重畳表示する。このとき、マーカ27を基準とするので、マーカの画像27Aとマーカの形状情報29とは一致し、従って、画面33に表示されるマーカの画像27Aとマーカのモデル31とは一致するものの、対象物の画像28Aと対象物モデル32とは、ずれて表示されることになる。よって、対象物28に対する実際のマーカ27の位置を移動させることで、対象物28と対象物の形状情報30とを一致させる。即ち、画像観察者が、画面33に表示された、撮影された対象物の画像28Aと、その対象物モデル32とを観察しながら、両者が一致するように、マーカ27の位置を移動していくものである。これにより、図18(B)に示すように、画面33に表示される移動されたマーカの画像27Aとマーカのモデル31とが一致し、また、対象物の画像28Aと対象物モデル32とも一致することとなる。
以上実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
例えば、前記の実施形態では、説明の都合上、空間定位情報表示部2、幾何学特性設定部5、関連情報設定部3などの各部による画面をGUI上で独立したように表現してあるが、各部(各画面)が同一ウィンドウ中に混在していてももちろん構わない。それぞれの機能を達成していれば、データオーサリング処理装置の操作者にとって使い易いようにGUIが作成されていて良い。
また、本発明のデータオーサリング処理装置の機能をインターネット等のネットワークを介して提供することも考えられ、そのような場合には、前記表示設定を記述するデータcを保存あるいは情報呈示装置へ読み込ませたときに課金するなどして、その使用料金を徴収しても良い。
また、上記第17及び第18実施形態では、3次元CADにより3次元設計情報を作成したが、2次元CADを用いて作成した2次元設計情報(XY平面、XZ平面、YZ平面の設計情報)を用いて3次元設計情報(XYZ面)に変換しても、もちろん構わない。さらに、空間定位情報は、形状情報から抽出したが、3次元CADで属性情報に空間定位情報(例えば座標データ)を記述しておき、これを抽出するようにしても、もちろん構わない。
[第19実施形態]
以下に、本発明の第19実施形態を説明する。本実施形態は、図10を用いて説明した第7実施形態において、対象物(オブジェクト)の空間定位情報と情報呈示装置の使用条件に基づく具体的なマーカ空間定位情報の決定方法を提示するものである。ここでは対象物の設計情報の作成と同時に実世界とモデル空間を登録するための情報を作成する。具体的には、3次元CADで設計を行う対象物の近くに関連情報を表示、例えば対象物の形状や名称等を重畳表示するときの基準となるマーカ等の設置情報や撮影条件などを作成する。
図19は、第19実施形態に係るデータオーサリング処理装置の構成を示す図である。空間定位情報入力部100は対象物及び/または既定のマーカの空間定位情報を入力する部分であり、図9の空間定位情報表示部2に対応する。記憶装置101は、情報呈示装置を構成する撮影手段のパラメータである撮影手段パラメータ101−2と、情報呈示装置が情報呈示を行う時の撮影手段の位置姿勢情報101−1と、マーカの空間定位情報101−3と、マーカの画像情報特性101−4と、対象物の空間定位情報101−5とを記憶することが可能である。
最適化部102は、撮影手段パラメータ101−2と、撮影手段の位置姿勢情報101−1と、マーカの空間定位情報101−3と、マーカの画像情報特性101−4と、対象物の空間定位情報101−5とを含む情報群のうち、少なくとも対象物の空間定位情報101−5を含む空間定位情報入力部100からの入力情報に基づいて、前記情報群のうち入力されなかった少なくとも1つの残余の情報の値もしくは当該値の撮り得る範囲を算出する。算出情報出力部103は、図9のデータ出力部4に対応する部分であり、ここでは、撮影手段パラメータ101−2と、撮影手段の位置姿勢情報101−1と、マーカの空間定位情報101−3と、マーカの画像情報特性101−4と、対象物の空間定位情報101のうち、入力された値や、入力された値から算出された値を出力する。
ここで、対象物の空間定位情報101−5は、対象物の位置姿勢情報、形状サイズ情報、情報呈示を行う際に撮影される領域、撮影手段が存在し得る領域、マーカが設置可能な領域のうち、少なくとも対象物の位置姿勢情報、形状情報を含む2つ以上の情報である。
また、空間定位情報入力部100から入力される情報としては、対象物の空間定位情報、撮影手段パラメータ、マーカの画像情報特性がある。
また、前記撮影手段パラメータ101−2は、撮影手段の画角、解像度、マーカを認識するために必要なピクセル数、画像歪情報のうち少なくとも画角と解像度を含む2つ以上の情報を有する。
また、前記情報呈示を行う時の撮影手段の位置姿勢情報101−1は、情報呈示を行う時の位置情報と姿勢情報を有し、情報呈示を行うための撮影が複数箇所で行われる場合は複数の位置情報と姿勢情報を有する。
また、マーカの空間定位情報101−3は、マーカが設置される位置、姿勢、及びマーカの幾何学特性情報としてのマーカの形状、サイズである。
また、マーカの画像情報特性101−4は、マーカの属性、種類、主にテクスチャ情報である。
図20は、本発明の第19実施形態に係るデータオーサリング処理装置の作用を説明するための図である。まず、撮影手段パラメータ101−2と、撮影手段の位置姿勢情報101−1と、マーカの空間定位情報101−3と、マーカの画像情報特性101−4と、対象物の空間定位情報101−5とを含む情報群のうち、例えば、対象物の空間定位情報101−5と撮影手段パラメータ101−2を入力パラメータとして空間定位情報入力部100を介して最適化部102に入力する(ステップS11)。最適化部102は、入力されなかった残りのパラメータ(ここでは撮影手段の位置姿勢情報101−1と、マーカの空間定位情報101−3と、マーカの画像情報特性101−4)を記憶装置101を参照して算出する(ステップS12)。次に、上記算出されたパラメータを算出情報出力部103から出力する(ステップS13)。
以下に、上記したデータオーサリング処理装置の具体的な応用例について説明する。工場、カーナビ、建設現場などが考えられるが、ここでは、工場内部を例にして説明する。
図21は、工場内部を上から見たときの表示例を示している。ここでは、3次元CADで設計を行う種々の対象物(建築物)の近くに、当該対象物の形状や名称等を重畳表示するときの基準となるマーカ等の設置情報や撮影条件などを作成することを考える。
まず、空間定位情報入力部100からの入力によって記憶装置101に図21に示すような対象物139〜143の位置姿勢及び形状情報、各対象物のチェックが必要な面139−1〜143−1(図中では太線で表現)及び検査者146の通過ルート145−1〜145−4(図中太線の矢印で表現)に関する情報を格納する。さらに、検査に使用する撮影手段の画角や解像度等の撮影手段パラメータを記憶装置101に格納する。また、その他に使用できるマーカに関する情報が記憶装置101に格納される。最適化部102は、記憶装置101に格納されている種々の情報から、最適な検査撮影場所及び方向、マーカ設置位置姿勢及びマーカサイズ及び種類を決定し、算出情報出力部103から出力する。
例えば入力される情報が、対象物139〜143の位置姿勢及び形状情報、各対象物139〜143のチェックが必要な面139−1〜143−1、マーカ設置可能範囲及び検査者146の通過ルートであった場合、検査撮影場所及び方向、マーカ設置位置姿勢及びマーカサイズ及び種類、使用する撮影手段の撮影手段パラメータが、入力されなかった残余の情報として出力される。
この場合、出力される情報は一通りとは限らず、ある範囲で出力されることもある。検査者146は設置する必要のあるマーカ個数、サイズ等のトレードオフを考慮して出力される範囲内から具体的な値を選択することによって、容易にマーカ及び撮影に関する設定を決定することが可能となる。また、入力に応じて出力された特定情報範囲内からある値もしくは、より狭い範囲を指定し、残りの情報の取り得る値もしくは範囲を再算出することも可能である。
また、他の例として、入力される情報が撮影手段パラメータ、対象物139〜143の位置姿勢及び形状情報、各対象物139〜143のチェックが必要な面139−1〜143−1、マーカ設置可能範囲及び検査者146の通過ルート145−1〜145−4であった場合、入力されなかった残余の情報として出力される情報は、マーカ設置位置姿勢及びマーカサイズ及び種類、検査撮影場所及び方向となる。複数のマーカ使用が必要な場合は、登録されているマーカ種類から誤認識がおきにくいマーカの組み合わせが算出される。これは、類似性の高いテクスチャを持つマーカの組が選ばれないようにするという判定の他に、より精度良く撮影手段の位置姿勢情報を算出できるように複数のマーカの位置姿勢の関係を算出するという意味を含む。例えば、撮影手段によって撮影された画像中の複数のマーカから撮影手段の位置姿勢を算出する場合、複数のマーカの位置関係は撮影手段のカメラ座標系XYZの各座標値の差ができる限り大きい方がより精度良く撮影手段の位置姿勢を算出できる。これは複数のマーカを1つの大きなマーカとして扱う事ができるからである。特にZ軸方向(撮影手段奥行き方向)に関する複数マーカの位置関係の差が大きい事が精度良く撮影手段の位置姿勢を算出する為に好ましい条件である。誤認識がおきにくいマーカの組み合わせを算出する場合は上記のように複数のマーカの位置関係も判定基準となる。
図22は、算出情報出力部103を表示装置で実現したときの情報呈示の一例を示している。各対象物139〜143の近くにはマーカ150〜155が表示されている。対象物140とマーカ151とを撮影可能な視野Aを有する撮影手段としてのカメラ165が表示されている。また、対象物141とマーカ152とを撮影可能な視野Bを有するカメラ164が表示されている。また、対象物142とマーカ153とを撮影可能な視野Cを有するカメラ163が表示されている。また、対象物143とマーカ154,155とを撮影可能な視野Dを有するカメラ162が表示されている。また、対象物143とマーカ154,155とを撮影可能な視野Eを有するカメラ160が表示されている。また、対象物139,140とマーカ150,151とを撮影可能な視野Fを有するカメラ160が表示されている。
また、出力される情報は図21、図22で示すような2次元情報である必要はなく、空間定位情報入力部100からの入力に応じて任意の視点から対象物139〜143を見た場合の画像を出力しても良い。図23、図24はこのような画像出力の一例を示しており、図23はシミュレーションによるCAD表示を示しており、マーカを設置すべき場所201が示されている。また、図24は、実空間での撮影画像の表示を示しており、マーカ150が壁に貼り付けられているようすを示している。
上記した第19実施形態によれば、情報呈示における前準備であるマーカ設置作業において、マーカ等の設置情報や撮影条件が予め呈示されるので、マーカ設置の工数を著しく低減させることが可能になる。
[第20実施形態]
以下に、本発明の第20実施形態を説明する。第20実施形態は、設定されたマーカの空間定位情報を基にマーカの設置を行うときの支援に関する。より具体的には、マーカの空間定位情報に基づき1枚目のマーカの設置を行う。その1枚目のマーカに対して情報呈示装置を使用する。情報呈示装置は2枚目以降のマーカの空間定位情報を対象物に関する情報呈示と同様に行い(マーカを対象物として扱い)、マーカの設置を支援する。
図25は、第20実施形態に係る情報呈示装置の構成を示す図である。記憶装置301は、情報呈示装置を構成する撮影手段のパラメータである撮影手段パラメータ301−2と、情報呈示装置が情報呈示を行う時の撮影手段の位置姿勢情報301−1と、複数のマーカの空間定位情報301−3と、複数のマーカの画像情報特性301−4と、対象物の空間定位情報301−5とを記憶することが可能である。撮影手段302は、撮影範囲内の実世界に存在し基準となる基準マーカに対して位置姿勢が既知のマーカを少なくとも1つ含む画像を撮影する。計算装置303は、撮影手段302によって撮影されたマーカを含む撮影画像と記憶装置301内の情報から撮影手段302の位置姿勢情報を算出する。表示装置304は、撮影画像及び情報の重畳表示を行う。ここでは、複数のマーカのうち基準マーカ以外のマーカの空間定位情報が表示装置304に表示される。入力手段300は、記憶装置301内のマーカの空間定位情報301−3、マーカの画像情報特性301−4のうち少なくとも1つの情報を修正するために用いられる。計算装置303は、この入力手段300の入力に基づき記憶装置301内の情報を修正する。
また、複数マーカのうち基準マーカ以外の未設置のマーカの空間定位情報を表示装置304に表示可能である。
また、複数マーカのうち基準マーカ以外の設置済のマーカの空間定位情報を表示装置304に表示可能である。
図26は、本発明の第20実施形態に係る情報呈示装置の作用を説明するための図である。まず、撮影手段302によって基準となるマーカを撮影する(ステップS21)。次に、計算装置303は、撮影されたマーカ画像から撮影手段302の位置姿勢を算出する(ステップS22)。次に、計算装置303は記憶装置301を参照して撮影された画像に次のマーカ位置姿勢情報を重畳した画像を生成する(ステップS23)。次に、生成した重畳画像を表示装置304に表示する(ステップS24)。
以下に、上記した情報呈示装置の具体的な応用例について説明する。図27は、撮像手段としてのカメラ502を有するPDA500がデータサーバ503と無線LANにより通信を行うようすを示している。使用者が既に設置してある1枚のマーカをカメラ502で撮影すると、PDA500は撮影により取得したマーカ画像を無線LANによりデータサーバ503に送る。データサーバ503は送られたマーカの写り具合と既に格納されているマーカの種類、マーカの空間定位情報からカメラ502の位置姿勢を算出し、送られてきた画像を基準マーカとして当該基準マーカにその他のマーカの種類及びマーカの空間定位情報を重畳した画像を生成して、PDA500に返信する。受信された画像はPDA500の表示装置501の表示画面(ここでは液晶ディスプレイ)に表示される。
図28は基準マーカ400とこの基準マーカ400に次のマーカを設置すべき場所402を重畳表示したようすを示している。使用者はこの表示画面に表示されたマーカの種類及びマーカの空間定位情報を見て次のマーカの設置を行うことができる。
なお、表示画面に表示される撮影画像内にその他のマーカの空間定位情報が含まれない場合は、図29に示すように、カメラ502をどちらの方向に移動すべきかについての指示401を表示する。
なお、カメラの位置姿勢の算出及び情報重畳画像の生成はデータサーバ503側で行ってもPDA500側で行っても良い。本実施形態はPDA500やデータサーバ503といった形式に限定されない。PDA500とデータサーバ503は有線で接続されていても良いし、PDA500はノートPCであっても良い。PDA500の中にデータサーバ503を搭載しても良い。
さらに、PDA500は図27に示すようにカメラ502と表示装置501とが合体されている必要はなく、カメラ502と表示装置501とが別体になっていてもよい。これにより、対象物を撮影可能な位置にカメラ502を配置するとともに、表示装置501をマーカが設置される位置に移動して表示画面を観察しながらマーカ設置作業を単独で行うことが可能になる。
さらに、PDA500に表示される表示内容と同じ内容をプロジェクタ等に拡大表示すれば、マーカ設置のための指示情報を見やすくすることができる。
上記した第20実施形態によれば、情報呈示における前準備であるマーカ設置作業において、基準マーカに基づいて次のマーカを設置すべき位置が呈示されるので、マーカ設置の誤りが少なくなり、マーカ設置の工数を著しく低減させることが可能になる。
(付記)
前記の具体的実施形態から、以下のような構成の発明を抽出することができる。
(1) 実世界中の対象物及び/または既定のマーカに対し、それらが意味する空間定位情報を利用して、所定の関連情報を出力する情報呈示装置のための、前記所定の関連情報を設定するデータオーサリング処理装置であって、
前記対象物及び/または既定のマーカの空間定位情報を入力する空間定位情報入力部と、
前記所定の関連情報の表示方法を設定する関連情報設定部と、
前記空間定位情報入力部で入力された前記対象物及び/または既定のマーカの空間定位情報を表示すると共に、前記関連情報設定部によって設定された表示方法に従って前記所定の関連情報を表示する空間定位情報表示部と、
前記空間定位情報表示部による表示の表示設定を記述するデータを出力するデータ出力部と、
を具備することを特徴とするデータオーサリング処理装置。
(対応する実施形態)
この(1)に記載のデータオーサリング処理装置に関する実施形態は、第1乃至第16実施形態が対応する。
(作用効果)
図1を用いて、この(1)に記載のデータオーサリング処理装置の作用及び効果を説明する。例として、情報呈示装置(ここでは、カメラ付きPDA)の所望機能が、「○○マートの看板をカメラ付きPDAでみると、PDA画面内では、店舗の上にCGによるキャラクターが重ね合わせて表示され、「いらっしゃいませ!」と発言するのがみえるようにしたい」であるとする。このためのデータオーサリング装置を例にとって説明する。
まず、空間定位情報入力部1で、実世界中の対象物及び/または既定のマーカの空間定位情報aを入力する。ここでは、空間定位情報aは○○マートの3次元座標データ、看板の座標データが相当する。続いて、空間定位情報aを空間定位情報表示部2にて表示し、該データオーサリング処理装置の操作者はその空間定位情報aを確認しながら、関連情報設定部3において所定の関連情報bを設定する。ここで、所定の関連情報に相当するのが、人物の3DCGデータと「いらっしゃいませ」という音声データである。出力としては、店舗の上に人物の3DCGデータを配置し、看板を情報呈示装置が画面入力すると、人物が出現し、「いらっしゃいませ」という音声が発生するよう設定する。続いて、表示設定を記述するデータcをデータ出力部4にて出力する。ここでは、電子ファイルに記述するとし、この電子ファイルを利用対象となる情報呈示装置に読み込ませる。最終結果として、情報呈示装置(ここでは、カメラ付きPDA)の所望機能が達成される。
この(1)に記載のデータオーサリング処理装置では、所定の関連情報を設定する際に、空間定位情報aを空間定位情報表示部2にて表示し、該データオーサリング処理装置の操作者はその空間定位情報aを確認しながら、関連情報設定部3において所定の関連情報bを設定することができるので、用いられる空間定位情報が2次元平面に限定されることなく(この例では、看板をみると店舗の上に立つように人が出現する)、任意の出力を容易に設定できる。また、空間定位情報aと関連情報bを視覚的に同時に確認できるので、情報呈示装置でのシミュレーションも同時にできる。従って、操作者にとって所望の出力となるように調整できる効果がある。
(2) 前記所定の関連情報は、画像情報オブジェクトを含み、
前記空間定位情報表示部では、前記画像情報オブジェクトの空間定位情報を表示することを特徴とする(1)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(2)に記載のデータオーサリング処理装置に関する実施形態は、第1乃至第16実施形態が対応する。
(作用効果)
この(2)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(2)に記載のデータオーサリング処理装置の関連情報bは画像情報オブジェクトを含み、前記空間定位情報表示部2では画像情報オブジェクトの空間定位情報を表示する。
画像を画面上で呈示出力したい場合、どのような空間配置で出力するのかがより重要なポイントとなる。またその姿勢によっても見え方が大きく異なる。このような場合に、空間定位情報表示部2で画像情報オブジェクトの空間定位情報を表示して表示設定を行なえば、該データオーサリング処理装置の操作者にとって容易に設定が行なえるだけでなく、より所望な出力となるように調整することが可能である。すなわち、用いられる空間定位情報が2次元平面に限定されることなく、任意の対応を容易に設定できるだけでなく、該データオーサリング処理装置の操作者にとって所望の出力となるように調整することが可能となる。
(3) 前記空間定位情報表示部では、前記対象物の空間定位情報と、前記既定のマーカの空間定位情報の両方を画面に表示し、
前記対象物の空間定位情報及び前記既定のマーカの空間定位情報うち少なくともいずれかの幾何学特性を任意に設定する幾何学特性設定部を更に具備することを特徴とする(1)または(2)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(3)に記載のデータオーサリング処理装置に関する実施形態は、第2乃至第16実施形態が対応する。
(作用効果)
この(3)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(3)に記載のデータオーサリング処理装置の空間定位情報表示部2では、対象物の空間定位情報と、前記既定のマーカの空間定位情報の両方を座標空間等を用いて画面に表示する。そして、対象物、マーカのうち少なくともいずれかの幾何学特性を任意に設定する幾何学特性設定部5を有する(図3参照)。
既定のマーカには、例えば物品の種別を判別する2次元コードや、見ているカメラの位置・方向を計算で求めることを可能とする四角マーカなどがある(図4参照)。この(3)に記載のデータオーサリング処理装置では、前記対象物の空間定位情報と、このようなマーカの空間定位情報の両方を空間定位情報表示部2で表示する。マーカは、例えば紙やプラスティックに印刷されたものを対象物に貼り付けることが考えられるが、実際にどこに貼り付ければ良いのかは、目立ちすぎても景観上好ましくないし、かといって、情報呈示装置を使用する場面で画像入力できなければ意味がない。そこで、この(3)に記載のデータオーサリング処理装置のように、両者を空間定位情報表示部2で表示しながら設定すれば、より適当な条件でしかも容易に設定することが可能となる。また、この(3)に記載のデータオーサリング処理装置においては、対象物の空間定位情報、マーカの空間定位情報のうち少なくともいずれかの幾何学特性を任意に設定する幾何学特性設定部5を有する。幾何学特性設定部5で、例えばマーカの大きさや形などを設定すれば、より適当な条件(例えば景観を損ねずに、認識もし易い条件)で設定することが可能となる。
(4) 前記空間定位情報表示部では、前記既定のマーカの空間定位情報と、前記画像情報オブジェクトの空間定位情報との両方を画面に表示し、
前記既定のマーカの空間定位情報及び前記画像情報オブジェクトの空間定位情報のうち少なくともいずれかの幾何学特性を任意に設定する幾何学特性設定部を更に具備することを特徴とする(2)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(4)に記載のデータオーサリング処理装置に関する実施形態は、第3乃至第16実施形態が対応する。
(作用効果)
この(4)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(4)に記載のデータオーサリング処理装置の空間定位情報表示部2では、既定のマーカの空間定位情報と、画像情報オブジェクトの空間定位情報の両方を画面に表示する。そして、既定のマーカ、画像情報オブジェクトの空間定位情報のうち少なくともいずれかの幾何学特性を任意に設定する幾何学特性設定部5を有する。
情報呈示装置において、マーカに対して適当な位置に、なんらかの画像情報オブジェクトを出現させたいということが考えられる。例えば、マーカを情報呈示装置が画像入力したら、マーカの手前前方に右向き矢印を重ね合わせて表示するというケースである。
この場合、マーカの手前のどれくらいの位置でどのような姿勢で出現するようにしたら、情報呈示装置を使用するエンドユーザにとってわかり易いのかなどを設定する必要がある。
そこで、この(4)に記載のデータオーサリング処理装置のように、両者を空間定位情報表示部2で表示しながら設定すれば、両者の配置関係をより適当な条件でしかも容易に設定することが可能となる。また、この(4)に記載のデータオーサリング処理装置においては、対象物の空間定位情報、マーカの空間定位情報のうち少なくともいずれかの幾何学特性を任意に設定する幾何学特性設定部5を有する。幾何学特性設定部5で、例えばマーカの大きさや形などを設定すれば、例えば景観を損ねずに、認識もし易い条件でマーカを配置できるし、画像情報オブジェクトの大きさ、形などを設定すれば、情報呈示装置を使用するエンドユーザにとってわかり易いように、例えば矢印が大きすぎて画面からはみ出してしまうことがないようにするとか、向きがわかり易いように形状を変える、あるいは3次元矢印とするとか、画像情報オブジェクト(ここでは右向き矢印)を設定することができる。
(5) 前記空間定位情報表示部では、前記対象物の空間定位情報と、前記既定のマーカの空間定位情報と、前記画像情報オブジェクトの空間定位情報との、3つとも画面に表示し、
前記対象物の空間定位情報、既定のマーカの空間定位情報、及び画像情報オブジェクトの空間定位情報のうち少なくとも一つ以上の幾何学特性を任意に設定する幾何学特性設定部を更に具備することを特徴とする(2)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(5)に記載のデータオーサリング処理装置に関する実施形態は、第4乃至第16実施形態が対応する。
(作用効果)
この(5)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(5)に記載のデータオーサリング処理装置の空間定位情報表示部2では、前記対象物の空間定位情報と、既定のマーカの空間定位情報と、画像情報オブジェクトの空間定位情報の三者を画面に表示する。そして、この三者のうち少なくとも一つ以上の幾何学特性を任意に設定する幾何学特性設定部5を有する。
情報呈示装置において、対象物に対して、マーカを適当な位置に貼り付け、そのマーカに対して適当な位置に、なんらかの画像情報オブジェクトを出現させたいということが考えられる。例えば、壁に貼り付けたマーカを情報呈示装置で画像入力したら、壁から少し離れたところに、3DCGのキャラクターが浮かんで見えるようにしたいというケースである。
この場合、「壁」と「マーカ」と「キャラクター」の配置関係は、「壁のどの位置なら貼れるか」、「マーカはどこにおくとと情報呈示装置を使用するエンドユーザが見易いか」、「キャラクターはどこにどのような姿勢で出現させると演出効果が高いか」、「マーカを確認しながらキャラクター全体もみえるか」といった様々なポイントを考慮して設定しなくてはならない。
そこで、この(5)に記載のデータオーサリング処理装置のように、この三者の空間定位情報を空間定位情報表示部2で3次元的に表示しながら設定すれば、上述したようなポイントを視覚的に確認しながら、三者の位置関係をより適当な条件でしかも容易に設定することが可能となる。
また、この(5)に記載のデータオーサリング処理装置においては、対象物、マーカ、画像情報オブジェクトのうち少なくともいずれかの幾何学特性を任意に設定する幾何学特性設定部5を有する。例えばマーカの大きさや形などを適当に設定すれば、景観を損ねずに、認識もし易い条件でマーカを配置できるし、画像情報オブジェクトの大きさ、向きなどを適当に設定すれば、情報呈示装置を使用するエンドユーザに見え易いように、例えばキャラクターが大きすぎて画面からはみ出すようなことがないようにするとか、キャラクターの顔がわかり易くなるような姿勢にするなど設定することができる。また、対象物の空間定位情報として一部の遮蔽部をとり除いたり、大きさを変更して、マーカが認識し易くなるように設定し、実際の対象物を変更設定にしたがって加工修正することにより、実際の情報処理装置の使用時にマーカの認識性能を向上させる効果がある。
このように以上の作用はすべて、結果として情報処理装置を動作させる場合において所望の出力が得られるように性能を向上させることに効果がある。
(6) 前記幾何学特性は、空間的な大きさ、回転、形状のうち、少なくとも一つを有していることを特徴とする(3)乃至(5)のいずれかに記載のデータオーサリング処理装置。
(対応する実施形態)
この(6)に記載のデータオーサリング処理装置に関する実施形態は、第5及び第16実施形態が対応する。
(作用効果)
この(6)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(6)に記載のデータオーサリング処理装置では、幾何学特性は、空間的な大きさ、回転、形状のうち・少なくとも一つを有し、対象物、マーカ、画像情報オブジェクトの幾何学特性を調整することが可能である。
効果として、情報呈示装置のマーカ認識性能や使用する環境に適合させて、マーカの大きさ変更、回転変換、形状変換を行なうことにより、より所望の出力が得られるように調整できる。また、画像情報オブジェクトの大きさ変更、回転変換、形状変換を行なうことにより、情報呈示装置で出現する画像を見易くしたり、より見せたい部分(例えばキャラクターの顔など)を画面表示することに効果がある。また、対象物の大きさ変更、回転変換、形状変換を行なうことにより、実際の利用場面での実物を変更・加工し、よりマーカを見易く、また演出効果を高くすることができる。
(7) 前記幾何学特性設定部は、前記幾何学特性を適切に設定するための最適化部を有していることを特徴とする(3)乃至(5)のいずれかに記載のデータオーサリング処理装置。
(対応する実施形態)
この(7)に記載のデータオーサリング処理装置に関する実施形態は、第6乃至第16実施形態が対応する。
(作用効果)
この(7)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(7)に記載のデータオーサリング処理装置では、幾何学特性設定部5で、前記幾何学特性を適切に設定するための最適化部6を有し、対象物、マーカ、画像情報オブジェクトの幾何学特性を調整する際に、最適な条件に設定することが可能である(図9参照)。最適な条件にするには、例えば、情報呈示装置の画像入力部分のカメラの画角に合わせて、マーカや画像情報オブジェクトの大きさを調整したり、視野に応じてマーカを貼るべき位置の候補を呈示したり、自動的に対象物に貼り付けたりする機能を持たせれば良い。なお、ここで用いる最適化というのは、一つの最適解を求めるという意味ではなく、性能の向上のために、より良くなる条件をいくつか示唆する、いくつかの解を自動的に求めるなどの広い意味を示すものとする。
このように、最適化部6の作用により、幾何学特性を最適な条件に設定にすることが可能となるので、該データオーサリング処理装置の操作者にとってより容易に、情報呈示装置での所望の出力を設定できる効果がある。
(8) 前記最適化部は、少なくとも、前記マーカの面と前記対象物の面とが空間的に接するように、自動配置する機能を有していることを特徴とする(7)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(8)に記載のデータオーサリング処理装置に関する実施形態は、第6乃至第16実施形態が対応する。
(作用効果)
この(8)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(8)に記載のデータオーサリング処理装置の最適化部6は、少なくとも、マーカの面と対象物の面とが空間的に接するように、自動配置する機能を有する。情報呈示装置を実際に便用する場合、マーカを実際の対象物に貼付することがよく考えられる。この(8)に記載のデータオーサリング処理装置においては、マーカと対象物を空間定位情報表示部2にて表示する際に対象物の貼りたい部分を指定することにより、貼る面に接するようにマーカを自動配置するようにする。具体的には、対象面が壁であれば、該データオーサリング処理装置の操作者が指定した点からの法線ベクトルとマーカ面の法線ベクトルが一致するようマーカを配置させれば良い。空間定位情報表示部2では、例えば三面図や斜視図によって表示を行なうことが考えられるが、このような図に慣れていない操作者がマーカを面に貼り付ける際には微妙に傾いていたり、微妙に離れてしまうこともあり得る。また、慣れている操作者でも、マーカの数が多くなると、手間が多くなって煩雑である。この(8)に記載のデータオーサリング処理装置のように、簡単な指定動作で面に貼り付けられれば、経験を問わずどんな操作者であっても、またマーカの数が多くなっても、容易に表示設定することが可能となる。
(9) 前記最適化部は、前記情報呈示装置の特性と使用環境と前記画像情報オブジェクトの空間定位情報のうちの少なくともいずれかに基づき、前記マーカの空間的範囲を自動設定することを特徴とする(7)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(9)に記載のデータオーサリング処理装置に関する実施形態は、第7乃至第16実施形態が対応する。
(作用効果)
この(9)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(9)に記載のデータオーサリング処理装置の最適化部6は、情報呈示装置の特性と使用環境と前記画像情報オブジェクトの空間定位情報のうちの少なくともいずれかに基づき、前記マーカの空間的範囲を自動設定する機能を有する。
情報呈示装置を実際に使用するために、マーカを実際の対象物に貼る場合、「どこに貼ると情報呈示装置を使用するエンドユーザにとって見易いのか」、「どこに貼ると外光の影響なく認識し易いか」、「どこに貼るとキャラクターを指定の場所に出現させられるか」などについて考慮することは情報呈示装置の性能に影響を与える重要なポイントである。
この(9)に記載のデータオーサリング処理装置においては、情報呈示装置の特性と使用環境と画像情報オブジェクトの空間定位情報のうちの少なくともいずれかに基づき、前記マーカの空間的範囲を自動設定する。具体的には、例えば、空間定位情報表示部2にて表示する際に、画像情報オブジェクトの出現すべき空間位置を設定すると、情報呈示装置のカメラの画角データと想定カメラ位置のデータから、設置すべきマーカの範囲を表示するようにする。該データオーサリング処理装置の操作者はその範囲の中から適当な位置にマーカを設置すれば良い。また、外光の影響が少ないところ、物理的にマーカを貼ってはいけないところ、良いところなども空間定位情報表示部2において、その範囲を表示させれば良い。
この(9)に記載のデータオーサリング処理装置のように、マーカの設置すべき範囲を自動的に設定してくれると、該データオーサリング処理装置の操作者にとってはその範囲に貼り付ける操作だけでマーカの設定ができるので、より容易に表示設定することが可能となるし、マーカを調整するたびに実際の情報呈示装置を用いて確認試験を行なう必要もなくなる。
(10) 前記最適化部は、前記情報呈示装置の特性と使用環境と前記マーカの空間定位情報のうちの少なくともいずれかに基づき、前記画像情報オブジェクトを設定する空間的範囲を自動設定することを特徴とする(7)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(10)に記載のデータオーサリング処理装置に関する実施形態は、第8乃至第16実施形態が対応する。
(作用効果)
この(10)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(10)に記載のデータオーサリング処理装置の最適化部6は、情報呈示装置の特性と使用環境とマーカの空間定位情報のうちの少なくともいずれかに基づき、前記画像情報オブジェクトの空間的範囲を自動設定する機能を有する。
情報呈示装置を実際に使用する際に、画像情報オブジェクトを出現させる場合、「実際に貼るマーカをカメラでとらえながら、キャラクター画像を出現させるにはキャラクターをどの位置に設定すれば良いか」、「キャラクターが実際の柱と空間的に重ならないよう出現させたい」、「キャラクターが実際の地面と空間的に接するよう出現させたい」、「キャラクターがマーカを覆うように出現させ、マーカを情報呈示装置の画面から目立たなくさせたい」などについて考慮することは情報呈示装置の性能に影響を与える重要なポイントである。
この(10)に記載のデータオーサリング処理装置においては、情報呈示装置の特性と、使用環境と、マーカの空間定位情報のうちの少なくともいずれかに基づき、画像情報オブジェクトの空間的範囲を自動設定する。具体的には、例えば、空間定位情報表示部2にて表示する際に、マーカを貼るべき空間位置を設定すると、情報呈示装置のカメラの画角範囲と想定カメラ位置から、出現させるべき画像情報オブジェクトの設置範囲を表示するようにする。該データオーサリング処理装置の操作者はその範囲の中から適当な位置に画像情報オブジェクトを設置すれば良い。また、画像情報オブジェクトを実際の対象物に対し、接する、重ならない等の所望の条件で出現させたい場合、その条件を満たす範囲を空間定位情報表示部2にて表示させれば良い。
この(10)に記載のデータオーサリング処理装置のように、画像情報オブジェクトの設置すべき範囲を自動的に設定してくれると、操作者にとってはその範囲に貼りつける操作だけで画像情報オブジェクトの設定ができるので、より容易に表示設定することが可能となるし、画像情報オブジェクトを調整するたびに実際の情報呈示装置を用いて確認試験を行なう必要もなくなる。
(11) 前記最適化部では、前記マーカと前記画像情報オブジェクトの相対位置を一定に保ちながら、前記対象物に対する位置を設定することを特徴とする(7)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(11)に記載のデータオーサリング処理装置に関する実施形態は、第9乃至第16実施形態が対応する。
(作用効果)
この(11)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(11)に記載のデータオーサリング処理装置の最適化部6では、マーカと画像情報オブジェクトの相対位置を一定に保ちながら、対象物に対する位置を設定する。
情報呈示装置を実際に使用する際に、マーカと画像情報オブジェクトはペアの概念として扱われることも多い。例えば、マーカを情報呈示装置が画像入力すると画面上に方向指示の矢印が出現するようなケースは、図13のように、マーカ標識と出現矢印はペアの概念で設定した方がわかり易い。この場合、具体的には、例えば、空間定位情報表示部2にて表示する際に、前記マーカと前記画像情報オブジェクトの相対位置を一定に保ちながら、前記対象物に対する位置を設定するようにできれば、マーカと前記画像情報オブジェクトの位置を順次設定しなくても、両者を同時に設定することが可能となる。
このように、マーカと画像情報オブジェクトの相対位置を一定に保ちながら、対象物に対する位置を設定すると、該データオーサリング処理装置の操作者にとってはこのペアの位置を設定するだけで、両者の位置が同時に設定できるので、より容易に表示設定することが可能となる。
(12) 前記情報呈示装置が呈示する情報を予めデモンストレーションできるデモンストレーション出力部を更に具備することを特徴とする(1)乃至(11)のいずれかに記載のデータオーサリング処理装置。
(対応する実施形態)
この(12)に記載のデータオーサリング処理装置に関する実施形態は、第10乃至第16実施形態が対応する。
(作用効果)
この(12)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(12)に記載のデータオーサリング処理装置では、前記情報呈示装置が出力する情報を予めデモンストレーションできるデモンストレーション出力部7を有する(図14参照)。空間定位情報表示部2にて各種の情報を出力することにより、ある程度、情報呈示装置での出力を確認できるが、出力に順番をつけてその順にみたい場合や、実世界の経路を仮想的に歩きながら出力を確認したい場合は、別途、この(12)に記載のデータオーサリング処理装置のようにデモンストレーション出力部7を具備させてデモを行なえば、より実際の情報呈示装置に近い出力を体験することが可能になる。また、空間定位情報表示部2の目的を、出力の設定を容易にさせることに絞り、対象物、マーカ、画像オブジェクトに関し、相対的にデータ量の軽い空間定位情報のみを出力し、データ量の大きい詳細なテクスチャ情報は表示させずに設定を行なうことで、計算処理を高速化させることができる。この場合、デモンストレーション出力部7において、テクスチャ情報を表示させて最終チェックを行なえば良い。
(13) 前記画像情報オブジェクトあるいは前記既定のマーカの画像情報特性を任意に設定する画像情報特性設定部を更に具備することを特徴とする(2)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(13)に記載のデータオーサリング処理装置に関する実施形態は、第11乃至第16実施形態が対応する。
(作用効果)
この(13)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(13)に記載のデータオーサリング処理装置では画像情報オブジェクトあるいは既定マーカの画像情報特性を任意に設定する画像情報特性設定部8を有する(図15参照)。画像情報オブジェクトあるいは既定マーカに関しては、その幾何学的特性以外に、画像の色、輝度、文字種類などの各種画像情報を設定することにより、「画像情報オブジェクトは背景に対して目立つようにしたい」、「マーカは背景に対して目立たない色にしたい」などを設定することが可能になる。従って、実際の情報呈示装置の性能を向上させることが可能になる。
(14) 前記画像情報特性は、前記画像の色、明るさ、画像サイズ、カラー白黒情報、フォーマット形式、文字フォントのうちの少なくとも一つ以上を有することを特徴とする(13)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(14)に記載のデータオーサリング処理装置に関する実施形態は、第11乃至第16実施形態が対応する。
(作用効果)
この(14)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(14)に記載のデータオーサリング処理装置では、前記画像情報特性は、前記画像の色、明るさ、画像サイズ、カラー白黒情報、フォーマット形式、文字フォントのうちの少なくとも一つ以上を有する。これらは比較的簡単に、特性を変えられ、その変更も直ぐにわかるものであるので、これら各種画像情報を設定することにより、「画像情報オブジェクトは背景に対して目立つようにしたい」、「マーカは背景に対して目立たない色にしたい」などを簡単に設定することが可能になる。従って、実際の情報呈示装置の性能を向上させることが可能になる。
(15) 前記画像情報オブジェクトは、3次元の座標の概念を持つ画像であることを特徴とする(2)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(15)に記載のデータオーサリング処理装置に関する実施形態は、第12乃至第16実施形態が対応する。
(作用効果)
この(15)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(15)に記載のデータオーサリング処理装置では、画像情報オブジェクトは、3次元の座標の概念を持つ画像である。画像情報オブジェクトを出力する場合は、どのような空間配置で出力するのかがより重要なポイントとなるが、特に3次元座標を持つ画像である場合は、配置やその姿勢によって見え方が大きく異なる。このような場合に、空間定位情報表示部2で画像情報オブジェクトの空間定位情報を表示して表示設定を行なえば、該データオーサリング処理装置の操作者にとって、容易に行なえるだけでなく、より所望な出力となるように調整することが可能である。即ち、用いられる空間定位情報が2次元平面に限定されることなく、任意の対応を容易に設定できるだけでなく、操作者にとって所望の出力となるように調整することが可能となる。
(16) 前記画像情報オブジェクトは、文字情報を有していることを特徴とする(2)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(16)に記載のデータオーサリング処理装置に関する実施形態は、第13乃至第16実施形態が対応する。
(作用効果)
この(16)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(16)に記載のデータオーサリング処理装置では、画像情報オブジェクトは、文字情報を有している。これまで述べてきた画像情報オブジェクトはカメラで撮影した一般の風景画像や、作成した絵など以外に文字でも良い。情報呈示装置では、文字を3次元CGで立体的に作成して空間に浮かばせて表示させても良いし、文字情報を含んだある大きさの平面を空間に浮かばせて表示させても良い(仮想看板など)。いずれにしてもこの(16)に記載のデータオーサリング処理装置の空間定位情報表示部2にて表示しながら、所望の出力となるように設定する。なお、情報呈示装置で文字情報(画像情報があっても良い)を画面全体に表示させたい場合は、空間定位情報を考慮しなくても良いので空間定位情報表示部2にて表示させずに、関連情報設定部3で「画面全体表示」として、その旨、設定すれば良い。
(17) 実世界中の同一の対象物及び/または同一の既定のマーカに対して、所定の関連情報を少なくとも2つ以上設定できることを特徴とする(1)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(17)に記載のデータオーサリング処理装置に関する実施形態は、第14乃至第16実施形態が対応する。
(作用効果)
この(17)に記載のデータオーサリング処理装置の作用及び効果を説明する。情報呈示装置を利用するケースとして、例えば、ある同一のマーカをみた場合でも、時間によって朝は右向きの矢印、夕方は左向きの矢印を出現させるように設定したいことがある。また、情報呈示装置に、当該情報呈示装置を利用するエンドユーザの性別を登録しておき、性別によりトイレヘの矢印を代えたいというケースもある。また、あるマーカをみると異なるCGが順次入れ替わるようにしたいケースもある。
この(17)に記載のデータオーサリング処理装置では、実世界中の同一の対象物、あるいは同一の既定のマーカに対して、所定の関連情報が少なくとも2つ以上設定できる。このようにすると、上述のようなケースに対応し、より情報呈示装置の性能を向上させることができる。
(18) 前記2つ以上存在する所定の関連情報は、データ容量の異なる、同種類の出力であることを特徴とする(17)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(18)に記載のデータオーサリング処理装置に関する実施形態は、第15及び第16実施形態が対応する。
(作用効果)
この(18)に記載のデータオーサリング処理装置の作用及び効果を説明する。情報呈示装置の対象として、同様の機能を実現する、PC版、PDA版、携帯電話版を用途に応じてすべて用意しなくてはならないケースが考えられる。その際に、データオーサリングを機器ごとに行なうのは煩雑である。しかし、それぞれの機器のパフォーマンスは異なり、特にメモリ容量、グラフィック処理性能は差が大きい。従って、所定の関連情報は同種のものでもそれぞれ容量を変えて準備する必要がある。例えば3DCGでのポリゴン数を変える、テクスチャ容量を換えるなどである。しかし、機器毎で、データオーサリングをやり直すのは煩雑なので、この(18)に記載のデータオーサリング処理装置のようにデータ容量の異なる同種類の出力を、所定の関連として複数設定できるようにすれば、オーサリングを一度だけ行ない、それぞれの機器に対応させることが可能となる。
(19) 所定の関連情報に対し、前記関連情報に関連した出力属性情報を設定できる出力属性情報設定部を更に具備することを特徴とする(1)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(19)に記載のデータオーサリング処理装置に関する実施形態は、第16実施形態が対応する。
(作用効果)
この(19)に記載のデータオーサリング処理装置の作用及び効果を説明する。情報呈示装置を使用するケースとして、なんらかの属性情報により関連情報を選択したり調整したいことがある。例えば情報を出力するタイミング(マーカをみて直ぐか、ある時間たってか)、音声の大きさなどである。この(19)に記載のデータオーサリング処理装置においては、上述のような出力属性情報を設定できる出力属性情報設定部9を有している(図16参照)ので、より所望の関連情報を出力できるよう調整することができる。
(20) 前記出力属性情報は、情報を出力するタイミング、出力する音声の大きさ、出力する画像の明るさ、出力する画像の解像度、出力する画像のデータ量、前記情報呈示装置の特性あるいは使用環境によって規定される情報、のうち、少なくとも一つ以上であることを特徴とする(19)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(20)に記載のデータオーサリング処理装置に関する実施形態は、第16実施形態が対応する。
(作用効果)
この(20)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(20)に記載のデータオーサリング処理装置の出力属性情報は、情報を出力するタイミング、出力する音声の大きさ、出力する画像の明るさ、出力する画像の解像度、出力する画像のデータ量、前記情報関連情報装置の特性あるいは使用環境によって規定される情報、のうち、少なくとも一つ以上であり、それぞれ、出力属性情報設定部9によって設定ができる。
それぞれ、情報を出力するタイミング(マーカをみて直ぐか、ある時間たってか)、音声の大きさ(大音量を出力するかどうか)、出力する画像の明るさ(屋外利用では明るくする)、出力する画像の解像度(情報呈示装置の機器性能によって変更)、出力する画像のデータ量(オブジェクトの種類によって変更)、前記情報呈示装置の特性あるいは使用環境によって規定される情報(情報呈示装置の画面種類により色相を変化させる)という属性情報の設定により所望の関連情報を出力できるよう調整することができる。
(21) 前記空間定位情報入力部は、前記対象物及び/または既定のマーカの3次元設計情報から空間定位情報を抽出することを特徴とする(1)乃至(20)の何れかに記載のデータオーサリング処理装置。
(対応する実施形態)
この(21)に記載のデータオーサリング処理装置に関する実施形態は、第17及び第18実施形態が対応する。
(作用効果)
この(21)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(21)に記載のデータオーサリング処理装置の空間定位情報入力部1は、対象物の空間定位情報a(例えば○○マートの3次元座標データ)及び/または既定のマーカの空間定位情報a(例えば看板の座標データ)とを3次元設計情報の中から抽出するので、空間定位情報を容易に入力することができる。
(22) 前記空間定位情報入力部は、前記対象物及び/または既定のマーカの3次元設計情報の形状情報及び/または属性情報から空間定位情報を抽出することを特徴とする(21)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(22)に記載のデータオーサリング処理装置に関する実施形態は、第17及び第18実施形態が対応する。
(作用効果)
この(22)に記載のデータオーサリング処理装置の作用及び効果を説明する。対象物の3次元設計情報を設計するとき、対象物上に配置するマーカも同時に設計し、例えば部品名を「マーカ」としておき、この(22)に記載のデータオーサリング処理装置の空間定位情報入力部1で、それら対象物とマーカの3次元設計情報を読み込む。そして、3次元設計情報の中から部品名が「マーカ」のものを抽出し、その3次元設計情報の形状情報及び/または属性情報から空間定位情報を抽出する。
よって、別途ユーザがマーカを試行錯誤しながら設定する必要がなくなる。また、3次元設計情報から対象物に対するマーカの配置情報を詳細に取得できるので、ユーザが実空間上でマーカを配置するときに参考にできる。
(23) 前記関連情報設定部は、前記対象物及び/または既定のマーカの3次元設計情報から関連情報を抽出することを特徴とする(1)乃至(22)の何れかに記載のデータオーサリング処理装置。
(対応する実施形態)
この(23)に記載のデータオーサリング処理装置に関する実施形態は、第17及び第18実施形態が対応する。
(作用効果)
この(23)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(23)に記載のデータオーサリング処理装置の関連情報設定部3は、対象物及び/または既定のマーカの3次元設計情報を読み込み、対象物及び/または既定のマーカの形状や名称といった所定の関連情報bを抽出するので、所定の関連情報を容易に入力することができる。
(24) 前記関連情報設定部は、前記対象物及び/または既定のマーカの3次元設計情報の形状情報及び/または属性情報から関連情報を抽出することを特徴とする(23)に記載のデータオーサリング処理装置。
(対応する実施形態)
この(24)に記載のデータオーサリング処理装置に関する実施形態は、第17及び第18実施形態が対応する。
(作用効果)
この(24)に記載のデータオーサリング処理装置の作用及び効果を説明する。対象物の3次元設計情報を設計するとき、対象物上に配置するマーカも同時に設計し、例えば部品名を「マーカ」としておき、この(24)に記載のデータオーサリング処理装置の関連情報設定部3で、それら対象物とマーカの3次元設計情報を読み込む。そして、3次元設計情報の中から部品名が「マーカ」のものを抽出し、その3次元設計情報の形状情報及び/または属性情報から関連情報を抽出する。よって、所定の関連情報を容易に入力することができる。
(25) 前記対象物及び/または既定のマーカの3次元設計情報は、3次元CADで作成された設計情報であることを特徴とする(21)乃至(24)の何れかに記載のデータオーサリング処理装置。
(対応する実施形態)
この(25)に記載のデータオーサリング処理装置に関する実施形態は、第17及び第18実施形態が対応する。
(作用効果)
この(25)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(25)に記載のデータオーサリング処理装置では、対象物や既定のマーカの設計のために既に3次元CADによって設計された3次元設計情報を利用するので、空間定位情報を抽出するために別途3次元設計情報を用意する必要がない。
(26) 前記対象物及び/または既定のマーカの3次元設計情報は、2次元CADで作成された2次元設計情報を3次元に変換した情報であることを特徴とする(21)乃至(24)の何れかに記載のデータオーサリング処理装置。
(対応する実施形態)
この(26)に記載のデータオーサリング処理装置に関する実施形態は、第17及び第18実施形態が対応する。
(作用効果)
この(26)に記載のデータオーサリング処理装置の作用及び効果を説明する。この(26)に記載のデータオーサリング処理装置では、2次元CADで作成された2次元設計情報を3次元に変換した3次元設計情報であっても利用できる。
本発明の第1実施形態に係るデータオーサリング処理装置の構成及び動作を説明するための図である。 第1実施形態における表示例を示す図である。 本発明の第2実施形態に係るデータオーサリング処理装置の構成を示す図である。 規定のマーカの例を示す図である。 第2実施形態における表示例を示す図である。 本発明の第3実施形態に係るデータオーサリング処理装置における表示例を示す図である。 本発明の第4実施形態に係るデータオーサリング処理装置における表示例を示す図である。 本発明の第5実施形態に係るデータオーサリング処理装置における表示例を示す図である。 本発明の第6実施形態に係るデータオーサリング処理装置の構成を示す図である。 本発明の第7実施形態に係るデータオーサリング処理装置における表示例を示す図である。 本発明の第8実施形態に係るデータオーサリング処理装置における表示例を示す図である。 本発明の第9実施形態に係るデータオーサリング処理装置における表示例を示す図である。 第9実施形態におけるマーカと矢印のペアを説明するための図である。 本発明の第10実施形態に係るデータオーサリング処理装置の構成を示す図である。 本発明の第11実施形態に係るデータオーサリング処理装置の構成を示す図である。 本発明の第16実施形態に係るデータオーサリング処理装置の構成を示す図である。 (A)はマーカを先に貼り付ける場合のレジストレーション作業完了前の対象物と表示状態と対象物の形状情報とを示す図であり、(B)はレジストレーション作業完了後の対象物と表示状態と対象物の形状情報とを示す図である。 (A)はマーカを後から貼り付ける場合のレジストレーション作業完了前の対象物と表示状態と対象物の形状情報とを示す図であり、(B)はレジストレーション作業完了後の対象物と表示状態と対象物の形状情報とを示す図である。 本発明の第19実施形態に係るデータオーサリング処理装置の構成を示す図である。 本発明の第19実施形態に係るデータオーサリング処理装置の作用を説明するための図である。 データオーサリング処理装置の具体的な応用例について説明するための図である。 算出情報出力部を表示装置で実現したときの情報呈示の一例を示す図である。 空間定位情報入力部からの入力に応じて任意の視点から対象物を見た場合の画像出力の一例を示す図である。 空間定位情報入力部からの入力に応じて任意の視点から対象物を見た場合の画像出力の他の例を示す図である。 第20実施形態に係る情報呈示装置の構成を示す図である。 本発明の第20実施形態に係る情報呈示装置の作用を説明するための図である。 カメラを有するPDAがデータサーバと無線LANにより通信を行うようすを示す図である。 基準マーカとこの基準マーカに次のマーカを設置すべき場所を重畳表示したようすを示す図である。 基準マーカにカメラの移動すべき方向の指示を重畳表示したようすを示す図である。 従来の対象物及び/または既定のマーカの空間定位情報を利用して関連情報を出力する装置の出力例を示す図である。
符号の説明
1…空間定位情報入力部、 2…空間定位情報表示部、 2A…空間定位情報表示画面、 3…関連情報設定部、 3A…関連情報設定画面、 4…データ出力部、 5…幾何学特性設定部、 5A…マーカ作成のダイアログ、 5B…幾何学特性設定画面(マーカ用)兼関連情報設定画面、 5C…幾何学特性設定画面(マーカ用、 矢印用)兼関連情報設定画面、 5D…幾何学特性設定画面(マーカ用、 キャラクター用)兼関連情報設定画面、 5E…幾何学特性設定画面、 6…最適化部、 7…デモンストレーション出力部、 8…画像情報特性設定部、 9…出力属性情報設定部、 10…ディスプレイ画面、 11…看板、 12…CG、 13…店舗、 14…バーコード、 15…四角マーカ、 16…マーカ、 17…矢印、 18…壁、 19…キャラクター、 20…画像情報オブジェクト想定位置、 21…情報呈示装置想定位置、 22…マーカ設置良好範囲、 23…マーカ設置禁止範囲、 24…マーカ想定位置、 25…オブジェクト設置良好範囲、 26…オブジェクト設置条件範囲、 27…マーカ、 27A…マーカの画像、 28…対象物、 28A…対象物の画像、 29…マーカの形状情報、 29’…移動後のマーカの形状情報、 30…対象物の形状情報、 31…マーカのモデル、 31’…マーカの移動されたモデル、 32…対象物モデル、 33…画面。

Claims (14)

  1. 実世界中の対象物及び/または既定のマーカに対し、それらが意味する空間定位情報を利用して、所定の関連情報を出力する情報呈示装置のための、前記所定の関連情報を設定するデータオーサリング処理装置であって、
    前記対象物及び/または既定のマーカの空間定位情報を入力する空間定位情報入力部と、
    前記空間定位情報表示部の表示を編集更新する、関連情報設定部と、
    前記空間定位情報入力部で入力された前記対象物及び/または既定のマーカの空間定位情報を表示すると共に、前記関連情報設定部によって設定された表示方法に従って前記所定の関連情報を表示する空間定位情報表示部と、
    前記関連情報設定部による表示の表示設定を記述するデータを出力するデータ出力部と、
    前記対象物の空間定位情報及び前記既定のマーカの空間定位情報のうち少なくともいずれかの幾何学特性を任意に設定する幾何学特性設定部と、
    を具備し、
    前記空間定位情報表示部は、前記対象物の空間定位情報と、前記既定のマーカの空間定位情報の両方を画面に表示し、
    前記幾何学特性設定部は、前記幾何学特性を適切に設定するための最適化部を有しており、
    前記最適化部は、
    前記情報呈示装置を構成する撮影手段のパラメータである撮影手段パラメータと、前記情報呈示装置が情報呈示を行う時の前記撮影手段の位置姿勢情報と、マーカの空間定位情報と、マーカの画像情報特性と、対象物の空間定位情報とを含む情報群のうち、
    少なくとも対象物の空間定位情報を含む空間定位情報入力部からの入力情報に基づいて、前記情報群のうち入力されなかった少なくとも1つの残余の情報の値もしくは当該値の取り得る範囲を算出し、算出情報出力部に出力することを特徴とするデータオーサリング処理装置。
  2. 前記空間定位情報入力部から入力される所定の情報は、対象物の空間定位情報、撮影手段パラメータ、マーカの画像情報特性であることを特徴とする請求項記載のデータオーサリング処理装置。
  3. 前記空間定位情報入力部から入力される所定の情報は、対象物の空間定位情報、撮影手段パラメータであることを特徴とする請求項記載のデータオーサリング処理装置。
  4. 前記撮影手段パラメータは、撮影手段の画角、解像度、マーカを認識するために必要なピクセル数、画像歪情報のうち少なくとも画角と解像度を含む2つ以上の情報を有することを特徴とする請求項記載のデータオーサリング処理装置。
  5. 前記情報呈示を行う時の撮影手段の位置姿勢情報は、情報呈示を行う時の位置情報と姿勢情報を有し、情報呈示を行うための撮影が複数箇所で行われる場合は複数の位置情報と姿勢情報を有することを特徴とする請求項記載のデータオーサリング処理装置。
  6. 前記マーカの空間定位情報は、マーカが設置される位置、姿勢、及びマーカの幾何学特性情報としてのマーカの形状であることを特徴とする請求項記載のデータオーサリング処理装置。
  7. 前記マーカの画像情報特性は、マーカのテクスチャ情報であることを特徴とする請求項記載のデータオーサリング処理装置。
  8. 前記対象物の空間定位情報は、対象物の位置姿勢情報、形状情報、情報呈示を行う際に撮影される領域、前記撮影手段が存在し得る領域、前記マーカが設置可能な領域のうち、少なくとも対象物の位置姿勢情報、形状情報を含む2つ以上の情報を有することを特徴とする請求項記載のデータオーサリング処理装置。
  9. 実世界中の対象物及び/または既定のマーカに対し、それらが意味する空間定位情報を利用して、所定の関連情報を出力する情報呈示装置のための、前記所定の関連情報を設定するデータオーサリング処理装置であって、前記対象物及び/または既定のマーカの空間定位情報を入力する空間定位情報入力部と、前記空間定位情報表示部の表示を編集更新する、関連情報設定部と、前記空間定位情報入力部で入力された前記対象物及び/または既定のマーカの空間定位情報を表示すると共に、前記関連情報設定部によって設定された表示方法に従って前記所定の関連情報を表示する空間定位情報表示部と、前記関連情報設定部による表示の表示設定を記述するデータを出力するデータ出力部とを具備することを特徴とするデータオーサリング処理装置によって決定される情報を記憶する記憶装置と、
    基準マーカが未決定の場合に前記複数のマーカから基準マーカを選択する入力手段と、
    撮影範囲内の実世界に存在し前記基準マーカに対して位置姿勢が既知の前記マーカを少なくとも1つ含む画像を撮影する撮影手段と、
    前記撮影手段によって撮影された前記マーカを含む撮影画像と前記記憶装置内の情報から前記撮影手段の位置姿勢情報を算出する計算装置と、
    前記撮影画像及び情報の重畳表示を行う表示装置と、
    を具備する情報呈示装置であって、
    前記複数マーカのうち基準マーカ以外の未設置のマーカの空間定位情報を前記表示装置に表示することを特徴とする情報呈示装置。
  10. 前記複数マーカのうち基準マーカ以外の未設置のマーカの空間定位情報を前記表示装置に表示することを特徴とする請求項記載の情報呈示装置。
  11. 前記複数マーカのうち基準マーカ以外の設置済のマーカの空間定位情報を前記表示装置に表示することを特徴とする請求項記載の情報呈示装置。
  12. 前記記憶装置内のマーカの空間定位情報、マーカの画像情報特性のうち少なくとも1つの情報を修正するために前記入力手段に入力された情報に基づき、前記記憶装置内の情報を修正する機能を有することを特徴とする請求項記載の情報呈示装置。
  13. 複数のマーカの空間定位情報、複数のマーカの画像情報特性、撮影手段パラメータの3種類を記憶する記憶装置と、
    撮影範囲内の実世界に存在し基準となる基準マーカに対して位置姿勢が既知の前記マーカを少なくとも1つ含む画像を撮影する撮影手段と、
    前記撮影手段によって撮影された前記マーカを含む撮影画像と前記記憶装置内の情報から前記撮影手段の位置姿勢情報を算出する計算装置と、
    前記撮影画像及び情報の重畳表示を行う表示装置と、
    を具備する情報呈示装置であって、
    前記複数マーカのうち基準マーカ以外の未設置のマーカの空間定位情報を前記表示装置に表示することを特徴とする情報呈示装置。
  14. 前記記憶装置内のマーカの空間定位情報、マーカの画像情報特性のうち少なくとも1つの情報を修正するための入力手段をさらに有し、
    当該入力手段の入力に基づき前記記憶装置内の情報を修正する機能を有することを特徴とする請求項13記載の情報呈示装置。
JP2003400877A 2003-03-28 2003-11-28 データオーサリング処理装置 Expired - Fee Related JP4253567B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2003400877A JP4253567B2 (ja) 2003-03-28 2003-11-28 データオーサリング処理装置
PCT/JP2004/004336 WO2004088595A1 (ja) 2003-03-28 2004-03-26 データオーサリング処理装置
DE112004000529T DE112004000529T5 (de) 2003-03-28 2004-03-26 Datenautorenvorrichtung
US11/231,582 US7031495B2 (en) 2003-03-28 2005-09-21 Data authoring device

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2003090060 2003-03-28
JP2003352341 2003-10-10
JP2003400877A JP4253567B2 (ja) 2003-03-28 2003-11-28 データオーサリング処理装置

Publications (2)

Publication Number Publication Date
JP2005135355A JP2005135355A (ja) 2005-05-26
JP4253567B2 true JP4253567B2 (ja) 2009-04-15

Family

ID=33135744

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003400877A Expired - Fee Related JP4253567B2 (ja) 2003-03-28 2003-11-28 データオーサリング処理装置

Country Status (4)

Country Link
US (1) US7031495B2 (ja)
JP (1) JP4253567B2 (ja)
DE (1) DE112004000529T5 (ja)
WO (1) WO2004088595A1 (ja)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007108128A1 (ja) * 2006-03-23 2007-09-27 Olympus Corporation 情報呈示装置及び情報呈示端末
JP4973622B2 (ja) * 2007-08-29 2012-07-11 カシオ計算機株式会社 画像合成装置および画像合成処理プログラム
US8189864B2 (en) 2007-08-29 2012-05-29 Casio Computer Co., Ltd. Composite image generating apparatus, composite image generating method, and storage medium
JP4956375B2 (ja) 2007-10-30 2012-06-20 キヤノン株式会社 画像処理装置、画像処理方法
JP4935647B2 (ja) * 2007-11-29 2012-05-23 カシオ計算機株式会社 合成画像出力装置および合成画像出力処理プログラム
US8775918B2 (en) * 2008-10-07 2014-07-08 Visual Software Systems Ltd. System and method for automatic improvement of electronic presentations
JP5215328B2 (ja) * 2010-01-14 2013-06-19 ヤフー株式会社 ラベル表示装置、ラベル表示方法、およびそのプログラム
CN101852949B (zh) * 2010-04-23 2011-07-13 上海凯鑫森产业投资控股有限公司 一种用于背光模块的微成型片
US20110310227A1 (en) * 2010-06-17 2011-12-22 Qualcomm Incorporated Mobile device based content mapping for augmented reality environment
JP5933913B2 (ja) * 2010-08-30 2016-06-15 株式会社エヌ・ティ・ティ・データ 情報サービスシステムおよび情報サービス方法
JP5682060B2 (ja) * 2010-12-20 2015-03-11 国際航業株式会社 画像合成装置、画像合成プログラム、及び画像合成システム
JP5685436B2 (ja) * 2010-12-28 2015-03-18 新日鉄住金ソリューションズ株式会社 拡張現実提供装置、拡張現実提供システム、拡張現実提供方法及びプログラム
US10242456B2 (en) * 2011-06-23 2019-03-26 Limitless Computing, Inc. Digitally encoded marker-based augmented reality (AR)
JP5279875B2 (ja) * 2011-07-14 2013-09-04 株式会社エヌ・ティ・ティ・ドコモ オブジェクト表示装置、オブジェクト表示方法及びオブジェクト表示プログラム
JP2013114424A (ja) * 2011-11-28 2013-06-10 Sony Computer Entertainment Inc 画面設定ファイル生成装置、情報処理装置、画面設定ファイル生成方法、画面表示方法、および画面設定ファイルのデータ構造
JP5991423B2 (ja) * 2013-02-21 2016-09-14 富士通株式会社 表示装置、表示方法、表示プログラムおよび位置設定システム
EP2818948B1 (en) * 2013-06-27 2016-11-16 ABB Schweiz AG Method and data presenting device for assisting a remote user to provide instructions
JP6171671B2 (ja) * 2013-07-24 2017-08-02 富士通株式会社 情報処理装置、位置指定方法および位置指定プログラム
JP6314394B2 (ja) * 2013-09-13 2018-04-25 富士通株式会社 情報処理装置、設定方法、設定プログラム、システムおよび管理装置
EP2960839A1 (en) * 2014-06-27 2015-12-30 Airbus Operations GmbH Aircraft fleet configuration
JP6582626B2 (ja) * 2015-07-02 2019-10-02 富士通株式会社 送信制御方法、表示端末および送信制御プログラム
JP6938158B2 (ja) * 2016-03-10 2021-09-22 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
CN107832795B (zh) * 2017-11-14 2021-07-27 深圳码隆科技有限公司 物品识别方法、系统以及电子设备
JP6849582B2 (ja) * 2017-12-18 2021-03-24 株式会社日立システムズ Ar情報提供システム及び情報処理装置
DE112018006666T5 (de) * 2017-12-28 2020-09-24 Sony Corporation Informationsverarbeitungsgerät, informationsverarbeitungsverfahren und programm
JP7098473B2 (ja) * 2018-08-06 2022-07-11 東芝プラントシステム株式会社 画像処理装置、及び画像処理方法
JP7271202B2 (ja) * 2019-01-23 2023-05-11 キヤノン株式会社 情報生成装置、その制御方法及びプログラム
JP6600113B1 (ja) * 2019-03-29 2019-10-30 スターティアラボ株式会社 Ar用の画像処理装置、画像処理システム及びプログラム
JP2021124837A (ja) * 2020-02-03 2021-08-30 日本電気株式会社 情報処理装置、位置測定システム、推定方法、及びプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2264779B (en) * 1992-02-20 1996-05-01 Thermoteknix Systems Ltd Monitoring changes in image characteristics
US6956573B1 (en) * 1996-11-15 2005-10-18 Sarnoff Corporation Method and apparatus for efficiently representing storing and accessing video information
JP3486536B2 (ja) 1997-09-01 2004-01-13 キヤノン株式会社 複合現実感提示装置および方法
US6061644A (en) * 1997-12-05 2000-05-09 Northern Digital Incorporated System for determining the spatial position and orientation of a body
JPH11232488A (ja) * 1998-02-17 1999-08-27 Mitsubishi Electric Corp 3次元仮想空間システム
JP2000202164A (ja) * 1999-01-18 2000-07-25 Hitachi Ltd 臨場感生成装置
JP3530772B2 (ja) * 1999-06-11 2004-05-24 キヤノン株式会社 複合現実感装置及び複合現実空間画像の生成方法
JP3413145B2 (ja) * 2000-01-24 2003-06-03 キヤノン株式会社 仮想空間の編集方法及び仮想空間の編集装置
JP3406965B2 (ja) * 2000-11-24 2003-05-19 キヤノン株式会社 複合現実感提示装置及びその制御方法

Also Published As

Publication number Publication date
US7031495B2 (en) 2006-04-18
WO2004088595A1 (ja) 2004-10-14
US20060013436A1 (en) 2006-01-19
JP2005135355A (ja) 2005-05-26
DE112004000529T5 (de) 2006-02-16

Similar Documents

Publication Publication Date Title
JP4253567B2 (ja) データオーサリング処理装置
US20200167955A1 (en) Method for augmented reality display, method for determining pose information, and apparatuses
US8963943B2 (en) Three-dimensional urban modeling apparatus and method
CN109584295A (zh) 对图像内目标物体进行自动标注的方法、装置及系统
KR101803598B1 (ko) 클라우드 포인트를 이용한 실내 지도 구축 장치 및 방법
JP2015001875A (ja) 画像処理装置、画像処理方法、プログラム、印刷媒体及び印刷媒体のセット
WO2023093217A1 (zh) 数据标注方法、装置、计算机设备、存储介质和程序
KR101989969B1 (ko) 증강현실 기반 건축 유적의 실감형 콘텐츠 체험시스템
JP6096634B2 (ja) 仮想現実を用いた3次元地図表示システム
US20140139519A1 (en) Method for augmenting reality
CN103703758A (zh) 移动增强现实系统
JP2013507677A (ja) 実環境視像における仮想情報の表示方法
JP4153761B2 (ja) 3次元モデル空間生成装置、3次元モデル空間生成方法、及び3次元モデル空間生成プログラム
JP6438995B2 (ja) 図面投影システム、図面投影方法及びプログラム
JP6640294B1 (ja) 複合現実システム、プログラム、携帯端末装置、及び方法
CN112529097B (zh) 样本图像生成方法、装置以及电子设备
JP2014115957A (ja) 拡張現実型建物シミュレーション装置
CN111815786A (zh) 信息显示方法、装置、设备和存储介质
KR20210086837A (ko) 증강현실을 이용한 실내 인테리어 시뮬레이션 방법
JP2013008257A (ja) 画像合成プログラム
JP2022501751A (ja) 3d幾何抽出のために画像の複数から相補的画像を選択するシステムおよび方法
JP2015099545A (ja) 画像生成システム及び画像生成プログラム
CN113470190A (zh) 场景显示方法及装置、设备、车辆、计算机可读存储介质
CN114723923B (zh) 一种传动解决方案模拟展示系统和方法
JP6405539B2 (ja) 多視点画像に対するラベル情報の処理装置及びそのラベル情報の処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080624

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080924

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090106

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090126

R151 Written notification of patent or utility model registration

Ref document number: 4253567

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees