JP2005038321A - ヘッドマウントディスプレイ装置 - Google Patents
ヘッドマウントディスプレイ装置 Download PDFInfo
- Publication number
- JP2005038321A JP2005038321A JP2003276628A JP2003276628A JP2005038321A JP 2005038321 A JP2005038321 A JP 2005038321A JP 2003276628 A JP2003276628 A JP 2003276628A JP 2003276628 A JP2003276628 A JP 2003276628A JP 2005038321 A JP2005038321 A JP 2005038321A
- Authority
- JP
- Japan
- Prior art keywords
- image pickup
- orientation
- unit
- user
- head
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】 視点位置を調整可能なビデオシースルー型HMDを実現する。これによりMR空間を、ユーザの実際の視点位置とは異なる視点(例えば、実際の背丈よりも低い視点や高い視点)で、ユーザの頭の動きに応じて体験することが可能となる。
【解決手段】 観察者の頭部に装着されるヘッドマウントディスプレイ装置であって、現実世界を撮影する撮像手段101と、前記撮像部を支持する支持手段102と、前記支持手段102は、前記撮像部を再配置可能とする機構を持ち、前記撮像手段の位置姿勢を計測する撮像手段位置姿勢算出手段103と、撮像手段位置姿勢算出手段からの位置姿勢情報からCGを生成するCG生成手段104と、前記CGを生成するためのデータを保持するデータ部105と、前記撮像手段で撮影された撮影映像と前記CG生成手段で生成したCGを合成して表示する表示手段106とを備えることを特徴とするヘッドマウントディスプレイ装置。
【選択図】 図1
【解決手段】 観察者の頭部に装着されるヘッドマウントディスプレイ装置であって、現実世界を撮影する撮像手段101と、前記撮像部を支持する支持手段102と、前記支持手段102は、前記撮像部を再配置可能とする機構を持ち、前記撮像手段の位置姿勢を計測する撮像手段位置姿勢算出手段103と、撮像手段位置姿勢算出手段からの位置姿勢情報からCGを生成するCG生成手段104と、前記CGを生成するためのデータを保持するデータ部105と、前記撮像手段で撮影された撮影映像と前記CG生成手段で生成したCGを合成して表示する表示手段106とを備えることを特徴とするヘッドマウントディスプレイ装置。
【選択図】 図1
Description
本発明は、ユーザの頭部位置情報に応じて、ビデオカメラ等で撮影された映像に仮想物体を重畳して表示するビデオシースルー型HMD(HMD:Head Mounted Display)装置に関する。
現実にある現実世界とコンピュータ等により生成された仮想世界とを融合した空間体験をユーザに提供するMR(Mixed Reality)と呼ばれる技術が提案されている。バーチャルリアリティーがCG(Computer Graphics)のみの仮想世界を構築しているのに対し、MRでは現実世界の拡張としての情報環境を構築する技術である。この情報環境を、以下ではMR空間と呼ぶことにする。
ユーザの頭の動きに合わせてMR空間を体験させるための表示装置として、シースルー型HMDがある。シースルー型のHMDはその方式によって次の2つに分類できる。一つは、半透過型のHMDに仮想物体を重畳する光学シースルー(Optic−See−Through)方式であり、もう一つは、ビデオカメラで撮影された現実世界の映像に仮想物体を重畳するビデオシースルー(Video−See−Through)方式である。
MR空間におけるユーザの視点位置は、光学シースルー方式HMDを表示装置として用いた場合においてはまさにユーザの視点位置である。一方、ビデオシースルーHMDを表示装置として用いた場合においては、ビデオカメラ位置である。従来のビデオシースルー型HMDでは、ユーザが実際に見ている現実世界にCGを合成することを目的としていることから、ビデオカメラはなるべく実際のユーザ視点位置にくるようにHMDに固定されている(例えば、特許文献1参照。)。
特開平11−088913号公報
従来のシースルー型HMDでは、例えば、実際の体験者の視点よりも高い位置や低い位置に視点を設定するなど、ユーザの視点位置を自由に設定することができなかった。
本発明は以上の点を鑑みてなされたものであり、視点位置を調整可能なビデオシースルー型HMDを実現することを目的としている。
前記の目的を達成するための本発明は、以下の構成を備える。
すなわち、
観察者の頭部に装着されるヘッドマウントディスプレイ装置であって、
現実世界を撮影する撮像手段と、
前記撮像部を支持する支持手段と、
前記支持手段は、前記撮像部を再配置可能とする機構を持ち、
前記撮像手段の位置姿勢を計測する撮像手段位置姿勢算出手段と、
撮像手段位置姿勢算出手段からの位置姿勢情報からCGを生成するCG生成手段と、
前記CGを生成するためのデータを保持するデータ部と、
前記撮像手段で撮影された撮影映像と前記CG生成手段で生成したCGを合成して表示する表示手段と、
を備えることを特徴とするヘッドマウントディスプレイ装置。
観察者の頭部に装着されるヘッドマウントディスプレイ装置であって、
現実世界を撮影する撮像手段と、
前記撮像部を支持する支持手段と、
前記支持手段は、前記撮像部を再配置可能とする機構を持ち、
前記撮像手段の位置姿勢を計測する撮像手段位置姿勢算出手段と、
撮像手段位置姿勢算出手段からの位置姿勢情報からCGを生成するCG生成手段と、
前記CGを生成するためのデータを保持するデータ部と、
前記撮像手段で撮影された撮影映像と前記CG生成手段で生成したCGを合成して表示する表示手段と、
を備えることを特徴とするヘッドマウントディスプレイ装置。
以上説明したように、本発明によれば、ビデオシースルー型HMDにおけるビデオカメラ位置を設定可能にすることで、ユーザの実際の視点位置とは異なる視点(例えば、実際の背丈よりも低い視点や高い視点)によるMR空間を、ユーザの頭の動きに応じて体験することが可能になる。
以下、添付の図面を参照して本発明の好適な実施形態について説明する。図1は本発明の概略を示す図である。
<第1の実施形態>
第1の実施形態の概要は次のとおりである。
第1の実施形態の概要は次のとおりである。
現実の風景に仮想空間を重畳したMR空間をユーザに提示するビデオシースルー型HMDの1実施例である。HMDのビデオカメラの位置はHMDに固定されておらず、ユーザの好みに応じて、実際のユーザの視点位置より高い位置や低い位置に再配置可能である(図1)。これにより、ユーザが本発明であるHMDを装着して眺めると、ユーザの設定した視点によるMR空間を、ユーザの位置・姿勢変化に応じて体験することができる。
図2は本発明の第一実施形態によるHMDの概略構成を示すブロック図である。
101は撮像手段であり、ここではHMDに備わるカメラである。撮像手段101は現実世界を撮影し、撮影映像を映像信号として映像表示手段106へ送信する。
102は支持手段であり、撮像手段101をHMDに支える。支持手段102は、ユーザが撮像手段101をHMDに対して上下方向などに動かして再設置することを可能にする機構をもつ。本実施例では、スライダーでこの機構を実現している。
103は撮像手段位置姿勢算出手段であり、例えば地磁気センサやジャイロや光学式のセンサなどの位置姿勢計測装置である。撮像手段位置姿勢算出手段103は、撮像手段101の位置姿勢情報を算出し、CG生成手段104に送出する。
一般的に、位置姿勢計測装置を計測ポイント(ここでは撮像手段101)に設置することは困難である。そこで、計測ポイントと位置姿勢計測装置の設置位置とのズレ量をオフセット値(図5)として求め、位置姿勢計測装置の出力結果をもとに、計測ポイントの位置姿勢を算出している。以下、計測ポイントと位置姿勢計測装置の設置位置とのズレをオフセットと呼ぶ。
本実施例において、位置姿勢計測装置を、図6に示すように撮像手段101と連動して動くように設置した場合は、上記オフセット値はシステム起動時に設定し、システム稼動時は変更する必要がない。しかし、図7に示すように位置姿勢計測装置を、撮像手段101と連動して動かないようにHMDに固定して設置した場合には、オフセット値をシステム稼動時にも再設定する必要がある。オフセット値の再設定方法としては、例えば支持手段102の可動部分(スライダー)を計測する機械式のエンコーダなどで構成することで計測したり、位置姿勢計測装置の出力結果と、撮像手段101によって撮影した現実世界の映像を画像処して得られる位置姿勢情報とから求めたりしてもよい。オフセット値の算出は、撮像手段101が再設定された場合にのみ行っても、描画ごとに毎回おこなってもよい。また、描画ごとに更新する場合はオフセット値を算出せずに、撮像手段位置姿勢を直接求めることも可能である。さらに、撮像手段位置姿勢算出手段103は、撮像手段101からの映像を画像解析して直接位置姿勢を求めるよう画像解析手段などで実現することも可能であり、この場合オフセットの概念は不要である。この詳細は図4を使って後述する。
104はCG生成手段であり、撮像手段位置姿勢算出手段103から撮像手段101の位置姿勢情報を取り出して撮像手段101が向いている方向を推定する。撮像手段101の向いている方向と画角が推定できれば撮像手段101の視野が求まるため、CG生成手段104はデータ部105から撮像手段101の視野に入る部分のデータを取り出し、撮像手段101の視野に重なるCGを生成する。生成されたCGは映像表示手段106に送られる。
105はデータ部であり、たとえばハードディスクから構成され、CG生成手段104に引き渡すデータを所持する。データ部105に格納されるデータとしては、たとえばテキスト情報やパノラマ映像、三次元CGデータ等といったものが考えられる。データ部105はCG生成手段104からの要求に応じて適切なデータをCG生成手段104に送出する。たとえばCG生成手段104が撮像手段101の視野に合成する三次元CGデータを要求してきた時に、データ部105は格納されている三次元CGデータの中から撮像手段101の視野に含まれる三次元CGデータを取り出して送出する。なお、データ部105はハードディスクに限らず、データを保持することができる媒体であれば何でもよく、たとえばテープやメモリなどで構成してもよい。
106は映像表示手段であり、撮像手段101およびCG生成手段104から送出された映像を合成して表示する。
以上の様な構成を備えた本実施形態の制御について、以下説明する。図3は本発明の映像合成装置における処理の手順を説明するフローチャートである。
ステップS000でシステムが起動され、初期化のために必要な処理が行われる。
ステップS100で撮像手段101から映像が取得され、適切なフォーマットに変換され、映像表示手段106に送られる。
ステップS200で、ユーザによって撮像手段101の再配置が行われる。
ステップS300で撮像手段位置姿勢算出手段103が撮像手段101の位置姿勢情報を算出し、算出された位置姿勢情報はCG生成手段104に送られる。
ステップS300の詳細について、図4を使って説明する。
図4−1は、撮像手段101が再設定された場合にのみ、撮像手段101と位置姿勢計測装置とのオフセット値を再設定して撮像手段101の位置姿勢を求める方式のフローチャートである。
ステップS301で、位置姿勢計測装置から出力される値を取得する。
ステップS303(a)では、ステップS100で取得した撮像画像を画像処理することで、撮像手段101の位置姿勢を算出する。または、ステップS303(b)で、エンコーダの値を取得する。
ステップS304で、ステップS301で取得した位置姿勢情報とステップS303の(a)または(b)で取得した値とから、オフセットを算出する。
図4−2は、撮像手段101が再設定されたか否かにかかわらず、毎回撮像手段101の位置姿勢を算出する方法のフローチャートである。本実施例では、撮像手段101と位置姿勢計測装置とのオフセット値の再計算は行わない。
ステップS310で、位置姿勢計測装置から出力される値を取得する。
ステップS320で、エンコーダの値を取得する。
ステップS330では、ステップ310で得た位置姿勢情報と、ステップS320で得たエンコーダの値と、初期オフセット値と足し合わせることで、位置姿勢情報を算出する。
これらステップS310〜ステップS330の代わりに、データ部105に保存してある現実空間のデータを利用して、ステップS100で取得した撮像画像を画像処理することで位置姿勢情報を算出することも可能である。
ステップS400ではCG生成部104が、撮像手段位置姿勢算出手段103から送出された姿勢情報から撮像手段101の視野を推定し、データ部105から撮像手段101の視野に含まれる範囲のデータを取得する。
ステップS500ではデータ部105から取得したデータを用いてCG生成手段104がCGを生成する。生成されたCGは映像表示手段106に送られる。
ステップS600では、映像表示手段106において撮影手段101から送出された撮影映像と、CG生成手段104から送出されたCGとの合成映像が表示される。
その後ステップS700でシステムを終了するかどうかがチェックされ、システムを終了させる場合はステップS800〜ステップS900でシステムを終了させ、終了させない場合にはステップS100に戻り、上述の処理を繰り返す。
101 撮像手段(カメラ)
102 支持手段
103 撮像手段位置姿勢算出手段
104 CG生成手段
105 データ部
106 映像表示手段
102 支持手段
103 撮像手段位置姿勢算出手段
104 CG生成手段
105 データ部
106 映像表示手段
Claims (1)
- 観察者の頭部に装着されるヘッドマウントディスプレイ装置であって、
現実世界を撮影する撮像手段と、
前記撮像部を支持する支持手段と、
前記支持手段は、前記撮像部を再配置可能とする機構を持ち、
前記撮像手段の位置姿勢を計測する撮像手段位置姿勢算出手段と、
撮像手段位置姿勢算出手段からの位置姿勢情報からCGを生成するCG生成手段と、
前記CGを生成するためのデータを保持するデータ部と、
前記撮像手段で撮影された撮影映像と前記CG生成手段で生成したCGを合成して表示する表示手段と、
を備えることを特徴とするヘッドマウントディスプレイ装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003276628A JP2005038321A (ja) | 2003-07-18 | 2003-07-18 | ヘッドマウントディスプレイ装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003276628A JP2005038321A (ja) | 2003-07-18 | 2003-07-18 | ヘッドマウントディスプレイ装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005038321A true JP2005038321A (ja) | 2005-02-10 |
Family
ID=34212896
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003276628A Withdrawn JP2005038321A (ja) | 2003-07-18 | 2003-07-18 | ヘッドマウントディスプレイ装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005038321A (ja) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009140125A (ja) * | 2007-12-05 | 2009-06-25 | National Institute Of Advanced Industrial & Technology | 情報提示装置 |
JP2013110764A (ja) * | 2013-02-19 | 2013-06-06 | Sony Corp | 撮像表示装置、撮像表示方法 |
JP2013207710A (ja) * | 2012-03-29 | 2013-10-07 | Osaka Univ | ディスプレイ装置 |
JP2016206374A (ja) * | 2015-04-21 | 2016-12-08 | セイコーエプソン株式会社 | 表示装置、表示装置の制御方法、及び、プログラム |
EP3115873A1 (en) | 2015-07-06 | 2017-01-11 | Seiko Epson Corporation | Head-mounted display device and computer program |
US9665167B2 (en) | 2006-10-16 | 2017-05-30 | Sony Corporation | Imaging display apparatus and method |
EP3301545A1 (en) | 2016-09-30 | 2018-04-04 | Seiko Epson Corporation | Computer program, object tracking method, and display device |
EP3321885A1 (en) | 2016-11-09 | 2018-05-16 | Seiko Epson Corporation | Computer program and head-mounted display device |
US10061382B2 (en) | 2016-06-15 | 2018-08-28 | Seiko Epson Corporation | Program, device, and calibration method for a camera and an inertial sensor |
US10269139B2 (en) | 2016-07-12 | 2019-04-23 | Seiko Epson Corporation | Computer program, head-mounted display device, and calibration method |
US10296805B2 (en) | 2015-06-22 | 2019-05-21 | Seiko Epson Corporation | Marker, method of detecting position and pose of marker, and computer program |
US10306217B2 (en) | 2015-04-17 | 2019-05-28 | Seiko Epson Corporation | Display device, control method for display device, and computer program |
US10347048B2 (en) | 2015-12-02 | 2019-07-09 | Seiko Epson Corporation | Controlling a display of a head-mounted display device |
US10365710B2 (en) | 2017-06-23 | 2019-07-30 | Seiko Epson Corporation | Head-mounted display device configured to display a visual element at a location derived from sensor data and perform calibration |
US10373334B2 (en) | 2016-10-19 | 2019-08-06 | Seiko Epson Corporation | Computer program, object tracking method, and object tracking device |
US10469836B2 (en) | 2016-04-07 | 2019-11-05 | Seiko Epson Corporation | Head-mounted display device and computer program |
JP2020026873A (ja) * | 2018-08-17 | 2020-02-20 | セイコーエプソン株式会社 | 構造体、ダイヤフラム式圧縮機、冷却機、プロジェクター及び構造体の製造方法 |
US10719950B2 (en) | 2014-08-05 | 2020-07-21 | Sony Corporation | Head mount display (HMD) operated with mobile device for transforming reference coordinate systems for providing screen information |
-
2003
- 2003-07-18 JP JP2003276628A patent/JP2005038321A/ja not_active Withdrawn
Cited By (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9665167B2 (en) | 2006-10-16 | 2017-05-30 | Sony Corporation | Imaging display apparatus and method |
US9772686B2 (en) | 2006-10-16 | 2017-09-26 | Sony Corporation | Imaging display apparatus and method |
JP2009140125A (ja) * | 2007-12-05 | 2009-06-25 | National Institute Of Advanced Industrial & Technology | 情報提示装置 |
JP2013207710A (ja) * | 2012-03-29 | 2013-10-07 | Osaka Univ | ディスプレイ装置 |
JP2013110764A (ja) * | 2013-02-19 | 2013-06-06 | Sony Corp | 撮像表示装置、撮像表示方法 |
US10719950B2 (en) | 2014-08-05 | 2020-07-21 | Sony Corporation | Head mount display (HMD) operated with mobile device for transforming reference coordinate systems for providing screen information |
US10306217B2 (en) | 2015-04-17 | 2019-05-28 | Seiko Epson Corporation | Display device, control method for display device, and computer program |
JP2016206374A (ja) * | 2015-04-21 | 2016-12-08 | セイコーエプソン株式会社 | 表示装置、表示装置の制御方法、及び、プログラム |
US10018848B2 (en) | 2015-04-21 | 2018-07-10 | Seiko Epson Corporation | Display device, control method for display device, and computer program |
US10296805B2 (en) | 2015-06-22 | 2019-05-21 | Seiko Epson Corporation | Marker, method of detecting position and pose of marker, and computer program |
US10242504B2 (en) | 2015-07-06 | 2019-03-26 | Seiko Epson Corporation | Head-mounted display device and computer program |
US10192361B2 (en) | 2015-07-06 | 2019-01-29 | Seiko Epson Corporation | Head-mounted display device and computer program |
EP3115873A1 (en) | 2015-07-06 | 2017-01-11 | Seiko Epson Corporation | Head-mounted display device and computer program |
US10424117B2 (en) | 2015-12-02 | 2019-09-24 | Seiko Epson Corporation | Controlling a display of a head-mounted display device |
US10347048B2 (en) | 2015-12-02 | 2019-07-09 | Seiko Epson Corporation | Controlling a display of a head-mounted display device |
US10469836B2 (en) | 2016-04-07 | 2019-11-05 | Seiko Epson Corporation | Head-mounted display device and computer program |
US10061382B2 (en) | 2016-06-15 | 2018-08-28 | Seiko Epson Corporation | Program, device, and calibration method for a camera and an inertial sensor |
US10269139B2 (en) | 2016-07-12 | 2019-04-23 | Seiko Epson Corporation | Computer program, head-mounted display device, and calibration method |
US10304253B2 (en) | 2016-09-30 | 2019-05-28 | Seiko Epson Corporation | Computer program, object tracking method, and display device |
EP3301545A1 (en) | 2016-09-30 | 2018-04-04 | Seiko Epson Corporation | Computer program, object tracking method, and display device |
US10373334B2 (en) | 2016-10-19 | 2019-08-06 | Seiko Epson Corporation | Computer program, object tracking method, and object tracking device |
EP3321885A1 (en) | 2016-11-09 | 2018-05-16 | Seiko Epson Corporation | Computer program and head-mounted display device |
US10467770B2 (en) | 2016-11-09 | 2019-11-05 | Seiko Epson Corporation | Computer program for calibration of a head-mounted display device and head-mounted display device using the computer program for calibration of a head-mounted display device |
US10365710B2 (en) | 2017-06-23 | 2019-07-30 | Seiko Epson Corporation | Head-mounted display device configured to display a visual element at a location derived from sensor data and perform calibration |
JP2020026873A (ja) * | 2018-08-17 | 2020-02-20 | セイコーエプソン株式会社 | 構造体、ダイヤフラム式圧縮機、冷却機、プロジェクター及び構造体の製造方法 |
JP7200535B2 (ja) | 2018-08-17 | 2023-01-10 | セイコーエプソン株式会社 | 構造体、ダイヤフラム式圧縮機、冷却機、プロジェクター及び構造体の製造方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102517876B1 (ko) | 증강 현실 데이터를 레코딩하기 위한 기술 | |
JP2005038321A (ja) | ヘッドマウントディスプレイ装置 | |
KR100958511B1 (ko) | 복합 현실감 제시 장치 및 그 제어 방법, 및 컴퓨터판독가능한 매체 | |
JP4532856B2 (ja) | 位置姿勢計測方法及び装置 | |
JP4218952B2 (ja) | データ変換方法及び装置 | |
EP1404126B1 (en) | Video combining apparatus and method | |
JP4065507B2 (ja) | 情報提示装置および情報処理方法 | |
US20120120113A1 (en) | Method and apparatus for visualizing 2D product images integrated in a real-world environment | |
JP4847203B2 (ja) | 情報処理方法、情報処理装置 | |
BR112016010442B1 (pt) | Aparelho e método de geração de imagem, e, unidade de armazenamento | |
JP2002259992A (ja) | 画像処理装置およびその方法並びにプログラムコード、記憶媒体 | |
JP2009123018A (ja) | 画像処理装置、画像処理方法 | |
JP2008299669A (ja) | 頭部装着型表示装置、及びその制御方法 | |
KR20060106773A (ko) | 캘리브레이션 방법 및 장치 | |
JP2004213355A (ja) | 情報処理方法 | |
JP2006318095A (ja) | 画像処理方法、画像処理装置 | |
JP2019212225A (ja) | 端末装置および端末装置の制御方法 | |
WO2018074045A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
KR100755187B1 (ko) | 실제영상에 가상매체를 표시할 수 있는 디지털 기기 및 그표시방법 | |
JP2017212510A (ja) | 画像管理装置、プログラム、画像管理システム及び情報端末 | |
JP2005327204A (ja) | 画像合成システムおよび画像合成方法、および画像合成装置 | |
JP6859447B2 (ja) | 情報処理システムおよび対象物情報取得方法 | |
JP2008146497A (ja) | 画像処理装置、画像処理方法 | |
JP2006285789A (ja) | 画像処理方法、画像処理装置 | |
JP2006012042A (ja) | 画像生成方法及び装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20061003 |