JP5237066B2 - 複合現実感提示システムおよび複合現実感提示方法、プログラム - Google Patents
複合現実感提示システムおよび複合現実感提示方法、プログラム Download PDFInfo
- Publication number
- JP5237066B2 JP5237066B2 JP2008305623A JP2008305623A JP5237066B2 JP 5237066 B2 JP5237066 B2 JP 5237066B2 JP 2008305623 A JP2008305623 A JP 2008305623A JP 2008305623 A JP2008305623 A JP 2008305623A JP 5237066 B2 JP5237066 B2 JP 5237066B2
- Authority
- JP
- Japan
- Prior art keywords
- virtual
- light source
- imaging
- unit
- mixed reality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
Description
現実世界の被写体を撮像する撮像手段の位置と撮像方向を計測する位置方向計測手段と、
仮想光源からの光により照らされた仮想物体を描画し仮想画像を生成する仮想画像生成手段と、
前記計測された、撮像手段の撮像方向と、前記仮想光源から前記撮像手段への方向とに基づいて、前記仮想画像生成手段における前記仮想光源の輝度を調整するか否かを判定する判定手段と、
前記判定手段により、前記仮想光源の輝度を調整すると判定された場合には、前記位置方向計測手段により計測された前記撮像手段の位置、前記仮想光源の位置および前記仮想物体の位置の関係に基づいて、前記仮想光源の輝度の調整値を計算する光効果算出手段と、
前記光効果算出手段で計算された輝度の調整値を用いて前記仮想画像生成手段における前記仮想光源の輝度を調整する調整手段と、
前記撮像された現実世界の被写体像と前記仮想画像生成手段で生成された仮想画像とを、前記位置方向計測手段により計測された前記撮像手段の位置と撮像方向とに基づいて合成する画像合成手段と、を備える。
実施形態1における構成において、複合現実感提示システムの中に一つの仮想照明と、二つの仮想物体と、一人の観察者とが存在する。ここで、観察者は仮想物体Aと仮想物体Bを見ることが出来る。
・仮想点光源302 (−500,500,0)
・仮想オブジェクトA303 (500,−500,0)
・仮想オブジェクトB304 (−1000,1000,0)
また仮想点光源302の輝度は、0.8と仮定する。
観察者の視点の位置:P12
仮想オブジェクトAの位置:P13
これらの位置からベクトルを算出する。
仮想点光源から観察者への方向ベクトル:V11
V11=P12−P11
V12=P13−P12
V11の単位ベクトルをe11、V12の単位ベクトルをe12とする。
k=0.5として、これを上記の数字に当てはめると
e11=(1、−1、0)
e12=(1、−1、0)
よって、
t1=0.5*1=0.5となる。
ステップS405:光効果算出手段107において、仮想点光源の元の輝度をi11、新しい低減された輝度をi12とする。
以上で、計算は終了する。
<実施形態2>
システム構成は実施形態1と同様である。
・仮想点光源302(−500,500,0)
・仮想オブジェクトA303(500,−500,0)
・仮想オブジェクトB304(−1000,1000,0)
また仮想点光源302の輝度は、0.8とする。
t1=k*(e11・e12)
この式を実施形態2に当てはめてみよう。
t1=0.5*(−1)=−0.5
となる。
<実施形態3>
仮想平行光は、位置もなく全ての仮想物体を突き抜けるが、現実世界における平行光が必ずどこかから出ている。例えば、太陽が現実世界における平行光である。観察者が太陽と観察物体の間に入るときも当然、観察する物体は暗くなる。実施形態3では、仮想世界で太陽のような平行光線がある状態を複合現実世界で実現する。
・仮想オブジェクトA303(500,−500,0)
・仮想オブジェクトB304(−1000,1000,0)
仮想平行光のベクトルは次の通りとする。
また仮想平行光701の輝度は、0.8とする。
観察者の視点の位置:P32
仮想オブジェクトAの位置:P33
これらの位置からベクトルを算出する。
V32=P33−P32
V31の単位ベクトルをe31、V32の単位ベクトルをe32とする。
いまk=0.5としこれを上記の数値を代入すると、
e31=(1、−1、0)
e32=(1、−1、0)
よって、
t3=0.5*1=0.5
となる。
ステップS805:光効果算出手段107において、仮想平行光の元の輝度をi31、新しい輝度をi32とする。
ここで、計算は終了する。
このように、実施形態3においても実施形態1と同様、仮想平行光が観察者により遮られている場合、元の仮想平行光の輝度を暗くして合成する手法を提供する。このケースでは、元の仮想平行光の輝度に対して、観察者によりさえぎられたときの輝度が半分となることがわかる。
<実施形態4>
実施形態4のシステム構成は、実施形態1と同様である。
・仮想点光源302(−500,500,0)
・仮想オブジェクトA303(500,−500,0)
・仮想オブジェクトB304(−1000,1000,0)
・仮想平行光701(1,−1,0)
また仮想平行光701の輝度は。実施形態3と同様、0.8である。
この式を実施形態4に当てはめてみよう。
t1=0.5*(−1)=−0.5
となる。
<実施形態5>
システム構成は実施形態1と同様である。
・ 照射方向(1,−1、0)
仮想照射光源1101は、仮想点光源302の輝度を調整するためのものである。したがって、仮想点光源302と同位置に存在し、仮想点光源302の位置から観察者301の方向に向いて設定されている。
102.画像入力部
103.画像合成部
104.画像出力部
105.カメラ位置姿勢計測部
106.仮想世界生成部
107.ライト属性変更部
108.ライト属性入力部
132.ビデオシースルー型HMD
133.カメラ
134.画像出力部
135.画像入力部
136.画像表示部
201.観察者
202.仮想点光源
203.仮想オブジェクトA
204.仮想オブジェクトB
401.仮想平行光
601.仮想照射光
Claims (10)
- 現実世界の被写体を撮像する撮像手段の位置と撮像方向を計測する位置方向計測手段と、
仮想光源からの光により照らされた仮想物体を描画し仮想画像を生成する仮想画像生成手段と、
前記計測された、撮像手段の撮像方向と、前記仮想光源から前記撮像手段への方向とに基づいて、前記仮想画像生成手段における前記仮想光源の輝度を調整するか否かを判定する判定手段と、
前記判定手段により、前記仮想光源の輝度を調整すると判定された場合には、前記位置方向計測手段により計測された前記撮像手段の位置、前記仮想光源の位置および前記仮想物体の位置の関係に基づいて、前記仮想光源の輝度の調整値を計算する光効果算出手段と、
前記光効果算出手段で計算された輝度の調整値を用いて前記仮想画像生成手段における前記仮想光源の輝度を調整する調整手段と、
前記撮像された現実世界の被写体像と前記仮想画像生成手段で生成された仮想画像とを、前記位置方向計測手段により計測された前記撮像手段の位置と撮像方向とに基づいて合成する画像合成手段と、を備えることを特徴とする複合現実感提示システム。 - 前記光効果算出手段は、
前記仮想光源の位置から前記撮像手段の位置への方向ベクトルと前記撮像手段の位置から前記仮想物体の位置への方向ベクトルとの内積を導出し、該導出された内積値が所定の値以内の場合に、前記仮想光源の輝度の調整値を算出することを特徴とする請求項1に記載の複合現実感提示システム。 - 現実世界の被写体を撮像する撮像手段の位置と撮像方向を計測する位置方向計測手段と、
仮想光源からの平行光により照らされた仮想物体を描画し仮想画像を生成する仮想画像生成手段と、
前記計測された、撮像手段の撮像方向と、前記仮想光源から前記撮像手段への方向とに基づいて、前記仮想画像生成手段における前記仮想光源の輝度を調整するか否かを判定する判定手段と、
前記判定手段により、前記仮想光源の輝度を調整すると判定された場合には、前記位置方向計測手段により計測された前記撮像手段の位置、前記平行光の照射方向、および前記仮想物体の位置の関係に基づいて、前記仮想光源の輝度の調整値を計算する光効果算出手段と、
前記光効果算出手段で計算された輝度の調整値を用いて前記仮想画像生成手段における仮想光源の輝度を調整する調整手段と、
前記撮像された現実世界の被写体像と前記仮想画像生成手段で生成された仮想画像とを、前記位置方向計測手段により計測された前記撮像手段の位置と前記撮像方向とに基づいて合成する画像合成手段と、
を備えることを特徴とする複合現実感提示システム。 - 前記光効果算出手段は、
前記平行光の方向ベクトルと前記撮像手段の位置から前記仮想物体の位置への方向ベクトルとの内積を導出し、該導出された内積値が所定の閾値以内の場合に、前記仮想光源の輝度の調整値を算出することを特徴とする請求項3に記載の複合現実感提示システム。 - 前記光効果算出手段は、
前記内積の値が所定の閾値内に入るときに、前記仮想光源の輝度の調整を行うことを特徴とする請求項2または4に記載の複合現実感提示システム。 - 前記仮想画像生成手段は、前記仮想光源と同位置に、光の方向が前記仮想光源から前記撮像手段の位置への方向となるように配置された、シーンの輝度を低減させるように機能する仮想照射光源を設定し、
前記調整手段は、前記光効果算出手段で計算された輝度の調整値を用いて前記仮想画像生成手段における前記仮想照射光源の輝度を調整することを特徴とする請求項1または2に記載の複合現実感提示システム。 - 現実世界の被写体を撮像する撮像手段を更に備えることを特徴とする請求項1乃至6のいずれか1項に記載の複合現実感提示システム。
- 複合現実感提示システムによる複合現実感提示方法であって、
位置方向計測手段が、現実世界の被写体を撮像する撮像手段の位置と撮像方向を計測する位置方向計測ステップと、
画像生成手段が、仮想光源からの光により照らされた仮想物体を描画し仮想画像を生成する仮想画像生成ステップと、
判定手段が、前記計測された、撮像手段の撮像方向と、前記仮想光源から前記撮像手段への方向とに基づいて、前記仮想画像生成ステップに用いられる前記仮想光源の輝度を調整するか否かを判定する判定工程と、
光効果算出手段が、前記判定工程で前記仮想光源の輝度を調整すると判定された場合には、前記計測された前記撮像手段の位置、前記仮想光源の位置および前記仮想物体の位置の関係に基づいて、前記仮想光源の輝度の調整値を計算する光効果算出ステップと、
調整手段が、前記計算された輝度の調整値を用いて前記仮想光源の輝度を調整する調整ステップと、
画像合成手段が、前記撮像された現実世界の被写体像と前記生成された仮想画像とを、前記計測された前記撮像手段の位置と撮像方向とに基づいて合成する画像合成ステップとを有することを特徴とする複合現実感提示方法。 - 複合現実感提示システムによる複合現実感提示方法であって、
位置方向計測手段が、現実世界の被写体を撮像する撮像手段の位置と撮像方向を計測する位置方向計測ステップと、
画像生成手段が、仮想光源からの平行光により照らされた仮想物体を描画し仮想画像を生成する仮想画像生成ステップと、
判定手段が、前記計測された、撮像手段の撮像方向と、前記仮想光源から前記撮像手段への方向とに基づいて、前記仮想画像生成ステップに用いられる前記仮想光源の輝度を調整するか否かを判定する判定工程と、
光効果算出手段が、前記判定工程で前記仮想光源の輝度を調整すると判定された場合には、前記計測された前記撮像手段の位置、前記平行光の照射方向、および前記仮想物体の位置の関係に基づいて、前記仮想光源の輝度の調整値を計算する光効果算出ステップと、
調整手段が、前記計算された輝度の調整値を用いて前記仮想光源の輝度を調整する調整ステップと、
画像合成手段が、前記撮像された現実世界の被写体像と前記生成された仮想画像とを、前記計測された前記撮像手段の位置と撮像方向とに基づいて合成する画像合成ステップと、を有することを特徴とする複合現実感提示方法。 - 請求項8または9に記載の複合現実感提示方法の各工程をコンピュータに実行させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008305623A JP5237066B2 (ja) | 2008-11-28 | 2008-11-28 | 複合現実感提示システムおよび複合現実感提示方法、プログラム |
US12/580,430 US8659624B2 (en) | 2008-11-28 | 2009-10-16 | Mixed reality presentation system and brightness adjustment method of virtual light source |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008305623A JP5237066B2 (ja) | 2008-11-28 | 2008-11-28 | 複合現実感提示システムおよび複合現実感提示方法、プログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2010128986A JP2010128986A (ja) | 2010-06-10 |
JP2010128986A5 JP2010128986A5 (ja) | 2011-12-22 |
JP5237066B2 true JP5237066B2 (ja) | 2013-07-17 |
Family
ID=42222416
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008305623A Expired - Fee Related JP5237066B2 (ja) | 2008-11-28 | 2008-11-28 | 複合現実感提示システムおよび複合現実感提示方法、プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US8659624B2 (ja) |
JP (1) | JP5237066B2 (ja) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2499694B8 (en) | 2012-11-09 | 2017-06-07 | Sony Computer Entertainment Europe Ltd | System and method of image reconstruction |
KR102054680B1 (ko) * | 2013-01-23 | 2020-01-22 | 삼성전자주식회사 | 영상 처리 장치, 초음파 영상 장치 및 영상 처리 방법 |
JP6369005B2 (ja) * | 2013-10-25 | 2018-08-08 | セイコーエプソン株式会社 | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
BR112015024910A2 (pt) | 2013-03-26 | 2017-07-18 | Seiko Epson Corp | dispositivo de exibição montado na cabeça, método de controle de dispositivo de exibição montado na cabeça e sistema de exibição |
CN103605199B (zh) * | 2013-08-30 | 2016-09-28 | 北京智谷睿拓技术服务有限公司 | 成像装置及方法 |
WO2015175730A1 (en) * | 2014-05-13 | 2015-11-19 | Nant Vision, Inc. | Augmented reality content rendering via albedo models, systems and methods |
US10593113B2 (en) | 2014-07-08 | 2020-03-17 | Samsung Electronics Co., Ltd. | Device and method to display object with visual effect |
JP6442209B2 (ja) | 2014-09-26 | 2018-12-19 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP6463177B2 (ja) * | 2015-03-11 | 2019-01-30 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
US20160366323A1 (en) * | 2015-06-15 | 2016-12-15 | Mediatek Inc. | Methods and systems for providing virtual lighting |
US10559130B2 (en) | 2015-08-31 | 2020-02-11 | Microsoft Technology Licensing, Llc | Displaying image data behind surfaces |
JP6727816B2 (ja) * | 2016-01-19 | 2020-07-22 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラムおよび記憶媒体 |
JP6700840B2 (ja) * | 2016-02-18 | 2020-05-27 | キヤノン株式会社 | 画像処理装置、撮像装置、制御方法及びプログラム |
JP6718256B2 (ja) * | 2016-02-26 | 2020-07-08 | キヤノン株式会社 | 画像処理装置、撮像装置およびそれらの制御方法ならびにプログラム |
US20200050625A1 (en) * | 2016-09-28 | 2020-02-13 | Hewlett-Packard Development Company, L.P. | Virtual presentation |
CN110268806B (zh) | 2017-02-16 | 2022-01-04 | 昕诺飞控股有限公司 | 用于经由照明设备来指示虚拟对象的存在的控制器和其方法 |
US10922878B2 (en) * | 2017-10-04 | 2021-02-16 | Google Llc | Lighting for inserted content |
CN111489448A (zh) * | 2019-01-24 | 2020-08-04 | 宏达国际电子股份有限公司 | 检测真实世界光源的方法、混合实境系统及记录介质 |
JP6892904B2 (ja) * | 2019-08-29 | 2021-06-23 | 株式会社スクウェア・エニックス | 画像処理プログラム、及び画像処理システム |
WO2021131781A1 (ja) * | 2019-12-26 | 2021-07-01 | ソニーグループ株式会社 | 表示制御装置、表示制御方法、及び、記録媒体 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6219063B1 (en) * | 1997-05-30 | 2001-04-17 | California Institute Of Technology | 3D rendering |
US6342887B1 (en) * | 1998-11-18 | 2002-01-29 | Earl Robert Munroe | Method and apparatus for reproducing lighting effects in computer animated objects |
JP3387856B2 (ja) * | 1999-08-06 | 2003-03-17 | キヤノン株式会社 | 画像処理方法、画像処理装置および記憶媒体 |
US20030038822A1 (en) * | 2001-08-14 | 2003-02-27 | Mitsubishi Electric Research Laboratories, Inc. | Method for determining image intensities of projected images to change the appearance of three-dimensional objects |
US7301547B2 (en) * | 2002-03-22 | 2007-11-27 | Intel Corporation | Augmented reality system |
JP4159082B2 (ja) * | 2002-08-06 | 2008-10-01 | 株式会社バンダイナムコゲームス | 画像生成システム、プログラム及び情報記憶媒体 |
JP4739002B2 (ja) * | 2005-06-30 | 2011-08-03 | キヤノン株式会社 | 画像処理方法、画像処理装置 |
JP2007018173A (ja) * | 2005-07-06 | 2007-01-25 | Canon Inc | 画像処理方法、画像処理装置 |
US20070285422A1 (en) * | 2006-01-18 | 2007-12-13 | Nayar Shree K | Method for Separating Direct and Global Illumination in a Scene |
JP4804256B2 (ja) * | 2006-07-27 | 2011-11-02 | キヤノン株式会社 | 情報処理方法 |
-
2008
- 2008-11-28 JP JP2008305623A patent/JP5237066B2/ja not_active Expired - Fee Related
-
2009
- 2009-10-16 US US12/580,430 patent/US8659624B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20100134495A1 (en) | 2010-06-03 |
US8659624B2 (en) | 2014-02-25 |
JP2010128986A (ja) | 2010-06-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5237066B2 (ja) | 複合現実感提示システムおよび複合現実感提示方法、プログラム | |
AU2021290369B2 (en) | Mixed reality system with color virtual content warping and method of generating virtual content using same | |
JP7304934B2 (ja) | 仮想コンテンツワーピングを伴う複合現実システムおよびそれを使用して仮想コンテンツを生成する方法 | |
US11410269B2 (en) | Mixed reality system with virtual content warping and method of generating virtual content using same | |
US11423626B2 (en) | Mixed reality system with multi-source virtual content compositing and method of generating virtual content using same | |
JP2010128986A5 (ja) | 複合現実感提示システムおよび複合現実感提示方法、プログラム | |
US20130113701A1 (en) | Image generation device | |
WO2021040010A1 (ja) | 情報処理装置、制御方法 | |
WO2021106136A1 (ja) | 表示端末装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111107 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111107 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121210 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130208 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130301 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130328 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5237066 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160405 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |