JP2004086604A - Image display unit - Google Patents

Image display unit Download PDF

Info

Publication number
JP2004086604A
JP2004086604A JP2002247349A JP2002247349A JP2004086604A JP 2004086604 A JP2004086604 A JP 2004086604A JP 2002247349 A JP2002247349 A JP 2002247349A JP 2002247349 A JP2002247349 A JP 2002247349A JP 2004086604 A JP2004086604 A JP 2004086604A
Authority
JP
Japan
Prior art keywords
brightness
viewing
light source
virtual space
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002247349A
Other languages
Japanese (ja)
Other versions
JP4122899B2 (en
Inventor
Hisashi Oguro
小黒 久史
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Inc
Original Assignee
Toppan Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toppan Printing Co Ltd filed Critical Toppan Printing Co Ltd
Priority to JP2002247349A priority Critical patent/JP4122899B2/en
Publication of JP2004086604A publication Critical patent/JP2004086604A/en
Application granted granted Critical
Publication of JP4122899B2 publication Critical patent/JP4122899B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To adjust dynamically changing brightness in an appreciation visual field in an always appropriate state, and to display an image in the visual field. <P>SOLUTION: This image display unit for displaying an image to be appreciated which is arranged in a visual field along a visual line direction from a visual point position in a virtual space, and lighted by a light source is configured to adjust brightness in the virtual space so that the brightness of the object to be appreciated in the visual field can be made proper for appreciating the object. <P>COPYRIGHT: (C)2004,JPO

Description

【0001】
【発明の属する技術分野】
本発明は、バーチャルリアリティ(VR:仮想現実感)技術を用いて仮想空間内の画像を表示する画像表示装置に関する。
【0002】
【従来の技術】
近年、三次元映像からなる仮想空間の内部に人間が入り込んで様々な疑似体験ができるシステム、いわゆるバーチャルリアリティシステムが開発され、実用に供されている。
【0003】
ここで、仮想空間とは、コンピュータのメモリ内に、図10に示すように、X,Y,Zの3軸で表わされる空間を想定し、この空間中に種々の鑑賞対象(オブジェクト)1を配置するとともに光源2を設定する。そして、同空間内に置かれたカメラ3の視野4内に入る鑑賞対象1の光源2によって照らし出された状態の画像をコンピュータの演算処理によって生成し、図11に示すように、スクリーンやディスプレイ等の画面5に映し出して、仮想空間の映像として操作者に提示するようにしたものである。
【0004】
バーチャルリアリティシステムにおいては、操作者は、例えば操作用の入力装置を操作することによって、カメラ3の位置,つまりは仮想空間内に入り込んだ人間の視点位置や、カメラ3の向き,つまりはその人間の視線方向を制御できる。カメラ3の位置や向きが制御されると、コンピュータは、それに応じて新たな仮想空間画像を即座に生成して画面5を更新する。かくして、操作者は、コンピュータの中に作られた仮想空間内に入り込み、あたかも現実の世界にいるかのように鑑賞対象を気に入った角度から見ることができる。
【0005】
ところで、昨今のハードウェアの著しい性能向上により、バーチャルリアリティシステムにおいても様々な照明効果の活用が可能となってきた。例えば、光源として太陽光のような無限遠光源を想定し、視野内における全ての鑑賞対象の同じ方向の面はすべて明るさが等しくなるようにしたり、光源として白熱電球のような点光源を想定し、光の強さは光源からの距離の二乗に比例して弱くなるから、光源から離れた面は急激に暗くなるようにしたりすることができた。無限遠光源は、例えば仮想空間の屋外を照らし出す光源として設定され、点光源は、例えば仮想空間の屋内を照らし出す光源として設定される。
【0006】
【発明が解決しようとする課題】
しかしながら従来は、予め設定された特定の視点位置から特定の鑑賞対象を見たときに最適な映像表現が得られるように、光源の種類や照度等がコンテンツ製作時に設定されていた。このため、バーチャルリアリティシステムの場合には、鑑賞者(例えば操作者)が自由に仮想空間内を移動できるので、特定の位置以外の位置を視点としてその鑑賞対象を見ることが多々あり、その場合に最適な映像表現が得られないおそれがあった。
【0007】
例えば、屋外の直射日光下にある鑑賞対象を屋内から見たときに最適な映像表現が得られるように光源の条件を設定した場合には、この鑑賞対象を屋外から見ると明るくなりすぎることがある。同様に、屋外の日陰にある鑑賞対象を屋外から道時に最適な映像表現が得られるように光源の条件を設定した場合には、この鑑賞対象を屋内から見ると暗くなりすぎることがある。
【0008】
本発明はこのような事情に基づいてなされたものであり、その目的とするところは、動的に変化する鑑賞視野内の明るさを常に適切な状態に調整して、その視野内の画像を表示させることができる画像表示装置を提供しようとするものである。
【0009】
【課題を解決するための手段】
本発明はかかる課題を解決するものであり、請求項1に対応する発明は、入力信号に基づいて、仮想空間内の視点位置から視線方向に沿った視野内に配置され光源により照らし出される鑑賞対象の画像を表示する画像表示装置において、視野内の鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように、仮想空間内の明るさを調整する明るさ調整手段を備えたものである。
【0010】
この請求項1に対応する発明においては、入力信号に基づいて仮想空間内の視点位置から視線方向に沿った視野が変化すると、その視野内の鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように、仮想空間内の明るさが自動的に調整される。
【0011】
本発明の請求項2に対応する発明は、入力信号に基づいて、仮想空間内の視点位置から視線方向に沿った視野内に配置され光源により照らし出される鑑賞対象の画像を表示する画像表示装置において、視野内の鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように、光源の照度を調整する明るさ調整手段を備えたものである。
【0012】
この請求項2に対応する発明においては、入力信号に基づいて仮想空間内の視点位置から視線方向に沿った視野が変化すると、その視野内の鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように、光源の照度が自動的に調整される。
【0013】
本発明の請求項3に対応する発明は、上記請求項1または2に対応する発明において、明るさ調整手段を、視野内における特定領域の明るさを指標として、光源の照度を調整するものである。
【0014】
この請求項3に対応する発明においては、入力信号に基づいて仮想空間内の視点位置から視線方向に沿った視野が変化すると、その視野内における特定の鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように、光源の照度が自動的に調整される。
【0015】
また、本発明の請求項4に対応する発明は、上記請求項1または2に対応する発明において、明るさ調整手段を、視野内に配置され、所定の入力信号により指定された鑑賞対象の明るさを指標として、光源の照度を調整するものである。
【0016】
この請求項4に対応する発明においては、所定の入力信号により仮想空間内の鑑賞対象が指定されると、その鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように、光源の照度が自動的に調整される。
【0017】
本発明の請求項5に対応する発明は、入力信号に基づいて、仮想空間内の視点位置から視線方向に沿った視野内に配置され光源により照らし出される又は自らが光源である鑑賞対象の画像を表示する画像表示装置において、視野毎にその視野内の鑑賞対象を鑑賞するのに適した明るさを設定した視野輝度設定テーブルと、所定の入力信号により仮想空間内の視点位置又は視線方向が変化すると、その視点位置から視線方向に沿った視野内の最適な明るさを視野輝度設定テーブルから導出する最適輝度導出手段と、この最適輝度導出手段により導出された最適な明るさとなるように光源の照度を調整する明るさ調整手段とを備えたものである。
【0018】
この請求項5に対応する発明においては、入力信号に基づいて仮想空間内の視点位置から視線方向に沿った視野が変化すると、その視野内の最適な明るさが視野輝度設定テーブルから導出される。そして、視野輝度設定テーブルから導出された最適な明るさとなるように、光源の照度が自動的に調整される。
【0019】
本発明の請求項6に対応する発明は、入力信号に基づいて、仮想空間内の視点位置から視線方向に沿った視野内に配置され光源により照らし出される鑑賞対象の画像を表示する画像表示装置において、鑑賞対象毎にその対象を鑑賞するのに適した明るさを設定した対象輝度設定テーブルと、所定の入力信号により視野内の鑑賞対象が指定されると、その鑑賞対象の最適な明るさを対象輝度設定テーブルから導出する最適輝度導出手段と、この最適輝度導出手段により導出された最適な明るさとなるように光源の照度を調整する明るさ調整手段とを備えたものである。
【0020】
この請求項6に対応する発明においては、所定の入力信号により仮想空間内の鑑賞対象が指定されると、その鑑賞対象の最適な明るさが対象輝度設定テーブルから導出される。そして、対象輝度設定テーブルから導出された最適な明るさとなるように、光源の照度が自動的に調整される。
【0021】
【発明の実施の形態】
以下、本発明の一実施の形態を図面を用いて説明する。
なお、この実施の形態は、図1に示すように、3台のプロジェクタ11,12,13によって立体視可能な三次元映像からなる仮想空間の画像をスクリーン20上に映し出し、この仮想空間の内部に人間が入り込んで様々な疑似体験ができるバーチャルリアリティシステムに本発明を適用したものであり、携帯可能な小型の入力装置30の操作内容が、コンピュータ40を介してスクリーン20上の仮想空間画像にリアルタイムで反映されるようになっている。
【0022】
入力装置30は、図2に示すように、家庭用TVゲーム機の操作スイッチと同様に操作者が両手で保持可能な程度の大きさを成しており、上面に、左手で操作可能な十字形状の方向キー31と、右手で操作可能な4つのボタンa,b,c,dとを有している。方向キー31は、上方向を示すキーUと、左方向を示すキーLと、下方向を示すキーDと、右方向を示すキーRとからなり、各キーU,L,D,R又は各ボタンa,b,c,dの単独押しや組合せの押し操作により、各種の信号をコンピュータ40に供給するものとなっている。なお、方向キー31は、左上,左下,右下及び右上の4方向がさらに追加される8方向のキーからなるものとしても良いが、説明の便宜上、ここでは4方向の方向キー31を例に挙げている。
【0023】
コンピュータ40は、図2に示すように、入力信号変換部50、画像生成演算部60、3つのフレームメモリ71,72,73及び3つのD/A(ディジタル/アナログ)変換器81,82,83を備えている。なお、フレームメモリ71,72,73と、D/A変換器81,82,83と、プロジェクタ11,12,13とは、符号の1の位が等しいものが同一の信号系統となっている。
【0024】
入力信号変換部50は、入力装置30から入力される各種の信号を、それぞれ対応する内容の入力指令に変換し、この入力指令を画像生成演算部60に入力するというインタフェース機能を有したものである。
【0025】
画像生成演算部60は、入力信号変換部50から入力された入力指令に基づいて、仮想空間内の視点位置から視線方向に沿った視野内に配置され光源により照らし出される鑑賞対象を三次元形状で描画して仮想空間画像を生成し、その生成した仮想空間画像を示す画像データを、左領域,中央領域及び右領域の3領域に互いに境界を重複させつつ略3分割して、個別に3つのフレームメモリ41〜43に送出する機能を有している。
【0026】
具体的には、画像生成演算部60は、仮想空間画像を生成し表示するための基本機能部(図示せず)に加え、試書き用メモリ61、視野輝度設定テーブル62、対象輝度設定テーブル63、鑑賞視野明るさ調整部64及び鑑賞対象明るさ調整部65を備えている。
【0027】
基本機能部は、一つの仮想空間のコンテンツを構成する各種鑑賞対象の形状,位置,その他の属性や光源の位置,属性等のデータを記憶したコンテンツメモリを有し、入力信号変換部から受ける入力指令に基づいて、ワールド座標系,ボディ座標系,視点座標系及びスクリーン座標系を用いた仮想空間画像の画像生成演算を実行して仮想空間画像を生成する周知の仮想空間画像生成技術を具現化したものである。なお、この鑑賞対象は、光源により照らし出されるものと、自らが光源となるものが有り得る。
【0028】
試書き用メモリ61は、鑑賞視野明るさ調整部64及び鑑賞対象明るさ調整部65の作用により仮想空間画像が試書きされるメモリエリアであって、図3に示すように、左上端の画素(x0,y0)から右下端の画素(xm,yn)までマトリックス状に配置された多数の画素によって構成されている。
【0029】
視野輝度設定テーブル62は、仮想空間内の任意の各視点位置からそれぞれ視認可能な視野毎に、その視野内の鑑賞対象を鑑賞するのに適した明るさ(輝度)を設定したもので、調整パターン設定テーブル621と、調整パターンデータテーブル622とからなる。
【0030】
調整パターン設定テーブル621は、図4に示すように、仮想空間内の任意の視点位置毎に、視線方向と、後述する調整パターンデータの調整パターンナンバーPnとが設定されたものである。なお、視点位置は、X,Y,Zの3軸で表わされる仮想空間のワールド座標系で設定されている。また、視線方向は、そのワールド座標系のX軸方向,Y軸方向,Z軸方向,−X軸方向,−Y軸方向及び−Z軸方向の6方向に設定されている。
【0031】
調整パターンデータテーブル622は、図5に示すように、複数パターンのサンプリング画素データと最適平均輝度データL0との組合せからなる複数の調整パターンデータが、調整パターンナンバーPn別に設定されたものである。サンプリング画素データは、前記試書き用メモリ61を構成する全画素(x0,y0),……,(xm,yn)のうち、明るさ調整のためにサンプリングする画素を指定するデータであり、ここでは、図7(a)に示すように試書き用メモリ61の全画素(x0,y0),……,(xm,yn)をサンプリング対象とするデータSD1と、同図(b)に示すように略中央部の画素(xi,yi),……,(xj,yj)をサンプリング対象とするデータSD2と、同図(c)に示すように略下半分の画素(xk,yk),……,(xm,yn)をサンプリング対象とするデータSD3の3パターンがある。また、最適平均輝度データL0は、対応するサンプリング画素データによって指定された画素の最適平均輝度を設定するデータであり、ここでは、データL01,データL02,データL03(L01>L02>L03)の3種類の最適平均輝度データが設定されている。
【0032】
対象輝度設定テーブル63は、鑑賞対象毎にその対象を鑑賞するのに適した明るさ(輝度)を設定したもので、図6に示すように、各種の鑑賞対象毎に予め設定された固有の対象ID別に最適輝度データL2が設定されている。なお、対象輝度設定テーブル63には、一つの仮想空間のコンテンツを構成する全ての鑑賞対象について最適輝度データL2が設定されていてもよいし、輝度調整が必要な一部の鑑賞対象に対して選択的に最適輝度データL2が設定されていてもよい。
【0033】
鑑賞視野明るさ調整部64は、視野輝度設定テーブル62(調整パターン設定テーブル621,調整パターンデータテーブル622)を読出し可能であり、図8の流れ図に示す処理を実行して、鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように光源の照度を調整するように構成されたものである。
【0034】
すなわち、鑑賞視野明るさ調整部64は、ST(ステップ)1として入力信号変換部50から受ける入力指令により仮想空間内の視点位置または視線方向の変化が指示されるのを待機している。そして、視点位置または視線方向の変化が指示されたならば、鑑賞視野明るさ調整部64は、ST2として変化後の視点位置(X,Y,Z)と、視線方向(X,Y,Z,−X,−Y,−Z)を検出する。
【0035】
次に、鑑賞視野明るさ調整部64は、ST3として調整パターン設定テーブル621を検索して、変化後の視点位置(X,Y,Z)と、視線方向(X,Y,Z,−X,−Y,−Z)に対応する調整パターンナンバーPnを取得する。そして鑑賞視野明るさ調整部64は、ST4として今回の調整パターンナンバーPnが直前の視点位置(X,Y,Z)と視線方向(X,Y,Z,−X,−Y,−Z)に対応する調整パターンナンバーPn′と一致するか否かを判断する。なお、直前の調整パターンナンバーPn′は、図示しないデータ保持バッファにて保持されている。
【0036】
今回の調整パターンナンバーPnが直前の調整パターンナンバーPn′と一致しない場合には、鑑賞視野明るさ調整部64は、ST5として基本機能部を動作させて、変化後の視点位置(X,Y,Z)から視線方向(X,Y,Z,−X,−Y,−Z)に沿った視野内の仮想空間画像を、その視野内の鑑賞対象を照らし出す光源の照度を予め設定された初期照度E0に設定して生成し、試書き用メモリ61に描画する。なお、初期照度E0としては、例えば曇天の日の昼間の屋外の環境光に相当する照度等を予めメモリに設定しておく。
【0037】
また、鑑賞視野明るさ調整部64は、ST6として調整パターンデータテーブル622から今回の調整パターンナンバーPnに対応するサンプリング画素データと最適平均輝度データL0とを取得する。そして、鑑賞視野明るさ調整部64は、ST7として調整パターンデータテーブル622から取得したサンプリング画素データによって指定される試書き用メモリ61の各画素についてそれぞれ描画されたデータの輝度を求め、その平均値を平均輝度Lとして算出する。
【0038】
鑑賞視野明るさ調整部64は、サンプリング画素データに対応した各画素の平均輝度Lを算出したならば、次に、ST8として光源の初期照度E0と、最適平均輝度L0と、各画素の平均輝度Lとを用い、下記(1)式により当該視野内の仮想空間画像を表現するのに最適な光源の照度Eを算出する(最適輝度導出手段)。
【0039】
E=E0×(L0/L) …(1)
そして、鑑賞視野明るさ調整部64は、ST9として今回の調整パターンナンバーPnと、最適な光源の照度Eとを前記データ保持バッファに記憶保持する。
【0040】
その後、鑑賞視野明るさ調整部64は、ST10として基本機能部を再度動作させて、変化後の視点位置(X,Y,Z)から視線方向(X,Y,Z,−X,−Y,−Z)に沿った視野内の仮想空間画像を、その視野内の鑑賞対象を照らし出す光源の照度を最適照度Eに設定して生成し、左領域,中央領域及び右領域の3領域に互いに境界を重複させつつ略3分割して、個別に3つのフレームメモリ41〜43に描画する(明るさ調整手段)。
【0041】
また、鑑賞視野明るさ調整部64は、ST4の処理において今回の調整パターンナンバーPnが直前の調整パターンナンバーPn′と一致する場合には、ST10の処理に進む。そして、鑑賞視野明るさ調整部64は、基本機能部を動作させて、変化後の視点位置(X,Y,Z)から視線方向(X,Y,Z,−X,−Y,−Z)に沿った視野内の仮想空間画像を、その視野内の鑑賞対象を照らし出す光源の照度をデータ保持バッファにて保持している最適照度Eに設定して生成し、左領域,中央領域及び右領域の3領域に互いに境界を重複させつつ略3分割して、個別に3つのフレームメモリ41〜43に描画する。
【0042】
その後、鑑賞視野明るさ調整部64は、今回の処理を終了し、再び仮想空間内の視点位置または視線方向の変化が指示されるのを待機する。
【0043】
鑑賞対象明るさ調整部65は、対象輝度設定テーブル63を読出し可能であり、図9の流れ図に示す処理を実行して、鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように光源の照度を調整するように構成されたものである。
【0044】
すなわち、鑑賞対象明るさ調整部65は、ST11として入力信号変換部50から受ける入力指令により、現在表示している仮想空間画像のなかのいずれかの鑑賞対象が注目指示されるのを待機している。そして、鑑賞対象が注目指示されたならば、鑑賞対象明るさ調整部65は、ST12として対象輝度設定テーブル63を検索して、注目指示された鑑賞対象の対象IDが設定されているか否かを判断する。ここで、注目指示された鑑賞対象の対象IDが対象輝度設定テーブル63に設定されていない場合には、注目指示された鑑賞対象は輝度調整が不要なので、鑑賞対象明るさ調整部65は、今回の処理を終了する。そして、再び現在表示している仮想空間画像のなかのいずれかの鑑賞対象が注目指示されるのを待機する。
【0045】
これに対し、ST12において、注目指示された鑑賞対象の対象IDが対象輝度設定テーブル63に設定されている場合には、鑑賞対象明るさ調整部65は、ST13として対象輝度設定テーブル63から当該対象IDに対応して設定されている最適輝度データL2を取得する。また、鑑賞対象明るさ調整部65は、ST14として基本機能部を動作させて、現在表示している仮想空間画像を現在の照度Eで生成し、試書き用メモリ61に描画する。そして、鑑賞対象明るさ調整部65は、ST15として試書き用メモリ61の全画素のなかから注目指示された鑑賞対象の画像データが描画された画素を全て求め、その画素に描画されたデータの輝度を求めて、その平均値を平均輝度Lとして算出する。
【0046】
鑑賞対象明るさ調整部65は、鑑賞対象の画像データが描画された全画素の平均輝度Lを算出したならば、次に、ST16として光源の現在の照度Eと、最適輝度L2と、各画素の平均輝度Lとを用い、下記(2)式により注目指示された鑑賞対象を表現するのに最適な光源の照度Eを算出する(最適輝度導出手段)。
【0047】
そして、鑑賞対象明るさ調整部65は、ST17として基本機能部を再度動作させて、現在の視点位置(X,Y,Z)から視線方向(X,Y,Z,−X,−Y,−Z)に沿った視野内の仮想空間画像を、その視野内の鑑賞対象を照らし出す光源の照度を最適照度Eに設定して生成し、左領域,中央領域及び右領域の3領域に互いに境界を重複させつつ略3分割して、個別に3つのフレームメモリ41〜43に描画する(明るさ調整手段)。その後、鑑賞対象明るさ調整部65は、今回の処理を終了して、再び現在表示している仮想空間画像のなかのいずれかの鑑賞対象が注目指示されるのを待機する。
【0048】
このように構成された本実施の形態においては、操作者(鑑賞者自身であっても鑑賞者以外のものであってもよい)が入力装置30を操作して仮想空間内の視点位置や視線方向を変化させると、コンピュータ40によって、変化後の視点位置から視線方向に沿った視野内に配置され光源により照らし出される鑑賞対象を三次元形状で描画した仮想空間画像が生成される。そして、この仮想空間画像のデータが左領域,中央領域及び右領域の3領域に互いに境界を重複させつつ略3分割されて3つのプロジェクタ11,12,13に供給され、各プロジェクタ11,12,13によりスクリーン20に立体視可能な三次元映像からなる仮想空間画像が映し出される。このとき、コンピュータ40内の画像生成演算部60においては、鑑賞視野明るさ調整部64が機能して、視野内の鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように光源の照度が自動調整される。
【0049】
例えば今、調整パターン設定テーブル621と調整パターンデータテーブル622にそれぞれ図4,図5に示すデータが設定されているものとする。この場合において、変化後の視点が座標(X1,Y1,Z1)〜(X2,Y2,Z2)の範囲内に位置し、かつ視線方向がX軸方向に近似可能な方向であったときには、調整パターンナンバーP1の調整パターンデータ(サンプリング画素データSD1,最適平均輝度L01)が選択される。そして、視野内に配置された鑑賞対象を光源により初期照度E0で照射したときの仮想空間画像の全画素の平均輝度Lにより光源の最適照度Eとして[E0×(L01/L)]が算出され、光源の照度が初期照度E0から最適照度Eに調整される。したがって、鑑賞視野内の略全域が最適な輝度となるように光源の照度が調整されて仮想空間画像が生成され、スクリーン20に表示される。
【0050】
また、変化後の視点が座標(X1,Y1,Z1)〜(X2,Y2,Z2)の範囲内に位置し、かつ視線方向がZ軸方向に近似可能な方向であったときには、調整パターンナンバーP5の調整パターンデータ(サンプリング画素データSD2,最適平均輝度L02)が選択される。そして、視野内に配置された鑑賞対象を光源により初期照度E0で照射したときの仮想空間画像のうち略中央部の画素の平均輝度Lにより光源の最適照度Eとして[E0×(L02/L)]が算出され、光源の照度が初期照度E0から最適照度Eに調整される。したがって、鑑賞視野内の略中央部が最適な輝度となるように光源の照度が調整されて仮想空間画像が生成され、スクリーン20に表示される。
【0051】
また、変化後の視点が座標(X3,Y3,Z3)〜(X4,Y4,Z4)の範囲内に位置し、かつ視線方向がY軸方向に近似可能な方向であったときには、調整パターンナンバーP8の調整パターンデータ(サンプリング画素データSD3,最適平均輝度L02)が選択される。そして、視野内に配置された鑑賞対象を光源により初期照度E0で照射したときの仮想空間画像のうち略下半分の画素の平均輝度Lにより光源の最適照度Eとして[E0×(L02/L)]が算出され、光源の照度が初期照度E0から最適照度Eに調整される。したがって、鑑賞視野内の略下半分が最適な輝度となるように光源の照度が調整されて仮想空間画像が生成され、スクリーン20に表示される。
【0052】
このように本実施の形態によれば、動的に変化する鑑賞視野内の明るさを常に適切な状態に調整してその視野内の仮想空間画像をスクリーン20上に表示させることができるので、鑑賞者に対して違和感の少ない最適な映像を常に提示できるようになる。
【0053】
しかも、鑑賞視野内における特定領域の明るさを指標として光源の照度を調整しているので、映像表現上重要な位置を占める鑑賞対象を最適な明るさとした仮想空間画像を鑑賞者に提示することも可能である。
【0054】
また、本実施の形態においては、操作者が入力装置30を操作して仮想空間内の特定の鑑賞対象を注目指示すると、コンピュータ40内の鑑賞対象明るさ調整部65が機能して、注目指示された鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように光源の照度が自動調整される。
【0055】
例えば今、対象輝度設定テーブル63に図6に示すデータが設定されているものとする。この場合において、対象ID「ID1」によって特定される鑑賞対象が注目指示されると、その鑑賞対象が最適輝度L21で照らし出されるように高原の照度が自動調整される。したがって、鑑賞者が注目する鑑賞対象を最適な明るさで表現した仮想空間画像をスクリーン20に表示させることができる。
【0056】
なお、本発明はこの一実施の形態に限定されるものではない。
例えば、前記一実施の形態では光源の初期照度E0を予め設定し、この初期照度で鑑賞対象を照らしたときの仮想空間画像を非表示領域である試書き用メモリ61に描画してその明るさを評価したが、表示領域であるフレームメモリ71〜73に描画してその明るさを評価し、その後の仮想空間画像における光源の照度を自動調整するようにしてもよい。こうすることにより、試書き用メモリ61に描画する処理を省略できるので処理時間の短縮を図ることができる上、試書き用メモリ61を不要にできる利点がある。
【0057】
また、前記一実施の形態では、サンプリング分布データを図7に示す3パターンとしたが、例えば略上半分の画素を注目画素として平均輝度を算出する別パターンを組み合わせてもよい。また、2種類のパターンを用いたり、いずれか一つのパターンのみを用いてサンプリングし平均輝度を算出するものも、本発明は含むものである。
【0058】
また、平均輝度を算出する場合において、単純平均でなく、例えば略中央部の画素に重点を置いた加重平均により算出してもよい。また、RGB表示系等の複数バンドの表示系を用いる場合には、バンドごとに重み付けを変えることによりより自然な調整が可能となる。
【0059】
また、最適輝度Eを算出する際に、L0/LまたはL2/Lを乗じるのでなく、L0/LまたはL2/Lの平方根を用いて非線形的な補正をすることによって、元のシーンの暗さや明るさを残すことができる。
【0060】
さらに、描画された結果からサンプリング分布データを取る以外にも、視野内の描画対象物の反射率や座標から視野内の明るさを推測してもよい。
【0061】
また、仮想空間内の明るさを調整する方法としては、光源の照度を調整する以外に、描画後に画素の値に係数を乗じて明るさを調整する方法、対象物の反射係数を変更させて明るさを調整する方法、減光用のグレーフィルタをかけることで明るさを調整する方法等が考えられる。本発明には、これらの方法も明るさを調整する手段として実現できるものである。
【0062】
【発明の効果】
以上詳述したように、請求項1に対応する発明によれば、動的に変化する鑑賞視野内の明るさを常に適切な状態に調整して、その視野内の画像を表示させることができる画像表示装置を提供できる。
【0063】
また、請求項2に対応する発明によれば、動的に変化する鑑賞視野内の明るさを、光源の照度を調整することで常に適切な状態に調整して、その視野内の画像を表示させることができる画像表示装置を提供できる。
【0064】
また、請求項3及び5に対応する発明によれば、動的に変化する鑑賞視野内の特定領域の明るさを常に適切な状態に調整して、その視野内の画像を表示させることができる画像表示装置を提供できる。
【0065】
また、請求項4及び6に対応する発明によれば、動的に変化する鑑賞視野内の指定された鑑賞対象の明るさを常に適切な状態に調整して、その視野内の画像を表示させることができる画像表示装置を提供できる。
【図面の簡単な説明】
【図1】本発明の一実施の形態を適用したバーチャルリアリティシステムの外観図。
【図2】同バーチャルリアリティシステムの要部構成を示すブロック図。
【図3】同実施の形態における試書き用メモリの構成を示す模式図。
【図4】同実施の形態における調整パターン設定テーブルの構成を示す模式図。
【図5】同実施の形態における調整パターンデータテーブルの構成を示す模式図。
【図6】同実施の形態における対象輝度設定テーブルの構成を示す模式図。
【図7】同実施の形態におけるサンプリング画素データの説明に用いる模式図。
【図8】同実施の形態における鑑賞視野明るさ調整部の主要な処理手順を示す流れ図。
【図9】同実施の形態における鑑賞対象明るさ調整部の主要な処理手順を示す流れ図。
【図10】一般的な仮想空間を説明するための模式図。
【図11】一般的な仮想空間画像の表示例を示す図。
【符号の説明】
11,12,13…プロジェクタ
20…スクリーン
30…入力装置
40…コンピュータ
50…入力信号変換部
60…画像生成演算部
61…試書き用メモリ
62…視野輝度設定テーブル
621…調整パターン設定テーブル
622…調整パターンデータテーブル
63…対象輝度設定テーブル
64…鑑賞視野明るさ調整部
65…鑑賞対象明るさ調整部
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an image display device that displays an image in a virtual space using a virtual reality (VR) technology.
[0002]
[Prior art]
2. Description of the Related Art In recent years, a system in which a human can enter a virtual space including a three-dimensional image and perform various simulated experiences, a so-called virtual reality system, has been developed and put into practical use.
[0003]
Here, the virtual space is assumed to be a space represented by three axes of X, Y and Z in the memory of the computer as shown in FIG. 10, and various viewing objects (objects) 1 are stored in this space. The light source 2 is set while being arranged. Then, an image in the state of being illuminated by the light source 2 of the viewing object 1 that is within the field of view 4 of the camera 3 placed in the same space is generated by a computer processing process, and as shown in FIG. , Etc., and is presented to the operator as a virtual space image.
[0004]
In the virtual reality system, the operator operates, for example, an input device for operation to change the position of the camera 3, that is, the viewpoint position of a human who has entered the virtual space, and the direction of the camera 3, that is, the human Line of sight direction can be controlled. When the position and orientation of the camera 3 are controlled, the computer immediately generates a new virtual space image and updates the screen 5 accordingly. Thus, the operator can enter the virtual space created in the computer and view the viewing object from a favorite angle as if he were in the real world.
[0005]
By the way, recent remarkable performance improvement of hardware has enabled utilization of various lighting effects in a virtual reality system. For example, assuming an infinite light source such as sunlight as a light source, assuming that all surfaces in the same direction of all viewing objects in the visual field have the same brightness, or as a light source, a point light source such as an incandescent light bulb is assumed. However, since the light intensity decreases in proportion to the square of the distance from the light source, the surface far from the light source can be made to darken rapidly. The infinite light source is set, for example, as a light source that illuminates the outside of the virtual space, and the point light source is set, for example, as a light source that illuminates the indoor space of the virtual space.
[0006]
[Problems to be solved by the invention]
However, conventionally, the type of light source, the illuminance, and the like have been set at the time of content production so that an optimal video expression can be obtained when a specific viewing target is viewed from a predetermined specific viewpoint position. For this reason, in the case of a virtual reality system, a viewer (for example, an operator) can freely move in a virtual space, and in many cases, the viewer views the viewing target from a position other than a specific position. There is a possibility that an optimal video expression cannot be obtained.
[0007]
For example, if the conditions of the light source are set so that the optimal image expression is obtained when viewing the viewing object under the direct sunlight outdoors from the inside, the viewing object may be too bright when viewed from outside. is there. Similarly, if the conditions of the light source are set so that an optimal image expression can be obtained when the viewing object is outdoors from the outdoors, the viewing object may be too dark when viewed indoors.
[0008]
The present invention has been made based on such circumstances, and the purpose of the present invention is to always adjust the brightness in the dynamically changing viewing field to an appropriate state, and to change the image in the field of view. It is intended to provide an image display device capable of displaying.
[0009]
[Means for Solving the Problems]
The present invention solves this problem, and an invention corresponding to claim 1 is an appreciation that is arranged in a visual field along a line of sight from a viewpoint position in a virtual space and illuminated by a light source based on an input signal. In an image display apparatus for displaying an image of a target, the image display device includes a brightness adjustment unit that adjusts the brightness in the virtual space such that the brightness of the viewing target in the field of view becomes a brightness suitable for viewing the target. It is a thing.
[0010]
In the invention corresponding to claim 1, when the visual field along the direction of the line of sight changes from the viewpoint position in the virtual space based on the input signal, the brightness of the viewing target in the visual field changes even if the target is viewed. The brightness in the virtual space is automatically adjusted so that the brightness becomes appropriate.
[0011]
According to a second aspect of the present invention, there is provided an image display apparatus which displays an image to be viewed which is arranged in a visual field along a line of sight from a viewpoint position in a virtual space and illuminated by a light source based on an input signal. And a brightness adjusting means for adjusting the illuminance of the light source so that the brightness of the viewing target in the field of view is a brightness suitable for viewing the target.
[0012]
In the invention corresponding to claim 2, when the visual field along the direction of the line of sight changes from the viewpoint position in the virtual space based on the input signal, the brightness of the viewing target in the visual field changes even if the target is viewed. The illuminance of the light source is automatically adjusted so that the brightness becomes appropriate.
[0013]
The invention corresponding to claim 3 of the present invention is the invention according to claim 1 or 2, wherein the brightness adjusting means adjusts the illuminance of the light source using the brightness of a specific area in the visual field as an index. is there.
[0014]
In the invention corresponding to claim 3, when the visual field along the line of sight changes from the viewpoint position in the virtual space based on the input signal, the brightness of a specific viewing target in the visual field views the target. The illuminance of the light source is automatically adjusted so that the brightness suitable for the light source is obtained.
[0015]
The invention corresponding to claim 4 of the present invention is the invention according to claim 1 or 2, wherein the brightness adjusting means is arranged in the field of view, and the brightness of the viewing target specified by a predetermined input signal. The illuminance of the light source is adjusted using the index as an index.
[0016]
In the invention corresponding to claim 4, when an object to be viewed in the virtual space is designated by a predetermined input signal, the brightness of the object to be viewed becomes a brightness suitable for viewing the object. The illuminance of the light source is automatically adjusted.
[0017]
The invention corresponding to claim 5 of the present invention is an image to be viewed which is arranged in a visual field along a line of sight from a viewpoint position in a virtual space and is illuminated by a light source or is a light source based on an input signal. In the image display device that displays the visual field, a visual field luminance setting table that sets the brightness suitable for viewing the viewing object in the visual field for each visual field, and the viewpoint position or the line-of-sight direction in the virtual space is determined by a predetermined input signal. When it changes, the optimal brightness deriving means for deriving the optimal brightness in the visual field along the line of sight from the viewpoint position from the visual field luminance setting table, and the light source so as to obtain the optimal brightness derived by the optimal luminance deriving means And a brightness adjusting means for adjusting the illuminance.
[0018]
In the invention corresponding to claim 5, when the visual field along the line of sight changes from the visual point position in the virtual space based on the input signal, the optimal brightness in the visual field is derived from the visual field luminance setting table. . Then, the illuminance of the light source is automatically adjusted so as to have the optimum brightness derived from the field-of-view brightness setting table.
[0019]
According to a sixth aspect of the present invention, there is provided an image display apparatus for displaying an image to be viewed, which is arranged in a visual field along a line of sight from a viewpoint position in a virtual space and illuminated by a light source based on an input signal. In, a target brightness setting table in which the brightness suitable for viewing the target is set for each viewing target, and when a viewing target in the field of view is designated by a predetermined input signal, the optimum brightness of the viewing target is set. From the target luminance setting table, and brightness adjusting means for adjusting the illuminance of the light source so as to obtain the optimum brightness derived by the optimal luminance deriving means.
[0020]
In the invention according to claim 6, when a viewing target in the virtual space is designated by a predetermined input signal, an optimum brightness of the viewing target is derived from the target brightness setting table. Then, the illuminance of the light source is automatically adjusted so as to have the optimal brightness derived from the target brightness setting table.
[0021]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
In this embodiment, as shown in FIG. 1, an image of a virtual space composed of a three-dimensional image that can be stereoscopically viewed by three projectors 11, 12, and 13 is projected on a screen 20, and the interior of the virtual space is displayed. The present invention is applied to a virtual reality system in which a human can enter and perform various simulated experiences, and the operation content of the portable small input device 30 is converted into a virtual space image on the screen 20 via the computer 40. It is reflected in real time.
[0022]
As shown in FIG. 2, the input device 30 has a size such that the operator can hold it with both hands, similarly to the operation switch of a home-use TV game machine. It has a shape direction key 31 and four buttons a, b, c, d that can be operated with the right hand. The direction keys 31 include a key U indicating an upward direction, a key L indicating a leftward direction, a key D indicating a downward direction, and a key R indicating a rightward direction. Each of the keys U, L, D, R or Various signals are supplied to the computer 40 by pressing the buttons a, b, c, d individually or in combination. Note that the direction key 31 may be composed of eight direction keys to which four upper left, lower left, lower right, and upper right directions are further added. However, for convenience of explanation, the four direction keys 31 are used here as an example. Cite.
[0023]
As shown in FIG. 2, the computer 40 includes an input signal conversion unit 50, an image generation operation unit 60, three frame memories 71, 72, 73, and three D / A (digital / analog) converters 81, 82, 83. It has. Note that the frame memories 71, 72, 73, the D / A converters 81, 82, 83, and the projectors 11, 12, 13 have the same signal system in which the ones of the code are the same.
[0024]
The input signal conversion unit 50 has an interface function of converting various signals input from the input device 30 into input commands having corresponding contents, and inputting the input commands to the image generation calculation unit 60. is there.
[0025]
Based on the input command input from the input signal conversion unit 50, the image generation calculation unit 60 arranges the viewing target arranged in the visual field along the line of sight from the viewpoint position in the virtual space and illuminated by the light source into a three-dimensional shape. To generate a virtual space image, and divide the image data representing the generated virtual space image into three regions, that is, a left region, a central region, and a right region, while overlapping the boundaries with each other. It has a function of sending out to the frame memories 41 to 43.
[0026]
More specifically, the image generation calculation unit 60 includes a basic writing unit (not shown) for generating and displaying a virtual space image, a trial writing memory 61, a visual field luminance setting table 62, and a target luminance setting table 63. , A viewing field brightness adjustment unit 64 and a viewing object brightness adjustment unit 65.
[0027]
The basic function unit has a content memory for storing data such as the shape and position of various viewing objects constituting the contents of one virtual space, other attributes, and the position and attributes of a light source. A well-known virtual space image generation technique for generating a virtual space image by executing a virtual space image generation operation using a world coordinate system, a body coordinate system, a viewpoint coordinate system, and a screen coordinate system based on a command is implemented. It was done. It should be noted that there are two types of viewing objects, one illuminated by a light source and the other itself.
[0028]
The trial writing memory 61 is a memory area in which a virtual space image is trial-written by the operation of the viewing field brightness adjustment unit 64 and the viewing object brightness adjustment unit 65, and as shown in FIG. It is composed of a number of pixels arranged in a matrix from (x0, y0) to the lower right pixel (xm, yn).
[0029]
The visual field luminance setting table 62 sets, for each visual field that can be visually recognized from an arbitrary viewpoint position in the virtual space, a brightness (luminance) suitable for viewing the viewing object in the visual field. It comprises a pattern setting table 621 and an adjustment pattern data table 622.
[0030]
As shown in FIG. 4, the adjustment pattern setting table 621 is a table in which a line-of-sight direction and an adjustment pattern number Pn of adjustment pattern data described later are set for each arbitrary viewpoint position in the virtual space. Note that the viewpoint position is set in a world coordinate system of a virtual space represented by three axes of X, Y, and Z. The line of sight directions are set in six directions of the X-axis direction, the Y-axis direction, the Z-axis direction, the -X-axis direction, the -Y-axis direction, and the -Z-axis direction of the world coordinate system.
[0031]
As shown in FIG. 5, the adjustment pattern data table 622 is a table in which a plurality of adjustment pattern data including a combination of a plurality of patterns of sampling pixel data and the optimum average luminance data L0 is set for each adjustment pattern number Pn. The sampling pixel data is data for designating a pixel to be sampled for brightness adjustment among all the pixels (x0, y0),..., (Xm, yn) constituting the test writing memory 61. Then, as shown in FIG. 7A, the data SD1 for sampling all the pixels (x0, y0),..., (Xm, yn) of the trial writing memory 61, and as shown in FIG. , (Xj, yj), the data SD2 to be sampled, and the lower half pixels (xk, yk),... As shown in FIG. .., (Xm, yn) have three patterns of data SD3 to be sampled. Further, the optimum average luminance data L0 is data for setting the optimum average luminance of the pixel specified by the corresponding sampling pixel data. In this case, data L01, data L02, and data L03 (L01>L02> L03). Kind of optimal average luminance data is set.
[0032]
The target brightness setting table 63 is a table in which brightness (luminance) suitable for viewing the target is set for each viewing target. As shown in FIG. The optimum luminance data L2 is set for each target ID. In the target brightness setting table 63, the optimum brightness data L2 may be set for all viewing targets constituting the content of one virtual space, or may be set for some viewing targets requiring brightness adjustment. The optimum luminance data L2 may be selectively set.
[0033]
The viewing field brightness adjustment unit 64 can read the field brightness setting table 62 (the adjustment pattern setting table 621 and the adjustment pattern data table 622), and executes the processing shown in the flowchart of FIG. Is configured to adjust the illuminance of the light source so as to have a brightness suitable for viewing the object.
[0034]
That is, the viewing field brightness adjustment unit 64 waits for an instruction to change the viewpoint position or line-of-sight direction in the virtual space by an input command received from the input signal conversion unit 50 as ST (step) 1. Then, when a change in the viewpoint position or the line-of-sight direction is instructed, the viewing field brightness adjustment unit 64 determines the changed viewpoint position (X, Y, Z) and the line-of-sight direction (X, Y, Z, ST) in ST2. -X, -Y, -Z).
[0035]
Next, the viewing field brightness adjustment unit 64 searches the adjustment pattern setting table 621 as ST3, and changes the viewpoint position (X, Y, Z) and line-of-sight direction (X, Y, Z, -X, -X). −Y, −Z) is obtained. Then, the viewing field brightness adjustment unit 64 determines in ST4 that the current adjustment pattern number Pn corresponds to the immediately preceding viewpoint position (X, Y, Z) and viewing direction (X, Y, Z, -X, -Y, -Z). It is determined whether or not it matches the corresponding adjustment pattern number Pn '. The immediately preceding adjustment pattern number Pn 'is held in a data holding buffer (not shown).
[0036]
If the current adjustment pattern number Pn does not match the immediately preceding adjustment pattern number Pn ′, the viewing field brightness adjustment unit 64 operates the basic function unit as ST5, and changes the viewpoint position (X, Y, Z), a virtual space image in the visual field along the line-of-sight direction (X, Y, Z, -X, -Y, -Z) is obtained by setting the illuminance of a light source that illuminates the viewing object in the visual field in an initial setting. It is generated with the illuminance set to E0 and drawn in the trial writing memory 61. As the initial illuminance E0, for example, an illuminance corresponding to outdoor environmental light in the daytime on a cloudy day is set in a memory in advance.
[0037]
Further, the viewing field brightness adjustment unit 64 acquires the sampling pixel data corresponding to the current adjustment pattern number Pn and the optimum average luminance data L0 from the adjustment pattern data table 622 in ST6. Then, the viewing field brightness adjustment unit 64 calculates the brightness of the data drawn for each pixel of the trial writing memory 61 specified by the sampling pixel data acquired from the adjustment pattern data table 622 in ST7, and calculates the average value thereof. Is calculated as the average luminance L.
[0038]
After calculating the average luminance L of each pixel corresponding to the sampling pixel data, the viewing field brightness adjustment unit 64 next calculates the initial illuminance E0 of the light source, the optimal average luminance L0, and the average luminance of each pixel in ST8. Using L, an illuminance E of an optimal light source for expressing a virtual space image in the visual field is calculated by the following equation (1) (optimum luminance deriving means).
[0039]
E = E0 × (L0 / L) (1)
Then, the viewing field brightness adjustment unit 64 stores and holds the current adjustment pattern number Pn and the optimum illuminance E of the light source in the data holding buffer in ST9.
[0040]
After that, the viewing field brightness adjustment unit 64 operates the basic function unit again in ST10, and changes the viewpoint position (X, Y, Z) to the viewing direction (X, Y, Z, -X, -Y, -Z) is generated by setting the illuminance of the light source for illuminating the viewing object in the visual field to the optimal illuminance E, and generating a virtual space image in the left area, the center area, and the right area. The borders are divided into approximately three parts while overlapping, and individually drawn on three frame memories 41 to 43 (brightness adjusting means).
[0041]
If the current adjustment pattern number Pn matches the immediately preceding adjustment pattern number Pn 'in the processing of ST4, the viewing field brightness adjustment unit 64 proceeds to the processing of ST10. Then, the viewing field brightness adjustment unit 64 operates the basic function unit to change the viewpoint position (X, Y, Z) from the changed viewpoint direction (X, Y, Z, -X, -Y, -Z). Is generated by setting the illuminance of the light source that illuminates the viewing object within the visual field to the optimum illuminance E held in the data holding buffer, along the left area, the center area, and the right area. The three regions are roughly divided into three regions with overlapping boundaries, and are individually drawn on three frame memories 41 to 43.
[0042]
Thereafter, the viewing field brightness adjustment unit 64 ends the current process, and waits for an instruction to change the viewpoint position or the line of sight in the virtual space again.
[0043]
The viewing target brightness adjustment unit 65 can read the target brightness setting table 63, and executes the processing shown in the flowchart of FIG. 9 so that the brightness of the viewing target becomes a brightness suitable for viewing the target. Thus, the illuminance of the light source is adjusted.
[0044]
That is, the viewing target brightness adjustment unit 65 waits for any viewing target in the currently displayed virtual space image to be noticed by the input command received from the input signal conversion unit 50 in ST11. I have. When the viewing target is instructed to pay attention, the viewing object brightness adjustment unit 65 searches the target brightness setting table 63 in ST12, and determines whether or not the target ID of the viewing target instructed to pay attention is set. to decide. Here, in the case where the target ID of the viewing target instructed to pay attention is not set in the target brightness setting table 63, the viewing target instructed to pay attention does not need the brightness adjustment. Is completed. Then, it waits for one of the viewing targets in the currently displayed virtual space image to be noticed again.
[0045]
On the other hand, in ST12, when the target ID of the viewing target indicated by the attention is set in the target brightness setting table 63, the viewing target brightness adjustment unit 65 determines from the target brightness setting table 63 as ST13. The optimal brightness data L2 set corresponding to the ID is acquired. In addition, the appreciation object brightness adjustment unit 65 operates the basic function unit in ST <b> 14, generates the currently displayed virtual space image with the current illuminance E, and draws the virtual space image in the trial writing memory 61. Then, the viewing object brightness adjustment unit 65 obtains all the pixels in which the image data of the viewing object indicated in the attention is drawn from all the pixels of the trial writing memory 61 in ST15, and obtains the data of the data drawn in the pixels. The luminance is obtained, and the average value is calculated as the average luminance L.
[0046]
After calculating the average luminance L of all pixels on which the image data to be viewed has been drawn, the viewing object brightness adjustment unit 65 then proceeds to ST16 where the current illuminance E of the light source, the optimum luminance L2, and the And the average luminance L of the light source is used to calculate the optimal illuminance E of the light source for expressing the viewing target indicated by the following expression (2) (optimum luminance deriving means).
[0047]
Then, the appreciation object brightness adjustment unit 65 operates the basic function unit again in ST17, and changes the line-of-sight direction (X, Y, Z, -X, -Y,-) from the current viewpoint position (X, Y, Z). A virtual space image in the visual field along Z) is generated by setting the illuminance of the light source that illuminates the viewing object in the visual field to the optimum illuminance E, and is bounded by three regions of a left region, a central region, and a right region Are divided into approximately three parts while overlapping, and are individually drawn in three frame memories 41 to 43 (brightness adjusting means). After that, the viewing object brightness adjustment unit 65 ends the current processing, and waits again for any one of the viewing objects in the currently displayed virtual space image to be noticed.
[0048]
In the present embodiment configured as described above, the operator (which may be a viewer himself or a person other than the viewer) operates the input device 30 to operate the viewpoint position or the line of sight in the virtual space. When the direction is changed, the computer 40 generates a virtual space image in which a viewing object arranged in the visual field along the line of sight from the changed viewpoint position and illuminated by the light source is drawn in a three-dimensional shape. Then, the data of the virtual space image is divided into approximately three parts while overlapping boundaries with each other in three areas of a left area, a central area, and a right area, and supplied to three projectors 11, 12, and 13. A virtual space image composed of a three-dimensional image that can be viewed stereoscopically is displayed on the screen 20 by the screen 13. At this time, in the image generation calculation unit 60 in the computer 40, the viewing field brightness adjustment unit 64 functions so that the brightness of the viewing target in the field of view becomes a brightness suitable for viewing the target. The illuminance of the light source is automatically adjusted.
[0049]
For example, it is assumed that the data shown in FIGS. 4 and 5 are set in the adjustment pattern setting table 621 and the adjustment pattern data table 622, respectively. In this case, when the changed viewpoint is located within the range of coordinates (X1, Y1, Z1) to (X2, Y2, Z2) and the line of sight is a direction that can be approximated to the X-axis direction, adjustment is performed. The adjustment pattern data (sampling pixel data SD1, optimal average luminance L01) of the pattern number P1 is selected. Then, [E0 × (L01 / L)] is calculated as the optimum illuminance E of the light source from the average luminance L of all the pixels of the virtual space image when the viewing object arranged in the field of view is irradiated with the initial illuminance E0 by the light source. The illuminance of the light source is adjusted from the initial illuminance E0 to the optimal illuminance E. Therefore, the illuminance of the light source is adjusted so that almost the entire area in the viewing field has the optimum luminance, a virtual space image is generated, and displayed on the screen 20.
[0050]
If the changed viewpoint is located within the range of coordinates (X1, Y1, Z1) to (X2, Y2, Z2) and the line of sight is a direction that can be approximated to the Z-axis direction, the adjustment pattern number The adjustment pattern data of P5 (sampling pixel data SD2, optimal average luminance L02) is selected. Then, the optimum illuminance E of the light source is [E0 × (L02 / L) based on the average luminance L of the pixel in the substantially central part of the virtual space image when the viewing object arranged in the field of view is irradiated with the initial illuminance E0 by the light source. ] Is calculated, and the illuminance of the light source is adjusted from the initial illuminance E0 to the optimal illuminance E. Therefore, the illuminance of the light source is adjusted so that the approximate center of the viewing field has the optimum luminance, a virtual space image is generated, and displayed on the screen 20.
[0051]
When the changed viewpoint is located within the range of coordinates (X3, Y3, Z3) to (X4, Y4, Z4) and the line of sight is a direction that can be approximated to the Y-axis direction, the adjustment pattern number The adjustment pattern data of P8 (sampling pixel data SD3, optimal average luminance L02) is selected. Then, the optimal illuminance E of the light source is [E0 × (L02 / L) based on the average luminance L of the substantially lower half pixel in the virtual space image when the viewing object arranged in the field of view is irradiated with the initial illuminance E0 by the light source. ] Is calculated, and the illuminance of the light source is adjusted from the initial illuminance E0 to the optimal illuminance E. Therefore, the illuminance of the light source is adjusted so that the lower half of the viewing field has the optimum brightness, and a virtual space image is generated and displayed on the screen 20.
[0052]
As described above, according to the present embodiment, it is possible to always adjust the brightness in the dynamically changing viewing field to an appropriate state and display the virtual space image in the viewing field on the screen 20. It is possible to always present an optimal image with less discomfort to the viewer.
[0053]
In addition, since the illuminance of the light source is adjusted using the brightness of the specific area in the viewing field as an index, a virtual space image in which the viewing object occupying an important position in the image expression has the optimum brightness is presented to the viewer. Is also possible.
[0054]
Further, in the present embodiment, when the operator operates the input device 30 to pay attention to a specific viewing target in the virtual space, the viewing target brightness adjustment unit 65 in the computer 40 functions to provide the target instruction. The illuminance of the light source is automatically adjusted so that the brightness of the viewed object becomes a brightness suitable for viewing the object.
[0055]
For example, it is assumed that the data shown in FIG. 6 is set in the target luminance setting table 63 now. In this case, when the viewing target identified by the target ID “ID1” is instructed to pay attention, the illuminance of the plateau is automatically adjusted so that the viewing target is illuminated with the optimum luminance L21. Therefore, it is possible to display on the screen 20 a virtual space image in which the viewing object to which the viewer pays attention is expressed with optimal brightness.
[0056]
Note that the present invention is not limited to this embodiment.
For example, in the above-described embodiment, the initial illuminance E0 of the light source is set in advance, and the virtual space image when the viewing object is illuminated with the initial illuminance is drawn in the trial writing memory 61 which is a non-display area, and the brightness thereof is increased. However, the brightness may be evaluated by drawing on the frame memories 71 to 73, which are display areas, and the illuminance of the light source in the subsequent virtual space image may be automatically adjusted. By doing so, there is an advantage that the processing for drawing in the trial writing memory 61 can be omitted, so that the processing time can be shortened and the trial writing memory 61 can be eliminated.
[0057]
Further, in the above-described embodiment, the sampling distribution data has the three patterns shown in FIG. 7. However, for example, another pattern for calculating the average luminance using substantially the upper half pixel as the pixel of interest may be combined. Also, the present invention includes a case where two types of patterns are used or an average luminance is calculated by sampling using only one of the patterns.
[0058]
Further, when calculating the average luminance, the average luminance may be calculated, for example, by a weighted average with emphasis on the pixel at the substantially central portion, instead of the simple average. When a display system of a plurality of bands such as an RGB display system is used, a more natural adjustment can be made by changing the weight for each band.
[0059]
Also, when calculating the optimum luminance E, instead of multiplying by L0 / L or L2 / L, nonlinear correction is performed by using the square root of L0 / L or L2 / L, so that the darkness and darkness of the original scene can be improved. Brightness can be left.
[0060]
Further, besides taking sampling distribution data from the drawn result, the brightness in the visual field may be estimated from the reflectance and coordinates of the drawing object in the visual field.
[0061]
Also, as a method of adjusting the brightness in the virtual space, other than adjusting the illuminance of the light source, a method of adjusting the brightness by multiplying the pixel value by a coefficient after drawing, changing the reflection coefficient of the object A method of adjusting the brightness, a method of adjusting the brightness by applying a gray filter for dimming, and the like can be considered. In the present invention, these methods can also be realized as means for adjusting the brightness.
[0062]
【The invention's effect】
As described above in detail, according to the invention corresponding to claim 1, it is possible to always adjust the brightness in the dynamically changing viewing field to an appropriate state and display an image in the viewing field. An image display device can be provided.
[0063]
Further, according to the invention corresponding to claim 2, the brightness in the dynamically changing viewing field is always adjusted to an appropriate state by adjusting the illuminance of the light source, and the image in the viewing field is displayed. It is possible to provide an image display device that can be operated.
[0064]
According to the third and fifth aspects of the present invention, it is possible to always adjust the brightness of a specific area in a dynamically changing viewing field to an appropriate state and display an image in the viewing field. An image display device can be provided.
[0065]
According to the invention corresponding to claims 4 and 6, the brightness of the designated viewing target in the dynamically changing viewing field is always adjusted to an appropriate state, and the image in the viewing field is displayed. An image display device capable of performing the above can be provided.
[Brief description of the drawings]
FIG. 1 is an external view of a virtual reality system to which an embodiment of the present invention is applied.
FIG. 2 is a block diagram showing a main configuration of the virtual reality system.
FIG. 3 is a schematic diagram showing a configuration of a trial writing memory according to the embodiment;
FIG. 4 is a schematic diagram showing a configuration of an adjustment pattern setting table in the embodiment.
FIG. 5 is a schematic diagram showing a configuration of an adjustment pattern data table in the embodiment.
FIG. 6 is a schematic diagram showing a configuration of a target luminance setting table in the embodiment.
FIG. 7 is a schematic diagram used for describing sampling pixel data in the embodiment.
FIG. 8 is a flowchart showing a main processing procedure of a viewing field brightness adjustment unit in the embodiment.
FIG. 9 is a flowchart showing a main processing procedure of a viewing object brightness adjustment unit in the embodiment.
FIG. 10 is a schematic diagram for explaining a general virtual space.
FIG. 11 is a view showing a display example of a general virtual space image.
[Explanation of symbols]
11, 12, 13 ... Projector
20 ... Screen
30 ... input device
40 ... Computer
50 ... Input signal converter
60 ... Image generation operation unit
61: Memory for trial writing
62: Field of view luminance setting table
621: Adjustment pattern setting table
622: Adjustment pattern data table
63: Target luminance setting table
64: Appreciation field brightness adjustment unit
65 ... Brightness adjustment unit for viewing

Claims (6)

入力信号に基づいて、仮想空間内の視点位置から視線方向に沿った視野内に配置され光源により照らし出される鑑賞対象の画像を表示する画像表示装置において、
前記視野内の鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように、仮想空間内の明るさを調整する明るさ調整手段を備えたことを特徴とする画像表示装置。
Based on the input signal, in an image display device that displays an image of a viewing target that is arranged in a visual field along a line of sight from a viewpoint position in a virtual space and is illuminated by a light source,
An image display device comprising: a brightness adjustment unit that adjusts brightness in a virtual space so that the brightness of an object to be viewed in the field of view is a brightness suitable for viewing the object.
入力信号に基づいて、仮想空間内の視点位置から視線方向に沿った視野内に配置され光源により照らし出される鑑賞対象の画像を表示する画像表示装置において、
前記視野内の鑑賞対象の明るさがその対象を鑑賞するのに適した明るさとなるように、前記光源の照度を調整する明るさ調整手段を備えたことを特徴とする画像表示装置。
Based on the input signal, in an image display device that displays an image of a viewing target that is arranged in a visual field along a line of sight from a viewpoint position in a virtual space and is illuminated by a light source,
An image display device comprising: a brightness adjustment unit that adjusts illuminance of the light source so that the brightness of the viewing target in the field of view is a brightness suitable for viewing the target.
前記明るさ調整手段は、前記視野内における特定領域の明るさを指標として、前記光源の照度を調整することを特徴とする請求項1または2記載の画像表示装置。The image display device according to claim 1, wherein the brightness adjustment unit adjusts illuminance of the light source using brightness of a specific area in the visual field as an index. 前記明るさ調整手段は、前記視野内に配置され、所定の入力信号により指定された鑑賞対象の明るさを指標として、前記光源の照度を調整することを特徴とする請求項1または2記載の画像表示装置。3. The brightness adjustment unit according to claim 1, wherein the brightness adjustment unit is arranged in the field of view, and adjusts the illuminance of the light source using the brightness of the viewing target designated by a predetermined input signal as an index. 4. Image display device. 入力信号に基づいて、仮想空間内の視点位置から視線方向に沿った視野内に配置され光源により照らし出される又は自らが光源である鑑賞対象の画像を表示する画像表示装置において、
前記視野毎にその視野内の鑑賞対象を鑑賞するのに適した明るさを設定した視野輝度設定テーブルと、
所定の入力信号により前記仮想空間内の視点位置又は視線方向が変化すると、その視点位置から視線方向に沿った視野内の最適な明るさを前記視野輝度設定テーブルから導出する最適輝度導出手段と、
この最適輝度導出手段により導出された最適な明るさとなるように前記光源の照度を調整する明るさ調整手段とを具備したことを特徴とする画像表示装置。
Based on the input signal, in an image display device that displays an image of a viewing target that is arranged in a visual field along a line-of-sight direction from a viewpoint position in a virtual space or is illuminated by a light source or displays itself as a light source
A field-of-view luminance setting table that sets brightness suitable for appreciating an object to be viewed in the field of view for each field of view,
When a viewpoint position or a line-of-sight direction in the virtual space is changed by a predetermined input signal, an optimal luminance deriving unit that derives an optimal brightness in a visual field along a line-of-sight direction from the viewpoint position from the visual field luminance setting table,
An image display device comprising: a brightness adjusting unit that adjusts the illuminance of the light source so as to have an optimal brightness derived by the optimal brightness deriving unit.
入力信号に基づいて、仮想空間内の視点位置から視線方向に沿った視野内に配置され光源により照らし出される鑑賞対象の画像を表示する画像表示装置において、
前記鑑賞対象毎にその対象を鑑賞するのに適した明るさを設定した対象輝度設定テーブルと、
所定の入力信号により前記視野内の鑑賞対象が指定されると、その鑑賞対象の最適な明るさを前記対象輝度設定テーブルから導出する最適輝度導出手段と、
この最適輝度導出手段により導出された最適な明るさとなるように前記光源の照度を調整する明るさ調整手段とを具備したことを特徴とする画像表示装置。
Based on the input signal, in an image display device that displays an image of a viewing target that is arranged in a visual field along a line of sight from a viewpoint position in a virtual space and is illuminated by a light source,
A target brightness setting table in which the brightness suitable for viewing the target is set for each viewing target,
When a viewing target in the visual field is specified by a predetermined input signal, an optimum brightness deriving unit that derives an optimum brightness of the viewing target from the target brightness setting table,
An image display device comprising: a brightness adjusting unit that adjusts the illuminance of the light source so as to have an optimal brightness derived by the optimal brightness deriving unit.
JP2002247349A 2002-08-27 2002-08-27 Image display device Expired - Fee Related JP4122899B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002247349A JP4122899B2 (en) 2002-08-27 2002-08-27 Image display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002247349A JP4122899B2 (en) 2002-08-27 2002-08-27 Image display device

Publications (2)

Publication Number Publication Date
JP2004086604A true JP2004086604A (en) 2004-03-18
JP4122899B2 JP4122899B2 (en) 2008-07-23

Family

ID=32055022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002247349A Expired - Fee Related JP4122899B2 (en) 2002-08-27 2002-08-27 Image display device

Country Status (1)

Country Link
JP (1) JP4122899B2 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07129795A (en) * 1993-10-28 1995-05-19 Hitachi Ltd Computer graphic system provided with changing function for image illumination effect
JPH1091057A (en) * 1996-09-17 1998-04-10 Mitsubishi Electric Corp Technical consultation assistance system
JP2001014485A (en) * 1999-07-01 2001-01-19 Matsushita Electric Ind Co Ltd Picture display device
JP2001143105A (en) * 1999-11-18 2001-05-25 Matsushita Electric Ind Co Ltd Picture generating device
JP2002092631A (en) * 2000-01-28 2002-03-29 Namco Ltd Game system, program, and information storage medium

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07129795A (en) * 1993-10-28 1995-05-19 Hitachi Ltd Computer graphic system provided with changing function for image illumination effect
JPH1091057A (en) * 1996-09-17 1998-04-10 Mitsubishi Electric Corp Technical consultation assistance system
JP2001014485A (en) * 1999-07-01 2001-01-19 Matsushita Electric Ind Co Ltd Picture display device
JP2001143105A (en) * 1999-11-18 2001-05-25 Matsushita Electric Ind Co Ltd Picture generating device
JP2002092631A (en) * 2000-01-28 2002-03-29 Namco Ltd Game system, program, and information storage medium

Also Published As

Publication number Publication date
JP4122899B2 (en) 2008-07-23

Similar Documents

Publication Publication Date Title
US20210097776A1 (en) Devices, Methods, and Graphical User Interfaces for Interacting with Three-Dimensional Environments
JP6431233B1 (en) Video distribution system that distributes video including messages from viewing users
CN108830939B (en) Scene roaming experience method and experience system based on mixed reality
CN103635939B (en) For the process that indirectly illuminates of virtual environment
JP6362634B2 (en) Image generation system, game device, and program
CN109683701A (en) Augmented reality exchange method and device based on eye tracking
JPH10334275A (en) Method and system for virtual reality and storage medium
CN111672100B (en) Virtual item display method in virtual scene, computer equipment and storage medium
CN105389846B (en) A kind of methods of exhibiting of threedimensional model
CN107067457B (en) Image generation system and image processing method
JP2016161882A (en) Light projection device
CN109427089A (en) Mixed reality object based on environmental lighting conditions is presented
CN109829958B (en) Virtual idol broadcasting method and device based on transparent liquid crystal display screen
CN109841196B (en) Virtual idol broadcasting system based on transparent liquid crystal display
JP4122899B2 (en) Image display device
US20220036620A1 (en) Animation production system
CN110060349A (en) A method of extension augmented reality head-mounted display apparatus field angle
CN108696740A (en) A kind of live broadcasting method and equipment based on augmented reality
JP4028113B2 (en) GAME DEVICE AND INFORMATION STORAGE MEDIUM
JP7470347B2 (en) Animation Production System
CN117424970A (en) Light control method and device, mobile terminal and storage medium
CN116743976B (en) Live broadcasting room color temperature adjustment method, live broadcasting system and storage medium
CN117424969A (en) Light control method and device, mobile terminal and storage medium
CN115546041B (en) Training method of light supplementing model, image processing method and related equipment thereof
Sato et al. MlioLight: Projector-camera Based Multi-layered Image Overlay System for Multiple Flashlights Interaction

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050621

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080115

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080314

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080408

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080421

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110516

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110516

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120516

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120516

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130516

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140516

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees