JP2011165068A - 画像生成装置、画像表示システム、画像生成方法、及びプログラム - Google Patents

画像生成装置、画像表示システム、画像生成方法、及びプログラム Download PDF

Info

Publication number
JP2011165068A
JP2011165068A JP2010029196A JP2010029196A JP2011165068A JP 2011165068 A JP2011165068 A JP 2011165068A JP 2010029196 A JP2010029196 A JP 2010029196A JP 2010029196 A JP2010029196 A JP 2010029196A JP 2011165068 A JP2011165068 A JP 2011165068A
Authority
JP
Japan
Prior art keywords
eye
observer
image
left eye
image generation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010029196A
Other languages
English (en)
Inventor
Keiki Yoshimasu
圭紀 吉益
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Solution Innovators Ltd
Original Assignee
NEC System Technologies Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC System Technologies Ltd filed Critical NEC System Technologies Ltd
Priority to JP2010029196A priority Critical patent/JP2011165068A/ja
Publication of JP2011165068A publication Critical patent/JP2011165068A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】観察者が頭部を傾斜させても観察者による画像の立体視を維持する。
【解決手段】画像生成装置は、基準姿勢における頭部の姿勢と、観察者の実際の頭部の姿勢との差を角度で示す角度情報を取得する角度情報取得手段と、前記基準姿勢の観察者の右目及び左目の位置を示す設定視点情報を保持しており、該設定視点情報と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の左目及び右目の位置を算出する位置算出手段と、立体視可能となるように、前記位置算出手段により算出された前記右目の位置から見た画像と、該位置算出手段により算出された前記左目の位置から見た画像とを生成する画像生成手段と、を有する。
【選択図】図1

Description

本発明は、立体視可能な3次元グラフィックスを生成する技術に関する。
近年、両眼視差を利用した立体視用の3次元グラフィックスを生成する画像生成装置の研究、開発が盛んに行われている。
一般的な画像生成装置は、観察者の両眼の位置を予め想定しておき、その両眼の位置から見たときに立体視可能な画像を生成する。
しかし、実際には、観察者が左右あるいは上下に移動したり、移動はしなくても頭部を左右に傾けたりすることがある。観察者が移動したことで両眼の位置が想定した位置から外れてしまえば、観察者は画像を立体視できなくなったり、自然な立体感が得られなくなったりする。また、観察者が頭部を傾けたことで両眼あるいは片眼の位置が想定した位置から外れてしまえば、やはり観察者が画像を立体視できなくなったり、自然な立体感が得られなくなったりする。また、観察者が頭部を上に向けたり、下に向けたりした場合にも観察者の両眼の位置が想定した位置から外れることがある。
特許文献1に記載されたプロジェクタはレンチキュラスクリーンに画像を投影する。レンチキュラスクリーンは、観察者の目の位置から画像上の注視点への視線方向の向きが変われば、画像の見え方も変化する。このため、観察者がスクリーンに沿って平行移動したり、顔を正面から、幾分横に向けたりすると、視線方向の向きが変わり、立体視ができなくなる場合がある。
このプロジェクタは、観察者がスクリーンに沿って平行移動すると、追従してプロジェクタ自身もスクリーンに沿って平行移動してスクリーン上の画像を平行移動させる。このため、観察者が平行移動しても、立体視が可能となる。
また、プロジェクタは、観察者の顔が正面から、幾分横に向くように頭部が傾斜すると、その傾斜角を頭頂部の角度センサで検出する。その傾斜角に応じて、観察者の視線の方向とスクリーンのなす角度が傾斜前の角度に修正されるようにプロジェクタ自身がスクリーンに沿って平行移動してスクリーン上の画像を平行移動させる。平行移動する画像を観察者が目で追うので、注視点も移動する。両眼の位置の移動に応じて注視点も移動する結果、視線方向の向きが修正され、観察者が顔を、ある程度、横に向けても立体視が可能となる。
特許文献2に記載されたデータ処理装置は、観察者の頭部に取り付けた超音波発振器からの超音波信号に基づいて、ディスプレイを起点とした観察者の頭部の相対位置を求め、その位置から両眼の位置を推測する。そして、データ処理装置は、その両眼の位置から立体的に見えるように、左目用および右目用の画像を生成している。このため、観察者がディスプレイから離れたり近づいたりしても、観察者は立体視が可能となる。
また、このデータ処理装置は、ディスプレイを起点とした観察者の頭部の相対位置に基づいて、ディスプレイの表示面が観察者の方に向くように、水平走査線に平行な軸周りと、垂直走査線に平行な軸周りにディスプレイを回転させる。このため、観察者がディスプレイの周囲を回ったり、観察者が立ったり座ったりしても、立体視が可能となる。
特開平8−328170号公報 特許2718723号公報
しかし、特許文献1または特許文献2に記載された装置では、観察者が頭部を回転させた場合に、自然な立体感を得られなくなる場合があった。
特許文献1または特許文献2に記載された装置の問題について説明する前に、図6を参照して、一般的な画像生成装置において、頭部が傾斜した場合について説明する。図6は、顔がディスプレイに正対した状態で首を傾げた場合の観察者の両眼の位置の変化の一例を示す図である。同図におけるX軸が画面の水平走査線に平行な軸、Y軸が画面の垂直走査線に平行な軸、Z軸が奥行きを示す軸である。同図に示すように、顔をディスプレイの正面に向けた状態で観察者が首を傾げると、両眼を結んだ直線の中点を中心に、Z軸周りに両眼の位置が回転する。その結果、回転前にVl,Vrであった観察者の両眼の位置が、Vl’,Vr’へ移動する。
現実の立体的な物体を、回転後のVl’,Vr’から見ると、物体の見え方が回転前のVl,Vrから見た場合と比較して変化する。例えば、回転後の左目の位置Vl’は、回転前のVlより高い位置にあるので、Vlから見えなかった物体の上面がVl’から見えることがある。また、傾斜後の右目の位置Vr’は、傾斜前のVrから水平走査線に沿った方向へ移動しているので、Vrからは見えていた物体の側面がVr’から見えなくなることがある。しかし、頭部が傾斜したにも関わらず、画像生成装置が、回転前の両眼の位置Vl,Vrから見た物体を表示する画像を生成すると、その画像内の物体の見え方は頭部の回転後の両眼の位置からの見え方と異なるので、観察者は、その画像から自然な立体感を得られなくなる。観察者が顔を前方や後方に傾けたり、顔を横に向けたりする場合も同様である。
特許文献1に記載されたプロジェクタは、観察者の目の位置の水平走査線(図6ではX軸)上のずれを算出するが、垂直走査線(図6ではY軸)上のずれや奥行き(図6ではZ軸上)のずれは算出せず、Y軸、Z軸上のずれがないという想定のもとに画像を生成する。顔をディスプレイの正面に向けたままで観察者が首を傾けた場合は、Y軸上にもずれが生じ、顔を前方または後方に傾けたり、顔を横に向けたりした場合は、Z軸上にもずれが生じる。
傾斜の方向によっては、目の位置のX軸上のずれがほとんどなくとも、Z軸上またはY軸上のずれが大きくなることがある。Z軸、Y軸上のずれが増大してもX軸上のずれが傾斜前と変わらなければ、プロジェクタは、傾斜前の両眼の位置から見た物体を表示する画像を投影する。その画像内の物体の見え方は頭部の傾斜後の両眼の位置からの見え方と異なるので、自然な立体感を得られなくなるという問題があった。
特許文献2に記載されたデータ処理装置は、観察者の頭部の一点に取り付けられた超音波発振器からの信号を受信して、その信号から観察者の頭部の位置を求めている。しかし、超音波発振器が頭部の傾斜運動の中心となる点に取り付けられていた場合、観察者が頭部を傾斜させても、データ処理装置は、傾斜を検出できない。
例えば、超音波発振器が両眼を結ぶ線分の中点に取り付けられている場合、その中点を中心に観察者が顔を傾けても、データ処理装置は、両眼の位置が傾斜前と同じと推測してしまう。
この場合、データ処理装置は、傾斜前の両眼の位置から見た物体を表示する画像を生成する。その画像内の物体の見え方は頭部の傾斜後の両眼の位置からの見え方と異なるので、自然な立体感を得られなくなるという問題があった。
本発明は、観察者が頭部を傾斜させても観察者による画像の立体視を維持する技術を提供することを目的とする。
上記目的を達成するために、本発明の画像生成装置は、基準姿勢における観察者の頭部の姿勢と、観察者の実際の頭部の姿勢との差を角度で示す角度情報を取得する角度情報取得手段と、前記基準姿勢の観察者の右目及び左目の位置を示す設定視点情報を保持しており、該設定視点情報と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の左目及び右目の位置を算出する位置算出手段と、立体視可能となるように、前記位置算出手段により算出された前記右目の位置から見た画像と、該位置算出手段により算出された前記左目の位置から見た画像とを生成する画像生成手段と、を有する。
本発明の画像表示システムは、本発明の画像生成装置と、前記画像生成装置により生成された前記画像を表示する設置型の表示装置と、を有する。
本実施形態の画像生成方法は、角度情報取得手段が、基準姿勢における観察者の頭部の姿勢と、観察者の実際の頭部の姿勢との差を角度で示す角度情報を取得し、位置算出手段が、前記基準姿勢の観察者の右目及び左目の位置を示す設定視点情報を保持しており、該設定視点情報と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の左目及び右目の位置を算出し、画像生成手段が、立体視可能となるように、前記位置算出手段により算出された前記右目の位置から見た画像と、該位置算出手段により算出された前記左目の位置から見た画像とを生成する、画像生成方法である。
本発明のプログラムは、コンピュータに、基準姿勢における観察者の頭部の姿勢と、観察者の実際の頭部の姿勢との差を角度で示す角度情報を取得する角度情報取得手順、前記基準姿勢の観察者の右目及び左目の位置を示す設定視点情報を保持しており、該設定視点情報と、前記角度情報取得手順により取得された前記角度情報とから、前記観察者の実際の左目及び右目の位置を算出する位置算出手順、及び立体視可能となるように、前記位置算出手順により算出された前記右目の位置から見た画像と、該位置算出手段により算出された前記左目の位置から見た画像とを生成する画像生成手順、を実行させるためのプログラムである。
本発明によれば、画像生成装置は、基準姿勢における頭部の姿勢と実際の姿勢との差を角度で示す角度情報を取得し、その角度情報と設定視点情報とから、傾斜角だけ頭部を傾けた観察者の左目及び右目の位置を算出し、立体視可能となるように、左目で見た画像と右目で見た画像とを生成する。このように、画像生成装置は、傾斜角から傾斜後の両眼の位置自体を算出して、それらの位置から見た画像を生成するので、その画像の見え方は実際に頭部が傾斜した場合の両眼の位置からの見え方と一致し、観察者による画像の立体視を維持することができる。
本発明の第1の実施形態の立体視画像生成装置の一構成例を示すブロック図である。 (a)本発明の第1の実施形態の左目視線情報の示す内容の一例を示す図である。(b)本発明の第1の実施形態の右目視線情報の示す内容の一例を示す図である。(c)本発明の第1の実施形態の左目用補正視線情報の示す内容の一例を示す図である。(d)本発明の第1の実施形態の右目用補正視線情報の示す内容の一例を示す図である。 本発明の第1の実施形態の補正部の一構成例を示すブロック図である。 (a)本発明の第1の実施形態の補正後の左目視点座標を算出するための行列式である。(b)本発明の第1の実施形態の補正後の上方ベクトルを算出するための行列式である。 本発明の第1の実施形態の立体視画像生成部の一構成例を示すブロック図である。 本発明の第1の実施形態のワールド座標系における3次元物体の一例を示す図である。 本発明の第1の実施形態の左目用補正座標変換部および右目用補正座標変換部の一構成例を示すブロック図である。 本発明の第1の実施形態の、傾斜角だけ回転させた左目用の3次元グラフィックスの一例を示す図である。 本発明の第1の実施形態の、傾斜角だけ回転させた右目用の3次元グラフィックスの一例を示す図である。 本発明の第1の実施形態の立体視画像生成装置の動作の一例を示すフローチャートである。 本発明の第1の実施形態の補正処理を示すフローチャートである。 本発明の第1の実施形態の立体視画像生成処理を示すフローチャートである。 本発明の第2の実施形態の補正部の一構成例を示すブロック図である。
本発明を実施するための実施の形態について図面を参照して説明する。図1は、本実施形態の立体視画像生成装置1の一構成例を示すブロック図である。立体視画像生成装置1は、立体視可能な3次元グラフィックスを生成してディスプレイに出力する画像生成装置である。
図1を参照すると、立体視画像生成装置1は、傾斜角受信部10、補正部20、および立体視画像生成部30を有する。また、立体視画像生成装置1は、観察者顔傾斜角センサー2と、左目用ディスプレイ3および右目用ディスプレイ4とに有線または無線で接続されている。
観察者顔傾斜角センサー2は、ジャイロセンサーや加速度センサーなどを使用することにより、基準姿勢における観察者の頭部の姿勢と、観察者の実際の頭部の姿勢との差を、頭部が傾いた傾斜角として検出する。基準姿勢は、例えば、観察者の顔面がディスプレイの正面に正対し、且つ観察者が首を傾げていない姿勢である。頭部の傾斜角には、ディスプレイの水平走査線に平行な直線と観察者の両眼を結ぶ直線とがなす角度、及び、ディスプレイの法線と観察者の顔面の法線とのなす角度などがある。
例えば、観察者がディスプレイに正対したままで首を傾げた場合、観察者顔傾斜角センサー2は、ディスプレイの水平走査線に平行な直線と観察者の両眼を結ぶ直線とがなす角度を傾斜角として検出する。観察者顔傾斜角センサー2は、観察者が顔を正面から横に向けた場合、または観察者が顔を前方または後方に傾けた場合、ディスプレイの法線と観察者の顔面の法線とのなす角度を傾斜角として検出する。
本実施形態では、観察者顔傾斜角センサー2は、観察者の顔面がディスプレイに正対したままで首を傾げた場合の傾斜角のみを検出する。
観察者顔傾斜角センサー2は、定期的に、または所定のイベントが発生したときに検出した傾斜角を示す角度情報を立体視画像生成装置1へ送信する。所定のイベントとしては、観察者顔傾斜角センサー2に電源が投入されたこと、閾値以上の傾斜角が検出されたこと、立体視画像生成装置1から立体視画像の表示開始を示す信号を受信したことなどがある。
立体視画像生成装置1は、傾斜角受信部10、補正部20、および立体視画像生成部30を有する。
傾斜角受信部10は、観察者顔傾斜角センサー2から角度情報を受信し、補正部20へ出力する。
補正部20は、予め設定視線情報を記憶しておき、角度情報と設定視線情報とから、補正視線情報を生成する。
設定視線情報は、顔をディスプレイの正面に向けた状態で観察者が頭部を傾けていない場合の視線情報である。補正視線情報は、顔をディスプレイの正面に向けた状態で観察者が傾斜角だけ首を傾けた場合の視線情報である。
ここで、視線情報とは、観察者の両眼のうち少なくとも1つの3次元位置の立体座標と、注視点の立体座標と、上方ベクトルとを示す情報である。両眼の3次元位置は、それぞれ視点とも呼ばれる。注視点は、各視点から観察者が視線方向に沿って注視した点である。上方ベクトルとは、観察者の視界の上下左右のうち、上方を示すベクトルである。上方ベクトルは、3次元のベクトルで定義される。
また、センサーの種類によっては、どれだけ傾いたかという動的な傾斜角の検出は可能だが、現在、どれだけ傾いているかという静的な傾斜角の検出が困難な場合がある。この場合、観察者顔傾斜角センサー2の電源投入時に、観察者の頭部が既に傾いた状態では、静的な検出角が反映されず、実際の傾斜角が正確に検出されないことがある。静的な傾斜角の検出が困難な場合、観察者が、頭部を傾けていない状態で観察者顔傾斜角センサー2を初期化するための操作を行ったときに、立体視画像生成装置1は、設定視線情報を初期値に更新するものとする。
静的な傾斜角の検出が可能なセンサーを用いる場合は、この初期化の操作は不要である。静的な傾斜角を検出可能なセンサーとしては、例えば、電極2本および電解液を密封したセンサーがある。このセンサーが傾くと、各電極の、電解液に浸る面積が変化し、その結果、静電容量が変化する。この静電容量の変化から、センサーは、静的な検出角を検出できる。
設定視線情報および角度情報から、補正視線情報を算出する方法の詳細については、図3で後述する。
本実施形態では、設定視線情報は、右目視線情報および左目視線情報を含み、補正視線情報は、右目用補正視線情報および左目用補正視線情報を含む。
図2(a)は、左目視線情報の示す内容の一例である。同図(a)に示すように、左目視線情報は、観察者の左目の3次元位置の立体座標Vl(Vlx,Vly,Vlz)と、注視点の立体座標H(Hx,Hy,Hz)と、上方ベクトルUp(Upx,Upy,Upz)とを示す情報である。
図2(b)は、右目視線情報の示す内容の一例である。同図(b)に示すように、右目視線情報は、観察者の右目の3次元位置の立体座標Vr(Vrx,Vry,Vrz)と、注視点の立体座標H(Hx,Hy,Hz)と、上方ベクトルUp(Upx,Upy,Upz)とを示す情報である。
図2(c)は、左目用補正視線情報の示す内容の一例である。同図(c)に示すように、左目用補正視線情報は、観察者の補正後の左目の3次元位置の立体座標Vl’(Vlx’,Vly’,Vlz’)と、注視点の立体座標H(Hx,Hy,Hz)と、補正後の上方ベクトルUp(Upx,Upy,Upz)とを示す情報である。
図2(d)は、右目用補正視線情報の示す内容の一例である。同図(d)に示すように、右目用補正視線情報は、観察者の補正後の右目の3次元位置の立体座標Vr’(Vrx’,Vry’,Vrz’)と、注視点の立体座標H(Hx,Hy,Hz)と、補正後の上方ベクトルUp’(Upx’,Upy’,Upz’)とを示す情報である。
図1に戻り、立体視画像生成部30は、補正視線情報および角度情報に基づいて、補正視線情報の示す観察者の両眼の視点から立体視できるように、左目用の立体視画像と右目用の立体視画像とを生成する。立体視画像の生成方法の詳細については、図5で後述する。
本実施形態では、立体視画像生成部は、左目用の立体視画像を示す左目用画像情報と、右目用の立体視画像を示す右目用画像情報とをそれぞれ左目用ディスプレイ3と、右目用ディスプレイ4とに出力する。
左目用ディスプレイ3および右目用ディスプレイ4は、設置型の表示装置であり、それぞれ左目用立体視画像情報の示す立体視画像、右目用立体視画像情報の示す立体視画像を表示する。
立体視の方式は、両眼視差を利用し、設置型のディスプレイへの画像の表示を想定する方式であれば、任意の方式を採用できる。例えば、眼鏡型のデバイスを用いる偏光方式やアクティブシャッター方式でもよいし、裸眼立体視が可能な方式であってもよい。
図3を参照して、補正部20の構成について詳細に説明する。同図は、補正部20の一構成例を示すブロック図である。同図を参照すると、補正部20は、設定値記憶部201、左目用視線補正部202、および右目用視線補正部203を有する。
設定値記憶部201は、設定視線情報として、左目視線情報および右目視線情報を記憶している。
左目用視線補正部202は、視点中心演算部2021、左目視点補正部2022、および上方ベクトル補正部2023を有する。右目用視線補正部203は、視点中心演算部2031、右目視点補正部2032、および上方ベクトル補正部2033を有する。
視点中心演算部2021および2031は、左目視線情報の示す左目の立体座標Vl(Vlx,Vly,Vlz)と、右目視線情報の示す右目の立体座標Vr(Vrx,Vry,Vrz)とから、観察者の両眼を結ぶ線分の中点Vc(Vcx,Vcy,Vcz)を算出する。Vcを以下、「視点中心」と称する。視点中心Vcは下記の式により算出される。
Figure 2011165068
視点中心演算部2021は、算出したVcを左目視点補正部2022および上方ベクトル補正部2023へ出力する。視点中心演算部2031は、算出したVcを右目視点補正部2032および上方ベクトル補正部2033へ出力する。
左目視点補正部2022は、視点中心Vc(Vcx,Vcy,Vcz)と、注視点H(Hx,Hy,Hz)とから、下記の式を使用して、回転軸のベクトルHVcを求める。
Figure 2011165068
そして、左目視点補正部2022は、下記の式を使用してHVcを正規化し、単位ベクトルN(Nx,Ny,Nz)を求める。
Figure 2011165068
Figure 2011165068
次いで、左目視点補正部2022は、左目の立体座標Vl(Vlx,Vly,Vlz)を、視点中心Vcが原点になるように平行移動する。平行移動後、左目視点補正部2022は、4×4の行列演算により、単位ベクトルNを軸にVlをθだけ回転させる。回転させたVlを、左目視点補正部2022は、視点中心Vcが元の位置に戻るように再度平行移動する。
左目視点補正部2022は、再度の平行移動後のVlの座標を補正左目視点座標Vl’ (Vlx’,Vly’,Vlz’)とする。
具体的には、Vl’ (Vlx’,Vly’,Vlz’)は、図4(a)に示す行列式により算出される。
上方ベクトル補正部2023は、視点中心Vc(Vcx,Vcy,Vcz)と、注視点H(Hx,Hy,Hz)とから、上記(2)〜(4)式を使用して、HVcから単位ベクトルN(Nx,Ny,Nz)を求める。
上方ベクトル補正部2023は、図4(b)に示す行列式を使用して、左目視線情報の示す上方ベクトルUp(Upx,Upy,Upz)と、単位ベクトルN(Nx,Ny,Nz)とから、補正上方ベクトルUp’(Upx’,Upy’,Upz’)を算出する。
左目用視線補正部202は、左目視点補正部2022で算出された左目視点座標Vl’ (Vlx’,Vly’,Vlz’)と、左目視線情報に含まれる注視点H(Hx,Hy,Hz)と、上方ベクトル補正部2023で算出された上方ベクトルUp’(Upx’,Upy’,Upz’)とを示す情報を左目用補正視線情報として立体視画像生成部30へ出力する。
右目視点補正部2032は、視点中心Vc(Vcx,Vcy,Vcz)と、注視点H(Hx,Hy,Hz)とから、上記(2)〜(4)式を使用して、HVcから単位ベクトルN(Nx,Ny,Nz)を求める。
そして、右目視点補正部2032は、図4(a)に示した行列式のVl(Vlx,Vly,Vlz)をVr(Vrx,Vry,Vrz)に置き換えた式を使用して、右目視点座標Vr’ (Vrx’,Vry’,Vrz’)を算出する。
上方ベクトル補正部2033は、上方ベクトル補正部2023と同様の方法で、上方ベクトルUp’(Upx’,Upy’,Upz’)を算出する。
右目用視線補正部203は、右目視点補正部2032で算出された右目視点座標Vr’(Vrx’,Vry’,Vrz’)と、右目視線情報に含まれる注視点H(Hx,Hy,Hz)と、上方ベクトル補正部2033で算出された上方ベクトルUp’(Upx’,Upy’,Upz’)とを示す情報を右目用補正視線情報として立体視画像生成部30へ出力する。
続いて、図5を参照して、立体視画像生成部30の構成について説明する。同図を立体視画像生成部30の一構成例を示すブロック図である。同図を参照すると、立体視画像生成部30は、3次元物体情報記憶部301、左目用ビュー座標変換部302、右目用ビュー座標変換部303、左目用透視投影座標変換部304、右目用透視投影座標変換部305を有する。
更に、立体視画像生成部30は、左目用補正座標変換部306、右目用補正座標変換部307、左目用スクリーン座標変換部308、右目用スクリーン座標変換部309、左目用ピクセル生成部310、右目用ピクセル生成部311、左目用画像メモリ312、および右目用画像メモリ313を有する。
3次元物体情報記憶部301は、ワールド座標系で各座標が定義された3次元物体を示す3次元物体情報を記憶している。3次元物体情報には、各座標のピクセルデータも含まれる。ピクセルデータは、例えば、RGB(Red Green Black)形式のデータを使用する。
ここで、ワールド座標系とは、3次元物体が移動または表示される空間全体を表す座標系である。
3次元物体情報は、アプリケーションソフトウェアなどにより生成され、3次元物体情報記憶部301に格納される。図5では、アプリケーションソフトウェアは省略されている。
図6は、ワールド座標系の3次元物体の一例を示す図である。同図におけるX軸、Y軸、Z軸で定義される空間がワールド座標系であり、グレーの立方体が3次元物体である。
図5に戻り、左目用ビュー座標変換部302は、3次元物体情報記憶部301から3次元物体情報を読み出し、左目用視線補正部202から左目用補正視線情報を受信する。左目用ビュー座標変換部302は、3次元物体情報の示す3次元物体の各座標を、左目用補正視線情報に基づいて、ビュー座標に変換して左目用透視投影座標変換部304へ出力する。
具体的には、左目用ビュー座標変換部302は、左目用補正視線情報から、左目の立体座標Vl’、注視点H、および上方ベクトルUp’を取得する。左目用ビュー座標変換部302は、左目の立体座標Vl’を原点、Up’に平行な軸をU軸、奥行きをN軸、U軸およびN軸に垂直な軸をV軸とするU、V、N軸を定義し、これらの3軸上の座標をビュー座標とする。左目用ビュー座標変換部302は、3次元物体の各立体座標を、定義したビュー座標に変換する。
右目用ビュー座標変換部303は、3次元物体情報記憶部301から3次元物体情報を読み出し、右目用視線補正部203から右目用補正視線情報を受信する。右目用ビュー座標変換部303は、3次元物体情報の示す3次元物体の各座標を、右目用補正視線情報に基づいて、右目の立体座標Vr’を原点とするビュー座標に変換する。
左目用透視投影座標変換部304は、左目用ビュー座標変換部302によりビュー座標に変換された3次元物体の各座標を、透視投影法により、2次元の透視投影座標に変換して左目用補正座標変換部306へ出力する。
右目用透視投影座標変換部305は、右目用ビュー座標変換部303によりビュー座標に変換された3次元物体の各立体座標を、透視投影法により、平面座標である透視投影座標に変換して右目用補正座標変換部307へ出力する。
図7を参照して、左目用補正座標変換部306および右目用補正座標変換部307の構成について説明する。同図は、左目用補正座標変換部306および右目用補正座標変換部307の一構成例を示すブロック図である。同図を参照すると、左目用補正座標変換部306は、左目用2次元座標変換演算部3061を有し、右目用補正座標変換部307は、右目用2次元座標変換演算部3071を有する。
観察者が首を傾けていない場合、上方向ベクトルが、ディスプレイの垂直走査線に沿った方向と平行になることを想定して画像が生成される。しかし、本実施形態では、補正部20は、上方ベクトルUpを、両眼を結ぶ直線に垂直な軸を中心として角度情報の示す傾斜角θだけ、回転させてUp’としている。
ビュー座標系では、回転されたUp’に平行な軸をU軸とするので、Up’に基づいて生成された画像は、ディスプレイの垂直走査線に対して−θだけ回転された画像となる。このため、この画像を画面の原点の周りにθだけ回転させる必要がある。
左目用2次元座標変換演算部3061は、透視投影法により生成された左目用の画像を、原点の周りに傾斜角θだけ回転させ、左目用スクリーン座標変換部308へ出力する。
画像上の座標(x,y)をθ回転させた平面座標(x’,y’)は、下記の式により算出される。
Figure 2011165068
Figure 2011165068
右目用2次元座標変換演算部3071は、透視投影法により生成された右目用の画像を、上記(5)式および(6)式を使用して、原点の周りに傾斜角θだけ回転させ、右目用スクリーン座標変換部309へ出力する。
図8は、左目用2次元座標変換演算部3061による回転前後の画像を示す図である。同図における白抜きの立方体が回転前の物体であり、グレーの立方体が回転後の物体である。同図に示すように、画面内の物体は原点周りに傾斜角θだけ回転される。
図9は、右目用2次元座標変換演算部3071による回転前後の画像を示す図である。同図における白抜きの立方体が回転前の物体であり、グレーの立方体が回転後の物体である。同図に示すように、画面内の物体は原点周りに傾斜角θだけ回転される。
図5に戻り、左目用スクリーン座標変換部308は、左目用2次元座標変換演算部3061からの画像の各座標を、スクリーン座標に変換する。スクリーン座標は、概念上定義する2次元のスクリーンの縦横サイズをそれぞれx、y軸のmax値とする座標系である。左目用スクリーン座標変換部308は、座標変換した画像を左目用ピクセル生成部310へ出力する。
右目用スクリーン座標変換部309は、右目用2次元座標変換演算部3071からの画像の各座標を、スクリーン座標に変換して右目用ピクセル生成部311へ出力する。
左目用ピクセル生成部310は、3次元物体情報に基づき、左目用スクリーン座標変換部308からの画像の各座標のピクセルデータを生成して、左目用画像メモリ312へ出力する。
右目用ピクセル生成部311は、3次元物体情報に基づき、右目用スクリーン座標変換部309からの画像の各座標のピクセルデータを生成して、右目用画像メモリ313へ出力する。
左目用画像メモリ312は、左目用ピクセル生成部310により生成された各ピクセルデータを含むデータを左目用画像情報として記憶する。
右目用画像メモリ313は、右目用ピクセル生成部311により生成された各ピクセルデータを含むデータを右目用画像情報として記憶する。
立体画像生成部30は、左目用画像メモリ312、右目用画像メモリ313に記憶された左目用画像情報、右目用画像情報をそれぞれ、フレームレートに応じて、左目用ディスプレイ3、右目用ディスプレイ4へ出力する。
次いで、図10〜図12を参照して、立体視画像生成装置1の動作について説明する。図10は、本実施形態の立体視画像生成装置1の動作を示すフローチャートである。この動作は、立体視画像生成装置1が、傾斜角θを観察者顔傾斜角センサー2から受信したときに開始する。
補正部20は、θだけ首を傾けた場合の観察者の両眼の立体座標を求める補正処理を実行する(ステップS1)。立体視画像生成部30は、補正部20で求めた両眼の視点から立体視可能となるように、左目用の画像と右目用の画像とを生成する(ステップS2)。ステップS2の後、立体視画像生成装置1は、θに基づいて立体視画像を生成する処理を終了する。
θを受信しない場合は、立体視画像生成装置1は、立体視画像を生成するための、一般的な処理を実行する。図10では、θを受信しない場合の処理は省略されている。
図11は、補正処理を示すフローチャートである。同図を参照すると、補正部20は、左目視線情報と、右目視線情報とから、視点中心Vcとを算出する(ステップS11)。
補正部20は、視点中心、左目視線情報、および傾斜角θから、図4(a)、(b)に示した行列式を使用して、左目補正視線情報を求める(ステップS12)。補正部20は、視点中心、右目視線情報、および傾斜角θから、右目補正視線情報を求める(ステップS13)。ステップS13の後、補正部20は、補正処理を終了する。
図12は、立体画像生成処理を示すフローチャートである。同図を参照すると、立体画像生成部30は、3次元物体のワールド座標を、左目補正視線情報の示す左目の視点を原点とするビュー座標に変換する(ステップS21)。立体画像生成部30は、3次元物体のワールド座標を、右目補正視線情報の示す右目視点を原点とするビュー座標に変換する(ステップS22)。
立体画像生成部30は、透視投影法を使用して、左目用のビュー座標を、左目用の透視投影座標に変換する(ステップS23)。立体画像生成部30は、右目用のビュー座標を、右目用の透視投影座標に変換する(ステップS24)。
立体画像生成部30は、左目用の画像を傾斜角θだけ回転させる(ステップS25)。立体画像生成部30は、右目用の画像を傾斜角θだけ回転させる(ステップS26)。
立体画像生成部30は、左目用の画像の各座標を、スクリーン座標に変換する(ステップS27)。立体画像生成部30は、右目用の画像の各座標を、スクリーン座標に変換する(ステップS28)。
立体画像生成部30は、3次元物体情報に基づいて、左目用の各スクリーン座標のピクセルデータを生成して出力する(ステップS29)。立体画像生成部30は、3次元物体情報に基づいて、右目用の各スクリーン座標のピクセルデータを生成して出力する(ステップS30)。ステップS30の後、立体画像生成部30は、立体画像生成処理を終了する。
なお、本実施形態では、顔をディスプレイの正面に向けた状態で首を傾けた場合、すなわちロール運動した場合の中心点を、視点中心としているが、正確には、実際のロール運動の中心点は、首の付け根など、視点中心から少し下方に位置する。より正確に傾斜後の視点を算出する場合、立体画像生成装置1は、視点中心と中心点との間の距離を予め定義しておき、視点中心の座標と定義した距離とから回転中心の座標を算出する。
また、本実施形態では、立体画像生成装置1は、ディスプレイに平行な平面における、水平走査線に平行な直線と観察者の両眼を結ぶ直線とがなす角度、すなわちロール角から、ロール角だけ首を傾けた観察者の両眼の立体座標を求めているが、ロール角以外の回転角を求めてもよい。例えば、ディスプレイの法線と観察者の顔面の法線とのなす角度、すなわちピッチ角、あるいは、ディスプレイの接地面に平行な平面における、水平走査線に平行な直線と観察者の両眼を結ぶ直線とがなす角度、すなわちヨー角から、傾斜後の視点を求めることができる。
ヨー角から視点を求める場合、立体画像生成装置1は、視点中心と、ヨー運動の中心点(頭頂部など)との間の距離を予め定義しておき、視点中心の座標と定義した距離とから中心点の座標を算出する。そして、立体画像生成装置1は、その中心点の座標とY軸周りの回転を定義する行列式とから、傾斜後の視点を算出する。ヨー角を検出する場合、視点中心を回転中心として扱ってもよい。
ピッチ角から視点を求める場合、立体画像生成装置1は、視点中心と、ピッチ運動の中心点(首の付け根など)との間の距離を予め定義しておき、視点中心の座標と定義した距離とから中心点の座標を算出する。そして、立体画像生成装置1は、その回転中心の座標とX軸周りの回転を定義する行列式とから、傾斜後の視点を算出する。
立体画像生成装置1は、これらのロール角、ピッチ角、およびヨー角のうち、いずれか2つ以上から、傾斜後の視点を求めてもよいのは勿論である。
本実施形態では、立体視画像生成装置1は、設定視線情報を予め補正部20に格納しておく構成としている。しかし、観察者の顔の造形により視点間距離は予め設定しておいた設定値と異なる値となることがあり、観察者の頭部自体が移動すると、視点の座標も、その設定値からずれてしまう。そこで、立体視画像生成装置1は、観察者の操作に応じて設定視線情報を更新したり、位置を検出するセンサなどから観察者の頭部の位置を受信し、その位置に応じて設定視線情報を修正したりする構成としてもよい。
本実施形態では、立体画像生成装置1は、透視投影法を使用して、立体座標を平面座標に変換しているが、立体座標から平面座標に変換できるのであれば、他の方法を使用してもよい。例えば、平行投影法を使用してもよい。
本実施形態では、立体画像生成装置1内部に設けられた制御回路で、図10〜図12に示したフローチャートを実現する構成としている。しかし、これらのフローチャートの一部または全部を、コンピュータプログラムを実行することにより実現してもよいのは勿論である。その場合、立体画像生成装置1は、図1において図示されていないCPUなどの処理装置と、メモリと、コンピュータプログラムを格納した記憶媒体とを有する。そして、立体画像生成装置1は、処理装置でコンピュータプログラムを実行することにより、フローチャートの一部または全部を実現する。
本実施形態では、右目用のディスプレイと、左目用のディスプレイとをそれぞれ独立して設ける構成としているが、ディスプレイの構造によっては、1つのディスプレイしか設けない構成とすることもできる。この場合、例えば、1つのディスプレイが左目用の画像と右目用の画像とを高速で切り替えて表示するとともに、その切り替えに同期して、観察者が装着した眼鏡型のデバイスが左目用、右目用の液晶シャッターを交互に開閉するアクティブシャッター方式が用いられる。
本実施形態では、ディスプレイと、立体画像生成装置1とを別々に設ける構成としているが、これらを一体としてもよいのは勿論である。
本実施形態では、傾斜角受信部10、補正部20、立体視画像生成部30を同一の装置に設ける構成としているが、これらの一部を別々の装置に分散してもよい。
本実施形態では、立体画像生成装置1は、観察者の両眼の立体座標の補正と、上方ベクトルの補正とを行う構成としているが、立体座標は補正するが、上方ベクトルの補正は行わない構成とすることもできる。上方ベクトルの補正を行わない場合、透視投影座標系の画像が−θの角度だけ回転して生成されることがなくなるので、立体視画像生成部30は、透視投影座標系の画像を回転させない。
本実施形態では、設置型のディスプレイに立体視画像を表示する構成としているが、ヘッドマウントディスプレイなど、頭部に装着するタイプのデバイスに立体視画像を表示する構成としてもよい。その場合、観察者が首を傾けると、ディスプレイ自身も同時に傾くので、立体視画像生成部30は、上方ベクトルの補正、透視投影座標系の画像の回転のうち、いずれか一方のみを行えばよい。また、この場合、観察者顔傾斜角センサー2と、立体画像生成装置1とを一体としてもよい。
本実施形態の視線情報は、本発明の視点情報を含む情報である。本実施形態の傾斜角受信部10は、本発明の角度情報取得手段の一例である。本実施形態の補正部20は、本実施形態の位置算出手段を含む。
以上説明したように、本実施形態によれば、立体視画像生成装置1は、基準姿勢における頭部の姿勢と実際の姿勢との差を角度で示す角度情報を取得し、その角度情報と設定視点情報とから、傾斜角だけ頭部を傾けた観察者の左目及び右目の位置を算出し、立体視可能となるように、左目で見た画像と右目で見た画像とを生成する。このように、画像生成装置は、傾斜角から傾斜後の両眼の位置自体を算出して、それらの位置から見た画像を生成するので、その画像の見え方は実際に頭部が傾斜した場合の両眼の位置からの見え方と一致し、観察者による画像の立体視を維持することができる。
通常、ディスプレイは水平面に設置され、観察者の顔が傾かずディスプレイの正面に正対している状態から頭部を傾斜させないことが前提とされており、両眼視差による立体視3次元画像を生成するプログラムや装置も、その条件下で視線情報を生成している。
しかし、実世界では、図6に示したように、ある物体をみている観察者が頭部を傾斜させ、左右の視点が、3軸のいずれかの軸周りに回転した場合は、左右それぞれの視点が移動し、また視線の上方ベクトルも変化してしまう。このため、両眼それぞれで見ている物体の像も変化する。この変化は、立体視画像生成装置1が生成する画像において忠実に再現される。
更に、立体視画像生成装置1は、3次元物体情報を生成するアプリケーションソフトウェアの改造ないし修正を必要としない。傾斜角受信部10、補正部20および立体視画像生成部30は、そのようなアプリケーションソフトウェアを実行するハードウェアとは、独立して構成されるためである。立体視画像生成装置1は、このような両眼視差による左右両眼用の3次元グラフィックス画像を生成する様々なアプリケーションソフトウェアをそのまま利用できる。
本実施形態では、立体視画像生成装置1は、傾斜角のうち、ディスプレイに平行な平面における、水平走査線に平行な直線と観察者の両眼を結ぶ直線とがなす角度、即ちロール角を取得している。一般的には、傾斜角のうち、ロール角は、ピッチ角またはヨー角に比べて変動しやすい。このため、ロール角のみを取得することにより、装置やプログラムを簡易な構成としつつ、効果的に、自然で臨場感のある画像を生成できる。
補正部20は、左目用補正視線情報と、右目用補正視線情報とを別々に生成するので、右目用の画像を生成する回路と、左目用の画像を生成する回路との間で、視線情報を相互に送受信する必要がなくなる。
上方ベクトルの補正、透視投影座標系の画像の回転のいずれか一方のみを行うことにより、ヘッドマウントディスプレイなどの装着型デバイスに画像を表示する場合の観察者の傾斜運動に対応できる。
(第2の実施形態)
本発明の第2の実施形態について、図13を参照して説明する。本実施形態の立体視画像生成装置1は、補正部20のハードウェアの規模を小さくした点で、第1の実施形態の立体視画像生成装置1と異なる。本実施形態の立体視画像生成装置1は、補正部20の代わりに補正部20aを有する点で第1の実施形態と異なる。補正部20a以外の他の構成については、第1の実施形態と同様であるため、本実施形態では、その詳細な説明を省略する。
図13は、本実施形態の補正部20aの一構成例を示すブロック図である。同図を参照すると、左目用視線補正部202、右目用視線補正部203の代わりに、バッファ211および212と、スイッチ213と、視点中心演算部214と、視点補正部215と、上方ベクトル補正部216と、スイッチ217と、バッファ218および219とを有する。
バッファ211は、左目視線情報を保持する。バッファ212は、右目視線情報を保持する。
スイッチ213は、バッファ211に保持された左目視線情報と、バッファ212に保持された右目視線情報とが入力される。スイッチ213は、入力された情報のいずれかを視点補正部215に出力する。スイッチ213は、入力先を周期的に切り替える。
視点中心演算部214は、左目視線情報の示す左目の立体座標Vlと、右目視線情報の示す右目の立体座標Vrとから、観察者の両眼を結ぶ直線の中点Vcを算出する。
視点補正部215は、視点中心演算部214からの視点中心Vcと、スイッチ213からの左目視線情報または右目視線情報と、傾斜角受信部10からの傾斜角θとから、図4(a)に示した行列式を使用して、傾斜後の左目または右目の視点の立体座標を求める。
上方ベクトル補正部216は、視点中心演算部214からの視点中心Vcと、設定値記憶部201からの左目視線情報および右目視線情報と、傾斜角受信部10からの傾斜角θとから、図4(b)に示した行列式を使用して、傾斜後の上方ベクトルを求める。
スイッチ217には、視点補正部211から、左目または右目の立体座標が入力される。スイッチ217は、スイッチ217は、入力された座標をバッファ218またはバッファ219へ出力する。スイッチ217は、スイッチ213に同期して、出力先を切り替える。
バッファ218は、スイッチ217からの傾斜後の左目の座標と、上方ベクトル補正部216からの上方ベクトルとを含む情報を左目用補正視線情報として一時的に保持して出力する。バッファ219は、スイッチ217からの傾斜後の右目の座標と、上方ベクトル補正部216からの上方ベクトルとを含む情報を右用補正視線情報として一時的に保持して出力する。
以上説明したように本実施形態によれば、視点補正部215を、左目用補正視線情報、右目用補正視線情報の生成のために切り替えて、使用する。このため、視点補正部215に相当する回路を2つ設ける第1の実施形態の補正部20と比較して、補正部20のハードウェアの全体規模が小さくなる。
本発明は、産業分野あるいはエンターテインメント分野等における両眼視差を用いた3次元グラフィックスによる立体視を実現する用途に適用できる。特に単独ユーザが用いる装置に適する。また、静止画はもとより、連続画像生成によるアニメーションにおいてはより効果が高く、より適する。
(付記1)
基準姿勢における観察者の頭部の姿勢と、観察者の実際の頭部の姿勢との差を角度で示す角度情報を取得する角度情報取得手段と、
前記基準姿勢の観察者の右目及び左目の位置を示す設定視点情報を保持しており、該設定視点情報と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の左目及び右目の位置を算出する位置算出手段と、
立体視可能となるように、前記位置算出手段により算出された前記右目の位置から見た画像と、該位置算出手段により算出された前記左目の位置から見た画像とを生成する画像生成手段と、
を有する画像生成装置。
(付記2)
前記角度情報は、前記画像生成手段により生成された前記画像を表示する表示面に平行な平面における、該表示面の水平走査線に平行な直線と観察者の両眼を結ぶ直線とがなす角度を示す情報である、付記1に記載の画像生成装置。
(付記3)
前記位置算出手段は、
前記設定視点情報を記憶する記憶手段と、
前記記憶手段に記憶された前記設定視点情報の示す前記観察者の左目及び右目の位置と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の左目の位置を算出する左目位置算出手段と、
前記記憶手段に記憶された前記設定視点情報の示す前記観察者の左目及び右目の位置と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の右目の位置を算出する右目位置算出手段と、
を有する付記1又は2に記載の画像生成装置。
(付記4)
前記設定視点情報は、観察者の視野の上方向のベクトルである上方ベクトルを示す情報を含み、
前記左目位置算出手段及び前記右目位置算出手段は、
前記記憶手段に記憶された前記設定視点情報の示す前記観察者の左目及び右目の位置と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の視野の上方向ベクトルを更に算出し、
前記画像生成手段は、
前記左目位置算出手段により算出された前記左目の位置と、前記上方ベクトルとから、ワールド座標系の3次元物体の各座標について、該左目の位置を原点として該上方ベクトルを3軸のうちのいずれか1軸とするビュー座標に変換する左目用ビュー座標変換手段と、
前記左目位置算出手段により算出された前記左目の位置と、前記上方ベクトルとから、ワールド座標系の3次元物体の各座標について、該右目の位置を原点として該上方ベクトルを3軸のうちのいずれか1軸とするビュー座標に変換する右目用ビュー座標変換手段と、
前記左目ビュー座標変換手段によりビュー座標に変換された前記3次元物体の各座標を2次元座標に変換することにより、前記左目位置算出手段により算出された前記左目の位置から見た画像を生成する左目画像生成手段と、
前記右目ビュー座標変換手段によりビュー座標に変換された前記3次元物体の各座標を2次元座標に変換することにより、前記右目位置算出手段により算出された前記右目の位置から見た画像を生成する左目画像生成手段と、
を有する、付記3に記載の画像生成装置。
(付記5)
前記画像生成手段は、
前記左目画像生成により生成された前記画像を前記傾斜角だけ回転させる左目画像回転手段と、
前記右目画像生成により生成された前記画像を前記傾斜角だけ回転させる右目画像回転手段と、
を更に有する、付記4に記載の画像生成装置。
(付記6)
前記位置算出手段は、
前記基準姿勢の観察者の左目の位置を示す左目用視点情報と、該基準姿勢の観察者の右目の位置を示す右目用視点情報とを含む設定視点情報を記憶する記憶手段と、
前記記憶手段に記憶された前記左目用視点情報又は前記右目用視点情報を交互に切り替えて中心算出手段へ出力する切り替え手段と、
前記記憶手段に記憶された前記設定視点情報から、前記回転軸と、所定の平面との交点である、回転中心の位置を算出する中心算出手段と、
前記記憶手段に記憶された前記左目用視点情報又は前記右目用視点情報と、前記傾斜角取得手段により取得された前記傾斜角と、前記中点算出手段により算出された前記回転中心とから、該観察者の実際の左目又は右目の位置を算出する視点算出手段と、
を有する、付記1又は2に記載の画像生成装置。
(付記7)
前記設定視点情報は、観察者の視野の上方向のベクトルである上方ベクトルを示す情報を含み、
前記左目位置算出手段及び前記右目位置算出手段は、
前記記憶手段に記憶された前記設定視点情報の示す前記観察者の左目及び右目の位置と、前記角度情報取得手段により取得された前記角度情報とから、観察者の実際の視野の上方向ベクトルを更に算出し、
前記画像生成手段は、
前記視点算出手段により算出された前記左目の位置と、前記上方ベクトルとから、ワールド座標系の3次元物体の各座標について、該左目の位置を原点として該上方ベクトルに沿った軸を3軸のうちのいずれか1軸とするビュー座標に変換する左目用ビュー座標変換手段と、
前記視点算出手段により算出された前記左目の位置と、前記上方ベクトルとから、ワールド座標系の3次元物体の各座標について、該右目の位置を原点として該上方ベクトルに沿った軸を3軸のうちのいずれか1軸とするビュー座標に変換する右目用ビュー座標変換手段と、
前記左目ビュー座標変換手段によりビュー座標に変換された前記3次元物体の各座標を2次元座標に変換することにより、前記左目位置算出手段により算出された前記左目の位置から見た画像を生成する左目画像生成手段と、
前記右目ビュー座標変換手段によりビュー座標に変換された前記3次元物体の各座標を2次元座標に変換することにより、前記右目位置算出手段により算出された前記右目の位置から見た画像を生成する左目画像生成手段と、
を有する、付記6に記載の画像生成装置。
(付記8)
前記画像生成手段は、
前記左目画像生成により生成された前記画像を前記傾斜角だけ回転させる左目画像回転手段と、
前記右目画像生成により生成された前記画像を前記傾斜角だけ回転させる右目画像回転手段と、
を更に有する、付記7に記載の画像生成装置。
(付記9)
前記角度情報は、前記表示面の法線と、観察者の顔面の法線とがなす角度を示す情報である、付記1乃至8のいずれか1項に記載の画像生成装置。
1 立体視画像生成装置
2 観察者顔傾斜角センサー
3 左目用ディスプレイ
4 右目用ディスプレイ
10 傾斜角受信部
20 補正部
30 立体視画像生成部
201 設定値記憶部
202 左目用視線補正部
203 右目用視線補正部
2021、2031 視点中心演算部
2022 左目視点補正部
2023、2033 上方ベクトル補正部
2032 右目視点補正部
301 3次元物体情報記憶部
302 左目用ビュー座標変換部
303 右目用ビュー座標変換部
304 左目用透視投影座標変換部
305 右目用透視投影座標変換部
306 左目用補正座標変換部
307 右目用補正座標変換部
308 左目用スクリーン座標変換部
309 右目用スクリーン座標変換部
310 左目用ピクセル生成部
311 右目用ピクセル生成部
312 左目用画像メモリ
313 右目用画像メモリ
3061 左目用2次元座標変換演算部
3071 右目用2次元座標変換演算部
211、212、218、219 バッファ
213、217 スイッチ
214 視点中心演算部
215 視点補正部
216 上方ベクトル補正部

Claims (10)

  1. 基準姿勢における観察者の頭部の姿勢と、観察者の実際の頭部の姿勢との差を角度で示す角度情報を取得する角度情報取得手段と、
    前記基準姿勢の観察者の右目及び左目の位置を示す設定視点情報を保持しており、該設定視点情報と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の左目及び右目の位置を算出する位置算出手段と、
    立体視可能となるように、前記位置算出手段により算出された前記右目の位置から見た画像と、該位置算出手段により算出された前記左目の位置から見た画像とを生成する画像生成手段と、
    を有する画像生成装置。
  2. 前記角度情報は、前記画像生成手段により生成された前記画像を表示する表示面に平行な平面における、該表示面の水平走査線に平行な直線と観察者の両眼を結ぶ直線とがなす角度を示す情報である、請求項1に記載の画像生成装置。
  3. 前記位置算出手段は、
    前記設定視点情報を記憶する記憶手段と、
    前記記憶手段に記憶された前記設定視点情報の示す前記観察者の左目及び右目の位置と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の左目の位置を算出する左目位置算出手段と、
    前記記憶手段に記憶された前記設定視点情報の示す前記観察者の左目及び右目の位置と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の右目の位置を算出する右目位置算出手段と、
    を有する請求項1又は2に記載の画像生成装置。
  4. 前記設定視点情報は、観察者の視野の上方向のベクトルである上方ベクトルを示す情報を含み、
    前記左目位置算出手段及び前記右目位置算出手段は、
    前記記憶手段に記憶された前記設定視点情報の示す前記観察者の左目及び右目の位置と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の視野の上方向ベクトルを更に算出し、
    前記画像生成手段は、
    前記左目位置算出手段により算出された前記左目の位置と、前記上方ベクトルとから、ワールド座標系の3次元物体の各座標について、該左目の位置を原点として該上方ベクトルを3軸のうちのいずれか1軸とするビュー座標に変換する左目用ビュー座標変換手段と、
    前記左目位置算出手段により算出された前記左目の位置と、前記上方ベクトルとから、ワールド座標系の3次元物体の各座標について、該右目の位置を原点として該上方ベクトルを3軸のうちのいずれか1軸とするビュー座標に変換する右目用ビュー座標変換手段と、
    前記左目ビュー座標変換手段によりビュー座標に変換された前記3次元物体の各座標を2次元座標に変換することにより、前記左目位置算出手段により算出された前記左目の位置から見た画像を生成する左目画像生成手段と、
    前記右目ビュー座標変換手段によりビュー座標に変換された前記3次元物体の各座標を2次元座標に変換することにより、前記右目位置算出手段により算出された前記右目の位置から見た画像を生成する左目画像生成手段と、
    を有する、請求項3に記載の画像生成装置。
  5. 前記画像生成手段は、
    前記左目画像生成により生成された前記画像を前記傾斜角だけ回転させる左目画像回転手段と、
    前記右目画像生成により生成された前記画像を前記傾斜角だけ回転させる右目画像回転手段と、
    を更に有する、請求項4に記載の画像生成装置。
  6. 前記位置算出手段は、
    前記基準姿勢の観察者の左目の位置を示す左目用視点情報と、該基準姿勢の観察者の右目の位置を示す右目用視点情報とを含む設定視点情報を記憶する記憶手段と、
    前記記憶手段に記憶された前記左目用視点情報又は前記右目用視点情報を交互に切り替えて中心算出手段へ出力する切り替え手段と、
    前記記憶手段に記憶された前記設定視点情報から、前記回転軸と、所定の平面との交点である、回転中心の位置を算出する中心算出手段と、
    前記記憶手段に記憶された前記左目用視点情報又は前記右目用視点情報と、前記傾斜角取得手段により取得された前記傾斜角と、前記中点算出手段により算出された前記回転中心とから、該観察者の実際の左目又は右目の位置を算出する視点算出手段と、
    を有する、請求項1又は2に記載の画像生成装置。
  7. 前記設定視点情報は、観察者の視野の上方向のベクトルである上方ベクトルを示す情報を含み、
    前記左目位置算出手段及び前記右目位置算出手段は、
    前記記憶手段に記憶された前記設定視点情報の示す前記観察者の左目及び右目の位置と、前記角度情報取得手段により取得された前記角度情報とから、観察者の実際の視野の上方向ベクトルを更に算出し、
    前記画像生成手段は、
    前記視点算出手段により算出された前記左目の位置と、前記上方ベクトルとから、ワールド座標系の3次元物体の各座標について、該左目の位置を原点として該上方ベクトルに沿った軸を3軸のうちのいずれか1軸とするビュー座標に変換する左目用ビュー座標変換手段と、
    前記視点算出手段により算出された前記左目の位置と、前記上方ベクトルとから、ワールド座標系の3次元物体の各座標について、該右目の位置を原点として該上方ベクトルに沿った軸を3軸のうちのいずれか1軸とするビュー座標に変換する右目用ビュー座標変換手段と、
    前記左目ビュー座標変換手段によりビュー座標に変換された前記3次元物体の各座標を2次元座標に変換することにより、前記左目位置算出手段により算出された前記左目の位置から見た画像を生成する左目画像生成手段と、
    前記右目ビュー座標変換手段によりビュー座標に変換された前記3次元物体の各座標を2次元座標に変換することにより、前記右目位置算出手段により算出された前記右目の位置から見た画像を生成する左目画像生成手段と、
    を有する、請求項6に記載の画像生成装置。
  8. 請求項1乃至7のいずれか1項に記載の画像生成装置と、
    前記画像生成装置により生成された前記画像を表示する設置型の表示装置と、
    を有する、画像表示システム。
  9. 角度情報取得手段が、基準姿勢における観察者の頭部の姿勢と、観察者の実際の頭部の姿勢との差を角度で示す角度情報を取得し、
    位置算出手段が、前記基準姿勢の観察者の右目及び左目の位置を示す設定視点情報を保持しており、該設定視点情報と、前記角度情報取得手段により取得された前記角度情報とから、前記観察者の実際の左目及び右目の位置を算出し、
    画像生成手段が、立体視可能となるように、前記位置算出手段により算出された前記右目の位置から見た画像と、該位置算出手段により算出された前記左目の位置から見た画像とを生成する、画像生成方法。
  10. コンピュータに、
    基準姿勢における観察者の頭部の姿勢と、観察者の実際の頭部の姿勢との差を角度で示す角度情報を取得する角度情報取得手順、
    前記基準姿勢の観察者の右目及び左目の位置を示す設定視点情報を保持しており、該設定視点情報と、前記角度情報取得手順により取得された前記角度情報とから、前記観察者の実際の左目及び右目の位置を算出する位置算出手順、及び
    立体視可能となるように、前記位置算出手順により算出された前記右目の位置から見た画像と、該位置算出手段により算出された前記左目の位置から見た画像とを生成する画像生成手順、
    を実行させるためのプログラム。
JP2010029196A 2010-02-12 2010-02-12 画像生成装置、画像表示システム、画像生成方法、及びプログラム Pending JP2011165068A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010029196A JP2011165068A (ja) 2010-02-12 2010-02-12 画像生成装置、画像表示システム、画像生成方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010029196A JP2011165068A (ja) 2010-02-12 2010-02-12 画像生成装置、画像表示システム、画像生成方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2011165068A true JP2011165068A (ja) 2011-08-25

Family

ID=44595652

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010029196A Pending JP2011165068A (ja) 2010-02-12 2010-02-12 画像生成装置、画像表示システム、画像生成方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP2011165068A (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101358432B1 (ko) 2012-06-25 2014-02-05 인텔렉추얼디스커버리 주식회사 디스플레이 장치 및 방법
JP2014030259A (ja) * 2013-10-16 2014-02-13 Toshiba Corp 3次元映像表示装置
EP3067866A1 (en) * 2013-11-05 2016-09-14 Shenzhen Cloud Cube Informationtech Co., Ltd. Method and device for converting virtual view into stereoscopic view
JP2017163528A (ja) * 2015-12-23 2017-09-14 トムソン ライセンシングThomson Licensing 調整可能視差方向による3次元レンダリング
WO2018028138A1 (zh) * 2016-08-09 2018-02-15 蒋顺 裸眼3d显示设备及其显示方法
WO2018058914A1 (zh) * 2016-09-28 2018-04-05 蒋顺 裸眼3d显示设备及其显示方法
JPWO2017212686A1 (ja) * 2016-06-08 2018-11-01 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置および画像生成方法
CN110766807A (zh) * 2019-09-25 2020-02-07 稿定(厦门)科技有限公司 3d图形旋转方法、介质、设备及装置
US10721456B2 (en) 2016-06-08 2020-07-21 Sony Interactive Entertainment Inc. Image generation apparatus and image generation method
CN113891061A (zh) * 2021-11-19 2022-01-04 深圳市易快来科技股份有限公司 一种裸眼3d显示方法及显示设备
CN113973199A (zh) * 2020-07-22 2022-01-25 财团法人工业技术研究院 可透光显示系统及其图像输出方法与处理装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0415772A (ja) * 1990-05-02 1992-01-21 A T R Tsushin Syst Kenkyusho:Kk 視線追従形高速画像生成表示方法
JPH08111877A (ja) * 1994-10-12 1996-04-30 Canon Inc 立体画像表示方法および装置
JPH08167048A (ja) * 1994-12-13 1996-06-25 Yokogawa Electric Corp 3次元画像表示装置
JPH10161802A (ja) * 1996-11-29 1998-06-19 Canon Inc 画像表示方法及び装置
JPH11195131A (ja) * 1997-12-26 1999-07-21 Canon Inc 仮想現実方法及び装置並びに記憶媒体
JP2005149127A (ja) * 2003-11-14 2005-06-09 Sony Corp 撮像表示装置及び方法、画像送受信システム
WO2005119591A1 (ja) * 2004-06-04 2005-12-15 Matsushita Electric Industrial Co., Ltd. 表示制御方法および装置、プログラム、並びに携帯機器
JP2006084963A (ja) * 2004-09-17 2006-03-30 Seiko Epson Corp 立体画像表示装置
JP2011141381A (ja) * 2010-01-06 2011-07-21 Ricoh Co Ltd 立体画像表示装置及び立体画像表示方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0415772A (ja) * 1990-05-02 1992-01-21 A T R Tsushin Syst Kenkyusho:Kk 視線追従形高速画像生成表示方法
JPH08111877A (ja) * 1994-10-12 1996-04-30 Canon Inc 立体画像表示方法および装置
JPH08167048A (ja) * 1994-12-13 1996-06-25 Yokogawa Electric Corp 3次元画像表示装置
JPH10161802A (ja) * 1996-11-29 1998-06-19 Canon Inc 画像表示方法及び装置
JPH11195131A (ja) * 1997-12-26 1999-07-21 Canon Inc 仮想現実方法及び装置並びに記憶媒体
JP2005149127A (ja) * 2003-11-14 2005-06-09 Sony Corp 撮像表示装置及び方法、画像送受信システム
WO2005119591A1 (ja) * 2004-06-04 2005-12-15 Matsushita Electric Industrial Co., Ltd. 表示制御方法および装置、プログラム、並びに携帯機器
JP2006084963A (ja) * 2004-09-17 2006-03-30 Seiko Epson Corp 立体画像表示装置
JP2011141381A (ja) * 2010-01-06 2011-07-21 Ricoh Co Ltd 立体画像表示装置及び立体画像表示方法

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101358432B1 (ko) 2012-06-25 2014-02-05 인텔렉추얼디스커버리 주식회사 디스플레이 장치 및 방법
JP2014030259A (ja) * 2013-10-16 2014-02-13 Toshiba Corp 3次元映像表示装置
EP3067866A1 (en) * 2013-11-05 2016-09-14 Shenzhen Cloud Cube Informationtech Co., Ltd. Method and device for converting virtual view into stereoscopic view
EP3067866A4 (en) * 2013-11-05 2017-03-29 Shenzhen Cloud Cube Informationtech Co., Ltd. Method and device for converting virtual view into stereoscopic view
JP2017163528A (ja) * 2015-12-23 2017-09-14 トムソン ライセンシングThomson Licensing 調整可能視差方向による3次元レンダリング
US10719991B2 (en) 2016-06-08 2020-07-21 Sony Interactive Entertainment Inc. Apparatus and method for creating stereoscopic images using a displacement vector map
JPWO2017212686A1 (ja) * 2016-06-08 2018-11-01 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置および画像生成方法
US10721456B2 (en) 2016-06-08 2020-07-21 Sony Interactive Entertainment Inc. Image generation apparatus and image generation method
WO2018028138A1 (zh) * 2016-08-09 2018-02-15 蒋顺 裸眼3d显示设备及其显示方法
WO2018058914A1 (zh) * 2016-09-28 2018-04-05 蒋顺 裸眼3d显示设备及其显示方法
CN110766807A (zh) * 2019-09-25 2020-02-07 稿定(厦门)科技有限公司 3d图形旋转方法、介质、设备及装置
CN113973199A (zh) * 2020-07-22 2022-01-25 财团法人工业技术研究院 可透光显示系统及其图像输出方法与处理装置
CN113973199B (zh) * 2020-07-22 2024-03-26 财团法人工业技术研究院 可透光显示系统及其图像输出方法与处理装置
CN113891061A (zh) * 2021-11-19 2022-01-04 深圳市易快来科技股份有限公司 一种裸眼3d显示方法及显示设备
CN113891061B (zh) * 2021-11-19 2022-09-06 深圳市易快来科技股份有限公司 一种裸眼3d显示方法及显示设备

Similar Documents

Publication Publication Date Title
JP2011165068A (ja) 画像生成装置、画像表示システム、画像生成方法、及びプログラム
US11914147B2 (en) Image generation apparatus and image generation method using frequency lower than display frame rate
EP3379525B1 (en) Image processing device and image generation method
EP3051525B1 (en) Display
US9880395B2 (en) Display device, terminal device, and display method
US8768043B2 (en) Image display apparatus, image display method, and program
JP5996814B1 (ja) 仮想空間の画像をヘッドマウントディスプレイに提供する方法及びプログラム
EP2979736A2 (en) Image processing
US11184597B2 (en) Information processing device, image generation method, and head-mounted display
JP2010072477A (ja) 画像表示装置、画像表示方法及びプログラム
JPWO2012169103A1 (ja) 立体画像生成装置および立体画像生成方法
US11956415B2 (en) Head mounted display apparatus
JP4619216B2 (ja) 立体画像表示装置及び立体画像表示方法
JP6588196B2 (ja) 画像生成装置、画像生成方法および較正方法
KR101947372B1 (ko) Hmd에 위치 보정 영상을 제공하는 방법 및 hmd에 위치 보정 영상을 표시하는 방법, 그리고 이를 이용한 위치 보정 영상을 표시하는 hmd
JP2013062731A (ja) プログラム、情報記憶媒体及び画像生成システム
JPH1184313A (ja) 映像観察装置
CN114742977A (zh) 一种基于ar技术的视频透视方法
WO2017191703A1 (ja) 画像処理装置
WO2022180630A1 (en) Camera capture and communications system
WO2012169221A1 (ja) 立体画像表示装置および立体画像表示方法
JP2017142769A (ja) 仮想空間の画像をヘッドマウントディスプレイに提供する方法及びプログラム
US20170052684A1 (en) Display control apparatus, display control method, and program
CN117242770A (zh) 信息处理装置、信息处理方法和记录介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110311

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120417

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120614

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120703