JP3771973B2 - 立体映像表示装置 - Google Patents

立体映像表示装置 Download PDF

Info

Publication number
JP3771973B2
JP3771973B2 JP25484096A JP25484096A JP3771973B2 JP 3771973 B2 JP3771973 B2 JP 3771973B2 JP 25484096 A JP25484096 A JP 25484096A JP 25484096 A JP25484096 A JP 25484096A JP 3771973 B2 JP3771973 B2 JP 3771973B2
Authority
JP
Japan
Prior art keywords
eye
video
specific area
stereoscopic
similarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP25484096A
Other languages
English (en)
Other versions
JPH10108221A (ja
Inventor
誠一郎 田端
良昭 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP25484096A priority Critical patent/JP3771973B2/ja
Priority to US08/929,611 priority patent/US5936663A/en
Publication of JPH10108221A publication Critical patent/JPH10108221A/ja
Application granted granted Critical
Publication of JP3771973B2 publication Critical patent/JP3771973B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/34Stereoscopes providing a stereoscopic pair of separated images corresponding to parallactically displaced views of the same object, e.g. 3D slide viewers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/15Processing image signals for colour aspects of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/167Synchronising or controlling image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/327Calibration thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/337Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using polarisation multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/341Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using temporal multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Description

【0001】
【発明の属する技術分野】
本発明は、両眼視差を有する左眼用映像および右眼用映像によって、観察者に立体映像を呈示できる立体映像表示装置に関する。
【0002】
【従来の技術】
視覚表示装置や視覚表示システムにおいて、映像を立体視できるように表示する立体映像表示装置が種々提案されている。
図16は、従来のこの種の立体映像表示装置の一適用例である頭部装着型表示装置(HMD:Head Mounted Display)100の使用状態を示す外観斜視図である。このHMD10Oは、二眼式立体ディスプレイの一種であり、観察者Mの左右眼球の前に、それぞれ表示素子と拡大光学系からなる左右一対の表示部101が位置する如く、その両端を支持フレーム102にて支持された状態で頭部に装着されるものとなっている。支持フレーム102の他端間を連結している連結フレーム103の中央部位すなわち頭部頂上に位置する箇所には、頭の動きを検出するためのヘッドモーションセンサ104が取り付けられている。
【0003】
前記支持フレーム102には、支持部材105を介して、外部接続器106と耳元に音響を出力するためのスピーカ107とが取付けられている。外部接続器106は接続ケ−ブル110を介して携帯形の情報処理装置120と接続されている。惰報処理装置120には操作釦121が備えられており、この操作釦121を観察者Mが種々操作することにより、所要の映像観察を行なえるものとなっている。
【0004】
かくして情報処理装置120の操作釦121の操作により、表示部101の左眼用映像が観察者Mの左眼に呈示され、右眼用映像が観察者Mの右眼にそれぞれ呈示されることにより、観察者Mは立体映像を観察することができる。この時、その立体映像はヘッドモーションセンサ104にて検知された頭部の動きに対応したものとなり、しかも音響を伴ったものとなるので、自然な感覚で観察可能である。
【0005】
ところで、上記HMD100のような立体映像表示装置では、立体映像表示装置による立体映像の観察状態が、立体撮像カメラでの撮像状況と大きく異なる場合には、観察者Mが融像(映像融合)しにくいものとなり、いわゆる二重像になって見えたり、著しく違和感のある立体映像として見えたりする。その具体的状況例を以下に示す。
【0006】
図17の(a)に示すように、平行配置された2台の立体撮像カメラ131,132でそれぞれ撮像した映像133,134を、立体映像ディスプレイ135で観察する場合、観察者Mの左右眼球を大きく内側に傾けない限り融像ができなくなる状態が起こり得る。
【0007】
図17の(b)に示すように、光軸を内側に傾けて配置された2台の立体撮像カメラ131,132でそれぞれ撮像した映像133,134を、光学系を平行配置したHMD136で観察すると、左右の眼球IL,IRで見る左右映像は無限遠に融像される。このような場合には、著しい違和感を感じることになる。
【0008】
このような問題を解決する手段として、例えば特開平7−167633号公報に示されているように、立体映像の視差を制御する手段が提案されている。上記公報に示された手段は、左右画面の両眼視差または三次元位置を計算し、その計算結果を用いて映像の奥行き位置を三次元立体映像表示部の表面もしくは指定された距離において再現するように視差制御するものである。なお上記公報には、視線検出器を備えることにより、観察者が現在見ようとしている映像の奥行き位置を、三次元立体映像表示部の表面もしくは指定された距離に再現するように視差制御する例も示されている。
【0009】
ここで視差とは、左右映像間において、それぞれ対応するポジションにおける像の位置ずれ量を指す。したがって視差を計算するに際しては、例えば左映像のうちの特定像に注目したとき、その特定像に対応する像を右映像の中から探し出し、その探し出した対応する特定像の位置を求め、しかるのち左右映像間の位置ずれ量を求める必要がある。
【0010】
【発明が解決しようとする課題】
上記従来の視差制御手段を備えた装置には次のような問題がある。すなわち上記従来の装置では、左右映像の中から対応する特定像を探し出すという処理を行なう必要があるため、左右映像の一画面分のデータをすべて一旦メモリ内に取り込んでからでないと当該処理を実行できない。このため記憶容量の大きなメモリが必要になるという問題がある。また次々に流れてくる映像信号に対してリアルタイムで処理できないという問題もある。さらに遠近が入り交じった映像を見て観察者Mの視線がふらつくことがあるが、このような場合には、制御する視差量が大きく変動することになり、立体映像を安定して観察できないことになる。
【0011】
本発明の目的は、観察者にとって融像しやすい立体映像を、視差計算等を格別に行なわずに容易かつ的確に呈示することのできる立体映像表示装置を提供することにある。
【0012】
【課題を解決するための手段】
前記課題を解決し目的を達成するために、本発明は以下に示す如く構成されている。
(1)本発明の体映像表示装置は、
左眼用映像を表示する左眼用映像表示手段と、右眼用映像を表示する右眼用映像表示手段と、前記左(右)眼用映像表示手段の表示面中に、左(右)眼用特定エリアの位置を指定する左(右)眼用特定エリア位置指定手段と、前記右(左)眼用映像表示手段の表示面中に、前記左(右)眼用特定エリアの位置に対して、(xR,yR)=(xL,yL)またはxR=xL−{2d/(A・tanθ)}、yR=yL ただし、d:左右レンズ間の距離の1/2(右眼は正,左眼は負の値となる)、θ:レンズの半画角、A:眼球から虚像面までの距離(視距離)、を満足するように、右(左)眼用特定エリアの位置を指定する右(左)眼用特定エリア位置指定手段と、前記左眼用特定エリアに存在する映像を映像評価パラメータで数値化する左眼用映像評価パラメータ演算手段と、前記右眼用特定エリアに存在する映像を映像評価パラメータで数値化する右眼用映像評価パラメータ演算手段と、前記数値化された左眼用映像評価パラメータ値と前記数値化された右眼用映像評価パラメータ値とを比較し、前記左眼用特定エリアの左眼用映像と前記右眼用特定エリアの右眼用映像との類似度を演算する類似度演算手段と、前記類似度演算手段によって演算された類似度に基づいて、前記左右映像のうち少なくとも一方を左右方向でシフトさせる映像加工手段と、を有することを特徴としている。
(2)本発明の立体映像表示装置は、上記(1)に記載した立体映像表示装置であって、かつ左(右)眼用特定エリア位置指定手段は、観察者の注視領域を検出する注視領域検出手段(視線検出器)を備えてなることを特徴としている。
(3)本発明の立体映像表示装置は、上記(1)に記載した立体映像表示装置であって、かつ、一定時間内の観察者の注視点の軌跡を検出し、前記軌跡を囲む領域を左(右)眼用特定エリアとすることを特徴としている。
(4)本発明の立体映像表示装置は、
左眼用映像と右眼用映像とによって構成される立体映像フレームを表わす映像信号がこの立体映像フレームの時系列に従うようにして順次入力され得るようになされた立体映像表示装置であって、
前記左眼用映像を表示する左眼用映像表示手段と、前記右眼用映像を表示する右眼用映像表示手段と、前記左(右)眼用映像表示手段の表示面中に、左(右)眼用特定エリアの位置を指定する左(右)眼用特定エリア位置指定手段と、前記右(左)眼用映像表示手段の表示面中に、前記左(右)眼用特定エリアの位置に対して、(xR,yR)=(xL,yL)またはxR=xL−{2d/(A・tanθ)}、yR=yL、 ただし、d:左右レンズ間の距離の1/2(右眼は正,左眼は負の値となる)、θ:レンズの半画角、A:眼球から虚像面までの距離(視距離)を満足するように、右(左)眼用特定エリアの位置を指定する右(左)眼用特定エリア位置指定手段と、前記左眼用特定エリアに存在する映像を映像評価パラメータで数値化する左眼用映像評価パラメータ演算手段と、前記右眼用特定エリアに存在する映像を映像評価パラメータで数値化する右眼用映像評価パラメータ演算手段と、前記数値化された左眼用映像評価パラメータ値と前記数値化された右眼用映像評価パラメータ値とを比較し、前記左眼用特定エリアの左眼用映像と前記右眼用特定エリアの右眼用映像との類似度を演算する類似度演算手段と、順次の前記立体映像フレームのうちの一の立体映像フレームに係る前記類似度と前記一の立体映像フレームの前の立体映像フレームに係る前記類似度とを比較し、その比較結果から前記左眼用映像および右眼用映像のうち少なくとも一方を左右方向でシフトさせる映像加工手段と、を有することを特徴としている。
(5)本発明の立体映像表示装置は、前記(4)に記載の立体映像表示装置であって、かつ、左(右)眼用特定エリア位置指定手段は、観察者Mの注視領域を検出する注視領域検出手段(視線検出器)を備えてなることを特徴としている。
(6)本発明の立体映像表示装置は、前記(4)に記載の立体映像表示装置であって、かつ、一定時間内の観察者の注視点の軌跡を検出し、前記軌跡を囲む領域を左(右)眼用特定エリアとすることを特徴としている。
(7)本発明の立体映像表示装置は、前記(4)に記載の立体映像表示装置であって、順次入力される映像信号によって表される順次の時系列的な立体映像フレームをフレームAn-2 ,フレームAn-1 ,フレームAn とし、この順次の時系列におけるフレームAn について前記加工を施すに際し、前記右(左)眼用特定エリア位置指定手段は、前記フレームAn-2 に係る前記類似度をSn-2 とし前記フレームAn-1 に係る前記類似度をSn-1 としたときの両者の類似度Sn-2 およびSn-1 を比較してこの比較結果に依拠するものとして、前記右(左)眼用特定エリアの位置をさらに類似度が高くなると予想される位置に移動させ、当該位置を前記フレームAn に係る前記右(左)眼用特定エリアの位置として指定するようになされ、前記映像加工手段は、前記フレームAn-1 に係る類似度Sn-1 と前記フレームAn に係る前記類似度であるSn とを比較してこの比較結果に依拠して前記フレームAn について前記加工を施すようになされていることを特徴としている。
【0013】
【発明の実施の形態】
(第1実施形態)
図1は本発明の第1実施形態に係る立体映像表示装置の基本的機能を示すブロック図である。今、図示しない立体撮像カメラあるいは立体映像再生機等から左映像と右映像とを供給され、左眼用映像表示手段の構成要素である左映像信号受信部11Lと、右眼用映像表示手段の構成要素である右映像信号受信部11Rとは、それぞれ映像信号を受信する。その映像を今、左眼用映像12L,右眼用映像12Rとする。
【0014】
左眼用特定エリア位置指定手段13Lは、前記左映像信号12Lの点線で囲んだ一部領域、すなわち左眼用特定エリア14Lを指定する。また右眼用特定エリア位置指定手段13Rは、前記右映像信号12Rの点線で囲んだ一部領域、すなわち前記右眼用特定エリア14Rに対して予め定めている対応付けに基づいて、右眼用特定エリア14Rを指定する。なお上記特定エリア14Lおよび14Rの位置は、観察者Mが画面を注視する場所である。なお、その特定エリア位置を指定する方法等については、後述する他の実施形態中において詳しく説明することにする。
【0015】
左眼用映像評価パラメータ演算手段15Lは、前記左眼用特定エリア14Lに存在する映像12Lを左映像評価パラメータで数値化する。同様に右眼用映像評価パラメータ演算手段15Rは、前記右眼用特定エリア14Rに存在する映像12Rを右映像評価パラメータで数値化する。なお映像評価パラメータとしては、例えば各エリア内に存在する映像の平均輝度、輝度の分散値、平均空間周波数、平均色度、色度の分散値等が挙げられる。
【0016】
類似度演算手段16は、前記左眼用映像評価パラメータ演算手段15Lで得られた左眼用映像評価パラメータ値と、前記右眼用映像評価パラメータ演算手段15Rで得られた右眼用映像評価パラメータ値とを比較し、その差に基づいて前記左眼用特定エリア14L内の左眼用映像12Lと前記右眼用特定エリア14R内の右眼用映像12Rとの類似度を演算する。
【0017】
映像加工手段17は、前記類似度演算手段16にて演算された類似度に基づいて前記左右映像12L,12Rを加工する。この映像の加工とは、映像全体の水平方向シフトや映像の変形修正等を含み、前記特定エリア14L,14R内の映像の類似度が高くなるように修正する加工のことである。本実施形態では、例えば、右眼用映像12R全体を図中左方向へシフトするものとする。シフトした結果が122L,122Rとなる。なお122Rの右端には映像シフトの結果、シフト量と同じ分だけ黒色表示がなされている。
【0018】
図2は、立体映像ディスプレイ18の概略構成を示す図である。図2に示すように、前記加工された後の左眼用映像122Lおよび右眼用映像122Rは、立体映像ディスプレイ18(左眼用映像表示手段18L、右眼用映像表示手段18Rを含む)によって表示される。
【0019】
以上の動作を映像フレーム毎に繰り返すことにより、映像122Lのうち左眼用特定エリア14L内を注視している観察者Mの左眼ILと、映像122Rのうち右眼用特定エリア14R内を注視している観察者Mの右眼IRとに対し、極めて類似した映像が呈示されることになり、容易かつ的確に融像し得る映像が提供される。なおVは虚像面を示しており、19L,19Rは左右接眼光学系を示している。
【0020】
上述した第1実施形態によれば、従来のように対応する映像を探すという処理が行なわれないため、映像記憶容量が少なくて済む。また次々に流れてくる映像信号に対してリアルタイムで処理できるという利点もある。
【0021】
(第2実施形態)
図3は第2実施形態に係る立体映像表示装置の具体的構成を示すブロック図である。立体撮像カメラや立体映像再生機など含む立体映像供給部20から出力される左映像信号DL1および右映像信号DR1は、それぞれ左映像信号受信部21Lおよび右映像信号受信部21Rへ供給されてA/D変換される。デジタル信号に変換された左映像信号DL2および右映像信号DR2はそれぞれを二つに分岐される。
【0022】
分岐された左映像信号DL2は、一方において左特定エリア映像抽出部22Lに出力され、他方において左映像加工部27Lに出力される。同様に分岐された右映像信号DSRは一方において右特定エリア映像抽出部22Rに出力され、他方において右映像加工部27Rに出力される。
【0023】
一方、観察者Mの眼球IL,IRの近傍に配置された視線検出器23(検出用光源23aとセンサ23bとから成る)は、観察者Mが注視している画面内の小領域を測定する為に、観察者Mの左右眼球IL,IRの回転角を検出するものである。この視線検出器23は観察者Mの両眼球IL,IRのうち、いずれか一方の眼球の視線を検出すればよい。図3の例では左眼球ILの近傍に対応設置している。この視線検出器23で検出された信号すなわち視線方向角信号SGは左特定エリア位置指定部24Lに入力される。
【0024】
左特定エリア位置指定部24Lでは、まず視線方向角信号SGに基づいて映像表示面における注視座標(xL,yL)を求める。この座標は視線方向角に表示面までの距離を掛け合わせることで求められる。左特定エリア位置指定部24Lからの座標信号は、右特定エリア位置指定部24Rに送られる。右特定エリア位置指定部24Rでは、左特定エリア位置指定部24Lからの信号に基づいて右特定エリア位置を求める。左特定エリア位置に対する右特定エリア位置の関係は、使用するディスプレイによって異なる。
【0025】
図4は、ディスプレイとして液晶シャッター眼鏡や偏光眼鏡を装着してCRT画面を見るようにした立体TVを使用する場合を示す。図4の(a)に示すように、左右画面31L,31Rにおけるそれぞれの特定エリア34L,34Rの位置関係は一致しているのが望ましい。これは図4の(b)に示すように、上記タイプの立体TV30においては、一つの表示面31の特定エリア34に左右の映像を一緒に表示するので、図4の(a)の如く左右の特定エリア34L,34Rが一致している方が二つの映像を表示面上に融像させ易く、観察者Mが見やすいためである。従ってこの場合の左右の特定エリア位置は、次式の関係を有するものとなる。
【0026】
(xR,yR)=(xL,yL) …(1)
図5の(a)に示すように、HMDのような二画面式立体TVの場合には、左右の特定エリア44L,44Rの関係はHMDの光学系の特性に合わせて水平方向にずれていることが望ましい。これは次の理由による。
【0027】
図5の(b)に示すように、HMDの場合には左右の両眼IL,IRに対してそれぞれ左右表示面41L,41Rが存在しており、観察者Mはこの左右表示面41L,41Rの虚像面45上における虚像を見ることになるため、虚像面45上において左右の特定エリア位置が一致している方が見易いからである。右特定エリア44Rの中心座標位置(xR,yR)は次式を満たすことが望ましい。
【0028】
xR=xL−{2d/(A・tanθ)}
yR=yL …(2)
ただし、d:左右レンズ間の距離の1/2(右眼は正,左眼は負の値となる)
θ:レンズの半画角
A:眼球から虚像面までの距離(視距離)
座標は、左右表示面61L,61Rの各左端を「−1」、各右端を「1」として表すように規格化されている。導出方法は、特願平8−28856号などに示されている通りである。その概要を図6、図7を用いて以下に説明する。
【0029】
実際に表示図上に表示する立体画像の条件を求める。立体映像観察時の視差と輻輳距離Lとの関係を求める。図6のように融像したときの輻輳距離L,水平位置H上に球が存在するように見えるときの左表示面上の球の水平位置X1 と右表示面上の球の水平位置X2 とは、それぞれ式(3)及び式(4)で表される。
【0030】
X1 ={ d+(−H)}/(L・tanθ) …(3)
X2 ={−d+(−H)}/(L・tanθ) …(4)
上記の水平位置X1 ,X2 は、図7のように表示領域の水平中心値を0とし、表示領域の水平長さを2として規格化している。
【0031】
式(3)は図6における点A,B,Cによって作られる三角形と、左表示面での原点0と点X1 と点Cとによって作られる三角形とが相似であることから導くことができる。
【0032】
式(4)も上記と同様に点D,B,Eによって作られる三角形と、右表示面での原点0と点X2 と点Eとによって作られる三角形とが相似であることから導くことができる。
【0033】
上式(3)および式(4)は書き換えると次式の通りになる。
|X1 −X2 |=2d/(L・tanθ) …(5)
本実施形態では、上式(5)の左辺|X1 −X2 |を視差と呼ぶことにする。上式(5)は水平位置Hに限らず、視差が決定すると融像時の輻輳距離Lも決まることを表している。
【0034】
通常は、右特定エリア44Rの位置は左特定エリア44Lの位置に比べて、左側にずれる。d=32.5mm、θ=30度、L=1000mm、のときのずれ量は画面の水平長さに対して5.6%となる。
【0035】
図4について上述したような立体TVの場合でも、図5について上述した二画面式立体TVの場合でも、左特定エリア44Lの位置が決定されれば、右特定エリア44Rの位置は一義的に決定される。
【0036】
図3に説明を戻す。前記左特定エリア映像抽出部22Lは左特定エリア位置指定部24Lからの座標信号(xL,yL)を受け取る。同様に右特定エリア映像抽出部22Rは右特定エリア位置指定部24Rからの座標信号(xR,yR)を受け取る。そして上記左右特定エリア映像抽出部22L、22Rは、それぞれの座標を中心としたある領域の映像信号を抽出する。この領域が本実施形態における特定エリアに相当する。特定エリアの面積は次式を満たすことが望ましい。
(特定エリア面積)÷(表示面積)<(30度÷HMDの接眼光学系の画角)2 …(6)
上記式(6)は、人が瞬時に検出受容できる有効視野が約30度であることに基づいて求められた(「生理光学16」 畑田豊彦著、Opluse E、No.74 、P121-130、(1986))。
【0037】
上式に従えば、例えば接眼光学系の画角が60度であれば、特定エリアの面積は表示画面の4分の1以下であれば良いことになる。
左右特定エリア映像抽出部22L、22Rによってそれぞれ抽出された左右の特定エリア映像信号EL,ERは、左右の映像評価パラメータ演算部25L,25Rに各々送られる。
【0038】
映像評価パラメータ演算部25L,25Rでは、予め指定している映像評価パラメータ(例えば、エリア内に存在する映像の平均輝度、輝度の分散値、平均空間周波数、平均色度、色度の分散値など)で映像が評価される。映像評価パラメータの種類数は、多ければ多いほど高い精度で後述の類似度を求めることができる。ただしここでは、映像の平均輝度m、輝度の分散値wの2種類の映像評価パラメータを求めるものとする。左映像評価パラメータ演算部25Lで求めた左映像評価パラメータ値fL=(mL,wL)、および右映像評価パラメータ演算部25Rで求めた右映像評価パラメータ値fR=(mR,wR)は、類似度演算部26へ送られる。
【0039】
類似度演算部26では、左右の映像評価パラメータ値fL=(mL,wL)とfR=(mR,wR)とを比較し、左右の特定エリア内の映像の類似度に関連したS値を求める。このS値の計算法としては、下記の式(7)を使うことができる。
【0040】
S=fR・fL/|fR||fL| …(7)
ただし fR・fL=mRmL+wRwL
|fR|=(mR2 +wR21/2
|fL|=(mL2 +wL21/2
である。0≦S≦1となる。類似度が高ければ高いほどS値は高くなる。このS値を示す類似度信号は左右の映像加工部27L,27Rに与えられる。
【0041】
左右映像加工部27L,27Rは、その類似度信号に基づいて、左右映像を加工する。ここで加工とは、映像の水平方向へのシフトや変形(収縮・伸長)等を含むものである。S値が高ければ加工量は小さく、S値が低ければ加工量は大きくなる。水平方向へのシフトは、左右映像信号受信部21L,21Rからの左右映像信号DL2、DR2の全体を水平方向へシフトする。水平方向への具体的シフト手段としては可変遅延回路等が用いられる。左右映像の一方のみをシフトしても良いし両方ともシフトしても良い。両方ともシフトするときは相対的に反対方向にシフトするのが望ましい。なおこの時、視線検出器23の注視座標を左映像のシフト分だけずらす必要がある。
【0042】
上記の如く加工された左右映像は、左右映像加工部27L,27R内のD/A変換手段によってアナログ信号に戻されたのち、左右映像表示部28L,28Rに出力される。左右映像表示部28L,28Rでは供給されたアナログ信号に基づいた表示が行なわれる。
【0043】
上記した一連の動作が各映像フレーム毎に繰り返して行なわれる。これにより融像が容易で違和感の少ない良好な立体映像が表示される。
(変形例)
第1実施形態および第2実施形態には、以下のような変形例が含まれている。
【0044】
(1) 映像の加工方向を知る為に、特定エリアとは別に加工方向判別エリアを設けても良い。例えば水平方向シフトによる加工を行なうとき、図8に示すように右特定エリア54Rの両わきに加工方向判別エリア56R,57Rを設けるようにする。そして上記各加工方向判別エリア56R内の映像と左特定エリア54内の映像とについて式(7)と同様の類似度を求め、上記各加工方向判別エリア57R内の映像と左特定エリア54L内の映像とについて式(7)と同様の類似度を求める。これらの類似度も前記した類似度と同時に左右映像加工部27L,27Rに出力する。この左右映像加工部27L,27Rでは二つの加工方向判別エリア56R,57Rの類似度を比較して加工方向を決定する。図8の場合には、加工方向判別エリア57Rの方が加工方向判別エリア56Rよりも類似度のS値が高い。よって右映像は右方向にずれていることが分かるので、シフト方向は左にする。加工方向判別エリア56R,57Rは加工方向だけを知るものであるので、映像評価パラメータの演算精度は低くて良い。よってエリア面積は特定エリア54L,54Rよりも小さくすることができる。
【0045】
結果として、観察者Mの左右両眼がそれぞれ注視する領域の映像の類似性を高めることができ、観察者Mにとって融像しやすい立体映像を呈示することができる。
【0046】
(2) 特定エリアの決定法として、観察者Mの注視点を中心とした領域を特定エリアとする方法について述べたが、これに限られるものではない。例えば図9に示すように、映像領域全体を予め複数のブロック61a,61b…61nに分割しておき、注視点座標62を含むブロックを選択し、選択された当該ブロックを左特定エリア64Lとする方法でもよい。右特定エリア64Rについては前述した式(1)、式(2)を満たすように定めておく。左特定エリア64Lのブロックが選択されたら自動的に対応する右ブロックを選ぶ。
【0047】
この方法においては、予め抽出する領域が決まっているので,処理時間が著しく短くなる利点がある。しかも視線検出の分解能が粗くてもよいという利点がある。
【0048】
(3) 特定エリアの他の決定法として、一定時間内における注視点の軌跡を検出し、その範囲を特定エリアとすることもできる。人間の眼球運動の中には跳躍運動(Saccadic Movement)と呼ばれるものがある。これは、人間が映像特徴を抽出する際に起こる運動だと言われている(「生理光学16」 畑田豊彦著、Opluse E、No.74 、P121-130、(1986))。
【0049】
図10は表示面71上にある対象物の映像72を表示したとき、所定時間内での視線の跳躍運動軌跡73を示す図である。この軌跡73はいわば観察者Mが今見たいと思っている映像領域を表している。そこで、この生理現象に基づく跳躍運動軌跡73を囲むように左特定エリア74Lを決定する。
【0050】
この方法を採用した場合、図3に示した左特定エリア位置指定部24Lは、図11に示すブロック図のように構成される。即ち、視線検出器23からの視線方向角信号SGが入力すると、これは注視座標変換部81により注視座標(xL,yL)に変換される。この点は前述の場合と同じである。そして変換された座標信号はメモリ82に記憶される。この動作は一定時間、例えば500msくらいの時間だけ繰り返される。そして上記の如く一定時間だけ累積記憶された全座標Σ(xL,yL)がメモリ82から読み出され、左特定エリア計算部83に入力する。左特定エリア計算部83は、上記読み出された全座標Σ(xL,yL)を囲む領域、すなわち前記左特定エリア74Lを求める。この求められた左特定エリア74Lの信号は、右特定エリア位置指定部24Rと左特定エリア映像抽出部22Lへ送られる。右特定エリア位置指定部24Rでは、前述した式(1)および式(2)を満たすように右特定エリア74R(不図示)を決定する。
【0051】
この方法においては、特定エリア74L,74Rの面積や形は予め定められておらず、映像の内容に応じて、観察者Mがまさに見たいと思っている領域を特定エリアとすることができる。したがって前述した方法と比べ、さらに融像し易い立体映像を呈示できる。またメモリ82に一定時間に亘って累積記憶された全座標Σ(xL,yL)に基づいた処理が行なわれることから、視線方向の急激な変化等により立体映像の加工量が急激に変化して立体映像がふらつくといった事態を回避することができる。このため動作の安定性が確保される。
【0052】
(4) 左特定エリアを指定する方法として、必ずしも視線検出器23を用いる必要はない。例えば、マウスやジョイスティック等を観察者Mが操作することにより、立体映像と同時に表示されているポインタを動かすような装置の場合には、このポインタの位置を視線検出器23の注視点の代わりに用いても良い。この場合には、視線検出器23等が不要になるので、装置の構成が簡略化され、小型かつ安価に製作できるという利点がある。
【0053】
(5) 特定エリアは必ずしも動かす必要はない。すなわちHMDにヘッドモーションセンサ104を取り付け、観察者Mの頭の動きに合わせて映像を変化させるようにしたバーチャルリアリティ装置の場合には、観察者Mの注視方向は略頭部の向きと一致しているので、特定エリアの位置を表示面中央に固定しても良い。この場合には、特定エリアを可変指定する電気回路が不要になるので、この点で装置の構成が簡略化され小型かつ安価に製作可能となる。
【0054】
(第3実施形態)
図12および図13は本発明の第3実施形態に係る立体映像表示装置の具体的動作を示すフロー図(両図は丸で囲んだ数字で示す対応箇所にて互いに接続されている)である。なお本実施形態の構成ブロック図は、図3に示す第2実施形態の構成ブロック図と同じとなるため省略する。この第3実施形態は、一方の特定エリア位置を決定する際に、前回と前々回の類似度の値に基づいて特定エリアの位置をフィードバックして決定すると共に、前回と今回の類似度の値に基づいて加工方向(水平シフト方向)をフィードバックして決定するようにした点に特徴を有する。以下、図12および図13に示すフロー図を参照しながらその特徴点につき説明する。
【0055】
「ステップ1」(ST1)
左右特定エリアの初期位置指定が行なわれる。例えば、左特定エリアは表示面中央に設定され、右特定エリア位置は式(1),式(2)を満たす位置に設定される。そして入力されてくる映像に対し、類似度初期値の計算が行なわれる。その計算結果である類似度初期値について、予め設定されている加工量だけ初期加工が行なわれる。例えば表示面長さの1%量が右方向にシフトされる。これら特定エリアの指定と類似度計算と映像シフトとが次の映像フレームについても行なわれる。ただし2回目の映像フレームに対しては、右特定エリアの位置については1%だけ左方向に動かし、映像シフトについては1%だけ右方向にシフトさせる。このように特定エリア位置の1回の動かし量は予め設定されている。その量をここではΔAとする。また1回の映像シフト量も予め定められている。その量をここではΔBとする。
【0056】
「ステップ2」(ST2)
第2実施形態と同様に視線検出が行なわれ、左特定エリア位置指定部24Lで左特定エリア位置が決定される。
【0057】
「ステップ3」(ST3)
左特定エリア位置指定部24Lからの左特定エリア位置信号を受けて、右特定エリア位置指定部24Rでは右特定エリア位置が決定される。その決定の方法は次の通りである。前々回の類似度Sn-2 と前回の類似度Sn-1 とを比較し、更に類似度が高くなると予想される位置に特定エリア位置を動かす。
【0058】
例えば、図14に示すような場合、Sn-2 とSn-1 とを比較してSn-1 のほうが高ければ、さらに特定エリア位置を左方向にΔAシフトさせる。もしSn-2 とSn-1 を比較してSn-2 の方が高ければ、前々回の特定エリア位置から右方向にΔAシフトさせる。
【0059】
「ステップ4」(ST4)
第2実施形態と同様に、左右映像評価パラメータ演算部25L,25Rにおいてそれぞれの映像評価パラメータが計算される。
【0060】
「ステップ5」(ST5)
第2実施形態と同様に、類似度演算部26において左右それぞれの映像評価パラメータから類似度Sn が計算される。この計算結果は左右映像加工部27L,27Rに送られる。
【0061】
「ステップ6」(ST6)
左右映像加工部27L,27Rにおいて前回の類似度Sn-1 より、今回の類似度Sn の方が高いか否かが判定される。
【0062】
「ステップ7」(ST7)
今回の類似度Sn の方が前回の類似度Sn-1 よりも高い場合は、図15のように、前回のシフト方向と同じ方向でさらにΔBだけ画像全体がシフトされる。反対に前回の類似度Sn-1 の方が今回の類似度Sn よりも高い場合は、前回のシフト量が保持される。
【0063】
「ステップ8」(ST8)
シフトによる加工を終了した左右映像を表示する。
上記した「ステップ2」〜「ステップ8」を、映像フレーム毎に繰り返す。これらのステップは、1/60秒もしくは1/30秒で一巡させるのが望ましい。このようにすることで、変化の速い動画像に対しても、映像フレーム間ではさほど大きな変化がないので十分追従できる。
【0064】
本実施形態によれば、類似度の値を加工量へ変換する方法が不明であっても、フィードバック制御によって類似度が高くなるような立体映像の加工を行なえるという利点がある。
【0065】
(実施形態のまとめ)
上述した実施形態に示された立体映像表示装置の構成および作用効果をまとめると次の通りである。
[1]実施形態に示された立体映像表示装置は、
左眼用映像12Lを表示する左眼用映像表示手段18Lと、
右眼用映像12Rを表示する右眼用映像表示手段18Rと、
前記左(右)眼用映像表示手段18L(18R)の表示面中に、左(右)眼用特定エリア14L(14R)の位置を指定する左(右)眼用特定エリア位置指定手段13L(13R)と、
前記右(左)眼用映像表示手段18R(18L)の表示面中に、前記左(右)眼用特定エリア14L(14R)の位置に対して予め定めている対応付けに基づいて、右(左)眼用特定エリア14R(14L)の位置を指定する右(左)眼用特定エリア位置指定手段13R(13L)と、
前記左眼用特定エリア14Lに存在する映像12Lを映像評価パラメータで数値化する左眼用映像評価パラメータ演算手段15Lと、
前記右眼用特定エリア14Rに存在する映像12Rを映像評価パラメータで数値化する右眼用映像評価パラメータ演算手段15Rと、
前記数値化された左眼用映像評価パラメータ値と前記数値化された右眼用映像評価パラメータ値とを比較し、前記左眼用特定エリア14Lの左眼用映像12Lと前記右眼用特定エリア14Rの右眼用映像12Rとの類似度Sを演算する類似度演算手段16と、
前記類似度演算手段16によって演算された類似度Sに基づいて、前記左右映像12L,12Rのうち少なくとも一方の映像を加工する映像加工手段17と、
を有することを特徴としている。
【0066】
上記立体映像表示装置においては、左右両眼IL,IRが注眼する領域の左右映像12L,12Rが類似性の高い映像に加工され、その結果、立体映像の観察時における二重像や違和感が排除されることになる。すなわち、映像中の左右の特定エリア14L,14Rが指定され、その左右の特定エリア14L,14R中に存在している映像12L,12Rの類似性が、映像評価パラメータを用いて正確に調べられる。その調べた類似性の結果に基づいて、初めに指定した左右の特定エリア14L,14R内の映像が、設定された類似度の眼標値を越えるように加工修正される。その結果、2重像や違和感を引き起こす左右映像間のずれが補正される。またこの立体映像表示装置においては、従来のように対応する映像を探すという処理は行なわれず、特定エリアの映像のみを用いて処理されるので、映像記憶容量も少なくて済み、かつ次々に流れてくる映像信号に対してリアルタイムで処理できるという利点がある。
[2]実施形態に示された立体映像表示装置は、上記[1]に記載した立体映像表示装置であって、かつ左(右)眼用特定エリア位置指定手段は、観察者の注視領域を検出する注視領域検出手段(視線検出器23)を備えてなることを特徴としている。
【0067】
上記立体映像表示装置においては、前記[1]と同様の作用効果を奏する上、観察者Mの注視領域が検出され、その注視領域が特定エリアとされるので、観察者Mがどこを見ようとも、その観察者Mの注視領域が高い類似度となる如く映像加工が施され、自然で良好な立体映像を呈示可能である。
[3]実施形態に示された立体映像表示装置は、上記[1]に記載した立体映像表示装置であって、かつ、一定時間内の観察者Mの注視点の軌跡73を検出し、前記軌跡73を囲む領域を左(右)眼用特定エリア74L(74R)とすることを特徴としている。
【0068】
上記立体映像表示装置においては、前記[1]と同様の作用効果を奏する上、この方法では、特定エリア74L(74R)の面積や形は予め定まっておらず、映像の内容に応じて観察者Mがまさに見たいと思っている領域を特定エリア74L(74R)とすることができる。よって、さらに融像し易い立体映像を呈示できる。
【0069】
なおメモリ82に一定時間に亘って累積記憶された全座標Σ(xL,yL)に基づいた処理を行なうようにした場合には、視線方向の急激な変化等により立体映像の加工量が急激に変化して立体映像がふらつくといった事態を回避でき、動作の安定性が確保されるものとなる。
[4]実施形態に示された立体映像表示装置は、
左眼用映像12Lと右眼用映像12Rとによって構成される立体映像フレームを表わす映像信号がこの立体映像フレームの時系列に従うようにして順次入力され得るようになされた立体映像表示装置であって、
前記左眼用映像12Lを表示する左眼用映像表示手段18Lと、
前記右眼用映像12Rを表示する右眼用映像表示手段18Rと、
前記左(右)眼用映像表示手段18L(18R)の表示面中に、左(右)眼用特定エリア14L(14R)の位置を指定する左(右)眼用特定エリア位置指定手段13L(13R)と、
前記右(左)眼用映像表示手段18R(18L)の表示面中に、前記左(右)眼用特定エリア14L(14R)の位置に対して予め定めている対応付けに基づいて、右(左)眼用特定エリア14R(14L)の位置を指定する右(左)眼用特定エリア位置指定手段13R(13L)と、
前記左眼用特定エリア14Lに存在する映像12Lを映像評価パラメータで数値化する左眼用映像評価パラメータ演算手段15Lと、
前記右眼用特定エリア14Rに存在する映像12Rを映像評価パラメータで数値化する右眼用映像評価パラメータ演算手段15Rと、
前記数値化された左眼用映像評価パラメータ値と前記数値化された右眼用映像評価パラメータ値とを比較し、前記左眼用特定エリア14Lの左眼用映像12Lと前記右眼用特定エリア14Rの右眼用映像12Rとの類似度Sを演算する類似度演算手段16と、
順次の前記立体映像フレームのうちの一の立体映像フレームに係る前記類似度Sn と前記一の立体映像フレームの前の立体映像フレームに係る前記類似度Sn-1 とを比較し、その比較結果から前記左眼用映像12Lおよび右眼用映像12Rのうち少なくとも一方の映像を加工する映像加工手段17と、
を有することを特徴としている。
【0070】
上記立体映像表示装置においては、映像を加工する際に、前回の類似度Sn-1 と今回の類似度Sn とを比較して加工方向を決定する。この方法では、類似度Sの値から加工量へ変換する変換方法が不明であっても、フィードバック制御によって類似度Sが高くなるよう立体映像を加工できるという利点がある。
[5]実施形態に示された立体映像表示装置は、前記[4]に記載の立体映像表示装置であって、かつ、左(右)眼用特定エリア位置指定手段13L(13R)は、観察者Mの注視領域を検出する注視領域検出手段(視線検出器23)を備えてなることを特徴としている。
【0071】
上記立体映像表示装置においては、前記[4]と同様の作用効果を奏する上、観察者Mの注視領域が検出され、その注視領域が特定エリアとされるので、観察者Mがどこを見ようとも、その観察者Mの注視領域が高い類似度となる如く映像加工が施され、自然で良好な立体映像を呈示可能である。
[6]実施形態に示された立体映像表示装置は、前記[4]に記載の立体映像表示装置であって、かつ、一定時間内の観察者Mの注視点の軌跡73を検出し、前記軌跡73を囲む領域を左(右)眼用特定エリア74L(74R)とすることを特徴としている。
【0072】
上記立体映像表示装置においては、前記[4]と同様の作用効果を奏する上、特定エリア74L(74R)の面積や形は予め定まっておらず、映像の内容に応じて観察者Mがまさに見たいと思っている領域を特定エリア74L(74R)とすることができる。よって、さらに融像し易い立体映像を呈示できる。また一定時間に亘って累積記憶された全座標Σ(xL,yL)に基づいた処理が行なわれるため、視線方向の急激な変化等により立体映像の加工量が急激に変化して立体映像がふらつくといった事態を回避でき、動作の安定性が確保される。
[7]実施形態に示された立体映像表示装置は、前記[4]に記載の立体映像表示装置であって、かつ、順次入力される映像信号によって表される順次の時系列的な立体映像フレームをフレームAn-2 ,フレームAn-1 ,フレームAn とし、この順次の時系列におけるフレームAn について前記加工を施すに際し、前記右(左)眼用特定エリア位置指定手段は、前記フレームAn-2 に係る前記類似度をSn-2 とし前記フレームAn-1 に係る前記類似度をSn-1 としたときの両者の類似度Sn-2 およびSn-1 を比較してこの比較結果に依拠するものとして予め定めている前記対応付けに基づいて前記フレームAn に係る前記右(左)眼用特定エリアの位置を指定するようになされ、前記映像加工手段は、前記フレームAn-1 に係る類似度Sn-1 と前記フレームAn に係る前記類似度であるSn とを比較してこの比較結果に依拠して前記フレームAn について前記加工を施すようになされていることを特徴としている。
【0073】
上記立体映像表示装置においては、フレームAn-2 の類似度Sn-2 からフレームAn-1 の類似度Sn-1 への時間的推移を認識し、この認識に基づいてフレームAn の類似度Sn が高くなるように調節動作を行ない得るため、各映像フレームに対してより適切な加工を行なうことができる。
【0074】
【発明の効果】
本発明によれば、下記のような作用効果を奏する立体映像表示装置を提供することができる。
(a) 映像中の左右特定エリアに存在している映像が、所要の類似度を有する如く加工修正されて表示されるため、視差計算等を格別に行なわずに、二重像や違和感のある立体映像を排除できる。
【0075】
(b) 従来のように対応する映像を探すという処理を行なう必要がないため、処理に要するメモリの容量が少なくて済み、かつ次々に流れてくる映像信号につきリアルタイムで処理できる。
(c) 左右特定エリアが観察者の注視ポイントに応じて決定されるため、効率のよい処理を的確に行なえる。
【図面の簡単な説明】
【図1】本発明の第1実施形態に係る立体映像表示装置における基本的機能を示すブロック図。
【図2】本発明の第1実施形態に係る立体映像表示装置における立体映像ディスプレイの概略構成を示す図。
【図3】本発明の第2実施形態に係る立体映像表示装置における具体的構成を示すブロック図。
【図4】本発明の第2実施形態に係る立体映像表示装置の作用を説明するための図。
【図5】本発明の第2実施形態に係る立体映像表示装置の作用を説明するための図。
【図6】本発明の第2実施形態に係る立体映像表示装置の作用を説明するための図。
【図7】本発明の第2実施形態に係る立体映像表示装置の作用を説明するための図。
【図8】本発明の第2実施形態に係る立体映像表示装置の変形例を示す図。
【図9】本発明の第2実施形態に係る立体映像表示装置の変形例を示す図。
【図10】本発明の第2実施形態に係る立体映像表示装置の変形例を示す図。
【図11】本発明の第2実施形態に係る立体映像表示装置の変形例を示す図。
【図12】本発明の第3実施形態に係る立体映像表示装置の具体的動作(その一部)を示すフロー図。
【図13】本発明の第3実施形態に係る立体映像表示装置の具体的動作(残りの一部)を示すフロー図。
【図14】本発明の第3実施形態に係る立体映像表示装置の作用を説明するための図。
【図15】本発明の第3実施形態に係る立体映像表示装置の作用を説明するための図。
【図16】従来の立体映像表示装置の一適用例である頭部装着型表示装置(HMD)の使用状態を示す外観斜視図。
【図17】従来の立体映像表示装置の問題点を示す概略図。
【符号の説明】
12L…左眼用映像
12R…右眼用映像
13L…左眼用特定エリア位置指定手段
13R…右眼用特定エリア位置指定手段
14L…左眼用特定エリア
14R…右眼用特定エリア
15L…左眼用映像評価パラメータ演算手段
15R…右眼用映像評価パラメータ演算手段
16……類似度演算手段
17……映像加工手段
18L…左眼用映像表示手段
18R…右眼用映像表示手段

Claims (7)

  1. 左眼用映像を表示する左眼用映像表示手段と、
    右眼用映像を表示する右眼用映像表示手段と、
    前記左(右)眼用映像表示手段の表示面中に、左(右)眼用特定エリアの位置を指定する左(右)眼用特定エリア位置指定手段と、
    前記右(左)眼用映像表示手段の表示面中に、前記左(右)眼用特定エリアの位置に対して、
    (xR,yR)=(xL,yL)
    または
    xR=xL−{2d/(A・tanθ)}
    yR=yL
    ただし、d:左右レンズ間の距離の1/2(右眼は正,左眼は負の値となる)
    θ:レンズの半画角
    A:眼球から虚像面までの距離(視距離)
    を満足するように、右(左)眼用特定エリアの位置を指定する右(左)眼用特定エリア位置指定手段と、
    前記左眼用特定エリアに存在する映像を映像評価パラメータで数値化する左眼用映像評価パラメータ演算手段と、
    前記右眼用特定エリアに存在する映像を映像評価パラメータで数値化する右眼用映像評価パラメータ演算手段と、
    前記数値化された左眼用映像評価パラメータ値と前記数値化された右眼用映像評価パラメータ値とを比較し、前記左眼用特定エリアの左眼用映像と前記右眼用特定エリアの右眼用映像との類似度を演算する類似度演算手段と、
    前記類似度演算手段によって演算された類似度に基づいて、前記左右映像のうち少なくとも一方を左右方向でシフトさせる映像加工手段と、
    を有することを特徴とする立体映像表示装置。
  2. 左(右)眼用特定エリア位置指定手段は、観察者の注視領域を検出する注視領域検出手段を備えてなることを特徴とする請求項1に記載の立体映像表示装置。
  3. 一定時間内の観察者の注視点の軌跡を検出し、前記軌跡を囲む領域を左(右)眼用特定エリアとすることを特徴とする請求項1に記載の立体映像表示装置。
  4. 左眼用映像と右眼用映像とによって構成される立体映像フレームを表わす映像信号がこの立体映像フレームの時系列に従うようにして順次入力され得るようになされた立体映像表示装置であって、
    前記左眼用映像を表示する左眼用映像表示手段と、
    前記右眼用映像を表示する右眼用映像表示手段と、
    前記左(右)眼用映像表示手段の表示面中に、左(右)眼用特定エリアの位置を指定する左(右)眼用特定エリア位置指定手段と、
    前記右(左)眼用映像表示手段の表示面中に、前記左(右)眼用特定エリアの位置に対して、
    (xR,yR)=(xL,yL)
    または
    xR=xL−{2d/(A・tanθ)}
    yR=yL
    ただし、d:左右レンズ間の距離の1/2(右眼は正,左眼は負の値となる)
    θ:レンズの半画角
    A:眼球から虚像面までの距離(視距離)
    を満足するように、右(左)眼用特定エリアの位置を指定する右(左)眼用特定エリア位置指定手段と、
    前記左眼用特定エリアに存在する映像を映像評価パラメータで数値化する左眼用映像評価パラメータ演算手段と、
    前記右眼用特定エリアに存在する映像を映像評価パラメータで数値化する右眼用映像評価パラメータ演算手段と、
    前記数値化された左眼用映像評価パラメータ値と前記数値化された右眼用映像評価パラメータ値とを比較し、前記左眼用特定エリアの左眼用映像と前記右眼用特定エリアの右眼用映像との類似度を演算する類似度演算手段と、
    順次の前記立体映像フレームのうちの一の立体映像フレームに係る前記類似度と前記一の立体映像フレームの前の立体映像フレームに係る前記類似度とを比較し、その比較結果から前記左眼用映像および右眼用映像のうち少なくとも一方を左右方向でシフトさせる映像加工手段と、
    を有することを特徴とする立体映像表示装置。
  5. 左(右)眼用特定エリア位置指定手段は、観察者の注視領域を検出する注視領域検出手段を備えてなることを特徴とする請求項4に記載の立体映像表示装置。
  6. 一定時間内の観察者の注視点の軌跡を検出し、前記軌跡を囲む領域を左(右)眼用特定エリアとすることを特徴とする請求項4に記載の立体映像表示装置。
  7. 順次入力される映像信号によって表される順次の時系列的な立体映像フレームをフレームAn-2 ,フレームAn-1 ,フレームAn とし、この順次の時系列におけるフレームAn について前記加工を施すに際し、
    前記右(左)眼用特定エリア位置指定手段は、前記フレームAn-2 に係る前記類似度をSn-2 とし前記フレームAn-1 に係る前記類似度をSn-1 としたときの両者の類似度Sn-2 およびSn-1 を比較してこの比較結果に依拠するものとして、前記右(左)眼用特定エリアの位置をさらに類似度が高くなると予想される位置に移動させ、当該位置を前記フレームAn に係る前記右(左)眼用特定エリアの位置として指定するようになされ、
    前記映像加工手段は、前記フレームAn-1 に係る類似度Sn-1 と前記フレームAn に係る前記類似度であるSn とを比較してこの比較結果に依拠して前記フレームAn について前記加工を施すようになされていることを特徴とする請求項4に記載の立体映像表示装置。
JP25484096A 1996-09-26 1996-09-26 立体映像表示装置 Expired - Fee Related JP3771973B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP25484096A JP3771973B2 (ja) 1996-09-26 1996-09-26 立体映像表示装置
US08/929,611 US5936663A (en) 1996-09-26 1997-09-15 Binocular display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP25484096A JP3771973B2 (ja) 1996-09-26 1996-09-26 立体映像表示装置

Publications (2)

Publication Number Publication Date
JPH10108221A JPH10108221A (ja) 1998-04-24
JP3771973B2 true JP3771973B2 (ja) 2006-05-10

Family

ID=17270591

Family Applications (1)

Application Number Title Priority Date Filing Date
JP25484096A Expired - Fee Related JP3771973B2 (ja) 1996-09-26 1996-09-26 立体映像表示装置

Country Status (2)

Country Link
US (1) US5936663A (ja)
JP (1) JP3771973B2 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10161056A (ja) * 1996-11-27 1998-06-19 Minolta Co Ltd 映像観察装置、該映像観察装置用操作器、該映像観察装置とともに使用される物品、及び該映像観察装置の使用方法
US6532008B1 (en) 2000-03-13 2003-03-11 Recherches Point Lab Inc. Method and apparatus for eliminating steroscopic cross images
US6964667B2 (en) * 2000-06-23 2005-11-15 Sdgi Holdings, Inc. Formed in place fixation system with thermal acceleration
WO2003082083A1 (en) * 2002-03-28 2003-10-09 Nokia Corporation Detecting misalignment and distortion in near-eye displays
US6896655B2 (en) * 2002-08-05 2005-05-24 Eastman Kodak Company System and method for conditioning the psychological state of a subject using an adaptive autostereoscopic display
US7432879B2 (en) * 2003-02-10 2008-10-07 Schonlau William J Personal viewer
ES2333528T3 (es) * 2003-05-12 2010-02-23 Elbit Systems Ltd. Procedimiento y sistema de comunicacion audiovisual.
KR101423592B1 (ko) * 2005-05-26 2014-07-30 리얼디 인크. 개선된 입체투사를 위한 고스트 보정
US8085217B2 (en) * 2006-08-08 2011-12-27 Nvidia Corporation System, method, and computer program product for compensating for crosstalk during the display of stereo content
FR2906899B1 (fr) * 2006-10-05 2009-01-16 Essilor Int Dispositif d'affichage pour la visualisation stereoscopique.
US8736669B2 (en) * 2007-12-27 2014-05-27 Sterrix Technologies Ug Method and device for real-time multi-view production
JP4625517B2 (ja) * 2008-10-27 2011-02-02 富士フイルム株式会社 3次元表示装置および方法並びにプログラム
JP4747214B2 (ja) * 2009-09-17 2011-08-17 パナソニック株式会社 映像信号処理装置、及び、映像信号処理方法
US8446461B2 (en) * 2010-07-23 2013-05-21 Superd Co. Ltd. Three-dimensional (3D) display method and system
US8328354B2 (en) * 2010-09-20 2012-12-11 Hong Kong Applied Science And Technology Research Institute Co., Ltd. Systems and methods for binocular vision diagnosis and treatment
US9632315B2 (en) * 2010-10-21 2017-04-25 Lockheed Martin Corporation Head-mounted display apparatus employing one or more fresnel lenses
US10359545B2 (en) 2010-10-21 2019-07-23 Lockheed Martin Corporation Fresnel lens with reduced draft facet visibility
US9325976B2 (en) 2011-05-02 2016-04-26 Dolby Laboratories Licensing Corporation Displays, including HDR and 3D, using bandpass filters and other techniques
WO2016061447A1 (en) 2014-10-17 2016-04-21 Lockheed Martin Corporation Head-wearable ultra-wide field of view display device
WO2016141054A1 (en) 2015-03-02 2016-09-09 Lockheed Martin Corporation Wearable display system
JP6530239B2 (ja) * 2015-05-28 2019-06-12 浜松ホトニクス株式会社 両眼計測装置、両眼計測方法、及び両眼計測プログラム
US10754156B2 (en) 2015-10-20 2020-08-25 Lockheed Martin Corporation Multiple-eye, single-display, ultrawide-field-of-view optical see-through augmented reality system
US9995936B1 (en) 2016-04-29 2018-06-12 Lockheed Martin Corporation Augmented reality systems having a virtual image overlaying an infrared portion of a live scene
US10380950B2 (en) * 2016-09-23 2019-08-13 Novatek Microelectronics Corp. Method for reducing motion blur and head mounted display apparatus
US10666923B2 (en) * 2017-02-24 2020-05-26 Immervision, Inc. Wide-angle stereoscopic vision with cameras having different parameters

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4734756A (en) * 1981-12-31 1988-03-29 3-D Video Corporation Stereoscopic television system
GB8430980D0 (en) * 1984-12-07 1985-01-16 Robinson M Generation of apparently three-dimensional images
WO1986003924A1 (en) * 1984-12-17 1986-07-03 Nippon Hoso Kyokai System for transmitting stereoscopic television pictures
US5175616A (en) * 1989-08-04 1992-12-29 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of National Defence Of Canada Stereoscopic video-graphic coordinate specification system
FR2659816B1 (fr) * 1990-03-19 1994-01-28 France Etat Procede de reglage de la convergence stereoscopique dans un equipement de prise de vue stereoscopique.
US5320538A (en) * 1992-09-23 1994-06-14 Hughes Training, Inc. Interactive aircraft training system and method
JP3089306B2 (ja) * 1993-08-26 2000-09-18 松下電器産業株式会社 立体画像撮像及び表示装置

Also Published As

Publication number Publication date
JPH10108221A (ja) 1998-04-24
US5936663A (en) 1999-08-10

Similar Documents

Publication Publication Date Title
JP3771973B2 (ja) 立体映像表示装置
EP0641132B1 (en) Stereoscopic image pickup apparatus
JP3771964B2 (ja) 立体映像ディスプレイ装置
JP3089306B2 (ja) 立体画像撮像及び表示装置
JP7094266B2 (ja) 単一深度追跡型の遠近調節-両眼転導ソリューション
EP0921694B1 (en) Stereoscopic image pick-up apparatus
US6246382B1 (en) Apparatus for presenting stereoscopic images
JP5475893B2 (ja) 視覚疲労度測定装置およびその方法
WO2010084716A1 (ja) 画像処理装置、プログラム、画像処理方法、記録方法および記録媒体
JPH08322004A (ja) 立体視ディスプレイ装置
TW201234838A (en) Stereoscopic display device and control method of stereoscopic display device
US11570426B2 (en) Computer-readable non-transitory storage medium, web server, and calibration method for interpupillary distance
JP2002223458A (ja) 立体映像作成装置
JP3877080B2 (ja) 立体視ディスプレイ装置
JP2012244453A (ja) 画像表示装置、画像表示システム、及び3次元眼鏡
JPH0685590B2 (ja) 立体表示システム
JP2012209941A (ja) 立体視訓練支援装置、立体視訓練支援システム、画像処理装置、画像処理方法、及びプログラム
JPH11155154A (ja) 立体映像処理装置
JP2001066513A (ja) 実体顕微鏡
JP5725159B2 (ja) 測定装置、立体画像表示装置及び測定方法
JP5331785B2 (ja) 立体画像分析装置
JPH08211332A (ja) 立体映像再生装置
US20220350141A1 (en) Head-mountable display apparatus and methods
CN211791831U (zh) 集成成像显示系统
JPH10117362A (ja) 立体視映像表示装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051031

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060213

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090217

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100217

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110217

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110217

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120217

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120217

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130217

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140217

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees