JPWO2009066465A1 - 画像表示装置、その表示方法、プログラム、集積回路、眼鏡型ヘッドマウントディスプレイ、自動車、双眼鏡、及び卓上型ディスプレイ - Google Patents

画像表示装置、その表示方法、プログラム、集積回路、眼鏡型ヘッドマウントディスプレイ、自動車、双眼鏡、及び卓上型ディスプレイ Download PDF

Info

Publication number
JPWO2009066465A1
JPWO2009066465A1 JP2009542483A JP2009542483A JPWO2009066465A1 JP WO2009066465 A1 JPWO2009066465 A1 JP WO2009066465A1 JP 2009542483 A JP2009542483 A JP 2009542483A JP 2009542483 A JP2009542483 A JP 2009542483A JP WO2009066465 A1 JPWO2009066465 A1 JP WO2009066465A1
Authority
JP
Japan
Prior art keywords
eye
image
unit
scanning
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009542483A
Other languages
English (en)
Other versions
JP5222856B2 (ja
Inventor
圭司 杉山
圭司 杉山
山本 格也
格也 山本
黒塚 章
章 黒塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2009542483A priority Critical patent/JP5222856B2/ja
Publication of JPWO2009066465A1 publication Critical patent/JPWO2009066465A1/ja
Application granted granted Critical
Publication of JP5222856B2 publication Critical patent/JP5222856B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/011Head-up displays characterised by optical features comprising device for correcting geometrical aberrations, distortion
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0132Head-up displays characterised by optical features comprising binocular systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/08Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
    • G02B26/10Scanning systems

Abstract

画像表示装置は、元画像の一部又は全部を構成する左眼用画像を出力する左眼用光源(101)と、左眼用光源(101)で出力された左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向部(104)と、元画像の一部又は全部を構成する右眼用画像を出力する右眼用光源(110)と、右眼用光源(110)で出力された右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向部(107)と、融像効果によって左眼用画像と右眼用画像とからユーザが元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた左眼用画像及び右眼用画像を出力するように、左眼用画像出力部及び右眼用画像出力部を制御する制御部(105、111)とを備える。

Description

本発明は、HMD(ヘッドマウントディスプレイ)等の表示装置に関するものである。
従来、HMD(ヘッドマウントディスプレイ)等の表示装置において、レーザ光を2次元走査して、眼の網膜に直描する方式(以下、レーザ走査方式、と記す)がある。(例えば、特許文献1参照)。レーザ走査方式の表示装置は、網膜走査ディスプレイ(Retinal Scanning Display:RSD)、網膜照射ディスプレイ、網膜直描ディスプレイ、レーザ走査ディスプレイ、直視型表示装置、仮想網膜ディスプレイ(Virtual Retinal Display:VRD)、などとも呼ばれている。
図1A及び図1Bに眼鏡型のHMDの構造の例を示す。図1A及び図1Bでは、眼鏡フレームにレーザ光を発光する光源101、110、レーザ光の波面を制御する波面形状変更部102、109、及びレーザ光を二次元方向に走査する走査部103、108を搭載している。レーザ光は、走査部103、108によって眼鏡のレンズ11、12に向かって投影され、レンズ11、12の表面に備えられた偏向部104、107によって反射される。そして、このレーザ光がユーザの眼に入射し、網膜上に画像を形成する。ここで、偏向部104、107には、ハーフミラーやホログラム光学素子(HOE:Hologram Optical Element)などが用いられており、ユーザは外の景色とレーザによって描かれる画像の両方を同時に視認することが可能になる。また、走査部103、108には、一枚の単板ミラーを一軸、もしくは二軸方向に振動させることでレーザ光を二次元方向に走査するミラーデバイスなどが用いられる。
また、両眼に映像を表示するタイプのHMDでは、左右の眼に対して表示する映像の画素を変えることで、見かけ上の解像度を上げる先行例が存在している(例えば特許文献2参照)。この先行例では、右眼に奇数列、左眼に偶数列といったように互いに補完する画素を表示することで、ユーザには左右の表示画素が合成された画像を提示することを可能にしている。
特開平10−301055号公報 特開平9−061776号公報
しかしながら、レーザ走査方式の表示装置においては、表示する画像の解像度や、視野角、フレームレートといった画質を向上させることが困難という課題がある。まず、走査部103、108として単板ミラーを振動させるミラーデバイスを用いると、ミラーの大きさが、表示画像の高画質化の際の課題になる。
ミラーデバイスでは、図74に示すように、単板ミラー301を第一の回転軸Xおよび第一の回転軸Xと直交する第二の回転軸Yにそって振動させることで、ミラーに入射するレーザ光304の反射方向を変更し、二次元走査を行う。
図1に示すHMDにおいて、走査部103によって二次元走査されたレーザ光が、偏向部104上で描く軌跡の例を図75に示す。この図に示されるように、レーザ光は走査軌跡502を描くことで、ユーザの眼に対して表示画像501を表示するように、走査部103によって二次元走査される。この例では、走査部103の回転軸X方向が表示画像501の水平方向、回転軸Y方向が表示画像501の垂直方向に対応するように図1のHMDが設計されている。また、回転軸X方向(Y軸回り)にミラーが振動する周波数を、水平方向の駆動周波数Hx、回転軸Y方向(X軸回り)にミラーが振動する周波数を垂直方向の駆動周波数Hyで表現する。図75に示す走査軌跡502では、垂直方向にレーザが一回走査される間に、水平方向に複数回走査が行われる。一般に二軸ミラーによる駆動周波数Hx、Hyのうち、低速な側が表示画像501のフレームレートを決定する。図75の例では、垂直方向にビームが一回走査される間に、画像の1フレームが表示される。また逆方向にビームが走査される間にも画像の1フレームが表示される場合、垂直方向にレーザが一往復する間に、2フレームの映像が表示されることになるため、駆動周波数Hyと画像のフレームレートfpsの間には、数式(1)の関係が成り立つ。
Figure 2009066465
また、走査部103に入射したレーザ光304は、図76に示されるように、ミラーの振動に合わせて回転軸Xの方向に走査角α、回転軸Yの方向に走査角βで走査されている。ここで走査角α、βとは、走査部103によって走査されるレーザ光の範囲を示す角度である。図76に示すように、レーザ光が一番左側に走査されたときのレーザ光の進路と、一番右側に走査されたときのレーザ光の進路がなす角度を水平走査角αとして表現する。また同様に、レーザ光が一番上方に走査されたときのレーザ光の進路と、レーザ光が一番下方に走査されたときのレーザ光の進路とがなす角度を垂直走査角βとして表現する。
ここで、走査部103に含まれる単板ミラー301の直径をDとし、図1のHMDで表示される表示画像501の水平解像度をNx、垂直解像度Nyとすると、一般に数式(2)および数式(3)の関係が成り立つ。
Figure 2009066465
Figure 2009066465
そのためレーザ走査型の表示装置では、表示の解像度を上げるためには走査角α、βもしくは走査部103の単板ミラー301の直径Dを大きくする必要がある。
しかしながら、走査部103の単板ミラー301の直径Dを大きくした場合、単板ミラー301の重量が増加する。その結果、走査角α、βや単板ミラー301の駆動周波数Hx、Hyを高くすることが困難になり、表示画像501のフレームレートfpsの低下を招く。また、走査角α、βを上昇させると、単板ミラー301を大きく動かす必要があるため、駆動周波数Hx、Hyを高くすることが困難になる。また、単板ミラー301を動かすための駆動素子(アクチュエーター)の巨大化や消費電力の増大、駆動音の増大などを招き、走査部103を眼鏡型HMDに搭載することが困難になる。さらに、走査部103の駆動周波数と解像度の関係も、ビーム走査表示装置において高画質化を行う上での課題になる。
図1に示すHMDにおいて、走査部103によって二次元走査されたレーザ光303が、偏向部104上で描く軌跡の例を図77に示す。この図に示されるように、レーザ光303は、走査部103によって二次元走査されることによって、図77に示すような走査軌跡602cを描く。その結果、ユーザの眼に対して表示画像601cを表示する。この時、走査軌跡602cが、表示画像601cの表示行と上手く重なるようにオーバースキャン領域Or、Olが設定される。表示画像601cに対して、一般にオーバースキャン領域を含めた走査軌跡602cの走査領域に対して、表示画像601cが占める割合を、オーバースキャン率Aで示す。
ここで、図1のHMDで表示される表示画像601bの水平解像度をNx、垂直解像度Nyとすると、表示画像の垂直解像度Nyと、フレームレートfpsと、走査部103の水平方向の駆動周波数Hxの間には、一般に数式(4)の関係が成り立つ。この数式(4)に示されるように、走査部103の水平方向の駆動周波数Hxに上限がある場合、表示画像の垂直解像度Nyとフレームレートfpsの両方を同時に上昇させることは困難になる。
Figure 2009066465
また、広視野の映像を表示するために、走査部103、108の走査角α、βを大きくした場合にも、単板ミラー301が一周期の間に動く距離が大きくなるため、駆動周波数の低下を招く。そのためミラーデバイスを用いたビーム走査型HMDでは、広視野の表示画像のフレームレートと解像度を同時に高くすることが困難になる。
また、眼鏡型HMDのように偏向部104、107に対して斜めに画像を投影する場合には、画像が台形形状に歪むため、この歪みを補正するために画像の視野角が狭くなるという課題がある。
図1に示されるように、走査部103、108からの光は、それぞれ偏向部104、107に対して斜めに投影される。一般に、スクリーンに対して、斜め位置から矩形映像を投影した場合、スクリーンに投影される画像には台形歪み、もしくはキーストーンと呼ばれる歪みが発生するため、眼鏡型HMDにおいてもユーザの眼に台形に歪んだ画像が投影されることになる。
点光源Oからの矩形映像を、スクリーンSに対して斜めに入射した場合に生じる台形歪みを図78および図79を用いて例示する。図78はスクリーンSの上方からの図、図79はスクリーンSの正面からの図である。この例では、図78及び図79に示されるように、光源Oからの光は、スクリーンSに対して左斜め手前から入射される。このため、図78に示されるように、光源OとスクリーンSまでの距離が、投影画像の左辺L1と右辺L2とで異なる。
また、図79に示されるように、光源Oからの投射映像は、縦方向に投射角θで広がるため、点光源Oからの距離が離れるほど、スクリーン上の投影画像の辺の長さは長くなる。このためスクリーンS上の投影画像401aは、台形形状に歪むことになる。
しかしながら、眼鏡レンズに対して斜めに映像を投影する眼鏡型HMDの先行例(特許文献1)では、この斜め投影に関する対策がなされていない。なお、光源Oがレーザと走査部ではなく、液晶素子や有機EL(organic electroluminescence)ディスプレイからなる場合においても、この課題は発生する。
現在市販されているフロントプロジェクタ等では、台形歪みに対応するために画像処理による補正が行われる。図80に画像処理による台形歪みの補正の例を示す。台形形状の補正前画像501aの上底もしくは下底の内、短い方の辺の長さに合わせて、矩形の表示領域を決定する。そして、矩形領域からはみ出す部分では画像の表示を行わないことで、ユーザに対しては矩形の補正後画像502aを表示できる。しかし、この方法では補正前画像501aの一番短い辺の長さにあわせて、表示画像の大きさが決まるため、結果として視野が狭い画像しか表示できないという課題があった。
このようにビーム走査型表示装置においては、走査部103、108の大きさや駆動周波数、そして走査部103、108と偏向部104、107の位置関係などから解像度、視野角、フレームレートといった画質を向上させることが困難になる。眼鏡レンズに対して斜めに映像を投影する眼鏡型HMDの先行例(特許文献1)では、広視野化と、画質向上の両立に関する対策がなされていない。
特許文献2では、左右の解像度を落としてもユーザが視認する表示映像の解像度を保つ方法が開示されている。しかしながら、ビーム走査型表示装置特有のフレームレートと解像度に関する課題には触れられていない。また、フレームレートと解像度のどちらかを優先する方が適切なのかは、画像の内容によって異なる。スポーツ番組など動きの激しい映像は、フレームレートを優先するべきだが、静止画像のような場合は、解像度を優先する必要がある。特許文献2では、このような情報の内容によるフレームレートや解像度の変更などについても考慮されていない。
本発明は前記課題を解決するもので、画像表示装置において、左右の映像の表示を適切に変化させることで、両眼の融像効果によって、ユーザが視認する映像の見かけ上の画質を向上させることを目的とする。
前記従来の課題を解決するために、本発明に係る画像表示装置は、ユーザの網膜に画像を表示する画像表示装置であって、元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力部と、前記左眼用画像出力部で出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向部と、元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力部と、前記右眼用画像出力部で出力された前記右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向部と、融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御部とを備える。
本構成によって、片方の眼で広い画角の画像を低画質で表示し、他方の眼で狭い画角の画像を高画質表示し、見かけ上の画質向上と表示画像の広視野化を行うことが可能になる。
また、前記左眼用画像出力部は、左眼用画像を構成する各画素を描画するビームを出力する左眼用光源と、前記左眼用光源からのビームを前記左眼用偏向部に走査させる左眼用走査部とを含み、前記右眼用画像出力部は、右眼用画像を構成する各画素を描画するビームを出力する右眼用光源と、前記右眼用光源からのビームを前記右眼用偏向部に走査する右眼用走査部とを含むようにしてもよい。本構成によって、眼鏡に搭載する画像表示装置を小型化、省電力化しながら、映像の台形歪を防止することができる。
また、前記制御部は、前記左眼用走査部及び前記右眼用走査部のうちの一方に前記元画像の一部のみを走査する第1の走査角でビームを走査させ、他方に前記第1の走査角より大きく、且つ前記元画像の全体を走査する走査角以下の第2の走査角でビームを走査させる走査範囲設定部と、前記左眼用画像出力部及び前記右眼用画像出力部を制御することによって、前記走査範囲設定部によって設定された走査角に応じて、画質の異なる前記左眼用画像及び前記右眼用画像を出力させる画質設定部とを備えてもよい。
一実施形態として、前記画質設定部は、前記左眼用画像出力部及び前記右眼用画像出力部のうち、前記第1の走査角が設定された側に対応する画像出力部に第1のフレームレートの画像を出力させ、前記第2の走査角が設定された側に対応する画像出力部に前記第1のフレームレートより小さい第2のフレームレートの画像を出力させるフレームレート設定部を含む。本構成によって狭い画角の画像を高いフレームレートで表示し、ユーザが視認する画像の見かけ上のフレームレートを向上させることが可能になる。
他の実施形態として、前記画質設定部は、前記左眼用画像出力部及び前記右眼用画像出力部のうち、前記第1の走査角が設定された側に対応する画像出力部に第1の解像度の画像を出力させ、前記第2の走査角が設定された側に対応する画像出力部に前記第1の解像度より低い第2の解像度の画像を出力させる解像度設定部を含む。本構成によって狭い画角の画像を高画素で表示し、ユーザが視認する画像の見かけ上の解像度を向上させることが可能になる。
また、前記左眼用走査部と前記右眼用走査部とは、互いにサイズが異なっており、前記走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちのサイズが大きい側に前記第1の走査角でビームを走査させ、サイズが小さい側に前記第2の走査角でビームを走査させてもよい。本構成によって狭い画角の画像を高画素で表示し、ユーザが視認する画像の見かけ上の解像度を向上させることが可能になる。
本発明に係る画像表示装置は、さらに、ユーザの視線を検出する視線検出部を備え、走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちの前記第1の走査角が設定された側に、前記視線検出部の検出結果に基づいてユーザの視線位置を含む領域にビームを走査させる。本構成によって、ユーザの視線が動いた場合でも、ユーザの中心視野には高画質の画像を提示することが可能になる。
また、前記走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちのユーザの利き目に対応する側に前記第1の走査角でビームを走査させ、他方に前記第2の走査角でビームを走査させてもよい。本構成によって、ユーザが見えやすい側の眼に高画質の画像を提示することができ、ユーザが視認する画像の見かけ上の画質を向上させることが出来る。
また、前記走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちのユーザの視力の高い方の眼に対応する側に前記第1の走査角でビームを走査させ、他方に前記第2の走査角でビームを走査させてもよい。本構成によって、ユーザが見えやすい側の眼に高画質の画像を提示することができ、ユーザが視認する画像の見かけ上の画質を向上させることが出来る。
また、前記制御部は、前記元画像を複数の走査領域に区分し、各フレームにおける前記左眼用走査部及び前記右眼用走査部の走査領域が異なり、且つ隣接するフレームにおける前記左眼用走査部及び前記右眼用走査部それぞれの走査領域が異なるように、前記左眼用走査部及び前記右眼用走査部それぞれにビームを走査させる前記走査パターン決定部を含んでもよい。本構成によって、右眼と左眼で異なる部分の画素が表示され続けることを防ぎ、ユーザが画像を見るときの違和感を低減することができる。
一実施形態として、前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、前記走査パターン決定部は、各フレームにおいて、前記左眼用走査部及び前記右眼用走査部が前記第2の方向に隣接する画素を走査するように、前記元画像を複数の走査領域に区分してもよい。本構成によって、両眼の融像効果によってユーザが視認する画像の画素の連続性を上げることができ、表示画像の滑らかさを向上させることが可能になる。
他の実施形態として、前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、前記走査パターン決定部は、各フレームにおいて、前記左眼用走査部及び前記右眼用走査部それぞれが前記第2の方向に連続した走査領域を走査するように、前記元画像を複数の走査領域に区分してもよい。本構成によって、両眼の融像効果によってユーザが視認する画像の画素の連続性を上げることができ、表示画像の滑らかさを向上させることが可能になる。
また、前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、前記走査パターン決定部は、前記左眼用走査部と前記右眼用走査部とで前記第2の方向の走査方向が反対向きになるように、前記左眼用走査部及び前記右眼用走査部それぞれにビームを走査させてもよい。本構成によって、右眼と左眼で表示する画素が重なることを避けることができ、両眼による融像効果の効果を上げることができる。
前記制御部は、前記左眼用走査部及び前記右眼用走査部の最大駆動周波数に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正した補正画像を生成する表示画質決定部を含み、前記走査パターン決定部は、前記表示画質決定部によって生成された前記補正画像を複数の走査領域に区分し、前記左眼用走査部及び前記右眼用走査部それぞれにビームを走査させてもよい。本構成によって、走査部の駆動周波数の上限により、フレームレートを保つために、左右の眼の解像度を下げる場合においても、左右の眼の融像効果を利用することでユーザが視認する画像の解像度の低下を抑えることができる。また倍速駆動など画像の本来のフレームレートより、高速なフレームレートで画像を表示する際の解像度の低下を抑えることが可能になる。
また、前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、前記表示画質決定部は、前記元画像のフレームレートを、前記元画像を表示するのに必要とされる前記左眼用走査部及び前記右眼用走査部の前記第2の方向の駆動周波数、及び前記左眼用走査部及び前記右眼用走査部の前記第2の方向の最大駆動周波数のうちのいずれか小さいほうの2倍に補正してもよい。本構成によって、両眼の融像効果によって見かけ上の解像度を保ちながら、表示画像のフレームレートを高く設定することが可能になる。
さらに、前記表示画質決定部は、補正された前記フレームレートと前記左眼用走査部及び前記右眼用走査部の第1の方向の駆動周波数から算出される前記第2の方向の表示画素数が、前記元画像のフレームレートが1以上となる予め定められた値以上で、且つ前記元画像の前記第2の方向の表示画素数以下となるように、補正された前記フレームレートを再補正してもよい。本構成によって、走査部の性能を最大に利用できるように、表示画像のフレームレートや解像度を設定することが可能になる。
また、前記走査パターン決定部は、前記元画像を、前記左眼用画像もしくは前記右眼用画像のいずれかの全画素数を前記表示画質決定部によって補正された各フレームの表示画素数で除した商に該当する数の走査領域に区分してもよい。本構成によって、最小限のフレーム数で、表示画像の全画素を用事することが可能になる。
また、前記表示画質決定部は、さらに、前記元画像の内容を示すコンテンツ情報に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正してもよい。本構成によってスポーツなど動きの大きい画像はフレームレートを高くし、ニュースなど文字情報が多い画像は解像度をあげるなど、画像に応じた適切な画質を選択することが可能になる。
制御部は、さらに、ユーザがコンテンツ情報毎に設定する画質補正値を保持するユーザプロファイル管理部を含み、前記表示画質決定部は、前記元画像のコンテンツ情報に対応する前記画質補正値に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正してもよい。本構成によって、スポーツやニュースなど情報の種類ごとにユーザの好みの画質を設定し、それに応じたフレームレートおよび解像度の変更を行うことが可能になる。
また、前記ユーザプロファイル管理部は、さらに、ユーザの視力に関する情報を保持し、前記表示画質決定部は、前記ユーザプロファイル管理部が保持するユーザの視力に関する情報に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正してもよい。本構成によって、視力の悪いユーザに対しては解像度よりフレームレートを優先して画質の変更を行う、といった処理を行うことが可能になる。
本発明の画像表示装置は、さらに、該画像表示装置を駆動するためのバッテリーと、前記バッテリーの残量を検出する電源管理部と、前記電源管理部の検出結果に応じて、前記左眼用走査部及び前記右眼用走査部の両方の駆動周波数の最大値を変更する駆動周波数決定部とを備えてもよい。本構成によって、バッテリー残量が少ないときには走査部によるバッテリーの消費を抑え、表示装置の駆動時間を長く保つことが可能になる。
前記左眼用走査部が走査するビームが前記左眼用偏向部に対して斜めに入射することによって前記左眼用画像が前記左眼用偏向部上で台形形状に歪んだ左眼用歪画像となり、且つ前記右眼用走査部が走査するビームが前記右眼用偏向部に対して斜めに入射することによって前記右眼用画像が前記右眼用偏向部上で台形形状に歪んだ右眼用歪画像となる場合において、前記制御部は、前記左眼用歪画像の長辺の一部を第1の辺とし、前記第1の辺に直交し、且つ前記第1の辺の端点と前記左眼用歪画像の斜辺とを結ぶ線分を第2の辺とする矩形形状の左眼用矩形領域、及び前記右眼用画像の長辺の一部を前記第1の辺と同じ長さの第3の辺とし、前記第3の辺に直交し、且つ前記第3の辺の端点と前記右眼用歪画像の斜辺とを結ぶ線分を第4の辺とする矩形形状の右眼用矩形領域を決定する矩形領域決定部と、前記第1の辺を高さとし、前記第2の辺と前記第4の辺との和を幅とした補正画像となるように、前記元画像の高さ及び幅のうちの少なくともいずれか一方を調整する縦横比調整部と、前記左眼用偏向部上に前記左眼用画像が表示されるように前記補正画像を前記左眼用歪画像と反対向きに歪ませた左眼用補正画像、前記右眼用偏向部上に前記右眼用画像が表示されるように前記補正画像を前記右眼用歪画像と反対向きに歪ませた右眼用補正画像を生成する歪補正部と、前記左眼用補正画像のうちの前記左眼用矩形領域に対応する部分を前記左眼用画像出力部に出力させ、且つ前記右眼用補正画像のうちの前記右眼用矩形領域に対応する部分を前記右眼用画像出力部に出力させる出力画像制御部とを含んでもよい。
本構成によって、メガネ形のHMDを実現時に生じる画像の台形歪みの補正に、両眼の融像効果を活用でき、従来の台形補正よりも大きな垂直視野角を保った台形歪み補正が可能になる。
一実施形態として、前記矩形領域決定部は、前記左眼用歪画像の短辺が前記右眼用画像の長辺に含まれ、且つ前記右眼用画像の短辺が前記左眼用歪画像の長辺に含まれるように、前記左眼用画像と前記右眼用歪画像とを重ね合わせたときに、前記第2及び第4の辺が、前記左眼用歪画像及び前記右眼用歪画像それぞれの斜辺の交点を通る直線となるように、前記左眼用矩形領域及び前記右眼用矩形領域を決定してもよい。
また、前記制御部は、前記第1の辺の対辺を長辺とし、前記左眼用歪画像の斜辺の一部を斜辺とする台形形状であって、高さが前記第4の辺より短い左眼用残領域、及び前記第3の辺を長辺とし、前記右眼用歪画像の斜辺の一部を斜辺とする台形形状であって、高さが前記第2の辺より短い右眼用残領域を決定する残領域決定部を含み、前記出力画像制御部は、さらに、前記左眼用補正画像のうちの前記左眼用残領域に対応する部分を前記左眼用画像出力部に出力させ、且つ前記右眼用補正画像のうちの前記右眼用残領域に対応する部分を前記右眼用画像出力部に出力させてもよい。本構成によって、両眼の融像効果によってユーザが認識する画像の右辺と左辺が滑らかな直線になる効果がある。
一実施形態として、前記出力画像制御部は、前記左眼用画像出力部及び前記右眼用画像出力部を制御することによって、前記左眼用残領域、及び前記右眼用矩形領域のうちの前記左眼用残領域に重なる領域のうちの少なくともいずれか一方の輝度を低下させ、且つ前記右眼用残領域、及び前記左眼用矩形領域のうちの前記右眼用残領域に重なる領域のうちの少なくともいずれか一方の輝度を低下させてもよい。
他の実施形態として、前記出力画像制御部は、前記左眼用画像出力部及び前記右眼用画像出力部を制御することによって、前記右眼用矩形領域のうちの前記左眼用残領域に重ならない領域の輝度を増大させ、且つ前記左眼用矩形領域のうちの前記右眼用残領域に重ならない領域の輝度を増大させてもよい。
本構成によって、両眼の融像効果によってユーザが認識する画像に輝度のムラが生じることを防ぐ効果がある。
また、前記矩形領域決定部は、前記補正画像の幅と高さとが、16:9または4:3の比率となるように前記左眼矩形領域および前記右眼矩形領域の形状を決定してもよい。本構成によって、両眼の融像効果によってユーザが認識する画像の形状がアスペクト比16:9もしくは4:3の映像視認に適したものになる。
また、前記矩形領域決定部は、ユーザの左右の眼の視力の差が一定値以上の場合に、視力の高い方の眼に対応する矩形領域が最大、且つ視力の低い方の眼に対応する矩形領域が0になるように、前記左眼矩形領域と前記右眼矩形領域の形状を決定し、前記残領域決定部は、視力の高い方の眼に対応する残領域が0、且つ視力の低い方の眼に対応する残領域が最大になるように、前記左眼残領域と前記右眼残領域の形状を決定してもよい。本構成によって、視力の悪いほうの眼の影響を除去して台形歪みの補正を行うことができる。
本発明に係る表示方法は、元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力ステップと、前記左眼用画像出力ステップで出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向ステップと、元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力ステップと、前記右眼用画像出力ステップで出力された前記右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向ステップと、融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御ステップとを含む。
本発明に係るプログラムは、元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力ステップと、前記左眼用画像出力ステップで出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向ステップと、元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力ステップと、前記右眼用画像出力ステップで出力された前記右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向ステップと、融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御ステップとをコンピュータに実行させる。
本発明に係る集積回路は、元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力部と、前記左眼用画像出力部で出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向部と、元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力部と、前記右眼用画像出力部で出力された前記左眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向部と、融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御部とを備える。
なお、本発明は、このようなビーム走査型表示装置として実現できるだけでなく、ビーム走査型表示装置の機能を実現する集積回路として実現したり、そのような機能をコンピュータに実行させるプログラムとして実現したりすることもできる。そして、そのようなプログラムは、CD−ROM等の記録媒体及びインターネット等の伝送媒体を介して流通させることができるのは言うまでもない。また、本発明は、このような表示装置の機能を実現する集積回路として実現したりもできる。
本発明に係る眼鏡型ヘッドマウントディスプレイは、上記の画像表示装置と、ユーザの左眼の位置に配置され、ユーザの左眼に対面する位置に前記左眼用偏向部を有する左眼用レンズと、ユーザの右眼の位置に配置され、ユーザの右眼に対面する位置に前記右眼用偏向部を有する右眼用レンズと、一端が前記左眼用レンズに連結され、他端がユーザの左側頭部に固定される左側テンプルと、一端が前記右眼用レンズに連結され、他端がユーザの右側頭部に固定される右側テンプルとを備える。
本発明に係る自動車は、上記の画像表示装置と、前記左眼用偏向部偏向部及び前記右眼用偏向部を有するフロントガラスとを備える。
本発明に係る双眼鏡は、前記左眼用偏向部を有する左眼用接眼レンズと、前記右眼用偏向部を有する右眼用接眼レンズとを備える。
本発明に係る卓上型ディスプレイは、上記の画像表示装置と、前記表示装置を収納する筐体と、前記筐体の表面に前記左眼用偏向部及び前記右眼用偏向部によって構成される表示面とを備える。
眼鏡型のHMDでの見かけ上の画質向上に、両眼の融像効果を活用でき、走査部の性能を抑えたまま、ユーザが視認する映像の見かけ上のフレームレートもしくは見かけ上の解像度を向上させることができる。
図1Aは、本発明の実施の形態1におけるビーム走査型表示装置の平面図である。 図1Bは、本発明の実施の形態1におけるビーム走査型表示装置の側面図である。 図2は、本発明の実施の形態1におけるビーム走査型表示装置の詳細構成図である。 図3は、本発明の実施の形態1におけるビーム走査型表示装置の機能ブロック図である。 図4Aは、ユーザの左眼に投影する左眼用画像の例である。 図4Bは、ユーザの右眼に投影する右眼用画像の例である。 図4Cは、図4A及び図4Bを投影したときに、融像効果によってユーザが認識する全体像を示す図である。 図5は、人間の視野と視力の関係を示した表である。 図6は、本発明の実施の形態1における表示画像の見かけ上のフレームを向上させる処理のフローチャートである。 図7Aは、本発明の実施の形態1におけるHMDで表示に用いられる元画像の寸法を示した図である。 図7Bは、図7Aに示す元画像の水平画角を示す図である。 図7Cは、図7Aに示す元画像の垂直画角を示す図である。 図8Aは、本発明の実施の形態1におけるHMDで表示に用いられる中心画像の寸法を示した図である。 図8Bは、図8Aに示す中心画像の水平画角を示す図である。 図8Cは、図8Aに示す中心画像の垂直画角を示す図である。 図9Aは、ユーザの視線位置を中心として中心画像を設定した例を示す図である。 図9Bは、図9Aの元画像とユーザの視線との関係を示す図である。 図10は、本発明の実施の形態1において、走査部の水平走査角と、ユーザに表示される画像の水平画角の関係を示した図である。 図11は、本発明の実施の形態1におけるHMDで表示に用いられる元画像のフレームを示した図である。 図12は、本発明の実施の形態1におけるHMDで表示に用いられる広視野画像の表示フレームを示した図である。 図13は、本発明の実施の形態1におけるHMDで表示に用いられる狭視野画像の表示フレームを示した図である。 図14は、本発明の実施の形態1において、両眼の融像効果によってユーザが視認する画像のフレームを示した図である。 図15は、本発明の実施の形態2における広視野用走査部と偏向部の配置図である。 図16は、本発明の実施の形態2における狭視野用走査部と偏向部の配置図である。 図17Aは、本発明の実施の形態2におけるHMDで表示に用いられる元画像の寸法を示した図である。 図17Bは、図17Aに示す元画像の水平画角を示す図である。 図17Cは、図17Aに示す元画像の垂直画角を示す図である。 図18Aは、本発明の実施の形態2におけるHMDで表示に用いられる中心画像の寸法を示した図である。 図18Bは、図18Aに示す中心画像の水平画角を示す図である。 図18Cは、図18Aに示す中心画像の垂直画角を示す図である。 図19は、本発明の実施の形態2における表示画像の見かけ上の解像度を向上させる処理のフローチャートである。 図20は、本発明の実施の形態2におけるHMDで表示に用いられる元画像のフレームを示した図である。 図21は、本発明の実施の形態2におけるHMDで表示に用いられる広視野画像の表示フレームを示した図である。 図22は、本発明の実施の形態2におけるHMDで表示に用いられる狭視野画像の表示フレームを示した図である。 図23は、本発明の実施の形態2において、両眼の融像効果によってユーザが視認する画像のフレームを示した図である。 図24は、本発明の実施の形態3におけるビーム走査型表示装置の機能ブロック図である。 図25は、偏向部上での投影画像の歪みを示した図である。 図26は、台形歪みの補正手順を示したフローチャートである。 図27は、走査部と偏向部の位置関係を示した図である。 図28は、偏向部上の台形歪みを示した図である。 図29は、左眼用偏向部上における投影像の形状を示す図である。 図30は、右眼用偏向部上における投影像の形状を示す図である。 図31は、ユーザが視認する画像の形状を示す図である。 図32は、左眼用偏向部上の投影像から矩形領域と残領域とを抽出した状態を示す図である。 図33は、右眼用偏向部上の投影像から矩形領域と残領域とを抽出した状態を示す図である。 図34は、台形歪み補正後の表示映像の形状を示す図である。 図35は、本発明の実施の形態3における左右の眼に表示する画像の変形手順を示したフローチャートである。 図36Aは、元画像の縦寸法と横寸法とを示す図である。 図36Bは、図36Aの元画像の縦横比を調整して生成した補正画像を示す図である。 図37は、補正画像のうちの左眼に表示する画像領域を示した図である。 図38は、補正画像のうちの右眼に表示する画像領域を示した図である。 図39は、図37の画像に歪補正を施した後の状態を示す図である。 図40は、図38の画像に歪補正を施した後の状態を示す図である。 図41は、図39の画像のうち、出力対象となる部分を抽出した状態を示す図である。 図42は、図40の画像のうち、出力対象となる部分を抽出した状態を示す図である。 図43は、左眼用偏向部上の投影像から矩形領域を抽出した状態を示す図である。 図44は、右眼用偏向部上の投影像から残領域を抽出した状態を示す図である。 図45は、台形歪み補正後の表示映像の形状を示す図である。 図46は、補正画像のうち、左眼に表示する画像領域を示した図である。 図47は、補正画像のうち、右眼に表示する画像領域を示した図である。 図48は、本実施の形態3における典型例を説明するための図である。 図49は、本発明の実施の形態4におけるビーム走査型表示装置の機能ブロック図である。 図50は、表示画像のフレームレートと解像度を変更する処理のフローチャートである。 図51は、表示に用いられる元画像の寸法を示した図である。 図52は、元画像に付加されているメタデータの例を示す図である。 図53は、バッテリー残量と、周波数補正値との関係を示す図である。 図54は、元画像のコンテンツ情報と、フレームレート係数との関係を示す図である。 図55は、コンテンツ情報と、フレームレート係数補正値との関係を示す図である。 図56Aは、走査部による垂直走査範囲の一例を示す図である。 図56Bは、走査部による垂直走査範囲の他の例を示す図である。 図56Cは、走査部による垂直走査範囲の他の例を示す図である。 図57は、左右の走査部における走査パターンの一例を示す図である。 図58は、左右の走査部における走査パターンの他の例を示す図である。 図59は、左右の走査部における走査パターンの他の例を示す図である。 図60は、左右の走査部における走査パターンの他の例を示す図である。 図61は、左右の走査部における走査パターンの他の例を示す図である。 図62は、左右の走査部における走査パターンの他の例を示す図である。 図63は、左右の走査部における走査パターンの他の例を示す図である。 図64は、本実施の形態5におけるHUDの側面図である。 図65は、図64に示すHUDの鳥瞰図の一例を示す図である。 図66は、図64に示すHUDの鳥瞰図の他の例を示す図である。 図67は、図64に示すHUDの鳥瞰図の他の例を示す図である。 図68は、図64に示すHUDの詳細構成図である。 図69は、本実施の形態6における双眼鏡の鳥瞰図の一例を示す図である。 図70は、図69に示す双眼鏡の左眼側表示部を示す図である。 図71は、図69に示す双眼鏡の右眼側表示部を示す図である。 図72は、本実施の形態6における双眼鏡の鳥瞰図の他の例を示す図である。 図73は、本実施の形態7における卓上型ディスプレイを示す図である。 図74は、ビームを二次元走査するミラーの回転軸の例を示す図である。 図75は、走査部によって走査されたレーザ光が偏向部上に描く軌跡を示した図である。 図76は、走査部と偏向部の配置図の例を示す図である。 図77は、オーバースキャン領域を考慮した場合の走査パターンの例を示す図である。 図78は、点光源からの映像をスクリーンに斜め投影した際の鳥瞰図である。 図79は、点光源からの映像をスクリーンに斜め投影した際の正面図である。 図80は、従来技術による台形歪みの補正を示した図である。
符号の説明
11 左眼用レンズ
12 右眼用レンズ
13 左側テンプル
14 右側テンプル
100 左眼用画像出力部
101 左眼用光源
102 左眼用波面形状変更部
103 左眼用走査部
104 左眼用偏向部
105 左眼用制御部
106,112 ヘッドホン部
107 右眼用偏向部
108 右眼用走査部
109 右眼用波面形状変更部
110 右眼用光源
111 右眼用制御部
201,3001 焦点距離水平成分変更部
202,3002 焦点距離垂直成分変更部
211 赤色レーザ光源
212 青色レーザ光源
213 緑色レーザ光源
214 光検出部
301 単板ミラー
303,304 レーザ光
401a 投影画像
501,601c 表示画像
501a 補正前画像
502a 補正後画像
502,602c 走査軌跡
601 左眼用画像
601a 左眼用歪画像
601b 左眼用表示領域
602 右眼用画像
602a 右眼用歪画像
602b 右眼用表示領域
603 全体像
801b 画像分析部
802b 駆動周波数決定部
803b 電源管理部
804b 表示画質決定部
805b ユーザプロファイル管理部
806b 走査パターン決定部
807b 画像制御部
901,1901,1901a 元画像
1001,2001 中心画像
1051 走査範囲設定部
1052 画質設定部
1053 解像度設定部
1054 フレームレート設定部
1401a,1401b 左眼用矩形領域
1401,1402,1403 走査パターン
1402a 左眼用残領域
1501a 右眼用矩形領域
1502a,1502b 右眼用残領域
1601a 融像後図形
1801 台形歪み判定部
1802 矩形領域決定部
1803 残領域決定部
1804 画像制御部
1805 縦横比調整部
1806 歪補正部
1807 出力画像制御部
1902a 補正画像
2001a,2601a 左眼用部分画像
2101a,2701a 右眼用部分画像
2201a 左眼用台形画像
2301a 右眼用台形画像
2401a 左眼投影用画像
2501a 右眼投影用画像
2202a,2203a,2302a,2303a 台形領域
2402a,2502a 矩形領域
2601 車
2602,2610 レーザ走査ユニット
2603 フロントガラス
2604 ハーフミラー
2605 ドライバー
2606,2609 眼球
2607 天井
2608 支持棒
3101 双眼鏡
3101a 左眼側表示部
3101b 右眼側表示部
3102,3501 折り返しミラー
3103,3502 カメラ
3104 右眼
3105 ユーザ
3106 左眼
3401 卓上型ディスプレイ
以下本発明の実施の形態について、図面を参照しながら説明する。
(実施の形態1)
図1A〜図3を参照して、本発明の実施の形態1に係るメガネ形のビーム走査型表示装置(ヘッドマウントディスプレイ:HMD)を説明する。なお、図1Aはビーム走査型表示装置の正面図、図1Bはビーム走査型表示装置の側面図、図2は図1Aの一部の詳細図、図3は実施の形態1に係るビーム走査型表示装置の機能ブロック図である。 本発明の実施の形態1に係る眼鏡型のビーム走査型表示装置は、表示装置と、ユーザの左眼の位置に配置される左眼用レンズ11と、ユーザの右眼の位置に配置される右眼用レンズ12と、一端が左眼用レンズ11に連結され、他端がユーザの左側頭部に固定される左側テンプル13と、一端が右眼用レンズ12に連結され、他端がユーザの右側頭部に固定される右側テンプル14とを備える。
表示装置は、図1A、図1B、及び図2に示されるように、表示画像を構成する各画素を描画するビームを出力する光源101、110と、光源101、110から出力されたビームの波面形状を変更する波面形状変更部102、109と、波面形状変更部102、109から出力されたビームを偏向部104、107に向かって2次元走査する走査部103、108と、走査部103、108の走査光をユーザの眼に向かう方向に偏向する偏向部104、107と、前述の各部を制御する制御部105、111と、ヘッドホン部106、112とを備える。
なお、左眼用光源101、左眼用波面形状変更部102、及び左眼用走査部103で左眼用画像出力部100を構成する。同様に、右眼用光源110、右眼用波面形状変更部109、右眼用走査部108で右眼用画像出力部(図示省略)を構成する。
なお、この実施形態においては、光源101、110、波面形状変更部102、109、走査部103、108、制御部105、111、及びヘッドホン部106、112がテンプル13、14に収納され、偏向部104、107がレンズ11、12のユーザの眼に対面する側に配置されている。
なお、本明細書においては、「左眼用レンズ11」と「右眼用レンズ12」とを総称して「レンズ11、12」と称することがある。同様に、他の構成要素(画像等も含む)についても、左眼用と右眼用とを総称するときには、「左眼用」及び「右眼用」の語を省略することがある。
光源101、110は、ビームを出力する。出力するビームは、図2に示すように、赤色レーザ光源211と、青色レーザ光源212と、緑色レーザ光源213とから出力される各レーザ光を合波したレーザ光であり、各色レーザ光源211、212、213からの出力を適切に変調することで、任意の色のレーザ光を出力できる。さらに、波面形状変更部102、109や走査部103、108と連動させて変調することで、ユーザの眼の網膜上に映像を表示できる。
なお、この実施形態における緑色レーザ光源213は、赤外線を出力する半導体レーザ光源と、赤外線を緑色に変換するSHG(Second−Harmonic Generation:第2次高調波発生)素子とを組み合わせて緑色レーザを出力する。ただし、上記の構成に限ることなく、緑色の半導体レーザ光源213を採用してもよい。また、各レーザ光源211、212、213は、固体レーザ、液体レーザ、ガスレーザ、発光ダイオード等であってもよい。
なお、光源101、110は、図2に示されるように、光検出部214を含んでもよい。光検出部214は、ユーザの眼の角膜からの反射光の強度を検出することで、ユーザの視線方向を検出できる。偏向部104、107により眼の方向へ偏向されたビームの多くは、角膜表面に対して斜めから入射するが、眼球に対して正面からのビームは、角膜表面に対して垂直に入射するために、ビームの反射率が比較的高くなる。このような性質を利用することにより、反射光の強度から視線方向を検出できる。
波面形状変更部102、109は、光源101、110からのビームの波面形状をそれぞれ変化させて、偏向部104、107で偏向されたビームのスポットサイズを所定の範囲内となるようにする。
ビームの「スポットサイズ」とは、ユーザの眼の網膜でのスポットサイズとして、以後説明するが、瞳孔でのスポットサイズ、角膜でのスポットサイズ、偏向部104、107でのスポットサイズでもよい。網膜でのスポットサイズは、表示する画素サイズと同一である。また、「波面形状」とは、ビーム波面の3次元形状であり、平面、球面、非球面の形状を含む。
図2に示す左眼用波面形状変更部102は、焦点距離水平成分変更部201と、焦点距離垂直成分変更部と202とを光路に直列に配置している。これによって、ビームの水平方向の曲率と垂直方向の曲率とを独立して変更できる。焦点距離水平成分変更部201は、シリンドリカルレンズとミラーとの距離を変更することで水平方向の曲率を変更している。焦点距離垂直成分変更部202は、焦点距離水平成分変更部201のシリンドリカルレンズに対して垂直に配置したシリンドリカルレンズを用いることで、垂直方向の曲率を変更している。また、焦点距離水平成分変更部201及び焦点距離垂直成分変更部202ともに、曲率の変更に伴い、ビームの直径も変更している。
なお、水平方向の曲率を垂直方向よりも大きく変化させると、水平方向の変化により大きく対応できるので、画面の水平視野角を垂直視野角より大きくしたい場合や、側頭部に走査部103、108があるHMDのように、走査部103、108から偏向部104、107へのビームの水平入射角が垂直入射角よりも大きい場合に、特に有効となる。
なお、図2では、波面形状を表す項目のなかで、水平方向の曲率と垂直方向の曲率とそれぞれの直径という波面形状の一部のみを変更しているが、他の項目として波面内での曲率の分布や、波面端の形状やサイズなどを変更する手段があってもよい。
なお、本実施の形態における波面形状変更部102、109では、シリンドリカルレンズとミラーを用いて波面形状を変更するが、他の手段として、液晶レンズや、液体レンズ等の可変形状レンズや、EO素子(電気−光変換素子)などを用いてもよい。この場合、レンズの位置を動かすこと無しに波面形状を変更することが可能になる。またシリンドリカルレンズの代わりに回折素子などを用いることで、装置全体の小型化を図ることが可能になる。
走査部103、108は、それぞれ波面形状変更部102、109からのビームを偏向部104、108に向かって2次元走査する。走査部103、108は、角度を2次元的に変更できる単板小型ミラーであり、より具体的には、MEMS(Micro−Electro−Mechanical−System)ミラーである。なお、走査部103、108は、水平走査用と垂直走査用のように2種以上の走査部の組合せで実現してもよい。偏向部104、107は、走査部103、108で走査されたビームの向きをそれぞれユーザの眼に向かう方向へ偏向する。偏向部104、107では、メガネのレンズ11、12の内側(眼の側)に、例えばフォトポリマー層を形成し、フォトポリマー層にリップマン体積ホログラムを形成することによって、走査部103、108からのビームをユーザの眼の瞳孔に回折・集光するように製造されている。フォトポリマー層には赤色、緑色、青色、それぞれのレーザ光源211、212、213からの光を反射する3つのホログラムを多重に形成してもよいし、それぞれの色の光に対応した3層のホログラムを積層してもよい。また、ホログラムの波長選択性を用いることで、光源波長の光のみを回折させ、外界からの光のほとんどを占める光源波長以外の波長の光を回折させないように製造することで、透過型のディスプレイとできる。
なお、偏向部104、107は、ホログラムなどの回折素子による偏向に限定されず、凹面鏡などのミラーや、凸レンズなどのレンズでもよい。また偏向部104、107は、反射型スクリーンや透過型スクリーンのように、スクリーンにビームが当たって発散する結果、スクリーンからの発散光の一部がユーザの眼の方向へ偏向される方式も含む。
制御部105、111は、HMD各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、及び走査部103、108の動作が制御部105、111によって制御される。また、制御部105、108はユーザに表示する画像を加工する手段を備える。
図3に示されるように、左眼用制御部105は、走査部103、108のうちの一方に元画像の一部のみを走査する第1の走査角でビームを走査させ、他方に第1の走査角より大きく、且つ元画像の全体を走査する走査角以下の第2の走査角でビームを走査させる走査範囲設定部1051と、走査範囲設定部1051によって設定された走査角に応じて、走査部103、108が走査する画像の画質を設定する画質設定部1052とを含む。なお、実施の形態1における第2の走査角は、元画像の全体を走査する走査角(第2の走査角の最大値)に設定される。
また、画質設定部1052は、左眼用画像及び右眼用画像の解像度を変更する解像度設定部1053と、左眼用画像及び右眼用画像のフレームレートを変更するフレームレート設定部1054とを含む。
解像度設定部1053は、左眼用光源101及び右眼用光源110のうち、第1の走査角が設定された側に対応する光源に第1の解像度の画像を出力させ、第2の走査角が設定された側に対応する光源に第1の解像度より低い第2の解像度の画像を出力させる。
フレームレート設定部1054は、左眼用光源101及び右眼用光源110のうち、第1の走査角が設定された側に対応する光源に第1のフレームレートの画像を出力させ、第2の走査角が設定された側に対応する光源に第1のフレームレートより小さい第2のフレームレートの画像を出力させる。
なお、制御部105、111は、携帯電話等の周辺機器と無線接続して映像音声信号を受信する通信部を備えてもよい。外部機器から画像を取得することで、表示装置内部に映像を記録する記憶装置やデコーダーなどを用意する必要がなくなるため装置の小型化を図ることができる。
制御部105、111に含まれる画像制御部(図示省略)は、ユーザに提示すべき画像を格納したメモリを備えていてもよいし、もしくは無線によって外部機器からユーザに提示すべき画像を取得しても良い。
なお、制御部105、111はひとつであってもよく、制御部105、111のうちのいずれか一方が、左右の眼に対応する光源101、110、波面形状変更部102、109、走査部103、108、及びヘッドホン部106、112の動作を制御してもよい。この場合、HMDの小型化を図ることができ、また左右の眼に対する映像の同期を取ることなどが容易になる。
ヘッドホン部106、112は、スピーカーを備え、音声を出力する。なお、ヘッドホン部には、HMD各部へ電源供給するバッテリーを備えてもよい。
なお、図1における各手段や各部は、1台のHMDに内蔵されていてもよいし、内蔵されていなくてもよい。例えば、図1各部の全てが、1台のHMDに含まれていてもよいし、ヘッドホン部106、112がなくてもよい。また、各部が分散配置されていてもよい。例えば、制御部105、111が走査部103、108や波面形状変更部102、109に一部含まれていてもよい。複数の機器で図1の各部を共有してもよい。例えば、光源101、110を2つのHMDで共有してもよい。
次に、本発明において表示画像の画質の向上に利用する「融像効果」について説明する。融像効果とは、ユーザが左右の眼でみた映像を一つに合成して認識する現象である。図4A〜図4Cに融像効果の例を示す。図4Aはユーザの左眼に対して表示される左眼用画像601、図4Bはユーザの右眼に対して表示される右眼用画像602である。左右の眼に対して図4A及び図4Bに示す画像が提示されたとき、人間の脳は左右の画像を一つに合成して認識する。つまり、ユーザは左眼用画像601と右眼用画像602とが合成された全体像603を表示されている画像として認識する。図4Cにおいて点線枠で囲まれた領域は、右眼もしくは左眼のみで視認している領域であるが、ユーザはそれを意識することなく、全体像603を視認する。
次に、人間の視野と視力の関係を示す。人間の視力は視野全体において一様ではなく、視野の中心部分は高い視力を保つが、視野中心から離れるほどユーザの視力は低下する。図5にユーザの視野と視力の関係を示す。この図に示すように、人間の眼が高い解像度を保つのは、ユーザの視線方向から±5°程度の中心視野に限定される。そのため、中心視野以外の部分の画像の画質が悪くても、一般に人間の眼は画質の低下に気付きづらい。
本発明では、この両眼の融像効果と視野による視力の変化を利用することで、表示画像の見かけ上の画質を向上させる。ビーム走査型表示装置に表示される画像のうち、ユーザが中心視野で捉える領域の画像を高画質で片方の眼に表示し、他方の眼には広視野の画像を低画質で表示する。しかし、ユーザが画像を高解像度で認識できるのは中心視野のみであるため、広視野の画像が低画質であることには気付かず、結果として、表示された画像を広視野でかつ高画質な画像として認識する。本発明はこの原理を用いて眼鏡型HMDにおいて見かけ上の画質を向上させる。
以下に、図1のビーム走査型表示装置において、前述の融像効果を利用して、表示画像の見かけ上の画質を向上させる例を示す。
なお、本実施の形態では走査部103、108は同一の構造をもつミラーデバイスとする。また、このミラーデバイスは図74に示すように単板ミラーを駆動素子によって二次元方向に走査するデバイスとする。
本実施の形態における走査部103、108は、入射レーザを水平走査角α1度、垂直走査角β1度で走査し、水平解像度Nx1max、垂直解像度Ny1maxの画像を表示する能力を持つように設計されている。また、走査部103、108の水平方向の駆動周波数をHx1、垂直方向の駆動周波数をHy1とする。さらに、走査部103、108は、水平方向(第1の方向)に画素を走査する動作を、垂直方向(第1の方向に直交する第2の方向)に順次位置をずらしながら複数回繰り返すことによって1フレームの画像を描画する。
以下、左右の表示を変更することで表示画像の見かけ上のフレームレートを向上させる例を示す。この処理は図6に示すステップ801〜804によって行われる。
(ステップ801 左右の分担)
本ステップでは、走査範囲設定部1051が、走査部103、108のうち、中心視野に対応する中心画像を表示する側を決定する。ここで中心画像を表示する側に選ばれた走査部は、通常よりも狭い走査角(第1の走査角)で、光源101、110からのレーザを走査する。本実施の形態では、走査範囲設定部1051には、右眼用走査部108を中心画像の表示側とするように予め設定されている。
なお、中央画像を表示する走査部の決定は、ユーザインターフェースからユーザが指定する方法を用いても良い。この場合、ユーザは自分自身が見やすいほうの眼に解像度の高い画像を表示するなどの決定を行うことが出来る。
例えば、ユーザの利き目の情報を予め走査範囲設定部1051内に記憶しておくことで、利き目に対応する側の走査部を、中心画像を表示する側として選択しても良い。この場合、ユーザが見やすい方の眼に対して高精細な画像を表示することが可能になる。
また、ユーザの視力の情報を予め走査範囲設定部1051内に記憶しておくことで、視力の高い方の眼に対応する側の走査部を、中心画像を表示する側として選択してもよい。この場合、視力の高いほうの眼により高画質の映像を表示することが可能になる。
(ステップ802 表示範囲決定)
本ステップでは、ユーザに表示する画像全体のうち、中心画像1001として表示する領域を決定する。
図7A〜図7Cに示す元画像901は、図1のHMDがユーザに表示する画像であり、水平解像度Nx1、垂直解像度Ny1、フレームレートfps1の画像である。また、図1のHMDでこの画像を視認したときの水平画角をγ1、垂直画角をδ1とする。
走査範囲設定部1051は、図8に示すように、元画像901の内、中心画像1001として表示する画像の範囲を決定する。本実施の形態では、走査範囲設定部1051は、中心画像1001をHMDで視認した際の水平画角がγ1c、垂直画角がδ1cとなる領域として決定する。
このとき、中心画像1001の水平解像度Nx1cおよび垂直解像度Ny1cは、元画像901の解像度および画角との関係から、数式(5)および数式(6)を用いて計算される。元画像901の解像度Nx1、Ny1、画角γ1、δ1の値は、HMDの設計時に定めることが可能なため、本実施の形態では、それらの値は予め左眼用制御部105に与えられている。
Figure 2009066465
Figure 2009066465
中心画像1001の解像度Nx1c、Ny1cの値が求められると、走査範囲設定部1051は、元画像901の中央の画素を中心に、高さNy1c、幅Nx1cの解像度の領域を中心視野の画像である中心画像1001として決定する。
なお、元画像901の解像度Nx1、Ny1の値は、左眼用制御部105が画像を解析することで求めても良いし、元画像901に付加されているメタデータなどから求めても良い。元画像901の画角γ1、δ1は、走査部103、108から偏向部104、107に投影されたレーザ光の形状をカメラなどで撮影し、その形状から左眼用制御部105が計算する方法を用いても良い。この場合、走査部103、108と偏向部104、107の位置関係が変化した場合にも画角γ1、δ1を正しく求めることが可能になる。
なお、走査範囲設定部1051は、光検出部214が検出したユーザの視線位置に基づいて、中心画像1001となる領域を決定してもよい。例えば、図9A及び図9Bに示すように、光検出部214が検出したユーザの視線が元画像901と交わる点を交点A(視線位置)として算出する。そして、交点Aを含む水平解像度Nx1c、垂直解像度Ny1cの領域を中心画像1001に決定する。
(ステップ803 表示画素の削減)
本ステップでは、解像度設定部1053が前ステップで決定された中央画像1001および元画像901を表示する際の解像度を決定する。
元画像の解像度Nx1、Ny1が、左眼用走査部103が表示可能な解像度Nx1max、Ny1maxを上回る場合、解像度設定部1053は、元画像901の画素を荒くすることで、水平解像度Nx1max、垂直解像度Ny1maxの広視野画像を生成する。元画像901の解像度が、左眼用走査部103が表示可能な解像度Nx1max、Ny1max以下である場合は、元画像901を広視野画像として設定する。
中心画像1001を表示する側の右側走査部108が、ユーザに水平画角γ1c、垂直画角δ1cの画像を表示するために、レーザ光を走査する走査角(第1の走査角)を、水平走査角α1c、垂直走査角β1cとする。画角γ1c、δ1cと、走査角α1c、β1cの関係は、図1に示すHMDの設計時に定まるため、左眼用制御部105は画角γ1c、δ1cと、走査角α1c、β1cの関係表を記憶部(図示省略)に保存しておくことで、画角に対する走査角の値を計算する。
右眼用走査部108が水平走査角α1c、垂直走査角β1cでレーザを走査した際に、表示可能な水平方向の解像度をNx1cmax、垂直方向の解像度Ny1cmaxとすると、Nx1cmax、Ny1cmaxは数式(7)及び数式(8)によって与えられる。
Figure 2009066465
Figure 2009066465
解像度設定部1053は、前ステップで求めた中心画像1001の解像度Nx1c、Ny1cが、解像度Nx1cmax、Ny1cmaxを上回っている場合、中心画像1001の画素を荒くする処理を行い、水平解像度Nx1cmax、垂直解像度Ny1cmaxの画像を狭視野画像として決定する。また、中心画像1001の解像度Nx1c、Ny1cが解像度Nx1cmax、Ny1cmax以下の場合、中心画像1001を狭視野画像として決定する。
(ステップ804 フレームレートの決定)
本ステップでは、フレームレート設定部1054は、前ステップで求めた広視野画像および狭視野画像を表示する際のフレームレートを決定する。
ここで、右眼用走査部108を走査角α1c、β1cで駆動した場合に、水平方向に実現できる最大の駆動周波数をHx1max、垂直方向に実現できる最大の駆動周波数をHy1maxとする。フレームレート設定部1054は、予め走査角と駆動周波数の関係表を記憶部に備えることで、走査角に対応する実現可能な最大の駆動周波数Hx1max、Hy1maxの値を計算する。
この時、フレームレート設定部1054は、前述したフレームレートと走査部103、108の垂直方向の駆動周波数の関係を示す数式(1)から広視野画像のフレームレートfps1wを2×Hy1の値に、狭視野画像のフレームレートfps1nを2×Hy1maxの値に設定する。
前述したように、左眼用走査部103は、レーザを水平走査角α1、垂直走査角β1で駆動することで、ユーザに水平画角γ1、垂直画角δ1の広視野画像を表示する。また、右眼用走査部108は、レーザを水平走査角α1c、垂直走査角β1cで駆動することで、ユーザに水平画角γ1c、垂直画角δ1cの狭視野画像を表示する。
この走査部103、108の水平方向に関する各角度α1、α1c、γ1、γ1cの関係を図10に示す。この図に示されるように、画角γ1の画像を表示するために必要な走査角α1(第2の走査角)は、画角γ1cを表示するために必要な走査角α1c(第1の走査角)より大きい。同様に垂直方向についても、垂直方向の走査角β1(第2の走査角)はβ1c(第1の走査角)より大きい。一般に、走査角が小さいほど走査部103、108の駆動周波数を高くできるため、Hy1maxの値をHy1より大きくとることができる。
前述したように、画像のフレームレートfpsと垂直方向の駆動周波数Hyの間には、数式(1)の関係が成り立つ。そのため狭視野画像のフレームレートfps1nは、広視野画像のフレームレートfps1wより高く設定することができる。
なお、走査部103、108にセンサーを取り付けることで、所定の走査角で走査部103、108を駆動したときの駆動周波数の値を測定して、左眼用制御部105に通知する方法を用いても良い。この場合、走査部103、108の実際の駆動周波数を検知することが可能になり、より正確にフレームレートの決定を行うことができる。
(ステップ805 画像制御)
本ステップでは、制御部105、111は、前ステップで決定された狭視野画像および広視野画像の解像度およびフレームレートにあわせて、光源101、110、波面形状変更部102、109、および走査部103、108の制御を行う。
右眼用制御部111は、ユーザの中心視野に対応する画像を表示する側の右眼用光源110が、狭視野画像に対応するレーザ光を出力するように制御する。また、右眼用走査部108を水平走査角α1c、垂直走査角β1c、水平方向の駆動周波数Hx1max、垂直方向の駆動周波数Hy1maxで走査するように制御を行う。
左眼用制御部105は、画像全体を表示する側の左眼用光源101が、広視野画像に対応するレーザ光を出力するように制御する。また、左眼用走査部103を水平走査角α1、垂直走査角β1、水平方向の駆動周波数Hx1、垂直方向の駆動周波数Hy1で走査するように制御を行う。
この時、ユーザが視認する映像の例を、図11〜図14を用いて示す。なお簡単のため、元画像901のフレームレートfps1と、狭視野画像のフレームレートfps1nが等しく、広視野画像のfps1wは、fps1nの半分の値であるときの図を例示している。
図11は元画像901を示したものであり、各フレームが、1/fps1の間隔で切り替えられる。
図12は広視野画像の表示を示したものであり、左眼用制御部105は、元画像901のフレームの中から、fps1n/fps1のフレームを抽出し、フレームレートfps1wで表示するように制御を行う。この例では、fps1w/fps1は0.5であるため、元画像901のフレームのうち、半数のフレームが選択されて、表示されている。
図13は狭視野画像の表示を示したものであり、右眼用制御部111は、元画像901の中から、fps1n/fps1のフレームを抽出し、かつその中心部分の画像をフレームレートfps1nで表示するように制御を行う。この例では、fps1n/fps1は1であるため、元画像901のフレームの全てが選択されて表示されている。
左眼に図12、右眼に図13の表示を行った結果、両眼の融像効果により、ユーザが認識する映像を図14に示す。
図14に示すように、中心画像1001は高いフレームレートfps1n(第1のフレームレート)で表示され、それ以外の部分は低いフレームレートfps1w(第2のフレームレート)で表示される映像をユーザは視認する。眼の視力が高い中心部分では、フレームレートを上げることで、ユーザに残像感の少ない映像を表示し、かつ、視力の低い部分では、低フレームレートで広視野の映像を表示することで、ユーザが感じる映像の視野角を広げることができる。
なお、ステップ803とステップ804の実行順序は逆でも良いし、同時に処理を行っても良い。
また、本実施の形態においては左眼用制御部105が表示方法の決定を行ったが、右眼用制御部111が行う方法でも良いし、二つの制御部105、111で処理を分担する方法を用いても良い。
(実施の形態2)
本実施の形態では、図1の左右の走査部103、108でミラーデバイスの構造が異なる場合を示す。以下では、左眼用走査部103を広視野用走査部、右眼用走査部108を狭視野用走査部とする。
図15に示されるように、広視野用走査部としての左眼用走査部103は、左眼用光源101からの入射レーザを水平走査角α2L度、垂直走査角β2L度で走査し、水平解像度Nx2L、垂直解像度Ny2Lの画像を表示する能力を持つように設計されている。また左眼用走査部103の水平方向の駆動周波数をHx2L、垂直方向の駆動周波数をHy2Lとし、走査角1度あたりの解像度をΔNxL、ΔNyLする。さらに、左眼用走査部103に含まれる単板ミラーの直径をD2Lとする。
図16に示されるように、狭視野用走査部としての右眼用走査部108は、右眼用光源110からの入射レーザを水平走査角α2R度、垂直走査角β2R度で走査し、水平解像度Nx2R、垂直解像度Ny2Rの画像を表示する能力を持つように設計されている。また、右眼用走査部108の水平方向の駆動周波数をHx2R、垂直方向の駆動周波数をHy2Rとし、走査角1度あたりの解像度をΔNxR、ΔNyRとする。さらに、右眼用走査部108に含まれる単板ミラーの直径をD2Rとする。
図17A〜図17Cに、ユーザに表示される元画像1901を示す。元画像1901の水平方向の解像度はNx2、垂直方向の解像度はNy2である。また元画像1901のフレームレートはfps2である。 本実施の形態においては、左眼用走査部103が水平走査角α2L、垂直走査角β2Lでレーザ光を走査した場合に、図1のレーザ走査型HMDでユーザが視認する画像の水平画角がγ2L、垂直画角がδ2Lになるように設計されている。左眼用走査部103の水平走査角α2Lと、ユーザが視認する水平画角γ2Lの関係を図15に示す。
本実施の形態においては、右眼用走査部108の走査角α2R、β2Rは、水平走査角α2R、垂直走査角β2Rでレーザ光を走査した場合に、図1のレーザ走査型HMDでユーザが視認する画像の水平画角がγ2R、垂直画角がδ2Rになるように設計されている。右眼用走査部103の水平走査角α2Rと、ユーザが視認する水平画角γ2Rの関係を図16に示す。
ここで、右眼用走査部108は、左眼用走査部103より狭い視野の画像を高画素で表示するように設計されている。そのため右眼用走査部108のミラーの直径D2Rは、左眼用走査部103のミラーの直径D2Lより大きく設計されている。
ミラーデバイスによる解像度は、走査角およびミラーサイズに比例する。そのため、走査角一度あたりの解像度は、ミラーサイズの大きい右眼用走査部108の方が高くなる(ΔNxR>ΔNxL、ΔNyR>ΔNyL)。つまり、本実施の形態においては、右眼用走査部108によって表示される画像の方が、左眼用走査部103によって表示される画像よりも、細かい画素を表示できる。
以下、左右の表示を変更することで表示画像の見かけ上の解像度を向上させる例を示す。この処理は図19に示すステップ2101〜2104によって行われる。
(ステップ2101 中心画像の選択)
本ステップでは、ユーザに表示する画像全体のうち、中心画像2001として表示する領域を決定する。
走査範囲設定部1051は、図18A〜図18Cに示すように、元画像1901の内、中心画像2001として表示する画像の範囲を決定する。本実施の形態では、走査範囲設定部1051は、中心画像1001をHMDで視認した際の水平画角がγ2R、垂直画角がδ2Rとなる領域として決定する。
このとき、中心画像2001の水平解像度Nx2cおよび垂直解像度Ny2cは、元画像1901の解像度および画角との関係から、数式(9)および数式(10)を用いて計算される。元画像1901の解像度Nx2、Ny2、画角γ2L、δ2Lの値は、HMDの設計時に定めることが可能なため、本実施の形態では、それらの値は予め左眼用制御部105に与えられている。
Figure 2009066465
Figure 2009066465
中心画像2001の解像度Nx2c、Ny2cの値が求められると、走査範囲設定部1051は、元画像1901中央の画素を中心に、高さNy2c、幅Nx2cの解像度の領域を中心視野の画像である中心画像2001として決定する。
なお、元画像1901の解像度Nx2、Ny2の値は、左眼用制御部105が画像を解析することで求めても良いし、元画像1901に付加されているメタデータなどから求めても良い。元画像1901の画角γ2L、δ2Lは、左眼用走査部103から左眼用偏向部104に投影されたレーザ光の形状をカメラなどで撮影し、その形状から左眼用制御部105が計算する方法を用いても良い。この場合、左眼用走査部103と左眼用偏向部104の位置関係が変わってしまった場合にも、画角γ2L、δ2Lを正確に求めることが可能になる。
なお、光検出部214を利用して、実施の形態1で述べたものと同様の方法で、中心画像2001の領域をユーザの視線から決定しても良い。
(ステップ2102 解像度の削減)
本ステップでは、解像度設定部1053が、前ステップで決定された中央画像2001および元画像1901を表示する際の解像度を決定する。
元画像1901の解像度Nx2、Ny2が、左眼用走査部103が表示可能な解像度Nx2L、Ny2Lを上回る場合、解像度設定部1053は元画像1901の画素を荒くする処理を行い、水平解像度Nx2L、垂直解像度Ny2Lの広視野画像を生成する。元画像1901の解像度Nx2、Ny2が、左眼用走査部103が表示可能な解像度Nx2L、Ny2L以下である場合は、元画像1901を広視野画像として設定する。
また、前ステップで求めた中心画像2001の解像度Nx2c、Ny2cが、右眼用走査部108が表示可能な解像度Nx2R、Ny2Rを上回っている場合、解像度設定部1053は、中心画像2001の画素を荒くする処理を行い、水平解像度Nx2R、垂直解像度Ny2Rの狭視野画像を生成する。また、中心画像2001の解像度Nx2c、Ny2cが、右眼用走査部108が表示可能な解像度Nx2R、Ny2R以下の場合、中心画像2001を狭視野画像として決定する。
(ステップ2103 フレームレート)
本ステップでは、フレームレート設定部1054は、前ステップで求めた広視野画像および狭視野画像を表示する際のフレームレートを決定する。
フレームレート設定部1054は、前述したフレームレートと走査部103、108の垂直方向の駆動周波数の関係を示す数式(1)から広視野画像のフレームレートfps2wを2×Hy2Lの値に、狭視野画像のフレームレートfps2nを2×Hy2Rの値に設定する。
(ステップ2104 画像制御)
本ステップでは、制御部105、111は、前ステップで決定された狭視野画像および広視野画像の解像度およびフレームレートにあわせて、光源101、110、波面形状変更部102、109、および走査部103、108の制御を行う。
右眼用制御部111は、ユーザの中心視野に対応する中心画像2001を表示する側の右眼用光源110が、狭視野画像に対応するレーザ光を出力するように制御する。また、右眼用走査部108を水平走査角α2R、垂直走査角β2R、水平方向の駆動周波数Hx2R、垂直方向の駆動周波数Hy2Rで走査するように制御を行う。
左眼用制御部105は、画像全体を表示する側の左眼用光源101が、広視野画像に対応するレーザ光を出力するように制御する。また、左眼用走査部103を水平走査角α2L、垂直走査角β2L、水平方向の駆動周波数Hx2L、垂直方向の駆動周波数Hy2Lで走査するように制御を行う。
この時、ユーザが視認する映像の例を、図20〜図23を用いて示す。なお簡単のため、元画像1901のフレームレートfps2と、広視野画像のフレームレートfps2w、および狭視野画像のフレームレートfps2nが等しいときの図を例示している。
図20は元画像1901を示したものであり、各フレームが、1/fps2の間隔で切り替えられる。
図21は広視野画像の表示を示したものであり、左眼用制御部105は、元画像1901のフレームの中から、fps2w/fps2のフレームを抽出し、フレームレートfps2wで表示するように制御を行う。この例では、fps2w/fps2は1であるため、元画像1901のフレームの全てが選択されて、表示されている。
図22は狭視野画像の表示を示したものであり、右眼用制御部111は、元画像1901の中から、fps2n/fps2のフレームを抽出し、かつその中心部分の画像をフレームレートfps2nで表示するように制御を行う。この例では、fps2n/fps2は1であるため、元画像1901のフレームの全てが選択されて表示されている。
左眼に図21、右眼に図22の表示を行った結果、両眼の融像効果により、ユーザが認識する映像を図23に示す。
図23に示すように、中心画像は高い解像度(第1の解像度)で表示され、それ以外の部分は低い解像度(第2の解像度)で表示される映像をユーザは視認する。眼の視力が高い中心部分では、解像度を上げることで、ユーザに高精細な映像を表示し、かつ、視力の低い部分では、低解像度で広視野の映像を表示することで、ユーザが感じる映像の視野角を広げることができる。
なお、ステップ2102とステップ2103の実行順序は逆でも良いし、同時に処理を行っても良い。
また、本実施の形態では右眼で狭視野の画像を、左眼で広視野の画像を表示する例をあげたが、左右が入れ替わった構成で処理を行っても良い。この場合、左眼の視力が高いユーザに対して、視力の高いほうの眼により解像度の高い映像を表示することが可能になる。
また、本実施の形態においては左眼用制御部105が表示方法の決定を行ったが、右眼用制御部111が行う方法でも良いし、二つの制御部105、111で処理を分担する方法を用いても良い。
(実施の形態3)
本実施の形態においては、左右の眼に表示する画像の形状をそれぞれ変更することで、台形歪みを補正する際の視野角の減少を抑える方法を示す。
図1A、図1B、図2、及び図24を参照して、本発明の実施の形態3におけるメガネ型のビーム走査型表示装置(ヘッドマウントディスプレイ:HMD)を説明する。なお、図1A、図1B、図2に示す構成は実施の形態1と共通であるので、説明は省略する。
制御部105、111は、HMD各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、走査部103、103の動作が制御部105、111によって制御される。
図24に制御部105の機能のブロック図を示す。制御部105は、台形歪み判定部1801と、矩形領域決定部1802と、残領域決定部1803と、画像制御部1804と、縦横比調整部1805と、歪補正部1806と、出力画像制御部1807とを備える。なお、制御部111も同様の構成である。
台形歪み判定部1801は、左眼用走査部103が走査するビームが左眼用偏向部104に対して斜めに入射することによって生じる台形形状の左眼用歪画像の形状を判定する。同様に、右眼用偏向部107の右眼用歪画像の形状を判定する。
矩形領域決定部1802は、左眼用歪画像の長辺の一部を第1の辺とし、第1の辺に直交し、且つ第1の辺の端点と左眼用歪画像の斜辺とを結ぶ線分を第2の辺とする矩形形状の左眼用矩形領域を決定する。右眼用偏向部107上に右眼用画像が歪んで投影された場合も同様である。
残領域決定部1803は、矩形領域決定部1802によって決定された左眼用矩形領域に隣接する台形形状の領域を左眼用残領域として決定する。同様に、右眼用矩形領域に隣接する台形形状の領域を右眼用残領域として決定する。
画像制御部1804は、画像の大きさの測定や比較を行い、台形歪み判定部1804、矩形領域決定部1802、残領域決定部1803、及び縦横比調整部1805との間で制御情報のやり取りを行う。
縦横比調整部1804aは、矩形領域決定部1802によって決定された左眼用矩形領域と右眼用矩形領域とを合わせた領域に元画像が収まるように、元画像の高さ及び幅のうちのいずれか一方を調整して補正画像を生成する。
歪補正部1804bは、左眼用偏向部上に左眼用画像が歪んでいない状態で投影されるように、補正画像を予め左眼用歪画像と反対向きに歪ませた(逆補正)左眼用補正画像を生成する。右眼側についても同様である。
出力画像制御部1804cは、左眼用補正画像のうちの左眼用矩形領域及び左眼用残領域に対応する部分を出力するように光源101を制御する。右眼側の光源110についても同様の制御を行う。
なお、制御部105、111は、携帯電話等の周辺機器と無線接続して映像音声信号を受信する通信部を備えてもよい。画像制御部1804は、ユーザに提示すべき画像を格納したメモリを備えていてもよいし、もしくは無線によって外部機器からユーザに提示すべき画像を取得しても良い。
なお、制御部105、111は一つであってもよく、制御部105、111のいずれか一方が左右の眼に対応する光源101、110、波面形状変更部102、109、走査部103、108、ヘッドホン部106、112の動作を制御してもよい。
ヘッドホン部106、112は、スピーカーを備え、音声を出力する。なお、ヘッドホン部106、112には、HMD各部へ電源供給するバッテリーを備えてもよい。
なお、図1における各手段や各部は、1台のHMDに内蔵されていてもよいし、内蔵されていなくてもよい。例えば、図1各部の全てが、1台のHMDに含まれていてもよいし、ヘッドホン部106、112がなくてもよい。また、各部が分散配置されていてもよい。例えば、制御部105、111が走査部103、108や波面形状変更部102、109に一部含まれていてもよい。複数の機器で図1の各部を共有してもよい。例えば、レーザ光源211、212、213を2つのHMDで共有してもよい。
次に、融像効果を利用して、表示画像の台形歪みを補正する方法を説明する。図1に示すビーム走査表示装置における画像の歪みの例を図25に示す。前述したように、走査部103、108が偏向部104、107に対して斜めにビームを投影する結果、本来矩形で表示されるべき画像が、偏向部104、107において、左眼用歪画像601a、右眼用歪画像602aのように歪んで投影されている。
本発明では走査部103、108からの画像が、ユーザの視線と垂直な面に対する形状を判定し、その投影像の形状を制御することで台形歪みの補正を行う。本実施の形態では、偏向部104、107をユーザの視線に垂直な面として扱うため、以後、偏向部104、107上の左眼用歪画像601a、及び右眼用歪画像602aは、ユーザの視線に垂直な面に対する投影像と同等なものとして扱う。
以下に、図1のビーム走査型表示装置において、前述の融像効果を利用して、図25に示した台形歪みを補正する例を示す。台形歪みの補正は図26に示すステップ1001a〜1011aによって行われる。
(ステップ1001a 偏向部上の投影像の形状推定)
本ステップでは、制御部105、111の台形歪み判定部1801が、ユーザの視線と垂直な面に対する画像の歪みの形状を推定する。本実施例では、偏向部104、107がユーザの視線方向に垂直な面として設計されているため、本ステップでは偏向部104、107上の歪画像601a、602aの形状を判定する。
以下に、左眼用歪画像601aの形状を判定する方法を、図27、図28、及び数式(11)〜数式(15)を用いて説明する。
(1.走査部と偏向部上の投影像の距離の計算)
図27は、左眼用走査部103から左眼用偏向部104へのレーザの投影を、HMD上方から図示したものである。
左眼用走査部103からのレーザは、水平方向の投射角θx(=θx2−θx1)で、左眼用偏向部104に向かって投影される。このとき、左眼用歪画像601aの辺LA−LBと左眼用走査部103との距離d1は、数式(11)で計算できる。また、左眼用歪画像601aの辺LD−LCと左眼用走査部103との距離d2は、数式(12)で計算できる。ここで、OCは、走査部103から左眼用偏向部104に向かって延びる垂線の距離を示す。また、左眼用歪画像601aの左眼用偏向部104上での幅WLは、数式(13)で計算できる。
Figure 2009066465
Figure 2009066465
Figure 2009066465
ここで、数式(11)〜数式(13)で用いられるθx1、θx2、及びOCの値は、図1に示すビーム走査型表示装置の設計時に決まる値であり、その値を予め台形歪み判定部1801に与えることで、数式(11)〜数式(13)によってd1、d2、WLの値が計算できる。
なお、左眼用走査部103に現在の走査角を判定するセンサーを備えることで、投射角θx1、θx2を取得し、その値を台形歪み判定部1801に通知する方法でもよい。この場合、左眼用走査部103の走査角が設計時の想定からずれてしまった場合などにも、投射角θx1、θx2の値を正確に求めることが可能になる。
また、左眼用走査部103に左眼用偏向部104からの反射光を取得する手段を備え、反射光の強度や位相から直接d1、d2を推測する方法を用いても良い。この場合、ビーム走査型表示装置の形状が設計時から歪んでしまった場合などにも、d1、d2の値を正確に求めることが可能になる。
(2.光源の投射角度から、上底・下底の辺の長さの計算)
次に、左眼用歪画像601aの辺LA−LBおよび辺LD−LCの長さを判定する。
図28に、左眼用歪画像601aを偏向部104に垂直な方向から見た図を示す。図28に示されるように、走査部103からの光は、垂直方向に投射角θyで広がるため、左眼用歪画像601aの辺LA−LBの長さHL1は数式(14)で、辺LD−LCの長さHL2は数式(15)でそれぞれ計算される。
Figure 2009066465
Figure 2009066465
ここで、数式(14)、及び数式(15)で用いられるθyの値は、図1の設計時に決まる値であり、その値を予め台形歪み判定部1801に与えることで、HL1、HL2の値が計算できる。
なお、左眼用走査部103に現在の走査角を判定するセンサーを備えることによって、角度θyを取得し、その値を台形歪み判定部1801に通知する方法を用いてもよい。この場合、左眼用走査部103の走査角が設計時の想定からずれてしまった場合などにも、θyの値を正確に求めることが可能になる。
なお、ここでは左眼用偏向部104上の左眼用歪画像601aの歪みを計算する例をあげたが、右眼用偏向部107上の右眼用歪画像602aの歪みも同様の計算式で算出可能である。
図29および図30に、台形歪み判定部1801によって判定された左眼用歪画像601a、及び右眼用歪画像602aの寸法の例を示す。本ステップによって、左眼用偏向部104上の左眼用歪画像601aの高さHL1、HL2、および幅WL、右眼用偏向部107上の右眼用歪画像602aの高さHR1、HR2、および幅WRが判定される。この結果は画像制御部1804に通知される。
なお、左右の走査部103、108から投影される画像の、ユーザの視線に垂直な面上における形状をあらかじめ記憶部に保持しておき、ステップ1001aでは記憶部からその形状を読み出す方法を用いてもよい。この場合、ステップ1001aの処理を省略することが出来る。
また、ビーム走査型表示装置にカメラを取り付けることで、偏向部104、107上の投影像を撮影し、投影像の形状から、ユーザの視線方向に垂直な面に対する投影像の形状を判定する方法を用いても良い。この場合、走査部103、108、偏向部104、107の位置関係がずれた場合にも、投影像の形状を正確に測定することが可能になる。
(ステップ1002a 左右投影像の大きさ比較)
本ステップでは、前ステップ1001aによる判定結果に基づいて、画像制御部1804が左眼用歪画像601aと右眼用歪画像602aの高さを比較し、その結果によって台形歪み補正の処理の方法を決定する。
L2≧HR2かつ、HR1≧HL1の場合は、ステップ1003aの処理を実行する。一方、HL2<HR2、もしくはHR1<HL1の場合は、ステップ1009aの処理を実行する。この時、比較結果は矩形領域決定部1802および残領域決定部1803に通知される。
次に、ステップ1003a〜1007aを実行することによって、補正後の画像を表示する領域を決定する。具体的には、左眼用歪画像601aの表示領域のうちから左眼用矩形領域1401aと左眼用残領域1402aとで構成される左眼用表示領域601bを決定する。同様に、右眼用歪画像602aの表示領域のうちから右眼用矩形領域1501aと右眼用残領域1502aとで構成される右眼用表示領域602bを決定する。
(ステップ1003a 補正後画像領域の決定)
本ステップでは、画像制御部1804が、左右の表示画像を融像した後にユーザが視認する図形(図31)の高さHを決定する。高さHについてはHL1≦H≦HL2、及び、HR2≦H≦HR1の関係を満たす範囲で設定される。決定されたHの値は矩形領域決定部1802に通知される。
なお、高さHの決定については、ユーザがHMDのユーザインターフェースを通じて直接入力する方式をとっても良い。この場合、ユーザの好みに応じた画像サイズを表示することが可能になる。また、あらかじめ望ましい高さHの値を記憶部に保持しておき、本ステップの実行時に記憶部から読み出す方法を用いても良い。
(ステップ1004a 左眼矩形領域決定)
本ステップでは矩形領域決定部1802が、左眼用偏向部104上の左眼用表示領域601bにおいて、左眼用矩形領域1401aを決定する。この方法を図32を用いて示す。
まず、左眼用偏向部104上の左眼用表示領域601bの辺LA−LBおよび辺LC−LDと平行で、かつ線分の長さが前ステップで決定した高さHであるような線Xl1−Xl2の位置を決定する。
次に、点Xl1から辺LD−LCに降ろした垂線が、辺LD−LCと交わる点をLDl、点Xl2から辺LD−LCに降ろした垂線が、辺LD−LCと交わる点をLClとする。
このとき、左眼用偏向部104上の左眼用表示領域601bにおいて、左眼用表示領域601bの長辺の一部(LDl−LCl)を第1の辺とし、第1の辺に直交し、且つ第1の辺の端点(LDl、LCl)と左眼用表示領域601bの斜辺(辺LA−LD、辺LB−LC)とを結ぶ線分(Xl1−LDl、Xl2−LCl)を第2の辺とする左眼用矩形領域1401aが決定される(LDl−LCl−Xl2−Xl1)。この結果は、残領域決定部1803および画像制御部1804に通知される。
(ステップ1005a 右眼矩形領域決定)
本ステップでは矩形領域決定部1802が、右眼用偏向部107上の右眼用表示領域602bにおいて、右眼用矩形領域1501aを決定する。この方法を図33を用いて示す。
まず、右眼用偏向部107上の右眼用表示領域602bの辺RA−RBおよび辺RC−RDと平行で、かつ線分の長さが高さHであるような線Xr1−Xr2の位置を決定する。
次に、点Xr1から辺RA−RBに降ろした垂線が、辺RA−RBと交わる点をRAr、点Xr2から辺RA−RBに降ろした垂線が、辺RA−RBと交わる点をRBrとする。
このとき、右眼用偏向部107上の右眼用表示領域602bにおいて、右眼用表示領域602bの長辺の一部(RAr−RBr)を第3の辺とし、第3の辺に直交し、且つ第3の辺の端点(RAr、RBr)と右眼用表示領域602bの斜辺(辺RA−RD、辺RB−RC)とを結ぶ線分(Xr1−RAr、Xr2−RBr)を第4の辺とする右眼用矩形領域1501aが決定される(RAr−RBr−Xr2−Xr1)。この結果は、残領域決定部1803および画像制御部1804に通知される。
(ステップ1006a 左眼残領域決定)
本ステップでは残領域決定部1803が、左眼用偏向部104上の左眼用表示領域601bにおいて、左眼用残領域1402aを決定する。左眼用表示領域601bの左眼用残領域1402aは、矩形領域1401aの左に隣接する領域に設定される。この方法を図32を用いて示す。
左眼用残領域1420aは、ステップ1004aで決定した辺Xl1−Xl2(第1の辺の対辺)を右辺(長辺)とし、左眼用表示領域601bの斜辺(Xl1−Xl3、Xl2−Xl4)の一部を斜辺とする台形形状の図形であり、その幅をWL2で表すと以下のように決定される。
(W≧WL1+WR1の場合)
L2=WR1として、辺Xl1−Xl2に平行で、かつ距離WL2だけ離れた辺Xl3−Xl4を決定する。この時、左眼用残領域1402aは、辺Xl1−Xl2、辺Xl4−Xl2、辺Xl3−Xl4、及び辺Xl3−Xl1で囲まれた領域に決定される。
(W<WL1+WR1の場合)
L2=W−WL1とする。この時、左眼用残領域1402aは、辺LB−Xl2、辺LA−LB、辺LA−Xl1、及び辺Xl1−Xl2で囲まれた領域に決定される。
この結果は画像制御部1804に通知される。
(ステップ1007a 右眼残領域決定)
本ステップでは残領域決定部1803が、右眼用偏向部107上の右眼用表示領域602bにおいて、右眼用残領域1502aを決定する。右眼用表示領域602bの右眼用残領域1502aは、右眼用矩形領域1501aの右に隣接する領域に設定される。この方法を図33を用いて示す。
右眼用残領域1502aは、ステップ1005aで決定した辺Xr1−Xr2(第3の辺の対辺)を左辺(長辺)とし、右眼用表示領域602bの斜辺(Xr1−Xr3、Xr2−Xr4)の一部を斜辺とする台形形状の図形であり、その幅をWR2で表すと以下のように決定される。
(W≧WL1+WR1の場合)
R2=WL1として、辺Xr1−Xr2と平行で、かつ距離WR2だけ離れた辺Xr3−Xr4を決定する。この時、右眼用残領域1402aは、辺Xr1−Xr2、辺Xr2−Xr4、辺Xr3−Xr4、及び辺Xr1−Xr3で囲まれた領域に決定される。
(W<WL1+WR1の場合)
R2=W−WR1とする。この時、右眼用残領域1402aは、辺Xr2−RC、辺RD−RC、辺Xr1−RD、及び辺Xr1−Xr2で囲まれた領域に決定される。
この結果は画像制御部1804に通知される。
次に、図35〜図42を参照して、左眼用表示領域601b及び右眼用表示領域602bに表示する画像の画像処理を説明する。
(ステップ1008a 画像処理)
本ステップでは制御部105、111が、ステップ1004a〜1006aで決定した矩形領域1401a、1501aおよび残領域1402a、1502aの範囲にのみ画素が表示されるように、左眼用画像601および右眼用画像602の変形を行い、その結果に基づきレーザ出力を制御する。
制御部105、111は、図35に示すステップ2801a〜ステップ2804aに従って表示画像の変形を行う。以下、図36A〜図42を参照して、画像の変形の例を示す。
(ステップ 2801a 表示画像の縦横比変更)
本ステップ2801aでは、縦横比調整部1805が、ユーザに表示すべき画像の縦横の比率変換を行う。この例を図36A、図36B、及び数式(16)を用いて説明する。元画像1901aは、画像制御部1804内の記憶部(メモリなど)に記憶されている。図1のHMDは、この画像全体をユーザに表示する。
本ステップ2801aにおいて、縦横比調整部1805は、元画像1901aの縦横の比が、左眼用表示領域601b及び右眼用表示領域602bを重ね合わせた時の縦横の比(H:W1+W2)に等しくなるように変形を行う。本実施例では、横方向の大きさをXからX´に縮小もしくは拡大し、補正画像1902aを生成する。ここでX´は数式(16)によって求められる。
Figure 2009066465
(ステップ 2802a 表示画像の表示領域の決定)
本ステップ2802aでは、前ステップ2801aで変形された補正画像1902aの内、偏向部104、107に表示する領域を決定する。この例を図37、図38、数式(17)、及び数式(18)を用いて説明する。 縦横比調整部1805は、補正画像1902aの内、左眼用偏向部104に表示する領域の幅XLを決定する。ここで、XLは数式(17)によって求められる。画像制御部1804は、補正画像1902aの内、右端から幅XLの部分を補正画像1902aから切り出して左眼用部分画像2001aを生成する。
Figure 2009066465
同様に、縦横比調整部1805は、補正画像1902aの内、右眼用偏向部107に表示する領域の幅XRを決定する。ここで、XRは数式(18)によって求められる。画像制御部1804は、補正画像1902aの内、左端から幅XRの部分を補正画像1902aから切り出して右眼用部分画像2101aを生成する。
Figure 2009066465
(ステップ2803a 表示画像の変形)
本ステップ2803aでは、歪補正部1806が、左眼用偏向部104上で左眼用画像601となるように、左眼用部分画像2001aを左眼用歪画像601aと反対向きに歪ませる台形補正(逆補正)を行う。同様に、右眼用偏向部107上で右眼用画像602となるように、右眼用部分画像2101aを右眼用歪画像602aと反対向きに歪ませる台形補正(逆補正)を行う。この例を図39、図40、数式(19)〜数式(22)を用いて示す。
歪補正部1806は、図39に示すように、左眼用部分画像2001aを左眼用台形画像2201aになるように拡大および縮小を行う。ここで左眼用台形画像2201aの下底YL1および上底YL2は数式(19)および数式(20)によって計算される。本ステップ2803aの処理において、左眼用部分画像2001aの左側(線分P1−P2より左の領域)の画像が縦に引き伸ばされ、右側(線分P1−P2より右の領域)の画像が縮小され、左眼用台形画像2201aが生成される。ここで線分P1−P2は、図39で示されるXL1とXL2の長さの比がWL2:WL1になる位置に定められる。
Figure 2009066465
Figure 2009066465
同様に、歪補正部1806は、図40に示すように、右眼用部分画像2101aを右眼用台形画像2301aになるように拡大および縮小を行う。ここで右眼用台形画像2301aの下底YR1および上底YR2は数式(21)および数式(22)によって計算される。本ステップ2803aの処理において、右眼用部分画像2101aの右側(線分P3−P4より右の領域)の画像が縦に引き伸ばされ、左側(線分P3−P4より左の領域)の画像が縮小され、右眼用台形画像2301aが生成される。ここで線分P3−P4は、図40で示されるXR1とXR2の長さの比がWR1:WR2になる位置に定められる。
Figure 2009066465
Figure 2009066465
(ステップ2804a 逆台形補正)
本ステップ2804aでは、出力画像制御部1807が、前ステップ2803aで変形された左眼用台形画像2201aが左眼用偏向部104上の左眼用表示領域601bに投射されるように補正を行う。同様に、右眼用台形画像2301aが右眼用偏向部107上の右眼用表示領域602bに投射されるように補正を行う。この例を図41および図42を用いて示す。
ここで、左眼用台形画像2201aにおいて、点P1から左眼用台形画像2201aの左辺に降ろした垂線と、左眼用台形画像2201aの左辺が交わる点をP5、点P2から左眼用台形画像2201aの左辺に降ろした垂線と、左眼用台形画像2201aの左辺が交わる点をP6とする。この時、出力画像制御部1807は、台形領域2202aのうち線分P1−P5より上の領域、及び線分P2−P6より下の領域を切り取って、左眼投影用画像2401aを得る。
左眼投影用画像2401aは、左眼用偏向部104上で左眼用残領域1402aとなる矩形領域2402aと、左眼用偏向部104上で左眼用矩形領域1401aとなる台形領域2203aとで構成される。そして、左眼用光源101の出力を制御して左眼投影用画像2401aを偏向部104に投射すると、図32に示す左眼用表示領域601bに歪のない画像が表示される。
同様に、右眼用台形画像2301aにおいて、点P3から右眼用台形画像2301aの右辺に降ろした垂線と、右眼用台形画像2301aの右辺が交わる点をP7、点P4から右眼用台形画像2301aの右辺に降ろした垂線と、右眼用台形画像2301aの右辺が交わる点をP8とする。この時、出力画像制御部1807は、台形領域2303aのうち線分P3−P7より上の領域、及び線分P4−P8より下の領域を切り取って、右眼投影用画像2501aを得る。
右眼投影用画像2501aは、右眼用偏向部107上で右眼用残領域1502aとなる矩形領域2502aと、右眼用偏向部107上で右眼用矩形領域1501aとなる台形領域2302aとで構成される。そして、右眼用光源110の出力を制御して右眼投影用画像2501aを右眼用偏向部107に投射すると、図33に示す右眼用表示領域602bに歪のない画像が表示される。
上記ステップ2801a〜2804aを行うことで、生成された左眼投影用画像2401aおよび右眼投影用画像2501aは、偏向部104、107上において台形歪みの影響を受け、図32および図33の斜線で示される形状になる。
そして、偏向部104、107に表示された画像を見たユーザは、融像効果によって、図34に示す融像後図形1601aを認識する。図34で示される融像後図形1601aの左上隅および左下隅の画素は右眼のみで、右上隅および右下隅の画素は左眼のみで見ることになるが、全体としては台形歪みのない矩形として認識される。この時、表示される画像は、図36Bで示した補正画像1902aに一致する。
また、融像後図形1601aの高さHは、HL1≦H、HR2≦Hの関係を満たしているため、従来の台形補正の方法よりも、台形歪みの補正後の画像の高さを大きくする効果がある。
なお、ステップ1004aとステップ1005aの実行は逆でも良いし、同時に行っても良い。同様にステップ1006aとステップ1007aの実行順序は逆でも良いし、同時に行っても良い。
なお、出力画像制御部1807は、光源101、110を制御することによって、図34において左右の眼の画像が重なる部分についてはレーザの出力を下げてもよい。また逆に、出力画像制御部1807は、光源101、110を制御することによって、図34において片眼でのみ見ている画素の明るさを上げるようにレーザ出力を上げてもよい。上記のいずれかを行うことにより、画面の領域内で明るさのムラが出る事態を避けることができる。
また、画像制御部1804は、高さHの値と、幅WL1とWR1の和の比率が特定の比率(例えば16:9や4:3)になるように高さHの値を変更してステップ1004a以下の処理を繰り返してもよい。この場合、4:3や16:9のアスペクト比で放送されるテレビ番組などの映像を違和感無くユーザに表示することが可能になる。 また、出力画像制御部1807は、投影用画像2401a、2501aのうち、偏向部104、107上で残領域1402a、1502aとなる矩形領域2402a、2502aの任意の画素を表示しないようにしても良い。矩形領域2402a、2502aの画素は、他方の眼の台形領域2203a、2303aの画素と重なるので、表示画素数を削減してもユーザに気づかれにくい。
(ステップ1009a 左眼矩形領域)
本ステップでは、矩形領域決定部1802が、ステップ1002aでの比較の結果から、左眼用歪画像601a及び右眼用歪画像602aのうちの大きいほうの画像から矩形領域を決定する。
以下では左眼用歪画像601aの方が大きい(HR1<HL1)場合の実施例を記述するが、HL2<HR2の場合は左右の処理が交代するだけで本質的な差異は出ない。
本ステップの処理を図43を用いて説明する。
矩形領域決定部1802は、左眼用歪画像601aの点LAから辺LD−LCに降ろした垂線が、辺LD−LCと交わる点をLDl、点LBから辺LD−LCに降ろした垂線が辺LD−LCと交わる点をLClとする。このとき、左眼用矩形領域1401bをLA−LB−LCl−LDlと決定する。また、右眼用矩形領域の面積は0に設定される。この結果は、画像制御部1804に通知される。
(ステップ1010a 右眼台形領域)
本ステップでは、残領域決定部1803が、ステップ1002aでの比較の結果から、左眼用歪画像601a及び右眼用歪画像602aのうちの小さいほうの画像から残領域を決定する。この方法を図44を用いて説明する。本ステップの処理はWLとWRの値によって、場合分けされる。
(WR<WLの時)
残領域決定部1803は、右眼用歪画像602aの全領域を右眼用残領域1502bとする。
(WR≧WLの時)
残領域決定部1803は、右眼用歪画像602aの辺RA−RB(長辺)を左辺として幅Wとなる領域RA−RB−Xr4−Xr3を右眼用残領域1502bとする。また、左眼用残領域の面積は0とする。この結果は、画像制御部1804に通知される。
(ステップ 1011a)
本ステップでは画像制御部1804が、ステップ1009aおよび1010aで決定した左眼用矩形領域1401bおよび右眼用残領域1502bの範囲にのみ画素が表示されるように、左眼用画像601および右眼用画像602の変形を行い、光源101、110からのレーザ出力を制御する。
この時ステップ1008aと同様に、制御部105は左右の画像に対して図35に示されるステップ2801a〜2804aを実行する。ただし、左眼用歪画像601a及び右眼用歪画像602aのうちの小さい方の画像に関してはステップ2802aの代わりに、以下のステップ2805aを実行する。
(ステップ2805a)
本ステップ2805aにおいては、補正画像1902aから表示領域が決定される。この例を図46、図47、数式(23)、及び数式(24)を用いて示す。
左眼用偏向部104上の左眼用歪画像601aの高さが低い場合、画像制御部1804は、補正画像1902aから左眼用偏向部104に表示する領域の幅XLを決定する。ここでXLは数式(17)によって求められる。また、左眼用偏向部104に表示する領域の高さYLを決定する。ここでYLは数式(23)によって定められる。画像制御部1804は、図46に示されるように、補正画像1902aの右端から幅XLの部分でかつ、画像中央で高さYLの領域を補正画像1902aから切り出して、左眼用部分画像2601aを生成する。また、補正画像1902aの全領域を右眼用部分画像2701aとして設定する。
Figure 2009066465
一方、右眼用偏向部107上の右眼用歪画像602aの高さが低い場合、画像制御部1804は、補正画像1902aから右眼用偏向部107に表示する領域の幅XRを決定する。ここでXRは数式(18)によって求められる。また、右眼用偏向部107に表示する領域の高さYRを決定する。ここでYRは数式(24)によって定められる。画像制御部1804は、図47に示されるように、補正画像1902aの左端から幅XRの部分でかつ、画像中央で高さYRの領域を補正画像1902aから切り出して、右眼用部分画像2701aを生成する。また、補正画像1902aの全領域を左眼用部分画像2601aとして設定する。
Figure 2009066465
上記の処理により、画像制御部1804は左眼用画像および右眼用画像の変形を行い、変形画像に対応するビームが偏向部104、107に投影されるよう、光源101、110の制御を行う。
その結果、左眼用偏向部104上に表示される画像は、図43の斜線で描かれた形状になり、右眼用偏向部107上に表示される画像、図44の斜線で描かれた形状になる。
この時、前述した両眼の融像効果によって、ユーザが認識する画像の形状を図45に示す。高さの高い方の投影像にあわせて表示画素を変更することで、視野角の広い台形歪みの補正を行っている。
なお、ステップ1009aとステップ1010aの実行順序は逆でも良いし、同時に行っても良い。
なお、出力画像制御部1807は、図45において左右の眼の画像が重なる部分についてはレーザの出力を下げて、片眼でのみ見ている画素との明るさの差異が出ないように制御を行っても良い。また逆に、出力画像制御部1807は、図45において片眼でのみ見ている画素の明るさを上げるようにレーザ出力を上げて、画像全体に明るさの差異が出ないように制御を行っても良い。この場合、ユーザに輝度ムラのない良好な画像を表示することが可能になる。
なお、本実施の形態では、左右の偏向部104、107上の歪画像601a、602aは必ずしもで完全な台形である必要は無く、四方の辺に歪みがある場合においても本発明の手法は適用される。この場合、偏向部が平板ではなく凹凸を持っている場合においても両眼の融像効果を利用して見た目の視野角を広げることが可能になる。
なお、ステップ1002aにおいては歪画像601a、602aの高さの比較によって処理を分岐させたが、ユーザの視力に一定の差がある場合にステップ1009aへの分岐を行い、視力の高い眼に投影される投影像をステップ1009aにおける高さの高い方の投影像として扱っても良い。この時、ステップ1010aにおいても視力の悪いほうの眼に投影される投影像は矩形領域、残領域ともに面積が0になるように制御を行うことで、視力の悪いほうの眼の影響を防ぐことが出来る。なお、視力を判定する手段としては、ユーザが外部インターフェースから入力しても良いし、レーザの波面曲率と網膜上のレーザのスポットサイズから類推する方法を用いても良い。
なお、ユーザの視力は前もってユーザインターフェースなどで入力しても良いし、ランドルト環をユーザに表示することで視力測定を行っても良い。また、眼に投影したビームの戻り光から、網膜上のスポットサイズを検出し、視力の推定を行っても良い。この場合、自身の視力を把握していないユーザに対しても良好な画像を表示することが可能になる。
なお、本実施の形態においては、偏向部104、107をユーザの視線に垂直な面として扱ったが、偏向部104、107はユーザの視線に対して傾いていても良いし、また平面形状でなくてもよい。その場合、本発明の処理は偏向部104、107上の像ではなく、ユーザの視線に垂直な平面を仮定し、その仮定された平面上での投影像の形状を制御する。
次に、図48を参照して、本実施の形態3の典型例を説明する。なお、図48は、図29に示す左眼用歪画像601aと、図30に示す右眼用歪画像602aとを重ね合わせた図(実線部分)であり、実際に画像が表示される部分を斜線で示している。
まず、図29に示す左眼用歪画像601aと、図30に示す右眼用歪画像602aとは、典型的には合同図形である。つまり、HL1=HR2、HL2=HR1、WL=WRが成立する。つまり、ステップ1002aにおいて、HL2≧HR2かつ、HR1≧HL1をみたすので、ステップ1003a〜1008aを実行することになる。
次に、ステップ1003aにおいて、左眼用歪画像601aのWL1=WL2=WL/2となる位置における高さをHとする。同様に、右眼用歪画像602aのWR1=WR2=WR/2となる位置における高さをHとする。
次に、ステップ1004a〜1007aにおいて、左眼用矩形領域1401a、右眼用矩形領域1501a、左眼用残領域1402a、及び右眼用残領域1502aを決定する。このとき、左眼用表示領域601bと右眼用表示領域602bとは合同であり、高さHをWL1=WL2=WR1=WR2=WL/2=WR/2となる位置に設定したので、両者を重ね合わせると、図48のようになる。
つまり、左眼用矩形領域1401aの第2の辺(Xl1−LDl、Xl2−LCl)と、右眼用矩形領域1501aの第4の辺(Xr1−RAr、Xr2−RBr)とが、左眼用画像601b及び右眼用画像602bそれぞれの斜辺の交点を通る直線となる。このとき、ユーザが認識する画像(RAr−LDl−LCl−RBr)が最大となる。
次に、ステップ2801a〜ステップ2804aの画像処理を実行する。このとき、ステップ2802aにおいて、XL=XR=X´となるので、左右とも補正画像1902aの全てが表示対象となる。
また、本実施の形態においては左眼用制御部105が表示方法の決定を行ったが、右眼用制御部111が行う方法でも良いし、二つの制御部105、111で処理を分担する方法を用いても良い。
(実施の形態4)
本実施の形態では、左右の眼で表示する画素の数を変更することで、表示画像のフレームレートを向上させる方法について示す。
図1A、図1B、図2、及び図49を参照して、本発明の実施の形態4に係るメガネ形のビーム走査型表示装置(ヘッドマウントディスプレイ:HMD)を説明する。なお、図1A、図1B、及び図2に示す構成は実施の形態1と共通であるので、説明は省略する。
制御部105、111は、HMD各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、走査部103、108の動作が制御部105、111によって制御される。
図49に本実施の形態における左眼用制御部105の機能ブロック図を示す。左眼用制御部105は、画像分析部801bと、駆動周波数決定部802bと、電源管理部803bと、表示画質決定部804bと、ユーザプロファイル管理部805bと、走査パターン決定部806bと、画像制御部807bとを含む。
画像分析部801bは、元画像の分析を行う。具体的には、元画像の解像度、フレームレート、及び元画像の内容を示すコンテンツ情報等を取得する。
駆動周波数決定部802bは、電源管理部の検出結果に応じて、左眼用走査部103及び右眼用走査部108の両方の駆動周波数の最大値を変更する。
電源管理部803bは、ビーム走査型表示装置に搭載されているバッテリーの残量を検出する。
表示画質決定部804bは、左眼用走査部103及び右眼用走査部108の最大駆動周波数に基づいて、元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正する。
ユーザプロファイル管理部805bは、ユーザがコンテンツ情報毎に設定する画質補正値、ユーザの視力に関する情報等を保持する。
走査パターン決定部806bは、左眼用走査部103及び右眼用走査部108それぞれに所定の走査パターンでビームを走査させる。具体的には、表示画像を複数の走査領域に区分し、各フレームにおける左眼用走査部103及び右眼用走査部108の走査領域が異なり、且つ隣接するフレームにおける左眼用走査部103及び右眼用走査部108それぞれの走査領域が異なるように、左眼用走査部103及び右眼用走査部108それぞれにビームを走査させる。
画像制御部807bは、走査パターン決定部806bで決定された走査パターンを実現するために、光源101、110の出力を制御する。
なお、制御部105、111は、携帯電話等の周辺機器と無線接続して映像音声信号を受信する通信部を備えてもよい。制御部105、111は、ユーザに提示すべき画像を格納したメモリを備えていてもよいし、もしくは無線によって外部機器からユーザに提示すべき画像を取得しても良い。
なお、制御部105、111はひとつであってもよく、制御部105、111のいずれか一方が左右の眼に対応する光源101、110、波面形状変更部102、109、走査部103、108、ヘッドホン部106、112の動作を制御してもよい。この場合、ビーム走査型表示装置の大きさを削減することが可能になる。
ヘッドホン部106、112は、スピーカーを備え、音声を出力する。なお、ヘッドホン部106、112には、HMD各部へ電源供給するバッテリーを備えてもよい。
なお、図1における各手段や各部は、1台のHMDに内蔵されていてもよいし、内蔵されていなくてもよい。例えば、図1各部の全てが1台のHMDに含まれていてもよいし、ヘッドホン部106、112がなくてもよい。また、各部が分散配置していてもよい。例えば、制御部105、111が走査部103、108や波面形状変更部102、109に一部含まれていてもよい。複数の機器で図1の各部を共有してもよい。例えば、光源101、110を2つのHMDで共有してもよい。
以下に、図1のビーム走査型表示装置において、前述の融像効果を利用して、表示画像のフレームレートを向上させながら、見かけ上の画質の低下を抑制する処理の例を示す。
なお、本実施の形態では、走査部103、108は同一の構造をもつミラーデバイスとする。また、このミラーデバイスは図74に示すように単板ミラーを駆動素子によって二次元方向に走査するデバイスとする。
本実施の形態においては、走査部103、108は、入射レーザを水平走査角α4度、垂直走査角β4度で走査し、水平解像度Nx4、垂直解像度Ny4の画像を表示する能力を持つように設計されている。また、走査部103、108の水平方向の最大駆動周波数をHx4、垂直方向の最大駆動周波数をHy4とする。また、走査部103、108は、水平方向(第1の方向)に画素を走査する動作を、垂直方向(第1の方向に直交する第2の方向)に順次位置をずらしながら複数回繰り返すことによって1フレームの画像を描画する。また、本実施の形態においては、走査部103、108の表示画像のオーバースキャン率をAとする。
以下、本実施の形態におけるフレームレートと解像度の決定の処理の具体例を示す。この処理は図50に示すステップ701b〜705bを実行することよって行われる。
(ステップ701b)
本ステップでは画像分析部801bが、ユーザに提示する画像の内容を分析する。図51に、図1のHMDがユーザに表示する画像の元データである元画像を例示する。本実施の形態4では、水平解像度Nx4orgn(以下、元画像のパラメータを「orgn(original)」で示す)、垂直解像度Ny4orgn、フレームレートfps4orgnの画像が元画像として用意されている。この元画像は、制御部105内の記憶部に蓄えられていても良いし、通信を介して外部の機器から取得しても良い。
表示画像分析部801bは、元画像の画像データを分析することで解像度Nx4orgn、Ny4orgn、およびフレームレートfps4orgnの値を取得する。
また、画像分析部801bは、スポーツや映画、といった元画像の内容(ジャンル)を、元画像に付与されているメタデータから判定する。図52に本実施の形態において元画像に付加されているメタデータを例示する。図52のメタデータが与えられた場合、画像分析部801bは、元画像のジャンルを「音楽」と判定する。
なお、画像分析部801bは、元画像に付与されているメタデータから解像度Nx4orgn、Ny4orgnおよびフレームレートfps4orgnの値を取得しても良い。また、図1のHMDで扱う画像の形式を予め設定しておき、その設定値から元画像の解像度Nx4orgn、Ny4orgnおよびフレームレートfps4orgnの値を決定しても良い。この場合、画像を分析するための処理コストを削減することが可能になる。
また、メタデータの形式は図52に示した独自のXML(eXtensible Markup Language)形式でもよいし、MPEG7(Moving Picture Experts Group 7)などの規格化されたXMLフォーマットの書式に従ったものを用いても良い。
また、メタデータは画像データの特定フィールドに埋め込まれているバイナリデータでもよい。この場合、別途、メタデータファイルを扱う必要がなくなるため画像の管理が容易になる。
(ステップ702b)
本ステップでは駆動周波数決定部802bが、走査部103、108の最大駆動周波数Hx4、Hy4の補正を行う。
駆動周波数決定部802bは、水平周波数補正値Xa、垂直周波数補正値Yaの値を決定し、それぞれをHx4、Hy4に掛け合わせることで、走査部103、108の水平方向の許容最大駆動周波数Hx4maxおよび垂直方向の許容最大周波数Hy4maxの値を生成する。
本実施の形態では、駆動周波数決定部802bは、電源管理部803bから図1のHMDの現在のバッテリー残量を取得し、バッテリー残量の値に従って、画質補正値の一例としての水平周波数補正値Xaおよび垂直周波数補正値Yaの値を決定する。図53に、駆動周波数決定部802bが、バッテリー残量からXa、Yaの値を算出するための計算表の例を示す。この例ではバッテリー残量が60%を切ると、走査部103、108の最大駆動周波数を削減し、消費電力の軽減を図るように図53の計算表の値が決められている。
なお、駆動周波数補正値Xa、Yaの決定は、バッテリー残量以外の値から決定しても良い。例えば、走査部103、108の使用年数を管理しておくことで、使用年数が長いほど低い周波数で駆動するように処理を行っても良い。この場合、ビーム走査型表示装置の耐久性を考慮した処理が可能になる。
また、走査部103、108に、動作状態を検知するセンサーを取り付け、そのセンサーの値から仕様上の最大駆動周波数と実際上の最大駆動周波数の差を検出し、実際上の最大駆動周波数の値に合うように、駆動周波数補正値Xa、Yaの値を決定しても良い。この場合、実際の走査部103、108の動作が設計値と異なる場合でも、正しく処理を行うことが可能になる。
(ステップ703b)
本ステップでは、表示画質決定部804bが、図1のHMDでユーザに表示する左右それぞれの表示画像の水平解像度Nx4disp(以下、表示画像のパラメータを「disp(display)」で示す)、垂直解像度Ny4disp、フレームレートfps4dispを決定する。
前述のように、走査部103、108の水平方向の駆動周波数Hx、表示画像の垂直方向の解像度Nyおよびフレームレートfpsの間には数式(4)の関係が成り立つ。従って、垂直解像度Ny4orgnの表示画像を、フレームレートfps4orgnで表示するための水平方向の駆動周波数をHx4orgnとすると、Hx4orgnは数式(25)で表現される。
Figure 2009066465
ここで、走査部103、108の水平方向の許容最大駆動周波数Hx4maxの値が元画像を表示するのに必要な水平方向の駆動周波数Hx4orgnを上回る場合、表示画質決定部804bは、表示画像の解像度Nx4disp、Ny4dispに元画像のNx4orgn、Ny4orgnを設定し、表示画像のフレームレートfps4dispに元画像のフレームレートfps4orgnの値を設定し、ステップ704bの処理を行う。
一方、Hx4maxの値がHx4orgnを下回る場合、走査部103、108では、垂直解像度Ny4orgn、フレームレートfps4orgnの画像を表示することができない。この場合、表示画質決定部804bは、左右の眼に表示する表示画像の垂直解像度Ny4dispの値を元画像の垂直解像度Ny4orgn以下にする、表示画像のフレームレートfps4dispをfps4orgn以下にするといった処理のどちらか、もしくは両方を行う必要がある。
数式(4)に示される関係より、垂直解像度Ny4disp、フレームレートfps4dispの画像を表示するために必要な水平方向の駆動周波数Hx4dispは数式(26)で与えられる。
Figure 2009066465
表示画質決定部804bは、Hx4dispの値が、Hx4max以下になるように解像度Ny4dispおよびフレームレートfps4dispの値を決定する。
なお、本実施の形態においては、表示画質決定部804bは、前述の両眼融像の効果を想定して表示画像の解像度を決定する。左右の眼に表示される画像の垂直解像度Ny4dispの時、両眼の融像効果によって、ユーザが視認する融像画像の垂直解像度Ny4fusn(以下、融像画像のパラメータを「fusn(fusion)」で示す)と、Ny4dispおよび元画像の垂直解像度Ny4orgnの間には、数式(27)の関係が成り立つ。
Figure 2009066465
数式(27)は、左右の眼で垂直方向の表示行が重ならないようにした場合、Ny4fusnの値がNy4dispの値の2倍になることを示している。これは右眼に元画像の上半分、左眼に元画像の下半分を提示した場合などに該当する。この融像効果を利用することで、表示画像のフレームレートfps4dispを高くするために、表示画像の垂直解像度Ny4dispを元画像の垂直解像度Ny4orgnの半分にまで下げても、左右の表示がその位置を適切に選択することで、ユーザが視認する表示画像の見かけ上の解像度の低下を防ぐことができる。
本実施の形態において表示画質決定部804bは、画像分析部801bが得た元画像の情報の内容から、フレームレートfps4dispの値を決定するためのフレームレート係数Fを決定する。図54に表示画質決定部804bが保持するフレームレート係数Fの算出表の例を示す。
ここでフレームレート係数Fは、元画像フレームレートfps4orgnに対する左右の眼での表示画像のフレームレートの削減度合いを示す係数であり、表示画質決定部804bは、フレームレート係数Fの決定後、Fとfps4orgnを掛け合わせることで、表示画像のフレームレートfps4dispを決定する。フレームレート係数Fの値が1の場合は、表示画像のフレームレートの削減は行われず、元画像のフレームレートfps4orgnを表示画像のフレームレートfps4dispとして設定する。また、フレームレート係数Fの値が0に近いほど表示画像のフレームレートの削減が大きくなる。なおfps4dispの値が1を下回った場合には、表示画質決定部804bはfps4dispの値を1に設定する。図54の表を用いた場合、表示画質決定部804bはスポーツなど動きの大きい映像に対してはフレームレートの削減幅を小さくし、ニュースなど文字情報が多く用いられる情報に対しては解像度を優先するようにフレームレート係数Fの値が決定される。
なお、表示画質決定部804bがフレームレート係数Fを算出する際に、フレームレートおよび解像度に対するユーザの嗜好情報を反映させても良い。図55に画質補正値の一例としてのフレームレート係数補正値Faの例を示す。図55は、ユーザの嗜好情報とフレームレート係数補正値Faとの関係を示す表であり、ユーザプロファイル管理部805bが保持している。
この表を利用すれば、どのような情報に対してユーザがフレームレートを優先するかを設定することができる。つまり、ユーザがフレームレートを重視する情報ほど、フレームレート係数補正値Faの値が高く設定されている。表示画質決定部804bは、ユーザプロファイル管理部805bからフレームレート係数補正値Faを受け取り、フレームレート係数Fにフレームレート係数補正値Faとを加算してから元画像のフレームレートfps4orgnと掛け合わせることで、修正フレームレートfps4dispを決定する。
なお、フレームレート係数補正値Faとフレームレート係数Fとの和が1を超える場合は、fps4dispの値をfps4orgnに設定する。また、フレームレート係数補正値Faとフレームレート係数Fとの和が0以下になる場合は、fps4dispの値を1に設定する。また、フレームレート係数補正値Faの値は、ユーザがユーザインターフェースを介して直接入力しても良いし、ユーザプロファイル管理部805bが自動的に生成しても良い。この場合、ユーザが自分の好みに合ったフレームレートを適時設定することが可能になる。
また、前述のように、走査部103、108の垂直周波数Hyと、表示画像のフレームレートfpsの間には数式(1)の関係が成り立つ。従って、ユーザに表示する表示画像のフレームレートをfps4dispとした場合の、走査部103、108に求められる垂直方向の駆動周波数Hy4dispは、数式(28)で与えられる。ここでHy4dispの値が、走査部103、108の垂直方向の許容最大駆動周波数Hy4maxを上回った場合、表示画質決定部804bはfps4dispの値を、Hy4maxの二倍の値に修正する。
Figure 2009066465
表示画質決定部804bは、表示画像のフレームレートfps4dispの決定後、1フレームにつき、左右の眼にそれぞれ表示される表示画像の垂直方向の解像度Ny4dispを決定する。本実施の形態において、Ny4dispの値は、数式(29)で計算される。
Figure 2009066465
ただし、数式(29)による計算の結果、Ny4dispの値が表示画質決定部804bが定める最小解像度Ymin以下になる場合は、Ny4disp≧Yminとなるように、数式(30)に示す計算式でfps4dispの値を修正する。なお、Yminの値は、fps4disp≧1となるように設定されているものとする。
Figure 2009066465
また、数式(29)による計算の結果、Ny4dispの値が、Ny4orgnの値を上回る場合、Ny4dispの値をNy4orgnに設定し、fps4dispの値を数式(31)で与えられる計算式の値に設定する。
Figure 2009066465
最後に表示画質決定部804bは、表示画像の水平方向の解像度Nx4dispを決定する。ここで、元画像の水平解像度Nx4orgnが、走査部103、108が表示可能な垂直解像度Nx4を上回る場合には、Nx4の値をNx4dispの値として設定する。それ以外の場合には、Nx4orgnの値をNx4dispの値として設定する。
なお、表示画質決定部804bは表示画像の垂直解像度を先に決定しておき、それを実現するためにフレームレートの値を削減する方法を取っても良い。この場合、解像度を優先した画像の表示を行うことが出来る。
なお、表示画像の垂直解像度およびフレームレートは、ユーザインターフェースを介してユーザが直接入力する形態をとっても良い。このユーザからの入力値を基にして、ユーザプロファイル管理部805bは、図55に示す表を自動生成しても良い。
なお、本実施の形態では、元画像のフレームレートfps4orgnを表示画像の解像度fps4dispの上限として扱っているが、倍速駆動表示のように、元画像の本来のフレームレートfps4orgnより高いフレームレートの値をfps4dispに設定しても良い。この場合でも、数式(3)、数式(4)で示される制約を満たすように表示画像の解像度fps4dispの値を設定する。この場合、ブレの少ない映像表示を行うことが可能になる。
(ステップ704b)
本ステップでは、走査パターン決定部806bが、走査部103、108がレーザ光を走査する方法を決定する。
走査パターン決定部806bは、前ステップ703bで決定されたフレームレートfps4dispに従って、元画像からfps4disp/fps4orgnのフレームを抽出して、抽出した各フレームに対して、以下の垂直走査範囲の決定と、表示画素の決定の処理を行う。
(垂直走査範囲の決定)
まず、走査パターン決定部806bは、走査部103、108のそれぞれが1フレームの間に、垂直方向にレーザを走査する範囲である垂直走査範囲を決定する。図56A〜図56Cに垂直走査範囲の例を示す。図56Aに示す走査パターン1401では、1フレームの間に表示画像の高さと同じ範囲を垂直方向に走査している。図56Bに示す走査パターン1402では、1フレームの間に表示画像の高さの半分の範囲を垂直方向に走査している。図56Cに示す走査パターン1403では、1フレームの間に表示画像の高さの四分の1の範囲を垂直方向に走査している。
なお、走査パターン決定部806bは、左右の眼の走査部103、108で垂直走査範囲を別々に定めても良い。特に、垂直走査範囲が表示画像の高さと一致しない場合においては、左右の走査部103、108で垂直走査範囲が重ならないようにすることで、両眼の融像効果により見かけ上の解像度を向上させることが出来る。
(表示画素の決定)
次に、前ステップで決定された垂直解像度Ny4disp、水平解像度Nx4dispに従って、走査部103、108が前述の垂直走査範囲の内で描画する画素を決定する。
本実施の形態においては、元画像の垂直解像度Nx4orgnを表示画像の垂直解像度Nx4dispで割った商をフレーム数Nfとした時に、走査パターン決定部806bが、左右の走査部103、108のそれぞれが少なくともNf枚のフレームで全画素を描画するように、1フレームでの画素の選択を行う。
例えば、フレーム数Nfの値が2の場合、2フレームで全画素の表示を行うように、走査パターン決定部806bは、1フレーム目では画像上半分を、次のフレームでは画像の下半分を描画するように走査パターンを決定する。
また、フレーム数Nfの値が、2以上の場合、走査パターン決定部806bは、1フレームで左右に表示される画素が重ならないように走査パターンの決定を行う。例えば、元画像のあるフレームに対して、右眼で上半分の画素を表示した際には、左眼では下半分の画素を表示するように走査パターンの決定を行う。また同様に、右眼で奇数行を表示した際には、左眼で偶数行を表示するように走査パターンの決定を行う。
上記のように左右の眼で1フレームでの表示画素が重ならないように走査パターンの決定を行うと、両眼の融像効果によって、ユーザが視認する画像の垂直解像度Ny4fusnを、Ny4dispの倍にすることが可能になり、表示画像のフレームレートを保つために表示画像の解像度を低下させた場合においても、ユーザに表示する画像の見かけ上の解像度を向上させることが出来る。
以下、図57〜図63に左右の眼に対する走査パターン、および両眼の融像効果によってユーザが視認する表示画像の例を示す。
図57は、左右それぞれの表示画像の垂直解像度Ny4dispが、元画像の垂直解像度Ny4orgnの半分とき(Nf=2)、つまり、表示画像を垂直方向に2つの走査領域に区分したときの左右の眼に対する走査パターン、および両眼の融像効果による表示画像の例である。この例では、左眼が表示画像の上半分を表示しているときには、右眼では表示画像の下半分を表示する。また1フレームごとに、表示画像の上半分の表示と、下半分の表示を切り替える。なお、この例における走査部103、108の走査範囲は、表示画像の高さの半分である。
つまり、左眼用走査部103及び右眼用走査部108は、それぞれ隣接するフレームで異なる走査領域を走査している。また、左眼用走査部103及び右眼用走査部108は、各フレームにおいて、異なる走査領域を走査している。なお、走査部103、108の3番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。
図58は、左右それぞれの表示画像の垂直解像度Ny4dispが、元画像の垂直解像度Ny4orgnの四分の一のとき(Nf=4)、つまり、表示画像を垂直方向に4つの走査領域に区分したときの左右の眼に対する走査パターンおよび、両眼の融像効果による表示画像の例である。
この例では、表示画像を垂直方向に4つの走査領域に分割している。そして、左眼用走査部103は、最初のフレームで1番上の走査領域を走査し、2番目のフレームで上から2番目の走査領域を走査し、3番目のフレームで上から3番目の走査領域を走査し、4番目のフレームで一番下の走査領域を走査する。一方、右眼用走査部108は、最初のフレームで1番下の走査領域を走査し、2番目のフレームで下から2番目の走査領域を走査し、3番目のフレームで下から3番目の走査領域を走査し、4番目のフレームで一番上の走査領域を走査している。なお、この例における走査部103、108の走査範囲は、表示画像の高さの四分の一である。
つまり、左眼用走査部103及び右眼用走査部108は、それぞれ隣接するフレームで異なる走査領域を走査している。また、左眼用走査部103及び右眼用走査部108は、各フレームにおいて、異なる走査領域を走査している。なお、走査部103、108の5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。
図59は、図58の変形例である。図58との相違点は、右眼用走査部108が4つの走査領域のうち、上から3番目の走査領域、一番下の走査領域、一番上の走査領域、上から2番目の走査領域の順に走査している点である。
この例においても、左眼用走査部103及び右眼用走査部108は、それぞれ隣接するフレームで異なる走査領域を走査している。また、左眼用走査部103及び右眼用走査部108は、各フレームにおいて、異なる走査領域を走査している。なお、走査部103、108が5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。
図57〜図59に示したように、各走査領域が垂直走査方向に連続した連続領域となるように表示画像の分割を行うことによって、左眼用走査部103及び右眼用走査部108の走査角を小さくすることができる。
図60は、左右それぞれの表示画像の垂直解像度Ny4dispが、元画像の垂直解像度Ny4orgnの半分のとき(Nf=2)、つまり表示画像を垂直方向に2つの走査領域に区分したときの左右の眼に対する走査パターン、および両眼の融像効果による表示画像の例である。
この例では、左眼が表示画像の奇数行の画素を表示しているときには、右眼では表示画像の偶数行の画素を表示する。また1フレームごとに、表示画像の奇数行の表示と、偶数行の表示を切り替える。なお、この例における走査部103、108の走査範囲は、表示画像の高さと同じである。
図61は、Ny4dispがNy4orgnの四分の一のとき(Nf=4)、つまり、表示画像を垂直方向に4つの走査領域に区分したときの左右の眼に対する走査パターン、および両眼の融像効果による表示画像の例である。
この例では、左眼用走査部103は、最初のフレームで表示画像の上半分の奇数行を、2番目のフレームで下半分の奇数行を、3番目のフレームで下半分の偶数行を、4番目のフレームで上半分の偶数行の画素をそれぞれ走査する。このとき右眼用走査部108は、左眼の表示行に隣接する行の表示が行われる。なお、走査部103、108が5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。また、この例における走査部103、108の走査領域は、表示画像の高さの八分の三である。
図62は、図61の変形例である。図62との相違点は、右眼用走査部108が最初のフレームで表示画像の下半分の奇数行を、2番目のフレームで下半分の偶数行を、3番目のフレームで上半分の偶数行を、4番目のフレームで上半分の奇数行をそれぞれ走査する。なお、走査部103、108が5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。また、この例における走査部103、108の走査領域は、表示画像の高さの八分の三である。
図63は、Ny4dispがNy4orgnの四分の一のとき(Nf=4)、つまり表示画像を垂直方向に4つの走査領域に区分したときの左右の眼に対する走査パターン、および両眼の融像効果による表示画像の例である。
この例では、左眼用走査部103は、最初のフレームで表示画像の4N−3番目の行(1行目と5行目)を、2番目のフレームで4N−2番目の行(2行目と6行目)を、3番目のフレームで4N−1番目の行(3行目と7行目)を、4番目のフレームで4N番目の行(4行目と8行目)をそれぞれ走査する。一方、右眼用走査部108は、1番目のフレームで4N−1番目の行(3行目と7行目)を、2番目のフレームで4N番目の行(4行目と8行目)を、3番目のフレームで4N−3番目の行(1行目と5行目)を、4番目のフレームで4N−2番目の行(2行目と6行目)をそれぞれ走査している。なお、走査部103、108が5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。また、この例における走査部103、108の走査領域は、表示画像の高さの八分の五である。
図61〜図63に示したように、各走査領域が垂直走査方向に離隔した離隔領域となるように表示画像の分割を行うことによって、左眼用走査部103と右眼用走査部108とが互いに隣接する画素を走査することになるので、高い融像効果を得ることができる。ただし、図57〜図59の例と比較すると、各フレームにおける走査部103、108の走査範囲は広くなる。
なお、図57〜図63は、一例であり、走査パターン決定部806bは、他の走査パターンを利用しても良い。また、上記の例では、Nfの値が4までの例を示したが、Nfの値が4以上であっても、左右の表示画素が重ならないように、同様の走査パターンを決定することができる。この場合、1フレームで表示するがその密度を上げることが可能になる。
垂直走査範囲が元画像の高さのN分の一、Nfの値がNy4orgnのN分の一(Nは自然数)の時、元画像を横にN分割した画像を左眼は上から順に、右眼は下から順に1フレームごとに表示する方法をとっても良い。この場合、左右の眼で表示される画素の位置を分散させることができる。
また、垂直走査範囲が元画像の高さのN分の一、Nfの値がNy4orgnのN分の一(Nは自然数)の時、元画像を横にN分割した画像を左眼は上から順に表示し、右眼は左眼に表示されている領域に隣接されている領域の画素を表示する方法を取っても良い。
また、垂直走査範囲が元画像の高さと同じで、Nfの値がNy4dispのN分の一(Nは自然数)の時、左眼のLフレーム目には(NM−N+L)行目の画素を表示し(Mは自然数)、右眼には左眼に表示されている画素と隣接する行の画素を表示する方法をとっても良い。なおこの時、N+1以降のフレームの表示は1〜Nフレーム目までの表示を繰り返す。
なお、走査パターン決定部806bは、左右の表示画素を完全に異なるように走査するのではなく、一部の画素が重なるように表示画素を選択する方法を用いても良い。この時、左右の融像効果によって得られる表示画像の垂直解像度Ny4fusnの値は低下するが、左右で同一の画素を表示することで、両眼による融像がしやすいという効果が得られる。
また、垂直走査範囲が少ないほど、走査部103、108の垂直方向の駆動周波数が少なくなるため、走査パターン決定部806bは、走査部103、108の垂直方向の許容最大駆動周波数Ny4maxの値に応じて、垂直走査範囲の値を決定する方法をとっても良い。
なお、倍速駆動のようにfps4dispの値が、元画像のフレームレートfps4orgnの値を上回る場合には、fps4disp/fps4orgnの値が1を上回る。その際には、前後のフレームをそのまま表示する、もしくは前後のフレームから差分フレームを生成するなどの処理を行って、ユーザに提示する画像を生成する。
(ステップ705 画像制御)
本ステップでは、画像制御部807bが、前ステップ704bの結果に合わせて1フレームごとに光源101、110、及び走査部103、108の制御を行い、指定された走査パターンを実現する。
なお、ステップ704bとステップ703bは逆に行っても良い。その場合、走査パターンに適すように表示画像の解像度Nx4disp、Ny4dispとフレームレートfps4dispの決定が行われる。
また、本実施の形態では、垂直方向の走査を低速側として処理を行う例を挙げたが、水平方向と垂直方向を入れ替えた処理を行っても良い。
なお、上記した各実施の形態での制御処理は、専用のH/W(電子回路等)で実現されてもよいし、記憶装置(ROM、RAM、ハードディスク等)に格納された上述した処理手順を実行可能な所定のプログラムデータが、CPUによって解釈実行されることで実現されてもよい。この場合、プログラムデータは、記録媒体を介して記憶装置内に導入されてもよいし、記録媒体上から直接実行されてもよい。なお、記録媒体は、ROM、RAM、フラッシュメモリ等の半導体メモリ、フレキシブルディスクやハードディスク等の磁気ディスクメモリ、CD−ROMやDVDやBD等の光ディスクやSDカード等のメモリカード等の記録媒体をいう。また、記録媒体は、電話回線や搬送路等の通信媒体も含む概念である。
また、実施の形態は本発明の趣旨を逸脱しない範囲で適時変更が可能である。当然、本発明の実施の形態を組み合わせて用いることもできる。
次に、図64〜図73を参照して、上記の各実施形態に係るビーム走査型表示装置の代表的な用途を説明する。以降、各用途に実施の形態1に係るビーム走査型表示装置を適用したものとして説明するが、同様に実施の形態2〜4を適用することもできるし、実施の形態1〜4を任意の組み合わせで組み合わせて適用してもよい。また、ビーム走査型表示装置の用途は、下記のものに限定されないことは言うまでもない。
また、本実施の形態においては左眼用制御部105が表示方法の決定を行ったが、右眼用制御部111が行う方法でも良いし、二つの制御部105、111で処理を分担する方法を用いても良い。
(実施の形態5)
図64〜図68を参照して、本発明の実施の形態5に係るレーザ走査型のHUD(ヘッドアップディスプレイ)を説明する。なお、図64はHUDの側面図、図65はHUDの鳥瞰図、図66及び図67は図66の変形例、図68は図64のレーザ走査ユニット2602の詳細図である。
車2601の内部には、左眼用のレーザ走査ユニット2602および右眼用のレーザ走査ユニット2610が埋め込まれている。レーザ走査ユニット2602、2610は、車2601のフロントガラス2603の下方(本実施形態では、インパネの内部)に取り付けられており、表示装置の小型化を図っている。
なお、レーザ走査ユニット2602、2610は、インパネの内部ではなく、インパネ外部に配置してもよい。この場合、レーザ走査ユニット2602、2610の交換や位置の変更が容易になる。
なお、レーザ走査ユニット2602、2610は、インパネ部分ではなく天井2607に配置しても良い。この場合、インパネ部分に必要な容積を削減することが出来、車内の空間を広げることが可能になる。
なお、レーザ走査ユニット2602、2610は、図65に示すようにユーザを挟むように配置する方法のほかに、図66に示すようにユーザの右側に両方ともが配置される方法をとっても良い。この場合、車体中央に走査ユニット2602を配置する必要がなくなるため、車中央の空間を広げ、デザイン性を高めることが可能になる(図65では、左眼用のレーザ走査ユニット2602が助手席との間に配置されている)。
レーザ走査ユニット2602、2610によって走査された光は、フロントガラス2603に取り付けられた偏向部104、107によって反射され、ハーフミラー2604を通過し、ドライバー2605の眼球2606、2609に到達することで映像が視認される。このようなHUDでは、フロントガラス2603越しに外界風景を確認しながら、レーザ走査ユニット2602、2610によって表示される地図情報や警告情報を見ることができ、ドライバー2605の安全性や利便性を向上させることが可能になる。ユーザの網膜上に投影されたレーザの反射光は、ユーザの眼前に設置されたハーフミラー2604によって反射され、光検出部214によって検出される。
なお、偏向部104、107は、図67に示すようにフロントガラス2603上に別々に配置する方法の他に、図65及び図66に示すように1つのホログラム上に多重露光することで、一枚のホログラムミラーとして実現する方法を用いても良い。この場合、左眼用偏向部104および右眼用偏向部107それぞれの面積を広げることが可能になり、ユーザにより広い視野角の映像を表示することが可能になる。
また、ハーフミラー2604は、右眼用と左眼用の二つを用意しても良いし、一枚の横長形状のハーフミラーを用いても良い。
左眼用のレーザ走査ユニット2602は、光源101、波面形状変更部102、走査部103、制御部105から構成されている。また、右眼用のレーザ走査ユニット2610は、光源110、波面形状変更部109、走査部108、制御部111から構成されている。図68に本実施の形態における左眼用のレーザ走査ユニット2602内の光源101、波面形状変更部102、偏向部104の構造の例を示す。
図68における光源101は、実施の形態1の図2と同様、赤色レーザ光源211と、青色レーザ光源212と、緑色レーザ光源213とから構成されている。なお、本実施の形態において光検出部214は光源101中には含まれず、図64に示されるように車2601の天井2607に設置されている。この構成をとることで、ユーザの網膜と光検出部214までの距離を短くすることができ、網膜上のスポットサイズを検出することが容易になる。
図68における波面形状変更部102は、焦点距離水平成分変更部3001と、焦点距離垂直成分変更部3002とを光路に直列に配置している。これによって、ビームの水平方向の曲率と垂直方向の曲率とを独立して変更できる。本実施の形態における焦点距離水平成分変更部3001および焦点距離垂直成分変更部3002は、シリンドリカルレンズの位置を変更することによって、水平方向および垂直方向の曲率を変更する。
なお焦点距離水平成分変更部3001及び焦点距離垂直成分変更部3002は、図2に示される焦点距離水平成分変更部201及び焦点距離垂直成分変更部202と同様に、シリンドリカルレンズとミラーを組み合わせ、ミラーの位置を変更することで波面形状の変更を行っても良い。この場合、ミラーを高速に振動させることで、解像度の高い画像やフレームレートの高い動画を表示する際でも波面形状を適切に変更することが可能になる。
なお、右眼用のレーザ走査ユニット2610については、左眼用のレーザ走査ユニット2602と同様の構造をとるため説明は省略する。
また、本実施の形態における偏向部104、107は、透過型のホログラムによって実現されている。本実施の形態において偏向部104、107はフロントガラス2603の内側(車内側)に、例えばフォトポリマー層を形成し、フォトポリマー層にリップマン体積ホログラムを形成することによって、走査部103、108からのビームをユーザの眼の瞳孔に回折・集光するように製作されている。フォトポリマー層には赤色、緑色、青色、それぞれの光源からの光を反射する3つのホログラムを多重に形成してもよいし、それぞれの色の光に対応した3層のホログラムを積層してもよい。また、ホログラムの波長選択性を用いることで、光源波長の光のみを回折させ、外界からの光のほとんどを占める光源波長以外の波長の光を回折させないように製作することで、透過型のディスプレイとできる。
なお、偏向部104、107は、フロントガラス2603に自由に着脱できるようにしてもよい。この場合、ディスプレイの表示が不要な場合は偏向部104、107を外すことにより、フロントガラス2603の透過性を保ち、ドライバー2605の安全性を向上させることができる。
本発明の実施の形態においては、ユーザの眼前にハーフミラー2604を設置することで、ユーザの網膜上からの反射光を光検出部214に反射させる。ハーフミラー2604は、車2601の天井2607に支持棒2608によって取り付けられている。この構造によってユーザの頭部への装置の装着を強制することなしに、ユーザの網膜上のスポットサイズの検出を行うことができる。なお、ハーフミラー2604および光検出部214は、車2601の天井2607に設置するのではなく、ドライバー2605の眼鏡や帽子に設置しても良い。この場合、ドライバー2605の頭が前後に動いてもハーフミラー2604に頭が接触する可能性が減るため、ドライバー2605の安全性を向上させることができる。なお、光検出部214は、左眼用と右眼用の二つを用意する方法のほかに、どちらか片方の眼からの反射光を検出する光検出部214を1つだけ設置してもよい。この場合、光検出部214を増やすこと無くユーザの視線方向を検出することができるため、ビーム走査型表示装置のコストを削減することができる。
制御部105、111は、HUD各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、走査部103、108、光検出部214の動作が制御部105によって制御される。
本実施の形態において光検出部214は天井2607に配置され、制御部105、111はインパネ内部に設置されているが、光検出部214と制御部105、111間の通信は車2601の内部を有線ケーブルを這わせることで行っても良いし、無線通信で行っても良い。
なお、制御部105、111は、どちらか片方のみを設置し、左眼用のレーザ走査ユニット2602および右眼用のレーザ走査ユニット2610の両方を制御する方法を用いても良い。この場合、ビーム走査型表示装置のサイズを小さくすることが可能になる。
本実施の形態に係るビーム走査型表示装置は、図6に示すステップ801〜805を実行し、両眼の融像効果を活用することで、ユーザが視認する映像の見かけ上のフレームレートを向上させる処理を行う。なおステップ801〜805の処理の内容は実施の形態1と同様である。
(実施の形態6)
次に、図69〜図72を参照して、実施の形態6に係る双眼鏡3101を説明する。なお、図69は双眼鏡3101の鳥瞰図、図70は双眼鏡3101の左眼側表示部3101aの側面図、図71は双眼鏡3101の右眼側表示部3101bの側面図、図72は図69の変形例を示す図である。
まず、図69に示されるように、双眼鏡3101は、ユーザの左眼に画像を表示する左眼側表示部3101aと、ユーザの右眼に画像を表示する右眼側表示部3101bとを備える。次に、図70及び図71に示されるように、左眼側表示部3101a及び右眼側表示部3101bは、それぞれカメラ3103、3502を備えている。そして、ユーザ3105は双眼鏡3101を覗き込むことでカメラ3103、3502が撮影した映像や、双眼鏡3101の外部入力端子に接続された外部の映像機器からの映像を視認することができる。この構成をとることで、ユーザ3105はHMDのように頭部に装置を装着する必要がなくなり、屋外で簡単にビーム走査型表示装置を利用することが可能になる。
図70に示されるように、左眼側表示部3101aは、光源101、波面形状変更部102、走査部103、偏向部104、制御部105、カメラ3103、及び折り返しミラー3102から構成され、左眼3106に映像を表示する。一方、図71に示されるように、右眼側表示部3101bは、光源110、波面形状変更部109、走査部108、偏向部107、制御部111、カメラ3502、及び折り返しミラー3501から構成され、右眼3104に映像を表示する。
上記の実施形態においては、左眼側表示部3101a及び右眼側表示部3101bそれぞれがカメラ3013、3502を有する例を示したが、これに限ることなく、左眼側表示部3101aと右眼側表示部3101bとで同一のカメラを共通して使用してもよい。ただし、図70及び図71に示されるように、左眼側表示部3101aと右眼側表示部3101bとに設置された2台のカメラ3103、3502で右眼用と左眼用の画像を別々に撮影し、表示するようにしてもよい。これにより、ユーザの両眼に対して視差のある映像を表示することができるため、立体的な映像を表示することが可能になる。
図70及び図71における光源101、109は、実施の形態1の図2と同様、赤色レーザ光源211と、青色レーザ光源212と、緑色レーザ光源213と、光検出部214とから構成される。
図70及び図71における波面形状変更部102、109は、焦点距離水平成分変更部201と、焦点距離垂直成分変更部202とを光路に直列に配置している。これによって、ビームの水平方向の曲率と垂直方向の曲率とを独立して変更できる。本実施の形態においては、図2に示すようにシリンドリカルレンズとミラーを組み合わせ、ミラーの位置を変更することで垂直方向および水平方向の波面形状の変更を行う。
波面形状変更部102、109からのビームはそれぞれ、折り返しミラー3102、3501を経由して、走査部103、108によって走査されて、偏向部104、107にそれぞれ入射する。
偏向部104、107は、双眼鏡3101の接眼部分に配置される接眼レンズであり、走査部103、108からの光をユーザの瞳孔上に集光する。なお、偏向部104、107は凸レンズではなく、透過型ホログラムであってもよい。この場合、接眼レンズ部分を薄くすることができ双眼鏡3101を小型化することができる。
また、偏向部104、107をホログラムで実現する場合には、図72に示すように偏向部104、107を別々に配置するのではなく、図69に示すように偏向部104、107を多重露光した一枚のホログラムを用いても良い。この場合、ユーザに対して広視野角の映像を表示することが可能になる。
ユーザの網膜上からの反射光は、入射光と同じ経路を逆向きに辿った後、光検出部214によって検出される。
制御部105、111は、双眼鏡3101の各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、走査部103、108、光検出部214、及びカメラ3103、3502の動作が制御部105、111によって制御される。
本実施の形態に係るビーム走査型表示装置は、図6に示すステップ801〜805を実行し、両眼の融像効果を活用することで、ユーザが視認する映像の見かけ上のフレームレートを向上させる処理を行う。なおステップ801〜805の処理の内容は実施の形態1と同様である。
なお、光源101、110については、光源101からのビームをプリズムなどで分光し、左右の眼の表示に用いる波面形状変更部102、109にそれぞれ入射する方法をとっても良い。この場合、必要な光源が減るため双眼鏡3101を小型化することができ、また消費電力を抑えることが可能になる。
(実施の形態7)
図73に、本発明の実施の形態7におけるレーザ走査型の卓上型ディスプレイ3401の構成図(側面図)を示す。
卓上型ディスプレイ3401は、光源101、波面形状変更部102、走査部103、偏向部104、及び制御部105から構成されている。具体的には、筐体の内部に光源101、波面形状偏向部102、走査部103、及び制御部105が収納されており、筐体の表面に偏向部104によって構成される表示面を有する。そして、双眼鏡3101と同様に、左側表示部と右側表示部とを備える。
そして、ユーザは、この卓上型ディスプレイ3401を机に設置して利用する。図73の構成をとることで、ユーザはHMDのように頭部に装置を装着する必要が無くなる。また双眼鏡3101のように長時間、手で装置を支持する必要もなくなるため負担無く、長時間に亘って卓上型ディスプレイ3401を使用することが可能になる。
本発明にかかるビーム走査型表示装置は、右眼用走査部、左眼用走査部などを有し、表示装置、表示システム、表示方法、表示プログラム、などの用途にも応用できる。
本発明は、HMD(ヘッドマウントディスプレイ)等の表示装置に関するものである。
従来、HMD(ヘッドマウントディスプレイ)等の表示装置において、レーザ光を2次元走査して、眼の網膜に直描する方式(以下、レーザ走査方式、と記す)がある。(例えば、特許文献1参照)。レーザ走査方式の表示装置は、網膜走査ディスプレイ(Retinal Scanning Display:RSD)、網膜照射ディスプレイ、網膜直描ディスプレイ、レーザ走査ディスプレイ、直視型表示装置、仮想網膜ディスプレイ(Virtual Retinal Display:VRD)、などとも呼ばれている。
図1A及び図1Bに眼鏡型のHMDの構造の例を示す。図1A及び図1Bでは、眼鏡フレームにレーザ光を発光する光源101、110、レーザ光の波面を制御する波面形状変更部102、109、及びレーザ光を二次元方向に走査する走査部103、108を搭載している。レーザ光は、走査部103、108によって眼鏡のレンズ11、12に向かって投影され、レンズ11、12の表面に備えられた偏向部104、107によって反射される。そして、このレーザ光がユーザの眼に入射し、網膜上に画像を形成する。ここで、偏向部104、107には、ハーフミラーやホログラム光学素子(HOE:Hologram Optical Element)などが用いられており、ユーザは外の景色とレーザによって描かれる画像の両方を同時に視認することが可能になる。また、走査部103、108には、一枚の単板ミラーを一軸、もしくは二軸方向に振動させることでレーザ光を二次元方向に走査するミラーデバイスなどが用いられる。
また、両眼に映像を表示するタイプのHMDでは、左右の眼に対して表示する映像の画素を変えることで、見かけ上の解像度を上げる先行例が存在している(例えば特許文献2参照)。この先行例では、右眼に奇数列、左眼に偶数列といったように互いに補完する画素を表示することで、ユーザには左右の表示画素が合成された画像を提示することを可能にしている。
特開平10−301055号公報 特開平9−061776号公報
しかしながら、レーザ走査方式の表示装置においては、表示する画像の解像度や、視野角、フレームレートといった画質を向上させることが困難という課題がある。まず、走査部103、108として単板ミラーを振動させるミラーデバイスを用いると、ミラーの大きさが、表示画像の高画質化の際の課題になる。
ミラーデバイスでは、図74に示すように、単板ミラー301を第一の回転軸Xおよび第一の回転軸Xと直交する第二の回転軸Yにそって振動させることで、ミラーに入射するレーザ光304の反射方向を変更し、二次元走査を行う。
図1に示すHMDにおいて、走査部103によって二次元走査されたレーザ光が、偏向部104上で描く軌跡の例を図75に示す。この図に示されるように、レーザ光は走査軌跡502を描くことで、ユーザの眼に対して表示画像501を表示するように、走査部103によって二次元走査される。この例では、走査部103の回転軸X方向が表示画像501の水平方向、回転軸Y方向が表示画像501の垂直方向に対応するように図1のHMDが設計されている。また、回転軸X方向(Y軸回り)にミラーが振動する周波数を、水平方向の駆動周波数Hx、回転軸Y方向(X軸回り)にミラーが振動する周波数を垂直方向の駆動周波数Hyで表現する。図75に示す走査軌跡502では、垂直方向にレーザが一回走査される間に、水平方向に複数回走査が行われる。一般に二軸ミラーによる駆動周波数Hx、Hyのうち、低速な側が表示画像501のフレームレートを決定する。図75の例では、垂直方向にビームが一回走査される間に、画像の1フレームが表示される。また逆方向にビームが走査される間にも画像の1フレームが表示される場合、垂直方向にレーザが一往復する間に、2フレームの映像が表示されることになるため、駆動周波数Hyと画像のフレームレートfpsの間には、数式(1)の関係が成り立つ。
Figure 2009066465
また、走査部103に入射したレーザ光304は、図76に示されるように、ミラーの振動に合わせて回転軸Xの方向に走査角α、回転軸Yの方向に走査角βで走査されている。ここで走査角α、βとは、走査部103によって走査されるレーザ光の範囲を示す角度である。図76に示すように、レーザ光が一番左側に走査されたときのレーザ光の進路と、一番右側に走査されたときのレーザ光の進路がなす角度を水平走査角αとして表現する。また同様に、レーザ光が一番上方に走査されたときのレーザ光の進路と、レーザ光が一番下方に走査されたときのレーザ光の進路とがなす角度を垂直走査角βとして表現する。
ここで、走査部103に含まれる単板ミラー301の直径をDとし、図1のHMDで表示される表示画像501の水平解像度をNx、垂直解像度Nyとすると、一般に数式(2)および数式(3)の関係が成り立つ。
Figure 2009066465
Figure 2009066465
そのためレーザ走査型の表示装置では、表示の解像度を上げるためには走査角α、βもしくは走査部103の単板ミラー301の直径Dを大きくする必要がある。
しかしながら、走査部103の単板ミラー301の直径Dを大きくした場合、単板ミラー301の重量が増加する。その結果、走査角α、βや単板ミラー301の駆動周波数Hx、Hyを高くすることが困難になり、表示画像501のフレームレートfpsの低下を招く。また、走査角α、βを上昇させると、単板ミラー301を大きく動かす必要があるため、駆動周波数Hx、Hyを高くすることが困難になる。また、単板ミラー301を動かすための駆動素子(アクチュエーター)の巨大化や消費電力の増大、駆動音の増大などを招き、走査部103を眼鏡型HMDに搭載することが困難になる。さらに、走査部103の駆動周波数と解像度の関係も、ビーム走査表示装置において高画質化を行う上での課題になる。
図1に示すHMDにおいて、走査部103によって二次元走査されたレーザ光303が、偏向部104上で描く軌跡の例を図77に示す。この図に示されるように、レーザ光303は、走査部103によって二次元走査されることによって、図77に示すような走査軌跡602cを描く。その結果、ユーザの眼に対して表示画像601cを表示する。この時、走査軌跡602cが、表示画像601cの表示行と上手く重なるようにオーバースキャン領域Or、Olが設定される。表示画像601cに対して、一般にオーバースキャン領域を含めた走査軌跡602cの走査領域に対して、表示画像601cが占める割合を、オーバースキャン率Aで示す。
ここで、図1のHMDで表示される表示画像601bの水平解像度をNx、垂直解像度Nyとすると、表示画像の垂直解像度Nyと、フレームレートfpsと、走査部103の水平方向の駆動周波数Hxの間には、一般に数式(4)の関係が成り立つ。この数式(4)に示されるように、走査部103の水平方向の駆動周波数Hxに上限がある場合、表示画像の垂直解像度Nyとフレームレートfpsの両方を同時に上昇させることは困難になる。
Figure 2009066465
また、広視野の映像を表示するために、走査部103、108の走査角α、βを大きくした場合にも、単板ミラー301が一周期の間に動く距離が大きくなるため、駆動周波数の低下を招く。そのためミラーデバイスを用いたビーム走査型HMDでは、広視野の表示画像のフレームレートと解像度を同時に高くすることが困難になる。
また、眼鏡型HMDのように偏向部104、107に対して斜めに画像を投影する場合には、画像が台形形状に歪むため、この歪みを補正するために画像の視野角が狭くなるという課題がある。
図1に示されるように、走査部103、108からの光は、それぞれ偏向部104、107に対して斜めに投影される。一般に、スクリーンに対して、斜め位置から矩形映像を投影した場合、スクリーンに投影される画像には台形歪み、もしくはキーストーンと呼ばれる歪みが発生するため、眼鏡型HMDにおいてもユーザの眼に台形に歪んだ画像が投影されることになる。
点光源Oからの矩形映像を、スクリーンSに対して斜めに入射した場合に生じる台形歪みを図78および図79を用いて例示する。図78はスクリーンSの上方からの図、図79はスクリーンSの正面からの図である。この例では、図78及び図79に示されるように、光源Oからの光は、スクリーンSに対して左斜め手前から入射される。このため、図78に示されるように、光源OとスクリーンSまでの距離が、投影画像の左辺L1と右辺L2とで異なる。
また、図79に示されるように、光源Oからの投射映像は、縦方向に投射角θで広がるため、点光源Oからの距離が離れるほど、スクリーン上の投影画像の辺の長さは長くなる。このためスクリーンS上の投影画像401aは、台形形状に歪むことになる。
しかしながら、眼鏡レンズに対して斜めに映像を投影する眼鏡型HMDの先行例(特許文献1)では、この斜め投影に関する対策がなされていない。なお、光源Oがレーザと走査部ではなく、液晶素子や有機EL(organic electroluminescence)ディスプレイからなる場合においても、この課題は発生する。
現在市販されているフロントプロジェクタ等では、台形歪みに対応するために画像処理による補正が行われる。図80に画像処理による台形歪みの補正の例を示す。台形形状の補正前画像501aの上底もしくは下底の内、短い方の辺の長さに合わせて、矩形の表示領域を決定する。そして、矩形領域からはみ出す部分では画像の表示を行わないことで、ユーザに対しては矩形の補正後画像502aを表示できる。しかし、この方法では補正前画像501aの一番短い辺の長さにあわせて、表示画像の大きさが決まるため、結果として視野が狭い画像しか表示できないという課題があった。
このようにビーム走査型表示装置においては、走査部103、108の大きさや駆動周波数、そして走査部103、108と偏向部104、107の位置関係などから解像度、視野角、フレームレートといった画質を向上させることが困難になる。眼鏡レンズに対して斜めに映像を投影する眼鏡型HMDの先行例(特許文献1)では、広視野化と、画質向上の両立に関する対策がなされていない。
特許文献2では、左右の解像度を落としてもユーザが視認する表示映像の解像度を保つ方法が開示されている。しかしながら、ビーム走査型表示装置特有のフレームレートと解像度に関する課題には触れられていない。また、フレームレートと解像度のどちらかを優先する方が適切なのかは、画像の内容によって異なる。スポーツ番組など動きの激しい映像は、フレームレートを優先するべきだが、静止画像のような場合は、解像度を優先する必要がある。特許文献2では、このような情報の内容によるフレームレートや解像度の変更などについても考慮されていない。
本発明は前記課題を解決するもので、画像表示装置において、左右の映像の表示を適切に変化させることで、両眼の融像効果によって、ユーザが視認する映像の見かけ上の画質を向上させることを目的とする。
前記従来の課題を解決するために、本発明に係る画像表示装置は、ユーザの網膜に画像を表示する画像表示装置であって、元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力部と、前記左眼用画像出力部で出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向部と、元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力部と、前記右眼用画像出力部で出力された前記右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向部と、融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御部とを備える。
本構成によって、片方の眼で広い画角の画像を低画質で表示し、他方の眼で狭い画角の画像を高画質表示し、見かけ上の画質向上と表示画像の広視野化を行うことが可能になる。
また、前記左眼用画像出力部は、左眼用画像を構成する各画素を描画するビームを出力する左眼用光源と、前記左眼用光源からのビームを前記左眼用偏向部に走査させる左眼用走査部とを含み、前記右眼用画像出力部は、右眼用画像を構成する各画素を描画するビームを出力する右眼用光源と、前記右眼用光源からのビームを前記右眼用偏向部に走査する右眼用走査部とを含むようにしてもよい。本構成によって、眼鏡に搭載する画像表示装置を小型化、省電力化しながら、映像の台形歪を防止することができる。
また、前記制御部は、前記左眼用走査部及び前記右眼用走査部のうちの一方に前記元画像の一部のみを走査する第1の走査角でビームを走査させ、他方に前記第1の走査角より大きく、且つ前記元画像の全体を走査する走査角以下の第2の走査角でビームを走査させる走査範囲設定部と、前記左眼用画像出力部及び前記右眼用画像出力部を制御することによって、前記走査範囲設定部によって設定された走査角に応じて、画質の異なる前記左眼用画像及び前記右眼用画像を出力させる画質設定部とを備えてもよい。
一実施形態として、前記画質設定部は、前記左眼用画像出力部及び前記右眼用画像出力部のうち、前記第1の走査角が設定された側に対応する画像出力部に第1のフレームレートの画像を出力させ、前記第2の走査角が設定された側に対応する画像出力部に前記第1のフレームレートより小さい第2のフレームレートの画像を出力させるフレームレート設定部を含む。本構成によって狭い画角の画像を高いフレームレートで表示し、ユーザが視認する画像の見かけ上のフレームレートを向上させることが可能になる。
他の実施形態として、前記画質設定部は、前記左眼用画像出力部及び前記右眼用画像出力部のうち、前記第1の走査角が設定された側に対応する画像出力部に第1の解像度の画像を出力させ、前記第2の走査角が設定された側に対応する画像出力部に前記第1の解像度より低い第2の解像度の画像を出力させる解像度設定部を含む。本構成によって狭い画角の画像を高画素で表示し、ユーザが視認する画像の見かけ上の解像度を向上させることが可能になる。
また、前記左眼用走査部と前記右眼用走査部とは、互いにサイズが異なっており、前記走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちのサイズが大きい側に前記第1の走査角でビームを走査させ、サイズが小さい側に前記第2の走査角でビームを走査させてもよい。本構成によって狭い画角の画像を高画素で表示し、ユーザが視認する画像の見かけ上の解像度を向上させることが可能になる。
本発明に係る画像表示装置は、さらに、ユーザの視線を検出する視線検出部を備え、走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちの前記第1の走査角が設定された側に、前記視線検出部の検出結果に基づいてユーザの視線位置を含む領域にビームを走査させる。本構成によって、ユーザの視線が動いた場合でも、ユーザの中心視野には高画質の画像を提示することが可能になる。
また、前記走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちのユーザの利き目に対応する側に前記第1の走査角でビームを走査させ、他方に前記第2の走査角でビームを走査させてもよい。本構成によって、ユーザが見えやすい側の眼に高画質の画像を提示することができ、ユーザが視認する画像の見かけ上の画質を向上させることが出来る。
また、前記走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちのユーザの視力の高い方の眼に対応する側に前記第1の走査角でビームを走査させ、他方に前記第2の走査角でビームを走査させてもよい。本構成によって、ユーザが見えやすい側の眼に高画質の画像を提示することができ、ユーザが視認する画像の見かけ上の画質を向上させることが出来る。
また、前記制御部は、前記元画像を複数の走査領域に区分し、各フレームにおける前記左眼用走査部及び前記右眼用走査部の走査領域が異なり、且つ隣接するフレームにおける前記左眼用走査部及び前記右眼用走査部それぞれの走査領域が異なるように、前記左眼用走査部及び前記右眼用走査部それぞれにビームを走査させる前記走査パターン決定部を含んでもよい。本構成によって、右眼と左眼で異なる部分の画素が表示され続けることを防ぎ、ユーザが画像を見るときの違和感を低減することができる。
一実施形態として、前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、前記走査パターン決定部は、各フレームにおいて、前記左眼用走査部及び前記右眼用走査部が前記第2の方向に隣接する画素を走査するように、前記元画像を複数の走査領域に区分してもよい。本構成によって、両眼の融像効果によってユーザが視認する画像の画素の連続性を上げることができ、表示画像の滑らかさを向上させることが可能になる。
他の実施形態として、前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、前記走査パターン決定部は、各フレームにおいて、前記左眼用走査部及び前記右眼用走査部それぞれが前記第2の方向に連続した走査領域を走査するように、前記元画像を複数の走査領域に区分してもよい。本構成によって、両眼の融像効果によってユーザが視認する画像の画素の連続性を上げることができ、表示画像の滑らかさを向上させることが可能になる。
また、前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、前記走査パターン決定部は、前記左眼用走査部と前記右眼用走査部とで前記第2の方向の走査方向が反対向きになるように、前記左眼用走査部及び前記右眼用走査部それぞれにビームを走査させてもよい。本構成によって、右眼と左眼で表示する画素が重なることを避けることができ、両眼による融像効果の効果を上げることができる。
前記制御部は、前記左眼用走査部及び前記右眼用走査部の最大駆動周波数に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正した補正画像を生成する表示画質決定部を含み、前記走査パターン決定部は、前記表示画質決定部によって生成された前記補正画像を複数の走査領域に区分し、前記左眼用走査部及び前記右眼用走査部それぞれにビームを走査させてもよい。本構成によって、走査部の駆動周波数の上限により、フレームレートを保つために、左右の眼の解像度を下げる場合においても、左右の眼の融像効果を利用することでユーザが視認する画像の解像度の低下を抑えることができる。また倍速駆動など画像の本来のフレームレートより、高速なフレームレートで画像を表示する際の解像度の低下を抑えることが可能になる。
また、前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、前記表示画質決定部は、前記元画像のフレームレートを、前記元画像を表示するのに必要とされる前記左眼用走査部及び前記右眼用走査部の前記第2の方向の駆動周波数、及び前記左眼用走査部及び前記右眼用走査部の前記第2の方向の最大駆動周波数のうちのいずれか小さいほうの2倍に補正してもよい。本構成によって、両眼の融像効果によって見かけ上の解像度を保ちながら、表示画像のフレームレートを高く設定することが可能になる。
さらに、前記表示画質決定部は、補正された前記フレームレートと前記左眼用走査部及び前記右眼用走査部の第1の方向の駆動周波数から算出される前記第2の方向の表示画素数が、前記元画像のフレームレートが1以上となる予め定められた値以上で、且つ前記元画像の前記第2の方向の表示画素数以下となるように、補正された前記フレームレートを再補正してもよい。本構成によって、走査部の性能を最大に利用できるように、表示画像のフレームレートや解像度を設定することが可能になる。
また、前記走査パターン決定部は、前記元画像を、前記左眼用画像もしくは前記右眼用画像のいずれかの全画素数を前記表示画質決定部によって補正された各フレームの表示画素数で除した商に該当する数の走査領域に区分してもよい。本構成によって、最小限のフレーム数で、表示画像の全画素を用事することが可能になる。
また、前記表示画質決定部は、さらに、前記元画像の内容を示すコンテンツ情報に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正してもよい。本構成によってスポーツなど動きの大きい画像はフレームレートを高くし、ニュースなど文字情報が多い画像は解像度をあげるなど、画像に応じた適切な画質を選択することが可能になる。
制御部は、さらに、ユーザがコンテンツ情報毎に設定する画質補正値を保持するユーザプロファイル管理部を含み、前記表示画質決定部は、前記元画像のコンテンツ情報に対応する前記画質補正値に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正してもよい。本構成によって、スポーツやニュースなど情報の種類ごとにユーザの好みの画質を設定し、それに応じたフレームレートおよび解像度の変更を行うことが可能になる。
また、前記ユーザプロファイル管理部は、さらに、ユーザの視力に関する情報を保持し、前記表示画質決定部は、前記ユーザプロファイル管理部が保持するユーザの視力に関する情報に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正してもよい。本構成によって、視力の悪いユーザに対しては解像度よりフレームレートを優先して画質の変更を行う、といった処理を行うことが可能になる。
本発明の画像表示装置は、さらに、該画像表示装置を駆動するためのバッテリーと、前記バッテリーの残量を検出する電源管理部と、前記電源管理部の検出結果に応じて、前記左眼用走査部及び前記右眼用走査部の両方の駆動周波数の最大値を変更する駆動周波数決定部とを備えてもよい。本構成によって、バッテリー残量が少ないときには走査部によるバッテリーの消費を抑え、表示装置の駆動時間を長く保つことが可能になる。
前記左眼用走査部が走査するビームが前記左眼用偏向部に対して斜めに入射することによって前記左眼用画像が前記左眼用偏向部上で台形形状に歪んだ左眼用歪画像となり、且つ前記右眼用走査部が走査するビームが前記右眼用偏向部に対して斜めに入射することによって前記右眼用画像が前記右眼用偏向部上で台形形状に歪んだ右眼用歪画像となる場合において、前記制御部は、前記左眼用歪画像の長辺の一部を第1の辺とし、前記第1の辺に直交し、且つ前記第1の辺の端点と前記左眼用歪画像の斜辺とを結ぶ線分を第2の辺とする矩形形状の左眼用矩形領域、及び前記右眼用画像の長辺の一部を前記第1の辺と同じ長さの第3の辺とし、前記第3の辺に直交し、且つ前記第3の辺の端点と前記右眼用歪画像の斜辺とを結ぶ線分を第4の辺とする矩形形状の右眼用矩形領域を決定する矩形領域決定部と、前記第1の辺を高さとし、前記第2の辺と前記第4の辺との和を幅とした補正画像となるように、前記元画像の高さ及び幅のうちの少なくともいずれか一方を調整する縦横比調整部と、前記左眼用偏向部上に前記左眼用画像が表示されるように前記補正画像を前記左眼用歪画像と反対向きに歪ませた左眼用補正画像、前記右眼用偏向部上に前記右眼用画像が表示されるように前記補正画像を前記右眼用歪画像と反対向きに歪ませた右眼用補正画像を生成する歪補正部と、前記左眼用補正画像のうちの前記左眼用矩形領域に対応する部分を前記左眼用画像出力部に出力させ、且つ前記右眼用補正画像のうちの前記右眼用矩形領域に対応する部分を前記右眼用画像出力部に出力させる出力画像制御部とを含んでもよい。
本構成によって、メガネ形のHMDを実現時に生じる画像の台形歪みの補正に、両眼の融像効果を活用でき、従来の台形補正よりも大きな垂直視野角を保った台形歪み補正が可能になる。
一実施形態として、前記矩形領域決定部は、前記左眼用歪画像の短辺が前記右眼用画像の長辺に含まれ、且つ前記右眼用画像の短辺が前記左眼用歪画像の長辺に含まれるように、前記左眼用画像と前記右眼用歪画像とを重ね合わせたときに、前記第2及び第4の辺が、前記左眼用歪画像及び前記右眼用歪画像それぞれの斜辺の交点を通る直線となるように、前記左眼用矩形領域及び前記右眼用矩形領域を決定してもよい。
また、前記制御部は、前記第1の辺の対辺を長辺とし、前記左眼用歪画像の斜辺の一部を斜辺とする台形形状であって、高さが前記第4の辺より短い左眼用残領域、及び前記第3の辺を長辺とし、前記右眼用歪画像の斜辺の一部を斜辺とする台形形状であって、高さが前記第2の辺より短い右眼用残領域を決定する残領域決定部を含み、前記出力画像制御部は、さらに、前記左眼用補正画像のうちの前記左眼用残領域に対応する部分を前記左眼用画像出力部に出力させ、且つ前記右眼用補正画像のうちの前記右眼用残領域に対応する部分を前記右眼用画像出力部に出力させてもよい。本構成によって、両眼の融像効果によってユーザが認識する画像の右辺と左辺が滑らかな直線になる効果がある。
一実施形態として、前記出力画像制御部は、前記左眼用画像出力部及び前記右眼用画像出力部を制御することによって、前記左眼用残領域、及び前記右眼用矩形領域のうちの前記左眼用残領域に重なる領域のうちの少なくともいずれか一方の輝度を低下させ、且つ前記右眼用残領域、及び前記左眼用矩形領域のうちの前記右眼用残領域に重なる領域のうちの少なくともいずれか一方の輝度を低下させてもよい。
他の実施形態として、前記出力画像制御部は、前記左眼用画像出力部及び前記右眼用画像出力部を制御することによって、前記右眼用矩形領域のうちの前記左眼用残領域に重ならない領域の輝度を増大させ、且つ前記左眼用矩形領域のうちの前記右眼用残領域に重ならない領域の輝度を増大させてもよい。
本構成によって、両眼の融像効果によってユーザが認識する画像に輝度のムラが生じることを防ぐ効果がある。
また、前記矩形領域決定部は、前記補正画像の幅と高さとが、16:9または4:3の比率となるように前記左眼矩形領域および前記右眼矩形領域の形状を決定してもよい。本構成によって、両眼の融像効果によってユーザが認識する画像の形状がアスペクト比16:9もしくは4:3の映像視認に適したものになる。
また、前記矩形領域決定部は、ユーザの左右の眼の視力の差が一定値以上の場合に、視力の高い方の眼に対応する矩形領域が最大、且つ視力の低い方の眼に対応する矩形領域が0になるように、前記左眼矩形領域と前記右眼矩形領域の形状を決定し、前記残領域決定部は、視力の高い方の眼に対応する残領域が0、且つ視力の低い方の眼に対応する残領域が最大になるように、前記左眼残領域と前記右眼残領域の形状を決定してもよい。本構成によって、視力の悪いほうの眼の影響を除去して台形歪みの補正を行うことができる。
本発明に係る表示方法は、元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力ステップと、前記左眼用画像出力ステップで出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向ステップと、元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力ステップと、前記右眼用画像出力ステップで出力された前記右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向ステップと、融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御ステップとを含む。
本発明に係るプログラムは、元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力ステップと、前記左眼用画像出力ステップで出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向ステップと、元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力ステップと、前記右眼用画像出力ステップで出力された前記右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向ステップと、融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御ステップとをコンピュータに実行させる。
本発明に係る集積回路は、元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力部と、前記左眼用画像出力部で出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向部と、元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力部と、前記右眼用画像出力部で出力された前記左眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向部と、融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御部とを備える。
なお、本発明は、このようなビーム走査型表示装置として実現できるだけでなく、ビーム走査型表示装置の機能を実現する集積回路として実現したり、そのような機能をコンピュータに実行させるプログラムとして実現したりすることもできる。そして、そのようなプログラムは、CD−ROM等の記録媒体及びインターネット等の伝送媒体を介して流通させることができるのは言うまでもない。また、本発明は、このような表示装置の機能を実現する集積回路として実現したりもできる。
本発明に係る眼鏡型ヘッドマウントディスプレイは、上記の画像表示装置と、ユーザの左眼の位置に配置され、ユーザの左眼に対面する位置に前記左眼用偏向部を有する左眼用レンズと、ユーザの右眼の位置に配置され、ユーザの右眼に対面する位置に前記右眼用偏向部を有する右眼用レンズと、一端が前記左眼用レンズに連結され、他端がユーザの左側頭部に固定される左側テンプルと、一端が前記右眼用レンズに連結され、他端がユーザの右側頭部に固定される右側テンプルとを備える。
本発明に係る自動車は、上記の画像表示装置と、前記左眼用偏向部偏向部及び前記右眼用偏向部を有するフロントガラスとを備える。
本発明に係る双眼鏡は、前記左眼用偏向部を有する左眼用接眼レンズと、前記右眼用偏向部を有する右眼用接眼レンズとを備える。
本発明に係る卓上型ディスプレイは、上記の画像表示装置と、前記表示装置を収納する筐体と、前記筐体の表面に前記左眼用偏向部及び前記右眼用偏向部によって構成される表示面とを備える。
眼鏡型のHMDでの見かけ上の画質向上に、両眼の融像効果を活用でき、走査部の性能を抑えたまま、ユーザが視認する映像の見かけ上のフレームレートもしくは見かけ上の解像度を向上させることができる。
図1Aは、本発明の実施の形態1におけるビーム走査型表示装置の平面図である。 図1Bは、本発明の実施の形態1におけるビーム走査型表示装置の側面図である。 図2は、本発明の実施の形態1におけるビーム走査型表示装置の詳細構成図である。 図3は、本発明の実施の形態1におけるビーム走査型表示装置の機能ブロック図である。 図4Aは、ユーザの左眼に投影する左眼用画像の例である。 図4Bは、ユーザの右眼に投影する右眼用画像の例である。 図4Cは、図4A及び図4Bを投影したときに、融像効果によってユーザが認識する全体像を示す図である。 図5は、人間の視野と視力の関係を示した表である。 図6は、本発明の実施の形態1における表示画像の見かけ上のフレームを向上させる処理のフローチャートである。 図7Aは、本発明の実施の形態1におけるHMDで表示に用いられる元画像の寸法を示した図である。 図7Bは、図7Aに示す元画像の水平画角を示す図である。 図7Cは、図7Aに示す元画像の垂直画角を示す図である。 図8Aは、本発明の実施の形態1におけるHMDで表示に用いられる中心画像の寸法を示した図である。 図8Bは、図8Aに示す中心画像の水平画角を示す図である。 図8Cは、図8Aに示す中心画像の垂直画角を示す図である。 図9Aは、ユーザの視線位置を中心として中心画像を設定した例を示す図である。 図9Bは、図9Aの元画像とユーザの視線との関係を示す図である。 図10は、本発明の実施の形態1において、走査部の水平走査角と、ユーザに表示される画像の水平画角の関係を示した図である。 図11は、本発明の実施の形態1におけるHMDで表示に用いられる元画像のフレームを示した図である。 図12は、本発明の実施の形態1におけるHMDで表示に用いられる広視野画像の表示フレームを示した図である。 図13は、本発明の実施の形態1におけるHMDで表示に用いられる狭視野画像の表示フレームを示した図である。 図14は、本発明の実施の形態1において、両眼の融像効果によってユーザが視認する画像のフレームを示した図である。 図15は、本発明の実施の形態2における広視野用走査部と偏向部の配置図である。 図16は、本発明の実施の形態2における狭視野用走査部と偏向部の配置図である。 図17Aは、本発明の実施の形態2におけるHMDで表示に用いられる元画像の寸法を示した図である。 図17Bは、図17Aに示す元画像の水平画角を示す図である。 図17Cは、図17Aに示す元画像の垂直画角を示す図である。 図18Aは、本発明の実施の形態2におけるHMDで表示に用いられる中心画像の寸法を示した図である。 図18Bは、図18Aに示す中心画像の水平画角を示す図である。 図18Cは、図18Aに示す中心画像の垂直画角を示す図である。 図19は、本発明の実施の形態2における表示画像の見かけ上の解像度を向上させる処理のフローチャートである。 図20は、本発明の実施の形態2におけるHMDで表示に用いられる元画像のフレームを示した図である。 図21は、本発明の実施の形態2におけるHMDで表示に用いられる広視野画像の表示フレームを示した図である。 図22は、本発明の実施の形態2におけるHMDで表示に用いられる狭視野画像の表示フレームを示した図である。 図23は、本発明の実施の形態2において、両眼の融像効果によってユーザが視認する画像のフレームを示した図である。 図24は、本発明の実施の形態3におけるビーム走査型表示装置の機能ブロック図である。 図25は、偏向部上での投影画像の歪みを示した図である。 図26は、台形歪みの補正手順を示したフローチャートである。 図27は、走査部と偏向部の位置関係を示した図である。 図28は、偏向部上の台形歪みを示した図である。 図29は、左眼用偏向部上における投影像の形状を示す図である。 図30は、右眼用偏向部上における投影像の形状を示す図である。 図31は、ユーザが視認する画像の形状を示す図である。 図32は、左眼用偏向部上の投影像から矩形領域と残領域とを抽出した状態を示す図である。 図33は、右眼用偏向部上の投影像から矩形領域と残領域とを抽出した状態を示す図である。 図34は、台形歪み補正後の表示映像の形状を示す図である。 図35は、本発明の実施の形態3における左右の眼に表示する画像の変形手順を示したフローチャートである。 図36Aは、元画像の縦寸法と横寸法とを示す図である。 図36Bは、図36Aの元画像の縦横比を調整して生成した補正画像を示す図である。 図37は、補正画像のうちの左眼に表示する画像領域を示した図である。 図38は、補正画像のうちの右眼に表示する画像領域を示した図である。 図39は、図37の画像に歪補正を施した後の状態を示す図である。 図40は、図38の画像に歪補正を施した後の状態を示す図である。 図41は、図39の画像のうち、出力対象となる部分を抽出した状態を示す図である。 図42は、図40の画像のうち、出力対象となる部分を抽出した状態を示す図である。 図43は、左眼用偏向部上の投影像から矩形領域を抽出した状態を示す図である。 図44は、右眼用偏向部上の投影像から残領域を抽出した状態を示す図である。 図45は、台形歪み補正後の表示映像の形状を示す図である。 図46は、補正画像のうち、左眼に表示する画像領域を示した図である。 図47は、補正画像のうち、右眼に表示する画像領域を示した図である。 図48は、本実施の形態3における典型例を説明するための図である。 図49は、本発明の実施の形態4におけるビーム走査型表示装置の機能ブロック図である。 図50は、表示画像のフレームレートと解像度を変更する処理のフローチャートである。 図51は、表示に用いられる元画像の寸法を示した図である。 図52は、元画像に付加されているメタデータの例を示す図である。 図53は、バッテリー残量と、周波数補正値との関係を示す図である。 図54は、元画像のコンテンツ情報と、フレームレート係数との関係を示す図である。 図55は、コンテンツ情報と、フレームレート係数補正値との関係を示す図である。 図56Aは、走査部による垂直走査範囲の一例を示す図である。 図56Bは、走査部による垂直走査範囲の他の例を示す図である。 図56Cは、走査部による垂直走査範囲の他の例を示す図である。 図57は、左右の走査部における走査パターンの一例を示す図である。 図58は、左右の走査部における走査パターンの他の例を示す図である。 図59は、左右の走査部における走査パターンの他の例を示す図である。 図60は、左右の走査部における走査パターンの他の例を示す図である。 図61は、左右の走査部における走査パターンの他の例を示す図である。 図62は、左右の走査部における走査パターンの他の例を示す図である。 図63は、左右の走査部における走査パターンの他の例を示す図である。 図64は、本実施の形態5におけるHUDの側面図である。 図65は、図64に示すHUDの鳥瞰図の一例を示す図である。 図66は、図64に示すHUDの鳥瞰図の他の例を示す図である。 図67は、図64に示すHUDの鳥瞰図の他の例を示す図である。 図68は、図64に示すHUDの詳細構成図である。 図69は、本実施の形態6における双眼鏡の鳥瞰図の一例を示す図である。 図70は、図69に示す双眼鏡の左眼側表示部を示す図である。 図71は、図69に示す双眼鏡の右眼側表示部を示す図である。 図72は、本実施の形態6における双眼鏡の鳥瞰図の他の例を示す図である。 図73は、本実施の形態7における卓上型ディスプレイを示す図である。 図74は、ビームを二次元走査するミラーの回転軸の例を示す図である。 図75は、走査部によって走査されたレーザ光が偏向部上に描く軌跡を示した図である。 図76は、走査部と偏向部の配置図の例を示す図である。 図77は、オーバースキャン領域を考慮した場合の走査パターンの例を示す図である。 図78は、点光源からの映像をスクリーンに斜め投影した際の鳥瞰図である。 図79は、点光源からの映像をスクリーンに斜め投影した際の正面図である。 図80は、従来技術による台形歪みの補正を示した図である。
以下本発明の実施の形態について、図面を参照しながら説明する。
(実施の形態1)
図1A〜図3を参照して、本発明の実施の形態1に係るメガネ形のビーム走査型表示装置(ヘッドマウントディスプレイ:HMD)を説明する。なお、図1Aはビーム走査型表示装置の正面図、図1Bはビーム走査型表示装置の側面図、図2は図1Aの一部の詳細図、図3は実施の形態1に係るビーム走査型表示装置の機能ブロック図である。本発明の実施の形態1に係る眼鏡型のビーム走査型表示装置は、表示装置と、ユーザの左眼の位置に配置される左眼用レンズ11と、ユーザの右眼の位置に配置される右眼用レンズ12と、一端が左眼用レンズ11に連結され、他端がユーザの左側頭部に固定される左側テンプル13と、一端が右眼用レンズ12に連結され、他端がユーザの右側頭部に固定される右側テンプル14とを備える。
表示装置は、図1A、図1B、及び図2に示されるように、表示画像を構成する各画素を描画するビームを出力する光源101、110と、光源101、110から出力されたビームの波面形状を変更する波面形状変更部102、109と、波面形状変更部102、109から出力されたビームを偏向部104、107に向かって2次元走査する走査部103、108と、走査部103、108の走査光をユーザの眼に向かう方向に偏向する偏向部104、107と、前述の各部を制御する制御部105、111と、ヘッドホン部106、112とを備える。
なお、左眼用光源101、左眼用波面形状変更部102、及び左眼用走査部103で左眼用画像出力部100を構成する。同様に、右眼用光源110、右眼用波面形状変更部109、右眼用走査部108で右眼用画像出力部(図示省略)を構成する。
なお、この実施形態においては、光源101、110、波面形状変更部102、109、走査部103、108、制御部105、111、及びヘッドホン部106、112がテンプル13、14に収納され、偏向部104、107がレンズ11、12のユーザの眼に対面する側に配置されている。
なお、本明細書においては、「左眼用レンズ11」と「右眼用レンズ12」とを総称して「レンズ11、12」と称することがある。同様に、他の構成要素(画像等も含む)についても、左眼用と右眼用とを総称するときには、「左眼用」及び「右眼用」の語を省略することがある。
光源101、110は、ビームを出力する。出力するビームは、図2に示すように、赤色レーザ光源211と、青色レーザ光源212と、緑色レーザ光源213とから出力される各レーザ光を合波したレーザ光であり、各色レーザ光源211、212、213からの出力を適切に変調することで、任意の色のレーザ光を出力できる。さらに、波面形状変更部102、109や走査部103、108と連動させて変調することで、ユーザの眼の網膜上に映像を表示できる。
なお、この実施形態における緑色レーザ光源213は、赤外線を出力する半導体レーザ光源と、赤外線を緑色に変換するSHG(Second−Harmonic Generation:第2次高調波発生)素子とを組み合わせて緑色レーザを出力する。ただし、上記の構成に限ることなく、緑色の半導体レーザ光源213を採用してもよい。また、各レーザ光源211、212、213は、固体レーザ、液体レーザ、ガスレーザ、発光ダイオード等であってもよい。
なお、光源101、110は、図2に示されるように、光検出部214を含んでもよい。光検出部214は、ユーザの眼の角膜からの反射光の強度を検出することで、ユーザの視線方向を検出できる。偏向部104、107により眼の方向へ偏向されたビームの多くは、角膜表面に対して斜めから入射するが、眼球に対して正面からのビームは、角膜表面に対して垂直に入射するために、ビームの反射率が比較的高くなる。このような性質を利用することにより、反射光の強度から視線方向を検出できる。
波面形状変更部102、109は、光源101、110からのビームの波面形状をそれぞれ変化させて、偏向部104、107で偏向されたビームのスポットサイズを所定の範囲内となるようにする。
ビームの「スポットサイズ」とは、ユーザの眼の網膜でのスポットサイズとして、以後説明するが、瞳孔でのスポットサイズ、角膜でのスポットサイズ、偏向部104、107でのスポットサイズでもよい。網膜でのスポットサイズは、表示する画素サイズと同一である。また、「波面形状」とは、ビーム波面の3次元形状であり、平面、球面、非球面の形状を含む。
図2に示す左眼用波面形状変更部102は、焦点距離水平成分変更部201と、焦点距離垂直成分変更部と202とを光路に直列に配置している。これによって、ビームの水平方向の曲率と垂直方向の曲率とを独立して変更できる。焦点距離水平成分変更部201は、シリンドリカルレンズとミラーとの距離を変更することで水平方向の曲率を変更している。焦点距離垂直成分変更部202は、焦点距離水平成分変更部201のシリンドリカルレンズに対して垂直に配置したシリンドリカルレンズを用いることで、垂直方向の曲率を変更している。また、焦点距離水平成分変更部201及び焦点距離垂直成分変更部202ともに、曲率の変更に伴い、ビームの直径も変更している。
なお、水平方向の曲率を垂直方向よりも大きく変化させると、水平方向の変化により大きく対応できるので、画面の水平視野角を垂直視野角より大きくしたい場合や、側頭部に走査部103、108があるHMDのように、走査部103、108から偏向部104、107へのビームの水平入射角が垂直入射角よりも大きい場合に、特に有効となる。
なお、図2では、波面形状を表す項目のなかで、水平方向の曲率と垂直方向の曲率とそれぞれの直径という波面形状の一部のみを変更しているが、他の項目として波面内での曲率の分布や、波面端の形状やサイズなどを変更する手段があってもよい。
なお、本実施の形態における波面形状変更部102、109では、シリンドリカルレンズとミラーを用いて波面形状を変更するが、他の手段として、液晶レンズや、液体レンズ等の可変形状レンズや、EO素子(電気−光変換素子)などを用いてもよい。この場合、レンズの位置を動かすこと無しに波面形状を変更することが可能になる。またシリンドリカルレンズの代わりに回折素子などを用いることで、装置全体の小型化を図ることが可能になる。
走査部103、108は、それぞれ波面形状変更部102、109からのビームを偏向部104、108に向かって2次元走査する。走査部103、108は、角度を2次元的に変更できる単板小型ミラーであり、より具体的には、MEMS(Micro−Electro−Mechanical−System)ミラーである。なお、走査部103、108は、水平走査用と垂直走査用のように2種以上の走査部の組合せで実現してもよい。偏向部104、107は、走査部103、108で走査されたビームの向きをそれぞれユーザの眼に向かう方向へ偏向する。偏向部104、107では、メガネのレンズ11、12の内側(眼の側)に、例えばフォトポリマー層を形成し、フォトポリマー層にリップマン体積ホログラムを形成することによって、走査部103、108からのビームをユーザの眼の瞳孔に回折・集光するように製造されている。フォトポリマー層には赤色、緑色、青色、それぞれのレーザ光源211、212、213からの光を反射する3つのホログラムを多重に形成してもよいし、それぞれの色の光に対応した3層のホログラムを積層してもよい。また、ホログラムの波長選択性を用いることで、光源波長の光のみを回折させ、外界からの光のほとんどを占める光源波長以外の波長の光を回折させないように製造することで、透過型のディスプレイとできる。
なお、偏向部104、107は、ホログラムなどの回折素子による偏向に限定されず、凹面鏡などのミラーや、凸レンズなどのレンズでもよい。また偏向部104、107は、反射型スクリーンや透過型スクリーンのように、スクリーンにビームが当たって発散する結果、スクリーンからの発散光の一部がユーザの眼の方向へ偏向される方式も含む。
制御部105、111は、HMD各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、及び走査部103、108の動作が制御部105、111によって制御される。また、制御部105、108はユーザに表示する画像を加工する手段を備える。
図3に示されるように、左眼用制御部105は、走査部103、108のうちの一方に元画像の一部のみを走査する第1の走査角でビームを走査させ、他方に第1の走査角より大きく、且つ元画像の全体を走査する走査角以下の第2の走査角でビームを走査させる走査範囲設定部1051と、走査範囲設定部1051によって設定された走査角に応じて、走査部103、108が走査する画像の画質を設定する画質設定部1052とを含む。なお、実施の形態1における第2の走査角は、元画像の全体を走査する走査角(第2の走査角の最大値)に設定される。
また、画質設定部1052は、左眼用画像及び右眼用画像の解像度を変更する解像度設定部1053と、左眼用画像及び右眼用画像のフレームレートを変更するフレームレート設定部1054とを含む。
解像度設定部1053は、左眼用光源101及び右眼用光源110のうち、第1の走査角が設定された側に対応する光源に第1の解像度の画像を出力させ、第2の走査角が設定された側に対応する光源に第1の解像度より低い第2の解像度の画像を出力させる。
フレームレート設定部1054は、左眼用光源101及び右眼用光源110のうち、第1の走査角が設定された側に対応する光源に第1のフレームレートの画像を出力させ、第2の走査角が設定された側に対応する光源に第1のフレームレートより小さい第2のフレームレートの画像を出力させる。
なお、制御部105、111は、携帯電話等の周辺機器と無線接続して映像音声信号を受信する通信部を備えてもよい。外部機器から画像を取得することで、表示装置内部に映像を記録する記憶装置やデコーダーなどを用意する必要がなくなるため装置の小型化を図ることができる。
制御部105、111に含まれる画像制御部(図示省略)は、ユーザに提示すべき画像を格納したメモリを備えていてもよいし、もしくは無線によって外部機器からユーザに提示すべき画像を取得しても良い。
なお、制御部105、111はひとつであってもよく、制御部105、111のうちのいずれか一方が、左右の眼に対応する光源101、110、波面形状変更部102、109、走査部103、108、及びヘッドホン部106、112の動作を制御してもよい。この場合、HMDの小型化を図ることができ、また左右の眼に対する映像の同期を取ることなどが容易になる。
ヘッドホン部106、112は、スピーカーを備え、音声を出力する。なお、ヘッドホン部には、HMD各部へ電源供給するバッテリーを備えてもよい。
なお、図1における各手段や各部は、1台のHMDに内蔵されていてもよいし、内蔵されていなくてもよい。例えば、図1各部の全てが、1台のHMDに含まれていてもよいし、ヘッドホン部106、112がなくてもよい。また、各部が分散配置されていてもよい。例えば、制御部105、111が走査部103、108や波面形状変更部102、109に一部含まれていてもよい。複数の機器で図1の各部を共有してもよい。例えば、光源101、110を2つのHMDで共有してもよい。
次に、本発明において表示画像の画質の向上に利用する「融像効果」について説明する。融像効果とは、ユーザが左右の眼でみた映像を一つに合成して認識する現象である。図4A〜図4Cに融像効果の例を示す。図4Aはユーザの左眼に対して表示される左眼用画像601、図4Bはユーザの右眼に対して表示される右眼用画像602である。左右の眼に対して図4A及び図4Bに示す画像が提示されたとき、人間の脳は左右の画像を一つに合成して認識する。つまり、ユーザは左眼用画像601と右眼用画像602とが合成された全体像603を表示されている画像として認識する。図4Cにおいて点線枠で囲まれた領域は、右眼もしくは左眼のみで視認している領域であるが、ユーザはそれを意識することなく、全体像603を視認する。
次に、人間の視野と視力の関係を示す。人間の視力は視野全体において一様ではなく、視野の中心部分は高い視力を保つが、視野中心から離れるほどユーザの視力は低下する。図5にユーザの視野と視力の関係を示す。この図に示すように、人間の眼が高い解像度を保つのは、ユーザの視線方向から±5°程度の中心視野に限定される。そのため、中心視野以外の部分の画像の画質が悪くても、一般に人間の眼は画質の低下に気付きづらい。
本発明では、この両眼の融像効果と視野による視力の変化を利用することで、表示画像の見かけ上の画質を向上させる。ビーム走査型表示装置に表示される画像のうち、ユーザが中心視野で捉える領域の画像を高画質で片方の眼に表示し、他方の眼には広視野の画像を低画質で表示する。しかし、ユーザが画像を高解像度で認識できるのは中心視野のみであるため、広視野の画像が低画質であることには気付かず、結果として、表示された画像を広視野でかつ高画質な画像として認識する。本発明はこの原理を用いて眼鏡型HMDにおいて見かけ上の画質を向上させる。
以下に、図1のビーム走査型表示装置において、前述の融像効果を利用して、表示画像の見かけ上の画質を向上させる例を示す。
なお、本実施の形態では走査部103、108は同一の構造をもつミラーデバイスとする。また、このミラーデバイスは図74に示すように単板ミラーを駆動素子によって二次元方向に走査するデバイスとする。
本実施の形態における走査部103、108は、入射レーザを水平走査角α1度、垂直走査角β1度で走査し、水平解像度Nx1max、垂直解像度Ny1maxの画像を表示する能力を持つように設計されている。また、走査部103、108の水平方向の駆動周波数をHx1、垂直方向の駆動周波数をHy1とする。さらに、走査部103、108は、水平方向(第1の方向)に画素を走査する動作を、垂直方向(第1の方向に直交する第2の方向)に順次位置をずらしながら複数回繰り返すことによって1フレームの画像を描画する。
以下、左右の表示を変更することで表示画像の見かけ上のフレームレートを向上させる例を示す。この処理は図6に示すステップ801〜804によって行われる。
(ステップ801 左右の分担)
本ステップでは、走査範囲設定部1051が、走査部103、108のうち、中心視野に対応する中心画像を表示する側を決定する。ここで中心画像を表示する側に選ばれた走査部は、通常よりも狭い走査角(第1の走査角)で、光源101、110からのレーザを走査する。本実施の形態では、走査範囲設定部1051には、右眼用走査部108を中心画像の表示側とするように予め設定されている。
なお、中央画像を表示する走査部の決定は、ユーザインターフェースからユーザが指定する方法を用いても良い。この場合、ユーザは自分自身が見やすいほうの眼に解像度の高い画像を表示するなどの決定を行うことが出来る。
例えば、ユーザの利き目の情報を予め走査範囲設定部1051内に記憶しておくことで、利き目に対応する側の走査部を、中心画像を表示する側として選択しても良い。この場合、ユーザが見やすい方の眼に対して高精細な画像を表示することが可能になる。
また、ユーザの視力の情報を予め走査範囲設定部1051内に記憶しておくことで、視力の高い方の眼に対応する側の走査部を、中心画像を表示する側として選択してもよい。この場合、視力の高いほうの眼により高画質の映像を表示することが可能になる。
(ステップ802 表示範囲決定)
本ステップでは、ユーザに表示する画像全体のうち、中心画像1001として表示する領域を決定する。
図7A〜図7Cに示す元画像901は、図1のHMDがユーザに表示する画像であり、水平解像度Nx1、垂直解像度Ny1、フレームレートfps1の画像である。また、図1のHMDでこの画像を視認したときの水平画角をγ1、垂直画角をδ1とする。
走査範囲設定部1051は、図8に示すように、元画像901の内、中心画像1001として表示する画像の範囲を決定する。本実施の形態では、走査範囲設定部1051は、中心画像1001をHMDで視認した際の水平画角がγ1c、垂直画角がδ1cとなる領域として決定する。
このとき、中心画像1001の水平解像度Nx1cおよび垂直解像度Ny1cは、元画像901の解像度および画角との関係から、数式(5)および数式(6)を用いて計算される。元画像901の解像度Nx1、Ny1、画角γ1、δ1の値は、HMDの設計時に定めることが可能なため、本実施の形態では、それらの値は予め左眼用制御部105に与えられている。
Figure 2009066465
Figure 2009066465
中心画像1001の解像度Nx1c、Ny1cの値が求められると、走査範囲設定部1051は、元画像901の中央の画素を中心に、高さNy1c、幅Nx1cの解像度の領域を中心視野の画像である中心画像1001として決定する。
なお、元画像901の解像度Nx1、Ny1の値は、左眼用制御部105が画像を解析することで求めても良いし、元画像901に付加されているメタデータなどから求めても良い。元画像901の画角γ1、δ1は、走査部103、108から偏向部104、107に投影されたレーザ光の形状をカメラなどで撮影し、その形状から左眼用制御部105が計算する方法を用いても良い。この場合、走査部103、108と偏向部104、107の位置関係が変化した場合にも画角γ1、δ1を正しく求めることが可能になる。
なお、走査範囲設定部1051は、光検出部214が検出したユーザの視線位置に基づいて、中心画像1001となる領域を決定してもよい。例えば、図9A及び図9Bに示すように、光検出部214が検出したユーザの視線が元画像901と交わる点を交点A(視線位置)として算出する。そして、交点Aを含む水平解像度Nx1c、垂直解像度Ny1cの領域を中心画像1001に決定する。
(ステップ803 表示画素の削減)
本ステップでは、解像度設定部1053が前ステップで決定された中央画像1001および元画像901を表示する際の解像度を決定する。
元画像の解像度Nx1、Ny1が、左眼用走査部103が表示可能な解像度Nx1max、Ny1maxを上回る場合、解像度設定部1053は、元画像901の画素を荒くすることで、水平解像度Nx1max、垂直解像度Ny1maxの広視野画像を生成する。元画像901の解像度が、左眼用走査部103が表示可能な解像度Nx1max、Ny1max以下である場合は、元画像901を広視野画像として設定する。
中心画像1001を表示する側の右側走査部108が、ユーザに水平画角γ1c、垂直画角δ1cの画像を表示するために、レーザ光を走査する走査角(第1の走査角)を、水平走査角α1c、垂直走査角β1cとする。画角γ1c、δ1cと、走査角α1c、β1cの関係は、図1に示すHMDの設計時に定まるため、左眼用制御部105は画角γ1c、δ1cと、走査角α1c、β1cの関係表を記憶部(図示省略)に保存しておくことで、画角に対する走査角の値を計算する。
右眼用走査部108が水平走査角α1c、垂直走査角β1cでレーザを走査した際に、表示可能な水平方向の解像度をNx1cmax、垂直方向の解像度Ny1cmaxとすると、Nx1cmax、Ny1cmaxは数式(7)及び数式(8)によって与えられる。
Figure 2009066465
Figure 2009066465
解像度設定部1053は、前ステップで求めた中心画像1001の解像度Nx1c、Ny1cが、解像度Nx1cmax、Ny1cmaxを上回っている場合、中心画像1001の画素を荒くする処理を行い、水平解像度Nx1cmax、垂直解像度Ny1cmaxの画像を狭視野画像として決定する。また、中心画像1001の解像度Nx1c、Ny1cが解像度Nx1cmax、Ny1cmax以下の場合、中心画像1001を狭視野画像として決定する。
(ステップ804 フレームレートの決定)
本ステップでは、フレームレート設定部1054は、前ステップで求めた広視野画像および狭視野画像を表示する際のフレームレートを決定する。
ここで、右眼用走査部108を走査角α1c、β1cで駆動した場合に、水平方向に実現できる最大の駆動周波数をHx1max、垂直方向に実現できる最大の駆動周波数をHy1maxとする。フレームレート設定部1054は、予め走査角と駆動周波数の関係表を記憶部に備えることで、走査角に対応する実現可能な最大の駆動周波数Hx1max、Hy1maxの値を計算する。
この時、フレームレート設定部1054は、前述したフレームレートと走査部103、108の垂直方向の駆動周波数の関係を示す数式(1)から広視野画像のフレームレートfps1wを2×Hy1の値に、狭視野画像のフレームレートfps1nを2×Hy1maxの値に設定する。
前述したように、左眼用走査部103は、レーザを水平走査角α1、垂直走査角β1で駆動することで、ユーザに水平画角γ1、垂直画角δ1の広視野画像を表示する。また、右眼用走査部108は、レーザを水平走査角α1c、垂直走査角β1cで駆動することで、ユーザに水平画角γ1c、垂直画角δ1cの狭視野画像を表示する。
この走査部103、108の水平方向に関する各角度α1、α1c、γ1、γ1cの関係を図10に示す。この図に示されるように、画角γ1の画像を表示するために必要な走査角α1(第2の走査角)は、画角γ1cを表示するために必要な走査角α1c(第1の走査角)より大きい。同様に垂直方向についても、垂直方向の走査角β1(第2の走査角)はβ1c(第1の走査角)より大きい。一般に、走査角が小さいほど走査部103、108の駆動周波数を高くできるため、Hy1maxの値をHy1より大きくとることができる。
前述したように、画像のフレームレートfpsと垂直方向の駆動周波数Hyの間には、数式(1)の関係が成り立つ。そのため狭視野画像のフレームレートfps1nは、広視野画像のフレームレートfps1wより高く設定することができる。
なお、走査部103、108にセンサーを取り付けることで、所定の走査角で走査部103、108を駆動したときの駆動周波数の値を測定して、左眼用制御部105に通知する方法を用いても良い。この場合、走査部103、108の実際の駆動周波数を検知することが可能になり、より正確にフレームレートの決定を行うことができる。
(ステップ805 画像制御)
本ステップでは、制御部105、111は、前ステップで決定された狭視野画像および広視野画像の解像度およびフレームレートにあわせて、光源101、110、波面形状変更部102、109、および走査部103、108の制御を行う。
右眼用制御部111は、ユーザの中心視野に対応する画像を表示する側の右眼用光源110が、狭視野画像に対応するレーザ光を出力するように制御する。また、右眼用走査部108を水平走査角α1c、垂直走査角β1c、水平方向の駆動周波数Hx1max、垂直方向の駆動周波数Hy1maxで走査するように制御を行う。
左眼用制御部105は、画像全体を表示する側の左眼用光源101が、広視野画像に対応するレーザ光を出力するように制御する。また、左眼用走査部103を水平走査角α1、垂直走査角β1、水平方向の駆動周波数Hx1、垂直方向の駆動周波数Hy1で走査するように制御を行う。
この時、ユーザが視認する映像の例を、図11〜図14を用いて示す。なお簡単のため、元画像901のフレームレートfps1と、狭視野画像のフレームレートfps1nが等しく、広視野画像のfps1wは、fps1nの半分の値であるときの図を例示している。
図11は元画像901を示したものであり、各フレームが、1/fps1の間隔で切り替えられる。
図12は広視野画像の表示を示したものであり、左眼用制御部105は、元画像901のフレームの中から、fps1n/fps1のフレームを抽出し、フレームレートfps1wで表示するように制御を行う。この例では、fps1w/fps1は0.5であるため、元画像901のフレームのうち、半数のフレームが選択されて、表示されている。
図13は狭視野画像の表示を示したものであり、右眼用制御部111は、元画像901の中から、fps1n/fps1のフレームを抽出し、かつその中心部分の画像をフレームレートfps1nで表示するように制御を行う。この例では、fps1n/fps1は1であるため、元画像901のフレームの全てが選択されて表示されている。
左眼に図12、右眼に図13の表示を行った結果、両眼の融像効果により、ユーザが認識する映像を図14に示す。
図14に示すように、中心画像1001は高いフレームレートfps1n(第1のフレームレート)で表示され、それ以外の部分は低いフレームレートfps1w(第2のフレームレート)で表示される映像をユーザは視認する。眼の視力が高い中心部分では、フレームレートを上げることで、ユーザに残像感の少ない映像を表示し、かつ、視力の低い部分では、低フレームレートで広視野の映像を表示することで、ユーザが感じる映像の視野角を広げることができる。
なお、ステップ803とステップ804の実行順序は逆でも良いし、同時に処理を行っても良い。
また、本実施の形態においては左眼用制御部105が表示方法の決定を行ったが、右眼用制御部111が行う方法でも良いし、二つの制御部105、111で処理を分担する方法を用いても良い。
(実施の形態2)
本実施の形態では、図1の左右の走査部103、108でミラーデバイスの構造が異なる場合を示す。以下では、左眼用走査部103を広視野用走査部、右眼用走査部108を狭視野用走査部とする。
図15に示されるように、広視野用走査部としての左眼用走査部103は、左眼用光源101からの入射レーザを水平走査角α2L度、垂直走査角β2L度で走査し、水平解像度Nx2L、垂直解像度Ny2Lの画像を表示する能力を持つように設計されている。また左眼用走査部103の水平方向の駆動周波数をHx2L、垂直方向の駆動周波数をHy2Lとし、走査角1度あたりの解像度をΔNxL、ΔNyLする。さらに、左眼用走査部103に含まれる単板ミラーの直径をD2Lとする。
図16に示されるように、狭視野用走査部としての右眼用走査部108は、右眼用光源110からの入射レーザを水平走査角α2R度、垂直走査角β2R度で走査し、水平解像度Nx2R、垂直解像度Ny2Rの画像を表示する能力を持つように設計されている。また、右眼用走査部108の水平方向の駆動周波数をHx2R、垂直方向の駆動周波数をHy2Rとし、走査角1度あたりの解像度をΔNxR、ΔNyRとする。さらに、右眼用走査部108に含まれる単板ミラーの直径をD2Rとする。
図17A〜図17Cに、ユーザに表示される元画像1901を示す。元画像1901の水平方向の解像度はNx2、垂直方向の解像度はNy2である。また元画像1901のフレームレートはfps2である。 本実施の形態においては、左眼用走査部103が水平走査角α2L、垂直走査角β2Lでレーザ光を走査した場合に、図1のレーザ走査型HMDでユーザが視認する画像の水平画角がγ2L、垂直画角がδ2Lになるように設計されている。左眼用走査部103の水平走査角α2Lと、ユーザが視認する水平画角γ2Lの関係を図15に示す。
本実施の形態においては、右眼用走査部108の走査角α2R、β2Rは、水平走査角α2R、垂直走査角β2Rでレーザ光を走査した場合に、図1のレーザ走査型HMDでユーザが視認する画像の水平画角がγ2R、垂直画角がδ2Rになるように設計されている。右眼用走査部103の水平走査角α2Rと、ユーザが視認する水平画角γ2Rの関係を図16に示す。
ここで、右眼用走査部108は、左眼用走査部103より狭い視野の画像を高画素で表示するように設計されている。そのため右眼用走査部108のミラーの直径D2Rは、左眼用走査部103のミラーの直径D2Lより大きく設計されている。
ミラーデバイスによる解像度は、走査角およびミラーサイズに比例する。そのため、走査角一度あたりの解像度は、ミラーサイズの大きい右眼用走査部108の方が高くなる(ΔNxR>ΔNxL、ΔNyR>ΔNyL)。つまり、本実施の形態においては、右眼用走査部108によって表示される画像の方が、左眼用走査部103によって表示される画像よりも、細かい画素を表示できる。
以下、左右の表示を変更することで表示画像の見かけ上の解像度を向上させる例を示す。この処理は図19に示すステップ2101〜2104によって行われる。
(ステップ2101 中心画像の選択)
本ステップでは、ユーザに表示する画像全体のうち、中心画像2001として表示する領域を決定する。
走査範囲設定部1051は、図18A〜図18Cに示すように、元画像1901の内、中心画像2001として表示する画像の範囲を決定する。本実施の形態では、走査範囲設定部1051は、中心画像1001をHMDで視認した際の水平画角がγ2R、垂直画角がδ2Rとなる領域として決定する。
このとき、中心画像2001の水平解像度Nx2cおよび垂直解像度Ny2cは、元画像1901の解像度および画角との関係から、数式(9)および数式(10)を用いて計算される。元画像1901の解像度Nx2、Ny2、画角γ2L、δ2Lの値は、HMDの設計時に定めることが可能なため、本実施の形態では、それらの値は予め左眼用制御部105に与えられている。
Figure 2009066465
Figure 2009066465
中心画像2001の解像度Nx2c、Ny2cの値が求められると、走査範囲設定部1051は、元画像1901中央の画素を中心に、高さNy2c、幅Nx2cの解像度の領域を中心視野の画像である中心画像2001として決定する。
なお、元画像1901の解像度Nx2、Ny2の値は、左眼用制御部105が画像を解析することで求めても良いし、元画像1901に付加されているメタデータなどから求めても良い。元画像1901の画角γ2L、δ2Lは、左眼用走査部103から左眼用偏向部104に投影されたレーザ光の形状をカメラなどで撮影し、その形状から左眼用制御部105が計算する方法を用いても良い。この場合、左眼用走査部103と左眼用偏向部104の位置関係が変わってしまった場合にも、画角γ2L、δ2Lを正確に求めることが可能になる。
なお、光検出部214を利用して、実施の形態1で述べたものと同様の方法で、中心画像2001の領域をユーザの視線から決定しても良い。
(ステップ2102 解像度の削減)
本ステップでは、解像度設定部1053が、前ステップで決定された中央画像2001および元画像1901を表示する際の解像度を決定する。
元画像1901の解像度Nx2、Ny2が、左眼用走査部103が表示可能な解像度Nx2L、Ny2Lを上回る場合、解像度設定部1053は元画像1901の画素を荒くする処理を行い、水平解像度Nx2L、垂直解像度Ny2Lの広視野画像を生成する。元画像1901の解像度Nx2、Ny2が、左眼用走査部103が表示可能な解像度Nx2L、Ny2L以下である場合は、元画像1901を広視野画像として設定する。
また、前ステップで求めた中心画像2001の解像度Nx2c、Ny2cが、右眼用走査部108が表示可能な解像度Nx2R、Ny2Rを上回っている場合、解像度設定部1053は、中心画像2001の画素を荒くする処理を行い、水平解像度Nx2R、垂直解像度Ny2Rの狭視野画像を生成する。また、中心画像2001の解像度Nx2c、Ny2cが、右眼用走査部108が表示可能な解像度Nx2R、Ny2R以下の場合、中心画像2001を狭視野画像として決定する。
(ステップ2103 フレームレート)
本ステップでは、フレームレート設定部1054は、前ステップで求めた広視野画像および狭視野画像を表示する際のフレームレートを決定する。
フレームレート設定部1054は、前述したフレームレートと走査部103、108の垂直方向の駆動周波数の関係を示す数式(1)から広視野画像のフレームレートfps2wを2×Hy2Lの値に、狭視野画像のフレームレートfps2nを2×Hy2Rの値に設定する。
(ステップ2104 画像制御)
本ステップでは、制御部105、111は、前ステップで決定された狭視野画像および広視野画像の解像度およびフレームレートにあわせて、光源101、110、波面形状変更部102、109、および走査部103、108の制御を行う。
右眼用制御部111は、ユーザの中心視野に対応する中心画像2001を表示する側の右眼用光源110が、狭視野画像に対応するレーザ光を出力するように制御する。また、右眼用走査部108を水平走査角α2R、垂直走査角β2R、水平方向の駆動周波数Hx2R、垂直方向の駆動周波数Hy2Rで走査するように制御を行う。
左眼用制御部105は、画像全体を表示する側の左眼用光源101が、広視野画像に対応するレーザ光を出力するように制御する。また、左眼用走査部103を水平走査角α2L、垂直走査角β2L、水平方向の駆動周波数Hx2L、垂直方向の駆動周波数Hy2Lで走査するように制御を行う。
この時、ユーザが視認する映像の例を、図20〜図23を用いて示す。なお簡単のため、元画像1901のフレームレートfps2と、広視野画像のフレームレートfps2w、および狭視野画像のフレームレートfps2nが等しいときの図を例示している。
図20は元画像1901を示したものであり、各フレームが、1/fps2の間隔で切り替えられる。
図21は広視野画像の表示を示したものであり、左眼用制御部105は、元画像1901のフレームの中から、fps2w/fps2のフレームを抽出し、フレームレートfps2wで表示するように制御を行う。この例では、fps2w/fps2は1であるため、元画像1901のフレームの全てが選択されて、表示されている。
図22は狭視野画像の表示を示したものであり、右眼用制御部111は、元画像1901の中から、fps2n/fps2のフレームを抽出し、かつその中心部分の画像をフレームレートfps2nで表示するように制御を行う。この例では、fps2n/fps2は1であるため、元画像1901のフレームの全てが選択されて表示されている。
左眼に図21、右眼に図22の表示を行った結果、両眼の融像効果により、ユーザが認識する映像を図23に示す。
図23に示すように、中心画像は高い解像度(第1の解像度)で表示され、それ以外の部分は低い解像度(第2の解像度)で表示される映像をユーザは視認する。眼の視力が高い中心部分では、解像度を上げることで、ユーザに高精細な映像を表示し、かつ、視力の低い部分では、低解像度で広視野の映像を表示することで、ユーザが感じる映像の視野角を広げることができる。
なお、ステップ2102とステップ2103の実行順序は逆でも良いし、同時に処理を行っても良い。
また、本実施の形態では右眼で狭視野の画像を、左眼で広視野の画像を表示する例をあげたが、左右が入れ替わった構成で処理を行っても良い。この場合、左眼の視力が高いユーザに対して、視力の高いほうの眼により解像度の高い映像を表示することが可能になる。
また、本実施の形態においては左眼用制御部105が表示方法の決定を行ったが、右眼用制御部111が行う方法でも良いし、二つの制御部105、111で処理を分担する方法を用いても良い。
(実施の形態3)
本実施の形態においては、左右の眼に表示する画像の形状をそれぞれ変更することで、台形歪みを補正する際の視野角の減少を抑える方法を示す。
図1A、図1B、図2、及び図24を参照して、本発明の実施の形態3におけるメガネ型のビーム走査型表示装置(ヘッドマウントディスプレイ:HMD)を説明する。なお、図1A、図1B、図2に示す構成は実施の形態1と共通であるので、説明は省略する。
制御部105、111は、HMD各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、走査部103、103の動作が制御部105、111によって制御される。
図24に制御部105の機能のブロック図を示す。制御部105は、台形歪み判定部1801と、矩形領域決定部1802と、残領域決定部1803と、画像制御部1804と、縦横比調整部1805と、歪補正部1806と、出力画像制御部1807とを備える。なお、制御部111も同様の構成である。
台形歪み判定部1801は、左眼用走査部103が走査するビームが左眼用偏向部104に対して斜めに入射することによって生じる台形形状の左眼用歪画像の形状を判定する。同様に、右眼用偏向部107の右眼用歪画像の形状を判定する。
矩形領域決定部1802は、左眼用歪画像の長辺の一部を第1の辺とし、第1の辺に直交し、且つ第1の辺の端点と左眼用歪画像の斜辺とを結ぶ線分を第2の辺とする矩形形状の左眼用矩形領域を決定する。右眼用偏向部107上に右眼用画像が歪んで投影された場合も同様である。
残領域決定部1803は、矩形領域決定部1802によって決定された左眼用矩形領域に隣接する台形形状の領域を左眼用残領域として決定する。同様に、右眼用矩形領域に隣接する台形形状の領域を右眼用残領域として決定する。
画像制御部1804は、画像の大きさの測定や比較を行い、台形歪み判定部1804、矩形領域決定部1802、残領域決定部1803、及び縦横比調整部1805との間で制御情報のやり取りを行う。
縦横比調整部1804aは、矩形領域決定部1802によって決定された左眼用矩形領域と右眼用矩形領域とを合わせた領域に元画像が収まるように、元画像の高さ及び幅のうちのいずれか一方を調整して補正画像を生成する。
歪補正部1804bは、左眼用偏向部上に左眼用画像が歪んでいない状態で投影されるように、補正画像を予め左眼用歪画像と反対向きに歪ませた(逆補正)左眼用補正画像を生成する。右眼側についても同様である。
出力画像制御部1804cは、左眼用補正画像のうちの左眼用矩形領域及び左眼用残領域に対応する部分を出力するように光源101を制御する。右眼側の光源110についても同様の制御を行う。
なお、制御部105、111は、携帯電話等の周辺機器と無線接続して映像音声信号を受信する通信部を備えてもよい。画像制御部1804は、ユーザに提示すべき画像を格納したメモリを備えていてもよいし、もしくは無線によって外部機器からユーザに提示すべき画像を取得しても良い。
なお、制御部105、111は一つであってもよく、制御部105、111のいずれか一方が左右の眼に対応する光源101、110、波面形状変更部102、109、走査部103、108、ヘッドホン部106、112の動作を制御してもよい。
ヘッドホン部106、112は、スピーカーを備え、音声を出力する。なお、ヘッドホン部106、112には、HMD各部へ電源供給するバッテリーを備えてもよい。
なお、図1における各手段や各部は、1台のHMDに内蔵されていてもよいし、内蔵されていなくてもよい。例えば、図1各部の全てが、1台のHMDに含まれていてもよいし、ヘッドホン部106、112がなくてもよい。また、各部が分散配置されていてもよい。例えば、制御部105、111が走査部103、108や波面形状変更部102、109に一部含まれていてもよい。複数の機器で図1の各部を共有してもよい。例えば、レーザ光源211、212、213を2つのHMDで共有してもよい。
次に、融像効果を利用して、表示画像の台形歪みを補正する方法を説明する。図1に示すビーム走査表示装置における画像の歪みの例を図25に示す。前述したように、走査部103、108が偏向部104、107に対して斜めにビームを投影する結果、本来矩形で表示されるべき画像が、偏向部104、107において、左眼用歪画像601a、右眼用歪画像602aのように歪んで投影されている。
本発明では走査部103、108からの画像が、ユーザの視線と垂直な面に対する形状を判定し、その投影像の形状を制御することで台形歪みの補正を行う。本実施の形態では、偏向部104、107をユーザの視線に垂直な面として扱うため、以後、偏向部104、107上の左眼用歪画像601a、及び右眼用歪画像602aは、ユーザの視線に垂直な面に対する投影像と同等なものとして扱う。
以下に、図1のビーム走査型表示装置において、前述の融像効果を利用して、図25に示した台形歪みを補正する例を示す。台形歪みの補正は図26に示すステップ1001a〜1011aによって行われる。
(ステップ1001a 偏向部上の投影像の形状推定)
本ステップでは、制御部105、111の台形歪み判定部1801が、ユーザの視線と垂直な面に対する画像の歪みの形状を推定する。本実施例では、偏向部104、107がユーザの視線方向に垂直な面として設計されているため、本ステップでは偏向部104、107上の歪画像601a、602aの形状を判定する。
以下に、左眼用歪画像601aの形状を判定する方法を、図27、図28、及び数式(11)〜数式(15)を用いて説明する。
(1.走査部と偏向部上の投影像の距離の計算)
図27は、左眼用走査部103から左眼用偏向部104へのレーザの投影を、HMD上方から図示したものである。
左眼用走査部103からのレーザは、水平方向の投射角θx(=θx2−θx1)で、左眼用偏向部104に向かって投影される。このとき、左眼用歪画像601aの辺LA−LBと左眼用走査部103との距離d1は、数式(11)で計算できる。また、左眼用歪画像601aの辺LD−LCと左眼用走査部103との距離d2は、数式(12)で計算できる。ここで、OCは、走査部103から左眼用偏向部104に向かって延びる垂線の距離を示す。また、左眼用歪画像601aの左眼用偏向部104上での幅WLは、数式(13)で計算できる。
Figure 2009066465
Figure 2009066465
Figure 2009066465
ここで、数式(11)〜数式(13)で用いられるθx1、θx2、及びOCの値は、図1に示すビーム走査型表示装置の設計時に決まる値であり、その値を予め台形歪み判定部1801に与えることで、数式(11)〜数式(13)によってd1、d2、WLの値が計算できる。
なお、左眼用走査部103に現在の走査角を判定するセンサーを備えることで、投射角θx1、θx2を取得し、その値を台形歪み判定部1801に通知する方法でもよい。この場合、左眼用走査部103の走査角が設計時の想定からずれてしまった場合などにも、投射角θx1、θx2の値を正確に求めることが可能になる。
また、左眼用走査部103に左眼用偏向部104からの反射光を取得する手段を備え、反射光の強度や位相から直接d1、d2を推測する方法を用いても良い。この場合、ビーム走査型表示装置の形状が設計時から歪んでしまった場合などにも、d1、d2の値を正確に求めることが可能になる。
(2.光源の投射角度から、上底・下底の辺の長さの計算)
次に、左眼用歪画像601aの辺LA−LBおよび辺LD−LCの長さを判定する。
図28に、左眼用歪画像601aを偏向部104に垂直な方向から見た図を示す。図28に示されるように、走査部103からの光は、垂直方向に投射角θyで広がるため、左眼用歪画像601aの辺LA−LBの長さHL1は数式(14)で、辺LD−LCの長さHL2は数式(15)でそれぞれ計算される。
Figure 2009066465
Figure 2009066465
ここで、数式(14)、及び数式(15)で用いられるθyの値は、図1の設計時に決まる値であり、その値を予め台形歪み判定部1801に与えることで、HL1、HL2の値が計算できる。
なお、左眼用走査部103に現在の走査角を判定するセンサーを備えることによって、角度θyを取得し、その値を台形歪み判定部1801に通知する方法を用いてもよい。この場合、左眼用走査部103の走査角が設計時の想定からずれてしまった場合などにも、θyの値を正確に求めることが可能になる。
なお、ここでは左眼用偏向部104上の左眼用歪画像601aの歪みを計算する例をあげたが、右眼用偏向部107上の右眼用歪画像602aの歪みも同様の計算式で算出可能である。
図29および図30に、台形歪み判定部1801によって判定された左眼用歪画像601a、及び右眼用歪画像602aの寸法の例を示す。本ステップによって、左眼用偏向部104上の左眼用歪画像601aの高さHL1、HL2、および幅WL、右眼用偏向部107上の右眼用歪画像602aの高さHR1、HR2、および幅WRが判定される。この結果は画像制御部1804に通知される。
なお、左右の走査部103、108から投影される画像の、ユーザの視線に垂直な面上における形状をあらかじめ記憶部に保持しておき、ステップ1001aでは記憶部からその形状を読み出す方法を用いてもよい。この場合、ステップ1001aの処理を省略することが出来る。
また、ビーム走査型表示装置にカメラを取り付けることで、偏向部104、107上の投影像を撮影し、投影像の形状から、ユーザの視線方向に垂直な面に対する投影像の形状を判定する方法を用いても良い。この場合、走査部103、108、偏向部104、107の位置関係がずれた場合にも、投影像の形状を正確に測定することが可能になる。
(ステップ1002a 左右投影像の大きさ比較)
本ステップでは、前ステップ1001aによる判定結果に基づいて、画像制御部1804が左眼用歪画像601aと右眼用歪画像602aの高さを比較し、その結果によって台形歪み補正の処理の方法を決定する。
L2≧HR2かつ、HR1≧HL1の場合は、ステップ1003aの処理を実行する。一方、HL2<HR2、もしくはHR1<HL1の場合は、ステップ1009aの処理を実行する。この時、比較結果は矩形領域決定部1802および残領域決定部1803に通知される。
次に、ステップ1003a〜1007aを実行することによって、補正後の画像を表示する領域を決定する。具体的には、左眼用歪画像601aの表示領域のうちから左眼用矩形領域1401aと左眼用残領域1402aとで構成される左眼用表示領域601bを決定する。同様に、右眼用歪画像602aの表示領域のうちから右眼用矩形領域1501aと右眼用残領域1502aとで構成される右眼用表示領域602bを決定する。
(ステップ1003a 補正後画像領域の決定)
本ステップでは、画像制御部1804が、左右の表示画像を融像した後にユーザが視認する図形(図31)の高さHを決定する。高さHについてはHL1≦H≦HL2、及び、HR2≦H≦HR1の関係を満たす範囲で設定される。決定されたHの値は矩形領域決定部1802に通知される。
なお、高さHの決定については、ユーザがHMDのユーザインターフェースを通じて直接入力する方式をとっても良い。この場合、ユーザの好みに応じた画像サイズを表示することが可能になる。また、あらかじめ望ましい高さHの値を記憶部に保持しておき、本ステップの実行時に記憶部から読み出す方法を用いても良い。
(ステップ1004a 左眼矩形領域決定)
本ステップでは矩形領域決定部1802が、左眼用偏向部104上の左眼用表示領域601bにおいて、左眼用矩形領域1401aを決定する。この方法を図32を用いて示す。
まず、左眼用偏向部104上の左眼用表示領域601bの辺LA−LBおよび辺LC−LDと平行で、かつ線分の長さが前ステップで決定した高さHであるような線Xl1−Xl2の位置を決定する。
次に、点Xl1から辺LD−LCに降ろした垂線が、辺LD−LCと交わる点をLDl、点Xl2から辺LD−LCに降ろした垂線が、辺LD−LCと交わる点をLClとする。
このとき、左眼用偏向部104上の左眼用表示領域601bにおいて、左眼用表示領域601bの長辺の一部(LDl−LCl)を第1の辺とし、第1の辺に直交し、且つ第1の辺の端点(LDl、LCl)と左眼用表示領域601bの斜辺(辺LA−LD、辺LB−LC)とを結ぶ線分(Xl1−LDl、Xl2−LCl)を第2の辺とする左眼用矩形領域1401aが決定される(LDl−LCl−Xl2−Xl1)。この結果は、残領域決定部1803および画像制御部1804に通知される。
(ステップ1005a 右眼矩形領域決定)
本ステップでは矩形領域決定部1802が、右眼用偏向部107上の右眼用表示領域602bにおいて、右眼用矩形領域1501aを決定する。この方法を図33を用いて示す。
まず、右眼用偏向部107上の右眼用表示領域602bの辺RA−RBおよび辺RC−RDと平行で、かつ線分の長さが高さHであるような線Xr1−Xr2の位置を決定する。
次に、点Xr1から辺RA−RBに降ろした垂線が、辺RA−RBと交わる点をRAr、点Xr2から辺RA−RBに降ろした垂線が、辺RA−RBと交わる点をRBrとする。
このとき、右眼用偏向部107上の右眼用表示領域602bにおいて、右眼用表示領域602bの長辺の一部(RAr−RBr)を第3の辺とし、第3の辺に直交し、且つ第3の辺の端点(RAr、RBr)と右眼用表示領域602bの斜辺(辺RA−RD、辺RB−RC)とを結ぶ線分(Xr1−RAr、Xr2−RBr)を第4の辺とする右眼用矩形領域1501aが決定される(RAr−RBr−Xr2−Xr1)。この結果は、残領域決定部1803および画像制御部1804に通知される。
(ステップ1006a 左眼残領域決定)
本ステップでは残領域決定部1803が、左眼用偏向部104上の左眼用表示領域601bにおいて、左眼用残領域1402aを決定する。左眼用表示領域601bの左眼用残領域1402aは、矩形領域1401aの左に隣接する領域に設定される。この方法を図32を用いて示す。
左眼用残領域1420aは、ステップ1004aで決定した辺Xl1−Xl2(第1の辺の対辺)を右辺(長辺)とし、左眼用表示領域601bの斜辺(Xl1−Xl3、Xl2−Xl4)の一部を斜辺とする台形形状の図形であり、その幅をWL2で表すと以下のように決定される。
(W≧WL1+WR1の場合)
L2=WR1として、辺Xl1−Xl2に平行で、かつ距離WL2だけ離れた辺Xl3−Xl4を決定する。この時、左眼用残領域1402aは、辺Xl1−Xl2、辺Xl4−Xl2、辺Xl3−Xl4、及び辺Xl3−Xl1で囲まれた領域に決定される。
(W<WL1+WR1の場合)
L2=W−WL1とする。この時、左眼用残領域1402aは、辺LB−Xl2、辺LA−LB、辺LA−Xl1、及び辺Xl1−Xl2で囲まれた領域に決定される。
この結果は画像制御部1804に通知される。
(ステップ1007a 右眼残領域決定)
本ステップでは残領域決定部1803が、右眼用偏向部107上の右眼用表示領域602bにおいて、右眼用残領域1502aを決定する。右眼用表示領域602bの右眼用残領域1502aは、右眼用矩形領域1501aの右に隣接する領域に設定される。この方法を図33を用いて示す。
右眼用残領域1502aは、ステップ1005aで決定した辺Xr1−Xr2(第3の辺の対辺)を左辺(長辺)とし、右眼用表示領域602bの斜辺(Xr1−Xr3、Xr2−Xr4)の一部を斜辺とする台形形状の図形であり、その幅をWR2で表すと以下のように決定される。
(W≧WL1+WR1の場合)
R2=WL1として、辺Xr1−Xr2と平行で、かつ距離WR2だけ離れた辺Xr3−Xr4を決定する。この時、右眼用残領域1402aは、辺Xr1−Xr2、辺Xr2−Xr4、辺Xr3−Xr4、及び辺Xr1−Xr3で囲まれた領域に決定される。
(W<WL1+WR1の場合)
R2=W−WR1とする。この時、右眼用残領域1402aは、辺Xr2−RC、辺RD−RC、辺Xr1−RD、及び辺Xr1−Xr2で囲まれた領域に決定される。
この結果は画像制御部1804に通知される。
次に、図35〜図42を参照して、左眼用表示領域601b及び右眼用表示領域602bに表示する画像の画像処理を説明する。
(ステップ1008a 画像処理)
本ステップでは制御部105、111が、ステップ1004a〜1006aで決定した矩形領域1401a、1501aおよび残領域1402a、1502aの範囲にのみ画素が表示されるように、左眼用画像601および右眼用画像602の変形を行い、その結果に基づきレーザ出力を制御する。
制御部105、111は、図35に示すステップ2801a〜ステップ2804aに従って表示画像の変形を行う。以下、図36A〜図42を参照して、画像の変形の例を示す。
(ステップ 2801a 表示画像の縦横比変更)
本ステップ2801aでは、縦横比調整部1805が、ユーザに表示すべき画像の縦横の比率変換を行う。この例を図36A、図36B、及び数式(16)を用いて説明する。元画像1901aは、画像制御部1804内の記憶部(メモリなど)に記憶されている。図1のHMDは、この画像全体をユーザに表示する。
本ステップ2801aにおいて、縦横比調整部1805は、元画像1901aの縦横の比が、左眼用表示領域601b及び右眼用表示領域602bを重ね合わせた時の縦横の比(H:W1+W2)に等しくなるように変形を行う。本実施例では、横方向の大きさをXからX´に縮小もしくは拡大し、補正画像1902aを生成する。ここでX´は数式(16)によって求められる。
Figure 2009066465
(ステップ 2802a 表示画像の表示領域の決定)
本ステップ2802aでは、前ステップ2801aで変形された補正画像1902aの内、偏向部104、107に表示する領域を決定する。この例を図37、図38、数式(17)、及び数式(18)を用いて説明する。 縦横比調整部1805は、補正画像1902aの内、左眼用偏向部104に表示する領域の幅XLを決定する。ここで、XLは数式(17)によって求められる。画像制御部1804は、補正画像1902aの内、右端から幅XLの部分を補正画像1902aから切り出して左眼用部分画像2001aを生成する。
Figure 2009066465
同様に、縦横比調整部1805は、補正画像1902aの内、右眼用偏向部107に表示する領域の幅XRを決定する。ここで、XRは数式(18)によって求められる。画像制御部1804は、補正画像1902aの内、左端から幅XRの部分を補正画像1902aから切り出して右眼用部分画像2101aを生成する。
Figure 2009066465
(ステップ2803a 表示画像の変形)
本ステップ2803aでは、歪補正部1806が、左眼用偏向部104上で左眼用画像601となるように、左眼用部分画像2001aを左眼用歪画像601aと反対向きに歪ませる台形補正(逆補正)を行う。同様に、右眼用偏向部107上で右眼用画像602となるように、右眼用部分画像2101aを右眼用歪画像602aと反対向きに歪ませる台形補正(逆補正)を行う。この例を図39、図40、数式(19)〜数式(22)を用いて示す。
歪補正部1806は、図39に示すように、左眼用部分画像2001aを左眼用台形画像2201aになるように拡大および縮小を行う。ここで左眼用台形画像2201aの下底YL1および上底YL2は数式(19)および数式(20)によって計算される。本ステップ2803aの処理において、左眼用部分画像2001aの左側(線分P1−P2より左の領域)の画像が縦に引き伸ばされ、右側(線分P1−P2より右の領域)の画像が縮小され、左眼用台形画像2201aが生成される。ここで線分P1−P2は、図39で示されるXL1とXL2の長さの比がWL2:WL1になる位置に定められる。
Figure 2009066465
Figure 2009066465
同様に、歪補正部1806は、図40に示すように、右眼用部分画像2101aを右眼用台形画像2301aになるように拡大および縮小を行う。ここで右眼用台形画像2301aの下底YR1および上底YR2は数式(21)および数式(22)によって計算される。本ステップ2803aの処理において、右眼用部分画像2101aの右側(線分P3−P4より右の領域)の画像が縦に引き伸ばされ、左側(線分P3−P4より左の領域)の画像が縮小され、右眼用台形画像2301aが生成される。ここで線分P3−P4は、図40で示されるXR1とXR2の長さの比がWR1:WR2になる位置に定められる。
Figure 2009066465
Figure 2009066465
(ステップ2804a 逆台形補正)
本ステップ2804aでは、出力画像制御部1807が、前ステップ2803aで変形された左眼用台形画像2201aが左眼用偏向部104上の左眼用表示領域601bに投射されるように補正を行う。同様に、右眼用台形画像2301aが右眼用偏向部107上の右眼用表示領域602bに投射されるように補正を行う。この例を図41および図42を用いて示す。
ここで、左眼用台形画像2201aにおいて、点P1から左眼用台形画像2201aの左辺に降ろした垂線と、左眼用台形画像2201aの左辺が交わる点をP5、点P2から左眼用台形画像2201aの左辺に降ろした垂線と、左眼用台形画像2201aの左辺が交わる点をP6とする。この時、出力画像制御部1807は、台形領域2202aのうち線分P1−P5より上の領域、及び線分P2−P6より下の領域を切り取って、左眼投影用画像2401aを得る。
左眼投影用画像2401aは、左眼用偏向部104上で左眼用残領域1402aとなる矩形領域2402aと、左眼用偏向部104上で左眼用矩形領域1401aとなる台形領域2203aとで構成される。そして、左眼用光源101の出力を制御して左眼投影用画像2401aを偏向部104に投射すると、図32に示す左眼用表示領域601bに歪のない画像が表示される。
同様に、右眼用台形画像2301aにおいて、点P3から右眼用台形画像2301aの右辺に降ろした垂線と、右眼用台形画像2301aの右辺が交わる点をP7、点P4から右眼用台形画像2301aの右辺に降ろした垂線と、右眼用台形画像2301aの右辺が交わる点をP8とする。この時、出力画像制御部1807は、台形領域2303aのうち線分P3−P7より上の領域、及び線分P4−P8より下の領域を切り取って、右眼投影用画像2501aを得る。
右眼投影用画像2501aは、右眼用偏向部107上で右眼用残領域1502aとなる矩形領域2502aと、右眼用偏向部107上で右眼用矩形領域1501aとなる台形領域2302aとで構成される。そして、右眼用光源110の出力を制御して右眼投影用画像2501aを右眼用偏向部107に投射すると、図33に示す右眼用表示領域602bに歪のない画像が表示される。
上記ステップ2801a〜2804aを行うことで、生成された左眼投影用画像2401aおよび右眼投影用画像2501aは、偏向部104、107上において台形歪みの影響を受け、図32および図33の斜線で示される形状になる。
そして、偏向部104、107に表示された画像を見たユーザは、融像効果によって、図34に示す融像後図形1601aを認識する。図34で示される融像後図形1601aの左上隅および左下隅の画素は右眼のみで、右上隅および右下隅の画素は左眼のみで見ることになるが、全体としては台形歪みのない矩形として認識される。この時、表示される画像は、図36Bで示した補正画像1902aに一致する。
また、融像後図形1601aの高さHは、HL1≦H、HR2≦Hの関係を満たしているため、従来の台形補正の方法よりも、台形歪みの補正後の画像の高さを大きくする効果がある。
なお、ステップ1004aとステップ1005aの実行は逆でも良いし、同時に行っても良い。同様にステップ1006aとステップ1007aの実行順序は逆でも良いし、同時に行っても良い。
なお、出力画像制御部1807は、光源101、110を制御することによって、図34において左右の眼の画像が重なる部分についてはレーザの出力を下げてもよい。また逆に、出力画像制御部1807は、光源101、110を制御することによって、図34において片眼でのみ見ている画素の明るさを上げるようにレーザ出力を上げてもよい。上記のいずれかを行うことにより、画面の領域内で明るさのムラが出る事態を避けることができる。
また、画像制御部1804は、高さHの値と、幅WL1とWR1の和の比率が特定の比率(例えば16:9や4:3)になるように高さHの値を変更してステップ1004a以下の処理を繰り返してもよい。この場合、4:3や16:9のアスペクト比で放送されるテレビ番組などの映像を違和感無くユーザに表示することが可能になる。 また、出力画像制御部1807は、投影用画像2401a、2501aのうち、偏向部104、107上で残領域1402a、1502aとなる矩形領域2402a、2502aの任意の画素を表示しないようにしても良い。矩形領域2402a、2502aの画素は、他方の眼の台形領域2203a、2303aの画素と重なるので、表示画素数を削減してもユーザに気づかれにくい。
(ステップ1009a 左眼矩形領域)
本ステップでは、矩形領域決定部1802が、ステップ1002aでの比較の結果から、左眼用歪画像601a及び右眼用歪画像602aのうちの大きいほうの画像から矩形領域を決定する。
以下では左眼用歪画像601aの方が大きい(HR1<HL1)場合の実施例を記述するが、HL2<HR2の場合は左右の処理が交代するだけで本質的な差異は出ない。
本ステップの処理を図43を用いて説明する。
矩形領域決定部1802は、左眼用歪画像601aの点LAから辺LD−LCに降ろした垂線が、辺LD−LCと交わる点をLDl、点LBから辺LD−LCに降ろした垂線が辺LD−LCと交わる点をLClとする。このとき、左眼用矩形領域1401bをLA−LB−LCl−LDlと決定する。また、右眼用矩形領域の面積は0に設定される。この結果は、画像制御部1804に通知される。
(ステップ1010a 右眼台形領域)
本ステップでは、残領域決定部1803が、ステップ1002aでの比較の結果から、左眼用歪画像601a及び右眼用歪画像602aのうちの小さいほうの画像から残領域を決定する。この方法を図44を用いて説明する。本ステップの処理はWLとWRの値によって、場合分けされる。
(WR<WLの時)
残領域決定部1803は、右眼用歪画像602aの全領域を右眼用残領域1502bとする。
(WR≧WLの時)
残領域決定部1803は、右眼用歪画像602aの辺RA−RB(長辺)を左辺として幅Wとなる領域RA−RB−Xr4−Xr3を右眼用残領域1502bとする。また、左眼用残領域の面積は0とする。この結果は、画像制御部1804に通知される。
(ステップ 1011a)
本ステップでは画像制御部1804が、ステップ1009aおよび1010aで決定した左眼用矩形領域1401bおよび右眼用残領域1502bの範囲にのみ画素が表示されるように、左眼用画像601および右眼用画像602の変形を行い、光源101、110からのレーザ出力を制御する。
この時ステップ1008aと同様に、制御部105は左右の画像に対して図35に示されるステップ2801a〜2804aを実行する。ただし、左眼用歪画像601a及び右眼用歪画像602aのうちの小さい方の画像に関してはステップ2802aの代わりに、以下のステップ2805aを実行する。
(ステップ2805a)
本ステップ2805aにおいては、補正画像1902aから表示領域が決定される。この例を図46、図47、数式(23)、及び数式(24)を用いて示す。
左眼用偏向部104上の左眼用歪画像601aの高さが低い場合、画像制御部1804は、補正画像1902aから左眼用偏向部104に表示する領域の幅XLを決定する。ここでXLは数式(17)によって求められる。また、左眼用偏向部104に表示する領域の高さYLを決定する。ここでYLは数式(23)によって定められる。画像制御部1804は、図46に示されるように、補正画像1902aの右端から幅XLの部分でかつ、画像中央で高さYLの領域を補正画像1902aから切り出して、左眼用部分画像2601aを生成する。また、補正画像1902aの全領域を右眼用部分画像2701aとして設定する。
Figure 2009066465
一方、右眼用偏向部107上の右眼用歪画像602aの高さが低い場合、画像制御部1804は、補正画像1902aから右眼用偏向部107に表示する領域の幅XRを決定する。ここでXRは数式(18)によって求められる。また、右眼用偏向部107に表示する領域の高さYRを決定する。ここでYRは数式(24)によって定められる。画像制御部1804は、図47に示されるように、補正画像1902aの左端から幅XRの部分でかつ、画像中央で高さYRの領域を補正画像1902aから切り出して、右眼用部分画像2701aを生成する。また、補正画像1902aの全領域を左眼用部分画像2601aとして設定する。
Figure 2009066465
上記の処理により、画像制御部1804は左眼用画像および右眼用画像の変形を行い、変形画像に対応するビームが偏向部104、107に投影されるよう、光源101、110の制御を行う。
その結果、左眼用偏向部104上に表示される画像は、図43の斜線で描かれた形状になり、右眼用偏向部107上に表示される画像、図44の斜線で描かれた形状になる。
この時、前述した両眼の融像効果によって、ユーザが認識する画像の形状を図45に示す。高さの高い方の投影像にあわせて表示画素を変更することで、視野角の広い台形歪みの補正を行っている。
なお、ステップ1009aとステップ1010aの実行順序は逆でも良いし、同時に行っても良い。
なお、出力画像制御部1807は、図45において左右の眼の画像が重なる部分についてはレーザの出力を下げて、片眼でのみ見ている画素との明るさの差異が出ないように制御を行っても良い。また逆に、出力画像制御部1807は、図45において片眼でのみ見ている画素の明るさを上げるようにレーザ出力を上げて、画像全体に明るさの差異が出ないように制御を行っても良い。この場合、ユーザに輝度ムラのない良好な画像を表示することが可能になる。
なお、本実施の形態では、左右の偏向部104、107上の歪画像601a、602aは必ずしもで完全な台形である必要は無く、四方の辺に歪みがある場合においても本発明の手法は適用される。この場合、偏向部が平板ではなく凹凸を持っている場合においても両眼の融像効果を利用して見た目の視野角を広げることが可能になる。
なお、ステップ1002aにおいては歪画像601a、602aの高さの比較によって処理を分岐させたが、ユーザの視力に一定の差がある場合にステップ1009aへの分岐を行い、視力の高い眼に投影される投影像をステップ1009aにおける高さの高い方の投影像として扱っても良い。この時、ステップ1010aにおいても視力の悪いほうの眼に投影される投影像は矩形領域、残領域ともに面積が0になるように制御を行うことで、視力の悪いほうの眼の影響を防ぐことが出来る。なお、視力を判定する手段としては、ユーザが外部インターフェースから入力しても良いし、レーザの波面曲率と網膜上のレーザのスポットサイズから類推する方法を用いても良い。
なお、ユーザの視力は前もってユーザインターフェースなどで入力しても良いし、ランドルト環をユーザに表示することで視力測定を行っても良い。また、眼に投影したビームの戻り光から、網膜上のスポットサイズを検出し、視力の推定を行っても良い。この場合、自身の視力を把握していないユーザに対しても良好な画像を表示することが可能になる。
なお、本実施の形態においては、偏向部104、107をユーザの視線に垂直な面として扱ったが、偏向部104、107はユーザの視線に対して傾いていても良いし、また平面形状でなくてもよい。その場合、本発明の処理は偏向部104、107上の像ではなく、ユーザの視線に垂直な平面を仮定し、その仮定された平面上での投影像の形状を制御する。
次に、図48を参照して、本実施の形態3の典型例を説明する。なお、図48は、図29に示す左眼用歪画像601aと、図30に示す右眼用歪画像602aとを重ね合わせた図(実線部分)であり、実際に画像が表示される部分を斜線で示している。
まず、図29に示す左眼用歪画像601aと、図30に示す右眼用歪画像602aとは、典型的には合同図形である。つまり、HL1=HR2、HL2=HR1、WL=WRが成立する。つまり、ステップ1002aにおいて、HL2≧HR2かつ、HR1≧HL1をみたすので、ステップ1003a〜1008aを実行することになる。
次に、ステップ1003aにおいて、左眼用歪画像601aのWL1=WL2=WL/2となる位置における高さをHとする。同様に、右眼用歪画像602aのWR1=WR2=WR/2となる位置における高さをHとする。
次に、ステップ1004a〜1007aにおいて、左眼用矩形領域1401a、右眼用矩形領域1501a、左眼用残領域1402a、及び右眼用残領域1502aを決定する。このとき、左眼用表示領域601bと右眼用表示領域602bとは合同であり、高さHをWL1=WL2=WR1=WR2=WL/2=WR/2となる位置に設定したので、両者を重ね合わせると、図48のようになる。
つまり、左眼用矩形領域1401aの第2の辺(Xl1−LDl、Xl2−LCl)と、右眼用矩形領域1501aの第4の辺(Xr1−RAr、Xr2−RBr)とが、左眼用画像601b及び右眼用画像602bそれぞれの斜辺の交点を通る直線となる。このとき、ユーザが認識する画像(RAr−LDl−LCl−RBr)が最大となる。
次に、ステップ2801a〜ステップ2804aの画像処理を実行する。このとき、ステップ2802aにおいて、XL=XR=X´となるので、左右とも補正画像1902aの全てが表示対象となる。
また、本実施の形態においては左眼用制御部105が表示方法の決定を行ったが、右眼用制御部111が行う方法でも良いし、二つの制御部105、111で処理を分担する方法を用いても良い。
(実施の形態4)
本実施の形態では、左右の眼で表示する画素の数を変更することで、表示画像のフレームレートを向上させる方法について示す。
図1A、図1B、図2、及び図49を参照して、本発明の実施の形態4に係るメガネ形のビーム走査型表示装置(ヘッドマウントディスプレイ:HMD)を説明する。なお、図1A、図1B、及び図2に示す構成は実施の形態1と共通であるので、説明は省略する。
制御部105、111は、HMD各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、走査部103、108の動作が制御部105、111によって制御される。
図49に本実施の形態における左眼用制御部105の機能ブロック図を示す。左眼用制御部105は、画像分析部801bと、駆動周波数決定部802bと、電源管理部803bと、表示画質決定部804bと、ユーザプロファイル管理部805bと、走査パターン決定部806bと、画像制御部807bとを含む。
画像分析部801bは、元画像の分析を行う。具体的には、元画像の解像度、フレームレート、及び元画像の内容を示すコンテンツ情報等を取得する。
駆動周波数決定部802bは、電源管理部の検出結果に応じて、左眼用走査部103及び右眼用走査部108の両方の駆動周波数の最大値を変更する。
電源管理部803bは、ビーム走査型表示装置に搭載されているバッテリーの残量を検出する。
表示画質決定部804bは、左眼用走査部103及び右眼用走査部108の最大駆動周波数に基づいて、元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正する。
ユーザプロファイル管理部805bは、ユーザがコンテンツ情報毎に設定する画質補正値、ユーザの視力に関する情報等を保持する。
走査パターン決定部806bは、左眼用走査部103及び右眼用走査部108それぞれに所定の走査パターンでビームを走査させる。具体的には、表示画像を複数の走査領域に区分し、各フレームにおける左眼用走査部103及び右眼用走査部108の走査領域が異なり、且つ隣接するフレームにおける左眼用走査部103及び右眼用走査部108それぞれの走査領域が異なるように、左眼用走査部103及び右眼用走査部108それぞれにビームを走査させる。
画像制御部807bは、走査パターン決定部806bで決定された走査パターンを実現するために、光源101、110の出力を制御する。
なお、制御部105、111は、携帯電話等の周辺機器と無線接続して映像音声信号を受信する通信部を備えてもよい。制御部105、111は、ユーザに提示すべき画像を格納したメモリを備えていてもよいし、もしくは無線によって外部機器からユーザに提示すべき画像を取得しても良い。
なお、制御部105、111はひとつであってもよく、制御部105、111のいずれか一方が左右の眼に対応する光源101、110、波面形状変更部102、109、走査部103、108、ヘッドホン部106、112の動作を制御してもよい。この場合、ビーム走査型表示装置の大きさを削減することが可能になる。
ヘッドホン部106、112は、スピーカーを備え、音声を出力する。なお、ヘッドホン部106、112には、HMD各部へ電源供給するバッテリーを備えてもよい。
なお、図1における各手段や各部は、1台のHMDに内蔵されていてもよいし、内蔵されていなくてもよい。例えば、図1各部の全てが1台のHMDに含まれていてもよいし、ヘッドホン部106、112がなくてもよい。また、各部が分散配置していてもよい。例えば、制御部105、111が走査部103、108や波面形状変更部102、109に一部含まれていてもよい。複数の機器で図1の各部を共有してもよい。例えば、光源101、110を2つのHMDで共有してもよい。
以下に、図1のビーム走査型表示装置において、前述の融像効果を利用して、表示画像のフレームレートを向上させながら、見かけ上の画質の低下を抑制する処理の例を示す。
なお、本実施の形態では、走査部103、108は同一の構造をもつミラーデバイスとする。また、このミラーデバイスは図74に示すように単板ミラーを駆動素子によって二次元方向に走査するデバイスとする。
本実施の形態においては、走査部103、108は、入射レーザを水平走査角α4度、垂直走査角β4度で走査し、水平解像度Nx4、垂直解像度Ny4の画像を表示する能力を持つように設計されている。また、走査部103、108の水平方向の最大駆動周波数をHx4、垂直方向の最大駆動周波数をHy4とする。また、走査部103、108は、水平方向(第1の方向)に画素を走査する動作を、垂直方向(第1の方向に直交する第2の方向)に順次位置をずらしながら複数回繰り返すことによって1フレームの画像を描画する。また、本実施の形態においては、走査部103、108の表示画像のオーバースキャン率をAとする。
以下、本実施の形態におけるフレームレートと解像度の決定の処理の具体例を示す。この処理は図50に示すステップ701b〜705bを実行することよって行われる。
(ステップ701b)
本ステップでは画像分析部801bが、ユーザに提示する画像の内容を分析する。図51に、図1のHMDがユーザに表示する画像の元データである元画像を例示する。本実施の形態4では、水平解像度Nx4orgn(以下、元画像のパラメータを「orgn(original)」で示す)、垂直解像度Ny4orgn、フレームレートfps4orgnの画像が元画像として用意されている。この元画像は、制御部105内の記憶部に蓄えられていても良いし、通信を介して外部の機器から取得しても良い。
表示画像分析部801bは、元画像の画像データを分析することで解像度Nx4orgn、Ny4orgn、およびフレームレートfps4orgnの値を取得する。
また、画像分析部801bは、スポーツや映画、といった元画像の内容(ジャンル)を、元画像に付与されているメタデータから判定する。図52に本実施の形態において元画像に付加されているメタデータを例示する。図52のメタデータが与えられた場合、画像分析部801bは、元画像のジャンルを「音楽」と判定する。
なお、画像分析部801bは、元画像に付与されているメタデータから解像度Nx4orgn、Ny4orgnおよびフレームレートfps4orgnの値を取得しても良い。また、図1のHMDで扱う画像の形式を予め設定しておき、その設定値から元画像の解像度Nx4orgn、Ny4orgnおよびフレームレートfps4orgnの値を決定しても良い。この場合、画像を分析するための処理コストを削減することが可能になる。
また、メタデータの形式は図52に示した独自のXML(eXtensible Markup Language)形式でもよいし、MPEG7(Moving Picture Experts Group 7)などの規格化されたXMLフォーマットの書式に従ったものを用いても良い。
また、メタデータは画像データの特定フィールドに埋め込まれているバイナリデータでもよい。この場合、別途、メタデータファイルを扱う必要がなくなるため画像の管理が容易になる。
(ステップ702b)
本ステップでは駆動周波数決定部802bが、走査部103、108の最大駆動周波数Hx4、Hy4の補正を行う。
駆動周波数決定部802bは、水平周波数補正値Xa、垂直周波数補正値Yaの値を決定し、それぞれをHx4、Hy4に掛け合わせることで、走査部103、108の水平方向の許容最大駆動周波数Hx4maxおよび垂直方向の許容最大周波数Hy4maxの値を生成する。
本実施の形態では、駆動周波数決定部802bは、電源管理部803bから図1のHMDの現在のバッテリー残量を取得し、バッテリー残量の値に従って、画質補正値の一例としての水平周波数補正値Xaおよび垂直周波数補正値Yaの値を決定する。図53に、駆動周波数決定部802bが、バッテリー残量からXa、Yaの値を算出するための計算表の例を示す。この例ではバッテリー残量が60%を切ると、走査部103、108の最大駆動周波数を削減し、消費電力の軽減を図るように図53の計算表の値が決められている。
なお、駆動周波数補正値Xa、Yaの決定は、バッテリー残量以外の値から決定しても良い。例えば、走査部103、108の使用年数を管理しておくことで、使用年数が長いほど低い周波数で駆動するように処理を行っても良い。この場合、ビーム走査型表示装置の耐久性を考慮した処理が可能になる。
また、走査部103、108に、動作状態を検知するセンサーを取り付け、そのセンサーの値から仕様上の最大駆動周波数と実際上の最大駆動周波数の差を検出し、実際上の最大駆動周波数の値に合うように、駆動周波数補正値Xa、Yaの値を決定しても良い。この場合、実際の走査部103、108の動作が設計値と異なる場合でも、正しく処理を行うことが可能になる。
(ステップ703b)
本ステップでは、表示画質決定部804bが、図1のHMDでユーザに表示する左右それぞれの表示画像の水平解像度Nx4disp(以下、表示画像のパラメータを「disp(display)」で示す)、垂直解像度Ny4disp、フレームレートfps4dispを決定する。
前述のように、走査部103、108の水平方向の駆動周波数Hx、表示画像の垂直方向の解像度Nyおよびフレームレートfpsの間には数式(4)の関係が成り立つ。従って、垂直解像度Ny4orgnの表示画像を、フレームレートfps4orgnで表示するための水平方向の駆動周波数をHx4orgnとすると、Hx4orgnは数式(25)で表現される。
Figure 2009066465
ここで、走査部103、108の水平方向の許容最大駆動周波数Hx4maxの値が元画像を表示するのに必要な水平方向の駆動周波数Hx4orgnを上回る場合、表示画質決定部804bは、表示画像の解像度Nx4disp、Ny4dispに元画像のNx4orgn、Ny4orgnを設定し、表示画像のフレームレートfps4dispに元画像のフレームレートfps4orgnの値を設定し、ステップ704bの処理を行う。
一方、Hx4maxの値がHx4orgnを下回る場合、走査部103、108では、垂直解像度Ny4orgn、フレームレートfps4orgnの画像を表示することができない。この場合、表示画質決定部804bは、左右の眼に表示する表示画像の垂直解像度Ny4dispの値を元画像の垂直解像度Ny4orgn以下にする、表示画像のフレームレートfps4dispをfps4orgn以下にするといった処理のどちらか、もしくは両方を行う必要がある。
数式(4)に示される関係より、垂直解像度Ny4disp、フレームレートfps4dispの画像を表示するために必要な水平方向の駆動周波数Hx4dispは数式(26)で与えられる。
Figure 2009066465
表示画質決定部804bは、Hx4dispの値が、Hx4max以下になるように解像度Ny4dispおよびフレームレートfps4dispの値を決定する。
なお、本実施の形態においては、表示画質決定部804bは、前述の両眼融像の効果を想定して表示画像の解像度を決定する。左右の眼に表示される画像の垂直解像度Ny4dispの時、両眼の融像効果によって、ユーザが視認する融像画像の垂直解像度Ny4fusn(以下、融像画像のパラメータを「fusn(fusion)」で示す)と、Ny4dispおよび元画像の垂直解像度Ny4orgnの間には、数式(27)の関係が成り立つ。
Figure 2009066465
数式(27)は、左右の眼で垂直方向の表示行が重ならないようにした場合、Ny4fusnの値がNy4dispの値の2倍になることを示している。これは右眼に元画像の上半分、左眼に元画像の下半分を提示した場合などに該当する。この融像効果を利用することで、表示画像のフレームレートfps4dispを高くするために、表示画像の垂直解像度Ny4dispを元画像の垂直解像度Ny4orgnの半分にまで下げても、左右の表示がその位置を適切に選択することで、ユーザが視認する表示画像の見かけ上の解像度の低下を防ぐことができる。
本実施の形態において表示画質決定部804bは、画像分析部801bが得た元画像の情報の内容から、フレームレートfps4dispの値を決定するためのフレームレート係数Fを決定する。図54に表示画質決定部804bが保持するフレームレート係数Fの算出表の例を示す。
ここでフレームレート係数Fは、元画像フレームレートfps4orgnに対する左右の眼での表示画像のフレームレートの削減度合いを示す係数であり、表示画質決定部804bは、フレームレート係数Fの決定後、Fとfps4orgnを掛け合わせることで、表示画像のフレームレートfps4dispを決定する。フレームレート係数Fの値が1の場合は、表示画像のフレームレートの削減は行われず、元画像のフレームレートfps4orgnを表示画像のフレームレートfps4dispとして設定する。また、フレームレート係数Fの値が0に近いほど表示画像のフレームレートの削減が大きくなる。なおfps4dispの値が1を下回った場合には、表示画質決定部804bはfps4dispの値を1に設定する。図54の表を用いた場合、表示画質決定部804bはスポーツなど動きの大きい映像に対してはフレームレートの削減幅を小さくし、ニュースなど文字情報が多く用いられる情報に対しては解像度を優先するようにフレームレート係数Fの値が決定される。
なお、表示画質決定部804bがフレームレート係数Fを算出する際に、フレームレートおよび解像度に対するユーザの嗜好情報を反映させても良い。図55に画質補正値の一例としてのフレームレート係数補正値Faの例を示す。図55は、ユーザの嗜好情報とフレームレート係数補正値Faとの関係を示す表であり、ユーザプロファイル管理部805bが保持している。
この表を利用すれば、どのような情報に対してユーザがフレームレートを優先するかを設定することができる。つまり、ユーザがフレームレートを重視する情報ほど、フレームレート係数補正値Faの値が高く設定されている。表示画質決定部804bは、ユーザプロファイル管理部805bからフレームレート係数補正値Faを受け取り、フレームレート係数Fにフレームレート係数補正値Faとを加算してから元画像のフレームレートfps4orgnと掛け合わせることで、修正フレームレートfps4dispを決定する。
なお、フレームレート係数補正値Faとフレームレート係数Fとの和が1を超える場合は、fps4dispの値をfps4orgnに設定する。また、フレームレート係数補正値Faとフレームレート係数Fとの和が0以下になる場合は、fps4dispの値を1に設定する。また、フレームレート係数補正値Faの値は、ユーザがユーザインターフェースを介して直接入力しても良いし、ユーザプロファイル管理部805bが自動的に生成しても良い。この場合、ユーザが自分の好みに合ったフレームレートを適時設定することが可能になる。
また、前述のように、走査部103、108の垂直周波数Hyと、表示画像のフレームレートfpsの間には数式(1)の関係が成り立つ。従って、ユーザに表示する表示画像のフレームレートをfps4dispとした場合の、走査部103、108に求められる垂直方向の駆動周波数Hy4dispは、数式(28)で与えられる。ここでHy4dispの値が、走査部103、108の垂直方向の許容最大駆動周波数Hy4maxを上回った場合、表示画質決定部804bはfps4dispの値を、Hy4maxの二倍の値に修正する。
Figure 2009066465
表示画質決定部804bは、表示画像のフレームレートfps4dispの決定後、1フレームにつき、左右の眼にそれぞれ表示される表示画像の垂直方向の解像度Ny4dispを決定する。本実施の形態において、Ny4dispの値は、数式(29)で計算される。
Figure 2009066465
ただし、数式(29)による計算の結果、Ny4dispの値が表示画質決定部804bが定める最小解像度Ymin以下になる場合は、Ny4disp≧Yminとなるように、数式(30)に示す計算式でfps4dispの値を修正する。なお、Yminの値は、fps4disp≧1となるように設定されているものとする。
Figure 2009066465
また、数式(29)による計算の結果、Ny4dispの値が、Ny4orgnの値を上回る場合、Ny4dispの値をNy4orgnに設定し、fps4dispの値を数式(31)で与えられる計算式の値に設定する。
Figure 2009066465
最後に表示画質決定部804bは、表示画像の水平方向の解像度Nx4dispを決定する。ここで、元画像の水平解像度Nx4orgnが、走査部103、108が表示可能な垂直解像度Nx4を上回る場合には、Nx4の値をNx4dispの値として設定する。それ以外の場合には、Nx4orgnの値をNx4dispの値として設定する。
なお、表示画質決定部804bは表示画像の垂直解像度を先に決定しておき、それを実現するためにフレームレートの値を削減する方法を取っても良い。この場合、解像度を優先した画像の表示を行うことが出来る。
なお、表示画像の垂直解像度およびフレームレートは、ユーザインターフェースを介してユーザが直接入力する形態をとっても良い。このユーザからの入力値を基にして、ユーザプロファイル管理部805bは、図55に示す表を自動生成しても良い。
なお、本実施の形態では、元画像のフレームレートfps4orgnを表示画像の解像度fps4dispの上限として扱っているが、倍速駆動表示のように、元画像の本来のフレームレートfps4orgnより高いフレームレートの値をfps4dispに設定しても良い。この場合でも、数式(3)、数式(4)で示される制約を満たすように表示画像の解像度fps4dispの値を設定する。この場合、ブレの少ない映像表示を行うことが可能になる。
(ステップ704b)
本ステップでは、走査パターン決定部806bが、走査部103、108がレーザ光を走査する方法を決定する。
走査パターン決定部806bは、前ステップ703bで決定されたフレームレートfps4dispに従って、元画像からfps4disp/fps4orgnのフレームを抽出して、抽出した各フレームに対して、以下の垂直走査範囲の決定と、表示画素の決定の処理を行う。
(垂直走査範囲の決定)
まず、走査パターン決定部806bは、走査部103、108のそれぞれが1フレームの間に、垂直方向にレーザを走査する範囲である垂直走査範囲を決定する。図56A〜図56Cに垂直走査範囲の例を示す。図56Aに示す走査パターン1401では、1フレームの間に表示画像の高さと同じ範囲を垂直方向に走査している。図56Bに示す走査パターン1402では、1フレームの間に表示画像の高さの半分の範囲を垂直方向に走査している。図56Cに示す走査パターン1403では、1フレームの間に表示画像の高さの四分の1の範囲を垂直方向に走査している。
なお、走査パターン決定部806bは、左右の眼の走査部103、108で垂直走査範囲を別々に定めても良い。特に、垂直走査範囲が表示画像の高さと一致しない場合においては、左右の走査部103、108で垂直走査範囲が重ならないようにすることで、両眼の融像効果により見かけ上の解像度を向上させることが出来る。
(表示画素の決定)
次に、前ステップで決定された垂直解像度Ny4disp、水平解像度Nx4dispに従って、走査部103、108が前述の垂直走査範囲の内で描画する画素を決定する。
本実施の形態においては、元画像の垂直解像度Nx4orgnを表示画像の垂直解像度Nx4dispで割った商をフレーム数Nfとした時に、走査パターン決定部806bが、左右の走査部103、108のそれぞれが少なくともNf枚のフレームで全画素を描画するように、1フレームでの画素の選択を行う。
例えば、フレーム数Nfの値が2の場合、2フレームで全画素の表示を行うように、走査パターン決定部806bは、1フレーム目では画像上半分を、次のフレームでは画像の下半分を描画するように走査パターンを決定する。
また、フレーム数Nfの値が、2以上の場合、走査パターン決定部806bは、1フレームで左右に表示される画素が重ならないように走査パターンの決定を行う。例えば、元画像のあるフレームに対して、右眼で上半分の画素を表示した際には、左眼では下半分の画素を表示するように走査パターンの決定を行う。また同様に、右眼で奇数行を表示した際には、左眼で偶数行を表示するように走査パターンの決定を行う。
上記のように左右の眼で1フレームでの表示画素が重ならないように走査パターンの決定を行うと、両眼の融像効果によって、ユーザが視認する画像の垂直解像度Ny4fusnを、Ny4dispの倍にすることが可能になり、表示画像のフレームレートを保つために表示画像の解像度を低下させた場合においても、ユーザに表示する画像の見かけ上の解像度を向上させることが出来る。
以下、図57〜図63に左右の眼に対する走査パターン、および両眼の融像効果によってユーザが視認する表示画像の例を示す。
図57は、左右それぞれの表示画像の垂直解像度Ny4dispが、元画像の垂直解像度Ny4orgnの半分とき(Nf=2)、つまり、表示画像を垂直方向に2つの走査領域に区分したときの左右の眼に対する走査パターン、および両眼の融像効果による表示画像の例である。この例では、左眼が表示画像の上半分を表示しているときには、右眼では表示画像の下半分を表示する。また1フレームごとに、表示画像の上半分の表示と、下半分の表示を切り替える。なお、この例における走査部103、108の走査範囲は、表示画像の高さの半分である。
つまり、左眼用走査部103及び右眼用走査部108は、それぞれ隣接するフレームで異なる走査領域を走査している。また、左眼用走査部103及び右眼用走査部108は、各フレームにおいて、異なる走査領域を走査している。なお、走査部103、108の3番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。
図58は、左右それぞれの表示画像の垂直解像度Ny4dispが、元画像の垂直解像度Ny4orgnの四分の一のとき(Nf=4)、つまり、表示画像を垂直方向に4つの走査領域に区分したときの左右の眼に対する走査パターンおよび、両眼の融像効果による表示画像の例である。
この例では、表示画像を垂直方向に4つの走査領域に分割している。そして、左眼用走査部103は、最初のフレームで1番上の走査領域を走査し、2番目のフレームで上から2番目の走査領域を走査し、3番目のフレームで上から3番目の走査領域を走査し、4番目のフレームで一番下の走査領域を走査する。一方、右眼用走査部108は、最初のフレームで1番下の走査領域を走査し、2番目のフレームで下から2番目の走査領域を走査し、3番目のフレームで下から3番目の走査領域を走査し、4番目のフレームで一番上の走査領域を走査している。なお、この例における走査部103、108の走査範囲は、表示画像の高さの四分の一である。
つまり、左眼用走査部103及び右眼用走査部108は、それぞれ隣接するフレームで異なる走査領域を走査している。また、左眼用走査部103及び右眼用走査部108は、各フレームにおいて、異なる走査領域を走査している。なお、走査部103、108の5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。
図59は、図58の変形例である。図58との相違点は、右眼用走査部108が4つの走査領域のうち、上から3番目の走査領域、一番下の走査領域、一番上の走査領域、上から2番目の走査領域の順に走査している点である。
この例においても、左眼用走査部103及び右眼用走査部108は、それぞれ隣接するフレームで異なる走査領域を走査している。また、左眼用走査部103及び右眼用走査部108は、各フレームにおいて、異なる走査領域を走査している。なお、走査部103、108が5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。
図57〜図59に示したように、各走査領域が垂直走査方向に連続した連続領域となるように表示画像の分割を行うことによって、左眼用走査部103及び右眼用走査部108の走査角を小さくすることができる。
図60は、左右それぞれの表示画像の垂直解像度Ny4dispが、元画像の垂直解像度Ny4orgnの半分のとき(Nf=2)、つまり表示画像を垂直方向に2つの走査領域に区分したときの左右の眼に対する走査パターン、および両眼の融像効果による表示画像の例である。
この例では、左眼が表示画像の奇数行の画素を表示しているときには、右眼では表示画像の偶数行の画素を表示する。また1フレームごとに、表示画像の奇数行の表示と、偶数行の表示を切り替える。なお、この例における走査部103、108の走査範囲は、表示画像の高さと同じである。
図61は、Ny4dispがNy4orgnの四分の一のとき(Nf=4)、つまり、表示画像を垂直方向に4つの走査領域に区分したときの左右の眼に対する走査パターン、および両眼の融像効果による表示画像の例である。
この例では、左眼用走査部103は、最初のフレームで表示画像の上半分の奇数行を、2番目のフレームで下半分の奇数行を、3番目のフレームで下半分の偶数行を、4番目のフレームで上半分の偶数行の画素をそれぞれ走査する。このとき右眼用走査部108は、左眼の表示行に隣接する行の表示が行われる。なお、走査部103、108が5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。また、この例における走査部103、108の走査領域は、表示画像の高さの八分の三である。
図62は、図61の変形例である。図62との相違点は、右眼用走査部108が最初のフレームで表示画像の下半分の奇数行を、2番目のフレームで下半分の偶数行を、3番目のフレームで上半分の偶数行を、4番目のフレームで上半分の奇数行をそれぞれ走査する。なお、走査部103、108が5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。また、この例における走査部103、108の走査領域は、表示画像の高さの八分の三である。
図63は、Ny4dispがNy4orgnの四分の一のとき(Nf=4)、つまり表示画像を垂直方向に4つの走査領域に区分したときの左右の眼に対する走査パターン、および両眼の融像効果による表示画像の例である。
この例では、左眼用走査部103は、最初のフレームで表示画像の4N−3番目の行(1行目と5行目)を、2番目のフレームで4N−2番目の行(2行目と6行目)を、3番目のフレームで4N−1番目の行(3行目と7行目)を、4番目のフレームで4N番目の行(4行目と8行目)をそれぞれ走査する。一方、右眼用走査部108は、1番目のフレームで4N−1番目の行(3行目と7行目)を、2番目のフレームで4N番目の行(4行目と8行目)を、3番目のフレームで4N−3番目の行(1行目と5行目)を、4番目のフレームで4N−2番目の行(2行目と6行目)をそれぞれ走査している。なお、走査部103、108が5番目のフレームで走査する走査領域は、1番目のフレームでの走査領域と同じである。また、この例における走査部103、108の走査領域は、表示画像の高さの八分の五である。
図61〜図63に示したように、各走査領域が垂直走査方向に離隔した離隔領域となるように表示画像の分割を行うことによって、左眼用走査部103と右眼用走査部108とが互いに隣接する画素を走査することになるので、高い融像効果を得ることができる。ただし、図57〜図59の例と比較すると、各フレームにおける走査部103、108の走査範囲は広くなる。
なお、図57〜図63は、一例であり、走査パターン決定部806bは、他の走査パターンを利用しても良い。また、上記の例では、Nfの値が4までの例を示したが、Nfの値が4以上であっても、左右の表示画素が重ならないように、同様の走査パターンを決定することができる。この場合、1フレームで表示するがその密度を上げることが可能になる。
垂直走査範囲が元画像の高さのN分の一、Nfの値がNy4orgnのN分の一(Nは自然数)の時、元画像を横にN分割した画像を左眼は上から順に、右眼は下から順に1フレームごとに表示する方法をとっても良い。この場合、左右の眼で表示される画素の位置を分散させることができる。
また、垂直走査範囲が元画像の高さのN分の一、Nfの値がNy4orgnのN分の一(Nは自然数)の時、元画像を横にN分割した画像を左眼は上から順に表示し、右眼は左眼に表示されている領域に隣接されている領域の画素を表示する方法を取っても良い。
また、垂直走査範囲が元画像の高さと同じで、Nfの値がNy4dispのN分の一(Nは自然数)の時、左眼のLフレーム目には(NM−N+L)行目の画素を表示し(Mは自然数)、右眼には左眼に表示されている画素と隣接する行の画素を表示する方法をとっても良い。なおこの時、N+1以降のフレームの表示は1〜Nフレーム目までの表示を繰り返す。
なお、走査パターン決定部806bは、左右の表示画素を完全に異なるように走査するのではなく、一部の画素が重なるように表示画素を選択する方法を用いても良い。この時、左右の融像効果によって得られる表示画像の垂直解像度Ny4fusnの値は低下するが、左右で同一の画素を表示することで、両眼による融像がしやすいという効果が得られる。
また、垂直走査範囲が少ないほど、走査部103、108の垂直方向の駆動周波数が少なくなるため、走査パターン決定部806bは、走査部103、108の垂直方向の許容最大駆動周波数Ny4maxの値に応じて、垂直走査範囲の値を決定する方法をとっても良い。
なお、倍速駆動のようにfps4dispの値が、元画像のフレームレートfps4orgnの値を上回る場合には、fps4disp/fps4orgnの値が1を上回る。その際には、前後のフレームをそのまま表示する、もしくは前後のフレームから差分フレームを生成するなどの処理を行って、ユーザに提示する画像を生成する。
(ステップ705 画像制御)
本ステップでは、画像制御部807bが、前ステップ704bの結果に合わせて1フレームごとに光源101、110、及び走査部103、108の制御を行い、指定された走査パターンを実現する。
なお、ステップ704bとステップ703bは逆に行っても良い。その場合、走査パターンに適すように表示画像の解像度Nx4disp、Ny4dispとフレームレートfps4dispの決定が行われる。
また、本実施の形態では、垂直方向の走査を低速側として処理を行う例を挙げたが、水平方向と垂直方向を入れ替えた処理を行っても良い。
なお、上記した各実施の形態での制御処理は、専用のH/W(電子回路等)で実現されてもよいし、記憶装置(ROM、RAM、ハードディスク等)に格納された上述した処理手順を実行可能な所定のプログラムデータが、CPUによって解釈実行されることで実現されてもよい。この場合、プログラムデータは、記録媒体を介して記憶装置内に導入されてもよいし、記録媒体上から直接実行されてもよい。なお、記録媒体は、ROM、RAM、フラッシュメモリ等の半導体メモリ、フレキシブルディスクやハードディスク等の磁気ディスクメモリ、CD−ROMやDVDやBD等の光ディスクやSDカード等のメモリカード等の記録媒体をいう。また、記録媒体は、電話回線や搬送路等の通信媒体も含む概念である。
また、実施の形態は本発明の趣旨を逸脱しない範囲で適時変更が可能である。当然、本発明の実施の形態を組み合わせて用いることもできる。
次に、図64〜図73を参照して、上記の各実施形態に係るビーム走査型表示装置の代表的な用途を説明する。以降、各用途に実施の形態1に係るビーム走査型表示装置を適用したものとして説明するが、同様に実施の形態2〜4を適用することもできるし、実施の形態1〜4を任意の組み合わせで組み合わせて適用してもよい。また、ビーム走査型表示装置の用途は、下記のものに限定されないことは言うまでもない。
また、本実施の形態においては左眼用制御部105が表示方法の決定を行ったが、右眼用制御部111が行う方法でも良いし、二つの制御部105、111で処理を分担する方法を用いても良い。
(実施の形態5)
図64〜図68を参照して、本発明の実施の形態5に係るレーザ走査型のHUD(ヘッドアップディスプレイ)を説明する。なお、図64はHUDの側面図、図65はHUDの鳥瞰図、図66及び図67は図66の変形例、図68は図64のレーザ走査ユニット2602の詳細図である。
車2601の内部には、左眼用のレーザ走査ユニット2602および右眼用のレーザ走査ユニット2610が埋め込まれている。レーザ走査ユニット2602、2610は、車2601のフロントガラス2603の下方(本実施形態では、インパネの内部)に取り付けられており、表示装置の小型化を図っている。
なお、レーザ走査ユニット2602、2610は、インパネの内部ではなく、インパネ外部に配置してもよい。この場合、レーザ走査ユニット2602、2610の交換や位置の変更が容易になる。
なお、レーザ走査ユニット2602、2610は、インパネ部分ではなく天井2607に配置しても良い。この場合、インパネ部分に必要な容積を削減することが出来、車内の空間を広げることが可能になる。
なお、レーザ走査ユニット2602、2610は、図65に示すようにユーザを挟むように配置する方法のほかに、図66に示すようにユーザの右側に両方ともが配置される方法をとっても良い。この場合、車体中央に走査ユニット2602を配置する必要がなくなるため、車中央の空間を広げ、デザイン性を高めることが可能になる(図65では、左眼用のレーザ走査ユニット2602が助手席との間に配置されている)。
レーザ走査ユニット2602、2610によって走査された光は、フロントガラス2603に取り付けられた偏向部104、107によって反射され、ハーフミラー2604を通過し、ドライバー2605の眼球2606、2609に到達することで映像が視認される。このようなHUDでは、フロントガラス2603越しに外界風景を確認しながら、レーザ走査ユニット2602、2610によって表示される地図情報や警告情報を見ることができ、ドライバー2605の安全性や利便性を向上させることが可能になる。ユーザの網膜上に投影されたレーザの反射光は、ユーザの眼前に設置されたハーフミラー2604によって反射され、光検出部214によって検出される。
なお、偏向部104、107は、図67に示すようにフロントガラス2603上に別々に配置する方法の他に、図65及び図66に示すように1つのホログラム上に多重露光することで、一枚のホログラムミラーとして実現する方法を用いても良い。この場合、左眼用偏向部104および右眼用偏向部107それぞれの面積を広げることが可能になり、ユーザにより広い視野角の映像を表示することが可能になる。
また、ハーフミラー2604は、右眼用と左眼用の二つを用意しても良いし、一枚の横長形状のハーフミラーを用いても良い。
左眼用のレーザ走査ユニット2602は、光源101、波面形状変更部102、走査部103、制御部105から構成されている。また、右眼用のレーザ走査ユニット2610は、光源110、波面形状変更部109、走査部108、制御部111から構成されている。図68に本実施の形態における左眼用のレーザ走査ユニット2602内の光源101、波面形状変更部102、偏向部104の構造の例を示す。
図68における光源101は、実施の形態1の図2と同様、赤色レーザ光源211と、青色レーザ光源212と、緑色レーザ光源213とから構成されている。なお、本実施の形態において光検出部214は光源101中には含まれず、図64に示されるように車2601の天井2607に設置されている。この構成をとることで、ユーザの網膜と光検出部214までの距離を短くすることができ、網膜上のスポットサイズを検出することが容易になる。
図68における波面形状変更部102は、焦点距離水平成分変更部3001と、焦点距離垂直成分変更部3002とを光路に直列に配置している。これによって、ビームの水平方向の曲率と垂直方向の曲率とを独立して変更できる。本実施の形態における焦点距離水平成分変更部3001および焦点距離垂直成分変更部3002は、シリンドリカルレンズの位置を変更することによって、水平方向および垂直方向の曲率を変更する。
なお焦点距離水平成分変更部3001及び焦点距離垂直成分変更部3002は、図2に示される焦点距離水平成分変更部201及び焦点距離垂直成分変更部202と同様に、シリンドリカルレンズとミラーを組み合わせ、ミラーの位置を変更することで波面形状の変更を行っても良い。この場合、ミラーを高速に振動させることで、解像度の高い画像やフレームレートの高い動画を表示する際でも波面形状を適切に変更することが可能になる。
なお、右眼用のレーザ走査ユニット2610については、左眼用のレーザ走査ユニット2602と同様の構造をとるため説明は省略する。
また、本実施の形態における偏向部104、107は、透過型のホログラムによって実現されている。本実施の形態において偏向部104、107はフロントガラス2603の内側(車内側)に、例えばフォトポリマー層を形成し、フォトポリマー層にリップマン体積ホログラムを形成することによって、走査部103、108からのビームをユーザの眼の瞳孔に回折・集光するように製作されている。フォトポリマー層には赤色、緑色、青色、それぞれの光源からの光を反射する3つのホログラムを多重に形成してもよいし、それぞれの色の光に対応した3層のホログラムを積層してもよい。また、ホログラムの波長選択性を用いることで、光源波長の光のみを回折させ、外界からの光のほとんどを占める光源波長以外の波長の光を回折させないように製作することで、透過型のディスプレイとできる。
なお、偏向部104、107は、フロントガラス2603に自由に着脱できるようにしてもよい。この場合、ディスプレイの表示が不要な場合は偏向部104、107を外すことにより、フロントガラス2603の透過性を保ち、ドライバー2605の安全性を向上させることができる。
本発明の実施の形態においては、ユーザの眼前にハーフミラー2604を設置することで、ユーザの網膜上からの反射光を光検出部214に反射させる。ハーフミラー2604は、車2601の天井2607に支持棒2608によって取り付けられている。この構造によってユーザの頭部への装置の装着を強制することなしに、ユーザの網膜上のスポットサイズの検出を行うことができる。なお、ハーフミラー2604および光検出部214は、車2601の天井2607に設置するのではなく、ドライバー2605の眼鏡や帽子に設置しても良い。この場合、ドライバー2605の頭が前後に動いてもハーフミラー2604に頭が接触する可能性が減るため、ドライバー2605の安全性を向上させることができる。なお、光検出部214は、左眼用と右眼用の二つを用意する方法のほかに、どちらか片方の眼からの反射光を検出する光検出部214を1つだけ設置してもよい。この場合、光検出部214を増やすこと無くユーザの視線方向を検出することができるため、ビーム走査型表示装置のコストを削減することができる。
制御部105、111は、HUD各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、走査部103、108、光検出部214の動作が制御部105によって制御される。
本実施の形態において光検出部214は天井2607に配置され、制御部105、111はインパネ内部に設置されているが、光検出部214と制御部105、111間の通信は車2601の内部を有線ケーブルを這わせることで行っても良いし、無線通信で行っても良い。
なお、制御部105、111は、どちらか片方のみを設置し、左眼用のレーザ走査ユニット2602および右眼用のレーザ走査ユニット2610の両方を制御する方法を用いても良い。この場合、ビーム走査型表示装置のサイズを小さくすることが可能になる。
本実施の形態に係るビーム走査型表示装置は、図6に示すステップ801〜805を実行し、両眼の融像効果を活用することで、ユーザが視認する映像の見かけ上のフレームレートを向上させる処理を行う。なおステップ801〜805の処理の内容は実施の形態1と同様である。
(実施の形態6)
次に、図69〜図72を参照して、実施の形態6に係る双眼鏡3101を説明する。なお、図69は双眼鏡3101の鳥瞰図、図70は双眼鏡3101の左眼側表示部3101aの側面図、図71は双眼鏡3101の右眼側表示部3101bの側面図、図72は図69の変形例を示す図である。
まず、図69に示されるように、双眼鏡3101は、ユーザの左眼に画像を表示する左眼側表示部3101aと、ユーザの右眼に画像を表示する右眼側表示部3101bとを備える。次に、図70及び図71に示されるように、左眼側表示部3101a及び右眼側表示部3101bは、それぞれカメラ3103、3502を備えている。そして、ユーザ3105は双眼鏡3101を覗き込むことでカメラ3103、3502が撮影した映像や、双眼鏡3101の外部入力端子に接続された外部の映像機器からの映像を視認することができる。この構成をとることで、ユーザ3105はHMDのように頭部に装置を装着する必要がなくなり、屋外で簡単にビーム走査型表示装置を利用することが可能になる。
図70に示されるように、左眼側表示部3101aは、光源101、波面形状変更部102、走査部103、偏向部104、制御部105、カメラ3103、及び折り返しミラー3102から構成され、左眼3106に映像を表示する。一方、図71に示されるように、右眼側表示部3101bは、光源110、波面形状変更部109、走査部108、偏向部107、制御部111、カメラ3502、及び折り返しミラー3501から構成され、右眼3104に映像を表示する。
上記の実施形態においては、左眼側表示部3101a及び右眼側表示部3101bそれぞれがカメラ3013、3502を有する例を示したが、これに限ることなく、左眼側表示部3101aと右眼側表示部3101bとで同一のカメラを共通して使用してもよい。ただし、図70及び図71に示されるように、左眼側表示部3101aと右眼側表示部3101bとに設置された2台のカメラ3103、3502で右眼用と左眼用の画像を別々に撮影し、表示するようにしてもよい。これにより、ユーザの両眼に対して視差のある映像を表示することができるため、立体的な映像を表示することが可能になる。
図70及び図71における光源101、109は、実施の形態1の図2と同様、赤色レーザ光源211と、青色レーザ光源212と、緑色レーザ光源213と、光検出部214とから構成される。
図70及び図71における波面形状変更部102、109は、焦点距離水平成分変更部201と、焦点距離垂直成分変更部202とを光路に直列に配置している。これによって、ビームの水平方向の曲率と垂直方向の曲率とを独立して変更できる。本実施の形態においては、図2に示すようにシリンドリカルレンズとミラーを組み合わせ、ミラーの位置を変更することで垂直方向および水平方向の波面形状の変更を行う。
波面形状変更部102、109からのビームはそれぞれ、折り返しミラー3102、3501を経由して、走査部103、108によって走査されて、偏向部104、107にそれぞれ入射する。
偏向部104、107は、双眼鏡3101の接眼部分に配置される接眼レンズであり、走査部103、108からの光をユーザの瞳孔上に集光する。なお、偏向部104、107は凸レンズではなく、透過型ホログラムであってもよい。この場合、接眼レンズ部分を薄くすることができ双眼鏡3101を小型化することができる。
また、偏向部104、107をホログラムで実現する場合には、図72に示すように偏向部104、107を別々に配置するのではなく、図69に示すように偏向部104、107を多重露光した一枚のホログラムを用いても良い。この場合、ユーザに対して広視野角の映像を表示することが可能になる。
ユーザの網膜上からの反射光は、入射光と同じ経路を逆向きに辿った後、光検出部214によって検出される。
制御部105、111は、双眼鏡3101の各部を制御する集積回路を備える。光源101、110からのレーザの出力、波面形状変更部102、109、走査部103、108、光検出部214、及びカメラ3103、3502の動作が制御部105、111によって制御される。
本実施の形態に係るビーム走査型表示装置は、図6に示すステップ801〜805を実行し、両眼の融像効果を活用することで、ユーザが視認する映像の見かけ上のフレームレートを向上させる処理を行う。なおステップ801〜805の処理の内容は実施の形態1と同様である。
なお、光源101、110については、光源101からのビームをプリズムなどで分光し、左右の眼の表示に用いる波面形状変更部102、109にそれぞれ入射する方法をとっても良い。この場合、必要な光源が減るため双眼鏡3101を小型化することができ、また消費電力を抑えることが可能になる。
(実施の形態7)
図73に、本発明の実施の形態7におけるレーザ走査型の卓上型ディスプレイ3401の構成図(側面図)を示す。
卓上型ディスプレイ3401は、光源101、波面形状変更部102、走査部103、偏向部104、及び制御部105から構成されている。具体的には、筐体の内部に光源101、波面形状偏向部102、走査部103、及び制御部105が収納されており、筐体の表面に偏向部104によって構成される表示面を有する。そして、双眼鏡3101と同様に、左側表示部と右側表示部とを備える。
そして、ユーザは、この卓上型ディスプレイ3401を机に設置して利用する。図73の構成をとることで、ユーザはHMDのように頭部に装置を装着する必要が無くなる。また双眼鏡3101のように長時間、手で装置を支持する必要もなくなるため負担無く、長時間に亘って卓上型ディスプレイ3401を使用することが可能になる。
本発明にかかるビーム走査型表示装置は、右眼用走査部、左眼用走査部などを有し、表示装置、表示システム、表示方法、表示プログラム、などの用途にも応用できる。
11 左眼用レンズ
12 右眼用レンズ
13 左側テンプル
14 右側テンプル
100 左眼用画像出力部
101 左眼用光源
102 左眼用波面形状変更部
103 左眼用走査部
104 左眼用偏向部
105 左眼用制御部
106,112 ヘッドホン部
107 右眼用偏向部
108 右眼用走査部
109 右眼用波面形状変更部
110 右眼用光源
111 右眼用制御部
201,3001 焦点距離水平成分変更部
202,3002 焦点距離垂直成分変更部
211 赤色レーザ光源
212 青色レーザ光源
213 緑色レーザ光源
214 光検出部
301 単板ミラー
303,304 レーザ光
401a 投影画像
501,601c 表示画像
501a 補正前画像
502,602c 走査軌跡
502a 補正後画像
601 左眼用画像
601a 左眼用歪画像
601b 左眼用表示領域
602 右眼用画像
602a 右眼用歪画像
602b 右眼用表示領域
603 全体像
801b 画像分析部
802b 駆動周波数決定部
803b 電源管理部
804b 表示画質決定部
805b ユーザプロファイル管理部
806b 走査パターン決定部
807b 画像制御部
901,1901,1901a 元画像
1001,2001 中心画像
1051 走査範囲設定部
1052 画質設定部
1053 解像度設定部
1054 フレームレート設定部
1401,1402,1403 走査パターン
1401a,1401b 左眼用矩形領域
1402a 左眼用残領域
1501a 右眼用矩形領域
1502a,1502b 右眼用残領域
1601a 融像後図形
1801 台形歪み判定部
1802 矩形領域決定部
1803 残領域決定部
1804 画像制御部
1805 縦横比調整部
1806 歪補正部
1807 出力画像制御部
1902a 補正画像
2001a,2601a 左眼用部分画像
2101a,2701a 右眼用部分画像
2201a 左眼用台形画像
2202a,2203a,2302a,2303a 台形領域
2301a 右眼用台形画像
2401a 左眼投影用画像
2402a,2502a 矩形領域
2501a 右眼投影用画像
2601 車
2602,2610 レーザ走査ユニット
2603 フロントガラス
2604 ハーフミラー
2605 ドライバー
2606,2609 眼球
2607 天井
2608 支持棒
3101 双眼鏡
3101a 左眼側表示部
3101b 右眼側表示部
3102,3501 折り返しミラー
3103,3502 カメラ
3104 右眼
3105 ユーザ
3106 左眼
3401 卓上型ディスプレイ

Claims (35)

  1. ユーザの網膜に画像を表示する画像表示装置であって、
    元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力部と、
    前記左眼用画像出力部で出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向部と、
    元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力部と、
    前記右眼用画像出力部で出力された前記右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向部と、
    融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御部とを備える
    画像表示装置。
  2. 前記左眼用画像出力部は、
    左眼用画像を構成する各画素を描画するビームを出力する左眼用光源と、
    前記左眼用光源からのビームを前記左眼用偏向部に走査させる左眼用走査部とを含み、
    前記右眼用画像出力部は、
    右眼用画像を構成する各画素を描画するビームを出力する右眼用光源と、
    前記右眼用光源からのビームを前記右眼用偏向部に走査する右眼用走査部とを含む
    請求項1に記載の画像表示装置。
  3. 前記制御部は、
    前記左眼用走査部及び前記右眼用走査部のうちの一方に前記元画像の一部のみを走査する第1の走査角でビームを走査させ、他方に前記第1の走査角より大きく、且つ前記元画像の全体を走査する走査角以下の第2の走査角でビームを走査させる走査範囲設定部と、
    前記左眼用画像出力部及び前記右眼用画像出力部を制御することによって、前記走査範囲設定部によって設定された走査角に応じて、画質の異なる前記左眼用画像及び前記右眼用画像を出力させる画質設定部とを備える
    請求項2に記載の画像表示装置。
  4. 前記画質設定部は、
    前記左眼用画像出力部及び前記右眼用画像出力部のうち、前記第1の走査角が設定された側に対応する画像出力部に第1のフレームレートの画像を出力させ、前記第2の走査角が設定された側に対応する画像出力部に前記第1のフレームレートより小さい第2のフレームレートの画像を出力させるフレームレート設定部を含む
    請求項3に記載の画像表示装置。
  5. 前記画質設定部は、
    前記左眼用画像出力部及び前記右眼用画像出力部のうち、前記第1の走査角が設定された側に対応する画像出力部に第1の解像度の画像を出力させ、前記第2の走査角が設定された側に対応する画像出力部に前記第1の解像度より低い第2の解像度の画像を出力させる解像度設定部を含む
    請求項3に記載の画像表示装置。
  6. 前記左眼用走査部と前記右眼用走査部とは、互いにサイズが異なっており、
    前記走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちのサイズが大きい側に前記第1の走査角でビームを走査させ、サイズが小さい側に前記第2の走査角でビームを走査させる
    請求項3に記載の画像表示装置。
  7. さらに、ユーザの視線を検出する視線検出部を備え、
    走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちの前記第1の走査角が設定された側に、前記視線検出部の検出結果に基づいてユーザの視線位置を含む領域にビームを走査させる
    請求項3に記載の画像表示装置。
  8. 前記走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちのユーザの利き目に対応する側に前記第1の走査角でビームを走査させ、他方に前記第2の走査角でビームを走査させる
    請求項3に記載の画像表示装置。
  9. 前記走査範囲設定部は、前記左眼用走査部及び前記右眼用走査部のうちのユーザの視力の高い方の眼に対応する側に前記第1の走査角でビームを走査させ、他方に前記第2の走査角でビームを走査させる
    請求項3に記載の画像表示装置。
  10. 前記制御部は、前記元画像を複数の走査領域に区分し、各フレームにおける前記左眼用走査部及び前記右眼用走査部の走査領域が異なり、且つ隣接するフレームにおける前記左眼用走査部及び前記右眼用走査部それぞれの走査領域が異なるように、前記左眼用走査部及び前記右眼用走査部それぞれにビームを走査させる前記走査パターン決定部を含む
    請求項2に記載の画像表示装置。
  11. 前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、
    前記走査パターン決定部は、各フレームにおいて、前記左眼用走査部及び前記右眼用走査部が前記第2の方向に隣接する画素を走査するように、前記元画像を複数の走査領域に区分する
    請求項10に記載の画像表示装置。
  12. 前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、
    前記走査パターン決定部は、各フレームにおいて、前記左眼用走査部及び前記右眼用走査部それぞれが前記第2の方向に連続した走査領域を走査するように、前記元画像を複数の走査領域に区分する
    請求項10に記載の画像表示装置。
  13. 前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、
    前記走査パターン決定部は、前記左眼用走査部と前記右眼用走査部とで前記第2の方向の走査方向が反対向きになるように、前記左眼用走査部及び前記右眼用走査部それぞれにビームを走査させる
    請求項10に記載の画像表示装置。
  14. 前記制御部は、前記左眼用走査部及び前記右眼用走査部の最大駆動周波数に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正した補正画像を生成する表示画質決定部を含み、
    前記走査パターン決定部は、前記表示画質決定部によって生成された前記補正画像を複数の走査領域に区分し、前記左眼用走査部及び前記右眼用走査部それぞれにビームを走査させる
    請求項10に記載の画像表示装置。
  15. 前記左眼用走査部及び前記右眼用走査部は、第1の方向に画素を走査する動作を、前記第1の方向に直交する第2の方向に順次位置をずらしながら複数回繰り返すことによって画像を走査するものであって、
    前記表示画質決定部は、前記元画像のフレームレートを、前記元画像を表示するのに必要とされる前記左眼用走査部及び前記右眼用走査部の前記第2の方向の駆動周波数、及び前記左眼用走査部及び前記右眼用走査部の前記第2の方向の最大駆動周波数のうちのいずれか小さいほうの2倍に補正する
    請求項14に記載の画像表示装置。
  16. 前記表示画質決定部は、補正された前記フレームレートと前記左眼用走査部及び前記右眼用走査部の第1の方向の駆動周波数から算出される前記第2の方向の表示画素数が、前記元画像のフレームレートが1以上となる予め定められた値以上で、且つ前記元画像の前記第2の方向の表示画素数以下となるように、補正された前記フレームレートを再補正する
    請求項15に記載の画像表示装置。
  17. 前記走査パターン決定部は、前記元画像を、前記左眼用画像もしくは前記右眼用画像のいずれかの全画素数を前記表示画質決定部によって補正された各フレームの表示画素数で除した商に該当する数の走査領域に区分する
    請求項14に記載の画像表示装置。
  18. 前記表示画質決定部は、さらに、前記元画像の内容を示すコンテンツ情報に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正する
    請求項14に記載の画像表示装置。
  19. 制御部は、さらに、ユーザがコンテンツ情報毎に設定する画質補正値を保持するユーザプロファイル管理部を含み、
    前記表示画質決定部は、前記元画像のコンテンツ情報に対応する前記画質補正値に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正する
    請求項18に記載の画像表示装置。
  20. 前記ユーザプロファイル管理部は、さらに、ユーザの視力に関する情報を保持し、
    前記表示画質決定部は、前記ユーザプロファイル管理部が保持するユーザの視力に関する情報に基づいて、前記元画像のフレームレート及び表示画素数のうちの少なくともいずれか一方を補正する
    請求項19に記載の画像表示装置。
  21. さらに、該画像表示装置を駆動するためのバッテリーと、
    前記バッテリーの残量を検出する電源管理部と、
    前記電源管理部の検出結果に応じて、前記左眼用走査部及び前記右眼用走査部の両方の駆動周波数の最大値を変更する駆動周波数決定部とを備える
    請求項10に記載の画像表示装置。
  22. 前記左眼用走査部が走査するビームが前記左眼用偏向部に対して斜めに入射することによって前記左眼用画像が前記左眼用偏向部上で台形形状に歪んだ左眼用歪画像となり、且つ前記右眼用走査部が走査するビームが前記右眼用偏向部に対して斜めに入射することによって前記右眼用画像が前記右眼用偏向部上で台形形状に歪んだ右眼用歪画像となる場合において、
    前記制御部は、
    前記左眼用歪画像の長辺の一部を第1の辺とし、前記第1の辺に直交し、且つ前記第1の辺の端点と前記左眼用歪画像の斜辺とを結ぶ線分を第2の辺とする矩形形状の左眼用矩形領域、及び前記右眼用画像の長辺の一部を前記第1の辺と同じ長さの第3の辺とし、前記第3の辺に直交し、且つ前記第3の辺の端点と前記右眼用歪画像の斜辺とを結ぶ線分を第4の辺とする矩形形状の右眼用矩形領域を決定する矩形領域決定部と、
    前記第1の辺を高さとし、前記第2の辺と前記第4の辺との和を幅とした補正画像となるように、前記元画像の高さ及び幅のうちの少なくともいずれか一方を調整する縦横比調整部と、
    前記左眼用偏向部上に前記左眼用画像が表示されるように前記補正画像を前記左眼用歪画像と反対向きに歪ませた左眼用補正画像、前記右眼用偏向部上に前記右眼用画像が表示されるように前記補正画像を前記右眼用歪画像と反対向きに歪ませた右眼用補正画像を生成する歪補正部と、
    前記左眼用補正画像のうちの前記左眼用矩形領域に対応する部分を前記左眼用画像出力部に出力させ、且つ前記右眼用補正画像のうちの前記右眼用矩形領域に対応する部分を前記右眼用画像出力部に出力させる出力画像制御部とを含む
    請求項2に記載の画像表示装置。
  23. 前記矩形領域決定部は、前記左眼用歪画像の短辺が前記右眼用画像の長辺に含まれ、且つ前記右眼用画像の短辺が前記左眼用歪画像の長辺に含まれるように、前記左眼用画像と前記右眼用歪画像とを重ね合わせたときに、前記第2及び第4の辺が、前記左眼用歪画像及び前記右眼用歪画像それぞれの斜辺の交点を通る直線となるように、前記左眼用矩形領域及び前記右眼用矩形領域を決定する
    請求項22に記載の画像表示装置。
  24. 前記制御部は、
    前記第1の辺の対辺を長辺とし、前記左眼用歪画像の斜辺の一部を斜辺とする台形形状であって、高さが前記第4の辺より短い左眼用残領域、及び前記第3の辺を長辺とし、前記右眼用歪画像の斜辺の一部を斜辺とする台形形状であって、高さが前記第2の辺より短い右眼用残領域を決定する残領域決定部を含み、
    前記出力画像制御部は、さらに、前記左眼用補正画像のうちの前記左眼用残領域に対応する部分を前記左眼用画像出力部に出力させ、且つ前記右眼用補正画像のうちの前記右眼用残領域に対応する部分を前記右眼用画像出力部に出力させる
    請求項22に記載の画像表示装置。
  25. 前記出力画像制御部は、前記左眼用画像出力部及び前記右眼用画像出力部を制御することによって、前記左眼用残領域、及び前記右眼用矩形領域のうちの前記左眼用残領域に重なる領域のうちの少なくともいずれか一方の輝度を低下させ、且つ前記右眼用残領域、及び前記左眼用矩形領域のうちの前記右眼用残領域に重なる領域のうちの少なくともいずれか一方の輝度を低下させる
    請求項24に記載の画像表示装置。
  26. 前記出力画像制御部は、前記左眼用画像出力部及び前記右眼用画像出力部を制御することによって、前記右眼用矩形領域のうちの前記左眼用残領域に重ならない領域の輝度を増大させ、且つ前記左眼用矩形領域のうちの前記右眼用残領域に重ならない領域の輝度を増大させる
    請求項24に記載の画像表示装置。
  27. 前記矩形領域決定部は、前記補正画像の幅と高さとが、16:9または4:3の比率となるように前記左眼矩形領域および前記右眼矩形領域の形状を決定する
    請求項22に記載の画像表示装置。
  28. 前記矩形領域決定部は、ユーザの左右の眼の視力の差が一定値以上の場合に、視力の高い方の眼に対応する矩形領域が最大、且つ視力の低い方の眼に対応する矩形領域が0になるように、前記左眼矩形領域と前記右眼矩形領域の形状を決定し、
    前記残領域決定部は、視力の高い方の眼に対応する残領域が0、且つ視力の低い方の眼に対応する残領域が最大になるように、前記左眼残領域と前記右眼残領域の形状を決定する
    請求項22記載の画像表示装置。
  29. 元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力ステップと、
    前記左眼用画像出力ステップで出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向ステップと、
    元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力ステップと、
    前記右眼用画像出力ステップで出力された前記右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向ステップと、
    融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御ステップとを備える
    画像表示方法。
  30. 元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力ステップと、
    前記左眼用画像出力ステップで出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向ステップと、
    元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力ステップと、
    前記右眼用画像出力ステップで出力された前記右眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向ステップと、
    融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、画像の解像度、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御ステップとをコンピュータに実行させる
    プログラム。
  31. 元画像の一部又は全部を構成する左眼用画像を出力する左眼用画像出力部と、
    前記左眼用画像出力部で出力された前記左眼用画像をユーザの左眼に向かう方向へ偏向する左眼用偏向部と、
    元画像の一部又は全部を構成する右眼用画像を出力する右眼用画像出力部と、
    前記右眼用画像出力部で出力された前記左眼用画像をユーザの右眼に向かう方向へ偏向する右眼用偏向部と、
    融像効果によって前記左眼用画像と前記右眼用画像とからユーザが前記元画像を認識できるように、画素の位置、画像の形状、画像の大きさ、及び表示フレームレートのうちの少なくとも一つを互いに異ならせた前記左眼用画像及び前記右眼用画像を出力するように、前記左眼用画像出力部及び前記右眼用画像出力部を制御する制御部とを備える
    集積回路。
  32. 請求項1に記載の画像表示装置と、
    ユーザの左眼の位置に配置され、ユーザの左眼に対面する位置に前記左眼用偏向部を有する左眼用レンズと、
    ユーザの右眼の位置に配置され、ユーザの右眼に対面する位置に前記右眼用偏向部を有する右眼用レンズと、
    一端が前記左眼用レンズに連結され、他端がユーザの左側頭部に固定される左側テンプルと、
    一端が前記右眼用レンズに連結され、他端がユーザの右側頭部に固定される右側テンプルと、
    を備える眼鏡型ヘッドマウントディスプレイ。
  33. 請求項1に記載の画像表示装置と、
    前記左眼用偏向部偏向部及び前記右眼用偏向部を有するフロントガラスと
    を備える自動車。
  34. 請求項1に記載の表示装置と、
    前記左眼用偏向部を有する左眼用接眼レンズと、
    前記右眼用偏向部を有する右眼用接眼レンズと
    を備える双眼鏡。
  35. 請求項1に記載の画像表示装置と、
    前記表示装置を収納する筐体と、
    前記筐体の表面に前記左眼用偏向部及び前記右眼用偏向部によって構成される表示面と
    を備える卓上型ディスプレイ。
JP2009542483A 2007-11-20 2008-11-20 画像表示装置、その表示方法、プログラム、集積回路、眼鏡型ヘッドマウントディスプレイ、自動車、双眼鏡、及び卓上型ディスプレイ Active JP5222856B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009542483A JP5222856B2 (ja) 2007-11-20 2008-11-20 画像表示装置、その表示方法、プログラム、集積回路、眼鏡型ヘッドマウントディスプレイ、自動車、双眼鏡、及び卓上型ディスプレイ

Applications Claiming Priority (8)

Application Number Priority Date Filing Date Title
JP2007300128 2007-11-20
JP2007300126 2007-11-20
JP2007300126 2007-11-20
JP2007300128 2007-11-20
JP2007305403 2007-11-27
JP2007305403 2007-11-27
PCT/JP2008/003424 WO2009066465A1 (ja) 2007-11-20 2008-11-20 画像表示装置、その表示方法、プログラム、集積回路、眼鏡型ヘッドマウントディスプレイ、自動車、双眼鏡、及び卓上型ディスプレイ
JP2009542483A JP5222856B2 (ja) 2007-11-20 2008-11-20 画像表示装置、その表示方法、プログラム、集積回路、眼鏡型ヘッドマウントディスプレイ、自動車、双眼鏡、及び卓上型ディスプレイ

Publications (2)

Publication Number Publication Date
JPWO2009066465A1 true JPWO2009066465A1 (ja) 2011-04-07
JP5222856B2 JP5222856B2 (ja) 2013-06-26

Family

ID=40667297

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009542483A Active JP5222856B2 (ja) 2007-11-20 2008-11-20 画像表示装置、その表示方法、プログラム、集積回路、眼鏡型ヘッドマウントディスプレイ、自動車、双眼鏡、及び卓上型ディスプレイ

Country Status (3)

Country Link
US (1) US8269692B2 (ja)
JP (1) JP5222856B2 (ja)
WO (1) WO2009066465A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013254031A (ja) * 2012-06-05 2013-12-19 Denso Corp ヘッドアップディスプレイ装置

Families Citing this family (66)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4735234B2 (ja) * 2005-12-19 2011-07-27 ブラザー工業株式会社 画像表示システム
FR2906899B1 (fr) * 2006-10-05 2009-01-16 Essilor Int Dispositif d'affichage pour la visualisation stereoscopique.
JP2009244869A (ja) * 2008-03-11 2009-10-22 Panasonic Corp 表示装置、表示方法、眼鏡型ヘッドマウントディスプレイ、及び自動車
US8319762B2 (en) * 2008-04-30 2012-11-27 Panasonic Corporation Scanning image display apparatus, goggle-shaped head-mounted display, and automobile
JP5229327B2 (ja) * 2008-09-26 2013-07-03 コニカミノルタアドバンストレイヤー株式会社 映像表示装置、ヘッドマウントディスプレイおよびヘッドアップディスプレイ
US9286709B2 (en) * 2009-07-27 2016-03-15 Dreamworks Animation Llc Variable frame rate rendering and projection
TWI392485B (zh) * 2009-12-03 2013-04-11 Univ Nat Yang Ming 一種具立體視覺之頭盔式弱視輔具裝置及系統
US20110216173A1 (en) * 2010-03-02 2011-09-08 Comcast Cable Communications, Llc Impairments To 3D Experiences
JP5387763B2 (ja) * 2010-05-25 2014-01-15 富士通株式会社 映像処理装置、映像処理方法及び映像処理プログラム
KR20120040947A (ko) * 2010-10-20 2012-04-30 삼성전자주식회사 3차원 디스플레이 장치 및 3차원 영상 처리방법
JP5417356B2 (ja) * 2011-02-08 2014-02-12 株式会社東芝 映像処理装置、映像処理方法および立体映像表示装置
JP5874176B2 (ja) 2011-03-06 2016-03-02 ソニー株式会社 表示装置、並びに中継装置
JP6144681B2 (ja) * 2011-08-30 2017-06-07 マイクロソフト テクノロジー ライセンシング,エルエルシー 虹彩スキャン・プロファイリング機能を有する頭部装着ディスプレイ
US8223024B1 (en) 2011-09-21 2012-07-17 Google Inc. Locking mechanism based on unnatural movement of head-mounted display
JP6128113B2 (ja) * 2012-02-22 2017-05-24 ソニー株式会社 表示装置、画像処理装置及び画像処理方法、並びにコンピューター・プログラム
US9069166B2 (en) 2012-02-29 2015-06-30 Recon Instruments Inc. Gaze detecting heads-up display systems
US9001005B2 (en) 2012-02-29 2015-04-07 Recon Instruments Inc. Modular heads-up display systems
US8947323B1 (en) 2012-03-20 2015-02-03 Hayes Solos Raffle Content display methods
WO2014034972A1 (ko) * 2012-08-28 2014-03-06 Oh Injeong 시력교정용 입체영상표시장치 및 시력교정용 입체영상표시 프로그램을 기록한 기록매체
JP6036209B2 (ja) * 2012-11-19 2016-11-30 セイコーエプソン株式会社 虚像表示装置
JP2014126753A (ja) * 2012-12-27 2014-07-07 Seiko Epson Corp ヘッドマウントディスプレイ
WO2014112393A1 (ja) * 2013-01-21 2014-07-24 パナソニック株式会社 測定装置および測定方法
US20140268360A1 (en) * 2013-03-14 2014-09-18 Valve Corporation Head-mounted display
US9658453B1 (en) * 2013-04-29 2017-05-23 Google Inc. Head-mounted display including diffractive combiner to integrate a display and a sensor
GB201310360D0 (en) * 2013-06-11 2013-07-24 Sony Comp Entertainment Europe Head-Mountable apparatus and systems
KR20150006957A (ko) * 2013-07-09 2015-01-20 한국전자통신연구원 3d 비디오 스트리밍 서비스 제공 방법 및 그 장치
JP2015022206A (ja) * 2013-07-22 2015-02-02 船井電機株式会社 振動ミラー素子および距離計測装置
JP6353214B2 (ja) 2013-11-11 2018-07-04 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置および画像生成方法
CN107219628B (zh) * 2013-11-27 2020-05-01 奇跃公司 虚拟和增强现实系统与方法
CN104715601A (zh) * 2013-12-13 2015-06-17 吴建平 智能交通眼镜及基于该眼镜的工作方法
US9761051B2 (en) * 2013-12-26 2017-09-12 Empire Technology Development Llc Out-of focus micromirror to display augmented reality images
JP6278769B2 (ja) * 2014-03-19 2018-02-14 矢崎総業株式会社 車両用表示装置
US9946361B2 (en) 2014-08-14 2018-04-17 Qualcomm Incorporated Management for wearable display
KR102194787B1 (ko) * 2014-09-24 2020-12-24 삼성전자주식회사 사용자 기반 센서 정보 획득 방법 및 그 전자 장치
US10108832B2 (en) * 2014-12-30 2018-10-23 Hand Held Products, Inc. Augmented reality vision barcode scanning system and method
KR102274743B1 (ko) * 2015-01-30 2021-07-08 삼성전자주식회사 전자 장치 및 전자 장치의 화면 영역 처리 방법
JP2016197145A (ja) * 2015-04-02 2016-11-24 株式会社東芝 画像処理装置および画像表示装置
JP6389801B2 (ja) * 2015-05-27 2018-09-12 富士フイルム株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP6662599B2 (ja) 2015-10-05 2020-03-11 ミツミ電機株式会社 表示装置
KR20170054064A (ko) * 2015-11-09 2017-05-17 이민오 매체에 저장된 vr장치 흐림효과 제공 프로그램 및 vr장치 흐림효과 제공 시스템
EP3432069A4 (en) * 2016-03-16 2019-03-06 Ricoh Company, Ltd. SCREEN ELEMENT AND IMAGE DISPLAY DEVICE
JP6598139B2 (ja) * 2016-03-31 2019-10-30 カシオ計算機株式会社 表示制御装置、表示制御方法、及びプログラム
US9726896B2 (en) * 2016-04-21 2017-08-08 Maximilian Ralph Peter von und zu Liechtenstein Virtual monitor display technique for augmented reality environments
US9940858B2 (en) * 2016-05-16 2018-04-10 Unity IPR ApS System and method for assymetric rendering to eyes in augmented reality and virtual reality devices
US10168555B1 (en) * 2016-06-30 2019-01-01 Google Llc Wiring in a head-mountable device
JP6963732B2 (ja) * 2016-09-30 2021-11-10 日本精機株式会社 ヘッドアップディスプレイ装置
JP6217827B2 (ja) * 2016-10-28 2017-10-25 セイコーエプソン株式会社 虚像表示装置
EP3330773B1 (en) * 2016-12-01 2020-06-24 Varjo Technologies Oy Display apparatus and method of displaying using context display and projectors
US20180182272A1 (en) * 2016-12-23 2018-06-28 Intel Corporation Microelectromechanical system over-scanning for pupil distance compensation
JP6870080B2 (ja) * 2017-05-18 2021-05-12 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置、画像表示システム、および画像生成方法
JP6909286B2 (ja) * 2017-05-18 2021-07-28 株式会社ソニー・インタラクティブエンタテインメント 画像生成装置、画像表示システム、および画像生成方法
US10488920B2 (en) * 2017-06-02 2019-11-26 Htc Corporation Immersive headset system and control method thereof
CN107015368B (zh) * 2017-06-05 2020-05-05 东南大学 一种近眼双目显示装置
JP2019066770A (ja) * 2017-10-04 2019-04-25 シャープ株式会社 表示駆動装置および表示装置
CN108076384B (zh) * 2018-01-02 2019-12-06 京东方科技集团股份有限公司 一种基于虚拟现实的图像处理方法、装置、设备和介质
KR20190085368A (ko) * 2018-01-10 2019-07-18 삼성전자주식회사 프로젝터에서 출력된 광을 투명 부재로 전달할 수 있는 광 전달 부재를 포함하는 접이형 웨어러블 전자 장치
EP3765890A4 (en) 2018-03-14 2022-01-12 Magic Leap, Inc. DISPLAY SYSTEMS AND CONTENT CROPPING METHODS TO INCREASE VIEWING COMFORT
US10497295B1 (en) * 2018-03-14 2019-12-03 Facebook Technologies, Llc Near-eye display assembly with adjustable resolution and frame rate
JP7154789B2 (ja) * 2018-03-27 2022-10-18 キヤノン株式会社 表示制御装置、その制御方法、プログラム及び記憶媒体
US10636340B2 (en) * 2018-04-16 2020-04-28 Facebook Technologies, Llc Display with gaze-adaptive resolution enhancement
CN109188803B (zh) * 2018-09-25 2021-11-16 张家港康得新光电材料有限公司 一种3d显示装置及电子设备
WO2020157979A1 (ja) * 2019-02-01 2020-08-06 株式会社ソニー・インタラクティブエンタテインメント ヘッドマウントディスプレイおよび画像表示方法
US11029908B2 (en) * 2019-08-28 2021-06-08 Himax Display, Inc. Head mounted display apparatus
WO2021046242A1 (en) * 2019-09-05 2021-03-11 Dolby Laboratories Licensing Corporation Viewer synchronized illumination sensing
US10989927B2 (en) * 2019-09-19 2021-04-27 Facebook Technologies, Llc Image frame synchronization in a near eye display
US11300784B2 (en) * 2020-02-21 2022-04-12 Fotonation Limited Multi-perspective eye acquisition

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3537167B2 (ja) * 1993-10-18 2004-06-14 オリンパス株式会社 眼球投影型映像表示装置
JPH0961776A (ja) * 1995-08-21 1997-03-07 Matsushita Electric Ind Co Ltd 頭部装着型映像表示装置
JPH09101479A (ja) * 1995-10-04 1997-04-15 Olympus Optical Co Ltd 映像表示装置
JPH10301055A (ja) * 1997-04-25 1998-11-13 Sony Corp 画像表示装置
US6043799A (en) * 1998-02-20 2000-03-28 University Of Washington Virtual retinal display with scanner array for generating multiple exit pupils
US7545571B2 (en) * 2004-09-08 2009-06-09 Concurrent Technologies Corporation Wearable display system

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013254031A (ja) * 2012-06-05 2013-12-19 Denso Corp ヘッドアップディスプレイ装置

Also Published As

Publication number Publication date
JP5222856B2 (ja) 2013-06-26
US20100103077A1 (en) 2010-04-29
US8269692B2 (en) 2012-09-18
WO2009066465A1 (ja) 2009-05-28

Similar Documents

Publication Publication Date Title
JP5222856B2 (ja) 画像表示装置、その表示方法、プログラム、集積回路、眼鏡型ヘッドマウントディスプレイ、自動車、双眼鏡、及び卓上型ディスプレイ
US8246170B2 (en) Display apparatus
AU2018240367B2 (en) Dynamic field of view variable focus display system
CN108474939B (zh) 图像投影系统
US11551602B2 (en) Non-uniform resolution, large field-of-view headworn display
JP5650661B2 (ja) 透過型表示装置
JP2023027369A (ja) 操作可能な中心窩ディスプレイ
US6259565B1 (en) Display apparatus
CN101589328A (zh) 图像显示装置及其显示方法、程序、集成电路、眼镜式头戴式显示器、汽车、双筒望远镜和台式显示器
KR20180039734A (ko) 다중 세그먼트 디스플레이 및 광학 기기들을 갖는 헤드 마운트형 디스플레이 디바이스
CN107111142B (zh) 具有弯曲的微透镜阵列的头戴式成像装置
US20130021226A1 (en) Wearable display devices
JPWO2016038997A1 (ja) 表示装置、表示装置の駆動方法、及び、電子機器
JP2010145718A (ja) 頭部装着型画像表示装置
WO2017145590A1 (ja) 表示装置、表示装置の駆動方法、及び、電子機器
US10775617B2 (en) Eye tracked lens for increased screen resolution
JP7275124B2 (ja) 映像投射システム、映像投射装置、映像表示光回折用光学素子、器具、及び映像投射方法
JP6329792B2 (ja) 表示装置
JP7127415B2 (ja) 虚像表示装置
US20180017800A1 (en) Virtual image display apparatus
US11532603B2 (en) Display panel and head mounted device
JP2004163840A (ja) マイクロレンズ式ディスプレー
JPH05257111A (ja) 映像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110329

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130311

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5222856

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150