JP4455609B2 - 画像表示装置および画像表示方法 - Google Patents

画像表示装置および画像表示方法 Download PDF

Info

Publication number
JP4455609B2
JP4455609B2 JP2007082015A JP2007082015A JP4455609B2 JP 4455609 B2 JP4455609 B2 JP 4455609B2 JP 2007082015 A JP2007082015 A JP 2007082015A JP 2007082015 A JP2007082015 A JP 2007082015A JP 4455609 B2 JP4455609 B2 JP 4455609B2
Authority
JP
Japan
Prior art keywords
image
wide
angle conversion
enlargement ratio
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007082015A
Other languages
English (en)
Other versions
JP2008242048A (ja
Inventor
あいら 堀田
隆 佐々木
治彦 奥村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2007082015A priority Critical patent/JP4455609B2/ja
Priority to US12/043,467 priority patent/US8155388B2/en
Publication of JP2008242048A publication Critical patent/JP2008242048A/ja
Application granted granted Critical
Publication of JP4455609B2 publication Critical patent/JP4455609B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3188Scale or resolution adjustment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • G06T3/047Fisheye or wide-angle transformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2310/00Command of the display device
    • G09G2310/04Partial updating of the display screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0285Improving the quality of display appearance using tables for spatial correction of display data
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0464Positioning
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/02Graphics controller able to handle multiple formats, e.g. input or output formats
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/18Use of a frame buffer in a display terminal, inclusive of the display panel

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Hardware Design (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Description

本発明は,画像表示装置および画像表示方法に関する。
場所によって異なる拡大率で,画像を処理する技術が提案されている(非特許文献1参照)。この技術では,画像の中心領域では拡大率を小さく,画像の周辺領域では拡大率を大きくする。この結果,情報量を増大することなく,視野角を大きくして,臨場感溢れる画像の表示が可能となる。
T. Sasaki, A. Hotta and H. Okumura, "Development of Hyper-realistic Peripheral-visual-field Image Processing Using Distortion Perception Limit of Peripheral Vision", IDW'06, pp1901-1904 (2006)
ここで,発明者らの研究により,画像の全体的動きによって,観察者の臨場感が異なることが判った。例えば,画像の撮影時の撮影装置のズーム操作,パン操作によって,画像が全体的に拡大したり,左右に移動したりする。このような画像の全体的動きが観察者の臨場感に影響を与える。
上記に鑑み,本発明は,画像の全体的動きに対応して処理された画像を表示する画像表示装置および画像表示方法を提供することを目的とする。
本発明の一態様に係る画像表示装置は,表示領域上での位置と画像の拡大率の関係を表わす複数の拡大率特性それぞれに対応する複数の変換テーブルを記憶する記憶部と,画像の全体的動きを判定する判定部と,前記判定の結果に基づいて,前記複数の変換テーブルの何れかを選択する選択部と,前記選択される変換テーブルに基づいて,前記画像を変換する変換部と,を具備することを特徴とする。
本発明の一態様に係る画像表示方法は,画像の全体的動きを判定するステップと,前記判定の結果に基づいて,表示領域上での位置と画像の拡大率の関係を表わす複数の拡大率特性それぞれに対応する複数の変換テーブルの何れかを選択するステップと,前記選択される変換テーブルに基づいて,前記画像を変換するステップと,を具備することを特徴とする。
本発明によれば,画像の全体的動きに対応して処理された画像を表示する画像表示装置および画像表示方法を提供できる。
以下,図面を参照して,本発明の実施の形態を詳細に説明する。
(第1の実施の形態)
図1は,本発明の第1実施形態に係る画像表示装置100を表すブロック図である。
画像表示装置100は,画像蓄積部11,広角変換処理部12,画像メモリ13,14,表示部15,切り替えスイッチ16a,16b,切替制御部17,基礎情報記憶部18,広角変換テーブル作成部19,画像運動判定部21を備える。
画像蓄積部11は,例えば,ハードディスク,半導体メモリ等の記憶装置であり,画像(例えば,動画)情報を蓄積,出力する。
広角変換処理部12は,広角変換テーブルT1〜T4を保持し,これらの広角変換テーブルT1〜T4を切り替えて,画像蓄積部11から出力される画像に広角変換を施す。
広角変換処理部12は,表示領域上での位置と画像の拡大率の関係を表わす複数の拡大率特性それぞれに対応する複数の変換テーブルを記憶する記憶部として機能する。広角変換処理部12は,画像の全体的動きの判定結果に基づいて,複数の変換テーブルの何れかを選択する選択部として機能する。広角変換処理部12は,選択される変換テーブルに基づいて,画像を変換する変換部として機能する。
広角変換テーブルT1〜T4には,後述の式(9)のように,変換前の画素の座標P0(x0,y0)と,変換後の座標P1(x1,y1)とが対応して表される。
広角変換テーブルT1〜T4はそれぞれ,後述の拡大率特性曲線D1〜D4に対応する。画像運動判定部21での判定結果に基づき,広角変換テーブルT1〜T4が切り替えられ,画像メモリ13,14の記憶内容が書き替えられることで,広角変換がなされる。
広角変換処理部12は,式(9)に基づき,画像メモリ13,14上で画像を構成する画素の位置を変更することで,画像を広角変換する。広角変換処理部12は,画像メモリ13,14からデータを読み出し,書き込む。読み出し時のアドレスと,書き込み時のアドレスを制御することで,広角変換が実行される。画像メモリ13,14上でのアドレスは,画素の位置に対応するからである。このように,広角変換は,一種のアドレス変換であり,比較的高速(例えば,リアルタイム)に実行できる。
変換前後の画素の対応関係は必ずしも1対1とは限らない。
画像が拡大される場合には,変換前の単一画素を変換後の複数画素に対応させることが可能となる。画像を拡大するときに,変換前後の画素が1対1だと,変換後の画素間に変換前の画素と対応しない画素が存在することになる。即ち,表示領域Ad上に変換後の画素が点状に配置され(見かけ上,画素の欠落が生じ),観察上好ましくない。
画像が縮小される場合には,変換前の複数画素が変換後の単一画素に対応する可能性がある。表示領域Adの解像度の関係で,画像の縮小に伴い,画素数が減少することが考えられる。但し,変換後の画素数が減少することは画像の解像度が低下することになり好ましくない。後述のように,表示領域Ad上で表示可能な画素の密度(精細度)を充分大きくすることで,解像度の低下を防止できる。
画像メモリ13,14は,画像を記憶するための記憶装置,例えば,半導体メモリであり,変換される画像データを記憶する複数の記憶部として機能する。画像メモリ13,14に記憶される画像が表示部15で表示されることから,画像メモリ13,14の記憶内容を広角変換処理部12が書き替えることで,画像の広角変換がなされる。画像メモリ13,14は,切り替えスイッチ16a,16bで切り替えられ広角変換用,表示用として交互に用いられる。このため,画像メモリ13,14には,現在の画像と1フレーム前の画像が交互に入力される。
表示部15は,画像を表示する表示装置である。表示部15には,直視型の表示装置(例えば,CRT,液晶表示装置,プラズマディスプレイ),投影型の表示装置(例えば,プロジェクタ)の何れでも利用できる。表示部15は,画像メモリ13,14に記憶された広角変換画像を表示する表示領域Adを有する。なお,投影型の表示装置の場合,表示領域Adはいわゆるスクリーンである。
図2は,表示部15の表示領域Adと観察者の視点Peとの関係を表す模式図である。
表示領域Adは,縦横のサイズがそれぞれYY,XX(=2*L0)の比較的大面積で略矩形状の平面領域であり,視線中心Ce(Cx,Cy)が配置される。
観察者の視点Peは,観察者の両目の中間に位置し,観察者の視野の基準となる点であり,表示領域Adから距離D,高さHの位置に配置される。
このとき,表示領域Adに対する観察者の視野角θtotは次の式(1)で表される。
θtot=2*tan−1(L0/D)
=2*tan−1(XX/(2*D)) ……式(1)
ここでは,表示領域Adの左右方向での視野角が表示領域Adの上下方向での視野角より大きいとして,表示領域Adの横方向での大きさXXから視野角θtotを算出している。
表示領域Adの上下方向での視野角が表示領域Adの左右方向での視野角より大きい場合,表示領域Adに対する観察者の視野角θtotは次の式(2)で表される。
θtot=2*tan−1(YY/(2*D)) ……式(2)
視線中心Ceは,表示領域Ad上での観察者の視線の位置(視野の中心)である。視線中心Ceは,表示領域Adと観察者の位置関係によって定まり,観察者の視点Peの正面に配置される。この例では,視線中心Ceを表示領域Adの左右の中心に配置している。表示領域Adの左下隅を原点O(0,0)とすると,次の式(3)の関係が成立する。
Cx=L0=XX/2
Cy=H ……式(3)
ここで,画像の拡大率Dは表示領域Ad上での位置によって異なる。具体的には,視線中心Ceからの距離L,あるいは角度θにより,画像の拡大率Dが変化する。表示領域Ad上での拡大率Dの相違は,広角変換処理部12での広角変換の結果である。
図3は,広角変換処理部12での広角変換処理前後の画像G0,G1を対応して表す模式図である。
画像の中央部分(視線中心Ce近傍)の領域A00,A01では拡大率が低い(例えば,拡大率が1以下)。一方,画像の周辺部分A10,A11では拡大率が高い(例えば,拡大率が1より大きい)。即ち,中央部分では画像の解像度が高く,周辺部では画像が引き伸ばされている。
このように,画像の拡大率が場所によって異なるのは,次の理由に基づく。
人間の視覚の解像度(歪の検知限)は,中心視野では高いが,周辺視野では低い。これを利用することで,簡単な画像処理で,臨場感を高めることができる。即ち,人間の視覚上重要な箇所(視野の中央部)に表示する情報を集中させる(情報の密度,即ち,解像度を高くする)ことで,高い臨場感と効率的な情報の利用とを両立できる。
以上のように画像の中央部分は縮小して表示される。このことが,表示領域Adの中央部分での解像度の劣化の原因となり得る。即ち,表示領域Adでの精細度の限界により,縮小された画像が鮮明に表示されない畏れがある。
ここで,表示部15の表示領域Adの中央部分での精細度の精細度を高くすることで,中央部分での解像度を良好とすることができる。
但し,表示部15の表示領域Adのハードウェア上の解像度そのものは,中央部分と周辺部分とで同一で差し支えない。例えば,画像蓄積部11から出力される画像がNTSC画像であり,表示部15の表示領域Adの解像度がHDTV対応の場合,表示画像自体の解像度よりも表示領域Adでの解像度が水平,垂直ともに約2倍高い。このため,中央部分を1/2に縮小しても(画素の密度を2倍にしても),表示領域Adに2倍の密度の画素を表示可能である。
このように,表示画面の解像度より表示領域Adの解像度が高ければ,表示領域Adの中央部分を縮小すると共に,解像度を高めることができる。この場合,表示領域Adが,視線中心Ceを囲み第1の解像度の第1の領域と,第1の領域を囲み,この第1の解像度より低い第2の解像度の第2の領域に区分できる。
切り替えスイッチ16a,16bは,画像メモリ13,14を広角変換用,表示用として切り替えるためのものである。切り替えスイッチ16aは,画像メモリ13,14の何れを広角変換処理に用いるかを選択するスイッチである。切り替えスイッチ16aによって広角変換処理部12に接続された画像メモリ13,14が広角変換処理の対象となる。切り替えスイッチ16bによって表示部15に接続された画像メモリ13,14が画像表示の対象となる。切り替えスイッチ16a,16bが動作することで,広角変換用および表示用の画像メモリ13,14が切り替えられる。
切替制御部17は,表示(フレーム)切替のタイミングを制御する。切替制御部17は,所定の周期(フレームタイミング)で切り替えスイッチ16a,16bを制御する。なお,この切替の間に,画像メモリ13,14それぞれでの広角変換処理が実行される。
基礎情報記憶部18は,表示領域Adの大きさ(YY,XX),表示領域Adに対する観察者の位置(距離D,高さH)等の広角変換処理の基礎となる情報を記憶する。
広角変換テーブル作成部19は,後述の拡大率特性曲線D1〜D4に基づき,広角変換処理部12での広角変換処理に用いられる広角変換テーブルT1〜T4を作成する。なお,この詳細は後述する。
画像運動判定部21は,画像の動きベクトルを用いて,画像の全体的動きを判定するものであり,画像の全体的動きを判定する判定部として機能する。なお,この判定の詳細は後述する。
画像の全体的動きは,画像の縮小・拡大と画像の移動に区分できる。
画像の拡大,縮小は,撮影対象を撮影装置(カメラ)で光学的に拡大,縮小するズーム(ズームイン,ズームアウト)操作,撮影対象の前後に撮影装置を移動させるドリー操作によって生じる。これらの操作を広義のズーム操作と称することとする。
画像の移動は,カメラの角度を左右に変化させるパン操作,カメラの角度を上下に変化させるチルト操作,カメラを左右に移動させるトラック操作,カメラを上下に移動させるブーム操作,およびこれらの組み合わせによって,生じうる。これらの操作を広義のパン操作と称することとする。
尚,画像の全体的動きは,撮影装置での操作(カメラワーク)によってのみ生じる訳ではなく,撮影後での画像処理等によっても生じうる。
(画像表示装置100の動作)
画像表示装置100の動作を説明する。
図4は,画像表示装置100の動作手順の一例を表すフロー図である。本図のステップS11〜S14,S15〜S16,およびS17はそれぞれ,画像運動判定部21,広角変換処理部12,切替制御部17によって実行される。
(1)動きベクトルの抽出(ステップS11)
画像運動判定部21が,画像蓄積部11から出力される画像信号から,動きベクトルを抽出する。
動きベクトルとは,画像が動画の場合に,基準となるフレーム(動画のある瞬間に相当する画像)からの動きを表すベクトルである。
フレームを比較することで,動きベクトルが抽出される。具体的には、フレームをブロックに区分し、前のフレームとの差分が最も小さくなるブロック間の相対的位置が動きベクトルとなる。
また,多くの画像信号(例えば,MPEG2)は,画像圧縮の関係で,動きベクトルの情報を含むことから,動きベクトルを容易に抽出できる。
(2)画像の全体的動きの検出(ステップS12)
画像運動判定部21が,画像の全体的動きを検出する。画像の動きには,撮影装置での操作(カメラワーク)等に起因する画像の全体的な動きと,画像中の対象物の移動等に起因する画像の部分的な動きの2通りがある。この両者は,フレーム内での動きベクトルのスカラー量が0以外(閾値以上)となっている割合に基づいて区分できる。画像の全体的な動きがあれば動きベクトルのスカラー量が0以外となっている割合が多くなる。このため,動きベクトルが所定の閾値以上となっている動きベクトルの割合を算出し,この割合が基準値より大きければ,画像の全体的な動きがあると判断できる。
(3)画像の全体的動きの区分(ステップS13,S14)
ステップS13で画像の全体的な動きの有無が判断され,この判断結果がYesであれば,画像の全体的動きを区分する。例えば,フレーム内での動きベクトルの平均値を算出する。この平均値が基準値より小さければ画像が全体的に縮小あるいは拡大していると判断する。一方,平均値が基準値以上であれば,画像が全体的に移動していると判断する。
画像が全体的に拡大,縮小している場合,動きベクトルの向きが比較的均一に分布することから,この平均値は0に近くなる。一方,画像が全体的に移動している場合,動きベクトルの向きが揃っていることから,この平均値は移動速度に対応する値となる。
(4)広角変換テーブルの選択(ステップS15)
画像の全体的動きの区分に基づいて,広角変換テーブルT1〜T4が選択される。具体的には次のように広角変換テーブルが選択される。
1)画像の全体的動きが無い場合
広角変換テーブルT1が選択される。広角変換テーブルT1は,拡大率特性曲線D1〜D4中で,拡大率Dの相対距離Lr依存性が最も小さい拡大率特性曲線D1に対応する。この拡大率特性曲線D1は,通常の状態で観察者が気にならない拡大率の限界である許容倍率Eに相当する。
2)画像が全体的に拡大,縮小している場合
広角変換テーブルT2〜T4の何れかが選択される。広角変換テーブルT2〜T4は,拡大率Dの相対距離Lr依存性が比較的大きい拡大率特性曲線D2〜D4に対応する。なお,画像の拡大,縮小の速さに対応して,拡大率Dの相対距離Lr依存性がより大きい拡大率特性曲線の広角変換テーブルを選択することが考えられる。
3)画像が全体的に移動している場合
この場合,観察者の視野角θtotが基準値(例えば,70°)より大きいか否かに応じて広角変換テーブルT1,T2が選択される。視野角θtotが基準値より小さい場合,広角変換テーブルT1が選択される。一方,視野角θtotが基準値以上の場合,広角変換テーブルT2が選択される。
(5)広角変換処理(ステップS16)
選択された広角変換テーブルTに基づき,広角変換処理がなされる。
画像蓄積部11から出力される画像データが広角変換処理部12,画像メモリ13,14に入力される。画像メモリ13,14の一方に最新の画像データが記憶され,他方に1フレーム前の画像データが記憶される。広角変換処理部12は画像メモリ13,14の一方に記憶された最新の画像データを広角変換する。なお,画像メモリ13,14の他方に記憶された1フレーム前の画像データは広角変換済みであり,表示部15で表示される。
(6)表示の切り替え(ステップS17)
切替制御部17が切り替えスイッチ16a,16bを制御することで,画像メモリ13,14での広角変換,表示が切り替えられる。この切り替えは,画像蓄積部11からの新たな画像の出力と対応する。即ち,画像のフレームの更新と広角変換/表示の切り替えが連動することで,画像の連続的な広角変換および表示がなされる。
(広角変換処理の詳細)
以下,広角変換処理の詳細を説明する。
図5は,広角変換処理テーブルの作成手順の一例を表すフロー図である。
(1)変換前の相対的表示位置(相対距離)と拡大率の関係の決定(ステップS21)
図6は,表示領域Ad上での位置(ここでは,視線中心Ceからの相対距離Lr)と拡大率D1〜D4の関係(拡大率特性曲線D1(Lr)〜D4(Lr))を表すグラフである。また,図7〜図10は,これら拡大率特性曲線D1(Lr)〜D4(Lr)それぞれに対応する広角変換テーブルT1〜T4での広角変換の結果を表す模式図である。具体的には,図7〜図10は,拡大率特性曲線D1〜D4それぞれによって,格子パターンを画像処理した結果を表す。
次の式(4)に示すように,この相対距離Lrは,表示領域Adの左右の1/2(L0)を基準に,視線中心Ceからの距離Lが規格化されたものである。
Lr=L/L0 ……式(4)
即ち,相対距離Lr=0,1それぞれが視線中心Ce,表示領域Adの境界(端)に対応する。
図6のグラフ(拡大率特性曲線D1(Lr)〜D4(Lr))は,例えば,次の式(5)で表される。
D1(Lr)=0.8Lr −0.3Lr+1
D2(Lr)=20.8Lr−30.8Lr+16.0Lr−2.2Lr
+1.0
D3(Lr)=39.0Lr−57.3Lr+23.4Lr+2.3Lr
−1.0Lr+1.0
D4(Lr)=10.4Lr−2.1Lr+2.1Lr+0.6Lr+1.0
……式(5)
相対距離Lrの増大に伴って,拡大率Di(Lr)が徐々に増大する(添え字i:整数,i=1〜4)。また,添え字iが増大すると,相対距離Lrに対する拡大率Diの依存性が大きくなる。この結果,例えば,拡大率特性曲線D1,D2はそれぞれ,所定の相対距離に対する第1の拡大率を有する第1の拡大率特性,前記所定の相対距離に対する,前記第1の拡大率より大きい第2の拡大率を有する第2の拡大率特性として位置付けられる。
拡大率特性曲線D1(Lr)はLr=0〜1の全領域で拡大率Dが1.5より小さい。一方,拡大率特性曲線D2(Lr)では,相対距離Lrが0.6程度の点で,拡大率Dが1.5より小さい範囲,大きい範囲が区分される。
ここで,画像の全体的動きによって,周辺拡大率(拡大率特性曲線D(Lr))が観察者の臨場感に与える影響が異なることが,発明者らの研究により判明した。即ち,画像の全体的動きに応じて,拡大率特性曲線D(Lr)を切り替えることで,観察者の臨場感をより向上することが可能である。
図11は,拡大率特性曲線D1〜D4および視野角θtotと,臨場感の評価値との関係を表すグラフである。
ここでは,画像が全体的に拡大される場合(画像が前方向に動く前進運動画像)と,全体的に横に移動する場合(横方向に画像が回転するパン画像)それぞれについて被験者が評価した結果を表している。これら前進運動画像と,パン画像において,画像の拡大率を変えた画像を被験者に提示して,臨場感の変化を評価した。グラフC1〜C4がそれぞれ,前進運動画像での拡大率特性曲線D1〜D4に対応する。グラフS1〜S3がそれぞれ,パン画像での拡大率特性曲線D1〜D3に対応する。
図11に示すように,前進運動画像では,拡大率特性曲線D1〜D4の順に臨場感が向上し(グラフC1〜C4),視野角θtotが30°でも拡大率Dの大きな拡大率特性曲線Dで処理された画像の臨場感が高くなっている。一方,パン画像では視野角θtotが基準値(70°程度)において臨場感が大きな拡大率特性曲線が入れ替わる(グラフS1〜S3)。視野角θtotが基準値より小さければ,拡大率特性曲線D1で臨場感が大きい。視野角θtotが基準値より大きければ,拡大率特性曲線D2で臨場感が大きい。
この結果から,臨場感の高い画像を提供するには,次のように拡大率特性曲線D1〜D4,ひいては広角変換テーブルT1〜T4を切り替えることが好ましいことが判る。
前進運動では,視野角θtotが小さい場合でも,拡大率特性曲線D2〜D4を用いて画像を処理する。パン画像では,視野角θtotが基準値より小さければ拡大率特性曲線D1で,視野角θtotが基準値より大きければ拡大率特性曲線D2〜D4を用いる。
以上の結果は,画像の拡大,および横への移動に対応する。次の理由から,この結果は他の場合に適用することができる。画像が全体的に縮小する場合(画像が後方向に動く後退運動画像)でも,画像が拡大する場合と同様に,画像の周辺領域の動きの大きさに応じて,臨場感が高くなると考えられる。また,画像が上下方向,斜め方向に動く場合も画像の左右方向での動きと同様に考えることができる。
(2)変換前後での距離関係の算出(ステップS22)
拡大率が場所によって異なるので,広角変換後での視線中心Ceからの距離Lactは,相対距離LrでE(Lr)を積分することで算出される。
Lact(Lr)=∫Lr=0 Lr=1[Di(Lr)]dLr
……式(6)
この式(6)は,変換前後での画像の相対距離Lr間の関係を表す。
(3)基礎情報(広角変換基礎情報)の入手(ステップS23)
広角変換処理基礎情報を入手する。広角変換処理基礎情報を以下に示す。
・表示領域Adと観察者との距離D
距離Dの情報は,キーボード等の入力装置により入力することができる。また,距離Dを検知器により検知しても良い。超音波や赤外線を出射してから,観察者に反射されて戻る時間に基づいて,距離Dを検出することができる。
この結果,式(1)〜式(3)により,視線中心Ce(cx,Cy)および視野角θtotが算出される。
(4)変換前後の画素の対応関係の算出(ステップS24)
変換前後の画素の対応関係を算出する。即ち,水平,垂直方向での広角変換テーブルを生成する。
変換前の画素の座標P0(X0,Y0)と変換後の画素の座標P1(X1,Y1)の関係は以下の式(7)で表される。
P1−Ce
=L0*Lact(|P0−Ce|/L0)*(P0−Ce)/|P0−Ce|
|P0−Ce|
=((X0−Cx)+(Y0−Cy)1/2 ……式(7)
この式(7)をX座標,Y座標それぞれで分解すると次の式(8)になる。
X1−Cx
=L0*Lact(|P0−Ce|/L0)*(X0−Cx)/|P0−Ce|
Y1−Cy
=L0*Lact(|P0−Ce|/L0)*(Y0−Cy)/|P0−Ce|
……式(8)
この式(8)は,次のように式(9)で表現できる(i=1〜4)。
X1=Fxi(X0,Y0)
Y1=Fyi(X0,Y0) ……式(9)
この式(9)が広角変換処理テーブルT1〜T4の実体的内容を表す。この広角変換テーブルT1〜T4を切り替えて,画素の座標P0(X0,Y0)を変換することで,変換後の画素の座標P1(X1,Y1)が求められる。広角変換処理テーブルは,式そのもの,式の構成要素間の対応関係を表す表の何れでも良い。
(第2の実施の形態)
図12は,本発明の第2実施形態に係る画像表示装置200を表すブロック図である。
画像蓄積部211は,例えば,ハードディスク,半導体メモリ等の記憶装置であり,画像(例えば,動画)情報を蓄積,出力する。画像蓄積部211に蓄積される画像情報に,撮影情報が含まれる。この撮影情報は,ズーム操作,パン操作等,画像を撮影する撮影装置での操作を表す。
画像運動判定部221は,この撮影情報を用いて,画像の全体的動きを判定する。
その他の点では,画像表示装置200は画像表示装置100と本質的に変わるものではないので,詳細な説明を省略する。
(第3の実施の形態)
図13は,本発明の第2実施形態に係る画像表示装置300を表すブロック図である。
画像表示装置300は,表示装置本体310,プロジェクタ320,湾曲スクリーン330,保持部340で構成される。
表示装置本体310は,第1の実施形態での画像蓄積部11,広角変換処理部12,画像メモリ13,14,切り替えスイッチ16a,16b,切替制御部17,基礎情報記憶部18,広角変換テーブル作成部19,画像運動判定部21と同様の構成要素を含む。即ち,画像表示装置300は,第1の実施形態での画像表示装置100の表示部15に替えて,プロジェクタ320,湾曲スクリーン330,保持部340を採用したものと考えることができる。
プロジェクタ320は,光源321,コリメータレンズ322,表示素子323,および投影レンズ324を有し,湾曲スクリーン330に画像を投影する。
光源321は,表示素子323上の画像を湾曲スクリーン330上に投影する投影光を生成する。
コリメータレンズ322は,光源321から出射する光を平行光に変換する。
表示素子323は,湾曲スクリーン330上に投影する画像を生成する素子,例えば,液晶表示素子である。表示素子323は,画像を表示する画像表示部として機能する。
投影レンズ324は,表示素子323上の画像を湾曲スクリーン330上に投影するための光学素子である。投影レンズ324は,表示された画像を投影する画像投影部として機能する。投影レンズ324として,投影距離が短距離でも広角に投影できるレンズ(例えば,魚眼レンズ)を利用できる。
湾曲スクリーン330は,プロジェクタ320から投影された画像を広い視野角で投影するためのものである。湾曲スクリーン330の表面は正反射方向に散乱光ピークを有する反射特性を持つ散乱面で構成されている。湾曲スクリーン330上に表示領域Adが配置される。
保持部340は,ヘッドギア341,接続部342を有する。ヘッドギア341は,頭部に装着する固定用の部材である。接続部342は,ヘッドギア341とプロジェクタ320とを接続する部材である。図示を省略しているが,湾曲スクリーン330も接続部342によってヘッドギア341に接続されている。即ち,保持部340は,スクリーンおよび画像投影部を利用者に固定する固定部として機能する。
プロジェクタ320から投影光が投影され,湾曲スクリーン330上に画像を形成する。この画像を利用者が視点Peで目視する。
湾曲スクリーン330は,点A,B,視線中心Ceを通る曲面形状を有する。
点A,Bはそれぞれ,湾曲スクリーン330の上端(最上点),下端(最下点)である。
画像表示装置300では,プロジェクタ320を観察者の頭部に搭載し,視距離(視点Peと視線中心Ceの距離)は明視距離(例えば,25cm)に近い。湾曲スクリーン330が観察者に固定されるため,視距離が固定であり,視距離を入力,検出する必要がない。
(その他の実施形態)
本発明の実施形態は上記の実施形態に限られず拡張,変更可能であり,拡張,変更した実施形態も本発明の技術的範囲に含まれる。
例えば,広角変換テーブルTの個数は,4つに限られない,2つ,3つ,あるいは5つ以上とすることができる。
また,広角変換テーブルを段階的に切り替えても良い。例えば,広角変換テーブルT1が選択されていた状態から,広角変換テーブルT3が選択された状態に移行するとき,広角変換テーブルT2を経て,広角変換テーブルT3が選択される。このようにすることで,画像の拡大率の急激な変動を防止し,より自然な画像の提供が可能となる。
この場合,現在選択されている広角変換テーブルを記憶しておき,新たに選択すべき広角変換テーブルと比較する。この比較の結果,新旧の広角変換テーブルが隣接する特性を有すれば,新たに選択すべき広角変換テーブルがそのまま選択される。一方,新旧の広角変換テーブル間の特性の広角変換テーブルが存在すれば,その中間的な特性の広角変換テーブルが選択される。
第1実施形態に係る画像表示装置を表すブロック図である。 表示部の表示領域と観察者の視点との関係を表す模式図である。 広角変換処理部での広角変換処理前後の画像を対応して表す模式図である。 画像表示装置の動作手順の一例を表すフロー図である。 広角変換処理テーブルの作成手順の一例を表すフロー図である。 視線中心Ceからの相対距離Lrと拡大率D1〜D4の関係を表すグラフである。 拡大率特性曲線D1に対応する広角変換テーブルT1での広角変換の結果を表す模式図である。 拡大率特性曲線D2に対応する広角変換テーブルT2での広角変換の結果を表す模式図である。 拡大率特性曲線D3に対応する広角変換テーブルT3での広角変換の結果を表す模式図である。 拡大率特性曲線D4に対応する広角変換テーブルT4での広角変換の結果を表す模式図である。 拡大率特性曲線D1〜D4および視野角θtotと,臨場感の評価値との関係を表すグラフである。 第2実施形態に係る画像表示装置を表すブロック図である。 第3実施形態に係る画像表示装置を表すブロック図である。
符号の説明
100…画像表示装置,11…画像蓄積部,12…広角変換処理部,13,14…画像メモリ,15…表示部,16a,16b…切り替えスイッチ,17…切替制御部,18…基礎情報記憶部,19…広角変換テーブル作成部,21…画像運動判定部

Claims (7)

  1. 表示領域上での位置と画像の拡大率の関係を表わす複数の拡大率特性それぞれに対応する複数の変換テーブルを記憶する記憶部と,
    画像の全体的動きを判定する判定部と,
    前記判定の結果に基づいて,前記複数の変換テーブルの何れかを選択する選択部と,
    前記選択される変換テーブルに基づいて,前記画像を変換する変換部と,
    を具備することを特徴とする画像表示装置。
  2. 前記画像の動きベクトルに基づいて,前記判定部が前記画像の全体的動きを判定する
    ことを特徴とする請求項1記載の画像表示装置。
  3. 前記画像の撮影情報に基づいて,前記判定部が前記画像の全体的の動きを判定する
    ことを特徴とする請求項1記載の画像表示装置。
  4. 前記表示領域に対する観察者の視野角が30°以上である
    ことを特徴とする請求項1記載の画像表示装置。
  5. 前記表示領域が,前記観察者の視線中心を囲み第1の解像度の第1の領域と,前記第1の領域を囲み,この第1の解像度より低い第2の解像度の第2の領域と,を有する
    ことを特徴とする請求項1記載の画像表示装置。
  6. 前記表示領域が非平面である
    ことを特徴とする請求項1記載の画像表示装置。
  7. 画像の全体的動きを判定するステップと,
    前記判定の結果に基づいて,表示領域上での位置と画像の拡大率の関係を表わす複数の拡大率特性それぞれに対応する複数の変換テーブルの何れかを選択するステップと,
    前記選択される変換テーブルに基づいて,前記画像を変換するステップと,
    を具備することを特徴とする画像表示方法。
JP2007082015A 2007-03-27 2007-03-27 画像表示装置および画像表示方法 Expired - Fee Related JP4455609B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007082015A JP4455609B2 (ja) 2007-03-27 2007-03-27 画像表示装置および画像表示方法
US12/043,467 US8155388B2 (en) 2007-03-27 2008-03-06 Image display device and image display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007082015A JP4455609B2 (ja) 2007-03-27 2007-03-27 画像表示装置および画像表示方法

Publications (2)

Publication Number Publication Date
JP2008242048A JP2008242048A (ja) 2008-10-09
JP4455609B2 true JP4455609B2 (ja) 2010-04-21

Family

ID=39794438

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007082015A Expired - Fee Related JP4455609B2 (ja) 2007-03-27 2007-03-27 画像表示装置および画像表示方法

Country Status (2)

Country Link
US (1) US8155388B2 (ja)
JP (1) JP4455609B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4825561B2 (ja) * 2006-03-29 2011-11-30 株式会社東芝 画像表示装置
EP2382772B1 (en) * 2008-12-23 2012-10-03 TP Vision Holding B.V. Image scaling curve generation
JP2011141753A (ja) * 2010-01-07 2011-07-21 Sony Corp 表示制御装置、表示制御方法及び表示制御プログラム
JP6264855B2 (ja) * 2013-11-18 2018-01-24 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法
EP2956814A1 (en) 2013-02-14 2015-12-23 Seiko Epson Corporation Head mounted display and control method for head mounted display
JP2014215604A (ja) 2013-04-30 2014-11-17 ソニー株式会社 画像処理装置および画像処理方法
US9710881B2 (en) * 2014-04-05 2017-07-18 Sony Interactive Entertainment America Llc Varying effective resolution by screen location by altering rasterization parameters
US10412374B2 (en) 2014-04-10 2019-09-10 Sony Corporation Image processing apparatus and image processing method for imaging an image by utilization of a pseudo image
JP6500570B2 (ja) * 2015-04-13 2019-04-17 株式会社ニコン 画像表示装置および画像表示方法
WO2017212804A1 (ja) * 2016-06-08 2017-12-14 シャープ株式会社 映像表示装置、映像表示装置の制御方法、および映像表示装置の制御プログラム
CN108665805B (zh) * 2017-04-01 2020-09-25 北京京东方显示技术有限公司 显示面板、显示装置和虚拟现实设备

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4102196C2 (de) * 1990-01-26 2002-08-01 Olympus Optical Co Abbildungsvorrichtung zum Nachführen eines Objektes
US6188518B1 (en) * 1993-01-22 2001-02-13 Donald Lewis Maunsell Martin Method and apparatus for use in producing three-dimensional imagery
JP4055359B2 (ja) * 2000-12-14 2008-03-05 松下電器産業株式会社 マルチディスプレイシステム
JP4825561B2 (ja) * 2006-03-29 2011-11-30 株式会社東芝 画像表示装置

Also Published As

Publication number Publication date
JP2008242048A (ja) 2008-10-09
US20080240509A1 (en) 2008-10-02
US8155388B2 (en) 2012-04-10

Similar Documents

Publication Publication Date Title
JP4455609B2 (ja) 画像表示装置および画像表示方法
US11049476B2 (en) Minimal-latency tracking and display for matching real and virtual worlds in head-worn displays
CA3018965C (en) Efficient determination of optical flow between images
JP5268271B2 (ja) 画像表示装置および画像表示方法
JP4825561B2 (ja) 画像表示装置
JP4642723B2 (ja) 画像生成装置および画像生成方法
JP5733088B2 (ja) 動画提示装置
JP7182920B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2003091720A (ja) 視点変換装置および視点変換プログラムならびに車両用画像処理装置
CN104954716B (zh) 一种基于多投影成像的穹顶球幕投影成像系统
JP5778177B2 (ja) 画像撮像装置および画像提示システム
CN110870304B (zh) 向用户提供信息以观察多视图内容的方法和装置
US10785471B1 (en) Upsampling content for head-mounted displays
JPH07240945A (ja) 仮想空間生成提示装置
JP2019146155A (ja) 画像処理装置、画像処理方法およびプログラム
JP6166985B2 (ja) 画像生成装置および画像生成プログラム
KR101222153B1 (ko) 어안렌즈를 이용한 증강현실 구현 시스템 및 그 구현 방법
CN110060349B (zh) 一种扩展增强现实头戴式显示设备视场角的方法
KR101222155B1 (ko) 어안렌즈를 이용한 증강현실 구현 시스템 및 그 구현 방법
JP2004032665A (ja) 画像投影システム
EP0757273A1 (en) Combination of several viewing devices with common point of vision
JP2012191380A (ja) カメラ、画像変換装置、及び画像変換方法
KR100805209B1 (ko) 가상카메라를 이용한 투사영상의 조정 방법 및 장치
JP2019045679A (ja) 画像処理装置、該画像処理装置の制御方法、画像表示装置、及びプログラム
US20230351695A1 (en) Information processing apparatus, information processing method, and non-transitory computer-readable storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090326

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100105

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100203

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140212

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees