JP5729915B2 - 多視点映像表示装置、多視点映像表示方法及び記憶媒体 - Google Patents

多視点映像表示装置、多視点映像表示方法及び記憶媒体 Download PDF

Info

Publication number
JP5729915B2
JP5729915B2 JP2010088637A JP2010088637A JP5729915B2 JP 5729915 B2 JP5729915 B2 JP 5729915B2 JP 2010088637 A JP2010088637 A JP 2010088637A JP 2010088637 A JP2010088637 A JP 2010088637A JP 5729915 B2 JP5729915 B2 JP 5729915B2
Authority
JP
Japan
Prior art keywords
viewpoint
viewer
video display
view
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010088637A
Other languages
English (en)
Other versions
JP2011004388A (ja
Inventor
アロン 白
アロン 白
用 柱 鄭
用 柱 鄭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2011004388A publication Critical patent/JP2011004388A/ja
Application granted granted Critical
Publication of JP5729915B2 publication Critical patent/JP5729915B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/27Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/305Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using lenticular lenses, e.g. arrangements of cylindrical lenses
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • GPHYSICS
    • G02OPTICS
    • G02FOPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
    • G02F1/00Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
    • G02F1/01Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour 
    • G02F1/13Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour  based on liquid crystals, e.g. single liquid crystal display cells
    • G02F1/133Constructional arrangements; Operation of liquid crystal cells; Circuit arrangements
    • G02F1/1333Constructional arrangements; Manufacturing methods
    • G02F1/1335Structural association of cells with optical devices, e.g. polarisers or reflectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/349Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking
    • H04N13/351Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking for displaying simultaneously
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/368Image reproducers using viewer tracking for two or more viewers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders

Description

本発明の実施形態は、多視点(Multi−View)映像表示方法及び多視点映像表示装置と関連する技術分野に属する。
多視点映像やステレオ(Stereoscopic)映像などは、2台以上のカメラを用いて撮影した映像を幾何学的に校正し、空間的に処理して生成されることができる。
このような多視点映像などは、多様な視点映像を視聴者に提供する3次元映像処理技術と関連するものであり、同じ3次元場面を2台以上のカメラで取得してより立体感のある画面を提供する技術である。
最近では、多視点映像だけではなく、超多視点(Super Multi−View:SMV)映像や自由視点TV(Free Viewpoint TV:FTV)などに対する多様な研究が進められている。
また、多視点映像などは、単眼(Monocular)映像などのような所定の入力映像と、この入力映像に対する深さマップ(depth map)を用いてレンダリング(rendering)を実行することによって生成されることができる。
このように多視点映像に対する関心が集中するなかで、多視点映像に対する技術水準を一次元高めることができる研究が求められている。
図1は、一般的な多視点映像表示装置を概略的に示す概念図である。
通常、多視点映像表示装置は、図1に示すように、パネル(panel)110およびレンチキュラーシート(lenticular sheet)(またはパララックスバリアー(parallax barrier)120を用いて複数の視点を生成することができる。
多視点映像表示装置が複数の視点を介して映像を出力するため、視聴者は、多様な位置で多視点映像表示装置が出力する映像を鑑賞することができる。
一般的な多視点映像表示装置では、内部に含まれているレンチキュラーシートの光学的な特性により、特定の間隔で視点が繰り返されることができる。
図1は、8個の視点間隔で同じ視点が繰り返される多視点映像表示装置の一例を示す図である。図1に示された例では、視点1から視点8が繰り返されている。図1に示された例のように、視点が特定の間隔で繰り返される場合、視点が繰り返される境界に位置した視聴者は、正確な出力映像を視聴できないことがある。
例えば、多視点映像表示装置が3次元映像を出力し、視点1から視点8の順序に応じて視点1〜視点8上に左側から右側に偏った映像を出力すると仮定しよう。
すなわち、視聴者が視点2と視点3上に位置している場合、視聴者は視点2を介して左視点映像を見るし、視点3を介して右視点映像を見ることによって3次元映像を視聴することができ、視聴者が視点3と視点4上に位置している場合、視聴者は視点3を介して左視点映像を見るし、視点4を介して右視点映像を見ることによって3次元映像を視聴することができると仮定しよう。
このとき、視聴者1(131)は、パネル110とレンチキュラーシート120が生成した視点1〜視点8上に位置しているため、多視点映像表示装置が出力する3次元映像を正常に視聴することができる。
また、視聴者2(132)も、パネル110とレンチキュラーシート120が生成した視点1〜視点8上に位置しているため、多視点映像表示装置が出力する3次元映像を正常に視聴することができる。
しかしながら、視聴者3(133)は、視点8と視点1上に位置しているため、正常な3次元映像を視聴できないことがある。
これと関連して、視聴者3(133)が正常な3次元映像を視聴するためには、視点8から左視点映像が出力されなければならず、視点1から右視点映像が出力されなければならない。
しかしながら、上述したように、視点1から視点8の順序によって左側から右側に偏った映像が出力されると仮定したため、実質的には視点8から右視点映像が出力され、視点1から左視点映像が出力される。
したがって、視聴者3(133)は、正常な3次元映像を視聴できないことがある。
すなわち、視点8から視点1に変わる位置141、142では、視聴者が正常に3次元映像を視聴できないことがある。
このように、一般的な多視点映像表示装置は、視聴者が正常に出力映像を視聴することができないデッドゾーン(Dead Zone)141、142を発生させることがあるため、このようなデッドゾーン141、142の発生を防ぐために、最近は表現可能な視点数を増加させた多視点映像表示装置が登場した。
以下、一般的な多視点映像表示装置に比べて表現可能な視点数が増加した多視点映像表示装置を「ワイド多視点(Wide Multi−View)映像表示装置」と命名することにする。
図2は、ワイド多視点映像表示装置を概略的に示す概念図である。
ワイド多視点映像表示装置は、一般的な映像表示装置と同様、パネル210とレンチキュラーシート220を用いて複数の視点を生成することができる。
ただし、ワイド多視点映像表示装置は、一般的な映像表示装置よりも表現可能な視点数がより多く存在する。
図2の例では、ワイド多視点映像表示装置が24個の視点を生成できるものとして示している。
ワイド多視点映像表示装置が24個の視点を生成することができるため、視聴者は、24個視点のどの位置にいても正常な出力映像を視聴することができる。
例えば、ワイド多視点映像表示装置が24個の視点を介して3次元映像を出力する場合、視聴者1(231)は視点3と視点4を介して3次元映像を視聴することができ、視聴者2(232)は視点11と視点12を介して3次元映像を視聴することができ、視聴者3(233)は視点18と視点19を介して3次元映像を視聴することができる。
しかしながら、このようなワイド多視点映像表示装置は、左右に渡って多数の視点を表示するため、互いに異なる位置に存在する視聴者に同じ映像を提供できないことがある。
例えば、ワイド多視点映像表示装置が視点1〜視点24を介して「自動車」を表示する場合、視聴者1(231)は「自動車」の左側部分のみを見ることがあり、視聴者2(232)は「自動車」の中間部分のみを見ることがあり、視聴者3(233)は「自動車」の右側部分のみを見ることがある可能性が高い。
これは、ワイド多視点映像表示装置が一般的な多視点映像表示装置とは異なり、多数の視点映像を左右方向で出力するためである。
したがって、映画などのように、視聴者に視聴者の位置とは関係なく同じ映像を提供しなければならない場合には、ワイド多視点映像表示装置の利用が困難になることがある。
また、ワイド多視点映像表示装置で利用が可能な映像コンテンツを製作するためには、多視点カメラの台数が一般の多視点映像表示装置の場合よりも多く必要となり、映像コンテンツの大きさも一般的な映像コンテンツの大きさよりも大きいため、広い帯域幅の確保が必要となる。
以上、一般的な多視点映像表示装置とワイド多視点映像表示装置について簡略に説明した。一般的な多視点映像表示装置は、視点が特定の間隔で繰り返され、視聴者が正しい出力映像を見ることができないデッドゾーンを発生させることがある。また、ワイド多視点映像表示装置は、デッドゾーンは発生させないが、視聴者の位置によって視聴者に同じ映像を提供できないことがある。
したがって、多視点映像表示装置でデッドゾーンを排除すると同時に、視聴者の位置とは関係なく同じ映像を提供することができる方案に対する研究が必要である。
これと関連して、本発明の一実施形態に係る多視点映像表示装置および方法は、視聴者の位置を追跡し、追跡された視聴者の位置上に局部的に多視点映像を表示することにより、デッドゾーンの発生を防ぐことができると同時に、視聴者の位置とは関係なく同じ映像を提供できるようにする。
本発明の一実施形態によれば、視聴者の位置を追跡(tracking)し、追跡された視聴者の位置上に局部的に多視点映像を表示することにより、デッドゾーンの発生を防ぐと同時に、視聴者の位置とは関係なく同じ映像を提供することができる多視点映像表示装置および方法を提供する。
本発明の一実施形態に係る多視点映像表示装置は、視聴者の位置を追跡する位置追跡部と、前記位置追跡部の位置追跡結果に基づいて、前記追跡された位置上に局部的(locally)に多視点入力映像を表示する表示部とを備える。
また、本発明の一実施形態に係る多視点映像表示装置の多視点映像表示方法は、位置追跡モジュールを用いて視聴者の位置を追跡するステップと、前記位置追跡モジュールの位置追跡結果に基づいて、前記追跡された位置上に局部的に多視点入力映像を表示するステップとを含む。
本発明の一実施形態に係る多視点映像表示装置および方法は、視聴者の位置を追跡し、追跡された視聴者の位置上に局部的に多視点映像を表示することにより、デッドゾーンの発生を防ぐと同時に、視聴者の位置とは関係なく同じ映像を提供することができる。
一般的な多視点映像表示装置を概略的に示す概念図である。 ワイド多視点映像表示装置を概略的に示す概念図である。 本発明の一実施形態に係る多視点映像表示装置を概略的に示す概念図である。 本発明のさらに他の一実施形態に係る多視点映像表示装置を概略的に示す概念図である。 本発明の一実施形態に係る多視点映像表示装置の構造を示す図である。 本発明の一実施形態に係る多視点映像表示方法を示すフローチャートである。
以下、添付の図面を参照しながら、本発明に係る実施形態を詳細に説明する。しかしながら、本発明が実施形態によって制限または限定されることはない。各図面に提示された同じ参照符号は、同じ部材を示す。
以下では、図3〜6を参照しながら、本発明の一実施形態に係る多視点映像表示装置および方法について詳しく説明する。
図3は、本発明の一実施形態に係る多視点映像表示装置を概略的に示す概念図である。
本発明の一実施形態に係る多視点映像表示装置は、パネル310とレンチキュラーシート320を用いてワイド多視点映像表示装置のように多数の視点を生成することができる。
また、本発明の一実施形態に係る多視点映像表示装置は、視聴者の目を追跡することができる位置追跡モジュール340を備える。
位置追跡モジュール340は、視聴者331、332の目をリアルタイムで追跡して目の位置を識別する。
位置追跡モジュール340が位置追跡を完了すれば、多視点映像表示装置は、位置追跡結果に基づいて、多視点映像表示装置が生成した多数の視点のうちで視聴者331、332の目が位置している視点を介して左視点映像および右視点映像を表示する。
例えば、図3に示すように、視聴者1(331)の左目が視点1〜視点24のうちで視点6上に位置しており、視聴者1(331)の右目が視点1〜視点24うちで視点7上に位置していると仮定しよう。
このとき、位置追跡モジュール340が視聴者1(331)の左目および右目に対する位置追跡を完了すれば、多視点映像表示装置は、位置追跡結果に基づいて、視点6を介して左視点映像を表示し、視点7を介して右視点映像を表示することができる。
これにより、視聴者1(331)は、正確な3次元映像を視聴することができる。
また、視聴者2(332)の場合、視聴者2(332)の左目は視点14上に位置しており、視聴者2(332)の右目は視点15上に位置しているため、多視点映像表示装置は、位置追跡モジュール340の位置追跡結果に基づいて、視点14を介して左視点映像を表示し、視点15を介して右視点映像を表示することができる。
これにより、視聴者2(332)も、正確な3次元映像を視聴することができる。
結局、本発明の一実施形態に係る多視点映像表示装置は、位置追跡モジュール340を介して視聴者331、332の目の位置を追跡し、視聴者331、332の目が位置している視点を介して左視点映像および右視点映像を表示することにより、視聴者331、332の位置によるデッドゾーンの発生を防ぎ、視聴者331、332の位置とは関係なく視聴者331、332に同じ映像を提供することができる。
ただし、本実施形態は、視聴者の目の位置をリアルタイムで追跡しなければならないという点において、精密な位置追跡が必要となる。もし、位置追跡に軽微な誤差が発生する場合には、視聴者に正しい映像を提供できないことがある。
また、本実施形態は、視聴者の位置とは関係なく同じ左視点映像および右視点映像を提供することにより、運動視差(Motion Parallax)が反映されずに視聴者に疲労感を与えることがある。すなわち、視聴者に実質的に1視点を有する3次元映像を提供するため、視聴者が位置移動しても、視聴者は同じ方向から眺める映像が自分についてくるような感覚を受けることがある。
さらに、本実施形態は、視聴者に実質的に多視点映像を提供するものではないため、多視点映像を提供するときの特徴である自動的な深さスケーリング(automatic depth scaling)がなされないことがある。
したがって、本発明の他の一実施形態に係る多視点映像表示装置は、視聴者の頭を追跡し、追跡された位置上に局部的に多視点映像を表示することにより、デッドゾーンの発生を防ぎ、視聴者の位置とは関係なく同じ映像を提供すると同時に位置追跡の誤差を減少させ、運動視差を反映し、自動的な深さスケーリングがなされるようにできる。
以下、図4を参照しながら、本発明の他の一実施形態に係る多視点映像表示装置について詳しく説明する。
図4は、本発明のさらに他の一実施形態に係る多視点映像表示装置を概略的に示す概念図である。
本発明の一実施形態に係る多視点映像表示装置は、パネル410とレンチキュラーシート420を用いて多数の視点を生成することができる。
また、本発明の一実施形態に係る多視点映像表示装置は、視聴者の頭を追跡することができる位置追跡モジュール440を備える。
位置追跡モジュール440は、視聴者431、432の頭をリアルタイムで追跡して頭の位置を識別する。
ここで、位置追跡モジュール440は、視聴者431、432の頭を追跡するため、視聴者431、432の目を追跡する場合よりも位置追跡の誤差を減少させることができる。
位置追跡モジュール440が位置追跡を完了すれば、多視点映像表示装置は、位置追跡結果に基づいて、多視点映像表示装置が生成した多数の視点のうちで視聴者431、432の頭の位置に対応する少なくとも1つの視点と、多視点入力映像を構成する少なくとも1つの視点とを整合(matching)する。
この後、多視点映像表示装置は、視聴者431、432の頭の位置に対応する少なくとも1つの視点を介して多視点入力映像を表示する。
以上のような過程を例を挙げて説明するために、多視点映像表示装置が6個の視点を有する多視点入力映像を出力する場合を仮定する。
視聴者1(431)の頭は、視点1〜視点24のうちで視点4〜視点9上に位置しているため、位置追跡モジュール440が視聴者1(431)の頭の位置に対する追跡を完了すれば、多視点映像表示装置は、位置追跡結果に基づいて、視点4〜視点9と、多視点入力映像を構成する6個の視点とを整合する。
すなわち、視点4には多視点入力映像の視点1が整合され、視点5には多視点入力映像の視点2が整合され、視点6には多視点入力映像の視点3が整合され、視点7には多視点入力映像の視点4が整合され、視点8には多視点入力映像の視点5が整合され、視点9には多視点入力映像の視点6が整合されることができる。
この後、多視点映像表示装置は、多視点入力映像を視点4〜視点9を介して表示する。
これにより、視聴者1(431)は、6個の視点を有する多視点入力映像を視聴することができる。
また、視聴者2(432)の頭は、視点1〜視点24のうちで視点12〜視点17上に位置しているため、位置追跡モジュール440が視聴者2(432)の頭に対する位置追跡を完了すれば、多視点映像表示装置は、位置追跡結果に基づいて、視点12〜視点17と、多視点入力映像を構成する6個の視点とを整合する。
すなわち、視点12には多視点入力映像の視点1が整合され、視点13には多視点入力映像の視点2が整合され、視点14には多視点入力映像の視点3が整合され、視点15には多視点入力映像の視点4が整合され、視点16には多視点入力映像の視点5が整合され、視点17には多視点入力映像の視点6が整合されることができる。
この後、多視点映像表示装置は、多視点入力映像を視点12〜視点17を介して表示する。
これにより、視聴者2(432)も、6個の視点を有する前記多視点入力映像を視聴することができる。
結局、本発明の一実施形態に係る多視点映像表示装置は、視聴者431、432の頭の位置を追跡し、追跡された位置上に局部的に多視点入力映像を表示することにより、視聴者431、432の位置によるデッドゾーンの発生を防ぎ、視聴者431、432に視聴者431、432の位置とは関係なく同じ映像を提供することができる。
このとき、多視点映像表示装置が生成することができる視点の個数は、多視点入力映像を構成する視点の個数よりも多くなければならない。
本発明の一実施形態によれば、位置追跡モジュール440は、視聴者431、432の頭の位置変化量を測定し、位置変化量が所定の閾値を超過する場合に、視聴者431、432の頭の位置が変化したものと判断することができる。
例えば、閾値が5個の視点の個数だけ視聴者431、432が移動したときの位置変化量である場合、視聴者1(431)が視点4〜視点9上の位置から視点6〜視点11上の位置に移動すれば、位置追跡モジュール440は、視聴者1(431)が移動しなかったものと判断することができる。
したがって、この場合に、多視点映像表示装置は、視聴者1(431)が移動する前に多視点入力映像を表示していた視点4〜視点9を介して、引き続き多視点入力映像を表示することができる。
このとき、視聴者1(431)が視点4〜視点9上の位置から視点6〜視点11上の位置に移動しても、多視点映像表示装置が視点4〜視点9を介して多視点入力映像を表示しているため、視聴者1(431)は、視点4〜視点9を介して表示される多視点入力映像を正常に視聴することができる。
すなわち、視聴者1(431)は、視点4〜視点9上の位置で見ることができた多視点入力映像の視点とは異なる視点を介して多視点入力映像を見ることができる。
しかしながら、視聴者1(431)が視点4〜視点9上の位置から視点10〜視点15上の位置に移動する場合、位置追跡モジュール440は、視聴者1(431)が移動したものと判断し、視聴者1(431)の頭の位置を追跡することができる。
したがって、この場合に、多視点映像表示装置は、視点10〜視点15を介して多視点入力映像を表示することができる。
すなわち、視聴者1(431)が視点4〜視点9上の位置から視点10〜視点15上の位置に移動する場合、視聴者1(431)が視点4〜視点9を介して表示される多視点入力映像を見ることができないため、多視点映像表示装置は、視聴者1(431)が移動した視点10〜視点15を介して多視点入力映像を表示することができる。
このように、本発明の一実施形態に係る多視点映像表示装置は、視聴者431、432の頭の位置変化量が軽微な場合には、視聴者431、432の動きを無視することにより、運動視差が反映された多視点入力映像を表示することができる。
もし、多視点映像表示装置が視聴者431、432の頭の位置が変化するたびに視聴者431、432の頭の位置を追跡して新たに多視点入力映像を表示する場合には、図3の実施形態と同様、視聴者431、432に実質的に多視点映像を提供するものとして見ることができず、視聴者431、432に疲労感を与えることがある。
結局、本発明の一実施形態に係る多視点映像表示装置は、視聴者431、432の頭の位置を追跡して局部的に多視点入力映像を表示することにより、図3の実施形態とは異なって精密に視聴者431、432の頭位置を追跡する必要性を減らすことができ、デッドゾーンを防ぐと同時に視聴者431、432に同じ映像を提供することができ、視聴者431、432に多視点映像を提供することによって運動視差が反映されるようにして視聴者431、432の疲労感を減らすことができ、多視点映像を提供するときの特徴である自動的な深さスケーリングがなされるようにできる。
図5は、本発明の一実施形態に係る多視点映像表示装置の構造を示す図である。
図5を参照すれば、本発明の一実施形態に係る多視点映像表示装置510が示されている。
多視点映像表示装置510は、位置追跡部511および表示部512を備える。
位置追跡部511は、視聴者の位置を追跡する。
このとき、位置追跡部511は、視聴者の頭を識別して頭の位置を追跡することができる。
さらに、位置追跡部511は、頭の位置をリアルタイムで追跡することができる。
表示部512は、位置追跡部511の位置追跡結果に基づいて、追跡された位置上に局部的に多視点入力映像を表示する。
このとき、表示部512は、追跡された頭の位置上に多視点入力映像を表示することができる。
このとき、多視点映像表示装置510が表示可能な複数の視点の個数は、多視点入力映像を構成する少なくとも1つの視点の個数を超過することができる。
本発明の一実施形態によれば、表示部512は、視点整合部513を備えることができる。
視点整合部513は、多視点映像表示装置510が表現可能な複数の視点のうちで追跡された頭の位置に対応する少なくとも1つの視点と、多視点入力映像を構成する少なくとも1つの視点とを整合する。
このとき、表示部512は、追跡された頭の位置に対応する少なくとも1つの視点を介して多視点入力映像を表示することができる。
本発明の一実施形態によれば、多視点映像表示装置510は、変化量測定部514と、判断部515と、伝達部516とをさらに備えることができる。
変化量測定部514は、頭の位置が変化する場合、位置追跡部511の位置追跡結果に基づいて頭の位置変化量を測定する。
判断部515は、測定された位置変化量と閾値とを比べ、測定された位置変化量が閾値を超過するか否かを判断する。
伝達部516は、測定された位置変化量が閾値を超過する場合、変化した頭の位置に対する位置追跡部511の位置追跡結果を表示部512に伝達する。
このとき、表示部512は、伝達部516から変化した頭の位置に対する位置追跡結果を受信すれば、変化した頭の位置上に多視点入力映像を表示することができる。
以上、図5を参照しながら、本発明の一実施形態に係る多視点映像表示装置510の構造について説明した。ここで、多視点映像表示装置510に対する具体的な動作は、図3および図4を参照しながら既に詳しく説明したため、これに対するより詳細な説明は省略する。
図6は、本発明の一実施形態に係る多視点映像表示方法を示すフローチャートである。
ステップS610では、位置追跡モジュールを用いて視聴者の位置を追跡する。
このとき、ステップS610では、視聴者の頭を識別して頭の位置を追跡することができる。
ステップS620では、位置追跡モジュールの位置追跡結果に基づいて、追跡された位置上に局部的に多視点入力映像を表示する。
このとき、ステップS620では、追跡された頭の位置上に多視点入力映像を表示することができる。
本発明の一実施形態によれば、ステップS620では、多視点映像表示装置が表現可能な複数の視点のうちで追跡された頭の位置に対応する少なくとも1つの視点と、多視点入力映像を構成する少なくとも1つの視点とを整合するステップを含むことができる。
この後、ステップS620では、追跡された頭の位置に対応する少なくとも1つの視点を介して多視点入力映像を表示するステップをさらに含むことができる。
本発明の一実施形態に係る多視点映像表示方法は、ステップS610の後に頭の位置が変化する場合、位置追跡モジュールの位置追跡結果に基づいて、頭の位置変化量を測定するステップをさらに含むことができる。
この後、測定された位置変化量と閾値とを比べ、測定された位置変化量が閾値を超過するか否かを判断するステップをさらに含むことができる。
このとき、ステップS620では、測定された位置変化量が閾値を超過する場合、変化した頭の位置に対する位置追跡モジュールの位置追跡結果に基づいて、変化した頭の位置上に多視点入力映像を表示することができる。
以上、図6を参照しながら、本発明の一実施形態に係る多視点映像表示方法について説明した。ここで、本発明の一実施形態に係る多視点映像表示方法は、図3〜5を参照しながら説明した多視点映像表示装置の構成と対応することができるため、これに対するより詳細な説明は省略する。
結論的に、本発明の一実施形態に係る多視点映像表示装置および方法は、視聴者の位置を追跡し、追跡された視聴者の位置上に局部的に多視点映像を表示することにより、デッドゾーンの発生を防ぐと同時に、視聴者の位置とは関係なく同じ映像を提供することができる。
なお、本発明に係る実施形態は、コンピュータにより実現される多様な動作を実行するためのプログラム命令を含むコンピュータ読取可能な記録媒体を含む。当該記録媒体は、プログラム命令、データファイル、データ構造などを単独または組み合わせて含むこともでき、記録媒体およびプログラム命令は、本発明の目的のために特別に設計されて構成されたものでもよく、コンピュータソフトウェア分野の技術を有する当業者にとって公知であり使用可能なものであってもよい。コンピュータ読取可能な記録媒体の例としては、ハードディスク、フロッピー(登録商標)ディスク及び磁気テープのような磁気媒体、CD−ROM、DVDのような光記録媒体、フロプティカルディスクのような磁気−光媒体、およびROM、RAM、フラッシュメモリなどのようなプログラム命令を保存して実行するように特別に構成されたハードウェア装置が含まれる。また、記録媒体は、プログラム命令、データ構造などを保存する信号を送信する搬送波を含む光または金属線、導波管などの送信媒体でもある。プログラム命令の例としては、コンパイラによって生成されるような機械語コードだけでなく、インタプリタなどを用いてコンピュータによって実行され得る高級言語コードを含む。前記したハードウェア要素は、本発明の動作を実行するために一以上のソフトウェアモジュールとして作動するように構成することができ、その逆もできる。
上述したように、本発明の好ましい実施形態を参照して説明したが、該当の技術分野において熟練した当業者にとっては、特許請求の範囲に記載された本発明の思想および領域から逸脱しない範囲内で、本発明を多様に修正および変更させることができることを理解することができるであろう。すなわち、本発明の技術的範囲は、特許請求の範囲に基づいて定められ、発明を実施するための最良の形態により制限されるものではない。
510:多視点映像表示装置
511:位置追跡部
512:表示部
513:視点整合部
514:変化量測定部
515:判断部
516:伝達部

Claims (9)

  1. 多視点映像表示装置であって、
    視聴者の頭部を追跡する位置追跡部と、
    前記位置追跡部による追跡結果に基づいて、前記視聴者の頭部の位置に対応する複数の視点である視聴者視点群と、多視点3次元入力映像を形成するように順に並ぶ複数の視点とを整合させ、前記視聴者視点群により前記多視点3次元入力映像表示する表示部であって、当該多視点映像表示装置により表示可能な視点の数は、前記視聴者視点群に属する視点の数より多い表示部と、
    を備える多視点映像表示装置。
  2. 前記表示部は、前記視聴者視点群と、前記多視点3次元入力映像を形成するように順に並ぶ複数の視点とを整合させる視点整合部を備える、請求項に記載の多視点映像表示装置。
  3. 前記頭部の位置が変化する場合、前記位置追跡部による追跡結果に基づいて、前記頭部の位置変化量を測定する変化量測定部と、
    前記測定された位置変化量と閾値とを比較し、前記測定された位置変化量が前記閾値を超過するか否かを判断する判断部と、
    前記測定された位置変化量が前記閾値を超過する場合、前記変化した頭部の位置に関する前記位置追跡部による追跡結果を前記表示部に伝達する伝達部と、
    をさらに備える請求項に記載の多視点映像表示装置。
  4. 前記表示部は、前記変化した頭部の位置に関する追跡結果が前記伝達部から受信された場合に、前記変化した頭部の位置に対応する視聴者視点群により前記多視点3次元入力映像を表示する請求項に記載の多視点映像表示装置。
  5. 前記位置追跡部は、前記頭部の位置をリアルタイムで追跡する請求項に記載の多視点映像表示装置。
  6. 多視点映像表示装置の多視点映像表示方法であって、
    位置追跡モジュールを用いて視聴者の頭部を追跡するステップと、
    前記位置追跡モジュールによる追跡結果に基づいて、前記視聴者の頭部の位置に対応する複数の視点である視聴者視点群と、多視点3次元入力映像を形成するように順に並ぶ複数の視点とを整合させ、前記視聴者視点群により前記多視点3次元入力映像を表示するステップであって、前記多視点映像表示装置により表示可能な視点の数は、前記視聴者視点群に属する視点の数より多い、ステップと、
    を含む多視点映像表示方法。
  7. 前記頭部の位置が変化する場合、前記位置追跡モジュールによる追跡結果に基づいて、前記頭部の位置変化量を測定するステップと、
    前記測定された位置変化量と閾値とを比較し、前記測定された位置変化量が前記閾値を超過するか否かを判断するステップと、
    をさらに含む請求項に記載の多視点映像表示方法。
  8. 前記表示するステップは、前記測定された位置変化量が前記閾値を超過する場合、前記変化した頭部の位置に関する前記位置追跡モジュールによる追跡結果に基づいて、前記変化した頭部の位置の上に前記多視点3次元入力映像を表示する請求項に記載の多視点映像表示方法。
  9. 多視点映像表示装置に多視点映像表示方法を実行させるコンピュータプログラムを記憶した記憶媒体であって、前記多視点映像表示方法は、
    位置追跡モジュールを用いて視聴者の頭部を追跡するステップと、
    前記位置追跡モジュールによる追跡結果に基づいて、前記視聴者の頭部の位置に対応する複数の視点である視聴者視点群と、多視点3次元入力映像を形成するように順に並ぶ複数の視点とを整合させ、前記視聴者視点群により前記多視点3次元入力映像を表示するステップであって前記多視点映像表示装置により表示可能な視点の数は、前記視聴者視点群に属する視点の数より多い、ステップと、
    を含む、記憶媒体。
JP2010088637A 2009-06-16 2010-04-07 多視点映像表示装置、多視点映像表示方法及び記憶媒体 Active JP5729915B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020090053417A KR101615111B1 (ko) 2009-06-16 2009-06-16 다시점 영상 표시 장치 및 방법
KR10-2009-0053417 2009-06-16

Publications (2)

Publication Number Publication Date
JP2011004388A JP2011004388A (ja) 2011-01-06
JP5729915B2 true JP5729915B2 (ja) 2015-06-03

Family

ID=43306103

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010088637A Active JP5729915B2 (ja) 2009-06-16 2010-04-07 多視点映像表示装置、多視点映像表示方法及び記憶媒体

Country Status (3)

Country Link
US (2) US8730307B2 (ja)
JP (1) JP5729915B2 (ja)
KR (1) KR101615111B1 (ja)

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101729556B1 (ko) * 2010-08-09 2017-04-24 엘지전자 주식회사 입체영상 디스플레이 시스템, 입체영상 디스플레이 장치 및 입체영상 디스플레이 방법, 그리고 위치 추적 장치
EP2461238B1 (en) 2010-12-02 2017-06-28 LG Electronics Inc. Image display apparatus including an input device
US20120200676A1 (en) * 2011-02-08 2012-08-09 Microsoft Corporation Three-Dimensional Display with Motion Parallax
JP2012222386A (ja) * 2011-04-04 2012-11-12 Sony Corp 表示制御装置および方法、並びにプログラム
WO2012165132A1 (ja) * 2011-05-27 2012-12-06 株式会社Jvcケンウッド 裸眼立体ディスプレイ装置、視点調整方法、裸眼立体視用映像データ生成方法
JP5849811B2 (ja) * 2011-05-27 2016-02-03 株式会社Jvcケンウッド 裸眼立体視用映像データ生成方法
US9420268B2 (en) * 2011-06-23 2016-08-16 Lg Electronics Inc. Apparatus and method for displaying 3-dimensional image
JP5095851B1 (ja) * 2011-08-31 2012-12-12 株式会社東芝 映像処理装置および映像処理方法
KR101849576B1 (ko) 2011-09-07 2018-04-17 엘지디스플레이 주식회사 입체 영상 표시 장치
CN103096014B (zh) 2011-10-28 2016-03-30 华为技术有限公司 一种视频呈现方法和系统
GB2499426A (en) 2012-02-16 2013-08-21 Dimenco B V Autostereoscopic display device with viewer tracking system
KR101911250B1 (ko) * 2012-03-19 2018-10-24 엘지전자 주식회사 입체영상 처리 장치 및 다시점 영상을 디스플레이하기 위한 스윗 스포트의 위치를 조절하는 방법
CN102780900B (zh) * 2012-08-09 2014-12-10 冠捷显示科技(厦门)有限公司 一种多人多视角立体显示器影像显示方法
CN102802000A (zh) * 2012-08-09 2012-11-28 冠捷显示科技(厦门)有限公司 一种追踪式多视角立体显示器影像质量提升方法
KR101922722B1 (ko) * 2012-08-22 2018-11-27 엘지디스플레이 주식회사 입체영상표시장치
TWI463181B (zh) 2012-09-25 2014-12-01 Au Optronics Corp 三維顯示器系統及其控制方法
US9674510B2 (en) * 2012-11-21 2017-06-06 Elwha Llc Pulsed projection system for 3D video
CN103067728B (zh) * 2013-01-25 2015-12-23 青岛海信电器股份有限公司 一种裸眼3d图像的处理方法及装置
EP2853936A1 (en) * 2013-09-27 2015-04-01 Samsung Electronics Co., Ltd Display apparatus and method
KR102145965B1 (ko) * 2013-11-27 2020-08-19 한국전자통신연구원 다시점 삼차원 디스플레이에서 부분 영상의 운동 시차 제공 방법 및 그 장치
JP2015154091A (ja) * 2014-02-10 2015-08-24 ソニー株式会社 画像処理方法、画像処理装置、及び電子機器
US9843792B2 (en) * 2014-04-02 2017-12-12 Telefonaktiebolaget L M Ericsson (Publ) Multi-view display control
US20150356912A1 (en) * 2014-06-06 2015-12-10 Microsoft Corporation Hybrid Messaging System
CN104147781B (zh) * 2014-07-29 2017-11-07 京东方科技集团股份有限公司 电子装置、电子系统和电子装置控制方法
KR102415502B1 (ko) * 2015-08-07 2022-07-01 삼성전자주식회사 복수의 사용자를 위한 라이트 필드 렌더링 방법 및 장치
ES2907502T3 (es) * 2015-09-05 2022-04-25 Leia Inc Pantalla basada en red de difracción multihaz con seguimiento de la cabeza
US10798371B2 (en) 2015-09-05 2020-10-06 Leia Inc. Multiview display with head tracking
US10373544B1 (en) * 2016-01-29 2019-08-06 Leia, Inc. Transformation from tiled to composite images
US10649128B2 (en) 2016-01-30 2020-05-12 Leia Inc. Multibeam element-based backlight and display using same
CA3007532C (en) 2016-01-30 2021-11-30 Leia Inc. Multibeam element-based backlighting having converging views
EP3316575A1 (en) * 2016-10-31 2018-05-02 Thomson Licensing Method for providing continuous motion parallax effect using an auto-stereoscopic display, corresponding device, computer program product and computer-readable carrier medium
CN109521598B (zh) * 2018-12-13 2021-07-20 昆山龙腾光电股份有限公司 显示面板及显示装置
JP7439097B2 (ja) * 2018-12-27 2024-02-27 レイア、インコーポレイテッド マルチビューディスプレイ、システム、及び動的なカラーサブピクセルの再マッピングを有する方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2857429B2 (ja) * 1989-10-02 1999-02-17 日本放送協会 3次元画像表示装置および方法
JPH09160144A (ja) * 1995-12-12 1997-06-20 Sharp Corp 3次元ディスプレイ装置
JPH09238369A (ja) * 1996-02-29 1997-09-09 Mitsubishi Electric Corp 3次元像表示装置
US6985290B2 (en) * 1999-12-08 2006-01-10 Neurok Llc Visualization of three dimensional images and multi aspect imaging
JP2005175973A (ja) * 2003-12-12 2005-06-30 Canon Inc 立体表示装置
JP4440067B2 (ja) * 2004-10-15 2010-03-24 キヤノン株式会社 立体表示のための画像処理プログラム、画像処理装置および立体表示システム
DE102004059729B3 (de) * 2004-12-11 2006-04-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren zur autostereoskopischen Erzeugung von dreidimensionalen Bildinformationen aus gerasterten Subpixelauszügen und Anordnung zur Verfahrensdurchführung
KR101112735B1 (ko) 2005-04-08 2012-03-13 삼성전자주식회사 하이브리드 위치 추적 시스템을 이용한 입체 디스플레이장치
US20070057911A1 (en) * 2005-09-12 2007-03-15 Sina Fateh System and method for wireless network content conversion for intuitively controlled portable displays
EP1946180B1 (en) * 2005-11-02 2012-12-12 Koninklijke Philips Electronics N.V. Optical system for 3-dimensional display
WO2007144843A2 (en) * 2006-06-16 2007-12-21 Koninklijke Philips Electronics N.V. Multi-view display devices
JP5006587B2 (ja) 2006-07-05 2012-08-22 株式会社エヌ・ティ・ティ・ドコモ 画像提示装置および画像提示方法
JP2008085503A (ja) * 2006-09-26 2008-04-10 Toshiba Corp 三次元画像処理装置、方法、プログラム及び三次元画像表示装置
US8239501B1 (en) * 2008-01-22 2012-08-07 Salesforce.Com, Inc. System, method and computer program product for creating mobile custom views with filtering for tenants of an on-demand database service
US20110037830A1 (en) * 2008-04-24 2011-02-17 Nokia Corporation Plug and play multiplexer for any stereoscopic viewing device
JP5493301B2 (ja) 2008-06-30 2014-05-14 住友化学株式会社 ナトリウム二次電池

Also Published As

Publication number Publication date
JP2011004388A (ja) 2011-01-06
US20100315492A1 (en) 2010-12-16
KR101615111B1 (ko) 2016-04-25
US8730307B2 (en) 2014-05-20
US20140247330A1 (en) 2014-09-04
KR20100135007A (ko) 2010-12-24

Similar Documents

Publication Publication Date Title
JP5729915B2 (ja) 多視点映像表示装置、多視点映像表示方法及び記憶媒体
US8681174B2 (en) High density multi-view image display system and method with active sub-pixel rendering
KR102415502B1 (ko) 복수의 사용자를 위한 라이트 필드 렌더링 방법 및 장치
US9171371B2 (en) Display system and method using hybrid user tracking sensor
US9507165B2 (en) Stereoscopic image generation apparatus, stereoscopic image generation method, and program
CN102497563B (zh) 跟踪式裸眼立体显示控制方法、显示控制装置和显示系统
JP2002049004A (ja) 表示制御装置及び方法
CN102714749B (zh) 立体影像显示装置以及方法
KR101066550B1 (ko) 가상시점 영상 생성방법 및 그 장치
US9477305B2 (en) Stereoscopic image display apparatus and computer-readable recording medium storing program thereon
CN104349155A (zh) 模拟立体图像显示方法及显示设备
KR20160025522A (ko) 위치 감지와 뷰들의 적응 수를 갖는 멀티뷰 3차원 디스플레이 시스템 및 방법
US20140071237A1 (en) Image processing device and method thereof, and program
JP6717576B2 (ja) 映像レンダリング装置及び方法
CN103716612A (zh) 基于显示器的朝向执行图像渲染的图像处理设备和方法
KR100980298B1 (ko) 모델링된 2차원 영상의 3차원 영상 변환 방법
CN108234994B (zh) 一种人眼位置确定方法及装置
KR20110045654A (ko) 크로스톡 없는 사용자 추적 입체 디스플레이 장치 및 방법
Park et al. 48.2: Light field rendering of multi‐view contents for high density light field 3D display
KR20110025020A (ko) 입체 영상 시스템에서 입체 영상 디스플레이 장치 및 방법
TW201304505A (zh) 立體影像處理裝置以及立體影像處理方法
US20130050447A1 (en) Stereoscopic image processing device, stereoscopic image display device, and stereoscopic image processing method
US9269177B2 (en) Method for processing image and apparatus for processing image
JP2001042259A (ja) 医用画像表示装置
KR20160025922A (ko) 영상 처리 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130306

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140121

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140418

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140715

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150407

R150 Certificate of patent or registration of utility model

Ref document number: 5729915

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250