JPWO2013099571A1 - 視差調整装置、画像処理装置、フレームフォーマット - Google Patents

視差調整装置、画像処理装置、フレームフォーマット Download PDF

Info

Publication number
JPWO2013099571A1
JPWO2013099571A1 JP2013551574A JP2013551574A JPWO2013099571A1 JP WO2013099571 A1 JPWO2013099571 A1 JP WO2013099571A1 JP 2013551574 A JP2013551574 A JP 2013551574A JP 2013551574 A JP2013551574 A JP 2013551574A JP WO2013099571 A1 JPWO2013099571 A1 JP WO2013099571A1
Authority
JP
Japan
Prior art keywords
image
parallax adjustment
eye image
metadata
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013551574A
Other languages
English (en)
Inventor
五味 圭三
圭三 五味
孝英 大谷
孝英 大谷
健志 後藤
健志 後藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2013551574A priority Critical patent/JPWO2013099571A1/ja
Publication of JPWO2013099571A1 publication Critical patent/JPWO2013099571A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/31Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8227Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/002Eyestrain reduction by processing stereoscopic signals or controlling stereoscopic devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Library & Information Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)
  • Processing Or Creating Images (AREA)

Abstract

撮像により得られた左眼用画像および右眼用画像の視差調整を行う視差調整部と、前記視差調整に関するメタデータを前記左眼用画像および右眼用画像を含む画像データと関連付けるデータ処理部と、を備える視差調整装置。
【選択図】図6

Description

本開示は、視差調整装置、画像処理装置、フレームフォーマットに関する。
近日、左目用画像(L画像)および右目用画像(R画像)を表示することによりユーザに立体視画像を知覚させることが可能な3D表示装置が流通している。このような3D表示装置により表示された立体視画像では、実世界と輻輳角が同じであっても焦点距離が異なること、また、表示時と撮像記録時の基線長や輻輳角が異なることなどが視覚疲労の要因となる。特に、画像内の一部分が過度に飛び出している場合や、動画表示中に不用意に対象物が飛び出したときのように視差の変化が大きい場合にはユーザの負担が重くなる。
このような観点から、快適な3D表示を行うための技術が研究されている。例えば、特許文献1には、L画像および/またはR画像を水平方向にシフトさせることにより、L画像およびR画像の視差調整を行う視差変換装置が開示されている。具体的には、対象物の知覚位置がスクリーンの手前側である場合、R画像を右に、L画像を左にシフトさせることにより、対象物の知覚位置をスクリーンに近づけることができる。すなわち、飛び出し感を抑えることができる。同様に、対象物の知覚位置がスクリーンの奥側である場合、R画像を左に、L画像を右にシフトさせることにより、対象物の知覚位置をスクリーンに近づけることができる。すなわち、飛び出し感を強調する事ができる。
上記のような3D表示のための記録においては、通常、L画像およびR画像のみが記録され、2D表示用の専用の2D画像が記録されることはほとんどない。このため、2D表示装置は、3D表示のために記録された画像から2D表示を行うために、L画像またはR画像を表示することが一般的である。
特開2011−55022号公報
しかし、上述した視差調整は幾つかの弊害を伴う。例えば、視差調整におけるシフト量は時間軸方向で異なるので、L画像またはR画像のみを2D表示装置で表示すると、静止しているはずの被写体が左右に揺れて(移動して)見え、ユーザにとって不快な2D画像となってしまう。
また、視差調整済みの画像を、視差調整機能を有する3D表示装置で2重に視差調整を行うと、特に1度目と2度目の視差調整アルゴリズムが異なる場合、予期しない画像または不適切な3D画像になるなど、画像が破綻してしまうことが懸念される。また、視差調整前のL画像またはR画像の水平中心位置や、視差調整前のL画像とR画像の位置関係が分からないと、画像処理を適切に行うことが困難である場合も生じ得る。
そこで、本開示では、左眼用画像および右眼用画像の視差調整による弊害を解消するための、新規かつ改良された視差調整装置、画像処理装置、フレームフォーマットを提案する。
本開示によれば、撮像により得られた左眼用画像および右眼用画像の視差調整を行う視差調整部と、前記視差調整に関するメタデータを前記左眼用画像および右眼用画像を含む画像データと関連付けるデータ処理部と、を備える視差調整装置が提供される。
また、本開示によれば、左眼用画像および右眼用画像を含む画像データ、および、前記画像データと関連付けられた、前記左眼用画像および前記右眼用画像に対する視差調整に関するメタデータを取得するデータ取得部と、前記メタデータに基づいて前記左眼用画像または前記右眼用画像の一領域を抽出する画像抽出部と、を備える画像処理装置が提供される。
また、本開示によれば、撮像により得られた左眼用画像および右眼用画像に対する視差調整に関するメタデータ、および、前記左眼用画像および右眼用画像を含む画像データからなる、データフォーマットが提供される。
以上説明したように本開示によれば、左眼用画像および右眼用画像の視差調整による弊害を解消することが可能である。
本開示の実施形態による画像処理システムの構成を示した説明図である。 3D表示の原理を示した説明図である。 快適エリアを示した説明図である。 快適エリアを示した説明図である。 LR画像の均等シフトの概要を示した説明図である。 視差調整が施されたL画像またはR画像に基づく2D表示の具体例を示した説明図である。 本開示の実施形態による撮像装置の構成を示した機能ブロック図である。 視差調整メタデータの構成例を示した説明図である。 視差調整メタデータの構成例を示した説明図である。 視差調整メタデータの構成例を示した説明図である。 視差調整メタデータの変形例を示した説明図である。 本開示の実施形態による撮像装置の動作を示したフローチャートである。 本開示の実施形態による再生装置の構成を示した機能ブロック図である。 本開示の実施形態による表示装置の構成を示した機能ブロック図である。 2D表示のための画像処理を示した説明図である。 再視差調整部による2D表示のための動作を示したフローチャートである。 再視差調整部による3D表示のための動作を示したフローチャートである。 応用例による画像の切り出しを示した説明図である。 応用例による画像の切り出しの具体例を示した説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
また、以下に示す項目順序に従って本開示を説明する。
1.画像処理システムの構成
2.撮像装置の構成および動作
3.再生装置および表示装置の構成
4.2D表示のための画像処理
5.3D表示のための画像処理
6.応用例
7.むすび
<1.画像処理システムの構成>
図1は、本開示の実施形態による画像処理システムの構成を示した説明図である。図1に示したように、本開示の実施形態による画像処理システムは、撮像装置20と、再生装置30と、表示装置40と、を備える。
撮像装置20は、被写体から発せられる光を電気的な画像信号に変換する撮像部を有する。より詳細には、本開示の実施形態による撮像装置20は、図1に示したように、撮像部22Lおよび撮像部22Rを有する。撮像部22Lは、3D表示のためのL画像を取得し、撮像部22Rは、3D表示のためのR画像を取得する。
ここで、本開示の実施形態による撮像装置20は、LR画像の視差を調整し、視差調整に関するメタデータをLR画像と共にエンコードしてデータストリームを生成する。そして、撮像装置20は、視差調整に関するメタデータおよびLR画像を含むデータストリームを記録メディアに記録する。
なお、図1においてはLR画像の視差を調整する視差調整装置の一例として撮像装置20を示しているが、視差調整装置は撮像装置20に限定されない。例えば、視差調整装置は、PC(Personal Computer)、家庭用映像処理装置(DVDレコーダ、ビデオデッキなど)、PDA(Personal Digital Assistants)、家庭用ゲーム機器、家電機器などの情報処理装置であってもよい。また、視差調整装置は、スマートフォン、携帯電話、PHS(Personal Handyphone System)、携帯用音楽再生装置、携帯用映像処理装置、携帯用ゲーム機器などの情報処理装置であってもよい。
再生装置30は、視差調整に関するメタデータおよびLR画像を含むデータストリームが記録された記録メディアからデータストリームを読出し、読み出したデータストリームに基づき、3D表示用または2D表示用の再生処理を行う。そして、再生装置30により得られた再生データは、表示装置40や記録機器に伝送される。
なお、再生装置30がデータストリームを読み出す記録メディアは、再生装置30が内蔵する記録メディアであってもよいし、撮像装置20に設けられた記録メディアであってもよいし、着脱可能な記録メディアであってもよい。
表示装置40は、3D表示機能、および2D表示機能を有する。例えば、表示装置40は、再生装置30から伝送される再生データに基づいて3D表示または2D表示を行うことが可能である。また、表示装置40は、記録メディアに記録されたデータストリームに基づいて3D表示または2D表示を行うことも可能である。
なお、再生装置30および表示装置40は画像処理装置の一例であり、図1においては再生装置30として家庭用映像処理装置を示し、表示装置40としてTV表示装置を示しているが、再生装置30および表示装置40などの画像処理装置はかかる例に限定されない。例えば、画像処理装置は、撮像装置の一例として列挙したような情報処理装置であってもよい。
(3D表示の概略)
ここで、3D表示の概略を説明する。表示装置40にL画像とR画像が表示され、ユーザの左眼にL画像が見え、ユーザの右眼にR画像が見えている時、L画像とR画像の視差に基づきユーザは画像を立体的に知覚することができる。この点について、図2を参照してより具体的に説明する。
図2は、3D表示の原理を示した説明図である。ユーザは、ユーザの右眼とR画像の対象物を結ぶ直線、およびユーザの左眼とL画像の対象物を結ぶ直線の交差位置に対象物が存在するように知覚する。このため、図2に示したように、交差位置が表示装置40の表示面よりも手前側である場合には飛び出し感が得られ、交差位置が表示装置40の表示面よりも奥側である場合には奥行き感が得られる。
このような3D表示では、実世界と輻輳角が同じであっても焦点距離が異なること、また、表示時と撮像記録時の基線長や輻輳角が異なることなどが視覚疲労の要因となる。特に、画像内の一部分が過度に飛び出している場合や、動画表示中に不用意に対象物が飛び出したときのように視差の変化が大きい場合にはユーザの負担が重くなる。
このため、図3Aに示したように、ユーザによる対象物の知覚位置はユーザがLR画像を無理なく融像可能な快適エリア内であることが好ましい。一方、図3Bに示したように、ユーザによる対象物の知覚位置が快適エリアより手前の破綻エリア内である場合にはユーザの負担が重くなり、ユーザによる対象物の知覚位置が快適エリアより奥側である場合には立体感が得られ難い。
このような観点から、快適な3D表示を行うための技術が研究されている。例えば、特開2011−55022号公報には、L画像および/またはR画像を水平方向にシフトさせることにより、L画像およびR画像の視差調整を行う視差変換装置が開示されている。この視差調整は、L画像のみのシフト、R画像のみのシフト、または、L画像およびR画像の均等シフトにより実現される。LR画像の中心軸を移動させないために、LR画像の均等シフトが最も一般的である。以下、図4を参照し、LR画像の均等シフトについて簡単に説明する。
図4は、LR画像の均等シフトの概要を示した説明図である。図4に示したように、調整量>Xである場合、L画像およびR画像が対象物を全体的に奥側に移動させる方向にX/2ずつシフトされる。一方、調整量<Xである場合、L画像およびR画像が対象物を全体的に手前側に移動させる方向にX/2ずつシフトされる。
なお、各LR画像に対する適切な調整量の算出方法は特に限定されないが、例えば特開2011−55022号公報に開示されているような公知の方法により算出可能であるので、ここでの詳細な説明を省略する。
(背景)
上記のような3D表示のための記録においては、通常、L画像およびR画像のみが記録され、2D表示用の専用の2D画像が記録されることはほとんどない。このため、表示装置は、3D表示のために記録された画像から2D表示を行うために、L画像またはR画像を表示することが一般的である。
しかし、上述した視差調整は幾つかの弊害を伴う。例えば、視差調整における調整量は時間軸方向で異なるので、L画像またはR画像のみを表示すると、静止しているはずの被写体が左右に揺れて(移動して)見え、ユーザにとって不快な2D画像となってしまう。以下、図5を参照してこの点について具体的に説明する。
図5は、視差調整が施されたL画像またはR画像に基づく2D表示の具体例を示した説明図である。より詳細には、図5Aは、本来の2D記録による表示の具体例を示し、図5Bは、視差調整が施されたL画像の具体例を示している。
図5Aに示したように、本来の2D記録による表示では、被写体が静止していれば被写体の画角内での位置は固定である。一方、視差調整が施されたL画像では、図5Bに示したように、被写体が静止していても、視差調整により、画角内での被写体の位置が時間軸に従い移動してしまう。具体的には、1番目のL画像の調整量X/2は0であるが、2番目以降のL画像の調整量X/2〜調整量X/2は、−4、−8、−12、−16、−20と変化するので、ユーザにとって不快な2D画像となってしまう。
また、視差調整済みの画像を、視差調整機能を有する表示装置で2重に視差調整を行うと、特に1度目と2度目の視差調整アルゴリズムが異なる場合、予期しない画像または不適切な3D画像になるなど、画像が破綻してしまうことが懸念される。また、視差調整前のL画像またはR画像の水平中心位置や、視差調整前のL画像とR画像の位置関係が分からないと、画像処理を適切に行うことが困難である場合も生じ得る。
そこで、上記事情を一着眼点にして本開示の実施形態を創作するに至った。本開示の実施形態によれば、上述したようなL画像およびR画像の視差調整による弊害を解消することが可能である。以下、このような本開示の実施形態による撮像装置20、再生装置30、および表示装置40について順次詳細に説明する。なお、以下では対象が動画である場合を想定して説明を進めるが、本開示の実施形態は静止画にも適用可能である。
<2.撮像装置の構成および動作>
図6は、本開示の実施形態による撮像装置20の構成を示した機能ブロック図である。図6に示したように、撮像装置20は、撮像部22Lおよび撮像部22Rと、記録メディア28と、画像処理部210Lおよび画像処理部210Rと、視差調整部220と、エンコード処理部230と、記録部240と、3D表示部250と、を備える。
撮像部22は、光を集光する撮影レンズおよびズームレンズなどの撮像光学系24、およびCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子26を備える。撮像光学系24は、被写体から発せられる光を集光して撮像素子26に被写体像を形成し、撮像素子26は、形成された被写体像を電気的な画像信号に変換する。左眼用の撮像部22Lで得られたL画像の画像信号は画像処理部210Lに出力され、右眼用の撮像部22Rで得られたR画像の画像信号は画像処理部210Rに出力される。
画像処理部210は、撮像部22から入力される画像に対し、現像処理、補正処理、解像度変換(スケーリング)処理、ノイズリダクション処理などを施す。画像処理部210Lおよび210Rにより処理されたLR画像ペアは、視差調整部220に出力される。なお、LR画像ペアは、紐付けされているL画像およびR画像の組であり、時分割で送られてもよい。
視差調整部220は、特開2011−55022号公報に記載されているようなアルゴリズムにより、入力されるLR画像ペアのシフト量、すなわち視差調整量を算出する。その後、視差調整部220は、算出した調整量に従ってLR画像の双方またはLR画像の一方を水平方向にシフトさせて切り出す。なお、視差調整部220は、切り出し前画像に存在しない領域がある場合には黒埋めに差し替える、あるいは画像端部をコピーしてもよい。
そして、視差調整部220は、視差調整後のLR画像ペアと、視差調整に関する情報をエンコード処理部230に出力する。なお、視差調整部220は、事前に設定された画像をシフトさせてもよい。また、上記では、視差調整の方法として画像をシフトして切り出す方法を説明したが、視差調整の方法はかかる例に限定されない。
エンコード処理部230は、時間方向に蓄積されたLR画像ペアと、後述の視差調整メタデータが関連付けられるように所定の圧縮フォーマットでエンコードを行い、LR画像ペアおよび視差調整メタデータを含むデータストリームを生成するデータ処理部である。なお、動画圧縮フォーマットの一例としてはAVCHD Ver2.0で作成された「AVCHD 3D」があり、静止画圧縮フォーマットの一例としてはMPO(Multi−Picture Format)形式がある。
記録部240は、エンコード処理部230によって得られたデータストリームを記録メディア28に記録する。なお、記録メディア28は、不揮発性メモリ、磁気ディスク、光ディスク、およびMO(Magneto Optical)ディスクなどの記憶媒体であってもよい。不揮発性メモリとしては、例えば、フラッシュメモリ、SDカード、マイクロSDカード、USBメモリ、EEPROM(Electrically Erasable Programmable Read−Only Memory)、EPROM(Erasable Programmable ROM)があげられる。また、磁気ディスクとしては、ハードディスクおよび円盤型磁性体ディスクなどがあげられる。また、光ディスクとしては、CD(Compact Disc)、DVD(Digital Versatile Disc)およびBD(Blu−Ray Disc(登録商標))などがあげられる。
3D表示部250は、視差調整部220から出力されたLR画像ペアを直接、または、SRAMやDRAMのようなシステム汎用メモリ(図示せず。)に一端保持した後に表示する。
(視差調整メタデータ)
ここで、エンコード処理部230によるエンコードの過程で得られる視差調整メタデータについて詳細に説明する。視差調整メタデータは、視差調整部220によって行われた視差調整の内容を示すデータであり、以下に説明するように、多様な形態で実現され得る。
図7Aは、視差調整メタデータの第1の構成例を示した説明図である。図7Aに示したように、第1の構成例による視差調整メタデータは、視差調整が行われたか否かを示すフラグ1ビットと、L画像側の調整量を示す10ビットと、R画像側の調整量を示す10ビットの計21ビットからなる。
視差調整が行われたか否かは、2種類の状態により表現できるので、視差調整が行われたか否かを示すフラグは1ビットで構成される。また、図7Aに示したように、各画像の調整量を示すために10ビットのデータを配置することにより、−512〜511までを表現することが可能である。なお、調整量は、一般的には2の補数により表現されるが、表現方法は特に限定されず、ストレートバイナリや1の補数などの任意の表現を用いることも可能である。
図7Bは、視差調整メタデータの第2の構成例を示した説明図である。図7Bに示したように、第2の構成例による視差調整メタデータは、視差調整が行われたか否かを示すフラグ1ビットと、視差調整が行われた画像を示す2ビットと、調整量を示す10ビットとの計13ビットからなる。例えば、視差調整が行われた画像を示す2ビットは、調整量をXとすると、以下の内容を示してもよい。
00:Reserved(任意の値を設定可能)
01:L画像をXピクセル移動。R画像はオリジナル。
10:R画像をXピクセル移動。L画像はオリジナル。
11:L画像をX/2ピクセル移動。R画像をX/2ピクセル移動。
このように、視差調整が行われた画像を2ビットで表現することにより、視差調整メタデータのデータ量を抑制することが可能である。
図7Cは、視差調整メタデータの第3の構成例を示した説明図である。図7Cに示したように、第3の構成例による視差調整メタデータは、視差調整が行われたか否かを示すフラグ1ビットと、調整量を示す10ビットの計11ビットからなる。第3の構成例では、最も一般的なLR均等シフトを用いることが暗示的に規定されている場合に利用可能である。例えば、メーカなどで視差調整の方法が単一であり、視差調整の方法を区別する必要が無い場合に有効である。
なお、図7A〜図7Cに示した各用途のビット数は一例に過ぎず、適宜変更可能である。また、視差調整が行われた画像を示すビットや調整量を示すビットの各々は連結されていなくてもよく、メタデータ中に分散して配置されてもよい。また、視差調整が行われない場合、視差調整メタデータ中の調整量を示すためのデータ部分に、他の情報を示すデータが配置されてもよい。以下、この点について図8を参照して説明する。
図8は、視差調整メタデータの変形例を示した説明図である。図8に示したように、変形例による視差調整メタデータは、調整量を示す10ビットと、視差調整の対象画像を示す2ビットと、10ビットのデータ部分が示す調整量の性質を示すフラグ1ビットの計13ビットからなる。
具体的には、フラグ1ビットは、「1」である場合、実際に視差調整が行われたこと、および、10ビットのデータ部分が示す調整量が実際に行われた視差調整での調整量であることを示す。一方、フラグ1ビットは、「0」である場合、視差調整が行われなかったこと、および、10ビットのデータ部分が示す調整量が推奨される視差調整量であることを示す
このように、視差調整が行われない場合に他の情報を示すデータを視差調整メタデータに配置することにより、視差調整メタデータのデータ領域を有効活用することが可能である。
以上、視差調整メタデータの第1の構成例〜第3の構成例、および変形例を説明した。上述した視差調整メタデータは、LR画像ペア(フィールド、フレーム毎)と1対1に関連付けられることが理想的であるが、任意の時間単位のLR画像ペアと関連付けられてもよい。例えば、MPEGフォーマットにおいてはGOP単位で視差調整メタデータが関連付けられてもよい。すなわち、エンコード処理部230により生成されるデータストリームは、任意の画像フォーマットに適合し、視差調整の内容を示す視差調整メタデータが含まれていればよく、圧縮フォーマットは特に限定されない。
また、上記では視差調整メタデータが視差調整の有無を示すフラグ1ビットを含む例を説明したが、視差調整メタデータは視差調整の有無を示すフラグ1ビットを含まなくてもよい。この場合、10ビットのデータ部分の示す調整量が0である場合には視差調整が行われておらず、0以外である場合には視差調整が行われていると判断することが可能である。
(撮像装置の動作)
続いて、図9を参照し、本開示の実施形態による撮像装置20の動作を整理する。
図9は、本開示の実施形態による撮像装置20の動作を示したフローチャートである。なお、図9においては1つのLR画像ペアに対する動作例を示しているが、動画が対象である場合、撮像装置20は図9に示す処理を繰り返してもよいし、一定量のLRペア画像を蓄積してからエンコード処理を行ってもよい。
まず、視差調整部220は、図9に示したように事前の設定内容に従い視差調整を行うか否かを判断する(S504)。そして、視差調整部220は、視差調整を行わないと判断した場合、LR画像ペアの視差を調整せずにそのまま出力する(S508:スルー処理)。
一方、視差調整部220は、視差調整を行う場合、自動視差調整を行うか、手動視差調整を行うかを判断する(S512)。そして、視差調整部220は、手動視差調整を行う場合、別途設定されている調整量でLR画像の視差調整を行う(S516)。
また、視差調整部220は、自動視差調整を行う場合、入力されたLR画像ペアから最適な視差調整量を算出し(S520)、算出した視差調整量でLR画像ペアの視差を調整する(S524)。
S508、S516またはS524における処理の後、視差調整部220は、後段のエンコード処理部230のために、LR画像ペアと、視差調整の内容を示す視差調整メタデータを出力する(S528)。
<3.再生装置および表示装置の構成>
以上、本開示の実施形態による撮像装置20の構成および動作を説明した。続いて、本開示の実施形態による再生装置30および表示装置40の構成を説明する。
(再生装置の構成)
図10は、本開示の実施形態による再生装置30の構成を示した機能ブロック図である。図10に示したように、本開示の実施形態による再生装置30は、読出部310と、デコード処理部320と、再視差調整部330と、通信処理部340と、を備える。
読出部310は、記録メディア28から、視差調整メタデータを含むフォーマットで記録されたデータストリームを読出し、データストリームをデコード処理部320に出力する。
デコード処理部320は、データストリームをL画像、R画像および視差調整メタデータに変換し、L画像、R画像および視差調整メタデータを再視差調整部330に出力する。なお、デコード処理部320は、2D表示のためには、L画像またはR画像の一方と、視差調整メタデータを再視差調整部330に出力してもよい。
再視差調整部330は、別途設定されている動作設定に従い、LR画像ペアを必要に応じて再度視差調整し、視差調整後のLR画像ペアを通信処理部340へ出力する。この再視差調整部330による処理は、出力する画像が2D画像か3D画像かによって異なる。2D画像を出力する場合の処理については「4.2D表示のための画像処理」において説明し、3D画像を出力する場合の処理については「5.3D表示のための画像処理」において詳細に説明する。なお、再視差調整部330は、再視差調整後の視差調整メタデータも通信処理部340へ出力してもよい。
通信処理部340は、再視差調整部330から入力される画像などを無線または有線などの任意の伝送フォーマットに変換し、電波または有線ケーブルなどの伝送媒体を介して表示装置40や記録機器42に送信される。なお、既存の伝送フォーマットとしては、有線ではHDMI、SATA、IEEE1394A/B、USB等であり、無線では、無線LAN(IEEE 802.11)やWiMAX、携帯電話で用いられている各種規格があるが、本実施形態で利用する伝送フォーマットは特に限定されない。
なお、再生装置30は、再視差調整部330で処理されたLR画像ペアに対してさらに画像処理、編集を行うための構成や、LR画像ペアを記録する構成を有してもよい。
(表示装置の構成)
図11は、本開示の実施形態による表示装置40の構成を示した機能ブロック図である。図11に示したように、本開示の実施形態による表示装置40は、読出部410と、通信処理部412と、デコード処理部420と、再視差調整部430と、表示部440と、を備える。
読出部410は、記録メディア28から、視差調整メタデータを含むフォーマットで記録されたデータストリームを読出し、データストリームをデコード処理部320に出力する。通信処理部412は、再生装置30などから無線または有線で送信されたデータストリームを受信し、データストリームをデコード処理部320に出力する。このような読出部410および通信処理部412は、視差調整メタデータを取得するデータ取得部の一例である。
デコード処理部420は、データストリームをL画像、R画像および視差調整メタデータに変換し、L画像、R画像および視差調整メタデータを再視差調整部430に出力する。なお、デコード処理部420は、表示部440が2D表示を行う場合、L画像またはR画像の一方と、視差調整メタデータを再視差調整部430に出力してもよい。
再視差調整部430は、別途設定されている動作設定に従い、LR画像ペアを必要に応じて再度視差調整し、視差調整後のLR画像ペアを表示部440に表示させる。この再視差調整部430による処理は、出力する画像が2D画像か3D画像かによって異なる。2D画像を出力する場合の処理については「4.2D表示のための画像処理」において説明し、3D画像を出力する場合の処理については「5.3D表示のための画像処理」において詳細に説明する。なお、表示装置40が再視差調整部430を有さない場合、デコード処理部420で得られたL画像およびR画像は表示部440に直接出力される。また、本実施形態による再視差調整部430は、既に行われた視差調整がキャンセルされるようにL画像またはR画像を抽出する画像抽出部、あるいは視差調整キャンセル部としても動作する。
表示部440は、再視差調整部430から入力される画像を表示する。例えば、表示部440は、再視差調整部430からL画像およびR画像が入力される場合、L画像およびR画像を用いて3D表示を行う。また、表示部440は、再視差調整部430からL画像またはR画像が入力される場合、L画像またはR画像を用いて2D表示を行う。
<4.2D表示のための画像処理>
以上、本開示の実施形態による再生装置30および表示装置40の構成を説明した。続いて、表示装置40の再視差調整部430により行われる2D表示のための画像処理について詳細に説明する。なお、以下では、LR均等シフトにより視差調整が行われたLR画像ペアで2D表示を行うための処理を説明する。また、表示装置40の再視差調整部430により行われる画像処理は、再生装置30の再視差調整部330による画像処理にも援用可能である。
図12は、2D表示のための画像処理を示した説明図である。単眼の2Dカメラで、静止している被写体を固定された画角で撮影を行う場合、図12Aに示すように、時間軸に関係なく画角内の被写体の位置は固定している。このため、表示装置40などで当該画像を表示した場合、被写体は画像内で静止している。
しかし、撮像装置20のような2眼の3Dカメラで視差調整記録されたLR画像ペアのうちのL画像(R画像であってもよい。)を2D画像として代用する場合、被写体が静止していても、視差調整量Xi(iは、フレームやフィールドに対応する画像番号である。)に応じてL画像はXi/2のシフトが行われている。このため、単にL画像を2D画像として代用すると、図12Bに示すように、静止しているはずの被写体の画角内での位置が時間軸に従い移動してしまう。
本開示の実施形態による再視差調整部430は、このような視差調整による弊害を、以下に説明する処理により改善することが可能である。
視差調整メタデータに記録されている視差調整量は、水平移動量または記録時の切り出し位置のずらし量に等しい。例えば、図12Bの2番目の画像は、調整量X/2=−4ピクセルであるので、記録時の水平座標原点より4ピクセル外側から切り出されている。
そこで、2D表示の場合、記録時の視差調整前の水平座標原点が表示エリアの左上隅になるように処理を行えば、すなわち、視差調整によるシフトをキャンセルすれば、画角内の被写体の位置は固定され、好ましい2D表示を実現できる。なお、視差調整前の水平座標原点が表示エリアの左上隅になる場合、視差調整前の水平座標中心も表示エリアの中心に固定される。
上記の処理のために、再視差調整部430は、視差調整済みのL画像を、図12Cに示すように「−Xi/2」で表現される切り出し開始位置Yiから切り出す。ただし、記録済み画像の水平画素数は例えば1920画素で固定されているので、切り出し開始位置Yiが4ピクセルである場合、切り出し後の画像の水平方向には1916画素しか存在しない。このため、再視差調整部430は、図12Dに示した切り出し後の画像のように、水平画素数1920画素に足りない領域(図面右方)には黒埋めを行い、画像の水平画素数を1920にする。なお、再視差調整部430は、黒埋めでなく、端部の画像コピーにより画像の水平画素数を1920にしてもよい。
図12Bと図12Dの比較から理解されるように、本開示の実施形態によれば、静止している被写体の画角内での位置を固定することが可能となる。なお、説明の便宜上、図12Dでは黒帯を強調しているが、水平画素数1920に対し、実際の視差調整量Xiは最大でプラスマイナス100ピクセル程度、Xi/2は50ピクセル程度であるので、1920画素に対して2%程度の黒帯は2D表示においてほとんど支障はない。
また、上記では視差調整量が負である例を説明したが、視差調整量が正である場合も考え方は同様である。視差調整量が正である場合、記録時の水平座標原点より右側(画像内側)から画像が切り出されているので、左側に黒埋め領域を含む結果となる。
(再視差調整部の動作)
以上、再視差調整部430による2D表示のための画像処理を説明した。続いて、図13を参照し、再視差調整部430による2D表示のための動作を整理する。
図13は、再視差調整部430による2D表示のための動作を示したフローチャートである。なお、図13においては1つのLR画像ペアに対する動作例を示しているが、動画が対象である場合、撮像装置20は図13に示す処理を繰り返してもよい。
まず、再視差調整部430は、図13に示したように、デコードされたメタデータから視差調整メタデータを抽出する(S604)。続いて、再視差調整部430は、視差調整メタデータに基づき、入力されたL画像またはR画像が視差調整済み画像であるか否かを判断する(S608)。そして、再視差調整部430は、入力画像が視差調整されていないと判断した場合、入力画像を加工せずに表示部440に表示させる(S612)。なお、再視差調整部430にLR画像ペアが入力される場合、再視差調整部430は、L画像またはR画像を選択して表示部440に表示させてもよい。
一方、再視差調整部430は、入力画像が視差調整されており、かつ、LR均等シフトにより視差調整されている場合(S616)、視差調整メタデータの示す調整量に基づいて視差調整をキャンセルするための上述した方法により視差を再調整する(S620)。なお、LR画像ペアがLR均等シフト以外の方法により視差調整されている場合、再視差調整部430は、L画像またはR画像のうちで水平シフトされていない側の画像を選択して表示部440に表示させる(S612)。
<5.3D表示のための画像処理>
以上、2D表示のための画像処理について説明した。続いて、図14を参照し、表示装置40の再視差調整部430により行われる3D表示のための画像処理について詳細に説明する。なお、表示装置40の再視差調整部430により行われる画像処理は、再生装置30の再視差調整部330による画像処理にも援用可能である。
図14は、再視差調整部430による3D表示のための動作を示したフローチャートである。なお、図14においては1つのLR画像ペアに対する動作例を示しているが、動画が対象である場合、撮像装置20は図14に示す処理を繰り返してもよい。
まず、再視差調整部430は、図14に示したように、デコードされたメタデータから視差調整メタデータを抽出する(S704)。続いて、再視差調整部430は、別途設定されている動作設定に基づき、再視差調整を行うか否かを判断する(S708)。そして、再視差調整部430は、再視差調整を行わない場合、デコードされたLR画像ペアをそのまま表示部440に出力する(S712)。
一方、再視差調整部430は、視差調整を行うと判断し、かつ、デコードされたLR画像ペアが視差調整されていない場合(S716)、特開2011−55022号公報に記載されているようなアルゴリズムにより、LR画像ペアの視差調整量を算出し、LR画像ペアの視差調整を行う(S720)。
また、再視差調整部430は、視差調整を行うと判断し、かつ、デコードされたLR画像ペアが視差調整されている場合(S716)、2重に視差調整を行っても問題無いか否かを判断する(S724)。そして、再視差調整部430は、例えばメーカーノートなどの別途記録されたメタデータなどに基づいて2重に視差調整を行っても問題無いと判断した場合、特開2011−55022号公報に記載されているようなアルゴリズムにより再視差調整を行う(S720)。
一方、再視差調整部430は、2重に視差調整を行うと問題が生じ得ると判断した場合、別途設定されている動作設定に従い、以下のいずれかの処理を行う(S728)。
a)「4.2D表示のための画像処理」で説明した方法によりLR画像ペアの視差調整をキャンセルする処理を行ってから再度視差調整を行う(S732)。
b)再視差調整を行わず、デコードされたLR画像ペアをそのまま表示部440に出力する(S736)
上記のa)またはb)により、2重の視差調整により予期しない映像、不適切な3D映像が表示されることを回避できる。
<6.応用例>
以上、本開示の実施形態を説明した。上記の「4.2D表示のための画像処理」で説明した画像処理によれば、画像端部に黒帯領域が表示される。そこで、応用例として、画面に黒帯領域が表示されないように2D表示を行うための画像処理を説明する。
一般的に、撮像装置20のような記録装置によって最大視差調整量、すなわちシフト量の幅は固有であるので、視差調整メタデータに最大視差調整量を示すデータも配置されるものとする。また、以下では、L画像(1920×1080)の最大視差調整量がプラスマイナス50ピクセルである例を考える。
図15は、応用例による画像の切り出しを示した説明図である。図15において、黒丸Hは記録時の視差調整前の水平座標原点を示し、白丸は水平座標原点から1920画素の画像を記録する場合の水平座標中心(画角の中心、水平座標原点から960画素)を示す。また、図15においては破線の領域が記録されている画像領域を示し、太線が切り出される画像領域を示す。
具体的には、図15Aでは、L画像に−50ピクセルの視差調整が施されているので、視差調整前の水平座標原点Hより外側(左側)50ピクセルの位置から破線で示される画像領域が存在する。また、図15Bでは、L画像に視差調整が施されていないので、記録時の水平座標原点と破線で示される画像領域の水平端が一致している。また、図15Cでは、L画像に50ピクセルの視差調整が施されているので、視差調整前の水平座標原点Hより内側(右側)50ピクセルの位置から破線で示される画像領域が存在する。
再視差調整部430は、このような破線で示される画像領域内で共通かつ最大の領域を切り出す。ここで、最大視差調整量がプラスマイナス50ピクセルであるから、水平方向では、1920−50×2=1820ピクセルの領域を切り出すことが可能である。すなわち、この領域は、どのように視差調整が施されていても存在している画角範囲であるので、この領域を常に切り出せば、視差調整の影響を受けず、切り出した画像の水平中心を記録時の水平座標中心に保つことが可能となる。
さらに、水平1820画素を切り出す場合、アスペクト比を考慮すると、垂直ライン数は1820×1080/1920=1024である。このため、垂直方向の切り出し範囲は、1080−1024=56ラインを上下均等に割り当てた28ラインずつ画像領域の内側の領域である。
このようなアスペクト比を考慮した画像の切り出し範囲を図15A〜図15Cにおいて実線で示した。図15Aでは、視差調整量Xi/2=−50であるから、水平方向の切り出し開始位置は、視差調整をキャンセルする値(50)+最大視差調整量の絶対値(50)を加算した100ピクセルである。図15Cでは、視差調整量Xi/2=50であるから、水平方向の切り出し開始位置は、視差調整をキャンセルする値(−50)+最大視差調整量の絶対値(50)を加算した0ピクセルである。図15Bでは、視差調整量Xi/2=0であるから、水平方向の切り出し開始位置は、視差調整をキャンセルする値(0)+最大視差調整量の絶対値(50)を加算した50ピクセルである。
なお、再視差調整部430は、視差調整量が他の値であっても同様に、(−1)×視差調整量+最大視差調整量の絶対値を演算することにより水平方向の切り出し開始位置を算出することが可能である。
また、上記では最大視差調整量が左右で同一の値である例を説明したが、最大視差調整量が左右で異なる場合にも同様に処理可能である。例えば、再視差調整部430は、調整量が左最大の場合と右最大の場合で切り出し可能な共通の領域を求め、その領域内で、視差調整前の水平座標中心が切り出し後の画像の水平中心となるように、視差調整前の水平座標中心を基準に左右均等なサイズで切り出しを行ってもよい。
さらに、再視差調整部430は、上記のようにして切り出した画像領域を表示サイズの1920×1080に拡大する拡大処理部としての機能を有する。
例えば、図16Aに示したようにL画像に視差調整が施されている場合、再視差調整部430は、図16Bに示すように、調整量が左最大の場合と右最大の場合で切り出し可能な共通の領域を切り出す。そして、再視差調整部430は、図16Cに示したように、切り出した画像領域を表示サイズに拡大する。
かかる構成により、視差調整前の画像中心と表示時の画像中心が一致するので、視差調整済みのL画像を用いても、黒帯や揺れのない2D表示を実現することができる。
<7.むすび>
以上説明したように、本開示の実施形態によれば、L画像およびR画像の視差調整による弊害を解消することが可能である。例えば、本開示の実施形態によれば、視差調整が施されたL画像またはR画像を用いて2D表示を行う場合に、L画像またはR画像に施された視差調整をキャンセルすることができるので、画像の揺れを抑制することが可能である。また、視差調整の内容を示す視差調整メタデータをLR画像ペアと関連付けることにより、視差調整前のL画像とR画像の位置関係を用いる多様な処理を実現することが可能となる。また、視差調整を行わない場合でも、共通の視差調整メタデータのフォーマットを用いて対応することが可能である。
なお、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記では視差調整メタデータの用途の一例として再視差調整を説明したが、視差調整メタデータの用途は再視差調整に限定されない。視差調整メタデータは、視差調整前のL画像およびR画像の中心位置や水平位置を用いる多様な処理に用いることが可能である。
また、本明細書の撮像装置20、再生装置30、表示装置40の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、撮像装置20、再生装置30、表示装置40の処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、撮像装置20、再生装置30、表示装置40に内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上述した撮像装置20、再生装置30、表示装置40の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
また、以下のような構成も本開示の技術的範囲に属する。
(1)
撮像により得られた左眼用画像および右眼用画像の視差調整を行う視差調整部と、
前記視差調整に関するメタデータを前記左眼用画像および右眼用画像を含む画像データと関連付けるデータ処理部と、
を備える、視差調整装置。
(2)
前記視差調整部は、前記左眼用画像のシフト処理、前記右眼用画像のシフト処理、または、前記左眼用画像および前記右眼用画像の双方のシフト処理により前記視差調整を行う、前記(1)に記載の視差調整装置。
(3)
前記メタデータは、前記視差調整が行われたか否かを示すデータを含む、前記(1)または(2)に記載の視差調整装置。
(4)
前記メタデータは、前記左眼用画像のシフト量、および前記右眼用画像のシフト量を示すデータを含む、前記(3)に記載の視差調整装置。
(5)
前記視差調整が行われない場合、前記メタデータ中のシフト量を示すためのデータ部分は、他の情報を示すデータを含む、前記(4)に記載の視差調整装置。
(6)
前記メタデータは、前記左眼用画像および前記右眼用画像のうちで前記視差調整部により前記視差調整が行われた対象画像を示すデータと、前記対象画像のシフト量を示すデータを含む、前記(2)に記載の視差調整装置。
(7)
前記視差調整部は、前記左眼用画像および前記右眼用画像の双方のシフト処理により前記視差調整を行い、
前記メタデータは、前記視差調整が行われたか否かを示すデータと、前記左眼用画像および前記右眼用画像のシフト量を示すデータを含む、前記(1)に記載の視差調整装置。
(8)
左眼用画像および右眼用画像を含む画像データ、および、前記画像データと関連付けられた、前記左眼用画像および前記右眼用画像に対する視差調整に関するメタデータを取得するデータ取得部と、
前記メタデータに基づいて前記左眼用画像または前記右眼用画像の一領域を抽出する画像抽出部と、
を備える、画像処理装置。
(9)
前記メタデータは、前記左眼用画像および前記右眼用画像に対する前記視差調整が行われたか否かを示すデータを含み、
前記画像抽出部は、前記視差調整が行われたことを前記メタデータが示す場合には前記抽出を行い、前記視差調整が行われなかったことを前記メタデータが示す場合には前記抽出を行わない、前記(8)に記載の画像処理装置。
(10)
前記視差調整は、前記左眼用画像のシフト処理、前記右眼用画像のシフト処理、または、前記左眼用画像および前記右眼用画像の双方のシフト処理を含み、
前記メタデータは、前記左眼用画像のシフト量、および前記右眼用画像のシフト量を示すデータを含み、
前記画像抽出部は、前記左眼用画像または前記右眼用画像から、前記メタデータが示す前記左眼用画像または前記右眼用画像のシフト量に応じた領域を抽出する、前記(8)または(9)に記載の画像処理装置。
(11)
前記視差調整は、前記左眼用画像および前記右眼用画像の双方のシフト処理であり、
前記メタデータは、前記視差調整が行われたか否かを示すデータと、前記左眼用画像および前記右眼用画像のシフト量を示すデータを含み、
前記画像抽出部は、前記左眼用画像または前記右眼用画像から、前記メタデータが示す前記左眼用画像および前記右眼用画像のシフト量に応じた領域を抽出する、前記(8)に記載の画像処理装置。
(12)
前記抽出部は、前記左眼用画像または前記右眼用画像から、前記左眼用画像または前記右眼用画像の水平方向長から前記左眼用画像および前記右眼用画像のシフト量の幅を減じて得られる水平方向長以下の領域を抽出し、
前記画像処理装置は、
前記画像抽出部により抽出された領域を拡大する拡大処理部をさらに備える、前記(10)または(11)に記載の画像処理装置。
(13)
撮像により得られた左眼用画像および右眼用画像に対する視差調整に関するメタデータ、および、前記左眼用画像および右眼用画像を含む画像データからなる、データフォーマット。
(14)
撮像により得られた左眼用画像および右眼用画像の視差調整を行うことと、
前記視差調整に関するメタデータを前記左眼用画像および右眼用画像を含む画像データと関連付けることと、
を含む、視差調整方法。
(15)
左眼用画像および右眼用画像を含む画像データ、および、前記画像データと関連付けられた、前記左眼用画像および前記右眼用画像に対する視差調整に関するメタデータを取得することと、
前記メタデータに基づいて前記左眼用画像または前記右眼用画像の一領域を抽出することと、
を含む、画像処理方法。
(16)
コンピュータを、
撮像により得られた左眼用画像および右眼用画像の視差調整を行う視差調整部と、
前記視差調整に関するメタデータを前記左眼用画像および右眼用画像を含む画像データと関連付けるデータ処理部と、
として機能させるための、プログラム。
(17)
コンピュータを、
左眼用画像および右眼用画像を含む画像データ、および、前記画像データと関連付けられた、前記左眼用画像および前記右眼用画像に対する視差調整に関するメタデータを取得するデータ取得部と、
前記メタデータに基づいて前記左眼用画像または前記右眼用画像の一領域を抽出する画像抽出部と、
として機能させるための、プログラム。
20 撮像装置
22 撮像部
24 撮像光学系
26 撮像素子
28 記録メディア
30 再生装置
40 表示装置
210 画像処理部
220 視差調整部
230 エンコード処理部
240 記録部
250 表示部
310 読出部
320 デコード処理部
330 再視差調整部
340 通信処理部
410 読出部
412 通信処理部
420 デコード処理部
430 再視差調整部
440 表示部

Claims (13)

  1. 撮像により得られた左眼用画像および右眼用画像の視差調整を行う視差調整部と、
    前記視差調整に関するメタデータを前記左眼用画像および右眼用画像を含む画像データと関連付けるデータ処理部と、
    を備える、視差調整装置。
  2. 前記視差調整部は、前記左眼用画像のシフト処理、前記右眼用画像のシフト処理、または、前記左眼用画像および前記右眼用画像の双方のシフト処理により前記視差調整を行う、請求項1に記載の視差調整装置。
  3. 前記メタデータは、前記視差調整が行われたか否かを示すデータを含む、請求項1または2に記載の視差調整装置。
  4. 前記メタデータは、前記左眼用画像のシフト量、および前記右眼用画像のシフト量を示すデータを含む、請求項3に記載の視差調整装置。
  5. 前記視差調整が行われない場合、前記メタデータ中のシフト量を示すためのデータ部分は、他の情報を示すデータを含む、請求項4に記載の視差調整装置。
  6. 前記メタデータは、前記左眼用画像および前記右眼用画像のうちで前記視差調整部により前記視差調整が行われた対象画像を示すデータと、前記対象画像のシフト量を示すデータを含む、請求項2に記載の視差調整装置。
  7. 前記視差調整部は、前記左眼用画像および前記右眼用画像の双方のシフト処理により前記視差調整を行い、
    前記メタデータは、前記視差調整が行われたか否かを示すデータと、前記左眼用画像および前記右眼用画像のシフト量を示すデータを含む、請求項1に記載の視差調整装置。
  8. 左眼用画像および右眼用画像を含む画像データ、および、前記画像データと関連付けられた、前記左眼用画像および前記右眼用画像に対する視差調整に関するメタデータを取得するデータ取得部と、
    前記メタデータに基づいて前記左眼用画像または前記右眼用画像の一領域を抽出する画像抽出部と、
    を備える、画像処理装置。
  9. 前記メタデータは、前記左眼用画像および前記右眼用画像に対する前記視差調整が行われたか否かを示すデータを含み、
    前記画像抽出部は、前記視差調整が行われたことを前記メタデータが示す場合には前記抽出を行い、前記視差調整が行われなかったことを前記メタデータが示す場合には前記抽出を行わない、請求項8に記載の画像処理装置。
  10. 前記視差調整は、前記左眼用画像のシフト処理、前記右眼用画像のシフト処理、または、前記左眼用画像および前記右眼用画像の双方のシフト処理を含み、
    前記メタデータは、前記左眼用画像のシフト量、および前記右眼用画像のシフト量を示すデータを含み、
    前記画像抽出部は、前記左眼用画像または前記右眼用画像から、前記メタデータが示す前記左眼用画像または前記右眼用画像のシフト量に応じた領域を抽出する、請求項8に記載の画像処理装置。
  11. 前記視差調整は、前記左眼用画像および前記右眼用画像の双方のシフト処理であり、
    前記メタデータは、前記視差調整が行われたか否かを示すデータと、前記左眼用画像および前記右眼用画像のシフト量を示すデータを含み、
    前記画像抽出部は、前記左眼用画像または前記右眼用画像から、前記メタデータが示す前記左眼用画像および前記右眼用画像のシフト量に応じた領域を抽出する、請求項8に記載の画像処理装置。
  12. 前記抽出部は、前記左眼用画像または前記右眼用画像から、前記左眼用画像または前記右眼用画像の水平方向長から前記左眼用画像および前記右眼用画像のシフト量の幅を減じて得られる水平方向長以下の領域を抽出し、
    前記画像処理装置は、
    前記画像抽出部により抽出された領域を拡大する拡大処理部をさらに備える、請求項10に記載の画像処理装置。
  13. 撮像により得られた左眼用画像および右眼用画像に対する視差調整に関するメタデータ、および、前記左眼用画像および右眼用画像を含む画像データからなる、データフォーマット。


JP2013551574A 2011-12-28 2012-12-10 視差調整装置、画像処理装置、フレームフォーマット Pending JPWO2013099571A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013551574A JPWO2013099571A1 (ja) 2011-12-28 2012-12-10 視差調整装置、画像処理装置、フレームフォーマット

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011289136 2011-12-28
JP2011289136 2011-12-28
JP2013551574A JPWO2013099571A1 (ja) 2011-12-28 2012-12-10 視差調整装置、画像処理装置、フレームフォーマット

Publications (1)

Publication Number Publication Date
JPWO2013099571A1 true JPWO2013099571A1 (ja) 2015-04-30

Family

ID=48697065

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013551574A Pending JPWO2013099571A1 (ja) 2011-12-28 2012-12-10 視差調整装置、画像処理装置、フレームフォーマット

Country Status (5)

Country Link
US (1) US20150116467A1 (ja)
EP (1) EP2800385A4 (ja)
JP (1) JPWO2013099571A1 (ja)
CN (1) CN104012087A (ja)
WO (1) WO2013099571A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10445867B2 (en) * 2016-07-13 2019-10-15 The Boeing Company System and method for generating enhanced stereographic videos of aircraft build processes
CN109429055B (zh) * 2017-08-24 2021-02-23 阿里巴巴集团控股有限公司 图像展示、视频文件处理方法及装置
CN109729335A (zh) * 2017-10-30 2019-05-07 深圳市易快来科技股份有限公司 一种视差调整的方法、装置及系统
CN108093243A (zh) * 2017-12-31 2018-05-29 深圳超多维科技有限公司 一种立体成像处理方法、装置和立体显示设备

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2332340B1 (en) * 2008-10-10 2015-12-23 Koninklijke Philips N.V. A method of processing parallax information comprised in a signal
TW201119353A (en) * 2009-06-24 2011-06-01 Dolby Lab Licensing Corp Perceptual depth placement for 3D objects
JP5446913B2 (ja) * 2009-06-29 2014-03-19 ソニー株式会社 立体画像データ送信装置および立体画像データ送信方法
JP5430266B2 (ja) * 2009-07-21 2014-02-26 富士フイルム株式会社 画像表示装置および方法並びにプログラム
JP5503438B2 (ja) * 2009-07-21 2014-05-28 富士フイルム株式会社 3次元画像表示装置及び3次元画像表示方法
JP5444955B2 (ja) 2009-08-31 2014-03-19 ソニー株式会社 立体画像表示システム、視差変換装置、視差変換方法およびプログラム
US9066076B2 (en) * 2009-10-30 2015-06-23 Mitsubishi Electric Corporation Video display control method and apparatus
JP5449535B2 (ja) * 2010-04-28 2014-03-19 富士フイルム株式会社 立体撮像装置及びその制御方法

Also Published As

Publication number Publication date
EP2800385A1 (en) 2014-11-05
CN104012087A (zh) 2014-08-27
US20150116467A1 (en) 2015-04-30
EP2800385A4 (en) 2015-11-25
WO2013099571A1 (ja) 2013-07-04

Similar Documents

Publication Publication Date Title
US9716873B2 (en) Image processing device and image processing method
US8447096B2 (en) Method and device for processing a depth-map
EP2717254A1 (en) Content processing apparatus for processing high resolution content and content processing method thereof
US9235749B2 (en) Image processing device and image processing method
US9661301B2 (en) Image processing device and image processing method
US9961297B2 (en) Method and system of rotation of video frames for displaying a video
WO2013031575A1 (ja) 画像処理装置および画像処理方法
MX2013010423A (es) Aparato de procesamiento de imagenes y metodo de procesamiento de imagenes.
JP2012083412A (ja) 画像処理装置、画像処理方法、およびプログラム
WO2013115024A1 (ja) 画像処理装置および画像処理方法
US20180343437A1 (en) Encoding device and encoding method, and decoding device and decoding method
US20130335525A1 (en) Image processing device and image processing method
WO2013099571A1 (ja) 視差調整装置、画像処理装置、フレームフォーマット
JP2012182785A (ja) 映像再生装置および映像再生方法
US9900595B2 (en) Encoding device, encoding method, decoding device, and decoding method
EP2485494A1 (en) Method and system for utilizing depth information as an enhancement layer
KR101386810B1 (ko) 3차원 영상을 판별하기 위한 장치 및 방법
JP5878295B2 (ja) 画像処理装置、画像処理方法およびプログラム
WO2013108307A1 (ja) 映像処理装置および映像処理方法
EP2685730A1 (en) Playback device, playback method, and program
EP2485493A2 (en) Method and system for error protection of 3D video
KR101150863B1 (ko) 3d 동영상 디스플레이 제어방법 및 장치
JP2012089962A (ja) 映像再生装置、映像再生方法
JP2015220504A (ja) 画像処理装置および画像処理方法
JP2013021554A (ja) 動画ディスプレー制御方法及び装置