JP5049416B2 - 画像ファイル生成装置、画像ファイル再生装置及び画像ファイル生成方法 - Google Patents

画像ファイル生成装置、画像ファイル再生装置及び画像ファイル生成方法 Download PDF

Info

Publication number
JP5049416B2
JP5049416B2 JP2012521815A JP2012521815A JP5049416B2 JP 5049416 B2 JP5049416 B2 JP 5049416B2 JP 2012521815 A JP2012521815 A JP 2012521815A JP 2012521815 A JP2012521815 A JP 2012521815A JP 5049416 B2 JP5049416 B2 JP 5049416B2
Authority
JP
Japan
Prior art keywords
information
parallax
unit
image
image file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012521815A
Other languages
English (en)
Other versions
JPWO2012098862A1 (ja
Inventor
賢治郎 津田
純幸 沖本
孝好 古山
達郎 重里
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2012521815A priority Critical patent/JP5049416B2/ja
Application granted granted Critical
Publication of JP5049416B2 publication Critical patent/JP5049416B2/ja
Publication of JPWO2012098862A1 publication Critical patent/JPWO2012098862A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8227Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Description

本発明は、立体視を可能とする立体画像データを生成可能な画像生成装置及び立体画像を表示可能な画像再生装置に関する。
特許文献1は、複数の視点に対応した複数の画像で構成される立体画像を視差調整した後に記録する立体画像記録装置を開示する。
この立体画像記録装置は、立体画像を記録する際、立体画像とともに、立体画像の視差調整に関する情報である調整情報を記録する。この調整情報は、ディスプレイに依存しない物理的な長さを示す単位に変換した後、記録される。
この調整情報を用いることにより、この立体画像記録装置に記録された立体画像は、ディスプレイに依存することなく、最初に視差調整を行ったユーザの意図に合った視差量調整を行うことが可能となる。
特開2005−73012号公報
前述のように、特許文献1に示す立体画像記録装置は、立体画像を構成する複数の画像と、当該立体画像の視差調整に関する調整情報とを記録することができる。
しかし、特許文献1は、調整情報として、画面全体についてのシフト量を示す情報を記録するため、シーンの構図や被写体の配置とは関係なく、画面全体の視差が調整されてしまい、使用者の意図に応じて立体画像を再現できないという課題があった。
本発明は、シーンの構図や被写体の配置に応じて視差調整を可能とし、使用者の意図に応じた立体画像の再現を可能とする画像ファイル生成装置や画像ファイル再生装置を提供することを目的とする。
本発明の第1の態様において、画像ファイル生成装置が提供される。画像ファイル生成装置は、立体視を可能とする立体画像のデータを取得する画像取得部と、立体画像の全領域を複数の領域に分割した分割領域毎に視差情報を取得する視差情報取得部と、画像取得部が取得した立体画像のデータを格納するデータ部と、データ部に格納される立体画像のデータに関する管理データを格納するヘッダ部とを有する画像ファイルを生成するファイル生成部とを備える。ファイル生成部は、画像ファイルのヘッダ部に、分割領域毎の視差情報及び分割領域の分割方法に関する情報を格納する。
本発明の第2の態様において、立体視を可能とする立体画像データの再生が可能な画像ファイル再生装置が提供される。画像ファイル再生装置は、立体視を可能とする立体画像データを含む画像ファイルを格納する記録媒体から画像ファイルを読み出すファイル読み出し部と、画像ファイルを解析する解析部と、立体画像が表示される表示画面に垂直な方向におけるオブジェクトの表示位置を規定する視差情報を格納する記憶部と、を備える。画像ファイルは、立体画像データを格納するデータ部と、データ部に格納される立体画像データに関する管理データを格納するヘッダ部とを有する。画像ファイルのヘッダ部は、立体画像の全領域を複数の領域に分割した分割領域毎の視差情報と、分割領域の分割方法に関する情報とを格納する。解析部は、ヘッダ部から、分割方法に関する情報と、分割領域毎の視差情報とを読み出し、読み出した分割方法に関する情報に基づき確保された記憶部の記憶領域に、読み出した視差情報を記憶する。
本発明の第3の態様において画像ファイルの生成方法が提供される。画像ファイルの生成方法は、立体視を可能とする立体画像のデータを取得し、立体画像の全領域を複数の領域に分割した分割領域毎に、立体画像が表示される表示画面に垂直な方向におけるオブジェクトの表示位置を規定する視差情報を取得し、取得した立体画像のデータを格納するデータ部と、データ部に格納される立体画像のデータに関する管理データを格納するヘッダ部とを有する画像ファイルを生成し、ヘッダ部に、分割領域毎の視差情報及び分割領域の分割方法に関する情報を格納する。
本発明の画像ファイル生成装置によれば、画像ファイルを再生装置において再生する際に、画像ファイルのヘッダ部を解析するだけで、画像の所定の部分領域毎に視差情報を取得することができる。これにより、画像の部分領域毎の視差調整が可能となり、シーンの構図や被写体の配置に応じて視差調整を可能とし、使用者の意図に応じた立体画像の再現を可能となる。
本実施形態の画像ファイル生成装置の構成図 画像領域の分割を説明した図 被写体が画面から飛び出して視認されるときの視差および被写体が画面から引っ込んで視認されるときの視差を説明した図 本実施形態における主要被写体を含む領域を示す情報を説明するための図 視差条件を説明するための図 本実施形態で生成される画像ファイルのデータ構造を説明した図 本実施形態で生成される立体画像に関する管理情報のデータ構造を説明した図 主要被写体の判定結果を示す情報を含む、立体画像に関する管理情報のデータ構造の例を説明した図 主要被写体の判定結果を示す情報を含む、立体画像に関する管理情報のデータ構造の別の例を説明した図 本実施形態の画像ファイル再生装置の構成図
以下、図面を参照しながら本発明の実施形態について説明する。
1.画像ファイル生成装置
図1は、本実施形態の画像ファイル生成装置の構成を示す図である。画像ファイル生成装置10としては、立体映像を生成可能なデジタルカメラ、デジタルムービーなどが想定される。要するに、画像ファイル生成装置10は、立体映像を構成する複数の画像を生成可能な装置であれば、どのような構成の装置でも構わない。なお、本実施形態では、立体映像は、異なる2つの視点(第1視点及び第2視点)で撮影された2つの画像(第1視点画像及び第2視点画像)で構成されるとする。
図1に示すように、画像ファイル生成装置10は、第1視点画像取得部101、第2視点画像取得部102、画像分割部103、視差解析部104、撮影制御部105、映像処理部106、ファイル生成部107、及びファイル記録部108で構成される。
第1視点画像取得部101は、撮影制御部105からの制御に基づいて、ズーム(焦点距離の変更)、フォーカス、絞り、手振れ補正等に関する撮影パラメータを設定する。そして、第1視点画像取得部101は、設定した撮影パラメータに基づいて、第1視点における画像(以下「第1視点画像」という。)を生成する。生成された第1視点画像は、画像分割部103および映像処理部106に出力される。
第2視点画像取得部102は、撮影制御部105からの制御に基づいて、ズーム(焦点距離の変更)、フォーカス、絞り、手振れ補正等に関する撮影パラメータを設定する。この場合、第1視点画像取得部101と同様の撮影パラメータを設定するのが好ましい。そして、第2視点画像取得部102は、設定した撮影パラメータに基づいて、第1視点と異なる第2視点における画像(以下「第2視点画像」という。)を生成する。生成された第2視点画像は、画像分割部103および映像処理部106に出力する。
第1視点画像取得部101および第2視点画像取得部102は、撮影制御部105からの制御信号に基づいて、第1視点画像取得部101の視点と、第2視点画像取得部102の視点の間の距離(ステレオベース)を変更することができる。また、第1視点画像取得部101および第2視点画像取得部102は、撮影制御部105からの制御信号に基づいて、第1視点画像取得部101および第2視点画像取得部102の光軸が成す輻輳角を変更することができる。
画像分割部103は、第1視点画像取得部101および第2視点画像取得部102から入力した第1視点画像および第2視点画像のうちのいずれか一方の画像を複数の領域に論理的に分割する。例えば、画像分割部103は、視差解析部104で視差情報を求める際に基準となる画像(第1視点画像または第2視点画像)を複数の領域に分割する。
例えば、画像分割部103は、1つの画像を、1行×3列、3行×1列、3行×3列または3行×6列のように、n行×m列(ただし、n、mは正の整数)の領域に論理的に分割する。図2は、画像分割を説明した図である。図中、Hは水平方向の分割数、Vは垂直方向の分割数を示す。D(x,y)は、xおよびyで指定される分割領域における視差情報を示す。xおよびyは各領域の位置を表す水平座標および垂直座標である。図2では、水平座標、垂直座標はラスタースキャン順に設定されているが、ラスタースキャン順に限らず、各領域の位置が特定できれば、他の順序で設定してもよい。図2(a)は、1行×1列(H=1、V=1)に分割された場合、図2(b)は、3行×1列(H=1、V=3)に分割された場合、図2(c)は、3行×3列(H=3、V=3)に分割された場合、図2(d)は、3行×6列(H=6、V=3)に分割される場合を示す。
画像分割部103は、画像領域の分割数に関する情報を視差解析部104およびファイル生成部107に出力する。ここで、領域の分割数に関する情報は、画像分割部103が、分割された領域の数を特定することができる情報であれば、どのようなものでもよい。例えば、領域の分割数に関する情報は、水平分割数Hと垂直分割数Vを含む情報であってもよい。例えば、画像全体が3行×1列に分割される場合、画像分割部103はH=3、V=1を示す情報を出力してもよい。
また画像分割部103は、第1視点画像取得部101および第2視点画像取得部102のそれぞれから得られる2つの画像を視差解析部104に出力する。
視差解析部104は、画像分割部103から受信した2つの画像を解析して視差情報を取得し、映像処理析部106およびファイル生成部107に出力する。なお、視差解析部104は、画像分割部103から受信する領域の分割数に関する情報に基づいて、視差情報を取得する。
1.1 視差情報
図3は、被写体が表示画面から飛び出した位置に視認される場合および被写体が表示画面から引っ込んだ位置に視認される場合における視差情報を説明した図である。図3(a)は、表示画面よりも視聴者側に飛び出して被写体が視認される場合を示し、図3(b)は表示画面から引っ込んだ位置に被写体が視認される場合を示す。図3に示すように、被写体が飛び出した位置に視認される場合と、被写体引っ込んだ位置に視認される場合とで、第1視点画像と第2視点画像において、被写体は水平方向の異なる位置に表示される。この被写体の表示位置の差(ずれ)に関する量を示す情報を視差情報とする。この視差情報は、例えばピクセル値や、このピクセル値を表示画面の横幅で除算した値により表現される。なお、視差情報は上記の値に限定されるものではなく、差を特定できる値であればどのような指標を用いても構わない。
視差解析部104は、画像分割部103から取得される2枚の画像に基づいて、画像の所定の領域毎に視差情報を取得する。例えば、画像分割部103から取得する領域の分割数に関する情報がH=3、V=1を示す場合(1行×3列)、視差解析部104は合計3個の視差情報を取得する。同様に、領域の分割数に関する情報がH=3、V=6を示す場合(6行×3列)、視差解析部104は、合計18個の視差情報を取得する。
視差解析部104は、分割領域毎に視差情報を取得するために、1つの分割領域をさらに複数の単位領域に分割し、分割した単位領域毎に視差量を求め、各単位領域に対して求めた視差量に基づいて1つの分割領域の視差情報を取得する。ここで、単位領域は、1画素のみを含む単位でも良いし(画素単位)、複数画素を含む単位でもよい。また、画素以外の長さに関する単位を用いても構わない。つまり、視差解析部104は、第1視点画像と第2視点画像の水平方向のずれを表現できる単位であれば、どのようなものを用いても構わない。
視差解析部104は、分割領域における視差情報として、例えば各分割領域を代表する1つの視差情報を取得する。分割領域を代表する視差情報とは、例えば、視差情報の平均値や中央値などの情報である。または、分割領域内で求めた視差量のうち最大の飛び出しを示す最大視差量と、最大の引っ込みを示す最大視差量との2つを視差情報として取得してもよい。
各分割領域を代表する1つの視差情報を取得する場合は、図2に示した例では、各領域の視差情報D(x,y)に含まれる情報数は1である。各領域において、飛び出し最大視差量と引っ込み最大視差量の2つを取得する場合は、視差情報D(x、y)に含まれる情報数は2となる。
または、視差解析部104は、別途、画像全体の視差情報として、無限遠方に対応する視差情報を1つ取得し、各領域の視差情報として、飛び出し最大視差のみを取得してもよい。すなわち、無限遠方に対応する視差情報は、分割領域毎に取得する必要はなく、画像全体で1つ取得すればよい。この場合、視差情報D(x、y)に含まれる情報数は1となる。
また、視差解析部104は、分割領域内における視差量の分布に関する情報を取得してもよい。例えば、画像分割部103から取得する領域の分割数に関する情報が、H=3、V=1を示す情報を含む場合、視差解析部104は、3個の分割領域の各々に対して、各分割領域を代表する視差量を求める。さらに、視差解析部104は、3個の分割領域の各々に対して、各分割領域内における視差量の分布に関する情報を求める。この場合、各分割領域を代表する視差量と、視差量の分布に関する情報とは対応付けられて求められる。ここで、視差量の分布に関する情報は、例えば、分割領域における視差量の分散を示す値であり、また、それ以外の分布を示す情報でもよい。
また、視差解析部104は、画像全体で求めた視差量に基づき、分割領域毎に視差情報の信頼度を算出してもよい。この場合、視差解析部104は、算出した視差情報の信頼度をファイル生成部107に出力する。視差情報の信頼度の出力において、算出した視差情報の信頼度と、その信頼度に関連する分割領域との対応が判別できるように構成する。視差情報の信頼度として、例えば、視差情報をブロックマッチングによる視差ベクトルから算出する場合、所定のコスト関数に基づいて算出されたマッチングコストを用いてもよい。このマッチングコストは視差情報を取得する過程で算出される値である。このマッチングコストが所定の値よりも小さい場合は、マッチング精度が高く、信頼度が高いと判定し、マッチングコストが所定の値よりも大きい場合には、信頼度が低いと判定するような方式を用いることが可能である。なお、視差情報の信頼度の判定は、視差情報の確からしさを表す情報であれば、マッチングコストに基づく判定に限定されるものではない。例えば、平坦度を示す情報も信頼度を示す情報として利用できる。
また、視差解析部104は、画像データに基づき、分割領域に主要被写体(注目被写体)が含まれているか否かを判定する機能を有しても構わない。顔検出された領域を、主要被写体が含まれている領域として、主要被写体を含む領域を判定してもよい。なお、顔検出以外の方法で主要被写体を検出してもよい。視差解析部104は、領域に主要被写体が含まれているか否かの判定結果を示す情報をファイル生成部107に出力する。判定結果を示す情報は、算出した判定結果が画像全体の中のどの分割領域の関連するのかが判別できるように出力する。図4は、主要被写体を含む分割領域を説明した図である。図4では、画像全体がH=3、V=3として9つの領域に分割され、座標(1,1)の分割領域において、主要被写体(人物の顔)が含まれる場合を示している。
また、視差解析部104は、予め理想的な視差条件が設定されており、取得した視差情報がこの視差条件を満たすか否かを判定する機能を備えても構わない。この場合、視差解析部104は、分割領域毎に視差条件を満たすか否かを判定する。視差解析部104は、判定結果をファイル生成部107に出力する。判定結果は例えば1ビットで示される。例えば、判定結果は、視差情報が視差条件を満たす場合は「1」に、視差情報が視差条件を満たさない場合は「0」に設定される。ただし、判定結果は1ビットの値に限定されるものではなく、視差条件の判定結果を識別できれば、どのような値を用いても構わない。
また、視差解析部104は、上記判定の結果、視差情報が視差条件を満たさない場合、視差条件を満たすように撮影パラメータを算出し、算出した撮影パラメータを撮影制御部105に出力する。この撮影パラメータは、第1視点画像および第2視点画像を立体映像として視聴した際、当該立体映像の飛出しまたは引っ込みの程度に影響するパラメータであり、輻輳角、ステレオベース、画角、ズーム等の情報が該当する。なお、視差解析部104は、映像処理部106に対して、算出した撮影パラメータを出力しても構わない。
1.2 撮影条件
予め設定される撮影条件について図面を参照しながら説明する。図5は、視差条件を説明するための図である。図5(a)に示すように、視差解析部104は、第1視点画像および第2視点画像の画像情報に基づいて、視差が略0となる位置すなわち表示画面上の位置の視差角をα0に設定する。また、視差解析部104は、表示画面から飛び出して視認される被写体についての最大の視差角をα1に、表示画面に対して引っ込んで視認される被写体についての最小の視差角をα2に設定する。α0とα1の差、およびα0とα2の差が所定の範囲内(例えば±1°)に収まると視認しやすいという事実に基づいて、視差解析部104は、α1−α0<1°、α0−α2<1°という視差条件を設定する。視差条件については、立体視しやすいための条件、立体感が得られやすい条件など、安全性や画像品質等を考慮して決定することができる。
また、視差解析部104は、図5(b)に示すように、最も飛び出した位置に視認される被写体の視差角β1および、最も引っ込んだ位置に視認される被写体の視差角β2を設定する。そして、奥行きレンジ(β1−β2)が所定の範囲内(例えば1°)に収まると視認しやすいという事実に基づいて、視差解析部104はβ1−β2<1°という視差条件を想定してもよい。また、引っ込みの最大視差が、画面上のずれ量に換算して、人間の眼間距離(例えば、子供の場合で50mm)以下という条件を想定してもよい。これらの条件は、組み合わせた条件でも構わない。
なお、視差解析部104は、画像を表示する想定ディスプレイサイズに関する情報を、使用者により入力できるように構成されてもよい。また、視差解析部104は、入力された想定ディスプレイサイズに関する情報に基づいて、画像を視聴する際の推奨距離を設定するようにしてもよい。推奨距離は例えば想定ディスプレイサイズの縦サイズの3倍の距離に設定される。
撮影制御部105は、視差解析部104から出力される撮影パラメータに基づき、第1視点画像取得部101および第2視点画像取得部102におけるズーム(焦点距離の変更)、2つの視点画像取得部101、102の間の輻輳角、2つの視点画像取得部101、102間の間隔、フォーカス、絞り、手振れ補正などの撮影パラメータを変更する。
映像処理部106は、入力される2つの視点画像に対して、各種の処理を施す。映像処理部106は、例えば、第1視点画像および第2視点画像に対してガンマ補正やホワイトバランス補正、傷補正などの各種映像処理を行う。さらに、映像処理部106は、上記処理された第1視点画像および第2視点画像に対して、それぞれJPEG規格に準拠した圧縮形式等により画像を圧縮する。映像処理部106は、圧縮した画像をファイル生成部107に出力する。
なお、映像処理部106は、視差解析部104から撮影パラメータを入力すると、第1及び第2指定画像取得部101、102から入力した2つの視点画像に対して視差調整を実施する。視差調整とは、視差解析部104から出力される撮影パラメータを満たすような画像となるように、信号処理によって2つの視点画像を補正する動作をいう。補正動作には、例えば、2つの視点画像をトリミングする動作または、画素データをシフトする動作が含まれる。なお、視差調整は、上記の方法に限定されるものではなく、2つの視点画像を立体映像として視聴した際に、立体感を変更するための方法であれば、任意の方法が利用できる。
ファイル生成部107は、映像処理部106が出力する2つの視点画像と、画像分割部103が出力する領域の分割数に関する情報と、視差解析部104が出力する領域毎に取得した視差情報とを対応付けた画像ファイルを生成する。ファイル生成部107は、生成した画像ファイルをファイル記録部108に出力する。上記の画像ファイルは、例えばマルチピクチャフォーマットに即して生成される。なお、ファイル生成部107は、映像処理部106が出力する2つの視点画像を、画像分割部103が出力する領域の分割数に関する情報と、視差解析部104が出力する領域毎に取得した視差情報とに対応付けて格納できるファイルフォーマットであれば、任意のファイルフォーマットが利用できる。
ファイル生成部107は、視差解析部104から、所定の判定処理(主要被写体の判定、視差条件の判定等)の結果や撮影パラメータを入力してもよい。ファイル生成部107は、視差解析部104から判定結果や撮影パラメータを入力すると、当該判定結果または撮影パラメータを上記の3つの情報(2つの視点画像、領域の分割数に関する情報、視差情報)と対応付けて格納する。
ファイル記録部108は、ファイル生成部107から入力された画像ファイルをメモリカード109に記録する。メモリカード109は、SDカードなどの不揮発性のメモリカードであるが、ファイル生成部107で生成した画像ファイルを記録できる記録媒体であれば、任意の記録媒体が利用できる。
本実施形態の画像ファイル生成装置10において、視差解析部104、映像処理部106、撮影制御部105、ファイル生成部107は、マイクロコンピュータやDSPのソフトウェアとして実装してもよい。
1.3 ファイルフォーマット
図6を用いて、本実施形態の画像ファイル生成装置10で生成される画像ファイルのデータ構造(ファイルフォーマット)を説明する。画像ファイル生成装置10で生成される画像ファイルは複数の画像データを含む。図6の例では、画像ファイルは、第1視点画像データと第2視点画像データを含む。ここで、第1視点画像データは、メインヘッダ情報を格納するメインヘッダ部(以下単に「ヘッダ部」ともいう)502と異なるデータ領域503に格納される。第2視点画像データは、第2視点画像用ヘッダ情報を格納するヘッダ部506と異なるデータ領域507に格納される。なお、図6では、1つの画像ファイルに、2つの画像データが格納されているが、3以上の複数の画像データを格納することも可能である。つまり、1つの画像ファイルに、第1視点画像および第2視点画像に加えて第3視点画像を格納することも可能である。
先頭識別子501、メインヘッダ情報502、第1視点画像データ503および末尾識別子504は、第1視点画像に関する1つのグループとして、画像ファイル内に格納される。
先頭識別子501は、第1視点画像データ503が格納されるグループの起点をあらわすマーカである。先頭識別子501は、例えば、JPEG規格で規定されたファイルのスタート情報(xFFD8)である。
メインヘッダ部502は画像ファイル全体の管理データ(メインヘッダ情報)を格納する。この管理データは、第1視点画像と第2視点画像を立体映像として視聴する際の立体感に関する情報を格納する。
第1視点画像データ503は例えばJPEG形式で圧縮されたデータである。
末尾識別子504は、第1視点画像データ503の終点を示すマーカ(xFFD9)である。第1視点画像データ503の最後尾にこのマーカを設けておくことにより、画像ファイルを、第1視点画像データ503からなる画像ファイルと、第2視点画像データからなる画像ファイルとの2つの画像ファイルに分割する際に、ファイルに新たに先頭識別子(SOI)や末尾識別子(EOI)を付加する必要がない。従って、画像ファイルの分割を容易に行うことができる。
先頭識別子505、第2視点画像用ヘッダ部506、第2視点画像データおよび末尾識別子508は、第2視点画像に関する1つのグループとして、画像ファイル内に格納される。
先頭識別子505は、第2視点画像データに関するグループの起点を示すマーカである。このマーカを管理するテーブルをメインヘッダ部502に設ける。このテーブルにより、第2視点画像データの検索を容易に行うことができ、また、ファイルを分割する際、分割点を容易に見つけることができる。さらに、マーカを設けておくことにより、画像ファイルを複数の画像ファイルに分割する際に、ファイルに新たにSOIやEOIを付加する必要がない。従って、ファイルの分割を容易に行うことができる。
第2視点画像用ヘッダ情報506は、第2視点画像データの属性情報などを格納する。第2視点画像データはJPEG形式で圧縮されたデータである。
末尾識別子508は、第2視点画像データに関するグループの終点を示すマーカである。このマーカを管理するテーブルをメインヘッダ部502に設ける。これにより、第2視点画像データの検索を容易に行うことができる。また、ファイルを分割する際、分割点を容易に見つけることができる。さらに、マーカを設けておくことにより、画像ファイルを分割する際に、ファイルに新たにSOIやEOIを付加する必要がなく、ファイルの分割を容易に行うことができる。
1.3.1 メインヘッダ部に記載される管理データ
図7は、画像ファイルのメインヘッダ部502に格納される管理データの構成例を示す図である。図7に示すように、管理データは例えば、領域分割数601、視差情報タイプ602、視差情報603を含む。管理データは所定の圧縮方法で圧縮されてもよい。
領域分割数601は、画像分割部103から出力される、画像の分割方法(ここでは、水平方向及び垂直方向の分割数)に関する情報を格納する。図7に示す(H,V)のH,Vはそれぞれ水平方向の分割数、垂直方向の分割数を示す。図7の場合、画像は3行1列に分割して視差情報が取得されていることがわかる。また、領域分割数601は1つの情報で表現しているが、水平方向の分割数Hと、垂直方向の分割数Vの2つの情報を用いて表現してもよい。なお、画像の分割の数を示す情報ではなく、画像の分割方法(例えば、領域の分け方、分割数)が特定できる情報であれば、他の情報を利用することもできる。
視差情報タイプ602は、視差解析部104で取得される視差情報の種類を示す情報である。視差情報の種類としては例えば以下のタイプを規定する。
タイプ1:視差情報として、分割領域内で求めた視差量の中で、被写体の飛び出し方向(表示画面から視聴者へ向かう第1の方向)の視差量の最大値と、引っ込み方向(第1の方向と逆方向である第2の方向)の視差量の最大値とを用いる。
タイプ2:視差情報として、分割領域内で求めた視差量の平均値を用いる。
タイプ3:視差情報として、分割領域内で求めた視差量の中央値を用いる。
タイプ4:視差情報として、分割領域内で求めた視差量の中でオブジェクトの飛び出し方向の視差量の最大値と、画像領域全体で求められる無限遠方に対応する視差量とを用いる。
図7に示す例では、視差情報タイプ602には「1」と記載されているので、タイプ1の視差情報であることがわかる。視差情報タイプ602は、あらかじめ規定されたタイプのみが用いられる場合は、省略されてもかまわない。
視差情報603は、分割領域毎に実際に取得した視差情報が格納されている。図7の例では、「タイプ1」の視差情報が格納されている。よって、視差情報603は、分割領域内で求めた視差量のうち、オブジェクトの飛び出し方向の視差量の最大値D1と、オブジェクトの引っ込み方向の視差量の最大値D2の2つの視差量が格納されている。
なお、視差解析部104において、ある分割領域で視差情報が算出できない場合、その分割領域の視差情報は、視差情報が算出できなかったことを示す所定の値となる。例えば、事前に画像ファイル生成装置と画像ファイル再生装置との間で、その所定の値を決めておけばよい。また、視差解析部104から分割領域毎の信頼度が取得できる場合、その信頼度に応じて視差情報を変更してもよい。例えば、視差解析部104は、信頼度が低い領域の視差情報を、視差情報が算出できなかったことを示す所定の値に設定してもよい。
なお、画像が2次元に分割されている場合、視差情報603に記載される情報の順序は例えばラスター順と等しい順序となる。
領域分割数601は、管理データの読み込み時において、視差情報603よりも先に読み込まれるように管理データ内に配置されることが好ましい。これにより、領域分割数601を視差情報603よりも先に読み出すことができるため、画像ファイルの再生装置は領域分割数601に基づいて迅速に処理を開始することが可能となる。
画像ファイルのメインヘッダ部502に格納される管理データは、図7に示した情報に限られない。以下、画像ファイルのメインヘッダ部502に格納される管理データの他の例を説明する。
管理データは、図7に示した情報以外に、例えば、視差解析部104において視差条件を判定する際に想定したディスプレイサイズの情報や視聴距離などの情報、飛び出し最大視差条件、引っ込み最大視差条件、奥行きレンジ条件、及び眼間視差条件などを含んでもよい。また、管理データは、視差解析部104から取得される撮影パラメータ(輻輳角、ステレオベース、画角、ズーム等の情報)を含んでもよい。また、管理データは、視差解析部104から出力される分割領域毎の信頼度を含んでもよい。
また、管理データは、視差解析部104から出力される、分割領域毎の主要被写体が存在するか否かを示す判定結果を含んでもよい。例えば、図7Aに示すように、その判定結果を示す情報(フラグ)610を分割領域毎に格納しても良い。または、図7Bに示すように、画像全体に対して、主要被写体の位置を示す情報(座標、分割領域を特定する情報、等)611を格納しても良い。
管理データは、視差解析部104で視差情報を取得する際に基準とした画像(第1視点画像または第2視点画像)を示す情報を含んでもよい。このようにすれば、画像ファイルの再生装置において画像再生時に、当該情報を読出すだけで、ヘッダ部502に格納される視差情報を取得する際に基準とした画像を容易に特定することが可能となる。
また、ヘッダ部502に、1つの分割領域に含まれる視差情報の数を示す情報を格納してもよい。このようにすれば、画像ファイルの再生装置における画像の再生時において、画像ファイルのヘッダ部502を解析するだけで、分割領域毎に記録された視差情報の数を容易に判定することが可能となる。
また、管理データは、分割領域毎に取得した視差情報のビット数(ビット精度)に関する情報を格納してもよい。このようにすれば、画像ファイルの再生装置による画像再生時において、画像ファイルのヘッダ部502を解析するだけで、視差情報がどのようなビット精度で記録されているかを判定することができる。
また、管理データに、分割領域毎の代表視差量に関する情報を格納してもよい。このようにすれば、ヘッダ部502において、代表視差量に関する情報だけ格納しておけばよいので、ヘッダ部502に格納する情報の量を低減することが可能となる。
さらに、管理データに、分割領域毎の代表視差量に関する情報に加えて、立体画像全体に対し、取得した無限遠方における視差量に関する情報を格納してもよい。このようにすれば、ヘッダ部502において、画像全体に対して、無限遠方視差情報を1つだけ格納しておけばよいので、例えば、分割領域毎に、飛び出し最大視差量と引っ込み最大視差量を格納するよりも、ヘッダ部502に格納する情報の量を低減することが可能となる。
また、管理データに、分割領域毎に、分割領域内の視差量を代表する代表視差量と、分割領域内の視差量の分布を示す情報を格納してもよい。このようにすれば、ヘッダ部502に格納する情報の量を低減することが可能となる。また、画像ファイルの再生装置による画像再生時において、分割領域の視差量の分布に基づいて視差調整等の処理を実行することが可能となる。
また、管理データに、視差情報が検出不可であることを示す情報を含む視差情報を格納してもよい。画像ファイルの再生装置による画像再生時において、視差情報が検出不可であることを示す情報を参照することで、特定の分割領域において視差情報が取得できていないことを容易に判断することができる。
また、管理データに、分割領域毎の信頼度を示す情報を格納してもよい。このようにすれば、画像ファイルの再生装置による画像再生時において、視差情報に対応する信頼度に応じて分割領域毎に処理動作(例えば、視差情報の再度の取得)を好適に切り替えることが可能となる。
2.画像ファイル再生装置
上記の画像ファイル生成装置10が生成した画像ファイルを再生する画像ファイル再生装置を説明する。図8は、画像ファイル再生装置の構成を示す図である。
画像ファイル再生装置20は、デジタルテレビ、デジタルビデオプレーヤ/デジタルビデオレコーダとデジタルテレビのシステム、デジタルカメラ/デジタルムービーとデジタルテレビのシステムなどである。
画像ファイル再生装置20は、ファイル読み込み部201、ファイル解析部202、領域視差情報抽出部203、画像再生部204、視差調整領域指定部205、視差調整部206および映像表示部207を備える。
ファイル読み込み部201は、メモリカード109に記録された画像ファイルを読み出し、読み出した画像ファイルをファイル解析部202に出力する。
ファイル解析部202は、ファイル読み込み部201から取得した画像ファイルの解析を行なう。具体的に、ファイル解析部202は、画像ファイルのメインヘッダ部502が有する管理データに記載される情報を抽出する。より具体的には、領域分割数601に記載された情報、視差情報タイプ602に記載された情報が抽出される。なお、他の情報が記載されている場合は上記の情報と合わせて抽出を行なう。
ファイル解析部202は、各視点の画像データを画像再生部204に出力し、抽出した情報を領域視差情報抽出部203に出力する。なお、ファイル解析部202は、画像ファイルを解析した結果、画像ファイルのヘッダ部から撮影パラメータまたは視差条件を抽出すると、それらを領域視差情報抽出部203に出力する。また、ファイル解析部202は、画像ファイル生成装置10の視差解析部104において視差条件を判定する際に想定したディスプレイサイズの情報、視聴距離などの情報、飛び出し最大視差条件、引っ込み最大視差条件、奥行きレンジ条件、眼間視差条件などを抽出した場合、それらを視差調整判定部203に出力する。
領域視差情報抽出部203は、ファイル解析部202から受けた視差情報603に記載される情報に基づいて、視差情報603に記載される情報を格納するための記憶領域(記憶容量)を確保する。なお、ファイル解析部202から各分割領域のデータサイズが取得できる場合は、当該分割領域毎のデータサイズと領域分割数601に記載される情報とに基づいて視差情報603に記載される情報を格納するための記憶領域(記憶容量)を確保する。
領域視差情報抽出部203は、記憶領域を確保できた場合、視差情報603に記載された情報を読み出す。領域視差情報抽出部203は読み出した情報を視差調整部206に出力する。また、領域視差情報抽出部203はファイル解析部202から取得した情報を合わせて視差調整部206に出力する。
画像再生部204は、各視点の画像データを、復号化などの処理を実施して表示可能な形式に変換して視差調整部206に出力する。
視差調整領域指定部205は、使用者による、視差調整を行なう領域を指定する操作を受け付ける指示部材である。視差調整領域指定部205は、使用者の操作により指示された視差調整を行なう領域を指定する信号を視差調整部206に出力する。視差調整領域指定部205はタッチパネルや上下左右の方向キーで構成できる。
視差調整部206は、領域視差情報抽出部203からの情報および視差調整領域指定部205からの信号に基づいて、画像再生部204から取得する各視点の画像における使用者により指示された領域に対して視差調整を行なう。視差調整部205は、視差調整を行なった画像を映像表示部206に出力する。視差調整部206は、視差調整領域指定部205から信号を取得しない場合、視差調整を行なわないように構成されてもよい。
映像表示部207は、視差調整部206から取得した第1及び第2視点画像を立体映像として表示する。
上記の画像ファイル再生装置20では、ファイル解析部202、視差調整判定部203、画像再生部204、視差調整部205は、マイクロコンピュータやDSPのソフトウェアとして実装してもよい。
なお、視差調整部206は、視差調整をして画像を映像表示部207に出力する場合、視差調整を行なったことを示す情報を、当該画像と同時に表示させてもよい。また、視差調整を行っても画像が視差条件を満たさない場合、映像表示部207に警告を示す情報を表示してもよい。
また、画像ファイルのヘッダ部502において、分割領域において主要被写体が含まれることを示す情報を含んでいる場合(図7A、図7B参照)、視差調整部206は、主要被写体領域の位置に基づき視差調整すべき分割領域を特定し、その特定した分割領域に対して視差調整を実施するようにしてもよい。
また、画像ファイルのヘッダ部502において、撮影パラメータとしてのステレオベースの情報が含まれている場合、視差調整部206は、ステレオベース情報と分割領域毎の視差情報を用いて、分割領域毎に被写体の距離を算出してもよい。この様に算出された情報を参照することにより、画像再生時において、被写体の距離に応じた種々の画像処理が可能となる。
3.まとめ
3.1 画像ファイル生成装置
本実施形態における画像ファイル生成装置10は、立体視を可能とする立体画像のデータを取得する第1及び第2視点画像取得部101、102と、立体画像の全領域を複数の領域に分割した分割領域毎に、視差情報を取得する視差解析部104と、第1及び第2視点画像取得部101、102が取得した立体画像のデータを格納するデータ部503、507と、データ部に格納される立体画像のデータに関する管理データを格納するヘッダ部502、506とを有する画像ファイルを生成するファイル生成部107とを備える。ファイル生成部107は、画像ファイルのヘッダ部502に、分割領域毎の視差情報(603)及び分割領域の分割方法に関する情報(601)を格納する。
画像ファイル生成装置10により上記のようにして画像ファイルが生成されることで、画像ファイルの再生装置において、画像の分割領域毎に視差情報を取得することができるため、画像の領域において部分的に視差調整を実行することができる。
また、ファイル生成部107は、画像ファイルのヘッダ部502において、分割方法に関する情報601を視差情報603よりも時間的に前に読み出される位置に配置する。このようにすれば、分割方法に関する情報601を視差情報603よりも先に読み出すことができるため、画像ファイルの再生装置は当該分割方法に関する情報601に基づいて迅速に処理を開始することが可能となる。
また、ヘッダ部502は、視差情報を取得する際に基準とした画像(第1視点画像または第2視点画像)を示す情報を含んでもよい。このようにすれば、画像ファイルの再生装置において画像再生時に、当該情報を読出すだけで、ヘッダ部502に格納される視差情報を取得する際に基準とした画像を容易に特定することが可能となる。
また、視差解析部1014は、分割領域毎に、表示画面から視聴者へ向かう第1の方向(飛び出し方向)における視差量の最大値に関する情報と、第1の方向と逆方向である第2の方向(引き込み方向)における視差量の最大値に関する情報とを取得してもよい。このようにすれば、画像ファイルの再生装置における再生時において、画像ファイルのヘッダ部502を解析するだけで、分割領域毎に立体視の視認容易性を容易に判定することが可能となる。
また、ファイル生成部107は、ヘッダ部502に、1つの分割領域に含まれる視差情報の数を示す情報を格納してもよい。このようにすれば、画像ファイルの再生装置における画像の再生時において、画像ファイルのヘッダ部502を解析するだけで、分割領域毎に記録された視差情報の数を容易に判定することが可能となる。
また、ファイル生成部107は、画像ファイルのヘッダ部502に、分割領域毎に取得した視差情報のビット数に関する情報を格納してもよい。このようにすれば、画像ファイルの再生装置による画像再生時において、画像ファイルのヘッダ部502を解析するだけで、視差情報がどのようなビット精度で記録されているかを判定することができる。
また、視差解析部104は、各分割領域内の視差量を代表する代表視差量に関する情報を視差情報として取得し、ファイル生成部107は、画像ファイルのヘッダ部502に、分割領域毎の代表視差量に関する情報を格納してもよい。このようにすれば、ヘッダ部502において、代表視差量に関する情報だけ格納しておけばよいので、ヘッダ部502に格納する情報の量を低減することが可能となる。
さらに、視差解析部104は、立体画像内の無限遠方における視差量に関する情報を視差情報として取得し、ファイル生成部107は、ヘッダ部502に、前記分割領域毎の代表視差量に関する情報に加えて、立体画像全体に対し、取得した無限遠方における視差量に関する情報を格納してもよい。このようにすれば、ヘッダ部502において、画像全体に対して、無限遠方視差情報を1つだけ格納しておけばよいので、例えば、分割領域毎に、飛び出し最大視差量と引っ込み最大視差量を格納するよりも、ヘッダ部502に格納する情報の量を低減することが可能となる。
また、視差解析部104は、分割領域毎に、分割領域内の視差量を代表する代表視差量と、分割領域内の視差量の分布を示す情報とを含む視差情報を取得してもよい。このようにすれば、ヘッダ部502に格納する情報の量を低減することが可能となる。また、画像ファイルの再生装置による画像再生時において、分割領域の視差量の分布に基づいて視差調整等の処理を実行することが可能となる。
また、視差解析部104は、視差情報が取得できない分割領域について、視差情報が検出不可であることを示す情報を含む視差情報を出力してもよい。これにより、画像ファイルの再生装置による画像再生時において、視差情報が検出不可であることを示す情報を参照することで、特定の分割領域において視差情報が取得できていないことを容易に判断することができる。
また、視差解析部104は、取得した視差情報の信頼度を分割領域毎に算出し、ファイル生成部107は、ヘッダ部502にさらに、分割領域毎の信頼度を示す情報を格納してもよい。このようにすれば、画像ファイルの再生装置による画像再生時において、視差情報に対応する信頼度に応じて分割領域毎に処理動作(例えば、視差情報の再度の取得)を好適に切り替えることが可能となる。
また、ファイル生成部107は、ヘッダ部502に、視差解析部104が取得した視差情報を格納するか、または、取得した視差情報に代えて、視差情報が検出できなかったことを示す情報を格納するかを、信頼度に基づいて切り替えてもよい。このようにすれば、画像ファイル内のヘッダ部502に視差情報を格納する際、特定の視差情報に対応する信頼度に応じて、分割領域毎に、格納する視差情報を変更することができる。
また、視差解析部104は、分割領域内に主要被写体が存在するか否かを判定してもよい。ファイル生成部107は、視差解析部104による判定結果を示す情報をヘッダ部502に格納してもよい。このようにすれば、画像ファイルの再生装置による画像再生時において、画像ファイルのヘッダ部502を解析するだけで、所定の領域に主要被写体が存在するか判別することができるので、例えば視差調整の要否を簡単に判断することができる。
また、ヘッダ部502に含まれる視差情報は情報量が圧縮された情報でもよい。このようにすれば、ヘッダ部のデータ量を低減できる。
また、ヘッダ部502にさらに2つの光学系間の距離を示すステレオベース情報を格納してもよい。画像ファイルの再生装置は、ヘッダ部502から読み出したステレオベース情報と視差情報に基づいて、分割領域毎に被写体の距離を算出することができる。
3.2 画像ファイル再生装置
本実施形態の画像ファイル再生装置20は、立体視を可能とする立体画像データの再生が可能な画像再生装置であって、立体視を可能とする立体画像データを含む画像ファイルを格納するメモリカード109から画像ファイルを読み出すファイル読み出し部201と、画像ファイルを解析するファイル解析部202と、立体画像が表示される表示画面に垂直な方向におけるオブジェクトの表示位置を規定する視差情報を格納する記憶部203と、を含む。
画像ファイルは、立体画像データを格納するデータ部503、507と、データ部に格納される立体画像データに関する管理データを格納するヘッダ部502、506とを含む。画像ファイルのヘッダ部502は、立体画像の全領域を複数の領域に分割した分割領域毎の視差情報603と、分割領域の分割方法に関する情報601とを格納する。ファイル解析部202は、ヘッダ部502から、分割方法に関する情報601と、分割領域毎の視差情報603とを読み出し、読み出した分割方法に関する情報に基づき確保された記憶部の記憶領域に、読み出した視差情報を記憶する。
上記構成により、分割領域毎の視差情報を用いて、画像の部分的な領域毎の視差調整が可能となる。さらに、分割方法に関する情報(例えば、分割領域の数)に基づき視差情報を記憶する領域を確保することができるため、視差情報を読み出した際のオーバーフローを回避することが可能となる。
また、ヘッダ部502はさらに、1つの分割領域に含まれる視差情報の数に関する情報を含んでもよい。ファイル解析部202は、ヘッダ部502から、分割方法に関する情報および視差情報の数に関する情報を読み出し、取得したそれらの情報に基づき確保した記憶部の記憶領域に、読み出した視差情報を記憶する。このようにすれば、ヘッダ部502から、視差に関連する情報の記憶に必要な容量を判断するために必要な情報を取得することが可能となる。
また、画像ファイル再生装置20は、視差情報に基づき、分割領域毎に視差調整を行なう視差調整部206をさらに備えてもよい。これにより、画像の部分的な領域毎の視差調整が可能となる。
ヘッダ部502は、分割領域毎に、当該分割領域における視差情報、及び、当該分割領域において視差情報が検出できない旨を示す情報のうちのいずれか一方を格納してもよい。視差調整部206は、視差情報が検出できない旨を示す情報を有する分割領域を視差調整の対象外としてもよい。このようにすれば、画像ファイル再生装置20において、画像ファイルのヘッダ部502を解析するだけで、視差情報が検出できていない領域を特定することができ、視差情報が検出できていない領域のみ、視差情報を解析したり、視差情報が検出できていない領域のみ、視差解析を実施したりすることが可能となる。
また、ヘッダ部502はさらに、分割領域に対する視差情報の信頼度を示す情報を格納してもよい。視差調整部206は、信頼度を示す情報に基づいて、分割領域の視差調整を実行するか否かを切り替えてもよい。このようにすれば、画像ファイル再生装置20において、ヘッダ部502を解析するだけで、視差情報の信頼度の高/低を特定することができ、信頼度が低い領域のみ、視差情報を高精度な視差解析方法で解析したり、信頼度が高い領域のみ、視差調整を実施したりすることが可能となる。
また、ヘッダ部502は、分割領域内に主要被写体が存在するか否かを示す被写体情報を格納してもよい。このとき、視差調整部206は、被写体情報に基づいて、分割領域の視差調整を実行するか否かを切り替えてもよい。このようにすれば、ヘッダ部を解析するだけで、主要被写体が含まれる領域の視差情報に基づいて視差調整を実施することが可能となる。
ヘッダ部502はさらに2つの光学系間の距離を示すステレオベース情報を格納してもよい。視差調整部206は、ステレオベース情報と視差情報に基づいて、分割領域における被写体の距離を求めてもよい。この構成により、画像ファイル再生装置において、分割領域毎に、被写体の距離を求めることができる。
本発明は、立体映像を生成可能なデジタルカメラ、デジタルムービーのような立体画像データの生成装置、またはデジタルテレビ、デジタルビデオプレーヤ/デジタルビデオレコーダのような立体画像データの再生装置に適用可能である。
101 第1視点画像取得部
102 第2視点画像取得部
103 画像分割部
104 視差解析部
105 撮影制御部
106 映像処理部
107 ファイル生成部
108 ファイル記録部
109 メモリカード
201 ファイル読み込み部
202 ファイル解析部
203 領域視差情報抽出部
204 画像再生部
205 視差調整領域指定部
206 視差調整部
207 映像表示部
501、505 先頭識別子
502 メインヘッダ部
503 第1視点画像データ
504、508 末尾識別子
506 第2視点画象用ヘッダ部
507 第2視点画像データ
601 領域分割数
602 視差情報タイプ
603 視差情報

Claims (24)

  1. 立体視を可能とする立体画像のデータを取得する画像取得部と、
    前記立体画像の全領域を複数の領域に分割した分割領域毎に視差情報を取得する視差情報取得部と、
    前記画像取得部が取得した立体画像のデータを格納するデータ部と、前記データ部に格納される立体画像のデータに関する管理データを格納するヘッダ部とを有する画像ファイルを生成するファイル生成部と、を備え、
    前記ファイル生成部は、前記ヘッダ部に、前記分割領域毎の視差情報及び前記分割領域の分割方法に関する情報を格納する、
    画像ファイル生成装置。
  2. 前記ファイル生成部は、前記ヘッダ部において、前記分割方法に関する情報を、前記視差情報よりも時間的に先に読み出される位置に配置する、
    請求項1に記載の画像ファイル生成装置。
  3. 前記立体画像は、異なる視点位置で撮像された複数の画像で構成され、
    前記ファイル生成部は、前記ヘッダ部に、前記複数の画像の中の、前記視差情報を取得する際に基準とした画像を示す情報を格納する、請求項1または請求項2に記載の画像ファイル生成装置。
  4. 前記視差情報取得部は、前記分割領域毎に、前記表示画面から視聴者へ向かう第1の方向における視差量の最大値に関する情報と、前記第1の方向と逆方向である第2の方向における視差量の最大値に関する情報とを取得する、請求項1または請求項2に記載の画像ファイル生成装置。
  5. 前記ファイル生成部は、前記ヘッダ部に、1つの分割領域に含まれる視差情報の数を示す情報を格納する、請求項1または請求項2に記載の画像ファイル生成装置。
  6. 前記ファイル生成部は、前記ヘッダ部に、前記分割領域毎に取得した視差情報のビット数に関する情報を格納する、請求項1または請求項2に記載の画像ファイル生成装置。
  7. 前記視差情報取得部は、各分割領域内の視差量を代表する代表視差量に関する情報を視差情報として取得し、
    前記ファイル生成部は、前記ヘッダ部に、前記分割領域毎の前記代表視差量に関する情報を格納する、請求項1または請求項2に記載の画像ファイル生成装置。
  8. 前記視差情報取得部はさらに、立体画像内の無限遠方における視差量に関する情報を視差情報として取得し、
    前記ファイル生成部は、前記ヘッダ部に、前記分割領域毎の代表視差量に関する情報に加えて、立体画像全体に対し、前記取得した無限遠方における視差量に関する情報を格納する、請求項7に記載の画像ファイル生成装置。
  9. 前記視差情報取得部は、前記分割領域毎に、当該分割領域内の視差量を代表する代表視差量と、当該分割領域内の視差量の分布を示す情報とを含む視差情報を取得する、請求項1または請求項2に記載の画像ファイル生成装置。
  10. 前記視差情報取得部は、視差情報が取得できない分割領域について、視差情報が検出不可であることを示す情報を含む視差情報を出力する、請求項1または請求項2に記載の画像ファイル生成装置。
  11. 前記視差情報取得部が取得した視差情報の信頼度を前記分割領域毎に算出する信頼度算出部をさらに備え、
    前記ファイル生成部は、前記ヘッダ部にさらに、前記分割領域毎の信頼度を示す情報を格納する、
    請求項1に記載の画像ファイル生成装置。
  12. 前記ファイル生成部は、前記ヘッダ部に、前記視差情報取得部が取得した視差情報を格納するか、または、前記取得した視差情報に代えて、前記視差情報が検出できなかったことを示す情報を格納するかを、前記信頼度に基づいて切り替える、請求項11に記載の画像ファイル生成装置。
  13. 前記分割領域内に主要被写体が存在するか否かを判定する判定部をさらに備え、
    前記ファイル生成部は、前記判定部による判定結果を示す情報を前記ヘッダ部に格納する、
    請求項1または請求項2に記載の画像ファイル生成装置。
  14. 前記立体画像は異なる視点位置に配置された2つの光学系で撮像された2つの画像で構成され、
    前記ヘッダ部にさらに前記2つの光学系間の距離を示すステレオベース情報を格納する、請求項1または請求項2に記載の画像ファイル生成装置。
  15. 前記ヘッダ部にさらに、前記ヘッダ部に格納される視差情報の種類を示す情報を格納する、請求項1または請求項2に記載の画像ファイル生成装置。
  16. 前記視差情報は、情報量が圧縮された形式で前記ヘッダ部に格納される、請求項1または請求項2に記載の画像ファイル生成装置。
  17. 立体視を可能とする立体画像データの再生が可能な画像ファイル再生装置であって、
    立体視を可能とする立体画像データを含む画像ファイルを格納する記録媒体から画像ファイルを読み出すファイル読み出し部と、
    前記画像ファイルを解析する解析部と、
    立体画像が表示される表示画面に垂直な方向におけるオブジェクトの表示位置を規定する視差情報を格納する記憶部と、を備え、
    前記画像ファイルは、立体画像データを格納するデータ部と、前記データ部に格納される立体画像データに関する管理データを格納するヘッダ部とを有し、
    前記画像ファイルのヘッダ部は、前記立体画像の全領域を複数の領域に分割した分割領域毎の視差情報と、前記分割領域の分割方法に関する情報とを格納し、
    前記解析部は、前記ヘッダ部から、前記分割方法に関する情報と、分割領域毎の視差情報とを読み出し、前記読み出した分割方法に関する情報に基づき確保された前記記憶部の記憶領域に、前記読み出した視差情報を記憶する、
    画像ファイル再生装置。
  18. 前記ヘッダ部はさらに、前記1つの分割領域に含まれる視差情報の数に関する情報を含み、
    前記解析部は、前記ヘッダ部から、前記分割方法に関する情報および前記視差情報の数に関する情報を読み出し、取得したそれらの情報に基づき確保した前記記憶部の記憶領域に、前記読み出した視差情報を記憶する、
    請求項17に記載の画像ファイル再生装置。
  19. 前記視差情報に基づき、前記分割領域毎に視差調整を行なう視差調整部をさらに備えた、請求項17に記載の画像ファイル再生装置。
  20. 前記ヘッダ部は、分割領域毎に、当該分割領域における視差情報、及び、当該分割領域において視差情報が検出できない旨を示す情報のうちのいずれか一方を格納し、
    前記視差調整部は、視差情報が検出できない旨を示す情報を有する分割領域を視差調整の対象外とする、
    請求項19に記載の画像ファイル再生装置。
  21. 前記ヘッダ部はさらに、前記分割領域に対する視差情報の信頼度を示す情報を格納し、
    前記視差調整部は、前記信頼度を示す情報に基づいて、前記分割領域の視差調整を実行するか否かを切り替える、
    請求項19に記載の画像ファイル再生装置。
  22. 前記ヘッダ部はさらに、前記分割領域内に主要被写体が存在するか否かを示す被写体情報を格納し、
    前記視差調整部は、前記被写体情報に基づいて、前記分割領域の視差調整を実行するか否かを切り替える、
    請求項19に記載の画像ファイル再生装置。
  23. 前記立体画像は、異なる視点に配置された2つの光学系で撮影された2つの画像で構成され、
    前記ヘッダ部はさらに前記2つの光学系間の距離を示すステレオベース情報を格納し、
    前記視差調整部は、前記ステレオベース情報と前記視差情報に基づいて、前記分割領域における被写体の距離を求める、
    請求項17に記載の画像ファイル再生装置。
  24. 立体視を可能とする立体画像のデータを取得し、
    前記立体画像の全領域を複数の領域に分割した分割領域毎に、立体画像が表示される表示画面に垂直な方向におけるオブジェクトの表示位置を規定する視差情報を取得し、
    前記取得した立体画像のデータを格納するデータ部と、前記データ部に格納される立体画像のデータに関する管理データを格納するヘッダ部とを有する画像ファイルを生成し、
    前記ヘッダ部に、前記分割領域毎の視差情報及び前記分割領域の分割方法に関する情報を格納する、
    画像ファイルの生成方法。
JP2012521815A 2011-01-17 2012-01-17 画像ファイル生成装置、画像ファイル再生装置及び画像ファイル生成方法 Expired - Fee Related JP5049416B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012521815A JP5049416B2 (ja) 2011-01-17 2012-01-17 画像ファイル生成装置、画像ファイル再生装置及び画像ファイル生成方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011006590 2011-01-17
JP2011006590 2011-01-17
JP2012521815A JP5049416B2 (ja) 2011-01-17 2012-01-17 画像ファイル生成装置、画像ファイル再生装置及び画像ファイル生成方法
PCT/JP2012/000245 WO2012098862A1 (ja) 2011-01-17 2012-01-17 画像ファイル生成装置、画像ファイル再生装置及び画像ファイル生成方法

Publications (2)

Publication Number Publication Date
JP5049416B2 true JP5049416B2 (ja) 2012-10-17
JPWO2012098862A1 JPWO2012098862A1 (ja) 2014-06-09

Family

ID=46515498

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012521815A Expired - Fee Related JP5049416B2 (ja) 2011-01-17 2012-01-17 画像ファイル生成装置、画像ファイル再生装置及び画像ファイル生成方法

Country Status (3)

Country Link
US (1) US20130272677A1 (ja)
JP (1) JP5049416B2 (ja)
WO (1) WO2012098862A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107710756B (zh) * 2015-06-24 2021-01-19 索尼奥林巴斯医疗解决方案公司 医用立体观察装置、医用立体观察方法以及程序
US11164375B1 (en) * 2020-10-21 2021-11-02 Tanzle, Inc. Stereoscopic rendering of non-flat, reflective or refractive surfaces
WO2023139675A1 (ja) * 2022-01-19 2023-07-27 日立Astemo株式会社 撮像装置、視差ずれ補正方法、及び視差ずれ補正プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002245451A (ja) * 2001-02-19 2002-08-30 Nippon Hoso Kyokai <Nhk> 立体画像評価装置
JP2010068182A (ja) * 2008-09-10 2010-03-25 Fujifilm Corp 3次元撮影装置および方法並びにプログラム
WO2011001860A1 (ja) * 2009-06-29 2011-01-06 ソニー株式会社 立体画像データ送信装置、立体画像データ送信方法、立体画像データ受信装置および立体画像データ受信方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009135686A (ja) * 2007-11-29 2009-06-18 Mitsubishi Electric Corp 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002245451A (ja) * 2001-02-19 2002-08-30 Nippon Hoso Kyokai <Nhk> 立体画像評価装置
JP2010068182A (ja) * 2008-09-10 2010-03-25 Fujifilm Corp 3次元撮影装置および方法並びにプログラム
WO2011001860A1 (ja) * 2009-06-29 2011-01-06 ソニー株式会社 立体画像データ送信装置、立体画像データ送信方法、立体画像データ受信装置および立体画像データ受信方法

Also Published As

Publication number Publication date
US20130272677A1 (en) 2013-10-17
WO2012098862A1 (ja) 2012-07-26
JPWO2012098862A1 (ja) 2014-06-09

Similar Documents

Publication Publication Date Title
US8836760B2 (en) Image reproducing apparatus, image capturing apparatus, and control method therefor
JP4283785B2 (ja) 立体視画像生成装置およびプログラム
US7889196B2 (en) 3-dimensional image creating apparatus, 3-dimensional image reproducing apparatus, 3-dimensional image processing apparatus, 3-dimensional image processing program and recording medium recorded with the program
JP5236039B2 (ja) 映像処理装置及びその制御方法
JP2008103820A (ja) 立体画像処理装置
WO2010013382A1 (ja) 映像符号化装置、映像符号化方法、映像再生装置、映像再生方法、映像記録媒体、及び映像データストリーム
JP2007533022A (ja) 2.5dグラフックスをレンダリングするためのゴースト・アーチファクト削減
JPWO2003092304A1 (ja) 画像データ生成装置、画像データ再生装置、および画像データ記録媒体
JP5446949B2 (ja) 画像処理装置および画像処理方法、並びにプログラム
US8675042B2 (en) Image processing apparatus, multi-eye digital camera, and program
JP5133472B2 (ja) 立体映像出力装置及び立体映像出力方法
WO2013108285A1 (ja) 画像記録装置、立体画像再生装置、画像記録方法、及び立体画像再生方法
JP5049416B2 (ja) 画像ファイル生成装置、画像ファイル再生装置及び画像ファイル生成方法
KR101797035B1 (ko) 오버레이 영역의 3d 영상 변환 방법 및 그 장치
JP4619412B2 (ja) 立体画像記録再生システム
JP6092525B2 (ja) 画像処理装置、情報処理システム、画像処理方法およびプログラム
KR102048381B1 (ko) 삼차원 스테레오스코픽 영상 내의 객체 합성을 위한 시점별 양안 시차 영상의 렌더링 방법 및 시스템
JP6868288B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2012151536A (ja) 画像ファイル生成装置、画像ファイル再生装置、画像ファイル生成方法、画像ファイル再生方法
JP5604173B2 (ja) 再生装置、表示装置、記録装置及び格納媒体
KR101358431B1 (ko) 다시점 입체영상 재생 시스템 및 방법

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120703

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120720

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150727

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5049416

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees