JP2013090185A - 画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラム - Google Patents

画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラム Download PDF

Info

Publication number
JP2013090185A
JP2013090185A JP2011229663A JP2011229663A JP2013090185A JP 2013090185 A JP2013090185 A JP 2013090185A JP 2011229663 A JP2011229663 A JP 2011229663A JP 2011229663 A JP2011229663 A JP 2011229663A JP 2013090185 A JP2013090185 A JP 2013090185A
Authority
JP
Japan
Prior art keywords
image
parallax
data
file
parallax map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011229663A
Other languages
English (en)
Inventor
Shinichi Arita
真一 有田
Tomoya Shimura
智哉 紫村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2011229663A priority Critical patent/JP2013090185A/ja
Priority to PCT/JP2012/077089 priority patent/WO2013058359A1/ja
Publication of JP2013090185A publication Critical patent/JP2013090185A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/005Aspects relating to the "3D+depth" image format

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Library & Information Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】立体映像表示および基準画像と差分データを用いたアプリケーションを両立させることが可能な画像ファイル生成装置を提供することである。
【解決手段】第1の画像と、第1の画像と視差を有する第2の画像とを取得する画像取得部と、第1の画像を基準とした、第2の画像と間の視差を示す視差マップを取得する視差マップ取得部と、第1の画像と視差マップとの関係を示す付属情報を生成する付属情報生成部と、付属情報と第1の画像を表す第1のデータと第2の画像を表す第2のデータと視差マップを表す視差データとを含む、一つのファイルを生成するファイル生成部とを具備することを特徴とする。
【選択図】図2

Description

本発明は、画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラムに関する。
立体映像を表示あるいは保存するには2視点以上の画像を撮影し、これら複数の視点画像の中から2つの視点画像を同時に視聴することで立体映像を得ることができる。これら立体映像を保存するフォーマットの1つとして、カメラ映像機器工業会で規格化されているマルチピクチャフォーマット(以下、MPF)が開示されている(非特許文献1)。該MPFは、複数視点から撮影した複数の画像を1つのファイルに格納することを規定したフォーマットである。
一方、立体映像データを保存または転送するフォーマットとして、2視点以上の画像中から選択した1つの基準画像と、立体表示に用いるもう一方の視点画像(視差画像)とからの差分データである視差情報(視差マップ)または奥行情報(デプスマップ)等を算出し、基準画像と該差分データを保存または転送する方法が開示されている(特許文献1および特許文献2)。
さらに、基準画像と差分データを用いた立体映像を表示方法として、基準画像と差分データから任意の視点画像(視差画像)を生成し、立体表示する方法が開示されている(特許文献1)。また、差分データは立体表示するための視差画像生成に用いるだけでなく、基準画像と差分データを用いて別の視点から見た2次元画像(任意視点画像)を生成することが可能である。このように、基準画像と差分データは、任意視点画像を生成するといった別のアプリケーションに用いることも可能である。
特開2004−363758号公報 特表2010−508752号公報
マルチピクチャフォーマット(CIPA DC−007−2009)
しかしながら、立体映像を表示する再生装置の場合は、特許文献1および特許文献2のように基準画像と差分データを記録すると、該再生装置が視差画像を生成する際に多くの演算を要するという問題がある。さらに、該再生装置の視差画像生成において、基準画像と差分データから視差画像を生成すると、基準画像から死角となっている領域(オクルージョン領域)が視差画像に出力できないという問題がある。
一方、立体映像表示だけでなく、基準画像と差分データを用いたアプリケーション(例えば、任意視点画像生成)を実行する再生装置の場合は、非特許文献1のように基準画像と視差画像を記録すると、該再生装置が該データを読み込むたびに、差分データを得るため、多くの演算を要するという問題がある。
本発明は、このような事情に鑑みてなされたもので、その目的は、立体映像表示および基準画像と差分データを用いたアプリケーションを両立させることが可能な画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラムを提供することにある。
(1)この発明は上述した課題を解決するためになされたもので、本発明の一態様は、第1の画像と、前記第1の画像と視差を有する第2の画像とを取得する画像取得部と、前記第1の画像を基準とした、前記第2の画像と間の視差を示す視差マップを取得する視差マップ取得部と、前記第1の画像と前記視差マップとの関係を示す付属情報を生成する付属情報生成部と、前記付属情報と前記第1の画像を表す第1のデータと前記第2の画像を表す第2のデータと前記視差マップを表す視差データとを含む、一つのファイルを生成するファイル生成部とを具備することを特徴とする画像ファイル生成装置である。
(2)また、本発明の他の態様は、上述の画像ファイル生成装置であって、前記付属情報は、前記第1のデータにおける画素の配置と、前記視差データとの関係を示す情報であることを特徴とする。
(3)また、本発明の他の態様は、上述の画像ファイル生成装置であって、前記付属情報は、前記第1のデータにおける画素から、該画素に対応する前記視差データにおける画素までのシフト量を示す情報であることを特徴とする。
(4)また、本発明の他の態様は、上述の画像ファイル生成装置であって、前記付属情報は、前記第1のデータにおける1画素当たりの画角と、前記視差データにおける1画素当たりの画角との関係を示す情報であることを特徴とする。
(5)また、本発明の他の態様は、上述の画像ファイル生成装置であって、前記付属情報は、前記第1のデータにおける1画素当たりの画角と、前記視差データの画素値との関係を示す情報であることを特徴とする。
(6)また、本発明の他の態様は、上述の画像ファイル生成装置であって、前記付属情報は、前記視差マップが前記第1の画像を基準としていることを示す情報を含むことを特徴とする。
(7)また、本発明の他の態様は、上述の画像ファイル生成装置であって、前記視差マップが前記第1の画像を基準としていることを示す情報は、前記第1のデータに関連付けられて前記ファイルに格納される情報であって、前記視差データの前記ファイル中の位置を示す情報であることを特徴とする。
(8)また、本発明の他の態様は、上述の画像ファイル生成装置であって、前記付属情報は、前記視差データが前記ファイルに含まれているか否かを示す情報を含むことを特徴とする。
(9)また、本発明の他の態様は、上述の画像ファイル生成装置であって、前記付属情報は、前記視差データの前記ファイル中での一を示す情報を含むことを特徴とする。
(10)また、本発明の他の態様は、第1の画像を表す第1のデータと、前記第1の画像と視差を有する第2の画像を表す第2のデータと、前記第1の画像を基準とした前記第2の画像と間の視差を示す視差マップを表す視差データと、前記第1の画像と前記視差マップとの関係を示す付属情報とを含むファイルを取得するファイル取得部と、前記取得したファイルから、少なくとも前記第1のデータと前記視差データと前記付属情報とを抽出するデータ抽出部とを具備することを特徴とする画像ファイル読込装置である。
(11)また、本発明の他の態様は、上述の画像ファイル読込装置であって、前記付属情報は、前記第1のデータにおける画素の配置と、前記視差データとの関係を示す情報であることを特徴とする。
(12)また、本発明の他の態様は、上述の画像ファイル読込装置であって、前記付属情報は、前記第1のデータにおける画素から、該画素に対応する前記視差データにおける画素までのシフト量を示す情報であることを特徴とする。
(13)また、本発明の他の態様は、上述の画像ファイル読込装置であって、前記付属情報は、前記第1のデータにおける1画素当たりの画角と、前記視差データにおける1画素当たりの画角との関係を示す情報であることを特徴とする。
(14)また、本発明の他の態様は、上述の画像ファイル読込装置であって、前記付属情報は、前記第1のデータにおける1画素当たりの画角と、前記視差データの画素値との関係を示す情報であることを特徴とする。
(15)また、本発明の他の態様は、上述の画像ファイル読込装置であって、前記付属情報は、前記視差マップが前記第1の画像を基準としていることを示す情報を含むことを特徴とする。
(16)また、本発明の他の態様は、上述の画像ファイル読込装置であって、前記視差マップが前記第1の画像を基準としていることを示す情報は、前記第1のデータに関連付けられて前記ファイルに格納される情報であって、前記視差データの前記ファイル中の位置を示す情報であることを特徴とする。
(17)また、本発明の他の態様は、上述の画像ファイル読込装置であって、前記付属情報は、前記視差データが前記ファイルに含まれているか否かを示す情報を含むことを特徴とする。
(18)また、本発明の他の態様は、上述の画像ファイル読込装置であって、前記付属情報は、前記視差データの前記ファイル中での一を示す情報を含むことを特徴とする。
(19)また、本発明の他の態様は、第1の画像と、前記第1の画像と視差を有する第2の画像とを取得する画像取得過程と、前記第1の画像を基準とした、前記第2の画像と間の視差を示す視差マップを取得する視差マップ取得過程と、前記第1の画像と前記視差マップとの関係を示す付属情報を生成する付属情報生成過程と、前記付属情報と前記第1の画像を表す第1のデータと前記第2の画像を表す第2のデータと前記視差マップを表す視差データとを含む、一つのファイルを生成するファイル生成過程とを有することを特徴とする画像ファイル生成方法である。
(20)また、本発明の他の態様は、第1の画像を表す第1のデータと、前記第1の画像と視差を有する第2の画像を表す第2のデータと、前記第1の画像を基準とした前記第2の画像と間の視差を示す視差マップを表す視差データと、前記第1の画像と前記視差マップとの関係を示す付属情報とを含むファイルを取得するファイル取得過程と、前記取得したファイルから、少なくとも前記第1のデータと前記視差データと前記付属情報とを抽出するデータ抽出過程とを具備することを特徴とする画像ファイル読込方法である。
(21)また、本発明の他の態様は、コンピュータを、第1の画像と、前記第1の画像と視差を有する第2の画像とを取得する画像取得部、前記第1の画像を基準とした、前記第2の画像と間の視差を示す視差マップを取得する視差マップ取得部、前記第1の画像と前記視差マップとの関係を示す付属情報を生成する付属情報生成部、前記付属情報と前記第1の画像を表す第1のデータと前記第2の画像を表す第2のデータと前記視差マップを表す視差データとを含む、一つのファイルを生成するファイル生成部として機能させるためのプログラムである。
(22)また、本発明の他の態様は、コンピュータを、第1の画像を表す第1のデータと、前記第1の画像と視差を有する第2の画像を表す第2のデータと、前記第1の画像を基準とした前記第2の画像と間の視差を示す視差マップを表す視差データと、前記第1の画像と前記視差マップとの関係を示す付属情報とを含むファイルを取得するファイル取得部、前記取得したファイルから、少なくとも前記第1のデータと前記視差データと前記付属情報とを抽出するデータ抽出部として機能させるためのプログラムである。
本発明によれば、基準画像と差分データを用いたアプリケーションが実現可能という効果が得られる。
この発明の第1の実施形態における画像伝送システム10の構成を示す概略ブロック図である。 同実施形態における画像記録装置100の概略構成を示すブロック図である。 平行配置された視点位置から撮影した場合の被写体までの距離と視差の関係を示した図である。 同実施形態における左側視点および右側視点の撮影画像と、これらの視差マップの例である。 同実施形態における視差画像取得部106が被写体Xを撮影するときの概観図を示している。 同実施形態における左視点LPから撮影された画像1と、右視点RPから撮影された画像2である。 同実施形態におけるブロックマッチングのウィンドウを説明する図である。 同実施形態における視差マップ生成部102の構成を示す概略ブロック図である。 同実施形態における画像ファイル生成部105が生成するファイルfの構成を示す図である。 同実施形態におけるExif付属情報11のMaker Noteに格納される付属情報eを示す図である。 同実施形態における画像再生装置200の構成を示す概略ブロック図である。 同実施形態におけるファイル取得部201の構成を示す概略ブロック図である。 この発明の第2の実施形態における視差マップ生成部102の処理と、該処理により生成される視差値拡大係数説明する概念図である。 同実施形態におけるExif付属情報13のMaker Noteに格納される付属情報eを示す図である。 この発明の第3の実施形態における視差マップ生成部102bの処理と、該処理により生成される視差値拡大係数説明する概念図である。 同実施形態における視差マップ生成部102bの構成を示す概略ブロック図である。 同実施形態における画像処理部202bの構成を示す概略ブロック図である。 同実施形態の変形例における画像処理部202b2の構成を示す概略ブロック図である。 この発明の第4の実施形態における実施形態における視差マップ生成部102cの処理と、該処理により生成される視差値拡大係数を説明する概念図である。 同実施形態における視差マップ生成部102cの構成を示す概略ブロック図である。 同実施形態における画像処理部202cの構成を示す概略ブロック図である。 同実施形態の変形例における画像処理部202c2の構成を示す概略ブロック図である。 ファイルfの構成の別の例(その1)である。 ファイルfの構成の別の例(その2)である。
<第1の実施形態>
以下、図面を参照して、本発明の第1の実施形態について説明する。図1は、本実施形態における画像伝送システム10の構成を示す概略ブロック図である。画像伝送システム10は、画像記録装置100と、画像記録装置100とネットワーク300を介して接続される画像再生装置200とを含んで構成される。画像記録装置100は、本実施形態における画像ファイル生成装置であり、視差を含んだ画像を表すデータと、該画像の視差マップを表す視差データと、を一つのファイルfに格納して出力する。例えば、画像記録装置100は、立体画像を撮像することで、視差を含んだ画像を生成する。画像再生装置200は、本実施形態における画像ファイル読込装置であって、ネットワーク300を介して、画像記録装置100が出力したファイルfを受信し、該ファイルfから抽出した画像と視差マップとを用いて画像処理を行い、その結果を表示する。
なお、本実施形態では、画像記録装置100と、画像再生装置200とは、ネットワーク300にて接続されるとして説明したが、その他の手段で接続されてもよい。例えば、画像記録装置100がファイルfを、メモリカードなどの媒体に書き込み、画像再生装置200が該媒体からファイルfを読み出すようにしてもよい。また、画像記録装置100と、画像再生装置200とがUSB(Universal Serial Bus)ケーブルなどの通信ケーブルで接続され、画像記録装置100が送信したファイルfを画像再生装置200が受信するようにしてもよい。また、画像記録装置100が赤外線や電波などを用いて、ファイルfを送信し、これを画像再生装置200が受信するようにしてもよい。
図2は、画像記録装置100の概略構成を示すブロック図である。画像記録装置100は、画像処理部101、視差マップ生成部102、符号化部103、付属情報生成部104、ファイル生成部105、視差画像取得部106を含んで構成される。画像記録装置100は、両眼視差のある画像を取得し、これらの画像から視差マップを生成する。画像記録装置100は、これらの画像と視差マップと視差マップに関する付属情報とを一つのファイルデータfとして記録し、出力する。
視差画像取得部106は、光軸が平行になるように、かつ、両眼視差を有するように配された2つの撮像装置を備える。視差画像取得部106は、これらの撮像装置が撮像して得た、両眼視差を有する画像のデータである画像1a、1bを出力する。ここでは、画像1aは左眼に対応する視点からの画像のデータであり、画像1bは右眼に対応する視点からの画像のデータである。また、2つの撮像装置は同様の構成であり、得られた画像1a、1bは共に同じ解像度、焦点距離で撮影された画像である。なお、視差画像取得部106が、撮像装置に変えて、視差画像入力部を備え、視差画像入力部は、他装置が生成した両眼視差のある画像を、メモリカードなどの媒体や、ネットワークや通信ケーブルを介して接続された他装置から取得するようにしてもよい。このとき、両眼視差のある画像はそれぞれ関連付けられた個別のデータとして取得しても構わないし、一つのデータファイルとして取得してもよい。
一つのデータファイルとして取得する場合は、例えば、一般的な立体視用のフォーマットとして使用される2つ以上のJPEG(Joint Photographic Experts Group)画像を一つの画像ファイルとして記録したマルチピクチャフォーマットや2つの視差画像を並置配置して1つの画像として記録したサイドバイサイド画像でもよい。視差画像入力部はこのように入力された画像を、例えばJPEGのように符号化されている場合には画像データへと復号して出力する。入力される画像は圧縮されたものであってもよいし、圧縮されていないものであってもよい。また、ここでは説明を簡単にするため、画像1a、1bが表す両眼視差を有する画像は、平行に配置された撮像装置によって撮影された画像とする。
視差画像取得部106が出力した画像データである画像1aと画像2aは共に画像処理部101と視差マップ生成部102にそれぞれ入力される。
画像処理部101は入力された2つの画像データ画像1a、画像2aの画像サイズや色調整や相対位置を変更して視差を調整する。例えば、平行配置で撮影された画像は遠くの被写体になるほど視差が小さく、手前の被写体になるほど視差が大きくなる。このような状態の視差は、立体視を行うとすべて飛び出し方向となる視差であり、無限遠がディスプレイ面となる視差である。一般的にはディスプレイ面を境に、飛び出し方向と引っ込み方向となるような画像が望ましいため、左右の相対位置を変更することで適切な立体視画像となるように処理をする。
本実施形態では、後で記載するように基準視点画像と視差マップの対応付けが容易になるように画像1aと画像2aの相対位置の変更は、画像1aを固定して画像2aの方のみをシフトさせて、2つの画像データ画像1b、2bを生成する。
画像処理部101は、上述したよう調整した画像1b、画像2bを符号化部103に出力する。また、画像処理部101は、画像1a、2aに対して、どのような処理を行ったかを示す情報を処理情報dとして付属情報生成部104に出力する。処理情報dは、例えば、画像の相対位置をシフトさせた際のシフト量やサイズ変更をした場合のサイズ情報などである。
視差マップ生成部102は、入力された画像1aと画像2aと間の画素ごとの視差値を算出し、基準となる画像の画素配置に対応するように、該視差を並べたデータである視差マップaを生成する。平行配置(または平行な光学中心)で撮影された2視点からの画像の視差は、前述したように物体までの距離が遠いほど視差値が小さく、物体までの距離が近くなるにしたがって視差値は大きくなる。一般的には視差値を画素値に置き換えて視差をグレースケール画像として表現し、遠いほど黒く、近いほど白くなる。
視差マップ生成装部102は、視差マップを生成する際に、画像1aと画像2aどちらを基準としてもよいが、本実施形態では画像1aを基準として視差マップaを算出する。視差マップ生成部102は、視差マップaを生成して符号化部103に出力するとともに、視差マップaを生成する際に基準とした画像を示す情報、視差マップaのサイズ(縦、横の画素数)を示す情報、視差マップaの生成方法など、視差マップ生成時の情報を生成条件情報cとして付属情報生成部104に出力する。
符号化部103は、画像処理部101が出力した画像1b、画像2b、視差マップ生成部102が出力した視差マップaの符号化を行う。例えば、JPEG画像として圧縮する場合にはそれぞれのデータに対してJPEG圧縮処理を行い、圧縮画像データを生成する。なお、ビットマップなど非圧縮画像として記録する場合にはこのような圧縮処理は行わずに、目的のデータ形式に合わせて画像データを出力する。本実施形態では、符号化部103は、画像1b、画像2bをJPEG圧縮処理した画像データである画像1c、画像2cと、視差マップaの非圧縮データである視差マップbとを出力する。
付属情報生成部104は、画像処理部101と視差マップ生成部102からそれぞれ得られた処理情報dと生成条件情報cを基に、画像1c、画像2cと視差マップbとの関係を示した付属情報eを生成する。例えば、その一つとして、視差マップbは左眼に対応する視点の画像を基準として生成されているため、画像1cと画像2cに対して対応した視差マップが存在するかを判別するための視差マップ有無の情報がある。ここでは、この視差マップ有無の情報は、画像1cを基準とした視差マップbがあることを示す情報と、画像2cを基準とした視差マップがないことを示す情報となる。
また、その他の付属情報eの例としては、視差マップ算出時の画像位置に対して、画像1c、2cのうち、どちらをどの程度シフトさせたかを示すシフト量がある。画像処理部101は、画像1a、画像2aの相対位置シフトなどにより、立体視の際の視差を調整し、画像1b、2bを生成する。しかし、視差マップ生成部102は、視差調整されていない(相対位置が変更されない)画像1a、2aに基づき、視差マップaを算出するため、視差マップaの視差値と視差調整後の画像の視差は一致していない。そのため、このシフト量は、視差マップの視差値を画像1c、2c間の視差へ変換する場合へのオフセット値とみなすこともできる。付属情報生成部104は、上記のような画像データ間や画像データと視差マップデータ間の関係を識別するための情報や視差マップのサイズなど視差マップに係る情報などを付属情報として出力する。
ファイル生成部105は符号化部103と付属情報生成部104から入力された画像データ(画像1c、画像2c)と視差マップb、付属情報eからそれらを関連付けて一つのファイルfを生成して出力する。
次に、画像処理部101による画像のシフトについて説明する。図3は、ある間隔で平行配置された撮像装置から被写体までの距離と視差の関係を示した図である。図3において、横軸は、撮像装置から被写体までの距離であり、縦軸は、視差である。なお、引っ込み側とは、立体視をしたときにディスプレイ面より奥側に引っ込んだ位置にあるように知覚される視差を示す。また、飛び出し側とは、立体視をしたときにディスプレイ面より手前側に飛び出した位置にあるように知覚される視差を示す。
また、図3中の点O1、O2、O3は、後述する図4中の被写体O1、O2、O3に対応した距離および視差を示す点である。平行配置で撮影した場合、点O1、O2、O3を結んだ線分kで示したように、視差は常に飛び出し側であり、2つの撮像装置間の距離より被写体距離が十分大きくなるにつれて視差は0に近づく。また、逆に視点位置に近づくにつれて視差が大きくなる。なお、点O’1、O’2、O’3については後述する。
図4は、視差画像取得部106が備える平行配置された2つの撮像装置で撮影された左側の撮影画像B−1と右側の撮影画像B−2とこれらの2つの画像から得られ、左側画像B-1を基準とした視差マップB−3の例である。2つの撮影画像B−1、B−2は、被写体O1とO2と背景O3で構成されている。この例では、背景は撮像装置間距離に対して十分遠い。この場合、遠景である背景O3は視差がほぼ0であり、被写体O2、O1共に飛び出し方向の視差が付いている。また、より手前にある被写体O1の視差の方が、被写体O2の視差よりも大きくなっている。撮影画像B−1、B−2をこのまま立体表示すると、背景O3はディスプレイ面上にあるように知覚され、被写体O1、O2はディスプレイ面から飛び出しているように知覚される。
一般的には飛び出し視差が大きすぎると眼精疲労の原因になるなどの課題や、実際に見える景色に近い奥行き感を得るために遠景は引っ込み方向の視差にする方が望ましい。そこで、画像処理部101は、画像2aの各画素を右にシフトさせて画像2bとすることで、左右画像の相対位置を変える。これにより、遠景が引っ込み方向の視差となるように調整する。例えば手前の被写体O1の前面を視差0となるように左右の相対位置を変化させて、図3の点O’1〜O’3に示す視差にする。このとき、立体視すると被写体O1はディスプレイ面上にあるように知覚され、被写体O2、背景O3は奥行に引っ込んだ位置にあるように知覚されるため、立体視しやすい。このように、視点の異なる立体視用の画像は適切な視差となるようにして記録することが望ましい。
視差マップB−3は、平行配置で撮影された撮影画像B−1、B−2から得られた視差マップである。この時、遠景である背景O3の領域の視差は0に近いため黒に近く、手前の被写体O1になるほど視差が大きくなるためより白に近く表現される。
以下の説明においては、視差値を8ビットで表現するものとして説明する。この場合、視差値0が無限遠であり、視差値255が最も近い距離である。本実施形態では視差マップは8ビットのグレースケール画像として扱うが、これに限定されるものではなく例えばよりビット数の高いデータとしても構わない。
次に、視差マップ生成部102による視差算出を説明する。視差マップ生成部102は、視差算出にブロックマッチング法を用いる。このブロックマッチング法は、ブロック単位での類似度により左右画像間で同じ被写体の特徴点位置を検出し、そのずれ量を視差として検出する方法である。この特徴点に係る左右画像各々における点を対応点と呼ぶ。対応点の探索を行うために評価関数としてSAD(Sum of Absolute Difference)を用いる。SADでは画像1、画像2のそれぞれで注目画素を中心にウィンドウを設定し、設定したウィンドウ間の各画素の輝度の差を求め、その各画素間から得られた輝度の差の和を算出する。同様な処理を画像2側の注目画素を変えながら行い、値が最も小さい注目画素が対応点であるとする。
ここで、視差マップ生成部102が視差算出に用いるブロックマッチング法を説明する。図5は、視差画像取得部106が被写体Xを撮影するときの概観図を示している。視差画像取得部106は、水平方向に異なる左視点LPと右視点RPとから撮影する。図6は、図5に示すようにして、左視点LPから撮影された画像1と、右視点RPから撮影された画像2である。図6では視点位置が異なることで、被写体Xの位置がそれぞれの画像で異なる位置に存在する。画像1を基準に、被写体Xの一つの頂点について視差を算出する場合を例にブロックマッチングの説明をする。この頂点が画像1上の画素aに存在するとした場合に、画素aを中心とした3×3の大きさのウィンドウM1を設定する。次に、画像2において画素aと同一の位置にある画素a’を探索開始点として設定し、3×3のウィンドウM2を設定する。次に設定したウィンドウ間の各画素の輝度の差を求め、その各画素間から得られた輝度の差の和(SAD値)を算出する。例えば、図7のように、それぞれの設定したウィンドウの画素の値をx〜x、x’〜x’とすると、式(1)のような計算を行いSAD値を求める。
前述のように、平行に配置されたカメラで撮影された視差画像は無限遠が視差0であり、近くの被写体になるほど視差が付く。このとき、画像1が左眼に対応する視点、画像2が右眼に対応する視点の場合には、画像1上の頂点aに対応する画像2上の点は、画像1における頂点aよりも左側にある。そこで、探索方向を左側として画素a’から左方向に注目画素を変更していき、上述したSAD値を順次求め、得られたSAD値の中で最小値をとる注目画素を対応点とする。図6の例では、対応点である画像2上の画素a’を注目画素としたときに最もSAD値が小さい値となる。このような処理を画像1の画素ごとに行いそれぞれの画素との対応点を求めることで視差マップを得る。本実施形態では基準画像は画像1aであり、画像1aと画像2aのサイズは1920×1080、ウィンドウサイズは注目画素を中心に16×16として設定して視差算出を行う。なお、ここでは上記のように画像やブロックサイズを設定したが、これに限定されるものではなく精度や処理量を考慮し、適宜設定すればよい。また、本実施形態ではSADを用いたブロックマッチングによって求めたが、他の評価関数や他の手法でも構わない。
図8は、視差マップ生成部102の構成を示す概略ブロック図である。視差マップ生成部102は、視差マップ生成制御部121、視差値算出部122を含んで構成される。視差マップ生成制御部121は視差算出におけるウィンドウサイズ等の各種視差算出に必要な設定パラメータを取得して視差値算出部122に出力する。また、視差マップ生成制御部121は、視差値算出部122の処理内容に係る情報である、サイズ情報や基準画像を示す情報などの視差マップに係る情報である視差値算出情報caを受け取る。また、視差マップ生成制御部121は画像再生装置200で必要となる、これら視差算出時の基準画像を示す情報やサイズ情報といった情報を生成条件情報cとして出力する。
視差値算出部122は、視差マップ生成制御部121から得られた設定パラメータpを用いて、入力された画像1a、2aに対して、前述したブロックマッチングによる視差算出処理を行い、視差マップaを生成する。また、生成時の情報を視差値算出情報として視差マップ生成制御部121へ出力する。
図9は、画像ファイル生成部105が生成するファイルfの構成を示す図である。近年では立体撮像装置の記録フォーマットとしてCIPA(一般社団法人カメラ映像機器工業会)規格であるCIPA DC−007 マルチピクチャフォーマット(MPF:Multi−Picture Format)を扱う機器が増えてきており、図9において符号f1を付した部分は、このマルチピクチャフォーマットの規格であるMPF規格に準じている部分である。画像1c、画像2cは、該規格に沿った形で記録される。すなわち、画像毎に、SOI(Start Of Image)に続いてAPP(アプリケーションマーカセグメント)の領域があり、続いて画像データの領域があり、EOI(End Of Image)の領域がある。このように、図9では画像1c、画像2cは、それぞれMPF規格で規定されるファイルフォーマット構成で、領域f1に連続して記録される。そして、視差マップbは、その後ろ(領域f2)に記録される。このように、視差マップbを、領域f1よりも後ろとすることで、画像1c、2cについては、マルチピクチャフォーマットに近い構成のファイルとなる。したがって、視差マップbの存在を認識しない、従来の機器が、当該ファイルを読み込んだときに、画像1c、2cを読み込めないなどの不都合が発生することを抑えることができる。
領域f1について説明する。画像1cは、JPEG圧縮して記録される。画像1cのヘッダー部分のAPP(アプリケーションマーカセグメント)には、Exif規格やMPF規格に沿った形で付属情報が記録される。これら付属情報のうち、Exif付属情報11はAPPの先頭の領域であるAPP1に記録され、MPF付属情報21はAPP1に続く領域であるAPP2に記録される。Exif付属情報11には画像1cに関する撮像素子、撮像機器に関する情報や露光時間、Fナンバーなどの撮影条件や画像読み出しに関する情報が記録される。また、MPF付属情報21には各画像の視点位置と基準視点位置との関係を示す基線長や輻輳角情報、または立体、パノラマなど用途を識別する情報などが記録される。また、先頭画像である画像1cのMPF付属情報21にはMP Index IFDによって画像2cの記録位置やサイズ、MPF構造でいくつの画像が記録されているかを示す画像数に関する情報などの情報が記録される。ここで各画像データの両端のSOI(Start Of Image)、EOI(End Of Image)はそれぞれの画像の領域の開始と終了とを識別するための情報である。
本実施形態では画像1c、画像2cはMPF規格で記録し、視差マップは別に管理して記録する構成としている。そのため、前述したMP Index IFDには画像1c、画像2cに関する管理情報のみ記録される。画像2cについても、画像1cと同様にMPF規格に沿った構成(SOI、APP1、APP2、画像2c、EOI)で画像1cのEOIに続いて記録される。ただし、APP2の領域に、MP Index IFDを含まない点が、画像1cの構成と異なる。また、画像2cも画像1cと同様にJPEG圧縮したデータである。
次に、視差マップbはExif規格に沿った構成、すなわちSOI、APP、視差マップb、EOIの順に、画像2cのEOIに続いて記録される。ただし、視差マップはMPF規格で管理されないため、画像1c、画像2cとは異なり、そのAPP2にMPF付属情報は含まない。また、視差マップbは非圧縮データである。視差マップbについてもJPEGのように圧縮しても構わないが、圧縮によって被写体のエッジ領域の視差が劣化するなどの影響があるため非圧縮データとすることを推奨する。
視差マップbの記録位置などの管理情報を、視差マップを算出する際に基準とした画像のヘッダー領域へと記録する。ここでは、基準とした画像は、画像1cであるので、画像1cのExif付属情報11のMaker Noteタグ内に記録する。Maker Noteはメーカが個別の情報を記入し、該メーカが独自に利用することのできる領域である。この領域には付属情報生成部104から得られた付属情報eを基に、図10に示す項目を記録する。なお、画像2cを基準とした視差マップは、ファイルfに格納されないが、画像2cのExif付属情報12のMaker Noteタグ内には、画像2cに関する図10に示す項目を記録する。
図10は、Exif付属情報のMaker Noteタグ内に格納される付属情報を示す図である。「視差マップの有無;DisparityMapInfo」は、該Exif付属情報の画像を基準とした視差マップを有するか否かを示す情報である。本実施形態では、記録された視差マップbは、画像1cに対応する視差マップであるため、視差マップを有しているとの情報を画像1cのExif付属情報11に記録し、画像2cのExif付属情報12には有していないとの情報を記録する。
「視差マップのサイズ;DisparityMapSize」は、視差マップを有する場合に、該視差マップのデータサイズを示す情報である。視差マップを有する場合にはこのサイズ情報によって視差マップの記録領域を識別する。本実施形態では、画像1cのExif付属情報11には視差マップのデータサイズが記録され、画像2cのExif付属情報12には視差マップを有していないため、0が記録される。
「視差マップデータへのオフセット;DisparityMapOffset」は、ファイルの基準位置(例えば、当該情報の格納位置)から視差マップデータ領域先頭へのオフセット値である。この付属情報は、どこから視差マップが記録されているのかを示す。また本実施形態ではオフセット値での記録を行っているが、視差マップデータ先頭のアドレス値を記録するようにしてもよい。なお、視差マップデータ領域先頭とは、視差マップのSOIである。
「焦点距離[pix];FocalLengthPix」は、視差マップの焦点距離をピクセル単位で示す情報であり、レンズ焦点距離を撮像素子のピクセルピッチで除算した値である。この値を用いることで、視差値を被写体までの距離を示す奥行値に変換することができる。
「保存時のシフト量;ImageShiftSize」は、画像処理部101による画像のシフト量を示す値である。視差マップbの画素値は、記録された画像1cと画像2cとの視差と一致するとは限らない。これは、前述したように立体視のための視差調整により両画像間の視差が変更されており、かつ、視差マップは元の平行配置で算出されている場合に起こる。視差マップ算出は平行配置画像の方が対応点の探索方向が同じ方向な(逆方向の視差が発生しない)ため、平行配置での算出とする方が望ましい。また、平行配置にて算出した視差マップの値は、そのまま基準画像1から見た場合の被写体までの奥行値に対応させるのが容易になるため、平行配置時の視差マップのまま記録することが望ましい。
一方、立体視においては平行配置された視点から撮影された画像は全て飛び出す方向に見える視差がつくため、立体視の画質として望ましくない。そのため、画像1c、画像2cは視差を調整したものとする方が望ましい。このような要求を満たすために、どのように視差調整したかを示す情報である保存時のシフト量を記録する。例えば、画像1cはシフトしておらず、画像2cのみ相対位置を10画素分シフトして視差調整したとする。この場合、画像1cのExif付属情報11の保存時のシフト量には、シフト量「0」を記録し、画像2cのExif付属情報12の保存時のシフト量には、シフト量「10」を記録する。このときどちらの方向へシフトしたかの情報も併せて記録する。例えば、右視点に対応する画像2cは左側に10画素シフトした位置で切り出されていると、程よい視差量で遠景の被写体が引っ込み視差となる場合には、左方向へのシフトを負の値とし、右方向のへのシフトを正の方向とすると、画像2cのExif付属情報12の保存時のシフト量には、シフト量「−10」を記録する。
このようにヘッダー(ここではExif付属情報のMaker Note)に視差マップの有無やその記録位置を記録することで視差マップとの対応関係が認識できるようにする。上記では各画像ヘッダーに対応視差マップの情報を記録したが、視差マップのヘッダー内にどの画像が対応する画像であるかを記録するのでも構わない。
このように、立体視用の画像である画像1c、画像2cの管理を標準化された構成で管理することとし、視差マップbを別領域にて管理する。これにより、通常の画像1c、画像2cのみ扱う機器は、MP Index IFDに従って読みだすため、対象の2画像のみを読み出して扱うことができ、そのような機器にとって不明なデータである視差マップの情報は読み飛ばすことができる。また、別領域の視差マップの管理情報を読み出すことで視差マップが必要な機器は視差マップを読み出すことができる。このようにすることで、従来の機器との互換性がとれ、視差マップの記録位置情報などを識別できる機器のみ視差マップデータを取得できる。
画像再生装置200に関して説明する。図11は、画像再生装置200の構成を示す概略ブロック図である。画像再生装置200は、ファイル取得部201、画像処理部202、画像出力部204を含んで構成される。ファイル取得部201は、画像記録装置100が生成したファイルfを取得し、各記録領域を識別して付属情報e、画像データ(画像1c、画像2c)、視差マップbに分離する。分離された各データは画像処理部202へと出力される。
画像処理部202は、ファイル取得部201によって入力された各データからアプリケーションに応じた画像処理を行い、目的の画像データを出力する。このアプリケーションに応じた画像処理として、以下のようなものがある。立体視画像を出力する場合であれば、表示する画面サイズに応じて視差が拡大されて表示されて安全視の問題が生じるため、画面サイズに応じて視差調整をした画像を出力することが必要となる。このとき、視差調整には記録された画像間の視差に関する情報が必要となるが、付属情報と視差マップを用いることで記録された画像の視差情報を取得することができる。具体的には、付属情報に記録されたシフト量の情報を用いて視差マップの画素値を記録された画像の相対位置になるように変換することで画像の視差を取得することができる。この得られた視差情報を基に、例えば、画面上での最大視差が所定の値を超えないように、画面サイズに応じた視差調整をして表示することができる。
また、画像処理部202は、視差マップbに基づき、被写体との間の距離を判別することが可能であり、例えば画像とそれに対応する視差マップを用いて奥行に応じてぼかし量を変えたぼかし処理を行い、フォーカスの異なった画像など生成することができる。このとき、画像に対応した視差マップ(距離情報)が必要であるため、付属情報を用いて対応画像と視差マップの位置関係がシフト情報によってずれがないのか識別することで画像とそれに対応した視差マップを抽出し画像処理することができる。
このようにして画像と視差マップと付属情報を記録したフォーマットを扱うことで様々な画像を生成することが可能である。画像処理部202によって生成された画像は、画像出力部204によって出力される。例えば、画像出力部204は、液晶ディスプレイなどの表示デバイスを備え、該表示デバイスに表示させる。また、画像出力部204は、画像処理部202によって生成された画像を、表示装置や記録装置または通信・ネットワーク上へと出力するようにしてもよい。また、画像処理部202によって処理した内容を付属情報として、画像出力部204は出力する画像のヘッダー領域に記録してもよい。このようにすることで画像出力部204から得られたデータを受け取った際にどのような処理がされたのか識別することができる。例えば、画像処理部202によって視差調整された場合に、その調整量を記録しておけば、処理前の画像に戻すことも可能である。
図12は、ファイル取得部201の構成を示す概略ブロック図である。ファイル取得部201は、ファイル入力部211、付属情報抽出部212、第1画像抽出部213、第2画像抽出部214、視差マップ抽出部215を含んで構成される。ファイル入力部211は、ファイルfを受信し、受信したファイルfを付属情報抽出部212、第1画像抽出部213、第2画像抽出部214、視差マップ抽出部215に出力する。付属情報抽出部212は、ファイルfから付属情報eを抽出する。第1画像抽出部213は、付属情報抽出部212が抽出した付属情報eを用いて、ファイルfから画像1cを抽出する。第2画像抽出部214は、付属情報抽出部212が抽出した付属情報eを用いて、ファイルfから画像2cを抽出する。視差マップ抽出部215は、付属情報抽出部212が抽出した付属情報eを用いて、ファイルfから視差マップbを抽出する。視差マップ抽出部215は、付属情報eのうち、例えば、視差マップデータへのオフセットを用いて、視差マップbを抽出する。
画像記録装置100、画像再生装置200は、従来の立体画像機器との互換もとりつつ、視差マップを用いる機器に関しては画像とそれに対応する視差マップが取得可能なファイルでのやりとりができる。個別のファイルとして関連付けて記録すると、途中で一部のデータを紛失してしまうことや逆に一部のデータのみ残ってしまうことなどが問題であり、また、複数のファイルを同時に関連付けて処理する必要があるため複雑な処理になる課題がある。本実施形態ではこのような煩雑な管理をする必要がなく、効率的な処理が可能となる。
本実施形態では、ファイルfに記録する画像を、平行配置された2画像で示したが、これに係るものではなく3画像以上でも構わない。その場合では画像と視差マップへの対応付けなど同様にすることができる。
また、本実施形態では平行配置された撮像装置から得られた2画像で示したが、これに係わるものではなく輻輳配置の撮像装置によって撮影された2画像でも構わない。この場合、例えばファイルのヘッダ情報から輻輳撮影であることを識別し、視差マップ生成部102は、この2画像に対して、遠景の視差が0以上となるように相対位置を変化させてから視差マップ算出処理を行う。視差マップ生成部102は、この視差マップ算出時の2画像の相対位置変化量を生成条件情報cに含めて付属情報生成部104へと出力する。付属情報生成部104は、画像処理部101からの処理情報dとこの相対位置変化量を含む生成条件情報cを加味した値を付属情報eとすればよい。
また、視差画像取得部106は、1画像のみを取得し、画像処理部101と視差マップ生成部102の前に、2次元画像を3次元画像に変換する2D3D変換部を設けるようにしてもよい。1画像から同様な効果を得ることが可能である。2D3D変換部は1つの画像から奥行を推定し、視差を有する2つの画像を生成する。2D3D変換部によって得られたこれら2つ画像を画像処理部101と視差マップ生成部102に入力すればよく、あとは同様の処理とすることでもよい。
<第2の実施形態>
以下、図面を参照して、本発明の第2の実施形態について説明する。本実施形態における画像記録装置100は、視差マップ生成部102が生成する生成情報cおよび付属情報生成部104が生成する付属情報e、画像ファイル生成部105が生成するファイルfに視差値拡大係数が含まれている点のみが、第1の実施形態の画像記録装置100(図2)と異なる。その他の処理部および画像再生装置200については、第1の実施形態と同様であるため、詳細な説明は省略する。
図13は、本実施形態における視差マップ生成部102の処理と、該処理により生成される視差値拡大係数説明する概念図である。なお、本実施形態では、左右画像と視差マップサイズが同サイズの場合を説明する。本実施形態においても、視差マップ生成部102が、画像1aおよび画像2aに対して視差算出処理を行い、視差マップaを生成する。このとき、画像1aと画像2a間の視差値が画素単位で視差マップaに格納されている。すなわち、視差マップaの各画素は、画像1aの各画素に対応し、その画素値は画像1aと画像2a間の視差の値である。この視差マップaを符号化した視差マップbを、画像ファイル生成部105がファイルfに格納する場合は、画像1aおよび2aの画像サイズ(縦と横の各画素数)と等倍の倍率の画像サイズで視差マップbを格納する。この等倍で格納することを記憶するため、付属情報eとして図14に示す視差値拡大係数(ExpansionCoefficient)に1を格納する。視差値拡大係数は、視差マップの画素値(視差値)と、ファイルに記録される画像1cと画像2c間の視差値とを、画像再生装置200において一致させることができるように、保存する視差マップの画素値(視差値)を変換するための係数である。本実施形態(図13)では、画像1aおよび2aの画像サイズと等倍のサイズで視差マップbを保存するため、視差値拡大係数は「1」である。
視差値拡大係数の生成処理について説明する。本実施形態における視差マップ生成部102も、図8に示す第1の実施形態における視差マップ生成部102と同様に視差マップ生成制御部121と、視差値算出部122とを含んで構成される。視差マップ生成制御部121は、第1の実施形態で説明したように、視差マップ生成に必要な画像サイズやウィンドウサイズ、探索数等の設定パラメータpを記憶している。さらに、視差マップ生成制御部121は、視差値拡大係数として「1」を記憶している。
視差値算出部122は、画像1aおよび画像2a、設定パラメータpから、第1の実施形態で説明した処理方法によって視差マップaを算出し、出力する。このとき、視差値算出部122は、算出した視差マップaにおける最大値と最小値を視差値算出情報caに含めて視差マップ生成制御部121に送る。視差マップ生成制御部121は、この視差値算出情報caを記憶する。
視差マップ生成制御部121は、視差値算出部122にて画像1aおよび画像2aの全ての画素について視差値を算出し終えたことを検出すると、記憶している視差値拡大係数(この場合「1」)、視差マップの最大値および最小値、視差マップの画像サイズ等の視差マップ生成に関する情報を生成条件情報cとして出力する。
画像ファイル生成部105によるファイルfへの記録処理は、第1の実施形態と同様であるが、付属情報eの記録方法が異なる。本実施形態における視差マップ生成制御部121が生成した生成条件情報cは、画像ファイル生成部105により、付属情報eとしてファイルfに格納される。画像ファイル生成部105は、この付属情報eの中で、視差マップbの画像サイズ等、視差マップbに関する情報であって、Exif規格に準拠する情報については、図9に示したファイルfのExif付属情報13の領域に、Exif規格に準拠する形式で付属情報として記録する。しかし、画像ファイル生成部105は、図14に示した視差値拡大係数、視差マップの最大値、最小値については、Exif規格に準拠していない情報であるので、図9の視差マップbのAPP1(Exif付属情報13)の領域内のMakerNoteに記録する。
図14に示す「視差値拡大係数;ExpansionCoefficient」は、記録する視差マップbの画素値を保存画像(画像1cおよび2c)の1画素当たりの画角に対応する視差値(視差マップ)に変換する情報である。すなわち、視差マップbのある画素の画素値が「10」であれば、画像1cの当該画素と、当該画素に対応する画像2c中の画素とは、画素値「10」に視差値拡大係数「1」を乗じた「10」画素の視差を、画像1cおよび画像2cの1画素当たりの画角で有することを示す。視差マップの最大値(MaxDisparityValue)は、記録する視差マップの最大視差値を示す情報である。視差マップの最小値(MinDisparityValue)は、記録する視差マップの最小視差値を示す情報である。また、図14に示す各項目の該MakerNoteへの記録順は、どのような順番であっても良い。
以上の説明では、視差マップに対応する画像は画像1cとしたが、画像2cを基準の画像として、画像2cに対応した視差マップを生成および記録しても良い。さらに、画像1cおよび画像2cの両方を基準の画像として、各々視差マップを生成および記録しても良い。
以上説明した左右画像と視差マップサイズを同じ画像サイズで記録することにより、視差算出部より算出した視差マップをそのまま記録することができ、スケーリングといった追加の処理が不要であるため、記録時の処理量や回路規模の削減を行うことができる。さらに、記録した画像および視差マップを読み出し、再生する場合に、記録した視差マップをそのまま利用することができ、スケーリング処理や記録した視差マップの視差値を記録した画像に対応する視差値に変換する処理が不要であるため、再生時の処理量や回路規模の削減を行うことができ、高速に処理することができる。
<第3の実施形態>
以下、図面を参照して、本発明の第3の実施形態について説明する。本実施形態における画像記録装置100は、第2の実施形態における画像記録装置100とは、視差マップ生成部102に変えて視差マップ生成部102bを備える点のみが異なる。また、本実施形態における画像再生装置200は、第1および第2の実施形態における画像再生装置200とは、画像処理部202に変えて画像処理部202bを備える点のみが異なる。その他の処理部については、第2の実施形態と同様であるため、詳細な説明は省略する。
図15は、本実施形態における視差マップ生成部102bの処理と、該処理により生成される視差値拡大係数を説明する概念図である。本実施形態では、左右画像より視差マップサイズが小さい場合を説明する。本実施形態における視差マップ生成部102bは、画像1aおよび画像2aの視差算出処理を行う前処理として、両画像のスケーリング処理を行い、画像サイズを縮小する。図15では、このスケーリング処理として、画像サイズをm/n倍に縮小している例を示している。そして、縮小した両画像から視差マップaを算出する。なお、ここで、画像サイズをm/n倍に縮小とは、縦および横方向の画素数を、m/n倍にすることを表す。
このとき、視差マップaの画素値は、画像1aと画像2aとをm/n倍に縮小した画像間の視差値である。すなわち、視差マップaの各画素における画素値は、縮小した画像1aの各画素に対応し、その値は縮小した画像1aと画像2a間の視差値である。さらに、出力される視差マップaの画像サイズ(画素数)は縮小した画像1aまたは画像2aの画像サイズと同じであり、縮小前の画像1aまたは画像2aの画像サイズのm/n倍の画像サイズである。また、算出された視差マップaを縮小前の画像1aの画像サイズに戻した(拡大した)場合に、拡大した視差マップaの各画素は、縮小前の画像1aの各画素に対応し、その画素値(視差値)は縮小前の画像1aと画像2a間の各画素の視差値にm/nを乗じたと値と一致する。本実施形態では、画像ファイル生成部105がファイルfに格納する視差マップaを表すデータ(視差マップc)は、縮小前の画像1aまたは2aの画像サイズ(縦と横の各画素数)から縦横それぞれにm/n倍した縮小した画像サイズの視差マップを表すデータである。本実施形態における画像ファイル生成部105は、視差マップcの視差値が本縮小率で縮小されて格納したことを記録するため、付属情報eとして前述の図14で示す視差値拡大係数(ExpansionCoefficient)に、縮小率m/nの逆数であるn/mを格納する。
図16は、視差マップ生成部102bの構成を示す概略ブロック図である。視差マップ生成部102bは、視差マップ生成制御部121b、視差値算出部122b、スケーリング部123b、124bを含んで構成される。視差マップ生成制御部121bは、視差マップ生成に必要な画像サイズやウィンドウサイズ、探索数等の設定パラメータpと、画像1aと2aを縮小するための縮小率dp(前述のm/nに相当)を記憶しており、視差値算出部122bの制御を行う。また、第1の実施形態で説明の生成条件情報cを記憶している。
スケーリング部123b、124bは、それぞれ画像1aと画像2aに対して、視差マップ生成制御部121bから指定された縮小率dpで縮小処理を行い、縮小画像1’aと縮小画像2’aを出力する。ここでの縮小方法は、一般的に画像処理で用いられるニアレストネイバー法や、バイリニア法、バイキュービック法など、どのような方法であっても良い。
視差値算出部122bは、スケーリング部123b、124bによって縮小された縮小画像1’aおよび縮小画像2’aと、設定パラメータpとから、第1の実施形態で説明した処理方法によって視差マップaを算出し、画像1aまたは画像2aの画像サイズより、縮小係数だけ縮小された視差マップaを出力する。このとき、第1の実施形態における視差値算出情報caに加えて、算出した視差マップの最大値と最小値を視差値算出情報caとして視差マップ生成制御部121bに出力する。視差マップ生成制御部121bは、この視差値算出情報caを記憶する。また、視差マップ生成制御部121bは、縮小率dpの逆数であるn/mを拡大係数として記憶する。視差マップ生成制御部121bは、視差値算出部122bにて縮小画像1’aの全ての画素について対応する視差値を算出し終えたことを検出すると、記憶している拡大係数(この場合縮小係数の逆数であるn/m)、視差マップの最大値および最小値、視差マップの画像サイズ等の視差マップ生成に関する情報を生成条件情報cとして出力する。
以上の説明では、視差マップaは、縮小画像1’aを基準として算出した、すなわち画像1aに対応した視差マップである。しかし、縮小画像2’aを基準として視差マップを算出し、画像2aに対応した視差マップを生成および記録するようにしても良い。さらに、縮小画像1’aおよび縮小画像2’aの両方を基準として各々視差マップを生成および記録するようにしても良い。また、画像1aおよび画像2aの縮小は、縦横同じ縮小率としたが、縦横個別の縮小率で縮小しても良い。その場合の視差値拡大係数は、横の縮小率の逆数である。
以上のように、左右画像の画像サイズより視差マップサイズを小さく記録することにより、左右画像サイズと同サイズで視差マップを記録する場合と比べ、保存するデータサイズを小さくすることができ、その結果生成するファイルfのサイズを小さくすることができる。そのため、ファイルfを記録や伝送する際に、揮発性メモリ(SDRAMなど)のアクセス速度より遅い外部記憶装置(HDDや光ディスク、FLASHメモリなど)での記録速度や、ネットワーク上でのデータ転送速度を高速にできる(処理時間を短縮できる)という効果があり、ユーザーの使い勝手が大幅に向上する。また、一般的に視差マップ算出処理は処理量が非常に多く、処理時間がかかることや回路規模が大きくなるが、本実施形態では、画像1aおよび画像2aを縮小してから視差マップ算出処理を行うため、視差マップ算出処理の処理量や回路規模を大幅に削減できる。
図17は、本実施形態における画像処理部202bの構成を示す概略ブロック図である。画像処理部202bは、制御部221b、復号化部222b、シフト画像補正部223b、スケーリング部224b、視差値拡大部225b、画像変換部226bを含んで構成される。復号化部221bは、ファイル取得部201がファイルfより抽出した画像1cおよび縮小されている視差マップbを復号(伸長)し、復号画像1dおよび視差マップIを生成する。スケーリング部224bは、復号化部221bが復号した視差マップIを、画像1cの画像サイズと同じサイズに拡大し、視差マップJを生成する。視差値拡大部225bは、視差マップIの視差値を画像1aと画像2a間の視差値に戻し、視差マップKを生成する。シフト画像補正部223bは、撮影時の画像から画素配置がシフトされている画像1dを、撮影時の画素配置に戻し、補正画像1eを生成する。画像変換部226bは、補正画像1eと視差マップKとから、画像1aとは別の視点の画像を生成する。制御部221bは、これら各処理部の制御を行う。
次に、復号化部222bによる画像1cと視差マップbの復号化について説明する。制御部221bは、付属情報eに基づき、画像1cおよび視差マップbの画像フォーマットを解釈して、それぞれの画像フォーマット情報(例えば、JPEG、BMP、PNGなど)や画像サイズ等の復号化パラメータdcを記憶し、復号化部222bに送る。復号化部22bは、画像1cおよび視差マップbを復号化パラメータdcを用いて復号化し、それぞれ復号画像1d、視差マップIとして出力する。
次に、スケーリング部224bによる視差マップIの拡大処理について説明する。制御部221bは、記憶している付属情報eのうち、拡大係数epをスケーリング部224bに送る。スケーリング部224bは、視差マップIの縦横の画素数がそれぞれ拡大係数epの値倍(前述の例ではn/m倍)の画像サイズとなるように視差マップIを拡大し、視差マップJを出力する。ここで求めた視差マップJの画像サイズは、画像1cの画像サイズと一致する。すなわち、ここでは、拡大係数epは、画像1cの1画素当たりの画角と、視差マップbにおける1画素当たりの画角の比を示す情報となっている。ここで、1画素当たりの画角は、例えば、当該画像の水平方向の画角を、水平方向の画素数で割った値である。
また、図17では、制御部221bからスケーリング部224bに渡している拡大係数epは、ファイルfから読み出した縮小された視差マップbのサイズを、画像1cのサイズとするための拡大率を制御部221bが計算し、その拡大率をスケーリング部224bに送っても良い。ここで計算した拡大率は、拡大率epと一致する。スケーリング部224bで用いる拡大方法は、一般的に画像処理で用いられるニアレストネイバー法や、バイリニア法、バイキュービック法など、どのような方法であっても良い。
次に、視差値拡大部225bの処理について説明する。スケーリング部224bより出力された視差マップJの各画素の画素値(視差値)を制御部221bから送られた拡大係数epの倍率によって変換(拡大)し、視差マップLを生成する。変換後の視差マップLの各画素の画素値(視差値)は、前述の画像撮影時の画像1aおよび画像2a間の視差値と一致し、元の視差値に戻される。すなわち、ここでは、拡大係数epは、画像1cの1画素当たりの画角と、視差マップbの画素値との関係を示す情報となっている。これまでの説明では、復号化部222bから出力された視差マップIに対し、スケーリング部224bで拡大後、視差値拡大部225bで視差値を変換する順で説明したが、スケーリング部224bと視差値拡大部225bの処理順は反対でも良く、どちらを先に処理しても良い。
次に、シフト画像補正部223bの処理について説明する。シフト画像補正部223bは、復号化部222bから出力された復号画像1dを、制御部221bが付属情報eから読み出した保存時のシフト量sに従って横方向にシフトして、補正画像1eを生成する。なお、本実施形態では、第1の実施形態と同様に、画像1cについては、撮影時の画像1aからシフトされていないため、シフト量sは「0」である。なお、画像2cではなく、画像1cが撮影時からシフトされてファイルfに記録されているときは、シフト量sは「0」ではなく、撮影時からのシフト量となるので、当該処理により、視差マップKに対応している撮影時の画像1aと同じ画像とすることができる。すなわち、ここでは、シフト量sは、画像1cにおける画素から、該画素に対応する視差マップbにおける画素までのシフト量を示す情報となっている。
次に、画像変換部226bについて説明する。画像変換部226bは、シフト画像補正部223bから出力された補正画像1eと、視差値拡大部225bから出力された視差マップLとから、制御部221bが記憶している制御パラメータcpに従って、補正画像1eとは別の視点画像を生成し、これを出力画像として画像表示部204に出力する。別の視点画像の生成は、撮影画像(画像1a)を基準画像とし、これに対し、ユーザーが指定した視点までの移動方向および移動量を制御部221bが記憶する。制御部221bは、移動方向および移動量等の制御パラメータcpを画像変換部226bに送る。画像変換部226bは、補正画像1eの各画素に対し、対応する視差マップKの各画素の視差値と視点の移動方向および視点の移動量に応じて、移動量を決定する。画像変換部226bは、この決定した移動量に応じて、補正画像1eの各画素を移動して、視点移動後の画像を生成する。
補正画像の各画素の移動量の決定は、例えば補正画像上の各画素に対し、対応する画素の視差マップLの視差値と移動量を乗算して移動量を算出し、算出した移動量に従って補正画像上の画素を移動方向の向きに移動することで移動後の視点の画像を生成する方法が挙げられる。以上の処理により、画像1cと視差マップb、および付属情報eを用いて、画像1cとは異なる視点の画像を生成することができる。
[第3の実施形態の変形例]
第3の実施形態の変形例として、画像再生装置200が、画像処理部202bに変えて、画像処理部202b2を備える例を説明する。第3の実施形態の画像処理部202bでは、シフト画像補正部223bを有し、シフト量sが「0」でないときは、復号画像1dを、シフト量sに応じてシフトし、撮影時の画像と同じとなるように戻した補正画像1eを生成する。そして、画像変換部226は、視差マップbにサイズの拡大と視差値の拡大を施した視差マップKを用いて、補正画像1eを変換し、画像1aとは別の視点画像を生成する。しかし、本変形例では、復号画像1dに対してシフトを行わず、視差マップKのシフトを行って、視差マップLを生成し、この視差マップLを用いて、復号画像1dを変換し、画像1aとは別の視点画像を生成する。
図18は、本実施形態における画像処理部202b2の構成を示す概略ブロック図である。画像処理部202b2は、制御部221b、復号化部222b、スケーリング部224b、視差値拡大部225b、画像変換部226b、空間座標・視差値変換部227bを含んで構成される。このように、画像処理部202b2は、図17の画像処理部202bとは、シフト画像補正部223bがなくなり、空間座標・視差値変換部227bが追加された点が異なる。これに伴い、画像変換部226bは、保存時シフト量sを空間座標・視差値変換部227bに出力する。空間座標・視差値変換部227bは、視差値拡大部225bが生成した視差マップKを、保存時シフト量sに従いシフトして、視差マップLを生成する。また、復号化部222bは、復号画像1dを画像変換部226bに出力する。そして、画像変換部226bは、復号画像1dと視差マップLとから、画像1aとは別の視点画像を生成する。
次に、空間座標・視差値変換部227bについて説明する。空間座標・視差値変換部227bは、視差値拡大部225bより撮影時の画像1aと画像2a間の視差値に戻した視差マップKに対し、画像1cと画像2aに対応する視差マップに変換するために、視差マップKのシフト処理と視差値変換処理を行う。空間座標・視差値変換部227bは、制御部221bが出力した画像1cの保存時シフト量sにしたがって、画像1cの各画素に対応する視差マップとするために、視差マップKのシフト処理(空間座標変換)を行う。シフト処理を行うことで、シフト後の視差マップは、画像1cの各画素に対応した視差マップとなる。
一方、このシフト後の視差マップの視差値は、撮影時の画像1aと2a間の視差値となっている。そこで、空間座標・視差値変換部227bは、画像1cと画像2a間の視差値とするために、保存時のシフト量sを用いて、シフト後の視差マップの視差値を変換する(視差値変換)。変換方法は、撮影時の画像1aに対し、画像1cのシフト方向が右方向にシフトしている場合は、シフト後の視差マップの各画素の画素値(視差値)に保存時のシフト量sの分だけ加算する。反対に、画像1cのシフト方向が左方向にシフトしている場合は、シフト後の視差アップの各画素の画素値(視差値)から保存時のシフト量sの分だけ減算する。以上の処理により、空間座標・視差値変換部227は、視差マップLを生成する。
以上の説明では、視差値拡大部225の処理後の視差マップKに対し、空間座標・視差値変換部227bの処理を行う説明をしたが、空間座標・視差値変換部227bの処理は、復号化部222bの処理後の視差マップIに対して行い、スケーリング部224bに入力しても良い。この場合は、空間座標・視差値変換部227bに入力する保存時シフト量sは、制御部221bが記憶している保存時シフト量に拡大係数epの逆数を乗じたとする。
<第4の実施形態>
以下、図面を参照して、本発明の第4の実施形態について説明する。本実施形態における画像記録装置100は、第2の実施形態における画像記録装置100とは、視差マップ生成部102に変えて視差マップ生成部102cを備える点のみが異なる。また、本実施形態における画像再生装置200は、第1および第2の実施形態における画像再生装置200とは、画像処理部202に変えて画像処理部202cを備える点のみが異なる。その他の処理部については、第2の実施形態と同様であるため、詳細な説明は省略する。
図19は、本実施形態における視差マップ生成部102cの処理と、該処理により生成される視差値拡大係数を説明する概念図である。視差マップ生成部102cは、画像1aおよび画像2aから視差算出処理を行って視差マップを算出し、この視差マップの算出の後処理としてスケーリング処理を行って視差マップサイズを縮小する。図19は、視差マップサイズをm/n倍に縮小している例である。
このとき、画像1aと画像2a間の各画素の視差値が画素単位で縮小前の視差マップに格納されている。すなわち、縮小前の視差マップの各画素は画像1aの各画素に対応し、その画素値は画像1aと画像2a間の視差の値である。そのため、画像1aまたは画像2aの画像サイズと縮小前の視差マップサイズは同じである。また、出力される縮小後の視差マップサイズは画像1aまたは画像2aの画像サイズをm/n倍した画像サイズと同じである。また、縮小後の視差マップの各画素は、縮小後の視差マップを縮小前の画像1aの画像サイズに戻した(拡大した)場合の画像1aの各画素に対応し、その画素値(視差値)は画像1aと画像2a間の各画素の視差値と一致する。
ここで算出した視差マップaをファイルfに格納するので、画像1aまたは2aの画像サイズ(縦と横の各画素数)に縦横それぞれにm/n倍した画像サイズに縮小した視差マップが格納される。視差マップの視差値が本縮小率で縮小されて格納したことを記録するため、付属情報eとして前述の図14で示す視差値拡大係数(ExpansionCoefficient)に「1」を格納する。本実施形態の場合は、縮小前の視差マップの各画素が示す視差値は、画像1aと2a間の視差値と一致しており、その視差マップの画像サイズを縮小するため、縮小した視差マップの視差値は画像1aと2a間の視差と変わらないため、視差値拡大係数に「1」を格納する。
図20は、視差マップ生成部102cの構成を示す概略ブロック図である。視差マップ生成部102cは、視差マップ生成制御部121c、視差値算出部122、スケーリング部123cを含んで構成される。視差マップ生成制御部121cは、視差マップ生成に必要な画像サイズやウィンドウサイズ、探索数等の設定パラメータpと、視差マップを縮小するための縮小率dp(前述のm/nに相当)を記憶しており、視差値算出部122およびスケーリング部123cの制御を行ったり、生成条件情報cを生成したりする。
視差値算出部122は、画像1aおよび画像2aと、視差値算出パラメータから、第1の実施形態で説明した処理方法によって視差マップを算出し、スケーリング部123cに出力する。このとき、算出した視差マップの最大値と最小値を視差値算出情報caとして視差マップ生成制御部121cに送る。視差マップ生成制御部121cは、この視差値算出情報を記憶する。
スケーリング部123cは、視差値算出部122から出力された視差マップを視差マップ生成制御部121cから指定された縮小率dpで縮小処理を行い、視差マップaを生成する。ここでの縮小方法は、一般的に画像処理で用いられるニアレストネイバー法や、バイリニア法、バイキュービック法など、どのような方法であっても良い。
また、視差マップ生成制御部102cは、「1」を視差値拡大係数として記憶する。視差マップ生成制御部102cは、スケーリング部123cにて視差マップの全ての画素について縮小処理が算出し終えたことを検出すると、記憶している視差値拡大係数(この場合1)、視差マップの最大値および最小値、視差マップの画像サイズ等の視差マップ生成に関する情報を生成条件情報cとして出力する。
以上の説明では、縮小した視差マップに対応する画像は画像1aとしたが、画像2aを基準の画像として、画像2aに対応した視差マップを生成および記録しても良い。また、視差マップの縮小は、縦横同じ縮小率としたが、縦横個別の縮小率で縮小しても良い。その場合でも視差値拡大係数は、常に「1」を格納する。
以上説明した左右画像の画像サイズより視差マップサイズを小さく記録することにより、左右画像サイズと同サイズで視差マップを記録する場合と比べ、保存するデータサイズを小さくすることができ、その結果生成するファイルサイズを小さくすることができる。そのため、揮発性メモリ(SDRAMなど)のアクセス速度より遅い外部記憶装置(HDDや光ディスク、FLASHメモリなど)での記録速度や、ネットワーク上でのデータ転送速度を高速にできる(処理時間を短縮できる)という効果があり、ユーザーの使い勝手が大幅に向上する。
さらに、記録した画像および視差マップを読み出し、再生する場合に、記録した視差マップを拡大処理するだけで良く、視差値はそのまま利用することができるため、記録した視差マップの視差値を記録した画像に対応する視差値に変換する処理が不要である。そのため、再生時の処理量や回路規模の削減を行うことができ、高速に処理することができる。
図21は、画像処理部202cの構成を示す概略ブロック図である。画像処理部202cは、図17の画像処理部202bとは、視差値拡大部225bがないことと、制御部221bに変えて制御部221cを備える点のみが異なり、それ以外は画像処理部202bと同様であるため、詳細な説明は省略する。
画像処理部202cの制御部221cは、縮小された視差マップbの画像サイズと画像1cの画像サイズから縮小された視差マップbの拡大率epを算出し、その拡大率をスケーリング部224bへ送る。スケーリング部224bから出力された視差マップLの各画素の画素値(視差値)は、撮影時の画像1aと画像2a間の視差と同じである(そのため、視差値拡大係数が1となっている)ため、画像処理部202bの視差値拡大部225bの処理が不要となる。
[第4の実施形態の変形例]
第4の実施形態の変形例として、画像再生装置200が、画像処理部202cに変えて、画像処理部202c2を備える例を説明する。 図22は、本変形例における画像処理部202c2の構成を示す概略ブロック図である。画像処理部202c2は、図18の画像処理部202b2とは、視差値拡大部225bがないことと、制御部221bに変えて制御部221cを備えることのみが異なり、その他は同様であるので、詳細な説明は省略する。
画像処理部202c2の制御部221cは、縮小された視差マップbの画像サイズと画像1cの画像サイズから縮小された視差マップbの拡大率を算出し、その拡大率をスケーリング部224bへ送る。スケーリング部224bから出力された視差マップJの各画素の画素値(視差値)は、撮影時の画像1aと画像2a間の視差と同じである(そのため、視差値拡大係数が1となっている)ため、画像処理部202b2の視差値拡大部225bの処理が不要となる。
以上、画像1aを基準画像とした視点移動画像の生成方法を説明したが、これを利用して立体画像を生成することが可能である。例えば、画像1cを左画像とし、画像1cを右視点移動させた画像を前記のいずれかの方法により生成することで画像1cを左画像、視点移動した画像を右画像として立体視が可能となる。さらに、右視点画像生成時の視点移動量を変化させることで、立体視時の立体強度を変更し、視聴者が見やすい立体映像を作成することが可能となる。
さらに、前記の立体画像生成方法では、画像1cのみを用いたが、画像1cおよび画像2cの両方を用いて立体画像を生成しても良い。例えば、画像2cを右画像とし、画像1cを前記のいずれかの方法により、視点移動させた画像を生成して、これを左画像とすることで、立体視時の立体強度を変更し、視聴者が見やすい立体映像を作成することが可能となる。これは、画像1cのみを用いた場合と比較し、画像1cの視点移動量が少ないことから、オクルージョン領域の発生を抑えることが可能であるため、生成した立体映像を高画質にすることができる。
また、第3、第4の実施形態のように、縮小した視差マップを記録しておけば、小さいディスプレイなどの再生時に画像1cおよび画像2cのみスケーリング(例えば縮小処理)すればよく、視差マップのスケーリング処理は不要とすることができる。そのため、視差マップの縮小率は、縮小後の視差マップのサイズと、表示するディスプレイの解像度(縦横の画素数)が一致する縮小率とすることで、再生時に視差マップのスケーリング処理を行わずに使用することができる。
第4の実施形態の構成で行う場合は、視差値拡大処理を行えば良く、画像1cまたは画像2cの縮小率で視差マップの視差値を変換(視差値を縮小率で縮小する)すれば良い。さらに、第3の実施形態の構成とすることで、スケーリング処理だけでなく、視差値拡大部による視差マップの視差値を変換する処理も不要となり、記録した視差マップをそのまま使用することができる。
また、画像1cまたは画像c2の画像サイズは、表示するディスプレイサイズに合わせて記録しても良いし、カメラで撮影できる最大解像度でも良いし、自由なサイズであっても良い。さらに、第1の実施形態の保存時シフト量の補正を行った画像を、第2以降の実施形態の画像1cまたは画像2cとして処理しても良い。
以上の実施形態の説明におけるカメラの構成は左右配置であったが、上下に配置した構成であってもよい。さらに2つのカメラだけでなく2を超える数のカメラであっても良い。
また、上述の各実施形態では、ファイルfは図9に示す構成であるとして説明したが、図23に示すような構成であってもよい。この場合、視差マップbも、マルチピクチャフォーマットの規格であるMPF規格に準じて、3番目の画像データとして記録される。そのため、MPフォーマット付属情報21のMP Index IFDには、視差マップbに関する管理情報も記録される。また、図24に示すような構成であってもよい。この場合、視差マップbは、SOI、Exif付属情報、EOIとともに、画像1cの複数のAPPn(nは自然数)に、分割して格納される。
また、図1における画像記録装置100、画像再生装置200の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、各装置の機能を実現してもよいし、専用のハードウェアにて実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計変更等も含まれる。
10…画像伝送システム
100…画像記録装置
101…画像処理部
102、102b、102c…視差マップ生成部
103…符号化部
104…付属情報生成部
105…画像ファイル生成部
106…視差画像取得部
121、121b…視差マップ生成制御部
122、122b…視差値算出部
123b、124b、123c…スケーリング部
200…画像再生装置
201…ファイル取得部
202、202b、202b2、202c、202c2…画像処理部
204…画像出力部
211…ファイル入力部
212…付属情報抽出部
213…第1画像抽出部
214…第2画像抽出部
215…視差マップ抽出部
221b、221c…制御部
222b…復号化部
223b…シフト画像補正部
224b…スケーリング部
225b…視差値拡大部
226b…画像変換部
227b…空間座標・視差値変換部
300…ネットワーク

Claims (22)

  1. 第1の画像と、前記第1の画像と視差を有する第2の画像とを取得する画像取得部と、
    前記第1の画像を基準とした、前記第2の画像と間の視差を示す視差マップを取得する視差マップ取得部と、
    前記第1の画像と前記視差マップとの関係を示す付属情報を生成する付属情報生成部と、
    前記付属情報と前記第1の画像を表す第1のデータと前記第2の画像を表す第2のデータと前記視差マップを表す視差データとを含む、一つのファイルを生成するファイル生成部と
    を具備することを特徴とする画像ファイル生成装置。
  2. 前記付属情報は、前記第1のデータにおける画素の配置と、前記視差データとの関係を示す情報であることを特徴とする請求項1に記載の画像ファイル生成装置。
  3. 前記付属情報は、前記第1のデータにおける画素から、該画素に対応する前記視差データにおける画素までのシフト量を示す情報であることを特徴とする請求項2に記載の画像ファイル生成装置。
  4. 前記付属情報は、前記第1のデータにおける1画素当たりの画角と、前記視差データにおける1画素当たりの画角との関係を示す情報であることを特徴とする請求項2に記載の画像ファイル生成装置。
  5. 前記付属情報は、前記第1のデータにおける1画素当たりの画角と、前記視差データの画素値との関係を示す情報であることを特徴とする請求項2に記載の画像ファイル生成装置。
  6. 前記付属情報は、前記視差マップが前記第1の画像を基準としていることを示す情報を含むこと
    を特徴とする請求項1に記載の画像ファイル生成装置。
  7. 前記視差マップが前記第1の画像を基準としていることを示す情報は、前記第1のデータに関連付けられて前記ファイルに格納される情報であって、前記視差データの前記ファイル中の位置を示す情報であることを特徴とする請求項6に記載の画像ファイル生成装置。
  8. 前記付属情報は、前記視差データが前記ファイルに含まれているか否かを示す情報を含むこと
    を特徴とする請求項1に記載の画像ファイル生成装置。
  9. 前記視差データの前記ファイルにおける格納位置は、前記第1のデータおよび前記第2のデータよりも、後であること
    を特徴とする請求項1に記載の画像ファイル生成装置。
  10. 第1の画像を表す第1のデータと、前記第1の画像と視差を有する第2の画像を表す第2のデータと、前記第1の画像を基準とした前記第2の画像と間の視差を示す視差マップを表す視差データと、前記第1の画像と前記視差マップとの関係を示す付属情報とを含むファイルを取得するファイル取得部と、
    前記取得したファイルから、少なくとも前記第1のデータと前記視差データと前記付属情報とを抽出するデータ抽出部と
    を具備することを特徴とする画像ファイル読込装置。
  11. 前記付属情報は、前記第1のデータにおける画素の配置と、前記視差データとの関係を示す情報であることを特徴とする請求項10に記載の画像ファイル読込装置。
  12. 前記付属情報は、前記第1のデータにおける画素から、該画素に対応する前記視差データにおける画素までのシフト量を示す情報であることを特徴とする請求項11に記載の画像ファイル読込装置。
  13. 前記付属情報は、前記第1のデータにおける1画素当たりの画角と、前記視差データにおける1画素当たりの画角との関係を示す情報であることを特徴とする請求項11に記載の画像ファイル読込装置。
  14. 前記付属情報は、前記第1のデータにおける1画素当たりの画角と、前記視差データの画素値との関係を示す情報であることを特徴とする請求項11に記載の画像ファイル読込装置。
  15. 前記付属情報は、前記視差マップが前記第1の画像を基準としていることを示す情報を含むこと
    を特徴とする請求項10に記載の画像ファイル読込装置。
  16. 前記視差マップが前記第1の画像を基準としていることを示す情報は、前記第1のデータに関連付けられて前記ファイルに格納される情報であって、前記視差データの前記ファイル中の位置を示す情報であることを特徴とする請求項15に記載の画像ファイル読込装置。
  17. 前記付属情報は、前記視差データが前記ファイルに含まれているか否かを示す情報を含むこと
    を特徴とする請求項10に記載の画像ファイル読込装置。
  18. 前記視差データの前記ファイルにおける格納位置は、前記第1のデータおよび前記第2のデータよりも、後であること
    を特徴とする請求項10に記載の画像ファイル読込装置。
  19. 第1の画像と、前記第1の画像と視差を有する第2の画像とを取得する画像取得過程と、
    前記第1の画像を基準とした、前記第2の画像と間の視差を示す視差マップを取得する視差マップ取得過程と、
    前記第1の画像と前記視差マップとの関係を示す付属情報を生成する付属情報生成過程と、
    前記付属情報と前記第1の画像を表す第1のデータと前記第2の画像を表す第2のデータと前記視差マップを表す視差データとを含む、一つのファイルを生成するファイル生成過程と
    を有することを特徴とする画像ファイル生成方法。
  20. 第1の画像を表す第1のデータと、前記第1の画像と視差を有する第2の画像を表す第2のデータと、前記第1の画像を基準とした前記第2の画像と間の視差を示す視差マップを表す視差データと、前記第1の画像と前記視差マップとの関係を示す付属情報とを含むファイルを取得するファイル取得過程と、
    前記取得したファイルから、少なくとも前記第1のデータと前記視差データと前記付属情報とを抽出するデータ抽出過程と
    を具備することを特徴とする画像ファイル読込方法。
  21. コンピュータを、
    第1の画像と、前記第1の画像と視差を有する第2の画像とを取得する画像取得部、
    前記第1の画像を基準とした、前記第2の画像と間の視差を示す視差マップを取得する視差マップ取得部、
    前記第1の画像と前記視差マップとの関係を示す付属情報を生成する付属情報生成部、
    前記付属情報と前記第1の画像を表す第1のデータと前記第2の画像を表す第2のデータと前記視差マップを表す視差データとを含む、一つのファイルを生成するファイル生成部
    として機能させるためのプログラム。
  22. コンピュータを、
    第1の画像を表す第1のデータと、前記第1の画像と視差を有する第2の画像を表す第2のデータと、前記第1の画像を基準とした前記第2の画像と間の視差を示す視差マップを表す視差データと、前記第1の画像と前記視差マップとの関係を示す付属情報とを含むファイルを取得するファイル取得部、
    前記取得したファイルから、少なくとも前記第1のデータと前記視差データと前記付属情報とを抽出するデータ抽出部
    として機能させるためのプログラム。
JP2011229663A 2011-10-19 2011-10-19 画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラム Pending JP2013090185A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011229663A JP2013090185A (ja) 2011-10-19 2011-10-19 画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラム
PCT/JP2012/077089 WO2013058359A1 (ja) 2011-10-19 2012-10-19 画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011229663A JP2013090185A (ja) 2011-10-19 2011-10-19 画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2013090185A true JP2013090185A (ja) 2013-05-13

Family

ID=48141002

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011229663A Pending JP2013090185A (ja) 2011-10-19 2011-10-19 画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラム

Country Status (2)

Country Link
JP (1) JP2013090185A (ja)
WO (1) WO2013058359A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018078496A (ja) * 2016-11-10 2018-05-17 株式会社金子製作所 三次元動画像表示処理装置、動画情報記録媒体、動画情報提供サーバ、並びにプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0568268A (ja) * 1991-03-04 1993-03-19 Sharp Corp 立体視画像作成装置および立体視画像作成方法
JP3157384B2 (ja) * 1994-06-20 2001-04-16 三洋電機株式会社 立体映像装置
JP2011502375A (ja) * 2007-10-10 2011-01-20 韓國電子通信研究院 ステレオスコピックデータの保存および再生のためのメタデータ構造ならびにこれを利用するステレオスコピックコンテンツファイルの保存方法
KR101530713B1 (ko) * 2008-02-05 2015-06-23 삼성전자주식회사 영상 파일을 생성하고 표시하기 위한 장치 및 방법
JP2011166757A (ja) * 2010-01-15 2011-08-25 Sony Corp 送信装置、送信方法および受信装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018078496A (ja) * 2016-11-10 2018-05-17 株式会社金子製作所 三次元動画像表示処理装置、動画情報記録媒体、動画情報提供サーバ、並びにプログラム

Also Published As

Publication number Publication date
WO2013058359A1 (ja) 2013-04-25

Similar Documents

Publication Publication Date Title
JP5679978B2 (ja) 立体視用画像位置合わせ装置、立体視用画像位置合わせ方法、及びそのプログラム
JP5414947B2 (ja) ステレオ撮影装置
JP4737573B2 (ja) 3次元画像出力装置及び方法
US8373745B2 (en) Image processing apparatus, image display apparatus, image apparatus, and image processing method
JP5002047B2 (ja) 立体画像データ再生装置
WO2004093469A1 (ja) 立体視画像処理装置、立体視画像提供方法、画像表示方法
JP4669032B2 (ja) 画像処理装置および方法並びにプログラム
JP2011091481A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5338228B2 (ja) 画像生成装置、及びプログラム
JP4529556B2 (ja) 立体視用の画像ファイルを生成する電子機器、3次元画像データを生成する電子機器、画像ファイル生成方法、3次元画像データ生成方法および画像ファイルのファイル構造
KR101615152B1 (ko) 화상 처리 장치 및 방법, 화상 재생 장치 및 방법, 그리고 프로그램
CN105282534B (zh) 用于嵌入立体图像的系统及方法
WO2013058359A1 (ja) 画像ファイル生成装置、画像ファイル読込装置、画像ファイル生成方法、画像ファイル読込方法およびプログラム
JP5001960B2 (ja) 3次元画像表示装置及び方法
JP5310638B2 (ja) 電子機器、プリンタ、画像ファイル生成方法、画像データ読み出し方法
JP5407962B2 (ja) 立体視画像処理装置、及び立体視画像生成方法
JP2011211717A (ja) 3次元画像出力装置及び方法
JP2013150071A (ja) 符号化装置、符号化方法、プログラム及び記憶媒体
JP2005229280A (ja) 画像処理装置および方法並びにプログラム
JP6022212B2 (ja) 空間情報算出システム
JP5682656B2 (ja) 距離情報補正装置、画像生成装置、距離情報補正方法、及び、プログラム
JP5243562B2 (ja) 画像処理装置および方法並びにプログラム