JPWO2003092303A1 - マルチメディア情報生成装置およびマルチメディア情報再生装置 - Google Patents
マルチメディア情報生成装置およびマルチメディア情報再生装置 Download PDFInfo
- Publication number
- JPWO2003092303A1 JPWO2003092303A1 JP2004500514A JP2004500514A JPWO2003092303A1 JP WO2003092303 A1 JPWO2003092303 A1 JP WO2003092303A1 JP 2004500514 A JP2004500514 A JP 2004500514A JP 2004500514 A JP2004500514 A JP 2004500514A JP WO2003092303 A1 JPWO2003092303 A1 JP WO2003092303A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- dimensional
- data
- information
- multimedia information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/22—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of characters or indicia using display control signals derived from coded signals representing the characters or indicia, e.g. with a character-code memory
- G09G5/24—Generation of individual character patterns
- G09G5/28—Generation of individual character patterns for enhancement of character form, e.g. smoothing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/156—Mixing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
- H04N13/178—Metadata, e.g. disparity information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
- H04N13/183—On-screen display [OSD] information, e.g. subtitles or menus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/189—Recording image signals; Reproducing recorded image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/261—Image signal generators with monoscopic-to-stereoscopic image conversion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/356—Image reproducers having separate monoscopic and stereoscopic modes
- H04N13/359—Switching between monoscopic and stereoscopic modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/302—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
- H04N13/31—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
Abstract
Description
この発明は、3次元表示するための画像データをファイルに生成する際に画像データに属性情報を付随させるマルチメディア情報生成方法、そのデータを再生するマルチメディア情報再生装置に関するものである。
背景技術
従来、3次元画像を表示する様々な方法が提案されてきた。その中でも一般的に用いられているのは両眼視差を利用する「2眼式」と呼ばれるものである。すなわち、両眼視差を持った左目用画像と右目用画像を用意し、それぞれ独立に左右の眼に投影することにより立体視を行う。
図41は、この2眼式の代表的なものの1つである「時分割方式」を説明するための概念図である。
この時分割方式では、図41のように、左目用画像と右目用画像が垂直1ラインおきに交互にならんだ形に配置し、左目用画像を表示するフィールドと右目用画像を表示するフィールドを交互に切り替えて表示するものである。左目用画像及び右目用画像は通常の2次元表示時に比べて垂直解像度が半分になっている。観察者はディスプレイの切り替え周期に同期して開閉するシャッタ式のメガネを着用する。ここで使用するシャッタは、左目用画像が表示されている時は左目側が開いて右目側が閉じ、右目用画像が表示されている時は左目側が閉じて右目側が開く。このようにすることにより左目用画像は左目だけで、右目用画像は右目だけで観察されることになり、立体視を行うことができる。
図42Aおよび42Bは、2眼式のもう1つの代表的な方式である「パララクスバリア方式」を説明するための概念図である。
図42Aは、視差が生じる原理を示す図である。一方、図42Bは、パララクスバリア方式で表示される画面を示す図である。
図42Bに示すような左目用画像と右目用画像のペアがストライプ状に並んだ画像を、図42Aに示すように、画像表示パネル91に表示し、この画像に対応した間隔でスリットを持ついわゆるパララクスバリア92をその前面に置くことにより、左目用画像は左目93だけで、右目用画像は右目94だけで観察することにより立体視を行う。
ところで、特開平11−41627号公報において、パララクスバリア方式と同様の原理に基づくレンチキュラ方式の3次元表示に用いる記録データ形式の一例が開示されている。
図43Aおよび43Bは、このような「レンチキュラ方式」の記録データ形式の一例を示す概念図である。
すなわち、図43Aに示す左目用画像101と図43Bに示す右目用画像102から、それぞれを間引きして図43Cに示す1枚の混合画像103を作って記録し、再生時にはこの混合画像103を並べ替えることにより図42Bに示したような合成画像が作成される。
上記の2眼式の例に限らず、3次元画像を表示するには様々な方法があり、一般的に異なる表示方式間での記録データの互換性はない。
例えば、時分割方式用に記録されたデータをそのままパララクスバリア方式の3次元ディスプレイに表示することはできない。従って、従来の3次元表示システムにおいては、最初から表示方法を固定したデータ記録が行われており、記録データに汎用性を持たせることは考えられていない。例えば、パララクスバリア方式の3次元ディスプレイを使うと決めたら、そのディスプレイに表示するためのデータを記録媒体に記録するのだが、他の方式のディスプレイに表示する可能性などは考えられていないため、記録データがパララクスバリア方式のためのデータだという情報はファイル上に記録されない。
表示方式以外にも視点数や間引き方法など、3次元表示に必要な情報はいろいろあるが、表示形式を1つに固定してしまっているためにそれらの情報もファイルには記録されない。いつも同じ形式を使うなら、あえてその情報を記録する必要がないからだが、このために記録データの汎用性が著しく損なわれている。例えば、パララクスバリア方式(あるいはレンチキュラ方式)用のデータを記録する場合に限っても、左目用画像と右目用画像を別々のシーケンスとして記録することもできるし、図43Cのような左目用画像と右目用画像が画面半分ずつ左右に並んだ混合画像を記録することもできるし、図42Bのような左目用画像と右目用画像のペアがストライプ状に並んだ合成画像を記録することもでき、当然記録形式が違えばその後表示するための処理方法も異なるが、記録されたデータからはどの形式で記録されたかを知ることができないため、第三者がそのデータを手にした時、どのような処理によって表示すればよいのかがわからないという問題がある。
発明の開示
本発明の目的は、3次元表示のための画像データに汎用性を持たせたマルチメディア情報生成方法を提供することにある。
本発明の他の目的は、3次元表示のための画像データに汎用性を持たせたマルチメディア情報を再生するためのマルチメディア情報再生装置を提供することにある。
上記目的を達成するため、本発明のある局面に従うと、2次元画像および/または3次元画像を複数個含むマルチメディア情報を生成するマルチメディア情報生成方法であって、マルチメディア情報に3次元画像データが含まれる場合、マルチメディア情報は、3次元画像の表示を制御する制御情報を含む。
この発明の他の局面に従うと、複数のモジュールから成るマルチメディア情報を生成するマルチメディア情報生成方法であって、モジュールは2次元画像および/または3次元画像を複数個含み、モジュールに3次元画像データが含まれる場合、モジュールは、3次元画像の表示を制御する制御情報を含む。
好ましくは、制御情報は、個々の3次元画像に対応して存在する。
好ましくは、制御情報は、複数の3次元画像に対応して存在する。
好ましくは、少なくとも2次元画像および/または3次元画像の各々を区別する識別子をあらかじめ設定し、制御情報は、3次元画像の識別子を示す識別情報を含む。
好ましくは、少なくとも2次元画像および/または3次元画像の各々を区別する識別子をあらかじめ設定し、制御情報は、3次元画像の識別子を示す識別情報を含む。
好ましくは、制御情報は、複数の識別子を含む。
好ましくは、識別子の所定の値は、マルチメディア情報に含まれる画像が全て3次元画像であることを示す。
好ましくは、識別子の所定の値は、モジュールに含まれる画像が全て3次元画像であることを示す。
したがって、この発明によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、3次元画像データと共に、3次元画像データを表示するための3次元画像表示制御情報をマルチメディア情報ファイルとして記録または構成するので、3次元画像データに汎用性を持たせ、1種類のマルチメディア情報ファイルで様々な3次元表示方式に柔軟に対応することが可能となる。
この発明のさらに他の局面に従うと、2次元画像あるいは3次元画像を複数個含むマルチメディア情報を再生するマルチメディア情報再生装置であって、2次元画像から3次元画像を生成する生成部と、生成部で生成された3次元画像と、マルチメディア情報に含まれる3次元画像を合成する第1の合成部を備える。
好ましくは、マルチメディア情報再生装置は、複数の2次元画像を合成する第2の合成部をさらに備え、生成部は、第2の合成部で合成された2次元画像データから3次元画像データを生成する。
したがって、この発明によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、マルチメディア情報ファイル中に含まれる3次元画像表示制御情報を解析することにより、3次元画像データと2次元画像データとを表示方法に合わせて適切に変換し、正しく表示することが可能となる。
また、上記目的を達成するため、本発明の他の局面に従うと、2次元画像および/または3次元画像を複数個含むマルチメディア情報を再生するマルチメディア情報再生装置であって、マルチメディア情報に含まれる図形および文字情報を復号しページ画像を得るページデータ復号部と、ページ画像を3次元画像に変換する2D/3D変換部と、2D/3D変換部で生成された3次元画像と、マルチメディア情報に含まれる3次元画像を合成する第1の合成部とを備える。
好ましくは、複数の2次元画像を合成する第2の合成部をさらに備え、2D/3D変換部は、第2の合成部で合成された2次元画像データを3次元画像データに変換する。
好ましくは、文字情報に対応した第1のフォントイメージと第2のフォントイメージを備え、文字情報を3次元表示する際に、第1のフォントイメージを用い、文字情報を2次元表示する際に第2のフォントイメージを用いる。
好ましくは、ページデータ復号部において、第1または第2のフォントイメージを用いてページ画像を得る。
好ましくは、2D/3D変換部において、第1または第2のフォントイメージを用いて3次元画像を得る。
好ましくは、第1および第2のフォントイメージを蓄積するフォントイメージ蓄積部と、第1または第2のフォントイメージを選択するスイッチとをさらに備える。
好ましくは、第2のフォントイメージを第1のフォントイメージに変換するフォント変換部をさらに備える。
好ましくは、第1のフォントイメージは複数の濃淡情報から成り、文字の太さが見かけ上細くなるように配置されている。
したがって、本発明のマルチメディア情報再生装置によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、マルチメディア情報ファイル中に含まれる3次元画像表示制御情報を解析することにより、3次元画像データと2次元画像データを表示方法に合わせて適切に変換し、正しく表示することが可能となる。
発明を実施するための最良の形態
以下、本発明の構成、作用および効果を図に従って説明する。なお、図中同一または相当部分には同一符号を付して、その説明は繰返さない。
図1A〜1Cは、本発明の実施の形態において生成されるマルチメディア情報ファイルの構造を示す図である。
マルチメディア情報ファイルは3次元画像データと2次元画像データのどちらを含んでいても良いが、以下では3次元画像データを含む場合の例について説明する。
まず、図1Aを参照して、マルチメディア情報ファイルは、ヘッダ制御情報1と、3次元表示制御情報2と、3次元画像データ3との少なくとも3つの構成要素を含んでいる。
ヘッダ制御情報1は、例えば画像のサイズなど3次元画像データ3を再生するために必要な制御情報である。3次元表示制御情報2は、得られた3次元画像を所望の3次元形式に変換するために必要な制御情報である。また、3次元画像データ3は、3次元画像データそのものである。
3次元画像データ3は、静止画データでも動画データであってもよい。また、マルチメディア情報ファイルには音声データを一緒に記録してもよいが、簡単のためここでは省略する。また、これ以外の付加情報を含んでもよい。
なお、マルチメディア情報ファイルが2次元画像データを含んでいる場合には、3次元表示制御情報は付加されない。
それぞれの構成要素はオブジェクトと呼ばれる。各オブジェクトは、図1Bに示すような形をしている。すなわち、まずオブジェクトを識別するためのオブジェクトID4と、オブジェクトサイズ5とが書かれ、その後オブジェクトサイズ5で規定される長さのオブジェクトデータ6が続く。オブジェクトID4とオブジェクトサイズ5を合わせてオブジェクトヘッダと呼ぶ。このオブジェクトは階層構造をとることが可能である。
なお、図1Aにおいて、ヘッダ制御情報1、3次元表示制御情報2及び3次元画像データ3は、本来、それぞれヘッダ制御情報オブジェクト1、3次元表示制御情報オブジェクト2及び3次元画像データオブジェクト3と呼ぶべきものだが、呼称が長くなるのを避けるため、ここでは「オブジェクト」という表記を省略する。
図1Cは、3次元画像データ3の構造の一例を示す図である。3次元画像データ3では、オブジェクトIDやオブジェクトサイズを含むオブジェクトヘッダ7の後に、複数のパケット8が続く。パケット8はデータを通信する際の最小単位であり、各パケットはパケットヘッダとパケットデータにより構成される。なお、3次元画像データ3は必ずしもパケット化されている必要はなく、一続きのデータ列であってもよい。
図2は、本発明のマルチメディア情報生成装置の一例である画像データ記録装置100の構成を示すブロック図である。
図2を参照して、画像データ記録装置100は、3次元表示制御情報生成部11と、ファイル生成部12とを備える。
3次元表示制御情報生成部11は、必要なパラメータを外部から受け取り、3次元表示制御情報を1つのオブジェクトとして生成する。ファイル生成部12は3次元表示制御情報と3次元画像データとを受け取り、さらにヘッダ制御情報を付け加えることによって、図1A〜1Cに示したようなマルチメディア情報ファイルを生成し出力する。ここでの3次元画像データは非圧縮データであってもよいし、圧縮符号化されたデータであってもよい。
なお、生成されたマルチメディア情報ファイルは記録媒体13に記録してもよいし、直接通信路に送出してもよい。
次に、本発明のマルチメディア情報再生装置の一例として、本実施の形態における画像データ再生装置について説明する。
図3は、図1Aに示したような3次元画像データを含むマルチメディア情報ファイルが入力される画像データ再生装置200の構成を説明するためのブロック図である。
図3を参照して、画像データ再生装置200は、ファイル構造解析部21と、ファイルヘッダ解析部22と、データ再生部23と、表示部24と、3次元表示制御情報解析部25と、データ変換部26とを備える。マルチメディア情報ファイルは、記録媒体13から、あるいは通信路から供給される。
入力されたマルチメディア情報ファイルは、ファイル構造解析部21でヘッダ制御情報、3次元画像データ及び3次元表示制御情報のそれぞれが認識され、ヘッダ制御情報はファイルヘッダ解析部22へ、3次元画像データはデータ再生部23へ、3次元表示制御情報は3次元表示制御情報解析部25へそれぞれ送られる。
ファイルヘッダ解析部22ではヘッダ制御情報の解析を行い、3次元画像データの再生に必要な情報をデータ再生部23に渡す。データ再生部23では、データの逆多重化やパケットからのデータ取り出し、さらにデータが圧縮符号化されている場合にはその復号を行う。3次元表示制御情報解析部25では3次元表示制御情報を解析し、得られた情報をデータ変換部26に渡す。データ変換部26は所望の3次元表示形式に合うように復号された3次元画像データを変換し、表示部24へ出力する。表示部24は再生装置から独立した単体の3次元ディスプレイであってもよい。
図4A〜4Cは、3次元表示制御情報2に記述する具体的な情報を説明するための概念図である。
図4Aにその一部を示すように、3次元表示制御情報2に記述する具体的な情報には、視点数、各視点位置に対応するストリーム、間引き方向、カメラ配置、視差量シフト限度、枠表示の有無、枠画像データ、視差像切替ピッチ、サンプリングパターン、画像配置、反転の有無などがある。
以下、図4Aに示した3次元表示制御情報について、さらに詳細に説明する。
図4Aにおける「視点数」とは、文字通り視点すなわち視差像の数であり、上述の2眼式のデータであれば2となる。
カメラを用いた撮影ではカメラが眼の役割をするので、撮影時に使用したカメラの数ということもできる。人間の眼は2つしかないので、視点数が3以上の場合、データとしては冗長であるが、観察者の移動に合わせて観察像が変化するのでより自然な立体視が可能となる。
図4Aにおいて視点数を記述した行の次の2行(視点位置L、視点位置R)は、それぞれ左の視点位置と右の視点位置に対応する「ストリーム番号」を示している。
ここで、「ストリーム番号」についてさらに詳しく説明する。
図4Bに示すように、音声と左目用画像と右目用画像のそれぞれが別のストリームとなっており、それをパケット多重化して記録する場合を考えると、多重化されたデータにおいて各パケットが音声データなのか左目用画像データなのか右目用画像データなのかを識別するために、各ストリームに固有のストリーム番号が付与される。
図4Bの例では、音声ストリームにはストリーム番号1、左目用画像データにはストリーム番号2、右目用画像データにはストリーム番号3を対応させ、各パケットヘッダにこのストリーム番号を書くことによってデータ種別を明示する。
このストリーム番号を用いることにより、図4Aにおいては、左目用画像はストリーム番号2、右目用画像はストリーム番号3のデータであることを示している。なお、従来の2次元画像データを取り扱うマルチメディア情報ファイルにおいては、多重化されたストリームに対しては音声と画像の区別しか必要ないため、視点位置との対応を記述したこの情報は3次元画像データを取り扱う場合に特有のものである。
以下、さらに図5A〜5Cに示す概念図を用いて、上記「視点数」、「視点位置」について、さらに説明しておく。
図5Aは、2眼式の例を示しており、図5Bと図5Cは6眼式の例を示している。図5Aの2眼式の場合は、左と右という指定の仕方で視点位置を特定することができる。
これに対して、6眼式の場合、図5Bのように、たとえば、左側において、中央から数えて何番目であるかに応じて、「L1」、「L2」、「L3」と表現する。右側も同様である。
あるいは、6眼式の場合、図5Cのように左からの通し番号で何番目と表現することも可能である。さらには、図5Bおよび図5C以外の種々の方法が考えられる。
視点位置をどのように表現するかについては、あらかじめ送信側と受信側で規格あるいは決まり事として共有されている必要がある。何の取り決めもなしでは、例えばch3と書いてあっても左から3番目なのか右から3番目なのかがわからなくなってしまうからである。
図6は、6眼式の場合において、視点位置と対応するストリームの記述の例を示す概念図であり、図4Aと対比される図である。
図6では、音声ストリームはストリーム番号1であって、画像ストリームについては、たとえば、視点位置1〜6にストリーム番号2〜7を対応させている。そして、各パケットヘッダにこのストリーム番号を書くことによってデータ種別を明示する。
一方、図7Aおよび7Bは、左目用画像と右目用画像が同じストリームとなっている場合において、視点位置と対応するストリームの記述の例を示す概念図である。
図7Aに示すように、視点位置Lと視点位置Rには同じストリーム番号(この場合はストリーム番号2)を記述する。この時の多重化データは図7Bに示すようになり、複数の視差像が1枚の画像に合成されている3次元画像データを記録または伝送する場合には、この形態を用いるとよい。
ここで、再び、図4A〜4Cに戻って、図4Aにおける「間引き方向」とは、データを間引いた方向を示すものである。
例えば、上述した「パララクスバリア方式(あるいはレンチキュラ方式)」において、図42Bのように左目用画像と右目用画像のペアが縦ストライプ状に並んでいるような画像を作成する場合、左目用画像と右目用画像のそれぞれは通常の2次元画像と比較して水平方向の解像度が半分になっている。この場合は、「間引き方向」には、水平方向に間引きされているという情報を記述する。これは左目用画像と右目用画像がそれぞれ独立した2つのストリームであるか、上述した図43Cのような混合画像の形になった1つのストリームであるかには関係しない。
一方、上述した図41は、垂直方向に間引きが行われている画像を示している。したがって、図41の様な場合では、「間引き方向」には、垂直方向に間引きされているという情報を記述する。
また、図43A、43Bのように間引きしていない画像をそのまま伝送し、表示する直前に間引く場合もあり、その場合はファイルに記録された状態では間引きされていないので、間引き方向の情報としては「間引きなし」と記述する。
なお、この間引き方向のようにパラメータを数値で表現することが困難な場合、図4Cに示すようなテーブルを設定し、そのインデックスを記述するという方法を取ることが望ましい。
例えば、間引き方向が水平方向の場合は、図4Aの間引き方向の欄に「1」と記述すればよい。この際、インデックスとその意味するものを対応づけた図4Cのようなテーブルは、送信側と受信側で規格あるいは決まり事として共有されている必要がある。このような表現方法は他のパラメータにも適用することができる。
さらに、図4Aにおける「カメラ配置」とは複数のカメラをどのように並べて撮影したかを示すものであり、平行型(parallel)、集中型(convergent)、発散型(divergent)の3つに大別される。
上述した図5A〜5Cは平行型の例であり、各カメラの光軸が平行になるように配置されたものである。
図8A〜8Cは、「カメラ配置」の他の構成例を示す概念図である。
図8Aと図8Bは集中型の例であり、全てのカメラの光軸がある1点に集まるように配置されたものである。
一方、図8Cは発散型の例であり、全てのカメラの光軸がある1点から出ていくように配置されたものである。
ここで、図8Aは2眼式の、図8B、Cは6眼式の例を示している。この情報は視点補間や3次元モデル構築の際に活用される。
次に、再び図4A〜4Cに戻って、図4Aにおける「視差量シフト限度」について説明する。
一般的に、図41や図42Aおよび42Bを用いて説明したような両眼視差を利用して立体視するような表示においては、視差量を変化させることにより奥行き感を調整することができる。
視差量を変化させるには、具体的には、例えば図42Bに示す合成画像において左目用画像はそのままにしておき、右目用画像だけを左右どちらかにずらすことにより実現できる。このように画像を左右にずらすことにより視差量を変化させると、表示画面の幅は限られていることから、ずらした分だけ画面の外にはみ出ることになり、その部分は表示できなくなる。従って、極端なずらし量を許すと画像の作成者が是非見てもらいたいと思っているものが表示されなくなる事態が発生する。このため、それを防ぐためにずらし量に制限を設ける。これが「視差量シフト限度」であり、例えば±16ピクセルというように範囲指定する。
図4Aにおける「枠表示の有無」は、3次元画像データの周囲に枠画像を表示するかどうかを指定する情報である。この枠画像は画面に変化を付けたり、面白味を付加するため、あるいは立体視をしやすくするために表示するものである。
図9Aおよび9Bは、枠画像の構成を説明するための概念図である。
図9Aは、枠画像を表示しない状態を示し、画面全体が通常の3次元画像表示領域31であり、ここではその幅をWとする。
これに対し、図9Bは、枠画像を表示した状態である。画面全体の大きさは図9Aと変わらないが、画面の外周には幅Δdの枠画像33が表示され、その内側が3次元画像表示領域32となる。したがって、枠画像を表示しない場合と比較して、枠画像を表示した場合には枠の分だけ3次元画像表示領域が狭くなり、3次元画像表示領域32の幅をW1とすると、W=W1+2・Δdの関係がある。なお、枠画像33の四辺の幅は各辺によって異なっていてもよい。また、枠画像33はそれ自体が立体視できるような3次元的な枠でもよいし、平面的に見える2次元的な枠でもよい。
このとき表示する枠画像データは、再生装置にあらかじめ準備しておいてもよいし、マルチメディア情報ファイルの中に含めて3次元画像データと一緒に送るようにしてもよい。
図10A〜10Cは、このような枠画像を表示させるために「枠画像データ」を供給する構成を説明するためのブロック図である。
まず、図10Aは、画像データ再生装置200に、「枠画像データ」を予め準備しておく場合の一つの構成の例を示す。図10Aは、図3に示した画像データ再生装置200における3次元表示制御情報解析部25の構成の詳細を示したものである。
図10Aを参照して、3次元表示制御情報解析部25は、枠画像付加制御部27と枠画像格納メモリ28とを備える。枠画像付加制御部27は、入力された3次元表示制御情報のうち枠表示の有無に関する情報を解析し、枠表示有りとなっている場合には枠画像格納メモリ28に予め準備されている枠画像をデータ変換部26へ出力する。データ変換部26では、3次元画像データにこの枠画像を重畳して表示部24へと出力する。
図10Bは、枠画像データを再生装置に予め準備しておく場合の別の構成の例を示す。すなわち、図10Bは、図3に示した画像データ再生装置200における3次元表示制御情報解析部25の他の構成の詳細を示したものである。
図10Bを参照して、3次元表示制御情報解析部25は、枠画像付加制御部27と、枠画像選択部29と、複数の枠画像格納メモリ28−1〜28−3とを備える。
図10Bの例では、枠画像付加制御部27において枠表示有りと判断された場合には、さらに複数準備されている枠画像のうちどの枠画像を使うかを枠画像選択部29が判定し、適切な枠画像格納メモリから枠画像データを呼び出してデータ変換部へ出力する。どの枠画像を使うかは3次元表示制御情報の中に枠画像データを示す情報として記述する。図10Bのような場合は、パターン1、パターン2等と記述することで指定することができる。複数の枠画像としてはテクスチャが異なる枠画像、あるいは飛び出し量が異なる立体的な枠画像を用いることができる。このようにすることにより、3次元画像データに応じて適切な枠画像を表示することができる。
また、デフォルトで使用する枠画像を設定しておき、枠表示有りで枠画像データが指定されていない場合あるいはデフォルトの枠画像が指定された場合にはデフォルト設定されている枠画像を用いるようにしてもよい。枠画像データとして指定された枠画像パターンを再生装置が持っていない場合は、デフォルト設定されている枠画像で代用するものとしてもよい。
なお、図10Aの場合、準備されている枠画像データが1つしかないため明示的に指定する必要はないが、枠画像データを示す情報として「デフォルト」と記述してもよい。
図10A、10Bのような形態の場合、枠画像のデータは画像データ再生装置200内に格納されており、3次元表示制御情報中に記載される情報は、予め用意されている1または複数の枠画像の中からどの枠画像を使用するかを示す選択情報である。
一方、図10Cは、枠画像データがマルチメディア情報ファイルの中に含まれて3次元画像データと一緒に送られる場合において、画像データ再生装置200における3次元表示制御情報解析部25の構成の例を示す。
図10Cを参照して、3次元表示制御情報解析部25は、枠画像付加制御部27を備える。枠画像付加制御部27は枠表示有りと判定した場合には、3次元表示制御情報として含まれている枠画像のデータをデータ変換部26へ送る。すなわち、この例では枠画像データを示す情報として選択情報を記述するのではなく、枠画像データそのものを記述する。このようにすることにより、マルチメディア情報ファイルの送り手が自由に生成した枠画像を付加することができる。
(3次元表示制御情報の他の構成)
以下では、主に上述した図42Aおよび42Bに示したパララクスバリア方式あるいはレンチキュラ方式に用いられる3次元画像データをファイル化する際に用いられる3次元表示制御情報の例について説明する。
図4Aにおける「視差像切替ピッチ」は、図42Bのように異なる視差像のストライプを繰り返し配置する際の切替周期を示すものである。
図11A〜11Dは、パララクスバリア方式で用いる液晶パネルとパララクスバリアのスリットの位置関係を示す概念図である。
図11A〜11Dには、3次元画像を表示する液晶パネル106を示しているが、ここではR、G、Bがまとまって1組となった単位(105)をピクセル、R、G、Bの各エレメントをサブピクセルと呼ぶことにする。すなわち、1ピクセル=3サブピクセルである。
図11Aは、パララクスバリア方式において視差像切替ピッチが1ピクセルである場合を示している。この場合、2ピクセルに対して1つのスリット104が割り当てられる。図11Bは、図11Aを上から見た図である。図11Bに示すとおり、液晶パネル106に表示する像は右目用画像と左目用画像が1ピクセルごとに交互に配置されている。この場合のパララクスバリア107のスリット間隔は2ピクセルとなる。
一方、図11Cはパララクスバリア方式において視差像切替ピッチが1サブピクセル(1/3ピクセル)である場合を示している。この場合、2サブピクセルに対して1つのスリット104が割り当てられる。図11Dは、図11Cを上から見た図である。図11Dに示すとおり、液晶パネル106に表示する像は右目用画像と左目用画像が1サブピクセルごとに交互に配置されている。この場合のパララクスバリア108のスリット間隔は2サブピクセルとなる。
図4Aにおける「サンプリングパターン」は、原画像から水平方向に間引きを行って左目用画像および右目用画像を作る際に、どのような間引き方法を用いたかを示すものである。
このサンプリングパターンには、「色再現性優先方式」と「解像度優先方式」がある。
図12Aおよび12Bは、サンプリングパターンを説明するための概念図である。
図12Aは、「色再現性優先方式」を示し、図12Bは、「解像度優先方式」を示す。
図12Aおよび12Bでは、画像データをR0、G1などの形式で表現しているが、最初のR、G、Bは色成分を、それに続く0、1等の数字はピクセルの水平位置を表している。
図12Aの色再現性優先方式では、データを半分に間引く際にピクセル単位で間引いている。間引かれて残ったデータは1ピクセルおきにサンプリングされた偶数番号の位置のみのデータとなる。この方式では残ったR、G、Bの組は間引き前と変わらないため、色再現性がよい。
一方、図12Bの解像度優先方式では、データを半分に間引く際にサブピクセル単位で間引いている。間引き後はピクセル位置0のデータはRとBの成分だけがあり、ピクセル位置1のデータはGの成分だけがある。間引き前のデータと比較するとR、G、Bの組が同じピクセルは存在しないが、間引き後のデータには全てのピクセル位置のデータが少なくとも1つの色成分については含まれている。このため、実感できる解像度は高くなる。このため、例えば斜め線のギザギザが目につきにくくなる。
なお、図12Bの解像度優先方式は視差像切替ピッチがサブピクセル単位であることを前提としているため、図11Aに示したような視差像切替ピッチが1ピクセルの場合には、原理的に図12Aの色再現性優先方式しか選択できない。
図4Aにおける「画像配置」は、図43Cに示したように複数の視差像を並べて1枚の画像を構成して伝送記録する際に必要となる情報である。
図13A〜13Eは、このような1枚の画像を構成するために複数の視差像を並べる画像配置を説明するための概念図である。
水平方向に間引いた左目用画像と右目用画像を横に並べて1枚の画像とする場合、図13Aに示すように左目用画像を左側に、右目用画像を右側に配置する形態がまず考えられる。これとは別の形態として、図13Bに示すように左目用画像を右側に、右目用画像を左側に配置することも可能である。
また、垂直方向に間引いた左目用画像と右目用画像を縦に並べて1枚の画像とする場合、図13Cに示すように左目用画像を上に、右目用画像を下に配置することもできるし、図13Dに示すように左目用画像を下に、右目用画像を上に配置することもできる。
したがって、複数の視差像が左右に並んでいるのか上下に並んでいるのか、また、左目用画像が左右あるいは上下のどちら側にあるのかを示す情報を記述することによりこれらを区別する。なお、視点数(視差像の数)は2には限定されない。
また、間引き方向と画像を並べる方向とは独立して考えることができる。すなわち、水平方向に間引いた画像であっても図13Eに示すように上下に並べることも可能である。逆に、間引き方向と画像を並べる方向を連動させることにすれば、どちらかの情報を省略することが可能になる。
ところで、先に説明した間引き方向の情報は左目用画像、右目用画像それぞれに対して独立に設定してもよい。図22Aに示した3次元表示制御情報の例では、左目用画像間引き方向として間引きなし、右目用画像間引き方向として水平方向と記述している。このような場合、左目用画像と右目用画像を横に並べた画像は図22Bに示すようになり、左目用画像と右目用画像の大きさが異なる。このようにすることにより、2次元画像のみが表示できる表示部を持つ画像データ再生装置と、3次元画像も表示可能な表示部を持つ画像データ再生装置のどちらにおいても良好な画像再生を行うことができる。すなわち、2次元画像のみが表示できる画像データ再生装置では、図22Bに示す画像データを受け取った場合、左目用画像のみを表示することにより、間引きされていない高解像度の2次元画像を再生することができる。3次元画像が表示可能な画像データ再生装置では、図22Bに示す画像データを受け取った場合、左目用画像を水平方向に間引いて右目用画像と同じ解像度にした後で3次元表示用のデータ変換を行うことにより、図13Aに示したような画像データを受信した場合と同様の3次元表示を行うことができる。
図4Aにおける「反転の有無」は、複数の視差像を並べて1枚の画像を構成する際に、各視差像が反転しているかどうかを示すものである。
図14Aおよび14Bは、このような各視差像を反転する構成を説明するための概念図である。
図14Aは、左目用画像61を左側に、右目用画像62を右側に単に並べた状態である。ここで、右目用画像62の左右を反転したとすると、図14Bに示すようになる。画像を符号化して記録伝送する場合、類似した特徴を持つ領域は固まっていた方が、符号化効率が向上するケースがある。このため、図14Aの画像を符号化するよりも図14Bの画像を符号化した方が符号化効率が高くなることがある。図14Bのような配置とした場合、再生装置200では右目用画像を再反転して元に戻すことが必要である。
2つの視差像を左右に並べた場合に取り得る状態としては、反転なし、左側画像反転、右側画像反転、両画像反転の4つが考えられる。ここで、左側画像とは左右に並べられた2つの画像のうち、左側の画像であるという定義を用いる。したがって、図13Aの並べ方をした場合、左側画像は左目用画像であるが、図13Bの並べ方の場合は左側画像は右目用画像となる。なお、左側画像反転と記述する代わりに左目用画像反転と記述することも可能である。先に説明した画像配置の情報を用いることにより、左目用画像が左右どちらに配置されているかを知ることができるからである。
以上説明したような「3次元表示制御情報」の各項目は、マルチメディア情報ファイルに対して、全てが必須というわけではなく、必要に応じて省略することが可能である。その場合は、どの項目が記載されているかがわかるように別途定めておけばよい。
なお、図4AにおけるオブジェクトIDは、この位置から情報オブジェクトの単位が始まることを示すとともに、この情報オブジェクトが3次元表示制御情報に関するものであることをも示す。すなわち、このようなオブジェクトIDは、マルチメディア情報ファイルが3次元画像制御情報を含む、すなわち3次元画像データを含むことを示す3次元識別情報としても機能する。
一方、図15に示すように3次元画像制御情報オブジェクトにおけるオブジェクトIDとして汎用のIDを用いることもできる。この場合は、このIDは単にこの位置から情報オブジェクトの単位が始まることだけを示し、その情報オブジェクトに書かれている情報がどのような種類のものかを示す情報はそのオブジェクト内に別途設けられる。図15ではこの情報オブジェクトが3次元表示制御情報に関するものであることを示す情報として、3D−001という3次元識別情報が書かれている。この3D−001はあくまでも一例であり、任意の数字や文字列を3次元識別情報として使用することができる。
上記の例では3次元識別情報は3次元画像データを含むことを示すために用いられているが、異なる3次元表示方式に対して異なる3次元識別情報を与えることにより、それらを区別することができる。例えば、パララクスバリア方式用のデータに対して3D−001、液晶シャッター方式用のデータに対して3D−002を3次元識別情報として与えてもよい。
さらに、3次元識別情報は図16に示すように、それだけで1つの情報オブジェクトを構成してもよい。この場合、図19に示すようにマルチメディア情報ファイルが3次元識別情報41と3次元表示制御情報2を別オブジェクトとして保持してもよい。
なお、マルチメディア情報ファイルが3次元画像データを含むことを示すために、3次元識別情報の代わりに専用の拡張子を用いることができる。例えば、通常の2次元画像データを含むマルチメディア情報ファイルに対して「jpg」という拡張子を用いる時、3次元画像データを含むマルチメディア情報ファイルに対して「3da」という拡張子を用いるようにすることにより、マルチメディア情報ファイルが3次元画像データを含んでいるかどうかを拡張子によって識別することができる。また、異なる3次元表示方式に対して異なる拡張子を定めることにより、それらを区別することができる。例えば、パララクスバリア方式用のデータを含むマルチメディア情報ファイルに対して「3da」、液晶シャッター方式用のデータを含むマルチメディア情報ファイルに対して「3db」を拡張子として用いる。
拡張子によって3次元識別を行う利点は、ファイルの内部を解析することなく、そのファイルが3次元画像データを含んでいるかどうか、あるいはどのような3次元表示方式のデータを含んでいるかを判定できる点にある。例えば、ハードディスク上に多くのマルチメディア情報ファイルが存在する時、自身の端末で再生可能なファイルがどれであるかを素早く見付けることができる。あるいはサーバ上に複数のマルチメディア情報ファイルが存在する時、2次元画像しか再生できない端末が3次元画像をダウンロードしないようにすることが可能になる。
一方、前述の3次元識別情報によって3次元識別を行う場合には、ファイルの中身を書き換えない限りは3次元識別情報が保存されるので、重要な情報である3次元識別情報が容易に改変されにくいという利点がある。
ところで、画像を表示する表示部は2次元表示と3次元表示の切り替えが可能なものを使うことができる。すなわち、図20に示す画像データ再生装置における表示部44は、2次元表示、3次元表示の表示モード切り替え機能を有しており、これは自動で切り替え可能な表示手段であっても良い。図3の画像データ再生装置と共通の部分については説明を省略する。図20の画像データ再生装置は、図15に示すように3次元識別情報が3次元表示制御情報と同じオブジェクトに含まれる場合に対応するものであり、3次元表示制御情報解析部25が3次元識別情報の有無を解析し、その有無に従って表示部44の表示モードを切り替える。すなわち、ここでは3次元表示制御情報解析部25がファイル種別判定をも行っている。入力されたマルチメディア情報ファイルに3次元識別情報が含まれる場合、前記表示部44では3次元表示モードで表示し、3次元識別情報が含まれない場合は、表示部44では2次元表示モードで表示する。
なお、表示部が3次元表示専用である場合は、3次元識別情報を持たないファイルは再生しない、あるいは何らかの2次元/3次元変換を行った上で表示を行うようにすることが可能である。また逆に表示部が2次元表示専用である場合は、3次元識別情報を持つファイルは再生しない、あるいは何らかの3次元/2次元変換を行った上で表示を行うようにすることも可能である。
図17に示す画像データ再生装置は、図19に示すように3次元識別情報と3次元表示制御情報が別のオブジェクトとなっている場合に対応するものである。図17の画像データ再生装置においては、3次元識別情報解析部45によってマルチメディア情報ファイルに3次元識別情報が含まれているかどうかを解析し、その有無に従って表示部44の表示モードが切り替わるような構成とする。すなわち、ここでは3次元識別情報解析部45がファイル種別判定の役割を担っている。
前述のように拡張子によって3次元識別を行う場合には、この2次元表示、3次元表示の切り替えは、拡張子を用いて行うことができる。図21に示す画像データ再生装置は拡張子によって3次元識別を行う場合の例であり、ファイル種別判定部46が拡張子を解析した結果により、表示部44の表示モードおよびデータ変換部26の変換方法を制御する。
このように、3次元識別情報はマルチメディア情報ファイルが3次元画像データを含むかどうかを判定するために用いられる。画像データの符号化形式は2次元画像であろうと3次元画像であろうと同じ形式を用いることができ、共通の復号器を用いることができるが、その場合、人間であれば復号された画像を見てそれが2次元画像として出力されるべきか3次元画像として出力されるべきかを判断することができるが、再生装置にはその区別がつかない。そのため、再生装置がそれを判定するのに3次元識別情報が必要となるのである。これは2次元画像と3次元画像の区別のみならず、複数ある3次元表示形式のうちのどれが使われているかを判定する場合でも同様である。この判定結果により3次元表示モードと2次元表示モードを自動的に切り替えることが可能になる。
また、図1Aではマルチメディア情報ファイルの中に3次元表示制御情報が1つだけ含まれているが、3次元画像データが動画像のように複数枚の画像から構成される場合は、各画像データの先頭に1つずつ3次元表示制御情報を付加するような形をとっても良い。或いは、3次元表示制御情報を3次元画像データ中の任意の位置に繰り返し格納するようにしてもよい。
また、動画像を衛星、地上波、インターネットなどの伝送媒体を介し放送するような場合、視聴者が放送の途中から受信、視聴したり、チャンネルの切り替えを行う可能性があるため、3次元表示制御情報を先頭に1つだけ配置するのではなく、図18に示すように番組配列情報という形で定期的に放送コンテンツの中に挿入することが望ましい。ここで放送コンテンツとは、立体画像データや音声データ、これらの内容に関連したBMLデータなどが多重化された符号化データである。また、番組配列情報の中には画像データや音声データ、BMLデータなどの互いの関連を示す情報(同期情報)や著作権情報などが含まれ、3次元表示制御情報もここに格納される。なお、3次元表示制御情報は番組配列情報に含めるのではなく、繰り返し3次元画像データ(符号化データ)の中に直接多重化してもよい。このように放送コンテンツ中に3次元表示制御情報あるいは3次元識別情報を繰り返し挿入することにより、番組途中から再生を開始する場合であっても受信データが3次元画像であるかどうか、あるいは3次元画像の場合には3次元表示に必要なパラメータ情報を知ることができる。
以下では、1つのマルチメディア情報ファイルの中に3次元画像データ、2次元画像データおよびページデータなどが、それぞれ少なくとも1つずつ含まれる場合について説明する。ここでページデータとはHTMLやBMLのようなページ記述言語で記述されたデータである。またページデータに基づいて罫線や表などを描画した画像をページ画像と呼ぶ。マルチメディア情報ファイルには、この他音楽データや他のデータが含まれても良いが、簡略化のため以下では説明を省略する。
このようなマルチメディア情報ファイルでは、含まれる画像データが2次元か3次元かを識別するための情報をファイル中に挿入する必要がある。以下にこれを実現する例を説明する。
図23は、2次元画像データ(画像データ(2D))と3次元画像データ(画像データ(3D))が混在するマルチメディア情報ファイルの構成を示す概念図である。
このようなマルチメディア情報ファイルは、ヘッダ情報および画像データ(3D)、画像データ(2D)、ページデータなどのマルチメディアデータから構成される。個々のマルチメディアデータは「モジュール」と呼ばれるブロックに格納される。ヘッダ情報には各モジュールを管理するための情報(ヘッダ補助情報)および各モジュールを再生するためのモジュール付加情報が含まれる。例えば、モジュール1のモジュール付加情報を「モジュール1付加情報」と呼ぶ。モジュール付加情報には画像データ、ページデータ等を区別する情報が含まれる。なお、画像データの場合は画像データを復号するのに用いられるヘッダ制御情報を、各モジュールの先頭に配置する。
図24は、画面上で、画面の原点を基準として、2次元画像(2D画像)と3次元画像(3D画像)とが配置される状態を示す概念図である。
ページデータ中には、図24に示すように、それぞれの画像データを画面上のどの位置にどのくらいの大きさで配置するかを示す配置情報なども含まれる。なお、画像の配置情報が別途定められている場合、ページデータ中に配置情報は必ずしも含まれない。
再び、図23を参照して、ヘッダ情報に含まれる上記モジュール付加情報は、マルチメディア情報ファイルに含まれるモジュール数だけあり、各モジュール付加情報とモジュールは1対1に対応付けられる。モジュールに3次元画像データが格納される場合にのみ、既に説明した3次元画像表示制御情報が対応するモジュール付加情報に挿入される。すなわち、図23に示した例では、モジュールは、3個存在し、このうち、1番目のモジュールには2次元画像データが、2番目のモジュールには3次元画像データが、3番目のモジュールにはページデータがそれぞれ含まれる。ヘッダ情報中の2番目のモジュールに対応するモジュール付加情報には、3次元画像表示制御情報が挿入されている。
このため、モジュール付加情報に上記3次元画像表示制御情報が含まれていれば、対応するモジュールは3次元画像データ、そうでなければ2次元画像データもしくはその他のデータと識別できる。図23に示した画面の例ではこのようにして2次元画像データと3次元画像データの識別が可能となる。
モジュール付加情報の領域には、モジュール付加情報の実質的な内容を示すデータが含まれていなくとも良いものの、モジュール付加情報の領域そのものは必ず存在するものとする。モジュール付加情報の数とモジュール数が同一で、かつ格納順序も同一とすれば、これによりモジュール付加情報とモジュールとを正しく対応付けることができる。このため、各モジュール付加情報の先頭にはその領域の大きさを表すデータが挿入される。
上記モジュール付加情報の大きさを表すデータは、複数のモジュール付加情報の先頭にまとめて挿入しても良い。また、大きさを表すデータの代わりに領域の境界として識別可能な所定パターンを各モジュール付加情報の間に配置し、これによって領域を確保しても良い。
図25は、マルチメディア情報ファイルの別の構成を示す概念図である。図25に示す通り、ここでは先頭にデータサイズや種別などの情報を挿入したマルチメディアデータを複数まとめ、これを1つのモジュールとしている。モジュール付加情報はモジュールに対応するものであるため、モジュール付加情報に含めた情報とモジュール内の個々のマルチメディアデータとを対応させることはできない。そのため、図25では、複数のマルチメディアデータに加え、それらに対応する個々の付加情報を1つのモジュールにまとめている。個々のマルチメディアデータに対応する上記付加情報は、実質的な内容を示すデータが含まれていなくとも良いが、個々の領域そのものは必ず存在するものとする。上記付加情報の数とマルチメディア情報数が同一で、かつ格納順序も同一とすれば、個々のマルチメディアデータと付加情報を対応付けられる。
これによって、上記付加情報に3次元画像表示制御情報を含めることで2次元画像データと3次元画像データの識別が可能となる。
図26Aおよび26Bは、マルチメディア情報ファイルのさらに別の構成を示す概念図である。
すなわち、3次元画像表示制御情報にモジュール内のマルチメディアデータを指し示す識別子を含め、これにより画像データと前記3次元表示制御情報とを対応させるものである。図26Aでは、モジュール内の各マルチメディアデータに対して識別子番号を付与しておき、モジュール付加情報の領域に格納した3次元画像表示制御情報に、3次元画像データの識別子を含めている。このように構成することで、2次元画像データと3次元画像データの識別が可能となる。また、モジュール内に複数の3次元画像データが含まれる場合、図26Bに示すように複数の3次元画像表示制御情報をモジュール付加情報領域に含めることで、モジュール内の2次元画像と3次元画像を識別することが可能となる。
図31は、マルチメディア情報ファイルのさらに別の構成を示す概念図である。
すなわち、図31に示すように、3次元画像表示制御情報に複数の識別子を含めることで、2次元画像と3次元画像データとを識別することが可能である。
なお、図26A、26B、図31においては、モジュールが1つの場合を例示しているが、モジュールはマルチメディア情報ファイルに複数含まれていても良い。この場合、複数のモジュールに含まれる3次元画像データを相互に識別可能なように識別子が付与されているものとする。
ここで、1つのモジュール内に格納される画像データの全てが3次元画像データの場合、対応する3次元画像表示制御情報全てを格納する代わりに例えば識別子番号=0の3次元画像表示制御情報を1つだけ格納する形としても良い。すなわち、マルチメディアデータの識別子番号は1以上の整数と定義しておき、識別子番号=0はモジュール内の全画像が3次元画像であるとしておく。この場合、複数の3次元画像表示制御情報を格納しなくて済むため、全体の符号量が少なくなる。
また、これまではマルチメディアデータに識別子を付与した例を説明したが、図23で示すように1モジュール=1マルチメディアデータの場合に、モジュールに識別子を付与しても良い。この場合、図23の「モジュール1付加情報」〜「モジュール3付加情報」の部分を図26Aの「モジュール1付加情報」の中身で置き換えることで、同様に2次元画像データと3次元画像データを識別することが可能となる。また、図23の「モジュール1付加情報」〜「モジュール3付加情報」の部分を図31の「モジュール1付加情報」の中身で置き換えることで同様にマルチメディア情報ファイルに含まれる画像データが全て3次元画像データか否かを識別することが可能となる。
なお、上記ではマルチメディア情報ファイルについて述べたが、本発明はファイルに限定されるものではなく、通信、放送などの伝送フォーマット、もしくは他の目的に使用されるデータフォーマットにも適用可能なのは明らかである。
図30は、本発明のマルチメディア情報生成装置の他の例である画像データ記録装置100の別の構成を示すブロック図である。
すなわち、図30は、図2で説明した画像データ記録装置100のファイル生成部12の入力に2次元画像データの入力およびページデータの入力が追加されたものである。3次元表示制御情報生成部11の構成は、図2に示したものと同一であるため、説明を省略する。
図32は、図30に示した画像データ記録装置100の処理のフローを説明するためのフローチャートである。
図30および図32を参照して、画像データ記録装置100は、外部から、マルチメディア情報生成のために必要なパラメータ、3次元画像データ、2次元画像データ、ページデータを受け取り(ステップS102)、3次元表示制御情報生成部11は、外部から受け取った画像データに3次元画像データが含まれる場合(ステップS104)、3次元制御情報を生成する(ステップS106)。ファイル生成部12は、3次元表示制御情報と3次元画像データ、2次元画像データおよびページデータを受け取り、既に説明したモジュール付加情報を含むヘッダ情報を生成し(ステップS108)、図23、図25,図26A,26B,図31に示したような、各々が3次元画像データ、2次元画像データ、ページデータのうちの少なくとも1つを含むモジュールを生成することにより、マルチメディア情報ファイルを生成し出力する(ステップS110)。なお、上記では入力として、3次元画像データ、2次元画像データおよびページデータの3つの場合を説明したが、入力は最低1つあれば良い。また、逆に3つ以上の入力があっても良い。
このようにマルチメディア情報ファイルを構成することで、2次元画像データと3次元画像データが混在するマルチメディア情報を効率良く蓄積、伝送、管理することが可能となる。
次に、図27は、前述した1つのマルチメディア情報ファイルの中に3次元画像データ、2次元画像データおよびその配置情報が含まれる場合の画像データ再生装置の構成を説明するための概略ブロック図である。
図27に示す画像データ再生装置は、分離部50と、複数のデータ再生部23と、ページデータ復号部51と、制御情報解析部52と、スイッチ56、57と、2次元画像合成部53、3次元画像合成部55、2D/3D変換部54と、データ変換部26と表示部44とから成る。データ変換部26および表示部44については、図17に示す画像データ再生装置で既に説明しているため、説明を省略する。
分離部50は、入力された上記マルチメディア情報ファイルを分離し、ヘッダ情報は制御情報解析部52へ、画像データはデータ再生部23へ、ページデータはページデータ復号部51へ出力する。
制御情報解析部52は、ヘッダ情報を解析し、各モジュール付加情報に3次元画像表示制御情報が含まれるか否かを判定し、その判定結果に応じてスイッチ56を2D側、もしくは3D側に倒す。また、3次元画像表示制御情報をデータ再生部23に入力する。
データ再生部23は、3次元画像表示制御情報が入力されればその値を用いて3次元画像を再生し、そうでなければ2次元画像を再生する。
ページデータ復号部51は、入力されたページデータを復号し、ページ画像を出力すると共に、それぞれの画像データの配置情報を解析し、2次元画像合成部及び3次元画像合成部へ出力する。なお、ページデータはマルチメディア情報ファイルに必須のものでは無い為、ページデータ復号部51は無くとも良い。この場合、ページデータに含まれる配置情報は別途定められる。
2次元画像合成部53では、入力された配置情報を元に、ページ画像と上記再生された2次元画像の合成を行う。
上記マルチメディアデータ情報が3次元画像を含む時、スイッチ57を2D/3D変換部側に倒し、表示部44は3次元表示を行い、3次元画像を含まない時、スイッチ57を表示部側に倒し、表示部44は2次元表示を行う。
2D/3D変換部54は、上記合成された2次元画像データから3次元画像データを生成する。生成方法については後述する。
3次元画像合成部55では、入力された配置情報を元に、上記3次元画像の合成を行う。
図28は、2D/3D変換部54の動作を説明するための概念図である。図28に示すとおり、入力された2次元画像データは水平方向の解像度が半分になるように間引きかれる。該間引かれた画像を複製し2つの画像を生成し、一方を右画像、他方を左画像とする。以上では、水平方向の解像度を半分に間引きした例を説明したが、表示に必要となる3D画像データの解像度は画像データ再生装置が備える3D表示デバイスによって異なるため2D/3D変換部の動作はこれに限定されない。例えば、時分割方式では、奇数ラインのデータを用いて一方の画像が生成され、偶数ラインのデータを用いて他方の画像が生成される。
前記ページデータ復号部51はページデータに文字情報が含まれる場合、文字情報に対応するフォントイメージをROMなどの記憶媒体から読み出し、これを展開してページ画像に貼り付ける。前記フォントイメージはビットマップデータであってもよいし、ベクトルデータであってもよい。
図33Aは図27のページデータ復号部51のより詳細なブロック図である。前記ページデータ復号部51はページデータを復号してページ画像を生成するページ生成部67およびフォントイメージを蓄積するフォントイメージ蓄積部68から構成される。ページ生成部67は分離部50から入力されたページデータを復号し、表や罫線などからなるページ画像を生成すると伴に、ページデータ中で指定のフォントイメージをフォントイメージ蓄積部68から読み出して展開し、ページ画像に貼り付ける。
図35は前記ページデータ復号部51と前記2D/3D変換部54を経て、前記フォントイメージ蓄積部68から読み出したフォントイメージがどのように変化するかを概念的に示したものである。既に説明したように前記2D/3D変換部は入力された画像データの水平解像度を半分に間引き、これを複製することで立体画像を生成する。
ここで2D/3D変換部54で入力された2Dページデータの文字情報は図35に示すように、奇数列のみを用いて水平方向を半分にする間引き処理によりフォントの一部の線が消滅し、文字として解読できなくなってしまう場合がある。これを避けるため、前記フォントイメージ蓄積部から読み出されるフォントは、間引き処理を行ってもフォントの一部が消滅しないように構成しなければならない。このようなフォントイメージを以降3Dフォントと呼ぶことにする。3Dフォントは、前記のように間引き処理を行ってもフォントの一部が消滅したため文字として解読できなくならないという条件さえ満たせばゴシック体などの太いフォントをそのまま使用できる場合がある。また、明朝体など細いフォントに後述の特別の処理を施すことによっても生成することが出来る。
次に、図36、図37A〜37Cおよび図40を用いて3Dフォントを生成する方法を説明する。
図40は、3Dフォントを作成する方法を概念的に示したものである。同図に示すように一旦、水平方向を半分に縮小し、各ピクセルを水平方向に2回ずつ繰り返して拡大することで3Dフォントを生成できる。
図37A〜37Cは、3Dフォントの別の作成方法を説明する為の図である。同図A、B、Cはそれぞれ前記縮小方法の別の例を示している。図中、白いマスはピクセルの値が0、黒いマスはピクセルの値が0以外の値k、灰色のマスはピクセルの値が0以外でk未満の値mであることを表す。また、同図(1)〜(2)はそれぞれの縮小方法に対し、水平方向に隣り合う2ピクセルの値の組み合わせと、そこから縮小処理により生成されるピクセル値との関係を表している。
図37Aに示す縮小方法は、前記2ピクセルのうち少なくとも一方がkである場合に縮小されたピクセルもkにする方法である。図40の手順Aがこの方法で縮小、拡大したフォントの例である。この方法によれば、文字を構成するピクセル全てが消滅しないように構成されている為、間引き時に奇数列もしくは偶数列の一方が削除されても他方が保存される。このため2D/3D変換処理を行っても文字の一部が欠けることを回避できる。
図37Bに示す縮小方法は、縮小後のピクセル値として前記隣り合う2つのピクセル値の間の値を取る方法である。状態(1)では隣接する2ピクセルの値が両方とも0であるため縮小後のピクセルの値を0とする。隣接する2つのピクセル値のどちらか一方が0で、もう一方がkである状態(2)または状態(3)の場合は、縮小後のピクセルの値を0とkの間の値mとする。隣接する2つのピクセルの値が両方ともkである状態(4)ならば、縮小後のピクセル値もkとする。前記mが前記kよりも小さい為、フォントが太くなっているにもかかわらずフォントの線を見かけ上細くすることが可能となる。例えば、前記kが100の時、前記mの値として、例えばm=k/2である50を用いれば良い。図40の手順Bがこの方法で縮小、拡大したフォントの例である。太さが1の時にm=2/kにすると、フォントが暗くなりすぎる時には、あらかじめフォントイメージ毎に太さtを指定しておき、図36に示すように太さが1に近い時、すなわちtが1に近い時にmがkに近づくような関数を用いても良い。
図37Cに示す縮小方法は、状態(1)および(4)に関する変換は前記図37Bに示す縮小方法と同じであるが、前記2画素の左側のピクセルの値のみがkである状態(2)の時にはmに、右側のピクセルの値のみがkである状態(3)の時にはnに、それぞれ縮小後のピクセルの値を決める方法である。ここで、nはmとは異なる0とkの間の値である。これにより、フォントイメージの見え方を前記図37Bに示す方法よりも更に細かく制御できる。
これまでに説明した方法で2Dフォントから生成した3Dフォントや、1から生成した3Dフォントをあらかじめ図33Bのフォントイメージ蓄積部68に備えて、3D表示時に3Dフォントを選択して読み出しても良いが、フォントイメージを読み出す際に変換しても良い。
図33Cは、フォントイメージを読み出す際に変換するように構成した場合のページデータ復号部の詳細な構成を示したブロック図である。このページデータ復号部は、図33Bのページデータ復号部にフォント変換部69が加えられている。
ページ生成部は、ページデータを復号する際、フォントイメージ蓄積部から読み出した2D表示用のフォントイメージから、前記フォント変換部69にて3Dフォントに変換し、これを用いてページ画像を生成する。このように構成することにより、2D、3D用のフォントイメージを別々に蓄積することなく、2D表示、3D表示のいずれも可能な装置の場合でも記憶領域を削減できる利点がある。
これまでの実施例では、図38Aのように文字情報の復号・展開は図27のページデータ復号部51にて行ったが、図38Bのように文字情報の展開をページデータ復号部51でする代わりに、2D/3D変換部54にて行う例を示す。これまでの実施例とはページデータ復号部51および2D/3D変換部54の構成が異なる。ここでは図示しないがページデータ復号部51は図33A〜33Cにおいてページ生成部67のみで構成される。
図34の2D/3D変換部は、入力されたページ画像を水平方向に縮小する間引き処理部70と、縮小されたページ画像から立体表示に必要な左右の画像を生成する左右画像複製部71および左右画像生成時に用いるフォントイメージを蓄積するフォントイメージ蓄積部72とフォントイメージを貼り付けるフォントイメージ貼付部73とから構成される。
間引き処理部70の動作はすでに2D/3D変換部の動作説明時に詳細に説明しているため、以後の説明は省略する。
前記左右画像複製部は、間引きされたページ画像を複製することで左右の画像を生成し、合わせて入力された文字情報を復号し、右目用、左目用それぞれのフォントイメージを前記フォントイメージ蓄積部72から読み出して貼り付ける。なお、読み出されるフォントイメージは元のフォントイメージから前記間引き処理部70と同一の方法で間引かれたものである。
右目用、左目用のフォントイメージを左右の画像それぞれに貼り付けることによって、左右のフォントの視差量を微妙に変えることが可能となり、3Dディスプレイ上で文字の飛び出しを制御することも可能である。
図39A〜39Cは2D/3D変換部にてフォントを展開する場合の別の実施例を説明するための概念図である。
図39Aは、右目用もしくは左目用フォントイメージのいずれか一方のみを右画像、左画像に貼り付ける場合を表している。こうすることで、右もしくは左の一方にのみ文字情報が存在する為、輝度が高くなりすぎないという効果がある。
また図39Bに示すように、間引き処理を行っていないフォントイメージを右画像、左画像それぞれにあるいは一方に貼り付けても良い。この場合、フォントイメージの3D表示では文字の大きさが倍になるが、縮小を行わないので、細いフォントであってもそのまま使用でき、さらに縮小にかかわる処理が発生しないという利点がある。
また、図39Cに示すように、読み出された文字情報のピクセルの値を偶数列、奇数列毎に集めて、水平方向に半分に縮小したフォントを作成し、2D/3D変換部でコピーした左右画像にそれぞれ貼り付けても良い。こうすることで間引きにより情報が削除されることなく、また輝度も保存できる。この場合、例えば左画像にフォントイメージの偶数列のみのデータを、右画像に奇数列のみのデータを貼り付ければ良い。
また、右目用および左目用フォントイメージは同一のものであっても良い。この時貼り付けるフォントイメージは水平方向2分の1のものをフォント蓄積部に蓄積することによって、記憶容量を削減することもできる。両眼視差を調整し、フォントイメージの飛び出しを制御することも出来る。
図29Aおよび29Bは、3次元画像データの合成時に配置情報がどのように使用されるかを示した概念図である。
図29Aに示すように、3次元画像データの配置情報が(X,Y)と指定される場合、3次元画像合成部55では、図29Bに示すように左右の画像それぞれに対し、(X/2,Y)の位置に合成すれば良い。この座標変換方法は、先の場合と同様、画像データ再生装置が備える3次元(3D)デバイスによって異なるため、本実施例の記載はあくまでも一例である。
また、表示部44が表示領域の所望の部分を2次元表示モードにできる場合は、2D/3D変換部54は不要であり、直接2次元画像データを表示部の2次元表示モードにした部分に入力すれば良い。
以上のように画像データ再生装置を構成することで、2次元画像と3次元画像が混在したマルチメディア情報ファイルを適切に表示することができる。
以上説明したとおり、本発明によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、3次元画像データと共に、3次元画像データを表示するための3次元画像表示制御情報をマルチメディア情報ファイルとして記録または構成するので、3次元画像データに汎用性を持たせ、1種類のマルチメディア情報ファイルで様々な3次元表示方式に柔軟に対応することが可能となる。
本発明のマルチメディア情報再生装置によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、マルチメディア情報ファイル中に含まれる3次元画像表示制御情報を解析することにより、3次元画像データと2次元画像データを表示方法に合わせて適切に変換し、正しく表示することが可能となる。
この発明を詳細に説明し示してきたが、これは例示のためのみであって、限定となってはならず、発明の精神と範囲は添付の請求の範囲によってのみ限定されることが明らかに理解されるであろう。
【図面の簡単な説明】
図1A〜1Cは、本発明の実施の形態において生成されるマルチメディア情報ファイルの構造を示す図である。図1Aは、マルチメディア情報ファイルの構成を示し、図1Bは、各オブジェクトの構成を示し、図1Cは、3次元画像データの構造の一例を示す。
図2は、本実施の形態における画像データ記録装置100の構成を示すブロック図である。
図3は、画像データ再生装置200の構成を説明するためのブロック図である。
図4A〜4Cは、3次元表示制御情報2に記述する具体的な情報を説明するための概念図である。図4Aは、3次元表示制御情報2に記述する具体的な情報を示し、図4Bは、音声と左目用画像と右目用画像のストリームを示し、図4Cは、間引き方向に対応するテーブルを示す。
図5A〜5Cは、「視点数」および「視点位置」を説明するための概念図である。図5Aは、2眼式の例を示し、図5Bと図5Cは6眼式の例を示す。
図6は、6眼式の場合において、視点位置と対応するストリームの記述の例を示す概念図である。
図7Aは、左目用画像と右目用画像が同じストリームとなっている場合において、視点位置と対応するストリームの記述の例を示す概念図であり、図7Bは、多重化データを示す図である。
図8A〜8Cは、「カメラ配置」の他の構成例を示す概念図である。図8Aおよび図8Bは、集中型の例を示し、図8Cは発散型の例を示す。
図9Aおよび9Bは、枠画像の構成を説明するための概念図である。図9Aは、枠画像を表示しない状態を示し、図9Bは、枠画像を表示した状態を示す。
図10A〜10Cは、枠画像を表示させるために「枠画像データ」を供給する構成を説明するためのブロック図である。
図11A〜11Dは、パララクスバリア方式で用いる液晶パネルとパララクスバリアのスリットの位置関係を示す概念図である。
図12Aおよび12Bは、サンプリングパターンを説明するための概念図である。
図13A〜13Eは、1枚の画像を構成するために複数の視差像を並べる画像配置を説明するための概念図である。
図14Aおよび14Bは、各視差像を反転する構成を説明するための概念図である。
図15は、3次元画像制御情報オブジェクトにおけるオブジェクトIDとして汎用のIDを用いる場合を示す図である。
図16は、3次元識別情報を示す図である。
図17は、画像データ再生装置の第1の変形例を示すブロック図である。
図18は、番組配列情報という形で定期的に放送コンテンツの中に挿入される3次元識別情報を示す図である。
図19は、マルチメディア情報ファイルの構成を示す図である。
図20は、画像データ再生装置の第2の変形例を示すブロック図である。
図21は、画像データ再生装置の第3の変形例を示すブロック図である。
図22Aおよび22Bは、3次元表示制御情報および左目用画像と右目用画像を横に並べた画像データを示す概念図である。
図23は、2次元画像データと3次元画像データが混在するマルチメディア情報ファイルの構成を示す概念図である。
図24は、画面上で、画面の原点を基準として、2次元画像(2D画像)と3次元画像(3D画像)とが配置される状態を示す概念図である。
図25は、マルチメディア情報ファイルの別の構成を示す概念図である。
図26AおよびBは、マルチメディア情報ファイルのさらに別の構成を示す概念図である。
図27は、1つのマルチメディア情報ファイルの中に3次元画像データ、2次元画像データおよびその配置情報が含まれる場合の画像データ再生装置の構成を説明するための概略ブロック図である。
図28は、2D/3D変換部54の動作を説明するための概念図である。
図29Aおよび29Bは、3次元画像データの合成時に配置情報がどのように使用されるかを示した概念図である。
図30は、本実施の形態における画像データ記録装置100の別の構成を示すブロック図である。
図31は、マルチメディア情報ファイルのさらに別の構成を示す概念図である。
図32は、図30に示した画像データ記録装置100の処理のフローを説明するためのフローチャートである。
図33A〜33Cは、本実施の形態におけるページデータ復号部の詳細なブロック図である。
図34は、本実施の形態における2D/3D変換部の詳細なブロック図である。
図35は、フォントイメージを2D/3D変換する概念図である。
図36は、フォントの太さと輝度の関係の実施の一例を描画した図である。
図37A〜37Cは、隣接するピクセルの状態とそれらの変換例を表す図である。
図38Aおよび38Bは、本実施の一形態におけるフォントイメージの貼りつけの概念図である。
図39A〜39Cは、本実施の一形態におけるフォントイメージの貼りつけの概念図である。
図40は、3Dフォントを生成する手順の概念図である。
図41は、2眼式の代表的なものの1つである「時分割方式」を説明するための概念図である。
図42Aおよび42Bは、2眼式のもう1つの代表的な方式である「パララクスバリア方式」を説明するための概念図である。
図43A〜43Cは、「レンチキュラ方式」の記録データ形式の一例を示す概念図である。
る場合に限っても、左目用画像と右目用画像を別々のシーケンスとして記録することもできるし、図43Cのような左目用画像と右目用画像が画面半分ずつ左右に並んだ混合画像を記録することもできるし、図42Bのような左目用画像と右目用画像のペアがストライプ状に並んだ合成画像を記録することもでき、当然記録形式が違えばその後表示するための処理方法も異なるが、記録されたデータからはどの形式で記録されたかを知ることができないため、第三者がそのデータを手にした時、どのような処理によって表示すればよいのかがわからないという問題がある。
発明の開示
本発明の目的は、3次元表示のための画像データに汎用性を持たせたマルチメディア情報生成装置を提供することにある。
本発明の他の目的は、3次元表示のための画像データに汎用性を持たせたマルチメディア情報を再生するためのマルチメディア情報再生装置を提供することにある。
上記目的を達成するため、本発明のある局面に従うと、1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像を含むマルチメディア情報を生成するマルチメディア情報生成装置であって、3次元画像の表示を制御する制御情報を生成する制御情報生成部と、1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像と制御情報とを含むマルチメディア情報を生成するマルチメディア情報生成部とを備え、1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像は、合成するためのデータである。
この発明の他の局面に従うと、複数のモジュールから成るマルチメディア情報を生成するマルチメディア情報生成装置であって、1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像を含むモジュールを生成するモジュール生成部と、モジュールは、3次元画像の表示を制御する制御情報を含み、1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像は、合成するためのデータである。
好ましくは、制御情報は、個々の3次元画像に対応して存在する。
好ましくは、制御情報は、複数の3次元画像に対応して存在する。
好ましくは、少なくとも2次元画像および3次元画像の各々を区別する識別子をあらかじめ設定し、制御情報は、3次元画像の識別子を示す識別情報を含む。
好ましくは、少なくとも2次元画像および3次元画像の各々を区別す
る識別子をあらかじめ設定し、制御情報は、3次元画像の識別子を示す識別情報を含む。
好ましくは、制御情報は、複数の識別子を含む。
好ましくは、識別子の所定の値は、マルチメディア情報に含まれる画像が全て3次元画像であることを示す。
好ましくは、識別子の所定の値は、モジュールに含まれる画像が全て3次元画像であることを示す。
したがって、この発明によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、3次元画像データと共に、3次元画像データを表示するための3次元画像表示制御情報をマルチメディア情報ファイルとして記録または構成するので、3次元画像データに汎用性を持たせ、1種類のマルチメディア情報ファイルで様々な3次元表示方式に柔軟に対応することが可能となる。
この発明のさらに他の局面に従うと、1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像を含むマルチメディア情報を再生するマルチメディア情報再生装置であって、2次元画像もしくは文字情報から3次元画像を生成する生成部と、生成部で生成された3次元画像と、マルチメディア情報に含まれる3次元画像を合成する第1の合成部を備える。
好ましくは、マルチメディア情報再生装置は、複数の2次元画像を合成する第2の合成部をさらに備え、生成部は、2次元画像もしくは文字情報の代わりに第2の合成部で合成された2次元画像データから3次元画像データを生成する。
したがって、この発明によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、マルチメディア情報ファイル中に含まれる3次元画像表示制御情報を解析することにより、3次元画像データと2次元画像データとを表示方法に合わせて適切に変換し、正しく表示することが可能となる。
また、上記目的を達成するため、本発明の他の局面に従うと、1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像を複数個含むマルチメディア情報を再生するマルチメディア情報再生装置であって、マルチメディア情報に含まれる図形および文字情報を復号しページ画像を得るページデータ復号部と、ページ画像を3次元画像に変換
【特許請求の範囲】
【請求項1】 1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像を含むマルチメディア情報を生成するマルチメディア情報生成装置であって、
前記3次元画像の表示を制御する制御情報を生成する制御情報生成部と、
前記1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像と前記制御情報とを含む前記マルチメディア情報を生成するマルチメディア情報生成部とを備え、前記1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像は、合成するためのデータである、マルチメディア情報生成装置。
【請求項2】 複数のモジュールから成るマルチメディア情報を生成するマルチメディア情報生成装置であって、
1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像を含む前記モジュールを生成するモジュール生成部と、
前記モジュールは、前記3次元画像の表示を制御する制御情報を含み、前記1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像は、合成するためのデータである、マルチメディア情報生成装置。
【請求項3】 前記制御情報は、個々の3次元画像に対応して存在する、請求項1または2に記載のマルチメディア情報生成装置。
【請求項4】 前記制御情報は、複数の3次元画像に対応して存在する、請求項1または2に記載のマルチメディア情報生成装置。
【請求項5】 少なくとも前記2次元画像および前記3次元画像の各々を区別する識別子をあらかじめ設定し、前記制御情報は、前記3次元画像の識別子を含む、請求項1に記載のマルチメディア情報生成方法。
【請求項6】 少なくとも前記2次元画像および前記3次元画像の各々を区別する識別子をあらかじめ設定し、前記制御情報は、前記3次元画像の識別子を含む、請求項2に記載のマルチメディア情報生成装置。
【請求項7】 前記制御情報は、複数の識別子を含む、請求項5または6に記載のマルチメディア情報生成装置。
【請求項8】 前記識別子の所定の値は、前記マルチメディア情報に含まれる画像が全て3次元画像であることを示す、請求項5または6に記載のマルチメディア情報生成装置。
【請求項9】 前記識別子の所定の値は、前記モジュールに含まれる画像が全て3次元画像であることを示す、請求項5に記載のマルチメディア情報生成装置。
【請求項10】 1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像を含むマルチメディア情報を再生するマルチメディア情報再生装置であって、
前記2次元画像もしくは文字情報から3次元画像を生成する生成部と、
前記生成部で生成された3次元画像と、前記マルチメディア情報に含まれる3次元画像を合成する第1の合成部を備える、マルチメディア情報再生装置。
【請求項11】 複数の2次元画像もしくは文字情報を合成する第2の合成部をさらに備え、
前記生成部は、前記2次元画像もしくは文字情報の代わりに前記第2の合成部で合成された2次元画像データから3次元画像データを生成する、請求項10に記載のマルチメディア情報再生装置。
【請求項12】 1つ以上の2次元画像もしくは文字情報および1つ以上の3次元画像を複数個含むマルチメディア情報を再生するマルチメディア情報再生装置であって、
前記マルチメディア情報に含まれる図形および文字情報を復号しページ画像を得るページデータ復号部と、
前記ページ画像を3次元画像に変換する2D/3D変換部と、
前記2D/3D変換部で生成された3次元画像と前記マルチメディア情報に含まれる3次元画像とを合成する第1の合成部とを備える、マルチメディア情報再生装置。
【請求項13】 複数の2次元画像を合成する第2の合成部をさらに備え、
前記2D/3D変換部は、前記第2の合成部で合成された2次元画像データを3次元画像データに変換する、請求項12に記載のマルチメディア情報再生装置。
【請求項14】 文字情報に対応した第1のフォントイメージと第2のフォントイメージを備え、文字情報を3次元表示する際に、前記第1のフォントイメージを用い、文字情報を2次元表示する際に前記第2のフォントイメージを用いる、請求項12または13に記載のマルチメディア情報再生装置。
【請求項15】 前記ページデータ復号部において、第1または第2のフォントイメージを用いてページ画像を得る、請求項14に記載のマルチメディア情報再生装置。
【請求項16】 前記2D/3D変換部において、第1または第2のフォントイメージを用いて3次元画像を得る、請求項14に記載のマルチメディア情報再生装置。
【請求項17】 前記第1および第2のフォントイメージを蓄積するフォントイメージ蓄積部と、
第1または第2のフォントイメージを選択するスイッチと、
をさらに備える、請求項15または16に記載にマルチメディア情報再生装置。
【請求項18】 第2のフォントイメージを第1のフォントイメージに変換するフォント変換部をさらに備える、請求項15または16に記載にマルチメディア情報再生装置。
【請求項19】 前記第1のフォントイメージは複数の濃淡情報から成り、文字の太さが見かけ上細くなるように配置されている、請求項14に記載のマルチメディア情報再生装置。
【発明の詳細な説明】
【0001】
【発明の属する技術分野】
この発明は、3次元表示するための画像データをファイルに生成する際に画像データに属性情報を付随させるマルチメディア情報生成装置、そのデータを再生するマルチメディア情報再生装置に関するものである。
【0002】
【従来の技術】
従来、3次元画像を表示する様々な方法が提案されてきた。その中でも一般的に用いられているのは両眼視差を利用する「2眼式」と呼ばれるものである。すなわち、両眼視差を持った左目用画像と右目用画像を用意し、それぞれ独立に左右の眼に投影することにより立体視を行う。
【0003】
図41は、この2眼式の代表的なものの1つである「時分割方式」を説明するための概念図である。
【0004】
この時分割方式では、図41のように、左目用画像と右目用画像が垂直1ラインおきに交互にならんだ形に配置し、左目用画像を表示するフィールドと右目用画像を表示するフィールドを交互に切り替えて表示するものである。左目用画像及び右目用画像は通常の2次元表示時に比べて垂直解像度が半分になっている。観察者はディスプレイの切り替え周期に同期して開閉するシャッタ式のメガネを着用する。ここで使用するシャッタは、左目用画像が表示されている時は左目側が開いて右目側が閉じ、右目用画像が表示されている時は左目側が閉じて右目側が開く。このようにすることにより左目用画像は左目だけで、右目用画像は右目だけで観察されることになり、立体視を行うことができる。
【0005】
図42Aおよび42Bは、2眼式のもう1つの代表的な方式である「パララクスバリア方式」を説明するための概念図である。
【0006】
図42Aは、視差が生じる原理を示す図である。一方、図42Bは、パララクスバリア方式で表示される画面を示す図である。
【0007】
図42Bに示すような左目用画像と右目用画像のペアがストライプ状に並んだ画像を、図42Aに示すように、画像表示パネル91に表示し、この画像に対応した間隔でスリットを持ついわゆるパララクスバリア92をその前面に置くことにより、左目用画像は左目93だけで、右目用画像は右目94だけで観察することにより立体視を行う。
【0008】
ところで、特開平11−41627号公報において、パララクスバリア方式と同様の原理に基づくレンチキュラ方式の3次元表示に用いる記録データ形式の一例が開示されている。
【0009】
図43Aおよび43Bは、このような「レンチキュラ方式」の記録データ形式の一例を示す概念図である。
【0010】
すなわち、図43Aに示す左目用画像101と図43Bに示す右目用画像102から、それぞれを間引きして図43Cに示す1枚の混合画像103を作って記録し、再生時にはこの混合画像103を並べ替えることにより図42Bに示したような合成画像が作成される。
【0011】
上記の2眼式の例に限らず、3次元画像を表示するには様々な方法があり、一般的に異なる表示方式間での記録データの互換性はない。
【0012】
例えば、時分割方式用に記録されたデータをそのままパララクスバリア方式の3次元ディスプレイに表示することはできない。従って、従来の3次元表示システムにおいては、最初から表示方法を固定したデータ記録が行われており、記録データに汎用性を持たせることは考えられていない。例えば、パララクスバリア方式の3次元ディスプレイを使うと決めたら、そのディスプレイに表示するためのデータを記録媒体に記録するのだが、他の方式のディスプレイに表示する可能性などは考えられていないため、記録データがパララクスバリア方式のためのデータだという情報はファイル上に記録されない。
【0013】
表示方式以外にも視点数や間引き方法など、3次元表示に必要な情報はいろいろあるが、表示形式を1つに固定してしまっているためにそれらの情報もファイルには記録されない。いつも同じ形式を使うなら、あえてその情報を記録する必要がないからだが、このために記録データの汎用性が著しく損なわれている。例えば、パララクスバリア方式(あるいはレンチキュラ方式)用のデータを記録する場合に限っても、左目用画像と右目用画像を別々のシーケンスとして記録することもできるし、図43Cのような左目用画像と右目用画像が画面半分ずつ左右に並んだ混合画像を記録することもできるし、図42Bのような左目用画像と右目用画像のペアがストライプ状に並んだ合成画像を記録することもでき、当然記録形式が違えばその後表示するための処理方法も異なるが、記録されたデータからはどの形式で記録されたかを知ることができないため、第三者がそのデータを手にした時、どのような処理によって表示すればよいのかがわからないという問題がある。
【0014】
【発明が解決しようとする課題】
本発明の目的は、3次元表示のための画像データに汎用性を持たせたマルチメディア情報生成方法を提供することにある。
【0015】
本発明の他の目的は、3次元表示のための画像データに汎用性を持たせたマルチメディア情報を再生するためのマルチメディア情報再生装置を提供することにある。
【0016】
上記目的を達成するため、本発明のある局面に従うと、2次元画像および/または3次元画像を複数個含むマルチメディア情報を生成するマルチメディア情報生成方法であって、マルチメディア情報に3次元画像データが含まれる場合、マルチメディア情報は、3次元画像の表示を制御する制御情報を含む。
【0017】
【課題を解決するための手段】
この発明の他の局面に従うと、複数のモジュールから成るマルチメディア情報を生成するマルチメディア情報生成方法であって、モジュールは2次元画像および/または3次元画像を複数個含み、モジュールに3次元画像データが含まれる場合、モジュールは、3次元画像の表示を制御する制御情報を含む。
【0018】
好ましくは、制御情報は、個々の3次元画像に対応して存在する。
【0019】
好ましくは、制御情報は、複数の3次元画像に対応して存在する。
【0020】
好ましくは、少なくとも2次元画像および/または3次元画像の各々を区別する識別子をあらかじめ設定し、制御情報は、3次元画像の識別子を示す識別情報を含む。
【0021】
好ましくは、少なくとも2次元画像および/または3次元画像の各々を区別する識別子をあらかじめ設定し、制御情報は、3次元画像の識別子を示す識別情報を含む。
【0022】
好ましくは、制御情報は、複数の識別子を含む。
【0023】
好ましくは、識別子の所定の値は、マルチメディア情報に含まれる画像が全て3次元画像であることを示す。
【0024】
好ましくは、識別子の所定の値は、モジュールに含まれる画像が全て3次元画像であることを示す。
【0025】
したがって、この発明によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、3次元画像データと共に、3次元画像データを表示するための3次元画像表示制御情報をマルチメディア情報ファイルとして記録または構成するので、3次元画像データに汎用性を持たせ、1種類のマルチメディア情報ファイルで様々な3次元表示方式に柔軟に対応することが可能となる。
【0026】
この発明のさらに他の局面に従うと、2次元画像あるいは3次元画像を複数個含むマルチメディア情報を再生するマルチメディア情報再生装置であって、2次元画像から3次元画像を生成する生成部と、生成部で生成された3次元画像と、マルチメディア情報に含まれる3次元画像を合成する第1の合成部を備える。
【0027】
好ましくは、マルチメディア情報再生装置は、複数の2次元画像を合成する第2の合成部をさらに備え、生成部は、第2の合成部で合成された2次元画像データから3次元画像データを生成する。
【0028】
したがって、この発明によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、マルチメディア情報ファイル中に含まれる3次元画像表示制御情報を解析することにより、3次元画像データと2次元画像データとを表示方法に合わせて適切に変換し、正しく表示することが可能となる。
【0029】
また、上記目的を達成するため、本発明の他の局面に従うと、2次元画像および/または3次元画像を複数個含むマルチメディア情報を再生するマルチメディア情報再生装置であって、マルチメディア情報に含まれる図形および文字情報を復号しページ画像を得るページデータ復号部と、ページ画像を3次元画像に変換する2D/3D変換部と、2D/3D変換部で生成された3次元画像と、マルチメディア情報に含まれる3次元画像を合成する第1の合成部とを備える。
【0030】
好ましくは、複数の2次元画像を合成する第2の合成部をさらに備え、2D/3D変換部は、第2の合成部で合成された2次元画像データを3次元画像データに変換する。
【0031】
好ましくは、文字情報に対応した第1のフォントイメージと第2のフォントイメージを備え、文字情報を3次元表示する際に、第1のフォントイメージを用い、文字情報を2次元表示する際に第2のフォントイメージを用いる。
【0032】
好ましくは、ページデータ復号部において、第1または第2のフォントイメージを用いてページ画像を得る。
【0033】
好ましくは、2D/3D変換部において、第1または第2のフォントイメージを用いて3次元画像を得る。
【0034】
好ましくは、第1および第2のフォントイメージを蓄積するフォントイメージ蓄積部と、第1または第2のフォントイメージを選択するスイッチとをさらに備える。
【0035】
好ましくは、第2のフォントイメージを第1のフォントイメージに変換するフォント変換部をさらに備える。
【0036】
好ましくは、第1のフォントイメージは複数の濃淡情報から成り、文字の太さが見かけ上細くなるように配置されている。
【0037】
したがって、本発明のマルチメディア情報再生装置によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、マルチメディア情報ファイル中に含まれる3次元画像表示制御情報を解析することにより、3次元画像データと2次元画像データを表示方法に合わせて適切に変換し、正しく表示することが可能となる。
【0038】
【発明の実施の形態】
以下、本発明の構成、作用および効果を図に従って説明する。なお、図中同一または相当部分には同一符号を付して、その説明は繰返さない。
【0039】
図1A〜1Cは、本発明の実施の形態において生成されるマルチメディア情報ファイルの構造を示す図である。
【0040】
マルチメディア情報ファイルは3次元画像データと2次元画像データのどちらを含んでいても良いが、以下では3次元画像データを含む場合の例について説明する。
【0041】
まず、図1Aを参照して、マルチメディア情報ファイルは、ヘッダ制御情報1と、3次元表示制御情報2と、3次元画像データ3との少なくとも3つの構成要素を含んでいる。
【0042】
ヘッダ制御情報1は、例えば画像のサイズなど3次元画像データ3を再生するために必要な制御情報である。3次元表示制御情報2は、得られた3次元画像を所望の3次元形式に変換するために必要な制御情報である。また、3次元画像データ3は、3次元画像データそのものである。
【0043】
3次元画像データ3は、静止画データでも動画データであってもよい。また、マルチメディア情報ファイルには音声データを一緒に記録してもよいが、簡単のためここでは省略する。また、これ以外の付加情報を含んでもよい。
【0044】
なお、マルチメディア情報ファイルが2次元画像データを含んでいる場合には、3次元表示制御情報は付加されない。
【0045】
それぞれの構成要素はオブジェクトと呼ばれる。各オブジェクトは、図1Bに示すような形をしている。すなわち、まずオブジェクトを識別するためのオブジェクトID4と、オブジェクトサイズ5とが書かれ、その後オブジェクトサイズ5で規定される長さのオブジェクトデータ6が続く。オブジェクトID4とオブジェクトサイズ5を合わせてオブジェクトヘッダと呼ぶ。このオブジェクトは階層構造をとることが可能である。
【0046】
なお、図1Aにおいて、ヘッダ制御情報1、3次元表示制御情報2及び3次元画像データ3は、本来、それぞれヘッダ制御情報オブジェクト1、3次元表示制御情報オブジェクト2及び3次元画像データオブジェクト3と呼ぶべきものだが、呼称が長くなるのを避けるため、ここでは「オブジェクト」という表記を省略する。
【0047】
図1Cは、3次元画像データ3の構造の一例を示す図である。3次元画像データ3では、オブジェクトIDやオブジェクトサイズを含むオブジェクトヘッダ7の後に、複数のパケット8が続く。パケット8はデータを通信する際の最小単位であり、各パケットはパケットヘッダとパケットデータにより構成される。なお、3次元画像データ3は必ずしもパケット化されている必要はなく、一続きのデータ列であってもよい。
【0048】
図2は、本発明のマルチメディア情報生成装置の一例である画像データ記録装置100の構成を示すブロック図である。
【0049】
図2を参照して、画像データ記録装置100は、3次元表示制御情報生成部11と、ファイル生成部12とを備える。
【0050】
3次元表示制御情報生成部11は、必要なパラメータを外部から受け取り、3次元表示制御情報を1つのオブジェクトとして生成する。ファイル生成部12は3次元表示制御情報と3次元画像データとを受け取り、さらにヘッダ制御情報を付け加えることによって、図1A〜1Cに示したようなマルチメディア情報ファイルを生成し出力する。ここでの3次元画像データは非圧縮データであってもよいし、圧縮符号化されたデータであってもよい。
【0051】
なお、生成されたマルチメディア情報ファイルは記録媒体13に記録してもよいし、直接通信路に送出してもよい。
【0052】
次に、本発明のマルチメディア情報再生装置の一例として、本実施の形態における画像データ再生装置について説明する。
【0053】
図3は、図1Aに示したような3次元画像データを含むマルチメディア情報ファイルが入力される画像データ再生装置200の構成を説明するためのブロック図である。
【0054】
図3を参照して、画像データ再生装置200は、ファイル構造解析部21と、ファイルヘッダ解析部22と、データ再生部23と、表示部24と、3次元表示制御情報解析部25と、データ変換部26とを備える。マルチメディア情報ファイルは、記録媒体13から、あるいは通信路から供給される。
【0055】
入力されたマルチメディア情報ファイルは、ファイル構造解析部21でヘッダ制御情報、3次元画像データ及び3次元表示制御情報のそれぞれが認識され、ヘッダ制御情報はファイルヘッダ解析部22へ、3次元画像データはデータ再生部23へ、3次元表示制御情報は3次元表示制御情報解析部25へそれぞれ送られる。
【0056】
ファイルヘッダ解析部22ではヘッダ制御情報の解析を行い、3次元画像データの再生に必要な情報をデータ再生部23に渡す。データ再生部23では、データの逆多重化やパケットからのデータ取り出し、さらにデータが圧縮符号化されている場合にはその復号を行う。3次元表示制御情報解析部25では3次元表示制御情報を解析し、得られた情報をデータ変換部26に渡す。データ変換部26は所望の3次元表示形式に合うように復号された3次元画像データを変換し、表示部24へ出力する。表示部24は再生装置から独立した単体の3次元ディスプレイであってもよい。
【0057】
図4A〜4Cは、3次元表示制御情報2に記述する具体的な情報を説明するための概念図である。
【0058】
図4Aにその一部を示すように、3次元表示制御情報2に記述する具体的な情報には、視点数、各視点位置に対応するストリーム、間引き方向、カメラ配置、視差量シフト限度、枠表示の有無、枠画像データ、視差像切替ピッチ、サンプリングパターン、画像配置、反転の有無などがある。
【0059】
以下、図4Aに示した3次元表示制御情報について、さらに詳細に説明する。
【0060】
図4Aにおける「視点数」とは、文字通り視点すなわち視差像の数であり、上述の2眼式のデータであれば2となる。
【0061】
カメラを用いた撮影ではカメラが眼の役割をするので、撮影時に使用したカメラの数ということもできる。人間の眼は2つしかないので、視点数が3以上の場合、データとしては冗長であるが、観察者の移動に合わせて観察像が変化するのでより自然な立体視が可能となる。
【0062】
図4Aにおいて視点数を記述した行の次の2行(視点位置L、視点位置R)は、それぞれ左の視点位置と右の視点位置に対応する「ストリーム番号」を示している。
【0063】
ここで、「ストリーム番号」についてさらに詳しく説明する。
【0064】
図4Bに示すように、音声と左目用画像と右目用画像のそれぞれが別のストリームとなっており、それをパケット多重化して記録する場合を考えると、多重化されたデータにおいて各パケットが音声データなのか左目用画像データなのか右目用画像データなのかを識別するために、各ストリームに固有のストリーム番号が付与される。
【0065】
図4Bの例では、音声ストリームにはストリーム番号1、左目用画像データにはストリーム番号2、右目用画像データにはストリーム番号3を対応させ、各パケットヘッダにこのストリーム番号を書くことによってデータ種別を明示する。
【0066】
このストリーム番号を用いることにより、図4Aにおいては、左目用画像はストリーム番号2、右目用画像はストリーム番号3のデータであることを示している。なお、従来の2次元画像データを取り扱うマルチメディア情報ファイルにおいては、多重化されたストリームに対しては音声と画像の区別しか必要ないため、視点位置との対応を記述したこの情報は3次元画像データを取り扱う場合に特有のものである。
【0067】
以下、さらに図5A〜5Cに示す概念図を用いて、上記「視点数」、「視点位置」について、さらに説明しておく。
【0068】
図5Aは、2眼式の例を示しており、図5Bと図5Cは6眼式の例を示している。図5Aの2眼式の場合は、左と右という指定の仕方で視点位置を特定することができる。
【0069】
これに対して、6眼式の場合、図5Bのように、たとえば、左側において、中央から数えて何番目であるかに応じて、「L1」、「L2」、「L3」と表現する。右側も同様である。
【0070】
あるいは、6眼式の場合、図5Cのように左からの通し番号で何番目と表現することも可能である。さらには、図5Bおよび図5C以外の種々の方法が考えられる。
【0071】
視点位置をどのように表現するかについては、あらかじめ送信側と受信側で規格あるいは決まり事として共有されている必要がある。何の取り決めもなしでは、例えばch3と書いてあっても左から3番目なのか右から3番目なのかがわからなくなってしまうからである。
【0072】
図6は、6眼式の場合において、視点位置と対応するストリームの記述の例を示す概念図であり、図4Aと対比される図である。
【0073】
図6では、音声ストリームはストリーム番号1であって、画像ストリームについては、たとえば、視点位置1〜6にストリーム番号2〜7を対応させている。そして、各パケットヘッダにこのストリーム番号を書くことによってデータ種別を明示する。
【0074】
一方、図7Aおよび7Bは、左目用画像と右目用画像が同じストリームとなっている場合において、視点位置と対応するストリームの記述の例を示す概念図である。
【0075】
図7Aに示すように、視点位置Lと視点位置Rには同じストリーム番号(この場合はストリーム番号2)を記述する。この時の多重化データは図7Bに示すようになり、複数の視差像が1枚の画像に合成されている3次元画像データを記録または伝送する場合には、この形態を用いるとよい。
【0076】
ここで、再び、図4A〜4Cに戻って、図4Aにおける「間引き方向」とは、データを間引いた方向を示すものである。
【0077】
例えば、上述した「パララクスバリア方式(あるいはレンチキュラ方式)」において、図42Bのように左目用画像と右目用画像のペアが縦ストライプ状に並んでいるような画像を作成する場合、左目用画像と右目用画像のそれぞれは通常の2次元画像と比較して水平方向の解像度が半分になっている。この場合は、「間引き方向」には、水平方向に間引きされているという情報を記述する。これは左目用画像と右目用画像がそれぞれ独立した2つのストリームであるか、上述した図43Cのような混合画像の形になった1つのストリームであるかには関係しない。
【0078】
一方、上述した図41は、垂直方向に間引きが行われている画像を示している。したがって、図41の様な場合では、「間引き方向」には、垂直方向に間引きされているという情報を記述する。
【0079】
また、図43A、43Bのように間引きしていない画像をそのまま伝送し、表示する直前に間引く場合もあり、その場合はファイルに記録された状態では間引きされていないので、間引き方向の情報としては「間引きなし」と記述する。
【0080】
なお、この間引き方向のようにパラメータを数値で表現することが困難な場合、図4Cに示すようなテーブルを設定し、そのインデックスを記述するという方法を取ることが望ましい。
【0081】
例えば、間引き方向が水平方向の場合は、図4Aの間引き方向の欄に「1」と記述すればよい。この際、インデックスとその意味するものを対応づけた図4Cのようなテーブルは、送信側と受信側で規格あるいは決まり事として共有されている必要がある。このような表現方法は他のパラメータにも適用することができる。
【0082】
さらに、図4Aにおける「カメラ配置」とは複数のカメラをどのように並べて撮影したかを示すものであり、平行型(parallel)、集中型(convergent)、発散型(divergent)の3つに大別される。
【0083】
上述した図5A〜5Cは平行型の例であり、各カメラの光軸が平行になるように配置されたものである。
【0084】
図8A〜8Cは、「カメラ配置」の他の構成例を示す概念図である。
【0085】
図8Aと図8Bは集中型の例であり、全てのカメラの光軸がある1点に集まるように配置されたものである。
【0086】
一方、図8Cは発散型の例であり、全てのカメラの光軸がある1点から出ていくように配置されたものである。
【0087】
ここで、図8Aは2眼式の、図8B、Cは6眼式の例を示している。この情報は視点補間や3次元モデル構築の際に活用される。
【0088】
次に、再び図4A〜4Cに戻って、図4Aにおける「視差量シフト限度」について説明する。
【0089】
一般的に、図41や図42Aおよび42Bを用いて説明したような両眼視差を利用して立体視するような表示においては、視差量を変化させることにより奥行き感を調整することができる。
【0090】
視差量を変化させるには、具体的には、例えば図42Bに示す合成画像において左目用画像はそのままにしておき、右目用画像だけを左右どちらかにずらすことにより実現できる。このように画像を左右にずらすことにより視差量を変化させると、表示画面の幅は限られていることから、ずらした分だけ画面の外にはみ出ることになり、その部分は表示できなくなる。従って、極端なずらし量を許すと画像の作成者が是非見てもらいたいと思っているものが表示されなくなる事態が発生する。このため、それを防ぐためにずらし量に制限を設ける。これが「視差量シフト限度」であり、例えば±16ピクセルというように範囲指定する。
【0091】
図4Aにおける「枠表示の有無」は、3次元画像データの周囲に枠画像を表示するかどうかを指定する情報である。この枠画像は画面に変化を付けたり、面白味を付加するため、あるいは立体視をしやすくするために表示するものである。
【0092】
図9Aおよび9Bは、枠画像の構成を説明するための概念図である。
【0093】
図9Aは、枠画像を表示しない状態を示し、画面全体が通常の3次元画像表示領域31であり、ここではその幅をWとする。
【0094】
これに対し、図9Bは、枠画像を表示した状態である。画面全体の大きさは図9Aと変わらないが、画面の外周には幅Δdの枠画像33が表示され、その内側が3次元画像表示領域32となる。したがって、枠画像を表示しない場合と比較して、枠画像を表示した場合には枠の分だけ3次元画像表示領域が狭くなり、3次元画像表示領域32の幅をW1とすると、W=W1+2・Δdの関係がある。なお、枠画像33の四辺の幅は各辺によって異なっていてもよい。また、枠画像33はそれ自体が立体視できるような3次元的な枠でもよいし、平面的に見える2次元的な枠でもよい。
【0095】
このとき表示する枠画像データは、再生装置にあらかじめ準備しておいてもよいし、マルチメディア情報ファイルの中に含めて3次元画像データと一緒に送るようにしてもよい。
【0096】
図10A〜10Cは、このような枠画像を表示させるために「枠画像データ」を供給する構成を説明するためのブロック図である。
【0097】
まず、図10Aは、画像データ再生装置200に、「枠画像データ」を予め準備しておく場合の一つの構成の例を示す。図10Aは、図3に示した画像データ再生装置200における3次元表示制御情報解析部25の構成の詳細を示したものである。
【0098】
図10Aを参照して、3次元表示制御情報解析部25は、枠画像付加制御部27と枠画像格納メモリ28とを備える。枠画像付加制御部27は、入力された3次元表示制御情報のうち枠表示の有無に関する情報を解析し、枠表示有りとなっている場合には枠画像格納メモリ28に予め準備されている枠画像をデータ変換部26へ出力する。データ変換部26では、3次元画像データにこの枠画像を重畳して表示部24へと出力する。
【0099】
図10Bは、枠画像データを再生装置に予め準備しておく場合の別の構成の例を示す。すなわち、図10Bは、図3に示した画像データ再生装置200における3次元表示制御情報解析部25の他の構成の詳細を示したものである。
【0100】
図10Bを参照して、3次元表示制御情報解析部25は、枠画像付加制御部27と、枠画像選択部29と、複数の枠画像格納メモリ28−1〜28−3とを備える。
【0101】
図10Bの例では、枠画像付加制御部27において枠表示有りと判断された場合には、さらに複数準備されている枠画像のうちどの枠画像を使うかを枠画像選択部29が判定し、適切な枠画像格納メモリから枠画像データを呼び出してデータ変換部へ出力する。どの枠画像を使うかは3次元表示制御情報の中に枠画像データを示す情報として記述する。図10Bのような場合は、パターン1、パターン2等と記述することで指定することができる。複数の枠画像としてはテクスチャが異なる枠画像、あるいは飛び出し量が異なる立体的な枠画像を用いることができる。このようにすることにより、3次元画像データに応じて適切な枠画像を表示することができる。
【0102】
また、デフォルトで使用する枠画像を設定しておき、枠表示有りで枠画像データが指定されていない場合あるいはデフォルトの枠画像が指定された場合にはデフォルト設定されている枠画像を用いるようにしてもよい。枠画像データとして指定された枠画像パターンを再生装置が持っていない場合は、デフォルト設定されている枠画像で代用するものとしてもよい。
【0103】
なお、図10Aの場合、準備されている枠画像データが1つしかないため明示的に指定する必要はないが、枠画像データを示す情報として「デフォルト」と記述してもよい。
【0104】
図10A、10Bのような形態の場合、枠画像のデータは画像データ再生装置200内に格納されており、3次元表示制御情報中に記載される情報は、予め用意されている1または複数の枠画像の中からどの枠画像を使用するかを示す選択情報である。
【0105】
一方、図10Cは、枠画像データがマルチメディア情報ファイルの中に含まれて3次元画像データと一緒に送られる場合において、画像データ再生装置200における3次元表示制御情報解析部25の構成の例を示す。
【0106】
図10Cを参照して、3次元表示制御情報解析部25は、枠画像付加制御部27を備える。枠画像付加制御部27は枠表示有りと判定した場合には、3次元表示制御情報として含まれている枠画像のデータをデータ変換部26へ送る。すなわち、この例では枠画像データを示す情報として選択情報を記述するのではなく、枠画像データそのものを記述する。このようにすることにより、マルチメディア情報ファイルの送り手が自由に生成した枠画像を付加することができる。
【0107】
(3次元表示制御情報の他の構成)
以下では、主に上述した図42Aおよび42Bに示したパララクスバリア方式あるいはレンチキュラ方式に用いられる3次元画像データをファイル化する際に用いられる3次元表示制御情報の例について説明する。
【0108】
図4Aにおける「視差像切替ピッチ」は、図42Bのように異なる視差像のストライプを繰り返し配置する際の切替周期を示すものである。
【0109】
図11A〜11Dは、パララクスバリア方式で用いる液晶パネルとパララクスバリアのスリットの位置関係を示す概念図である。
【0110】
図11A〜11Dには、3次元画像を表示する液晶パネル106を示しているが、ここではR、G、Bがまとまって1組となった単位(105)をピクセル、R、G、Bの各エレメントをサブピクセルと呼ぶことにする。すなわち、1ピクセル=3サブピクセルである。
【0111】
図11Aは、パララクスバリア方式において視差像切替ピッチが1ピクセルである場合を示している。この場合、2ピクセルに対して1つのスリット104が割り当てられる。図11Bは、図11Aを上から見た図である。図11Bに示すとおり、液晶パネル106に表示する像は右目用画像と左目用画像が1ピクセルごとに交互に配置されている。この場合のパララクスバリア107のスリット間隔は2ピクセルとなる。
【0112】
一方、図11Cはパララクスバリア方式において視差像切替ピッチが1サブピクセル(1/3ピクセル)である場合を示している。この場合、2サブピクセルに対して1つのスリット104が割り当てられる。図11Dは、図11Cを上から見た図である。図11Dに示すとおり、液晶パネル106に表示する像は右目用画像と左目用画像が1サブピクセルごとに交互に配置されている。この場合のパララクスバリア108のスリット間隔は2サブピクセルとなる。
【0113】
図4Aにおける「サンプリングパターン」は、原画像から水平方向に間引きを行って左目用画像および右目用画像を作る際に、どのような間引き方法を用いたかを示すものである。
【0114】
このサンプリングパターンには、「色再現性優先方式」と「解像度優先方式」がある。
【0115】
図12Aおよび12Bは、サンプリングパターンを説明するための概念図である。
【0116】
図12Aは、「色再現性優先方式」を示し、図12Bは、「解像度優先方式」を示す。
【0117】
図12Aおよび12Bでは、画像データをR0、G1などの形式で表現しているが、最初のR、G、Bは色成分を、それに続く0、1等の数字はピクセルの水平位置を表している。
【0118】
図12Aの色再現性優先方式では、データを半分に間引く際にピクセル単位で間引いている。間引かれて残ったデータは1ピクセルおきにサンプリングされた偶数番号の位置のみのデータとなる。この方式では残ったR、G、Bの組は間引き前と変わらないため、色再現性がよい。
【0119】
一方、図12Bの解像度優先方式では、データを半分に間引く際にサブピクセル単位で間引いている。間引き後はピクセル位置0のデータはRとBの成分だけがあり、ピクセル位置1のデータはGの成分だけがある。間引き前のデータと比較するとR、G、Bの組が同じピクセルは存在しないが、間引き後のデータには全てのピクセル位置のデータが少なくとも1つの色成分については含まれている。このため、実感できる解像度は高くなる。このため、例えば斜め線のギザギザが目につきにくくなる。
【0120】
なお、図12Bの解像度優先方式は視差像切替ピッチがサブピクセル単位であることを前提としているため、図11Aに示したような視差像切替ピッチが1ピクセルの場合には、原理的に図12Aの色再現性優先方式しか選択できない。
【0121】
図4Aにおける「画像配置」は、図43Cに示したように複数の視差像を並べて1枚の画像を構成して伝送記録する際に必要となる情報である。
【0122】
図13A〜13Eは、このような1枚の画像を構成するために複数の視差像を並べる画像配置を説明するための概念図である。
【0123】
水平方向に間引いた左目用画像と右目用画像を横に並べて1枚の画像とする場合、図13Aに示すように左目用画像を左側に、右目用画像を右側に配置する形態がまず考えられる。これとは別の形態として、図13Bに示すように左目用画像を右側に、右目用画像を左側に配置することも可能である。
【0124】
また、垂直方向に間引いた左目用画像と右目用画像を縦に並べて1枚の画像とする場合、図13Cに示すように左目用画像を上に、右目用画像を下に配置することもできるし、図13Dに示すように左目用画像を下に、右目用画像を上に配置することもできる。
【0125】
したがって、複数の視差像が左右に並んでいるのか上下に並んでいるのか、また、左目用画像が左右あるいは上下のどちら側にあるのかを示す情報を記述することによりこれらを区別する。なお、視点数(視差像の数)は2には限定されない。
【0126】
また、間引き方向と画像を並べる方向とは独立して考えることができる。すなわち、水平方向に間引いた画像であっても図13Eに示すように上下に並べることも可能である。逆に、間引き方向と画像を並べる方向を連動させることにすれば、どちらかの情報を省略することが可能になる。
【0127】
ところで、先に説明した間引き方向の情報は左目用画像、右目用画像それぞれに対して独立に設定してもよい。図22Aに示した3次元表示制御情報の例では、左目用画像間引き方向として間引きなし、右目用画像間引き方向として水平方向と記述している。このような場合、左目用画像と右目用画像を横に並べた画像は図22Bに示すようになり、左目用画像と右目用画像の大きさが異なる。このようにすることにより、2次元画像のみが表示できる表示部を持つ画像データ再生装置と、3次元画像も表示可能な表示部を持つ画像データ再生装置のどちらにおいても良好な画像再生を行うことができる。すなわち、2次元画像のみが表示できる画像データ再生装置では、図22Bに示す画像データを受け取った場合、左目用画像のみを表示することにより、間引きされていない高解像度の2次元画像を再生することができる。3次元画像が表示可能な画像データ再生装置では、図22Bに示す画像データを受け取った場合、左目用画像を水平方向に間引いて右目用画像と同じ解像度にした後で3次元表示用のデータ変換を行うことにより、図13Aに示したような画像データを受信した場合と同様の3次元表示を行うことができる。
【0128】
図4Aにおける「反転の有無」は、複数の視差像を並べて1枚の画像を構成する際に、各視差像が反転しているかどうかを示すものである。
【0129】
図14Aおよび14Bは、このような各視差像を反転する構成を説明するための概念図である。
【0130】
図14Aは、左目用画像61を左側に、右目用画像62を右側に単に並べた状態である。ここで、右目用画像62の左右を反転したとすると、図14Bに示すようになる。画像を符号化して記録伝送する場合、類似した特徴を持つ領域は固まっていた方が、符号化効率が向上するケースがある。このため、図14Aの画像を符号化するよりも図14Bの画像を符号化した方が符号化効率が高くなることがある。図14Bのような配置とした場合、再生装置200では右目用画像を再反転して元に戻すことが必要である。
【0131】
2つの視差像を左右に並べた場合に取り得る状態としては、反転なし、左側画像反転、右側画像反転、両画像反転の4つが考えられる。ここで、左側画像とは左右に並べられた2つの画像のうち、左側の画像であるという定義を用いる。したがって、図13Aの並べ方をした場合、左側画像は左目用画像であるが、図13Bの並べ方の場合は左側画像は右目用画像となる。なお、左側画像反転と記述する代わりに左目用画像反転と記述することも可能である。先に説明した画像配置の情報を用いることにより、左目用画像が左右どちらに配置されているかを知ることができるからである。
【0132】
以上説明したような「3次元表示制御情報」の各項目は、マルチメディア情報ファイルに対して、全てが必須というわけではなく、必要に応じて省略することが可能である。その場合は、どの項目が記載されているかがわかるように別途定めておけばよい。
【0133】
なお、図4AにおけるオブジェクトIDは、この位置から情報オブジェクトの単位が始まることを示すとともに、この情報オブジェクトが3次元表示制御情報に関するものであることをも示す。すなわち、このようなオブジェクトIDは、マルチメディア情報ファイルが3次元画像制御情報を含む、すなわち3次元画像データを含むことを示す3次元識別情報としても機能する。
【0134】
一方、図15に示すように3次元画像制御情報オブジェクトにおけるオブジェクトIDとして汎用のIDを用いることもできる。この場合は、このIDは単にこの位置から情報オブジェクトの単位が始まることだけを示し、その情報オブジェクトに書かれている情報がどのような種類のものかを示す情報はそのオブジェクト内に別途設けられる。図15ではこの情報オブジェクトが3次元表示制御情報に関するものであることを示す情報として、3D−001という3次元識別情報が書かれている。この3D−001はあくまでも一例であり、任意の数字や文字列を3次元識別情報として使用することができる。
【0135】
上記の例では3次元識別情報は3次元画像データを含むことを示すために用いられているが、異なる3次元表示方式に対して異なる3次元識別情報を与えることにより、それらを区別することができる。例えば、パララクスバリア方式用のデータに対して3D−001、液晶シャッター方式用のデータに対して3D−002を3次元識別情報として与えてもよい。
【0136】
さらに、3次元識別情報は図16に示すように、それだけで1つの情報オブジェクトを構成してもよい。この場合、図19に示すようにマルチメディア情報ファイルが3次元識別情報41と3次元表示制御情報2を別オブジェクトとして保持してもよい。
【0137】
なお、マルチメディア情報ファイルが3次元画像データを含むことを示すために、3次元識別情報の代わりに専用の拡張子を用いることができる。例えば、通常の2次元画像データを含むマルチメディア情報ファイルに対して「jpg」という拡張子を用いる時、3次元画像データを含むマルチメディア情報ファイルに対して「3da」という拡張子を用いるようにすることにより、マルチメディア情報ファイルが3次元画像データを含んでいるかどうかを拡張子によって識別することができる。また、異なる3次元表示方式に対して異なる拡張子を定めることにより、それらを区別することができる。例えば、パララクスバリア方式用のデータを含むマルチメディア情報ファイルに対して「3da」、液晶シャッター方式用のデータを含むマルチメディア情報ファイルに対して「3db」を拡張子として用いる。
【0138】
拡張子によって3次元識別を行う利点は、ファイルの内部を解析することなく、そのファイルが3次元画像データを含んでいるかどうか、あるいはどのような3次元表示方式のデータを含んでいるかを判定できる点にある。例えば、ハードディスク上に多くのマルチメディア情報ファイルが存在する時、自身の端末で再生可能なファイルがどれであるかを素早く見付けることができる。あるいはサーバ上に複数のマルチメディア情報ファイルが存在する時、2次元画像しか再生できない端末が3次元画像をダウンロードしないようにすることが可能になる。
【0139】
一方、前述の3次元識別情報によって3次元識別を行う場合には、ファイルの中身を書き換えない限りは3次元識別情報が保存されるので、重要な情報である3次元識別情報が容易に改変されにくいという利点がある。
【0140】
ところで、画像を表示する表示部は2次元表示と3次元表示の切り替えが可能なものを使うことができる。すなわち、図20に示す画像データ再生装置における表示部44は、2次元表示、3次元表示の表示モード切り替え機能を有しており、これは自動で切り替え可能な表示手段であっても良い。図3の画像データ再生装置と共通の部分については説明を省略する。図20の画像データ再生装置は、図15に示すように3次元識別情報が3次元表示制御情報と同じオブジェクトに含まれる場合に対応するものであり、3次元表示制御情報解析部25が3次元識別情報の有無を解析し、その有無に従って表示部44の表示モードを切り替える。すなわち、ここでは3次元表示制御情報解析部25がファイル種別判定をも行っている。入力されたマルチメディア情報ファイルに3次元識別情報が含まれる場合、前記表示部44では3次元表示モードで表示し、3次元識別情報が含まれない場合は、表示部44では2次元表示モードで表示する。
【0141】
なお、表示部が3次元表示専用である場合は、3次元識別情報を持たないファイルは再生しない、あるいは何らかの2次元/3次元変換を行った上で表示を行うようにすることが可能である。また逆に表示部が2次元表示専用である場合は、3次元識別情報を持つファイルは再生しない、あるいは何らかの3次元/2次元変換を行った上で表示を行うようにすることも可能である。
【0142】
図17に示す画像データ再生装置は、図19に示すように3次元識別情報と3次元表示制御情報が別のオブジェクトとなっている場合に対応するものである。図17の画像データ再生装置においては、3次元識別情報解析部45によってマルチメディア情報ファイルに3次元識別情報が含まれているかどうかを解析し、その有無に従って表示部44の表示モードが切り替わるような構成とする。すなわち、ここでは3次元識別情報解析部45がファイル種別判定の役割を担っている。
【0143】
前述のように拡張子によって3次元識別を行う場合には、この2次元表示、3次元表示の切り替えは、拡張子を用いて行うことができる。図21に示す画像データ再生装置は拡張子によって3次元識別を行う場合の例であり、ファイル種別判定部46が拡張子を解析した結果により、表示部44の表示モードおよびデータ変換部26の変換方法を制御する。
【0144】
このように、3次元識別情報はマルチメディア情報ファイルが3次元画像データを含むかどうかを判定するために用いられる。画像データの符号化形式は2次元画像であろうと3次元画像であろうと同じ形式を用いることができ、共通の復号器を用いることができるが、その場合、人間であれば復号された画像を見てそれが2次元画像として出力されるべきか3次元画像として出力されるべきかを判断することができるが、再生装置にはその区別がつかない。そのため、再生装置がそれを判定するのに3次元識別情報が必要となるのである。これは2次元画像と3次元画像の区別のみならず、複数ある3次元表示形式のうちのどれが使われているかを判定する場合でも同様である。この判定結果により3次元表示モードと2次元表示モードを自動的に切り替えることが可能になる。
【0145】
また、図1Aではマルチメディア情報ファイルの中に3次元表示制御情報が1つだけ含まれているが、3次元画像データが動画像のように複数枚の画像から構成される場合は、各画像データの先頭に1つずつ3次元表示制御情報を付加するような形をとっても良い。或いは、3次元表示制御情報を3次元画像データ中の任意の位置に繰り返し格納するようにしてもよい。
【0146】
また、動画像を衛星、地上波、インターネットなどの伝送媒体を介し放送するような場合、視聴者が放送の途中から受信、視聴したり、チャンネルの切り替えを行う可能性があるため、3次元表示制御情報を先頭に1つだけ配置するのではなく、図18に示すように番組配列情報という形で定期的に放送コンテンツの中に挿入することが望ましい。ここで放送コンテンツとは、立体画像データや音声データ、これらの内容に関連したBMLデータなどが多重化された符号化データである。また、番組配列情報の中には画像データや音声データ、BMLデータなどの互いの関連を示す情報(同期情報)や著作権情報などが含まれ、3次元表示制御情報もここに格納される。なお、3次元表示制御情報は番組配列情報に含めるのではなく、繰り返し3次元画像データ(符号化データ)の中に直接多重化してもよい。このように放送コンテンツ中に3次元表示制御情報あるいは3次元識別情報を繰り返し挿入することにより、番組途中から再生を開始する場合であっても受信データが3次元画像であるかどうか、あるいは3次元画像の場合には3次元表示に必要なパラメータ情報を知ることができる。
【0147】
以下では、1つのマルチメディア情報ファイルの中に3次元画像データ、2次元画像データおよびページデータなどが、それぞれ少なくとも1つずつ含まれる場合について説明する。ここでページデータとはHTMLやBMLのようなページ記述言語で記述されたデータである。またページデータに基づいて罫線や表などを描画した画像をページ画像と呼ぶ。マルチメディア情報ファイルには、この他音楽データや他のデータが含まれても良いが、簡略化のため以下では説明を省略する。
【0148】
このようなマルチメディア情報ファイルでは、含まれる画像データが2次元か3次元かを識別するための情報をファイル中に挿入する必要がある。以下にこれを実現する例を説明する。
【0149】
図23は、2次元画像データ(画像データ(2D))と3次元画像データ(画像データ(3D))が混在するマルチメディア情報ファイルの構成を示す概念図である。
【0150】
このようなマルチメディア情報ファイルは、ヘッダ情報および画像データ(3D)、画像データ(2D)、ページデータなどのマルチメディアデータから構成される。個々のマルチメディアデータは「モジュール」と呼ばれるブロックに格納される。ヘッダ情報には各モジュールを管理するための情報(ヘッダ補助情報)および各モジュールを再生するためのモジュール付加情報が含まれる。例えば、モジュール1のモジュール付加情報を「モジュール1付加情報」と呼ぶ。モジュール付加情報には画像データ、ページデータ等を区別する情報が含まれる。なお、画像データの場合は画像データを復号するのに用いられるヘッダ制御情報を、各モジュールの先頭に配置する。
【0151】
図24は、画面上で、画面の原点を基準として、2次元画像(2D画像)と3次元画像(3D画像)とが配置される状態を示す概念図である。
【0152】
ページデータ中には、図24に示すように、それぞれの画像データを画面上のどの位置にどのくらいの大きさで配置するかを示す配置情報なども含まれる。なお、画像の配置情報が別途定められている場合、ページデータ中に配置情報は必ずしも含まれない。
【0153】
再び、図23を参照して、ヘッダ情報に含まれる上記モジュール付加情報は、マルチメディア情報ファイルに含まれるモジュール数だけあり、各モジュール付加情報とモジュールは1対1に対応付けられる。モジュールに3次元画像データが格納される場合にのみ、既に説明した3次元画像表示制御情報が対応するモジュール付加情報に挿入される。すなわち、図23に示した例では、モジュールは、3個存在し、このうち、1番目のモジュールには2次元画像データが、2番目のモジュールには3次元画像データが、3番目のモジュールにはページデータがそれぞれ含まれる。ヘッダ情報中の2番目のモジュールに対応するモジュール付加情報には、3次元画像表示制御情報が挿入されている。
【0154】
このため、モジュール付加情報に上記3次元画像表示制御情報が含まれていれば、対応するモジュールは3次元画像データ、そうでなければ2次元画像データもしくはその他のデータと識別できる。図23に示した画面の例ではこのようにして2次元画像データと3次元画像データの識別が可能となる。
【0155】
モジュール付加情報の領域には、モジュール付加情報の実質的な内容を示すデータが含まれていなくとも良いものの、モジュール付加情報の領域そのものは必ず存在するものとする。モジュール付加情報の数とモジュール数が同一で、かつ格納順序も同一とすれば、これによりモジュール付加情報とモジュールとを正しく対応付けることができる。このため、各モジュール付加情報の先頭にはその領域の大きさを表すデータが挿入される。
【0156】
上記モジュール付加情報の大きさを表すデータは、複数のモジュール付加情報の先頭にまとめて挿入しても良い。また、大きさを表すデータの代わりに領域の境界として識別可能な所定パターンを各モジュール付加情報の間に配置し、これによって領域を確保しても良い。
【0157】
図25は、マルチメディア情報ファイルの別の構成を示す概念図である。図25に示す通り、ここでは先頭にデータサイズや種別などの情報を挿入したマルチメディアデータを複数まとめ、これを1つのモジュールとしている。モジュール付加情報はモジュールに対応するものであるため、モジュール付加情報に含めた情報とモジュール内の個々のマルチメディアデータとを対応させることはできない。そのため、図25では、複数のマルチメディアデータに加え、それらに対応する個々の付加情報を1つのモジュールにまとめている。個々のマルチメディアデータに対応する上記付加情報は、実質的な内容を示すデータが含まれていなくとも良いが、個々の領域そのものは必ず存在するものとする。上記付加情報の数とマルチメディア情報数が同一で、かつ格納順序も同一とすれば、個々のマルチメディアデータと付加情報を対応付けられる。
【0158】
これによって、上記付加情報に3次元画像表示制御情報を含めることで2次元画像データと3次元画像データの識別が可能となる。
【0159】
図26Aおよび26Bは、マルチメディア情報ファイルのさらに別の構成を示す概念図である。
【0160】
すなわち、3次元画像表示制御情報にモジュール内のマルチメディアデータを指し示す識別子を含め、これにより画像データと前記3次元表示制御情報とを対応させるものである。図26Aでは、モジュール内の各マルチメディアデータに対して識別子番号を付与しておき、モジュール付加情報の領域に格納した3次元画像表示制御情報に、3次元画像データの識別子を含めている。このように構成することで、2次元画像データと3次元画像データの識別が可能となる。また、モジュール内に複数の3次元画像データが含まれる場合、図26Bに示すように複数の3次元画像表示制御情報をモジュール付加情報領域に含めることで、モジュール内の2次元画像と3次元画像を識別することが可能となる。
【0161】
図31は、マルチメディア情報ファイルのさらに別の構成を示す概念図である。
【0162】
すなわち、図31に示すように、3次元画像表示制御情報に複数の識別子を含めることで、2次元画像と3次元画像データとを識別することが可能である。
【0163】
なお、図26A、26B、図31においては、モジュールが1つの場合を例示しているが、モジュールはマルチメディア情報ファイルに複数含まれていても良い。この場合、複数のモジュールに含まれる3次元画像データを相互に識別可能なように識別子が付与されているものとする。
【0164】
ここで、1つのモジュール内に格納される画像データの全てが3次元画像データの場合、対応する3次元画像表示制御情報全てを格納する代わりに例えば識別子番号=0の3次元画像表示制御情報を1つだけ格納する形としても良い。すなわち、マルチメディアデータの識別子番号は1以上の整数と定義しておき、識別子番号=0はモジュール内の全画像が3次元画像であるとしておく。この場合、複数の3次元画像表示制御情報を格納しなくて済むため、全体の符号量が少なくなる。
【0165】
また、これまではマルチメディアデータに識別子を付与した例を説明したが、図23で示すように1モジュール=1マルチメディアデータの場合に、モジュールに識別子を付与しても良い。この場合、図23の「モジュール1付加情報」〜「モジュール3付加情報」の部分を図26Aの「モジュール1付加情報」の中身で置き換えることで、同様に2次元画像データと3次元画像データを識別することが可能となる。また、図23の「モジュール1付加情報」〜「モジュール3付加情報」の部分を図31の「モジュール1付加情報」の中身で置き換えることで同様にマルチメディア情報ファイルに含まれる画像データが全て3次元画像データか否かを識別することが可能となる。
【0166】
なお、上記ではマルチメディア情報ファイルについて述べたが、本発明はファイルに限定されるものではなく、通信、放送などの伝送フォーマット、もしくは他の目的に使用されるデータフォーマットにも適用可能なのは明らかである。
【0167】
図30は、本発明のマルチメディア情報生成装置の他の例である画像データ記録装置100の別の構成を示すブロック図である。
【0168】
すなわち、図30は、図2で説明した画像データ記録装置100のファイル生成部12の入力に2次元画像データの入力およびページデータの入力が追加されたものである。3次元表示制御情報生成部11の構成は、図2に示したものと同一であるため、説明を省略する。
【0169】
図32は、図30に示した画像データ記録装置100の処理のフローを説明するためのフローチャートである。
【0170】
図30および図32を参照して、画像データ記録装置100は、外部から、マルチメディア情報生成のために必要なパラメータ、3次元画像データ、2次元画像データ、ページデータを受け取り(ステップS102)、3次元表示制御情報生成部11は、外部から受け取った画像データに3次元画像データが含まれる場合(ステップS104)、3次元制御情報を生成する(ステップS106)。ファイル生成部12は、3次元表示制御情報と3次元画像データ、2次元画像データおよびページデータを受け取り、既に説明したモジュール付加情報を含むヘッダ情報を生成し(ステップS108)、図23、図25,図26A,26B,図31に示したような、各々が3次元画像データ、2次元画像データ、ページデータのうちの少なくとも1つを含むモジュールを生成することにより、マルチメディア情報ファイルを生成し出力する(ステップS110)。なお、上記では入力として、3次元画像データ、2次元画像データおよびページデータの3つの場合を説明したが、入力は最低1つあれば良い。また、逆に3つ以上の入力があっても良い。
【0171】
このようにマルチメディア情報ファイルを構成することで、2次元画像データと3次元画像データが混在するマルチメディア情報を効率良く蓄積、伝送、管理することが可能となる。
【0172】
次に、図27は、前述した1つのマルチメディア情報ファイルの中に3次元画像データ、2次元画像データおよびその配置情報が含まれる場合の画像データ再生装置の構成を説明するための概略ブロック図である。
【0173】
図27に示す画像データ再生装置は、分離部50と、複数のデータ再生部23と、ページデータ復号部51と、制御情報解析部52と、スイッチ56、57と、2次元画像合成部53、3次元画像合成部55、2D/3D変換部54と、データ変換部26と表示部44とから成る。データ変換部26および表示部44については、図17に示す画像データ再生装置で既に説明しているため、説明を省略する。
【0174】
分離部50は、入力された上記マルチメディア情報ファイルを分離し、ヘッダ情報は制御情報解析部52へ、画像データはデータ再生部23へ、ページデータはページデータ復号部51へ出力する。
【0175】
制御情報解析部52は、ヘッダ情報を解析し、各モジュール付加情報に3次元画像表示制御情報が含まれるか否かを判定し、その判定結果に応じてスイッチ56を2D側、もしくは3D側に倒す。また、3次元画像表示制御情報をデータ再生部23に入力する。
【0176】
データ再生部23は、3次元画像表示制御情報が入力されればその値を用いて3次元画像を再生し、そうでなければ2次元画像を再生する。
【0177】
ページデータ復号部51は、入力されたページデータを復号し、ページ画像を出力すると共に、それぞれの画像データの配置情報を解析し、2次元画像合成部及び3次元画像合成部へ出力する。なお、ページデータはマルチメディア情報ファイルに必須のものでは無い為、ページデータ復号部51は無くとも良い。この場合、ページデータに含まれる配置情報は別途定められる。
【0178】
2次元画像合成部53では、入力された配置情報を元に、ページ画像と上記再生された2次元画像の合成を行う。
【0179】
上記マルチメディアデータ情報が3次元画像を含む時、スイッチ57を2D/3D変換部側に倒し、表示部44は3次元表示を行い、3次元画像を含まない時、スイッチ57を表示部側に倒し、表示部44は2次元表示を行う。
【0180】
2D/3D変換部54は、上記合成された2次元画像データから3次元画像データを生成する。生成方法については後述する。
【0181】
3次元画像合成部55では、入力された配置情報を元に、上記3次元画像の合成を行う。
【0182】
図28は、2D/3D変換部54の動作を説明するための概念図である。図28に示すとおり、入力された2次元画像データは水平方向の解像度が半分になるように間引きかれる。該間引かれた画像を複製し2つの画像を生成し、一方を右画像、他方を左画像とする。以上では、水平方向の解像度を半分に間引きした例を説明したが、表示に必要となる3D画像データの解像度は画像データ再生装置が備える3D表示デバイスによって異なるため2D/3D変換部の動作はこれに限定されない。例えば、時分割方式では、奇数ラインのデータを用いて一方の画像が生成され、偶数ラインのデータを用いて他方の画像が生成される。
【0183】
前記ページデータ復号部51はページデータに文字情報が含まれる場合、文字情報に対応するフォントイメージをROMなどの記憶媒体から読み出し、これを展開してページ画像に貼り付ける。前記フォントイメージはビットマップデータであってもよいし、ベクトルデータであってもよい。
【0184】
図33Aは図27のページデータ復号部51のより詳細なブロック図である。前記ページデータ復号部51はページデータを復号してページ画像を生成するページ生成部67およびフォントイメージを蓄積するフォントイメージ蓄積部68から構成される。ページ生成部67は分離部50から入力されたページデータを復号し、表や罫線などからなるページ画像を生成すると伴に、ページデータ中で指定のフォントイメージをフォントイメージ蓄積部68から読み出して展開し、ページ画像に貼り付ける。
【0185】
図35は前記ページデータ復号部51と前記2D/3D変換部54を経て、前記フォントイメージ蓄積部68から読み出したフォントイメージがどのように変化するかを概念的に示したものである。既に説明したように前記2D/3D変換部は入力された画像データの水平解像度を半分に間引き、これを複製することで立体画像を生成する。
【0186】
ここで2D/3D変換部54で入力された2Dページデータの文字情報は図35に示すように、奇数列のみを用いて水平方向を半分にする間引き処理によりフォントの一部の線が消滅し、文字として解読できなくなってしまう場合がある。これを避けるため、前記フォントイメージ蓄積部から読み出されるフォントは、間引き処理を行ってもフォントの一部が消滅しないように構成しなければならない。このようなフォントイメージを以降3Dフォントと呼ぶことにする。3Dフォントは、前記のように間引き処理を行ってもフォントの一部が消滅したため文字として解読できなくならないという条件さえ満たせばゴシック体などの太いフォントをそのまま使用できる場合がある。また、明朝体など細いフォントに後述の特別の処理を施すことによっても生成することが出来る。
【0187】
次に、図36、図37A〜37Cおよび図40を用いて3Dフォントを生成する方法を説明する。
【0188】
図40は、3Dフォントを作成する方法を概念的に示したものである。同図に示すように一旦、水平方向を半分に縮小し、各ピクセルを水平方向に2回ずつ繰り返して拡大することで3Dフォントを生成できる。
【0189】
図37A〜37Cは、3Dフォントの別の作成方法を説明する為の図である。同図A、B、Cはそれぞれ前記縮小方法の別の例を示している。図中、白いマスはピクセルの値が0、黒いマスはピクセルの値が0以外の値k、灰色のマスはピクセルの値が0以外でk未満の値mであることを表す。また、同図(1)〜(4)はそれぞれの縮小方法に対し、水平方向に隣り合う2ピクセルの値の組み合わせと、そこから縮小処理により生成されるピクセル値との関係を表している。
【0190】
図37Aに示す縮小方法は、前記2ピクセルのうち少なくとも一方がkである場合に縮小されたピクセルもkにする方法である。図40の手順Aがこの方法で縮小、拡大したフォントの例である。この方法によれば、文字を構成するピクセル全てが消滅しないように構成されている為、間引き時に奇数列もしくは偶数列の一方が削除されても他方が保存される。このため2D/3D変換処理を行っても文字の一部が欠けることを回避できる。
【0191】
図37Bに示す縮小方法は、縮小後のピクセル値として前記隣り合う2つのピクセル値の間の値を取る方法である。状態(1)では隣接する2ピクセルの値が両方とも0であるため縮小後のピクセルの値を0とする。隣接する2つのピクセル値のどちらか一方が0で、もう一方がkである状態(2)または状態(3)の場合は、縮小後のピクセルの値を0とkの間の値mとする。 隣接する2つのピクセルの値が両方ともkである状態(4)ならば、縮小後のピクセル値もkとする。前記 mが前記kよりも小さい為、フォントが太くなっているにもかかわらずフォントの線を見かけ上細くすることが可能となる。例えば、前記kが100の時、前記mの値として、例えばm=k/2である50を用いれば良い。図40の手順Bがこの方法で縮小、拡大したフォントの例である。太さが1の時にm=2/kにすると、フォントが暗くなりすぎる時には、あらかじめフォントイメージ毎に太さtを指定しておき、図36に示すように太さが1に近い時、すなわちtが1に近い時にmがkに近づくような関数を用いても良い。
【0192】
図37Cに示す縮小方法は、状態(1)および(4)に関する変換は前記図37Bに示す縮小方法と同じであるが、前記2画素の左側のピクセルの値のみがkである状態(2)の時にはmに、右側のピクセルの値のみがkである状態(3)の時にはnに、それぞれ縮小後のピクセルの値を決める方法である。ここで、nはmとは異なる0とkの間の値である。これにより、フォントイメージの見え方を前記図37Bに示す方法よりも更に細かく制御できる。
【0193】
これまでに説明した方法で2Dフォントから生成した3Dフォントや、1から生成した3Dフォントをあらかじめ図33Bのフォントイメージ蓄積部68に備えて、3D表示時に3Dフォントを選択して読み出しても良いが、フォントイメージを読み出す際に変換しても良い。
【0194】
図33Cは、フォントイメージを読み出す際に変換するように構成した場合のページデータ復号部の詳細な構成を示したブロック図である。このページデータ復号部は、図33Bのページデータ復号部にフォント変換部69が加えられている。
【0195】
ページ生成部は、ページデータを復号する際、フォントイメージ蓄積部から読み出した2D表示用のフォントイメージから、前記フォント変換部69にて3Dフォントに変換し、これを用いてページ画像を生成する。このように構成することにより、2D、3D用のフォントイメージを別々に蓄積することなく、2D表示、3D表示のいずれも可能な装置の場合でも記憶領域を削減できる利点がある。
【0196】
これまでの実施例では、図38Aのように文字情報の復号・展開は図27のページデータ復号部51にて行ったが、図38Bのように文字情報の展開をページデータ復号部51でする代わりに、2D/3D変換部54にて行う例を示す。これまでの実施例とはページデータ復号部51および2D/3D変換部54の構成が異なる。ここでは図示しないがページデータ復号部51は図33A〜33Cにおいてページ生成部67のみで構成される。
【0197】
図34の2D/3D変換部は、入力されたページ画像を水平方向に縮小する間引き処理部70と、縮小されたページ画像から立体表示に必要な左右の画像を生成する左右画像複製部71および左右画像生成時に用いるフォントイメージを蓄積するフォントイメージ蓄積部72とフォントイメージを貼り付けるフォントイメージ貼付部73とから構成される。
【0198】
間引き処理部70の動作はすでに2D/3D変換部の動作説明時に詳細に説明しているため、以後の説明は省略する。
【0199】
前記左右画像複製部は、間引きされたページ画像を複製することで左右の画像を生成し、合わせて入力された文字情報を復号し、右目用、左目用それぞれのフォントイメージを前記フォントイメージ蓄積部72から読み出して貼り付ける。なお、読み出されるフォントイメージは元のフォントイメージから前記間引き処理部70と同一の方法で間引かれたものである。
【0200】
右目用、左目用のフォントイメージを左右の画像それぞれに貼り付けることによって、左右のフォントの視差量を微妙に変えることが可能となり、3Dディスプレイ上で文字の飛び出しを制御することも可能である。
【0201】
図39A〜39Cは2D/3D変換部にてフォントを展開する場合の別の実施例を説明するための概念図である。
【0202】
図39Aは、右目用もしくは左目用フォントイメージのいずれか一方のみを右画像、左画像に貼り付ける場合を表している。こうすることで、右もしくは左の一方にのみ文字情報が存在する為、輝度が高くなりすぎないという効果がある。
【0203】
また図39Bに示すように、間引き処理を行っていないフォントイメージを右画像、左画像それぞれにあるいは一方に貼り付けても良い。この場合、フォントイメージの3D表示では文字の大きさが倍になるが、縮小を行わないので、細いフォントであってもそのまま使用でき、さらに縮小にかかわる処理が発生しないという利点がある。
【0204】
また、図39Cに示すように、読み出された文字情報のピクセルの値を偶数列、奇数列毎に集めて、水平方向に半分に縮小したフォントを作成し、2D/3D変換部でコピーした左右画像にそれぞれ貼り付けても良い。こうすることで間引きにより情報が削除されることなく、また輝度も保存できる。この場合、例えば左画像にフォントイメージの偶数列のみのデータを、右画像に奇数列のみのデータを貼り付ければ良い。
【0205】
また、右目用および左目用フォントイメージは同一のものであっても良い。この時貼り付けるフォントイメージは水平方向2分の1のものをフォント蓄積部に蓄積することによって、記憶容量を削減することもできる。両眼視差を調整し、フォントイメージの飛び出しを制御することも出来る。
【0206】
図29Aおよび29Bは、3次元画像データの合成時に配置情報がどのように使用されるかを示した概念図である。
【0207】
図29Aに示すように、3次元画像データの配置情報が(X,Y)と指定される場合、3次元画像合成部55では、図29Bに示すように左右の画像それぞれに対し、(X/2,Y)の位置に合成すれば良い。この座標変換方法は、先の場合と同様、画像データ再生装置が備える3次元(3D)デバイスによって異なるため、本実施例の記載はあくまでも一例である。
【0208】
また、表示部44が表示領域の所望の部分を2次元表示モードにできる場合は、2D/3D変換部54は不要であり、直接2次元画像データを表示部の2次元表示モードにした部分に入力すれば良い。
【0209】
以上のように画像データ再生装置を構成することで、2次元画像と3次元画像が混在したマルチメディア情報ファイルを適切に表示することができる。
【0210】
以上説明したとおり、本発明によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、3次元画像データと共に、3次元画像データを表示するための3次元画像表示制御情報をマルチメディア情報ファイルとして記録または構成するので、3次元画像データに汎用性を持たせ、1種類のマルチメディア情報ファイルで様々な3次元表示方式に柔軟に対応することが可能となる。
【0211】
本発明のマルチメディア情報再生装置によれば、複数の2次元画像データと3次元画像データが1つのマルチメディア情報ファイルに含まれる場合でも、マルチメディア情報ファイル中に含まれる3次元画像表示制御情報を解析することにより、3次元画像データと2次元画像データを表示方法に合わせて適切に変換し、正しく表示することが可能となる。
【0212】
この発明を詳細に説明し示してきたが、これは例示のためのみであって、限定となってはならず、発明の精神と範囲は添付の請求の範囲によってのみ限定されることが明らかに理解されるであろう。
【図面の簡単な説明】
【図1A〜1C】 本発明の実施の形態において生成されるマルチメディア情報ファイルの構造を示す図である。図1Aは、マルチメディア情報ファイルの構成を示し、図1Bは、各オブジェクトの構成を示し、図1Cは、3次元画像データの構造の一例を示す。
【図2】 本実施の形態における画像データ記録装置100の構成を示すブロック図である。
【図3】 画像データ再生装置200の構成を説明するためのブロック図である。
【図4A〜4C】 3次元表示制御情報2に記述する具体的な情報を説明するための概念図である。図4Aは、3次元表示制御情報2に記述する具体的な情報を示し、図4Bは、音声と左目用画像と右目用画像のストリームを示し、図4Cは、間引き方向に対応するテーブルを示す。
【図5A〜5C】 「視点数」および「視点位置」を説明するための概念図である。図5Aは、2眼式の例を示し、図5Bと図5Cは6眼式の例を示す。
【図6】 6眼式の場合において、視点位置と対応するストリームの記述の例を示す概念図である。
【図7A〜7B】 図7Aは、左目用画像と右目用画像が同じストリームとなっている場合において、視点位置と対応するストリームの記述の例を示す概念図であり、図7Bは、多重化データを示す図である。
【図8A〜8C】 「カメラ配置」の他の構成例を示す概念図である。図8Aおよび図8Bは、集中型の例を示し、図8Cは発散型の例を示す。
【図9A〜9B】 枠画像の構成を説明するための概念図である。図9Aは、枠画像を表示しない状態を示し、図9Bは、枠画像を表示した状態を示す。
【図10A〜10C】 枠画像を表示させるために「枠画像データ」を供給する構成を説明するためのブロック図である。
【図11A〜11D】 パララクスバリア方式で用いる液晶パネルとパララクスバリアのスリットの位置関係を示す概念図である。
【図12A〜12B】 図サンプリングパターンを説明するための概念図である。
【図13A〜13E】 1枚の画像を構成するために複数の視差像を並べる画像配置を説明するための概念図である。
【図14A〜14B】 図14Aおよび14Bは、各視差像を反転する構成を説明するための概念図である。
【図15】 3次元画像制御情報オブジェクトにおけるオブジェクトIDとして汎用のIDを用いる場合を示す図である。
【図16】 3次元識別情報を示す図である。
【図17】 画像データ再生装置の第1の変形例を示すブロック図である。
【図18】 番組配列情報という形で定期的に放送コンテンツの中に挿入される3次元識別情報を示す図である。
【図19】 マルチメディア情報ファイルの構成を示す図である。
【図20】 画像データ再生装置の第2の変形例を示すブロック図である。
【図21】 画像データ再生装置の第3の変形例を示すブロック図である。
【図22A〜22B】 3次元表示制御情報および左目用画像と右目用画像を横に並べた画像データを示す概念図である。
【図23】 2次元画像データと3次元画像データが混在するマルチメディア情報ファイルの構成を示す概念図である。
【図24】 画面上で、画面の原点を基準として、2次元画像(2D画像)と3次元画像(3D画像)とが配置される状態を示す概念図である。
【図25】 マルチメディア情報ファイルの別の構成を示す概念図である。
【図26A〜26B】 マルチメディア情報ファイルのさらに別の構成を示す概念図である。
【図27】 1つのマルチメディア情報ファイルの中に3次元画像データ、2次元画像データおよびその配置情報が含まれる場合の画像データ再生装置の構成を説明するための概略ブロック図である。
【図28】 2D/3D変換部54の動作を説明するための概念図である。
【図29A〜29B】 3次元画像データの合成時に配置情報がどのように使用されるかを示した概念図である。
【図30】 本実施の形態における画像データ記録装置100の別の構成を示すブロック図である。
【図31】 マルチメディア情報ファイルのさらに別の構成を示す概念図である。
【図32】 図30に示した画像データ記録装置100の処理のフローを説明するためのフローチャートである。
【図33A〜33C】 本実施の形態におけるページデータ復号部の詳細なブロック図である。
【図34】 本実施の形態における2D/3D変換部の詳細なブロック図である。
【図35】 フォントイメージを2D/3D変換する概念図である。
【図36】 フォントの太さと輝度の関係の実施の一例を描画した図である。
【図37A〜37C】 隣接するピクセルの状態とそれらの変換例を表す図である。
【図38A〜38B】 本実施の一形態におけるフォントイメージの貼りつけの概念図である。
【図39A〜39C】 本実施の一形態におけるフォントイメージの貼りつけの概念図である。
【図40】 3Dフォントを生成する手順の概念図である。
【図41】 2眼式の代表的なものの1つである「時分割方式」を説明するための概念図である。
【図42A〜42B】 2眼式のもう1つの代表的な方式である「パララクスバリア方式」を説明するための概念図である。
【図43A〜43C】 「レンチキュラ方式」の記録データ形式の一例を示す概念図である。
Claims (19)
- 2次元画像および/または3次元画像を複数個含むマルチメディア情報を生成するマルチメディア情報生成方法であって、
前記マルチメディア情報に3次元画像データが含まれる場合、前記3次元画像の表示を制御する制御情報を生成するステップと、
前記2次元画像および/または3次元画像と前記制御情報とを含む前記マルチメディア情報を生成するステップとを備える、マルチメディア情報生成方法。 - 複数のモジュールから成るマルチメディア情報を生成するマルチメディア情報生成方法であって、
2次元画像および/または3次元画像を複数個含む前記モジュールを生成するステップと、
前記モジュールに3次元画像データが含まれる場合、前記モジュールは、前記3次元画像の表示を制御する制御情報を含むことを特徴とするマルチメディア情報生成方法。 - 前記制御情報は、個々の3次元画像に対応して存在することを特徴とする、請求項1または2に記載のマルチメディア情報生成方法。
- 前記制御情報は、複数の3次元画像に対応して存在することを特徴とする、請求項1または2に記載のマルチメディア情報生成方法。
- 少なくとも前記2次元画像および/または前記3次元画像の各々を区別する識別子をあらかじめ設定し、前記制御情報は、前記3次元画像の識別子を示す識別情報を含むことを特徴とする、請求項1に記載のマルチメディア情報生成方法。
- 少なくとも前記2次元画像および/または前記3次元画像の各々を区別する識別子をあらかじめ設定し、前記制御情報は、前記3次元画像の識別子を示す識別情報を含むことを特徴とする、請求項2に記載のマルチメディア情報生成方法。
- 前記制御情報は、複数の識別子を含むことを特徴とする、請求項5または6に記載のマルチメディア情報生成方法。
- 前記識別子の所定の値は、前記マルチメディア情報に含まれる画像が全て3次元画像であることを示す、請求項5または6に記載のマルチメディア情報生成方法。
- 前記識別子の所定の値は、前記モジュールに含まれる画像が全て3次元画像であることを示す、請求項5に記載のマルチメディア情報生成方法。
- 2次元画像あるいは3次元画像を複数個含むマルチメディア情報を再生するマルチメディア情報再生装置であって、
前記2次元画像から3次元画像を生成する生成部と、
前記生成部で生成された3次元画像と、前記マルチメディア情報に含まれる3次元画像を合成する第1の合成部を備えたことを特徴とするマルチメディア情報再生装置。 - 複数の2次元画像を合成する第2の合成部をさらに備え、
前記生成部は、前記第2の合成部で合成された2次元画像データから3次元画像データを生成することを特徴とする、請求項10に記載のマルチメディア情報再生装置。 - 2次元画像および/または3次元画像を複数個含むマルチメディア情報を再生するマルチメディア情報再生装置であって、
前記マルチメディア情報に含まれる図形および文字情報を復号しページ画像を得るページデータ復号部と、
前記ページ画像を3次元画像に変換する2D/3D変換部と、
前記2D/3D変換部で生成された3次元画像と前記マルチメディア情報に含まれる3次元画像とを合成する第1の合成部とを備える、マルチメディア情報再生装置。 - 複数の2次元画像を合成する第2の合成部をさらに備え、
前記2D/3D変換部は、前記第2の合成部で合成された2次元画像データを3次元画像データに変換することを特徴とする、請求項12に記載のマルチメディア情報再生装置。 - 文字情報に対応した第1のフォントイメージと第2のフォントイメージを備え、文字情報を3次元表示する際に、前記第1のフォントイメージを用い、文字情報を2次元表示する際に前記第2のフォントイメージを用いることを特徴とする、請求項12または13に記載のマルチメディア情報再生装置。
- 前記ページデータ復号部において、第1または第2のフォントイメージを用いてページ画像を得ることを特徴とする、請求項14に記載のマルチメディア情報再生装置。
- 前記2D/3D変換部において、第1または第2のフォントイメージを用いて3次元画像を得ることを特徴とする、請求項14に記載のマルチメディア情報再生装置。
- 前記第1および第2のフォントイメージを蓄積するフォントイメージ蓄積部と、
第1または第2のフォントイメージを選択するスイッチと、
をさらに備えることを特徴とする、請求項15または16に記載にマルチメディア情報再生装置。 - 第2のフォントイメージを第1のフォントイメージに変換するフォント変換部をさらに備えることを特徴とする、請求項15または16に記載にマルチメディア情報再生装置。
- 前記第1のフォントイメージは複数の濃淡情報から成り、文字の太さが見かけ上細くなるように配置されていることを特徴とする、請求項12に記載のマルチメディア情報再生装置。
Applications Claiming Priority (9)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002124671 | 2002-04-25 | ||
JP2002124671 | 2002-04-25 | ||
JP2002286098 | 2002-09-30 | ||
JP2002286098 | 2002-09-30 | ||
JP2002319984 | 2002-11-01 | ||
JP2002319984 | 2002-11-01 | ||
JP2003037152 | 2003-02-14 | ||
JP2003037152 | 2003-02-14 | ||
PCT/JP2003/005314 WO2003092303A1 (en) | 2002-04-25 | 2003-04-24 | Multimedia information generation method and multimedia information reproduction device |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009059862A Division JP4942784B2 (ja) | 2002-04-25 | 2009-03-12 | マルチメディア情報生成装置およびマルチメディア情報再生装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2003092303A1 true JPWO2003092303A1 (ja) | 2005-09-08 |
Family
ID=29273738
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004500514A Pending JPWO2003092303A1 (ja) | 2002-04-25 | 2003-04-24 | マルチメディア情報生成装置およびマルチメディア情報再生装置 |
JP2009059862A Expired - Fee Related JP4942784B2 (ja) | 2002-04-25 | 2009-03-12 | マルチメディア情報生成装置およびマルチメディア情報再生装置 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009059862A Expired - Fee Related JP4942784B2 (ja) | 2002-04-25 | 2009-03-12 | マルチメディア情報生成装置およびマルチメディア情報再生装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20050248561A1 (ja) |
EP (1) | EP1501316A4 (ja) |
JP (2) | JPWO2003092303A1 (ja) |
AU (1) | AU2003231508A1 (ja) |
WO (1) | WO2003092303A1 (ja) |
Families Citing this family (109)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2003231510A1 (en) * | 2002-04-25 | 2003-11-10 | Sharp Kabushiki Kaisha | Image data creation device, image data reproduction device, and image data recording medium |
JP2004348706A (ja) * | 2003-04-30 | 2004-12-09 | Canon Inc | 情報処理装置及び情報処理方法ならびに記憶媒体、プログラム |
JP2004357156A (ja) * | 2003-05-30 | 2004-12-16 | Sharp Corp | 映像受信装置および映像再生装置 |
JP4347724B2 (ja) * | 2004-03-05 | 2009-10-21 | 富士フイルム株式会社 | 画像ファイル生成装置および方法ならびに画像ファイル再生装置および方法 |
JP4602737B2 (ja) * | 2004-10-25 | 2010-12-22 | シャープ株式会社 | 映像表示装置 |
KR100828358B1 (ko) * | 2005-06-14 | 2008-05-08 | 삼성전자주식회사 | 영상 디스플레이 모드 전환 방법, 장치, 및 그 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체 |
KR100813961B1 (ko) * | 2005-06-14 | 2008-03-14 | 삼성전자주식회사 | 영상 수신장치 |
KR100657322B1 (ko) * | 2005-07-02 | 2006-12-14 | 삼성전자주식회사 | 로컬 3차원 비디오를 구현하기 위한 인코딩/디코딩 방법 및장치 |
WO2007004633A1 (ja) * | 2005-07-05 | 2007-01-11 | Sanyo Electric Co., Ltd. | 立体画像処理方法及び立体画像処理装置及びプログラム及びプログラムが格納された記録媒体 |
JP4638784B2 (ja) * | 2005-07-19 | 2011-02-23 | オリンパスイメージング株式会社 | 画像出力装置及びプログラム |
JP4630150B2 (ja) * | 2005-07-26 | 2011-02-09 | シャープ株式会社 | 立体画像記録装置及びプログラム |
ES2771676T3 (es) * | 2005-12-20 | 2020-07-06 | Koninklijke Philips Nv | Dispositivo de visualización autoestereoscópica |
KR101100212B1 (ko) * | 2006-04-21 | 2011-12-28 | 엘지전자 주식회사 | 방송 신호 전송 방법, 방송 신호 재생 방법, 방송 신호전송 장치 및 방송 신호 수신 장치 |
KR101191195B1 (ko) * | 2006-05-04 | 2012-10-15 | 엘지전자 주식회사 | 콘텐츠 전송 장치, 콘텐츠 표출 장치, 콘텐츠 전송 방법 및콘텐츠 표출 방법 |
JP5011842B2 (ja) * | 2006-06-22 | 2012-08-29 | 株式会社ニコン | 画像再生装置 |
KR100716142B1 (ko) * | 2006-09-04 | 2007-05-11 | 주식회사 이시티 | 스테레오스코픽 영상 데이터의 전송 방법 |
JP4692770B2 (ja) * | 2006-12-27 | 2011-06-01 | 富士フイルム株式会社 | 複眼デジタルカメラ |
JP4662071B2 (ja) * | 2006-12-27 | 2011-03-30 | 富士フイルム株式会社 | 画像再生方法 |
JP4686795B2 (ja) * | 2006-12-27 | 2011-05-25 | 富士フイルム株式会社 | 画像生成装置及び画像再生装置 |
KR20080066408A (ko) * | 2007-01-12 | 2008-07-16 | 삼성전자주식회사 | 3차원 영상 처리 장치 및 방법 |
US7921363B1 (en) * | 2007-04-30 | 2011-04-05 | Hewlett-Packard Development Company, L.P. | Applying data thinning processing to a data set for visualization |
GB0709411D0 (en) * | 2007-05-16 | 2007-06-27 | Barco Nv | Methods and systems for stereoscopic imaging |
JP4787209B2 (ja) * | 2007-05-21 | 2011-10-05 | 富士フイルム株式会社 | 画像処理装置、方法およびプログラム |
KR100962696B1 (ko) * | 2007-06-07 | 2010-06-11 | 주식회사 이시티 | 부호화된 스테레오스코픽 영상 데이터 파일의 구성방법 |
CN101803394A (zh) * | 2007-06-19 | 2010-08-11 | 韩国电子通信研究院 | 存储和播放立体数据的元数据结构以及使用该元数据存储立体内容文件的方法 |
KR101362647B1 (ko) * | 2007-09-07 | 2014-02-12 | 삼성전자주식회사 | 2d 영상을 포함하는 3d 입체영상 파일을 생성 및재생하기 위한 시스템 및 방법 |
JP2009135686A (ja) | 2007-11-29 | 2009-06-18 | Mitsubishi Electric Corp | 立体映像記録方法、立体映像記録媒体、立体映像再生方法、立体映像記録装置、立体映像再生装置 |
KR100991804B1 (ko) * | 2008-06-10 | 2010-11-04 | 유한회사 마스터이미지쓰리디아시아 | 이동 기기용 입체영상생성칩 및 이를 이용한입체영상표시방법 |
US20090317062A1 (en) * | 2008-06-24 | 2009-12-24 | Samsung Electronics Co., Ltd. | Image processing method and apparatus |
KR20100002032A (ko) * | 2008-06-24 | 2010-01-06 | 삼성전자주식회사 | 영상 생성 방법, 영상 처리 방법, 및 그 장치 |
WO2009157198A1 (ja) | 2008-06-26 | 2009-12-30 | パナソニック株式会社 | 記録媒体、再生装置、記録装置、再生方法、記録方法、プログラム |
JP5141418B2 (ja) * | 2008-07-24 | 2013-02-13 | セイコーエプソン株式会社 | 画像表示制御装置およびプログラム並びに画像表示制御方法 |
US8508582B2 (en) * | 2008-07-25 | 2013-08-13 | Koninklijke Philips N.V. | 3D display handling of subtitles |
US9357231B2 (en) * | 2008-07-31 | 2016-05-31 | Mitsubishi Electric Corporation | Video encoding device, video encoding method, video reproducing device, video reproducing method, video recording medium, and video data stream |
WO2010038365A1 (ja) * | 2008-09-30 | 2010-04-08 | パナソニック株式会社 | 3d映像に係る記録媒体、再生装置、システムlsi、再生方法、眼鏡、表示装置 |
KR20100040640A (ko) | 2008-10-10 | 2010-04-20 | 엘지전자 주식회사 | 수신 시스템 및 데이터 처리 방법 |
JP5024351B2 (ja) * | 2008-11-28 | 2012-09-12 | 株式会社ニコン | 画像ファイル生成装置、カメラ、および画像ファイル生成プログラム |
MY154752A (en) * | 2008-12-01 | 2015-07-15 | Sharp Kk | Content reproducing apparatus, reproducing method, program and recording medium |
US8704874B2 (en) * | 2009-01-08 | 2014-04-22 | Lg Electronics Inc. | 3D caption signal transmission method and 3D caption display method |
US8027070B2 (en) * | 2009-02-03 | 2011-09-27 | Sharp Laboratories Of America, Inc. | Methods and systems for hue adjustment |
MX2010008146A (es) * | 2009-02-04 | 2010-09-30 | Panasonic Corp | Medio de grabacion, dispositivo de reproduccion y circuito integrado. |
KR20110126518A (ko) * | 2009-02-19 | 2011-11-23 | 파나소닉 주식회사 | 기록매체, 재생장치 및 집적회로 |
JP4525831B1 (ja) * | 2009-03-31 | 2010-08-18 | 株式会社カシオ日立モバイルコミュニケーションズ | 画像受信装置、および、プログラム |
JP5266126B2 (ja) | 2009-03-31 | 2013-08-21 | 富士フイルム株式会社 | 画像表示装置および方法並びにプログラム |
JP4947389B2 (ja) * | 2009-04-03 | 2012-06-06 | ソニー株式会社 | 画像信号復号装置、画像信号復号方法、および画像信号符号化方法 |
JP4915459B2 (ja) * | 2009-04-03 | 2012-04-11 | ソニー株式会社 | 情報処理装置、情報処理方法、及び、プログラム |
JP4962525B2 (ja) * | 2009-04-08 | 2012-06-27 | ソニー株式会社 | 再生装置、再生方法、およびプログラム |
KR20100112940A (ko) * | 2009-04-10 | 2010-10-20 | 엘지전자 주식회사 | 데이터 처리방법 및 수신 시스템 |
JP4985807B2 (ja) * | 2009-04-15 | 2012-07-25 | ソニー株式会社 | 再生装置および再生方法 |
JP5274359B2 (ja) | 2009-04-27 | 2013-08-28 | 三菱電機株式会社 | 立体映像および音声記録方法、立体映像および音声再生方法、立体映像および音声記録装置、立体映像および音声再生装置、立体映像および音声記録媒体 |
CN104065945A (zh) * | 2009-04-27 | 2014-09-24 | Lg电子株式会社 | 广播发射机、广播接收机及其3d视频数据处理方法 |
JP5627860B2 (ja) | 2009-04-27 | 2014-11-19 | 三菱電機株式会社 | 立体映像配信システム、立体映像配信方法、立体映像配信装置、立体映像視聴システム、立体映像視聴方法、立体映像視聴装置 |
JP4724257B2 (ja) * | 2009-06-11 | 2011-07-13 | パナソニック株式会社 | 再生装置 |
JP5463747B2 (ja) * | 2009-06-15 | 2014-04-09 | ソニー株式会社 | 受信装置、送信装置、通信システム、表示制御方法、プログラム、及びデータ構造 |
JP5521486B2 (ja) * | 2009-06-29 | 2014-06-11 | ソニー株式会社 | 立体画像データ送信装置および立体画像データ送信方法 |
CN102474634B (zh) * | 2009-07-10 | 2016-09-21 | 杜比实验室特许公司 | 对于3维显示模式修正图像 |
US20110063298A1 (en) * | 2009-09-15 | 2011-03-17 | Samir Hulyalkar | Method and system for rendering 3d graphics based on 3d display capabilities |
JP4875127B2 (ja) * | 2009-09-28 | 2012-02-15 | パナソニック株式会社 | 三次元画像処理装置 |
EP2485497B1 (en) * | 2009-10-02 | 2014-11-05 | Panasonic Corporation | Playback device that can play stereoscopic video, integrated circuit, playback method and program |
US20110080462A1 (en) * | 2009-10-02 | 2011-04-07 | Panasonic Corporation | Playback device, integrated circuit, playback method, and program for stereoscopic video playback |
JP4738522B2 (ja) * | 2009-10-14 | 2011-08-03 | 株式会社東芝 | 映像表示装置及び映像表示方法 |
JP2011109397A (ja) * | 2009-11-17 | 2011-06-02 | Sony Corp | 画像送信方法、画像受信方法、画像送信装置、画像受信装置、及び画像伝送システム |
US8773430B2 (en) | 2009-12-09 | 2014-07-08 | Thomson Licensing | Method for distinguishing a 3D image from a 2D image and for identifying the presence of a 3D image format by feature correspondence determination |
EP2510702A1 (en) * | 2009-12-09 | 2012-10-17 | Thomson Licensing | Method and apparatus for distinguishing a 3d image from a 2d image and for identifying the presence of a 3d image format by image difference determination |
JP2011138354A (ja) * | 2009-12-28 | 2011-07-14 | Sony Corp | 情報処理装置および情報処理方法 |
US8823782B2 (en) | 2009-12-31 | 2014-09-02 | Broadcom Corporation | Remote control with integrated position, viewer identification and optical and audio test |
US9247286B2 (en) * | 2009-12-31 | 2016-01-26 | Broadcom Corporation | Frame formatting supporting mixed two and three dimensional video data communication |
US8854531B2 (en) * | 2009-12-31 | 2014-10-07 | Broadcom Corporation | Multiple remote controllers that each simultaneously controls a different visual presentation of a 2D/3D display |
US20110157322A1 (en) * | 2009-12-31 | 2011-06-30 | Broadcom Corporation | Controlling a pixel array to support an adaptable light manipulator |
JP5450118B2 (ja) * | 2010-01-14 | 2014-03-26 | ソニー株式会社 | 映像伝送装置、映像表示装置、映像表示システム、映像伝送方法及びコンピュータプログラム |
WO2011103258A2 (en) * | 2010-02-22 | 2011-08-25 | Dolby Laboratories Licensing Corporation | Video display control using embedded metadata |
US9226048B2 (en) | 2010-02-22 | 2015-12-29 | Dolby Laboratories Licensing Corporation | Video delivery and control by overwriting video data |
JP2011182075A (ja) * | 2010-02-26 | 2011-09-15 | Hitachi Consumer Electronics Co Ltd | 画像処理装置 |
MX2012010268A (es) * | 2010-03-05 | 2012-10-05 | Gen Instrument Corp | Metodo y aparato para convertir contenido de video bidimensional para insercion en contenido de video tridimensional. |
JP5526929B2 (ja) * | 2010-03-30 | 2014-06-18 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
JP5594002B2 (ja) * | 2010-04-06 | 2014-09-24 | ソニー株式会社 | 画像データ送信装置、画像データ送信方法および画像データ受信装置 |
KR20110115087A (ko) * | 2010-04-14 | 2011-10-20 | 삼성전자주식회사 | 3차원 영상 데이터를 부호화하는 방법 및 장치와 복호화 방법 및 장치 |
US9237366B2 (en) | 2010-04-16 | 2016-01-12 | Google Technology Holdings LLC | Method and apparatus for distribution of 3D television program materials |
US8542241B2 (en) * | 2010-04-29 | 2013-09-24 | Acer Incorporated | Stereoscopic content auto-judging mechanism |
TWI419547B (zh) * | 2010-04-30 | 2013-12-11 | Acer Inc | 立體內容自動判別機構 |
US20120019528A1 (en) * | 2010-07-26 | 2012-01-26 | Olympus Imaging Corp. | Display apparatus, display method, and computer-readable recording medium |
CN102668567A (zh) | 2010-08-09 | 2012-09-12 | 松下电器产业株式会社 | 图像编码方法、图像解码方法、图像编码装置及图像解码装置 |
JP2012100256A (ja) * | 2010-10-08 | 2012-05-24 | Nippon Telegr & Teleph Corp <Ntt> | 3d対応データ放送出力装置、3d対応データ放送出力方法及び3d対応データ放送出力プログラム |
JP5302285B2 (ja) * | 2010-10-28 | 2013-10-02 | シャープ株式会社 | 立体映像出力装置、立体映像出力方法、立体映像出力プログラムおよびコンピュータ読み取り可能な記録媒体、ならびに、立体映像表示装置 |
JP2012100181A (ja) * | 2010-11-05 | 2012-05-24 | Hitachi Consumer Electronics Co Ltd | 映像出力装置、映像出力方法、受信装置および受信方法 |
JP5707120B2 (ja) * | 2010-12-21 | 2015-04-22 | 株式会社東芝 | 映像出力装置、表示方法及び表示装置 |
CN102737589A (zh) * | 2011-03-29 | 2012-10-17 | 宏碁股份有限公司 | 用于液晶显示装置的控制方法及液晶显示装置 |
JP2011193498A (ja) * | 2011-04-22 | 2011-09-29 | Toshiba Corp | 映像表示装置及び映像表示方法並びにプログラム |
JP5377589B2 (ja) * | 2011-07-07 | 2013-12-25 | 三菱電機株式会社 | 再生方法、再生装置、光ディスク |
JP2012010344A (ja) * | 2011-07-13 | 2012-01-12 | Fujifilm Corp | 画像処理装置、方法およびプログラム |
US20130033569A1 (en) * | 2011-08-03 | 2013-02-07 | General Instrument Corporation | Combining a three-dimensional message with three-dimensional video content |
JP5156117B1 (ja) * | 2011-08-31 | 2013-03-06 | 株式会社東芝 | 映像処理装置および映像処理方法 |
JP5156116B1 (ja) * | 2011-08-31 | 2013-03-06 | 株式会社東芝 | 映像処理装置および映像処理方法 |
JP6053276B2 (ja) * | 2011-12-02 | 2016-12-27 | キヤノン株式会社 | 撮像装置およびその制御方法、画像処理装置 |
JP5289538B2 (ja) * | 2011-11-11 | 2013-09-11 | 株式会社東芝 | 電子機器、表示制御方法及びプログラム |
EP2645724A4 (en) | 2011-11-11 | 2014-08-06 | Sony Corp | SENDING DEVICE, TRANSMISSION PROCEDURE, RECEPTION DEVICE AND RECEPTION PROCEDURE |
JP6192902B2 (ja) * | 2011-11-11 | 2017-09-06 | サターン ライセンシング エルエルシーSaturn Licensing LLC | 画像データ送信装置、画像データ送信方法、画像データ受信装置および画像データ受信方法 |
US9055289B2 (en) * | 2011-11-23 | 2015-06-09 | Korea Institute Of Science And Technology | 3D display system |
KR20130076650A (ko) * | 2011-12-28 | 2013-07-08 | 삼성전자주식회사 | 영상처리장치 및 그 제어 방법 |
JP5383833B2 (ja) * | 2012-01-20 | 2014-01-08 | 三菱電機株式会社 | 映像情報記録方法、映像情報再生方法、映像情報記録装置、映像情報再生装置、光ディスク |
JP5437415B2 (ja) * | 2012-02-24 | 2014-03-12 | 株式会社スクウェア・エニックス | 立体ゲーム装置 |
WO2013136373A1 (ja) * | 2012-03-16 | 2013-09-19 | パナソニック株式会社 | 立体映像処理装置及び立体映像処理方法 |
EP2835969A4 (en) | 2012-04-06 | 2015-09-09 | Sony Corp | DECODING APPARATUS, DECODING METHOD, ENCODING APPARATUS, AND ENCODING METHOD |
CN105519105B (zh) * | 2013-09-11 | 2019-03-08 | 索尼公司 | 图像处理设备及方法 |
JP2014042308A (ja) * | 2013-10-03 | 2014-03-06 | Mitsubishi Electric Corp | 映像再生方法、映像再生装置、光ディスク |
JP2015119464A (ja) * | 2013-11-12 | 2015-06-25 | セイコーエプソン株式会社 | 表示装置、および表示装置の制御方法 |
JP5812127B2 (ja) * | 2014-02-03 | 2015-11-11 | 株式会社ニコン | 画像再生装置 |
US20150334367A1 (en) * | 2014-05-13 | 2015-11-19 | Nagravision S.A. | Techniques for displaying three dimensional objects |
JP6280260B2 (ja) * | 2017-03-07 | 2018-02-14 | 三菱電機株式会社 | 映像再生方法、映像再生装置、光ディスク |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0530538A (ja) * | 1991-07-24 | 1993-02-05 | Olympus Optical Co Ltd | 画像記録装置および画像再生装置 |
JPH05122733A (ja) * | 1991-10-28 | 1993-05-18 | Nippon Hoso Kyokai <Nhk> | 3次元画像表示装置 |
JPH08317425A (ja) * | 1995-05-19 | 1996-11-29 | Olympus Optical Co Ltd | 電子カメラ |
JPH10336705A (ja) * | 1997-06-02 | 1998-12-18 | Canon Inc | 複眼カメラ |
JPH11191895A (ja) * | 1996-12-04 | 1999-07-13 | Matsushita Electric Ind Co Ltd | 高解像度および立体映像記録用光ディスク、光ディスク再生装置、および光ディスク記録装置 |
JP2000197074A (ja) * | 1998-12-25 | 2000-07-14 | Canon Inc | 立体映像再生装置及び出力装置及びその制御方法及び記憶媒体 |
JP2001197521A (ja) * | 2000-01-06 | 2001-07-19 | Toppan Printing Co Ltd | 撮像装置、撮像方法及び撮像条件に係るデータを記録した記録媒体 |
JP2003111101A (ja) * | 2001-09-26 | 2003-04-11 | Sanyo Electric Co Ltd | 立体画像処理方法、装置、およびシステム |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0569758A3 (en) * | 1992-05-15 | 1995-03-15 | Eastman Kodak Co | Method and device for producing and storing three-dimensional characters and for three-dimensional typesetting. |
JPH06335029A (ja) * | 1993-05-25 | 1994-12-02 | Sony Corp | 立体映像表示装置及び立体視の輻輳角の調整方法 |
JPH07298307A (ja) * | 1994-04-28 | 1995-11-10 | Canon Inc | 画像記録再生装置 |
JPH0981777A (ja) * | 1995-09-14 | 1997-03-28 | Fujitsu Ltd | 映像の生成方法及び装置 |
JP3096625B2 (ja) * | 1995-10-20 | 2000-10-10 | 三洋電機株式会社 | 2次元映像を3次元映像に変換する方法 |
JPH09167253A (ja) * | 1995-12-14 | 1997-06-24 | Olympus Optical Co Ltd | 映像表示装置 |
US6023277A (en) * | 1996-07-03 | 2000-02-08 | Canon Kabushiki Kaisha | Display control apparatus and method |
US6043802A (en) * | 1996-12-17 | 2000-03-28 | Ricoh Company, Ltd. | Resolution reduction technique for displaying documents on a monitor |
JPH10224825A (ja) * | 1997-02-10 | 1998-08-21 | Canon Inc | 画像表示システム及び該システムにおける画像表示装置及び情報処理装置及びそれらの制御方法及び記憶媒体 |
JP3441911B2 (ja) * | 1997-02-20 | 2003-09-02 | キヤノン株式会社 | 情報処理装置及び方法 |
JPH11113028A (ja) * | 1997-09-30 | 1999-04-23 | Toshiba Corp | 3次元映像表示装置 |
JP3867369B2 (ja) * | 1997-10-20 | 2007-01-10 | ソニー株式会社 | デジタルスチル画像の撮影システム |
JPH11164329A (ja) * | 1997-11-27 | 1999-06-18 | Toshiba Corp | 立体映像表示装置 |
US6704042B2 (en) * | 1998-12-10 | 2004-03-09 | Canon Kabushiki Kaisha | Video processing apparatus, control method therefor, and storage medium |
KR100625029B1 (ko) * | 1999-05-28 | 2006-09-20 | 엘지.필립스 엘시디 주식회사 | 입체영상 표시장치 |
US6657655B1 (en) * | 1999-09-30 | 2003-12-02 | Canon Kabushiki Kaisha | Stereoscopic-image display apparatus |
JP2001103516A (ja) * | 1999-09-30 | 2001-04-13 | Canon Inc | ステレオ画像表示装置、ステレオ画像表示方法及び記憶媒体 |
JP3770459B2 (ja) * | 2000-05-23 | 2006-04-26 | シャープ株式会社 | 画像表示装置、画像表示方法および記録媒体 |
US7671889B2 (en) * | 2000-06-07 | 2010-03-02 | Real D | Autostereoscopic pixel arrangement techniques |
US7277121B2 (en) * | 2001-08-29 | 2007-10-02 | Sanyo Electric Co., Ltd. | Stereoscopic image processing and display system |
JP2003084230A (ja) * | 2001-09-07 | 2003-03-19 | Canon Inc | 表示装置 |
AU2003231510A1 (en) * | 2002-04-25 | 2003-11-10 | Sharp Kabushiki Kaisha | Image data creation device, image data reproduction device, and image data recording medium |
-
2003
- 2003-04-24 US US10/512,056 patent/US20050248561A1/en not_active Abandoned
- 2003-04-24 WO PCT/JP2003/005314 patent/WO2003092303A1/ja active Application Filing
- 2003-04-24 EP EP03725674A patent/EP1501316A4/en not_active Withdrawn
- 2003-04-24 JP JP2004500514A patent/JPWO2003092303A1/ja active Pending
- 2003-04-24 AU AU2003231508A patent/AU2003231508A1/en not_active Abandoned
-
2009
- 2009-03-12 JP JP2009059862A patent/JP4942784B2/ja not_active Expired - Fee Related
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0530538A (ja) * | 1991-07-24 | 1993-02-05 | Olympus Optical Co Ltd | 画像記録装置および画像再生装置 |
JPH05122733A (ja) * | 1991-10-28 | 1993-05-18 | Nippon Hoso Kyokai <Nhk> | 3次元画像表示装置 |
JPH08317425A (ja) * | 1995-05-19 | 1996-11-29 | Olympus Optical Co Ltd | 電子カメラ |
JPH11191895A (ja) * | 1996-12-04 | 1999-07-13 | Matsushita Electric Ind Co Ltd | 高解像度および立体映像記録用光ディスク、光ディスク再生装置、および光ディスク記録装置 |
JPH10336705A (ja) * | 1997-06-02 | 1998-12-18 | Canon Inc | 複眼カメラ |
JP2000197074A (ja) * | 1998-12-25 | 2000-07-14 | Canon Inc | 立体映像再生装置及び出力装置及びその制御方法及び記憶媒体 |
JP2001197521A (ja) * | 2000-01-06 | 2001-07-19 | Toppan Printing Co Ltd | 撮像装置、撮像方法及び撮像条件に係るデータを記録した記録媒体 |
JP2003111101A (ja) * | 2001-09-26 | 2003-04-11 | Sanyo Electric Co Ltd | 立体画像処理方法、装置、およびシステム |
Also Published As
Publication number | Publication date |
---|---|
JP2009124768A (ja) | 2009-06-04 |
AU2003231508A1 (en) | 2003-11-10 |
US20050248561A1 (en) | 2005-11-10 |
WO2003092303A1 (en) | 2003-11-06 |
EP1501316A4 (en) | 2009-01-21 |
EP1501316A1 (en) | 2005-01-26 |
JP4942784B2 (ja) | 2012-05-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4942784B2 (ja) | マルチメディア情報生成装置およびマルチメディア情報再生装置 | |
JP4251907B2 (ja) | 画像データ作成装置 | |
JP4879960B2 (ja) | 画像データ生成装置および画像データ再生装置 | |
US7889196B2 (en) | 3-dimensional image creating apparatus, 3-dimensional image reproducing apparatus, 3-dimensional image processing apparatus, 3-dimensional image processing program and recording medium recorded with the program | |
US7859529B2 (en) | Image data display apparatus | |
JP4630150B2 (ja) | 立体画像記録装置及びプログラム | |
JP5022443B2 (ja) | 立体映像コンテンツ再生に利用されるメタデータの復号化方法 | |
JP4259884B2 (ja) | 画像データ作成装置およびそのデータを再生する画像データ再生装置 | |
JP2013539256A (ja) | 3次元コンテンツに関する画像を合成する方法 | |
WO2008054100A1 (en) | Method and apparatus for decoding metadata used for playing stereoscopic contents | |
JP2005094168A (ja) | ファイル構造及びそれを用いる画像記録装置並びに画像再生装置 | |
JP2004274091A (ja) | 画像データ作成装置、画像データ再生装置、画像データ記録方式および画像データ記録媒体 | |
CN103202021A (zh) | 编码装置、解码装置、再现装置、编码方法及解码方法 | |
JP2008193693A (ja) | 画像データ作成装置及び画像データ再生装置 | |
JP2004349732A (ja) | 画像ファイル作成装置及び画像ファイル再生装置 | |
KR20100128233A (ko) | 영상 처리 방법 및 장치 | |
JP2015534745A (ja) | 立体画像の生成、送信、及び受信方法、及び関連する装置 | |
JP2005184377A (ja) | 画像変換装置及びそれを用いた画像記録装置 | |
JP4129408B2 (ja) | 画像データ生成装置、画像データ再生装置、画像データ生成方法、画像データ再生方法 | |
WO2004030375A1 (ja) | 画像データ生成装置、画像データ再生装置、画像データ生成方法、画像データ再生方法、画像データ又は画像処理プログラムを記録した記録媒体および画像データ記録装置 | |
KR20090093734A (ko) | 다시점 영상을 위한 부가 정보를 포함하는 데이터스트림부호화 방법 및 그 장치, 그리고 이를 이용한 데이터스트림복호화 방법 및 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050810 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071204 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081021 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081217 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20090127 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090225 |