JP2004336104A - 立体画像圧縮装置及び立体画像伸長装置 - Google Patents
立体画像圧縮装置及び立体画像伸長装置 Download PDFInfo
- Publication number
- JP2004336104A JP2004336104A JP2003124874A JP2003124874A JP2004336104A JP 2004336104 A JP2004336104 A JP 2004336104A JP 2003124874 A JP2003124874 A JP 2003124874A JP 2003124874 A JP2003124874 A JP 2003124874A JP 2004336104 A JP2004336104 A JP 2004336104A
- Authority
- JP
- Japan
- Prior art keywords
- image
- stereoscopic
- eye
- multiplexed
- stereoscopic image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
【解決手段】入力画素構成変換装置805は、第1眼と第2眼画像、及び、第3眼画像と第4眼画像を1組にして、第1眼画像(○)を多重化4眼画像902の上半分のブロックの奇数行に配置し、第2眼画像(●)を偶数行に配置し、第3眼画像(□)を下半分のブロックの奇数行に配置し、第4眼画像(■)を偶数行に配置する。MPEG圧縮装置108は、多重化4眼画像902、又は、トップフィールド画像903及びボトムフィールド画像904の何れかを選択して、MPEG圧縮を行う。
【選択図】 図9
Description
【発明の属する技術分野】
本発明は、立体画像圧縮装置及び立体画像伸長装置に関し、特に、立体画像を含む画像データを効率よく圧縮できる立体画像圧縮装置、及び、そのような立体画像圧縮装置で圧縮された画像データを伸長する立体画像伸長装置に関する。
【0002】
【従来の技術】
高い臨場感が得られる表示装置として、立体画像を表示する立体ディスプレイが知られている。立体画像は左目画像と右目画像とにより構成され、左目画像及び右目画像は、同じ撮影対象について、互いの視点をずらして撮影された視差画像として構成される。ディスプレイを観察(視聴)する観察者は、右目には右目画像を入力し、左目には左目画像を入力して、画像を立体的に観察できる。従来、立体画像を圧縮して伝送できる技術としては、例えば特開平11−18111号公報(特許文献1)に記載された技術がある。
【0003】
図44は、特許文献1に記載の立体画像圧縮装置による立体画像の圧縮処理の様子を模式的に示している。同図では、立体ディスプレイの表示画面は352列×288行(ライン)の画素から成る。立体ディスプレイの表示画面の各行には、立体画像4402として示すように、左目画像(○)と右目画像(×)とが交互に配置される。左目画像(○)及び右目画像(×)は、それぞれ176列×288行の画像として構成され、それぞれの原画像の画素を列方向に1つおきに間引きした画像に相当する。立体画像圧縮装置4400は、左目画像及び右目画像を1つの画像に多重化し、その多重化画像に対して圧縮を行う。
【0004】
立体画像圧縮装置4400は、入力する左目画像(○)と右目画像(×)とを、ブロックを分けて、1つの多重化画像4404に多重化する。この多重化により、多重化画像4404の左半分のブロック(1列目から176列目)には左目画像(○)が配置され、右半分のブロック(177列目から352列目)には右目画像(×)が配置される。MPEG圧縮装置4405は、多重化画像4404を符号化の単位としてMPEG圧縮を行う。圧縮された多重化画像4404は、送信・記録装置4406によって送信され、或いは、記録媒体に記録される。
【0005】
立体画像伸長装置4401は、立体画像圧縮装置4400によって圧縮された多重化画像4404を、受信・再生装置4407によって受信し、或いは、記録媒体から再生する。MPEG伸長装置4408は、圧縮された多重化画像4404を伸長して再現する。再現された多重化画像4404から、左目画像(○)と右目画像(×)とが分離され、立体ディスプレイ上には、再現された立体画像4409が表示される。このように、左目画像及び右目画像を、1つの画像に多重化して圧縮することで、複数のチャンネルや回線を使用することなく、効率よく立体画像を送信することができる。
【0006】
【特許文献1】
特開平11−18111号公報
【0007】
【発明が解決しようとする課題】
一般に、立体画像は、撮影地点からの距離が離れる対象物ほど、左目画像と右目画像とでは、画像の空間的な相関が高くなる。このため、左目画像と右目画像との画像空間の相関性を利用できれば、特に視点(撮影地点)からの距離が遠い対象物で構成される領域の画像データの圧縮効率を向上させることができる。しかし、従来の立体画像圧縮装置4400では、左目画像と右目画像とが、左半分のブロックと、右半分のブロックとに分かれて多重化されるため、MPEG圧縮を行う際に、左目画像と右目画像との画像空間の相関性を適用できず、圧縮率を向上させることができない。
【0008】
ところで、立体画像が、左目画像と右目画像の2つの画像のみではなく、互いの視点をずらした3以上の画像から構成される場合に、立体画像を効率的に圧縮できる技術については知られていない。また、例えば、立体画像を広く放送により送信するような場合には、全ての受信者が立体ディスプレイにより立体画像を観察可能であるとは限らないため、立体画像と同時に、立体画像と同様の内容の平面画像を送信したいという要望があると考えられる。しかし、従来の立体画像圧縮装置では、圧縮の対象が立体画像のみであるため、立体画像と平面画像とを同時に送信する場合には、立体画像圧縮装置に加えて、平面画像を圧縮して送信するための別の装置が必要となる。また、平面画像と立体画像とが、個別に圧縮される場合には、両者の画像空間の相関性を利用した効率のよい圧縮ができないという問題もある。
【0009】
本発明は、立体画像が互いに視点をずらした3以上の画像を含む場合についても、効率よく立体画像の圧縮、伝送ができる立体画像圧縮装置、及び、そのような立体画像圧縮装置で圧縮された立体画像を伸長する立体画像伸長装置を提供することを目的とする。
【0010】
また、本発明は、立体画像を構成する2以上の視点の画像間の相関を利用して、効率よく立体画像の圧縮、伝送ができる立体画像圧縮装置、及び、そのような立体画像圧縮装置で圧縮された立体画像を伸長する立体画像伸長装置を提供することを目的とする。
【0011】
更に、本発明は、上記目的を達成した上で、同じ対象についての平面画像と立体画像とを、同時に効率よく圧縮、伝送できる立体画像圧縮装置、及び、そのような立体画像圧縮装置で圧縮された立体画像を伸長する立体画像伸長装置を提供することを目的とする。
【0012】
【課題を解決するための手段】
上記目的を達成するために、本発明の第1の視点における立体画像圧縮装置は、N枚(N≧3)の視差画像から、該N枚の視差画像を画像空間的に多重化した1枚の多重化画像を生成する立体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする。
【0013】
本発明の第1の視点における立体画像圧縮装置では、立体N眼画像(N≧3)を構成する各視差画像が、1つの画像に多重化されるため、立体N眼画像を、複数のチャンネルを使用することなく、記録又は送信することができる。多重化画像が、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分されるときには、各ブロックに、視差画像、又は、視差画像と同じサイズのダミー画像を1つずつ配置することもできる。ダミー画像は、視差画像の合計サイズと多重化画像のサイズとの差を調整するものであり、例えば、視差画像のうちの1枚として構成することができる。
【0014】
本発明の第2の視点における立体画像圧縮装置は、N枚(N≧2)の視差画像から、該N枚の視差画像のそれぞれを奇数行又は偶数行の何れかに振り分けて配置して画像空間的に多重化した1枚の多重化画像を生成する立体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする。
【0015】
本発明の第2の視点における立体画像圧縮装置では、立体N眼画像(N≧2)を構成する各視差画像を、1つの画像に多重化する際に、ある視差画像については多重化画像の奇数行に、また、その他のある画像については多重化画像の偶数行に配置するため、立体N眼画像を、複数のチャンネルを使用することなく、記録又は送信することができると共に、視差画像間の空間的な相関を利用して、効率のよい圧縮が可能となる。
【0016】
本発明の第2の視点における立体画像圧縮装置では、Nが偶数のとき、前記立体画像前処理部は、前記N枚の視差画像を2枚ずつN/2個の組に分け、各組の2枚の視差画像の各行を前記多重化画像の奇数行及び偶数行に区分して配置する構成を採用することができる。
【0017】
本発明の第2の視点における立体画像圧縮装置では、Nが奇数のとき、前記立体画像前処理部は、前記N枚の視差画像を2枚ずつ組み合わせた(N−1)/2個の組と、残りの1枚の視差画像とダミー画像とを組み合わせた組とに分け、各組の2枚の画像の各行を前記多重化画像の奇数行及び偶数行に区分して配置する構成を採用することもでき、或いは、前記N枚の視差画像を2枚ずつ組み合わせた(N−1)/2個の組と、残りの1枚の視差画像とに分け、各組の2枚の視差画像の各行を前記多重化画像の奇数行及び偶数行に区分して配置し、前記残りの1枚の視差画像を、多重化画像の前記組とは別の部分に配置する構成を採用することもできる。
【0018】
本発明の第3の視点における立体画像圧縮装置は、N枚(N≧2)の視差画像から、該N枚の視差画像を時間的に多重化して、画像サイズが相互に同じ、2枚以上N枚以下の時分割画像を生成する立体画像前処理部と、前記時分割画像を圧縮する画像圧縮部とを備えることを特徴とする。
【0019】
本発明の第3の視点における立体画像圧縮装置では、立体N眼画像(N≧2)を複数の時分割画像に分割して時間的に多重化するため、立体N眼画像を、複数のチャンネルを使用することなく、記録又は送信することができる。また、画像圧縮部による圧縮に際して、複数の時分割画像を動画的に圧縮する場合には、時分割画像間の空間的な相関性を利用することで、効率のよい圧縮が可能となる。立体N眼画像がN枚の時分割画像に時分割多重化されるときには、各時分割画像には、視差画像のうちの1枚が単独で含まれ、N未満の時分割画像に時分割多重化されるときには、少なくとも1枚の分割画像には、複数の視差画像が含まれる。この場合には、第1の視点における立体画像圧縮装置における視差画像と同様にして、複数の視差画像を、画像空間的に多重化することができる。各分割画像に含まれる視差画像の数が一致しないときには、ダミー画像により、サイズを調整することができる。
【0020】
本発明の第3の視点における立体画像圧縮装置では、前記時分割画像のそれぞれが、R枚(2≦R<N)の視差画像、又は、視差画像及びダミー画像の合計としてR枚の画像を含み、Rが偶数のとき、R枚(R≧2)の視差画像、又は、視差画像及ダミー画像を含むR枚の画像を、2枚ずつR/2個の組に分け、各組の2枚の画像の各行を前記時分割画像の奇数行及び偶数行に区分して配置する構成を採用することができる。この場合、各組2枚の画像は、時分割画像を、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分して、そのブロックに配置することができる。
【0021】
本発明の第4の視点における立体画像圧縮装置は、立体画像を構成するN枚(N≧2)の視差画像と、該N枚の視差画像の内の1枚の画像を列方向にN倍した解像度を有する平面画像とを画像空間的に多重化した1枚の多重化画像を生成する立体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする。
【0022】
本発明の第4の視点における立体画像圧縮装置では、立体N眼画像と、視差画像のうちの1枚の解像度を列方向にN倍にした平面画像とを、1つの画像に多重化するため、立体N眼画像と平面画像とを、複数のチャンネルを使用することなく、記録又は送信することができる。これにより、立体ディスプレイを持つ観察者には立体N眼画像を表示させ、平面ディスプレイを持つ観察者には平面画像を表示させることができる。立体N眼画像と平面画像とを1枚の多重化画像へ多重化する際には、本発明の第1の視点又は第2の視点における立体画像圧縮装置における視差画像の多重化と同様にして、奇数行と偶数行に区切らず、或いは、奇数行と偶数行に区切って、多重化することができる。視差画像のうちの1枚の画像と平面画像との間で重複する画素について、視差画像の入力の際、又は、平面画像の入力の際に、重複画素の入力を省略することができる。入力を省略した画像(画素)は、ダミー画像で置き換えることができる。
【0023】
本発明の第5の視点における立体画像圧縮装置は、立体画像を構成するN枚(N≧2)の視差画像と、該N枚の視差画像の内の1枚を列方向にN倍した解像度を有する平面画像とを時間的に多重化して、画像サイズが相互に同じ2N枚以下の時分割画像を生成する立体画像前処理部と、前記時分割画像を圧縮する画像圧縮部を備えることを特徴とする。
【0024】
本発明の第5の視点における立体画像圧縮装置では、立体N眼画像と、視差画像のうちの1枚の解像度を列方向にN倍にした平面画像とを、複数の時分割画像に分割して時間的に多重化するため、立体N眼画像と平面画像とを、複数のチャンネルを使用することなく、記録又は送信することができる。また、画像圧縮部による圧縮に際して、時分割画像を動画的に圧縮する場合には、時分割画像間の空間的な相関性を利用することで、効率のよい圧縮が可能となる。視差画像のうちの1枚の画像と平面画像との間で重複する画素について、視差画像の入力の際、又は、平面画像の入力の際に、重複画素の入力を省略することができる。入力を省略した画像(画素)は、ダミー画像で置き換えることができる。
立体N眼画像と平面画像が、2N枚(重複画像の入力を省略したときは2N−1枚)の時分割画像に時分割多重化されるときには、各時分割画像には、視差画像又は平面画像の部分画像のうちの1枚が単独で含まれ、2N(重複画像の入力を省略したときは2N−1)未満の時分割画像に時分割多重化されるときには、少なくとも1枚の分割画像には、複数の画像が含まれる。この場合には、本発明の第3の視点における立体画像圧縮装置における視差画像と同様にして、同じ分割画像に含まれる複数の画像を、画像空間的に多重化することができる。各分割画像に含まれる画像数が一致しないときには、ダミー画像により、サイズを調整することができる。
【0025】
本発明の第6の視点における立体画像圧縮装置は、1〜N眼ディスプレイ(N≧2)の全てに表示するために必要な全ての視差画像を画像空間的に多重化した多重化画像を生成する体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする。
【0026】
本発明の第6の視点にける立体画像圧縮装置では、1〜N眼ディスプレイ(N≧2)の全てに表示するために必要な全ての視差画像を、1つの画像に多重化するため、1〜N眼ディスプレイ用の画像を、複数のチャンネルを使用することなく、記録又は送信することができる。これにより、観察者は、自身が持つディスプレイのタイプに適合した画像を観察できる。1〜N眼ディスプレイ(N≧2)の全てに表示するために必要な全ての視差画像は、本発明の第1又は第2の視点における立体画像圧縮装置における視差画像と同様にして、1枚の多重化画像に多重化することができる。
【0027】
本発明の第7の視点における立体画像圧縮装置は、1〜N眼ディスプレイ(N≧2)の全てに表示するために必要な全ての視差画像を時間的に多重化して、画像サイズが相互に同じ2以上2N枚以下の時分割画像を生成する立体画像前処理部と、前記時分割画像を圧縮する画像圧縮部とを備えることを特徴とする。
【0028】
本発明の第7の視点における立体画像圧縮装置では、1〜N眼ディスプレイ(N≧2)の全てに表示するために必要な全ての視差画像を、複数の時分割画像に分割して時間的に多重化するため、1〜N眼ディスプレイ用の画像を、複数のチャンネルを使用することなく、記録又は送信することができる。また、画像圧縮部による圧縮に際して、時分割画像を動画的に圧縮する場合には、時分割画像間の空間的な相関性を利用することで、効率のよい圧縮が可能となる。1〜N眼ディスプレイ(N≧2)の全てに表示するために必要な全ての視差画像は、本発明の第3の視点における立体画像圧縮装置における視差画像と同様にして、時分割画像に多重化することができる。
【0029】
本発明の第8の視点における立体画像圧縮装置は、kを3以上の整数Nの任意の約数とするとき、全てのkに対して、k眼ディスプレイに表示するために必要な全ての視差画像を画像空間的に多重化した多重化画像を生成する立体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする。
【0030】
本発明の第8の視点における立体画像圧縮装置では、k眼ディスプレイに表示するために必要な全ての視差画像を、1枚の多重化画像に多重化するため、全てのkについてのk眼ディスプレイ用の画像を、複数のチャンネルを使用することなく、記録又は送信することができる。これにより、観察者は、自身が持つディスプレイのタイプに適合した画像を観察できる。
【0031】
本発明の第9の視点における立体画像圧縮装置は、kを3以上の整数Nの任意の約数とするとき、全てのkに対して、k眼ディスプレイに表示するために必要な全ての視差画像を時間的に多重化して、画像サイズが相互に同じ複数の時分割画像を生成する立体画像前処理部と、該立体画像前処理部により生成された時分割画像を圧縮する画像圧縮部とを備えることを特徴とする。
【0032】
本発明の第9の視点における立体画像圧縮装置では、k眼ディスプレイに表示するために必要な全ての視差画像を、複数の時分割画像に分割して時間的に多重化するため、全てのkについてのk眼ディスプレイ用の画像を、複数のチャンネルを使用することなく、記録又は送信することができる。また、画像圧縮部による圧縮に際して、時分割画像を動画的に圧縮する場合には、時分割画像間の空間的な相関性を利用することで、効率のよい圧縮が可能となる。
【0033】
上記本発明の立体画像圧縮装置は、前記多重化画像又は時分割画像を、インターレース変換するインターレース変換部を備え、前記画像圧縮部は、前記立体画像処理部により生成された多重化画像若しくは時分割画像、又は、前記インターレース変換部によって変換された多重化画像若しくは時分割画像の何れかを選択して圧縮することが好ましい。この場合、インターレース変換によって得られるトップフィールド画像とボトムフィールド画像との差異に基づいて、インターレース変換前のフレーム画像又はインターレース変換後のフィールド画像の何れかを圧縮の対象として選択することで、更に、効率のよい圧縮が可能となる。
【0034】
本発明の第8及び第9の視点における立体画像圧縮装置では、立体画像前処理部には、i及びj(i≠j)をkに含まれる任意の数として、i眼ディスプレイに表示する画像とj眼ディスプレイに表示する画像とで重複する重複画素について、前記i眼ディスプレイに表示する画像とj眼ディスプレイに表示する画像の何れか一方の入力が省略されることが好ましい。重複画素が存在するか否かは、k眼ディスプレイに表示する1〜k視点画像に含まれる第q視点画像(1≦q≦k)を構成するx=kp+q(pは0から(画像の列数/q)−1までの整数)番目の画素について、k’をNの約数であってq≦k’<kを満たす数とするとき、全てのk’に対して、p’=kp/k’を計算し、p’が整数となるようなk’が存在するか否かによって、簡易に判定できる。
【0035】
本発明の第8及び第9の視点における立体画像圧縮装置では、前記立体画像前処理部は、N眼ディスプレイに表示する視差画像の大きさを単位として各視差画像を1つ以上の画像グループに区分し、該画像グループを単位として前記視差画像を多重化する構成を採用することができる。各画像グループは、入力された各視差画像から、元の視差画像のN列おきに(N列周期でサンプリングして)取り出した画素によって形成することができる。
【0036】
本発明の第8の視点における立体画像圧縮装置では、全ての視差画像についての画像グループの総数Mが偶数のとき、前記立体画像前処理部は、前記M個の画像グループを2個ずつM/2個の組に分け、各組の2個の画像グループの各行を前記多重化画像の奇数行及び偶数行に区分して配置する構成を採用することができ、或いは、全ての視差画像についての画像グループの総数Mが奇数のとき、前記立体画像前処理部は、前記M個の画像グループを2個ずつ組み合わせた(M−1)/2個の組と、残りの1個の画像グループとダミーグループとを組み合わせた組とに分け、各組の2個のグループの画像の各行を前記多重化画像の奇数行及び偶数行に区分して配置する構成を採用することができる。1枚の多重化画像への多重化では、本発明の第2の視点における立体画像圧縮装置における視差画像と同様にして、画像グループ又はダミーグループを多重化することができる。または、これに代えて、本発明の第1の視点における立体画像圧縮装置における視差画像の多重化画像への多重化と同様にして、画像グループ又はダミーグループを多重化することもできる。
【0037】
本発明の第9の視点における立体画像圧縮装置では、全ての視差画像についての画像グループの総数をMとすると、前記時分割画像は、それぞれR個(R≧2)の画像グループ、又は、前記画像グループ及びダミーグループの合計としてR個のグループを含む構成を採用することができる。分割画像での画像空間的な多重化では、本発明の第3の視点における立体画像圧縮装置における視差画像の分割画像での画像空間的な多重化と同様にして、画像グループ又はダミーグループを多重化することができる。
【0038】
本発明の第1、第2、又は第3の視点における立体画像圧縮装置は、前記圧縮された視差画像をストリームとして送信する画像送信部を更に備え、該画像送信部は前記ストリームが立体画像データを含むことを示すフラグを挿入する構成を採用することができる。ストリームは、送信に代えて、又は、これに加えて、記録媒体に記録することもできる。フラグには、1枚の多重化画像又は時分割画像に含まれる視差画像数がいくつであるか、多重化画像又は時分割画像中に視差画像がどのように配置されるか、或いは、多重化画像又は時分割画像にダミー画像が含まれる場合には、そのダミー画像がどのような画像であるかといった情報を含ませることもできる。
【0039】
本発明の第4又は第5の視点における立体画像圧縮装置は、前記圧縮された視差画像をストリームとして送信する画像送信部を更に備え、該画像送信部は前記ストリームが立体画像データのみ、立体画像データと平面画像データ、又は、平面画像データのみの何れであるかを示すフラグを挿入する構成を採用することができる。フラグには、1枚の多重化画像又は時分割画像にはどのような画像が含まれるか、多重化画像又は時分割画像中には画像がどのように配置されるか、平面画像は視差画像のうちのどの1枚を高解像度にした画像であるか、或いは、多重化画像又は時分割画像にダミー画像が含まれる場合には、そのダミー画像がどのような画像であるかといった情報を含ませることもできる。
【0040】
本発明の第1〜第9の視点における立体画像圧縮装置は、前記圧縮された視差画像をストリームとして送信する画像送信部を備え、該画像送信部は前記ストリームが時分割画像データ又は多重化画像データの何れであるかを示すフラグを挿入する構成を採用することができる。
【0041】
本発明の第10の視点における立体画像伸長装置は、上記本発明の第1又は第2視点における立体画像圧縮装置で圧縮された多重化画像を伸長する画像伸長部と、画像伸長部により伸長された多重化画像から、N枚の視差画像を分離する立体画像後処理部とを備えることを特徴とする。
【0042】
本発明の第10の視点における立体画像伸長装置は、圧縮された多重化画像を伸長により再現し、再現された多重化画像から、立体画像前処理装置による多重化とは逆の規則でN枚の視差画像を分離することで、N眼ディスプレイに立体画像を表示可能である。立体画像伸長装置は、例えば、立体画像圧縮装置が立体画像データのストリーム中に挿入したフラグを参照することで、正しく立体画像を表示させることができる。
【0043】
本発明の第11の視点における立体画像伸長装置は、上記本発明の第3視点の立体画像圧縮装置で圧縮された時分割画像を伸長する画像伸長部と、画像伸長部により伸長された時分割画像から、N枚の視差画像を分離する立体画像後処理部とを備えることを特徴とする。
【0044】
本発明の第11の視点における立体画像伸長装置は、圧縮された時分割画像を伸長により再現し、再現された複数枚の時分割画像から、N枚の視差画像を分離することで、N眼ディスプレイに立体画像を表示可能である。立体画像伸長装置は、例えば、立体画像圧縮装置が立体画像データのストリーム中に挿入したフラグを参照することで、正しく立体画像を表示させることができる。
【0045】
本発明の第12の視点における立体画像伸長装置は、上記本発明の第4視点における立体画像圧縮装置で圧縮された多重化画像を伸長する画像伸長部と、画像伸長部により伸長された多重化画像から、N枚の視差画像と、該N枚の視差画像の内の1枚の画像を列方向にN倍した解像度を有する平面画像とを分離する立体画像後処理部と、を備えることを特徴とする。
【0046】
本発明の第12の視点における立体画像伸長装置は、圧縮された多重化画像を伸長により再現し、再現された多重化画像から、立体画像前処理装置による多重化とは逆の規則で、N枚の視差画像と平面画像とを分離することで、N眼ディスプレイには立体画像を表示でき、平面ディスプレイには平面画像を表示できる。立体画像伸長装置は、例えば、立体画像圧縮装置がストリーム中に挿入したフラグを参照することで、立体画像又は平面画像を正しく表示させることができる。
【0047】
本発明の第13の視点における立体画像伸長装置は、上記本発明の第5視点における立体画像圧縮装置で圧縮された時分割画像を伸長する画像伸長部と、画像伸長部により伸長された時分割画像から、N枚の視差画像と、該N枚の視差画像の内の1枚の画像を列方向にN倍した解像度を有する平面画像とを分離する立体画像後処理部と、を備えることを特徴とする。
【0048】
本発明の第13の視点における立体画像伸長装置は、圧縮された時分割画像を伸長により再現し、再現された複数枚の時分割画像から、N枚の視差画像と平面画像とを分離することで、N眼ディスプレイには立体画像を表示でき、平面ディスプレイには平面画像を表示できる。立体画像伸長装置は、例えば、立体画像圧縮装置がストリーム中に挿入したフラグを参照することで、立体画像又は平面画像を正しく表示させることができる。
【0049】
本発明の第14の視点における立体画像伸長装置は、上記本発明の第6視点における立体画像圧縮装置で圧縮された多重化画像を伸長する画像伸長部と、画像伸長部により伸長された多重化画像から、1〜N眼ディスプレイの少なくとも1つのディスプレイに表示するために必要な視差画像を分離する立体画像後処理部とを備えることを特徴とする。
【0050】
本発明の第14の視点における立体画像伸長装置は、圧縮された多重化画像を伸長により再現し、再現された多重化画像から、立体画像前処理装置による多重化とは逆の規則で、1〜N眼ディスプレイの少なくとも1つのディスプレイに表示するために必要な視差画像を分離することで、1〜N眼ディスプレイの少なくとも1つに、そのディスプレイに適した画像を表示可能である。立体画像伸長装置は、例えば、立体画像圧縮装置がストリーム中に挿入したフラグを参照することで、正しく画像を表示させることができる。
【0051】
本発明の第15の視点における立体画像伸長装置は、上記本発明の第7視点における立体画像圧縮装置で圧縮された時分割画像を伸長する画像伸長部と、画像伸長部により伸長された時分割画像から、1〜N眼ディスプレイの少なくとも1つのディスプレイに表示するために必要な視差画像を分離する立体画像後処理部とを備えることを特徴とする。
【0052】
本発明の第15の視点における立体画像伸長装置は、圧縮された時分割画像を伸長により再現し、再現された複数枚の時分割画像から、1〜N眼ディスプレイの少なくとも1つのディスプレイに表示するために必要な視差画像を分離することで、1〜N眼ディスプレイの少なくとも1つに、そのディスプレイに適した画像を表示可能である。立体画像伸長装置は、例えば、立体画像圧縮装置がストリーム中に挿入したフラグを参照することで、正しく画像を表示させることができる。
【0053】
本発明の第16の視点における立体画像伸長装置は、上記本発明の第8視点における立体画像圧縮装置で圧縮された多重化画像を伸長する画像伸長部と、画像伸長部により伸長された多重化画像から、k眼ディスプレイに表示するために必要な差画像を分離する立体画像後処理部とを備えることを特徴とする。
【0054】
本発明の第16の視点における立体画像伸長装置は、圧縮された多重化画像を伸長により再現し、再現された多重化画像から、立体画像前処理装置による多重化とは逆の規則で、k眼ディスプレイに表示するために必要な視差画像を分離することで、k眼ディスプレイに、そのディスプレイに適した画像を表示可能である。立体画像伸長装置は、例えば、立体画像圧縮装置がストリーム中に挿入したフラグを参照することで、正しく画像を表示させることができる。
【0055】
本発明の第17の視点における立体画像伸長装置は、上記本発明の第9視点における立体画像圧縮装置で圧縮された時分割画像を伸長する画像伸長部と、画像伸長部により伸長された時分割画像から、k眼ディスプレイに表示するために必要な差画像を分離する立体画像後処理部とを備えることを特徴とする。
【0056】
本発明の第17の視点における立体画像伸長装置は、圧縮された時分割画像を伸長により再現し、再現された複数枚の時分割画像から、k眼ディスプレイに表示するために必要な視差画像を分離することで、k眼ディスプレイに、そのディスプレイに適した画像を表示可能である。立体画像伸長装置は、例えば、立体画像圧縮装置がストリーム中に挿入したフラグを参照することで、正しく画像を表示させることができる。
【0057】
【発明の実施の形態】
以下、図面を参照し、本発明の実施形態例に基づいて、本発明を更に詳細に説明する。
【0058】
第1実施形態例
図1は、本発明の第1実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を機能ブロック図として示している。立体画像圧縮装置100は、立体画像前処理装置104を構成する入力画素構成変換装置105、MPEG圧縮装置108、及び、送信・記録装置(送信装置又は記録装置)109を備える。立体画像伸長装置101は、受信・再生装置(受信装置又は再生装置)110、MPEG伸長装置111、及び、立体画像後処理装置112として構成される出力画素構成変換装置115を備える。
【0059】
立体画像圧縮装置100は、互いに視点をずらして撮影された第1眼画像から第N眼画像(Nは3以上の整数)をそれぞれ入力し、第1眼〜第N眼画像を所定の規則で多重化した立体多視画像に対して、MPEG圧縮を行う。第1眼〜第N眼画像は、それぞれ、1フレームが1フィールドで構成されるプログレッシブ画像であり、同じ解像度で同じ画素数の画像として構成される。立体画像圧縮装置100は、圧縮した立体多視画像を、例えば通信回線を介して立体画像伸長装置101に送信し、或いは、記録媒体に記録する。立体画像伸長装置101は、圧縮された立体多視画像を、外部から受信して伸長し、或いは、記録媒体から読み込んで伸長し、伸長した立体多視画像を立体ディスプレイ等の表示装置に出力する。
【0060】
例えば、N=4の場合であって、立体多視画像が第1眼〜第4眼画像を含み、第1眼〜第4眼画像が、それぞれ88列×288行の画像サイズを有する画像として構成される場合について考える。また、立体多視画像(4眼立体画像)を表示する立体ディスプレイの表示画面サイズは352列×288行(ライン)であり、4眼立体画像が立体ディスプレイに表示されるとき、その表示画面の各行には、第1眼〜第4眼画像が順次に繰り返し配置されるものとする。4眼立体画像は、立体画像圧縮装置100で圧縮され、立体画像伸長装置101で伸長されて、立体ディスプレイに表示される。立体ディスプレイの観察者は、352列×288行の表示画面から、観察者の観察位置に応じて異なる2つの画像、つまりそれぞれ88列×288行で構成される第1眼画像〜第4眼画像のうちの2つ画像を、右目及び左目のそれぞれによって観察する。
【0061】
入力画素構成変換装置105は、立体画像を構成する第1眼〜第N眼画像を所定の規則で1つの画像に多重化し、多重化多視画像を生成する。MPEG圧縮装置108は、入力画素構成変換装置105で多重化された多重化多視画像を入力し、MPEG(Moving Picture Experts Group)圧縮により、MPEG−2や、MPEG−4などの画像圧縮フォーマットで多重化多視画像を圧縮する。送信・記録装置109は、MPEG圧縮装置108により圧縮された多重化多視画像を、通信回線を介して立体画像圧縮装置の外部に送信し、或いは、光ディスク等の記録媒体に記録する。
【0062】
立体画像伸長装置101では、受信・再生装置110によって、圧縮された多重化多視画像が、受信され、或いは、記録媒体から読み取られる。MPEG伸長装置111は、圧縮された多重化多視画像を伸長する。この伸長により、多重化多視画像が再現される。出力画素構成変換装置115は、MPEG伸長により再現された多重化多視画像を入力し、多重化多視画像に含まれる第1眼〜第N眼画像を、入力画素構成変換装置105の多重化とは逆の規則で分解(逆多重化)する。出力画素構成変換装置115は、分解された第1眼〜第N眼画像を、立体ディスプレイ等の出力装置にそれぞれ出力する。
【0063】
図2は、図1の立体画像圧縮装置100及び立体画像伸長装置101による立体画像の圧縮及び再現の様子を模式的に示している。なお、同図では、N=4、立体ディスプレイの画像サイズを352列×288行としている。また、立体ディスプレイの表示画面の1行中には、4眼画像201として示すように、第1眼〜第4眼画像が順次に繰り返し配置される例を用いている。入力画素構成変換装置105(図1)には、4眼立体画像を構成する、画像サイズがそれぞれ88列×288行の第1眼画像(○)、第2眼画像(●)、第3眼画像(□)、及び、第4眼画像(■)が入力される。このとき、第1眼〜第4眼画像の原画像が、それぞれ立体ディスプレイの表示画像サイズと同じ352列×288行の画像サイズを有する場合には、入力画素構成装置105は、各原画像の列方向の画素を間引きし、画素を4つおきに入力することで、列方向の画素数が全体の1/4(88列)となる第1眼〜第4眼画像を入力することができる。
【0064】
入力画素変換装置105は、立体ディスプレイ上で4眼画像201として表示される第1眼〜第4眼画像を、88列×1152(288×4)行の多重化4眼画像202に多重化する。入力画素構成変換装置105は、例えば、多重化4眼画像202を縦(行方向)に4つのブロックに区分し、各ブロックに、第1眼〜第4眼画像の何れかを単独で配置して、多重化を行う。図2の例では、多重化4眼画像202の1行目から288行目までの第1ブロックに第1眼画像が配置され、289行目から576行目までの第2ブロックに第2眼画像が配置される。また、577行目から864行目までの第3ブロックに第3眼画像が配置され、865行目から1152行目までの第4ブロックに第4眼画像が配置される。
【0065】
第1眼〜第4眼画像が多重化された多重化4眼画像202は、MPEG圧縮装置108によりMPEG圧縮され、送信・記録装置109、及び、受信・再生装置110を経て、MPEG伸長装置111でMPEG伸長される。出力画素構成変換装置115は、再現された多重化4眼画像202から、入力画素構成変換装置105による多重化とは逆の規則で第1眼〜第4眼画像を分解し、分解により得られた第1眼〜第4眼画像をそれぞれ出力する。立体ディスプレイには、立体画像伸長装置101で再現された第1眼〜第4眼画像が入力され、表示画面上には、再生4眼画像205が表示される。
【0066】
本実施形態例では、立体画像圧縮装置100は、立体画像を構成する第1眼〜第N眼画像を1枚の多重化画像に画像空間的に多重化し、その多重化画像に対して圧縮を行う。また、立体画像伸長装置110は、多重化画像を伸長し、伸長によって再現された多重化画像から、立体画像圧縮装置での多重化とは逆の規則で第1眼〜第N眼画像を分解する。このため、例えば立体画像データの送信時に、第1眼画像〜第N眼画像を、複数のチャンネルを使用することなく効率よく伝送することができる。
【0067】
図3、図4は、入力画素構成変換装置105における立体画像の別の多重化例を示している。図3の例では、多重化4眼画像を352(88×4)列×288行の画像として構成し、多重化4眼画像302を横方向に4分割した各ブロックに、第1眼〜第4眼画像の何れかを単独で配置している。入力画素構成変換装置105が、第1眼〜第4眼画像を、多重化4眼画像202(図2)のように多重化するのに代えて、図3に示す多重化4眼画像302のように画像空間的に多重化する場合にも、上記と同様に、例えば立体画像データの送信時に、第1眼画像〜第4眼画像を1つのチャンネルで伝送することができる。
【0068】
また、入力画素構成変換装置105は、第1眼〜第N眼画像を単独で含むブロックを、縦方向又は横方向に並べて多重化するのに代えて、縦方向及び横方向のそれぞれに複数列に並べて多重化してもよい。例えば、立体画像が、44列×288行の第1眼〜第8眼画像で構成される場合について考える。この場合、図4に示すように、多重化8眼画像401を176列×576行の画像として構成し、多重化8眼画像402を縦に2分割、横に4分割した8分割ブロックのそれぞれに、第1眼〜第8眼画像の何れかを単独で配置することができる。または、これに代えて、多重化多視画像を132列×864行の画像として構成し、その多重化多視画像を、縦及び横にそれぞれ3分割した9分割ブロックのうちの8つのブロックのそれぞれに、第1眼〜第8眼画像の何れかを単独で配置することもできる。この場合、多重化画像のブロックが1つ余るが、その余ったブロックには、第1眼〜第8眼画像と同じ画像サイズのダミー画像を配置すればよい。ダミー画像は、全ての画素が0として構成された画像でも良く、或いは、第1眼画像〜第8眼画像のうちの何れか1つであっても良い。
【0069】
第2実施形態例
図5は、本発明の第2実施形態例の立体画像圧縮装置及び立体画像伸長装置による立体画像の圧縮及び再現の様子を模式的に示している。本実施形態例の立体画像圧縮装置500は、図1に示す立体画像圧縮装置と同様な構成を有し、入力画素構成変換装置105での多重化が、第1実施形態例と相違する。本実施形態例では、入力画素構成変換装置105は、第1眼〜第N眼画像(Nは2以上の整数)で構成される立体画像の1フレームを、複数の分割フレームに分割して時分割多重化し、MPEG圧縮装置108は、その分割フレームを符号化の単位としてMPEG圧縮を行う。
【0070】
入力画素構成変換装置105は、第1眼〜第N眼画像で構成される立体画像の1フレームを、画像サイズが相互に等しい複数の分割フレームに時分割する。図5の例では、入力画素構成変換装置105は、同じタイミングで入力し、同じフレームを構成する第1眼〜第4眼画像を、第1眼画像で構成される第1分割フレーム503と、第2眼画像で構成される第2分割フレーム504と、第3眼画像で構成される第3分割フレーム505と、第4眼画像で構成される第4分割フレーム506とに時分割し、時間軸上で多重化する。
【0071】
MPEG圧縮装置108は、第1分割フレーム503から第4分割フレーム506のそれぞれを、符号化の単位としてMPEG圧縮を行う。圧縮された第1分割フレーム503〜第4分割フレーム506は、送信・記録装置109、及び、受信・再生装置110を経て、MPEG伸長装置111でMPEG伸長される。出力画素構成変換装置115は、MPEG伸長により再現された第1分割フレーム503〜第4分割フレーム506から立体画像の1フレームを再構成し、再構成された立体画像の1フレームから第1眼〜第N眼画像を抽出して、第1眼〜第N眼画像をそれぞれ出力する。立体ディスプレイには、立体画像伸長装置101で再現された第1眼〜第4眼画像が入力され、表示画面上には、再生4眼画像507が表示される。
【0072】
図6は、MPEG圧縮におけるGOP(Group Of Pictures)構成の例を示している。なお、同図中のピクチャタイプI、P、Bは、それぞれ符号化におけるピクチャタイプを示し、矢印は、予測元ピクチャと予測先ピクチャとの関係を示している。MPEG圧縮では、Iピクチャ(イントラ符号化フレーム)は、静止画モードで符号化され、フレーム間の予測を行わずに符号化される。Pピクチャ(順方向予測符号化フレーム)は、過去のフレームから1方向のフレーム間予測を行い、フレーム間の差分を符号化する。Bピクチャ(双方向予測符号化フレーム)は、時間的に過去及び未来の2つのフレームからフレーム間予測を行い、フレーム間の差分信号が符号化される。
【0073】
図6の例では、入力画素構成変換装置105で4眼立体画像201の1フレーム目を時分割した第1分割フレーム601〜第4分割フレーム604、及び、4眼立体画像201の2フレーム目を時分割した第5分割フレーム605〜第8分割フレーム608の計8つの分割フレームが1つのGOPを構成する。4眼立体画像の1フレーム目(201(1))を時分割した、第1眼画像(○)で構成される第1分割フレーム601は、Iピクチャとして符号化され、4眼立体画像の2フレーム目(201(2))を時分割した、第1眼画像(○)で構成される第5分割フレーム605はPピクチャとして符号化される。第2眼画像(●)で構成される第2分割フレーム602及び第6分割フレーム606と、第3眼画像(□)で構成される第3分割フレーム603及び第7分割フレーム607と、第4眼画像(■)で構成される第4分割フレーム604及び第8分割フレーム608とは、それぞれBピクチャとして符号化される。
【0074】
GOPが、図6に示すように構成されると、立体画像の2フレーム目の第1眼画像(第5分割フレーム605)は、立体画像の1フレーム目の第1眼画像(第1分割フレーム601)を利用してMPEG圧縮が行われる。また、立体画像の1フレーム目の第2眼〜第4眼画像(第2分割フレーム602〜第4分割フレーム604)は、それぞれ、第1分割フレーム601及び第5分割フレーム605を利用してMPEG圧縮が行われ、立体画像の2フレーム目の第2眼〜第4眼画像(第6分割フレーム606〜第8分割フレーム608)は、それぞれ、第5分割フレーム605と、次のGOPのIピクチャとを利用してMPEG圧縮が行われる。つまり、図6の例では、第2眼〜第4眼画像は、同じフレームの第1眼画像、及び、時間的に次のフレームの第1眼画像との相関を利用したMPEG圧縮が可能となり、予測元フレームと予測先フレームとで、画像空間の相関性を利用した効率のよい圧縮が可能となる。
【0075】
本実施形態例では、立体画像の1フレームを複数の分割フレームに時分割して時間軸上に多重化し、分割フレームを符号化の単位としてMPEG圧縮が行われる。例えば図5に示すような規則で立体画像の1フレームを時分割した場合には、各分割フレームには、第1眼〜第N眼画像の何れかが単独で含まれることになり、MPEG圧縮において、第1眼〜第N眼画像の画像空間の相関性を利用した圧縮が可能となる。
【0076】
一般に、立体画像を構成する第1眼〜第N眼画像は、互いの視点をずらして撮影された視差画像として構成されるため、視点から遠い対象物ほど、画像空間の相関が高くなる。しかし、図44に示す従来の多重化画像4404では、左目画像(○)と右目画像(×)とが左半分と右半分とにブロックを分けて多重化されるため、左目画像と右目画像との画像空間での相関が高い場合であっても、互いの画像間の相関性を利用した効率のよい圧縮を行うことができなかった。本実施形態例では、立体画像の1フレームを、複数のフレームに時分割し、時分割されたフレームを単位としてMPEG圧縮が行われるため、第1眼〜第N眼画像の画像空間の相関性を利用した効率のよい圧縮が可能となる。また、複数の分割フレームで、図6に示すようなGOPを構成することで、時間的に前後の分割フレームとの相関を利用して、更に効率のよい圧縮が可能となる。
【0077】
図7は、MPEG圧縮におけるGOP構成の別の例を示している。この例では、立体画像圧縮装置500(図5)には、立体8眼画像401(図4)が入力され、また、各分割フレームは、複数のブロックに更に分割されている。図7の例では、第1分割フレーム701には、第1眼画像(○)と第2眼画像(●)とが、左半分のブロックと右半分のブロックとに分けて配置され、第2分割フレームには、第3眼画像(□)と第4眼画像(■)とが、左半分のブロックと右半分のブロックと分けて配置される。また、第3分割フレーム703には、第5眼画像(△)と第6眼画像(▲)とが、左半分のブロックと右半分のブロックとに分けて配置され、第4分割フレーム704には、第7眼画像(◇)と第8眼画像(◆)とが、左半分のブロックと右半分のブロックと分けて配置される。
【0078】
図7の例では、8眼立体画像の2フレーム分である第1分割フレーム701〜第8分割フレーム708が1つのGOPを構成する。GOPがこのように構成されると、例えば、Bピクチャとして符号化される第3分割フレーム703に含まれる第5眼画像(△)は、Iピクチャとして符号化される第1分割フレーム701に含まれる第1眼画像(○)、及び、Pピクチャとして符号化される第5分割フレーム705に含まれる第1眼画像(○)との画像空間の相関性を利用した圧縮が可能であり、また、第3分割フレーム703に含まれる第6眼画像(▲)は、第1分割フレーム701及び第5分割フレーム705に含まれる第2眼画像(●)との画像空間の相関性を利用した圧縮が可能となる。図7の例のように、1つの分割フレームに、第1眼〜第N眼画像のうちの複数の画像を第1実施形態例と同様な規則で多重化する場合にも、図6の例と同様に、第1眼〜第N眼画像の画像空間の相関性を利用した効率のよい圧縮が可能となる。
【0079】
ここで、立体画像圧縮装置に7眼立体画像が入力される場合に、入力画素構成変換装置105が、図7の例と同様に、2つの画像を、ブロックを分けて1つの分割フレーム内に配置すると、第1眼〜第7眼画像の何れか1つが余ることになる。このように、Nが奇数であり、立体画像が奇数眼の画像として構成される場合には、分割フレーム間の画像サイズを調整するために、第1眼〜第N眼画像と同じ画像サイズのダミー画像を、余った画像と多重化するとよい。これにより、各分割フレームの画像サイズを揃えることができる。ダミー画像は、全ての画素が0として構成された画像でも良く、或いは、第1眼画像〜第N眼画像のうちの何れか1つであっても良い。この場合であっても、第1眼〜第N眼画像の画像空間の相関性を利用した効率のよい圧縮が可能となる。
【0080】
第3実施形態例
図8は、本発明の第3実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を機能ブロック図として示している。本実施形態例は、立体画像前処理装置804が、入力画素構成変換装置805、インターレース変換装置806、及び、選択装置807を備え、立体画像後処理装置812が、分岐装置813、プログレッシブ変換装置814、及び、出力画素構成変換装置815を備える点で、第1実施形態例と相違する。本実施形態例では、入力画素構成変換装置805で、第1実施形態例とは異なる規則で1つの画像に多重化された第1眼〜第N眼画像(Nは2以上の整数)を、プログレッシブ画像のまま、或いは、仮想的なインターレース画像に変換して、MPEG圧縮を行う。
【0081】
立体画像前処理装置804は、入力画素構成変換装置805、インターレース変換装置806、及び、選択装置807を備え、MPEG圧縮装置108が行う画像圧縮の前処理を行う。入力画素構成変換装置805は、立体多視画像を構成する第1眼〜第N眼画像(Nは2以上の整数)を、第1実施形態例とは異なる規則で、多重化多視画像に多重化する。入力画素構成変換装置805は、多重化多視画像内の、第1眼〜第N眼画像の画像サイズの行方向を2倍にしたブロックに、第1眼〜第N眼画像のうちの2つの画像を一対にして、一方の画像の各行を奇数行に配置し、他方の画像の各行を偶数行に配置する。
【0082】
インターレース変換装置806は、多重化多視画像を入力し、その1フレームを、多重化多視画像の奇数行で構成されるトップフィールド画像と、多重化多視画像の偶数行で構成されるボトムフィールド画像との2つのフィールド画像から成る仮想的なインターレース画像に変換する。選択装置807は、入力画素構成変換装置805が出力する多重化多視画像、又は、インターレース変換装置が出力する仮想的なインターレース画像を選択的に出力し、選択された画像をMPEG圧縮装置108に入力する。
【0083】
立体画像後処理装置812は、分岐装置813、プログレッシブ変換装置814、及び、出力画素構成変換装置815を備え、MPEG伸長装置111によるMPEG伸長の後処理を行う。MPEG伸長装置111は、MPEG圧縮の際に、選択装置807によって、プログレッシブ画像である多重化多視画像が選択されたフレームについては、圧縮された多重化多視画像をプログレッシブ画像として伸長し、インターレース画像である多重化多視画像が選択されたフレームについては、圧縮された多重化多視画像をインターレース画像として伸長する。分岐装置813には、MPEG伸長装置111によりプログレッシブ画像として再現された多重化多視画像、或いは、インターレース画像として再現された多重化多視画像が入力される。
【0084】
分岐装置813は、MPEG伸長装置111で、インターレース画像として再現された多重化多視画像を、プログレッシブ変換装置814に入力する。プログレッシブ変換装置814は、インターレース画像として再現された多重化多視画像を、プログレッシブ画像に変換する。出力画素構成変換装置815は、MPEG伸長により再現された、プログレッシブ画像である多重化多視画像、又は、プログレッシブ変換装置によってプログレッシブ画像に変換された、再現された多重化多視画像を入力する。出力画素構成変換装置815は、再現された多重化多視画像に含まれる第1眼〜第N眼画像を、入力画素構成変換装置805とは逆の規則で分解する。出力画素構成変換装置815は、分解された第1眼〜第N眼画像を、立体ディスプレイ等の出力装置にそれぞれ出力する。
【0085】
図9は、図8の立体画像圧縮装置800及び立体画像伸長装置801による立体画像の圧縮及び再現の様子を模式的に示している。入力画素変換装置805は、立体ディスプレイ上で4眼画像201として表示される第1眼〜第N眼画像を、88列×1152(288×4)行の多重化4眼画像902に多重化する。図9の例では、入力画素構成変換装置805は、多重化4眼画像902を上下に2分割した上のブロック(第1ブロック)に、第1眼画像と第2眼画像とを一対にして、第1眼画像を第1ブロック内の奇数行に配置し、第2眼画像を第1ブロック内の偶数行に配置する。また、多重化4眼画像902の下のブロック(第2ブロック)に、第3眼画像と第4眼画像とを一対にして、第3眼画像を第2ブロック内の奇数行に配置し、第4眼画像を第2ブロック内の偶数行に配置する。
【0086】
多重化4眼画像902では、第1眼画像のy+1行目(y:0〜287(行数−1))が、平行移動されて多重化4眼画像902の2y+1行目に配置され、第2眼画像のy+1行目が、平行移動されて多重化4眼画像902の2y+2行目に配置される。同様に、第3眼画像のy+1行目は、多重化4眼画像902の2y+577行目に配置され、第4眼画像のy+1行目は、多重化4眼画像902の2y+577行目に配置される。
【0087】
インターレース変換装置806は、88列×1152行の多重化4眼画像902を、それぞれ88列×576行のトップフィールド画像903及びボトムフィールド画像904にインターレース変換する。このインターレース変換によって、多重化4眼画像902の奇数行がトップフィールド画像903に配置され、偶数行がボトムフィールド画像904に配置される。結果として、トップフィールド画像903は、第1眼画像と第3眼画像とによって構成される。また、ボトムフィールド904は、第2眼画像と第4眼画像とによって構成される。
【0088】
MPEG圧縮では、マクロブロック単位で、トップフィールド画像903とボトムフィールド画像904との差異、つまり、第1眼画像と第2眼画像との差異、及び、第3眼画像と第4眼画像との差異がそれぞれ検出される。トップフィールド画像903とボトムフィールド画像904との差異を検出した結果、その差異が、規定値よりも大きいときには、トップフィールド画像903とボトムフィールド画像904の相関が小さいと判断され、MPEG圧縮装置108は、選択装置807によって選択されたトップフィールド画像903及びボトムフィールド画像904に対し、フィールドDCTを適用してMPEG圧縮を行う。トップフィールド画像903とボトムフィールド画像904との差異が規定値より小さいときには、トップフィールド画像903とボトムフィールド画像904との相関が大きいが大きいと判断され、MPEG圧縮装置108は、選択装置807によって選択された多重化4眼画像902に対し、フレームDCTを適用してMPEG圧縮を行う。
【0089】
MPEG圧縮の際に、フィールドDCTを適用して、或いは、フレームDCTを適用して圧縮された第1眼〜第4眼画像は、送信・記録装置109、受信・再生装置110を経て、MPEG伸長装置111で伸長される。MPEG伸長装置111は、MPEG圧縮の際に、フレームDCTが適用されたフレームについては、圧縮された多重化4眼画像から多重化4眼画像902を再現し、フィールドDCTが適用されたフレームについては、圧縮された多重化4眼画像902をトップフィールド画像903及びボトムフィールド画像904として再現する。出力画素構成変換装置815は、多重化4眼画像902、或いは、プログレッシブ変換装置814でプログレッシブ画像に変換されたトップフィールド画像903及びボトムフィールド画像904から第1眼〜第N眼画像を分解し、立体ディスプレイ上には、再生4眼画像905が表示される。
【0090】
本実施形態例では、入力画素構成変換装置805は、多重化多視画像を、例えば縦に複数のブロックに分割し、各ブロックに、第1眼〜第N眼画像の何れか2つを一対にして、一方の画像の各行を多重化多視画像の奇数行に配置し、他方の画像の各行を多重化多視画像の偶数行に配置して、多重化を行う。インターレース変換装置806は、プログレッシブ画像である多重化多視画像を、その奇数行で構成されるトップフィールド画像と偶数行で構成されるボトムフィールド画像とで構成される仮想的なインターレース画像に変換する。MPEG圧縮装置807は、トップフィールド画像とボトムフィールド画像との差異の検出結果に基づいて、プログレッシブ画像である多重化多視画像、又は、仮想的なインターレース画像を選択し、MPEG圧縮を行う。
【0091】
例えば、図9の多重化4眼画像902では、多重化4眼画像902の上半分の第1ブロックには、奇数行と偶数行とに分けられて、第1眼画像と第2眼画像とが混在し、下半分の第2ブロックには、奇数行と偶数行とに分けられて、第3眼画像と第4眼画像とが混在している。第1眼〜第4眼画像がこのように多重化された場合、MPEG圧縮において、第1眼画像と第2眼画像との相関、及び、第3眼画像と第4眼画像との相関が小さいときには、インターレース変換によって、第1眼画像及び第3眼画像がトップフィールド画像903に配置され、第2眼画像及び第4眼画像がボトムフィールド画像904に配置されたインターレース画像に対して、フィールドDCTを適用して圧縮を行うことで、効率のよい圧縮が可能となる。また、第1眼画像と第2眼画像との相関、及び、第3眼画像と第4眼画像との相関が大きいときには、上半分のブロックに第1眼画像と第2眼画像とが混在し、下半分のブロックに第3眼画像と第4眼画像とが混在している多重化4眼画像902に対して、フレームDCTを適用して圧縮を行うことで、第1眼画像と第2眼画像との相関、及び、第3眼画像と第4眼画像との相関を利用した効率のよい圧縮が可能となる。
【0092】
図10、図11は、入力画素構成変換装置805での別の多重化例を示している。図9に示す多重化4眼画像902では、第1眼画像を奇数数行に、第2眼画像を偶数行に配置する第1ブロックと、第3眼画像を奇数行に、第4眼画像を偶数行に配置する第2ブロックとが、縦に並べられたが、これに代えて、第1ブロックと、第2ブロックとを、横方向に並べることもできる。例えば、図10に示すように、多重化4眼画像を176列×576行の画像として構成し、多重化4眼画像1002を横方向に2分割して、各ブロックに、第1眼〜第4眼画像の何れか2つを一対にして、一方の画像を奇数行に、他方の画像を偶数行に配置することもできる。第1眼〜第4眼画像が、図10に示す多重化4眼画像1002のように多重化された場合についても、図9の例と同様に、インターレース変換により、第1眼画像と第3眼画像とを含むトップフィールド画像1003と、第2眼画像と第4眼画像とを含むボトムフィールド画像1004とで構成される仮想的なインターレース画像が得られ、MPEG圧縮の際に、フィールドDCT又はフレームDCTを適用することで、効率のよい圧縮が可能となる。
【0093】
また、入力画素構成変換装置805は、第1眼〜第N眼の何れか2つを一対にして、一方の画像を奇数行に、他方の画像を偶数行に配置したブロックを、縦又は横に1列に並べて多重化するのに代えて、縦及び横に複数列に並べて多重化してもよい。例えば、図11に示すように、8眼立体画像401を、88列×1152行の多重化8眼画像1102に多重化する場合には、多重化8眼画像1102を縦及び横に2分割した4分割ブロックのそれぞれに、第1眼〜第8眼画像のうちの何れか2つを一対として、一方の画像を奇数行に、他方の画像を偶数行に配置することができる。この場合にも、多重化8眼画像1102をインターレース変換することにより、第1眼画像、第3眼画像、第5眼画像、及び、第7眼画像を含むトップフィールド画像1103と、第2眼画像、第4眼画像、第6眼画像、及び、第8眼画像を含むボトムフィールド画像1104とで構成される仮想的なインターレース画像が得られ、MPEG圧縮の際に、フィールドDCT又はフレームDCTを適用することで、効率のよい圧縮が可能となる。
【0094】
ここで、Nが奇数のときには、多重化多視画像のブロック内に、第1眼〜第N眼画像の何れか2つを一対にして、そのうちの一方の画像を偶数行に、他方の画像を奇数行に配置すると、第1眼〜第N眼画像のうちの1つ画像が余ることになる。この場合には、その余った画像と、ダミー画像と一対にして、多重化多視画像のブロック内に、偶数行及び奇数行に分けて配置すればよい。ダミー画像は、全ての画素が0として構成された画像でも良く、或いは、第1眼画像〜第N眼画像のうちの何れか1つであっても良い。
【0095】
第4実施形態例
図12は、本発明の第4実施形態例の立体画像圧縮装置及び立体画像伸長装置による立体画像の圧縮及び再現の様子を模式的に示している。本実施形態例では、立体多視画像の1フレームが、第2実施形態例と同様に、複数の分割フレームに時分割され、各分割フレームでは、第3実施形態例と同様に、第1眼〜第N眼画像(Nは3以上の整数)のうちの複数の画像が、奇数行と偶数行とに分けて配置される。本実施形態例の立体画像圧縮装置1200及び立体画像伸長装置1201は、それぞれ、図8の立体画像圧縮装置800及び立体画像伸長装置801と同様な構成を有する。
【0096】
立体画像圧縮装置1200に入力される第1眼〜第4眼画像は、入力画素構成変換装置805(図8)により、176列×288行の2つの分割フレーム1202、1203に分割され、時間軸上に多重化される。第1分割フレーム1202及び第2分割フレーム1203には、それぞれ第1眼〜第4眼画像のうちの何れか2つの画像が配置される、図12の例では、第1分割フレーム1202では、その奇数行に、第1眼画像(○)の各行が配置され、偶数行に、第2眼画像(●)の各行が配置される。また、第2分割フレーム1203では、その奇数行に第3眼画像(□)の各行が配置され、偶数行に第4眼画像(■)の各行が配置される。
【0097】
インターレース変換装置806は、時分割多重化された第1分割フレーム1202、及び、第2分割フレーム1203をそれぞれインターレース変換する。第1分割フレーム1202をインターレース変換することで、第1眼画像で構成される、176列×144行の第1トップフィールド1204、及び、第2眼画像で構成される、176列×144行の第1ボトムフィールド1205が得られる。また、第2分割フレーム1203をインターレース変換することで、第3眼画像で構成される第2トップフィールド1206、及び、第4眼画像で構成される第2ボトムフィールド1207が得られる。
【0098】
MPEG圧縮装置108は、第1分割フレーム1202を符号化する際には、マクロブロック単位で第1トップフィールド1204と第2ボトムフィールド1205との差異、つまり、第1眼画像と第2眼画像とを検出する。その差異が所定の値よりも大きいときには、第1眼画像と第2眼画像との相関が小さいと判断され、MPEG圧縮装置108は、選択装置807によって選択された第1トップフィールド1204及び第1ボトムフィールド1205に対し、フィールドDCTを適用して、MPEG圧縮を行う。第1トップフィールド1204と第1ボトムフィールド1205との差異が所定の値より小さいときには、第1眼画像と第2眼画像との相関が大きいと判断され、MPEG圧縮装置108は、選択装置807によって選択された第1分割フレーム1202に対し、フレームDCTを適用してMPEG圧縮を行う。
【0099】
MPEG圧縮装置108は、第2分割フレーム1202を符号化する際には、マクロブロック単位で第2トップフィールド1206と第2ボトムフィールド1207との差異、つまり、第3眼画像と第4眼画像との差異を検出し、その検出値の大小に基づいて、第1分割フレームと同様に、フィールドDCTを適用するか、或いは、フレームDCTを適用するかを決定し、MPEG圧縮を行う。第1分割フレームと第2分割フレームとの2つの分割フレームに時分割されてMPEG圧縮された立体多視画像の1フレームは、送信・記録装置109、受信・再生装置110を経て、MPEG伸長装置111でMPEG伸長される。
【0100】
MPEG伸長では、MPEG圧縮の際に、フィールドDCTを適用したか、或いは、フレームDCTを適用したかによって、第1分割フレーム1202、或いは、第1トップフィールド1204及び第1ボトムフィールド1205が再現され、また、第2分割フレーム1203、或いは、第2トップフィールド1206及び第1ボトムフィールド1207が再現される。出力画素構成変換装置815は、第1分割フレーム1202、第2分割フレーム1203、或いは、プログレッシブ変換装置814でプログレッシブ画像に変換された第1及び第2トップフィールド画像1204、1206及び第1及び第2ボトムフィールド画像1205、1207から、立体画像の1フレームを再構成し、再構成された立体画像の1フレームから第1眼〜第4眼画像を分解して、第1眼〜第4眼画像をそれぞれ出力する。
【0101】
本実施形態例では、立体画像の1フレームを、複数の分割フレームに時分割するため、第2実施形態例と同様に、分割フレーム間の画像空間の相関性を利用した圧縮が可能となる。また、1つの分割フレームには、第3実施形態例と同様に、第1眼〜第N眼画像のうちの複数の画像が、奇数行と偶数行とに分けて配置される。このため、一対の画像間の画像空間の相関性が高い場合には、フレームDCTを適用して、分割フレームに対してMPEG圧縮を行い、一対の画像間の画像空間の相関性が低い場合には、フィールドDCTを適用して、分割フレームをインターレース変換することによって得られるトップフィールド画像及びボトムフィールド画像に対してMPEG圧縮を行うができ、第3実施形態例と同様に、効率のよい圧縮が可能となる。
【0102】
図13は、本実施形態例におけるGOP構造の例を示している。立体4眼画像201(図12)を、第1分割フレーム1202及び第2分割フレーム1203に時分割し、各分割フレームをインターレース変換することで、トップフィールド画像及びボトムフィールド画像のそれぞれに、第1眼〜第4眼画像の何れかを単独で含ませることができる。図6の例では、第1分割フレーム601〜第8分割フレーム608の8個の分割フレームによってGOPが構成され、各分割フレームには、第1眼〜第4眼画像の何れかが単独で含まれたが、図13では、第1分割フレーム1301〜第15分割フレーム1315の15個の分割フレームによってGOPが構成され、各分割フレームをインターレース変換することで得られるトップフィールド画像及びボトムフィールド画像に、第1眼〜第4眼画像の何れかが単独で含まれている。
【0103】
図13では、第1分割フレーム1301〜第15分割フレーム1315は、それぞれ、第1分割フレーム1301から順に、BBIBBPBBPBBPBBPのピクチャタイプで圧縮される。この場合、例えば、Bピクチャである、立体画像の1フレーム目を時分割した第2分割フレーム1302のトップフィールド画像(第3眼画像(□))は、Iピクチャである、立体画像の2フレーム目を時分割した第3分割フレームのトップフィールド画像(第1眼画像(○))及びボトムフィールド画像(第2眼画像(●))の何れかを利用して、符号化することができる。このように、本実施形態例においても、第2実施形態例と同様に、GOPを適切に構成することで、MPEG圧縮の際に、第1眼〜第4眼画像の画像空間の相関性を効果的に利用して、更に効率のよい圧縮が可能となる。
【0104】
図14は、第4実施形態例におけるGOP構造の別の例を示している。図14に示すGOPのトップフィールド画像及びボトムフィールド画像は、8眼立体画像401(図4)の1フレームを、第1眼〜第4眼画像が、図10に示す多重化4眼画像1002と同様な規則で多重化されて含まれる分割フレームと、第5眼〜第8眼画像が多重化4眼画像1002と同様な規則で多重化されて含まれる別の分割フレームとに時分割し、分割フレームをそれぞれトップフィールド画像及びボトムフィールド画像にインターレース変換することで得られる。図14のようにGOPを構成した場合にも、図13のようにGOPを構成したときと同様に、更に効率のよい圧縮が可能となる。
【0105】
第5実施形態例
図15は、本発明の第5実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を機能ブロック図として示している。本実施形態例では、立体画像圧縮装置1500には、立体画像を構成する第1眼〜第N眼画像(N≧2)に加えて、通常の平面画像が入力され、立体画像伸長装置1501は、再現された平面画像を平面ディスプレイに出力する点で、第1実施形態例と相違する。平面画像は、立体画像と同じ画像サイズを有し、立体画像と同じ内容を有する画像として構成され、例えば、立体画像を構成する第1眼〜第N眼のうちの何れか1つの画像を、立体画像と同じ画像サイズにした画像として構成される。
【0106】
入力画素構成変換装置1505には、立体画像を構成する第1眼〜第N眼画像と、立体画像と同じ画像サイズの平面画像を構成する高解像度第1眼画素1〜Nとが入力される。例えば第1眼〜第N眼画像の原画像の画像サイズが、立体画像の画像サイズと同じ352列×288行である場合、立体画像を構成する第1眼〜第N眼画像は、それぞれ原画像のN×k+1(k:0〜(352/N)−1)列目の画素で構成される。また、平面画像を構成する高解像度第1眼画素j(j:1〜N)は、第1眼画像の原画像のN×k+j列目の画素で構成される。この場合、高解像度第1眼画像1〜Nで構成される平面画像の列方向の解像度は、立体画像の一部を構成する第1眼画像の列方向の解像度(画素数)のN倍となる。
【0107】
入力画素構成変換装置1505は、立体画像と平面画像とを、第1実施形態例における入力画素構成変換装置105と同様な規則で、1つの画像に多重化する。MPEG圧縮装置108は、立体画像と平面画像とが多重化された複合多重化画像に対してMPEG圧縮を行う。圧縮された複合多重化画像は、MPEG伸長装置1501で伸長される。出力画素構成変換装置1515は、再現された複合多重化画像から立体画像と平面画像とを分離して、立体画像を構成する第1眼〜第N眼画像を立体ディスプレイに出力し、平面画像を構成する高解像度第1眼画素1〜Nを平面ディスプレイに出力する。
【0108】
図16は、図15の立体画像圧縮装置1500及び立体画像伸長装置1501による立体画像及び平面画像の圧縮及び再現の様子を模式的に示している。立体画像圧縮装置1500には、4眼立体画像201として表示される、画像サイズがそれぞれ88列×288行である第1眼画像(○)、第2眼画像(●)、第3眼画像(□)、及び、第4眼画像(■)と、平面高解像度画像1602として表示される高解像度第1眼画素1(○1)、高解像度第1眼画素2(○2)、高解像度第1眼画素3(○3)、及び、高解像度第1眼画素4(○4)とが入力される。
【0109】
例えば、第1眼〜第N眼画像の原画像と、立体画像として入力画素構成変換装置1505に入力される第1眼〜第4眼画像との関係、及び、第1眼画像の原画像の画素と、高解像度第1眼画素1〜4との関係は、以下のようになっている。
第1眼画像(○)の画素:第1眼画像の原画像の4×k+1列目の画素
第2眼画像(●)の画素:第2眼画像の原画像の4×k+1列目の画素
第3眼画像(□)の画素:第3眼画像の原画像の4×k+1列目の画素
第4眼画像(■)の画素:第4眼画像の原画像の4×k+1列目の画素
高解像度第1眼画素1(○1):第1眼画像の原画像の4×k+1列目の画素
高解像度第1眼画素2(○2):第1眼画像の原画像の4×k+2列目の画素
高解像度第1眼画素3(○3):第1眼画像の原画像の4×k+3列目の画素
高解像度第1眼画素4(○4):第1眼画像の原画像の4×k+4列目の画素
ただし、k:0〜87
【0110】
入力画素構成変換部1505は、第1眼〜第4眼画像及び高解像度第1眼画素1〜4を、88列×2304(288×8)行の複合多重化画像1603を縦に8つのブロックに分割し、各ブロックに、第1眼〜第4眼画像及び高解像度第1眼画素1〜4の何れかが単独で配置されるように、多重化を行う。図16の例では、複合多重化画像1603の上半分(1行目から1152行目)の第1〜第4ブロックには、それぞれ第1眼〜第4眼画像の何れかが配置され、下半分(1153行目から2304行目)の第5〜第8ブロックには、それぞれ高解像度第1眼画素1〜Nの何れかが配置される。
【0111】
複合多重化画像1603は、MPEG圧縮装置108によりMPEG圧縮される。圧縮された複合多重化画像1603は、送信・記録装置109、受信・再生装置110を経て、MPEG伸長装置111でMPEG伸長される。この伸長により、複合多重化画像1603が再現される。出力画素構成変換装置115は、入力画素構成変換装置1505とは逆の規則で、再現された複合多重化画像1603から第1眼〜第N眼画像、及び、高解像度第1眼画素1〜Nを分解する。立体ディスプレイは、第1眼〜第N眼画像を入力し、表示画面上に、再生4眼画像1604を表示する。平面ディスプレイは、高解像度第1眼画素1〜Nを入力し、再生平面画像1605を表示画面上に表示する。
【0112】
本実施形態例では、立体画像圧縮装置は、立体画像に加えて、平面画像を1つの画像に多重化し、立体画像と平面画像とが多重化された複合多重化画像に対して圧縮を行う。また、立体画像伸長装置110は、圧縮された複合多重化画像を伸長し、立体画像圧縮装置での多重化とは逆の規則で、複合多重化画像から、立体画像と平面画像とを分解する。このため、複数のチャンネルを使用することなく、立体ディスプレイに、立体画像を表示することができると共に、平面ディスプレイには、平面画像を表示することができる。
【0113】
立体ディスプレイと同じ表示サイズの平面ディスプレイに、立体画像から第1眼〜第N眼画像の何れかを抽出し、これを平面画像として表示することも考えられる。しかし、その場合、平面ディスプレイに表示される画像の列方向の解像度は、ディスプレイが表示できる解像度の1/N倍であり、解像度が低く、表示が荒い。本実施形態例では、画像サイズが相互に等しい立体画像と平面画像とを1つの画像に多重化して圧縮するため、第1実施形態例で得られる効果に加えて、立体ディスプレイを持たない観察者の平面ディスプレイに、高解像度の平面画像を表示することができる。
【0114】
図17、図18、及び、図19は、入力画素構成変換装置1505における多重化の別の例を示している。図16では、複合多重化画像が縦に8分割される例について示したが、複合多重化画像を、図3又は図4と同様に、横、又は、縦及び横に分割してもよい。例えば、第1眼〜第4眼画像と、高解像度第1眼画素1〜4とを多重化する場合、704列×288行の複合多重化画像を横方向に8分割し、図17に複合多重化画像1703として示すように多重化してもよい。または、176列×1152行の複合多重化画像を、縦に4分割、横に2分割し、図18に多重化多視画像1803として示すように多重化してもよく、或いは、352列×576行の複合多重化画像を、縦に2分割、横に4分割し、図19に多重化多視画像1903として示すように多重化してもよい。
【0115】
または、上記に代えて、132列×864行の画像として構成される複合多重化画像を、縦及び横にそれぞれ3分割し、分割された9つのブロックのうちの任意の8つに、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4の何れかを配置することもできる。この場合、複合多重化画像のブロックが1つ余るが、その余ったブロックには、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4と同じ画像サイズのダミー画像を配置すればよい。ダミー画像は、全ての画素が0として構成された画像でも良く、或いは、第1眼画像〜第4眼画像、若しくは、高解像度第1眼画素2〜4のうちの何れか1つであっても良い。立体画像の第1眼画像(○)と、高解像度第1眼画素(○1)で構成される画像とは、同じ画像であるため、立体画像圧縮装置1500に入力する第1眼画像又は高解像度第1眼画素の何れか一方を省略することもできる。この場合には、図16〜図19の複合多重化画像において、第1眼画像(○)又は高解像度第1眼画素(○1)の何れか一方を、ダミー画像に置き換えればよい。
【0116】
第6実施形態例
図20は、本発明の第6実施形態例の立体画像圧縮装置及び立体画像伸長装置による立体画像及び平面画像の圧縮及び再現の様子を模式的に示している。本実施形態例の立体画像圧縮装置2000及び立体画像伸長装置2001は、それぞれ、図15に示す立体画像圧縮装置1500及び立体画像伸長装置1500と同様な構成を有する。本実施形態例では、入力画素構成変換装置1505での多重化が、第5実施形態例と相違する。本実施形態例では、第2実施形態例と同様に、第1眼〜第N眼画像(Nは2以上の整数)で構成される立体画像の1フレーム、及び、高解像度第1眼画素1〜Nで構成される平面画像の1フレームを、分割フレームに分割して時分割多重化する。
【0117】
入力画素構成装置1505は、第2実施形態例での時分割と同様に、立体画像の1フレーム及び平面画像の1フレームを、画像サイズが相互に等しい複数の分割フレームに時分割する。図20の例では、入力画素構成変換装置1505は、同じタイミングで入力し、同じフレームを構成する第1眼〜第4眼画像と、高解像度第1眼画素1〜4とを、第1眼画像で構成される第1分割フレーム2001と、第2眼画像で構成される第2分割フレーム2002と、第3眼画像で構成される第3分割フレーム2003と、第4眼画像で構成される第4分割フレーム2004と、高解像度第1眼画素1で構成される第5分割フレーム2005と、高解像度第1眼画素2で構成される第6分割フレーム2006と、高解像度第1眼画素3で構成される第7分割フレーム2007と、高解像度第1眼画素4で構成される第8分割フレーム2008とに時分割し、時間軸上で多重化する。
【0118】
MPEG圧縮装置108は、第1分割フレーム2001から第8分割フレーム2008のそれぞれを符号化の単位としてMPEG圧縮を行う。つまり、4眼立体画像の1フレーム及び平面画像の1フレームは、8つの分割フレームに時分割され、時間軸上に多重化されてMPEG圧縮される。圧縮された第1分割フレーム2001〜第8分割フレーム2008は、送信・記録装置109、及び、受信・再生装置110を経て、MPEG伸長装置111でMPEG伸長される。
【0119】
ここで、第1眼〜第N眼画像は、前述のように、視点から遠い対象物ほど、画像空間の相関が高く、また、高解像度第1眼画素1〜Nは、原画像のサンプリング位置が互いに近接する位置の画素で構成されるため、画像空間の相関が高い。また、平面画像は、立体画像と同じ内容として構成され、画像サイズが相互に等しいため、平面画像を構成する高解像度第1眼画素1〜Nと、立体画像を構成する第1眼〜第N眼画像とについても、画像空間の相関が高い。このため、第1眼〜第N眼画像、及び、高解像第1眼画素1〜Nの何れかを圧縮する際に、第1眼〜第N眼画像、及び、高解像第1眼画素1〜Nのうちの任意の画像との画像空間の相関性を利用することで、効率のよい圧縮が可能となる。
【0120】
出力画素構成変換装置1515は、MPEG伸長により再現された第1分割フレーム2001〜第8分割フレーム2008から立体画像の1フレーム、及び、平面画像の1フレームをそれぞれ再構成する。出力画素構成変換装置1515は、再構成された立体画像の1フレームから再現された第1眼〜第N眼画像を抽出して、第1眼〜第N眼画像を立体ディスプレイに出力し、立体ディスプレイには、再生4眼画像2009が表示される。また、出力画素構成変換装置1515は、再構成された平面画像の1フレームを平面ディスプレイに出力し、平面ディスプレイには、再生平面画像2010が表示される。
【0121】
図21は、MPEG圧縮におけるGOP構成の例を示している。同図の例では、入力画素構成変換装置1505で立体画像201の1フレーム、及び、平面画像1602の1フレームを時分割した第1分割フレーム2101〜第8分割フレーム2108の計8つのフレームが1つのGOPを構成する。GOPがこのように構成された場合、例えば、Bピクチャとして符号化される第3分割フレーム2103(第3眼画像(□))は、Iピクチャとして符号化される第1分割フレーム2101(第1眼画像(○))との画像空間の相関性を利用した圧縮が可能となり、予測元フレームと予測先フレームとで、画像空間の相関性を利用した効率のよい圧縮が可能となる。
【0122】
本実施形態例では、立体画像の1フレームと、平面画像の1フレームとを複数の分割フレームに時分割して時間軸上に多重化し、分割フレームを符号化の単位としてMPEG圧縮が行われる。例えば図20に示すような規則で立体画像の1フレームを時分割した場合には、第1分割フレーム2001〜第8分割フレーム2008には、それぞれ第1眼〜第4眼画像の何れか、又は、高解像度第1眼画素1〜4の何れかが単独で含まれることになり、第2実施形態例と同様に、MPEG圧縮において、第1眼画像〜第4眼画像間の相関、高解像度第1眼画素1〜高解像度第1眼画素4間の相関、又は、第1眼〜第4眼画像と高解像度第1眼画素1〜4との相関を利用した圧縮が可能となり、立体画像と平面画像とを効率よく圧縮できる。
【0123】
図22は、MPEG圧縮におけるGOP構成の別の例を示している。この例では、立体8眼画像401(図4)の1フレーム、及び、平面画像を構成する高解像度第1眼画素1〜8の1フレームが、第1分割フレーム2201〜第8分割フレーム2208の8つの分割フレームに時分割され、各分割フレームには、第1実施形態例と同様な規則で、第1眼〜第8眼画像、及び、高解像度第1眼画素1〜8のうちの複数の画像が多重化される。GOPが、図22に示すように構成される場合にも、図21の例と同様に、第1眼〜第8眼画像、及び、高解像度第1眼画素1〜8の画像空間の相関性を利用した効率のよい圧縮が可能となる。
【0124】
第7実施形態例
図23は、本発明の第7実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を機能ブロック図として示している。本実施形態例では、複数の画像が奇数行と偶数行とに区切って多重化画像中に配置される第3実施形態例と、立体画像と平面画像とを送信可能な第5実施形態例とが組み合わされている。入力画素構成変換装置2305は、第5実施形態例と同様に、立体画像を構成する第1眼〜第N眼画像と、平面画像を構成する高解像度第1眼画素1〜Nとを、複合多重化画像に多重化する。この多重化では、第3実施形態例と同様に、第1眼〜第N眼画像、及び、高解像度第1眼画素1〜Nのうちの2つの画像を一対にして、一方の画像の各行を、複合多重化画像の奇数行に配置し、他方の画像の各行を、複合多重化画像の偶数行に配置する。出力画素構成変換装置2315は、再現された複合多重化画像を入力し、立体ディスプレイに第1眼〜第N眼画像を出力し、平面ディスプレイに高解像度第1眼画素1〜Nを出力する。
【0125】
図24は、図23の立体画像圧縮装置2300及び立体画像伸長装置2301による立体画像及び平面画像の圧縮及び再現の様子を模式的に示している。入力画素構成変換装置2305は、例えば、複合多重化眼画像2403を縦方向に4つのブロックに分割し、各ブロックに、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4のうちの何れか2つを一対にして、一方の画像の各行を奇数行に配置し、他方の画像の各行を偶数行に配置して、多重化を行う。図24の例では、複合多重化画像2403は、画像サイズが88列×2304行であり、その1行目から576行目までの第1ブロックでは、奇数行に第1眼画像(○)の各行が配置され、偶数行に高解像度第1眼画素1(○1)の各行が配置され、577行目から1152行目までの第2ブロックでは、奇数行に第2眼画像(●)の各行が配置され、偶数行に高解像度第1眼画素2(○2)の各行が配置される。また、複合多重化画像2403の1153行から1728行までの第3ブロックでは、奇数行に第3眼画像(□)の各行が配置され、偶数行に高解像度第1眼画素3(○3)の各行が配置され、1729行から2304行までの第4ブロックでは、奇数行に第4眼画像(■)の各行が配置され、偶数行に高解像度第1眼画素4(○4)の各行が配置される。
【0126】
インターレース変換装置806は、88列×2304行の複合多重化画像2403を、それぞれ88列×1152行のトップフィールド画像2404及びボトムフィールド画像2405で構成される仮想的なインターレース画像に変換する。複合化多重画像2403をインターレース変換することで得られるトップフィールド画像2404は、多重化4眼画像202(図2)と同様な規則で、第1眼〜第4眼画像が多重化された画像となる。また、ボトムフィールド画像2405は、多重化4眼画像202と同様な規則で、高解像度第1眼画素1〜4が多重化された画像となる。
【0127】
MPEG圧縮では、第3実施形態例と同様に、マクロブロック単位で、トップフィールド画像2404とボトムフィールド画像2405との差異が検出される。つまり、第1眼画像と高解像度第1眼画素1との差異、第2眼画像と高解像度第1眼画素2との差異、第3眼画像と高解像度第1眼画素3との差異、及び、第4眼画像と高解像度第1眼画素3の差異がそれぞれ検出される。トップフィールド画像2404とボトムフィールド画像2405との差異が、規定値よりも大きいときには、トップフィールド画像2404とボトムフィールド画像2405との相関が小さいと判断され、MPEG圧縮装置108は、選択装置807によって選択されたトップフィールド画像2404及びボトムフィールド画像2405に対し、フィールドDCTを適用してMPEG圧縮を行う。差異が規定値より小さいときには、トップフィールド画像2404とボトムフィールド画像2405との相関が大きいが大きいと判断され、MPEG圧縮装置108は、選択装置807によって選択された複合多重化画像2403に対し、フレームDCTを適用してMPEG圧縮を行う。
【0128】
MPEG圧縮された第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4は、送信・記録装置109、受信・再生装置110を経て、MPEG伸長装置111でMPEG伸長される。MPEG伸長では、MPEG圧縮の際に、フィールドDCTを適用したフレームについては、トップフィールド画像2404及びボトムフィールド画像2405が再現され、フレームDCTを適用したフレームについては、複合多重化画像が再現される。出力画素構成変換装置115は、複合多重化画像、或いは、プログレッシブ変換装置114でプログレッシブ画像に変換されたトップフィールド画像2404及びボトムフィールド画像2405から第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4を分解する。
【0129】
本実施形態例では、立体画像と平面画像とを1つの画像に多重化するため、第5実施形態例と同様に、複数のチャンネルを使用することなく、立体ディスプレイに、立体画像を表示することができると共に、平面ディスプレイには、平面画像を表示することができる。また、多重化の際に、立体画像を構成する第1眼〜第N眼画像、及び、平面画像を構成する高解像度第1眼画素1〜Nのうちの何れか2つを一対にして、一方の画像を複合多重化画像の奇数行に配置し、他方の画像を複合多重化画像の偶数行に配置するため、複合多重化画像をインターレース変換したトップフィールド画像とボトムフィールド画像との差異に応じて、フィールドDCT又はフレームDCTを選択的に適用することで、効率のよい圧縮が可能となる。
【0130】
図25及び図26は、入力画素構成変換装置2305での別の多重化例を示している。図24に示す複合多重画像2403では、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4のうちの何れか2つを一対にして、一方の画像を奇数行に配置し、他方の画像を偶数行に配置するブロックを、縦に並べたが、図10の例と同様に、これらブロックを横に並べてもよい。例えば、図25に示すように、704列×576行の複合多重化画像2503を横方向に4分割して、各ブロックに、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4うちの何れか2つを一対にして、一方の画像を奇数行に、他方の画像を偶数行に配置することもできる。この多重化複合画像2503をインターレース変換することで、第1眼〜第4眼画像の何れかが配置されるブロックが横に並ぶトップフィールド画像2504と、高解像度第1眼画素1〜4の何れかが配置されるブロックが横に並ぶボトムフィールド画像2505とが得られる。
【0131】
また、入力画素構成変換装置2305は、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4のうちの何れか2つを一対にして、一方の画像を奇数行に配置し、他方の画像を偶数行に配置するブロックを、縦又は横に1列に並べて多重化するのに代えて、図11の例と同様に、縦及び横に複数列に並べて多重化してもよい。例えば、図26に示すように、176列×1152行の複合多重化画像2603を縦及び横に2分割し、4分割された各ブロックに、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4うちの何れか2つを一対にして、一方の画像を奇数行に、他方穂の画像を偶数行に配置することもできる。この多重化複合画像2603をインターレース変換することによっても、第1眼〜第4眼画像の何れかが配置されるブロックが横に並ぶトップフィールド画像2604と、高解像度第1眼画素1〜4の何れかが配置されるブロックが横に並ぶボトムフィールド画像2605を得ることができる。
【0132】
本実施形態例と同様な構成を有する立体画像圧縮装置2300においても、立体画像の1フレーム、及び、平面画像の1フレームを1つの複合多重化画像に多重化するのに代えて、第6実施形態例と同様に、複数の分割フレームに時分割して多重化する構成を採用することができる。この場合、入力画素構成変換装置2305は、立体画像の1フレーム、及び、平面画像の1フレームを、複数の分割フレームに分割し、各分割フレームには、図12に示す分割フレーム1202、1203と同様に、第1眼〜第N眼画像の1フレーム、及び、高解像度第1眼画素1〜Nの1フレームのうちの複数の画像が、奇数行と偶数行とに分けて配置される。この場合にも、第1眼〜第N眼画像、及び、高解像度第1眼画素1〜Nの相関を利用した効率のよい圧縮が可能となる。
【0133】
図27及び図28は、それぞれGOP構成の例を示している。図27では、4眼立体画像201の1フレーム、及び、高解像度第1眼画素1〜4の1フレーム(図24)が、第1分割フレーム2701〜第4分割フレーム2704の4つの分割フレームに時分割され、15個の分割フレームがGOPを構成する。この例では、図13(第4実施形態例)の例と同様に、各分割フレームのトップフィールド画像及びボトムフィールド画像には、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4の何れかが単独で含まれている。このようにGOPを構成した場合にも、第6実施形態例と同様に、MPEG圧縮において、第1眼〜第4眼画像と、高解像度第1眼画素1〜4との画像空間の相関性を利用した圧縮が可能となり、立体画像と平面画像とを効率よく圧縮できる。
【0134】
また、図28では、8眼立体画像401の1フレーム、及び、高解像度第1眼画素1〜8の1フレームが、第3分割フレーム2803〜第6分割フレーム2806のの4つの分割フレームに時分割され、15個の分割フレームがGOPを構成する。この例では、図14(第4実施形態例)の例と同様に、各分割フレームのトップフィールド画像及びボトムフィールド画像には、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4の何れか2つがブロックを分けて横に並んでいる。このように、各分割フレームのトップフィールド画像及びボトムフィールド画像に、複数の画像が含まれる場合にも、第1眼〜第4眼画像と、高解像度第1眼画素1〜4との画像空間の相関性を利用して、効率のよい圧縮が実現する。
【0135】
第8実施形態例
図29は、本発明の第8実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を機能ブロック図として示している。立体画像圧縮装置2900及び立体画像伸長装置2901は、それぞれ、図1に示す立体画像圧縮装置100及び立体画像伸長装置101と同様な構成を有する。立体画像圧縮装置2900には、1視点ディスプレイ(平面ディスプレイ)用の1視点画像から、N視点ディスプレイ(N眼立体ディスプレイ:Nは2以上の整数)用のN視点画像までが入力され、立体画像伸長装置2901は、立体画像圧縮装置2900で圧縮された1視点画像(平面画像)からN視点画像(N眼立体画像)までを伸長し、伸長された画像を、それぞれ平面ディスプレイ又は立体ディスプレイに出力可能である。
【0136】
入力画素構成変換装置2905は、1視点画像からN視点画像を、第1実施形態例と同様の規則で、1つの複合多重化画像に多重化する。出力画素構成変換装置2915は、MPEG伸長装置111によって伸長された複合多重化画像から、1視点画像からN視点画像を、入力画素構成変換装置2905による多重化とは逆の規則で分解する。出力画素構成変換装置2915は、分解された1視点画像からN視点画像の少なくとも1つを、その画像に適合するディスプレイに向けて出力する。
【0137】
図30は、ディスプレイ上でのn視点画像(n:1〜N)の画素と、第1眼〜第N眼画像の原画像の画素との関係を示している。同図では、N=4であり、複数視点のn視点画像が立体ディスプレイに表示されるとき、その表示画面の各行には、第1眼〜第n眼画像が順次に繰り返し配置される例を用いている。一般に、n視点画像の画素は、複数視点の原画像(第1眼〜第N眼画像の原画像)の画素を、列方向に所定の周期でサンプリングした画素、言い換えると、原画像の画素を列方向に間引いた画素として構成される。
【0138】
4視点画像は、第1眼〜第4眼画像の原画像の1列目、5列目、9列目、・・・、つまり4k+1列目(k:0〜(原画像の列方向の画素数/4)−1)をサンプリングした画素で構成される。第1眼画像の4k+1列目の画素は、それぞれ4眼立体ディスプレイ上の4k+1列目に配置され、第2眼画像の原画像の4k+1列目の画素は、それぞれ4眼立体ディスプレイ上の2列目、6列目、10列目、・・・、つまり4k+2列目に配置される。また、第3眼画像の原画像の4k+1列目の画素は、それぞれ4眼立体ディスプレイ上の3列目、8列目、11列目、・・・、つまり4k+3列目に配置され、第4眼画像の原画像の4k+1列目の画素は、それぞれ4眼立体ディスプレイ上の4列目、8列目、12列目、・・・、4k+4列目に配置される。
【0139】
3視点画像は、第1眼〜第3眼画像の原画像の1列目、4列目、7列目、・・・、つまり3k+1列目をサンプリングした画素で構成される。第1眼画像の3k+1列目は、それぞれ3眼立体ディスプレイ上の3k+1列目に配置され、第2眼画像の3k+1列目の画素は、それぞれ3眼立体ディスプレイ上の2列目、5列目、8列目、・・・、つまり3k+2列目に配置され、第3眼画像の3k+1列目の画素は、それぞれ3眼立体ディスプレイ上の3列目、8列目、11列目、・・・、つまり4k+3列目に配置される。
【0140】
2視点画像は、第1眼画像及び第2眼画像の1列目、3列目、5列目、・・・、つまり2k+1列目をサンプリングした画素で構成される。第1眼画像の2k+1列目の画素は、それぞれ2眼立体ディスプレイ上の2k+1列目に配置され、第2眼画像の2k+1列目の画素は、それぞれ2眼立体ディスプレイ上の2列目、4列目、6列目、・・・、つまり2k+2列目に配置される。1視点画像は、第1眼画像の各列の画素で構成される。1視点画像から4視点画像に含まれる第1眼画像の列方向の解像度を相互に比較すると、1視点画像の列方向の解像度を1とするとき、2視点画像で列方向の解像度が1/2となり、3視点画像では列方向の解像度が1/3となり、また、4視点画像では列方向の解像度が1/4となる。
【0141】
図31は、図29の立体画像圧縮装置2900及び立体画像伸長装置2901による立体画像及び平面画像の圧縮及び再現の様子を模式的に示している。なお、同図では、1視点画像〜4視点画像が、ディスプレイ上で、図30と同様に表示される例について示している。入力画素構成変換装置2905には、平面ディスプレイ上で平面画像3101として表示される1視点画像と、2眼立体ディスプレイ上で2眼立体画像3102として表示される2視点画像と、3眼立体ディスプレイ上で3眼立体画像3103として表示される3視点画像と、4眼立体ディスプレイ上で4眼立体画像3104として表示される4視点画像とが入力される。
【0142】
入力画素構成変換装置2905は、1視点画像〜4視点画像を、縦及び横にそれぞれ2分割された第1〜第4ブロックを有する、704×576行の複合多重化画像3105に多重化する。入力画素構成変換装置2905は、1視点画像をそのまま複合多重化画像3105の第1ブロックに配置し、2視点画像〜4視点画像を、それぞれ、第1実施形態例と同様な規則で多重化(図2)した後に、複合多重化画像3105の第2〜第4ブロックに配置する。1視点画像〜4視点画像が多重化された複合多重化画像3105は、MPEG圧縮装置108によりMPEG圧縮され、送信・記録装置109、及び、受信・再生装置110を経て、MPEG伸長装置111でMPEG伸長(再現)される。
【0143】
出力画素構成変換装置3115は、再現された複合多重化画像3105から、入力画素構成変換装置3105による多重化とは逆の規則で、1視点画像〜4視点画像を分解し、分解により得られた1視点画像〜4視点画像を、その画像に適合するディスプレイに出力する。これにより、観察者は、平面ディスプレイによって、再現された1視点画像を平面画像3106として観察でき、2眼立体ディスプレイによって、再現された2視点画像を2眼立体画像3107として観察できる。また、3眼立体ディスプレイによって、再現された3視点画像を3眼立体画像3108として観察でき、4眼立体ディスプレイによって、再現された4視点画像を4眼立体画像3109として観察できる。
【0144】
本実施形態例では、複数のタイプのディスプレイに適合する平面画像又は立体画像を、1つの画像に多重化して圧縮し、複数の回線を使用することなく、複数のディスプレイに適合する画像を送信することができる。一般に、視点数が異なる複数の画像間では、視点数が多くなるほど、1視点あたりの列方向の解像度が低くなる。しかし、本実施形態例では、複数のディスプレイに適合する解像度で画像を送信できるため、観察者は、自身が有するディスプレイのタイプに応じた画像を、観察することができる。
【0145】
第5〜第7実施形態例では、例えば、観察者は、6眼立体ディスプレイにより6眼立体画像を観察でき、平面ディスプレイにより平面画像を観察できた。しかし、観察者が、6眼立体ディスプレイに比して視点が少ない4眼立体ディスプレイを有している場合には、6眼立体画像と4眼立体画像とでは、列方向の解像度が相互に異なるため、4眼立体ディスプレイ本来の解像度で、4眼立体画像を観察することはできない。本実施形態例では、立体画像圧縮装置2900及び立体画像伸長装置2901を利用することで、観察者は、自身の有するディスプレイのタイプに応じて、N眼立体画像、N眼立体画像よりも視点数が少ない立体画像、又は、平面画像の何れかを選択して、所望の画像を観察できる。
【0146】
第9実施形態例
図32は、本発明の第8実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を機能ブロック図として示している。立体画像圧縮装置3200及び立体画像伸長装置3201は、それぞれ、図8に示す立体画像圧縮装置100及び立体画像伸長装置101と同様な構成を有する。立体画像圧縮装置3200には、第1眼〜第N眼画像の原画像がそれぞれ入力され、立体画像伸長装置2901は、立体画像圧縮装置2900で圧縮された第1眼〜第N眼画像の原画像を伸長して、1視点画像〜N視点画像を生成し、平面ディスプレイ又は立体ディスプレイに出力可能である。
【0147】
入力画素構成変換装置3205は、第1眼〜第N眼画像の原画像を、第3実施形態例と同様の規則で、1つの複合多重化画像に多重化する。出力画素構成変換装置3215は、MPEG伸長装置111によって伸長された複合多重化画像から、第1眼〜第N眼画像の原画像を、入力画素構成変換装置3205による多重化とは逆の規則で分解し、第1眼〜第N眼画像の原画像の画素を所定の周期でサンプリングし、1視点画像〜N視点画像の少なくとも1つを生成し、生成した1視点画像〜N視点画像を、その画像に適合するディスプレイに向けて出力する。
【0148】
図33は、図32の立体画像圧縮装置3200による画像の圧縮の様子を模式的に示している。入力画素構成変換装置3205は、第1眼画像の原画像3301〜第4眼画像の原画像3304をそれぞれ入力する。入力画素構成変換装置3305は、第3実施形態例と同様な規則(図10)で、第1眼画像の原画像3301〜第4眼画像の原画像3304を、704列×576行の多重化4眼画像3305に多重化する。多重化4眼画像3305は、横に2分割された第1及び第2ブロックを有し、第1ブロック(左半分のブロック)では、第1眼画像の原画像3301の各行が奇数行に配置され、第3眼画像の原画像3303の各行が偶数行に配置される。また、多重化4眼画像3305の第2ブロック(右半分のブロック)では、第2眼画像の原画像3302の各行が奇数行に配置され。第4眼画像3304の原画像の各行が偶数行に配置される。
【0149】
インターレース変換装置806は、704列×756行の多重化4眼画像3305を、それぞれ704列×288行のトップフィールド画像3306及びボトムフィールド画像3307で構成される仮想的なインターレース画像に変換する。トップフィールド画像3306は、多重化4眼画像3305の奇数行で構成され、ボトムフィールド画像3307は、多重化4眼画像3305の偶数行で構成される。インターレース変換の結果として、トップフィールド画像では、左半分のブロックに第1眼画像の原画像3301が配置され、右半分のブロックに第2眼画像の原画像3302が配置される。また、ボトムフィールド画像3307では、左半分のブロックに第3眼画像の原画像3303が配置され、右半分のブロックに第4眼画像の原画像3304が配置される。
【0150】
MPEG圧縮装置108は、第3実施形態例でのMPEG圧縮と同様に、トップフィールド画像3306とボトムフィールド画像3307との差異の検出結果に基づいて、フィールドDCT、又は、フレームDCTを適用してMPEG圧縮を行う。MPEG圧縮された第1眼画像の原画像3301〜第4眼画像の原画像3304は、送信・記録装置109、受信・再生装置110を経て、MPEG伸長装置111でMPEG伸長される。MPEG伸長装置111は、MPEG圧縮の際に、フレームDCTが適用されたフレームについては、多重化4眼画像3305を再現し、フィールドDCTが適用されたフレームについては、トップフィールド画像3306及びボトムフィールド画像3307を再現する。
【0151】
出力画素構成変換装置3215は、多重化4眼画像3305、或いは、プログレッシブ変換装置114でプログレッシブ画像に変換されたトップフィールド画像3306及びボトムフィールド画像3306から第1眼画像の原画像3301〜第4眼画像の原画像3304を分解し、ディスプレイ上で、平面画像3308として表示される再生1視点画像、2眼立体画像3309として表示される再生2視点画像、3眼立体画像3310として表示される再生3視点画像、及び、4眼立体画像3311として表示される再生4視点画像のうちの少なくとも1つの画像を、その画像に適合するディスプレイに出力する。
【0152】
本実施形態例では、第3実施形態例と同様に、第1眼〜第N眼画像の原画像間の相関を利用した圧縮が行えるため、圧縮効率を向上することができる。また、最大でN視点画像を構成するのに必要な第1眼〜第N眼画像の原画像を全て1つの複合多重化画像に多重化して圧縮し、立体画像伸長装置2901は、再現した複合多重化画像から、所望の原画像の画素をサンプリングして所望の視点を有する画像を生成できる。第8実施形態例では、平面ディスプレイにより、例えば、第1眼画像の視点の画像を表示することはできるが、第1眼画像とは異なる視点の画像を平面画像として表示することはできない。本実施形態例では、立体画像圧縮装置2901によって複数視点の画像を任意に生成できるため、例えば、観察者は、第1眼画像以外の視点の画像によって構成される平面画像を観察することもできる。
【0153】
本実施形態例においても、第3実施形態例と同様に、第1眼〜第N眼画像の原画像を多重化する際に、図8又は図11に示すような多重化の規則を採用することができる。図33では、第1眼〜第N眼画像の原画像の画素が全て入力される例について示したが、例えば、第4眼画像の原画像を、4視点画像以外の画像で使用しないのであれば、1視点画像から3視点画像では使用されることがない第4眼画像の原画像の4k+1列目から4k+3列目までの画素の入力を省略し、その部分を、ダミー画像に置き換えてもよい。
【0154】
第10実施形態例
第8及び第9実施形態例では、同じ画像サイズの1視点〜N視点画像の何れかを表示可能な立体画像圧縮装置及び立体画像伸長装置について説明したが、本実施形態例では、Nの約数の視点の画像の何れかを表示可能な、つまり、N=6であれば、6視点画像、3視点画像、2視点画像、及び、1視点画像の何れかを表示可能な立体画像圧縮装置及び立体画像伸長装置を実現する。本実施形態例の立体画像圧縮装置及び立体画像伸長装置は、第8実施形態例の立体画像圧縮装置2900及び立体画像伸長装置2901(図29)、又は、第9実施形態例の立体画像圧縮装置3200及び立体画像伸長装置3201(図32)と同様な構成を有する。
【0155】
図34は、ディスプレイ上でのn視点画像(n:1〜N(=6))の画素と、第1眼〜第6眼画像の原画像の画素との関係を示している。6視点画像は、第1眼〜第6眼画像の原画像の1列目、7列目、13列目、・・・、つまり6k+1列目(k:0〜(原画像の列方向の画素数/N)−1)をサンプリングした画素で構成され、第i眼画像(i:1〜6)の6k+1列目の画素は、6眼立体ディスプレイ上の6k+i列目に配置される。3視点〜1視点画像は、図30の例と同様に、ディスプレイ上に表示される。図34に示す6視点画像、3視点画像、2視点画像、及び、1視点画像を実現するためには、第1眼画像の原画像の全ての画素と、第2眼画像の原画像の6k+1、6k+3、6k+4、及び、6k+5列目の画素と、第3眼画像の6k+1、及び、6k+4列目の画素と、第4眼〜第6眼画像の6k+1列目の画素とを入力する必要がある。
【0156】
図35及び図36は、6の約数の視点の画像を表示可能な立体画像圧縮装置及び立体画像伸長装置を示している。図35に示すように、1視点画像、2視点画像、3視点画像、及び、6視点画像を、第9実施形態例と同様な立体画像圧縮装置3200(図32)に入力することで、立体画像伸長装置3201から、再現された1視画像、2視点画像、3視点画像、及び、6視点画像を出力することができる。図35の例では、例えば、第3眼画像の1列目の画素が、3視点画像と6視点画像とで重複して入力される。m視点画像(3≦m≦N)を構成する第i眼画像(2≦i<m)の原画像の画素が、m’視点画像(3≦m’<m)画像を構成する第i視点画像の原画像の画素と重複するときには、m視点画像において、重複する第i眼画像の原画像の入力を省略することもできる。
【0157】
ここで、3以上の整数Nの約数の視点の画像を表示可能とする立体画像圧縮装置において、2視点画像からN視点画像までで重複する第2眼〜第N眼画像の原画像の画素の入力を省略する手法について説明する。まず、Nの約数の約数をmとする。例えばN=6であれば、約数mは、m=1、m=2、m=3、m=6の何れかである。m視点画像では、第i眼画像のm・k+1列目の画素が、
x=m・k+i (1)
列目に配置される。例えば、3視点画像では、第2眼画像の原画像の3k+1列目の画素は、3p+2(p=0、1、2、・・・)列目に配置され、2視点画像では、第2眼画像の原画像の2k+1列目の画素は、2p+2(p=0、1、2、・・・)列目に配置される。
【0158】
一方、m視点画像に比して視点数が少ない、Nの約数であるm’(ただしi≦m’<m)視点画像では、第i眼画像のm’・k’+1列目の画素が、
x’=m’k’+i (2)
列目に配置される。ここで、m・k1+1=m’・k1’+1、つまり、
m・k1=m’・k1’ (3)
となれば、m視点画像のx1=m・k1+i列目を構成する第i眼画像の原画像の画素と、m’視点画像のx1’=m’・k1’+i列目を構成する第i眼画像の原画像の画素とが重複する。式(3)を変形して、
k1’=m・k1/m’ (4)
とおき、m、m’、k1、k1’の何れもが整数であることに注意すると、m、m’を定数と見たときに、式(4)においてk1’が整数となるk1が存在すれば、式(3)の条件が満たされる。式(3)の条件が満たされ、m視点画像とm’視点画像とで、重複する第i眼画像の原画像の画素については、m視点画像から取り除き、その入力を省略できる。m’を、とりうる条件の範囲内で変化させつつ重複する画素を調べ、その画素の入力を省略するとよい。
【0159】
例えば、N=6であり、3視点画像と2視点画像とで重複する第2眼画像の原画像の画素の入力を省略する例について説明する。3視点画像では、第2眼画像の原画像の3k+1列目の画素が、3k+2列目に配置される。また、2視点画像では、第2眼画像の原画像の2k+1列目の画素が、2k+2列目に配置される。3視点画像と2視点画像とで、第2眼画像の原画像の画素が重複するのは、k1’=3・k1/2が整数となるときである。この条件を満たすは、k1=0、2、4、6、・・・であり、そのときk1’は、k1’=0、3、6、9、・・・である。3視点画像及び2視点画像の2列目(3×0+2、2×0+2)、8列目(3×2+2、2×3+2)、14列目(3×4+2、2×6+2)、・・・に配置される第2眼画像の原画像の1列目、7列目、13列目、・・・の画素が、3視点画像と2視点画像とで重複することがわかる。このため、3視点画像では、2視点画像と重複する、第2眼画像の原画像の1列目、7列目、13列目、・・・の画素の入力を省略できる。上記した手法を、2視点画像、3視点画像、及び、6視点画像を構成する全ての画素に適用し、重複する画素の入力を省略し、入力画像を第1眼〜第6眼画像について整理すると、図35の立体画像圧縮装置及び立体画像伸長装置は、図36のように表現することができる。
【0160】
図37は、図36の立体画像圧縮装置及び立体画像伸長装置による立体画像及び平面画像の圧縮及び再現の詳細を模式的に示している。なお、同図では、第1眼〜第6眼画像の原画像の画像サイズ、及び、ディスプレイの表示画面サイズは300列×240行であり、各画素に隣接する数字は、その画素の原画像中での列数に対応している。立体画像圧縮装置3200には、1視点画像、2視点画像、3視点画像、及び、6視点画像において重複する画素が省略された第1眼画像3701〜第6眼画像3706が入力される。
【0161】
第1眼画像3701は、原画像の全ての画素で構成される。第2眼画像3702は、原画像の6k+1、6k+3、6k+4、及び、6k+5列目の画素で構成される。第3眼画像3703は、原画像の6k+1、及び、6k+4列目の画素で構成され、第4眼画像3704、第5眼画像3705、及び、第6眼画像3706は、それぞれ、原画像の6k+1列目の画素で構成される。第1眼画像3701〜第6眼画像3706は、入力画素構成変換装置3205(図32)により、400列×280行の複合多重化画像3707に多重化される。
【0162】
入力画素構成変換装置3205による多重化により、複合多重化画像3707の奇数行には、第1眼画像の原画像の6k+1〜6k+6列目の画素(k:0〜49)と、第3眼画像の原画像の6k+1及び6k+4列目の画素とで構成される1組が、列方向に順次に配置される。また、複合多重化画像3707の偶数行には、第2眼画像の原画像の6k+1、6k+3、6k+4、及び、6k+5列目の画素と、第4眼〜第6眼画像の6k+1列目の画素と、ダミー画素(*)とで構成される1組が、列方向に順次に配置される。ダミー画素は、複合多重化画像3707の奇数行と偶数行の列方向の画素数を調整するために挿入される。
【0163】
インターレース変換装置806は、400列×280行の行の複合多重化画像3707を、それぞれ、400列×240行のトップフィールド画像3708及びボトムフィールド画像3709にインターレース変換する。インターレース変換により、トップフィールド画像3708には、第1眼画像と第3眼画像とがブロックを分けずに配置され、ボトムフィールド3709には、第2眼画像、第4眼画像、第5眼画像、及び第6眼画像が、ブロックを分けずに配置される。MPEG圧縮では、マクロブロック単位で、トップフィールド画像3708とボトムフィールド画像3709との差異が検出され、その差異の検出結果に基づいて、MPEG圧縮装置108は、フィールドDCT、又は、フレームDCTを適用して、複合多重化画像3707、又は、トップフィールド画像3708及びボトムフィールド画像3709に対してMPEG圧縮を行う。
【0164】
MPEG圧縮された第1眼画像3701〜第6眼画像3706は、送信・記録装置109、受信・再生装置110を経て、MPEG伸長装置111で伸長される。伸長された第1眼画像3701〜第6眼画像3706は、出力画素構成変換装置3715は、多重化6眼画像3707、或いは、プログレッシブ変換装置814でプログレッシブ画像に変換されたトップフィールド画像3308及びボトムフィールド画像3309から第1眼画像3701〜第6眼画像3306を分解し、ディスプレイ上で、平面画像3710として表示される再生1視点画像、2眼立体画像3711として表示される再生2視点画像、3眼立体画像3712として表示される再生3視点画像、及び、6眼立体画像3713として表示される再生6視点画像のうちの少なくとも1つの画像を、その画像に適合するディスプレイに出力する。
【0165】
本実施形態例では、Nの約数の視点の画像を構成する第1眼画像〜第N眼画像の画素のうち、重複する画素の入力が省略された第1眼〜第N眼画像が、1つの多重化N眼画像に多重化されて、MEPG圧縮される。多重化N眼画像では、図37の例に示すように、多重化N眼画像の奇数列と偶数列に区切って、所定の画素を配置する。このため、第3実施形態例と同様に、多重多N眼画像をインターレース変換したトップフィールド画像とボトムフィールド画像との差異の検出結果に基づいて、プログレッシブ画像である多重化多視画像、又は、仮想的なインターレース画像を選択して、MPEG圧縮を行うことができ、第1眼〜第6眼画像の相関を利用した効率のよい圧縮が可能となる。重複する画素の入力を省略し、多重化N眼画像には、Nの約数の視点の画像に必要がない画素が含まれないため、第9実施形態例に比して、立体画像を更に効率よく圧縮伝送することができる。
【0166】
図38は、本実施形態例の立体画像圧縮装置における多重化4眼画像の別の例を示している。入力画素構成変換装置3205は、第1眼画像3701〜第6眼画像3706を、図37の例とは異なる規則で、例えば、図38に示す多重化6眼画像3807のように多重化することもできる。この多重化6眼画像3807は、400列×480行の画像として構成され、横に分割された、第1〜第8ブロックの8つのブロックを有する。各ブロックには、第1眼画像3701〜第6眼画像3706の所定列の画素のうちの2つが、奇数行と偶数行とに区切って配置されている。
【0167】
多重化6眼画像3807の第1ブロックでは、第1眼画像3701の原画像の6k+1列目の画素が奇数行に配置され、第2眼画像3702の原画像の6k+4列目の画素が偶数行に配置され、第2ブロックでは、第1眼画像の原画像の6k+2列目の画素が奇数行に配置され、第2眼画像の原画像の6k+5列目が偶数行に配置される。また、第3ブロックでは、第1眼画像の原画像の6k+3列目の画素が奇数行に配置され、第3眼画像の原画像の6k+1列目が偶数行に配置され、第4ブロックでは、第1眼画像の原画像の6k+4列目の画素が奇数行に配置され、第3眼画像の原画像の6k+4列目が偶数行に配置され、第5ブロックでは、第1眼画像の原画像の6k+5列目の画素が奇数行に配置され、第4眼画像の原画像の6k+1列目が偶数行に配置される。第6ブロックでは、第1眼画像の原画像の6k+6目の画素が奇数行に配置され、第5眼画像の原画像の6k+1列目が偶数行に配置され、第7ブロックでは、第2眼画像の原画像の6k+1列目の画素が奇数行に配置され、第6眼画像の原画像の6k+1列目が偶数行に配置され、第8ブロックでは、第2眼画像の原画像の6k+3列目の画素が奇数行に配置され、ダミー画素(*)が偶数行に配置される。
【0168】
MPEG圧縮装置108(図32)は、フィールドDCT、又は、フレームDCTを選択的に適用して、多重化6眼画像3807、或いは、多重化6眼画像3807をインターレース変換することで得られるトップフィールド画像3808及びボトムフィールド画像3809に対してMPEG圧縮を行う。このようにすることで、入力画素構成変換装置3205が、第1眼画像3701〜第6眼画像3706を、図37に示す多重化6眼画像3707に代えて、図38に示す多重化6眼画像3807のように多重化した場合についても、図37の例と同様に、効率のよい圧縮が可能となる。
【0169】
なお、多重化画像への多重化や、分割フレームへの分割等は、上記実施形態例に限定されず、上記各実施形態例で採用した画像空間的な多重化の手法や時分割による多重化の手法は、適宜組み合わせることができる。例えば、例えば図7では、第1眼〜第8眼画像が4つの分割フレームに時分割される例について説明したが、これに代えて、第1眼画像〜第4眼画像を、第1実施形態例又は第3実施形態例と同様な規則で1つの分割フレーム中に画像空間的に多重化し、第5眼画像〜第8眼画像を、第1実施形態例又は第3実施形態例と同様な規則で1つの分割フレーム中に画像空間的に多重化してもよい。
【0170】
第3実施形態例では、例えば図9において、第1眼画像と第2眼画像を一対にして上半分のブロックに配置し、第3眼画像と第4眼画像とを下半分のブロックに配置したが、多重化4眼画像を2つのブロックに分割せずに、第1眼画像のy+1行目を多重化4眼画像902の4y+1行目に配置し、第2眼画像のy+1行目を多重化4眼画像902の4y+2行目に配置し、第3眼画像のy+1行目を4y+3行目に配置し、第4眼画像のy+1行目を多重化4眼画像902の4y+4行目に配置することもできる。
【0171】
また、第3実施形態例では、Nが奇数のとき、ダミー画像を使用するのに代えて、第1眼〜第N眼画像を、2枚の画像を1組にした(N−1)/2個の組と、余った残りの1枚の画像とに分け、多重化画像では、1組した2枚の画像を奇数行と偶数行とに区切って配置し、残りの1枚の画像を多重化画像の、1組にした2枚の画像が配置されない残りのブロックに配置することもできる。この場合、多重化画像のブロックは縦方向に並べられ、残り1枚の画像が配置されるブロックの行数は、1組にした2枚の画像が配置されるブロックの行数の半分となる。
【0172】
図39〜図42は、第6実施形態例の立体画像圧縮装置1500の入力画素構成変換装置1505における多重化の別の例を示している。図16(第5実施形態例)では、入力画素構成変換装置1505が、複合多重化画像1603を8つのブロックに分け、各ブロックに、第1眼〜第4眼画像、及び、高解像度第1眼画素1〜4が単独で配置されるように多重化する例について示したが、これに代えて、入力画素構成変換装置1505は、図39に示すように、複合多重化画像3903を、横に2つのブロックに分割して、左右何れかのブロックに平面画像1602をそのまま平行移動して配置し、左右何れかの残ったブロックを更に横に4分割して、その4つのブロックのそれぞれに、第1眼〜第4眼画像を配置するように多重化してもよい。
【0173】
図39の例においても、立体画像201と平面画像1602とで重複する画素について、何れか一方の入力を省略して、その省略した方をダミー画像に置き換えてもよく、或いは、図40に示すように、複合多重化画像4003を、列数が第1眼画像の列数分だけ少ない画像として構成し、その複合多重化画像4003に、平面画像と第2眼〜第4眼画像とを多重化してもよい。入力画素構成変換装置1505は、第1眼画像と平面画像とを横に多重化するのに代えて、図41に示すように、複合多重化画像4103を、縦に2つのブロックに分割して、上下何れかのブロックに平面画像1602をそのまま平行移動して配置し、上下何れかの残ったブロックを横に4分割して、その4つのブロックのそれぞれに、第1眼〜第4眼画像を配置するように多重化してもよい。この場合にも、立体画像201と平面画像1602とで重複する画素の何れかを省略して、その省略した方をダミー画像で置き換えることができる。
【0174】
図42は、図40において、N=2とした例を示している。N=2の場合には、立体画像圧縮装置1500(図15)は、2眼立体画像を構成する右目画像と左目画像と、右目画像と左目画像のうちの何れか一方の列方向の解像度を2倍にした平面画像(左目高解像度画像又は右目高解像度画像)とを多重化して、圧縮する。例えば、立体画像圧縮装置1500に、立体画像と平面画像とで重複する画素の入力が省略され、高解像度左目画像4201(○1、○2)と、右目画像4202(●)とが入力されるときには、入力画素構成変換装置1505は、多重化画像4203を横に2つのブロックに分割し、左右何れかのブロックに高解像度左目画像をそのまま平行移動して配置し、左右何れかの残ったブロックに、右目画像を配置するように多重化する構成を採用することができる。図39〜図42に示すように平面画像をそのまま平行移動して多重化する構成を採用する場合には、平面画像が配置されるブロックでは、平面画像の画像空間の相関性を利用した圧縮が可能となる。
【0175】
入力画素構成装置が、複数分割フレームに時分割多重化する手法を採用する、例えば第2実施形態例や第4実施形態例では、1つの分割フレームに含まれる画像数や、時間軸上での分割フレームの並びを、任意に設定することができる。また、MPEG圧縮においてGOP構成を採用するとき、GOPを構成する分割フレームの数は、図示したものには限定されない。GOP構成において、何れの分割フレームをI/Pピクチャのコアピクチャーとするのかや、各分割フレームのピクチャタイプの並び順などについても、図示したものに限定されず、それ以外の構成を採用することもできる。
【0176】
第1、第2、第5、第6、及び、第8実施形態例では、多重化画像の奇数行と偶数行とに区切って多重化が行われないためにインターレース変換装置が用いられない例について説明したが、これらの実施形態例においても、立体画像又は立体画像及び平面画像が多重化された多重化画像をインターレース変換装置によりインターレース変換し、インターレース変換前のフレーム画像、又は、インターレース変換後のフィルールド画像の何れかを選択して、MPEG圧縮する構成を採用できる。この場合であっても、MPEG圧縮において、変換前のフレーム画像及び変換後のフィールド画像のうち、圧縮率を高くできる方を選択することで、効率のよい圧縮が可能になる。
【0177】
第10実施形態例では、第1眼画像3701〜第6眼画像3706を、図37に示す多重化画像3707のように、所定列の画素の組を奇数行と偶数行とに区切って配置する例について説明したが、これに代えて、図43に示す多重化画像4307のように、第1眼画像の原画像の6k+1〜6k+6列目の画素(k:0〜49)と、第2眼画像の原画像の6k+1、6k+3、6k+4、及び、6k+5列目の画素と、第3眼画像の原画像の6k+1及び6k+4列目の画素と、第4眼〜第6眼画像の6k+1列目の画素とで構成される1組を、偶数行と奇数行とに区切らずに、列方向に順次に配置こともできる。この場合も、インターレース変換により得られる、多重化画像4307の奇数行で構成されるトップフィールド画像4308、及び、偶数行で構成されるボトムフィールド画像4309と、インターレース変換前の多重化画像4307とのうち、MPEG圧縮において、圧縮率を高くできる方を選択することで、効率のよい圧縮が可能になる。
【0178】
第8〜第10実施形態例では、第1実施形態例や第2実施形態例と同様に、画像空間の多重化を採用する例について示したが、これらの実施形態例においても、これに代えて、又は、これに加えて、第2実施形態例や第4実施形態例と同様に、時分割多重を採用することもできる。例えば、第8実施形態例において、第1眼〜第N眼画像の原画像を、1つの多重化画像に多重化するのに代えて、第4実施形態例と同様に、第1眼〜第N眼画像の原画像を、複数の分割フレームに分割して、時分割多重化してもよい。時分割する分割フレーム数と、多重化すべき画像数とが一致しない場合には、1つの分割フレーム中に、第1実施形態例又は第3実施形態例と同様な規則で複数の画像を多重化することができる。
【0179】
送信・記録装置が圧縮された画像をストリームとして配信・記録する際には、ストリームの送信に先立って、又は、ストリーム中の所定箇所に、そのストリームには、どのような画像を圧縮したデータが含まれるのかを示すフラグや、立体画像前処理装置がどのような手法により画像を多重化したのかを示すフラグを挿入することができる。例えば、ストリームには、そのストリームが立体画像データを含むことを示すフラグや、1枚の多重化画像又は時分割画像に含まれる視差画像数がいくつであるかを示すフラグ、多重化画像又は時分割画像中に視差画像がどのように配置されるかを示すフラグや、或いは、多重化画像又は時分割画像にダミー画像が含まれる場合には、そのダミー画像がどのような画像であるかといったフラグを含ませることができる。
【0180】
また、立体画像圧縮装置が立体画像と平面画像とを含むストリームを送信可能である場合には、そのストリームが立体画像データのみである、立体画像データと平面画像データとを含む、或いは、平面画像データのみであることを示すフラグを挿入してもよい。この場合にも、1枚の多重化画像又は時分割画像にはどのような画像が含まれるかを示すフラグや、多重化画像又は時分割画像中には画像がどのように配置されるかを示すフラグ、平面画像は視差画像のうちのどの1枚を高解像度にした画像であるかを示すフラグや、或いは、多重化画像又は時分割画像にダミー画像が含まれる場合には、そのダミー画像がどのような画像であるかといったフラグを含ませることができる。立体画像伸長装置は、フラグを参照することで、立体画像又は平面画像を正しくディスプレイに表示させることができる。
【0181】
以上、本発明をその好適な実施形態例に基づいて説明したが、本発明の立体画像圧縮装置及び立体画像伸長装置は、上記実施形態例にのみ限定されるものではなく、上記実施形態例の構成から種々の修正及び変更を施した立体画像圧縮装置及び立体画像伸長装置も、本発明の範囲に含まれる。
【0182】
【発明の効果】
以上説明したように、本発明の立体画像圧縮装置は、立体N眼画像を構成する各視差画像が、1つの画像に画像空間的に多重化されるため、立体N眼画像を、複数のチャンネルを使用することなく、送信又は記録することができる。多重化の際に、視差画像を奇数行と偶数行とに区切って配置する場合には、視差画像間の空間的な相関を利用して、効率のよい圧縮が可能となる。また、立体N眼画像を複数の時分割画像に分割して時間的に多重化する構成を採用する場合には、時分割画像を動画的に圧縮することができ、時分割画像に含まれる視差画像間の空間的な相関性を利用することで、効率のよい圧縮が可能となる。
本発明の立体画像伸長装置は、本発明の立体画像圧縮装置で圧縮された画像を伸長して、伸長された画像から視差画像又は平面画像を分離して、立体画像又は平面画像を、ディスプレイ上に表示させることができる。
【図面の簡単な説明】
【図1】本発明の第1実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を示す機能ブロック図。
【図2】図1の立体画像圧縮装置100及び立体画像伸長装置101による立体画像の圧縮及び伸長の様子を模式的に示すブロック図。
【図3】入力画素構成変換装置105における立体画像の別の多重化例。
【図4】入力画素構成変換装置105における立体画像の別の多重化例。
【図5】本発明の第2実施形態例の立体画像圧縮装置及び立体画像伸長装置による立体画像の圧縮及び伸長の様子を模式的に示すブロック図。
【図6】MPEG圧縮におけるGOP構成の例。
【図7】MPEG圧縮におけるGOP構成の別の例。
【図8】本発明の第3実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を示す機能ブロック図。
【図9】図8の立体画像圧縮装置800及び立体画像伸長装置801による立体画像の圧縮及び伸長の様子を模式的に示すブロック図。
【図10】入力画素構成変換装置805での別の多重化例。
【図11】入力画素構成変換装置805での別の多重化例。
【図12】本発明の第4実施形態例の立体画像圧縮装置及び立体画像伸長装置による立体画像の圧縮及び伸長の様子を模式的に示すブロック図。
【図13】MPEG圧縮におけるGOP構造の例。
【図14】MPEG圧縮におけるGOP構造の別の例。
【図15】本発明の第5実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を示す機能ブロック図。
【図16】図15の立体画像圧縮装置1500及び立体画像伸長装置1501による立体画像及び平面画像の圧縮及び伸長の様子を模式的に示すブロック図。
【図17】入力画素構成変換装置1505における多重化の別の例。
【図18】入力画素構成変換装置1505における多重化の別の例。
【図19】入力画素構成変換装置1505における多重化の別の例。
【図20】本発明の第6実施形態例の立体画像圧縮装置及び立体画像伸長装置による立体画像及び平面画像の圧縮及び伸長の様子を模式的に示すブロック図。
【図21】MPEG圧縮におけるGOP構成の例。
【図22】MPEG圧縮におけるGOP構成の別の例。
【図23】本発明の第7実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を示す機能ブロック図。
【図24】図23の立体画像圧縮装置2300及び立体画像伸長装置2301による立体画像及び平面画像の圧縮及び伸長の様子を模式的に示すブロック図。
【図25】入力画素構成変換装置2305での多重化の別の例。
【図26】入力画素構成変換装置2305での多重化の別の例。
【図27】MPEG圧縮におけるGOP構成の例。
【図28】MPEG圧縮におけるGOP構成の例。
【図29】本発明の第8実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を機能ブロック図として示している。
【図30】ディスプレイ上でのn視点画像(n:1〜N(=4))の画素と、第1眼〜第4眼画像の原画像の画素との関係を示すブロック図。
【図31】図29の立体画像圧縮装置2900及び立体画像伸長装置2901による立体画像及び平面画像の圧縮及び伸長の様子を模式的に示すブロック図。
【図32】本発明の第9実施形態例の立体画像圧縮装置及び立体画像伸長装置の構成を示す機能ブロック図。
【図33】図32の立体画像圧縮装置3200による画像の圧縮の様子を模式的に示すブロック図。
【図34】ディスプレイ上でのn視点画像(n:1〜N(=6))の画素と、第1眼〜第6眼画像の原画像の画素との関係を示すブロック図。
【図35】6の約数の視点の画像を表示可能な立体画像圧縮装置及び立体画像伸長装置を示すブロック図。
【図36】6の約数の視点の画像を表示可能な立体画像圧縮装置及び立体画像伸長装置を示すブロック図。
【図37】図36の立体画像圧縮装置及び立体画像伸長装置による立体画像及び平面画像の圧縮及び伸長の様子を模式的に示すブロック図。
【図38】立体画像圧縮装置における多重化の別の例。
【図39】入力画素構成変換装置1505における多重化の別の例。
【図40】入力画素構成変換装置1505における多重化の別の例。
【図41】入力画素構成変換装置1505における多重化の別の例。
【図42】入力画素構成変換装置1505における多重化の別の例(N=2)。
【図43】立体画像圧縮装置における多重化の別の例。
【図44】従来の立体画像圧縮装置及び立体画像伸長装置による立体画像の圧縮及び伸長の様子を模式的に示すブロック図。
【符号の説明】
100:立体画像圧縮装置
101:立体画像伸長装置
104:立体画像前処理装置
105:入力画素構成変換装置
806:インターレース変換装置
807:選択装置
108:MPEG圧縮装置
109:記録・送信装置
110:受信・再生装置
111:MPEG伸長装置
112:立体画像後処理装置
813:分岐装置
814:プログレッシブ変換装置
115:出力画素構成変換装置
Claims (62)
- 立体画像を構成するN枚(N≧3)の視差画像から、該N枚の視差画像を画像空間的に多重化した1枚の多重化画像を生成する立体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする立体画像圧縮装置。
- 前記立体画像前処理部は、前記多重化画像を、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分し、該ブロックのそれぞれが前記視差画像又はダミー画像を1つ含む、請求項1に記載の立体画像圧縮装置。
- 前記多重化画像を、インターレース変換するインターレース変換部を備え、前記画像圧縮部は、前記立体画像処理部により生成された多重化画像、又は、前記インターレース変換部によって変換された多重化画像の何れかを選択して圧縮する、請求項1又は2に記載の立体画像圧縮装置。
- 立体画像を構成するN枚(N≧2)の視差画像から、該N枚の視差画像のそれぞれを奇数行又は偶数行の何れかに振り分けて配置して画像空間的に多重化した1枚の多重化画像を生成する立体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする立体画像圧縮装置。
- Nが偶数であり、前記立体画像前処理部は、前記N枚の視差画像を2枚ずつN/2個の組に分け、各組の2枚の視差画像の各行を前記多重化画像の奇数行及び偶数行に区分して配置する、請求項4に記載の立体画像圧縮装置。
- Nが奇数であり、前記立体画像前処理部は、前記N枚の視差画像を2枚ずつ組み合わせた(N−1)/2個の組と、残りの1枚の視差画像とダミー画像とを組み合わせた組とに分け、各組の2枚の画像の各行を前記多重化画像の奇数行及び偶数行に区分して配置する、請求項4に記載の立体画像圧縮装置。
- 前記多重化画像が、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分され、該ブロックのそれぞれが前記組を1つ含む、請求項5又は6に記載の立体画像圧縮装置。
- Nが奇数であり、前記立体画像前処理部は、前記N枚の視差画像を2枚ずつ組み合わせた(N−1)/2個の組と、残りの1枚の視差画像とに分け、各組の2枚の視差画像の各行を前記多重化画像の奇数行及び偶数行に区分して配置し、前記残りの1枚の視差画像を、多重化画像の前記組とは別の部分に配置する、請求項4に記載の立体画像圧縮装置。
- 前記多重化画像が、縦方向に並べられた複数のブロックに区分され、該ブロックのそれぞれが前記視差画像の組又は前記残りの1つの視差画像を1つ含む、請求項8に記載の立体画像圧縮装置。
- 前記多重化画像を、インターレース変換するインターレース変換部を備え、前記画像圧縮部は、前記立体画像処理部により生成された多重化画像、又は、前記インターレース変換部によって変換された多重化画像の何れかを選択して圧縮する、請求項4〜9の何れかに記載の立体画像圧縮装置。
- 立体画像を構成するN枚(N≧2)の視差画像から、該N枚の視差画像を時間的に多重化して、画像サイズが相互に同じ、2枚以上N枚以下の時分割画像を生成する立体画像前処理部と、前記時分割画像を圧縮する画像圧縮部とを備えることを特徴とする立体画像圧縮装置。
- 前記時分割画像のそれぞれは、R枚(R≧2)の視差画像、又は、視差画像及びダミー画像の合計としてR枚の画像を含む、請求項11に記載の立体画像圧縮装置。
- 前記時分割画像が、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分され、該ブロックのそれぞれが前記視差画像又はダミー画像を1つ含む、請求項12に記載の立体画像圧縮装置。
- Rが偶数であり、R枚(R≧2)の視差画像、又は、視差画像及ダミー画像を含むR枚の画像を、2枚ずつR/2個の組に分け、各組の2枚の画像の各行を前記時分割画像の奇数行及び偶数行に区分して配置する、請求項12に記載の立体画像圧縮装置。
- 前記時分割画像が、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分され、該ブロックのそれぞれが前記視差画像の組、又は、視差画像とダミー画像の組を1つ含む、請求項14に記載の立体画像圧縮装置。
- 前記時分割画像をインターレース変換するインターレース変換部を備え、前記画像圧縮部は、前記立体画像処理部により生成された時分割画像、又は、前記インターレース変換部によって変換された時分割画像の何れかを選択して圧縮する、請求項11〜15の何れかに記載の立体画像圧縮装置。
- 立体画像を構成するN枚(N≧2)の視差画像と、該N枚の視差画像の内の1枚の画像を列方向にN倍した解像度を有する平面画像とを画像空間的に多重化した1枚の多重化画像を生成する立体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする立体画像圧縮装置。
- 前記立体画像処理部には、前記1枚の画像と前記平面画像との間で重複する画素について、前記1枚の画像及び前記平面画像の何れか一方の入力が省略される、請求項17に記載の立体画像圧縮装置。
- 前記多重化画像が、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分され、該ブロックのそれぞれが前記視差画像、又は、該視差画像と同サイズの前記平面画像の部分画像を含む、請求項17又は18に記載の立体画像圧縮装置。
- 前記多重化画像が、縦方向、又は、横方向に並べられた2つのブロックに区分され、該ブロックの一方が複数のサブブロックに区分され、該サブブロックのそれぞれが前記視差画像、又は視差画像及びダミー画像を含み、前記ブロックの他方が前記平面画像を含む、請求項17又は18に記載の立体画像圧縮装置。
- N=2であり、前記多重化画像が、縦方向、又は、横方向に並べられた2つブロックに区分され、該ブロックの一方が前記視差画像を含み、前記ブロックの他方が前記平面画像を含む、請求項18に記載の立体画像圧縮装置。
- 前記立体画像前処理部は、前記N枚の視差画像及びN個の前記部分画像を2つずつN個の組に分け、各組の2つの画像の各行を前記多重化画像の奇数行及び偶数行に区分して配置する、請求項17又は18に記載の立体画像圧縮装置。
- 前記多重化画像が、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分され、該ブロックのそれぞれが前記組を1つ含む、請求項22に記載の立体画像圧縮装置。
- 前記多重化画像をインターレース変換するインターレース変換部を備え、前記画像圧縮部は、前記立体画像処理部により生成された多重化画像、又は、前記インターレース変換部によって変換された多重化画像の何れかを選択して圧縮する、請求項17〜23の何れかに記載の立体画像圧縮装置。
- 立体画像を構成するN枚(N≧2)の視差画像と、該N枚の視差画像の内の1枚を列方向にN倍した解像度を有する平面画像とを時間的に多重化して、画像サイズが相互に同じ2N枚以下の時分割画像を生成する立体画像前処理部と、前記時分割画像を圧縮する画像圧縮部を備えることを特徴とする立体画像圧縮装置。
- 前記立体画像処理部には、前記N枚の視差画像の内の前記1枚と前記平面画像との間で重複する画素の入力が省略される、請求項25に記載の立体画像圧縮装置。
- 前記時分割画像のそれぞれは、視差画像及び前記部分画像の合計として、又は、視差画像、前記部分画像及びダミー画像の合計としてR枚の画像を含む、請求項25又は26に記載の立体画像圧縮装置。
- 前記時分割画像を、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分し、該ブロックのそれぞれが前記視差画像、前記部分画像、又は、ダミー画像を1枚含む、請求項25又は26に記載の立体画像圧縮装置。
- Rが偶数であり、視差画像及び前記部分画像の合計としてのR枚の画像、又は、視差画像、前記部分画像及びダミー画像の合計としてのR枚の画像を、2枚ずつR/2個の組に分け、各組の2枚の画像を前記時分割画像の奇数行及び偶数行に区分して配置する、請求項28に記載の立体画像圧縮装置。
- 前記時分割画像を、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分し、該ブロックのそれぞれが前記組を1つ含む、請求項29に記載の立体画像圧縮装置。
- 前記時分割画像を、インターレース変換するインターレース変換部を備え、前記画像圧縮部は、前記立体画像処理部により生成された時分割画像、又は、前記インターレース変換部によって変換された時分割画像の何れかを選択して圧縮する、請求項25〜30の何れかに記載の立体画像圧縮装置。
- 1〜N眼ディスプレイ(N≧2)の全てに表示するために必要な全ての視差画像を画像空間的に多重化した多重化画像を生成する体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする立体画像圧縮装置。
- 1〜N眼ディスプレイ(N≧2)の全てに表示するために必要な全ての視差画像を時間的に多重化して、画像サイズが相互に同じN枚以下の時分割画像を生成する立体画像前処理部と、前記時分割画像を圧縮する画像圧縮部とを備えることを特徴とする立体画像圧縮装置。
- kを3以上の整数Nの任意の約数とするとき、全てのkに対して、k眼ディスプレイに表示するために必要な全ての視差画像を画像空間的に多重化した多重化画像を生成する立体画像前処理部と、該立体画像前処理部により生成された多重化画像を圧縮する画像圧縮部とを備えることを特徴とする立体画像圧縮装置。
- 立体画像前処理部には、i及びj(i≠j)をkに含まれる任意の数として、i眼ディスプレイに表示する画像とj眼ディスプレイに表示する画像とで重複する重複画素について、前記i眼ディスプレイに表示する画像とj眼ディスプレイに表示する画像の何れか一方の入力が省略される、請求項34に記載の立体画像圧縮装置。
- k眼ディスプレイに表示する1〜k視点画像に含まれる第q視点画像(1≦q≦k)を構成するx=kp+q(pは0から(画像の列数/q)−1までの整数)番目の画素について、k’をNの約数であってq≦k’<kを満たす数とするとき、全てのk’に対して、p’=kp/k’を計算し、p’が整数となるようなk’が少なくとも一つ存在するならば、k眼ディスプレイに表示するx番目の画素を前記重複画素とする、請求項35に記載の立体画像圧縮装置。
- 前記立体画像前処理部は、N眼ディスプレイに表示する視差画像の大きさを単位として各視差画像を1つ以上の画像グループに区分し、該画像グループを単位として前記視差画像を多重化する、請求項35又は36に記載の立体画像圧縮装置。
- 前記画像グループは、入力された各視差画像から、元の視差画像のN列おきに取り出した画素によって形成される、請求項37に記載の立体画像圧縮装置。
- 全ての視差画像についての画像グループの総数Mが偶数であり、前記立体画像前処理部は、前記M個の画像グループを2個ずつM/2個の組に分け、各組の2個の画像グループの各行を前記多重化画像の奇数行及び偶数行に区分して配置する、請求項37又は38に記載の立体画像圧縮装置。
- 全ての視差画像についての画像グループの総数Mが奇数であり、前記立体画像前処理部は、前記M個の画像グループを2個ずつ組み合わせた(M−1)/2個の組と、残りの1個の画像グループとダミーグループとを組み合わせた組とに分け、各組の2個のグループの画像の各行を前記多重化画像の奇数行及び偶数行に区分して配置する、請求項37又は38に記載の立体画像圧縮装置。
- 全ての視差画像についての画像グループの総数Mが奇数であり、前記立体画像前処理部は、前記M個の画像グループを2枚ずつ組み合わせた(M−1)/2個の組と、残りの1個の画像グループとに分け、各組の2個の画像グループの各行を前記多重化画像の奇数行及び偶数行に区分して配置し、前記残りの1個の画像グループを、多重化画像の前記組とは別の部分に配置する、請求項37又は38に記載の立体画像圧縮装置。
- 前記多重化画像が、縦方向、横方向、又は、縦及び横方向に並べられた複数のブロックに区分され、該ブロックのそれぞれが前記組を1つ含む、請求項39又は40に記載の立体画像圧縮装置。
- 前記多重化画像が、縦方向に並べられた複数のブロックに区分され、該ブロックのそれぞれが前記組又は前記残りの1つの画像グループを1つ含む、請求項41に記載の立体画像圧縮装置。
- 前記多重化画像を、インターレース変換するインターレース変換部を備え、前記画像圧縮部は、前記立体画像処理部により生成された多重化画像、又は、前記インターレース変換部によって変換された多重化画像の何れかを選択して圧縮する、請求項34〜43の何れかに記載の立体画像圧縮装置。
- kを3以上の整数Nの任意の約数とするとき、全てのkに対して、k眼ディスプレイに表示するために必要な全ての視差画像を時間的に多重化して、画像サイズが相互に同じ複数の時分割画像を生成する立体画像前処理部と、該立体画像前処理部により生成された時分割画像を圧縮する画像圧縮部とを備えることを特徴とする立体画像圧縮装置。
- 立体画像前処理部には、i及びj(i≠j)をkに含まれる任意の数として、i眼ディスプレイに表示する画像とj眼ディスプレイに表示する画像とで重複する重複画素について、前記i眼ディスプレイに表示する画像とj眼ディスプレイに表示する画像の何れか一方の入力が省略される、請求項45に記載の立体画像圧縮装置。
- 前記立体画像前処理部は、N眼ディスプレイに表示する視差画像の大きさを単位として各視差画像を1つ以上の画像グループに区分し、該画像グループを単位として前記視差画像を多重化する、請求項46に記載の立体画像圧縮装置。
- 前記画像グループは、入力された各視差画像から、元の視差画像のN列おきに取り出した画素によって形成される、請求項47に記載の立体画像圧縮装置。
- 全ての視差画像についての画像グループの総数をMとすると、前記時分割画像は、それぞれR個(R≧2)の画像グループ、又は、前記画像グループ及びダミーグループの合計としてR個のグループを含む、請求項47又は48に記載の立体画像圧縮装置。
- Mが偶数であり、M個の画像グループを2個ずつM/2個の組に分け、各組の2個の画像グループの画像の各行を前記時分割画像の奇数行及び偶数行に区分して配置する、請求項49に記載の立体画像圧縮装置。
- Mが奇数であり、M個の画像グループ及び1つのダミーグループを2個ずつ(M+1)/2個の組に分け、各組の2個のグループの画像の各行を前記時分割画像の奇数行及び偶数行に区分して配置する、請求項49に記載の立体画像圧縮装置。
- 請求項1〜10の何れかに記載の立体画像圧縮装置で圧縮された多重化画像を伸長する画像伸長部と、該画像伸長部により伸長された多重化画像から、N枚の視差画像を分離する立体画像後処理部とを備えることを特徴とする立体画像伸長装置。
- 請求項11〜16の何れかに記載の立体画像圧縮装置で圧縮された時分割画像を伸長する画像伸長部と、該画像伸長部により伸長された時分割画像から、N枚の視差画像を分離する立体画像後処理部とを備えることを特徴とする立体画像伸長装置。
- 請求項17〜24の何れかに記載の立体画像圧縮装置で圧縮された多重化画像を伸長する画像伸長部と、
前期画像伸長部により伸長された多重化画像から、N枚の視差画像と、該N枚の視差画像の内の1枚の画像を列方向にN倍した解像度を有する平面画像とを分離する立体画像後処理部と
を備えることを特徴とする立体画像伸長装置。 - 請求項25〜31の何れかに記載の立体画像圧縮装置で圧縮された時分割画像を伸長する画像伸長部と、
画像伸長部により伸長された時分割画像から、N枚の視差画像と、該N枚の視差画像の内の1枚の画像を列方向にN倍した解像度を有する平面画像とを分離する立体画像後処理部と
を備えることを特徴とする立体画像伸長装置。 - 請求項32に記載の立体画像圧縮装置で圧縮された多重化画像を伸長する画像伸長部と、該画像伸長部により伸長された多重化画像から、1〜N眼ディスプレイの少なくとも1つのディスプレイに表示するために必要な視差画像を分離する立体画像後処理部とを備えることを特徴とする立体画像伸長装置。
- 請求項33に記載の立体画像圧縮装置で圧縮された時分割画像を伸長する画像伸長部と、該画像伸長部により伸長された時分割画像から、1〜N眼ディスプレイの少なくとも1つのディスプレイに表示するために必要な視差画像を分離する立体画像後処理部とを備えることを特徴とする立体画像伸長装置。
- 請求項34〜44の何れかに記載の立体画像圧縮装置で圧縮された多重化画像を伸長する画像伸長部と、該画像伸長部により伸長された多重化画像から、k眼ディスプレイに表示するために必要な差画像を分離する立体画像後処理部とを備えることを特徴とする立体画像伸長装置。
- 請求項45〜51の何れかに記載の立体画像圧縮装置で圧縮された時分割画像を伸長する画像伸長部と、該画像伸長部により伸長された時分割画像から、k眼ディスプレイに表示するために必要な差画像を分離する立体画像後処理部とを備えることを特徴とする立体画像伸長装置。
- 前記圧縮された視差画像をストリームとして送信する画像送信部を更に備え、該画像送信部は前記ストリームが立体画像データを含むことを示すフラグを挿入する、請求項1〜16に記載の立体画像圧縮装置。
- 前記圧縮された視差画像をストリームとして送信する画像送信部を更に備え、該画像送信部は前記ストリームが立体画像データのみ、立体画像データと平面画像データ、又は、平面画像データのみの何れであるかを示すフラグを挿入する、請求項17〜31に記載の立体画像圧縮装置。
- 前記圧縮された視差画像をストリームとして送信する画像送信部を更に備え、該画像送信部は前記ストリームが時分割画像データ又は多重化画像データの何れであるかを示すフラグを挿入する、請求項1〜51に記載の立体画像圧縮装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003124874A JP4406914B2 (ja) | 2003-04-30 | 2003-04-30 | 立体画像圧縮装置及び立体画像伸長装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003124874A JP4406914B2 (ja) | 2003-04-30 | 2003-04-30 | 立体画像圧縮装置及び立体画像伸長装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004336104A true JP2004336104A (ja) | 2004-11-25 |
JP4406914B2 JP4406914B2 (ja) | 2010-02-03 |
Family
ID=33502296
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003124874A Expired - Fee Related JP4406914B2 (ja) | 2003-04-30 | 2003-04-30 | 立体画像圧縮装置及び立体画像伸長装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4406914B2 (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009004939A (ja) * | 2007-06-20 | 2009-01-08 | Victor Co Of Japan Ltd | 多視点画像復号方法、多視点画像復号装置及び多視点画像復号プログラム |
JP2009004940A (ja) * | 2007-06-20 | 2009-01-08 | Victor Co Of Japan Ltd | 多視点画像符号化方法、多視点画像符号化装置及び多視点画像符号化プログラム |
WO2010088420A1 (en) * | 2009-01-29 | 2010-08-05 | Dolby Laboratories Licensing Corporation | Methods and devices for sub-sampling and interleaving multiple images, eg stereoscopic |
JP2011077599A (ja) * | 2009-09-29 | 2011-04-14 | Sony Corp | 送信装置、受信装置、通信システム及びプログラム |
WO2012111325A1 (ja) * | 2011-02-17 | 2012-08-23 | パナソニック株式会社 | 映像符号化装置、映像符号化方法、映像符号化プログラム、映像再生装置、映像再生方法及び映像再生プログラム |
JP5527217B2 (ja) * | 2008-12-04 | 2014-06-18 | 日本電気株式会社 | 画像伝送システム、画像伝送装置、画像伝送方法 |
US9237327B2 (en) | 2008-09-23 | 2016-01-12 | Dolby Laboratories Licensing Corporation | Encoding and decoding architecture of checkerboard multiplexed image data |
US10194172B2 (en) | 2009-04-20 | 2019-01-29 | Dolby Laboratories Licensing Corporation | Directed interpolation and data post-processing |
US10750159B2 (en) | 2015-05-14 | 2020-08-18 | Samsung Electronics Co., Ltd. | 3D image display apparatus and image display method thereof |
-
2003
- 2003-04-30 JP JP2003124874A patent/JP4406914B2/ja not_active Expired - Fee Related
Cited By (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009004940A (ja) * | 2007-06-20 | 2009-01-08 | Victor Co Of Japan Ltd | 多視点画像符号化方法、多視点画像符号化装置及び多視点画像符号化プログラム |
JP2009004939A (ja) * | 2007-06-20 | 2009-01-08 | Victor Co Of Japan Ltd | 多視点画像復号方法、多視点画像復号装置及び多視点画像復号プログラム |
US9877045B2 (en) | 2008-09-23 | 2018-01-23 | Dolby Laboratories Licensing Corporation | Encoding and decoding architecture of checkerboard multiplexed image data |
US9237327B2 (en) | 2008-09-23 | 2016-01-12 | Dolby Laboratories Licensing Corporation | Encoding and decoding architecture of checkerboard multiplexed image data |
US9179122B2 (en) | 2008-12-04 | 2015-11-03 | Nec Corporation | Image transmission system, image transmission apparatus and image transmission method |
JP5527217B2 (ja) * | 2008-12-04 | 2014-06-18 | 日本電気株式会社 | 画像伝送システム、画像伝送装置、画像伝送方法 |
US10382788B2 (en) | 2009-01-29 | 2019-08-13 | Dolby Laboratories Licensing Corporation | Coding and decoding of interleaved image data |
US11284110B2 (en) | 2009-01-29 | 2022-03-22 | Dolby Laboratories Licensing Corporation | Coding and decoding of interleaved image data |
US9025670B2 (en) | 2009-01-29 | 2015-05-05 | Dolby Laboratories Licensing Corporation | Methods and devices for sub-sampling and interleaving multiple images, EG stereoscopic |
US11973980B2 (en) | 2009-01-29 | 2024-04-30 | Dolby Laboratories Licensing Corporation | Coding and decoding of interleaved image data |
US11622130B2 (en) | 2009-01-29 | 2023-04-04 | Dolby Laboratories Licensing Corporation | Coding and decoding of interleaved image data |
CN105357509A (zh) * | 2009-01-29 | 2016-02-24 | 杜比实验室特许公司 | 视频编码方法、视频信号解码方法及视频装置 |
US9420311B2 (en) | 2009-01-29 | 2016-08-16 | Dolby Laboratories Licensing Corporation | Coding and decoding of interleaved image data |
CN105376549B (zh) * | 2009-01-29 | 2017-08-11 | 杜比实验室特许公司 | 视频编码方法及解码视频信号的方法 |
CN105357509B (zh) * | 2009-01-29 | 2017-09-15 | 杜比实验室特许公司 | 视频编码方法、视频信号解码方法及视频装置 |
EP3226559A1 (en) * | 2009-01-29 | 2017-10-04 | Dolby Laboratories Licensing Corporation | Methods and devices for sub-sampling and interleaving multiple images, e.g. stereoscopic |
US10701397B2 (en) | 2009-01-29 | 2020-06-30 | Dolby Laboratories Licensing Corporation | Coding and decoding of interleaved image data |
US9877047B2 (en) | 2009-01-29 | 2018-01-23 | Dolby Laboratories Licensing Corporation | Coding and decoding of interleaved image data |
US9877046B2 (en) | 2009-01-29 | 2018-01-23 | Dolby Laboratories Licensing Corporation | Coding and decoding of interleaved image data |
WO2010088420A1 (en) * | 2009-01-29 | 2010-08-05 | Dolby Laboratories Licensing Corporation | Methods and devices for sub-sampling and interleaving multiple images, eg stereoscopic |
US10362334B2 (en) | 2009-01-29 | 2019-07-23 | Dolby Laboratories Licensing Corporation | Coding and decoding of interleaved image data |
US10194172B2 (en) | 2009-04-20 | 2019-01-29 | Dolby Laboratories Licensing Corporation | Directed interpolation and data post-processing |
US10609413B2 (en) | 2009-04-20 | 2020-03-31 | Dolby Laboratories Licensing Corporation | Directed interpolation and data post-processing |
US11477480B2 (en) | 2009-04-20 | 2022-10-18 | Dolby Laboratories Licensing Corporation | Directed interpolation and data post-processing |
US11792429B2 (en) | 2009-04-20 | 2023-10-17 | Dolby Laboratories Licensing Corporation | Directed interpolation and data post-processing |
US11792428B2 (en) | 2009-04-20 | 2023-10-17 | Dolby Laboratories Licensing Corporation | Directed interpolation and data post-processing |
JP2011077599A (ja) * | 2009-09-29 | 2011-04-14 | Sony Corp | 送信装置、受信装置、通信システム及びプログラム |
US8896663B2 (en) | 2009-09-29 | 2014-11-25 | Sony Corporation | Transmitting device, receiving device, communication system and program |
WO2012111325A1 (ja) * | 2011-02-17 | 2012-08-23 | パナソニック株式会社 | 映像符号化装置、映像符号化方法、映像符号化プログラム、映像再生装置、映像再生方法及び映像再生プログラム |
JPWO2012111325A1 (ja) * | 2011-02-17 | 2014-07-03 | パナソニック株式会社 | 映像符号化装置、映像符号化方法、映像符号化プログラム、映像再生装置、映像再生方法及び映像再生プログラム |
US10750159B2 (en) | 2015-05-14 | 2020-08-18 | Samsung Electronics Co., Ltd. | 3D image display apparatus and image display method thereof |
Also Published As
Publication number | Publication date |
---|---|
JP4406914B2 (ja) | 2010-02-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4154569B2 (ja) | 画像圧縮伸長装置 | |
US7746931B2 (en) | Moving picture encoding apparatus and method, moving picture decoding apparatus and method | |
CN103026706B (zh) | 用于多层帧兼容视频传输的系统及方法 | |
US6055012A (en) | Digital multi-view video compression with complexity and compatibility constraints | |
US5619256A (en) | Digital 3D/stereoscopic video compression technique utilizing disparity and motion compensated predictions | |
US5612735A (en) | Digital 3D/stereoscopic video compression technique utilizing two disparity estimates | |
US8471893B2 (en) | Method and apparatus for generating stereoscopic image bitstream using block interleaved method | |
KR100991804B1 (ko) | 이동 기기용 입체영상생성칩 및 이를 이용한입체영상표시방법 | |
JP6644979B2 (ja) | 3次元ビデオストリームに属する画像のカラーコンポーネントを用いることにより、深度マップを生成、格納、送信、受信および再生する方法およびデバイス | |
JP4251864B2 (ja) | 画像データ作成装置およびそのデータを再生する画像データ再生装置 | |
Lim et al. | A multiview sequence CODEC with view scalability | |
KR20070041745A (ko) | 비디오 정보를 전송하기 위한 시스템 및 방법 | |
TW201251467A (en) | Video encoder, video encoding method, video encoding program, video reproduction device, video reproduction method, and video reproduction program | |
KR100703715B1 (ko) | 다시점 3차원 동영상 송수신 시스템 | |
JP2004264882A (ja) | 画像データ作成装置およびそのデータを再生する画像データ再生装置 | |
KR100810539B1 (ko) | 다중 카메라 시스템에서 자유로운 기본설정 뷰의부호화/복호화 방법 및 그 장치 | |
JP2008034892A (ja) | 多視点画像符号化装置 | |
KR100532105B1 (ko) | 공간분할방식 3차원 영상 신호 발생 장치 | |
JP4406914B2 (ja) | 立体画像圧縮装置及び立体画像伸長装置 | |
JP5238528B2 (ja) | 符号化装置および方法、ならびに、復号装置および方法 | |
JP4355914B2 (ja) | 多視点画像伝送システムと方法、多視点画像圧縮装置と方法、多視点画像伸長装置と方法およびプログラム | |
US8896663B2 (en) | Transmitting device, receiving device, communication system and program | |
JP2008034893A (ja) | 多視点画像復号装置 | |
Ahmadiyah et al. | An efficient anaglyph stereo video compression pipeline | |
JP5442688B2 (ja) | 動画像符号化装置および方法、並びに動画像復号化装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060313 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20081219 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081225 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090223 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090319 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090515 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20090618 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090820 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20090909 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091019 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091101 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4406914 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121120 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121120 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131120 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |