JPWO2006016418A1 - 符号化ストリーム記録媒体、画像符号化装置、及び画像復号化装置 - Google Patents
符号化ストリーム記録媒体、画像符号化装置、及び画像復号化装置 Download PDFInfo
- Publication number
- JPWO2006016418A1 JPWO2006016418A1 JP2006531105A JP2006531105A JPWO2006016418A1 JP WO2006016418 A1 JPWO2006016418 A1 JP WO2006016418A1 JP 2006531105 A JP2006531105 A JP 2006531105A JP 2006531105 A JP2006531105 A JP 2006531105A JP WO2006016418 A1 JPWO2006016418 A1 JP WO2006016418A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- prediction
- frame
- picture data
- encoded stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 claims abstract description 66
- 238000003384 imaging method Methods 0.000 claims description 3
- 230000002457 bidirectional effect Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 12
- 230000006835 compression Effects 0.000 description 8
- 238000007906 compression Methods 0.000 description 8
- 230000002123 temporal effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/10—Indexing; Addressing; Timing or synchronising; Measuring tape travel
- G11B27/102—Programmed access in sequence to addressed parts of tracks of operating record carriers
- G11B27/105—Programmed access in sequence to addressed parts of tracks of operating record carriers of operating discs
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Television Signal Processing For Recording (AREA)
Abstract
Description
一方で、このようなアプリケーションでは撮像した時系列とは逆方向に再生する場合がある。このような逆方向の再生可能なストリームを生成する手段としては、イントラ符号化フレームと両方向予測フレームのみを用いるようにすることで逆方向再生を実現する方法がある(例えば特開平8−280024号公報参照)。
上述の方式では、伝送されたストリームを受信側で復号する時、任意の再生箇所から逆方向に映像を再生するためには、復号化のためのメモリが大量に必要であるという問題点があった。例えば、ここで図3記載の多視点からの物体撮像システム(301)によって撮影された多視点画像を既存の方式で圧縮符号化したとする。この場合、各視点位置の画像が通常のストリームにおける時間方向のフレームに対応する。図3において、Iはイントラ符号化フレーム、Pは前方予測フレーム、Bは両方向予測フレームを示す。ここでB6の位置の画像を再生しようとした場合、まずI1からP4を復号し、その後P4とI7からB6を復号する必要がある。このため、B6の復号のためにI1、P4、I7、B6と4枚の画像を処理するためのメモリが必要であり、処理量も大幅に増大してしまうという問題点があった。このため、受信側でリアルタイムに視点位置を変更して画像を表示する多視点画像の伝送表示方式は実現されていなかった。これは、既存の動画像圧縮方式が、時間方向に対して順方向に再生するために符号化方法を設計しているためであり、フレーム単位での逆方向再生に対応していないために発生する問題である。
更に、上記特許文献1記載の方法では前方予測フレームを用いることができないため、画質を一定以上に保つためにはイントラ符号化フレームを多くする必要があり、データ量が非常に多くなってしまうという問題点がある。従ってこの方法は、上記のような多視点画像の伝送には不向きである。
本発明は、上記従来技術を鑑みて、画質が高く圧縮率の高いフレーム単位での逆方向再生可能な符号化ストリームと、これに対応した画像符号化装置、画像復号化装置を提供するものである。また、本発明は多視点画像の圧縮に適しており、これを用いた多視点画像の符号化ストリームと画像符号化装置、画像復号化装置を提供するものである。
上記課題を解決するために本願で開示する構成の代表的なものは以下の通りである。
複数のフレームをそれぞれピクチャデータとして符号化してあり、1のフレームについて、他の上記フレームから前方予測したピクチャデータと、他の上記フレームから上記前方予測とは反対方向に後方予測したピクチャデータとを有している符号化ストリームを記録している記録媒体。
又、複数の入力画像を記憶することのできる画像メモリと、画像の処理順序を判定する処理方向判定部と、予測処理を行う予測処理部とを有する画像符号化装置であって予測処理部は処理方向判定部の指示により上記参照画像からの入力を符号化対象のフレームに対して過去の参照画像と未来の参照画像とで切り替える画像符号化装置。及び、上記符号化ストリームが1の画像について前方予測して生成したピクチャデータと該前方予測とは反対方向に後方予測して生成したピクチャデータとを区別するフラグを有する符号ストリームの入力を受け、処理方向を決定する処理方向判定部の指示に従って上記符号化ストリームを復号化する復号化装置。
本発明により、画質、圧縮率が高く、かつ、フレーム単位での逆方向再生可能な符号化ストリームを作成することができる。更に、これに対応した画像符号化装置、画像復号化装置を実現できる。また、多視点画像の圧縮に適した符号化ストリームと画像符号化装置、画像復号化装置を実現することができる。
図2は、復号化方法における既存方法と本発明による方法の比較図、
図3は、多視点画像の撮影システムを説明した図、
図4は、本発明の符号化ストリームを多視点画像符号化に用いた実施例の説明図、
図5は、本発明で用いる画像符号化装置の一実施例の説明図、
図6は、本発明で用いる画像符号化装置の一実施例を詳しく説明した図、
図7は、本発明で用いる画像復号化装置の一実施例の説明図、
図8は、本発明で用いる画像復号化装置の一実施例を詳しく説明した図、
図9は、本発明の画像符号化方法を説明した図、
図10は、本発明の画像復号化方法を説明した図、
を示す図である。
図1に本発明による符号化ストリームの一実施例を示し、その特徴について述べる。
原画像列(1−01)を符号化したストリーム(104)を用いて説明する。符号化ストリームはデータ記録媒体(102)にデータ列(103)として記録されるものである。原画像列において、Iはイントラ符号化フレーム、Pは前方予測フレーム、Bは両方向予測フレームを示す。番号は再生時のフレーム番号を示す。符号化ストリーム(104)において、I1’はI1フレームを符号化したデータを示す。Pピクチャ、Bピクチャではそれぞれ前方予測、両方向予測を行った後の符号化データである。以下、記号の意味は同様である。又、矢印106は順方向再生の方向を、矢印107は逆再生方向を示す。
まず符号化ストリーム(104)をI1、B2、B3、P4の順に順方向再生する方法を示す。I1’はイントラ符号化されているので単独で復号化され、I1が再生される。次にP4’は前方予測符号化されているのでI1とP4’のデータからP4が再生される。またB2’は両方向予測符号化されているのでI1、P4とB2’のデータからB2が再生される。B3の再生も同様に行うことができる。このように、最大3つの関連するピクチャデータを読み出すことによって再生を行うことができる。
次にI7、B6、B5、P4の順に逆方向再生する方法を示す。本願の特徴は後方予測フレームR4’の存在にある。後方予測フレームとは本来の再生順序(時間順)では後から再生されるフレームのみを参照フレームとして予測されたフレームをいう。具体的には、本願実施例において画像P4について、前方予測によって生成されたピクチャデータP4’と前方予測とは逆方向の後方予測によって生成されたピクチャデータP4’を有する点が特徴である。I7’は単独で復号化されI7が再生される。次にP4は、既存の方法ではI1とP4’を用いなければ再生できない。しかし本発明では後方予測したピクチャデータであるR4’(105)を持つ。これはI7からP4を後方予測して得られるピクチャデータである。つまり復号されたI7とR4’のデータを用いることでP4を再生することができる。続いてB6、B5については、I7、P4とそれぞれB6’、B5’を用いることによって再生できる。このように、本願ではあるフレームについて、他のフレームから時間方向または視点位置の移動方向に前方予測したデータのみからなるピクチャデータPと、同じフレームについて、他のフレームから時間方向または視点位置の移動方向に後方予測したデータのみからなるピクチャデータRとを有する。これにより既存の方法で逆方向再生を行うためには大量のメモリと処理が必要であったが、本発明の符号化ストリームを用いることによって少ないメモリと処理量で簡単にフレーム単位での逆方向再生を可能とすることができる。両方向からの予測フレームをそれぞれ別に持つため高画質であり、イントラフレームを持つ場合と比較して符号量が小さいというメリットがある。R4’のピクチャデータは既存のストリームには存在しないデータである。そこでこの後方予測フレームのデータを既存のストリームに付加情報として記録する方法であるプライベートデータ形式によって記録してもよい。プライベートデータ形式とは既存の規格と拡張された規格の互換性を取るためのデータ形式でありアッディショナルデータとも呼ばれる。一般に規格にはプライベートデータの範囲を示す情報が含まれており、既存規格にのみ対応したデコーダはこのプライベートデータの内容を無視する。拡張規格に対応するデコーダはこのプライベートデータの内容を読み取り処理することができる。この形式を用いることにより、このストリームを逆方向再生に対応しない既存の復号化装置に入力したとしても、通常のストリームとして順方向に再生することができる。
図2を用いて本発明による方法と既存方法の処理量の違いを説明する。
逆方向再生として、I13、B12、B11、P10の順に再生することを想定し、B12を再生する場合を考える。B12を再生するためにはI13とP10が復号されている必要があり、既存方法図2Aでは、P10を再生するためにI1からP4を予測して復号するステップと、P4からP7を予測して復号するステップと、P7からP10を予測して復号するステップと、I13単独で復号するステップと、最後にI13とP10からB12を復号するステップが必要であり、5段階の処理が必要となる。またその分のデータを保持するメモリも持たなければならない。
一方で提案方法図2Bでは、後方予測ピクチャによりI13からP10が復号可能であるため、I13単独で復号するステップと、I13からP10を予測して復号するステップと、I13とP10からB12を復号するステップとがあればよく、3段階の処理で済み、既存方法に比べて処理量、メモリ量を削減できる。
次に図3において、多視点画像を撮影記録するシステムに本願を適用する一実施例について説明する。
多視点画像を撮影するシステムには、図3Aに示すように撮影対象物体(304)を取り囲むようにカメラ(302)等の視点位置を配置するタイプものや、図3Bに示すようにカメラを外側に向け全周のパノラマ画像を撮影するようなタイプのものがある。図3A、図3Bにおいてカメラの撮影する各画像の符号化タイプの一実施例を示したものがそれぞれ(303)、(306)である。このような多視点画像を伝送する場合、データ量圧縮のために隣り合う視点間の相関を利用して予測を行い符号化する。具体的には、図のI1〜B12の数字に示される順番に従いあるフレームから1周するように連続するフレームとして取り込み、それぞれイントラ予測符号化、前方予測符号化、両方向予測符号化等の何れかを行う。又、視点間の予測を行った後に、各視点位置について時間方向に予測を行ってもよい。これは対象物体を動画像として記録したい場合に行われる。手順としては、まず上記の方法で各視点位置の画像を符号化する。次に符号化した画像を参照フレームとして、視点位置ごとに独立に動画像として時間方向に予測を行い符号化する。これを一定の時間間隔で行うことにより多視点の動画像を記録できる。但し、視点の移動は視点間で予測符号化したタイミングの時に限られる。
図4に、本発明による符号化ストリームを多視点画像の符号化に用いる場合について説明する。
前述のように多視点画像の撮影システムでは、複数の視点位置のカメラ(401)または移動するカメラによってそれぞれの位置に対応する画像(402)が撮影され、これらが連続するフレームとして予測符号化され符号化ストリーム(403)が作成される。ストリームを受信して再生する側では、ユーザが対象物体を見回すため、その指示により符号化した方向(右回り・順方向)だけでなく、逆方向(左回り)にも画像を再生して提示しなければならない。前述のように既存方法で逆方向再生を行うためには処理量・メモリが非常に多く必要となるが、本発明による後方予測ピクチャR10’(404)を有する方法を用いればこれを大幅に削減でき、逆方向再生も簡易に行うことができる。
本発明による多視点画像の符号化ストリームでは、既存の符号化ストリームにおけるタイムスタンプ部分に再生時間情報ではなく、時間以外の視点位置に関する情報等を記録してもよい。例えば視点位置のインデックスや、カメラの角度、絶対位置、各視点位置のフレームの表示持続時間等を記録すればよい。また、このような再生時間情報ではない情報が記録されていることを示すフラグをストリーム中に記録してもよい。視点位置のインデックスやカメラの角度、絶対位置を記録しておくことにより、ユーザが対象物体をどの方向から見たいかを指示した時に、これらの情報をもとにして表示するのに最も適切なフレームをストリームから選択することができる。また視点位置のフレームの表示持続時間を記録しておけば、対象物体を周りからぐるっと見回したときの映像を自動的に再生することができる。これらの情報は既存の規格におけるタイムスタンプとは記述方法が異なるので、別の情報が記録されていることを示すフラグをストリームに記録しておく。
前述のように、多視点画像を符号化したストリームをユーザの指示によって視点位置を変更して再生する場合、逆方向に再生を行うと、ストリーム中の最初に符号化したフレームを再生した後に、最後に符号化したフレームを再生する場合がある。このような再生順序は特殊な再生方法となるため、復号化装置によっては既存のストリームと区別するフラグが必要となる。このように逆方向のループ再生が可能であることを示すフラグをストリーム中に記録し、このフラグが有る場合には、連続したフレームの前後最終フレームを再生した後(本実施例において例えばB12)は他の一方のフレーム(I1)を連続して再生させるようにしてもよい。
図5に本発明による画像符号化装置の一実施例を示す。
画像符号化装置は、画像入力部(501)、画像メモリ(502)、処理方向判定部(503)、符号化予測処理部(504)、誤差調整部(505)、符号化処理部(506)、フレームメモリ(507)、出力部(508)からなる。誤差調整部(505)はなくてもよいが備えることで画質を向上することができる。
まず画像入力部(501)はカメラ等からの画像情報を符号化装置に入力し、画像メモリ(502)に蓄える。画像は複数のカメラから同時に取り込んでもよいし、連続的に入力して蓄えてもよい。次に処理方向判定部(503)が、画像の処理する順番、前方予測、後方予測等の符号処理方法を判定し、符号化予測処理部(504)に伝える。予測処理部(504)は指示に従い、画像メモリ(502)から適切な画像を取得し、フレームメモリ(507)の参照画像を用いて予測処理を行う。符号化予測処理部(504)にて各ピクチャの予測符号化処理が行われるが、図4の実施例で示したP4のように前方予測ピクチャデータP4’と後方予測ピクチャデータR4’のような2つのデータが作成される画像では、再生の方向によって復号画像に画質の差が生じる場合がある。両方向予測ピクチャを用いる場合、順方向及び逆方向の再生時ともに同じデータが使われるため、参照画像の画質に差があると再生方向によって画質に差が生じてしまう。これを回避するために本発明による画像符号化装置では、誤差調整部(505)によって再生方向による画質差の調整を行う。前方予測ピクチャデータと後方予測ピクチャデータをそれぞれ一旦デコードしてブロック毎に画質を比較し、一定以上画質に差があるブロックは、画質が揃うように一方または両方のピクチャのブロックをパラメータを調整して再エンコードする。次に符号化処理部(506)が予測された情報を元に画像の符号化を行い、データを出力部(508)に送って符号化ストリームを作成する。また一方、符号化処理部(506)は作成した符号化データを復号化して画像に戻しフレームメモリ(507)に送る。フレームメモリ(507)に蓄えられた画像は、符号化予測処理部(504)に従って次の画像の予測に使うために参照フレームとして格納される。
次に図6を用いて、画像符号化装置の一実施例の詳しい説明を行う。図6は符号化予測処理部(504)を詳しく示した図である。
まず画像メモリ(502)から符号化する原画像が原画像メモリ(601)に取り込まれる。また、フレームメモリ(507)からは参照画像が参照画像メモリ(603)に取り込まれる。次に、処理方向判定部(503)から画像の予測方法、どのタイプの予測を行うのかに関する符号化方法の指示が切替処理部(602)に伝わり、この指示に従って参照画像と原画像が各予測処理部であるイントラ符号化予測部(604)、片方向符号化予測部(605)、両方向符号化予測部(606)に送られる。イントラ符号化予測部(604)は画像内部で符号化の予測処理を行う処理部であり、片方向符号化予測部(605)は順方向または逆方向の符号化予測処理を行う。両方向符号化予測部(606)は両方向符号化予測処理を行う。すなわち、前方予測と後方予測はどちらも片方向の予測処理であるので、切替処理部(602)によって予測に用いる参照画像の入れ替えを行えば、同じ片方向符号化予測部(605)によって処理が可能である。つまり後方予測符号化を行う場合にのみ切替処理を行えばよい。参照画像メモリには過去画像メモリと未来画像メモリがあり、前方予測時は過去画像メモリ、両方向予測時は両方を用いる。後方予測時は未来画像メモリのみを用いればよいが、前方予測部と処理を共通化するために、本来は未来画像メモリに入れる参照画像を切替処理によって過去画像メモリに入れる。このように切替部は予測部で用いる参照画像を符号化対象の画像の未来の画像と過去の画像とで切り替えることで本願を実現する。各予測処理部によって処理されたデータは誤差調整部(505)に送られる。以上のような処理によって符号化が行われる。
図7に本発明による画像復号化装置の一実施例を示す。
画像復号化装置は、ストリーム入力部(701)、ストリームバッファ(702)、処理方向判定部(703)、復号化予測処理部(704)、復号化処理部(705)、フレームメモリ(706)、出力部(707)からなる。
まずストリーム入力部(701)は符号化ストリームを復号化装置に入力し、ストリームバッファ(702)に蓄える。次に処理方向判定部(703)が、ユーザの指示入力に従って処理するべきデータの順番を決定し、復号化予測処理部(704)に伝える。例えば、多視点画像を再生する復号化装置では、ユーザが対象物体を右回りで見回したり左回りで見回したりと、様々な向きに符号化ストリームの復号化方向を変える。処理方向判定部(703)はストリームバッファ(702)に蓄えられたデータの中から、ユーザの指示に基づいて適切なピクチャデータの位置を指定し、復号化の順番を復号化予測処理部(704)に伝える。また処理方向判定部(703)は、ストリーム中のフラグのチェックを行い、入力されたストリームが逆方向再生可能かどうかを判定したり、多視点画像の符号化ストリームとして逆方向のループ再生が可能かどうかを判定したりする。
次に復号化予測処理部(704)は指示に従い、ストリームバッファ(702)から適切なピクチャデータを取得して予測処理を行う。データ及び参照画像の切り替えを除けば、復号化予測処理部(704)は通常の復号化装置の予測処理部と同様のものでかまわない。予測処理後のデータは復号化処理部(705)に送られ、画像として再生され出力部(707)に出される。また復号化された画像はフレームメモリ(707)に送られ、次に復号される画像の参照画像として蓄えられる。
次に図8を用いて、画像復号化装置の一実施例の詳しい説明を行う。図8は復号化予測処理部(704)を詳しく示した図である。
まずストリームバッファ(702)から復号化するピクチャデータがデータ切替部(801)に取り込まれる。また、フレームメモリ(706)からは参照画像が参照画像メモリ(802)に取り込まれる。次に、処理方向判定部(703)から画像の予測方法、復号化方法に関する指示がデータ切替部(801)に伝わり、この指示に従って適切なデータが各予測処理部であるイントラ復号化予測部(803)、片方向復号化予測部(804)、両方向復号化予測部(805)に送られる。イントラ復号化予測部(803)は画像内部で復号化の予測処理を行う処理部であり、片方向復号化予測部(804)は順方向または逆方向の復号化予測処理を行う。両方向復号化予測部(805)は両方向復号化予測処理を行う。すなわち、前方予測と後方予測はどちらも片方向の予測処理であるので、データ切替部(801)によって復号化するデータの順序と参照画像を適宜入れ替えれば、同じ片方向復号化予測部(804)によって処理が可能である。各予測処理部によって処理されたデータは復号化処理部(705)に送られる。以上のような処理によって復号化が行われる。以上のように符号化・復号化装置のいずれにしても既存の装置を少し改良するのみで実現することができる。
次に、図9に本発明による画像符号化方法の概略を示し、内容を説明する。
まずステップ(901)において画像のバッファリングを行う。ここでは複数視点からの画像や連続するフレームをメモリに取り込む。次にステップ(902)では、イントラ予測・順方向予測・両方向予測の処理を行う。これは既存の符号化手順と同じ処理であり、既存の符号化ストリームと同じピクチャデータを作成するステップである。次にステップ(903)ではメモリ切替を行う。これは、逆方向再生可能なストリームを作成するにあたり、前述の順方向予測と同じ処理によって逆方向予測を行うため、対象となる参照画像の入れ替えを行う処理である。次にステップ(904)では逆方向の予測処理を行う。ここで逆方向再生を可能にする後方予測のみによるピクチャデータを作成する。次にステップ(905)において誤差調整とフラグ処理を行う。誤差調整は前述のように、順方向再生時と逆方向再生時で画質の差が生じないように前方予測のみによるピクチャデータと後方予測のみによるピクチャデータの符号化方法の調整を行う処理である。またフラグ処理では、出力する符号化ストリームが逆方向再生に対応することを示すフラグや、多視点画像の符号化ストリームの時には、カメラの視点位置情報、逆方向ループ再生が可能であることを示す情報等を出力する。最後にステップ(906)では、以上のようにして作成した符号化データをストリームとして出力する。処理手順としては、ステップ(902)の通常の処理とステップ(904)の逆方向の処理をメモリを切り替えるなどして同時に行ってもよい。以上のような方法で逆方向再生可能なストリームが作成される。
次に、図10に本発明による画像復号化方法の概略を示し、内容を説明する。
まずステップ(1001)において符号化ストリームのデータバッファリングを行う。次にステップ(1002)では、符号化ストリームのフラグ判定を行う。フラグの内容については前述のとおりである。次にステップ(1003)では再生方向の判定を行う。ユーザの指示によって変更される画像の再生方向を判定する処理を行う。次にステップ(1004)ではデータ切り替えを行う。データ切り替えは、再生方向に対応したピクチャデータを、データを蓄積したメモリから読み出し予測処理部にデータを渡す。次にステップ(1005)では予測・復号化処理を行う。ステップ(1004)によって適切な順序のデータが渡されることによって、復号処理自体は既存の復号化と同様の処理によって実現できる。最後にステップ(1006)において復号化された画像が出力される。以上のような方法で逆方向再生可能なストリームから画像が復号化される。
上記のような手段により、フレーム単位での逆方向再生可能な符号化ストリームを作成、伝送し再生することができる。また、これを用いた多視点画像符号化装置、復号化装置を実現できる。
なお、前記実施例では多視点画像の符号化装置、復号化装置を例に挙げて説明してきたが、本発明の適用はこれに限定されるものではなく、通常の動画像の符号化を初めとして様々な画像符号化装置、復号化装置等に用いることができる。本方式を通常の動画像符号化に用いた場合には、少ないメモリ量でフレーム単位の逆方向再生が可能になり、多視点画像符号化に用いた場合には、少ないメモリ量でユーザの指示に応じた自由な視点位置移動が可能になる。
尚、本願で記述した実施例はプログラムで規定し、コンピュータで読み込んで実行することができ、またハードウェアとの協調、若しくは、ハードウェア単体にて実現することができる。
徴について述べる。
原画像列(101)を符号化したストリーム(104)を用いて説明する。符号化ストリームはデータ記録媒体(102)にデータ列(103)として記録されるものである。原画像列において、Iはイントラ符号化フレーム、Pは前方予測フレーム、Bは両方向予測フレームを示す。番号は再生時のフレーム番号を示す。符号化ストリーム(104)において、I1’
はI1フレームを符号化したデータを示す。Pピクチャ、Bピクチャではそれぞれ前方予測、両方向予測を行った後の符号化データである。以下、記号の意味は同様である。又、矢印106は順方向再生の方向を、矢印107は逆再生方向を示す。
まず符号化ストリーム(104)をI1、B2、B3、P4の順に順方向再生する方法を示す。I1’はイントラ符号化されているので単独で復号化され、I1が再生される。次にP4’は前方予測符号化されているのでI1とP4’のデータからP4が再生される。またB2’は両方向予測符号化されているのでI1、P4とB2’のデータからB2が再生される。B3の再生も同様に行うことができる。このように、最大3つの関連するピクチャデータを読み出すことによって再生を行うことができる。
次にI7、B6、B5、P4の順に逆方向再生する方法を示す。本願の特徴は後方予測フレームR4’の存在にある。後方予測フレームとは本来の再生順序(時間順)では後から再生されるフレームのみを参照フレームとして予測されたフレームをいう。具体的には、本願実施例において画像P4について、前方予測によって生成されたピクチャデータP4’と前方予測とは逆方向の後方予測によって生成されたピクチャデータR4’を有する点が特徴である。I7’は単独で復号化されI7が再生される。次にP4は、既存の方法ではI1とP4’を用いな
Claims (10)
- 複数のフレームをそれぞれピクチャデータとして符号化した符号化ストリームを記録した媒体であって、
該符号化ストリームは、上記1のフレームについて、他の上記フレームから前方予測したピクチャデータと、他の上記フレームから上記前方予測とは反対方向に後方予測したピクチャデータとを有することを特徴とする記録媒体。 - 上記符号化ストリームには、上記1のフレームについて前方予測したピクチャデータと後方予測したピクチャデータとが含まれていることを示すフラグが含まれていることを特徴とする請求項1記載の記録媒体。
- 上記後方予測したピクチャデータは、プライベートデータ形式で記録されていることを特徴とする請求項1又は2に記載の記録媒体。
- 上記符号化ストリームは、上記各フレームの再生時間を表すタイムスタンプ情報、又は、上記各フレーム撮像の撮像位置に関する情報の少なくとも何れかを有することを特徴とする請求項1乃至3の何れかに記載の記録媒体。
- 上記符号化ストリームは、再生時に、上記複数のフレームの最後のフレームの再生後に最初のフレームを再生する、あるいは最初のフレームの再生後に最後のフレームを再生することが可能であることを示すフラグを有することを特徴とする請求項1乃至4の何れかに記載の記録媒体。
- 複数の入力画像を記憶することのできる画像メモリと、画像の処理順序を判定する処理方向判定部と、上記入力画像と参照画像とを用いて予測処理を行う予測処理部とを有し、
上記予測処理部は上記参照画像を格納する参照画像メモリと、処理方向判定部の指示により上記参照画像からの入力の切替を行う切替処理部とを有し、該切替処理部は上記参照画像からの入力を符号化対象のフレームに対して過去の参照画像と未来の参照画像とで切り替えることを特徴とする画像符号化装置。 - 上記予測処理部は1の画像について、上記過去の参照画像を用いて前方予測して生成したピクチャデータと該前方予測とは反対方向に上記未来の参照画像を用いて後方予測して生成したピクチャデータとを生成することを特徴とする請求項6記載の画像符号化装置。
- 上記前方予測ピクチャデータと上記後方予測ピクチャデータをデコードしてブロック毎に画質を比較し、差が所定以上あるブロックはパラメータを調整して再エンコードする誤差調整部を更に有することを特徴とする請求項7記載の画像符号化装置。
- 入力された符号化ストリームを蓄えるメモリと、入力手段を介して入力される再生方向指示情報と前記符号化ストリームに含まれるフラグ情報に従って処理方向を決定する処理方向判定部と、
上記処理方向判定部の指示に従って上記符号化ストリームを復号化する復号化処理部とを有し、
上記フラグは上記符号化ストリームが1の画像について前方予測して生成したピクチャデータと該前方予測とは反対方向に後方予測して生成したピクチャデータとを有すものであることを示すものであることを特徴とする画像復号化装置。 - 上記画像復号化装置は、上記再生方向指示情報に基づいて、ストリームの最後のフレームの再生後に最初のフレームを再生する、あるいは最初のフレームの再生後に最後のフレームを再生することが可能であることを特徴とする請求項9記載の画像復号化装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2004/011795 WO2006016418A1 (ja) | 2004-08-11 | 2004-08-11 | 符号化ストリーム記録媒体、画像符号化装置、及び画像復号化装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2006016418A1 true JPWO2006016418A1 (ja) | 2008-05-01 |
JP4638874B2 JP4638874B2 (ja) | 2011-02-23 |
Family
ID=35839195
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006531105A Active JP4638874B2 (ja) | 2004-08-11 | 2004-08-11 | 符号化ストリーム記録媒体、及び画像符号化装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US8155186B2 (ja) |
JP (1) | JP4638874B2 (ja) |
CN (1) | CN1998242B (ja) |
WO (1) | WO2006016418A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101416518B (zh) | 2006-03-29 | 2013-07-10 | 汤姆森特许公司 | 多视图视频编码方法和装置 |
JP4904914B2 (ja) * | 2006-05-17 | 2012-03-28 | ソニー株式会社 | ストリーム生成装置、撮像装置、およびストリーム生成方法 |
CN100438632C (zh) * | 2006-06-23 | 2008-11-26 | 清华大学 | 一种交互式多视点视频的编码方法 |
US9641842B2 (en) * | 2006-07-06 | 2017-05-02 | Thomson Licensing | Method and apparatus for decoupling frame number and/or picture order count (POC) for multi-view video encoding and decoding |
ZA200900102B (en) | 2006-07-06 | 2010-05-26 | Thomson Licensing | Method and apparatus for decoupling frame number and/or picture order count (poc) for multi-view video encoding and decoding |
KR101447717B1 (ko) | 2006-10-30 | 2014-10-07 | 니폰덴신뎅와 가부시키가이샤 | 동영상 부호화 방법 및 복호방법, 그들의 장치 및 그들의 프로그램과 프로그램을 기록한 기억매체 |
JP5029062B2 (ja) * | 2007-02-26 | 2012-09-19 | 富士通株式会社 | 多視点動画像伝送システム |
JP5216710B2 (ja) * | 2009-07-24 | 2013-06-19 | 日立コンシューマエレクトロニクス株式会社 | 復号化処理方法 |
JP2011199396A (ja) * | 2010-03-17 | 2011-10-06 | Ntt Docomo Inc | 動画像予測符号化装置、動画像予測符号化方法、動画像予測符号化プログラム、動画像予測復号装置、動画像予測復号方法、及び動画像予測復号プログラム |
US9294757B1 (en) * | 2013-03-15 | 2016-03-22 | Google Inc. | 3-dimensional videos of objects |
US11323754B2 (en) * | 2018-11-20 | 2022-05-03 | At&T Intellectual Property I, L.P. | Methods, devices, and systems for updating streaming panoramic video content due to a change in user viewpoint |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02274189A (ja) * | 1989-04-17 | 1990-11-08 | Nippon Telegr & Teleph Corp <Ntt> | 動画像符号化・復号化方式 |
JPH02281885A (ja) * | 1989-04-24 | 1990-11-19 | Nippon Telegr & Teleph Corp <Ntt> | 動画像符号化処理装置 |
JPH1032787A (ja) * | 1996-07-16 | 1998-02-03 | Fujitsu Ltd | リアルタイム逆方向再生用動画像符号化方式 |
JPH1198513A (ja) * | 1997-09-18 | 1999-04-09 | Toshiba Corp | 動画像符号化/復号化装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2708683B2 (ja) | 1992-10-21 | 1998-02-04 | 日本電信電話株式会社 | ディジタル動画ファイルの特殊再生制御処理方法 |
JP3128393B2 (ja) | 1993-05-31 | 2001-01-29 | 三洋電機株式会社 | 圧縮動画像再生装置 |
JP3663661B2 (ja) | 1995-04-07 | 2005-06-22 | ソニー株式会社 | 映像信号再生装置、映像信号復号化装置及び方法 |
JP3900534B2 (ja) * | 1995-04-21 | 2007-04-04 | ソニー株式会社 | 動画像の符号化装置および符号化方法 |
DE69841897D1 (de) * | 1997-07-25 | 2010-10-28 | Sony Corp | Bearbeitungsanlage, bearbeitungsverfahren, spleissungsanlage, spleissungsverfahren, kodieranlage und kodierverfahren |
CA2265089C (en) * | 1998-03-10 | 2007-07-10 | Sony Corporation | Transcoding system using encoding history information |
JP3557371B2 (ja) * | 1999-07-15 | 2004-08-25 | 松下電器産業株式会社 | Avデコーダ制御方法、及びavデコーダ制御装置 |
DE60130180T2 (de) * | 2000-04-14 | 2008-05-15 | Sony Corp. | Verfahren zur kodierung und dekodierung, aufzeichnungsmedium und programm |
US7555042B2 (en) * | 2003-01-08 | 2009-06-30 | Samsung Electronics Co., Ltd. | Method and apparatus for reverse play |
-
2004
- 2004-08-11 CN CN2004800437770A patent/CN1998242B/zh active Active
- 2004-08-11 WO PCT/JP2004/011795 patent/WO2006016418A1/ja active Application Filing
- 2004-08-11 JP JP2006531105A patent/JP4638874B2/ja active Active
- 2004-08-11 US US11/659,817 patent/US8155186B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02274189A (ja) * | 1989-04-17 | 1990-11-08 | Nippon Telegr & Teleph Corp <Ntt> | 動画像符号化・復号化方式 |
JPH02281885A (ja) * | 1989-04-24 | 1990-11-19 | Nippon Telegr & Teleph Corp <Ntt> | 動画像符号化処理装置 |
JPH1032787A (ja) * | 1996-07-16 | 1998-02-03 | Fujitsu Ltd | リアルタイム逆方向再生用動画像符号化方式 |
JPH1198513A (ja) * | 1997-09-18 | 1999-04-09 | Toshiba Corp | 動画像符号化/復号化装置 |
Also Published As
Publication number | Publication date |
---|---|
JP4638874B2 (ja) | 2011-02-23 |
US20080317125A1 (en) | 2008-12-25 |
US8155186B2 (en) | 2012-04-10 |
WO2006016418A1 (ja) | 2006-02-16 |
CN1998242B (zh) | 2010-07-07 |
CN1998242A (zh) | 2007-07-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3443867B2 (ja) | 画像信号符号化、復号化方法及び画像信号記録媒体 | |
JP4769717B2 (ja) | 画像復号化方法 | |
WO2004040915A1 (ja) | 動画像符号化方法および動画像復号化方法 | |
JP5232114B2 (ja) | 画像符号化装置、及び画像符号化方法 | |
JP4638874B2 (ja) | 符号化ストリーム記録媒体、及び画像符号化装置 | |
JP2012109720A (ja) | 画像変換装置、画像再生装置及び画像変換方法 | |
JP4869147B2 (ja) | 画像記録再生装置 | |
JP2008167061A (ja) | 符号化装置及び符号化方法 | |
JP2011151721A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
KR101528269B1 (ko) | 동영상 재생 방법 | |
JP4875008B2 (ja) | 動画像符号化方法、動画像復号化方法、動画像符号化装置及び動画像復号化装置 | |
JP2007228560A (ja) | 動画像符号化方法および動画像符号化装置 | |
JP2008072182A (ja) | 動画像復号化装置、動画像復号化方法、動画像復号化プログラム、動画像符号化装置、動画像符号化方法、動画像符号化プログラム、及び動画像符号化復号化装置 | |
JPH07250350A (ja) | 立体動画像符号化装置 | |
JP2008288934A (ja) | 動画撮影装置および動画再生装置 | |
JP2007109329A (ja) | 画像データ記録装置、画像データ再生装置、画像データ記録方法、プログラム及び記録媒体 | |
JP2007158778A (ja) | トリック再生用コンテンツ作成方法および装置、トリック再生用圧縮動画データ送出方法および装置、およびトリック再生用コンテンツ作成用プログラム | |
JP4178521B2 (ja) | 符号化映像信号の記録方法、及び映像信号符号化装置 | |
JP4581192B2 (ja) | 画像情報符号化装置及び方法 | |
KR20040092584A (ko) | 디지털 비디오 스트림의 역재생시 비트율을 제어하기 위한장치 및 그 방법 | |
JP2004015351A (ja) | 符号化装置及び方法、プログラム、記録媒体 | |
JP2009081727A (ja) | 画像符号化装置及びその制御方法、プログラム | |
JP2006109060A (ja) | 画像符号化情報を利用した手ぶれ補正方法及び装置 | |
KR101609798B1 (ko) | 동영상 판독 장치 | |
JP2005236386A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100525 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100723 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100817 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20101014 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101109 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101126 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131203 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4638874 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |