JP2008533885A - 画像データストリームを生成するための装置および方法ならびに画像データストリームを処理するための装置および方法 - Google Patents

画像データストリームを生成するための装置および方法ならびに画像データストリームを処理するための装置および方法 Download PDF

Info

Publication number
JP2008533885A
JP2008533885A JP2008501171A JP2008501171A JP2008533885A JP 2008533885 A JP2008533885 A JP 2008533885A JP 2008501171 A JP2008501171 A JP 2008501171A JP 2008501171 A JP2008501171 A JP 2008501171A JP 2008533885 A JP2008533885 A JP 2008533885A
Authority
JP
Japan
Prior art keywords
image
resolution
information
resizing
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2008501171A
Other languages
English (en)
Inventor
ユハ ラックソンヘイモ
Original Assignee
ネロ アーゲー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from EP05005594A external-priority patent/EP1703734A1/en
Priority claimed from US11/080,616 external-priority patent/US20070009024A1/en
Application filed by ネロ アーゲー filed Critical ネロ アーゲー
Publication of JP2008533885A publication Critical patent/JP2008533885A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process

Abstract

仮想サイズ情報は、たとえば、トランスコーダによって符合化された画像データを生成する場合に、符合化された画像データにアタッチされる。仮想サイズ情報(15)は、表示された情報の主観的品質を向上する画像シーケンスを有する画像またはビデオをサイズ変更する(16)ために使用される。仮想サイズ情報は、エンコーダ側において生成された後、デコーダ側に送信され、さらに、送信された情報を、補間アーチファクトおよび画像サイズ間のトレードオフによって決定される最適な主観的品質をもたらす程度に、サイズ変更するためにリサイザ(16)によって用いられる。
【選択図】図1

Description

本発明は、ビデオ符号化/復号化の分野、特に、スケーラブルビデオ符号化方式に適する。
いくつかの続くフレームまたは「単一の画像」からなるビデオシーケンス、あるいは、1以上の静止画像を、所望の解像度および精度で得ることができる。一般に、画像を得るための解像度および精度は、たとえば、仮想シーンを生成するためのデジタルカメラ、ビデオカメラまたはコンピュータ機器などによって決定される。
このような状況では、解像度は、画像のピクセル数によって決められる。画像が多くのピクセルを有すれば、高解像度となり、したがって、ディスプレイスクリーンにおいて1ピクセルで占められる面積が一定の数値に設定されている場合、大きなサイズになる。画像の精度、または、特にピクセルの精度は、このピクセルを符合化するために必要とされるビット数によって決められる。通常、1ピクセルあたりのビット数が多ければ、そのピクセルの精度が高くなるか、または、ピクセルで表される数値が大きくなる。
簡単な例として、1ピクセルあたりに1ビットとは、圧縮アルゴリズムが用いられない場合、ピクセルは白または黒のみになりえることを意味する。たとえば、1ピクセルあたりに3ビットであれば、ピクセルが8つの異なる濃淡値または色値の1つを有することができるため、ピクセルの精度が高く、したがって、画質も良くなることは明らかである。通常、ピクセル精度または1ピクセル値あたりの総ビット数は、画像エンコーダにおいて量子化器によって決定される。
画像またはビデオの符合化/復号化方式は、MPEG4またはH.264/AVCに基づくことができる点にここで注意されたい。当然、いくつかの画像符合化/復号化方式は、JPEGとの関連でも知られている。これら全てのエンコーダには、画像または画像シーケンスが画像ファイルの冗長を低減するために圧縮されるという共通点がある。これを行うための良い方法は、従来技術において知られている動き補償予測の適用である。また、大部分の符合化方式も不可逆圧縮方式に依存しており、一般に、これは、MPEG−4の状況下では、ブロックベースのDCT係数の量子化である。当然、量子化ステップサイズが大きければ、量子化値が小さくなり、小さい量子化ステップサイズで得られる量子化値と比較してより少ないビット数で表される。このような小さい量子化ステップサイズは、量子化値が高範囲であるため、それらを表わすためには多くのビット数が必要とされる。特に、量子化値の後続エントロピー符合化が使用される場合、一般に、小さい数値は、大きい数値と比較して、結果的に高い符合化利得をもたらすとされている。
上述のように、所望の解像度(サイズ)や精度(ピクセルあたりのビット数)の画像を得ることができる。エンコーダ圧縮利得には大きな進歩が見られるが、当然、大きく非常に正確な画像を符合化することは不可能であり、同時に低帯域の伝送路にとって十分に小さい非常に低いビットレートを得ることもできない。
この場合、一般に1画像あたりのビット数を減らすための可能性は2通りあり、有限帯域幅を有する伝送路を介して画像を送信することができる。この目的のために、図3を参照されたい。非常に正確な大きい画像30が示されている。最も進歩した画像の符合化アルゴリズムの代わりに、画像30の出力ビットレートは高すぎるので、特定の有限帯域伝送路での画像30の伝送は不可能であるとされている。画像30を符合化するために必要なビット数を減らす最初の可能性は、図3の左側に画像31で示されている。画像31は、画像30に対して低い解像度を有する点において異なる。すなわち、ビット数が少なければ、図3に示されるように小さいサイズの画像となる。それにもかかわらず、図3の例では、画像31の1ピクセルあたりのビット数は、画像30に対して変化が見られない。
別の可能性が図3の右側に画像32で示されている。画像32は、画像30とピクセル数が同じであるので、画像32と画像30とのサイズが等しくなる。画像を表わすために必要なビット数を減らすために、画像32では、精度、すなわち1ピクセルあたりのビット数が減らされている。
画像31を得るために解像度を下げるには、横にまたは縦に隣接する2つのピクセルを結合するフィルタなどの高性能なデシメーションフィルタを多かれ少なかれ用いれば、結果として生じる画像31は、もとの画像30より小さくなる。
ピクセルの精度を下げるためには、画像エンコーダにおいて量子化ステップサイズを大きくするか、または、特定のビットレートに達するまで1ピクセルあたりに特定数の下位有効ビットを単に削除する。
画像31および32は、双方とも特定の主観的品質を有する。画像31を見れば、ピクセルの精度が非常に高いことがわかるだろう。しかしながら、主観的印象は、画像31のサイズが小さいことに影響される。しかし、画像32を見る人は、画像の大きさに満足するだろう。それにもかかわらず、ビットの精度が低いとなれば、十分に満足できる主観的印象を妨げてしまうだろう。
当然、図3に示されている2つの一般的な可能性の組み合わせは可能である。解像度を下げることが可能で、精度、すなわち、対象ビットレートを得る1ピクセルあたりのビット数を減らすことも可能である。
ビデオシーケンスが、たとえば、その入力が高帯域伝送路に接続され、さらに、その出力が低帯域伝送路に接続されているトランスコーダによって処理される場合、図3に示されるように決定する必要がある。この状況では、トランスコーダは、低帯域伝送路の低帯域要件を満たすために、画像または画像シーケンスを処理する必要がある。
最も簡単な方法は、もとの解像度と等しい対象解像度を選択することである。この場合、ビットレートのみを決定する必要がある。この手順は、画像32で示される図3の右側の方法に相当する。
しかしながら、対象のビットレート、すなわち、低帯域伝送路または低帯域再生装置のビットレートが低すぎる場合、精度にかなりの影響を及ぼすので、デシメーションによって解像度を変更すること、すなわち、図3の最初の方法を使用することも1つの選択である。これは、再生表示がもとの画面30のサイズより小さい場合、特に事実である。
しかしながら、多くの場合、再生表示は、画像30のサイズから画像31のサイズへのデシメーションが1画像あたりのビット数を必須の少ない数にするには、十分に小さくならない。この場合、ピクセル精度が低くなりすぎないように、解像度は対象解像度まで下げられることが必要であり、通常、対象とする再生装置のサイズより小さくなる。
この手順は、当然、画像が時々小さくなりすぎるという不利な点があり、非常に小さい画像が主観的な画質を支配して破壊することがあり、その印象は精度の高いピクセルでも補うことはできない。
本発明の目的は、有限帯域幅を有する伝送路で送信される符合化されたデータストリームのために十分に低いビットレートを保ちながら、結果的により優れた主観的品質をもたらす、符合化/復号化概念を提供することである。
この目的は、請求項1に記載のデータストリームを生成するための装置、請求項8に記載のデータストリームを処理するための装置、請求項12に記載のデータストリームを生成する方法、請求項13に記載のデータストリームを処理する方法、請求項14に記載のコンピュータプログラム、請求項15に記載のデータストリーム、または、請求項17に記載の記憶装置によって達成される。
本発明は、符合化/復号化方式のデコーダ/ディスプレイ側において画像をある程度でサイズ変更することによって、表示された画像の主観的品質を向上できるという知見に基づく。これに関連して、サイズ変更は、単なるズーム操作を意味するものではなく、ズーム操作は画像の解像度ではなく面積に影響を及ぼし、一定のピクセルがディスプレイスクリーンを占めることになる。その代わり、サイズ変更操作は、表示された画像または表示された画像シーケンスの高い解像度をもたらす。送信された画像には含まれず表示された画像に含まれるピクセルは、画像を表示する前にエンコーダからデコーダに送信された情報を用いて算出され、具体的には、たとえば補間によって、送信されたピクセルから導出される。しかしながら、補間によるサイズ変更は、無制限に実施できない。画像の主観的品質は、特定のサイズ変更の範囲内で、サイズ変更を加えていない画像の主観的品質よりもよいとされる。そのサイズ変更の範囲、または、言い換えれば、最適な主観的品質を提供するサイズ変更量は、多数の異なるファクタによる。これらのファクタは、画像自体、低解像度画像のピクセル精度、低解像度画像を符合化するために用いられる符号化アルゴリズムおよびサイズ変更された画像を表示することを目的とするディスプレイ装置の特性などがある。この点を考慮すると、上述の例のファクタ間での複雑な相互依存は、画像データの解像度/精度および伝送/表示設定の全ての組み合わせに有効な特定のサイズ変更量を規定しまたはあらかじめ定義することを不可能にしている。
本発明によれば、サイズ変更情報は供給され、好ましくはデータストリームを生成するユーザによって生成される。下げられた画像解像度を有するデータストリームのユーザまたはジェネレータは、たとえば、何らかの経験的テストを実行することによって、最適なサイズ変更情報を容易に決定することができる。それが一見しただけでは重い負担として見えるとしても、最適なサイズ変更パラメータの決定は、類似の画像マテリアルおよび類似のエンコーダ/デコーダ/ディスプレイ設定のために1度だけ実行されなければならない。
最適なサイズ変更情報をエンコーダ側に供給すること、およびこのサイズ変更情報を好ましくは符合化された画像データとともにデコーダに送信することは、結果的にデコーダ/ディスプレイ側において最適な達成可能な主観的品質をもたらす。したがって、符合化された画像データに加えてサイズ変更情報の本発明の供給は、解像度を上げすぎるサイズ変更操作によって起こる予期せぬ主観的品質の劣化を、回避するために役立つ。このような状況は、フルサイズのビデオ再生が得られるように、ディスプレイ装置が、各受信画像を受信画像の解像度に関係なくディスプレイ装置の解像度に補間するように設定される場合に起こる。このような状況はとりわけ不利であり、その理由は、視聴者が、そのサイズの大きさこそ認識しないが、多すぎる補間アーチファクトを示すかなりぼんやりとした画像に不快感を覚える。
それに対して、本発明のサイズ変更情報の画像データ適応信号伝達は、デコーダが保守的に作動しすぎる場合に起こる状況を減らす。簡単な手順は、サイズ変更を全く行わない。しかしながら、主観的品質が向上する可能性を完全に失ってしまうことは明らかである。この状況は、たとえば5%のサイズ変更度がディフォルトとしてディスプレイ装置に設定された場合にも起こる。この場合、ユーザは少し改善されたことがわかるが、十分な品質から得るものはないだろう。これについては、実現でき、本発明に基づいて信号が送信される。
ビデオ符号化の分野では、デジタル伝送路の必要性が極端に高まってきているため、非常に競争的な市場であることに加えて、利用可能な伝送帯域幅リソースがますます減少するという制限がある。これを考慮して、最終的な目標は、減少する伝送リソースに関して、できる限り帯域幅を低減することである。しかしながら、一方では、製品は、他社の製品と比較して品質が改善されていれば、市場で生存できる。もちろん、他社の製品に勝る利点は、他社の製品と同じ帯域幅のニーズを有するが、他社の製品の品質を上回るといえる場合に、実現することができる。
本発明によって得られる最適な主観的品質のために支払われるべきプライスは、エンコーダ側においてサイズ変更情報の供給、およびデコーダ側においてサイズ変更情報で制御可能な補間器である。加えて、サイズ変更情報は送信される必要がある。この情報は、たとえば、0%から100%の増加間で8つのパーセント比率の信号を送信するために3ビット必要であるように、非常に少ないビット数で送信することができることから、伝送路容量を追加する必要がなくなる。加えて、競争率の高い市場では伝達効率および主観的な表示品質が重要な問題となっているので、エンコーダに関する労力は、問題にはならない。ディスプレイ装置において追加の補間器については、そのような補間器を有しないディスプレイ装置またはデコーダ装置は、簡単にアップグレードできることに留意されたい。他のディスプレイ装置/デコーダに関しては、所定の非適応またはユーザ起動型の設定のもとで作動するそのような装置を既に含んでいるため、そのような追加の補間器で余計な労力が増えることはない。
本発明の好適な実施の形態が添付図面に関して後に説明され、これらの図面としては:
図1は、エンコーダ側においてデータストリームを生成するための装置およびデコーダ側においてデータストリームを処理するための装置を含むデータ処理方式の概要を示し、
図2aは、エンコーダ側において生成するための装置の好適な実施の形態で、
図2bは、デコーダ側において処理するための装置の好適な実施の形態で、
図3は、有限帯域幅を有する伝送路で1以上の画像を送信するためのビットレートを下げるための概略図で、
図4は、サイズ変更度に対する主観的品質の概略図である。
図1のシステムは、エンコーダ側において、符合化された画像データを提供するためのプロバイダ10を含む。符合化された画像データによって表される画像は、画像に含まれる多数のピクセルによって決められる画像解像度を有する。画像プロバイダ10によって生成される画像解像度の画像は、たとえば、図3の画像31になりえる。本発明に基づいて、単一の画像または複数の画像を表している符号化された画像データを有するデータストリームを生成するための装置は、サイズ変更情報サプライヤ11を含む。このサイズ変更情報サプライヤ11は、サイズ変更情報を供給するように作動する。サイズ変更情報は、画像を再生する場合、画像のサイズ変更解像度を決め、そのサイズ変更解像度は画像解像度よりも高い。
好ましくは、サイズ変更情報および符合化された画像データは、データストリームフォーマッタ12に入力される。装置12は、データストリームを形成し、さらにそのデータストリームを伝送路13を介してデータストリームパーサ14に送信する。データストリームパーサ14は、データストリームおよびサイズ変更情報を受信するためのレシーバとして働く。
破線15によって示されるように、サイズ変更情報は、必ずしも単一のデータストリームの範囲内で符合化された画像データとともに送信される必要はない。その代わりに、結果として生じる情報は、別の伝送路を介して送信することができる。このような実施の形態は、データストリームの伝送フォーマットを変更できない場合に好ましい。その場合、結果として生じる情報は、たとえば、同じ伝送路での追加のデータパケットを介してまたは全く別の伝送路を介して送信することができる。この場合、結果として生じる情報は、好ましくは、符合化された画像データのIDを含むため、デコーダ側の装置は、正しいサイズ変更情報を、符合化された画像データを有する特定のデータストリームに割り当てることができる。
デコーダ側においてデータストリームを処理するための装置は、レシーバ14によって供給されるサイズ変更情報に応じて画像をサイズ変更するためのリサイザ16をさらに含む。リサイザ16は、画像解像度を有する画像に基づいてサイズ変更された画像を出力する。データストリームに含まれる画像解像度を有する画像とは対照的に、サイズ変更された画像は、伝送路13を介して送信されたデータストリームにおいて対応する画像のピクセル数より多いピクセル数を有する。リサイザによって生成された画像データは、ディスプレイのユーザに最大の主観的品質ビデオを提供するために、ディスプレイ装置17に入力される。エレメント14および16を含む処理するための装置は、モニタやテレビのようなディスプレイ17に必ずしも含められるとは限らないことは明らかである。リサイザは、汎用プロセッサのためのソフトウェアプラグイン、または、たとえば、ディスプレイドライブ装置のグラフィックボードに設置されているアプリケーション特有のプロセッサのためのアプリケーションプログラムでも代用できる。
図2aは、図1のエンコーダ側において生成するための装置の好適な実施の形態を示す。図2aの装置は、第1の解像度を有する符合化された画像データを受信しているトランスコーダとして働くように作動する。第1の解像度を有するこれらの符合化された画像データは、(パーシャル)デコーダ18a、デシメータ18bおよび(パーシャル)エンコーダ18cを有するトランスコーダに入力される。トランスコーダは、デシメータ18bへの入力として提供される対象解像度と類似している第2の解像度である符合化された画像データを出力する。サイズ変更情報サプライヤ11は、サイズ変更情報を受信するユーザ入力を有する入力装置として図2aの実施の形態において実施される。
あるいは、または、加えて、入力装置11は、補助入力を含む。この入力は、第2の解像度または第1の解像度において符合化された画像データから特定の決定規則によって最適に導出される推定されたサイズ変更情報を受信するように機能する。上述のように、最適な解像度に到達するために複数のファクタ間でかなり複雑な相互依存が起きる。それにもかかわらず、メインファクタは、対象解像度、または、好ましくは、対象解像度(第2の解像度)、もとの解像度(第1の解像度)およびピクセル精度であることが分かっている。このように、サイズ変更操作にとってかなり適切な推定値が、自動的に生成され、さらに、補助入力を介してサイズ変更情報サプライヤ11に入力される。サイズ変更情報は、リサイザ16(図1)を制御する場合、結果的にサイズ変更された画像のより高い解像度をもたらす。好ましくは、サイズ変更情報は、最大のサイズ変更度が100%で、好ましくは75%である。大半の場合、75%を超える画像のサイズ変更は、許容範囲にならず主観的品質が劣化することが分かっている。
データストリームフォーマッタ12は、ストリーミングモードが設定される場合に、トランスミッタとして実施される。好ましくは、サイズ変更情報は、符合化された画像データより前に送信される。ファイル記憶モードの場合、データストリームフォーマッタ12は、ビデオファイルを記憶装置に書き込むように作動する。この場合、サイズ変更情報を符合化されたビデオデータとともに単一のファイルに書き込むことが好ましい。
上述のように、図2aは、符合化された画像データを、第1の解像度から第1の解像度よりも低い第2の解像度に変換するためのトランスコーダ装置を表している。選択された符号化アルゴリズムに応じて、符号化された画像データは、デシメータによるデシメーションを実行するために完全に復号化される必要はない。代わりに、デシメーションは、変換ベースのビデオ符合化アルゴリズムのDCTドメインで実行できる。パーシャルデコーダ18aは、DCTドメインに到達するために必要な全ての復号化ステップを実行するが、最後の変換を実行しない。同様に、パーシャルエンコーダ18cも、最初の変換を実行する必要がないが、(デシメーションされた)DCT係数に基づいて、その符号化操作を始めることができる。
図2bは、符合化されたデータおよびサイズ変更情報を有するデータストリームを処理するための本発明の装置の好適な実施の形態を示す。符合化されたデータは、デコーダ19に入力される。復号化された画像データは、画像解像度において、好ましくは補間器を含むリサイザ16に入力される。補間器は、さらなる入力として、補間器制御を実行するためのサイズ変更情報を受信する。この実施の形態では、サイズ変更情報は、補間器に入力される画像の画像解像度に関して絶対的にまたは相対的に補間器16の出力での解像度を決める。その後、補間器の出力は、ディスプレイ装置18に表示される。
図2bは、補間前の完全な復号化操作の状況を示しているが、特定の符号化アルゴリズムに応じて、補間が最終的なピクセルデータ以外の他のデータにおいて実行できることは明らかである。このような「他のデータ」は、たとえば、デコーダで他の中間値のDCT係数になりえる。
続いて、主観的品質とサイズ変更度、好ましくは図2bの補間器16の補間度とを相互に関連づける概略図を示している図4を参照されたい。本発明の状況では、主観的な画質は、表示解像度、すなわち、表示された画像のサイズにより、さらに、導入された補間ひずみによる。従来技術において知られているように、補間器は、特定の補間規則に基づいて2つの実際に与えられた数値間で数値を算出する。スプライン補間または予測として知られる単側補間を実行するか、あるいは、両側補間も実行することができ、そこにおいて、補間されるべきピクセル値の左および右のピクセルがこの数値を算出するために用いられる。補間値と最初は高い解像度のもとのピクセルであったピクセル値との差は、補間ひずみとして決められる。
当然、画像に含まれる補間ひずみは、補間度が高まるにつれて増加する。この補間ひずみの増加は、主観的品質の劣化をもたらす。
一方、補間は結果的に大きなサイズの画像をもたらし、主観的品質の向上につながる。双方の相反する影響が一緒に加われば、図4の曲線のような曲線を得ることになる。この曲線は、最適な品質ポイントで終了する増加ブランチを有する。この最適な品質ポイントは、関連したサイズ変更値を有し、それは好ましいサイズ変更値である。
サイズ変更度がサイズ変更値を超えて増加する場合、最適な品質は、減少し、最大のサイズ変更値であるべきサイズ変更値に一致する特定の数値でもとの主観的品質に到達する。サイズ変更度が最大のサイズ変更値を超えて増加した場合、追加的な処理が実施されなければ、もとの(小さい)画像より劣化するので、全体の補間はする価値がなかった。これを考慮すると、サイズ変更値を最大のサイズ変更値より小さい数値として選択することが好ましい。
好ましくは、最大の主観的品質をもたらす好ましいサイズ変更値は、追加的情報として決定され、さらに、符合化されたデータを有するデータストリームに入力される。好ましくは、サイズ変更情報が、符合化された画像データから別に送信されない場合、各標準伝送フォーマットで提供される予備フィールドは、「今後のアプリケーション」として保存され、ユーザによって意図されるサイズ変更度を示すサイズ変更情報を入力するために用いられえる。
発明的に、サイズ変更情報または「仮想サイズ」情報は、プレーヤがストリーミングサーバから発生するファイルまたはストリームのための好ましい再生解像度サイズとしてそのような仮想サイズを用いるように、ビデオ情報に追加される。たとえば、図4の図解に基づいて、最も良い仮想サイズを決めるのは、ストリーム/ファイルのクリエータの選択になる。
本発明は、特にフルスクリーンで再生しないことに適している。本発明の装置は、表示された画像を、もとの小さなまたは「切手サイズ」のイメージに代わり、所定の高い解像度に拡大・縮小することが可能になる。所定の仮想サイズは、より良い品質のビデオの印象を与える。したがって、本発明の仮想サイズの伝送は、プレーヤが伝送されたサイズ変更情報によって自動的に調整されるため、プレーヤ自体から再生されるサイズに調整する必要がなくなる。
本発明の好ましいアプリケーションは、http://trailers.divx.com/plugin/index.html.のようなブラウザのプラグインにある。ストリーミング目的などで、オーサは所望の仮想サイズにビデオを符合化することが可能になり、プレーヤプラグインは、ストリームのオーサが意図する解像度まで自動的に拡大・縮小できることになる。
本発明の方法の特定の実現要求によっては、本発明の方法は、ハードウェアまたはソフトウェアで実施することができる。この実施は、本発明の方法が実行されるように、プログラム可能なコンピュータシステムと協働する、それに格納された電子的に読み取り可能な制御信号を有する、デジタル記憶媒体、特に、ディスク、DVDまたはCDを用いて実行することができる。そのため、本発明は、一般に、コンピュータプログラム製品がコンピュータ上で実行されるときに、機械で読み取り可能なキャリアに格納された本発明の方法を実行するためのプログラムコードを有するコンピュータプログラム製品である。言い換えると、本発明は、コンピュータプログラムがコンピュータ上で実行されるときに、少なくとも1つの本発明の方法を実行するためのプログラムコードを有するコンピュータプログラムである。
図1は、エンコーダ側においてデータストリームを生成するための装置およびデコーダ側においてデータストリームを処理するための装置を含むデータ処理方式の概要を示す。 図2aは、エンコーダ側において生成するための装置の好適な実施の形態である。 図2bは、デコーダ側において処理するための装置の好適な実施の形態である。 図3は、有限帯域幅を有する伝送路で1以上の画像を送信するためのビットレートを下げるための概略図である。 図4は、サイズ変更度に対する主観的品質の概略図である。

Claims (17)

  1. 単一の画像または複数の画像を表す符号化された画像データを有するデータストリームを生成するための装置であって、
    前記符合化された画像データを提供するためのプロバイダ(10)であって、前記符合化された画像データによって表される画像は前記画像に含まれるピクセル数によって決められる画像解像度を有する、プロバイダ、および
    サイズ変更情報を供給するためのサイズ変更情報サプライヤ(11)であって、前記サイズ変更情報は前記画像を再生する場合に前記画像のサイズ変更解像度を決め、前記サイズ変更解像度は前記画像解像度より高い、サイズ変更情報サプライヤを含む、装置。
  2. 前記プロバイダ(10)は、第1の解像度における画像を有する入力データストリームを前記画像解像度としての第2の解像度を有する前記符号化された画像データに変換するためのトランスコーダであり、前記第2の解像度は前記第1の解像度より低く、さらに
    前記サイズ変更情報サプライヤ(11)は、前記サイズ変更解像度が、前記第2の解像度より高く、さらに、前記第1の解像度より低いかそれに等しくなるように、前記サイズ変更情報を供給する、請求項1に記載の装置。
  3. 前記サイズ変更情報サプライヤ(11)は、ユーザ入力を受信し、さらに前記サイズ変更情報を生成する、請求項1または請求項2に記載の装置。
  4. 前記サイズ変更情報サプライヤは、画像解像度、ピクセル精度、前記符合化された画像データにおける情報コンテンツ、および/または、前記サイズ変更された画像を再生するためのディスプレイ装置の特性に基づいて、前記サイズ変更情報を決定する、先行する請求項のいずれかに記載の装置。
  5. 前記サイズ変更情報サプライヤは、前記サイズ変更解像度が2倍の画像解像度より低くなるように、前記サイズ変更情報を供給する、先行する請求項のいずれかに記載の装置。
  6. 出力データストリームを得るために前記サイズ変更情報を前記符号化された画像データにアタッチするためのデータストリームフォーマッタ(12)をさらに含む、先行する請求項のいずれかに記載の装置。
  7. 前記第2の解像度における画像のピクセル値あたりのビット数は、前記第1の解像度における画像のピクセル値あたりのビット数に等しい、請求項2に記載の装置。
  8. 単一の画像または複数の画像を表す符号化された画像データを有するデータストリームを処理するための装置であって、
    前記データストリームおよびサイズ変更情報を受信するためのレシーバ(14)であって、前記サイズ変更情報は前記画像を再生する場合に前記画像のサイズ変更解像度を決め、前記サイズ変更解像度は前記符号化された画像データにおける画像の画像解像度より高い、レシーバ、および
    画像解像度を有する画像に基づいてサイズ変更された画像を得るために前記サイズ変更情報に応じて画像をサイズ変更するためのリサイザ(16)を含み、
    前記サイズ変更された画像のピクセル数は前記画像解像度における対応する画像のピクセル数より多い、装置。
  9. 前記リサイザ(16)は補間器を含み、前記補間器は制御可能な補間比率を有し、
    前記サイズ変更情報は補間器制御情報を含み、さらに
    前記レシーバは、前記補間比率を前記補間器制御情報によって決定される数値に設定するために、前記サイズ変更情報を前記補間器に入力する、請求項8に記載の装置。
  10. 前記リサイザ(16)は、前記符合化された画像データを復号化するためのデコーダから、前記画像解像度を決める復号化されたピクセル数を有する単一の復号化された画像または複数の復号化された画像を受信し、さらに
    前記リサイザ(16)は、さらに必要であれば、単一のサイズ変更された画像または複数のサイズ変更された画像を得るために、前記復号化されたピクセルを用いて前記単一の復号化された画像または前記複数の復号化された画像を補間する、請求項8または請求項9に記載の装置。
  11. 前記符号化されたデータストリームをインターネットを介して受信する場合に、前記処理装置を制御するためのアクティブXコントローラをさらに含む、請求項10に記載の装置。
  12. 単一の画像または複数の画像を表す符合化された画像データを有するデータストリームを生成する方法であって、
    前記符合化された画像データを提供する工程(10)であって、前記符合化された画像データによって表される画像は前記画像に含まれるピクセル数によって決められる画像解像度を有する、提供する工程、および
    サイズ変更情報を供給する工程(11)であって、前記サイズ変更情報は前記画像を再生する場合に前記画像のサイズ変更解像度を決め、前記サイズ変更解像度は前記画像解像度より高い、供給する工程を含む、方法。
  13. 単一の画像または複数の画像を表す符合化された画像データを有するデータストリームを処理する方法であって、
    前記データストリームおよびサイズ変更情報を受信する工程(14)であって、前記サイズ変更情報は前記画像を再生する場合に前記画像のサイズ変更解像度を決め、前記サイズ変更解像度は前記符合化された画像データにおける画像の画像解像度よりも高い、受信する工程、および
    画像解像度を有する画像に基づいてサイズ変更された画像を得るために前記サイズ変更情報に応じて画像をサイズ変更する工程(16)を含み、
    前記サイズ変更された画像のピクセル数は前記画像解像度における対応する画像のピクセル数より多い、方法。
  14. コンピュータ上で実行されるときに、請求項12または請求項13に記載の方法を実行するためのプログラムコードを有するコンピュータプログラム。
  15. 単一の画像または複数の画像を表す符合化された画像データを有するデータファイルまたはストリームであって、前記符合化された画像データによって表される画像は前記画像に含まれるピクセル数によって決められる画像解像度を有し、さらに、サイズ変更情報を有し、前記サイズ変更情報は前記画像を再生する場合に画像のサイズ変更解像度を決め、前記サイズ変更解像度は前記画像解像度より高い、データファイルまたはストリーム。
  16. 請求項8に記載の処理するための装置を制御するためのデータファイルまたはストリームであって、前記データファイルまたはストリームは処理するための前記装置に入力される、請求項15に記載のデータファイルまたはストリーム。
  17. 請求項15に記載のデータファイルまたはストリームが格納された記憶装置。
JP2008501171A 2005-03-15 2005-12-13 画像データストリームを生成するための装置および方法ならびに画像データストリームを処理するための装置および方法 Withdrawn JP2008533885A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP05005594A EP1703734A1 (en) 2005-03-15 2005-03-15 Apparatus and method for producing and processing a picture data stream
US11/080,616 US20070009024A1 (en) 2005-03-15 2005-03-15 Apparatus and method for producing a picture data stream and for processing a picture data stream
PCT/EP2005/013364 WO2006097144A1 (en) 2005-03-15 2005-12-13 Apparatus and method for producing a picture data stream and for processing a picture data stream

Publications (1)

Publication Number Publication Date
JP2008533885A true JP2008533885A (ja) 2008-08-21

Family

ID=36061524

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008501171A Withdrawn JP2008533885A (ja) 2005-03-15 2005-12-13 画像データストリームを生成するための装置および方法ならびに画像データストリームを処理するための装置および方法

Country Status (2)

Country Link
JP (1) JP2008533885A (ja)
WO (1) WO2006097144A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010233220A (ja) * 2009-03-29 2010-10-14 Mitsubishi Electric Research Laboratories Inc 第1の符号化フォーマットの入力ビデオを第2の符号化フォーマットの出力ビデオにトランスコードする方法、適応ビデオトランスコーダ、及び第1の符号化フォーマットの入力ビデオを第2の符号化フォーマットの出力ビデオに適応ビデオトランスコードする方法

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009055896A1 (en) 2007-11-02 2009-05-07 Vantrix Corporation System and method for predicting the file size of images subject to transformation by scaling and a change of quality-controlling parameters
WO2009055898A1 (en) 2007-11-02 2009-05-07 Ecole De Technologie Superieure Method and system for generating a quality prediction table for quality-aware transcoding of digital images
US8270739B2 (en) 2007-12-03 2012-09-18 Ecole De Technologie Superieure System and method for quality-aware selection of parameters in transcoding of digital images
US8300961B2 (en) 2008-12-12 2012-10-30 Ecole De Technologie Superieure Method and system for low complexity transcoding of images with near optimal quality
US10609405B2 (en) 2013-03-18 2020-03-31 Ecole De Technologie Superieure Optimal signal encoding based on experimental data
US9661331B2 (en) 2013-03-18 2017-05-23 Vantrix Corporation Method and apparatus for signal encoding realizing optimal fidelity
US9338450B2 (en) 2013-03-18 2016-05-10 Ecole De Technologie Superieure Method and apparatus for signal encoding producing encoded signals of high fidelity at minimal sizes

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4034380B2 (ja) * 1996-10-31 2008-01-16 株式会社東芝 画像符号化/復号化方法及び装置
JPH10257492A (ja) * 1997-03-12 1998-09-25 Matsushita Electric Ind Co Ltd 画像符号化方法および画像復号化方法
US6384862B1 (en) * 1997-03-12 2002-05-07 Telefoaktiebolaget L M Ericsson Imaging system and method for interactive control of image quality
US6782132B1 (en) * 1998-08-12 2004-08-24 Pixonics, Inc. Video coding and reconstruction apparatus and methods
DE10048735A1 (de) * 2000-09-29 2002-04-11 Bosch Gmbh Robert Verfahren zur Codierung und Decodierung von Bildsequenzen sowie Einrichtungen hierzu
JP2005057738A (ja) * 2003-07-18 2005-03-03 Canon Inc 信号処理装置、信号処理方法及びプログラム
US8625680B2 (en) * 2003-09-07 2014-01-07 Microsoft Corporation Bitstream-controlled post-processing filtering

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010233220A (ja) * 2009-03-29 2010-10-14 Mitsubishi Electric Research Laboratories Inc 第1の符号化フォーマットの入力ビデオを第2の符号化フォーマットの出力ビデオにトランスコードする方法、適応ビデオトランスコーダ、及び第1の符号化フォーマットの入力ビデオを第2の符号化フォーマットの出力ビデオに適応ビデオトランスコードする方法

Also Published As

Publication number Publication date
WO2006097144A1 (en) 2006-09-21

Similar Documents

Publication Publication Date Title
US7925097B2 (en) Image display method, image coding apparatus, and image decoding apparatus
US9554132B2 (en) Video compression implementing resolution tradeoffs and optimization
US7072404B2 (en) Decoding apparatus, control method therefor, and storage medium
JP4920110B2 (ja) 画質の改善
JP2008533885A (ja) 画像データストリームを生成するための装置および方法ならびに画像データストリームを処理するための装置および方法
JP2005506816A5 (ja)
US20040258319A1 (en) Spatial scalable compression scheme using adaptive content filtering
EP1725042A1 (en) Fade frame generating for MPEG compressed video data
JP2010011499A (ja) 人間の視覚特性を考慮した映像の符号化装置、復号化装置、符号化方法、及び、復号化方法
CN1372759A (zh) 用于客户机顶设备储存应用的转码
JP2012508485A (ja) Gpu加速を伴うソフトウエアビデオトランスコーダ
JP2004520770A (ja) Fgsエンハンスメント層に対しアクティビティをベースとする周波数重み付けをする方法及びシステム
US20060072667A1 (en) Transcoder for a variable length coded data stream
JP2005507590A5 (ja)
US9560356B2 (en) Image processing apparatus, image processing method, and image processing system
JP2001285867A (ja) Idctミスマッチについて補償するdctドメイン下方変換システム
CN101969557B (zh) 图像记录设备、图像记录方法
JP5841944B2 (ja) スケーラブルな画像符号化および復号化
EP3685587B1 (en) Backward compatible display management metadata compression
JP2007129318A (ja) 画像復号装置
US20070009024A1 (en) Apparatus and method for producing a picture data stream and for processing a picture data stream
JP7434664B2 (ja) 擬似輪郭低減による適応ストリーミング
US8526506B1 (en) System and method for transcoding with quality enhancement
EP1703734A1 (en) Apparatus and method for producing and processing a picture data stream
JP2006525731A (ja) 新標準への移行をサポートする多階層符号化

Legal Events

Date Code Title Description
A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20090123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090309