JP3560946B2 - 動画像情報の圧縮方法およびそのシステム - Google Patents
動画像情報の圧縮方法およびそのシステム Download PDFInfo
- Publication number
- JP3560946B2 JP3560946B2 JP2001337217A JP2001337217A JP3560946B2 JP 3560946 B2 JP3560946 B2 JP 3560946B2 JP 2001337217 A JP2001337217 A JP 2001337217A JP 2001337217 A JP2001337217 A JP 2001337217A JP 3560946 B2 JP3560946 B2 JP 3560946B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- frame
- block
- compression
- difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【発明の属する技術分野】
本発明は、画像情報の予測符号が可能なデータを高い圧縮率で且つ高速で圧縮処理できると同時に、画質の向上をも図ることのできる動画像情報の圧縮方法およびそのシステムに関するものである。
【0002】
【従来の技術】
従来においては、画像信号を一旦別の信号に変換し、次にその変換された信号の統計的な性質を利用して、適当な符号を割り当てて符号化伝送を行なうのが通例である。この場合、1フレーム内の冗長度、例えば規則正しい模様の画像や平坦な画像では、隣接する画素の間の相関が強いので既に符号化された画素の値から次に符号化すべき画素の値をある程度予測でき、予測できなかった成分だけを抽出して符号化することにより大幅な情報圧縮を行なわせる、所謂予測符号化が行なわれている。
【0003】
また、例えばテレビ電話等の動画像では、相続くフレームの画像が非常に似ており時間的な変化が限られていることが多く、このような時間的な冗長度はフレームにまたがる予測を用いたフレーム間予測符号化により除去できるものとされている。このとき、一般的には1個のシンボルに1個の符号語を割り当てるブロック符号を採用し、1フレームをそれより小さな画素ブロックに分割し、それぞれのブロック内では輝度の差が小さくなる性質を利用して情報圧縮に利用する、所謂ブロック符号化処理を採用している。
【0004】
さらに、変換信号に効率の良い符号を割り当ててデータ圧縮を実現させる、所謂エントロピー符号化と、効率的な符号作成方法としてハフマン符号化法が知られている。その代表的なものとして算術符号があり、これはシンボル系列の出現確率に応じて確率数直線を区分分割し、分割された区間内の位置を示す2進小数値をその系列に対する符号とするものであり、符号語を算術演算により逐次的に構成していくものである。
【0005】
加えて、従来においては、画像信号を効率的にコード化する3ステップのブロックコード化システムは、サンプリング、変換および定量化よりなっている。このときの画像信号の平面的な解像度および高周波成分を保持するためには、通常その周波数の最も高い周波数成分の2倍の速度でサンプリングする必要がある。
【0006】
一方、MPEGにおいては、情報量の多い動画像を圧縮するために、できるだけ符号化効率を高くすることが好ましい。このため、従来においては、符号化済みの時間的に過去の画像信号のみを予測信号として用いる前方向予測(Pフレームによる処理)と、過去の画像信号に加えて時間的に未来の画像信号をも予測信号として用いる双方向予測(Bフレームによる処理)が存在する。また、従来のフレーム間予測符号化は、入力画像信号と予測画像信号との差分信号が伝送され、復元側では伝送されてきた差分信号と、既に復元されている予測画像信号とを加えることで原画像を復元する。このように復元側では、予測画像信号が用意されていなければフレーム間の復元が不可能となる。このため、過去と未来の画像信号を予測信号として使用せずに、フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)をフレーム間の予測画像として採用し、これを一定周期毎にフレーム列に挿入することで、画像の途中からの再生やデータエラーに対応させている。
【0007】
【発明が解決しようとする課題】
しかしながら、従来の画像信号情報圧縮方式では、煩雑なブロック符号化法を使用しているため、画像情報、音声情報等の予測符号が可能なデータを高い圧縮率で且つ高速で圧縮処理を行なうことが困難であった。また、動画像圧縮処理において、差分情報を圧縮する場合、すなわち、A1とA2とが近い値と予想され且つA2の情報以前にA1の値を知り得る場合において、A2−A1を0近傍の生起確率が高いと見なして従来のハフマン符号や算術符号等を使い圧縮する方法がとられているため、A1、A2の取り得る値が0〜nとすると、差分A2−A1の取り得る範囲は2n+1通りとなり、2n+1通りのハフマン符号語を準備しなければならない。しかし、実際にA2の取り得る値はn通りであり、n通りの符号は局所的に見ると使用されず、そのためそれだけ冗長な符号となる。さらに、フレーム間の差分が大きくなると画質の劣化が激しくなり、良質な画像が得られない等の問題点を有していた。
【0008】
この他、ブロックサイズを大きくした場合には、圧縮率は向上するが、原画のディテールが失われ、画質が劣化する。特に、一定色の背景と、大きく輝度が異なる細い線で構成されるような原画の場合、細い線が全く失われてしまうような現象が発生していた。
【0009】
さらに、MPEGにおいて、フレーム列に定期的に挿入されるIフレームは、フレーム内符号化で処理されるため、フレーム間の差分をとって符号化されるフレーム間符号化に比べて符号化効率が悪く、発生情報量が多くなることから、例えば高速通信回線が使用できない場合には、Iフレームの挿入頻度に制限がある。また、Iフレームのデータ量は他の差分フレームに比べて2〜10倍と大きいため、通信において要求される一定ビットレート性に反する方式である。すなわち、従来においては、定期的にIフレームをフレーム列に挿入しているため、処理時間がかなり長くなり、復元画像の表示が大幅に遅延している。しかも、それ自身のデータ量が大きいため、回復不可能なデータエラーがIフレームに生じる確率が高くなる。また、そのエラーの結果「基準」であるIフレームの再生(デコード)が不可能になった場合に、特別の工夫を行なっていなければ次のIフレームまで再生が中断してしまう。例えば、画像の再生において、何らかの原因でデータエラーが発生した場合、その小さな影響が拡大して多数のフレーム全体に影響を及ぼし、最悪の場合は再生が中断してしまう。さらに、Iフレームを一定間隔で挿入する従来の方式においては、任意の時間的位置のフレームから再生を開始させる場合に、先ず直近のIフレームを何らかの手段によってサーチし、そこから画像を再生し、目的の時間的位置のフレームに達してから再生画面を表示する必要があり、このIフレームのサーチが非常に手間の掛かるものであった。一方、上述した種々の弊害に対応する特別の工夫を行なえば、デコード処理系の負荷は当然増大する。加えて、再生処理においてもIフレームの再生は負荷が高く、Iフレームの処理能力を満たすための機能が処理系に要求されてしまう。
【0010】
そこで本発明は、叙上のような従来存した問題点に鑑み創出されたもので、画像情報、音声情報等の予測符号が可能なデータを、高い圧縮率で且つ高速で圧縮処理できると同時に、画質の向上をも図ることのできる動画像情報の圧縮方法およびそのシステムを提供することを第1の目的とする。
【0011】
また、ブロックサイズを大きくして圧縮率を向上させた場合であっても、原画のディテールが失われず、画質が劣化することのない動画像情報の圧縮方法およびそのシステムを提供することを第2の目的とする。
【0012】
さらに、再生時でのデータエラーの発生による影響がフレーム全体に及んだり、これによって再生が中断することを防止し、しかも任意の時間的位置のフレームから再生を開始させる場合に、従来の如くまず直近のIフレームを何らかの手段によってサーチし、そこから画像を再生するというような手間の掛かる処理操作を省いて、任意の時間的位置の再生画面を容易に表示することのできる動画像情報の圧縮方法およびそのシステムを提供することを第3の目的とする。
【0013】
【課題を解決するための手段】
このため、本発明の第1の態様である動画像情報の圧縮方法においては、空間的に隣接したフレーム内における画素同士又は時間的に隣接したフレーム間における画素同士を互いに比較してピクセル要素の差分情報を出力させ、出力された差分情報が与えられたパラメータよりも大きい部分であるか又はそれ以外の部分であるかの情報を、ビット・マップへ保存し、該ビット・マップへ保存されたパラメータよりも大きい部分の情報の圧縮処理を行なうことで冗長な情報を削減する動画像情報の圧縮方法であって、
フレーム間圧縮処理の前に、フレーム内の画像をブロック分割し、分割された各ブロックを、該ブロック内の画素の3つの要素によって定義される単一の平面として近似(置換)させたことで、上述した課題を解決した。
【0014】
一方、本発明の第1の態様である動画像情報の圧縮システムにおいては、空間的に隣接したフレーム内における画素同士又は時間的に隣接したフレーム間における画素同士を互いに比較してピクセル要素の差分情報を出力させ、出力された差分情報が与えられたパラメータよりも大きい部分であるか又はそれ以外の部分であるかの情報を、ビット・マップへ保存するビット・マップ情報記録手段と、該ビット・マップ情報記録手段によって保存されたパラメータよりも大きい部分の情報の圧縮処理を行なうことで冗長な情報を削減する情報圧縮手段とを含む動画像情報の圧縮システムであって、
フレーム間圧縮処理の前に、フレーム内の画像をブロック分割し、分割された各ブロックを、該ブロック内の画素の3つの要素によって定義される単一の平面として近似(置換)させるブロック近似手段を有することで、同じく上述した課題を解決した。
【0015】
本発明の第2の態様である動画像情報の圧縮方法においては、フレーム内圧縮処理は、画像全体をフレーム内圧縮方法に基づき、n×m画素(n、mは2以上の整数)のブロックで圧縮して、原画像と圧縮後に伸長した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、パラメータよりも大きい差分が生じるピクセル要素が存在した場合に、そのピクセル要素を含む部分及びその周囲の部分に、より小さいブロックサイズを適用する操作を、指定された最小ブロック単位まで繰り返すことで、同じく上述した課題を解決した。
【0016】
一方、本発明の第2の態様である動画像情報の圧縮システムにおいては、ブロック近似手段において、フレーム内圧縮処理は、画像全体をフレーム内圧縮方法に基づき、n×m画素(n、mは2以上の整数)のブロックで圧縮して、原画像と圧縮後に伸長した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、パラメータよりも大きい差分が生じるピクセル要素が存在した場合に、そのピクセル要素を含む部分及びその周囲の部分に、より小さいブロックを適用する操作を、指定された最小ブロック単位まで繰り返すことで、同じく上述した課題を解決した。
【0017】
本発明の第3の態様である動画像情報の圧縮方法においては、フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)を採用し、このIフレームを予め空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させる際、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新されたフレーム内のブロック位置には、Iブロックを挿入しないことで、同じく上述した課題を解決した。
【0018】
一方、本発明の第3の態様である動画像情報の圧縮システムにおいては、フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)を採用し、このIフレームを予め空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させるIブロック挿入手段を有し、このIブロック挿入手段は、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新されるフレーム内のブロック位置には、Iブロックを挿入しないことで、同じく上述した課題を解決した。
【0019】
本発明の第1の態様である動画像情報の圧縮方法およびそのシステムの基本構造は、予めフレーム内画像をブロック分割し、その分割されたブロックの全てを、各ブロックのピクセル要素の輝度値、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義された単一の平面として近似(置換)させて、フレーム内圧縮処理を効率良く行なうものである。
【0020】
また、本発明の第2の態様である動画像情報の圧縮方法およびそのシステムの基本構造は、画像全体をフレーム内圧縮方法に基づき、n×m画素(n、mは2以上の整数)のブロックで圧縮して、原画像と圧縮後に伸長した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、パラメータよりも大きい差分が生じるピクセル要素が存在した場合に、そのピクセル要素を含む部分及びその周囲の部分に、より小さいブロックサイズを適用する操作を、指定された最小ブロック単位まで繰り返すことで、ブロックサイズを大きくして圧縮率を向上させた場合であっても、原画のディテールが失われず、画質が劣化することを防止するものである。
【0021】
さらに、本発明の第3の態様である動画像情報の圧縮方法およびそのシステムの基本構造は、予めIフレームを空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させる際、フレーム間の差分がパラメー タよりも大きい状態が発生して更新されたフレーム内のブロック位置には、Iブロックを挿入しないので、画像の再生に際し、1画面が完全に完成する予め定められたフレーム数の前から再生を開始し、目的の時間的位置のフレームに達してから再生画面を表示すれば良く、手間の掛かるIフレームのサーチ処理を行なわなくても、任意の時間的位置の再生画面を容易に表示できるものである。
【0022】
加えて、動画配信に際し、配信サーバ並びにデータ通信経路において、配信データ量が時間的に均一化するため、従来の技術を用いたコンテンツを配信する場合よりも高い配信性能が得られる。また、受信・再生側においては、単位時間当たりの受信量変動が小さくなるため、バッファリングに必要なメモリ量を削減でき、再生負荷も一定化することから、能力の低いシステムであっても安定した再生が可能となる。加えて、データエラーの再生に対する影響が小さいので、データエラーを無視して再生を続行することが可能となり、これによって配信側のシステムにおけるデータの再送を不要とし、且つ配信側の負荷を低減できる。さらに、マルチキャスト配信等による動画像放送が容易に実現できるものである。
【0023】
【発明の実施の形態】
まず、本発明の第1の態様である動画像情報の圧縮方法について説明する。
【0024】
すなわち、本発明は、空間的に隣接したフレーム内における画素同士又は時間的に隣接したフレーム間における画素同士を互いに比較してピクセル要素の差分情報を出力させ、出力された差分情報が与えられたパラメータPよりも大きい部分であるか又はそれ以外の部分であるかの情報を、ビット・マップへ保存し、該ビット・マップへ保存されたパラメータPよりも大きい部分の情報の圧縮処理を行なうことで冗長な情報を削減する動画像情報の圧縮方法であって、
フレーム間圧縮処理の前に、フレーム内の画像をブロック分割し、分割された各ブロックを、該ブロック内の画素の3つの要素によって定義される単一の平面として近似(置換)させるものである。
【0025】
さらに、ビット・マップへ保存されたパラメータPよりも大きくない部分の情報は、変化の無い画素として処理(削除)するものである。
【0026】
また、画素の3つの要素によって定義される単一の平面を構成するための近似方法として、平均又は最小二乗法を用いるものである。
【0027】
加えて、フレーム内圧縮処理において、平面は、ブロック内の画素のピクセル要素の輝度値、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義されるものである。
【0028】
また、ビット・マップに保存された情報は、ランレングス、修正READ(MR、MMR)、修正ハフマン(MH)及びJBIG方式からなる群から選択される少なくとも1つの2値画像符号化方法によって情報圧縮されるものである。
【0029】
この他、パラメータPよりも大きい部分の情報は、予測情報数のハフマンテーブルを有する適応ハフマン符号化処理によって情報圧縮されるものである。
【0030】
また、エントロピー符号化によって、フレーム間について冗長な情報をさらに削減するものである。
【0031】
このエントロピー符号化は、予測情報数のハフマンテーブルを有し、その中から予測情報に基づいて選択された1つのテーブルを用いて符号化する適応ハフマン符号化処理又は予測情報数の算術テーブルを有し、その中から予測情報に基づいて選択された1つのテーブルを使用して符号化する適応算術符号化処理によって行なわれるものである。
【0032】
そして、ピクセル要素の差分情報を用いるものである。
【0033】
また、差分情報は、フレーム間における画素tと画素t−1とを比較して出力された差分である。
【0034】
さらに、フレーム間におけるn×m画素(n、mは2以上の整数)を1ブロックとして取り扱ったそれぞれの画素同士を比較して出力された差分情報を用いるものである。
【0035】
また、フレーム内におけるn×m画素(n、mは2以上の整数)を1ブロックとして取り扱い、前記フレーム間における画素tと画素t−1とを比較して出力された差分の情報を用いるものである。
【0036】
加えて、フレーム間におけるn×m画素において、nは2のK乗(Kは自然数)、mは2のK’乗(K’は自然数)である。
【0037】
また、フレーム間圧縮処理の前に、分割ブロックサイズが同一フレーム内で変化するフレーム内圧縮処理を行なうものである。
【0038】
この他、フレーム内圧縮処理は、分割ブロックサイズを変化させながら、各ブロックの画素同士を互いに比較してピクセル要素の差分情報を出力させ、この差分情報がパラメータよりも大きいときは、そのピクセル要素を含む部分に、より小さいブロックサイズを適用するものである。
【0039】
また、ピクセル要素の差分情報がパラメータよりも大きいとき、より小さいブロックサイズの適用を繰り返すものである。
【0040】
さらに、フレーム内圧縮処理は、画像全体をフレーム内圧縮方法に基づき、n×m画素(n、mは2以上の整数)のブロックで圧縮して、原画像と圧縮後に伸長した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、パラメータよりも大きい差分が生じるピクセル要素が存在した場合に、そのピクセル要素を含む部分及びその周囲の部分に、より小さいブロックサイズを 適用する操作を、指定された最小ブロック単位まで繰り返すものである。
【0041】
また、フレーム内圧縮処理をした結果、ブロックサイズに変化が無い場合は、フレーム間圧縮処理を行なうものである。
【0042】
加えて、ブロックサイズが大きくなる方向に変化する場合は、該ブロックのデータを差分をとらずにそのまま出力するものである。
【0043】
また、ブロックサイズが小さくなる方向に変化する場合は、前の伸張データとの差分を各部分について求め、これを該当するブロックサイズにて圧縮するものである。
【0044】
次に、本発明の第1の態様である動画像情報の圧縮システムについて説明する。
【0045】
すなわち、本発明は、空間的に隣接したフレーム内における画素同士又は時間的に隣接したフレーム間における画素同士を互いに比較してピクセル要素の差分情報を出力させ、出力された差分情報が与えられたパラメータPよりも大きい部分であるか又はそれ以外の部分であるかの情報を、ビット・マップへ保存するビット・マップ情報記録手段4と、該ビット・マップ情報記録手段4によって保存されたパラメータPよりも大きい部分の情報の圧縮処理を行なうことで冗長な情報を削減する情報圧縮手段5とを含む動画像情報の圧縮システムであって、
フレーム間圧縮処理の前に、フレーム内の画像をブロック分割し、分割された各ブロックを、該ブロック内の画素の3つの要素によって定義される単一の平面として近似(置換)させるブロック近似手段を有するものである。
【0046】
また、情報圧縮手段5は、ビット・マップ情報記録手段4で保存されたパラメータPよりも大きくない部分の情報を変化の無い画素として処理(削除)するものである。
【0047】
さらに、ブロック近似手段において、画素の3つの要素によって定義される単一の平面を構成するための近似処理として、平均又は最小二乗法を用いるものである。
【0048】
また、ブロック近似手段において、平面は、ブロック内の画素のピクセル要素の輝度値、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義されるものである。
【0049】
加えて、ビット・マップ情報記録手段4により保存される情報は、ランレングス、修正READ(MR、MMR)、修正ハフマン(MH)及びJBIG方式からなる群から選択される少なくとも1つの2値画像符号化処理によって情報圧縮されるものである。
【0050】
また、パラメータPよりも大きい部分の情報の圧縮処理を行なう情報圧縮手段5は、予測情報数のハフマンテーブルを有する適応ハフマン符号化処理を行なうものである。
【0051】
この他、フレーム間の冗長な情報を削減するエントロピー符号化手段6を備え、このエントロピー符号化手段6は、予測情報数のハフマンテーブルの中から予測情報に基づいて選択された1つのテーブルを用いて符号化する適応ハフマン符号化処理又は予測情報数の算術テーブルの中から予測情報に基づいて選択された1つのテーブルを使用して符号化する適応算術符号化処理を行なうものである。
【0052】
また、ビット・マップ情報記録手段4において保存される差分情報は、フレーム内におけるn×m画素(n、mは2以上の整数)を1ブロックとして取り扱い、前記フレーム間における画素tと画素t−1とを比較して出力された差分である。
【0053】
以下に、本発明の第1の態様である動画像情報の圧縮方法およびそのシステムについての一実施の形態を説明する。
【0054】
図1は、動画像情報の圧縮経路の概略を示すブロック図である。例えば、ビデオカメラ、ディスクプレーヤあるいはビデオカセットプレーヤーのようなNTSC方式の装置から出力されたコンポジットのアナログ信号がアナログ・デジタル変換機1でデジタル信号に変換され、ビデオフレームの1本のラインを表わすものとしてデジタル出力され、バッファ2に蓄積される。尚、映像信号として、NTSC方式の装置から出力されたアナログ信号がアナログ・デジタル変換機1でデジタル信号に変換され、デジタル出力されてバッファ2に蓄積される旨が記載されているが、本発明はこれに何等限定されるものではない。すなわち、本発明は、所定の装置から出力される一般的な映像信号を含む全ての映像信号を、効率良く圧縮するものである。
【0055】
また、図1に示すように、エンコーダ圧縮器3は、フレーム間における画素tと、画素t−1とを順次比較し、その差分が与えられた閾値であるパラメータPよりも大きい部分であるか又はそれ以外の部分であるかの情報を1ビットのビット・マップへ保存するためのビット・マップ情報記録手段4を備えている。この画素tと、画素t−1との比較は、ピクセル要素(輝度又は色素等)によって行なう。ここで、tは時間を意味しており、現在tのフレームの画素(画素t)と、これに(フレーム内の位置において)対応する時間的に直前のt−1のフレームの画素(画素t−1)とを比較するものである。しかも、ビット・マップ情報記録手段4により保存された両画素t,t−1の差分がパラメータPよりも大きい部分の情報は圧縮処理を行ない、それ以外の部分の情報はフレーム間で変化の無い画素として処理(削除)する。パラメータPよりも大きい部分の情報は、例えば予測情報数のハフマンテーブルを有する適応ハフマン符号化処理による情報圧縮手段5によって圧縮処理される。そして、エンコーダ圧縮器3は、空間的、時間的に隣接した画素を比較し、差分情報を出力させることでフレーム間について冗長な情報を削減するための、例えば予測情報数の算術テーブルから予測情報をもとに選択される一つの算術テーブルを用いて符号化する適応算術符号化処理を行なうエントロピー符号化手段6を備えている。尚、画素tと画素t−1との差分は、これが与えられたパラメータPよりも大きくない差分であるときは、絶対値としてとらえることができる。また、パラメータPよりも大きいかそうでないかに拘わらず、この差分を絶対値としてとらえることもできる。
【0056】
そして、図2に示すように、符号化(エンコーディング)の後、フレーム毎のブロックデータはビット・マップ情報記録手段4のメモリ10に送られ、ここで1フレーム時間遅延されて直前のフレームとして存在し、次いで、時間変数インパルス応答フィルタであるテンポラルフィルタ11でフィルタされる。フィルタの後、現在のフレームデータ13と直前のフレームデータ14とは、圧縮器によりフレーム間の冗長性について調べられその差が計算される。すなわち、比較手段12により符号化された各ブロックは、直前のフレームの対応するブロックと比較される。各ブロックはそれが変化のあるブロックであるか、それとも直前のブロックに対して変化の無いブロックであるかを定義する単一ビットのマークを付される。この過程によりブロック当たり1ビットのフレーム・ビットマップが作られる。このとき、フレーム毎のビット・マップは、フレーム間の比較により区別される。
【0057】
本実施の形態においては、図5に示すように、予めフレーム内画像をブロック分割し、その分割されたブロックの全てを、各ブロックのピクセル要素の大きさz、ブロックのx方向の傾き、ブロックのy方向の傾きの3つのデータで定義された単一の平面で近似(置換)させている。すなわち、フレーム内圧縮において、画像をまずブロック分割して、これらの分割ブロックを近似するための単一の平面に置き換える。この平面は、各ブロックのピクセル要素、例えばz:輝度の大きさ(輝度値)、x:輝度のx方向の傾き、y:輝度のy方向の傾きの3つの要素で定義することもできる。また、ブロックのピクセル要素の大きさz、ブロックのピクセル要素のx方向の傾き、ブロックのピクセル要素のy方向の傾きでも定義できる。さらに、ブロック内の画素のピクセル要素の大きさz、ブロック間のピクセル要素のx方向の傾き、ブロック間のピクセル要素のy方向の傾きでも定義できる。近似方法としては、例えば平均又は最小二乗法等を適用する。このように削減(圧縮)されたデータは、平面を規定するもので、伸張するとグラデーションを示す平面となる。このとき、ブロックを構成する画素数がsとすれば、フレーム内の圧縮率は3/sとなり、sの増大に伴い圧縮率は向上するが、画質は低下する。尚、ブロックのサイズと形状はn×m画素でn、mは2以上の整数であれば任意である。また、フレーム間におけるn×m画素において、nは2のK乗(Kは自然数)、mは2のK’乗(K’は自然数)としても良い。
【0058】
次に、本実施の形態におけるフレーム間圧縮の基本原理について説明する。
【0059】
すなわち、フレーム間圧縮の第1の方法としては、現フレームtの次のフレーム(t+1)の同一位置のブロックに対し上記フレーム内圧縮を行ない、z:ピクセル要素の輝度値、x:ブロックのx方向の輝度の傾き、y:ブロックのy方向の輝度の傾きの3つの要素において、z(t+1)、x(t+1)、y(t+1)を得る。そして、z(t)、x(t)、y(t)と、z(t+1)、x(t+1)、y(t+1)との二乗平均誤差を算出し、閾値kと比較する。その結果、閾値kを越える場合は、差分ありと判定する。あるいは、z(t)、x(t)、y(t)と、z(t+1)、x(t+1)、y(t+1)に対し、それぞれの閾値kz、kx、kyと比較し、差分が閾値kを越えている場合は、差分ありと判定する。差分ありと判定された場合には、フレーム内のブロックの位置を示すビット・マップにそれをマーキングする。このビット・マップは、前者の場合は1つ、後者の場合は3つ得られる。このビット・マップは0と1の羅列(バイナリデータ)であり、ランレングス圧縮等を使用して圧縮される。また、差分データΔz(t)=z(t+1)−z(t)、Δx(t)=x(t+1)−x(t)、Δy(t)=y(t+1)−y(t)は、エントロピー圧縮される。尚、第1の方法は、伸張を行なわないため、演算は軽いが、演算誤差が蓄積する場合がある。
【0060】
フレーム間圧縮の第2の方法としては、上記フレーム内圧縮の基本原理で圧縮したデータを伸張し、ブロックを構成するそれぞれのピクセル要素のデータを復元する。そして、次のフレーム(t+1)の同一位置のブロックを構成するブロック内の同一位置のピクセル要素のデータと、上記の復元されたピクセル要素のデータの二乗平均誤差を算出し、閾値kと比較する。その結果、閾値kを越える場合は、差分ありと判定する。差分ありと判定された場合には、フレーム内のブロックの位置を示すビット・マップにそれをマーキングする。このビット・マップは0と1の羅列(バイナリデータ)であり、ランレングス圧縮等を使用して圧縮される。また、差分データΔz(t)=z(t+1)−z(t)、Δx(t)=x(t+1)−x(t)、Δy(t)=y(t+1)−y(t)は、エントロピー圧縮される。尚、第2の方法は、伸張を行なうため、演算は重いが、演算誤差は蓄積しない。
【0061】
フレーム間圧縮の第3の方法としては、現フレーム(t)と次のフレーム(t+1)の同一位置のブロックを構成するブロック内の同一位置のピクセル要素のデータの二乗平均誤差を算出し、閾値kと比較する。その結果、閾値kを越える場合は、差分ありと判定する。差分ありと判定された場合には、次のフレーム(t+1)の同一位置のブロックを構成するブロック内の同一位置のピクセル要素のデータとの差分ΔPを求め、これに対して前記フレーム内圧縮を行なう。そして、フレーム内のブロックの位置を示すビット・マップにそれをマーキングする。このビット・マップは0と1の羅列(バイナリデータ)であり、ランレングス圧縮等を使用して圧縮される。また、差分データΔPは、エントロピー圧縮される。尚、第3の方法は、差分判定を行なってから圧縮が行なわれるため、最も演算量が少なく、演算誤差も蓄積されない。
【0062】
また、前記ビット・マップ情報記録手段4により保存された1ビットのビット・マップ情報は、2値画像符号化として、ランレングス、修正READ(MR、MMR)、修正ハフマン(MH)、JBIG等の方式をもって情報圧縮される。具体的には、ランレングス符号化の場合には、一般にファクシミリ等で取り扱う2値の文書画像は白画素あるいは黒画素がある程度固まって出現する場合が多く、1次元方向に白あるいは黒の連続する画素の塊である、所謂ランを符号化の単位とし、その連続した画素数の長さをラン長として符号化するものである。例えば、公衆電話網利用のデジタルファクシミリでは、ランレングスモデルに対して白黒別々に構成した修正ハフマン符号を用いるのが通例である。
【0063】
さらに、修正ハフマン符号化(MH)の場合には、これは例えば画像密度8画素/mmで読み取り、1走査線当たり1728画素の白黒画素情報を得るファクシミリ伝送用1次元符号化方式として採用されており、MH符号とはこの連続した白画素の塊(白ラン)又は黒画素の塊(黒ラン)の長さであるランレングスを表現したもので、ある長さの白ラン、黒ランの発生確率には統計的偏りがあることを利用して可変長符号を割り付けることをデータ量圧縮の原理としている。
【0064】
また、修正READ(MR、MMR)の場合には、これは例えば1次元符号化方式に加えて2次元符号化方式の標準として採用されるもので、MRの場合には、1次元符号化した後に、標準解像度で最大1本、高解像度で最大3本までの連続する走査線を2次元符号化するものであり、MMRの場合では、MR符号化方式を標準解像度、高解像度共に無限大に設定したものである。
【0065】
本発明に係る動画像情報の圧縮方法およびそのシステムの基本構造は、空間的、時間的に隣接した画素(ピクセル)を比較し、差分情報を出力させることでフレーム間について冗長な情報を削減することにある。すなわち、図2に示すように、フレーム間における画素tと、画素t−1とを順次比較し、その差分が与えられた閾値であるパラメータPよりも大きい部分であるか又はそれ以外の部分であるかの情報を1ビットのビット・マップ情報として記録させる。そして、エントロピー符号化手段6は、フレーム内、フレーム間の夫々について出現する符号を予測し、予測からの僅かなズレを出力することで冗長な情報を削減する。このとき、符号化割り当てを行なって符号化伝送するときは、1画素当たりの平均符号長は平均情報量(エントロピー)以下にならないことは周知である。
【0066】
以下に、適応ハフマン符号化法のアルゴリズムについて説明する。適応ハフマン符号化は、差分情報生成とハフマン符号化という一連予測符号化処理を一括して行なうことで、符号語生成の効率化を図るものである。従来のハフマン符号化処理では、通常1つのハフマンテーブルを用いて符号語を生成し、動的ハフマン符号化処理では、1語符号化するたびにハフマンテーブルを更新したりする。これに対し、適応ハフマン符号化では、予測情報数のハフマンテーブル(符号表)を有し、複数のテーブルから予測情報をもとにテーブルセレクタにより1つのテーブルを選択し、これを用いて符号化を行なう。これにより、画像情報、音声情報等の予測符号が可能なデータを効率的に圧縮できるのである。
【0067】
次に、適応算術符号化法のアルゴリズムについて説明する。適応算術符号化は、差分情報生成と算術符号化という一連予測符号化処理を一括で処理することによって、符号語生成の効率化を図るものである。従来の算術符号化処理では、通常1つの生起確率テーブルを用いて符号語を生成し、動的算術符号では、1語符号化するたびに生起確率テーブルを更新したりする。これに対し、適応算術符号化では、予測情報数の算術テーブル(符号表)を有し、複数のテーブルから予測情報をもとにテーブルセレクタにより1つのテーブルを選択し、これを用いて符号化する。これにより、画像情報の予測符号が可能なデータを効率的に圧縮できるのである。
【0068】
具体的な予測符号化回路の構成は、図3に示すように、アナログ・デジタル変換された画像入力データは途中で遅延され、前のデータ(最適な遅延をかけられたデータ)の値がテーブルセレクタに送られて符号化されると同時に、画像入力データを直接に符号化器に伝送させたものと比較されて差分がとられる。テーブルセレクタでは画像入力データに応じて、予測情報を基に符号表が選択されて符号化器へ送られ、そこで画像入力データを情報圧縮させることにより、調整された符号語とする。
【0069】
そして、具体的な予測復号化回路の構成は、図4に示すように、符号語は復号器へ伝送されると同時に、直接に送られた符号語を一旦テーブルセレクタに送り、そこで予測情報をもとに復号表が選択されて前記復号器へ送られ、すでに復号化された画素の値との差分をとることにより、調整された画像出力データとなる。
【0070】
さらに、本発明の第2の態様である動画像情報の圧縮方法について説明する。
【0071】
すなわち、本発明は、空間的に隣接したフレーム内における画素同士又は時間的に隣接したフレーム間における画素同士を互いに比較してピクセル要素の差分情報を出力させ、出力された差分情報が与えられたパラメータPよりも大きい部分であるか又はそれ以外の部分であるかの情報を、ビット・マップへ保存し、該ビット・マップへ保存されたパラメータPよりも大きい部分の情報の圧縮処理を行なうことで冗長な情報を削減する動画像情報の圧縮方法であって、
フレーム間圧縮処理の前に、分割ブロックサイズが同一フレーム内で変化するフレーム内圧縮処理を行なうものである。
【0072】
また、フレーム内圧縮処理は、分割ブロックサイズを変化させながら、各ブロックの画素同士を互いに比較してピクセル要素の差分情報を出力させ、この差分情報がパラメータPよりも大きいときは、そのピクセル要素を含む部分に、より小さいブロックサイズを適用するものである。
【0073】
さらに、ピクセル要素の差分情報がパラメータPよりも大きいとき、より小さいブロックサイズの適用を繰り返すものである。
【0074】
また、フレーム内の画像をブロック分割し、分割された各ブロックを、該ブロック内の画素の3つの要素によって定義される単一の平面として近似(置換)させ、該平面をパラメータPとして用いるものである。
【0075】
加えて、フレーム内圧縮処理において、平面は、ブロック内の画素のピクセル要素の輝度値、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義されるものである。
【0076】
また、フレーム内圧縮処理は、画像全体をフレーム内圧縮方法に基づき、n×m画素(n、mは2以上の整数)のブロックで圧縮して、原画像と圧縮後に伸長した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、パラメータPよりも大きい差分が生じるピクセル要素が存在した場合に、そのピクセル要素を含む部分及びその周囲の部分に、より小さいブロックサイズを適用する操作を、指定された最小ブロック単位まで繰り返すものである。
【0077】
この他、フレーム内圧縮処理をした結果、ブロックサイズに変化が無い場合は、フレーム間圧縮処理を行なうものである。
【0078】
また、ブロックサイズが大きくなる方向に変化する場合は、該ブロックのデータを差分をとらずにそのまま出力するものである。
【0079】
さらに、ブロックサイズが小さくなる方向に変化する場合は、前の伸張データとの差分を各部分について求め、これを該当するブロックサイズにて圧縮するものである。
【0080】
次に、本発明の第2の態様である動画像情報の圧縮システムについて説明する。
【0081】
すなわち、本発明は、ブロック近似手段において、フレーム内圧縮処理は、画像全体をフレーム内圧縮方法に基づき、n×m画素(n、mは2以上の整数)のブロックで圧縮して、原画像と圧縮後に伸長した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、パラメータPよりも大きい差分が生じるピクセル要素が存在した場合に、そのピクセル要素を含む部分及びその周囲の部分に、より小さいブロックを適用する操作を、指定された最小ブロック単位まで繰り返すものである。
【0082】
また、ブロック近似手段において、フレーム内圧縮処理をした結果、ブロックサイズに変化がない場合は、フレーム間圧縮処理を行なうものである。
【0083】
さらに、ブロック近似手段において、フレーム内圧縮処理をした結果、ブロックサイズが大きくなる方向に変化する場合は、当該ブロックのデータを差分をとらずにそのまま出力するものである。
【0084】
また、ブロック近似手段において、フレーム内圧縮処理をした結果、ブロックサイズが小さくなる方向に変化する場合は、前の伸張データとの差分を各部分について求め、これを該当するブロックサイズにて圧縮するものである。
【0085】
以下に、本発明の第2の態様である動画像情報の圧縮方法およびそのシステムについて、図6、図7に基づいて説明する。
【0086】
前述したようにブロックサイズを大きくした場合には、圧縮率は向上するが、原画のディテールが失われ、画質が劣化する。特に一定色の背景と、大きく輝度が異なる細い線で構成されるような原画の場合、細い線が全く失われてしまうような現象が発生する。これを解決するために、以下のような方法を用いる。尚、説明を簡便にするため、16×16画素の白黒画像を前提(一例)として説明する。
【0087】
すなわち、図6に示すように、画像全体を前記したフレーム内圧縮に従い、16×16画素のブロックで圧縮(伸張)する。原画像と圧縮後に伸張した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、閾値d1と比較する。比較した結果、閾値d1を超える差分があるピクセル要素が存在した場合には、そのピクセル要素を含む部分を8×8画素のブロックで圧縮(伸張)する(図6の大円部分)。このとき、周囲も8×8画素で圧縮する。次に、原画像と圧縮後に伸張した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、閾値d2と比較する。比較した結果、閾値d2を超える差分があるピクセル要素が存在した場合には、そのピクセル要素を含む部分を4×4画素のブロックで圧縮(伸張)する(図6の中円部分)。このとき、周囲も4×4画素で圧縮する。さらに、原画像と圧縮後に伸張した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、閾値d3と比較する。比較した結果、閾値d3を超える差分があるピクセル要素が存在した場合には、そのピクセル要素を含む部分を2×2画素のブロックで圧縮(伸張)する(図6の小円部分)。このとき、周囲も2×2画素で圧縮する。このような方法により、高圧縮率を維持しつつ、原画像のディテールを失わずに圧縮が可能となる。
【0088】
次に、上記フレーム内圧縮処理をした結果、フレーム(t)においては図7(イ)、フレーム(t+1)においては図7(ロ)の圧縮画像が得られたとした場合の、フレーム間圧縮処理の方法について説明する。すなわち、ブロックサイズに変化がない1→1’、2→2’に関しては、前記フレーム間圧縮処理において説明したいずれかの方法で差分をとり、フレーム間圧縮を行なう。解像度が粗くなる方向に変化する4→4’については、4’は前のフレームに依存せず単独で伸張可能なキーブロック(キーフレーム)扱いにする。このとき差分はとらない。すなわち、該ブロック4’のデータを差分をとらずにそのまま出力するのである。解像度が密になる方向に変化する3→3’に関しては、3の伸張データとの差分を各部分について求め、これを該当するブロックサイズにて圧縮する。
【0089】
次に、本発明の第3の態様である動画像情報の圧縮方法について説明する。
【0090】
すなわち、本発明は、フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)を採用し、このIフレームを予め空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させるものである。
【0091】
また、空間的にブロック分割したそれぞれのIブロックを各フレーム間の時間軸方向に分散させる際、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新されたフレーム内のブロック位置には、Iブロックを挿入しないものである。
【0092】
さらに、予めフレーム内の画像をブロック分割し、その分割されたブロックの全てを、各ブロックのピクセル要素の輝度値、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義される単一の平面で近似(置換)させると共に、フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)を採用し、Iフレームをフレーム列に挿入することが可能な動画像情報の圧縮方法であって、
Iフレームを予め空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させる際、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新されたフレーム内のブロック位置には、Iブロックを挿入しないものである。
【0093】
また、空間的に隣接したフレーム内における画素同士又は時間的に隣接したフレーム間における画素同士を互いに比較してピクセル要素の差分情報を出力させ、出力された差分情報が与えられたパラメータPよりも大きい部分であるか又はそれ以外の部分であるかの情報を、ビット・マップへ保存し、該ビット・マップへ保存されたパラメータPよりも大きい部分の情報の圧縮処理を行なうことで冗長な情報を削減する動画像情報の圧縮方法であって、
フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)を採用し、このIフレームを予め空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させる際、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新されたフレーム内のブロック位置には、Iブロックを挿入しないものである。
【0094】
さらに、本発明の第3の態様である動画像情報の圧縮システムについて説明する。
【0095】
すなわち、本発明は、フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)を採用し、このIフレームを予め空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させるIブロック挿入手段7を有するものである。
【0096】
また、Iブロック挿入手段7は、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新されるフレーム内のブロック位置には、Iブロックを挿入しないものである。
【0097】
加えて、予めフレーム内画像をブロック分割し、その分割されたブロックの全てを、各ブロックのピクセル要素の輝度値、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義された単一の平面で近似(置換)させるブロック近似手段を有する動画像情報の圧縮システムであって、
フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)を空間的に分割するIブロック化手段8と、この分割したIブロックを各フレーム間の時間軸方向に分散させるに際し、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新されたフレーム内のブロック位置以外の箇所にIブロックを挿入するIブロック挿入手段7とを備えているものである。
【0098】
以下に、本発明の第3の態様である動画像情報の圧縮方法およびそのシステムについて、図8、図9に基づいて説明する。
【0099】
すなわち、途中からの画像再生(デコード)や、再生中に発生したデータエラーに対応するためのエンコード方式である。尚、本方式では、3つ以上のフレーム全体を圧縮対象とする動き予測・補償技術を用いない圧縮アルゴリズムを前提条件とする。まず、フレーム内予測により符号化されたフレームすなわちIフレームを、空間的に単数もしくは複数のブロックに分割し、これらの分割されたIブロックを時間軸方向に分散させる(Iブロック化)。尚、このようなIブロック化におけるブロックサイズや分割形状等は任意に変更でき、しかもランダムに選択しても良い。
【0100】
具体的には、図8に示すように、8×8画素のIフレームを、2×2画素のブロックに空間的に分割して16個のIブロックとし、これらをフレーム列に一定周期毎に挿入させるのであるが、これでは、フレーム間の差分出力が発生した部分(情報量の多い動きのある部分)とIブロック(このブロック自体の発生情報量が他の差分フレームよりも多い)が重なる場合に無駄なIブロックを挿入することとなって情報量が極端に増えるため、回復不可能なデータエラーが、挿入されたIフレームの位置に生じてしまう。これを回避するために、エンコード側の処理速度に問題が無い場合には、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新(差分出力)されたブロックに対しては、Iブロックを挿入しないのである。
【0101】
具体的なエンコード方式について、図9に基づいて説明する。尚、ここでは1つの例として、8×8画素のIフレームを、Iブロック化手段8により1×2画素のブロックに空間的に分割して、32個のIブロックを形成している。一方、画像のフレームは16×16画素を最大ブロックとし、このブロックが8×8画素で構成される動画像を1つの例としている。また、図9では、便宜上、第n+11から第n+32までを省略している。
【0102】
まず、図中の黒色部分で示されるIブロックは、横方向に1×2画素のブロック単位で挿入される。画像右上から最大2×2画素のブロックを更新(差分出力)する必要がある物体(濃灰色部分:物体が背景を進む差分出力ブロック)が、左下に移動して行く。そして、第n+3フレームまでは、通常のIブロック挿入処理が行なわれる。これに対し、第n+3フレームの右上に出現した物体により当該ブロックは更新(差分出力)され、その結果、第n+4フレームに挿入予定であったIブロックは挿入されない(斜線部分)。尚、図中の薄灰色部分は物体が移動したため、もとの背景に戻る差分出力ブロックである。前記Iブロックが挿入されない処理は、この例の場合では第n+7フレーム、第n+8フレームに出現する。すなわち、第n+5フレームでの物体の移動による、もとの背景に戻る差分出力ブロック(薄灰色部分)が、更新される部分として第n+7フレームに1ブロック存在すれば、1×2画素のブロック単位のIブロックのうち、右側の1つのブロックだけがその位置に挿入されない。また、第n+4フレームと第n+5フレームでの物体の移動による、もとの背景に戻る差分出力ブロック(薄灰色部分)が、更新される部分として第n+8フレームに横方向に1×2画素のブロックとなって存在すれば、1×2画素のブロック単位のIブロックがその位置に挿入されない。この場合、Iブロックが挿入されない時間基準(近い過去)は、全てのブロックの位置にIブロックが挿入されるのに必要なフレーム数(8×8÷2=32フレーム)である。つまり、32フレーム以内に物体の動き等によって更新(差分出力)された位置のブロックには、Iブロックが挿入されないのである。一方、任意の時間的位置のフレームから再生を開始させるには、1画面が完全に完成する予め定められたフレーム数前からデコードを開始し、目的の時間的位置のフレームに達してから再生画面を表示すれば良い。
【0103】
【発明の効果】
本発明の第1の態様による動画像情報の圧縮方法およびそのシステムによれば、予めフレーム内画像をブロック分割し、その分割されたブロックの全てを、各ブロックのピクセル要素の輝度値、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義された単一の平面として近似(置換)させて、フレーム内圧縮処理を効率良く行なうものである。また、画像情報の予測符号が可能なデータを高い圧縮率で且つ高速で圧縮処理をすることができ、画質・音質の劣化の低減を図っている。特に、従来においては、フレーム間の差分を大きくとると、画質が激しく劣化していたが、本発明の第1の態様によれば、画質の劣化を低減できるのである。すなわち、本発明の第1の態様によれば、ブロック内閾値に対して画質が急激に悪化せず、画質にリニアな変化を与えることができる。これにより、画質を悪化させずに通信ビットレートを容易に調整することができ、しかも、圧縮率も見た目では同様な画質を得ながら、約−20%〜50%程度の改善が可能となった。また、適応ハフマン圧縮処理や適応算術圧縮処理は、従来の差分情報生成とハフマン符号化又は差分情報生成と算術符号化という一連予測符号化処理を一括で処理し、符号語の効率化を図ることができ、画像情報の予測符号が可能なデータを効率的に圧縮できる。この他、本発明の第1の態様により削減(圧縮)されたデータは、平面を規定するもので、伸張するとグラデーションを示す平面となる。
【0104】
本発明の第2の態様による動画像情報の圧縮方法およびそのシステムによれば、ブロックサイズを大きくして圧縮率を向上させた場合であっても、原画のディテールが失われず、画質の劣化の低減を図ることができる。特に一定色の背景と、大きく輝度が異なる細い線で構成されるような原画の場合であっても、細い線が全く失われてしまうような事態を確実に防止できるのである。
【0105】
本発明の第3の態様による動画像情報の圧縮方法およびそのシステムによれば、予めIフレームを空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させる際、フレーム間の差分が発生して更新されたフレーム内のブロック位置には、Iブロックを挿入しないので、画像の再生に際し、1画面が完全に完成する予め定められたフレーム数の前から再生を開始し、目的の時間的位置のフレームに達してから再生画面を表示すれば良く、手間の掛かるIフレームのサーチ処理を行なわなくても、任意の時間的位置の再生画面を容易に表示できる。加えて、動画配信に際し、配信サーバ並びにデータ通信経路において、配信データ量が時間的に均一化するため、従来の技術を用いたコンテンツを配信する場合よりも高い配信性能が得られる。また、受信・再生側においては、単位時間当たりの受信量変動が小さくなるため、バッファリングに必要なメモリ量を削減でき、再生負荷も一定化することから、能力の低いシステムであっても安定した再生が可能となる。加えて、データエラーの再生に対する影響が小さいので、データエラーを無視して再生を続行することが可能となり、これによって配信側のシステムにおけるデータの再送を不要とし、且つ配信側の負荷を低減できる。さらに、マルチキャスト配信等による動画像放送が容易に実現できるものである。
【図面の簡単な説明】
【図1】動画像情報の圧縮経路の概略を示したブロック図である。
【図2】ビットマップ情報記録手段に記録されている情報の比較経路の概略を示したブロック図である。
【図3】符号化経路の概略を示した説明図である。
【図4】復号化経路の概略を示した説明図である。
【図5】分割した画像ブロックを近似させるための、ブロックのピクセル要素の輝度値z、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義された平面を示す説明図である。
【図6】パラメータよりも大きい差分が生じるピクセル要素が存在したとき、その部分及び周囲の部分に、より小さいブロックサイズを適用する操作を説明した画像の平面図である。
【図7】フレーム間圧縮を説明するための画像を示しており、(イ)はフレーム(t)の平面図、(ロ)はフレーム(t+1)の平面図である。
【図8】Iフレームを構成する複数のIブロックを示した平面図である。
【図9】フレーム間におけるIブロックの挿入状態を示した説明図である。
【符号の説明】
1…アナログ・デジタル変換機 2…バッファ
3…エンコーダ圧縮器 4…ビット・マップ情報記録手段
5…情報圧縮手段 6…エントロピー符号化手段
7…Iブロック挿入手段 8…Iブロック化手段
10…メモリ 11…テンポラルフィルタ
12…比較手段 13…現在のフレームデータ
14…直前のフレームデータ
Claims (34)
- 空間的に隣接したフレーム内における画素同士又は時間的に隣接したフレーム間における画素同士を互いに比較してピクセル要素の差分情報を出力させ、出力された差分情報が与えられたパラメータよりも大きい部分であるか又はそれ以外の部分であるかの情報を、ビット・マップへ保存し、該ビット・マップへ保存されたパラメータよりも大きい部分の情報の圧縮処理を行なうことで冗長な情報を削減する動画像情報の圧縮方法であって、
フレーム間圧縮処理の前に、フレーム内の画像をブロック分割し、分割された各ブロックを、該ブロック内の画素のピクセル要素の輝度値、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義される単一の平面として近似(置換)させたことを特徴とする動画像情報の圧縮方法。 - ビット・マップへ保存されたパラメータよりも大きくない部分の情報は、変化の無い画素として処理(削除)する請求項1記載の動画像情報の圧縮方法。
- 画素の3つの要素によって定義される単一の平面を構成するための近似方法として、平均又は最小二乗法を用いる請求項1又は2記載の動画像情報の圧縮方法。
- ビット・マップに保存された情報は、ランレングス、修正READ(MR、MMR)、修正ハフマン(MH)及びJBIG方式からなる群から選択される少なくとも1つの2値画像符号化方法によって情報圧縮される請求項1乃至3のいずれか記載の動画像情報の圧縮方法。
- パラメータよりも大きい部分の情報は、予測情報数のハフマンテーブルを有する適応ハフマン符号化処理によって情報圧縮される請求項1乃至4のいずれか記載の動画像情報の圧縮方法。
- エントロピー符号化によって、フレーム間について冗長な情報をさらに削減する請求項1乃至5のいずれか記載の動画像情報の圧縮方法。
- エントロピー符号化は、予測情報数のハフマンテーブルを有し、その中から予測情報に基づいて選択された1つのテーブルを用いて符号化する適応ハフマン符号化処理又は予測情報数の算術テーブルを有し、その中から予測情報に基づいて選択された1つのテーブルを使用して符号化する適応算術符号化処理によって行なわれる請求項6記載の動画像情報の圧縮方法。
- ピクセル要素の差分情報を用いる請求項1乃至7のいずれか記載の動画像情報の圧縮方法。
- 差分情報は、フレーム間における画素tと画素t−1とを比較して出力された差分である請求項1乃至8のいずれか記載の動画像情報の圧縮方法。
- フレーム間におけるn×m画素(n、mは2以上の整数)を1ブロックとして取り扱ったそれぞれの画素同士を比較して出力された差分情報を用いる請求項1乃至9のいずれか記載の動画像情報の圧縮方法。
- フレーム内におけるn×m画素(n、mは2以上の整数)を1ブロックとして取り扱い、前記フレーム間における画素tと画素t−1とを比較して出力された差分の情報を用いる請求項1乃至10のいずれか記載の動画像情報の圧縮方法。
- フレーム間におけるn×m画素において、nは2のK乗(Kは自然数)、mは2のK’乗(K’は自然数)である請求項1乃至11のいずれか記載の動画像情報の圧縮方法。
- フレーム間圧縮処理の前に、分割ブロックサイズが同一フレーム内で変化するフレーム内圧縮処理を行なう請求項1乃至12のいずれか記載の動画像情報の圧縮方法。
- フレーム内圧縮処理は、分割ブロックサイズを変化させながら、各ブロックの画素同士を互いに比較してピクセル要素の差分情報を出力させ、この差分情報がパラメータよりも大きいときは、そのピクセル要素を含む部分に、より小さいブロックサイズを適用する請求項13記載の動画像情報の圧縮方法。
- ピクセル要素の差分情報がパラメータよりも大きいとき、より小さいブロックサイズの適用を繰り返す請求項13又は14記載の動画像情報の圧縮方法。
- フレーム内圧縮処理は、画像全体をフレーム内圧縮方法に基づき、n×m画素(n、mは2以上の整数)のブロックで圧縮して、原画像と圧縮後に伸長した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、パラメータよりも大きい差分が生じるピクセル要素が存在した場合に、そのピクセル要素を含む部分及びその周囲の部分に、より小さいブロックサイズを適用する操作を、指定された最小ブロック単位まで繰り返す請求項13乃至15のいずれか記載の動画像情報の圧縮方法。
- フレーム内圧縮処理をした結果、ブロックサイズに変化が無い場合は、フレーム間圧縮処理を行なう請求項13乃至16のいずれか記載の動画像情報の圧縮方法。
- ブロックサイズが大きくなる方向に変化する場合は、該ブロックのデータを差分をとらずにそのまま出力する請求項13乃至16のいずれか記載の動画像情報の圧縮方法。
- ブロックサイズが小さくなる方向に変化する場合は、前の伸張データとの差分を各部分について求め、これを該当するブロックサイズにて圧縮する請求項13乃至16のいずれか記載の動画像情報の圧縮方法。
- フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)を採用し、このIフレームを予め空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させる請求項1乃至19のいずれか記載の動画像情報の圧縮方法。
- 空間的にブロック分割したそれぞれのIブロックを各フレーム間の時間軸方向に分散させる際、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新されたフレーム内のブロック位置には、Iブロックを挿入しない請求項20記載の動画像情報の圧縮方法。
- 空間的に隣接したフレーム内における画素同士又は時間的に隣接したフレーム間における画素同士を互いに比較してピクセル要素の差分情報を出力させ、出力された差分情報が与えられたパラメータよりも大きい部分であるか又はそれ以外の部分であるかの情報を、ビット・マップへ保存するビット・マップ情報記録手段と、該ビット・マップ情報記録手段によって保存されたパラメータよりも大きい部分の情報の圧縮処理を行なうことで冗長な情報を削減する情報圧縮手段とを含む動画像情報の圧縮システムであって、
フレーム間圧縮処理の前に、フレーム内の画像をブロック分割し、分割された各ブロックを、該ブロック内の画素のピクセル要素の輝度値、ブロックのx方向の輝度の傾き、ブロックのy方向の輝度の傾きの3つのデータで定義される単一の平面として近似(置換)させるブロック近似手段を有することを特徴とする動画像情報の圧縮システム。 - 情報圧縮手段は、ビット・マップ情報記録手段で保存されたパラメータよりも大きくない部分の情報を変化の無い画素として処理(削除)する請求項22記載の動画像情報の圧縮システム。
- ブロック近似手段において、画素の3つの要素によって定義される単一の平面を構成するための近似処理として、平均又は最小二乗法を用いる請求項22又は23記載の動画像情報の圧縮システム。
- ビット・マップ情報記録手段により保存される情報は、ランレングス、修正READ(MR、MMR)、修正ハフマン(MH)及びJBIG方式からなる群から選択される少なくとも1つの2値画像符号化処理によって情報圧縮される請求項22乃至24のいずれか記載の動画像情報の圧縮システム。
- パラメータよりも大きい部分の情報の圧縮処理を行なう情報圧縮手段は、予測情報数のハフマンテーブルを有する適応ハフマン符号化処理を行なう請求項22乃至25のいずれか記載の動画像情報の圧縮システム。
- フレーム間の冗長な情報を削減するエントロピー符号化手段を備え、このエントロピー符号化手段は、予測情報数のハフマンテーブルの中から予測情報に基づいて選択された1つのテーブルを用いて符号化する適応ハフマン符号化処理又は予測情報数の算術テーブルの中から予測情報に基づいて選択された1つのテーブルを使用して符号化する適応算術符号化処理を行なう請求項22乃至26のいずれか記載の動画像情報の圧縮システム。
- ビット・マップ情報記録手段において保存される差分情報は、フレーム内におけるn×m画素(n、mは2以上の整数)を1ブロックとして取り扱い、前記フレーム間における画素tと画素t−1とを比較して出力された差分である請求項22乃至27のいずれか記載の動画像情報の圧縮システム。
- ブロック近似手段において、フレーム内圧縮処理は、画像全体をフレーム内圧縮方法に基づき、n×m画素(n、mは2以上の整数)のブロックで圧縮して、原画像と圧縮後に伸長した画像における画素同士を互いに比較して各ピクセル要素の差分情報を出力させ、パラメータよりも大きい差分が生じるピクセル要素が存在した場合に、そのピクセル要素を含む部分及びその周囲の部分に、より小さいブロックを適用する操作を、指定された最小ブロック単位まで繰り返す請求項22乃至28のいずれか記載の動画像情報の圧縮システム。
- ブロック近似手段において、フレーム内圧縮処理をした結果、ブロックサイズに変化がない場合は、フレーム間圧縮処理を行なう請求項22乃至29のいずれか記載の動画像情報の圧縮システム。
- ブロック近似手段において、フレーム内圧縮処理をした結果、ブロックサイズが大きくなる方向に変化する場合は、当該ブロックのデータを差分をとらずにそのまま出力する請求項22乃至30のいずれか記載の動画像情報の圧縮システム。
- ブロック近似手段において、フレーム内圧縮処理をした結果、ブロックサイズが小さくなる方向に変化する場合は、前の伸張データとの差分を各部分について求め、これを該当するブロックサイズにて圧縮する請求項22乃至30のいずれか記載の動画像情報の圧縮システム。
- フレーム内符号化で処理されるIフレーム(フレームだけで画像が完成する基準フレーム)を採用し、このIフレームを予め空間的にブロック分割し、この分割したIブロックを各フレーム間の時間軸方向に分散させるIブロック挿入手段を有する請求項22乃至32のいずれか記載の動画像情報の圧縮システム。
- Iブロック挿入手段は、フレーム間の差分がパラメータよりも大きい状態が指定期間内に発生して更新されるフレーム内のブロック位置には、Iブロックを挿入しない請求項33記載の動画像情報の圧縮システム。
Priority Applications (14)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001337217A JP3560946B2 (ja) | 2000-11-01 | 2001-11-01 | 動画像情報の圧縮方法およびそのシステム |
MXPA03006756A MXPA03006756A (es) | 2001-01-30 | 2002-01-30 | Metodo de compresion de informacion de imagen en movimiento y su sistema. |
KR10-2003-7010081A KR20030083703A (ko) | 2001-01-30 | 2002-01-30 | 동화상 정보의 압축 방법 및 그 시스템 |
BR0201500-5A BR0201500A (pt) | 2001-01-30 | 2002-01-30 | Método e sistema para comprimir informação de imagem em movimento |
TW091101708A TW567729B (en) | 2001-01-30 | 2002-01-30 | Method and system for compressing motion image information |
CA002436437A CA2436437A1 (en) | 2001-01-30 | 2002-01-30 | Moving picture information compressing method and its system |
CNB028000056A CN1299510C (zh) | 2001-01-30 | 2002-01-30 | 压缩运动图像信息的方法和系统 |
PCT/JP2002/000713 WO2002063885A1 (en) | 2001-01-30 | 2002-01-30 | Moving picture information compressing method and its system |
RU2003126484/09A RU2003126484A (ru) | 2001-01-30 | 2002-01-30 | Способ и система для сжигания информации движущегося изображения |
AU2002230101A AU2002230101A2 (en) | 2001-01-30 | 2002-01-30 | Moving picture information compressing method and its system |
PCT/JP2002/011362 WO2003039163A1 (en) | 2001-11-01 | 2002-10-31 | Moving picture information compression method and system thereof |
EP02778018A EP1453322A1 (en) | 2001-11-01 | 2002-10-31 | Moving picture information compression method and system thereof |
US10/626,528 US7085424B2 (en) | 2000-06-06 | 2003-07-25 | Method and system for compressing motion image information |
HK04102111A HK1059349A1 (en) | 2001-01-30 | 2004-03-23 | Moving picture information compressing method and its system |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000334440 | 2000-11-01 | ||
JP2000-334440 | 2000-11-01 | ||
JP2001337217A JP3560946B2 (ja) | 2000-11-01 | 2001-11-01 | 動画像情報の圧縮方法およびそのシステム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004122354A Division JP2004254341A (ja) | 2000-11-01 | 2004-04-16 | 動画像情報の圧縮方法およびそのシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002209219A JP2002209219A (ja) | 2002-07-26 |
JP3560946B2 true JP3560946B2 (ja) | 2004-09-02 |
Family
ID=26603269
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001337217A Expired - Fee Related JP3560946B2 (ja) | 2000-06-06 | 2001-11-01 | 動画像情報の圧縮方法およびそのシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3560946B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8270490B2 (en) | 2006-07-06 | 2012-09-18 | Canon Kabushiki Kaisha | Motion vector detection apparatus, motion vector detection method, image encoding apparatus, image encoding method, and computer program |
JP4906458B2 (ja) * | 2006-09-29 | 2012-03-28 | キヤノン株式会社 | 画像符号化装置、画像符号化方法 |
-
2001
- 2001-11-01 JP JP2001337217A patent/JP3560946B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002209219A (ja) | 2002-07-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7085424B2 (en) | Method and system for compressing motion image information | |
US6912318B2 (en) | Method and system for compressing motion image information | |
USRE40783E1 (en) | Adaptive variable-length coding and decoding methods for image data | |
US7109898B2 (en) | Variable length coding method and variable length decoding method | |
US9077960B2 (en) | Non-zero coefficient block pattern coding | |
KR100311295B1 (ko) | 화상처리장치및방법 | |
CA2436437A1 (en) | Moving picture information compressing method and its system | |
US6631161B1 (en) | Method and system for compressing motion image information | |
JP3560946B2 (ja) | 動画像情報の圧縮方法およびそのシステム | |
JPH06292018A (ja) | 高能率符号化装置及び高能率復号化装置 | |
JP2000165873A (ja) | 動画像情報の圧縮方法およびそのシステム | |
EP1453322A1 (en) | Moving picture information compression method and system thereof | |
KR20030083703A (ko) | 동화상 정보의 압축 방법 및 그 시스템 | |
JP3337160B2 (ja) | 画像処理方法及び画像処理装置 | |
JP2004254341A (ja) | 動画像情報の圧縮方法およびそのシステム | |
JP3958033B2 (ja) | 動画像情報の圧縮方法およびそのシステム | |
EP1170956A2 (en) | Method and system for compressing motion image information | |
JP3381007B2 (ja) | 画像処理装置及び画像処理方法 | |
JP3356337B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2001112002A (ja) | 画像サイズ変換可能なデジタル動画像復号装置 | |
JPH10271502A (ja) | 動画像情報の圧縮方法およびそのシステム | |
JPH0923425A (ja) | ピクチャースタンプ用画像圧縮装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040216 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040416 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040525 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040526 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |