JPWO2005125215A1 - 画像データ符号化装置、および符号化方法 - Google Patents

画像データ符号化装置、および符号化方法 Download PDF

Info

Publication number
JPWO2005125215A1
JPWO2005125215A1 JP2006514627A JP2006514627A JPWO2005125215A1 JP WO2005125215 A1 JPWO2005125215 A1 JP WO2005125215A1 JP 2006514627 A JP2006514627 A JP 2006514627A JP 2006514627 A JP2006514627 A JP 2006514627A JP WO2005125215 A1 JPWO2005125215 A1 JP WO2005125215A1
Authority
JP
Japan
Prior art keywords
image data
slice
order
encoding
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006514627A
Other languages
English (en)
Inventor
田平 孝彦
孝彦 田平
大塚 竜志
竜志 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2005125215A1 publication Critical patent/JPWO2005125215A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/127Prioritisation of hardware or computational resources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

1つの画面データ全体に対する符号化割当情報量が不足しても、利用者の注目領域における画質劣化を低減させることを目的とする。複数のスライスによって1つの画面のデータが構成される画像データを符号化する装置が、複数のスライスの画像データを指示された順序、例えば画面中央のスライスを先頭とする順序で選択するスライスデータ選択部と、選択され、符号化された複数のスライス画像データを、該指示された順序とは異なるスライス順序で外部に出力する符号化スライスデータ出力部とを備える。

Description

本発明は画像データの符号化方式に係り、さらに詳しくはMPEG方式における画像(映像)データの符号化において、人の視覚特性に基づいて重要な位置のスライスから符号化を行って、符号化割当情報量が不足しても画質劣化を比較的に低減できる画像符号化装置、および符号化方法に関する。
ビデオ信号高能率符号化方式としてのMPEG方式は、コンピュータ、通信、放送、情報家電、エンターテイメントなど多くの分野に応用可能な符号化方式として広範に用いられている。
MPEG方式では、入力画像(映像)信号を符号化圧縮した後に圧縮後のビットストリームを外部に出力し、例えばDVDやHDDに保存する方法が用いられる。このような画像符号化装置においては、画面を横方向の画素の並びによって構成されるスライスを単位として符号化が行われる。
図1は、MPEG方式における画像符号化装置の従来例における符号化順序の説明図である。同図に示すように1つの画面が水平方向の画素の複数行によって構成されるスライス、例えば10個のスライスに分割され、スライス単位に符号化が行われる。この符号化は従来においては画面の上部から下部、例えばスライス番号で昇順に行われるものであり、生成されたビットストリームもスライス番号の昇順で出力される。
図2は、このような符号化方式を用いる符号化装置の従来例の構成を示すブロック図である。同図において符号化装置1に入力された映像信号に対しては、スライス単位符号化部2によってスライス単位の符号化が行われ、符号化後のデータは符号化ストリームバッファ3に、例えば符号化順に一時的に格納され、1つの画面に対する符号化が終了すると符号化ストリームバッファ3内の符号化データが読み出され、外部に出力すべきビットレートに対応するビットストリームとしてストリーム出力部4から出力される。なお各スライスにはスタートコードが含まれており、これによってスライス単位の符号化が行われる。
図3は、従来の符号化方式における問題点の説明図である。図1、および図2で説明した従来の符号化方式においては、画面上部のスライスから画面下部のスライスに向かって順次スライス単位の符号化が行われるために、符号化時における情報量制御、すなわち例えば空間的に高周波成分を多く含む映像の符号化時に符号量の割当に失敗した場合には、画面下部のスライスに割り当てられるべき情報量が不足し、画面下部の領域全体に画質劣化が生じる可能性がある。図3において、スライスの位置が下、すなわち縦座標の値が小さくなると使用可能な情報量が枯渇し、充分な情報量が各スライスに割り当てられずに符号化時の量子化ステップを粗くせざるを得なくなるために画面下部に画質劣化が生じることになる。なお1つの画面に対する全体の情報量はビットレートによってほぼ決定され、符号化はその全体情報量の範囲で行われる。
次に従来においては、2つの符号化装置を並列動作させて、1つの画面に相当する映像信号を2つに分割し、各符号化装置に処理を分担させるマルチエンコード構成の符号化方式がある。図4は、そのような従来のマルチエンコード構成による画像のスライス単位符号化方式の説明図である。
図4において画面上の複数のスライスは、上部側のスライスと下部側のスライスの2つのグループに分割され、2つの符号化装置A、およびBによってそれぞれスライス単位の符号化が行われるものとすると、符号化装置Aは画面の一番上のスライスから中央のスライスに向かって順次符号化を行い、これに対して符号化装置Bは画面中央部のスライスから画面最下部のスライスに向かって順にスライス単位の符号化を行うことになる。
このようなマルチエンコード構成の符号化方式では、2つの符号化装置に割り当てられるスライスが、画面上の境界部分では、一方の符号化装置Aでは符号化最終位置のスライスとなり、他方の符号化装置Bでは符号化の最初の位置のスライスとなるため、例えば図3と同様に、最終符号化位置でのスライスに対する割当情報量が不足する場合には、画面中央の境界部分に、符号化装置Aと符号化装置Bによる符号化結果の画像データの画質に大きな差が生じる可能性がある。このような差が発生した場合には、画面上の境界部分に線状の画質劣化が発生してしまうという問題点がある。
以上のような画像データの符号化や、その転送に関する従来技術として次の文献がある。
特開平7−203431号公報 「画像処理装置及び方法」 特開平8−242445号公報 「画像信号の符号化方法および伝送方法およびその復号化装置」
特許文献1には、画像を田の字形状に4分割し、各分割画像の中で転送される画素の順番が計算され、4分割画像のそれぞれから画素のデータを1つずつ取り出して転送することによって、画像データ全体を転送できない場合でも受信側で画像の概要を把握できるようにする画像処理方式が開示されている。
特許文献2には、MPEGビデオ符号化においてスライス層に割り当てるマクロブロックの個数を画像の静動に応じて制御し、画質劣化の局所化と抑圧とを実現する画像信号符号化方式が開示されている。
しかしながらこのような従来技術においても、1つの画面に対応する画像データの符号化において任意の位置、例えばユーザが注目する領域のスライスに割り当てられるべき情報量が不足した場合には、注目領域に画質劣化が発生するという問題点を解決することができない。
本発明の目的は、上述の問題点に鑑み、任意の位置、特にユーザが注目する注目領域における画質劣化を最小限に抑えることができる画像符号化装置、および符号化方法を提供することである。
本発明の画像データ符号化装置は、画面の水平方向の画素の並びに対応する複数のスライスによって1つの画面のデータが構成される画像データを符号化する装置であり、少なくともスライスデータ選択手段と、符号化スライスデータ出力手段とを備える。
スライス選択手段は、1画面の画像データを構成する複数のスライスの画像データを指示されたスライス順序で選択するものであり、符号化スライスデータ出力手段は、選択され、符号化された複数のスライス画像データを、前述の指示された順序に対応して、その順序とは異なるスライス順序で外部に出力するものである。
本発明の画像データ符号化方法は、画面の水平方向の画素の並びに対応する複数のスライスによって1画面のデータが構成される画像データを符号化する方法であって、1画面の画像データを構成する複数のスライスの画像データを指示されたスライス順序で選択し、選択され、符号化された複数のスライス画像データを、前述の指示された順序に対応して、その順序とは異なるスライス順序で外部に出力するものである。
次に本発明の画像データマルチエンコードシステムは、1つの画面を上下2つの領域に分割し、その各領域の画像データをそれぞれ符号化する2台の符号化装置を有するシステムであり、各符号化装置が前述の2つに分割された領域のそれぞれに含まれる境界のスライスの画像データを先頭とし、互いに反対方向となる順序で境界のスライスに近いスライスの画像データを優先しながら、スライス画像データを選択し、その画像データの符号化を行うものである。
以上のように本発明によれば、1つの画面を構成する複数のスライスの画像データのうちで、例えばユーザの注目領域のスライスの画像データを先頭とし、その注目領域に近い位置のスライスの画像データを優先させる形式で、複数のスライス画像データを順次選択しながらスライス単位で画像データの符号化が行われ、外部にそれらの符号化後の画像データを出力するときには、外部に出力すべき方式、例えばMPEG方式に基づいた順序でスライス画像データが出力される。
符号化装置の従来例におけるスライス単位符号化順序の説明図である。 符号化装置の従来例の構成を示すブロック図である。 符号化方式の従来例の問題点を説明する図である。 マルチエンコード方式の従来例におけるスライス選択順序の説明図である。 本発明の画像データ符号化装置の原理構成ブロック図である。 は、本発明の符号化装置の第1の実施例の構成を示すブロック図である。 第1の実施例におけるスライス単位符号化順序の説明図である。 第1の実施例における各スライスへの符号化割当情報量を説明する図である。 符号化装置の第2の実施例の構成を示すブロック図である。 第2の実施例におけるスライス単位符号化順序の説明図である。 第2の実施例における映像解析部の全体処理フローチャートである。 図11におけるマクロブロックに対する処理のフローチャートである。 第2の実施例におけるスライス順序並び替え説明図(その1)である。 第2の実施例におけるスライス順序並び替え説明図(その2)である。 注目領域が複数の場合の第2の実施例におけるスライス単位符号化順序の説明図である。 本発明におけるマルチエンコードシステムの実施例の構成ブロック図である。 図16のマルチエンコードシステムにおけるスライス単位符号化順序の説明図である。 マルチエンコードシステムの異なる実施例の構成ブロック図である。 図18のマルチエンコードシステムにおけるスライス単位符号化順序の説明図である。 本発明を実現するためのプログラムのコンピュータへのローディングを説明する図である。
図5は、本発明の画像データ符号化装置の原理構成ブロック図である。この符号化装置10は、画面の水平方向の画素の並びに対応する複数のスライスによって1画面のデータが構成される画像データを符号化する装置であり、スライスデータ選択部11と符号化スライスデータ出力部12とを少なくとも備える。
スライスデータ選択部11は、1画面の画像を構成する複数のスライスの画像データを指示されたスライス順序で選択するものであり、符号化スライスデータ出力部12は、選択され、符号化された複数のスライスデータを、前述の指示された順序に対応して、その順序とは異なるスライス順序で外部に出力するものである。
また本発明の画像データ符号化装置10は、外部から与えられるモード信号に対応して画像データのスライス選択順序を指示する選択順序指示部をさらに備え、選択順序指示部は、画面の中央のスライス画像データを先頭として、その中央スライスに近い位置のスライスの画像データを優先させる形式で選択順序を指示することもできる。
また画像データ符号化装置10は、入力画像データを解析して入力画像データ内の注目領域を検出し、その注目領域に相当するスライスの画像データを先頭として、注目領域に近い位置のスライスの画像データを優先させる形式で、スライスの選択順序を指示する選択順序指示部をさらに備え、またこの選択順序指示部が注目領域として複数の注目領域を検出し、その複数の各注目領域を含み、周辺の複数の周囲画像領域に対する交代的符号化を、その周囲領域の1つに対しては、注目領域に相当するスライス画像データを先頭とし、その注目領域に近い位置のスライスの画像データを優先させる形式で前述の選択順序を指示することもでき、さらに選択順序指示部が注目領域として肌色の画像を含む領域、移動体画像を含む領域、または低・中周波数の画像データを多く含む領域を検出することもできる。
次に本発明の画像データマルチエンコードシステムは、1つの画面を上下2つの領域に分割し、その各領域の画像データをそれぞれ符号化する2台の符号化装置を有するシステムであり、各符号化装置は、2つに分割された領域のそれぞれに含まれる境界のスライスの画像データを先頭とし、互いに反対方向となる順序でその境界のスライスに近い位置のスライス画像データを優先的に選択して画像データの符号化を行うものである。
さらに本発明の画像データ符号化方法は、画面の水平方向の画素の並びに対応する複数のスライスによって1画面のデータが構成される画像データを符号化する方法であり、1画面の画像データを構成する複数のスライスの画像データを指示された順序で選択し、選択され、符号化された複数のスライス画像データを、前述の指示された順序に対応して、その順序とは異なるスライス順序で外部に出力するものである。
本発明においては、この符号化方法を実現するために計算機によって用いられるプログラム、およびそのプログラムを記録した計算機読出し可能可搬型記憶媒体が用いられる。
以下本発明の実施の形態について図面を用いてさらに詳細に説明する。
図6は、本発明の画像データ符号化装置の第1の実施例の構成を示すブロック図である。同図を図2の従来例の符号化装置と比較すると、図2の構成要素に相当するスライス単位符号化部22、符号化ストリームバッファ23、およびストリーム出力部24に加えて、スライス選択部21、スライス入力順序指示部25、およびスライス出力順序指示部26が備えられている。そしてスライス入力順序指示部25の内部には順序指示部27が備えられている。
図6にその構成を示す第1の実施例では、外部から符号化装置20に与えられるモード指示信号に対応してスライスの選択順序が決定され、スライス画像データの符号化が行われるものとする。この第1の実施形態では、このモード指示信号による指示の結果として画面中央部のスライスを先頭とし、その中央のスライスに近い位置のスライスの画像データを優先させながら画像データが符号化される。その理由は、本実施形態においては基本的に画面内でユーザが注目する注目領域における画質劣化を防ぐために、まずその注目領域のスライスを最も優先的に符号化し、次にその周囲のスライスの画像データを、注目領域のスライスに近い位置のスライスを優先させながら選択して画像データの符号化を行うものとし、第1の実施形態では、ユーザが画面の中央付近を注視する傾向があることに基づいて、画面中央部のスライスを先頭として符号化を行うものである。
なお、本発明の請求の範囲1におけるスライスデータ選択手段は図6のスライス選択部21に、符号化スライスデータ出力手段はスライス出力順序指示部26およびストリーム出力部24に、また請求の範囲2における選択順序指示手段は順序指示部27に相当する。
図7は、この画面中央部の注目領域のスライスの画像データを先頭に、周囲のスライスの画像データを、注目領域に近い位置のスライスから優先的に符号化を行うスライス単位符号化順序の説明図である。同図においてまず注目領域、ここではM番目のスライスを先頭としてその下のスライス、すなわち(M+1)番目、次に(M−1)番目のスライスというように、注目領域に含まれるスライス、またはそれに近いスライスから優先的に画像データの符号化が行われ、最終的に最上部、または最下部のスライスの画像データの符号化が行われる形式となっている。なお図7で注目領域は画面の左側に片寄っているように示されているが、これは中央付近にスライス番号が記入されているためであり、特に意味はない。
すなわち図6において、モード指示信号として画面中央部のスライスを先頭とするスライス選択を行うべきことが順序指示部27に与えられると、順序指示部27は画面中央部のスライスを先頭として、図7に示されるような順序のスライス選択をスライス選択部21に指示する。スライス選択部21は入力される映像信号から、指定された切出しスライス順序にしたがってスライスを選択し、選択されたスライスをスライス単位符号化部22に与える。
スライス単位符号化部22からストリーム出力部24までの動作は基本的に図2の従来例におけると同様であり、スライス単位符号化部22によってスライス毎に符号化された符号化データは符号化ストリームバッファ23に一時的に格納され、例えば1画面の符号化データが揃ったところで、ストリーム出力部24によって、例えば外部に出力すべきビットレートに従ったビットストリームとして外部に出力される。
ストリーム出力にあたっては、スライス出力順序指示部26からストリーム出力部24にスライス出力順序が指示され、その順序に従った出力が行われる。スライス出力順序指示部26に対しては、スライス入力順序指示部25内の順序指示部27から送り出しスライス順序、すなわち切り出しスライス順序に対応して決定される送り出しスライス順序が与えられる。そして符号化ストリームバッファ23に符号化の順序に従って格納された符号化スライスデータを、MPEG方式に準拠して画面上部のスライスからスライス番号の昇順に従って画面の下部に向かって順次出力するためのスライス単位の符号化データの並べ替えの順序が、スライス出力順序としてストリーム出力部24に与えられることになる。
図8は、この第1の実施形態における各スライスへの符号化割当情報量の説明図である。注目領域、ここでは画面中央部のスライスから符号化を開始するために、画面中央部のスライスに対する割当情報量を多めに設定し、画面中央部における画質劣化を最小限に抑え、その分画面最上部、または最下部のスライスに割り当てる情報量を少なめにすることによって、全体としての符号化情報量を抑制しながら画質劣化領域を画面上部、または下部のようなユーザが注視することの少ない領域に限定、かつ分散させることが可能となる。
図9は、本実施形態における符号化装置の第2の実施例の構成ブロック図である。この第2の実施例では、第1の実施例においては画面の中央部のスライスを先頭として、中央部のスライスに近いスライスから優先させて符号化を行うのに対して、任意の位置のスライスから任意の順番で符号化を行うものができるものとする。
すなわち第2の実施例では、第1の実施例において画面の中央部をユーザが注視する傾向があることを前提に中央部のスライスから符号化を行うのに対して、1つの画面の画像データからユーザが注目すると考えられる注目領域を検出し、その注目領域のスライスを先頭として符号化が行われる。
このような注目領域としては、人間の視覚特性としてその感度が特に肌色に敏感であることに基づいて、肌色の画像を含む領域を注目領域として検出したり、あるいは人間の視覚特性が移動体を追跡する傾向があるため、画面上で移動物体の含まれる画像領域を注目領域として検出したり、あるいは人間の視覚解像度が高周波画像データの領域よりも低周波から中周波領域の方に敏感な傾向があるため、そのような低周波、あるいは中周波の画像データを多く含む領域を注目領域として検出するものとする。
図9の符号化装置の第2の実施例を図6の第1の実施例と比較すると、スライス入力順序指示部25の内部に、入力映像信号を解析して注目領域を検出する映像解析部28が追加されている点が異なっている。そしてこの映像解析部28によって検出された注目領域の位置に対応して、その位置のスライスを先頭とし、例えばその位置に近いスライスを優先させて選択し、スライス単位の符号化を行うものとする。順序指示部27は、そのような符号化順序を切り出しスライス順序としてスライス選択部21に指示し、同時にスライス出力順序指示部26に送り出しスライス順序を与え、第1の実施例と同様にストリーム出力部24によって符号化後のデータが、例えばMPEG方式に準拠した順序でビットストリームとして外部に出力される。なお請求の範囲4における選択順序指示手段は図9の映像解析部28と順序指示部27に相当する。
図10は、注目領域が画面の最下部にある場合のスライス単位の符号化順序の説明図である。同図においては注目領域が画面の最下部に存在するため、最下部のスライス、すなわちN番目のスライスからスライス番号が降順になるように、すなわち画面の上部に向かう順序でスライス単位の符号化が行われる。
第2の実施例では、前述のように映像解析部28によって画面上の注目領域が検出される点に特徴があるため、この注目領域の検出を行う映像解析部28の処理と、その処理に対応して符号化を行うべきスライス選択順序の変更について図11から図14を用いて説明する。
図11は、映像解析部による処理の全体フローチャートである。同図において記号SNoはスライス番号、SNoMaxはスライス番号の最大値、MBはマクロブロックを表すものとしてその処理を説明する。まずステップS1でスライス番号が0とされ、その最大値が例えば10とされた後に、ステップS2でスライス番号がその最大値未満であるか否かが判定され、未満であればステップS3でマクロブロックプロセスが実行される。このプロセスについては図12で説明するが、ある1つのスライスの中である評価対象データの値がある閾値を越えるマクロブロック、例えば肌色の画素の数がある閾値を超えるマクロブロックの数がいくつあるかを評価値として検出するものである。この評価値としては肌色となるような輝度信号と色信号の組合せに基づいた値を用いたり、注目領域として動画像領域を用いる場合には、動きベクトル信号に対応する値を用いることも可能である。
ある1つのスライス、最初はスライス番号が0のスライスに対するマクロブロックプロセスが終了すると、ステップS4でスライス番号がインクリメントされ、ステップS2以降が繰り返され、ステップS2でスライス番号がその最大値未満でないと判定された時点で処理を終了する。
図12は、図11のステップS3におけるマクロブロックプロセスの詳細処理フローチャートである。同図においてMNoはマクロブロックの番号、MNoMaxはその最大値、SigValは評価対象データの値、THは評価対象データに対する閾値、A[SNo]はスライス番号SNoに対する評価値を表すものとして処理を説明する。
まずステップS10でマクロブロックの番号が0、その最大値が例えば20とされ、ステップS11でマクロブロックの番号がその最大値未満であるか否かが判定され、未満である時にはステップS12で評価対象データの値が閾値を超えているか否かが判定され、超えている場合にはステップS13で現在処理対象となっているスライス番号のスライスに対する評価値がインクリメントされた後に、閾値を超えていない場合には直ちにステップS14でマクロブロックの番号がインクリメントされ、ステップS11以降の処理が繰り返され、ステップS11でマクロブロックの番号がその最大値未満でないと判定された時点で図11のステップS4の処理に移行する。
図13、および図14は、スライスに対する評価値に応じたスライス符号化順序の並び替えの説明図である。図13は、並び替えの前のスライスの番号0から9に対する評価値を示し、例えばスライス番号6に対する評価値が最大となっていることがわかる。
図14は、この評価値に対応したスライスに対する符号化順序の並び替えの説明図である。図13で説明したようにスライス番号6のスライスに対する評価値が最大であり、そのスライスを先頭として評価値が大きい順に、すなわち図14では上から順番に各スライス番号のスライスに対応するデータの符号化が行われる。
図15は、第2の実施例において注目領域が1つだけでなく、複数存在する場合のスライス単位符号化順序の説明図である。例えば、図13でスライスに対する評価値をスライス番号に対応して並べた時に、最大の評価値を持つスライスが2ヶ所に存在することも当然考えられる。そのような場合には注目領域が2つ存在するものとして、例えば注目領域1と注目領域2とのそれぞれの周辺のスライスを交代させながら、各注目領域に近いスライスを優先させてスライス単位の符号化を行うことによって、各注目領域、およびその周辺のスライスの画像データに対する画質劣化を低減させることができる。
図15においては、例えば注目領域1が注目領域2より優先順位が高いと決定されたものとして、まず注目領域1の周辺、次に注目領域2の周辺というようにスライス単位の符号化を行い、最後に最上部のスライス、最下部のスライスの順序で符号化を行うことによって、情報量が不足しても画質劣化の起こる領域を画面最上部、または最下部に限定することが可能となる。
このように第2の実施例では注目領域を検出し、注目領域のスライスを優先させる形式でスライス単位の符号化が行われるが、これに類似した考え方としてスライスの符号化後の情報量が大きいスライスを優先させてスライス符号化順序を決定する実施形態も考えられる。すなわちスライスの選択順序として符号化後のデータ量が大きいスライスを、符号化後のデータ量が小さいスライスより優先して符号化処理を行うことにより、符号化後のデータ量が大きいスライスに対する符号化割当情報量の不足を防止することができる。
図16は、本実施形態におけるマルチエンコードシステムの実施例の全体構成ブロック図である。同図において2つの符号化装置20、20の動作は、全体制御部30によって制御されるものとする。そしてこれらの2つの符号化装置はともに第1の実施例、すなわち図6に示す構成を持つものとし、全体制御部30の内部のモード指示部32からのモード指示に対応して動作するものとする。モード指示部32に対しては、モード設定部31によって動作モードの設定が行われる。
図17は、図16のマルチエンコードシステムにおけるスライス単位符号化順序の説明図である。本実施形態においては、図4で説明した従来例のように単純にMPEG方式に従って2つの符号化装置がそれぞれ画面の上部から中央部に、また中央部から下部に向かってスライス番号の昇順にデータの符号化を行うのに比較して、例えば符号化装置20は中央部のスライスを先頭として上部に向かって、すなわちスライス番号の降順に符号化を行い、符号化装置20は画面の中央部のスライスからスライス番号の昇順に下部に向かって順次符号化を行うことによって、従来例のように画面中央部に線状の画質劣化を生ずることがなく、符号化開始位置を非常に近くし、かつ例えば図8で説明したように符号化開始位置(中央部)のスライスに対して十分な情報量を割り当てることが可能となり、画面の中央付近を注視する傾向があるという人間の視覚特性にも適合した符号化を実現することができる。
本実施形態におけるマルチエンコードシステムでは、図16に示したように2つの符号化装置の代わりに、それ以上の台数の符号化装置を用いた符号化を行うことも可能である。図18は、そのようなマルチエンコードシステムの構成ブロック図である。同図においては、4台の符号化装置20から20が用いられ、図16におけると同様にモード指示部32から各符号化装置に対してモード指示が与えられることによって、1つの画面データに対応する符号化が行われる。
図19は、図18のシステムにおけるスライス単位の符号化順序の説明図である。同図において符号化装置20は画面の上部から1/4の位置のスライスを先頭として画面上部に向かって、符号化装置20は画面中央部のスライスから上部に向かって、符号化装置20は画面中央部のスライスから下部に向かって、符号化装置20は画面上部から3/4の位置のスライスから下部に向かって、それぞれ4つに分割された各領域のスライスに対する符号化を行うことになる。
以上において本発明の画像データ符号化装置および符号化方法についてその詳細を説明したが、この画像データ符号化装置は当然一般的なコンピュータシステムを基本として構成することが可能である。図20はそのようなコンピュータシステム、すなわちハードウェア環境の構成ブロック図である。
図20においてコンピュータシステムは中央処理装置(CPU)50、リードオンリメモリ(ROM)51、ランダムアクセスメモリ(RAM)52、通信インタフェース53、記憶装置54、入出力装置55、可搬型記憶媒体の読取り装置56、およびこれらの全てが接続されたバス57によって構成されている。
記憶装置54としてはハードディスク、磁気ディスクなど様々な形式の記憶装置を使用することができ、このような記憶装置54、またはROM51に図11、図12のフローチャートに示されたプログラムや、本発明の特許請求の範囲9のプログラムなどが格納され、そのようなプログラムがCPU50によって実行されることにより、本実施形態における注目領域の検出、注目領域のスライスを先頭とするスライス単位符号化、マルチエンコードシステムにおける画像劣化防止などが可能となる。
このようなプログラムは、プログラム提供者58からネットワーク59、および通信インタフェース53を介して、例えば記憶装置54に格納されることも、また市販され、流通している可搬型記憶媒体60に格納され、読取り装置56にセットされて、CPU50によって実行されることも可能である。可搬型記憶媒体60としてはCD−ROM、フレキシブルディスク、光ディスク、光磁気ディスク、DVDなど様々な形式の記憶媒体を使用することができ、このような記憶媒体に格納されたプログラムが読取り装置56によって読取られることにより、本実施形態における注目領域のスライスを先頭とする符号化などが可能となる。
本発明は、例えばMPEG方式を用いて画像(映像)信号を符号化圧縮してビットストリームに変換する符号化装置の製造産業は当然のこととして、そのような符号化方式を用いるすべての産業において利用可能である。

Claims (11)

  1. 1. 画面の水平方向の画素の並びに対応する複数のスライスによって、1つの画面のデータが構成される画像データを符号化する装置であって、
    該1画面の画像データを構成する複数のスライスの画像データを指示されたスライス順序で選択するスライスデータ選択手段と、
    該選択され、符号化された複数のスライス画像データを、該指示された順序に対応して、該順序とは異なるスライス順序で外部に出力する符号化スライスデータ出力手段とを備えることを特徴とする画像データ符号化装置。
  2. 2. 請求の範囲1記載の画像データ符号化装置において、
    前記スライス画像データの選択順序を外部から与えられるモード信号に対応して指示する選択順序指示手段をさらに備えることを特徴とする画像データ符号化装置。
  3. 3. 請求の範囲2記載の画像データ符号化装置において、
    前記選択順序指示手段が、画面中央のスライス画像データを先頭とし、該中央のスライスに近い位置のスライスの画像データを優先させる形式で選択順序を指示することを特徴とする画像データ符号化装置。
  4. 4. 請求の範囲1記載の画像データ符号化装置において、
    入力画像データを解析して、該入力画像データ内の注目領域を検出し、該注目領域に相当するスライスの画像データを先頭とし、該注目領域に近い位置のスライスの画像データを優先させる形式で、前記スライス画像データの選択順序を指示する選択順序指示手段をさらに備えることを特徴とする画像データ符号化装置。
  5. 5. 請求の範囲4記載の画像データ符号化装置において、
    前記選択順序指示手段が、前記注目領域として複数の注目領域を検出し、該複数の各注目領域を含み、該注目領域の周辺の複数の周囲領域に対する交代的な符号化を、該周囲領域の1つに対しては注目領域に相当するスライス画像データを先頭とし、該注目領域に近い位置のスライスの画像データを優先させる形式で前記選択順序を指示することを特徴とする画像データ符号化装置。
  6. 6. 請求の範囲4、または5記載の画像データ符号化装置において、
    前記選択順序指示手段が前記注目領域として肌色の画像を含む領域、移動体画像を含む領域、または低・中周波数画像データを多く含む領域を検出することを特徴とする画像データ符号化装置。
  7. 7. 1つの画面を上下2つの領域に分割し、該各領域の画像データをそれぞれ符号化する2台の符号化装置を有するシステムであって、
    該各符号化装置が、前記2つに分割された領域のそれぞれに含まれる境界のスライスの画像データを先頭とし、互いに反対方向となる順序でスライス画像データを選択し、該画像データの符号化を行うことを特徴するマルチエンコードシステム。
  8. 8. 画面の水平方向の画素の並びに対応する複数のスライスによって、1つの画面のデータが構成される画像データを符号化する方法であって、
    該1画面の画像データを構成する複数のスライスの画像データを指示されたスライス順序で選択し、
    該選択され、符号化された複数のスライス画像データを、該指示された順序に対応して、該順序とは異なるスライス順序で外部に出力することを特徴とする画像データ符号化方法。
  9. 9. 画面の水平方向の画素の並びに対応する複数のスライスによって、1つの画面のデータが構成される画像データを符号化する計算機によって使用されるプログラムであって、
    該1画面の画像データを構成する複数のスライスの画像データを指示されたスライス順序で選択する手順と、
    該選択され、符号化された複数のスライス画像データを、該指示された順序に対応して、該順序とは異なるスライス順序で外部に出力する手順とを計算機に実行させることを特徴とする画像データ符号化プログラム。
  10. 10. 画面の水平方向の画素の並びに対応する複数のスライスによって、1つの画面のデータが構成される画像データを符号化する計算機によって使用される記憶媒体であって、
    該1画面の画像データを構成する複数のスライスの画像データを指示されたスライス順序で選択するステップと、
    該選択され、符号化された複数のスライス画像データを、該指示された順序に対応して、該順序とは異なるスライス順序で外部に出力するステップとを計算機に実行させるプログラムを格納した計算機読出し可能可搬型記憶媒体。
  11. 11. 画面の水平方向の画素の並びに対応する複数のスライスによって、1つの画面のデータが構成される画像データを符号化する装置であって、
    前記複数のスライスの内、符号化後のデータ量が大きいスライスを符号化後のデータ量が小さいスライスより優先した順序にて符号化処理を行うスライスとして選択する選択手段と、
    該選択されたスライスの順序にて符号化処理を行う符号化手段と
    を備えることを特徴とする画像データ符号化装置。
JP2006514627A 2004-06-18 2004-06-18 画像データ符号化装置、および符号化方法 Pending JPWO2005125215A1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2004/008610 WO2005125215A1 (ja) 2004-06-18 2004-06-18 画像データ符号化装置、および符号化方法

Publications (1)

Publication Number Publication Date
JPWO2005125215A1 true JPWO2005125215A1 (ja) 2008-04-17

Family

ID=35510134

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006514627A Pending JPWO2005125215A1 (ja) 2004-06-18 2004-06-18 画像データ符号化装置、および符号化方法

Country Status (3)

Country Link
US (1) US20070053430A1 (ja)
JP (1) JPWO2005125215A1 (ja)
WO (1) WO2005125215A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8223845B1 (en) 2005-03-16 2012-07-17 Apple Inc. Multithread processing of video frames
JP2009540636A (ja) * 2006-06-09 2009-11-19 トムソン ライセンシング ビデオ・ピクチャを符号化するためにビット・バジェットを適応的に求める方法及び装置
US8649615B2 (en) 2007-06-18 2014-02-11 Canon Kabushiki Kaisha Moving picture compression coding apparatus
JP5294688B2 (ja) * 2007-06-18 2013-09-18 キヤノン株式会社 動画像圧縮符号化装置
JP5100311B2 (ja) 2007-10-29 2012-12-19 キヤノン株式会社 動画像データ送信方法、通信装置、及びプログラム
JP5263010B2 (ja) * 2009-06-02 2013-08-14 富士ゼロックス株式会社 画像処理装置、及びプログラム
JP5627424B2 (ja) * 2010-12-01 2014-11-19 三菱電機株式会社 画像符号化装置
JP6206280B2 (ja) * 2014-03-24 2017-10-04 富士通株式会社 動画像符号化装置及び動画像符号化器
US20170094292A1 (en) * 2015-09-28 2017-03-30 Samsung Electronics Co., Ltd. Method and device for parallel coding of slice segments

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0256187A (ja) * 1988-08-22 1990-02-26 Matsushita Electric Ind Co Ltd 動画像符号化装置
EP0495490B1 (en) * 1991-01-17 1998-05-27 Mitsubishi Denki Kabushiki Kaisha Video signal encoding apparatus
JP2919990B2 (ja) * 1991-04-08 1999-07-19 オリンパス光学工業株式会社 画像データ圧縮方式
KR970010091B1 (en) * 1994-06-13 1997-06-21 Lg Electronics Inc Address generating apparatus for image moving compensation
US5995146A (en) * 1997-01-24 1999-11-30 Pathway, Inc. Multiple video screen display system
US7868912B2 (en) * 2000-10-24 2011-01-11 Objectvideo, Inc. Video surveillance system employing video primitives
DE10300048B4 (de) * 2002-01-05 2005-05-12 Samsung Electronics Co., Ltd., Suwon Verfahren und Vorrichtung zur Bildcodierung und -decodierung
JP2003348579A (ja) * 2002-05-23 2003-12-05 Matsushita Electric Ind Co Ltd 画像信号符号化方法および画像信号符合化装置

Also Published As

Publication number Publication date
US20070053430A1 (en) 2007-03-08
WO2005125215A1 (ja) 2005-12-29

Similar Documents

Publication Publication Date Title
JP5674752B2 (ja) 適応型走査を用いる動画の符号化/復号化装置
JP4418762B2 (ja) 画像符号化装置及び画像復号装置及びそれらの制御方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
KR102556461B1 (ko) 향상된 인트라 예측 모드 시그날링
KR102148660B1 (ko) 신규한 평면 예측 모드
US9218640B2 (en) Image processing device for displaying moving image and image processing method thereof
US7340103B2 (en) Adaptive entropy encoding/decoding for screen capture content
US8018994B2 (en) Selecting encoding types and predictive modes for encoding video data
US7912300B2 (en) Image processing apparatus and control method therefor
WO2014054267A1 (ja) 画像符号化装置及び画像符号化方法
US20070053430A1 (en) Image encoding device and method
EP1925150B1 (en) Image encoding apparatus and image encoding method
JP2009505496A (ja) 画像圧縮に関する変換係数の予測
WO2003094113A1 (en) Compression of images and image sequences through adaptive partitioning
US20090310678A1 (en) Image encoding apparatus, method of controlling the same and computer program
US20180324441A1 (en) Method for encoding/decoding image and device therefor
CN102857768B (zh) 色度预测模式候选集的确定方法及设备
JP4829836B2 (ja) 画像符号化装置、画像符号化装置の制御方法、コンピュータプログラム、復号装置、及びコンピュータ可読記憶媒体
US8396308B2 (en) Image coding based on interpolation information
JP4884703B2 (ja) 画像の空間予測符号化方法、符号化装置、復号化方法及び復号化装置
JP6137302B2 (ja) 符号化装置、符号化方法、および符号化プログラム
EP1573677A1 (en) Color image compression with adaptive prediction
KR101818576B1 (ko) 영상 부호화 및 복호화 방법 및 그 장치
JP7340658B2 (ja) 画像符号化装置、画像復号装置、及びプログラム
JP4795160B2 (ja) 画像処理装置及びその制御方法、並びに、コンピュータプログラム及びコンピュータ可読記憶媒体
JP6331972B2 (ja) 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090512

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090929