JP2004023606A - 画像符号化装置および画像符号化方法 - Google Patents
画像符号化装置および画像符号化方法 Download PDFInfo
- Publication number
- JP2004023606A JP2004023606A JP2002178170A JP2002178170A JP2004023606A JP 2004023606 A JP2004023606 A JP 2004023606A JP 2002178170 A JP2002178170 A JP 2002178170A JP 2002178170 A JP2002178170 A JP 2002178170A JP 2004023606 A JP2004023606 A JP 2004023606A
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- image
- target image
- encoding target
- processing unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
Images
Abstract
【解決手段】符号化対象画像を構成する各画像が直前の符号化対象画像を構成する各画像と異なる場合のみ、スイッチ部22が(a)側に切り替わり、マクロブロック単位の符号化対象画像5がフィルタ処理部23へ出力される。フィルタ処理部23では、入力するマクロブロック単位の符号化対象画像5に対して低周波成分を通過させ、高周波成分を遮断するようなフィルタ処理を行う。このため、直前の符号化対象画像を構成する各画像と異なる入力画像の領域においては符号量の増大を招く高周波成分を少なくすることが可能となるので、当該領域の画像の符号量を抑えることが可能となる。
【選択図】 図2
Description
【発明の属する技術分野】
本発明は、画像符号化装置および画像符号化方法に関し、特に、多地点TV会議制御装置(MCU:Multipoint Control Unit)等に含まれる画像符号化装置およびその画像符号化方法に関するもので、複数の画像データの組み合わせにより構成される符号化対象画像を作成するとともに、または前記符号化対象画像の一部に加工を施した符号化対象画像を作成するとともに、前記符号化対象画像の特徴量を示す情報を作成し、前記符号化対象画像の特徴量を示す情報に基づき画像符号化処理を行う画像符号化装置および画像符号化方法に関するものである。
【0002】
【従来の技術】
入力画像の符号化処理は、マクロブロック(16画素×16ライン)単位に行われ、画面上にて左から右へ、または上から下の順番に符号化処理される。入力されたマクロブロック画像データと、参照画像から動き補償処理によって得られるマクロブロック画像データとの差分をとり予測誤差信号が得られる。この予測誤差信号は、8画素×8ラインのブロック単位にてDCT(Discrete Cosine Transform)処理により空間周波数領域に変換される。その際、変換された係数が、低周波領域に集中して発生すればするほど符号化効率は良くなる。変換後の8×8DCT係数は量子化処理され、量子化DCT係数はそれぞれ可変長符号により符号化される。したがって、発生符号量は可変となるため、発生した符号量を監視し、目標の符号量に合わせた量子化制御を行う。
【0003】
量子化制御の従来例として、ITU−T SG15 Experts Group on Very Low BitrateVisual Telephony に記載されるTMN6がある。TMN6は、符号化対象マクロブロックを符号化処理するまでに発生した符号量と目標とする符号量とに基づき、量子化ステップを求め、求めた量子化ステップと直前に処理したマクロブロックの量子化ステップとの差分値を考慮しつつ量子化スケールが±2の範囲におさまるようフィッティングして、量子化ステップを決定する。
【0004】
また、動き補償処理の従来例としては、ISO/IEC JTC1/SC29/WG11 N3908(タイトル:MPEG−4ビデオ Verification Model version 18.0) 3.3.2.2章に記載ものがある。MPEG−4ビデオでは、マクロブロック単位に行う動き補償(以下MVモードと記載)に加え、ブロック単位に行う動き補償(以下4MVモードと記載)がある。4MVモードは、マクロブロックを構成する4つの輝度成分のブロックに対して、それぞれの動きベクトルを用いて予測信号を動き補償することが可能となるものである。参考文献では、まず整数画素単位でMVモードの動き補償を行い動きベクトルを求め、次にマクロブロックの動きベクトルを中心に、水平方向/垂直方向ともに±2画素の検索範囲内にて4MVモードにおける動きベクトルを求めた後、両者の誤差量を比較し、誤差の小さい方を最適モードとして選択している。
【0005】
【発明が解決しようとする課題】
しかし、上述の従来の技術では、複数の画像を組み合わせることにより構成される画像を符号化対象画像とした場合、組み合わされている複数の画像のうちある画像が別の画像に切り替わった際には、その切り替わった新たな画像の符号化処理の負担が大きくなるため、切り替わった画面の符号化処理にて多くの符号量が発生してしまう。その結果、1枚の符号化対象画像に割り当てる符号量が決まっている場合、切り替わっていない他の領域の画像の符号化処理について十分な符号量を割り当てることができなくなるため、十分な画質を得られない、という問題点があった。例えば、4つの画像を組み合わせてそれぞれ4つの領域に表示しているときに、1つの領域の画像が急に新たな別の画像に切り替わった場合には、その画面の符号化処理に要した符号量が一時的に多くなるため、一時的に他の3つの領域の画像の品質が落ちることが考えられる。
【0006】
また、上述の従来の技術では、複数の画像を組み合わせることにより構成される画像を符号化対象画像とした場合、組み合わされている画像の位置情報に基づく動き補償処理の制御を行っていないため、組み合わされている画像の境界が符号化処理単位であるマクロブロック等の境界と一致しない場合、組み合わされている画像と画像の境界を含むマクロブロック上に符号化ノイズが発生することがあり、十分な画質を得られない、という問題点もある。
【0007】
さらに、上述の従来の技術では、複数の画像を組み合わせることにより構成される画像を符号化対象画像とした場合、組み合わされている画像の位置情報に基づく符号化制御を行っていないため、符号化対象画像が動きの少ない画像(静止画像も含む)と、動きの多い画像とから構成されている場合、動きの大きな画像の領域にて多くの符号量が発生してしまうため、静止画像や動きの少ない画像の領域に対しては、粗い量子化処理が施されてしまう。その結果、(静止画像や動きの少ない画像の領域において、十分な画質を得られない、という問題点があった。
【0008】
そこで、本発明は、前記した従来技術の問題点を除去し、複数の画像を組み合わせにより構成される符号化対象画像を符号化するにあたり、符号化対象画像を構成する画像の特徴に基づき符号化処理を行うことより、符号化処理により発生する符号量を目標とする符号量に抑えつつ、十分な画質である復号画像を得られるような符号化ビットストリームを出力する画像符号化装置および画像符号化方法を提供することを目的とする。
【0009】
【課題を解決するための手段】
上記目的を達成するため、本発明では、複数の画像と、前記複数の画像のうちどの画像を符号化対象画像とするのかを示す符号化対象画像構成情報とを入力し、符号化対象画像構成情報に基づき複数の画像より構成される符号化対象画像を作成し、前記符号化対象画像と、前記符号化対象画像の特徴を示す符号化補助情報とを出力する前処理部と、前記符号化対象画像と前記符号化補助情報とを入力し、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号化処理を行う画像符号化処理部と、を有する画像符号化装置であることを特徴とする。
【0010】
特に、前記符号化補助情報は、前記符号化対象画像の特徴として、前記符号化対象画像構成情報と、前記符号化対象画像構成情報の時間的に直前に入力された符号化対象画像構成情報との差異を示しており、前記画像符号化処理部は、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う画像符号化装置であることを特徴とする。
【0011】
また、前記画像符号化処理部は、前記符号化補助情報が、前記符号化対象画像構成情報と前記符号化対象画像構成情報の時間的に直前に入力された符号化対象画像構成情報との間に差異があることを意味する場合、符号化対象画像を構成する画像のうち差異のある画像に対しフィルタ処理を施すことにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う画像符号化装置であることを特徴とする。
【0012】
また、前記画像符号化処理部は、前記符号化補助情報に基づき、符号化対象画像を構成する画像のうちどの画像に差異があるのかを判断し、差異のある画像と、差異のない画像とに対し異なる量子化ステップを設定することにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う画像符号化装置であることを特徴とする。
【0013】
また、前記画像符号化処理部は、さらに、差異のある画像と差異のない画像とに対し異なる符号化モードを設定することにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う画像符号化装置であることを特徴とする。
【0014】
また、前記符号化補助情報は、前記符号化対象画像の特徴として、符号化対象画像を構成する画像と画像との境界が符号化対象画像上のどの位置にあるのかを示しており、前記画像符号化処理部は、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号化処理を行う画像符号化装置であることを特徴とする。
【0015】
特に、前記画像符号化処理部は、前記符号化補助情報に基づき、符号化対象画像を構成する画像と画像との境界を含む符号化処理単位と、当該境界を含まない符号化処理単位とを識別し、当該境界を含む符号化処理単位と、当該境界を含まない符号化処理単位とにおいて異なる動き補償処理の制御を行うことにより符号化対象画像を構成する各画像の符号化処理を行う画像符号化装置であることを特徴とする。
【0016】
また、前記符号化補助情報は、前記符号化対象画像の特徴として、符号化対象画像を構成する複数の画像のうち、どの画像が動きの少ない画像であり、どの画像が動きの多い画像であるかを示しており、前記画像符号化処理部は、前記画像符号化補助情報に基づき符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う画像符号化装置であることを特徴とする。
【0017】
また、前記画像符号化処理部は、前記符号化補助情報に基づき、符号化対象画像に含まれる動きの少ない画像と、動きの多い画像とにおいて異なる量子化ステップを設定することにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う画像符号化装置であることを特徴とする。
【0018】
また、前記画像符号化処理部は、前記符号化補助情報が符号化対象画像を構成する画像と画像の境界を含むことを意味する場合、当該境界を含む符号化処理単位に対してフィルタ処理を施すことにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う画像符号化装置であることを特徴とする。
【0019】
また、本発明は、複数の画像より構成される符号化対象画像と、その符号化対象画像の特徴を示す符号化補助情報とを入力し、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号化処理を行う画像符号化処理部を有する画像符号化装置であることを特徴とする。
【0020】
また、本発明は、複数の画像より構成される符号化対象画像と、その符号化対象画像の特徴を示す符号化補助情報とを入力し、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号化処理を行う画像符号化方法であることを特徴とする。
【0021】
【発明の実施の形態】
実施の形態1.
本実施の形態1は、符号化対象画像構成情報に基づき選択された複数の画像を入力とし、これらを組み合わせることにより作成される符号化対象画像を出力するとともに、符号化対象画像を構成する各画像が、直前の符号化対象画像を構成する各画像と異なるか否かを判断し、判断した結果を符号化補助情報として出力する前処理部と、前記補助情報に基づき前記符号化対象画像の符号化処理を行う画像符号化処理部より構成される画像符号化装置の構成の一例を示すものである。
【0022】
図1は、本実施の形態1に係る前処理部の構成を示した図である。図において、1は符号化対象画像構成情報、2a〜2dは入力画像、3a〜3dはスイッチ、4は符号化対象画像作成部、5は符号化対象画像、9は符号化補助情報作成部、10は符号化補助情報、20は画面構成記憶部、21は直前の符号化対象画像の構成を示す符号化対象画像構成情報である。
【0023】
図2は、本実施の形態1に係る画像符号化処理部の構成を示した図である。図において、5は符号化対象画像、6は差分器、10は符号化補助情報、11は動き補償処理部、12は直交変換/量子化処理部、15はVLC処理部、16は逆直交変換/逆量子化処理部、17は復号画像記憶部、22はスイッチ部、23はフィルタ処理部、24はフィルタ処理が施された符号化対象画像である。
【0024】
次に本実施の形態1に係る前処理部の動作を説明する。
まず、符号化対象画像構成情報1が図1に示すように構成された前処理部に入力される。符号化対象画像構成情報1は、符号化対象画像を構成する入力画像を指定するものである。例えば、符号化対象画像構成情報1が「aとc」を示す場合、スイッチ3aとスイッチ3cがオンになることより、スイッチ3aとスイッチ3cに入力される入力画像2aと2cのみが符号化対象画像作成部4へ出力されて、符号化対象画像作成部4にて入力画像2a,2cにより図3に示すような形に組合されて符号化対象画像が作成される。勿論、符号化対象画像構成情報1が「a,b,c,d」全てを示す場合は、符号化対象画像は4画面になる。
【0025】
なお、本実施の形態1に係る符号化対象画像構成情報1では、「aとb」から「aとc」に切り替わったと仮定して説明を行うものとする。
【0026】
スイッチ3a〜3dでは、符号化対象画像構成情報1に基づき入力画像2a〜2dの制御が行われる。ここでは、符号化対象画像構成情報1が「aとb」から「aとc」に切り替わったので、入力画像2a、2cに対応するスイッチ3a、3cはオン、入力画像2b、2dに対応するスイッチ3b、3dはオフの状態となる。従って,入力画像2aと入力画像2cが、符号化対象画像作成部4に入力されることになる。
【0027】
符号化対象画像作成部4は、入力画像2aと入力画像2cとを、図3に示すような形に組合せることにより符号化対象画像を作成し、作成した符号化対象画像を保持する。
【0028】
符号化補助情報作成部9は、入力される符号化対象画像構成情報1と、画面構成記憶部20に保持されている直前の符号化対象画像の構成を示す符号化対象画像構成情報21とに基づき、符号化対象画像の構成の変化に関する有無を調べる。調べた結果、変化があった場合は「1」、変化がなかった場合は「0」を、符号化の単位であるマクロブロック単位に符号化補助情報として割り当てるものとする。
【0029】
ここで、本実施の形態1では、符号化対象画像構成情報1が、「aとb」から「aとc」に切り替わったと仮定しているため、符号化補助情報作成部9にて作成される画像の切り替えを示す情報の符号化補助情報10は、図4に示すようなものとなる。具体的には、入力画像2aの方は符号化対象画像としては変化がなかったので、そのマクロブロック単位を構成する各画素に符号化補助情報として変化がなかったことを示す「0」がマクロブロック単位にセットされる一方、入力画像2cの方は入力画像2bから変化があったので、そのマクロブロック単位を構成する各画素に符号化補助情報として変化があったことを示す「1」がマクロブロック単位にセットされる。
【0030】
上記のように符号化補助情報10を作成した後、入力される符号化対象画像構成情報1を画面構成記憶部20へ出力する。画面構成記憶部20では、次の符号化対象画像構成情報1と比較をするため、入力される符号化対象画像構成情報1を保持する。
【0031】
次に本実施の形態1に係る画像符号化処理部の動作を説明する。なお、ここに記載する画像符号化処理は、符号化単位であるマクロブロック単位にて行うものとするが、マクロブロック単位に限定する必要はなく、画素単位でも、任意のブロック単位に行うようにしても勿論良い。
【0032】
まず、図2に示すように、画像符号化処理部では、スイッチ部22は、符号化対象となるマクロブロック単位の符号化対象画像5と、該マクロブロックに対応する符号化補助情報10とを入力し、符号化補助情報10に基づき、スイッチング処理を行う。具体的には、符号化補助情報10が「1」を示す場合は(a)側へ、符号化補助情報10が「0」を示す場合は(b)側へスイッチング処理を行うものとする。
【0033】
フィルタ処理部23では、入力されるマクロブロック単位の符号化対象画像5に対して、低周波成分を通過させ、高周波成分を遮断するようなフィルタ処理を行う。フィルタ処理は、マクロブロック全域に対して、垂直方向、水平方向ともに行われるものとする。フィルタ処理が施されたマクロブロック単位の符号化対象画像24は、差分器6に入力され、差分器6にて動き補償処理部11より出力される予測画像との差分画像が算出された後、算出された差分画像は直交変換/量子化処理部12へ出力される。また、スイッチ部22にて(b)側へスイッチング処理がなされた場合は、符号化単位であるマクロブロック単位の符号化対象画像55が差分器6に入力され、差分器6にて動き補償処理部11より出力される予測画像との差分画像が算出された後、算出された差分画像は直交変換/量子化処理部12へ出力される。
【0034】
直交変換/量子化処理部12では、入力される差分画像に対してDCTのような直交変換処理を行った後に量子化処理を行い、処理後の係数データをVLC処理部15と逆直交変換/逆量子化処理部16へ出力する。
【0035】
VLC処理部15では、前記係数データに対して可変長符号化処理を行うとともに、同期信号等の付加情報を所望の位置に格納してビットストリームを作成し、作成したビットストリームと、該マクロブロックの符号化処理に要した符号量とを出力する。
【0036】
逆直交変換/逆量子化処理部16では、逆量子化処理と逆直交変換処理を行うことにより復号画像を作成し、作成した復号画像を復号画像記憶部17へ出力する。
【0037】
復号画像記憶部17では、マクロブロック単位にて入力される復号画像を保持し、1フレーム分の復号画像を記憶する。記憶された1フレーム分の復号画像は、次のフレームの符号化処理を行う際に使用される。
【0038】
動き補償処理部11は、復号画像記憶部17より復号画像を読出し、読出した復号画像と符号化対象画像5とのマッチング処理をマクロブロック単位に行い、マッチング度の高いマクロブロックを予測画像として出力する。
【0039】
以上のように、本実施の形態1によれば、符号化対象画像を構成する各画像が、直前の符号化対象画像を構成する各画像と異なるか否かを判断し、ある画像が異なる、すなわちある画像が新たに切り替わった場合には、当該新たに切り替わった画像にフィルタ処理を施すよう構成したため、直前の符号化対象画像の構成と異なる入力画像の領域においては符号量の増大を招く高周波成分を少なくすることができる。その結果、新たに切り替わった領域の画像の符号量を抑えることが可能となる。その結果、当該領域以外の切り替わりのない画像に対しては十分な符号量を割り当てることが可能となり、十分な画質を得られるという効果がある。
【0040】
実施の形態2.
本実施の形態2は、符号化対象画像構成情報に基づき選択された複数の画像を入力とし、これらを組み合わせることにより作成される符号化対象画像を出力するとともに、符号化対象画像を構成する各画像が、直前の符号化対象画像を構成する各画像と異なるか否かを判断し、判断した結果を符号化補助情報として出力する前処理部と、前記補助情報に基づき前記符号化対象画像の符号化処理を行う画像符号化処理部より構成される画像符号化装置の構成の一例を示すものである。
【0041】
本実施の形態2における前処理部は、実施の形態1に示した前処理部を同様であるため、前処理部の構成、及び動作の説明を省略する。
【0042】
図5は、本実施の形態2に係る画像符号化処理部の構成を示した図である。図において、5は符号化対象画像、6は差分器、10は符号化補助情報、11は動き補償処理部、12は直交変換/量子化処理部、13は量子化ステップ決定部、14は量子化ステップ、15はVLC処理部、16は逆直交変換/逆量子化処理部、17は復号画像記憶部である。
【0043】
次に本実施の形態2に係る画像符号化処理部の動作を説明する。なお、実施の形態1の場合と同様に、ここに記載する画像符号化処理は、符号化単位であるマクロブロック単位にて行うものとして説明するが、マクロブロック単位に限定する必要はなく、画素単位でも、任意のブロック単位に行うようにしても勿論良い。
【0044】
符号化対象画像5は、マクロブロック単位にて差分器6に入力され、動き補償処理部11より出力される予測画像との差分画像を算出した後、算出した差分画像を直交変換/量子化処理部12へ出力する。
【0045】
量子化ステップ決定部13では、符号化対象となっているマクロブロックに対応した符号化補助情報10が入力され、符号化補助情報10に基づき量子化ステップを決定し、決定した量子化ステップを量子化パラメタ14として直交変換/量子化処理部12へ出力する。
【0046】
例えば、切り替え前は図4(a)に示すような入力画像2a,2bが、図4(b)に示すように入力画像2a,2cに切り替わった場合には、図4(c)に示すように入力画像2aのマクロブロックには符号化補助情報10として「0」が設定される一方、入力画像2cのマクロブロックには符号化補助情報10として「1」が設定される。
【0047】
このため、量子化ステップ決定部13では、マクロブロックに対応する符号化補助情報10が「1」の場合、入力画像が切り替わったことを示しているため、直前のマクロブロックの量子化ステップとは関係なく、情報量が小さくなるように常に大きな値の量子化ステップを当該マクロブロックにおける量子化ステップ14として出力するものとする。
【0048】
これに対し、例えば符号化補助情報10が「0」の場合は、従来の技術にて記載したような発生した符号量に基づき量子化ステップを決定し、量子化ステップ14を出力するものとする。
【0049】
直交変換/量子化処理部12では、入力される差分画像に対してDCTのような直交変換処理を行った後、量子化ステップ14を用いて量子化処理を行い、処理後の係数データをVLC処理部15と逆直交変換/逆量子化処理部16とへ出力する。
【0050】
VLC処理部15では、前記係数データに対して可変長符号化処理を行うとともに、同期信号等の付加情報を所望の位置に格納してビットストリームを作成し、作成したビットストリームと、該マクロブロックの符号化処理に要した符号量とを出力する。
【0051】
ここで、ISO/IEC 14496−2:1999FDRAM 1:2000(E)記載のMPEG−4ビデオ符号化方式では、マクロブロック間における量子化スケールは±2の範囲にてのみ更新することができるという制限がある。
【0052】
このため、量子化ステップ決定部13にて、直前のマクロブロックに対する量子化ステップとは関係なく、符号化補助情報10に基づき量子化ステップ14を決定する場合があるため、マクロブロック間における量子化スケールが±2を超えてしまう可能性がある。
【0053】
これを防止するため、本実施の形態2のVLC処理部15では、ISO/IEC 14496−2:1999FDRAM 1:2000(E)記載のMPEG−4ビデオ符号化方式を採用する場合には、該マクロブロックと、直前のマクロブロックに対応する符号化補助情報10とを入力し、直前のマクロブロックに対応する符号化補助情報10が「0」の値を示し、該マクロブロックに対応する符号化補助情報10が「1」の値を示した場合、リシンクマーカ−と呼ばれる同期信号をビットストリームに付加するものとする。リシンクマーカ−を挿入すれば、リシンクマーカ−の前後にあるマクロブロック間における量子化ステップの制限がなくなるため、MPEG−4ビデオのシンタクスに適合したビットストリームを作成し、出力することが可能となる。
【0054】
さて、逆直交変換/逆量子化処理部16では、逆量子化処理と逆直交変換処理とを行うことにより復号画像を作成し、作成した復号画像を復号画像記憶部17へ出力する。
【0055】
復号画像記憶部17では、マクロブロック単位にて入力される復号画像を保持し、1フレーム分の復号画像を記憶する。記憶された1フレーム分の復号画像は、次のフレームの符号化処理を行う際に使用される。
【0056】
動き補償処理部11は、復号画像記憶部17より復号画像を読出し、読出した復号画像と符号化対象画像5とのマッチング処理をマクロブロック単位に行い、マッチング度の高いマクロブロックを予測画像として出力する。
【0057】
以上のように、本実施の形態2によれば、符号化対象画像を構成する各画像が、直前の符号化対象画像を構成する各画像と異なるか否かを判断し、その判断結果に基づき各画像毎に量子化ステップを設定するように構成したため、新たな画像に切り替わった入力画像の領域においては粗い量子化処理を施すことが可能となるため、当該画像が新たに切り替わった領域の画像の符号量を抑えることが可能となる。その結果、当該領域以外の領域の画像に対して十分な符号量を割り当てることが可能となり、十分な画質を得られるという効果がある。
【0058】
なお、本実施の形態2では、量子化ステップを制御することにより符号化対象画像を構成する各画像の符号量を符号化単位であるマクロブロック単位に制御するように説明したが、本発明では、これに限らず、量子化ステップは変えずに符号量が変わるようにイントラモードやインターモードなどの符号化モードをマクロブロック単位に変えることにより符号量を制御したり、さらには、より符号量を的確に制御できるように、量子化ステップの制御と符号化モードの制御等とを同時に行って符号量を制御するようにしても勿論良い。
【0059】
図6に、後者の量子化ステップの制御と符号化モードの制御等とを同時に行って符号量を制御する実施の形態2の画像符号化処理部の構成を示す。図5に示す実施の形態2の画像符号化処理部に対し、さらにモード切り替え器100を設けた構成である。このモード切り替え器100は、符号化対象画像5と符号化補助情報10を入力して、符号化補助情報10が「1」を示す場合は、イントラモードで符号化するため、(a)側に切り替わり、符号化対象画像5を差分器6介さず直交変換/量子化処理部12へ直接出力する一方に、符号化補助情報10が「0」を示す場合は、インターモードで符号化するため、符号化対象画像5を差分器6へ出力する系の(b)側に切り替わる。このように、量子化ステップの制御と符号化モードの制御等とを同時に行って符号量を制御するようにすれば、符号化モードをイントラモードにすると、どうしても多くの符号量が発生してしまい、符号化補助情報10が「0」でインターモードで符号化する画像に悪影響を及ぼすことになるが、これを避けるため、イントラモードで符号化された画像については、大きな量子化ステップを用いて粗い量子化を行うことにより符号量を抑え、インターモードの符号化の画質を保つことができる。
【0060】
実施の形態3.
本実施の形態3は、符号化対象画像構成情報に基づき選択された複数の画像を入力とし、これらを組み合わせることにより作成される符号化対象画像を出力するとともに、符号化対象画像を構成する画像と画像との境界がマクロブロックに含まれるか否かを判断し、判断した結果を符号化補助情報として出力する前処理部と、前記補助情報に基づき前記符号化対象画像の符号化処理を行う画像符号化処理部より構成される画像符号化装置の構成の一例を示すものである。
【0061】
図7は、本実施の形態3に係る前処理部の構成を示した図である。図において、1は符号化対象画像構成情報、2a〜2dは入力画像、3a〜3dはスイッチ、4は符号化対象画像作成部、5は符号化対象画像、9は符号化補助情報作成部、10は符号化補助情報である。
【0062】
図8は、本実施の形態3に係る画像符号化処理部の構成を示した図である。図において、5は符号化対象画像、6は差分器、10は符号化補助情報、11は動き補償処理部、12は直交変換/量子化処理部、15はVLC処理部、16は逆直交変換/逆量子化処理部、17は復号画像記憶部、25は参照領域決定部、26は領域情報、27はモード情報である。
【0063】
次に本実施の形態3に係る前処理部の動作を説明する。
まず、上記実施の形態1,2の場合と同様に、符号化対象画像構成情報1が図7に示す前処理部に入力される。符号化対象画像構成情報1は、符号化対象画像を構成する入力画像を指定するものである。例えば、符号化対象画像構成情報1が「aとbとcとd」を示す場合、スイッチ3a〜3dより入力される入力画像2a〜2dを出力することにより、例えば図9に示すような4画面の形にて組合すことにより、符号化対象画像が作成されるものとする。
【0064】
なお、本実施の形態3に係る符号化対象画像構成情報1は、「aとbとcとd」を示すと仮定して説明を行うものとする。また、本実施の形態3に係る入力画像2a〜2dは、88画素×76ラインより構成されるものとする。
【0065】
スイッチ3a〜3dでは、符号化対象画像構成情報1に基づき入力画像2a〜2dの制御が行われる。ここでは符号化対象画像構成情報1が「aとbとcとd」を示しているので、全てのスイッチ3a〜3dがオンの状態となる。従って入力画像2a〜2dが、符号化対象画像作成部4に入力されることになる。
【0066】
符号化対象画像作成部4は、入力画像2a〜2dを、図9に示すような形に組合せることにより符号化対象画像5を作成し、作成した符号化対象画像5を保持する。
【0067】
符号化補助情報作成部9は、入力される符号化対象画像構成情報1に基づき、マクロブロック毎に入力画像2a〜2dと入力画像2a〜2dとの境界が含まれていないか否かを調べる。調べた結果、水平方向に境界が存在する場合は「1」、垂直方向に境界が存在する場合は「2」、水平/垂直方向共に境界が存在する場合は「3」、境界が存在しない場合は「0」を画像境界位置を示すマクロブロック単位符号化補助情報10として割り当てるものとする。
【0068】
本実施の形態3では、図9に示すように組合せることにより符号化対象画像を作成する。入力画像2a〜2dのサイズは88画素×72ラインであるため、作成される符号化対象画像のサイズは176画素×144ライン(QCIFサイズQuarter Common Intermediate Format)となる。従って、符号化補助情報作成部9にて作成される符号化補助情報10は、図10に示すようなものとなる。
【0069】
図10では、画像と画像との境界にないマクロブロックには符号化補助情報10として「0」と設定され、画像と画像との境界が水平方向に存在するマクロブロックには符号化補助情報10として「1」が設定され、画像と画像との境界が垂直方向に存在するマクロブロックには符号化補助情報10として「2」が設定され、画像と画像との境界が水平/垂直方向共に存在する該マクロブロックには符号化補助情報10として「3」が設定される。
【0070】
次に本実施の形態3に係る画像符号化処理部の動作を説明する。なお、本実施の形態3における画像符号化処理も、基本的にはマクロブロック単位にて行われるものとするが、任意の大きさのブロック単位でも勿論良い。
【0071】
図7に示す前処理部にて作成された符号化対象画像5は、マクロブロック単位にて図8に示す画像符号化処理部の差分器6に入力され、動き補償処理部11より出力される予測画像との差分画像が算出された後、直交変換/量子化処理部12へ出力される。
【0072】
直交変換/量子化処理部12では、入力される差分画像に対してDCT(DiscreteCosine Transform)のような直交変換処理を行った後に量子化処理を行い、処理後の係数データをVLC処理部15と、逆直交変換/逆量子化処理部16とへ出力する。
【0073】
VLC処理部15では、前記係数データに対して可変長符号化処理を行うとともに、同期信号等の付加情報を所望の位置に格納してビットストリームを作成し、作成したビットストリームと該マクロブロックの符号化処理に要した符号量とを出力する。
【0074】
逆直交変換/逆量子化処理部16では、逆量子化処理と逆直交変換処理を行うことにより復号画像を作成し、作成した復号画像を復号画像記憶部17へ出力する。
【0075】
復号画像記憶部17では、マクロブロック単位にて入力される復号画像を保持し、1フレーム分の復号画像を記憶する。記憶された1フレーム分の復号画像は、次のフレームの符号化処理を行う際に使用される。
【0076】
参照領域決定部25では、符号化対象となっているマクロブロックに対応した符号化補助情報10が入力されと、符号化補助情報10に基づき動き補償処理を行う際に使用される、復号画像記憶部17に保持された1フレーム前に処理された復号画像を参照する領域と動き補償処理に関するモードを決定し、それぞれ領域情報26とモード情報27として、動き補償処理部11へ出力する。
【0077】
ここで、ISO/IEC 14496−2:1999FDRAM 1:2000(E)記載のMPEG−4ビデオ符号化方式を用いることを前提とし、参照領域決定部25の動作詳細を説明する。
【0078】
符号化補助情報10が「0」の場合は、境界が存在しない場合であるので、従来の技術にて記載した動き補償を行うため、動き補償のモードは4MVモード及びMVモードのどちらでも良い旨を示す「0」をモード情報27として出力する。参照領域については、該マクロブロックを中心とした水平方向(左方向と右方向)と垂直方向(上方向と下方向)と決定し、領域情報26として出力する。
【0079】
符号化補助情報が「1」の場合は、水平方向に境界が存在する場合で、該マクロブロックの上半分と下半分では絵柄が異なるので、4MVモードを用いて絵柄の似ている領域にて動き補償処理を行った方が効率的である。従って4MVモードを意味する「1」をモード情報27として出力するとともに、該マクロブロックの上半分に存在する2つのブロックについては、該ブロックを中心とした水平方向(左方向と右方向)と上方向のみを、また該マクロブロックの下半分に存在する2つのブロックについては、該ブロックを中心とした水平方向(左方向と右方向)と下方向のみを参照領域と決定し、領域情報26として出力する。
【0080】
符号化補助情報が「2」の場合は、垂直方向に境界が存在する場合で、該マクロブロックの左半分と右半分では絵柄が異なるので、4MVモードを用いて絵柄の似ている領域にて動き補償処理を行った方が効率的である。従って4MVモードを意味する「1」をモード情報27として出力するとともに、該マクロブロックの左半分に存在する2つのブロックについては、該ブロックを中心とした垂直方向(上方向と下方向)と左方向のみを、また該マクロブロックの右半分に存在する2つのブロックについては、該ブロックを中心とした垂直方向(上方向と下方向)と右方向のみを参照領域と決定し、領域情報26として出力する。
【0081】
符号化補助情報10が「3」の場合は、水平/垂直方向共に境界が存在する場合で、該マクロブロックに含まれる全てのブロックについて絵柄が異なるので、復号画像記憶部17に保持された1フレーム前に処理された復号画像上において、該マクロブロックと同位置にあるマクロブロックのみを参照領域と決定し、領域情報26として出力するとともに、「0」をモード情報27として出力する。
【0082】
動き補償処理部11は、領域情報26に基づき、復号画像記憶部17より復号画像を読出し、読出した復号画像と符号化対象画像5とのマッチング処理を行う。その際、モード情報27に基づき、マッチング処理を行うものとする。
【0083】
以上のように、本実施の形態3によれば、組み合わされた画像と画像との境界が、符号化対象のマクロブロックに含まれるか否かを判断し、この判断結果に基づき、動き補償処理を行う際に参照する領域と、動き補償処理の方式と変えるよう構成したため、組み合わされた画像と画像との境界に発生する符号化ノイズを低減することができると共に、かかる領域での符号量を抑制することが出来、十分な画質を得られるという効果がある。
【0084】
なお、上記実施の形態3では、符号化対象画像を構成する画像と画像との境界がマクロブロックに含まれるか否かを判断し、判断した結果に基づき動き補償処理を行う際に参照する領域および動き補償処理の方式とを変えるように説明したが、本発明では、動き補償処理を行う際に参照する領域と、動き補償処理の方式とを選択的に変えるようにしても勿論良い。
【0085】
また、以上説明した実施の形態3の発明と、上記実施の形態1または2の発明とを組み合わせて、符号化対象画像を構成する画像と画像との境界がマクロブロックに含まれるか否かの判断結果に基づき動き補償処理を行う際に参照する領域および動き補償処理の方式とを変えたり、符号化対象画像を構成する画像が切り替わった場合に当該領域の画像にフィルタ処理を施したり、量子化ステップを大きくして粗い量子化処理を施すことによる符号量の制御を行うようにしても勿論よい。なお、この場合には、符号化補助情報作成部9が、符号化対象画像を構成する画像の切り替わりを符号化補助情報10として出力するだけでなく、符号化対象画像を構成する画像と画像との境界がマクロブロックに含まれるか否かも符号化補助情報10として出力することになる。
【0086】
実施の形態4.
本実施の形態4は、符号化対象画像構成情報に基づき選択された複数の画像を入力とし、これらを組み合わせることにより作成される符号化対象画像を出力するとともに、入力される画像が動きの多い画像であるか動きの少ない画像であるかを判断し、判断した結果を符号化補助情報として出力する前処理部と、前記補助情報に基づき前記符号化対象画像の符号化処理を行う画像符号化処理部より構成される画像符号化装置の構成の一例を示すものである。
【0087】
図11は、本実施の形態4に係る前処理部の構成を示した図である。図において、1は符号化対象画像構成情報、2a〜2dは入力画像、3a〜3dはスイッチ、4は符号化対象画像作成部、5は符号化対象画像、6a〜6dは差分器、7a〜7dは入力画像記憶部、8a〜8dは絶対値差分和、9は符号化補助情報作成部、10は符号化補助情報である。
【0088】
図12は、本実施の形態4に係る画像符号化処理部の構成を示した図である。図において、5は符号化対象画像、10は符号化補助情報、11は動き補償処理部、12は直交変換/量子化処理部、13は量子化ステップ決定部、14は量子化ステップ、15はVLC処理部、16は逆直交変換/逆量子化処理部、17は復号画像記憶部、6は差分器である。
【0089】
次に本実施の形態4に係る前処理部の動作を説明する。
まず、符号化対象画像構成情報1が図11に示す前処理部に入力される。符号化対象画像構成情報1は、符号化対象画像を構成する入力画像の数を示すものであり、符号化対象画像構成情報1が例えば「4」を示す場合、例えば図9に示すような田の字型に4つの入力画像が組み合わされ、符号化対象画像が作成されるものとする。なお、本実施の形態4に係る符号化対象画像構成情報1は、「4」を示していると仮定して説明を行うものとする。
【0090】
スイッチ3a〜3dでは、符号化対象画像構成情報1に基づき入力画像2a〜2dの制御を行う。ここでは符号化対象画像構成情報1が「4」を示しているので、入力画像2a〜2dに対応するスイッチ3a〜3dは、全てオンの状態となる。従って入力画像2a〜2dは、差分器6a〜6dと符号化対象画像作成部4とに入力されることになる。
【0091】
符号化対象画像作成部4は、入力画像2a〜2dを、図9に示すような形に組合せることにより符号化対象画像を作成し、作成した符号化対象画像を保持する。
【0092】
差分器6a〜6dは、直前に入力された画像データを記憶している入力画像記憶部7a〜7dより直前に入力された画像を読出し、入力画像2a〜2dとの絶対値差分和を算出する。差分器6a〜6dは、絶対値差分和を算出した後、入力画像2a〜2dを入力画像記憶部7a〜7dに書き込むとともに、入力画像データ2a〜2dに対応する絶対値差分和8a〜8dを出力する。
【0093】
符号化補助情報作成部9は、動きの大きな画像もしくは動きの少ない画像かを判定する際に使用する閾値を有しており、入力される絶対値差分和8a〜8dと前記閾値とに基づき閾値処理を行い、入力画像2a〜2dが、動きの大きな画像であるのか、動きの少ない画像であるのかを判断し、動きの大小や動きのない画像であるか否か等を種別するための情報である符号化補助情報10を作成する。例えば、絶対値差分和8aと8bが前記閾値より大きな値であり、絶対値差分和8cがゼロであり、絶対値差分和8dがゼロより大きくかつ前記閾値より小さい場合の符号化補助情報10は、図13に示すようなものとなる。符号化補助情報10はマクロブロック単位にて作成され、「2」は動きの大きな画像、「1」は動きの少ない画像、「0」は静止画像をそれぞれ示す。
【0094】
次に本実施の形態4に係る画像符号化処理部の動作を説明する。なお、ここに記載する画像符号化処理は、上記実施の形態1〜3の画像符号化処理と同様に、基本的にはマクロブロック単位(16画素×16ライン)にて行われるものとするのとするが、任意の大きさのブロック単位でも勿論良い。
【0095】
図12に示すように、本実施の形態4に係る画像符号化処理部では、符号化対象画像5は、マクロブロック単位にて差分器6に入力され、動き補償処理部11より出力される予測画像との差分画像がを算出された後、算出された差分画像は直交変換/量子化処理部12へ出力される。
【0096】
量子化ステップ決定部13では、符号化対象となっているマクロブロックに対応した符号化補助情報10が入力され、符号化補助情報10に基づき量子化ステップを決定し、決定した量子化ステップを量子化パラメタ14として直交変換/量子化処理部12へ出力する。
例えば、図9に示すような4画面の形にて組合された符号化対象画像の場合で、入力画像2a,2dが動きの大きい画像で、入力画像2dが動きの小さい画像で、入力画像2cが動きのない静止画の場合、本実施の携帯4の符号化補助情報作成部9によると図13に示すような符号化補助情報10が得られる。具体的には、該マクロブロックに対応する符号化補助情報10が「0」の場合は、動きのない静止画の場合であるため。直前のマクロブロックの量子化ステップとは関係なく、常に小さな値の量子化ステップを該マクロブロックにおける量子化ステップ14として出力するものとする。その一方、例えば符号化補助情報10が「2」または「1」の場合は、動きが大きい場合と小さい場合とであるが、動画像の場合であるため、従来の技術にて記載したような発生した符号量に基づき量子化ステップを決定し、量子化ステップ14を出力するものとする。
【0097】
直交変換/量子化処理部12では、入力される差分画像に対してDCT(DiscreteCosine Transform)のような直交変換処理を行った後、量子化ステップ14を用いて量子化処理を行い、処理後の係数データをVLC処理部15と逆直交変換/逆量子化処理部16へ出力する。
【0098】
VLC処理部15では、前記係数データに対して可変長符号化処理を行うとともに、同期信号等の付加情報を所望の位置に格納してビットストリームを作成し、作成したビットストリームと該マクロブロックの符号化処理に要した符号量とを出力する。
【0099】
ここで、上述したが、ISO/IEC 14496−2:1999FDRAM 1:2000(E)記載のMPEG−4ビデオ符号化方式では、マクロブロック間における量子化スケールは±2の範囲にてのみ更新することができるという制限がある。
【0100】
このため、本実施の形態4の量子化ステップ決定部13にて直前のマクロブロックに対する量子化ステップとは関係なく、符号化補助情報10に基づき量子化ステップ14を決定する場合には、マクロブロック間における量子化スケールが±2を超えてしまう可能性がある。
【0101】
これを防止するため、本実施の形態4のVLC処理部15ではでは、ISO/IEC 14496−2:1999FDRAM 1:2000(E)記載のMPEG−4ビデオ符号化方式を採用する場合には、該マクロブロックと直前のマクロブロックに対応する符号化補助情報10とを入力し、直前のマクロブロックに対応する符号化補助情報10が「0」以外の値を示し、該マクロブロックに対応する符号化補助情報10が「0」の値を示した場合、リシンクマーカ−と呼ばれる同期信号を付加するようにする。リシンクマーカ−を挿入すれば、リシンクマーカ−の前後にあるマクロブロック間における量子化ステップの制限がなくなるため、MPEG−4ビデオのシンタクスに適合したビットストリームを作成し、出力することが可能となる。
【0102】
逆直交変換/逆量子化処理部16では、逆量子化処理と逆直交変換処理を行うことにより復号画像を作成し、作成した復号画像を復号画像記憶部17へ出力する。
【0103】
復号画像記憶部17では、マクロブロック単位にて入力される復号画像を保持し、1フレーム分の復号画像を記憶する。記憶された1フレーム分の復号画像は、次のフレームの符号化処理を行う際に使用される。
【0104】
動き補償処理部11は、復号画像記憶部17より復号画像を読出し、読出した復号画像と符号化対象画像5とのマッチング処理をマクロブロック単位に行い、マッチング度の高いマクロブロックを予測画像として出力する。
【0105】
以上のように、本実施の形態4によれば、符号化対象画像を構成する画像毎に動きの大小や有無を検出し、検出した動きの大小や有無に基づき量子化ステップを設定するよう構成したため、動きの大きい画像については粗く量しか処理を施し符号量の増大を押さえることにより、静止画像領域に対しては細かい量子化処理を施すことが可能となり、動きの大きな画像データと静止画像とが混在する符号化対象画像を符号化する際に、特に静止画像の領域において十分な画質を得られるという効果がある。
【0106】
また、さらに動きの大小に応じても量子化ステップを変えることにより、例えば、動きの小さい符号化対象画像の量子化ステップを、動きの大きい符号化対象画像の量子化ステップより細かい量子化処理を施すようにすれば、動きの大きな画像データと小さな画像データとが混在する符号化対象画像を符号化する際でも、静止画像や動きの小さい動画像の領域においても十分な画質を得られるという効果がある。
【0107】
なお、ここでは、上述の実施の形態4の発明を単独で説明したが、この実施の形態4の発明と、実施の形態3の発明や上記実施の形態1,2の発明を任意に組み合わせるようにしても勿論よい。上述の実施の形態1または2と、実施形態3と、実施の形態4とを組み合わせれば、符号化対象画像を構成する画像が切り替わった場合に当該領域の画像にフィルタ処理を施したり、量子化ステップを大きくして粗い量子化処理を施すことによる符号量の制御を行ったり、符号化対象画像を構成する画像と画像との境界がマクロブロックに含まれるか否かの判断結果に基づき動き補償処理を行う際に参照する領域および動き補償処理の方式とを変えたり、さらには符号化対象画像を構成する画像毎に動きの大小や有無に基づき量子化ステップを変えることが可能になる。勿論、この場合には、符号化補助情報作成部9が、符号化対象画像を構成する画像の切り替わりを符号化補助情報10として出力するだけでなく、符号化対象画像を構成する画像と画像との境界がマクロブロックに含まれるか否かも符号化補助情報10として出力したり、さらには、符号化対象画像を構成する画像毎に動きの大小や有無を検出し、検出した動きの大小や有無を符号化補助情報10として出力することになる。
【0108】
実施の形態5.
本実施の形態5は、符号化対象画像構成情報に基づき選択された複数の画像を入力とし、これらを組み合わせることにより作成される符号化対象画像を出力するとともに、符号化対象画像を構成する画像と画像の境界がマクロブロックに含まれるか否かを判断し、判断した結果を符号化補助情報として出力する前処理部と、前記補助情報に基づき前記符号化対象画像の符号化処理を行う画像符号化処理部より構成される画像符号化装置の構成の一例を示すものである。
【0109】
本実施の形態5における前処理部は、図7に示す実施の形態3の前処理部と同様であるため、前処理部の構成、及び動作の説明を省略する。
【0110】
図14は、本実施の形態5に係る画像符号化処理部の構成を示した図である。図において、5は符号化対象画像、10は符号化補助情報、11は動き補償処理部、12は直交変換/量子化処理部、15はVLC処理部、16は逆直交変換/逆量子化処理部、17は復号画像記憶部、23はフィルタ処理部、24はフィルタ処理が施された符号化対象画像である。
【0111】
次に、本実施の形態5に係る画像符号化処理部の動作を説明する。なお、ここに記載する画像符号化処理は、上記実施の形態1〜4の画像符号化処理と同様に、基本的にはマクロブロック単位(16画素×16ライン)にて行われるものとするのとするが、任意の大きさのブロック単位でも勿論良い。
【0112】
スイッチ部22は、符号化対象となるマクロブロック単位の符号化対象画像5と該マクロブロックに対応する符号化補助情報10とを入力とし、符号化補助情報10に基づき、スイッチング処理を行う。具体的には、符号化補助情報10が「1」、「2」、「3」を示す場合は(a)側へ、符号化補助情報10が「0」を示す場合は(b)側へスイッチング処理を行って、符号化補助情報10が「1」、「2」、「3」を示す場合のみフィルタ処理部23へ符号化対象画像5を出力する。
【0113】
フィルタ処理部23では、入力されるマクロブロック単位の符号化対象画像5に対して、低周波成分を通過させ、高周波成分を遮断するようなフィルタ処理を行う。具体的には、符号化補助情報が「1」の場合、該マクロブロックは水平方向の境界を含んでいるので、この境界部分を含む近隣の領域に対して垂直方向のフィルタ処理を施すものとする。
【0114】
また、符号化補助情報が「2」の場合、該マクロブロックは垂直方向の境界を含んでいるので、この境界部分を含む近隣の領域に対して水平方向のフィルタ処理を施すものとする。
【0115】
また、符号化補助情報が「3」の場合、該マクロブロックは水平/垂直方向の境界を含んでいるので、この境界部分を含む近隣の領域に対して水平/垂直方向のフィルタ処理を施すものとする。
【0116】
フィルタ処理が施されたマクロブロック単位の符号化対象画像24は差分器6に入力され、動き補償処理部11より出力される予測画像との差分画像が算出された後、算出された差分画像は直交変換/量子化処理部12へ出力される。
【0117】
一方、符号化補助情報10が「0」を示していて、スイッチ部22にて(b)側へスイッチング処理がなされた場合は、マクロブロック単位の符号化対象画像5はフィルタ処理部23を介さずに差分器6に入力され、動き補償処理部11より出力される予測画像との差分画像が算出された後、算出された差分画像は直交変換/量子化処理部12へ出力される。
【0118】
直交変換/量子化処理部12では、入力される差分画像に対してDCTのような直交変換処理を行った後に量子化処理を行い、処理後の係数データをVLC処理部15と逆直交変換/逆量子化処理部16へ出力する。
【0119】
VLC処理部15では、前記係数データに対して可変長符号化処理を行うとともに、同期信号等の付加情報を所望の位置に格納してビットストリームを作成し、作成したビットストリームと該マクロブロックの符号化処理に要した符号量とを出力する。
【0120】
逆直交変換/逆量子化処理部16では、逆量子化処理と逆直交変換処理を行うことにより復号画像を作成し、作成した復号画像を復号画像記憶部17へ出力する。
【0121】
復号画像記憶部17では、マクロブロック単位にて入力される復号画像を保持し、1フレーム分の復号画像を記憶する。記憶された1フレーム分の復号画像は、次のフレームの符号化処理を行う際に使用される。
【0122】
動き補償処理部11は、復号画像記憶部17より復号画像を読出し、読出した復号画像と符号化対象画像5とのマッチング処理をマクロブロック単位に行い、マッチング度の高いマクロブロックを予測画像として出力する。
【0123】
以上のように、本実施の形態5によれば、組み合わされた画像と画像との境界が符号化対象のマクロブロックに含まれるか否かを判断し、この判断結果に基づきフィルタ処理の制御を行うよう構成したため、画像と画像との境界を含むマクロブロックを符号化処理する際に高周波成分を含む係数の発生をおさえること、即ち該マクロブロックの符号量を抑えることが可能となり、抑えた符号量を他のマクロブロックの符号化に要する符号量に割り当てることが可能となるため、十分な画質を得られるという効果がある。
【0124】
なお、ここでは、上述の実施の形態5の発明を単独で説明したが、この実施の形態5の発明と、実施の形態4の発明や上記実施の形態1,2の発明を任意に組み合わせるようにしても勿論よい。例えば、上述の実施の形態1または2と、実施形態4と、実施の形態5とを組み合わせれば、符号化対象画像を構成する画像が切り替わった場合に当該領域の画像にフィルタ処理を施したり、量子化ステップを大きくして粗い量子化処理を施すことによる符号量の制御を行ったり、符号化対象画像を構成する画像毎に動きの大小や有無に基づき動き補償処理を行う際に参照する領域および動き補償処理の方式とを変えたり、符号化対象画像を構成する画像と画像との境界がマクロブロックに含まれるか否かの判断結果に基づきフィルタ処理を施して符号量を制御することが可能になる。
勿論、この場合には、符号化補助情報作成部9が、符号化対象画像を構成する画像の切り替わりを符号化補助情報10として出力するだけでなく、符号化対象画像を構成する画像毎に動きの大小や有無を検出し、検出した動きの大小や有無を符号化補助情報10として出力したり、さらには符号化対象画像を構成する画像と画像との境界がマクロブロックに含まれるか否かも符号化補助情報10として出力することになる。
【0125】
なお、上記実施の形態1〜5では、前処理部と、画像符号化処理部とを有する画像符号化処理装置について説明したが、本発明は、これに限らず、前処理部と、画像符号化処理部とを別々の装置に設けたり、さらには、符号化対象画像5と画像補助情報10とが別々に作成される等して、符号化対象画像5と画像補助情報10とが前処理部を有さず画像符号化処理部を有する画像符号化処理装置に入力して、画像符号化処理装置では、上述の前処理は行わず、上述の符号化のみを行うように構成しても良い。
【発明の効果】
以上説明したように、本発明によれば、複数の画像より構成される符号化対象画像と、その符号化対象画像の特徴を示す符号化補助情報とを入力し、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号化処理を行うようにしたので、複数の画像より構成される符号化対象画像のある画像が切り替わった等の特徴ある場合や、符号化対象画像の境界や各画像の動き等に特徴がある場合には、符号化処理により発生する符号量を目標とする符号量に抑えたり、ノイズを低減した十分な画質である復号画像を得ることのできる符号化ビットストリームを出力することができる。
【0126】
【図面の簡単な説明】
【図1】実施の形態1に係る前処理部の構成を示した図である。
【図2】実施の形態1に係る画像符号化処理部の構成を示した図である。
【図3】実施の形態1の符号化対象画像作成部4にて作成される符号化対象画像の一例を示す図である。
【図4】実施の形態1の符号化補助情報作成部9にて作成される符号化補助情報10の一例を示す図である。
【図5】実施の形態2に係る画像符号化処理部の構成を示した図である。
【図6】実施の形態2に係る画像符号化処理部の他の構成を示した図である。
【図7】実施の形態3に係る前処理部の構成を示した図である。
【図8】実施の形態3に係る画像符号化処理部の構成を示した図である。
【図9】実施の形態3符号化対象画像作成部4にて作成される符号化対象画像の一例を示す図である。
【図10】実施の形態3の符号化補助情報作成部9にて作成される符号化補助情報10の一例を示す図である。
【図11】実施の形態4に係る前処理部の構成を示した図である。
【図12】実施の形態4に係る画像符号化処理部の構成を示した図である。
【図13】実施の形態4の符号化補助情報作成部9にて作成される符号化補助情報10の一例を示す図である。
【図14】実施の形態5に係る画像符号化処理部の構成を示した図である。
【符号の説明】
1 符号化対象画像構成情報、2a〜2d 入力画像、3a〜3d スイッチ、4 符号化対象画像作成部、5 符号化対象画像、9 符号化補助情報作成部、10 符号化補助情報、20 画面構成記憶部、21 符号化対象画像構成情報、6 差分器、11は動き補償処理部、12 直交変換/量子化処理部、15VLC処理部、16 逆直交変換/逆量子化処理部、17 復号画像記憶部、22
スイッチ部、23 フィルタ処理部。
Claims (12)
- 複数の画像と、前記複数の画像のうちどの画像を符号化対象画像とするのかを示す符号化対象画像構成情報とを入力し、符号化対象画像構成情報に基づき複数の画像より構成される符号化対象画像を作成し、前記符号化対象画像と、前記符号化対象画像の特徴を示す符号化補助情報とを出力する前処理部と、
前記符号化対象画像と前記符号化補助情報とを入力し、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号化処理を行う画像符号化処理部と、
を有することを特徴とする画像符号化装置。 - 前記符号化補助情報は、前記符号化対象画像の特徴として、前記符号化対象画像構成情報と、前記符号化対象画像構成情報の時間的に直前に入力された符号化対象画像構成情報との差異を示しており、
前記画像符号化処理部は、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う、
ことを特徴とする請求項1記載の画像符号化装置。 - 前記画像符号化処理部は、前記符号化補助情報が、前記符号化対象画像構成情報と前記符号化対象画像構成情報の時間的に直前に入力された符号化対象画像構成情報との間に差異があることを意味する場合、符号化対象画像を構成する画像のうち差異のある画像に対しフィルタ処理を施すことにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う、
ことを特徴とする請求項2記載の画像符号化装置。 - 前記画像符号化処理部は、前記符号化補助情報に基づき、符号化対象画像を構成する画像のうちどの画像に差異があるのかを判断し、差異のある画像と、差異のない画像とに対し異なる量子化ステップを設定することにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行なう、
ことを特徴とする請求項3記載の画像符号化装置。 - 前記画像符号化処理部は、さらに、差異のある画像と差異のない画像とに対し異なる符号化モードを設定することにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う、
ことを特徴とする請求項4記載の画像符号化装置。 - 前記符号化補助情報は、前記符号化対象画像の特徴として、符号化対象画像を構成する画像と画像との境界が符号化対象画像上のどの位置にあるのかを示しており、
前記画像符号化処理部は、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号化処理を行う、
ことを特徴とする請求項1記載の画像符号化装置。 - 前記画像符号化処理部は、前記符号化補助情報に基づき、符号化対象画像を構成する画像と画像との境界を含む符号化処理単位と、当該境界を含まない符号化処理単位とを識別し、当該境界を含む符号化処理単位と、当該境界を含まない符号化処理単位とにおいて異なる動き補償処理の制御を行うことにより符号化対象画像を構成する各画像の符号化処理を行う、
ことを特徴とする請求項6記載の画像符号化装置。 - 前記符号化補助情報は、前記符号化対象画像の特徴として、符号化対象画像を構成する複数の画像のうち、どの画像が動きの少ない画像であり、どの画像が動きの多い画像であるかを示しており、
前記画像符号化処理部は、前記画像符号化補助情報に基づき符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う、
ことを特徴とする請求項1記載の画像符号化装置。 - 前記画像符号化処理部は、前記符号化補助情報に基づき、符号化対象画像に含まれる動きの少ない画像と、動きの多い画像とにおいて異なる量子化ステップを設定することにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う、
ことを特徴とする請求項8記載の画像符号化装置。 - 前記画像符号化処理部は、前記符号化補助情報が符号化対象画像を構成する画像と画像の境界を含むことを意味する場合、当該境界を含む符号化処理単位に対してフィルタ処理を施すことにより符号化対象画像を構成する各画像の符号量を制御して符号化処理を行う、
ことを特徴とする請求項6記載の画像符号化装置。 - 複数の画像より構成される符号化対象画像と、その符号化対象画像の特徴を示す符号化補助情報とを入力し、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号化処理を行う画像符号化処理部を有することを特徴とする画像符号化装置。
- 複数の画像より構成される符号化対象画像と、その符号化対象画像の特徴を示す符号化補助情報とを入力し、前記符号化補助情報に基づき符号化対象画像を構成する各画像の符号化処理を行うことを特徴とする画像符号化方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002178170A JP2004023606A (ja) | 2002-06-19 | 2002-06-19 | 画像符号化装置および画像符号化方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002178170A JP2004023606A (ja) | 2002-06-19 | 2002-06-19 | 画像符号化装置および画像符号化方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004023606A true JP2004023606A (ja) | 2004-01-22 |
Family
ID=31175977
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002178170A Abandoned JP2004023606A (ja) | 2002-06-19 | 2002-06-19 | 画像符号化装置および画像符号化方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004023606A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2442091A (en) * | 2006-09-19 | 2008-03-26 | Toshiba Kk | A broadcast system and its distribution device capable of assuring sufficient quality and distributing a broadcast signal even in a limited information band |
WO2011122285A1 (ja) * | 2010-03-31 | 2011-10-06 | 株式会社メガチップス | 画像符号化装置 |
JP2014082772A (ja) * | 2013-12-05 | 2014-05-08 | Mega Chips Corp | 画像符号化装置 |
-
2002
- 2002-06-19 JP JP2002178170A patent/JP2004023606A/ja not_active Abandoned
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2442091A (en) * | 2006-09-19 | 2008-03-26 | Toshiba Kk | A broadcast system and its distribution device capable of assuring sufficient quality and distributing a broadcast signal even in a limited information band |
US7900232B2 (en) | 2006-09-19 | 2011-03-01 | Kabushiki Kaisha Toshiba | Broadcast system, and its distribution device and terminal device |
GB2442091B (en) * | 2006-09-19 | 2011-08-10 | Toshiba Kk | Broadcast system,and its distribution device and terminal device |
WO2011122285A1 (ja) * | 2010-03-31 | 2011-10-06 | 株式会社メガチップス | 画像符号化装置 |
JP2011217085A (ja) * | 2010-03-31 | 2011-10-27 | Mega Chips Corp | 画像符号化装置 |
JP2014082772A (ja) * | 2013-12-05 | 2014-05-08 | Mega Chips Corp | 画像符号化装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6091583B2 (ja) | 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法および符号化データ | |
JP6573689B2 (ja) | 画像符号化装置および画像符号化方法 | |
JP6005087B2 (ja) | 画像復号装置、画像復号方法、画像符号化装置、画像符号化方法及び符号化データのデータ構造 | |
KR101037816B1 (ko) | 인터레이스된 비디오의 코딩 및 디코딩을 위한 방법 및장치 | |
US9036713B2 (en) | Image encoding device, image decoding device, image encoding method, and image decoding method | |
US20120076203A1 (en) | Video encoding device, video decoding device, video encoding method, and video decoding method | |
US20050276323A1 (en) | Real-time video coding/decoding | |
KR19980080012A (ko) | 인터레이스드 디지털 비디오를 위한 비디오 객체면의 동작 추정 및 보상 | |
JP2002532029A (ja) | ビデオ圧縮のための効率的マクロブロックヘッダ符号化 | |
WO2013108684A1 (ja) | 動画像復号装置、動画像符号化装置、動画像復号方法及び動画像符号化方法 | |
JPWO2008126135A1 (ja) | 動画像符号化方法及び装置並びに動画像復号装置 | |
JP2001197501A (ja) | 動きベクトル探索器及び動きベクトル探索方法並びに動画像符号化装置 | |
JP2010011075A (ja) | 動画像符号化及び動画像復号化の方法及び装置 | |
WO2014163200A1 (ja) | カラー画像符号化装置、カラー画像復号装置、カラー画像符号化方法及びカラー画像復号方法 | |
JP5800077B2 (ja) | 動画像復号方法 | |
JP2004023606A (ja) | 画像符号化装置および画像符号化方法 | |
KR101038794B1 (ko) | 인터레이스형 비디오의 코딩 및 디코딩 | |
JP2015080002A (ja) | 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法 | |
Bialkowski et al. | Fast video transcoding from H. 263 to H. 264/MPEG-4 AVC | |
JP5790722B2 (ja) | 動画像符号化方法 | |
JPH08181997A (ja) | 画像符号化装置及び画像復号化装置 | |
KR20060043984A (ko) | 3차원 스캐닝을 이용한 영상데이터 부호화 방법 | |
KR980013416A (ko) | 매크로 블록의 합병을 이용한 모양 적응 부호와 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20040707 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050617 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070821 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070828 |
|
A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20071024 |