JP2003348597A - 画像符号化装置および画像符号化方法 - Google Patents

画像符号化装置および画像符号化方法

Info

Publication number
JP2003348597A
JP2003348597A JP2002155929A JP2002155929A JP2003348597A JP 2003348597 A JP2003348597 A JP 2003348597A JP 2002155929 A JP2002155929 A JP 2002155929A JP 2002155929 A JP2002155929 A JP 2002155929A JP 2003348597 A JP2003348597 A JP 2003348597A
Authority
JP
Japan
Prior art keywords
image
encoding
division boundary
processing
divided
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2002155929A
Other languages
English (en)
Inventor
Yasuhiro Hashimoto
安弘 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002155929A priority Critical patent/JP2003348597A/ja
Publication of JP2003348597A publication Critical patent/JP2003348597A/ja
Pending legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 HDTV信号のような画素数の大きい動画像
信号を分割して符号化する際、分割境界付近に発生する
符号化画像の画質の不連続を除去する動画像符号化装置
と画像符号化方法を提供する。 【解決手段】 分割境界付近処理部154は、画面分割
装置110で生成した分割画像の分割境界における分割
画像符号化装置120Ai (i=1〜4)による符号化画像の
画質の不連続の度合いを予測し、予測結果に基づいて分
割境界付近の符号化操作量を決定する。分割画像符号化
装置120Ai (i=1〜4)は分割境界付近処理部154で
決定した分割境界付近の符号化操作量に基づいて分割境
界に近接するマクロブロックの画像信号について量子化
スケールのコードを制御して符号化処理を行なう。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像信号を圧縮符
号化する画像符号化装置とその方法に関する。
【0002】
【従来の技術】動画像符号化方式としては、MPEG2
規格(ISO/IEC13818)が広く普及してい
る。このMPEG−2においては、主に機能の分類(シ
ンタックスの違い)を規定するプロファイルと、画像サ
イズなどの処理量の違いを規定するレベルという概念を
導入し、サポート可能な符号化性能をクラス分けしてい
る。通常、720×480画素、60フィールド/秒の
ITU−R601の画像に対してはMP@ML(Main Pr
ofile at Main Level)が、1920×1080画素、6
0フィールド/秒のHDTVの画像に対してはMP@H
L(Main Profile atHigh Level)が使用される。
【0003】高品位テレビジョン(HDTV:High Def
inition TeleVision) 信号のような画素数の多い画面構
成の動画像信号を符号化あるいは復号化する装置、たと
えばMP@HLの符号化および復号化を実行する装置
は、非常に高速な処理が要求されるため、実現が難し
く、非常に高価な装置となる。それに比べて、MP@M
Lの符号化および復号化を実行する装置は、MP@HL
の装置と比較して小規模で動作速度も低くてよく、すで
に画像符号化装置がLSI化されるなどして広く普及し
ているため、非常に安価に利用することができる。
【0004】特開平10−234043号公報に記載の
動画像符号化/復号化装置においては、HDTV信号の
ような画素数の多い画面構成の動画像信号を複数の画面
に分割し、分割された各画面の信号をMP@MLの装置
で符号化あるいは復号化し、その処理結果を統合するこ
とにより、MP@HLの符号化あるいは復号化を行なう
方法が提案されている。すなわち、特開平10−234
043号公報は、小規模で動作速度も低くてよい、MP
@MLの符号化および復号化を実行する装置を複数用い
て、複数の画面に分割された画像信号を並列処理して、
その結果を統合することにより、非常に高速な処理を行
うMP@HLの符号化および復号化を実行する装置で行
ったと同じ効果を奏することができ、実用化が容易で装
置価格を低減できる方法を提案している。
【0005】
【発明が解決しようとする課題】しかしながら、そのよ
うな方法により符号化を行う場合、1画面を所定の方法
で一律に分割し、複数に分割した画像について複数の画
像符号化装置が並行して独立に符号化を行うため、画像
の分割境界において画像が不連続となり、結果的に分割
領域における符号化画像の品質が低下するという問題に
遭遇する。
【0006】図24を参照して、中央が2個の分割画像
に分割し、2個の画像符号化装置で分割画像を処理する
場合について、上述した問題を詳述する。たとえばMP
EG2のPピクチャにおいて、画面の左から右にオブジ
ェクト、たとえば、人間の顔が動いている場合、そのオ
ブジェクトが中央の分割境界を横切ると、分割境界の右
側の分割画像信号を符号化する画像符号化装置において
は、網点で示した分割境界の右側に接する列のマクロブ
ロックの左側の分割画像が存在しないので、網点で示し
た分割境界の右側に接する列のマクロブロックの画像を
符号化しても正しい動きベクトルを得ることはできな
い。その結果、この境界部分のマクロブロックにおいて
符号化した画質の低下、または、右側のマクロブロック
の画像を符号化した画像の画質の相違が生じ、分割境界
においていかにも切ってつないだような不連続な画像と
なり、1画面全体として統合した場合適切な符号化画像
とはならない。
【0007】上記分割境界に起因する不利益を克服する
ため、動きベクトルが他の分割画像にまたがる場合に
は、図24に図解した例示において、左右に分割された
画像を符号化する複数、図24の例示においては2個の
画像符号化装置相互間で画像信号を相互に転送すること
により動きベクトルを正しく求めるようにしている画像
符号化装置の提案がなされている。そのような対策を講
ずれば上述した不利益は克服でき、分割境界における画
質の不連続は生じず、2個の画像符号化装置を用いて分
割画像を同時的に並列処理して、その結果を統合する
と、1台の画像符号化装置で1画面の画像信号を符号化
した場合と同様のビデオストリームを出力することがで
きる。
【0008】しかしながら、複数の画像符号化装置の相
互間で画像信号を転送する方法は、多量の画像信号を高
速かつ頻繁に転送を行うためのハードウェア回路の規模
が大きくなって高価な装置となり、画像信号の転送時間
も符号化処理に負担となるなどの問題に遭遇する。結
局、そのような方法を実現するとなると、業務用の専用
の画像符号化装置に適用が限られる。したがって、上述
したように、低速度、低価格の画像符号化装置を複数用
いて分担処理を行うという利点を損なうことになる。加
えて、このような方法を適用すると、画像符号化装置の
みならず、画像復号化装置にも不利益が起こる。すなわ
ち、最終的に出力されるビデオストリームは、動きベク
トルが分割画像にまたがっているため、高性能のMP@
HL専用の画像復号化装置(デコーダ)では復号処理
(デコード)が行えるが、ビデオストリームを分割して
低性能の複数のMP@MLの画像復号化装置では復号す
ることができないという不利益に遭遇する。
【0009】特開平10−234043号公報は、これ
まで知られているMP@MLエンコーダおよびMP@M
Lデコーダを使用して、HDTVのような動画像信号の
エンコードおよびデコードを、分割境界で画質の不連続
が生じないように行なう装置を提案している。特開平1
0−234043号公報に開示されている装置において
は、画像をオーバーラップして分割し、分割した複数の
画像を複数のMP@MLエンコーダで並行に符号化処理
し、各エンコーダから出力される複数のビデオストリー
ムをシステム多重により1つのシステム多重ストリーム
に統合している。したがってこの装置によれば、複数の
MP@MLデコーダを用いてHDTVの画像にデコード
することが可能である。しかしながら、特開平10−2
34043号公報に開示されている装置で処理するビデ
オストリームは、画像をオーバーラップして分割したも
のを符号化したものであり、基本的にMP@HLのビデ
オストリームとは異なるものであるから、これまで使用
されている汎用的なエンコーダ/デコーダとは言えな
い。その結果、この装置で生成されたビデオストリーム
は、通常のMP@HLのデコーダではデコードできない
という不利益に遭遇する。
【0010】本発明の目的は、既存の小規模で安価で低
消費電力の、簡単な構成の符号化手段を組み合わせて、
HDTV信号のような画素数の大きい動画像信号を分割
して符号化する際に分割境界付近に発生する符号化画像
の画質の不連続を低減または除去して、全体の符号化画
像の画質を実質的に低下させることなく符号化すること
のできる画像符号化装置を提供することにある。本発明
の他の目的は、上記符号化処理を行なう画像符号化方法
を提供することにある。
【0011】
【課題を解決するための手段】本発明の第1の観点によ
れば、入力画像をN個の領域に分割し、当該各領域に対
応するN個の分割画像信号を生成する画面分割手段と、
前記生成したN個の分割画像信号を各々符号化し、N個
の符号化画像信号を生成する複数の画像符号化手段と、
前記複数の画像符号化手段で生成したN個の符号化画像
信号を統合し、前記入力画像に対応する1個の符号化画
像信号を生成する統合手段と、前記分割画像の分割境界
における前記複数の符号化手段による符号化画像の画質
の不連続の度合いを予測し、分割境界付近の符号化操作
量を決定する分割境界付近処理手段とを具備し、前記複
数の符号化手段は、前記分割境界付近処理手段で決定し
た前記分割境界付近の符号化操作量に基づいて前記分割
した領域間の境界に近接する異なる領域に含まれる各画
像の画像信号について量子化スケールのコードを制御し
て符号化処理を行なう、画像符号化装置が提供される。
【0012】本発明の第2の観点によれば、入力画像を
N個の領域に分割し、当該各領域に対応するN個の分割
画像信号を生成する画面分割工程と、前記生成したN個
の分割画像信号を各々符号化し、N個の符号化画像信号
を生成する画像符号化工程と、前記生成したN個の符号
化画像信号を統合し、前記入力画像に対応する1個の符
号化画像信号を生成する統合工程と、前記分割画像の分
割境界における前記画像符号化工程における符号化画像
の画質の不連続の度合いを予測し、分割境界付近の符号
化操作量を決定する分割境界付近処理工程とを具備し、
前記画像符号化工程において、前記分割境界付近処理工
程で決定した前記分割境界付近の符号化操作量に基づい
て前記分割した領域間の境界に近接する異なる領域に含
まれる各画像の画像信号について量子化スケールのコー
ドを制御して符号化処理を行なう、画像符号化方法が提
供される。
【0013】画面分割手段は、複数の符号化手段で並列
に分散して符号化処理が可能なように、入力画像をN個
の領域に分割し、当該各領域に対応するN個の分割画像
信号を生成する。複数の画像符号化手段と、生成したN
個の分割画像信号を各々符号化し、N個の符号化画像信
号を生成する。統合手段は、複数の画像符号化手段で生
成したN個の符号化画像信号を統合し、入力画像に対応
する1個の符号化画像信号を生成する。分割境界付近処
理手段は、分割画像の分割境界における複数の符号化手
段による符号化画像の画質の不連続の度合いを予測し、
分割境界付近の符号化操作量を決定する。複数の符号化
手段は、分割境界付近処理手段で決定した分割境界付近
の符号化操作量に基づいて分割した領域間の境界に近接
する異なる領域に含まれる各画像の画像信号について量
子化スケールのコードを制御して符号化処理を行なう。
【0014】好ましくは、分割境界付近処理手段は、複
数の画像符号化手段の符号化処理の時に求めた分割境界
に隣接する複数のマクロブロックの画像についてのME
残差を用いて符号化画像の画質の不連続の度合いを予測
し、予測した不連続の程度に応じて各符号化手段に対す
る前記分割境界付近の符号化操作量を決定し、決定した
符号化操作量を対応する複数の符号化手段に転送する。
【0015】
【発明の実施の形態】第1実施の形態 本発明の画像符号化装置の第1実施の形態として動画像
符号化装置について、図1〜図12を参照して述べる。
【0016】動画像符号化装置の構成 図1は本発明の第1実施の形態の動画像符号化装置10
0の構成を示すブロック図である。第1実施の形態の動
画像符号化装置100は、画面分割装置110、第1〜
第4の分割画像符号化装置1201 〜1204 (または
分割画像符号化装置120 i (i=1〜4))、ビデオストリ
ーム統合装置140および制御装置150を有する。本
実施の形態においては、1画面の画像信号を4分割して
第1〜第4の分割画像符号化装置1201 〜1204
並行に独立して符号化する場合について例示する。した
がって、1画面の分割数および分割画像符号化装置の台
数(個数)は4に限定されるものではなく、例示に過ぎ
ない。
【0017】入力動画像信号 動画像符号化装置100には、入力動画像信号VIDE
Oとして、本実施の形態においては、図2に示すような
HDTV信号、すなわち、輝度信号の構成が横1920
画素×縦1080ラインで色差信号の構成が横960画
素×縦1080ラインあるような4:2:2形式のイン
ターレース信号が入力される。フレームレートは30フ
レーム/秒である。
【0018】画面分割装置 画面分割装置110は以下に述べる入力動画像信号VI
DEOのサイズ変更を行う。画面分割装置110は、ま
ず、入力動画像信号VIDEOの各フレーム画像を、フ
ィルタ処理により輝度信号を横方向1440画素に、色
差信号を横方向に720画素に変換する。MPEG2の
規格によりインターレース画像では縦方向のライン数は
32の倍数でなければならないと決められているので、
画面分割装置110は次いで、輝度信号、色差信号とも
画像の下にそれそれ8ラインのダミーデータを付け、1
088ラインとする。
【0019】画面分割装置110は上記のごとくサイズ
の変更処理後、1画面の入力動画像信号VIDEOを、
図2に示すように、輝度信号の構成が各々、縦720画
素×縦544ラインとなるような4つの領域A,B,
C,Dに分割し、各分割領域の画像信号を第1〜第4の
分割画像符号化装置1201 〜1204 に出力する。4
つの領域A,B,C,Dに分割された画像信号(以下、
分割画像信号VIDEO−A,VIDEO−B,VID
EO−C,VIDEO−D(略して、VIDEO−A,
−B,−C,−Dとして示す))にする。分割画像信号
VIDEO−A,−B,−C,−Dのそれぞれは、複数
のマクロブロックからなる。各マクロブロックには複数
の画像信号が含まれている。たとえば、1マクロブロッ
クの大きさを16画素×16画素とすると、1個の分割
画像信号は720/16×544/16=45×34個
のマクロブロックから構成される。
【0020】分割画像符号化装置 第1〜第4の分割画像符号化装置1201 〜1204
それぞれ入力された分割画像信号VIDEO−A,−
B,−C,−Dを、たとえば、MPEG2により符号化
して、4個のMPEG2ビデオストリームを生成し、ビ
デオストリーム統合装置140に出力する。その際、各
分割画像符号化装置(以下、分割画像符号化装置120
i (i=1〜4)と表す)において、対応する分割画像信号V
IDEO−A,−B,−C,−Dを構成する各マクロブ
ロックに対して、分割境界との位置関係に応じて符号化
条件を決定し符号化を行なう。
【0021】より具体的に述べると、各分割画像符号化
装置120i (i=1〜4)は分割した境界との位置関係に応
じて、後述する、符号化マクロブロックタイプ、およ
び、量子化スケールコード(Qスケールコード)を決定
する。
【0022】第1〜第4の分割画像符号化装置1201
〜1204 は同じ構成をしている。各分割画像符号化装
置120i (i=1〜4)の構成を図3に示す。分割画像符号
化装置120i (i=1〜4)は高性能が要求されない一般的
な、MPEG2−MP@MLのエンコーダとして構成さ
れている。図3に示す分割画像符号化装置120i (i=1
〜4)は、画面並び換え部121、減算器122、離散コ
サイン変換処理部(DCT処理部)123、量子化部1
24、可変長符号化部125、バッファ126、レート
制御部127、逆量子化部128、逆DCT処理部12
9、加算器130、フレームメモリ131、動き補償予
測部132および分割画像符号化装置内制御部133を
有する。
【0023】図3に図解した分割画像符号化装置120
i (i=1〜4)の基本的な動作を説明する。分割画像符号化
装置120i (i=1〜4)は、画面分割装置110から順次
入力されるピクチャごとの各分割画像信号に対して、図
示せぬフォーマット変換部において4:2:2形式から
4:2:0形式に変換し、画面並び換え部121におい
て符号化ピクチャタイプに合わせて画像信号を並べ替
え、符号化順にDCT処理部123においてDCT処理
を行なう。
【0024】ピクチャタイプがPピクチャあるいはBピ
クチャであって、マクロブロックタイプがイントラ・マ
クロブロックでない場合には、減算器122は画面並べ
替え部121で並べ替えた画像信号から動き補償予測部
132の画像信号を減じて動き補償予測画像との予測誤
差を検出し、DCT処理部123は予測誤差をDCT処
理してDCT係数を算出する。量子化部124はDCT
処理部123で得られたDCT係数を量子化し、可変長
符号化部125は量子化結果を動きベクトルおよび符号
化モード情報とともに可変長符号化し、バッファ126
がその結果を蓄積する。
【0025】ピクチャタイプがIピクチャおよびPピク
チャの場合には、後でピクチャを動き補償予測の参照画
面として用いる必要があるため、上述した画面並べ替え
部121、減算器122、DCT処理部123、量子化
部124、可変長符号化部125およびバッファ126
における処理の他に、復号装置が行う処理に類似した下
記の処理が行われる
【0026】逆量子化部128は量子化結果を逆量子化
して量子化部124に入力される前のDCT係数に該当
するDCRT係数が算出し、逆DCT部129は逆量子
化結果を逆DCT処理してDCT処理部123に入力さ
れる前の予測誤差に該当する値が算出し、加算器130
はDCT処理部123の結果と動き補償予測部132の
結果とを加算して減算器122に入力される前の画面並
べ替え部121の出力に該当する信号が算出し、加算結
果がフレームメモリ131に記憶される。フレームメモ
リ131に記憶された画像は動き補償予測部132にお
いて動き補償が予測されて、その結果が加算器130お
よび減算器122に入力される。
【0027】上述した分割画像符号化装置120i (i=1
〜4)の各部の処理は、分割画像符号化装置120i (i=1
〜4)内の制御部133により制御される。
【0028】上述した動作を行なう分割画像符号化装置
120i (i=1〜4)において、下記の方法により、符号化
マクロブロックタイプの決定および量子化スケールコー
ドの決定を行なう。
【0029】マクロブロックタイプの決定方法 分割画像符号化装置120i (i=1〜4)は符号化マクロブ
ロックタイプについて、入力動画像信号VIDEOを分
割したときの分割境界からの位置に応じて、図4に図解
したように、イントラ化の程度を決定していく。図4は
マクロブロックの符号化タイプを強制的にイントラ・マ
クロブロックとしていく状態を例示したグラフである。
図4はPピクチャの画像信号の縦方向の分割境界に対す
るイントラ・マクロブロック化の状態を示す図である。
入力動画像信号VIDEOを分割した際の分割境界に接
するマクロブロック、および、その次のマクロブロック
の符号化マクロブロックタイプを、強制的にイントラ・
マクロブロックとする。イントラ化の程度は図4に例示
したように、100%となる。なお、分割境界に接する
マクロブロックとしては、最小1マクロブロック、必要
に応じて、数マクロブロックまで拡大することができ
る。入力動画像信号VIDEOの分割境界から遠ざかる
方向の各マクロブロックについては、図4に例示したよ
うに、強制的にイントラ・マクロブロックにする比率
(%)を順に下げながらも、所定の分布および所定のイ
ントラ化の程度でイントラ・マクロブロックとしてい
く。すなわち、図4に示すように、太い線で示した分割
境界に隣接するマクロブロックおよびその1列境界から
離れた側の列のマクロブロックは、網点で示したよう
に、いずれも全てイントラ化する。そして、分割境界に
対して両方向とも、分割境界から1列離れるごとに、た
とえば、図解のごとく、70%、50%、35%、25
%、18%、13%、9%、6%という割合で、その列
のマクロブロックをイントラ化する。
【0030】図4に図解した例示は縦方向の分割境界に
対する状態であるが、横方向の分割境界に対しても同様
の処理を行なう。図4の例はPピクチャに対するもので
あるが、Bピクチャに対しても同様に処理を行うものと
する。ただし、Iピクチャのマクロブロックはすべてイ
ントラ・マクロブロックなので実質的にこの処理は行な
わない。
【0031】分割画像符号化装置120i (i=1〜4)にお
けるイントラ・マクロブロック化する各マクロブロック
の位置は、図4に図解した例示のごとく固定ではなく、
ピクチャごとにランダムに変化させることができる。ラ
ンダムに変化させるとき、完全にランダムにする必要は
なく、マクロブロックのパラメータとして得られるME
残差やアクティビティなどの値の下位ビットを参照して
イントラ・マクロブロック化するマクロブロックを選択
するなど、人間の目に規則性が感じられない程度のラン
ダム性であれば何ら問題ない。そのような乱数の発生例
としては、パラメータの下位ビットを使うなどしたほう
が、ハードウエアの動作チェック時に、イントラ・マク
ロブロックになるべきマクロブロックの位置があらかじ
め求められるので望ましい。
【0032】量子化スケールコードの決定方法 分割画像符号化装置120i (i=1〜4)における量子化ス
ケールコードの決定について、図5および図6を参照し
て述べる。図5に図解した例示は、入力動画像信号VI
DEOを4分割した場合について示している。図6は補
正係数を例示したグラフである。下記の処理は分割画像
符号化装置120i (i=1〜4)内の制御部133が分割画
像符号化装置120i (i=1〜4)の各部を制御して行なわ
れる。
【0033】分割画像符号化装置120i (i=1〜4)内の
量子化部124は、入力動画像信号VIDEOについて
分割境界をはさむマクロブロックの量子化スケールコー
ド(Qスケールコード)あるいは量子化スケール(Qス
ケール)を下げる。量子化部124は、分割境界から離
れた列のマクロブロックについても、分割境界から離れ
るにつれて、濃淡で程度を図5に図解したように、下げ
るQスケールコードあるいはQスケールの大きさが徐々
に小さくなるように、各QスケールコードあるいはQス
ケールを下げる。逆に、分割境界からある程度以上離れ
たマクロブロックにおいては、量子化部124はQスケ
ールコードあるいはQスケールを上げる。以下、より具
体的に述べる。
【0034】図5に示すように、分割画像信号VIDE
O−A,−B,−C,−Dそれぞれに対し、分割境界を
基準にした位置に応じてマクロブロック単位でa〜gの
7つの領域を割り当てる。次に、通常の符号化処理を行
い分割画像符号化装置120i (i=1〜4)の量子化部12
4において各マクロブロックについてQスケールコード
が決定されたら、ピクチャタイプとそのマクロブロック
が含まれる領域に基づいて、図6に例示した補正係数を
用いて各マクロブロックごとにQスケールコードの補正
を行う。この補正により、QスケールコードがMPEG
2で規定されている最小値の1より小さくなるときは、
Qスケールコ一ドの値を1とする。さらに補正されたQ
スケールコードに基づいて、量子化部124において量
子化を行なう。
【0035】本実施の形態においては、分割画像符号化
装置120i (i=1〜4)として、一般的なMPEG2−M
P@MLのエンコーダとして構成した場合を例示してい
るが、NTSC方式では縦480ラインまでしか対応し
ていないことがあるので、本実施の形態の分割画像符号
化装置120i (i=1〜4)では、縦576ラインまで対応
しているPALモードでエンコードを行う。その際、P
ALモードではフレームレートが25フレーム/秒なの
で、クロック周波数を上げて30フレーム/秒でエンコ
ードを行う。
【0036】ビデオストリーム統合装置 ビデオストリーム統合装置140は、第1〜第4の分割
画像符号化装置120 1 〜1204 から出力される4つ
のMPEG2−MP@MLのビデオストリームを合成
し、MPEG2−MP@HLのビデオストリームを生成
する。なお、720×544,30フレーム/秒は、サ
ンプル数がMP@MLの上限をわずかに越えるが、ここ
では便宜上MP@MLと記す。すなわち、ビデオストリ
ーム統合装置140は、4つのMPEG2−MP@ML
のビデオストリームをスライス単位で分解し、それらを
1つのビデオストリームに再構成することにより、1つ
のMPEG2−MP@HLのビデオストリームを得る。
この時、スライス単位より上位の、シーケンス、GO
P、ピクチャレベルのヘッダデータ、拡張データ、ユー
ザデータは1つのみでいいので、第1の分割画像符号化
装置1201 から出力されるビデオストリームのみを用
い、第2〜第4の分割画像符号化装置1202 〜120
4 から出力されるビデオストリームは破棄する。
【0037】より具体的に述べると、ビデオストリーム
統合装置140は、第1〜第4の分割画像符号化装置1
201 〜1204 においてエンコードを開始後、分割画
像符号化装置1201 〜1204 から出力される4つの
ビデオストリームそれぞれにおいて最初のスライススタ
ートコードが現れるまで、第1の分割画像符号化装置1
201 から出力されるビデオストリームのみを出力し、
第2〜第4の分割画像符号化装置1202 〜1204
ら出力されるビデオストリームは破棄する。
【0038】ビデオストリーム統合装置140は、1つ
のMPEG2−MP@HLのビデオストリームとして書
き換えが必要となるパラメータ、たとえば水平画素サイ
ズ、垂直画素サイズ、アスペクト比情報、ビットレー
ト、VBVバッファサイズ、VBVディレイについて
は、制御装置150からの指示に従い、あるいは可能な
ものは分割画像符号化装置120i (i=1〜4)から出力さ
れるビデオストリームのそれぞれの値から計算により求
めた値に書き換える。動きベクトルの探索範囲をあらわ
すエフ・コードは、各ピクチャのエンコード前に、制御
装置150から分割画像符号化装置120i (i=1〜4)に
同じ値をあらかじめ設定しておく。
【0039】ビデオストリーム統合装置140は、スラ
イススタートコード以降のビデオストリームについてス
ライス単位で分解し、図7に示すようにA1,B1,A
2,B2,…,A34,B34,C1,D1,C2,D
2,…,C34,D34の順に並べ替えて出力する。こ
の時、ビデオストリーム統合装置140はスライスの垂
直位置情報を表すスライスヘッダの値を、必要に応じて
正しい値に書き換える。またビデオストリーム統合装置
140はスライスの最初のマクロブロックにおける水平
位置情報を表すマクロブロック・アドレス・インクリメ
ントも必要に応じて正しい値に書き換える。
【0040】ビデオストリーム統合装置140は、図7
に例示した最後のスライスD34のビデオストリームを
出力後、分割画像符号化装置からシーケンスエンドコー
ドが出力された場合は、シーケンスエンドコードを1つ
出力し、ビデオストリームの統合(合成)を終了し、次
のシーケンススタートコードの入力を待つ。
【0041】制御装置 制御装置150は、動画像符号化装置100が上述した
所望の動作をするように、各構成部を制御する。
【0042】動画像符号化装置100の全体動作につい
て述べる。たとえば輝度信号が横1920画素×縦10
80ライン、色差信号が横960画素×縦1080ライ
ンのHDTV映像信号(入力動画像信号VIDEO)が
動画像符号化装置100に入力されると、画面分割装置
110が輝度信号を横方向に1440画素に、色差信号
を横方向に720画素に変換する。縦方向については、
画面分割装置110は、輝度信号、色差信号ともに画像
の下にそれぞれ8ラインのダミーデータを付けて108
8ラインとする。画面分割装置110はこのようにサイ
ズ変換した画像信号を、図2に示すように4つの領域
A,B.C,Dの分割画像信号VIDEO−A,−B,
−C,−Dに分割して第1〜第4の分割画像符号化装置
1201 〜1204 に出力する。
【0043】第1〜第4の分割画像符号化装置1201
〜1204 はそれぞれ、入力された横720×縦544
ラインの各分割画像信号VIDEO−A,−B,−C,
−Dを図3を参照して述べた各部の処理に従って符号化
してMPEG2のビデオストリームを生成し、ビデオス
トリーム統合装置140に出力する。この符号化の際、
分割画像符号化装置120i (i=1〜4)は、特定のマクロ
ブロックについては、図4を参照して述べたように、分
割境界に接するマクロブロックについては強制的にイン
トラ・マクロブロックとし、分割境界部分から列および
行が離れるにつれてイントラ・マクロブロックの割合が
徐々に減少するように、各列からランダムに選択された
所定数のマクロブロックについて、イントラ・マクロブ
ロックとして符号化を行なう。
【0044】分割画像符号化装置120i (i=1〜4)は、
図5に領域a〜e(Iピクチャ、Pピクチャ)および領
域a〜c(Bピクチャ)で示すような、分割境界に近い
マクロブロックについては、図6に示すような補正係数
に基づいて量子化スケールコードを下げて、実質的に符
号化した画質の低下が少なくなるようにして量子化を行
なう。また、領域gのような分割境界からある程度以上
離れたマクロブロックにおいては、分割画像符号化装置
120i (i=1〜4)は、図6に例示したように高い補正係
数を用いて量子化スケールコードを逆に上げて量子化を
行なう。
【0045】ビデオストリーム統合装置140は、第1
〜第4の分割画像符号化装置120 1 〜1204 から出
力される4個のビデオストリームを1つのMPEG2−
MP@HLのビデオストリームに合成する。すなわち、
ビデオストリーム統合装置140で4個のビデオストリ
ームをスライス単位で分解し、図7に示すようにA1,
B1,A2,B2,…,A34,B34,C1,D1,
C2,D2,…,C34,D34の順に並べ替える。
【0046】このようにして生成された分割画像信号V
IDEO−A,−B,−C,−DについてのMPEG2
ーMP@HLのビデオストリームは、ビデオストリーム
統合装置140より出力され、必要に応じて入力動画像
信号VIDEOと関連する音声信号と多重化された後、
動画像符号化装置100の後段の図示しない装置、たと
えば、伝送経路を経由して画像復号化装置に伝送された
り、あるいは図1に示すようなビデオテープ記録装置3
00に伝送されて記録される。
【0047】第1実施の形態の効果 第1実施の形態において、第1〜第4の分割画像符号化
装置1201 〜120 4 におけるMPEG2−MP@M
L符号化の際に、分割境界に隣接するマクロブロック化
をイントラ・マクロブロック化しているので、分割境界
をはさむ2つのマクロブロックのエンコード条件が同じ
となり、分割境界における符号化画像の画質の不連続性
を防ぐことができる。また第1実施の形態において、分
割境界から離れた列のマクロブロックについては、分割
境界から離れるにつれて徐々にイントラ化するマクロブ
ロックの割合が少なくなるように、選択的にイントラ・
マクロブロック化しているので、符号化画質が異なるマ
クロブロックが直線的に並び人間の目に認識されること
を防ぐことができる。さらに第1実施の形態において、
イントラ・マクロブロックにするマクロブロックの位置
は図6に例示したように固定ではなく、ピクチャごとに
ランダムに変化させることができるので、イントラ・マ
クロブロックのみの領域とそうでない領域との境界が人
間の目には認識できにくくなり実質的に符号化画質の低
下を防ぐことができる。
【0048】第1実施の形態において、入力動画像信号
VIDEOの分割境界をはさむ2つのマクロブロックの
QスケールコードあるいはQスケールを下げている。し
たがって、エンコードによる符号化画質の低下が少なく
なり、この分割境界をはさむ2つのマクロブロックはと
もにエンコード前の原画像に近い画質となる。その結
果、たとえ分割境界の両側のマクロブロックで符号化条
件が異なり符号化画質の低下の仕方に相違があったとし
ても、符号化画質の低下そのものが少ないため、人間の
目に感知できるような画質の不連続はなくなり、実質的
に符号化画質の低下を防ぐことができる。また、第1実
施の形態において、入力動画像信号VIDEOの分割境
界から離れた列および行のマクロブロックについても、
分割境界から離れるにつれて下げるQスケールコードあ
るいはQスケールの大きさが徐々に小さくなるように、
補正係数を用いて、QスケールコードあるいはQスケー
ルを下げている。このようにすることで、新たに符号化
画質が異なる境界が生じること、すなわち符号化画質の
不連続性が生じるのを防ぐことができる。
【0049】第1実施の形態において、分割境界からあ
る程度以上離れたマクロブロックにおいては、Qスケー
ルコードあるいはQスケールを逆に上げている。これに
より、この部分からの符号化による発生ビット量を減少
させ、分割境界付近での発生ビット量の増加を相殺する
ことができ、1つの画面の動画像信号VIDEOについ
て符号化による発生ビット量の増加を防ぐことができ
る。
【0050】第1実施の形態によれば、既存の小規模、
安価で低消費電力なMPEG2−MP@MLのエンコー
ダを用いてHDTV画像信号などの動画像信号を圧縮符
号化し、MPEG2−MP@HLのビデオストリームを
生成することができる。その結果、既存の小規模、安価
で低消費電力なMPEG2−MP@MLのエンコーダを
複数個用いて、HDTV画像信号などのような大量の動
画像信号についても、経済的にも実用的な符号化画質を
提供する圧縮符号化装置が実現できる。また、このよう
な画像符号化装置に対応して、既存の小規模、安価で低
消費電力なMPEG2−MP@MLのデコーダを用いた
動画像信号の復号化装置を用いることができる。
【0051】画像符号化装置の適用例 第1実施の形態の動画像符号化装置100は、種々の装
置に適用することができる。
【0052】第1適用例 図10は、第1実施の形態の画像符号化装置をビデオカ
メラ装置210に適用した構成図を示す。図10に示す
ビデオカメラ装置210において、CCDを含む光学系
211で撮影されて生成された電気信号を画像信号生成
部212でHDTV画像信号に生成する。このようにし
て生成されたHDTV信号を第1実施の形態の動画像符
号化装置100で符号化して、MPEG2−MP@HL
ビデオストリームを生成し、その結果を記録部213を
介して、記録媒体300に記録する。このような構成に
よれば、安価で小型で低消費電力な、HDTV信号に対
応したビデオカメラ装置を提供することができる。
【0053】第2適用例 図11は、第1実施の形態の画像符号化装置を画像記録
装置に適用した構成図を示す。図11に示す画像記録装
置220において、画像信号入力部221において外部
より入力されるHDTV信号を受信し、受信したHDT
V信号を本発明の第1実施の形態の動画像符号化装置1
00で符号化し、生成されたMPEG2−MP@HLビ
デオストリームを記録部213を介して記録媒体300
に記録する。このような構成によれば、安価で小型で低
消費電力な、HDTV信号に対応した画像記録装置を提
供することができる。
【0054】第3適用例 図12は、第1実施の形態の画像符号化装置を画像伝送
装置に適用した構成図を示す。図12に示す画像伝送装
置230においては、画像信号入力部221において外
部より入力されるHDTV信号を受信し、受信したHD
TV信号を本発明の第1実施の形態の動画像符号化装置
100で符号化し、MPEG2−MP@HLビデオスト
リームを生成する。生成されたビデオストリームを、送
信部231において伝送に適した形態の信号に符号化、
変調を行ない、伝送路232を介して、所望の送信先に
送信する。このような構成によれば、安価で小型で低消
費電力な、HDTV信号に対応した画像伝送装置を提供
することができる。
【0055】なお、本発明の画像符号化装置は第1実施
の形態に限られるものではなく、任意好適な種々の改変
が可能である。
【0056】たとえば、分割画像符号化装置120i (i
=1〜4)において、符号化の際に強制的にイントラ・マク
ロブロック化する方法は、前述した実施の形態の方法に
限られるものではなく、他の方法を適用できる。たとえ
ば、強制的にイントラ・マクロブロック化する処理は、
縦方向の分割境界、あるいは、横方向の分割境界のいず
れか一方にのみ行なうようにしてよい。また、境界から
の距離に対応するイントラ化するマクロブロックの割合
や、そのイントラ化するマクロブロックのパターンなど
は、いずれも図4に示した例に限られるものではない。
ピクチャごとに変化させたり、分割境界の位置によって
値を変化させたり、あるいは部分的に処理を行わないと
ころがあってもよい。その際には、エンコードにより各
マクロブロックから得られるパラメータ、たとえば、M
E残差、アクティビティ、フラットネスなどを用いて、
分割境界における画質の不連続が生じる可能性やその度
合いを予測し、それに応じてイントラ化するマクロブロ
ックの割合やパターンを適応的に変化させてもよい。
【0057】分割画像符号化装置120i (i=1〜4)にお
ける量子化スケールコードの補正の方法も他の方法に代
えることができる。たとえば、図6に示した補正係数以
外の補正係数を用いて量子化スケールコードの補正を行
うことができる。また、Bピクチャに対する補正係数を
IピクチャやPピクチャと同じ補正係数にすることもで
きる。
【0058】量子化スケールコードを補正するための領
域の分けかたも、図5に示した例に限られるものではな
い。たとえば、図8に示すように領域を分けて、縦方向
の分割境界に対してのみ処理を行うようにしてもよい
し、逆に、図9に示すように領域を分けて、横方向の分
割境界に対してのみ処理を行うようにしてもよい。
【0059】符号化の処理範囲も、分割境界の端から端
までではなく一部分あるいは複数の部分であってもよ
い。すなわち処理が行われない部分があってもよい。ま
た、分割する領域の数、すなわち補正係数を変化させる
領域の数も、適切な任意の数でよい。領域の分けかたや
補正値は固定ではなく、ピクチャ毎に変化させてもよ
い。その際には、エンコードにより各マクロブロックか
ら得られるパラメータ、たとえば、ME残差、アクティ
ビティ、フラットネスなどを用いて、分割境界における
画質の不連続が生じる可能性やその度合いを予測し、そ
れに応じて領域の分け方や補正値をアダプティブに変化
させてもよい。
【0060】第1実施の形態の動画像符号化装置100
においては、符号化マクロブロックタイプのイントラ
化、および、量子化スケールコードの補正という、2つ
の処理を同時に行なった。このいずれの方法も、各々独
立して分割境界付近の画質の差異の発生を防ぐという効
果を有するものであり、いずれか一方のみを行なうよう
な構成であってもよい。もちろん、マクロブロックを強
制的にイントラ・マクロブロックにする処理を行うと、
その処理が行われる分割境界付近の画質が低下する傾向
にあるので、第1実施の形態のように、量子化スケール
コードを変化させる処理を併用することがより有効であ
る。
【0061】第1実施の形態の主目的は、分割画像信号
VIDEO−A,−B,−C,−Dについて分割境界の
制限を排除して符号化条件を同一にすることにより、分
割境界付近での符号化画質の低下の発生を防止し、HD
TV信号のような多数の画像信号を分割して効果的に符
号化することにある。したがって、実質的に符号化条件
を同一にする、換言すれば符号化結果の画質レベルを同
一にするという主旨の範囲内であれば、前述したマクロ
ブロックタイプを変更する方法、量子化スケールコード
を補正する以外の任意の方法を適用してよい。たとえ
ば、動き補償予測処理を制御して、Pピクチャでは強制
的に動き補償予測を無効にし、Bピクチャでは動きベク
トルを(0,0)とするような処理を行なってもよい。
また、動きベクトルの値に制限を加えて、たとえばマク
ロブロックが分割境界に近いときは動きベクトルを強制
的に(0,0)とするが、分割境界からの距離が離れる
にしたがい、動きベクトルの値を±1まで、±2まで
…、と制限を緩めることにより、分割境界での符号化画
質の不連続性をなくし、かつ不連続をなくす処理による
符号化画質の不自然さをなくすようにすることができ
る。
【0062】本発明の第1実施の形態の動画像符号化装
置は、図10〜図12に例示したビデオカメラ、画像記
録装置および画像伝送装置にのみ適用されるものではな
く、その他の画像処理装置に適用することができる。
【0063】第2実施の形態 図13〜図23を参照して、本発明の画像符号化装置お
よび画像符号化方法の第2実施の形態を述べる。
【0064】第1実施の形態においては、分割境界付近
の符号化画像の画質の不連続を除く対策として、分割境
界付近の符号化のための量子化(Q)スケールコードを
下げる例を示した。しかしながら、第1実施の形態の方
法によると、分割境界付近におけるマクロブロックの符
号化による発生ビット量が多く割り振られることにな
り、ビットレートが一定の場合、分割境界付近以外の領
域においては符号化により割り振られる発生ビット量が
少なく制限され、各分割画像信号についての符号化画像
の画質が低下する可能性がある。分割境界付近の符号化
画像の画質の不連続を克服するため、分割境界以外の他
の領域の符号化画像の画質がある程度低下するのは仕方
ないが、分割境界において符号化画像の画質が常に不連
続になる訳ではなく、画像の内容に応じては、分割境界
における符号化画像の画質に不連続が生じないことも多
い。しかしながら、第1実施の形態では、分割境界にお
いて符号化画像の画質の不連続が起こることを想定して
一律に分割境界付近の符号化画像の画質の不連続を除く
処理を行っているから、上述したように、符号化画像の
画質が低下する可能性がある。
【0065】第2実施の形態の画像符号化装置および画
像符号化方法は、上述した第1実施の形態の画像符号化
装置および画像符号化方法による不具合を改善する。第
2実施の形態においては、下記の方針で対策を講ずる。 (1)分割境界付近の符号化画像の画質の不連続が生じ
る度合いを予測手段で予測し、これに応じて分割境界付
近の符号化の量子化スケールコードの下げ方を制御す
る。 (2)上記予測手段における予測のために、各分割画像
符号化装置120i (i=1〜4)でエンコード時に得られる
ME残差を使う。ME残差を用いる理由は後述する。 (3)上記予測に使用するME残差は、Pピクチャのエ
ンコード結果のみを使用し、Bピクチャは使わない。こ
の理由も後述する。 (4)上記予測のためME残差を予測手段に転送すると
き、好ましくは、データ量を圧縮して、分割画像符号化
装置120i (i=1〜4)と予測手段(制御装置内の分割境
界付近処理部)との間のデータ転送量を削減する。 (5)上記転送するME残差は、動画像信号VIDEO
の分割境界に隣接する、1〜数ブロック幅、好ましく
は、2マクロブロック幅とする。この理由も後述する。 (6)分割境界付近の符号化のための量子化スケールコ
ードの下げ方は、分割境界に接する両側のマクロブロッ
クに対し同じとは限らず、ME残差の特徴に応じて片方
の下げ方を大きくする。 (7)分割境界付近の量子化スケールコードの下げ方の
制御は、通常のレートコントロールにより得られた量子
化スケールコードに対するオフセット量ではなく、強制
的に特定の値にする目標値とする。この理由も後述す
る。 (8)項目7の量子化スケールコードの下げ方の制御に
おいて、通常のレートコントロールにより得られた量子
化スケールコードが目標値より小さい場合、量子化スケ
ールコードの制御は行わない。
【0066】予測手段は、本実施の形態では、図13を
参照して後述する制御装置150A内の分割境界付近処
理部154で実現している。分割境界付近処理部と協働
して、上述した処理を行なう分割画像符号化装置120
i (i=1〜4)内の手段は、主として、図3に図解した分
割画像符号化装置内制御部133で行なう。したがっ
て,図3に図解した分割画像符号化装置120Ai (i=1
〜4)の基本構成および基本処理は第1実施の形態と同様
である。
【0067】上記方針と対策に基づく第2実施の形態の
画像符号化装置および画像符号化方法の詳細について述
べる。図13は本発明の第2実施の形態としての動画像
符号化装置100Aの全体構成図である。動画像符号化
装置100Aは、画面分割装置110と、第1〜第4の
分割画像符号化装置120A1 〜120A4 (分割画像
符号化装置120Ai (i=1〜4))と、ビデオストリーム
統合装置140と、制御装置150Aとを有する。
【0068】画面分割装置110は、図1を参照して述
べた第1実施の形態の動画像符号化装置100における
画面分割装置110と同じである。したがって、画面分
割装置110の詳細な記述は割愛する。ビデオストリー
ム統合装置140は、図1を参照して述べた第1実施の
形態の動画像符号化装置100におけるビデオストリー
ム統合装置140と同じである。したがって、ビデオス
トリーム統合装置140の詳細な記述は割愛する。
【0069】制御装置150Aは図1を参照した述べた
第1実施の形態の動画像符号化装置100における制御
装置150とは異なり、制御部152と分割境界付近処
理部154とを有する。制御部152は第1実施の形態
の制御装置150における処理と同様の処理、すなわ
ち、画面分割装置110と、第1〜第4の分割画像符号
化装置120A1〜120A4 と、ビデオストリーム統
合装置140の動作を制御を行なう。分割境界付近処理
部154は、上述した予測手段として機能し、第2実施
の形態において付加されたものである。分割境界付近処
理部154は分割境界付近画質の不連続性を予測し、分
割境界付近の符号化操作量を決定するが、その詳細は後
述する。分割境界付近処理部154は第2実施の形態に
おいては、制御装置150Aの一部として実現した場合
を述べるが、制御装置150Aを第1実施の形態と同様
の制御装置150として、分割境界付近処理部154を
制御装置150とは独立した装置として実現することも
できる。
【0070】第1〜第4の分割画像符号化装置120A
1 〜120A4 (分割画像符号化装置120Ai (i=1〜
4))は、基本的な符号化処理のための回路構成(または
処理方法)については、上述したように、図3を参照し
て述べた回路構成(または処理方法)と同じであるの
で、図解を省略する。ただし、第1〜第4の分割画像符
号化装置120A1 〜120A4 は、上述した方針に基
づいて分割境界付近処理部154と協動して行なう処理
に関して、第1実施の形態の第1〜第4の分割画像符号
化装置1201 〜1204 に付加した機能を有する。そ
の処理は、主として、図3に図解した分割画像符号化装
置内制御部133で行なう。その詳細は下記に述べる。
【0071】画面分割装置110に入力される動画像信
号VIDEOは第1実施の形態において述べたものと同
様、図2に図解したものと同じとする。
【0072】画面分割装置110は上述したように、入
力動画像信号VIDEOのサイズの変更を行い、分割画
像信号VIDEO−A,−B,−C,−Dを生成し、生
成した分割画像信号VIDEO−A,−B,−C,−D
を第1〜第4の分割画像符号化装置120A1 〜120
4 に出力する。
【0073】分割画像符号化装置と分割境界付近処理部
の動作 第1〜第4の分割画像符号化装置120A1 〜120A
4 はそれぞれ分割画像信号VIDEO−A,−B,−
C,−Dを並列かつ独立に符号化処理を行い、その結果
得られる分割境界付近の符号化画像の画質の不連続に関
連する符号化の特徴量FA〜FDを制御装置150Aの
分割境界付近処理部154に転送する。
【0074】分割境界付近のマクロブロックの符号化画
像の画質の不連続性を予測し、分割境界付近のマクロブ
ロックの符号化操作量を決定する分割境界付近処理部1
54は、第1〜第4の分割画像符号化装置120A1
120A4 で分割画像信号VIDEO−A,−B,−
C,−Dを符号化した際に得られて転送されてきた分割
境界付近のマクロブロックの画像の符号化の特徴量FA
〜FDを基に分割境界付近のマクロブロックにおける符
号化画像の画質の不連続の度合いを予測する。分割境界
付近処理部154はさらに画質の不連続の度合いを予測
した程度に応じ、分割境界付近のマクロブロックにおけ
る符号化画像の画質の不連続を除去する処理の操作量を
決定する。分割境界付近処理部154は決定した分割境
界付近のマクロブロックについての符号化操作量CO−
A〜CO−Dをそれぞれ第1〜第4の分割画像符号化装
置120A1 〜120A4 に転送する。
【0075】第1〜第4の分割画像符号化装置120A
1 〜120A4 はそれぞれ、分割境界付近処理部154
から転送された分割境界付近のマクロブロックの符号化
操作量CO−A〜CO−Dに応じた符号化処理を行う。
【0076】図14は上述した処理の動作タイミングを
示す図である。分割画像符号化装置120Ai (i=1〜4)
においてN番目のピクチャ#Nの符号化が終了すると、
図3の分割画像符号化装置内制御部133はその結果得
られる分割境界付近のマクロブロックの符号化特徴量を
制御装置150Aの分割境界付近処理部154に転送す
る。分割境界付近処理部154は、分割画像符号化装置
120Ai (i=1〜4)で(N+1)番目のピクチャ#(N
+1)の符号化を行っている期間に、分割境界付近のマ
クロブロックの符号化特徴量FA〜FDを基に分割境界
付近のマクロブロックにおける符号化画像の画質の不連
続性の度合いを予測し、さらにそれに応じた分割境界付
近のマクロブロックにおける符号化画像の画質の不連続
を除去するための分割画像符号化装置120Ai (i=1〜
4)における符号化時の処理操作量を決定する。分割境界
付近処理部154は決定した分割境界付近のマクロブロ
ックの符号化操作量CO−A〜CO−Dを、分割画像符
号化装置120Ai (i=1〜4)において(N+2)番目の
ピクチャ#(N+2)の符号化が開始される前に分割画
像符号化装置120Ai (i=1〜4)に転送する。分割画像
符号化装置120Ai (i=1〜4)において、転送されてき
た分割境界付近のマクロブロックの符号化操作量CO−
A〜CO−Dに応じて、(N+2)番目のピクチャ#
(N+2)の符号化処理を行う。
【0077】図14に図解した動作タイミングでは、N
番目のピクチャ#Nの符号化結果が反映されるのは、1
ピクチャをおいた後の(N+2)番目のピクチャ#(N
+2)となる。もしデータ転送能力や制御装置150A
内の分割境界付近処理部154の演算能力が十分あれ
ば、N番目のピクチャ#Nの符号化結果を次の(N+
1)番目のピクチャ#(N+1)の符号化処理に反映さ
せるようなタイミングにするのが望ましい。逆に分割画
像符号化装置120Ai (i=1〜4)の分割画像符号化装置
内制御部133と分割境界付近処理部154との間の転
送能力の制限や、分割境界付近処理部154の処理能力
の限界などの理由により、N番目のピクチャ#Nの符号
化結果を1ピクチャをおいた後の(N+2)番目のピク
チャ#(N+2)への符号化処理には反映できないが、
さらに1ピクチャをおいた後の(N+3)番目のピクチ
ャ#(N+3)への符号化処理に反映できる場合には、
N番目のピクチャ#Nの符号化結果を(N+3)番目の
ピクチャ#(N+3)の符号化処理に反映させるような
タイミングで、上述した処理を行なっても構わない。そ
の理由は、短期間のピクチャは動画であっても、通常、
連続性があるから、多少ピクチャの間が空いても符号化
処理に大きな影響を及ばさない場合があるからである。
このような観点からは、N番目のピクチャ#Nの符号化
結果を3ピクチャの間が空いた(N+4)番目のピクチ
ャ#(N+4)への符号化処理に反映させることもでき
る。このような場合、分割境界付近処理部154の処理
負担は非常に軽減し、分割境界付近処理部154に高性
能の演算処理手段、たとえば、コンピュータを用いない
でもよいという利点がある。
【0078】図24は分割境界付近のマクロブロックに
ついての符号化画像の画質が不連続になる様子を例示し
た図である。図24に図解した例示は、1画面のピクチ
ャ(入力動画像信号VIDEO)を垂直方向で2分した
場合に分割境界付近のマクロブロックの状態を例示した
図である。図解の簡単化のために水平方向における分割
境界は示していないが、水平方向の分割境界のマクロブ
ロックについても垂直方向の分割境界のマクロブロック
と同様である。図24の図解はPピクチャが、画像全体
が図面の左から右に移動している例を示している。中央
の分割境界から離れたマクロブロック、たとえば、k列
のマクロブロックにおいては、両側のマクロブロックの
画像信号が存在するから、正しく左向きの動きベクトル
を求めることができる。ところが、分割境界の右側に接
した網点で示したマクロブロックにおいては、本来求め
るべき左向きベクトルの先は分割画面の外でありその左
にはマクロブロックの画像が存在しないから正しく動き
ベクトルを求めることはできない。そのため、仮に分割
画面内で尤もらしいベクトルを動きベクトルとして出力
する。その結果、分割境界の右側に接する網点で示した
マクロブロックにおいては符号化画像の画質の低下ある
いは他のマクロブロックとの画質の相違が生じ、これが
符号化画像の画質の不連続となる。その結果、ビデオス
トリーム統合装置140で第1〜第4の分割画像符号化
装置120A1〜120A4 からの符号化画像を統合し
たとき、2つの符号化画像の画質に不連続性が顕著に表
れて、いかにも切ってつないだような画像となる。
【0079】符号化画像の不連続の程度の予測方法およ
び特徴量の転送 このような符号化画像の不連続を低減する方法を第1実
施の形態において述べたが、第2実施の形態において
は、分割境界付近処理部154において符号化画質の不
連続の度合いを予測し、分割画像符号化装置120Ai
(i=1〜4)においてそれに応じた不連続性の低減または除
去処理を行う。
【0080】予測方法 1.動きベクトルの使用 分割境界付近処理部154における符号化画像の不連続
を予測する方法としては、動きベクトルを使い、隣接す
るマクロブロックの動きベクトルとの相違を見る方法を
とることもできる。しかしながら、この方法では、動き
ベクトルが異なっていることから符号化画像の画質の不
連続が生じる可能性は判断できるが、どの程度符号化画
像の画質が不連続になるかその度合いを算出するのが困
難である。また分割境界を挟み隣接するマクロブロック
間で符号化画像の画質の不連続の程度を比較するために
は、第1〜第4の分割画像符号化装置120A1 〜12
0A4 で求めた動きベクトルを制御装置150Aの分割
境界付近処理部154に転送し、分割境界付近処理部1
54において比較する必要がある。動きベクトルを使用
する場合、x座標とy座標の2つのパラメータを分割境
界付近処理部154に転送する必要があり、分割画像符
号化装置120Ai (i=1〜4)の制御部133から分割境
界付近処理部154に転送するデータ量が多くなるとい
う不具合に遭遇する。
【0081】2.ME残差の使用 一方、分割画像符号化装置120Ai (i=1〜4)における
符号化時に通常求めるME残差は、動きベクトルが正し
く求められたときはその値が小さく、逆に正しく求めら
れなかったときは、その度合いに応じて大きな値になる
という特徴があるため、第2実施の形態では分割境界付
近処理部154においてME残差を用いて符号化画像の
画質の不連続の度合いを予測する。
【0082】転送するME残差の量 図24に示すように、分割境界に接する1マクロブロッ
ク幅のみME残差の値が大きくなるとき、符号化画像の
画質に不連続が生じやすいという特徴がある。この特徴
を利用して符号化画像の画質の不連続を予測するため、
好ましくは、第2実施の形態では図15に図解したよう
に、分割境界に接する、たとえば、斜線で示した2マク
ロブロック幅のME残差を第1〜第4の分割画像符号化
装置120A1 〜120A4 から分割境界付近処理部1
54に転送する。分割画像符号化装置120Ai (i=1〜
4)の制御部133から分割境界付近処理部154に転送
するME残差の量は、分割境界に接する3マクロブロッ
ク幅以上のME残差でも構わないが、転送するデータ量
が増える不利益に比べ、符号化画像の画質の不連続の予
測精度が上がるといった利点は少ないと考えられる。逆
に1マクロブロック幅のME残差を用いると仮定する
と、制御部133から分割境界付近処理部154に転送
するデータ量が削減できるが、分割境界から2マクロブ
ロック離れたマクロブロックのME残差が1マクロブロ
ック離れたマクロブロックのME残差より小さいとき符
号化画像の画質に不連続が生じやすい特徴を利用でき
ず、符号化画像の不連続の度合いを予測するには不利で
あると考えられる。このように、転送するME残差の量
は任意に決定することができるが、現実的な面からは、
上述したように、分割境界に接する2マクロブロック幅
のME残差が最も有効であると考えられる。
【0083】ただし、分割画像符号化装置内制御部13
3から分割境界付近処理部154に分割境界に接する2
マクロブロック幅全てのME残差を転送するのではな
く、分割境界に沿って数マクロブロック毎にME残差を
転送することにより転送するデータ量を削減することが
有効であり、本実施の形態においてもそのように行なう
ことができる。
【0084】ピクチャ ME残差と符号化画像の画質の不連続とのこのような関
係は、Pピクチャで最も顕著である。Bピクチャでは双
方向の動きベクトルを求めるため、このような関係は全
くないわけではないのでME残差に使用することもでき
るが、上記関係がPピクチャほど顕著ではないので、第
2実施の形態では使わない。Iピクチャはそもそもピク
チャ間の相関を使わないピクチャなので、分割境界のマ
クロブロックの符号化画像の画質の不連続が生じる要因
がない。以上の考察から明らかなように、第2実施の形
態では、Pピクチャの符号化結果のみを使って、分割境
界付近処理部154において分割境界付近のマクロブロ
ックにおける符号化画像の画質の不連続性の度合いを予
測する。
【0085】その結果、図13に図解した分割画像符号
化装置内制御部133と分割境界付近処理部154との
間のデータ転送や演算処理のタイミングは図16に図解
したようになる。図16の図解では、制御部133と分
割境界付近処理部154との間のデータ転送を、制御部
133と分割境界付近処理部154とにタイミング判断
手段を設けて、Pピクチャの符号化後のみ行う例を示し
ている。しかしながら、制御部133と分割境界付近処
理部154とにタイミング判断手段を設けることにより
回路構成が複雑になることを回避するため、データ転送
を毎ピクチャごと常時行なってもよい。
【0086】転送するME残差の圧縮 分割画像符号化装置内制御部133から分割境界付近処
理部154に転送する2マクロブロック幅のME残差
は、1つの分割画像につき画像サイズが横720画素×
縦544ラインの場合、マクロブロック数では横45マ
クロブロック×縦34マクロブロックとなるので、1ピ
クチャに付き154個(154マクロブロック分)のデ
ータ転送が必要になる。ME残差は通常16ビットで表
されるので、そのデータ転送総量は必ずしも少ないもの
ではない。
【0087】一方、ME残差の値で分割境界付近のマク
ロブロックの符号化画像の画質の不連続の予測に必要な
のは16ビット中、高々12ビット(4095)程度の
値であり、符号化操作量として分割境界付近処理部15
4から制御部133に転送するデータは、本実施の形態
では、分割境界に接するマクロブロック1つにつき3ビ
ットなので、それを求める基となるME残差に多くのビ
ット量があっても無駄である。
【0088】そこで、第2実施の形態では、図17に図
解したように、横軸に示した16ビットのME残差(V
AR_ori)を縦軸に示した4ビットのME残差(V
AR−out)に圧縮する。すなわち、分割画像符号化
装置内制御部133はME残差をこのように圧縮した
後、分割境界付近処理部154に転送する。分割画像符
号化装置120Ai (i=1〜4)と分割境界付近処理部15
4との間のデータ転送路は、本実施の形態においては、
16ビット幅であるので、4ビットに圧縮したME残差
を一度に4個ずつ転送する。
【0089】なお、分割画像符号化装置内制御部133
においてME残差を圧縮して分割境界付近処理部154
に転送する場合、ME残差を圧縮する方法は、図17に
例示した圧縮方法に限定される訳でもない。もちろん、
ME残差を圧縮することは転送量を削減するためである
から、本発明において必須ではない。
【0090】分割境界付近処理部の処理 1.予測値 分割画像符号化装置内制御部133から制御装置150
Aの分割境界付近処理部154に転送された4ビットに
圧縮されたME残差を、図18に図解したように分割境
界の両側に垂直な方向の4個のマクロブロックのME残
差ごとにグループ分けを行う。図18に図解した例示で
は画面に垂直な方向の分割境界付近についてのみ示して
いるが、水平方向に分割境界が存在する場合も同様であ
る。図18に図解したように、上からn番目の行のマク
ロブロックにおける4つのマクロブロックのME残差
を、左から順にVa(n),Vb(n),Vc(n),
Vd(n)とする。この4つのME残差を基に、上から
n番目のマクロブロックの位置における符号化画像に不
連続が生じる度合いの予測値を、分割境界の左側のマク
ロブロックと右側のマクロブロックについてそれぞれ求
める。分割境界の左側の予測値をAl(n)とし、右側
の予測値をAr(n)として、たとえば、下記の計算式
により予測値を求める。
【0091】
【数1】
【0092】この計算式は、符号化画像の画質に不連続
が生じるときのME残差の特徴(分割境界に接する1マ
クロブロックのみME残差が大きくなる)に応じて予測
値Al(n),Ar(n)が大きくなり、逆に4つのマ
クロブロックのME残差が同じ値で全く符号化画像の画
質の不連続が生じる可能性がないと考えられるときに予
測値Al(n),Ar(n)が0になるという特徴を持
っている。上記計算式は重み係数を2のべき乗で表され
る数値を用いており、その演算はビットシフトと加減算
のみで実現可能であり、分割境界付近処理部154の演
算処理が簡単で済むという特徴を持つ。もちろん、計算
式は式1に例示した演算式に限るものではなく、符号化
画像の画質の不連続の度合いを定量的(数値的)に予測
できるものであれば、他の方法を採用することができ
る。
【0093】2.操作量の決定 分割境界付近処理部154は、予測した画質不連続の度
合いAl(n),Ar(n)を元に、分割画像符号化装
置120Ai (i=1〜4)における符号化画像の不連続の除
去処理を行う際の操作量を決定する。本実施の形態では
分割画像符号化装置内制御部133の制御のもとで分割
画像符号化装置120Ai (i=1〜4)における量子化スケ
ールコードを下げることにより符号化画像の不連続の除
去を行い、下げ方の操作量を、たとえば、4段階(2ビ
ット)に分類し、0〜3のコードで表す。
【0094】分割境界の左側のマクロブロックのコード
をCl(n)、右側のマクロブロックのコードをCr
(n)とすると、例えば下記の計算式によりコードCl
(n)、Cr(n)を求める。
【0095】
【数2】
【0096】Th1〜Th3はしきい値を意味する。コ
ードCl(n)、Cr(n)の演算は式2の例に限るも
のではなく、予測値Al(n)あるいはAr(n)に応
じて分類するものであれば、式2に代えて、他の計算式
を用いることができる。もちろん、分類数も4段階に限
るものではない。
【0097】3.平滑化処理 上記の計算より得られたコードCl(n)あるいはCr
(n)について、例えばコードの値が3のマクロブロッ
クとコードの値が0のマクロブロックが隣り合うと、処
理の違いが大きく異なるマクロブロックが隣り合うこと
になり、両者のマクロブロックの符号化画像の画質の相
違が目立つことが予想される。そこで図19に例示する
ように、分割境界付近処理部154において左側のコー
ドCl(n)あるいは右側のコードCr(n)の平滑化
処理を行う。この平滑化処理は、たとえば、左側のコー
ドCl(n)の場合、下記の計算式により可能である。
記号Cl’(nのmax)、Cl’(n)は平滑化した
コードを示す。
【0098】
【数3】
【0099】この平滑化処理によって、たとえば、縦軸
に沿って、左側のコードCl(n)が、図19に例示し
たように、垂直方向に〔00033002123210
0〕であったものが、平滑化された左側のコードCl’
(n)は、〔012332121232100〕とな
る。アンダーラインで示した部分が平滑化された結果を
示す。図19の図解においては網点で示した部分が平滑
化された結果を示している。たとえば、〔0003〕
が、〔0123〕と連続性がでるように平滑化されてい
る。両者のマクロブロックの符号化画像の画質の相違が
目立つことを克服するための平滑化は上述した例示以外
のものでもよい。もちろん、本発明において平滑化処理
は必須ではないが、両者のマクロブロックの符号化画像
の画質の相違が目立つことを克服するためには、分割境
界付近処理部154において平滑化を行なうことが望ま
しい。
【0100】分割境界付近のマクロブロックの符号化画
像の画質の不連続の除去 分割画像符号化装置120Ai (i=1〜4)における分割境
界付近におけるマクロブロックの符号化画像の画質の不
連続を除去する処理、すなわち、分割画像符号化装置内
制御部133の制御のもとで量子化スケールコードを下
げる処理は、分割境界のマクロブロックに対し片側のみ
行うと分割境界のマクロブロックの符号化画像の画質が
不連続の原因となるため、分割境界に対し両側のマクロ
ブロックを対応付けて処理を行うのが望ましい。
【0101】さらに、分割境界付近処理部154におけ
る符号化画像の画質の不連続の度合いの予測で、不連続
が生じるであろうと予測された分割境界の一方の側のマ
クロブロックの画像について処理量を多くするのが望ま
しい。そこで、符号化画像の画質の不連続が生じる分割
境界の一方の側のマクロブロックであるかどうかのフラ
グを1ビットを用意する。説明の簡単化のため垂直方向
の分割境界の場合を例示すると、図20に図解したよう
に上からn番目のマクロブロックの分割境界に対し左側
のマクロブロックのフラグをFl(n)、右側のマクロ
ブロックのフラグをFr(n)とする。分割境界付近処
理部154は、フラグFl(n)、Fr(n)の値とし
てそれぞれ平滑化したコードCl’(n)、Cr’
(n)から例えば次の計算式で求める。
【0102】
【数4】
【0103】つぎに、垂直方向の分割境界の場合を例示
すると、分割境界付近処理部154は、平滑化したコー
ドCl’(n)とCr’(n)から、分割境界の両側の
マクロブロックの画像についての処理量を対応付けた2
次平滑化コードCl”(n)とCr”(n)を例えば次
の計算式で求める。
【0104】
【数5】
【0105】もちろん、このようなコードの対応付け
や、フラグの求め方は、これに限ったものではなく、こ
れは例示である。
【0106】このようにして分割境界付近処理部154
で求めた2ビットのコード、例えば垂直方向の分割境界
の場合は2次平滑化コードCl”(n)、Cr”(n)
と、1ビットのフラグ、例えば同様に垂直方向の分割境
界の場合はフラグFl(n)、Fr(n)を対応する第
1〜第4の分割画像符号化装置120A1 〜120A 4
の制御部133に転送する。符号化特徴量としてME残
差を転送したときと同様に、第2実施の形態における転
送路は16ビット幅であるので、平滑化コードはまとめ
て一度に8個ずつ、フラグは16個ずつ、分割画像符号
化装置内制御部133に転送する。
【0107】以上、垂直方向の分割境界を例に述べた
が、水平方向の分割境界についても同様に処理を行う。
また、垂直方向と水平方向を全く同じ処理ではなく、異
なった処理にしても構わない。
【0108】分割境界付近処理部154から転送された
コードやフラグを基に、各分割画像符号化装置120A
i (i=1〜4)において制御部133の制御のもとで符号化
画像の画質の不連続を除去する処理を行う。第1実施の
形態においては、通常のレートコントロールにより得ら
れた量子化スケールコードに対し、減少させるオフセッ
ト量で規定している。この場合、下げる前の量子化スケ
ールコードが大きいと下げ方が不十分になり符号化画像
の画質の不連続の除去効果も不十分になる一方、量子化
スケールコードが小さいと必要以上に下げてしまい不必
要に分割境界付近に符号化による発生ビットを割り当て
てしまうという不具合が起こる。第2実施の形態では、
各分割画像符号化装置120Ai (i=1〜4)における符号
化時に制御部133の制御のもとで分割境界付近のマク
ロブロックの量子化スケールコードを下げる処理を以下
のように行う。
【0109】(1)第2実施の形態では量子化スケール
コードを下げるオフセット量ではなく、どの値に下げる
かという目標となる量子化スケールコードで規定する。 (2)さらに、分割境界付近処理部154から分割画像
符号化装置内制御部133に転送される符号化画像の画
質の不連続の除去処理を行うコードに応じて、目標とす
る量子化スケールコードを変化させることにより、符号
化画像の不連続の度合いの予測に応じた除去処理を行
う。 (3)通常のレートコントロールにより得られる量子化
スケールコードがこの目標値より小さい場合、量子化ス
ケールコードの操作は行わない。
【0110】第2実施の形態では、図21(A)〜
(C)に図解のようにコードから目標量子化スケールコ
ードを対応付けている。図21(B)は、図21(A)
に図解した垂直方向の分割境界に対する右側の、上から
n番目の行のマクロブロックのコードCr”(n)に対
する目標量子化スケールコードQro(n)の例を図表
に表したものである。目標量子化スケールコードQro
(n)の値を変えてピクチャタイプ毎に処理を異ならせ
ると、分割画像符号化装置120Ai (i=1〜4)における
処理負担を増加させるので、図21(B)に例示したよ
うに、本実施の形態ではピクチャタイプ毎に目標量子化
スケールコードQro(n)の値を異ならせてはいな
い。しかしながら、分割画像符号化装置120Ai (i=1
〜4)の処理能力に余裕があればピクチャタイプ毎に目標
量子化スケールコードQro(n)の値を異ならせても
構わない。また、目標量子化スケールコードQro
(n)の値そのものも図21(B)に例示したものに限
るものではない。図21(B)に図解した例示では、2
次平滑化コードCr”(n)が0のとき目標量子化スケ
ールコードQro(n)の値は31であるが、これは量
子化スケールコードの最大値であり、通常のレートコン
トロールにより得られた量子化スケールコードが目標量
子化スケールコードQro(n)以下であれば、分割画
像符号化装置120Ai (i=1〜4)において量子化スケー
ルコードを操作する処理は行わないので、結局どのよう
な場合でも処理が行われないことになる。
【0111】第2実施の形態でも、第1実施の形態と同
様に、量子化スケールコードを操作するマクロブロック
は分割境界に接するマクロブロックのみではなく、分割
境界から離れるにしたがい操作する量を減らしていく。
ただし第2実施の形態ではオフセット値ではなく目標値
で量子化スケールコードQro(n)を操作しているの
で、オフセット値を徐々に変化させるように目標量子化
スケールコードQro(n)の値を徐々に変化させても
よいが、第2実施の形態では目標量子化スケールコード
Qro(n)と通常のレートコントロールにより得られ
た量子化スケールコードを内分した値を操作後の量子化
スケールコードとし、その重みを徐々に変えるようにす
る。図21(C)にその重みの例を図表として示した。
【0112】重みはフラグFr(n)の値0か1かに応
じて異なり、かつ、分割境界からのマクロブロックの距
離dに応じて異なる。距離d=0は分割境界に隣接する
マクロブロックの位置である。なお、重みも、本実施の
形態では、目標量子化スケールコードQro(n)につ
いて述べた理由と同じ理由で、すなわち、分割画像符号
化装置120Ai (i=1〜4)の負担軽減のため、ピクチャ
タイプにより値を異ならせることは行っていない。一
方、分割境界付近処理部154で求めたフラグFr
(n)をここでは用い、符号化画像の画質の不連続が生
じる側であると判断された場合、すなわち、フラグFr
(n)=0のときは、フラグFr(n)=1のときより
量子化スケールコードの操作量が大きくなる重みに設定
している。図21(C)に例示した重みは、分母が2の
べき乗になっており、内分計算時に割り算をビットシフ
トで行うことにより、演算量が削減できるように工夫さ
れている。もちろん、この重みは、図21(C)に例示
した数値に限られるものではない。
【0113】分割境界付近処理部154における具体的
な内分計算は、例えば次のように行う。図21(A)に
示すように、垂直方向の分割境界に対して右側の、上か
らn番目のマクロブロックの目標量子化スケールコード
Qro(n)を、図21(B)に例示したコードCr”
(n)に応じて求める。この値は、分割境界からのマク
ロブロックの距離dに関わらず同じである。この位置の
分割境界から距離dのマクロブロックの変換重み係数k
r(n,d)を図21(C)に例示した図表から求め
る。マクロブロックの、通常のレートコントロールより
得られた量子化スケールコードをQr(n.d)とす
る。このとき、分割境界付近処理部154は、操作後の
量子化スケールコードQr’(n,d)を次の式により
求める。
【0114】
【数6】
【0115】分割境界付近処理部154におけるこの操
作の結果を図22に図解した。量子化スケールコードQ
r(n.d)は一般に分割境界からのマクロブロックの
距離dにより変化するが、この例では一定としている。
【0116】上記例示においては、量子化スケールコー
ドQr(n.d)の操作を、垂直方向の分割境界に対す
る右側のマクロブロックを例に述べたが、分割境界の左
側のマクロブロックも同様である。また、水平方向の分
割境界に対する上側のマクロブロックと下側のマクロブ
ロックに対する処理も同様である。もちろん、垂直方向
と水平方向の分割境界により、目標量子化スケールコー
ドや変換重み係数を異ならせても構わない。
【0117】分割境界付近処理部154は、垂直方向の
分割境界と、水平方向の分割境界の両方に近いマクロブ
ロックについては、たとえば、図23(A)、(B)に
示す量子化スケールの操作処理を行う。図23(A)に
図解のごとく、分割境界付近処理部154は、垂直方
向、水平方向の両方からの操作による量子化スケールコ
ードを一旦別々に求め、値が小さいほうを採用する。こ
の場合、量子化スケールコードの操作の処理を2回行う
ことになり、分割境界付近処理部154における演算量
が増えるという不利益がある。これに対し、図23
(B)に図解したグラフは、マクロブロックの位置関係
により、どちらか一方からの操作のみを行う例を示す。
この場合、分割境界付近処理部154における演算量は
増えないが、例えば垂直方向の符号化画像の不連続の影
響が大きいにも関わらず、位置関係から水平方向の操作
処理を行うことになり、分割境界付近のマクロブロック
のい符号化画像の画質の不連続の除去に必要な操作が不
十分になることが予想される。このように、図23
(A)、(B)に図解した量子化スケールの操作処理は
分割境界付近処理部154の状況および目的に則して、
決定する。
【0118】第2実施の形態の効果 第2実施の形態によれば、分割境界付近のマクロブロッ
クのME残差から符号化画像の画質の不連続の発生度合
いを予測し、それに応じた除去操作を行うことにより、
不必要な符号化画像の画質の低下を発生させずに分割境
界付近のマクロブロックの符号化画像の画質の不連続を
除去できる。また第2実施の形態による上記方法によ
り、ビットレートが一定の場合に、分割境界付近のマク
ロブロックについての上述した符号化処理に伴う発生ビ
ット量が不当に使用されることが回避できるので、符号
化画像全体の画質の低下が防止できる。
【0119】第2実施の形態の適用例 図13〜図23を参照して述べた動画像符号化装置10
0Aも、図10〜図12を図解した述べた図1〜図12
を参照して述べた動画像符号化装置100と同様、種々
の装置に適用できる。
【0120】
【発明の効果】このように、本発明によれば、たとえば
既存の小規模で安価で低消費電力の、簡単な構成の符号
化手段を組み合わせて、HDTV信号のような画素数の
大きい動画像信号を分割して複数の符号化手段で符号化
するとき、分割に起因する符号化画像の画質の不連続を
低減または除去して、全体の画像として画質の高い符号
化画像を提供することができる。
【図面の簡単な説明】
【図1】図1は本発明の第1実施の形態としての動画像
符号化装置の構成図である。
【図2】図2は図1に示した動画像符号化装置に入力さ
れるHDTV映像信号およびその分割方法を図解した図
である。
【図3】図3は図1に示した動画像符号化装置内の分割
画像符号化装置の構成図である。
【図4】図4は図3に示した分割画像符号化装置におけ
るPピクチャの画像信号の縦方向の分割境界に対するイ
ントラ・マクロブロック化の処理を例示した図である。
【図5】図5は図3に示した分割画像符号化装置におけ
る量子化スケールコードを補正する処理の領域分割方法
を例示した図である。
【図6】図6は図3に示した分割画像符号化装置におけ
る量子化スケールコードを補正する処理の補正係数の例
を示す図である。
【図7】図7はスライス単位で分解されたビデオストリ
ームの並びを例示した図である。
【図8】図8は図5に示した分割画像符号化装置におけ
る量子化スケールコードを補正する処理の他の領域分割
方法を図解した図である。
【図9】図9は図5に示した分割画像符号化装置におけ
る量子化スケールコードを補正する処理のさらに他の領
域分割方法を図解した図である。
【図10】図10は図1に示した動画像符号化装置を適
用したビデオカメラの構成図である。
【図11】図11は図1に示した動画像符号化装置を適
用した画像記録装置の構成図である。
【図12】図12は図1に示した動画像符号化装置を適
用した画像伝送装置の構成図である。
【図13】図13は本発明の第2実施の形態としての動
画像符号化装置の全体構成図である。
【図14】図14は図13に図解した動画像符号化装置
の第1例の処理の動作タイミングを示す図である。
【図15】図15は図13に図解した動画像符号化装置
における分割画像符号化装置から分割境界付近処理部
に、分割境界に接する2マクロブロック幅のME残差を
転送する例を図解した図である。
【図16】図16は図13に図解した動画像符号化装置
の第2例の処理の動作タイミングを示す図である。
【図17】図17は第2実施の形態における横軸に示し
たME残差(VAR_ori)と、縦軸に示した圧縮し
たME残差(VAR−out)との関係を図解した図で
ある。
【図18】図18は図17に図解した圧縮したME残差
を分割境界に垂直な方向の4個のME残差ごとにグルー
プ分けを行なう例を図解した図である。
【図19】図19はコードの平滑化処理を図解した図で
ある。
【図20】図20は平滑化したコードとフラグとの関係
を図解した図である。
【図21】図21(A)〜(C)はコードから目標量子
化スケールコードを対応付ける例を図解した図、表であ
る。
【図22】図22は分割境界からの距離と量子化スケー
ルコードとの関係を図解したグラフである。
【図23】図23(A)は分割境界付近処理部による垂
直方向、水平方向の両方からの操作による量子化スケー
ルコードを一旦別々に求め、値が小さいほうを採用する
例を示す図であり、図23(B)はマクロブロックの位
置関係によりどちらか一方からの操作のみを行う例を示
す図である。
【図24】図24は1つの画面を分割し符号化する際
の、分割領域と動きベクトルの関係を図解した図であ
る。
【符号の説明】
100、100A…動画像符号化装置、110…画面分
割装置、120、120A…分割画像符号化装置、12
1…画面並び換え部、122…減算器、123…DCT
処理部、124…量子化部、125…可変長符号化部、
126…バッファ、127…レート制御部、128…逆
量子化部、129…逆DCT処理部、130…加算器、
131…フレームメモリ、132…動き補償予測部、1
33…分割画像符号化装置内制御部、140…ビデオス
トリーム統合装置、150、150A…制御装置、15
2・・制御部、154・・分割境界付近処理部210…
ビデオカメラ、300…ビデオテープ記録装置
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5C059 KK03 MA00 MA05 MA14 MA23 MC11 MC31 NN01 PP05 PP06 PP07 SS11 TA18 TA46 TB07 TC15 TC33 TD13 UA02 UA32 UA33 UA38 5J064 AA01 BB01 BB03 BC25 BD02 BD03

Claims (14)

    【特許請求の範囲】
  1. 【請求項1】入力画像をN個の領域に分割し、当該各領
    域に対応するN個の分割画像信号を生成する画面分割手
    段と、 前記生成したN個の分割画像信号を各々符号化し、N個
    の符号化画像信号を生成する複数の画像符号化手段と、 前記複数の画像符号化手段で生成したN個の符号化画像
    信号を統合し、前記入力画像に対応する1個の符号化画
    像信号を生成する統合手段と、 前記分割画像の分割境界における前記複数の符号化手段
    による符号化画像の画質の不連続の度合いを予測し、分
    割境界付近の符号化操作量を決定する分割境界付近処理
    手段と、 を具備し、 前記複数の符号化手段は、前記分割境界付近処理手段で
    決定した前記分割境界付近の符号化操作量に基づいて前
    記分割した領域間の境界に近接する異なる領域に含まれ
    る各画像の画像信号について量子化スケールのコードを
    制御して符号化処理を行なう、 画像符号化装置。
  2. 【請求項2】前記分割境界付近処理手段は、 前記複数の画像符号化手段の符号化処理の時に求めた分
    割境界に隣接する複数のマクロブロックの画像について
    のME残差を用いて前記符号化画像の画質の不連続の度
    合いを予測し、 予測した不連続の程度に応じて各符号化手段に対する前
    記分割境界付近の符号化操作量を決定し、 決定した符号化操作量を対応する複数の符号化手段に転
    送する、 請求項1記載の画像符号化装置。
  3. 【請求項3】前記分割境界付近処理手段は、前記複数の
    画像符号化手段の符号化処理の時に求めたPピクチャに
    ついてのME残差を用いて前記符号化画像の画質の不連
    続の度合いを予測する、 請求項2記載の画像符号化装置。
  4. 【請求項4】前記分割境界付近処理手段は、分割境界に
    隣接する2マクロブロック幅の前記ME残差を用いて、
    前記符号化画像の画質の不連続の度合いを予測する、 請求項2または3記載の画像符号化装置。
  5. 【請求項5】前記複数の符号化手段は、符号化処理の時
    に求めた前記PピクチャについてのME残差のうち、分
    割境界に隣接する2マクロブロック幅の前記ME残差の
    みを前記分割境界付近処理手段に転送する、 請求項4記載の画像符号化装置。
  6. 【請求項6】前記複数の符号化手段は、符号化処理の時
    に求めた前記PピクチャについてのME残差のうち、分
    割境界に隣接する2マクロブロック幅の前記ME残差を
    圧縮して前記分割境界付近処理手段に転送する、 請求項5記載の画像符号化装置。
  7. 【請求項7】前記分割境界付近処理手段は、前記分割境
    界付近の符号化操作量として、前記複数の符号化手段に
    おける分割境界付近のマクロブロックの画像の量子化の
    スケールコードを、前記ME残差の特徴に応じて変化さ
    せるような値として、前記予測値を基に決定し、前記複
    数の符号化手段に転送する、 請求項1〜6いずれか記載の画像符号化装置。
  8. 【請求項8】前記分割境界付近処理手段は、前記分割境
    界付近の符号化操作量として、前記複数の符号化手段に
    おける分割境界付近のマクロブロックの画像の量子化の
    スケールコードを、前記ME残差の特徴に応じて変化さ
    せるような値として、前記予測値をもとに決定し、前記
    複数の符号化手段に転送する、 請求項1〜7いずれか記載の画像符号化装置。
  9. 【請求項9】前記分割境界付近処理手段は、前記量子化
    スケールコードを変化させるための前記符号化操作量
    を、分割境界の符号化画像の画質の不連続の度合いの予
    測に応じた目標量子化スケールコードに基づいて決定す
    る、 請求項8記載の画像符号化装置。
  10. 【請求項10】前記分割境界付近処理手段は、分割境界
    を挟んだマクロブロックの画像の符号化処理の相違が少
    なくなるように、前記分割境界付近の符号化操作量を平
    滑処理する、 請求項2記載の画像符号化装置。
  11. 【請求項11】前記分割境界付近処理手段は、分割境界
    からの距離が離れるにつれて徐々に前記符号化操作量が
    低下するように、前記符号化操作量を低下させる、 請求項2に記載の画像符号化装置。
  12. 【請求項12】前記複数の符号化手段は、 前記分割境界に近接する領域に含まれる画像信号につい
    て量子化スケールを下げて符号化を行ない、 前記分割境界から離れた領域に含まれる画像信号につい
    て量子化スケールを上げて符号化を行なう 請求項1に記載の画像符号化装置。
  13. 【請求項13】入力画像をN個の領域に分割し、当該各
    領域に対応するN個の分割画像信号を生成する画面分割
    工程と、 前記生成したN個の分割画像信号を各々符号化し、N個
    の符号化画像信号を生成する画像符号化工程と、 前記生成したN個の符号化画像信号を統合し、前記入力
    画像に対応する1個の符号化画像信号を生成する統合工
    程と、 前記分割画像の分割境界における前記画像符号化工程に
    おける符号化画像の画質の不連続の度合いを予測し、分
    割境界付近の符号化操作量を決定する分割境界付近処理
    工程とを具備し、 前記画像符号化工程において、前記分割境界付近処理工
    程で決定した前記分割境界付近の符号化操作量に基づい
    て前記分割した領域間の境界に近接する異なる領域に含
    まれる各画像の画像信号について量子化スケールのコー
    ドを制御して符号化処理を行なう、 画像符号化方法。
  14. 【請求項14】前記分割境界付近処理工程において、 前記画像符号化工程における符号化処理の時に求めた分
    割境界に隣接する複数のマクロブロックの画像について
    のME残差を用いて前記符号化画像の画質の不連続の度
    合いを予測し、 予測した不連続の程度に応じて前記画像符号化工程にお
    ける前記分割境界付近の符号化操作量を決定し、 前記画像符号化工程は前記決定した符号化操作量に基づ
    いて符号化処理を行なう、 請求項13記載の画像符号化方法。
JP2002155929A 2002-05-29 2002-05-29 画像符号化装置および画像符号化方法 Pending JP2003348597A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002155929A JP2003348597A (ja) 2002-05-29 2002-05-29 画像符号化装置および画像符号化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002155929A JP2003348597A (ja) 2002-05-29 2002-05-29 画像符号化装置および画像符号化方法

Publications (1)

Publication Number Publication Date
JP2003348597A true JP2003348597A (ja) 2003-12-05

Family

ID=29772333

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002155929A Pending JP2003348597A (ja) 2002-05-29 2002-05-29 画像符号化装置および画像符号化方法

Country Status (1)

Country Link
JP (1) JP2003348597A (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011009887A (ja) * 2009-06-24 2011-01-13 Nippon Hoso Kyokai <Nhk> 画像補正装置及びそのプログラム
JP2011030030A (ja) * 2009-07-27 2011-02-10 Canon Inc 記録装置及び記録方法
JP2011109172A (ja) * 2009-11-12 2011-06-02 Hitachi Kokusai Electric Inc 映像符号化装置、および、そのデータ処理方法
US8040354B2 (en) 2007-02-07 2011-10-18 Sony Corporation Image processing device, method and program
JP2012114590A (ja) * 2010-11-22 2012-06-14 Jvc Kenwood Corp 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム
US8411134B2 (en) 2008-11-25 2013-04-02 Sony Corporation Image signal processing apparatus, image signal processing method, and image projection apparatus
WO2013140722A1 (ja) * 2012-03-21 2013-09-26 パナソニック株式会社 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、および画像符号化復号装置
JP2013239995A (ja) * 2012-05-17 2013-11-28 Clarion Co Ltd 車載カメラシステム及びこれに用いる映像受信装置と映像送信装置
US8803946B2 (en) 2008-11-21 2014-08-12 Sony Corporation Image signal processing device, method and projecting device for stereoscopic images
US20150245059A1 (en) * 2014-02-21 2015-08-27 Panasonic Corporation Image decoding method, image encoding method, image decoding apparatus, and image encoding apparatus
JP2015159531A (ja) * 2014-02-21 2015-09-03 パナソニック株式会社 画像復号方法、画像符号化方法、画像復号装置及び画像符号化装置
US10460646B2 (en) 2015-01-21 2019-10-29 Nec Display Solutions, Ltd. Display system, display device, electronic apparatus, and image signal transmission method for displaying an original image based on combining divided image signals
WO2020079900A1 (ja) * 2018-10-18 2020-04-23 ソニー株式会社 符号化装置、符号化方法、復号装置

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8040354B2 (en) 2007-02-07 2011-10-18 Sony Corporation Image processing device, method and program
US8803946B2 (en) 2008-11-21 2014-08-12 Sony Corporation Image signal processing device, method and projecting device for stereoscopic images
US8411134B2 (en) 2008-11-25 2013-04-02 Sony Corporation Image signal processing apparatus, image signal processing method, and image projection apparatus
JP2011009887A (ja) * 2009-06-24 2011-01-13 Nippon Hoso Kyokai <Nhk> 画像補正装置及びそのプログラム
JP2011030030A (ja) * 2009-07-27 2011-02-10 Canon Inc 記録装置及び記録方法
JP2011109172A (ja) * 2009-11-12 2011-06-02 Hitachi Kokusai Electric Inc 映像符号化装置、および、そのデータ処理方法
JP2012114590A (ja) * 2010-11-22 2012-06-14 Jvc Kenwood Corp 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム
US10666942B2 (en) 2012-03-21 2020-05-26 Sun Patent Trust Image encoding method, image decoding method, image encoding device, image decoding device, and image encoding/decoding device
US11089301B2 (en) 2012-03-21 2021-08-10 Sun Patent Trust Image encoding method, image decoding method, image encoding device, image decoding device, and image encoding/decoding device
JPWO2013140722A1 (ja) * 2012-03-21 2015-08-03 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、および画像符号化復号装置
WO2013140722A1 (ja) * 2012-03-21 2013-09-26 パナソニック株式会社 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、および画像符号化復号装置
US10116935B2 (en) 2012-03-21 2018-10-30 Sun Patent Trust Image encoding method, image decoding method, image encoding device, image decoding device, and image encoding/decoding device
US9832466B2 (en) 2012-03-21 2017-11-28 Sun Patent Trust Image encoding method, image decoding method, image encoding device, image decoding device, and image encoding/decoding device
JP2018014753A (ja) * 2012-03-21 2018-01-25 サン パテント トラスト 画像復号方法および画像復号装置
US20180048891A1 (en) 2012-03-21 2018-02-15 Sun Patent Trust Image encoding method, image decoding method, image encoding device, image decoding device, and image encoding/decoding device
JP2013239995A (ja) * 2012-05-17 2013-11-28 Clarion Co Ltd 車載カメラシステム及びこれに用いる映像受信装置と映像送信装置
US20150245059A1 (en) * 2014-02-21 2015-08-27 Panasonic Corporation Image decoding method, image encoding method, image decoding apparatus, and image encoding apparatus
US10205950B2 (en) 2014-02-21 2019-02-12 Panasonic Corporation Image decoding method, image encoding method, image decoding apparatus, and image encoding apparatus
US10432949B2 (en) 2014-02-21 2019-10-01 Panasonic Corporation Image decoding method, image encoding method, image decoding apparatus, and image encoding apparatus
JP2015159531A (ja) * 2014-02-21 2015-09-03 パナソニック株式会社 画像復号方法、画像符号化方法、画像復号装置及び画像符号化装置
US10645397B2 (en) 2014-02-21 2020-05-05 Panasonic Corporation Image decoding method, image encoding method, image decoding apparatus, and image encoding apparatus
US10460646B2 (en) 2015-01-21 2019-10-29 Nec Display Solutions, Ltd. Display system, display device, electronic apparatus, and image signal transmission method for displaying an original image based on combining divided image signals
CN112823516A (zh) * 2018-10-18 2021-05-18 索尼公司 编码设备、编码方法和解码设备
WO2020079900A1 (ja) * 2018-10-18 2020-04-23 ソニー株式会社 符号化装置、符号化方法、復号装置
JPWO2020079900A1 (ja) * 2018-10-18 2021-09-24 ソニーグループ株式会社 符号化装置、符号化方法、復号装置
US20210350581A1 (en) * 2018-10-18 2021-11-11 Sony Corporation Encoding device, encoding method, and decoding device
EP3869801A4 (en) * 2018-10-18 2021-12-08 Sony Group Corporation CODING DEVICE, ENCODING PROCESS, AND DECODING DEVICE
TWI829740B (zh) * 2018-10-18 2024-01-21 日商索尼股份有限公司 編碼裝置、編碼方法及解碼裝置

Similar Documents

Publication Publication Date Title
US9532073B2 (en) Video encoding device, video decoding device, video decoding method, video decoding method, and program
US9077968B2 (en) Image processing apparatus and method, and program
KR100850706B1 (ko) 적응적 동영상 부호화 및 복호화 방법과 그 장치
JP4393875B2 (ja) 複雑さの軽減された復号化に適したシングルレイヤビデオ符号化されたビットストリームを供給するシステム及び方法
US20010026587A1 (en) Image encoding apparatus and method of same, video camera, image recording apparatus, and image transmission apparatus
US20030095603A1 (en) Reduced-complexity video decoding using larger pixel-grid motion compensation
JP2001145113A (ja) 画像情報変換装置及び方法
JP3703299B2 (ja) ピクチャ中央の画質を最適化するためのビデオ符号化方法、システムおよびコンピュータ・プログラム製品
JP2003348597A (ja) 画像符号化装置および画像符号化方法
JP7343817B2 (ja) 符号化装置、符号化方法、及び符号化プログラム
JP2003061100A (ja) マルチチャネル画像符号化器及びその符号化方法
JP2006191253A (ja) レート変換方法及びレート変換装置
US20050259879A1 (en) Video decoder with deblocker within decoding loop
JP3599942B2 (ja) 動画像符号化方法、及び動画像符号化装置
JP6874844B2 (ja) 動画像符号化装置、動画像符号化方法、及び、動画像符号化プログラム
JP4359273B2 (ja) 符号化モード選択方法
CN117750030A (zh) 视频编码方法、装置、设备及存储介质
JPH10164594A (ja) 動画像の圧縮符号化方法およびその装置
JP2015019319A (ja) 符号化装置、符号化方法及びプログラム
JP4259974B2 (ja) 画像データ変換装置
JPH06276482A (ja) 画像信号符号化方法、装置、復号化方法及び装置
JP2000032467A (ja) 画像処理装置および方法、並びに提供媒体
JP4676474B2 (ja) 画像符号化方法
US20050201458A1 (en) Image encoding system and method
JPH11122622A (ja) 画像符号化装置、方法及びプログラムを記録した記録媒体