JP3859786B2 - 映像信号における物体の輪郭線符号化方法 - Google Patents

Description

【０００１】
【発明の属する技術分野】
本発明は映像信号を符号化するための方法に関し、特に、映像信号における物体（オブジェクト）の輪郭線を効果的に符号化して、伝送されるデータ量を減らすための方法に関する。
【０００２】
【従来の技術】
テレビ電話、電子会議及び高精細度ＴＶシステムのようなディジタル映像システムでは、映像フレーム信号は画素値といわれる一連のディジタルデータからなるため、各映像フレームを表すには大量のディジタルデータが必要である。しかし、通常の伝送チャンネルでの使用可能な周波数帯域は制限されているため、このような伝送チャンネルを通じて大量のディジタルデータを伝送するためには多様な圧縮技法を使用してデータの量を減らす必要がある。特に、テレビ電話や電子会議システムのような低ビットレートの映像信号符号化システムの場合、データ圧縮が必要である。
【０００３】
低ビットレートの符号化システムで映像信号を符号化するための符号化方法の一つに、いわゆる物体指向分析−合成符号化技法がある。それによると、入力映像は複数の物体に分けられ、各物体の動き、輪郭、画素データを規定する３セットのパラメータは相異なる符号化チャンネルを通じて処理される。
【０００４】
物体の輪郭線を処理するにおいて、物体の形状の分析及び合成には輪郭線情報が重要である。輪郭線情報を表す通常の符号化方法にチェーン符号化法がある。チェーン符号化法は輪郭線情報を損失なく符号化するが、輪郭線情報を表すのに多量のビットが必要である。
【０００５】
上記の問題点を克服するために、多角形近似やＢ−スプライン近似のような多様な輪郭線情報を符号化法が提案されてきた。多角形近似は輪郭の表現が粗くなりがちであり、一方、Ｂ−スプライン近似は輪郭線をより正確に表すことができるが近似誤差（エラー）を減らすのに高次多項式が必要であり結果的に映像符号化の全体的な計算量が増大するという短所がある。
【０００６】
上記した近似法における粗い輪郭線表現や計算量の増加のような問題点を解決するために提案された技法の一つに離散サイン変換（ＤＳＴ）を用いた輪郭線近似法がある。
【０００７】
本出願人による係属中の日本国特許出願番第7-115,096号「輪郭近似方法」に示されているような、多角形近似とＤＳＴに基づいた輪郭線近似を用いた方法では、物体の輪郭線上に複数の頂点を決定し、物体の輪郭線を、隣接する頂点を結ぶラインセグメント（線分）からなる多角形によって近似する。そして、各々のラインセグメント上にＮ個のサンプルポイントを選択し、これらのサンプルポイントの各々での近似エラーを順次計算して各ラインセグメントに対し近似エラーのセットを求める。各サンプルポイントにおける近似エラーは、そのサンプルポイントと、そのサンプルポイントを通り対応するラインセグメントに垂直な直線が対応する輪郭線セグメントと交わる点との間の変位を表す。その後、各近似エラーセットに対し１次元ＤＳＴを行うことによってＤＳＴ係数セットを生成する。
【０００８】
ＤＳＴに基づいた輪郭線近似によって粗い輪郭線表現や計算の複雑化を改善して伝送するデータの量をある程度減少させることは可能であるが、６４ｋｂｐｓの伝送チャネルバンド幅のような低ビットレートのコデックシステムを効果的に実現するためには伝送するデータを更に減らす必要がある。
【０００９】
【発明が解決しようとする課題】
従って、本発明の主な目的は、多角形近似の結果に基づき、隣接した輪郭線セグメント間の相関を用いて伝送するデータ量を更に減らし得る映像信号における物体の輪郭線符号化方法を提供することである。
【００１０】
【課題を解決するための手段】
上記の目的を達成するために、本発明によれば、基準輪郭線セグメントを含む複数の輪郭線セグメントに分割された物体の輪郭線を各輪郭線セグメントの両端点を連結するラインセグメントによって近似する多角形近似に基づいた映像信号における物体の輪郭線符号化方法であって、前記基準輪郭線セグメントと前記基準輪郭線セグメントの両端点を連結する第１ラインセグメントとの差を表す第１近似エラーセットを求める第１過程と、前記基準輪郭線セグメントではない残りの輪郭線セグメントの中の１つ（第２輪郭線セグメント）とその両端点を連結する第２ラインセグメントとの差を表す第２近似エラーセットを求める第２過程と、前記第１近似エラーセットを前記第２近似エラーセットから引き算して、差分エラーセットを計算する第３過程と、各差分エラーの大きさに基づいて、前記差分エラーセットに対するエラー値である第１エラー値を求める第４過程と、各第２近似エラーの大きさに基づいて、前記第２近似エラーセットに対するエラー値である第２エラー値を求める第５過程と、前記第１エラー値と前記第２エラー値とに基づいて、前記差分エラーセットと前記第２近似エラーセットのうちいずれか一方を前記第２輪郭線セグメントに対するエラーセットとして選択する第６過程と、前記エラーセットを符号化して符号化されたエラーセットを生成する第７過程とを含むことを特徴とする映像信号における物体の輪郭線符号化方法が提供される。
【００１１】
【発明の実施の形態】
以下、本発明の好適実施例について図面を参照しながらより詳しく説明する。
【００１２】
図１を参照すれば、本発明によるビデオ信号における物体輪郭線を符号化するための方法を表すブロック図が示されている。
【００１３】
映像信号内の物体輪郭線イメージデータは、多角形近似ブロック１００及びエラー検出ブロック１０５へ入力される。
【００１４】
多角形近似ブロック１００において、入力された輪郭線をラインセグメント（線分）で近似するべく従来の近似アルゴリズムを用いた多角形近似が行われる。多角形近似の結果、物体の輪郭線上に複数の頂点が決定され、輪郭線は隣接する頂点を結ぶ複数のラインセグメントによって近似される。多角形近似ブロック１００において、輪郭線上の頂点には順序が定められる。まず、頂点のうち１つが初期頂点と選択され、初期頂点に隣接する頂点のうち１つが次の頂点として選択される。その後、最後に選択された頂点に隣接するまだ選択されていない頂点を次の頂点として選択する過程を全ての頂点の順序が定められるまで繰り返す。しかる後、輪郭線上の頂点の位置を表す頂点情報がエラー検出ブロック１０５とデータフォーマッティング回路１８０へ供給される。
【００１５】
エラー検出ブロック１０５は、各ラインセグメント上にＮ個のサンプル点を選択して、輪郭線イメージデータと頂点情報とに基づいてラインセグメント上の各サンプル点におけるエラーまたは近似誤差を計算する。本発明の好ましい一実施例によれば、Ｎ個のサンプル点は各ラインセグメント上で互いに等間隔に選択される（Ｎは正の整数、例えば、８）。ラインセグメント上の各サンプル点におけるエラーは、サンプル点からサンプル点を通ってラインセグメントに垂直な直線と対応する輪郭線セグメントとの交点までの変位を表し、この変位はサンプル点と前記交点との間の距離と、ラインセグメントに対する前記交点の相対位置を表す符号とによって表される。
【００１６】
図２を参照しつつ、Ｖ₁〜Ｖ₄の４つの頂点を有する輪郭線の一部分１０を例にして符号の決定方法について説明する。ここで、便宜上、Ｎは４とする。Ｐ₁〜Ｐ₄、Ｑ₁〜Ｑ₄及びＲ₁〜Ｒ₄は各々ラインセグメントＶ₁Ｖ₂、Ｖ₂Ｖ₃及びＶ₃Ｖ₄上のサンプル点を表し、Ｐ₁′〜Ｐ₄′、Ｑ₁′〜Ｑ₄′及びＲ₁′〜Ｒ₄′は、各々対応する輪郭線セグメント上の交点を表す。本発明による好ましい一実施例によれば、交点がＶ_iからＶ_i+1に向かうベクトルの左側に位置する場合、前記交点にはプラス（＋）の符号が割り当てられ、そうでない場合はマイナス（−）の符号が割り当てられる。このような方法によれば、ラインセグメントＶ₁Ｖ₂のエラーｅ₁₁〜ｅ₁₄とラインセグメントＶ₂Ｖ₃のエラーｅ₂₁〜ｅ₂₄にはプラスの符号が割り当てられ、ラインセグメントＶ₃Ｖ₄のエラーｅ₃₁〜ｅ₃₄にはマイナスの符号が割り当てられる。
【００１７】
各ラインセグメントのエラーが決定されると、エラー検出ブロック１０５は、第１エラーセットＥ１から順に、ｉ番目のラインセグメントＶ_iＶ_i+1に対応するｉ番目のエラーセットＥ_i＝（ｅ_i1，．．．，ｅ_iN）を減算器１２０と比較器１１０へ供給する。例えば、図２を参照すれば、第１ラインセグメントＶ₁Ｖ₂に対応する第１エラーセットはＥ₁＝（ｅ₁₁，ｅ₁₂，ｅ₁₃，ｅ₁₄）で表現され、第２ラインセグメントＶ₂Ｖ₃に対応する第２エラーセットはＥ₂＝（ｅ₂₁，ｅ₂₂，ｅ₂₃，ｅ₂₄）で表現され、第３ラインセグメントＶ₃Ｖ₄に対応する第３エラーセットは、Ｅ₃＝（ｅ₃₁，ｅ₃₂，ｅ₃₃，ｅ₃₄）で表現される。
【００１８】
第１エラーセットＥ₁を受けると、比較器１１０は第１制御信号を補償器１１５とデータフォーマッティング回路１８０へ供給する。第１制御信号に応答して、前記補償器１１５は内部に組み込まれたメモリ（図示せず）に格納されている「０」値のエラーを有する予測エラーセットＥ₀を減算器１２０と加算器１５０へ供給する。減算器１２０はエラー検出ブロック１０５から受けとるｉ番目のエラーセットＥ_iから補償器１１５から受けとる予測エラーセットを減算する。よって、第１エラーセットＥ₁に対しては、減算器１２０において「０」値のエラーを有する予測エラーセットＥ₀が第１エラーセットＥ₁から減算されて、第１差分エラーセットＥ₁′＝Ｅ₁−Ｅ₀が変換ブロック１２５へ供給される。従って、Ｅ₁′は第１ラインセグメントＶ₁Ｖ₂に対応する第１エラーセットＥ₁と完全に同一である。
【００１９】
変換ブロック１２５において、第１差分エラーセットは変換係数のセットに変換される。本発明による好ましい一実施例によれば、離散サイン変換（ＤＳＴ）が第１差分エラーセットを変換するのに用いられる。しかし、他の変換方法、例えば、離散コサイン変換を離散サイン変換の代わりに用いてもよい。その後、変換係数セットは量子化器１３０へ送られ、量子化器１３０で従来の量子化方法を用いて量子化される。量子化された係数セットは統計的符号化器１７０と逆量子化器１３５へ送られる。統計的符号化器１７０は、例えば、可変長符号化とランレングス符号化とを用いて、量子化された係数セットを符号化して物体の輪郭線セグメントを表す符号化された信号をデータフォーマッティング回路１８０へ供給する。
【００２０】
一方、逆量子化器１３５においては、量子化器１３０からの量子化された係数セットが復元される。さらに、逆変換ブロック１４０においては、復元された変換係数セットが逆変換され、復元された第１差分エラーセットが生成される。しかる後、復元された第１差分エラーセットは加算器１５０へ供給されて、補償器１１５から入力されたデータと加算される。第１ラインセグメントＶ₁Ｖ₂に対する処理では、復元された第１差分エラーセットと「０」値のエラーを有する予測エラーセットＥ₀とが加算されて、第１ラインセグメントＶ₁Ｖ₂の復元された第１エラーセットＥ₁″が生成され、復元された第１エラーセットＥ₁″はメモリ１６０へ送られて格納される。
【００２１】
続いて、エラー検出ブロック１０５から第２エラーセットＥ₂が比較器１１０と減算器１２０へ送られる。比較器１１０はメモリ１６０から第１ラインセグメントＶ₁Ｖ₂に対する復元された第１エラーセットＥ₁″を読み出し、第２エラーセットＥ₂に対するエラー値と第２差分エラーセットＥ₂′に対するエラー値とを比較する。ここで、Ｅ₂′＝（ｅ₂₁−ｅ₁₁″，ｅ₂₂−ｅ₁₂″，．．．，ｅ_2j−ｅ_1j″，．．．，ｅ_2N−ｅ_1N″）と定義され、ｅ_1j″は第１ラインセグメントＶ₁Ｖ₂に対する復元された第１エラーセットＥ₁″のｊ番目のエラーを、ｅ_2jは第２ラインセグメントＶ₂Ｖ₃に対する第２エラーセットＥ₂のｊ番目のエラーを表し、ｊは１以上Ｎ以下の整数である。Ｅ₂のエラー値及びＥ₂′のエラー値は、各々、
【００２２】
【数９】

【００２３】
【数１０】

【００２４】
として定義される絶対値エラーの平均である。この場合、ＡＥ₂は第２エラーセットに対する絶対値エラーの平均であり、ＡＥ₂′は第２差分エラーセットに対する絶対値エラーの平均である。
【００２５】
エラー値ＡＥ₂がエラー値ＡＥ₂′より大きくない場合、比較器１１０は第１制御信号をラインＬ４０を通じて補償器１１５へと送るとともにラインＬ２０を通じてデータフォーマッティング回路１８０へと送る。
【００２６】
エラー値の計算において、絶対値エラーの平均の代わりに、以下のように定義されるエラーの２乗平均を用いることもできる。
【００２７】
【数１１】

【００２８】
【数１２】

【００２９】
この場合、ＳＥ₂及びＳＥ₂′は各々第２エラーセットのエラーの２乗平均と第２差分エラーセットに対するエラーの２乗平均を表す。
【００３０】
比較器１１０から第１制御信号が生成された場合、補償器１１５は「０」値のエラーを有する予測エラーセットＥ₀を減算器１２０と加算器１５０へ出力する。ｉ番目のエラーセットＥ_iが比較器１１０に入力された後、第２制御信号が比較器１１０から出力された場合は、補償器１１５は復元された（ｉー１）番目のエラーセットＥ_(i-1)″をメモリ１６０から読み出し、予測エラーセットとして減算器１２０と加算器１１５へ供給する。従って、第２制御信号が比較器１１０から供給される場合、減算器１２０は復元された（ｉー１）番目のエラーセットＥ_(i-1)″＝｛ｅ_(i-1)j″｝と全く同じ予測エラーセットをエラー検出ブロック１０５から入力されるｉ番目のエラーセットＥ_i＝｛ｅ_ij｝から減算して、ｉ番目の差分エラーセットＥ_i′＝｛ｅ_ij−ｅ_(i-j)j″｝＝（ｅ_i1−ｅ_(i-1)1″，ｅ_i2−ｅ_(i-1)2″，．．．，ｅ_ij−ｅ_(i-1)j″，，．．．，ｅ_iN−ｅ_(i-1)N″）を生成する（ここでｊは１以上Ｎ以下の整数）。
【００３１】
よって、第２エラーセットＥ₂が比較器１１０へ伝達された後に、第２制御信号が比較器１１０から出力される場合、補償器１１５は第１ラインセグメントＶ₁Ｖ₂に対する復元された第１エラーセットをメモリ１６０から読み出し、第２ラインセグメントＶ₂Ｖ₃に対する予測エラーセットとして減算器１２０と加算器１５０へ供給する。
【００３２】
第２エラーセットに対しても、変換ブロック１２５、量子化器１３０、逆量子化器１３５、逆変換ブロック１４０、加算器１５０及び統計的符号化器１７０は、第１エラーセットＥ₁に対して上述したのと同様に動作するため、これらに対する説明は省略する。メモリ１６０においては、既に格納された第１ラインセグメントＶ₁Ｖ₂に対する復元された第１エラーセットＥ₁″が第２ラインセグメントＶ₂Ｖ₃に対する復元された第２エラーセットＥ₂″に更新される。第２エラーセットに対して説明した前記過程は、全ての輪郭線セグメントに対するエラーセットに対して処理がなされるまで繰り返される。
【００３３】
データフォーマッティング回路１８０は、比較器１１０からの制御信号に対応して、符号化された信号に追加ビットを添加する。即ち、符号化された信号に対して、第１制御信号が比較器１１０から送られてくる場合、符号化された信号にはこの第１制御信号が追加ビット（例えば、０）として付け加えられ、符号化された信号がセグメント内符号化（intra-coding）されたことを表す。符号化された信号に対して第２制御信号が送られてくる場合は、符号化された信号にはこの第２制御信号が追加ビット（例えば、１）として付け加えられ、符号化された信号がセグメント間符号化（inter-coding）されたことを表す。即ち、前の輪郭線セグメントに対して差分エラーセットが計算され符号化されたことを表す。その後、追加ビットを含む各符号化された信号と頂点情報は、適切な形態にフォーマットされて伝送器（図示せず）へ送られ伝送される。
【００３４】
上記において、本発明の特定の実施例について説明したが、本明細書に記載した特許請求の範囲を逸脱することなく、当業者は種々の変更を加え得ることは勿論である。
【００３５】
【発明の効果】
従って、本発明によれば、映像信号における物体の輪郭線を多角形近似に基づいて、隣接した輪郭線セグメント間の相関を利用して符号化を行うことによって伝送するデータ量をより減縮することができる。また本方法は、コンピュータをプログラムに従って動作させることで実行可能であり、そのようなプログラムは所定の媒体に記憶させることが可能である。
【図面の簡単な説明】
【図１】本発明による映像信号における物体輪郭線を符号化するための方法を示すためのブロック図である。
【図２】隣接する２つの頂点を連結する各々のラインセグメントと各々の該当する輪郭線セグメントの間のエラーを表す例示図である。
【符号の説明】
１００ 多角形近似ブロック
１０５ エラー検出ブロック
１１０ 比較器
１１５ 補償器
１２０ 減算器
１２５ 変換ブロック
１３０ 量子化器
１３５ 逆量子化器
１４０ 逆変換ブロック
１５０ 加算器
１６０ メモリ
１７０ 統計的符号化器
１８０ データフォーマッティング回路

Claims (16)

1. 基準輪郭線セグメントを含む複数の輪郭線セグメントに分割された物体の輪郭線を各輪郭線セグメントの両端点を連結するラインセグメントによって近似する多角形近似に基づいた映像信号における物体の輪郭線符号化方法であって、
   前記基準輪郭線セグメントと前記基準輪郭線セグメントの両端点を連結する第１ラインセグメントとの差を表す第１近似エラーセットを求める第１過程と、
   前記基準輪郭線セグメントではない残りの輪郭線セグメントの中の１つ（第２輪郭線セグメント）とその両端点を連結する第２ラインセグメントとの差を表す第２近似エラーセットを求める第２過程と、
   前記第１近似エラーセットを前記第２近似エラーセットから引き算して、差分エラーセットを計算する第３過程と、
   各差分エラーの大きさに基づいて、前記差分エラーセットに対するエラー値である第１エラー値を求める第４過程と、
   各第２近似エラーの大きさに基づいて、前記第２近似エラーセットに対するエラー値である第２エラー値を求める第５過程と、
   前記第１エラー値と前記第２エラー値とに基づいて、前記差分エラーセットと前記第２近似エラーセットのうちいずれか一方を前記第２輪郭線セグメントに対するエラーセットとして選択する第６過程と、
   前記エラーセットを符号化して符号化されたエラーセットを生成する第７過程とを含むことを特徴とする映像信号における物体の輪郭線符号化方法。
2. 前記第２近似エラーセットを得るための前記第２過程が、前記第２ラインセグメント上にＮ（Ｎは正の整数）個のサンプルポイントを決定する第２−１過程と、
   各々一つのサンプルポイントから、そのサンプルポイントを通り前記第２ラインセグメントに垂直な直線と前記第２輪郭線セグメントとの交点までの変位を表すＮ個の第２近似エラーを計算することによって前記第２近似エラーセットを求める第２−２過程とを含むことを特徴とする請求項１に記載の映像信号における物体の輪郭線符号化方法。
3. 前記変位は、前記サンプルポイントと前記交点との間の距離と、前記第２ラインセグメントに対する前記交点の相対位置を示す符号とによって表されることを特徴とする請求項２に記載の映像信号における物体の輪郭線符号化方法。
4. 前記第７過程の後に、
   前記符号化されたエラーセットを復号化して復元されたエラーセットを得る第８過程と、
   前記第６過程で前記差分エラーセットが選択された場合には前記第１近似エラーセットを前記復元されたエラーセットに加算してその結果を復元された第２近似エラーセットとし、そうでない場合には前記復元されたエラーセットを復元された第２近似エラーセットとする第９過程と、
   前記復元された第２近似エラーセットで前記第１近似エラーセットを、前記第２輪郭線セグメントで前記基準輪郭線セグメントを置換する第１０過程と、
   残りのラインセグメントに対して前記第２過程から第１０過程を繰り返す第１１過程とを更に含むことを特徴とする請求項１に記載の映像信号における物体の輪郭線符号化方法。
5. 前記第１近似エラーセットを求めるための前記第１過程が、
   前記第１ラインセグメント上にＮ個のサンプルポイントを決定する第１ー１過程と、
   前記基準エラーの一つは一つのサンプルポイントから、そのサンプルポイントを通り前記第１ラインセグメントに垂直な直線と前記基準輪郭線セグメントとの交点までの変位を表すものとし、前記変位を前記サンプルポイントと前記交点との間の距離と前記第１ラインセグメントに対する前記交点の相対位置を表す符号とによって表すことによって前記基準エラーセットを求める第１−２過程と、
   前記基準エラーセットを符号化して符号化された基準エラーセットを生成する第１−３過程と、
   前記符号化された基準エラーセットを復号化して復元された基準エラーセットを生成する第１−４過程と、
   前記復元された基準エラーセットで前記第１近似エラーセットを置換する第１−５過程とを含むことを特徴とする請求項４に記載の映像信号における物体の輪郭線符号化方法。
6. 前記基準輪郭線セグメントの両端点のうち一つの点が前記第２輪郭線セグメントの両端点の一つと一致することを特徴とする請求項５に記載の映像信号における物体の輪郭線符号化方法。
7. 前記第６過程が、
   前記第１エラー値と前記第２エラー値とを比較する第６−１過程と、
   前記第１エラー値が前記第２エラー値より大きくなければ前記差分エラーセットをエラーセットとして選択し、そうでなければ前記第２近似エラーセットをエラーセットとして選択する第６−２過程とを含むことを特徴とする請求項６に記載の映像信号における物体の輪郭線符号化方法。
8. ｅ_2jが前記第２近似エラーセットのｊ番目のエラーを表し、ｅ_1j″が前記復元された基準エラーセットのｊ番目のエラーを表すとき、前記第１エラー値が、
   

   

   で定義され、前記第２エラー値が、
   

   

   で定義されることを特徴とする請求項５に記載の映像信号における物体の輪郭線符号化方法。
9. ｅ_2jが前記第２近似エラーセットのｊ番目のエラーを表し、ｅ_1j″が前記復元された基準エラーセットのｊ番目のエラーを表すとき、前記第１エラー値が、
   

   

   で定義され、前記第２エラー値が、
   

   

   で定義されることを特徴とする請求項５に記載の映像信号における物体の輪郭線符号化方法。
10. 前記第２ラインセグメント上の前記Ｎ個のサンプルポイントが、互いに等間隔で離れていることを特徴とする請求項２に記載の映像信号における物体の輪郭線符号化方法。
11. 前記第１ラインセグメント上の前記Ｎ個のサンプルポイントが、互いに等間隔で離れていることを特徴とする請求項５に記載の映像信号における物体の輪郭線符号化方法。
12. 映像信号における物体の輪郭線符号化方法であって、
    輪郭線上に複数の頂点を決定してそれらの頂点の位置を示す頂点情報を生成する第１過程と、
    前記輪郭線を隣接する２つの頂点の間に画定される複数の輪郭線セグメントに分け、各輪郭線セグメントをその輪郭線セグメントを画定する２つの頂点を連結するラインセグメントによって近似する第２過程と、
    前記ラインセグメントに順に番号を付ける第３過程と、
    Ｎ（Ｎは正の整数）個のサンプルポイントを第１のラインセグメント上に決定し、一つのサンプルポイントからそのサンプルポイントを通り前記第１ラインセグメントに垂直な直線と前記第１ラインセグメントに対応する輪郭線セグメントとの交点までの変位を各々表すＮ個のエラーを計算して第１エラーセットを生成する第４過程と、
    前記第１エラーセットを符号化して符号化されたエラーセットを生成する第５過程と、
    前記符号化されたエラーセットを復号化して復号化されたエラーセットを生成する第６過程と、
    前記第１ラインセグメントの代わりに次のラインセグメントを前記第４過程に代入して次のエラーセットを生成する第７過程と、
    前記次のエラーセットから前記復号化されたエラーセットを引き算して差分エラーセットを求める第８過程と、
    前記次のエラーセットのエラー値と前記差分エラーセットのエラー値を各エラーセットのエラーの大きさを用いて求め、それらのエラー値を比較する第９過程と、
    前記次のエラーセットのエラー値が前記差分エラーセットのエラー値より大きくなければ「０」値であるエラーを有するエラーセットを予測エラーセットとし、そうでなければ前記復号化されたエラーセットを予測エラーセットとする第１０過程と、
    前記次のエラーセットから前記予測エラーセットを引き算して差分エラーセットを生成する第１１過程とを含むことを特徴とする映像信号における物体の輪郭線符号化方法。
13. 前記第１１過程以降に、
    前記第１エラーセットの代わりに前記第１１過程で求められる前記差分エラーセットについて前記第５過程と前記第６過程とを繰り返す第１２過程と、
    前記第１２過程で生成される復号化されたエラーセットを前記第１０過程で生成される前記予測エラーセットに加算して復元されたエラーセットを生成する第１３過程と、
    前記第７過程を繰り返す第１４過程と、
    前記第１４過程で生成された次のエラーセットから前記復元されたエラーセットを引き算して差分エラーセットを求める第１５過程と、
    前記第１４過程で生成された次のエラーセットと前記第１５過程で生成された差分エラーセットについて前記第９過程から前記第１３過程までを繰り返す第１６過程と、
    残りのラインセグメントに対して前記第１４過程から前記第１６過程までを繰り返す第１７過程とをさらに含むことを特徴とする請求項１２に記載の映像信号における物体の輪郭線符号化方法。
14. 前記第４過程での前記変位は前記サンプルポイントと前記交点との間の距離と前記第１ラインセグメントに対する前記交点の相対位置を示す符号化とによって表されることを特徴とする請求項１３に記載の映像信号における物体の輪郭線符号化方法。
15. ｅ_2jが前記次のエラーセットのｊ番目のエラーを表し、ｅ_1j″が前記復号化されたエラーセットのｊ番目のエラーを表すとき、前記次のエラーセットのエラー値が、
    

    

    で定義され、前記差分エラーセットのエラー値が、
    

    

    で定義されることを特徴とする請求項１２に記載の映像信号における物体の輪郭線符号化方法。
16. ｅ_2jが前記次のエラーセットのｊ番目のエラーを表し、ｅ_1j″が前記復号化されたエラーセットのｊ番目のエラーを表すとき、前記次のエラーセットのエラー値が、
    

    

    で定義され、前記差分エラーセットのエラー値が、
    

    

    で定義されることを特徴とする請求項１２に記載の映像信号の物体の輪郭線符号化方法。

Images