JP4837909B2 - 画像処理システムの損失ブロック特性判断装置及びその方法 - Google Patents

画像処理システムの損失ブロック特性判断装置及びその方法 Download PDF

Info

Publication number
JP4837909B2
JP4837909B2 JP2004302320A JP2004302320A JP4837909B2 JP 4837909 B2 JP4837909 B2 JP 4837909B2 JP 2004302320 A JP2004302320 A JP 2004302320A JP 2004302320 A JP2004302320 A JP 2004302320A JP 4837909 B2 JP4837909 B2 JP 4837909B2
Authority
JP
Japan
Prior art keywords
block
cost
lost
value
motion vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004302320A
Other languages
English (en)
Other versions
JP2005124212A (ja
Inventor
クアン デオク セオ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Electronics Inc
Original Assignee
LG Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LG Electronics Inc filed Critical LG Electronics Inc
Publication of JP2005124212A publication Critical patent/JP2005124212A/ja
Application granted granted Critical
Publication of JP4837909B2 publication Critical patent/JP4837909B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/142Detection of scene cut or scene change
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164Feedback from the receiver or from the transmission channel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder

Description

本発明は、動画像処理技術に関するもので、詳しくは、デジタル動画像処理において、伝送時に損失されたブロックの特性を自動に判断する画像処理システムの損失ブロック特性判断装置及びその方法に関するものである。
最近、マルチメディアコンテンツサービスに対する関心が増加するにつれて、通信媒体を通して伝送される多様な動画像信号をエラーなしに復元するための動画像処理技術の重要性が次第に大きくなっている。
前記動画像は、場面の特性及び動きの程度が相互に異なる複数枚のフレームから構成され、該フレームは、画像符号化の単位となる16×16ピクセルのサイズを有する複数のマクロブロックから構成される。
前記動画像は、DCT(Discrete Cosine Transform)、可変長さ符号化技法及び動き補償符号化技法などを利用して圧縮して伝送されるが、前記符号化過程または伝送チャネルを通して伝送される過程で発生したエラーにより動画像ブロックが損失される場合は、復元された画像の画質が低下されるという問題点があった。
受信側で前記損失ブロックを補完して元の画像に近く復旧するために多様なエラー隠匿(error concealment)技法が適用されているが、各動画像ブロックに最適なエラー隠匿技法を選択するためには、該当の損失ブロックの特性を正確に把握しなければならない。即ち、前記損失ブロックの特性は、前記受信側の復号器で各動画像ブロック別に適用可能な最適のエラー隠匿技法を選択する重要な基準として活用することができる。
そこで、本発明は、受信側で伝送時に損失された動画像ブロックの特性を自動に判断して、損失ブロックを復旧するための情報として提供し得る画像処理システムの損失ブロック特性判断装置及びその方法を提供することを目的とする。
このような目的を達成するために、本発明に係る画像処理システムの損失ブロック特性判断装置は、伝送された動画像ブロック中に損失ブロックが存在するかを判断する損失ブロック検出部と、前記損失ブロックが発生した現在のフレームと以前のフレームとで、隣接ピクセル間の時間的差値costを算出するピクセル差算出部と、前記損失ブロックに対する周辺ブロックのモーションベクトル分散値costを算出する分散値算出部と、前記時間的差値cost及びモーションベクトル分散値costを既設定された臨界値と比較して損失ブロックの特性を判断するブロック特性決定部と、から構成されることを特徴とする。
そして、本発明に係る画像処理システムの損失ブロック特性判断方法は、通信網を通して伝送される動画像信号を受信して画像処理する過程において、損失された動画像ブロックに対する費用関数を算出する段階と、前記費用関数を既設定された臨界値と比較して損失ブロックの特性を判断する段階と、を有することを特徴とする。
また、本発明に係る画像処理システムの損失ブロック特性判断方法は、伝送された動画像ブロックで損失ブロックの存在有無を確認する段階と、現在のフレームと以前のフレームとに対し、前記損失ブロックに隣接したピクセル間の時間的差値costを算出する段階と、損失された動画像ブロックに対する周辺ブロックのモーションベクトル分散値costを算出する段階と、前記隣接ピクセル間の時間的差値cost及びモーションベクトル分散値costを既設定された臨界値と比較する段階と、比較結果によって前記損失ブロックの特性を決定する段階と、を有することを他の特徴とする。
上記目的を達成するために、本発明は、例えば、以下の手段を提供する。
項目.1
伝送された動画像ブロック中に損失ブロックが存在するかを判断する損失ブロック検出部と、
前記損失ブロックが発生した現在のフレームと以前のフレームとで、隣接ピクセル間の時間的差値(cost)を算出するピクセル差算出部と、
前記損失ブロックに対する周辺ブロックのモーションベクトル分散値(cost)を算出する分散値算出部と、
前記時間的差値(cost)及びモーションベクトル分散値(cost)を既設定された臨界値と比較して損失ブロックの特性を判断するブロック特性決定部と、
から構成されることを特徴とする画像処理システムの損失ブロック特性判断装置。
項目.2
前記損失ブロックは、16×16ピクセルのマクロブロックであることを特徴とする請求項1に記載の画像処理システムの損失ブロック特性判断装置。
項目.3
前記ピクセル差算出部は、下記式により隣接ピクセル間の時間的差値(cost)を算出することを特徴とする請求項1に記載の画像処理システムの損失ブロック特性判断装置。
項目.4
前記分散値算出部は、下記式によりモーションベクトル分散値(cost)を算出することを特徴とする請求項1に記載の画像処理システムの損失ブロック特性判断装置。
項目.5
通信網を通して伝送される動画像信号を受信して画像処理する過程において、
損失された動画像ブロックに対する費用関数を算出する段階と、
前記費用関数を既設定された臨界値と比較して損失ブロックの特性を判断する段階と、
を有することを特徴とする画像処理システムの損失ブロック特性判断方法。
項目.6
前記費用関数を算出する段階は、
現在のフレームと以前のフレームとに対し、前記損失ブロックに隣接したピクセル間の時間的差値(cost)を算出する段階と、
損失された動画像ブロックに対する周辺ブロックのモーションベクトル分散値(cost)を算出する段階と、
を含むことを特徴とする請求項5に記載の画像処理システムの損失ブロック特性判断方法。
項目.7
前記損失ブロックは、16×16ピクセルのマクロブロックであることを特徴とする請求項5に記載の画像処理システムの損失ブロック特性判断方法。
項目.8
前記隣接したピクセル間の時間的差値(cost)は、下記式により計算されることを特徴とする請求項6に記載の画像処理システムの損失ブロック特性判断方法。
項目.9
前記モーションベクトル分散値(cost)は、下記式により算出されることを特徴とする請求項6に記載の画像処理システムの損失ブロック特性判断方法。
項目.10
前記損失ブロックの特性を判断する段階は、
隣接ピクセル間の時間的差値(cost)及びモーションベクトル分散値(cost)が第1臨界値(T1)以下であると、停止(no movement)ブロックと判断する段階と、
隣接ピクセル間の時間的差値(cost)が第2臨界値(T2)以上で、モーションベクトル分散値(cost)が第3臨界値(T3)以下であると、カメラ移動(camera moving)ブロックと判断する段階と、
隣接ピクセル間の時間的差値(cost)が第4臨界値(T4)以上であると、場面転換(scene change)ブロックと判断する段階と、
隣接ピクセル間の時間的差値(cost)が第2臨界値(T2)以上で、モーションベクトル分散値(cost)が第5臨界値(T5)以上であると、対象移動(object moving)ブロックと判断する段階と、
を含むことを特徴とする請求項5に記載の画像処理システムの損失ブロック特性判断方法。(T1<T2<T3<T4<T5)
項目.11
伝送された動画像ブロックで損失ブロックの存在有無を確認する段階と、
現在のフレームと以前のフレームとに対し、前記損失ブロックに隣接したピクセル間の時間的差値(cost)を算出する段階と、
損失された動画像ブロックに対する周辺ブロックのモーションベクトル分散値(cost)を算出する段階と、
前記隣接ピクセル間の時間的差値(cost)及びモーションベクトル分散値(cost)を既設定された臨界値と比較する段階と、
比較結果によって前記損失ブロックの特性を決定する段階と、
を有することを特徴とする画像処理システムの損失ブロック特性判断方法。
項目.12
前記決定された損失ブロックの特性を参照して該当の損失ブロックを復旧する段階をさらに有することを特徴とする請求項11に記載の画像処理システムの損失ブロック特性判断方法。
項目.13
前記損失ブロックは、16×16ピクセルのマクロブロックであることを特徴とする請求項11に記載の画像処理システムの損失ブロック特性判断方法。
項目.14
前記隣接したピクセル間の時間的差値(cost)は、下記式により計算されることを特徴とする請求項11に記載の画像処理システムの損失ブロック特性判断方法。
項目.15
前記モーションベクトル分散値(cost)は、下記式により算出されることを特徴とする請求項11に記載の画像処理システムの損失ブロック特性判断方法。
項目.16
前記損失ブロックの特性を決定する段階は、
隣接ピクセル間の時間的差値(cost)及びモーションベクトル分散値(cost)が第1臨界値(T1)以下であると、停止ブロックと判断する段階と、
隣接ピクセル間の時間的差値(cost)が第2臨界値(T2)以上で、モーションベクトル分散値(cost)が第3臨界値(T3)以下であると、カメラ移動ブロックと判断する段階と、
隣接ピクセル間の時間的差値(cost)が第4臨界値(T4)以上であると、場面転換ブロックと判断する段階と、
隣接ピクセル間の時間的差値(cost)が第2臨界値(T2)以上で、モーションベクトル分散値(cost)が第5臨界値(T5)以上であると、対象移動ブロックと判断する段階と、
を含むことを特徴とする請求項11に記載の画像処理システムの損失ブロック特性判断方法。(T1<T2<T3<T4<T5)
本発明に係る画像処理システムの損失ブロック特性判断装置及びその方法においては、チャネルエラーが頻繁な通信網で損失されたブロックの画面特性を自動に判断して、損失されたブロックを復旧するための情報として活用することで、より元の画像に近い復元画像を再生し得るという効果がある。
また、損失されたブロックに関する情報を自動に判断することで、該当情報を前記損失ブロックの情報を必要とする画像処理過程に適用し得るという効果がある。
以下、本発明に係る画像処理システムの損失ブロック特性判断装置及びその方法を実施するための最良の形態について図面を参照して説明する。
図1は、本発明に係る画像処理システムの損失ブロック特性判断装置の構成を示すブロック図で、図に示すように、送信側から伝送された動画像ブロック中に損失されたブロックが存在するかを判断する損失ブロック検出部10と、該損失ブロック検出部10により損失ブロックが検出されると、現在のフレームと以前のフレームとで、隣接ピクセル間の時間的差値costを算出するピクセル差算出部20と、前記損失ブロック検出部10により損失ブロックが検出されると、該損失ブロックに対する周辺ブロックのモーションベクトル分散値costを算出する分散値算出部30と、前記時間的差値cost及びモーションベクトル分散値costを既設定された臨界値と比較して損失ブロックの特性を判断するブロック特性決定部40と、から構成されている。
前記ブロック特性決定部40により判断された損失ブロックの特性を参照して、該当の損失ブロックに適合したエラー隠匿技法により動画像を復元することができる。
図2は、本発明に係る画像処理システムの損失ブロック特性判断方法を示すフローチャートで、以下、画像処理システムの損失ブロック特性判断装置の動作について図を参照して説明する。
まず、送信側(図示せず)から画像フレームが伝送されると(ステップS11)、前記損失ブロック検出部10は、画像フレームに損失ブロックが存在するかを判断する(ステップS12)。
ここで、前記画像フレームから損失ブロックが検出されると、現在の画像フレームで損失ブロックの周囲に隣接するピクセルと、以前の画像フレームで同一位置に存在するピクセル間の時間的差値costを算出する(ステップS13)。
そして、前記損失ブロックが検出された画像フレームから損失ブロックに対する周辺ブロックのモーションベクトル分散値costを算出し(ステップS14)、前記ピクセル間の時間的差値cost及びモーションベクトル分散値costを既設定された臨界値と比較する(ステップS15)。
その後、前記算出値cost、costと臨界値との比較を通して前記損失ブロックの特性を決定し(ステップS16)、該損失ブロックの特性を参照して該当の損失ブロックを復旧する(ステップS17)。
前述したように、本発明においては、損失ブロックの特性を把握するために、隣接ピクセル間の時間的差(temporal difference)及びモーションベクトルを使用する。
以下、本発明により隣接ピクセル間の時間的差値cost及びモーションベクトル分散値costを算出する方法について、図3〜図15を参照して詳しく説明する。
本発明の実施例においては、前記損失ブロックの特性を、大きく「場面転換(scene change)」、「対象移動(object moving)」、「停止(no movement)」、「カメラ移動(camera moving)」及び「その他(otherwise)」に分類することができる。
前記「場面転換」は、画面(フレーム)間の場面転換が行われたブロックで、前記「対象移動」は、一定の方向性なしに動く対象のあるブロックで、前記「停止」は、停止したカメラ画像の背景のように殆ど動きのないブロックで、前記「カメラ移動」は、カメラ自体が動いて画像が全体的に同じような動きを有するブロックで、前記「その他」は、以上の四つの分類に属しないブロックをいう。
まず、前記損失ブロックの隣接ピクセル間の時間的差を利用して費用関数costを算出する過程を説明する。
図3は、損失されたブロックの周囲に隣接するピクセルと、以前のフレームの同一位置に存在するピクセルとの時間的差を示すもので、斜線部分は、現在のフレームの損失ブロック及び以前のフレームで同一位置にあるブロックの隣接ピクセルをそれぞれ示すものである。
一般に、16×16サイズのマクロブロックは、周囲に64(16×4)個の隣接ピクセルが存在するが、前記以前のフレームとの時間的差が所定の臨界値を超える隣接ピクセルの数を費用関数として定義する。
前記費用関数costは、式1及び式2で示すことができる。
前記費用関数costの値が小さい場合は、前記損失ブロックが以前のフレームの同一位置にあるブロックから大きく変化していないことを意味する。即ち、前記損失ブロックの動きが大きくないことを意味する。しかしながら、前記費用関数costの値が大きい場合、即ち、以前のフレームとの時間的差が大きい場合は、前記損失ブロックの動きが大きいか、または場面転換が行われたと仮定することができる。
従って、前記費用関数costの値は、所定の臨界値との比較を通して前記損失ブロックの性質を決定する根拠となる。即ち、前記費用関数costが臨界値よりも小さいと、現在のフレームと以前のフレームとの差が大きくなく、動きが小さいと判断し、前記費用関数costが臨界値以上であると、動きが大きいか、または場面転換が行われたと判断する。
以下、前記損失ブロックに対する周辺ブロックのモーションベクトルを利用して、費用関数costを算出する過程を説明する。
図4は、損失ブロック及びその周辺ブロックのモーションベクトルを示す例示図で、前記損失ブロックの動きは、周辺ブロックの動きと密接な相関性を有するため、周辺ブロックのモーションベクトルを利用して前記損失ブロックの特性を判断することができる。
即ち、前記周辺ブロックのモーションベクトルの大きさが殆ど一定であると、全体的に各ブロックの動き方向が一定で、且つ、前記損失ブロックも同一方向の動きを有すると判断することができる。しかしながら、前記周辺ブロックのモーションベクトルの大きさが一定でないと、前記損失ブロックの動きを予測することは難しい。
従って、前記周辺ブロックのモーションベクトルの分散を利用して、費用関数costを式3及び式4で示すことができる。
前記費用関数costの値が小さい場合は、周囲の7個のモーションベクトル
が同じような値を有することを意味し、前記費用関数costの値が大きい場合は、モーションベクトルが広く分布して周辺ブロックの動きが一定でないことを意味する。
従って、前記費用関数costの値と所定の臨界値との比較を通して、前記損失ブロックの特性を判断することができる。
前記臨界値は、実験を通して最適の値を求めるが、前記臨界値を求めるためには、四つのブロックの特性及び費用関数との関係を把握する。
図5の(A)及び(B)は、「場面転換」特性を有するブロックの費用関数の分布図で、図6は、各費用関数間の相関性を示すグラフである。
図5(A)は、隣接ピクセル間の時間的差値による費用関数costの分布を示すグラフで、費用関数costの大部分が60を超える。
図5(B)は、前記損失ブロックに隣接したモーションベクトルの分散値である費用関数costの分布を示すグラフで、特定の値に偏重されることなく全体的に均一な分布を有する。
図6から分かるように、前記「場面転換」特性のブロックは、隣接ピクセル間の時間的差値による費用関数costに依存する。
表1は、時間的差値による費用関数cost及び分散値による費用関数costの平均値及び標準偏差を示すもので、時間的差値による費用関数costは、小さい標準偏差を示して平均である61.53付近に偏重され、分散値による費用関数costは、大きい標準偏差を有することで均一な分布を示す。
従って、前記損失ブロックを「場面転換」特性を有するブロックと判断する基準は、前記隣接したピクセル間の時間的差値による費用関数costのみを使用し、該当臨界値が60であることで決める。即ち、前記「場面転換」特性を有するブロックの判断は式5を利用する。
図7の(A)及び(B)は、「カメラ移動」特性を有するブロックの費用関数の分布図で、図8は、各費用関数間の相関性を示すグラフである。
図7(A)に示された隣接ピクセル間の時間的差値による費用関数costは、前記「場面転換」特性を有するブロックよりは広く分布するが、大部分30以上の値を有し、図7(B)に示された分散値による費用関数costは、大部分50以下の値を有する。
前記「カメラ移動」特性を有するブロックの場合は、フレーム全体の動きが一定であるため、周辺ブロックのモーションベクトルが殆ど同じような値を有し、前記の費用関数costを有する。
図8に示された両費用関数cost、costの相関図をみると、前記時間的差値による費用関数costは、大きい値にデータが偏重され、前記分散値による費用関数costは、小さい値にデータが偏重されていることがわかる。
前記「カメラ移動」特性を有するブロックに対する判断は式6を利用する。
図9の(A)及び(B)は、「対象移動」特性を有するブロックの費用関数の分布図で、図10は、各費用関数間の相関性を示すグラフである。
両費用関数cost、costの分布は、全体的に広く広がっている。前記時間的差値による費用関数costは、30以上の大きい値を有し、前記分散値による費用関数costは、100付近に多くのデータが分布している。図から分かるように、特定の値に偏重されることはないが、動く物体の特性上、モーションベクトルの分布が大きいことで予想される。
図10から分かるように、両費用関数cost、costは、大部分大きい値にデータが偏重されている。
従って、前記「対象移動」特性を有するブロックの判断基準は式7のようである。
図11の(A)及び(B)は、「停止」特性を有するブロックの費用関数の分布図で、図12は、各費用関数間の相関性を示すグラフである。
両費用関数cost、costの分布は、全体的に小さい値に偏重されて広がっている。前記時間的差値による費用関数costは、25以下に大部分が含まれるが、これは、現在のフレームと以前のフレームとの差が殆どないことを意味する。且つ、前記分散値による費用関数costも、25以下付近に多くのデータが偏重されている。
図12において、前記両費用関数cost、costは、両方とも小さい値を有しているが、前記「停止」特性を有するブロックの判断基準は式8のようである。
表2は、このような過程を通して算出されたブロックの特性判断基準を示すもので、前記損失ブロックの特性は、各費用関数の値が該当費用関数の値の範囲と一致するかを判断して決定する。
即ち、前記損失ブロックに隣接したピクセル間の時間的差値による費用関数costが61で、分散値による費用関数costが50であると、該当の損失ブロックは、「場面転換」特性を有するマクロブロックと判断し、前記隣接したピクセル間の時間的差値による費用関数costが20で、分散値による費用関数costが15であると、前記損失ブロックは、「停止」特性を有するマクロブロックと判断する。且つ、前記時間的差値による費用関数costが20で、前記分散値による費用関数costが30であると、前記損失ブロックは、「その他」特性を有するマクロブロックと判断する。
また、前記損失ブロックに隣接したピクセル間の時間的差値による費用関数costが40で、分散値による費用関数costが20であると、該当の損失ブロックは、「カメラ移動」特性を有するマクロブロックと判断し、前記時間的差値による費用関数costが40で、前記分散値による費用関数costが180であると、該当の損失ブロックは、「対象移動」特性を有するマクロブロックと判断する。
図13は、前記表2で定義した各ブロックの特性別分布を示すもので、動きが小さいか、または現在のフレームと以前のフレームとの差が小さいブロックは左側下方に分布し、逆に、動きが大きいか、または画面間の時間的差が大きいブロックは右側上方に分布することが分かる。
以上のように、本発明の好ましい実施形態を用いて本発明を例示してきたが、本発明は、この実施形態に限定して解釈されるべきものではない。本発明は、特許請求の範囲によってのみその範囲が解釈されるべきであることが理解される。当業者は、本発明の具体的な好ましい実施形態の記載から、本発明の記載および技術常識に基づいて等価な範囲を実施することができることが理解される。
受信側で伝送時に損失された動画像ブロックの特性を自動に判断して、損失ブロックを復旧するための情報として提供し得る画像処理システムの損失ブロック特性判断装置及びその方法を提供する。
本発明に係る画像処理システムの損失ブロック特性判断方法は、伝送された動画像ブロックで損失ブロックの存在有無を確認する段階と、現在のフレームと以前のフレームとに対し、前記損失ブロックに隣接したピクセル間の時間的差値(cost)を算出する段階と、損失された動画像ブロックに対する周辺ブロックのモーションベクトル分散値(cost)を算出する段階と、前記隣接ピクセル間の時間的差値(cost)及びモーションベクトル分散値(cost)を既設定された臨界値と比較する段階と、比較結果によって前記損失ブロックの特性を決定する段階とを有する。
本発明に係る画像処理システムの損失ブロック特性判断装置の構成を示すブロック図である。 本発明に係る画像処理システムの損失ブロック特性判断方法を示すフローチャートである。 現在のフレームと以前のフレーム間のピクセルの時間的差を示す例示図である。 損失ブロック及びその周辺ブロックのモーションベクトルを示す例示図である。 (A)及び(B)は、「場面転換」特性を有するブロックの費用関数の分布図である。 図5の(A)及び(B)の費用関数間の相関性を示すグラフである。 (A)及び(B)は、「カメラ移動」特性を有するブロックの費用関数の分布図である。 図7の(A)及び(B)の費用関数間の相関性を示すグラフである。 (A)及び(B)は、「対象移動」特性を有するブロックの費用関数の分布図である。 図9の(A)及び(B)の費用関数間の相関性を示すグラフである。 (A)及び(B)は、「停止」特性を有するブロックの費用関数の分布図である。 図11の(A)及び(B)の費用関数間の相関性を示すグラフである。 本発明により定義された各ブロックの特性別分布を示す分布図である。

Claims (8)

  1. 伝送された動画像ブロック中に損失ブロックが存在するかを判断する損失ブロック検出部と、
    前記損失ブロックが発生した現在のフレームと以前のフレームとで、隣接ピクセル間の時間的差値(cost )を算出するピクセル差算出部と、
    前記損失ブロックに対する周辺ブロックのモーションベクトル分散値(cost )を算出する分散値算出部と、
    前記時間的差値(cost )及びモーションベクトル分散値(cost )を既設定された臨界値と比較して損失ブロックの特性を判断するブロック特性決定部と、
    を含み、
    前記ピクセル差算出部は、下記式により隣接ピクセル間の時間的差値(cost)を算出する画像処理システムの損失ブロック特性判断装置,
  2. 伝送された動画像ブロック中に損失ブロックが存在するかを判断する損失ブロック検出部と、
    前記損失ブロックが発生した現在のフレームと以前のフレームとで、隣接ピクセル間の時間的差値(cost )を算出するピクセル差算出部と、
    前記損失ブロックに対する周辺ブロックのモーションベクトル分散値(cost )を算出する分散値算出部と、
    前記時間的差値(cost )及びモーションベクトル分散値(cost )を既設定された臨界値と比較して損失ブロックの特性を判断するブロック特性決定部と、
    を含み、
    前記分散値算出部は、下記式により前記損失ブロックに対する周辺ブロックのモーションベクトル分散値(cost)を算出する画像処理システムの損失ブロック特性判断装置,
  3. 前記損失ブロックは、16×16ピクセルのマクロブロックである請求項1または2に記載の画像処理システムの損失ブロック特性判断装置。
  4. 伝送された動画像ブロックで損失ブロックの存在有無を確認する段階と、
    現在のフレームと以前のフレームとに対し、前記損失ブロックに隣接したピクセル間の時間的差値(cost )を算出する段階と、
    損失された動画像ブロックに対する周辺ブロックのモーションベクトル分散値(cost )を算出する段階と、
    前記時間的差値(cost )及びモーションベクトル分散値(cost )を既設定された臨界値と比較する段階と、
    比較結果によって前記損失ブロックの特性を決定する段階と、
    を含み、
    前記隣接したピクセル間の時間的差値(cost)は、下記式により計算される画像処理システムの損失ブロック特性判断方法,
  5. 伝送された動画像ブロックで損失ブロックの存在有無を確認する段階と、
    現在のフレームと以前のフレームとに対し、前記損失ブロックに隣接したピクセル間の時間的差値(cost )を算出する段階と、
    損失された動画像ブロックに対する周辺ブロックのモーションベクトル分散値(cost )を算出する段階と、
    前記時間的差値(cost )及びモーションベクトル分散値(cost )を既設定された臨界値と比較する段階と、
    比較結果によって前記損失ブロックの特性を決定する段階と、
    を含み、
    前記モーションベクトル分散値(cost)は、下記式により算出される画像処理システムの損失ブロック特性判断方法,
  6. 記損失ブロックの特性を参照して該当の損失ブロックを復旧する段階をさらに含む、請求項4または5に記載の画像処理システムの損失ブロック特性判断方法。
  7. 前記損失ブロックは、16×16ピクセルのマクロブロックである請求項4〜6のいずれか1項に記載の画像処理システムの損失ブロック特性判断方法。
  8. 前記損失ブロックの特性を決定する段階は、
    前記cost 前記cost 第1臨界値(T1)以下であると、前記損失ブロックを停止ブロックと判断する段階と、
    前記cost 第2臨界値(T2)以上で、前記cost 第3臨界値(T3)以下であると、前記損失ブロックをカメラ移動ブロックと判断する段階と、
    前記cost 第4臨界値(T4)以上であると、前記損失ブロックを場面転換ブロックと判断する段階と、
    前記cost 前記第2臨界値(T2)以上で、前記cost 第5臨界値(T5)以上であると、前記損失ブロックを対象移動ブロックと判断する段階と、
    を含む請求項4〜7のいずれか1項に記載の画像処理システムの損失ブロック特性判断方法,(T1<T2<T3<T4<T5)。
JP2004302320A 2003-10-16 2004-10-15 画像処理システムの損失ブロック特性判断装置及びその方法 Expired - Fee Related JP4837909B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20030072251A KR100585733B1 (ko) 2003-10-16 2003-10-16 영상 처리 시스템의 손실 블록 특성 자동 판단 방법 및 장치
KR2003-072251 2003-10-16

Publications (2)

Publication Number Publication Date
JP2005124212A JP2005124212A (ja) 2005-05-12
JP4837909B2 true JP4837909B2 (ja) 2011-12-14

Family

ID=34374286

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004302320A Expired - Fee Related JP4837909B2 (ja) 2003-10-16 2004-10-15 画像処理システムの損失ブロック特性判断装置及びその方法

Country Status (6)

Country Link
US (1) US7729424B2 (ja)
EP (1) EP1524861B1 (ja)
JP (1) JP4837909B2 (ja)
KR (1) KR100585733B1 (ja)
CN (1) CN100405854C (ja)
AT (1) ATE525859T1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9105306B2 (en) * 2006-12-27 2015-08-11 Nec Corporation Identifying objects in images using object identity probabilities based on interframe distances
CN101102504B (zh) * 2007-07-24 2010-09-08 中兴通讯股份有限公司 一种结合视频编码器的混合运动检测方法
GB2507511B (en) * 2012-10-31 2015-09-23 Canon Kk Method and device for processing an image belonging to a set of images in a display system
US11425412B1 (en) * 2020-11-10 2022-08-23 Amazon Technologies, Inc. Motion cues for video encoding

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0125581B1 (ko) * 1991-07-24 1998-07-01 구자홍 디지탈 영상신호의 에러수정 시스템
JPH05244468A (ja) * 1992-02-28 1993-09-21 Mitsubishi Electric Corp 画像受信装置
US5247363A (en) * 1992-03-02 1993-09-21 Rca Thomson Licensing Corporation Error concealment apparatus for hdtv receivers
US5943444A (en) * 1993-03-31 1999-08-24 Canon Kabushiki Kaisha Image reproducing apparatus
US5621467A (en) * 1995-02-16 1997-04-15 Thomson Multimedia S.A. Temporal-spatial error concealment apparatus and method for video signal processors
KR100197368B1 (ko) * 1995-12-23 1999-06-15 전주범 영상 에러 복구 장치
JP3297293B2 (ja) 1996-03-07 2002-07-02 三菱電機株式会社 動画像復号方法および動画像復号装置
JP3351705B2 (ja) * 1997-04-25 2002-12-03 日本ビクター株式会社 動き補償符号化装置、動き補償符号化方法、及び記録媒体への記録方法
KR100301833B1 (ko) * 1998-08-20 2001-09-06 구자홍 오류은폐방법
US7110454B1 (en) * 1999-12-21 2006-09-19 Siemens Corporate Research, Inc. Integrated method for scene change detection
US20050033505A1 (en) * 2002-12-05 2005-02-10 Premier Wireless, Inc. Traffic surveillance and report system

Also Published As

Publication number Publication date
CN1607839A (zh) 2005-04-20
CN100405854C (zh) 2008-07-23
KR20050036547A (ko) 2005-04-20
ATE525859T1 (de) 2011-10-15
EP1524861A2 (en) 2005-04-20
KR100585733B1 (ko) 2006-06-07
EP1524861B1 (en) 2011-09-21
JP2005124212A (ja) 2005-05-12
US7729424B2 (en) 2010-06-01
EP1524861A3 (en) 2005-12-21
US20050084017A1 (en) 2005-04-21

Similar Documents

Publication Publication Date Title
US8243790B2 (en) Treating video information
EP0896466B1 (en) Fade detector for digital video
US7720148B2 (en) Efficient multi-frame motion estimation for video compression
US8204127B2 (en) Method and apparatus for encoding and decoding image by using multiple reference-based motion prediction
JP4104593B2 (ja) 画像処理システムの損失ブロック復旧装置及びその方法
JP2005520361A (ja) 映像フレーム間の動き推定のための方法および装置
US8421928B2 (en) System and method for detecting scene change
Huang et al. Adaptive fast block-matching algorithm by switching search patterns for sequences with wide-range motion content
US20070140336A1 (en) Video coding device and image recording/reproducing device
JP2002051341A (ja) 動画像符号化装置および動画像の特殊効果シーン検出装置
JP4837909B2 (ja) 画像処理システムの損失ブロック特性判断装置及びその方法
US20160309157A1 (en) Method and system to detect and utilize attributes of frames in video sequences
CN114554219A (zh) 一种基于运动检测的率失真优化方法及装置
JP2005516501A (ja) Pbフレームモードでのビデオ画像の符号化
US20100104011A1 (en) Moving picture coding method
JPH1013838A (ja) 動きベクトル検出方法および動きベクトル検出装置
KR101021538B1 (ko) H.264 인코딩 시 고속 인트라 모드 결정 방법
JP2007274366A (ja) 動画像符号化装置、動きベクトル検出方法
US20100040150A1 (en) Method and apparatus for encoding video data stream
JPH08223576A (ja) 境界整合の動き推定装置
JPH0779439A (ja) 動きベクトル検出装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071002

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20071227

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080107

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080201

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080206

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080229

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080305

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080421

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080821

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080925

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20081017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110810

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110929

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141007

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees