JP2006319814A - フィルタ特性異常隠蔽処理装置 - Google Patents

フィルタ特性異常隠蔽処理装置 Download PDF

Info

Publication number
JP2006319814A
JP2006319814A JP2005141938A JP2005141938A JP2006319814A JP 2006319814 A JP2006319814 A JP 2006319814A JP 2005141938 A JP2005141938 A JP 2005141938A JP 2005141938 A JP2005141938 A JP 2005141938A JP 2006319814 A JP2006319814 A JP 2006319814A
Authority
JP
Japan
Prior art keywords
block
abnormality
characteristic
characteristic value
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005141938A
Other languages
English (en)
Other versions
JP4672431B2 (ja
Inventor
Koutaro Ezaki
功太郎 江崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2005141938A priority Critical patent/JP4672431B2/ja
Priority to US11/382,804 priority patent/US20060256872A1/en
Publication of JP2006319814A publication Critical patent/JP2006319814A/ja
Application granted granted Critical
Publication of JP4672431B2 publication Critical patent/JP4672431B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Picture Signal Circuits (AREA)

Abstract

【課題】特性値の算出に関する異常が発生した場合に、符号化または復号化装置の性能に影響を与える事なく、復号画像の画質劣化を防止し、誤った特性値を隠蔽するフィルタ特性異常隠蔽処理装置、フィルタ特性異常隠蔽処理方法、符号化装置および復号化装置を提供する。
【解決手段】フィルタ特性異常隠蔽処理装置は、デブロックフィルタ処理におけるフィルタ強度を示す特性値を算出する算出部101と、画像を構成するブロック毎に、特性値算出の起動、終了およびブロック境界の位置を制御する制御部102と、前記特性値の算出に関する異常を検出する異常検出部103と、異常が検出された場合に、異常が検出されたブロック以降の画像内のブロックに対して異常なデブロックフィルタ処理を隠蔽するマスク回路104とを備える。
【選択図】図2

Description

本発明は、画像の符号化または復号化を行う装置において、画像データを符号化する事によって発生するブロック間の歪を緩和する為のデブロックフィルタ処理を施すに当たって、フィルタ処理の特性値を算出する装置が誤動作をした場合に、誤って算出されたフィルタの特性値を隠蔽するフィルタ特性異常隠蔽処理装置に関する。
従来、画像の符号化または復号化を行う装置において、画像情報の圧縮に伴うブロック間の歪を緩和する事を目的として、フィルタ処理が施されており、該フィルタは一般的にデブロックフィルタと呼ばれている。
図23は、従来の画像符号化装置の構成を示すブロック図である。同図のようにデブロックフィルタA06は、画像復号化部A04における逆量子化、並び逆変換処理の後、加算部A05において再構成された画像に対してフィルタ処理を施す。そのため、図23に示すように加算部A05と参照画像を保持するメモリA07の間に位置する(例えば、特許文献1参照。)。
図24は、従来のデブロックフィルタA06の構成を示すブロック図である。このデブロックフィルタA06は、各ブロック境界におけるフィルタの特性値を設定する特性設定部B02と、その特性値に従ってフィルタの種類が選択され復号画像に対してフィルタ処理を施すフィルタ部B03とを備える。
カレントマクロブロックにおけるフィルタ処理は、図25(a)(b)に示す様に、M画素×N画素のマクロブロック内のある所定の画素単位で区分けされたブロック単位(同図ではi画素×j画素)で実施される。フィルタ処理の対象となるブロック(以下カレントブロックと称す)は、その上側、または左側に隣接するブロックとの境界を挟んだ画素を用いてフィルタ処理される。この時、各々のブロック境界に対するフィルタの特性値は特性設定部B02により設定され、例えば、H.264/MPEG−4 AVCでは、これを境界強度(bS値)として規定している。
即ち、符号化または復号化装置においては、該フィルタ特性値を、図24に示す特性設定部においてブロック毎に決定している。
特開2003−179933号公報(図2) 特開平11−275584号公報(図2)
従来の符号化または復号化技術においては、図24に示す通り、特性設定部B02は、カレントマクロブロック内の符号化情報、およびカレントマクロブロックとその左側もしくは上側に隣接するマクロブロックとの符号化情報の相互関係により、各ブロック境界におけるフィルタの特性値を算出しており、デブロックフィルタ部B03では、該特性値に従ってフィルタの種類が選択され復号画像に対してフィルタ処理を施す。
このように、逐次入力される符号化情報を元に各ブロック境界におけるフィルタ特性値を算出する特性設定部B02では、仮に誤った符号化情報が入力されてしまうと、そのまま特性値を算出してしまう為、デブロックフィルタ部B03において、誤った特性のフィルタが選択され、正しい復号画像を得る事ができず、画質が劣化するという問題がある。
また特性設定部B02は、一般的に図26に示す様な制御部902と算出部901とにより構成される。このような構成において、制御部902が制御アルゴリズム等の内的要因、または雑音等の外的要因により、停止状態または暴走状態に陥った場合、算出部901は特性値を正しく算出する事ができず、場合によっては同じ特性値が繰り返し出力される事や、または誤った特性値を算出し続ける事によって、後段のデブロックフィルタ部B03においても誤った特性のフィルタが選択され、結果、復号画像の画質を大幅に劣化させる事にもなる。更に、制御部902の構造によっては符号化または復号化装置のシステム全体を停止状態または暴走状態に追い込む原因ともなる。
本発明は、このような課題を解決する為になされたもので、特性値の算出に関する異常が発生した場合に、符号化または復号化装置の性能に影響を与える事なく、復号画像の画質劣化を防止し、誤った特性値を隠蔽するフィルタ特性異常隠蔽処理装置、フィルタ特性異常隠蔽処理方法、符号化装置および復号化装置を提供することを目的とする。
上記課題を解決するために、本発明のフィルタ特性異常隠蔽処理装置は、デブロックフィルタ処理におけるフィルタ強度を示す特性値を算出する算出手段と、画像を構成するブロック毎に、特性値算出の起動、終了およびブロック境界の位置を制御する制御手段と、前記特性値の算出に関する異常を検出する検出手段と、異常が検出された場合に、異常が検出されたブロック以降の画像内のブロックに対して異常なデブロックフィルタ処理を隠蔽する隠蔽処理手段とを備える。
この構成によれば、特性値の算出に関する異常が検出された場合にデブロックフィルタ処理の異常を隠蔽するので、異常なデブロックフィルタ処理によって画質を損ねることを防止することができる。また、異常が検出されたブロック以降のブロックに特性値の誤りが伝播することを防止することができる。
ここで、前記算出手段は、画像符号化方法の詳細を示す符号化パラメータに基づいて前記特性値を算出し、前記検出手段は、前記符号化パラメータが規定の範囲内であるか否かを判定することによって異常を検出するようにしてもよい。
この構成によれば、異常な符号化パラメータから算出される誤った特性値を用いたデブロックフィルタ処理を隠蔽するので、異常なデブロックフィルタ処理によって却って画質を損ねることを防止することができる。
ここで、前記検出手段は、算出手段によって算出された前記特性値が規定の範囲内であるか否かを判定することによって異常を検出するようにしてもよい。
ここで、前記制御手段は、算出手段を制御するためのシーケンサ回路と、シーケンサ回路の状態を保持する状態レジスタとを有し、前記検出手段は、シーケンサ回路の状態遷移が正常か否かを判定することによって異常を検出するようにしてもよい。
この構成によれば、シーケンサ回路における異常な状態遷移に起因する誤ったデブロックフィルタ処理によって画質を損ねることを防止することができる。
ここで、前記制御手段は、算出手段を制御するためのシーケンサ回路と、シーケンサ回路の状態を保持する状態レジスタとを有し、前記検出手段は、前記制御手段が暴走しているか否かを判定することにより異常を検出するようにしてもよい。
この構成によれば、制御手段等の暴走に起因する誤ったデブロックフィルタ処理によって画質を損ねることを防止することができる。
ここで、前記制御手段は、異常が検出された場合、異常が検出されたブロックを含むマクロブロックの次のマクロブロックの先頭ブロックに対する特性値の算出前に制御手段を初期化するようにしてもよい。
この構成によれば、異常が検出された場合に次の画像から正常な状態に回復することができる。
ここで、前記隠蔽処理手段は、異常が検出されたブロック以降のマクロブロック内のブロックに対して、デブロックフィルタ処理を禁止するようにしてもよい。
この構成によれば、暴走を検知した後のデブロックフィルタ処置が施されない影響の範囲を異常が発生したマクロブロックの一部のみに留め、以降のマクロブロックにおいては正常な特性値が算出される事により、復号画像を乱す事なく、符号化または復号化装置の性能を保証する事ができる。
ここで、前記隠蔽処理手段は、異常が検出されたブロック以降のマクロブロック内のブロックに対して、算出手段によって算出された特性値の代わりに代用値を用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、特性値が代用値として例えば最弱のフィルタ強度や最強のフィルタ強度に変更され、デブロックフィルタ処理がなされるので画質劣化を防止することができる。
ここで、前記隠蔽処理手段は、特性値の代表的な値を保持する特性値テーブルを有し、異常が検出された場合に、算出手段によって算出された特性値の代わりに特性値テーブルの値を用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、異常が検出された場合、特性値として代表的な値を用いてデブロックフィルタ処理を行うことができる。
ここで、前記特性値テーブルは、画像内のブロック毎にブロックの位置に応じた代表的な値を保持するようにしてもよい。
この構成によれば、異常が検出された場合、特性値としてブロック毎にブロック位置に応じた代表的な値を用いてデブロックフィルタ処理を行うことができる。
ここで、前記隠蔽処理手段は、算出済の特性値をブロック毎に記憶する記憶手段を有し、異常が検出された場合に、算出手段によって算出された特性値の代わりに記憶手段に記憶された特性値を用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、異常が検出された場合、同じ動画像で現に使用された他のブロックの特性値を代表的な値を用いるので、より適切なデブロックフィルタ処理を行うことができる。
ここで、前記隠蔽処理手段は、異常が検出されたブロック以降のブロックについて、当該ブロックに隣接するブロックの特性値を用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、異常が検出された場合、同じ動画像で現に使用された隣接ブロックの特性値を代用するので、より適切なデブロックフィルタ処理を行うことができる。
ここで、前記特性値は、水平境界用の水平境界値と、垂直境界用の垂直境界値とを含み、前記隠蔽処理手段は、異常が検出されたブロック以降のブロックについて、当該ブロックの上に隣接するブロックの水平境界値と、当該ブロックの左に隣接するブロックの垂直境界値とを用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、異常発生した以降のブロックに対して、垂直方向並びに水平方向に対して独立に相関を反映した特性値を用いたフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化または復号化装置の性能を保証する事ができる。
ここで、前記記憶手段は、直前に復号化対象であったマクロブロックに含まれる各ブロックの特性値と、現在復号化対象となっているカレントマクロブロックに含まれる各ブロックの特性値を記憶し、前記隠蔽処理手段は、異常が検出されたブロック以降のブロックに対して、直前に復号化対象であったマクロブロック内の特性値を用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、異常が検出されたブロック以降のブロックに対して、直前に復号化対象であったマクロブロックとの相関を反映した特性値を用いたフィルタ処理を行うので、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化または復号化装置の性能を保証する事ができる。
ここで、前記隠蔽処理手段は、異常が検出されたブロック以降のブロックに対して、直前に復号化対象であったマクロブロック内の同一位置のブロックの特性値を用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、異常が検出されたブロック以降のブロックに対して、直前に復号化対象であったマクロブロック内の同一位置のブロックとの相関を反映した特性値を用いたフィルタ処理を行うので、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化または復号化装置の性能を保証する事ができる。
ここで、前記隠蔽処理手段は、異常が検出されたブロック以降のブロックに対して、当該ブロックに隣接するブロックの特性値と、直前に復号化対象であったマクロブロック中の同一位置のブロックの特性値とを比較し、一致する場合には、前記同一位置のブロックの特性値を前記記憶手段から読み出し、一致しない場合には、前記隣接するブロックの特性値を前記記憶手段から読み出し、読み出した特性値を用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、異常が検出されたブロック以降のブロックに対して、当該ブロックに隣接するブロックの特性値と、直前に復号化対象であったマクロブロック中の同一位置のブロックの特性値のうち、相関の強い方を代用するので、より画質劣化の少なくすることができる。
ここで、前記記憶手段は、過去に特性値が算出済の1マクロブロックラインと同数のマクロブロックに含まれる各ブロックの特性値を記憶し、前記隠蔽処理手段は、異常が発生したブロック位置以降のブロックに対して、当該ブロックと、カレントマクロブロックと隣接するマクロブロックにおいて、同一位置のブロックの特性値を用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、異常が検出されたブロック以降のブロックに対して、左側に隣接するマクロブロックにおいて同一ブロック位置となる垂直境界と、上側に隣接するマクロブロックにおいて同一ブロック位置となる水平境界と、それぞれの特性値を代用することにより、画質の殆ど劣化させないようにすることができる。
ここで、前記特性値は、水平境界用の水平境界値と、垂直境界用の垂直境界値とを含み、前記隠蔽処理手段は、異常が発生したブロック位置以降のブロックに対して、上側に隣接するマクロブロックにおける当該ブロックと同一位置のブロックの水平境界値と、左側に隣接するマクロブロックにおける当該ブロックと同一位置のブロックの垂直境界値とを用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、垂直方向並びに水平方向に対して独立に相関を反映した特性値を用いたデブロックフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化または復号化装置の性能を保証する事ができる。
ここで、前記隠蔽処理手段は、異常が発生したブロック位置以降のブロックに対して、上側に隣接するマクロブロックと左側に隣接するマクロブロックとにおいて、当該ブロックと同一位置のブロックとなる双方の特性値から平均値、最大値、または最小値を求め、その値を用いてデブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、上側に隣接するマクロブロックと左側に隣接するマクロブロックのそれぞれの相関を反映した特性値を用いたデブロックフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化または復号化装置の性能を保証する事ができる。
ここで、前記隠蔽処理手段は、異常が発生したブロック位置以降のブロックに対して、(a)現在復号化対象となっているマクロブロックにおける当該ブロックに隣接するブロックの特性値と、(b)上側に隣接するマクロブロックにおいて同一位置のブロックの特性値と、(c)左側に隣接するマクロブロックにおいて同一位置のブロックの特性値とを比較し、(a)と、(b)および(c)の一方とが一致する場合には、一致する隣接マクロブロック内において同一位置のブロックの特性値を用いて、(a)と、(b)および(c)の何れもが一致しない場合には、当該隣接するブロックの特性値を用いて、デブロックフィルタ処理を行わせるようにしてもよい。
この構成によれば、上記(a)〜(c)のうちより相関を反映した特性値を代用したデブロックフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化または復号化装置の性能を保証する事ができる。
ここで、前記隠蔽処理手段は、特性値の代表的な値を保持する特性値テーブルと、算出済の特性値をブロック毎に記憶する記憶手段とを有し、異常が検出された場合に、隣接するブロックの特性値が記憶手段に記憶されていればこれを参照し、隣接するブロックの特性値が記憶されていなければ、特性テーブルに格納されている特性値を参照し、これらを用いてデブロックフィルタ処理を行わせるようにしてもよい。
ここで、前記隠蔽処理手段は、隣接するブロックの特性値が記憶されていなければ、特性テーブルに格納されている特性値と、特性値が算出されている最近傍ブロックの特性値との平均値を算出し、デブロックフィルタ処理を行わせるようにしてもよい。
ここで、前記特性テーブルは、任意のタイミングで書込みおよび読出しが可能であるようにしてもよい。
この構成によれば、代表的な特性値を例えばスライス単位やピクチャ単位で随時更新するが可能であり、固定値と比較してより本来の特性値に近い値によって未算出ブロックを補完する事が可能となり、異常が発生したマクロブロックにおいて見かけ上の復号画像の画質を大きく劣化させる事なく性能を保証する事ができる。
ここで、前記制御手段は、検出手段によって異常が検出された場合に、前記隠蔽処理手段の処理完了前に算出手段に特性値を再計算させるようにしてもよい。
ここで、前記制御手段は、検出手段によって異常が検出された場合に、空き時間を算出し、空き時間内に収まる範囲内でブロックと境界とを限定して算出手段に特性値を再計算させるようにしてもよい。
この構成によれば、フィルタの処理を施す境界を限定して再度特性値の算出を実行する事により、符号化または復号化装置の性能を大幅に劣化させる事なく、異常が発生したマクロブロックにおいて見かけ上の復号画像の画質が劣化する事を防ぐ事ができる。
また、本発明のフィルタ特性異常隠蔽処理方法、画像符号化装置、画像復号化装置についても上記と同様の手段を備える。
本発明のフィルタ特性異常隠蔽処理装置、フィルタ特性異常隠蔽処理方法、画像符号化装置および画像復号化装置によれば、特性値の算出に関する異常が検出された場合にデブロックフィルタ処理の異常を隠蔽するので、異常なデブロックフィルタ処理によって画質を損ねることを防止することができる。また、異常が検出されたブロック以降のブロックに特性値の誤りが伝播することを防止することができる。
また、異常な符号化パラメータから算出される誤った特性値を用いたデブロックフィルタ処理を隠蔽するので、異常なデブロックフィルタ処理によって却って画質を損ねることを防止することができる。
さらに、シーケンサ回路における異常な状態遷移に起因する誤ったデブロックフィルタ処理によって画質を損ねることを防止することができる。
また、制御手段等の暴走に起因する誤ったデブロックフィルタ処理によって画質を損ねることを防止することができる。
さらに、異常が検出された場合に次の画像から正常な状態に回復することができる。
また、暴走を検知した後のデブロックフィルタ処置が施されない影響の範囲を異常が発生したマクロブロックの一部のみに留め、以降のマクロブロックにおいては正常な特性値が算出される事により、復号画像を乱す事なく、符号化または復号化装置の性能を保証する事ができる。
さらに、特性値が代用値として例えば最弱のフィルタ強度や最強のフィルタ強度に変更され、デブロックフィルタ処理がなされるので画質劣化を防止することができる。
また、異常が検出された場合、特性値として代表的な値を用いてデブロックフィルタ処理を行うことができる。
さらに、異常が検出された場合、特性値としてブロック毎にブロック位置に応じた代表的な値を用いてデブロックフィルタ処理を行うことができる。
また、異常が検出された場合、同じ動画像で現に使用された他のブロックの特性値を代表的な値を用いるので、より適切なデブロックフィルタ処理を行うことができる。
さらに、異常が検出された場合、同じ動画像で現に使用された隣接ブロックの特性値を代用するので、より適切なデブロックフィルタ処理を行うことができる。
また、異常発生した以降のブロックに対して、垂直方向並びに水平方向に対して独立に相関を反映した特性値を用いたフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化または復号化装置の性能を保証する事ができる。
さらに、異常が検出されたブロック以降のブロックに対して、直前に復号化対象であったマクロブロックとの相関を反映した特性値を用いたフィルタ処理を行うので、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化または復号化装置の性能を保証する事ができる。
また、異常が検出されたブロック以降のブロックに対して、直前に復号化対象であったマクロブロック内の同一位置のブロックとの相関を反映した特性値を用いたフィルタ処理を行うので、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化または復号化装置の性能を保証する事ができる。
本発明を実施するための最良の形態について、以下、図を用いて説明する。
(実施の形態1)
実施の形態1における画像符号化装置は、画像データを符号化する事によって発生するブロック間の歪を緩和する為のフィルタ処理を施すに当たって、カレントマクロブロックと隣接関係を成すマクロブロックとの境界条件、並びにカレントマクロブロック内のブロック境界条件から、各ブロック境界に対して個別にフィルタの特性値を算出する時、予期せぬ入力パラメータの設定や、雑音等の外的要因により、特性値を算出に関して誤動作をした場合に、一律特性値を0に固定してデブロックフィルタ処理を強制的に禁止し、システムの復旧を図るように構成されている。
図1は、実施の形態1における符号化装置の構成を示すブロック図である。同図の符号化装置は、減算器1、画像符号化部2、可変長符号化部3、画像復号化部4、加算器5、デブロックフィルタ6、メモリ7、ピクチャ間予測部8、ピクチャ予測推定部9を備える。
減算器1は、ピクチャ間予測部8からの予測画像と入力画像との差分をブロック単位に算出することによって差分画像を出力する。ここで、ブロックは図3に示すようなi画素×j画素とする。また、マクロブロックは図3に示すようなM画素×N画素とする。
画像符号化部2は、ブロック単位に差分画像に対して直交変換および量子化を行う。
可変長符号化部3は、量子化された差分画像や動きベクトルや符号化情報等を可変長符号化することによってビットストリームを出力する。
画像復号化部4は、画像符号化部2からの量子化された差分画像に対して逆量子化および逆直交変換を行う。
加算器5は、画像復号化部4からの差分画像とピクチャ間予測部8からの予測画像とを加算することによって、再構成画像を生成する。
デブロックフィルタ6は、フィルタ特性異常隠蔽処理装置としての機能を有し、特性設定部61とフィルタ部62を備える。特性設定部61は、特性値の算出と、誤った特性値を隠蔽する処理とを行う。フィルタ部62は、特性値に応じたフィルタの種類を選択して、再構成画像に対してフィルタ処理を行う。
メモリ7は、デブロックフィルタ6によってフィルタ処理された再構成画像を参照画像として記憶する。
ピクチャ間予測部8は、ピクチャ予測推定部9によって検出された動きベクトルに従って予測画像をメモリ7から生成する。
ピクチャ予測推定部9は、動きベクトルと検出する。
図2は特性設定部61の構成を示すブロック図である。特性設定部61は、算出部101、制御部102、異常検出部103、マスク回路104を備える。
算出部101は、マクロブロック毎に入力される符号化情報(符号化パラメータ)からブロック境界毎の特性値を算出する。
制御部102は、算出部101に対して、特性値計算の起動や終了、並びにブロック境界の位置を制御する。
異常検出部103は、特性値の算出に関する異常を検出する。すなわち、異常検出部103は、制御部102における算出順序の違反、制御アルゴリズムの違反などによる停止状態や暴走状態を検出し、符号化情報が規定の範囲内であるか否かを判定することによって異常を検出し、算出部101によって算出された特性値が規定の範囲内であるか否かを判定することによって異常を検出する。異常検出部103は、異常を検出すると、異常が検出されたブロックを含むカレントマクロブロックの次のマクロブロックの特性値計算の起動まで、異常を示す信号をマスク回路104に出力する。
マスク回路104は、異常検出部103によって異常が検出されたとき、算出部101から出力される異常な特性値をマスクし、フィルタ部62によるデブロックフィルタ処理を禁止する。マスク回路104の出力信号には、フィルタ部62へのイネーブル信号も含まれ、異常が検出されたときフィルタ部62をディスエーブルにすることもできる。
このような回路構成において、制御部102では図3示す様なM×N画素単位のマクロブロックより小さなi×j画素単位で区切ったブロックに対して、順次各ブロック境界の特性値を算出するよう制御を行っている。この時、図3ではマクロブロック内におけるブロックの処理順序はラスター走査の順序に従っているが、一般的に縦方向への順次走査やジグザグ走査であってもよい。
前述の通り特性値がブロック毎に算出される中で、制御部102において、例えば図4に示す様な位置でブロック位置を示す情報が何らかの原因により異常な遷移を起こした場合や、または停止状態にある場合には、異常検出回路103がこれを検知する。この時、図4においてNGと表記されたブロック位置以降の特性値は誤った値が出力される可能性がある事から後段のフィルタ部において誤ったフィルタ処理が施される事を防ぐ為に、図5に示す様にマスク回路104によって一律0が出力され、フィルタ処理が施される事を強制的に禁止する。
また一方で、特性値の算出時に異常があった事を検知した異常検出回路103は、制御部102に対しても異常状態を通知し、これによって制御回路は瞬時に初期状態へ復帰する事によって、符号化または復号化装置の性能を劣化させる事なく、通常の動作を継続する。
図6は、算出部101および制御部102の詳細な構成を示すブロック図である。また、図7は、異常検出部103の詳細な構成を示すブロック図である。なお、図6にはマスタCPU105も併せて図示してある。図7にはステートマシンとしての制御部102を併せて図示してある。
マスタCPU105は、符号化装置全体を制御し、制御部102に対してマクロブロック毎の符号化情報を供給し、制御部102の制御動作を管理する。
算出部101は、特性算出制御回路11と特性算出回路12とを備える。特性算出制御回路11は、特性値計算の起動や終了を特性算出回路12に指示する。特性算出回路12は、特性算出制御回路11からの指示に従って特性値を算出する。
制御部102は、シーケンサ制御回路22、レジスタ状態レジスタ部23、エンジン制御回路24、パラメータ変換回路25、パラメータ解析回路26、パラメータ流用回路27、算出値書き込み制御回路28、R/W制御回路29を備える。
シーケンサ制御回路22は、制御部102の状態を遷移させる。制御部102の状態は、例えば図8に示すようにS1〜S6のデブロックフィルタ6状態をとるものとする。S1は正常時はマクロブロック毎に初期化シーケンスを行う状態である。S2はブロックの境界毎のパラメータを算出する状態である。S3はブロックの境界毎のパラメータを条件レジスタにセットする状態である。S4は特性算出制御回路11に特性値(水平境界値、垂直境界値)を算出させる状態である。S5は特性算出回路12による特性値の算出完了待ちの状態である。S6は特性算出回路12による特性値の算出が完了した状態である。これらの状態は、例えば図9に示す状態遷移表に従ってシーケンサ制御回路22によって遷移される。同図では、現在の状態から次の状態へは丸印の状態へ遷移することを意味する。
レジスタ部23は、マスタCPU105からのコマンドやフラグ類を保持する制御レジスタ、制御部102のステートマシンとしても状態を保持する状態レジスタ、符号化パラメータを保持する条件レジスタ、特性値を保持する特性レジスタなどを備える。
エンジン制御回路24は、シーケンサ制御回路22と特性算出制御回路11とのインターフェース回路であり、特性算出制御回路11やパラメータ解析回路26の解析結果に応じて相互に駆動する。
パラメータ変換回路25は、条件レジスタに保持された符号化パラメータを特性算出回路12に適した形式に変換する。
パラメータ解析回路26は、条件レジスタに保持された符号化パラメータを解析する。
パラメータ流用回路27は、条件レジスタに保持された符号化パラメータのうち次のブロックに共通のパラメータを判別し、流用する。
算出値書き込み制御回路28、特性算出回路12により算出された特性値を特性レジスタに書き込む制御を行う。
R/W制御回路29は、マスタCPU105によるレジスタ部23の読み出しと書き込みとを制御する。
図7において異常検出部103は、異常設定検出回路31、異常遷移検出回路32、暴走状態検出回路33を備える。
異常設定検出回路31は、条件レジスタに保持された符号化パラメータが規定の範囲内であるか否かを判定することによって異常を検出し、また、特性レジスタに保持された前記特性値が規定の範囲内であるか否かを判定することによって異常を検出し、制御レジスタに保持されたコマンドが規定のコマンドであるか否かを判定することによって異常を検出する。
異常遷移検出回路32は、状態レジスタが更新されたとき状態遷移が正常であるか否か
を判定することによって異常を検出する。例えば、図9に許容された状態遷移であるか否かを判定する。
暴走状態検出回路33は、状態遷移によりリセットされるウォッチドッグタイマーであり、しきい値となる時間が経過しても次の状態へ遷移しない場合は暴走状態または停止状態にあることを検出する。
以上説明してきたように実施の形態1によれば、フィルタの種類を選択する為の特性値を算出する為の符号化情報に誤りがあった場合や、制御アルゴリズム等の内的要因や雑音等の外的要因により、制御部が停止状態または暴走状態に陥った場合に、このような制御部の異常状態や入力される符号化情報の異常を検出し、異常が発生した後の隠蔽処理を瞬時に実行し、制御部を正常な状態に復旧させる事によって、復号画像の画質に大きな影響を与えずに、符号化または復号化装置の性能を保証する事が可能となる。
なお、上記では図1の画像符号化装置にフィルタ特性異常隠蔽処理装置(デブロックフィルタ6)を適用した場合を説明したが、画像復号化装置についても同様である。すなわち、画像復号化装置は、図1の構成に対して、減算器1、画像符号化部2、可変長符号化部3、ピクチャ予測推定部9の代わりに可変長復号部を備える構成とすればよい。
また、マスク回路104は異常が検出されたときフィルタ部62をディスエーブルにする構成を説明したが、この代わりに特性値を0などの他の代用値に置き換えて、代用値を用いてフィルタ部62にフィルタ処理をさせる構成としてもよい。この代用値は最も弱いフィルタ強度を示すようにしてもよい。
(実施の形態2)
図10は実施の形態2における特性設定部611の構成を示すブロック図である。本実施の形態における符号化装置は、図1と比較して特性設定部61の代わりに特性設定部611を備えている。この点以外は図1と同じであるので、以下同じ点は説明を省略して異なる点を中心に説明する。
特性設定部611において、カレントマクロブロック毎に符号化情報が算出部201へ入力され、制御部202が入力された符号化情報を元にフィルタ部62において使用されるフィルタの種類を選択する特性値を順次算出するよう制御する構成を示している。
前述の通り特性値がブロック毎に算出される中で、制御部202において、例えば図4に示す様な位置でブロック位置を示す情報が何らかの原因により異常な遷移が発生した場合や、または停止状態にある場合には、異常検出回路203がこれを検知する。この時、図4においてNGと表記されたブロック位置以降の特性値は誤った値が出力される可能性がある事から後段のフィルタ部62において誤ったフィルタ処理が施される事を防ぐ為に、図11に示す様な特性値が格納された特性テーブル205の出力がセレクタ204によって選択され、代表的な特性値で補完する事により引き続きフィルタ処理が施される。
また一方で、特性値の算出時に異常があった事を検知した異常検出回路203は、制御部202に対しても異常状態を通知し、これによって制御回路は瞬時に初期状態へ復帰する事によって、符号化または復号化装置の性能を劣化させる事なく、通常の動作を継続する。
以上説明してきたように実施の形態2におけるフィルタ特性異常隠蔽処理装置によれば、実施の形態1の効果に加え、異常が発生した後のブロック境界に対しても、代表的なフィルタの特性によって補完される事により、適度なフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を大きく劣化させる事なく、符号化(または複合化)装置の性能を保証する事ができる。
(実施の形態3)
図12は実施の形態3における特性設定部612の構成を示すブロック図である。本実施の形態における符号化装置は、図1と比較して特性設定部61の代わりに特性設定部612を備えている。この点以外は図1と同じであるので、以下同じ点は説明を省略して異なる点を中心に説明する。
特性設定部612において、カレントマクロブロック毎に符号化情報が算出部301へ入力され、制御部302が入力された符号化情報を元にフィルタ部62において使用されるフィルタの種類を選択する特性値を順次算出するよう制御する構成を示している。
前述の通り特性値がブロック毎に算出される中で、制御部302において、例えば図4に示す様な位置でブロック位置を示す情報が何らかの原因により異常な遷移が発生した場合や、または停止状態にある場合には、異常検出回路303がこれを検知する。この時、図4においてNGと表記されたブロック位置以降の特性値は誤った値が出力される可能性がある事から後段のフィルタ部において誤ったフィルタ処理が施される事を防ぐ為に、図12に示す様に既に算出済みの特性値を順次記憶部305に記録しておき、図13に示されるNGと表記されたブロック以降のブロックにおいては、これと隣接するブロックの特性値を垂直方向並びに水平方向それぞれの特性値を前記記憶部の中から複製部306によって選択的に複製し、その出力がセレクタ204によって選択され、比較的相関の強い特性値で補完しながら引き続きフィルタ処理が施される。
上記のセレクタ選択回路204の選択制御は制御部302によって次のようにしてもよい。すなわち、制御部302は、異常が検出されたブロック以降のブロックについて、当該ブロックの上に隣接するブロックの水平境界値と、当該ブロックの左に隣接するブロックの垂直境界値とを用いてデブロックフィルタ処理を行わせる。
また一方で、特性値の算出時に異常があった事を検知した異常検出回路303は、制御部302に対しても異常状態を通知し、これによって制御回路は瞬時に初期状態へ復帰する事によって、符号化または復号化装置の性能を劣化させる事なく、通常の動作を継続する。
以上説明してきたように実施の形態3におけるフィルタ特性異常隠蔽処理装置によれば、実施の形態1の効果に加え、異常発生した後のブロック境界に対しても、同一マクロブロック内の隣接ブロックの特性値を順次複製し、これによって補完される事により、カレントマクロブロック内において相関の強い特性値を用いたフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化(または複合化)装置の性能を保証する事ができる。
(実施の形態4)
図14は実施の形態4における特性設定部613の構成を示すブロック図である。本実施の形態における符号化装置は、図1と比較して特性設定部61の代わりに特性設定部613を備えている。この点以外は図1と同じであるので、以下同じ点は説明を省略して異なる点を中心に説明する。
特性設定部613において、カレントマクロブロック毎に符号化情報が算出部401へ入力され、制御部402が入力された符号化情報を元にフィルタ部62において使用されるフィルタの種類を選択する特性値を順次算出するよう制御する構成を示している。
前述の通り特性値がブロック毎に算出される中で、図14に示す様に、まず現在符号化または復号化処理の対象となっているマクロブロックにおける特性値を順次記憶部405aに記録しておき、次に右側に隣接するマクロブロックが符号化または復号化処理の対象へと遷移したら、今度はそのマクロブロックにおける特性値を順次記憶部405bへ記録する。この動作を繰り返す事により、記憶部405aおよび405bにはそれぞれ、現在のマクロブロックに関する特性値と左側に隣接する、即ち一つ前のマクロブロックにおける特性値の何れかが記録される事になる。
この時、制御部402において、例えば図4に示す様な位置でブロック位置を示す情報が何らかの原因により異常な遷移が発生した場合や、または停止状態にある場合には、異常検出回路403がこれを検知する。この時、図4においてNGと表記されたブロック位置以降の特性値は誤った値が出力される可能性がある事から後段のフィルタ部において誤ったフィルタ処理が施される事を防ぐ為に、前記記憶部405aまたは405bの何れかの内、一つ前のマクロブロックの特性値がセレクタ407によって選択され、複製部406によってNGとなったブロック位置以降のブロックと同一位置の特性値を選択的に複製し、その出力がセレクタ404によって選択され、相関の強い特性値で補完しながら引き続きフィルタ処理が施される。
上記の選択回路407の選択制御は制御部402によって次のようにしてもよい。すなわち、制御部402は、異常が検出されたブロック以降のブロックに対して、当該ブロックに隣接するブロックの特性値と、直前に復号化対象であったマクロブロック中の同一位置のブロックの特性値とを比較し、一致する場合には、前記同一位置のブロックの特性値を記憶部から読み出し、一致しない場合には、前記隣接するブロックの特性値を記憶部から読み出し、読み出した特性値を用いてデブロックフィルタ処理を行わせる。
また一方で、特性値の算出時に異常があった事を検知した異常検出回路403は、制御部402に対しても異常状態を通知し、これによって制御回路は瞬時に初期状態へ復帰する事によって、符号化または復号化装置の性能を劣化させる事なく、通常の動作を継続する。
以上説明してきたように実施の形態4におけるフィルタ特性異常隠蔽処理装置によれば、実施の形態1の効果に加え、異常発生した後のブロック境界に対しても、直前の隣接マクロブロックにおける同一ブロック位置の特性値、または、隣接するブロックの特性値を記憶部から順次複製し、これによって補完される事により、マクロブロック間においても相関を有する特性値を用いたフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化(または複合化)装置の性能を保証する事ができる。
(実施の形態5)
図16は実施の形態5における特性設定部614の構成を示すブロック図である。本実施の形態における符号化装置は、図1と比較して特性設定部61の代わりに特性設定部614を備えている。この点以外は図1と同じであるので、以下同じ点は説明を省略して異なる点を中心に説明する。
特性設定部614において、カレントマクロブロック毎に符号化情報が算出部501へ入力され、制御部502が入力された符号化情報を元にフィルタ部62において使用されるフィルタの種類を選択する特性値を順次算出するよう制御する構成を示している。
前述の通り特性値がブロック毎に算出される中で、図16に示す様に、符号化または復号化処理の対象となっているマクロブロックにおける特性値を順次記憶部505に記録する。この記憶部は1マクロブロックライン分の特性値を記憶する容量を有し、1マクロブロックライン分の特性値を記録した後、再び最初のアドレスに戻って順次算出される特性値を上書きする。この動作を続ける事により、現在のマクロブロックに関する特性値と左側に隣接するマクロブロックにおける特性値、および上側に隣接するマクロブロックの特性値が記録される事になる。
この時、制御部502において、例えば図4に示す様な位置でブロック位置を示す情報が何らかの原因により異常な遷移が発生した場合や、または停止状態にある場合には、異常検出回路503がこれを検知する。この時、図4においてNGと表記されたブロック位置以降の特性値は誤った値が出力される可能性がある事から後段のフィルタ部において誤ったフィルタ処理が施される事を防ぐ為に、前記記憶部505から、左側に隣接するマクロブロックにおいて、各ブロックの垂直境界に関する特性値と、上側に隣接するマクロブロックにおいて、各ブロックの水平境界に関する特性値とが出力され、複製部506によってNGとなったブロック位置以降のブロックと同一位置の特性値を選択的に複製し、その出力がセレクタ504によって選択され、相関の強い特性値で補完しながら引き続きフィルタ処理が施される。
上記の記憶部505からの複製は次のようにしてもよい。すなわち、複製部506は、異常が発生したブロック位置以降のブロックに対して、(a)現在復号化対象となっているマクロブロックにおける当該ブロックに隣接するブロックの特性値と、(b)上側に隣接するマクロブロックにおいて同一位置のブロックの特性値と、(c)左側に隣接するマクロブロックにおいて同一位置のブロックの特性値とを比較し、(a)と、(b)および(c)の一方とが一致する場合には、一致する隣接マクロブロック内において同一位置のブロックの特性値を用いて、(a)と、(b)および(c)の何れもが一致しない場合には、当該隣接するブロックの特性値を用いて複製する。
また一方で、特性値の算出時に異常があった事を検知した異常検出回路503は、制御部502に対しても異常状態を通知し、これによって制御回路は瞬時に初期状態へ復帰する事によって、符号化または復号化装置の性能を劣化させる事なく、通常の動作を継続する。
以上説明してきたように実施の形態5におけるフィルタ特性異常隠蔽処理装置によれば、実施の形態4の効果に加え、異常発生した後のブロック境界に対しても、左側に隣接するマクロブロックにおいて同一ブロック位置となる垂直境界と、上側に隣接するマクロブロックにおいて同一ブロック位置となる水平境界、それぞれに対して特性値を順次複製し、これによって補完される事により、垂直方向並びに水平方向に対して独立に相関を反映した特性値を用いたフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化(または複合化)装置の性能を保証する事ができる。
なお、複製部506は、異常が発生したブロック位置以降のブロックに対して、上側に隣接するマクロブロックと左側に隣接するマクロブロックとにおいて、当該ブロックと同一位置のブロックとなる双方の特性値から平均値、最大値、または最小値を求め、その値を用いて複製する。
また、複製部506は、異常が発生したブロック位置以降のブロックに対して、上側に隣接するマクロブロックにおける当該ブロックと同一位置のブロックの水平境界値と、左側に隣接するマクロブロックにおける当該ブロックと同一位置のブロックの垂直境界値とを用いて複製するようにしてもよい。
(実施の形態6)
図18は実施の形態6における特性設定部615の構成を示すブロック図である。本実施の形態における符号化装置は、図1と比較して特性設定部61の代わりに特性設定部615を備えている。この点以外は図1と同じであるので、以下同じ点は説明を省略して異なる点を中心に説明する。
特性設定部614において、カレントマクロブロック毎に符号化情報が算出部601へ入力され、制御部602が入力された符号化情報を元にフィルタ部62において使用されるフィルタの種類を選択する特性値を順次算出するよう制御する構成を示している。
前述の通り特性値がブロック毎に算出される中で、制御部602において、例えば図4に示す様な位置でブロック位置を示す情報が何らかの原因により異常な遷移が発生した場合や、または停止状態にある場合には、異常検出回路603がこれを検知する。この時、図4においてNGと表記されたブロック位置以降の特性値は誤った値が出力される可能性がある事から後段のフィルタ部において誤ったフィルタ処理が施される事を防ぐ為に、図18に示す様に既に算出済みの特性値を順次記憶部605bに記録しておき、図19に示されるNGと表記されたブロック以降のブロックの内、左側または上側に隣接するブロックの特性値が算出済みである場合には、その隣接ブロックにおける特性値を垂直方向並びに水平方向それぞれ前記記憶部の中から複製部606によって選択的に複製する。一方、図19に示されるNGと表記されたブロック以降のブロックの内、左側または上側に隣接するブロックの特性値が算出済みでない場合には、代表的な特性値が格納されている特性テーブル605aよりブロック位置に応じて選択される。このように、特性値の未算出ブロックに対して隣接ブロックの特性値が算出済みであるか否かによって、先の複製部から出力されている補完値と、特性テーブルから出力されている補完値の何れかをセレクタ607によって選択され、異常発生時には、その出力がセレクタ604によって選択され、比較的自然な特性値によって補完しながら引き続きフィルタ処理が施される。
また一方で、特性値の算出時に異常があった事を検知した異常検出回路603は、制御部602に対しても異常状態を通知し、これによって制御回路は瞬時に初期状態へ復帰する事によって、符号化または復号化装置の性能を劣化させる事なく、通常の動作を継続する。
以上説明してきたように実施の形態6におけるフィルタ特性異常隠蔽処理装置によれば、実施の形態2および実施の形態3の効果に加え、異常発生した後のブロック境界に対しても、同一マクロブロック内の隣接ブロックの特性値が既に算出済みであれば、これを順次複製して補完され、また隣接ブロックに算出済みの特性値がない場合には、代表的なフィルタの特性によって補完される事により、特性テーブルによって固定された値や隣接ブロックの値のみよって補完されるよりもギャップの少ない特性値を用いたフィルタ処理が施され、異常が発生したマクロブロックにおいても見かけ上の復号画像の画質を殆ど劣化させる事なく、符号化(または複合化)装置の性能を保証する事ができる。
なお、制御部602は、隣接するブロックの特性値が記憶されていなければ、特性テーブル605aに格納されている特性値と、記憶部605bに記憶された最近傍ブロックの特性値との平均値を算出し、デブロックフィルタ処理を行わせるようにしてもよい。
(実施の形態7)
図20は実施の形態7における特性設定部616の構成を示すブロック図である。本実施の形態における符号化装置は、図1と比較して特性設定部61の代わりに特性設定部616を備えている。この点以外は図1と同じであるので、以下同じ点は説明を省略して異なる点を中心に説明する。
特性設定部616において、カレントマクロブロック毎に符号化情報が算出部701へ入力され、制御部702が入力された符号化情報を元にフィルタ部62において使用されるフィルタの種類を選択する特性値を順次算出するよう制御する構成を示している。
前述の通り特性値がブロック毎に算出される中で、制御部702において、例えば図4に示す様な位置でブロック位置を示す情報が何らかの原因により異常な遷移が発生した場合や、または停止状態にある場合には、異常検出回路703がこれを検知する。この時、図4においてNGと表記されたブロック位置以降の特性値は誤った値が出力される可能性がある事から後段のフィルタ部において誤ったフィルタ処理が施される事を防ぐ為に、図11に示す様な特性値を予めマイコンやDSPなどにより事前に特性レジスタ705へ格納しておき、この特性レジスタの出力がセレクタ704によって選択され、未算出ブロックにおける特性値を補完する事により引き続きフィルタ処理が施される。この時、特性レジスタへの補完値の書込みは、マクロブロック単位、スライス単位、またはピクチャ単位であってもよく、任意のタイミングで更新が可能である。
また一方で、特性値の算出時に異常があった事を検知した異常検出回路703は、制御部702に対しても異常状態を通知し、これによって制御回路は瞬時に初期状態へ復帰する事によって、符号化または復号化装置の性能を劣化させる事なく、通常の動作を継続する。
以上説明してきたように実施の形態7におけるフィルタ特性異常隠蔽処理装置によれば、実施の形態2の効果に加え、異常発生した後のブロック境界に対しても、代表的なフィルタの特性を例えばスライス単位やピクチャ単位で随時更新する事によって、固定値と比較してより本来の特性値に近い値によって未算出ブロックを補完する事が可能となり、異常が発生したマクロブロックにおいて見かけ上の復号画像の画質を大きく劣化させる事なく、符号化(または複合化)装置の性能を保証する事ができる。
(実施の形態8)
図21は実施の形態8における特性設定部617の構成を示すブロック図である。本実施の形態における符号化装置は、図1と比較して特性設定部61の代わりに特性設定部617を備えている。この点以外は図1と同じであるので、以下同じ点は説明を省略して異なる点を中心に説明する。
特性設定部617において、カレントマクロブロック毎に符号化情報が算出部801へ入力され、制御部802が入力された符号化情報を元にフィルタ部62において使用されるフィルタの種類を選択する特性値を順次算出するよう制御する構成を示している。
前述の通り特性値がブロック毎に算出される中で、制御部802において、例えば図4に示す様な位置でブロック位置を示す情報が何らかの原因により異常な遷移が発生した場合や、または停止状態にある場合には、異常検出回路803がこれを検知する。この時、図4においてNGと表記されたブロック位置以降の特性値は誤った値が出力される可能性がある事から後段のフィルタ部において誤ったフィルタ処理が施される事を防ぐ為に、各ブロックに対して算出した特性値をそのまま出力されず、一旦バッファ805に格納されている。上記の様に異常が検出された場合には、バッファの内容は消去され、制御部は再度特性値を算出するよう算出部に信号を出力する。この時、特性値算出の再実行により、システム全体の性能への影響を軽減する為に、2度目の算出では、例えば図22に示す様なマクロブロックを縦横4分割したサブマクロブロック境界に対してのみ特性値を算出し、その他の境界については全て0でマスクするか、代表的な特性値によって補完する。このようにして算出された各ブロック境界における特性値は、再びバッファに格納され、最終ブロックまで正常に算出が完了したら、スイッチ804がON状態となり、フィルタ部へと出力される。
また、制御部802は、異常が検出された場合に、次のマクロブロックのための特性値算出開始までの空き時間(空きサイクル数)を算出し、空き時間内に収まる範囲内でブロックと境界とを限定して特性値を再計算させるようにしてもよい。
以上説明してきたように実施の形態8によれば、実施の形態1の効果に加え、特性値の算出中に異常発生した場合においても、フィルタの処理を施す境界を限定して再度特性値の算出を実行する事により、符号化(または複合化)装置の性能を大幅に劣化させる事なく、異常が発生したマクロブロックにおいて見かけ上の復号画像の画質が劣化する事を防ぐ事ができる。
以上のように、本発明における符号化または復号化装置は、例えば携帯電話、DVD装置、およびデジタルTV装置等で、画像を符号化して符号列を生成したり、生成された符号列を復号化したりするための装置として有用である。
実施の形態1における符号化装置の構成を示すブロック図である。 特性設定部の構成を示すブロック図である。 M×N画素のマクロブロックとi×j画素ブロックを示す説明図である。 異常が検出されたブロックを示す説明図である。 フィルタ特性異常隠蔽処理の結果を示す図である。 算出部および制御部の詳細な構成を示すブロック図である。 異常検出部の詳細な構成を示すブロック図である。 状態遷移の一例を示す状態遷移図である。 状態遷移の表を示す図である。 実施の形態2における特性設定部の構成を示すブロック図である。 フィルタ特性異常隠蔽処理の結果を示す図である。 実施の形態3における特性設定部の構成を示すブロック図である。 フィルタ特性異常隠蔽処理の結果を示す図である。 実施の形態4における特性設定部の構成を示すブロック図である。 フィルタ特性異常隠蔽処理の結果を示す図である。 実施の形態5における特性設定部の構成を示すブロック図である。 フィルタ特性異常隠蔽処理の結果を示す図である。 実施の形態6における特性設定部の構成を示すブロック図である。 フィルタ特性異常隠蔽処理の結果を示す図である。 実施の形態7における特性設定部の構成を示すブロック図である。 実施の形態8における特性設定部の構成を示すブロック図である。 フィルタ特性異常隠蔽処理の結果を示す図である。 従来の画像符号化処理装置の構成 デブロックフィルタの構成 フィルタ処理の位置とマクロブロックとの関係 従来例におけるフィルタ特性異常隠蔽処理装置の構成
符号の説明
1 減算器
2 画像符号化部
3 可変長符号化部
4 画像復号化部
5 加算器
6 デブロックフィルタ
7 メモリ
8 ピクチャ間予測部
9 ピクチャ予測推定部
61 特性設定部
62 フィルタ部
101 算出部
102 制御部
103 異常検出部
104 マスク回路
105 マスタCPU
22 シーケンサ制御回路
23 レジスタ部
24 エンジン制御回路
25 パラメータ変換回路
26 パラメータ解析回路
27 パラメータ流用回路
28 算出値書き込み制御回路
29 R/W制御回路
11 特性算出制御回路
12 特性算出回路
31 異常設定検出回路
32 異常遷移検出回路
33 暴走状態検出回路

Claims (28)

  1. デブロックフィルタ処理におけるフィルタ強度を示す特性値を算出する算出手段と、
    画像を構成するブロック毎に、特性値算出の起動、終了およびブロック境界の位置を制御する制御手段と、
    前記特性値の算出に関する異常を検出する検出手段と、
    異常が検出された場合に、異常が検出されたブロック以降の画像内のブロックに対して異常なデブロックフィルタ処理を隠蔽する隠蔽処理手段と
    を備えることを特徴とするフィルタ特性異常隠蔽処理装置。
  2. 前記算出手段は、画像符号化方法の詳細を示す符号化パラメータに基づいて前記特性値を算出し、
    前記検出手段は、前記符号化パラメータが規定の範囲内であるか否かを判定することによって異常を検出する
    ことを特徴とする請求項1記載のフィルタ特性異常隠蔽処理装置。
  3. 前記検出手段は、算出手段によって算出された前記特性値が規定の範囲内であるか否かを判定することによって異常を検出する
    ことを特徴とする請求項1記載のフィルタ特性異常隠蔽処理装置。
  4. 前記制御手段は、算出手段を制御するためのシーケンサ回路と、シーケンサ回路の状態を保持する状態レジスタとを有し、
    前記検出手段は、シーケンサ回路の状態遷移が正常か否かを判定することによって異常を検出する
    ことを特徴とする請求項1記載のフィルタ特性異常隠蔽処理装置。
  5. 前記制御手段は、算出手段を制御するためのシーケンサ回路と、シーケンサ回路の状態を保持する状態レジスタとを有し、
    前記検出手段は、前記制御手段が暴走しているか否かを判定することにより異常を検出する
    ことを特徴とする請求項1記載のフィルタ特性異常隠蔽処理装置。
  6. 前記制御手段は、異常が検出された場合、異常が検出されたブロックを含むマクロブロックの次のマクロブロックの先頭ブロックに対する特性値の算出前に制御手段を初期化する
    ことを特徴とする請求項1ないし5の何れかに記載のフィルタ特性異常隠蔽処理装置。
  7. 前記隠蔽処理手段は、異常が検出されたブロック以降のマクロブロック内のブロックに対して、デブロックフィルタ処理を禁止する
    ことを特徴とした請求項6記載のフィルタ特性異常隠蔽処理装置。
  8. 前記隠蔽処理手段は、異常が検出されたブロック以降のマクロブロック内のブロックに対して、算出手段によって算出された特性値の代わりに代用値を用いてデブロックフィルタ処理を行わせる
    ことを特徴とした請求項6記載のフィルタ特性異常隠蔽処理装置。
  9. 前記隠蔽処理手段は、特性値の代表的な値を保持する特性値テーブルを有し、異常が検出された場合に、算出手段によって算出された特性値の代わりに特性値テーブルの値を用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項8記載のフィルタ特性異常隠蔽処理装置。
  10. 前記特性値テーブルは、画像内のブロック毎にブロックの位置に応じた代表的な値を保持する
    ことを特徴とする請求項9記載のフィルタ特性異常隠蔽処理装置。
  11. 前記隠蔽処理手段は、算出済の特性値をブロック毎に記憶する記憶手段を有し、異常が検出された場合に、算出手段によって算出された特性値の代わりに記憶手段に記憶された特性値を用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項8記載のフィルタ特性異常隠蔽処理装置。
  12. 前記隠蔽処理手段は、異常が検出されたブロック以降のブロックについて、当該ブロックに隣接するブロックの特性値を用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項11記載のフィルタ特性異常隠蔽処理装置。
  13. 前記特性値は、水平境界用の水平境界値と、垂直境界用の垂直境界値とを含み、
    前記隠蔽処理手段は、異常が検出されたブロック以降のブロックについて、当該ブロックの上に隣接するブロックの水平境界値と、当該ブロックの左に隣接するブロックの垂直境界値とを用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項11記載のフィルタ特性異常隠蔽処理装置。
  14. 前記記憶手段は、直前に復号化対象であったマクロブロックに含まれる各ブロックの特性値と、現在復号化対象となっているカレントマクロブロックに含まれる各ブロックの特性値を記憶し、
    前記隠蔽処理手段は、異常が検出されたブロック以降のブロックに対して、直前に復号化対象であったマクロブロック内の特性値を用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項10記載のフィルタ特性異常隠蔽処理装置。
  15. 前記隠蔽処理手段は、異常が検出されたブロック以降のブロックに対して、直前に復号化対象であったマクロブロック内の同一位置のブロックの特性値を用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項14記載のフィルタ特性異常隠蔽処理装置。
  16. 前記隠蔽処理手段は、異常が検出されたブロック以降のブロックに対して、
    当該ブロックに隣接するブロックの特性値と、直前に復号化対象であったマクロブロック中の同一位置のブロックの特性値とを比較し、
    一致する場合には、前記同一位置のブロックの特性値を前記記憶手段から読み出し、
    一致しない場合には、前記隣接するブロックの特性値を前記記憶手段から読み出し、
    読み出した特性値を用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項13記載のフィルタ特性異常隠蔽処理装置。
  17. 前記記憶手段は、過去に特性値が算出済の1マクロブロックラインと同数のマクロブロックに含まれる各ブロックの特性値を記憶し、
    前記隠蔽処理手段は、異常が発生したブロック位置以降のブロックに対して、当該ブロックと、カレントマクロブロックと隣接するマクロブロックにおいて、同一位置のブロックの特性値を用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項11記載のフィルタ特性異常隠蔽処理装置。
  18. 前記特性値は、水平境界用の水平境界値と、垂直境界用の垂直境界値とを含み、
    前記隠蔽処理手段は、異常が発生したブロック位置以降のブロックに対して、上側に隣接するマクロブロックにおける当該ブロックと同一位置のブロックの水平境界値と、左側に隣接するマクロブロックにおける当該ブロックと同一位置のブロックの垂直境界値をとを用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項17記載のフィルタ特性異常隠蔽処理装置。
  19. 前記隠蔽処理手段は、異常が発生したブロック位置以降のブロックに対して、上側に隣接するマクロブロックと左側に隣接するマクロブロックとにおいて、当該ブロックと同一位置のブロックとなる双方の特性値から平均値、最大値、または最小値を求め、その値を用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項17記載のフィルタ特性異常隠蔽処理装置。
  20. 前記隠蔽処理手段は、異常が発生したブロック位置以降のブロックに対して、(a)現在復号化対象となっているマクロブロックにおける当該ブロックに隣接するブロックの特性値と、(b)上側に隣接するマクロブロックにおいて同一位置のブロックの特性値と、(c)左側に隣接するマクロブロックにおいて同一位置のブロックの特性値とを比較し、(a)と、(b)および(c)の一方とが一致する場合には、一致する隣接マクロブロック内において同一位置のブロックの特性値を用いて、(a)と、(b)および(c)の何れもが一致しない場合には、当該隣接するブロックの特性値を用いて、デブロックフィルタ処理を行わせる
    ことを特徴とする請求項17記載のフィルタ特性異常隠蔽処理装置。
  21. 前記隠蔽処理手段は、特性値の代表的な値を保持する特性値テーブルと、算出済の特性値をブロック毎に記憶する記憶手段とを有し、異常が検出された場合に、隣接するブロックの特性値が記憶手段に記憶されていればこれを参照し、隣接するブロックの特性値が記憶されていなければ、特性テーブルに格納されている特性値を参照し、これらを用いてデブロックフィルタ処理を行わせる
    ことを特徴とする請求項9記載のフィルタ特性異常隠蔽処理装置。
  22. 前記隠蔽処理手段は、隣接するブロックの特性値が記憶されていなければ、特性テーブルに格納されている特性値と、特性値が算出されている最近傍ブロックの特性値との平均値を算出し、デブロックフィルタ処理を行わせる
    ことを特徴とする請求項21記載のフィルタ特性異常隠蔽処理装置。
  23. 前記特性テーブルは、任意のタイミングで書込みおよび読出しが可能である
    ことを特徴とする請求項10記載のフィルタ特性異常隠蔽処理装置。
  24. 前記制御手段は、検出手段によって異常が検出された場合に、前記隠蔽処理手段の処理完了前に算出手段に特性値を再計算させる
    ことを特徴とする請求項1記載のフィルタ特性異常隠蔽処理装置。
  25. 前記制御手段は、検出手段によって異常が検出された場合に、空き時間を算出し、空き時間内に収まる範囲内でブロックと境界とを限定して算出手段に特性値を再計算させる
    ことを特徴とする請求項25記載のフィルタ特性異常隠蔽処理装置。
  26. 画像を構成するブロック毎に、デブロックフィルタ処理におけるフィルタ強度を示す特性値を算出する算出ステップと、
    前記特性値の算出に関する異常を検出する検出ステップと、
    異常が検出された場合に、異常が検出されたブロック以降の画像内のブロックに対して異常なデブロックフィルタ処理を隠蔽する隠蔽処理ステップと
    を有することを特徴とするフィルタ特性異常隠蔽処理方法。
  27. デブロックフィルタ処理におけるフィルタ強度を示す特性値を算出する算出手段と、
    画像を構成するブロック毎に、算出手段に特性値の算出を行わせる制御手段と、
    前記特性値の算出に関する異常を検出する検出手段と、
    異常が検出された場合に、異常が検出されたブロック以降の画像内のブロックに対して異常なデブロックフィルタ処理を隠蔽する隠蔽処理手段と
    を備えることを特徴とする画像符号化装置。
  28. デブロックフィルタ処理におけるフィルタ強度を示す特性値を算出する算出手段と、
    画像を構成するブロック毎に、算出手段に特性値の算出を行わせる制御手段と、
    前記特性値の算出に関する異常を検出する検出手段と、
    異常が検出された場合に、異常が検出されたブロック以降の画像内のブロックに対して異常なデブロックフィルタ処理を隠蔽する隠蔽処理手段と
    を備えることを特徴とする画像復号化装置。
JP2005141938A 2005-05-13 2005-05-13 フィルタ特性異常隠蔽処理装置 Expired - Fee Related JP4672431B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005141938A JP4672431B2 (ja) 2005-05-13 2005-05-13 フィルタ特性異常隠蔽処理装置
US11/382,804 US20060256872A1 (en) 2005-05-13 2006-05-11 Filtering characteristic error concealing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005141938A JP4672431B2 (ja) 2005-05-13 2005-05-13 フィルタ特性異常隠蔽処理装置

Publications (2)

Publication Number Publication Date
JP2006319814A true JP2006319814A (ja) 2006-11-24
JP4672431B2 JP4672431B2 (ja) 2011-04-20

Family

ID=37419093

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005141938A Expired - Fee Related JP4672431B2 (ja) 2005-05-13 2005-05-13 フィルタ特性異常隠蔽処理装置

Country Status (2)

Country Link
US (1) US20060256872A1 (ja)
JP (1) JP4672431B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100827106B1 (ko) * 2006-10-20 2008-05-02 삼성전자주식회사 디블록킹 필터에서의 필터 조건 영역 판별을 위한 장치 및방법
KR101086435B1 (ko) * 2007-03-29 2011-11-25 삼성전자주식회사 영상 데이터 스트림의 에러 검출 방법 및 그 장치
JP4519929B2 (ja) * 2008-06-13 2010-08-04 株式会社東芝 情報処理装置およびリカバリ処理方法
US8976856B2 (en) * 2010-09-30 2015-03-10 Apple Inc. Optimized deblocking filters
US11140416B1 (en) * 2020-03-26 2021-10-05 Tencent America LLC Method and apparatus for temporal smoothing for video

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09247681A (ja) * 1996-03-07 1997-09-19 Mitsubishi Electric Corp 動画像復号方法および動画像復号装置
WO2004064396A1 (en) * 2003-01-10 2004-07-29 Thomson Licensing S.A. Decoder apparatus and method for smoothing artifacts created during error concealment
JP2004347901A (ja) * 2003-05-23 2004-12-09 Mitsubishi Electric Corp 画像フィルタ装置及び画像処理方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100269125B1 (ko) * 1997-10-25 2000-10-16 윤덕용 양자화효과감소를위한영상데이터후처리방법및장치
CN1493157A (zh) * 2001-09-12 2004-04-28 ���µ�����ҵ��ʽ���� 图像编码方法和图像解码方法
US7227901B2 (en) * 2002-11-21 2007-06-05 Ub Video Inc. Low-complexity deblocking filter
JP4515922B2 (ja) * 2005-01-11 2010-08-04 パナソニック株式会社 データ保持装置、画像符号化装置および画像復号化装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09247681A (ja) * 1996-03-07 1997-09-19 Mitsubishi Electric Corp 動画像復号方法および動画像復号装置
WO2004064396A1 (en) * 2003-01-10 2004-07-29 Thomson Licensing S.A. Decoder apparatus and method for smoothing artifacts created during error concealment
JP2004347901A (ja) * 2003-05-23 2004-12-09 Mitsubishi Electric Corp 画像フィルタ装置及び画像処理方法

Also Published As

Publication number Publication date
JP4672431B2 (ja) 2011-04-20
US20060256872A1 (en) 2006-11-16

Similar Documents

Publication Publication Date Title
US11212497B2 (en) Method and apparatus for producing 360 degree image content on rectangular projection by selectively applying in-loop filter
US8111760B2 (en) Deblocking filters
JP5313880B2 (ja) 冗長ビデオ符号化方法および装置
CA2573990A1 (en) H.264 spatial error concealment based on the intra-prediction direction
JP2006114979A (ja) 画像符号化装置及びその方法
CN101278564A (zh) 在基于块的视频中的运动预测错误隐藏的方法和装置
JP4672431B2 (ja) フィルタ特性異常隠蔽処理装置
KR20230162989A (ko) 멀티미디어 데이터 프로세싱 방법, 장치, 디바이스, 컴퓨터-판독가능 저장 매체, 및 컴퓨터 프로그램 제품
WO2006126694A2 (en) Video coding using an alternative reference frame for motion compensated prediction
JP2009518950A (ja) 基準フレームの選択ルールを使用したビデオエラー隠蔽の方法及び装置
JP2003179921A (ja) 符号化映像復号化装置
US20220353543A1 (en) Video Compression with In-Loop Sub-Image Level Controllable Noise Generation
US9788002B2 (en) Image processing apparatus and method
JP2003032686A (ja) 復号装置、復号方法およびその方法をコンピュータに実行させるプログラム
WO2017214920A1 (zh) 帧内预测参考像素点滤波控制方法、装置及编码器
CN114175659A (zh) 用于双向光流的比特宽度控制的装置和方法
US10038901B2 (en) Image encoding method and image encoding apparatus
KR101971012B1 (ko) 영상 처리 장치 및 방법
JP2018117308A (ja) 再生装置及びその制御方法
JP5094750B2 (ja) 動画像符号化装置及び動画像符号化方法
US20230057659A1 (en) Encoder, method, and non-transitory computer-readable storage medium
JP2008011435A (ja) 動画像復号化装置
JP2010093580A (ja) デコーダおよびデコードプログラム
JP2022116923A (ja) 動画像符号化装置および動画像符号化方法
JP4410277B2 (ja) 半導体装置、および半導体装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080130

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091001

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091013

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100525

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110111

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110119

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140128

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees