JP4644097B2 - 動画像符号化プログラム、プログラム記憶媒体、および符号化装置。 - Google Patents

動画像符号化プログラム、プログラム記憶媒体、および符号化装置。 Download PDF

Info

Publication number
JP4644097B2
JP4644097B2 JP2005317607A JP2005317607A JP4644097B2 JP 4644097 B2 JP4644097 B2 JP 4644097B2 JP 2005317607 A JP2005317607 A JP 2005317607A JP 2005317607 A JP2005317607 A JP 2005317607A JP 4644097 B2 JP4644097 B2 JP 4644097B2
Authority
JP
Japan
Prior art keywords
scene change
encoding
image
immediately before
quantization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005317607A
Other languages
English (en)
Other versions
JP2007124580A (ja
Inventor
智規 久保田
真喜子 此島
裕一郎 勅使河原
礼敬 政次
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Semiconductor Ltd
Original Assignee
Fujitsu Semiconductor Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Semiconductor Ltd filed Critical Fujitsu Semiconductor Ltd
Priority to JP2005317607A priority Critical patent/JP4644097B2/ja
Priority to US11/342,969 priority patent/US7876816B2/en
Publication of JP2007124580A publication Critical patent/JP2007124580A/ja
Application granted granted Critical
Publication of JP4644097B2 publication Critical patent/JP4644097B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/142Detection of scene cut or scene change
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/87Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving scene cut or scene change detection in combination with video compression

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は動画像符号化方式に係り、さらに詳しくは例えば2つのフレーム画像の間でシーンチェンジが起こったとき、ほとんど人間の意識に残らないシーンチェンジ発生直前の画像の符号化に用いられるデータ量を減少させ、シーンチェンジ後の画像における画質劣化を防止するための動画像符号化プログラム、プログラム記憶媒体、および符号化装置に関する。
近年、動画像符号化方式としてISDN動画像転送のためのH.261、放送メディア動画像を対象とするH.262、既存の電話網によるテレビ電話用のH.263、蓄積メディア動画像用のMPEG−1、H.262と実質的に同一の規格であるMPEG−2、コンピュータ・通信・放送・家電などの汎用マルチメディアを対象とするMPEG−4などの各種の規格が定められ、動画像の符号化とそれに対応する動画像の復号が各種の分野で行われている。
このような動画像において一般的には、例えば2つのフレーム画像の間で画像データの変化は少なく、例えばフレーム間差分を取ることによって動画像の圧縮符号化が可能となる。しかしながら例えば人物画像から風景画像に変化するシーンチェンジが発生するような場合には時間差分符号化、例えばフレーム間差分符号化方式を効率よく適用することは困難であり、結果的に復号側、すなわちデコーダ側に送るべき符号化データ量、すなわち発生情報量の増加が発生する。画像データの全体的な符号化量はあらかじめ定められているため、シーンチェンジが起こった場合に発生情報量の増加が発生すると、シーンチェンジ後の画像データに割当てられる情報量が結果的に減少し、シーンチェンジ後の画像の画質が劣化するという問題点があった。
一般に人間の視覚的意識として、シーンチェンジが発生した場合にシーンチェンジ後の画像が意識に残り、シーンチェンジ直前の画像はほとんど意識に残らないという傾向がある。それにもかかわらず、シーンチェンジが起こった場合に、シーンチェンジ直前の画像に対しても相対的に比較的大きな情報量が割当てられることになると、視覚的に目立たないシーンチェンジ直前の画像に対応する発生情報量は実質的に無駄になるという問題点があった。
このようなシーンチェンジの発生による画質劣化の防止のための従来技術として、特許文献1には、たとえばシーンチェンジ直後の数フレームに対して画面の一部のみをフレーム内符号化モードにより、残りの部分に対してはフレーム間差分を強制的に0にしてフレーム間符号化モードによって処理する技術が開示されている。
特許文献2には、シーンチェンジがあるフレームに対して検出されたとき、該当フレームの以降のマクロブロックの符号化において、符号化の出力に対して高域成分を抑圧するデータ補正を行い、ブロックノイズを削減する技術が開示されている。
特許文献3には、シーンチェンジの判定結果に応じて、符号化方式選択処理および選択基準の変更によって、その後の最初の前方予測符号化の対象画像の符号化方式を 画像内符号化がされやすいように変え、画質劣化を防止する符号化方法が開示されている。
特許文献4には、ビット量調整手段でシーンチェンジ位置に基づき決定される所定の位置以前に割り当てるビット量を減少し、余りのビット量を所定の位置以降に割り当てる調整をし、符号化手段でシーンチェンジ位置に基づき画像構造を変更して符号化を行う符号化装置が開示されている。
特開平9−214977号公報 「ビデオ符号化方法およびビデオ符号化装置」 特開平9−200769号公報 「動き補償フレーム間符号化方式」 特開平9−214975号公報 「シーンチェンジ適応動画像符号化方法および装置」 特開2004−15351号公報 「符号化装置及び方法、プログラム、記録媒体」
しかしながら、これらの従来技術は、その目的は本発明におけると同様にシーンチェンジ発生時の画像劣化防止にあるものの、例えば特許文献4ではビット量の調整に加えて画像構造を変更する必要があり、一般的に複雑な制御を必要とし、より簡便な制御で画質劣化を効果的に防止する技術が提供されていないという問題点はあった。
本発明の課題は、上述の問題点に鑑み、シーンチェンジが発生した場合のシーンチェンジ直前の画像、すなわち時間差分符号化では参照される可能性が低いシーンチェンジ直前の画像に対する符号化データ量、すなわち発生情報量を抑えることによって、シーンチェンジ後の画像に多くの情報量を割当て、シーンチェンジ後の符号化効率を向上させ、画質劣化を防止することである。
図1は、本発明の動画像符号化プログラムの原理的な機能ブロック図である。このプログラムは、ステップS1で画像の間でのシーンチェンジを検出する手順を、ステップS2で、シーンチェンジが検出されたとき、シーンチェンジ前の画像データに対して粗い量子化を用いた符号化を行う手順を計算機に実行させるものである。
発明の実施の形態においては、動画像データがインタレース・スキャン方式の画像データであるときには、前述の符号化手順においてシーンチェンジ前のフィールド画像に対して粗い量子化を用いることができ、また動画像データがプログレッシブ・スキャン方式の画像データであるときには、符号化手順においてシーンチェンジ前のフレーム画像に対して粗い量子化を用いることもできる。
また本発明においては、シーンチェンジ前の画像データに対する符号化方式として時間差分符号化方式が用いられているとき、シーンチェンジ前の画像データの符号化を中止し、その符号化中止を示すパラメータを含み、符号化結果の受信側で必要とされるパラメータのみを符号化する手順を計算機に実行させることもできる。
さらに本発明においては、このような動画像符号化プログラムが記録された計算機読出し可能可搬型記憶媒体を用いることも、またこのようなプログラムに対応して動作する動画像符号化装置を用いることもできる。このように本発明においては、例えば2つのフレーム画像の間でシーンチェンジが検出されたとき、例えばシーンチェンジ直前の画像データに対して粗い量子化を用いた符号化を行うことによって、シーンチェンジ直前の画像に対する符号化データのデータ量を減少させることができる。
本発明によれば、視覚的に目立たないシーンチェンジ直前の画像に対応する発生情報量を抑えることによって、シーンチェンジ後の画像に相対的に大きな情報量を割当てることができ、シーンチェンジ後の画質向上に寄与するところが大きい。またシーンチェンジが発生した場合に、シーンチェンジ直前の画像は時間差分符号化方式では参照される可能性が低く、このような画像に対する符号化を、例えば係数情報を含まないなど、故意に最小必要なパラメタのみとすることによって、シーンチェンジ後の画像に対する符号化効率を向上させることができる。
図2は、本発明の符号化方式が用いられる画像符号化装置、すなわちエンコーダの構成ブロック図である。同図においてフレーム間差分値演算部1は、例えばシーンチェンジ直前フレームの画像とシーンチェンジ直後フレームの画像との入力に対して、フレーム間差分値を演算し、例えば差分絶対値の和(SAD)をピクチャタイプ判定部2に対して画像データとともに出力する。
ピクチャタイプ判定部2は、フレーム間差分値演算部1から与えられた差分絶対値和があらかじめ定められたある閾値を超えるか否かによって、シーンチェンジが起こったか否かを判定し、シーンチェンジが起こったと判定すると、符号化対象となるフレーム画像がシーンチェンジ直前フレームであることを示すデータをレート制御部11に対して出力する。またピクチャタイプ判定部2は符号化対象となるフレーム画像、シーンチェンジが起こった場合にはシーンチェンジ直前フレームのピクチャタイプを判定し、イントラピクチャとしてのIピクチャ、インターピクチャとしてのPピクチャ、およびBピクチャのいずれであるかを判定する。
ここでI(イントラ)ピクチャはフレーム内予測の対象となるピクチャであり、Pピクチャは時間的に順方向の予測によって生成されるピクチャであり、B(バイディレクショナリ・プレディクティブ)ピクチャは時間的に双方向予測の対象となるピクチャである。
ピクチャタイプ判定部2によってそのタイプが判定されたピクチャに対して、LPF処理部3によって、例えばノイズなどの高周波成分を除去するためのローパスフィルタリング処理が行われる。その後イントラピクチャはイントラ予測部4に対して、インターピクチャは動き検出部5に対して出力される。なおイントラピクチャとしてのPピクチャに対しては、基本的にフレーム内の全てのマクロブロックに対してイントラ予測部4によってイントラ予測が行われるが、インターピクチャとしてのPピクチャやBピクチャに対しては、1つのフレーム内でもマクロブロック単位に、イントラ予測が行われる場合と動き補償が行われる場合とがあり、インターピクチャが動き検出部5に入力された後に、動き補償部6とイントラ予測部4との両方に出力されているのはこの理由によるものである。
ここで、例えば動き検出部5はこれから符号化しようとするマクロブロックと動き探索によって示される予測画像との差分絶対値和(SAD)をコストとして、数種類のマクロブロックに対するコストを演算し、その結果に対応してそのマクロブロックを動き補償部6に出力するか、イントラ予測部4に出力するかを判定する。
マクロブロックの種類としては、例えばH.264規格では、ピクセル数にして16×16、8×16、16×8、8×8などの大きさがあり、これは基本的に16×16のマクロブロックをどのようなパーテーションに区切るかを示す。インター処理の場合には、時刻の異なる複数枚の参照画像を用いることも可能であり、同じマクロブロック内のパーテーションであっても、同じ参照画像を用いた予測画でない場合もある。なおインター処理では、例えば周辺の各ブロックとの間での動きベクトルの間で最適な動きベクトルが選択される。
イントラ予測部4の出力、および動き検出部5の出力に対応して行われる動き補償部6による動き補償の結果は、それぞれ減算器7、8に与えられ、例えば1フレーム前の参照画像との間で減算され、変換部9に与えられる。なお減算器7に与えられる参照画像はイントラピクチャに対応するものであり、減算器8に与えられる参照画像はインターピクチャに対応するものであって、両者は異なるものである。
変換部9は減算器7、または減算器8の出力に対して、例えば離散コサイン変換などの変換を施し、その変換結果は量子化部10によって量子化され、可変長符号化部12によって符号化され、符号化データの受信側、すなわちデコーダ側に対してビット列として出力される。
この時、量子化部10による量子化値、すなわち量子化幅、あるいは量子化ステップはレート制御部11によって量子化部10に与えられ、量子化値の制御が行われる。本実施形態において、レート制御部11は本質的に重要な動作を行うものであり、前述のようにピクチャタイプ判定部2によって符号化対象となるフレーム画像がシーンチェンジ直前フレームと判定された場合には、後述するように、例えば量子化値を大きくして量子化部10に粗い量子化を行わせ、可変長符号化部12による符号化結果としてのデータ量を減少させるような制御を行うものである。
レート制御部11は、可変長符号化部12によって出力されるビット列の情報量、すなわち発生情報量のデータや、バッファの状態、すなわち規格によって決まっている情報、例えばMPEG−2であれば、VBV(ビデオ・バッファ・ベリファイア)バッファに関する情報などに関連して、フレーム画像の符号化に用いるべき割当情報量を決定するためのパラメータとしてのレート制御パラメータを用いてレート制御を行うものである。なおこのレート制御部11は、基本的には一般的に広く用いられているレート制御アルゴリズムに従ってレート制御を行うことになる。
量子化部10の出力は、可変長符号化部12に与えられるとともに、逆量子化部13に与えられて逆量子化され、逆変換部14によって、例えば逆離散コサイン変換され、加算器15、16に与えられる。加算器15、16は、減算器7、8の出力と逆変換部14の出力とを加算して、例えば次のフレームに対して用いられるべき参照画像を出力する。なお本発明の特許請求の範囲の請求項9,10における検出手段はピクチャタイプ判定部2に相当し、画像符号化手段は量子化部10、レート制御部11、および可変長符号化部12に相当する。
本実施形態におけるシーンチェンジの検出と、シーンチェンジが検出された場合のシーンチェンジ直前のフレーム、またはフィールドに対する粗い量子化について図3〜図5を用いて説明する。図3においては、例えばインタレース・スキャン方式のフィールド画像の間でシーンチェンジが検出されたものとする。この場合にはシーンチェンジ直前のフィールド画像としてのトップ画像に対して、後述するように、例えば粗い量子化を用いた符号化が行われる。
図4は、例えばインターレース・スキャン方式のトップ画像でシーンチェンジが検出された場合や、トップ画像とボトム画像の中間でシーンチェンジが検出されたが、トップ画像とボトム画像を組み合わせたフレームの状態でシーンチェンジとして扱う場合に対する粗い量子化の説明図である。点線で囲まれたトップ画像とボトム画像の2つのフィールド画像から構成されるフレームがシーンチェンジ直前のフレームとして検出され、これらの2つのフィールド画像によって構成されるフレーム画像に対して粗い量子化を用いた符号化が行われる。
図5は、例えばプログレッシブ・スキャン方式が用いられている場合のシーンチェンジ直前フレームに対する粗い量子化の説明図である。同図においてはフレーム画像を単位として符号化が行われるものとする。点線で囲まれたフレームがシーンチェンジ直前フレームとして検出され、このフレーム画像に対して粗い量子化を用いた符号化が行われる。
図6は、画像データ符号化方式の第1の実施例における処理フローチャートである。同図においてフレーム画像、またはフィールド画像単位でエンコード、すなわち符号化が行われるものとする。まずステップS11で現在のフレーム、またはフィールド画像の次のフレーム、またはフィールドとの間でシーンチェンジが起こっているか否かが判定される。すなわちここでは現在のフレーム、またはフィールド画像の符号化に先立って、時間的に次のフレーム、またはフィールド画像との間で前述のように図2のフレーム間差分値演算部1によって差分絶対値和がとられ、その値に対応してピクチャタイプ判定部2によってシーンチェンジが起こっているか否かが判定される。
そしてシーンチェンジが起こっていないと判定されると、ステップS12、およびステップS13で一般的に広く用いられている量子化レート制御アルゴリズムで制御が行われ、マクロブロックのエンコード、すなわち符号化が行われる。このステップS12、S13の処理はフレーム、またはフィールド内のすべてのマクロブロックに対して繰り返される。
ステップS11でシーンチェンジが起こっていると判定されると、ステップS14、S15で同様にマクロブロック単位に全てのマクロブロックに対して符号化処理が行われるが、ステップS14では一般的な量子化レート制御で最適となる値よりも量子化値を粗くすることによって各マクロブロックのエンコード、すなわち符号化が行われる。これはシーンチェンジが起こった場合には人間の意識としてシーンチェンジ後の画像が強く意識され、シーンチェンジ直前の画像はほとんど意識されないため、シーンチェンジ直前の画像に割当てる情報量を少なくし、符号化ビット列のデータ量を少なくして、全体として割当てられている情報量の中でシーンチェンジ後の画像に対してできるだけ多くの情報量を割当てようとするものである。
ステップS14で、一般的なレート制御で最適となる値を用いるよりも量子化を粗くすることについてさらに説明する。この量子化値を粗くする方式としては、1つのピクチャ内では一定の量子化値を用いて均一な量子化を行う場合と、例えばMPEG−2のテストモデル5(TM5)等を用いて実現される適応量子化を用いる場合とで、異なる方式を用いるものとする。ここで適応量子化とは、画面の中で符号化の簡単なところや難しいところに対応して、量子化値を適応量子化係数によって変化させるものである。
1つのピクチャ内で均一な量子化を行う場合には、ステップS14で量子化値を同種類のピクチャ、例えば複数のIピクチャにおける平均量子化値よりも大きくするものとする。規格によって異なるが、線形の量子化特性に換算した場合に、同種類のピクチャの平均量子化値の1.4倍以上の量子化値にするものとする。
適応量子化を用いる場合には、2つの方法の何れかによるものとする。第1の方法では適応量子化の結果として実際に使用される量子化値を、一般的なレート制御アルゴリズムから得られる量子化値よりも小さくしない方法が用いられる。すなわち適応量子化における実際の量子化値が適応量子化係数とレート制御アルゴリズムから得られる量子化値との積として表されるとき、一般に適応量子化係数の下限aが“0”と“1”の間、上限bが“1”を超える値として定義されるのに対して、本実施形態では適応量子化係数を“1”とbの間とすることによって、実際に使用される量子化値が一般的なレート制御アルゴリズムから得られる量子化値よりも小さくならないようにする方法が用いられる。
第2の方法は、適応量子化係数と乗算される量子化値、すなわち一般的なレート制御アルゴリズムから得られる量子化値の値を、同種類のピクチャの平均量子化値よりも大きくするものである。例えば前述と同様に、線形の量子化特性に換算したときに1.4倍以上の値となるように、適応量子化係数と乗算すべき量子化値を平均量子化値よりも大きくするものである。
粗い量子化を用いる場合、例えばTM5等の仮想量子化バッファなどフィードバックされるパラメタは、求められた量子化値により補正をかける。
図6で説明した第1の実施例では、シーンチェンジ直前のフレーム、またはフィールド画像に対しては粗い量子化を用いた符号化を行うものとしたが、さらにそれに加えてレート制御パラメータの初期化を行うこともできる。図7は、そのような場合の追加処理のフローチャートであり、この追加処理は図6のステップS11とステップS14との間に挿入される処理である。
この追加処理では、まずステップS21で同種類のピクチャの平均量子化値が時間とともに小さくなっているか否かが判定される。この判定は、例えば連続する複数のフレーム、フィールド画像に対応して、平均量子化値が時間とともに低下しているか否かによって判定され、低下していない場合には他の処理を行うことなく、ステップS14、S15の処理に移行し、マクロブロック単位で粗い量子化を用いた符号化が行われる。
ステップS21で平均量子化値が低下する傾向にあると判定されると、ステップS22でカレントピクチャ、すなわち現在の符号化対象としてのシーンチェンジ直前の画像の最初のマクロブロックに対して用いられるべき量子化値が画像データの符号化開始時の初期の量子化値、すなわちデフォルト値よりも小さくなっているかが判定され、ステップS21で同種類のピクチャの平均量子化値が低下傾向にあるとしても、それが最近の数フレーム、数フィールドの画像に対する傾向であり、最初のマクロブロックに対して予定される量子化値がデフォルト値よりも小さくない場合には、図6に戻り、マクロブロック単位にステップS14、S15の処理が行われる。
ステップS22で最初のマクロブロックに対して予定される量子化値がデフォルト値よりも小さくなっていると判定されると、ステップS23で量子化値とレート制御パラメータの両方の初期化が行われる。量子化値が初期化されることによって、図6のステップS14で粗い量子化値が用いられるときの量子化値もデフォルト値となり、このデフォルト値は一般的なレート制御アルゴリズムから得られる量子化値よりも大きく、このデフォルト値を用いることによってステップS14、S15で粗い量子化を用いた符号化が行われる。
これに対してステップS21、またはステップS22の判定結果がNoであるときにも、前述のようにステップS14、S15で粗い量子化を用いた符号化が行われるが、この時用いられる量子化値は例えば前述のような方法によって決定されるものとし、一般的にはデフォルト値とは異なるものとなる。
またステップS23で量子化値に加えてレート制御パラメータの初期化を行う理由については、一般的にレート制御パラメータは現在のフレーム、またはフィールド画像の符号化だけでなく、例えば次のフレーム、またはフィールド画像の符号化にも関係するものであり、シーンチェンジ直前の画像に対するレート制御パラメータを初期化しておくほうが、シーンチェンジ直後の画像データの符号化に対して適切なためである。
本実施形態においては、図2のピクチャタイプ判定部2によってシーンチェンジ直前のフレーム、またはフィールドであることが判定された画像データに対しては、LPF処理部3によって行われるローパスフィルタリング処理を強めるものとする。前述のようにシーンチェンジ直前の画像は人間の意識にはほとんど残らないため、符号化時の量子化を粗くしてシーンチェンジ直前画像に対する符号化データ量を減少させるだけでなく、あらかじめローパスフィルタリング処理を強くかけることによって、画像内の高周波成分をさらに低減させ、その結果として可変長符号化部12による符号化結果のデータ量をさらに減少させるものである。このLPF処理部3の動作は、ピクチャタイプ判定部2の判定結果に対応して、例えばエンコーダ全体を制御するCPUによって制御されるものとする。
図8は本実施形態における符号化方式の第2の実施例の処理フローチャートである。同図においてステップS11で、第1の実施例におけると同様に、現在のフレーム、またはフィールドの次のフレーム、またはフィールドとの間でシーンチェンジが起こっているか否かが判定され、起こっていない場合には第1の実施例におけると全く同様にステップS12、ステップS13で一般的なレート制御アルゴリズムによって量子化が制御され、マクロブロック単位にマクロブロックの符号化が繰り返される。
これに対してステップS11でシーンチェンジが起こっていると判定されると、ステップS25でマクロブロック単位に予測誤差(予測画の誤差)が少ないか否かが判定される。この予測誤差の判定では、基本的にはインターピクチャに対する動き検出部5と動き補償部6の動作による参照画像との予測誤差、すなわち減算器8の出力が小さいか否かが判定されるものであり、例えばフレーム間差分方式に対してのみ、この判定が行われる。そして予測誤差が少なくないと判定されると、現在の符号化対象画像、すなわちシーンチェンジ直前の画像に対して第1の実施例におけると同様にステップS14、S15の処理が行われ、粗い量子化が用いられてマクロブロック単位の符号化が行われる。
これに対してステップS25で予測誤差が少ないと判定されると、ステップS26でそのマクロブロックはノットコーデッドあるいはスキップマクロブロックとして扱われ、他のマクロブロックの符号化情報を用いて最小の情報量で符号化される。これはシーンチェンジ直前の画像に対する予測誤差が少ないため、符号化データ受信側でシーンチェンジ直前の画像のさらに直前の画像データを用いることが可能となるためである。したがって予測誤差が少ないマクロブロック単位の画像に対しては符号化が行われず、データの受信側、すなわちデコーダ側でその直前の画像データを用いるべきことを示すパラメータなどが可変長符号化部12によって符号化され、データ受信側に送られる。
図8の第2の実施例においても、第1の実施例に対して説明したようにステップS11とステップS25との間に図7で示される処理を追加することが可能である。したがって、例えばステップS23で量子化値とレート制御パラメータが初期化された場合には、ステップS14、S15ではデフォルト値の量子化値を用いた符号化が行われることになる。
さらに第2の実施例において、前述のように符号化対象のシーンチェンジ直前の画像に対してLPF処理部3によるローパスフィルタリング処理を強くかけることによって、シーンチェンジ直前の画像の符号化データ量をさらに減少させることも可能である。
以上において本発明の動画像データ符号化プログラム、および符号化装置についてその詳細を説明したが、このプログラムは当然一般的なコンピュータシステムを基本とする符号化システムによって使用可能である。図9はそのようなコンピュータシステム、すなわちハードウェア環境の構成ブロック図である。
図9においてコンピュータシステムは中央処理装置(CPU)20、リード・オンリ・メモリ(ROM)21、ランダム・アクセス・メモリ(RAM)22、通信インターフェース23、記憶装置24、入出力装置25、可搬型記憶媒体の読取り装置26、およびこれらの全てが接続されたバス27によって構成されている。
記憶装置24としてはハードディスク、磁気ディスクなど様々な形式の記憶装置を使用することができ、このような記憶装置24、またはROM21に図6〜図8のフローチャートに示されたプログラムや、本発明の特許請求の範囲の請求項1のプログラムなどが格納され、そのようなプログラムがCPU20によって実行されることにより、本実施形態におけるシーンチェンジ直前画像に対する粗い量子化を用いた符号化などが可能となる。
このようなプログラムは、プログラム提供者28からネットワーク29、および通信インターフェース23を介して、例えば記憶装置24に格納されることも、また市販され、流通している可搬型記憶媒体30に格納され、読取り装置26にセットされて、CPU20によって実行されることも可能である。可搬型記憶媒体30としてはCD−ROM、フレキシブルディスク、光ディスク、光磁気ディスク、DVDなど様々な形式の記憶媒体を使用することができ、このような記憶媒体に格納されたプログラムが読取り装置26によって読取られることにより、本実施形態におけるシーンチェンジ後の画質劣化の防止などが可能となる。
(付記1)
動画像を符号化する計算機によって使用されるプログラムであって、
画像の間でのシーンチェンジを検出する手順と、
該シーンチェンジが検出されたとき、シーンチェンジ前の画像データに対して粗い量子化を用いた符号化を行う手順とを計算機に実行させることを特徴とする動画像符号化プログラム。
(付記2)
前記動画像がインタレース・スキャン方式の画像であるとき、
前記符号化手順においてシーンチェンジ前のフィールド画像に対して粗い量子化を用いた符号化を行うことを特徴とする付記1記載の動画像符号化プログラム。
(付記3)
前記動画像がプログレッシブ・スキャン方式の画像であるとき、
前記符号化手順においてシーンチェンジ前のフレーム画像に対して粗い量子化を用いた符号化を行うことを特徴とする付記1記載の動画像符号化プログラム。
(付記4)
前記動画像がインタレース・スキャン方式の画像であるとき、
前記符号化手順においてシーンチェンジ前のフレーム画像に対して粗い量子化を用いた符号化を行うことを特徴とする付記1記載の動画像符号化プログラム。
(付記5)
前記シーンチェンジが検出されたとき、該シーンチェンジ前の画像に対する符号化制御のパラメータであって、シーンチェンジ後の画像の符号化のためにも参照される符号化制御のパラメータをリセットする手順をさらに計算機に実行させることを特徴とする付記1記載の動画像符号化プログラム。
(付記6)
前記符号化の対象となるシーンチェンジ前の画像に対して、符号化に先立ってローパスフィルタリング処理を行う手順をさらに計算機に実行させることを特徴とする付記1記載の動画像符号化プログラム。
(付記7)
動画像を符号化する計算機によって使用されるプログラムであって、
画像の間でのシーンチェンジを検出する手順と、
該シーンチェンジが検出されるとともに、該シーンチェンジ前の画像に対する符号化方式として時間差分符号化方式が用いられているとき、該シーンチェンジ前の画像をスキップあるいは符号化なしとし、符号化結果の受信側で必要とされる最小のパラメータのみを符号化する手順とを計算機に実行させることを特徴とする動画像符号化プログラム。
(付記8)
動画像を符号化する計算機によって使用される記憶媒体であって、
画像の間でのシーンチェンジを検出するステップと、
該シーンチェンジが検出されたとき、シーンチェンジ前の画像データに対して粗い量子化を用いた符号化を行うステップとを計算機に実行させるプログラムを格納した計算機読出し可能可搬型記憶媒体。
(付記9)
動画像を符号化する計算機によって使用される記憶媒体であって、
画像の間でのシーンチェンジを検出するステップと、
該シーンチェンジが検出されるとともに、該シーンチェンジ前の画像に対する符号化方式として時間差分符号化方式が用いられているとき、該シーンチェンジ前の画像をスキップあるいは符号化なしとし、符号化結果の受信側で必要とされる最小のパラメータのみを符号化するステップとを計算機に実行させるプログラムを格納した計算機読出し可能可搬型記憶媒体。
(付記10)
動画像を符号化する装置であって、
画像の間でのシーンチェンジを検出する検出手段と、
該シーンチェンジが検出されたとき、シーンチェンジ前の画像データに対して粗い量子化を用いた符号化を行う画像符号化手段とを備えることを特徴とする動画像符号化装置。
(付記11)
動画像を符号化する装置であって、
画像の間でのシーンチェンジを検出する検出手段と、
該シーンチェンジが検出されるとともに、該シーンチェンジ前の画像に対する符号化方式として時間差分符号化方式が用いられているとき、該シーンチェンジ前の画像をスキップあるいは符号化なしとし、符号化結果の受信側で必要とされる最小のパラメータのみを符号化する画像符号化手段とを備えることを特徴とする動画像符号化装置。
本発明の動画像符号化プログラムの機能的な原理ブロック図である。 本発明の符号化方式が用いられる符号化システムの構成ブロック図である。 インタレース・スキャン方式におけるシーンチェンジ検出時の処理方法(その1)の説明図である。 インタレース・スキャン方式におけるシーンチェンジ検出時の処理方法(その2)の説明図である。 プログレッシブ・スキャン方式におけるシーンチェンジ検出時の処理方法のの説明図である。 第1の実施例における符号化処理のフローチャートである。 第1の実施例に対する追加処理のフローチャートである。 第2の実施例における符号化処理のフローチャートである。 本発明におけるプログラムのコンピュータへのローディングを説明する図である。
符号の説明
1 フレーム間差分値演算部
2 ピクチャタイプ判定部
3 LPF処理部
4 イントラ予測部
5 動き検出部
6 動き補償部
7、8 減算器
9 変換部
10 量子化部
11 レート制御部
12 可変長符号化部
13 逆量子化部
14 逆変換部
15、16 加算器
20 CPU
21 リード・オンリ・メモリ
22 ランダム・アクセス・メモリ
23 通信インターフェース
24 記憶装置
25 入出力装置
26 読取装置
27 バス
28 プログラム提供者
29 ネットワーク
30 可搬型記憶媒体

Claims (9)

  1. 動画像を符号化する計算機によって使用されるプログラムであって、
    画像の間でのシーンチェンジを検出する手順と、
    該シーンチェンジが検出され、かつ、同種類のピクチャの平均量子化値が時間とともに低下する傾向にあり、かつ、前記シーンチェンジ直前の画像の最初のマクロブロックに対して予定される量子化値がデフォルト値よりも小さい場合に、検出された前記シーンチェンジ後の画像の符号化においても参照される、量子化値およびレート制御パラメータを初期化する手順と、
    初期化された前記量子化値および前記レート制御パラメータを参照して、前記シーンチェンジ直前の画像データに対して、前記シーンチェンジが検出されなかったとした場合に該シーンチェンジ直前の画像データの符号化において使用される第1の量子化値以上の値である第2の量子化値を使用した、粗い量子化を用いた符号化を行う手順とを計算機に実行させることを特徴とする動画像符号化プログラム。
  2. 前記動画像がインタレース・スキャン方式の画像であるとき、
    前記符号化手順においてシーンチェンジ直前のフィールド画像に対して粗い量子化を用いた符号化を行うことを特徴とする請求項1記載の動画像符号化プログラム。
  3. 前記動画像がプログレッシブ・スキャン方式の画像であるとき、
    前記符号化手順においてシーンチェンジ直前のフレーム画像に対して粗い量子化を用いた符号化を行うことを特徴とする請求項1記載の動画像符号化プログラム。
  4. 前記動画像がインタレース・スキャン方式の画像であるとき、
    前記符号化手順においてシーンチェンジ直前のフレーム画像に対して粗い量子化を用いた符号化を行うことを特徴とする請求項1記載の動画像符号化プログラム。
  5. 動画像を符号化する計算機によって使用されるプログラムであって、
    画像の間でのシーンチェンジを検出する手順と、
    該シーンチェンジが検出され、かつ、同種類のピクチャの平均量子化値が時間とともに低下する傾向にあり、かつ、前記シーンチェンジ直前の画像の最初のマクロブロックに対して予定される量子化値がデフォルト値よりも小さい場合に、検出された前記シーンチェンジ後の画像の符号化においても参照される、量子化値およびレート制御パラメータを初期化する手順と、
    該シーンチェンジが検出されるとともに、該シーンチェンジ直前の画像に対する符号化方式として時間差分符号化方式が用いられているとき、
    該シーンチェンジ直前の画像をスキップあるいは符号化なしとし、符号化結果の受信側で必要とされる最小のパラメータのみを符号化するか、または、
    初期化された前記量子化値および前記レート制御パラメータを参照して、前記シーンチェンジ直前の画像データに対して、前記シーンチェンジが検出されなかったとした場合に該シーンチェンジ直前の画像データの符号化において使用される第1の量子化値以上の値である第2の量子化値を使用した、粗い量子化を用いた符号化を行う手順と、
    を計算機に実行させることを特徴とする動画像符号化プログラム。
  6. 動画像を符号化する計算機によって使用される記憶媒体であって、
    画像の間でのシーンチェンジを検出するステップと、
    該シーンチェンジが検出され、かつ、同種類のピクチャの平均量子化値が時間とともに低下する傾向にあり、かつ、前記シーンチェンジ直前の画像の最初のマクロブロックに対して予定される量子化値がデフォルト値よりも小さい場合に、検出された前記シーンチェンジ後の画像の符号化においても参照される、量子化値およびレート制御パラメータを初期化するステップと、
    初期化された前記量子化値および前記レート制御パラメータを参照して、前記シーンチェンジ直前の画像データに対して、前記シーンチェンジが検出されなかったとした場合に該シーンチェンジ直前の画像データの符号化において使用される第1の量子化値以上の値である第2の量子化値を使用した、粗い量子化を用いた符号化を行うステップとを計算機に実行させるプログラムを格納した計算機読出し可能可搬型記憶媒体。
  7. 動画像を符号化する計算機によって使用される記憶媒体であって、
    画像の間でのシーンチェンジを検出するステップと、
    該シーンチェンジが検出され、かつ、同種類のピクチャの平均量子化値が時間とともに低下する傾向にあり、かつ、前記シーンチェンジ直前の画像の最初のマクロブロックに対して予定される量子化値がデフォルト値よりも小さい場合に、検出された前記シーンチェンジ後の画像の符号化においても参照される、量子化値およびレート制御パラメータを初期化するステップと、
    該シーンチェンジが検出されるとともに、該シーンチェンジ前の画像に対する符号化方式として時間差分符号化方式が用いられているとき、
    該シーンチェンジ前の画像をスキップあるいは符号化なしとし、符号化結果の受信側で必要とされる最小のパラメータのみを符号化するか、または、
    初期化された前記量子化値および前記レート制御パラメータを参照して、前記シーンチェンジ直前の画像データに対して、前記シーンチェンジが検出されなかったとした場合に該シーンチェンジ直前の画像データの符号化において使用される第1の量子化値以上の値である第2の量子化値を使用した、粗い量子化を用いた符号化を行うステップと、
    を計算機に実行させるプログラムを格納した計算機読出し可能可搬型記憶媒体。
  8. 動画像を符号化する装置であって、
    画像の間でのシーンチェンジを検出する検出手段と、
    該シーンチェンジが検出され、かつ、同種類のピクチャの平均量子化値が時間とともに低下する傾向にあり、かつ、前記シーンチェンジ直前の画像の最初のマクロブロックに対して予定される量子化値がデフォルト値よりも小さい場合に、検出された前記シーンチェンジ後の画像の符号化においても参照される、量子化値およびレート制御パラメータを初期化する初期化手段と、
    初期化された前記量子化値および前記レート制御パラメータを参照して、前記シーンチェンジ直前の画像データに対して、前記シーンチェンジが検出されなかったとした場合に該シーンチェンジ直前の画像データの符号化において使用される第1の量子化値以上の値である第2の量子化値を使用した、粗い量子化を用いた符号化を行う画像符号化手段とを備えることを特徴とする動画像符号化装置。
  9. 動画像を符号化する装置であって、
    画像の間でのシーンチェンジを検出する検出手段と、
    該シーンチェンジが検出され、かつ、同種類のピクチャの平均量子化値が時間とともに低下する傾向にあり、かつ、前記シーンチェンジ直前の画像の最初のマクロブロックに対して予定される量子化値がデフォルト値よりも小さい場合に、検出された前記シーンチェンジ後の画像の符号化においても参照される、量子化値およびレート制御パラメータを初期化する初期化手段と、
    該シーンチェンジが検出されるとともに、該シーンチェンジ前の画像に対する符号化方式として時間差分符号化方式が用いられているとき、
    該シーンチェンジ前の画像をスキップあるいは符号化なしとし、符号化結果の受信側で必要とされる最小のパラメータのみを符号化するか、または、
    初期化された前記量子化値および前記レート制御パラメータを参照して、前記シーンチェンジ直前の画像データに対して、前記シーンチェンジが検出されなかったとした場合に該シーンチェンジ直前の画像データの符号化において使用される第1の量子化値以上の値である第2の量子化値を使用した、粗い量子化を用いた符号化を行う画像符号化手段と、
    を備えることを特徴とする動画像符号化装置。
JP2005317607A 2005-10-31 2005-10-31 動画像符号化プログラム、プログラム記憶媒体、および符号化装置。 Expired - Fee Related JP4644097B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005317607A JP4644097B2 (ja) 2005-10-31 2005-10-31 動画像符号化プログラム、プログラム記憶媒体、および符号化装置。
US11/342,969 US7876816B2 (en) 2005-10-31 2006-01-31 Moving picture coding program, program storage medium, and coding apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005317607A JP4644097B2 (ja) 2005-10-31 2005-10-31 動画像符号化プログラム、プログラム記憶媒体、および符号化装置。

Publications (2)

Publication Number Publication Date
JP2007124580A JP2007124580A (ja) 2007-05-17
JP4644097B2 true JP4644097B2 (ja) 2011-03-02

Family

ID=37996370

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005317607A Expired - Fee Related JP4644097B2 (ja) 2005-10-31 2005-10-31 動画像符号化プログラム、プログラム記憶媒体、および符号化装置。

Country Status (2)

Country Link
US (1) US7876816B2 (ja)
JP (1) JP4644097B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8364865B2 (en) 2010-09-28 2013-01-29 Microsoft Corporation Data simulation using host data storage chain
US9979970B2 (en) * 2014-08-08 2018-05-22 Qualcomm Incorporated System and method for determining buffer fullness for display stream compression
JP6168671B1 (ja) * 2016-03-24 2017-07-26 株式会社日立国際電気 映像切替装置を備えた符号化装置および映像切替検知方法を含む符号化方法
JP6168672B1 (ja) * 2016-03-24 2017-07-26 株式会社日立国際電気 映像切替装置を備えた符号化装置および映像切替検知方法を含む符号化方法
JP7444971B2 (ja) 2020-03-31 2024-03-06 株式会社ソニー・インタラクティブエンタテインメント 送信装置、送信方法及びプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08102938A (ja) * 1994-09-30 1996-04-16 Sony Corp 画像符号化装置
JPH09107543A (ja) * 1995-10-11 1997-04-22 Fujitsu Ltd 量子化器制御システム
JPH10336670A (ja) * 1997-04-04 1998-12-18 Sony Corp 画像伝送装置および画像伝送方法、提供媒体
JPH11177989A (ja) * 1997-10-10 1999-07-02 Internatl Business Mach Corp <Ibm> 2つのエンコーダ及び統計分析を使用するビデオ・シーケンスのリアルタイム符号化方法及び装置
JP2002271800A (ja) * 2002-01-15 2002-09-20 Toshiba Corp 動画像符号化装置及び方法
JP2005102170A (ja) * 2003-08-14 2005-04-14 Intervideo Inc ビデオエンコーダにおける離散的余弦変換係数に適応したフィルタリングの方法およびシステム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2871316B2 (ja) * 1992-07-10 1999-03-17 日本ビクター株式会社 動画像符号化装置
KR0166722B1 (ko) * 1992-11-30 1999-03-20 윤종용 부호화 및 복호화방법 및 그 장치
JPH09200769A (ja) 1996-01-16 1997-07-31 Nec Corp 動き補償フレーム間符号化方式
JPH09214975A (ja) 1996-02-02 1997-08-15 Graphics Commun Lab:Kk シーンチェンジ適応動画像符号化方法および装置
JPH09214977A (ja) 1996-02-06 1997-08-15 Nippon Telegr & Teleph Corp <Ntt> ビデオ符号化方法およびビデオ符号化装置
US6157675A (en) 1997-04-04 2000-12-05 Sony Corporation Image transmission device and image transmission method
JP3148710B2 (ja) 1998-03-06 2001-03-26 日本電気株式会社 映像符号化方式
EP1069779B1 (en) * 1999-02-09 2016-04-13 Sony Corporation Coding system and its method
TW518882B (en) * 2000-03-27 2003-01-21 Hitachi Ltd Liquid crystal display device for displaying video data
JP2001320703A (ja) 2000-05-08 2001-11-16 Canon Inc 画像符号化装置および画像復号化装置、画像符号化方法および画像復号化方法
JP4288897B2 (ja) 2002-06-05 2009-07-01 ソニー株式会社 符号化装置及び方法、プログラム、記録媒体
JP2004166128A (ja) * 2002-11-15 2004-06-10 Pioneer Electronic Corp 画像情報の符号化方法、符号化装置及び符号化プログラム
JP4214771B2 (ja) * 2002-12-12 2009-01-28 ソニー株式会社 画像処理装置およびその方法と符号化装置
JP4411411B2 (ja) 2004-03-18 2010-02-10 独立行政法人産業技術総合研究所 データ圧縮装置およびデータ圧縮方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08102938A (ja) * 1994-09-30 1996-04-16 Sony Corp 画像符号化装置
JPH09107543A (ja) * 1995-10-11 1997-04-22 Fujitsu Ltd 量子化器制御システム
JPH10336670A (ja) * 1997-04-04 1998-12-18 Sony Corp 画像伝送装置および画像伝送方法、提供媒体
JPH11177989A (ja) * 1997-10-10 1999-07-02 Internatl Business Mach Corp <Ibm> 2つのエンコーダ及び統計分析を使用するビデオ・シーケンスのリアルタイム符号化方法及び装置
JP2002271800A (ja) * 2002-01-15 2002-09-20 Toshiba Corp 動画像符号化装置及び方法
JP2005102170A (ja) * 2003-08-14 2005-04-14 Intervideo Inc ビデオエンコーダにおける離散的余弦変換係数に適応したフィルタリングの方法およびシステム

Also Published As

Publication number Publication date
US20070098282A1 (en) 2007-05-03
JP2007124580A (ja) 2007-05-17
US7876816B2 (en) 2011-01-25

Similar Documents

Publication Publication Date Title
US10349051B1 (en) Adaptive filtering based upon boundary strength
JP4334768B2 (ja) 圧縮映像のブリージングアーチファクトを低減する方法および装置
US8325799B2 (en) Moving picture encoding method, device using the same, and computer program
US8391622B2 (en) Enhanced image/video quality through artifact evaluation
US7747094B2 (en) Image encoder, image decoder, image encoding method, and image decoding method
US8363719B2 (en) Encoding apparatus, method of controlling thereof, and computer program
US8279923B2 (en) Video coding method and video coding apparatus
EP2278815B1 (en) Method and apparatus for controlling loop filtering or post filtering in block based motion compensated video coding
JP4829581B2 (ja) 画像のシーケンスの符号化の方法及び装置
WO2008062994A1 (en) Deblocking filtering apparatus and method
WO2003061295A2 (en) Sharpness enhancement in post-processing of digital video signals using coding information and local spatial features
JP2000201354A (ja) 動画像符号化装置
JP4644097B2 (ja) 動画像符号化プログラム、プログラム記憶媒体、および符号化装置。
JP2001128179A (ja) 動画像符号化装置および方法
US20050013496A1 (en) Video decoder locally uses motion-compensated interpolation to reconstruct macro-block skipped by encoder
JP4357560B2 (ja) 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム
JP2001309384A (ja) 画像圧縮装置
JP2005303555A (ja) 動画像符号化装置および動画像符号化方法
JP4936557B2 (ja) 符号化装置
JP2006121131A (ja) ノイズ検出装置及びノイズ検出プログラム
Rezaei et al. Bit allocation for variable bitrate video
JP2004072144A (ja) 符号化装置および符号化方法、プログラム、並びに記録媒体

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080730

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080811

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100615

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100907

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101130

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101203

R150 Certificate of patent or registration of utility model

Ref document number: 4644097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131210

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees