JP7309676B2 - ビデオ符号化方法およびそのような方法を実行するように構成されたビデオエンコーダ - Google Patents

ビデオ符号化方法およびそのような方法を実行するように構成されたビデオエンコーダ Download PDF

Info

Publication number
JP7309676B2
JP7309676B2 JP2020168804A JP2020168804A JP7309676B2 JP 7309676 B2 JP7309676 B2 JP 7309676B2 JP 2020168804 A JP2020168804 A JP 2020168804A JP 2020168804 A JP2020168804 A JP 2020168804A JP 7309676 B2 JP7309676 B2 JP 7309676B2
Authority
JP
Japan
Prior art keywords
intra
refresh
frames
frame
delta
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020168804A
Other languages
English (en)
Other versions
JP2021078109A5 (ja
JP2021078109A (ja
Inventor
ヴィクトル エドパルム,
Original Assignee
アクシス アーベー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アクシス アーベー filed Critical アクシス アーベー
Publication of JP2021078109A publication Critical patent/JP2021078109A/ja
Publication of JP2021078109A5 publication Critical patent/JP2021078109A5/ja
Application granted granted Critical
Publication of JP7309676B2 publication Critical patent/JP7309676B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/114Adapting the group of pictures [GOP] structure, e.g. number of B-frames between two anchor frames
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化するためのビデオ符号化方法に関する。また、ビデオ符号化方法を実行するように構成されたビデオエンコーダが提示される。
H.264符号化(および同様の規格)を使用するビデオ符号化の際の一般的な問題は、IフレームがPフレームおよび/またはBフレームよりもはるかに多い情報を含むことに起因する、Iフレームのビットレートスパイクである。この問題は、特に、ネットワーク上で、符号化されたビデオストリームを送信するように構成されたネットワーク監視カメラについて、特に同じネットワーク上に配置されたいくつかのカメラがある場合に、存在する。理想的には、ネットワークは一定のビットレートを選好するであろう。
ビットレートスパイクを低減するための1つのソリューションは、複数の画像フレームにわたってIフレームを分散させ、代わりに各画像フレームの一部(イントラリフレッシュ(intra refresh)領域)をIブロックとして符号化されるように強制することである。イントラリフレッシュ領域は、画像フレームのセットにわたって画像フレーム上を移動され、それによって画像を「リフレッシュ」する。この方法は周期イントラリフレッシュまたは単にイントラリフレッシュと呼ばれる。したがって、イントラリフレッシュを適用することによって、さもなければ、GOPごとに、すなわち、1つの画像フレームが単にイントラ符号化を使用して符号化されるときに1回起こるであろうビットレートのスパイクが、複数のフレームにわたってスミアアウトされ得る。イントラリフレッシュにおいて、周期イントラリフレッシュパターンは、画像フレームのどの一部が「リフレッシュ」され(すなわちいかなる他の画像フレームの参照なしに符号化され)、したがって、イントラコーディングされた領域として符号化されることを強制されるべきであるかを定義するために使用される。イントラリフレッシュパターンの異なる例を、ビデオストリームのイントラリフレッシュ符号化されたフレーム10を示す図1a~図1cとともに示す。例では、破線エリアがイントラリフレッシュ領域12を表し、空白エリアが、イントラリフレッシュ符号化されたフレーム10の残っているインター符号化された部分14を表す。図1aの例では、イントラリフレッシュ符号化されたフレーム10中のマクロブロックの完全な行またはスライスがイントラリフレッシュ領域12を画定する、周期イントラリフレッシュパターンが示されている。図1bの例では、イントラリフレッシュ符号化されたフレーム10中のマクロブロックの完全な列またはタイルがイントラリフレッシュ領域12を画定する、周期イントラリフレッシュパターンが示されている。周期イントラリフレッシュパターンを画定する他の方法が等しく可能である。図1cは、1つのそのような代替を例として示している。この例によれば、周期イントラリフレッシュパターンは、イントラリフレッシュ符号化されたフレーム10の1つのコーナーから反対側のコーナーに移動する対角方向イントラリフレッシュ領域12によって画定される。イントラリフレッシュパターンのすべての例において、符号化された画像フレームのピクセルのすべての画定されたマクロブロックは、パターンの1サイクル中、すなわち、イントラリフレッシュパターンの1サイクルにわたるn個の画像フレーム(これらの例ではn=3)にわたってイントラリフレッシュされている。図1a~図1cとともに示されている周期イントラリフレッシュパターンの例では、パターン中のイントラリフレッシュ領域12はいくらかの重複を有する。しかしながら、他の例によれば、イントラリフレッシュ領域12間に重複がない。
各示されている例は、リフレッシュされるべき符号化された画像フレーム全体について3つのイントラリフレッシュ符号化されたフレーム10を含むが、一般的なケースでは、イントラリフレッシュパターンは、68、34、23、17、14、11、10など、より多くの符号化された画像フレームにわたって循環することを理解されたい。
イントラリフレッシュパターンの周期内で、符号化された画像フレームの数を動的に調整する能力は、いくつかのアプリケーション、特に監視アプリケーションのために大いに有益であり、それらのアプリケーションにおいては、符号化されたビデオストリームにおいて描かれたシーンにおける動きレベルがない(またはほとんどない)時間中には、比較的多い数の符号化された画像フレームが好ましく、符号化されたビデオストリームにおいて描かれたシーンにおける動きレベルが比較的高い時間中には、比較的少ない数の符号化された画像フレームが好ましい。イントラリフレッシュにおいて、符号化された画像フレームの数を変更するための知られている方法は、各フレームにおいてイントラコーディングすべき行または列の数を変動させることである。たとえば、68マクロブロックハイビデオ(FHDビデオ)の場合、符号化された画像フレームの最大数は(各イントラリフレッシュフレームについてマクロブロックの1つの列が使用される場合)68に限定される。しかしながら、いくつかのアプリケーション、たとえば監視アプリケーションについては、はるかに多い数の符号化された画像フレームが望まれることもある。
したがって、イントラリフレッシュコード化ビデオストリームの1サイクル中の符号化された画像フレームの数の動的調整の改善を行う必要がある。
EP3021579A1
目的は、上記で特定された当技術分野における不備、および欠点のうちの1つまたは複数を、単独でまたは任意の組合せで軽減、緩和、または除去し、上述の問題を少なくとも部分的に解決することである。
第1の態様によれば、元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化するためのビデオ符号化方法が提供される。本方法は、元のビデオデータの画像のシリーズの符号化のための周期イントラリフレッシュパターンを設定することと、周期イントラリフレッシュパターンの連続イントラリフレッシュフレーム間に追加されるべきデルタフレームの数を設定し、それによって、符号化されたビデオストリームのイントラリフレッシュ周期が調整されることと、設定された周期イントラリフレッシュパターンと、連続イントラリフレッシュフレーム間に追加されるべきデルタフレームの設定された数とを使用して、元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化することとを含む。符号化中に、現在のイントラリフレッシュフレームは、前のイントラリフレッシュフレームを直接参照するように設定される。符号化中に、2つの連続イントラリフレッシュフレーム間に追加される各デルタフレームは、2つの連続イントラリフレッシュフレームのうちの前の1つのみを参照するように設定される。
本方法は、1イントラリフレッシュサイクル中のフレームの数を調整することを可能にする。このことは、いくつかのデルタフレームが連続イントラリフレッシュフレーム間に追加されることを可能にすることによって行われる。本方法は、利用可能な符号化規格を使用して容易に実装され得る。したがって、本方法は適応ビデオ符号化を可能にし、1イントラリフレッシュサイクル中の符号化されるフレームの数は動的に調整され得る。
言い換えれば、2つの連続イントラリフレッシュフレーム間にデルタフレームを追加することによってイントラリフレッシュパターンに階層コーディング方式(hierarchical coding scheme)を適用することによって、1イントラリフレッシュサイクル中のフレームの数が調整され得る。このことは、イントラリフレッシュフレームのみを使用する際の制限を超えて、1イントラリフレッシュサイクル中のフレームの数を調整することを可能にする。
本方法は、元のビデオデータにおける動きレベルを決定することをさらに含み得る。追加されるべきデルタフレームの数は、決定された動きレベルに基づいて設定され得る。動きレベルが比較的高いと、デルタフレームは比較的少なくなり得る。動きレベルが比較的低いと、デルタフレームは比較的多くなり得る。したがって、特定のイントラリフレッシュサイクルのためのフレームの数はシーンにおける動きレベルに基づいて推論され得る。
1つのイントラリフレッシュサイクルの連続イントラリフレッシュフレーム間のデルタフレームの設定された数は同じであり得る。
デルタフレームの設定された数は、前のイントラリフレッシュサイクルと比較して、後続のイントラリフレッシュサイクルのために調整され得る。調整は、決定された動きレベルに基づいて行われ得る。したがって、イントラリフレッシュサイクル中の符号化されたフレームの数は、撮像されたシーンの変化の結果として調整され得る。代替的に、または組み合わせて、調整は、符号化されたビデオストリームのためのビットレート割振りに基づき得る。たとえば、符号化されたビデオストリームのビットレートは、デルタフレームの設定された数を増加させることによって低減され得る。このことは、たとえば、一時的な要求によりネットワークの帯域幅利用可能性が限られている状況の場合、有用であり得る。代替的に、または組み合わせて、デルタフレームの数は、失われたパッケージにより、またはより安定したストリームの要望(たとえば重要なイベントがトリガされた)により調整され得る。一般に、そのような状況の場合、デルタフレームの数は減少する。
各フレーム、デルタフレームまたはイントラリフレッシュフレームは、元のビデオデータの画像のシリーズの1つの画像に対応し得る。
第2の態様によれば、非一時的コンピュータ可読記憶媒体が提供される。非一時的コンピュータ可読記憶媒体は、処理機能を有するデバイス上で実行されたときに、第1の態様によるビデオ符号化方法を実装するための命令を記憶している。
第1の態様による方法の上述の特徴は、適用可能なとき、この第2の態様にも適用する。過度の反復を回避するために上記を参照されたい。
第3の態様によれば、元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化するように構成されたビデオエンコーダが提供される。ビデオエンコーダは、元のビデオデータの画像のシリーズの符号化のための周期イントラリフレッシュパターンを設定することと、周期イントラリフレッシュパターンの連続イントラリフレッシュフレーム間に追加されるべきデルタフレームの数を設定し、それによって、符号化されたビデオストリームのイントラリフレッシュ周期を拡大させることと、設定された周期イントラリフレッシュパターンと、連続イントラリフレッシュフレーム間に追加されるべきデルタフレームの設定された数とを使用して、元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化することとを行うように構成される。符号化中に、エンコーダは、前のイントラリフレッシュフレームを直接参照するように、現在のイントラリフレッシュフレームを設定するように構成される。さらに、符号化中に、エンコーダは、2つの連続イントラリフレッシュフレームのうちの前の1つのみを参照するように、2つの連続イントラリフレッシュフレーム間に追加される各デルタフレームを設定するように構成される。
ビデオエンコーダはビデオカメラ中に実装され得る。
第1の態様による方法の上述の特徴は、適用可能なとき、この第3の態様にも適用する。過度の反復を回避するために上記を参照されたい。
本発明の適用可能性のさらなる範囲は、以下に与えられる発明を実施するための形態から明らかになろう。しかしながら、本発明の範囲内の様々な変更および改変は、この発明を実施するための形態から当業者に明らかになるであろうことから、発明を実施するための形態および具体例は、本発明の好ましい実施形態を示しながら、単に例としてのみ与えられることを理解されたい。
したがって、本発明は、説明されるデバイスの特定の構成部分または説明される方法の特定の行為に限定されず、したがって、デバイスおよび方法は変動し得ることを理解されたい。また、本明細書で使用する用語は、特定の実施形態のみについて説明する目的のためであり、限定的なものではないことを理解されたい。本明細書および添付の請求項で使用する際、「1つの」、「その」および「前記」という冠詞は、文脈上明らかに別段の指示がない限り、要素のうちの1つまたは複数があることを意味するものであることに留意しなければならない。したがって、たとえば、「1つのユニット」または「そのユニット」に対する言及はいくつかのデバイスなどを含み得る。さらに、「備える」、「含む」、「含んでいる」という単語および同様の文言は他の要素またはステップを除外しない。
次に、添付の図を参照しながら、本発明の上記および他の態様についてより詳細に説明する。図は限定的に考えられるべきでなく、代わりに、それらの図は説明および理解のために使用される。
図に示されているように、レイヤおよび領域のサイズは説明の目的で誇張され、したがって、一般的な構造を示すために与えられ得る。同様の参照番号は全体的に同様の要素を指す。
イントラリフレッシュ符号化されたビデオストリームのためのイントラリフレッシュパターンの例を概略的に示す図である。 ビデオ符号化システムを概略的に示す図である。 図2のビデオ符号化システムを備えるカメラを概略的に示す図である。 本発明による符号化されたビデオストリームのフレーム構造を概略的に示す図である。 図4に示されたフレーム構造を獲得するためのビデオ符号化方法のブロック図である。
次に、本発明の現在好ましい実施形態が示されている添付の図面を参照しながら、本発明について以下でより十分に説明する。本発明は、しかしながら、多くの異なる形式で具現化され得、本明細書に記載された実施形態に限定されると解釈されるべきでなく、むしろ、これらの実施形態は、徹底さと完全性のために、および当業者に本発明の範囲を完全に伝達するために与えられる。
図2に関連して、ビデオ符号化システム100が示されている。ビデオ符号化システム100は、ビデオソース102と、ビデオエンコーダ110と、メモリ120とを備える。ビデオエンコーダ110は、ビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化するように構成される。画像のシリーズの形態のビデオデータがビデオソース102から受信される。ビデオソース102は画像センサーであり得る。ビデオエンコーダ110は、任意の好適な符号化方式を使用するように設定され得る。非限定的な例は、H.264、H.265およびAV1である。ビデオエンコーダ100はメモリ120との通信状態であり得る。メモリ120は、ビデオデータの符号化中にバッファメモリとして使用され得る。メモリ120は1つまたは複数のメモリ部分を備え得る。特定のメモリ部分は揮発性メモリ部分であり得る。特定のメモリ部分は不揮発性メモリ部分であり得る。したがって、メモリ120は揮発性メモリ部分と不揮発性メモリ部分の両方を備え得る。
図3に示されているように、ビデオ符号化システム100はビデオカメラ200中に実装され得る。ビデオカメラ200はデジタルビデオカメラであり得る。ビデオカメラ200は監視カメラであり得る。
ビデオエンコーダ110は、ビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化するように構成される。ビデオエンコーダ110は、イントラリフレッシュを使用してビデオストリームを符号化するように構成される。背景技術セクションに関連して論じたように、イントラリフレッシュにおいて、周期イントラリフレッシュパターンは、符号化された画像フレームのどの一部が「リフレッシュ」され(すなわちいかなる他の画像フレームの参照なしに符号化され)、したがって、イントラコーディングされた領域として符号化されることを強制されるべきであるかを定義するために使用される。したがって、エンコーダは、ビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化するために使用されるべき周期イントラリフレッシュパターンを設定するように構成される。
これまでビデオエンコーダ110は、すでに知られている符号化方式に従って符号化を行うように設定されている。しかしながら、本発明によれば、ビデオエンコーダ110は、周期イントラリフレッシュパターンの連続イントラリフレッシュフレーム間にデルタフレームを追加するようにさらに構成される。デルタフレームは、1つのフレームから次のフレームまでに起こった変化のみを備えるフレームである。したがって、デルタフレームは、一般に、イントラリフレッシュフレームよりも少ないデータを備えている。ビデオ符号化において、デルタフレームは、しばしばPフレームまたはBフレームと呼ばれる、インターフレームとしても知られている。Pフレームはデータ参照のために前のフレームを参照する。したがって、Pフレームを復号するためには、前のフレームのコンテンツが知られていなければならない。Bフレームは、データ参照のために前のフレームと後のフレームの両方を参照し得る。したがって、Bフレームを復号するためには、前のフレームと後のフレームの両方のコンテンツが知られていなければならない。
ビデオエンコーダ110は、したがって、周期イントラリフレッシュパターンの連続イントラリフレッシュフレーム間に追加されるべきデルタフレームの数を設定するように構成される。デルタフレームを追加することによって、符号化されたビデオストリームのイントラリフレッシュ周期が調整される。したがって、1イントラリフレッシュサイクル内のフレームの数が調整される。一般に、イントラリフレッシュ周期は、特に、背景技術セクションで論じた従来技術のイントラリフレッシュ方法と比較して拡大される。したがって、1イントラリフレッシュサイクル内のフレームの数は増加する。このことは、1イントラリフレッシュサイクル内のフレームの数をより自由に調整する能力を与える。
元のビデオデータの画像のシリーズの符号化のための周期イントラリフレッシュパターンの設定は、周期イントラリフレッシュパターン中のイントラリフレッシュフレームの数を選択することによって行われ得る。選択は、元のビデオデータの画像のピクセルプロパティを所与として、1イントラリフレッシュサイクルについてのフレームの事前決定された数のリストにアクセスすることによって行われ得る。
符号化中に、ビデオエンコーダ110は、前のイントラリフレッシュフレームを直接参照するように、現在のイントラリフレッシュフレームを設定するように設定される。さらに、ビデオエンコーダ110は、前のイントラリフレッシュフレームのみを参照するように、現在のイントラリフレッシュフレームを設定するように設定され得、したがって、イントラリフレッシュフレームは、別のイントラリフレッシュフレームのみを参照しており、デルタフレームを参照していない。イントラリフレッシュフレームを参照するこの方式によって、従来技術のイントラリフレッシュ符号化からの利益が維持される。イントラリフレッシュフレームが別のイントラリフレッシュフレームのみを参照しており、デルタフレームを参照していないことによって、動きベクトルがイントラリフレッシュ領域から外に延びていないことが保証され得る。さらに、フレームの階層構造のこのタイプを使用することによって、デルタフレームの1つまたは複数の「レイヤ」が、符号化されたビデオストリームから容易に削除され得、同時に、符号化されたビデオストリームは、デルタフレームの1つまたは複数の「レイヤ」の削除後も依然として復号可能になる。
さらに、符号化中に、ビデオエンコーダ110は、2つの連続イントラリフレッシュフレームのうちの前の1つのみを参照するように、2つの連続イントラリフレッシュフレーム間に追加される各デルタフレームを設定するように構成される。符号化のそのような構成は、ビデオストリームを符号化するために使用される通常の構成であり、したがって、この構成を使用すると、すべての標準エンコーダが使用され得る。
本発明による符号化されたビデオストリームのフレーム構造の一例が図4に関連して概略的に示されている。符号化されたビデオストリームは、イントラリフレッシュ符号化されたフレーム10とデルタフレーム16の両方を備える。図示の例では、デルタフレーム16はPフレームである。図示の例では、1つのイントラリフレッシュサイクル中の符号化されたビデオストリームのフレーム構造が示されている。しかしながら、符号化されたビデオストリームは2つ以上のイントラリフレッシュサイクルを備え得ることを理解されたい。さらに、図示の例では、イントラリフレッシュサイクルは3つのイントラリフレッシュ符号化されたフレーム10を備えるが、一般的なケースでは、イントラリフレッシュパターンは、68、34、23、17、14、11、10など、より多くの符号化された画像フレームにわたって循環することを理解されたい。
各イントラリフレッシュ符号化されたフレーム10は、破線エリアとして示されているイントラリフレッシュ領域12と、空白エリアとして示されている、残っているインター符号化された部分14とを備える。イントラリフレッシュ符号化されたフレーム10中のマクロブロックの完全な行またはスライスがイントラリフレッシュ領域12を画定する、周期イントラリフレッシュパターンが示されている。しかしながら、周期イントラリフレッシュパターンを画定する代替方法が本発明について等しく可能であり得る。イントラリフレッシュパターンのいくつかのそのような例が図1bおよび図1cに関連して示されている。
さらに、図4に関連して、イントラリフレッシュパターン中のイントラリフレッシュ領域12が、いくらかの重複を有するように示されている。しかしながら、他の例によれば、イントラリフレッシュ領域12間に重複がない。
ビデオエンコーダは、各フレーム、デルタフレームまたはイントラリフレッシュフレームが、元のビデオデータの画像のシリーズの1つの画像に対応するように、元のビデオデータの画像のシリーズを符号化するように構成され得る。
追加されるべきデルタフレームの数は、元のビデオデータにおける動きレベルに基づいて設定され得る。動きレベルは、元のビデオデータ中の画像のシリーズにおける前の画像の画像と比較した、元のビデオデータの画像の画像データの変化の量の測度である。動きレベルは、ビデオデータ中に存在する最前部(forefront)ビデオ情報の量の測度であると言い得る。動きレベルは、大域的変化値、すなわち、EP3021579A1に記載されているようなCG(特に[0035]~[0041]を参照のこと)を使用して決定され得る。しかしながら、動きレベルは代替方法で決定され得る。いくつかの非限定的な例は、時間的雑音フィルタからの統計値を使用すること、符号化中に使用された動きベクトルの平均サイズを使用すること、またはピクセル単位比較を実行することである。
したがって、ビデオ符号化システム100は動きレベル決定回路130をさらに備え得る。動きレベル決定回路130は、元のビデオデータにおける動きレベルを決定するように構成される。動きレベル決定回路130は、上述の方法のいずれかに基づいて、元のビデオデータにおける動きレベルを決定するように構成され得る。動きレベル決定回路130は、中央処理ユニット(CPU)、マイクロコントローラ、またはマイクロプロセッサなど、プロセッサを含み得る。プロセッサは、動きレベル決定回路130の機能を実行するために、メモリ120に記憶されたプログラムコードを実行するように構成される。動きレベル決定回路130の機能は、非一時的コンピュータ可読媒体(たとえばメモリ120)上に記憶され、(たとえば、プロセッサを使用して)動きレベル決定回路130によって実行される、実行可能な論理ルーチン(たとえば、命令行(lines of code)、ソフトウェアプログラムなど)の形態で具現化され得る。さらに、動きレベル決定回路130の機能は、スタンドアロンのソフトウェアアプリケーションであり得るか、または動きレベル決定回路130に関する追加のタスクを実行する、ソフトウェアアプリケーションの一部を形成し得る。説明された機能は、対応するデバイスが実行するように構成された方法と考えられ得る。また、説明された機能はソフトウェア中に実装され得るが、そのような機能は、専用のハードウェアもしくはファームウェア、またはハードウェア、ファームウェアおよび/もしくはソフトウェアのいくつかの組合せを介して同様に実行され得る。
ビデオエンコーダ110は、したがって、元のビデオデータにおける動きレベルに基づいて、追加されるべきデルタフレームの数を決定し得る。比較的高い動きレベルは、比較的少ないデルタフレームを設定するために使用され得る。比較的低い動きレベルは、比較的多いデルタフレームを設定するために使用され得る。
ビデオエンコーダ110は、1つのイントラリフレッシュサイクルの連続イントラリフレッシュフレーム間のデルタフレームの数を同じになるように設定するように構成され得る。
ビデオエンコーダ110は、前のイントラリフレッシュサイクルと比較して、後続のイントラリフレッシュサイクルのためのデルタフレームの設定された数を調整するように構成され得る。したがって、1イントラリフレッシュサイクル中のフレームの数は、符号化されたビデオストリーム全体にわたって調整され得る。この場合も、デルタフレームの数は、シーン中の動きレベルに基づいて設定され得、シーン中の動きレベルが変化している場合、符号化されたビデオストリーム中のデルタフレームの数も変更され得る。
図5に関連して、元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化するように構成されたビデオ符号化方法500について論じる。ビデオ符号化方法は、カメラによってキャプチャされたビデオデータを符号化するように構成され得る。カメラは監視カメラであり得る。ビデオ処理方法は以下のステップ/行為を含む。
元のビデオデータの画像のシリーズの符号化のための周期イントラリフレッシュパターンを設定することS502。元のビデオデータの画像のシリーズの符号化のための周期イントラリフレッシュパターンを設定することS502は、周期イントラリフレッシュパターン中のイントラリフレッシュフレームの数を選択することによって行われ得る。選択は、元のビデオデータの画像のピクセルプロパティを所与として、1イントラリフレッシュサイクルについてのフレームの事前決定された数のリストにアクセスすることによって行われ得る。選択は、符号化されたビデオストリームによって描かれたシーンにおける動きレベルに基づいて行われ得る。
周期イントラリフレッシュパターンの連続イントラリフレッシュフレーム間に追加されるべきデルタフレームの数を設定することS504。それによって、符号化されたビデオストリームのイントラリフレッシュ周期が調整され得る。1つのイントラリフレッシュサイクルの連続イントラリフレッシュフレーム間のデルタフレームの設定された数は同じであり得る。デルタフレームの設定された数は、前のイントラリフレッシュサイクルと比較して、後続のイントラリフレッシュサイクルのために調整され得る。
設定された周期イントラリフレッシュパターンと、連続イントラリフレッシュフレーム間に追加されるべきデルタフレームの設定された数とを使用して、元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化することS506。符号化することS506中に、現在のイントラリフレッシュフレームは、前のイントラリフレッシュフレームを直接参照するように設定される。符号化することS506中に、2つの連続イントラリフレッシュフレーム間に追加される各デルタフレームは、2つの連続イントラリフレッシュフレームのうちの前の1つのみを参照するように設定される。各符号化されたフレーム、デルタフレームまたはイントラリフレッシュフレームは、元のビデオデータの画像のシリーズの1つの画像に対応し得る。
本方法は、元のビデオデータにおける動きレベルを決定することをさらに含み得る。設定することS504の行為中に、追加されるべきデルタフレームの数は、決定された動きレベルに基づいて設定され得る。動きレベルが比較的高いと、デルタフレームは比較的少なくなり得る。動きレベルが比較的低いと、デルタフレームは比較的多くなり得る。
当業者は、本発明が、上記で説明した好ましい実施形態に決して限定されないことを認識している。反対に、多くの変更および変形が添付の特許請求の範囲の範囲内で可能である。
たとえば、2つの連続イントラリフレッシュフレーム間に追加されるデルタフレームは、複数の時間レイヤを備える階層予測パターン中で編成され得る。
さらに、開示された実施形態の変形形態は、クレームされる発明を実践する際に、図面、開示、および添付の特許請求の範囲の研究から、当業者によって理解され、実施され得る。
10 イントラリフレッシュ符号化されたフレーム
12 イントラリフレッシュ領域
14 残っているインター符号化された部分
16 デルタフレーム
100 ビデオ符号化システム
102 ビデオソース
110 ビデオエンコーダ
120 メモリ
130 動きレベル決定回路
200 ビデオカメラ
500 ビデオ符号化方法
S502 元のビデオデータの画像のシリーズの符号化のための周期イントラリフレッシュパターンを設定すること
S504 周期イントラリフレッシュパターンの連続イントラリフレッシュフレーム間に追加されるべきデルタフレームの数を設定すること
S504 設定すること
S506 設定された周期イントラリフレッシュパターンと、連続イントラリフレッシュフレーム間に追加されるべきデルタフレームの設定された数とを使用して、元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化すること
S506 符号化すること

Claims (8)

  1. 元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化するためのビデオ符号化方法であって、前記方法は、
    前記元のビデオデータの画像の前記シリーズの前記符号化のための周期イントラリフレッシュパターンを設定すること(S502)であって、前記周期イントラリフレッシュパターンは、画像のすべての領域が前記周期イントラリフレッシュパターンの1つのサイクルにおいてイントラリフレッシュフレームのセットにわたってイントラリフレッシュされるように、イントラリフレッシュフレームのどの領域がイントラコーディングされた領域として符号化されることを強制されるべきであるかを定義する、周期イントラリフレッシュパターンを設定すること(S502)と、
    前記周期イントラリフレッシュパターンの連続イントラリフレッシュフレーム(10)間に追加されるべき、前記イントラリフレッシュフレームよりも少ないデータを備えたデルタフレーム(16)の数を設定(S504)し、前記デルタフレーム(16)の数の設定によって、前記符号化されたビデオストリームのイントラリフレッシュ周期を調整することと、
    設定された前記周期イントラリフレッシュパターンと、それぞれのイントラリフレッシュフレーム(10)がイントラリフレッシュ領域(12)と前記イントラリフレッシュ領域(12)以外の部分(14)を含む連続イントラリフレッシュフレーム(10)間に追加されたデルタフレーム(16)の設定された前記数とを使用して、調整された前記イントラリフレッシュ周期に基づいて前記元のビデオデータの画像の前記シリーズを、前記符号化されたビデオストリームに符号化すること(S506)と
    を含み、
    前記符号化中に、予測のために前のイントラリフレッシュフレーム(10)のみを参照するように、現在のイントラリフレッシュフレーム(10)が設定され、
    前記符号化中に、2つの連続イントラリフレッシュフレーム(10)間に追加された前記デルタフレーム(16)のうちの1つまたは複数を介して、予測のために前記2つの連続イントラリフレッシュフレーム(10)のうちの前の1つのみを直接または間接的に参照するように、前記2つの連続イントラリフレッシュフレーム(10)間に追加された各デルタフレーム(16)が設定される、ビデオ符号化方法。
  2. 前記元のビデオデータにおける動きレベルを決定することをさらに含み、追加されるべきデルタフレーム(16)の前記数が、決定された前記動きレベルに基づいて設定され、比較的高い動きレベルが比較的少ない数のデルタフレーム(16)を生じさせ、比較的低い動きレベルが比較的多い数のデルタフレーム(16)を生じさせる、請求項1に記載の方法。
  3. イントラリフレッシュサイクルの連続イントラリフレッシュフレーム(10)間のデルタフレーム(16)の前記設定された数が同じである、請求項1または2に記載の方法。
  4. デルタフレーム(16)の前記設定された数が、前のイントラリフレッシュサイクルと比較して、後続のイントラリフレッシュサイクルのために調整される、請求項1から3のいずれか一項に記載の方法。
  5. 各フレーム、デルタフレーム(16)またはイントラリフレッシュフレーム(10)が、元のビデオデータの画像の前記シリーズの1つの画像に対応する、請求項1から4のいずれか一項に記載の方法。
  6. 処理機能を有するデバイス上で実行されたときに、請求項1から5のいずれか一項に記載のビデオ符号化方法を実装するための命令を記憶した非一時的コンピュータ可読記憶媒体。
  7. 元のビデオデータの画像のシリーズを、符号化されたビデオストリームに符号化するように構成されたビデオエンコーダであって、前記ビデオエンコーダは、
    前記元のビデオデータの画像の前記シリーズの前記符号化のための周期イントラリフレッシュパターンを設定することであって、前記周期イントラリフレッシュパターンは、画像のすべての領域が前記周期イントラリフレッシュパターンの1つのサイクルにおいてイントラリフレッシュフレームのセットにわたってイントラリフレッシュされるように、イントラリフレッシュフレームのどの領域がイントラコーディングされた領域として符号化されることを強制されるべきであるかを定義する、周期イントラリフレッシュパターンを設定することと、
    前記周期イントラリフレッシュパターンの連続イントラリフレッシュフレーム(10)間に追加されるべき、前記イントラリフレッシュフレームよりも少ないデータを備えたデルタフレーム(16)の数を設定し、前記デルタフレーム(16)の数の設定によって、前記符号化されたビデオストリームのイントラリフレッシュ周期を拡大させることと、
    設定された前記周期イントラリフレッシュパターンと、それぞれのイントラリフレッシュフレーム(10)がイントラリフレッシュ領域(12)と前記イントラリフレッシュ領域(12)以外の部分(14)を含む連続イントラリフレッシュフレーム(10)間に追加されたデルタフレーム(16)の設定された前記数とを使用して、拡大された前記イントラリフレッシュ周期に基づいて前記元のビデオデータの画像の前記シリーズを、前記符号化されたビデオストリームに符号化することと
    を行うように構成され、
    前記符号化中に、前記ビデオエンコーダは、予測のために前のイントラリフレッシュフレーム(10)のみを参照するように、現在のイントラリフレッシュフレーム(10)を設定するように構成され、
    前記符号化中に、前記ビデオエンコーダは、2つの連続イントラリフレッシュフレーム(10)間に追加された前記デルタフレーム(16)のうちの1つまたは複数を介して、予測のために前記2つの連続イントラリフレッシュフレーム(10)のうちの前の1つのみを直接または間接的に参照するように、前記2つの連続イントラリフレッシュフレーム(10)間に追加された各デルタフレーム(16)を設定するように構成された、ビデオエンコーダ。
  8. ビデオカメラ(200)中に実装された、請求項7に記載のビデオエンコーダ。
JP2020168804A 2019-10-16 2020-10-06 ビデオ符号化方法およびそのような方法を実行するように構成されたビデオエンコーダ Active JP7309676B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP19203656.4A EP3809700B1 (en) 2019-10-16 2019-10-16 Periodic intra refresh pattern for video encoding
EP19203656 2019-10-16

Publications (3)

Publication Number Publication Date
JP2021078109A JP2021078109A (ja) 2021-05-20
JP2021078109A5 JP2021078109A5 (ja) 2022-01-11
JP7309676B2 true JP7309676B2 (ja) 2023-07-18

Family

ID=68281220

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020168804A Active JP7309676B2 (ja) 2019-10-16 2020-10-06 ビデオ符号化方法およびそのような方法を実行するように構成されたビデオエンコーダ

Country Status (4)

Country Link
US (1) US11153561B2 (ja)
EP (1) EP3809700B1 (ja)
JP (1) JP7309676B2 (ja)
CN (1) CN112672148B (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009518981A (ja) 2005-12-08 2009-05-07 ヴィドヨ,インコーポレーテッド ビデオ通信システムでのエラー回復力およびランダムアクセスのためのシステムおよび方法
WO2010069427A1 (en) 2008-12-19 2010-06-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Method and encoder for providing a tune- in stream for an encoded video stream and method and decoder for tuning into an encoded video stream

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3905969B2 (ja) * 1998-01-30 2007-04-18 株式会社東芝 動画像符号化装置および動画像符号化方法
JP2002010270A (ja) * 2000-06-27 2002-01-11 Mitsubishi Electric Corp 画像符号化装置及び画像符号化方法
US8948266B2 (en) * 2004-10-12 2015-02-03 Qualcomm Incorporated Adaptive intra-refresh for digital video encoding
JP4649615B2 (ja) 2006-02-16 2011-03-16 国立大学法人三重大学 映像符号化、復号化装置および映像符号化、復号化方法、並びにそれらのプログラム
US8254469B2 (en) * 2008-05-07 2012-08-28 Kiu Sha Management Liability Company Error concealment for frame loss in multiple description coding
CN101621685B (zh) * 2008-07-04 2011-06-15 株式会社日立制作所 编码装置和编码方法
JP2011205465A (ja) * 2010-03-26 2011-10-13 Hitachi Consumer Electronics Co Ltd 画像符号化方法および画像符号化装置
US8699571B2 (en) * 2010-10-21 2014-04-15 Motorola Solutions, Inc. Method and apparatus for non-linear decoding of video frames of a video stream encoded using an intra macroblock refresh process
US9930360B2 (en) * 2011-11-08 2018-03-27 Texas Instruments Incorporated Method, system and apparatus for intra-refresh in video signal processing
EP3021579B1 (en) * 2014-11-14 2016-10-12 Axis AB Method and encoder system for encoding video
US20170013274A1 (en) * 2015-07-09 2017-01-12 Microsoft Technology Licensing, Llc Intra-refresh for video streaming
JP2017069866A (ja) * 2015-10-01 2017-04-06 富士通株式会社 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム
US20170105010A1 (en) * 2015-10-09 2017-04-13 Microsoft Technology Licensing, Llc Receiver-side modifications for reduced video latency

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009518981A (ja) 2005-12-08 2009-05-07 ヴィドヨ,インコーポレーテッド ビデオ通信システムでのエラー回復力およびランダムアクセスのためのシステムおよび方法
WO2010069427A1 (en) 2008-12-19 2010-06-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Method and encoder for providing a tune- in stream for an encoded video stream and method and decoder for tuning into an encoded video stream

Also Published As

Publication number Publication date
EP3809700B1 (en) 2022-02-16
JP2021078109A (ja) 2021-05-20
US20210120238A1 (en) 2021-04-22
EP3809700A1 (en) 2021-04-21
CN112672148B (zh) 2022-07-15
CN112672148A (zh) 2021-04-16
US11153561B2 (en) 2021-10-19

Similar Documents

Publication Publication Date Title
CN108737837B (zh) 形成视频流的方法及图像处理单元
US9936217B2 (en) Method and encoder for video encoding of a sequence of frames
JP2009182623A (ja) 画像符号化方法
JP2020518174A (ja) ビデオフレーム符号化方法、端末、および記憶媒体
JP6593934B2 (ja) 映像動き補償のための装置および方法
JP6900452B2 (ja) 複数のイメージフレームをイントラリフレッシュエンコーディングする方法
TW201838413A (zh) 用於編碼視訊串流之方法、視訊編碼器及視訊攝影機
US8396117B2 (en) Apparatus, arrangement, method and computer program product for digital video processing
JP6707334B2 (ja) リアルタイム符号化のための方法及び装置
CN109348227A (zh) 适用于视频编码的运动自适应帧内刷新方法
US10856002B2 (en) Method, device and system for method of encoding a sequence of frames in a video stream
JP2005229404A (ja) 動画符号化装置および動画符号化方法
JP7309676B2 (ja) ビデオ符号化方法およびそのような方法を実行するように構成されたビデオエンコーダ
JP2010183181A (ja) 画像処理装置、およびそれを搭載した撮像装置
US10834394B2 (en) Method and a controller for adding comfort noise to a video sequence
US20090092191A1 (en) Moving image encoding apparatus and method for controlling the same
CN112019703B (zh) 用于视频处理的系统和方法
US10051270B2 (en) Video encoding method using at least two encoding methods, device and computer program
JP2008311824A (ja) 画像符号化装置および画像符号化プログラム
JP2021078109A5 (ja)
CN112911296B (zh) 帧间编码的方法、存储介质、视频处理装置和摄像机
JP2010171476A (ja) 画像処理装置および画像変換装置
JP2000013802A (ja) フレーム間予測を用いた映像信号符号化装置
JP6289103B2 (ja) 画像処理装置及びその制御方法、並びに、プログラム
JP2010278797A (ja) 画像符号化装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211203

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211203

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20211203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220616

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221025

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20221025

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20221108

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20221115

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20230120

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20230131

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20230131

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230705

R150 Certificate of patent or registration of utility model

Ref document number: 7309676

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150