JP6576351B2 - 画面キャプチャデータの符号化 - Google Patents

画面キャプチャデータの符号化 Download PDF

Info

Publication number
JP6576351B2
JP6576351B2 JP2016545331A JP2016545331A JP6576351B2 JP 6576351 B2 JP6576351 B2 JP 6576351B2 JP 2016545331 A JP2016545331 A JP 2016545331A JP 2016545331 A JP2016545331 A JP 2016545331A JP 6576351 B2 JP6576351 B2 JP 6576351B2
Authority
JP
Japan
Prior art keywords
accuracy
region
frame
content
screen capture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016545331A
Other languages
English (en)
Other versions
JP2017508348A (ja
Inventor
シルキン,セルゲイ
サブリン,セルゲイ
ジョウ,ヨウ
リン,チー−ロン
リー,ミン−チェ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2017508348A publication Critical patent/JP2017508348A/ja
Application granted granted Critical
Publication of JP6576351B2 publication Critical patent/JP6576351B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/109Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/523Motion estimation or motion compensation with sub-pixel accuracy

Description

最近の通信システムでは、ビデオ信号は、有線及び/又は無線ネットワークのような媒体を介して、しばしばインターネットのようなパケットベースのネットワークを介してある端末から別の端末へ送信され得る。例えばビデオは、デスクトップやラップトップコンピュータ、タブレット又はスマートフォンのようなユーザ端末において実行されるVoIP(ボイスオーバーインターネットプロトコル)クライアントアプリケーションから実施されるVoIP呼の一部であり得る。
典型的に、ビデオのフレームは、ネットワーク上での転送のためにこれらのフレームを圧縮するよう、送信端末にあるエンコーダによって符号化される。所与のフレームの符号化は、イントラフレーム符号化を備えることがあり、イントラフレーム符号化により、ブロックが同じフレーム内の他のブロックとの相対で符号化される。この場合、ターゲットブロックは、そのブロックと近傍ブロックとの間の差(残差)に関して符号化される。あるいは、一部のフレームについての符号化は、インターフレーム符号化を備えることがあり、インターフレーム符号化により、ターゲットフレーム内のブロックが、典型的には動き予測に基づいて、先行フレームの対応する部分との相対で符号化される。この場合、ターゲットブロックは、そのブロックと予測が行われる対応する部分との間のオフセット、及び、そのブロックと予測が行われる対応する部分との間の差(残差)を識別する動きベクトルに関して符号化される。レシーバにおける対応するデコーダは、デコーダ側の画面への出力のためフレームを圧縮解除するよう、受け取ったビデオ信号のフレームを適切なタイプの予測に基づいて復号する。
ビデオを符号化(圧縮)するとき、動きベクトルを使用して、現在のフレームのインターフレーム予測を生成する。エンコーダは最初に、現在のブロック(ターゲットブロック)に最も良く合致する以前の符号化フレーム内で類似するブロック(参照ブロック(reference block))を探し、参照ブロックとターゲットブロックとの間の変位を、符号化ビットストリームの一部としてデコーダへ信号伝達する。変位は典型的に、水平及び垂直のx及びy座標として表され、動きベクトルと呼ばれる。
参照「ブロック」は、実際には、参照フレーム(reference frame)内の実際のブロック位置にあることに制約されない。すなわち、参照ブロックは、ターゲットブロックと同じグリッドに制限されず、むしろ、動きベクトルによる、ターゲットブロックの位置に対する参照フレームのオフセットの対応するサイズの部分(correspondingly-sized portion)である。現在の規格によると、動きベクトルは、分数のピクセル解像度(fractional pixel resolution)で表される。例えばH.264規格では、各動きベクトルは、1/4ピクセル解像度で表される。したがって、例として現在のフレーム内の16×16ブロックを、ターゲットブロックの位置の1ピクセル左にある以前のフレーム内の16×16フレームから予測する場合、動きベクトルは(4,0)である。あるいは、ターゲットブロックを、例えばターゲットブロックの左にわずか3/4ピクセルにある参照ブロックから予測する場合、動きベクトルは(3,0)である。分数のピクセル位置にある参照ブロックは、実際にはそれ自体は存在していないが、参照フレームのピクセル間の補完によって生成される。サブピクセルの動きベクトルは、圧縮効果に関してかなりのパフォーマンスを達成することができる。
しかしながら、分数のピクセル解像度を使用することは、動きベクトルを符号化するために、動きベクトルを整数のピクセル解像度で推定した場合よりも多くのビットを必要とし、また、最も良く合致する参照(基準)を探す際にもより多くの処理リソースを必要とする。例えばビデオ符号化では、例えば縮小されたサイズのより良く合致する残差は、一般に、動きベクトルの符号化に生じるビットよりも重要である可能性があり、あるいは達成される品質は、そのリソースを正当化すると考えることができるので、これは価値のあることであり得る。しかしながら、符号化される必ずしもすべての動画がビデオ(すなわちカメラからキャプチャされる)とは限らない。下記は、本明細書で認識される、カメラではなく画面からキャプチャされる動画を符号化(圧縮)するとき、符号化ビットストリーム内の動きベクトルの大部分は概して整数ピクセルを指すが、これらの動きベクトルのうちのほんの一部が分数のピクセル部分で見つかる傾向がある、という観察に基づいている。したがって、エンコーダは通常、1/4ピクセルの単位でビットストリーム内の動きベクトルを表すが、画面共有又は記録アプリケーションでは、実際には、1ピクセル単位のみで動きベクトルを符号化することによって、必要以上の品質損失を伴わずに、帯域幅を確保することができる。あるいは、動きベクトルが、依然として分数ピクセルのスケールで符号化されたビットストリームで表される場合であっても、動きベクトル検索を整数のピクセルオフセットに制限することによって、処理リソースを確保することができる。
したがって、本明細書で開示される一側面によると、動画データ(moving image data)を受け取るための入力部と、動画データを符号化する際に使用するための動き予測モジュールとを備えるエンコーダが提供される。動画データは、符号化されるフレームのシーケンスを備え、各フレームは、2次元の複数のブロックに分割され、各ブロックは、その2次元の複数のピクセルを備える。ブロックは、例えばH.264又はH.265等のH.26x規格のブロック又はマクロブロックと呼ばれる区分とすることができる。動き予測モジュールは、各ブロック(ターゲットブロック)をシーケンスの別のフレームのそれぞれの参照部分(reference portion)(参照「ブロック」(reference block))との相対で符号化することによってインターフレーム符号化を実行し、この場合、それぞれの参照は、それぞれの動きベクトルによる、ターゲットブロックからのオフセットである。さらに、本開示によると、複数のフレームの動画データは、画面キャプチャストリーム(screen capture stream)を備え、動き予測モジュールは、画面キャプチャストリームの動きベクトルの各々を、上記の次元の少なくとも1つにおいて整数ピクセルに制限するように構成される。
実施形態によっては、分数の動きベクトルが(カメラによってキャプチャされる)通常のビデオ、恐らくは他の動画(例えばアニメーション)にとって依然として有益である可能性があることを考えると、動きベクトルは柔軟な方法で信号伝達され得る:ビデオソースが、キャプチャされた画面からのものであるとき、動きベクトルは1ピクセル単位で信号伝達され得るが、通常のビデオ及び/又は他の動画については、依然として分数のピクセル単位(fractional pixel unit)を使用してもよい。
したがって、諸実施形態では、エンコーダは、動き予測モジュールを、2つのモード:すなわち、第1のモードと第2のモードの間で切り替えるように動作可能なコントローラも備え得る。第1のモードでは、動きベクトルは、(いずれの次元でも)整数ピクセルに制限されないが、第2のモードでは、動きベクトルは、少なくとも1つの次元(実施形態によっては双方の次元)において整数ピクセルに制限される。コントローラは、現在符号化されている動画データが画面キャプチャストリームを備えると判断したことに応じて、動き予測モジュールを第2のモードに切り替えるように構成される。
例えば動画データは、画面キャプチャストリーム及びビデオストリームを備えることがある(例えばこれらは、インターネットのようなパケットベースのネットワーク上で実施される呼のライブストリームであってよく、あるいは後の再生が意図されるストリームを格納してもよい)。動画データの一部のフレームが画像キャプチャストリームのフレームであり、他の時間には、動画データのそのフレームがビデオフレームである可能性があり、あるいは各フレーム内の異なる領域が、それぞれ画像キャプチャストリームとビデオストリーム(例えば異なるスライス)を備える可能性がある。そのようなケースに適応するために、コントローラは、現在符号化されている動画データが画面キャプチャストリームであるか又はビデオストリームであるかを判断し、画面キャプチャについては第2のモードに、ビデオについては第1のモードに動き予測モジュールを設定するように構成され得る。あるいは、別の例として、画面キャプチャデータストリームとビデオストリームが同じフレームの一部の異なる領域に含まれる場合、コントローラは、フレームが少しでも画面キャプチャデータを含む場合には、第2のモードを選択し、そうではなく、フレームが画面キャプチャデータを含まない場合にのみ第1のモードを選択するように構成されてよく;あるいは反対に、コントローラは、フレームが画面キャプチャデータのみを含みビデオは含まない場合には、第2のモードに切り替え、そうではなく、フレームが少しでもビデオを含む場合には第1のモードを選択するように構成されてもよい。
この発明の概要は、以下の発明の詳細な説明において更に説明される概念の選択を簡単な形で紹介するために提供される。この発明の概要は、特許請求に係る主題の主要な特徴又は本質的な特徴を特定するようには意図されておらず、特許請求に係る主題の範囲を限定するよう使用されることも意図されていない。特許請求に係る主題は、本明細書で指摘される欠点のいずれか又は全てを解決する実装にも限定されない。
本開示の理解を助け、実施形態を実施する方法を示すために、例として添付の図面への参照を行う。
ビデオストリームの概略的な表現である。 通信システムの概略的なブロック図である。 符号化ビデオストリームの概略的な表現である。 エンコーダの概略的なブロック図である。 デコーダの概略的なブロック図である。 インターフレーム符号化スキームの概略的な表現である。 別のインターフレーム符号化スキームの概略的な表現である。
図1は、カメラからキャプチャされ、符号化ビットストリームを生成するようビデオエンコーダによって符号化される空間区分(spatial division)に分割される、入力ビデオ信号の概略図を提供する。信号は、時間で複数のフレーム(F)に分割されるビデオ動画を備え、各フレームは、時間内のそれぞれ異なる瞬間(…t-1、t、t+1…)における画像を表す。各フレーム内では、フレームは、各々が複数のピクセルを表す複数の区分へ空間で分けられる。これらの区分は、ブロックとも呼ばれる。特定のスキームでは、フレームは、異なるブロックレベルに分割及びサブ分割される。例えば各フレームはマクロブロック(MB)に分割され、各マクロブロックはブロック(b)に分割され得る。例えば各ブロックは、フレーム内の8×8ピクセルの領域を表し、各マクロブロックは、2×2ブロック(16×16ピクセル)の領域を表す。特定のスキームでは、各フレームを、独立に復号可能なスライス(S)へ分割することもでき、各スライスが複数のマクロブロックを備える。スライスSは、一般に任意の形状を取ってよく、例えば各スライスはマクロブロック内の1つ以上の行とすることができ、あるいは(例えば画像内の関心領域ROIに対応する)マクロブロックのイレギュラーな又は任意に定義される選択である。
「ピクセル」という用語に関して、以下では、この用語は、ピクチャアレイのサンプリンググリッド内のサンプル及びサンプリング位置を示すのに使用される(文献では時々、代わりに、「ピクセル」という用語を使用して、1つの単一の空間的位置に対応する3つの色成分すべてを指し、時々、単一のアレイ内の単一の位置又は単一の整数サンプル値を指すのに使用される)。サンプリンググリッドの解像度は、ルマ・サンプリングアレイとクロマ・サンプリングアレイとの間で異なることが多い。実施形態では、以下は、4:4:4表現に適用され得るが、潜在的には、例えば4:2:2及び4:2:0にも適用され得る。
任意の所与の規格はブロック又はマクロブロックという用語に特有の意味を与えるが、ブロックという用語は、多くの場合、当技術分野ではより一般的に、イントラ予測又はインター予測のような符号化及び復号動作が実行されるレベルにおけるフレームの区分を指すことにも使用され、そうでないことが特に記載されない限り、本明細書で使用されることになるのは、このより一般な意味であることに留意されたい。例えば本明細書で参照されるブロックは、実際には、H.26x規格ではブロック又はマクロブロックと呼ばれる区分である可能性があり、様々な符号化及び復号段階は、渦中の符号化モード、アプリケーション及び/又は規格に適切であるように、任意のそのような区分のレベルで動作することができる。
キャプチャされる入力信号内のブロックは、通常、空間領域で表され、各色空間チャネルは、ブロック内の空間位置に応じて表される。例えばYUV色空間では、ルミナンス(Y)及びクロミナンス(U,V)チャネルの各々を、デカルト座標x及びyの関数として表すことができる:Y(x,y)、U(x,y)及びV(x,y)。あるいはRGB色空間では、赤(R)、緑(G)及び青(B)チャネルの各々を、デカルト座標の関数として表すことができる:R(x,y)、G(x,y)及びB(x,y)。この表現では、色空間の各チャネルがピクセル位置の別個のセットの各々におけるそのチャネルのそれぞれの規模に関して表されるように、各ブロック又は部分は、異なる空間座標、例えばx及びy座標おけるピクセル値のセットによって表される。
しかしながら、量子化に先行して、ブロックを、符号化プロセスの一部として変換領域表現に、典型的には空間周波数領域表現(時々、単に周波数領域とも呼ばれる)に変換することができる。周波数領域では、ブロック内の各色空間チャネルは、二次元のうちの各次元で空間周波数の関数(1/長さの次元)として表される。例えばこれを、それぞれ水平及び垂直方向における波数kx及びkyによって示すことができ、その結果、チャネルを、YUV空間ではY(kx,ky)、U(kx,ky)及びV(kx,ky)として表し、RGB空間ではR(kx,ky)、G(kx,ky)及びB(kx,ky)として表すことができる。したがって、ピクセル位置の別個のセットの各々における規模に関して色空間チャネルを表す代わりに、変換は、ブロックを形成する空間周波数成分の別個のセットの各々に関連付けられる係数に関して、すなわちブロックにわたる空間変動の異なる周波数に対応する空間周波数項(term)の別個のセットの各々の振幅に関して、各色空間チャネルを表す。そのような変換の可能性は、フーリエ変換、離散コサイン変換(DCT)、カルーネン・レーベル変換(KLT)又は他のものを含む。
図2のブロック図は、本開示の技術を用いることができる通信システムの例を提供する。通信システムは、第1の送信端末12と、第2の受信端末22を備える。例えば各端末12、22は、携帯電話又はスマートフォン、タブレット、ラップトップコンピュータ、デスクトップコンピュータ、あるいはテレビジョンセット、セットトップボックス、ステレオシステム等のような他の家庭用機器のうちの1つを備え得る。第1及び第2の端末12、22はそれぞれ通信ネットワーク32に動作可能に結合され、これにより第1の送信端末12は、第2の受信端末22によって受信されることになる信号を送信するように構成される。当然、送信端末12は、受信端末22から信号を受信する能力も有することができ、またその逆もあり得るが、説明の目的で、本明細書では送信については第1の端末12の観点から説明し、受信については第2の端末22の観点から説明する。通信ネットワーク32は、例えばワイドエリアインターネット及び/又はローカルエリアネットワークのようなパケットベースのネットワーク、並びに/あるいは携帯電話ネットワークを備え得る。
第1の端末12は、フラッシュメモリ若しくは他の電子メモリ、磁気ストレージデバイス及び/又は光ストレージデバイスのようなコンピュータ読取可能記録媒体14を備える。第1の端末12は、1つ以上の実行ユニットを有するプロセッサ又はCPUの形の処理装置16、トランスミッタ(Tx)18を有する有線又は無線モデムのようなトランシーバ、ビデオカメラ15及び画面17(すなわち、ディスプレイ又はモニタ)も備える。カメラ15及び画面17の各々は、端末12の残りの部分として同じケーシング内に収納されてもよく、あるいは収納されなくてもよい(さらにトランスミッタ18は内蔵であっても外付けであってもよく、例えば後者の場合にはドングル又は無線ルータを備える)。記録媒体14、ビデオカメラ15、画面17及びトランスミッタ18はそれぞれ、処理装置16に動作可能に結合され、トランスミッタ18は、有線又は無線リンクを介してネットワーク32に動作可能に結合される。同様に、第2の端末22は、電子、磁気及び/又は光ストレージデバイス等のようなコンピュータ読取可能記録媒体24と、1つ以上の実行ユニットを有するCPUの形の処理装置26を備える。第2の端末は、少なくともレシーバ(RX)28を有する有線又は無線モデムのようなトランシーバと、端末22の残りの部分として同じケーシング内に収納されても、収納されなくてもよい画面25を備える。第2の端末の記録媒体24、画面25及びレシーバ28は各々、それぞれの処理装置26に動作可能に結合され、レシーバ28は有線又は無線リンクを介してネットワーク32に動作可能に結合される。
第1の端末12上のストレージ14は、動画データを符号化するために少なくともエンコーダを格納する。エンコーダは、それぞれの処理装置16上で実行されるよう構成される。実行されると、エンコーダは、ビデオカメラ15から「生の」(符号化されていない)入力ビデオストリームを受け取り、このビデオストリームを、より低ビットレートのストリームに圧縮するように符号化するよう動作可能であり、トランスミッタ18及び通信ネットワーク32を介して第2の端末22のレシーバ28へ送信するために符号化ビデオストリームを出力する。第2の端末22上のストレージ24は、自身の処理装置26上で実行されるよう構成されるビデオデコーダを少なくとも格納する。実行されると、デコーダは、レシーバ28から符号化ビデオストリームを受け取り、画面25への出力のためにこの符号化ビットストリームを復号する。
エンコーダ及びデコーダは、画面共有ストリームを含め、他のタイプの動画データを符号化及び復号するようにも動作可能である。画面共有ストリームは、符号化側で画面17からキャプチャされる画像データであり、これにより、1以上の他のリモートのユーザは、符号化側のユーザが画面上で何を見ているかを知ることができ、あるいはその画面のユーザは、1人以上の他のユーザに対して後に再生するために、画面上で起こっていることを記録することができる。送信端末12と受信端末22との間で実施される呼の場合、送信端末12の画面17の動画コンテンツ(moving content)が、受信端末22の画面25上で復号及び表示されるように、ライブ(リアルタイム)で符号化されて送信されることになる。例えばエンコーダ側のユーザは、そのユーザがオペレーティングシステムのデスクトップ又は何らかのアプリケーションをどのように動かしているかを、別のユーザと共有したいことがある。
画面共有ストリームが画面等からキャプチャされると言う場合、これは、そのようにするための任意の特定の機構に限定しないことに留意されたい。例えばデータは、画面17の画面バッファから読み取られる可能性があり、あるいはデータは、画面17における表示のためにオペレーティングシステム又はアプリケーションから出力される同じグラフィカルデータのインスタンスを受け取ることによって、キャプチャされる可能性がある。
図3は、送信端末12上で動作しているエンコーダから受信端末22上で動作しているデコーダへ送信されるであろう符号化ビットストリーム33の概略的な表現を提供する。ビットストリーム33は、フレーム又はスライスごとに符号化済み画像データ34を備え、符号化済み画像データ34は、任意の関連する動きベクトルとともに、そのフレーム又はスライスのブロックについての符号化サンプルを備える。一適用では、ビットストリームは、送信端末12と受信端末22との間のVoIP呼のような、ライブ(リアルタイム)の呼の一部として伝送され得る(VoIP呼は、ビデオ及び画面共有も含むことができる)。ビットストリーム33は、各フレーム又はスライスに関連付けられるヘッダ情報36も備える。実施形態では、ヘッダ36は、以下でより詳細に説明されるように、少なくとも1つのフラグ37の形で、動きベクトルの解像度を示す少なくとも1つの追加の要素を含むように構成される。
図4は、送信端末12上で実装されるような、エンコーダを示すブロック図である。エンコーダは、離散コサイン変換(DCT)モジュール51、量子化器(Q)53、逆変換モジュール61、逆量子化器63、イントラ予測モジュール41、インター予測モジュール43、スイッチ47、減算段階(−)49及び可逆符号化段階65を備える主符号化モジュール40を備える。エンコーダは更に、インター予測モジュール43に結合される制御モジュール50を備える。これらのモジュール又は段階の各々は、送信端末の記録媒体14上に格納され、その処理装置16における実行のために構成されるコードの一部として実装され得るが、これらの一部又は全てが全体又は部分的に専用のハードウェア回路内で実装される可能性は除外されない。
減算段階49は、複数のフレーム(F)にわたる複数のブロックを備える入力信号のインスタンスを受け取るように構成される。入力ストリームは、カメラ15から受け取られるか、画面17上に表示されているものからキャプチャされる。イントラ又はインター予測41、43は、別の既に符号化されているブロック又は対応するサイズの参照部分からの予測に基づいて、符号化されるべき現在の(ターゲット)ブロックの予測バージョン(predicted version)を生成する。予測バージョンは、減算段階49の入力に供給され、減算段階49では、空間領域の入力信号(すなわち、実際の信号)から減算されて、ブロックの予測バージョンと、実際の入力信号内に対応するブロックとの間の差を表す残差信号が生成される。
イントラ予測モードでは、イントラ予測41は、同じフレームの別の既に符号化されているブロック、典型的には近傍ブロックからの予測に基づいて、符号化されるべき現在の(ターゲット)ブロックの予測バージョンを生成する。イントラフレーム符号化を実行するときは、フレーム内の画像データの或る部分が、同じフレーム内の別の部分とどのように異なるかについての指標(measure)のみを符号化して送信することがその狙いである。次いで、その部分を(開始する何らかの絶対データ(absolute data)を所与として)デコーダで予測することができ、したがって、その実際のデータ自体ではなく、予測と実際のデータとの間の差を送信すれば良いだけである。差分信号は典型的に、大きさがより小さいので、符号化にかかるビットはより少ない(これは可逆圧縮段階65の動作に起因する−以下を参照されたい)。
インター予測モードでは、インター予測モジュール43は、現在のブロックとは異なるフレームの別の既に符号化されている参照部分からの予測に基づいて、符号化されるべき現在の(ターゲット)ブロックの予測バージョンを生成する。参照部分は、ブロックのサイズを有するが、インター予測モジュール43によって予測される、動きベクトルによる空間領域内のターゲットブロックに対するオフセットである(インター予測は、動き予測又は動き推定と呼ばれることもある)。インター予測モジュール43は、空間領域内において、ターゲットフレーム以外の1つ以上のフレーム内のそれぞれの可能性のある複数の動きベクトルによってオフセットされる複数の候補参照部分を検索し、適切なメトリックに従ってターゲットブロックに対して残差を最小にする候補を選択することによって、所与のターゲットブロックについて最適な参照を選択する。インター予測モジュール43は、スイッチ47により、イントラフレーム予測段階41の代わりにフィードバック経路へ切り替えられ、したがって、イントラフレームを他のフレームのものに対して符号化するために、あるフレームと別のフレームのブロックの間にフィードバックループが作成される。すなわち、残差はここでは、インター予測ブロックと実際の入力ブロックとの間の差を表す。これは典型的に、イントラフレーム符号化よりも、符号化すべきビットはより少ない。
する。
残差信号(予測が入力信号から減算された後の残差ブロックを備える)は、減算段階49から、残差値を周波数領域に変換する変換(DCT)モジュール51(又は他の適切な変換)を通って、変換された値を実質的に離散量子化インデックス(discrete quantization indices)に変換する量子化器53へと出力される。変換モジュール51及び量子化モジュール53によって生成される残差の量子化されて変換されたインデックス、並びに予測モジュール41、43において使用される予測の指示及びインター予測モジュール43によって生成される任意の動きベクトルは、すべて、符号化ビデオストリーム33に含まれるように出力されるが(図3の要素34を参照されたい)、その際に、ゴロムエンコーダ又はエントロピーエンコーダ等の可逆符号化段階65を更に経由し、この可逆符号化段階65において、動きベクトル及び変換及び量子化されたインデックスが、当技術分野で公知の可逆符号化技術を使用して更に圧縮される。
量子化されて変換された信号のインスタンスはまた、逆量子化器63及び逆変換モジュール61を通ってフィードバックされ、以前に符号化されたブロックの逆量子化及び逆変換されたバージョンに基づいて、符号化されている現在のターゲットブロックを予測した方法と同じ方法で、符号化されるべき後続のブロックを予測する際に、選択された予測モジュール41又は43により使用するために、(デコーダにおいて見られるような)ブロックの予測バージョンを生成する。スイッチ47は、現在符号化されているフレーム又はブロックに使用される符号化に適切であるように、逆量子化器63の出力をイントラ予測モジュール41又はインター予測モジュール43のいずれかの入力へ渡すように構成される。
図5は、受信端末22上で実装され得るようなデコーダを例示するブロック図である。デコーダは、可逆符号化の逆95と、逆量子化段階83と、逆DCT変換段階81と、スイッチ70と、イントラ予測段階71及び動き補償段階73を備える。これらのモジュール又は段階の各々は、受信端末の記録媒体24上に格納され、その処理装置26における実行のために構成されるコードの一部として実装され得るが、これらの一部又は全てが全体又は部分的に専用のハードウェア回路内で実装される可能性は除外されない。
逆量子化器83は、符号化信号33を、エンコーダからレシーバ28及び逆の可逆符号化段階95を介して受け取るように構成される。逆量子化器83は、符号化信号内の量子化インデックスを、(残差ブロックを備える)残差信号の逆量子化(de-quantize)されたサンプルへと変換し、逆量子化されたサンプルを、逆DCTモジュール81に渡し、逆DCTモジュール81では、これらのサンプルを、周波数領域から空間領域へと戻すよう変換する。スイッチ70は次いで、逆量子化された空間領域残差サンプルを、復号されている現在のフレーム又はブロックに使用される予測モードに適切であるように、イントラ予測モジュール71又はインター予測モジュール73に渡し、イントラ予測モジュール71又はインター予測モジュール73はそれぞれ、イントラ又はインター予測を使用してブロックを復号する。どのモードを使用すべきかは、符号化ビットストリーム33内の符号化サンプル34とともに受け取られる任意の動きベクトル及び/又は予測の指示を使用して決定される。この段階から続いて、復号されたブロックが出力され、受信端末22における画面25を通して再生されるようになる。
説明したように、従来の規格に従うコーデックは、四分の一のピクセルの解像度で動き予測を実行し、これは、動きベクトルが四分の一のピクセルステップに関して表されることも意味する。四分の一のピクセル解像度の動き推定の例が図6に示されている。この例では、ターゲットブロックの左上の角にあるピクセルpが、ピクセルa、b、c及びdの間の補完から予測され、ターゲットブロックの他のピクセルも、あるフレームのターゲットブロックと、他のフレーム内の参照部分との間のオフセットに従って、参照フレーム内のピクセルのそれぞれのグループ間の同様の補完に基づいて予測されることになる(これらのブロックは図6では太字の破線で示されている)。しかしながら、以下に説明されるように、この粒度で動き推定を実行することは重要性を有する。
可逆コーダ65及びデコーダ95を参照すると、可逆符号化は、(量子化のように)情報を捨てることによるのではなく、可逆符号化段階65によって符号化されることになるデータ内で、異なる値が生じる可能性がどの程度か又はどの程度頻繁に生じるかに応じて、異なる長さのコードワードを使用して異なる値を表することによって機能する、圧縮形式である。例えばコードワード内で1にぶつかる前の先頭の0の数は、コードワードの長さを示し、したがって、1が最も短いコードワードであり、010、011が次に短く、その後に00100等と続いていくことになる。したがって、最も短いコードワードは、均一のコードワード長を使用した場合に必要とされることになる長さよりもかなり短いが、最も長いものはそれよりも長い。しかし、最も頻繁な値又は最も可能性の高い値を最も短いコードワードに割り当て、最も可能性が低い又は生じる頻度が最も少ない値のみを長いコードワードに割り当てることによって、結果として得られるビットストリーム33は、均一のコードワード長を使用した場合よりも、符号化される値ごとに必要とするビット数は少なく、したがって、いずれかの更なる情報を破棄する必要なしに、圧縮を達成することができる。
可逆符号化段階65に先行するエンコーダ40の多くは、可逆符号化段階65を通過する前に、できるだけ多くの値を可能な限り小さくするように設計される。値がより頻繁に生じると、より小さな値は、より大きな値よりも符号化ビットストリーム33内において低いビットレートを招くことになる。これが、絶対サンプル(absolute sample)とは対照的に残差を符号化する理由である。また、多くのサンプルが変換領域のゼロ又は小さな係数へと変換する傾向があるので、これは変換51の背後にある根拠でもある。
同様の検討を、動きベクトルの符号化に適用することができる。
例えばH.264/MPEG-4 Part10及びH.265/HEVCでは、動きベクトルは、指数ゴロム符号で符号化される。以下の表は、動きベクトル値及び符号化ビットを示す。
値 コードワード 発生するビット数
0 1 1
1 010 3
2 011 3
3 00100 5
4 00111 5
5 0001000 7
・・・
上記の表から、値が大きいほど、より多くのビットが使用されることがわかる。これは、動きベクトルの解像度がより高いほど、より多くのビットが必要とされることを意味する。例えば四分の一のピクセル解像度では、1ピクセルのオフセットは、値4で表さなければならず、符号化ビットストリームの5ビットを必要とする。
(カメラからキャプチャされる)ビデオの符号化では、より精細な解像度が、より低いコストの残差参照の検索においてより良い機会を提供するので、動きベクトルにおけるこの解像度のコストは、価値がある可能性がある。しかしながら、ここでは、画面からキャプチャされる動画について、空間変位の大部分が、フルピクセル変位となる傾向があり、これらのほんの一部が分数ピクセル位置となる傾向があるので、動きベクトルの大部分が、整数のピクセル値を指す傾向があり、分数ピクセル値を指すものは非常に少ないことが観察される。
そのような基準において、1ピクセル解像度の画面からキャプチャされる画像データの動きベクトルを符号化することが望ましいことがある。そのようなコンテンツについて動きベクトルの分数部分(端数部分(fractional parts)に対してビットを費やす必要がないという事実を考慮すると、これは、そのようなコンテンツを符号化する際に必要とされるビットレートを減らすことができることを意味する。
例えばエンコーダは通常、1/4ピクセルのオフセット単位でビットストリーム内の動きベクトルを解釈するが、エンコーダは実際には、しばしば、この解像度を諦めて、代わりに、画像符号化アプリケーションの動きベクトルを整数のピクセルオフセット単位で符号化することによって、ビットレートを節約することが可能である。動きベクトルの精度を4倍減らすことになるが、そのような精度は一般に、画面共有又は記録アプリケーションにとっては価値が低く、また、これはベクトルを符号化するのに必要なビット数を減らす。現在の(ターゲット)ブロックを、そのターゲットブロックの1ピクセル左の参照ブロックから予測するために、動きベクトルは(4,0)の代わりに(1,0)となるであろう。上記のゴロム符号化を使用すると、これは、動きベクトルを符号化するために必要とされるビットが、(00111,1)から(010,1)に変化し、したがってこの場合、2ビットが節約されることを意味する。
さらに、減少した解像度の動きベクトルは、動きベクトルの検索を整数値に制限し、したがって検索によって発生する処理リソースを減らすことによって、エンコーダにおいて実行される動き推定の複雑性も減らすことができる。あるいは、通常の検索を実行して、結果として得られる動きベクトルを丸めて整数値にすることも可能であろう。
図7は、全体のピクセルの解像度のみに制約される動き予測の例を示す。この場合、動きベクトルは、全体のピクセルステップのみに制約される。図6とは対照的に、ピクセルpは、補間なしに単一の全体のピクセルのみから予測される。あるいは、(やはり太い破線で示される)あるフレーム内のターゲットブロックと、他のフレーム内に参照部分との間のオフセットに応じて、ピクセルb、c、d又は別のピクセルから予測された可能性もあるが、制約に起因して、ピクセル間の補完からは予測することはできない。なお、任意の所与のブロックについて、図6の例に図示されるような四分の一ピクセル予測は、最も低い残差を与えた場合、偶然に、補間を伴わない全体的なピクセルオフセットを生成する可能性があることに留意されたい。しかしながら、そのようにすることには制約されず、サイズ調整可能な画像に対して、それがすべてのブロックについて起こることは全くありそうにないことである。
分数の動きベクトル値が、カメラキャプチャされたコンテンツにとってやはり非常に有益な可能性があることを考えると、諸実施形態において、エンコーダ40に、動き予測モジュール43と結合されるコントローラ50を提供する。コントローラ50は、柔軟な方法で動きベクトルの解像度を選択するように構成され、ソースデータが、キャプチャされた画面17からのものであり、分数のピクセル動きが存在しないとき、動きベクトルを、全体のピクセル単位のみで符号化して送信するが、カメラコンテンツのビデオについては、やはり動きベクトルを分数のピクセル精度で符号化して送信する。
これを行うために、コントローラ50は、キャプチャされているコンテンツのタイプが画面コンテンツであるという事実を示す、性能ヒューリスティックを測るように構成され得る。それに応じて、次いで、画面コンテンツ符号化のために分数ピクセル動き補償を無効にする。あるいは、コントローラ50は、符号化のためにエンコーダに供給しているのはどのタイプのデータであるかに関して、アプリケーション又はオペレーションシステムから指示を受け取ることがあり、コントローラ50は、これに基づいてモード間を選択することができる。別のオプションとして、履歴データに基づいてその選択を行うことができる。選択は1フレームごとに行うことができ、あるいは、モードは、フレーム内の異なる領域について個々に、例えば1スライスごとに個々に選択されてもよい。
したがって、フレーム又はスライスを符号化する前に、エンコーダは、履歴統計データ、そのタイプのアプリケーションの知識、マルチパス分析又は何らかの他のそのような技術等のファクタに基づいて、動きベクトル解像度を決めることができる。エンコーダが、フルピクセルの動き推定のみを使用すると決めた場合、分数のピクセル検索はスキップされる。スケーリングされた動きベクトル予測が分数部分を有する場合、予測は整数値に丸められる。
更なる実施形態では、コントロールは、任意選択で、ベクトルの垂直成分又は水平成分に対して個別に適用されてもよい。これは、水平又は垂直にスケーリングされる画面ビデオの符号化にとって有益であり得る。
整数ピクセルの単位又はステップの減少された解像度スケールで動きベクトルを表し、したがって、従来的なコーデックにわたって関連するビットレートの節約を達成するために、動きベクトルを信号伝達するためのプロトコルは、将来のコーデック規格のために更新されなければならないであろう。諸実施形態では、これは、H.265(HEVC:(High Efficiency Video Coding))規格に対する更新として実装され得る。キャプチャされる画面コンテンツを符号化するために、符号化データ34のフォーマットには、各動きベクトルについて、減少したサイズの動きベクトルのフィールドが与えられるであろう。整数ピクセルモードで符号化される符号化画面キャプチャストリームでは、関連するデータ34は、ビットストリーム33内の整数の動きベクトルを備え、実施形態によってはビットストリーム33内の整数の動きベクトルのみを備えるであろう。
実施形態においては、これは任意選択であり、ヘッダ36に含まれるフラグ37を用いて、関連するフレーム又はスライスの符号化に分数ピクセル(例えば1/4ピクセル)解像度が使用されているのか整数ピクセル解像度が使用されているのかを示す(再び図3を参照されたい)。水平及び垂直解像度を別個に選択することができる場合、フレーム又はスライスに対して、2つのフラグ37が必要とされるであろう。
あるいは、実施形態によっては、必ずしも、整数ピクセルベクトルを実装するために既存の規格のプロトコルを更新する必要がない。代わりに動きベクトルは整数オフセットに制限され得るが、それでもなお、これらの整数の動きベクトルを、従来の分数(例えば1/4ピクセル)スケールの符号化ビットストリーム33で表すことができる。したがって、1/4ピクセル解像度の場合、1つの全体のピクセルのオフセットはやはり、従来的な方法で、値4(例えばコードワード00111)によって表されることになるが、エンコーダで適用される制約に起因して、例えばピクセルの3/4が、値3(例えばコードワード00100)によって表される可能性はないであろう。この場合、整数の動きベクトルのビットレートの節約は達成されないが、動きベクトル検索の複雑性を整数オフセットに制限することによって、処理リソースは依然として節約され得る。
以下に、H.265規格に対する更新に基づく例示の実施形態を開示する。修正は、動きベクトルを、符号化ビットストリーム33内の減少した整数のピクセルスケールで表すことを可能にし、水平及び垂直成分の動きベクトルの解像度を伝達するために、圧縮されたストリームのヘッダ情報36にスライスごとに2つのフラグ3を追加する。
修正は、必ずしもシンタックス又は解析プロセスを変更する必要はないが、動きベクトルの差を整数として解釈し、スケーリングされたMV予測因子を丸めて整数値にすることによって、復号プロセスを修正する。修正は、テストされる画面コンテンツシーケンスについて、符号化効率を7%ほど、平均で約2%向上させることがわかっており、したがって、符号化及び復号プロセスの複雑性も低減させることができる。
動きベクトルの解釈の解像度を示す高レベルのインジケータが(SPS、PPS及び/又はスライスヘッダレベルで)追加される。
復号プロセスでは、動きベクトルはフルピクセル解像度であるよう指示され、スケーリングされた動きベクトル予測が分数部分を有する場合、予測は整数値に丸められる。動きベクトルの差は、1/4−サンプルオフセットではなく、整数オフセットとして簡単に解釈される。すべての他の復号プロセスは同じままである。(ヘッダレベルより下の)解析プロセスも変更されない。動きベクトルが、フルサンプル精度で符号化され、入力画像データが4:4:4又は4:2:0サンプリングを使用するとき、クロマ動きベクトルは通常のやり方で導出され、これは1/2−サンプルクロマ動き変位を生じることになる。あるいは、クロマ動きベクトルは、整数値に丸められてもよい。
上述のスケーリングは、HEVC(H.265)で起こるものである。動きベクトルが何らかの他のフレームを符号化するために使用される場合、何が、(i)現在のピクチャと、(ii)その参照ピクチャとの間の相対的な位置変位に関して等価なものとなる動きベクトルとなるかを計算することができることが狙いである。これは、別のピクチャの共同配置される(co-located)部分内の動きベクトルによって示される変位の相対的な位置に基づいており、また、(iii)そのピクチャと、(iv)その参照ピクチャとして参照していたピクチャとの間の相対的な位置に基づいている。なお、符号化データの時間的な(temporal)フレームレートは常に一定ではなく、ピクチャがビットストリーム内に符号化される順番と、そのピクチャがキャプチャされて表示される順番との間には差がある可能性があるので、基本的に同じ方向の同じ動きの速さを表すよう、これらの時間的な関係を計算して、動きベクトルをスケーリングするのに使用することができることに留意されたい。これは、時間的な動きベクトル予測(temporal motion vector prediction)としても知られる。
常に整数動きのみを使用して、時間的な動きベクトル予測を無効にするという別の可能性もあり得る。エンコーダにその機能の使用を無効にさせるHEVCのシンタックスが既に存在する。それは、差が整数として符号化されるか、分数値として部号化されるかに応じて異なるように動作する特別なプロセスを、デコーダに持たせる必要性を回避するためにあり得る方法であろう。時間的動きベクトル予測から得られる利益は、これらの使用ケースではいずれにしても小さく(又はゼロ)、これを無効にすることは、必ずしも望ましくないことはない。
シンタックスの変更に関して:新たな2ビットのインジケータが含まれることになり、これらは、motion_vector_resolution_control_idcと呼ばれ、PPS拡張で動きベクトル解像度制御モードを示すことがある。3つのモードが定義される。モードが0のとき、動きベクトルは1/4ピクセル精度で符号化され、すべての復号プロセスは変更されないままである。モードが1であるとき、PPSを参照するスライス内の動きベクトルのすべてが、フルピクセル精度で符号化される。そして、モードが2のとき、動きベクトル解像度は、スライスヘッダ内のフラグによって、スライスごとの単位で制御される。motion_vector_resolution_control_idcが存在しないとき、その値は0と推論される。
motion_vector_resolution_control_idcが2に等しいとき、slice_motion_vector_resolution_flagと呼ばれる追加のフラグがスライスヘッダ内で信号伝達される。フラグがゼロのとき、このスライスの動きベクトルは、1/4ピクセル精度で符号化され、フラグが1のとき、動きベクトルはフルピクセル精度で符号化される。フラグが存在しないとき、その値はmotion_vector_resolution_control_idcの値に等しいと推論される。
修正されたPPSシンタックスは、次のように例示される:
Figure 0006576351
修正されたスライスヘッダシンタックスは、次のように例示される:
Figure 0006576351
上記の実施形態は、単に例として説明されていることが認識されよう。
例えば上記は、ブロックに関して説明されているが、これは必ずしもいずれかの特定の規格においてブロックと呼ばれる区分に限定されない。例えば本明細書で言及されるブロックは、H.26x規格でブロック又はマクロブロックと呼ばれる区分であってもよい。
任意の特定のコーデック又は規格に限定されている本開示の範囲、一般的には本明細書で開示される技術を、H.264又はH.265のようなH.26x規格又は任意の別の規格であるかどうかに関わらず、既存の規格又は既存の規格に対する更新のコンテキストのいずれかにおいて実装することができ、あるいは特注のコーデックで実装してもよい。さらに本開示の範囲は、RGB、YUV又は他のものに関するかどうかに関わらず、ビデオサンプルについてのいずれかの特定の表現に特に制限されない。また、その範囲はいずれかの特定の量子化に限定されず、DCT変換にも限定されない。例えばKL変換(KLT:Karhunen-LoeveTransform)のような代替的な変換を使用することができ、あるいは変換を使用しなくてもよい。さらに、本開示は、VoIP通信やいずれかの特定の種類のネットワークを介する通信に限定されないが、データを通信する能力を有するいずれかの任意のネットワーク又は媒体において使用することも可能である。
動きベクトルオフセットが、整数のピクセル等に制限される又は制限されないと言う場合、これは、色空間チャネルのうちのいずれか1つ又は2つにおける動き推定、あるいは3つの色チャネルすべてにおける動き推定を指すことがある。
さらに、特許請求に係る実施形態は、符号化ビデオ及び/又は画面キャプチャストリームがネットワークを介して送信される適用に限定されず、ストリームがライブストリームである適用にも限定されない。例えば別の適用では、ストリームは、光ディスク、ハードドライブ又は他の磁気ストレージ、あるいは「フラッシュ」メモリスティック又は他の電子メモリのような、ストレージデバイス上に格納され得る。したがって、画面共有ストリームは、(確かに1つのオプションではあるが)必ずしもライブシェアリングを意味する必要はないことに留意されたい。あるいはまた、後に1以上の他のユーザと共有するために格納されてもよく、あるいは、キャプチャされた画像は共有されずに、ある時間に画面を使用していたユーザのために単に記録されればよいこともある。一般に、画面キャプチャは、(確かに1つのオプションではあるが、必ずしも画面バッファからの読み取りではなくてよい)任意の適切な手段によってキャプチャされる、キャプチャされたエンコーダ側の画面コンテンツからなる任意の動画データであってよく、1以上の他のユーザと(ライブであってもなくてもよい)共有されるか、キャプチャしているユーザの利益のため又は単にアーカイブのために(恐らくはターンアウトされると、実際には再び見ることはできない)単に記録されることになる。
コーデックは、必ずしも画面キャプチャデータ及びビデオの符号化に限定されないことに留意されたい。実施形態によっては、コーデックは、他のタイプの動画データ、例えばアニメーションを符号化する能力を有することがある。そのような他のタイプの動画データは、分数ピクセルモード又は整数ピクセルモードで符号化され得る。他の実施形態では、画面キャプチャストリームのみの符号化に専用であって、固定の整数ピクセル解像度を有する特別なコーデックが実装されてもよい。
さらに、インターフレーム符号化は、必ずしも常に以前のフレームとの相対で符号化する必要はなく、より一般的には、一部のコーデックは、ターゲットフレーム以外の異なるフレーム、すなわち(適切な外部バッファを想定すると)ターゲットフレームの先行フレーム又は前方のフレームに対する符号化を許容することに留意されたい。
さらに、多くの場合、動きベクトル自体を異なるように符号化してもよいことに留意されたい。動きベクトルが整数のピクセル等に制限される場合、これは異なるように符号化された動きベクトルの形式が、そのように制限されることを意味する。
さらに、デコーダは、必ずしもエンドユーザ端末で実装されなくてもよく、受信端末における即時の使用のために、動画データを出力しなくてもよい。代替的な実装では、受信端末は、動画データを復号又はトランスコードされた形で別の端末に出力し、あるいは後の使用のために復号データを格納するため、デコーダソフトウェアを実行するサーバのような中間端末であってよい。同様に、エンコーダは、エンドユーザ端末で実装される必要はなく、送信端末から発信される動画データを符号化する必要がない。他の実施形態において、送信端末は、例えば動画データを未符号化あるいは別の形でコード化された形で別の端末から受け取り、サーバで格納するためにそのデータを符号化又はトランスコードし、あるいは受信端末へ転送するため、円エンコーダソフトウェアを実行するサーバのような中間端末であってよい。
一般に、本明細書で説明される機能はいずれも、ソフトウェア、ファームウェア、ハードウェア(例えば固定の論理回路)又はこれらの実装の組合せを使用して実装され得る。「モジュール」、「機能」、「コンポーネント」及び「ロジック」という用語は、本明細書で使用されるとき、ソフトウェア、ファームウェア、ハードウェア又はその組合せを表す。ソフトウェア実装の場合、モジュール、機能又はロジックは、プロセッサ(例えば1つ又は複数のCPU)で実行されると、指定のタスクを実行するプログラムコードを表す。プログラムコードは、1つ以上のコンピュータ読取可能メモリデバイス内に格納され得る。以下に説明される技術の機能は、プラットフォーム独立であり、これは、本技術が、様々はプロセッサを有する様々な市販のコンピューティングプラットフォーム上で実装され得ることを意味する。
例えば端末は、ユーザ端末のハードウェアに、例えばプロセッサ機能ブロック等のような動作を実行させるエンティティ(例えばソフトウェア)を含み得る。例えば端末はコンピュータ読取可能媒体を含んでよく、コンピュータ読取可能媒体は、ユーザ端末、より具体的にはユーザ端末のオペレーションシステム及び関連するハードウェアに動作を実行させる命令を保持するように構成され得る。したがって、このようにして動作を実行するようにオペレーティングシステム及び関連するハードウェアを構成する命令機能の結果、機能を実行するようオペレーションシステム及び関連するハードウェアの変換につながる。命令は、コンピュータ読取可能媒体により、様々な異なる構成を通して端末へと提供され得る。
コンピュータ読取可能媒体の1つのそのような構成は、信号担持媒体であり、したがって、命令を(例えば搬送波として)ネットワーク等を介してコンピューティングデバイスへ伝送するよう構成される。コンピュータ読取可能媒体は、コンピュータ読取可能記録媒体として構成されてもよく、これは信号担持媒体ではない。コンピュータ読取可能記録媒体の例には、磁気技術、光技術及び命令や他のデータを格納する他の技術を含め、ランダムアクセスメモリ(RAM)、読取専用メモリ(ROM)、光ディスク、フラッシュメモリ、ハードディスクメモリ及び他のメモリデバイスが含まれる。
本主題は、構造的特徴及び/又は方法的動作に特有の言葉で説明されているが、添付の特許請求の範囲で定義される主題は、必ずしも上述の具体的な特徴又は動作に限定されないことを理解されたい。むしろ、上述の具体的な特徴及び動作は、特許請求の範囲を実装する例示の形式として開示される。

Claims (15)

  1. エンコーダにおいて、
    符号化されるフレームのシーケンスを備える動画データを受け取るための入力部であって、各フレームが二次元の複数のブロックを備え、各ブロックが前記二次元の複数のピクセルを備え、前記動画データが、画面キャプチャコンテンツ及び/又はカメラビデオコンテンツを備える、入力部と;
    記動画データを符号化する際に使用して符号化データを生成するための動き予測モジュールであって、
    前記フレームのうちの少なくとも1つのフレームの動きベクトル(MV)精度が領域ごとに制御されるかどうかを決定するステップと、
    前記少なくとも1つのフレームのためのヘッダ内にインジケータの値を設定するステップであって、前記インジケータが前記少なくとも1つのフレームのMV精度が領域ごとに制御されるかどうかを示すステップと、
    前記少なくとも1つのフレームの前記MV精度が領域ごとに制御される場合、前記少なくとも1つのフレームの領域ごとに、
    前記領域のコンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかに少なくとも部分的に基づいて、前記領域のMV精度が整数サンプル精度であるか1/4サンプル精度であるかを決定するステップと、
    前記領域のためのヘッダ内にフラグの値を設定するステップであって、前記フラグが、前記領域のMV精度が整数サンプル精度であるか1/4サンプル精度であるかを示すステップと、
    を含む動作を実行することにより、前記インジケータと、前記少なくとも1つのフレームの前記MV精度が領域ごとに制御される場合には前記少なくとも1つのフレームの領域ごとに、該領域のMV精度を示す前記フラグとを含むビットストリームの一部として、前記符号化データを生成する動き予測モジュールと;
    を備えるエンコーダ
  2. 当該エンコーダは、前記動き予測モジュールを、前記MV精度が整数サンプル精度に制限されない第1のモードと、前記MV精度が少なくとも1つの次元で整数サンプル精度に制限される第2のモードとの間で切り替えるように動作可能なコントローラを備える、
    請求項1に記載のエンコーダ。
  3. 前記コントローラは、前記次元の各々において個々に前記MV精度を適用すべきかどうかを選択するように構成される。
    請求項2に記載のエンコーダ。
  4. 前記ブロックは、H.26xビデオ符号化規格のブロック又はマクロブロックである、
    請求項1乃至のいずれかに記載のエンコーダ。
  5. 前記少なくとも1つのフレームの前記MV精度が領域ごとに制御されない場合、
    前記少なくとも1つのフレームの前記MV精度が整数サンプル精度であるか1/4サンプル精度であるかを決定するステップを更に含み、前記インジケータは更に、前記少なくとも1つのフレームの前記MV精度が整数サンプル精度であるか1/4サンプル精度であるかを示す、
    請求項1に記載のエンコーダ。
  6. 前記少なくとも1つのフレームのための前記ヘッダは、シーケンスパラメータセット(SPS)又はピクチャパラメータセット(PPS)であり、前記領域はスライスであり、前記領域のための前記ヘッダは、スライスヘッダである、
    請求項1に記載のエンコーダ。
  7. 前記動作は更に、
    アプリケーション又はオペレーティングシステムから、前記コンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかを示す指示を受け取るステップ、
    前記コンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかを示す性能ヒューリスティックを測るステップ、
    前記コンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかを示す履歴統計データを決定するステップ、又は
    マルチパス分析を実行して前記コンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかを決定するステップ、
    を含む、請求項1に記載のエンコーダ。
  8. 前記コンテンツタイプが画面キャプチャコンテンツの場合、前記MV精度は整数サンプル精度であり、前記コンテンツタイプがカメラビデオコンテンツの場合、前記MV精度は1/4サンプル精度である、
    請求項1に記載のエンコーダ。
  9. 動画データを符号化するためのコンピュータプログラムであって、実行されると、コンピュータに、
    符号化されるフレームのシーケンスを備える動画データを受け取るステップであって、各フレームが二次元の複数のブロックを備え、各ブロックが前記二次元の複数のピクセルを備え、前記動画データが、画面キャプチャコンテンツ及び/又はカメラビデオコンテンツを備えステップと;
    前記動画データを符号化して符号化データを生成するステップであって、
    前記フレームのうちの少なくとも1つのフレームの動きベクトル(MV)精度が領域ごとに制御されるかどうかを決定することと、
    前記少なくとも1つのフレームのためのヘッダ内にインジケータの値を設定することであって、前記インジケータが前記少なくとも1つのフレームのMV精度が領域ごとに制御されるかどうかを示すことと、
    前記少なくとも1つのフレームの前記MV精度が領域ごとに制御される場合、前記少なくとも1つのフレームの領域ごとに、
    前記領域のコンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかに少なくとも部分的に基づいて、前記領域のMV精度が整数サンプル精度であるか1/4サンプル精度であるかを決定することと
    前記領域のためのヘッダ内にフラグの値を設定することであって、前記フラグが、前記領域のMV精度が整数サンプル精度であるか1/4サンプル精度であるかを示すことと、
    によって、前記インジケータと、前記少なくとも1つのフレームの前記MV精度が領域ごとに制御される場合には前記少なくとも1つのフレームの領域ごとに、該領域のMV精度を示す前記フラグとを含むビットストリームの一部として、前記符号化データを生成するステップと;
    を実行させる、コンピュータプログラム。
  10. 当該コンピュータプログラムは、前記次元の各々において個々に前記MV精度を適用すべきかどうかを選択するように構成される、
    請求項に記載のコンピュータプログラム。
  11. 前記少なくとも1つのフレームの前記MV精度が領域ごとに制御されない場合、前記コンピュータに、
    前記少なくとも1つのフレームの前記MV精度が整数サンプル精度であるか1/4サンプル精度であるかを決定するステップを更に実行させ、前記インジケータは更に、前記少なくとも1つのフレームの前記MV精度が整数サンプル精度であるか1/4サンプル精度であるかを示す、
    請求項9に記載のコンピュータプログラム。
  12. 前記コンピュータに、
    アプリケーション又はオペレーティングシステムから、前記コンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかを示す指示を受け取るステップ、
    前記コンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかを示す性能ヒューリスティックを測るステップ、
    前記コンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかを示す履歴統計データを決定するステップ、又は
    マルチパス分析を実行して前記コンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかを決定するステップ、
    を更に実行させる、
    請求項9に記載のコンピュータプログラム。
  13. 前記コンテンツタイプが画面キャプチャコンテンツの場合、前記MV精度は整数サンプル精度であり、前記コンテンツタイプがカメラビデオコンテンツの場合、前記MV精度は1/4サンプル精度である、
    請求項9に記載のコンピュータプログラム。
  14. 動画データを符号化するためのコンピュータ実施方法であって:
    符号化されるフレームのシーケンスを備える動画データを受け取るステップであって、各フレームが二次元の複数のブロックを備え、各ブロックが前記二次元の複数のピクセル値を備え、前記動画データが、画面キャプチャコンテンツ及び/又はカメラビデオコンテンツを備えるステップと;
    前記動画データを符号化して符号化データを生成するステップであって、
    前記フレームのうちの少なくとも1つのフレームの動きベクトル(MV)精度が領域ごとに制御されるかどうかを決定することと、
    前記少なくとも1つのフレームのためのヘッダ内にインジケータの値を設定することであって、前記インジケータが前記少なくとも1つのフレームのMV精度が領域ごとに制御されるかどうかを示すことと、
    前記少なくとも1つのフレームの前記MV精度が領域ごとに制御される場合、前記少なくとも1つのフレームの領域ごとに、
    前記領域のコンテンツタイプが画面キャプチャコンテンツであるかカメラビデオコンテンツであるかに少なくとも部分的に基づいて、前記領域のMV精度が整数サンプル精度であるか1/4サンプル精度であるかを決定することと、
    前記領域のためのヘッダ内にフラグの値を設定することであって、前記フラグが、前記領域のMV精度が整数サンプル精度であるか1/4サンプル精度であるかを示すことと、
    によって、前記インジケータと、前記少なくとも1つのフレームの前記MV精度が領域ごとに制御される場合には前記少なくとも1つのフレームの領域ごとに、該領域のMV精度を示す前記フラグとを含むビットストリームの一部として、前記符号化データを生成するステップと;
    を含む、方法。
  15. 前記少なくとも1つのフレームの前記MV精度が領域ごとに制御されない場合、
    前記少なくとも1つのフレームの前記MV精度が整数サンプル精度であるか1/4サンプル精度であるかを決定することを更に含み、前記インジケータは更に、前記少なくとも1つのフレームの前記MV精度が整数サンプル精度であるか1/4サンプル精度であるかを示す、
    請求項14に記載の方法。
JP2016545331A 2014-01-08 2014-12-19 画面キャプチャデータの符号化 Active JP6576351B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201461925090P 2014-01-08 2014-01-08
US61/925,090 2014-01-08
US14/530,616 US9942560B2 (en) 2014-01-08 2014-10-31 Encoding screen capture data
US14/530,616 2014-10-31
PCT/US2014/071331 WO2015105661A1 (en) 2014-01-08 2014-12-19 Video encoding of screen content data

Publications (2)

Publication Number Publication Date
JP2017508348A JP2017508348A (ja) 2017-03-23
JP6576351B2 true JP6576351B2 (ja) 2019-09-18

Family

ID=53496197

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016545331A Active JP6576351B2 (ja) 2014-01-08 2014-12-19 画面キャプチャデータの符号化

Country Status (11)

Country Link
US (1) US9942560B2 (ja)
EP (1) EP3075153B1 (ja)
JP (1) JP6576351B2 (ja)
KR (1) KR102271780B1 (ja)
CN (1) CN105900419B (ja)
AU (1) AU2014376189B2 (ja)
BR (1) BR112016015243B1 (ja)
CA (1) CA2935562C (ja)
MX (1) MX360925B (ja)
RU (1) RU2679349C1 (ja)
WO (1) WO2015105661A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9749642B2 (en) 2014-01-08 2017-08-29 Microsoft Technology Licensing, Llc Selection of motion vector precision
US9774881B2 (en) 2014-01-08 2017-09-26 Microsoft Technology Licensing, Llc Representing motion vectors in an encoded bitstream
EP3457694A4 (en) * 2016-05-24 2019-05-22 Huawei Technologies Co., Ltd. IMAGE FORECASTING METHOD AND ASSOCIATED DEVICE
KR102543752B1 (ko) 2016-12-22 2023-06-14 주식회사 케이티 비디오 신호 처리 방법 및 장치
CN108347602B (zh) * 2017-01-22 2021-07-30 上海澜至半导体有限公司 用于无损压缩视频数据的方法和装置
KR102559063B1 (ko) 2017-02-24 2023-07-24 주식회사 케이티 비디오 신호 처리 방법 및 장치
US10674159B2 (en) * 2017-07-28 2020-06-02 Microsoft Technology Licensing, Llc Effective intra encoding for screen data
CN109756739B (zh) * 2017-11-07 2022-09-02 华为技术有限公司 图像预测方法和装置
AU2019296308B9 (en) 2018-06-28 2023-08-03 Huawei Technologies Co., Ltd. Memory access window and padding for motion vector refinement and motion compensation
CN110166770B (zh) * 2018-07-18 2022-09-23 腾讯科技(深圳)有限公司 视频编码方法、装置、计算机设备和存储介质
EP4304181A3 (en) 2019-04-01 2024-02-21 Beijing Bytedance Network Technology Co., Ltd. Using interpolation filters for history based motion vector prediction
BR112022002480A2 (pt) 2019-08-20 2022-04-26 Beijing Bytedance Network Tech Co Ltd Método para processamento de vídeo, aparelho em um sistema de vídeo, e, produto de programa de computador armazenado em uma mídia legível por computador não transitória

Family Cites Families (146)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60158786A (ja) 1984-01-30 1985-08-20 Kokusai Denshin Denwa Co Ltd <Kdd> 画像動き量検出方式
US4661849A (en) 1985-06-03 1987-04-28 Pictel Corporation Method and apparatus for providing motion estimation signals for communicating image sequences
US4661853A (en) 1985-11-01 1987-04-28 Rca Corporation Interfield image motion detector for video signals
EP0294958B1 (en) 1987-06-09 1995-08-23 Sony Corporation Motion compensated interpolation of digital television images
DE3854171T2 (de) 1987-06-09 1995-12-21 Sony Corp Bewertung von Bewegungsvektoren in Fernsehbildern.
EP0424026B1 (en) 1989-10-14 1997-07-23 Sony Corporation Video signal transmitting system and method
JP2712645B2 (ja) 1989-10-14 1998-02-16 ソニー株式会社 動きベクトル伝送方法及びその装置並びに動きベクトル復号化方法及びその装置
US5103306A (en) 1990-03-28 1992-04-07 Transitions Research Corporation Digital image compression employing a resolution gradient
KR950011200B1 (ko) 1990-10-31 1995-09-29 니뽕 빅터 가부시끼가이샤 인터레이스 동화상 신호의 압축 장치
GB2256341B (en) 1991-05-24 1995-02-15 British Broadcasting Corp Video image processing
US5467136A (en) 1991-05-31 1995-11-14 Kabushiki Kaisha Toshiba Video decoder for determining a motion vector from a scaled vector and a difference vector
US5317397A (en) 1991-05-31 1994-05-31 Kabushiki Kaisha Toshiba Predictive coding using spatial-temporal filtering and plural motion vectors
JPH0541862A (ja) 1991-08-03 1993-02-19 Sony Corp 動きベクトルの可変長符号化方式
US5428396A (en) 1991-08-03 1995-06-27 Sony Corporation Variable length coding/decoding method for motion vectors
CA2079434A1 (en) 1991-09-30 1993-03-31 Derek Andrew Motion vector estimation, motion picture encoding and storage
JP2962012B2 (ja) 1991-11-08 1999-10-12 日本ビクター株式会社 動画像符号化装置及びその復号装置
GB2262854B (en) 1991-12-24 1995-05-24 Sony Broadcast & Communication Image processing apparatus
US5594813A (en) 1992-02-19 1997-01-14 Integrated Information Technology, Inc. Programmable architecture and methods for motion estimation
US6441842B1 (en) 1992-02-19 2002-08-27 8×8, Inc. Video compression/decompression processing and processors
US6226327B1 (en) 1992-06-29 2001-05-01 Sony Corporation Video coding method and apparatus which select between frame-based and field-based predictive modes
JP3348310B2 (ja) 1992-09-28 2002-11-20 ソニー株式会社 動画像符号化方法および動画像符号化装置
WO1994022269A1 (en) 1993-03-24 1994-09-29 Sony Corporation Method and apparatus for coding/decoding motion vector, and method and apparatus for coding/decoding image signal
US5442400A (en) 1993-04-29 1995-08-15 Rca Thomson Licensing Corporation Error concealment apparatus for MPEG-like video data
JPH06343172A (ja) 1993-06-01 1994-12-13 Matsushita Electric Ind Co Ltd 動きベクトル検出方法及び動きベクトル符号化方法
US5477272A (en) 1993-07-22 1995-12-19 Gte Laboratories Incorporated Variable-block size multi-resolution motion estimation scheme for pyramid coding
TW283289B (ja) 1994-04-11 1996-08-11 Gen Instrument Corp
US5594504A (en) 1994-07-06 1997-01-14 Lucent Technologies Inc. Predictive video coding using a motion vector updating routine
US5684538A (en) 1994-08-18 1997-11-04 Hitachi, Ltd. System and method for performing video coding/decoding using motion compensation
EP0710033A3 (en) 1994-10-28 1999-06-09 Matsushita Electric Industrial Co., Ltd. MPEG video decoder having a high bandwidth memory
US5623311A (en) 1994-10-28 1997-04-22 Matsushita Electric Corporation Of America MPEG video decoder having a high bandwidth memory
GB2301972B (en) 1995-06-06 1999-10-20 Sony Uk Ltd Video compression
GB2301971B (en) 1995-06-06 1999-10-06 Sony Uk Ltd Video compression
US5825929A (en) 1995-10-05 1998-10-20 Microsoft Corporation Transformation block optimization method
US5929940A (en) 1995-10-25 1999-07-27 U.S. Philips Corporation Method and device for estimating motion between images, system for encoding segmented images
US5991463A (en) 1995-11-08 1999-11-23 Genesis Microchip Inc. Source data interpolation method and apparatus
JP2798035B2 (ja) 1996-01-17 1998-09-17 日本電気株式会社 適応動きベクトル補間による動き補償フレーム間予測方法
US5799113A (en) 1996-01-19 1998-08-25 Microsoft Corporation Method for expanding contracted video images
US5787203A (en) 1996-01-19 1998-07-28 Microsoft Corporation Method and system for filtering compressed video images
US5692063A (en) 1996-01-19 1997-11-25 Microsoft Corporation Method and system for unrestricted motion estimation for video
US6957350B1 (en) 1996-01-30 2005-10-18 Dolby Laboratories Licensing Corporation Encrypted and watermarked temporal and resolution layering in advanced television
US5768537A (en) 1996-02-22 1998-06-16 International Business Machines Corporation Scalable MPEG2 compliant video encoder
US5982438A (en) 1996-03-22 1999-11-09 Microsoft Corporation Overlapped motion compensation for object coding
US5847776A (en) 1996-06-24 1998-12-08 Vdonet Corporation Ltd. Method for entropy constrained motion estimation and coding of motion vectors with increased search range
US6233017B1 (en) 1996-09-16 2001-05-15 Microsoft Corporation Multimedia compression system with adaptive block sizes
US6130963A (en) 1996-11-22 2000-10-10 C-Cube Semiconductor Ii, Inc. Memory efficient decoding of video frame chroma
US6377628B1 (en) 1996-12-18 2002-04-23 Thomson Licensing S.A. System for maintaining datastream continuity in the presence of disrupted source data
US6201927B1 (en) 1997-02-18 2001-03-13 Mary Lafuze Comer Trick play reproduction of MPEG encoded signals
US6005980A (en) 1997-03-07 1999-12-21 General Instrument Corporation Motion estimation and compensation of video object planes for interlaced digital video
US5991447A (en) 1997-03-07 1999-11-23 General Instrument Corporation Prediction and coding of bi-directionally predicted video object planes for interlaced digital video
US5844613A (en) 1997-03-17 1998-12-01 Microsoft Corporation Global motion estimator for motion video signal encoding
US6404813B1 (en) 1997-03-27 2002-06-11 At&T Corp. Bidirectionally predicted pictures or video object planes for efficient and flexible video coding
EP0973147A4 (en) 1997-03-31 2007-09-26 Matsushita Electric Ind Co Ltd DYNAMIC IMAGE DISPLAY METHOD AND DEVICE THEREFOR
US5973755A (en) 1997-04-04 1999-10-26 Microsoft Corporation Video encoder and decoder using bilinear motion compensation and lapped orthogonal transforms
JP3129986B2 (ja) 1997-04-09 2001-01-31 日本車輌製造株式会社 杭施工機のトルク管理装置
US6067322A (en) 1997-06-04 2000-05-23 Microsoft Corporation Half pixel motion estimation in motion video signal encoding
US6574371B2 (en) 1997-06-09 2003-06-03 Hitachi, Ltd. Image decoding method
ES2545066T3 (es) 1997-06-09 2015-09-08 Hitachi, Ltd. Medio de grabación de información de imágenes
JPH1169345A (ja) 1997-06-11 1999-03-09 Fujitsu Ltd フレーム間予測動画像符号化装置及び復号装置並びにフレーム間予測動画像符号化方法及び復号方法
JP2897763B2 (ja) 1997-07-28 1999-05-31 日本ビクター株式会社 動き補償符号化装置、復号化装置、符号化方法及び復号化方法
US6266091B1 (en) 1997-07-31 2001-07-24 Lsi Logic Corporation System and method for low delay mode operation video decoding
US6310918B1 (en) 1997-07-31 2001-10-30 Lsi Logic Corporation System and method for motion vector extraction and computation meeting 2-frame store and letterboxing requirements
FR2766946B1 (fr) 1997-08-04 2000-08-11 Thomson Multimedia Sa Procede et dispositif de pretraitement pour estimation de mouvement
US6281942B1 (en) 1997-08-11 2001-08-28 Microsoft Corporation Spatial and temporal filtering mechanism for digital motion video signals
US6339656B1 (en) 1997-12-25 2002-01-15 Matsushita Electric Industrial Co., Ltd. Moving picture encoding decoding processing apparatus
US6122017A (en) 1998-01-22 2000-09-19 Hewlett-Packard Company Method for providing motion-compensated multi-field enhancement of still images from video
US6020934A (en) 1998-03-23 2000-02-01 International Business Machines Corporation Motion estimation architecture for area and power reduction
JP3888597B2 (ja) 1998-06-24 2007-03-07 日本ビクター株式会社 動き補償符号化装置、及び動き補償符号化復号化方法
JP4026238B2 (ja) 1998-07-23 2007-12-26 ソニー株式会社 画像復号装置及び画像復号方法
US6219070B1 (en) 1998-09-30 2001-04-17 Webtv Networks, Inc. System and method for adjusting pixel parameters by subpixel positioning
GB2343579A (en) 1998-11-07 2000-05-10 Ibm Hybrid-linear-bicubic interpolation method and apparatus
US6983018B1 (en) 1998-11-30 2006-01-03 Microsoft Corporation Efficient motion vector coding for video compression
US6418166B1 (en) 1998-11-30 2002-07-09 Microsoft Corporation Motion estimation and block matching pattern
US6496608B1 (en) 1999-01-15 2002-12-17 Picsurf, Inc. Image data interpolation system and method
US6259741B1 (en) 1999-02-18 2001-07-10 General Instrument Corporation Method of architecture for converting MPEG-2 4:2:2-profile bitstreams into main-profile bitstreams
US6320593B1 (en) 1999-04-20 2001-11-20 Agilent Technologies, Inc. Method of fast bi-cubic interpolation of image information
JP2000308064A (ja) 1999-04-22 2000-11-02 Mitsubishi Electric Corp 動きベクトル検出装置
US6968008B1 (en) 1999-07-27 2005-11-22 Sharp Laboratories Of America, Inc. Methods for motion estimation with adaptive motion accuracy
US6647061B1 (en) 2000-06-09 2003-11-11 General Instrument Corporation Video size conversion and transcoding from MPEG-2 to MPEG-4
US7206453B2 (en) 2001-05-03 2007-04-17 Microsoft Corporation Dynamic filtering for lossy compression
US6950469B2 (en) 2001-09-17 2005-09-27 Nokia Corporation Method for sub-pixel value interpolation
US20030095603A1 (en) 2001-11-16 2003-05-22 Koninklijke Philips Electronics N.V. Reduced-complexity video decoding using larger pixel-grid motion compensation
CN101448162B (zh) 2001-12-17 2013-01-02 微软公司 处理视频图像的方法
AU2002366825A1 (en) 2001-12-20 2003-07-09 Koninklijke Philips Electronics N.V. Video encoding and decoding method and device
CN1265649C (zh) 2002-01-24 2006-07-19 株式会社日立制作所 运动图像的编码方法、解码方法、编码装置及解码装置
US7003035B2 (en) 2002-01-25 2006-02-21 Microsoft Corporation Video coding methods and apparatuses
US7110459B2 (en) 2002-04-10 2006-09-19 Microsoft Corporation Approximate bicubic filter
US7277587B2 (en) 2002-04-26 2007-10-02 Sharp Laboratories Of America, Inc. System and method for lossless video coding
US6980695B2 (en) 2002-06-28 2005-12-27 Microsoft Corporation Rate allocation for mixed content video
US7224731B2 (en) * 2002-06-28 2007-05-29 Microsoft Corporation Motion estimation/compensation for screen capture video
US7016547B1 (en) * 2002-06-28 2006-03-21 Microsoft Corporation Adaptive entropy encoding/decoding for screen capture content
US7072512B2 (en) * 2002-07-23 2006-07-04 Microsoft Corporation Segmentation of digital video and images into continuous tone and palettized regions
US8824553B2 (en) 2003-05-12 2014-09-02 Google Inc. Video compression method
US20050013498A1 (en) 2003-07-18 2005-01-20 Microsoft Corporation Coding of motion vector information
EP1536647A1 (en) 2003-11-26 2005-06-01 STMicroelectronics Limited A video decoding device
KR100631777B1 (ko) 2004-03-31 2006-10-12 삼성전자주식회사 다 계층의 모션 벡터를 효율적으로 압축하는 방법 및 장치
KR100586882B1 (ko) 2004-04-13 2006-06-08 삼성전자주식회사 모션 스케일러빌리티를 지원하는 코딩 방법 및 장치
US8130825B2 (en) 2004-05-10 2012-03-06 Nvidia Corporation Processor for video data encoding/decoding
US7558428B2 (en) 2004-09-13 2009-07-07 Microsoft Corporation Accelerated video encoding using a graphics processing unit
JP4241588B2 (ja) 2004-11-30 2009-03-18 日本ビクター株式会社 動画像符号化装置、及び動画像復号化装置
WO2006124885A2 (en) 2005-05-12 2006-11-23 Kylintv, Inc. Codec for iptv
US8761259B2 (en) 2005-09-22 2014-06-24 Qualcomm Incorporated Multi-dimensional neighboring block prediction for video encoding
US7929599B2 (en) 2006-02-24 2011-04-19 Microsoft Corporation Accelerated video encoding
US8130828B2 (en) 2006-04-07 2012-03-06 Microsoft Corporation Adjusting quantization to preserve non-zero AC coefficients
US8155195B2 (en) 2006-04-07 2012-04-10 Microsoft Corporation Switching distortion metrics during motion estimation
US7965767B2 (en) 2006-06-30 2011-06-21 Intel Corporation Two-dimensional filtering architecture
US8861591B2 (en) 2007-05-11 2014-10-14 Advanced Micro Devices, Inc. Software video encoder with GPU acceleration
SG152082A1 (en) * 2007-10-19 2009-05-29 Creative Tech Ltd A method and system for processing a composite video image
US8279936B1 (en) 2007-12-11 2012-10-02 Marvell International Ltd. Method and apparatus for fractional pixel expansion and motion vector selection in a video codec
US20090168871A1 (en) * 2007-12-31 2009-07-02 Ning Lu Video motion estimation
US9584710B2 (en) * 2008-02-28 2017-02-28 Avigilon Analytics Corporation Intelligent high resolution video system
JP2009230537A (ja) 2008-03-24 2009-10-08 Olympus Corp 画像処理装置、画像処理プログラム、画像処理方法、および、電子機器
US8266665B2 (en) * 2008-03-25 2012-09-11 Verizon Patent And Licensing Inc. TV screen capture
US20090245374A1 (en) 2008-03-26 2009-10-01 Mediatek Inc. Video encoder and motion estimation method
JP2010016453A (ja) 2008-07-01 2010-01-21 Sony Corp 画像符号化装置および方法、画像復号装置および方法、並びにプログラム
CN102224734B (zh) * 2008-10-02 2013-11-13 索尼公司 图像处理设备和方法
WO2010043806A2 (fr) 2008-10-14 2010-04-22 France Telecom Codage et decodage avec elimination d'un ou plusieurs predicteurs predetermines
TWI428022B (zh) * 2008-10-24 2014-02-21 Nat Univ Chung Cheng Video control method for instant video encoding chips
US8428145B2 (en) 2008-12-31 2013-04-23 Entropic Communications, Inc. System and method for providing fast trick modes
US9472167B2 (en) * 2009-04-17 2016-10-18 International Business Machines Corporation Video capture through hardware
US8346915B2 (en) * 2009-05-04 2013-01-01 Qualcomm Incorporated System and method of recording and sharing mobile application activities
US8498493B1 (en) * 2009-06-02 2013-07-30 Imagination Technologies Limited Directional cross hair search system and method for determining a preferred motion vector
KR20120038401A (ko) * 2009-06-09 2012-04-23 소니 주식회사 화상 처리 장치 및 방법
EP2530937B1 (en) * 2009-06-18 2015-03-18 Kabushiki Kaisha Toshiba Video encoding apparatus and video decoding apparatus
US20110255589A1 (en) 2009-08-03 2011-10-20 Droplet Technology, Inc. Methods of compressing data and methods of assessing the same
KR20110017302A (ko) 2009-08-13 2011-02-21 삼성전자주식회사 움직임 벡터의 정확도 조절을 이용한 영상 부호화, 복호화 방법 및 장치
KR101792041B1 (ko) 2009-10-14 2017-11-02 톰슨 라이센싱 움직임 정보의 적응적 코딩 방법 및 장치
US9237355B2 (en) 2010-02-19 2016-01-12 Qualcomm Incorporated Adaptive motion resolution for video coding
WO2011152389A1 (ja) * 2010-06-04 2011-12-08 日本電気株式会社 通信システムと方法と装置
US20120008686A1 (en) 2010-07-06 2012-01-12 Apple Inc. Motion compensation using vector quantized interpolation filters
US20120051431A1 (en) 2010-08-25 2012-03-01 Qualcomm Incorporated Motion direction based adaptive motion vector resolution signaling for video coding
US10327008B2 (en) 2010-10-13 2019-06-18 Qualcomm Incorporated Adaptive motion vector resolution signaling for video coding
US10045046B2 (en) 2010-12-10 2018-08-07 Qualcomm Incorporated Adaptive support for interpolating values of sub-pixels for video coding
US9271005B2 (en) 2011-02-24 2016-02-23 Vixs Systems, Inc. Multi-pass video encoder and methods for use therewith
US8780996B2 (en) 2011-04-07 2014-07-15 Google, Inc. System and method for encoding and decoding video data
WO2013002716A2 (en) 2011-06-30 2013-01-03 Telefonaktiebolaget L M Ericsson (Publ) A method a decoder and encoder for processing a motion vector
US10536701B2 (en) 2011-07-01 2020-01-14 Qualcomm Incorporated Video coding using adaptive motion vector resolution
US9277228B2 (en) 2011-07-18 2016-03-01 Qualcomm Incorporated Adaptation parameter sets for video coding
US9521418B2 (en) 2011-07-22 2016-12-13 Qualcomm Incorporated Slice header three-dimensional video extension for slice header prediction
US20130229485A1 (en) 2011-08-30 2013-09-05 Nokia Corporation Apparatus, a Method and a Computer Program for Video Coding and Decoding
RU2487489C2 (ru) * 2011-10-18 2013-07-10 Федеральное государственное автономное образовательное учреждение высшего профессионального образования "Национальный исследовательский университет "МИЭТ" Способ поиска векторов перемещений в динамических изображениях
US9215266B2 (en) * 2012-01-26 2015-12-15 Zoom International S.R.O. System and method for zero-footprint screen capture
CN102740073B (zh) 2012-05-30 2015-06-17 华为技术有限公司 一种编码方法及装置
US9258562B2 (en) * 2012-06-13 2016-02-09 Qualcomm Incorporated Derivation of depth map estimate
US9338452B2 (en) 2012-07-09 2016-05-10 Qualcomm Incorporated Motion vector difference coding extension for enhancement layer
US9774881B2 (en) 2014-01-08 2017-09-26 Microsoft Technology Licensing, Llc Representing motion vectors in an encoded bitstream
US9749642B2 (en) 2014-01-08 2017-08-29 Microsoft Technology Licensing, Llc Selection of motion vector precision

Also Published As

Publication number Publication date
JP2017508348A (ja) 2017-03-23
AU2014376189B2 (en) 2018-08-09
WO2015105661A1 (en) 2015-07-16
KR102271780B1 (ko) 2021-06-30
US20150195557A1 (en) 2015-07-09
EP3075153B1 (en) 2021-06-02
BR112016015243B1 (pt) 2023-03-14
BR112016015243A2 (ja) 2017-08-08
CA2935562C (en) 2021-10-12
CA2935562A1 (en) 2015-07-16
US9942560B2 (en) 2018-04-10
CN105900419A (zh) 2016-08-24
EP3075153A1 (en) 2016-10-05
RU2679349C1 (ru) 2019-02-07
MX360925B (es) 2018-11-22
AU2014376189A1 (en) 2016-07-14
KR20160106155A (ko) 2016-09-09
MX2016009023A (es) 2016-09-28
CN105900419B (zh) 2019-04-16

Similar Documents

Publication Publication Date Title
JP6588441B2 (ja) 符号化ビットストリームにおける動きベクトルの提示
JP6576351B2 (ja) 画面キャプチャデータの符号化
US20240098276A1 (en) On block level bi-prediction with weighted averaging
US10200689B2 (en) Quantized pulse code modulation in video coding
KR20140110957A (ko) 비디오 코딩을 위한 모션 벡터 예측의 수행
JP2018516491A (ja) ディスプレイストリーム圧縮のためのレート制約フォールバックモード
JP2022511873A (ja) ビデオピクチャの復号および符号化の方法ならびに装置
KR20230150284A (ko) 효율적인 비디오 인코더 아키텍처

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190820

R150 Certificate of patent or registration of utility model

Ref document number: 6576351

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250