JP6356912B2 - 最適化関数を用いてグラフベース予測を実行する方法及び装置 - Google Patents

最適化関数を用いてグラフベース予測を実行する方法及び装置 Download PDF

Info

Publication number
JP6356912B2
JP6356912B2 JP2017522065A JP2017522065A JP6356912B2 JP 6356912 B2 JP6356912 B2 JP 6356912B2 JP 2017522065 A JP2017522065 A JP 2017522065A JP 2017522065 A JP2017522065 A JP 2017522065A JP 6356912 B2 JP6356912 B2 JP 6356912B2
Authority
JP
Japan
Prior art keywords
graph
prediction
signal
vector
matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017522065A
Other languages
English (en)
Other versions
JP2017536033A (ja
Inventor
サイード アミール
サイード アミール
チャオ ユン−シュアン
チャオ ユン−シュアン
エネス エーイルメズ ヒルミ
エネス エーイルメズ ヒルミ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Electronics Inc
Original Assignee
LG Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LG Electronics Inc filed Critical LG Electronics Inc
Publication of JP2017536033A publication Critical patent/JP2017536033A/ja
Application granted granted Critical
Publication of JP6356912B2 publication Critical patent/JP6356912B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45CPURSES; LUGGAGE; HAND CARRIED BAGS
    • A45C11/00Receptacles for purposes not provided for in groups A45C1/00-A45C9/00
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45CPURSES; LUGGAGE; HAND CARRIED BAGS
    • A45C13/00Details; Accessories
    • A45C13/10Arrangement of fasteners
    • A45C13/1069Arrangement of fasteners magnetic
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45FTRAVELLING OR CAMP EQUIPMENT: SACKS OR PACKS CARRIED ON THE BODY
    • A45F5/00Holders or carriers for hand articles; Holders or carriers for use while travelling or camping
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/19Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding using optimisation based on Lagrange multipliers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/196Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding being specially adapted for the computation of encoding parameters, e.g. by averaging previously computed encoding parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45CPURSES; LUGGAGE; HAND CARRIED BAGS
    • A45C11/00Receptacles for purposes not provided for in groups A45C1/00-A45C9/00
    • A45C2011/002Receptacles for purposes not provided for in groups A45C1/00-A45C9/00 for portable handheld communication devices, e.g. mobile phone, pager, beeper, PDA, smart phone
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45FTRAVELLING OR CAMP EQUIPMENT: SACKS OR PACKS CARRIED ON THE BODY
    • A45F5/00Holders or carriers for hand articles; Holders or carriers for use while travelling or camping
    • A45F2005/008Hand articles fastened to the wrist or to the arm or to the leg
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45FTRAVELLING OR CAMP EQUIPMENT: SACKS OR PACKS CARRIED ON THE BODY
    • A45F2200/00Details not otherwise provided for in A45F
    • A45F2200/05Holder or carrier for specific articles
    • A45F2200/0516Portable handheld communication devices, e.g. mobile phone, pager, beeper, PDA, smart phone

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Telephone Set Structure (AREA)

Description

本発明は、グラフベース(基盤)の(グラフに基づく)信号処理方法及び装置に関し、より詳しくは、最適化関数を用いてグラフベース予測を実行(遂行)する技術に関する。
従来の離散時間信号処理技術は、大部分がアナログ信号の処理及びフィルタリングから発展(進化)してきているが、正規に組織されたデータのサンプリングのように幾つかの共通の仮定により制限されてきた。ビデオ圧縮分野は、基本的に同一の仮定に基づいて(基盤して)おり、単に多次元信号の処理に一般化されただけである。
グラフは、多くの応用分野においてデータの幾何学的構造を記述することに有用なデータ表現形態である。このようなグラフに基づいた信号処理は、各信号サンプルが頂点(vertex)を示し、信号の関係が正の重み付け値を有するグラフエッジで示されるグラフを使用して、サンプリング、フィルタリング、フーリエ(Fourier)変換などの概念を一般化することができる。この方式は、信号を獲得する過程と分離することによって、サンプリング及びシーケンス処理においてグラフの特性に置き換え(取り替え)ることができる。したがって、より効率の良いグラフベースの信号処理方法がビデオ圧縮分野だけでなく多くの応用分野で要求される。
全てのビデオコーディング標準は、その基本要素のうちの1つとして信号予測を含んでおり、その圧縮効率は予測方法の正確性及び信頼性により強い影響を受ける。信号の統計的モデルに基づく信号予測のための多くの異論的なツールがある。しかしながら、オーディオ、イメージ、ビデオなどの複雑な信号にツールを適用するとき、多くの実質的な問題が発生する。例えば、モデルパラメータを信頼性あるように測定することは非常に難しい。なぜならば、モデルパラメータは、他のソース、さらには同一のソースの場合にも相当に変わることができるためである。重要なことは、圧縮において予測の利用は基本であり、他のアプリケーションと重要な差異点を有するということである。しかしながら、信号の圧縮のために実際に用いられる多くの予測方法は、実験的な統計に基づくという問題点がある。
また、信号処理及び圧縮のために新たなグラフモデルが提案されてきた。これは、グラフモデルがエッジ及び不連続性などの一部の局所的な信号特性を、一般的な統計的数値により提供されるものより遥かに簡潔で、圧縮により適合した方式によりモデル化(モデリング)できるためである。例えば、グラフのラプラシアン行列(マトリックス)のスペクトル分解は、グラフモデルに合う信号に適合したフーリエ分析の形態を提供する。
したがって、本発明は、変数間の統計的相関関係をモデル化するグラフが与えられているとき、低い複雑度で、より良い予測子を探すための方法を提供しようとする。
本発明は、最適化関数を用いてグラフベース予測(graph-based prediction)を実行する方法を提供する。
また、本発明は、グラフラプラシアンの固有値(eigenvalues)の分布(distribution)に基づいたコスト(費用)関数と固有ベクトル(eigenvectors)との線形結合に基づいて最適化予測アルゴリズムを定義する方法を提供する。
また、本発明は、凸(コンベックス)最適化公式(convex optimization formulation)を用いて予測値を探す方法及びグラフ特性を用いる方法を提供する。
本発明が適用されるグラフベースの信号モデル化は、強力なツール(道具)になることができる。具体的には、本発明は、最適化関数を用いてグラフベース予測を実行する最適化予測アルゴリズムを提供することによって、低複雑度で予測値を獲得することができ、延いては、予測性能を向上させることができる。
また、本発明は、規則的な構造のグラフ信号だけでなく、任意のグラフ信号に対しても適用可能であるので、グラフ信号をエンコードするために必要なビットレートの過度なオーバーヘッドを避けることができる。
また、本発明は、ビデオシーケンスの他の部分で信号の統計的特性を適応的に用いることによって、圧縮効率を向上させることができる。
本発明が適用される実施形態であって、ビデオ信号のエンコーディング(符号化)が実行されるエンコーダの概略ブロック図である。 本発明が適用される実施形態であって、ビデオ信号のデコーディング(復号)が実行されるデコーダの概略ブロック図である。 本発明が適用される一実施形態に従ってビデオフレーム内の8×8ブロック内での統計的関係をモデル化するために使われたグラフの例を示す図である。 本発明が適用される一実施形態であって、頂点に対する信号ベクトル及びエッジ重み付け値で定義された任意のグラフを示す図である。 本発明が適用される実施形態であって、グラフベースの信号を処理するエンコーダの概略ブロック図を例示する図である。 本発明が適用される実施形態であって、グラフベースの信号を処理するデコーダの概略ブロック図を例示する図である。 本発明が適用される一実施形態であって、グラフベース変換部の内部ブロック図である。 本発明が適用される一実施形態であって、グラフ信号に基づいて最適化された予測ベクトルを獲得する過程を説明するためのフローチャートである。 本発明が適用される一実施形態であって、グラフベース予測を用いてビデオ信号をデコードする過程を説明するためのフローチャートである。
本発明は、グラフ信号を用いてグラフベース予測(graph-based prediction)を実行する方法において、コンテキスト信号(context signal)を獲得するステップと、グラフパラメータセット(graph parameter set)に基づいてグラフ信号を生成するステップと、グラフ信号に基づいてグラフベース変換行列(graph-based transform matrix)を獲得するステップであって、グラフベース変換行列は固有ベクトル(eigenvector)を有するステップと、最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得するステップと、予測ベクトルを用いて予測信号を生成するステップと、を有し、最適化関数は、コンテキスト信号、グラフラプラシアン行列の固有値(eigenvalue)及び固有ベクトル(eigenvector)を変数として有することを特徴とする方法を提供する。
また、本発明において、予測ベクトルは、変換ベクトルと固有ベクトル(eigenvectors)との線形結合に基づいて獲得され、変換ベクトルは、グラフラプラシアン行列の固有値(eigenvalue)の分布に基づくコスト関数を用いて決定されることを特徴とする。
また、本発明は、グラフ信号に基づいてグラフラプラシアン行列(graph Laplacian matrix)を算出するステップをさらに有し、グラフベース変換行列(graph-based transform matrix)はグラフラプラシアン行列のスペクトル分解(spectral decomposition)を通じて獲得されることを特徴とする。
また、本発明において、最適化関数はラグランジュ乗数に基づく非制限最適化関数(unconstrained optimization function)で表現され、非制限最適化関数(unconstrained optimization function)は新たなM次元ベクトルにより表現されることを特徴とする。
また、本発明は、予測エラーをエンコードするステップと、エンコードされた予測エラーを転送するステップと、をさらに有することを特徴とする。
また、本発明は、グラフベース予測(graph-based prediction)に基づいてビデオ信号をデコードする方法において、グラフパラメータセット(graph parameter set)及び残差(レジデュアル)信号を有するビデオ信号を受信するステップと、グラフパラメータセットに基づいて固有ベクトルを有するグラフベース変換行列を獲得するステップと、最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得するステップと、予測ベクトルを用いて予測信号を生成するステップと、予測信号と残差信号とを合せてビデオ信号を復元するステップと、を有し、最適化関数はコンテキスト信号、グラフラプラシアン行列の固有値(eigenvalue)及び固有ベクトル(eigenvector)を変数として有することを特徴とする方法を提供する。
また、本発明は、グラフ信号を用いてグラフベース予測(graph-based prediction)を実行する装置において、グラフパラメータセット(graph parameter set)に基づいてグラフ信号を生成し、グラフ信号に基づいて固有ベクトル(eigenvector)を有するグラフベース変換行列(graph-based transform matrix)を獲得するグラフベース変換部と、コンテキスト信号(context signal)を獲得し、最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得し、予測ベクトルを用いて予測信号を生成する予測部を有し、最適化関数はコンテキスト信号、グラフラプラシアン行列の固有値(eigenvalue)及び固有ベクトル(eigenvector)を変数として有することを特徴とする装置を提供する。
また、本発明において、グラフベース変換部は、グラフ信号に基づいてグラフラプラシアン行列(graph Laplacian matrix)を算出し、グラフベース変換行列(graph-based transform matrix)はグラフラプラシアン行列のスペクトル分解(spectral decomposition)を通じて獲得されることを特徴とする。
また、本発明は、予測エラーをエンコードし、エンコードされた予測エラーを転送するエントロピエンコーディング部をさらに有することを特徴とする。
また、本発明は、グラフベース予測(graph-based prediction)に基づいてビデオ信号をデコードする装置において、グラフパラメータセット(graph parameter set)及び残差信号を有するビデオ信号を受信するエントロピデコーディング部と、グラフパラメータセットに基づいて固有ベクトルを有するグラフベース変換行列を獲得する逆変換部と、最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得し、予測ベクトルを用いて予測信号を生成する予測部と、予測信号と残差信号とを合せてビデオ信号を復元する復元部と、を有し、最適化関数はコンテキスト信号、グラフラプラシアン行列の固有値(eigenvalue)及び固有ベクトル(eigenvector)を変数として有することを特徴とする装置を提供する。
〔発明の実施のための形態〕
以下、添付した図面を参照して本発明の実施形態の構成とその作用を説明し、図面により説明される本発明の構成及び作用は、1つの実施形態として説明されるものであり、これによって本発明の技術的思想及びその核心の構成及び作用が制限されるものではない。
併せて、本発明で使われる用語はできる限り、現在広く使われる一般的な用語を選択したが、特定の場合は出願人が任意に選定した用語を使用して説明する。そのような場合には該当部分の詳細説明でその意味を明確に記載するので、本発明の説明で使われた用語の名称だけで単純に解析されてはならず、その該当用語の意味まで把握して解析されなければならないことを明らかにする。
また、本明細書で提示された実施形態は、ビデオ信号処理に関するものであるが、本発明は、ビデオ信号処理のみに基づいたものとして推論されてはならず、一般的なグラフベースの信号処理方法にも適用できるものである。
また、本発明で使われる用語は発明を説明するために選択された一般的な用語や、類似の意味を有する他の用語がある場合、より適切な解析のために置き換え可能である。例えば、信号、データ、サンプル、ピクチャ、フレーム、ブロックなどの場合、各コーディング過程で適切に置き換えられて解析できる。
実際に、ビデオのように非常に複雑で、かつ多様な信号の正確な統計的モデルはない。したがって、本明細書では統計モデルを形成する確率分布f(x|y)又はf(x、y)は既に知っているという仮定に基づく。
ビデオ信号の統計的特性は、ビデオタイプによって、又は各フレーム内で格段に変わる。それで、より単純な統計的モデルや自動学習(automatic learning)を用いるときすら、本発明は、継続的に変わるモデルパラメータを信頼性があるように測定するという困難性がある。また、モデルがあまり(非常に)簡単であるか、又はそのパラメータが信号の実際の特性を反映できなければ、予測が正確でないことがある。事実、予測精度(正確度)はモデルの複雑度が増加するほどより低くなる。
したがって、本発明は、予測性能を向上させるためのより強力なアプローチ(接近)を必要とする。
圧縮に適用される予測と関連した更に他の重要な問題は、伝統的な統計的アプローチ(接近)と異なるように、エンコーダがエンコーディングを必要とする全てのデータにアプローチできるということである。エンコーダはデコーダの予測を向上させることができる付加情報を転送できるため、これは非常に重要な差を作ることができる。例えば、エンコーダは用いられるモデルタイプ及びそのパラメータに関する付加情報をエンコードすることができる。
現在ビデオコーディング方法に用いられる予測方法は、付加情報(side information)のエンコーディングに大部分依存しており、統計的モデル、例えば、ピクセル複写(pixel copying)、単純補間(simple interpolation)などに対するほんの少しの仮定のみを用いているということである。その上、エッジのようなビデオ特徴を表現するために、伝統的な統計的分布を用いる代わりに、幾何学的モデルが用いられている。
例えば、ビデオコーディング標準は、均等なピクセル分布モデル又は33個の方向セットに従う一定のピクセル値の間で選択する、イントラフレーム(フレーム内)予測に対して専ら単純補間を用いる。そして、インターフレーム(フレーム間)予測はフレーム間の動きモデルを仮定し、小数ピクセル動きに対して補間を用いる。
このようなアプローチの主な問題は、幾何学的モデルが非常に制限的で、現在のビデオコーディング標準が直線エッジ又は動きの変化などの特徴を十分に活用しているという点である。
一方、グラフ信号処理は、信号処理に用いられてきた最も基本的な技術を一般化する新たなアプローチ方式である。グラフ信号処理は、イメージの特徴の強力な統合を予測過程で可能にする、幾何学的特徴に基づいた経験的技術を一般化する。統計的分析と結合できるが、完全な統計的モデルを導出(誘導)する必要はない。
適切なグラフエッジ重み付け値を選択する方法は、全ての形態のグラフ信号処理の核心的な部分であることが明確である。しかしながら、本明細書では本発明と直接関連していないので、詳細に議論しない。以下、前述した統計的モデル、幾何学的モデル、及びグラフモデルが有する問題点を解決する、最適化予測方法を説明する。
図1は、本発明が適用される実施形態であって、ビデオ信号のエンコーディングが実行されるエンコーダの概略ブロック図を示す。
図1を参照すると、エンコーダ100は、映像分割部110、変換部120、量子化部130、逆量子化部140、逆変換部150、フィルタリング部160、復号ピクチャバッファ(DPB:Decoded Picture Buffer)170、インター予測部180、イントラ予測部185、及びエントロピエンコーディング部190を含んで構成できる。
映像分割部110は、エンコーダ100に入力された入力映像(イメージ)(Input image)(又は、ピクチャ、フレーム)を1つ又は複数の処理ユニットに分割することができる。例えば、上記処理ユニットは、コーディングツリーユニット(CTU:Coding Tree Unit)、コーディングユニット(CU:Coding Unit)、予測ユニット(PU:Prediction Unit)、又は変換ユニット(TU:Transform Unit)でありうる。
但し、上記用語は本発明に関する説明の便宜のために使用するだけであり、本発明は該当用語の定義に限定されるものではない。また、本明細書では説明の便宜のために、ビデオ信号をエンコード(符号化)又はデコード(復号)する過程で用いられる単位としてコーディングユニットという用語を使用するが、本発明はそれに限定されず、発明内容によって適切に解析可能である。
エンコーダ100は、入力映像信号から、インター予測部180又はイントラ予測部185から出力された予測信号(prediction signal)を減算して残差(残余)信号(residual signal)を生成することができ、生成された残差信号は変換部120に転送される。
変換部120は、残差信号に変換技法を適用して変換係数(transform coefficient)を生成することができる。変換過程は正四角形の同一のサイズを有するピクセルブロックに適用されることもでき、正四角形でない可変サイズのブロックにも適用できる。
本発明の一実施形態において、上記変換部120はグラフパラメータを用いてグラフ信号を獲得することができる。
本発明の他の一実施形態において、上記変換部120は頂点パラメータセット及びエッジパラメータセットのうち、少なくとも1つを用いてグラフ信号を獲得することができる。
本発明の他の一実施形態において、上記変換部120は最適化関数に基づいて最適化されたグラフベース変換カーネルを獲得することができる。この際、上記最適化関数はラグランジュ乗数を用いて非制限最適化関数(unconstrained optimization function)で表現されることができ、上記非制限最適化関数(unconstrained optimization function)は新たなM次元ベクトルにより表現できる。
本発明の他の一実施形態において、上記変換部120は、上記最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得することができ、上記予測ベクトルは予測信号を生成するために利用できる。この際、上記予測ベクトルは、上記グラフラプラシアン行列の固有ベクトル(eigenvector)と上記固有値(eigenvalue)の分布に基づくコスト関数との間の線形結合に基づいて獲得できる。
量子化部130は、変換係数を量子化してエントロピエンコーディング部190に転送し、エントロピエンコーディング部190は、量子化された信号(quantized signal)をエントロピコーディングしてビットストリームで出力することができる。
量子化部130から出力された量子化された信号(quantized signal)は、予測信号を生成するために利用できる。例えば、量子化された信号(quantized signal)は、ループ内の逆量子化部140及び逆変換部150を通じて逆量子化及び逆変換を適用することによって残差信号を復元することができる。復元された残差信号をインター予測部180又はイントラ予測部185から出力された予測信号(prediction signal)に加えることによって復元信号(reconstructed signal)が生成できる。
一方、上記のような圧縮過程で隣接したブロックが互いに異なる量子化パラメータにより量子化されることによって、ブロック境界が見える劣化が発生できる。このような現象をブロッキング劣化(blocking artifacts)といい、これは画質を評価する重要な要素の1つである。このような劣化を減らすために、フィルタリング過程を実行することができる。このようなフィルタリング過程を通じてブロッキング劣化を除去すると共に、現在ピクチャに対する誤差を減らすことによって、画質を向上させることができるようになる。
フィルタリング部160は、復元信号にフィルタリングを適用して、これを再生装置に出力するか、又は復号ピクチャバッファ170に転送する。復号ピクチャバッファ170に転送されたフィルタリングされた信号はインター予測部180で参照ピクチャとして使用できる。このように、フィルタリングされたピクチャを画面間予測モードで参照ピクチャとして用いることによって、画質だけでなく、符号化効率も向上させることができる。
復号ピクチャバッファ170は、フィルタリングされたピクチャをインター予測部180での参照ピクチャとして使用するために記憶(格納)することができる。
インター予測部180は、復元ピクチャ(reconstructed picture)を参照して時間的冗長性(重複性)及び/又は空間的冗長性を除去するために、時間的予測及び/又は空間的予測を実行する。ここで、予測を実行するために用いられる参照ピクチャは、以前の時間に符号化/復号時、ブロック単位で量子化及び逆量子化を経た変換された信号であるので、ブロッキングアーティファクト(blocking artifact)やリンギングアーティファクト(ringing artifact)が存在することがある。
したがって、インター予測部180は、このような信号の不連続や量子化による性能低下を解決するために、ローパスフィルタ(low pass filter)を適用することによって、ピクセル間の信号をサブピクセル単位で補間することができる。ここで、サブピクセルは補間フィルタを適用して生成された仮想の画素を意味し、整数ピクセルは復元されたピクチャに存在する実際の画素を意味する。補間方法には、線形補間、双線形(両線形)補間(bi-linear interpolation)、ウィナーフィルタ(wiener filter)などが適用できる。
補間フィルタは、復元ピクチャ(reconstructed picture)に適用されて予測の精密度(精度)を向上させることができる。例えば、インター予測部180は、整数ピクセルに補間フィルタを適用して補間ピクセルを生成し、補間ピクセル(interpolated pixels)で構成された補間ブロック(interpolated block)を予測ブロック(prediction block)に使用して予測を実行することができる。
イントラ予測部185は、現在符号化を進行しようとするブロックの周辺にあるサンプルを参照して現在ブロックを予測することができる。上記イントラ予測部185は、イントラ予測を実行するために、次のような過程を実行することができる。まず、予測信号を生成するために必要な参照サンプルを準備することができる。そして、準備した参照サンプルを用いて予測信号を生成することができる。以後、予測モードを符号化する。この際、参照サンプルは、参照サンプルパディング及び/又は参照サンプルフィルタリングを通じて準備できる。参照サンプルは、予測及び復元過程を経たため、量子化エラーが存在することがある。したがって、このようなエラーを減らすためにイントラ予測に用いられる各予測モードに対して参照サンプルフィルタリング過程を実行できる。
上記インター予測部180又は上記イントラ予測部185を通じて生成された予測信号(prediction signal)は、復元信号を生成するために用いられるか、又は残差信号を生成するために用いられることができる。
図2は、本発明が適用される実施形態であって、ビデオ信号のデコーディングが実行されるデコーダの概略ブロック図を示す。
図2を参照すると、デコーダ200は、エントロピデコーディング部210、逆量子化部220、逆変換部230、フィルタリング部240、復号ピクチャバッファ(DPB:Decoded Picture Buffer Unit)250、インター予測部260、及びイントラ予測部265を含んで構成できる。
そして、デコーダ200を通じて出力された復元映像信号(reconstructed video signal)は再生装置を通じて再生できる。
デコーダ200は、図1のエンコーダ100から出力された信号を受信することができ、受信した信号はエントロピデコーディング部210を通じてエントロピデコードできる。この際、上記出力された信号はグラフパラメータセット(graph parameter set)及び予測ベクトル情報を含むことができる。上記予測ベクトル情報は、上記グラフラプラシアン行列の固有ベクトル(eigenvector)と上記固有値(eigenvalue)の分布に基づくコスト関数との間の線形結合に基づいて決定されたものでありうる。
他の例において、上記予測ベクトル情報は、グラフラプラシアン行列の固有値(eigenvalue)と固有ベクトル(eigenvector)を変数として有する最適化関数とに基づいて決定されたものでありうる。この場合、上記最適化関数は、ラグランジュ乗数を用いて非制限最適化関数(unconstrained optimization function)で表現されることができ、上記非制限最適化関数(unconstrained optimization function)は新たなM次元ベクトルにより表現できる。
上記デコーダ200は、上記予測ベクトル情報に基づいて予測信号を生成することができる。これはインター予測部260で実行できるが、本発明はこれに限定されるものではない。
逆量子化部220では、量子化ステップサイズ情報を用いてエントロピデコードされた信号から変換係数(transform coefficient)を獲得する。ここで、獲得された変換係数は、上記図1の変換部120で説明した多様な実施形態が適用されたものでありうる。
逆変換部230では、変換係数を逆変換して残差信号(residual signal)を獲得する。
獲得された残差信号をインター予測部260又はイントラ予測部265から出力された予測信号(prediction signal)に加えることによって、復元信号(reconstructed signal)が生成される。
フィルタリング部240は、復元信号(reconstructed signal)にフィルタリングを適用して、これを再生装置に出力するか、又は復号ピクチャバッファ部250に転送する。復号ピクチャバッファ部250に転送されたフィルタリングされた信号は、インター予測部260で参照ピクチャとして使用できる。
本明細書で、エンコーダ100のフィルタリング部160、インター予測部180、及びイントラ予測部185で説明された実施形態は、各々、デコーダのフィルタリング部240、インター予測部260、及びイントラ予測部265にも、同一に適用できる。
図3は、本発明が適用される一実施形態に従ってビデオフレーム内の8×8ブロック内での統計的関係をモデル化するために使われたグラフの例を示す。
上記図3は、イメージピクセルの正四角形ブロックで定義されたグラフの例を示す。
図3を参照すると、本発明は、イメージ又はビデオ内の8×8ピクセルブロックの処理のために使用できるグラフタイプの2つの実施形態を提供する。各ピクセルはグラフの頂点に関連し(関連付けられ)、上記ピクセルの値はグラフ頂点の値となる。
グラフエッジは、グラフ頂点を連結する線を意味することができる。上記グラフエッジは、信号内の如何なる形態の統計的依存性をも示すために使われて、この際、正の重み付け値はその強度を示すことができる。例えば、各頂点は全ての他の頂点に連結されることができ、0の重み付け値は互いに関連しないか、又は弱く関連した頂点を連結するエッジに割り当てできる。但し、表現の簡単化のために、0の重み付け値を有するエッジは完全に除去できる。
本発明の他の実施形態において、グラフ頂点を連結するエッジは信号特性によって予め設定できる。例えば、頂点はオーディオ信号に対しては1次元配列上に、イメージに対しては2次元配列上に、またビデオフレームに対しては3次元配列上に配置できる。この際、上記3次元配列の場合には時間軸が3番目の次元になることができる。例えば、図3(a)のグラフで、グラフエッジは各々の頂点がそれから最も近い4個の隣接頂点に連結されるように定義できる。但し、ブロック境界の場合は異なるように取扱できる。また、図3(b)のグラフでは各々の頂点がそれから最も近い8個の隣接頂点に連結されるように定義できる。
一方、本発明は如何なるグラフ設定にも適用可能でありうる。
グラフ信号Gのラプラシアン行列は、次の<数式1>の通りである。
<数式1>
ここで、Dは次数行列(Degree matrix)を示し、例えば上記次数行列は各頂点の次数に関する情報を含む対角行列(diagonal matrix)を意味することができる。Aは、隣接ピクセルとの連結関係(edge)を重み付け値で示す隣接行列(adjacency matrix)を示す。
グラフG及びその行列が定義される方法は、本明細書では詳細に説明しない。本明細書では、単にグラフがグラフタイプに対して定義された信号の特性を用いる幾つかの技術により定義できると仮定するだけである。したがって、本発明は、行列D、Aを用いて信号のモデル化を実行してグラフを生成すれば、固有分解(eigen-decomposition)過程を通じて次の<数式2>のように変換カーネルUを生成することができる。
<数式2>
グラフベース変換行列Uの行(columns)は、グラフラプラシアン行列(graph Laplacian matrix)Lの固有ベクトル(eigenvectors)を含み、対角行列(diagonal matrix)は対応するグラフラプラシアン行列(graph Laplacian matrix)Lの固有値(eigenvalues)に対し、次の<数式3>のように表現できる。
<数式3>
一般に、固有ベクトル(eigenvectors)は特有の形態で定義されないが、本発明の目的によって、グラフラプラシアン行列(graph Laplacian matrix)Lが対称的であるので、全ての固有ベクトル(eigenvectors)は実数値であり、少なくとも1つの分解(decomposition)は存在することができる。グラフ信号Gで信号ベクトルgのグラフベースフーリエ変換は、次の<数式4>のように定義できる。
<数式4>
ここで、hは変換ベクトルを示し、UTはグラフベース変換行列Uの転置行列を示し、gはグラフ信号Gのベクトルを示す。
前述したグラフ信号に対する基本的な定義に基づいて、以下に本発明の実施形態を具体的に説明する。
図4は、本発明が適用される一実施形態であって、頂点に対する信号ベクトル及びエッジ重み付け値で定義された任意のグラフを示す。
本発明の一実施形態では、信号が任意のグラフGで定義される方法を提供する。例えば、グラフ信号は各グラフ頂点で定義され、G次元ベクトルgにより表現できる。グラフ特性は各グラフエッジ上の負でない重み付け値により定義できる。
上記図4の場合、その頂点に定義された信号ベクトルと負でないエッジ重み付け値とにより定義されたグラフ特性を有する任意のグラフを示す。ここで、頂点の値は2つのセットに分割されることができ、ここで、上記2つのセットは予測される信号x及びコンテキスト信号(context signal)yを意味することができる。上記図4で、x1,x2,...,x6は予測される信号を示し、y1,y2,...,y5はコンテキスト信号(context signal)を示す。例えば、以下の図5のように、上記予測される信号xは原信号を意味することができ、コンテキスト信号(context signal)yはループによって復元された信号を意味することができる。
上記図4で説明したように、本発明がコンテキスト信号yから信号xを予測しようとすると仮定すれば、グラフモデルでx及びyは信号gを形成することができる。
ベクトル表記法によって、本発明は、グラフ信号gを<数式5>のように分解することができる。
<数式5>
ここで、gはグラフ信号を示し、xは予測される信号を示し、yはコンテキスト信号を示す。
一方、グラフベース変換行列Tは、次の<数式6>のように示すことができる。
<数式6>
ここで、Tはグラフベース変換行列を示し、A及びMは各々行列を示す。
そして、上記<数式4>は上記<数式5>及び<数式6>に基づいて次の<数式7>のように書き換えることができる。
<数式7>
ここで、hはG(=M+N)次元を有する。
一方、TT=T-1であるので、上記<数式7>は、次の<数式8>のように書かれることができる。
<数式8>
この際、次の<数式9>の条件を満たす。
<数式9>
ここで、I及び0は、各行列積(算出物)(matrix products)に対応する次元の単位(自己)行列(identity matrix)及びゼロ行列(0 matrix)を示す。
このような定義に基づいて、以下、本発明の実施形態をより詳細に説明する。
図5は、本発明が適用される実施形態であって、グラフベースの信号を処理するエンコーダの概略ブロック図を例示する。
上記図5を説明すると、本発明が適用されるエンコーダ500は、グラフベース(基盤)変換部510、量子化部520、逆量子化部530、逆変換部540、バッファ550、予測部560、及びエントロピエンコーディング部570を含む。
エンコーダ500は、ビデオ信号を受信し、上記ビデオ信号から上記予測部560で出力された予測された信号を差し引きして予測エラーを生成する。上記生成された予測エラーは上記グラフベース変換部510に転送され、上記グラフベース変換部510は変換方式を上記予測エラーに適用することによって変換係数を生成する。この際、上記グラフベース変換部510はグラフベース変換行列を算出することができ、これを用いて変換を実行することができる。また、上記グラフベース変換部510は本明細書に記載された実施形態を実行することができる。
本発明が適用される他の実施形態において、上記グラフベース変換部510は、最適化関数に基づいて最適化されたグラフベース変換カーネルを獲得することができる。この際、上記最適化関数はラグランジュ乗数を用いて非制限最適化関数(unconstrained optimization function)で表現されることができ、上記非制限最適化関数(unconstrained optimization function)は新たなM次元ベクトルにより表現できる。
また、上記グラフベース変換部510は、上記最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得することができ、上記予測ベクトルは予測信号を生成するために利用できる。この際、上記予測ベクトルは、上記グラフラプラシアン行列の固有ベクトル(eigenvector)と上記固有値(eigenvalue)の分布に基づくコスト関数との間の線形結合に基づいて獲得できる。
上記獲得された予測ベクトルは逆変換部540に転送されて逆変換されることができ、逆変換された予測ベクトルは予測部560に転送されて予測信号を生成するために利用できる。又は、上記予測ベクトルはエントロピエンコーディング部570に転送されてエンコードされることもできる。
上記グラフベース変換部510の実施形態は図1の変換部120に含まれて実行されることができ、又は別個の機能ブロックで実行されることもできる。そして、本発明が適用される予測方法も上記グラフベース変換部510で実行されると説明しているが、本発明はこれに限定されるものではない。例えば、本発明が適用される予測方法は別個の機能ブロックで実行されるか、又はインター予測部180/予測部560で実行できる。
本発明が適用される予測方法の実施形態は、以下でより詳細に説明する。
グラフベース予測(Graph-based prediction)
グラフのフーリエ変換を定義するために、本発明では、G(W)に対応する次数行列(degree matrix)で表現できる。ここで、次数行列(degree matrix)は、各頂点の次数に関する情報を含む対角行列(diagonal matrix)で、以下の<数式10>のように定義できる。例えば、上記次数は一頂点に繋がっている辺の数を意味することができる。
<数式10>
グラフラプラシアン行列L=D−Wであり、したがって、グラフラプラシアン行列Li,jは次の<数式11>の通りである。
<数式11>
この際、行列Tをグラフフーリエ変換として定義すれば、行列Tは次の<数式12>の通りである。
<数式12>
ここで、UはLを対角化する固有行列を示し、Lは次の<数式13>の通りである。
<数式13>
そして、直交行列は次の<数式14>を満たす。
<数式14>
このような定義に基づいて、固有行列(eigen matrix)Uの行(columns)はLの固有ベクトル(eigenvectors)を含み、Lの固有値(eigenvalues)は次の<数式15>のように表現できる。
<数式15>
一般に、固有ベクトル(eigenvectors)は特有の形態で定義されないが、本発明の目的によって、Lが対称的であるので、全ての固有ベクトル(eigenvectors)は実数値であり、少なくとも1つの分解(decomposition)が存在することを考慮しなければならない。これは、<数式14>を満たすいかなる行列にも適用可能である。
ランダム信号の予測は古典的な統計的問題である。一般的な方式において、本発明では、ベクトル関数を<数式16>のように定義することができる。
<数式16>
ここで、p(y)はN次元ベクトルyが与えられたとき、M次元ランダムベクトル(random vector)の予測値(predicted value)を示す。
条件的確率分布f(x|y)を知っていると仮定すれば、本発明は、<数式17>のような最適化関数を通じて最適な予測関数p*(y)を探すことができる。
<数式17>
ここで、p*(y)は最適な予測関数を示し、xは原信号を示し、p(y)はN次元ベクトルyが与えられたとき、M次元ランダムベクトル(random vector)の予測値(predicted value)を示す。そして、Ex|y{・}は条件付き期待演算子(conditional expectation operator)を示す。
そして、<数式18>は予測エラーを測定する関数(function measuring prediction error)を示す。
<数式18>
例えば、Dがユークリッド距離(Euclidean distance)を測定するとき、本発明は、<数式19>のような最小二乗誤差(エラー)問題(minimum squared error problem)を有する。
<数式19>
ここで、p*(y)は最適な予測関数を示し、xは原信号を示し、p(y)はN次元ベクトルyが与えられたとき、M次元ランダムベクトル(random vector)の予測値(predicted value)を示す。
この場合、最適予測値(optimal predictor)は次の<数式20>の通りでありうる。
<数式20>
線形予測のような特別な場合が適用される場合、本発明は<数式21>のように表現することができる。
<数式21>
ここで、PはMxN行列を示し、yはN次元ベクトルを示す。
二乗誤差測定(squared-error measure)に対する最適な線形予測行列(optimal linear predictor matrix)は、次の<数式22>のように計算できる。
<数式22>
また、本発明が適用される予測アルゴリズム(prediction algorithm)を説明するために、目的関数(objective function)の定義をさらに仮定する必要がある。
<数式23>
本発明は、確率モデルの実際理論を仮定することではなく、より大きい固有値に対応する高周波数成分が典型的に、より小さなサイズ(lower magnitude)を有するという経験的観察に基づく。
このような定義によって、本発明は、グラフベース予測を分解する方法(how to decompose the graph-based prediction)を提供する。即ち、xからyを予測するためにグラフ信号Gの情報を用いることができる。これは、次のような過程に従う。
第1に、グラフ信号Gのエッジ重み付け値を決定し、グラフラプラシアン行列Lを計算することができる。
第2に、変換行列T及び固有値(eigenvalue)λを有するベクトルを決定するためにグラフラプラシアン行列Lのスペクトル分解(spectral decomposition)を実行することができる。
第3に、上記スペクトル分解の結果に基づいて、次の<数式24>のように最適な変換ベクトルh*(y)を算出することができる。
<数式24>
第4に、上記<数式24>を用いる次の<数式25>に基づいて予測ベクトルp(y)を算出することができる。
<数式25>
本発明の他の実施形態において、グラフ重み付け値セットを予め定義することも可能である。それで、全ての予測ベクトルに対し、ラプラシアン計算及び変換行列計算と関連した上記の第1ステップ及び第2ステップを反復しないことがある。
グラフベース変換の最適化(Graph-based transform optimization)
本発明のグラフベース予測アルゴリズムで、次の<数式26>の最適化問題に対するより効率の良い解法を探すために、幾つかの特別な特徴を活用することができる。
<数式26>
<数式27>
しかしながら、行列A及びMが直交部分空間(orthogonal subspaces)を発生させるため、本発明は、M次元ベクトルzを定義し、次の<数式28>を用いて<数式29>を獲得することができる。
<数式28>
<数式29>
そして、次の<数式30>の非制限最適化問題(unconstrained optimization problem)を解決して<数式31>を獲得することができる。
<数式30>
<数式31>
上記のようなグラフベース変換最適化過程を通じて最適化された変換ベクトルを獲得できるようになる。
2次目的関数の定義(Definition of Quadratic objective function)
本発明は、次の<数式32>のような目的関数を2次関数として定義することができる。
<数式32>
ここで、Wはλに基づくセミ−ポジティブ(semi-positive)の行列(半正定値行列)である。例えば、Wは次の<数式33>のように簡単に定義することができる。
<数式33>
表示の単純化のために、本発明は、暗示的にλに基づく行列Wの依存性を考慮し、次の<数式34>の解を分析することができる。
<数式34>
最適な解を探すために、ラグランジュ乗数を用いることができる。2次目的関数の場合に、上記<数式27>に定義された数式は全て線形であり、本発明は次の<数式35>のような行列形態を有することができる。
<数式35>
仮に、Wが単数(singular)でなければ、次の<数式36>及び<数式37>のように表現できる。
<数式36>
<数式37>
これをhに対して解けば、本発明は次の<数式38>を獲得することができ、予測値は<数式39>の通りである。
<数式38>
<数式39>
本発明の他の実施形態において、Wが単数(singular)のときの場合を次の通り説明することができる。2次目的関数に対する<数式30>の対応するバージョンは次の<数式40>の通りである。
<数式40>
最適な解は次の<数式41>及び<数式42>により定義されることができ、結果的に、<数式43>を獲得することができる。
<数式41>
<数式42>
<数式43>
本発明が適用される他の実施形態において、最適な変換ベクトルを選択するための目的関数を選択する他の方法を提供する。例えば、2次関数は次の<数式44>のような凸関数(convex function)の特別な場合でありうる。
<数式44>
一方、上記量子化部520は、上記のような過程を通じて生成された変換係数を量子化して上記量子化された係数をエントロピエンコーディング部570に転送する。
上記エントロピエンコーディング部570は、上記量子化された信号に対するエントロピコーディングを実行し、エントロピコーディングされた信号を出力する。
上記量子化部520により出力された上記量子化された信号は、予測信号を生成するために使用できる。例えば、上記エンコーダ500のループ内の上記逆量子化部530及び上記逆変換部540は、上記量子化された信号が予測エラーに復元されるように上記量子化された信号に対する逆量子化及び逆変換を実行することができる。復元された信号は上記復元された予測エラーを上記予測部560により出力された予測信号に加えることによって生成できる。
上記バッファ550は、予測部560の今後の参照のために復元された信号を記憶する。
上記予測部560は、以前に復元されて上記バッファ550に記憶された信号を使用して予測信号を生成することができる。このような場合、本発明は、アンカ(anchor)イメージ内の領域を使用して目標イメージ内の領域を効率良く予測することに関連したものである。ここで、上記アンカイメージは、参照イメージ、参照ピクチャ、又は参照フレームを意味することができる。効率はレート歪(率−歪曲)(Rate-Distortion)コスト又は予測エラー内の歪曲を定量化する平均二乗誤差を算出することによって決定できる。
本発明は、グラフ内の頂点及びエッジを識別し、残差値信号をエンコード又はデコードする方法を提案する。例えば、本発明の実施形態はグラフベース変換部510を通じて多様な実施形態を実行することができる。上記グラフベース変換部510は、上記エンコーダ500又は上記デコーダ700に含まれることができる。
図6は、本発明が適用される実施形態であって、グラフベースの信号を処理するデコーダの概略ブロック図を例示する。
図6のデコーダ600は、図5のエンコーダ500により出力された信号を受信する。この際、上記出力された信号はグラフパラメータセット(graph parameter set)及び残差信号を含むことができる。上記グラフパラメータセットに基づいてグラフベース変換行列を獲得することができ、上記グラフベース変換行列は固有ベクトルを含むことができる。そして、予測ベクトルは最適な変換ベクトルを用いて獲得されることができ、上記最適な変換ベクトルは最適化関数を通じて算出できる。この際、上記予測ベクトルは変換ベクトルと固有ベクトル(eigenvectors)との線形結合に基づいて獲得されることができ、上記変換ベクトルはグラフラプラシアン行列の固有値(eigenvalue)の分布に基づくコスト関数を用いて決定できる。
一方、上記最適化関数は、ラグランジュ乗数を用いて非制限最適化関数(unconstrained optimization function)で表現されることができ、上記非制限最適化関数(unconstrained optimization function)は新たなM次元ベクトルにより表現できる。
上記デコーダ600は、上記予測ベクトル情報に基づいて予測信号を生成することができる。これは、予測部650で実行できるが、本発明はこれに限定されるものではない。
上記エントロピデコーディング部610は、受信された信号に対するエントロピデコーディングを実行する。上記逆量子化部620は、量子化ステップサイズに関する情報に基づいて上記エントロピデコードされた信号から変換係数を獲得する。
上記逆変換部630は、変換係数に対する逆変換を実行することによって、予測エラーを取得する。この際、上記逆変換は上記エンコーダ500で獲得されたグラフベース変換に対する逆変換を意味することができる。
復元された信号は、上記獲得された予測エラーを上記予測部650により出力された予測信号に加えることによって生成され、これは復元部(図示せず)で実行される。
上記バッファ640は、上記予測部650の今後の参照のために上記復元された信号を記憶する。
上記予測部650は、以前に復元されて上記バッファ640に記憶された信号と本発明が適用される予測ベクトルとに基づいて予測信号を生成する。
本発明において、グラフパラメータに基づいて獲得されたグラフベース変換は、上記エンコーダ500又は上記デコーダ600で使用できる。
図7は、本発明が適用される一実施形態であって、グラフベース変換部の内部ブロック図を示す。
図7を参照すると、グラフベース(基盤)変換部510は、グラフパラメータ抽出部511、グラフ信号生成部512、グラフベース(基盤)変換算出部513、変換実行(遂行)部514、変換最適化部515、及びグラフベース(基盤)予測部516を含むことができる。但し、本発明はこれに限定されず、上記グラフベース変換部510内の各機能ユニットは別個の機能ユニットとして動作することができ、又は他の機能ユニットに含まれて動作することもできる。
グラフパラメータ抽出部511は、残差信号のターゲットユニットに対応するグラフ内のグラフパラメータを抽出することができる。例えば、上記グラフパラメータは、頂点パラメータ及びエッジパラメータのうち、少なくとも1つを含むことができる。上記頂点パラメータは、頂点の位置及び頂点の個数のうちの少なくとも1つを含み、上記エッジパラメータは、エッジ重み付け値及びエッジ重み付け値の個数のうち、少なくとも1つを含むことができる。また、上記グラフパラメータは一定個数のセット(set)で定義できる。
グラフ信号生成部512は、上記グラフパラメータ抽出部511から抽出されたグラフパラメータに基づいてグラフ信号を生成することができる。この際、上記グラフ信号からグラフラプラシアン行列を算出することができる。
グラフベース変換算出部513は、上記グラフパラメータ又はグラフパラメータセットに基づいてグラフベース変換行列(graph-based transform matrix)を獲得することができる。この際、上記グラフベース変換行列は固有ベクトル(eigenvector)を含むことができる。
また、グラフベース変換算出部513は、上記グラフパラメータ又はグラフパラメータセットに基づいてグラフラプラシアン行列を算出することができる。この場合、上記グラフベース変換行列は、上記グラフラプラシアン行列のスペクトル分解(spectral decomposition)を通じて獲得できる。
変換実行部514は、グラフベース変換行列を用いて変換を実行することができる。
変換最適化部515は、最適化関数を通じて最適な変換ベクトルを算出することができる。ここで、上記最適化関数はラグランジュ乗数を用いて非制限最適化関数(unconstrained optimization function)で表現できる。そして、上記非制限最適化関数(unconstrained optimization function)は新たなM次元ベクトルにより表現できる。例えば、上記最適化関数に上記<数式24>又は上記<数式34>が用いられることができ、上記最適な変換ベクトルは、上記<数式18>、上記<数式25>、又は上記<数式36>を用いて獲得できる。
グラフベース予測部516は、上記算出された最適な変換ベクトルを用いて予測ベクトルを獲得することができる。上記予測ベクトルは、変換ベクトルと固有ベクトル(eigenvectors)との線形結合に基づいて獲得されることができ、上記変換ベクトルは、グラフラプラシアン行列の固有値(eigenvalue)の分布に基づくコスト関数を用いて決定できる。例えば、上記予測ベクトルは上記<数式19>又は上記<数式37>を用いて獲得できる。
また、上記予測ベクトルは、エンコードされてデコーダに転送されるか、又はデコーダで導出されることもできる。転送方法には、例えば、ベクトル値を転送するか、又はベクトル値差を転送することもできるが、本発明はこれに限定されるものではない。
図8は、本発明が適用される一実施形態であって、グラフ信号に基づいて最適化された予測ベクトルを獲得する過程を説明するためのフローチャートである。
エンコーダは、受信したビデオ信号から予測信号を生成し、ビデオ信号で予測信号を減算して残差信号を生成することができる。上記残差信号に対して変換が実行されるが、この際、グラフベース信号処理技術を適用してグラフベース変換又はグラフベース予測を実行することができる。以下、グラフ信号に基づいてグラフベース予測を実行する方法を説明する。
まず、エンコーダは、ビデオ信号のターゲットユニットに対応するグラフパラメータセットを決定することができる(S810)。例えば、グラフ信号Gの頂点パラメータ及びエッジ重み付け値のうち、少なくとも1つを決定することができる。
そして、エンコーダは、グラフパラメータセット(graph parameter set)に基づいてグラフ信号を生成することができ、グラフ信号に基づいてグラフラプラシアン行列Lを算出することができる(S820)。
エンコーダは、変換行列T及び固有値(eigenvalue)λを有するベクトルを決定するためにグラフラプラシアン行列Lのスペクトル分解(spectral decomposition)を実行することができ、上記スペクトル分解結果に基づいてグラフベース(基盤)変換行列を獲得することができる(S830)。この際、上記グラフベース変換行列は固有ベクトル(eigenvector)を含むことができる。
エンコーダは、最適化関数を通じて最適な変換ベクトルを獲得することができる(S840)。この際、上記最適化関数に上記<数式24>又は上記<数式34>が用いられることができ、上記最適な変換ベクトルは、上記<数式18>、上記<数式25>、又は上記<数式36>を用いて獲得できる。ここで、上記最適化関数は、コンテキスト信号、グラフラプラシアン行列の固有値(eigenvalue)及び固有ベクトル(eigenvector)を変数として有することができる。そして、上記最適化関数はラグランジュ乗数に基づく非制限最適化関数(unconstrained optimization function)で表現され、上記非制限最適化関数(unconstrained optimization function)は新たなM次元ベクトルにより表現できる。
そして、エンコーダは上記最適な変換ベクトルを用いて予測ベクトルを算出することができる(S850)。ここで、上記予測ベクトルは、変換ベクトルと上記固有ベクトル(eigenvectors)との線形結合に基づいて獲得され、上記変換ベクトルは、上記グラフラプラシアン行列の固有値(eigenvalue)の分布に基づくコスト関数を用いて決定できる。例えば、予測関数に上記<数式19>又は上記<数式37>が利用できる。
一方、上記算出された予測ベクトルは予測信号を生成するために利用できる。又は、他の例において、上記予測ベクトルは、エンコードされてデコーダに転送されるか、又はデコーダで導出されることもできる。
図9は、本発明が適用される一実施形態であって、グラフベース予測を用いてビデオ信号をデコードする過程を説明するためのフローチャートである。
本発明が適用されるデコーダは、グラフパラメータセット及び残差(レジデュアル)信号を含むビデオ信号を受信することができる(S910)。
そして、グラフパラメータセットに基づいてグラフベース(基盤)変換行列を獲得することができる(S920)。上記獲得されたグラフベース(基盤)変換行列を用いて残差(レジデュアル)信号を復元することができる(S930)。
一方、デコーダは最適化関数を通じて最適な変換ベクトルを算出することができる(S940)。この際、上記最適化関数は、コンテキスト信号、グラフラプラシアン行列の固有値(eigenvalue)及び固有ベクトル(eigenvector)を変数として有することができる。そして、上記最適化関数はラグランジュ乗数に基づく非制限最適化関数(unconstrained optimization function)で表現され、上記非制限最適化関数(unconstrained optimization function)は新たなM次元ベクトルにより表現できる。
デコーダは上記最適な変換ベクトルを用いて予測ベクトルを獲得することができる(S950)。これは、デコーダの予測部又は逆変換部で実行できる。上記予測ベクトルは、変換ベクトルと上記固有ベクトル(eigenvectors)との線形結合に基づいて獲得され、上記変換ベクトルは上記グラフラプラシアン行列の固有値(eigenvalue)の分布に基づくコスト関数を用いて決定できる。
そして、デコーダは上記予測ベクトルに基づいて予測信号を生成することができる(S960)。
デコーダは、上記生成された予測信号と残差(レジデュアル)信号とを合せてビデオ信号を復元することができる(S970)。
このように、本発明は、最適化関数を用いてグラフベース予測を実行する最適化予測アルゴリズムを提供することによって、低複雑度で予測値を獲得することができ、延いては、予測性能を向上させることができる。
上で記述されたように、本発明で説明した実施形態は、プロセッサ、マイクロプロセッサ、コントローラ、又はチップ上で具現されて実行できる。例えば、上記図1、図2、図5、図6、及び図7で図示した機能ユニットは、コンピュータ、プロセッサ、マイクロプロセッサ、コントローラ、又はチップ上で具現されて実行できる。
また、本発明が適用されるデコーダ及びエンコーダは、マルチメディア放送送受信装置、モバイル通信端末、ホームシネマビデオ装置、デジタルシネマビデオ装置、監視用カメラ、ビデオ対話装置、ビデオ通信などのリアルタイム通信装置、モバイルストリーミング装置、記憶(格納)媒体、カムコーダ、ビデオオンデマンド(注文型ビデオ)(VoD)サービス提供装置、インターネットストリーミングサービス提供装置、3次元(3D)ビデオ装置、画像電話ビデオ装置、及び医療用ビデオ装置などに含まれることができ、ビデオ信号及びデータ信号を処理するために使用できる。
また、本発明が適用される処理方法は、コンピュータにより実行されるプログラムの形態で生産されることができ、コンピュータにより読み取ることができる記録媒体に記憶(格納)できる。本発明に従うデータ構造を有するマルチメディアデータもまたコンピュータにより読み取ることができる記録媒体に記憶できる。上記コンピュータにより読み取ることができる記録媒体は、コンピュータにより読み取ることができるデータが記憶される全ての種類の記憶装置を含む。上記コンピュータにより読み取ることができる記録媒体は、例えば、ブルーレイディスク(BD)、ユニバーサルシリアルバス(汎用直列バス)(USB)、ROM、RAM、CD−ROM、磁気テープ、フロッピ(登録商標)ディスク、及び光学データ記憶装置を含むことができる。また、上記コンピュータにより読み取ることができる記録媒体は、搬送波(例えば、インターネットを通じての転送)の形態で具現された媒体(メディア)を含む。また、エンコーディング方法により生成されたビットストリームがコンピュータにより読み取ることができる記録媒体に記憶されるか、又は有/無線通信ネットワークを介して転送できる。
以上、前述した本発明の好ましい実施形態は、例示の目的のために開示されたものであって、当業者であれば、以下に添付した特許請求の範囲に開示された本発明の技術的思想とその技術的範囲内で、多様な他の実施形態を改良、変更、置き換え、又は付加などが可能である。

Claims (20)

  1. グラフ信号を用いてグラフベース予測を実行する方法であって、
    コンテキスト信号を獲得するステップと、
    グラフパラメータセットに基づいてグラフ信号を生成するステップと、
    前記グラフ信号に基づいてグラフベース変換行列を獲得するステップであって、前記グラフベース変換行列は固有ベクトルを有するステップと、
    最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得するステップと、
    前記予測ベクトルを用いて予測信号を生成するステップと、を有し、
    前記最適化関数は、前記コンテキスト信号、グラフラプラシアン行列の固有値及び前記固有ベクトルを変数として有する、ことを特徴とする方法。
  2. 前記予測ベクトルは、変換ベクトルと前記固有ベクトルとの線形結合に基づいて獲得され、
    前記変換ベクトルは、前記グラフラプラシアン行列の固有値の分布に基づくコスト関数を用いて決定される、請求項1に記載の方法。
  3. 前記グラフ信号に基づいてグラフラプラシアン行列を算出するステップをさらに有し、
    前記グラフベース変換行列は、前記グラフラプラシアン行列のスペクトル分解を通じて獲得される、請求項1に記載の方法。
  4. 前記最適化関数は、ラグランジュ乗数に基づく非制限最適化関数で表現され、
    前記非制限最適化関数は、新たなM次元ベクトルにより表現される、請求項1に記載の方法。
  5. 予測エラーをエンコードするステップと、
    前記エンコードされた予測エラーを転送するステップと、をさらに有する、請求項1に記載の方法。
  6. グラフベース予測に基づいてビデオ信号をデコードする方法であって、
    グラフパラメータセット及び残差信号を有する前記ビデオ信号を受信するステップと、
    前記グラフパラメータセットに基づいて固有ベクトルを有するグラフベース変換行列を獲得するステップと、
    最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得するステップと、
    前記予測ベクトルを用いて予測信号を生成するステップと、
    前記予測信号と前記残差信号とを合せて前記ビデオ信号を復元するステップと、を有し、
    前記最適化関数は、コンテキスト信号、グラフラプラシアン行列の固有値及び前記固有ベクトルを変数として有する、ことを特徴とする方法。
  7. 前記予測ベクトルは、変換ベクトルと前記固有ベクトルとの線形結合に基づいて獲得され、
    前記変換ベクトルは、前記グラフラプラシアン行列の固有値の分布に基づくコスト関数を用いて決定される、請求項6に記載の方法。
  8. 前記コスト関数は、前記変換ベクトルの凸関数であり、
    前記凸関数は、変換ベクトル成分の重み付けされたP−ノルム(weighted P-norm of the transform vector components)を有する、請求項7に記載の方法。
  9. 前記最適化関数は、ラグランジュ乗数に基づく非制限最適化関数で表現され、
    前記非制限最適化関数は、新たなM次元ベクトルにより表現された、請求項8に記載の方法。
  10. 前記グラフベース変換行列は、グラフラプラシアン行列のスペクトル分解を通じて獲得された、請求項6に記載の方法。
  11. グラフ信号を用いてグラフベース予測を実行する装置であって、
    グラフパラメータセットに基づいてグラフ信号を生成し、前記グラフ信号に基づいて固有ベクトルを有するグラフベース変換行列を獲得するグラフベース変換部と、
    コンテキスト信号を獲得し、最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得し、前記予測ベクトルを用いて予測信号を生成する予測部と、を有し、
    前記最適化関数は、前記コンテキスト信号、グラフラプラシアン行列の固有値及び前記固有ベクトルを変数として有する、ことを特徴とする装置。
  12. 前記予測ベクトルは、変換ベクトルと前記固有ベクトルとの線形結合に基づいて獲得され、
    前記変換ベクトルは、前記グラフラプラシアン行列の固有値の分布に基づくコスト関数を用いて決定される、請求項11に記載の装置。
  13. 前記グラフベース変換部は、前記グラフ信号に基づいてグラフラプラシアン行列を算出し、
    前記グラフベース変換行列は、前記グラフラプラシアン行列のスペクトル分解を通じて獲得される、請求項11に記載の装置。
  14. 前記最適化関数は、ラグランジュ乗数に基づく非制限最適化関数で表現され、
    前記非制限最適化関数は、新たなM次元ベクトルにより表現される、請求項11に記載の装置。
  15. 予測エラーをエンコードし、前記エンコードされた予測エラーを転送するエントロピエンコーディング部をさらに有する、請求項11に記載の装置。
  16. グラフベース予測に基づいてビデオ信号をデコードする装置であって、
    グラフパラメータセット及び残差信号を有する前記ビデオ信号を受信するエントロピデコーディング部と、
    前記グラフパラメータセットに基づいて固有ベクトルを有するグラフベース変換行列を獲得する逆変換部と、
    最適化関数を通じて算出された最適な変換ベクトルを用いて予測ベクトルを獲得し、前記予測ベクトルを用いて予測信号を生成する予測部と、
    前記予測信号と前記残差信号とを合せて前記ビデオ信号を復元する復元部と、を有し、
    前記最適化関数は、コンテキスト信号、グラフラプラシアン行列の固有値及び前記固有ベクトルを変数として有する、ことを特徴とする装置。
  17. 前記予測ベクトルは、変換ベクトルと前記固有ベクトルとの線形結合に基づいて獲得され、
    前記変換ベクトルは、前記グラフラプラシアン行列の固有値の分布に基づくコスト関数を用いて決定される、請求項16に記載の装置。
  18. 前記コスト関数は、前記変換ベクトルの凸関数であり、
    前記凸関数は、変換ベクトル成分の重み付けされたP−ノルム(weighted P-norm of the transform vector components)を有する、請求項17に記載の装置。
  19. 前記最適化関数は、ラグランジュ乗数に基づく非制限最適化関数で表現され、
    前記非制限最適化関数は、新たなM次元ベクトルにより表現された、請求項18に記載の装置。
  20. 前記グラフベース変換行列は、グラフラプラシアン行列のスペクトル分解を通じて獲得された、請求項16に記載の装置。
JP2017522065A 2014-10-21 2015-10-21 最適化関数を用いてグラフベース予測を実行する方法及び装置 Expired - Fee Related JP6356912B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201462066365P 2014-10-21 2014-10-21
US62/066,365 2014-10-21
PCT/KR2015/011137 WO2016064185A1 (ko) 2014-10-21 2015-10-21 최적화 함수를 이용하여 그래프 기반 예측을 수행하는 방법 및 장치

Publications (2)

Publication Number Publication Date
JP2017536033A JP2017536033A (ja) 2017-11-30
JP6356912B2 true JP6356912B2 (ja) 2018-07-11

Family

ID=55748008

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017522065A Expired - Fee Related JP6356912B2 (ja) 2014-10-21 2015-10-21 最適化関数を用いてグラフベース予測を実行する方法及び装置

Country Status (6)

Country Link
US (2) US10425649B2 (ja)
EP (1) EP3211894B1 (ja)
JP (1) JP6356912B2 (ja)
KR (1) KR101901355B1 (ja)
CN (1) CN107005712B (ja)
WO (1) WO2016064185A1 (ja)

Families Citing this family (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9723116B2 (en) * 2012-09-25 2017-08-01 Jean Edrice Georges Restraining system for handheld electronic devices
US9706829B2 (en) * 2014-07-21 2017-07-18 Rocky Gabriel Tilney Portable docking device
US10255358B2 (en) 2014-12-30 2019-04-09 Facebook, Inc. Systems and methods for clustering items associated with interactions
CN107454834B (zh) 2015-02-13 2021-02-02 瑟西纳斯医疗技术有限责任公司 用于在骨骼中放置医疗设备的系统和方法
USD771613S1 (en) * 2015-08-11 2016-11-15 Griffin Technology, Inc. Case for portable electronic communications device
USD772211S1 (en) * 2015-08-13 2016-11-22 Griffin Technology, Inc. Case for portable electronic communications device
USD772857S1 (en) * 2015-09-23 2016-11-29 Griffin Technology, Inc. Case for portable electronic communications device
USD781837S1 (en) * 2015-10-19 2017-03-21 Modne, Inc. Phone case
USD781836S1 (en) * 2015-10-19 2017-03-21 Modne, Inc. Phone case
USD781839S1 (en) * 2015-10-19 2017-03-21 Modne, Inc. Phone case
WO2017135661A1 (ko) * 2016-02-01 2017-08-10 엘지전자 주식회사 그래프 기반 분리 가능한 변환 (graph-based separable transform)을 이용하여 비디오 신호를 인코딩 / 디코딩하는 방법 및 장치
CN105807861A (zh) * 2016-03-28 2016-07-27 永德利硅橡胶科技(深圳)有限公司 平板电脑保护壳
US20180063306A1 (en) * 2016-08-23 2018-03-01 Bruce Allen Scannell, JR. Cell Phone Case with Reconfigurable Plates
US10703297B1 (en) * 2016-08-26 2020-07-07 Apple Inc. System for holding devices in a passenger vehicle
USD787498S1 (en) * 2016-09-15 2017-05-23 Jinliang Chen Case for electronic communications device
USD860980S1 (en) * 2016-10-28 2019-09-24 Spigen, Inc. Case for a cellular phone
USD861655S1 (en) * 2016-10-28 2019-10-01 Spigen, Inc. Case for a cellular phone
IT201600122898A1 (it) * 2016-12-02 2018-06-02 Ecole Polytechnique Fed Lausanne Epfl Metodi e apparati per codificare e decodificare immagini o flussi video digitali
US20180192031A1 (en) * 2017-01-03 2018-07-05 Leslie C. Hardison Virtual Reality Viewing System
FR3061423B1 (fr) * 2017-01-03 2020-10-23 Ilyu Ensemble comportant un brassard et une pochette pour smartphone
IT201700052116A1 (it) * 2017-05-15 2018-11-15 Romano Lepore Dispositivo porta smartphone o telefono cellulare
USD848996S1 (en) * 2017-07-07 2019-05-21 Spigen Korea Co., Ltd. Case for electronic communications device
USD848997S1 (en) * 2017-07-27 2019-05-21 Spigen Korea Co., Ltd. Case for electronic communications device
USD857683S1 (en) * 2017-07-27 2019-08-27 Spigen Korea Co., Ltd. Case for electronic communications device
WO2019036524A1 (en) 2017-08-14 2019-02-21 Scapa Flow, Llc SYSTEM AND METHOD USING ENHANCED REALITY WITH FORMS ALIGNMENT FOR MEDICAL DEVICE INSTALLATION IN BONE
USD878346S1 (en) * 2017-08-16 2020-03-17 Spigen, Inc. Phone case
USD839860S1 (en) * 2017-08-18 2019-02-05 Spigen Korea Co., Ltd. Case for electronic communications device
USD839259S1 (en) * 2017-09-01 2019-01-29 Spigen Korea Co., Ltd. Case for electronic communications device
USD839258S1 (en) * 2017-09-01 2019-01-29 Spigen Korea Co., Ltd. Case for electronic communications device
USD839863S1 (en) * 2017-11-10 2019-02-05 Spigen Korea Co., Ltd. Case for electronic communications device
US10927868B2 (en) * 2018-02-01 2021-02-23 Image Builders Marketing, Inc. Decorative cover assembly for vehicle
USD881866S1 (en) 2018-09-14 2020-04-21 Spigen Korea Co., Ltd. Case for smart phone
US11058194B2 (en) * 2018-09-25 2021-07-13 1Lss, Inc Interposable magnetically coupled devices
JP2022523564A (ja) 2019-03-04 2022-04-25 アイオーカレンツ, インコーポレイテッド 機械学習を使用するデータ圧縮および通信
AU2020258375A1 (en) * 2019-04-15 2021-11-11 Circinus Medical Technology Llc Attachment apparatus to secure a medical alignment device to align a tool
CN114399015A (zh) * 2019-04-17 2022-04-26 苹果公司 无线可定位标签
US10990879B2 (en) 2019-09-06 2021-04-27 Digital Asset Capital, Inc. Graph expansion and outcome determination for graph-defined program states
CN110807392B (zh) * 2019-10-25 2022-09-06 浙江大华技术股份有限公司 编码控制方法以及相关装置
US11432014B2 (en) * 2019-10-25 2022-08-30 Qualcomm Incorporated Parametric graph-based separable transforms for video coding
US11242012B1 (en) * 2020-04-07 2022-02-08 Jason Bell Attachable holder for a mobile device
US11219299B1 (en) * 2020-08-11 2022-01-11 Melissa Pimentel Electronic tablet holder assembly
US11839279B2 (en) * 2020-09-22 2023-12-12 Apple Inc. Magnetically attachable wallet
US11724651B2 (en) * 2020-12-30 2023-08-15 Shahroukh M. Kazempour Smart phone mount for vehicles
KR102358678B1 (ko) * 2021-01-14 2022-02-08 영남대학교 산학협력단 대규모 소셜 네트워크 분석 방법 및 이를 수행하기 위한 장치
US11388967B1 (en) 2021-07-07 2022-07-19 Logan R. Riley Device protector

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7374142B2 (en) * 2003-03-27 2008-05-20 Carnevali Jeffrey D Magnetic mounting apparatus
US8121618B2 (en) * 2009-10-28 2012-02-21 Digimarc Corporation Intuitive computing methods and systems
WO2011098488A1 (en) * 2010-02-11 2011-08-18 Thomson Licensing Method for coding and for reconstruction of a block of an image sequence
KR101598857B1 (ko) * 2010-02-12 2016-03-02 삼성전자주식회사 그래프 기반 화소 예측을 이용한 영상 부호화/복호화 시스템 및 방법 그리고 깊이 맵 부호화 시스템 및 방법
EP2360927A3 (en) * 2010-02-12 2011-09-28 Samsung Electronics Co., Ltd. Image encoding/decoding system using graph based pixel prediction and encoding system and method
KR20110135787A (ko) 2010-06-11 2011-12-19 삼성전자주식회사 엣지-적응 변환을 이용한 영상 부호화/복호화 시스템 및 방법
US9087375B2 (en) * 2011-03-28 2015-07-21 Sony Corporation Image processing device, image processing method, and program
EP2721826A4 (en) * 2011-06-14 2015-05-06 Zhou Wang METHOD AND SYSTEM FOR OPTIMIZATION OF FLOW-DISTORTION BASED ON STRUCTURAL SIMILARITY FOR PERCEPTUAL VIDEO CODING
US9116665B2 (en) * 2011-10-10 2015-08-25 AFC Trident, Inc. Modular protective cover with accessory slot for portable electronic device
US8708151B2 (en) * 2012-01-12 2014-04-29 Rokform Llc Case and mount system for handheld electronic device
US9621894B2 (en) 2012-01-13 2017-04-11 Qualcomm Incorporated Determining contexts for coding transform coefficient data in video coding
US8870143B2 (en) * 2012-02-21 2014-10-28 Dmitry Kubin Low profile secure asymmetrical turn-lock coupling mechanism with magnetic rotational orientation locks
JP6188005B2 (ja) * 2012-06-21 2017-08-30 大学共同利用機関法人情報・システム研究機構 濃淡画像符号化装置及び復号装置
US8936222B1 (en) * 2013-11-27 2015-01-20 James W. Bastian System and method for magnetically supporting a device upon a structure
US9616821B2 (en) * 2013-11-28 2017-04-11 David ELHARAR Apparatus for securing a mobile device to a steering wheel
CN103929642B (zh) * 2014-04-24 2017-04-12 北京航空航天大学 一种hevc变换系数的熵编码上下文模型偏移值快速计算方法
US9706829B2 (en) * 2014-07-21 2017-07-18 Rocky Gabriel Tilney Portable docking device
US20160150861A1 (en) * 2014-12-02 2016-06-02 Aevoe International Ltd. Mountable case assembly
US9800283B2 (en) * 2015-06-17 2017-10-24 Airo Collective, Inc. Mobile device holder
US9397719B1 (en) * 2015-06-17 2016-07-19 Airo Collective, Inc. Mobile device holder

Also Published As

Publication number Publication date
KR101901355B1 (ko) 2018-09-21
WO2016064185A1 (ko) 2016-04-28
US10425649B2 (en) 2019-09-24
KR20170016381A (ko) 2017-02-13
CN107005712B (zh) 2020-01-03
US20160106202A1 (en) 2016-04-21
CN107005712A (zh) 2017-08-01
US20170359584A1 (en) 2017-12-14
EP3211894B1 (en) 2020-03-04
EP3211894A1 (en) 2017-08-30
JP2017536033A (ja) 2017-11-30
EP3211894A4 (en) 2018-05-02

Similar Documents

Publication Publication Date Title
JP6356912B2 (ja) 最適化関数を用いてグラフベース予測を実行する方法及び装置
US20180220158A1 (en) Method and device for processing video signal using graph-based transform
JP6356913B2 (ja) グラフテンプレートから誘導された変換を用いてビデオ信号をデコーディング/エンコーディングする方法及び装置
CN110383695B (zh) 用于对数字图像或视频流进行编码和解码的方法和装置
US10771815B2 (en) Method and apparatus for processing video signals using coefficient induced prediction
JP6592086B2 (ja) 一般化されたグラフパラメータを用いてグラフ基盤変換を行う方法及び装置
WO2017043941A1 (ko) 예측 각도에 따른 그래프 기반 변환을 이용하여 비디오 신호를 처리하는 방법 및 장치
JP6392453B2 (ja) 幾何要素を用いてグラフに基づく信号を処理する方法及び装置
US20200288129A1 (en) Method and device for encoding/decoding video signal by using optimized conversion based on multiple graph-based model
KR20170072243A (ko) 그래프 기반 변환(graph based transform)을 이용한 비디오 신호 처리 방법 및 이를 위한 장치
US20170310974A1 (en) Method and apparatus for encoding and decoding video signal using improved prediction filter
US10715802B2 (en) Method for encoding/decoding video signal by using single optimized graph
US11503292B2 (en) Method and apparatus for encoding/decoding video signal by using graph-based separable transform
US20240073425A1 (en) Image encoding apparatus and image decoding apparatus both based on artificial intelligence, and image encoding method and image decoding method performed by the image encoding apparatus and the image decoding apparatus
US20230044603A1 (en) Apparatus and method for applying artificial intelligence-based filtering to image
CN112154667B (zh) 视频的编码和解码
US10051268B2 (en) Method for encoding, decoding video signal and device therefor

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180508

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180614

R150 Certificate of patent or registration of utility model

Ref document number: 6356912

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees