JP2014057198A - 画像処理装置、画像処理システム、及び画像処理方法 - Google Patents
画像処理装置、画像処理システム、及び画像処理方法 Download PDFInfo
- Publication number
- JP2014057198A JP2014057198A JP2012200479A JP2012200479A JP2014057198A JP 2014057198 A JP2014057198 A JP 2014057198A JP 2012200479 A JP2012200479 A JP 2012200479A JP 2012200479 A JP2012200479 A JP 2012200479A JP 2014057198 A JP2014057198 A JP 2014057198A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- pixel
- motion vector
- frame
- interpolation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/587—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Television Systems (AREA)
- Image Processing (AREA)
Abstract
【課題】再構成型超解像度処理における演算量を低減する。
【解決手段】画像処理装置10は、複数の構成要素を含む。動き予測部11は、複数のフレームを含む入力画像データを受け付け、ターゲットフレーム上の画素と参照フレーム上の画素との間の対応関係を示す第1動きベクトルを生成する。動きベクトル変換部12は、第1動きベクトルを、複数のフレームを補間する補間フレーム上の画素と参照フレーム上の画素との間の対応関係を示す第2動きベクトルに変換する。動き補償ユニット2は、第2動きベクトルを用いて、入力画像データに対してフレーム補間処理をし、複数の補間フレームを含む動き補償データを生成する。スケーリングユニット4は、入力画像データにスケーリング処理をし、スケーリング画像データを生成する。再構成処理部は、動き補償データを用いて、スケーリング画像データに対して再構成処理をし、出力画像データを生成する。
【選択図】図3
【解決手段】画像処理装置10は、複数の構成要素を含む。動き予測部11は、複数のフレームを含む入力画像データを受け付け、ターゲットフレーム上の画素と参照フレーム上の画素との間の対応関係を示す第1動きベクトルを生成する。動きベクトル変換部12は、第1動きベクトルを、複数のフレームを補間する補間フレーム上の画素と参照フレーム上の画素との間の対応関係を示す第2動きベクトルに変換する。動き補償ユニット2は、第2動きベクトルを用いて、入力画像データに対してフレーム補間処理をし、複数の補間フレームを含む動き補償データを生成する。スケーリングユニット4は、入力画像データにスケーリング処理をし、スケーリング画像データを生成する。再構成処理部は、動き補償データを用いて、スケーリング画像データに対して再構成処理をし、出力画像データを生成する。
【選択図】図3
Description
本発明の実施形態は、画像処理装置、画像処理システム、及び画像処理方法に関する。
近年、低解像度画像から高解像度画像を推定する方法として、再構成型超解像度処理という技術が知られている。再構成型超解像処理は、一般的には画像を拡大する処理であるスケーリング処理の一つであるが、フレーム補間処理と組み合わせて用いられることが多いことから、本明細書で説明する再構成型超解像度処理は、スケーリング処理だけでなくフレーム補間処理の両方を含む処理とする。(すなわち、再構成型超解像度処理では、スケーリング処理と、フレーム補間処理とが実行される。)
スケーリング処理では、入力画像データから動きベクトルを生成する動き予測処理と、この動きベクトルから補間ピクセルを推定する補間ピクセル推定処理と、入力画像データから拡大画像データを生成する拡大処理と、拡大画像データ及び補間ピクセルから再構成画像データを生成する再構成処理とが実行される。
フレーム補間処理では、再構成画像データから動きベクトルを生成する動き予測処理と、この動きベクトルから補間フレームを推定する補間フレーム推定処理と、補間フレームから出力画像データを生成する動き補償処理とが実行される。
しかしながら、従来の再構成型超解像度処理では、スケーリング処理の動きベクトル処理と、フレーム補間処理の動きベクトル処理とが別個に実行されるので、複数回の動きベクトル処理が必要である。その結果、再構成型超解像度処理における演算量が増加する。特に、再構成画像データは、拡大画像データから生成されるので、動き予測処理は、拡大画像データに対応する再構成画像データに対して実行され、演算量が増加する。
本発明が解決しようとする課題は、再構成型超解像度処理における演算量を低減することである。
本発明の実施形態の画像処理装置は、動き予測部と、動きベクトル変換部と、動き補償ユニットと、スケーリングユニットと、再構成処理部と、を備える。動き予測部は、複数のフレームを含む入力画像データを受け付け、ターゲットフレーム上の画素と参照フレーム上の画素との間の対応関係を示す第1動きベクトルを生成する。動きベクトル変換部は、前記第1動きベクトルを、前記複数のフレームを補間する補間フレーム上の画素と前記参照フレーム上の画素との間の対応関係を示す第2動きベクトルに変換する。動き補償ユニットは、前記第2動きベクトルを用いて、前記入力画像データに対してフレーム補間処理を適用し、複数の補間フレームを含む動き補償データを生成する。スケーリングユニットは、前記入力画像データにスケーリング処理を適用し、スケーリング画像データを生成する。再構成処理部は、前記動き補償データを用いて、前記スケーリング画像データに対して再構成処理を適用し、出力画像データを生成する。
本実施形態について、図面を参照して説明する。図1は、本実施形態の画像処理システム1のブロック図である。画像処理システム1は、画像処理装置10と、画像入力装置30と、画像出力装置50と、を備える。画像入力装置30は、符号化データを復号することにより、入力画像データIMGinを生成するデコーダ(例えば、MPEG(Moving Picture Expert Group)デコーダ)又は入力画像データIMGinを記憶するメモリである。入力画像データは、例えばRGBフォーマット又はYUVフォーマットの動画像データである。画像処理装置10は、入力画像データIMGinから出力画像データIMGoutを生成する装置である。画像出力装置50は、画像処理装置10が生成した出力画像データIMGoutを出力する装置(例えば、液晶ディスプレイ)である。
図2は、本実施形態の入力画像データIMGinの説明図である。入力画像データIMGinは、複数のフレームF(n){n=0〜N(Nは正の整数)}を含んでいる。フレームF(n)は、複数の画素PXを含んでいる。各画素PXは、画素値Vと、座標情報Cと、を含んでいる。例えば、画素値Vは、RGBフォーマットの場合には、RGBの値であり、YUVフォーマットの場合には、輝度及び色差の値である。
図3は、本実施形態の画像処理装置10のブロック図である。画像処理装置10は、動き予測部11と、動きベクトル変換部12と、動き補償ユニット2と、スケーリングユニット4と、再構成処理部19と、を備える。
動き補償ユニット2は、入力画像データIMGinに対してフレーム補間処理をし、動き補償データ(第1又は第2動き補償データIP1又はIP2)を生成する。動き補償ユニット2は、第1及び第2動き補償部13及び14と、動き補償セレクタ15と、を備える。
スケーリングユニット4は、入力画像データIMGinに対してスケーリング処理をし、スケーリング画像データIMGsを生成する。スケーリングユニット4は、補間画像データ生成部16と、スケーリングセレクタ17と、スケーリング処理部18と、を備える。
以下では、再構成型超解像度処理を適用すべきフレームF(n)を「ターゲットフレーム」と称し、再構成型超解像度処理において参照すべきフレームF(n−1)及びF(n+1)を「参照フレーム」と称する。
動き予測部11は、入力画像データIMGinのフレーム毎に、動き予測の対象となるターゲットフレームと参照フレームとの間の第1動きベクトルMV1を生成する。第1動きベクトルMV1とは、参照フレームからターゲットフレーム(即ち、入力画像データIMGinに含まれるフレーム)上への画像の動きを示すベクトルである。第1動きベクトルMV1は、ターゲットフレームのすべての画素について、ターゲットフレーム上の画素と、参照フレーム上の画素との間の対応関係を示す。すなわち、この第1動きベクトルMV1の数は、ターゲットフレームの画素数と参照フレーム数との積である。第1動きベクトルMV1のベクトル量は、参照フレームからターゲットフレームへの画素Vの動きの大きさに対応し、第1動きベクトルMV1のベクトル方向は、参照フレームからターゲットフレームへの画素Vの動きの方向に対応する。第1動きベクトルMVは、小数画素精度で得られる。例えば、動き予測部11は、ブロックマッチング法または勾配法を用いて、第1動きベクトルMV1を生成する。
動きベクトル変換部12は、第1動きベクトルMV1を第2動きベクトルMV2に変換する。第2動きベクトルMV2とは、参照フレームから、参照フレームとは異なる補間フレームFip上への画像の動きを示すベクトルである。第2動きベクトルMV2のベクトル量は、参照フレームから補間フレームFipへの画素Vの動きの大きさに対応し、第2動きベクトルMV2のベクトル方向は、参照フレームから補間フレームFipへの画素Vの動きの方向に対応する。補間フレームFipは、入力画像データIMGinには含まれていない。
補間画像データ生成部16は、入力画像データIMGinに、比較的簡単なフレーム補間処理(たとえばブレンド処理)をし、スケーリング補間画像データIMGipを生成する。スケーリング補間画像データIMGipとは、入力画像データIMGinに含まれる複数のフレーム間を補間する、補間フレームを含む画像データである。
スケーリングセレクタ17は、選択信号SELに基づいて、入力画像データIMGin及びスケーリング補間画像データIMGipの一方を選択する。選択信号SELとは、画像処理装置10の内部又は外部から供給される2値信号である。例えば、スケーリングセレクタ17は、選択信号SELが“0”の場合には、入力画像データIMGinを選択し、選択信号SELが“1”の場合には、スケーリング補間画像データIMGipを選択する。すなわち、スケーリングセレクタ17は、入力象データIMGinのフレームを得る場合には、入力画像データIMGinを選択し、補間フレームを得る場合には、スケーリング補間画像データIMGipを選択する。
スケーリング処理部18は、スケーリングセレクタ17の出力(即ち、入力画像データIMGin又はスケーリング補間画像データIMGip)にスケーリング処理をし、スケーリング画像データIMGsを生成する。スケーリング画像データIMGsとは、再構成処理部19による再構成前の暫定的な画像データである。例えば、スケーリング処理では、バイリニアフィルタ、バイキュービックフィルタ、又は線形補間フィルタが適用される。スケーリング画像データIMGsは、スケーリング率が1より大きい場合には、入力画像データIMGinに対する拡大画像データであり、スケーリング率が1である場合には、入力画像データIMGinと等倍の画像データであり、スケーリング率が1未満である場合には、入力画像データIMGinに対する縮小画像データである。
第1動き補償部13は、第1動きベクトルMV1と、対応する参照フレームの画素値とを用いて、第1動き補償データIP1を生成する。第1動き補償データIP1は、スケーリング画像データIMGs上の小数精度座標及び画素値の集合からなる。画素値は、参照フレームの画素値と同一である。座標は、参照フレームの画素がスケーリング画像データIMGsのどこに対応するかの情報である第1動きベクトルMV1から得られる。すなわち、第1動き補償データIP1とは、スケーリング処理において不足する入力画像データIMGinの画素(即ち、スケーリング画像データIMGsに含まれていない入力画像データIMGinの要素)を定義するデータである。
第2動き補償部14は、第2動きベクトルMV2と、参照フレームの画素値とを用いて、第2動き補償データIP2を生成する。第2動き補償データIP2は、スケーリング画像データIMGs上の小数精度座標及び画素値の集合からなる。画素値は、参照フレームの画素値と同一である。座標は、参照フレームの画素が補間スケーリング画像データIMGsのどこに対応するかの情報である第2動きベクトルMV2から得られる。
動き補償セレクタ15は、選択信号SELに基づいて、第1及び第2動き補償データIP1及びIP2の一方を、補間画像データとして選択する。選択信号SELは、スケーリングセレクタ17へ供給される選択信号SELと同一である。動き補償セレクタ15は、スケーリングセレクタ17が入力画像データIMGinを選択する場合(選択信号SELが“0”の場合)には、第1動き補償データIP1を選択し、スケーリングセレクタ17がスケーリング補間画像データIMGipを選択する場合(選択信号SELが“1”の場合)には、第2動き補償データIP2を選択する。
再構成処理部19は、動き補償セレクタ15の出力(即ち、第1又は第2動き補償データIP1又はIP2)を用いて、スケーリング画像データIMGs(即ち、入力画像データIMGin又はスケーリング補間画像データIMGipが、拡大又は縮小されたもの)に対して再構成処理(例えば、再構成処理は、最尤推定処理(MAP:Maximum a Posteriori)又は凸射影処理(POCS:Projection Onto Convex Sets))をし、出力画像データIMGoutを生成する。
補間画像データ生成部16の動作例について説明する。図4は、本実施形態の補間画像データ生成部16の動作例の説明図である。補間画像データ生成部16は、例えば、入力画像データIMGinに含まれる2個の隣接フレームF(n−1)及びF(n)の平均を計算することにより、補間フレームFip(n−1:n)を生成する。補間フレームFip(n−1:n)は、フレームF(n−1)とフレームF(n)との間の画像を補間するフレームである。スケーリング補間画像データIMGipは、入力画像データIMGinに含まれるフレームFと、補間フレームFipと、を含んでいる。
動き予測部11の動作例について説明する。図5は、本実施形態の動き予測部11の動作例の説明図である。第1動きベクトルMV1(n)は、複数の第1画素動きベクトルMV1pxの集合である。第1画素動きベクトルMV1pxは、参照フレーム上の画素とターゲットフレーム上の画素との間の対応関係(例えば、小数精度での位置の変化)を示す。
動き予測部11は、参照フレームF(n−1)上の画素PX1(n−1)に対応するターゲットフレームF(n)上の画素PX1(n)を予測し、画素PX1(n−1)と画素PX1(n)との間の対応関係を示す第1画素動きベクトルMV1px1(n−1:n)を計算する。
また、動き予測部11は、参照フレームF(n−2)上の画素PX2(n−2)に対応するターゲットフレームF(n)上の画素PX2(n)を予測し、画素PX2(n−2)と画素PX2(n)との間の対応関係を示す第1画素動きベクトルMV1px2(n−2:n)を計算する。
また、動き予測部11は、参照フレームF(n−1)上の画素PX3(n−1)に対応するターゲットフレームF(n+1)上の画素PX3(n+1)を予測し、画素PX3(n−1)と画素PX3(n+1)との間の対応関係を示す第1画素動きベクトルMV1px3(n−1:n+1)を計算する。
動きベクトル変換部12の動作例について説明する。図6は、本実施形態の動きベクトル変換部12の動作例の説明図である。図6は、参照フレームF(n−2)及びF(n−1)を用いて、ターゲットフレームF(n)の第2動きベクトルMV2(n)を生成する(即ち、第2ベクトルMV2を内挿により生成する)例である。第2動きベクトルMV2(n)は、複数の第2画素動きベクトルMV2pxの集合である。第2画素動きベクトルMV2pxは、参照フレーム上の画素と補間フレーム上の画素との間の対応関係(例えば、小数精度での位置の変化)を示す。
動きベクトル変換部12は、第1画素動きベクトルMV1px1(n−1:n)と補間フレームFip(n−1:n)の時間軸上の位置とに基づいて、画素PX1(n−1)と補間フレームFip(n−1:n)上の画素との間の対応関係を示す第2画素動きベクトルMV2px1(n−1:n)を計算する。
また、動きベクトル変換部12は、第1画素動きベクトルMV1px2(n−2:n)と、補間フレームFip(n−1:n)の時間軸上の位置とに基づいて、画素PX2(n−2)と補間フレームFip(n−1:n)上の画素との間の対応関係を示す第2画素動きベクトルMV2px2(n−2:n)を計算する。
また、動きベクトル変換部12は、第1画素動きベクトルMV1px3(n−1:n+1)と、補間フレームFip(n−1:n)の時間軸上の位置とに基づいて、画素PX3(n−1)と補間フレームFip(n−1:n)上の画素との間の対応関係を示す第2画素動きベクトルMV2px3(n−1:n)を計算する。
第2動き補償部14の動作例について説明する。図7は、本実施形態の第2動き補償部14の動作例の説明図である。図7は、補間フレームFip(n−1:n)に対応する第2動き補償データIP2を生成する例である。第2動き補償データIP2は、補間フレームFip(n−1:n)上の画素及び位置を定義している。
第2動き補償部14は、画素PX1(n−1)及び第2画素動きベクトルMV2px1(n−1:n)を用いて、補間フレームFip(n−1:n)上の第2補間画素PXip1(n−1:n)及び位置を計算する。
また、第2動き補償部14は、画素PX2(n−2)及び第2画素動きベクトルMV2px2(n−2:n)を用いて、補間フレームFip(n−1:n)上の第2補間画素PXip2(n−2:n)及び位置を計算する。
また、第2動き補償部14は、画素PX3(n−1)及び第2画素動きベクトルMV2px3(n−1:n)を用いて、補間フレームFip(n−1:n)上の第2補間画素PXip3(n−1:n)及び位置を計算する。
仮に、本実施形態の画像処理装置10の構成がなければ、スケーリング処理と、フレーム補間処理と、が独立して行われる。このとき、スケーリング処理及びフレーム補間処理においてそれぞれ、動き予測処理が行われる。
これに対して、本実施形態によれば、再構成処理部19による再構成処理の前に、動き予測部11が第1動きベクトルMV1を生成し、且つ、動きベクトル変換部12が第2動きベクトルMV2を生成するので、再構成型超解像度処理における演算量を低減することができる。
また、本実施形態によれば、動き補償ユニット2及びスケーリングユニット4が、選択的に動作するので、入力画像データIMGinに含まれる複数のフレーム(即ち、ターゲットフレーム及び参照フレーム)に対する再構成処理と、入力画像データIMGinに含まれない補間フレームに対する再構成処理と、を1つのモジュール(再構成処理部19)で実現することができる。
また、従来の再構成型超解像度処理では、スケーリング処理における再構成処理が実行された後に、フレーム補間処理における動き予測処理が実行されるので、動き予測処理は、再構成処理により得られるノイズを含む画像データに対して実行されることになる。その結果、出力画像の画質が低下するという問題がある。
これに対して、本実施形態によれば、動き予測部11による動き予測処理は、入力画像データIMGin(即ち、再構成処理部19による再構成処理が実行される前のデータ)に対して実行される。これにより、従来と比べて、出力画像の画質を改善することができる。
本実施形態の変形例について説明する。図8は、本実施形態の変形例の説明図である。図8(A)に示すように、変形例は、画素PX1(n−1)及び第2画素動きベクトルMV2px1(n−1:n)を用いて計算された第2補間画素PXip1(n−1:n)が、画素PX2(n−1)及び第2画素動きベクトルMV2px2(n−1:n)を用いて計算された第2補間画素PXip1(n−1:n)と一致する(即ち、第2補間画素が重複する)場合の例である。
この場合には、図8(B)に示すように、第2動き補償部14は、SAD(Sum of Absolute Difference)法を用いて、該当する複数の第2動きベクトルMV2px1(n−1:n)及びMV2px2(n−1:n)のうち、計算された第2補間画素PXip1(n−1:n)に最も類似する、参照フレーム上の画素に関連付けられた第2動きベクトル(例えば、第2動きベクトルMV2px1(n−1:n))を用いて、第2動き補償データIP2を計算する。
本実施形態の変形例によれば、計算された第2補間画素に最も類似する、参照フレーム上の画素に関連付けられた第2動きベクトルのみが、第2動き補償データIP2の計算に用いられる。これにより、本実施形態と比べて、出力画像データIMGoutの画質を改善することができる。
なお、第2補間画素が重複する場合において、図8(B)に代えて、第2動き補償部14は、重複する第2補間画素が存在する補間フレームについての第2動き補償データIP2の生成を省略しても良い。これにより、本実施形態と比べて、画像処理装置10(特に、第2動き補償部14)の処理量を低減することができる。
また、本実施形態では、図6において、第2動きベクトルMV2を内挿により生成する例について説明したが、第2動きベクトルMV2を外挿により生成してもよい。外挿とは、ターゲットフレームと参照フレームとの間に補間フレームがない(即ち、ターゲットフレームに対して、参照フレームとは逆側に補間フレームを挿入する)場合を示す。例えば、図6において、フレームF(n−2)を参照フレームとして用い、かつ、フレームF(n−1)をターゲットフレームとして用いたときの第1動きベクトルMV1に基づいて、補間フレームFip(n−1:n)が挿入される。この場合には、動きベクトルMV1を1.5倍することにより、第2動きベクトルMV2、すなわち補間フレームFip(n−1:n)の挿入位置が得られる。
また、本実施形態では、入力画像データIMGin及び出力画像データIMGoutが、何れも、プログレッシブ画像に対応する例について説明したが、入力画像データIMGinがインターレース画像に対応し、出力画像データIMGoutがプログレッシブ画像に対応してもよい(即ち、画像処理装置10が、インターレース画像からプログレッシブ画像へのIP(Interlace−Progressive)変換機能を備えてもよい)。例えば、スケーリング処理部18が、スケーリング処理において、縦方向のスケーリング率を、横方向のスケーリング率の2倍とし、且つ、動き予測部11が、参照フレーム上の画素の位置とターゲットフレーム上の画素の位置との間の変化を考慮して、第1動きベクトルMVを生成する。これにより、IP変換機能を実現することができる。
また、本実施形態では、参照フレーム数が2個である例について説明したが、本発明の範囲はこれに限られるものではない。本発明は、参照フレーム数が3個以上(例えば、F(n−2)、F(n−1)、F(n+1)、及びF(n+2)の4個)であっても良い。
本実施形態に係る画像処理システム1の少なくとも一部は、ハードウェアで構成しても良いし、ソフトウェアで構成しても良い。ソフトウェアで構成する場合には、画像処理システム1の少なくとも一部の機能を実現するプログラムをフレキシブルディスクやCD−ROM等の記録媒体に収納し、コンピュータに読み込ませて実行させても良い。記録媒体は、磁気ディスクや光ディスク等の着脱可能なものに限定されず、ハードディスク装置やメモリなどの固定型の記録媒体でも良い。
また、本実施形態に係る画像処理システム1の少なくとも一部の機能を実現するプログラムを、インターネット等の通信回線(無線通信も含む)を介して頒布しても良い。さらに、同プログラムを暗号化したり、変調をかけたり、圧縮した状態で、インターネット等の有線回線や無線回線を介して、あるいは記録媒体に収納して頒布しても良い。
なお、本発明は、上述した実施形態に限定されるものではなく、その要旨を逸脱しない範囲で構成要素を変形して具体化される。また、上述した実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明が形成可能である。例えば、上述した実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
1 画像処理システム
2 動き補償ユニット
4 スケーリングユニット
10 画像処理装置
11 動き予測部
12 動きベクトル変換部
13 第1動き補償部
14 第2動き補償部
15 動き補償セレクタ
16 補間画像データ生成部
17 スケーリングセレクタ
18 スケーリング処理部
19 再構成処理部
30 画像入力装置
50 画像出力装置
2 動き補償ユニット
4 スケーリングユニット
10 画像処理装置
11 動き予測部
12 動きベクトル変換部
13 第1動き補償部
14 第2動き補償部
15 動き補償セレクタ
16 補間画像データ生成部
17 スケーリングセレクタ
18 スケーリング処理部
19 再構成処理部
30 画像入力装置
50 画像出力装置
本発明の実施形態は、画像処理装置、画像処理システム、及び画像処理方法に関する。
近年、低解像度画像から高解像度画像を推定する方法として、再構成型超解像度処理という技術が知られている。再構成型超解像処理は、一般的には画像を拡大する処理であるスケーリング処理の一つであるが、フレーム補間処理と組み合わせて用いられることが多いことから、本明細書で説明する再構成型超解像度処理は、スケーリング処理だけでなくフレーム補間処理の両方を含む処理とする。(すなわち、再構成型超解像度処理では、スケーリング処理と、フレーム補間処理とが実行される。)
スケーリング処理では、入力画像データから動きベクトルを生成する動き予測処理と、この動きベクトルから補間ピクセルを推定する補間ピクセル推定処理と、入力画像データから拡大画像データを生成する拡大処理と、拡大画像データ及び補間ピクセルから再構成画像データを生成する再構成処理とが実行される。
フレーム補間処理では、再構成画像データから動きベクトルを生成する動き予測処理と、この動きベクトルから補間フレームを推定する補間フレーム推定処理と、補間フレームから出力画像データを生成する動き補償処理とが実行される。
しかしながら、従来の再構成型超解像度処理では、スケーリング処理の動きベクトル処理と、フレーム補間処理の動きベクトル処理とが別個に実行されるので、複数回の動きベクトル処理が必要である。その結果、再構成型超解像度処理における演算量が増加する。
特に、再構成画像データは、拡大画像データから生成されるので、動き予測処理は、拡大画像データに対応する再構成画像データに対して実行され、演算量が増加する。
特に、再構成画像データは、拡大画像データから生成されるので、動き予測処理は、拡大画像データに対応する再構成画像データに対して実行され、演算量が増加する。
本発明が解決しようとする課題は、再構成型超解像度処理における演算量を低減することである。
本発明の実施形態の画像処理装置は、動き予測部と、動きベクトル変換部と、動き補償ユニットと、スケーリングユニットと、再構成処理部と、を備える。動き予測部は、複数のフレームを含む入力画像データを受け付け、ターゲットフレーム上の画素と参照フレーム上の画素との間の対応関係を示す第1動きベクトルを生成する。動きベクトル変換部は、前記第1動きベクトルを、前記複数のフレームを補間する補間フレーム上の画素と前記参照フレーム上の画素との間の対応関係を示す第2動きベクトルに変換する。動き補償ユニットは、前記第2動きベクトルを用いて、前記入力画像データに対してフレーム補間処理を適用し、複数の補間フレームを含む動き補償データを生成する。スケーリングユニットは、前記入力画像データにスケーリング処理を適用し、スケーリング画像データを生成する。再構成処理部は、前記動き補償データを用いて、前記スケーリング画像データに対して再構成処理を適用し、出力画像データを生成する。
本実施形態について、図面を参照して説明する。図1は、本実施形態の画像処理システム1のブロック図である。画像処理システム1は、画像処理装置10と、画像入力装置30と、画像出力装置50と、を備える。画像入力装置30は、符号化データを復号することにより、入力画像データIMGinを生成するデコーダ(例えば、MPEG(Moving Picture Expert Group)デコーダ)又は入力画像データIMGinを記憶するメモリである。入力画像データは、例えばRGBフォーマット又はYUVフォーマットの動画像データである。画像処理装置10は、入力画像データIMGinから出力画像データIMGoutを生成する装置である。画像出力装置50は、画像処理装置10が生成した出力画像データIMGoutを出力する装置(例えば、液晶ディスプレイ)である。
図2は、本実施形態の入力画像データIMGinの説明図である。入力画像データIMGinは、複数のフレームF(n){n=0〜N(Nは正の整数)}を含んでいる。フレームF(n)は、複数の画素PXを含んでいる。各画素PXは、画素値Vと、座標情報Cと、を含んでいる。例えば、画素値Vは、RGBフォーマットの場合には、RGBの値であり、YUVフォーマットの場合には、輝度及び色差の値である。
図3は、本実施形態の画像処理装置10のブロック図である。画像処理装置10は、動き予測部11と、動きベクトル変換部12と、動き補償ユニット2と、スケーリングユニット4と、再構成処理部19と、を備える。
動き補償ユニット2は、入力画像データIMGinに対してフレーム補間処理をし、動き補償データ(第1又は第2動き補償データIP1又はIP2)を生成する。動き補償ユニット2は、第1及び第2動き補償部13及び14と、動き補償セレクタ15と、を備える。
スケーリングユニット4は、入力画像データIMGinに対してスケーリング処理をし、スケーリング画像データIMGsを生成する。スケーリングユニット4は、補間画像データ生成部16と、スケーリングセレクタ17と、スケーリング処理部18と、を備える。
以下では、再構成型超解像度処理を適用すべきフレームF(n)を「ターゲットフレーム」と称し、再構成型超解像度処理において参照すべきフレームF(n−1)及びF(n+1)を「参照フレーム」と称する。
動き予測部11は、入力画像データIMGinのフレーム毎に、動き予測の対象となるターゲットフレームと参照フレームとの間の第1動きベクトルMV1を生成する。第1動きベクトルMV1とは、参照フレームからターゲットフレーム(即ち、入力画像データIMGinに含まれるフレーム)上への画像の動きを示すベクトルである。第1動きベクトルMV1は、ターゲットフレームのすべての画素について、ターゲットフレーム上の画素と、参照フレーム上の画素との間の対応関係を示す。すなわち、この第1動きベクトルMV1の数は、ターゲットフレームの画素数と参照フレーム数との積である。第1動きベクトルMV1のベクトル量は、参照フレームからターゲットフレームへの画素Vの動きの大きさに対応し、第1動きベクトルMV1のベクトル方向は、参照フレームからターゲットフレームへの画素Vの動きの方向に対応する。第1動きベクトルMV1は、小数画素精度で得られる。例えば、動き予測部11は、ブロックマッチング法または勾配法を用いて、第1動きベクトルMV1を生成する。
動きベクトル変換部12は、第1動きベクトルMV1を第2動きベクトルMV2に変換する。第2動きベクトルMV2とは、参照フレームから、参照フレームとは異なる補間フレームFip上への画像の動きを示すベクトルである。第2動きベクトルMV2のベクトル量は、参照フレームから補間フレームFipへの画素Vの動きの大きさに対応し、第2動きベクトルMV2のベクトル方向は、参照フレームから補間フレームFipへの画素Vの動きの方向に対応する。補間フレームFipは、入力画像データIMGinには含まれていない。
補間画像データ生成部16は、入力画像データIMGinに、比較的簡単なフレーム補間処理(たとえばブレンド処理)をし、スケーリング補間画像データIMGipを生成する。スケーリング補間画像データIMGipとは、入力画像データIMGinに含まれる複数のフレーム間を補間する、補間フレームを含む画像データである。
スケーリングセレクタ17は、選択信号SELに基づいて、入力画像データIMGin及びスケーリング補間画像データIMGipの一方を選択する。選択信号SELとは、画像処理装置10の内部又は外部から供給される2値信号である。例えば、スケーリングセレクタ17は、選択信号SELが“0”の場合には、入力画像データIMGinを選択し、選択信号SELが“1”の場合には、スケーリング補間画像データIMGipを選択する。すなわち、スケーリングセレクタ17は、入力画像データIMGinのフレームを得る場合には、入力画像データIMGinを選択し、補間フレームを得る場合には、スケーリング補間画像データIMGipを選択する。
スケーリング処理部18は、スケーリングセレクタ17の出力(即ち、入力画像データIMGin又はスケーリング補間画像データIMGip)にスケーリング処理をし、スケーリング画像データIMGsを生成する。スケーリング画像データIMGsとは、再構成処理部19による再構成前の暫定的な画像データである。例えば、スケーリング処理では、バイリニアフィルタ、バイキュービックフィルタ、又は線形補間フィルタが適用される。スケーリング画像データIMGsは、スケーリング率が1より大きい場合には、入力画像データIMGinに対する拡大画像データであり、スケーリング率が1である場合には、入力画像データIMGinと等倍の画像データであり、スケーリング率が1未満である場合には、入力画像データIMGinに対する縮小画像データである。
第1動き補償部13は、第1動きベクトルMV1と、対応する参照フレームの画素値とを用いて、第1動き補償データIP1を生成する。第1動き補償データIP1は、スケーリング画像データIMGs上の小数精度座標及び画素値の集合からなる。画素値は、参照フレームの画素値と同一である。座標は、参照フレームの画素がスケーリング画像データIMGsのどこに対応するかの情報である第1動きベクトルMV1から得られる。すなわち、第1動き補償データIP1とは、スケーリング処理において不足する入力画像データIMGinの画素(即ち、スケーリング画像データIMGsに含まれていない入力画像データIMGinの要素)を定義するデータである。
第2動き補償部14は、第2動きベクトルMV2と、参照フレームの画素値とを用いて、第2動き補償データIP2を生成する。第2動き補償データIP2は、スケーリング画像データIMGs上の小数精度座標及び画素値の集合からなる。画素値は、参照フレームの画素値と同一である。座標は、参照フレームの画素が補間スケーリング画像データIMGsのどこに対応するかの情報である第2動きベクトルMV2から得られる。
動き補償セレクタ15は、選択信号SELに基づいて、第1及び第2動き補償データIP1及びIP2の一方を、補間画像データとして選択する。選択信号SELは、スケーリングセレクタ17へ供給される選択信号SELと同一である。動き補償セレクタ15は、スケーリングセレクタ17が入力画像データIMGinを選択する場合(選択信号SELが“0”の場合)には、第1動き補償データIP1を選択し、スケーリングセレクタ17がスケーリング補間画像データIMGipを選択する場合(選択信号SELが“1”の場合)には、第2動き補償データIP2を選択する。
再構成処理部19は、動き補償セレクタ15の出力(即ち、第1又は第2動き補償データIP1又はIP2)を用いて、スケーリング画像データIMGs(即ち、入力画像データIMGin又はスケーリング補間画像データIMGipが、拡大又は縮小されたもの)に対して再構成処理(例えば、再構成処理は、最尤推定処理(MAP:Maximum a Posteriori)又は凸射影処理(POCS:Projection Onto Convex Sets))をし、出力画像データIMGoutを生成する。
補間画像データ生成部16の動作例について説明する。図4は、本実施形態の補間画像データ生成部16の動作例の説明図である。補間画像データ生成部16は、例えば、入力画像データIMGinに含まれる2個の隣接フレームF(n−1)及びF(n)の平均を計算することにより、補間フレームFip(n−1:n)を生成する。補間フレームFip(n−1:n)は、フレームF(n−1)とフレームF(n)との間の画像を補間するフレームである。スケーリング補間画像データIMGipは、入力画像データIMGinに含まれるフレームFと、補間フレームFipと、を含んでいる。
動き予測部11の動作例について説明する。図5は、本実施形態の動き予測部11の動作例の説明図である。第1動きベクトルMV1(n)は、複数の第1画素動きベクトルMV1pxの集合である。第1画素動きベクトルMV1pxは、参照フレーム上の画素とターゲットフレーム上の画素との間の対応関係(例えば、小数精度での位置の変化)を示す。
動き予測部11は、参照フレームF(n−1)上の画素PX1(n−1)に対応するターゲットフレームF(n)上の画素PX1(n)を予測し、画素PX1(n−1)と画素PX1(n)との間の対応関係を示す第1画素動きベクトルMV1px1(n−1:n)を計算する。
また、動き予測部11は、参照フレームF(n−2)上の画素PX2(n−2)に対応するターゲットフレームF(n)上の画素PX2(n)を予測し、画素PX2(n−2)と画素PX2(n)との間の対応関係を示す第1画素動きベクトルMV1px2(n−2:n)を計算する。
また、動き予測部11は、参照フレームF(n−1)上の画素PX3(n−1)に対応するターゲットフレームF(n+1)上の画素PX3(n+1)を予測し、画素PX3(n−1)と画素PX3(n+1)との間の対応関係を示す第1画素動きベクトルMV1px3(n−1:n+1)を計算する。
動きベクトル変換部12の動作例について説明する。図6は、本実施形態の動きベクトル変換部12の動作例の説明図である。図6は、参照フレームF(n−2)及びF(n−1)を用いて、ターゲットフレームF(n)の第2動きベクトルMV2(n)を生成する(即ち、第2ベクトルMV2を内挿により生成する)例である。第2動きベクトルMV2(n)は、複数の第2画素動きベクトルMV2pxの集合である。第2画素動きベクトルMV2pxは、参照フレーム上の画素と補間フレーム上の画素との間の対応関係(例えば、小数精度での位置の変化)を示す。
動きベクトル変換部12は、第1画素動きベクトルMV1px1(n−1:n)と補間フレームFip(n−1:n)の時間軸上の位置とに基づいて、画素PX1(n−1)と補間フレームFip(n−1:n)上の画素との間の対応関係を示す第2画素動きベクトルMV2px1(n−1:n)を計算する。
また、動きベクトル変換部12は、第1画素動きベクトルMV1px2(n−2:n)と、補間フレームFip(n−1:n)の時間軸上の位置とに基づいて、画素PX2(n−2)と補間フレームFip(n−1:n)上の画素との間の対応関係を示す第2画素動きベクトルMV2px2(n−2:n)を計算する。
また、動きベクトル変換部12は、第1画素動きベクトルMV1px3(n−1:n+1)と、補間フレームFip(n−1:n)の時間軸上の位置とに基づいて、画素PX3(n−1)と補間フレームFip(n−1:n)上の画素との間の対応関係を示す第2画素動きベクトルMV2px3(n−1:n)を計算する。
第2動き補償部14の動作例について説明する。図7は、本実施形態の第2動き補償部14の動作例の説明図である。図7は、補間フレームFip(n−1:n)に対応する第2動き補償データIP2を生成する例である。第2動き補償データIP2は、補間フレームFip(n−1:n)上の画素の位置を定義している。
第2動き補償部14は、画素PX1(n−1)及び第2画素動きベクトルMV2px1(n−1:n)を用いて、補間フレームFip(n−1:n)上の第2補間画素PXip1(n−1:n)の位置を計算する。
また、第2動き補償部14は、画素PX2(n−2)及び第2画素動きベクトルMV2px2(n−2:n)を用いて、補間フレームFip(n−1:n)上の第2補間画素PXip2(n−2:n)の位置を計算する。
また、第2動き補償部14は、画素PX3(n−1)及び第2画素動きベクトルMV2px3(n−1:n)を用いて、補間フレームFip(n−1:n)上の第2補間画素PXip3(n−1:n)の位置を計算する。
仮に、本実施形態の画像処理装置10の構成がなければ、スケーリング処理と、フレーム補間処理と、が独立して行われる。このとき、スケーリング処理及びフレーム補間処理においてそれぞれ、動き予測処理が行われる。
これに対して、本実施形態によれば、再構成処理部19による再構成処理の前に、動き予測部11が第1動きベクトルMV1を生成し、且つ、動きベクトル変換部12が第2動きベクトルMV2を生成するので、再構成型超解像度処理における演算量を低減することができる。
また、本実施形態によれば、動き補償ユニット2及びスケーリングユニット4が、選択的に動作するので、入力画像データIMGinに含まれる複数のフレーム(即ち、ターゲットフレーム及び参照フレーム)に対する再構成処理と、入力画像データIMGinに含まれない補間フレームに対する再構成処理と、を1つのモジュール(再構成処理部19)で実現することができる。
また、従来の再構成型超解像度処理では、スケーリング処理における再構成処理が実行された後に、フレーム補間処理における動き予測処理が実行されるので、動き予測処理は、再構成処理により得られるノイズを含む画像データに対して実行されることになる。その結果、出力画像の画質が低下するという問題がある。
これに対して、本実施形態によれば、動き予測部11による動き予測処理は、入力画像データIMGin(即ち、再構成処理部19による再構成処理が実行される前のデータ)に対して実行される。これにより、従来と比べて、出力画像の画質を改善することができる。
本実施形態の変形例について説明する。図8は、本実施形態の変形例の説明図である。図8(A)に示すように、変形例は、画素PX1(n−1)及び第2画素動きベクトルMV2px1(n−1:n)を用いて計算された第2補間画素PXip1(n−1:n)が、画素PX2(n−1)及び第2画素動きベクトルMV2px2(n−1:n)を用いて計算された第2補間画素PXip1(n−1:n)と一致する(即ち、第2補間画素が重複する)場合の例である。
この場合には、図8(B)に示すように、第2動き補償部14は、SAD(Sum of Absolute Difference)法を用いて、該当する複数の第2動きベクトルMV2px1(n−1:n)及びMV2px2(n−1:n)のうち、計算された第2補間画素PXip1(n−1:n)に最も類似する、参照フレーム上の画素に関連付けられた第2動きベクトル(例えば、第2動きベクトルMV2px1(n−1:n))を用いて、第2動き補償データIP2を計算する。
本実施形態の変形例によれば、計算された第2補間画素に最も類似する、参照フレーム上の画素に関連付けられた第2動きベクトルのみが、第2動き補償データIP2の計算に用いられる。これにより、本実施形態と比べて、出力画像データIMGoutの画質を改善することができる。
なお、第2補間画素が重複する場合において、図8(B)に代えて、第2動き補償部14は、重複する第2補間画素が存在する補間フレームについての第2動き補償データIP2の生成を省略しても良い。これにより、本実施形態と比べて、画像処理装置10(特に、第2動き補償部14)の処理量を低減することができる。
また、本実施形態では、図6において、第2動きベクトルMV2を内挿により生成する例について説明したが、第2動きベクトルMV2を外挿により生成してもよい。外挿とは、ターゲットフレームと参照フレームとの間に補間フレームがない(即ち、ターゲットフレームに対して、参照フレームとは逆側に補間フレームを挿入する)場合を示す。例えば、図6において、フレームF(n−2)を参照フレームとして用い、かつ、フレームF(n−1)をターゲットフレームとして用いたときの第1動きベクトルMV1に基づいて、補間フレームFip(n−1:n)が挿入される。この場合には、動きベクトルMV1を1.5倍することにより、第2動きベクトルMV2、すなわち補間フレームFip(n−1:n)の挿入位置が得られる。
また、本実施形態では、入力画像データIMGin及び出力画像データIMGoutが、何れも、プログレッシブ画像に対応する例について説明したが、入力画像データIMGinがインターレース画像に対応し、出力画像データIMGoutがプログレッシブ画像に対応してもよい(即ち、画像処理装置10が、インターレース画像からプログレッシブ画像へのIP(Interlace−Progressive)変換機能を備えてもよい)。例えば、スケーリング処理部18が、スケーリング処理において、縦方向のスケーリング率を、横方向のスケーリング率の2倍とし、且つ、動き予測部11が、参照フレーム上の画素の位置とターゲットフレーム上の画素の位置との間の変化を考慮して、第1動きベクトルMVを生成する。これにより、IP変換機能を実現することができる。
また、本実施形態では、参照フレーム数が2個である例について説明したが、本発明の範囲はこれに限られるものではない。本発明は、参照フレーム数が3個以上(例えば、F(n−2)、F(n−1)、F(n+1)、及びF(n+2)の4個)であっても良い。
本実施形態に係る画像処理システム1の少なくとも一部は、ハードウェアで構成しても良いし、ソフトウェアで構成しても良い。ソフトウェアで構成する場合には、画像処理システム1の少なくとも一部の機能を実現するプログラムをフレキシブルディスクやCD−ROM等の記録媒体に収納し、コンピュータに読み込ませて実行させても良い。記録媒体は、磁気ディスクや光ディスク等の着脱可能なものに限定されず、ハードディスク装置やメモリなどの固定型の記録媒体でも良い。
また、本実施形態に係る画像処理システム1の少なくとも一部の機能を実現するプログラムを、インターネット等の通信回線(無線通信も含む)を介して頒布しても良い。さらに、同プログラムを暗号化したり、変調をかけたり、圧縮した状態で、インターネット等の有線回線や無線回線を介して、あるいは記録媒体に収納して頒布しても良い。
なお、本発明は、上述した実施形態に限定されるものではなく、その要旨を逸脱しない範囲で構成要素を変形して具体化される。また、上述した実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明が形成可能である。例えば、上述した実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
1 画像処理システム
2 動き補償ユニット
4 スケーリングユニット
10 画像処理装置
11 動き予測部
12 動きベクトル変換部
13 第1動き補償部
14 第2動き補償部
15 動き補償セレクタ
16 補間画像データ生成部
17 スケーリングセレクタ
18 スケーリング処理部
19 再構成処理部
30 画像入力装置
50 画像出力装置
2 動き補償ユニット
4 スケーリングユニット
10 画像処理装置
11 動き予測部
12 動きベクトル変換部
13 第1動き補償部
14 第2動き補償部
15 動き補償セレクタ
16 補間画像データ生成部
17 スケーリングセレクタ
18 スケーリング処理部
19 再構成処理部
30 画像入力装置
50 画像出力装置
Claims (5)
- 複数のフレームを含む入力画像データを受け付け、ターゲットフレーム上の画素と参照フレーム上の画素との間の対応関係を示す第1動きベクトルを生成する動き予測部と、
前記第1動きベクトルを、前記複数のフレームを補間する補間フレーム上の画素と前記参照フレーム上の画素との間の対応関係を示す第2動きベクトルに変換する動きベクトル変換部と、
前記第2動きベクトルを用いて、前記入力画像データに対してフレーム補間処理をし、複数の補間フレームを含む動き補償データを生成する動き補償ユニットと、
前記入力画像データにスケーリング処理をし、スケーリング画像データを生成するスケーリングユニットと、
前記動き補償データを用いて、前記スケーリング画像データに対して再構成処理をし、出力画像データを生成する再構成処理部と、を備えることを特徴とする画像処理装置。 - 前記動き補償ユニットは、
前記第1動きベクトルと、前記参照フレームの画素値とを用いて、第1動き補償データを生成する第1動き補償部と、
前記第2動きベクトルと、前記参照フレームの画素値とを用いて、第2動き補償データを生成する第1動き補償部と、
前記第1動き補償データ又は前記第2動き補償データを、前記動き補償データとして選択する動き補償セレクタと、
を備える、請求項1に記載の画像処理装置。 - 前記スケーリングユニットは、
前記入力画像データにフレーム補間処理をし、補間画像データを生成する補間画像データ生成部と、
前記入力画像データ又は前記補間画像データを選択するスケーリングセレクタと、
前記スケーリングセレクタが選択したデータに対して、スケーリング処理をし、前記スケーリング画像データを生成するスケーリング処理部と、
を備える、請求項2に記載の画像処理装置。 - 符号化データを復号することにより、複数のフレームを含む入力画像データを生成するデコーダと、
前記入力画像データを受け付け、ターゲットフレーム上の画素と参照フレーム上の画素との間の対応関係を示す第1動きベクトルを生成する動き予測部と、
前記第1動きベクトルを、前記複数のフレームを補間する補間フレーム上の画素と前記参照フレーム上の画素との間の対応関係を示す第2動きベクトルに変換する動きベクトル変換部と、
前記第2動きベクトルを用いて、前記入力画像データに対してフレーム補間処理をし、複数の補間フレームを含む動き補償データを生成する動き補償ユニットと、
前記入力画像データにスケーリング処理をし、スケーリング画像データを生成するスケーリングユニットと、
前記動き補償データを用いて、前記スケーリング画像データに対して再構成処理をし、出力画像データを生成する再構成処理部と、を備えることを特徴とする画像処理システム。 - コンピュータが、
複数のフレームを含む入力画像データを受け付け、
ターゲットフレーム上の画素と参照フレーム上の画素との間の対応関係を示す第1動きベクトルを生成し、
前記第1動きベクトルを、前記複数のフレームを補間する補間フレーム上の画素と前記参照フレーム上の画素との間の対応関係を示す第2動きベクトルに変換し、
前記第2動きベクトルを用いて、前記入力画像データに対してフレーム補間処理をし、複数の補間フレームを含む動き補償データを生成し、
前記入力画像データにスケーリング処理をし、スケーリング画像データを生成し、
前記動き補償データを用いて、前記スケーリング画像データに対して再構成処理をし、出力画像データを生成する、ことを特徴とする画像処理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012200479A JP2014057198A (ja) | 2012-09-12 | 2012-09-12 | 画像処理装置、画像処理システム、及び画像処理方法 |
US13/774,670 US20140072045A1 (en) | 2012-09-12 | 2013-02-22 | Image processing apparatus, image processing system, and computer-implemented method for processing image data |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012200479A JP2014057198A (ja) | 2012-09-12 | 2012-09-12 | 画像処理装置、画像処理システム、及び画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014057198A true JP2014057198A (ja) | 2014-03-27 |
Family
ID=50233267
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012200479A Pending JP2014057198A (ja) | 2012-09-12 | 2012-09-12 | 画像処理装置、画像処理システム、及び画像処理方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20140072045A1 (ja) |
JP (1) | JP2014057198A (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113726980B (zh) * | 2020-05-25 | 2024-06-25 | 瑞昱半导体股份有限公司 | 图像处理方法 |
US20220201307A1 (en) * | 2020-12-23 | 2022-06-23 | Tencent America LLC | Method and apparatus for video coding |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009239698A (ja) * | 2008-03-27 | 2009-10-15 | Hitachi Ltd | 映像変換装置及び映像変換方法 |
JP2010034696A (ja) * | 2008-07-25 | 2010-02-12 | Toshiba Corp | 解像度変換装置、方法およびプログラム |
US20100135395A1 (en) * | 2008-12-03 | 2010-06-03 | Marc Paul Servais | Efficient spatio-temporal video up-scaling |
-
2012
- 2012-09-12 JP JP2012200479A patent/JP2014057198A/ja active Pending
-
2013
- 2013-02-22 US US13/774,670 patent/US20140072045A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009239698A (ja) * | 2008-03-27 | 2009-10-15 | Hitachi Ltd | 映像変換装置及び映像変換方法 |
JP2010034696A (ja) * | 2008-07-25 | 2010-02-12 | Toshiba Corp | 解像度変換装置、方法およびプログラム |
US20100135395A1 (en) * | 2008-12-03 | 2010-06-03 | Marc Paul Servais | Efficient spatio-temporal video up-scaling |
JP2010136367A (ja) * | 2008-12-03 | 2010-06-17 | Sharp Corp | 効率的な映像時空間アップスケーリング |
Also Published As
Publication number | Publication date |
---|---|
US20140072045A1 (en) | 2014-03-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4198608B2 (ja) | 補間画像生成方法および装置 | |
JP5144545B2 (ja) | 動画像コーデック装置及びその方法 | |
JP5727873B2 (ja) | 動きベクトル検出装置、符号化装置、及びこれらのプログラム | |
JP2015522988A (ja) | 連続座標系を活用する動き補償および動き予測 | |
JP2011514605A (ja) | 画像の超解像のための方法及び装置 | |
US8126281B2 (en) | Image processing apparatus, method, and computer-readable medium for generating motion compensation images | |
JP2007060673A (ja) | 画像予測装置、画像符号化装置、画像復号化装置、画像予測方法、画像符号化方法、画像復号化方法、記録媒体及びプログラム | |
JP2009532984A (ja) | 補償アーチファクトに対する保護を有する動き補償フレームレート変換 | |
JP6409516B2 (ja) | ピクチャ符号化プログラム、ピクチャ符号化方法及びピクチャ符号化装置 | |
US20190141287A1 (en) | Using low-resolution frames to increase frame rate of high-resolution frames | |
JP2008091979A (ja) | 画像高画質化装置、及びその方法、並びに画像表示装置 | |
EP2355515B1 (en) | Scalable video coding | |
US8149913B2 (en) | Moving picture converting apparatus and method, and computer program | |
JP6744723B2 (ja) | 画像処理装置および画像処理方法、コンピュータプログラム | |
KR101690253B1 (ko) | 영상 처리 장치 및 그 방법 | |
JP2014057198A (ja) | 画像処理装置、画像処理システム、及び画像処理方法 | |
JP2009239698A (ja) | 映像変換装置及び映像変換方法 | |
JP5448983B2 (ja) | 解像度変換装置及び方法、走査線補間装置及び方法、並びに映像表示装置及び方法 | |
KR20110048252A (ko) | 움직임 벡터 공유에 기초한 영상을 변환하는 방법 및 장치 | |
WO2014115522A1 (ja) | フレームレート変換装置及びフレームレート変換方法並びにフレームレート変換装置を備えた表示装置及び撮像装置 | |
JP4736456B2 (ja) | 走査線補間装置、映像表示装置、映像信号処理装置 | |
JP6059899B2 (ja) | フレーム補間装置及びプログラム | |
US8699577B2 (en) | Method and apparatus for interpolating image | |
JP2013126123A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
US9462293B1 (en) | Super resolution weighting blending |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140826 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20141224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150116 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20150602 |