JP5867289B2 - 動きベクトル生成装置及び方法 - Google Patents

動きベクトル生成装置及び方法 Download PDF

Info

Publication number
JP5867289B2
JP5867289B2 JP2012117187A JP2012117187A JP5867289B2 JP 5867289 B2 JP5867289 B2 JP 5867289B2 JP 2012117187 A JP2012117187 A JP 2012117187A JP 2012117187 A JP2012117187 A JP 2012117187A JP 5867289 B2 JP5867289 B2 JP 5867289B2
Authority
JP
Japan
Prior art keywords
motion vector
block
frame
search range
difference value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012117187A
Other languages
English (en)
Other versions
JP2013243630A (ja
Inventor
智之 宍戸
智之 宍戸
英樹 相羽
英樹 相羽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2012117187A priority Critical patent/JP5867289B2/ja
Publication of JP2013243630A publication Critical patent/JP2013243630A/ja
Application granted granted Critical
Publication of JP5867289B2 publication Critical patent/JP5867289B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、現在フレームまたは過去フレームを基点として画像の動きベクトルを検出し、動きベクトルを補正して補間フレームを生成する際に用いる動きベクトルを生成する動きベクトル生成装置及び方法に関する。
液晶パネルを用いた画像表示装置で動画像を表示すると残像が生じやすい。そこで、残像を低減させて動画特性を向上させるために、映像信号の実フレーム間に補間フレームを内挿してフレーム数を増大させ、例えば垂直周波数60Hzのフレームレート(フレーム周波数)を2倍の120Hzまたはそれ以上のフレームレートに変換して画像表示することが行われている。映像信号のフレームレートを変換して画像表示する画像表示装置においては、画像の動きベクトルを検出し、動きベクトルを用いて各補間画素を生成し、実フレーム間に内挿する補間フレームを生成する。
画像の動きベクトルを検出する方法は種々ある。補間フレーム内の補間画素(補間ブロック)を中心として、補間フレームの時間的な前後に位置する実フレーム内で最も相関の高い方向に基づいて動きベクトルを検出する第1の方法がある。補間フレームの時間的な前後に位置する実フレームである過去フレームと現在フレームとのいずれか一方または双方を相関が最も高い方向を探索する基準として、動きベクトルを検出する第2の方法がある。第1の方法では動きベクトルの検出精度を高くすることが難しいため、第2の方法が用いられることが多い。
特開2002−27414号公報
第2の方法では動きベクトルの検出精度を高くすることができるものの、動きベクトルを検出した画素(ブロック)の検出位置と、補間画素(補間ブロック)を生成する補間位置とがずれてしまう。従って、画像の境界部分で正しい補間画像を生成することができないという問題点があった。
本発明はこのような問題点に鑑み、過去フレームまたは現在フレームを探索基準として動きベクトルを検出し、動きベクトルの検出位置と補間位置とのずれを補正した動きベクトルを生成することができる動きベクトル生成装置及び方法を提供することを目的とする。
本発明は、上述した従来の技術の課題を解決するため、映像信号(Sin)における現在フレーム(f0)と前記現在フレームを1フレーム期間遅延させた過去フレーム(f1)とのうちの一方のフレームを、動きベクトルを検出する探索基準のフレームとし、前記現在フレーム及び前記過去フレームのそれぞれを1または複数画素よりなるブロックに分割して、前記探索基準のフレームにおけるそれぞれのブロックを基準ブロックとし、前記現在フレームと前記過去フレームとのうちの他方のフレームにおける複数のブロックよりなる所定の領域を探索範囲とし、前記基準ブロックと前記探索範囲内のそれぞれのブロックとの相関に基づいて、前記基準ブロックそれぞれで第1の動きベクトル(V1)を検出する動きベクトル検出部(2)と、前記他方のフレームにおける所定の探索範囲に対向する前記探索基準のフレームにおける前記所定の探索範囲と同じ範囲の領域を第1の探索範囲領域とし、前記第1の探索範囲領域内それぞれの前記基準ブロックを前記探索範囲と同じ範囲の領域の中央に位置するブロックとして、前記基準ブロックが中央に位置する前記探索範囲と同じ範囲の領域それぞれを第2の探索範囲領域としたとき、前記基準ブロックの位置に対応したそれぞれの前記第2の探索範囲領域内に、前記現在フレームと前記過去フレームとの間に内挿する補間フレームの補間ブロックであり、それぞれの前記第2の探索範囲領域の中央に位置する前記基準ブロックと同じ位置の注目ブロックを通過する方向の動きベクトルがあるか否かを検出する補間ブロック通過動きベクトル検出部(31)と、それぞれの前記第2の探索範囲領域内に存在する動きベクトルの種類とそれぞれの種類の動きベクトルの個数を検出する動きベクトル分布検出部(32)と、前記補間フレームのそれぞれの前記注目ブロックを中心として、前記第2の探索範囲領域内に存在する動きベクトルの種類それぞれの方向で、前記探索基準のフレームのブロックと前記他方のフレームのブロックとの差分値を求め、前記補間ブロック通過動きベクトル検出部による検出結果と前記動きベクトル分布検出部による検出結果とに基づいて前記差分値に対して重み付けして重み付けした差分値を相関値とし、前記相関値に基づいて前記動きベクトル検出部によって検出された前記第1の動きベクトルを補正して、第2の動きベクトル(V2)として出力する相関計算部(33)とを備えることを特徴とする動きベクトル生成装置(10)を提供する。
上記の動きベクトル生成装置において、前記補間ブロック通過動きベクトル検出部は、前記注目ブロックを通過する方向の動きベクトルに対して第1の重み付けポイントを設定した第1の重み付けデータ(D31)を生成し、前記動きベクトル分布検出部は、それぞれの種類の動きベクトルに対して、個数が多いほど大きい第2の重み付けポイントを設定した第2の重み付けデータ(D32)を生成し、前記相関計算部は、前記第1の重み付けデータと前記第2の重み付けデータとで同じ動きベクトルであれば前記第1の重み付けポイントと前記第2の重み付けポイントとを加算した上で、それぞれの種類の動きベクトルの方向の差分値を、重み付けポイントが大きい動きベクトルの方向ほど差分値が小さくなるように補正することが好ましい。
上記の動きベクトル生成装置において、前記動きベクトル検出部は、前記第1の探索範囲領域内それぞれの前記基準ブロックと、複数の動きベクトルそれぞれの方向の前記他方のフレームのブロックとの差分値を求め、前記複数の動きベクトルそれぞれの方向の差分値において、前記基準ブロックで求めた差分値に対して前記基準ブロックの周囲のブロックで求めた差分値を積算して、最も小さい差分値を示す方向をそれぞれの前記基準ブロックにおける動きベクトルとして検出することが好ましい。
また、本発明は、上述した従来の技術の課題を解決するため、映像信号(Sin)における現在フレーム(f0)と前記現在フレームを1フレーム期間遅延させた過去フレーム(f1)とのうちの一方のフレームを、動きベクトルを検出する探索基準のフレームとし、前記現在フレーム及び前記過去フレームのそれぞれを1または複数画素よりなるブロックに分割して、前記探索基準のフレームにおけるそれぞれのブロックを基準ブロックとし、前記現在フレームと前記過去フレームとのうちの他方のフレームにおける複数のブロックよりなる所定の領域を探索範囲とし、前記基準ブロックと前記探索範囲内のそれぞれのブロックとの相関に基づいて、前記基準ブロックそれぞれで第1の動きベクトル(V1)を検出し、前記他方のフレームにおける所定の探索範囲に対向する前記探索基準のフレームにおける前記所定の探索範囲と同じ範囲の領域を第1の探索範囲領域とし、前記第1の探索範囲領域内それぞれの前記基準ブロックを前記探索範囲と同じ範囲の領域の中央に位置するブロックとして、前記基準ブロックが中央に位置する前記探索範囲と同じ範囲の領域それぞれを第2の探索範囲領域としたとき、前記基準ブロックの位置に対応したそれぞれの前記第2の探索範囲領域内に、前記現在フレームと前記過去フレームとの間に内挿する補間フレームの補間ブロックであり、それぞれの前記第2の探索範囲領域の中央に位置する前記基準ブロックと同じ位置の注目ブロックを通過する方向の動きベクトルがあるか否かを検出し、それぞれの前記第2の探索範囲領域内に存在する動きベクトルの種類とそれぞれの種類の動きベクトルの個数を検出し、前記補間フレームのそれぞれの前記注目ブロックを中心として、前記第2の探索範囲領域内に存在する動きベクトルの種類それぞれの方向で、前記探索基準のフレームのブロックと前記他方のフレームのブロックとの差分値を求め、前記基準ブロックを通過する方向の動きベクトルがあるか否かの検出結果と、それぞれの前記第2の探索範囲領域内に存在する動きベクトルの種類とそれぞれの種類の動きベクトルの個数の検出結果とに基づいて、前記差分値に対して重み付けして重み付けした差分値を相関値とし、前記相関値に基づいて前記第1の動きベクトルを第2の動きベクトル(V2)へと補正することを特徴とする動きベクトル生成方法を提供する。
上記の動きベクトル生成方法において、前記注目ブロックを通過する方向の動きベクトルに対して第1の重み付けポイントを設定した第1の重み付けデータ(D31)を生成し、それぞれの種類の動きベクトルに対して、個数が多いほど大きい第2の重み付けポイントを設定した第2の重み付けデータ(D32)を生成し、前記第1の重み付けデータと前記第2の重み付けデータとで同じ動きベクトルであれば前記第1の重み付けポイントと前記第2の重み付けポイントとを加算した上で、それぞれの種類の動きベクトルの方向の差分値を、重み付けポイントが大きい動きベクトルの方向ほど差分値が小さくなるように補正することが好ましい。
上記の動きベクトル生成方法において、前記第1の探索範囲領域内それぞれの前記基準ブロックと、複数の動きベクトルそれぞれの方向の前記他方のフレームのブロックとの差分値を求め、前記複数の動きベクトルそれぞれの方向の差分値において、前記基準ブロックで求めた差分値に対して前記基準ブロックの周囲のブロックで求めた差分値を積算し、最も小さい差分値を示す方向をそれぞれの前記基準ブロックにおける動きベクトルとして検出することが好ましい。
本発明の動きベクトル生成装置及び方法によれば、過去フレームまたは現在フレームを探索基準として検出した動きベクトルを検出し、動きベクトルの検出位置と補間位置とのずれを補正した動きベクトルを生成することができる。
本発明の動きベクトル生成装置の一実施形態を示すブロック図である。 図1中の動きベクトル検出部2による動きベクトルの検出動作を説明するための図である。 過去フレームから現在フレームへと動く物体と補間フレーム内に生成される補間画像による物体の例を示す図である。 図3の場合に、過去フレームのそれぞれのブロックで検出される水平方向+1、垂直方向−1の方向の動きベクトルが示す差分値と、静止ベクトルが示す差分値の例を示す図である。 図4に示すそれぞれのブロックの差分値と周辺ブロックの差分値とを積算した差分値を示す図である。 図1中の動きベクトル検出部2が図5に示す差分値に基づいてそれぞれのブロックで生成した動きベクトルV1を示す図である。 図1中の動きベクトル補正部3の具体的な構成例を示すブロック図である。 補間フレームにおける注目ブロックを通過する、過去フレームを探索基準として検出した動きベクトルの第1の例を示す図である。 補間フレームにおける注目ブロックを通過する、過去フレームを探索基準として検出した動きベクトルの第2の例を示す図である。 補間フレームにおける注目ブロックを通過する、過去フレームを探索基準として検出した動きベクトルの第3の例を示す図である。 補間フレームにおける注目ブロックを通過する動きベクトルをまとめて示す図である。 図7に示す動きベクトル補正部3がブロック(m1,n1)を基準ブロックとしたときに重み付けデータD31,D32を生成する際の探索範囲を示す図である。 図7に示す動きベクトル補正部3がブロック(m2,n2)を基準ブロックとしたときに重み付けデータD31,D32を生成する際の探索範囲を示す図である。 図7に示す動きベクトル補正部3がブロック(m3,n3)を基準ブロックとしたときに重み付けデータD31,D32を生成する際の探索範囲を示す図である。 図7に示す動きベクトル補正部3がブロック(m5,n5)を基準ブロックとしたときに重み付けデータD31,D32を生成する際の探索範囲を示す図である。 図6に示すそれぞれのブロックにおいて生成した水平方向+1、垂直方向−1の方向の動きベクトルに対する重み付けポイントと、静止ベクトルに対する重み付けポイントとを示す図である。 図7に示す相関計算部33が計算する補間フレーム内の中心ブロックを通る過去フレーム内のブロックと現在フレーム内のブロックとの差分値を示す図である。 図15に示す差分値に重み付けデータD31,D32が示す重み付けポイントに基づいて重み付けした重み付け差分値を示す図である。 図16に示す重み付け差分値に基づいて相関計算部33が出力する補正した動きベクトルV2を示す図である。
以下、本発明の動きベクトル生成装置及び方法の一実施形態について、添付図面を参照して説明する。図1に示す一実施形態は、動きベクトル生成装置を含むフレーム周波数変換装置を示している。図1において、入力された映像信号Sinの各画素データは、フレームメモリ1と、動きベクトル検出部2と、補間フレーム生成部4と、フレーム周波数変換部5とに順次入力される。映像信号Sinは、例えば60Hzのフレーム周波数を有する。
フレームメモリ1は、入力された画素データを1フレーム期間遅延させて出力する。映像信号Sinの現在のフレームを現在フレームf0、フレームメモリ1より出力された1フレーム過去のフレームを過去フレームf1とする。補間フレーム生成部4が生成する補間フレームを補間フレームf0.5とする。フレームメモリ1より出力された過去フレームf1の各画素データは、動きベクトル検出部2と補間フレーム生成部4とに順次入力される。
動きベクトル検出部2は、例えばマッチング法を用い、現在フレームf0と過去フレームf1の画素データを用いて、現在フレームf0と過去フレームf1との間に内挿する補間フレームの各補間画素データを生成するための動きベクトルV1を検出する。動きベクトルV1を画素単位で検出してもよいし、複数の画素よりなるブロック単位で検出してもよい。ブロックとは1または複数画素であるとする。特に図示しないが、動きベクトル検出部2は複数のラインメモリと画素遅延器、画素データの差分を求める減算器等を含んで構成される。
図2を用いて、動きベクトル検出部2による動きベクトルV1の検出動作についてさらに説明する。図2は、過去フレームf1内に位置している物体OBが、一点鎖線の矢印線で示すように、現在フレームf0内の図示の位置に移動した状態を示している。理想的には、補間フレームf0.5内に、破線で示すような補間画像による物体OBiが生成される。本実施形態では、動きベクトル検出部2は、過去フレームf1を探索基準として動きベクトルV1を検出する。現在フレームf0を探索基準として動きベクトルV1を検出してもよいし、過去フレームf1及び現在フレームf0の双方を探索基準として動きベクトルV1を検出してもよい。
図2に示すように、過去フレームf1の物体OBの位置を検出位置として検出された動きベクトルV1は、破線の矢印線で示すように、補間フレームf0.5における物体OBの検出位置に対応する位置へと適用されることになる。従って、物体OBの検出位置にて検出された動きベクトルV1が補間フレームf0.5に対して適用される位置と、補間フレームf0.5における補間画像による物体OBiの位置とがずれることになる。
図1に戻り、動きベクトル検出部2によって検出された動きベクトルV1は、動きベクトル補正部3へと入力される。動きベクトル補正部3は、後述のようにして動きベクトルV1を補正して動きベクトルV2を出力する。動きベクトル検出部2及び動きベクトル補正部3は、本実施形態の動きベクトル生成装置10を構成している。
補間フレーム生成部4は、現在フレームf0の画素データと、過去フレームf1の画素データと、動きベクトルV2とを用いてそれぞれの補間画素データを生成することによって、補間フレームf0.5を生成する。フレーム周波数変換部5は、補間フレームf0.5と現在フレームf0とをこの順で120Hzのフレーム周波数で交互に出力する。これによって、フレーム周波数変換部5からは120Hzのフレーム周波数を有する映像信号Soutが出力される。
動きベクトル生成装置10において、動きベクトルV1が具体的にどのように生成され、動きベクトルV1が具体的にどのようにして動きベクトルV2に補正されるかについて、物体OBが図3のように動く場合を例にして説明する。
前述のように、動きベクトル検出部2は、映像信号における現在フレームf0と過去フレームf1とのうちの一方のフレームを動きベクトルを検出する探索基準のフレームとする。動きベクトル検出部2は、現在フレームf0及び過去フレームf1のそれぞれを1または複数画素よりなるブロックに分割して、探索基準のフレーム(ここでは過去フレームf1)におけるそれぞれのブロックを、動きベクトルを検出する際の基準ブロックとする。動きベクトル検出部2は、現在フレームf0と過去フレームf1とのうちの他方のフレーム(ここでは現在フレームf0)における複数のブロックよりなる所定の領域を探索範囲とする。
動きベクトル検出部2は、基準ブロックと探索範囲内のそれぞれのブロックとの相関に基づいて、基準ブロックそれぞれで動きベクトルを検出する。
図3では、水平方向7ブロック、垂直方向7ブロックの合計49ブロックの範囲を動きベクトルV1の探索範囲としている。探索範囲とは、探索基準のフレーム内の基準ブロックから見たときの、他方のフレーム内の基準ブロックとの相関を検出する複数のブロックよりなる所定の領域のことである。一般的に、基準ブロックは、探索範囲の中央に位置するブロックである。
本実施形態では、図3に示すように、過去フレームf1と補間フレームf0.5と現在フレームf0とで、互いに対向する探索範囲と同じ領域を考えることとする。現在フレームf0における任意の49ブロックの範囲を探索範囲とすると、探索範囲に対向する探索基準のフレームである過去フレームf1における探索範囲と同じ範囲の領域を探索範囲領域(第1の探索範囲領域)と称することとする。
図3において、過去フレームf1、補間フレームf0.5、現在フレームf0それぞれのブロックの位置を、水平方向のブロックの位置を示すm1〜m7と垂直方向の位置を示すn1〜n7とで表すこととする。なお、動きベクトルV1の探索範囲は、適宜に設定すればよい。
図3は、過去フレームf1のブロック(m2,n2),(m2,n3),(m2,n4),(m3,n2),(m3,n3),(m3,n4),(m4,n2),(m4,n3),(m4,n4)にまたがっている物体OBが、一点鎖線の矢印線で示すように、現在フレームf0のブロック(m4,n4),(m4,n5),(m4,n6),(m5,n4),(m5,n5),(m5,n6),(m6,n4),(m6,n5),(m6,n6)へと移動した状態を示している。
動きベクトル検出部2は、過去フレームf1のそれぞれのブロックを基準ブロックとして、それぞれのブロックで動きベクトルV1を検出する。具体的には、動きベクトル検出部2は、まず、基準ブロックと、基準ブロックと同じ水平方向及び垂直方向の位置である現在フレームf0内のブロックを中心とした探索範囲内それぞれのブロックとの差分をとる。
図3において、物体OBの背景は完全な平坦な画像ではなく、過去フレームf1と現在フレームf0との位置が異なるブロック、即ち、対向しないブロックどうしの背景の差分値が5であるとする。物体OBと背景とは絵柄や色が異なり、物体OBと背景との差分値が10であるとする。物体OBにおける異なる部分のブロックの差分値が5であるとする。
図3に示すように静止画の背景内に移動する物体OBが存在する場合、動きベクトル検出部2においては、過去フレームf1におけるブロックが現在フレームf0へと、水平方向の右方向に2ブロック、垂直方向の下方向に2ブロック移動する方向の差分値と、過去フレームf1と現在フレームf0との対向するブロックの差分値が、他の方向の差分値と比較して小さく検出されることになる。
図4において、(a)は、図3における過去フレームf1の探索範囲領域内それぞれの基準ブロックと、基準ブロックから右方向に2ブロック、下方向に2ブロックずれた現在フレームf0のブロックとの差分値を示している。図4において、(b)は、図3における過去フレームf1の探索範囲領域内それぞれの基準ブロックと、基準ブロックと対向する現在フレームf0のブロックとの差分値を示している。図4の(a)の外側のそれぞれのブロックの差分値は全て5であり、図4の(b)の外側のそれぞれのブロックの差分値は全て0である。
動きベクトル検出部2は、過去フレームf1内の基準ブロックと、現在フレームf0における探索範囲内それぞれのブロックとの差分をとって、それぞれの方向の差分値を求める。上記のように、図4の(a),(b)以外の方向の差分値は大きな値となり、図3の場合には図4の(a),(b)以外の方向を動きベクトルV1として検出することはないため、図4の(a),(b)以外の方向の差分値の図示を省略する。
図2で説明したように、動きベクトル検出部2が過去フレームf1を探索基準として検出した動きベクトルV1を補間フレームf0.5に適用すると、過去フレームf1において動きベクトルV1を検出した位置と補間フレームf0.5における補間画像との位置がずれる。そこで、動きベクトル検出部2は、動きベクトルV1を検出した位置と補間画像との位置のずれを緩和するために、図4の(a),(b)に示すそれぞれの基準ブロックの差分値に対して、周辺ブロックの差分値を積算する。一例として、動きベクトル検出部2は、基準ブロックと、基準ブロックを取り囲む8ブロックとの合計9ブロックを積算することとする。
図5において、(a)は図4の(a)に示す差分値を、基準目ブロックを含む9ブロックで積算した差分値を示している。図5において、(b)は図4の(b)に示す差分値を、基準ブロックを含む9ブロックで積算した差分値を示している。図5の(a)と(b)とを比較して、小さい方が画像の相関が高く、動きベクトルV1の方向となる。但し、ここでは積算した差分値が40以上は信頼度が低いため、図5の(a),(b)いずれも不適とする。図5の(a),(b)において、積算した差分値が40未満で、(a)と(b)とを比較して小さい方に梨地模様を付している。
動きベクトル検出部2は、以上のようにして、それぞれの方向の差分値を求め、基準ブロックの差分値と周辺ブロックの差分値とを積算し、より小さい積算した差分値を示す方向を動きベクトルV1とする。図6は、以上のようにして図3における過去フレームf1の探索範囲領域内それぞれのブロックにおいて検出した動きベクトルV1を示している。図6では、過去フレームf1内の物体OBを実線で、物体OBの移動後の位置を理解しやすいよう、現在フレームf0内の物体OBを一点鎖線にて示している。
水平方向の右方向に2ブロック、垂直方向の下方向に2ブロック移動する方向は、過去フレームf1から補間フレームf0.5への移動方向を考えると、右方向に1ブロック、下方向に1ブロックの移動であり、右方向を水平方向の+方向、上方向を垂直方向の+方向とすれば、水平方向+1、垂直方向−1の動きベクトルである。この動きベクトルをV(+1,-1)と称することとする。図6に示すベクトルV(+1,-1)は、水平方向+1、垂直方向−1の動きベクトルV1を概念的に示している。
過去フレームf1の基準ブロックから現在フレームf0の対向するブロックへの移動は水平方向0、垂直方向0の動きベクトルである。この動きベクトルは静止ベクトルであり、“−”と示している。
動きベクトル検出部2は、図5の(a)に基づいて、図6に示すように、過去フレームf1のブロック(m2,n2),(m2,n3),(m2,n4),(m3,n2),(m3,n3),(m3,n4),(m3,n5),(m4,n2),(m4,n3),(m4,n4),(m4,n5),(m5,n3),(m5,n4)において、動きベクトルV1としてベクトルV(+1,-1)を検出する。差分値を積算したことにより、ベクトルV(+1,-1)が物体OBより外側のブロックにおいても検出されている。
動きベクトル検出部2は、図5の(b)に基づいて、図6に示すように、ベクトルV(+1,-1)を検出したブロック以外の多くのブロックで、静止ベクトルを検出する。動きベクトル検出部2は、過去フレームf1のブロック(m4,n6),(m5,n5),(m5,n6),(m6,n4),(m6,n5),(m6,n6)において、ベクトルV(+1,-1)及び静止ベクトル以外の何らかの相関微小ベクトルを検出する。相関微小ベクトルを“*”にて示している。相関微小ベクトルは、図5の(a),(b)において梨地模様を付していないブロックにおいて検出される。
相関微小ベクトルは全て同じベクトルとは限らないが、簡略化のため全て同じベクトルであるとする。図6よりも外側のブロックでは全て静止ベクトルが検出されているとする。
図6において、過去フレームf1のブロック(m4,n4)は、図3に示す補間フレームf0.5の中央に位置しているブロック(m4,n4)と対向しており、ハッチングを付している。図6からも、動きベクトル検出部2が過去フレームf1を探索基準として検出した動きベクトルV1を補間フレームf0.5に適用すると、補間フレームf0.5における補間画像による物体OBiの位置とがずれることが分かる。
そこで、動きベクトル補正部3は、過去フレームf1を探索基準として検出した動きベクトルV1と補間画像との位置のずれを解消するための、次のようにして動きベクトルV1を補正して、動きベクトルV2として出力する。
図7に示すように、動きベクトル補正部3は、補間ブロック通過動きベクトル検出部31と、動きベクトル分布検出部32と、相関計算部33とを有する。動きベクトルV1は、補間ブロック通過動きベクトル検出部31及び動きベクトル分布検出部32に入力される。
図8〜図11を用いて、補間ブロック通過動きベクトル検出部31の動作について説明する。図8〜図10では、理解を容易にするために、1つのブロックに収まる物体OBが移動する場合を示している。図8の(a)では、過去フレームf1のブロック(m1,n1)内に位置している物体OBが、一点鎖線の矢印線で示すように、現在フレームf0のブロック(m7,n7)へと移動した状態を示している。
補間フレームf0.5内のハッチングを付したブロック(m4,n4)は補間フレーム生成部4によって生成しようとする補間ブロックBkiである。現在フレームf0の探索範囲及び過去フレームf1の探索範囲領域の中央に位置するブロックと同じ位置の補間ブロックBkiを注目ブロックとする。勿論、補間フレームf0.5の補間ブロックBkiは順次その位置を異ならせていくので、注目ブロックは順次異なった位置となる。図8の(a)は、補間フレームf0.5のブロック(m4,n4)が注目ブロックとなっている状態を示している。
物体OBが、過去フレームf1のブロック(m1,n1)から現在フレームf0のブロック(m7,n7)へと移動した場合には、補間フレームf0.5のブロック(m4,n4)内に破線で示すような補間画像による物体OBiを生成すればよい。
過去フレームf1のブロック(m1,n1)が動きベクトルV1の検出位置であるとき、ブロック(m1,n1)で検出される動きベクトルV1が補間フレームf0.5内の補間ブロックBki(注目ブロック)を通過する方向の動きベクトルであれば、物体OBiを正しく生成することができることになる。過去フレームf1のブロック(m1,n1)が補間フレームf0.5のブロック(m4,n4)へと移動する場合の動きベクトルV1は、水平方向+3、垂直方向−3の動きベクトルである。この動きベクトルV1をV(+3,-3)と称することとする。
補間フレームf0.5のブロック(m4,n4)を現在フレームf0及び過去フレームf1のブロックを用いて補間して補間ブロックBkiを生成する際に、図8の(b)に示すように、過去フレームf1のブロック(m1,n1)において動きベクトルV1としてベクトルV(+3,-3)が検出されれば、物体OBiは動きベクトルV1を用いて正しく生成される。なお、図8の(b)に示すベクトルV(+3,-3)は、水平方向+3、垂直方向−3の動きベクトルV1を概念的に示している。図8の(b)におけるハッチングを付したブロック(m4,n4)は、過去フレームf1における補間フレームf0.5の補間ブロックBkiと対向する位置のブロックである。
図9の(a)は、過去フレームf1のブロック(m2,n2)内に位置している物体OBが、一点鎖線の矢印線で示すように、現在フレームf0のブロック(m6,n6)へと移動した状態を示している。同様に、過去フレームf1のブロック(m2,n2)が動きベクトルV1の検出位置であるとき、ブロック(m2,n2)で検出される動きベクトルV1が補間フレームf0.5内の補間ブロックBki(注目ブロック)を通過する方向の動きベクトルであれば、物体OBiを正しく生成することができることになる。
過去フレームf1のブロック(m2,n2)が補間フレームf0.5のブロック(m4,n4)へと移動する場合の動きベクトルV1は、水平方向+2、垂直方向−2の動きベクトルであり、ベクトルV(+2,-2)と称することとする。
補間フレームf0.5のブロック(m4,n4)を現在フレームf0及び過去フレームf1のブロックを用いて補間して補間ブロックBkiを生成する際に、図9の(b)に示すように、過去フレームf1のブロック(m2,n2)において動きベクトルV1としてベクトルV(+2,-2)が検出されれば、物体OBiは動きベクトルV1を用いて正しく生成される。なお、図9の(b)に示すベクトルV(+2,-2)は、水平方向+2、垂直方向−2の動きベクトルV1を概念的に示している。
図10の(a)は、過去フレームf1のブロック(m3,n3)内に位置している物体OBが、一点鎖線の矢印線で示すように、現在フレームf0のブロック(m5,n5)へと移動した状態を示している。同様に、過去フレームf1のブロック(m3,n3)が動きベクトルV1の検出位置であるとき、ブロック(m3,n3)で検出される動きベクトルV1が補間フレームf0.5内の補間ブロックBki(注目ブロック)を通過する方向の動きベクトルであれば、物体OBiを正しく生成することができることになる。
過去フレームf1のブロック(m3,n3)が補間フレームf0.5のブロック(m5,n5)へと移動する場合の動きベクトルV1は、水平方向+1、垂直方向−1のベクトルV(+1,-1)である。
補間フレームf0.5のブロック(m3,n3)を現在フレームf0及び過去フレームf1のブロックを用いて補間して補間ブロックBkiを生成する際に、図10の(b)に示すように、過去フレームf1のブロック(m3,n3)において動きベクトルV1としてベクトルV(+1,-1)が検出されれば、物体OBiは動きベクトルV1を用いて正しく生成される。
図8〜図10で説明した考え方によって、過去フレームf1のそれぞれのブロックにおいて、補間フレームf0.5の注目ブロックを通過する動きベクトルV1は、概念的に図11に示すような49種類のベクトルV(+3,-3)〜V(-3,+3)となる。図11は、動きベクトルV1が検出される過去フレームf1と補間ブロックBkiを有する補間フレームf0.5とを便宜上重ね合わせた状態を示している。上記のように、注目ブロックは順次位置が変化していく。図11の49ブロックの中央に位置する補間ブロックBkiは任意の位置の注目ブロックである。
図11に示す49ブロックの中央に位置する過去フレームf1のブロックにおいて、補間フレームf0.5の補間ブロックBkiを通過する方向の“−”で示す静止ベクトルはベクトルV(0,0)である。
図7の補間ブロック通過動きベクトル検出部31は、動きベクトル検出部2によって図6に示すように検出された動きベクトルV1のうち、補間フレームf0.5の補間ブロックBkiを通過する方向の動きベクトルV1が存在するか否かを検出する。補間ブロック通過動きベクトル検出部31は、図11の概念図に示すように、過去フレームf1の探索範囲領域内それぞれの基準ブロックにおいて補間ブロックBkiを通過する方向の動きベクトルV1が49種類のベクトルV(+3,-3)〜V(-3,+3)のいずれであるかを示す情報を有している。
補間ブロック通過動きベクトル検出部31は、過去フレームf1のそれぞれの基準ブロックを中心とした探索範囲領域(第2の探索範囲領域)内に、補間ブロックBkiを通過する方向の動きベクトルV1が存在する場合には、所定の重み付けポイントを設定した重み付けデータD31を出力する。補間ブロックBkiを通過する方向の動きベクトルV1が存在する場合の重み付けポイントを例えば“20”とする。
図7の動きベクトル分布検出部32は、過去フレームf1のそれぞれの基準ブロックを中心とした探索範囲領域(第2の探索範囲領域)内の動きベクトルV1の分布を検出する。具体的には、動きベクトル分布検出部32は、探索範囲領域内のそれぞれの種類の動きベクトルV1の個数を集計して、それぞれの種類の動きベクトルV1に対して個数に応じた重み付けポイントを設定した重み付けデータD32を出力する。例えば、1ブロックを1ポイントとし、同じ種類の動きベクトルV1のブロックの個数に応じた重み付けポイントとする。
図12〜図15を用いて、補間ブロック通過動きベクトル検出部31における補間ブロックBkiを通過する方向の動きベクトルV1が存在するか否の検出、動きベクトル分布検出部32における動きベクトルV1の分布の検出それぞれの具体的な動作について説明する。
まず、図12は、過去フレームf1のブロック(m1,n1)が基準ブロックの場合を示している。ブロック(m1,n1)が基準ブロックの場合、ブロック(m1,n1)が中央に位置する探索範囲領域は図12に示す範囲となる。探索範囲領域が図12の場合、探索範囲領域の中央に位置するブロック(m1,n1)と同じ位置のブロックが補間フレームf0.5の注目ブロックとなる。図11と図12とを比較すれば分かるように、基準ブロックであるブロック(m1,n1)で検出された静止ベクトルV(0,0)は、注目ブロックを通過する方向の動きベクトルV1である。従って、補間ブロック通過動きベクトル検出部31は、静止ベクトルV(0,0)に対する重み付けデータD31の重み付けポイントを“20”とする。
動きベクトル分布検出部32は、探索範囲内のそれぞれの種類の動きベクトルV1の個数を集計して、重み付けデータD32としてブロックの個数に応じた重み付けポイントとする。図12の場合には、動きベクトルV1はベクトルV(+1,-1)と静止ベクトルV(0,0)のみであり、動きベクトル分布検出部32は、ベクトルV(+1,-1)に対する重み付けポイントを“9”、静止ベクトルV(0,0)に対する重み付けポイントを“40”とする。
図7の相関計算部33には、重み付けデータD31,D32が入力される。相関計算部33は、重み付けデータD31,D32それぞれが示す動きベクトルV1に対する重み付けポイントを、同じ種類の動きベクトルV1に対する重み付けポイントであれば合計して、それぞれの動きベクトルV1に対する重み付けポイントとする。図12の場合では、重み付けデータD31が示す静止ベクトルV(0,0)に対する重み付けポイントが“20”、重み付けデータD32が示す静止ベクトルV(0,0)に対する重み付けポイントが“40”であるので、静止ベクトルV(0,0)に対する重み付けポイントを“60”とする。ベクトルV(+1,-1)に対する重み付けポイントは“9”である。
図13は、過去フレームf1のブロック(m2,n2)が基準ブロックの場合を示している。ブロック(m2,n2)が基準ブロックの場合、ブロック(m2,n2)が中央に位置する探索範囲領域は図13に示す範囲となる。探索範囲領域が図13の場合、探索範囲領域の中央に位置するブロック(m2,n2)と同じ位置が補間フレームf0.5の注目ブロックとなる。図11と図13とを比較すれば分かるように、注目ブロックを通過する方向の動きベクトルV1は存在しない。従って、補間ブロック通過動きベクトル検出部31が出力する重み付けデータD31の重み付けポイントは“0”である。
図13の場合には、動きベクトルV1は、ベクトルV(+1,-1)と静止ベクトルV(0,0)と相関微小ベクトルである。動きベクトル分布検出部32は、重み付けデータD32として、ベクトルV(+1,-1)に対する重み付けポイントを“13”、静止ベクトルV(0,0)に対する重み付けポイントを“35”、相関微小ベクトルに対する重み付けポイントを“1”とする。従って、相関計算部33は、重み付けデータD32が示す重み付けポイントをそのまま用いる。
次に、図14は、過去フレームf1のブロック(m3,n3)が基準ブロックの場合を示している。ブロック(m3,n3)が基準ブロックの場合、ブロック(m3,n3)が中央に位置する探索範囲領域は図14に示す範囲となる。探索範囲領域が図14の場合、探索範囲領域の中央に位置するブロック(m3,n3)と同じ位置のブロックが補間フレームf0.5の注目ブロックとなる。図11と図14とを比較すれば分かるように、ブロック(m2,n2)で検出されたベクトルV(+1,-1)は、注目ブロックを通過する方向の動きベクトルV1である。従って、補間ブロック通過動きベクトル検出部31は、ベクトルV(+1,-1)に対する重み付けデータD31の重み付けポイントを“20”とする。
図14の場合も、動きベクトルV1は、ベクトルV(+1,-1)と静止ベクトルV(0,0)と相関微小ベクトルである。動きベクトル分布検出部32は、重み付けデータD32として、ベクトルV(+1,-1)に対する重み付けポイントを“13”、静止ベクトルV(0,0)に対する重み付けポイントを“30”、相関微小ベクトルに対する重み付けポイントを“6”とする。
図14の場合には、重み付けデータD31が示すベクトルV(+1,-1)に対する重み付けポイントが“20”、重み付けデータD32が示すベクトルV(+1,-1)に対する重み付けポイントが“13”であるので、相関計算部33は、ベクトルV(+1,-1)に対する重み付けポイントを“33”とする。静止ベクトルV(0,0)に対する重み付けポイントは“30”、相関微小ベクトルに対する重み付けポイントを“6”のままである。
さらに、図15は、過去フレームf1のブロック(m5,n5)が基準ブロックの場合を示している。ブロック(m5,n5)が基準ブロックの場合、ブロック(m5,n5)が中央に位置する探索範囲領域は図15に示す範囲となる。探索範囲領域が図15の場合、探索範囲領域の中央に位置するブロック(m5,n5)と同じ位置が補間フレームf0.5の注目ブロックとなる。図11と図15とを比較すれば分かるように、ブロック(m4,n4)で検出されたベクトルV(+1,-1)は、注目ブロックを通過する方向の動きベクトルV1である。従って、補間ブロック通過動きベクトル検出部31は、ベクトルV(+1,-1)に対する重み付けデータD31の重み付けポイントを“20”とする。
図15の場合も、動きベクトルV1は、ベクトルV(+1,-1)と静止ベクトルV(0,0)と相関微小ベクトルである。動きベクトル分布検出部32は、重み付けデータD32として、ベクトルV(+1,-1)に対する重み付けポイントを“13”、静止ベクトルV(0,0)に対する重み付けポイントを“30”、相関微小ベクトルに対する重み付けポイントを“6”とする。
図15の場合には、重み付けデータD31が示すベクトルV(+1,-1)に対する重み付けポイントが“20”、重み付けデータD32が示すベクトルV(+1,-1)に対する重み付けポイントが“13”であるので、相関計算部33は、ベクトルV(+1,-1)に対する重み付けポイントを“33”とする。静止ベクトルV(0,0)に対する重み付けポイントは“30”、相関微小ベクトルに対する重み付けポイントを“6”のままである。
以上のようにして、補間ブロック通過動きベクトル検出部31は、それぞれの基準ブロックが中央に位置する探索範囲領域内に、補間フレームf0.5の注目ブロックを通過する方向の動きベクトルV1が存在するか否かを検出して、存在する場合にはその動きベクトルV1に対して重み付けデータD31として重み付けポイント“20”を与える。動きベクトル分布検出部32は、それぞれの基準ブロックが中央に位置する探索範囲領域内において、全ての種類の動きベクトルV1の個数を集計し、重み付けデータD32として個数に応じた重み付けポイントを与える。相関計算部33は、重み付けデータD31,D32を合わせて、それぞれの動きベクトルV1の重み付けポイントを生成する。
図16の(a)は、図6のそれぞれのブロックにおいて得られるベクトルV(+1,-1)に対する重み付けポイントを示しており、図16の(b)は、図6のそれぞれのブロックにおいて得られる静止ベクトルV(0,0)に対する重み付けポイントを示している。相関微小ベクトルに対する重み付けポイントは非常に少ないため、省略する。
また、相関計算部33は、重み付けデータD31,D32として検出された動きベクトルV1の方向のみ、補間フレームf0.5のそれぞれの補間ブロックBki(注目ブロック)を中心とした差分値を求める。図12〜図15で説明したように、補間ブロック通過動きベクトル検出部31及び動きベクトル分布検出部32で検出の対象とする動きベクトルV1は、補間フレームf0.5の1つの注目ブロックに対して、注目ブロックと同じ位置の過去フレームf1のブロックを中心とする探索範囲領域で検出される動きベクトルV1である。
相関計算部33は、それぞれの補間ブロックBkiを中心として、それぞれの補間ブロックBkiに対する過去フレームf1の探索範囲領域で検出された動きベクトルV1の方向の、過去フレームf1のブロックと現在フレームf0のブロックとの差分値を求める。
図12の場合には、過去フレームf1のブロック(m1,n1)と同じ位置のブロックが補間フレームf0.5の注目ブロックである補間ブロックBkiとなっている。このとき、過去フレームf1の探索範囲領域で検出された動きベクトルV1は、ベクトルV(+1,-1)と静止ベクトルV(0,0)のみである。そこで、相関計算部33は、ブロック(m1,n1)と同じ位置の補間ブロックBkiを中心として、ベクトルV(+1,-1)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値と、静止ベクトルV(0,0)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値を求める。
図13の場合には、過去フレームf1のブロック(m2,n2)と同じ位置のブロックが補間フレームf0.5の補間ブロックBkiであり、過去フレームf1の探索範囲領域で検出された動きベクトルV1は、ベクトルV(+1,-1)と静止ベクトルV(0,0)のみである。そこで、相関計算部33は、ブロック(m2,n2)と同じ位置の補間ブロックBkiを中心として、ベクトルV(+1,-1)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値と、静止ベクトルV(0,0)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値を求める。
図14の場合には、過去フレームf1のブロック(m3,n3)と同じ位置のブロックが補間フレームf0.5の補間ブロックBkiであり、過去フレームf1の探索範囲領域で検出された動きベクトルV1は、ベクトルV(+1,-1)と静止ベクトルV(0,0)と相関微小ベクトルである。そこで、相関計算部33は、ブロック(m3,n3)と同じ位置の補間ブロックBkiを中心として、ベクトルV(+1,-1)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値と、静止ベクトルV(0,0)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値と、相関微小ベクトルが示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値とを求める。
図15の場合には、過去フレームf1のブロック(m5,n5)と同じ位置のブロックが補間フレームf0.5の補間ブロックBkiであり、過去フレームf1の探索範囲領域で検出された動きベクトルV1は、ベクトルV(+1,-1)と静止ベクトルV(0,0)と相関微小ベクトルである。そこで、相関計算部33は、ブロック(m5,n5)と同じ位置の補間ブロックBkiを中心として、ベクトルV(+1,-1)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値と、静止ベクトルV(0,0)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値と、相関微小ベクトルが示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値とを求める。
図17において、(a)は、以上のようにして、それぞれの補間ブロックBkiを中心として、ベクトルV(+1,-1)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値を示している。図17において、(b)は、それぞれの補間ブロックBkiを中心として、静止ベクトルV(0,0)が示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値を示している。相関微小ベクトルが示す方向の過去フレームf1のブロックと現在フレームf0のブロックとの差分値は省略する。
相関計算部33は、図16に示す重み付けポイントに基づいて図17に示す差分値に対して重み付けして、ベクトルV(+1,-1)が示す方向と静止ベクトルV(0,0)が示す方向の最終的な相関値を計算する。相関計算部33は、一例として、図17に示すそれぞれの方向の差分値を、図16に示すそれぞれの方向の重み付けポイントのうち、重み付けポイントが多い方の方向の差分値はそのままとし、重み付けポイントが少ない方の方向の差分値は差分値を+10とする。
図17では、ベクトルV(+1,-1)が示す方向と静止ベクトルV(0,0)が示す方向の差分値のみを示しているため、重み付けポイントの大小比較となる。図6において3種類以上の方向の動きベクトルV1が検出された場合には、重み付けポイントが多い方の方向の差分値をそのまま、重み付けポイントが2番目に多い方の方向の差分値を+10、重み付けポイントが3番目に多い方の方向の差分値を+20のようにすればよい。図6の場合には、図示を省略した相関微小ベクトルに対する重み付けポイントが3番目となる。相関微小ベクトルが複数の異なるベクトルの場合には、それぞれの相関微小ベクトルに対する重み付けポイントが3番目,4番目,5番目…となる。
図18は、相関計算部33が重み付けポイントに基づいて差分値に対して重み付けすることによって計算した最終的な相関値を示している。図18の(a)はベクトルV(+1,-1)が示す方向の相関値、図18の(b)は静止ベクトルV(0,0)が示す方向の相関値である。相関計算部33は、最も相関値が小さい方向を動きベクトルV2として出力する。
図19は、相関計算部33が出力する動きベクトルV2を示している。図18の(a)と(b)とを比較すれば分かるように、ブロック(m3,n3),(m3,n4),(m3,n5),(m4,n3),(m4,n4),(m4,n5),(m5,n3),(m5,n4),(m5,n5)のみベクトルV(+1,-1)が示す方向の相関値が小さく、他のブロックでは、静止ベクトルV(0,0)が示す方向の相関値の方が小さい。よって、相関計算部33が出力する動きベクトルV2は図19のようになる。このようにして、動きベクトル検出部2によって検出された図6に示す動きベクトルV1は、動きベクトル補正部3によって図19に示す動きベクトルV2へと補正される。
図18では図示を省略したが、図6に示す動きベクトルV1に含まれていた相関微小ベクトルが示す方向の相関値は、ベクトルV(+1,-1)が示す方向の相関値や静止ベクトルV(0,0)が示す方向の相関値よりも大きな値となる。従って、相関微小ベクトルは全てベクトルV(+1,-1)または静止ベクトルV(0,0)へと置換される。
以上のように、動きベクトル補正部3の補間ブロック通過動きベクトル検出部31は、他方のフレーム(現在フレームf0)における所定の探索範囲に対向する探索基準のフレーム(過去フレームf1)における所定の探索範囲と同じ範囲の領域を第1の探索範囲領域とする。補間ブロック通過動きベクトル検出部31は、第1の探索範囲領域内それぞれの基準ブロックを探索範囲と同じ範囲の領域の中央に位置するブロックとし、基準ブロックが中央に位置する探索範囲と同じ範囲の領域それぞれを第2の探索範囲領域とする。
そして、補間ブロック通過動きベクトル検出部31は、基準ブロックの位置に対応したそれぞれの第2の探索範囲領域内に、補間フレームf0.5の注目ブロックを通過する方向の動きベクトルV1があるか否かを検出する。補間フレームf0.5の注目ブロックは、それぞれの第2の探索範囲領域の中央に位置する基準ブロックと同じ位置のブロックである。
補間ブロック通過動きベクトル検出部31は、注目ブロックを通過する方向の動きベクトルV1に対して第1の重み付けポイントを設定した第1の重み付けデータを生成する。
動きベクトル分布検出部32は、それぞれの第2の探索範囲領域内に存在する動きベクトルV1の種類とそれぞれの種類の動きベクトルV1の個数を検出する。動きベクトル分布検出部32は、それぞれの種類の動きベクトルV1に対して、個数が多いほど大きい第2の重み付けポイントを設定した第2の重み付けデータを生成する。個数が多いほど重み付けポイントを大きくするのは、個数が多い動きベクトルV1ほど信頼度が高いと判断できるからである。
相関計算部33は、補間フレームf0.5のそれぞれの注目ブロックを中心として、第2の探索範囲領域内に存在する動きベクトルV1の種類それぞれの方向で、探索基準のフレーム(過去フレームf1)のブロックと他方のフレーム(現在フレームf0)のブロックとの差分値を求める。相関計算部33は、補間ブロック通過動きベクトル検出部31による検出結果(第1の重み付けデータ)と動きベクトル分布検出部32による検出結果(第2の重み付けデータ)とに基づいて差分値に対して重み付けして重み付けした差分値を相関値とする。そして、相関計算部33は、重み付けした差分値による相関値に基づいて、動きベクトルV1を補正して、動きベクトルV2として出力する。
相関計算部33は、第1の重み付けデータと第2の重み付けデータとで同じ動きベクトルであれば第1の重み付けポイントと第2の重み付けポイントとを加算した上で、それぞれの種類の動きベクトルの方向の差分値を、重み付けポイントが大きい動きベクトルの方向ほど差分値が小さくなるように補正すればよい。
動きベクトル検出部2は、動きベクトルV1を検出するに際し、第1の探索範囲領域内それぞれの基準ブロックと、複数の動きベクトルそれぞれの方向の他方のフレームのブロックとの差分値を求める。動きベクトル検出部2は、複数の動きベクトルそれぞれの方向の差分値において、基準ブロックで求めた差分値に対して基準ブロックの周囲のブロックで求めた差分値を積算することが好ましい。そして、動きベクトル検出部2は、積算した差分値に基づいて、最も小さい差分値を示す方向をそれぞれの基準ブロックにおける動きベクトルとして検出することが好ましい。
このようにすれば、動きベクトルV1を検出した位置と補間画像との位置のずれを緩和した上で、動きベクトル補正部3によって動きベクトルV1を補正して、動きベクトルV2とすることができる。
本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。図1では、動きベクトル生成装置10をフレーム周波数変換装置に備える構成を示したが、本実施形態の動きベクトル生成装置10は、フレーム周波数変換装置に限らず、動きベクトルを用いて映像信号処理する任意の装置に用いることが可能である。
2 動きベクトル検出部
3 動きベクトル補正部
10 動きベクトル生成装置
31 補間ブロック通過動きベクトル検出部
32 動きベクトル分布検出部
33 相関計算部

Claims (4)

  1. 映像信号における現在フレームと前記現在フレームを1フレーム期間遅延させた過去フレームとのうちの一方のフレームを、動きベクトルを検出する探索基準のフレームとし、前記現在フレーム及び前記過去フレームのそれぞれを1または複数画素よりなるブロックに分割して、前記探索基準のフレームにおけるそれぞれのブロックを基準ブロックとし、前記現在フレームと前記過去フレームとのうちの他方のフレームにおける複数のブロックよりなる所定の領域を探索範囲とし、前記基準ブロックと前記探索範囲内のそれぞれのブロックとの相関に基づいて、前記基準ブロックそれぞれで第1の動きベクトルを検出する動きベクトル検出部と、
    前記他方のフレームにおける所定の探索範囲に対向する前記探索基準のフレームにおける前記所定の探索範囲と同じ範囲の領域を第1の探索範囲領域とし、前記第1の探索範囲領域内それぞれの前記基準ブロックを前記探索範囲と同じ範囲の領域の中央に位置するブロックとして、前記基準ブロックが中央に位置する前記探索範囲と同じ範囲の領域それぞれを第2の探索範囲領域としたとき、前記基準ブロックの位置に対応したそれぞれの前記第2の探索範囲領域内に、前記現在フレームと前記過去フレームとの間に内挿する補間フレームの補間ブロックであり、それぞれの前記第2の探索範囲領域の中央に位置する前記基準ブロックと同じ位置の注目ブロックを通過する方向の動きベクトルがあるか否かを検出する補間ブロック通過動きベクトル検出部と、
    それぞれの前記第2の探索範囲領域内に存在する動きベクトルの種類とそれぞれの種類の動きベクトルの個数を検出する動きベクトル分布検出部と、
    前記補間フレームのそれぞれの前記注目ブロックを中心として、前記第2の探索範囲領域内に存在する動きベクトルの種類それぞれの方向で、前記探索基準のフレームのブロックと前記他方のフレームのブロックとの差分値を求め、前記補間ブロック通過動きベクトル検出部による検出結果と前記動きベクトル分布検出部による検出結果とに基づいて前記差分値に対して重み付けして重み付けした差分値を相関値とし、前記相関値に基づいて前記動きベクトル検出部によって検出された前記第1の動きベクトルを補正して、第2の動きベクトルとして出力する相関計算部と、
    を備え
    前記補間ブロック通過動きベクトル検出部は、前記注目ブロックを通過する方向の動きベクトルに対して第1の重み付けポイントを設定した第1の重み付けデータを生成し、
    前記動きベクトル分布検出部は、それぞれの種類の動きベクトルに対して、個数が多いほど大きい第2の重み付けポイントを設定した第2の重み付けデータを生成し、
    前記相関計算部は、前記第1の重み付けデータと前記第2の重み付けデータとで同じ動きベクトルであれば前記第1の重み付けポイントと前記第2の重み付けポイントとを加算した上で、それぞれの種類の動きベクトルの方向の差分値を、重み付けポイントが大きい動きベクトルの方向ほど差分値が小さくなるように補正する
    とを特徴とする動きベクトル生成装置。
  2. 前記動きベクトル検出部は、前記第1の探索範囲領域内それぞれの前記基準ブロックと、複数の動きベクトルそれぞれの方向の前記他方のフレームのブロックとの差分値を求め、前記複数の動きベクトルそれぞれの方向の差分値において、前記基準ブロックで求めた差分値に対して前記基準ブロックの周囲のブロックで求めた差分値を積算して、最も小さい差分値を示す方向をそれぞれの前記基準ブロックにおける動きベクトルとして検出することを特徴とする請求項に記載の動きベクトル生成装置。
  3. 映像信号における現在フレームと前記現在フレームを1フレーム期間遅延させた過去フレームとのうちの一方のフレームを、動きベクトルを検出する探索基準のフレームとし、前記現在フレーム及び前記過去フレームのそれぞれを1または複数画素よりなるブロックに分割して、前記探索基準のフレームにおけるそれぞれのブロックを基準ブロックとし、前記現在フレームと前記過去フレームとのうちの他方のフレームにおける複数のブロックよりなる所定の領域を探索範囲とし、前記基準ブロックと前記探索範囲内のそれぞれのブロックとの相関に基づいて、前記基準ブロックそれぞれで第1の動きベクトルを検出する動きベクトル検出ステップと、
    前記他方のフレームにおける所定の探索範囲に対向する前記探索基準のフレームにおける前記所定の探索範囲と同じ範囲の領域を第1の探索範囲領域とし、前記第1の探索範囲領域内それぞれの前記基準ブロックを前記探索範囲と同じ範囲の領域の中央に位置するブロックとして、前記基準ブロックが中央に位置する前記探索範囲と同じ範囲の領域それぞれを第2の探索範囲領域としたとき、前記基準ブロックの位置に対応したそれぞれの前記第2の探索範囲領域内に、前記現在フレームと前記過去フレームとの間に内挿する補間フレームの補間ブロックであり、それぞれの前記第2の探索範囲領域の中央に位置する前記基準ブロックと同じ位置の注目ブロックを通過する方向の動きベクトルがあるか否かを検出する補間ブロック通過動きベクトル検出ステップと、
    それぞれの前記第2の探索範囲領域内に存在する動きベクトルの種類とそれぞれの種類の動きベクトルの個数を検出する動きベクトル分布検出ステップと、
    前記補間フレームのそれぞれの前記注目ブロックを中心として、前記第2の探索範囲領域内に存在する動きベクトルの種類それぞれの方向で、前記探索基準のフレームのブロックと前記他方のフレームのブロックとの差分値を求め、前記基準ブロックを通過する方向の動きベクトルがあるか否かの検出結果と、それぞれの前記第2の探索範囲領域内に存在する動きベクトルの種類とそれぞれの種類の動きベクトルの個数の検出結果とに基づいて、前記差分値に対して重み付けして重み付けした差分値を相関値とし、前記相関値に基づいて前記第1の動きベクトルを第2の動きベクトルへと補正する動きベクトル補正ステップと、
    を含み、
    前記補間ブロック通過動きベクトル検出ステップは、前記注目ブロックを通過する方向の動きベクトルに対して第1の重み付けポイントを設定した第1の重み付けデータを生成し、
    前記動きベクトル分布検出ステップは、それぞれの種類の動きベクトルに対して、個数が多いほど大きい第2の重み付けポイントを設定した第2の重み付けデータを生成し、
    前記動きベクトル補正ステップは、前記第1の重み付けデータと前記第2の重み付けデータとで同じ動きベクトルであれば前記第1の重み付けポイントと前記第2の重み付けポイントとを加算した上で、それぞれの種類の動きベクトルの方向の差分値を、重み付けポイントが大きい動きベクトルの方向ほど差分値が小さくなるように補正する
    ことを特徴とする動きベクトル生成方法。
  4. 前記動きベクトル検出ステップは、
    前記第1の探索範囲領域内それぞれの前記基準ブロックと、複数の動きベクトルそれぞれの方向の前記他方のフレームのブロックとの差分値を求め、
    前記複数の動きベクトルそれぞれの方向の差分値において、前記基準ブロックで求めた差分値に対して前記基準ブロックの周囲のブロックで求めた差分値を積算し、
    最も小さい差分値を示す方向をそれぞれの前記基準ブロックにおける動きベクトルとして検出する
    ことを特徴とする請求項に記載の動きベクトル生成方法。
JP2012117187A 2012-05-23 2012-05-23 動きベクトル生成装置及び方法 Active JP5867289B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012117187A JP5867289B2 (ja) 2012-05-23 2012-05-23 動きベクトル生成装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012117187A JP5867289B2 (ja) 2012-05-23 2012-05-23 動きベクトル生成装置及び方法

Publications (2)

Publication Number Publication Date
JP2013243630A JP2013243630A (ja) 2013-12-05
JP5867289B2 true JP5867289B2 (ja) 2016-02-24

Family

ID=49844080

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012117187A Active JP5867289B2 (ja) 2012-05-23 2012-05-23 動きベクトル生成装置及び方法

Country Status (1)

Country Link
JP (1) JP5867289B2 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2280811B (en) * 1993-08-03 1998-02-25 Sony Uk Ltd Motion compensated video signal processing
JP3214660B2 (ja) * 1995-07-17 2001-10-02 日本ビクター株式会社 動きベクトル検出装置
JP4342032B2 (ja) * 1999-05-20 2009-10-14 株式会社東芝 補間フィールド生成回路及びフィールド倍速変換回路
JP3840129B2 (ja) * 2002-03-15 2006-11-01 株式会社東芝 動きベクトル検出方法と装置、補間画像作成方法と装置及び画像表示システム
JP2005210321A (ja) * 2004-01-21 2005-08-04 Matsushita Electric Ind Co Ltd 動きベクトル検出方法
JP2009027446A (ja) * 2007-07-19 2009-02-05 Olympus Corp 画像処理方法および画像処理装置
JP5245783B2 (ja) * 2008-12-09 2013-07-24 富士通株式会社 フレーム補間装置、方法、及びプログラム、フレームレート変換装置、映像再生装置、映像表示装置

Also Published As

Publication number Publication date
JP2013243630A (ja) 2013-12-05

Similar Documents

Publication Publication Date Title
JP4198608B2 (ja) 補間画像生成方法および装置
WO2011067870A1 (ja) 画像処理装置および画像処理方法
JP2015019204A (ja) 画像処理装置および画像処理方法
JP4431089B2 (ja) 映像補間装置、フレームレート変換装置および映像表示装置
US8744127B2 (en) Image processing apparatus and method for improving frame rate while maintaining natural movement of object on images
US8817869B2 (en) Image processing device and method, and image display device and method
US8730392B2 (en) Frame rate conversion method and image processing apparatus thereof
JP5192087B2 (ja) 画像処理装置及び画像処理方法
WO2010023982A1 (ja) 動きベクトル検出装置および画像処理装置
JP2012095048A (ja) 画像処理装置、画像処理方法、画像表示装置、及び画像表示方法
JP5867289B2 (ja) 動きベクトル生成装置及び方法
JP2013098961A (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP2008011476A (ja) フレーム補間装置及びフレーム補間方法
JP5975791B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP5333791B2 (ja) 画像処理方法、画像処理装置及び画像処理プログラム
JP5435242B2 (ja) 画像処理方法、画像処理装置及び画像処理プログラム
JP4915018B2 (ja) 映像処理装置、映像処理方法、プログラム、記録媒体、携帯端末、及び、受信装置
JP5526918B2 (ja) 映像信号処理装置及び方法
JP5891913B2 (ja) 映像信号処理装置及び方法
JP5887763B2 (ja) 動き補償フレーム生成装置及び方法
JP2013030838A (ja) 動きベクトル導出装置および方法
JP2006148827A (ja) 走査線補間装置、及び走査線補間方法
US20110298973A1 (en) Image processing device and method, and image display device and method
JP2010016447A (ja) 画像処理装置および画像処理方法
JP2010161712A (ja) フレームレート変換装置及びフレームレート変換方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140930

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150511

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151221

R150 Certificate of patent or registration of utility model

Ref document number: 5867289

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150