JP2008187222A - 動きベクトル検出装置、動きベクトル検出方法、映像表示装置 - Google Patents

動きベクトル検出装置、動きベクトル検出方法、映像表示装置 Download PDF

Info

Publication number
JP2008187222A
JP2008187222A JP2007016311A JP2007016311A JP2008187222A JP 2008187222 A JP2008187222 A JP 2008187222A JP 2007016311 A JP2007016311 A JP 2007016311A JP 2007016311 A JP2007016311 A JP 2007016311A JP 2008187222 A JP2008187222 A JP 2008187222A
Authority
JP
Japan
Prior art keywords
video signal
frame
motion vector
vector detection
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007016311A
Other languages
English (en)
Inventor
健太 ▲高▼野橋
Kenta Takanohashi
Masahiro Ogino
昌宏 荻野
Yoshiaki Mizuhashi
嘉章 水橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2007016311A priority Critical patent/JP2008187222A/ja
Priority to US12/020,771 priority patent/US20090059067A1/en
Publication of JP2008187222A publication Critical patent/JP2008187222A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter

Abstract

【課題】先行画像と現在表示中の画像との間での動きベクトル検出において、不正確な動きベクトルが検出され易い画面の端領域でも正確な動きベクトルが検出できるようにする。
【解決手段】動きベクトル検出部11は、信号入力部1からの映像信号、第1フレ-ムメモリ3、第2フレ-ムメモリ5、第3フレ-ムメモリ7を通じて夫々入力される映像信号を読込む。各々の映像信号を構成する各フレ-ムのうちの、同期して動きベクトル検出部11に入力される合計4つのフレ-ムに基づき、動きベクトルを検出するための処理動作を行う。信号入力部1からの映像信号よりも1フレ-ム分遅延された第1フレ-ムメモリ3からの映像信号と、信号入力部1からの映像信号よりも2フレ-ム分遅延された第2フレ-ムメモリ5からの映像信号との間のベクトルを、動きベクトルとして検出する。
【選択図】 図1

Description

本発明は、ディジタル形式の映像信号から動きベクトルを求める動きベクトル検出装置、動きベクトル検出方法、及び動きベクトル検出装置を備える映像表示装置に関する。
動きベクトルとは、先行する(過去に表示された)画像と、現在表示中の画像との間で一定の探索範囲内で実行される(動きベクトル決定のための)マッチングにおいて、最もマッチングが取れた画素同士を結ぶベクトルのことを指す。換言すれば、動きベクトルとは、動画のデータの表現方法として、基準となるフレーム(動画の或る瞬間に相当する画像)と、基準となるフレームからの動きとをベクトルとして表現する手法であり、次元としては位置(通常は画素数で表現する)であって、移動量を指す。
動きベクトルの検出は、映像表示装置におけるディジタル信号処理において実施される、フレームレート(1秒当りのコマ数)変換や、画像の奇数段目と画像の偶数段目の2回の走査で1回の画面表示を行うインターレス方式から1回の走査で1回の画面表示を行うプログレッシブ方式に変換するインターレス・プログレッシブ変換や、映像圧縮処理等に用いられる。
動きベクトルは、上記探索範囲内において設定された各々の(動きベクトルの)候補ベクトルについて計算した一致度から決定される。この一致度としては、一般に、差分絶対値和(Summed Absolute Differences : SAD)が用いられる。
従来、アクティブ画像の境界に位置するブロックについて、正確に予測できるようにすることを目的とした画像境界における動きベクトル検出の技術の改良に係わる提案がなされている。該提案では、不正確な動きベクトルが生じ得るブロックが判定され、これらのベクトルが、先行する画像に基づいて決定された列、又は行動きベクトルと置き換えられる(例えば特許文献1参照)。
特開2005−287048号公報
特許文献1に開示の技術は、誤り検出された動きベクトルや、ゼロ方向に強制的に補正された動きベクトル等の不正確な動きベクトルが検出されないようにするためのものである。古典的な動きベクトルの検出方法では、2フレーム間のマッチングしか用いられないため、画像(フレーム)の領域外を指す動きベクトルは検出することができない。これに対し、特許文献1に開示の技術によれば、或る画像の全てのブロックについて確実な動き検出が可能になり、アクティブ画像の境界における補間アルゴリズムの劣化を効果的に防ぐことができるとされている。
ところで、特許文献1に開示の技術では、画像から動きベクトルを検出する際、上述したような不正確な動きベクトルが検出され易い画面の端領域に対しては、先行する(過去の)画像(フレーム)における動きベクトルに係わる情報で、不正確な動きベクトルを置き換える手法が採用されている。
しかし、上記のような手法を採用した場合、過去のフレームにおける動きベクトルに係わる情報に基づいて決定した動きベクトルが、現在注目されているフレームにおける動きベクトルとして有効なものであるとは必ずしも言えない。よって、特許文献1に開示の技術では、不正確な動きベクトルが検出され易い画面の端領域においては、正確な動きベクトルを検出するのが困難であった。
従って本発明の目的は、過去に表示された画像と現在表示中の画像との間での動きベクトルを検出する場合に、不正確な動きベクトルが検出され易い画面の端領域であっても、正確な動きベクトルを検出できるようにすることにある。
本発明の第1の観点に従うベクトル検出装置は、ディジタル形式の映像信号から動きベクトルを求めるもので、外部から入力した映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第1の映像信号遅延出力部と、上記第1の映像信号遅延出力部からの上記映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第2の映像信号遅延出力部と、上記第2の映像信号遅延出力部からの上記映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第3の映像信号遅延出力部と、上記第1乃至第3の映像信号遅延出力部を介さずに、外部から直接入力した上記映像信号のフレームと、そのフレームと同期して夫々入力される、上記第1乃至第3の映像信号遅延出力部からの各映像信号のフレームとを用いて、所定の処理を行うことにより動きベクトルを検出する動きベクトル検出部と、を備える。
本発明の第1の観点に係る好適な実施形態では、上記動きベクトル検出部が行う所定の処理が、上記映像信号におけるフレーム間相関演算であり、上記フレーム間相関演算が、上記外部から直接入力した上記映像信号のフレーム、及びそのフレームと同期して夫々入力される、上記第1乃至第3の映像信号遅延出力部からの各映像信号のフレームについて行われる。
上記とは別の実施形態では、上記フレーム間相関演算が、上記外部から直接入力した上記映像信号のフレームと上記第1の映像信号遅延出力部からの映像信号のフレームとの間、又は上記第1の映像信号遅延出力部からの映像信号のフレームと上記第2の映像信号遅延出力部からの映像信号のフレームとの間、又は上記第2の映像信号遅延出力部からの映像信号のフレームと上記第3の映像信号遅延出力部からの映像信号のフレームとの間、について行われる。
また、上記とは別の実施形態では、上記動きベクトル検出部から出力される1フレーム分の動きベクトルについて、それらの出現率を求める処理を行うと共に、最も出現率の高い動きベクトルから順に、所定の数の動きベクトルまでを過去ベクトルとする処理を行う過去ベクトル検出部と、上記過去ベクトル検出部から出力される過去ベクトルを保持することにより、それら過去ベクトルを、それらの入力時よりも1フレーム分遅延させて上記動きベクトル検出部に出力する動きベクトル遅延出力部と、を更に備える。
また、上記とは別の実施形態では、上記動きベクトル検出部が、上記第1乃至第3の映像信号遅延出力部から夫々出力される映像信号のフレーム、及び上記外部から直接入力される上記映像信号のフレームの4隅を含む領域については、上記過去ベクトル検出部からの過去ベクトルをも動きベクトルの候補として、上記フレーム間相関演算を行うようにしている。
また、上記とは別の実施形態では、上記動きベクトル検出部が動きベクトルを検出するための演算処理として、上記第1の映像信号遅延出力部からの映像信号のフレームと上記第2の映像信号遅延出力部からの映像信号のフレームとの間に生成される動きベクトル検出用のフレームを設定する第1のプロセスと、上記動きベクトル検出用のフレームにおける特定の画素を基準として、上記外部から直接入力される映像信号のフレームと上記第1、第2、第3の映像信号遅延出力部から夫々出力される映像信号のフレームとを通る複数本の直線を設定する第2のプロセスと、上記複数本の直線上にある上記外部から直接入力される映像信号のフレーム上の画素と上記第1の映像信号遅延出力部からの映像信号のフレーム上の画素との差分、上記複数本の直線上にある上記第1の映像信号遅延出力部からの映像信号のフレーム上の画素と上記第2の映像信号遅延出力部からの映像信号のフレーム上の画素との差分、及び上記複数本の直線上にある上記第2の映像信号遅延出力部からの映像信号のフレーム上の画素と上記第3の映像信号遅延出力部からの映像信号のフレーム上の画素との差分、を求める第3のプロセスと、上記第3のプロセスにおいて求めた各差分の合計値を求めて、その合計値を上記直線のポイントにする第4のプロセスと、上記複数本の直線のうちの、上記ポイントの最も小さな直線を、動きベクトルを決定するための基準として用いる第5のプロセスと、を少なくとも実行する。
また、上記とは別の実施形態では、上記第3のプロセスにおいて上記複数本の直線中に、上記差分を求めることができないものがある場合には、上記求められなかった差分については無視すると共に、求められた各差分については補正するようにしている。
また、上記とは別の実施形態では、上記動きベクトル検出部が、上記第3のプロセスにおいて上記複数本の直線中に、上記差分を求めることができないものがある場合には、上記直線のうちの上記過去ベクトル検出部からの過去ベクトルが指す直線に適宜なポイントを付与すると共に、その直線をも動きベクトルの候補として、上記フレーム間相関演算を行うようにしている。
また、上記とは別の実施形態では、上記動きベクトル検出部の入力側と外部からの映像信号を入力する映像信号入力部との間に、上記映像信号に含まれる高周波成分を除去するための第1のローパスフィルタと、上記第1のローパスフィルタから出力される映像信号の情報の量を削減するための第1の情報削減部と、上記第1の情報削減部から出力される映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第4の映像信号遅延出力部と、を更に備える。
また、上記とは別の実施形態では、上記第1の映像信号遅延出力部の入力側と上記映像信号入力部との間に、上記映像信号入力部からの映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第5の映像信号遅延出力部、を更に備える。
また、上記とは別の実施形態では、上記第3の映像信号遅延出力部の出力側と上記第2の映像信号遅延出力部の入力側との間に、上記映像信号に含まれる高周波成分を除去するための第2のローパスフィルタと、上記第2のローパスフィルタから出力される映像信号の情報の量を削減するための第2の情報削減部と、を更に備える。
また、上記とは別の実施形態では、上記第3、及び第4の映像信号遅延出力部の容量が、上記第1、第2、第5の映像信号遅延出力部の容量よりも小さく設定されている。
更に、上記とは別の実施形態では、上記第1のローパスフィルタを通じて上記映像信号入力部から入力される映像信号の情報の量の上記第1の情報削減部による削減、及び上記第2のローパスフィルタ、上記第2、第1、第5の映像信号遅延出力部を通じて上記映像信号入力部から入力される映像信号の情報の量の上記第2の情報削減部による削減が、それらの映像信号のフレームにおける所定の幅を有する外縁部の領域を除いた矩形状の領域について行われる。
本発明の第2の観点に従うベクトル検出方法は、ディジタル形式の映像信号から動きベクトルを求めるもので、外部から入力した映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第1のステップと、上記第1のステップを経て出力される上記映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第2のステップと、上記第2のステップを経て出力される上記映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第3のステップと、上記第1乃至第3のステップの何れをも介さずに、外部から直接入力した上記映像信号のフレームと、そのフレームと同期して夫々入力される、上記第1乃至第3のステップを夫々経て出力される各映像信号のフレームとを用いて、所定の処理を行うことにより動きベクトルを検出する第4のステップと、を備える。
本発明の第3の観点に従う映像表示装置は、受信した映像信号から所望のディジタル形式の映像信号を抽出する映像信号抽出装置と、上記映像信号抽出装置により抽出されたディジタル形式の映像信号から動きベクトルを求める動きベクトル検出装置と、上記動きベクトル検出装置から出力された動きベクトルに基づいて、上記映像信号抽出装置により抽出されたディジタル形式の映像信号にフレームレート変換、又はインターレス・プログレッシブ変換を施すフレームレート・インターレス・プログレッシブ変換装置と、を備え、上記動きベクトル検出装置が、上記映像信号抽出装置から入力した映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第1の映像信号遅延出力部と、上記第1の映像信号遅延出力部からの上記映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第2の映像信号遅延出力部と、上記第2の映像信号遅延出力部からの上記映像信号を保持することにより、その映像信号を、その入力時よりも1フレーム分遅延させて出力する第3の映像信号遅延出力部と、上記第1乃至第3の映像信号遅延出力部を介さずに、上記映像信号抽出装置から直接入力した上記映像信号のフレームと、そのフレームと同期して夫々入力される、上記第1乃至第3の映像信号遅延出力部からの各映像信号のフレームとを用いて、所定の処理を行うことにより動きベクトルを検出する動きベクトル検出部と、を有する。
本発明によれば、時間的に連続した2枚の画像の間での動きベクトルを検出する場合に、不正確な動きベクトルが検出され易い画面の端領域であっても、正確な動きベクトルを検出できるようにすることができる。
以下、本発明の実施の形態を、図面により詳細に説明する。
図1は、本発明の一実施形態に係る動きベクトル検出装置の全体構成を示すブロック図である。上記動きベクトル検出装置は、例えばディジタルTV受信機等の映像表示装置に組み込まれている。
上記動きベクトル検出装置は、専らディジタル形式の映像信号を入力信号として所定の信号処理を行うように構成されている。よって、アナログ形式の映像信号が、上記映像表示装置の入力信号として供給される場合には、該映像信号が上記映像表示装置に備えられるアナログ/ディジタル変換部においてディジタル形式に変換された後に上記動きベクトル検出装置に入力される。上記動きベクトル検出装置は、図1に示すように、信号入力部1と、複数のフレームメモリ、即ち、第1フレームメモリ3、第2フレームメモリ5、第3フレームメモリ7、及び第4フレームメモリ9と、動きベクトル検出部11と、過去ベクトル検出部13と、を備える。
信号入力部1を通じて上記動きベクトル検出装置に入力される映像信号は、第1フレームメモリ3、及び動きベクトル検出部11に夫々出力される。
第1フレームメモリ3、第2フレームメモリ5、第3フレームメモリ7、及び第4フレームメモリ9は、何れも入力した映像信号の1フレーム分を保持することにより、該保持する映像信号を、その入力時よりも夫々1フレーム分遅延させて出力するよう構成されている。
第1フレームメモリ3は、信号入力部1を通じて入力した映像信号を、信号入力部1から動きベクトル検出部11に直接出力される映像信号に比較して1フレーム分遅延させて、第2フレームメモリ5、及び動きベクトル検出部11に夫々出力する。
第2フレームメモリ5は、第1フレームメモリ3において信号入力部1からの映像信号よりも1フレーム分遅延された映像信号を更に1フレーム分遅延させて、第3フレームメモリ7、及び動きベクトル検出部11に夫々出力する。即ち、第2フレームメモリ5から出力される映像信号は、信号入力部1から動きベクトル検出部11に直接出力される映像信号に比較して2フレーム分遅延されることになる。
第3フレームメモリ7は、第1フレームメモリ3、及び第2フレームメモリ5において信号入力部1からの映像信号よりも夫々1フレーム分、合計で2フレーム分遅延された映像信号を更に1フレーム分遅延させて、動きベクトル検出部11に出力する。即ち、第3フレームメモリ7から出力される映像信号は、信号入力部1から動きベクトル検出部11に直接出力される映像信号に比較して3フレーム分遅延されることになる。
動きベクトル検出部11は、信号入力部1から直接入力される映像信号、第1フレームメモリ3、第2フレームメモリ5、及び第3フレームメモリ7を通じて夫々入力される映像信号を読み込む。そして、これら各々の映像信号を構成する各フレームのうちの、同期して動きベクトル検出部11に入力される合計で4つのフレームに基づいて、動きベクトルを検出するための処理動作を実行する。即ち、動きベクトル検出部11は、信号入力部1からの映像信号よりも1フレーム分遅延された第1フレームメモリ3からの映像信号と、信号入力部1からの映像信号よりも2フレーム分遅延された第2フレームメモリ5からの映像信号との間のベクトルを、動きベクトルとして検出する。
動きベクトル検出部11には、上記動きベクトルの検出に必要な、時間軸上における現フレームと現フレームの1つ前のフレームとの中間点に位置する補間フレームを生成するための補間フレーム生成部(図示しない)が接続される。補間フレーム生成部(図示しない)による補間フレームの生成は、例えば補間イネーブル生成部(図示しない)等において生成される補間フレーム生成用イネーブル信号が、補間フレーム生成部(図示しない)に印加されることに起因して実行される。
第2フレームメモリ5からのフレーム、即ち、信号入力部1からの映像信号よりも2フレーム分遅延されたフレームは、該フレームと第1フレームメモリ3からのフレーム、即ち、信号入力部1からの映像信号よりも1フレーム分遅延されたフレームとに基づき、動きベクトル検出部11(に接続される補間フレーム生成部(図示しない))において生成される上記補間フレームから見て、時間的に前に位置する。そのため、以下では、第2フレームメモリ5からのフレームを、便宜上前フレームと称する。また、第3フレームメモリ7からのフレーム、即ち、信号入力部1からの映像信号よりも3フレーム分遅延されたフレームは、上記前フレームから見て、時間的に前に位置し、上記補間フレームから見て2フレーム前に位置する。そのため、以下では、第3フレームメモリ7からのフレームを、便宜上前々フレームと称する。
一方、第1フレームメモリ3からのフレーム、即ち、信号入力部1からの映像信号よりも1フレーム分遅延されたフレームは、上記補間フレームから見て時間的に後に位置する。そのため、以下では、第1フレームメモリ3からのフレームを、便宜上後フレームと称する。また、信号入力部1から直接動きベクトル検出部11に入力される遅延されないフレームは、上記後フレームから見て、時間的に後に位置し、上記補間フレームから見て2フレーム後に位置する。そのため、以下では、信号入力部1からのフレームを、便宜上後々フレームと称する。
上述した後々フレーム、後フレーム、前フレーム、及び前々フレームの4つのフレームは、時間の進行方向に沿って後々フレーム、後フレーム、前フレーム、及び前々フレームの順序で時間軸上に存在している。
動きベクトル検出部11による上記動きベクトルの検出は、上記後フレーム、及び上記前フレームを構成する全ての画素について行われる。例えば、1フレーム(上記後フレーム、及び前フレーム)を構成する画素数が640×480であれば、該積の値の個数分、動きベクトル検出のための処理動作が行われる。
動きベクトル検出部11、過去ベクトル検出部13、及び第4フレームメモリ9は、動きベクトル検出部11によって検出された1フレーム分の動きベクトルを、動きベクトル検出部11にフィードバックするためのフィードバックループを構成する。
過去ベクトル検出部13は、動きベクトル検出部11からの1フレーム分の動きベクトルを入力する。そして、該1フレーム分の動きベクトルに基づき、該1フレーム分の動きベクトルの全体的な傾向を表現する動きベクトルを検出する処理を行う。過去ベクトル検出部13は、該検出した1個又は複数個の動きベクトルを、第4フレームメモリ9に出力する。
第4フレームメモリ9は、過去ベクトル検出部13から出力される上記1個又は複数個の動きベクトルを、動きベクトル検出部11から出力される上記1個又は複数個の動きベクトルよりも1フレーム分遅延させて、動きベクトル検出部11に出力する。よって、第4フレームメモリ9から動きベクトル検出部11に出力される上記1個又は複数個の動きベクトルは、動きベクトル検出部11から直接出力される動きベクトルよりも1フレーム分過去の動きベクトルであるから、過去ベクトル検出部13から第4フレームメモリ9に出力される1個又は複数個の動きベクトルを、過去ベクトルと称する。
動きベクトル検出部11から過去ベクトル検出部13、及び第4フレームメモリ9を通じて動きベクトル検出部11へとフィードバックされる過去ベクトルであって、1フレーム中から検出される過去ベクトルの数は、適宜設定されるが、第4フレームメモリ9には、上記過去ベクトルを蓄積するに充分な大きさの記憶容量を持つものを用いる必要がある。
動きベクトル検出部11において検出される、上記動きベクトルは、上述した過去ベクトル検出部13、及び上記補間フレーム生成部(図示しない)に夫々出力される。
図2は、図1に記載の動きベクトル検出部11において行われる動きベクトル検出に際してのマッチング手法の一例を示す説明図である。
図2において、フレーム21は、動きベクトルを検出するためのフレームであり、上述した補間フレーム生成部(図示しない)により生成される上記補間フレームに相当する。フレーム23は、第1フレームメモリ3から動きベクトル検出部11に出力されるフレームであり、補間フレーム21から見て1フレーム分時間的に後に位置するので、上記後フレームに相当する。フレーム25は、第2フレームメモリ5から動きベクトル検出部11に出力されるフレームであり、補間フレーム21から見て、1フレーム分時間的に前に位置するので、上記前フレームに相当する。
フレーム27は、第3フレームメモリ7から動きベクトル検出部11に出力されるフレームであり、補間フレーム21から見て、2フレーム分時間的に前に位置するので、上記前々フレームに相当する。フレーム29は、信号入力部1から動きベクトル検出部11に直接出力されるフレームであり、補間フレーム21から見て、2フレーム分時間的に後に位置するので、上記後々フレームに相当する。
動きベクトルを検出するためのフレームである補間フレーム21において、動きベクトル検出位置31は、動きベクトル検出部11による補間フレーム21内の走査によって決定される。動きベクトル検出部11は、上記動きベクトル検出位置31に対し、補間フレーム21を除く各フレーム(後フレーム23、前フレーム25、前々フレーム27、及び後々フレーム29)について、以下に説明する手法で相関検索用ウィンドウを設定する。
即ち、動きベクトル検出部11は、前フレーム25に対しては、該前フレーム25内での上記動きベクトル検出位置31に対応する位置を中心に、横2M+1画素、縦2N+1画素(M、Nは自然数)の範囲を持つ相関検索用ウィンドウ33を設定する。同様に、後フレーム23に対しては、該後フレーム23内での上記動きベクトル検出位置31に対応する位置を中心に、横2M+1画素、縦2N+1画素の範囲を持つ相関検索用ウィンドウ35を設定する。ここでは、M=2、N=1に設定されているものとする。
また、動きベクトル検出部11は、前々フレーム27に対しては、該前々フレーム27内での上記動きベクトル検出位置31に対応する位置を中心に、横6M+1画素、縦6N+1画素の範囲を持つ相関検索用ウィンドウ37を設定する。同様に、後々フレーム29に対しては、該後々フレーム29内での上記動きベクトル検出位置31を中心に、横6M+1画素、縦6N+1画素の範囲を持つ相関検索用ウィンドウ39を設定する。ここでも、M=2、N=1に設定されているものとする。
次に、補間フレーム21における上記動きベクトル検出位置31の位置を、平面座標(0、0)で示すと共に、該動きベクトル検出位置31を通り、且つ、上述した各相関検索用ウィンドウ33、35、37、39をも通る複数本の直線を設定する。本実施形態では、該複数本の直線として、下記の(a)乃至(o)で示す15本の直線が設定される。
(a) 27(-6,3)-25(-2,1)-23(2,-1)-29(6,-3)
(b) 27(-3,3)-25(-1,1)-23(1,-1)-29(3,-3)
(c) 27(0,3)-25(0,1)-23(0,-1)-29(0,-3)
(d) 27(3,3)-25(-1,1)-23(-1,-1)-29(-3,-3)
(e) 27(6,3)-25(-2,1)-23(2,-1)-29(-6,-3)
(f) 27(-6,0)-25(-2,0)-23(2,0)-29(6,0)
(g) 27(-3,0)-25(-1,0)-23(1,0)-29(3,0)
(h) 27(0,0)-25(0,0)-23(0,0)-29(0,0)
(i) 27(3,0)-25(-1,0)-23(1,0)-29(-3,0)
(j) 27(6,0)-25(-2,0)-23(2,0)-29(-6,0)
(k) 27(-6,-3)-25(-2,-1)-23(2,1)-29(6,3)
(l) 27(-3,-3)-25(-1,-1)-23(1,1)-29(3,3)
(m) 27(0,-3)-25(0,-1)-23(0,1)-29(0,3)
(n) 27(3,-3)-25(-1,-1)-23(1,1)-29(-3,3)
(o) 27(6,-3)-25(-2,-1)-23(2,1)-29(-6,3)
上記15本の直線のうちの、直線(a)について説明すれば、直線(a)は、前々フレーム27では、該前々フレーム27における平面座標(-6,3)で示す位置を、前フレーム25では、該前フレーム25における平面座標(-2,1)で示す位置を、後フレーム23では、該後フレーム23における平面座標(2,-1)で示す位置を、後々フレーム29では、該後々フレーム29における平面座標(6,-3)で示す位置を、夫々通る。残りの直線(b)乃至直線(o)についても、上記直線(a)におけると同様に、前々フレーム27における上記平面座標で示される位置、前フレーム25における上記平面座標で示される位置、後フレーム23における上記平面座標で示される位置、及び後々フレーム29における上記平面座標で示される位置を、夫々通る。なお、上記15本の直線は、何れも上記動きベクトル検出位置31を通るが、21(0,0)については記載を省略している。上記15本の直線は、前々フレーム27の上記平面座標で示される位置の画素、前フレーム25の上記平面座標で示される位置の画素、後フレーム23の上記平面座標で示される位置の画素、及び後々フレーム29の上記平面座標で示される位置の画素を通る。
動きベクトル検出部11は、上述した複数本(15本)の直線の各々について、上記動きベクトル検出位置31との相関に関するパラメータを所定の演算処理によって求める。即ち、動きベクトル検出部11は、前フレーム25の相関検索用ウィンドウ33上の平面座標(−X、−Y)で示される位置の画素41と、後フレーム23の相関検索用ウィンドウ35上の平面座標(X、Y)で示される位置の画素43との間の差分絶対値を求める。動きベクトル検出部11は、また、上述した前フレーム25の画素41と、前々フレーム27の相関検索用ウィンドウ37上の平面座標(−3X、−3Y)で示される位置の画素45との間の差分絶対値を求める。動きベクトル検出部11は、更に、上述した後フレーム23の画素43と、後々フレーム29の相関検索用ウィンドウ39上の平面座標(3X、3Y)で示される位置の画素47との間の差分絶対値を求める。
次に、動きベクトル検出部11は、後フレーム23の相関検索用ウィンドウ35内において、X方向(平面座標のX軸方向)に−MからMまで、Y方向(平面座標のY軸方向)に−NからNまで、夫々スキャニングする。上記スキャニングを行うことにより、上述した各フレームにおける相関検索用ウィンドウ上の平面座標で示される画素間での差分絶対値を求める演算処理を、上記15本の直線の夫々について行う。そして、上記各差分絶対値の合計を上記各々の直線毎に算出し、各々の直線のポイントにする。
上記各平面座標で示される位置の何れかが、上述した各フレーム(23、25、27、29)の範囲から外れたことで、上記差分絶対値を演算することができない場合には、動きベクトル検出部11は、以下に説明する規則を用いて上記各直線に付与されるポイントを補正する。(1)演算することができなかった差分絶対値が1つである場合には、残りの差分絶対値を夫々1.5倍にする処理を行う。(2)演算することができなかった差分絶対値が2つである場合には、残りの差分絶対値を3倍にする処理を行う。そして、それらの差分絶対値の合計値を、対応する直線のポイントにする。
図3は、図2に記載のマッチング手法において、各フレーム上の平面座標で示される画素間での差分絶対値を求める演算処理ができない場合の例を示す説明図である。
図3で示した例では、前々フレーム27の相関検索用ウィンドウ51内の画素55が前々フレーム27から外れており、前フレーム25の相関検索用ウィンドウ53内の画素57も、前フレーム25から外れている。よって、後フレーム23から外れていない相関検索用ウィンドウ59の画素61、及び後々フレーム29から外れていない相関検索用ウィンドウ63の画素65については、動きベクトル検出部11は、両者の間の差分絶対値を3倍にする処理を行うと共に、3倍にした差分絶対値を、画素55、57、61、65を通る直線のポイントにする。
上述した各差分絶対値を補正するための倍率は、マッチング時の信頼性を考慮して、配分を変更しても差し支えない。また、上記各直線別に付与されるポイントは、その値が小さければ小さいほど、相関が強い方向、即ち、動きベクトルとして判断される。上述したように、本実施形態では、上記相関検出用ウィンドウの大きさを決めるMの値を2に、Nの値を1に夫々設定したが、これらの値は任意の値であり、補間の効果や、動きベクトル検出部11等における演算量や、動きベクトル検出部11等の回路規模等に応じて適宜の値に設定することが可能である。例えば、M=7、N=3に設定すれば、上述した直線の本数は105本になる。
次に、図2で示したマッチング手法とは別のマッチング手法について説明する。
以下に説明するマッチング手法も、上述したマッチング手法と同様に、動きベクトル検出部11が、まず、各々のフレーム(上述した前々フレーム、前フレーム、後フレーム、及び後々フレームのようなフレーム)内に設定される相関検索用ウィンドウ同士の間で相関検索用ウィンドウ内を通るように引いた複数本の直線につき、個別に上述した差分絶対値を計算する。そして、算出することができなかった差分絶対値の数に応じて、算出することができた差分絶対値を補正する。
次に、動きベクトル検出部11は、過去ベクトル検出部13、及び第4フレームメモリ9を通じて与えられる過去ベクトルが指す上記複数本の直線のうちの何れかに対し、適当なポイントを付与する。該適当なポイントは、上述した複数本の直線中に、突出して低いポイントが付与されているものが存在しない場合に選択される程度の値、換言すれば、上記直線中に明らかにマッチングがとれているものが存在しない場合に選択されるような値に設定される。なお。上記複数本の直線の何れかに対し、既に上記差分絶対値計算によるポイントが付与されている場合には,上記過去ベクトルによるポイント付与の処理は省略しても差し支えない。
このマッチング手法においても、上述したマッチング手法におけると同様に,上記ポイントの値が小さければ小さいほど、動きベクトル検出部11は、該ポイントを付与されている直線を、相関が強い方向、即ち、動きベクトルであると判別する。また、このマッチング手法においても、上述したマッチング手法におけると同様に、上記各相関検索用ウィンドウの大きさを決定するためのMの値、及びNの値として、M=2、N=1が任意の値として設定される。
図4は、動きベクトルの検出に必要な各フレームにおける、図2に記載のマッチング手法が適用される領域、及び該マッチング手法とは別のマッチング手法が適用される領域に係わる説明図である。
図4において、フレーム71は、図2で示した動きベクトルの検出を行うためのフレームである補間フレーム21に対応する。フレーム71は、領域73、75、77、79、81、83、85、87、及び89と、領域91、93、95、及び97とに分割される。以下では,領域73を第1領域、領域75乃至89を第2領域、領域91乃至97を第3領域と称する。これら全ての領域(73乃至97)の大きさは、相関検索用ウィンドウの大きさを決定するためのMの値、及びNの値により決定される。即ち、これら全ての領域(73乃至97)の大きさは、図2で示した相関検索用ウィンドウ41、43の大きさや、図3で示した相関検索用ウィンドウ57、59の大きさに依存する。換言すれば、上述した各領域(73乃至97)は、各相関検索用ウィンドウに対応している。
上述した領域(73乃至97)は、下記の態様で示される。
(A) 73-(M, N) - (W-M, H-N)
(B) 75- (M, 0) - (3M, N)
(C) 77- (W-3M, 0) - (W-M, N)
(D) 79- (W-M, N) - (W, 3N)
(E) 81- (W-M, H-3N) - (W, H-N)
(F) 83- (W-3M, H-N) - (W-M, H)
(G) 85- (M, H-N) - (3M, H)
(H) 87- (0, H-3N) - (M, H-N)
(I) 89-(0, N) - (M, 3N)
(J) 91- (0, 0) - (M, N)
(K) 93- (W-M, 0) - (W, N)
(L) 95- (W-M, H-N) - (W, H)
(M) 97- (0, H-N) - (M, H)
上記13の領域(相関検索用ウィンドウ)のうちの、領域(相関検索用ウィンドウ)(A)について説明すれば、符号73は、相関検索用ウィンドウ(A)に付された符号であり、(M, N)は、該相関検索用ウィンドウ(A) における左上の平面座標(X,Y)を、(W-M, H-N)は、該相関検索用ウィンドウ(A) における右下の平面座標を、夫々示す。そして、該右下の平面座標において、Wは該相関検索用ウィンドウ(A) における横方向の画素数を、Hは該相関検索用ウィンドウ(A) における縦方向の画素数を、夫々示す。残りの領域(相関検索用ウィンドウ)(B)乃至(M)についても、上記相関検索用ウィンドウ(A)におけると同様に、各相関検索用ウィンドウに付された符号、各相関検索用ウィンドウにおける左上の平面座標(X、Y)、及び各相関検索用ウィンドウ
における右下の平面座標が、夫々示される。
上記第1領域(73)では、図2で示したマッチング手法により動きベクトルを検出し、上記第2、第3領域(75乃至89、91乃至97)では上述した別のマッチング手法により動きベクトルを検出するのが望ましい。或いは、上記第2領域(75乃至89)の全域では、マッチングを行わず、上述した複数本の直線のうちの過去ベクトルが指す直線を、検出された動きベクトルと見做すことも可能である。或いは、上記第3領域(91乃至97)の全域では、マッチングを行わず、ゼロ方向ベクトルを検出された動きベクトルと見做すことも可能である。
上記第2領域、及び上記第3領域において用いられるマッチング手法は、上述した態様にのみ限定されない。映像信号における所望の画質や、実際に用いられる装置の回路規模等に応じて適宜決定すれば良い。
次に、既述の過去ベクトル検出部13における処理動作について説明する。
本実施形態では、過去ベクトル検出部13は、まず、動きベクトル検出部11から出力される1フレ-ム分の動きベクトルにつき、該動きベクトルのヒストグラム、即ち、各々の動きベクトルの出現率を求める処理を行う。このヒストグラムを求める処理に際しては、上記第2領域、及び上記第3領域において検出された動きベクトルについては考慮しないのが望ましい。次に、過去ベクトル検出部13は、上記求めた動きベクトルのうちから、最も出現率の高い動きベクトルから順に、適宜定める数の動きベクトルまでを過去ベクトルとして決定する処理を行う。
なお、過去ベクトルを求める手法については、上記手法にのみ限定されるものではなく、求めようとする過去ベクトルの数も任意に設定することが可能である。過去ベクトルの決定手法は、映像信号における所望の画質や、実際に用いられる装置における演算量や、該装置の回路規模等に応じて適宜決定すれば良い。例えば、動きベクトル検出部11から出力される1フレ-ム分の動きベクトルの平均値をとって過去ベクトルとする手法も想定され得る。この場合には、過去ベクトル検出部13によって決定される過去ベクトルは1つとなる。
図5は、本発明の一実施形態に係る動きベクトル検出装置を通じて表示出力される映像信号の1フレ-ム毎の遷移を示す説明図である。
図5において、図5(b)で示す現フレ-ム中の各画素と、図5(a)で示す現フレ-ムよりも1フレ-ム前のフレ-ム中の、上記各画素と対応する各画素との間を夫々通る複数個の動きベクトル101、103、105、107、109、111は、何れも動きベクトル検出装置により検出された正確な動きベクトルである。図5(a)、及び図5(b)を参照すれば、映像コンテンツである航空機(ジェット旅客機)の画像は、図5の右方向に移動しており、そのため、上記各動きベクトル(101〜111)の向きも、全て右方を指している。上記各動きベクトルのうち、動きベクトル109、111については、現フレ-ムでは領域(フレ-ム)内を指しているが、上記1フレ-ム前のフレ-ムでは、領域(フレ-ム)外を指している。
映像コンテンツである航空機(ジェット旅客機)の画像は、現フレ-ムよりも1フレ-ム前のフレ-ムでは、水平尾翼、及び垂直尾翼の部分が欠落した画像であるが、現フレ-ムでは、水平尾翼、及び垂直尾翼を含んだ画像になる。なお、既に説明した従来の古典的な動きベクトル検出方法では、動きベクトル検出のためにフレ-ム同士の間のマッチングを、2つのフレ-ムの間だけで行っているので、上記のようなフレ-ム外を指す動きベクトル(109、111)については検出することができなかった。
図6は、従来の古典的な動きベクトル検出方法を用いた場合に表示出力される映像信号の1フレ-ム毎の遷移を示す説明図である。
既に説明したように、従来の古典的な動きベクトル検出方法では、フレ-ムの端領域では、誤り検出された動きベクトルや、ゼロ方向(例えばフレ-ムの縁部と同一方向)に強制的に補正された動きベクトルが検出される。
図6において、図6(b)で示す現フレ-ム中の4つの画素から図6(a)で示す現フレ-ムよりも1フレ-ム前のフレ-ム中に向けて延びるベクトル(動きベクトル)のうち、4つの動きベクトル(121、123、125、127)については、何れも正確な動きベクトルである。そのため、1フレ-ム前のフレ-ムにおいて表示されている映像コンテンツ(水平尾翼、及び垂直尾翼の部分が欠落した航空機の画像)については、現フレ-ムにおいても表示される。
しかし、本来であれば、1フレ-ム前のフレ-ムの外から上記4つの動きベクトル(121、123、125、127)と平行な方向を指すべき筈の2つの動きベクトル(129、131)については、1フレ-ム前のフレ-ムにおいては、夫々動きベクトル125、127が指す画素と同一画素を指している不正確なベクトルである。換言すれば、上記動きベクトル(129、131)は、ゼロ方向に強制的に補正された動きベクトルである。
図7は、本発明の他の実施形態に係る動きベクトル検出装置の全体構成を示すブロック図である。
本実施形態に係る動きベクトル検出装置では、信号入力部1と動きベクトル検出部11の入力側とを直接接続していた信号線路に、第1ロ-パスフィルタ(以下、「第1LPF」と表記する)141、第1映像情報削減部143、及び第5フレ-ムメモリ145が接続されている。また、信号入力部1と第1フレ-ムメモリ3の入力側との間には、第6フレ-ムメモリ147が接続されている。更に、第2フレ-ムメモリ5の出力側と図1で示した第3フレ-ムメモリ7に代えて設けられている第7フレ-ムメモリ153の入力側との間には、第2ロ-パスフィルタ(以下、「第2LPF」と表記する)149、及び第2映像情報削減部151が接続されている。これらの点で、図7に記載の動きベクトル検出装置は、図1に記載の動きベクトル検出装置と構成が相違する。
第1LPF141と第2LPF149、第1映像情報削減部143と第2映像情報削減部151、第5フレ-ムメモリ145と第7フレ-ムメモリ153とは、何れも構成、及び機能が同一である。第5フレ-ムメモリ145は、第1映像情報削減部143からの情報量の削減されたフレ-ムを、第7フレ-ムメモリ153は、第2映像情報削減部151からの情報量の削減されたフレ-ムを、夫々保持する。そのため、第5フレ-ムメモリ145、及び第7フレ-ムメモリ153には、第1、第2フレ-ムメモリ(3、5)よりも記憶容量の小さなものが用いられる。なお、第6フレ-ムメモリ147には、第1、第2フレ-ムメモリ(3、5)と同一の大きさの記憶容量を持つものが用いられる。第5、第6、第7フレ-ムメモリ(145、147、153)は、第1、第2フレ-ムメモリ(3、5)におけると同様に、入力した映像信号の1フレ-ム分を保持することにより、該保持する映像信号を、その入力時よりも夫々1フレ-ム分遅延させて出力するよう構成されている。
その他の構成については、図1に記載したものと同一であるので、図7において、図1に記載の物と同一物には同一符号を付してそれらの詳細な説明を省略する。
図7において、信号入力部1を通じて上記動きベクトル検出装置に入力される映像信号は、第1LPF141、及び第6フレ-ムメモリ147に夫々出力される。第1LPF141は、信号入力部1からの映像信号を入力すると共に、該映像信号をフィルタリングすることにより該映像信号に含まれる高周波成分を除去した後、第1映像情報削減部143に出力する。第1映像情報削減部143は、第1LPF141から出力される高周波成分が除去された後の映像信号を入力すると共に、該映像信号に所定の処理を施すことにより、該映像信号の情報の量を削減した後、第5フレ-ムメモリ145に出力する。第5フレ-ムメモリ145は、第1映像情報削減部143を通じて入力した上記映像信号を、信号入力部1から動きベクトル検出部11に直接出力された場合の映像信号に比較して1フレ-ム分遅延させて、動きベクトル検出部11に出力する。
第6フレ-ムメモリ147は、信号入力部1を通じて入力した映像信号を、信号入力部1から動きベクトル検出部11に直接出力される映像信号に比較して1フレ-ム分遅延させて、第1フレ-ムメモリ3に出力する。第1フレ-ムメモリ3は、第6フレ-ムメモリ147において信号入力部1からの映像信号よりも1フレ-ム分遅延された映像信号を更に1フレ-ム分遅延させて、第2フレ-ムメモリ5、及び動きベクトル検出部11に夫々出力する。即ち、第1フレ-ムメモリ3から出力される映像信号は、信号入力部1から動きベクトル検出部11に直接出力された場合の映像信号に比較して、2フレ-ム分遅延されることになる。
第2LPF149は、第2フレ-ムメモリ5からの映像信号を入力すると共に、該映像信号をフィルタリングすることにより該映像信号に含まれる高周波成分を除去した後、第2映像情報削減部151に出力する。第2映像情報削減部151は、第2LPF149から出力される高周波成分が除去された後の映像信号を入力すると共に、該映像信号に所定の処理を施すことにより、該映像信号の情報の量を削減した後、第7フレ-ムメモリ153に出力する。第7フレ-ムメモリ153は、第2映像情報削減部151を通じて入力した上記映像信号を、信号入力部1から動きベクトル検出部11に直接出力された場合の映像信号に比較して4フレ-ム分遅延させて、動きベクトル検出部11に出力する。
動きベクトル検出部11では、信号入力部1から動きベクトル検出部11に直接出力された場合の映像信号のフレ-ムを基準として該フレ-ムよりも1フレ-ム分遅延されて第5フレ-ムメモリ145から出力されるフレ-ムと、2フレ-ム分遅延されて第1フレ-ムメモリ3から出力されるフレ-ムと、3フレ-ム分遅延されて第2フレ-ムメモリ5から出力されるフレ-ムと、4フレ-ム分遅延されて第7フレ-ムメモリ153から出力されるフレ-ムと、に基づき、動きベクトルを検出するための処理動作を実行する。該処理動作の詳細、過去ベクトル検出部13における処理動作の詳細、及び第4フレ-ムメモリ9における処理動作の詳細については、図1で説明した内容と同様であるので、説明を省略する。
図8は、図7に記載の動きベクトル検出装置において、第1映像情報削減部143により削減される後々フレ-ム(29)の領域、及び第2映像情報削減部151により削減される前々フレ-ム(27)の領域を示す説明図である。
図8において、フレ-ム(前々フレ-ム(27)、又は後々フレ-ム(29)を指す)161において、領域163が動きベクトルを検出するためのマッチング処理に際して動きベクトル検出部11により参照される領域であり、フレ-ム161の外枠を形成している。該領域161は、フレ-ム161の縦方向に沿う部位が3Mの幅を、フレ-ム161の横方向に沿う部位が3Nの幅を、夫々有している。領域163によって囲まれた矩形領域165が、上記マッチング処理に際し、必ずしも必要でない領域である。よって、フレ-ム161が、既述の前々フレ-ム(27)である場合には、第2映像情報削減部151により、フレ-ム161が、既述の後々フレ-ム(29)である場合には、第1映像情報削減部143により、夫々領域163が削除される。
図9は、図7に記載の動きベクトル検出装置において、情報の量が約1/9に削減された後の前々フレ-ム(27)を用いて、動きベクトル検出部11が動きベクトル検出のためのマッチング処理を行うに際しての概略説明図である。
図9において、図9(a)は、図2で示した補間フレ-ム21上の動きベクトル検出位置31を基準に、該動きベクトル検出位置31と同じく図2で示した前フレ-ム25における相関検索用ウィンドウ33上の各画素(15個の画素)とを通る複数本(15本)の直線を設定する。これら複数本の直線は、動きベクトル検出部11が既に説明したマッチング処理を行うのに必要なものである。上記複数本の直線は、前々フレ-ム27における相関検索用ウィンドウ37上の上記相関検索用ウィンドウ33上の各画素と夫々対応関係にある各画素(15個の画素)をも通ることになる。図9(a)で示した例では、相関検索用ウィンドウ37上には、縦方向に7、横方向に13の画素がマトリクス状に配列されているから、7×13=91で、合計91個の画素が存在しているが、91から15を差し引いた残り76個の画素については、上記マッチング処理には不必要である。
換言すれば、相関検索用ウィンドウ33については、全ての画素を探索する必要があるが、相関検索用ウィンドウ37上の画素については、3ピクセル置きに探索すればよいことになる。
そこで、前々フレ-ム27については、第2映像情報削減部151を通すことで、相関検索用ウィンドウ37上の上記マッチング処理に不要な画素を削減することとした。図9(b)における符号38で示したマトリクス状の領域は、第2映像情報削減部151において情報の量が削減された後の前々フレ-ム27における相関検索用ウィンドウを示すものである。
このように、前々フレ-ム27については、第2映像情報削減部151において情報の量が削減されるため、前々フレ-ム27を一時的に保持するための第7フレ-ムメモリ153についても、第1、第2、第4、第6フレ-ムメモリ(3、5、9、147)と比較して記憶容量の小さいものを用いることが可能になる。
図10は、本発明に係る動きベクトル検出装置を内蔵した映像表示装置の構成を示す機能ブロック図である。
図10において、アンテナ171で受信されたディジタルTV放送電波は、アンテナ171からチュ-ナ173に出力され、チュ-ナ173において該放送電波からユ-ザが所望する映像信号が抽出される。この映像信号は、デコ-ダ175でデコ-ドされると共に、デコ-ドされた後の映像信号は、動きベクトル検出装置177と、フレ-ムレ-ト及びインタ-レス・プログレッシブ変換装置179とに、夫々出力される。動きベクトル変換装置177では、該映像信号を利用して既に説明したような態様で、動きベクトルを検出するための一連の処理動作を行い、検出した動きベクトルを、フレ-ムレ-ト及びインタ-レス・プログレッシブ変換装置179に出力する。
フレ-ムレ-ト及びインタ-レス・プログレッシブ変換装置179では、動きベクトル検出装置177からの動きベクトルに基づき、デコ-ダ175からの上記映像信号に対し、インタ-レス・プログレッシブ変換、若しくは加えてフレ-ムレ-ト変換を行う。フレ-ムレ-ト及びインタ-レス・プログレッシブ変換装置179において、インタ-レス・プログレッシブ変換、若しくは加えてフレ-ムレ-ト変換を施された後の映像信号は、映像表示パネル181に出力される。
以上、本発明の好適な実施形態を説明したが、これらは本発明の説明のための例示であって、本発明の範囲をこれらの実施形態にのみ限定する趣旨ではない。本発明は、他の種々の形態でも実施することが可能である。
本発明の一実施形態に係る動きベクトル検出装置の全体構成を示すブロック図。 図1に記載した動きベクトル検出部において行われる動きベクトル検出に際してのマッチング手法の一例を示す説明図。 図2に記載したマッチング手法において、各フレ-ム上の平面座標で示される画素間での差分絶対値を求める演算処理ができない場合の例を示す説明図。 動きベクトルの検出に必要な各フレ-ムにおける、図2に記載したマッチング手法が適用される領域、及び該マッチング手法とは別のマッチング手法が適用される領域に係わる説明図。 本発明の一実施形態に係る動きベクトル検出装置を通じて表示出力される映像信号の1フレ-ム毎の遷移を示す説明図。 従来の古典的な動きベクトル検出方法を用いた場合に表示出力される映像信号の1フレ-ム毎の遷移を示す説明図。 本発明の他の実施形態に係る動きベクトル検出装置の全体構成を示すブロック図。 図7に記載した動きベクトル検出装置において、第1映像情報削減部により削減される後々フレ-ムの領域、及び第2映像情報削減部により削減される前々フレ-ムの領域を示す説明図。 図7に記載した動きベクトル検出装置において、情報の量が約1/9に削減された後の前々フレ-ムを用いて、動きベクトル検出部が動きベクトル検出のためのマッチング処理を行うに際しての概略説明図。 本発明に係る動きベクトル検出装置を内蔵した映像表示装置の構成を示す機能ブロック図。
符号の説明
1 信号入力部
3 第1フレ-ムメモリ
5 第2フレ-ムメモリ
7 第3フレ-ムメモリ
9 第4フレ-ムメモリ
11 動きベクトル検出部
13 過去ベクトル検出部
141 第1LPF
143 第1映像情報削減部
145 第5フレ-ムメモリ
147 第6フレ-ムメモリ
149 第2LPF
151 第2映像情報削減部
153 第7フレ-ムメモリ

Claims (15)

  1. ディジタル形式の映像信号から動きベクトルを求める動きベクトル検出装置において、
    外部から入力した映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第1の映像信号遅延出力部と、
    前記第1の映像信号遅延出力部からの前記映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第2の映像信号遅延出力部と、
    前記第2の映像信号遅延出力部からの前記映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第3の映像信号遅延出力部と、
    前記第1乃至第3の映像信号遅延出力部を介さずに、外部から直接入力した前記映像信号のフレームと、該フレームと同期して夫々入力される、前記第1乃至第3の映像信号遅延出力部からの各映像信号のフレームとを用いて、所定の処理を行うことにより動きベクトルを検出する動きベクトル検出部と、
    を備える動きベクトル検出装置。
  2. 請求項1記載の動きベクトル検出装置において、
    前記動きベクトル検出部が行う所定の処理が、前記映像信号におけるフレーム間相関演算であり、
    前記フレーム間相関演算が、前記外部から直接入力した前記映像信号のフレーム、及び該フレームと同期して夫々入力される、前記第1乃至第3の映像信号遅延出力部からの各映像信号のフレームについて行われる動きベクトル検出装置。
  3. 請求項2記載の動きベクトル検出装置において、
    前記フレーム間相関演算が、前記外部から直接入力した前記映像信号のフレームと前記第1の映像信号遅延出力部からの映像信号のフレームとの間、又は前記第1の映像信号遅延出力部からの映像信号のフレームと前記第2の映像信号遅延出力部からの映像信号のフレームとの間、又は前記第2の映像信号遅延出力部からの映像信号のフレームと前記第3の映像信号遅延出力部からの映像信号のフレームとの間、について行われる動きベクトル検出装置。
  4. 請求項1記載の動きベクトル検出装置において、
    前記動きベクトル検出部から出力される1フレーム分の動きベクトルについて、それらの出現率を求める処理を行うと共に、最も出現率の高い動きベクトルから順に、所定の数の動きベクトルまでを過去ベクトルとする処理を行う過去ベクトル検出部と、
    前記過去ベクトル検出部から出力される過去ベクトルを保持することにより、それら過去ベクトルを、それらの入力時よりも1フレーム分遅延させて前記動きベクトル検出部に出力する動きベクトル遅延出力部と、
    を更に備える動きベクトル検出装置。
  5. 請求項4記載の動きベクトル検出装置において、
    前記動きベクトル検出部が、前記第1乃至第3の映像信号遅延出力部から夫々出力される映像信号のフレーム、及び前記外部から直接入力される前記映像信号のフレームの4隅を含む領域については、前記過去ベクトル検出部からの過去ベクトルをも動きベクトルの候補として、前記フレーム間相関演算を行うようにした動きベクトル検出装置。
  6. 請求項1記載の動きベクトル検出装置において、
    前記動きベクトル検出部が動きベクトルを検出するための演算処理として、
    前記第1の映像信号遅延出力部からの映像信号のフレームと前記第2の映像信号遅延出力部からの映像信号のフレームとの間に生成される動きベクトル検出用のフレームを設定する第1のプロセスと、
    前記動きベクトル検出用のフレームにおける特定の画素を基準として、前記外部から直接入力される映像信号のフレームと前記第1、第2、第3の映像信号遅延出力部から夫々出力される映像信号のフレームとを通る複数本の直線を設定する第2のプロセスと、
    前記複数本の直線上にある前記外部から直接入力される映像信号のフレーム上の画素と前記第1の映像信号遅延出力部からの映像信号のフレーム上の画素との差分、前記複数本の直線上にある前記第1の映像信号遅延出力部からの映像信号のフレーム上の画素と前記第2の映像信号遅延出力部からの映像信号のフレーム上の画素との差分、及び前記複数本の直線上にある前記第2の映像信号遅延出力部からの映像信号のフレーム上の画素と前記第3の映像信号遅延出力部からの映像信号のフレーム上の画素との差分、を求める第3のプロセスと、
    前記第3のプロセスにおいて求めた各差分の合計値を求めて、該合計値を前記直線のポイントにする第4のプロセスと、
    前記複数本の直線のうちの、前記ポイントの最も小さな直線を、動きベクトルを決定するための基準として用いる第5のプロセスと、
    を少なくとも実行する動きベクトル検出装置。
  7. 請求項6記載の動きベクトル検出装置において、
    前記第3のプロセスにおいて前記複数本の直線中に、前記差分を求めることができないものがある場合には、前記求められなかった差分については無視すると共に、求められた各差分については補正するようにした動きベクトル検出装置。
  8. 請求項7記載の動きベクトル検出装置において、
    前記動きベクトル検出部が、前記第3のプロセスにおいて前記複数本の直線中に、前記差分を求めることができないものがある場合には、前記直線のうちの前記過去ベクトル検出部からの過去ベクトルが指す直線に適宜なポイントを付与すると共に、該直線をも動きベクトルの候補として、前記フレーム間相関演算を行うようにした動きベクトル検出装置。
  9. 請求項1記載の動きベクトル検出装置において、
    前記動きベクトル検出部の入力側と外部からの映像信号を入力する映像信号入力部との間に、前記映像信号に含まれる高周波成分を除去するための第1のローパスフィルタと、前記第1のローパスフィルタから出力される映像信号の情報の量を削減するための第1の情報削減部と、前記第1の情報削減部から出力される映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第4の映像信号遅延出力部と、を更に備える動きベクトル検出装置。
  10. 請求項9記載の動きベクトル検出装置において、
    前記第1の映像信号遅延出力部の入力側と前記映像信号入力部との間に、前記映像信号入力部からの映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第5の映像信号遅延出力部、を更に備える動きベクトル検出装置。
  11. 請求項10記載の動きベクトル検出装置において、
    前記第3の映像信号遅延出力部の出力側と前記第2の映像信号遅延出力部の入力側との間に、前記映像信号に含まれる高周波成分を除去するための第2のローパスフィルタと、前記第2のローパスフィルタから出力される映像信号の情報の量を削減するための第2の情報削減部と、を更に備える動きベクトル検出装置。
  12. 請求項10記載の動きベクトル検出装置において、
    前記第3、及び第4の映像信号遅延出力部の記憶容量が、前記第1、第2、第5の映像信号遅延出力部の記憶容量よりも小さい動きベクトル検出装置。
  13. 請求項10、又は請求項11記載の動きベクトル検出装置において、
    前記第1のローパスフィルタを通じて前記映像信号入力部から入力される映像信号の情報の量の前記第1の情報削減部による削減、及び前記第2のローパスフィルタ、前記第2、第1、第5の映像信号遅延出力部を通じて前記映像信号入力部から入力される映像信号の情報の量の前記第2の情報削減部による削減が、それらの映像信号のフレームにおける所定の幅を有する外縁部の領域を除いた矩形状の領域について行われる動きベクトル検出装置。
  14. ディジタル形式の映像信号から動きベクトルを求める動きベクトル検出方法において、
    外部から入力した映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第1のステップと、
    前記第1のステップを経て出力される前記映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第2のステップと、
    前記第2のステップを経て出力される前記映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第3のステップと、
    前記第1乃至第3のステップの何れをも介さずに、外部から直接入力した前記映像信号のフレームと、該フレームと同期して夫々入力される、前記第1乃至第3のステップを夫々経て出力される各映像信号のフレームとを用いて、所定の処理を行うことにより動きベクトルを検出する第4のステップと、
    を備える動きベクトル検出方法。
  15. 受信した映像信号から所望のディジタル形式の映像信号を抽出する映像信号抽出装置と、前記映像信号抽出装置により抽出されたディジタル形式の映像信号から動きベクトルを求める動きベクトル検出装置と、前記動きベクトル検出装置から出力された動きベクトルに基づいて、前記映像信号抽出装置により抽出されたディジタル形式の映像信号にフレームレート変換、又はインターレス・プログレッシブ変換を施すフレームレート・インターレス・プログレッシブ変換装置と、
    を備え、
    前記動きベクトル検出装置が、
    前記映像信号抽出装置から入力した映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第1の映像信号遅延出力部と、
    前記第1の映像信号遅延出力部からの前記映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第2の映像信号遅延出力部と、
    前記第2の映像信号遅延出力部からの前記映像信号を保持することにより、該映像信号を、その入力時よりも1フレーム分遅延させて出力する第3の映像信号遅延出力部と、
    前記第1乃至第3の映像信号遅延出力部を介さずに、前記映像信号抽出装置から直接入力した前記映像信号のフレームと、該フレームと同期して夫々入力される、前記第1乃至第3の映像信号遅延出力部からの各映像信号のフレームとを用いて、所定の処理を行うことにより動きベクトルを検出する動きベクトル検出部と、
    を有する映像表示装置。
JP2007016311A 2007-01-26 2007-01-26 動きベクトル検出装置、動きベクトル検出方法、映像表示装置 Pending JP2008187222A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007016311A JP2008187222A (ja) 2007-01-26 2007-01-26 動きベクトル検出装置、動きベクトル検出方法、映像表示装置
US12/020,771 US20090059067A1 (en) 2007-01-26 2008-01-28 Motion vector detection apparatus, method of detecting motion vectors, and image display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007016311A JP2008187222A (ja) 2007-01-26 2007-01-26 動きベクトル検出装置、動きベクトル検出方法、映像表示装置

Publications (1)

Publication Number Publication Date
JP2008187222A true JP2008187222A (ja) 2008-08-14

Family

ID=39730001

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007016311A Pending JP2008187222A (ja) 2007-01-26 2007-01-26 動きベクトル検出装置、動きベクトル検出方法、映像表示装置

Country Status (2)

Country Link
US (1) US20090059067A1 (ja)
JP (1) JP2008187222A (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8224033B2 (en) * 2008-06-24 2012-07-17 Mediatek Inc. Movement detector and movement detection method
US8471959B1 (en) * 2009-09-17 2013-06-25 Pixelworks, Inc. Multi-channel video frame interpolation
JPWO2012066866A1 (ja) * 2010-11-17 2014-05-12 三菱電機株式会社 動きベクトル検出装置、動きベクトル検出方法、フレーム補間装置及びフレーム補間方法
JP5325341B2 (ja) * 2011-03-03 2013-10-23 パナソニック株式会社 立体映像処理装置および方法ならびに立体映像表示装置
US8681866B1 (en) 2011-04-28 2014-03-25 Google Inc. Method and apparatus for encoding video by downsampling frame resolution
US9106787B1 (en) 2011-05-09 2015-08-11 Google Inc. Apparatus and method for media transmission bandwidth control using bandwidth estimation
US8856624B1 (en) 2011-10-27 2014-10-07 Google Inc. Method and apparatus for dynamically generating error correction
US9185429B1 (en) 2012-04-30 2015-11-10 Google Inc. Video encoding and decoding using un-equal error protection
US9172740B1 (en) 2013-01-15 2015-10-27 Google Inc. Adjustable buffer remote access
US9311692B1 (en) 2013-01-25 2016-04-12 Google Inc. Scalable buffer remote access
US9225979B1 (en) 2013-01-30 2015-12-29 Google Inc. Remote access encoding
KR101711192B1 (ko) 2014-08-19 2017-03-14 삼성전자 주식회사 전기-광학 변조기, 및 그 전기-광학 변조기를 포함한 검사 장치

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4765194B2 (ja) * 2001-05-10 2011-09-07 ソニー株式会社 動画像符号化装置、動画像符号化方法、動画像符号化プログラム格納媒体及び動画像符号化プログラム
KR100553893B1 (ko) * 2003-10-14 2006-02-24 삼성전자주식회사 타임 시프트와 움직임 보상을 이용한 프레임 레이트 변환장치 및 그 방법
EP1583364A1 (en) * 2004-03-30 2005-10-05 Matsushita Electric Industrial Co., Ltd. Motion compensated interpolation of images at image borders for frame rate conversion
EP1585326A1 (en) * 2004-03-30 2005-10-12 Matsushita Electric Industrial Co., Ltd. Motion vector estimation at image borders for frame rate conversion
JP4359223B2 (ja) * 2004-10-29 2009-11-04 株式会社 日立ディスプレイズ 映像補間装置とこれを用いたフレームレート変換装置,映像表示装置

Also Published As

Publication number Publication date
US20090059067A1 (en) 2009-03-05

Similar Documents

Publication Publication Date Title
JP2008187222A (ja) 動きベクトル検出装置、動きベクトル検出方法、映像表示装置
US6717622B2 (en) System and method for scalable resolution enhancement of a video image
US8559517B2 (en) Image processing apparatus and image display apparatus provided with the same
US8432973B2 (en) Interpolation frame generation apparatus, interpolation frame generation method, and broadcast receiving apparatus
JP2008160591A (ja) テレビジョン受信機及びそのフレームレート変換方法
JP2006165602A (ja) フレームレート変換装置、及び映像表示装置、並びにフレームレート変換方法
CN102577365B (zh) 视频显示装置
JP2011015388A (ja) 映像処理装置及び映像処理方法
JP2014077993A (ja) 表示装置
EP2897358B1 (en) Method and apparatus for de-interlacing video
JP4510874B2 (ja) 合成映像検出装置
JP5049882B2 (ja) 補間フレーム作成装置及び補間フレーム作成方法及び放送受信装置
JP4786506B2 (ja) テレビジョン受信機
US20130069922A1 (en) Image processing device, image processing method, image display device, and image display method
JP5208381B2 (ja) 動画像フレームレート変換装置および動画像フレームレート変換方法
JP4951487B2 (ja) 映像処理装置及びそれを用いた映像表示装置
JP2009042897A (ja) 画像処理装置及び画像処理方法
US8013935B2 (en) Picture processing circuit and picture processing method
US8243814B2 (en) Combing artifacts detection apparatus and combing artifacts detection method
WO2011027422A1 (ja) 画像処理装置および映像再生装置
US20080063067A1 (en) Frame interpolating circuit, frame interpolating method, and display apparatus
JP5409245B2 (ja) 画像処理装置及びその制御方法
CN101895672A (zh) 侦测移动图像的电路与方法
JP2010147699A (ja) 補間フレーム作成装置及び補間フレーム作成方法及び放送受信装置
JP2009290803A (ja) 補間フレーム作成装置及び補間フレーム作成方法及び放送受信装置