JP4119092B2 - 画像信号のフレーム数変換方法および装置 - Google Patents
画像信号のフレーム数変換方法および装置 Download PDFInfo
- Publication number
- JP4119092B2 JP4119092B2 JP2000556504A JP2000556504A JP4119092B2 JP 4119092 B2 JP4119092 B2 JP 4119092B2 JP 2000556504 A JP2000556504 A JP 2000556504A JP 2000556504 A JP2000556504 A JP 2000556504A JP 4119092 B2 JP4119092 B2 JP 4119092B2
- Authority
- JP
- Japan
- Prior art keywords
- motion vector
- frame
- block
- unit
- motion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
- H04N7/012—Conversion between an interlaced and a progressive signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/513—Processing of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/426—Internal components of the client ; Characteristics thereof
Description
本発明は画像信号のフレーム数変換方法および装置に係り、特に動き補正の信号処理によって画像信号のフレーム数を変換するのに好適な画像信号のフレーム数変換方法および装置に関する。
背景技術
近年、マルチメディア化の進展に伴い、テレビジョン受像機においても、各種方式のテレビジョン信号やPC画像信号等、画像フォーマットの異なる種々の信号を表示する機能が必要となる。また、高画質化や平面ディスプレイ対応の機能として、順次走査による画像表示機能が必要になる。これら機能の実現には、各種入力信号を画像表示部のフォーマットに変換するためのフレーム数変換や順次走査化の信号処理が必要になる。
フレーム数変換に関しては、コマ繰り返しやコマ落としなどの単純な信号処理の方法も有るが、この方法では動き画像で滑らかさが損なわれるいわゆるモーションジャダー妨害などの画質劣化が発生する。
この妨害を回避する方法として、動き補正型のフレーム数変換の方法が知られている。この方法は、動きベクトルで前後のフレームの画像の位置を移動させて内挿フレームの信号を生成するものである。この信号処理の方法や構成に関して、多くの提案がなされている。例えば、特開平7−170496号公報には、動きベクトルを効率よく探索する技術が開示されている。また、特開平7−336650号公報には、動き補正に固有な動画エッジ周縁部での解像度低下などの劣化を回避する技術が開示されている。
しかしながら、これらの従来技術では、前者においては動き検出の精度に課題を有し、後者においては信号処理の複雑さに課題を有しており、これらが高画質・低コストのフレーム数変換装置の実現に大きな問題となっている。
従って本発明の目的は、画像信号のフレーム数変換の信号処理を高画質・低コストで実現し得る画像信号の動き補正フレーム数変換方法および装置を提供することにある。
発明の開示
本発明に係るフレーム数変換方法は、飛越し走査の画像信号系列で現フレームと前フレームの画像の動きを検出してブロック単位動きベクトルを探索する工程と、前記ブロック単位動きベクトルによる動き補正誤差が閾値未満の場合はブロック単位動きベクトルの修正を行わず、閾値以上の場合は当該ブロックをミニブロックに分割し、各ミニブロック毎に隣接ブロックの動きベクトルのうちで動き補正誤差が最少なものをミニブロックの動きベクトルとすることによりブロック単位動きベクトルの修正を行う工程と、修正動きベクトルによる現フレームと前フレームの動き補正信号のミニブロック単位の誤差成分が最少の動きベクトルを画素単位動きベクトルとして生成する工程と、前記画素単位動きベクトルによる現フレームと前フレームの動き補正信号の誤差成分、および誤差評価関数の値に応じて、現フレーム、前フレーム、現フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第1のフレーム、前フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第2のフレーム、前記第1のフレームと前記第2のフレームとの加算平均により生成された第3のフレーム、現フレームと前フレームとの時間方向の直線補間により生成された第4のフレーム、のいずれかの動き補正内挿フレーム信号を生成する工程と、を備え、前記ブロック単位動きベクトルを探索する工程は、入力画像信号の動きベクトル情報のPピクチャおよびBピクチャの動きベクトルを1フレーム間の動きベクトルに変換して出力するベクトル変換工程を有し、動画ブロックに対しては、前記ベクトル変換工程により出力される前記1フレーム間の動きベクトルをもとにブロック単位動きベクトルを探索するものである。
また本発明に係るフレーム数変換装置は、飛越し走査の画像信号系列で現フレームと前フレームの画像の動きを検出してブロック単位動きベクトルを探索するブロック単位動きベクトル探索部と、前記ブロック単位動きベクトルによる動き補正誤差が閾値未満の場合はブロック単位動きベクトルの修正を行わず、閾値以上の場合は当該ブロックをミニブロックに分割し、各ミニブロック毎に隣接ブロックの動きベクトルのうちで動き補正誤差が 最少なものをミニブロックの動きベクトルとすることによりブロック単位動きベクトルの修正を行う動きベクトル修正部と、修正動きベクトルによる現フレームと前フレームの動き補正信号のミニブロック単位の誤差成分が最少の動きベクトルを画素単位動きベクトルとして生成する画素単位動きベクトル生成部と、前記画素単位動きベクトルによる現フレームと前フレームの動き補正信号の誤差成分、および誤差評価関数の値に応じて、現フレーム、前フレーム、現フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第1のフレーム、前フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第2のフレーム、前記第1のフレームと前記第2のフレームとの加算平均により生成された第3のフレーム、現フレームと前フレームとの時間方向の直線補間により生成された第4のフレーム、のいずれかの動き補正内挿フレーム信号を生成する動き補正内挿フレーム信号生成部と、を備え、前記ブロック単位動きベクトル探索部は、入力画像信号の動きベクトル情報のPピクチャおよびBピクチャの動きベクトルを1フレーム間の動きベクトルに変換して出力するベクトル変換部を有し、動画ブロックに対しては、前記ベクトル変換部から出力される前記1フレーム間の動きベクトルをもとにブロック単位動きベクトルを探索するものである。
本発明においては、具体的には、次のような技術的手段を用いる。すなわち、動き補正のフレーム数変換に必要な動きベクトルの探索では、演算量の大幅な削減を図るため、以下のブロック単位動きベクトル探索、動きベクトル修正、画素単位動きベクトル生成の3段階の信号処理を採用する。
はじめに、ブロック単位動きベクトル探索では、フレーム差分信号で動きを検出しないブロック(以降静止ブロックと略称)と、動きを検出したブロック(以降動画ブロックと略称)とに分別する前処理を行い、動画ブロックのみ以下に示す3種類のいずれかで探索処理を行う。
(1)参照ベクトル探索処理:現ブロックに隣接するブロックの動きベクトルを参照ベクトルとし、この予測誤差成分が最小かつ閾値未満の場合は、この動きベクトルの近傍をブロックマッチング処理してブロック単位の動きベクトルを検出する。
(2)動きベクトル分布適応探索処理:参照ベクトルの予測誤差成分が閾値以上の場合は、前フレームでの動きベクトルの発生頻度の形態に応じて定める探索モード(モードによって探索領域や代表動きベクトルの配列を異にする)に従って、ブロックマッチング処理してブロック単位の動きベクトルを検出する。
(3)変換ベクトル探索処理:画像符号化で使用する動きベクトル情報よりベクトル変換処理で生成した1フレームの動きベクトルを参照動きベクトルとし、このうちの予測誤差成分が最少なものをブロック単位の動きベクトルとして検出する。
次に、動きベクトル修正では、検出したブロック単位動きベクトルの予測誤差成分が閾値以上のブロックに対し、ブロックを水平、垂直に細分化したミニブロック毎に、現ブロックおよび隣接ブロックの動きベクトルのうちで予測誤差成分が最少なものをミニブロックの動きベクトルとするミニブロック分割探索の修正を行う。
また、画素単位動きベクトルの生成では、現ブロックとこれに隣接するブロックの動きベクトルのうちで、動き補正処理した現フレームと前フレームの信号の絶対値差分成分が最小なものを画素の動きベクトルとして生成する。
以上に述べた本発明の動きベクトル探索によれば、全探索に較べて2桁〜3桁程度削減した演算量で、高精度な動きベクトルの検出が可能になる。
次に、動き補正(MC)内挿フレーム信号の生成では、複数種類の補間信号のうちで動き補正誤差が最小なものを選択するメディアンフィルタによって、動き補正の内挿フレームの信号を生成する。
すなわち、前フレームの画像の位置を動き補正ベクトルで移動させて生成する動き補正前フレーム信号と、現フレームの画像の位置を動き補正ベクトルで移動させて生成する動き補正現フレーム信号との差分信号成分を算出する。これが閾値未満の場合は、上記の動き補正前フレーム信号、現フレーム信号の平均値で生成する。一方、閾値以上の時は、動き補正前フレーム信号、動き補正現フレーム信号、前フレーム信号、現フレーム信号、および前、現フレーム信号との直線補間信号のうち、誤差評価関数が最小なものを選択出力する。
また、動きベクトル探索で検出した動きベクトルの発生頻度の形態を計測し、これでモーションジャダー妨害が目立ちやすい速度の画像を含むフレームを検出し、この検出したフレームに限定して動き補正内挿フレームの信号を生成する動き速度適応動き補正処理を行う。
以上に述べた本発明のMC内挿フレーム信号の生成によれば、動き補正処理に固有な画質劣化(画像の一部が不適切な画像に置き換えられる孤立点的な劣化や動画のエッジ部がフリッカしたり動きが不自然に見える劣化)を大幅に抑圧でき、高画質化が可能になる。
更に、本発明においては、シーンチェンジの領域では、動きベクトルの探索処理と動き補正内挿フレーム信号の生成の処理を中止する。この結果、シーンチェンジ領域で発生する動きベクトルの探索での膨大な演算量の発生が抑圧できる。
以上に述べた本発明の技術的手段により、高画質・低コストな画像信号の動き補正フレーム数変換方法および装置を達成することができる。
さらに本発明に係る情報家電機器は、飛越し走査の画像信号系列を入力する入力部と、前記飛越し走査の画像信号系列で現フレームと前フレームの画像の動きを検出してブロック単位動きベクトルを探索し、前記ブロック単位動きベクトルによる動き補正誤差が閾値未満の場合はブロック単位動きベクトルの修正を行わず、閾値以上の場合は当該ブロックをミニブロックに分割し、各ミニブロック毎に隣接ブロックの動きベクトルのうちで動き補正誤差が最少なものをミニブロックの動きベクトルとすることによりブロック単位動きベクトルの修正を行い、修正動きベクトルによる現フレームと前フレームの動き補正信号のミニブロック単位の誤差成分が最少の動きベクトルを画素単位動きベクトルとして生成し、前記画素単位動きベクトルによる現フレームと前フレームの動き補正信号の誤差成分、および誤差評価関数の値に応じて、現フレーム、前フレーム、現フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第1のフレーム、前フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第2のフレーム、前記第1のフレームと前記第2のフレームとの加算平均により生成された第3のフレーム、現フレームと前フレームとの時間方向の直線補間により生成された第4のフレーム、のいずれかの動き補正内挿フレーム信号を生成するものであり、前記ブロック単位動きベクトルの探索では、入力画像信号の動きベクトル情報のPピクチャおよびBピクチャの動きベクトルを1フレーム間の動きベクトルに変換して出力し、動画ブロックに対しては、前記出力される前記1フレーム間の動きベクトルをもとにブロック単位動きベクトルを探索する画像信号のフレーム数変換部と、前記画像信号のフレーム数変換部の出力を表示する表示部とを備えて構成される。
これにより、マルチソース対応の高画質なテレビジョン受像機、DVDプレーヤ、PC機器、PAD端末などの情報家電機器を低コストで実現できる。
発明を実施するための最良の形態
本発明の第1の実施例について、第1図〜第16図を用いて説明する。
第1図は、第1の実施例のブロック構成図である。図のように、本実施例に係るフレーム数変換装置は、IP変換部1と、1フレーム遅延部2と、動き検出部3と、ブロック単位動きベクトル探索部4と、動きベクトル修正部5と、画素単位動きベクトル生成部6と、MC内挿フレーム信号生成部7と、制御部8とから構成される。
飛び越し走査の入力画像信号S1(輝度信号成分と色差信号成分)は、IP変換部1に入力し、飛び越し〜順次の走査変換の信号処理を行い、順次走査の信号系列S2(輝度信号成分と色差信号成分)に変換する。
1フレーム遅延部2は、画像信号を1フレームの期間遅延させるもので、この出力に前フレームの信号系列S3を得る。
動き検出部3は、現フレームの信号系列S2と、前フレームの信号系列S3の輝度信号成分の減算処理で1フレーム間の差分信号を抽出し、これを2値量子化して動き検出信号MD1、MD2を制御部8に出力する。
ブロック単位動きベクトル探索部4は、ブロック単位(例えば16画素×16ラインあるいは8画素×8ライン)の動きベクトルを検出する。すなわち、制御部8の制御信号CT1のうちの動き検出信号MD1が0のブロックは静止ブロックと判定し、ブロック単位動きベクトルBMVに0を出力する。一方、MD1が1のブロックは動画ブロックと判定し、信号S2とS3の輝度信号成分、あるいは輝度信号成分と色差信号成分に対して、前述した参照ベクトル探索処理あるいは動きベクトル分布適応探索処理を行い、ブロック単位動きベクトルBMVを検出する。
動きベクトル修正部5は、輝度信号成分、あるいは輝度信号成分と色差信号成分の予測誤差成分が閾値以上のブロックに対し、ブロックを水平、垂直に細分化したミニブロック(例えば2画素×2ライン)毎に、現ブロックおよび隣接ブロックの動きベクトルのうちで予測誤差成分が最少なものをミニブロックの動きベクトルとするミニブロック分割探索の修正を行い、修正動きベクトルBVを生成する。
画素単位動きベクトル生成部6は、現ブロックとこれに隣接するブロックの動きベクトルのうちで、動き補正処理した現フレームと前フレームの信号の輝度信号成分あるいは輝度信号成分と色差信号成分の絶対値差分成分が最小なものを画素の動きベクトルPVとして生成する。
動き補正(MC)内挿フレーム信号生成部7は、メディアンフィルタ構成で、画素単位動きベクトルPVをもとに生成する複数種類の補間信号のうちで動き補正誤差が最小なものを選択出力し、動き補正フレーム数変換処理でフレーム周波数をアップした順次走査の画像信号系列S4(輝度信号成分と色差信号成分)を得る。
制御部8は、以上の動作に必要な制御信号CT1〜CT4を生成し、各部に出力する。
以上で全体ブロック構成図の説明を終え、以下、本実施例における主要ブロック部の構成について詳述する。
第2図は、動き検出部3の一構成例を示す図である。図において、減算部9は、現フレームの信号系列S2と前フレームの信号系列S3の輝度信号成分の減算演算を行い、1フレーム間の差分信号成分FDを抽出する。
2値量子化部10−1は、差分信号成分FDの信号レベルが設定値±Tha未満の場合は静止と判定して0、±Thaを越える場合は動きと判定して1の2値信号を出力する。静動ブロック判定部11は、ブロック単位で2値信号の1の有無を検出し、例えば、全て0の時は静止ブロックと判定して動き検出信号MD1に0、それ以外の時は動画ブロックと判定して1を出力する。
2値量子化部10−2は、差分信号成分FDの信号レベルが0の場合は静止と判定して0、それ以外は動画と判定して1の動き検出信号MD2を出力する。
次に、ブロック単位動きベクトル探索部の構成例について第3図〜第7図を用いて説明する。
第3図は、ブロック単位動きベクトル探索部4の一構成例を示す図である。図のように、ブロック単位動きベクトル探索部4は、代表ベクトル生成部12と、ブロックマッチング探索部13と、発生頻度計測部14とを有する。
第4図は、その信号処理フローチャートである。第4図の第1ステップでは、動き検出信号MD1が0の静止ブロックは、動きベクトル探索の動作は行わず、ブロック単位動きベクトルBMVに0を出力する。そして、動き検出信号MD1が1の動画ブロックのみ、以下に述べる動きベクトル探索の動作を行う。
まず、動画ブロックの第2ステップの信号処理は、第3図の代表ベクトル生成部12で行う。ここでは、予め設定した参照ブロックの動きベクトルBRVのうちで予測誤差成分が最小なものを代表動きベクトルBRFとして出力する。なお、参照ブロックとしては、第5図に示すように、既に動きベクトルの探索が終了している現ブロックの直上ブロックBu、およびその前後のブロックBul,Burを使用し、その動きベクトルVu,Vul,Vurのうちの予測誤差が最小なものが代表動きベクトルBRFとなる。
次に、動画ブロックの第3ステップの信号処理は、第3図のブロックマッチング探索部13で行う。代表動きベクトルBRFの予測誤差成分が閾値(例えば、8レベル/画素)未満の場合は、参照ベクトル探索処理を行う。すなわち、代表動きベクトルBRFを起点に、X成分が±DX(例えばDX=2)の範囲、y成分が±DY(例えばDY=2)の範囲の動きベクトルについてブロックマッチング処理で予測誤差を算出し、これが最少となるものをブロック単位動きベクトルBMVに出力する。
一方、閾値以上の場合は、探索モード情報MODで定まる探索領域を全探索、あるいは代表点探索の動きベクトル分布適応探索処理を行い、ブロック単位動きベクトルBMVを検出する。
第6図は、動きベクトル発生頻度と探索モード設定の一例を示す図である。第6図(a)は動きベクトル発生頻度を計測する領域を示し、図の横軸は動きベクトルのx方向成分の絶対値abs(vx)、縦軸はy方向成分の絶対値abs(vy)である。そして、領域Aでは、0<abs(vx)<=4で0<abs(vy)<=2の範囲、領域Bでは0<abs(vx)<=8で0<abs(vy)<=4のうち領域Aを除くの範囲、領域Cでは0<abs(vx)<=12で0<abs(vy)<=6のうち領域AとBを除くの範囲、領域Dでは0<abs(vx)<=16で0<abs(vy)<=8のうち領域AとBとCを除くの範囲、領域Eではabs(vx)>16又はabs(vy)>8の範囲での動きベクトルの発生個数をそれぞれ1フレーム期間にわたり計測し、これをもとにその発生頻度を算出する。
第6図(b)は、探索モードの設定条件および探索処理の特性例を示す。
MOD1の探索モードは、領域Aの発頻頻度が100%の場合で、水平±4画素、垂直±2ラインの探索範囲を全探索する。
MOD2の探索モードは、領域Aの発頻頻度の合計が95%以上の場合で、水平±8画素、垂直±4ラインの探索範囲を全探索する。
MOD3の探索モードは、領域AとBの発頻頻度の合計が95%以上の場合で、水平±12画素、垂直±6ラインの探索領域について密領域からなる代表点配列の動きベクトルをもとに探索する。
MOD4の探索モードは、領域AとBとCの発頻頻度の合計が95%以上の場合で、水平±16画素、垂直±8ラインの探索領域について密領域からなる代表点配列の動きベクトルをもとに探索する。
MOD5の探索モードは、領域AとBとCとDの発頻頻度が95%以上の場合で、水平±24画素、垂直±12ラインの探索領域について密領域と粗領域からなる2重代表点配列の動きベクトルをもとに探索する。
第7図は、代表点動きベクトルの配列例である。原点近傍は密領域(例えば、代表点間隔が水平方向2画素、垂直方向2ライン)、周縁部では粗領域(例えば、代表点間隔が水平方向4画素、垂直方向4ライン)で代表点の動きベクトルを配列し、探索モードに応じて密領域のみからなる代表点配列と、密領域と粗領域からなる2重代表点配列とを使い分け、信号処理での演算量の削減を図る。すなわち、まず、代表点配列あるいは2重代表点配列の動きベクトルのうちで、予測誤差成分が最小なものを検出し、この検出した動きベクトルを起点にx成分が±DX(例えばDX=2)の範囲、y成分が±DY(例えばDY=2)の範囲の動きベクトルについてブロックマッチング処理で予測誤差を算出し、これが最少となるものをブロック単位動きベクトルBMVとして検出する。
なお、探索領域に関しては、モーションジャダー妨害が検知される範囲、すなわち、動きの速度が1秒/画面幅、1秒/画面高程度までの範囲をカバーすればよい。従って、第7図に示す水平方向±MX画素(例えばMX=24)、垂直方向±MYライン(例えばMY=12)の領域に限定できる。また、テレビ画像はアスペクト比が4:3あるいは16:9の横長画像であるため、水平方向の探索領域を垂直領域の探索領域よりも広く設定することが適している。
第3図に戻り、発生頻度計測部14は、計測期間情報FMで1フレーム期間での動きベクトルの発生頻度を計測し、上述したように、発生頻度の分布形態に応じた探索モード情報MODを設定する。
以上に述べた如く、ブロック単位動きベクトルの探索は、動画ブロックに限定でき、かつ、参照ベクトル探索処理あるいは動きベクトル分布適応探索処理を行うため、全探索に較べて、探索に要する信号処理の演算量を1桁〜2桁程度低減できる。
次に、動きベクトル修正部について第8図〜第10図を用いて説明する。
第8図は、動きベクトル修正部5の一構成例を示す図である。図において、補正誤差算出部15は、第9図に示す信号処理フローチャートの第1ステップの処理を行う。すなわち、現フレームの信号S2と前フレームの信号S3の輝度信号成分に対し、先に検出したブロック単位動きベクトルBMVによる予測誤差を算出する。そして、この誤差の値が閾値TH(例えば8レベル/画素)未満のブロックは信号PMBに0、閾値TH以上のブロックは1を出力する。
修正制御部19は、信号PMBと制御信号CT2をもとに、第9図の第2ステップの信号処理に必要な制御信号PC1、PC2を生成する。
参照動きベクトル生成部16、補正誤差算出部17−1、…、17−Nは、第9図の第2ステップの閾値以上の場合の処理を行う。すなわち、第10図に示すように、現ブロックを水平、垂直方向に細分化して得るミニブロック(例えば水平MBX=2、垂直MBY=2の2画素×2ライン)に対して、現ブロックと参照ブロックの動きベクトルによるミニブロック分割探索処理で修正動きベクトルを生成する。そして、参照動きベクトル生成部16では、現ブロックと、これに対応する隣接ブロックの動きベクトルV0、Vul、…、Vdrを出力する。補正誤差算出部17−1、…、17−Nは、各ミニブロック毎に、次の式1に示す演算で予測誤差ER0、ER1、…、ERNを算出する。なお、この算出では、現フレームの信号S2と前フレームの信号S3の輝度信号成分、もしくは輝度信号成分と色差信号成分、のいずれかに対して行う。
ER0=Σabs{S2(x,y)−S3(V0)}=Σabs{S2(x,y)−S3(x+V0x,y+V0y)}
ER1=Σabs{S2(x,y)−S3(Vul)}=Σabs{S2(x,y)−S3(x+Vulx,y+Vuly)}
ER2=Σabs{S2(x,y)−S3(Vu)}=Σabs{S2(x,y)−S3(x+Vux,y+Vuy)}
………………………………………………………………………………………………
ERN=Σabs{S2(x,y)−S3(Vdr)}=Σabs{S2(x,y)−S3(x+Vdrx,y+Vdry)}・・・・式1 式1で、S2(x,y)は現フレームの信号、S3(Vi)は動きベクトルViで位置を移動させた前フレームの信号、abs{ }は絶対値、Σはミニブロック内の画素の総和、Vixは動きベクトルViのx成分、Viyはy成分である。
選択部18は、制御信号PC2が閾値未満を示すブロックでは、ブロック内のミニブロックに対して現ブロックの動きベクトルBMVを修正動きベクトルBVに出力する。一方、閾値以上のブロックでは、各ミニブロックに対して予測誤差ER0、ER1、…、ERNの内で最少値をとる動きベクトルを修正動きベクトルBVに出力する。
次に、画素単位動きベクトル生成部について、第11図〜第13図を用いて説明する。
第11図は、画素単位動きベクトル生成部6の一構成例を示す図である。図において、画素動きベクトル生成制御部23は、制御信号CT3と修正動きベクトルBVをもとに、第12図に示す信号処理フローチャートの第1、第2ステップの動作に必要な各種制御処理を行う。まず、修正動きベクトルでブロック単位での予測誤差成分を算出する。そして、これが閾値TH(例えば、8レベル/画素)未満の場合は、修正動きベクトルBVをそのまま画素単位動きベクトルPVとして出力する。
一方、閾値TH以上の場合は、第10図に示した現ブロックと隣接ブロックの修正動きベクトルより、動き補正の内挿フレーム信号の生成に必要なMCベクトルVctとVprとを出力する。そして、現フレーム動き補正信号生成部20では、現フレームの信号S2をMCベクトルVctで位置を移動させた動き補正信号Sctを生成する。また、前フレーム動き補正信号生成部21では、前フレームの信号S3をMCベクトルVprで位置を移動させた動き補正信号Sprを生成する。
第13図は、これらの動作概略を示す図である。第13図(a)は、MCベクトル生成の動作を示す。修正動きベクトルBVは、現フレームS2と前フレームS3との1フレーム期間での動きである。そして、フレーム数変換で内挿されるフレーム(図中の内挿フレーム)は、1フレーム期間のka:kbの位置に生成する。例えば、フレーム数の50−60変換では、フレーム順1〜5の信号系列に対して、5:1、4:2、3:3、2:4、1:5の位置で5枚の内挿フレームを生成し、フレーム順1〜6の信号系列に変換する。従って、動き補正でこの内挿フレームの位置に信号を生成するため、次の式2に示す演算でMCベクトルVprとVctを生成する。
Vpr=BV*ka/(ka+kb)
Vct=BV*kb/(ka+kb) ・・・・・式2
第13図(b)は、動き補正信号生成の概略を示す図である。内挿フレームの点A(x,y)の信号は、前フレームの信号S3では、点A(x,y)を動き補正ベクトルVpr(水平方向成分Vprx,垂直方向成分Vpry)で移動させた点A’(x1,y1)=(x+Vprx,y+Vpry)の位置の信号に対応し、現フレームの信号S2では点A(x,y)を動き補正ベクトルVct(水平方向成分Vctx,垂直方向成分Vcty)で移動させた点A”(x2,y2)=(x−Vctx,y−Vcty)の位置の信号に対応する。すなわち、動き補正信号SprとSctは、次の式3のようになる。
Spr=S3(x+Vprx,y+Vpry)
Sct=S2(x−Vctx,y−Vcty) ・・・・・式3
動きベクトルが正確であれば、動き補正信号SprとSctは一致する。ここで第11図に戻ると、誤差検出部22では、両者の絶対値差分成分|Sct−Spr|を算出し、信号MCERに出力する。
画素動きベクトル生成制御部23では、第10図に示した現ブロックと隣接ブロックの修正動きベクトルBVのうちで信号MCERが最小になるものを検出し、これを画素単位動きベクトルPVとして出力する。
また、制御信号CT3の動き検出信号MD2が0の画素に対しては、画素単位動きベクトルPVとして0を出力する。
この信号処理の結果、画素単位動きベクトルを、全探索と較べて演算量が1桁〜2桁程度低減でき、かつ、高精度で生成することができる。
以上で、動きベクトルの探索に関する説明を終え、次に、MC内挿フレーム信号生成部について第14図〜第16図を用いて説明する。
第14図は、MC内挿フレーム信号生成部7の一構成例を示す図である。図において、MCベクトル生成部24は、画素単位動きベクトルPVをもとに、前述した動き補正処理に必要なMCベクトルVctとVprを生成する。 また、現フレーム動き補正信号生成部20では、現フレームの信号S2とMCベクトルVctで動き補正信号Sctを生成する。また、前フレーム動き補正信号生成部21は、前フレームの信号S3と動き補正ベクトルVprで動き補正信号Sprを生成する。この処理は、内蔵するメモリ回路の読み出し動作を制御することで実現する。すなわち、メモリ読み出しのアドレスをMCベクトルVpr,Vctに相当する位置だけずらしたアドレスを生成し、このアドレスで信号を読み出して、MCベクトルで位置を移動させた信号を生成する。
平均部25は、両者の動き補正信号SprとSctとの加算平均を行い、その出力に双方向動き補正内挿フレームの信号Smcを得る。
テンポラルフィルタ26は、現フレームと前フレームの信号による時間方向の直線補間処理を行い、時間方向内挿フレームの信号Stfを生成する。
メディアンフィルタ部27は、動き補正予測誤差成分、および誤差評価関数の値に応じて、信号Smc,Sct,Spr,S2,S3,Stfのいずれかを選択出力し、動き補正型のフレーム数変換処理を行った順次走査の画像信号系列S4を得る。
第15図は、メディアンフィルタ部27の一構成例を示す図である。図において、誤差算出部28は、動き補正信号SctとSprとの減算を行い、その絶対値を信号ER1に出力する。また、誤差評価部29−1〜29−5は、第16図(a)に示すように、参照画素に対する誤差信号成分を信号ER2〜ER6をそれぞれ出力する。すなわち、図中の●印で示す対象画素に関して、○印で示す参照画素A,B,Cにおける誤差成分|S4−Si|(Siは、Sct,Spr,S2,S3,Stf)の総和を出力する。
判定部30は、制御信号CT4の動き補正モード情報MC(前述した第3図の発生頻度計測部14で計測する動きベクトル発生頻度のうちで例えば領域Eの発生頻度が20%以上の場合は非動き補正処理のMC=1、それ以外は動き補正処理のMC=0に設定)と、信号ER1〜ER6をもとに、第16図(b)に示す選択信号SLを設定する。すなわち、信号MC=0では、ER1が閾値未満の場合は信号Smc、ER1が閾値以上の場合は、ER2が最小値の時は信号Spr、ER3が最小値の時は信号Sct、……、ER6が最小値の時は信号S2を選択するように選択信号SLを設定する。一方、信号MC=1では、信号S2を選択するように選択信号SLを設定する。
選択部31は、選択信号SLで定まる信号を選択して出力する。
以上に述べたメディアンフィルタ構成を採用することで、動きベクトルの不正確さに起因する孤立点的な劣化や動画エッジ周縁部の劣化などの動き補正に固有な画質劣化を大幅に抑圧することができ、高画質化が達成できる。
以上に述べた如く、本発明の第1の実施例によれば、動きベクトルの探索に要する演算量が少なく、かつ、動き補正処理に起因する画質劣化の少ない画像信号のフレーム数変換装置が実現できる。そして、高画質化、低コスト化に顕著な効果を得ることができる。
次に、本発明の第2の実施例について、第17図〜第18図の図面で説明する。なお、本実施例は、シーンチェンジ領域での演算量の増加を抑圧するに好適なものである。
第17図は、このブロック構成図で、第1の実施例(第1図)に、シーンチェンジ検出部32を追加した構成で実現する。そして、シーンチェンジの発生した領域では、動きベクトルの探索や動き補正のフレーム内挿の処理を中止する。
第18図は、シーンチェンジ検出部32の一構成例を示す図である。図において、減算部33は、現フレームの信号S2と前フレームの信号S3の輝度信号成分の減算演算を行い、1フレーム間の差分成分FDを抽出する。一般に、シーンチェンジの領域では、画像の内容が切り替わるため、差分成分FDの信号レベルは比較的大きな値を持つ。そこで、2値量子化部34は比較的高いレベルの閾値±Thbで信号FDを画素毎に2値量子化する。そして、閾値±Thb未満の画素は0、閾値を越える画素は1を信号QSに出力する。1フレーム累積部35は、信号QSが1のものの画素の数を1フレーム期間で計測し、1フレーム期間の累積値AQを出力する。判定部36は、累積値AQの値が全画面の半分以上の画素数で、かつ、その発生が1フレーム期間に限られる場合をシーンチェンジの発生したフレームと判定する。この理由は、画面全体が一様な速度で動く水平パンや上下パンの動きを誤ってシーンチェンジと検出する誤動作を避けるためである。そして、信号SCFGにシーンチェンジの発生したフレームでは1、それ以外のフレームでは0を出力する。
その他の動作、構成は第1の実施例と同様であり、説明は省略する。
以上に述べた如く、本実施例によれば、第1の実施例に較べて、より少ない演算量で画像信号のフレーム数変換装置を実現できる。そして、高画質化、低コスト化に顕著な効果を得ることができる。
次に、本発明の第3の実施例について、第19図のブロック構成図を用いて説明する。本実施例は、飛び越し走査の信号系列で動きベクトルの探索を行うに好適なものである。
1フレーム遅延部2は、飛び越し走査の入力画像信号S1(輝度信号成分と色差信号成分)を1フレームの期間遅延させるもので、その出力に前フレームの飛び越し走査の信号系列S10を得る。
動き検出部3は、現フレームの信号系列S1と、前フレームの信号系列S10の輝度信号成分の減算処理で1フレーム間の差分信号を抽出し、これを2値量子化して動き検出信号MD1、MD2を制御部8に出力する。
ブロック単位動きベクトル探索部4は、ブロック単位(例えば16画素×16ラインあるいは8画素×8ライン)の動きベクトルを検出する。すなわち、制御部8の制御信号CT1のうちの動き検出信号MD1が0のブロックは静止ブロックと判定し、ブロック単位動きベクトルBMVに0を出力する。一方、MD1が1のブロックは動画ブロックと判定し、信号S1とS10の輝度信号成分、あるいは輝度信号成分と色差信号成分に対して、前述した参照ベクトル探索処理あるいは動きベクトル分布適応探索処理を行い、ブロック単位動きベクトルBMVを検出する。
動きベクトル修正部5は、輝度信号成分、あるいは輝度信号成分と色差信号成分の予測誤差成分が閾値以上のブロックに対し、ブロックを水平、垂直に細分化したミニブロック(例えば2画素×2ライン)毎に、現ブロックおよび隣接ブロックの動きベクトルのうちで予測誤差成分が最少なものをミニブロックの動きベクトルとするミニブロック分割探索の修正を行い、修正動きベクトルBVを生成する。
画素単位動きベクトル生成部6は、現ブロックとこれに隣接するブロックの動きベクトルのうちで、動き補正処理した現フレームと前フレームの信号の輝度信号成分あるいは輝度信号成分と色差信号成分の絶対値差分成分が最小なものを画素の動きベクトルPVとして生成する。
IP変換部1は、飛び越し〜順次の走査変換の信号処理を行い、順次走査の信号系列SP(輝度信号成分と色差信号成分)に変換する。なお、このIP変換部は従来の動き適応型あるいは動きベクトルPVを利用した動き補正型の処理のいずれでも構成することができる。
MC内挿フレーム信号生成部7は、メディアンフィルタ構成で、画素単位動きベクトルPVをもとに生成する複数種類の補間信号のうちで動き補正誤差が最小なものを選択出力し、動き補正フレーム数変換処理でフレーム周波数をアップした順次走査の画像信号系列S4(輝度信号成分と色差信号成分)を得る。
制御部8は、以上の動作に必要な制御信号CT1〜CT4を生成し、各部に出力する。
なお、各部の構成および動作は、前述の第1の実施例から容易に理解することができるため、説明は省略する。
次に、本発明の第4の実施例について、第20図〜第22図を用いて説明する。本実施例は、画像符号化で使用した動きベクトル情報をもとに動きベクトルの探索を行うに好適なものである。
第20図は、このブロック構成図で、上述の第3の実施例のブロック単位動きベクトル探索部5を、ブロック単位動きベクトル変換部37で置き換えた構成で実現する。
このブロック単位動きベクトル変換部37の一構成例と動作概略を第21図〜第22図に示す。
第21図において、Pベクトル変換部38、Bベクトル変換部39は、画像符号化で使用する動きベクトル情報MVのベクトル変換処理を行い、飛び越し走査系の1フレーム当たりの変換ベクトルMVpとMVbを生成する。
第22図はこの動作概略を示す図である。画像符号化、特に、国際標準のMPEGビデオ符号化では、第22図(a)に示すように、画像信号シーケンスをIピクチャ、Pピクチャ、Bピクチャに分け、Iピクチャではフレーム内DCT(離散コサイン変換)符号化、Pピクチャでは一方向MC符号化+DCT符号化、Bピクチャでは双方向MC符号化+DCT符号化を行う。
第22図(b)は、Pピクチャの符号化に使用する動きベクトルPV1,PV2,…を示す。この動きベクトルは画像信号シーケンスのPピクチャ間のnフレーム(図ではn=3)での動きベクトルに相当する。従って、Pベクトル変換部38では、この動きベクトルを1/n(図では1/3)に変換したPV1/3,PV2/3,…で変換ベクトルMVpを生成する。
第22図(c)はBピクチャの符号化に使用する動きベクトルBV11,BV12、BV21,BV22…を示す。このうち、BV11,BV21,BV31,…は1フレーム間の動きベクトルに相当している。従って、Bベクトル変換部39では、これらの動きベクトルで変換動きベクトルMVbを生成する。
第21図に戻り、判定部40では、動き検出信号MD1が1の動画ブロックに対し、変換ベクトルMVp、MVbによるブロック単位の動き補正誤差を算出し、値の小さいものを代表動きベクトルBMVに出力する。なお、静止ブロックに対しては、BMVに0を出力する。
制御部41は、これらの動作に必要な制御信号類を生成する。
以上に述べた如く、本発明の第4の実施例によれば、動きベクトルの探索に要する演算量を更に少なくする画像信号のフレーム数変換装置が実現できる。そして、高画質化、低コスト化に顕著な効果を得ることができる。
次に、本発明の第5の実施例を第23図のブロック構成図に示す。本実施例は、先の第3の実施例にシーンチェンジ検出部32を追加した構成で実現する。
また、本発明の第6の実施例を第24図のブロック構成図に示す。本実施例は、先の第4の実施例にシーンチェンジ検出部32を追加した構成で実現する。
これら実施例における構成や動作は、これまでの説明で容易に理解できるため説明は省略する。
最後に、本発明のフレーム数変換装置をテレビジョン受像機に適用した実施例について、第25図〜第26図を用いて説明する。
第25図は、この第1の実施例のブロック構成例を示す図で、画像を順次走査の形態で表示するに好適なものである。
地上放送信号TVは、チューナー部42でベースバンド帯域のテレビジョン信号に復調する。
衛星放送信号BSは、BSチューナー部43でベースバンド帯域のテレビジョン信号に復調する。
デコーダ部44は、アナログ方式のテレビジョン信号の所定の復調処理を行い、輝度信号と色差信号を復調する。
IRD部45は、デジタル方式のテレビジョン信号の所定の復号化処理を行い、輝度信号と色差信号を復調する。
外部入力信号Exには、VCR等のパッケージメディアやPC画像などの輝度信号と色差信号を入力する。
スイッチ部46は、制御部51の制御信号で指定する信号系列の選択を行う。
動き補正フレーム数変換部47は、本発明のフレーム数変換装置に相当し、動き補正フレーム内挿処理でフレーム周波数をアップした順次走査の信号系列を生成する。例えば、PAL方式のフレーム周波数50Hzの信号の50Hz→60Hz変換では、フレーム順1〜5の入力信号系列からフレーム順1〜6(2〜6は動き補正フレーム内挿処理で生成)の信号系列を生成する。また、50Hz→75Hz変換では、フレーム順1〜2の入力信号系列からフレーム順1〜3(2〜3は動き補正フレーム内挿処理で生成)の信号系列を生成する。あるいは、50Hz→100Hz変換では、フレーム順1の入力信号系列からフレーム順1〜2(2は動き補正フレーム内挿処理で生成)の信号系列を生成する。
スケーリング処理部48は、画像サイズの拡大/縮小、アスペクト比の変換、走査線数の変換などの信号処理を行う。
画質改善部49は、鮮鋭度改善や輝度階調補正などの画質改善信号処理と色空間変換による3原色信号への変換を行う。
順次表示部50は、フレーム周波数が60Hz、又は75Hzか100Hzの順次走査の形態で画像表示を行う。
リモコン受信部52は、ユーザがリモコン端子で操作する各種ユーザ情報(チャネル選択、表示モードなど)を受信する。
制御部51は、受信した各種ユーザ情報に応じて、各部の動作に必要な制御信号類(図面には明示せず)を生成し、被制御部58に出力する。
第26図は、この第2の実施例のブロック構成例を示す図で、画像を飛び越し走査の形態で表示するに好適なものである。これは、上述した第25図の構成にPI変換部53を追加し、インターレース表示部54で飛び越し走査の形態の画像を表示する。
PI変換部53は、順次走査の信号系列の走査線の2:1の間引き処理を行い、飛び越し走査の信号系列に変換する信号処理を行う。
また、インターレース表示部54は、フィールド周波数が60Hz、又は75Hzか100Hzの飛び越し走査の形態で画像表示を行う。
なお、この他のブロックは第25図のものと同一の動作を行うので、説明は省略する。
以上に述べたように、これらの実施例によれば、マルチソース対応の高画質なテレビジョン受像機を、低コストで実現できる。
産業上の利用可能性
本発明は、PAL−NTSCテレビジョン信号の方式変換、PAL50Hz−60Hz/75Hz/100Hz変換、フィルム画像(フレーム周波数24Hz/30Hz)−60Hz変換、テレビジョン信号−パソコン画像信号変換など、各種のフレーム数変換装置に適用し、高画質化・低コスト化に顕著な効果を有する。本発明に係る画像信号のフレーム数変換方法および装置は、テレビジョン受像機、DVDプレーヤ、PC機器、PAD端末などの情報家電機器に適用することができる。
【図面の簡単な説明】
第1図は、本発明の第1の実施例のブロック構成図である。
第2図は、動き検出部の一構成例を示す図である。
第3図は、ブロック単位動きベクトル探索部の一構成例を示す図である。
第4図は、ブロック単位動きベクトル探索部の信号処理フローチャートである。
第5図は、参照ブロックの動きベクトルの領域例を示す図である。
第6図(a)は、動きベクトル発生頻度を計測する領域を示す図、第6図(b)は、探索モード設定条件および探索処理の特性例を示す図である。
第7図は、代表点動きベクトルの配列例を示す図である。
第8図は、動きベクトル修正部の一構成例を示す図である。
第9図は、動きベクトル修正部の信号処理フローチャートである。
第10図は、ミニブロック分割と動きベクトル修正の動作概略を示す図である。
第11図は、画素単位動きベクトル生成部の一構成例を示す図である。
第12図は、画素単位動きベクトル生成部の信号処理フローチャートである。
第13図(a)は、MCベクトル生成の動作を示す図、第13図(b)は、動き補正信号生成の動作概略を示す図である。
第14図は、MC内挿フレーム信号生成部の一構成例を示す図である。
第15図は、メディアンフィルタ部の一構成例を示す図である。
第16図(a)は、参照画素と対称画素の関係を示す図、第16図(b)は、判定部の動作概略を示す図である。
第17図は、本発明の第2の実施例のブロック構成図である。
第18図は、シーンチェンジ検出部の一構成例を示す図である。
第19図は、本発明の第3の実施例のブロック構成図である。
第20図は、本発明の第4の実施例のブロック構成図である。
第21図は、ブロック単位動きベクトル変換部の一構成例を示す図である。
第22図(a)〜(c)は、それぞれベクトル変換部の動作概略を示す図である。
第23図は、本発明の第5の実施例のブロック構成図である。
第24図は、本発明の第6の実施例のブロック構成図である。
第25図は、本発明をテレビジョン受像機に適用した第1の実施例のブロック構成図である。
第26図は、本発明をテレビジョン受像機に適用した第2の実施例のブロック構成図である。
Claims (3)
- 飛越し走査の画像信号系列で現フレームと前フレームの画像の動きを検出してブロック単位動きベクトルを探索するブロック単位動きベクトル探索部と、
前記ブロック単位動きベクトルによる動き補正誤差が閾値未満の場合はブロック単位動きベクトルの修正を行わず、閾値以上の場合は当該ブロックをミニブロックに分割し、各ミニブロック毎に隣接ブロックの動きベクトルのうちで動き補正誤差が最少なものをミニブロックの動きベクトルとすることによりブロック単位動きベクトルの修正を行う動きベクトル修正部と、
修正動きベクトルによる現フレームと前フレームの動き補正信号のミニブロック単位の誤差成分が最少の動きベクトルを画素単位動きベクトルとして生成する画素単位動きベクトル生成部と、
前記画素単位動きベクトルによる現フレームと前フレームの動き補正信号の誤差成分、および誤差評価関数の値に応じて、現フレーム、前フレーム、現フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第1のフレーム、前フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第2のフレーム、前記第1のフレームと前記第2のフレームとの加算平均により生成された第3のフレーム、現フレームと前フレームとの時間方向の直線補間により生成された第4のフレーム、のいずれかの動き補正内挿フレーム信号を生成する動き補正内挿フレーム信号生成部と、
を備え、
前記ブロック単位動きベクトル探索部は、入力画像信号の動きベクトル情報のPピクチャおよびBピクチャの動きベクトルを1フレーム間の動きベクトルに変換して出力するベクトル変換部を有し、動画ブロックに対しては、前記ベクトル変換部から出力される前記1フレーム間の動きベクトルをもとにブロック単位動きベクトルを探索することを特徴とする画像信号のフレーム数変換装置。 - 飛越し走査の画像信号系列で現フレームと前フレームの画像の動きを検出してブロック単位動きベクトルを探索する工程と、
前記ブロック単位動きベクトルによる動き補正誤差が閾値未満の場合はブロック単位動きベクトルの修正を行わず、閾値以上の場合は当該ブロックをミニブロックに分割し、各ミニブロック毎に隣接ブロックの動きベクトルのうちで動き補正誤差が最少なものをミニブロックの動きベクトルとすることによりブロック単位動きベクトルの修正を行う工程と、
修正動きベクトルによる現フレームと前フレームの動き補正信号のミニブロック単位の誤差成分が最少の動きベクトルを画素単位動きベクトルとして生成する工程と、
前記画素単位動きベクトルによる現フレームと前フレームの動き補正信号の誤差成分、および誤差評価関数の値に応じて、現フレーム、前フレーム、現フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第1のフレーム、前フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第2のフレーム、前記第1のフレームと前記第2のフレームとの加算平均により生成された第3のフレーム、現フレームと前フレームとの時間方向の直線補間により生成された第4のフレーム、のいずれかの動き補正内挿フレーム信号を生成する工程と、
を備え、
前記ブロック単位動きベクトルを探索する工程は、入力画像信号の動きベクトル情報のPピクチャおよびBピクチャの動きベクトルを1フレーム間の動きベクトルに変換して出力するベクトル変換工程を有し、動画ブロックに対しては、前記ベクトル変換工程により出力される前記1フレーム間の動きベクトルをもとにブロック単位動きベクトルを探索することを特徴とする画像信号のフレーム数変換方法。 - 飛越し走査の画像信号系列を入力する入力部と、
前記飛越し走査の画像信号系列で現フレームと前フレームの画像の動きを検出してブロック単位動きベクトルを探索し、前記ブロック単位動きベクトルによる動き補正誤差が閾値未満の場合はブロック単位動きベクトルの修正を行わず、閾値以上の場合は当該ブロックをミニブロックに分割し、各ミニブロック毎に隣接ブロックの動きベクトルのうちで動き補正誤差が最少なものをミニブロックの動きベクトルとすることによりブロック単位動きベクトルの修正を行い、修正動きベクトルによる現フレームと前フレームの動き補正信号のミニブロック単位の誤差成分が最少の動きベクトルを画素単位動きベクトルとして生成し、前記画素単位動きベクトルによる現フレームと前フレームの動き補正信号の誤差成分、および誤差評価関数の値に応じて、現フレーム、前フレーム、現フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第1のフレーム、前フレームと前記画素単位動きベクトルから生成されたベクトルとから生成された第2のフレーム、前記第1のフレームと前記第2のフレームとの加算平均により生成された第3のフレーム、現フレームと前フレームとの時間方向の直線補間により生成された第4のフレーム、のいずれかの動き補正内挿フレーム信号を生成するものであり、前記ブロック単位動きベクトルの探索では、入力画像信号の動きベクトル情報のPピクチャおよびBピクチャの動きベクトルを1フレーム間の動きベクトルに変換して出力し、動画ブロックに対しては、前記出力される前記1フレーム間の動きベクトルをもとにブロック単位動きベクトルを探索する画像信号のフレーム数変換部と、
前記画像信号のフレーム数変換部の出力を表示する表示部と、
を備えたことを特徴とする情報家電機器。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP1998/002848 WO1999067952A1 (en) | 1998-06-25 | 1998-06-25 | Method and device for converting number of frames of image signals |
Publications (1)
Publication Number | Publication Date |
---|---|
JP4119092B2 true JP4119092B2 (ja) | 2008-07-16 |
Family
ID=14208485
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000556504A Expired - Fee Related JP4119092B2 (ja) | 1998-06-25 | 1998-06-25 | 画像信号のフレーム数変換方法および装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US6611294B1 (ja) |
EP (1) | EP1104970B1 (ja) |
JP (1) | JP4119092B2 (ja) |
DE (1) | DE69841059D1 (ja) |
WO (1) | WO1999067952A1 (ja) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100708091B1 (ko) * | 2000-06-13 | 2007-04-16 | 삼성전자주식회사 | 양방향 움직임 벡터를 이용한 프레임 레이트 변환 장치 및그 방법 |
EP1400108A1 (en) * | 2001-06-08 | 2004-03-24 | Koninklijke Philips Electronics N.V. | Method and system for displaying a video frame |
US6992725B2 (en) * | 2001-10-22 | 2006-01-31 | Nec Electronics America, Inc. | Video data de-interlacing using perceptually-tuned interpolation scheme |
TWI248073B (en) * | 2002-01-17 | 2006-01-21 | Media Tek Inc | Device and method for displaying static pictures |
US7961251B2 (en) * | 2002-06-28 | 2011-06-14 | Trident Microsystems (Far East) Ltd. | Method and apparatus for conversion of video formats to 120 Hz 4 to 1 interlaced formats |
EP1711931A1 (en) * | 2004-01-27 | 2006-10-18 | Koninklijke Philips Electronics N.V. | Image motion compensation arrangement and method therefor |
KR100555869B1 (ko) * | 2004-06-15 | 2006-03-03 | 삼성전자주식회사 | 저더 검출을 이용한 디인터레이싱 장치 및 방법 |
KR100577684B1 (ko) * | 2004-10-08 | 2006-05-10 | 삼성전자주식회사 | 저더-맵을 이용한 영상 처리 장치 및 방법 |
JP4359223B2 (ja) * | 2004-10-29 | 2009-11-04 | 株式会社 日立ディスプレイズ | 映像補間装置とこれを用いたフレームレート変換装置,映像表示装置 |
US7567294B2 (en) * | 2005-03-28 | 2009-07-28 | Intel Corporation | Gradient adaptive video de-interlacing |
US8472524B2 (en) * | 2006-04-03 | 2013-06-25 | Intel Corporation | Motion compensated frame rate conversion with protection against compensation artifacts |
TWI344790B (en) * | 2007-05-07 | 2011-07-01 | Mstar Semiconductor Inc | Pixel interpolation apparatus and method thereof |
JP2009060377A (ja) * | 2007-08-31 | 2009-03-19 | Toshiba Corp | 補間フレーム生成装置及び補間フレーム生成方法 |
JP5023893B2 (ja) * | 2007-08-31 | 2012-09-12 | ソニー株式会社 | 表示装置 |
JP5106203B2 (ja) * | 2008-03-27 | 2012-12-26 | 株式会社東芝 | 補間画像生成装置、方法およびプログラム |
US20100103313A1 (en) * | 2008-10-23 | 2010-04-29 | Kabushiki Kaisha Toshiba | Signal processor and signal processing method |
JP6598800B2 (ja) * | 2015-01-06 | 2019-10-30 | マクセル株式会社 | 映像表示装置、映像表示方法、及び映像表示システム |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0294955B1 (en) * | 1987-06-09 | 1995-04-12 | Sony Corporation | Motion vector estimation in television images |
EP0294959B1 (en) * | 1987-06-09 | 1994-10-05 | Sony Corporation | Television standards converters |
GB2231744B (en) * | 1989-04-27 | 1993-07-07 | Sony Corp | Motion dependent video signal processing |
GB2231745B (en) * | 1989-04-27 | 1993-07-07 | Sony Corp | Motion dependent video signal processing |
GB2248361B (en) * | 1990-09-28 | 1994-06-01 | Sony Broadcast & Communication | Motion dependent video signal processing |
SE469866B (sv) * | 1991-04-12 | 1993-09-27 | Dv Sweden Ab | Metod för estimering av rörelseinnehåll i videosignaler |
GB2263602B (en) * | 1992-01-24 | 1995-06-21 | Sony Broadcast & Communication | Motion compensated video signal processing |
GB2312806B (en) * | 1993-04-08 | 1998-01-07 | Sony Uk Ltd | Motion compensated video signal processing |
EP0637889B1 (en) * | 1993-08-06 | 2001-01-17 | Lg Electronics Inc. | Device for converting the frame rate of an image |
EP0648052B1 (en) * | 1993-09-08 | 2000-03-01 | THOMSON multimedia | Method and apparatus for motion estimation using block matching |
SG49308A1 (en) * | 1993-09-08 | 1998-05-18 | Thomson Multimedia Sa | Method and apparatus for motion estimation using block matching |
JP3363541B2 (ja) * | 1993-09-28 | 2003-01-08 | キヤノン株式会社 | 画像信号再生装置及び画像処理装置 |
DE69604106T2 (de) * | 1995-03-31 | 2000-01-05 | Thomson Multimedia Sa | Verfahren und Vorrichtung für bewegungskompensierte Erhöhung der Bildfrequenz |
US5761398A (en) * | 1995-12-26 | 1998-06-02 | C-Cube Microsystems Inc. | Three stage hierarchal motion vector determination |
JP2001054075A (ja) * | 1999-08-06 | 2001-02-23 | Hitachi Ltd | 画像信号の動き補償走査変換回路 |
-
1998
- 1998-06-25 JP JP2000556504A patent/JP4119092B2/ja not_active Expired - Fee Related
- 1998-06-25 DE DE69841059T patent/DE69841059D1/de not_active Expired - Lifetime
- 1998-06-25 WO PCT/JP1998/002848 patent/WO1999067952A1/ja active Application Filing
- 1998-06-25 US US09/720,327 patent/US6611294B1/en not_active Expired - Lifetime
- 1998-06-25 EP EP98929690A patent/EP1104970B1/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
EP1104970A1 (en) | 2001-06-06 |
EP1104970A4 (en) | 2005-08-03 |
DE69841059D1 (de) | 2009-09-24 |
EP1104970B1 (en) | 2009-08-12 |
WO1999067952A1 (en) | 1999-12-29 |
US6611294B1 (en) | 2003-08-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4083265B2 (ja) | 画像信号の方式変換方法および装置 | |
JP4119092B2 (ja) | 画像信号のフレーム数変換方法および装置 | |
US5689305A (en) | System for deinterlacing digitally compressed video and method | |
EP0883298A2 (en) | Conversion apparatus for image signals and TV receiver | |
JP4092778B2 (ja) | 画像信号の方式変換装置及びテレビジョン受像機 | |
US8514939B2 (en) | Method and system for motion compensated picture rate up-conversion of digital video using picture boundary processing | |
EP1164792A2 (en) | Format converter using bidirectional motion vector and method thereof | |
US20080151106A1 (en) | Reducing Artefacts In Scan-Rate Conversion Of Image Signals By Combining Interpolation And Extrapolation Of Images | |
JP2001054075A (ja) | 画像信号の動き補償走査変換回路 | |
KR20060047595A (ko) | 적응 시간적인 예측을 채용하는 움직임 벡터 추정 | |
US8355442B2 (en) | Method and system for automatically turning off motion compensation when motion vectors are inaccurate | |
JP4083266B2 (ja) | 動きベクトルの生成方法および装置 | |
JP4092773B2 (ja) | 画像信号のフレーム数変換方法および装置 | |
US8345148B2 (en) | Method and system for inverse telecine and scene change detection of progressive video | |
JP3201079B2 (ja) | インターレース動画像信号の動き補償予測方法、符号化方法及び装置 | |
JP2004320278A (ja) | 動画像時間軸補間方法及び動画像時間軸補間装置 | |
JP3898546B2 (ja) | 画像走査変換方法及び装置 | |
JP2000244877A (ja) | 画像信号の動き補正倍速変換回路及びテレビジョン装置 | |
JP2000261768A (ja) | 画像信号の動き補償走査変換回路 | |
JP2002010267A (ja) | 動きベクトル変換装置及び方法 | |
JP3172323B2 (ja) | 映像信号の方式変換装置 | |
JPH11266440A (ja) | 画像信号の走査変換回路及び画像復号化装置 | |
JP3201344B2 (ja) | インターレース動画像信号の動き補償予測方法及び符号化装置 | |
JPH10257496A (ja) | インターレース動画像の動き補償予測装置 | |
JPH10174105A (ja) | 動き判定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050608 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050608 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070911 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071109 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080422 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080424 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110502 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110502 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120502 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130502 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |