JP4844370B2 - フレームレート変換装置及び表示装置 - Google Patents

フレームレート変換装置及び表示装置

Info

Publication number
JP4844370B2
JP4844370B2 JP2006326447A JP2006326447A JP4844370B2 JP 4844370 B2 JP4844370 B2 JP 4844370B2 JP 2006326447 A JP2006326447 A JP 2006326447A JP 2006326447 A JP2006326447 A JP 2006326447A JP 4844370 B2 JP4844370 B2 JP 4844370B2
Authority
JP
Japan
Prior art keywords
motion vector
interpolation
frame
unit
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006326447A
Other languages
English (en)
Other versions
JP2008141546A (ja
Inventor
浜田宏一
水橋嘉章
中嶋満雄
荻野昌宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2006326447A priority Critical patent/JP4844370B2/ja
Priority to EP07254685.6A priority patent/EP1931145B1/en
Priority to US11/949,907 priority patent/US8319887B2/en
Priority to CN2007101946896A priority patent/CN101197998B/zh
Publication of JP2008141546A publication Critical patent/JP2008141546A/ja
Application granted granted Critical
Publication of JP4844370B2 publication Critical patent/JP4844370B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/521Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Systems (AREA)

Description

本発明は、映像信号のフレーム周波数(以下「フレームレート」と称する)を変換するフレームレート変換技術に関する。
入力映像信号の複数のフレーム間の動きベクトルを探索し、探索した動きベクトルに応じて前後のフレーム画像に含まれる画像の位置を移動させて、新たなフレーム画像を生成し、前後フレーム間に挿入することにより、フレームレートを変換する技術が知られている(例えば、特許文献1参照)。
特開平11−112939号公報
特許文献1に記載の動きベクトルを用いたフレームレームレート変換技術では、入力映像信号の複数のフレーム間の動きベクトルを探索し、この動きベクトルに基づいて新たなブロックを生成することで補間フレームを生成する。
ここで、動きベクトル探索における計算処理量を低減するために、動きべクトルを探索する、動きベクトルの探索範囲を小さくしようとした場合、相対的に当該入力映像信号の動きベクトルにおける当該探索範囲を超える動きベクトルの比率が大きくなる。これにより、動きベクトルの探索ミスが発生して、低画質の補間画像のフレームが増加し、映像の画質が低下するという課題があった。
本発明はこのような課題を鑑みてなされたものであり、本発明の目的は、映像の画質の低下を抑制しつつ、フレームレート変換処理における計算処理量を低減することにある。
上記目的を達成するために、本発明の一実施の態様は、映像信号を入力し前記映像信号に補間フレームを挿入することによって前記映像信号のフレームレートを変換するフレームレート変換装置であって、前記映像信号を入力する入力部と、前記補間フレームの生成処理を行い、前記映像信号の補間処理を行う映像補間部と、前記映像補間部による前記補間フレームの生成処理を制御する制御部とを備え、前記映像補間部は前記補間フレームの生成処理を複数種類の方法で行い、前記制御部は、前記複数種類の方法の切替えを制御する。
本発明によれば、映像の画質の低下を抑制しつつ、フレームレート変換処理における計算処理量を低減することができる。
以下、本発明の実施例を、図面を参照して説明する。
また、各図面において、同一の符号が付されている構成要素は同一の機能を有すること
とする。
また、本明細書の各記載及び各図面における「フレーム」もしくは「フレーム内の所定の領域」という表現は、それぞれ、フレーム画像及びフレーム内の所定の領域の画像の意味も含む。
まず、本発明の第1の実施例について図面を参照して説明する
図1に本発明の第1の実施例に係る動き補正型フレームレート変換装置100のブロック図の一例を示す。
フレームレート変換装置100は、例えば、入力映像信号を入力する入力部1と、複数の方法で当該入力映像信号に係る補間フレームの生成処理を行い、当該入力映像信号のフレームレートを変える映像補間部2と、当該フレームレートを変更した映像信号を出力映像信号として出力する出力部3と、入力部1に入力される入力映像信号について動きベクトルを探索する動きベクトル探索部4と、当該動きベクトル探索部4が探索した当該動きベクトルについてヒストグラム算出処理を行うヒストグラム算出部6と、当該動きベクトル探索部4が探索した当該動きベクトルや、当該ヒストグラム算出部が算出したヒストグラム分布情報や、判定基準情報などを記憶する記憶部8と、当該ヒストグラム分布情報と当該判定基準情報とを用いて、判定処理を行うことにより、前記映像補間部2の補間フレームの生成処理の方法を切替える制御を行う制御部7とをなえる。
以下にフレームレート変換装置100の各構成要素の動作を詳細に説明する。
なお、フレームレート変換装置100の各構成要素の動作は、例えば以下の通り各構成要素の自律的な動作としても良い。また、例えば制御部7が、例えば記憶部8が記憶するソフトウェアと協働することにより実現しても構わない。
まず、入力映像信号が、入力部1に入力される。入力部1は、映像補間部2に入力映像信号を送信する。映像補間部2は、入力部1から取得した入力映像信号に対して補間処理を行う。次に、映像補間部2は、当該補間処理を行って所望のフレームレートに変換した映像信号を出力部3に送信する。出力部3は、当該所望のフレームレートに変換した映像信号をフレームレート変換装置100から出力する。
ここで、映像補間部2が行う補間処理は、その補間フレームの生成方法について、複数の種類の生成方法を選択的に行うものとする。映像補間部2が行う補間フレームの生成方法または補間処理方法の種類の詳細な説明は後述する。
次に、例えば、映像補間部2が動きベクトルを用いて補間処理を行う場合は、前記入力映像信号における、時間的に前後する少なくとも二つの映像フレームの全領域もしくは一部の領域が、入力部1から動きベクトル探索部4に入力される。
ここで、動きベクトル探索部4による動きベクトルの探索処理は、例えば、複数の画素から構成されるブロック毎、もしくは画素毎に、映像フレーム間の動きベクトルを探索する。動きベクトルの探索方式に関してはブロックマッチング等の既知の方式を用いてよく、特に限定されるものではない。 次に、動きベクトル探索部4は、探索処理により求めた動きベクトルを、例えば、映像補間部2、ヒストグラム算出部6、記憶部8などに送信する。
ここで、動きベクトル探索部4による動きベクトルの探索処理において、動きベクトル探索対象フレームにおける動きベクトルを探索する範囲の大きさは、動きベクトルを探索処理の計算処理量に影響する。ここで、動きベクトルを探索処理の計算処理量を低減するためには、例えば、当該動きベクトル探索範囲を小さく設定すればよい。但し、当該動きベクトル探索範囲を小さくするほど、動きベクトルの探索ミスの発生確率は高くなる。尚、動きベクトル探索範囲の詳細と、動きベクトルの探索ミスの詳細は後述する。
次に、映像補間部2は、動きベクトルを用いる補間処理方法によって補間処理を行う場合には、動きベクトル探索部4から取得した動きベクトルを用いて、入力部1から取得した入力映像信号の補間処理を行う。
また、ヒストグラム算出部6は、動きベクトル探索部4から取得した動きベクトルを用いて、画面毎もしくは所定の領域毎の動きベクトルを、動き方向と動き量毎にカウントしたヒストグラム分布を算出する。例えば、このヒストグラム分布の算出処理は、動きベクトル探索部4から取得した動きベクトルをヒストグラム算出部6自体が記憶して、ヒストグラム分布を算出してもよい。また、動きベクトル探索部4から取得して記憶部8が記憶している動きベクトルを用いてヒストグラム分布を算出し、算出したヒストグラム情報を記憶部8に記憶しても良い。この場合は、ヒストグラム算出部6自体が記憶する必要はない。
次に、制御部7は、ヒストグラム算出部6が算出したヒストグラム分布情報を、ヒストグラム算出部6または記憶部8から取得する。また、制御部7は記憶部8からから判定基準情報を取得しする。ここで、制御部7は判定基準情報に基づいてヒストグラム分布情報を解析する。さらに制御部7は判定結果に基づいて補間フレームの生成処理方法の種類を切替える切替指示信号を、映像補間部2に送信する。
例えば、当該判定基準情報には、所定の条件を満たす動きベクトルの数の閾値、所定の条件を満たす動きベクトルの数の前記ヒストグラム分布の母数に対する比率の閾値、当該所定の条件(例えば、所定の動き量の条件、所定の方向の条件またはこれらの組合せ等)自体が格納されている。また当該判定基準を、前記動きベクトル探索部4が動きベクトルの探索ミスを起こした確率が高いか否かを検出できる条件に設定してもよい。この場合、当該動きベクトルの探索ミスの発生確率に応じて、映像補間部2における補間フレームを生成処理を選択することが可能となる。例えば、当該動きベクトルの探索ミスの発生確が低い場合には、動きベクトルを用いたより高画質な補間処理方法を選択する。また、例えば、当該動きベクトルの探索ミスの発生確が高い場合には、動きベクトルを用いない補間処理方法を選択する、この場合、動きベクトルの探索ミスによる補間フレームの画質の低下を防止するなどの制御方法が可能となる。尚、当該判定基準情報の詳細及び制御部7の判定処理の例については後述する。
次に、制御部7から補間処理方法の切替指示信号を取得した映像補間部2は、当該切替指示信号に基づいて、補間処理の方法を変更する。
以上説明したように、本実施例に係るフレームレート変換装置100は、入力映像信号に対して、複数の補間処理方法を選択して補間処理を行い、当該補間処理によりフレームレートを変更した出力映像信号を出力することができる。
また、本実施例に係るフレームレート変換装置は、複数の補間処理方法の切替判定処理を、入力映像信号から取得した動きベクトルと所定の判定基準を用いて行うことにより、補間処理において生成される補間フレームの画質の低下を防止して、出力映像の画質の低下を防止することが可能となる。
次に、図2を用いて、本発明の第1の実施例に係る映像補間部2の補間処理の一例を説明する。
上述のとおり、映像補間部2は、複数の方法の補間フレームの生成方法を、例えば制御部7の切替信号に基づいて切替えて行う。第1の実施例の映像補間部2においては、例えば、図2(a)、図2(b)、図2(c)に示す3種類の補間フレームの生成方法を行う。
尚、以下の図2(a)、図2(b)、図2(c)における説明においては、いずれも補間処理をフレーム単位で行うこととして説明しているが、各補間処理は、フレーム内の所定の領域単位で行っても構わない。この場合は、図2(a)、図2(b)、図2(c)における説明の記載において「フレーム」という記載を「フレーム内の所定の領域」と読みかえればよい。
まず、図2(a)を用いて、時間的に前のフレームを繰り返す補間処理方法を説明する。図2(a)において、横軸は時間が示されている。また、入力映像信号に含まれる前フレーム21と、フレーム21よりも時間的に後ろにある後フレーム23、時間的に両フレームの間にあり補間処理により生成される補間フレーム22とが示されている。また、時間軸上に示されるαは前フレーム21から補間フレーム22までの時間差、時間軸上に示されるβは補間フレーム22から前フレーム21までの時間差を示している。ここで、本方法においては、α、βはどのように設定しても構わない。
ここで、本方法による補間フレーム22の生成方法においては、例えば補間フレーム22上の画素P1の画素値を、フレーム内で画素P1と同一空間画素位置にある前フレーム21上の画素Pa1にある画素値とする。補間フレーム22内の画素を、同様に、前フレーム21上の対応する位置に配置される画素の画素値とすることにより、補間フレーム22を前フレーム21と同じ画像として生成する。本方法の特徴としては、動きベクトル探索や線形補間処理を必要としないため、また計算量が最も小さいという点が上げられる。また、前フレームと比較して画質の劣化がないという効果もある。しかし、本方法においては入力画像によっては、本来動き続けて表示されるべき映像が動いたりとまったりして見える、いわゆるモーションジャダーと呼ばれる画質劣化が生じる可能性がある。
尚、図2(a)の方法において、複数の補間フレームを生成する場合も、上記と同様に、各補間フレーム上の画素値を、同一空間画素位置にある前フレーム上の画素値を用いて生成すればよい。
次に、図2(b)を用いて、時間的に前フレームと時間的に後のフレームとの線形補間を行う補間処理方法を説明する。
本方法による補間フレーム22の生成方法においては、例えば、補間フレーム22上の画素P2の画素値を、フレーム内で画素P1と同一空間画素位置にある前フレーム21上の画素Pa2と、フレーム内で画素P1と同一空間画素位置にある後フレーム23上の画素Pb2とを用いて線形補間により算出する。
具体的には、例えば、下記の数式1を用いて算出すればよい。
Figure 0004844370

本方法の特徴としては、動きベクトル探索を必要としないため、動きベクトル探索を用いる方法よりも、計算量が最も小さいという点が上げられる。また、図2(a)にて説明した時間的に前のフレームを繰り返す補間処理方法と比べ、モーションジャダーは低減され、画質が向上するという効果がある。
尚、図2(b)の方法において、複数の補間フレームを生成する場合も、上記と同様に各補間フレーム上の画素の画素値を、同一空間画素位置にある前フレーム上の画素値と、同一空間画素位置にある後フレーム上の画素値とを用いて生成すればよい。
次に、図2(c)を用いて、動きベクトルを用いた補間処理方法を説明する。
本方法による補間フレーム22の生成方法においては、例えば、補間フレーム22上の画素P3の画素値を算出する場合は、例えば、映像補間部2が、図1の動きベクトル探索部4から取得する動きベクトルを用いる。この場合に用いるベクトルは、例えば、動きベクトル探索部4が探索した動きベクトルのうち、補間フレーム22よりも時間的に前にある前フレーム21を始点とし、補間フレーム22よりも時間的に後ろにある後フレーム23を終点とし、当該画素P3を通過する動きベクトルである。図2(c)においては当該動きベクトルを動きベクトル24として示す。
ここで、本方法による補間処理においては、補間フレーム22上の画素P3の画素値を、例えば、動きベクトル24の始点である画素Pa3の画素値と、動きベクトル24の終点である画素Pb3の画素値とを用いて算出する。例えば、画素Pa3の画素値をそのまま画素P3の画素値としてもよい。また、数式1における「P2」を「P3」に、「Pa2」を「Pa3」に、「Pb2」を「Pb3」に読み替えて、画素P3の画素値を算出してもよい。
本方法の特徴としては、動きベクトル探索を必要するため、図2(a)の方法、図2(b)の方法よりも多くの計算量が必要となるが、動きベクトルを用いているため、フレーム間の画像の動きに応じた補間処理が可能となるという点が挙げられる。この場合、図2(b)の方法よりも動いている物体がボケなどが改善され、動画画質が向上するという効果がある。また、モーションジャダーも低減できる。
次に、動きベクトル探索部4において動きベクトルの探索ミスが発生したときに、図2(c)の方法を用いた場合を説明する。図2(c)の動きベクトル25は、動きベクトル探索部4の動きベクトルの探索ミスによって生じた誤った動きベクトルを示している。ここで、補間フレーム23の生成において、画素P3’の画素値を決定する際に、当該誤った動きベクトル25が用いられる。しかし、補間フレーム23の時点の画素P3’の空間画素位置において、画素Pa3の画素値が通過しているわけではない。よって、画素P3’の画素値を動きベクトル25の始点であるPa3を用いて算出しても、動きベクトル25の始点であるPa3との画素値と動きベクトル25の終点であるPb3’との画素値とを用いて算出しても、画素P3’の画素値は、前フレーム21か後フレーム23への画像の動きに応じた画素値にはならない。
よって、このような動きベクトルの探索ミスが多く発生すると、補間フレームの画質は低下する。
本実施例に係る映像補間部2は、例えば、図2(a)、図2(b)、図2(c)の補間処理方法を選択的に切替えて行うことにより、それぞれの高画質化の利点及び、計算量低減の利点を好適に両立することを可能とする。
次に、図3を用いて、本実施例に係る制御部7が、映像補間部2の補間処理の方法を切替るために用いる判定基準情報の一例について説明する。
図3は、判定基準情報30を示している。判定基準情報30は例えば、図1の記憶部8などに格納され、制御部7が判定基準情報30に含まれる必要な情報を取得すればよい。
なお、図3に示す判定基準情報30は、一例であり、図3に示す内容以外にも、既に説明した判定基準情報の内容を保持しても良い。
図3では、説明のため、判定基準情報30に各情報がマトリックス状に示されている。そのうち、説明のため、行31には、各列のデータの項目名が示されている。行32、行33、行34、行35、行36、行37等が、格納されているデータである。
例えば、行32に可能されるデータはデータ名が「閾値1」であり、データの種類は、「領域A内のベクトル占有率」であり、データの内容は「30%」である。当該データは、例えば動きベクトルの数を用いた閾値のデータである。当該データを用いた判定処理については後述する。
また、例えば、行33に格納されるデータはデータ名が「制限期間1」であり、データの種類は、「切替制限期間」であり、データの内容は「1sec」である。当該データは、例えば補間処理の切替処理を所定の期間だけ制限するための制限期間のデータである。当該データを用いた判定処理については後述する。
また、例えば、行34に格納されるデータはデータ名が「判定期間1」であり、データの種類は、「判定期間」であり、データの内容は「0.3sec」である。当該データは、例えば補間処理の切替処理の判定を行うために用いる所定の期間のデータである。当該データを用いた判定処理については後述する。
また、例えば、行35に格納されるデータはデータ名が「閾値2」であり、データの種類は、「領域A内のベクトル占有率」であり、データの内容は「20%」である。当該データは、「閾値1」と同様の閾値のデータである。当該データを用いた判定処理については後述する。
また、例えば、行36に格納されるデータはデータ名が「取得信号1」であり、データの種類は、「取得信号条件」であり、データの内容は「信号Bが含まれる」である。当該データは、例えば補間処理の切替処理の判定基準条件であり、入力映像信号に信号Bが含まれる場合に切替処理を行うことを示す。当該データを用いた判定処理については後述する。
また、例えば、行37に格納されるデータはデータ名が「閾値2」であり、データの種類は、「領域A内のベクトル占有率」であり、データの内容は「15%」である。当該データは、例えば、入力映像信号に含まれる信号の判定基準条件と、動きベクトルの数を用いた閾値のデータの条件を組み合わせたものである。当該データを用いた判定処理については後述する。
本発明の第1の実施例に係る制御部7は、以上説明した判定基準情報30から、必要なデータを用いて、補間処理方法の切替処理の要否を判定し、映像補間部2に補間処理方法の切替信号を送信する。これにより、本発明の第1の実施例に係る映像補間部2は多様な条件で適切な補間処理の切替えを実現することができる。
次に、図4を用いて、本発明の第1の実施例に係る制御部7が、動きベクトル探索部4が取得した動きベクトルを用いて、補間処理の切替判定処理を行う方法を説明する。
図4は、本発明の第1の実施例に係る制御部7が補間処理の切替判定処理に用いる、動きベクトルのヒストグラム分布の一例である。図4に示す範囲41及び範囲42は、動きベクトル探索部4における動きベクトルの探索範囲を画素単位のマトリックス上にて示している。画素40は、原点画素である。また、H1、V1はそれぞれ、探索範囲41の中心画素から横方向、縦方向の探索範囲端の画素の画素数を示している。また、H2、V2はそれぞれ、探索範囲42の中心画素から横方向、縦方向の探索範囲端の画素の画素数を示している。ここで、探索範囲41および探索範囲42の二つの探索範囲を示したのは、各探索範囲の大きさに係る以下の特徴を説明するためである。すなわち、前者の探索範囲41は、探索範囲が広く、動きベクトルの探索ミスが発生しにくいが、その代わり動きベクトルの探索のための計算量が多くなる。また、後者の探索範囲42は、探索範囲が狭く、計算量が小さくなるが、動きベクトルの探索ミスが発生する確率が高くなる。
また、領域43は探索範囲42内の外側の所定の幅を持った領域である。領域43は本図においては、1画素の幅を持った領域であり、網掛けにて表示されている領域である。例えばこの幅は1画素でも3画素でも構わない。また、位置によって幅が異なっても構わない。探索範囲42内の外側に近い領域であればよい。
次に、本図において各画素内に示される値について説明する。制御部7が切替判定処理に用いるベクトルは、例えば、動きベクトル探索部4が取得した動きベクトルのうち、補間フレームの全体、もしくは補間フレームの所定の領域内の画素を通過する動きベクトルである。すなわち、例えば、図2(c)において前フレーム21上の点を始点とし、後フレーム23上の点を終点とする動きベクトルのうち、補間フレーム22の全体、もしくは補間フレーム22上の所定の領域内の画素を通過するベクトルを用いる。前フレーム21、後フレーム23、補間フレーム22上の所定の領域などは、設計によって適切なものを選択すればよい。以下の説明においては、説明のため、補間フレーム22の全体を通過する動きベクトルを用いることとして統一して説明する。補間フレーム22上の所定の領域内の画素を通過するベクトルを用いるときは、以下の説明における、「補間フレーム22の全体」との記載を「補間フレーム22上の所定の領域内の画素」と読み替えればよい。
ここで、図4(a)には、補間フレーム22の全体を通過する動きベクトルのそれぞれの始点(実際は当該動きベクトルの始点は前フレーム21上にある)を図4の探索範囲上の原点画素40として配置したときに、各画素位置を終点の位置とする動きベクトルの個数を、補間フレーム22の全体を通過する動きベクトル数で除算した値を%表示したヒストグラム分布が示される。
当該ヒストグラム分布の算出処理は、例えば、動きベクトル探索部4が探索して記憶部8が記憶している動きベクトルを用いて、図2のヒストグラム算出部6が算出すればよい。
図4(a)に示すヒストグラム分布は、例えば、動きの少ない映像が入力映像信号としてフレームレート変換装置に入力された場合を示している。すなわち、動きベクトルのヒストグラム分布は、原点画素40の近くのみに分布し、探索範囲41にも、探索範囲42に対しでも十分包括されうる範囲に分布している。この場合、動きベクトル探索部4が探索範囲41、探索範囲42のいずれの探索範囲を用いて動きベクトル探索を行っても、同様の結果を得ることができる。また、動きベクトルの探索ミスは発生しない。
次に、入力映像信号として、動きの多い映像を入力し、動きベクトル探索部4が探索範囲41を用いて動き探索を行った場合の一の補間フレームにおける動きベクトルのヒストグラムを図4(b)に示す。この場合、当該ヒストグラムは、図4(b)に示すように原点画素40から離れて分布する。図4(b)の例では、入力映像信号の映像は右後方に動く映像であることがわかる。このとき、図4(b)のヒストグラム分布は、探索範囲41の範囲内であるが、一部の分布は探索範囲42の範囲外に分布している。よって、例えば当該入力映像信号に対し探索範囲42を用いて動きベクトル探索を行った場合は、探索範囲42の範囲外の分布に属する動きベクトルに関しては動きベクトルの探索ミスが発生することになる。この場合を図4(c)に示す。
図4(c)は、図4(b)と同じ入力映像信号を入力して、動きベクトル探索部4が探索範囲42を用いて動き探索を行った場合の、同一の補間フレームにおける動きベクトルのヒストグラムである。ここで、図4(b)のヒストグラムと図4(c)のヒストグラムの両者を比較する。まず、図4(b)において、探索範囲42の範囲外であった分布の動きベクトルが、探索範囲42の範囲内に探索ミスの動きベクトルとして分布していることがわかる。このとき、動きベクトル探索部4が探索範囲42を動きベクトル探索して取得した動きベクトルを用いて、映像補間部2が図2(c)に示す補間処理を行うと、上述の探索ミスの動きベクトルの発生分だけ補間フレームの画質が低下することとなる。
ここで、図4(b)と図4(c)の両者のヒストグラム分布と、探索範囲41、42の関係を比較すると、以下のことがわかる。すなわち、動きの多い映像の補間処理において、補間フレームの画質が低下を防止するためには、より動きベクトルの探索範囲を大きくして、動きベクトルの探索ミスを低減することが可能となる。しかし、探索範囲が大きくなればなるほど、動きベクトル探索に係る計算量は増大する。
よって、本実施例に係るフレームレート変換装置は、このトレードオフを解消し、計算量の低減と補間フレームの画質が低下防止を両立するために、以下のような処理を行う。すなわち、例えば、動きベクトル探索部4は探索範囲42のような、従来よりも狭い探索範囲を動きベクトルの探索処理を行う。このとき、映像補間部2は、図2(c)に示す動きベクトルを用いた補間処理方法を用いて、より高画質な補間フレームを生成する。次に、図4(c)に示すような動きの多い映像が入力映像信号として入力された場合は、制御部7は、ヒストグラム算出部6が算出したヒストグラム情報を用いて、動きの多い映像が入力されたことを検出する。次に、制御部7は、補間処理部2の補間処理の方法を動きベクトルを用いる図2(c)の方法から、例えば、動きベクトルを用いない図2(b)の補間処理方法に切替えるための補間処理方法切替信号を、映像補間部2に送信する。当該補間処理方法切替信号を取得した映像補間部2は、補間処理方法を図2(c)の方法から図2(b)の方法た図2(a)の方法に切替える。
以上の補間処理を行うことにより、例えば、従来よりも探索範囲が狭いが、計算量の少ない探索範囲を用いて動きベクトルの探索処理を行う場合において、動きの多い映像が入力されても、動きベクトルの探索ミスによる補間フレームの画質低下の影響を防止することができる。
探索ミスによる補間フレームの画質低下と比べると、図2(c)の方法から図2(b)の方法に切替えることによる画質の低下は大きくない。よって、補間処理後の出力映像信号における画質の低下を防止することができる。
以上説明した本実施例に係るフレームレート変換装置における判定処理において、動きの多い映像が入力されたことを検出する方法を図4(a)および図4(c)を用いて、より詳しく説明する。すなわち、本実施例に係る制御部7は、図4(a)および図4(c)に示すヒストグラム分布において、領域43に含まれる分布の総和がヒストグラム分布全体に占める比率を判定パラメータとして取り扱う。例えば、図4(a)においては、領域43に含まれるヒストグラム分布の総和は0%であり、当該判定パラメータは0%である。次に、例えば、図4(c)においては、領域43に含まれるヒストグラム分布の総和は9+26+9+(1×9)=53%であり、当該判定パラメータは53%である。つまり、動きの多い映像が入力されて、動きベクトルの探索ミスが発生する場合は、動きベクトル探索範囲の周辺の領域に分布するヒストグラム分布が、ヒストグラム分布全体に占める割合が高くなる。 ここで、制御部7は、当該判定パラメータと、記憶部8が記憶する図3の判定基準情報30に含まれる閾値とを比較して判定処理を行う。すなわち、図3に示す判定基準情報30の行32に格納されるデータ「閾値1」は、当該閾値を格納していることを表している
。行32のデータ種類にある「領域A内のベクトル占有率」とは、例えば、上述した判定パラメータである、領域43に含まれるヒストグラム分布の全体に対する比率を意味する。ここで、行32に格納されるデータ内容には、このベクトル占有率をパラメータとしたときの閾値が格納されており、その値は「30%」である。
よって、制御部7は、上述した判定パラメータと、当該閾値を比較する。すなわち、当該判定パラメータが30%より低い場合には、映像補間部2が図2(c)に示す補間処理方法を行うように制御する。例えば、図4(a)の場合では、判定パラメータが0%であり、30%よりも低いのでこれに該当する。すなわち、当該判定パラメータが30%以上になった場合に、補間処理切替信号を映像補間部2に送信し、映像補間部2が図2(b)または図2(c)に示す補間処理方法を行うように制御する。例えば、図4(b)の場合は、判定パラメータが53%であり、30%よりも高いのでこれに該当する。
次に、本実施例による切替処理の効果を説明する。図4(a)〜(c)に示したヒストグラム分布は、一の補間フレームに関する動きベクトルを用いて算出したものである。これに対し、図5に示すヒストグラム分布は、一の補間フレームだけでなく、一般的な入力映像信号から生成する多数の補間フレームに関するものである。当該ヒストグラム分布は、探索範囲41を用いて動きベクトル探索し、ヒストグラム分布を算出して、動きベクトルの母数に対する比として示している。各値の単位は0.1%である。なお、図5に示す画素、範囲等のうち、図4と同一記号のものは、同一のものを示す。よって説明は省略する。
図5に示すように、動きの多いシーンや少ないシーンなどが混在した入力映像信号を入力した場合のヒストグラムでも、長期的な統計データでは、中心画素40を中心とする分布となる。
ここで、図5の例では、例えば、探索範囲を探索範囲42としたと仮定すると、探索範囲42の外にあるヒストグラム分布は例えば数%である。これに対し、探索範囲41の範囲内で、探索範囲42の範囲外の面積は、例えば2倍近くある。
よって、探索範囲41の範囲内かつ探索範囲42の範囲外の部分における計算処理は効率が悪いこととなる。特に本実施例による補間処理方法の切替制御を行わない場合は、動きベクトルの探索ミスを発生させないために、探索範囲にマージンをもって広く設定しなければならない。よって、この場合当該計算処理はさらに効率が悪くなる。
ここで、本実施例の動きベクトル探索部4は、例えば、探索範囲42まで動きベクトルの探索範囲を狭めて計算量を低減する。その上で、探索範囲42の範囲外の部分に相当する動きベクトル探索ミスが多い補間フレームに関しては、上述した補間処理方法の切替処理を制御部7が行うことにより、動きベクトルを用いない補間処理方法に切替えて当該フレーム画質低下を防止する。
よって、以上説明した図4(a)〜(c)および図5の例では、計算量を約1/3としながら、画質の低下の低減を防止している。
また、動きベクトルの探索範囲は、例えば、図5のような統計的に算出したヒストグラムを用いて、設定すればよく、探索範囲42には限られない。他の処理等との兼ね合いで設定すればよい。
また、図4(a)〜(c)および図5に示した領域43は必ずしも画素単位の領域である必要は無い。例えば、領域43の換わりに、所定の方向を有する所定の動き量のベクトルの条件として設定して、記憶部8が保持してもよい。
また、図4(a)〜(c)および図5に示した、各探索範囲、領域、動きベクトルのヒストグラム分布等は、説明のための一例であって、いずれも必要に応じて設定すればよい。
また、図4(a)〜(c)および図5に示した動きベクトルのヒストグラム分布は、図2(c)の補間フレーム22の全体もしくは、所定の領域を通過するベクトルとした。しかし、必要に応じて動きベクトルの始点が、前フレーム21の所定の領域内にあるものなどの限定を加えても構わない。例えば、補間処理に用いる動きベクトルから算出したヒストグラムであれば、いずれのヒストグラム分布もでよい。
また、図4(c)における判定パラメータおよび図3の判定基準情報30の閾値1は、一の補間フレームにおける領域43における動きベクトルのヒストグラム分布の占有率を用いて判定した。このとき、例えば、その判定パラメータおよび閾値を複数の補間フレーム間における領域43における動きベクトルのヒストグラム分布の占有率の差分としてもよい。例えば、補間フレーム間での当該占有率の差分のその判定パラメータとしてもよい。この場合は、フレーム間での画像の動きの量の増減を基準とすることができる。これを図4(a)の補間フレームの次の補間フレームが図4(c)であったと考えた場合、両者の判定パラメータの差分は、53%−0%=53%となる。ここで、当該差分に対する閾値も図3の判定基準情報30に含まれる閾値1と同じく30%であったとすると、53%≧0%である。よって、上述の当該占有率の絶対値を用いたパラメータの場合と同じく、図4(c)の補間フレームにおいて補間処理方法は切替わることとなる。
以上説明した、動きベクトルのヒストグラム分布を用いた補間処理の切替判定処理を用いれば、動きベクトルの探索範囲を小さくして計算処理量を低減することと、動きベクトルの探索ミスによる画質の低下の防止を両立することが可能である。
よって、本発明の第1の実施例によれば、映像の画質の低下を抑制しつつ、フレームレート変換処理における計算処理量を低減することができる。
次に、本発明の第2の実施例について図面を参照して説明する
第2の実施例に係るフレームレート変換装置は、第1の実施例に係るフレームレート変換装置において、制御部7の切替判定処理に係る切替制限期間もしくは判定処理に所定の期間を設定するものである。または、第1の実施例に係るフレームレート変換装置において、制御部7の判定処理にヒステリシスを持たせるものである。
図6を用いて当該判定処理の一例を説明する。図6には3つのグラフが示されている。上段に示された図は、第1の実施例で説明した判定パラメータの値の時間的な推移61を示している。第1の実施例で説明したとおり、この値が大きいほど、動きの多い映像の補間処理を行うこととなる。中段および下段に示された図は、判定パラメータの推移61と、同時間軸における、フレームレート変換装置の補間処理方法を示した推移62、63が示されている。
ここで図6において、例えば、判定パラメータの推移61は、ヒストグラム算出部6が生成したヒストグラム分布から制御部7が算出する判定パラメータを示したものである。 また、補間処理方法の推移62、63は、制御部7が映像補間部2に対して行う切替処理の制御により求められる。
補間処理方法の推移62は、制御部7が当該切替えの所定の制限期間を設けない場合を示している。当該切替処理は、原則として判定パラメータ値と図示される閾値1とを比較して行われる。この閾値1は、実施例1における「閾値1」と同様のものである。例えば、制御部7は、判定パラメータ値が閾値1よりも小さいときは、原則として補間処理方法に動きベクトルを使用した補間処理方法を選択する。また例えば、制御部7は、判定パラメータ値が閾値1よりも小さいときは、原則として補間処理方法に動きベクトルを使用した補間処理方法を選択する。また例えば、制御部7は、判定パラメータ値が閾値1よりも大きいときは、原則として補間処理方法に動きベクトルを使用しない補間処理方法を選択する。
補間処理方法の推移63は、制御部7が当該切替えの所定の制限期間を設ける場合を示している。この場合、補間処理方法の推移62の原則的な切替制御に加えて、例えば、制御部7は、例外として、当該切替えの所定の制限期間を設ける。もしくは、制御部7は、例外として、当該切替判定のための所定の判定期間を設ける。
以下に、制御部7が当該切替えの所定の制限期間を設けない場合と設ける場合とを、それぞれ説明する。
まず、制御部7が当該切替えの所定の制限期間を設ない場合について図6の判定パラメータの推移61と、補間処理方法の推移62を用いて時系列に説明する。まず、時刻t0から時刻t1までは、判定パラメータ値が閾値1よりも小さい。よって、制御部7は、補間処理方法に動きベクトルを使用した補間処理方法を選択する。次に、時刻t1において、判定パラメータ値が閾値1を超える。よって、制御部7は、補間処理方法を動きベクトルを使用しない補間処理方法を選択し、映像補間部2に補間処理切替信号を送信する。次に、時刻t2において、判定パラメータ値が閾値1以下となる。よって、制御部7は、補間処理方法を動きベクトルを使用する補間処理方法を選択し、映像補間部2に補間処理切替信号を送信する。次に、時刻t3において、判定パラメータ値が閾値1を超える。よって、制御部7は、補間処理方法を動きベクトルを使用しない補間処理方法を選択し、映像補間部2に補間処理切替信号を送信する。さらに、次に、時刻t4において、判定パラメータ値が閾値1以下となる。よって、制御部7は、補間処理方法を動きベクトルを使用する補間処理方法を選択し、映像補間部2に補間処理切替信号を送信する。以降、判定パラメータ値が閾値1をまたいで変化することが無いので、補間処理方法の切替えは発生しない。
ここで、図6の補間処理方法の推移62では、特に制御部7は切替制御について制限期間を設ない。そのため、例えば、時刻t2から時刻t3のような短い期間でも補間処理方法の切替処理が発生してしまう場合がある。短時間に補間処理方法の切替処理が頻繁に発生すると、フレームレート変換処理後の出力映像に不自然な動きがあるとユーザに認識される場合がある。
よってこの現象を改善するために、制御部7が当該切替えの所定の制限期間を設ける場合について図6の判定パラメータの推移61と、補間処理方法の推移63を用いて時系列に説明する。まず、時刻t0から時刻t1までは、判定パラメータ値が閾値1よりも小さい。よって、制御部7は、補間処理方法に動きベクトルを使用した補間処理方法を選択する。次に、時刻t1において、判定パラメータ値が閾値1を超える。よって、制御部7は、補間処理方法を動きベクトルを使用しない補間処理方法を選択し、映像補間部2に補間処理切替信号を送信する。ここで、制御部7は、補間処理切替信号を送信した時刻t1より、切替制限期間64が経過するまでは、次の補間処理切替信号の送信を制限する。当該切替制限期間64は、例えば、制御部7が記憶部8に記憶される判定基準情報30から取得しておく。例えば、図3の判定基準情報30における行33の制限期間1の「1sec」を用いれば、補間処理方法の切替えの発生後1秒間については、映像補間部2の補間処理方法の切替えは行わない。よってこの場合、図6においては時刻t2から時刻t3まで、および時刻t4から時刻t5までは、いずれも判定パラメータ値が閾値1よりも小さい。しかし両期間とも、時刻t1からの切替制限期間64に含まれるため、両期間内においては、補間処理方法の切替えは行われない。そして、切替制限期間64が終了する時刻t5において、判定パラメータ値が閾値1よりも小さいため、制御部7は、補間処理方法を動きベクトルを使用する補間処理方法を選択し、映像補間部2に補間処理切替信号を送信する。
以上のように、補間処理方法の切替判定処理において切替制限期間を設けることにより、所定の期間において補間処理方法の切替えを制限することができる。これにより、例えば、時刻t2から時刻t3までのように、判定パラメータ値が短い時間に閾値1を複数回跨ぐ場合などでも、補間処理方法の切替処理が短時間において頻繁に発生することを防止できる。これにより、フレームレート変換処理後の出力映像を自然な動きの映像とすることが可能となる。
次に、上述した切替制限期間64の替わりに、判定期間65を用いる場合について説明する。上述した切替制限期間64は、補間処理方法の切替処理が発生してから所定の期間については、次の補間処理方法の切替処理の発生を制限する期間である。これに対し、判定期間65は、判定基準情報30に格納される判定基準を満たした時刻には、補間処理方法の切替処理を行わない。判定期間65は、当該時刻から当該判定基準を満たした状態が所定の期間連続して続いた場合に、補間処理方法の切替処理を行うための期間である。
判定期間65の適用例を、図6の判定パラメータの推移61と、補間処理方法の推移63を用いて、時刻t4からの処理と、時刻t4からの処理を比較して説明する。また、説明のため、補間処理方法の推移63についての切替制限期間64は無いものとして説明する。図6では、判定期間65を用いた補間処理方法の切替処理においても、補間処理方法の推移63の結果となるものとする。
まず、時刻t4からの処理について説明する。時刻t4において、判定パラメータ値は閾値1よりも小さくなる。しかし、この時点では、制御部7では、補間処理切替信号を送信しない。次に、判定期間65を経過する時刻t5において、制御部7は以下の判定を行う。すなわち、判定期間65の間、判定パラメータ値が判定基準を満たした状態であったかを判定する。すなわち時刻t4から時刻t5まで、判定パラメータ値が閾値1を下回った状態であったかを判定する。図6においては、当該基準を満たしているので、時刻t5において、制御部7は、補間処理方法を動きベクトルを使用する補間処理方法を選択し、映像補間部2に補間処理切替信号を送信する。
次に、時刻t2からの処理について同様に説明する。ここで、時刻t2から時刻t3までの期間は、判定期間65よりも短いものとする。まず、時刻t2において、判定パラメータ値は閾値1よりも小さくなる。この時点では、制御部7では、補間処理切替信号を送信しない。次に、時刻t3において、判定パラメータ値は閾値1よりも大きくなる。このとき、映像補間部2の補間処理方法は既に、動きベクトルを使用しない補間処理方法であるので、制御部7では、補間処理切替信号を送信しない。ここで、時刻t2から時刻t3までの期間は判定期間65よりも短い。よって、時刻t2から判定期間65を経過する前に、時刻t3判定パラメータ値が判定基準を満たした状態が終了してしまう。そのため、補間処理方法の切替処理は行われなかったということになる。
よって、判定期間65を用いた場合も、切替制限期間64を用いた場合と同様に、例えば、時刻t2から時刻t3までのように、判定パラメータ値が短い時間に閾値1を複数回跨ぐ場合などでも、補間処理方法の切替処理が短時間において頻繁に発生することを防止できる。これにより、フレームレート変換処理後の出力映像を自然な動きの映像とすることが可能となる。
なお、判定期間65も、切替制限期間64と同様に、例えば、制御部7が記憶部8に記憶される判定基準情報30から取得すればよい。例えば、図3の判定基準情報30の行34の「判定期間1」の「0.3秒」などの値を用いればよい。
また、上述の切替制限期間64または判定期間65を用いる方法以外にも、判定パラメータ値が増加している場合と、判定パラメータ値が減少している場合とで、切替判定処理に用いる閾値を変更することで同様の効果を得ることができる。
すなわち、図6に示すように、閾値1以外に閾値2を用いる。例えば、当該閾値2は図3に示す判定基準情報30の行35に格納されるものを使用すればよい。
ここで、制御部7は、例えば、判定パラメータ値が増加している場合は、閾値1を切替判定処理に用いる。また、制御部7は、例えば、判定パラメータ値が減少している場合は、閾値2を切替判定処理に用いる。すなわち、制御部7の切替判定処理において、判定パラメータ値に関するヒステリシスをもたせることとなる。
上記のように複数の閾値を用いた例を、図6の判定パラメータの推移61と、補間処理方法の推移63を用いて説明する。また、説明のため、補間処理方法の推移63についての切替制限期間64および判定期間65は無いものとして説明する。複数の閾値を用いた場合も、図6の補間処理方法の推移63の結果となるものとする。
まず、時刻t0から時刻t1までの期間においては、判定パラメータ値が増加している。よって、制御部7は閾値2では切替処理を行わない。次に、判定パラメータ値が閾値1に達する時刻t1において、制御部7は、補間処理方法を動きベクトルを使用しない補間処理方法を選択し、映像補間部2に補間処理切替信号を送信する。また、時刻t2においては、判定パラメータ値が減少している。よって、判定パラメータ値が閾値1に達しているが、閾値2に達していないので、制御部7切替処理を行わない。また、時刻t2においては、判定パラメータ値が増加している。よって、制御部7が用いる閾値は閾値1である。しかし、補間処理方法は既に動きベクトルを使用しない補間処理方法であるので、制御部7切替処理を行わない。次に時刻t4以降は、判定パラメータ値は減少しているため、制御部7が用いる閾値は閾値2である。よって、制御部7は時刻t4では切替処理を行わない。次に、時刻t5において、制御部7は補間処理方法を動きベクトルを使用する補間処理方法を選択し、映像補間部2に補間処理切替信号を送信する。
以上説明したように、複数の閾値を用いた場合も、切替制限期間64や判定期間65を用いた場合と同様な効果を有する。すなわち、例えば、時刻t2から時刻t3までのように、判定パラメータ値が短い時間に閾値1を複数回跨ぐ場合などでも、補間処理方法の切替処理が短時間において頻繁に発生することを防止できる。これにより、フレームレート変換処理後の出力映像を自然な動きの映像とすることが可能となる。
以上説明した、いずれの補間処理の切替判定処理を用いても、補間処理方法の切替処理が短時間において頻繁に発生することを防止でき、フレームレート変換処理後の出力映像を自然な動きの映像とすることが可能となる。
よって、本発明の第2の実施例によれば、映像の画質の低下を抑制しつつ、フレームレート変換処理における計算処理量を低減し、また、フレームレート変換処理の映像が不自然な動きになることを防ぐことができる。
次に、本発明の第3の実施例について図面を参照して説明する
第3の実施例に係るフレームレート変換装置は、第1の実施例もしくは第2の実施例のフレームレート変換装置において、制御部7の切替判定処理にて、その他の判定基準情報を用いるものである。
例えば、第3の実施例において制御部7は、図3に示す判定基準情報30に格納される行36の判定条件を用いる。判定基準情報30の行36に格納されるデータは、データ名が「取得信号1」であり、データの種類は、「取得信号条件」であり、データの内容は「信号Bが含まれる」である。
制御部7は、行36に格納されるデータを判定基準として用いる。この場合、例えば、制御部7は図2の入力部1に入力される入力信号に、「信号B」が含まれるか否かを判定する。入力信号に「信号B」が含まれない場合は、制御部7は、映像補間部2の補間処理の方法が動きベクトルを使用する補間処理方法となるように制御する。次に、入力信号に「信号B」が含まれる場合は、制御部7は、映像補間部2の補間処理の方法が動きベクトルを使用しない補間処理方法となるように、映像補間部2に補間処理切替信号を送信する。
以上のような判定基準を用いることにより、例えば、入力映像信号に含まれるシーンの切替わりを示す信号などを検知して、補間処理方法を変更することが可能となる。例えば、シーンの切替わりなどで、動きベクトルを使用した補間処理方法を用いると適切でない補間処理が行われる場合などに適用できる。
当該取得信号条件で判定基準として用いる信号は、例えば、本実施例の判定処理を行うための特別な信号を入力映像信号に含めても良い。それ以外にも、既存の入力映像信号に含まれる信号を判定基準としてもよい。
また、例えば、図3の判定基準情報30のうち、行37に格納されるデータのような入力映像信号に含まれる信号の判定基準条件と、動きベクトルの数を用いた閾値のデータの条件を組み合わせたものを判定基準として用いても良い。この場合は、補間処理方法の切替処理の判定基準となる閾値を入力映像信号に含まれる信号に応じて可変することが可能となる。
また、例えば、制御部7は、入力映像信号に含まれる信号に基づいて、判定基準情報30に格納される各閾値を変更しても良い。この場合は、判定基準情報30に予め複数の閾値を用意しなくともよい。また、入力映像信号に含まれる信号に対して、さらに細かな対応関係をもつ閾値を判定基準とすることができる。例えば、閾値を入力映像信号に含まれる信号に含まれる数値データを変数とする関数とすればよい。
よって、以上説明した本発明の第3の実施例によれば、映像の画質の低下を抑制しつつ、フレームレート変換処理における計算処理量を低減し、また、フレームレート変換処理適切でない補間処理が行われることを防止することが可能となる。
次に、本発明の第4の実施例について図面を参照して説明する
第4の実施例に係るフレームレート変換装置は、第1乃至第3の実施例に係るフレームレート変換装置において、フレーム内の複数の領域において独立した補間処理方法を行うものである。
図7に、第4の実施例に係るフレームレート変換装置の出力映像の一例を示す。
第4の実施例は、例えば、図7に示されるように一つの映像フレーム70内の2つの映像領域C71、映像領域D72において、それぞれ別の映像を表示する場合などに用いる。第3の実施例に係るフレームレート変換装置の制御部7においては、映像領域C71と映像領域D72で、それぞれ判定基準情報を用いた判定処理を行う。また、その判定処理の結果に応じて、それぞれの領域ごとの補間処理方法の切替信号を映像補間部2に送信する。このとき、映像補間部2は、それぞれの領域ごとの補間処理方法の切替えを行う。
このとき、判定基準情報は、映像領域C71における補間処理方法の切替判定処理と、映像領域D72における補間処理方法の切替判定処理とにおいて共通の判定基準情報を使用しても構わない。また、各領域に対応した判定基準情報を、制御部7が生成して記憶部8に格納し、これを各領域の切替判定処理においてそれぞれ用いても構わない。
本実施例では、映像フレーム70内の2つの映像領域C71、映像領域D72においてそれぞれ独立した補間処理を行う。このようにすれば、例えば、映像領域C71には比較的動きの少ない映像が表示され、映像領域D72には動きベクトル探索範囲を越えるような動きの激しい映像があった表示される場合においても、例えば、映像領域C71は動きベクトルを用いた補間処理方法を用い、映像領域D72は動きベクトルを用いない線形補間による補間処理方法を行えばよい。このように領域ごとに補間処理を異ならせて、フレームレート変換を行うことができる。
以上の説明は、映像フレーム内の2つの領域を例に挙げて説明したが、本実施例は、特に2つの領域に限定されるものでは無く、2つ以上の複数の領域に同様に適用できる。
以上説明した、同一フレーム内において画像の動きの異なる複数の領域の領域の位置の情報は、予め設定して記憶部8に格納しておいてもよい。また、動きベクトル探索部4が算出し、記憶部8に格納した動きベクトルを、制御部7が統計的に評価して各領域の範囲を決定しても良い。
よって、以上説明した本発明の第4の実施例によれば、同一フレーム内において画像の動きの異なる複数の領域を含む入力映像に対しても、映像の画質の低下を抑制しつつ、フレームレート変換処理における計算処理量を低減することが可能となる。
次に、本発明の第5の実施例について図面を参照して説明する
第5の実施例に係る表示装置は、第1乃至第4の実施例に係るフレームレート変換装置
を、フレームレート変換部として備える表示装置である。
図8は、第5の実施例に係る表示装置800の一例を示したブロック図である。表示装置800は、例えば、アンテナ81、チューナー部82、信号処理部83、表示部84、フレームレート変換部85、入力部86、および制御部810を備える。
なお、以下に記載される表示装置800の各構成要素の動作は、各構成要素の自律的な動作でもよく、各構成要素に接続する制御部810からの制御によるものでもよく、制御部810がソフトウェアと協働して実現してもよい。
ここで、アンテナ81は、外部から電波を受信し、受信した電波をチューナー部82に送る。チューナー部82は、アンテナ81から受けた電波を映像信号に変換し、変換した映像信号を信号処理部83に送る。信号処理部83は、チューナー部82から取得した映像信号の信号処理を行い、信号処理後の映像信号を表示部84に送る。表示部84は信号処理部83から取得した映像信号を表示する。
ここで、アンテナ81が受信する電波は、例えば、TV放送波などである。
ここで、制御部810は、信号処理部83またはフレームレート変換部85に制御信号を送ることにより、信号処理部83およびフレームレート変換部85を、チューナー部82から受けた映像信号に対してフレームレート変換処理を行って、表示部84に出力するように制御することができる。
このとき、制御部810からの制御信号を取得した信号処理部83は、チューナー部82から受けた映像信号もしくは、信号処理部83が信号処理を行った映像信号をフレームレート変換部85に送信する。次に、信号処理部83から映像信号を取得したフレームレート変換部85は、例えば、第1乃至第4の実施例に係るフレームレート変換装置と同様のフレームレート変換処理、もしくはこれら処理を組み合わせたフレームレート変換処理を行う。次に、フレームレート変換部85は、フレームレート変換処理後の映像信号を信号処理部83に送信する。次に、信号処理部83がフレームレート変換部85から取得した映像信号または、当該映像信号に信号処理を行った映像信号を表示部84に出力する。表示部84は信号処理部83から取得した映像信号を表示する。
このとき、フレームレート変換部85が行うフレームレート変換処理においては、第1乃至第4の実施例と同様の補間処理の切替判定処理が行われる。ここで、当該切替判定処理に用いる判定基準情報は、予めフレームレート変換部85が保持する記憶部に格納しておいてもよい。また、制御部810が当該判定基準情報を制御して設定、変更を行ってよい。
また、図8においてフレームレート変換部85は信号処理部83と異なるブロックとして図示しているが、両者が同一回路上に組み込まれていてもよい。
また、以上の説明においては、図8の表示装置800の映像信号の取得経路は、アンテナ81で受信する電波として説明した。しかし、表示装置800は、アンテナ81とチューナー部82を用いて映像信号を取得する方法以外にも、例えば、図示する入力部86から映像信号を取得してもよい。このとき、入力部86は、例えば、ネットワークと接続するLAN用コネクタを備えた入力部でもよく、USBコネクタを備えた入力部でもよい。さらに、映像信号や音声信号をデジタル入力する端子を備えた入力部でもよく、コンポジット端子やコンポーネント端子などのアナログ入力端子を備えた入力部でもよい。いずれの場合も信号処理部83が映像を取得することができる。
また、入力部86が上記の各端子を介してインターネット等のネットワークに接続するときは、例えば、インターネット放送などの映像信号を取得してもよい。
また、表示装置800は、例えば、プラズマテレビでも、液晶テレビでも、ブラウン管でも、プロジェクタでもよく、また他のデバイスを用いた装置でも良い。同様に、表示部84は、例えばプラズマパネルモジュールでも、LCDモジュールでも、プロジェクタ用デバイスでもよい。
よって、本実施例に係る表示装置800においては、取得した映像信号に対して、第1乃至第4の実施例に係るフレームレート変換処理を行い、これを表示する表示装置を実現することができる。
よって、本発明の第5の実施例によれば、、映像の画質の低下を抑制しつつ、フレームレート変換処理における計算処理量を低減する表示装置を実現することが可能となる。
次に、本発明の第6の実施例について図面を参照して説明する
第6の実施例に係る表示装置は、第1乃至第4の実施例に係るフレームレート変換装置
を、フレームレート変換部として備える記録装置である。
図9は、第6の実施例に係る記録装置900の一例を示したブロック図である。記録装置900は、例えば、アンテナ81、チューナー部82、信号処理部83、フレームレート変換部85、入力部86、出力部91、映像記憶部92、および制御部810と備える。すなわち、映像記録装置900は第5の実施例に係る表示装置800に対して、例えば、表示部84の替わりに、出力部91と映像記憶部92を備えたものである。よって、アンテナ81、チューナー部82、信号処理部83、フレームレート変換部85、入力部86についての、機能・動作等で第5の実施例における説明とほぼ同様である。異なる点のみ以下に説明する。
なお、以下に記載される記録装置900の各構成要素の動作は、各構成要素の自律的な動作でもよく、各構成要素に接続する制御部810からの制御によるものでもよく、制御部810がソフトウェアと協働して実現してもよい。
出力部91は、信号処理部83から取得する映像信号を、例えば、出力部91に接続される他の表示装置などに出力する。ここで出力部91は、例えば、映像信号をデジタル出力する端子を備えたものでもよく、コンポジット端子やコンポーネント端子などのアナログ出力する端子を備えたものでもよい。またネットワークと接続するLAN用コネクタを備えたものでもよく、USBコネクタを備えたものでもよい。さらに、ワイヤレスでデータを転送する送信部でも良い。
映像記憶部92は、信号処理部83から取得する映像信号を記録する。また、記録している映像信号を信号処理部83に出力する。ここで映像記憶部92は、例えば、ハードディスクドライブでも、フラッシュメモリでもよく、リムーバブルメディアディスクドライブでもよい。またモバイルメディアに信号を記録する装置でもよい。
ここで、信号処理部83は、第5の実施例の説明における機能・動作に加えて、映像記憶部92に対する映像の入出力動作を行う。このとき、信号処理部83が、映像記憶部92に入力する映像信号は、例えば、フレームレート変換部85においてフレームレート変換処理を行った後の映像信号でもよい。また、フレームレート変換処理を行っていない映像信号をでもよい。また、信号処理部83は、映像記憶部92から取得した映像信号をフレームレート変換部85においてフレームレート変換処理を行った後に出力部91に出力してもよい。また、フレームレート変換処理を行っていない映像信号を出力部91に出力してもよい。
よって、記録装置900においては、アンテナ81もしくは入力部86から取得した映像信号に対して、フレームレート変換部85において好適なフレームレート変換処理を行い、フレームレート変換処理後の映像信号を映像記憶部92に記憶することができる。
また、記録装置900においては、映像記憶部92に記憶する映像信号に対して、フレームレート変換部85において好適なフレームレート変換処理を行い、フレームレート変換処理後の映像信号を出力部91から出力することができる。
また、記録装置900は、例えば、HDDレコーダでも、DVDレコーダでも、また
他の記憶装置デバイスを用いた記録装置でも良い。
よって、本実施例に係る記録装置900においては、取得した映像信号に対して、第1乃至第4の実施例に係るフレームレート変換処理を行い、これを記録する記録装置を実現することができる。
よって、本発明の第5の実施例によれば、、映像の画質の低下を抑制しつつ、フレームレート変換処理における計算処理量を低減する記録装置を実現することが可能となる。
以上説明した本発明の各実施例に係るフレームレート変換装置、表示装置、もしくは記録装置による入力映像もしくは出力映像の一例について図10、図11を用いて説明する。
図10は、本発明の各実施例に係るフレームレート変換装置、表示装置、もしくは記録装置による入力映像もしくは出力映像の一例を示したものである。図10には(1)動きベクトルを使用した補間処理方法の場合と、(2)動きベクトルを使用しない補間処理方法の場合の両者が示されている。また、両図とも、上段の図が前フレームの画像、中段の図が補間フレームの画像、下段の図が後フレームの画像を示している。ここで、前フレーム1001および前フレーム1004は図2における前フレーム21と同様のフレームである。また、補間フレーム1002および補間フレーム1005は図2における補間フレーム22と同様のフレームである。また、後フレーム1003および後フレーム1006は図2における後フレーム23と同様のフレームである。また、各図とも各フレーム内の空間画素位置が同一の部分を示しているとする。各図において、例えば、記載される値は画像の画素値とする。例えば、値の記載のない部分は、画素値がゼロであるとする。
また、入力映像信号には前フレームと後フレームとが含まれるものとする。また、フレームレート変換処理後の入力映像信号には、前フレームと後フレームに加え、補間フレームが含まれるものとする。
また、図10の(1)と図10の(2)においては、例えば、入力映像信号は同様のものであるとする。すなわち、前フレームの画像と後フレームの画像とは同じであるとする。
ここで、前フレームの画像1001と、前フレームの画像1004とは、ともに、画素値Wの画素を文字「A」の形状に配置した画像である。当該文字「A」の画像の左右方向の中心位置を位置Eとする。
次に、後フレームの画像1003と、後フレームの画像1006とは、画素値Wの画素を文字「A」の形状に配置した画像であるが、当該文字「A」の画像の左右方向の中心位置は位置Fに変わっている。
よって、図10において、入力映像信号に含まれる画像は、例えば、前フレームから後フレームにかけて、文字「A」の画像が位置Eから位置Fまで移動する画像である。よってこのとき、例えば、図1に示される動きベクトル探索部4が動きベクトル探索を行えば、図示するような動きベクトル1007を取得することができる。このとき、動きベクトル1007のベクトル量はG、方向は右方向であるとする。
本発明の各実施例に係るフレームレート変換装置、表示装置、もしくは記録装置に、上述の入力映像信号が入力された場合の補間フレームの画像を、画像1002および画像1005を用いて説明する。
まず、画像1002は、動きベクトルを使用した補間処理方法で補間フレームを生成した場合の画像である。例えば、図1の映像補間部2が図2(c)に示す方法で、補間フレームを生成した場合などである。この場合、映像補間部2は、例えば、動きベクトル探索部4が取得した動きベクトル1007を用いて補間フレームの画像を生成する。よって、動きベクトル探索部4が動きベクトルの探索ミスを発生していなければ、画像1002のように、文字「A」の画像が位置Eから動きベクトル1008の分だけ移動した画像が、補間フレームの画像となる。このとき、動きベクトル1008は、動きベクトル1007と同方向で、ベクトル量G以下のベクトル量Hを有するベクトルである。
このベクトル量Gとべクトル量Hの比は、例えば、図2(c)の場合であれば以下の数式2を満たすように生成しても良い。
Figure 0004844370

但し、小さいベクトル量Hはベクトル量G以下であればよく、必ずしも数式2を満たす必要は無い。
次に、画像1005は、動きベクトルを使用しない補間処理方法で補間フレームを生成した場合の画像である。例えば、図1の映像補間部2が、動きベクトル探索部4が取得した動きベクトル1007を用いずに補間フレームの画像を生成した場合である。本図においては、一例として線形補間を用いて補間フレームを生成した場合を示す。すなわち、例えば、映像補間部2が図2(b)に示す方法で補間フレームを生成した場合などである。
ここで、画像1005に示される画像は、文字「A」の形状に配置した画素の画像が複数あるものである。本図の例では、位置Eに画素値Mの画素を文字「A」の形状に配置した画像があり、位置Fに画素値Nの画素を文字「A」の形状に配置した画像がある。ここで画素値Mおよび画素値Nの値、例えば図2(b)に示す線形補間であれば、それぞれ数式3、数式4のように算出すればよい。
Figure 0004844370

Figure 0004844370

但し、画素値Mおよび画素値Nの値は、画素値W以下であればよく、必ずしも数式3、数式4を満たす必要は無い。
また、画像1005は、文字「A」の形状に配置した複数の画像がか重ならない場合を示している。このとき、両画像が重なる場合は、当該重なりが発生する画素の画素値は、例えば、M+Nとすればよい。また、当該重なりが発生する画素の画素値は、例えば、MとNのいずれか大きい方としても良い。
以上説明したとおり、フレームレート変換装置等に図10に示す前フレームと後フレームの画像を含む入力映像信号を入力すれば、その出力映像もしくは出力映像信号に含まれる補間フレームの画像から、動きベクトルを使用した補間処理方法を行ったのか、動きベクトルを使用しない補間処理方法を行ったのかを判別することができる。
次に図10にて説明した入力映像信号および出力映像もしくは出力映像信号を用いて、本発明の各実施例に係るフレームレート変換装置、表示装置、もしくは記録装置による補間処理方法の切替制御を確認する方法を図11に示す。
図11には4つの図が示されている。最上段の図は、図11における切替制御を確認方法で用いる入力映像信号の動きベクトルのベクトル量Gの推移1101である。ここで、当該入力映像信号は、図10にて説明した前フレームと後フレームの画像を含む入力映像信号である。よって、ベクトル量Gは、例えば、図10における文字「A」の形状がフレーム間で移動する速度である。
またベクトル量Gの推移1101の図より下には、切替制御の異なる3つの補間処理方法である、補間処理方法の推移1102、補間処理方法の推移1103、補間処理方法の推移1104とが記載されている。以下それぞれの補間処理方法の推移とベクトル量Gの推移1101との関係についてそれぞれ説明する。
まず、補間処理方法の推移1102は補間処理方法の切替制御を行わない場合である。この場合は、推移1101のように、入力信号中の動きベクトルのベクトル量Gを時刻t1から矢印1105のように、ベクトル量G3まで大きくしても、補間処理方法の切替えは発生しない。このとき、補間処理方法の切替えは発生しないこと確認するためには、例えば、ベクトル量G3は極力大きくして確認すべきである。
次に、補間処理方法の推移1103は補間処理方法の切替制御を行う場合の一例である。ここで本図の場合、ベクトル量Gが0からG2までの間は、動きベクトルを使用した補間処理方法を用いている。次に、増加した時刻t1の時点で、例えば出力映像に含まれる補間フレームが、例えば、図10の(1)の補間フレーム1002から、図10の(2)の補間フレーム1005に切替わったとする。この場合、補間処理方法が、動きベクトルを使用した補間処理方法から、動きベクトルを使用しない補間処理方法に切替わったこととなる。次に、ベクトル量GをG3まで大きくした後、矢印1106に示すように減少させていく。このとき、ベクトル量GがG2になった時刻t4において、出力映像に含まれる補間フレームが、例えば、図10の(2)の補間フレーム1005から、図10の(1)の補間フレーム1002に切替わったとする。この場合、補間処理方法が、動きベクトルを使用しない補間処理方法から、動きベクトルを使用した補間処理方法に切替わったこととなる。
以上説明した、補間処理方法の推移1103のように補正処理方法が切替わる場合は、動きベクトルのベクトル量に係る閾値を用いて、補間処理方法の切替処理が行われていることとなる。例えば、本発明の第1の実施例を用いたフレームレート変換装置においても、同様の確認ができる。
次に、補間処理方法の推移1104も補間処理方法の切替制御を行う場合の一例である。ここで本図の場合、時刻t0から時刻t3までは、補間処理方法の推移1103と同様の補間処理方法の推移となる。すなわち、時刻t1において、動きベクトルを使用した補間処理方法から、動きベクトルを使用しない補間処理方法に切替わっている。次に、時刻t3の時点から、ベクトル量Gを矢印1106に示すように減少させていく。ここで、補間処理方法の推移1104は、補間処理方法の推移1103と異なり、ベクトル量GがG1となった時刻t5において、補間処理方法の切替制御が発生している。例えば、本発明の第2の実施例に係る補間処理方法の切替制御を行えば、このような補間処理方法の推移となる。本発明の第2の実施例に係る補間処理方法の切替制御においては、上述したとおり、切替制限期間を用いた方法、判定期間を用いた方法、もしくは複数の閾値を用いた方法(ヒステリシスのある方法)などの複数の方法がある。これらの判別方法を以下の通りに説明する。
入力映像信号におけるベクトル量Gの推移1101において、時刻t3からベクトル量Gを減少させているが、これを時刻t3+T(Tは所定の期間)から減少させることとし、以降の時刻を全てTだけ遅らせたとする。すなわち、ベクトル量Gの推移は時刻t4+Tの時点でG2、時刻t5+Tの時点でG1、時刻t6+Tの時点で0と推移する。このような新たなベクトル量Gの推移を有する入力映像信号を入力しても、元の推移1101と同じく時刻t5で、補間処理方法の切替制御が発生したとする。この場合は、当該補間処理方法の切替制御は、例えば、本発明の第2の実施例に係る補間処理方法の切替制御のうち、切替制限期間を用いた方法を行っていることとなる。すなわち、時刻t3以降の全ての時刻において、ベクトル量Gと各時刻の関係が元の推移1101と異なっているにも関わらず、元と同じ時刻において補間処理方法の切替制御が発生している。例えば、長さがt4−t1の切替制御期間を用いて、閾値がG2である場合、補間処理方法は、時刻t1に動きベクトルを使用した補間処理方法から動きベクトルを使用しない補間処理方法に切替わる。次に、t4−t1だけの期間が経過した時刻、すなわち時刻t4において既にベクトル量GがG2以下であれば、補間処理方法は、時刻t4になった時点で、動きベクトルを使用した補間処理方法から動きベクトルを使用しない補間処理方法に切替わる。
つぎに、入力映像信号におけるベクトル量Gの推移1101において、同様に、ベクトル量GがG3から減少を開始する時刻を、t3+T(Tは所定の期間)まで遅らせ、以降の時刻を全てTだけ遅らせたときも、ベクトル量GがG1となった時刻t5+Tにおいて補間処理方法の切替制御が発生する場合について説明する。
この場合には、例えば、本発明の第2の実施例に係る補間処理方法の切替制御のうち、判定期間を用いた方法か、複数の閾値を用いた方法(ヒステリシスのある方法)を行っていることとなる。両者の判別方法を以下の通りに説明する。
まず、入力映像信号におけるベクトル量Gの推移1101において、時刻t5の直前において、ベクトル量Gの推移1107に示すようにベクトル量Gの値を固定する。このとき、ベクトル量Gの値はG1よりわずかに大きい。ここで、時刻t5において補間処理方法の切替制御が発生せず、その後も発生しない場合は、当該補間処理方法の切替制御は、第2の実施例に係る複数の閾値を用いた方法(ヒステリシスのある方法)であるといえる。すなわち、この場合は、ベクトル量Gが増加する場合は閾値G2において、補間処理方法は、動きベクトルを使用した補間処理方法から動きベクトルを使用しない補間処理方法に切替わる。次に、ベクトル量Gが減少する場合は、ベクトル量Gが閾値G1になる時点において、補間処理方法は、動きベクトルを使用しない補間処理方法から動きベクトルを使用する補間処理方法に切替わる。
次に上述のベクトル量Gの推移1107に変更したときにおいても、時刻t5において、補間処理方法の切替制御が発生した場合は、当該補間処理方法の切替制御は、第2の実施例に係る判定期間を用いた方法であるといえる。すなわち、切替制御の閾値をG2として、判定期間をt5−t4とした補間処理方法の切替制御の場合、ベクトル量Gが減少し閾値G2となった時点t4からt5−t4経過した時点、すなわち時刻t5までにおいて、ベクトル量Gが閾値G2以下であれば、補間処理方法は、動きベクトルを使用しない補間処理方法から動きベクトルを使用する補間処理方法に切替わる。
以上説明した、補間処理方法の推移1104のように補正処理方法が切替わる場合は、
動きベクトルのベクトル量に係る閾値を用いて、補間処理方法の切替処理が行われていることとなる。また、さらに上述した、切替制限期間を用いた方法、判定期間を用いた方法、もしくは複数の閾値を用いた方法(ヒステリシスのある方法)のいずれかの切替処理が行われていることとなる。例えば、本発明の第2の実施例を用いたフレームレート変換装置においても、同様の確認ができる。
以上、図11をもちいて説明した確認方法を用いることにより、フレームレート変換装置、表示装置、もしくは記録装置において、所定の入力映像信号を入力して、その出力映像もしくは出力映像信号における補間フレームの画像を確認することにより、これらの装置に係るフレームレート変換処理における補間処理方法の切替処理が、いずれの方法を用いた切替処理であるかを確認することができる。
以上説明した本発明の各実施例に係るフレームレート変換装置、表示装置、もしくは記録装置によれば、例えば、高速で映像信号をフレームレート変換する技術を提供することが可能である。また、映像の画質の低下を防止しながら高速で動画像データを符号化するフレームレート変換技術を提供することが可能である。
なお、以上説明した各実施例のいずれを組み合わせても、本発明の一実施の形態となりうる。
以上説明した本発明の各実施例に係るフレームレート変換装置、表示装置、もしくは記録装置によれば、映像の画質の低下を抑制しつつ、フレームレート変換処理における計算処理量を低減することができる。
本発明の一実施例に係るフレームレート変換装置の一例のブロック図 本発明の一実施例に係る補間処理方法の一例の説明図 本発明の一実施例に係る補間処理方法の一例の説明図 本発明の一実施例に係る補間処理方法の一例の説明図 本発明の一実施例に係る判定基準情報の一例の説明図 本発明の一実施例に係る動きベクトルのヒストトグラムの一例の説明図 本発明の一実施例に係る動きベクトルのヒストトグラムの一例の説明図 本発明の一実施例に係る動きベクトルのヒストトグラムの一例の説明図 本発明の一実施例に係る動きベクトルのヒストトグラムの一例の説明図 本発明の一実施例に係る補間処理方法の切替判定処理の一例の説明図 本発明の一実施例に係る映像フレームの一例の説明図 本発明の一実施例に係る表示装置の一例のブロック図 本発明の一実施例に係る記録装置の一例のブロック図 本発明の一実施例に係る入出力映像の一例の説明図 本発明の一実施例に係る補間処理方法の切替制御の一例の説明図
符号の説明
1…入力部、2…映像補間部、3…出力部、4…動きベクトル探索部、6…ヒストグラム算出部、7…制御部、8…記憶部、30…判定基準情報、40…画素、41…範囲、42…範囲、43…領域、70…フレーム、71…領域、72…領域、81…アンテナ、82…チューナー部、83…信号処理部、84…表示部、85…フレームレート変換部、86…入力部、91…出力部、92…映像記憶部、100…フレームレート変換装置、800表示装置、810…制御部、900…記録装置

Claims (5)

  1. 映像信号を入力し前記映像信号によるフレームに補間フレームを挿入することによって前記映像信号のフレームレートを変換するフレームレート変換装置であって、
    前記映像信号に含まれるフレーム間の複数の動きベクトルを探索する動きベクトル探索部と、
    前記動きベクトル探索部が探索した複数の動きベクトルのそれぞれの始点を動きベクトル探索範囲における原点に配置し、前記動きベクトル探索範囲内の各画素を終点とする動きベクトルの数を算出することで動きベクトルの分布を算出する動きベクトル分布算出部と、
    前記補間フレームの生成処理を行う映像補間部と、
    前記映像補間部による前記補間フレームの生成処理の方法の切替えを制御する制御部とを備え、
    前記制御部は、
    前記動きベクトル分布算出部における前記動きベクトル探索範囲内の各画素を終点とする動きベクトルの数に対する前記動きベクトル探索範囲内の外側の所定の幅を持った領域内の各画素を終点とする動きベクトルの数の比率と閾値とを比較し、
    前記比率が前記閾値を下回るとき、前記動きベクトル探索部が探索した動きベクトルを用いて前記補間フレームにおける補間画素の生成処理を行う方法に切替え、
    前記比率が前記閾値を上回るとき、前記動きベクトル探索部が探索した動きベクトルを用いないで前記補間フレームにおける補間画素の生成処理を行う方法に切替えることを特徴とするフレームレート変換装置。
  2. 請求項1に記載のフレームレート変換装置であって、
    前記動きベクトル探索部が探索した動きベクトルを用いて前記補間フレームにおける補間画素を生成する方法が、第1のフレームに含まれる第1のブロックと第2のフレームに含まれる第2のブロックとをブロックマッチングすることによって前記第1のフレームを始点とし前記第2のフレームを終点とする動きベクトルを探索し、前記ブロックマッチングした第1のブロックまたは第2のブロックに含まれる一部もしくは全部の画素を用いて前記補間フレームにおける補間画素を生成する方法であることを特徴とするフレームレート変換装置。
  3. 請求項1に記載のフレームレート変換装置であって、
    前記動きベクトル探索部が探索した動きベクトルを用いない方法が、前記第1のフレームと前記第2のフレームとの対応する画素を線形補間して前記補間フレームの画素を生成する方法であることを特徴とするフレームレート変換装置。
  4. 請求項1に記載のフレームレート変換装置であって、
    前記補間フレームの生成処理の方法の切替えは、前記補間フレームの所定の領域ごとに行なうことを特徴とするフレームレート変換装置。
  5. 映像信号を入力し、前記映像信号によるフレームに補間フレームを挿入することによって前記映像信号と異なるフレームレートの映像を表示する表示装置であって、
    前記映像信号に含まれるフレーム間の複数の動きベクトルを探索する動きベクトル探索部と、
    前記動きベクトル探索部が探索した複数の動きベクトルのそれぞれの始点をフレームの動きベクトル探索範囲における原点に配置し、前記動きベクトル探索範囲内の各画素を終点とする動きベクトルの数を算出することで動きベクトルの分布を算出する動きベクトル分布算出部と、
    前記補間フレームの生成処理を行う映像補間部と、
    前記映像補間部による補間フレームの生成処理の方法の切替えを制御する制御部と、
    前記映像補間部が出力した映像信号を表示する表示部とを備え、
    前記制御部は、
    前記動きベクトル分布算出部における前記動きベクトル探索範囲内の各画素を終点とする動きベクトルの数に対する前記動きベクトル探索範囲内の外側の所定の幅を持った領域内の各画素を終点とする動きベクトルの数の比率と閾値とを比較し、
    前記比率が前記閾値を下回るとき、前記動きベクトル探索部が探索した動きベクトルを用いて前記補間フレームにおける補間画素の生成処理を行う方法に切替え、
    前記比率が前記閾値を上回るとき、前記動きベクトル探索部が探索した動きベクトルを用いないで前記補間フレームにおける補間画素の生成処理を行う方法に切替えることを特徴とする表示装置。
JP2006326447A 2006-12-04 2006-12-04 フレームレート変換装置及び表示装置 Active JP4844370B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2006326447A JP4844370B2 (ja) 2006-12-04 2006-12-04 フレームレート変換装置及び表示装置
EP07254685.6A EP1931145B1 (en) 2006-12-04 2007-12-03 Frame rate conversion apparatus for video signal and display apparatus
US11/949,907 US8319887B2 (en) 2006-12-04 2007-12-04 Frame rate conversion apparatus for video signal and display apparatus
CN2007101946896A CN101197998B (zh) 2006-12-04 2007-12-04 帧频变换装置及显示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006326447A JP4844370B2 (ja) 2006-12-04 2006-12-04 フレームレート変換装置及び表示装置

Publications (2)

Publication Number Publication Date
JP2008141546A JP2008141546A (ja) 2008-06-19
JP4844370B2 true JP4844370B2 (ja) 2011-12-28

Family

ID=39301744

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006326447A Active JP4844370B2 (ja) 2006-12-04 2006-12-04 フレームレート変換装置及び表示装置

Country Status (4)

Country Link
US (1) US8319887B2 (ja)
EP (1) EP1931145B1 (ja)
JP (1) JP4844370B2 (ja)
CN (1) CN101197998B (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112008004040T5 (de) * 2008-10-24 2013-01-31 Hewlett-Packard Development Company, L.P. Verfahren und System zum Erhöhen einer Rahmenanzeigerate
JP5202246B2 (ja) * 2008-11-20 2013-06-05 キヤノン株式会社 動画像処理装置、及び方法、プログラム
JP4564564B2 (ja) 2008-12-22 2010-10-20 株式会社東芝 動画像再生装置、動画像再生方法および動画像再生プログラム
JP4439579B1 (ja) 2008-12-24 2010-03-24 株式会社東芝 音質補正装置、音質補正方法及び音質補正用プログラム
JP5315162B2 (ja) * 2009-08-05 2013-10-16 株式会社日立製作所 映像処理装置及び映像処理方法
US8643776B2 (en) * 2009-11-30 2014-02-04 Mediatek Inc. Video processing method capable of performing predetermined data processing operation upon output of frame rate conversion with reduced storage device bandwidth usage and related video processing apparatus thereof
EP2509306A4 (en) * 2009-12-01 2013-05-15 Panasonic Corp IMAGE PROCESSING DEVICE AND IMAGE PROCESSING METHOD
JP5484020B2 (ja) * 2009-12-08 2014-05-07 キヤノン株式会社 マルチプロジェクションシステムの制御装置、制御方法、プログラム
WO2011113500A1 (en) * 2010-03-15 2011-09-22 Zoran (France) Video interpolation method and apparatus with smooth fallback interpolation mode
WO2011155099A1 (ja) * 2010-06-11 2011-12-15 三菱電機株式会社 映像表示装置
JP5317023B2 (ja) * 2010-09-16 2013-10-16 カシオ計算機株式会社 手ぶれ補正装置、手ぶれ補正方法およびプログラム
CN102811332B (zh) 2011-05-31 2015-04-15 Jvc建伍株式会社 影像信号处理装置以及方法
US8699090B1 (en) * 2012-01-09 2014-04-15 Intuit Inc. Automated image capture based on spatial-stability information
KR20150101779A (ko) * 2014-02-27 2015-09-04 엘지디스플레이 주식회사 영상 표시장치와 그의 모션 블러 완화방법
WO2016009507A1 (ja) * 2014-07-16 2016-01-21 日立マクセル株式会社 映像送受信装置及び映像表示装置
KR101609280B1 (ko) * 2014-10-01 2016-04-05 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
US10380950B2 (en) * 2016-09-23 2019-08-13 Novatek Microelectronics Corp. Method for reducing motion blur and head mounted display apparatus
JP2018061130A (ja) * 2016-10-05 2018-04-12 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
US10776688B2 (en) 2017-11-06 2020-09-15 Nvidia Corporation Multi-frame video interpolation using optical flow
KR102586695B1 (ko) 2018-02-09 2023-10-11 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
CN111083417B (zh) * 2019-12-10 2021-10-19 Oppo广东移动通信有限公司 图像处理方法及相关产品
CN113099132B (zh) * 2021-04-19 2023-03-21 深圳市帧彩影视科技有限公司 视频处理方法、装置、电子设备、存储介质及程序产品

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4663665A (en) * 1985-01-07 1987-05-05 Nippon Hoso Kyokai TV system conversion apparatus
GB2263602B (en) * 1992-01-24 1995-06-21 Sony Broadcast & Communication Motion compensated video signal processing
GB9214218D0 (en) * 1992-07-03 1992-08-12 Snell & Wilcox Ltd Motion compensated video processing
JPH06217263A (ja) * 1993-01-20 1994-08-05 Oki Electric Ind Co Ltd 動き補正方式の内挿信号生成装置
JP3181431B2 (ja) * 1993-05-21 2001-07-03 沖電気工業株式会社 動きベクトルを用いた適応動き内挿信号生成装置
EP0637889B1 (en) * 1993-08-06 2001-01-17 Lg Electronics Inc. Device for converting the frame rate of an image
US5546130A (en) * 1993-10-11 1996-08-13 Thomson Consumer Electronics S.A. Method and apparatus for forming a video signal using motion estimation and signal paths with different interpolation processing
GB2305569B (en) * 1995-09-21 1999-07-21 Innovision Res Ltd Motion compensated interpolation
US5920494A (en) * 1997-01-10 1999-07-06 Renco Encoders, Inc. Method and device for varying interpolation factors
JP4083265B2 (ja) 1997-10-07 2008-04-30 株式会社日立製作所 画像信号の方式変換方法および装置
JP4342032B2 (ja) * 1999-05-20 2009-10-14 株式会社東芝 補間フィールド生成回路及びフィールド倍速変換回路
JP2001078180A (ja) * 1999-09-07 2001-03-23 Hitachi Ltd デジタル放送受信機及び伝送路復号器
FR2820927B1 (fr) * 2001-02-15 2003-04-11 Thomson Multimedia Sa Procede et dispositif de detection de fiabilite d'un champ de vecteurs mouvement
WO2002083238A1 (fr) * 2001-04-16 2002-10-24 Muradin Abubekirovich Kumakhov Radioscopie utilisant le rayonnement k$g(a)- du gadolinium
JP4220284B2 (ja) * 2003-03-28 2009-02-04 株式会社東芝 フレーム補間方法、装置及びこれを用いた画像表示システム
US7420618B2 (en) * 2003-12-23 2008-09-02 Genesis Microchip Inc. Single chip multi-function display controller and method of use thereof

Also Published As

Publication number Publication date
US20080129862A1 (en) 2008-06-05
JP2008141546A (ja) 2008-06-19
CN101197998B (zh) 2013-04-03
US8319887B2 (en) 2012-11-27
CN101197998A (zh) 2008-06-11
EP1931145A1 (en) 2008-06-11
EP1931145B1 (en) 2018-09-05

Similar Documents

Publication Publication Date Title
JP4844370B2 (ja) フレームレート変換装置及び表示装置
US8768103B2 (en) Video processing apparatus and video display apparatus
JP4438795B2 (ja) 映像変換装置、映像表示装置、映像変換方法
US8581906B2 (en) Image processing apparatus and image processing method
JP5188033B2 (ja) 記録再生装置、送出装置及び伝送システム。
JP5144545B2 (ja) 動画像コーデック装置及びその方法
JP5177828B2 (ja) 画像レート変換方法及び画像レート変換装置
US8139151B2 (en) Moving image processing apparatus, control method thereof, and program
JP2003179884A (ja) プルダウン信号検出装置、プルダウン信号検出方法、高解像度化画像処理装置、高解像度化画像処理方法、画像符号化装置および画像符号化方法
US8116594B2 (en) Image processing apparatus, image processing method, and program
JP5050637B2 (ja) 映像信号処理装置、映像信号処理方法、映像信号処理方法のプログラム及び映像信号処理方法のプログラムを記録した記録媒体
JP4049087B2 (ja) 動き・静止の判定装置および判定方法、並びに画像信号の処理装置および処理方法
JP5096883B2 (ja) 画像処理装置および画像録画再生装置
JP2007288483A (ja) 画像変換装置
EP2667351B1 (en) Image processing device and image processing method
JP5305822B2 (ja) 映像信号処理装置、及び方法、プログラム
JPWO2008129648A1 (ja) フレームレート変換装置、フレームレート変換方法及び動画像符号化装置
JP5107179B2 (ja) フレームレート変換装置、映像変換装置、制御プログラム、コンピュータ読み取り可能な記録媒体およびフレームレート変換方法
JP5300568B2 (ja) 映像処理装置およびその制御方法
JP2010147699A (ja) 補間フレーム作成装置及び補間フレーム作成方法及び放送受信装置
US8681269B2 (en) Video reproduction apparatus and video reproducing method
JP5300600B2 (ja) 映像処理装置およびその方法
JP2006041619A (ja) 画像処理装置
KR20100060416A (ko) 영상저장장치 및 영상저장방법
JPH10233992A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110913

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110926

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141021

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4844370

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141021

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250