JP5212252B2 - Frame rate conversion apparatus and method - Google Patents
Frame rate conversion apparatus and method Download PDFInfo
- Publication number
- JP5212252B2 JP5212252B2 JP2009113434A JP2009113434A JP5212252B2 JP 5212252 B2 JP5212252 B2 JP 5212252B2 JP 2009113434 A JP2009113434 A JP 2009113434A JP 2009113434 A JP2009113434 A JP 2009113434A JP 5212252 B2 JP5212252 B2 JP 5212252B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel data
- frames
- motion vector
- frame
- interpolation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
- Controls And Circuits For Display Device (AREA)
- Liquid Crystal Display Device Control (AREA)
- Television Systems (AREA)
Description
本発明は、映像信号の実フレーム間に補間フレームを内挿してフレーム数を増大させ、フレームレート(フレーム周波数)を変換するフレームレート変換装置及び方法に関する。 The present invention relates to a frame rate converting apparatus and method for converting a frame rate (frame frequency) by interpolating interpolation frames between real frames of a video signal to increase the number of frames.
液晶パネルを用いた画像表示装置で動画像を表示すると残像が生じやすい。そこで、残像を低減させるため、映像信号の実フレーム間に補間フレームを内挿してフレーム数を増大させ、例えば60Hzのフレームレートを2倍の120Hzまたはそれ以上の周波数に変換して画像表示することが行われている。フレームレート変換装置においては、画像の動きベクトルを検出し、動きベクトルを用いて各補間画素を生成し、実フレーム間に内挿する補間フレームを生成する。 When a moving image is displayed on an image display device using a liquid crystal panel, an afterimage tends to occur. Therefore, in order to reduce afterimages, interpolation frames are interpolated between real frames of the video signal to increase the number of frames. For example, the frame rate of 60 Hz is doubled to 120 Hz or higher to display an image. Has been done. In the frame rate conversion apparatus, a motion vector of an image is detected, each interpolation pixel is generated using the motion vector, and an interpolation frame to be interpolated between actual frames is generated.
画像表示装置にフレームレート変換装置を搭載した場合、補間フレームを生成する信号処理による遅延時間が発生する。従って、フレームレート変換装置を搭載した画像表示装置においては、映像信号の各フレームが画面に表示されるタイミングは、フレームレート変換装置を搭載しない画像表示装置よりも遅くなる。リアルタイム処理が求められる場合とリアルタイム処理が求められない場合とで、動きベクトルの検出方法を切り換える映像信号処理装置が特許文献1に記載されている。 When a frame rate conversion device is mounted on an image display device, a delay time is generated due to signal processing for generating an interpolation frame. Therefore, in an image display device equipped with a frame rate conversion device, the timing at which each frame of the video signal is displayed on the screen is later than in an image display device not equipped with a frame rate conversion device. Japanese Patent Application Laid-Open No. 2004-228561 describes a video signal processing apparatus that switches a motion vector detection method between when real-time processing is required and when real-time processing is not required.
近年、画像表示装置における高画質化の要求はますます高まっている。フレームレート変換装置において、動きベクトルの誤検出が発生した場合には補間フレームは誤補間の補間画素を含むことになる。従って、高画質のフレームレート変換画像を得るには、動きベクトルの誤検出を極力少なくすることが必要である。
ところで、画像表示装置にゲーム機器を接続し、画像表示装置にゲーム機器の画像を表示させてゲームを行うことがある。画像表示装置がフレームレート変換装置を搭載する場合、ゲーム機器に対する操作入力の入力タイミングと、その操作入力に対応した画像の表示タイミングとの間には時間的なずれが生じる。
In recent years, there has been an increasing demand for higher image quality in image display devices. In the frame rate conversion apparatus, when an erroneous detection of a motion vector occurs, the interpolation frame includes erroneously interpolated interpolation pixels. Therefore, in order to obtain a high-quality frame rate converted image, it is necessary to minimize false detection of motion vectors as much as possible.
A game may be played by connecting a game device to the image display device and displaying an image of the game device on the image display device. When the image display device is equipped with a frame rate conversion device, a time lag occurs between the input timing of the operation input to the game device and the display timing of the image corresponding to the operation input.
一般的には、高画質のフレームレート変換画像を得ようとすれば動きベクトルの検出精度(画像の補間精度)を上げることが必要となり、映像信号の各フレームが画面に表示されるタイミングの遅延時間が増大する。しかしながら、画像表示装置をゲーム機器の画像を表示させるモニタとして使用する場合には、遅延時間は極力少ない方が好ましい。フレームレート変換画像を高画質にしようとすると遅延時間が大きくなり、遅延時間を少なくしようとすると高画質にしにくいというトレードオフの関係にある。そこで、レスポンスの速さ(少ない遅延時間)を優先する場合と画質を優先する場合との双方に対応することができる画像表示装置が求められる。 In general, to obtain a high-quality frame rate converted image, it is necessary to improve the motion vector detection accuracy (image interpolation accuracy), and the delay in the timing at which each frame of the video signal is displayed on the screen Time increases. However, when the image display device is used as a monitor for displaying an image of a game machine, it is preferable that the delay time is as short as possible. There is a trade-off relationship that the delay time increases when attempting to improve the frame rate converted image, and that it is difficult to achieve high image quality when the delay time is decreased. Therefore, an image display apparatus that can cope with both the case where priority is given to the speed of response (small delay time) and the case where priority is given to image quality is required.
本発明はこのような要望に対応するためになされたものであり、レスポンスの速さ(少ない遅延時間)を優先する場合と画質を優先する場合との双方に対応することができ、両者を選択することができるフレームレート変換装置及び方法を提供することを目的とする。 The present invention has been made to meet such a demand, and can respond to both cases where priority is given to the speed of response (small delay time) and priority to image quality. An object of the present invention is to provide an apparatus and method for converting a frame rate.
本発明は、上述した従来の技術の課題を解決するため、入力映像信号の複数のフレームそれぞれで、補間画素データを生成する際に用いる動きベクトルを検出するための複数の画素データを含む所定の領域が探索範囲として設定され、前記複数のフレームそれぞれの探索範囲に含まれる画素データを生成する画素データ生成部(2〜36)と、2フレームの探索範囲に含まれる画素データを用いて動きベクトルを検出する第1の検出方法と、前記2フレームよりも時間的に前または後のフレームを含む3フレーム以上の探索範囲に含まれる画素データを用いて動きベクトルを検出する第2の検出方法とのいずれかで動きベクトルを検出する動きベクトル検出部(37)と、前記第1の検出方法により検出した動きベクトルと、前記2フレームの探索範囲に含まれる画素データとを用いて補間画素データを生成する第1の補間画素データ生成方法と、前記第2の検出方法により検出した動きベクトルと、少なくとも前記2フレームの探索範囲に含まれる画素データとを用いて補間画素データを生成する第2の補間画素データ生成方法とのいずれかで補間画素データを生成する補間画素データ生成部(38)と、前記第1の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、前記2フレーム間に内挿して前記入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第1のフレーム画像生成方法と、前記第2の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、前記2フレーム間に内挿して前記入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第2のフレーム画像生成方法とのいずれかでフレーム画像を生成するフレーム画像生成部(39)と、前記動きベクトル検出部が前記第1の検出方法で動きベクトルを検出し、前記補間画素データ生成部が前記第1の補間画素データ生成方法で補間画素データを生成し、前記フレーム画像生成部が前記第1のフレーム画像生成方法でフレーム画像を生成する第1のモードと、前記動きベクトル検出部が前記第2の検出方法で動きベクトルを検出し、前記補間画素データ生成部が前記第2の補間画素データ生成方法で補間画素データを生成し、前記フレーム画像生成部が前記第2のフレーム画像生成方法でフレーム画像を生成する第2のモードとを選択的に切り換えるモード制御部(41)とを備えることを特徴とするフレームレート変換装置を提供する。
この構成において、前記モード制御部は、前記第1のモードのとき、前記画素データ生成部における前記2フレームの探索範囲に含まれる画素データ以外の画素データを生成する回路部分を非動作とするよう制御することが好ましい。
In order to solve the above-described problems of the related art, the present invention provides a predetermined data including a plurality of pixel data for detecting a motion vector used for generating interpolation pixel data in each of a plurality of frames of an input video signal. An area is set as a search range, a pixel data generation unit (2 to 36) that generates pixel data included in the search range of each of the plurality of frames, and a motion vector using pixel data included in the search range of two frames A first detection method for detecting a motion vector, and a second detection method for detecting a motion vector using pixel data included in a search range of three or more frames including a frame temporally before or after the two frames. A motion vector detection unit (37) for detecting a motion vector in any of the above, a motion vector detected by the first detection method, and the two frames A first interpolation pixel data generation method for generating interpolation pixel data using pixel data included in the search range, a motion vector detected by the second detection method, and at least the two frames included in the search range An interpolation pixel data generation unit (38) for generating interpolation pixel data in any one of a second interpolation pixel data generation method for generating interpolation pixel data using pixel data, and the first interpolation pixel data generation method A first frame image generation method for generating an interpolation frame from the interpolation pixel data sequentially generated by step (a) and outputting as a video signal having a frame rate higher than that of the input video signal by interpolating between the two frames; An interpolation frame is generated from the interpolation pixel data sequentially generated by the second interpolation pixel data generation method. A frame image generation unit (39) for generating a frame image by any one of the second frame image generation methods for interpolating between two frames and outputting as a video signal having a frame rate higher than that of the input video signal The motion vector detection unit detects a motion vector by the first detection method, the interpolation pixel data generation unit generates interpolation pixel data by the first interpolation pixel data generation method, and the frame image generation unit A first mode in which a frame image is generated by the first frame image generation method, the motion vector detection unit detects a motion vector by the second detection method, and the interpolation pixel data generation unit is the second mode. Interpolated pixel data is generated by the interpolated pixel data generating method, and the frame image generating unit generates a frame image by the second frame image generating method And a mode control unit (41) that selectively switches between the second mode for generating the frame rate.
In this configuration, in the first mode, the mode control unit deactivates a circuit portion that generates pixel data other than the pixel data included in the search range of the two frames in the pixel data generation unit. It is preferable to control.
また、本発明は、上述した従来の技術の課題を解決するため、入力映像信号の複数のフレームそれぞれで、補間画素データを生成する際に用いる動きベクトルを検出するための複数の画素データを含む所定の領域が探索範囲として設定され、前記複数のフレームそれぞれの探索範囲に含まれる画素データを生成する画素データ生成ステップと、第1のモードのとき、2フレームの探索範囲に含まれる画素データを用いて動きベクトルを検出する第1の検出方法で動きベクトルを検出し、第2のモードのとき、前記2フレームよりも時間的に前または後のフレームを含む3フレーム以上の探索範囲に含まれる画素データを用いて動きベクトルを検出する第2の検出方法で動きベクトルを検出する動きベクトル検出ステップと、前記第1のモードのとき、前記第1の検出方法により検出した動きベクトルと、前記2フレームの探索範囲に含まれる画素データとを用いて補間画素データを生成する第1の補間画素データ生成方法で補間画素データを生成し、前記第2のモードのとき、前記第2の検出方法により検出した動きベクトルと、少なくとも前記2フレームの探索範囲に含まれる画素データとを用いて補間画素データを生成する第2の補間画素データ生成方法で補間画素データを生成する補間画素データ生成ステップと、前記第1のモードのとき、前記第1の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、前記2フレーム間に内挿して前記入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第1のフレーム画像生成方法でフレーム画像を生成し、前記第2の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、前記第2のモードのとき、前記2フレーム間に内挿して前記入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第2のフレーム画像生成方法でフレーム画像を生成するフレーム画像生成ステップとを含むことを特徴とするフレームレート変換方法を提供する。
この構成において、前記第1のモードのとき、前記画素データ生成ステップにて前記2フレームの探索範囲に含まれる画素データ以外の画素データを生成しないことが好ましい。
The present invention also includes a plurality of pixel data for detecting a motion vector used when generating interpolation pixel data in each of a plurality of frames of an input video signal in order to solve the above-described problems of the conventional technology. A predetermined area is set as a search range, a pixel data generation step for generating pixel data included in the search range of each of the plurality of frames, and in the first mode, pixel data included in the search range of 2 frames The motion vector is detected by the first detection method using the motion vector, and in the second mode, the motion vector is included in a search range of three frames or more including a frame temporally before or after the two frames. A motion vector detecting step for detecting a motion vector by a second detection method for detecting a motion vector using pixel data; and the first mode. Interpolated pixel data is generated by a first interpolated pixel data generating method that generates interpolated pixel data using the motion vector detected by the first detecting method and the pixel data included in the search range of the two frames. In the second mode, a second interpolation pixel that generates interpolation pixel data using the motion vector detected by the second detection method and pixel data included in at least the search range of the two frames. An interpolation pixel data generation step for generating interpolation pixel data by a data generation method; and in the first mode, an interpolation frame is generated by interpolation pixel data sequentially generated by the first interpolation pixel data generation method; Interpolated between frames and output as a video signal having a frame rate higher than the frame rate of the input video signal A frame image is generated by one frame image generation method, and an interpolation frame is generated by interpolation pixel data sequentially generated by the second interpolation pixel data generation method. In the second mode, an internal frame is generated between the two frames. And a frame image generation step of generating a frame image by a second frame image generation method for outputting as a video signal having a frame rate higher than the frame rate of the input video signal. I will provide a.
In this configuration, in the first mode, it is preferable that pixel data other than pixel data included in the search range of the two frames is not generated in the pixel data generation step.
本発明のフレームレート変換装置及び方法によれば、レスポンスの速さ(少ない遅延時間)を優先する場合と画質を優先する場合との双方に対応することができ、両者を選択することが可能となる。 According to the frame rate conversion apparatus and method of the present invention, both the case where priority is given to the speed of response (small delay time) and the case where priority is given to image quality can be handled, and both can be selected. Become.
以下、本発明のフレームレート変換装置及び方法について、添付図面を参照して説明する。図1において、入力端子1には、フレームレート変換の対象となっている映像信号を構成する各画素データが順次入力される。入力された画素データP0はフレームメモリ2に入力されて1フレーム期間遅延され、画素データP1として出力される。画素データP1はフレームメモリ3に入力されて1フレーム期間遅延され、画素データP2として出力される。画素データP2はフレームメモリ4に入力されて1フレーム期間遅延され、画素データP3として出力される。
Hereinafter, a frame rate conversion apparatus and method according to the present invention will be described with reference to the accompanying drawings. In FIG. 1, each pixel data constituting a video signal subject to frame rate conversion is sequentially input to an
また、画素データP0はラインメモリ5,6に順次入力されて1ライン期間ずつ遅延される。画素データP0は遅延器13,14に順次入力されて1画素期間ずつ遅延される。ラインメモリ5の出力は遅延器15,16に順次入力されて1画素期間ずつ遅延される。ラインメモリ6の出力は遅延器17,18に順次入力されて1画素期間ずつ遅延される。フレームメモリ2より出力された画素データP1はラインメモリ7,8に順次入力されて1ライン期間ずつ遅延される。画素データP1は遅延器19,20に順次入力されて1画素期間ずつ遅延される。ラインメモリ7の出力は遅延器21,22に順次入力されて1画素期間ずつ遅延される。ラインメモリ8の出力は遅延器23,24に順次入力されて1画素期間ずつ遅延される。
The pixel data P0 is sequentially input to the
フレームメモリ3より出力された画素データP2はラインメモリ9,10に順次入力されて1ライン期間ずつ遅延される。画素データP2は遅延器25,26に順次入力されて1画素期間ずつ遅延される。ラインメモリ9の出力は遅延器27,28に順次入力されて1画素期間ずつ遅延される。ラインメモリ10の出力は遅延器29,30に順次入力されて1画素期間ずつ遅延される。フレームメモリ4より出力された画素データP3はラインメモリ11,12に順次入力されて1ライン期間ずつ遅延される。画素データP3は遅延器31,32に順次入力されて1画素期間ずつ遅延される。ラインメモリ11の出力は遅延器33,34に順次入力されて1画素期間ずつ遅延される。ラインメモリ12の出力は遅延器35,36に順次入力されて1画素期間ずつ遅延される。
The pixel data P2 output from the frame memory 3 is sequentially input to the
以上のようにして、遅延器13〜18からは現在フレームF0の領域A0に含まれる9個の画素データが出力され、遅延器19〜24からは現在フレームF0に対して1フレーム前のフレームF1の領域A1に含まれる9個の画素データが出力される。遅延器25〜30からは現在フレームF0に対して2フレーム前のフレームF2の領域A2に含まれる9個の画素データが出力され、延器31〜36からは現在フレームF0に対して3フレーム前のフレームF3の領域A3に含まれる9個の画素データが出力される。図2(A),(B)に、フレームF0,F1,F2,F3及び領域A0,A1,A2,A3を概念的に示している。
As described above, the nine pixel data included in the area A0 of the current frame F0 are output from the
図2(A),(B)において、領域A0〜A3に含まれる画素データは、補間フレームF10,F21の各補間画素データPiを生成する際に必要となる動きベクトルを求めるために使用される。領域A0〜A3は、動きベクトルの探索範囲である。このように、図1の入力端子1に順次入力される映像信号の複数のフレームそれぞれには、図2(A),(B)に示すように、補間画素データPiを生成する際に用いる動きベクトルを検出するための複数の画素データを含む所定の領域が探索範囲として設定される。図1におけるフレームメモ2〜4,ラインメモリ5〜12,遅延器13〜36の回路部分は、複数のフレームそれぞれの探索範囲に含まれる画素データを生成する画素データ生成部となっている。
2A and 2B, the pixel data included in the regions A0 to A3 are used to obtain a motion vector necessary for generating the interpolation pixel data Pi of the interpolation frames F10 and F21. . Regions A0 to A3 are motion vector search ranges. As described above, as shown in FIGS. 2A and 2B, for each of a plurality of frames of the video signal sequentially input to the
本実施形態においては、後述するように、図2(A)に示す2つのフレームF0,F1の領域A0,A1に含まれる画素データを用いて動きベクトルを検出する第1の検出方法と、図2(B)に示す4つのフレームF0〜F3の領域A0〜A3に含まれる画素データを用いて動きベクトルを検出する第2の検出方法とを切り換えるよう構成されている。本実施形態では、第2の検出方法は4フレームF0〜F3の領域A0〜A3を探索範囲としたが、フレームF1,F2と、フレームF1,F2よりも時間的に前のフレームF3との3フレームの領域A1〜A3を探索範囲としてもよく、フレームF1,F2と、フレームF1,F2よりも時間的に後のフレームF0との3フレームの領域A0〜A2を探索範囲としてもよい。さらには、5フレーム以上の領域を探索範囲としてもよい。即ち、第1の検出方法では2フレームの領域を探索範囲とし、第2の検出方法では3フレーム以上の領域を探索範囲とすればよい。 In the present embodiment, as will be described later, a first detection method for detecting a motion vector using pixel data included in areas A0 and A1 of two frames F0 and F1 shown in FIG. The second detection method for detecting a motion vector using pixel data included in areas A0 to A3 of the four frames F0 to F3 shown in 2 (B) is switched. In the present embodiment, the second detection method uses the areas A0 to A3 of the four frames F0 to F3 as the search range, but 3 of the frames F1 and F2 and the frame F3 temporally before the frames F1 and F2 are used. The frame areas A1 to A3 may be set as the search range, and the three frame areas A0 to A2 including the frames F1 and F2 and the frame F0 temporally later than the frames F1 and F2 may be set as the search range. Furthermore, an area of 5 frames or more may be set as the search range. That is, in the first detection method, an area of 2 frames may be set as a search range, and in the second detection method, an area of 3 frames or more may be set as a search range.
ここでは簡略化のため、動きベクトルの探索範囲に含まれる画素データを9個としたが、実際にはさらに多くの画素データを含む領域を探索範囲とする。また、図2(B)の場合には、フレームF0,F3における探索範囲は、フレームF1,F2における探索範囲よりも広くする必要があるが、簡略化のためフレームF0〜F3の探索範囲を全て同じとしている。従って、実際には、図1において、さらに多くのラインメモリや遅延器を必要とする。本実施形態では、全てのフレームの探索範囲を9個の画素データを含む領域A0〜A3として説明することとする。 Here, for simplification, the number of pixel data included in the search range of the motion vector is set to nine. However, an area including more pixel data is actually set as the search range. In the case of FIG. 2B, the search range in the frames F0 and F3 needs to be wider than the search range in the frames F1 and F2. It is the same. Therefore, actually, more line memories and delay devices are required in FIG. In the present embodiment, the search range of all frames is described as regions A0 to A3 including nine pixel data.
図1において、端子40には、レスポンスの速さを優先するレスポンス優先モードと画質を優先する画質優先モードとを切り換えるためのモード切換信号が入力される。このモード切換信号は、ユーザが図示していない操作部を操作していずれかのモードを選択することによって発生させたものでもよいし、画面に表示させる映像信号に応じて自動的に発生させたものでもよい。例えば、高画質表示が求められる、放送波信号より得た映像信号やハードディスクドライブまたは光ディスクのような記録媒体に記録された映像信号を再生する再生装置によって再生されたた映像信号を表示する場合には画質優先モードとし、ゲーム機器からの映像信号を表示する場合にはレスポンス優先モードとすることが好ましい。 In FIG. 1, a terminal 40 receives a mode switching signal for switching between a response priority mode that prioritizes response speed and an image quality priority mode that prioritizes image quality. This mode switching signal may be generated by a user operating an operation unit (not shown) to select one of the modes, or automatically generated according to a video signal to be displayed on the screen. It may be a thing. For example, in the case of displaying a video signal reproduced by a reproduction device that reproduces a video signal obtained from a broadcast wave signal or a video signal recorded on a recording medium such as a hard disk drive or an optical disk, which requires high-quality display. Is preferably an image quality priority mode, and is preferably a response priority mode when displaying a video signal from a game device.
画像表示装置は、ゲーム機器からの映像信号を表示する場合に適切な画質に調整するゲームモードを備えていることが多い。ゲームモードを選択した場合にレスポンス優先モードとし、それ以外で画質優先モードとしてもよい。モード切換信号は、例えば、レスポンス優先モードを示す“0”と、画質優先モードを示す“1”であるとする。 In many cases, the image display device has a game mode for adjusting to an appropriate image quality when displaying a video signal from a game device. The response priority mode may be selected when the game mode is selected, and the image quality priority mode may be set otherwise. For example, it is assumed that the mode switching signal is “0” indicating the response priority mode and “1” indicating the image quality priority mode.
端子40に入力されたモード切換信号はモード制御部41に入力される。モード制御部41は入力されたモード切換信号に応じて動きベクトル検出部37と補間画素データ生成部38とフレーム画像生成部39とを制御する。また、より好ましくは、モード制御部41は、動きベクトル検出部37と補間画素データ生成部38とフレーム画像生成部39に加えて、モード切換信号に応じて破線で囲んだフレームメモリ3,4とラインメモリ9〜12と遅延器25〜36の部分を制御する。
The mode switching signal input to the terminal 40 is input to the
まず、モード制御部41にモード切換信号がレスポンス優先モードを示す“0”が入力された場合の動作について説明する。動きベクトル検出部37は、モード制御部41による制御に基づいて、図2(A)に示すように、2つのフレームF0,F1の領域A0,A1の画素データを用いて、フレームF0,F1間に内挿する補間画素データPiを生成するために必要な動きベクトルMVを検出する。動きベクトル検出部37は、補間画素データPiを通る複数の方向の画素の差分値が最も小さい方向を動きベクトルMVとする。
First, an operation when the mode switching signal “0” indicating the response priority mode is input to the
動きベクトルMVは補間画素データ生成部38に入力される。補間画素データ生成部38は、モード制御部41による制御に基づいて、動きベクトルMVと、動きベクトルMVの方向に対応する領域A0,A1の画素データとを用いて、補間画素データPiを生成する。このように、補間画素データ生成部38は、レスポンス優先モードの場合には、上記の第1の検出方法により検出した動きベクトルと、2フレームの探索範囲A0,A1に含まれる画素データとを用いて補間画素データを生成する第1の補間画素データ生成方法を採用する。
The motion vector MV is input to the interpolation pixel
フレーム画像生成部39は、モード制御部41による制御に基づいて、補間画素データ生成部38から順次入力される補間画素データPiによって、図2(A)に示すフレームF0,F1間に内挿する補間フレームF10のフレーム画像を生成する。また、フレーム画像生成部39は、モード制御部41による制御に基づいて、補間画素データ生成部38から順次入力される画素データPA0によってフレームF0のフレーム画像を生成する。
Based on the control by the
そして、フレーム画像生成部39は、補間フレームF10のフレーム画像とフレームF0のフレーム画像とがこの順で出力されるよう出力位相を調整して、入力端子1に入力された映像信号のフレームレートの2倍のフレームレートで出力する。フレームレート変換された映像信号は出力端子42より出力される。このように、フレーム画像生成部39は、レスポンス優先モードの場合には、上記の第1の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、2フレーム間に内挿して入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第1のフレーム画像生成方法を採用する。
The frame
この場合、出力端子42より出力される映像信号の各フレームが画面に表示されるタイミングの遅延時間は少ない。従って、レスポンスが速く、例えばゲーム機器からの映像信号を表示した場合に、ゲーム機器に対する操作入力の入力タイミングと、その操作入力に対応した画像の表示タイミングとの間の時間的なずれが少なくなる。
In this case, the delay time of the timing at which each frame of the video signal output from the
以上の説明より分かるように、レスポンス優先モードの場合には、動きベクトル検出部37と補間画素データ生成部38は領域A2,A3の画素データを使用しない。従って、動きベクトル検出部37と補間画素データ生成部38は領域A2,A3の画素データを入力しなくてもよい。そこで、モード制御部41は、破線で囲んだフレームメモリ3,4とラインメモリ9〜12と遅延器25〜36の部分を非動作とするよう制御してもよい。破線で囲んだ部分を非動作とした場合には消費電力を低減させることが可能となる。
As can be seen from the above description, in the response priority mode, the motion
次に、モード制御部41にモード切換信号が画質優先モードを示す“1”が入力された場合の動作について説明する。領域A0〜A3それぞれに含まれる画素データは動きベクトル検出部37に入力される。動きベクトル検出部37は、モード制御部41による制御に基づいて、図2(B)に示すように、4つのフレームF0〜F3の領域A0〜A3の画素データを用いて、フレームF2,F1間に内挿する補間画素データPiを生成するために必要な動きベクトルMVを検出する。動きベクトル検出部37は、補間画素データPiを通る複数の方向の画素の差分値が最も小さい方向を動きベクトルMVとする。なお、この場合の補間画素データPiと、上述した補間フレームF10内の補間画素データPiとはタイミングが異なる補間画素データであるが、便宜上、同一の符号を付している。
Next, the operation when “1” indicating the image quality priority mode is input to the
動きベクトルMVは補間画素データ生成部38に入力される。補間画素データ生成部38には、領域A0〜A2それぞれに含まれる画素データが入力される。
補間画素データ生成部38は、モード制御部41による制御に基づいて、動きベクトルMVと、動きベクトルMVの方向に対応する領域A1,A2の画素データとを用いて、補間画素データPiを生成する。本実施形態においては、補間画素データ生成部38は、2フレームの領域A1,A2の画素データを用いて補間画素データPiを生成しているが、画質を向上させるために、4フレームの領域A0〜A3の画素データを用いて補間画素データPiを生成してもよい。この場合、補間画素データ生成部38には、領域A3の画素データも入力する必要がある。
The motion vector MV is input to the interpolation pixel
Based on the control by the
このように、補間画素データ生成部38は、画質優先モードの場合には、上記の第2の検出方法により検出した動きベクトルと、少なくとも2フレームの探索範囲に含まれる画素データとを用いて補間画素データを生成する第2の補間画素データ生成方法を採用する。
Thus, in the case of the image quality priority mode, the interpolation pixel
フレーム画像生成部39には、補間画素データ生成部38によって生成された補間画素データPiと、領域A0の画素データの内、補間画素データPiと同一の水平及び垂直方向の画素位置に位置する画素データPA0と、領域A1の画素データの内、補間画素データPiと同一の水平及び垂直方向の画素位置に位置する画素データPA1とが入力される。フレーム画像生成部39は、モード制御部41による制御に基づいて、補間画素データ生成部38から順次入力される補間画素データPiによって、図2(B)に示すフレームF2,F1間に内挿する補間フレームF21のフレーム画像を生成する。また、フレーム画像生成部39は、モード制御部41による制御に基づいて、補間画素データ生成部38から順次入力される画素データPA1によってフレームF1のフレーム画像を生成する。
The frame
そして、フレーム画像生成部39は、補間フレームF21のフレーム画像とフレームF1のフレーム画像とがこの順で出力されるよう出力位相を調整して、入力端子1に入力された映像信号のフレームレートの2倍のフレームレートで出力する。フレームレート変換された映像信号は出力端子42より出力される。このように、フレーム画像生成部39は、画質優先モードの場合には、上記の第2の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、2フレーム間に内挿して入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第2のフレーム画像生成方法を採用する。
The frame
この場合、出力端子42より出力される映像信号は4フレームを動きベクトルMVの探索範囲として生成したものであるので誤補間が少なく、図2(A)の場合よりも高画質のフレームレート変換画像となる。但し、図2(B)より分かるように、各フレームが画面に表示されるタイミングは1フレーム期間以上遅延することになる。
In this case, since the video signal output from the
本発明は以上説明した本実施形態に限定されることはなく、本発明の要旨を逸脱しない範囲において種々変更可能である。本実施形態においては、フレームレートを2倍にするフレームレート変換装置について説明したが、3倍以上のフレームレートに変換するフレームレート変換装置としてもよい。また、図1においては、画素データPA0,PA1を補間画素データ生成部38からフレーム画像生成部39へと供給する構成としたが、遅延器15,21より出力された画素データに基づいて画素データPA0,PA1を得てもよい。この場合は、補間画素データPiと画素データPA0,PA1とのタイミング合わせを適宜行うことが必要である。
The present invention is not limited to the embodiment described above, and various modifications can be made without departing from the gist of the present invention. In the present embodiment, the frame rate conversion device that doubles the frame rate has been described. However, a frame rate conversion device that converts the frame rate to three or more times may be used. In FIG. 1, the pixel data P A0 and P A1 are supplied from the interpolation pixel
1 入力端子
2〜4 フレームメモリ
5〜12 ラインメモリ
13〜36 遅延器
37 動きベクトル検出部
38 補間画素データ生成部
39 フレーム画像生成部
40 端子
41 モード制御部
DESCRIPTION OF
Claims (4)
2フレームの探索範囲に含まれる画素データを用いて動きベクトルを検出する第1の検出方法と、前記2フレームよりも時間的に前または後のフレームを含む3フレーム以上の探索範囲に含まれる画素データを用いて動きベクトルを検出する第2の検出方法とのいずれかで動きベクトルを検出する動きベクトル検出部と、
前記第1の検出方法により検出した動きベクトルと、前記2フレームの探索範囲に含まれる画素データとを用いて補間画素データを生成する第1の補間画素データ生成方法と、前記第2の検出方法により検出した動きベクトルと、少なくとも前記2フレームの探索範囲に含まれる画素データとを用いて補間画素データを生成する第2の補間画素データ生成方法とのいずれかで補間画素データを生成する補間画素データ生成部と、
前記第1の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、前記2フレーム間に内挿して前記入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第1のフレーム画像生成方法と、前記第2の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、前記2フレーム間に内挿して前記入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第2のフレーム画像生成方法とのいずれかでフレーム画像を生成するフレーム画像生成部と、
前記動きベクトル検出部が前記第1の検出方法で動きベクトルを検出し、前記補間画素データ生成部が前記第1の補間画素データ生成方法で補間画素データを生成し、前記フレーム画像生成部が前記第1のフレーム画像生成方法でフレーム画像を生成する第1のモードと、前記動きベクトル検出部が前記第2の検出方法で動きベクトルを検出し、前記補間画素データ生成部が前記第2の補間画素データ生成方法で補間画素データを生成し、前記フレーム画像生成部が前記第2のフレーム画像生成方法でフレーム画像を生成する第2のモードとを選択的に切り換えるモード制御部と
を備えることを特徴とするフレームレート変換装置。 A predetermined area including a plurality of pixel data for detecting a motion vector used when generating interpolation pixel data is set as a search range in each of a plurality of frames of the input video signal, and the search range of each of the plurality of frames A pixel data generation unit for generating pixel data included in
A first detection method for detecting a motion vector using pixel data included in a search range of two frames, and pixels included in a search range of three or more frames including a frame temporally before or after the two frames A motion vector detection unit for detecting a motion vector in any of the second detection methods for detecting a motion vector using data;
A first interpolation pixel data generation method for generating interpolation pixel data using the motion vector detected by the first detection method and pixel data included in the search range of the two frames, and the second detection method The interpolation pixel that generates the interpolation pixel data by any one of the second interpolation pixel data generation method that generates the interpolation pixel data using the motion vector detected by the above and the pixel data included in at least the search range of the two frames. A data generator;
An interpolation frame is generated from the interpolation pixel data sequentially generated by the first interpolation pixel data generation method, and is interpolated between the two frames and output as a video signal having a frame rate higher than that of the input video signal. An interpolation frame is generated by the interpolation pixel data sequentially generated by the first frame image generation method and the second interpolation pixel data generation method, and is interpolated between the two frames, which is higher than the frame rate of the input video signal A frame image generation unit for generating a frame image in any of the second frame image generation methods for outputting as a video signal having a frame rate;
The motion vector detection unit detects a motion vector by the first detection method, the interpolation pixel data generation unit generates interpolation pixel data by the first interpolation pixel data generation method, and the frame image generation unit A first mode in which a frame image is generated by a first frame image generation method; the motion vector detection unit detects a motion vector by the second detection method; and the interpolation pixel data generation unit by the second interpolation A mode control unit that generates interpolated pixel data by a pixel data generation method, and the frame image generation unit selectively switches between a second mode in which a frame image is generated by the second frame image generation method. A frame rate conversion device.
第1のモードのとき、2フレームの探索範囲に含まれる画素データを用いて動きベクトルを検出する第1の検出方法で動きベクトルを検出し、第2のモードのとき、前記2フレームよりも時間的に前または後のフレームを含む3フレーム以上の探索範囲に含まれる画素データを用いて動きベクトルを検出する第2の検出方法で動きベクトルを検出する動きベクトル検出ステップと、
前記第1のモードのとき、前記第1の検出方法により検出した動きベクトルと、前記2フレームの探索範囲に含まれる画素データとを用いて補間画素データを生成する第1の補間画素データ生成方法で補間画素データを生成し、前記第2のモードのとき、前記第2の検出方法により検出した動きベクトルと、少なくとも前記2フレームの探索範囲に含まれる画素データとを用いて補間画素データを生成する第2の補間画素データ生成方法で補間画素データを生成する補間画素データ生成ステップと、
前記第1のモードのとき、前記第1の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、前記2フレーム間に内挿して前記入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第1のフレーム画像生成方法でフレーム画像を生成し、前記第2の補間画素データ生成方法により順次生成した補間画素データによって補間フレームを生成し、前記第2のモードのとき、前記2フレーム間に内挿して前記入力映像信号が有するフレームレートより高いフレームレートを有する映像信号として出力する第2のフレーム画像生成方法でフレーム画像を生成するフレーム画像生成ステップと
を含むことを特徴とするフレームレート変換方法。 A predetermined area including a plurality of pixel data for detecting a motion vector used when generating interpolation pixel data is set as a search range in each of a plurality of frames of the input video signal, and the search range of each of the plurality of frames A pixel data generation step for generating pixel data included in
In the first mode, the motion vector is detected by the first detection method that detects the motion vector using pixel data included in the search range of two frames, and in the second mode, the time is longer than the two frames. A motion vector detecting step of detecting a motion vector by a second detection method of detecting a motion vector using pixel data included in a search range of three or more frames including a preceding or following frame,
First interpolation pixel data generation method for generating interpolation pixel data using the motion vector detected by the first detection method and the pixel data included in the search range of the two frames in the first mode Interpolated pixel data is generated using the motion vector detected by the second detection method and at least pixel data included in the search range of the two frames in the second mode. An interpolation pixel data generation step for generating interpolation pixel data by the second interpolation pixel data generation method;
In the first mode, an interpolated frame is generated from the interpolated pixel data sequentially generated by the first interpolated pixel data generating method, and a frame higher than the frame rate of the input video signal is interpolated between the two frames. A frame image is generated by a first frame image generation method that outputs a video signal having a rate, an interpolation frame is generated by interpolation pixel data sequentially generated by the second interpolation pixel data generation method, and the second mode A frame image generation step of generating a frame image by a second frame image generation method for interpolating between the two frames and outputting as a video signal having a frame rate higher than the frame rate of the input video signal. A frame rate conversion method characterized by the above.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009113434A JP5212252B2 (en) | 2009-05-08 | 2009-05-08 | Frame rate conversion apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009113434A JP5212252B2 (en) | 2009-05-08 | 2009-05-08 | Frame rate conversion apparatus and method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010263468A JP2010263468A (en) | 2010-11-18 |
JP5212252B2 true JP5212252B2 (en) | 2013-06-19 |
Family
ID=43361184
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009113434A Active JP5212252B2 (en) | 2009-05-08 | 2009-05-08 | Frame rate conversion apparatus and method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5212252B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102586695B1 (en) | 2018-02-09 | 2023-10-11 | 삼성전자주식회사 | Display apparatus and control method for the same |
CN112135081B (en) * | 2020-09-11 | 2022-10-28 | Oppo广东移动通信有限公司 | Mode control method and device, frame insertion chip and electronic equipment |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001025021A (en) * | 1999-07-05 | 2001-01-26 | Sony Corp | Motion detection method and motion detector |
JP4244685B2 (en) * | 2003-04-15 | 2009-03-25 | 日本ビクター株式会社 | Moving picture time axis interpolation method and moving picture time axis interpolation apparatus |
JP4396496B2 (en) * | 2004-12-02 | 2010-01-13 | 株式会社日立製作所 | Frame rate conversion device, video display device, and frame rate conversion method |
-
2009
- 2009-05-08 JP JP2009113434A patent/JP5212252B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2010263468A (en) | 2010-11-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5317825B2 (en) | Image processing apparatus and image processing method | |
KR100806858B1 (en) | High definition image dislpay device and method for frame rate conversion thereof | |
JP2010056694A (en) | Picture signal processing unit, image display unit, and picture signal processing method | |
JP2009003420A (en) | Video signal display apparatus and method for reproducing video signal | |
US20090196567A1 (en) | Video processing apparatus and controlling method for same | |
JP2014179818A (en) | Image processing device and image processing method | |
JP5183231B2 (en) | Video playback apparatus and control method | |
US20140028909A1 (en) | Method for converting frame rate and video processing apparatus using the same | |
JP5249166B2 (en) | Image processing apparatus and image processing method | |
US20140036148A1 (en) | Apparatus and method for converting frame rate of video signal, and video processing apparatus using the same | |
JP2013030862A (en) | Image processing apparatus, image processing method, and image display apparatus | |
JP5212252B2 (en) | Frame rate conversion apparatus and method | |
JP2009300786A (en) | Display device and method of controlling the same, program, and recording medium | |
JP4572144B2 (en) | Display panel driving apparatus and display panel driving method | |
JP2007047476A (en) | Liquid crystal display device and driving method of liquid crystal display device | |
JP2008070561A (en) | Display apparatus and control method therefor | |
JP5241632B2 (en) | Image processing circuit and image processing method | |
JP5219646B2 (en) | Video processing apparatus and video processing apparatus control method | |
JP2007311963A (en) | Image display device, signal processor and image processing method, and computer program | |
JP2003289511A (en) | Image scan converting method and apparatus | |
WO2012169096A1 (en) | Image display device and image processing device | |
JP2004357253A (en) | Video signal conversion apparatus, video signal processor, and video display apparatus | |
JP2010261985A (en) | Image processing device, image processing method, and program | |
JP5526918B2 (en) | Video signal processing apparatus and method | |
JP2012227799A (en) | Image display device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20111012 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111226 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130123 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130129 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130211 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5212252 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160308 Year of fee payment: 3 |