JP2012182691A - Image conversion device - Google Patents

Image conversion device Download PDF

Info

Publication number
JP2012182691A
JP2012182691A JP2011044622A JP2011044622A JP2012182691A JP 2012182691 A JP2012182691 A JP 2012182691A JP 2011044622 A JP2011044622 A JP 2011044622A JP 2011044622 A JP2011044622 A JP 2011044622A JP 2012182691 A JP2012182691 A JP 2012182691A
Authority
JP
Japan
Prior art keywords
frame
interpolation
video signal
motion vector
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011044622A
Other languages
Japanese (ja)
Inventor
Hidetoshi Takeda
英俊 武田
Takahiro Kobayashi
隆宏 小林
Kentaro Matsumoto
健太郎 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2011044622A priority Critical patent/JP2012182691A/en
Publication of JP2012182691A publication Critical patent/JP2012182691A/en
Withdrawn legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To solve such problems of 3:2 pulldown used when displaying a video signal of movie picture of 24 Hz by 60 Hz that it causes unnatural movement because the video signal is displayed at non-uniform intervals for the 24 Hz, and that the movie mood is lost in film de-judder when a conventional frame rate is used.SOLUTION: When a video signal of 24 Hz is displayed by 60 Hz, a motion vector is detected from the video of 24 Hz. In order to equalize the deviation width from the moving trajectory of an object (=the moving trajectory of sight line) estimated from the motion vector, an interpolation frame is generated using a motion vector detected in some frames exceeding the deviation width, out of the frames used in the 3:2 pulldown. Consequently, a display not loosing the movie mood can be presented while reducing unnatural movement of the 3:2 pulldown.

Description

本発明は、映像信号のフレーム間の動きベクトルを検出し、検出した動きベクトルを用いて補間フレームの生成を行う画像変換装置、特に24Hzのフレーム周波数で撮影された映画素材を60Hzで表示を行う画像変換装置に関するものである。   The present invention detects a motion vector between frames of a video signal, and generates an interpolation frame using the detected motion vector, and in particular, displays a movie material shot at a frame frequency of 24 Hz at 60 Hz. The present invention relates to an image conversion apparatus.

映像信号処理技術や半導体技術の進展に伴い、映像信号から動きベクトルを検出し、この検出した動きベクトルを用いて映像信号のフレーム周波数の変換を行うことが可能となってきている。このようなフレーム周波数の変換は、例えばPAL方式(50Hz)で撮影された映像信号をNTSC方式(60Hz)に変換する場合や、映画(24Hz)をテレビの信号(60Hzまたは50Hz)に変換する際に使用することができる。   With the progress of video signal processing technology and semiconductor technology, it has become possible to detect a motion vector from a video signal and convert the frame frequency of the video signal using the detected motion vector. Such frame frequency conversion is performed, for example, when converting a video signal shot in the PAL system (50 Hz) to the NTSC system (60 Hz) or converting a movie (24 Hz) to a television signal (60 Hz or 50 Hz). Can be used for

一般的に映画は24Hzのフレームレートで撮影されており、この映像をNTSC方式(60Hz)で表示する場合、従来、3:2プルダウン方式によるフレームレートの変換(テレシネ変換)が用いられてきた。この3:2プルダウンは、映画の1枚の画像を60Hzの3フレームと2フレームで交互に表示する(図12)。この結果60Hzで表示される映像は、同じ映像が複数回表示され、また本来のフレーム周期と異なる時間間隔での表示が行われることになるため、動きのブレ(フィルム・ジャダー)が生じるとともに、動き方に不自然さが生じてしまう。   In general, movies are shot at a frame rate of 24 Hz. When this video is displayed in the NTSC format (60 Hz), frame rate conversion (telecine conversion) by the 3: 2 pull-down method has been used. This 3: 2 pull-down displays one image of a movie alternately in 3 frames and 2 frames of 60 Hz (FIG. 12). As a result, the image displayed at 60 Hz is displayed the same image a plurality of times, and is displayed at a time interval different from the original frame period, resulting in motion blur (film judder), Unnaturalness will occur in the way of movement.

これに対して特許文献1では、24Hzの映像から動きベクトルを検出し、この動きベクトルを用いて60Hzの表示タイミングにあわせた補間フレームを生成して表示することで、不自然さの無い、滑らかな動きの表示が可能になることが開示されている。このようなフレームレート変換はフィルム・デジャダーと呼ばれている。しかし、このような動きベクトルを用いて24Hzの映像を60Hzに変換して表示する場合、動きが滑らかになる半面、24Hzで撮影された映画とは異なる印象を受けてしまうことがあり、映画らしさが失われてしまう。また、正しい動きベクトルが検出されているかによって、動きのなめらかさに大きな差があるため、動きが大きいなどの理由によって正しい動きベクトルが検出できない場合に、大きな画質劣化生じてしまう。   On the other hand, in Patent Document 1, a motion vector is detected from a 24 Hz video, and an interpolation frame is generated and displayed in accordance with a display timing of 60 Hz using the motion vector, thereby causing smoothness without unnaturalness. It is disclosed that it is possible to display various movements. Such frame rate conversion is called a film dejadder. However, when 24 Hz video is converted to 60 Hz and displayed using such a motion vector, the motion is smooth, but on the other hand, it may have a different impression from a movie shot at 24 Hz. Will be lost. In addition, since there is a large difference in the smoothness of motion depending on whether a correct motion vector is detected, when the correct motion vector cannot be detected due to a large motion, a large image quality deterioration occurs.

これに対して特許文献2では、補間フレームを生成する時間軸上の位置を、24Hzを均等に分割したタイミングより、入力である3:2プルダウンのタイミングに近付けることにより、フィルム・ジャダーの低減度合いを調整できることが開示されている。   On the other hand, in Patent Document 2, the degree of film judder reduction is achieved by bringing the position on the time axis for generating the interpolation frame closer to the input 3: 2 pull-down timing than the timing of equally dividing 24 Hz. It is disclosed that can be adjusted.

上記特許文献1や特許文献2のような補間フレームの生成に使用する動きベクトルの算出は、通常、1フレームの画像を所定の画素数(M×N画素)からなる複数のブロックに分割し、このブロック毎に連続するフレーム間で相関が最も大きくなる位置を探索するなどの方法により検出する。この時の位置の差がそのブロックに対する動きベクトルに相当する。例えば図13に示すように、フレーム(F)内の対象ブロック(1301)の動きベクトルを検出する場合、このブロックと相関が最も大きくなる位置をフレーム(F−1)内で探索し、この位置の差を動きベクトル(1302)として検出する。   The calculation of the motion vector used for generating the interpolation frame as in Patent Document 1 and Patent Document 2 described above is usually performed by dividing an image of one frame into a plurality of blocks each having a predetermined number of pixels (M × N pixels). The detection is performed by a method such as searching for a position where the correlation is greatest between consecutive frames for each block. The position difference at this time corresponds to a motion vector for the block. For example, as shown in FIG. 13, when the motion vector of the target block (1301) in the frame (F) is detected, a position having the largest correlation with this block is searched in the frame (F-1). Is detected as a motion vector (1302).

この動きベクトルを使用した補間フレームの生成は、図14に示すように、生成する補間フレームの前後のフレームの少なくとも一方の画素、もしくは画素ブロックを動きベクトルに沿って移動することによって行うことができる。このとき、補間フレームを生成する時間軸上の位置(以降、補間位相とする)は、フレーム(F−1)とフレーム(F)の間で任意に選ぶことができ、図14ではフレーム(F−1)から1/3の補間位相に生成している場合を示している。以上のように、映像信号から動きベクトルを検出し、検出した動きベクトルを使って補間フレームを生成することにより、フレーム周波数の変換が可能となる。   As shown in FIG. 14, the generation of the interpolation frame using the motion vector can be performed by moving at least one pixel or pixel block of the frame before and after the generated interpolation frame along the motion vector. . At this time, the position on the time axis for generating the interpolation frame (hereinafter referred to as the interpolation phase) can be arbitrarily selected between the frame (F-1) and the frame (F). In FIG. In this example, the interpolation phase is -1) to 1/3 of the interpolation phase. As described above, it is possible to convert the frame frequency by detecting a motion vector from the video signal and generating an interpolation frame using the detected motion vector.

フレーム周波数の変換で動きベクトルを用いる方法は、動きベクトルが連続するフレームを比較することによって検出するものであるため、物体の移動に関しては正しく検出することができるが、回転や拡大/縮小といった動きは正しく検出できない場合がある。また、動く物体の背景に隠れる領域や、背景から現れる領域、また物体の変形など、連続するフレームの一方にしか含まれない領域についても正しい動きベクトルを検出することはできない場合がある。さらに、通常動きベクトルの検出は検出を行う対象のブロックを基準として、所定の範囲を探索することで検出することが多く、この探索範囲を超える動きがある場合にも正しい動きベクトルが検出できない場合がある。   The method of using a motion vector in frame frequency conversion is to detect by comparing frames in which motion vectors are continuous. Therefore, the movement of an object can be detected correctly, but movement such as rotation and enlargement / reduction is possible. May not be detected correctly. In addition, a correct motion vector may not be detected for a region that is hidden in the background of a moving object, a region that appears from the background, or a region that is included in only one of successive frames, such as deformation of the object. In addition, normal motion vectors are often detected by searching a predetermined range based on the target block to be detected, and when a motion exceeding this search range cannot be detected There is.

動きベクトルを用いたフレーム周波数の変換を行う場合において、検出される動きベクトルが正確でない場合、補間生成されたフレーム、およびこれらが連続する映像において、動く物体等の周囲にハロ(Halo)と呼ばれるノイズが発生することが知られている。このハロは不正確な補間フレームが生成されることによるものであるため、表示されるフレームのうち補間フレームの割合が大きい場合や、補間フレームが表示される時間が長い場合、ハロが顕著に発生する場合がある。   When converting the frame frequency using a motion vector, if the detected motion vector is not accurate, it is called a halo around a moving object or the like in an interpolated frame and a video in which these are continuous. It is known that noise occurs. This halo is due to the generation of an inaccurate interpolation frame. Therefore, when the ratio of the interpolation frame is large in the displayed frame or when the interpolation frame is displayed for a long time, the halo is prominent. There is a case.

例えば60Hzの映像を120Hzに変換する場合、2フレームのうち1フレームが補間フレームであり、かつ補間フレームが表示される時間は1/120秒であるため、ハロは比較的、認識されにくい。一方、24Hzの映像を60Hzに変換しフィルム・デジャダーを実現する場合、24Hzの映像を(1)、(2)、(3)、とすると、60Hzの映像としては(1)、(1.4)、(1.8)、(2.2)、(2.6)、(3)、を出力する必要がある。ここで、(1.4)、(1.8)、(2.2)、(2.6)は生成された補間フレームであり、5フレームのうち4フレームが生成された補間フレームとなる。また一つの補間フレームは1/60秒間表示される。このためフィルム・デジャダーでは、動きベクトルが間違った場合の画質劣化への影響が大きい。   For example, when a 60 Hz video is converted to 120 Hz, one of the two frames is an interpolation frame, and the time for which the interpolation frame is displayed is 1/120 second, so halo is relatively difficult to recognize. On the other hand, when a 24 Hz video is converted to 60 Hz and a film dejudger is realized, assuming that the 24 Hz video is (1), (2), (3), the 60 Hz video is (1), (1.4 ), (1.8), (2.2), (2.6), (3) must be output. Here, (1.4), (1.8), (2.2), and (2.6) are generated interpolation frames, and four of the five frames are generated. One interpolation frame is displayed for 1/60 second. For this reason, the film dejadder has a great influence on image quality degradation when the motion vector is wrong.

特許文献2では、補間フレームを生成する時間軸上の位置を入力に近付けることにより、このハロが低減される効果についても開示されている。これは、補間フレームの生成位置が入力フレームに近づくことにより、同じベクトルを使用した場合の、入力フレームからの移動量が小さくなるため、間違った動きベクトルの影響が小さくなることによるものである。   Patent Document 2 also discloses the effect of reducing this halo by bringing the position on the time axis for generating the interpolation frame closer to the input. This is because the movement amount from the input frame is reduced when the same vector is used as the interpolation frame generation position approaches the input frame, and the influence of the wrong motion vector is reduced.

特開平9−172618号公報JP-A-9-172618 国際公開第2008/102826号International Publication No. 2008/102826

特許文献2は、24Hzの映画素材を120Hzで表示する場合、すなわちフレームレートを整数倍にする場合の補間フレームの生成位置について開示している。これに対し24Hzを60Hzに変換する場合、倍率が2.5倍となるため、この方法をそのまま適用したとしても、一定の効果は得られるが、3:2プルダウンの不均一差に起因する動きの不自然さは依然として残る。また、補間フレームの生成位置を入力フレームに近付けたとしても、表示される5フレームのうち4フレームが補間生成されたフレームであることは変わらないため、間違った動きベクトルベクトルの影響を低減させる効果は十分ではない。   Patent Document 2 discloses a generation position of an interpolation frame when a 24 Hz movie material is displayed at 120 Hz, that is, when the frame rate is an integral multiple. On the other hand, when 24 Hz is converted to 60 Hz, the magnification is 2.5 times. Therefore, even if this method is applied as it is, a certain effect can be obtained, but the movement caused by the non-uniformity of 3: 2 pull-down. The unnaturalness still remains. In addition, even if the generation position of the interpolation frame is brought close to the input frame, it remains the same that four of the five displayed frames are interpolation-generated frames, and therefore the effect of reducing the influence of the wrong motion vector vector Is not enough.

本出願の発明の目的は、映像信号の周波数変換を行う際に、動きベクトルによる画質低下を、従来と比較して抑制することである。   An object of the invention of the present application is to suppress deterioration in image quality due to a motion vector, as compared with the prior art, when performing frequency conversion of a video signal.

本出願の画像変換装置は、第1のフレームレートを有する第1の映像信号を第1のフレームレートより高レートな第2のフレームレートを有する第2映像信号へ変換する画像変換装置において、前記第1の映像信号の時間的に連続する少なくとも2つのフレームから動きベクトルを検出する動きベクトル検出部と、前記第1の映像信号と、前記動きベクトルと、補間位相と、に基づいて補間フレームを生成し、前記第1の映像信号のフレームと該補間フレームと、から第2の映像信号を生成するフレーム生成部と、前記補間フレームを生成する際に、該補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第2の映像信号に含まれる第1の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさと、略同一となるように該補間フレームの補間位相を決定する補間制御部と、を備える。   The image conversion apparatus according to the present application is an image conversion apparatus that converts a first video signal having a first frame rate into a second video signal having a second frame rate higher than the first frame rate. A motion vector detection unit that detects a motion vector from at least two temporally continuous frames of the first video signal, an interpolation frame based on the first video signal, the motion vector, and the interpolation phase. A frame generation unit that generates and generates a second video signal from the frame of the first video signal and the interpolation frame; and the interpolation frame and the motion vector are used to generate the interpolation frame. The magnitude of the phase difference from the movement trajectory is greater than a predetermined magnitude between the frame of the first video signal included in the second video signal and the movement trajectory. Comprising the magnitude of the difference, and a interpolation control unit that determines the interpolation phase of the interpolation frame so as to be substantially identical.

これにより、移動軌跡と第2の映像信号を構成するフレームとの位相差が生じる場合に、その位相差の大きさが略均一となるので、視聴される映像に含まれる対象物がブレる(複数の対象物が重複して表示されるような現象)を従来と比較して抑制することができる。   As a result, when a phase difference between the movement trajectory and the frame constituting the second video signal occurs, the magnitude of the phase difference becomes substantially uniform, so that an object included in the viewed video is blurred ( A phenomenon in which a plurality of objects are displayed in an overlapping manner can be suppressed as compared with the conventional case.

なお、上記画像変換装置において、補間制御部は、該補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第2の映像信号に含まれる第1の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさの中で最小のものと、略同一となるように該補間フレームの補間位相を決定する、ものであってもよい。   In the image conversion apparatus, the interpolation control unit may determine that the phase difference between the interpolation frame and the movement locus indicated by the motion vector is a frame of the first video signal included in the second video signal. The interpolation phase of the interpolation frame may be determined so as to be substantially the same as the smallest phase difference having a magnitude greater than or equal to a predetermined value between the movement trajectory and the movement trajectory.

これにより、移動軌跡と第2の映像信号に含まれるフレームとの位相差を全体的に小さくすることができ、よりブレの少ない映像を構成することが可能となる。   Thereby, the phase difference between the movement trajectory and the frame included in the second video signal can be reduced as a whole, and an image with less blur can be configured.

また、上記画像変換装置において、第1の映像信号を24Hzのフレームレートの映像信号とし、第2の映像信号を60Hzのフレームレートの映像信号としてもよい。   In the image conversion apparatus, the first video signal may be a video signal having a frame rate of 24 Hz, and the second video signal may be a video signal having a frame rate of 60 Hz.

これにより、映画フィルム等の映像をNTSC等のTV信号へ変換することも可能となる。   Thereby, it is also possible to convert a video image such as a movie film into a TV signal such as NTSC.

また、上記画像変換装置において、補間制御部は、前記動きベクトルにより示される移動軌跡と、生成される前記第2の映像信号のフレームと、の位相差が周期的に生じ、前記第2の映像信号のフレームのうち、所定以上の位相差の大きさを有するフレームの位相差の大きさが略一定になるように、前記補間フレームの補間位相を決定し、前記フレーム生成部は、前記第1の映像のフレームと補間フレームとの比率が3対2になるように、前記第2の映像信号を生成する、ものであってもよい。   In the image conversion apparatus, the interpolation control unit periodically generates a phase difference between the movement locus indicated by the motion vector and the frame of the generated second video signal, and the second video An interpolation phase of the interpolation frame is determined so that a phase difference of a frame having a phase difference greater than or equal to a predetermined value among the signal frames is substantially constant, and the frame generation unit is configured to The second video signal may be generated so that the ratio of the video frame to the interpolation frame is 3 to 2.

これにより、ブレを完全に抑制できない場合でも、フィルムジャダーのような特性を持った映像を生成することができる。また、生成される第2の映像信号は、第1の映像信号のフレームと補間フレームとの構成比率が3:2となり、従来の、1:4と比較してより信頼性の高い第2の映像を、画像変換装置は生成することが可能となる。   Thereby, even when blurring cannot be completely suppressed, an image having characteristics like film judder can be generated. In addition, the generated second video signal has a composition ratio of the frame of the first video signal and the interpolated frame of 3: 2, which is more reliable than the conventional 1: 4. The video conversion device can generate the video.

さらに、上記画像変換装置において、補間制御部は、補間フレームと、該補間フレームと最も近い前記第1の映像信号のフレームと、の位相差の大きさを略1/5とする、ものであってもよい。   Further, in the image conversion apparatus, the interpolation control unit sets the magnitude of the phase difference between the interpolation frame and the frame of the first video signal closest to the interpolation frame to approximately 1/5. May be.

これにより、第2の映像信号に含まれる補間フレームは、最も位相差の小さい原フレーム(第1の映像のフレーム)との位相差が0.2(1/5)となるので、フレーム生成部が補間フレームを生成する際も、より信頼性の高いフレームを生成することが可能となる。   As a result, the interpolation frame included in the second video signal has a phase difference of 0.2 (1/5) from the original frame (the frame of the first video) having the smallest phase difference. When generating an interpolation frame, it is possible to generate a more reliable frame.

以上のように本発明の画像変換装置によれば、映像信号の周波数変換を行う際に、動きベクトルによる画質低下を、従来と比較して抑制することが可能となる。特に、24Hzの映像を60Hzの映像に変換するケースでは、生成する補間フレームの割合を小さくし、かつベクトルによる移動量を小さくすることにより、間違った動きベクトルによる画質低下を小さくすることができる。また、この変換の場合には、映画らしさを残し、かつ3:2プルダウンの不自然な動きを改善することができる。   As described above, according to the image conversion apparatus of the present invention, it is possible to suppress degradation in image quality due to a motion vector when performing frequency conversion of a video signal as compared with the conventional art. In particular, in the case of converting a 24 Hz video to a 60 Hz video, it is possible to reduce image quality degradation due to an incorrect motion vector by reducing the ratio of generated interpolation frames and reducing the amount of movement by vectors. Further, in the case of this conversion, it is possible to leave a movie-like feeling and improve the unnatural movement of 3: 2 pull-down.

本発明の実施の形態における画像変換装置の構成を示す図The figure which shows the structure of the image converter in embodiment of this invention 本発明の実施の形態における、フィルム・デジャダー処理の入力映像と補間フレームの生成のタイミング関係を示す図The figure which shows the timing relationship of the production | generation of the input image and interpolation frame of film dejudder processing in embodiment of this invention 3:2プルダウンを用いて表示される映像を示す図Diagram showing video displayed using 3: 2 pull-down 3:2プルダウンされた映像の見え方を示す図Diagram showing how the 3: 2 pull-down video looks フィルム・デジャダーの処理と映像の見え方を示す図Diagram showing film dejada processing and visual appearance 2:2プルダウンされた映像の見え方を示す図Diagram showing how the 2: 2 pull-down video looks 2:2プルダウンされた映像での視線からのずれ量を示す図Diagram showing the amount of deviation from the line of sight in 2: 2 pull-down video 3:2プルダウンされた映像での視線からのずれ量を示す図The figure which shows the deviation | shift amount from the eyes | visual_axis in the image | video pulled down 3: 2 本発明の実施の形態における、入力映像と補間フレームの生成のタイミング関係を示す図The figure which shows the timing relationship of the production | generation of an input image | video and an interpolation frame in embodiment of this invention 本発明の実施の形態における、補間フレームの生成方法を示す図The figure which shows the production | generation method of the interpolation frame in embodiment of this invention 本発明の実施の形態における、フレームレート変換を行った場合の視線からのずれ量を示す図The figure which shows the deviation | shift amount from the eyes | visual_axis at the time of performing frame rate conversion in embodiment of this invention 従来技術の3:2プルダウンを示す図Diagram showing 3: 2 pull-down of the prior art 動きベクトルの仕組みを説明する図Diagram explaining the mechanism of motion vectors 動きベクトルから補間フレームの生成例を示す図The figure which shows the example of the production | generation of the interpolation frame from a motion vector

(実施の形態1)
図1は、本発明の実施の形態における画像変換装置201の主要な構成を示すブロック図である。画像変換装置201は、映像メモリ202、ベクトル検出回路203、補間制御回路204、ベクトルメモリ205、フレーム生成回路206、を備える。なお、画像変換装置201に、表示部207を追加したものを画像表示装置として、本実施の形態で説明する発明を実現することも可能である。以下の記載では、説明を簡単にするため画像変換装置として説明する。
(Embodiment 1)
FIG. 1 is a block diagram illustrating a main configuration of an image conversion apparatus 201 according to an embodiment of the present invention. The image conversion apparatus 201 includes a video memory 202, a vector detection circuit 203, an interpolation control circuit 204, a vector memory 205, and a frame generation circuit 206. Note that it is also possible to realize the invention described in this embodiment mode by using the image conversion apparatus 201 to which the display unit 207 is added as an image display apparatus. In the following description, the image conversion apparatus will be described for the sake of simplicity.

画像変換装置201は、入力映像信号208から動きベクトルを検出し、この動きベクトルを使用して補間フレームを生成し、出力映像信号215を表示する。ここで入力映像信号207は、24Hzの映像信号であり、出力映像信号215は、60Hzの映像信号とする。表示部207は、この60Hzの映像信号を表示する。すなわち、画像変換装置201は、24Hzの映像信号を入力とし、フレーム周波数の変換を行って60Hzで映像表示を行う。なお表示部207は、LCDディスプレイやPDPディスプレイなど映像信号の表示が可能なものであればよく、特に制限は無い。   The image conversion apparatus 201 detects a motion vector from the input video signal 208, generates an interpolation frame using the motion vector, and displays the output video signal 215. Here, the input video signal 207 is a video signal of 24 Hz, and the output video signal 215 is a video signal of 60 Hz. The display unit 207 displays the 60 Hz video signal. That is, the image conversion apparatus 201 receives a video signal of 24 Hz, converts the frame frequency, and displays a video at 60 Hz. The display unit 207 is not particularly limited as long as it can display a video signal such as an LCD display or a PDP display.

まず、本実施の形態により、一般的な24Hzから60Hzへのフレームレート変換(フィルム・デジャダー)を行う場合について説明する。画像変換装置201に入力される映像信号208は、映像メモリ202、およびベクトル検出回路203に入力される。   First, a case of performing a general frame rate conversion (film dejada) from 24 Hz to 60 Hz according to the present embodiment will be described. A video signal 208 input to the image conversion apparatus 201 is input to the video memory 202 and the vector detection circuit 203.

映像メモリ202は、入力された映像信号を少なくとも3フレーム分、記憶することが可能であり、また記憶された任意のフレームを読み出し可能なメモリである。映像メモリ202は入力された映像信号を記憶するとともに、入力映像信号208の1フレーム前の映像信号を読み出し、ベクトル検出回路203に出力する。   The video memory 202 is a memory that can store an input video signal for at least three frames and can read any stored frame. The video memory 202 stores the input video signal, reads out the video signal one frame before the input video signal 208, and outputs it to the vector detection circuit 203.

ベクトル検出回路203は、入力映像信号208を8画素×8画素からなるブロックに分割し、それぞれのブロックに対して、映像メモリ202から入力される前フレーム映像信号209から相関の最も大きな位置を探索することで動きベクトルを検出する。このとき探索を行う範囲は、動きベクトルを検出するブロックを基準に、例えば水平±64画素、垂直±32ラインのような範囲であり、この範囲の中で相関の最も大きな位置を求める。また相関の値としては、ブロックに含まれる各画素の値と、比較を行う位置の画素の値の差の絶対値をブロック全体で合計したもの(SAD:Sum of Absolute Difference、差分絶対値和)を用いることができる。なおブロックの大きさはこれに限りものではなく、これよりも小さくても大きくてもかまわない。また相関の値としてSAD以外の方法を使用することも可能であり、また探索方法としても処理量を削減し、効率よく動きベクトルを検出する多くの手法が知られており、これらを使用することも可能である。ベクトル検出回路203は、入力映像信号208と前フレーム映像信号209から検出した検出動きベクトル210をベクトルメモリ205に出力する。   The vector detection circuit 203 divides the input video signal 208 into blocks of 8 pixels × 8 pixels, and searches for the position with the highest correlation from the previous frame video signal 209 input from the video memory 202 for each block. To detect a motion vector. The search range at this time is a range of, for example, horizontal ± 64 pixels and vertical ± 32 lines with reference to a block for detecting a motion vector, and the position with the largest correlation is obtained in this range. Also, as the correlation value, the absolute value of the difference between the value of each pixel included in the block and the value of the pixel at the position to be compared is summed up for the entire block (SAD: Sum of Absolute Difference, sum of absolute differences) Can be used. The size of the block is not limited to this, and it may be smaller or larger than this. It is also possible to use methods other than SAD as correlation values, and as a search method, many methods for reducing the amount of processing and detecting motion vectors efficiently are known. Is also possible. The vector detection circuit 203 outputs the detected motion vector 210 detected from the input video signal 208 and the previous frame video signal 209 to the vector memory 205.

補間制御回路204は、以下の制御内容について決定する。具体的には、
(1)後述するベクトルメモリ205に記憶された2フレーム分に対応する動きベクトルのうちどちらの動きベクトルを読み出すか、
(2)映像メモリ202に記憶された複数フレームの映像信号から生成する補間フレームの前後のフレームとしてどの2つのフレームを読み出すか、
(3)映像メモリ202から読み出された2つのフレームの間のどの補間位相に補間フレームを生成するか、
等の制御内容である。補間制御回路204は、上記の決定した制御内容に基づいた制御信号をそれぞれ、映像メモリ202、ベクトルメモリ205、フレーム生成回路206、へ出力する。この補間制御回路204の詳細については後述する。
The interpolation control circuit 204 determines the following control contents. In particular,
(1) Which motion vector is read out of motion vectors corresponding to two frames stored in the vector memory 205 described later,
(2) Which two frames are read out as frames before and after an interpolation frame generated from a plurality of frames of video signals stored in the video memory 202,
(3) In which interpolation phase between two frames read out from the video memory 202, an interpolation frame is generated,
These are the control contents. The interpolation control circuit 204 outputs control signals based on the determined control contents to the video memory 202, the vector memory 205, and the frame generation circuit 206, respectively. Details of the interpolation control circuit 204 will be described later.

補間制御回路204は、補間に使用する2つのフレームを決定するフレーム選択信号213を映像メモリ202へ入力する。映像メモリ202は、このフレーム選択信号213で指定された2つのフレームを前後フレーム映像信号214として、フレーム生成回路206に出力する。   The interpolation control circuit 204 inputs a frame selection signal 213 for determining two frames used for interpolation to the video memory 202. The video memory 202 outputs the two frames designated by the frame selection signal 213 to the frame generation circuit 206 as the previous and next frame video signals 214.

ベクトルメモリ205は、ベクトル検出回路203が検出した動きベクトルを記憶するメモリであり、ベクトル検出回路203からの書き込みと、後述するフレーム生成回路206からの読み出しの時間差を吸収するためのものである。ベクトルメモリ205は、この時間差に相当する容量があればよいが、ここでは入力映像の2フレーム分に対応するベクトルを記憶できるものとする。   The vector memory 205 is a memory for storing a motion vector detected by the vector detection circuit 203, and is for absorbing a time difference between writing from the vector detection circuit 203 and reading from a frame generation circuit 206 described later. The vector memory 205 only needs to have a capacity corresponding to this time difference, but it is assumed here that a vector corresponding to two frames of the input video can be stored.

補間制御回路204から補間に使用するベクトルを選択するベクトル選択信号210が入力されると、ベクトルメモリ205はベクトル選択信号210で指定されるベクトルを補間用動きベクトル211として、フレーム生成回路206へ出力する。   When a vector selection signal 210 for selecting a vector to be used for interpolation is input from the interpolation control circuit 204, the vector memory 205 outputs the vector specified by the vector selection signal 210 to the frame generation circuit 206 as an interpolation motion vector 211. To do.

補間制御回路204の制御内容の詳細について以下に説明する。図2は、入力映像信号301(208)、前フレーム映像信号302(209)、検出動きベクトル303(210)、補間用動きベクトル304(212)、前後フレーム映像信号の前フレーム305および後フレーム306(214)、およびフィルム・デジャダーを行う場合の補間位相307(補間位相制御信号215)のタイミング関係を示す図である。   Details of the control contents of the interpolation control circuit 204 will be described below. FIG. 2 shows an input video signal 301 (208), a previous frame video signal 302 (209), a detected motion vector 303 (210), an interpolation motion vector 304 (212), a previous frame 305 and a rear frame 306 of the preceding and following frame video signals. (214) and the timing relationship of the interpolation phase 307 (interpolation phase control signal 215) when performing film dejudder.

ベクトル検出回路203は、動きベクトルの検出を入力映像の24Hzの周期で行う。ベクトル検出回路203は、入力映像信号301と、前フレーム映像信号302と、の間で検出動きベクトル303を算出する。例えば、ベクトル検出回路203は、入力映像信号301としてフレーム(1)が入力されている間、前フレーム映像信号302として入力されるフレーム(0)との間で動きベクトルを検出し、算出した動きベクトルをベクトルメモリ205に書き込む。以降同様に、ベクトル検出回路203は、入力フレームと一つ前のフレームの間で動きベクトルを検出し、結果をベクトルメモリ205に書き込む。   The vector detection circuit 203 detects a motion vector at a cycle of 24 Hz of the input video. The vector detection circuit 203 calculates a detected motion vector 303 between the input video signal 301 and the previous frame video signal 302. For example, the vector detection circuit 203 detects a motion vector from the frame (0) input as the previous frame video signal 302 while the frame (1) is input as the input video signal 301, and calculates the calculated motion. Write the vector to the vector memory 205. Similarly, the vector detection circuit 203 detects a motion vector between the input frame and the previous frame, and writes the result in the vector memory 205.

補間後の映像信号は、出力する映像の周波数である60Hzで行われるため、補間制御回路204からの各制御信号の出力も60Hzの周期で出力される。フィルム・デジャダーの場合、入力の映像信号をフレーム(0)、フレーム(1)、フレーム(2)、フレーム(3)、フレーム(4)、フレーム(5)とし、これを基準とした場合、出力する映像信号はフレーム(0)、フレーム(0.4)、フレーム(0.8)、フレーム(1.2)、フレーム(1.6)、フレーム(2)、フレーム(2.4)、フレーム(2.8)、フレーム(3.2)、フレーム(3.6)、フレーム(4)のようになる。このため補間制御回路204は、出力映像がフレーム(0.4)となるタイミングでは、補間用動きベクトル304としてフレーム(1)とフレーム(0)の間で検出した動きベクトルを選択するための信号をベクトル選択信号211として出力する。さらに補間制御回路204は、前後フレーム映像信号の前フレーム305にフレーム(0)を、前後フレーム映像信号の後フレーム306にフレーム(1)を、フレーム生成回路206へ出力するためのフレーム選択信号213を出力するとともに、補間位相307として0.4をフレーム生成回路206へ出力する。   Since the interpolated video signal is performed at 60 Hz, which is the frequency of the video to be output, the output of each control signal from the interpolation control circuit 204 is also output at a period of 60 Hz. In the case of film dejudger, the input video signal is frame (0), frame (1), frame (2), frame (3), frame (4), frame (5), and if this is the reference, output The video signal to be performed is frame (0), frame (0.4), frame (0.8), frame (1.2), frame (1.6), frame (2), frame (2.4), frame (2.8), frame (3.2), frame (3.6), and frame (4). Therefore, the interpolation control circuit 204 selects a motion vector detected between the frame (1) and the frame (0) as the interpolation motion vector 304 at the timing when the output video becomes the frame (0.4). Is output as the vector selection signal 211. Further, the interpolation control circuit 204 outputs a frame selection signal 213 for outputting the frame (0) to the previous frame 305 of the preceding and following frame video signal, the frame (1) to the subsequent frame 306 of the preceding and following frame video signal, and the frame generation circuit 206. And 0.4 is output to the frame generation circuit 206 as the interpolation phase 307.

出力映像がフレーム(0.8)となるタイミングにおいて、補間制御回路204は、補間用動きベクトル304としてフレーム(1)とフレーム(0)の間で検出した動きベクトルを選択するための信号をベクトル選択信号211として出力し、前後フレーム映像信号の前フレーム305にフレーム(0)を、前後フレーム映像信号の後フレーム306にフレーム(1)を、出力するためのフレーム選択信号213を出力し、補間位相307として0.8を出力する。   At the timing when the output video becomes the frame (0.8), the interpolation control circuit 204 uses a signal for selecting a motion vector detected between the frame (1) and the frame (0) as the motion vector 304 for interpolation. Output as a selection signal 211, and output a frame selection signal 213 for outputting frame (0) to the previous frame 305 of the preceding and following frame video signal, frame (1) to the subsequent frame 306 of the preceding and following frame video signal, and interpolation 0.8 is output as the phase 307.

出力映像がフレーム(1.2)となるタイミングにおいて、補間制御回路204は、補間用動きベクトル304としてフレーム(2)とフレーム(1)の間で検出した動きベクトルを選択するための信号をベクトル選択信号211として出力し、前後フレーム映像信号の前フレーム305にフレーム(1)を、前後フレーム映像信号の後フレーム306にフレーム(2)を、出力するためのフレーム選択信号213を出力し、補間位相307として0.2を出力する。   At the timing when the output video becomes the frame (1.2), the interpolation control circuit 204 uses a signal for selecting the motion vector detected between the frame (2) and the frame (1) as the interpolation motion vector 304. Output as a selection signal 211, and output a frame selection signal 213 for outputting frame (1) to the previous frame 305 of the preceding and following frame video signal, frame (2) to the subsequent frame 306 of the preceding and following frame video signal, and interpolation 0.2 is output as the phase 307.

出力映像がフレーム(1.6)となるタイミングにおいて、補間制御回路204は、補間用動きベクトル212としてフレーム(2)とフレーム(1)の間で検出した動きベクトルを選択するための信号をベクトル選択信号211として出力し、前後フレーム映像信号の前フレーム305にフレーム(1)を、前後フレーム映像信号の後フレーム306にフレーム(2)を出力するためのフレーム選択信号213を出力し、補間位相307として0.6を出力する。   At the timing when the output video becomes the frame (1.6), the interpolation control circuit 204 uses a signal for selecting a motion vector detected between the frames (2) and (1) as the interpolation motion vector 212. The selection signal 211 is output, and the frame selection signal 213 for outputting the frame (1) to the previous frame 305 of the preceding and following frame video signal and the frame (2) to the subsequent frame 306 of the preceding and following frame video signal is output. As 307, 0.6 is output.

出力映像がフレーム(0)となるタイミングでは補間は必要無いため、補間用動きベクトル212は不要であり、また前後フレーム映像信号の前フレーム305及び後フレーム306はフレーム(0)のみでよく、補間位相307として0を出力する。以降、このような出力映像で5フレーム周期の繰り返しとなる。   Interpolation is not necessary at the timing when the output video becomes frame (0), so the motion vector 212 for interpolation is not necessary, and the front frame 305 and the rear frame 306 of the preceding and following frame video signals need only be the frame (0). 0 is output as the phase 307. Thereafter, such an output video is repeated for a period of 5 frames.

補間制御回路204は、上記のように生成する補間フレームに必要となる入力フレームと、動きベクトルを適切に選択し、これらをフレーム生成回路206に入力するための制御信号を出力する。またこれにあわせて補間位相307をフレーム生成回路206に出力する。   The interpolation control circuit 204 appropriately selects an input frame and a motion vector necessary for the interpolation frame generated as described above, and outputs a control signal for inputting these to the frame generation circuit 206. In accordance with this, the interpolation phase 307 is output to the frame generation circuit 206.

フレーム生成回路206は、前後フレーム映像信号として入力される前フレーム305と後フレーム306と、この2フレームの間の動きに対応する補間用動きベクトル304と、を用いて補間位相307で指定される位相位置での補間フレームを生成して出力する。
補間フレームの生成は前述(図14)のように、前フレームの画素、もしくは後フレームの画素を補間用動きベクトルに沿って移動することによって行うことができる。このとき、例えば補間位相に近い側のフレームのみを用いるなど、いずれか一方から移動した画素を用いて補間フレームを生成することも可能であり、また両フレームから移動した画素を一定の割合、または補間位相に対応する割合で混合するなどによって生成することも可能である。
The frame generation circuit 206 is designated by the interpolation phase 307 using the previous frame 305 and the subsequent frame 306 input as the previous and subsequent frame video signals, and the interpolation motion vector 304 corresponding to the motion between the two frames. Generate and output an interpolated frame at the phase position.
As described above (FIG. 14), the interpolation frame can be generated by moving the pixel of the previous frame or the pixel of the subsequent frame along the interpolation motion vector. At this time, it is also possible to generate an interpolation frame using pixels moved from either one, such as using only a frame closer to the interpolation phase, and a certain percentage of pixels moved from both frames, or It is also possible to generate by mixing at a rate corresponding to the interpolation phase.

上記のようにフレーム生成回路206で生成された出力映像信号216は、表示部207で表示される。24Hzの入力映像信号301は、上記のような処理によって60Hzの映像信号に変換されて表示部207で表示されるため、フィルム・ジャダーの無い滑らかな映像として表示される。   The output video signal 216 generated by the frame generation circuit 206 as described above is displayed on the display unit 207. Since the 24 Hz input video signal 301 is converted into a 60 Hz video signal by the above processing and displayed on the display unit 207, it is displayed as a smooth video without film judder.

次に、24Hzの映像を3:2プルダウンで表示した際に、フィルム・ジャダーが生じる要因について説明する。図3は画面上をボールが横切るシーンを24Hzで撮影し、3:2プルダウンを用いて60Hzで表示する場合の例である。表示される60Hzの映像では、24Hzで撮影されたフレームが、3フレームと2フレームで交互に表示される。この60Hzの映像におけるボールの表示位置と時間との関係をグラフにすると図4に示すようになる。   Next, the cause of film judder when 24 Hz video is displayed with 3: 2 pull-down will be described. FIG. 3 shows an example in which a scene where a ball crosses the screen is photographed at 24 Hz and displayed at 60 Hz using 3: 2 pull-down. In the displayed 60 Hz video, frames taken at 24 Hz are alternately displayed in 3 frames and 2 frames. FIG. 4 is a graph showing the relationship between the ball display position and time in the 60 Hz image.

人がこの例のようにほぼ均一に動くものを見る場合、視聴者の視線は動く対象物を追いかけるように移動することが知られている。図4の例では、視聴者の視線は、表示されているボールを追いかけ、図中の視線の移動軌跡のように移動する。ここでフレーム2、およびフレーム7においては、ボールの表示位置が視線の移動軌跡と一致しているが、それ以外のフレームでは視線の移動軌跡とずれた位置にボールが表示されることとなる。フレーム1、フレーム4、フレーム6は視線が追いかけるボールの位置よりも後ろ側に、フレーム3、フレーム5、フレーム8は前側にボールがあるように見えてしまい、この結果、均一に動いているボールが前後にブレて見える。つまり、一つの対象物が複数、重複して見えるような状態となる。このような状態がフィルム・ジャダーと呼ばれている。   It is known that the viewer's line of sight moves so as to follow a moving object when a person sees something that moves almost uniformly as in this example. In the example of FIG. 4, the viewer's line of sight follows the displayed ball and moves like a movement track of the line of sight in the figure. Here, in the frames 2 and 7, the display position of the ball coincides with the movement track of the line of sight, but in other frames, the ball is displayed at a position shifted from the movement track of the line of sight. Frames 1, 4, and 6 appear to be behind the position of the ball that the line of sight is chasing, and frames 3, 5, and 8 appear to have balls on the front. As a result, the balls are moving uniformly. Appears blurry back and forth. That is, it becomes a state in which a plurality of one object appears to overlap. Such a state is called film judder.

上記のフィルム・ジャダーを抑制する、フィルム・デジャダーの効果を有する24Hzから60Hzへのフレームレート変換は、図5に示すようにボールを視線の移動軌跡に一致する位置に移動した補間フレームを生成していることに相当する。これによりフィルム・ジャダーが抑制された、滑らかな動きとして見ることができる。   The frame rate conversion from 24 Hz to 60 Hz, which has the effect of film dejudder to suppress the above-mentioned film judder, generates an interpolated frame in which the ball is moved to a position that coincides with the movement locus of the line of sight as shown in FIG. Is equivalent to As a result, it can be seen as a smooth movement in which film judder is suppressed.

一方、映画館では24Hzの映像を48Hzで表示しており、2:2プルダウンに相当する表示が行われる。この場合の見え方は図6に示すようになり、フィルム・ジャダーが生じる。映画館の表示で生じるフィルム・ジャダーは、図6に示すように視線の移動軌跡に対して均等に、また交互にずれており、この状態を映画らしさと感じる場合が多い。これに対して前述のようなフィルム・デジャダーによる24Hzから60Hzへのフレームレート変換では、このようなフィルム・ジャダーが全く無くなるため、映画らしさが失われてしまう。   On the other hand, in a movie theater, a 24 Hz video is displayed at 48 Hz, and a display corresponding to 2: 2 pull-down is performed. The appearance in this case is as shown in FIG. 6, and film judder occurs. As shown in FIG. 6, the film judder generated in the movie theater display is shifted evenly and alternately with respect to the movement locus of the line of sight, and this state often feels like a movie. On the other hand, in the frame rate conversion from 24 Hz to 60 Hz by the film dejadder as described above, since such a film judder is completely eliminated, the quality of a movie is lost.

一方3:2プルダウンで生じるフィルム・ジャダーは、5フレーム周期で視線の移動軌跡に対して不均一なずれ方をしているため、2:2プルダウンとは異なる見え方となり、動きのぎくしゃく感が感じられてしまう。図7に2:2プルダウンの場合の視線の移動軌跡からのずれ方の変化を、図8に3:2プルダウンの場合の視線の移動軌跡からのずれ方の変化を示す。このように3:2プルダウンでは視線の移動軌跡からのずれの大きさが不均一であるため、ぎくしゃくした不自然な動きに感じられてしまう。   On the other hand, the film judder generated by 3: 2 pull-down has a non-uniform displacement with respect to the movement track of the line of sight in a cycle of 5 frames, so it looks different from 2: 2 pull-down, and the movement is jerky. I feel it. FIG. 7 shows a change in how the line of sight moves from the locus of movement in the case of 2: 2 pulldown, and FIG. 8 shows a change in how the line of sight moves from the track of movement in the case of 3: 2 pulldown. As described above, in the 3: 2 pull-down, the magnitude of the deviation from the movement locus of the line of sight is not uniform, so that it feels like a jerky and unnatural movement.

これに対して本実施の形態では、60Hzの表示において映画館に近いフィルム・ジャダーを残し、かつ3:2プルダウンで生じる不均一さを低減する表示方法を開示するものである。以下に、画像変換装置201の補間制御回路204の処理内容を説明する。   On the other hand, the present embodiment discloses a display method that leaves film judder close to a movie theater in 60 Hz display and reduces nonuniformity caused by 3: 2 pull-down. Hereinafter, processing contents of the interpolation control circuit 204 of the image conversion apparatus 201 will be described.

補間制御回路204は、図9に示すように、以下のような5フレームの周期で、フレーム選択信号213、検出動きベクトル1003(210)および補間位相1007(補間位相制御信号215)を出力する。   As shown in FIG. 9, the interpolation control circuit 204 outputs a frame selection signal 213, a detected motion vector 1003 (210), and an interpolation phase 1007 (interpolation phase control signal 215) at a cycle of 5 frames as follows.

1)補間制御回路204は、前後フレーム映像信号の前フレーム1005としてフレーム(0)を出力するためのフレーム選択信号213を映像メモリ202へ出力し、補間位相1007として0をフレーム生成回路206へ出力する。このステップでは、補間フレームの生成は必要無いため補間用動きベクトル1004(212)は不要である。   1) The interpolation control circuit 204 outputs a frame selection signal 213 for outputting the frame (0) as the previous frame 1005 of the preceding and following frame video signals to the video memory 202, and outputs 0 as the interpolation phase 1007 to the frame generation circuit 206. To do. In this step, since no interpolation frame generation is required, the interpolation motion vector 1004 (212) is unnecessary.

2)補間制御回路204は、前後フレーム映像信号の前フレーム1005にフレーム(0)と、後フレーム1006にフレーム(1)と、を出力するためのフレーム選択信号213を映像メモリ202へ出力する。補間制御回路204は、フレーム(1)とフレーム(0)との間で検出した動きベクトルを選択するベクトル選択信号211をベクトルメモリ205へ出力し、補間位相1007として0.2をベクトルメモリ205からフレーム生成回路206へ出力させる。   2) The interpolation control circuit 204 outputs to the video memory 202 a frame selection signal 213 for outputting the frame (0) in the previous frame 1005 and the frame (1) in the subsequent frame 1006 of the preceding and following frame video signals. The interpolation control circuit 204 outputs a vector selection signal 211 for selecting a motion vector detected between the frame (1) and the frame (0) to the vector memory 205, and sets 0.2 as the interpolation phase 1007 from the vector memory 205. The data is output to the frame generation circuit 206.

3)補間制御回路204は、前後フレーム映像信号の前フレーム1005としてフレーム(1)を出力するためのフレーム選択信号213を映像メモリ202へ出力し、補間位相1007として0をフレーム生成回路206へ出力する。このステップでは、補間フレームの生成は必要無いため補間用動きベクトル1004は不要である。   3) The interpolation control circuit 204 outputs a frame selection signal 213 for outputting the frame (1) as the previous frame 1005 of the preceding and following frame video signals to the video memory 202, and outputs 0 as the interpolation phase 1007 to the frame generation circuit 206. To do. In this step, since no interpolation frame is required, the interpolation motion vector 1004 is unnecessary.

4)補間制御回路204は、前後フレーム映像信号の前フレーム1005としてフレーム(1)を出力するためのフレーム選択信号213を映像メモリ202へ出力し、補間位相1007として(0)をフレーム生成回路206へ出力する。この時、補間フレームの生成は必要無いため補間用動きベクトル1004は不要である。   4) The interpolation control circuit 204 outputs a frame selection signal 213 for outputting the frame (1) as the previous frame 1005 of the preceding and following frame video signals to the video memory 202, and sets (0) as the interpolation phase 1007 to the frame generation circuit 206. Output to. At this time, since no interpolation frame is required to be generated, the interpolation motion vector 1004 is unnecessary.

5)補間制御回路204は、前後フレーム映像信号の前フレーム1005にフレーム(1)を、後フレーム1006にフレーム(2)を、出力するためのフレーム選択信号213を映像メモリ202へ出力する。さらに補間制御回路204は、フレーム(2)とフレーム(1)の間で検出した動きベクトルを選択するベクトル選択信号211をベクトルメモリ205へ出力し、補間位相1007として0.8をベクトルメモリ205からフレーム生成回路206へ出力させる。   5) The interpolation control circuit 204 outputs to the video memory 202 a frame selection signal 213 for outputting the frame (1) in the previous frame 1005 and the frame (2) in the subsequent frame 1006 of the preceding and following frame video signals. Further, the interpolation control circuit 204 outputs a vector selection signal 211 for selecting a motion vector detected between the frame (2) and the frame (1) to the vector memory 205, and sets 0.8 as the interpolation phase 1007 from the vector memory 205. The data is output to the frame generation circuit 206.

この結果、入力の映像信号をフレーム(0)、フレーム(1)、フレーム(2)、フレーム(3)、フレーム(4)、フレーム(5)とし、これを基準とした場合、出力する映像信号はフレーム(0)、フレーム(0.2)、フレーム(1)、フレーム(1)、フレーム(1.8)、フレーム(2)、フレーム(2.2)、フレーム(3)、フレーム(3)、フレーム(3.8)、フレーム(4)のようになる。   As a result, the input video signal is frame (0), frame (1), frame (2), frame (3), frame (4), and frame (5). Is frame (0), frame (0.2), frame (1), frame (1), frame (1.8), frame (2), frame (2.2), frame (3), frame (3 ), Frame (3.8), and frame (4).

上記の場合の補間の様子を図4、図5と同様の図として示すと、図10のようになる。またこの場合の視線の移動軌跡と補間された映像とのずれの大きさは図11に示すようになる。図11の例では、フレーム2、及び7は移動軌跡と映像とのずれ(位相差)の大きさが0で示されている。それ以外のフレームについては、位相差の大きさが略一定となるように公正されている。このように本実施の形態で説明した構成とすると、視線の移動軌跡からのずれの大きさが5フレーム内で均一になるように補間位相を定めているため、フィルム・ジャダーは残るものの、3:2プルダウンで生じる不均一さが低減される。つまり、移動軌跡と補間された映像との位相差の大きさが所定以上のフレームでは(図11の場合では、0より大きい位相差の場合)、補間された映像に含まれる補間フレームと移動軌跡との位相差の大きさと、補間された映像に含まれる元映像と移動軌跡との位相差の大きさと、が略同一となるように、補間フレームの位相を決定している。これにより、補間された映像のずれ(位相差)の大きさが略一定となるため、不均等なプルダウン処理時に生じやすい映像の不均一さが低減される。また、図11で示すように、視線の移動軌跡と補間された映像とのずれは、図7に示す2:2プルダウンの例の場合と同様に、周期的に生じるとともに、ずれの大きさが一定しているため、映画館に近い印象の映像を表示することが可能となる。   FIG. 10 is a diagram similar to FIGS. 4 and 5 showing the state of interpolation in the above case. Also, the magnitude of the deviation between the line-of-sight movement locus and the interpolated video in this case is as shown in FIG. In the example of FIG. 11, the magnitudes of the shift (phase difference) between the movement trajectory and the video are indicated by 0 in frames 2 and 7. The other frames are fair so that the magnitude of the phase difference is substantially constant. In this way, with the configuration described in the present embodiment, since the interpolation phase is determined so that the magnitude of the deviation from the movement locus of the line of sight is uniform within 5 frames, although the film judder remains, 3 : Non-uniformity caused by 2 pull-down is reduced. That is, in a frame in which the magnitude of the phase difference between the movement trajectory and the interpolated video is greater than or equal to a predetermined value (in the case of FIG. 11, the phase difference is greater than 0), the interpolation frame and the movement trajectory included in the interpolated video are displayed. The phase of the interpolated frame is determined so that the magnitude of the phase difference between and the original video included in the interpolated video and the magnitude of the phase difference between the movement trajectories are substantially the same. As a result, the magnitude of the shift (phase difference) of the interpolated video is substantially constant, so that the video non-uniformity that is likely to occur during uneven pull-down processing is reduced. Further, as shown in FIG. 11, the deviation between the movement locus of the line of sight and the interpolated image is periodically generated and the magnitude of the deviation is similar to the case of the 2: 2 pull-down example shown in FIG. Since it is constant, it is possible to display an image with an impression close to that of a movie theater.

また、位相差の大きさが略一定というのは、必ずしもすべての位相差が完全に同一である必要はない。例えば、上記の説明では、この位相差の大きさが0.2として説明してあるが、例えば、0.15〜0.25の範囲であったりしてもよい。この場合には、位相差の大きさにたいして前後25%の許容範囲を設けたものである。つまり、目標の位相差の大きさに対して、前後所定の範囲内で位相差の大きさが収まるものであれば良い。   Also, the fact that the magnitude of the phase difference is substantially constant does not necessarily mean that all the phase differences are completely the same. For example, in the above description, the magnitude of this phase difference is described as 0.2, but it may be in the range of 0.15 to 0.25, for example. In this case, an allowable range of 25% before and after the phase difference is provided. That is, it is sufficient if the magnitude of the phase difference is within a predetermined range before and after the target magnitude of the phase difference.

また、上記のように補間位相を制御することにより、一般的な24Hzから60Hzへのフレームレート変換(フィルム・デジャダー)では出力フレームの5フレームのうち4フレームが生成された補間フレームであるのに対し、本発明が開示する補間方法では、5フレームのうち2フレームのみが生成された補間フレームとなる。前述のように出力映像に含まれる、動きベクトルを使って生成された補間フレームの割合は、間違った動きベクトルが検出された場合の画質劣化の大きさに影響を与えるものであるため、本発明の補間方法では従来よりも画質劣化の小さいフレームレート変換が可能となる。またこの際、生成する補間フレームの数は、表示するフレームの数の半分であるため、補間フレームの生成に必要な処理量は従来のフィルム・デジャダーの半分にすることができる。   In addition, by controlling the interpolation phase as described above, the frame rate conversion (film dejada) from 24 Hz to 60 Hz is an interpolation frame in which 4 out of 5 frames of the output frame are generated. On the other hand, in the interpolation method disclosed in the present invention, only 2 frames out of 5 frames are generated. As described above, the ratio of the interpolation frame generated using the motion vector included in the output video affects the magnitude of image quality degradation when an incorrect motion vector is detected. With this interpolation method, it is possible to perform frame rate conversion with less image quality degradation than in the prior art. At this time, since the number of interpolation frames to be generated is half of the number of frames to be displayed, the processing amount necessary for generating the interpolation frames can be reduced to half that of the conventional film dejudger.

さらに、本発明が開示する補間方法では、生成する補間フレームの補間位相として0.2と0.8のみを用いる。前述のようにフレームを生成する補間位相が入力フレームに近付くと、入力フレームからの移動量が小さくなるため、間違った動きベクトルの影響が小さくなる。このため本発明が開示する補間方法では、0.4、0.6の補間位相を用いる従来のフィルム・デジャダーに比べて、間違った動きベクトルが画質に与える影響が小さい。   Furthermore, in the interpolation method disclosed by the present invention, only 0.2 and 0.8 are used as the interpolation phase of the generated interpolation frame. As described above, when the interpolation phase for generating a frame approaches the input frame, the amount of movement from the input frame decreases, so that the influence of an incorrect motion vector decreases. For this reason, in the interpolation method disclosed by the present invention, the influence of the wrong motion vector on the image quality is small as compared with the conventional film dejudger using the interpolation phases of 0.4 and 0.6.

以上より、本実施の形態の構成を用いれば、従来と比較して、補間フレームの割合が小さく、かつ入力フレームに近い補間位相を用いることができるため、間違った動きベクトルが検出された場合の画質劣化が小さい。   As described above, if the configuration of the present embodiment is used, the interpolation phase is smaller and the interpolation phase close to the input frame can be used compared to the conventional case. Small image quality degradation.

以上のように、本発明の補間方法によれば、3:2プルダウンで生じる不均一さを低減し、映画館に近い印象のフィルム・ジャダーを残し、かつ動きベクトルに誤検出があった場合の画質低下が小さい24Hzから60Hzへのフレームレート変換が可能となる。   As described above, according to the interpolation method of the present invention, the non-uniformity caused by 3: 2 pull-down is reduced, the film judder that is close to a movie theater is left, and the motion vector is erroneously detected. It is possible to convert the frame rate from 24 Hz to 60 Hz with small image quality degradation.

なお、上記の実施の形態では、入力映像信号として24Hzの映像が入力される場合を前提とした説明を行っているが、入力映像信号が3:2プルダウンされた60Hzの映像信号であってもかまわない。3:2プルダウンされた60Hzの映像信号から、3:2プルダウンされる前の24Hzの映像信号を適切に選択することができれば、同様の処理を行うことが可能である。   In the above embodiment, the description is based on the assumption that 24 Hz video is input as the input video signal. However, even if the input video signal is a 60 Hz video signal that is pulled down 3: 2. It doesn't matter. If a 24 Hz video signal before being 3: 2 pulled down can be appropriately selected from a 3: 2 pulled down 60 Hz video signal, the same processing can be performed.

また、図9に示す入力映像信号1001と各ブロックの処理と信号のタイミング関係は一例であり、映像メモリ202およびベクトルメモリ205の容量次第では、これと異なるタイミングで処理を行うことも可能である。   Also, the timing relationship between the input video signal 1001 and the processing of each block and the signal shown in FIG. 9 is an example, and depending on the capacity of the video memory 202 and the vector memory 205, the processing can be performed at a different timing. .

また、本実施の形態では図1で示すようなハードウェア構成を例示として説明したが、本発明はこの態様に限定されるものではない。図1で示す構成と等価なソフトウェア等によっても、本実施の形態で説明した発明を実現することは可能である。   In the present embodiment, the hardware configuration shown in FIG. 1 has been described as an example, but the present invention is not limited to this mode. The invention described in this embodiment can also be realized by software or the like equivalent to the configuration shown in FIG.

本発明は、映像信号から動きベクトルを検出し、検出した動きベクトルを使用してフレームレートを変換して表示する装置等に用いることができる。   The present invention can be used for an apparatus that detects a motion vector from a video signal, converts the frame rate using the detected motion vector, and displays the same.

201 画像変換装置
202 映像メモリ
203 ベクトル検出回路
204 補間制御回路
205 ベクトルメモリ
206 フレーム生成回路
207 表示部
208 入力映像信号
209 前フレーム映像信号
210 検出動きベクトル
211 ベクトル選択信号
212 補間用動きベクトル
213 フレーム選択信号
214 前後フレーム映像信号
215 補間位相制御信号
216 出力映像信号
301、1001 入力映像信号
302、1002 前フレーム映像信号
303、1003 検出動きベクトル
304,1004 補間用動きベクトル
305、1005 前後フレーム映像信号の前フレーム
306、1006 前後フレーム映像信号の後フレーム
307、1007 補間位相
DESCRIPTION OF SYMBOLS 201 Image converter 202 Video memory 203 Vector detection circuit 204 Interpolation control circuit 205 Vector memory 206 Frame generation circuit 207 Display unit 208 Input video signal 209 Previous frame video signal 210 Detection motion vector 211 Vector selection signal 212 Motion vector for interpolation 213 Frame selection Signal 214 Front and rear frame video signal 215 Interpolation phase control signal 216 Output video signal 301, 1001 Input video signal 302, 1002 Previous frame video signal 303, 1003 Detected motion vector 304, 1004 Interpolation motion vector 305, 1005 Previous frame video signal Frames 306 and 1006 Frames before and after the frame image signal 307 and 1007 Interpolation phase

Claims (5)

第1のフレームレートを有する第1の映像信号を第1のフレームレートより高レートな第2のフレームレートを有する第2映像信号へ変換する画像変換装置において、
前記第1の映像信号の時間的に連続する少なくとも2つのフレームから動きベクトルを検出する動きベクトル検出部と、
前記第1の映像信号と、前記動きベクトルと、補間位相と、に基づいて補間フレームを生成し、前記第1の映像信号のフレームと該補間フレームと、から第2の映像信号を生成するフレーム生成部と、
前記補間フレームを生成する際に、該補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第2の映像信号に含まれる第1の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさと、略同一となるように該補間フレームの補間位相を決定する補間制御部と、
を備える画像変換装置。
In an image conversion device for converting a first video signal having a first frame rate into a second video signal having a second frame rate higher than the first frame rate,
A motion vector detection unit for detecting a motion vector from at least two temporally continuous frames of the first video signal;
A frame for generating an interpolation frame based on the first video signal, the motion vector, and an interpolation phase, and generating a second video signal from the frame of the first video signal and the interpolation frame A generator,
When generating the interpolation frame, the magnitude of the phase difference between the interpolation frame and the movement trajectory indicated by the motion vector is determined based on the first video signal frame and the movement trajectory included in the second video signal. An interpolation control unit for determining an interpolation phase of the interpolation frame so as to be substantially the same as the magnitude of the phase difference having a predetermined size or more, and
An image conversion apparatus comprising:
前記補間制御部は、前記補間フレームと前記動きベクトルにより示される移動軌跡との位相差の大きさが、前記第2の映像信号に含まれる第1の映像信号のフレームと前記移動軌跡との所定以上の大きさを有する位相差の大きさの中で最小のものと、略同一となるように該補間フレームの補間位相を決定する、
請求項1に記載の画像変換装置。
The interpolation control unit is configured such that the magnitude of the phase difference between the interpolation frame and the movement locus indicated by the motion vector is a predetermined value between the frame of the first video signal included in the second video signal and the movement locus. Determining the interpolation phase of the interpolation frame so as to be substantially the same as the smallest of the magnitudes of the phase differences having the above-mentioned magnitudes;
The image conversion apparatus according to claim 1.
前記第1の映像信号は、フレームレートが24Hzの映像信号であり、
前記第2の映像信号は、フレームレートが60Hzの映像信号である、
請求項1乃至2に記載の画像変換装置。
The first video signal is a video signal having a frame rate of 24 Hz,
The second video signal is a video signal having a frame rate of 60 Hz.
The image conversion apparatus according to claim 1.
前記補間制御部は、
前記動きベクトルにより示される移動軌跡と生成される前記第2の映像信号のフレームとの位相差が周期的に生じ、前記第2の映像信号のフレームのうち、所定以上の位相差の大きさを有するフレームの位相差の大きさが略一定になるように、前記補間フレームの補間位相を決定し、
前記フレーム生成部は、前記第1の映像のフレームと補間フレームとの比率が3対2になるように、前記第2の映像信号を生成する、
請求項3に記載の画像変換装置。
The interpolation control unit
A phase difference between the movement trajectory indicated by the motion vector and the generated frame of the second video signal is periodically generated, and the magnitude of the phase difference greater than or equal to a predetermined value in the frame of the second video signal is determined. Determining the interpolation phase of the interpolated frame so that the magnitude of the phase difference of the frame having is substantially constant,
The frame generation unit generates the second video signal so that a ratio of a frame of the first video and an interpolation frame is 3 to 2.
The image conversion apparatus according to claim 3.
前記補間制御部は、補間フレームと、該補間フレームと最も近い前記第1の映像信号のフレームと、の位相差の大きさを略1/5とする、
請求項4に記載の画像変換装置。
The interpolation control unit sets the magnitude of the phase difference between the interpolation frame and the frame of the first video signal closest to the interpolation frame to approximately 1/5.
The image conversion apparatus according to claim 4.
JP2011044622A 2011-03-02 2011-03-02 Image conversion device Withdrawn JP2012182691A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011044622A JP2012182691A (en) 2011-03-02 2011-03-02 Image conversion device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011044622A JP2012182691A (en) 2011-03-02 2011-03-02 Image conversion device

Publications (1)

Publication Number Publication Date
JP2012182691A true JP2012182691A (en) 2012-09-20

Family

ID=47013502

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011044622A Withdrawn JP2012182691A (en) 2011-03-02 2011-03-02 Image conversion device

Country Status (1)

Country Link
JP (1) JP2012182691A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10368031B2 (en) 2014-02-27 2019-07-30 Dolby Laboratories Licensing Corporation Systems and methods to control judder visibility

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10368031B2 (en) 2014-02-27 2019-07-30 Dolby Laboratories Licensing Corporation Systems and methods to control judder visibility

Similar Documents

Publication Publication Date Title
JP4438795B2 (en) Video conversion device, video display device, and video conversion method
CN101416523B (en) Motion compensated frame rate conversion with protection against compensation artifacts
JP4513913B2 (en) Image signal processing apparatus and method
US7499102B2 (en) Image processing apparatus using judder-map and method thereof
TWI384865B (en) Image processing method and circuit
US10230920B1 (en) Adjusting interpolation phase for MEMC using image analysis
JP5325341B2 (en) 3D image processing apparatus and method, and 3D image display apparatus
JP4119360B2 (en) Video format conversion apparatus and method
JP4565339B2 (en) Motion compensation apparatus and method
JP2012169727A (en) Image signal processor and image signal processing method
JP5241632B2 (en) Image processing circuit and image processing method
JP2009135847A (en) Video processor and frame rate conversion method
JP2012182691A (en) Image conversion device
WO2012117462A1 (en) Three-dimensional video processing device and method, and three-dimensional video display device
WO2012117464A1 (en) Three-dimensional video processing device and method, and three-dimensional video display device
JP5478728B2 (en) 3D image processing apparatus and method, and 3D image display apparatus
JP2007288483A (en) Image converting apparatus
JP2012227799A (en) Image display device
CN112544075B (en) Display device, signal processing device, and signal processing method
JP4379677B2 (en) Image processing apparatus and method, recording medium, program, and display apparatus
JP2009147767A (en) Image converting apparatus, and image display apparatus
JP5490252B2 (en) Stereoscopic image processing apparatus, stereoscopic image display apparatus, and stereoscopic image processing method
JP2010252117A (en) Apparatus and method for conversion of frame rate, moving image display device, frame rate conversion program, and recording medium
JP2008011439A (en) Apparatus for generating interpolated image
JP2012100186A (en) Interpolation image generating apparatus

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20140513